CN110431461B - 电子设备、采用光学超表面的光场成像系统及方法 - Google Patents
电子设备、采用光学超表面的光场成像系统及方法 Download PDFInfo
- Publication number
- CN110431461B CN110431461B CN201980001076.7A CN201980001076A CN110431461B CN 110431461 B CN110431461 B CN 110431461B CN 201980001076 A CN201980001076 A CN 201980001076A CN 110431461 B CN110431461 B CN 110431461B
- Authority
- CN
- China
- Prior art keywords
- optical
- light field
- lens unit
- optical signal
- aperture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B13/00—Optical objectives specially designed for the purposes specified below
- G02B13/001—Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras
- G02B13/0055—Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras employing a special optical element
- G02B13/0075—Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras employing a special optical element having an element with variable optical properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Studio Devices (AREA)
Abstract
本申请公开了一种光场成像系统、光场成像方法和电子设备。所述光场成像系统包括透镜单元(110)、光学超表面(120)以及图像传感器(130)。所述透镜单元用以收集来自场景的输入光,并输出光信号。所述光学超表面设置在所述光信号的光通路上,用以回应所述光信号来产生光学信号。所述光学超表面对所述光信号具有随空间变化的光学响应。所述图像传感器用以传感所述光学信号以产生光场图像数据。所述光场成像系统能够同时提供高空间分辨率与高角分辨率。
Description
相关专利申请
本专利申请要求2018年9月26日提出的第62/736,825号的美国临时专利申请的优先权,其全部公开内容通过引用结合到本文中。
技术领域
本申请涉及光场成像技术,尤其涉及一种采用光学超表面的光场成像系统,光场成像方法,以及设置在透明显示屏下方的光场成像系统。
背景技术
通过捕获和处理关于场景(scene)的光场信息(light field information),光场成像(light field imaging)允许用户在拍摄图像之后重构或重新对焦(refocus)所拍摄的图像。由于光场信息包括来自场景的光线各自的色彩、强度、波前(wavefront)和方向信息,某些计算技术(诸如压缩传感(compressive sensing))会用来处理这些庞大的数据量。光场成像也可采用深度学习(deep learning)(一种机器学习技术(machine learningtechnique)) 以执行光场估计(light field estimation)。
发明内容
本申请公开了一种采用光学超表面的光场成像系统、光场成像方法以及设置在便携式电子设备的显示屏下方的光场成像系统(诸如透明显示屏)。
本申请的某些实施例包括一种光场成像系统。所述光场成像系统包括透镜单元、光学超表面以及图像传感器。所述透镜单元用以收集来自场景的输入光,并输出光信号。所述光学超表面设置在所述光信号的光通路上,用以回应所述光信号来产生光学信号。所述光学超表面对所述光信号具有随空间变化的光学响应。所述图像传感器用以传感所述光学信号以产生光场图像数据。
本申请的某些实施例包括一种光场成像方法。所述光场成像方法包括以下步骤:利用透镜单元收集来自场景的输入光,并将所收集的光导向光学超表面,所述光学超表面对所收集的光具有随空间变化的光学响应;利用所述光学超表面控制所收集的光的传输,并据以产生光学信号;传感所述光学信号以产生光场图像数据;以及根据所述光场图像数据来对所述场景进行成像。
本申请的某些实施例包括一种电子设备。所述电子设备包括显示屏和光场成像系统。所述光场成像系统设置在所述显示屏的后方,并用以捕获所述显示屏前方的场景。所述光场成像系统包括透镜单元、光学超表面以及图像传感器。所述透镜单元用以通过所述显示屏,收集来自所述场景的输入光,据以输出光信号。所述光学超表面设置在所述光信号的光通路上,用以回应所述光信号来产生光学信号。所述光学超表面对所述光信号具有随空间变化的光学响应。所述图像传感器用以传感所述光学信号以产生光场图像数据。
使用光学超表面的光场成像方案可同时提供高空间分辨率与高角分辨率。此外,通过调整透镜单元与光学超表面之间的距离,光场成像方案可实现多模式的光场成像方案。再者,采用可调式的光圈,光场成像方案可进行像差校正,并减少透镜单元的厚度。
附图说明
搭配附图来阅读下文的实施方式,能够清楚地理解本申请的多种态样。应注意到,根据本领域的标准惯例,附图中的各种特征并不一定是按比例进行绘制的。事实上,为了能够清楚地描述,可任意放大或缩小某些特征的尺寸。
图1A是根据本申请某些实施例的示例性的电子设备的示意图。
图1B是根据本申请某些实施例的图1A所示的光场成像系统 106的具体实施方式的示意图。
图2示出了根据本申请某些实施例的图1B所示的光场成像系统的一操作模式的示意图。
图3 示出了根据本申请某些实施例的图1B所示的光场成像系统的另一操作模式的示意图。
图4是根据本申请某些实施例的示例性的电子设备的示意图。
图5是根据本申请某些实施例的从X轴方向看进去的图4所示的光圈单元的横截面视图。
图6是根据本申请某些实施例的示例性的电子设备的示意图。
图7是根据本申请某些实施例的示例性的光场成像方法的流程图。
具体实施方式
以下提供了用于实施本申请的不同特征的多种实施方式或示例。下文将描述组件与配置的具体例子以简化本申请。当然,这些叙述仅为示例,其本意并非用于限制本申请。此外,本申请可能会在多个实施例中重复使用组件符号和/或标号。此种重复使用是出于简洁与清楚的目的,本身不代表所讨论的不同实施例和/或配置之间的关系。再者,应可理解若文中描述一组件“连接(connected to)”或“耦接(coupled to)”到另一组件,所述组件可能是直接连接或耦接到所述另一组件,或通过其它组件间接地连接或耦接到所述另一组件。
光场相机(light field camera)可利用微透镜阵列(microlens array,MLA)来捕获来自场景的光的角分布(angular distribution) 与空间分布(spatialdistribution),从而根据所捕获的角度及空间光场信息来重构场景的图像。举例来说,当图像传感器设置在微透镜阵列的后焦平面(rear focal plane),位于各微透镜后方的图像传感器的像素可捕获从主透镜(main lens)以不同方向入射的光线的光场信息。主透镜设置在微透镜阵列的前方。光场相机的空间分辨率(spatial resolution)是根据微透镜阵列中微透镜的数量来决定。光场相机的角分辨率(angular resolution)则是根据各微透镜后方的像素的数量来决定。在另一个例子中,当像平面 (image plane)(主透镜形成的图像所聚焦的地方)位于微透镜阵列的前方时,微透镜阵列用以将图像投射到位于微透镜阵列后方的图像传感器。光场相机的空间分辨率是根据各微透镜后方的像素的数量来决定。光场相机的角分辨率则是根据微透镜阵列中微透镜的数量来决定。然而,由于单一图像传感器会用来捕获空间及角度信息,使用微透镜阵列的光场相机呈现低空间分辨率。
本申请公开了多种示例性的光场成像系统(light field imaging system),其可利用光学超表面(optical metasurface) 来捕获光场数据。光学超表面可使预定的随空间变化的光学响应 (spatially varying optical response)得以实现,从而修改入射光的光学特性,以作为具有高数值孔径(numerical aperture, NA)的透镜。在某些实施例中,光场成像系统不仅可呈现出高空间分辨率,还可呈现出高角分辨率。本申请还公开了示例性的光场成像方法,其可利用光学超表面来获得高空间及高角度分辨率的图像数据。
图1A是根据本申请某些实施例的示例性的电子设备100的示意图。在此实施例中,电子设备100可实施为便携式电子设备,诸如移动电话、平板计算机、膝上型计算机或其他类型的便携式电子设备。电子设备100包括一第一显示屏102、一第二显示屏104和一光场成像系统106。第一显示屏102和第二显示屏104用以提供电子设备100的显示区域。第一显示屏102可作为电子设备100的主显示屏。第二显示屏104可由(但不限于)透明显示屏(transparent display)或部分透明显示屏(partially transparent display) 来实施。举例来说,第二显示屏104可由透视式透明显示屏 (see-through transparent display)来实施。在另一个例子中,第二显示屏104可由透视式透明有机发光二极管(organiclight-emitting diode,OLED)显示屏来实施。在某些实施例中,第一显示屏102也可由透明显示屏或部分透明显示屏来实施。在某些实施例中,第一显示屏102和第二显示屏104可集成为单一透明显示屏或单一部分透明显示屏。
光场成像系统106可实施为多光圈(multi-aperture)/多视角 (multi-angle)相机装置。光场成像系统106设置在第二显示屏 104的下方,用以通过第二显示屏104来记录场景SCN的光场信息,从而产生/重构场景SCN的图像。举例来说,光场成像系统106可实施为移动电话的前置摄像头(front-facing camera)的至少一部分。在另一个例子中,光场成像系统106可实施为屏下摄像头 (under-display camera)。
在操作中,当第二显示屏104开启时,其可显示文字和图形,并使光场成像系统106不明显或不可见。当第二显示屏104关闭时,高透光率的第二显示屏104可利用多个透明的像素窗口(transparent pixel window)以避免光学材料(图1A未示)所造成的光吸收。因此,光场成像系统106可通过这些透明的像素窗口来看到周遭的环境。
由于透明显示屏的像素结构能够影响其透视图像质量,透明显示屏的透明像素窗口阵列可能会使来自周遭物体的光产生衍射,导致图像模糊。由于透明显示屏的稀疏结构(sparse structure)可减少衍射而提升图像品质,改善透视图像质量的一个策略是使透明显示屏采用较低的分辨率。然而,较低的分辨率会导致较差的显示质量。另一个策略是使用具有较小光圈的相机以减少衍射效应,从而产生品质较佳的图像。然而,较小的光圈会使光源的选择受限。
通过使用光学超表面以捕获光场数据,图1A所示的光场成像系统106(诸如屏下摄像头)不仅可呈现出高空间分辨率,还可呈现出高角分辨率。此外,多种光源均可应用于光场成像系统106。
图1B是根据本申请某些实施例的图1A所示的光场成像系统 106的具体实施方式的示意图。光场成像系统106设置在第二显示屏104的后方,用以捕获第二显示屏104前方的场景SCN。光场成像系统106包括(但不限于)一透镜单元110、一光学超表面120、一图像传感器130和一处理电路140。透镜单元110用以收集来自场景SCN的一输入光LI,并输出一光信号LS(诸如所收集的光)。透镜单元110可利用一个或多个透镜来实施。在此实施例中,透镜110可以是光场成像系统106的主透镜单元。
光学超表面120设置在光信号LS的光通路(optical path)上,用以回应入射至光学超表面120的光信号LS来产生一光学信号OS。光学超表面120对光信号LS可具有随空间变化的光学响应。基于此随空间变化的光学响应,光学超表面120可修改光信号LS的光学特性以产生光学信号OS。举例来说,光学超表面120可将抛物型相位分布(parabolic phaseprofile)施加于光信号LS,以使此随空间变化的光学响应得以实现。在另一个例子中,光学超表面120可将双曲面相位分布(hyperboloidal phase profile)施加于光信号 LS,使光学超表面120可作为具有高数值孔径而没有像差的透镜。
光学超表面120可由等离子体超表面(plasmonic metasurface)、介电超表面(dielectric metasurface)、几何超表面(geometric metasurface)、惠更斯超表面(Huygens’ metasurface)或其他类型的超表面来实施。在此实施例中,光学超表面120可包括以二维方式设置的多个散射单元(scattering elements)(图1B未示)。所述多个散射单元可利用金属纳米粒子、介电纳米粒子、形成于金属层之中的小孔以及多层散射单元结构来实施。每一散射单元可以是亚波长范围(subwavelength-scale)的结构以控制光的传播。所述多个散射单元可具有随空间变化的定向 (orientation)、几何和/或材料,从而对光信号LS提供不同的局部光学响应,诸如振幅响应、相位响应、极化响应或上述响应的组合。因此,光学超表面120可引进随空间变化的光学响应,以修改光信号LS的光学特性。
图像传感器130设置在光学超表面120的后方,用以传感光学信号OS以产生场景SCN的光场图像数据IMD。举例来说,图像传感器130可包括一像素阵列(图1B未示)。所述像素阵列中的每一像素用以传感光学信号OS的光束强度。
处理电路140耦接到图像传感器130,用以处理光场图像数据 IMD以获得场景SCN的图像IMG。处理电路140可实施为包括图像信号处理器(image signal processor,ISP),其可对光场图像数据IMD进行相关的操作。举例来说(但本申请不限于此),处理电路140可对光场图像数据IMD进行重新对焦的操作、三维图像渲染 (three-dimensional imagerendering)、图像重构、图像校正或其他类型的图像处理操作。
在此实施例中,第二显示屏104设置在透镜单元110的前方,并包括多个像素PT,诸如有机发光二极管像素。多个透明窗口WT位于多个像素PT之间。多个像素PT可被开启(turned on),以在面向场景SCN的一侧显示文字和图形内容。当多个像素PT可被关闭(turned off)时,来自场景SCN的输入光LI通过多个像素PT之间的多个透明窗口WT来传播及衍射。
在操作中,透镜单元110可将来自场景SCN的输入光LI导向图像传感器130。从透镜单元110输出的光信号LS会入射至位于图像传感器130与透镜单元110之间的光学超表面120。光学超表面120 能够作为高数值孔径的超薄透镜,并可修改光信号LS的光学特性以产生光学信号OS。图像传感器130可传感光学信号OS以产生光场图像数据IMD,其中光场图像数据IMD携带了关于输入光LI的空间分布和角分布信息。因此,处理电路140可根据光场图像数据IMD 产生图像IMG,诸如场景SCN的透视图像(perspective image)。
由于光学超表面可创造亚波长分辨率的空间变化,并可作为高数值孔径透镜,因此,光场成像系统106可同时提供高空间分辨率以及高角分辨率。
在此实施例中,光场成像系统106还可包括一滤波装置150,其设置在透镜单元110与光学超表面120之间。滤波装置150用以对光信号LS进行滤波处理,并且朝向光学超表面120输出光信号 LS的滤波版本(filtered version)。滤波装置150可根据不同的应用情况来对一个或多个频带进行滤波处理。
举例来说,当光场成像系统106操作为彩色相机时,滤波装置 150可实施为红外截止滤波器(infrared cut-off filter,IR-cut filter)以滤除红外光束,从而减少颜色失真(color distortion)。因此,光场成像系统106可提供真实的彩色图像并提升观看体验。在另一个例子中,当光场成像系统106操作为红外相机时,滤波装置150可实施为红外通滤波器(infrared pass filter,IR-pass filter)以允许红外光束通过,而阻挡其他波长的光束通过。因此,光场成像系统106可侦测红外能量并产生热图像(thermal image)。值得注意的是,可省略滤波装置150而不会悖离本申请的范围。
光场成像系统106还可包括一控制电路160以提供多模式的光场成像方案。控制电路160耦接到透镜单元110,用以移动透镜单元110以调整透镜单元110的像平面(imageplane)的位置。控制电路160还可用来控制处理电路140的操作。在此实施例中,控制电路160包括(但不限于)一驱动电路162和一作动器(actuator) 164。驱动电路162用以回应光场成像系统106的操作模式来产生一驱动信号DS1。作动器164耦接到所述驱动电路,用以根据驱动信号DS1将透镜单元110朝向或远离图像传感器130移动,从而调整透镜单元110的像平面的位置。值得注意的是,控制电路160的电路实施方式是出于说明的目的。本领域的技术人员可以了解控制电路160的其他电路实施方式仍属于本申请的精神与范围。
图2和图3示出了根据本申请某些实施例的图1B所示的光场成像系统106的不同操作模式的示意图。首先请参考图2,控制电路 160用以将透镜单元110移动到一预定位置,使透镜单元110的像平面IMP位于光学超表面120。在此实施例中,光场成像系统106 操作在第一成像模式。作动器164可根据驱动信号DS1移动透镜单元110,从而将透镜单元110的像平面IMP移动到光学超表面120。由于透镜单元110的像平面IMP位于光学超表面120,因此,图像传感器130可视为位于光学超表面120的焦距F上。位于光学超表面120上的一个局部区域(诸如散射单元所设置的区域)后方的图像传感器130的像素,可以捕获不同方向的光束的光场信息。因此,光学超表面120所产生的光学信号OS包括光信号LS的多个角度采样(angular sample)。由于光学超表面120可创造具有亚波长分辨率的空间变化,并作为高数值孔径透镜,因此,光场成像系统106 可具有相对较高的角分辨率。所述第一成像模式也可称作角度模式。
请参考图3,控制电路160用以将透镜单元110移动到一预定位置,使透镜单元110的像平面IMP位于光学超表面120与透镜单元110之间。在此实施例中,光场成像系统106操作在第二成像模式。作动器164可根据驱动信号DS1移动透镜单元110,从而将透镜单元110的像平面IMP移动到光学超表面120与透镜单元110之间。由于透镜单元110的像平面IMP位于光学超表面120与透镜单元110之间,因此,像平面IMP0可视为位于距离光学超表面120的物距P上,且图像传感器130可视为位于距离光学超表面120的像距Q上。像平面IMP作为聚焦在光学超表面120前方的虚拟像平面(virtual image plane)。光学超表面120可将这个虚拟像平面投影到图像传感器130。位于光学超表面120上的一个局部区域(诸如散射单元所设置的区域)可从某个视角投影这个虚拟像平面上的图像的一部分。因此,光学超表面120所产生的光学信号OS包括光信号LS的多个空间采样(spatial sample)。由于光学超表面120 可创造具有亚波长分辨率的空间变化,并作为高数值孔径透镜,因此,光场成像系统106可具有相对较高的空间分辨率。所述第二成像模式也可称作空间模式。
在某些实施例中,利用光学超表面的光场成像方案可使用可调式的光圈(adjustable aperture)来增加图像品质。参考图4,其是根据本申请某些实施例的电子设备400的光场成像系统406的示意图。电子设备400可以是图1A所示的电子设备100的一实施例。光场成像系统406可以是图1A所示的光场成像系统106的一实施例。光场成像系统406的结构与图1B所示的光场成像系统106的结构类似,两者不同之处在于光圈调整机制。除了图1B所示的透镜单元100、光学超表面120、图像传感器130、处理电路140和滤波装置150,光场成像系统406还包括了一光圈单元455和一控制电路 460。光圈单元455设置在光信号LS的光通路上,并具有可调式光圈。光信号LS在到达光学超表面120之前通过光圈单元455。控制电路460耦接到光圈单元455,用以改变光圈单元455的一光圈尺寸以调整通过光圈单元455的光量。
出于说明的目的,图4示出了光圈单元455使用两种不同尺寸 AP1与AP2作为所述光圈尺寸。本领域的技术人员可以了解使用不止一种尺寸以作为所述光圈尺寸的光圈单元均属于本申请的范围。在此实施例中,当光场成像系统406使用尺寸AP1作为所述光圈尺寸以获得图像数据时,由于尺寸AP1小于尺寸AP2,故可减少沿着透镜单元100的外缘引导的光量。因此,光场成像系统406可利用尺寸AP1来定位场景SCN。举例来说,处理电路140可根据光场图像数据IMD来定位场景SCN。当光场成像系统406使用尺寸AP2作为所述光圈尺寸以获得图像数据时,可增加到达光学超表面120或图像传感器130的光量。因此,光场成像系统406可利用尺寸AP2 来捕获场景SCN。举例来说,处理电路140可根据光场图像数据IMD 来捕获场景SCN。
在某些实施例中,由于在将尺寸AP1作为所述光圈尺寸的情形下,沿着透镜单元100的外缘引导的光量会减少,因此,利用尺寸 AP1所得到的图像可用来进行像差校正(aberration correction),诸如色差校正(chromatic aberration correction)。举例来说,当光圈单元455在图像采集中使用尺寸AP1作为所述光圈尺寸时,处理电路140用以根据光场图像数据IMD来获得场景SCN的第一图像。当光圈单元455使用大于尺寸AP1的尺寸AP2作为所述光圈尺寸时,处理电路140用以根据光场图像数据IMD来获得场景SCN的第二图像。处理电路140可根据所述第一图像对所述第二图像执行像差校正。值得注意的是,由于光场成像系统406可包括用于校正像差的小光圈,故可减少用于实施透镜单元110的层数。
出于说明的目的,下文以作动器和具有多个开口的光圈单元来说明光圈调整机制。然而,这并非用来限制本申请的范围。图5是根据本申请某些实施例的从X轴方向看进去的图4所示的光圈单元 455的横截面视图。请一并参考图4和图5。光圈单元455具有沿Y 轴方向设置的多个开口OP1与OP2。光圈单元455和透镜单元110 是沿不同于Y轴方向的另一方向来设置。在此实施例中,所述另一方向可以是X轴方向。多个开口OP1与OP2形成于板材456中,并分别具有尺寸AP1与尺寸AP2。控制电路460用以将光圈单元455 沿Y轴方向移动,以改变光圈单元455的所述光圈尺寸。
在此实施例中,控制电路460可包括图1B所示的驱动电路162 和作动器164,并可包括一作动器466。驱动电路162还用来产生一驱动信号DS2以控制作动器466。作动器466用以根据驱动信号DS2 将光圈单元455沿Y轴方向移动,从而互换多个开口OP1与OP2以调整光圈单元455的所述光圈尺寸。因此,可据以调整通过光圈单元455的光量。
以上所述是出于说明的目的,并非用来限制本申请的范围。在某些实施例中,控制电路460可使用其他电路结构来实施。举例来说,可以省略作动器164与作动器466其中的一个。可采用同一个作动器来控制透镜单元110与光圈单元455的调整。这个作动器(诸如作动器164或作动器466)可根据驱动信号DS1来调整透镜单元 110的像平面的位置,诸如图2或图3所示的向平面IMP的位置。此外,这个作动器还可根据驱动信号DS2,将光圈单元455沿Y轴方向移动。在某些实施例中,光圈单元455可由其他类型的光圈单元(具有多个光圈尺寸)来实施。在某些实施例中,光圈单元455 可设置在透镜单元110的前方,使输入光LI可在到达透镜单元110 之前通过光圈单元455。举例来说,在图6所示的实施例中,光场成像系统606的光圈单元455设置在电子设备600的透镜单元110 的前方。值得注意的是,任何可以根据利用不同光圈尺寸所得到的图像数据,来产生成像结果的光场成像系统,均属于本申请的范围。
图7示出了根据本申请某些实施例的示例性的光场成像方法的流程图。出于说明的目的,以下参照图4所示的光场成像系统406 来描述光场成像方法700。本领域的技术人员应可理解,光场成像方法700亦可用于图1B所示的光场成像系统106,而不会悖离本申请的范围。此外,在某些实施例中,光场成像方法700亦可包括其他操作。在某些实施例中,可采用不同的顺序来执行光场成像方法 700的操作,和/或光场成像方法700可采用不同的操作。
在操作702,利用一透镜单元收集来自一场景的输入光,并将所收集的光导向一光学超表面。所述光学超表面对所收集的光具有随空间变化的光学响应。举例来说,透镜单元110可收集来自场景 SCN收集来自输入光LI,并将所收集的光(即,光信号LS)导向光学超表面120。
在操作704,利用光学超表面控制所收集的光的传输,并据以产生一光学信号。举例来说,光学超表面120可控制光信号LS的传输,并据以产生光学信号OS。
在操作706,传感所述光学信号以产生光场图像数据。举例来说,图像传感器130可传感光学信号OS,以产生光场图像数据IMD。
在操作708,根据所述光场图像数据来对所述场景进行成像。举例来说,处理电路140可根据光场图像数据IMD来对场景SCN成像,从而获得图像IMG。
在某些实施例中,光场成像方法700可将所述透镜单元朝向或远离所述光学超表面移动,以调整所述透镜单元的像平面。举例来说,控制电路460可将透镜单元110朝向或远离光学超表面120移动,以调整透镜单元110的像平面。
在某些实施例中,所收集的光可在到达所述光学超表面之前通过一光圈单元。光场成像方法700可改变所述光圈单元的光圈尺寸以调整通过所述光圈单元的光量。举例来说,控制电路460可改变光圈单元455的所述光圈尺寸以调整通过光圈单元455的光量。
在某些实施例中,光场成像方法700可对所收集的光进行滤波处理,并且朝向所述光学超表面输出所收集的光的滤波后的版本。举例来说,滤波装置150可对光信号LS进行滤波处理,并且朝向光学超表面120输出光信号LS的滤波后的版本。
由于本领域的技术人员在阅读了图1A至图6的相关段落之后应可理解光场成像方法700的每一操作,为简洁起见,进一步的说明在此不再赘述。
通过使用光学超表面,光场成像系统可同时提供高空间分辨率与高角分辨率。此外,通过调整透镜单元与光学超表面之间的距离,光场成像系统可实现多模式的光场成像方案。再者,采用可调式的光圈,光场成像系统可进行像差校正,并减少透镜单元的厚度。
上文的叙述简要地提出了本申请某些实施例的特征,使本领域的技术人员可更全面地理解本申请的多个层面。本领域的技术人员应可了解,其可轻易地利用本申请作为基础,来设计或更动其他流程与结构,以实现与上文所述的实施方式相同的目的和/或达到相同的优点。本领域的技术人员应当明白,这些等效的实施方式仍属于本申请的精神与范围,且其可进行各种改变、替代与更改,而不会悖离本申请的精神与范围。
Claims (18)
1.一种光场成像系统,其特征在于,包括:
透镜单元,用以接收场景所输出的输入光,并输出光信号;
光学超表面,设置在来自所述透镜单元并通过所述透镜单元的像平面的第一光信号的光通路上,所述光学超表面用以接收所述第一光信号并修改所述第一光信号的光学特性以产生光学信号,所述光学超表面对所述光信号具有随空间变化的光学响应;
图像传感器,用以传感所述光学信号以产生光场图像数据;以及
第一控制电路,耦接到所述透镜单元,所述第一控制电路用以移动所述透镜单元,以将所述透镜单元的所述像平面在具有预定焦距的所述光学超表面面向所述透镜单元的一侧移动,其中在第一成像模式中,所述第一控制电路用以将所述透镜单元移动到第一位置,使所述像平面位于具有所述预定焦距的所述光学超表面;在第二成像模式中,所述第一控制电路用以将所述透镜单元移动到不同于所述第一位置的第二位置,使所述像平面位于具有所述预定焦距的所述光学超表面与所述透镜单元之间。
2.如权利要求1所述的光场成像系统,其特征在于,在所述第一成像模式中,所述光学超表面用以产生包括所述第一光信号的角度采样的所述光学信号。
3.如权利要求1所述的光场成像系统,其特征在于,在所述第二成像模式中,所述光学超表面用以产生包括所述第一光信号的空间采样的所述光学信号。
4.如权利要求1所述的光场成像系统,其特征在于,所述第一控制电路包括:
驱动电路,用以产生驱动信号;以及
作动器,耦接到所述驱动电路,所述作动器用以根据所述驱动信号将所述透镜单元朝向或远离所述图像传感器移动。
5.如权利要求1所述的光场成像系统,其特征在于,还包括:
光圈单元,设置在所述第一光信号的所述光通路上,其中所述第一光信号在到达所述光学超表面之前通过所述光圈单元;以及
第二控制电路,耦接到所述光圈单元,所述第二控制电路用以改变所述光圈单元的光圈尺寸以调整通过所述光圈单元的光量。
6.如权利要求5所述的光场成像系统,其特征在于,所述光圈单元和所述透镜单元沿第一方向设置;所述光圈单元具有沿第二方向设置的多个开口,所述第二方向不同于所述第一方向;所述多个开口具有不同的尺寸;所述第二控制电路用以将所述光圈单元沿所述第二方向移动,以改变所述光圈单元的所述光圈尺寸。
7.如权利要求6所述的光场成像系统,其特征在于,所述第二控制电路包括:
驱动电路,用以产生第一驱动信号和第二驱动信号;以及
作动器,耦接到所述驱动电路,所述作动器用以根据所述第一驱动信号移动所述透镜单元,以调整所述透镜单元的像平面的位置,所述作动器还根据所述第二驱动信号将所述光圈单元沿所述第二方向移动。
8.如权利要求5所述的光场成像系统,其特征在于,还包括:
处理电路,耦接到所述图像传感器,其中当所述光圈单元使用第一尺寸作为所述光圈尺寸时,所述处理电路用以根据所述光场图像数据来定位所述场景;当所述光圈单元使用大于所述第一尺寸的第二尺寸作为所述光圈尺寸时,所述处理电路用以根据所述光场图像数据来捕获所述场景。
9.如权利要求5所述的光场成像系统,其特征在于,还包括:
处理电路,耦接到所述图像传感器,其中当所述光圈单元使用第一尺寸作为所述光圈尺寸时,所述处理电路用以根据所述光场图像数据来获得第一图像;当所述光圈单元使用大于所述第一尺寸的第二尺寸作为所述光圈尺寸时,所述处理电路用以根据所述光场图像数据来获得第二图像;所述处理电路用以根据所述第一图像对所述第二图像执行像差校正。
10.如权利要求1所述的光场成像系统,其特征在于,所述透镜单元用以接收所述输入光以输出第二光信号,所述光场成像系统还包括:
滤波装置,设置在所述透镜单元与所述光学超表面之间,所述滤波装置用以对所述第二光信号进行滤波处理,并且朝向所述光学超表面输出所述第二光信号的滤波后的版本,所述第二光信号的滤波后的版本作为所述第一光信号。
11.如权利要求10所述的光场成像系统,其特征在于,所述滤波装置是红外截止滤波器。
12.一种光场成像方法,其特征在于,包括:
利用透镜单元接收场景所输出的输入光,以收集来自所述场景的光;
通过将所述透镜单元朝向或远离具有预定焦距的光学超表面移动,将所述透镜单元的像平面于具有所述预定焦距的所述光学超表面面向所述透镜单元的一侧移动,以将所收集的光导向所述光学超表面,并据以产生通过所述像平面的光信号,所述光学超表面对所收集的光具有随空间变化的光学响应,其中在第一成像模式中,所述透镜单元移动到第一位置,使所述像平面位于具有所述预定焦距的所述光学超表面;在第二成像模式中,所述透镜单元移动到不同于所述第一位置的第二位置,使所述像平面位于具有所述预定焦距的所述光学超表面与所述透镜单元之间;
利用具有所述预定焦距的所述光学超表面接收所述光信号以控制所收集的光的传输,并据以修改所述光信号的光学特性以产生光学信号;
传感所述光学信号以产生光场图像数据;以及
根据所述光场图像数据来对所述场景进行成像。
13.如权利要求12所述的光场成像方法,其特征在于,当所述透镜单元移动到所述第一位置时,所述光学超表面所产生的所述光学信号包括所收集的光的角度采样。
14.如权利要求12所述的光场成像方法,其特征在于,当所述透镜单元移动到所述第二位置时,所述光学超表面所产生的所述光学信号包括所收集的光的空间采样。
15.如权利要求12所述的光场成像方法,其特征在于,所收集的光在到达所述光学超表面之前通过光圈单元;所述光场成像方法还包括:
改变所述光圈单元的光圈尺寸以调整通过所述光圈单元的光量。
16.如权利要求15所述的光场成像方法,其特征在于,根据所述光场图像数据来对所述场景进行成像的步骤包括:
当所述光圈单元使用第一尺寸作为所述光圈尺寸时,根据所述光场图像数据来定位所述场景;以及
当所述光圈单元使用大于所述第一尺寸的第二尺寸作为所述光圈尺寸时,根据所述光场图像数据来捕获所述场景。
17.如权利要求15所述的光场成像方法,其特征在于,根据所述光场图像数据来对所述场景进行成像的步骤包括:
当所述光圈单元使用第一尺寸作为所述光圈尺寸时,根据所述光场图像数据来获得第一图像;
当所述光圈单元使用大于所述第一尺寸的第二尺寸作为所述光圈尺寸时,根据所述光场图像数据来获得第二图像;以及
根据所述第一图像对所述第二图像执行像差校正。
18.一种电子设备,其特征在于,包括:
显示屏;以及
光场成像系统,设置在所述显示屏的后方,并用以捕获所述显示屏前方的场景,所述光场成像系统包括:
透镜单元,用以接收所述场景所输出的输入光,并输出光信号;
光学超表面,设置在来自所述透镜单元并通过所述透镜单元的像平面的第一光信号的光通路上,所述光学超表面用以接收所述第一光信号并修改所述第一光信号的光学特性以产生光学信号,所述光学超表面对所述光信号具有随空间变化的光学响应;
图像传感器,用以传感所述光学信号以产生光场图像数据;以及
第一控制电路,耦接到所述透镜单元,所述第一控制电路用以移动所述透镜单元,以将所述透镜单元的所述像平面在具有预定焦距的所述光学超表面面向所述透镜单元的一侧移动,其中在第一成像模式中,所述第一控制电路用以将所述透镜单元移动到第一位置,使所述像平面位于具有所述预定焦距的所述光学超表面;在第二成像模式中,所述第一控制电路用以将所述透镜单元移动到不同于所述第一位置的第二位置,使所述像平面位于具有所述预定焦距的所述光学超表面与所述透镜单元之间。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862736825P | 2018-09-26 | 2018-09-26 | |
US62/736,825 | 2018-09-26 | ||
PCT/CN2019/088712 WO2020062903A1 (en) | 2018-09-26 | 2019-05-28 | Elecronic apparatus, and light field imaging system and method with optical metasurface |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110431461A CN110431461A (zh) | 2019-11-08 |
CN110431461B true CN110431461B (zh) | 2022-06-10 |
Family
ID=68419110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980001076.7A Active CN110431461B (zh) | 2018-09-26 | 2019-05-28 | 电子设备、采用光学超表面的光场成像系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110431461B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110993633B (zh) * | 2019-12-17 | 2023-06-20 | 武汉芯盈科技有限公司 | 一种用于屏下指纹传感器的可调整像素尺寸的成像装置 |
CN111443480A (zh) * | 2020-05-20 | 2020-07-24 | 重庆工商大学 | 钠导星上行激光光场预校正系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6430367B1 (en) * | 1999-11-26 | 2002-08-06 | Fuji Photo Film Co., Ltd. | Lens-fitted photo film unit capable of changing over aperture stop |
CN102739945B (zh) * | 2012-05-24 | 2014-09-03 | 上海理工大学 | 光场成像装置及方法 |
JP6029380B2 (ja) * | 2012-08-14 | 2016-11-24 | キヤノン株式会社 | 画像処理装置、画像処理装置を具備する撮像装置、画像処理方法、及びプログラム |
US9482796B2 (en) * | 2014-02-04 | 2016-11-01 | California Institute Of Technology | Controllable planar optical focusing system |
KR20180031285A (ko) * | 2016-09-19 | 2018-03-28 | 삼성전자주식회사 | 평면형 가변 초점 렌즈 |
CN108419070B (zh) * | 2018-04-04 | 2020-06-09 | 东南大学 | 一种基于pb相位调制的光场成像方法 |
-
2019
- 2019-05-28 CN CN201980001076.7A patent/CN110431461B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN110431461A (zh) | 2019-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10855892B2 (en) | Electronic apparatus, and light field imaging system and method with optical metasurface | |
Liang et al. | Programmable aperture photography: multiplexed light field acquisition | |
US7949252B1 (en) | Plenoptic camera with large depth of field | |
EP2008445B1 (en) | Improved plenoptic camera | |
JP6409006B2 (ja) | プレノプティックイメージング装置 | |
US8400555B1 (en) | Focused plenoptic camera employing microlenses with different focal lengths | |
Kuthirummal et al. | Flexible depth of field photography | |
KR102303389B1 (ko) | 3-d 라이트 필드 카메라 및 사진술 방법 | |
EP3395059B1 (en) | Method and apparatus for computational scheimpflug camera | |
CN110431461B (zh) | 电子设备、采用光学超表面的光场成像系统及方法 | |
JP2018529256A (ja) | 低fナンバープレノプティックカメラのための2表面マイクロレンズアレイを有する方法および装置 | |
US10623697B2 (en) | Display panel, display device and image pickup method therefor | |
KR20120116003A (ko) | 광 확산기를 이용하여 이미지를 레코딩하는 시스템, 방법 및 매체 | |
CN102369722A (zh) | 摄像装置以及摄像方法、和用于所述摄像装置的图像处理方法 | |
Feng et al. | Compact light field photography towards versatile three-dimensional vision | |
JP6068351B2 (ja) | 画像処理装置、集積回路、プログラム、撮像装置、表示装置 | |
CN105450943B (zh) | 产生图像散景效果的方法及图像获取装置 | |
KR20200117507A (ko) | 카메라 장치 및 이의 동작 방법 | |
TWI761128B (zh) | 雙鏡頭成像模組及其擷取方法 | |
Lam | Computational photography: Advances and challenges | |
Li et al. | High dynamic range and all-focus image from light field | |
Schwiegerling et al. | Relating transverse ray error and light fields in plenoptic camera images | |
Nagahara et al. | Programmable aperture camera using LCoS | |
Shroff et al. | Wave analysis of a plenoptic system and its applications | |
TWI747038B (zh) | 雙鏡頭成像模組及其擷取方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |