CN115190257A - 用于元成像的cis系统 - Google Patents

用于元成像的cis系统 Download PDF

Info

Publication number
CN115190257A
CN115190257A CN202210602153.8A CN202210602153A CN115190257A CN 115190257 A CN115190257 A CN 115190257A CN 202210602153 A CN202210602153 A CN 202210602153A CN 115190257 A CN115190257 A CN 115190257A
Authority
CN
China
Prior art keywords
image
mask
light field
imaging
target object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210602153.8A
Other languages
English (en)
Inventor
蔡娅雯
郭泽群
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yuantong Beijing Technology Co ltd
Original Assignee
Yuantong Beijing Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yuantong Beijing Technology Co ltd filed Critical Yuantong Beijing Technology Co ltd
Priority to CN202210602153.8A priority Critical patent/CN115190257A/zh
Priority to PCT/CN2022/103915 priority patent/WO2023231140A1/zh
Publication of CN115190257A publication Critical patent/CN115190257A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)

Abstract

本申请涉及计算成像技术领域,特别涉及一种用于元成像的CIS系统,其中,包括:主成像系统、微透镜阵列、图像采集单元、设置于微透镜阵列前后包括微透镜阵列上的第一掩膜和设置于主成像系统附近包括主成像透镜上、所述微透镜阵列之前的第二掩膜,其中,主成像系统用于得到目标物体的第一图像;第一掩膜用于对第一图像进行幅度调制,微透镜阵列用于利用预设的相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像;第一掩膜用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,引入更均一的频谱混叠,得到目标物体的光场信息,使得图像采集单元根据光场信息生成最终图像。由此,基于两种微透镜阵列增加掩膜的光场采集方式,提升了采样效率和光场成像与重建质量,同时也解决了相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题。

Description

用于元成像的CIS系统
技术领域
本申请涉及计算成像技术领域,特别涉及一种用于元成像的CIS(CMOS ImageSensor,图像传感器)系统。
背景技术
近几年来,随着计算机计算能力的提高,计算光场成像技术得到了快速地发展。相关技术中,光场主要关注于光线作为位置和角度的分布函数,受益于空间-视角维度假设以及软硬件技术的进步,如今光场成像可由便携化的商用设备实现,甚至可以集成到手机中。
光场相机的广泛使用可以使一些新的应用成为可能,包括最初的基于真实感图像的光场渲染以及现在利用光场编码信息的计算机视觉应用,例如3D重建、分割、显著性检测、物体检测与识别、跟踪和视频增稳等。鉴于光场巨大的使用潜力以及待攻克的技术难题,光场技术受到了国内外研究团队的广泛关注。
4D光场信息的采集主要是通过角域复用到空间(或频率)域的方式,将4D光场编码到2D传感器平面,其光场采集设备称为“光场芯片”,主要是使用安装在图像传感器上的微透镜阵列或小透镜阵列来实现。光场相机能够通过单次曝光获得空间和角度的4D光场信息,但光场芯片面临空间分辨率与角度分辨率的固有矛盾。一方面,采用微透镜阵列原理的光场采集设备(如Lytro Illume与Raytrix)通过将各个角度的光线直接分散到成像单元上,来获取高角度分辨率的光场图像,但受到成像单元分辨率的限制,其空间分辨率往往远小于如今比较通用的成像设备(单反相机、手机等);另一方面,如图1所示,相机阵列系统虽能够通过改变每个相机的分辨率来控制光场空间分辨率的大小,但受到相机物理空间以及系统复杂度、整体成本等因素的限制,其角度分辨率远远无法满足实时光场渲染的要求。
相关技术中的信号采样遵循奈奎斯特采样定理,这种采样方式下的采集数据量较大,需要占用较多的传输带宽和存储空间。扫描光场成像方式通过牺牲时间分辨率的扫描方式,在保证角度分辨率的同时提高光场成像的空间分辨率。然而现有扫描成像方式扫描次数多,成像效率低,在采集过程中存在频谱混叠导致信息缺失,成像质量下降的问题。在传感器分辨率不变的前提下,压缩感知技术能够很大程度地改善非压缩光场拍摄的光场空间分辨率低的不足。基于压缩光场的拍摄技术,通过在相机镜头与传感器之间增加一层随机掩膜实现对目标光场的压缩采集,结合压缩感知理论与过完备光场字典对压缩编码图像进行非线性优化,可离线地恢复出稠密光场。压缩编码实现的一种方式即为在成像过程中增加掩膜调制以获得更优采样。
发明内容
本申请提供一种用于元成像的CIS系统,通过掩膜调制引入更均一的频谱混叠,以解决现有微透镜阵列光场采集系统中信息混叠导致的光场重建质量下降的问题。
本申请第一方面实施例提供一种用于元成像的CIS系统,包括:主成像系统、微透镜阵列、图像采集单元和设置于所述微透镜阵列前后包括微透镜阵列上的第一掩膜,其中,
所述主成像系统用于得到目标物体的第一图像;
所述微透镜阵列用于利用预设的相位调制函数对所述第一图像的光路进行相位调制,得到所述目标物体的第二图像;
所述第一掩膜用于通过预设的第一掩膜调制函数对所述第二图像进行掩膜调制,引入预设的频谱混叠,得到所述目标物体的光场信息,使得所述图像采集单元根据所述光场信息生成最终图像。
可选地,上述的用于元成像的CIS系统,还包括:
设置于所述主成像系统中主成像透镜上、所述微透镜阵列之前的第二掩膜,所述第二掩膜用于利用预设的第二掩膜调制函数对所述第一图像进行掩膜调制,得到用于相位调制的第一图像。
可选地,所述第一图像的波函数为:
Figure BDA0003669744970000021
其中,x,y,z为物点的三维空间距离坐标,z含义为深度,λ为波长,r为孔径平面径向距离,J0(·)为第一类零阶贝塞尔函数,s为主成像系统与微透镜阵列之间距离,d为物体与主成像系统距离,D(r,λ,z)为建模了距离主成像系统距离z处的成像响应变化情况,表达式如下式:
Figure BDA0003669744970000022
可选地,所述预设的相位调制函数为:
Figure BDA0003669744970000023
其中,x0,y0为微透镜阵列的中心坐标,f为焦距,n为折射率,rect(.)为矩形窗函数,i为虚部,exp(.)为指数函数。
可选地,所述预设的第一掩膜调制函数为:
Figure BDA0003669744970000031
其中,m2(x,y)为设置于微透镜阵列前后包括微透镜阵列上、图像采集单元之前的掩膜调制函数。
可选地,所述光场信息为:
U′(ωxy)=Fω(U0(x,y,z,λ)m1(r)·t(x,y,x0,y0));
其中,ωxy为对空间(x,y)的频域采样,Fω(.)为傅里叶变换操作,m1(r)为设置于主成像系统附近包括主成像透镜上、所述微透镜阵列之前的第二掩膜调制函数。
可选地,所述将所述光场信息在所述图像采集单元上生成一个最终图像,包括:
基于成像响应,将所述光场信息在所述图像采集单元上生成一个最终图像,其中,所述成像响应为:
Figure BDA0003669744970000032
其中,ωu为角度u对应的空间频率位置,ωv为角度v对应的空间频率位置,s(ωuv)为相机像素对特定频率分量的采集过程。
可选地,所述图像采集单元为CMOS图像传感器(CMOS Image Sensor,CIS)。
根据本申请实施例的用于元成像的CIS系统,通过主成像系统用于得到目标物体的第一图像,微透镜阵列用于利用预设的相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像,第一掩膜用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,引入预设的频谱混叠,得到目标物体的光场信息,使得图像采集单元根据光场信息生成最终图像。由此,基于两种微透镜阵列增加掩膜的光场采集方式,提升了采样效率和光场成像与重建质量,同时也解决了相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题。
本申请第二方面实施例提供一种用于元成像的CIS系统的成像方法,采用如第一方面实施例所述的用于元成像的CIS系统,所述方法包括以下步骤:
通过所述主成像系统得到所述目标物体的第一图像;
利用所述微透镜阵列,通过所述相位调制函数对所述第一图像的光路进行相位调制,得到所述目标物体的第二图像;
通过所述第一掩膜调制函数对所述第二图像进行所述第一掩膜调制,引入预设的频谱混叠,得到所述目标物体的光场信息,并将所述光场信息在所述图像采集单元上成一个最终图像。
可选地,上述的用于元成像的CIS系统的成像方法,还包括:
通过所述第二掩膜利用预设的第二掩膜调制函数对所述第一图像进行掩膜调制,得到用于相位调制的第一图像。
根据本申请实施例的用于元成像的CIS系统的成像方法,通过主成像系统用于得到目标物体的第一图像,微透镜阵列用于利用预设的相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像,第一掩膜用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,得到目标物体的光场信息,使得图像采集单元根据光场信息生成最终图像。由此,基于两种微透镜阵列增加掩膜的光场采集方式,提升了采样效率和光场成像与重建质量,同时也解决了相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题。
本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为相关技术中的传统相机阵列光场掩膜系列设计示意图;
图2为根据本申请实施例提供的一种用于元成像的CIS系统的成像系统的方框示意图;
图3为根据本申请一个实施例提供的微透镜阵列掩膜CMOS图像传感器系统设计示意图;
图4为根据本申请一个实施例提供的微透镜阵列-光学透镜组合掩膜CMOS图像传感器系统设计示意图;
图5为根据本申请实施例的用于元成像的CIS系统的成像方法的流程图。
具体实施方式
下面详细描述本申请的实施例,实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本申请,而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的用于元成像的CIS系统。针对上述背景技术中提到的相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题,本申请提供了一种用于元成像的CIS系统,通过主成像系统用于得到目标物体的第一图像,微透镜阵列用于利用预设的相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像,第一掩膜用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,引入预设的频谱混叠,得到目标物体的光场信息,使得图像采集单元根据光场信息生成最终图像。由此,基于两种微透镜阵列增加掩膜的光场采集方式,提升了采样效率和光场成像与重建质量,同时也解决了相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题。
具体而言,图2为本申请实施例所提供的一种用于元成像的CIS系统的方框示意图。
如图2所示,该用于元成像的CIS系统10,包括:主成像系统100、微透镜阵列200、图像采集单元400和设置于微透镜阵列200前后包括微透镜阵列200上的的第一掩膜300。
其中,主成像系统100用于得到目标物体的第一图像;微透镜阵列200用于利用预设的相位调制函数对第一图像的光路进行相位调制,引入预设的频谱混叠,得到目标物体的第二图像;第一掩膜300用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,引入预设的频谱混叠,得到目标物体的光场信息,使得图像采集单元400根据光场信息生成最终图像。优选地,为了提高图像质量以及可靠性,本申请实施例的图像采集单元400可以选用CMOS图像传感器,为满足更多图像的实际采集需求也可以采用其他具有图像采集功能的图像采集设备,在此不做具体限定。
进一步地,在一些实施例中,第一图像的波函数为:
Figure BDA0003669744970000051
其中,x,y,z为物点的三维空间距离坐标,z含义为深度,λ为波长,r为孔径平面径向距离,J0(·)为第一类零阶贝塞尔函数,s为主成像系统与微透镜阵列之间距离,d为物体与主成像系统距离,D(r,λ,z)为建模了距离主成像系统距离z处的成像响应变化情况,表达式如下式:
Figure BDA0003669744970000052
进一步地,在一些实施例中,预设的相位调制函数为:
Figure BDA0003669744970000053
其中,x0,y0为微透镜阵列的中心坐标,f为焦距,n为折射率,rect(.)为矩形窗函数,i为虚部,exp(.)为指数函数。
进一步地,在一些实施例中,预设的第一掩膜调制函数为:
Figure BDA0003669744970000054
其中,m2(x,y)为设置于微透镜阵列200前后包括微透镜阵列200上、图像采集单元400之前的掩膜调制函数。
具体地,相对于相关技术中通过采用相机阵列光场掩膜来改变每个相机的分辨率以控制光场空间分辨率的大小,但是存在相机物理空间以及系统复杂度、整体成本等因素的限制问题,本申请实施例采用通过基于微透镜阵列200增加掩膜的两种光场采集方式来提升采样效率和光场成像质量。
作为一种可实现的方式,如图3所示,通过在微透镜阵列200前后包括微透镜阵列200上和图像采集单元400之前增加掩膜即第一掩膜300,以实现频谱信息搬移,减少频域响应零点,提高光场成像质量与成像分辨率。
作为另一种可实现的方式,如图4所示,通过在微透镜阵列200前后包括微透镜阵列200上和图像采集单元400之前增加掩膜即第一掩膜300,以及在主成像系统100附近包括主成像透镜上、微透镜阵列200之前增加掩膜即第二掩膜,从而得到综合光源调制信息与角度域调制信息,优化了成像系统响应,提高了光场成像质量与成像分辨率。
具体而言,在本申请实施例中,首先,通过主成像系统得到目标物体的第一图像;其次,微透镜阵列200利用预设的相位调制函数对第一图像的光路进行相位调制,从而得到目标物体的第二图像。
其中,第一图像经过主成像系统的波函数可以表示为:
Figure BDA0003669744970000061
其中,x,y,z为物点的三维空间距离坐标,z含义为深度,λ为波长,r为孔径平面径向距离,J0(·)为第一类零阶贝塞尔函数。
在上式中,D(r,λ,z)可以表示为:
Figure BDA0003669744970000062
其中,s为主成像系统与微透镜阵列之间距离,d为物体与主成像系统距离。
预设的相位调制函数可以表示为:
Figure BDA0003669744970000063
其中,x0,y0为微透镜阵列的中心坐标,f为焦距,n为折射率,rect(.)为矩形窗函数,i为虚部,exp(.)为指数函数。
预设的第一掩膜调制函数为:
Figure BDA0003669744970000064
其中,m2(x,y)为设置于微透镜阵列前后包括微透镜阵列上、图像采集单元400之前的掩膜调制函数。
进一步地,在一些实施例中,上述的用于元成像的CIS系统10,还包括:设置于主成像系统100附近包括主成像透镜上、微透镜阵列200之前的第二掩膜,第二掩膜用于利用预设的第二掩膜调制函数对第一图像进行掩膜调制,得到用于相位调制的第一图像。
进一步地,在一些实施例中,光场信息为:
U′(ωxy)=Fω(U0(x,y,z,λ)m1(r)·t(x,y,x0,y0));
其中,ωxy为对空间(x,y)的频域采样,Fω(.)为傅里叶变换操作,m1(r)为设置于主成像系统100附近包括主成像透镜上、微透镜阵列200之前的第二掩膜调制函数。
进一步地,在一些实施例中,将光场信息在图像采集单元400上生成一个最终图像,包括:基于成像响应,将光场信息在图像采集单元400上生成一个最终图像,其中,成像响应为:
Figure BDA0003669744970000071
其中,ωu为角度u对应的空间频率位置,ωv为角度v对应的空间频率位置,s(ωuv)为相机像素对特定频率分量的采集过程。
具体地,本申请实施例首先利用设置于微透镜阵列200前后包括微透镜阵列200上的第一掩膜300,将其通过预设的第一掩膜调制函数经相关计算对上述得到的目标物体的第二图像进行掩膜调制,并引入更均一的频谱混叠,以避免微透镜阵列200光场采集系统中信息混叠时,导致的光场重建质量下降的情况,进而得到目标物体的光场信息,该光场信息包含了光辐射在传播过程中的四维位置和方向信息,通过数字重聚焦技术解决了特殊场合图像的失焦等问题;其次,基于成像响应,通过获得的光场信息在图像采集单元400上生成一个最终的图像。
光场信息可以表示为:
U′(ωxy)=Fω(U0(x,y,z,λ)m1(r)·t(x,y,x0,y0)); (5)
其中,ωxy为对空间(x,y)的频域采样,Fω(.)为傅里叶变换操作,m1(r)为设置于主成像系统100附近包括主成像透镜上、微透镜阵列200之前的第二掩膜调制函数。
成像响应可以表示为:
Figure BDA0003669744970000072
其中,ωu为角度u对应的空间频率位置,ωv为角度v对应的空间频率位置,s(ωuv)为相机像素对特定频率分量的采集过程。
综上,通过上述的基于微透镜阵列增加掩膜的两种光场采集方式,不仅减少了频域零点,同时获得了最优成像系统,最终得以提升成像系统的灵活性和分辨率。需要说明的是,上述掩膜的设置位置仅是示例性的,本领域技术人员可以根据实际情况对掩膜位置进行设定,例如,第二掩膜设置在主成像系统的左侧,且紧贴主成像系统,再如第一掩膜设置在主成像系统和微透镜阵列之间,且紧靠微透镜阵列。
根据本申请实施例的用于元成像的CIS系统,通过主成像系统用于得到目标物体的第一图像,微透镜阵列用于利用预设的相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像,第一掩膜用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,引入预设的频谱混叠,得到目标物体的光场信息,使得图像采集单元根据光场信息生成最终图像。由此,基于两种微透镜阵列增加掩膜的光场采集方式,提升了采样效率和光场成像与重建质量,同时也解决了相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题。
其次参照附图描述根据本申请实施例提出的微透镜阵列成像方法。
图5是本申请实施例的用于元成像的CIS系统的成像方法的流程图。
如图5所示,该用于元成像的CIS系统的成像方法采用如上述的用于元成像的CIS系统,方法包括以下步骤:
在步骤S501中,通过主成像系统得到目标物体的第一图像;
在步骤S502中,利用微透镜阵列,通过相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像;
在步骤S503中,通过第一掩膜调制函数对第二图像进行第一掩膜调制,引入预设的频谱混叠,得到目标物体的光场信息,并将光场信息在图像采集单元上成一个最终图像。
进一步地,在一些实施例中,上述的用于元成像的CIS系统的成像方法,还包括:
通过第二掩膜利用预设的第二掩膜调制函数对第一图像进行掩膜调制,得到用于相位调制的第一图像。
根据本申请实施例的用于元成像的CIS系统的成像方法,通过主成像系统用于得到目标物体的第一图像,微透镜阵列用于利用预设的相位调制函数对第一图像的光路进行相位调制,得到目标物体的第二图像,第一掩膜用于通过预设的第一掩膜调制函数对第二图像进行掩膜调制,引入预设的频谱混叠,得到目标物体的光场信息,使得图像采集单元根据光场信息生成最终图像。由此,基于两种微透镜阵列增加掩膜的光场采集方式,提升了采样效率和光场成像与重建质量,同时也解决了相机阵列在相机镜头和传感器之间增加掩膜实现光场采集时成本高、体积大等问题。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“N个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或N个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种用于元成像的CIS系统,其特征在于,包括:主成像系统、微透镜阵列、图像采集单元、设置于所述微透镜阵列前后包括微透镜阵列上的第一掩膜,其中,
所述主成像系统用于得到目标物体的第一图像;
所述微透镜阵列用于利用预设的相位调制函数对所述第一图像的光路进行相位调制,得到所述目标物体的第二图像;
所述第一掩膜用于通过预设的第一掩膜调制函数对所述第二图像进行掩膜调制,引入预设的频谱混叠,得到所述目标物体的光场信息,使得所述图像采集单元根据所述光场信息生成最终图像。
2.根据权利要求1所述的系统,其特征在于,还包括:
设置于所述主成像系统中主成像透镜上、所述微透镜阵列之前的第二掩膜,所述第二掩膜用于利用预设的第二掩膜调制函数对所述第一图像进行掩膜调制,得到用于相位调制的第一图像。
3.根据权利要求1所述的系统,其特征在于,所述第一图像的波函数为:
Figure FDA0003669744960000011
其中,x,y,z为物点的三维空间距离坐标,z含义为深度,λ为波长,r为孔径平面径向距离,J0(·)为第一类零阶贝塞尔函数,s为所述主成像系统与所述微透镜阵列之间距离,d为所述目标物体与所述主成像系统距离,D(r,λ,z)为建模了距离主成像系统距离z处的成像响应变化情况,表达式如下式:
Figure 2
4.根据权利要求3所述的系统,其特征在于,所述预设的相位调制函数为:
Figure FDA0003669744960000013
其中,x0,y0为微透镜阵列的中心坐标,f为焦距,n为折射率,rect(.)为矩形窗函数,i为虚部,exp(.)为指数函数。
5.根据权利要求4所述的系统,其特征在于,所述预设的第一掩膜调制函数为:
Figure FDA0003669744960000014
其中,m2(x,y)为设置于微透镜阵列前后包括微透镜阵列上、图像采集单元之前的掩膜调制函数。
6.根据权利要求5所述的系统,其特征在于,所述光场信息为:
U′(ωx,ωy)=Fω(U0(x,y,z,λ)m1(r)·t(x,y,x0,y0));
其中,ωx,ωy为对空间(x,y)的频域采样,Fω(.)为傅里叶变换操作,m1(r)为设置于主成像系统附近包括主成像透镜上、所述微透镜阵列之前的第二掩膜调制函数。
7.根据权利要求6所述的系统,其特征在于,所述将所述光场信息在所述图像采集单元上生成一个最终图像,包括:
基于成像响应,将所述光场信息在所述图像采集单元上生成一个最终图像,其中,所述成像响应为:
Figure FDA0003669744960000021
其中,ωu为角度u对应的空间频率位置,ωv为角度v对应的空间频率位置,s(ωu,ωv)为相机像素对特定频率分量的采集过程。
8.根据权利要求1-7任一项所述的系统,其特征在于,所述图像采集单元为CMOS图像传感器。
9.一种用于元成像的CIS系统的成像方法,其特征在于,采用如权利要求1-8任一项所述的用于元成像的CIS系统,所述方法包括以下步骤:
通过所述主成像系统得到所述目标物体的第一图像;
利用所述微透镜阵列,通过所述相位调制函数对所述第一图像的光路进行相位调制,得到所述目标物体的第二图像;
通过所述第一掩膜调制函数对所述第二图像进行所述第一掩膜调制,引入预设的频谱混叠,得到所述目标物体的光场信息,并将所述光场信息在所述图像采集单元上成一个最终图像。
10.根据权利要求9所述的方法,其特征在于,还包括:
通过所述第二掩膜利用预设的第二掩膜调制函数对所述第一图像进行掩膜调制,得到用于相位调制的第一图像。
CN202210602153.8A 2022-05-30 2022-05-30 用于元成像的cis系统 Pending CN115190257A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202210602153.8A CN115190257A (zh) 2022-05-30 2022-05-30 用于元成像的cis系统
PCT/CN2022/103915 WO2023231140A1 (zh) 2022-05-30 2022-07-05 用于元成像的cis系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210602153.8A CN115190257A (zh) 2022-05-30 2022-05-30 用于元成像的cis系统

Publications (1)

Publication Number Publication Date
CN115190257A true CN115190257A (zh) 2022-10-14

Family

ID=83514311

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210602153.8A Pending CN115190257A (zh) 2022-05-30 2022-05-30 用于元成像的cis系统

Country Status (2)

Country Link
CN (1) CN115190257A (zh)
WO (1) WO2023231140A1 (zh)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101483714B1 (ko) * 2008-06-18 2015-01-16 삼성전자 주식회사 디지털 촬상 장치 및 방법
CN103237161B (zh) * 2013-04-10 2016-03-23 中国科学院自动化研究所 基于数字编码控制的光场成像装置及方法
KR101683634B1 (ko) * 2015-04-29 2016-12-29 주식회사 큐티아이 플레놉틱 카메라 원리를 이용한 디지털 촬상 장치
CN106067162B (zh) * 2016-06-03 2019-03-01 西安电子科技大学 集成成像超分辨率微单元图像阵列采集与重构方法
CN105931190B (zh) * 2016-06-14 2019-09-24 西北工业大学 高角度分辨率光场获取装置与图像生成方法
CN112945141B (zh) * 2021-01-29 2023-03-14 中北大学 基于微透镜阵列的结构光快速成像方法及系统
CN113504547A (zh) * 2021-09-07 2021-10-15 清华大学 基于扫描光场的视觉雷达成像系统和方法
CN114511605B (zh) * 2022-04-18 2022-09-02 清华大学 光场深度估计方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
WO2023231140A1 (zh) 2023-12-07

Similar Documents

Publication Publication Date Title
CN108074218B (zh) 基于光场采集装置的图像超分辨率方法及装置
Pozo et al. An integrated 6DoF video camera and system design
Wang et al. The light field attachment: Turning a DSLR into a light field camera using a low budget camera ring
US9066034B2 (en) Image processing apparatus, method and program with different pixel aperture characteristics
US8223194B2 (en) Image processing method and apparatus
JP5919563B2 (ja) 動き推定装置、奥行き推定装置、及び動き推定方法
Greisen et al. An FPGA-based processing pipeline for high-definition stereo video
Zhang Iterative closest point (ICP)
Vollmer Infrared thermal imaging
KR20110078175A (ko) 영상 데이터 생성 방법 및 장치
JP6544978B2 (ja) 画像出力装置およびその制御方法、撮像装置、プログラム
Popovic et al. Design and implementation of real-time multi-sensor vision systems
CN115190257A (zh) 用于元成像的cis系统
US20230247292A1 (en) Methods and apparatus for electronic image stabilization based on a lens polynomial
CN114494258A (zh) 镜头的像差预测和图像重建方法及装置
JP4091455B2 (ja) 3次元形状計測方法及び3次元形状計測装置並びにその処理プログラムと記録媒体
Jayasuriya Image sensors
CN113971629A (zh) 图像恢复方法和装置
Chan Image-based rendering
KR20210133472A (ko) 이미지 병합 방법 및 이를 수행하는 데이터 처리 장치
JP6579934B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体
Zhao et al. 3dfill: Reference-guided image inpainting by self-supervised 3d image alignment
US9924157B2 (en) Image processing device, image pickup apparatus, image processing method, and storage medium
Chen et al. S-omnimvs: Incorporating sphere geometry into omnidirectional stereo matching
Hu et al. A multi-user oriented live free-viewpoint video streaming system based on view interpolation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination