CN103019021B - 一种3d光场相机及其拍摄图像的处理方法 - Google Patents
一种3d光场相机及其拍摄图像的处理方法 Download PDFInfo
- Publication number
- CN103019021B CN103019021B CN201210579508.2A CN201210579508A CN103019021B CN 103019021 B CN103019021 B CN 103019021B CN 201210579508 A CN201210579508 A CN 201210579508A CN 103019021 B CN103019021 B CN 103019021B
- Authority
- CN
- China
- Prior art keywords
- lens array
- disparity map
- image sensor
- light field
- disparity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Abstract
本发明属于显示技术领域,涉及3D光场相机以及其拍摄图像的处理方法。本发明提供的一种3D光场相机,包括用于记录图像信息的CCD图像传感器,用于将外部射进的光线分离并聚焦于所述CCD图像传感器上,所述CCD图像传感器和所述柱状透镜阵列相互平行设置,所述柱状透镜阵列由若干并排设置的柱状透镜构成,所述CCD图像传感器与所述柱状透镜阵列之间的间距等于所述柱状透镜阵列的焦距。本发明的光场相机通过在CCD图像传感器前放置一柱状透镜阵列,使相机能够提取到多幅视差图,通过对视差图的分辨率提高,再经将视差图逆序排列和移动视差图的方法,以获取三维场景的出屏和入屏的效果,具有设备结构简单,所获取的图像分辨率高,同时具备出屏和入屏的技术效果。
Description
技术领域
本发明属于摄像技术领域,尤其涉及3D光场相机以及其拍摄图像的处理方法。
背景技术
光场相机源于集成成像技术,集成成像技术最早由Lippmann提出,是一种利用透镜阵列来记录和再现3D场景的显示技术。光场相机一般是在CCD图像传感器前放置一透镜阵列,通过透镜阵列将三维场景不同方向的信息在焦平面上进行记录。光场相机的用途有两个:一、能满足先拍摄后调焦,即拍摄时不需要对焦;二、能记录三维场景的信息。
基于透镜阵列的光场相机用于拍摄三维场景时,图像分辨率被大大地降低,因为它通过损失分辨率来记录物体光线的方向信息,同时,这种方法获取的图像和再现的图像存在深度反转的问题。虽然采用两步记录法可以解决深度反转问题,但是整个处理系统相对庞大,成本提高,图像分辨率和质量也被大幅度地降低。另外,采用旋转处理图像的方法也可解决深度反转问题,但是重现的图像只能处于显示面的后方,无法产生出屏的三维效果。
发明内容
本发明的目的在于提供一种3D光场相机以及其拍摄图像的处理方法,旨在解决现有光场相机在记录三维场景时存在的深度反转问题,以及重现时无法正确出屏的不足。
一种3D光场相机,包括用于记录图像信息的CCD图像传感器,用于将外部射进的光线分离并聚焦于所述CCD图像传感器上的柱状透镜阵列,所述CCD图像传感器和所述柱状透镜阵列相互平行设置,所述柱状透镜阵列由若干并排设置的柱状透镜构成,所述CCD图像传感器与所述柱状透镜阵列之间的间距等于所述柱状透镜的焦距。
优选的所述柱状透镜阵列由竖直设置的柱状透镜组成。
优选的所述CCD图像传感器与所述柱状透镜阵列之间夹设有垫片,所述垫片的厚度等于所述柱状透镜的焦距。
优选的所述CCD图像传感器与所述柱状透镜阵列之间夹设有透光基板,所述透光基板的厚度等于所述柱状透镜的焦距。
优选的所述柱状透镜阵列的柱状透镜的个数等于CCD图像传感器横向像素总数除以所需视差图数目。
一种3D光场相机拍摄图像的处理方法,包括以下步骤:
A1分别依次提取每个单元相同位置CCD像素列的图像信息组合成多幅视差图,并按照提取顺序将多幅视差图编号;
A2将所述的多幅视差图根据所述的视差图的编号逆序拼接为多路视差显示的图像;
优选的步骤A2后还包括步骤:
A3根据所需调节的景深分别计算各幅视差图的移动方向和移动的像素。
A4根据所述A3计算得到的各幅视差图的移动方向和移动的像素移动各幅视差图。
优选的步骤A1与步骤A2之间还包括步骤:提高各幅视差图的分辨率。
优选的所述提高各幅视差图的分辨率的步骤为采用插值方法提高所述视差图的分辨率。
相较于现有技术,本发明的光场相机通过在CCD图像传感器前放置一柱状透镜阵列,使相机能够提取到多幅视差图,进一步通过对视差图的分辨率提高,后再经将视差图逆序排列和移动视差图的方法,以获取三维场景的出屏和入屏的效果。其具有设备结构简单,所获取的图像分辨率高,同时具备出屏和入屏的技术效果。
附图说明
图1是本发明提供的一种3D光场相机第一实施例的结构示意图;
图2是本发明提供的一种3D光场相机第二实施例的结构示意图;
图3是本发明提供的一种3D光场相机拍摄图像的处理方法提供的流程图;
图4是本发明提供的一种3D光场相机拍摄图像的处理方法中视差图提取的示意原理图;
图5是深度反转原理在拍摄时的示意图;
图6是深度反转原理在调整前的示意图;
图7是深度反转原理在调整后的示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
第一实施例
下面以一种3D光场相机为例对本发明的实现进行详细描述。
请参照附图1,一种3D光场相机,包括相互平行设置的CCD图像传感器1和柱状透镜阵列2,所述柱状透镜阵列2由若干并排设置的柱状透镜21构成,所述CCD图像传感器1与所述柱状透镜阵列2之间的间距等于所述柱状透镜21的焦距。其中,所述CCD图像传感器1用于记录图像信息,其上布满CCD像素点;所述柱状透镜阵列2用于将外部射进的光线分离并聚焦于所述CCD图像传感器上并形成互相穿插排列的多幅视差图,由于所述CCD图像传感器1与所述柱状透镜阵列2之间的间距等于所述柱状透镜的焦距,因此所述柱状透镜阵列2可使多幅视差图相互穿插成像于CCD图像传感器1上的CCD像素点上。应当说明的是所述柱状透镜阵列2的柱状透镜21的个数依据CCD图像传感器1横向像素总数除以所需视差图数目而定。一般来说,采用8幅视差图。因此,为获取8幅视差图,所述柱状透镜阵列2需要包括的柱状透镜21的个数为:CCD图像传感器1横向像素总数除以8;每个柱状透镜21所对应的CCD像素点为一个单元。若考虑到对准或者边缘误差的问题,可选用9幅视差图,或者更多。相较于现有技术,本发明的光场相机具备结构简单,成本可控的特点。按照常规的设计习惯,本发明的光场相机的柱状透镜阵列2呈竖直设置,当然所述柱状透镜阵列2亦可以呈横向设置。
请参照附图1,在实施例中,所述CCD图像传感器1与所述柱状透镜阵列2之间夹设有垫片3,所述垫片3的厚度等于所述柱状透镜21的焦距。如此,可保证CCD图像传感器1与所述柱状透镜阵列2之间的间距等于所述柱状透镜21的焦距,如此可使外部的光线通过所述柱状透镜阵列后在所述CCD图像传感器上成像以形成相互穿插排列的多幅视差图。
第二实施例
如图2所示,本实施例与第一实施例的区别在于,所述CCD图像传感器1与所述柱状透镜阵列2之间使用透光基板4替换实施例1中的垫片3。所述透光基板4的厚度等于所述柱状透镜21的焦距。如此可使外部的光线通过所述柱状透镜阵列后在所述CCD图像传感器上成像以形成相互穿插排列的多幅视差图。
本发明还提供一种如实施例1或实施例2的3D光场相机拍摄图像的处理方法,包括以下步骤:
S1分别依次提取每个单元相同位置CCD像素列的图像信息组合成多幅视差图,并按照提取顺序将多幅视差图编号;
请参照附图4,以所述柱状透镜阵列2上每一柱状透镜21所对应的CCD像素点为一个单元,在拍摄过程中,每一单元中相同位置的CCD像素列捕获的图像信息来自于外部空间的同一组平行光,所以提取各个单元相同位置CCD像素列的图像信息组合可形成一幅视差图。
S1分别依次提取每个单元相同位置CCD像素列的图像信息组合成多幅视差图,具体为:提取所有单元的第一列像素点,根据所提取单元的顺序并排排列组合为第一视差图。按照相同的方法,提取所有单元的第二列像素点,根据所提取单元的顺序并排排列组合为第二视差图。然后依次提取其余的像数列,组成视差图。直至,提取所有单元的最后一列像素点,根据所提取单元的顺序并排排列组合为最后一副视差图。
这里本实施例中还公开一个像素提取的对应公式:记CCD图像传感器1所获取的图像矩阵为I,则第i幅视差图的第(m,n)个像素为:I_i(m,n)=I((m-1)·p+i,n),其中p为每一透镜单体所覆盖的CCD图像传感器像素点的个数,即每一单元像素点的个数,i为视差图的序号、m为视差矩阵图中每幅视差图中每一列中的序号、n为视差矩阵图中每幅视差图所在列中列序号。
S2提高各幅视差图的分辨率;由步骤S1所得到的多幅视差图在竖直方向上分辨率等于CCD图像传感器原来的分辨率,但是在水平方向上,分辨率变为原来的1/p,为了弥补这一损失,在本实施例中采用插值方法以提高其分辨率得到插值后的视差图。由于插值方法是一种常见的数据处理方式,photoshop等多款图像处理软件均可实现,在此不作详细叙述。
需要说明的是步骤S2为一可选步骤,步骤S1后也可直接执行步骤S3。
S3将插值后的多幅视差图根据视差图的编号逆序拼接为多路视差显示的图像。
步骤S3将插值后的多幅视差图根据视差图的编号逆序拼接为多路视差显示的图像。具体为:将最后一幅插值后的视差图的第一列作为多路视差显示图像的第一列,将倒数第二幅插值后的视差图的第一列作为多路视差显示图像的第二列,直至将第一幅插值后的视差图的第一列排入多路视差显示图像中;再将最后一幅插值后的视差图的第二列作为多路视差显示图像的下一列排入多路视差显示图像中,将倒数第二幅插值后的视差图的第二列排入再下一列多路视差显示图像中,按照相同的方法,直至将第一幅插值后的视差图的最后一列排入多路视差显示图像中。
S3将插值后的多幅视差图根据视差图的编号逆序拼接为多路视差显示的图像。解决了多路视差显示的图像产生深度反转的问题。
具体原理请参照附图5、图6和图7,图5为实施例1的3D光场相机拍摄时的状态,黑球与白球位于3D光场相机前方,且黑球相较于白球离3D光场相机更近。若将插值后的多幅视差图根据视差图的编号顺序拼接为多路视差显示的图像。根据光路可逆的原理在多路视差显示时会出现图6中的情况,黑球与白球成像于显示器前方,且黑球相较于白球离人眼更远。与人在拍摄时直接在3D光场相机处观察到的相对位置关系不符。若将插值后的多幅视差图根据视差图的编号逆序拼接为多路视差显示的图像。根据光路可逆的原理在多路视差显示时会出现图7中的情况,黑球与白球成像于显示器的后方,且黑球相较于白球离人眼更近。与人在拍摄时直接在3D光场相机处观察到的相对位置关系相同。解决了多路视差显示的图像产生深度反转的问题。
S4根据所需调节的景深分别计算各幅视差图的移动方向和移动的像素。
S4根据所需调节的景深分别计算各幅视差图的移动方向和移动的像素的具体方法为:
将欲使3D物体景深的调整距离Δz,显示端透镜与屏幕之间的距离P0,每一透镜单体所覆盖的CCD图像传感器像素点的个数,即每一单元像素点的个数p代入下式:
即得到第i幅视差图水平移动的像素数目N_i。
若N_i为负,则表示在同一单元中,该视差图位于左侧,该视差图为右眼所见的视差图,应进行左移动处理;反之,若计算结果为正则应进行向右移动处理。
S5根据S4计算得到的各幅视差图的移动方向和移动的像素移动各幅视差图。
步骤S3虽然解决了多路视差显示的图像产生深度反转的问题。但会带来加深景深的问题。即若将插值后的多幅视差图根据视差图的编号逆序拼接为多路视差显示时,其中的物体看上去会比拍摄时的实际距离更远。通过步骤S4、S5调整景深,以修正加深景深的问题。当然也可利用步骤S4、S5自由的调节景深以达到某些特殊效果,如实现显示物体的出屏和入屏。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (3)
1.一种3D光场相机拍摄图像的处理方法,所述3D光场相机包括用于记录图像信息的CCD图像传感器,用于将外部射进的光线分离并聚焦于所述CCD图像传感器上的柱状透镜阵列,所述CCD图像传感器和所述柱状透镜阵列相互平行设置,所述柱状透镜阵列由若干并排设置的柱状透镜构成,所述CCD图像传感器与所述柱状透镜阵列之间的间距等于所述柱状透镜的焦距;所述处理方法包括以下步骤:
A1分别依次提取每个单元相同位置CCD像素列的图像信息组合成多幅视差图,并按照提取顺序将多幅视差图编号;
A2将所述的多幅视差图根据所述的视差图的编号逆序拼接为多路视差显示的图像;
所述步骤A2后还包括步骤:
A3根据所需调节的景深分别计算各幅视差图的移动方向和移动的像素;
A4根据所述A3计算得到的各幅视差图的移动方向和移动的像素移动各幅视差图。
2.根据权利要求1所述的处理方法,其特征在于:步骤A1与步骤A2之间还包括步骤:提高各幅视差图的分辨率。
3.根据权利要求2所述的处理方法,其特征在于:所述提高各幅视差图的分辨率的步骤为采用插值方法提高所述视差图的分辨率。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210579508.2A CN103019021B (zh) | 2012-12-27 | 2012-12-27 | 一种3d光场相机及其拍摄图像的处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210579508.2A CN103019021B (zh) | 2012-12-27 | 2012-12-27 | 一种3d光场相机及其拍摄图像的处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103019021A CN103019021A (zh) | 2013-04-03 |
CN103019021B true CN103019021B (zh) | 2016-05-11 |
Family
ID=47967782
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210579508.2A Active CN103019021B (zh) | 2012-12-27 | 2012-12-27 | 一种3d光场相机及其拍摄图像的处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103019021B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150006755A (ko) * | 2013-07-09 | 2015-01-19 | 삼성전자주식회사 | 이미지 생성 장치, 이미지 생성 방법 및 비일시적 기록 매체 |
JP2017510831A (ja) | 2013-12-23 | 2017-04-13 | ユニバーシティー オブ デラウェア | 3dライトフィールドカメラ及び撮影方法 |
CN105472233B (zh) | 2014-09-09 | 2019-01-18 | 北京智谷技术服务有限公司 | 光场采集控制方法和装置、光场采集设备 |
CN104410784B (zh) * | 2014-11-06 | 2019-08-06 | 北京智谷技术服务有限公司 | 光场采集控制方法和装置 |
CN104539832B (zh) * | 2014-12-31 | 2017-06-23 | 上海理工大学 | 混合式光场成像系统 |
CN106154567B (zh) * | 2016-07-18 | 2018-12-04 | 北京邮电大学 | 一种三维光场显示系统的成像方法及装置 |
CN106878698B (zh) * | 2016-12-23 | 2019-05-24 | 中国科学院自动化研究所 | 基于光路采集的移动裸眼三维虚拟现实的方法和系统 |
CN107580207A (zh) * | 2017-10-31 | 2018-01-12 | 武汉华星光电技术有限公司 | 光场3d显示单元图像的生成方法及生成装置 |
CN109494244B (zh) * | 2018-12-13 | 2020-10-13 | 武汉华星光电半导体显示技术有限公司 | 带有光场相机的有机发光二极管显示面板 |
CN114567767A (zh) * | 2022-02-23 | 2022-05-31 | 京东方科技集团股份有限公司 | 显示装置、光场采集方法、图像数据传输方法及相关设备 |
CN117706858A (zh) * | 2022-09-09 | 2024-03-15 | 华为技术有限公司 | 一种三维图像采集装置、相关设备以及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN2240156Y (zh) * | 1995-01-16 | 1996-11-13 | 宛晓 | 立体照像机 |
CN1219246A (zh) * | 1996-05-09 | 1999-06-09 | 皮埃尔·埃里奥 | 自动立体成象装置及包括该装置的系统 |
CN1726430A (zh) * | 2002-12-13 | 2006-01-25 | 翰兹-利索兹切科专利管理有限公司及两合公司 | 用于采集物体三维图像信息的装置及用于再现此信息的装置 |
CN101656835A (zh) * | 2008-08-21 | 2010-02-24 | 索尼株式会社 | 图像拾取设备、显示器和图像处理设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5040493B2 (ja) * | 2006-12-04 | 2012-10-03 | ソニー株式会社 | 撮像装置及び撮像方法 |
-
2012
- 2012-12-27 CN CN201210579508.2A patent/CN103019021B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN2240156Y (zh) * | 1995-01-16 | 1996-11-13 | 宛晓 | 立体照像机 |
CN1219246A (zh) * | 1996-05-09 | 1999-06-09 | 皮埃尔·埃里奥 | 自动立体成象装置及包括该装置的系统 |
CN1726430A (zh) * | 2002-12-13 | 2006-01-25 | 翰兹-利索兹切科专利管理有限公司及两合公司 | 用于采集物体三维图像信息的装置及用于再现此信息的装置 |
CN101656835A (zh) * | 2008-08-21 | 2010-02-24 | 索尼株式会社 | 图像拾取设备、显示器和图像处理设备 |
Also Published As
Publication number | Publication date |
---|---|
CN103019021A (zh) | 2013-04-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103019021B (zh) | 一种3d光场相机及其拍摄图像的处理方法 | |
CN102164298B (zh) | 全景成像系统中基于立体匹配的元素图像获取方法 | |
CN103974055B (zh) | 3d照片生成系统及方法 | |
CN101888481B (zh) | 成像设备 | |
CN102209254B (zh) | 一种一维集成成像方法和装置 | |
CN104885440B (zh) | 图像处理装置、摄像装置及图像处理方法 | |
CN104755981B (zh) | 图像处理装置、摄像装置及图像处理方法 | |
TW201229563A (en) | Mounting accuracy inspection method and inspection apparatus using the inspection method | |
CN105051600B (zh) | 图像处理装置、摄像装置以及图像处理方法 | |
CN103733133B (zh) | 摄像装置及其控制方法 | |
CN101911671A (zh) | 摄像装置和光轴控制方法 | |
CN104104939B (zh) | 一种宽视角的集成成像三维显示系统 | |
CN104205825B (zh) | 图像处理装置及方法以及摄像装置 | |
CN104871058A (zh) | 图像处理装置、摄像装置、图像处理方法及图像处理程序 | |
CN104007556A (zh) | 基于微透镜阵列组的低串扰集成成像三维显示方法 | |
CN104641624A (zh) | 图像处理装置、摄像装置、图像处理方法及图像处理程序 | |
CN104635337B (zh) | 可提高立体图像显示分辨率的蜂窝式透镜阵列设计方法 | |
CN105075235A (zh) | 图像处理装置、摄像装置、图像处理方法以及图像处理程序 | |
Xing et al. | Optical arbitrary-depth refocusing for large-depth scene in integral imaging display based on reprojected parallax image | |
JP2013153408A (ja) | 画像処理装置、撮像装置、画像生成方法、及びプログラム | |
CN104903769A (zh) | 图像处理装置、摄像装置、程序及图像处理方法 | |
Shin et al. | Computational implementation of asymmetric integral imaging by use of two crossed lenticular sheets | |
CN103220544B (zh) | 一种主动离轴平行式立体成像方法 | |
JP4272464B2 (ja) | 立体映像補正装置およびその方法 | |
CN103621078A (zh) | 图像处理装置和图像处理程序 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |