CN104363369A - 一种光场相机的图像恢复方法及装置 - Google Patents

一种光场相机的图像恢复方法及装置 Download PDF

Info

Publication number
CN104363369A
CN104363369A CN201410654936.6A CN201410654936A CN104363369A CN 104363369 A CN104363369 A CN 104363369A CN 201410654936 A CN201410654936 A CN 201410654936A CN 104363369 A CN104363369 A CN 104363369A
Authority
CN
China
Prior art keywords
point spread
spread function
system point
image
field camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410654936.6A
Other languages
English (en)
Other versions
CN104363369B (zh
Inventor
王好谦
杜远超
王兴政
戴琼海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen International Graduate School of Tsinghua University
Original Assignee
Shenzhen Graduate School Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Graduate School Tsinghua University filed Critical Shenzhen Graduate School Tsinghua University
Priority to CN201410654936.6A priority Critical patent/CN104363369B/zh
Publication of CN104363369A publication Critical patent/CN104363369A/zh
Application granted granted Critical
Publication of CN104363369B publication Critical patent/CN104363369B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Devices (AREA)

Abstract

本发明公开了一种光场相机的图像恢复方法及装置,该方法包括如下步骤:获取系统点扩散函数步骤,获取所述光场相机的包括主透镜和微透镜阵列形成的系统点扩散函数,其中,物体在所述系统点扩散函数的卷积作用下,在成像传感器上形成图像;图像恢复步骤,将所述图像根据所述系统点扩散函数进行反卷积运算,获取物体的原始数据。本发明在现有的基于微透镜阵列的广场相机的基础上,能够获得更高的图像分辨率。

Description

一种光场相机的图像恢复方法及装置
【技术领域】
本发明涉及计算摄像学领域,尤其涉及一种光场相机的图像恢复方法及装置。
【背景技术】
点扩散函数是描述光学系统对点光源解析能力的函数。因为点光源在经过任何光学系统后都会由于衍射而形成一个扩大的像点。通过测量系统的点扩散函数,能够更准确地提取图像信息。点扩散函数可以看作是一个聚焦的光学系统的冲击响应,或是未解析物体的一个扩散斑。从泛函数角度来分析,点扩散函数是图像系统的空间域的传递函数。点扩散函数应用在傅里叶光学、天文成像、电子显微以及3D显微镜和荧光显微镜等领域。
相比于传统相机,光场相机能够存储丰富的光场信息。光场相机的实现方式可分为两种思路。一种主流的实现光场相机的方式是在传统相机的主透镜与传感器所在平面加入微透镜阵列。每个微透镜对应的宏像素对应若干传感器像素单元。对二位光场图像中像素进行重新排列,得到四维光场矩阵,将四维光场重新投影到新的像平面进行积分叠加,就可以获得不同平面上的对角图像。此种设备记录的数据中包含角度信息与空间信息的内在联系,例如可从中提取出不同观察视角的图片。但同时传感器上记录空间信息的像素比例大幅下降,空间分辨率与角度分辨率形成一对矛盾。
【发明内容】
为了解决现有的光场相机的空间分辨率与角度分辨率之间的矛盾,本发明提供了一种光场相机的图像恢复方法及装置,可以在现有的光场相机的成像传感器上恢复出质量更好的物体图像。
一种光场相机的图像恢复方法,包括如下步骤:
获取系统点扩散函数步骤,获取所述光场相机的包括主透镜和微透镜阵列形成的系统点扩散函数,其中,物体在所述系统点扩散函数的卷积作用下,在成像传感器上形成图像;
图像恢复步骤,将所述图像根据所述系统点扩散函数进行反卷积运算,获取物体的原始数据。
优选地,所述获取系统点扩散函数步骤还包括以下步骤:
获取物体通过所述主透镜在所述微透镜阵列上成像的第一点扩散函数;
获取物体通过所述微透镜阵列在所述微透镜阵列的焦平面上成像的第二点扩散函数;
将所述第一点扩散函数和第二点扩散函数进行卷积的结果与二维冲击函数相乘获得所述系统点扩散函数,其中所述二维冲击函数的每个冲击的二维坐标与所述微透镜阵列中对应的微透镜的位置相对应。
优选地,所述系统点扩散函数采用如下算法获得:
I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) ;
或者 I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) + N ;
或者 I ( x , y ) = N [ H ( x , y ) ⊗ O ( x , y ) ] ;
其中,I(x,y)代表所述成像传感器记录的图像,H(x,y)代表所述系统点扩散函数,O(x,y)代表物体空间中的物体,N代表噪声。
本发明还提供了一种光场相机的图像恢复装置,包括:
获取系统点扩散函数单元,用于获取所述光场相机的包括主透镜和微透镜阵列形成的系统点扩散函数,其中,物体在所述系统点扩散函数的卷积作用下,在成像传感器上形成图像;
图像恢复单元,用于将所述图像根据所述系统点扩散函数进行反卷积运算,获取物体的原始数据。
优选地,所述获取系统点扩散函数单元还用于:
获取物体通过所述主透镜在所述微透镜阵列上成像的第一点扩散函数;
获取物体通过所述微透镜阵列在所述微透镜阵列的焦平面上成像的第二点扩散函数;
将所述第一点扩散函数和第二点扩散函数进行卷积的结果与二维冲击函数相乘获得所述系统点扩散函数,其中所述二维冲击函数的每个冲击的二维坐标与所述微透镜阵列中对应的微透镜的位置相对应。
优选地,所述系统点扩散函数采用如下算法获得:
I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) ;
或者 I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) + N ;
或者 I ( x , y ) = N [ H ( x , y ) ⊗ O ( x , y ) ] ;
其中,I(x,y)代表所述成像传感器记录的图像,H(x,y)代表所述系统点扩散函数,O(x,y)代表物体空间中的物体,N代表噪声。
本发明的有益效果是:本光场相机的图像恢复方法可以将现有基于微透镜阵列的的光场相机成像传感器获得的图片中,获得分辨率更高的图片。
【附图说明】
图1是现有技术的基于微透镜阵列光场相机结构示意图;
图2是本发明一种实施例的光场相机的图像恢复方法的流程示意图。
【具体实施方式】
以下对发明的较佳实施例作进一步详细说明。
如图2所示,一种实施例的光场相机的图像恢复方法,包括如下步骤:
一、构建物体通过光学系统成像模型。
点扩散函数指的是理想点光源通过光学元件时,由于衍射而形成一个扩大的像点。以信号处理的理论可以将光学元件看作一个系统,点扩散函数则是此系统的冲击响应。成像过程可以理解为物体空间中的目标物体与光学系统的点扩散函数进行卷积得到结果则为成像传感器所接收到的二维图像。
可以将模型设计为无噪声模型(公式1)和有噪声模型,根据噪声的特性还可以分为加性噪声(公式2)和乘性噪声(公式3),此三个公式中,I(x,y)代表所述成像传感器记录的图像,H(x,y)代表所述系统点扩散函数,O(x,y)代表物体空间中的物体,N代表噪声。
I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) - - - ( 1 )
I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) + N - - - ( 2 )
I ( x , y ) = N [ H ( x , y ) ⊗ O ( x , y ) ] - - - ( 3 )
二、获取光场相机点扩散函数
点扩散函数是一种描述成像过程中物体的函数,属于光学系统的内在属性。假设成像过程是线性并且平移不变的,一个方程即可描述成像那个设备所记录任何点的成像形变。点扩散函数的精确度和质量直接关系到图像重建的质量。
点扩散函数可通过理论计算和实验测量获得。光场相机的模型如图1所示,其中微透镜阵列2与成像传感器3之间距离为微透镜焦距。计算基于微透镜阵列的点扩散函数过程:
点光源发出各项同性的光经过主透镜1后,于微透镜阵列2所在平面成像。此过程与传统相机成像点扩散函数相同。
取一个微透镜,构造模型为点光源位于微透镜一侧,成像于焦平面的点扩散函数。
将过程ii中获得结果i与中获得结果卷积,即得到点光源通过由主透镜与一个微透镜所构成光学系统的点扩散函数。
将iii中获取函数与二维平面的冲击函数相乘,二维冲击函数的每个冲击坐标对应微透镜阵列中每个微透镜位置,即获得基于微透镜阵列的光场相机的点扩散函数。
三、通过反卷积恢复高分辨图像。
反卷积通过观测数据与卷积核求解物体原始数据,通过运算逆转图像固有的卷积效应。但由于成像系统固有的限制以及图像的组成,物体无法被完美还原;只能通过已知的限制因素,估算物体。尽管如此,相比于现有的光场相机恢复成像传感器获得的图像来说,这种反卷积获得的图像的分辨率也更高。并且,这种运算的优势在于三维图像的反卷积可以遵循傅里叶变换通过数学方法计算出来。
反卷积常用算法有:Wiener Filtering,Nearest Neighbors,ConstrainedIterative Algorithms,Jansson Van-Cittert Algorithms,The Gold Algorithm,Statistical Algorithms以及Maximum Likelihood Estimation Algorithms等等。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明由所提交的权利要求书确定的专利保护范围。

Claims (6)

1.一种光场相机的图像恢复方法,其特征是,包括如下步骤:
获取系统点扩散函数步骤,获取所述光场相机的包括主透镜和微透镜阵列形成的系统点扩散函数,其中,物体在所述系统点扩散函数的卷积作用下,在成像传感器上形成图像;
图像恢复步骤,将所述图像根据所述系统点扩散函数进行反卷积运算,获取物体的原始数据。
2.如权利要求1所述的光场相机的图像恢复方法,其特征是,所述获取系统点扩散函数步骤还包括以下步骤:
获取物体通过所述主透镜在所述微透镜阵列上成像的第一点扩散函数;
获取物体通过所述微透镜阵列在所述微透镜阵列的焦平面上成像的第二点扩散函数;
将所述第一点扩散函数和第二点扩散函数进行卷积的结果与二维冲击函数相乘获得所述系统点扩散函数,其中所述二维冲击函数的每个冲击的二维坐标与所述微透镜阵列中对应的微透镜的位置相对应。
3.如权利要求1所述的光场相机的图像恢复方法,其特征是,所述系统点扩散函数采用如下算法获得:
I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) ;
或者 I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) + N ;
或者 I ( x , y ) = N [ H ( x , y ) ⊗ O ( x , y ) ] ;
其中,I(x,y)代表所述成像传感器记录的图像,H(x,y)代表所述系统点扩散函数,O(x,y)代表物体空间中的物体,N代表噪声。
4.一种光场相机的图像恢复装置,其特征是,包括:
获取系统点扩散函数单元,用于获取所述光场相机的包括主透镜和微透镜阵列形成的系统点扩散函数,其中,物体在所述系统点扩散函数的卷积作用下,在成像传感器上形成图像;
图像恢复单元,用于将所述图像根据所述系统点扩散函数进行反卷积运算,获取物体的原始数据。
5.如权利要求4所述的光场相机的图像恢复装置,其特征是,所述获取系统点扩散函数单元还用于:
获取物体通过所述主透镜在所述微透镜阵列上成像的第一点扩散函数;
获取物体通过所述微透镜阵列在所述微透镜阵列的焦平面上成像的第二点扩散函数;
将所述第一点扩散函数和第二点扩散函数进行卷积的结果与二维冲击函数相乘获得所述系统点扩散函数,其中所述二维冲击函数的每个冲击的二维坐标与所述微透镜阵列中对应的微透镜的位置相对应。
6.如权利要求4所述的光场相机的图像恢复装置,其特征是,所述系统点扩散函数采用如下算法获得:
I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) ;
或者 I ( x , y ) = H ( x , y ) ⊗ O ( x , y ) + N ;
或者 I ( x , y ) = N [ H ( x , y ) ⊗ O ( x , y ) ] ;
其中,I(x,y)代表所述成像传感器记录的图像,H(x,y)代表所述系统点扩散函数,O(x,y)代表物体空间中的物体,N代表噪声。
CN201410654936.6A 2014-11-17 2014-11-17 一种光场相机的图像恢复方法及装置 Active CN104363369B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410654936.6A CN104363369B (zh) 2014-11-17 2014-11-17 一种光场相机的图像恢复方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410654936.6A CN104363369B (zh) 2014-11-17 2014-11-17 一种光场相机的图像恢复方法及装置

Publications (2)

Publication Number Publication Date
CN104363369A true CN104363369A (zh) 2015-02-18
CN104363369B CN104363369B (zh) 2017-11-03

Family

ID=52530592

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410654936.6A Active CN104363369B (zh) 2014-11-17 2014-11-17 一种光场相机的图像恢复方法及装置

Country Status (1)

Country Link
CN (1) CN104363369B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106296811A (zh) * 2016-08-17 2017-01-04 李思嘉 一种基于单光场相机的目标物三维重构方法
CN106303175A (zh) * 2016-08-17 2017-01-04 李思嘉 一种基于单光场相机多重视角的虚拟现实三维数据采集方法
CN107027025A (zh) * 2017-03-28 2017-08-08 清华大学深圳研究生院 一种基于宏像素块自适应预测的光场图像压缩方法
CN107277327A (zh) * 2017-07-28 2017-10-20 清华大学深圳研究生院 一种估计全光圈下单透镜光场相机的点扩散函数的方法
CN107424195A (zh) * 2017-07-20 2017-12-01 清华大学深圳研究生院 一种光场距离估计方法
CN110580481A (zh) * 2019-08-09 2019-12-17 西安理工大学 一种基于epi的光场图像关键位置检测方法
CN110673330A (zh) * 2019-09-02 2020-01-10 南京理工大学 基于散射的成像系统景深拓展装置及方法
CN110896467A (zh) * 2018-09-13 2020-03-20 三星电子株式会社 用于恢复图像的方法和设备
CN111182238A (zh) * 2019-11-15 2020-05-19 北京超放信息技术有限公司 基于扫描光场的高分辨率移动电子设备的成像装置及方法
CN111182191A (zh) * 2019-11-15 2020-05-19 北京超放信息技术有限公司 基于计算像差补偿的宽视场高分辨率摄像设备及方法
CN111258046A (zh) * 2020-02-26 2020-06-09 清华大学 基于前置微透镜阵列的光场显微系统及方法
CN112639610A (zh) * 2018-09-26 2021-04-09 Oppo广东移动通信有限公司 恢复穿过显示器的图像的方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070258707A1 (en) * 2006-05-08 2007-11-08 Ramesh Raskar Method and apparatus for deblurring images
CN102388402A (zh) * 2010-02-10 2012-03-21 松下电器产业株式会社 图像处理装置及图像处理方法
CN102959945A (zh) * 2010-06-29 2013-03-06 皇家飞利浦电子股份有限公司 根据通过图像捕捉设备的阵列获得的数据产生虚拟输出图像的方法和系统
CN103595922A (zh) * 2013-11-04 2014-02-19 西北核技术研究所 一种基于电子快门曝光编码的成像方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070258707A1 (en) * 2006-05-08 2007-11-08 Ramesh Raskar Method and apparatus for deblurring images
CN102388402A (zh) * 2010-02-10 2012-03-21 松下电器产业株式会社 图像处理装置及图像处理方法
CN102959945A (zh) * 2010-06-29 2013-03-06 皇家飞利浦电子股份有限公司 根据通过图像捕捉设备的阵列获得的数据产生虚拟输出图像的方法和系统
CN103595922A (zh) * 2013-11-04 2014-02-19 西北核技术研究所 一种基于电子快门曝光编码的成像方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张琳琳: "显微图像复原中的点扩散函数估计", 《第十一届中国体视学与图像分析学术年会论文集》 *
杨凡: "光场相机成像质量评价方法研究", 《现代电子技术》 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106303175A (zh) * 2016-08-17 2017-01-04 李思嘉 一种基于单光场相机多重视角的虚拟现实三维数据采集方法
CN106296811A (zh) * 2016-08-17 2017-01-04 李思嘉 一种基于单光场相机的目标物三维重构方法
CN107027025B (zh) * 2017-03-28 2019-06-28 清华大学深圳研究生院 一种基于宏像素块自适应预测的光场图像压缩方法
CN107027025A (zh) * 2017-03-28 2017-08-08 清华大学深圳研究生院 一种基于宏像素块自适应预测的光场图像压缩方法
CN107424195B (zh) * 2017-07-20 2020-03-31 清华大学深圳研究生院 一种光场距离估计方法
CN107424195A (zh) * 2017-07-20 2017-12-01 清华大学深圳研究生院 一种光场距离估计方法
CN107277327B (zh) * 2017-07-28 2019-09-06 清华大学深圳研究生院 一种估计全光圈下单透镜光场相机的点扩散函数的方法
CN107277327A (zh) * 2017-07-28 2017-10-20 清华大学深圳研究生院 一种估计全光圈下单透镜光场相机的点扩散函数的方法
CN110896467A (zh) * 2018-09-13 2020-03-20 三星电子株式会社 用于恢复图像的方法和设备
CN110896467B (zh) * 2018-09-13 2023-08-18 三星电子株式会社 用于恢复图像的方法和设备
US11663699B2 (en) 2018-09-13 2023-05-30 Samsung Electronics Co., Ltd. Method and apparatus for restoring image
US11947107B2 (en) 2018-09-26 2024-04-02 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Method and device for recovering image passing through display
CN112639610A (zh) * 2018-09-26 2021-04-09 Oppo广东移动通信有限公司 恢复穿过显示器的图像的方法和装置
CN110580481B (zh) * 2019-08-09 2022-01-11 西安理工大学 一种基于epi的光场图像关键位置检测方法
CN110580481A (zh) * 2019-08-09 2019-12-17 西安理工大学 一种基于epi的光场图像关键位置检测方法
CN110673330A (zh) * 2019-09-02 2020-01-10 南京理工大学 基于散射的成像系统景深拓展装置及方法
CN111182191B (zh) * 2019-11-15 2021-08-20 浙江荷湖科技有限公司 基于计算像差补偿的宽视场高分辨率摄像设备及方法
CN111182191A (zh) * 2019-11-15 2020-05-19 北京超放信息技术有限公司 基于计算像差补偿的宽视场高分辨率摄像设备及方法
CN111182238A (zh) * 2019-11-15 2020-05-19 北京超放信息技术有限公司 基于扫描光场的高分辨率移动电子设备的成像装置及方法
CN111258046A (zh) * 2020-02-26 2020-06-09 清华大学 基于前置微透镜阵列的光场显微系统及方法

Also Published As

Publication number Publication date
CN104363369B (zh) 2017-11-03

Similar Documents

Publication Publication Date Title
CN104363369A (zh) 一种光场相机的图像恢复方法及装置
CN106846463B (zh) 基于深度学习神经网络的显微图像三维重建方法及系统
CN108305230A (zh) 一种模糊图像综合处理方法和系统
Chen et al. Light field denoising via anisotropic parallax analysis in a CNN framework
US20220148297A1 (en) Image fusion method based on fourier spectrum extraction
Raghavendra et al. Comparative evaluation of super-resolution techniques for multi-face recognition using light-field camera
JP2015084223A (ja) スケール及び深度空間に変換することによるライトフィールドの処理
Chen et al. Light field based digital refocusing using a DSLR camera with a pinhole array mask
CN110662014B (zh) 一种光场相机四维数据大景深三维显示的方法
CN104200450B (zh) 一种红外热图像清晰度增强方法
CN102859389A (zh) 使用编码孔径的距离测量
US20160173849A1 (en) Processing of Light Fields by Transforming to Scale and Depth Space
CN105704371A (zh) 一种光场重聚焦方法
CN103873773A (zh) 基于主辅协同双光路设计的全向成像方法
CN103559702B (zh) 基于小波系数熵的二维单视图像深度估计方法
Barnard et al. High-resolution iris image reconstruction from low-resolution imagery
CN103325103B (zh) 高分辨率图像复原方法及系统
Farhood et al. 3D point cloud reconstruction from a single 4D light field image
Shankar et al. Ultra-thin multiple-channel LWIR imaging systems
CN103116882B (zh) 高分辨率图像复原的坐标参数获取方法及系统
Laurenzis et al. Comparison of super-resolution and noise reduction for passive single-photon imaging
Balure et al. A Survey--Super Resolution Techniques for Multiple, Single, and Stereo Images
Chen et al. Depth estimation of light field data from pinhole-masked DSLR cameras
Cho et al. Depth resolution analysis of axially distributed stereo camera systems under fixed constrained resources
KR102617023B1 (ko) 라이트 필드 공간 해상도 개선 시스템 및 방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CB03 Change of inventor or designer information

Inventor after: Wang Haoqian

Inventor after: Fang Lu

Inventor after: Wang Shengjin

Inventor after: Du Yuanchao

Inventor after: Wang Xingzheng

Inventor after: Guo Yuchen

Inventor after: Dai Qionghai

Inventor before: Wang Haoqian

Inventor before: Du Yuanchao

Inventor before: Wang Xingzheng

Inventor before: Dai Qionghai

CB03 Change of inventor or designer information
CP01 Change in the name or title of a patent holder

Address after: 518055 Guangdong city of Shenzhen province Nanshan District Xili of Tsinghua

Patentee after: Shenzhen International Graduate School of Tsinghua University

Address before: 518055 Guangdong city of Shenzhen province Nanshan District Xili of Tsinghua

Patentee before: Graduate School at Shenzhen, Tsinghua University

CP01 Change in the name or title of a patent holder