CN115379092A - 一种高动态范围视频获取方法、系统及终端 - Google Patents

一种高动态范围视频获取方法、系统及终端 Download PDF

Info

Publication number
CN115379092A
CN115379092A CN202210985597.4A CN202210985597A CN115379092A CN 115379092 A CN115379092 A CN 115379092A CN 202210985597 A CN202210985597 A CN 202210985597A CN 115379092 A CN115379092 A CN 115379092A
Authority
CN
China
Prior art keywords
micro
images
fabry
dynamic range
film system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210985597.4A
Other languages
English (en)
Inventor
方靖岳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central South University
Original Assignee
Central South University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central South University filed Critical Central South University
Priority to CN202210985597.4A priority Critical patent/CN115379092A/zh
Publication of CN115379092A publication Critical patent/CN115379092A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)

Abstract

本发明公开了一种高动态范围视频获取方法、系统及终端,所述方法包括在图像传感器上制备法布里‑珀罗滤光膜系得到成像装置;利用所述成像装置获取目标或场景在不同时刻具有不同曝光量的图像序列,所述图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成;将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,进而得到所述高动态范围视频。本发明在同一时刻能够捕获所有具有不同曝光量的图像,形成曝光堆栈,无需处理光学对准问题,没有时间重影,也不存在多个相机校准和多个传感器同步的问题。

Description

一种高动态范围视频获取方法、系统及终端
技术领域
本发明属于光谱成像技术领域,尤其涉及一种基于马赛克快照式窄带多光谱成像的高动态范围视频获取方法、系统及终端。
背景技术
动态范围是一个无量纲量,表示某个物理量变化的跨度,即其变化值的最小值到最大值之间的区域,通常以分贝来度量。本发明所述高动态范围(High dynamic range,HDR)成像中的动态范围,是指由最大亮度与最小亮度决定的光亮度的变化跨度。相比普通的图像,HDR图像可以提供更多的动态范围和图像细节,能够更好地反映出真实环境中的视觉效果。
HDR成像是成像领域的重要方向,使人们能够使用和操纵物理上真实的光值。HDR的一个应用是合成真实物体。HDR数据存储了环境的详细照明信息,这些信息可以用来探测光源,并利用它们来照亮物体。这种图像在增强现实、视觉效果和计算机图形学等许多领域都非常有用。HDR的另一个重要应用是捕获双向反射分布函数的样本,该函数描述光线如何与给定的材料相互作用。HDR成像可能允许使用低动态范围(Low dynamic range,LDR)图像的其他应用程序更加健壮和准确。例如,在具有明亮光源的场景中,可以改进计算机视觉中的视差计算。
目前,生成HDR图像的方法主要有四种:第一种是使用专用硬件直接捕获HDR图像,即HDR相机;第二种是捕获HDR图像最常用的方法,即在不同的曝光时间获取同一场景的多张照片,以捕获从最暗到最亮区域的所有细节,形成曝光堆栈,然后通过使用软件技术,将不同曝光下的许多LDR捕获来生成HDR内容;第三种方法在娱乐行业中流行,使用基于物理的渲染器从虚拟环境中创建HDR内容,即计算机图形渲染法,计算机图形渲染法通常使用两种主要算法进行渲染:光线跟踪和光栅化;第四种方法是使用软件扩展LDR图像或参考HDR图像的动态范围,从包含单次曝光捕获的旧图像中生成HDR图像;在某些情况下,可以使用同一场景的HDR参考照片来增强LDR图像。这可以通过使用与照相机为静态时的色键相似的技术来实现,或者通过使用运动的照相机为静态场景开发动态结构来实现。
HDR的普及已推动了从静止图像到视频内容的转变。最初的HDR视频是使用静止图像和定格或延时摄影等技术捕获的。在实验室等受控条件下,这些方法可能会提供高质量的结果,但是,该方法不太适合实际情况。捕获HDR视频的方法和技术,主要是基于多传感器系统,空间变化的曝光,多视图系统,时间变化的多重曝光和本机传感器等,具体为:
(1)多传感器系统使用一个或多个分束器将光路分解,光传输到多个传感器,这使得系统可以同时捕获两个或更多曝光图像,而不会在高分辨率和帧频下出现重影或未对准。这需要进行仔细的光学对准,相机校准和传感器同步,但是,仍然可能存在像素未对准的现象。
(2)空间变化的曝光,类似于在拜耳模式中用彩色滤光片进行曝光,由于所有曝光时间都被同时捕获,因此无需处理未对准问题;但是,牺牲了动态范围的空间分辨率,并且需要复杂的高质量重建算法。如图1和2所示,传统RGB图像传感器具有彩色滤光器B1,它与周期性排布的金属连线02和光电二极管04等构成的像素一一对应,最后采用拜耳矩阵的方法采集数字图像。
行变化曝光、非规则模式和将液晶光调制器放置在相机的前面的自适应动态范围相机,均属于空间变化的曝光。
(3)多视图系统使用具有多个摄像头的系统来捕获HDR内容,它不需要对传感器进行像素的亚微米对准,但必须有精确的同步系统来避免细微的时间重影。而且,遮挡和镜面反射在一个视图到另一个视图之间都可能有很大差异,需要谨慎处理。
(4)时间变化的多重曝光,该方法通过改变摄像机每帧的曝光时间或ISO(感光度),再使用运动估计和分层单应将两个相邻帧对齐,然后将它们变形,最后组合所有记录值来恢复每个像素位置的辐照度,以此来产生高质量的成像结果。但是,这种方法无法处理快速运动,非刚性运动和明显的遮挡。此外,重影伪影是该方法的主要缺点。研究人员通过基于前两个帧的直方图的测光算法,来最小化采集过程中的此类伪像。
(5)本机传感器,即可以自然捕获HDR图像的传感器。
近年来,赛普拉斯半导体,欧姆龙,PTGrey等几家公司均推出了在线性/对数域中记录到10/12/14位通道的本机传感器,它们生产相对低成本的传感器/相机系统,通常将其应用于安全和自动化领域。Arri Alexa 65和Sony F65是带有面向娱乐和电影的本机传感器的高质量相机,它们提供了更高的分辨率(例如4K或更高),并降低噪音水平。
智能手机和平板电脑制造商(例如Apple,三星,LG,华为等)已经引入了一些HDR捕获功能,例如自动包围曝光和/或自动曝光合并。这些功能也包含在独立相机中。但是,在智能手机和平板电脑的情况下,动态范围受到限制,此类设备通常只能捕获1~2个额外的图像。许多公司为娱乐业制造出了高质量的HDR摄像机,从全高清(1920×1080)到8K分辨率(7680×4320),所有这些摄像机都具有高帧频和低噪声。但是,它们非常昂贵,并不适合消费市场。少数公司提供基于自动多重曝光捕获的360全景HDR摄像机(例如理光Theta,三星Gear 360和Kodak PixPro等)以应用于虚拟现实,但是,它们通常无法本地捕获HDR图像,需要用户随后对其进行计算。
目前,常见的光谱成像技术包括:光栅分光、声光可调谐滤波分光、棱镜分光和芯片镀膜等。光栅分光、声光可调谐滤波分光和棱镜分光的方案,制造相当复杂,并且结构尺寸较大,不便于光电子器件大规模集成。芯片镀膜光谱成像技术需要借助半导体技术进行滤光片的制备,具有微小尺寸和集成度高的特点,相比光栅分光、声光可调谐滤波分光和棱镜分光的方案具有优势。
例如发明专利《多光谱和超光谱成像系统》(授权公告号为CN101124462B)公开了获取多光谱或超光谱图像的系统和方法,采用滤光器轮或透射式显示器、颜色分离装置和光收集装置等结构,所获得的多频带图像需利用最小二乘法或者人工神经网络方法进行变换,其系统结构复杂,体积和重量较大,且未解决高动态范围成像的问题。
又如发明专利《高动态范围图像的生成方法、拍照装置和终端》(申请公布号为CN105578065A)公开了一种由像素阵列和滤光阵列组成的像素结构单元,通过对像素单元进行多级别的曝光控制,包括曝光时间的调整,实现不同曝光量图片堆栈的获取。其方案需要复杂的像素级别的曝光控制和调整。
又如发明专利《用宽带滤光片与光强探测器集成的高动态范围光学传感器》(申请公布号为CN113841034A)公开了一种高动态范围的图像传感器,它利用不同线栅偏振、不同厚度均匀金属或半导体层、不同材料的介质层、或谐振纳米结构等,在宽带范围内调控透光率达到跨越几个数量级的差异。众所周知,图片堆栈数量越多,生成HDR内容效果越好,以该方案获取不同曝光量图片堆栈数量越多,其工艺复杂性越大,工程实现的难度也越大。
发明内容
本发明的目的在于提供一种高动态范围视频获取方法、系统及终端,以解决传统方法需要光学对准,存在多个相机校准和多个传感器同步问题,体积和质量大,以及价格昂贵的问题。
本发明是通过如下的技术方案来解决上述技术问题的:一种高动态范围视频获取方法,包括以下步骤:
在图像传感器上制备法布里-珀罗滤光膜系得到成像装置;其中,所述法布里-珀罗滤光膜系包括多个微滤光阵列,每个所述微滤光阵列包括多个以马赛克形式排列的对应于不同工作波长的微滤光单元,所述微滤光单元与所述图像传感器的像素区域的像素单元一一对应;
利用所述成像装置获取目标或场景在不同时刻具有不同曝光量的图像序列,所述图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成;
将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,进而得到所述高动态范围视频。
进一步地,所述在图像传感器上制备法布里-珀罗滤光膜系的具体实现过程为:
根据不同工作波长设计法布里-珀罗滤光膜系;
在图像传感器的像素区域制备法布里-珀罗滤光膜系的中间腔层和下层高反射膜系;
根据所述像素单元尺寸设计光罩,并根据不同工作波长调节所述微滤光阵列中各微滤光单元的中间腔层的厚度,形成与像素单元一一对应的具有不同腔层厚度的微滤光阵列;
制备法布里-珀罗滤光膜系的上层高反射膜系,即制备流程完成。
进一步地,所述在图像传感器上制备法布里-珀罗滤光膜系的具体实现过程为:
根据不同工作波长设计法布里-珀罗滤光膜系;
选择基片,并在基片上制备法布里-珀罗滤光膜系的中间腔层和下层高反射膜系;
根据图像传感器的像素单元尺寸设计光罩,并根据不同工作波长调节所述微滤光阵列中各微滤光单元的中间腔层的厚度,形成与像素单元一一对应的具有不同腔层厚度的微滤光阵列;
制备法布里-珀罗滤光膜系的上层高反射膜系;
将法布里-珀罗滤光膜系与图像传感器进行匹配封装,即制备流程完成。
进一步地,所述不同工作波长的具体确定过程为:
根据目标或场景的光谱辐射和传输特性以及图像传感器的光谱响应特性确定所述成像装置的光谱响应特性;
从所述成像装置的光谱响应特性中选择辐射变化梯度较大的波长范围作为工作波段;
在所述工作波段中确定一组工作波长。
进一步地,利用离子辅助电子束蒸发镀膜系统制备法布里-珀罗滤光膜系的中间腔层、下层高反射膜系和上层高反射膜系。
进一步地,采用分形刻蚀方法调节所述微滤光阵列中各微滤光单元的中间腔层的厚度。
进一步地,在同一像素点处的灰度值映射为该像素点处的辐照值的具体公式为:
Figure BDA0003801989960000041
其中,E(x)是像素点x处的辐照值,Ii(x)是第i次曝光时图像传感器记录的像素点x处的值,Δti是Ii(x)的曝光时间,Ne是每组图像中图像数,ω(Ii(x))是加权函数,f是相机响应函数。
基于同一发明构思,本发明还提供一种高动态范围视频获取系统,包括:
成像装置,包括图像传感器和法布里-珀罗滤光膜系;所述图像传感器包括衬底、位于所述衬底表面的像素区域,所述像素区域内有若干阵列排布的像素单元;所述法布里-珀罗滤光膜系包括多个微滤光阵列,每个所述微滤光阵列包括多个以马赛克形式排列的对应于不同工作波长的微滤光单元,所述微滤光单元与所述像素单元一一对应;所述微滤光阵列直接制备于所述像素区域或制备在基片上再与像素区域对准;
所述成像装置用于拍摄目标或场景在不同时刻具有不同曝光量的图像序列,所述图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成;
图像处理装置,用于获取所述图像序列,并将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,进而得到所述高动态范围视频。
基于同一发明构思,本发明还提供一种高动态范围视频获取终端,包括如上所述的高动态范围视频获取系统。
有益效果
与现有技术相比,本发明的优点在于:
本发明所提供的一种高动态范围视频获取方法、系统及终端,在已知目标或场景的光谱辐射和传输特性基础上,选择辐射变化梯度较大的波长范围作为多光谱窄带成像的工作波段,并设计微滤光阵列,通过对微滤光阵列中每一个光谱通道的透过率、波长和带宽的定制,再结合图像传感器自身的光谱响应特性,能够形成多光谱高动态的成像装置。在法布里-珀罗滤光膜系制备时,微滤光单元与像素单元一一对应且直接制备在像素单元上,无需像素对准;微滤光阵列中各微滤光单元具有不同的工作波长,实现了每组图像具有不同曝光量的效果;
本发明在同一时刻能够捕获所有具有不同曝光量的图像,形成曝光堆栈,无需处理光学对准问题,没有时间重影,也不存在多个相机校准和多个传感器同步的问题。
附图说明
为了更清楚地说明本发明的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一个实施例,对于本领域普通技术人员来说,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明背景技术中传统RGB图像传感器截面示意图;其中,01为基底,02为金属连线,03为彩色滤光器,031为红光滤色膜,032为绿光滤色膜,033为蓝光滤色膜,04为光电二极管,05为微透镜;
图2是本发明背景技术中传统RGB图像传感器采用拜耳矩阵方法采集数字图像示意图;其中,B1为RGB彩色滤光器,B01为绿色,B02为红色,B03为蓝色,B2为彩色滤光器下图像传感器的光电传感部分;
图3是本发明实施例中分别具有2×2、3×3和4×4的微滤光阵列的图像传感器的示例图;其中,S1表示2×2微滤光阵列,S11~S14表示具有不同光谱传输特性(如中心波长,或透过率等)的微滤光单元;S2表示3×3微滤光阵列,S21~S29表示具有不同光谱传输特性的微滤光单元;S3表示4×4微滤光阵列,S301~S316表示具有不同光谱传输特性的微滤光单元;
图4是本发明实施例中基于周期为3×3微滤光阵列的成像装置的9个光谱通道成9幅光谱图像的示例图;
图5是本发明实施例中法布里-珀罗滤光膜系在图像传感器的像素区域的制备流程图;其中,02A表示刻蚀调腔的工艺;
图6是本发明实施例中图5所示制备流程中调节膜厚的一种掩膜及刻蚀示例;其中,M1表示整套掩膜,M101~M104表示四个具有不同分形设计的掩膜;M01表示对不同掩膜依次采取M011~M014的刻蚀策略,形成一定几何分布的16种刻蚀深度的示例M015;
图7是本发明实施例中与图5所示制备流程相关的示例实现图;其中,06是微滤光阵列,061~064表示具有不同光谱传输特性的微滤光单元;
图8是本发明实施例中图11所示制备流程中调节膜厚的一种掩膜及刻蚀示例;其中,M2表示整套掩膜,M201~M204表示四个具有不同分形设计的掩膜;M02表示对不同掩膜依次采取M021~M024的刻蚀策略,形成一定几何分布的16种刻蚀深度的示例M025;
图9是本发明实施例中图13所示制备流程中调节膜厚的一种掩膜及刻蚀示例;其中,M3表示整套掩膜,M301~M304表示四个具有不同分形设计的掩膜;M03表示对不同掩膜依次采取M031~M034的刻蚀策略,形成一定几何分布的16种刻蚀深度的示例M035;
图10是本发明实施例中在包含微透镜的图像传感器的像素区域直接制备微滤光阵列的示例实现图;其中,09是制备在微透镜阵列上的马赛克快照式微滤光阵列,091~094表示具有不同光谱传输特性的微滤光单元;
图11是本发明实施例中法布里-珀罗滤光膜系在基片上制备的流程图;其中,03A表示刻蚀调腔的工艺;
图12是本发明实施例中与图11所示制备流程相关的示例实现图;其中,07表示马赛克快照式微滤光阵列,071~074表示具有不同光谱传输特性的微滤光单元,08表示基底,如石英;
图13是本发明实施例中基于反射型马赛克快照式微滤光阵列的成像装置的制备流程图;其中,04A表示刻蚀调节膜厚以控制透过率或者衰减的工艺;
图14是本发明实施例中与图13所示制备流程相关的示例实现图;其中,T1表示图像传感器像素阵列,T2表示反射型中性密度微滤光阵列,T3表示微透镜阵列;
图15是本发明实施例中具有4×4的马赛克快照式反射衰减型微滤光阵列的示例图;其中,T2表示反射衰减型微滤光阵列,T11~T44表示具有不同反射衰减特性或光密度值的微滤光单元;
图16是本发明实施例中基于反射型马赛克快照式微滤光阵列的成像装置的制备流程图;
图17是本发明实施例中图像传感器、带通滤光片和微滤光阵列2×2周期结构的光谱特性;其中,Dspc01表示图像传感器的量子效率,BP01表示带通滤光片的透过率,P1~P4表示2×2的微滤光单元的透过率;
图18是本发明实施例中图像传感器和周期2×2的微滤光阵列组合的探测器像素的光谱灵敏度;其中,Q1~Q4表示2×2的光谱探测通道的量子效率;
图19是本发明实施例中图像传感器和周期2×2的微滤光阵列的组合,对目标探测的光谱辐照值;其中,Ospc01表示场景的光谱辐照曲线,E1~E4表示2×2的光谱通道探测的目标辐照值;
图20是本发明实施例中基于周期为2×2的马赛克快照式微滤光阵列的成像装置的4个光谱通道成4幅光谱图像E01~E04的示例。
具体实施方式
下面结合本发明实施例中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面以具体地实施例对本申请的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
本发明实施例所提供的一种高动态范围视频获取方法,基于马赛克快照式微滤光阵列,利用不同光谱通道透过率不同,通过图像传感器在不同时刻形成具有不同曝光量的低动态范围曝光堆栈,然后映射出该时刻的一幅高动态范围的图像,进而实现运动场景的高动态范围视频获取,具体包括以下步骤:
步骤1:成像装置的制备。
在图像传感器上制备法布里-珀罗滤光膜系得到成像装置;其中,法布里-珀罗滤光膜系包括多个微滤光阵列,每个微滤光阵列包括多个以马赛克形式排列的对应于不同工作波长的微滤光单元,微滤光单元与图像传感器的像素区域的像素单元一一对应。
步骤2:图像获取:利用步骤1的成像装置获取目标或场景在不同时刻具有不同曝光量的图像序列,图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成。
步骤3:将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,在时间轴上获取高动态范围视频。
微滤光阵列各个光谱通道具有不同曝光量,在某个时刻进行拍摄时,即可获得一组具有不同曝光量的图像,这组图像对应某个时刻的同一场景,逐一将该时刻该组图像中各图像在相同像素坐标处的灰度值,映射为该像素坐标处的辐照值,形成一幅高动态范围图像。
微滤光阵列具有体积小、质量轻、稳定性高、成本低、可量产等优点;微滤光阵列需要根据应用场景的光谱特征进行定制;微滤光阵列通过牺牲空间分辨率,获取高动态范围。
如图3所示,用S1(2×2)、S2(3×3)、S3(4×4)或更高阶(m×n)的微滤光阵列取代彩色滤光器B1,可实现多通道光谱探测。图4是基于周期为3×3微滤光阵列的成像装置的9个光谱通道成9幅光谱图像的示例。
在步骤1中,微滤光阵列(或法布里-珀罗滤光膜系)可以制备在与图像传感器分离的独立基片上,也可以直接制备在图像传感器像素区域。前者需要与图像传感器的像素(或像素区域)一一对准,匹配封装,后者直接制备在像素上,不需要像素对准。
在本发明的一个具体实施方式中,如图5所示,在图像传感器的像素区域制备法布里-珀罗滤光膜系的具体实现过程为:
02a.在图像传感器靶面上设计微滤光阵列,这需要制备或者选择已有的对准标记;
02b.在图像传感器的像素区域(即靶面)制备法布里-珀罗滤光膜系的中间腔层和下层高反射膜系;
02c.采用图6所示掩膜分形设计,在膜系上进行紫外曝光,形成M101掩膜;
02d.采取刻蚀策略M011;
02e.去掩膜;其中步骤02c~02e构成一次刻蚀调腔的工艺02A;
02f.在膜系上进行紫外曝光,形成M102掩膜,然后采取刻蚀策略M012,去掩膜;再次进行紫外曝光,形成M103掩膜,然后采取刻蚀策略M013,去掩膜;再次进行紫外曝光,形成M104掩膜,然后采取刻蚀策略M014,去掩膜;此时,形成了16种刻蚀深度M015,对应16种法布里-珀罗滤光膜系的中间腔层的厚度,图6所示M015中的数字表示刻蚀深度或刻蚀时间;
02g.在靶面上制备法布里-珀罗滤光膜系的上层高反射膜系;
02h.在靶面上制备缓冲层和微透镜阵列。
得到如图7所示基于微滤光阵列的成像装置。在图像传感器每一个像素单元上对应有一个微滤光单元,构成了微滤光阵列。图8~图9是另外两种不同掩膜的分形设计,同样对应16种腔层的厚度。
如果法布里-珀罗滤光膜系或微滤光阵列的制备无法在图像传感器芯片流片过程中参与进来,则需要对图像传感器芯片的成品裸片进行二次工艺开发,才能将微滤光阵列集成到芯片靶面上。
如果图像传感器芯片为黑白裸片,且无微透镜层,则通过02a~02g或者02a~02h的步骤,可以完成制备。如果图像传感器芯片为黑白裸片,且有微透镜层,则通过02a~02g的步骤,也可以完成制备,得到图10所示的示例。图像传感器每一个像素单元上对应有一个微透镜,微透镜上有一个微滤光单元,构成了微滤光阵列。如果图像传感器芯片为RGB彩色裸片,无论有无微透镜,在像素上集成了微滤光单元后,也将形成多光谱成像传感器芯片。
在石英等基片上制备微滤光阵列,再与图像传感器对准封装,具体实现步骤如图11所示:
03a.根据光谱波段选择合适的基片;
03b.根据选用的图像传感器像素尺寸等,制作光刻版图,利用光刻、蒸镀等手段制作套刻标记;
03c.在基片上制备法布里-珀罗滤光膜系的中间腔层和下层高反射膜系;
03d.在膜系上进行紫外曝光,形成用于分形刻蚀的掩膜,例如图8中的M201,采取一定的刻蚀策略M021,调节中间腔层厚度;
03e.去掩膜;(1.24)~(1.25)构成一次刻蚀调腔的工艺03A;
03f.在膜系上进行紫外曝光,形成M202掩膜,然后采取刻蚀策略M022,去掩膜;再次进行紫外曝光,形成M203掩膜,然后采取刻蚀策略M023,去掩膜;再次进行紫外曝光,形成M204掩膜,然后采取刻蚀策略M024,去掩膜;此时,形成了16种刻蚀深度M025,对应16种法布里-珀罗滤光膜系的中间腔层的厚度,图8所示M025中的数字表示刻蚀深度或刻蚀时间;
03g.制备法布里-珀罗滤光膜系的上层高反射膜系;
03h.划片,完成微滤光阵列的制备;然后利用特定装置,将微滤光阵列与图像传感器对准并粘合封装。最后得到示例实现的概览图如图12所示。在图像传感器微透镜阵列05上是微滤光单元07和基片08组成的微滤光阵列。
设计反射型(金属膜)中性密度滤光片,通过离子束刻蚀调控膜系中间腔层厚度的方法,制备出一系列具有不同光密度值的光谱通道,以实现具有不同曝光量的效果。作为一个示例,制备反射衰减型微滤光阵列的成像装置,可以采用图13所示步骤:
04a.在图像传感器靶面上设计反射型微滤光阵列,这需要制备或者选择已有的对准标记;
04b.在靶面上制备膜系;
04c.在膜系上进行紫外曝光,形成用于分形刻蚀的掩膜,例如图9所示M301;
04d.采取一定的刻蚀策略M031,控制膜层厚度,调节透过率;
04e.去掩膜;(1.33)~(1.35)构成一次刻蚀调腔的工艺04A;
04f.在反射型中性密度滤光膜上进行紫外曝光,形成M302掩膜,然后采取刻蚀策略M032,去掩膜;再次进行紫外曝光,形成M303掩膜,然后采取刻蚀策略M033,去掩膜;再次进行紫外曝光,形成M304掩膜,然后采取刻蚀策略M034,去掩膜;此时,形成了16种刻蚀深度M035,对应16种光密度,图9所示M035中的数字表示刻蚀深度或刻蚀时间;
04g.在靶面上制备缓冲层和微透镜阵列。
最后得到示例实现的概览图如图14所示。在图像传感器像素T1上,依次是透射衰减型微滤光阵列T2和微透镜阵列T3。图15是具有4×4周期的反射型微滤光阵列的示例图,每一个滤光单元具有不同光密度。
如果在石英等基片上制备反射型(金属膜)中性密度微滤光片阵列,再与图像传感器对准封装,则可以采用图16所示步骤。
本发明所采用的紫外曝光、电子束蒸发镀膜、离子辅助电子束蒸发镀膜和等离子体刻蚀等半导体工艺、图像传感器、法布里-珀罗膜系设计等均为本领域成熟技术。使用上述方法所需的设备均可市购,例如紫外光刻系统可以采用德国SUSS MicroTec公司的SUSSMA/BA6光刻机;电子束蒸发镀膜系统可以采用北京创世威纳科技有限公司的MEB-800蒸发镀膜机;离子辅助电子束蒸发镀膜系统可以采用Leybod Optics的ARES 1350镀膜机;膜系设计可以采用美国Software Spectra公司的TFCalc光学薄膜设计软件,等等。
将微滤光阵列与图像传感器结合,利用微滤光阵列的不同光谱通道,拍摄某时刻目标一组不同曝光的图像序列,然后将不同曝光下的低动态范围图像生成高动态范围内容,获取高动态范围视频。作为一个示例,以周期2×2的微滤光阵列说明获取高动态范围视频的过程。
图17是图像传感器、带通滤光片和微滤光阵列2×2周期结构的光谱特性。其中,Dspc01表示图像传感器的量子效率,BP01表示带通滤光片的透过率,P1~P4表示2×2的微滤光单元的透过率。三者共同作用,形成图18所示的探测器四个光谱通道的光谱灵敏度。Q1~Q4表示2×2的光谱探测通道的量子效率。以特定的光谱灵敏度探测具有特定光谱辐照特性的目标,能得到辐照度值彼此存在显著差异的4个光谱图像。
如图19所示,Ospc01表示场景的光谱辐照曲线,E1~E4表示2×2的光谱通道在某时刻同时获取的目标辐照值,与图20中4幅光谱图像E01~E04相对应。E01~E04的辐照值存在明显差异,等效于具有不同曝光量。示例性地,通过估计相机响应函数,采用平方域合并,对E01~E04四幅图像进行计算,恢复每个像素位置的辐照度E(公式(1)),获得高动态范围图像。不同时刻高动态范围图像,构成时间轴上的高动态范围视频。
Figure BDA0003801989960000101
其中,Ii(x)是第i次曝光时图像传感器记录的像素点x处的值,Δti是Ii(x)的曝光时间,Ne=4是不同曝光量的图像数,ω(Ii(x))是加权函数,f是相机响应函数。
基于同一发明构思,本发明实施例还提供一种高动态范围视频获取系统,包括:
成像装置,包括图像传感器和法布里-珀罗滤光膜系;图像传感器包括衬底、位于衬底表面的像素区域,像素区域内有若干阵列排布的像素单元;法布里-珀罗滤光膜系包括多个微滤光阵列,每个微滤光阵列包括多个以马赛克形式排列的对应于不同工作波长的微滤光单元,微滤光单元与像素单元一一对应;微滤光阵列直接制备于像素区域或制备在基片上并与像素区域对准。
成像装置用于拍摄目标或场景在不同时刻具有不同曝光量的图像序列,图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成。
图像处理装置,用于获取图像序列,并将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,进而得到高动态范围视频。
在本发明的一个具体实施方式中,不同工作波长的具体确定过程为:
根据目标或场景的光谱辐射和传输特性以及图像传感器的光谱响应特性确定成像装置的光谱响应特性;从成像装置的光谱响应特性中选择辐射变化梯度较大的波长范围作为工作波段;在工作波段中确定一组工作波长。
利用微滤光阵列的不同光谱通道,拍摄某时刻目标一组不同曝光量的图像序列,是在已知目标光谱辐射及传输特性的基础上,结合图像传感器的光谱响应特征,选择目标辐射度变化梯度较大的波长(或波段)作为多光谱成像通道,设计法布里-珀罗滤光膜系,再通过分形刻蚀的方法,制备出一系列具有不同中心波长的光谱通道,以实现具有不同曝光量的效果;或者,设计反射型(金属膜)中性密度滤光片,通过离子束刻蚀调控薄膜厚度的方法,制备出一系列具有不同透过率的光谱通道,以实现具有不同曝光量的效果。
微滤光阵列,是通过光刻、镀膜和刻蚀等半导体工艺方法,调节法布里-珀罗滤光膜系的中间腔层的厚度,实现某一波段范围内一系列中心波长分立的干涉滤波透射峰,形成若干光谱通道,等效于实现该波段范围内的不同曝光量成像。
反射型微滤光阵列,通过光刻、镀膜和刻蚀等半导体工艺方法,调节金属薄膜等光学薄膜的厚度等参量,以规律性改变不同滤光单元的透过率或者光密度,形成若干光谱通道,等效于实现该波段范围内的不同曝光量成像。
本发明可以在图像传感器靶面不同位置(即像素区域)周期性地改变曝光量,而所有具有不同曝光量的光谱通道都被同时捕获,获得曝光堆栈,无需处理光学对准问题,没有时间重影,也不存在多个相机校准和多个传感器同步的问题;为实现低成本、小体积、高可靠性的快速运动场景的高动态范围视频获取提供了解决方案,具有消费电子应用开发的巨大市场潜力。
以上所揭露的仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或变型,都应涵盖在本发明的保护范围之内。

Claims (9)

1.一种高动态范围视频获取方法,其特征在于,包括以下步骤:
在图像传感器上制备法布里-珀罗滤光膜系得到成像装置;其中,所述法布里-珀罗滤光膜系包括多个微滤光阵列,每个所述微滤光阵列包括多个以马赛克形式排列的对应于不同工作波长的微滤光单元,所述微滤光单元与所述图像传感器的像素区域的像素单元一一对应;
利用所述成像装置获取目标或场景在不同时刻具有不同曝光量的图像序列,所述图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成;
将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,进而得到所述高动态范围视频。
2.根据权利要求1所述的高动态范围视频获取方法,其特征在于,所述在图像传感器上制备法布里-珀罗滤光膜系的具体实现过程为:
根据不同工作波长设计法布里-珀罗滤光膜系;
在图像传感器的像素区域制备法布里-珀罗滤光膜系的中间腔层和下层高反射膜系;
根据所述像素单元尺寸设计光罩,并根据不同工作波长调节所述微滤光阵列中各微滤光单元的中间腔层的厚度,形成与像素单元一一对应的具有不同腔层厚度的微滤光阵列;
制备法布里-珀罗滤光膜系的上层高反射膜系,即制备流程完成。
3.根据权利要求1所述的高动态范围视频获取方法,其特征在于,所述在图像传感器上制备法布里-珀罗滤光膜系的具体实现过程为:
根据不同工作波长设计法布里-珀罗滤光膜系;
选择基片,并在基片上制备法布里-珀罗滤光膜系的中间腔层和下层高反射膜系;
根据图像传感器的像素单元尺寸设计光罩,并根据不同工作波长调节所述微滤光阵列中各微滤光单元的中间腔层的厚度,形成与像素单元一一对应的具有不同腔层厚度的微滤光阵列;
制备法布里-珀罗滤光膜系的上层高反射膜系;
将法布里-珀罗滤光膜系与图像传感器进行匹配封装,即制备流程完成。
4.根据权利要求2或3所述的高动态范围视频获取方法,其特征在于,所述不同工作波长的具体确定过程为:
根据目标或场景的光谱辐射和传输特性以及图像传感器的光谱响应特性确定所述成像装置的光谱响应特性;
从所述成像装置的光谱响应特性中选择辐射变化梯度较大的波长范围作为工作波段;
在所述工作波段中确定一组工作波长。
5.根据权利要求2或3所述的高动态范围视频获取方法,其特征在于,利用离子辅助电子束蒸发镀膜系统制备法布里-珀罗滤光膜系的中间腔层、下层高反射膜系和上层高反射膜系。
6.根据权利要求2或3所述的高动态范围视频获取方法,其特征在于,采用分形刻蚀方法调节所述微滤光阵列中各微滤光单元的中间腔层的厚度。
7.根据权利要求1所述的高动态范围视频获取方法,其特征在于,在同一像素点处的灰度值映射为该像素点处的辐照值的具体公式为:
Figure FDA0003801989950000021
其中,E(x)是像素点x处的辐照值,Ii(x)是第i次曝光时图像传感器记录的像素点x处的值,Δti是Ii(x)的曝光时间,Ne是每组图像中图像数,ω(Ii(x))是加权函数,f是相机响应函数。
8.一种高动态范围视频获取系统,其特征在于,包括:
成像装置,包括图像传感器和法布里-珀罗滤光膜系;所述图像传感器包括衬底、位于所述衬底表面的像素区域,所述像素区域内有若干阵列排布的像素单元;所述法布里-珀罗滤光膜系包括多个微滤光阵列,每个所述微滤光阵列包括多个以马赛克形式排列的对应于不同工作波长的微滤光单元,所述微滤光单元与所述像素单元一一对应;所述微滤光阵列直接制备于所述像素区域或制备在基片上再与像素区域对准;
所述成像装置用于拍摄目标或场景在不同时刻具有不同曝光量的图像序列,所述图像序列包括多组图像,每组图像对应一个时刻,每组图像由不同曝光量的图像构成;
图像处理装置,用于获取所述图像序列,并将每组图像中各图像在同一像素点处的灰度值映射为该像素点处的辐照值,得到对应时刻的高动态范围图像,进而得到所述高动态范围视频。
9.一种高动态范围视频获取终端,其特征在于:包括权利要求8所述的高动态范围视频获取系统。
CN202210985597.4A 2022-08-17 2022-08-17 一种高动态范围视频获取方法、系统及终端 Pending CN115379092A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210985597.4A CN115379092A (zh) 2022-08-17 2022-08-17 一种高动态范围视频获取方法、系统及终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210985597.4A CN115379092A (zh) 2022-08-17 2022-08-17 一种高动态范围视频获取方法、系统及终端

Publications (1)

Publication Number Publication Date
CN115379092A true CN115379092A (zh) 2022-11-22

Family

ID=84065049

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210985597.4A Pending CN115379092A (zh) 2022-08-17 2022-08-17 一种高动态范围视频获取方法、系统及终端

Country Status (1)

Country Link
CN (1) CN115379092A (zh)

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120314100A1 (en) * 2011-06-09 2012-12-13 Apple Inc. Image sensor having hdr capture capability
US8345144B1 (en) * 2009-07-15 2013-01-01 Adobe Systems Incorporated Methods and apparatus for rich image capture with focused plenoptic cameras
US9124828B1 (en) * 2013-09-19 2015-09-01 The United States Of America As Represented By The Secretary Of The Navy Apparatus and methods using a fly's eye lens system for the production of high dynamic range images
US20150256734A1 (en) * 2014-03-05 2015-09-10 Sony Corporation Imaging apparatus
WO2017139596A1 (en) * 2016-02-12 2017-08-17 Contrast Optical Design & Engineering, Inc. Devices and methods for high dynamic range video
US9883112B1 (en) * 2016-09-22 2018-01-30 Pinnacle Imaging Corporation High dynamic range imaging
US10212356B1 (en) * 2017-05-31 2019-02-19 Snap Inc. Parallel high dynamic exposure range sensor
CN110636227A (zh) * 2019-09-24 2019-12-31 合肥富煌君达高科信息技术有限公司 高动态范围hdr图像合成方法及集成该方法的高速相机
US20200344430A1 (en) * 2019-04-23 2020-10-29 Coherent AI LLC High dynamic range optical sensing device employing broadband optical filters integrated with light intensity detectors
WO2021041928A1 (en) * 2019-08-30 2021-03-04 Chromatra, Llc Systems and methods for creating a full-color image in low light
US20210167107A1 (en) * 2017-12-21 2021-06-03 Sony Semiconductor Solutions Corporation Electromagnetic wave processing device
CN114740689A (zh) * 2022-04-11 2022-07-12 中南大学 基于纳米压印的马赛克快照式微滤光片阵列及制备方法
US20220239822A1 (en) * 2019-06-21 2022-07-28 The Governing Council Of The University Of Toronto Method and system for extending image dynamic range using per-pixel coding of pixel parameters
CN114812813A (zh) * 2021-01-29 2022-07-29 光谱公司 光谱传感器模块

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8345144B1 (en) * 2009-07-15 2013-01-01 Adobe Systems Incorporated Methods and apparatus for rich image capture with focused plenoptic cameras
US20120314100A1 (en) * 2011-06-09 2012-12-13 Apple Inc. Image sensor having hdr capture capability
US9124828B1 (en) * 2013-09-19 2015-09-01 The United States Of America As Represented By The Secretary Of The Navy Apparatus and methods using a fly's eye lens system for the production of high dynamic range images
US20150256734A1 (en) * 2014-03-05 2015-09-10 Sony Corporation Imaging apparatus
WO2017139596A1 (en) * 2016-02-12 2017-08-17 Contrast Optical Design & Engineering, Inc. Devices and methods for high dynamic range video
US9883112B1 (en) * 2016-09-22 2018-01-30 Pinnacle Imaging Corporation High dynamic range imaging
US10212356B1 (en) * 2017-05-31 2019-02-19 Snap Inc. Parallel high dynamic exposure range sensor
US20210167107A1 (en) * 2017-12-21 2021-06-03 Sony Semiconductor Solutions Corporation Electromagnetic wave processing device
US20200344430A1 (en) * 2019-04-23 2020-10-29 Coherent AI LLC High dynamic range optical sensing device employing broadband optical filters integrated with light intensity detectors
US20220239822A1 (en) * 2019-06-21 2022-07-28 The Governing Council Of The University Of Toronto Method and system for extending image dynamic range using per-pixel coding of pixel parameters
WO2021041928A1 (en) * 2019-08-30 2021-03-04 Chromatra, Llc Systems and methods for creating a full-color image in low light
CN110636227A (zh) * 2019-09-24 2019-12-31 合肥富煌君达高科信息技术有限公司 高动态范围hdr图像合成方法及集成该方法的高速相机
CN114812813A (zh) * 2021-01-29 2022-07-29 光谱公司 光谱传感器模块
CN114740689A (zh) * 2022-04-11 2022-07-12 中南大学 基于纳米压印的马赛克快照式微滤光片阵列及制备方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
GUANG-YI XIAO ET AL: "Fabrication of spectral differential four channel microfiltration array", 《PROC. SPIE》, vol. 11763, pages 1 - 6 *
HUAN ZHANG ET AL: "Pixel-based multichannel optical narrow band filter array", 《PROC. SPIE 》, vol. 11567, pages 1 - 7 *
XIAOMIN WU ET AL: "High dynamic range image reconstruction in device-independent color space based on camera colorimetric characterization", 《ELSEVIER SCIENCE》, vol. 140, pages 776 - 785, XP085058494, DOI: 10.1016/j.ijleo.2017.05.016 *

Similar Documents

Publication Publication Date Title
EP2957099B1 (en) Plenoptic imaging device
Huang et al. Lensless imaging by compressive sensing
CN102037717B (zh) 使用具有异构成像器的单片相机阵列的图像拍摄和图像处理
US8130293B2 (en) Image processing apparatus having patterned polarizer, patterned polarizer, and image processing method
CN108780142A (zh) 3d成像系统和方法
US8502911B2 (en) Image pickup apparatus, display and image processing apparatus
CN104335246B (zh) 用pi滤光器群组来形成图案的相机模块
CN102917235B (zh) 图像处理装置和图像处理方法
US10412286B2 (en) Multicamera imaging system and method for measuring illumination
US8363093B2 (en) Stereoscopic imaging using split complementary color filters
CN103688536B (zh) 图像处理装置、图像处理方法
CN113676628A (zh) 多光谱传感器、成像装置和图像处理方法
CN102484721A (zh) 四通道滤色片阵列图案
US20120230549A1 (en) Image processing device, image processing method and recording medium
US9544570B2 (en) Three-dimensional image pickup apparatus, light-transparent unit, image processing apparatus, and program
CN103098480B (zh) 图像处理装置及方法、三维摄像装置
WO2012137485A1 (ja) 3次元撮像装置、画像処理装置、画像処理方法および画像処理プログラム
CN108495115B (zh) 图像传感器及其像素组和像素阵列,获取图像信息的方法
EP3065395A1 (en) Processing of light field data
Hubel Foveon technology and the changing landscape of digital cameras
CN103843320B (zh) 图像传感器和成像装置
US9154770B2 (en) Three-dimensional imaging device, image processing device, image processing method, and program
CN115379092A (zh) 一种高动态范围视频获取方法、系统及终端
CN115950534A (zh) 分焦平面式高光通量仿生多光谱偏振成像探测器
CN113473033A (zh) 一种高动态成像设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Fang Jingyue

Inventor after: Dong Xiaonuo

Inventor after: Li Shuo

Inventor after: Wen Zhihao

Inventor before: Fang Jingyue

CB03 Change of inventor or designer information