CN111316634A - Hdr图像成像方法、装置及系统 - Google Patents
Hdr图像成像方法、装置及系统 Download PDFInfo
- Publication number
- CN111316634A CN111316634A CN201880071467.1A CN201880071467A CN111316634A CN 111316634 A CN111316634 A CN 111316634A CN 201880071467 A CN201880071467 A CN 201880071467A CN 111316634 A CN111316634 A CN 111316634A
- Authority
- CN
- China
- Prior art keywords
- photosensitive
- thickness
- optical film
- hdr image
- points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本发明实施例公开了一种HDR图像成像系统,包括图像传感器(10),所述图像传感器(10)包括一感光面,所述感光面被划分为至少两组排列的感光区块,一组所述感光区块包括至少两个感光点,所述感光点对应至少一像素点;设置在所述感光面表面的光学薄膜阵列(20),所述光学薄膜阵列(20)的厚度对应所述光学薄膜阵列的透光率,所述光学薄膜阵列(20)在同一感光区块内的不同感光点所在位置的厚度不同,所述光学薄膜阵列(20)在不同感光区块所在位置的厚度取值空间一致。采用本系统,可提高HDR图像成像的速度,同时,计算量较小,执行效率更高。
Description
技术领域
本发明涉及图像处理领域,特别涉及一种HDR图像成像方法、装置及系统。
背景技术
HDR(英文:High Dynamic Range,中文:高动态范围)成像,在计算机图形学与电影摄影术中,是用来实现比普通数字图像技术更大曝光动态范围(即更大的明暗差别)的一组技术,相比普通的图像,可以提供更多的动态范围和图像细节。HDR成像技术凭借其高度还原真实世界中宽广辐射亮度范围的能力已经被广泛被用于摄影、安防监控、图像显示等领域。
传统技术中,HDR成像技术的实现是通过同步或异步的方式,在不同曝光条件下拍摄不同亮度动态范围下的图像,增强细节信息的捕捉能力,并利用图像融合技术合成出HDR图像。
目前的HDR成像技术通常为利用单个图像记录设备,通过改变曝光时间,按顺序先后记录不同曝光条件下的LDR图像,再将多张LDR进行HDR合成。这种异步方式需要分时拍摄多张图像,因此需要额外的曝光时间,这就使得HDR成像的过程很慢,实时性不足。
为了解决实时性的问题,现有技术中研发出多机位拍摄的HDR成像系统,利用多个摄像机的立体系统对同一场景进行同时拍摄。然而,采用这种方法的缺点是,多个拍摄机位之间的校准极为复杂,需要在合成HDR前要对不同摄像系统进行视差计算,从而保证不同机位拍摄的场景图像相同,对这就大大提高了计算量,执行效率较低。
发明内容
基于此,为解决现有技术中单摄像头进行HDR图像成像方法成像时间慢,以及多摄像头进行HDR图像成像时需要计算视差导致的计算量大的技术问题,特提出了一种HDR图像成像系统。
一种HDR图像成像系统,包括:
图像传感器,所述图像传感器包括一感光面,所述感光面被划分为至少两组排列的感光区块,一组所述感光区块包括至少两个感光点,所述感光点对应至少一像素点;
设置在所述感光面表面的光学薄膜阵列,所述光学薄膜阵列的厚度对应所述光学薄膜阵列的透光率,所述光学薄膜阵列在同一感光区块内的不同感光点所在位置的厚度不同,所述光学薄膜阵列在不同感光区块所在位置的厚度取值空间一致。
在其中一个实施例中,所述HDR图像成像系统还包括:
与所述图像传感器连接的处理器,用于根据图像传感器在各感光区块内光学薄膜阵列厚度一致处的感光点采集的光信号生成至少二素材图像,通过将所述至少二素材图像融合得到HDR图像。
在其中一个实施例中,所述光学薄膜阵列在不同感光区块所在位置的厚度取值空间一致为:
所述光学薄膜阵列在不同感光区块内同一相对位置的感光点处的厚度一致。
在其中一个实施例中,所述处理器用于根据图像传感器在各感光区块内相对位置相同处的感光点采集的光信号生成至少二素材图像,通过将所述至少二素材图像融合得到HDR图像。
在其中一个实施例中,所述光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度分布为非单调排列或错位排列。
在其中一个实施例中,所述光学薄膜阵列设置在所述图像传感器表面的方式包括沉积、图形化或刻蚀工艺中的至少一种。
在其中一个实施例中,所述光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度对应的透光率的分布呈非线性衰减变化。
在其中一个实施例中,所述光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度对应的透光率的分布呈等比衰减。
此外,为解决现有技术中单摄像头进行HDR图像成像方法成像时间慢,以及多摄像头进行HDR图像成像时需要计算视差导致的计算量大的技术问题,特提出了一种基于前述HDR图像成像系统中的处理器运行的HDR图像成像方法。
一种HDR图像成像方法,基于前述的HDR图像成像系统中的处理器,所述方法包括:
获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值;
提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像;
对所述至少二素材图像融合得到HDR图像。
此外,为解决现有技术中单摄像头进行HDR图像成像方法成像时间慢,以及多摄像头进行HDR图像成像时需要计算视差导致的计算量大的技术问题,特提出了一种与前述HDR图像成像方法对应的HDR图像成像装置。
一种HDR图像成像装置,包括:
信号采集模块,用于获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值;
素材图像提取模块,用于提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像;
图像融合模块,用于对所述至少二素材图像融合得到HDR图像。
实施本发明实施例,将具有如下有益效果:
采用了上述采用上述HDR图像成像系统及相应的方法和装置之后,相比于传统技术中单摄像头的方法,获取LDR的素材图像时,所有感光点同时曝光,通过光学薄膜阵列在各个感光点位置的厚度不同所产生的透光率不同,控制各用于融合的LDR图像的曝光程度,使得生成素材图像的过程为异步同时执行,所有感光点同时曝光采样的过程,而不需要像传统技术中单摄像头的方法中,需要同步等待曝光拍摄一张,再拍摄下一张LDR素材图像,因此,耗时更短。
而相比与传统技术中多摄像头采集的方法,由于图像传感器上的同一感光区块内的感光点相隔距离十分小,视差可忽略,因此,在成像的过程中不会产生容易造成图像融合误差的视差情况,因此计算的冗余度较低,提高了执行效率。
附图说明
下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为HDR图像成像的原理图;
图2为传统技术中单摄像头多次曝光生成HDR图像的原理示意图;
图3为传统技术中多摄像头以不同视角同时曝光生成HDR图像的原理示意图;
图4为一个实施例中HDR图像成像系统的图像传感器和光学薄膜阵列的结构构成的示意图;
图5为一个实施例中HDR图像成像系统的图像传感器的感光面上划分感光区块和感光点的示意图;
图6为传统技术中CMOS图像传感器的示意图;
图7为一个实施例感光面上设置了光学薄膜阵列的CMOS图像传感器的示意图;
图8为一个实施例中不同感光区块内感光点对应的光学薄膜阵列的厚度分布示意图;
图9为另一个实施例中不同感光区块内感光点对应的光学薄膜阵列的厚度分布示意图;
图10为一个实施例中一种HDR图像成像系统生成HDR图像的过程示意图;
图11为一个实施例中同一感光区块内感光点对应的光学薄膜阵列的厚度非单调分布或错位分布的示意图;
图12为一个实施例中基于一种HDR图像成像系统的HDR图像成像方法的流程图;
图13为一个实施例中基于一种HDR图像成像系统的HDR图像成像装置的示意图
图14为一个实施例中运行前述HDR图像成像方法的计算机系统的组成示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在传统技术中,普通相机拍摄的图片由于动态范围有限,通常只有256个亮度范围,因此拍照得到的图片通常为LDR(英文:Low Dynamic Range,中文:低动态范围)图像,当拍照时,外部光照环境的不同则会使得生成的LDR图像会产生不同的曝光效果,从而遗失部分亮度范围的细节信息。
例如,如图1所示,普通相机在光暗环境下对相同的场景拍摄得到的是低曝光的LDR图像1,在正常光照环境下对相同的场景拍摄得到的是正常曝光的LDR图像2,在强烈光照环境下对相同的场景拍摄得到的是过度曝光的LDR图像3,由图1可看出,LDR图像1对于高亮度背景(图中的天空等光亮处)下的景物细节保存较好,LDR图像3对低亮度背景(图中的暗处和阴影处)的景物细节保存较好,而LDR图像2则相对平衡,高亮度背景和低亮度背景下的细节均不如LDR图像1和LDR图像3。
而传统技术中的HDR成像原理,即通过将上述不同曝光程度的LDR1、LDR2和LDR3通过图像合并得到。观察图1可看出,合并后的HDR1图像,在高亮度背景下更多地采用了LDR1的细节,在低亮度背景下更多地采用了LDR3的细节,这样就使的生成的HDR图像的动态范围得到扩展,而图像各个部分的细节都得以适当的亮度进行展示,更清晰地展现了拍摄场景的细节特征。
传统技术中的单摄像头的HDR图像成像方法可参考图2所示,在图2中,采用单一摄像头的方式,通过控制曝光时间生成不同亮度范围的LDR图像,再进行合成。通过单一摄像头对准同一拍摄场景进行拍摄,拍摄期间不移动摄像头的方向,保证多次曝光拍摄的场景为同一场景。然后先通过较短的曝光时间t1,采集到低曝光度的,整体亮度较低的LDR1,再通过中等曝光时间t2,采集到正常曝光度的,整体亮度中等的LDR2,然后在经过较长的曝光时间t3,可采集到过度曝光的,整体亮度较高的LDR3,再通过将LDR1、LDR2和LDR3合成即可得到HDR图像。
然而,也可由图2看出,上述单摄像头HDR成像过程中,由于只有单一摄像头采集,因此需要同步等待曝光时间t1、曝光时间t2和曝光时间t3,因此,总体曝光耗时为t1+t2+t3,这就导致传统技术的HDR图像成像较慢。
传统技术中的多摄像头的HDR图像成像方法可参考图3所示,在图3中,镜头1通过较短的曝光时间t1,采集到低曝光度的,整体亮度较低的LDR1,镜头2通过较长的曝光时间t2,采集到高曝光度的,整体亮度较高的LDR2。由于是镜头1和镜头2同时采集图像,因此整体曝光时间耗时取较大值即曝光时间t2,相比于单摄像头的HDR成像方法,耗时时间短,成像快。
然而,也可由图3看出,上述多摄像头HDR成像过程中,由于镜头1和镜头2之间的距离,使得与拍摄场景的视角存在视差,这就导致镜头1拍摄的LDR图片和镜头2拍摄的LDR图片不完全一致,这就需要大量的计算来去除视差产生的用于合成的LDR图片不一致的问题,从而效率较低。
为解决上述传统技术中HDR图像成像技术中单镜头采集耗时长,多镜头采集需要计算视差,计算量较大的技术问题,本发明特提出了一种HDR图像成像系统、以及基于该系统的HDR图像成像方法和装置。
具体的,本发明提出的一种HDR图像成像系统的实现方式可参考图4和图5所示,在本实施例中,该HDR图像成像系统包括:
图像传感器10,包括一感光面,感光面被划分为至少两组排列的感光区块,一组所述感光区块包括至少两个感光点,所述感光点对应至少一像素点。
图像传感器,或称为感光元件,是利用光电器件的光电转换功能,将感光面上的光信号转换为与光信号成相应比例关系的电信号的装置。图像传感器主要包括CCD(英文:Charge-coupled Device,中文:电荷耦合器件,一种用电荷量表示信号大小,用耦合方式传输信号的探测元件)和CMOS(英文:Complementary Metal Oxide Semiconductor,中文:互补金属氧化物半导体,一种感光元件)。
图像传感器10通常为平板型结构,包括一感光面,在感光面上有序排列有多个像素点,即采集光信号转化为电信号,并将电信号编码成为图像的像素的采样点。在本实施例中,图像传感器10的感光面上有序排列有多个像素点,这些像素点按照位置被划分为数个感光区块,每个感光区块中又被划分为数个感光点。参考图5所示,在本实施例中,图像传感器10的感光面上被划分为a行b列共a×b个感光区块,每个感光区块中如图5中所示,包含3×3个感光点。若一感光点对应n个像素点,则该图像传感器10的分辨率即为a×b×3×3×n。例如,若图像传感器10的分辨率为2000万像素,则可划分为1980×1080个感光区块,每个感光区块包含9个感光点,每个感光点对应1像素点。
需要说明的是,在本实施例中,感光区块和感光点的划分是对于图像传感器10的感光面上的像素点的逻辑划分,是以像素点在感光面上的位置为依据对特定位置区域的像素点的集合的描述。如图5中图像传感器的感光面的左上角11-11的位置包含的像素点的集合被描述为感光点11-11,图像传感器的感光面的左上角的9个感光点的位置区域(11-11至11-33的9个感光点所在的方形区域),可被描述为感光区块11,相应的,与感光区块11属于同一行的依次被描述为感光区块12、感光区块13…感光区块1b,同一列的依次被描述为感光区块21、感光区块31…感光区块a1。
也就是说图像传感器10的生产工艺中,并不需要显性地指出感光区块和感光点的具体物理形态,而只需要在成像过程中,应用其逻辑含义即可。
在本实施例中,如图4所示,该HDR图像成像系统还包括设置在感光面表面的光学薄膜阵列20,光学薄膜阵列20的厚度对应所述光学薄膜阵列的透光率,光学薄膜阵列20在同一感光区块内的不同感光点所在位置的厚度不同,光学薄膜阵列在不同感光区块所在位置的厚度取值空间分布一致。
图4展示出的为图像传感器10和光学薄膜阵列20在一个感光区块中的结构特征,该感光区块中包含了4个感光点,该4个感光点上设置有相应的光学薄膜阵列,但光学薄膜阵列在该4个感光点位置上的厚度各不相同,分别为d1、d2、d3和d4,以下以d1、d2、d3和d4分别表示4个位置的感光点。光学薄膜阵列具有一定的透光性,且透光性通常随着薄膜厚度的增大而呈非线性递减状态,由于光学薄膜阵列在该感光区块内4个感光点位置的厚度从小到大依次为d1、d2、d3和d4,因此,感光点d1、d2、d3和d4这四个位置的透光率依次衰减。当该感光区块进行光信号采集成像时,由于同一图像传感器上的感光点的曝光时间均相同,感光点d1、d2、d3和d4处的透光率不同,使得感光点d1、d2、d3和d4采集的光信号的曝光度各不相同,这就使得感光点d1、d2、d3和d4各自采集了相应亮度范围的图像信号。扩展到感光面上的其他感光区块,即每个感光区块可作为一个超级像素,且该超级像素由于包含了透光率各不相同的感光点,因此每一个超级像素均采集了多个亮度范围的图像信号,且亮度范围的个数与不同的厚度值的数量对应。
具体的,对于设置有光学薄膜阵列的CMOS元件的结构特征可参考图6和图7所示。
需要说明的是,厚度取值空间分布一致为,若两个感光区块中均包含了对应的光学薄膜阵列的厚度属于厚度取值空间为{d1、d2、d3…和dn}的感光点,但不限定具体特定位置对应的具体的厚度取值,则该光学薄膜阵列在该两个感光区块所在位置的厚度取值空间分布一致,即均为{d1、d2、d3…和dn}。
例如,如图8所示,若光学薄膜阵列在感光区块所在位置的厚度值包括d1、d2、d3和d4四个值,厚度为该4个值的光学薄膜覆盖了该感光区域内的四个感光点,则在该图像传感器的其他感光区块内,同样包含的4个感光点的位置处的光学薄膜阵列的厚度值也为d1、d2、d3和d4四个值。需要说明的是,在本实施例中,并不限定特定的厚度值的光学薄膜阵列在特定的感光点的相对位置,只需要各感光区块内均设置有该厚度值的光学薄膜阵列即可。
如图8中,感光区块A和感光B均包含4个感光点,感光区块A的四个感光点A-11、A-12、A-21和A-22的厚度值分别为d3、d4、d2和d1,因此,光学薄膜阵列在感光区块A所在位置的厚度取值空间分布为{d1、d2、d3和d4}四个厚度值的集合。感光区块B的四个感光点B-11、B-12、B-21和B-22的厚度值分别为d4、d3、d1和d2,因此,光学薄膜阵列在感光区块B所在位置的厚度取值空间分布也为{d1、d2、d3和d4}四个厚度值的集合,而厚度值d1在感光区块A中的相对位置为A-22,在感光区块B中的相对位置为B-21,也就是说,厚度分布中,同一厚度值对应的感光点在各感光区块中的相对位置可以不同。
进一步的,为了方便提取图像的像素点,光学薄膜阵列可设置为在不同感光区块内同一相对位置的感光点处的厚度一致。
例如,参考图9所示,感光区块A包含四个感光点A-11、A-12、A-21和A-22,感光区块B包含四个感光点B-11、B-12、B-21和B-22,A-11与B-11相对位置相同,且厚度均为d3,A-12与B-12相对位置相同,且厚度均为d4。采用此种方式设置光学薄膜阵列在各感光区块内的厚度取值空间分布和厚度分布,可使得后续在提取各感光区块的透光率一致的感光点采集的图像信号时,可直接根据相对位置即可完成提取,而不用额外的存储空间去记录处于设置有同一厚度值的光学薄膜阵列的感光点在各个感光区块中的相对位置,降低了空间复杂度。
进一步的,如图4所示,该HDR图像成像系统,还包括与所述图像传感器10连接的处理器30,用于根据图像传感器10在各感光区块内光学薄膜阵列厚度一致处的感光点采集的光信号生成至少二素材图像,通过将至少二素材图像融合得到HDR图像。
参考图10所示,图10展示了从信号采集到作为素材图像的LDR图像的提取,到将素材图像融合为HDR图像的整个过程和原理。当该HDR图像成像系统成像时,图像传感器10上各感光点均采集到相应的光信号,变转换成可编码为像素值的电信号。处理器30可获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值,然后提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像对所述至少二素材图像融合得到HDR图像。
具体的,参考图5所示,若图像传感器10分辨率为2000万像素,一感光点对应一像素点,图像传感器10的感光面包含1920×1080个感光区块,其编号为11、12、21….直到ab,其中a为1920,b为1080,每个感光区块包含3×3个感光点,在同一感光区块内依次编号为11、12、21….33,感光点11-11即为感光区块11中的11号感光点。
处理器30可用于提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像。
再参考图5所示,若感光点11-11处的光学薄膜阵列的厚度为d1,则处理器可用于获取感光区块11、12、21….直到ab中,各个感光区块内设置的光学薄膜阵列的厚度为d1的位置的感光点对应的像素值。
例如,若感光区块12内设置的光学薄膜阵列的厚度为d1的位置的感光点为感光点12-12,则获取感光点12-12对应的像素值,以此类推分别获取感光区块11、12、21….直到最右下角ab处的感光区块内设置的光学薄膜阵列的厚度为d1的位置的感光点对应的像素点,则最终可取出与厚度d1对应的共计1920×1080个像素点(即每个感光区块1个),然后即可生成一副分辨率为1920×1080的素材图像。如前所述,将感光区块视为超级像素,图像传感器10相对于超级像素的分辨率也为1920×1080,也就是说,图像传感器10可以感光区块作为一个图像采集的子单元,以感光区块的数量和排列生成相应分辨率的素材图像。
同样,由于一个3×3的感光区块内,包含9个光学薄膜阵列的厚度值d1至d9,相应的,可提取出3×3副素材图像。由于每张素材图像对应相同的光学薄膜阵列的厚度值,即为同一素材图像中的所有像素点对应相同透光率,因此同一素材图像中的像素点均表达了同一亮度范围内(曝光程度)的图像细节。而各个素材图像对应不同的厚度值,即为各个素材图像对应不同的透光率,则各个素材图像表达了不同亮度范围内(曝光程度)的图像细节。
需要说明的是,若一感光点对应多个像素点,例如对于8000万像素分辨率的图像传感器10,可设置一感光点对应4像素点,感光区块仍设置为1920×1080,每个感光区块仍设置为包含3×3个感光点,在此情况下,在处理器在生成1920×1080的素材图像,获取感光点对应的像素值时,可将感光点对应的4像素点的光信号转换的像素值归一化取平均值或加权平均值处理。
在获取了d1至d9分别对应的素材图像之后,处理器30即可对所述至少二素材图像融合得到HDR图像。
需要说明的是,处理器在对素材图像进行融合生成HDR图像时,并不需要将所有素材图像融合成HDR图像,可对已获取的素材图像进行筛选,或者可通过一定地策略仅获取部分素材图像,然后融合成HDR图像。如前例中,并不需要将d1至d9分别对应的9张素材图像融合成HDR图像,若拍照环境光照强烈,则可尽量筛选对应的厚度值较大、透光率较低的素材图像融合成HDR图像,若拍照环境光照较暗,则可尽量筛选对应的厚度值较小、透光率较低的素材图像融合成HDR图像。这样就可以减少图像融合的计算量,提高执行效率。
进一步的,如前所述,光学薄膜阵列20可设置为在不同感光区块内同一相对位置的感光点处的厚度一致。在此情况下,处理器可用于根据图像传感器在各感光区块内相对位置相同处的感光点采集的光信号生成至少二素材图像,通过将所述至少二素材图像融合得到HDR图像。
如前例中,若厚度值d1对应的感光点在感光区域中的相对位置为11(共有11、12、21、…33这9个相对位置),则处理器可获取感光区块11、12、21….直到ab中,感光点11-11、12-11、21-11….ab-11位置的像素值生成与d1对应的素材图像,若厚度值d2对应的感光点在感光区域中的相对位置为23,则处理器可获取感光区块11、12、21….直到ab中,感光点11-23、12-23、21-23….ab-23位置的像素值生成与d1对应的素材图像。
由此可更进一步看出,采用此种方式设置光学薄膜阵列,处理器30在生成所有像素点对应同一厚度值,即对应同一透光率的素材图像时,可直接按照规则获取相应位置的感光点的像素指即可,而不需要在获取过程中先确认对应同一厚度值的感光点在某感光区块中的相对位置,从而提高了执行效率。
采用上述HDR图像成像系统,相比于传统技术中单摄像头的方法,获取LDR的素材图像时,所有感光点同时曝光,通过光学薄膜阵列在各个感光点位置的厚度不同所产生的透光率不同,控制各用于融合的LDR图像的曝光程度,使得生成素材图像的过程为异步同时执行,所有感光点同时曝光采样的过程,而不需要像传统技术中单摄像头的方法中,需要同步等待曝光拍摄一张,再拍摄下一张LDR素材图像,因此,耗时更短。
而相比与传统技术中多摄像头采集的方法,由于图像传感器10上的同一感光区块内的感光点相隔距离十分小,视差可忽略,因此,在成像的过程中不会产生容易造成图像融合误差的视差情况,因此计算的冗余度较低,提高了执行效率。
进一步的,光学薄膜阵列设置在所述图像传感器表面的方式包括沉积、图形化或刻蚀工艺中的至少一种。也就是说,光学薄膜阵列的形成可通过对图像传感器10的感光面二次加工而成,二次加工的方法可包括在不同位置沉积不同厚度的光学介质,或者对感光面进行刻蚀来改变感光面不同位置的厚度。
在其他实施例中,为了进一步提高动态范围,可以在需要高透射率像素的光学薄膜阵列表层额外沉积一层减反膜(anti-reflection coating),提高透射率。
进一步的,光学薄膜阵列可设置为在同一所述感光区块内的不同所述感光点所在位置的厚度对应的透光率的分布呈非线性衰减变化。
由于通常情况下,光学薄膜阵列的光学介质的透光率与厚度成非线性衰减关系,因此,在设置光学薄膜阵列时,可设置为厚度为等差线性衰减,即可实现光学薄膜阵列的透光率呈非线性衰减。
进一步的,光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度对应的透光率的分布呈等比衰减,即tk=n-k×t1,其中,k为厚度取值空间分布,t1为最高透光率,tk为第k个厚度值的透光率,n为基础衰减率。如前例中,对于3×3的感光区块,则厚度取值空间中的厚度值的个数为9,厚度值最低的感光点的透光率为t1,则可依次根据公式设置tk。
进一步的,可选择透光率与厚度值成等比衰减的光学介质制成的光学薄膜阵列,这样在设置同一感光区块内的不同感光点的厚度值时,采用等差设置即可。如前例中,对于3×3的感光区块,可分别在各感光点处设置光学薄膜阵列的厚度值为d1=d、d2=2d、d3=3d…d9=9d,这样就使得3×3的感光区块中的各感光点对应的透光率呈等比衰减。利用这种透光率或厚度设置方式,可将更多的动态位数用于记录高亮度范围的数据,突出明亮处细节。
进一步的,光学薄膜阵列可设置为在同一所述感光区块内的不同所述感光点所在位置的厚度的分布为非单调排列或错位排列。
参考图11所示,图11为一个m×n感光区块内的感光点厚度的分布,其中颜色灰度的深浅代表着厚度值的大小。由图11可看出,整个m×n感光区块内的感光点的厚度值变化不均匀,呈非单调性的变化,与某一感光点毗邻的其他感光点的厚度差异较大,这样设置的好处,当m×n感光区块的某个子区域(包含数个感光点)出现噪点时,在该感光区块的其他区域包含有透光率与该子区域中的感光点接近的感光点,这样就不会使得对某个大范围的亮度范围的采样被噪声干扰。而若设置为厚度沿感光点11、12、21…mn单调递增,则当某个子区域出现噪点时,连续较大亮度范围的图像采样将被噪声干扰。也就是说,光学薄膜阵列在同一感光区块内的厚度分布设置为非单调排列或错位排列,抗噪性能更加。
进一步的,由于饱和或者低于噪声水平而丢失感光点Mx,y的邻近像素点{Mx-1,y-1,Mx,y+1,Mx-1,y,Mx+1,y}必定储存了该成像区域内的有效信息。将邻近的各像素点按照感光区块内的透射率Tx,y进行归一化后,可以利用插值的方法求出丢失区域的值。相比于直接拟合已知像素值计算丢失区域,先利用已知像素值拟合出一个平滑面更有利于抑制噪声,再利用平滑面上各像素点的近似值进行插值求出丢失的信号。为了充分利用感光区块内的感光点,可以进一步扩展已知感光点的邻域,如用某一方向的已知感光点邻域范围内的像素平均值代替该感光点已知的像素值。
在一个实施例中,基于前述的HDR图像成像系统,还与之对应地提供了一种HDR图像成像方法,该方法的执行基于计算机程序,可运行于基于前述HDR图像成像系统的处理器30上,该处理器可以是嵌入在图像传感器10中的芯片,也可以是与图像传感器10连接的其他冯诺依曼体系的外部计算机设备
具体的,如图12所示,该方法包括:
步骤S102:获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值。
步骤S104:提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像。
步骤S106:对所述至少二素材图像融合得到HDR图像。
在一个实施例中,针对上述HDR图像成像方法,还与之对应地提供了一种HDR图像成像装置,具体的,如图13所示,包括信号采集模块102、素材图像提取模块104和图像融合模块106,其中:
信号采集模块102,用于获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值。
素材图像提取模块104,用于提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像。
图像融合模块106,用于对所述至少二素材图像融合得到HDR图像。
实施本发明实施例,将具有如下有益效果:
采用了上述采用上述HDR图像成像系统及相应的方法和装置之后,相比于传统技术中单摄像头的方法,获取LDR的素材图像时,所有感光点同时曝光,通过光学薄膜阵列在各个感光点位置的厚度不同所产生的透光率不同,控制各用于融合的LDR图像的曝光程度,使得生成素材图像的过程为异步同时执行,所有感光点同时曝光采样的过程,而不需要像传统技术中单摄像头的方法中,需要同步等待曝光拍摄一张,再拍摄下一张LDR素材图像,因此,耗时更短。
而相比与传统技术中多摄像头采集的方法,由于图像传感器10上的同一感光区块内的感光点相隔距离十分小,视差可忽略,因此,在成像的过程中不会产生容易造成图像融合误差的视差情况,因此计算的冗余度较低,提高了执行效率。
需要说明的是,前文所述的“一致”即为在一定误差范围内相同或相同的含义,由于半导体工艺制作过程中,不可避免地会造成部分光学薄膜介质的实际厚度与理论设计的厚度值有偏差,但只要在一定误差范围内,只会影响光学薄膜介质的透光率的范围,当该两个感光点对应的透光率的范围重合部分大于一定预设比例时,即可认为二者的透光率一致,或者说感光点对应的光学薄膜介质厚度取值空间分布或厚度分布一致。
在一个实施例中,如图14所示,图8展示了一种运行上述HDR图像成像方法的基于冯诺依曼体系的计算机系统。具体的,可包括通过系统总线连接的外部输入接口1001、处理器1002、存储器1003和输出接口1004。其中,外部输入接口1001可选的可至少包括网络接口10012和USB接口10014。存储器1003可包括外存储器10032(例如硬盘、光盘或软盘等)和内存储器10034。输出接口1004可至少包括显示屏10042等设备。
在本实施例中,本方法的运行基于计算机程序,该计算机程序的程序文件存储于前述基于冯诺依曼体系的计算机系统10的外存储器10032中,在运行时被加载到内存储器10034中,然后被编译为机器码之后传递至处理器1002中执行,从而使得基于冯诺依曼体系的计算机系统10中形成逻辑上的信号采集模块102、素材图像提取模块104和图像融合模块106。且在上述HDR图像成像方法执行过程中,输入的参数均通过外部输入接口1001接收,并传递至存储器1003中缓存,然后输入到处理器1002中进行处理,处理的结果数据或缓存于存储器1003中进行后续地处理,或被传递至输出接口1004进行输出。
以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。
Claims (10)
1.一种HDR图像成像系统,其特征在于,包括:
图像传感器,所述图像传感器包括一感光面,所述感光面被划分为至少两组排列的感光区块,一组所述感光区块包括至少两个感光点,所述感光点对应至少一像素点;
设置在所述感光面表面的光学薄膜阵列,所述光学薄膜阵列的厚度对应所述光学薄膜阵列的透光率,所述光学薄膜阵列在同一感光区块内的不同感光点所在位置的厚度不同,所述光学薄膜阵列在不同感光区块所在位置的厚度取值空间分布一致。
2.根据权利要求1所述的HDR图像成像系统,其特征在于,所述HDR图像成像系统还包括:
与所述图像传感器连接的处理器,用于根据图像传感器在各感光区块内光学薄膜阵列厚度一致处的感光点采集的光信号生成至少二素材图像,通过将所述至少二素材图像融合得到HDR图像。
3.根据权利要求2所述的HDR图像成像系统,其特征在于,所述光学薄膜阵列在不同感光区块所在位置的厚度取值空间一致为:
所述光学薄膜阵列在不同感光区块内同一相对位置的感光点处的厚度一致。
4.根据权利要求3所述的HDR图像成像系统,其特征在于,所述处理器用于根据图像传感器在各感光区块内相对位置相同处的感光点采集的光信号生成至少二素材图像,通过将所述至少二素材图像融合得到HDR图像。
5.根据权利要求1至4任一项所述的HDR图像成像系统,其特征在于,所述光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度分布为非单调排列或错位排列。
6.根据权利要求1至4任一项所述的HDR图像成像系统,其特征在于,所述光学薄膜阵列设置在所述图像传感器表面的方式包括沉积、图形化或刻蚀工艺中的至少一种。
7.根据权利要求1至4任一项所述的HDR图像成像系统,其特征在于,所述光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度对应的透光率的分布呈非线性衰减变化。
8.根据权利要求7所述的HDR图像成像系统,其特征在于,所述光学薄膜阵列在同一所述感光区块内的不同所述感光点所在位置的厚度对应的透光率的分布呈等比衰减。
9.一种HDR图像成像方法,其特征在于,基于权利要求2至8任一项所述的HDR图像成像系统中的处理器,所述方法包括:
获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值;
提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像;
对所述至少二素材图像融合得到HDR图像。
10.一种HDR图像成像装置,其特征在于,基于权利要求1至8任一项所述的HDR图像成像系统中的处理器,所述装置包括:
信号采集模块,用于获取所述图像传感器在感光区块内的所述感光点采集的光信号,根据所述光信号生成与所述感光点对应的像素值;
素材图像提取模块,用于提取各感光区块内光学薄膜阵列厚度一致处的感光点对应的像素值生成至少二素材图像,一光学薄膜阵列厚度对应一素材图像;
图像融合模块,用于对所述至少二素材图像融合得到HDR图像。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2018/124796 WO2020133193A1 (zh) | 2018-12-28 | 2018-12-28 | Hdr图像成像方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111316634A true CN111316634A (zh) | 2020-06-19 |
Family
ID=71129483
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880071467.1A Pending CN111316634A (zh) | 2018-12-28 | 2018-12-28 | Hdr图像成像方法、装置及系统 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111316634A (zh) |
WO (1) | WO2020133193A1 (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101087360A (zh) * | 2006-06-08 | 2007-12-12 | 松下电器产业株式会社 | 固态成像装置及照相机 |
US20140253767A1 (en) * | 2013-03-11 | 2014-09-11 | Canon Kabushiki Kaisha | Solid-state image sensor and camera |
CN104639921A (zh) * | 2013-11-11 | 2015-05-20 | 全视技术有限公司 | 双像素大小彩色影像传感器及其制造方法 |
CN204720451U (zh) * | 2014-06-03 | 2015-10-21 | 半导体元件工业有限责任公司 | 成像系统和处理器系统 |
CN105097855A (zh) * | 2014-05-19 | 2015-11-25 | 全视科技有限公司 | 图像传感器像素及多色图像传感器像素 |
CN105516698A (zh) * | 2015-12-18 | 2016-04-20 | 广东欧珀移动通信有限公司 | 图像传感器的成像方法、成像装置和电子装置 |
CN106550199A (zh) * | 2015-09-18 | 2017-03-29 | 索尼公司 | 多层高动态范围传感器 |
CN108269811A (zh) * | 2016-12-30 | 2018-07-10 | 豪威科技股份有限公司 | 高动态范围彩色图像传感器及相关的方法 |
US20180284273A1 (en) * | 2015-10-01 | 2018-10-04 | Heptagon Micro Optics Pte. Ltd. | Optoelectronic modules for the acquisition of spectral and distance data |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5472584B2 (ja) * | 2008-11-21 | 2014-04-16 | ソニー株式会社 | 撮像装置 |
US10015416B2 (en) * | 2016-05-24 | 2018-07-03 | Semiconductor Components Industries, Llc | Imaging systems with high dynamic range and phase detection pixels |
-
2018
- 2018-12-28 CN CN201880071467.1A patent/CN111316634A/zh active Pending
- 2018-12-28 WO PCT/CN2018/124796 patent/WO2020133193A1/zh active Application Filing
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101087360A (zh) * | 2006-06-08 | 2007-12-12 | 松下电器产业株式会社 | 固态成像装置及照相机 |
US20140253767A1 (en) * | 2013-03-11 | 2014-09-11 | Canon Kabushiki Kaisha | Solid-state image sensor and camera |
CN104639921A (zh) * | 2013-11-11 | 2015-05-20 | 全视技术有限公司 | 双像素大小彩色影像传感器及其制造方法 |
CN105097855A (zh) * | 2014-05-19 | 2015-11-25 | 全视科技有限公司 | 图像传感器像素及多色图像传感器像素 |
CN204720451U (zh) * | 2014-06-03 | 2015-10-21 | 半导体元件工业有限责任公司 | 成像系统和处理器系统 |
CN106550199A (zh) * | 2015-09-18 | 2017-03-29 | 索尼公司 | 多层高动态范围传感器 |
US20180284273A1 (en) * | 2015-10-01 | 2018-10-04 | Heptagon Micro Optics Pte. Ltd. | Optoelectronic modules for the acquisition of spectral and distance data |
CN105516698A (zh) * | 2015-12-18 | 2016-04-20 | 广东欧珀移动通信有限公司 | 图像传感器的成像方法、成像装置和电子装置 |
CN108269811A (zh) * | 2016-12-30 | 2018-07-10 | 豪威科技股份有限公司 | 高动态范围彩色图像传感器及相关的方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2020133193A1 (zh) | 2020-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2636018B1 (en) | Method for producing high dynamic range images | |
TWI504257B (zh) | 在產生數位影像中曝光像素群組 | |
KR101588877B1 (ko) | 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리 | |
TWI496463B (zh) | 形成全彩色影像之方法 | |
US7602418B2 (en) | Digital image with reduced object motion blur | |
TWI500319B (zh) | 影像感測器之延伸景深 | |
US8823808B2 (en) | Method for improved digital video image quality | |
US8737755B2 (en) | Method for creating high dynamic range image | |
US20120105673A1 (en) | Digital camera providing high dynamic range images | |
TW200917831A (en) | Multiple component readout of image sensor | |
WO2009044246A1 (en) | Multi-exposure pattern for enhancing dynamic range of images | |
JP2002204389A (ja) | 露出制御方法 | |
TW201102968A (en) | CFA image with synthetic panchromatic image | |
EP2630786A1 (en) | System and method for imaging using multi aperture camera | |
CN112866549B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
JP2002064754A (ja) | 撮像装置の有効ダイナミックレンジを拡張する方法及び装置 | |
TWI390972B (zh) | The autofocus method in the high noise environment and its application of the digital acquisition device of the method | |
CN111316634A (zh) | Hdr图像成像方法、装置及系统 | |
JP2022177830A (ja) | イメージ処理装置 | |
CN111345032B (zh) | 图像传感器、光强感知系统及方法 | |
CN118138905A (zh) | 图像处理器、包括其的图像处理装置和图像处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200619 |