CN113808222A - 图像处理方法、电子设备和存储介质 - Google Patents
图像处理方法、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113808222A CN113808222A CN202111172854.4A CN202111172854A CN113808222A CN 113808222 A CN113808222 A CN 113808222A CN 202111172854 A CN202111172854 A CN 202111172854A CN 113808222 A CN113808222 A CN 113808222A
- Authority
- CN
- China
- Prior art keywords
- calibration
- image
- pixel
- gray
- gray scale
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 34
- 230000004044 response Effects 0.000 claims abstract description 113
- 238000011088 calibration curve Methods 0.000 claims description 130
- 241001270131 Agaricus moelleri Species 0.000 claims description 70
- 238000000034 method Methods 0.000 claims description 60
- 238000013507 mapping Methods 0.000 claims description 51
- 229920006395 saturated elastomer Polymers 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 11
- 230000015654 memory Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 230000003936 working memory Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000005316 response function Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000010267 cellular communication Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
提供一种图像处理方法、电子设备和存储介质。图像处理方法包括:获取针对同一场景拍摄的第一图像和第二图像,其中第一图像的第一曝光量大于第二图像的第二曝光量,第一图像和第二图像具有相同的图像区域;基于对应于第一曝光量的第一响应曲线和第一图像中至少一个第一像素的像素值,确定对应于第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值;基于对应于第二曝光量的第二响应曲线和第二图像中至少一个第二像素的像素值,确定对应于第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值;以及基于第一对象的灰阶值和第二对象的灰阶值确定目标图像。
Description
技术领域
本公开涉及图像处理技术领域,特别涉及一种图像处理方法、用于标定图像传感器的响应曲线的方法、电子设备和存储介质。
背景技术
真实场景的亮度的动态范围(Dynamic Range,DR)通常大于相机的动态范围。相机在采集图像时,一次曝光仅能记录下真实场景中的一部分动态范围,因此采集到的图像中往往会出现过曝区域或欠曝区域,导致场景细节信息的丢失,图像的视觉效果不佳。
在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。
发明内容
本公开提供一种图像处理方法、电子设备和存储介质,以实现高质量的、高效的图像融合。
根据本公开的一方面,提供一种图像处理方法,包括:获取针对同一场景拍摄的第一图像和第二图像,其中所述第一图像的第一曝光量大于所述第二图像的第二曝光量,所述第一图像和所述第二图像具有相同的图像区域;基于对应于所述第一曝光量的第一响应曲线和所述第一图像中至少一个第一像素的像素值,确定对应于所述第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值;基于对应于所述第二曝光量的第二响应曲线和所述第二图像中至少一个第二像素的像素值,确定对应于所述第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值;以及基于所述第一对象的灰阶值和所述第二对象的灰阶值确定目标图像。
根据本公开的另一方面,提供用于标定图像传感器的响应曲线的方法,包括:以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像;基于所述第一标定图像中分别对应于所述第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线,所述第一标定曲线指示所述第一标定曝光量下图像传感器采集的像素值与所述第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;以不同于所述第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的多个标定灰阶的第二标定图像;基于所述第二标定图像中分别对应于所述第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线,所述第二标定曲线指示所述第二曝光量下图像传感器采集的像素值与所述第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;以及基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的响应曲线,其中所述响应曲线指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含所述第一标定灰阶组和所述第二标定灰阶组中的至少一个的多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
根据本公开的另一方面,提供一种电子设备。该电子设备包括:处理器;以及存储程序的存储器,该程序包括指令,该指令在由处理器执行时使处理器执行根据上述方法。
根据本公开的另一方面,提供一种存储程序的非暂态计算机可读存储介质。该程序包括指令,该指令在由电子设备的处理器执行时,致使电子设备执行根据上述方法。
根据本公开的另一方面,提供一种计算机程序产品。该计算机程序产品包括计算机程序,该计算机程序在被处理器执行时实现上述方法。
根据本公开的实施例,通过利用响应曲线确定在当前曝光量下真实环境中与图像像素值对应的灰阶值,能够方便地获取图像中物体的真实亮度信息。利用对应于不同曝光量的响应曲线,可以覆盖场景中的所有动态范围,从而能够获取具有高动态范围的图像。
根据在下文中所描述的实施例,本公开的这些和其它方面将是清楚明白的,并且将参考在下文中所描述的实施例而被阐明。
附图说明
附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。
图1示出了根据本公开的实施例的图像处理方法的示例性过程的流程图;
图2A示出了根据本公开的实施例的第一响应曲线和第二响应曲线的示例;
图2B示出了根据本公开的实施例的第一响应曲线和第二响应曲线以及反映射曲线的示例;
图3示出了根据本公开的实施例的用于标定响应曲线的方法的示例性过程的流程图;
图4A示出了根据本公开的实施例的标定曲线的示例;
图4B示出了根据本公开的实施例的延伸的标定曲线的示例;
图5A示出了根据本公开的实施例的图像处理过程的示例;
图5B示出了根据本公开的实施例的图像传感器采集的图像的示例;
图5C示出了根据本公开的示例的目标图像的示例;以及
图6是示出根据本公开的示例性实施例的电子设备的示例的框图。
具体实施方式
在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个元件与另一元件区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
在相关技术中,可以利用Debevec方法,基于成像系统的物理特性(即光化学和电子的互易性)从图像传感器拍摄的照片中回复高动态范围辐射度图。在此方法中,场景的多张照片是用不同的曝光量拍摄的。该算法使用这些不同曝光的照片来恢复成像过程的响应函数,根据比例因素,使用互易性的假设。利用已知的响应函数,Debevec方法可以将多张照片融合成单一的高动态范围亮度映射图,其像素值与场景中的真实亮度辐射度值成正比。
与胶片一样,响应曲线中最显著的非线性是在饱和点处,在饱和点处,任何辐射度高于某一水平的像素都映射于相同的最大图像值,所以单幅图片的动态范围是有限的。为了获取高动态范围的响应曲线,可以选择感兴趣的亮度辐射度值范围,并确定适当的曝光时间。通过拍摄并融合一系列不同曝光的照片来覆盖场景中的整个动态范围。
利用Debevec方法,能够通过场景的一系列不同曝光的照片获取描述图像中的像素值和获取图像时使用的曝光值之间的关系的响应曲线。因此,基于Debevec方法没有引入场景的真实亮度对响应曲线进行标定,只能通过推算像素之间的相对亮度。在画面过暗或过亮的情况下,推算的相对亮度相比于真实亮度也具有较大的误差。此外,Debevec方法也没有考虑目前的互补金属氧化物半导体(CMOS)传感器的曝光增益的参数
为了解决相关技术中的上述问题,本公开提供了一种新的利用响应曲线获取具有高动态范围的目标图像的方法。以下结合附图详细描述本公开的实施例。
图1示出了根据本公开的实施例的图像处理方法的示例性过程的流程图。
如图1所示,在步骤S102中,可以获取针对同一场景拍摄的第一图像和第二图像。其中,第一图像的第一曝光量可以大于第二图像的第二曝光量,第一图像和第二图像可以具有相同的图像区域。
在步骤S104中,基于对应于第一曝光量的第一响应曲线和第一图像中至少一个第一像素的像素值,可以确定对应于第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值。
在步骤S106中,基于对应于第二曝光量的第二响应曲线和第二图像中至少一个第二像素的像素值,可以确定对应于第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值。
在步骤S108中,可以基于第一对象的灰阶值和第二对象的灰阶值确定目标图像。
利用本公开的实施例提供的图像处理方法,可以利用对应于不同曝光量的响应曲线,分别确定基于不同曝光量获取的图像中各个像素在场景中对应的对象的真实亮度,从而能够进一步利用场景中对象的真实亮度确定包含场景中对象的目标图像,其中目标图像的动态范围大于第一图像和第二图像。
以下详细描述方法100的各个步骤。
在步骤S102中,可以获取针对同一场景拍摄的第一图像和第二图像。其中,第一图像的第一曝光量可以大于第二图像的第二曝光量,第一图像和第二图像可以具有相同的图像区域。
在一些实施例中,第一图像和第二图像中包括几乎相同的对象。由于获取第一图像时使用的第一曝光量和获取第二图像时使用的第二曝光量是不同的,因此第一图像和第二图像具有不同的动态范围。在第一曝光量大于第二曝光量的情况下,对于被拍摄的场景中真实亮度较高的区域,利用第一曝光量获取的图像中该区域可能会出现过曝的情况。
在一些实现方式中,第一曝光量可以是基于获取第一图像时使用的第一曝光时间而确定的,第二曝光量可以是基于获取第二图像时使用的第二曝光时间而确定的。在另一些实现方式中,第一曝光量可以是基于获取第一图像时使用的第一曝光时间和第一曝光增益而确定的,第二曝光量是基于获取第二图像时使用的第二曝光时间和第二曝光增益而确定的。例如,第一曝光量可以是第一曝光时间和第一曝光增益的乘积,第二曝光量可以是第二曝光时间和第二曝光增益的乘积。通过控制图像传感器的曝光时间和曝光增益,可以调整图像传感器在获取图像时使用的曝光量,从而能够获取具有不同动态范围的第一图像和第二图像。
在步骤S104中,基于对应于第一曝光量的第一响应曲线和第一图像中至少一个第一像素的像素值,可以确定对应于第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值。
在步骤S106中,基于对应于第二曝光量的第二响应曲线和第二图像中至少一个第二像素的像素值,可以确定对应于第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值。
其中,步骤S104中使用的第一响应曲线可以对应于图像传感器的标定响应曲线指示的在第一曝光量下第一图像中至少一个第一像素的像素值与对应于第一像素的场景中的第一对象的灰阶值之间的第一映射关系。步骤S106中使用的第二响应曲线对应于标定响应曲线指示的在第二曝光量下第二图像中至少一个第二像素的像素值与对应于第二像素的场景中的第二对象的灰阶值之间的第二映射关系。其中,灰阶值指示场景中的对象的真实亮度。
利用上述第一响应曲线和第二响应曲线,可以基于第一图像中的像素值和第二图像中的像素值确定被拍摄的场景中的对象的真实亮度。对于第一图像中的任一像素,可以利用第一响应曲线确定用于该像素的灰阶值。类似地,对于第二图像中的任一像素,可以利用第二响应曲线确定用于该像素的灰阶值。由于第一响应曲线和第二响应曲线都指示在相应曝光量下像素值和场景中的对象的真实亮度之间的关系,因此,利用第一响应曲线可以确定对应于第一图像中图像区域内所有像素的第一灰阶图,利用第二响应曲线可以确定对应于第二图像中图像区域内所有像素的第二灰阶图。在不存在过曝的情况下,第一灰阶图和第二灰阶图应该是相同的,即都反映了图像区域中的对象在场景中的真实亮度。
然而,如果图像中出现了过曝,超过某一亮度水平的像素在图像中都对应于相同的饱和像素值,因此将无法利用响应曲线确定过曝区域中像素对应的灰阶值。在这种情况下,可以通过对不同曝光量获取的图像确定的灰阶图进行融合来得到图像区域内像素对应的灰阶值。
可以利用更小曝光量获取的图像(如第二图像)确定过曝区域中像素对应的灰阶值。在一些实施例中,如果第二图像中也存在过曝,则可以使用具有第三曝光量的第三图像来获取第二图像中的过曝区域的图像信息。其中第三曝光量可以小于第二曝光量。在不脱离本公开的实施例的原理的情况下,可以使用两个或更多个图像的像素值信息和对应的响应曲线来获得对应于图像区域内的像素的场景中的对象的真实亮度。在本公开中以第二图像不存在过曝区域为例描述本公开的原理,然而本领域技术人员可以理解的是,本公开的实施方案不限于此。
利用像素阈值可以确定第一图像中的过曝区域。例如,可以将第一图像中的高于像素阈值的像素的集合确定为过曝区域。也就是说,第一图像中的具有不高于像素阈值的至少一个第一像素的集合形成第一图像中的非过曝区域。其中,过曝区域与非过曝区域在图像区域中的位置不同。
在一些实施例中,第一图像中的至少一个第一像素具有不高于像素阈值的像素值,第二图像中的至少一个第二像素在图像区域中的位置不同于至少一个第一像素在图像区域中的位置。其中,像素阈值可以小于图像传感器的饱和像素值。其中图像传感器的饱和像素值可以是基于图像传感器的数据位宽确定的。对于具有k位数据位宽的图像传感器来说,饱和像素值可以是2的k次方。例如,对于具有12位数据位宽的图像传感器来说,饱和像素值可以是212=4096(即2的12次方)。
在一些实现方式中,上述像素阈值可以是基于图像传感器的饱和像素值和过曝系数确定的。在一些示例中,过曝系数可以是大于0并小于1的系数。因此像素阈值可以小于图像传感器的饱和像素值。在另一些实现方式中,像素阈值也可以是用户预先指定的小于饱和像素值的任何像素值。
在步骤S108中,可以基于第一对象的灰阶值和第二对象的灰阶值确定目标图像。
利用步骤S104和步骤S106中确定的第一对象(对应于第一图像中的非过曝区域)的灰阶值和第二对象(对应于第一图像中的过曝区域)的灰阶值可以确定目标图像中的各个像素的像素值。
在一些实施例中,可以利用反映射曲线对第一对象的灰阶值和第二对象的灰阶值进行反映射,以得到目标图像中第一对象的像素位置和第二对象的像素位置的目标像素值。其中,反映射曲线可以指示目标图像中各个像素位置处的目标像素值与灰阶值之间的映射关系。在反映射曲线中,灰阶值越大,目标像素值越大。在此不限制反映射曲线的具体形式。在另一些实施例中,可以利用任何其他数据处理方式对第一对象的灰阶值和第二对象的灰阶值进行处理以得到对应于各个灰阶值的图像像素值,只要满足灰阶值越大,目标像素值越大的约束条件即可。
针对彩色的目标图像,可以利用本公开提供的方式对各个颜色通道的图像的像素值进行处理,以获取各个颜色通道的目标像素值。通过融合各个颜色通道的目标像素值可以得到彩色的目标图像。
图2A示出了根据本公开的实施例的第一响应曲线和第二响应曲线的示例。
如图2A所示,第一响应曲线201指示了第一曝光量下图像像素值与场景中对象的灰阶值之间的映射关系,第二响应曲线202指示了第二曝光量下图像像素值与场景中对象的灰阶值之间的映射关系。
饱和分界点203指示了第一图像中过曝区域和非过曝区域的分界点。在一些示例中,对于具有12位数据位宽的图像传感器来说,饱和分界点203的像素值可以是略小于图像传感器的饱和像素值4096的像素阈值。例如,像素阈值可以被确定为4090或任何其他合适的值。
从图2A中可以看出,在不高于饱和分界点203的像素值的范围内,第一响应曲线201可以很好地表示图像像素值和灰阶值之间的映射关系。而在高于饱和分界点203的像素值的范围内,第一响应曲线201开始进入饱和区域,利用第一响应曲线201将无法确定比像素阈值更高的像素值对应的灰阶值,因为任何高于饱和分界点203的灰阶值都被映射为相同的饱和像素值。
因此,对于第一图像中的过曝区域,可以利用第二响应曲线202确定过曝区域内的像素对应的灰阶值。可以看出,由于第二曝光量小于第一曝光量,第二响应曲线比第一响应曲线更晚进入饱和区域。在第一图像中位于过曝区域内的像素在第二图像中没有过曝。因此可以利用第二图像和用于第二图像的第二响应曲线202确定过曝区域中像素对应的场景中的对象的灰阶值。
图2B示出了根据本公开的实施例的第一响应曲线和第二响应曲线以及反映射曲线的示例。
如图2B所示,曲线206和曲线207分别对应于第一曝光量下的第一图像的第一响应曲线和第二曝光量下的第二图像的第二响应曲线。曲线204对应于本公开的实施例的反映射曲线。
在利用第一响应曲线206和第二响应曲线207分别确定用于图像区域中各个像素的灰阶值后,可以利用反映射曲线204确定目标图像中各个像素的像素值。其中灰阶值越高,像素的像素值越大。
在一些实施例中,如图2B所示,可以基于第一响应曲线206的一部分确定反映射曲线204的至少一部分。在灰阶值小于临界点205的范围内,反映射曲线和第一响应曲线206可以是重合的。利用这种方法,对于灰阶值小于临界点205的对象,通过反映射曲线得到的目标图像中的像素值可以与通过图像传感器实际获取的像素值是相同的,从而能够以接近于真实采集的图像的方式生成目标图像的一部分。对于灰阶值不小于临界点205的对象,可以利用任何数学工具生成反映射曲线的具体形式,只要满足灰阶值越高则像素的像素值越大的约束条件即可。反映射曲线可以被实现为线性函数、多项式函数或任何可能的单调递增的函数。利用这种方式,在目标图像中,环境中具有更高的真实亮度的对象在图像中也相应被体现为具有更高的像素值,从而使得目标图像能够正确体现真实环境中的对象的亮度差异,并由此能够基于第一图像和第二图像生成具有更大动态范围的目标图像。
为了得到结合图1、图2A和图2B描述的实施例中涉及的描述图像像素值与环境中对象的灰阶值之间的映射关系的响应曲线,本公开还提供了一种用于标定图像传感器的响应曲线的方法。
图3示出了根据本公开的实施例的用于标定响应曲线的方法的示例性过程的流程图。
如图3所示,在步骤S302中,可以以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像。
在步骤S304中,可以基于第一标定图像中分别对应于第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线。其中,第一标定曲线可以指示第一标定曝光量下图像传感器采集的像素值与第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。
在步骤S306中,可以以不同于第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的多个标定灰阶的第二标定图像。
在步骤S308中,可以基于第二标定图像中分别对应于第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线。其中,第二标定曲线可以指示第二曝光量下图像传感器采集的像素值与第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。
在步骤S310中,可以基于第一标定曲线和第二标定曲线进行拟合,以得到图像传感器的响应曲线。其中响应曲线可以指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。其中,上述灰阶范围可以包含第一标定灰阶组和第二标定灰阶组中的至少一个。
利用本公开的实施例提供的用于标定图像传感器的响应曲线的方法,可以基于不同曝光量下采集的图像确定标定灰阶(即环境中的真实亮度)与所采集的图像中的像素值之间的映射关系,从而能够通过融合不同曝光量下的图像信息的方式确定预定的灰阶范围内环境中的真实亮度与所采集的图像中的像素值之间的映射关系。
以下详细描述方法300的各个步骤。
在步骤S302中,以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像。其中第一标定图像是由图像传感器获取的原始数据(raw图)。
在一些实施例中,可以通过以第一标定曝光量获取预定灰阶卡的图像作为第一标定图像。其中,预定灰阶卡可以包括以预定灰阶变化量变化的20阶灰阶。在一些示例中,预定灰阶卡中的灰阶可以是均匀变化的。
在步骤S304中,可以基于第一标定图像中分别对应于第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线。
基于步骤S302中获取的第一标定图像,可以针对每个标定灰阶在第一标定图像中的像素值。通过确定第一标定图像中对应于各个标定灰阶的各个第一标定位置并读取各个第一标定位置处的像素值,可以确定每个标定灰阶在第一标定图像中的像素值。可以通过对各个标定灰阶对应的像素值进行拟合得到第一标定曲线,其中第一标定曲线指示第一标定曝光量下图像传感器采集的像素值与第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。
在步骤S306中,可以以不同于第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的第二标定灰阶组中的多个标定灰阶的第二标定图像。其中第二标定图像是由图像传感器获取的原始数据。
在一些实现方式中,步骤S304和步骤S306中使用的第一标定曝光量和第二标定曝光量可以是基于获取图像时使用的曝光时间而确定的。其中,以CMOS图像每秒最多采集30帧图像为例,曝光时间最长可以是33ms。第一标定曝光量可以大于第二标定曝光量,也可以小于第二标定曝光量。在一些示例性的标定过程中,可以将最小标定曝光之间确定为1ms,并且以1ms的增量逐渐增加获取图像时使用的曝光时间。例如,第一标定曝光量的曝光时间可以是1ms,第二标定曝光量的曝光时间可以是2ms。又例如,第一标定曝光量的曝光时间可以是20ms,第二标定曝光量的曝光时间可以是3ms。在此不限制第一标定曝光量和第二标定曝光量的具体曝光时间,本领域技术人员可以根据实际情况选择合适的曝光时间。
在另一些实现方式中,步骤S304和步骤S306中使用的第一标定曝光量和第二标定曝光量可以是基于获取图像时使用的曝光时间和曝光增益。例如,第一标定曝光量可以是第一标定曝光时间和第一标定曝光的乘积,第一标定曝光量可以是第一标定曝光时间和第一标定曝光增益的乘积。在一些示例性的标定过程中,可以在保持曝光增益为1的情况下,首先通过增加曝光时间来增加获取图像时使用的曝光量。在达到最大曝光时间的情况下,保持曝光时间不变并同时逐渐改变曝光增益至最大曝光增益。
在步骤S308中,可以基于第二标定图像中分别对应于第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线。其中,第二标定曲线可以指示第二曝光量下图像传感器采集的像素值与第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。
与步骤S304相似,可以确定第二标定图像中对应于各个标定灰阶的各个第二标定位置并读取各个第二标定位置处的像素值,可以确定每个标定灰阶在第二标定图像中的像素值。可以通过对各个标定灰阶对应的像素值进行拟合得到第二标定曲线,其中第二标定曲线指示第二标定曝光量下图像传感器采集的像素值与第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。
在步骤S310中,可以基于第一标定曲线和第二标定曲线进行拟合,以得到图像传感器的响应曲线。其中响应曲线可以指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
在一些实施例中,第一标定灰阶组中的多个标定灰阶和第二标定灰阶组中的多个标定灰阶可以是相同的。在一些实现方式中,第一标定灰阶组可以包括从基准灰阶值开始以预定灰阶变化量变化的多个标定灰阶,第二标定灰阶组包括从基准灰阶值开始以相同预定灰阶变化量变化的相同数量的多个标定灰阶。由于第一标定图像和第二标定图像中包含的标定灰阶是相同的,因此,利用第一标定曲线和第二标定曲线可以确定针对同一灰阶值在不同曝光量下采集的图像中对应的不同像素值。
在另一些实施例中,第一标定灰阶组中的多个标定灰阶和第二标定灰阶组中的多个标定灰阶可以是不同的。例如,第一标定灰阶组可以包括从第一基准灰阶值开始以第一预定灰阶变化量变化的第一数量的多个标定灰阶。第二标定灰阶组可以包括从第二基准灰阶值开始以第二预定灰阶变化量变化的第二数量的多个标定灰阶。其中各种第一基准灰阶值和第二基准灰阶值可以是相同的,也可以是不同的。第一预定灰阶变化量和第二预定灰阶变化量可以是相同的,也可以是不同的。第一数量和第二数量可以是相同的,也可以是不同的。
在一些实施例中,响应曲线对应的灰阶范围可以包括第一标定灰阶组中的多个标定灰阶和/或第二标定灰阶组中的多个标定灰阶。在一些实现方式中,响应曲线对应的灰阶范围可以大于第一标定灰阶组和/或第二标定灰阶组的灰阶范围。也就是说,响应曲线对应的灰阶范围的最大灰阶值可以大于第一标定灰阶组的中最大标定灰阶值和第二标定灰阶组中的最大标定灰阶值。在一些示例中,响应曲线对应的灰阶范围可以包括基于预定灰阶变化量的60阶灰阶。在另一些示例中,响应曲线对应的灰阶范围也包括基于预定灰阶变化量的任何其他数量的灰阶,只要响应曲线对应的灰阶范围不小于第一标定灰阶组和/或第二标定灰阶组的灰阶范围即可。
在步骤S310中,基于步骤S306和步骤S308中确定的第一标定曲线和第二标定曲线,可以基于图像传感器的物理互易性(reciprocity)的假设,可以通过平移测量得到的标定曲线的方式将标定曲线覆盖的灰阶范围进行延伸,从而在无需实际拍摄更大范围的灰阶值的情况下,能够得到覆盖比预定的标定灰阶组更大的灰阶范围内的标定曲线。
图4A示出了根据本公开的实施例的标定曲线的示例。
如图4A所示,通过不断改变图像传感器获取图像时使用的曝光量,可以得到一系列指示图像像素值和灰阶值的映射关系的标定曲线。其中,图4A中示出的各条曲线是在不同的曝光量下测得的。对于同一灰阶值,曝光量越高,则图像传感器获取的图像中该灰阶值对应的像素值则越高。在图4A示出的示例中。标定曲线401对应的曝光量大于标定曲线402对应的曝光量,标定曲线402对应的曝光量大于标定曲线403对应的曝光量。
在图4A示出的示例中,针对标定图像中能够直接获取的20阶灰阶,能够通过图像传感器拍摄的图像直接获得20阶灰阶范围内的各条标定曲线。
在一些实施例中,基于图像传感器的物理互易性的假设,可以在图4A中获得的各条标定曲线的基础上,通过平移曲线对标定曲线进行理论延伸,从而获得在更大的灰阶范围内可用的标定曲线。
图4B示出了根据本公开的实施例的延伸的标定曲线的示例。
如图4B所示,对于曝光量较低的曲线来说,即使是标定灰阶中最亮的灰阶值为20的情况下,图像中的灰阶20所对应的像素值仍然较低并且距离饱和区域较远。在这种情况下,可以通过将更高曝光量的标定曲线的一部分进行平移并与更低曝光量的标定曲线进行拼接,可以得到在更低曝光量下标定曲线从灰阶20至更高灰阶(直至饱和区域)的曲线。
在一些实施例中,可以利用第一标定曲线对第二标定曲线进行延伸。
可以基于第二标定曲线确定第二标定曝光量下所述第二标定灰阶组的最大标定灰阶值对应的最大像素值。基于第二标定曲线上对应的最大像素值,将第一标定曲线中高于第二标定曲线的最大像素值的曲线部分与第二标定曲线拼接,以得到经调整的第二标定曲线,其中经调整的第二标定曲线指示灰阶范围中高于最大标定灰阶值的至少一个灰阶值在第二标定曝光量下与图像传感器采集的像素值之间的映射关系。基于第一标定曲线和第二标定曲线确定图像传感器的响应曲线。
如图4B所示,针对标定曲线407,可以确定标定曲线407在灰阶20处的最大像素值,并将将标定曲线404上大于标定曲线407的最大像素值的曲线部分平移到灰阶值20处以形成标定曲线404’,通过将标定曲线404’和标定曲线407在灰阶值20处进行拼接,可以将标定曲线407扩展到灰阶值大于20的灰阶范围内并得到标定曲线407的饱和区域。类似地,可以将标定曲线405平移后得到的标定曲线405’与标定曲线408在灰阶值20处进行拼接,将标定曲线406平移后得到的标定曲线406’与标定曲线409在灰阶值20处进行拼接。根据图像传感器的物理互易性,用于对第二标定曲线进行延伸的第一标定曲线可以是任意的,只要第一标定曲线对应的第一标定曝光量大于第二标定曲线对应的第二标定曝光量即可。在一些情况下,也可以将对应于不同曝光量的多于两条标定曲线进行拼接。
在确定了对应于包含标定灰阶的灰阶范围内的各条标定曲线后,可以利用灰阶范围内的各条标定曲线进行拟合以得到图像传感器的响应曲线。例如,可以对经调整的第二标定曲线与第一标定曲线进行拟合来得到图像传感器的响应曲线。
在一些实施例中,图像传感器的响应曲线可以被表示为图像像素值关于采集图像时的曝光量以及被采集的对象的灰阶值的函数。可以利用包括第一标定曲线、经调整的第二标定曲线在内的多个标定曲线来拟合响应曲线需要的参数。
可以利用公式(1)表示图像传感器的响应曲线:
其中I表示图像传感器采集的像素值,S表示灰阶值,E表示曝光量,a、γ、b、δ、w为常数。
图5A示出了根据本公开的实施例的图像处理过程的示例。
如图5A所示,在步骤S501中,可以利用图像传感器510以多个标定曝光量采集多个标定图像。根据多个标定图像中标定灰阶和图像像素值之间的预定关系,可以确定标定响应曲线530。其中标定响应曲线530指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
在步骤S502中,图像传感器510可以在不同的曝光量下分别采集第一图像520-1、第二图像520-2……以及第n图像502-n,其中n是大于2的整数。
在步骤S503中,可以利用标定响应曲线530对第一图像520-1、第二图像520-2……以及第n图像502-n分别进行处理。根据第一图像520-1、第二图像520-2……以及第n图像520-n对应的曝光量以及图像中各个像素的像素值,可以利用标定响应曲线530确定分别对应于第一图像520-1、第二图像520-2……以及第n图像520-n的第一亮度映射图像540-1、第二亮度映射图像540-2……以及第n亮度映射图像540-n,其中第一亮度映射图像540-1、第二亮度映射图像540-2……以及第n亮度映射图像540-n指示图像区域内每个像素点对应的场景中的对象的灰阶值,即真实亮度。
图5B示出了根据本公开的实施例的图像传感器采集的图像的示例,可以看出,在图5B中存在过曝区域,通过原始图像无法获取过曝区域中的图像细节。
在步骤S504中,可以基于第一图像520-1、第二图像520-2……以及第n图像520-n的像素值对第一亮度映射图像540-1、第二亮度映射图像540-2……以及第n亮度映射图像540-n进行融合,以得到融合亮度映射图550。其中,可以从具有最高曝光量的图像开始进行处理。以第一图像具有最高曝光量为例,可以将第一图像520-1中具有不高于像素阈值的至少一个第一像素(即非过曝区域)对应的第一亮度映射图像540-1中的灰阶值确定为融合亮度映射图550中对应像素的灰阶值。对于第一图像520-1中的过曝区域,可以使用具有更小曝光量的图像(如第二图像)对应的亮度映射图像确定过曝区域中至少部分像素的灰阶值。以此类推,直到融合亮度映射图550中的所有像素的灰阶值被确定。
在步骤S505中,可以利用融合亮度映射图550中指示的像素的灰阶值确定目标图像560。其中,融合亮度映射图550中具有更高灰阶值的像素在目标图像中具有更高的像素值。
图5C示出了根据本公开的示例的目标图像的示例。其中,图5C示出的图像是基于图5B中示出的图像确定的高动态范围的目标图像。如图5C所示,通过融合其他图像的信息,图5B中的过曝区域中的图像细节被恢复。因此图5C相对于图5B具有更好的视觉效果。
根据本公开的实施例,还提供了一种图像处理装置。图像处理装置可以包括图像获取单元、第一灰阶确定单元、第二灰阶确定单元以及目标图像确定单元,其中,图像获取单元可以配置成获取针对同一场景拍摄的第一图像和第二图像,其中所述第一图像的第一曝光量大于所述第二图像的第二曝光量,所述第一图像和所述第二图像具有相同的图像区域。第一灰阶确定单元可以配置成基于对应于所述第一曝光量的第一响应曲线和所述第一图像中至少一个第一像素的像素值,确定对应于所述第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值。第二灰阶确定单元可以配置成基于对应于所述第二曝光量的第二响应曲线和所述第二图像中至少一个第二像素的像素值,确定对应于所述第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值。目标图像确定单元可以配置成基于所述第一对象的灰阶值和所述第二对象的灰阶值确定目标图像。
这里,图像处理装置的上述各个单元的操作分别与前面描述的步骤S102~S108的操作类似,在此不再赘述。
根据本公开的实施例,还提供了一种用于标定图像传感器的响应曲线的装置。用于标定图像传感器的响应曲线的装置可以包括第一标定图像获取单元、第一标定曲线确定单元、第二标定图像获取单元、第二标定曲线确定单元以及响应曲线确定单元。其中,第一标定图像获取单元可以配置成以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像。第一标定曲线确定单元可以配置成基于所述第一标定图像中分别对应于所述第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线,所述第一标定曲线指示所述第一标定曝光量下图像传感器采集的像素值与所述第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。第二标定图像获取单元可以配置成以不同于所述第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的多个标定灰阶的第二标定图像。第二标定曲线确定单元可以配置成基于所述第二标定图像中分别对应于所述第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线,所述第二标定曲线指示所述第二曝光量下图像传感器采集的像素值与所述第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系。响应曲线确定单元可以配置成基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的响应曲线,其中所述响应曲线指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含所述第一标定灰阶组和所述第二标定灰阶组中的至少一个的多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
这里,用于标定图像传感器的响应曲线的装置的上述各个单元的操作分别与前面描述的步骤S302~S310的操作类似,在此不再赘述。
根据本公开的另一方面,还提供一种电子设备,包括:处理器;以及存储程序的存储器,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行上述的方法。
根据本公开的另一方面,还提供一种存储程序的非暂态计算机可读存储介质,所述程序包括指令,所述指令在由电子设备的处理器执行时,致使所述电子设备执行上述的方法。
根据本公开的另一方面,还提供一种计算机程序产品,包括计算机程序,所述计算机程序再被处理器执行时实现上述的方法。
参见图6,现将描述电子设备600,其是可以应用于本公开的各方面的硬件设备(电子设备)的示例。电子设备600可以是被配置为执行处理和/或计算的任何机器,可以是但不限于工作站、服务器、台式计算机、膝上型计算机、平板计算机、个人数字助理、机器人、智能电话、车载计算机或其任何组合。上述图像处理方法100以及用于标定响应曲线的方法300可以全部或至少部分地由电子设备600或类似设备或系统实现。
电子设备600可以包括(可能经由一个或多个接口)与总线602连接或与总线602通信的元件。例如,电子设备600可以包括总线602、一个或多个处理器604、一个或多个输入设备606以及一个或多个输出设备608。一个或多个处理器604可以是任何类型的处理器,并且可以包括但不限于一个或多个通用处理器和/或一个或多个专用处理器(例如特殊处理芯片)。输入设备606可以是能向电子设备600输入信息的任何类型的设备,并且可以包括但不限于鼠标、键盘、触摸屏、麦克风和/或遥控器。输出设备608可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。电子设备600还可以包括非暂时性存储设备610,非暂时性存储设备可以是非暂时性的并且可以实现数据存储的任何存储设备,包括但不限于磁盘驱动器、光学存储设备、固态存储器、软盘、柔性盘、硬盘、磁带或任何其他磁介质,光盘或任何其他光学介质、ROM(只读存储器)、RAM(随机存取存储器)、高速缓冲存储器和/或任何其他存储器芯片或盒、和/或计算机可从其读取数据、指令和/或代码的任何其他介质。非暂时性存储设备610可以从接口拆卸。非暂时性存储设备610可以具有用于实现上述方法和步骤的数据/程序(包括指令)/代码。电子设备600还可以包括通信设备612。通信设备612可以是使得能够与外部设备和/或与网络通信的任何类型的设备或系统,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信设备和/或芯片组,例如蓝牙TM设备、1302.11设备、Wi-Fi设备、Wi-Max设备、蜂窝通信设备和/或类似物。
电子设备600还可以包括工作存储器614,其可以是可以存储对处理器604的工作有用的程序(包括指令)和/或数据的任何类型的工作存储器,并且可以包括但不限于随机存取存储器和/或只读存储器设备。
软件要素(程序)可以位于工作存储器614中,包括但不限于操作系统616、一个或多个应用程序618、驱动程序和/或其他数据和代码。用于执行上述方法和步骤的指令可以被包括在一个或多个应用程序618中,并且上述图像处理方法100以及用于标定响应曲线的方法300可以通过由处理器604读取和执行一个或多个应用程序618的指令来实现。更具体地,上述图像处理方法100中,步骤S102-S108可以例如通过处理器604执行具有步骤S102-S108的指令的应用程序618而实现。上述用于标定响应曲线的方法300中,步骤S302-S310可以例如通过处理器604执行具有步骤S302-S310的指令的应用程序618而实现。此外,上述图像处理方法100以及用于标定响应曲线的方法300中的其它步骤可以例如通过处理器604执行具有执行相应步骤中的指令的应用程序618而实现。软件要素(程序)的指令的可执行代码或源代码可以存储在非暂时性计算机可读存储介质(例如上述存储设备610)中,并且在执行时可以被存入工作存储器614中(可能被编译和/或安装)。软件要素(程序)的指令的可执行代码或源代码也可以从远程位置下载。
还应该理解,可以根据具体要求而进行各种变型。例如,也可以使用定制硬件,和/或可以用硬件、软件、固件、中间件、微代码,硬件描述语言或其任何组合来实现特定元件。例如,所公开的方法和设备中的一些或全部可以通过使用根据本公开的逻辑和算法,用汇编语言或硬件编程语言(诸如VERILOG,VHDL,C++)对硬件(例如,包括现场可编程门阵列(FPGA)和/或可编程逻辑阵列(PLA)的可编程逻辑电路)进行编程来实现。
还应该理解,前述方法可以通过服务器-客户端模式来实现。例如,客户端可以接收用户输入的数据并将所述数据发送到服务器。客户端也可以接收用户输入的数据,进行前述方法中的一部分处理,并将处理所得到的数据发送到服务器。服务器可以接收来自客户端的数据,并且执行前述方法或前述方法中的另一部分,并将执行结果返回给客户端。客户端可以从服务器接收到方法的执行结果,并例如可以通过输出设备呈现给用户。
还应该理解,电子设备600的组件可以分布在网络上。例如,可以使用一个处理器执行一些处理,而同时可以由远离该一个处理器的另一个处理器执行其他处理。计算系统600的其他组件也可以类似地分布。这样,电子设备600可以被解释为在多个位置执行处理的分布式计算系统。
以下描述本公开的一些示例性方面。
方面1.一种图像处理方法,包括:
获取针对同一场景拍摄的第一图像和第二图像,其中所述第一图像的第一曝光量大于所述第二图像的第二曝光量,所述第一图像和所述第二图像具有相同的图像区域;
基于对应于所述第一曝光量的第一响应曲线和所述第一图像中至少一个第一像素的像素值,确定对应于所述第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值;
基于对应于所述第二曝光量的第二响应曲线和所述第二图像中至少一个第二像素的像素值,确定对应于所述第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值;以及
基于所述第一对象的灰阶值和所述第二对象的灰阶值确定目标图像。
方面2.如方面1所述的图像处理方法,其中,所述第一图像中的至少一个第一像素具有不高于像素阈值的像素值,所述第二图像中的至少一个第二像素在所述图像区域中的位置不同于所述至少一个第一像素在所述图像区域中的位置。
方面3.如方面2所述的图像处理方法,其中,所述像素阈值小于图像传感器的饱和像素值。
方面4.如方面3所述的图像处理方法,其中,所述像素阈值是基于图像传感器的饱和像素值和过曝系数确定的,所述过曝系数是大于0小于1的系数。
方面5.如方面1所述的图像处理方法,其中,基于所述第一对象的灰阶值和所述第二对象的灰阶值确定目标图像包括:
利用反映射曲线对所述第一对象的灰阶值和所述第二对象的灰阶值进行反映射,以得到所述目标图像中所述第一对象的像素位置和所述第二对象的像素位置的目标像素值,其中,所述反映射曲线指示所述目标图像中各个像素位置处的目标像素值与灰阶值之间的映射关系。
方面6.如方面5所述的图像处理方法,所述反映射曲线中,所述灰阶值越大,所述目标像素值越大。
方面7.如方面1所述的图像处理方法,其中,所述第一曝光量是基于获取所述第一图像时使用的第一曝光时间和第一曝光增益而确定的,所述第二曝光量是基于获取所述第二图像时使用的第二曝光时间和第二曝光增益而确定的。
方面8.如方面1所述的图像处理方法,其中,所述第一响应曲线对应于图像传感器的标定响应曲线指示的在所述第一曝光量下所述第一图像中至少一个第一像素的像素值与对应于所述第一像素的场景中的第一对象的灰阶值之间的第一映射关系,所述第二响应曲线对应于所述标定响应曲线指示的在所述第二曝光量下所述第二图像中至少一个第二像素的像素值与对应于所述第二像素的场景中的第二对象的灰阶值之间的第二映射关系。
方面9.如方面8所述的图像处理方法,其中所述标定响应曲线是通过以下步骤确定的:
以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像;
基于所述第一标定图像中分别对应于所述第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线,所述第一标定曲线指示所述第一标定曝光量下图像传感器采集的像素值与所述第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;
以不同于所述第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的多个标定灰阶的第二标定图像;
基于所述第二标定图像中分别对应于所述第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线,所述第二标定曲线指示所述第二曝光量下图像传感器采集的像素值与所述第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;以及
基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的标定响应曲线,其中所述标定响应曲线指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含所述第一标定灰阶组和所述第二标定灰阶组中的至少一个的多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
方面10.如方面9所述的图像处理方法,其中,基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的标定响应曲线包括:
基于所述第二标定曲线确定第二标定曝光量下所述第二标定灰阶组中的多个标定灰阶中最大标定灰阶值对应的最大像素值;
基于所述最大像素值将所述第一标定曲线中高于所述第二标定曲线的最大像素值的曲线部分与所述第二标定曲线拼接,以得到经调整的第二标定曲线,其中所述经调整的第二标定曲线指示所述灰阶范围中高于所述最大标定灰阶值的至少一个灰阶值在第二标定曝光量下与图像传感器采集的像素值之间的映射关系;以及
对所述经调整的第二标定曲线与所述第一标定曲线进行拟合以得到所述标定响应曲线。
方面11.如方面9所述的图像处理方法,其中所述第二标定曝光量小于所述第一标定曝光量。
方面12.如方面9所述的图像处理方法,其中所述第一标定灰阶组包括从基准灰阶值开始以预定灰阶变化量变化的多个标定灰阶,所述第二标定灰阶组包括从基准灰阶值开始以相同预定灰阶变化量变化的相同数量的多个标定灰阶。
方面13.如方面9-12中任一项所述的图像处理方法,其中,所述标定响应曲线表示为下式:
其中I表示图像传感器采集的像素值,S表示灰阶值,E表示曝光量,a、γ、b、δ、w为常数。
方面14.一种用于标定图像传感器的响应曲线的方法,包括:
以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像;
基于所述第一标定图像中分别对应于所述第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线,所述第一标定曲线指示所述第一标定曝光量下图像传感器采集的像素值与所述第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;
以不同于所述第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的多个标定灰阶的第二标定图像;
基于所述第二标定图像中分别对应于所述第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线,所述第二标定曲线指示所述第二曝光量下图像传感器采集的像素值与所述第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;以及
基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的响应曲线,其中所述响应曲线指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含所述第一标定灰阶组和所述第二标定灰阶组中的至少一个的多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
方面15.如方面14所述的方法,其中,所述曝光量是基于利用所述图像传感器获取图像时使用的曝光时间和曝光增益而确定的。
方面16.如方面14所述的方法,其中所述第二标定曝光量小于所述第一标定曝光量。
方面17.如方面14所述的方法,其中所述第一标定灰阶组包括从基准灰阶值开始以预定灰阶变化量变化的多个标定灰阶,所述第二标定灰阶组包括从基准灰阶值开始以相同预定灰阶变化量变化的相同数量的多个标定灰阶。
方面18.如方面14所述的方法,其中,所述多个标定灰阶以预定灰阶变化量变化,所述包含所述灰阶范围的最大灰阶值大于所述第一标定灰阶组的最大标定灰阶值和所述第二标定灰阶组的最大标定灰阶值。
方面19.如方面14所述的方法,其中,基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的响应曲线包括:
基于所述第二标定曲线确定第二标定曝光量下所述第二标定灰阶组的最大标定灰阶值对应的最大像素值;
基于所述最大像素值将所述第一标定曲线中高于所述第二标定曲线的最大像素值的曲线部分与所述第二标定曲线拼接,以得到经调整的第二标定曲线,其中所述经调整的第二标定曲线指示所述灰阶范围中高于所述最大标定灰阶值的至少一个灰阶值在第二标定曝光量下与图像传感器采集的像素值之间的映射关系;以及
对所述经调整的第二标定曲线与所述第一标定曲线进行拟合以得到所述响应曲线。
方面20.如方面14-19中任一项所述的方法,其中,所述响应曲线表示为下式:
其中I表示图像传感器采集的像素值,S表示灰阶值,E表示曝光量,a、γ、b、δ、w为常数。
方面21.一种电子设备,包括:
处理器;以及
存储程序的存储器,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行根据方面1-20中任一项所述的方法。
方面22.一种存储程序的非暂态计算机可读存储介质,所述程序包括指令,所述指令在由电子设备的处理器执行时,致使所述电子设备执行根据方面1-20中任一项所述的方法。
方面23.一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现根据方面1-20中任一项所述的方法。
虽然已经参照附图描述了本公开的实施例或示例,但应理解,上述的方法、系统和设备仅仅是示例性的实施例或示例,本发明的范围并不由这些实施例或示例限制,而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外,可以通过不同于本公开中描述的次序来执行各步骤。进一步地,可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进,在此描述的很多要素可以由本公开之后出现的等同要素进行替换。
Claims (10)
1.一种图像处理方法,包括:
获取针对同一场景拍摄的第一图像和第二图像,其中所述第一图像的第一曝光量大于所述第二图像的第二曝光量,所述第一图像和所述第二图像具有相同的图像区域;
基于对应于所述第一曝光量的第一响应曲线和所述第一图像中至少一个第一像素的像素值,确定对应于所述第一图像中至少一个第一像素的像素位置的场景中的第一对象的灰阶值;
基于对应于所述第二曝光量的第二响应曲线和所述第二图像中至少一个第二像素的像素值,确定对应于所述第二图像中至少一个第二像素的像素位置的场景中的第二对象的灰阶值;以及
基于所述第一对象的灰阶值和所述第二对象的灰阶值确定目标图像。
2.如权利要求1所述的图像处理方法,其中,所述第一图像中的至少一个第一像素具有不高于像素阈值的像素值,所述第二图像中的至少一个第二像素在所述图像区域中的位置不同于所述至少一个第一像素在所述图像区域中的位置。
3.如权利要求2所述的图像处理方法,其中,所述像素阈值小于图像传感器的饱和像素值。
4.如权利要求3所述的图像处理方法,其中,所述像素阈值是基于图像传感器的饱和像素值和过曝系数确定的,所述过曝系数是大于0小于1的系数。
5.如权利要求1所述的图像处理方法,其中,基于所述第一对象的灰阶值和所述第二对象的灰阶值确定目标图像包括:
利用反映射曲线对所述第一对象的灰阶值和所述第二对象的灰阶值进行反映射,以得到所述目标图像中所述第一对象的像素位置和所述第二对象的像素位置的目标像素值,其中,所述反映射曲线指示所述目标图像中各个像素位置处的目标像素值与灰阶值之间的映射关系。
6.如权利要求5所述的图像处理方法,所述反映射曲线中,所述灰阶值越大,所述目标像素值越大。
7.一种用于标定图像传感器的响应曲线的方法,包括:
以第一标定曝光量获取包括第一标定灰阶组中的多个标定灰阶的第一标定图像;
基于所述第一标定图像中分别对应于所述第一标定灰阶组中的多个标定灰阶的多个第一标定位置处的像素值确定第一标定曲线,所述第一标定曲线指示所述第一标定曝光量下图像传感器采集的像素值与所述第一标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;
以不同于所述第一标定曝光量的第二标定曝光量获取包括第二标定灰阶组中的多个标定灰阶的第二标定图像;
基于所述第二标定图像中分别对应于所述第二标定灰阶组中的多个标定灰阶的多个第二标定位置处的像素值确定第二标定曲线,所述第二标定曲线指示所述第二曝光量下图像传感器采集的像素值与所述第二标定灰阶组中的多个标定灰阶的灰阶值之间的映射关系;以及
基于所述第一标定曲线和所述第二标定曲线确定所述图像传感器的响应曲线,其中所述响应曲线指示图像传感器采集的像素值与采集图像时使用的曝光量以及包含所述第一标定灰阶组和所述第二标定灰阶组中的至少一个的多个标定灰阶的灰阶范围内的灰阶值之间的映射关系。
8.一种电子设备,包括:
处理器;以及
存储程序的存储器,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行根据权利要求1-7中任一项所述的方法。
9.一种存储程序的非暂态计算机可读存储介质,所述程序包括指令,所述指令在由电子设备的处理器执行时,致使所述电子设备执行根据权利要求1-7中任一项所述的方法。
10.一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111172854.4A CN113808222A (zh) | 2021-10-08 | 2021-10-08 | 图像处理方法、电子设备和存储介质 |
PCT/CN2022/123779 WO2023056926A1 (zh) | 2021-10-08 | 2022-10-08 | 图像处理方法、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111172854.4A CN113808222A (zh) | 2021-10-08 | 2021-10-08 | 图像处理方法、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113808222A true CN113808222A (zh) | 2021-12-17 |
Family
ID=78897373
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111172854.4A Pending CN113808222A (zh) | 2021-10-08 | 2021-10-08 | 图像处理方法、电子设备和存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113808222A (zh) |
WO (1) | WO2023056926A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023056926A1 (zh) * | 2021-10-08 | 2023-04-13 | 上海肇观电子科技有限公司 | 图像处理方法、电子设备和存储介质 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102420944B (zh) * | 2011-04-25 | 2013-10-16 | 展讯通信(上海)有限公司 | 一种高动态范围图像合成方法及装置 |
CN103841384A (zh) * | 2012-11-20 | 2014-06-04 | 腾讯科技(深圳)有限公司 | 一种图像质量的优化方法及装置 |
JP6116272B2 (ja) * | 2013-02-08 | 2017-04-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法、プログラム、記憶媒体 |
CN104050651B (zh) * | 2014-06-19 | 2017-06-30 | 青岛海信电器股份有限公司 | 一种场景图像的处理方法及装置 |
CN107197167B (zh) * | 2016-03-14 | 2019-12-20 | 杭州海康威视数字技术股份有限公司 | 一种获得图像的方法及装置 |
CN112950517B (zh) * | 2021-02-25 | 2023-11-03 | 浙江光珀智能科技有限公司 | 深度相机高动态范围深度图与灰度图的融合方法及装置 |
CN113411508B (zh) * | 2021-05-31 | 2022-07-01 | 东南大学 | 一种基于相机亮度测量的非视域成像方法 |
CN113808222A (zh) * | 2021-10-08 | 2021-12-17 | 上海肇观电子科技有限公司 | 图像处理方法、电子设备和存储介质 |
-
2021
- 2021-10-08 CN CN202111172854.4A patent/CN113808222A/zh active Pending
-
2022
- 2022-10-08 WO PCT/CN2022/123779 patent/WO2023056926A1/zh unknown
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023056926A1 (zh) * | 2021-10-08 | 2023-04-13 | 上海肇观电子科技有限公司 | 图像处理方法、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2023056926A1 (zh) | 2023-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108805103B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN108668093B (zh) | Hdr图像的生成方法及装置 | |
EP3609177B1 (en) | Control method, control apparatus, imaging device, and electronic device | |
US9432579B1 (en) | Digital image processing | |
EP3694203A1 (en) | Method and device for obtaining exposure compensation value of high-dynamic-range image | |
CN101527860B (zh) | 白平衡控制设备及其控制方法和摄像设备 | |
JP4133052B2 (ja) | デジタル撮像システム | |
CN111028137B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN112514359B (zh) | 图像捕获方法、装置、机器可读存储装置 | |
US11508038B2 (en) | Image processing method, storage medium, image processing apparatus, learned model manufacturing method, and image processing system | |
JP6935272B2 (ja) | ハイダイナミックレンジ画像を作成する装置、方法、及びプログラム | |
CN108989699B (zh) | 图像合成方法、装置、成像设备、电子设备以及计算机可读存储介质 | |
CN110677558B (zh) | 图像处理方法与电子装置 | |
CN113674193A (zh) | 图像融合方法、电子设备和存储介质 | |
CN113439286A (zh) | 处理合成图像中的图像数据 | |
CN114930811A (zh) | 用于深白平衡编辑的方法和装置 | |
WO2023056926A1 (zh) | 图像处理方法、电子设备和存储介质 | |
US20170048443A1 (en) | Image capturing device | |
CN106575434B (zh) | 图像处理装置、摄像装置以及图像处理方法 | |
CN113315956B (zh) | 图像处理设备、摄像设备、图像处理方法和机器可读介质 | |
JP5127638B2 (ja) | 画像処理装置およびその方法 | |
JP2010183460A (ja) | 撮像装置およびその制御方法 | |
JP6786273B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN111080543B (zh) | 图像处理方法及装置、电子设备及计算机可读存储介质 | |
CN111340736B (zh) | 图像处理方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |