CN116805990A - 图像处理设备、摄像设备、图像处理方法和存储介质 - Google Patents
图像处理设备、摄像设备、图像处理方法和存储介质 Download PDFInfo
- Publication number
- CN116805990A CN116805990A CN202310262447.5A CN202310262447A CN116805990A CN 116805990 A CN116805990 A CN 116805990A CN 202310262447 A CN202310262447 A CN 202310262447A CN 116805990 A CN116805990 A CN 116805990A
- Authority
- CN
- China
- Prior art keywords
- image
- images
- saturation
- generate
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 79
- 238000003672 processing method Methods 0.000 title claims abstract description 4
- 238000012937 correction Methods 0.000 claims abstract description 55
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 50
- 238000001514 detection method Methods 0.000 claims abstract description 7
- 238000000034 method Methods 0.000 claims description 28
- 230000015572 biosynthetic process Effects 0.000 claims description 20
- 238000003786 synthesis reaction Methods 0.000 claims description 20
- 239000002131 composite material Substances 0.000 claims description 19
- 229920006395 saturated elastomer Polymers 0.000 claims description 19
- 238000003384 imaging method Methods 0.000 claims description 10
- 230000007935 neutral effect Effects 0.000 claims description 3
- 210000000746 body region Anatomy 0.000 claims 1
- 230000009467 reduction Effects 0.000 description 35
- 238000004364 calculation method Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 17
- 239000000203 mixture Substances 0.000 description 10
- 230000006870 function Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000011946 reduction process Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/60—Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3871—Composing, repositioning or otherwise geometrically modifying originals the composed originals being of different kinds, e.g. low- and high-resolution originals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本发明涉及图像处理设备、摄像设备、图像处理方法和存储介质。图像处理设备包括:检测单元,其被配置为检测多个图像中的各个图像的饱和区域;校正单元,其被配置为校正所述饱和区域的颜色和明度中的至少一个,并且生成多个饱和度校正图像;第一合成单元,其被配置为使用所述多个饱和度校正图像来生成第一合成图像;第二合成单元,其被配置为使用所述多个图像来生成第二合成图像;以及第三合成单元,其被配置为将所述第一合成图像和所述第二合成图像进行合成以生成第三合成图像。
Description
技术领域
本发明涉及图像处理设备,并且尤其涉及用于合成图像的图像处理设备。
背景技术
日本特开2015-136087讨论了如下的技术:将在不附接物理中性密度(neutraldensity,ND)滤波器的情况下进行分割曝光时所拍摄的多个图像进行合成,从而与附接了物理ND滤波器的情况类似地实现防止过度曝光等。
然而,存在如下的情况:当进行分割曝光时所拍摄的图像的区域中的像素值饱和时,在经过平均处理之后的合成图像中的与该区域相对应的部分中出现色相偏移和明度降低的现象。
发明内容
本公开是考虑到上述问题而作出的,并且其目的在于提供能够防止在将在进行分割曝光时所拍摄的多个图像进行合成时合成图像中出现色相偏移和明度降低的摄像设备。
根据一些实施例,一种图像处理设备,包括:检测单元,其被配置为检测多个图像的饱和区域;校正单元,其被配置为校正所述饱和区域的颜色和明度中的至少一个,并且生成多个饱和度校正图像;第一合成单元,其被配置为使用所述多个饱和度校正图像来生成第一合成图像;第二合成单元,其被配置为使用所述多个图像来生成第二合成图像;以及第三合成单元,其被配置为将所述第一合成图像和所述第二合成图像进行合成以生成第三合成图像。
通过参考附图对示例性实施例的以下描述,本公开的进一步特征将变得明显。
附图说明
图1是示出根据一些实施例的摄像设备的框图。
图2是示出根据一些实施例的合成单元的配置示例的图。
图3是示出根据一些实施例的合成单元所进行的处理的流程的流程图。
图4是示出根据一些实施例的摄像条件的示例的图。
图5是示出根据一些实施例的颜色校正单元的配置示例的图。
图6是示出根据一些实施例的颜色校正单元所进行的处理的流程的流程图。
图7是示出根据一些实施例的颜色饱和度降低增益计算曲线的示例的图。
图8是示出根据一些实施例的明度校正单元的配置示例的图。
图9是示出根据一些实施例的明度校正单元所进行的处理的流程的流程图。
图10是示出根据一些实施例的亮度增强增益计算曲线的示例的图。
图11A至图11E是示出根据一些实施例的图像处理之前和之后的像素值的变化的图。
图12是示出根据一些实施例的积分图像合成单元的配置示例的图。
图13是示出根据一些实施例的积分图像合成单元所进行的处理的流程的流程图。
图14是示出根据一些实施例的合成比率计算曲线的示例的图。
具体实施方式
下面将参考附图详细描述本公开的示例性实施例。以下不同的示例性实施例不限制所要求保护的发明的范围,并且示例性实施例中所描述的特征的所有组合对于用于解决本公开的问题未必是必需的。
在第一示例性实施例中,生成了如下的合成图像,其中在该合成图像中,通过将通过在不附接物理中性密度(ND)滤波器的情况下进行分割曝光而获得的多个图像(分割曝光图像)进行合成,来抑制过度曝光。
图1是示出根据本示例性实施例的摄像设备的框图。下面参考图1描述根据本示例性实施例的配置示例。
控制单元101例如是包括一个或多个处理器、电路或者其组合的中央处理单元(CPU),并且控制单元101从只读存储器(ROM)102读出用于摄像设备100中所包括的各个块的控制程序,将该控制程序加载到(下面将描述的)随机存取存储器(RAM)103中,并且执行该控制程序。
ROM 102是电可擦除且可记录的非易失性存储器,并且ROM 102除了存储用于摄像设备100中所包括的各个块的操作程序之外,还存储各个块的操作参数等。
RAM 103是可重写易失性存储器,并且RAM 103用于控制单元101所执行的程序的加载、以及由摄像设备100中所包括的各个块的操作生成的数据的临时存储等。
光学系统104由包括变焦透镜和调焦透镜的透镜组以及光圈机构构成,并且在下面将描述的摄像单元105的摄像面上形成被摄体图像。
摄像单元105例如是诸如电荷耦合器件(CCD)传感器和互补金属氧化物半导体(CMOS)传感器等的图像传感器。摄像单元105对光学系统104在摄像单元105的摄像面上形成的光学图像进行光电转换,并且将所获得的模拟图像信号输出到模/数(A/D)转换单元106。
A/D转换单元106将输入的模拟信号转换为数字图像数据,并输出该数字图像数据。从A/D转换单元106输出的数字图像数据被临时存储在RAM 103中。
图像处理单元107对存储在RAM 103中的图像数据进行各种图像处理。具体地,图像处理单元107进行诸如去马赛克处理、降噪处理、白平衡校正处理和伽马处理等的用于显像、显示和记录数字图像数据的各种图像处理。图像处理单元107还包括用于进行作为本示例性实施例的特征的合成处理的合成单元200。下面将描述合成处理的细节。
记录单元108将包括图像数据的数据记录在内置记录介质中。
显示单元109包括诸如液晶显示器(LCD)等的显示装置,并且在显示装置上显示存储在RAM 103中的图像和记录在记录单元108中的图像。显示单元109还显示用于接受来自用户的指令的操作用户界面。
随后,参考图2描述作为本示例性实施例的特征的图像处理单元107中所包括的合成单元200的配置示例。
图2是示出根据本示例性实施例的合成单元200的配置示例的图。合成单元200包括颜色校正单元201、明度校正单元202、饱和度校正积分图像生成单元203、单纯积分图像生成单元204、积分图像合成单元205和增益乘法单元206。
随后,参考图3中的流程图详细描述合成单元200所进行的用于将多个分割曝光图像进行合成的处理的流程。
图3是示出根据本示例性实施例的合成单元200所进行的用于将多个分割曝光图像进行合成的处理的流程的流程图。在步骤S301中,控制单元101设置摄像条件,并使摄像单元105在所设置的摄像条件下拍摄图像。
现在参考图4详细描述由控制单元101进行的摄像条件的设置。图4示意性地示出了在用户将4秒的快门速度、F4.0的孔径光阑、ISO(国际标准组织)100的ISO感光度和ND4的ND密度设置为曝光条件的情况下的摄像处理的示例中的摄像条件。这里提到的ND密度表示被摄体光的减少程度。例如,ND2表示光减少一级,ND4表示光减少两级,并且ND8表示光减少三级。在本公开中,由于在不附接物理ND滤波器的情况下进行摄像处理,因此通过增加快门速度来降低要减少的光量的曝光。因此,控制单元101将用户所设置的孔径光阑和ISO感光度设置为摄像条件,并且通过将用户所设置的快门速度增加了由于ND密度的光减少量,来设置快门速度。具体地,如图4所示,在快门速度是4秒并且ND密度是ND4的情况下,可能希望将光减少两级,因此将作为将快门速度增加两级的结果而获得的1秒设置为一个分割曝光图像的摄像条件。此外,控制单元101设置拍摄图像的数量,使得多个分割曝光图像的总曝光时间和用户所设置的快门速度彼此相等。由于在图4所示的示例中,一个分割曝光图像的曝光时间是1秒,并且用户所设置的快门速度是4秒,因此控制单元101将拍摄图像的数量设置为4。
在本示例性实施例中,假设对多个分割曝光图像中的各个分割曝光图像进行相同曝光来进行描述。
尽可能多地缩短从分割曝光图像的曝光的结束到下一分割曝光图像的曝光的开始的不进行曝光的时间(非曝光时间),这可以使移动体的运动模糊平滑。
当用户按压快门按钮(未示出)时,控制单元101开始用于摄像的处理。控制单元101基于在步骤S301中设置的摄像条件来控制光学系统104和摄像单元105,并且将被摄体光的拍摄重复所设置的拍摄图像的数量,以生成分割曝光图像数据。在本示例性实施例中,由合成单元200处理的分割曝光图像的格式的示例包括拜耳阵列的红-绿-蓝(RGB)格式(BAYER-RAW)。在这种情况下,各个分割曝光图像由具有线性信号特性的R、G、B像素构成。然而,分割曝光图像的格式不限于此。例如,可以采用诸如RGB 444、YUV 444、YUV 422和ICtCp等的图像格式。
在步骤S302中,图像处理单元107检测拍摄图像中的饱和区域。作为示例,图像处理单元107将拍摄图像中的具有大于或等于预定值的像素值的区域检测为饱和区域。
在步骤S303中,颜色校正单元201对在步骤S301中拍摄到的多个分割曝光图像进行校正,以降低饱和区域的颜色饱和度来防止色相偏移。下面将描述颜色校正单元201的细节。本文提到的色相偏移表示被摄体的原始色相和图像数据上的色相彼此不同的状态。
在步骤S304中,明度校正单元202对在步骤S303中经过颜色校正的图像数据进行校正以增加饱和区域的明度,从而防止明度降低。下面将描述明度校正单元202的细节。
在步骤S305中,饱和度校正积分图像生成单元203将在步骤S304中经过明度校正的图像数据(被称为饱和度校正图像)顺次且累积地相加,以生成饱和度校正积分图像。
在步骤S306中,单纯积分图像生成单元204将在步骤S301中拍摄到的分割曝光图像顺次且累积地相加,以生成单纯积分图像。
在步骤S307中,重复从步骤S303至S306的处理,直到进行了拍摄图像的数量的步骤S305和S306中的积分处理为止。
在步骤S308中,积分图像合成单元205将饱和度校正积分图像和单纯积分图像进行合成。下面将描述积分图像合成单元205的细节。
在步骤S309中,增益乘法单元206将在步骤S308中合成的积分图像数据乘以控制单元101所计算出的“拍摄图像的数量分之一”的增益。也就是说,增益乘法单元206将通过对与拍摄图像的数量相对应的分割曝光图像进行积分并合成而获得的合成积分图像数据乘以拍摄图像的数量分之一的增益,以进行平均处理。
如上所述,合成单元200将多个分割曝光图像进行合成。结果,将快门速度被设置为增加的多个分割曝光图像进行合成,这可以在不附接物理ND滤波器的情况下将曝光减少了所设置的ND密度的量。在图4所示的示例中,合成单元200将通过在从4秒、F4.0和ISO 100的曝光条件降低了与ND4相对应的两级的1秒、F4.0和ISO 100的曝光条件下进行曝光而拍摄到的四个分割曝光图像进行合成,由此可以生成抑制了过度曝光的合成图像。
随后,参考图5至图7和图11A至图11E描述合成单元200中所包括的颜色校正单元201的细节。
图5是示出根据本示例性实施例的颜色校正单元201的配置示例的图。颜色校正单元201包括去拜耳(debayer)处理单元501、颜色饱和度降低增益计算单元502、白平衡(WB)系数乘法单元503、颜色饱和度降低处理单元504和WB逆系数乘法单元505。
随后,参考图6中的流程图详细描述颜色校正单元201所进行的用于降低分割曝光图像中的饱和区域的颜色饱和度的处理的流程。
图6是示出根据本示例性实施例的颜色校正单元201所进行的处理的流程的流程图。
在步骤S601中,去拜耳处理单元501对BAYER-RAW格式的分割曝光图像进行去拜耳处理,并输出RGB 444格式的图像数据。假设根据本示例性实施例的去拜耳处理采用了使用利用平滑滤波器的插值处理的已知方法,并且省略了对该方法的详细描述。
在步骤S602中,颜色饱和度降低增益计算单元502在RGB 444格式的图像数据中,基于在相应位置处的R像素值、G像素值和B像素值中的最大像素值来计算颜色饱和度降低增益。参考图7详细描述颜色饱和度降低增益的计算方法。图7是示出根据本公开的示例性实施例的颜色饱和度降低增益计算曲线的示例的图。如图7所示,颜色饱和度降低增益计算单元502计算颜色饱和度降低增益,使得颜色饱和度降低增益随着最大像素值在超过某个值之后变得更接近饱和度水平而增加。
在步骤S603中,WB系数乘法单元503将分割曝光图像乘以WB系数。图11A至图11E是示出根据本示例性实施例的图像处理之前和之后的像素值的变化的图。图11A示出了分割曝光图像。图11B示出了通过将分割曝光图像乘以WB系数而获得的图像数据。图11B示出了作为将分割曝光图像乘以WB系数的结果而使R像素值变为分割曝光图像中的R像素值的1.8倍大、并且B像素值变为分割曝光图像中的B像素值的1.5倍大的示例。WB系数乘法单元503逐个颜色地将图11A所示的分割曝光图像乘以WB系数,并且输出如图11B所示的WB系数乘法图像。
在步骤S604中,颜色饱和度降低处理单元504基于在步骤S602中计算出的颜色饱和度降低增益,对步骤S603中乘以WB系数的图像数据进行颜色饱和度降低处理。具体地,颜色饱和度降低处理单元504基于以下式(1)和式(2)来进行颜色饱和度降低处理。
SAT_Rwb =(Rwb - G)×(1.0 - SAT_GAIN)+ G ... (1)
SAT_Bwb =(Bwb - G)×(1.0 - SAT_GAIN)+ G ... (2)
SAT_Rwb表示经过了颜色饱和度降低处理的R像素值,并且SAT_Bwb表示经过了颜色饱和度降低处理的B像素值。Rwb表示WB系数乘法图像的R像素值。G表示WB系数乘法图像的G像素值。Bwb表示WB系数乘法图像的B像素值。SAT_GAIN表示颜色饱和度降低增益。在本示例性实施例中,颜色饱和度降低处理单元504在不对G像素值进行任何处理的情况下输出G像素值。
图11C指示通过对WB系数乘法图像进行颜色饱和度降低处理而获得的像素值。
根据式(1)和式(2),当SAT_GAIN是最大值1.0时,如图11C所示,SAT_Rwb的像素值和SAT_Bwb的像素值变为等于G像素值,并且经过了颜色饱和度降低处理的部分变为非彩色。也就是说,式(1)和式(2)表示通过颜色饱和度降低增益来控制R像素值和B像素值与G像素值近似的程度、并降低颜色饱和度的处理。
在步骤S605中,WB逆系数乘法单元505将经过了WB处理的颜色饱和度降低处理图像乘以WB逆系数。图11D示出了通过将经过了WB处理的颜色饱和度降低处理图像乘以WB逆系数而获得的图像数据。图11D示出了作为将颜色饱和度降低处理图像乘以WB逆系数的结果而使R像素值和B像素值分别变为颜色饱和度降低处理图像中的R像素值的1/1.8倍和颜色饱和度降低处理图像中的B像素值的1/1.5倍的示例。WB逆系数乘法单元505逐个颜色地将经过了WB处理的颜色饱和度降低处理图像乘以WB逆系数,生成如图11D所示的WB逆乘法图像,并且输出WB逆乘法图像作为没有经过WB处理的颜色饱和度降低图像。
如上所述,降低分割曝光图像中的具有接近饱和度水平的像素值的区域的颜色饱和度,这可以防止在根据多个图像所生成的合成图像中出现的色相偏移。
在本示例性实施例中,已经对输入/输出未乘以WB系数的BAYER-RAW格式图像数据的示例进行了描述,但是所输入/输出的图像数据可以是乘以WB系数的数据。在这种情况下,不需要进行图6中的流程图中的步骤S603中的WB系数乘法处理和步骤S605中的WB逆系数乘法处理。
随后,参考图8至图10和图11A至图11E描述合成单元200中所包括的明度校正单元202的细节。
图8是示出根据本示例性实施例的明度校正单元202的配置示例的图。明度校正单元202包括去拜耳处理单元801、亮度增强增益计算单元802和亮度增强处理单元803。
接下来,参考图9中的流程图详细描述明度校正单元202所进行的用于增加与分割曝光图像中的饱和区域相对应的颜色饱和度降低图像的区域的明度的处理的流程。
图9是示出根据本示例性实施例的明度校正单元202所进行的处理的流程的流程图。在步骤S901中,去拜耳处理单元801对BAYER-RAW格式的分割曝光图像进行去拜耳处理,并且输出RGB 444格式的图像数据。假设根据本示例性实施例的去拜耳处理采用了使用利用平滑滤波器的插值处理的已知方法,并且省略了对该方法的详细描述。
在步骤S902中,亮度增强增益计算单元802在RGB 444格式的图像数据中,基于在相应位置处的R像素值、G像素值和B像素值中的最大像素值来计算亮度增强增益。参考图10详细描述亮度增强增益的计算方法。图10是示出根据本示例性实施例的亮度增强增益计算曲线的示例的图。如图10所示,亮度增强增益计算单元802计算亮度增强增益,使得亮度增强增益随着最大像素值变得更接近饱和度水平而增加。当最大像素值小时,亮度增强增益为1.0(无增益)。
在步骤S903中,亮度增强处理单元803将颜色饱和度降低图像乘以在步骤S902中计算出的亮度增强增益。具体地,基于以下式(3)、式(4)和式(5),将颜色饱和度降低图像乘以亮度增强增益。
BRT_R = SAT_R × BRT_GAIN ... (3)
BRT_G = SAT_G × BRT_GAIN ... (4)
BRT_B = SAT_B × BRT_GAIN ... (5)
BRT_R表示乘以亮度增强增益的R像素值。BRT_G表示乘以亮度增强增益的G像素值。BRT_B表示乘以亮度增强增益的B像素值。SAT_R表示颜色饱和度降低图像的R像素值。SAT_G表示颜色饱和度降低图像的G像素值。SAT_B表示颜色饱和度降低图像的B像素值。BRT_GAIN表示亮度增强增益。
图11E示出了通过将图11D中的WB逆系数乘法图像(颜色饱和度降低图像)乘以两倍的亮度增强增益而获得的亮度增强图像的像素值。
如式(3)、式(4)和式(5)所示,亮度增强处理单元803通过将颜色饱和度降低图像乘以亮度增强增益来进行用于增加颜色饱和度降低图像的明度的校正,并且输出亮度增强图像。
如上所述,增加与分割曝光图像中的具有接近饱和度水平的像素值的区域相对应的颜色饱和度降低图像的区域的明度,这可以防止在根据多个图像所生成的合成图像中出现的明度降低。
接下来,参考图12至图14描述合成单元200中所包括的积分图像合成单元205的细节。
图12是示出根据本示例性实施例的积分图像合成单元205的配置示例的图。积分图像合成单元205包括去拜耳处理单元1201、合成比率计算单元1202和合成处理单元1203。
随后,参考图13中的流程图详细描述积分图像合成单元205所进行的用于将饱和度校正积分图像和单纯积分图像进行合成的处理的流程。
图13是示出根据示例性实施例的积分图像合成单元205所进行的处理的流程的流程图。
在步骤S1301中,去拜耳处理单元1201对BAYER-RAW格式的单纯积分图像进行去拜耳处理,并输出RGB 444格式的图像数据。假设根据本示例性实施例的去拜耳处理采用了使用利用平滑滤波器的插值处理的已知方法,并且省略了对该方法的详细描述。
在步骤S1302中,合成比率计算单元1202在RGB 444格式的图像数据中,基于在相应位置处的R像素值、G像素值和B像素值中的最大像素值来计算合成比率。参考图14详细描述合成比率的计算方法,其示出根据本示例性实施例的合成比率计算曲线的示例。如图14所示,合成比率计算单元1202计算单纯积分图像的合成比率,使得合成比率随着最大像素值在超过某个值之后变得更接近积分图像的饱和度水平而增加。这里提到的积分图像的饱和度水平是通过将分割曝光图像的饱和度水平乘以积分图像的数量而获得的值。
现在对合成比率计算单元1202计算合成比率使得单纯积分图像的合成比率随着最大像素值变得更接近积分图像的饱和度水平而变得更高的原因进行描述。在与分割曝光图像中的被摄体保持静止的饱和区域相对应的饱和度校正积分图像的一部分中,颜色饱和度降低,并且明度也增强。相反,在与分割曝光图像中的被摄体保持静止的饱和区域相对应的单纯积分图像的一部分中,图像质量大体上等同于可以在附接有物理ND滤波器的情况下实现的图像质量。因此,合成比率计算单元1202针对分割曝光图像中的被摄体保持静止的饱和区域增加单纯积分图像的合成比率。
由于与分割曝光图像中的被摄体保持静止的饱和区域相对应的所有分割曝光图像的各个部分具有接近饱和度水平的像素值,因此与前述区域相对应的单纯积分图像的区域具有接近积分图像的饱和度水平的像素值。相反,在分割曝光图像中的被摄体正在移动的饱和区域中,存在分割曝光图像中的部分具有接近饱和度水平的像素值的情况、以及分割曝光图像中的部分由于被摄体的移动而不具有接近饱和度水平的像素值的情况这两者。因此,与分割曝光图像中的被摄体正在移动的饱和区域相对应的单纯积分图像的区域具有远离积分图像的饱和度水平的低像素值。
因此,合成比率计算单元1202计算合成比率,使得单纯积分图像的合成比率随着单纯积分图像中的最大像素值变得更接近积分图像的饱和度水平而变得更高,由此单纯积分图像的合成比率在分割曝光图像中的被摄体保持静止的饱和区域中变得更高。
在步骤S1303中,合成处理单元1203基于在步骤S1302中计算出的合成比率来将饱和度校正积分图像和单纯积分图像进行合成,并且输出合成图像作为积分合成图像。
如上所述,通过将饱和度校正积分图像和单纯积分图像进行合成,可以增加单纯积分图像在与具有接近单纯积分图像的饱和度水平的像素值的区域相对应的饱和度校正积分图像的区域中的比率。
在本示例性实施例中,已经对合成单元200对分割曝光图像中的饱和区域进行颜色校正和明度校正这两者的示例进行了描述,但是合成单元200可以仅进行颜色校正或仅进行明度校正。
此外,在本示例性实施例中,已经对积分图像合成单元205基于单纯积分图像来计算合成比率的示例进行了描述,但是积分图像合成单元205可以基于饱和度校正积分图像来计算合成比率。在基于饱和度校正积分图像来计算合成比率的情况下,饱和度校正积分图像的像素值通过颜色校正和明度校正来改变。因此,应该根据饱和度校正积分图像的像素值的变化量来改变积分图像的饱和度水平。
在合成单元200对分割曝光图像中的饱和区域仅进行颜色校正而不进行明度校正的情况下,单纯积分图像中的G像素值和饱和度校正积分图像中的G像素值是相同的,因此积分图像合成单元205可以基于饱和度校正积分图像的G像素值来计算合成比率。
在本示例性实施例中,已经对增益乘法单元206将合成积分图像乘以增益的示例进行了描述,但是要经过与该增益的乘法的图像不限于此。例如,增益乘法单元206可以进行将通过将饱和度校正积分图像和单纯积分图像中的每一个乘以增益而获得的图像进行合成的处理。
其他示例性实施例
虽然在上述示例性实施例中进行了基于个人数字照相机的描述,但是示例性实施例适用于的设备实现合成功能,并且示例性实施例也可以适用于移动装置、智能电话和连接到服务器的网络照相机等。
本公开还可以通过经由网络或存储介质向系统或设备供给用于实现上述示例性实施例的一个或多于一个功能的程序、并使该系统或设备的计算机中的一个或多于一个处理器读取和执行该程序来实现。此外,本公开可以通过用于实现一个或多于一个功能的电路(例如,专用集成电路(ASIC))来实现。
根据本公开,调整多个图像中的饱和区域的明度和颜色中的至少一个,这可以防止根据多个图像所生成的合成图像中的色相偏移和明度降低。
其他实施例
本公开的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将进行上述实施例的功能的软件(程序)提供给系统或设备,该系统或设备的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并进行程序的方法。
虽然已经参考示例性实施例描述了本公开,但是应当理解,本公开不限于所公开的示例性实施例。所附权利要求书的范围应符合最广泛的解释,以便涵盖所有这样的修改以及等同的结构和功能。
Claims (19)
1.一种图像处理设备,包括:
检测单元,其被配置为检测多个图像中的各个图像的饱和区域;
校正单元,其被配置为校正所述饱和区域的颜色和明度中的至少一个,并且生成多个饱和度校正图像;
第一合成单元,其被配置为使用所述多个饱和度校正图像来生成第一合成图像;
第二合成单元,其被配置为使用所述多个图像来生成第二合成图像;以及
第三合成单元,其被配置为将所述第一合成图像和所述第二合成图像进行合成以生成第三合成图像。
2.根据权利要求1所述的图像处理设备,其中,所述第三合成单元被配置为基于所述第二合成图像的像素值来计算用于生成所述第三合成图像的合成比率。
3.根据权利要求1或2所述的图像处理设备,其中,所述第三合成单元被配置为基于所述第一合成图像的像素值来计算用于生成所述第三合成图像的合成比率。
4.根据权利要求1或2所述的图像处理设备,其中,所述第一合成单元被配置为对所述多个饱和度校正图像进行积分以生成所述第一合成图像。
5.根据权利要求1或2所述的图像处理设备,其中,所述第二合成单元被配置为对所述多个图像进行积分以生成所述第二合成图像。
6.根据权利要求1或2所述的图像处理设备,还包括增益乘法单元,所述增益乘法单元被配置为对所述第三合成图像进行增益乘法。
7.根据权利要求1或2所述的图像处理设备,还包括增益乘法单元,所述增益乘法单元被配置为对所述第一合成图像和所述第二合成图像进行增益乘法,
其中,所述第三合成单元被配置为将经过了所述增益乘法单元所进行的增益乘法的所述第一合成图像和所述第二合成图像进行合成,并且生成所述第三合成图像。
8.根据权利要求1或2所述的图像处理设备,其中,所述校正单元被配置为进行校正,以降低所述饱和区域的颜色饱和度。
9.根据权利要求1或2所述的图像处理设备,其中,所述校正单元被配置为进行校正,以增加所述饱和区域的明度。
10.根据权利要求1或2所述的图像处理设备,其中,所述检测单元被配置为基于所述多个图像的像素值来检测所述饱和区域。
11.根据权利要求10所述的图像处理设备,其中,所述检测单元被配置为将具有大于或等于预定值的像素值的区域检测为所述饱和区域。
12.根据权利要求1或2所述的图像处理设备,其中,所述多个图像包括具有线性信号特性的红色像素即R像素、绿色像素即G像素和蓝色像素即B像素。
13.根据权利要求1或2所述的图像处理设备,其中,所述多个图像的曝光是相同的。
14.一种摄像设备,包括:
摄像单元,其被配置为拍摄多个图像;
检测单元,其被配置为检测所述多个图像中的饱和区域;
校正单元,其被配置为校正所述饱和区域的颜色和明度中的至少一个,并且生成多个饱和度校正图像;
第一合成单元,其被配置为使用所述多个饱和度校正图像来生成第一合成图像;
第二合成单元,其被配置为使用所述多个图像来生成第二合成图像;以及
第三合成单元,其被配置为将所述第一合成图像和所述第二合成图像进行合成以生成第三合成图像。
15.根据权利要求14所述的摄像设备,其中,所述摄像单元被配置为在不附接中性密度滤波器即ND滤波器的情况下拍摄所述多个图像。
16.一种图像处理设备,包括:
检测单元,其被配置为检测多个图像中的各个图像的饱和区域;
校正单元,其被配置为校正所述饱和区域的颜色,并且生成多个饱和度校正图像;以及
合成单元,其被配置为使用所述多个饱和度校正图像来生成合成图像。
17.一种图像处理设备,包括:
合成单元,其被配置为使用多个图像,并且以伪方式生成曝光时间长于所述多个图像中的各个图像的曝光时间的合成图像;以及
校正单元,其被配置为校正所述合成图像中的饱和移动体区域。
18.一种图像处理方法,包括:
检测多个图像中的各个图像的饱和区域;
校正所述饱和区域的颜色和明度中的至少一个,并且生成多个饱和度校正图像;
使用所述多个饱和度校正图像来生成第一合成图像;
使用所述多个图像来生成第二合成图像;以及
将所述第一合成图像和所述第二合成图像进行合成以生成第三合成图像。
19.一种计算机可读存储介质,其存储有使计算机执行方法的程序,所述方法包括:
检测多个图像中的各个图像的饱和区域;
校正所述饱和区域的颜色和明度中的至少一个,并且生成多个饱和度校正图像;
使用所述多个饱和度校正图像来生成第一合成图像;
使用所述多个图像来生成第二合成图像;以及
将所述第一合成图像和所述第二合成图像进行合成以生成第三合成图像。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022-047455 | 2022-03-23 | ||
JP2022047455A JP2023141237A (ja) | 2022-03-23 | 2022-03-23 | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116805990A true CN116805990A (zh) | 2023-09-26 |
Family
ID=88078819
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310262447.5A Pending CN116805990A (zh) | 2022-03-23 | 2023-03-17 | 图像处理设备、摄像设备、图像处理方法和存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230308594A1 (zh) |
JP (1) | JP2023141237A (zh) |
CN (1) | CN116805990A (zh) |
-
2022
- 2022-03-23 JP JP2022047455A patent/JP2023141237A/ja active Pending
-
2023
- 2023-03-16 US US18/185,290 patent/US20230308594A1/en active Pending
- 2023-03-17 CN CN202310262447.5A patent/CN116805990A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
US20230308594A1 (en) | 2023-09-28 |
JP2023141237A (ja) | 2023-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101229600B1 (ko) | 촬상 장치, 손떨림 보정 방법 및 기록 매체 | |
KR100819804B1 (ko) | 촬상 장치 | |
KR101099401B1 (ko) | 화상 처리 장치 및 컴퓨터가 판독 가능한 기록 매체 | |
JP5701664B2 (ja) | 撮像装置 | |
JP6343200B2 (ja) | 撮像装置およびその制御方法ならびにプログラム | |
US10992854B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium | |
CN102065223A (zh) | 摄像装置及摄像方法 | |
WO2014038685A1 (en) | Image processor, imaging apparatus equipped with the same, and image processing method | |
JP2018207413A (ja) | 撮像装置 | |
JP5076650B2 (ja) | 撮像装置および画像処理プログラム | |
US8964055B2 (en) | Combining images based on position offset detection of a series of images | |
KR20090013047A (ko) | 화소보간회로, 화소보간방법 및 기록매체 | |
US20070269133A1 (en) | Image-data noise reduction apparatus and method of controlling same | |
JP2008160190A (ja) | 撮像装置、およびその方法 | |
KR101612853B1 (ko) | 촬영장치, 촬영장치의 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 | |
JP2009118052A (ja) | 画像信号処理方法及び装置 | |
CN116805990A (zh) | 图像处理设备、摄像设备、图像处理方法和存储介质 | |
US7551204B2 (en) | Imaging apparatus having a color image data measuring function | |
JP5482428B2 (ja) | 撮像装置、手ブレ補正方法、プログラム | |
JP2004215063A (ja) | 撮像装置及び輪郭補正方法 | |
US8854256B2 (en) | Image capture apparatus and method of controlling the same | |
US20230328339A1 (en) | Image capture apparatus and control method thereof, and image processing apparatus | |
US9013606B2 (en) | Image processing apparatus and control method thereof | |
US8665351B2 (en) | Image processing device, electronic camera, and storage medium storing image processing program | |
JP2006109046A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |