CN118154448A - 图像处理方法、装置、终端设备、系统和可读存储介质 - Google Patents
图像处理方法、装置、终端设备、系统和可读存储介质 Download PDFInfo
- Publication number
- CN118154448A CN118154448A CN202211496510.3A CN202211496510A CN118154448A CN 118154448 A CN118154448 A CN 118154448A CN 202211496510 A CN202211496510 A CN 202211496510A CN 118154448 A CN118154448 A CN 118154448A
- Authority
- CN
- China
- Prior art keywords
- image
- processed
- weight
- pixel point
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 38
- 238000012545 processing Methods 0.000 claims abstract description 203
- 230000004927 fusion Effects 0.000 claims abstract description 104
- 230000007704 transition Effects 0.000 claims description 47
- 238000009499 grossing Methods 0.000 claims description 32
- 238000000034 method Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 23
- 230000008569 process Effects 0.000 claims description 12
- 239000003086 colorant Substances 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000004044 response Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 230000014759 maintenance of location Effects 0.000 description 5
- 238000005192 partition Methods 0.000 description 4
- 230000000717 retained effect Effects 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- PEDCQBHIVMGVHV-UHFFFAOYSA-N Glycerine Chemical compound OCC(O)CO PEDCQBHIVMGVHV-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Abstract
本申请适用于图像处理技术领域,提供了一种图像处理方法、装置、终端设备、系统和可读存储介质。其中,上述图像处理方法包括:获取待处理图像和背景图像;接收用户对图像处理参数的设置操作,得到用户设置的图像处理参数,图像处理参数包括待处理图像中待抠除的像素点的参考信息;根据待处理图像中像素点的像素信息和图像处理参数,确定待处理图像中像素点的处理权重,处理权重与待处理图像中像素点和待抠除的像素点在颜色上的差异相关;根据处理权重,对背景图像和待处理图像进行图像融合,得到目标图像。本申请的实施例可以使得保留在目标图像中的前景对象符合用户的需求。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及一种图像处理方法、装置、终端设备、系统和可读存储介质。
背景技术
色度抠图(Chroma Key)也称为绿幕抠图,是从图像或视频中精确提取出前景对象,并将前景对象无缝融合到新背景中的一种技术。这种技术可将拍摄场景中的演员置于全新的背景中,从而给人以震撼的视觉效果。在直播领域和虚拟拍摄领域,常常会使用将摄像头、灯光、绿幕一体化的绿棚式解决方案,结合色度抠图来实现3D虚拟场景的融合渲染。
相关技术中,色度抠图多为人工地采用After Effect、Photoshop等后期抠图处理软件对图像进行处理,这种方式操作复杂度高,难以满足实时性的要求。另一些色度抠图方案会采用图像处理算法进行抠图及合成处理,实际应用中发现,这些算法的鲁棒性较差,受环境光照等因素影响,抠图结果中的前景对象常与用户的需求不符,例如可能出现前景对象的完整度较低或出现多余部分的情况,导致合成后的图像真实感降低。
发明内容
本申请实施例提供一种图像处理方法、装置、终端设备、系统和存储介质,可以解决抠图结果中的前景对象与用户需求不符的问题。
本申请实施例第一方面提供一种图像处理方法,包括:获取待处理图像和背景图像;接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,所述图像处理参数包括所述待处理图像中待抠除的像素点的参考信息;根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,所述处理权重与所述待处理图像中像素点与所述待抠除的像素点在颜色上的差异相关;根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像。
本申请实施例第二方面提供的一种图像处理装置,包括:图像获取单元,用于获取待处理图像和背景图像;图像处理参数获取单元,用于接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,所述图像处理参数包括所述待处理图像中待抠除的像素点的参考信息;图像处理权重确定单元,用于根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,所述处理权重与所述待处理图像中像素点与所述待抠除的像素点在颜色上的差异相关;图像融合单元,用于根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像。
本申请实施例第三方面提供一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述图像处理方法的步骤。
本申请实施例第四方面提供一种虚拟拍摄系统,包括采集设备和终端设备;所述采集设备用于采集待处理图像;所述终端设备用于获取所述待处理图像和背景图像,并根据第一方面所述图像处理方法,对所述待处理图像和所述背景图像进行处理,得到目标图像。
本申请实施例第五方面提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述图像处理方法的步骤。
本申请实施例第六方面提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中所述的图像处理方法。
在本申请的实施方式中,颜色的差异可以从色度、亮度等不同的维度上的差异进行衡量,因此,根据与待处理图像中像素点和待抠除的像素点在颜色上的差异相关的处理权重,对待处理图像和背景图像进行图像融合时,可以考虑各个像素点在色度和亮度上与待抠除的像素点之间的差异,对于与待抠除的像素点相比,色度相近但亮度区别较大的像素点,例如“影子”的像素点、“云朵”的像素点,可根据处理权重在目标图像中保留或去除,使得保留在目标图像中的前景对象符合用户的需求,进而提高目标图像的真实感。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种图像处理方法的实现流程示意图;
图2是本申请实施例提供的确定色度权重的具体实现流程示意图一;
图3是本申请实施例提供的图像区域的示意图;
图4是本申请实施例提供的确定色度权重的具体实现流程示意图二;
图5是本申请实施例提供的饱和度区域的示意图;
图6是本申请实施例提供的确定亮度权重的具体实现流程示意图;
图7是本申请实施例提供的软件界面的示意图;
图8是本申请实施例提供的图像处理的流程示意图一;
图9是本申请实施例提供的确定融合权重的具体实现流程示意图;
图10是本申请实施例提供的图像处理的流程示意图二;
图11是本申请实施例提供的一种图像处理装置的结构示意图;
图12是本申请实施例提供的终端设备的结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护。
相关技术中,色度抠图多为人工地采用After Effect、Photoshop等后期抠图处理软件对图像进行处理,这种方式操作复杂度高,难以满足实时性的要求。另一些色度抠图方案会采用图像处理算法进行抠图及合成处理,实际应用中发现,这些算法的鲁棒性较差,受环境光照等因素影响,抠图结果中的前景对象常与用户的需求不符,例如可能出现前景对象的完整度较低或出现多余部分的情况,导致合成后的图像真实感降低。
例如,对于绿幕图像内的物体与物体的影子,由于影子投影在绿幕上,影子在视觉上会呈现“暗绿色”,相关的抠图技术对影子的像素点不能够很好进行分辨,导致合成后的图像中的影子部分缺失。对于希望保留影子的用户而言,合成后的图像中前景对象的完整度较低,对于不希望保留影子的用户而言,合成后的图像中前景对象出现了多余的影子,导致最终合成后的图像真实感降低。又例如,对于绿幕图像内的月亮及月边的云朵,由于云朵投影在绿幕上,云朵在视觉上会呈现“亮绿色”,相关的抠图技术对云朵的像素点不能够很好进行分辨,导致合成后的图像中的云朵部分缺失。对于希望保留云朵的用户而言,合成后的图像中前景对象的完整度较低,对于不希望保留云朵的用户而言,合成后的图像中前景对象出现了多余的云朵,导致最终合成后的图像真实感降低。
经研究发现,上述问题的产生,是相关技术未考虑前景对象的像素点和待抠除的像素点(或待抠除的背景)在光影上的区别,而光影上的区别可以由颜色在亮度维度上的差异衡量。基于此发现,本申请提出一种图像处理方法,在进行图像合成时,同时考虑前景对象的像素点和待抠除的像素点在颜色上的差异,颜色与色度、亮度等参数相关,使得“影子”、“云朵”等在亮度上与待抠除的像素点存在明显差异的部分可以被保留或被去除,进而使得前景对象可以符合用户的需求,提高合成后的图像的真实感。
为了说明本申请的技术方案,下面通过具体实施例来进行说明。
图1示出了本申请实施例提供的一种图像处理方法的实现流程示意图,该方法可以应用于终端设备上,可适用于需使得前景对象可以符合用户的需求,提高合成后的图像的真实感的情形。其中,上述终端设备可以是智能手机、计算机、用于对视频或图像进行处理的专用设备等不同类型的智能设备。例如,上述终端设备可以是虚拟拍摄系统中的服务器、发送设备或者视频处理设备等具有图像处理功能的智能设备。
具体的,上述图像处理方法可以包括以下步骤S101至步骤S104。
步骤S101,获取待处理图像和背景图像。
本申请实施方式中的图像处理,旨在将一张图像中的前景对象合成至另一张图像中,实现背景的替换。待处理图像可以为需要抠取前景对象的图像,具体可以是背景为目标颜色的图像,例如绿幕图像。背景图像可以为用于与前景对象进行合成,作为前景对象的背景的图像。换言之,本申请可将待处理图像的背景替换为背景图像。
需要说明的是,待处理图像和背景图像的获取方式可以根据实际情况进行选择。
在一些实施方式中,终端设备可以获取摄像机对拍摄场景进行实时拍摄得到的待处理图像。例如,在将摄像头、灯光、绿幕一体化的绿棚式解决方案中,可将灯光投射在位于绿幕前的前景对象(如演员)上,通过摄像头对前景对象和绿幕进行拍摄,并将拍摄到的待处理图像实时传输至终端设备,以通过终端设备对待处理图像进行图像处理。其他实施方式,终端设备也可以获取存储在外部存储器或其他设备上的待处理图像。
在一些实施方式中,终端设备可以获取用户在终端设备上通过绘图软件绘制的背景图像,也可以获取存储在外部存储器或其他设备上的背景图像。
步骤S102,接收用户对图像处理参数的设置操作,得到用户设置的图像处理参数。
其中,上述图像处理参数可以为对待处理图像进行处理的参数。在本申请的实施方式中,上述图像处理参数可以包括待处理图像中待抠除的像素点的参考信息,待抠除的像素点也即待处理图像中背景的像素点。
在本申请的一些实施方式中,参考信息可以是待抠除的像素点的颜色信息、光学信息或其他信息。具体的,参考信息可以包括待抠除的像素点的色调(Hue)、饱和度(Saturation,Sat)、亮度(Value)等。其中,色调可用于区分颜色,通常可以用角度度量,其取值范围通常为0°至360°,红色为0°、黄色为60°、绿色为120°、青色为180°、蓝色为240°、紫色为300°。饱和度可用于表示颜色接近光谱色的程度,一种颜色可以看成是某种光谱色与白色混合的结果,光谱色所占的比例愈大,颜色接近光谱色的程度就愈高,颜色的饱和度也就愈高,饱和度的取值范围通常为0%至100%,值越大,颜色越饱和。亮度可表示颜色明亮的程度,对于光源而言,亮度与发光体的光亮度有关,对于物体而言,亮度和物体的透射比或反射比有关,亮度的取值范围通常为0%到100%,值越大约亮。
在一些实施方式中,终端设备可以显示用于与用户进行交互的软件界面。用户可以通过鼠标、键盘、触控屏等设备/装置,在软件界面上触发设置操作,使得终端设备接收到设置操作指向的图像处理参数。
作为示例,响应于用户在软件界面内对待处理图像的选中操作,终端设备可以在软件界面内显示用户选择的待处理图像。用户可在软件界面内显示的待处理图像中,选中背景的任意一个像素点。响应于用户在待处理图像中对像素点的选中操作,终端设备可将用户选中的像素点的像素信息作为待抠除的像素点的参考信息。
作为另一示例,终端设备可以在软件界面内显示调色盘,用户通过在调色盘上选取颜色,并在调色盘上对亮度、饱和度等参数进行调整,可以选取到与背景部分相同的目标颜色。响应于用户的设置操作,终端设备可以将用户选择的颜色及所调整的各个参数作为待抠除的像素点的参考信息。
应理解,上述图像处理参数不限于此,例如,上述图像处理参数还可以包括色调边界、饱和度边界、光影参数、溢出参数等。对于不同的图像处理参数而言,用户触发设置操作的方式可以相同或不同,比如用户可以通过前述选中操作设置参考信息,并通过对数值的输入操作设置溢出参数,对此本申请不进行限制。
步骤S103,根据待处理图像中像素点的像素信息和图像处理参数,确定待处理图像中像素点的处理权重。
在本申请的实施方式中,终端设备获取到待处理图像后,可以提取待处理图像中各个像素点的像素信息。像素信息可以是待处理图像内像素点的颜色信息、光学信息或其他信息,具体可以包括像素点的色调、饱和度、亮度等。根据待处理图像中像素点的像素信息和图像处理参数,终端设备可以将像素信息与参考信息进行比对,确定待处理图像中像素点的处理权重。
其中,处理权重用于表征待处理图像中像素点在进行图像融合时的保留程度,与像素点和待抠除的像素点之间颜色上的差异相关。应理解,当某个像素点和待抠除的像素点之间在颜色上的差异越大,则该像素点在进行图像融合时的保留程度应越高,进而,合成后的图像中对应位置上的像素点更趋近于该像素点。更具体的,由于颜色可以从色度和亮度的维度进行衡量,当某个像素点和待抠除的像素点之间在色度和/或亮度上的差异越大,则该像素点在进行图像融合时的保留程度应越高。
步骤S104,根据处理权重,对背景图像和待处理图像进行图像融合,得到目标图像。
其中,目标图像为对背景图像和待处理图像进行图像融合后得到的合成后的图像。
在本申请的实施方式中,根据待处理图像中每个像素点的处理权重,可以对待处理图像和背景图像内同一位置的像素点进行融合,得到目标图像中对应位置上的像素点。应理解,当待处理图像中某一位置上像素点的处理权重越大,则目标图像中该位置上的像素点更趋近于待处理图像中该位置上的像素点,当待处理图像中某一位置上像素点的处理权重越小,则目标图像中该位置上的像素点更趋近于背景图像中该位置上的像素点。
在本申请的实施方式中,颜色的差异可以从色度、亮度等不同的维度上的差异进行衡量,因此,根据与待处理图像中像素点和待抠除的像素点在颜色上的差异相关的处理权重,对待处理图像和背景图像进行图像融合时,可以考虑各个像素点在色度和亮度上与待抠除的像素点之间的差异,对于与待抠除的像素点相比,色度相近但亮度区别较大的像素点,例如“影子”的像素点、“云朵”的像素点,可根据处理权重在目标图像中保留或去除,使得保留在目标图像中的前景对象符合用户的需求,进而提高目标图像的真实感。
下面对本申请的图像处理过程进行详细说明。
待处理图像中像素点的像素值通常以第一颜色空间内各个通道的通道值表示。其中,第一颜色空间可以为RGB颜色空间,第一颜色空间内各个通道的通道值即红色通道的r值、蓝色通道的b值和绿色通道的g值。为了便于后续的处理,终端设备可将第一颜色空间内各个通道的通道值转换为第二颜色空间内各个通道的通道值,得到以第二颜色空间内各个通道的通道值表示的像素信息。第二颜色空间可以指HSV颜色空间,第二颜色空间内各个通道的通道值即色调H、饱和度S,以及亮度V。换言之,像素信息可以包括第一色调H、第一饱和度S,以及第一亮度V。
具体的,RGB颜色空间和HSV颜色空间之间的转换公式如下:
V=max。
其中,max=max(r,g,b)表示r值、b值和g值之间的最大值,min=min(r,g,b)表示r值、b值和g值之间的最小值。
同样的,待抠除的像素点的参考信息也可以以第二颜色空间内各个通道的通道值表示。换言之,参考信息可以具体包括:待抠除的像素点的第二色调PickH、第二饱和度PickS,以及第二亮度PickV。
为了降低终端设备的运算量,一些实施方式中,在计算像素信息时,终端设备可以记录每个像素信息对应的像素点在待处理图像中的坐标位置。响应于用户在待处理图像中对像素点的选中操作,终端设备可获取到用户选择的像素点在待处理图像中的坐标位置,并根据坐标位置获取该像素点的像素信息,以将用户选中的像素点的像素信息作为待抠除的像素点的参考信息。
另一些实施方式中,上述第一颜色空间还可以为YUV颜色空间(YCrCb颜色空间)。YUV颜色空间是视频输出的常用表达方式。在本申请的实施方式中,可以基于待处理图像在RGB颜色空间中各个通道的通道值,转换得到YUV颜色空间中各个通道的通道值。其中,YUV颜色空间中各个通道的通道值包括亮度(Y)通道的分量、蓝色色度(Cb)通道的分量,以及红色色度(Cr)通道的分量。
一些实施方式中,获取到像素信息和图像处理参数后,终端设备可以根据待处理图像中像素点的像素信息和图像处理参数,确定待处理图像中像素点的处理参数,其中,处理参数可以包括色度权重UVAlpha和亮度权重YAlpha。
其中,色度权重UVAlpha与待处理图像中像素点和待抠除的像素点在色度上的差异相关,某个像素点与待抠除的像素点在色度上的差异越大,说明该像素点与待抠除的像素点越不相似,则色度权重UVAlpha越大。色度权重UVAlpha越大,在进行图像融合时该像素点的保留程度越高,合成后的图像中对应位置上的像素点更趋近于该像素点。
亮度权重YAlpha与待处理图像中像素点和待抠除的像素点在亮度上的差异相关,根据像素点和待抠除的像素点在亮度上的差异,以及对高光区域和阴影区域保留与去除的需求,可以调整亮度权重YAlpha。亮度权重YAlpha越大,在进行图像融合时该像素点的保留程度越高,合成后的图像中对应位置上的像素点更趋近于该像素点。
下面分别对色度权重UVAlpha和亮度权重YAlpha的确定过程进行说明:
在本申请的一些实施方式中,用户设置的图像处理参数还可以包括色调边界,色调边界是用于依据第一色调H和第二色调PickH之间的差异进行分区处理时相邻分区之间的边界值。
请参考图2,色度权重UVAlpha的确定过程可以包括以下步骤S201至步骤S203。
步骤S201,确定待处理图像中每个像素点的第一色调分别和第二色调之间的差异值。
具体的,差异值也可以称为颜色距离D(i,j),可以通过D(i,j)=|H(i,j)-PickH|计算。其中,H(i,j)表示位于待处理图像内(i,j)位置上的像素点的第一色调H,D(i,j)取值范围为0°至180°。需要说明的是,由于本申请实施例提供的图像处理方法关注的是第一色调和第二色调之间的差异有多大,而不在于第一色调和第二色调之间的大小关系,因此,此处的差异值D(i,j)取绝对值,以方便后续的运算。
步骤S202,根据色调边界和待处理图像中每个像素点对应的差异值,将待处理图像划分为多个图像区域。
具体的,请参考图3,待处理图像根据色调容差Hue Clip和色调阈值Hue Ramp可以划分为处理区域A、过渡区域B以及前景区域C三个不同的图像区域。其中,处理区域为待处理图像中背景的区域,前景区域为待处理图像中前景对象的区域,过渡区域为待处理图像中前景对象和背景交界的区域,过渡区域的设置可以使得前景对象在目标图像中更加平滑。
用户设置的色调边界可以包括第一色调边界HueDistance1和第二色调边界HueDistance2。其中,第一色调边界HueDistance1用于给色调容差Hue Clip赋值,以作为处理区域的色调角和过渡区域的色调角的边界。第二色调边界HueDistance2用于给色调阈值Hue Ramp赋值,以作为过渡区域的色调角和前景区域的色调角的边界。其中,第一色调边界HueDistance1小于第二色调边界HueDistance2。
具体的,根据差异值D(i,j),若某一像素点对应的差异值D(i,j)满足:
D(i,j)<HueDistance1,说明该像素点为背景的像素点,终端设备可将该像素点划分至处理区域。若某一像素点对应的差异值D(i,j)满足:HueDistance1≤D(i,j)<HueDistance2,说明该像素点为背景和前景对象交界处的像素点,终端设备可将该像素点划分至过渡区域。若某一像素点对应的差异值D(i,j)满足:D(i,j)≥HueDistance2时,说明该像素点为前景对象的像素点,终端设备可将该像素点划分至前景区域。
应理解,第一色调边界HueDistance1越大,即色调容差Hue Clip越大,则处理区域越大,待处理图像中的背景在目标图像中保留地越少;第二色调边界HueDistance2越大,即色调阈值Hue Ramp越大,则过渡区域越大,待处理图像中的前景对象在目标图像中的边缘越平滑。用户可根据对前景对象的平滑度的需要、对背景部分的保留量的需要,对第一色调边界HueDistance1和第二色调边界HueDistance2进行调整。
步骤S203,根据待处理图像中每个像素点所属的图像区域,确定待处理图像中每个像素点的色度权重。
在本申请的一些实施方式中,通过对图像区域的划分,可以将待处理图像依据差异值由低至高地划分为处理区域、过渡区域和前景区域。根据待处理图像中每个像素点所属的图像区域,可以为每个像素点的色度权重进行赋值。其中,过渡区域中每个像素点的第一色度权重介于第二色度权重和第三色度权重之间。第二色度权重为处理区域内每个像素点的色度权重,第三色度权重为前景区域内每个像素点的色度权重。
示例性的,第二色度权重可以赋值为0,第三色度权重可以赋值为1,第一色度权重可以赋值为0至1之间的任意值。
为了使目标图像中前景对象更加真实,终端设备可对过渡区域中不同的像素点的第一色度权重进行不同的赋值。
具体的,用户设置的图像处理参数还可以包括饱和度边界,饱和度边界是用于依据第一饱和度S的大小进行分区处理时相邻分区之间的边界值。
如图4所示,第一色度权重的确定步骤可以包括以下步骤S401至步骤S402。
步骤S401,根据第一色调、第一饱和度和饱和度边界,将过渡区域划分为多个饱和度区域。
具体的,请参考图5,过渡区域根据第一饱和度阈值Saturation Clip和第二饱和度阈值Saturation Gain可以划分为低饱和度区域B1、中饱和度区域B2以及高饱和度区域B3三个不同的饱和度区域。
用户设置的饱和度边界可以包括第一饱和度边界SatDistance1和第二饱和度边界SatDistance2。其中,第一饱和度边界SatDistance1用于给第一饱和度阈值SaturationClip赋值,以作为低饱和度区域和中饱和度区域的边界。第二饱和度边界SatDistance2用于给第二饱和度阈值Saturation Gain赋值,以作为中饱和度区域和高饱和度区域的边界。其中,第一饱和度边界SatDistance1小于第二饱和度边界SatDistance2。
具体的,根据第一色调、第一饱和度,可以确定用于对像素点的饱和度进行评价的综合值。若某一像素点对应的综合值小于第一饱和度边界SatDistance1,说明该像素点的饱和度较低,终端设备可将该像素点划分至低饱和度区域。若某一像素点对应的综合值大于或等于第一饱和度边界SatDistance1,且小于第二饱和度边界SatDistance2,说明该像素点的饱和度适中,终端设备可将该像素点划分至中饱和度区域。若某一像素点对应的综合值大于第二饱和度边界SatDistance2,说明该像素点的饱和度较高,终端设备可将该像素点划分至高饱和度区域。
步骤S402,根据过渡区域中每个像素点所属的饱和度区域,确定过渡区域中每个像素点的色度权重。
在本申请的一些实施方式中,通过对饱和度区域的划分,可以将过渡区域依据第一饱和度由低至高地划分为低饱和度区域、中饱和度区域和高饱和度区域。由于饱和度越低的像素点在图像融合时越敏感,即越容易在图像融合时被背景图像中对应位置的像素点替代,为了使低饱和度区域内的像素点能够更好地保留下来,低饱和度区域内的像素点的第一色度权重可以大于中饱和度区域内的像素点的第一色度权重。中饱和度区域内的像素点的第一色度权重可以大于高饱和度区域内的像素点的第一色度权重。
应理解,第一饱和度边界SatDistance1越大,即Saturation Clip越大,则低饱和度区域越大,则低饱和区域内像素点的信息可以更多地保留下来;第一饱和度边界SatDistance1和第二饱和度边界SatDistance2之间的差值越大,则中饱和度区域内像素点的信息可以更多地保留下来。经多次调整和测试验证,第一饱和度边界SatDistance1和第二饱和度边界SatDistance2可分别设置为0.05和0.1。当然,基于待处理图像和背景图像的不同,这两个饱和度边界也可设置为其他值。
通过上述图像区域的划分以及饱和度区域的划分,一方面,前景区域的像素点将被更好地保留下来,处理区域的像素点将被更好地抠除,另一方面,过渡区域中的像素点可以基于饱和度的不同进行不同的处理,使得目标图像中过渡区域更加平滑。
相关技术中,在合成后的图像中常常出现绿色溢出的现象,这种现象表现为在绿幕图像中前景对象的边缘或半透明区域内的绿幕被部分保留下来。示例性的,假设绿幕图像的前景对象包括透明的纱,纱在绿幕上呈现出绿色,这部分绿色容易被保留下来。为了抑制这一现象的出现,在本申请的一些实施方式中,用户设置的图像处理参数还可以包括目标颜色的溢出参数spill,溢出参数用于表征对目标颜色的去除量,取值可以为0到1之间。溢出参数越大,则针对边缘或半透明区域等出现目标颜色的位置,越可以抑制绿色的残留。其中,目标颜色即待处理图像中背景部分的颜色,例如,在绿幕图像中目标颜色为绿色。
相应的,在根据待处理图像中每个像素点所属的图像区域,确定待处理图像中每个像素点的色度权重时,还可以参考溢出参数,使得溢出参数越大时,目标颜色的像素点的色度权重越小,使得目标图像对应位置上的像素点更趋近于背景图像,进而减少绿色溢出现象对目标图像真实感的影响。
请参考图6,亮度权重YAlpha的确定过程可以包括以下步骤S601至步骤S602。
步骤S601,确定待处理图像中像素点属于待处理图像中阴影区域或高光区域的概率。
在本申请的一些实施方式中,用户设置的图像处理参数还可以包括阴影参数Shadow和高光参数highlight,阴影参数Shadow和高光参数highlight可分别用于去除待处理图像中的阴影区域和高光区域。阴影参数Shadow越大,阴影区域去除得越多,高光参数highlight越大,高光区域去除得越多,该两个图像处理参数的具体取值可根据实际情况进行调整。
基于阴影参数Shadow、高光参数highlight、第一亮度V,以及第二亮度PickV,终端设备可以计算每个像素点属于阴影区域或高光区域的概率Prob。基于第一亮度V和第二亮度PickV,终端设备可以计算出像素点和待抠除的像素点在亮度上的差异,而阴影参数Shadow和高光参数highlight可用于判断上述亮度的差异是否趋近于阴影区域或者高光区域。具体而言,阴影参数Shadow越小或高光参数highlight越小,亮度同样的差异越趋近于阴影区域或高光区域,则像素点属于待处理图像中阴影区域或高光区域的概率Prob越大。
步骤S602,根据概率和色度权重,确定待处理图像中像素点的亮度权重。
在本申请的实施方式中,终端设备可以在色度权重UVAlpha的基础上,结合概率Prob确定亮度权重YAlpha。当概率Prob越大,则亮度权重YAlpha越大,相应的,待处理图像中该像素点在目标图像中保留得越多。
因此,当用户需要保留阴影区域时,可以将阴影参数Shadow调小,使得像素点的第一亮度V稍低于第二亮度PickV时即被认为属于阴影区域,则像素点属于待处理图像中阴影区域的概率Prob越大,亮度权重YAlpha越大,相应的,待处理图像中该像素点在目标图像中保留得越多。反之,当用户需要去除阴影区域时,可以将阴影参数Shadow调大,使得像素点的第一亮度V接近或大于第二亮度PickV时不再属于阴影区域,则像素点属于待处理图像中阴影区域的概率Prob越小,亮度权重YAlpha越小,相应的,待处理图像中该像素点在目标图像中保留得越少。
同理,当用户需要保留高亮区域时,可以将高光参数highlight调小,使得像素点的第一亮度V稍高于第二亮度PickV即被认为属于高亮区域,则像素点属于待处理图像中高亮区域的概率Prob越大,亮度权重YAlpha越大,相应的,待处理图像中该像素点在目标图像中保留得越多。反之,当用户需要去除高亮区域时,可以将高光参数highlight调大,使得像素点的第一亮度V接近或小于第二亮度PickV即不再属于高亮区域,则像素点属于待处理图像中高光区域的概率Prob越小,亮度权重YAlpha越小,相应的,待处理图像中该像素点在目标图像中保留得越少。
因此,通过调节阴影参数Shadow和高光参数highlight,可以调整颜色相近但亮度区别较大的像素点的亮度权重,使得颜色相近但亮度区别较大的像素点在目标图像中保留或去除,进而使得保留在目标图像中的前景对象符合用户的需求,提高目标图像的真实感。
得到色度权重UVAlpha和亮度权重YAlpha之后,可以在第三颜色空间中对待处理图像和背景图像进行图像融合。具体的,第三颜色空间可以指前述YCbCr颜色空间。
具体的,目标图像中每个像素点在Y通道的OutY(i,j)、Cb通道的OutCb(i,j)以及在Cr通道的OutCr(i,j)可以表示为:
OutY(i,j)=YAlpha(i,j)×Src_Y(i,j)+(1-YAlpha(i,j))*Background_Y(i,j);
OutCb(i,j)=Alpha(i,j)×Src_Cb(i,j)+(1-UVAlpha(i,j))*Background_Cb(i,j);
OutCr(i,j)=Alpha(i,j)×Src_Cr(i,j)+(1-UVAlpha(i,j))*Background_Cr(i,j)。
其中,(i,j)表示像素点的坐标位置,Src_Y(i,j)、Src_Cb(i,j)、Src_Cr(i,j)分别为待处理图像在Y通道的分量、在Cb通道的分量和在Cr通道的分量。YAlpha(i,j)表示待处理图像中像素点的亮度权重YAlpha,UVAlpha(i,j)表示待处理图像中像素点的色度权重UVAlpha。Background_Y(i,j)、Background_Cb(i,j)、Background_Cr(i,j)分别为背景图像在Y通道的分量、在Cb通道的分量和在Cr通道的分量。
通过上述公式可知,对于处理区域内的像素点而言,其色度权重UVAlpha(i,j)为0,该像素点的颜色将被替换为背景图像中对应位置像素点的颜色。对于前景区域内的像素点而言,其色度权重UVAlpha(i,j)为1,该像素点的颜色将被保留在目标图像中。对于过渡区域的像素点而言,其色度权重UVAlpha(i,j)在0至1之间,目标图像内该位置上像素点的颜色将由背景图像和待处理图像融合而成。而各个像素点的亮度则将依据其属于阴影或高光区域的概率而变化。
实际应用中,目标图像还可能出现边缘锯齿现象,这种现象表现为目标图像内前景对象的边缘出现毛刺。为了抑制这一问题,用户还可以在软件界面内开启平滑选项。响应于用户对平滑选项的开启操作,终端设备可以对色度权重图像和亮度权重图像中的一个或多个进行边缘平滑处理。其中,色度权重图像中每个像素点的像素值为待处理图像中对应位置上像素点的色度权重。亮度权重图像中每个像素点的像素值为待处理图像中对应位置上像素点的亮度权重。平滑后的色度权重图像中,像素点的像素值即为平滑后的色度权重,平滑后的亮度权重图像中,像素点的像素值即为平滑后的亮度权重。进而,可以根据平滑后色度权重和/或平滑后的亮度权重,进行图像融合,使得得到的目标图像中前景对象的边缘更加平滑。
需要说明的是,上述边缘平滑操作可包括但不限于采用均值滤波、高斯滤波等方式,对此本申请不进行限制。
为了便于理解,请参考图7和图8,图7示出了本申请提供的软件界面的示意图,图8示出了用户和终端设备交互过程的示意图。
在终端设备获取到待处理图像后,可以将待处理图像由RGB颜色空间转换为HSV颜色空间,得到各个像素点的像素信息。用户可以触发图7中的“Pick Hue”控件,在软件界面显示的待处理图像中选取像素点,使得终端设备获取到待筛除的像素点的参考信息。用户可以触发图7中的“Hue Ramp”控件和“Hue Clip”控件设置色度边界,终端设备基于色度边界、第一色调和第二色调,可以将待处理图像划分为前景区域、过渡区域以及处理区域。然后,用户可以触发图7中的“Saturation Clip”控件和“Saturation Gain”控件设置饱和度边界,以及触发图7中的“Spill”控件设置溢出参数。终端设备基于饱和度边界、溢出参数、第一饱和度和第一色调,可以确定各个像素点的色度权重UVAlpha值。进一步地,用户可以触发图7中的“Shadow”控件和“Highlight”控件设置阴影参数与高光参数,使得终端设备根据阴影参数、高光参数、第一亮度和第二亮度,确定各个像素点的亮度权重YAlpha值。基于各个像素点的色度权重UVAlpha值和亮度权重YAlpha值,终端设备可以对待处理图像和背景图像进行图像融合,得到并显示目标图像。默认情况下,图7所示的平滑选项“EdgeSmooth”为关闭状态,当目标图像中前景对象出现边缘锯齿现象时,用户可以触发平滑选项“Edge Smooth”,将平滑选项“Edge Smooth”变更为开启状态。此时,终端设备将对色度权重图像和亮度权重图像中的一个或多个进行边缘平滑处理后,再进行图像融合,所得到的目标图像中前景对象边缘的毛刺可以一定程度上得到消除。
在另一些实施方式中,获取到像素信息和图像处理参数后,终端设备可以根据待处理图像中像素点的像素信息和图像处理参数,确定待处理图像中像素点的处理参数,其中,处理参数可以为融合权重Alpha。
其中,融合权重Alpha与待处理图像中像素点和待抠除的像素点在色度及亮度上的差异相关,某个像素点与待抠除的像素点在色度及亮度上的差异越大,说明该像素点与待抠除的像素点越不相似,则融合权重Alpha越大。融合权重Alpha越大,在进行图像融合时该像素点的保留程度越高,合成后的图像中对应位置上的像素点更趋近于该像素点。
请参考图9,融合权重Alpha的确定过程可以包括以下步骤S901至步骤S903。
步骤S901,确定待处理图像中每个像素点的第一色调分别和第二色调之间的差异值。
步骤S902,根据色调边界和待处理图像中每个像素点对应的差异值,将待处理图像划分为多个图像区域。
具体的,通过对图像区域的划分,可以将待处理图像依据差异值由低至高地划分为处理区域、过渡区域和前景区域。步骤S901和步骤S902的具体实现方式可以参考前述步骤S201和步骤S202,对此本申请不进行赘述。
步骤S903,根据待处理图像中每个像素点所属的图像区域、第一饱和度、第一亮度、第二亮度、饱和度边界和光影参数,确定待处理图像中每个像素点的融合权重。
在本申请的实施方式中,根据待处理图像中每个像素点所属的图像区域,可以为每个像素点的融合权重进行赋值。其中,过渡区域中每个像素点的第一融合权重可以介于第二融合权重和第三融合权重之间,第二融合权重为处理区域内每个像素点的融合权重,第三融合权重为前景区域内每个像素点的融合权重。
示例性的,第二融合权重可以赋值为0,第三融合权重可以赋值为1,第一融合权重可以赋值为0至1之间的任意值。
为了使目标图像中前景对象更加真实,终端设备可对过渡区域中不同的像素点的第一融合权重进行不同的赋值。
具体而言,根据第一饱和度S、第一亮度V、第二亮度PickV、饱和度边界和光影参数,可以将过渡区域划分为多个待处理区域,此时,根据过渡区域中每个像素点所属的待处理区域,确定过渡区域中每个像素点的融合权重。
其中,用户设置的饱和度边界可以包括前述第一饱和度边界SatDistance1和第二饱和度边界SatDistance2。用户设置的光影参数可以包括前述阴影参数Shadow和高光参数highlight。基于第一亮度V、第二亮度PickV、阴影参数Shadow和高光参数highlight,可以确定像素点相较于待抠除的像素点而言,属于高光区域或阴影区域的概率Prob_1。而基于第一饱和度S、第一饱和度边界SatDistance1和第二饱和度边界SatDistance2可以确定像素点相较于待抠除的像素点而言,属于低饱和度区域的概率Prob_2。综合考虑属于高光区域或阴影区域的概率Prob_1,以及属于低饱和度区域的概率Prob_2,可计算得到像素点的融合权重Alpha。例如可以根据概率Prob_1和概率Prob_2之间的最大值确定融合权重Alpha,使得相较于待抠除像素点而言,饱和度低、属于高光区域或属于阴影区域的像素点的融合权重更大,进而使得颜色相近但亮度区别较大的像素点,或者低饱和度的信息,在目标图像中保留,进而使得保留在目标图像中的前景对象符合用户的需求,提高目标图像的真实感。
同样的,在本申请的一些实施方式中,用户设置的图像处理参数还可以包括目标颜色的溢出参数spill,溢出参数用于表征对目标颜色的去除量,取值可以为0到1之间。溢出参数越大,则针对边缘或半透明区域等出现目标颜色的位置,越可以抑制绿色的残留。在根据待处理图像中每个像素点所属的图像区域、第一饱和度、第一亮度、第二亮度、饱和度边界、光影参数,确定待处理图像中每个像素点的融合权重时,还可以参考溢出参数,使得溢出参数越大时,目标颜色的像素点的融合权重越小,使得目标图像对应位置上的像素点更趋近于背景图像,进而减少绿色溢出现象对目标图像真实感的影响。
相应的,目标图像中每个像素点在Y通道的OutY(i,j)、Cb通道的OutCb(i,j)以及在Cr通道的OutCr(i,j)可以表示为:
OutY(i,j)=YAlpha(i,j)×Src_Y(i,j)+(1-Alpha(i,j))*Background_Y(i,j);
OutCb(i,j)=Alpha(i,j)×Src_Cb(i,j)+(1-Alpha(i,j))*Background_Cb(i,j);
OutCr(i,j)=Alpha(i,j)×Src_Cr(i,j)+(1-Alpha(i,j))*Background_Cr(i,j)。
其中,(i,j)表示像素点的坐标位置,Src_Y(i,j)、Src_Cb(i,j)、Src_Cr(i,j)分别为待处理图像在Y通道的分量、在Cb通道的分量和在Cr通道的分量。Alpha(i,j)表示待处理图像中像素点的融合权重Alpha。Background_Y(i,j)、Background_Cb(i,j)、Background_Cr(i,j)分别为背景图像在Y通道的分量、在Cb通道的分量和在Cr通道的分量。
通过上述公式可知,对于处理区域内的像素点而言,其融合权重Alpha(i,j)为0,该像素点的颜色将被替换为背景图像中对应位置像素点的颜色。对于前景区域内的像素点而言,其融合权重Alpha(i,j)为1,该像素点的颜色将被保留在目标图像中。对于过渡区域的像素点而言,其融合权重Alpha(i,j)在0至1之间,目标图像内该位置上像素点的颜色将由背景图像和待处理图像融合而成。而各个像素点的亮度则将依据其在饱和度和亮度上与待抠出像素点之间的差异而变化。
同样的,为了抑制边缘锯齿现象,用户还可以在软件界面内开启平滑选项。响应于用户对平滑选项的开启操作,终端设备可以对融合权重图像进行边缘平滑处理。其中,融合权重图像中每个像素点的像素值为待处理图像中对应位置上像素点的融合权重。平滑后的融合权重图像中,像素点的像素值即为平滑后的融合权重。进而,可以根据平滑后融合权重,进行图像融合,使得得到的目标图像中前景对象的边缘更加平滑。
为了便于理解,请参考图7和图10,在终端设备获取到待处理图像后,可以将待处理图像由RGB颜色空间转换为HSV颜色空间,得到各个像素点的像素信息。用户可以触发图7中的“Pick Hue”控件,在软件界面显示的待处理图像中选取像素点,使得终端设备获取到待筛除的像素点的参考信息。用户可以触发图7中的“Hue Ramp”控件和“Hue Clip”控件设置色度边界,终端设备基于色度边界、第一色调和第二色调,可以将待处理图像划分为前景区域、过渡区域以及处理区域。然后,用户可以触发图7中的“Saturation Clip”控件和“Saturation Gain”控件设置饱和度边界,触发图7中的“Spill”控件设置溢出参数,以及触发图7中的“Shadow”控件和“Highlight”控件设置阴影参数与高光参数。终端设备基于饱和度边界、溢出参数、第一饱和度、阴影参数、高光参数、第一亮度和第二亮度,可以确定各个像素点的融合权重Alpha值。根据融合权重Alpha,终端设备可以对待处理图像和背景图像进行图像融合,得到并显示目标图像。默认情况下,图7所示的平滑选项“Edge Smooth”为关闭状态,当目标图像中前景对象出现边缘锯齿现象时,用户可以触发平滑选项“EdgeSmooth”,将平滑选项“Edge Smooth”变更为开启状态。此时,终端设备将对融合权重图像进行边缘平滑处理后,再进行图像融合,所得到的目标图像中前景对象边缘的毛刺可以一定程度上得到消除。
应理解,本申请提供的图像处理方法可以应用于不同领域,例如虚拟拍摄领域、制图领域等与图像处理的相关的领域,均可适用上述图像处理方法。
本申请的一些实施方式中,还提供一种虚拟拍摄系统。该虚拟拍摄系统可用于实现虚拟拍摄,具体可以包括采集设备和终端设备。其中,终端设备可以指虚拟拍摄系统中用于进行图像处理的服务器。
在虚拟拍摄系统中,采集设备可用于采集待处理图像。终端设备可用于待处理图像和背景图像,并根据图1至图10描述的图像处理方法,对待处理图像和背景图像进行处理,得到目标图像。应理解的是,待处理图像可从采集设备获取;而背景图像可以是终端设备预先存储的图像,或者是终端设备从其他源设备获取到的图像。
更具体的,上述虚拟拍摄系统还可以包括定位设备和显示屏。
其中,定位设备可以用于对采集设备和显示屏进行定位,可以指测距仪、相机追踪设备等。定位设备能够获取采集设备与显示屏的位置信息。终端设备可以基于位置信息,控制采集设备以特定的拍摄角度对显示屏进行拍摄,进而获取采集设备在特定拍摄角度上对显示屏进行拍摄得到的待处理图像。终端设备获取到待处理图像之后,可以将待处理图像与虚拟的背景图像进行图像融合,得到目标图像。应理解的是,在对显示屏进行拍摄时,如果显示屏前(或者说,显示屏和采集设备之间)有演员或其他前景物体,则拍摄得到的待处理图像中也将拍摄到这些前景物体,这些前景物体在终端设备进行图像处理的过程中,可以被保留到目标图像中。
此外,虚拟拍摄系统还可以包括光源或其他辅助虚拟拍摄的设备,对此本申请不进行限制。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为根据本申请,某些步骤可以采用其它顺序进行。
如图11所示为本申请实施例提供的一种图像处理装置1100的结构示意图,所述图像处理装置1100配置于终端设备上。
具体的,所述图像处理装置1100可以包括:
图像获取单元1101,用于获取待处理图像和背景图像;
图像处理参数获取单元1102,用于接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,所述图像处理参数包括所述待处理图像中待抠除的像素点的参考信息;
图像处理权重确定单元1103,用于根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,所述处理权重与所述待处理图像中像素点与所述待抠除的像素点在颜色上的差异相关;
图像融合单元1104,用于根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像。
在本申请的一些实施方式中,上述处理权重可以包括色度权重和亮度权重,其中,色度权重与待处理图像中像素点和待抠除的像素点在色度上的差异相关,亮度权重与待处理图像中像素点和待抠除的像素点在亮度上的差异相关。或者,上述处理权重可以为融合权重,其中,融合权重与待处理图像中像素点和待抠除的像素点在色度及亮度上的差异相关。
在本申请的一些实施方式中,上述处理权重包括色度权重和亮度权重时,上述图像处理权重确定单元1103可以具体用于:根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的色度权重;确定所述待处理图像中像素点属于所述待处理图像中阴影区域或高光区域的概率;根据所述概率和所述色度权重,确定所述待处理图像中像素点的亮度权重。
在本申请的一些实施方式中,上述像素信息还可以包括所述待处理图像中每个像素点的第一色调;上述参考信息还可以包括待抠除的像素点的第二色调;上述图像处理参数还可以包括色调边界;上述图像处理权重确定单元1103可以具体用于:确定所述待处理图像中每个像素点的第一色调分别和所述第二色调之间的差异值;根据所述色调边界和所述待处理图像中每个像素点对应的差异值,将所述待处理图像划分为多个图像区域;根据所述待处理图像中每个像素点所属的图像区域,确定所述待处理图像中每个像素点的所述色度权重。
在本申请的一些实施方式中,上述多个图像区域依据差异值由低至高的顺序依次包括处理区域、过渡区域以及前景区域,过渡区域中每个像素点的第一色度权重可介于第二色度权重和第三色度权重之间,第二色度权重为处理区域内每个像素点的所述色度权重,第三色度权重为前景区域内每个像素点的所述色度权重。
在本申请的一些实施方式中,上述像素信息可以包括待处理图像中像素点的第一饱和度;图像处理参数还可以包括饱和度边界;上述图像处理权重确定单元1103可以具体用于:根据所述第一色调、所述第一饱和度和所述饱和度边界,将所述过渡区域划分为多个饱和度区域;根据所述过渡区域中每个像素点所属的饱和度区域,确定所述过渡区域中每个像素点的所述色度权重。
在本申请的一些实施方式中,上述图像处理参数还可以包括目标颜色的溢出参数,溢出参数用于表征对目标颜色的去除量。上述图像处理权重确定单元1103可以具体用于:根据所述待处理图像中每个像素点所属的图像区域,以及所述溢出参数,确定所述待处理图像中每个像素点的所述色度权重。
在本申请的一些实施方式中,上述处理权重为融合权重时,上述像素信息可以包括待处理图像中每个像素点的第一色调、第一饱和度以及第一亮度;参考信息还可以包括待抠除的像素点的第二色调和第二亮度;上述图像处理参数还可以包括色调边界、饱和度边界和光影参数;上述图像处理权重确定单元1103可以具体用于:确定所述待处理图像中每个像素点的第一色调分别和所述第二色调之间的差异值;根据所述色调边界和所述待处理图像中每个像素点对应的差异值,将所述待处理图像划分为多个图像区域;根据所述待处理图像中每个像素点所属的图像区域、所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界和所述光影参数,确定所述待处理图像中每个像素点的所述融合权重。
在本申请的一些实施方式中,上述多个图像区域依据差异值由低至高的顺序依次可以包括处理区域、过渡区域以及前景区域,过渡区域中每个像素点的第一融合权重可以介于第二融合权重和第三融合权重之间,第二融合权重为处理区域内每个像素点的所述融合权重,第三融合权重为前景区域内每个像素点的所述融合权重。
在本申请的一些实施方式中,上述图像处理权重确定单元1103可以具体用于:根据所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界和所述光影参数,将所述过渡区域划分为多个待处理区域;根据所述过渡区域中每个像素点所属的待处理区域,确定所述过渡区域中每个像素点的所述融合权重。
在本申请的一些实施方式中,上述图像处理参数还可以包括目标颜色的溢出参数,溢出参数用于表征对目标颜色的去除量。上述图像处理权重确定单元1103可以具体用于:根据所述待处理图像中每个像素点所属的图像区域、所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界、所述光影参数以及所述溢出参数,确定所述待处理图像中每个像素点的所述融合权重。
在本申请的一些实施方式中,上述处理权重包括色度权重和亮度权重时,上述图像处理装置1100还包括平滑单元,用于响应于用户对平滑选项的开启操作,对色度权重图像和亮度权重图像中的一个或多个进行边缘平滑处理,所述色度权重图像中每个像素点的像素值为所述待处理图像中对应位置上像素点的所述色度权重,所述亮度权重图像中每个像素点的像素值为所述待处理图像中对应位置上像素点的所述亮度权重。
在本申请的一些实施方式中,上述处理权重为融合权重时,上述图像处理装置1100还包括平滑单元,用于响应于用户对平滑选项的开启操作,对融合权重图像进行边缘平滑处理,所述融合权重图像中每个像素点的像素值为所述待处理图像中对应位置上像素点的所述融合权重。
在本申请的一些实施方式中,上述图像处理参数获取单元1102可以具体用于:响应于用户在所述待处理图像中对像素点的选中操作,将用户选中的像素点的像素信息作为所述待抠除的像素点的参考信息。
需要说明的是,为描述的方便和简洁,上述图像处理装置1100的具体工作过程,可以参考图1至图10所述方法的对应过程,在此不再赘述。
如图12所示,为本申请实施例提供的一种终端设备的示意图。该终端设备12可以包括:处理器1200、存储器1201以及存储在所述存储器1201中并可在所述处理器1200上运行的计算机程序1202,例如图像处理程序。所述处理器1200执行所述计算机程序1202时实现上述各个图像处理方法实施例中的步骤,例如图1所示的步骤S101至S104。或者,所述处理器1200执行所述计算机程序1202时实现上述各装置实施例中各模块/单元的功能,例如图11所示的图像获取单元1101、图像处理参数获取单元1102、图像处理权重确定单元1103和图像融合单元1104。
所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器1201中,并由所述处理器1200执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述终端设备中的执行过程。
例如,所述计算机程序可以被分割成:图像获取单元、图像处理参数获取单元、图像处理权重确定单元和图像融合单元。各单元具体功能如下:图像获取单元,用于获取待处理图像和背景图像;图像处理参数获取单元,用于接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,所述图像处理参数包括所述待处理图像中待抠除的像素点的参考信息;图像处理权重确定单元,用于根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,所述处理权重包括色度权重和亮度权重,其中,所述色度权重与所述待处理图像中像素点和所述待抠除的像素点在颜色上的差异相关,所述亮度权重与所述待处理图像中像素点和所述待抠除的像素点在光影上的差异相关;图像融合单元,用于根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像。
所述终端设备可包括,但不仅限于,处理器1200、存储器1201。本领域技术人员可以理解,图12仅仅是终端设备的示例,并不构成对终端设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器1200可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器1201可以是所述终端设备的内部存储单元,例如终端设备的硬盘或内存。所述存储器1201也可以是所述终端设备的外部存储设备,例如所述终端设备上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器1201还可以既包括所述终端设备的内部存储单元也包括外部存储设备。所述存储器1201用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器1201还可以用于暂时地存储已经输出或者将要输出的数据。
需要说明的是,为描述的方便和简洁,上述终端设备的结构还可以参考方法实施例中对结构的具体描述,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对各个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (17)
1.一种图像处理方法,其特征在于,包括:
获取待处理图像和背景图像;
接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,所述图像处理参数包括所述待处理图像中待抠除的像素点的参考信息;
根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,所述处理权重与所述待处理图像中像素点与所述待抠除的像素点在颜色上的差异相关;
根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像。
2.如权利要求1所述的图像处理方法,其特征在于,所述处理权重包括色度权重和亮度权重,其中,所述色度权重与所述待处理图像中像素点和所述待抠除的像素点在色度上的差异相关,所述亮度权重与所述待处理图像中像素点和所述待抠除的像素点在亮度上的差异相关;
或者,
所述处理权重为融合权重,其中,所述融合权重与所述待处理图像中像素点和所述待抠除的像素点在色度及亮度上的差异相关。
3.如权利要求2所述的图像处理方法,其特征在于,所述处理权重包括所述色度权重和所述亮度权重时,所述根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,包括:
根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的所述色度权重;
确定所述待处理图像中像素点属于所述待处理图像中阴影区域或高光区域的概率;
根据所述概率和所述色度权重,确定所述待处理图像中像素点的所述亮度权重。
4.如权利要求3所述的图像处理方法,其特征在于,所述像素信息包括所述待处理图像中每个像素点的第一色调;所述参考信息还包括所述待抠除的像素点的第二色调;所述图像处理参数还包括色调边界;
所述根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的所述色度权重,包括:
确定所述待处理图像中每个像素点的第一色调分别和所述第二色调之间的差异值;
根据所述色调边界和所述待处理图像中每个像素点对应的差异值,将所述待处理图像划分为多个图像区域;
根据所述待处理图像中每个像素点所属的图像区域,确定所述待处理图像中每个像素点的所述色度权重。
5.如权利要求4所述的图像处理方法,其特征在于,所述多个图像区域依据所述差异值由低至高的顺序依次包括处理区域、过渡区域以及前景区域,所述过渡区域中每个像素点的第一色度权重介于第二色度权重和第三色度权重之间,所述第二色度权重为所述处理区域内每个像素点的所述色度权重,所述第三色度权重为所述前景区域内每个像素点的所述色度权重。
6.如权利要求5所述的图像处理方法,其特征在于,所述像素信息还包括所述待处理图像中像素点的第一饱和度;所述图像处理参数还包括饱和度边界;
所述根据所述待处理图像中每个像素点所属的图像区域,确定所述待处理图像中每个像素点的所述色度权重,包括:
根据所述第一色调、所述第一饱和度和所述饱和度边界,将所述过渡区域划分为多个饱和度区域;
根据所述过渡区域中每个像素点所属的饱和度区域,确定所述过渡区域中每个像素点的所述色度权重。
7.如权利要求4所述的图像处理方法,其特征在于,所述图像处理参数还包括目标颜色的溢出参数,所述溢出参数用于表征对所述目标颜色的去除量;
所述根据所述待处理图像中每个像素点所属的图像区域,确定所述待处理图像中每个像素点的所述色度权重,包括:
根据所述待处理图像中每个像素点所属的图像区域,以及所述溢出参数,确定所述待处理图像中每个像素点的所述色度权重。
8.如权利要求2所述的图像处理方法,其特征在于,所述处理权重为所述融合权重时,所述像素信息包括所述待处理图像中每个像素点的第一色调、第一饱和度以及第一亮度;所述参考信息还包括所述待抠除的像素点的第二色调和第二亮度;所述图像处理参数还包括色调边界、饱和度边界和光影参数;
所述根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,包括:
确定所述待处理图像中每个像素点的第一色调分别和所述第二色调之间的差异值;
根据所述色调边界和所述待处理图像中每个像素点对应的差异值,将所述待处理图像划分为多个图像区域;
根据所述待处理图像中每个像素点所属的图像区域、所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界和所述光影参数,确定所述待处理图像中每个像素点的所述融合权重。
9.如权利要求8所述的图像处理方法,其特征在于,所述多个图像区域依据所述差异值由低至高的顺序依次包括处理区域、过渡区域以及前景区域,所述过渡区域中每个像素点的第一融合权重介于第二融合权重和第三融合权重之间,所述第二融合权重为所述处理区域内每个像素点的所述融合权重,所述第三融合权重为所述前景区域内每个像素点的所述融合权重。
10.如权利要求9所述的图像处理方法,其特征在于,所述根据所述待处理图像中每个像素点所属的图像区域、所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界和所述光影参数,确定所述待处理图像中每个像素点的所述融合权重,包括:
根据所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界和所述光影参数,将所述过渡区域划分为多个待处理区域;
根据所述过渡区域中每个像素点所属的待处理区域,确定所述过渡区域中每个像素点的所述融合权重。
11.如权利要求8所述的图像处理方法,其特征在于,所述图像处理参数还包括目标颜色的溢出参数,所述溢出参数用于表征对所述目标颜色的去除量;
所述根据所述待处理图像中每个像素点所属的图像区域、所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界和所述光影参数,确定所述待处理图像中每个像素点的所述融合权重,包括:
根据所述待处理图像中每个像素点所属的图像区域、所述第一饱和度、所述第一亮度、所述第二亮度、所述饱和度边界、所述光影参数以及所述溢出参数,确定所述待处理图像中每个像素点的所述融合权重。
12.如权利要求2至11任意一项所述的图像处理方法,其特征在于,所述处理权重包括所述色度权重和所述亮度权重时,在所述根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像之前,所述图像处理方法还包括:
响应于用户对平滑选项的开启操作,对色度权重图像和亮度权重图像中的一个或多个进行边缘平滑处理,所述色度权重图像中每个像素点的像素值为所述待处理图像中对应位置上像素点的所述色度权重,所述亮度权重图像中每个像素点的像素值为所述待处理图像中对应位置上像素点的所述亮度权重;
或者,
所述处理权重为所述融合权重时,在所述根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像之前,所述图像处理方法还包括:响应于用户对平滑选项的开启操作,对融合权重图像进行边缘平滑处理,所述融合权重图像中每个像素点的像素值为所述待处理图像中对应位置上像素点的所述融合权重。
13.权利要求1至11任意一项所述的图像处理方法,其特征在于,所述接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,包括:
响应于用户在所述待处理图像中对像素点的选中操作,将用户选中的像素点的像素信息作为所述待抠除的像素点的参考信息。
14.一种图像处理装置,其特征在于,包括:
图像获取单元,用于获取待处理图像和背景图像;
图像处理参数获取单元,用于接收用户对图像处理参数的设置操作,得到用户设置的所述图像处理参数,所述图像处理参数包括所述待处理图像中待抠除的像素点的参考信息;
图像处理权重确定单元,用于根据所述待处理图像中像素点的像素信息和所述图像处理参数,确定所述待处理图像中像素点的处理权重,所述处理权重与所述待处理图像中像素点与所述待抠除的像素点在颜色上的差异相关;
图像融合单元,用于根据所述处理权重,对所述背景图像和所述待处理图像进行图像融合,得到目标图像。
15.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至13任一项所述图像处理方法的步骤。
16.一种虚拟拍摄系统,其特征在于,包括采集设备和终端设备;
所述采集设备用于采集待处理图像;
所述终端设备用于获取所述待处理图像和背景图像,并根据如权利要求1至13任一项所述图像处理方法,对所述待处理图像和所述背景图像进行处理,得到目标图像。
17.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至13任一项所述图像处理方法的步骤。
Publications (1)
Publication Number | Publication Date |
---|---|
CN118154448A true CN118154448A (zh) | 2024-06-07 |
Family
ID=
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10397486B2 (en) | Image capture apparatus and method executed by image capture apparatus | |
US9852499B2 (en) | Automatic selection of optimum algorithms for high dynamic range image processing based on scene classification | |
CN108668093B (zh) | Hdr图像的生成方法及装置 | |
KR20070090224A (ko) | 전자 색 이미지 채도 처리 방법 | |
JPWO2006059573A1 (ja) | 色彩調整装置及び方法 | |
CN108717691B (zh) | 一种图像融合方法、装置、电子设备及介质 | |
US20110075924A1 (en) | Color adjustment | |
Zhang et al. | Fast color correction using principal regions mapping in different color spaces | |
WO2020093653A1 (zh) | 色彩调整方法、色彩调整装置、电子设备及计算机可读存储介质 | |
Kao | High dynamic range imaging by fusing multiple raw images and tone reproduction | |
CN112053417A (zh) | 图像处理方法、装置和系统以及计算机可读存储介质 | |
CN113748426A (zh) | 实时馈送中的内容感知的pq范围分析仪和色调映射 | |
US10621769B2 (en) | Simplified lighting compositing | |
CA2690987C (en) | Method and apparatus for chroma key production | |
CN112435173A (zh) | 一种图像处理和直播方法、装置、设备和存储介质 | |
CN118154448A (zh) | 图像处理方法、装置、终端设备、系统和可读存储介质 | |
CN107534762A (zh) | 不需要背景幕布的色键影像合成方法 | |
WO2022067761A1 (zh) | 图像处理方法、装置、拍摄设备、可移动平台及计算机可读存储介质 | |
Battiato et al. | Aesthetic scoring of digital portraits for consumer applications | |
CN109447925B (zh) | 图像处理方法和装置、存储介质、电子设备 | |
KR101903428B1 (ko) | 연관 이미지간 컬러 보정 시스템 및 보정방법 | |
JP6753145B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
KR101772626B1 (ko) | 단일 영상으로부터 반사성분을 분리하는 방법 및 그 방법에 따른 영상처리 장치 | |
KR101227082B1 (ko) | 다중 영상 합성을 위한 컬러 밸런싱 장치 및 방법 | |
CN112308938B (zh) | 图像处理方法和图像处理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication |