CN113888437A - 图像处理方法、装置、电子设备及计算机可读存储介质 - Google Patents
图像处理方法、装置、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN113888437A CN113888437A CN202111203890.2A CN202111203890A CN113888437A CN 113888437 A CN113888437 A CN 113888437A CN 202111203890 A CN202111203890 A CN 202111203890A CN 113888437 A CN113888437 A CN 113888437A
- Authority
- CN
- China
- Prior art keywords
- image
- llhdr
- region
- portrait
- blurring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 263
- 238000003860 storage Methods 0.000 title claims abstract description 16
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 238000000034 method Methods 0.000 claims abstract description 152
- 230000011218 segmentation Effects 0.000 claims description 122
- 238000009792 diffusion process Methods 0.000 claims description 115
- 230000007704 transition Effects 0.000 claims description 96
- 230000009467 reduction Effects 0.000 claims description 81
- 230000008569 process Effects 0.000 claims description 68
- 230000002829 reductive effect Effects 0.000 claims description 66
- 238000005282 brightening Methods 0.000 claims description 62
- 238000005457 optimization Methods 0.000 claims description 43
- 238000003384 imaging method Methods 0.000 claims description 39
- 238000013507 mapping Methods 0.000 claims description 27
- 238000009499 grossing Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 12
- 238000007499 fusion processing Methods 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 10
- 230000035945 sensitivity Effects 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 60
- 230000000875 corresponding effect Effects 0.000 description 233
- 238000001914 filtration Methods 0.000 description 59
- 238000010586 diagram Methods 0.000 description 29
- 230000004927 fusion Effects 0.000 description 21
- 238000001514 detection method Methods 0.000 description 20
- 230000006870 function Effects 0.000 description 12
- 238000005070 sampling Methods 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 10
- 238000010606 normalization Methods 0.000 description 10
- 238000012937 correction Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 8
- 238000012549 training Methods 0.000 description 8
- 238000013527 convolutional neural network Methods 0.000 description 6
- 238000009826 distribution Methods 0.000 description 6
- 230000003628 erosive effect Effects 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000001965 increasing effect Effects 0.000 description 5
- 230000002194 synthesizing effect Effects 0.000 description 5
- 241001465754 Metazoa Species 0.000 description 4
- 238000013145 classification model Methods 0.000 description 4
- 230000007797 corrosion Effects 0.000 description 4
- 238000005260 corrosion Methods 0.000 description 4
- 238000003708 edge detection Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 238000011946 reduction process Methods 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 230000001276 controlling effect Effects 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 3
- 230000036961 partial effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 206010070834 Sensitisation Diseases 0.000 description 2
- 238000003705 background correction Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000008313 sensitization Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 206010034960 Photophobia Diseases 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000013016 learning Effects 0.000 description 1
- 208000013469 light sensitivity Diseases 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000009938 salting Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本申请实施例公开了一种图像处理方法、装置、电子设备及计算机可读存储介质。该方法包括:获取多帧待处理图像,其中,所述多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像;对至少一帧所述亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像;识别所述LLHDR图像中的前景区域,得到前景识别结果;基于所述前景识别结果对所述LLHDR图像进行虚化处理,得到目标图像。上述的图像处理方法、装置、电子设备及计算机可读存储介质,能够提高图像的虚化效果。
Description
技术领域
本申请涉及影像技术领域,具体涉及一种图像处理方法、装置、电子设备及计算机可读存储介质。
背景技术
在影像技术领域中,为了突出图像中的拍摄主体,通常会对图像中的背景区域进行虚化,以达到使拍摄主体清晰的效果。如何提高图像的虚化效果成了影像技术领域内的重点关注问题。
发明内容
本申请实施例公开了一种图像处理方法、装置、电子设备及计算机可读存储介质,能够提高图像的虚化效果。
本申请实施例公开了一种图像处理方法,包括:获取多帧待处理图像,其中,所述多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,所述亮帧图像为曝光值大于或等于曝光阈值的待处理图像,所述暗帧图像为曝光值小于所述曝光阈值的待处理图像;对至少一帧所述亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像;识别所述LLHDR图像中的前景区域,得到前景识别结果;基于所述前景识别结果对所述LLHDR图像进行虚化处理,得到目标图像。
本申请实施例公开了一种图像处理装置,包括:图像获取模块,用于获取多帧待处理图像,其中,所述多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,所述亮帧图像为曝光值大于或等于曝光阈值的待处理图像,所述暗帧图像为曝光值小于所述曝光阈值的待处理图像;高动态模块,用于对至少一帧所述亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,得到低光高动态范围LLHDR图像;前景识别模块,用于识别所述LLHDR图像中的前景区域,得到前景识别结果;虚化模块,用于基于所述前景识别结果对所述LLHDR图像进行虚化处理,得到目标图像。
本申请实施例公开了一种电子设备,包括存储器及处理器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器实现如上所述的方法。
本申请实施例公开了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的方法。
本申请实施例公开的图像处理方法、装置、电子设备及计算机可读存储介质,获取多帧待处理图像,该多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,对至少一帧亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像,识别LLHDR图像中的前景区域,得到前景识别结果,并基于前景识别结果对LLHDR图像进行虚化处理,得到目标图像。在本申请实施例中,对待处理图像进行降噪及融合,得到LLHDR图像,基于该LLHDR图像进行前景识别及虚化处理,可提高前景识别的准确性,且使得虚化得到目标图像的背景区域保持高动态范围,能够提高图像的虚化效果。
此外,本申请从软硬件结合的角度提供了一种图像的虚化技术,先利用曝光表通过硬件抽象层控制成像装置采集待处理图像,再从软件层进行融合及虚化等图像处理,从整体上提高了图像的表现力。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中图像处理电路的框图;
图2为一个实施例中图像处理方法的流程图;
图3为一个实施例中合成LLHDR图像的流程图;
图4为一个实施例中合成LLHDR图像的示意图;
图5为一个实施例中对LLHDR图像中背景区域的各个第一像素点进行点扩散处理,以得到背景虚化图像的流程图;
图6为一个实施例中对第一像素点的扩散结果进行叠加的示意图;
图7为另一个实施例中对LLHDR图像中背景区域的各个第一像素点进行点扩散处理,以得到背景虚化图像的流程图;
图8为一个实施例中在背景虚化图像叠加LUT滤镜的流程图;
图9为一个实施例中在背景虚化图像的背景区域叠加噪声的流程图;
图10为一个实施例中正态分布的示意图;
图11为一个实施例中生成第一边缘掩膜的示意图;
图12为一个实施例中半像素值的示意图;
图13为一个实施例中根据LLHDR图像的背景复杂度优化人像掩膜的头发区域边缘的流程图;
图14为一个实施例中生成背景复杂度图像的示意图;
图15为一个实施例中对LLHDR图像进行人像重对焦的流程图;
图16A为一个实施例中人脸清晰区域的示意图;
图16B为一个实施例中权重掩膜的示意图;
图17为一个实施例中图像处理装置的框图;
图18为一个实施例中电子设备的结构框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例及附图中的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一像素点称为第二像素点,且类似地,可将第二像素点称为第一像素点。第一像素点和第二像素点两者都是像素点,但其不是指代同一像素点。需要说明的是,本申请所使用的术语“多帧”、“多个”等指代的是“两帧及两帧以上”、“两个及两个以上”。
本申请实施例提供一种电子设备,该电子设备可包括但不限于手机、智能可穿戴设备、平板电脑、PC(Personal Computer,个人计算机)、车载终端、数码相机等,本申请实施例对此不作限定。该电子设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image Signal Processing,图像信号处理)管线的各种处理单元。图1为一个实施例中图像处理电路的框图。为便于说明,图1仅示出与本申请实施例相关的图像处理技术的各个方面。
如图1所示,图像处理电路包括ISP处理器140和控制逻辑器150。成像装置110捕捉的图像数据首先由ISP处理器140处理,ISP处理器140对图像数据进行分析以捕捉可用于确定成像装置110的一个或多个控制参数的图像统计信息。成像装置110可包括一个或多个透镜112和图像传感器114。图像传感器114可包括色彩滤镜阵列(如Bayer滤镜),图像传感器114可获取每个成像像素捕捉的光强度和波长信息,并提供可由ISP处理器140处理的一组原始图像数据。姿态传感器120(如三轴陀螺仪、霍尔传感器、加速度计等)可基于姿态传感器120接口类型把采集的图像处理的参数(如防抖参数)提供给ISP处理器140。姿态传感器120接口可以采用SMIA(Standard Mobile Imaging Architecture,标准移动成像架构)接口、其它串行或并行摄像头接口或上述接口的组合。
需要说明的是,虽然图1中仅示出了一个成像装置110,但是在本申请实施例中,可包括至少两个成像装置110,每个成像装置110可分别对应一个图像传感器114,也可多个成像装置110对应一个图像传感器114,在此不作限定。每个成像装置110的工作过程可参照上述所描述的内容。
此外,图像传感器114也可将原始图像数据发送给姿态传感器120,姿态传感器120可基于姿态传感器120接口类型把原始图像数据提供给ISP处理器140,或者姿态传感器120将原始图像数据存储到图像存储器130中。
ISP处理器140按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器140可对原始图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
ISP处理器140还可从图像存储器130接收图像数据。例如,姿态传感器120接口将原始图像数据发送给图像存储器130,图像存储器130中的原始图像数据再提供给ISP处理器140以供处理。图像存储器130可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自图像传感器114接口或来自姿态传感器120接口或来自图像存储器130的原始图像数据时,ISP处理器140可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器130,以便在被显示之前进行另外的处理。ISP处理器140从图像存储器130接收处理数据,并对该处理数据进行原始域中以及RGB和YCbCr颜色空间中的图像数据处理。ISP处理器140处理后的图像数据可输出给显示器160,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,ISP处理器140的输出还可发送给图像存储器130,且显示器160可从图像存储器130读取图像数据。在一个实施例中,图像存储器130可被配置为实现一个或多个帧缓冲器。
ISP处理器140确定的统计数据可发送给控制逻辑器150。例如,统计数据可包括陀螺仪的振动频率、自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、透镜112阴影校正等图像传感器114统计信息。控制逻辑器150可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定成像装置110的控制参数及ISP处理器140的控制参数。例如,成像装置110的控制参数可包括姿态传感器120控制参数(例如增益、曝光控制的积分时间、防抖参数等)、照相机闪光控制参数、照相机防抖位移参数、透镜112控制参数(例如聚焦或变焦用焦距)或这些参数的组合。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及透镜112阴影校正参数。
示例性地,结合图1的图像处理电路,对本申请实施例所提供的图像处理方法进行说明。ISP处理器140可根据曝光表,向控制逻辑器150发送该曝光表中包含的多个曝光值,控制逻辑器150可基于该多个曝光值,控制成像装置110采集与该多个曝光值分别对应的多帧待处理图像,成像装置110将采集的多帧待处理图像可发送给ISP处理器140。
其中,多帧待处理图像中可包括至少一帧亮帧图像及至少一帧暗帧图像,亮帧图像为曝光值大于或等于曝光阈值的待处理图像,暗帧图像为曝光值小于曝光阈值的待处理图像。ISP处理器140可对至少一帧亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与至少一帧暗帧图像进行融合,以得到LLHDR(low light high dynamic range,低光高动态范围)图像,再识别该LLHDR图像中的前景区域,得到前景识别结果,并基于该前景识别结果对LLHDR图像进行虚化处理,得到目标图像。
在一些实施例中,成像装置110采集的多帧待处理图像可以是第一图像格式(如RAW格式)的原始图像,ISP处理器140在接收到成像装置110发送的多帧原始图像后,可对该多帧原始图像进行处理,以得到第二图像格式(如YUV格式或RGB格式等)的待处理图像。ISP处理器140可再基于第二图像格式的待处理图像,合成LLHDR图像,以及对LLHDR图像进行前景识别及虚化处理等,得到目标图像。
可选地,ISP处理器140在得到第二图像格式的待处理图像后,也可将该第二图像格式的待处理图像发送给电子设备中的其它处理器,如CPU(central processing unit,中央处理器)、GPU(graphics processing unit,图形处理器)等处理器,该其它处理器可基于第二图像格式的待处理图像,合成LLHDR图像,以及对LLHDR图像进行前景识别及虚化处理等,得到目标图像,以实现本申请实施例所提供的图像处理方法。
如图2所示,在一个实施例中,提供一种图像处理方法,可应用于上述的电子设备,该方法可包括以下步骤:
步骤210,获取多帧待处理图像,其中,多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像。
多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,其中,亮帧图像为曝光值大于或等于曝光阈值的待处理图像,暗帧图像为曝光值小于曝光阈值的待处理图像。可选地,曝光阈值可根据实际需求进行设置,例如,曝光阈值可为0等曝光值。
在一些实施例中,电子设备可从存储器中获取多帧待处理图像。
在一些实施例中,电子设备可根据曝光表中包含的多个曝光值,控制成像装置采集与多个曝光值分别对应的多帧待处理图像。可获取曝光表,曝光表中可包括多个曝光值,其中,曝光值(Exposure Value,EV)是由快门速度值和光圈值组合表示摄影镜头通光量的一个数值,用于反映曝光量。根据曝光表中包含的各个曝光值,可确定各个曝光值对应的拍摄参数,该拍摄参数可包括但不限于光圈(f值)、快门速度及曝光时间等中的一种或多种,并控制成像装置按照各个曝光值对应的拍摄参数采集对应各个曝光值的待处理图像。
在本申请实施例中,曝光表中可包括至少一个大于或等于曝光阈值的曝光值,以及至少一个小于该曝光阈值的曝光值,以使成像装置采集的多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像。
可选地,在通过成像装置采集得到多帧亮帧图像的情况下,多帧亮帧图像的曝光值可不同,也可以相同,进一步地,本申请实施例中的亮帧图像均可以是曝光值为0的图像(即正常曝光的图像)。可选地,在通过成像装置采集得到多帧暗帧图像的情况下,多帧暗帧图像的曝光值可相同,也可不同。例如,曝光表包括的曝光值为0,-12,0,-18,0,其中,第一、三、五个曝光值对应正常曝光的图像(即亮帧图像),第二、四个曝光值对应暗帧图像。
在一些实施例中,曝光表可以是基于电子设备当前所处的场景信息生成的,可获取场景信息,并根据该场景信息生成曝光表。该场景信息可用于反映电子设备当前所处的场景,可选地,场景信息可包括但不限于场景类型、场景亮度、感光度ISO值等中的一种或多种。
其中,场景类型可包括夜晚场景、白天场景、室内场景、室外场景等,不同场景类型可对应不同的场景亮度情况。作为一种实施方式,可通过场景分类模型确定当前所处的场景类型,该场景分类模型可以是根据大量的场景样本图像进行训练得到的,每张场景样本图像可携带有对应的场景类型。可通过成像装置采集当前场景的预览图像,并将该预览图像输入到场景分类模型中,景分类模型可提取该预览图像的图像特征,并根据该图像特征确定预览图像对应的场景类型。
场景亮度可用于表征场景的环境亮度,作为一种实施方式,电子设备中可设置有光传感器,可通过该光传感器采集环境光信息,并根据该环境光信息确定场景亮度。
ISO值可用于衡量底片对于光的灵敏程度,不同的ISO值可用于反映场景的亮度情况,在场景较亮时,成像装置的ISO值可较小,在场景较暗时,成像装置的ISO可较大。
在一些实施例中,可根据场景信息确定各帧暗帧图像对应的曝光值。由于在夜晚场景或是环境亮度较低的较暗场景下,会导致成像装置采集的图像中出现光源处过曝光的情况,因此,需要将亮帧图像与暗帧图像进行融合,得到LLHDR图像。可基于场景信息对各帧暗帧图像对应的曝光值进行自适应处理,若该场景信息表征当前所处的场景较亮,则暗帧对应的曝光值可相对较大,若该场景信息表征当前所处的场景较暗,则暗帧对应的曝光值可相对较小。
例如,在ISO值大于3000时,暗帧对应的曝光值可为-32,在ISO值处于500~3000范围内时,暗帧对应的曝光值可为-18,但不限于此。根据场景信息对暗帧对应的曝光值进行自适应调整,可使得采集得到的暗帧图像与当前所处场景的亮度适配,可避免后续合成的LLHDR图像出现过曝或过暗的情况,提高LLHDR图像的图像效果。
在一些实施例中,在生成曝光表后,可将曝光表发送给操作系统中的HAL(Hardware Abstraction Layer,硬件抽象层),HAL层位于操作系统内核与硬件之间的接口层,其目的在于硬件抽象化,隐藏了平台的硬件接口细节,通过HAL层可调用成像装置的图像拍摄功能。在将曝光表传递给HAL层后,HAL层可根据曝光表中包含的各个曝光值,控制成像装置采集与各个曝光值对应的待处理图像。
步骤220,对至少一帧亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像。
由于亮帧图像的图像亮度较大,包含的图像噪声也较大,因此,可先对至少一帧亮帧图像进行降噪处理,再将降噪处理后的亮帧图像与至少一帧暗帧图像进行融合,得到具备高动态范围的LLHDR图像,且该LLHDR图像不会出现部分图像区域过曝的情况,保证了后续前景识别的准确性以及虚化处理效果。
步骤230,识别LLHDR图像中的前景区域,得到前景识别结果。
可对LLHDR图像进行图像识别,得到LLHDR图像的前景区域及背景区域。其中,前景区域可指的是LLHDR图像中的目标对象所在的图像区域,该目标对象指的是LLHDR图像中关注的对象,例如,LLHDR图像可为人物图像,则目标对象可以是该人物图像中的人像,前景区域可指的是人像区域,LLHDR图像可为动物图像,则目标对象可以是该动物图像中的动物,前景区域可指的是动物区域,LLHDR图像还可以是建筑图像,则目标对象可为该建筑图像中的建筑物,则前景区域可指的该建筑物所在的图像区域等,但不限于此。背景区域可指的是LLHDR图像中除前景区域以外的图像区域。
电子设备可对LLHDR图像进行前景识别,得到前景识别结果,该前景识别结果可用于确定LLHDR图像中前景区域的图像位置,可选地,前景识别结果中可标注LLHDR图像中的各个像素点属于前景区域还是背景区域。
作为一种实施方式,电子设备可获取LLHDR图像对应的深度图,该深度图可包括LLHDR图像中各个像素点的深度信息,该深度信息可用于表征被拍摄物体与摄像头之间的距离,深度信息越大可表示距离越远。前景区域与背景区域对应的深度信息差别较大,因此,可根据深度图对LLHDR图像中的前景区域及背景区域进行划分,例如,该背景区域可以是深度信息大于第一阈值的像素点组成的区域,该前景区域可以是深度信息小于第二阈值的像素点组成的区域等。
作为另一种实施方式,电子设备也可采用神经网络确定LLHDR图像中的前景区域,可将LLHDR图像输入预先训练得到的对象分割模型,并通过该对象分割模型识别LLHDR图像中包含的目标对象,以得到该目标对象对应的前景区域。该对象分割模型可以是根据大量的样本训练图像进行训练得到的,每张样本训练图像可标注有前景区域。该对象分割模型可包括但不限于基于deeplab语义分割算法的网络、U-Net网络结构、FCN(FullyConvolutional Networks,全卷积神经网络)等,在此不作限定。
需要说明的是,也可采用其它方式识别LLHDR图像中的前景区域,识别前景区域的方式在本申请实施例中不作限制。
步骤240,基于前景识别结果对LLHDR图像进行虚化处理,得到目标图像。
其中,虚化处理可采用高斯滤波器、均值模糊处理、中值模糊处理等方式进行实现,在此不作限定。在一些实施例中,可根据前景识别结果确定LLHDR图像中的前景区域及背景区域,并对LLHDR图像中的背景区域进行虚化处理,得到目标图像。
在一些实施例中,电子设备可根据LLHDR图像的深度图对LLHDR图像的背景区域进行划分,将背景区域中深度信息相同或相近的像素点划分到同一图像区域中,以得到多个背景子区域。可根据各个背景子区域对应的深度信息确定各个背景子区域对应的虚化参数,该虚化参数可用于描述虚化程度,例如可包括虚化力度、虚化系数等参数,再根据各个背景子区域对应的虚化参数对各个背景子区域进行虚化处理。可选地,深度信息较大的背景子区域可对应较大的虚化程度,深度信息较小的背景子区域可对应较小的虚化程度,从而可分别对不同的背景子区域进行不同程度的虚化处理,提高图像的虚化效果。
在一些实施例中,电子设备也可先对LLHDR图像进行整图的虚化处理,再基于前景识别结果,将虚化后的LLHDR图像与虚化前的LLHDR图像进行融合,得到目标图像。该融合的方式可包括但不限于取均值进行融合、分配不同权重系数融合、Alpha融合处理等。以Alpha融合处理为例,Alpha融合处理可为虚化前的LLHDR图像及虚化后的LLHDR图像中的每个像素点分别赋予一个Alpha值,使得虚化前的LLHDR图像及虚化后的LLHDR图像具有不同的透明度。例如,前景识别结果中背景区域的像素点的像素值为0,可将前景识别结果作为虚化前的LLHDR图像的Alpha值,将虚化后的LLHDR图像与虚化前的LLHDR图像进行融合。由于前景识别结果中标注了前景区域,因此融合得到的目标图像中的前景区域可为虚化前的LLHDR图像的图像内容,目标图像中的背景区域可为虚化后的LLHDR图像的图像内容,可改善出现对前景区域误虚或背景区域漏虚的情况,提高了目标图像的虚化准确性。
在本申请实施例中,从软硬件结合的角度提供一种图像的虚化技术,先利用曝光表控制硬件层的成像装置采集待处理图像,再从软件层对待处理图像进行降噪及融合,得到LLHDR图像,基于该LLHDR图像进行前景识别及虚化处理,可提高前景识别的准确性,且使得虚化得到目标图像的背景区域保持高动态范围,能够提高图像的虚化效果。
在一个实施例中,通过成像装置采集的多帧待处理图像可包括通过图像传感器采集的多帧第一图像格式的原始图像,在步骤控制成像装置采集与多个曝光值分别对应的多帧待处理图像之后,还可包括:通过ISP对多帧原始图像进行优化处理,得到多帧第二图像格式的待处理图像。
第一图像格式可包括RAW格式,如原始图像可以是按照拜尔阵列排列的原始图像数据等;第二图像格式包括YUV格式或RGB格式等。图像传感器在采集得到与各个曝光值对应的原始图像后,可将原始图像发送给ISP,ISP可对图像传感器传送的多帧原始图像进行优化处理,得到YUV(明亮度-色度)格式或RGB(红-绿-蓝)格式的待处理图像。
可选地,上述的优化处理可包括但不限于以下几种优化方式中的一种或多种:
方式一、色彩优化。ISP可对原始图像进行色彩优化,该色彩优化可包括提升原始图像的对比度、提升原始图像的饱和度等处理,其中,对比度指的是一幅图像中明暗区域最亮的白和最暗的黑之间不同亮度层级的测量,饱和度可用于表征图像的色彩的鲜艳程度。通过色彩优化可提高原始图像的色彩表现力。
可选地,在原始图像包含人像的情况下,ISP还可对原始图像中的人脸区域进行色彩保护,仅对除人脸区域以外的图像区域进行对比度调整及饱和度调整,以改善人脸区域的肤色均匀性。
方式二、曝光优化。ISP可调整原始图像的曝光度,以降低背景区域的亮度,可避免背景区域出现过曝不自然的情况。可选地,对于逆光或暗光场景,可能出现前景区域亮度较小(即前景区域过暗)的情况,特别是对于逆光或暗光场景下拍摄的人像图像,在调整原始图像的曝光度时可能会导致前景的人脸亮度过低的情况。
因此,作为一种实施方式,在识别到当前处于逆光场景或暗场景(如夜晚场景、室内场景等)时,ISP可根据原始图像的亮度直方图确定目标曝光度,再将原始图像的曝光度调整为该目标曝光度,该亮度直方图表示了原始图像在每个亮度级别的像素点数量,可用于反映原始图像整体上的亮度分布情况,从而可平衡背景区域及前景区域。
作为另一种实施方式,在识别到当前处于逆光场景或暗场景(如夜晚场景、室内场景等)时,也可仅对原始图像中亮度大于第一亮度阈值的图像区域进行曝光优化,既减少了原始图像过曝的情况,也可避免对前景区域造成不良影响。
可选地,ISP可根据当前所处场景的场景信息,判断当前是否处于逆光场景或暗场景。ISP也可以根据原始图像的亮度直方图提取原始图像的亮度特征,并根据该亮度特征判断当前是否处于逆光场景或暗场景,例如,亮度直方图中反映原始图像中的像素点主要分布在两个差别较大的亮度区间,可说明原始图像中包含过亮的图像区域及过暗的图像区域,处于逆光场景。需要说明的是,也可采用其它方式识别当前是否处于逆光场景或暗场景,本申请实施例对此不作限定。
方式三、噪声优化。ISP可对原始图像进行降噪处理,该降噪处理可包括但不限于中值滤波降噪、均值滤波降噪、高斯滤波降噪等,但不限于此。可选地,在ISO值较大的情况下,成像装置采集得到的原始图像中包含的噪声也较多,因此,ISP可获取原始图像对应的ISO值,并根据该ISO值确定降噪参数,该降噪参数可包括降噪力度等,降噪力度越大,降噪效果越好,但可能会导致图像中的细节丢失,降噪力度越小,降噪效果越差,但可以保留图像中更多的细节。可根据ISO值自适应调整降噪参数,在减少原始图像中的图像噪声的同时,保留更多的图像细节。
在通过ISP对多帧原始图像进行优化处理,得到多帧第二图像格式的待处理图像后,可对该多帧第二图像格式的待处理图像中的亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与该多帧第二图像格式的待处理图像中的暗帧图像进行融合,得到低光高动态范围LLHDR图像。可选地,合成LLHDR图像及后续的图像虚化等处理,可以是在ISP上进行,也可以是ISP将第二图像格式的待处理图像传递到CPU、GPU等其它处理器,由CPU、GPU等其它处理器进行LLHDR图像的合成及后续的图像虚化等处理。
在本申请实施例中,在图像传感器采集到原始图像后,可通过ISP对原始图像进行基础画质调优,再合成LLHDR图像,可提高合成的LLHDR图像的图像质量,保证后续的图像虚化效果。
如图3所示,在一个实施例中,成像装置采集的多帧待处理图像中可包括至少两帧亮帧图像及至少一帧暗帧图像。步骤对至少一帧亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像,可包括以下步骤:
步骤302,从至少两帧亮帧图像中选择基准帧图像。
可从至少两帧亮帧图像中选择基准帧图像,该基准帧图像可以是至少两帧亮帧图像中的任一亮帧图像,也可以是固定帧序号的亮帧图像,例如,每次都采集3帧亮帧图像,可选择排列在第2的亮帧图像作为基准帧图像。
步骤304,将至少两帧亮帧图像进行配准对齐,以得到基准帧图像与其它亮帧图像之间的第一对齐区域及第一非对齐区域。
在一些实施例中,将至少两帧亮帧图像进行配准对齐的方式,可以是分别检测各帧亮帧图像的特征点,并将各帧图像的特征点进行匹配,根据匹配结果可得到基准帧图像与其它亮帧图像之间的第一对齐区域及第一非对齐区域。其中,特征点可采用ORB(Oriented FAST and Rotated BRIEF)算法、SIFT(Scale-invariant feature transform,尺度不变特征变换)算法等进行检测,本申请实施例对具体的特征检测算法不作限定。
需要说明的是,也可采用其它方式进行图像的配准对齐,如可将至少两帧亮帧图像输入神经网络,并通过该神经网络进行图像配对准齐,得到基准帧图像与其它亮帧图像之间的第一对齐区域及第一非对齐区域。
其中,该第一对齐区域可指的是基准帧图像中与其它亮帧图像匹配的图像区域,基准帧图像中的第一对齐区域与其它亮帧图像中的部分图像区域的相似度大于相似阈值,该其它亮帧图像指的是至少两帧亮帧图像中,除基准帧图像以外的亮帧图像。可选地,第一对齐区域可以是基准帧图像中与所有其它亮帧图像匹配的图像区域,也可以是基准帧图像中与部分其它亮帧图像匹配的图像区域。
第一非对齐区域可以是基准帧图像中除第一对齐区域以外的图像区域,可指的是基准帧图像中与其它亮帧图像不匹配的图像区域。
步骤306,基于至少两帧亮帧图像,对基准帧图像中的第一对齐区域进行降噪处理,并针对基准帧图像的第一非对齐区域进行单帧降噪处理,以得到降噪图像。
对于基准帧图像中的第一对齐区域,可进行多帧图像之间的降噪处理,基于与该第一对齐区域匹配的亮帧图像对基准帧图像中的第一对齐区域进行降噪处理。可选地,该多帧图像之间的降噪处理可包括多帧图像之间的均值降噪处理、高斯降噪处理、中值降噪处理等,但不限于此。以均值降噪处理为例,针对基准帧图像中第一对齐区域的各个像素点X,可在与该第一对齐区域匹配的各帧其它亮帧图像中找到对应的像素点Y,可将第一对齐区域的各个像素点X的像素值,与各帧其它亮帧图像中对应的像素点Y的像素值进行相加后求取平均值,得到基准帧图像中第一对齐区域的各个像素点X降噪后的像素值。
对于基准帧图像中的第一非对齐区域,可进行单帧图像的降噪处理,不参考其它亮帧图像,直接对第一非对齐区域进行降噪处理。可选地,该单帧图像的降噪处理可包括第一非对齐区域内的均值降噪处理、高斯降噪处理、中值降噪处理等,也可利用inpaint函数对第一非对齐区域进行降噪等。以均值降噪处理为例,针对基准帧图像中第一非对齐区域的各个像素点M,可分别与邻域各个的像素点的像素值进行相加后求取平均值,得到第一非对齐区域的各个像素点M降噪后的像素值。针对基准帧的第一对齐区域及第一非对齐区域,分别采用不同的降噪策略进行降噪处理,能够有效进行降噪且提高了降噪的准确率,提高降噪效果。
在一些实施例中,在对基准帧图像进行降噪处理前,可根据场景信息确定基准图像对应的降噪参数,该降噪参数可包括降噪力度等,在场景信息表征当前所处的场景较亮时,基准图像中生成的噪声会较少,可对应较小的降噪力度,在场景信息表征当前所处的场景较暗时,基准图像中生成的噪声会较多,可对应较大的降噪力度。进一步地,该降噪力度可与ISO值呈正相关关系。
在确定降噪参数后,可根据该降噪参数,对基准帧图像中的第一对齐区域进行多帧图像之间的降噪处理,并根据该降噪参数对基准帧图像的第一非对齐区域进行单帧降噪处理,以得到降噪图像。
以多帧图像之间的均值降噪处理为例,可根据降噪参数分配基准帧图像以及匹配的各帧其它亮帧图像分别对应的降噪权重,对于基准帧图像中第一对齐区域的各个像素点X,可根据基准帧图像以及匹配的各帧其它亮帧图像分别对应的降噪权重,将第一对齐区域的各个像素点X的像素值与各帧其它亮帧图像中对应的像素点Y的像素值进行加权平均计算,得到各个像素点X降噪后的像素值。可选地,降噪力度与基准帧图像对应的降噪权重可呈负相关关系,在降噪力度较大时,基准帧图像对应的降噪权重可较小。
在本申请实施例中,可根据场景信息自适应调整亮帧图像的降噪参数,以保证得到的降噪图像保留更多的图像细节,且降噪效果更好。
步骤308,将降噪图像及至少一帧暗帧图像进行配准对齐,以得到降噪图像与至少一帧暗帧图像之间的第二对齐区域及第二非对齐区域。
可将降噪图像与各帧暗帧图像进行配准对齐,其配准对齐的方式可与将至少两帧亮帧图像进行配准对齐的方式相似,在此不再重复赘述。
降噪图像的第二对齐区域指的是降噪图像中与暗帧图像匹配的图像区域,第二非对齐区域为降噪图像中除第二对齐区域以外的图像区域,第二非对齐区域指的是降噪图像中与各帧暗帧图像不匹配的图像区域。
步骤310,基于降噪图像及至少一帧暗帧图像,对降噪图像中的第二对齐区域进行色度调整处理,并对降噪图像的第二非对齐区域进行单帧的色彩增强处理,得到LLHDR图像。
对于降噪图像中的第二对齐区域,可参考匹配的各帧暗帧图像,进行多帧图像间的色度调整处理,将降噪图像中的第二对齐区域与各帧暗帧图像中匹配的图像区域进行色度融合,以对降噪图像进行色彩还原,且起到了抑制高光区域的效果,避免LLHDR图像出现过曝现象。可选地,该色度调整处理可包括多帧图像之间的色度均值处理等,以亮帧图像及暗帧图像均为YUV格式的图像为例,对于降噪图像中第二对齐区域的各个像素点P,可在匹配的各帧暗帧图像中找到对应的像素点Q,可将第二对齐区域的各个像素点P的UV值(明度),与匹配的各帧暗帧图像中对应的像素点Q的UV值进行相加后求取平均值,得到第二对齐区域中各个像素点P色度调整处理后的UV值。
在一些实施例中,在对降噪图像进行色度调整处理前,可根据场景信息确定降噪图像对应的第一饱和度参数,该第一饱和度参数可用于表征LLHDR所需的色彩饱和度。通常在较暗场景(如夜晚场景等)下,在对图像进行虚化时需要色彩丰富的光斑,因此,在场景信息表征当前所处的场景较暗时,可对应较大的第一饱和度参数,在场景信息表征当前所处的场景较亮时,可对应较小的第一饱和度参数。进一步地,该第一饱和度参数可与ISO值呈正相关关系。
可根据上述确定的第一饱和度参数,基于降噪图像及至少一帧暗帧图像,对降噪图像中的第二对齐区域进行色度调整处理。具体地,可根据该第一饱和度参数确定降噪图像及各帧暗帧图像分别对应的色度权重,并根据降噪图像、各帧暗帧图像,以及降噪图像、各帧暗帧图像分别对应的色度权重,将降噪图像中的第二对齐区域与各帧暗帧图像中匹配的图像区域进行色度融合。可选地,降噪图像对应的色度权重可与第一饱和度参数呈负相关关系,第一饱和度参数越大,降噪图像对应的色度权重可越小。
示例性地,对于降噪图像中第二对齐区域的各个像素点P,可根据降噪图像及各帧暗帧图像分别对应的色度权重,将第二对齐区域的各个像素点P的UV值,与匹配的各帧暗帧图像中对应的像素点Q的UV值进行加权平均计算,得到第二对齐区域中各个像素点P色度调整处理后的UV值。通过场景信息自适应调整第一饱和度参数,可使得LLHDR图像贴合不同场景的需求,提高LLHDR的图像质量。
对于降噪图像的第二非对齐区域,可进行单帧的色彩增强处理,作为一种具体实施方式,可基于伽玛(gamma)曲线对降噪图像的第二非对齐区域进行色彩校正。伽玛曲线是一种特殊的色调曲线,基于伽玛曲线对降噪图像的第二非对齐区域进行色彩校正,可改善第二非对齐区域出现过亮或过暗的情况,使第二非对齐区域具备更丰富的色彩效果。
示例性地,图4为一个实施例中合成LLHDR图像的示意图。如图4所示,成像装置可采集得到3帧亮帧图像及2帧暗帧图像,可将亮帧图像2作为基准帧图像,将3帧亮帧图像进行配准对齐,确定亮帧图像2中的第一对齐区域及第一非对齐区域,并分别对亮帧图像2中的第一对齐区域及第一非对齐区域进行上述的降噪处理,得到降噪图像。再将降噪图像与2帧暗帧图像进行配准对齐,确定降噪图像中的第二对齐区域及第二非对齐区域,并结合2帧暗帧图像对降噪图像中的第二对齐区域进行色度调整处理,以及对降噪图像中的第二非对齐区域进行单帧的色彩增强处理,得到LLHDR图像。
在本申请实施例中,先对从多帧亮帧图像中选取出的基准帧图像进行降噪处理,得到降噪图像,再将降噪图像与暗帧图像融合,对降噪图像进行色度调整及色彩调整等处理,可抑制降噪图像中的高光区域,得到具备降噪效果及压高光效果的LLHDR图像,提高了LLHDR图像的图像效果,进一步提高后续对LLHDR进行虚化处理后得到的目标图像的图像效果。
在一个实施例中,步骤基于前景识别结果对LLHDR图像进行虚化处理,得到目标图像,可包括:基于前景识别结果对LLHDR图像的背景区域进行虚化处理,得到背景虚化图像;基于背景识别结果,将背景虚化图像与LLHDR图像进行融合处理,以得到目标图像。
如图5所示,在一个实施例中,步骤基于前景识别结果对LLHDR图像的背景区域进行虚化处理,得到背景虚化图像,可包括以下步骤:
步骤502,根据前景识别结果获取LLHDR图像的虚化力度图,并获取LLHDR图像对应的扩散权重图。
LLHDR图像可包括前景区域及背景区域,可将该背景区域中的像素点定义为第一像素点,将该前景区域中的像素点定义为第二像素点。LLHDR图像的虚化力度图可包括LLHDR图像的背景区域中各个第一像素点对应的虚化半径,虚化半径可用于指示虚化力度,虚化半径越大,虚化力度越大,虚化处理后的图像越模糊。LLHDR图像对应的虚化力度科中,不同的第一像素点对应的虚化半径可以相同,也可以不同。
作为一种实施方式,虚化力度图可根据LLHDR图像的深度图生成,电子设备可通过结构光、飞行时间(Time of Flight,TOF)、双目立体成像、单目相位检测、基于深度学习或者机器学习的单目深度估计等方法对LLHDR图像进行深度估计,得到LLHDR图像的深度图,并根据上述的各个第一像素点在深度图中对应的深度信息,确定各个第一像素点对应的虚化半径。可选地,第一像素点的深度信息可与第一像素点对应的虚化半径呈正相关关系。
作为另一种实施方式,虚化力度图也可以是根据预先设置的虚化力度参数生成的。可获取预先设置的虚化力度参数,根据该虚化力度参数确定目标虚化半径,并根据目标虚化半径及前景识别结果生成LLHDR图像的虚化力度图。其中,LLHDR图像的前景区域的各个第二像素点在虚化力度图中的虚化半径为0,LLHDR图像的背景区域的各个第一像素点在虚化力度图中的虚化半径为目标虚化半径。虚化力度参数可以是电子设备在出厂前统一设置的,也可以是用户根据实际需求进行设置的,在此不作限定。可选地,可通过查表等方式确定虚化力度参数对应的目标虚化半径。能够使得LLHDR图像的背景区域的所有像素点的虚化半径都相同,保证了后续进行虚化处理时背景区域的光斑一致性,能够更好地模拟单反大光圈景深极窄的图像效果,提高图像虚化效果。
LLHDR图像的扩散权重图可包括LLHDR图像的背景区域中各个第一像素点对应的扩散权重。扩散权重图可用于指示对背景区域中各个第一像素点进行点扩散处理,各个第一像素点对应的扩散权重可影响第一像素点在进行点扩散处理并进行叠加所占据的比重。
在一些实施例中,LLHDR图像的扩散权重图可根据LLHDR图像中的各个像素点的像素值生成,以LLHDR图像为YUV格式的图像为例,可根据LLHDR的像素点的Y(亮度)分量值及UV(色度)分量值生成。
步骤504,根据虚化力度图及扩散权重图,对各个第一像素点进行点扩散处理,得到各个第一像素点对应的扩散结果。
可对LLHDR图像背景区域的各个第一像素点进行遍历,获取各个第一像素点在虚化力度图中的虚化半径,以及各个第一像素点在扩散权重图中的扩散权重,并根据各个第一像素点的虚化半径及扩散权重,对各个第一像素点进行点扩散处理,得到各个第一像素点对应的扩散结果。
点扩散处理,可指通过点扩散函数(Point Spread Function,PSF)模拟真实的镜头模糊,通过点扩散处理可将各个第一像素点在LLHDR图像中的像素值,按照各个第一像素点对应的扩散权重以及虚化半径进行扩散,形成光斑。
在一些实施例中,第一像素点对应的扩散结果,可包括第一像素点对应的扩散范围、处于第一像素点对应的扩散范围内的各个第三像素点的目标像素值,以及处于第一像素点对应的扩散范围内的各个第三像素点的扩散次数。其中,第一像素点对应的扩散范围指的是以第一像素点为中心,以虚化半径作为外接圆半径的图像区域范围,扩散范围的外轮廓可为预设的光圈形状(如圆形、五角星形、方形等)。上述的第三像素点可为第一像素点对应的扩散范围内的任意一个像素点,第三像素点的目标像素值可指的是对第一像素点进行点扩散处理后第三像素点的像素值。
步骤506,对各个第一像素点对应的扩散结果进行叠加,并根据叠加结果对LLHDR图像的背景区域进行虚化处理,得到背景虚化图像。
可对LLHDR图像背景区域中的各个第一像素点对应的扩散结果进行叠加,该叠加可包括像素值的叠加以及扩散次数的叠加。在一些实施例中,可生成像素值叠加图及次数叠加图,该像素值叠加图可用于记录LLHDR图像中的各个第一像素点经过点扩散处理后叠加的像素值,次数叠加图可用于记录各个第一像素点的累计扩散次数。像素值叠加图中各个第一像素点的初始像素值可为0,次数叠加图中各个第一像素点的初始值也可为0。
针对各个第一像素点,在对当前的第一像素点进行点扩散处理后,可将当前的第一像素点的扩散范围内的各个第三像素点的目标像素值累加到像素值叠加图像,并将该各个第三像素点对应的扩散次数累加到次数叠加图中。
示例性地,图6为一个实施例中对第一像素点的扩散结果进行叠加的示意图。如图6所示,可对像素点X1及像素点X2分别进行点扩散处理,其扩散范围均为3*3。对像素点X1进行点扩散处理,得到扩散结果602,从扩散结果602中可获知像素点X1对应的扩散范围内的各个像素点的目标像素值可为A1~A9,其中,像素点X1的目标像素值为A5。对像素点X2进行点扩散处理,得到扩散结果604,从扩散结果604中可获知像素点X2对应的扩散范围内的各个像素点的目标像素值可为B1~B9,其中,像素点X2的目标像素值为B5。可将扩散结果602中各个像素点的目标像素值,以及扩散结果604中各个像素点的目标像素值,累加到像素值叠加图610中,其中,第3列的像素点由于同时处于像素点X1及像素点X2的扩散范围,因此会将目标像素值进行叠加。
在对各个第一像素点对应的扩散结果进行叠加后,可根据叠加结果对LLHDR图像的背景区域进行虚化处理,进一步地,可根据像素值叠加图和次数叠加图计算各个第一像素点的虚化像素值,实现虚化效果。作为一种实施方式,可根据像素值叠加图获取各个第一像素点的叠加总像素值,根据次数叠加图获取各个第一像素点的叠加总次数,并将各个第一像素点的叠加总像素值除以叠加总次数,得到各个第一像素点的虚化像素值,以得到背景虚化图像。
通过对LLHDR图像中背景区域的每个第一像素点以相对应的扩散权重进行点扩散处理,相互交叠之下,LLHDR图像中亮度较高的亮点形成高亮的光斑,而LLHDR图像中亮度较低的暗点形成朦胧的弥散圆。
在一些实施例中,在步骤502之前,还可包括:对LLHDR图像及前景识别结果进行下采样处理,得到相同尺寸的LLHDR下采样图像及下采样前景结果。步骤502可包括:根据下采样前景结果获取LLHDR下采样图像的虚化力度图,并获取LLHDR下采样图像对应的扩散权重图;步骤504可包括:根据叠加结果对LLHDR下采样图像的背景区域进行虚化处理,得到下采样虚化图像,并对下采样虚化图像进行上采样,得到与LLHDR图像相同尺寸的背景虚化图像。
在对LLHDR图像进行虚化处理前,可先对LLHDR图像及前景识别结果进行下采样处理,得到相同尺寸的LLHDR下采样图像及下采样前景结果。再基于该LLHDR下采样图像的虚化力度图及扩散权重图,对LLHDR下采样图像的背景区域进行虚化处理。对于相同的虚化力度参数,由于LLHDR下采样图像的图像尺寸小,分辨率较低,虚化强度会高于LLHDR图像,可解决虚化强度受限的问题,能够更加真实地模拟大光圈的虚化效果。
在本申请实施例中,可以通过点扩散处理模拟真实的镜头模糊,解决了高斯模糊和光斑贴图存在割裂的问题,使得图像整体的虚化效果和谐自然、融为一体,并且更能够模拟单反相机摄影的虚化自然、光斑明亮通透的效果,大大提升了虚化效果的质感。此外,可对LLHDR图像中背景区域的每个第一像素点进行点扩散处理,无需进行光源点位置识别,从而可以避免光源点位置识别不准确而导致虚化效果下降的问题,有利于提供更加真实自然的虚化效果。
如图7所示,在一些实施例中,基于点扩散处理生成背景虚化图像,可主要包括以下几个流程步骤:
步骤710、获取扩散掩膜。
扩散掩膜可用于定义LLHDR图像中进行点扩散处理的图像区域。可根据LLHDR图像的前景识别结果确定LLHDR图像的前景区域,并移除LLHDR图像的前景区域,得到扩散掩膜,可避免前景区域的像素点扩散到背景区域。
步骤720、对扩散权重图进行处理。
扩散权重图可包括亮度权重图及色度权重图,亮度权重图可至少包括LLHDR图像中背景区域的各个第一像素点对应的亮度权重,色度权重图可至少包括LLHDR图像中背景区域的各个第一像素点对应的色度权重。可选地,各个第一像素点对应的亮度权重可与各个第一像素点的亮度分量值呈正相关关系,第一像素点的亮度分量值越大,第一像素点对应的亮度权重越大;各个第一像素点对应的色度权重可与各个第一像素点的亮度分量值呈正相关关系,各个第一像素点对应的色度权重也可与各个第一像素点的色度分量值呈正相关关系,第一像素点的亮度分量值和色度分量值越大,第一像素点对应的色度权重越大。
在一些实施例中,可根据LLHDR图像中的各个像素点的亮度分量值生成初始的亮度权重图,该初始的亮度权重图中各个像素点的亮度权重可为各个像素点的亮度分量值。可对初始的亮度权重图进行调优处理,以删减密集光源区域的能量,避免后面点扩散时出现光斑堆叠过曝的情况。
在一些实施例中,可根据LLHDR图像中背景区域的各个像素点的亮度分量值生成初始的色度权重图,该初始的色度权重图中各个像素点的初始色度权重可为各个像素点的亮度分量值。可在初始的色度权重图中叠加色度信息,并进行增强色彩扩散和高光扩散,以得到后续进行点扩散处理时使用的色度权重图,从而可让后续的背景虚化中光斑能够扩散更多的色彩,增强光斑的色彩表现。
步骤730、生成光圈核。
电子设备中可预先存储有一个或多个光圈模板,光圈模板可用于定义光圈的形状,光圈模板可以是市面上相机各中光圈形状,也可以是特别设计、定制的光圈形状,如星形、心形、圆形等。可将光圈模板转化为光圈核,不同的光圈核可用于指示不同的扩散范围。不同的光圈核可对应于不同的虚化半径,同一个光圈模板可对应生成有多个虚化半径不同的光圈核,也即,同一个光圈形状可对应有多个虚化半径不同的光圈核。
电子设备可获取光圈参数,该光圈参数可以是用户根据实际需求输入的光圈形状,可获取与该光圈参数对应的光圈模板,并根据LLHDR图像的虚化力度图中各个第一像素点对应的虚化半径对该光圈模块进行转化,生成各个第一像素点对应的光圈核。具体地,可根据各个第一像素点对应的虚化半径对光圈模块进行缩放,例如,缩放到3×3、4×4……N×N的大小,以得到与虚化半径适配的光圈核。通过各式的光圈模板模拟各种光圈形状,可丰富光圈的表现形式。
步骤740、对LLHDR图像中背景区域的各个第一像素点进行点扩散处理。
可根据上述的扩散掩膜、扩散权重图及各个第一像素点的光圈核,对预处理后的LLHDR图像中背景区域的各个第一像素点进行点扩散处理,得到背景虚化图像。
在一些实施例中,基于扩散掩膜可确定预处理后的LLHDR图像中需要进行扩散处理的第一像素点,可将第一像素点的像素值与对应的扩散权重及对应的光圈核相乘,得到以该第一像素点为中心、虚化力度为半径的扩散范围内的各个第三像素点的目标像素值,并将该各个第三像素点的目标像素值累加到像素值叠加图像。可将第一像素点对应的扩散权重与对应的光圈核相乘,得到该第一像素点为中心、虚化力度为半径的扩散范围内的各个第三像素点的扩散次数,并将该各个第三像素点的扩散次数累加到次数叠加图中。
可根据像素值叠加图和次数叠加图计算各个第一像素点的虚化像素值,具体地,可通过公式(1)计算各个第一像素点的虚化像素值:
其中,kernel表示光圈核,weight表示扩散权重,input表示虚化前的像素值,Bokeh表示虚化后的像素值(即上述的虚化像素值)。可将预处理后的LLHDR图像中背景区域的各个第一像素点基于曲线映射后的扩散权重按照虚化半径扩散成特定的光圈形状,所有第一像素点的扩散结果叠加运算得到虚化结果,亮点形成了高亮的光斑,暗点形成朦胧的弥散圆。
在一些实施例中,针对预处理后的LLHDR图像中背景区域的各个第一像素点,可分别在Y通道、U通道及V通道按照上述描述的方式计算得到虚化后的分量值。
示例性地,可将各个第一像素点的Y分量值与对应的亮度权重及对应的光圈核相乘,得到以该第一像素点为中心、虚化力度为半径的扩散范围内的各个第三像素点的目标Y分量值,并将该各个第三像素点的目标Y分量值累加到Y分量叠加图像。可将第一像素点对应的亮度权重与对应的光圈核相乘,得到该第一像素点为中心、虚化力度为半径的扩散范围内的各个第三像素点的扩散次数,并将该各个第三像素点的扩散次数累加到Y分量对应的次数叠加图中。可将各个第一像素点在Y分量叠加图像中的叠加总Y分量值,与在Y分量对应的次数叠加图中的叠加总次数相除,得到各个第一像素点虚化后的Y分量值。各个第一像素点U通道的U分量值及V通道的V分量值也可分别按照类似的方式,基于色度权重确定各个第一像素点虚化后的U分量值及V分量值。
在本申请实施例中,使用点扩散处理来模拟相机的镜头模糊,解决了虚化与光斑的割裂感问题,使得整体虚化和谐自然、融为一体,实现了类单反的虚化自然、光斑明亮通透的效果,提升了虚化的质感。
如图8所示,在一个实施例中,在得到背景虚化图像后,上述方法还可包括以下步骤:
步骤802,获取背景虚化图像中各个像素点对应的像素值。
在一些实施例中,LLHDR图像可以是YUV格式的图像,可获取背景虚化图像中各个像素点对应的YUV值。
步骤804,将背景虚化图像中各个像素点对应的像素值,映射到目标查找表LUT中,得到映射结果。
LUT(Look-Up-Table,查找表)可理解为是一个转换模型或是多个转换模型的组合,LUT可被认为是一种函数,每个像素点的像素值经过LUT的重新定位后,可得到一个新的像素值。LUT可包括1DLUT(一维LUT)、2D LUT(二维LUT)及3D LUT(三维LUT)等。其中,在1DLUT中像素点在各个颜色通道的值是相互独立的,当某个颜色通道的值发生变化时,只会影响在1D LUT中输出的该颜色通道的值;在3D LUT中像素点的各个颜色通道的值会互相影响,当某个颜色通道的值发生变化时,3DLUT输出的各个颜色通道的值可能都会发生变化。可利用LUT对背景虚化图像进行转换,在背景虚化图像的光斑上叠加LUT滤镜,以提升背景虚化图像的整体表现力。
可选地,目标LUT可以是YUV色彩空间的标准LUT。电子设备可预先生成YUV色彩空间对应的标准LUT,其中,Y分量可映射到标准LUT中的块,UV分量可分别映射到标准LUT中的行和列,三个通道可分别按照0~255进行填充,通过输入YUV对应的坐标,即可查找到对应的映射结果。标准LUT可以是3D LUT。可直接根据背景虚化图像中各个像素点对应的YUV值,直接在该标准LUT中查找到映射的YUV结果,并将映射的YUV结果与背景虚化图像中各个像素点对应的YUV值进行融合,得到在背景虚化图像中叠加LUT滤镜的叠加结果,以提升背景虚化图像的色彩、对比度和氛围感。
作为一种实施方式,目标LUT也可以是标准LUT降采样后的LUT。可对标准LUT进行降采样,得到降采样的目标LUT,例如,可将标准的256LUT降采样为64LUT或16LUT,其中,64LUT范围为将标准LUT降采样到1/4,16LUT范围为标准LUT降采样到1/16。可对背景虚化图像中各个像素点对应的YUV值(指的是在Y通道、U通道及V通道的值)进行降采样,使得降采样后的YUV值与降采样的目标LUT匹配,例如,目标LUT为64LUT,则可将像素点对应的YUV值除以4,得到降采样后的YUV值。可对降采样后的YUV值进行上下取整,并根据取整结果确定在降采样的目标LUT中的LUT坐标,然后基于该坐标得到映射结果。
具体地,可通过公式(2)~(3)计算各个像素点在LUT范围中的坐标:
idxu=yu·bw2+uu·bw+vu 公式(2);
idxd=yd·bw2+ud·bw+vd 公式(3);
其中,yu表示降采样后的Y分量值向上取整的结果;uu表示降采样后的U分量值向上取整的结果;vu表示降采样后的V分量值向上取整的结果;bw表示目标LUT中每个格子的宽度;idxu表示向上取整结果对应的LUT坐标;yd表示降采样后的Y分量值向下取整的结果;ud表示降采样后的U分量值向下取整的结果;vd表示降采样后的V分量值向下取整的结果;idxd表示向下取整结果对应的LUT坐标。
可计算各个像素点的降采样后的YUV值对应的插值权重,并根据该插值权重及对应LUT坐标计算得到映射的LUT结果。具体地,像素点的插值权重可为降采样后的YUV值向上取整的结果减去降采样后的YUV值。可通过公式(4)计算插值权重:
α(y,u,v)=(y,u,v)u-(y,u,v) 公式(4);
其中,(y,u,v)表示降采样后的YUV值,(y,u,v)u表示降采样后的YUV值向上取整的结果,α(y,u,v)表示插值权重。再根据各个像素点的插值权重及LUT坐标进行插值计算得到映射结果。可通过公式(5)计算LUT结果:
(y,u,v)1=(1-α(y,u,v))·LUT[idxu]+α(y,u,v)·LUT[idxd] 公式(5);
其中,(y,u,v)1表示计算得到的映射结果(即LUT结果),LUT[idxu]表示基于LUT坐标idxu在目标LUT查找到的YUV结果,LUT[idxd]表示基于LUT坐标idxd在目标LUT查找到的YUV结果。
步骤806,基于LUT掩膜,将映射结果和背景虚化图像进行融合。
在一些实施例中,可将LUT掩膜作为映射结果的Alpha值,对映射结果和背景虚化图像进行Alpha融合。具体地,可通过公式(6)将映射结果和背景虚化图像进行融合:
(y,u,v)2=(1-mask1)·(Y,U,V)+mask1·(y,u,v)1 公式(6);
其中,(y,u,v)2表示融合后的结果,也即在背景虚化图像中叠加了LUT滤镜的结果,mask1表示LUT掩膜,(Y,U,V)表示背景虚化图像。LUT掩膜可用于确定需要叠加LUT滤镜的图像区域,进一步地,LUT掩膜还可用于确定需要叠加LUT滤镜的图像区域的叠加程度。LUT掩膜可根据实际的图像处理需求进行定义。
在本申请实施例中,通过在背景虚化图像中的光斑上叠加LUT滤镜,能够提升背景虚化图像的色彩、对比度和氛围感,提高虚化处理效果,且通过对256的标准LUT进行降采样后,再对背景虚化图像中各个像素点的YUV值进行映射,可减少计算量,提高图像处理效率。
如图9所示,在一个实施例中,在得到背景虚化图像后,上述方法还可包括以下步骤:
步骤902,在LLHDR图像的前景区域中确定噪声估计区域。
图像的前景区域通常属于焦内区域,也即属于摄像装置的焦点所在平面以内的区域,图像的背景区域通常属于焦外区域,也即属于摄像装置的焦点所在平面以外的区域。为了提升图像的虚化质感,需要保证背景虚化图像中的焦内区域及焦外区域的噪声水平一致或接近,该噪声水平可用于表示噪声的强度。
在本申请实施例中,可对LLHDR图像的前景区域进行噪声估计,并在背景虚化图像的背景区域中叠加与前景区域同一噪声水平的噪声,以提升背景虚化图像的图像质感。
电子设备可先在LLHDR图像的前景区域中确定噪声估计区域,该噪声估计区域可以是前景区域中的至少部分图像区域,噪声估计区域可为能够准确评估出前景区域的噪声水平的图像区域。可选地,噪声估计区域的形状可以是矩形、方形、圆形等,在此不作限定。作为一种实施方式,可获取LLHDR图像中的对焦点坐标,并以该对焦点坐标为噪声估计区域的中心,在前景区域中确定预设尺寸(例如长和宽均为预设的边长参数)的噪声估计区域。
在一些实施例中,在LLHDR图像可以是人像图像,由于人像图像中的对焦点通常是在人脸,因此,可将LLHDR图像的人像区域作为噪声估计区域。LLHDR图像的前景识别结果中可包括人脸信息,该人脸信息可包括人脸区域在LLHDR图像中的图像位置,可根据该人脸信息确定人脸区域,并将人脸区域作为噪声估计区域。可选地,在LLHDR图像中存在多个人脸区域时,可同时将多个人脸区域作为噪声估计区域,也可以是将其中的一个人脸区域作为噪声估计图像,例如,可将图像面积最大的人脸区域作为噪声估计区域,或是将深度信息最小的人脸区域(即最靠近摄像装置的人脸区域)作为噪声估计区域等,可采用多种方式确定噪声估计区域,本申请对此不作限定。
步骤904,确定噪声估计区域对应的噪声参数,噪声参数用于表征噪声估计区域的噪声水平。
可对噪声估计区域进行滤波处理,得到目标滤波结果,并根据该目标滤波结果确定噪声估计区域对应的噪声参数,该噪声参数可包括但不限于噪声标准差、噪声方差等可以反映图像噪声在噪声估计区域中的分布情况的参数。其中,滤波处理可包括但不限于拉普拉斯滤波、均值滤波、中值滤波和高斯滤波等,在此不作限定。
以拉普拉斯滤波处理为例,可获取第一滤波算子及第二滤波算子,第一滤波算子及第二滤波算子均为拉普拉斯算子,并根据第一滤波算法及第二滤子算子对噪声估计区域进行滤波处理,得到目标滤波结果。例如,第一滤波算子及第二滤波算子可如下所示:
其中,La1表示第一滤波算子,La2表示第二滤波算子。
作为一种实施方式,可分别利用第一滤波算子及第二滤波算子与噪声估计区域进行卷积运算,得到第一滤波结果及第二滤波结果,再对第一滤波结果及第二滤波结果进行做差,得到目标滤波结果。
作为另一种实施方式,可将第一滤波算法与第二滤波算子做差,得到第三滤波算法,再将第三滤波算子与噪声估计区域进行卷积运算,得到目标滤波结果。具体地,可通过公式(7)计算第三滤波算子,以及通过公式(8)计算得到目标滤波结果:
N=2(La2-La1) 公式(7);
Ilaplacian=Isrc*N 公式(8);
其中,N表示第三滤波算子,Isrc表示噪声估计区域,Ilaplacian表示目标滤波结果。采用此种方式只需要进行一次滤波处理,可以减少计算量。
在一些实施例中,为了避免噪声估计区域中包含了背景区域或是强边缘等时,导致目标滤波结果出现不准确的情况,可提取噪声估计区域中的边缘像素点,并根据所有边缘像素点占噪声估计区域的比例对目标滤波结果进行调整,以得到准确性更高的目标滤波结果。
在确定噪声估计区域中包含的所有边缘像素点后,可计算所有边缘像素点占噪声估计区域的比例,并根据该比例降低各个边缘像素点在目标滤波结果中的值,以降低目标滤波结果中边缘区域的权重。所有边缘像素点占噪声估计区域的比例,与各个边缘像素点降低的值可呈正相关关系,所有边缘像素点占噪声估计区域的比例越大,则各个边缘像素点在目标滤波结果中的值降低得越多。通过减少目标滤波结果中边缘区域的权重,可以降低边缘区域对目标滤波结果的影响,提高目标滤波结果的准确性。
可根据调整后的目标滤波结果进行噪声估计,得到噪声估计区域对应的噪声参数。以噪声参数为噪声标准差为例,可通过公式(9)计算得到噪声估计区域对应的噪声标准差:
其中,σ表示噪声估计区域对应的噪声标准差,H表示噪声估计区域的高,W表示噪声估计区域的宽,Ilaplacian′表示调整后的目标滤波结果。可以理解地,若不需要对目标滤波结果的边缘区域的权重进行调整(比如上述中将第一滤波结果及第二滤波结果进行做差得到目标滤波结果的方案中,由于边缘区域会互相抵消,可以不进行调整),则可直接将上述中得到的目标滤波结果带入公式(9),得到噪声估计区域对应的噪声标准差。
可选地,在计算得到噪声估计区域对应的噪声参数后,可根据ISO值对该噪声参数进行调整,对噪声参数进行全局平衡,以提高噪声参数的准确性。可选地,在ISO值较大(即场景较暗)时,可以增大噪声参数,在ISO值较小(即场景较亮)时,可减小噪声参数。需要说明的是,对噪声参数进行调整并不是必须的过程,例如,在ISO值=3000时,可不对噪声参数进行调整,但不限于此。
步骤906,根据噪声参数在背景虚化图像的背景区域叠加噪声。
在一些实施例中,可根据噪声估计区域对应的噪声参数以及前景识别结果,生成背景虚化图像中背景区域的各个像素点对应的随机噪声。可选地,该随机噪声可包括但不限于高斯随机噪声,高斯随机噪声是瞬时值分布为高斯分布的随机噪声。可根据背景虚化图像中背景区域的各个像素点对应的噪声权重及随机噪声,生成背景虚化图像中背景区域的各个像素点对应的目标噪声,并将背景虚化图像中背景区域的各个像素点的像素值与对应的目标噪声进行叠加。
作为一种实施方式,可根据噪声估计区域的噪声标准差生成背景虚化图像中背景区域的各个像素点对应的随机噪声,生成的随机噪声服从正态分布,可选地,随机噪声可服从数学期望为0,标准差为噪声估计区域的噪声标准差的正态分布。
在一些实施例中,可从正态范围中确定目标数值范围,并在该目标数值范围内生成背景虚化图像中背景区域的各个像素点对应的随机噪声,采用伪随机的方式减少计算量。
在生成背景虚化图像中背景区域的各个像素点对应的随机噪声后,可根据背景虚化图像中背景区域的各个像素点对应的噪声权重及随机噪声,生成背景虚化图像中背景区域的各个像素点对应的目标噪声,再将背景虚化图像中背景区域的各个像素点对应的像素值与目标噪声进行叠加。可通过公式(10)计算得到背景虚化图像中背景区域的各个像素点叠加后的像素值:
Y′(x,y)=Y(x,y)+noise*weight′(x,y) 公式(10);
其中,Y(x,y)表示像素点(x,y)在背景虚化图像中的像素值,noise表示像素点(x,y)的随机噪声,weight′(x,y)表示像素点(x,y)的噪声权重,Y′(x,y)表示像素点(x,y)叠加了噪声后的像素值,其中,noise*weight′(x,y)即为目标噪声。
可选地,上述的噪声权重可以是预先设置的默认权重值,该默认权重值可以是固定的,背景虚化图像中背景区域的各个像素点的噪声权重可相同的。
可选地,上述的噪声权重也可以是根据背景虚化图像中背景区域的各个像素点的亮度分量值确定的,针对不同的亮度分量值可分别赋予不同的噪声权重。作为一种实施方式,可通过查找的方式确定背景虚化图像中背景区域的各个像素点对应的噪声权重,可预先构建噪声权重表,该噪声权重表可定义各个亮度分量值对应的噪声权重表。在需要对背景虚化图像进行噪声叠加时,可直接根据背景虚化图像中背景区域的各个像素点的亮度分量值,在该噪声权重表中查找得到对应的噪声权重。能够简化获取噪声权重的流程,提高图像处理效率。
作为另一种实施方式,也可通过公式(11)计算得到噪声权重:
其中,y(x,y)表示像素点(x,y)的亮度分量值,weight′(x,y)表示像素点(x,y)的噪声权重。基于公式(11)计算背景虚化图像中背景区域的各个像素点的噪声权重,可根据亮度对噪声权重进行局部平衡,达到增强较暗图像区域的噪声权重,降低较亮图像区域的噪声权重的效果,能够提高叠加噪声的背景虚化图像的图像质量,提高图像的虚化效果。
在本申请实施例中,基于LLHDR图像的前景区域的噪声水平,在背景虚化图像的背景区域叠加同等强度的噪声,实现前景与背景噪声的一致性,提升了背景虚化图像的虚化质感和虚化表现力。此外,同时考虑了全局场景和局部区域的影响对噪声水平进行平衡,从全局和局部的角度解决了焦内外噪声一致性的问题,进一步保证叠加噪声的准确性,提高了在背景虚化图像中叠加噪声的图像质量。
在得到背景虚化图像后,可对前景识别结果进行优化,提高前景识别结果的准确性,并基于优化后的前景识别结果将背景虚化图像与LLHDR图像进行融合,得到虚化效果更好的目标图像。在一些实施例中,LLHDR图像为包括人像的图像,前景识别结果可包括人像掩膜及头发识别结果,对前景识别结果进行优化可包括对人像掩膜中的人像区域边缘进行优化和/或对头发识别结果中的头发区域边缘进行优化。
其中,人像掩膜可用于表征LLHDR图像的人像区域的图像位置,能够对LLHDR图像中属于人像区域的像素点进行标注。可选地,人像掩膜可采用不同的像素值表示属于人像区域的像素点及非人像区域(即背景区域)的像素点,例如,像素值为255表示像素点属于人像区域,像素值为0表示像素点属于背景区域;或像素值为1表示像素点属于人像区域,像素值为0表示像素点属于背景区域等;也可采用0~1之间的值表示各个像素点属于人像区域的概率,越接近1的值表示像素点属于人像区域的概率越高等,但不限于此。
在一些实施例中,识别LLHDR图像中的前景区域,得到前景识别结果,可包括:对LLHDR图像进行人像识别,得到人像掩膜。对LLHDR图像进行人像识别的方式,可包括但不限于以下几种方式:
方式一、基于LLHDR图像的深度图识别LLHDR图像的人像区域,得到人像掩膜。可根据深度图识别LLHDR图像的人像区域,例如,可将LLHDR图像中深度信息小于第一深度阈值的像素点组成的区域确定为人像区域,将深度信息大于第二深度阈值的像素点组成的区域确定为背景区域等。
电子设备对LLHDR图像进行深度估计的方式可以是软件的深度估计方式,也可以是结合硬件设备计算深度信息的方式等。
方式二、可对LLHDR图像进行人像分割处理,得到人像掩膜。人像分割处理的方法可包括但不限于利用基于图论的人像分割方法、基于聚类的人像分割方法、基于语义的人像分割方法、基于实例的人像分割方法、基于deeplab系列的网络模型的人像分割方法、基于U型网络(U-Net)的分割方法或者基于全卷积网络(Fully Convolutional Network,FCN)的人像分割方法等方式。
以电子设备通过人像分割模型对LLHDR图像进行人像分割处理,得到人像掩膜为例,该人像分割模型可以是U-Net结构的模型,该人像分割模型中可包括编码器及解码器,编码器中可包括多个下采样层,解码器可包括多个上采样层。人像分割模型可通过编码器的多个下采样层先对LLHDR图像进行多次的下采样卷积处理,再通过解码器的多个上采样层进行多次的上采样处理,得到人像掩膜。人像分割模型中,相同分辨率之间的下采样层及上采样层之间可实现跳跃连接,将相同分辨率之间的下采样层与上采样层的特征进行融合,使得上采样过程更加准确。
可选地,人像分割模型可以是根据第一人像样本集合训练得到的,该第一人像样本集合可包括多张携带有人像标签的人像样本图像,该人像标签可用于标注人像样本图像中的人像区域,例如,该人像标签可包括样本人像掩膜等。
头发识别结果可用于表征LLHDR图像中头发区域的图像位置,可对LLHDR图像中属于头发区域的像素点进行标注。可选地,头发识别结果可包括头发分割结果和/或头发抠图结果,其中,头发分割结果为对LLHDR图像进行头发区域的分割处理得到的,头发抠图结果为对LLHDR图像进行头发区域的抠图处理得到的。
在一些实施例中,识别LLHDR图像中的前景区域,得到前景识别结果,可包括:对LLHDR图像进行头发区域的分割处理,得到头发分割结果。对LLHDR图像进行头发区域的分割处理的方法可与进行人像分割处理的方法类似,如可通过头发分割模块对LLHDR图像进行头发区域的分割处理,得到头发分割结果,该头发分割模块可以是根据第二人像样本集合训练得到的,该第二人像样本集合可包括多张标注有头发区域的人像样本图像等,可参考上述人像分割的描述,在此不再赘述。可选地,头发分割结果可包括第一头发掩膜,第一头发掩膜也可用不同的像素值表示属于头发区域的像素点及非头发区域(除头发区域以外的图像区域)的像素点,例如,第一头发掩膜中非头发区域的像素点的像素值为0,头发区域的像素点的像素值为255,但不限于此。
可选地,可采用同一个分割模型对LLHDR图像进行人像分割处理及头发区域的分割处理,该分割模型可以是通过上述的第一人像样本集合及第二人像样本集合训练得到的。
在一些实施例中,识别LLHDR图像中的前景区域,得到前景识别结果,可包括:对LLHDR图像进行头发区域的抠图处理,得到头发抠图结果。头发区域的抠图处理方式可包括但不限于泊松抠图(Poisson Matting)方法、基于贝叶斯理论的贝叶斯抠图(BayesMatting)、基于数据驱动的机器学习抠图方法或者封闭式表面抠图方法等不使用深度学习的传统抠图方法,或者运用诸如卷积神经网络(Convolutional Neutral Network,CNN)等人工神经网络的基于深度学习的抠图方法。
作为一种具体实施方式,电子设备可将LLHDR图像输入头发抠图模型,通过该头发抠图模型提取LLHDR图像的特征,并根据特征确定LLHDR图像中的头发区域,以得到头发抠图结果。其中,头发抠图模型可以是基于第三人像样本集合训练得到的,该第三人像样本集合包括多张标注有精细度较高的头发区域的人像样本图像。相对于头发分割模型,头发抠图模型识别头发区域的精细度更高,可选地,为了保证头发抠图模型的精度,可按照预设的精度条件对头发抠图模型进行训练,使得头发抠图模型输出的头发抠图结果满足该精度条件。可选地,该精度条件可采用一项或多项精度指标进行设定,例如,该精度指标可包括得到的人像分割结果与真实人像分割结果之间的绝对误差和(Sum of AbsoluteDifference,SAD)、均方误差(mean squared error,MSE)、梯度误差等;精度条件可包括得到的头发抠图结果与真实的头发区域之间的误差小于SAD阈值、小于MSE阈值、小于梯度误差阈值等中的一种或多种。从而可得到精细度更高、更加准确的发丝级别的头发抠图结果。
在一些实施例中,上述的第三人像样本集合还可包括通过对人像样本图像进行人像分割处理得到的人像分割结果,以及通过对人像样本图像进行头发区域的分割处理得到的头发分割结果,通过人像样本图像对应的人像分割结果、头发分割结果及标注的头发区域对头发抠图模型进行训练,添加人像分割和头发分割先验语义信息,可以让头发抠图模型在进行头发区域的抠图处理时先识别出人像区域再定位头发区域最后对头发区域进行精细的发丝级抠图,以提高头发抠图模型得到的头发抠图结果的准确性。
在一些实施例中,该头发抠图模型可以是采用U-Net等网络架构的模型,也可采用生成对抗网络的模型架构等,第三人像样本集合中可包括简单背景样本图像及复杂背景样本图像,通过复杂背景样本图像对采用生成对抗网络模型架构的头发抠图模型进行训练,可提高网络鲁棒性,提高头发抠图模型在复杂背景图像中的表现力,提高头发抠图结果的准确性。
可选地,可通过同一图像处理模型分别对LLHDR图像进行人像分割处理、头发区域的分割处理、头发区域的抠图处理,得到人像掩膜、头发分割结果及头发抠图结果。该图像处理模型可以是分别根据上述的第一人像样本集合、第二人像样本集合及第三人像样本集合训练得到的。
可选地,头发抠图结果可包括第二头发掩膜,第二头发腌膜可对LLHDR图像中属于头发区域的像素点进行标注,可选地,第二头发掩膜可采用0~255的值表示像素点属于头发区域的概率,像素值越接近255,表示属于头发区域的概率越高。
下面先介绍对人像区域边缘进行优化的相关方式。
对人像区域边缘进行优化处理,可包括对人像掩膜中的人像区域边缘进行对齐处理、平滑处理及过渡处理等中的一种或多种。其中,对齐处理可以是以LLHDR图像中的人像边缘为基准,对齐人像掩膜的人像区域边缘。平滑处理可用于消除人像区域边缘中的凸起和凹陷,改善人像区域边缘出现的毛刺或者锯齿。过渡处理可指的是模糊处理,用于使人像区域边缘过渡自然,避免边缘过锐导致贴图感的问题。
在一些实施例中,可提取人像掩膜中的人像区域边缘,生成第一边缘掩膜,并对第一边缘掩膜中的轮廓边缘进行对齐处理、平滑处理及过渡处理,得到第二边缘掩膜,再根据第二边缘掩膜中的轮廓边缘对人像掩膜进行更新,实现人像掩膜的人像区域边缘的优化。
作为一种实施方式,可对人像掩膜进行膨胀处理,并将膨胀处理后的人像掩膜减去膨胀处理前的人像掩膜,得到人像外轮廓线,再根据该人像外轮廓线生成第一边缘掩膜。其中,膨胀处理是一种局部求最大值的操作,可利用第一卷积核与人像掩膜中的人像区域进行卷积,计算该第一卷积核所覆盖的像素点,以扩大人像掩膜中的人像区域。
示例性地,图11为一个实施例中生成第一边缘掩膜的示意图。如图11所示,可对人像掩膜1110进行膨胀处理,得到膨胀处理后的人像掩膜1120,再将膨胀处理后的人像掩膜1120减去人像掩膜1110,得到人像外轮廓线,并基于该人像外轮廓线生成第一边缘掩膜1130。
可选地,根据该人像外轮廓线生成第一边缘掩膜,可包括:遍历人像外轮廓线上的各个像素点,计算人像外轮廓线上的各个像素点与N*N(如3*3、5*5、4*4等)邻域内的其它像素点的绝对差异值,并将绝对差异值大于差异阈值(可根据实际需求进行设置,例如1、2等)的其它像素点确定为初始边缘轮廓上的像素点。可将人像外轮廓线减去该初始边缘轮廓,得到初始渐变轮廓,并删除初始渐变轮廓上图像面积小于第二面积阈值的区域,得到目标渐变轮廓,其中,第二面积阈值可根据实际需求进行设置,本申请不作限制,通过删除初始边缘轮廓中的小面积区域,可提高得到的目标渐变轮廓的准确性。在得到目标渐变轮廓后,可对目标渐变轮廓进行膨胀处理,以生成第一边缘掩膜,该第一边缘掩膜中的轮廓边缘即为膨胀处理后的目标渐变轮廓。采用此种方式生成的第一边缘掩膜,可使得第一边缘掩膜中的人像边缘准确且宽度合度,有利于提高后续对第一边缘掩膜进行优化处理的准确性。
在生成第一边缘掩膜后,可对第一边缘掩膜进行对齐处理。电子设备可基于RGB格式的LLHDR图像对第一边缘掩膜中的轮廓边缘进行全局光滑滤波处理,其中,全局光滑滤波处理可通过全局光滑滤波器(Fast Global Smoother Filter,FGS Filter)等实现,FGSFilter可对第一边缘掩膜整体的全局光滑问题建立能量函数模型,并通过最小化能量函数实现全局光滑,是一个全局最优的解法。可选地,若LLHDR图像为YUV格式,则可先将LLHDR图像从YUV格式转换至RGB格式。
电子设备还可以LLHDR图像的亮度分量图作为引导图,对全局光滑滤波处理后的第一边缘掩膜进行引导滤波(Guided Filter)处理,得到边缘对齐的第一边缘掩膜。GuidedFilter可通过局部线性关系将引导图的光滑性质转移到第一边缘掩膜上,通过最小化边缘掩膜与引导图之间的差异进行光滑化,是一个局部最优的解法。通过FGS Filter和GuidedFilter,利用LLHDR图像从全局和局部的角度依次对第一边缘掩膜进行滤波,对齐了第一边缘掩膜中的轮廓边缘与LLHDR图像中实际的轮廓边缘之间的误差。
由于在对第一边缘掩膜进行对齐时,轮廓边缘会扩散出来并伴随有毛刺和锯齿,因此,可对边缘对齐的第一边缘掩膜进行平滑处理,得到边缘平滑的第一边缘掩膜。在一些实施例中,平滑处理可包括边缘收窄及边缘平滑:
一、边缘收窄
相较于未进行对齐处理的第一边缘掩膜,边缘对齐的第一边缘掩膜中的轮廓边缘会出现向外扩散(即向背景区域扩散)的情况,导致人像边缘不准确。因此,可先收窄边缘对齐的第一边缘掩膜中的轮廓边缘,将第一边缘掩膜中的轮廓边缘向靠近人像的方向进行内收。
可基于映射曲线,收窄边缘对齐的第一边缘掩膜中的边缘轮廓,得到边缘收窄的第一边缘掩膜。可基于映射曲线对边缘对齐的第一边缘掩膜中轮廓边缘的各个像素点进行映射,使得部分在映射前被划分为轮廓边缘的像素点在映射后可以被重新划分为属于背景区域,从而收窄轮廓边缘。
示例性的,映射曲线可包括但不限于Sigmoid曲线,Sigmoid曲线可通过公式(12)进行表示:
其中,x8表示映射前的像素点的像素值,y8表示映射后的像素点的像素值,a表示平滑度,b表示中心位置。平滑度a和中心位置b可为经验值,可根据实际的业务需求设置,具体不做限定。中心位置b与轮廓边缘的收窄可呈正相关关系,中心位置b越大,轮廓边缘向内收窄得越多。
基于曲线映射后的像素点的像素值的区间通常会发生变化,因此,可对映射后的第一边缘掩膜进行归一化处理,可选地,可将第一边缘掩膜包含的各个像素点的像素值归一化到0~255数值范围内。
二、边缘平滑
可对边缘收窄的第一边缘掩膜中轮廓边缘的各个像素点进行加权插值平滑处理,得到边缘平滑的第一边缘掩膜。可选地,加权插值平滑处理可包括去瑕疵(Inpaint)边缘平滑处理,Inpaint边缘平滑处理是基于迭代的加权滤波算法,通过迭代的方式对各个像素点邻域内的像素值进行加权插值,以平滑轮廓边缘的各个像素点的像素值与邻域中存在的凸起或者凹陷。
在对边缘对齐的第一边缘掩膜进行平滑处理,得到边缘平滑的第一边缘掩膜后,可对边缘平滑的第一边缘掩膜进行过渡处理,得到第二边缘掩膜。可计算边缘平滑的第一边缘掩膜对应的过渡参数,并根据该过渡参数对边缘平滑的第一边缘掩膜进行过渡处理,可选地,该过渡参数可包括模糊半径,模糊半径可用于指示模糊程度,模糊半径越大,模糊程度越高。在一些实施例中,可根据人像掩膜中的人像区域,在LLHDR图像中确定人像区域对应的ROI(Region Of Interest,感兴趣区域),进一步地,该ROI可以是人像区域的边界框(boundingBox)所形成的区域,其中,边界框可以是人像区域的外接矩形框。可计算ROI的图像面积占LLHDR图像的总图像面积的比例,并根据该比例确定模糊半径。可选地,模糊半径与该比例可呈正相关关系,ROI在LLHDR图像中所占的比例越大,模糊半径可越大。
可选地,可对收窄后的第一边缘掩膜进行归一化,以使各个像素点的像素值处于正常的数值范围,例如处于0~255之间。进一步地,可再次根据模糊半径对归一化后的第一边缘掩膜的轮廓边缘进行模糊处理,得到第二边缘掩膜。
在得到第二边缘掩膜后,可将人像掩膜与第二边缘掩膜进行融合,根据第二边缘掩膜的轮廓边缘对人像掩膜中的人像区域边缘进行更新,以得到人像边缘优化后的人像掩膜。作为一种实施方式,可将人像掩膜中与第二边缘掩膜的轮廓边缘对应的各个像素点的像素值,替换为在第二边缘掩膜中的像素值,并将在该轮廓边缘外的各个像素点的像素值调整为背景区域对应的像素值(如调为0)等。
在本申请实施例中,可根据人像掩膜生成第一边缘掩膜,并对第一边缘掩膜进行对齐处理、平滑处理和过渡处理等优化处理,得到轮廓边缘更加准确、平滑且过渡自然的第二边缘掩膜,并基于该第二边缘掩膜更新人像掩膜的人像边缘,使人像掩膜的人像边缘更加准确,更加精细平滑,且可避免边缘太过锐利带来的贴图感等问题,可以提高后续得到的目标图像的虚化效果。
下面将介绍对头发识别结果中的头发区域边缘进行优化的相关实现方案。
电子设备可对头发识别结果中的头发区域边缘进行优化,并将优化后的头发识别结果与人像掩膜进行融合,以对人像掩膜中的头发区域边缘进行修正,得到更为准确的人像掩膜。在一个实施例中,如图13所示,对人像掩膜中的头发区域边缘进行修正,可包括以下步骤:
步骤1310,根据LLHDR图像、第一人像掩膜及头发分割结果确定LLHDR图像的背景复杂度。
在本申请实施例中,第一人像掩膜可以是前景识别结果中包含的人像掩膜,也可以是经过上述人像边缘优化后的人像掩膜。
背景复杂度可用于描述LLHDR图像中背景区域的复杂程度,背景区域包含的内容越丰富,则对应的背景复杂度可越高。作为一种实施方式,可根据第一人像掩膜及头发分割结果确定LLHDR图像的背景区域,并对背景区域进行边缘检测,提取背景区域的边缘特征,并根据该边缘特征确定LLHDR图像对应的背景复杂度。可选地,背景区域包含的边缘特征越多,可说明背景区域的内容细节越丰富,背景复杂度可越高。可采用Canny边缘检测算子、Laplacian检测算子、DoG检测算子、索菲尔检测算子等对LLHDR图像进行边缘检测,但不限于此。
在一些实施例中,步骤1310,可包括:根据第一人像掩膜及头发分割结果,确定LLHDR图像中的头发扩展感兴趣区域;计算头发扩展感兴趣区域的第一梯度信息;根据第一梯度信息计算背景复杂度。
头发扩展感兴趣区域可包含头发区域及部分背景区域,作为一种实施方式,可根据头发分割结果确定LLHDR图像中的头发区域,并确定该头发区域的边界框(boundingBox),可选地,该边界框可以是头发区域的外接矩形框,边界框所包含的图像区域可定义为头发感兴趣区域,可对该头发感兴趣区域进行扩展,得到头发扩展感兴趣区域。例如,可按照预设的放大倍数(如1倍、2倍等)对头发感兴趣区域进行放大,得到头发扩展感兴趣区域,头发扩展感兴趣区域的中心像素点可与头发感兴趣区域的中心像素点相同;也可将头发感兴趣区域的长和宽增加预设的边界值,得到头发扩展感兴趣区域。
可选地,头发分割结果可包括第一头发掩膜,可对第一头发掩膜中的头发区域进行膨胀处理,并对第一人像掩膜中的人像区域进行腐蚀处理,然后将膨胀处理后的第一头发掩膜减去腐蚀处理后的第一人像掩膜,得到头发外轮廓,并基于该头发外轮廓确定头发扩展感兴趣区域。其中,腐蚀处理是一种局部求最小值的操作,可利用第二卷积核与第一人像掩膜中的人像区域进行卷积,保留覆盖该第二卷积核的像素点,以缩小第一人像掩膜中的人像区域。
可选地,可对头发外轮廓所指示的图像区域进行连通域检测,该头发外轮廓所指示的图像区域可以是第一头发掩膜中的图像区域,也可以是LLHDR图像的图像区域。可确定连通域面积小于第三面积阈值的噪声区域,并删除该噪声区域,以得到目标头发区域,通过删除头发区域中小面积的噪声,可以提高头发区域识别的准确性,并提高后续计算背景复杂度的准确性。需要说明的是,本申请实施例对连通域检测的方式不作限定。在得到目标头发区域后,可确定目标头发区域对应的第一边界框,并对该第一边界框进行扩展,得到头发扩展感兴趣区域,例如,可按照预设倍数对第一边界框进行放大,得到头发扩展感兴趣区域;或是将第一边界框的长和宽增加预设的边界值,得到头发扩展感兴趣区域。
在确定LLHDR图像中的头发扩展感兴趣区域后,可计算头发扩展感兴趣区域中各个像素点的梯度值,得到第一梯度信息。计算第一梯度信息可方式可包括但不限于基于Sobel算子计算第一梯度信息、基于scharr算子计算第一梯度信息、基于Laplacian算子计算第一梯度信息等。
以基于Sobel算子计算第一梯度信息为例,Sobel算子可包括与水平方向对应的第一矩阵、与垂直方向对应的第二矩阵。可将扩展感兴趣区域分别与第一矩阵及第二矩阵进行卷积计算,得到扩展感兴趣区域的各个像素点在水平方向上的第一梯度值及在垂直方向上的第二梯度值,再根据扩展感兴趣区域的各个像素点的第一梯度值及第二梯度值计算得到扩展感兴趣区域的各个像素点的目标梯度值,也即得到第一梯度信息。具体地,可通过公式(13)及公式(14)计算第一梯度信息:
G=|Gx|+|Gy| 公式(14);
其中,A表示扩展感兴趣区域,Gx表示扩展感兴趣区域在水平方向上的梯度信息,Gy表示扩展感兴趣区域在垂直方向上的梯度信息,G表示第一梯度信息。
可选地,可将头发扩展感兴趣区域的整体背景复杂度作为LLHDR图像的背景复杂度。作为一种实施方式,可将头发扩展感兴趣区域中属于背景区域的各个像素点的目标梯度值作为该各个像素点对应的复杂度,并根据头发扩展感兴趣区域中属于背景区域的各个像素点的复杂度得到头发扩展感兴趣区域的整体背景复杂度。
在一些实施例中,可根据第一人像掩膜及头发分割结果,从第一梯度信息中删除第二梯度信息,以得到第三梯度信息,其中,该第二梯度信息可包括第一人像掩膜的人像区域对应的梯度信息,以及头发分割结果中的头发区域对应的梯度信息,该第三梯度信息即为头发扩展感兴趣区域中的背景区域的梯度信息。进一步地,可对第三梯度信息进行膨胀处理及模糊处理,得到与头发扩展感兴趣区域对应的背景复杂度图像,并根据该背景复杂度图像计算头发扩展感兴趣区域的整体背景复杂度。其中,模糊处理可采用高斯模糊、均值模糊、中值模糊等处理方式,具体的膨胀处理方式及模糊处理方式在本申请实施例中不作限定。该背景复杂度图像可用于表征头发扩展感兴趣区域中的背景区域在不同位置的复杂程度。
示例性地,图14为一个实施例中生成背景复杂度图像的示意图。如图14所示,可计算头发扩展感兴趣区域的第一梯度信息1410,并从第一梯度信息1410中删除第二梯度信息,也即,从第一梯度信息1410中删除人像区域的梯度信息,得到第三梯度信息1420,该第三梯度信息1420即为头发扩展感兴趣区域的背景区域的梯度信息。可对第三梯度信息1420进行膨胀处理及模糊处理,得到背景杂度图像1430。
可选地,在计算得到背景复杂度图像后,可计算背景复杂度图像的平均复杂度,并将该平均复杂度作为头发扩展感兴趣区域对应的整体背景复杂度。作为另一种实施方式,头发扩展感兴趣区域对应的整体背景复杂度也可以是头发扩展感兴趣区域中属于背景区域的像素点最频繁出现的复杂度。可预先划分多个复杂度区间,并统计背景复杂度图像中的各个像素点的复杂度所处的复杂度区间。可确定最多像素点的复杂度所处的目标复杂度区间,并根据该目标复杂度区域确定头发扩展感兴趣区域的整体背景复杂度,例如,可将该目标复杂度区间的中间复杂度作为整体背景复杂度等,但不限于此。
步骤1320,判断背景复杂度是否大于第一复杂度阈值,若是,则执行步骤1340,若否,则执行步骤1330。
可判断LLHDR图像对应的背景复杂度是否大于第一复杂度阈值,若LLHDR图像对应的背景复杂度大于该第一复杂度阈值,则背景区域为复杂背景,可确定LLHDR图像为复杂背景图像;若LLHDR图像对应的背景复杂度小于或等于第一复杂度阈值,则背景区域为简单背景,可确定LLHDR图像为简单背景图像。
由于头发抠图结果在LLHDR图像的背景区域为简单背景时,表现力更优、准确性更高,因此,若LLHDR图像为简单背景图像,则电子设备可获取LLHDR图像的头发抠图结果,并根据该头发抠图结果及第一人像掩膜生成目标人像掩膜。在LLHDR图像的背景区域为复杂背景时,对LLHDR图像进行头发区域的抠图处理所得到的头发抠图结果表现力较差,容易出现将背景区域误认为是头发区域的情况,准确性较低,因此,若LLHDR图像为背景复杂图像,则可根据第一人像掩膜及头发分割结果生成目标人像掩膜。根据LLHDR图像的背景复杂度,选择合适的头发识别结果,能够提高生成的目标人像掩膜的准确性。
需要说明的是,上述的第一复杂度阈值可根据多次的试验结果统计得到,例如,可对多张具有不同背景复杂度的样本图像进行头发区域的抠图处理,并得到各张样本图像对应的头发抠图结果,可对各张样本图像对应的头发抠图结果的准确性进行统计分析,并基于分析结果确定第一复杂度阈值,以使得大部分背景复杂度小于或等于该第一复杂度阈值的样本图像的头发抠图结果的准确性高,而大部分背景复杂度大于该第一复杂度阈值的样本图像的头发抠图结果的准确性低。
步骤1330,根据头发抠图结果及第一人像掩膜生成目标人像掩膜。
在一些实施例中,步骤1330可包括:对头发抠图结果进行第一优化处理,得到目标抠图结果,并将目标抠图结果与第一人像掩膜进行融合,得到目标人像掩膜。通过对头发抠图结果进行第一优化处理,可得到准确性更高、精细度更高的目标抠图结果,以提高目标人像掩膜的头发区域边缘的准确性。
在一些实施例中,第一优化处理可包括但不限于以下几种处理方式中的至少一种:
方式一、虽然LLHDR图像为简单背景图像,但是LLHDR图像的背景区域中依然可能存在部分图像内容较为丰富的背景子区域。因此,可对头发抠图结果中,处于复杂背景子区域周围的头发区域进行腐蚀处理及模糊处理。其中,复杂背景子区域为头发抠图结果中复杂度大于第二复杂度阈值的背景子区域,第二复杂度阈值小于第一复杂度阈值。
可选地,可获取头发扩展感兴趣区域对应的背景复杂度图像,并根据该背景复杂度图像对头发扩展感兴趣区域中的背景区域进行划分,若存在复杂度大于第二复杂度阈值的背景子区域,则可将该背景子区域确定为复杂背景子区域。复杂背景子区域可以是像素点的复杂度均大于第二复杂度阈值的背景子区域,也可以是平均复杂度大于第二复杂度阈值的背景子区域等,在此不作限定。
在背景子区域的图像内容较为丰富时,在对LLHDR图像进行头发区域的抠图处理时,可能会出现将该背景子区域误识别为头发区域的情况。因此,可对头发抠图结果中,处于复杂背景子区域周围的头发区域进行腐蚀处理及模糊处理,缩小处于复杂背景子区域周围的头发区域,并实现从复杂背景子区域到头发区域的自然过渡,提高头发区域的准确性。
方式二、提高头发抠图结果中,处于简单背景子区域周围的头发区域的置信度。其中,简单背景子区域为头发抠图结果中复杂度小于或等于第二复杂度阈值的背景子区域。
可根据上述的背景复杂度图像对头发扩展感兴趣区域中的背景区域进行划分,若存在复杂度小于或等于第二复杂度阈值的背景子区域,则可将该背景子区域确定为第一简单子区域。简单背景子区域可以是像素点的复杂度均小于或等于第二复杂度阈值的背景子区域,也可以是平均复杂度小于或等于第二复杂度阈值的背景子区域等,在此不作限定。
由于头发抠图结果在简单背景的表现力更优、结果更加准确,因此,可提高头发抠图结果中,处于简单背景子区域周围的头发区域的置信度,该置信度可用于表征像素点属于头发区域的可信度(也可理解为概率),像素点的置信度越高,属于头发区域的可能性越大,结果越可靠。通过提高头发抠图结果中,处于简单背景子区域周围的头发区域的置信度,能够使得发丝在简单背景的图像中更加显性,提高头发区域的准确性。
方式三、基于引导滤波器对头发抠图结果进行上采样滤波处理。在一些实施例中,头发抠图结果可以是通过头发抠图模型对裁剪出的头发扩展感兴趣区域处理得到的,该头发抠图模型可为小尺度网络模型,得到的头发抠图结果的分辨率可较小。因此,可先将头发抠图结果放大至与裁剪出的头发扩展感兴趣区域相同的尺寸(或放大到与LLHDR图像相同的尺寸),再以裁剪出的头发扩展感兴趣区域(或LLHDR图像)为引导滤波器的引导图像,引导滤波器可基于裁剪出的头发扩展感兴趣区域(或LLHDR图像)的图像信息,对头发抠图结果进行滤波处理,能够使得滤波处理后的头发抠图结果的纹理及边缘等特征与头发扩展感兴趣区域相似,从而提高头发抠图结果的精细度及准确性。
需要说明的是,头发抠图模型也可以是大尺度网络模型,可得到高分辨率的头发抠图结果,以提高头发抠图结果的准确性,基于引导滤波器对头发抠图结果进行上采样滤波处理并不是必要处理步骤。
方式四、若LLHDR图像对应的图像场景为目标场景,则对头发抠图结果的头发区域进行腐蚀处理及模糊处理。其中,目标场景可为场景亮度值低于亮度阈值的场景,例如夜晚场景、亮度较暗的室内场景等。头发抠图结果在明亮场景下的发丝清晰效果较果,而在较暗的场景下,头发抠图结果的表现力较差,可能会出现头发区域不准确的情况。因此,在本申请实施例中,可先判断LLHDR图像对应的图像场景是否为目标场景,若为目标场景,则可对头发抠图结果的头发区域进行腐蚀处理及模糊处理,以使得头发区域的边缘向内收缩以及模糊过渡,提高了头发区域的准确性。
在一些实施例中,可获取LLHDR图像对应的ISO值,可判断LLHDR图像对应的感光值是否大于感光阈值,若ISO值大于感光阈值,说明LLHDR图像的ISO值较高,ISO值越高,底片对弱光的敏感度越高,则可捕抓到更多的弱光,适用于光线较暗的场景下使用。因此,若LLHDR图像对应的ISO值大于感光阈值,可确定LLHDR对应的图像场景为目标场景。该感光阈值可以是经过多次试验测试得到的经验值。
需要说明的是,第一优化处理方式可以仅包括上述几种方式中的一种,也可以是多种方式的任意组合,各种方式的先后执行顺序在本申请实施例中不作限制。
在一些实施例中,将目标抠图结果与第一人像掩膜进行融合,得到目标人像掩膜,可包括:针对目标抠图结果中的各个像素点,可将像素点在目标抠图结果的像素值以及在第一人像掩膜中的像素值进行比较,并取其中的最大值,该最大值即为像素点在目标人像掩膜中的像素值。具体地,可按照公式(15)将目标抠图结果与第一人像掩膜进行融合:
T_MASK(x,y)=MAX(Matting(x,y),pe_mask(x,y)) 公式(15);
其中,Matting(x,y)表示像素点(x,y)在目标抠图结果的像素值,pe_mask(x,y)表示像素点(x,y)在第一人像掩膜中的像素值,T_MASK(x,y)表示像素点(x,y)在目标人像掩膜中的值。
步骤1340,若背景复杂度大于第一复杂度阈值,则根据第一人像掩膜及头发分割结果生成目标人像掩膜。
在LLHDR图像对应的背景复杂度大于第一复杂度阈值时,LLHDR图像为复杂背景图像,头发抠图结果表现力较差,可根据第一人像掩膜及头发分割结果生成目标人像掩膜。在一些实施例中,步骤1340,可包括:对头发分割结果进行第二优化处理,得到目标分割结果,并将目标分割结果与第一人像掩膜进行融合,得到目标人像掩膜。通过对头发分割结果进行第二优化处理,得到准确性更高、精细度更高的目标分割结果,以提高目标人像掩膜的准确性。
在一些实施例中,第二优化处理可包括但不限于以下几种处理方式中的至少一种:
方式一、对头发分割结果的头发区域进行腐蚀处理。通过对头发分割结果的头发区域进行腐蚀处理,可以改善头发分割出的头发区域过多的情况,提高头发分割结果的准确性。
方式二、对头发分割结果的头发区域进行模糊处理。通过对头发分割结果的头发区域进行模糊处理,可以使得头发分割结果中的头发区域的边缘过渡自然。
方式三、基于引导滤波器对头发分割结果进行引导滤波处理。可将LLHDR图像作为引导滤波器的引导图像,引导滤波器可基于LLHDR图像的图像信息对头发分割结果进行引导滤波处理,以得到更加精细的头发分割结果。
在一些实施例中,当头发区域的面积过小时,对头发分割结果进行引导滤波会出现像素级的网格状,因此,可对引导滤波处理后的头发分割结果进行模糊处理,以改善出现像素级的网格状的情况,提高头发分割结果的准确度及精细度。
方式四、基于背景复杂度对头发分割结果进行伽玛校正处理。可根据LLHDR图像对应的背景复杂度计算伽玛参数,并根据该伽玛参数对头发分割结果进行伽玛校正处理。具体地,可按照公式(16)计算伽玛参数,并按照公式(17)进行伽玛校正处理:
其中,gamma3表示第三伽玛参数,complexity表示背景复杂度,x9表示伽玛校正处理前的值,y9表示伽玛校正处理后的值。通过对头发分割结果进行伽玛校正处理,可进行自适应内收过渡处理,提高头发分割结果的准确度。
第二优化处理方式可以仅包括上述几种方式中的一种,也可以是多种方式的任意组合,各种方式的先后执行顺序在本申请实施例中不作限制。例如,可先对头发分割结果进行腐蚀处理,再对腐蚀处理后的头发分割结果进行模糊处理,再基于引导滤波器对模糊处理后的头发分割结果进行引导滤波处理,再进一步地基于背景复杂度对引导滤波处理后的头发分割结果进行伽玛校正处理,得到目标分割结果。
在一些实施例中,步骤将目标分割结果与第一人像掩膜进行融合,得到目标人像掩膜,可包括:针对目标分割结果中包含的各个像素点,可将像素点在目标分割结果的像素值与像素点在第一人像掩膜的像素值进行比较,并取其中的最大值,该最大值即为像素点在目标人像掩膜的像素值。具体地,可按照公式(18)将目标抠图结果与第一人像掩膜进行融合:
T_MASK(x,y)=MAX(hair_mask(x,y),pe_mask(x,y)) 公式(18);
其中,hair_mask(x,y)表示像素点(x,y)在目标分割结果的像素值,pe_mask(x,y)表示像素点(x,y)在第一人像掩膜中的像素值,T_MASK(x,y)表示像素点(x,y)在目标人像掩膜中的值。
在得到目标人像掩膜后,可基于该目标人像掩膜,将背景虚化图像与LLHDR图像进行融合处理,以得到目标图像。由于目标人像掩膜准确地标注了LLHDR图像的头发区域,能够避免头发区域误虚或是背景区域漏虚的情况,可提高目标图像的虚化效果。
在本申请实施例中,在LLHDR图像为简单背景图像时,利用精细度更高、表现力更优的头发抠图结果生成目标人像掩膜,能够提高头发区域中发丝的清晰效果,在LLHDR图像为复杂背景图像时,头发抠图结果的表现力较差,则利用头发分割结果生成目标人像掩膜,能够准确得到LLHDR图像的人像掩膜,提高了LLHDR图像的人像区域的识别准确性。此外,通过对头发抠图结果或头发分割结果进行优化,得到精细度更高、准确性更高的目标抠图结果或目标分割结果,可提高生成的目标人像掩膜中头发区域的准确性,并使得目标人像掩膜包含更丰富的发丝细节,能够提高后续得到的目标图像的虚化效果。
在一些实施例中,为了避免头发区域边缘过锐带来的贴图感,可在步骤1310之前,先对第一人像掩膜的头发区域进行内过渡处理,得到新的第一人像掩膜,再基于LLHDR图像的背景复杂度,选择头发抠图结果或头发分割结果与新的第一人像掩膜进行融合,得到目标人像掩膜。
内过渡处理可至少包括模糊处理。在一些实施例中,步骤对第一人像掩膜的头发区域进行内过渡处理,得到新的第一人像掩膜,可包括:根据第一人像掩膜及头发分割结果,确定内过渡参数;根据内过渡参数对第一人像掩膜的头发区域进行模糊处理,以得到第二人像掩膜;将第二人像掩膜与第一人像掩膜进行融合,得到新的第一人像掩膜。
内过渡参数可用于表征对头发区域进行内过渡处理程度,可选地,内过渡参数可包括内过渡宽度,进一步地,该内过渡宽度可以是进行模糊处理的滤波器的模糊半径,模糊半径越大,模糊程度越大,模糊效果越强,可根据该模糊半径对第一人像掩膜的头发区域的边缘进行模糊处理,以达到模糊过渡的效果。
在一些实施例中,可根据头发分割结果确定第一人像掩膜中的头发感兴趣区域,其中,头发感兴趣区域可以是第一人像掩膜的头发区域的边界框形成的图像区域。可选地,可根据头发感兴趣区域的图像面积占第一人像掩膜的总图像面积的比例,确定内过渡参数。具体地,在该比例较大且第一人像掩膜中包含的人像数量较少时,内过渡参数可较大,在该比例较小或人像数量较多时,内过渡参数可较小。可选地,可将该比例除以第一人像掩膜中的人像数量,得到每个人像对应的平均比例,该平均比例与内过渡宽度可呈正相关关系,在平均比例较大,内过渡宽度可较大。通过头发感兴趣区域的图像面积占第一人像掩膜的总图像面积的比例及人像数量自适应确定内过渡参数,可提高内过渡处理的准确性,进一步保证头发区域的准确性。
在一些实施例中,在确定内过渡参数后,可根据内过渡参数对头发感兴趣区域中的头发区域进行模糊处理,得到第二人像掩膜,并将第二人像掩膜与第一人像掩膜进行融合,得到新的第一人像掩膜。其中,模糊处理可包括但不限于均值模糊处理。可选地,在对头发感兴趣区域中的头发区域进行模糊处理前,可先对头发感兴趣区域中的头发区域进行腐蚀处理,再基于确定的内过渡宽度对腐蚀处理后的头发感兴趣区域中的头发区域进行模糊处理,可避免头发边缘的过渡区域过宽的问题。
作为一种实施方式,可根据LLHDR图像对应的边缘权重图对二人像掩膜与第一人像掩膜进行融合,得到新的第一人像掩膜。该边缘权重图可根据头发外轮廓生成,可选地,可对第一人像掩膜中的人像区域进行腐蚀处理,并将头发分割结果减去腐蚀处理后的第一人像掩膜,得到头发外轮廓,并对头发外轮廓进行膨胀处理及模糊处理,得到更加平滑、柔和的边缘权重图。
作为一种实施方式,可将第二人像掩膜与第一人像掩膜进行Alpha融合处理,边缘权重图可作为第二人像掩膜的Alpha值,基于边缘权重图,将第二人像掩膜与第一人像掩膜进行Alpha融合,得到新的第一人像掩膜。
在LLHDR图像对应的背景复杂度小于或等于第一复杂度阈值时,可根据LLHDR图像的头发抠图结果及新的第一人像掩膜生成目标人像掩膜。进一步地,可对头发抠图结果进行第一优化处理,并将第一优化处理后得到的目标抠图结果与新的第一人像掩膜进行融合,得到目标人像掩膜。
在LLHDR图像对应的背景复杂度大于第一复杂度阈值时,可根据第一人像掩膜及新的第一人像掩膜生成目标人像掩膜。进一步地,可对头发分割结果进行第二优化处理,并将第二优化处理后得到的目标分割结果与新的第一人像掩膜进行融合,得到目标人像掩膜。
在本申请实施例中,可先基于头发分割结果对第一人像掩膜进行内过渡的模糊处理,使得第一人像掩膜的头发边缘更加准确、过渡自然,再基于LLHDR图像的背景复杂度补充第一人像掩膜中头发区域的外轮廓的发丝细节,提高目标人像掩膜中人像区域的准确性。
在一些实施例中,LLHDR图像为包含人像的图像,在相关的虚化技术中,在对包含人像的图像进行背景虚化时,通常会使图像中的全部人像区域保持清晰,导致出现无突出重点的问题,影响虚化效果。在本申请实施例中,为了提高图像的虚化效果,可对LLHDR图像进行人像重对焦,使得目标图像具备每张人脸保持清晰,其它人像区域模糊的效果,突出重点。
如图15所示,在一个实施例中,对LLHDR图像进行人像重对焦的过程,可包括以下步骤:
步骤1510,根据人像掩膜及人脸信息,生成权重掩膜,权重掩膜用于确定LLHDR图像中每张人脸对应的人脸清晰区域,以及每张人脸对应的人像模糊过渡区域。
LLHDR图像的前景识别结果可包括LLHDR图像中包含的每张人脸的人脸信息,以及LLHDR图像的人像掩膜。其中,人脸信息可包括但不限于每张人脸的人脸区域、每个人脸区域的中心点坐标、每个人脸区域的半径等中的一种或多种。
在一些实施例中,步骤识别LLHDR图像中的前景区域,得到前景识别结果,可包括:对LLHDR图像进行人脸识别,得到LLHDR图像中包含的每张人脸的人脸信息。可选地,对LLHDR图像进行人脸识别的方式可包括但不限于基于人脸模板进行识别的方式、基于分类器进行人脸识别的方式及通过深度神经网络进行人脸识别等方式。例如,电子设备可采用卷积神经网络对LLHDR图像进行人脸识别,该卷积神经网络可以是根据人脸样本集合训练得到,人脸样本集合可包括多张标注有人脸区域的人脸图像。该卷积神经网络可提取LLHDR图像中的人脸特征点,并根据人脸特征点确定LLHDR图像中的每张人脸对应的人脸检测框,每张人脸对应的人脸检测框所在的图像区域即可作为人脸区域。
该人脸检测框的形状可包括但不限于正方形、矩形、圆形等。若人脸检测框为正方形、矩形等四边形,则对应人脸区域的半径可为人脸检测框的外接圆半径,若人脸检测框为圆形,则人脸区域的半径即为人脸检测框的半径。人脸区域的中心点坐标即为人脸检测框的中心像素点的坐标,若人脸检测框为正方形、矩形等四边形,该中心像素点的横坐标可为人脸检测框左下角点的横坐标加上宽的一半,中心像素点的纵坐标可为人脸检测框左下角点的纵坐标加上高的一半。若人脸检测框为圆形,则人脸区域的中心点即为人脸检测框的圆心。
可根据LLHDR图像的人像掩膜及包含的每张人脸的人脸信息,生成权重掩膜,该权重掩膜可对LLHDR图像中每张人脸对应的人脸清晰区域,以及每张人脸对应的人像模糊过渡区域进行标注。该人脸清晰区域指的是LLHDR图像的人像区域中需要保持清晰的区域,人像模糊过渡区域指的是人像区域中从清晰到模糊之间的变化区域。
在一些实施例中,步骤根据LLHDR图像的人像掩膜及包含的每张人脸的人脸信息,生成权重掩膜,可包括:根据人脸信息确定每张人脸在人像掩膜中对应的人脸清晰区域;分别确定人像掩膜中人像区域的各个第四像素点对应的目标人脸清晰区域的中心点之间的第一距离;根据各个第四像素点对应的目标人脸清晰区域的人像过渡范围,对该各个第四像素点的第一距离进行归一化处理,得到各个第四像素点对应的归一化值,并根据归一化值及人像掩膜生成权重掩膜。
可选地,可将每个人脸区域的外接圆形成的图像区域作为该人脸区域的人脸清晰区域,每张人脸在人像掩膜中对应的人脸清晰区域,为以每张人脸对应的人脸区域的中心点坐标为中心点,并以每张人脸对应的人脸区域的外接圆半径为区域半径的圆形区域。以LLHDR图像中的第一人脸为例,该第一人脸为LLHDR图像中的任一人脸,第一人脸的人脸清晰区域可以是,以该第一人脸对应的人脸区域的中心点坐标为中心点,以该第一人脸对应的人脸区域的外接圆半径为区域半径的圆形区域,也即,第一人脸的人脸清晰区域可以是第一人脸的人脸区域的外接圆形区域。
示例性地,图16A为一个实施例中人脸清晰区域的示意图。如图16A所示,人像掩膜中的白色区域为人像区域,黑色区域为背景区域,人像掩膜中包含两个人脸,可分别基于每张人脸的人脸区域确定人脸清晰区域1602及人脸清晰区域1604。
在本申请实施例中,将人像掩膜中属于人像区域的像素点定义为第四像素点。在确定每张人脸在人像掩膜中对应的人脸清晰区域后,可分别确定各个第四像素点与对应的目标人脸清晰区域的中心点之间的第一距离。其中,目标人脸清晰区域可为各个第四像素点距离最近的目标人脸清晰区域。
在一些实施例中,可获取LLHDR图像中包含的人脸数量,若LLHDR图像中仅包含一张人脸,则该人脸对应的人脸清晰区域即为人像掩膜中人像区域的所有第四像素点对应的目标人脸清晰区域,可确定各个第四像素点与该人脸对应的人脸清晰区域的中心点之间的距离为第一距离。若LLHDR图像中包含至少两张人脸,则可确定各个第四像素点距离最近的目标人脸清晰区域,并分别计算各个第四像素点与对应的目标人脸清晰区域的中心点之间的第一距离。
在一些实施例中,分别计算各个第四像素点与对应的目标人脸清晰区域的中心点之间的第一距离,可包括:根据目标像素点与各个人脸清晰区域的中心点之间的第二距离,以及各个人脸清晰区域的区域半径,计算目标像素点到各个人脸清晰区域的第三距离;将第三距离最小的人像清晰区域确定为目标像素点对应的目标人脸清晰区域;根据目标像素点到目标人脸清晰区域对应的第三距离,以及目标人脸清晰区域的区域半径,确定目标像素点与目标人脸清晰区域的中心点之间的第一距离。
其中,目标像素点可以是人像掩膜中人像区域的任一像素点,也即目标像素点可以是任一第四像素点。可获取各个人脸清晰区域的中心点坐标,利用两点间距离公式,根据目标像素点的坐标与各个人脸清晰区域的中心点坐标,计算目标像素点到各个人脸清晰区域的中心点的第二距离。可将目标像素点到各个人脸清晰区域的中心点的第二距离减去对应人脸清晰区域的区域半径,得到目标像素点到各个人像清晰区域的第三距离。具体地,可通过公式(19)计算目标像素点到各个人像清晰区域的第三距离:
d3_k(x,y)=d2_k(x,y)-rk 公式(19);
其中,d3_k(x,y)表示像素点(x,y)到第k个人像清晰区域的第三距离,d2_k(x,y)表示像素点(x,y)与第k个人像清晰区域的中心点之间的第二距离,rk表示第k个人像清晰区域的区域半径,k可为大于或等于2的正整数。
在得到目标像素点到各个人像清晰区域的第三距离后,可从中选择最小的第三距离,并将最小的第三距离所对应的人像清晰区域作为目标像素点对应的目标人像清晰区域。可将目标像素点到目标人像清晰区域的第三距离加上目标人脸区域的区域半径,得到目标像素点与目标人脸清晰区域的中心点之间的第一距离。具体地,可通过公式(20)计算目标像素点与目标人脸清晰区域的中心点之间的第一距离:
其中,表示像素点(x,y)到各个人像清晰区域的第三距离中最小的第三距离,rk′表示该最小的第三距离对应的人像清晰区域(即目标人像清晰区域)的区域半径,d1(x,y)表示像素点(x,y)到目标人像清晰区域的中心点的第一距离。可对人像掩膜中人像区域的所有第四像素点进行遍历,每个第四像素点均可按照上述实施例描述的方式计算得到与目标人像清晰区域的中心点之间的第一距离。
在得到各个第四像素点与对应的目标人像清晰区域的中心点之间的第一距离后,可对各个第四像素点对应的第一距离进行归一化处理,得到各个第四像素点对应的归一化值,并基于各个第四像素点对应的归一化值及人像掩膜生成权重掩膜。其中,归一化处理可指的是将数值映射到0~1区间内的值。
在一些实施例中,以人像掩膜中人像区域的目标像素点为例,该目标像素点可以是任一第四像素点,对各个第四像素点对应的第一距离进行归一化处理,得到各个第四像素点对应的归一化值,可包括:根据目标像素点对应的目标人脸清晰区域的区域半径,确定目标人脸清晰区域对应的人像过渡范围;计算目标像素点到目标人脸清晰区域的中心点的第一距离,与目标人脸清晰区域的区域半径的差值,并确定差值与人像过渡范围之间的比值,再对该比值进行归一化处理,得到目标像素点的归一化值。
人像过渡范围可以是预先设置的人像模糊过渡区域的区域范围,该人像模糊过渡区域的区域形状及大小可根据实际需求进行设置。针对大小不同的人脸清晰区域,可分别对应大小不同的人像过渡范围,人像过渡范围的大小可与对应的人脸清晰区域的区域半径相关。示例性地,人像过渡范围可以是在人脸清晰区域外且接近人脸清晰区域的圆环范围,该圆环范围的小圆半径即为人脸清晰区域的区域半径,大圆半径可以是2倍的人脸清晰区域的区域半径。也即,人像过渡范围可以是距离人脸清晰区域的中心点从区域半径到2倍区域半径所形成的范围,如目标像素点对应的目标人脸清晰区域的区域半径为rk′,则人像过渡范围可为[rk′,2rk′]。
具体地,以人像过渡范围可为[rk′,2rk′]为例,可通过公式(21)计算目标像素点对应的比值:
其中,d1(x,y)表示像素点(x,y)到目标人像清晰区域的中心点的第一距离,rk′表示目标像素点对应的目标人脸清晰区域的区域半径,F(x,y)表示像素点(x,y)对应的比值。
可对目标像素点对应的比值进行归一化处理,作为一种实施方式,可判断该比值是否小于0或大于1,若该比值小于0,说明目标像素点属于人脸清晰区域,则可确定目标像素点的归一化值为0;若该比值大于1,说明目标像素点不在目标人像清晰区域对应的人像过渡范围内,不属于人像模糊过渡区域也不属于人脸清晰区域,则可确定目标像素点的归一化值为1。若该比值大于或等于0,且小于或等于1,说明目标像素点在目标人像清晰区域对应的人像过渡范围内,属于人像模糊过渡区域,则可将该比值作为目标像素点的归一化值。
在根据上述的方式计算得到人像掩膜中人像区域的各个第四像素点的归一化值后,可将各个第四像素点在人像掩膜中的像素值与对应的归一化值相乘,得到各个第四像素点对应的权重值,以生成权重掩膜,各个第四像素点对应的权重值即为各个第四像素点在权重掩膜中对应的像素值。示例性地,图16B为一个实施例中权重掩膜的示意图。如图16B所示,与图16A的人像掩膜对应,权重掩膜包括两张人脸,其中,左侧人脸对应人脸清晰区域1602及人像模糊过渡区域1612(左侧人像区域中从黑到白渐变的区域),右侧人脸对应人脸清晰区域1604及人像模糊过渡区域1614(右侧人像区域中从黑到白渐变的区域),针对每张人脸都有对应的人脸清晰区域及人像模糊过渡区域。需要说明的是,图16B中的两个圆形及一条直线只是为了辅助说明权重掩膜中的区域,不表示真实的权重掩膜中携带有该图形。
在一些实施例中,在根据人像掩膜中人像区域的各个像素点对应的归一化值及人像掩膜生成权重掩膜之后,还可对该权重掩膜进行模糊处理,该模糊处理可包括中值模糊处理等,使得模糊处理后的权重掩膜更加平滑,能够让后续合成的人像模糊图像的模糊效果更为自然。
步骤1520,获取LLHDR图像对应的模糊图像,模糊图像的模糊程度小于背景虚化图像中背景区域的模糊程度。
模糊图像为对LLHDR图像进行模糊处理得到的图像,模糊处理可包括但不限于均值模糊处理、中值模糊处理等。
步骤1530,根据权重掩膜对模糊图像及LLHDR图像进行融合,得到人像模糊图像。
由于权重掩膜中标注了每张人脸对应的人脸清晰区域以及每张人脸对应的人像模糊过渡区域,得到的人像模糊图像中的人脸清晰区域为清晰的图像区域,除人脸清晰区域及人像模糊过渡区域以外的人像区域为模糊的图像区域,人像模糊过渡区域为从清晰到模糊的过渡区域。
在一些实施例中,可将权重掩膜作为模糊图像的Alpha值,对模糊图像及LLHDR图像进行Alpha融合,得到人像模糊图像。进一步地,假设人像掩膜中人像区域的各个第四像素点的像素值为255,背景区域的像素点的像素值为0,则权重掩膜中的人像清晰区域的权重值为0,人像模糊过渡区域的权重值为在0~255区间内逐渐变化的值,除人像清晰区域及人像模糊过渡区域以外的其他人像区域的权重值为255,权重掩膜中背景区域的像素点的像素值可为0。因此,融合得到的人像模糊图像中人脸清晰区域及背景区域对应LLHDR图像中的图像内容,除人像清晰区域及人像模糊过渡区域以外的其他人像区域对应模糊图像中的图像内容,人像模糊过渡区域为LLHDR图像与模糊图像的融合图像内容,且人像模糊过渡区域可呈现从清晰到模糊的过渡效果。
步骤1540,基于人像掩膜,将人像模糊图像与背景虚化图像进行融合,得到目标图像。
在一些实施例中,可将人像掩膜作为人像模糊图像的Alpha值,对人像模糊图像与背景虚化图像进行Alpha融合,得到目标图像,得到的目标图像中每张人脸都保持清晰,除人脸以外的其它人像区域保持较小程度的模糊,且从清晰到模糊之间具有过渡区域,能够避免图像中的所有人像区域都清晰导致出现无突出重点的问题,且图像的虚化效果更加自然,提高了图像的视觉显示效果。此外,在LLHDR图像包含多张人脸的情况下,可保证得到的目标图像中每张人脸清晰,可避免出现仅对焦一人,而其它人脸被模糊的情况,提高了图像虚化效果。
在一些实施例中,在为了提高目标图像中的人像表现,在对模糊图像及LLHDR图像进行融合之前,可对LLHDR图像的人脸进行重打光,提亮LLHDR图像的人像区域。对LLHDR图像的人脸进行重打光,可包括:根据权重掩膜确定每张人脸对应的人脸清晰区域在LLHDR图像中的亮度信息,并根据亮度信息计算人脸平均亮度;根据人脸平均亮度确定人脸提亮参数;根据人脸提亮参数及权重掩膜,对LLHDR图像进行提亮处理。
权重掩膜中标注了每张人脸对应的人脸清晰区域及人像模糊过渡区域,该人脸清晰区域可作为人脸提亮区域,人像模糊过渡区域可作为提亮过渡区域,使得提亮处理后的LLHDR图像中越靠近人脸的人像区域提亮得越多,达到从人脸中心往外渐变提亮的效果,以模拟柔和补光。
可根据权重掩膜,确定每张人脸对应的人脸清晰区域在LLHDR图像中的亮度信息,该亮度信息包括属于人像清晰区域的各个像素点的亮度值(可以是亮度分量值),并根据LLHDR图像中属于人像清晰区域的各个像素点的亮度值计算平均值,得到人脸平均亮度。
在计算得到人脸平均亮度后,可根据人脸平均亮度确定人脸提亮参数,人脸提亮参数可用于表征提亮的程度,人脸提亮参数越大,则提亮得越多。可选地,人脸提亮参数与人脸平均亮度可呈负相关关系,在人脸平均亮度较小时,人脸提亮参数可较大,提亮效果越明显。在一些实施例中,可根据人脸平均亮度及预设提亮参数,确定人脸提亮参数,该预设提亮参数可根据用户实际的亮度调节需求进行设置,也可以由研发人员根据多次的图像处理实验确定的提亮参数。在人脸平均亮度确定的情况下,预设提亮参数与人脸提亮参数可呈正相关关系,预设提亮参数越大,人脸提亮参数越大。
具体地,可通过公式(22)确定人脸提亮参数:
其中,FaceBright表示预设提亮参数,Faceavg表示人脸平均亮度,FaceBright1表示确定的人脸提亮参数。
在确定人脸提亮参数后,可根据人脸提亮参数及权重掩膜,对LLHDR图像的人像区域进行提亮处理,其中,LLHDR图像中人脸清晰区域对应第一提亮程度,LLHDR图像中除人脸清晰区域及人像模糊过渡区域以外的其它人像区域对应第二提亮程度,第一提亮程度大于第二提亮程度,人像模糊过渡区域从第一提亮程度渐变过渡至第二提亮程度。
在一些实施例中,可根据人脸提亮参数及LLHDR图像中人像区域的各个像素点在权重掩膜中的像素值,计算LLHDR图像中人像区域的各个像素点对应的亮度提高值,并计算LLHDR图像中人像区域的各个像素点的亮度值与对应的亮度提高值的和,得到提亮处理后的LLHDR图像。具体地,可通过公式(23)对LLHDR图像进行提亮处理:
其中,Y(x,y)表示LLHDR图像中人像区域的像素点(x,y)在LLHDR图像中的亮度值,WeihtMask(x,y)表示该像素点(x,y)在权重掩膜中的像素值(即权重值),Y′(x,y)表示该像素点(x,y)提亮处理后的亮度值,也即在提亮处理后的LLHDR图像中的亮度值。可选地,由于人脸清晰区域在权重掩膜中的像素值为0,因此属于人像清晰区域的像素点的提亮程度最大,而除人脸清晰区域及人像模糊过渡区域以外的其它人像区域在权重掩膜中的像素值为255,因此没有提亮,而人像模糊过渡区域则从人脸清晰区域的提亮程度渐变过渡到不提亮的其它人像区域,实现人脸中心往外渐变提亮的效果。通过对LLHDR图像进行人像重打光,可提高LLHDR图像中人脸的图像表现效果。
在对LLHDR图像进行提亮处理后,可根据权重掩膜对模糊图像及提亮处理后的LLHDR图像进行融合,得到人像模糊图像。其中,模糊图像可以是对提亮处理前的LLHDR图像进行模糊处理得到的,也可以是对提亮处理后的LLHDR图像进行模糊处理得到的。
需要说明的是,进行人像重对焦及人像重打光过程中所涉及的人像掩膜,可以是前景识别结果中得到的人像掩膜,也可以是上述实施例中经过人像区域边缘优化的人像掩膜,也可以是经过头发区域边缘优化的人像掩膜(即上述的目标人像掩膜),或是经过人像区域边缘优化及头发区域边缘优化的人像掩膜。
在本申请实施例中,通过对LLHDR图像进行人像重对焦,可使得目标图像中每个人像主体的人脸保持清晰,除人脸以外的人像区域保持较小程度的模糊,能够避免图像中的所有人像区域都清晰导致出现无突出重点的问题,且可避免出现仅对焦一人,而其它人脸被模糊的情况,提高了图像虚化效果。此外,通过对LLHDR图像进行人像重打光,可实现从人脸中心往外渐变提亮的效果,以模拟柔和补光,提高目标图像中人像的视觉效果,提高了目标图像的图像效果。
在一个实施例中,提供一种图像处理方法,可包括以下步骤:
1、获取场景信息,并根据该场景信息生成曝光表;
2、根据曝光表包含的多个曝光值,控制成像装置采集与多个曝光值分别对应的多帧RAW格式的原始图像,其中,多帧原始图像中包括至少一帧亮帧图像及至少一帧暗帧图像;
3、通过ISP对多帧原始图像进行优化处理,得到多帧YUV格式的待处理图像;
4、对YUV格式的亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与YUV格式的暗帧图像进行融合,得到LLHDR图像;
5、对LLHDR图像进行人脸识别,得到LLHDR图像中包含的每张人脸的人脸信息,并使用该人脸信息分别对LLHDR图像进行人像分割处理、头发区域的分割处理及头发区域的抠图处理,得到人像掩膜、头发分割结果及头发抠图结果;
6、根据人像掩膜及头发分割结果生成LLHDR图像对应的虚化力度图,并根据LLHDR图像生成扩散权重图;
7、基于虚化力度图及扩散权重图对LLHDR图像中背景区域的各个像素点进行点扩散处理,以得到第一背景虚化图像;
8、在第一背景虚化图像中叠加3DLUT滤镜,得到第二背景虚化图像;
9、在第二背景虚化图像的背景区域叠加噪声,得到第三背景虚化图像;
10、对人像掩膜中的人像区域边缘进行优化,得到边缘优化的人像掩膜;
11、根据边缘优化的人像掩膜及头发分割结果,确定内过渡参数,并根据内过渡参数对边缘优化的人像掩膜中的头发区域进行模糊处理,以得到新的人像掩膜;
11、确定LLHDR图像的背景复杂度,在背景复杂度小于或等于第一复杂度阈值时,对头发抠图结果进行第一优化处理,得到目标抠图结果,并将目标抠图结果与新的人像掩膜进行融合,得到目标人像掩膜;在背景复杂度大于第一复杂度阈值时,对头发分割结果进行第二优化处理,得到目标分割结果,并将目标分割结果与新的人像掩膜进行融合,得到目标人像掩膜;
12、对LLHDR图像进行人像重打光,得到提亮处理后的LLHDR图像;
13、对提亮处理后的LLHDR图像进行人像重对焦,得到人像模糊图像;
14、基于目标人像掩膜,将人像模糊图像与第三背景虚化图像进行融合,得到目标图像。
本申请实施例中的各个步骤的描述在上述实施例中均有详细描述,可参考上述实施例中的相关描述,在此不再重复赘述。需要说明的是,上述的步骤1~14的执行顺序,在符合处理逻辑的前提下,可以调换执行顺序或是删减其中的部分步骤,也可以增加其它的图像处理步骤,在此不作限定。
在本申请实施例中,从软硬件结合的角度提供一种图像的虚化技术,先利用ISP进行基础画质调优,再从软件层进行降噪压高光,得到LLHDR图像,使得后续虚化得到目标图像的背景区域保持高动态范围;基于该LLHDR图像进行人像识别及点扩散的虚化处理,模拟大光圈的虚化效果;通过对人像区域边缘的优化及头发区域边缘的优化,可得到更加准确的目标人像掩膜,使得基于该目标人像掩膜得到的目标图像中头发部分虚化准确且过渡自然;对LLHDR图像进行人像重打光及人像重对焦,对目标图像中的人像区域进行调优,使目标图像中的人像具备更好的视觉效果。本申请实施例从多个方面对图像的虚化效果进行优化,提升了人像图像的虚化表现力。
如图17所示,在一个实施例中,提供一种图像处理装置1700,可应用于上述的电子设备。该图像处理装置1700,可包括图像获取模块1710、高动态模块1720、前景识别模块1730及虚化模块1740。
图像获取模块1710,用于获取多帧待处理图像,其中,多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,亮帧图像为曝光值大于或等于曝光阈值的待处理图像,暗帧图像为曝光值小于曝光阈值的待处理图像。
高动态模块1720,用于对至少一帧亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与至少一帧暗帧图像进行融合,得到低光高动态范围LLHDR图像。
前景识别模块1730,用于识别LLHDR图像中的前景区域,得到前景识别结果。
虚化模块1740,用于基于前景识别结果对LLHDR图像进行虚化处理,得到目标图像。
在一个实施例中,图像获取模块1710,还用于获取场景信息,并根据场景信息生成曝光表;其中,场景信息包括场景类型、场景亮度、感光度ISO值中的一种或多种;以及用于根据曝光表包含的多个曝光值,控制成像装置采集与多个曝光值分别对应的多帧待处理图像。
在一个实施例中,高动态模块1720,包括降噪单元及压高光单元。
降噪单元,用于从至少两帧亮帧图像中选择基准帧图像;将至少两帧亮帧图像进行配准对齐,以得到基准帧图像与其它亮帧图像之间的第一对齐区域及第一非对齐区域;基于至少两帧亮帧图像,对基准帧图像中的第一对齐区域进行降噪处理,以及针对基准帧图像的第一非对齐区域进行单帧降噪处理,以得到降噪图像。
压高光单元,用于将降噪图像及至少一帧暗帧图像进行配准对齐,以得到降噪图像与至少一帧暗帧图像之间的第二对齐区域及第二非对齐区域;以及基于降噪图像及至少一帧暗帧图像,对降噪图像中的第二对齐区域进行色度调整处理,并对降噪图像的第二非对齐区域进行单帧的色彩增强处理,得到LLHDR图像。
在一个实施例中,待处理图像包括通过图像传感器采集的第一图像格式的原始图像。上述图像处理装置1700,还可包括基础调优模块,用于通过ISP对多帧原始图像进行优化处理,得到多帧第二图像格式的待处理图像。其中,第一图像格式包括RAW格式,第二图像格式包括YUV格式或RGB格式,优化处理包括色彩优化、曝光优化及噪声优化中的一种或多种。
高动态模块1720,还用于对至少一帧第二图像格式的亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与至少一帧第二图像格式的暗帧图像进行融合,得到低光高动态范围LLHDR图像。
在一个实施例中,虚化模块1740,包括虚化单元及融合单元。
虚化单元,用于基于前景识别结果对LLHDR图像的背景区域进行虚化处理,得到背景虚化图像。
融合单元,用于基于背景识别结果,将背景虚化图像与LLHDR图像进行融合处理,以得到目标图像。
在一个实施例中,虚化单元,还用于根据前景识别结果获取LLHDR图像的虚化力度图,并获取LLHDR图像对应的扩散权重图,虚化力度图包括LLHDR图像的背景区域中各个第一像素点对应的虚化半径,扩散权重图包括LLHDR图像的背景区域中各个第一像素点对应的扩散权重;根据虚化力度图及扩散权重图,对各个第一像素点进行点扩散处理,得到各个第一像素点对应的扩散结果;以及对各个第一像素点对应的扩散结果进行叠加,并根据叠加结果对LLHDR图像的背景区域进行虚化处理,得到背景虚化图像。
在一个实施例中,虚化单元,还用于根据虚化力度参数确定目标虚化半径,并根据目标虚化半径及前景识别结果生成LLHDR图像的虚化力度图,LLHDR图像的前景区域的各个第二像素点在虚化力度图中的虚化半径为0,LLHDR图像的背景区域的各个第一像素点在虚化力度图中的虚化半径为目标虚化半径。
在一个实施例中,虚化单元,还用于对LLHDR图像及前景识别结果进行下采样处理,得到相同尺寸的LLHDR下采样图像及下采样前景结果;根据下采样前景结果获取LLHDR下采样图像的虚化力度图,并获取LLHDR下采样图像对应的扩散权重图;以及用于在对LLHDR下采样图像中背景区域的各个第一像素点对应的扩散结果进行叠加后,根据叠加结果对LLHDR下采样图像的背景区域进行虚化处理,得到下采样虚化图像,并对下采样虚化图像进行上采样,得到与LLHDR图像相同尺寸的背景虚化图像。
在一个实施例中,虚化模块1740,还包括LUT滤镜叠加单元。
LUT滤镜叠加单元,用于获取背景虚化图像中各个像素点对应的像素值;将背景虚化图像中各个像素点对应的像素值,映射到查找表LUT范围中,得到映射结果;以及基于LUT掩膜,将映射结果和背景虚化图像进行融合,LUT掩膜用于确定需要叠加LUT滤镜的图像区域。
在一个实施例中,虚化模块1740,还包括噪声叠加单元。
噪声叠加单元,用于在LLHDR图像的前景区域中确定噪声估计区域;确定噪声估计区域对应的噪声参数,噪声参数用于表征噪声估计区域的噪声水平;根据噪声参数在背景虚化图像的背景区域叠加噪声。
在一个实施例中,前景识别结果包括人像掩膜。上述的图像处理模块1700,还包括边缘优化模块。
边缘优化模块,用于提取人像掩膜中的人像区域边缘,生成第一边缘掩膜;对第一边缘掩膜中的轮廓边缘进行对齐处理、平滑处理及过渡处理,得到第二边缘掩膜;以及根据第二边缘掩膜中的轮廓边缘对人像掩膜进行更新。
在一个实施例中,前景识别结果包括第一人像掩膜、头发分割结果及头发抠图结果,其中,第一人像掩膜用于表征LLHDR图像中的人像区域位置,头发分割结果为对LLHDR图像进行头发区域的分割处理得到的,头发抠图结果为对LLHDR图像进行头发区域的抠图处理得到的。
在一个实施例中,边缘优化模块,用于根据LLHDR图像、第一人像掩膜及头发分割结果确定LLHDR图像的背景复杂度;若背景复杂度小于或等于第一复杂度阈值,则根据头发抠图结果及第一人像掩膜生成目标人像掩膜;若背景复杂度大于第一复杂度阈值,则根据第一人像掩膜及头发分割结果生成目标人像掩膜。
在一个实施例中,边缘优化模块,还用于根据第一人像掩膜及头发分割结果,确定内过渡参数;根据内过渡参数对第一人像掩膜的头发区域进行模糊处理,以得到第二人像掩膜;将第二人像掩膜与第一人像掩膜进行融合,得到新的第一人像掩膜;以及用于若背景复杂度小于或等于第一复杂度阈值,则根据头发抠图结果及新的第一人像掩膜生成目标人像掩膜,若背景复杂度大于第一复杂度阈值,则根据新的第一人像掩膜及头发分割结果生成目标人像掩膜。
融合单元,还用于基于目标人像掩膜,将背景虚化图像与LLHDR图像进行融合处理,以得到目标图像。
在一个实施例中,融合单元,还用于根据人像掩膜及人脸信息,生成权重掩膜,权重掩膜用于确定LLHDR图像中每张人脸对应的人脸清晰区域,以及每张人脸对应的人像模糊过渡区域;获取LLHDR图像对应的模糊图像,模糊图像的模糊程度小于背景虚化图像中背景区域的模糊程度;根据权重掩膜对模糊图像及LLHDR图像进行融合,得到人像模糊图像;基于人像掩膜,将人像模糊图像与背景虚化图像进行融合,得到目标图像。其中,人脸清晰区域指的是LLHDR图像的人像区域中需要保持清晰的区域,人像模糊过渡区域指的是人像区域中从清晰到模糊之间的变化区域。
在一个实施例中,融合单元,还用于根据权重掩膜确定每张人脸对应的人脸清晰区域在LLHDR图像中的亮度信息,并根据亮度信息计算人脸平均亮度;根据人脸平均亮度确定人脸提亮参数;根据人脸提亮参数及权重掩膜,对LLHDR图像进行提亮处理,其中,LLHDR图像中人脸清晰区域对应第一提亮程度,LLHDR图像中除人脸清晰区域及人像模糊过渡区域以外的其它人像区域对应第二提亮程度,第一提亮程度大于第二提亮程度,人像模糊过渡区域从第一提亮程度渐变过渡至第二提亮程度;以及根据权重掩膜对模糊图像及提亮处理后的LLHDR图像进行融合,得到人像模糊图像。
图18为一个实施例中电子设备的结构框图。如图18所示,电子设备1800可以包括一个或多个如下部件:处理器1810、与处理器1810耦合的存储器1820,其中存储器1820可存储有一个或多个计算机程序,一个或多个计算机程序可以被配置为由一个或多个处理器1810执行时实现如上述各实施例描述的方法。
处理器1810可以包括一个或者多个处理核。处理器1810利用各种接口和线路连接整个电子设备1800内的各个部分,通过运行或执行存储在存储器1820内的指令、程序、代码集或指令集,以及调用存储在存储器1820内的数据,执行电子设备1800的各种功能和处理数据。可选地,处理器1810可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。处理器1810可集成中央处理器(Central Processing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器1810中,单独通过一块通信芯片进行实现。
存储器1820可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory,ROM)。存储器1820可用于存储指令、程序、代码、代码集或指令集。存储器1820可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等。存储数据区还可以存储电子设备1800在使用中所创建的数据等。
可以理解地,电子设备1800可包括比上述结构框图中更多或更少的结构元件,例如,包括电源模块、物理按键、WiFi(Wireless Fidelity,无线保真)模块、扬声器、蓝牙模块、传感器等,还可在此不进行限定。
本申请实施例公开一种计算机可读存储介质,其存储计算机程序,其中,该计算机程序被处理器执行时实现如上述实施例描述的方法。
本申请实施例公开一种计算机程序产品,该计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,且该计算机程序可被处理器执行时实现如上述各实施例描述的方法。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、ROM等。
如此处所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括ROM、可编程ROM(Programmable ROM,PROM)、可擦除PROM(Erasable PROM,EPROM)、电可擦除PROM(Electrically ErasablePROM,EEPROM)或闪存。易失性存储器可包括随机存取存储器(random access memory,RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM可为多种形式,诸如静态RAM(Static RAM,SRAM)、动态RAM(Dynamic Random Access Memory,DRAM)、同步DRAM(synchronous DRAM,SDRAM)、双倍数据率SDRAM(Double Data Rate SDRAM,DDR SDRAM)、增强型SDRAM(Enhanced Synchronous DRAM,ESDRAM)、同步链路DRAM(Synchlink DRAM,SLDRAM)、存储器总线直接RAM(Rambus DRAM,RDRAM)及直接存储器总线动态RAM(DirectRambus DRAM,DRDRAM)。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定特征、结构或特性可以以任意适合的方式结合在一个或多个实施例中。本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在本申请的各种实施例中,应理解,上述各过程的序号的大小并不意味着执行顺序的必然先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可位于一个地方,或者也可以分布到多个网络单元上。可根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上对本申请实施例公开的一种图像处理方法、装置、电子设备及计算机可读存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (19)
1.一种图像处理方法,其特征在于,包括:
获取多帧待处理图像,其中,所述多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,所述亮帧图像为曝光值大于或等于曝光阈值的待处理图像,所述暗帧图像为曝光值小于所述曝光阈值的待处理图像;
对至少一帧所述亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像;
识别所述LLHDR图像中的前景区域,得到前景识别结果;
基于所述前景识别结果对所述LLHDR图像进行虚化处理,得到目标图像。
2.根据权利要求1所述的方法,其特征在于,在所述获取多帧待处理图像之前,所述方法还包括:
获取场景信息,并根据所述场景信息生成曝光表;其中,所述场景信息包括场景类型、场景亮度、感光度ISO值中的一种或多种;
所述获取多帧待处理图像,包括:
根据所述曝光表包含的多个曝光值,控制成像装置采集与所述多个曝光值分别对应的多帧待处理图像。
3.根据权利要求1所述的方法,其特征在于,所述多帧待处理图像中包括至少两帧亮帧图像;所述对至少一帧所述亮帧图像进行降噪处理,包括:
从所述至少两帧亮帧图像中选择基准帧图像;
将所述至少两帧亮帧图像进行配准对齐,以得到所述基准帧图像与其它亮帧图像之间的第一对齐区域及第一非对齐区域;
基于所述至少两帧亮帧图像,对所述基准帧图像中的所述第一对齐区域进行降噪处理,以及针对所述基准帧图像的第一非对齐区域进行单帧降噪处理,以得到降噪图像。
4.根据权利要求3所述的方法,其特征在于,将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,以得到低光高动态范围LLHDR图像,包括:
将所述降噪图像及所述至少一帧暗帧图像进行配准对齐,以得到所述降噪图像与所述至少一帧暗帧图像之间的第二对齐区域及第二非对齐区域;
基于所述降噪图像及所述至少一帧暗帧图像,对所述降噪图像中的所述第二对齐区域进行色度调整处理,并对所述降噪图像的第二非对齐区域进行单帧的色彩增强处理,得到LLHDR图像。
5.根据权利要求1~4任一所述的方法,其特征在于,所述基于所述前景识别结果对所述LLHDR图像进行虚化处理,得到目标图像,包括:
基于所述前景识别结果对所述LLHDR图像的背景区域进行虚化处理,得到背景虚化图像;
基于所述背景识别结果,将所述背景虚化图像与所述LLHDR图像进行融合处理,以得到目标图像。
6.根据权利要求5所述的方法,其特征在于,所述基于所述前景识别结果对所述LLHDR图像的背景区域进行虚化处理,得到背景虚化图像,包括:
根据所述前景识别结果获取所述LLHDR图像的虚化力度图,并获取所述LLHDR图像对应的扩散权重图,所述虚化力度图包括所述LLHDR图像的背景区域中各个第一像素点对应的虚化半径,所述扩散权重图包括所述LLHDR图像的背景区域中各个第一像素点对应的扩散权重;
根据所述虚化力度图及所述扩散权重图,对所述各个第一像素点进行点扩散处理,得到所述各个第一像素点对应的扩散结果;
对所述各个第一像素点对应的扩散结果进行叠加,并根据叠加结果对所述LLHDR图像的背景区域进行虚化处理,得到背景虚化图像。
7.根据权利要求6所述的方法,其特征在于,所述根据所述前景识别结果获取所述LLHDR图像的虚化力度图,包括:
根据虚化力度参数确定目标虚化半径,并根据所述目标虚化半径及所述前景识别结果生成所述LLHDR图像的虚化力度图,所述LLHDR图像的前景区域的各个第二像素点在所述虚化力度图中的虚化半径为0,所述LLHDR图像的背景区域的各个第一像素点在所述虚化力度图中的虚化半径为所述目标虚化半径。
8.根据权利要求6所述的方法,其特征在于,在所述根据所述前景识别结果获取所述LLHDR图像的虚化力度图,并获取所述LLHDR图像对应的扩散权重图之前,所述方法还包括:
对所述LLHDR图像及所述前景识别结果进行下采样处理,得到相同尺寸的LLHDR下采样图像及下采样前景结果;
所述根据所述前景识别结果获取所述LLHDR图像的虚化力度图,并获取所述LLHDR图像对应的扩散权重图,包括:
根据所述下采样前景结果获取所述LLHDR下采样图像的虚化力度图,并获取所述LLHDR下采样图像对应的扩散权重图;
所述根据叠加结果对所述LLHDR图像的背景区域进行虚化处理,得到背景虚化图像,包括:
根据叠加结果对所述LLHDR下采样图像的背景区域进行虚化处理,得到下采样虚化图像,并对所述下采样虚化图像进行上采样,得到与所述LLHDR图像相同尺寸的背景虚化图像。
9.根据权利要求6~8任一所述的方法,其特征在于,在所述得到背景虚化图像之后,所述方法还包括:
获取所述背景虚化图像中各个像素点对应的像素值;
将所述背景虚化图像中各个像素点对应的像素值,映射到查找表LUT范围中,得到映射结果;
基于LUT掩膜,将所述映射结果和所述背景虚化图像进行融合,所述LUT掩膜用于确定需要叠加LUT滤镜的图像区域。
10.根据权利要求6~8任一所述的方法,其特征在于,在所述得到背景虚化图像之后,所述方法还包括:
在所述LLHDR图像的前景区域中确定噪声估计区域;
确定所述噪声估计区域对应的噪声参数,所述噪声参数用于表征所述噪声估计区域的噪声水平;
根据所述噪声参数在所述背景虚化图像的背景区域叠加噪声。
11.根据权利要求5所述的方法,其特征在于,所述前景识别结果包括人像掩膜;在所述基于所述背景识别结果,将所述背景虚化图像与所述LLHDR图像进行融合处理,以得到目标图像之前,所述方法还包括:
提取所述人像掩膜中的人像区域边缘,生成第一边缘掩膜;
对第一边缘掩膜中的轮廓边缘进行对齐处理、平滑处理及过渡处理,得到第二边缘掩膜;
根据第二边缘掩膜中的轮廓边缘对所述人像掩膜进行更新。
12.根据权利要求5所述的方法,其特征在于,所述前景识别结果包括第一人像掩膜、头发分割结果及头发抠图结果,其中,所述第一人像掩膜用于表征所述LLHDR图像中的人像区域位置,所述头发分割结果为对所述LLHDR图像进行头发区域的分割处理得到的,所述头发抠图结果为对所述LLHDR图像进行头发区域的抠图处理得到的;
在所述基于所述背景识别结果,将所述背景虚化图像与所述LLHDR图像进行融合处理,以得到目标图像之前,所述方法还包括:
根据所述LLHDR图像、第一人像掩膜及所述头发分割结果确定所述LLHDR图像的背景复杂度;
若所述背景复杂度小于或等于第一复杂度阈值,则根据所述头发抠图结果及所述第一人像掩膜生成目标人像掩膜;
若所述背景复杂度大于所述第一复杂度阈值,则根据所述第一人像掩膜及所述头发分割结果生成目标人像掩膜;
所述基于所述背景识别结果,将所述背景虚化图像与所述LLHDR图像进行融合处理,以得到目标图像,包括:
基于所述目标人像掩膜,将所述背景虚化图像与所述LLHDR图像进行融合处理,以得到目标图像。
13.根据权利要求12所述的方法,其特征在于,在所述根据所述LLHDR图像、第一人像掩膜及所述头发分割结果确定所述LLHDR图像的背景复杂度之前,所述方法还包括:
根据所述第一人像掩膜及头发分割结果,确定内过渡参数;
根据所述内过渡参数对所述第一人像掩膜的头发区域进行模糊处理,以得到第二人像掩膜;
将所述第二人像掩膜与所述第一人像掩膜进行融合,得到新的第一人像掩膜;
所述根据所述头发抠图结果及所述第一人像掩膜生成目标人像掩膜,包括:根据所述头发抠图结果及所述新的第一人像掩膜生成目标人像掩膜;
所述根据所述第一人像掩膜及所述头发分割结果生成目标人像掩膜,包括:根据所述新的第一人像掩膜及所述头发分割结果生成目标人像掩膜。
14.根据权利要求5所述的方法,其特征在于,所述前景识别结果包括所述LLHDR图像中包含的每张人脸的人脸信息,以及所述LLHDR图像的人像掩膜;
所述基于所述背景识别结果,将所述背景虚化图像与所述LLHDR图像进行融合处理,以得到目标图像,包括:
根据所述人像掩膜及所述人脸信息,生成权重掩膜,所述权重掩膜用于确定所述LLHDR图像中所述每张人脸对应的人脸清晰区域,以及所述每张人脸对应的人像模糊过渡区域;其中,所述人脸清晰区域指的是所述LLHDR图像的人像区域中需要保持清晰的区域,所述人像模糊过渡区域指的是所述人像区域中从清晰到模糊之间的变化区域;
获取所述LLHDR图像对应的模糊图像,所述模糊图像的模糊程度小于所述背景虚化图像中背景区域的模糊程度;
根据所述权重掩膜对所述模糊图像及所述LLHDR图像进行融合,得到人像模糊图像;
基于所述人像掩膜,将所述人像模糊图像与所述背景虚化图像进行融合,得到目标图像。
15.根据权利要求14所述的方法,其特征在于,在所述获取所述LLHDR图像对应的模糊图像之前,所述方法还包括:
根据所述权重掩膜确定所述每张人脸对应的人脸清晰区域在所述LLHDR图像中的亮度信息,并根据所述亮度信息计算人脸平均亮度;
根据所述人脸平均亮度确定人脸提亮参数;
根据所述人脸提亮参数及所述权重掩膜,对所述LLHDR图像进行提亮处理,其中,所述LLHDR图像中所述人脸清晰区域对应第一提亮程度,所述LLHDR图像中除所述人脸清晰区域及所述人像模糊过渡区域以外的其它人像区域对应第二提亮程度,所述第一提亮程度大于所述第二提亮程度,所述人像模糊过渡区域从所述第一提亮程度渐变过渡至所述第二提亮程度;
所述根据所述权重掩膜对所述模糊图像及所述LLHDR图像进行融合,得到人像模糊图像,包括:
根据所述权重掩膜对所述模糊图像及提亮处理后的LLHDR图像进行融合,得到人像模糊图像。
16.根据权利要求1所述的方法,其特征在于,所述待处理图像包括通过图像传感器采集的第一图像格式的原始图像;在所述获取多帧待处理图像之后,所述方法还包括:
通过ISP对多帧所述原始图像进行优化处理,得到多帧第二图像格式的待处理图像,其中,所述第一图像格式包括RAW格式,所述第二图像格式包括YUV格式或RGB格式,所述优化处理包括色彩优化、曝光优化及噪声优化中的一种或多种;
所述对至少一帧所述亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,得到低光高动态范围LLHDR图像,包括:
对至少一帧第二图像格式的亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与至少一帧第二图像格式的暗帧图像进行融合,得到低光高动态范围LLHDR图像。
17.一种图像处理装置,其特征在于,包括:
图像获取模块,用于获取多帧待处理图像,其中,所述多帧待处理图像中包括至少一帧亮帧图像及至少一帧暗帧图像,所述亮帧图像为曝光值大于或等于曝光阈值的待处理图像,所述暗帧图像为曝光值小于所述曝光阈值的待处理图像;
高动态模块,用于对至少一帧所述亮帧图像进行降噪处理,并将降噪处理后的亮帧图像与所述至少一帧暗帧图像进行融合,得到低光高动态范围LLHDR图像;
前景识别模块,用于识别所述LLHDR图像中的前景区域,得到前景识别结果;
虚化模块,用于基于所述前景识别结果对所述LLHDR图像进行虚化处理,得到目标图像。
18.一种电子设备,其特征在于,包括存储器及处理器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器实现如权利要求1至16任一所述的方法。
19.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至16任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111203890.2A CN113888437A (zh) | 2021-10-15 | 2021-10-15 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111203890.2A CN113888437A (zh) | 2021-10-15 | 2021-10-15 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113888437A true CN113888437A (zh) | 2022-01-04 |
Family
ID=79003000
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111203890.2A Pending CN113888437A (zh) | 2021-10-15 | 2021-10-15 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113888437A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115482308A (zh) * | 2022-11-04 | 2022-12-16 | 平安银行股份有限公司 | 图像处理方法、计算机设备及存储介质 |
CN115984316A (zh) * | 2023-03-20 | 2023-04-18 | 东莞市兆丰精密仪器有限公司 | 一种复杂环境的工业图像边缘提取方法及装置 |
CN116051362A (zh) * | 2022-08-24 | 2023-05-02 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
CN116894984A (zh) * | 2023-09-07 | 2023-10-17 | 中海物业管理有限公司 | 一种基于图像识别的入户访问方法和计算机可读存储介质 |
CN117132511A (zh) * | 2023-02-24 | 2023-11-28 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
CN117132477A (zh) * | 2023-02-24 | 2023-11-28 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
CN117278692A (zh) * | 2023-11-16 | 2023-12-22 | 邦盛医疗装备(天津)股份有限公司 | 一种医疗检测车病患监测数据脱敏保护方法 |
WO2023245364A1 (zh) * | 2022-06-20 | 2023-12-28 | 北京小米移动软件有限公司 | 图像处理方法及装置、电子设备、存储介质 |
WO2024016923A1 (zh) * | 2022-07-18 | 2024-01-25 | 北京字跳网络技术有限公司 | 特效图的生成方法、装置、设备及存储介质 |
CN117451830A (zh) * | 2023-10-26 | 2024-01-26 | 江阴市精成数控有限公司 | 荧光磁粉喷砂轴承工件缺陷检测系统 |
CN117974493A (zh) * | 2024-03-28 | 2024-05-03 | 荣耀终端有限公司 | 图像处理方法和相关装置 |
-
2021
- 2021-10-15 CN CN202111203890.2A patent/CN113888437A/zh active Pending
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023245364A1 (zh) * | 2022-06-20 | 2023-12-28 | 北京小米移动软件有限公司 | 图像处理方法及装置、电子设备、存储介质 |
WO2024016923A1 (zh) * | 2022-07-18 | 2024-01-25 | 北京字跳网络技术有限公司 | 特效图的生成方法、装置、设备及存储介质 |
CN116051362B (zh) * | 2022-08-24 | 2023-09-15 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
CN116051362A (zh) * | 2022-08-24 | 2023-05-02 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
CN115482308A (zh) * | 2022-11-04 | 2022-12-16 | 平安银行股份有限公司 | 图像处理方法、计算机设备及存储介质 |
CN117132511A (zh) * | 2023-02-24 | 2023-11-28 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
CN117132477A (zh) * | 2023-02-24 | 2023-11-28 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
CN115984316A (zh) * | 2023-03-20 | 2023-04-18 | 东莞市兆丰精密仪器有限公司 | 一种复杂环境的工业图像边缘提取方法及装置 |
CN116894984A (zh) * | 2023-09-07 | 2023-10-17 | 中海物业管理有限公司 | 一种基于图像识别的入户访问方法和计算机可读存储介质 |
CN116894984B (zh) * | 2023-09-07 | 2023-12-26 | 中海物业管理有限公司 | 一种基于图像识别的入户访问方法和计算机可读存储介质 |
CN117451830A (zh) * | 2023-10-26 | 2024-01-26 | 江阴市精成数控有限公司 | 荧光磁粉喷砂轴承工件缺陷检测系统 |
CN117451830B (zh) * | 2023-10-26 | 2024-03-29 | 江阴市精成数控有限公司 | 荧光磁粉喷砂轴承工件缺陷检测系统 |
CN117278692A (zh) * | 2023-11-16 | 2023-12-22 | 邦盛医疗装备(天津)股份有限公司 | 一种医疗检测车病患监测数据脱敏保护方法 |
CN117278692B (zh) * | 2023-11-16 | 2024-02-13 | 邦盛医疗装备(天津)股份有限公司 | 一种医疗检测车病患监测数据脱敏保护方法 |
CN117974493A (zh) * | 2024-03-28 | 2024-05-03 | 荣耀终端有限公司 | 图像处理方法和相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113888437A (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN111402135B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN111741211B (zh) | 图像显示方法和设备 | |
US11250571B2 (en) | Robust use of semantic segmentation in shallow depth of field rendering | |
US11457138B2 (en) | Method and device for image processing, method for training object detection model | |
US11037278B2 (en) | Systems and methods for transforming raw sensor data captured in low-light conditions to well-exposed images using neural network architectures | |
CN110248096B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
EP2987134B1 (en) | Generation of ghost-free high dynamic range images | |
US10897558B1 (en) | Shallow depth of field (SDOF) rendering | |
CN110473185A (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
WO2022261828A1 (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN113379609B (zh) | 一种图像处理方法、存储介质及终端设备 | |
CN113658197B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN113673474B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
KR20230074136A (ko) | 세일리언시 기반 캡처 또는 이미지 프로세싱 | |
CN115550570A (zh) | 图像处理方法与电子设备 | |
CN113610865B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN114372931A (zh) | 一种目标对象虚化方法、装置、存储介质及电子设备 | |
US20240127403A1 (en) | Multi-frame image fusion method and system, electronic device, and storage medium | |
CN116055895B (zh) | 图像处理方法及其装置、芯片系统和存储介质 | |
CN114862698B (zh) | 一种基于通道引导的真实过曝光图像校正方法与装置 | |
CN113298829B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
US20220188991A1 (en) | Method and electronic device for managing artifacts of image | |
CN113610884A (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN113379608A (zh) | 一种图像处理方法、存储介质及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |