CN114155138A - 一种虚化照片生成方法、装置及设备 - Google Patents
一种虚化照片生成方法、装置及设备 Download PDFInfo
- Publication number
- CN114155138A CN114155138A CN202010928210.2A CN202010928210A CN114155138A CN 114155138 A CN114155138 A CN 114155138A CN 202010928210 A CN202010928210 A CN 202010928210A CN 114155138 A CN114155138 A CN 114155138A
- Authority
- CN
- China
- Prior art keywords
- radius
- blurring
- map
- circle
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000009792 diffusion process Methods 0.000 claims abstract description 28
- 239000006185 dispersion Substances 0.000 claims description 29
- 238000005070 sampling Methods 0.000 claims description 25
- 238000004364 calculation method Methods 0.000 claims description 12
- 230000003321 amplification Effects 0.000 claims description 11
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 11
- 230000008859 change Effects 0.000 abstract description 4
- 230000000694 effects Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 230000011218 segmentation Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 230000007704 transition Effects 0.000 description 5
- 230000007812 deficiency Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种虚化照片生成方法、装置及设备,通过获取第一拍摄图、双目视差图和拍摄的焦点位置信息,双目视差图是根据第一拍摄图和预先拍摄的第二拍摄图确定的,根据焦点位置信息和双目视差图确定双目视差图中的每个像素点对应的弥散圆半径图;利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片。本实施例提供的方法,利用双目视差图做景深虚化,由于视差图的动态范围较小,因此针对同一目标的视差值变化更小,从而可以很好的缓解由于深度一致性差造成的漏虚或误虚问题,为拍摄到边缘像素值更为平滑的虚化照片提供了便利。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及的是一种虚化照片生成方法、装置及设备。
背景技术
在后置双摄手机的拍照功能中,背景虚化功能(当拍摄模式为人像模式时的一种图像处理功能)已逐渐成为标配。人像模式下的背景虚化功能拍出来的图片有较强的美感,具体操作为:依据用户选择的焦点,虚化掉背景等非感兴趣对象,进而达到突出主体(感兴趣对象)的目的。
目前,人像模式下的后置双摄拍照虚化主要有如下两种实现方法:
1、利用双目深度图合成景深虚化效果。由于双目深度图动态范围比较大,同一对象的深度一致性会有比较大的差异,在依据焦点处深度进行景深虚化容易出现漏虚和误虚。
2、采用结合人像分割与双目深度图合成景深虚化效果。由于人像分割会比较耗时,对手机的硬件配置要求较高,而且由于拍摄场景中景物较多,如果人像分割存在错误或者分割的边缘与场景中人物的边缘不对齐,此时双目深度图结合错误的分割掩膜去做景深虚化,会在边缘出现漏虚或误虚。
因此,现有技术有待于进一步的改进。
发明内容
鉴于上述现有技术中的不足之处,本发明的目的在于提供一种虚化照片生成方法、装置及设备,克服现有技术中的虚化照片生成方法进行景深虚化处理时容易出现漏虚和误虚的缺陷。
本发明实施例公开的方案如下:
第一方面,本实施例提供了一种虚化照片生成方法,其中,包括:
获取第一拍摄图、双目视差图和拍摄的焦点位置信息,双目视差图是根据第一拍摄图和预先拍摄的第二拍摄图确定的;
根据焦点位置信息和双目视差图确定双目视差图中的每个像素点对应的弥散圆半径图;
利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片。
第二方面,本实施例提供了一种虚化照片生成装置,其中,包括:
信息获取模块,用于获取第一拍摄图、双目视差图和拍摄的焦点位置信息,双目视差图是根据第一拍摄图和预先拍摄的第二拍摄图确定的;
弥散信息计算模块,用于根据焦点位置信息和双目视差图确定双目视差图中的每个像素点对应的弥散圆半径图;
虚化处理模块,用于利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片。
第三方面,本实施例还提供了一种终端设备,其中,包括处理器、与处理器通信连接的存储介质,存储介质适于存储多条指令;处理器适于调用存储介质中的指令,以执行实现虚化照片生成方法的步骤。
第四方面,本实施例提供了一种计算机可读存储介质,其中,计算机可读存储介质存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器执行,以执行实现虚化照片生成方法的步骤。
有益效果,本发明提供了一种虚化照片生成方法、装置及设备,通过获取相机拍摄的第一拍摄图、根据相机拍摄的第一拍摄图和副摄图计算出的双目视差图和拍摄时相机的焦点位置信息。根据焦点位置信息计算出与双目视差图中的每个像素点对应的弥散圆半径图,最后利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片。由于双目视差值与深度值之间是倒数的关系,所以视差图的动态范围更小,针对同一对象其视差值的一致性更好,故可以很好的缓解由于深度一致性差造成的漏虚或误虚问题,而且弥散圆半径图的半径与视差值之间是正比例关系,这有利于获取渐变过渡的虚化半径,从而实现渐变虚化的效果,为用户在使用人物模式进行目标物体拍摄时,可以拍摄到边缘过渡像素值更为平滑的虚化照片提供了便利。
附图说明
图1是本实施例所提供的虚化照片生成方法步骤流程图;
图2是本实施例所提供的圆形弥散圆模糊核的结构示意图;
图3是本实施例双线性上采样的原理示意图;
图4是本实施例中视差图的示意图;
图5是本实施例中虚化效果示意图;
图6是本发明提供的虚化照片生成方法的具体应用实施例步骤流程图;
图7是本发明实施例装置的结构原理框图;
图8是本发明终端设备的原理结构图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅仅用于解释本发明,并不用于限定本发明。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
发明人发现现有技术中存在两种虚化照片的方法,其中一种为采用双目深度图实现,一种是采用人像分割与双目深度图相结合实现景深虚化效果,由于双目深度图的动态范围比较大,因此根据焦点处深度进行景深虚化容易出现漏虚和误虚,而人像分割存在错误或者分割的边缘与场景中的人物的边缘不对齐,因此双目深度图结合错误的分割掩膜去做景深虚化,会在边缘出现漏虚或误虚。
由于现有技术中的虚化照片方法均存在容易出现漏虚和误虚的缺陷,因此本实施例提供了一种虚化照片生成方法,利用双目视差图实现对照片的虚化处理。具体的,由于双目视差值与深度值之间是倒数的关系,所以视差图的动态范围更小,针对同一对象(如:人)其视差值的一致性更好,可以更好的克服由于深度一致性差造成的漏虚或误虚问题,而且虚化弥散圆的半径与视差值之间是正比例关系,这有利于获取渐变过渡的虚化半径,从而实现渐变虚化的效果;本发明针对小尺度视差图采用双线性插值上采样至原尺寸,这种处理方式可以很好的加速拍照虚化;同时本发明还采用一种权重拉伸的操作,在基本不增加额外处理时间条件下可以使得虚化的背景有光斑,从而实现得到的虚化图更加的真实。
下面结合附图,对本发明所公开的方法做更为详细的解释。
示例性方法
本实施例提供了一种虚化照片生成方法,如图1所示,包括:
步骤S1、图像虚化设备获取拍摄得到的第一拍摄图、双目视差图和拍摄的焦点位置信息,双目视差图是根据第一拍摄图和预先拍摄的第二拍摄图确定的。
图像虚化设备可以安装有多个不同像素的摄像头。
在一实施例中,多个摄像头中像素最高的摄像头可以用于拍摄目标主体,得到第一拍摄图;多个摄像头中除该像素最高的摄像头之外的摄像头用于拍摄第二拍摄图,则根据第一拍摄图和第二拍摄图计算出双目视差图。焦点位置信息为拍摄第一拍摄图和第二拍摄图时的拍摄焦点所在的位置信息。
在一种实施方式中,图像虚化设备首先利用该多个摄像头中像素最高的摄像头获取第一拍摄图和利用多个摄像头中除该像素最高的摄像头之外的摄像头获取第二拍摄图,再根据第一拍摄图和第二拍摄图计算得到双目视差图,以及同步获取拍摄第一拍摄图和第二拍摄图时的拍摄焦点位置信息。
第一拍摄图是利用图像虚化设备具备的多个摄像图中像素最高的摄像头捕获目标主体得到的,该多个摄像图中像素最高的摄像头会配备彩色传感器,收集图像色彩,该多个摄像头中除该像素最高的摄像头之外的摄像头辅助景深起到虚化背景作用,因此该多个摄像头中除该像素最高的摄像头之外的摄像头配置有黑白传感器,补充了图像了图像亮度与细节。
另一种实施方式中,本步骤中图像虚化设备可以之间从其他图像采集设备中获取到其分别利用该多个摄像头中像素最高的摄像头和该多个摄像头中除该像素最高的摄像头之外的摄像头采集到的第一拍摄图和第二拍摄图,以及与第一拍摄图和第二拍摄图对应的双目视差图,以及拍摄第一拍摄图和第二拍摄图时拍摄的焦点位置信息。
进一步的,双目视差图是通过第一拍摄图和第二拍摄图通过立体匹配算法计算得到,具体的,以其中任意一张图为基准,将两幅图像进行像素差值比较,得到的比较图,其含了场景的距离信息。
上述各个实施例仅为示例性说明,不应理解为对图像虚化设备拍摄得到的第一拍摄图和第二拍摄图的限定。
步骤S2、图像虚化设备根据焦点位置信息和双目视差图确定双目视差图中的每个像素点对应的弥散圆半径图。
图像虚化设备根据上述步骤中得到的焦点位置信息中含有的焦点位置和计算得到的双目视差图中,确定出双目视差图中每个像素点对应的弥散圆半径图。
具体的,图像虚化设备根据焦点位置信息和双目视差图确定双目视差图中的每个像素点对应的弥散圆半径图,包括:
步骤S21、图像虚化设备以焦点所在位置为中心,取一个目标区域,并计算目标区域内的所有视差值的中位数,中位数作为焦点视差值。
结合图4所示,首先以焦点所在位置为中心点,选取一个区域,该区域取目标区域内所有视差值的中位值作为焦点视差值dfocus。目标区域的形状可以根据需要进行选择设置,具体的,可以设置为方形,或圆形,也可以设置为具有一定规则的形状,也可以设置为不具有规则的形状,在一种实施方式中,为了便于准确的计算出目标区域内的所有视差值的中位数,选取的区域的形状为方形。
步骤S22、图像虚化设备根据焦点视差值和双目视差图确定弥散圆半径,并根据弥散圆半径获得弥散圆半径图。
由于各个像素点对应的虚化强度与视差值相关,因此本步骤中,首先根据各个像素点对应的视差值、焦点视差值和预设最大虚化强度得到各个像素点对应的虚化强度,再根据各个像素点对应的虚化强度和非虚化区域位置信息,计算得到弥散圆半径;其中,非虚化区域位置信息为非虚化区域所对应的位置信息,非虚化区域为以焦点为中心的预设范围区域,预设范围区域为拍摄目标主体所处于的区域位置信息。
在以焦点所在位置为中心,根据非虚化区域内各个像素点的预设弥散圆半径值和预设虚化强度系数,得到非虚化区域位置信息;以实现焦点处主体的清晰而不被误虚或漏虚。由于不需要对非虚化区域的各个像素点进行虚化,因此预设弥散圆半径值为0,虚化强度系数为预设常数与各个像素点对应的虚化强度的比值,最后再根据各个像素点对应的虚化强度和非虚化区域位置信息,计算得到弥散圆半径。
具体的,针对视差图D和焦点视差值采用公式1计算弥散圆半径;
rij=k(d,dfocus)*max(0,|d-dfocus|-do) (公式1)
其中:k(d,dfocus)表示与视差值d相关虚化强度的函数,dij为视差图中(i,j)处视差值;do表示不虚化的有效变化范围。
具体的,分别通过以下公式计算k(d,dfocus)与do:
k(d,dfocus)=L*k1(d)*k2(dfocus);
其中:k1(d)和k2(dfocus)的计算方法如公式3和公式4;
k1(d)=(0.3/d+0.2)|[0.5,2.5] (公式3)
其中:公式3和公式4中的(·)|[a,b]表示截断至[a,b]之间。
为了保证焦点处主体的清晰而不被误虚或漏虚,设置:
[dfocus-do,dfocus+do]的视差范围内区域不虚化,即设置非虚化区域内各个像素点对应的弥散圆半径为0。
do的计算方法如公式5:
do=0.5/k(d,dfocus) (公式5)
步骤S3、图像虚化设备利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片。
当上述步骤S2中计算出弥散圆半径图,则本步骤中便可以利用计算出的弥散圆半径图对第一拍摄图进行虚化处理。
具体的,图像虚化设备利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片,包括:
步骤S31、图像虚化设备按照预设尺寸对第一拍摄图进行下采样,得到下采样拍摄图,以及采用插值法对弥散圆半径图进行插值处理,得到与下采样拍摄图同等尺寸的插值弥散半径图。
为了提高数据处理的速率,实施例中获取到的双目视差图为第一拍摄图尺寸的四分之一或二分之一,为了保持得到的插值弥散半径图和虚化处理的第一拍摄图尺寸相同,本步骤中采取对第一拍摄图进行下采样,将其尺寸变为原来的一半或四分之一,将弥散半径图进行上采样处理,以实现两幅图的尺寸保持一直。
在一种实施方式中,双目视差图的选取尺寸为第一拍摄图尺寸的1/4倍数;对第一拍摄图中的各个像素值均按照预设尺寸缩小,得到下采样拍摄图;预设尺寸为第一拍摄图尺寸的1/2倍;利用最近邻插值法对弥散圆半径图进行插值处理,得到插值弥散半径图,插值弥散半径图的尺寸为为第一拍摄图尺寸的1/2倍。
步骤S32、图像虚化设备根据弥散圆半径图中各个像素点对应的弥散圆半径值,计算得到弥散圆半径图中各个像素点对应的模糊核;图像虚化设备根据下采样拍摄图中各个像素点对应的像素值和模糊核的放大权重值,对弥散圆半径图中各个像素点对应的模糊核进行放大处理,并采用放大后的模糊核对下采样拍摄图做虚化操作得到初始虚化照片。
为了提高虚化处理速度和虚化呈现(光斑)效果;本步骤通过最近邻插值弥散圆半径图至1/2尺度做虚化,然后将虚化结果上采样值原尺寸,并在1/2尺度虚化过程中做基于模糊核权重拉伸的操作,在基本不增加额外耗时情况先产生光斑效果。
进一步的,本步骤中图像虚化设备根据预设控制放大倍率的方差、弥散圆半径图中各个像素点对应的模糊核和下采样拍摄图中各个像素对应的像素值,计算出模糊核的放大权重值,再根据根据计算出的模糊核的放大权重值对弥散圆半径图中各个像素点对应的模糊核进行放大处理,得到放大后的模糊核,最后根据下采样拍摄图中各个像素点对应在弥散圆半径图中的半径和放大后的模糊核对下采样拍摄图进行虚化操作,得到初始虚化照片。
步骤S33、图像虚化设备将初始虚化照片和插值弥散半径图进行上采样处理至与第一拍摄图等同尺寸,得到上采样处理后的上采样初始虚化照片和上采样插值弥散半径图;以上采样插值弥散半径图的半径为虚化半径对上采样初始虚化照片的背景边缘进行虚化处理,生成虚化照片。
当采用放大后的模糊核对下采样拍摄图做虚化操作得到初始虚化照片后,再次对获取到的初始虚化照片和插值弥散半径图进行上采样处理,以得到与第一拍摄图相同尺寸的图像,并对初始虚化照片的背景边缘进行虚化处理,以生成虚化照片。
具体的,本步骤中图像虚化设备利用双线性差值法将初始虚化照片和插值弥散半径图进行上采样处理至与第一拍摄图等同尺寸,得到对初始虚化照片进行上采样处理后的上采样初始虚化照片和对插值弥散半径图进行上采样处理后,得到的上采样插值弥散半径图,然后利用散点虚化的方式,以上采样插值弥散半径图的半径为虚化半径对上采样初始虚化照片的前背景边缘进行虚化处理,生成虚化照片,其虚化效果如图5所示。
下面结合本实施例的具体应用实施例,对本实施例提供的方法做进一步的说明。
结合图6所示,本实施例在具体应用其整体流程中图像虚化设备执行如以下步骤的操作:
步骤H1:图像虚化设备获取第一拍摄图I、双目视差图D、焦点位置(Xfocus,Yfocus)以及最大虚化强度系数L;其中:双目视差图是通过采用第一拍摄图I和第二拍摄图通过立体匹配算法计算得到;
步骤S2:计算焦点位置(Xfocus,Yfocus)为中心的小区域内的视差值的中位dmedian,根据双目视差图D计算弥散圆半径图R;具体实施步骤如下:
步骤S21:以焦点(Xfocus,Yfocus)为中心,取边长为min(W/c,H/c)的正方形区域,取正方形区域所有视差值的中位值作为焦点视差值dfocus;
步骤S22:针对视差图D和焦点视差值采用公式1计算弥散圆半径;
rij=k(d,dfocus)*max(0,|d-dfocus|-do) (公式1)
其中:k(d,dfocus)表示与视差值d相关虚化强度的函数,dij为双目视差图中(i,j)处视差值;do表示不虚化的有效变化范围;k(d,dfocus)与do的具体计算方式在下面陈述。
步骤S23:k(d)代表视差值d处的虚化强度,其与场景视差值d、用户选的焦点处的视差值和最大虚化强度L都存在关系;其计算方式如公式2;
k(d,dfocus)=L*k1(d)*k2(dfocus) (公式2)
其中:k1(d)和k2(dfocus)的计算方法如公式3和公式4;
k1(d)=(0.3/d+0.2)|[0.5,2.5] (公式3)
其中:L表示最大虚化强度,公式3和公式4中的(·)|[a,b]表示截断至[a,b]之间;
步骤S24:为了保证焦点处主体的清晰而不被误虚或漏虚,设置[dfocus-do,dfocus+do]视差范围内区域不虚化,即设置虚化弥散圆半径为0;do的计算方法如公式5:
do=0.5/k(d,dfocus) (公式5)
步骤S3:采用下采样拍摄图I至1/2尺度得到I_,采用最近邻插值弥散圆半径图R,得到与I_同尺寸的R_;具体操作如下:
步骤S31:下采样拍摄图I至1/2尺度,(i,j)为I_中任一点的像素值,其对应I中的位置为(2*i,2*j)所以下采样的操作为:I_(i,j)=I(2*i,2*j)。
步骤S32:最近邻插值弥散圆半径图R的操作:R与R_之间尺寸比例为ratio,则R_中(x,y)处像素值对应在R中位置为x’=(x+1)/ratio+0.5)-1,y’=(y+1)/ratio+0.5)-1;所以最近邻插值操作为:R_(x,y)=R(x’,y’)。
步骤S4:基于I_中各个像素点对应的像素值对弥散圆半径图中各个像素点对应的模糊核的权重做放大操作,并采用放大后的模糊核对I_做虚化操作得到I_bokeh;其具体步骤如下:
步骤S41:I_中某一点的像素值为P,其对应的模糊核权重为w,则放大模糊核权重的操作按公式6计算:
其中:w’表示放大后的权重值,exp(*)表示指数,Pmax=max(Pr,Pg,Pb),σ表示控制放大倍率的方差;本方法中取σ=3;
步骤S42:I_中像素点(i,j)对应在弥散圆半径图R_中的半径为r,则(i,j)对应的圆形模糊核K大小为(2*r+1,2*r+1)如图2,采用如下公式7对I_进行虚化操作;
其中:Δi和Δj的变动范围在[-r,r]之间。
步骤S5:上采样I_bokeh和R_至原尺寸(同I尺寸相同),然后在I_bokeh中对前背景的边缘进行基于scatter方式的虚化处理;具体实施步骤如下:
步骤S51:采用双线性插值I_bokeh和R_至原尺寸,采样原理图如图3;(i’,j’)为原I_bokeh中的某一点,(i,j)为其插值后的I_bokeh中点(i,j);计算插值方式按公式8计算;
步骤H5:采用scatter方式(基于散射的模糊方式)对I_bokeh前背景边缘进行虚化处理得到最终的虚化效图I_bokeh’,其中,scatter方式为将一个像素值的一部分扩散到同一弥散圆内的其他像素上。
本步骤中虚化操作如公式9:
其中,Ki+Δi,j+Δj为模糊核,Δi和Δj的变动范围在[-r,r]之间,本步骤中模糊核的个数为多个,i+Δi和j+Δj的取值不同,分别对应不同的模糊核,模糊核的个数由虚化半径决定,其个数的计算公式为(2r+1)*(2r+1),若以虚化半径为r=1为例,则模糊核下标i+Δi和j+Δj的取值共有九组,分别为(i-1,j-1)、(i-1,j)(i-1,j+1),(i,j-1)、(i,j)、(i,j+1)、(i+1,j+1)、(i+1,j)和(i+1,j-1),因此共有9个模糊核,利用该9个模糊核分别对I_bokeh进行散射的模糊方式的虚化操作,得到虚化图像。
本实施例方法与现有技术相比,通过以下三个方面改善拍照虚化的效果和速度:
(1)、本方法利用双目视差图做景深虚化,视差图的动态范围更小,同一目标的视差值变化更小;而且本方法基于焦点位置视差值dfocus,动态的计算do,设置[dfocus-do,dfocus+do]范围内的像素虚化半径为0;克服由虚化导致的误虚和漏虚问题;
(2)、为了提高虚化处理速度和虚化呈现(光斑)效果;本方法通过最近邻插值弥散圆半径图至1/2尺度做虚化,然后将虚化结果上采样值原尺寸;并在1/2尺度虚化过程中做基于模糊核权重拉伸的操作,在不增加额外耗时情况先产生光斑效果,使得虚化处理后的照片更加的真实;
(3)、为了确保虚化边缘的刀锐感和抑制光晕问题;本方法在边缘部分采用散点虚化方法(scatter方式)做虚化从视觉上增强虚化的表现力。
示例性设备
本实施例在公开上述方法的基础上,还公开了一种虚化照片生成装置,如图7所示,包括:
信息获取模块710,用于获取第一拍摄图、双目视差图和拍摄的焦点位置信息,双目视差图是根据第一拍摄图和预先拍摄的第二拍摄图确定的;其功能如步骤S1。
弥散信息计算模块720,用于根据焦点位置信息和双目视差图确定双目视差图中的每个像素点对应的弥散圆半径图;其功能如步骤S2。
虚化处理模块730,用于利用弥散圆半径图对第一拍摄图进行虚化处理,得到虚化照片,其功能如步骤S3。
进一步的,虚化处理模块630包括:
下采样处理单元,用于按照预设尺寸对第一拍摄图进行下采样,得到下采样拍摄图,以及采用插值法对弥散圆半径图进行插值处理,得到与下采样拍摄图同等尺寸的插值弥散半径图;
第一虚化单元,用于根据弥散圆半径图中各个像素点对应的弥散圆半径值,计算得到弥散圆半径图中各个像素点对应的模糊核;根据下采样拍摄图中各个像素点对应的像素值和模糊核的放大权重值,对弥散圆半径图中各个像素点对应的模糊核进行放大处理,并采用放大后的模糊核对下采样拍摄图做虚化操作得到初始虚化照片;
第二虚化单元,用于将初始虚化照片和插值弥散半径图进行上采样处理至与第一拍摄图等同尺寸,得到上采样处理后的上采样初始虚化照片和上采样插值弥散半径图;以上采样插值弥散半径图的半径为虚化半径对上采样初始虚化照片的背景边缘进行虚化处理,生成虚化照片。
在上述方法的基础上,本实施例还公开了一种终端设备,包括处理器、与处理器通信连接的存储介质,存储介质适于存储多条指令;处理器适于调用存储介质中的指令,以执行实现虚化照片生成方法。一种实施方式中,终端设备可以为手机、平板电脑或智能电视。
具体的,如图8所示,终端设备包括至少一个处理器(processor)20以及存储器(memory)22,还可以包括显示屏21、通信接口(Communications Interface)23和总线24。其中,处理器20、显示屏21、存储器22和通信接口23可以通过总线24完成相互间的通信。显示屏21设置为显示初始设置模式中预设的用户引导界面。通信接口23可以传输信息。处理器20可以调用存储器22中的逻辑指令,以执行上述实施例中虚化照片生成方法的步骤。
此外,上述的存储器22中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。
存储器22作为一种计算机可读存储介质,可设置为存储软件程序、计算机可执行程序,如本公开实施例中的方法对应的程序指令或模块。处理器30通过运行存储在存储器22中的软件程序、指令或模块,从而执行功能应用以及数据处理,即实现上述实施例中的方法。
存储器22可包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据终端设备的使用所创建的数据等。此外,存储器22可以包括高速随机存取存储器,还可以包括非易失性存储器。例如,U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等多种可以存储程序代码的介质,也可以是暂态存储介质。
另一方面,一种计算机可读存储介质,其中,计算机可读存储介质存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器执行,以实现的虚化照片生成方法的步骤。
本发明提供了一种虚化照片生成方法、装置及设备,由于利用双目视差图实现照片的景深虚化,而双目视差图中的双目视差值与深度值之间是倒数的关系,视差图的动态范围更小,针对同一对象其视差值的一致性更好,故可以很好的缓解由于深度一致性差造成的漏虚或误虚问题,而且弥散圆半径图的半径与视差值之间是正比例关系,因此将弥散圆半径图的半径作为循环半径,可以呈现出渐变过渡的虚化效果,为用户在使用人物模式进行目标物体拍摄时,可以拍摄到边缘过渡像素值更为平滑的虚化照片提供了便利。
可以理解的是,对本领域普通技术人员来说,可以根据本发明的技术方案及其发明构思加以等同替换或改变,而所有这些改变或替换都应属于本发明所附的权利要求的保护范围。
Claims (10)
1.一种虚化照片生成方法,其特征在于,包括:
获取第一拍摄图、双目视差图和拍摄的焦点位置信息,所述双目视差图是根据所述第一拍摄图和预先拍摄的第二拍摄图确定的;
根据所述焦点位置信息和所述双目视差图确定所述双目视差图中的每个像素点对应的弥散圆半径图;
利用所述弥散圆半径图对所述第一拍摄图进行虚化处理,得到虚化照片。
2.根据权利要求1所述的方法,其特征在于,所述根据所述焦点位置信息和双目视差图确定所述双目视差图中的每个像素点对应的弥散圆半径图,包括:
以焦点所在位置为中心,按照预设形状取一个目标区域,并计算所述目标区域内的所有视差值的中位数,所述中位数作为所述焦点视差值;
根据所述焦点视差值和所述双目视差图确定弥散圆半径,并根据所述弥散圆半径获得弥散圆半径图。
3.根据权利要求2所述的方法,其特征在于,所述根据所述焦点对应的视差值和所述双目视差图确定弥散圆半径,包括:
根据各个像素点对应的视差值、所述焦点视差值和预设最大虚化强度得到各个像素点对应的虚化强度;
根据各个像素点对应的虚化强度和非虚化区域位置信息,计算得到弥散圆半径;其中,非虚化区域位置信息为非虚化区域所对应的位置信息,所述非虚化区域为以焦点为中心的预设范围区域,所述预设范围区域为拍摄目标主体所处于的区域位置信息。
4.根据权利要求3所述的方法,其特征在于,所述根据各个像素点对应的虚化强度和非虚化区域位置信息,计算得到弥散圆半径之前,所述方法还包括:
以所述焦点所在位置为中心,根据所述非虚化区域内各个像素点的预设弥散圆半径值和预设虚化强度系数,得到所述非虚化区域位置信息;其中,所述虚化强度系数为预设常数与各个像素点对应的所述虚化强度的比值。
5.根据权利要求4所述的方法,其特征在于,所述利用所述弥散圆半径图对所述第一拍摄图进行虚化处理,得到虚化照片,包括:
按照预设尺寸对所述第一拍摄图进行下采样,得到下采样拍摄图,以及采用插值法对所述弥散圆半径图进行插值处理,得到与所述下采样拍摄图同等尺寸的插值弥散半径图;
根据所述弥散圆半径图中各个像素点对应的弥散圆半径值,计算得到所述弥散圆半径图中各个像素点对应的模糊核;
根据所述下采样拍摄图中各个像素点对应的像素值和模糊核的放大权重值,对所述弥散圆半径图中各个像素点对应的所述模糊核进行放大处理,并采用放大后的模糊核对所述下采样拍摄图做虚化操作得到初始虚化照片;
将所述初始虚化照片和所述插值弥散半径图进行上采样处理至与所述第一拍摄图等同尺寸,得到上采样处理后的上采样初始虚化照片和上采样插值弥散半径图;
以所述上采样插值弥散半径图的半径为虚化半径对所述上采样初始虚化照片的背景边缘进行虚化处理,生成虚化照片。
6.根据权利要求5所述的方法,其特征在于,所述双目视差图的选取尺寸为第一拍摄图尺寸的1/4倍数,所述按照预设尺寸对所述第一拍摄图进行下采样,得到下采样拍摄图,以及采用插值法对所述弥散圆半径图进行插值处理,得到与所述下采样拍摄图同等尺寸的插值弥散半径图,包括:
对所述第一拍摄图中的各个像素值均按照预设尺寸缩小,得到所述下采样拍摄图;所述预设尺寸为所述第一拍摄图尺寸的1/2倍;
利用最近邻插值法对所述弥散圆半径图进行插值处理,得到所述插值弥散半径图,所述插值弥散半径图的尺寸为为所述第一拍摄图尺寸的1/2倍。
7.根据权利要求5或6所述的方法,其特征在于,所述根据所述下采样拍摄图中各个像素点对应的像素值和模糊核的放大权重值,对所述弥散圆半径图中各个像素点对应的所述模糊核进行放大处理,并采用放大后的模糊核对所述下采样拍摄图做虚化操作得到初始虚化照片,包括:
根据预设控制放大倍率的方差、所述弥散圆半径图中各个像素点对应的所述模糊核和所述下采样拍摄图中各个像素对应的像素值,计算出所述模糊核的放大权重值;
根据计算出的模糊核的放大权重值对所述弥散圆半径图中各个像素点对应的所述模糊核进行放大处理,得到放大后的模糊核;
根据所述下采样拍摄图中各个像素点对应在所述弥散圆半径图中的半径和放大后的模糊核对所述下采样拍摄图进行虚化操作,得到所述初始虚化照片。
8.一种虚化照片生成装置,其特征在于,包括:
信息获取模块,用于获取第一拍摄图、双目视差图和拍摄的焦点位置信息,所述双目视差图是根据所述第一拍摄图和预先拍摄的第二拍摄图确定的;
弥散信息计算模块,用于根据所述焦点位置信息和所述双目视差图确定所述双目视差图中的每个像素点对应的弥散圆半径图;
虚化处理模块,用于利用所述弥散圆半径图对所述第一拍摄图进行虚化处理,得到虚化照片。
9.一种终端设备,其特征在于,包括处理器、与处理器通信连接的存储介质,所述存储介质适于存储多条指令;所述处理器适于调用所述存储介质中的指令,以执行实现上述权利要求1-7任一项所述的虚化照片生成方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现如权利要求1-7任一项所述的虚化照片生成方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010928210.2A CN114155138A (zh) | 2020-09-07 | 2020-09-07 | 一种虚化照片生成方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010928210.2A CN114155138A (zh) | 2020-09-07 | 2020-09-07 | 一种虚化照片生成方法、装置及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114155138A true CN114155138A (zh) | 2022-03-08 |
Family
ID=80460361
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010928210.2A Pending CN114155138A (zh) | 2020-09-07 | 2020-09-07 | 一种虚化照片生成方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114155138A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023240452A1 (zh) * | 2022-06-14 | 2023-12-21 | 北京小米移动软件有限公司 | 图像处理方法、装置、电子设备和存储介质 |
-
2020
- 2020-09-07 CN CN202010928210.2A patent/CN114155138A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023240452A1 (zh) * | 2022-06-14 | 2023-12-21 | 北京小米移动软件有限公司 | 图像处理方法、装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7003238B2 (ja) | 画像処理方法、装置、及び、デバイス | |
EP3499863B1 (en) | Method and device for image processing | |
CN109906599B (zh) | 一种终端的拍照方法和终端 | |
WO2017016050A1 (zh) | 一种图像的预览方法、装置及终端 | |
CN109474780B (zh) | 一种用于图像处理的方法和装置 | |
US20160301868A1 (en) | Automated generation of panning shots | |
CN110324532B (zh) | 一种图像虚化方法、装置、存储介质及电子设备 | |
US20130162861A1 (en) | Image processing device for generating reconstruction image, image generating method, and storage medium | |
JP2000207549A (ja) | 画像処理装置 | |
JP2009282979A (ja) | 画像処理装置及び画像処理方法 | |
CN110677621B (zh) | 摄像头调用方法、装置、存储介质及电子设备 | |
WO2020087729A1 (zh) | 一种图像处理方法及装置、电子设备、存储介质 | |
US11282176B2 (en) | Image refocusing | |
US20160180514A1 (en) | Image processing method and electronic device thereof | |
CN111263063A (zh) | 拍摄图像的方法、装置及设备 | |
WO2014014135A1 (ko) | 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체 | |
CN114155138A (zh) | 一种虚化照片生成方法、装置及设备 | |
JP2017143354A (ja) | 画像処理装置及び画像処理方法 | |
WO2016113805A1 (en) | Image processing method, image processing apparatus, image pickup apparatus, program, and storage medium | |
CN115244570A (zh) | 合并分离像素数据以获得更深景深 | |
CN106878606B (zh) | 一种基于电子设备的图像生成方法和电子设备 | |
CN109862262A (zh) | 图像虚化方法、装置、终端及存储介质 | |
TWI541761B (zh) | 影像處理方法及其電子裝置 | |
WO2020084894A1 (ja) | マルチカメラシステム、制御値算出方法及び制御装置 | |
CN111835968B (zh) | 图像清晰度还原方法及装置、图像拍摄方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |