CN115272138A - 图像处理方法及其相关设备 - Google Patents

图像处理方法及其相关设备 Download PDF

Info

Publication number
CN115272138A
CN115272138A CN202211188330.9A CN202211188330A CN115272138A CN 115272138 A CN115272138 A CN 115272138A CN 202211188330 A CN202211188330 A CN 202211188330A CN 115272138 A CN115272138 A CN 115272138A
Authority
CN
China
Prior art keywords
image
images
polarization
frames
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211188330.9A
Other languages
English (en)
Other versions
CN115272138B (zh
Inventor
蔡子轩
李宗原
姚华升
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202211188330.9A priority Critical patent/CN115272138B/zh
Publication of CN115272138A publication Critical patent/CN115272138A/zh
Application granted granted Critical
Publication of CN115272138B publication Critical patent/CN115272138B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)

Abstract

本申请提供一种图像处理方法及其相关设备,涉及图像处理领域,该方法包括:显示第一界面,第一界面包括第一控件;检测到对第一控件的第一操作;响应于第一操作,采集多帧第一偏振图像;对多帧第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;对多帧第三偏振图像进行拟合,得到一组单灯图像;根据目标环境图像,对一组单灯图像进行重打光处理,得到目标拍摄图像。该方法通过在摄像头外部增设多个带有不同色彩渐变的偏振镜片,来采集多个带有不同颜色梯度信息的偏振图像,随之利用简单的算法进行处理,从而可以在切换背景时实现提高拍摄效果和处理效率目的。

Description

图像处理方法及其相关设备
技术领域
本申请涉及图像处理领域,具体涉及一种图像处理方法及其相关设备。
背景技术
随着具有拍摄功能的电子设备在生活中的普及,人们使用电子设备进行拍摄已经成为了一种日常行为方式。目前大多数电子设备在拍摄时,都是采用一些算法来对采集的图像进行处理,从而生成满足拍摄需求的图像或视频。
其中,在某些拍摄场景下,用户期望可以更改人像所处的环境,相当于需要给人像增加环境特效。为了满足此种需求,现有技术可以通过算法来实现,然而,在利用算法进行处理时,由于非常依赖于外部信息,抗外部干扰性比较差,所以拍摄出的效果随之无法得到保证,而且提供的算法比较复杂,处理效率也很低。由此,针对上述所述的切换人像所处环境的拍摄需求,如何提高拍摄效果和处理效率成为了一个亟需解决的问题。
发明内容
本申请提供一种图像处理方法及其相关设备,通过在摄像头外部增设多个带有不同色彩渐变的偏振镜片,来采集多个带有不同颜色梯度信息的偏振图像,随之利用简单的算法进行重打光处理,从而可以在切换背景时实现提高拍摄效果和处理效率目的。
第一方面,提供了一种图像处理方法,应用于包括多个摄像头的电子设备,至少两个摄像头远离所述电子设备的一侧设置有不同颜色渐变的偏振镜片;该方法包括:
显示第一界面,所述第一界面包括第一控件;
检测到对所述第一控件的第一操作;
响应于所述第一操作,采集多帧第一偏振图像,多帧所述第一偏振图像为设置有所述偏振镜片的至少两个摄像头获取的,多帧所述第一偏振图像包括同一拍摄对象;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;
对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述单灯图像指的是仅在一个方向上利用光源对所述拍摄对象进行照射的图像,每帧所述单灯图像所指示的光源的照射方向不同,所述单灯图像的帧数大于所述第三偏振图像的帧数;
根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,所述目标拍摄图像中所述拍摄对象的光照情况与所述目标环境图像的光照情况相同。
应理解,通过背景置黑处理,可以去除图像背景中的无关信息,仅保留拍摄对象的信息,减小干扰。
应理解,拟合指的是根据多帧偏振图像中的颜色梯度信息,推理出空间中各个方向上的光源单独照射拍摄对象时的光影情况。
应理解,重打光处理指的是重新确定并附加给拍摄对象光照信息,以使其符合环境图像的光照情况。
本申请实施例提供的图像处理方法,通过给电子设备的至少两个摄像头前设置不同颜色渐变的偏振镜片,利用该带有偏振镜片的摄像头进行拍摄,采集多帧偏振图像,然后,将多帧偏振图像进行背景置黑处理;再将处理后的偏振图像进行拟合,得到一组单灯图像;接着,结合环境图像,将该一组单灯图像进行重打光处理,从而可以营造出该环境图像对应环境下的打光效果,得到该环境下的拍摄对象的合成图像。
由于在摄像头前增设了带有不用色彩渐变的偏振镜片,增加了外部输入的不同的颜色梯度信息,根据该不同的颜色梯度信息,从而可以提高后续融合出的拍摄对象的打光效果,使其融合的比较真实。并且,由于是在硬件上进行了改变,所以内部算法相对现有技术来说比较简单,处理效率可以得到提升。
结合第一方面,在第一方面的某些实现方式中,对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
针对每帧所述第一偏振图像,利用分割模型对拍摄对象区域和背景区域进行分割,确定所述第一偏振图像对应的初始掩膜图像,所述初始掩膜图像用于对所述拍摄对象区域和所述背景区域进行区分,所述拍摄对象区域指的是所述拍摄对象在所述第一偏振图像中占据的区域,所述背景区域指的是所述第一偏振图像中除了所述拍摄对象区域之外的其他区域;
根据多帧所述初始掩膜图像,确定多个所述拍摄对象区域的并集,并根据所述并集确定目标掩膜图像,所述目标掩膜图像用于对所述并集和剩余背景区域进行区分,所述剩余背景区域为所述目标掩膜图像中除了所述并集之外的其他区域;
根据所述目标掩膜图像中的所述剩余背景区域,将每帧所述第一偏振图像中相同区域置黑,得到对应的所述第三偏振图像。
拍摄对象为人像时,可称拍摄对象区域为人像区域。
在该实现方式中,本申请可以先对多个人像区域进行处理,确定多个人像区域的并集,也即确定人像所占据的最大范围区域,从而在后续进行拟合时,可以对完整的人像进行拟合,提高完整性,并且,还可以对人像周围相邻的部分环境也进行拟合,使得人像在环境中的融入更加自然、真实。
结合第一方面,在第一方面的某些实现方式中,对多帧所述第三偏振图像进行拟合,得到一组单灯图像,包括:
利用OLAT拟合网络对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述OLAT拟合网络基于Unet网络模型训练而成。
应理解,由于生成第三偏振图像的第一偏振图像,是由贴附有不同颜色渐变的偏振镜片的摄像头采集的,第三偏振图像中的人像上,滤除了一些强烈反射的偏振光,从而可以更加简单的进行拟合运算,提高了处理效率。又因为第三偏振图像中的人像上增加了外部输入的不同的颜色梯度信息,由此,根据该不同的颜色梯度信息,可以利用OLAT拟合网络快速、简单的推理出每个方向上光源单独照射人像时的光影情况,进而可以增强后续融合出的人像的色彩效果。此处,颜色越多、颜色梯度层次越丰富,拟合时,颜色梯度信息与单灯的映射能力越强。
结合第一方面,在第一方面的某些实现方式中,根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,包括:
将所述目标环境图像划分成多个局部图像块,所述局部图像块的数量与一组所述单灯图像的数量相同,所述局部图像块与所述单灯图像一一对应;
根据每个所述局部图像块的像素值,确定对应的所述单灯图像的三基色权重系数;
根据所有所述单灯图像和各自对应的三基色权重系数,确定合成图像,所述合成图像包括所述拍摄对象;
根据所述目标环境图像和所述合成图像,得到所述目标拍摄图像。
在该实现方式中,由于在合成过程中,根据目标环境图像中的光照情况,对人像上的光照情况重新进行了合成,因此,该人像的光照情况更符合该环境,从而使得得到的目标拍摄图像中人像和背景环境的过渡更自然,融入的更真实。
结合第一方面,在第一方面的某些实现方式中,所述方法还包括:对多帧所述第一偏振图像进行对齐处理,得到多帧第二偏振图像,所述多帧第二偏振图像的尺寸相同、包括的拍摄对象尺寸相同,以及所述拍摄对象在所述第二偏振图像中的位置相同;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
对多帧所述第二偏振图像进行背景置黑处理,得到多帧所述第三偏振图像,其中,所述第二偏振图像为所述第一偏振图像。
在该实现方式中,由于多帧第一偏振图像对应的视场角范围不同,同一人像或预设拍摄对象在多帧第一偏振图像中的位置、占比也不同,因此,可以将多帧第一偏振图像进行对齐,以使得多帧第一偏振图像中的同一人像或预设拍摄对象的位置、占比保持一致,同时使得图像的整体大小保持一致,以便于后续进行拟合等处理。
结合第一方面,在第一方面的某些实现方式中,所述对齐处理包括裁剪、缩放、匹配、单应性变换中的至少一项。
结合第一方面,在第一方面的某些实现方式中,所述拍摄对象为人像或预设拍摄对象,所述预设拍摄对象为动物、植物、交通工具、建筑物中的一种。
结合第一方面,在第一方面的某些实现方式中,所述方法还包括:
所述第一界面包括第二控件,所述第二控件用于指示不同的环境图像;
检测到对所述第二控件的第二操作;
响应于所述第二操作,确定所述目标环境图像。
在该实现方式中,第二操作可以为点击操作,用户通过点击可以选择切换成不同的环境图像。环境图像可以为预设的图像,或者,也可以为用户拍摄的环境图像。
第二方面,提供了一种电子设备,所述电子设备包括:一个或多个处理器、存储器和显示屏;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
显示第一界面,所述第一界面包括第一控件;
检测到对所述第一控件的第一操作;
响应于所述第一操作,采集多帧第一偏振图像,多帧所述第一偏振图像为设置有所述偏振镜片的至少两个摄像头获取的,多帧所述第一偏振图像包括同一拍摄对象;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;
对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述单灯图像指的是仅在一个方向上利用光源对所述拍摄对象进行照射的图像,每帧所述单灯图像所指示的光源的照射方向不同,所述单灯图像的帧数大于所述第三偏振图像的帧数;
根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,所述目标拍摄图像中所述拍摄对象的光照情况与所述目标环境图像的光照情况相同。
结合第二方面,在第二方面的某些实现方式中,对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
针对每帧所述第一偏振图像,利用分割模型对拍摄对象区域和背景区域进行分割,确定所述第一偏振图像对应的初始掩膜图像,所述初始掩膜图像用于对所述拍摄对象区域和所述背景区域进行区分,所述拍摄对象区域指的是所述拍摄对象在所述第一偏振图像中占据的区域,所述背景区域指的是所述第一偏振图像中除了所述拍摄对象区域之外的其他区域;
根据多帧所述初始掩膜图像,确定多个所述拍摄对象区域的并集,并根据所述并集确定目标掩膜图像,所述目标掩膜图像用于对所述并集和剩余背景区域进行区分,所述剩余背景区域为所述目标掩膜图像中除了所述并集之外的其他区域;
根据所述目标掩膜图像中的所述剩余背景区域,将每帧所述第一偏振图像中相同区域置黑,得到对应的所述第三偏振图像。
结合第二方面,在第二方面的某些实现方式中,对多帧所述第三偏振图像进行拟合,得到一组单灯图像,包括:
利用OLAT拟合网络对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述OLAT拟合网络基于Unet网络模型训练而成。
结合第二方面,在第二方面的某些实现方式中,根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,包括:
将所述目标环境图像划分成多个局部图像块,所述局部图像块的数量与一组所述单灯图像的数量相同,所述局部图像块与所述单灯图像一一对应;
根据每个所述局部图像块的像素值,确定对应的所述单灯图像的三基色权重系数;
根据所有所述单灯图像和各自对应的三基色权重系数,确定合成图像,所述合成图像包括所述拍摄对象;
根据所述目标环境图像和所述合成图像,得到所述目标拍摄图像。
结合第二方面,在第二方面的某些实现方式中,还执行:对多帧所述第一偏振图像进行对齐处理,得到多帧第二偏振图像,所述多帧第二偏振图像的尺寸相同、包括的拍摄对象尺寸相同,以及所述拍摄对象在所述第二偏振图像中的位置相同;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
对多帧所述第二偏振图像进行背景置黑处理,得到多帧所述第三偏振图像,其中,所述第二偏振图像为所述第一偏振图像。
结合第二方面,在第二方面的某些实现方式中,所述对齐处理包括裁剪、缩放、匹配、单应性变换中的至少一项。
结合第二方面,在第二方面的某些实现方式中,所述拍摄对象为人像或预设拍摄对象,所述预设拍摄对象为动物、植物、交通工具、建筑物中的一种。
结合第二方面,在第二方面的某些实现方式中,还执行:
所述第一界面包括第二控件,所述第二控件用于指示不同的环境图像;
检测到对所述第二控件的第二操作;
响应于所述第二操作,确定所述目标环境图像。
应理解,在上述第一方面中对相关内容的扩展、限定、解释和说明也适用于第二方面中相同的内容。
第三方面,提供了一种图像处理装置,包括用于执行第一方面中任一种图像处理方法的单元。
在一种可能的实现方式中,当该图像处理装置是电子设备时,该处理单元可以是处理器,该输入单元可以是通信接口;该电子设备还可以包括存储器,该存储器用于存储计算机程序代码,当该处理器执行该存储器所存储的计算机程序代码时,使得该电子设备执行第一方面中的任一种方法。
第四方面,提供了一种芯片,所述芯片应用于电子设备,所述芯片包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行第一方面中的任一种图像处理方法。
第五方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面中的任一种图像处理方法。
第六方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面中的任一种图像处理方法。
本申请提供了一种图像处理方法及其相关设备,通过在电子设备的摄像头上增加具有不同颜色渐变的偏振镜片,利用该带有偏振镜片的摄像头进行拍摄,采集多帧偏振图像,然后,将多帧偏振图像进行对齐和分割、背景置黑等;再将处理后的多帧偏振图像输入OLAT拟合网络进行拟合,得到一组单灯图像;接着,结合环境图像,将该一组单灯图像进行重打光,从而可以营造出该环境图像对应环境下的打光效果,得到该环境下的拍摄对象的合成图像。
由于在摄像头前增设了具有不同颜色渐变的偏振镜片,增加了外部输入的不同的颜色梯度信息,根据该不同的颜色梯度信息,从而可以提高后续融合出的拍摄对象的打光效果,使其融合的比较真实。并且,由于是在硬件上进行了改变,使得在拟合时算法相对于现有技术来说得到了简化,提高了处理效率,相应的也降低了算法对训练数据的依赖性。
此外,由于本申请的偏振镜片输入信息稳定,处理时抗外部干扰性很强,最终得到的处理结果更可控,泛化性更强。
附图说明
图1是本申请实施例提供的一种应用场景的示意图;
图2是本申请实施例提供的一种摄像头的排布结构图;
图3是本申请实施例提供的一种偏振镜片的设置示意图;
图4是本申请实施例提供的一种偏振镜片的示意图;
图5是本申请实施例提供的另一种偏振镜片的示意图;
图6是本申请实施例提供的一种图像处理方法的流程示意图;
图7是本申请实施例提供的第一偏振图像的示意图;
图8是本申请实施例提供的第二偏振图像的示意图;
图9是本申请实施例提供的确定目标掩膜图像的流程示意图;
图10是本申请实施例提供确定第三偏振图像的示意图;
图11是本申请实施例提供的一种设置界面的示意图;
图12是一种适用于本申请的电子设备的硬件系统的示意图;
图13是一种适用于本申请的电子设备的软件系统的示意图;
图14是本申请提供的一种图像处理装置的结构示意图;
图15是本申请提供的一种芯片的结构示意图。
附图标记:
1931-广角摄像头;1932-长焦摄像头;1933-超广角摄像头;1934-多光谱摄像头。
具体实施方式
下面将结合附图,对本申请实施例中的技术方案进行描述。
在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,在本申请实施例的描述中,“多个”是指两个或多于两个。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。
首先,对本申请实施例中的部分用语进行解释说明,以便于本领域技术人员理解。
1、广角摄像头,由于对焦距离较小,所以适合拍摄近景,并且,顾名思义,广角摄像头适合拍摄视场角相对较大的场景。超广角摄像头相对于广角摄像头来说,对焦距离更小,适合拍摄视场角更大的场景。
2、长焦摄像头,由于对焦距离较大,所以适合拍摄远景,也即长焦摄像头适合拍摄视场角相对较小的场景。
3、多光谱摄像头,包含多光谱传感器的摄像头,其中,多光谱传感器为比三基色(RGB)传感器的光谱响应范围宽的其他多光谱传感器。例如,多光谱摄像头可以为红绿蓝青品黄(RGBCMY)传感器,该多光谱传感器的颜色还原能力以及信噪比表现相对于RGB传感器都有所提高。
4、偏振镜片,用于滤除其他方向的光线,仅通过一个振动方向的光线。
应理解,如果一束光线都在同一方向上振动,可以称之为偏振光。一般的自然光在各个方向振动是均匀分布的,是非偏振光,但自然光经过一定角度的反射后可形成偏振光,而该偏振光在摄影中是有害的,因此,可以利用偏振镜片以对这种偏振光进行消除,或削弱非金属表面的强烈反射。例如,玻璃表面的反射光,使用户拍摄不到玻璃橱窗里面的东西,若对该偏振光进行消除,则可以拍摄到玻璃橱窗里面的东西,画面更加清晰。
5、重打光(relighting,RL)通常是指将特定物体的光影修改为受指定的环境光(environment map)影响下的结果。
6、环境光,是指日常生活中用于照明的各类光线,如阴天、晴天、日、夜、黄昏、黎明等,常见的环境光如太阳光、灯之类的光源产生的光,还有如大厦玻璃幕墙反射的光也是环境光的一种。
以上是对本申请实施例所涉及的名词的简单介绍,以下不再赘述。
在某些拍摄场景下,用户期望可以更改人像所处的环境,相当于需要给人像增加环境特效。为了满足此种需求,现有技术可以通过算法来实现,然而,在利用算法进行处理时,由于非常依赖于外部信息,抗外部干扰性比较差,所以拍摄出的效果随之无法得到保证,而且提供的算法比较复杂,处理效率也很低。
图1是一种适用于本申请的应用场景的示意图。图1的场景也称为录像场景。
在一个示例中,以电子设备为手机进行举例说明,如图1中的(a)所示,响应于用户针对相机应用程序的点击操作,手机打开相机,并显示如图1中的(b)所示的录像模式的显示界面;该显示界面中可以包括拍摄界面10;拍摄界面10中可以包括取景框11、用于指示录像的控件12,以及指示不同背景的控件13;在检测到用户点击控件12或控件13之前,该取景框11内可以显示预览图像。在预览图像中,人像正在室内的餐桌前行走。
当用户期望针对人像所处的背景环境进行变更时,例如想将当前的室内背景变更为海边的背景时,用户可以在显示界面上进行选择,针对指示海边背景的控件13进行点击操作,以进行背景切换。
如图1中的(c)所示,用户可以针对指示海边背景的控件13进行点击操作,手机在检测到用户点击指示海边背景的控件13时,响应于用户的操作,保持人像不变,而将人像所处的背景从室内切换成海边。
如图1中的(d)所示,结合该切换后的海边背景,在检测到用户点击控件12的操作后,响应于用户的操作,手机可以以海边为背景对人像进行视频拍摄。
在上述视频拍摄过程中,现有技术可以通过算法来实现拍摄到的视频中人像后的背景为海边的效果,但是,这种算法非常复杂,处理效率很低,而且非常依赖于外部信息,抗外部干扰性比较差,比如当人像在走动的过程中,从暗处走到了亮处,人像发生了很明显的亮度改变,但背景的海边环境却是夜景场景,光线比较暗,此时,人像的亮度和环境光发生了冲突,相当于一个被照亮的人像处于一个很暗的海边环境中,非常突兀,现有技术无法有效解决这种突兀。由此,针对上述所述的切换人像所处环境的拍摄需求,如何提高拍摄效果和处理效率成为了一个亟需解决的问题。
有鉴于此,本申请实施例提供一种图像处理方法,通过给电子设备的至少两个摄像头前设置不同颜色渐变的偏振镜片,利用该带有偏振镜片的摄像头进行拍摄,采集多帧偏振图像,然后,将多帧偏振图像进行背景置黑处理;再将处理后的偏振图像进行拟合,得到一组单灯图像;接着,结合环境图像,将该一组单灯图像进行重打光处理,从而可以营造出该环境图像对应环境下的打光效果,得到该环境下的拍摄对象的合成图像。
由于在摄像头前增设了带有不用色彩渐变的偏振镜片,增加了外部输入的不同的颜色梯度信息,根据该不同的颜色梯度信息,从而可以提高后续融合出的拍摄对象的打光效果,使其融合的比较真实。并且,由于是在硬件上进行了改变,所以内部算法相对现有技术来说比较简单,处理效率可以得到提升。
本申请实施例提供的图像处理方法可以适用于各种电子设备。
在本申请实施例中,电子设备100可以是手机、智慧屏、平板电脑、可穿戴电子设备、车载电子设备、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)、投影仪等等,本申请实施例对电子设备100的具体类型不作任何限制。
为了降低电子设备100对外部信息的依赖性,本申请针对电子设备的硬件结构进行了改造。例如,可以在电子设备的摄像头上增加具有颜色渐变(或称为颜色梯度)的偏振镜片,这样,无论外部环境光怎样,一方面可以通过偏振镜片对光线进行筛选,以保证输入摄像头的光线的颜色信息和饱和度,降低了电子设备100对外部信息的依赖性,提高了抗外部信息的干扰性;另一方面,通过偏振镜片上具有的颜色渐变的功能对颜色进行过渡,可以使得筛选出的光线颜色具有一定梯度,增加了颜色信息的丰富度,进而可以增强后续拍摄出的图像效果。
示例性的,图2为本申请实施例提供的一种摄像头的排布结构图。
以电子设备100是手机为例,如图2中的(a)所示,在手机的后盖上可以排布两个摄像头,分别位于手机后盖左上角位置处的两个圆形区域中。该两个摄像头可以分别为广角摄像头1931和长焦摄像头1932。或者,如图2中的(b)所示,在手机的后盖上可以排布四个摄像头,该四个摄像头位于手机后盖上方中央的圆形区域中。该四个摄像头例如可以分别为超广角摄像头1933、广角摄像头1931、长焦摄像头1932和多光谱摄像头1934。
其中,超广角摄像头1933对应的视场角范围相对大于广角摄像头1931对应的视场角范围。广角摄像头1931对应的视场角范围相对大于长焦摄像头1932对应的视场角范围,该超广角摄像头1933或广角摄像头1931又可以称为主摄摄像头。多光谱摄像头1934对应的视场角范围可以与主摄摄像头对应的视场角范围一致。
相对来说,超广角摄像头1933获取的图像细节更丰富,清晰度更高,长焦摄像头1932获取的图像细节较少,清晰度相对较低一些。
当然,上述仅为两种示例,手机的后盖上还可以排布三个或者四个以上的摄像头,摄像头的具体数量和排布位置、以及每个摄像头的种类、功能可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。
图3为本申请实施例提供的一种偏振镜片的设置示意图,图4为一种偏振镜片的示意图;图5为另一种偏振镜片的示意图。
结合图2中的(a)和图3中的(a)所示,可以在两个摄像头远离手机后盖的一侧粘贴上偏振镜片。或者,结合图2中的(a)和图3中的(b)所示,可以在手机的后盖上带上保护壳,将偏振镜片嵌在保护壳上。这样,当手机带上保护壳后,偏振镜片相当于贴附在摄像头远离手机后盖的一侧。
其中,以手机包括的两个摄像头分别为广角摄像头1931和长焦摄像头1932为例,针对该两个摄像头所设置的偏振镜片不一样,分别为不同颜色和/或不同渐变方向的偏振镜片。
示例性一,如图4所示,两个偏振镜片的渐变方向相同,均为从左侧到中心,从右侧到中心,分别由深到浅的线性渐变方向,但是,两个偏振镜片的颜色不同,如图4中的(a)所示,一个偏振镜片的颜色是左边为橙色,右边为绿色;如图4中的(b)所示,另一个偏振镜片的颜色是左边为青色,右边为紫色。结合图4所示的两个偏振镜片,采集的图像分别包括有与偏振镜片一致的颜色渐变信息。
示例性二,如图5所示,两个偏振镜片的颜色相同,均是橙色和绿色,但是,两个偏振镜片的线性渐变方向不同,如图5中的(a)所示,一个是从左侧到中心,从右侧到中心,分别由深到浅的线性渐变方向,其中,左侧颜色为橙色,右侧颜色为绿色;如图5中的(b)所示,另一个是从上侧到中心,从下侧到中心,分别由深到浅的线性渐变方向,其中,上侧颜色为橙色,下侧颜色为绿色。结合图5所示的两个偏振镜片,采集的图像分别包括有与偏振镜片一致的颜色渐变信息。
上述仅为两种偏振镜片的示例,偏振镜片的颜色可以为其他颜色,偏振镜片的颜色种类还可以包括两种、三种以及三种以上,具体颜色以及颜色的数量可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。
偏振镜片的渐变类型也可以为其他类型、方向也可以为其他方向。例如类型除了线性,还可以为射线、矩形和路径等。当类型为线性时,方向还可以分为线性对角、线性向上、线性向下、线性向左、线性向右等,具体可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。
上述对本申请实施例提供的摄像头和偏振镜片进行介绍,下面结合该设置结构对本申请实施例提供的图像处理方法的详细步骤进行说明。
图6为本申请实施例提供的图像处理方法的流程示意图。该方法10可以应用于包括多个摄像头的电子设备,至少两个摄像头上贴附有偏振镜片,且偏振镜片的颜色渐变效果不同。
本申请实施例提供的图像处理方法可以用于拍照模式或视频模式,拍照模式即为针对拍摄对象更改背景后进行拍照。视频模式例如可以为上述图1所示的场景,本申请实施例提供的图像处理方法还可以应用但不限于以下场景中:
视频通话、视频会议应用、长短视频应用、视频直播类应用、视频网课应用、人像智能运镜应用场景、系统相机录像功能录制视频、视频监控以及智能猫眼等拍摄类场景等。
如图6所示,本申请提供的图像处理方法10可以包括以下S11至S15。
S11、手机利用该带有偏振镜片的摄像头进行拍摄,采集多帧第一偏振图像。
结合图2中的(a)和图4所示,手机上可以包括两个摄像头,分别为广角摄像头1931和长焦摄像头1932,例如,广角摄像头1931上贴附的偏振镜片如图4中的(a)所示,长焦摄像头1932上贴附的偏振镜片如图4中的(b)所示。
基于此设置,手机可以显示预览界面,预览界面包括第一控件,第一控件例如为拍摄键,然后,响应于用户针对拍摄键的点击操作,手机利用该贴附有如图3中的(a)所示的偏振镜片的广角摄像头1931采集第一偏振图像a1,以及利用该贴附有如图3中的(b)所示的偏振镜片的长焦摄像头1932采集第一偏振图像a2。
其中,广角摄像头1931采集第一偏振图像a1的帧数、频率和长焦摄像头1932采集第一偏振图像a2的帧数、频率可以相同,也可以不同,具体可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。例如,响应于用户针对拍摄键的一次点击操作,广角摄像头1931可以采集两帧第一偏振图像a1,长焦摄像头1932可以以相同的频率采集两帧第二偏振图像a2。
可选地,采集的多帧第一偏振图像可以包括至少一个人像。当第一偏振图像包括一个人像时,利用本申请后续的图像处理方法,可以针对该人像所处的环境进行切换。当第一偏振图像包括多个人像时,利用本申请后续的图像处理方法,可以针对该多个人像所处的环境进行切换。
应理解,第一偏振图像包括的至少一个人像可以指示包括人物的头像、上半身像或全身像等。此时,第一偏振图像也可以称为第一偏振人像图像。
可选地,采集的多帧第一偏振图像可以包括至少一个预设拍摄对象。例如,该预设拍摄对象可以为动物、植物、交通工具、建筑物等。预设拍摄对象用于指示除了人像之外的其他预设的对象,具体可以根据需要进行设置和修改,本申请对此不进行任何限制。
在上述基础上,手机包括的两个摄像头针对同一人像或同一预设拍摄对象进行拍摄,由于摄像头对应视场角范围不同,从而使得采集到的第一偏振图像对应不同的视场角范围;又由于摄像头上贴附的偏振镜片的颜色渐变不同,从而使得采集到的两帧第一偏振图像的颜色渐变效果也不同。
例如,图7示出了一种第一偏振图像的示意图。如图7所示,针对位于某一环境中的同一人像,利用两个摄像头进行拍摄,分别采集到各自对应的第一偏振图像。
如图7中的(a)和(b)所示,该两帧第一偏振图像中,人像一致,但各自对应的视场角范围不同,而且,由于设置了具有不同颜色渐变的偏振镜片,采集到的第一偏振图像a1和第二偏振图像a2上的颜色渐变效果不同。
例如,第一偏振图像a1上分布的颜色渐变效果为从左到中心由深变浅的橙色和从右到左由深变浅的绿色,与图4中的(a)所示的偏振镜片的颜色渐变效果一致。第二偏振图像a2上分布的颜色渐变效果为从左到中心由深变浅的青色和从右到中心由深变浅的紫色,与图4中的(b)所示的偏振镜片的颜色渐变效果一致。
上述以手机包括两个具有不同颜色渐变的偏振镜片的摄像头为例进行说明,手机还包括有三个或更多个具有颜色渐变的偏振镜片的摄像头时,三个或更多个偏振镜片的颜色渐变效果可以均不同,以提高后续的拍摄效果。
S12、对多帧第一偏振图像进行对齐处理,得到多帧第二偏振图像。
由于多帧第一偏振图像对应的视场角范围不同,同一人像或预设拍摄对象在多帧第一偏振图像中的位置、占比也不同,因此,可以将多帧第一偏振图像进行对齐,以使得多帧第一偏振图像中的同一人像或预设拍摄对象的位置、占比保持一致,同时使得图像的整体大小保持一致,以便于后续进行拟合等处理。
其中,对齐处理可以包括裁剪、缩放、匹配、单应性变换(warp)等一个或多个步骤。当然,对齐处理还可以包括其他步骤,具体可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。此处,匹配指的是提取第一偏振图像中的尺度不变特征变换(scaleinvariant feature transform,SIFT)特征点,再将提取的SIFT特征点进行对应。根据特征点的匹配结果可以确定第一偏振图像之间的单应性矩阵,再将单应性矩阵应用于第一偏振图像,从而可以利用单应性矩阵进行单应性变换,使得第一偏振图像对齐。
图8示出了一种第二偏振图像的示意图。例如,结合图7和图8所示,可以以图7中的(a)所示的第一偏振图像a1为参考对象,针对图7中的(b)所示的第二偏振图像b1,先进行整体放大,使得人像大小与第一偏振图像a1中的人像大小保持一致;其次,对放大后的图像进行裁剪,使得裁剪后的图像与第一偏振图像a1的尺寸保持一致;然后,还可以利用特征点匹配和单应性变换,对裁剪后的图像与第一偏振图像a1进行处理,以使得两帧图像的细节保持一致;由此,可以得到图8中的(a)所示的第二偏振图像a2和图8中的(b)所示的第二偏振图像b2,整体尺寸一直,包括的人像大小和位置也保持一致。其中,第二偏振图像a2与第一偏振图像a1对应,第二偏振图像b2与第一偏振图像b1对应。
上述仅为一种对齐处理的执行过程的示例,具体步骤可以根据需要增加或减少,执行过程也可以根据需要进行调整,本申请实施例对此不进行任何限制。
S13、对多帧第二偏振图像进行背景置黑处理,得到多帧第三偏振图像。
由于后续需要切换人像所处的背景,因此,针对第二偏振图像,需要将人像和背景进行分割,然后,将背景区域全部更改为黑色,或者称为置黑;由此,通过背景置黑处理,可以去除图像背景中的无关信息,仅保留人像信息,减小干扰。
其中,背景置黑处理除了包括分割和背景置黑,还可以包括其他步骤,具体可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。
例如,图9为本申请实施例提供的一种背景置黑处理的流程示意图。如图9所示,上述S13可以包括S131至S133。
S131、针对每帧第二偏振图像,利用分割模型对人像区域和背景区域进行分割,确定第二偏振图像对应的初始掩膜图像。
初始掩膜图像用于对人像区域与背景区域进行区分,人像区域即人像在第二偏振图像中所占的区域,背景区域即背景在第二偏振图像中所占的区域。
初始掩膜图像可以为灰度图或Y图。例如,针对一帧第二偏振图像,生成初始掩膜图像时,可以将人像所对应区域设置为黑色,背景区域设置为白色,以进行区分。
此处,利用分割模型进行分割仅为一种分割方式,也可以利用其他方法对人像区域和背景区域进行分割,本申请实施例对此不进行任何限制。
S132、根据多帧初始掩膜图像,确定多个人像区域的并集,并根据该并集确定目标掩膜图像。
虽然前面已经对多帧第一偏振图像进行了对齐处理,但为了避免人像边缘参差不齐,导致后续拟合时部分人像数据缺失或部分周边环境显现对拍摄效果带来的负面影响,本申请可以先对多个人像区域进行处理,确定多个人像区域的并集,也即确定人像所占据的最大范围区域,从而在进行拟合时,可以对完整的人像进行拟合,提高完整性,并且,还可以对人像周围相邻的部分环境也进行拟合,使得人像在环境中的融入更加自然、真实。
S133、结合目标掩膜图像中的剩余背景区域,将第二偏振图像中的相同区域置黑,得到对应的第三偏振图像。
目标掩膜图像用于对多个人像区域的并集与剩余背景区域进行区分,剩余背景区域即为目标掩膜图像中除了多个人像区域的并集之外所剩余的区域。其中,若多个人像区域的并集等于人像区域,则剩余背景区域与背景区域相同。若多个人像区域的并集大于人像区域,则剩余背景区域比初始掩膜图像中所对应的背景区域范围要小。
例如,图10示出了一种确定第三偏振图像的示意图。
结合图8、图9,如图10中的(a)所示,针对第二偏振图像a2利用分割模型进行分割,可以确定出对应的初始掩膜图像m1,初始掩膜图像m1用于对第二偏振图像a2中的人像区域和背景区域进行区分;针对第二偏振图像b2利用分割模型进行分割,可以确定出对应的初始掩膜图像m2,初始掩膜图像m2用于对第二偏振图像b2中的人像区域和背景区域进行区分;由于第二偏振图像a2和第二偏振图像b2不同,所以确定初始掩膜图像m1和初始掩膜图像m2不一定完全相同。
其次,结合初始掩膜图像m1和初始掩膜图像m2,确定相应两个人像区域的并集,根据该两个人像区域的并集,可以确定出目标掩膜图像m3;目标掩膜图像m3用于对该两个人像区域的并集和除此之外的剩余背景区域进行区分。此处,人像区域的并集大于初始掩膜图像中各自的人像区域的范围,那么,剩余背景区域将小于初始掩膜图像中各自的背景区域的范围。
然后,如图10中的(b)所示,再结合该目标掩膜图像m3,针对第二偏振图像a2的背景进行置黑,可以确定出对应的第三偏振图像a3;同理,针对第二偏振图像b2的背景进行置黑,可以确定出对应的第三偏振图像b3。由于人像区域的并集大于初始掩膜图像中人像区域的范围,相应的,剩余背景区域的范围小于初始掩膜图像中背景区域的范围,由此,在对第二偏振图像a2和第二偏振图像b2的剩余背景区域置黑后,人像周边有一些没有被置黑,保留了原有的颜色渐变信息。
应理解,当拍摄的目标为预设拍摄对象时,也可以利用分割模型对预设拍摄对象区域和背景区域进行分割,确定出的初始掩膜图像中的预设拍摄对象区域,即为预设拍摄对象在第二偏振图像中所占的区域。由此,根据多帧初始掩膜图像,可以确定多个预设拍摄对象区域的并集,并根据该并集确定目标掩膜图像,目标掩膜图像用于对多个预设拍摄对象的并集与剩余背景区域进行区分,然后,结合目标掩膜图像中的剩余背景区域,就可以对第二偏振图像中相同区域处进行置黑,得到对应的第三偏振图像。
S14、将多帧第三偏振图像输入OLAT拟合网络进行拟合,得到一组单灯(one lightat a time,OLAT)图像。
根据多帧第三偏振图像利用OLAT拟合网络进行拟合,得到一组单灯图像,相当于利用OLAT拟合网络,推理出空间中各个方向上的光源单独照射人像时的光影情况,每帧单灯图像用于指示其中一个方向上的光源单独照射人像时的光影情况,每帧单灯图像所指示的照射方向不同。
拟合出的一组单灯图像的数量可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。例如,一组单灯图像可以包括116帧、240帧或者360帧单灯图像。
应理解,由于生成第三偏振图像的第一偏振图像,是由贴附有不同颜色渐变的偏振镜片的摄像头采集的,第三偏振图像中的人像上,滤除了一些强烈反射的偏振光,从而可以更加简单的进行拟合运算,提高了处理效率。又因为第三偏振图像中的人像上增加了外部输入的不同的颜色梯度信息,由此,根据该不同的颜色梯度信息,可以推理出每个方向上光源单独照射人像时的光影情况,进而可以增强后续融合出的人像的色彩效果。此处,颜色越多、颜色梯度层次越丰富,拟合时,颜色梯度信息与单灯的映射能力越强。
此处,OLAT拟合网络可以基于Unet网络模型预先训练而成,当然,也可以基于其他一个或多个模型进行训练,本申请实施例对此不进行任何限制。训练好的OLAT拟合网络具有颜色梯度与单灯的映射能力。训练好的OLAT拟合网络可以存储于电子设备上,或者,也可以存储于与电子设备相连接的服务器上,这样,在将多帧第三偏振图像进行拟合时,可以调用存储于电子设备上或服务器上的OLAT拟合网络进行拟合。
示例性的,将第三偏振图像a3和第三偏振图像b3输入OLAT拟合网络进行拟合,拟合出116帧单灯图像,相当于是将人像处于球形装置的内部中心处,在球形装置上均匀分布的116个点位置处设置116个光源,每次仅打开一个光源照射人像,摄像头从人像正前方对准人像进行拍摄后,可以得到一帧单灯图像。然后,依次打开该116个光源,从而可以得到116帧单灯图像。
S15、根据目标环境图像,对一组单灯图像进行重打光处理,得到目标拍摄图像。
目标环境图像为用户所期望切换的环境,例如为图1所示的海边环境图像。目标拍摄图像即为切换背景后的拍摄图像,此时,人像所处的背景为目标环境图像中所指示的环境的全部或局部。
上述可以通过重打光(image base relighting,IBR)技术对一组单灯图像进行重打光处理。重打光技术指的是根据目标环境图像中的光影情况,确定出该一组单灯图像中每帧单灯图像所对应的三基色(RGB)通道的权重系数;将所有单灯图像相同位置处的像素,基于三基色通道的权重系数计算后,再线性叠加在一起,从而可以得到人像在该目标环境图像的环境光下的合成图像。基于此,将目标环境图像的全部或局部作为背景,再与合成图像结合,从而可以得到目标拍摄图像,目标拍摄图像用于指示处于切换后的期望环境下的人像。
由于在合成过程中,根据目标环境图像中的光照情况,对人像上的光照情况重新进行了合成,因此,该人像的光照情况更符合该环境,从而使得得到的目标拍摄图像中人像和背景环境的过渡更自然,融入的更真实。
其中,可选地,作为一种实现方式,在根据目标环境图像确定该一组单灯图像中每帧单灯图像所对应的三基色通道的权重系数时,可以先将目标环境图像划分成与单灯图像帧数相同个数的局部图像块;基于局部图像块中像素的像素值,确定每个局部图像块的三基色权重系数;然后,将所有单灯图像基于各自对应的局部图像块的三基色权重系数进行加权求和,从而得到合成图像;再将合成图像与目标环境图像进行结合,得到目标拍摄图像。
示例性的,一组单灯图像包括116帧单灯图像,则将目标环境图像划分成116个局部图像块。每个单灯图像对应目标环境图像中的一个局部图像块,此时,将目标环境图像中的局部图像块与单灯图像一一对应,相当于将目标环境图像中的局部图像块与单灯图像对应方向上的光源进行了一一对应。
基于每个局部图像块包括的像素的三基色像素值,可以确定出该局部图像块中所有像素的红色像素平均值、绿色像素平均值和蓝色像素平均值,例如该三个平均值可以作为该局部图像块对应的三基色权重系数。也即,可以作为该局部图像块所对应的单灯图像的三基色权重系数。由此,可以确定出116帧单灯图像所对应的116组三基色权重系数。
根据该116组三基色权重系数,将116帧单灯图像进行加权求和,从而可以得到1帧合成图像,该合成图像即为在目标环境图像所示的环境下的人像,人像的光影情况符合目标环境图像中的光影情况。然后,再将目标环境图像和合成图像进行结合,或者说将合成图像中的人像贴附在目标环境图像中,从而可以生成目标拍摄图像。
本申请实施例提供的图像处理方法中,通过在电子设备的摄像头上增加具有不同颜色渐变的偏振镜片,利用该带有偏振镜片的摄像头进行拍摄,采集多帧偏振图像,然后,将多帧偏振图像进行对齐和分割、背景置黑等;再将处理后的多帧偏振图像输入OLAT拟合网络进行拟合,得到一组单灯图像;接着,结合环境图像,将该一组单灯图像进行重打光,从而可以营造出该环境图像对应环境下的打光效果,得到该环境下的拍摄对象的合成图像。
由于在摄像头前增设了具有不同颜色渐变的偏振镜片,增加了外部输入的不同的颜色梯度信息,根据该不同的颜色梯度信息,从而可以提高后续融合出的拍摄对象的打光效果,使其融合的比较真实。并且,由于是在硬件上进行了改变,使得在拟合时算法相对于现有技术来说得到了简化,提高了处理效率,相应的也降低了算法对训练数据的依赖性。
此外,由于本申请的偏振镜片输入信息稳定,处理时抗外部干扰性很强,最终得到的处理结果更可控,泛化性更强。
图11示出了一种重打光的设置界面的示意图。
如图11中的(a)所示,当用户在电子设备的拍摄界面10中点击设置图标14时,响应于该点击操作,电子设备可以显示相机设置界面15。
如图11中的(b)所示,为相机设置界面15,该相机设置界面15中显示有“重打光”功能的开关控件16。当用户需要开启“重打光”功能时,可以相应打开该开关控件16。
基于此操作,后续在拍照或录制视频时可以开启“重打光”的功能,执行本申请实施例的图像处理方法。
当然,本申请提供的处理方法也可以设置在相应的APP程序中,当打开摄像头进行拍照或录制时,自动开启“重打光”功能以提供给用户进行使用。具体方式可以根据需要进行设置和修改,本申请实施例对此不进行任何限制。
上文结合图1至图11,描述了本申请实施例的适用场景以及图像处理方法。下面将结合图12至图15,详细描述本申请适用的电子设备的软件系统、硬件系统、装置以及芯片。应理解,本申请实施例中的软件系统、硬件系统、装置以及芯片可以执行前述本申请实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。
图12示出了一种适用于本申请的电子设备的硬件系统。电子设备100可用于实现上述方法实施例中描述的图像处理方法。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
需要说明的是,图12所示的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图12所示的部件更多或更少的部件,或者,电子设备100可以包括图12所示的部件中某些部件的组合,或者,电子设备100可以包括图12所示的部件中某些部件的子部件。图12示的部件可以以硬件、软件、或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元。例如,处理器110可以包括以下处理单元中的至少一个:应用处理器(application processor,AP)、调制解调处理器、图形处理器(graphics processing unit,GPU)、图像信号处理器(image signal processor,ISP)、控制器、视频编解码器、数字信号处理器(digital signal processor,DSP)、基带处理器、神经网络处理器(neural-network processing unit,NPU)。其中,不同的处理单元可以是独立的器件,也可以是集成的器件。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。例如,处理器110可以包括以下接口中的至少一个:内部集成电路(inter-integrated circuit,I2C)接口、内部集成电路音频(inter-integrated circuit sound,I2S)接口、脉冲编码调制(pulse codemodulation,PCM)接口、通用异步接收传输器(universal asynchronous receiver/transmitter,UART)接口、移动产业处理器接口(mobile industry processor interface,MIPI)、通用输入输出(general-purpose input/output,GPIO)接口、SIM接口、USB接口。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。I2S接口可以用于音频通信。PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。MIPI接口可以被用于连接处理器110与显示屏194和摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI)、显示屏串行接口(display serialinterface,DSI)等。
在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号接口,也可被配置为数据信号接口。
在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194、无线通信模块160、音频模块170和传感器模块180。GPIO接口还可以被配置为I2C接口、I2S接口、UART接口或MIPI接口。
USB接口130是符合USB标准规范的接口,例如可以是迷你(Mini)USB接口、微型(Micro)USB接口或C型USB(USB Type C)接口。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据,还可以用于连接耳机以通过耳机播放音频。USB接口130还可以用于连接其他电子设备100,例如AR设备。
示例性地,在本申请的实施例中,处理器110可以用于执行本申请实施例提供的图像处理方法;例如,显示第一界面,第一界面包括第一控件;检测到对第一控件的第一操作;响应于第一操作,采集多帧第一偏振图像,多帧第一偏振图像为设置有偏振镜片的至少两个摄像头获取的,多帧第一偏振图像包括同一拍摄对象;对多帧第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;对多帧第三偏振图像进行拟合,得到一组单灯图像,单灯图像指的是仅在一个方向上利用光源对拍摄对象进行照射的图像,每帧单灯图像所指示的光源的照射方向不同,单灯图像的帧数大于第三偏振图像的帧数;根据目标环境图像,对一组单灯图像进行重打光处理,得到目标拍摄图像,目标拍摄图像中拍摄对象的光照情况与目标环境图像的光照情况相同。
图12所示的各模块间的连接关系只是示意性说明,并不构成对电子设备100的各模块间的连接关系的限定。可选地,电子设备100的各模块也可以采用上述实施例中多种连接方式的组合。
充电管理模块140用于从充电器接收电力。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备100供电。电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量、电池循环次数和电池健康状态(例如,漏电、阻抗)等参数。可选地,电源管理模块141可以设置于处理器110中,或者,电源管理模块141和充电管理模块140可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等器件实现。天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。
移动通信模块150可以提供应用在电子设备100上的无线通信的解决方案,例如下列方案中的至少一个:第二代(2th generation,2G)移动通信解决方案、第三代(3thgeneration,3G)移动通信解决方案、第四代(4th generation,5G)移动通信解决方案、第五代(5th generation,5G)移动通信解决方案。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(例如,扬声器170A、受话器170B)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
与移动通信模块150类似,无线通信模块160也可以提供应用在电子设备100上的无线通信解决方案,例如下列方案中的至少一个:无线局域网(wireless local areanetworks,WLAN)、蓝牙(bluetooth,BT)、蓝牙低功耗(bluetooth low energy,BLE)、超宽带(ultra wide band,UWB)、全球导航卫星系统(global navigation satellite system,GNSS)、调频(frequency modulation,FM)、近场通信(near field communication,NFC)、红外(infrared,IR)技术。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,电子设备100的天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络和其他电子设备通信。
电子设备100可以通过GPU、显示屏194以及应用处理器实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194可以用于显示图像或视频。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emitting diode,OLED)、有源矩阵有机发光二极体(active-matrix organic light-emitting diode,AMOLED)、柔性发光二极管(flex light-emitting diode,FLED)、迷你发光二极管(mini light-emitting diode,Mini LED)、微型发光二极管(micro light-emitting diode,Micro LED)、微型OLED (Micro OLED)或量子点发光二极管(quantum dotlight emitting diodes,QLED)。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
示例性地,在本申请的实施例中,显示屏194可以显示处理后的目标拍摄图像。
电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。
ISP 用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP可以对图像的噪点、亮度和色彩进行算法优化,ISP还可以优化拍摄场景的曝光和色温等参数。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的红绿蓝(red green blue,RGB),YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3和MPEG4。
外部存储器接口120可以用于连接外部存储卡,例如安全数码(secure digital,SD)卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。
电子设备100可以通过音频模块170、扬声器170A、受话器170B、麦克风170C、耳机接口170D以及应用处理器等实现音频功能,例如,音乐播放和录音。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也可以用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。
扬声器170A,也称为喇叭,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐或免提通话。受话器170B,也称为听筒,用于将音频电信号转换成声音信号。
在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,例如可以是电阻式压力传感器、电感式压力传感器或电容式压力传感器。电容式压力传感器可以是包括至少两个具有导电材料的平行板,当力作用于压力传感器180A,电极之间的电容改变,电子设备100根据电容的变化确定压力的强度。当触摸操作作用于显示屏194时,电子设备100根据压力传感器180A检测所述触摸操作。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令;当触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x轴、y轴和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。例如,当快门被按下时,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航和体感游戏等场景。
气压传感器180C用于测量气压。磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。
加速度传感器180E可检测电子设备100在各个方向上(一般为x轴、y轴和z轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。加速度传感器180E还可以用于识别电子设备100的姿态,作为横竖屏切换和计步器等应用程序的输入参数。
距离传感器180F用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,例如在拍摄场景中,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(light-emitting diode,LED)和光检测器,例如,光电二极管。LED可以是红外LED。电子设备100通过LED向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到反射光时,电子设备100可以确定附近存在物体。当检测不到反射光时,电子设备100可以确定附近没有物体。电子设备100可以利用接近光传感器180G检测用户是否手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式或口袋模式的自动解锁与自动锁屏。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现解锁、访问应用锁、拍照和接听来电等功能。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称为触控器件。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,触摸屏也称为触控屏。触摸传感器180K用于检测作用于其上或其附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,并且与显示屏194设置于不同的位置。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。
按键190包括开机键和音量键。按键190可以是机械按键,也可以是触摸式按键。电子设备100可以接收按键输入信号,实现于案件输入信号相关的功能。
马达191可以产生振动。马达191可以用于来电提示,也可以用于触摸反馈。马达191可以对作用于不同应用程序的触摸操作产生不同的振动反馈效果。对于作用于显示屏194的不同区域的触摸操作,马达191也可产生不同的振动反馈效果。不同的应用场景(例如,时间提醒、接收信息、闹钟和游戏)可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态和电量变化,也可以用于指示消息、未接来电和通知。
SIM卡接口195用于连接SIM卡。SIM卡可以插入SIM卡接口195实现与电子设备100的接触,也可以从SIM卡接口195拔出实现与电子设备100的分离。
上文详细描述了电子设备100的硬件系统,下面介绍电子设备100的软件系统。软件系统可以采用分层架构、事件驱动架构、微核架构、微服务架构或云架构,本申请实施例以分层架构为例,示例性地描述电子设备100的软件系统。
如图13所示,采用分层架构的软件系统分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。
在一些实施例中,软件系统可以分为四层,从上至下分别为应用程序层、应用程序框架层、安卓运行时(Android Runtime)和系统库、以及内核层。
应用程序层可以包括相机、图库、日历、通话、地图、导航、WLAN、蓝牙、音乐、视频、短信息等应用程序。
本申请实施例的图像处理方法可以应用于相机APP或者视频APP、或其他趣味APP;例如,可以在电子设备中的设置开启“重打光”功能,电子设备检测到视频APP请求打开相机的指令后,可以开启“重打光”功能;或者,可以在相机APP中设置开启“重打光”功能,电子设备检测到相机APP请求打开相机的指令后,可以开启“重打光”功能;或者,又例如,电子设备检测到趣味APP请求打开相机指令后,可以直接开启“重打光”功能,无需提前开启。其中,“重打光”功能可以参见图6中的描述。
应用程序框架层为应用程序层的应用程序提供应用程序编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层可以包括一些预定义的函数。
例如,应用程序框架层包括窗口管理器、内容提供器、视图系统、电话管理器、资源管理器和通知管理器。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏、锁定屏幕和截取屏幕。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频、图像、音频、拨打和接听的电话、浏览历史和书签、以及电话簿。
视图系统包括可视控件,例如显示文字的控件和显示图片的控件。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成,例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能,例如通话状态(接通或挂断)的管理。
资源管理器为应用程序提供各种资源,比如本地化字符串、图标、图片、布局文件和视频文件。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理、堆栈管理、线程管理、安全和异常的管理、以及垃圾回收等功能。
系统库可以包括多个功能模块,例如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(例如:针对嵌入式系统的开放图形库(opengraphics library for embedded systems,OpenGL ES)和2D图形引擎(例如:skia图形库(skia graphics library,SGL))。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D图层和3D图层的融合。
媒体库支持多种音频格式的回放和录制、多种视频格式回放和录制以及静态图像文件。媒体库可以支持多种音视频编码格式,例如: MPEG4、H.264、动态图像专家组音频层面3(moving picture experts group audio layer III,MP3)、高级音频编码(advancedaudio coding,AAC)、自适应多码率(adaptive multi-rate,AMR)、联合图像专家组(jointphotographic experts group,JPG)和便携式网络图形(portable network graphics,PNG)。
三维图形处理库可以用于实现三维图形绘图、图像渲染、合成和图层处理。
二维图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层可以包括显示驱动、摄像头驱动、音频驱动和传感器驱动等驱动模块。
下面结合显示拍照场景,示例性说明电子设备100的软件系统和硬件系统的工作流程。
当用户在触摸传感器180K上进行触摸操作时,相应的硬件中断被发送至内核层,内核层将触摸操作加工成原始输入事件,原始输入事件例如包括触摸坐标和触摸操作的时间戳等信息。原始输入事件被存储在内核层,应用程序框架层从内核层获取原始输入事件,识别出原始输入事件对应的控件,并通知该控件对应的应用程序(application,APP)。例如,上述触摸操作为单击操作,上述控件对应的APP为相机APP,相机APP被单击操作唤醒后,可以通过API调用内核层的摄像头驱动,通过摄像头驱动控制摄像头193进行拍摄。
图14是本申请实施例提供的图像处理装置的结构示意图。该图像处理装置200包括显示单元210、采集单元220和处理单元230。
显示单元210用于显示第一界面,所述第一界面包括第一控件;显示单元210还用于检测到对所述第一控件的第一操作。
采集单元220用于响应于所述第一操作,采集多帧第一偏振图像,多帧所述第一偏振图像为设置有所述偏振镜片的至少两个摄像头获取的,多帧所述第一偏振图像包括同一拍摄对象。
处理单元230用于对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述单灯图像指的是仅在一个方向上利用光源对所述拍摄对象进行照射的图像,每帧所述单灯图像所指示的光源的照射方向不同,所述单灯图像的帧数大于所述第三偏振图像的帧数;根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,所述目标拍摄图像中所述拍摄对象的光照情况与所述目标环境图像的光照情况相同。
可选地,作为一个实施例,处理单元230还用于针对每帧所述第一偏振图像,利用分割模型对拍摄对象区域和背景区域进行分割,确定所述第一偏振图像对应的初始掩膜图像,所述初始掩膜图像用于对所述拍摄对象区域和所述背景区域进行区分,所述拍摄对象区域指的是所述拍摄对象在所述第一偏振图像中占据的区域,所述背景区域指的是所述第一偏振图像中除了所述拍摄对象区域之外的其他区域;根据多帧所述初始掩膜图像,确定多个所述拍摄对象区域的并集,并根据所述并集确定目标掩膜图像,所述目标掩膜图像用于对所述并集和剩余背景区域进行区分,所述剩余背景区域为所述目标掩膜图像中除了所述并集之外的其他区域;根据所述目标掩膜图像中的所述剩余背景区域,将每帧所述第一偏振图像中相同区域置黑,得到对应的所述第三偏振图像。
可选地,作为一个实施例,处理单元230还用于利用OLAT拟合网络对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述OLAT拟合网络基于Unet网络模型训练而成。
可选地,作为一个实施例,处理单元230还用于将所述目标环境图像划分成多个局部图像块,所述局部图像块的数量与一组所述单灯图像的数量相同,所述局部图像块与所述单灯图像一一对应;
根据每个所述局部图像块的像素值,确定对应的所述单灯图像的三基色权重系数;
根据所有所述单灯图像和各自对应的三基色权重系数,确定合成图像,所述合成图像包括所述拍摄对象;
根据所述目标环境图像和所述合成图像,得到所述目标拍摄图像。
可选地,作为一个实施例,处理单元230还用于对多帧所述第一偏振图像进行对齐处理,得到多帧第二偏振图像,所述多帧第二偏振图像的尺寸相同、包括的拍摄对象尺寸相同,以及所述拍摄对象在所述第二偏振图像中的位置相同;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
对多帧所述第二偏振图像进行背景置黑处理,得到多帧所述第三偏振图像,其中,所述第二偏振图像为所述第一偏振图像。
可选地,作为一个实施例,对齐处理包括裁剪、缩放、匹配、单应性变换中的至少一项。
可选地,作为一个实施例,拍摄对象为人像或预设拍摄对象,所述预设拍摄对象为动物、植物、交通工具、建筑物中的一种。
可选地,作为一个实施例,显示单元210显示的所述第一界面包括第二控件,所述第二控件用于指示不同的环境图像;显示单元210还用于检测到对所述第二控件的第二操作;处理单元230还用于响应于所述第二操作,确定所述目标环境图像。
应理解,分割模型和OLAT拟合网络可以部署于图像处理装置200中。
需要说明的是,上述图像处理装置200以功能单元的形式体现。这里的术语“单元”可以通过软件和/或硬件形式实现,对此不作具体限定。
例如,“单元”可以是实现上述功能的软件程序、硬件电路或二者结合。所述硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。
因此,在本申请的实施例中描述的各示例的单元,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
图15示出了本申请提供的一种电子设备的结构示意图。图15中的虚线表示该单元或该模块为可选的,电子设备300可用于实现上述方法实施例中描述的图像处理方法。
电子设备300包括一个或多个处理器301,该一个或多个处理器302可支持电子设备300实现方法实施例中的方法。处理器301可以是通用处理器或者专用处理器。例如,处理器301可以是中央处理器(central processing unit,CPU)、数字信号处理器(digitalsignal processor,DSP)、专用集成电路(application specific integrated circuit,ASIC)、现场可编程门阵列(field programmable gate array,FPGA)或者其它可编程逻辑器件,如分立门、晶体管逻辑器件或分立硬件组件。
处理器301可以用于对电子设备300进行控制,执行软件程序,处理软件程序的数据。
电子设备300还可以包括通信单元305,用以实现信号的输入(接收)和输出(发送)。
例如,电子设备300可以是芯片,通信单元305可以是该芯片的输入和/或输出电路,或者,通信单元305可以是该芯片的通信接口,该芯片可以作为终端设备或其它电子设备的组成部分。
又例如,电子设备300可以是终端设备,通信单元305可以是该终端设备的收发器,或者,通信单元305可以是该终端设备的收发电路。
电子设备300中可以包括一个或多个存储器302,其上存有程序304,程序304可被处理器301运行,生成指令303,使得处理器301根据指令303执行上述方法实施例中描述的图像处理方法。
可选地,存储器302中还可以存储有数据。可选地,处理器301还可以读取存储器302中存储的数据,该数据可以与程序304存储在相同的存储地址,该数据也可以与程序304存储在不同的存储地址。
处理器301和存储器302可以单独设置,也可以集成在一起;例如,集成在终端设备的系统级芯片(system on chip,SOC)上。
示例性地,存储器302可以用于存储本申请实施例中提供的图像处理方法的相关程序304,处理器301可以用于在视频处理时调用存储器302中存储的图像处理方法的相关程序304,执行本申请实施例的图像处理方法;例如,
显示第一界面,所述第一界面包括第一控件;
检测到对所述第一控件的第一操作;
响应于所述第一操作,采集多帧第一偏振图像,多帧所述第一偏振图像为设置有所述偏振镜片的至少两个摄像头获取的,多帧所述第一偏振图像包括同一拍摄对象;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;
对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述单灯图像指的是仅在一个方向上利用光源对所述拍摄对象进行照射的图像,每帧所述单灯图像所指示的光源的照射方向不同,所述单灯图像的帧数大于所述第三偏振图像的帧数;
根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,所述目标拍摄图像中所述拍摄对象的光照情况与所述目标环境图像的光照情况相同。
本申请还提供了一种计算机程序产品,该计算机程序产品被处理器执行时实现本申请中任一方法实施例所述的图像处理方法。
该计算机程序产品可以存储在存储器302中,例如是程序经过预处理、编译、汇编和链接等处理过程最终被转换为能够被处理器执行的可执行目标文件。
本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机执行时实现本申请中任一方法实施例所述的图像处理方法。该计算机程序可以是高级语言程序,也可以是可执行目标程序。
可选地,该计算机可读存储介质例如是存储器302。存储器302可以是易失性存储器或非易失性存储器,或者,存储器302可以同时包括易失性存储器和非易失性存储器。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
本领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的装置和设备的具体工作过程以及产生的技术效果,可以参考前述方法实施例中对应的过程和技术效果,在此不再赘述。
在本申请所提供的几个实施例中,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的方法实施例的一些特征可以忽略,或不执行。以上所描述的装置实施例仅仅是示意性的,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,多个单元或组件可以结合或者可以集成到另一个系统。另外,各单元之间的耦合或各个组件之间的耦合可以是直接耦合,也可以是间接耦合,上述耦合包括电的、机械的或其它形式的连接。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
另外,本文中术语“系统”和“网络”在本文中常被可互换使用。本文中的术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
总之,以上所述仅为本申请技术方案的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (11)

1.一种图像处理方法,其特征在于,应用于包括多个摄像头的电子设备,至少两个摄像头远离所述电子设备的一侧设置有不同颜色渐变的偏振镜片;所述方法包括:
显示第一界面,所述第一界面包括第一控件;
检测到对所述第一控件的第一操作;
响应于所述第一操作,采集多帧第一偏振图像,多帧所述第一偏振图像为设置有所述偏振镜片的至少两个摄像头获取的,多帧所述第一偏振图像包括同一拍摄对象;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像;
对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述单灯图像指的是仅在一个方向上利用光源对所述拍摄对象进行照射的图像,每帧所述单灯图像所指示的光源的照射方向不同,所述单灯图像的帧数大于所述第三偏振图像的帧数;
根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,所述目标拍摄图像中所述拍摄对象的光照情况与所述目标环境图像的光照情况相同。
2.根据权利要求1所述的方法,其特征在于,对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
针对每帧所述第一偏振图像,利用分割模型对拍摄对象区域和背景区域进行分割,确定所述第一偏振图像对应的初始掩膜图像,所述初始掩膜图像用于对所述拍摄对象区域和所述背景区域进行区分,所述拍摄对象区域指的是所述拍摄对象在所述第一偏振图像中占据的区域,所述背景区域指的是所述第一偏振图像中除了所述拍摄对象区域之外的其他区域;
根据多帧所述初始掩膜图像,确定多个所述拍摄对象区域的并集,并根据所述并集确定目标掩膜图像,所述目标掩膜图像用于对所述并集和剩余背景区域进行区分,所述剩余背景区域为所述目标掩膜图像中除了所述并集之外的其他区域;
根据所述目标掩膜图像中的所述剩余背景区域,将每帧所述第一偏振图像中相同区域置黑,得到对应的所述第三偏振图像。
3.根据权利要求1或2所述的方法,其特征在于,对多帧所述第三偏振图像进行拟合,得到一组单灯图像,包括:
利用OLAT拟合网络对多帧所述第三偏振图像进行拟合,得到一组单灯图像,所述OLAT拟合网络基于Unet网络模型训练而成。
4.根据权利要求3所述的方法,其特征在于,根据目标环境图像,对一组所述单灯图像进行重打光处理,得到目标拍摄图像,包括:
将所述目标环境图像划分成多个局部图像块,所述局部图像块的数量与一组所述单灯图像的数量相同,所述局部图像块与所述单灯图像一一对应;
根据每个所述局部图像块的像素值,确定对应的所述单灯图像的三基色权重系数;
根据所有所述单灯图像和各自对应的三基色权重系数,确定合成图像,所述合成图像包括所述拍摄对象;
根据所述目标环境图像和所述合成图像,得到所述目标拍摄图像。
5.根据权利要求1或4所述的方法,其特征在于,所述方法还包括:
对多帧所述第一偏振图像进行对齐处理,得到多帧第二偏振图像,所述多帧第二偏振图像的尺寸相同、包括的拍摄对象尺寸相同,以及所述拍摄对象在所述第二偏振图像中的位置相同;
对多帧所述第一偏振图像进行背景置黑处理,得到多帧第三偏振图像,包括:
对多帧所述第二偏振图像进行背景置黑处理,得到多帧所述第三偏振图像,其中,所述第二偏振图像为所述第一偏振图像。
6.根据权利要求5所述的方法,其特征在于,所述对齐处理包括裁剪、缩放、匹配、单应性变换中的至少一项。
7.根据权利要求1或6所述的方法,其特征在于,所述拍摄对象为人像或预设拍摄对象,所述预设拍摄对象为动物、植物、交通工具、建筑物中的一种。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
所述第一界面包括第二控件,所述第二控件用于指示不同的环境图像;
检测到对所述第二控件的第二操作;
响应于所述第二操作,确定所述目标环境图像。
9.一种电子设备,其特征在于,包括处理器和存储器;
所述存储器,用于存储可在所述处理器上运行的计算机程序;
所述处理器,用于执行如权利要求1至8中任一项所述的图像处理方法。
10.一种芯片,其特征在于,包括:处理器,用于从存储器中调用并运行计算机程序,使得安装有所述芯片的设备执行如权利要求1至8中任一项所述的图像处理方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时,使所述处理器执行如权利要求1至8中任一项所述的图像处理方法。
CN202211188330.9A 2022-09-28 2022-09-28 图像处理方法及其相关设备 Active CN115272138B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211188330.9A CN115272138B (zh) 2022-09-28 2022-09-28 图像处理方法及其相关设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211188330.9A CN115272138B (zh) 2022-09-28 2022-09-28 图像处理方法及其相关设备

Publications (2)

Publication Number Publication Date
CN115272138A true CN115272138A (zh) 2022-11-01
CN115272138B CN115272138B (zh) 2023-02-21

Family

ID=83757516

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211188330.9A Active CN115272138B (zh) 2022-09-28 2022-09-28 图像处理方法及其相关设备

Country Status (1)

Country Link
CN (1) CN115272138B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115661320A (zh) * 2022-11-28 2023-01-31 荣耀终端有限公司 图像处理方法及电子设备
CN116389898A (zh) * 2023-02-27 2023-07-04 荣耀终端有限公司 图像处理方法、设备及存储介质

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101477627A (zh) * 2009-02-12 2009-07-08 北京像素软件科技股份有限公司 一种动作识别方法和系统
US20120182525A1 (en) * 2009-09-28 2012-07-19 Nec Corporation Light source device and projection - type display device using same
CN106303267A (zh) * 2015-05-25 2017-01-04 北京智谷睿拓技术服务有限公司 图像采集设备和方法
CN109496423A (zh) * 2018-10-15 2019-03-19 华为技术有限公司 一种拍摄场景下的图像显示方法及电子设备
CN112887583A (zh) * 2019-11-30 2021-06-01 华为技术有限公司 一种拍摄方法及电子设备
CN113256499A (zh) * 2021-07-01 2021-08-13 北京世纪好未来教育科技有限公司 一种图像拼接方法及装置、系统
CN113466187A (zh) * 2021-04-12 2021-10-01 清华大学 对荧光各向异性进行偏振超分辨成像的系统及方法
CN113516607A (zh) * 2021-04-23 2021-10-19 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、电子设备及存储介质
CN113824834A (zh) * 2021-08-25 2021-12-21 荣耀终端有限公司 熄屏显示的控制方法及电子设备
CN114241347A (zh) * 2020-09-09 2022-03-25 华为技术有限公司 皮肤敏感度的显示方法、装置、电子设备及可读存储介质
CN114787648A (zh) * 2019-11-30 2022-07-22 波士顿偏振测定公司 用于使用偏振提示进行透明对象分段的系统和方法
CN115035004A (zh) * 2022-04-15 2022-09-09 腾讯科技(深圳)有限公司 图像处理方法、装置、设备、可读存储介质及程序产品
CN115118956A (zh) * 2022-05-26 2022-09-27 清华大学 一种线性偏振图像传感器的偏振性能测量方法及系统

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101477627A (zh) * 2009-02-12 2009-07-08 北京像素软件科技股份有限公司 一种动作识别方法和系统
US20120182525A1 (en) * 2009-09-28 2012-07-19 Nec Corporation Light source device and projection - type display device using same
CN106303267A (zh) * 2015-05-25 2017-01-04 北京智谷睿拓技术服务有限公司 图像采集设备和方法
CN109496423A (zh) * 2018-10-15 2019-03-19 华为技术有限公司 一种拍摄场景下的图像显示方法及电子设备
CN112887583A (zh) * 2019-11-30 2021-06-01 华为技术有限公司 一种拍摄方法及电子设备
CN114787648A (zh) * 2019-11-30 2022-07-22 波士顿偏振测定公司 用于使用偏振提示进行透明对象分段的系统和方法
CN114241347A (zh) * 2020-09-09 2022-03-25 华为技术有限公司 皮肤敏感度的显示方法、装置、电子设备及可读存储介质
CN113466187A (zh) * 2021-04-12 2021-10-01 清华大学 对荧光各向异性进行偏振超分辨成像的系统及方法
CN113516607A (zh) * 2021-04-23 2021-10-19 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、电子设备及存储介质
CN113256499A (zh) * 2021-07-01 2021-08-13 北京世纪好未来教育科技有限公司 一种图像拼接方法及装置、系统
CN113824834A (zh) * 2021-08-25 2021-12-21 荣耀终端有限公司 熄屏显示的控制方法及电子设备
CN115035004A (zh) * 2022-04-15 2022-09-09 腾讯科技(深圳)有限公司 图像处理方法、装置、设备、可读存储介质及程序产品
CN115118956A (zh) * 2022-05-26 2022-09-27 清华大学 一种线性偏振图像传感器的偏振性能测量方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
蒋睿等: "基于局部大气偏振特性的仿生导航方法", 《航空学报》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115661320A (zh) * 2022-11-28 2023-01-31 荣耀终端有限公司 图像处理方法及电子设备
CN115661320B (zh) * 2022-11-28 2023-07-25 荣耀终端有限公司 图像处理方法及电子设备
CN116389898A (zh) * 2023-02-27 2023-07-04 荣耀终端有限公司 图像处理方法、设备及存储介质
CN116389898B (zh) * 2023-02-27 2024-03-19 荣耀终端有限公司 图像处理方法、设备及存储介质

Also Published As

Publication number Publication date
CN115272138B (zh) 2023-02-21

Similar Documents

Publication Publication Date Title
WO2020168956A1 (zh) 一种拍摄月亮的方法和电子设备
US11800221B2 (en) Time-lapse shooting method and device
CN113132620B (zh) 一种图像拍摄方法及相关装置
CN115272138B (zh) 图像处理方法及其相关设备
WO2021078001A1 (zh) 一种图像增强方法及装置
CN112532892B (zh) 图像处理方法及电子装置
WO2022017261A1 (zh) 图像合成方法和电子设备
CN110602403A (zh) 一种暗光下拍照的方法及电子设备
CN112333397B (zh) 图像处理方法和电子设备
CN110138999B (zh) 一种用于移动终端的证件扫描方法及装置
US20210409588A1 (en) Method for Shooting Long-Exposure Image and Electronic Device
CN113935898A (zh) 图像处理方法、系统、电子设备及计算机可读存储介质
WO2020233593A1 (zh) 一种前景元素的显示方法和电子设备
CN117499779B (zh) 一种图像预览方法、设备以及存储介质
CN115631250B (zh) 图像处理方法与电子设备
CN113891008B (zh) 一种曝光强度调节方法及相关设备
CN115686182B (zh) 增强现实视频的处理方法与电子设备
CN114070916B (zh) 一种拍摄的补光方法及相关装置
CN115633255B (zh) 视频处理方法和电子设备
CN116723410B (zh) 调节帧间隔的方法和装置
CN116055871B (zh) 视频处理方法及其相关设备
CN115460343B (zh) 图像处理方法、设备及存储介质
CN116055872B (zh) 图像获取方法、电子设备和计算机可读存储介质
CN115802144B (zh) 视频拍摄方法及相关设备
CN116664701A (zh) 光照估计方法及其相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant