CN115170441B - 一种图像处理方法及电子设备 - Google Patents

一种图像处理方法及电子设备 Download PDF

Info

Publication number
CN115170441B
CN115170441B CN202211058471.9A CN202211058471A CN115170441B CN 115170441 B CN115170441 B CN 115170441B CN 202211058471 A CN202211058471 A CN 202211058471A CN 115170441 B CN115170441 B CN 115170441B
Authority
CN
China
Prior art keywords
image
electronic equipment
face
frames
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211058471.9A
Other languages
English (en)
Other versions
CN115170441A (zh
Inventor
张瑞军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202211058471.9A priority Critical patent/CN115170441B/zh
Publication of CN115170441A publication Critical patent/CN115170441A/zh
Application granted granted Critical
Publication of CN115170441B publication Critical patent/CN115170441B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本申请实施例公开了一种图像处理方法及电子设备,包括:电子设备获取N帧第一图像,N帧第一图像是从摄像头获取的连续曝光的图像,第一图像包括第一人,第一人包括第一人脸和第一人体;电子设备基于N帧第一图像确定第二图像,第二图像是基于第一人脸的显示效果确定的图像;电子设备从N帧第一图像中确定第三图像,第三图像是基于第一人体的显示效果确定的图像;在第二图像和第三图像不为同一帧图像的情况下,电子设备基于第二图像和第三图像进行融合处理,得到目标图像,目标图像包括第二图像的第一人脸和第三图像的第一人体。本申请实施例,可以提高人物拍摄的图像效果。

Description

一种图像处理方法及电子设备
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法及电子设备。
背景技术
在对人进行拍照的时候,需要拍摄者控制电子设备拍摄的瞬间与被拍摄者摆好动作进行的瞬间重合,才能得到满意的照片。然而,实际拍摄时,往往是难以抓拍到这一瞬间,比如,被拍摄的人物的眼睛没睁开,动作没摆好,拍摄表情僵硬,图像模糊等等情况,电子设备有且仅有在拍摄过程中,将多种因素均好造成拍摄图像的效果差,也会给用户得拍摄增加难度。当然,用户也可以对图像进行后期处理,后期处理图像的过程,会使得拍摄照片的真实性降低。
发明内容
本申请实施例公开了一种图像处理方法及电子设备,可以提高人物拍摄的图像效果。
第一方面,本申请提供了一种图像处理方法,包括:所述电子设备获取N帧第一图像,所述N帧第一图像是从摄像头获取的连续曝光的图像,所述第一图像包括第一人,所述第一人包括第一人脸和第一人体;所述电子设备基于所述N帧第一图像确定第二图像,所述第二图像是基于所述第一人脸的显示效果确定的图像;所述电子设备从所述N帧第一图像中确定第三图像,所述第三图像是基于所述第一人体的显示效果确定的图像;在所述第二图像和所述第三图像不为同一帧图像的情况下,所述电子设备基于所述第二图像和所述第三图像进行融合处理,得到目标图像,所述目标图像包括所述第二图像的第一人脸和所述第三图像的第一人体。
在本申请实施例中,电子设备将第二图像和第三图像各自的效果好的区域进行融合,保证融合之后的目标图像能够比任一效果更好,提高用户的拍摄图像质量的同时,由于第二图像和第三图像中融合区域均来自于用户拍摄到的图像,保证目标图像的真实性。
其中,本申请涉及的拍摄过程是针对于人物的拍摄,即第一图像中的画面可以包括第一人,第一人包括第一人体和第一人脸,第一人体为第一人的人体,第一人脸为第一人的面部。
在一种可能的实现方式中,所述电子设备获取N帧第一图像,具体包括:响应于用户的拍摄操作,所述电子设备基于所述拍摄操作获取拍摄时间;所述电子设备将所述拍摄时间以及之前所述摄像头连续曝光的N帧图像确定为N帧第一图像。这样,电子设备可以在用户点击拍摄控件的情况下,获取拍摄时间之前的N帧连续曝光的图像为第一图像,从而可以保证获取到的第一图像是在拍摄时间附件的图像,N帧第一图像中的拍摄对象以及画面是基本相同的,为后续的融合提供有力条件。此外,由于第二图像和第三图像均来源于电子设备曝光过程中的第一图像,能够保证融合的图像是真实拍摄的,以确保目标图像的真实性。
其中,拍摄操作可以参考图1B中的用户操作。即电子设备已经打开相机,进入拍摄的预览界面。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像确定第二图像,具体包括:所述电子设备基于人脸预设标准从所述N帧第一图像中选择所述第二图像;或,所述电子设备显示第一界面,所述第一界面包括选帧框,所述选帧框包括第一提示语和第一帧选项;所述第一提示语用于提醒用户选择人脸效果好的图像,所述第一帧选项为所述第一提示语对应的N帧第一图像的帧选项;响应于选帧操作,所述电子设备从所述N帧第一图像选择第二图像,所述选帧操作为用户作用于所述第一帧选项的操作。这样,电子设备可以按照人脸预设标准进行选择第二图像,还可以让用户选择第二图像。电子设备能够将面部效果好的图像定为第二图像,进而能够保证目标图像中人脸的效果更优。
其中,第一帧选项的操作可以参考图6C中的用户点击表情好的图像的操作和点击确认控件的操作。
在一种可能的实现方式中,所述人脸预设标准用于衡量所述第一人脸的显示效果,所述人脸预设标准包括人脸光线标准、睁眼标准、人脸无遮挡标准、人脸清晰标准、人脸表情自然标准中的一种或多种;其中,所述人脸光线标准用于衡量所述第一人脸光线的好坏;所述睁眼标准用于衡量所述第一人是否睁眼;所述人脸无遮挡标准用于衡量所述第一人脸有无遮挡;所述人脸清晰标准用于衡量所述第一人脸是否清晰;所述人脸表情自然标准用于衡量所述第一人脸面部表情好坏。这样,人脸预设标准能够从光线、睁眼、遮挡、清晰和表情好坏等方面衡量人脸效果的优劣,从而保证人脸效果是整体上显示效果更优的,为后续的融合奠定基础,保证目标图像的效果。
在一种可能的实现方式中,所述电子设备基于人脸预设标准从所述N帧第一图像中选择所述第二图像,具体包括:所述电子设备识别所述第一图像中的第一人的人脸区域;所述电子设备获取所述人脸区域像素的灰度值,将所述灰度值的均值处于预设亮度范围且所述灰度值的最小值大于或等于预设最低亮度的第一图像确定为第二图像;或所述电子设备识别所述人脸区域的眼部区域,将所述眼部区域眼睛的张开角度大于预设角度的第一图像确定为第二图像;或所述电子设备确定人脸被遮挡区域,并计算所述被遮挡区域与人脸总区域的面积比值,将所述比值小于或等于预设比值的第一图像确定为第二图像;或所述电子设备将所述人脸区域满足清晰度评估模型标准的第一图像确定为第二图像;或所述电子设备将所述人脸区域与标准表情之间的相似度大于相似度阈值的第一图像确定为第二图像;或所述电子设备将所述人脸区域的眼角弧度和嘴角弧度均大于或等于预设弧度指标的第一图像确定为第二图像;或所述电子设备将所述人脸区域满足表情评分系统评分标准的第一图像确定为第二图像。这样,电子设备识别人脸之后,可以对人脸区域的按照具体的标准进行衡量,确定出第二图像,从而能够保证第二图像是面部效果更佳的图像。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像确定第二图像,具体包括:所述电子设备基于所述N帧第一图像重建三维人脸模型;所述电子设备对所述三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型;所述电子设备基于所述表情调整后的三维人脸模型得到所述第二图像。这样,电子设备可以对第一图像中的第一人的人脸进行重建,并直接调整第一人的表情,使得人脸表情更好,保证进行融合后的目标图像的面部效果更好。
其中,三维人脸模型为第一人脸的三维模型。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像重建三维人脸模型之后,所述电子设备基于所述表情调整后的三维人脸模型得到所述第二图像之前,所述方法还包括:所述电子设备对所述三维人脸模型进行重打光。这样,电子设备重打光,保证面部光线更好,进而可以保证第二图像的面部效果更具有光泽感。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像确定第二图像,具体包括:在所述电子设备获取到从所述N帧第一图像中选择第二图像的第一指示信息的情况下,所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像;在所述电子设备获取到触发重建三维人脸模型的第二指示信息的情况下,所述电子设备基于所述第二指示信息和所述N帧第一图像重建三维人脸模型,对所述三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型,并基于所述表情调整后的三维人脸模型得到所述第二图像。这样,电子设备可以先从N帧第一图像中选择第二图像,判断是否能够选择出来,在能够选择出来的情况下,电子设备直接从N帧第一图像中确定面部效果好的第二图像,从N帧第一图像中选择不出来的面部效果好的图像的时候,电子设备需要经过人脸重建。如果选不出来人脸效果好的图像,还有候选的人脸重建的方式调整表情,保证目标图像的效果。如果第一图像中的人脸效果已足够好,便不需要人脸重建,减少了处理的过程,提高处理效率,节约处理资源和能耗。即本实施方式能够保证目标效果的同时,还能提高处理效率,减少处理能耗。
其中,电子设备判断出能从N帧第一图像中选择出第二图像,才能够获取到第一指示信息;电子设备判断出不能从N帧第一图像中选择出第二图像,获取到第二指示信息。具体判断过程可以参考S1002。
在一种可能的实现方式中,所述方法还包括:所述电子设备判断所述N帧第一图像中是否存在符合人脸预设标准的图像;若存在,则所述电子设备获取从所述N帧第一图像中选择第二图像的第一指示信息;所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像,具体包括:所述电子设备将所述N帧第一图像中满足所述人脸预设标准的图像确定为第二图像;若不存在,则所述电子设备获取触发重建三维人脸模型的第二指示信息;或,所述第一指示信息包括指示用户从所述N帧第一图像中选择出第二图像的操作信息,所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像,具体包括:所述电子设备基于所述操作信息将所述N帧第一图像中用户选定的图像确定为第二图像;所述第二指示信息包括指示用户确定不从所述N帧第一图像中选择出第二图像。这样,如果从第二图像中选不出来人脸效果好的图像,还有候选的人脸重建的方式调整表情,保证目标图像的效果。如果第一图像中的人脸效果已足够好,便不需要人脸重建,减少了处理的过程,提高处理效率,节约处理资源和能耗。即本实施方式能够保证目标效果的同时,还能提高处理效率,减少处理能耗。
其中,从所述N帧第一图像中选择出第二图像的操作信息可以是图11中用户点击选项a-e,不从所述N帧第一图像中选择出第二图像可以是图11中用户点击选项f。
在一种可能的实现方式中,所述方法还包括:所述电子设备判断所述第二图像和所述第三图像是否为同一帧图像;在所述第二图像和所述第三图像为同一帧图像的情况下,所述电子设备将所述第二图像或者所述第三图像确定为目标图像。这样,由于拍摄的过程是随机的,人物的动作表情也是随机的,能够抓拍摄姿态表情俱佳的概率是存在的,如果正好抓拍到图像表情俱佳的图像,不需要融合处理,而是直接确定为目标图像,减少过多的冗余操作,提高处理效率,节约处理资源。此外,三维人脸重建的过程相比图像融合的过程是更加复杂的,消耗的资源也更多,因此,连续曝光的第一图像中存在面部效果较好的图像的情况下,电子设备可以直接确定第二图像;如果不存在(没有拍摄到人脸效果好的图像),电子设备还需要通过人脸重建对人脸就行调整,得到面部效果很好的图像。这样,电子设备能够保证目标图像的人脸效果更好的同时,减少计算资源和能量的消耗。
在一种可能的实现方式中,所述电子设备从所述N帧第一图像中确定第三图像,具体包括:所述电子设备基于姿态预设标准从所述N帧第一图像中选择所述第三图像;或,所述电子设备显示第一界面,所述第一界面包括选帧框,所述选帧框包括第二提示语和第二帧选项;所述第二提示语用于提醒用户选择姿态效果好的图像,所述第二帧选项为所述第二提示语对应的N帧第一图像的帧选项;响应于第二选帧操作,所述电子设备从所述N帧第一图像选择第三图像,所述第二选帧操作为用户作用于所述第二帧选项的操作。这样,电子设备能够确定出第一图像中人体姿态好的图像作为第三图像,保证后续融合过程中,目标图像中人体姿态的显示效果更好。
其中,第二帧选项的操作可以参考图6C中的用户点击姿态好的图像的操作和点击确认控件的操作。
在一种可能的实现方式中,所述姿态预设标准包括人体动作标准和/或人体动作清晰度标准;所述人体动作标准用于衡量所述第一人体姿态是否为人体预设动作,所述人体预设动作包括“剪刀手”、起跳、双手抱怀、比心中的一种或多种;所述人体动作清晰度标准用于衡量所述第一人体区域是否清晰。这样,电子设备能够建立人资的预设动作标准和清晰度标准,按照预设的标准,电子设备能够判断出人资姿态的优劣,从而能够从N帧第一图像中准确地确定出人体效果好的图像。
第二方面,本申请提供了一种电子设备,包括:一个或多个处理器和一个或多个存储器,所述一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当所述一个或多个处理器执行所述计算机指令时,以使得所述电子设备执行:获取N帧第一图像,所述N帧第一图像是从摄像头获取的连续曝光的图像,所述第一图像包括第一人,所述第一人包括第一人脸和第一人体;基于所述N帧第一图像确定第二图像,所述第二图像是基于所述第一人脸的显示效果确定的图像;从所述N帧第一图像中确定第三图像,所述第三图像是基于所述第一人体的显示效果确定的图像;在所述第二图像和所述第三图像不为同一帧图像的情况下,基于所述第二图像和所述第三图像进行融合处理,得到目标图像,所述目标图像包括所述第二图像的第一人脸和所述第三图像的第一人体。
在本申请实施例中,电子设备将第二图像和第三图像各自的效果好的区域进行融合,保证融合之后的目标图像能够比任一效果更好,提高用户的拍摄图像质量的同时,由于第二图像和第三图像中融合区域均来自于用户拍摄到的图像,保证目标图像的真实性。
在一种可能的实现方式中,所述电子设备获取N帧第一图像,具体执行:响应于用户的拍摄操作,基于所述拍摄操作获取拍摄时间;将所述拍摄时间以及之前所述摄像头连续曝光的N帧图像确定为N帧第一图像。这样,电子设备可以在用户点击拍摄控件的情况下,获取拍摄时间之前的N帧连续曝光的图像为第一图像,从而可以保证获取到的第一图像是在拍摄时间附件的图像,N帧第一图像中的拍摄对象以及画面是基本相同的,为后续的融合提供有力条件。此外,由于第二图像和第三图像均来源于电子设备曝光过程中的第一图像,能够保证融合的图像是真实拍摄的,以确保目标图像的真实性。
其中,拍摄操作可以参考图1B中的用户操作。即电子设备已经打开相机,进入拍摄的预览界面。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像确定第二图像,具体执行:基于人脸预设标准从所述N帧第一图像中选择所述第二图像;或,显示第一界面,所述第一界面包括选帧框,所述选帧框包括第一提示语和第一帧选项;所述第一提示语用于提醒用户选择人脸效果好的图像,所述第一帧选项为所述第一提示语对应的N帧第一图像的帧选项;响应于第一选帧操作,从所述N帧第一图像选择第二图像,所述第一选帧操作为用户作用于所述第一帧选项的操作。这样,电子设备可以按照人脸预设标准进行选择第二图像,还可以让用户选择第二图像。电子设备能够将面部效果好的图像定为第二图像,进而能够保证目标图像中人脸的效果更优。
在一种可能的实现方式中,所述人脸预设标准用于衡量所述第一人脸的显示效果,所述人脸预设标准包括人脸光线标准、睁眼标准、人脸无遮挡标准、人脸清晰标准、人脸表情自然标准中的一种或多种;其中,所述人脸光线标准用于衡量所述第一人脸光线的好坏;所述睁眼标准用于衡量所述第一人是否睁眼;所述人脸无遮挡标准用于衡量所述第一人脸有无遮挡;所述人脸清晰标准用于衡量所述第一人脸是否清晰;所述人脸表情自然标准用于衡量所述第一人脸面部表情好坏。这样,人脸预设标准能够从光线、睁眼、遮挡、清晰和表情好坏等方面衡量人脸效果的优劣,从而保证人脸效果是整体上显示效果更优的,为后续的融合奠定基础,保证目标图像的效果。
在一种可能的实现方式中,所述电子设备基于人脸预设标准从所述N帧第一图像中选择所述第二图像,具体执行:识别所述第一图像中的第一人的人脸区域;获取所述人脸区域像素的灰度值,将所述灰度值的均值处于预设亮度范围且所述灰度值的最小值大于或等于预设最低亮度的第一图像确定为第二图像;或识别所述人脸区域的眼部区域,将所述眼部区域眼睛的张开角度大于预设角度的第一图像确定为第二图像;或确定人脸被遮挡区域,并计算所述被遮挡区域与人脸总区域的面积比值,将所述比值小于或等于预设比值的第一图像确定为第二图像;或将所述人脸区域满足清晰度评估模型标准的第一图像确定为第二图像;或将所述人脸区域与标准表情之间的相似度大于相似度阈值的第一图像确定为第二图像;或将所述人脸区域的眼角弧度和嘴角弧度均大于或等于预设弧度指标的第一图像确定为第二图像;或将所述人脸区域满足表情评分系统评分标准的第一图像确定为第二图像。这样,电子设备识别人脸之后,可以对人脸区域的按照具体的标准进行衡量,确定出第二图像,从而能够保证第二图像是面部效果更佳的图像。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像确定第二图像,具体执行:基于所述N帧第一图像重建三维人脸模型;对所述三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型;基于所述表情调整后的三维人脸模型得到所述第二图像。这样,电子设备可以对第一图像中的第一人的人脸进行重建,并直接调整第一人的表情,使得人脸表情更好,保证进行融合后的目标图像的面部效果更好。
其中,三维人脸模型为第一人脸的三维模型。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像重建三维人脸模型之后,所述电子设备基于所述表情调整后的三维人脸模型得到所述第二图像之前,所述电子设备还执行:对所述三维人脸模型进行重打光。这样,电子设备重打光,保证面部光线更好,进而可以保证第二图像的面部效果更具有光泽感。
在一种可能的实现方式中,所述电子设备基于所述N帧第一图像确定第二图像,具体执行:在所述电子设备获取到从所述N帧第一图像中选择第二图像的第一指示信息的情况下,基于所述第一指示信息从所述N帧第一图像中选择出第二图像;在所述电子设备获取到触发重建三维人脸模型的第二指示信息的情况下,基于所述第二指示信息和所述N帧第一图像重建三维人脸模型,对所述三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型,并基于所述表情调整后的三维人脸模型得到所述第二图像。这样,电子设备可以先从N帧第一图像中选择第二图像,判断是否能够选择出来,在能够选择出来的情况下,电子设备直接从N帧第一图像中确定面部效果好的第二图像,从N帧第一图像中选择不出来的面部效果好的图像的时候,电子设备需要经过人脸重建。如果选不出来人脸效果好的图像,还有候选的人脸重建的方式调整表情,保证目标图像的效果。如果第一图像中的人脸效果已足够好,便不需要人脸重建,减少了处理的过程,提高处理效率,节约处理资源和能耗。即本实施方式能够保证目标效果的同时,还能提高处理效率,减少处理能耗。
其中,电子设备判断出能从N帧第一图像中选择出第二图像,才能够获取到第一指示信息;电子设备判断出不能从N帧第一图像中选择出第二图像,获取到第二指示信息。具体判断过程可以参考S1002。
在一种可能的实现方式中,所述电子设备还执行:判断所述N帧第一图像中是否存在符合人脸预设标准的图像;若存在,则获取从所述N帧第一图像中选择第二图像的第一指示信息;所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像,具体执行:将所述N帧第一图像中满足所述人脸预设标准的图像确定为第二图像;若不存在,则获取触发重建三维人脸模型的第二指示信息;或,所述第一指示信息包括指示用户从所述N帧第一图像中选择出第二图像的操作信息,所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像,具体执行:基于所述操作信息将所述N帧第一图像中用户选定的图像确定为第二图像;所述第二指示信息包括指示用户确定不从所述N帧第一图像中选择出第二图像。这样,如果从第二图像中选不出来人脸效果好的图像,还有候选的人脸重建的方式调整表情,保证目标图像的效果。如果第一图像中的人脸效果已足够好,便不需要人脸重建,减少了处理的过程,提高处理效率,节约处理资源和能耗。即本实施方式能够保证目标效果的同时,还能提高处理效率,减少处理能耗。
在一种可能的实现方式中,所述电子设备还包括:判断所述第二图像和所述第三图像是否为同一帧图像;在所述第二图像和所述第三图像为同一帧图像的情况下,将所述第二图像或者所述第三图像确定为目标图像。这样,由于拍摄的过程是随机的,人物的动作表情也是随机的,能够抓拍摄姿态表情俱佳的概率是存在的,如果正好抓拍到图像表情俱佳的图像,不需要融合处理,而是直接确定为目标图像,减少过多的冗余操作,提高处理效率,节约处理资源。此外,三维人脸重建的过程相比图像融合的过程是更加复杂的,消耗的资源也更多,因此,连续曝光的第一图像中存在面部效果较好的图像的情况下,电子设备可以直接确定第二图像;如果不存在(没有拍摄到人脸效果好的图像),电子设备还需要通过人脸重建对人脸就行调整,得到面部效果很好的图像。这样,电子设备能够保证目标图像的人脸效果更好的同时,减少计算资源和能量的消耗。
在一种可能的实现方式中,所述电子设备从所述N帧第一图像中确定第三图像,具体执行:基于所述姿态预设标准从所述N帧第一图像中选择所述第三图像;或,显示第一界面,所述第一界面包括选帧框,所述选帧框包括第二提示语和第二帧选项;所述第二提示语用于提醒用户选择姿态效果好的图像,所述第二帧选项为所述第二提示语对应的N帧第一图像的帧选项;响应于第二选帧操作,从所述N帧第一图像选择第三图像,所述第二选帧操作为用户作用于所述第二帧选项的操作。这样,电子设备能够确定出第一图像中人体姿态好的图像作为第三图像,保证后续融合过程中,目标图像中人体姿态的显示效果更好。
在一种可能的实现方式中,所述姿态预设标准包括人体动作标准和/或人体动作清晰度标准;所述人体动作标准用于衡量所述第一人体姿态是否为人体预设动作,所述人体预设动作包括“剪刀手”、起跳、双手抱怀、比心中的一种或多种;所述人体动作清晰度标准用于衡量所述第一人体区域是否清晰。这样,电子设备能够建立人资的预设动作标准和清晰度标准,按照预设的标准,电子设备能够判断出人资姿态的优劣,从而能够从N帧第一图像中准确地确定出人体效果好的图像。
第三方面,本申请提供了一种电子设备,包括触控屏、摄像头、一个或多个处理器和一个或多个存储器。该一个或多个处理器与触控屏、摄像头、以及一个或多个存储器耦合,一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当一个或多个处理器执行计算机指令时,使得电子设备执行上述任一方面任一项可能的实现方式中的图像处理方法。
第四方面,本申请提供了一种电子设备,包括:一个或多个功能模块。一个或多个功能模块用于执行上述任一方面任一项可能的实现方式中的图像处理方法。
第五方面,本申请实施例提供了一种计算机存储介质,包括计算机指令,当计算机指令在电子设备上运行时,使得通信装置执行上述任一方面任一项可能的实现方式中的图像处理方法。
第六方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在计算机上运行时,使得计算机执行上述任一方面任一项可能的实现方式中的图像处理方法。
附图说明
图1A~图1B是本申请实施例提供的一组拍照过程的示意图;
图2A-图2C是本申请实施例提供的一种人物拍摄效果示意图;
图3是本申请实施例提供的另一种人物拍摄效果示意图;
图4是本申请实施例提供的一种图像处理的方法流程示意图;
图5是本申请实施例提供的一种N帧第一图像的示意图;
图6A~图6C是本申请实施例提供的一组用户选图的用户界面示意图;
图7是本申请实施例提供的一种图像处理的流程示意图;
图8是本申请实施例提供的另一种图像处理的方法流程示意图;
图9是本申请实施例提供的一种第二图像的确定方法流程示意图;
图10是本申请实施例提供的又一种图像处理的方法流程示意图;
图11是本申请实施例提供的另一种用户选图的用户界面示意图;
图12是本申请实施例提供的又一种图像处理的方法流程示意图;
图13是本申请实施例提供的一种电子设备的软件结构示意图;
图14是本申请实施例提供的一种电子设备100的硬件结构示意图。
具体实施方式
下面将结合附图对本申请实施例中的技术方案进行清楚、详尽地描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;文本中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,另外,在本申请实施例的描述中,“多个”是指两个或多于两个。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为暗示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征,在本申请实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
本申请实施例提供了一种图像处理方法及电子设备,可以提高拍摄的图像效果。
下面介绍本申请实施例涉及的应用场景。
图1A~图1B是本申请实施例示例性地示出开的一组拍照过程的示意图。如图1A所示,用户打开电子设备的显示界面,电子设备可以显示用户界面110。用户界面110可以包括多个应用。例如,天气、日历、邮件、设置、应用商店、便签、图库、电话、短消息、浏览器和相机111等)。其中,应用程序的图标以及相应的应用程序的名称的位置可以根据用户的喜好进行调整,本申请实施例对此不作限定。
需要说明的是,图1A所示的电子设备的界面示意图为本申请实施例的示例性的展示,电子设备的界面示意图也可以为其他样式,本申请实施例对此不作限定。
在图1A中,用户可以点击用户界面110中的相机控件111,电子设备接收到作用于相机控件111的操作之后,可以显示图1B所示的用户界面120。
如图1B所示,用户使用电子设备对场景中的人物进行拍照,电子设备显示如图1B所示的用户界面120。用户界面120可以包括预览框127、拍摄模式菜单122、转换摄像头控件123、拍摄控件124、相册125、和工具菜单126(包括设置控件、滤镜开关、闪光灯开关等)。其中:
预览框127为电子设备通过摄像头实时采集到的拍摄场景的图像。在图1B中,预览框127中显示的是电子设备通过摄像头采集到的人物的图像。
拍摄模式菜单122,可以包括人像、拍照、录像、夜景等多种相机模式的选项,不同的相机模式可以实现不同的拍摄功能,拍摄模式菜单120中的“三角形”指向的相机模式用于指示初始的或用户选择的相机模式,如图1B所示,“三角形”指向“拍照”,说明当前相机处于拍照模式。
转换摄像头控件123,用于将采集图像的摄像头在前置摄像头和后置摄像头之间切换。
拍摄控件124,用于响应于用户的操作,使得电子设备拍摄照片。
相册125,用于供用户查看已拍摄的图片和视频。
设置控件,用于设置采集图像时的各类参数;滤镜开关,用于开启或关闭滤镜;闪光灯开关,用于开启或关闭闪光灯。
用户点击拍摄控件124的情况下,电子设备可以获取当前预览框的照片确定为电子设备拍摄的照片。
拍摄过程中,图像效果的好坏决定于拍摄的瞬间。例如,拍摄瞬间的曝光(光线)不好,人的表情不好,人们闭眼或者人脸被遮挡,对焦主体模糊等等情况,均会导致拍摄照片的效果差。因此,拍摄效果好需要多个条件重合在一次的瞬间,用户抓取到效果好的时刻,才能够得到一张用户满意的照片。正是这样的原因,用户的拍照难度也大。
以下具体说明抓拍效果差的拍摄场景。
示例1:在人物拍摄的场景中,光线不好、人脸模糊或表情不好的情况。
图2A~图2C是本申请实施例公开的一种人物拍摄效果示意图。
图2A所示为电子设备拍摄的照片,图2A中的照片有拍摄过程中,由于拍摄的瞬间拍摄人物所处的光线差或者正在移动(人或镜头),导致拍摄的照片比较模糊,拍摄的效果较差。
图2B所示,电子设备拍摄的照片中人脸表情僵硬,拍摄效果差。
示例2:在拍摄的场景中,人闭眼的情况。
如图2C所示,照片中拍摄到的人处于即将闭眼或者睁眼的状态,拍摄的人脸效果差。
示例3:在多人拍摄的场景中,人脸遮挡的情况。
图3是本申请实施例示例性地示出的另一种人物拍摄效果示意图。如图3所示,画面中多人在跳舞,由于前面的人的手臂遮挡到了后面的人脸,造成后面拍摄的人脸效果较差。
针对上述的问题,通常往往会选择通过后期图像编辑的方式进行处理,需要用户进一步进行处理和操作。
在上述的实现方式中,图像进一步编辑的过程中,图像不但会发生变形,编辑过得图案丢失拍摄的图像原本的真实性,且电子设备还需要进行更多的处理,从而会浪费处理资源和能耗。同时,电子设备在拍摄中抓拍难度较大,导致对于人物拍照并不能够保证多个效果较好的图案出现的一帧图像中,保证拍照效果的难度很大。出现上述示例等图像效果差的概率很大,用户需要尝试拍摄多次,才能拍到一张比较满意的图像。同时,多次的拍摄操作,会浪费更多的处理资源和能耗。
针对以上实施方式中存在的问题,本申请实施例提供一种图像处理方法,在对人物拍摄的场景中,电子设备从摄像头获取连续多帧的图像,并确定其中面部表情好的第二图像以及人体姿态好的第三图像,将第二图像和第三图像进行融合,得到面部效果和姿态效果俱佳的目标图像。这样,可以保证拍摄的照片真实自然的同时,提高拍摄的图像效果。
在对人进行拍照的时候,不但会注意到人的面部表情,还会关注人的动作,然而由于人的姿态和表情同时抓拍到效果俱佳的照片难度极大,因此,本申请在对人进行拍摄的时候,提出一种能够将面部表情和人体姿态的好坏进行选取,保证两种效果能够同时出现的一张图像中,从而降低拍摄难度的同时,提高拍摄图像的效果。
请参阅图4,图4为本申请实施例提供的一种图像处理的方法流程示意图,该方法可以由电子设备来执行,该方法可以包括但不限于以下步骤:
S401:电子设备获取N帧第一图像。
在电子设备打开相机应用,进入相机预览界面的情况下,电子设备可以进行拍摄,拍摄的过程可以参考图1A和图1B所示的场景。在相机预览画面中,电子设备可以按照时间间隔连续不断地获取图像。在电子设备获取到用户的点击拍摄控件操作的时候,即触发执行步骤S401的步骤,具体地,电子设备可以获取拍摄时间,并将在拍摄时间就近时间段内获取到的连续N帧图像确定为N帧第一图像。
其中,N为大于1的整数。N帧第一图像可以包括1帧主帧图像和N-1帧辅帧图像。主帧图像可以为当前电子设备响应于拍摄操作获取到的图像,即这一帧图像(主帧)的拍摄时间距离用户操作时间是最近的。其余的N-1帧辅帧图像为与主帧图像连续获取到的图像。
一种可能的实施方式中,电子设备将拍摄时间的预设时间内连续曝光获取到的N帧图像确定为第一图像。其中,预设时间均包括拍摄时间(预设时间为预定规则的时间段,拍摄时间为时间点)。预设时间的时间间隔可以是2s,也可以是5s等,不限定。预设时间可以是拍摄时间及之前的X秒,也可以是拍摄时间及之前的Y秒加上拍摄时间之后的Z秒;还可以是拍摄时间及之后的L秒。X、Y、Z和L均为正。其中,拍摄时间最近获取的图像为主帧图像,其余N-1帧为辅帧图像。
示例性地,电子设备获取到拍摄时间为2022.05.02 15:00:02。假定预设时间为拍摄时间以及之前的2秒,即预设时间为2022.05.02 15:00:00~2022.05.02 15:00:02。假定预设时间为拍摄时间及之前的2秒和之后的3秒,即预设时间为2022.05.02 15:00:00~2022.05.02 15:00:05。假定预设时间为拍摄时间及之后的3秒,即预设时间为2022.05.0215:00:02~2022.05.02 15:00:05。
另一种可能的实施方式中,电子设备基于拍摄时间的预设帧内连续曝光获取到的N帧图像确定为第一图像。预设帧可以是拍摄时间及之前的连续N帧;也可以是拍摄时间及之后的连续N帧;还可以是拍摄时间之前加之后的连续N帧。由于拍摄过程中,曝光的过程是连续的,因此,电子设备可以缓存连续拍摄的图像。根据图像帧获取的先后关系,电子设备获取的N帧第一图像可以(时间上)位于拍摄时间之前或之后。N帧的帧长可以是2帧、3帧、5帧、10帧等等,不限定。
示例性地,电子设备获取拍摄时间以及之前的N帧。假设拍摄时间为2022.05.215:00:00:02,将拍摄时间及之前连续曝光得到的5帧确定为N帧第一图像。
图5是本申请实施例示例性地示出的一种N帧第一图像的示意图。假设当前电子设备正在对人进行抓拍,拍摄的过程拍摄对象(人物)在眨眼,然而,拍摄时间获取的一帧图像为e,则电子设备确定N帧为拍摄时间以及前两秒或者前5帧为第一图像,因此电子设备连续曝光的5帧图像a、b、c、d和e均为第一图像。其中,a、b、c和d为辅帧图像,e为主帧图像。
电子设备获取到N帧第一图像的情况下,可存储N帧第一图像。
S402:电子设备基于N帧第一图像确定第二图像和第三图像。
电子设备基于N帧第一图像确定M帧第二图像和K帧第三图像。其中,在本申请中,M和K均为1。M帧第二图像为第一人的人脸效果好的图像。K帧第二图像为N帧第一图像中人体姿态效果好的第一图像。
以下说明,电子设备确定第二图像和第三图像具体过程:
实施方式1,按照人脸预设标准选择第二图像,按照姿态预设标准选择第三图像。
电子设备可以按照人脸预设标准选择M帧第二图像,按照姿态预设标准选择K帧第三图像。
电子设备可以存储有人脸预设标准和姿态预设标准。人脸预设标准是用于衡量第一图像中人脸(第一人脸)表情好坏的标准。姿态预设标准是用于衡量第一图像中人体姿态(第一人体)好坏的标准。
人脸预设标准可以包括人脸光线标准、睁眼标准、人脸无遮挡标准、人脸清晰标准、人脸表情自然标准中的一种或多种。其中:
电子设备可以先识别人脸,在识别到人脸的情况下,再基于对应标准进行判断。
人脸光线标准是衡量所述第一人的人脸区域光线的好坏的标准。电子设备可以判断第一图像中人脸光线是否满足预设亮度标准,满足预设亮度标准,便可以确定第一图像满足人脸光线标准。
可选地,电子设备可以识别第一图像中的人脸,确定人脸区域像素的灰度值,在灰度值(即灰阶值)的均值处于预设亮度范围,且灰度值的最小值大于或等于预设最低亮度,可以确定第一图像满足人脸光线标准;否则,不满足。示例性地,(假设图像的灰阶为256)灰度值的均值122处于预设亮度范围50~200,且灰度值最小值96大于预设最低亮度50,确定这帧第一图像满足人脸光线标准。此时,预设亮度标准包括均值在预设亮度范围内且灰度值最小值大于预设最小亮度。
睁眼标准是衡量所述第一人是否睁眼的标准。电子设备在检测到人脸的情况下,可以识别人的眼睛,基于眼睛的张开角度判断眼睛是否张开,在眼睛张开的情况下,满足睁眼标准;否则,不满足睁眼标准。示例性地,电子设备识别人脸,确定眼部区域,并计算人眼的张开角度,在张开角度大于预设角度的情况下,确定人睁眼(第一图像满足睁眼标准),否则,不满足。其中,预设角度不限定,例如,预设角度为5度。
人脸无遮挡标准是衡量所述第一人的面部有无遮挡的标准。电子设备在检测到人脸的情况下,确定对焦目标的人脸是否有遮挡,在遮挡的情况下,不满足人脸无遮挡标准;在无遮挡的情况下,满足人脸遮挡标准。
可选地,所述电子设备可以计算人脸总面积(区域)和被遮挡面积(区域),被遮挡面积与人脸总面积的比值小于或等于预设比值的情况下,确定所述第一图像人脸满足人脸无遮挡标准;否则,不满足。
人脸清晰标准是衡量所述第一人的人脸区域是否清晰的标准。电子设备可以识别第一人的人脸区域,判断人脸区域是否清晰,在清晰的情况下,电子设备可确定第一图像满足人脸清晰标准;否则,不满足。电子设备可以先识别第一图像是否包括人脸(或者对焦目标是否为人脸),在第一图像包括人脸(或对焦目标为人脸)的情况下,通过清晰度评估模型判断人脸部分是否清晰,即在清晰度评估模型评估为清晰的情况下,电子设备确定第一图像满足人脸清晰标准;否则,不满足人脸清晰标准。在电子设备确定第一图像不包括人脸(或对焦目标不为人脸)的情况下,确定第一图像也不满足人脸清晰标准。其中,清晰度评估模型,例如,图像直方图法、能量方差法、平方梯度能量法、熵函数法、频谱函数法、高斯方差法、平方高斯梯度法等等,本申请不限定。
人脸表情自然标准是衡量所述第一人面部表情好坏的标准:电子设备可以预设人脸表情标准,在满足人脸表情标准的情况下,确定第一图像满足人脸表情自然标准。
可选地,电子设备可以存储有表情库,表情库中存储有标准表情,电子设备确定表情库中存在标准表情与第一图像的人脸表情相似度大于相似度阈值的情况下,可以确定这帧第一图像满足人脸表情自然标准;若(表情库中)不存在满足上述条件的标准表情,则确定不满足人脸表情自然标准。
可选地,电子设备识别人脸的五官,在人脸满足微笑指标的情况下,确定第一图像满足人脸表情自然标准。在微笑指标可以包括嘴角弧度和/或眼角弧度。电子设备检测到嘴角弧度大于或等于预设弧度指标的情况下,确定第一图像满足人脸表情自然标准。
可选地,电子设备存储有表情评分系统,电子设备可以将第一图像输入到表情评分系统,当表情评分系统输出的分数大于阈值分数的情况下,确定第一图像满足人脸表情自然标准。否则,第一图像不满足人脸表情自然标准。表情打分系统可以对输入的人脸面部表情进行打分。
一种可能的情况下,电子设备先识别第一图像的中的人脸区域,在第一图像的人脸区域满足人脸预设标准中的所有标准的情况下,电子设备可以确定这一帧第一图像满足人脸预设标准,即这一帧第一图像为第二图像。
具体地,在满足人脸预设标准中的第一图像为1帧,则将这一帧第一图像确定为第二图像;在满足人脸预设标准中的第一图像为多帧,则从满人脸预设标准的第一图像中任意选一帧确定为第二图像;在满足人脸预设标准中的第一图像为0帧(没有满足人脸预设标准的第一图像),则将N帧第一图像中主帧图像确定为第二图像。
另一种可能的情况下,电子设备先识别第一图像的中的人脸区域,在第一图像的人脸区域满足人脸预设标准中的至少一种标准的情况下,电子设备可以确定这一帧第一图像满足人脸预设标准,即这一帧第一图像为第二图像。
具体地,在满足人脸预设标准中的第一图像为1帧,则将这一帧第一图像确定为第二图像;在满足人脸预设标准中的第一图像为多帧,可以从满人脸预设标准的第一图像中选择任意选一帧确定为第二图像,也可以确定上述人脸预设标准满足数量最多的第一图像确定为第二图像,还可以将满足不同人脸预设标准的第一图像脸部进行融合,得到第二图像(例如,将第一图像睁眼的图像、光线好的图像和表情好的图像进行融合,得到第二图像);在满足人脸预设标准中的第一图像为0帧(没有满足人脸预设标准的第一图像),则将N帧第一图像中主帧图像确定为第二图像。
在人脸预设标准中,对人脸的拍摄往往由很多意外的情况时有发生。例如,在拍摄的照片中,人面部的光线差、闭眼、人脸被遮挡、人脸模糊、表情差等等情况。因此,为了能够尽可能地避免上述对人脸拍照的情况出现在显示的图像中,电子设备可以提前设定相应的人脸预设标准,对N帧第一图像进行筛选以确定第二图像,经过筛选能够保证第二图像的人脸效果是更优的。
姿态预设标准可以包括人体动作标准和/或人体动作清晰度标准。其中:
人体动作标准是衡量人体姿态的标准,电子设备可以存储人体的姿态库(姿态库存储有人体预设动作)。人体预设动作例如,比“剪刀手”、起跳、双手抱怀、比心、胜利等等,本申请不限定。在电子设备检测到第一图像中人摆出的姿势为姿态库中的人体预设动作的情况下,电子设备可以确定满足人体姿态的标准。示例性地,电子设备检测到人体的姿态为双手抱怀的姿态,正好与姿态库中的人体预设动作匹配,可以第一图像确定满足人体动作标准。第一图像中第一人体的动作在姿态库中匹配不到时,确定这帧第一图像不满足人体动作标准。
人体动作清晰度标准用于衡量所述第一人的人体区域是否清晰。电子设备可以识别第一图像中的人体,在存在人体的情况下,按照上述清晰度评估模型评估人体是否清晰,在清晰的情况下,确定第一图像满足人体动作清晰度标准。一种可能的情况下,在电子设备筛选的图像满足上述的一种标准的情况下,电子设备便确定这帧第一图像满足人脸预设标准,即这一帧第一图像为第二图像。
上述的实施方式中,电子设备可以根据人脸预设标准选择第二图像,以及姿态预设标准选择第三图像,预设的标准能够不需要用户参与其中,自动选择面部或者人体效果更好的图像,让二者的效果融合到一张图像中奠定基础,从而能够提高拍摄的图像效果。
实施方式2,用户选择第二图像和第三图像。
电子设备可以基于用户的选择确定M帧第二图像和K帧第三图像。
在获取到N帧第一图像之后,电子设备可以显示用于选择第二图像和第三图像的用户界面,用户可以点击用户界面提供的第二图像和第三图像的选项,电子设备响应于用户操作,便能够确定出第二图像和第三图像。
图6A~图6C是本实施例示例性地示出地一组用户选图的用户界面示意图。如图6A所示,电子设备可以开启用户界面示意图。如图6A所示,电子设备可以显示用户界面610,其中,工具菜单126还可以包括选帧开关127,选帧开关用于开启用户从连续的N帧第一图像中选择(表情或姿态)效果较好的M帧的选帧功能。需要说明的是,选帧开关具体的图标不限于图6A中的图标图案,还可以是其它形状的图案,本申请不限定。
用户可以点击用户界面610中的选帧开关127,用于打开选帧功能。电子设备响应于上述操作可以显示用户界面620。如图6B所示,用户界面620可以显示选帧功能开启的提示语128“选帧功能已开启”。需要说明的是,上述的开启选帧功能的提示方式不仅仅限于提示语的方式,还可以有其他的方式,不限定。用户可以点击拍摄控件124。电子设备响应于上述的操作,可以显示用户界面630。
可选地,如图6C所示,用户界面630可以包括选帧框129。选帧框129可以包括提示语1291“请选择表情好的图像”(选第二图像)和“请选择姿态好的图像”(选第三图像),用于提示用户进行选择。选帧框129还可以包括关闭按钮1292和确定按钮1293,关闭按钮1292可以用于关闭选帧框129;确定按钮1293用于确定当前选择的M帧第二图像。选帧框129还可以包括帧选项(N帧第一图像)。其中,5帧的图像(5帧图像具体参考图5中的相关描述)的右上角有选择按钮,选择按钮用于选择这一帧图像或者取消这一帧图像,当前用户选择这一帧图像的情况下(如,第二帧图像和第三帧图像),选择按钮处于选中状态,否则处于未选中状态。用户选择完成时候,电子设备可以点击确定按钮1293。电子设备响应于点击确定按钮1293的操作,电子设备可以确定M帧第二图像为5帧中的第三帧,K帧第三图像为5帧中的第五帧。需要说明的是,用户界面630中的选帧框129仅仅是示例性的描述,不限定。
可选地,电子设备在确定第二图像和第三图像的情况下,可以进行存储M帧第二图像和K帧第三图像。
示例性地,表1是本申请实施例公开的一种第一图像的预设标准各个标准的检测结果表。
表1
Figure 790352DEST_PATH_IMAGE001
如表1所示,“1”表示上述的第一图像为第二图像或第三图像,“0”表示上述的第一图像不是第二图像或第三图像。表1表示为:N帧第一图像中第三帧为第二图像;第N帧为第三图像。
S403:电子设备基于第二图像和第三图像进行融合处理,得到目标图像。
一种可能的实施方式中,电子设备将第二图像的人脸区域、第三图像的人体区域和主帧图像的背景区域进行融合,得到目标图像。
可选地,电子设备将第二图像、第三图像和主帧图像输入第一神经网络模型,得到目标图像。此时,第一神经网络模型是对不同图像进行图像融合的神经网络模型。第一神经网络模型可以确定主帧图像的背景为选定区域,M帧第二图像的人脸区域为选定区域;K帧图像的人体区域为选定区域,将上述3种图像对应的选定区域进行融合,得到目标图像。
其中,主帧图像可以与第二图像或第三图像是相同的图像,也可以是不同的图像,不限定。
上述实施方式中,由于电子设备能够基于选择第二图像中人脸区域,第三图像中人体区域以及主帧图像中的背景,保证拍摄图像真实性的同时,将多帧图像中的优点集合到目标图像中,保证目标图像的质量,提高用户拍摄效果,减少用户拍摄次数。
另一种可能的实施方式中,电子设备将第二图像的人脸区域与第三图像进行融合,得到目标图像。
可选地,电子设备将第二图像和第三图像输入第一神经网络模型,得到目标图像。此时,第一神经网络模型可以确定第三图像的背景区域和人体区域为选定区域,第二图像的人脸区域为选定区域,将上述2种图像对应的选定区域进行融合,得到目标图像。
上述实施方式中,电子设备将第二图像和第三图像各自的效果好的区域进行融合,保证融合之后的目标图像能够比任一效果更好,提高用户的拍摄图像质量的同时,由于第二图像和第三图像中融合区域均来自于用户拍摄到的图像,保证目标图像的真实性。
在电子设备获取到目标图像之后,可以保存目标图像。即用户点击打开图库,能够查找到目标图像。
图4的实施例中,由于融合的图像来自于拍摄的连续N帧图像中的多帧,是用户真实的图像,融合是将拍摄的效果较好的面部和人体,以及对应的背景图案进行融合,保证合成图像的真实感的同时,提升照片的美感。
上述的实施方式中,第二图像对图像融合的方向具有一定的指向性,能够保证图像融合的结果是优于不融合的任意一帧的图像效果的,从而能够保证图像的效果更佳。对于面部和人体姿态同时能够抓拍到效果往往不一定同时二者均能够获取到,当分别呈现表情好和姿态好两种效果,那么本申请能够分别确定其好的部分,并进行融合,达到二者兼备的效果,不仅降低拍摄难度,还能够保证效果更优。
图7是本申请实施例公开的一种图像处理的流程示意图。如图7所示,N帧第一图像为(a)、(b)、(c)3帧图像。其中(a)帧拍摄人物面部表情较好(表情,睁眼且微笑);(b)帧拍摄人物手势还未做到位且眼睛即将闭眼;(c)帧拍摄人物手势比“耶”,但是面部表情差,人物闭着眼睛。经过上述方法的处理,电子设备将(a)帧确定为第二图像,将(c)帧确定为第三图像。并经过(a)和(c)的图像融合,得到目标图像(d)。(d)中拍摄人物的姿态(手势比划好)和表情(眼睛睁开)均好的,达到了表情和姿态均好的效果。需要说明的是,图7仅仅是一种示例性的融合情况,不限定。
结合图4的实施方式,图8为本申请实施例提供的另一种图像处理的方法流程示意图,该方法可以由图8中所示的电子设备来执行,该方法可以包括但不限于以下步骤:
S801:电子设备获取N帧第一图像;
其中,S801的具体描述可以参考S401的相关描述,不加赘述。
S802:电子设备基于N帧第一图像确定M帧第二图像。
电子设备可以基于N帧第一图像重建人脸模型,基于表情库中的表情调整人脸模型,保证人脸效果,之后对人脸模型进行打光,获得M帧第二图像。此时,第二图像为第一人脸的面部区域的图像。
图9是本申请实施例公开的一种第二图像的确定方法流程示意图,如图9所示,下面具体说明上述的确定M帧第二图像的过程,具体包括但不限定于S8021~S8024。
S8021:电子设备基于N帧第一图像重建三维人脸模型。
首先,电子设备将N帧第一图像输入第二神经网络模型,得到三维人脸模型。其中,第二神经网络模型为基于二维的图像信息生成人脸模型的神经网络模型。即电子设备可以通过N帧第一图像获取人脸信息,通过人脸信息(例如,脸部纹理、反照率、人脸基础参数等)确定三维人脸模型。其中,第二神经网络模型不加限定。例如,第二神经网络模型可以是细节表情捕捉和动画(detailed expression capture and animation,DECA);可以是三维密集人脸对齐(3D dense face alignment,3DDFA);可以存储有用于视觉计算的三维人脸表情数据库,并基于数据库重建三维人脸模型;还可以是Nerf模型等等。
S8022:电子设备对三维人脸模型进行重打光。
电子设备可以对针对于三维人脸模型的角度,确定人脸法线的方向,在人脸的斜上方预设点光源,为三维人脸模型进行打光处理。一般而言,预设点光源距离三维人脸模型越近,打光处理后的亮度越大。人脸模型越朝向预设点光源,对应局部的亮度越大;反之,越背离点光源,亮度越小。因此,电子设备可以基于背景亮度和人脸亮度确定预设点光源的距离。打光后的效果一般而言会更有利于人脸图像的光泽效果。
可选地,电子设备可以设置预设光源。在需要为三维人脸模型进行重打光的情况下,电子设备可以按照预设光源的位置(方向和距离)和强度进行打光处理。打光之后的人脸面部的亮度更高,更具有光泽感。其中,预设的光源可以针对人脸的光,还可以是背景光,本申请不限定。
上述电子设备的重打光处理,能够调整图像中人脸的光线,保证人脸面部的光泽感和清晰度,从而能够提高第二图像的面部呈现效果。
S8023:电子设备对三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型。
可选地,电子设备可以存储预设表情库,预置表情库用于调整人脸表情。电子设备选择预设表情库中与N帧第一图像最相近的表情,并进行调整,得到对应的调整后的三维人脸模型。
可选地,电子设备可以设置表情控制系数。在执行完S8022之后,电子设备可以基于上述的表情控制系数调整三维模型,例如,按照眼部参数、嘴部参数调整人脸的弧度,并对应调整脸部纹理。
可选地,电子设备可以选择N帧第一图像的人脸表情好的预选图像。(选择过程可以参考上述S402中的第二图像的确定过程不赘述,S402中的第二图像为预选图像),确定一帧图像之后,可以按照这帧预选图像调整三维人脸模型。
电子设备选择预设表情库中与N帧第一图像最相近的表情,并进行调整,得到对应的调整后的三维人脸模型。
S8024:电子设备基于表情调整后的三维人脸模型得到第二图像。
电子设备获取表情调整后的三维人脸模型的人脸区域确定为第二图像。
在S8021~S8024中,电子设备可以基于二维图像重建三维模型,在通过三维模型得到二维的面部图像,从而能够将人脸表情调整得更好,符合用户的拍摄要求,从而更进一步保证拍摄的效果。
S803:电子设备基于N帧第一图像确定第三图像。
其中,S803的具体描述可以参考S402中确定第三图像的相关描述,不加赘述。
S804:电子设备基于第二图像和第三图像进行融合处理,得到目标图像。
一种可能的实施方式中,电子设备将第二图像的面部区域(可以分割出调整后的三维人脸模型的mask区域)与第三图像进行融合,得到目标图像。
其中,S804的具体描述可以参考S403中的相关描述,不加赘述。
电子设备可以通过图像对人脸进行三维重建,选择效果较好的表情,从而保证N帧第一图像中即便获取不到比较好的表情,也能够合成用户相对满意的表情,从而能够保证拍摄图像的效果更好。此外,三维人脸模型进行打光处理,能够保证面部的光线比较合适,从而能够提高面部的光泽感,进一步提高图像处理的效果。
结合上述图4和图8的实施方式,图10是本申请实施例公开的又一种图像处理的方法流程示意图。如图10所示,电子设备可以执行但不限于以下步骤:
S1001:电子设备获取N帧第一图像。
其中,S1001具体可以参考S401和S801的描述,此处不加赘述。
下面,S1002~S1007是基于N帧第一图像确定第二图像的过程,具体说明:
S1002:电子设备判断是否能从N帧第一图像中选择出第二图像。在能够选择出第二图像的情况下,电子设备执行S1003;在不能够选择出第二图像的情况下,执行S1004。
一种可能的实施方式中,电子设备判断N帧第一图像中是否存在满足人脸预设标准的图像,在存在的情况下,确定能够选择出第二图像;否则,不能。
此时,人脸预设标准包括S402中提到的人脸光线标准、睁眼标准、人脸无遮挡标准、人脸清晰标准、人脸表情自然标准中的一种或多种。
电子设备可以判断N帧第一图像是否存在至少一帧满足上述人脸预设标准中包括的所有标准。在存在一帧第一图像满足人脸预设标准中包括的所有标准的情况下,电子设备可以确定N帧第一图像中存在满足人脸预设标准的第二图像。在N帧第一图像不存满足人脸预设标准中包括的所有标准的情况下,电子设备可以判断N帧第一图像中不存在满足人脸预设标准的第二图像。需要说明的是,判断第一图像是否满足人脸预设标准的具体过程可以参考S402的相关描述,在此不加赘述。
另一种可能的实施方式中,电子设备基于用户选择判断N帧第一图像中是否能够选择出第二图像。
示例性地,图11是本申请实施例公开的另一种用户选图的用户界面示意图。如图11所示,电子设备响应于拍摄操作的情况下,可以显示用户界面1110。用户界面1110可以包括选帧框1111。选帧框1111可以包括提示语“请选择表情好的图像”(选第二图像)。选帧框1111可以包括6个选项,其中,前五个选项a、b、c、d和e为N帧第一图像;第六个选项为“以上均不是”,表示N帧第一图像中没有人脸表情效果好的图像。当电子设备确定用户选中选项f并点击确定的情况下,可以判断当前的N帧第一图像中不能够选择出第二图像;当电子设备确定用户选中选项a、b、c、d和e并点击确定的情况下,可以判断当前的N帧第一图像中能够选择出第二图像,并将对应选项的图像确定为第二图像。用户界面1110的其他描述可以参考用户界面630的相关描述,不加赘述。
可选地,电子设备在判断是否能从N帧第一图像中选择出第二图像之后,可以基于判断结果获取指示信息。即在判断出能从N帧第一图像中选择出第二图像,获取到第一指示信息;在判断出不能从N帧第一图像中选择出第二图像,获取到第二指示信息。第一指示信息指示电子设备从N帧第一图像中确定第二图像(即执行S1003);第二指示信息指示通过重建三维人脸模型确定第二图像(执行S1004)。
S1003:电子设备将N帧第一图像中的图像确定为第二图像。
对应地,一种实施方式中,电子设备确定N帧第一图像中存在满足人脸预设标准的第二图像之后,可以将确定的这帧第一图像确定为第二图像。
对应地,另一种实施方式中,电子设备可以基于用户选择的N帧第一图像的图像确定为第三图像。
上述两种实施方式均可以参考S402的描述,不赘述。
S1004:电子设备基于N帧第一图像重建三维人脸模型。
电子设备确定N帧第一图像中不存在满足人脸预设标准的第二图像之后,可以执行S1004~S1007的过程。
S1005:电子设备对三维人脸模型进行重打光。
S1006:电子设备对三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型。
S1007:电子设备基于表情调整后的三维人脸模型得到第二图像。
其中,S1004~S1007的执行过程,具体可以参考图9中的S8021~S8024的相关描述,不加赘述。
S1008:电子设备从N帧第一图像中选择第三图像。
其中,S1008的执行过程具体可以参考S402和S803的相关描述,不加赘述。
S1009:电子设备基于第二图像和第三图像进行融合处理,得到目标图像。
其中,S1008的执行过程具体可以参考S403和S804的相关描述,不加赘述。
上述的实施方式中,电子设备可以先从N帧第一图像中选择第二图像,判断是否能够选择出来,在能够选择出来的情况下,电子设备直接从N帧第一图像中确定面部效果好的第二图像,从N帧第一图像中选择不出来的面部效果好的图像的时候,电子设备需要经过人脸重建。这样,图10相比于图4的处理过程,如果选不出来人脸效果好的图像,还有候选的人脸重建的方式调整表情,保证目标图像的效果;相比于图8的处理过程,如果第一图像中的人脸效果已足够好,便不需要人脸重建,减少了处理的过程,提高处理效率,节约处理资源和能耗。即本实施方式能够保证目标效果的同时,还能提高处理效率,减少处理能耗。
结合上述图4、图8和图10的实施方式,图12是本申请实施例公开的又一种图像处理的方法流程示意图。如图12所示,电子设备可以执行但不限于以下步骤:
S1201:电子设备获取N帧第一图像。
其中,S1201具体可以参考S401和S801的描述,此处不加赘述。
S1202:电子设备从N帧第一图像中选择第三图像。
其中,S1202具体可以参考S402和S803的描述,此处不加赘述。
S1203:电子设备判断是否能从N帧第一图像中选择出第二图像。若能从N帧第一图像中选择出第二图像,执行S1204;若不能,执行S1207。
其中,S1203具体可以参考S1002的描述,此处不加赘述。
S1204:电子设备判断第二图像和第三图像是否为同一帧第一图像。在为同一帧第一图像的情况下,执行S1205;在不是同一帧第一图像的情况下,执行S1206。
此时,第二图像和第三图像均为一帧图像,电子设备可以判断第二图像和第三图像是否为N帧第一图像中的同一帧图像。若是同一帧,执行S1205;否则,执行S2106。
S1205:电子设备将第二图像或者第三图像确定为目标图像。
上述第二图像和第三图像为同一帧的情况下,不需要融合,直接输出目标图像,说明电子设备拍摄的图像中能够获取到表情姿态均好的图像正好在一帧中出现,直接确定这一帧为目标图像,减少图像的融合过程。这样,能够提高处理效率的同时,节约处理资源和能耗。
S1206:电子设备基于第二图像和第三图像进行融合处理,得到目标图像。
其中,S1206具体可以参考S402的描述,此处不加赘述。
S1207:电子设备基于N帧第一图像重建三维人脸模型,对三维人脸模型进行重打光基于预设表情库对三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型。
其中,S1207具体可以参考S8021和S8024的描述,此处不加赘述。
S1208:电子设备基于表情调整后的三维人脸模型得到的面部图像与第三图像进行融合,并进行修复处理,得到目标图像。
其中,S1208具体可以参考S803和S804的相关描述,此处不加赘述。
上述的实施方式中,由于拍摄的过程是随机的,人物的动作表情也是随机的,能够抓拍摄姿态表情俱佳的概率是存在的,如果正好抓拍到图像表情俱佳的图像,不需要融合处理,而是直接确定为目标图像,减少过多的冗余操作,提高处理效率,节约处理资源。此外,三维人脸重建的过程相比图像融合的过程是更加复杂的,消耗的资源也更多,因此,连续曝光的第一图像中存在面部效果较好的图像的情况下,电子设备可以直接确定第二图像;如果不存在(没有拍摄到人脸效果好的图像),电子设备还需要通过人脸重建对人脸就行调整,得到面部效果很好的图像。这样,电子设备能够保证目标图像的人脸效果更好的同时,减少计算资源和能量的消耗。
上述的几个实施方式中,电子设备获取第二图像和第三图像的先后顺序不限定。此外,可以对多个人的人脸区域和人体区域进行处理,本申请不限定为一个人。
图13为本申请实施例提供的一种电子设备的软件结构示意图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将系统分为四层,从上至下分别为应用程序层,应用程序框架层,运行时(Runtime)和系统库,以及内核层。
应用程序层可以包括一系列应用程序包。
如图13所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序(也可以称为应用)。
应用程序框架层为应用程序层的应用程序提供应用编程接口(ApplicationProgramming Interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图13所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话界面形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
运行时(Runtime)包括核心库和虚拟机。Runtime负责系统的调度和管理。
核心库包含两部分:一部分是编程语言(例如,java语言)需要调用的功能函数,另一部分是系统的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的编程文件(例如,java文件)执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(Surface Manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),二维图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了二维(2-Dimensional,2D)和三维(3-Dimensional,3D)图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如: MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现3D图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动,虚拟卡驱动。
下面结合拍摄场景,示例性说明电子设备软件以及硬件的工作流程。
电子设备通过摄像头驱动获取图像,在相机应用获取到用户的拍摄操作的情况下,执行上述S401-S403或者S801-S804的步骤。
具体需要说明的,电子设备执行上述S401或者S801时,电子设备通过相机应用控制摄像头驱动获取N帧第一图像。相机应用接收到用户的点击拍摄的操作,获取拍摄时间,可以基于拍摄时间获取摄像头连续曝光的N帧图像为第一图像。
具体需要说明的,电子设备执行S8021~S8024、S1004~S1007、S1207中,需要进行二维图像进行人脸重建,得到三维人脸模型;以及三维图像的人脸图像提取得到二维图像,这一过程中,电子设备可以通过相机应用调用系统库中三维图形处理库和二维图形引擎对应二维图像和三维图像的处理能力,得到重建的三维人脸模型或者得到二维的人脸图像(第二图像)。
下面介绍本申请实施例涉及的装置。
图14为本申请实施例提供的一种电子设备100的硬件结构示意图。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(Universal Serial Bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(Subscriber Identification Module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(Application Processor,AP),调制解调处理器,图形处理器(Graphics Processingunit,GPU),图像信号处理器(Image Signal Processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(Digital Signal Processor,DSP),基带处理器,和/或神经网络处理器(Neural-network Processing Unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
可理解,处理器110中还可以包括AE系统。AE系统可以具体设置在ISP中。AE系统可用于实现曝光参数的自动调整。可选的,AE系统还可以集成在其它处理器芯片中。本申请实施例对此不作限定。
在本申请提供的实施例中,电子设备100可以通过处理器110执行所述曝光强度调节方法。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备100,例如AR设备等。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(Liquid Crystal Display,LCD),有机发光二极管(Organic Light-EmittingDiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(Active-MatrixOrganic Light Emitting Diode的,AMOLED),柔性发光二极管(Flex Light-EmittingDiode,FLED),Mini LED,Micro LED,Micro-OLED,量子点发光二极管(Quantum Dot LightEmitting Diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现获取功能。
ISP 用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像或视频。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(Charge Coupled Device,CCD)或互补金属氧化物半导体(Complementary Metal-Oxide-Semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像或视频信号。ISP将数字图像或视频信号输出到DSP加工处理。DSP将数字图像或视频信号转换成标准的RGB,YUV等格式的图像或视频信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。例如,在一些实施例中,电子设备100可以利用N个摄像头193获取多个曝光系数的图像,进而,在视频后处理中,电子设备100可以根据多个曝光系数的图像,通过HDR技术合成HDR图像。本申请实施例中,电子设备能够通过上述的摄像头193获取N帧第一图像。
数字信号处理器用于处理数字信号,除了可以处理数字图像或视频信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(Moving Picture Experts Group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(Neural-Network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像视频播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。
上述实施例中所用,根据上下文,术语“当…时”可以被解释为意思是“如果…”或“在…后”或“响应于确定…”或“响应于检测到…”。类似地,根据上下文,短语“在确定…时”或“如果检测到(所陈述的条件或事件)”可以被解释为意思是“如果确定…”或“响应于确定…”或“在检测到(所陈述的条件或事件)时”或“响应于检测到(所陈述的条件或事件)”。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如DVD)、或者半导体介质(例如固态硬盘)等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储程序代码的介质。

Claims (9)

1.一种图像处理方法,其特征在于,所述方法应用于电子设备,所述方法包括:
所述电子设备获取N帧第一图像,所述N帧第一图像是从摄像头获取的连续曝光的图像,所述第一图像包括第一人,所述第一人包括第一人脸和第一人体;
在所述电子设备获取到从所述N帧第一图像中选择第二图像的第一指示信息的情况下,所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像;
在所述电子设备获取到触发重建三维人脸模型的第二指示信息的情况下,所述电子设备基于所述第二指示信息和所述N帧第一图像重建三维人脸模型;
在所述电子设备存储有预设表情库中的情况下,所述电子设备选择预设表情库中与所述N帧第一图像最相近的表情,并进行调整,得到表情调整后的三维人脸模型;或,在所述电子设备存储有表情控制系数的情况下,所述电子设备基于所述表情控制系数调整所述三维人脸模型,得到表情调整后的三维人脸模型,所述表情控制系数包括眼部参数、嘴部参数和脸部纹理中的一种或多种;或,所述电子设备以人脸预设标准从所述N帧第一图像的选择出预选图像,基于所述预选图像调整所述三维人脸模型,得到表情调整后的三维人脸模型;
所述电子设备基于所述表情调整后的三维人脸模型得到第二图像;所述第二图像是基于所述第一人脸的显示效果确定的图像;
所述电子设备检测所述N帧第一图像中所述第一人体摆出的姿势为姿态库中的人体预设动作的情况下,确定满足人体姿态的标准,并从所述N帧第一图像中确定所述满足人体姿态的标准的第一图像为第三图像,所述第三图像是基于所述第一人体的显示效果确定的图像;所述电子设备存储人体的姿态库,姿态库存储有人体预设动作;
在所述第二图像和所述第三图像不为同一帧图像的情况下,所述电子设备基于所述第二图像和所述第三图像进行融合处理,得到目标图像,所述目标图像包括所述第二图像的第一人脸和所述第三图像的第一人体。
2.根据权利要求1所述的方法,其特征在于,所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像,具体包括:
所述电子设备基于人脸预设标准从所述N帧第一图像中选择所述第二图像;或,
所述电子设备显示第一界面,所述第一界面包括选帧框,所述选帧框包括第一提示语和第一帧选项;所述第一提示语用于提醒用户选择人脸效果好的图像,所述第一帧选项为所述第一提示语对应的N帧第一图像的帧选项;响应于第一选帧操作,所述电子设备从所述N帧第一图像选择第二图像,所述第一选帧操作为用户作用于所述第一帧选项的操作。
3.根据权利要求2所述的方法,其特征在于,所述电子设备基于人脸预设标准从所述N帧第一图像中选择所述第二图像,具体包括:
所述电子设备识别所述第一图像中的第一人的人脸区域;
所述电子设备获取所述人脸区域像素的灰度值,将所述灰度值的均值处于预设亮度范围且所述灰度值的最小值大于或等于预设最低亮度的第一图像确定为第二图像;或
所述电子设备识别所述人脸区域的眼部区域,将所述眼部区域眼睛的张开角度大于预设角度的第一图像确定为第二图像;或
所述电子设备确定人脸被遮挡区域,并计算所述被遮挡区域与人脸总区域的面积比值,将所述比值小于或等于预设比值的第一图像确定为第二图像;或
所述电子设备将所述人脸区域满足清晰度评估模型标准的第一图像确定为第二图像;或
所述电子设备将所述人脸区域与标准表情之间的相似度大于相似度阈值的第一图像确定为第二图像;或所述电子设备将所述人脸区域的眼角弧度和嘴角弧度均大于或等于预设弧度指标的第一图像确定为第二图像;或所述电子设备将所述人脸区域满足表情评分系统评分标准的第一图像确定为第二图像。
4.根据权利要求1所述的方法,其特征在于,所述电子设备基于所述N帧第一图像确定第二图像,具体包括:
所述电子设备基于所述N帧第一图像重建三维人脸模型;
所述电子设备对所述三维人脸模型的表情进行编辑,得到表情调整后的三维人脸模型;
所述电子设备基于所述表情调整后的三维人脸模型得到所述第二图像。
5.根据权利要求4所述的方法,其特征在于,所述电子设备基于所述N帧第一图像重建三维人脸模型之后,所述电子设备基于所述表情调整后的三维人脸模型得到所述第二图像之前,所述方法还包括:
所述电子设备对所述三维人脸模型进行重打光。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述电子设备判断所述N帧第一图像中是否存在符合人脸预设标准的图像;若存在,则所述电子设备获取从所述N帧第一图像中选择第二图像的第一指示信息;所述电子设备基于所述第一指示信息从所述N帧第一图像中选择出第二图像,具体包括:所述电子设备将所述N帧第一图像中满足所述人脸预设标准的图像确定为第二图像;若不存在,则所述电子设备获取触发重建三维人脸模型的第二指示信息。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述电子设备判断所述第二图像和所述第三图像是否为同一帧图像;
在所述第二图像和所述第三图像为同一帧图像的情况下,所述电子设备将所述第二图像或者所述第三图像确定为目标图像。
8.一种电子设备,其特征在于,包括:一个或多个处理器和一个或多个存储器;所述一个或多个处理器与所述一个或多个存储器耦合,所述一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当所述一个或多个处理器执行所述计算机指令时,使得所述电子设备执行如权利要求1-7任一项所述的方法。
9.一种计算机可读存储介质,包括指令,其特征在于,当所述指令在电子设备上运行时,使得所述电子设备执行如权利要求1-7中任一项所述的方法。
CN202211058471.9A 2022-08-30 2022-08-30 一种图像处理方法及电子设备 Active CN115170441B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211058471.9A CN115170441B (zh) 2022-08-30 2022-08-30 一种图像处理方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211058471.9A CN115170441B (zh) 2022-08-30 2022-08-30 一种图像处理方法及电子设备

Publications (2)

Publication Number Publication Date
CN115170441A CN115170441A (zh) 2022-10-11
CN115170441B true CN115170441B (zh) 2023-02-07

Family

ID=83481692

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211058471.9A Active CN115170441B (zh) 2022-08-30 2022-08-30 一种图像处理方法及电子设备

Country Status (1)

Country Link
CN (1) CN115170441B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113239220A (zh) * 2021-05-26 2021-08-10 Oppo广东移动通信有限公司 图像推荐方法、装置、终端及可读存储介质
CN113283319A (zh) * 2021-05-13 2021-08-20 Oppo广东移动通信有限公司 人脸模糊度的评价方法及装置、介质和电子设备
CN113313085A (zh) * 2021-07-28 2021-08-27 北京奇艺世纪科技有限公司 一种图像处理方法、装置、电子设备及存储介质
CN113763517A (zh) * 2020-06-05 2021-12-07 华为技术有限公司 人脸表情编辑方法及电子设备
CN114466128A (zh) * 2020-11-09 2022-05-10 华为技术有限公司 目标用户追焦拍摄方法、电子设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111476060A (zh) * 2019-01-23 2020-07-31 北京奇虎科技有限公司 人脸清晰度分析方法、装置、计算机设备及存储介质
CN109934173B (zh) * 2019-03-14 2023-11-21 腾讯科技(深圳)有限公司 表情识别方法、装置及电子设备
CN111028330B (zh) * 2019-11-15 2023-04-07 腾讯科技(深圳)有限公司 三维表情基的生成方法、装置、设备及存储介质
CN114549598A (zh) * 2021-12-31 2022-05-27 奥比中光科技集团股份有限公司 人脸模型重建方法、装置、终端设备和存储介质
CN114723884A (zh) * 2022-04-02 2022-07-08 厦门美图之家科技有限公司 三维人脸重建方法、装置、计算机设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113763517A (zh) * 2020-06-05 2021-12-07 华为技术有限公司 人脸表情编辑方法及电子设备
CN114466128A (zh) * 2020-11-09 2022-05-10 华为技术有限公司 目标用户追焦拍摄方法、电子设备及存储介质
CN113283319A (zh) * 2021-05-13 2021-08-20 Oppo广东移动通信有限公司 人脸模糊度的评价方法及装置、介质和电子设备
CN113239220A (zh) * 2021-05-26 2021-08-10 Oppo广东移动通信有限公司 图像推荐方法、装置、终端及可读存储介质
CN113313085A (zh) * 2021-07-28 2021-08-27 北京奇艺世纪科技有限公司 一种图像处理方法、装置、电子设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
一种自动鲁棒的三维人脸重建方法;杨臻等;《微计算机信息》;20071105(第31期);248-250 *
太赫兹/毫米波人体安检和人脸识别技术深度融合应用研究;邓维立等;《警察技术》;20200618(第1期);86-88 *

Also Published As

Publication number Publication date
CN115170441A (zh) 2022-10-11

Similar Documents

Publication Publication Date Title
CN111327814A (zh) 一种图像处理的方法及电子设备
WO2021078001A1 (zh) 一种图像增强方法及装置
CN111669462B (zh) 一种显示图像的方法及相关装置
CN113099146B (zh) 一种视频生成方法、装置及相关设备
CN113170037B (zh) 一种拍摄长曝光图像的方法和电子设备
CN113709355B (zh) 滑动变焦的拍摄方法及电子设备
CN116048244B (zh) 一种注视点估计方法及相关设备
CN114866860B (zh) 一种播放视频的方法及电子设备
WO2021180046A1 (zh) 图像留色方法及设备
CN114845059B (zh) 一种拍摄方法及相关设备
CN113536866A (zh) 一种人物追踪显示方法和电子设备
CN116152122B (zh) 图像处理方法和电子设备
CN116348917A (zh) 一种图像处理方法及装置
CN115661912A (zh) 图像处理方法、模型训练方法、电子设备及可读存储介质
WO2022057384A1 (zh) 拍摄方法和装置
CN114926351A (zh) 图像处理方法、电子设备以及计算机存储介质
CN116916151B (zh) 拍摄方法、电子设备和存储介质
US20230107555A1 (en) Facial Expression Editing Method and Electronic Device
CN115170441B (zh) 一种图像处理方法及电子设备
CN116723383B (zh) 一种拍摄方法及相关设备
CN115633255B (zh) 视频处理方法和电子设备
CN114697530B (zh) 一种智能取景推荐的拍照方法及装置
WO2022228010A1 (zh) 一种生成封面的方法及电子设备
CN113452895A (zh) 一种拍摄方法及设备
CN115424118A (zh) 一种神经网络训练方法、图像处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant