CN116739886A - 图像处理方法、装置、电子设备和计算机可读存储介质 - Google Patents
图像处理方法、装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN116739886A CN116739886A CN202211321399.4A CN202211321399A CN116739886A CN 116739886 A CN116739886 A CN 116739886A CN 202211321399 A CN202211321399 A CN 202211321399A CN 116739886 A CN116739886 A CN 116739886A
- Authority
- CN
- China
- Prior art keywords
- beauty
- image
- user
- personalized
- parameters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003860 storage Methods 0.000 title claims abstract description 41
- 238000003672 processing method Methods 0.000 title claims abstract description 14
- 230000003796 beauty Effects 0.000 claims abstract description 548
- 238000012545 processing Methods 0.000 claims abstract description 99
- 238000000034 method Methods 0.000 claims abstract description 85
- 238000011282 treatment Methods 0.000 claims abstract description 63
- 230000008569 process Effects 0.000 claims description 40
- 238000004590 computer program Methods 0.000 claims description 11
- 239000002537 cosmetic Substances 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 4
- 238000011156 evaluation Methods 0.000 description 36
- 230000002087 whitening effect Effects 0.000 description 31
- 238000010586 diagram Methods 0.000 description 28
- 230000000875 corresponding effect Effects 0.000 description 27
- 230000000694 effects Effects 0.000 description 24
- 230000037303 wrinkles Effects 0.000 description 10
- 230000006854 communication Effects 0.000 description 9
- 230000001815 facial effect Effects 0.000 description 9
- 210000000697 sensory organ Anatomy 0.000 description 9
- 230000036548 skin texture Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000001360 synchronised effect Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 6
- 238000005286 illumination Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 238000012854 evaluation process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000003475 lamination Methods 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000012163 sequencing technique Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000005304 joining Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 102220098950 rs150951102 Human genes 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000036555 skin type Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
本申请的实施例提供了图像处理方法、装置、电子设备和计算机可读存储介质。方法包括识别与图像中的多个人脸对应的多个用户。方法还包括基于多个用户各自的个性化美颜参数确定用于处理所述图像的美颜参数集。方法还包括使用美颜参数集处理图像。以此方式,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。
Description
技术领域
本申请的实施例主要涉及图像处理技术领域。更具体地,本申请的实施例提供了图像处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
随着媒体技术普及,视频采集和呈现类的业务越来越多,用户也越来越关注自己在所采集视频中的个性形象。因此视频中的人像美颜技术的应用越来越普遍。传统美颜技术对于单人场景进行美颜处理,对于多人场景一般是对视频或图像中的人脸区域进行统一的处理。由于不同与会人的肤质、皱纹、脸型等差异化程度较大,不同用户对美颜结果预期要求也各不相同,当前方法不能完全满足用户个性化美颜诉求。
发明内容
本申请的实施例提供了用于图像处理的方案,尤其是对图像中的人脸进行处理的方案。
根据本申请的第一方面,提供了一种图像处理方法。该方法包括:识别与图像中的多个人脸对应的多个用户;基于多个用户各自的个性化美颜参数确定用于处理图像的美颜参数集;以及使用美颜参数集处理图像。这里,图像可以是摄像头拍摄到的原始图像或者经过统一预处理后得到的图像。图像可以静态图像、视频或者视频的图像帧。以此方式,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。
在第一方面的一些实施例中,确定用于处理图像的美颜参数集可以包括:获取多个用户的预先存储的个性化美颜参数;使用所获取的个性化美颜参数处理图像;以及基于图像和经处理的图像来调整个性化美颜参数以得到用于处理图像的美颜参数集。以此方式,可以对预先存储的各个用户的个性化美颜参数来生成适合当前场景的美颜参数集,使得在满足个性化美颜诉求的基础上,保证多人图像整体上更为协调。在第一方面的一些实施例中,预先存储的个性化美颜参数可以作为美颜参数集被直接用来美颜处理,而不需要上述调整。
在第一方面的一些实施例中,调整个性化美颜参数可以包括:基于图像来确定多个人脸的关于第一美颜因素的第一排序;基于经处理的图像,确定多个人脸的关于第一美颜因素的第二排序,且第二排序不同于第一排序;调整多个用户中的至少一个用户的与第一美颜因素相关联的第一个性化美颜参数。以此方式,可以从基于原始图像来分析每个人脸在不同美颜因素维度的程度评估,以此排序作为约束规则;应用个性化美颜参数美颜后,针对各维度进行美颜程度评估,评估后的排序结果应保持和原始图像一致,对于不一致的人脸进行局部调整,通过该处理保证整个图像中的美颜处理不至于出现明显的不合理的结果,符合自然效果。
在第一方面的一些实施例中,确定多个人脸的关于第一美颜因素的第一排序可以包括:确定多个人脸各自的关于第一美颜因素的第一得分;以及基于多个人脸各自的第一得分,确定第一排序。以此方式,针对不同的美颜因素,对各个人脸进行评估,评估结果可以用作上述排序的依据。
在第一方面的一些实施例中,调整多个用户中的至少一个用户的与第一美颜因素相关联的第一个性化美颜参数可以包括:调整与在第二排序的排名高于第一排序的排名的人脸对应的至少一个用户的第一个性化美颜参数,使得第二排序和第一排序相同。以此方式,以此方式,通过减小导致排序不一致的用户的美颜程度来满足原始图像的人脸排序约束,美颜处理与原始图像相比不会有太大偏差。
在第一方面的一些实施例中,调整所述个性化美颜参数还可以包括:基于图像,确定多个人脸的关于第二美颜因素的第三排序;基于经处理的图像,确定多个人脸的关于第二美颜因素的第四排序,且第四排序不同于第三排序;以及调整多个用户中的至少一个用户的与第二美颜因素相关联的第二个性化美颜参数。以此方式,可以重复地针对不同美颜因素来调整预先存储的个性化美颜参数,使得经过美颜处理的多人图像在多个美颜因素维度上都符合原始图像的人脸排序约束。
在第一方面的一些实施例中,获取多个用户的预先存储的个性化美颜参数可以包括:基于图像被采集的地点,获取与地点相关联的个性化美颜参数。以此方式,用户的个性化美颜参数还可以根据多人图像的采集地点来定制,以满足不同地点的美颜处理的不同需求,例如,光照调节的差异会导致不同的美颜需求。
在第一方面的一些实施例中,个性化美颜参数可以包括与以下至少一个美颜因素相关联的参数:皮肤美白、肤质、皱纹、脸型、五官的大小或形状等等。以此方式,可以从多个美颜因素对人脸进行美颜处理,达到更好的处理效果。
在第一方面的一些实施例中,该方法还可以包括:向多个用户中的至少一个用户的用户设备发送图像和美颜参数集;从用户设备接收经更新的美颜参数集;以及使用经更新的美颜参数集处理图像。以此方式,用户能够实时预览美颜效果并且对本人进行精细的美颜调节,调节完后的个性化美颜参数可以被实时同步,保证多人图像中的美颜程度实时进行更新。
在本申请的第二方面中,还提供了一种图像处理方法。该方法包括:接收包括多个人脸的图像和针对多个人脸的美颜参数集;显示使用所述美颜参数集处理所述图像得到的图像;基于用户对处理后的图像的操作更新所述美颜参数集;以及发送经更新的美颜参数集。以此方式,用户可以通过用户设备获取本地的实时多人图像,针对自己的实时预览效果做精细调节,调节后的美颜信息能够实时同步和生效,使得用户在会议中能保持好的形象。
在第二方面的一些实施例中,美颜参数集可以基于多个用户各自的个性化美颜参数而确定。在一些实施例中,个性化美颜参数可以包括与以下至少一个美颜因素相关联的参数:皮肤美白、肤质、皱纹、脸型、五官的大小或形状等等。以此方式,用户可以从多个美颜因素对自己进行个性化美颜处理,达到更好的处理效果。
在第二方面的一些实施例中,基于用户对处理后的图像的操作更新美颜参数集可以包括:接收用户对与第一美颜因素相关联的第一个性化美颜参数的调整;以及利用经调整的第一个性化美颜参数来更新美颜参数集中的用户的个性化美颜参数。以此方式,用户针对各个美颜因素维度来调节实时的个性化美颜信息,使得用户在会议中能保持好的形象。
在第二方面的一些实施例中,该方法还可以包括:响应于所述用户对第一个性化美颜参数的过度调整,生成提醒。以此方式,用户实时调节的个性化美颜信息满足包括多个人脸的原始图像的人脸排序约束,而不会产生过度调整,从而保证整个图像中的美颜处理不至于出现明显的不合理的结果,符合自然效果。
在第二方面的一些实施例中,基于用户对处理后的图像的操作更新美颜参数集还可以包括:基于第一个性化美颜参数,确定用户的人脸的关于第一美颜因素的预期得分,如果预期得分在指定范围内,利用第一个性化美颜参数来更新针对该用户的个性化美颜参数。以此方式,可以确定用户实时调整的个性化美颜参数是否被允许,被允许的个性化美颜参数可以被用于对整体图像的进行美颜处理。也就是说,美颜处理后的图像依然符合原始图像的人脸排序约束。
在第二方面的一些实施例中,上述指定范围可以通过如下方式来确定:基于处理后的图像,确定多个人脸各自的关于第一美颜因素的第一得分;基于多个人脸的第一得分,确定第一排序;以及将第一排序中与用户的人脸相邻的两个人脸各自的第一得分分别确定为指定范围的界限。
在第二方面的一些实施例中,该方法还可以包括:显示包括用户的人脸的另一图像;基于用户对另一图像的操作来确定用户的个性化美颜参数;以及发送个性化美颜参数以用于与用户的标识相关联地存储。以此方式,在用户加入多人场景(例如,会议设备拍摄包括多个人的视频)之前,可以使用用户设备事先对自己的单人图像进行调节,确保良好的个人形象,同时在此过程中可以收集用户的个性化美颜参数,作为会议设备在多人场景下进行个性化美颜的参数依据,保证个性化效果。
在第二方面的一些实施例中,发送个性化美颜参数以用于与用户的标识相关联地存储可以包括:确定另一图像被采集的地点,以及发送地点和个性化美颜参数以用于与用户的标识相关联地存储。以此方式,用户的个性化美颜参数还可以根据多人图像的采集地点来定制,以满足不同地点的美颜处理的不同需求,例如,光照调节的差异会导致不同的美颜需求。
在第二方面的一些实施例中,显示包括用户的人脸的另一图像可以包括:基于用户的标识,获取用户的预先存储的个性化美颜参数;使用预先存储的个性化美颜参数处理另一图像;以及显示经处理的所述另一图像。以此方式,可以先根据用户的通用个性化参数来生成个人预览图像,以便于用户在当前环境下进一步调整适合当前地点或环境的个性化美颜参数,给用户的个性化美颜调节带来便利。
根据本申请的第三方面,提供了一种图像处理装置。装置包括:识别单元,被配置为识别与图像中的多个人脸对应的多个用户;美颜参数确定单元,被配置为基于所述多个用户各自的个性化美颜参数确定用于处理所述图像的美颜参数集;以及图像处理单元,被配置为使用所述美颜参数集处理所述图像。这里,图像可以是摄像头拍摄到的原始图像或者经过统一预处理后得到的图像。图像可以静态图像、视频或者视频的图像帧。以此方式,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。
根据本申请的第四方面,提供了一种图像处理装置。装置包括:接收单元,被配置为接收包括多个人脸的图像和针对所述多个人脸的美颜参数集;显示单元,被配置为显示使用所述美颜参数集处理所述图像得到的图像;更新单元,被配置为基于用户对处理后的图像的操作更新所述美颜参数集;发送单元,被配置为发送经更新的美颜参数集。以此方式,用户可以通过用户设备获取本地的实时多人图像,针对自己的实时预览效果做精细调节,调节后的美颜信息能够实时同步和生效,使得用户在会议中能保持好的形象。
根据本申请的第五方面,提供了一种电子设备。该电子设备包括处理单元和存储器,处理单元执行存储器中的指令,使得该电子设备执行根据本申请的第一方面或第二方面所述的方法。
根据本申请的第六方法,提供了一种计算机可读存储介质,其上存储有一条或多条计算机指令,其中该一条或多条计算机指令被处理器执行使所述处理器执行根据本申请的第一方面或第二方面所述的方法。
根据本申请的第七方面,提供了一种计算机程序产品,包括机器可执行指令,该机器可执行指令在由设备执行时使所述设备执行根据本申请的第一方面或第二方面所述的方法。
附图说明
结合附图并参考以下详细说明,本申请各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中,相同或相似的附图标注表示相同或相似的元素,其中:
图1示出了本申请的多个实施例能够在其中实现的示例环境的示意图;
图2A示出了根据本申请的一些实施例的设备的逻辑模块的示意框图;
图2B示出了根据本申请的一些实施例的设备的逻辑模块的示意框图;
图3示出了根据本申请的一些实施例的图像处理方法的示意流程图;
图4示出了根据本申请的一些实施例的用于生成用户的个性化美颜参数的示例过程的示意流程图;
图5示出了根据本申请的一些实施例的确定用于处理图像的美颜参数集的示例过程的示意流程图;
图6示出了根据本申请的一些实施例的用于调整个性化美颜参数的示例过程的示意流程图;
图7示出了根据本申请的一些实施例的图像处理方法的示意流程图;
图8示出了根据本申请的一些实施例的用于更新个性化美颜参数的示例过程的示意流程图;
图9示出了根据本申请的一些实施例的图像处理装置的示意框图;
图10示出了根据本申请的一些实施例的图像处理装置的示意框图;以及
图11示出了可以用来实施本申请的实施例的示例设备的示意性框图。
具体实施方式
下面将参照附图更详细地描述本申请的实施例。虽然附图中显示了本申请的某些实施例,然而应当理解的是,本申请可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本申请。应当理解的是,本申请的附图及实施例仅用于示例性作用,并非用于限制本申请的保护范围。
在本申请的实施例的描述中,术语“包括”及其类似用语应当理解为开放性包含,即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。另外,本文所有具体数值都是示例,仅是为了帮助理解,绝无限定范围之意图。
视频会议是多人视频的典型应用场景。为了对多人视频中的人脸进行美颜处理,一些传统技术方案对待处理图像进行人脸识别,识别所述待处理图像中人脸区域,然后对所有人脸区域进行提高亮度等美颜整体处理。还有一些传统方案中针对所识别的人脸区域,获取人脸区域的色彩值和亮度值,然后检测预先构建的数据库中与该色彩值和亮度值对应的美颜参数并进行美颜处理。传统处理方法通常是通过人脸检测得到所有人的人脸区域,对所有区域的人脸同时进行美颜处理,然而,由于这种美颜处理是无差异的,可能导致美颜效果不如用户预期。
有鉴于此,提供了一种图像处理方法。根据该方法,电子设备可以通过人脸识别技术识别出与图像中的多个人脸对应的用户,并针对不同用户获取其个性化美颜参数。电子设备使用由这些用户的个性化美颜参数组成的美颜参数集对上述图像进行美颜处理。也就是说,电子设备使用用户的个性化美颜参数对相应的人脸区域进行美颜处理。以此方式,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。
以下参照图1至图10描述本申请的实施例。
图1示出了本申请的多个实施例能够在其中实现的示例环境100的示意图。本申请的实施例可以适用于例如在线视频会议的场景。如图1所示,环境100包括彼此远离的会议地点110和120,其中的用户可以通过相应地点处的会议设备102和112加入在线会议。根据本申请的实施例,在线视频会议可以借助通过网络彼此连接的会议设备102、会议设备112、用户设备104、用户设备114、会议服务器106以及个性化美颜数据库108来实施。用户可以使用会议设备102、112或者用户设备104、114中任一个或多个来加入视频会议。应理解,图1示出的环境仅是示意性的。环境100可以包括更多的会议地点,并且每个会议地点可以包括更多或更少的会议设备和用户设备。本申请的实施例对会议地点的数目,各个会议地点参与视频会议的会议设备的数目以及用户设备的数目不做限制。
可用来实施会议设备102、112和用户设备104、114的电子设备的组件可以包括但不限于一个或多个处理器或处理单元、存储器、存储设备、一个或多个通信单元、一个或多个输入设备以及一个或多个输出设备。在一些实施例中,电子设备可以是手机、平板电脑、视频电话、膝上型计算机(laptop)、笔记本电脑、个人计算机(PC)、蜂窝电话、个人数字助理(PDA)、增强现实(AR)和/或虚拟现实(VR)设备等设备。在一些实施例中,电子设备可以通过各种类型的有线(例如,光线,电缆等)或无线通信方式(例如,WiFi、蜂窝网络等)彼此连接或者连接至会议服务器106和个性化美颜数据库108。
会议设备102、112可以是能够运行在线视频会议应用的电子设备,其可以是可移动或固定的,并且被布置在相应的会议地点110和120。会议设备102、112可以包括或连接到用于拍摄会议现场的摄像机(未示出)。拍摄到的视频或图像(例如,包括多个参会的用户)可以经由网络传输到参与会议的其他会议设备或用户设备。在本文中,图像可以包括静态图像、动态图像、视频、或者视频的图像帧等。会议设备102、112可以具有或连接到单独的显示器(例如,LCD显示器、LED显示器等)或投影仪等。备选地,会议设备102、112可以是具有集成的摄像机和显示器的电子设备。由此,用户可以通过会议设备或用户设备看到不在同一地点的其他用户。
会议设备102、112可以在会议过程中采集本地会议室的与会人图像,进行本地呈现或发送给远端呈现。会议设备102、112还可以具有智能识别会议图像中的用户的能力。例如,会议设备102、112可以包括适当的人脸识别模型(未示出)。通过识别图像中的用户,会议设备102、112可以根据获取从个性化美颜数据库108获取用户的个性化美颜参数。会议设备102、112还可以结合个性化美颜数据库的美颜参数和原始采集图像的多人人脸图像的相互参考关系,综合进行多人美颜处理。
用户设备104、114可以是能够运行在线视频会议应用的电子设备,可以是可移动的电子设备。用户设备104、114可以具有摄像机,由此用户可以使用用户设备104、114拍摄自己的图像。用户设备104、114可以具有显示器,由此向用户显示来自会议设备102、112的图像或者用户设备自身拍摄到的图像。用户设备104、114还可以具有输入设备,以用于显示器上的图像进行调整。
用户设备104、114可以用于用户以个人身份独立加入会议。在加入会议前,用户在用户设备104、114上通过个人预览进行个人形象整理和美颜程度调节,调节完成后记录用户在该会议场景下的美颜参数,并存储与个性化美颜数据库中。此外,当用户正在会议室参加会议时,可以通过用户设备104、114接入本地会议室的本地图像,针对图像中的本人画面进行美颜调节,调节完成后记录该用户在该会议室最终美颜参数,并且发送给会议设备102、112实时生效,同时存储与个性化美颜数据库108中。
会议服务器106可以包括但不限于一个或多个处理器或处理单元、存储器、存储设备、一个或多个通信单元、一个或多个输入设备以及一个或多个输出设备。这些组件可以以云计算架构的形式被设置。在云计算架构中,这些部件可以被远程布置,并且可以一起工作以实现本申请的实施例所描述的功能。在一些实现中,云计算提供计算、软件、数据访问和存储服务,它们不需要终端用户知晓提供这些服务的系统或硬件的物理位置或配置。在各种实现中,云计算使用适当的协议通过广域网(诸如互联网)提供服务,例如在线视频会议应用,并且它们可以通过web浏览器或任何其他计算组件(诸如移动应用)被访问。备选地,会议服务器106也可以是单独设置的服务器或服务器集群。
在一些实施例中,除了提供的视频会议的基本功能,例如,建立和保持通信连接以用于传输图像、语音等,会议服务器106也可以具有智能识别会议图像中的用户的能力。例如,会议服务器106可以包括适当的人脸识别模型(未示出)。在这种情况下,会议服务器106可以从会议设备102、104或者用户设备104、114接收图像,并且识别图像中的用户。例如,在会议设备102、116是轻量级设备(具有较小的计算能力、存储能力)的情况下,可以利用会议服务器来识别图像中的用户。
个性化美颜数据库108可以用于存储用户的个性化美颜参数及相应的适用场景。例如,个性化美颜数据库108可以将用户标识、用户的个性化美颜参数、个性化美颜参数适用场景(例如,地点或位于某个地点的会议设备标识)等信息相关联存储。个性化美颜参数可以是与美颜因素相关联,例如,皮肤美白、肤质、皱纹、脸型、五官的大小或形状。例如,个性化美颜参数可以用户容易理解的数值或相对指标,也可以是进行图像处理时所使用的底层参数,例如,针对皮肤美白,美颜参数可以是滤镜透明度,针对肤质,美颜参数可以滤波参数。应理解,本申请不限制美颜因素的类型和数量,以及与各个美颜因素相关联的美颜参数,并且可以根据美颜处理需要而进一步扩展。
以上描述了示例性环境100示例组成和它们之间的示例操作和通信过程。应理解,本申请的实施例可以在与此不同的环境中被实施。例如,环境可以包括更多或更少的会议设备和用户设备,并且会议设备和用户设备的操作可以以与上述描述的过程不同的方式来实现。
另外,尽管参照会议应用场景描述了环境100并且下文中将以会议应用场景下描述本申请的实施例。但是应理解,本申请的实施例也适用于会议应用之外的场景,例如,视频聊天、直播、购物等。在这些场景下,拍摄多人图像的设备不一定被称为会议设备,会议服务器也不一定被称为会议服务器。
图2A示出了根据本申请的一些实施例的设备的逻辑模块的示意框图。设备102可以是图1所示的会议设备。设备102包括本地图像捕获模块210、图像发送模块220、人脸识别模块230、美颜参数控制模块240以及图像处理模块250。
本地图像捕获模块210用于使用设备202包括或者连接到的摄像机来捕捉本地图像,并用于编码和发送到会议中。在一些实施例中,本地图像可以是包括在地点110处的多个用户的图像。本地图像可以未经美颜处理的原始图像,也可以是经过个性化美颜处理的图像。
图像发送模块220可以用于将由本地图像捕获模块210捕获的原始图像发送给用户设备104,用于进行实时的美颜设置处理。发送方式可以是视频或由视频的图像帧组成的流。图像发送模块220还可以将经过美颜处理后的图像直接或者经由会议服务器106发送到参会的另一个会议设备112。
人脸识别模块230可以包括人脸检测和人脸识别两个子模块(均未示出)。人脸检测子模块化和人脸识别子模块可以通过已有或未来开发的模型来实现,例如,基于神经网络的模型等。人脸检测用于在原始图像中检测出人脸区域,以便针对性进行美颜处理。在一些实施例中,人脸区域可以标记为沿着人脸的轮廓线分割的区域。备选地,人脸区域也可以标记为包括人脸的矩形框。人脸识别子模块用于通过人脸特征提取比对判断人脸所属用户,以便生成或获取该用户的个性化美颜参数。
美颜参数控制模块240用于确定被应用在人脸区域进行图像处理的美颜参数。如图所示,美颜参数控制模块240可以包括美颜参数读写模块242、美颜结果评估模块244、多人美颜策略控制模块246。
在一些实施例中,美颜参数读写模块242可以用于根据所识别出的用户来读取或存储其对应的个性化美颜参数。美颜参数读写模块242可以从人脸识别模块230获取识别结果,例如图像中的人脸区域的坐标和对应的用户标识,并通过访问个性化美颜数据库108来获取相应的用户的个性化美颜参数。多个用户的个性化美颜参数形成美颜参数集。
用户的个性化美颜参数可以与至少一个美颜因素相关联。如上所述,美颜因素可以是皮肤美白、肤质、皱纹、脸型、五官的大小或形状等。个性化美颜参数可以用户容易理解的数值或相对指标,也可以是进行图像处理时所使用的底层参数。例如,针对皮肤美白的美颜参数可以是滤镜透明度;针对肤质的美颜参数可以滤波参数,等等。
美颜结果评估模块244可以针对原始图像和图像理模块250的处理结果,进行美颜程度评估。在一些实施例中,美颜程度评估是针对各个美颜因素分别进行的。
多人美颜策略控制模块246通过对美颜结果评估模块244给出的每个人的美颜结果,并综合多人相互关系进行美颜参数的局部调整,使得美颜处理的最终结果在多人范围内保持均衡和自然。下文将参照图6更详细地说明美颜结果评估和多人美颜策略控制的过程
图像处理模块250可以根据从美颜参数控制模块240得到的美颜参数集进行美颜处理,美颜参数集包括每个人脸的个性化美颜参数。图像处理模块250可以将美颜参数集中的个性化美颜参数分别应用于对应的人脸区域,由此实现了个性化美颜,满足多个用户的不同美颜诉求。图2B示出了根据本申请的一些实施例的用户设备104的逻辑模块的示意框图。用户设备104可以包括本地图像捕获单元260、图像接收单元270、人脸识别模块280、美颜参数控制模块290、显示模块292、美颜参数收发模块292和图像处理模块296。
本地图像捕获模块260用于完成本地图像的捕获。在一些实施例中,在用户加入会议前,可以捕获用户在当前地点或场景下的个人图像,由此用户可以预览个人图像并进行入会前的个性化美颜调节。
图像接收模块270用于从会议设备接收本地的实时会议图像,并给用户进行即时预览。实时会议图像可以是由会议设备采集的原始图像或视频,并且包括在会议设备本地的多个用户的人脸。
人脸识别模块280包括人脸检测子模块和人脸识别模块子模块(未示出)。人脸检测子模块用于包括多人的会议图像中检测出人脸区域,以便针对性进行美颜处理。人脸识别子模块是可选的。人脸识别子模块用于通过人脸特征提取比对判断人脸所属用户,以便生成或读取会议图像中的多个用户的个性化美颜参数。
美颜参数控制模块290根据用于确定用户自身的个性化美颜参数。通过美颜参数控制模块290,用户可以对自身的人脸进行美颜调节并且产生的个性化美颜参数。美颜参数控制模块290和会议设备102的美颜参数控制模块240相同,这里不再赘述。
显示模块292可以将本地采集或者将会议设备传送到用户设备的图像进行预览显示,以便用户在会议前或者会议中进行美颜调节,以便实时反馈。
美颜参数收发模块294可以从本地的会议设备接收包括美颜参数集。美颜参数集是会议设备确定的多个人的个性化美颜参数。美颜参数收发模块294还可以将用户美颜调节产生的个性化美颜参数发送到本地的会议设备,以便会议设备实时调节多人会议图像的美颜效果。美颜参数收发模块294还可以将个性化美颜参数、用户标识、当前会议地点的标识(例如,位置信息或会议设备的标识)发送给个性化美颜参数数据库,以用于存储或后续使用。
图像处理模块296可以根据从美颜参数收发模块294得到的美颜参数集进行美颜处理。在一些实施例,图像处理模块296还可以根据从美颜参数控制模块290得到的经实时调整后的美颜参数集来进行美颜处理,以生成美颜后的图像。
以上参照图2A和图2B描述了示例性的会议设备102和用户设备104的逻辑模块。应理解,根据本申请的实施例的会议设备和用户设备可以具有更多的逻辑模块,并且一些逻辑模块可以被省略。一些逻辑模块可以被组合一起,或者一个逻辑模块可以划分为更多的逻辑模块。
为了更好地理解本申请的技术,将结合图3至图8来描述根据本申请的实施例的示例性方法和过程。
图3示出了根据本申请的一些实施例的图像处理方法300的示意流程图。在图1所示的示例环境100中,方法300可以由会议设备102、112来执行,或者由运行在线视频会议应用的适当的电子设备来执行。
在框310,会议设备识别与图像中的人脸对应的多个用户。具体地,会议设备中的本地图像捕获模块210可以通过摄像头采集本地图像。由于是会议室场景,这里可以得到包括多个人脸的图像,也称为原始图像。
接下来,会议设备可以通过人脸识别模块230的人脸检测子模块得到人脸区域,并通过人脸识别子模块得到与图像中的多个人脸对应的用户标识。
在框320,会议设备基于多个用户各自的个性化美颜参数确定用于处理图像的美颜参数集。具体地,会议设备的美颜参数读写模块242可以根据已得到的用户标识,从个性化美颜数据库108读取用户的个性化美颜参数,以用于对每个人脸进行美颜预处理。
在一些实施例中,用户可以会议前通过个人的用户设备预览个人图像,例如,在当前的会议地点进行自拍,并且对自拍图像进行美颜调节。例如,用户可以就皮肤美白、肤质、皱纹、脸型、五官的大小或形状等美颜因素进行调整自拍图像,并生成与这些美颜因素相关联的参数。调节的参数可以作为预配置的个性化美颜参数保存下来,以便以后通过用户设备入会或会议设备入会时,读取该参数进行个性化美颜处理。
图4示出了根据本申请的一些实施例的用于生成用户的个性化美颜参数的示例过程的示意流程图。过程400可以由用户设备104、114来执行,或者由运行在线视频会议应用的适当的电子设备来执行。
在框410,在用户设备上显示包括用户的人脸的图像。用户设备的本地图像捕获模块260采集与上述多人场景图像不同的另一图像。由于是个人场景,此处采集到用户本人面部图像,也称为原始个人图像。
接下来,用户设备通过人脸识别模块280的人脸检测子模块,得到人脸区域X。用户可以针对该区域进行美颜调节。另外,用户设备还可以通过人脸识别模块280人脸识别模块获得当前用户的用户标识。
如果用户曾经保存过个性化美颜参数,例如,在其他会议地点生成的个性化美颜参数,或者存在针对该用户的通用美颜参数,则可以使用已有的美颜参数来呈现用户的个人图像。在一些实施例中,用户设备可以使用美颜参数收发模块294,基于用户的标识来获取用户的预先存储的个性化美颜参数。通过图像处理模块296,用户设备可以使用该预先存储的个性化美颜参数处理捕获到的原始个人图像。然后,通过显示模块292,用户设备可以显示经处理的图像以用于预览。以此方式,可以先根据用户的通用个性化参数来生成个人预览图像,以便于用户在当前环境下进一步调整适合当前地点或环境的个性化美颜参数,给用户的个性化美颜调节带来了便利。
另外,如果用户没有保存过个性化美颜参数或者没有通用的个性化美颜参数,可以用户设备可以显示所捕获的原始个人图像。
在框420,用户设备基于用户对该图像的操作来确定用户的个性化美颜参数。具体地,通过显示模块292显示根据个性化美颜信息美颜后的图像,同时用户可以针对自己的人脸进行精细的美颜处理。用户处理的因素包括但不限于:皮肤美白、肤质、皱纹、脸型、五官的大小或形状等。一旦用户完成了个人美颜调节,可以将各个美颜因素的美颜参数确定为当前的个性化美颜参数。
在框430,用户设备发送个性化美颜参数以用于与用户的标识相关联地存储。具体地,用户设备可以确定当前会议地点(例如位置信息或当前会议设备的标识),并且发送会议地点、已确定的个性化美颜参数到个性化美颜数据库108,以便与用户的标识相关联地存储。由此,用户的个性化美颜参数是根据会议地点来定制的,能够满足不同地点的美颜处理的不同需求,例如,光照调节的差异会导致不同的美颜需求。
继续参考图3,从个性化美颜数据库108获取的多个用户的个性化美颜参数可以形成为美颜参数集。在框330,会议设备使用美颜参数集处理图像。在一些实施例中,通过美颜处理模块244,会议设备直接使用所获取的用户的个性化美颜参数,对原始多人图像中的对应人脸区域进行美颜处理。由此,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。
由于多个用户的美颜偏好可能具有较大差别,例如,一些用户偏好皮肤美白。在这种情况下,对应的参数可能导致其美颜后的人脸在多人图像中过于突出而不协调。在一些实施例中,还可以对从个性化美颜数据库获取的个性化美颜参数进行调整,以生成与原始图像匹配的美颜参数集,从而保证在多人场景下不至于明显的失衡。
图5示出了根据本申请的一些实施例的确定用于处理图像的美颜参数集的示例过程的示意流程图。在图1所示的示例环境100中,方法500可以由会议设备102、112来执行,或者由运行在线视频会议应用的适当的电子设备来执行。
在框510,会议设备获取多个用户的预先存储的个性化美颜参数。如上所述,会议设备的美颜参数读写模块242可以根据已得到的用户标识,从个性化美颜数据库108读取用户的个性化美颜参数。
在框520,会议设备使用预先存储的个性化美颜参数处理原始图像。具体地,通过图像处理模块250,会议设备使用与原始图像中的各个人脸区域对应的个性化美颜参数处理原始图像,得到经处理的图像。
在框530,会议设备基于原始图像和经处理的图像来调整个性化美颜参数。具体地,可以由美颜结果评估模块244和多人美颜策略控制模块246来来调整个性化美颜参数。
如上所述,美颜结果评估模块244针对原始多人图像和美颜处理模块的处理结果,进行美颜程度评估。可以针对各个美颜因素分别进行图像的美颜程度评估。多人美颜策略控制模块246通过对美颜结果评估模块244给出的每个人的美颜结果,并综合多人相互关系进行美颜参数的局部调整,使得美颜处理的最终结果在多人范围内保持均衡和自然。下文将参照图6更详细地说明。
图6示出了根据本申请的一些实施例的用于调整个性化美颜参数的示例过程的示意流程图。
在框610,基于原始图像确定多个人脸的关于一个美颜因素的排序。具体地,会议设备可以确定多个人脸各自的关于一个美颜因素的第一得分,并且基于多个人脸各自的第一得分,确定第一排序。换句话说,针对特定美颜因素,对原始图像中的多个人脸进行美颜程度评估。可以根据得分对原始多人图像中的人脸进行排序,作为初始评估结果。
会议设备的美颜参数控制模块240中的美颜结果评估模块244针对原始捕获的实时画面中的多个人脸,针对m个不同的美颜因素(例如,皮肤美白、肤质、皱纹、脸型、五官的大小或形状等)计算初始评估结果。以下以皮肤美白作为示例的美颜因素来进行说明。
假设截取的人脸区域为X1,皮肤美白的初始评估结果为a11=f1(X1),其中f1()是皮肤美白程度评估算法。在一些实施例中,可以根据人脸区域亮度值评估方法进行评估,可以对图像转换为YUV表示,此时Y分量表示该像素的亮度值,假设f1(X)表示计算X图像中Y分量的平均值,此时a11=avg(gety(X1)),其中gety表示对X1取Y分量,avg表示求平均,对于原始多人图像中的n个人脸计算得到初始皮肤美白评估参数a11至a1n。依次类推,其他美颜因素初始程度依次可记录为a21至a2n、……、am1至amn等。这里,a表示评估得分,标记1-m表示各个美颜因素(该示例中,1表示皮肤美白),标记1-n表示对应的用户。
因此,可以根据皮肤美白的初始评估结果a11至a1n,对原始图像中的多个人脸进行排序,例如,按照从高到低的方式。
在框620,基于经预先存储的个性化美颜参数处理过的图像,确定多个人脸的关于该美颜因素的另一排序。
会议设备的美颜参数控制模块240中的美颜参数读写模块242从个性化美颜数据库108读取预先存储的个性化美颜参数,例如,参考图4所描述的用户通过用户设备自行设置的美颜参数,或者是上次的设置结果。个性化美颜参数的美颜因素和框610中的初始美颜程度评估涉及的美颜因素相同。这里,对于m类美颜因素,第X个用户对应的美颜参数以p1x~pmx表示。这里,p表示参数,标记1-m表示美颜因素,标记1-n表示对应的用户。例如,p1x表示皮肤美白程度、p2x表示肤质、等等。由此,p11是第一个用户的皮肤美白参数、p12表示第二个用户的皮肤美白参数、p1n表示第n个用户的皮肤美白参数,p21表示第一个用户的肤质参数、p22表示第二个用户的肤质参数、p2n表示第n个用户的肤质参数。依次类推,每个用户的个性化美颜参数是与各个美颜因素相关联的一组参数,分别为:p11至pm1、p12至pm2、p13至pm3、......、p1n至pmn。
会议设备的图像处理模块250对每个用户分别使用其对应的美颜参数进行预处理。以皮肤美白因素为例,假设截取的人脸区域为X1,以白色图层叠加法为皮肤美白处理示例,可以将一张和原始人脸区域大小完全相同的白色图层与人脸图像区域进行透明度叠加,提亮整体区域的亮度,其中的透明度值即可作为针对皮肤美白因素的程度参数p11(p11∈[0,255]),对应的美白结果为:
Y11=p11+(1-p11/255)*X1
=p11+X1-X1*p11/255(以YUV 444计算)。
其他每个用户的不同美颜因素的美颜结果依次类推。
继续上述示例,会议设备的美颜参数控制模块240的美颜结果评估模块244针对美颜预处理后的图像得到的评估结果b
b11=f1(Y11)
=avg(gety(p11+X1-X1*p11/255))
=p11+(1-p11/255)*avg(gety(X1))
=p11+(1-p11/255)*a11
类似地,可以根据预处理后美颜图像的评估结果b11至b1n,对原始图像中的多个人脸进行排序,例如,按照从高到低的方式,由此得到另一排序。
在框630,确定基于原始图像得到的排序和基于经处理的图像得到的排序是否相同。如果排序不同,即,使用预先存储的个性化美颜参数预处理后的图像中,针对美颜因素的人脸排序和原始图像的排序不一致,方法前进到框640,调整至少一个用户的与该美颜因素相关联的个性化美颜参数。
在一些实施例中,会议设备可以调整在处理后图像的排序中的排名高于原始图像排序的排名的至少一个用户的个性化美颜参数,使得第二排序和第一排序相同。
继续上述示例,针对n个用户的原始多人图像的美白因素初始评估结果a11至a1n进行排序,假设顺序是a13>a11>a12>......,要求预处理评估结果参数排序与此一致b13>b11>b12>......。如果出现乱序不一致,则可以局部调整反序的单元的美颜程度参数,调整对应的美颜程度参数p1x,使其尽可能保持一致。
以上文为例,假设实际的预处理评估结果是,b11>b13>b12......,则需要调整p11参数,使得b11能够位于b13和b12之间。应理解,美颜程度建议是宁欠勿过,尽量保质接近自然,避免美颜粗略导致太大的偏差。因此通过将大的值往小调来改变排序。根据美白公式:
b11=p11+(1-p11/255)*a11=(1-a11/255)*p11+a11
美颜评估结果b11和美颜因素参数p11呈正相关,因此需要将p11调小,具体调小幅度需要保证(1-a11/255)*p11+a11<b13,因此调节的目标范围是(b13-a11)/(1-a11/255)<p11<(b12-a11)/(1-a11/255)之间。以此方式,通过减小导致排序不一致的用户的美颜程度来满足原始图像的人脸排序约束。
另外,如果在框630确定基于原始图像得到的排序和基于经处理的图像得到的排序相同,方法前进到框650,确定是否已经针对所有美颜因素全部评估过。
如果还有没有处理过的美颜因素,则方法600返回框610,针对下一个美颜因素重复上述框610至650。
在一些实施例,会议设备在基于原始多人图像确定多个人脸的关于下一个美颜因素(例如,肤质)的排序。这个排序将作为针对该美颜因素进行美颜处理的约束。然后,会议设备基于使用该美颜因素的个性化美颜参数处理过的图像来确定多个人脸的排序。如果排序不同,则会议设备可以类似地调整至少一个用户的与该美颜因素相关联的个性化美颜参数。
以此方式,可以重复地针对不同美颜因素来调整预先存储的个性化美颜参数,使得经过美颜处理的多人图像在多个美颜因素维度上都符合原始图像的人脸排序约束。
如果在框650确定所有美颜因素都已经被全部处理过,则方法600前进到框660,会议设备确定经调整的美颜参数集。具体地,美颜参数集包括经过上述方式调整后的个性化美颜参数。
调整后的个性化美颜参数可以在方法300中被应用于美颜处理原始多人图像,例如,在框330。由此,通过对使用个性化美颜参数进行美颜处理后的效果进行评估,使得其排序不至于和原始画面美颜程度信息产生错序,使得在保证用户个性化美颜处理的同时,结果尽可能均衡自然。
利用图像发送模块220,会议设备可以将美颜处理后的多人图像发送到其他会议设备或用户设备进行展示,也可以在本地会议室的显示设备上展示。如果在会议室参会的用户对画面中个人的美颜结果不满意,可以通过个人的用户设备接入会议设备以获取图像进行实时调整,调整完的美颜参数送回给会议设备实时生效。参考图7和图8描述该过程。
图7示出了根据本申请的一些实施例的图像处理方法700的示意流程图。过程400可以由用户设备104、114来执行,或者由运行在线视频会议应用的适当的电子设备来执行。
在框710,用户设备接收包括多个人脸的图像和针对多个人脸的美颜参数集。具体地,通过图像接收模块270,从会议设备接收包括多个人脸的图像,该图像可以是会议设备实时捕获的原始多人图像。通过美颜参数收发模块294,从会议设备接收包括当前被用于美颜处理的美颜参数集。如上所述,美颜参数集可以包括从个人美颜数据库108获取的一组个性化参数或者经过调整的个性化参数。继续上述示例,当前使用的个性化美颜参数可以包括:p11至pm1、p12至pm2、p13至pm3、......、p1n至pmn,其中p11至pm1是针对第一美颜因素的n个用户的个性化美颜参数,p12至pm2是针对第二美颜因素的n个用户的个性化美颜参数,p13至pm3是针对第三美颜因素的n个用户的个性化美颜参数、p1n至pmn是针对第m美颜因素的n个用户的个性化美颜参数。
在框720,用户设备显示使用美颜参数集处理该图像得到的图像。具体地,用户设备采用和会议设备同样的美颜算法生成处理后图像供用户预览,同时得到处理完成后各因子的美颜处理评估结果,例如,根据上述示例的b11至bm1、b12至bm2、b13至bm3、......、bm1至bmn。评估过程与参考图6描述的过程类似,这里不再赘述。
在框730,用户设备基于用户对处理后的图像的操作更新美颜参数集。例如,用户在用户设备的显示界面上操作,针对各个美颜因素来调节美颜效果,直到自己满意为止。通过美颜控制模块290中的美颜参数读写模块(未示出),调整后的个性化美颜参数可以被临时存储在本地。
在一些实施例中,用户设备接收用户对与一个美颜因素相关联的个性化美颜参数的调整。用户设备还可以利用经调整的个性化美颜参数来更新美颜参数集中的用户的个性化美颜参数,
在框740,用户设备发送经更新的美颜参数集。具体地,通过美颜参数收发模块294,用户设备可以将调整后的个性化美颜参数发送回会议设备。由此,会议设备可以基于更新后的个性化美颜参数来呈现会议图像。
以此方式,用户可以通过用户设备获取本地的实时多人图像,针对自己的实时预览效果做精细调节,调节后的美颜信息能够实时同步和生效,使得用户在会议中能保持好的形象。
为了使得美颜处理的最终结果在多人范围内保持均衡和自然,可以对用户设备做出的实时调整施加约束。换句话说,基于实时美颜参数更新得到的多人图像和原始图像的评估结果可以是一致的。
图8示出了根据本申请的一些实施例的用于更新个性化美颜参数的示例过程800的示意流程图。根据过程800,可以施加实时美颜参数调整的约束。
在框810,用户接收用户对与一个美颜因素相关联的个性化美颜参数的调整。如上所述,用户可以在用户设备的显示界面上操作,针对各个美颜因素来调节美颜效果。应理解,在用户调节过程中,用户设备可以产生与用户操作对应的个性化美颜参数。
在框820,确定用户的调整是否在范围内。如果是,则过程800前进到框830,利用经调整的个性化美颜参数来更新该用户的个性化美颜参数。如果用户的调整不在范围内,则前进到框840,生成提醒。
在一些实施例中,为了确定用户的调整是否在范围内,用户设备可以基于个性化美颜参数,确定用户的人脸的相应美颜因素的预期得分。可以根据参照图6的框620描述的评估过程来确定该预期得分,这里不再赘述。
在用户调节美颜参数过程中,以临近的前后用户作为上述范围的界限,当用户对某项因子进行调节超过界限时,在框840,生成用户调节过度的提醒。
仍以皮肤美白因素为例。假设用户的美白参数为p11,当前美颜程度评估结果b11,美白程度排序结果为b13>b11>b12>......,则当用户调整新的p11是的新的评估结果b11>b13或b11<b12时,提醒用户调节过度,建议用户调节p11使得对应的b11在b13和b12之间的范围内。
借助过程800,可以确定用户实时调整的个性化美颜参数是否被允许,被允许的个性化美颜参数可以被用于对整体图像的进行美颜处理。由此,用户实时调节的个性化美颜信息满足包括多个人脸的原始图像的人脸排序约束,而不会产生过度调整,从而保证整个图像中的美颜处理不至于出现明显的不合理的结果,符合自然效果。
图9示出了根据本申请的实施例的图像处理装置900的示意框图。装置900包括识别单元910、美颜参数集确定单元920、以及图像处理单元930。识别单元可以通过例如图2A所示的人脸识别模块230来实现。美颜参数集确定单元920可以通过例如美颜参数控制模块240来实现,图像处理单元930可以通过图像处理模块250来实现。
识别单元910被配置为识别与图像中的多个人脸对应的多个用户。美颜参数集确定单元920被配置为基于多个用户各自的个性化美颜参数确定用于处理图像的美颜参数集。图像处理单元930被配置为使用美颜参数集处理图像。这里,图像可以是摄像头拍摄到的原始图像或者经过统一预处理后得到的图像。图像可以静态图像、视频或者视频的图像帧。以此方式,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。
在一些实施例中,美颜参数集确定单元920还可以被配置为:获取多个用户的预先存储的个性化美颜参数;使用所获取的个性化美颜参数处理图像;以及基于图像和经处理的图像来调整个性化美颜参数以得到用于处理图像的美颜参数集。以此方式,可以对预先存储的各个用户的个性化美颜参数来生成适合当前场景的美颜参数集,使得在满足个性化美颜诉求的基础上,保证多人图像整体上更为协调。
在一些实施例中,美颜参数集确定单元920还可以被配置为:基于图像来确定多个人脸的关于第一美颜因素的第一排序;基于经处理的图像,确定多个人脸的关于第一美颜因素的第二排序,且第二排序不同于第一排序;调整多个用户中的至少一个用户的与第一美颜因素相关联的第一个性化美颜参数。以此方式,可以从基于原始图像来分析每个人脸在不同美颜因素维度的程度评估,以此排序作为约束规则;应用个性化美颜参数美颜后,针对各维度进行美颜程度评估,评估后的排序结果应保持和原始图像一致,对于不一致的人脸进行局部调整,通过该处理保证整个图像中的美颜处理不至于出现明显的不合理的结果,符合自然效果。
在一些实施例中,美颜参数集确定单元920还可以被配置为:确定多个人脸各自的关于第一美颜因素的第一得分;以及基于多个人脸各自的第一得分,确定第一排序。以此方式,针对不同的美颜因素,对各个人脸进行评估,评估结果可以用作上述排序的依据。
在一些实施例中,美颜参数集确定单元920还可以被配置为:调整与在第二排序的排名高于第一排序的排名的人脸对应的至少一个用户的第一个性化美颜参数,使得第二排序和第一排序相同。以此方式,通过减小导致排序不一致的用户的美颜程度来满足原始图像的人脸排序约束,美颜处理与原始图像相比不会有太大偏差。
在一些实施例中,美颜参数集确定单元920还可以被配置为:基于图像,确定多个人脸的关于第二美颜因素的第三排序;基于经处理的图像,确定多个人脸的关于第二美颜因素的第四排序,且第四排序不同于第三排序;以及调整多个用户中的至少一个用户的与第二美颜因素相关联的第二个性化美颜参数。以此方式,可以重复地针对不同美颜因素来调整预先存储的个性化美颜参数,使得经过美颜处理的多人图像在多个美颜因素维度上都符合原始图像的人脸排序约束。
在一些实施例中,美颜参数集确定单元920还可以被配置为:基于图像被采集的地点,获取与地点相关联的个性化美颜参数。以此方式,用户的个性化美颜参数还可以根据多人图像的采集地点来定制,以满足不同地点的美颜处理的不同需求,例如,光照调节的差异会导致不同的美颜需求。
在一些实施例中,个性化美颜参数可以包括与以下至少一个美颜因素相关联的参数:皮肤美白、肤质、皱纹、脸型、五官的大小或形状。以此方式,可以从多个美颜因素对人脸进行美颜处理,达到更好的处理效果。
在第一方面的一些实施例中,装置900还可以包括实时调整单元。实时调整单元可以被配置为:向多个用户中的至少一个用户的用户设备发送图像和美颜参数集;从用户设备接收经更新的美颜参数集;以及使用经更新的美颜参数集处理图像。以此方式,用户能够实时预览美颜效果并且对本人进行精细的美颜调节,调节完后的个性化美颜参数可以被实时同步,保证多人图像中的美颜程度实时进行更新。
图10出了根据本申请的实施例的另一图像处理装置1000的示意框图。装置1000包括接收单元1010、显示单元1020、更新单元1030和发送单元1040。在一些实施例中,接收单元1010可以通过例如图2B图像接收模块270来实现。显示单元1020可以通过例如显示模块292来实现。更新单元1030可以通过例如美颜参数控制模块290来实现。图像处理单元1040可以通过图像处理模块296来实现。
接收单元1010被配置为接收包括多个人脸的图像和针对多个人脸的美颜参数集。显示单元1020被配置为显示使用所述美颜参数集处理所述图像得到的图像。更新单元1030被配置为基于用户对处理后的图像的操作更新所述美颜参数集。发送单元被配置为发送经更新的美颜参数集。借助装置800,用户可以通过用户设备获取本地的实时多人图像,针对自己的实时预览效果做精细调节,调节后的美颜信息能够实时同步和生效,使得用户在会议中能保持好的形象。
在一些实施例中,美颜参数集可以基于多个用户各自的个性化美颜参数而确定。在一些实施例中,个性化美颜参数可以包括与以下至少一个美颜因素相关联的参数:皮肤美白、肤质、皱纹、脸型、五官的大小或形状。由此,用户可以从多个美颜因素对自己进行个性化美颜处理,达到更好的处理效果。
在一些实施例中,更新单元1030可以被配置为:接收用户对与第一美颜因素相关联的第一个性化美颜参数的调整;以及利用经调整的第一个性化美颜参数来更新美颜参数集中的用户的个性化美颜参数。由此,用户针对各个美颜因素维度来调节实时的个性化美颜信息,使得用户在会议中能保持好的形象。
在一些实施例中,装置1000还可以包括提醒单元。提醒单元被配置为响应于用户对第一个性化美颜参数的过度调整,生成提醒。由此,用户实时调节的个性化美颜信息满足包括多个人脸的原始图像的人脸排序约束,而不会产生过度调整,从而保证整个图像中的美颜处理不至于出现明显的不合理的结果,符合自然效果。
在一些实施例中,更新单元1030还可以被配置为:基于第一个性化美颜参数,确定用户的人脸的关于第一美颜因素的预期得分,如果预期得分在指定范围内,利用第一个性化美颜参数来更新针对该用户的个性化美颜参数。以此方式,可以确定用户实时调整的个性化美颜参数是否被允许,被允许的个性化美颜参数可以被用于对整体图像的进行美颜处理。也就是说,美颜处理后的图像依然符合原始图像的人脸排序约束。
在一些实施例中,更新单元1030还可以被配置通过如下方式来确定指定范围:基于处理后的图像,确定多个人脸各自的关于第一美颜因素的第一得分;基于多个人脸的第一得分,确定第一排序;以及将第一排序中与用户的人脸相邻的两个人脸各自的第一得分分别确定为指定范围的界限。
在一些实施例中,显示单元1020还可以被配置为显示包括用户的人脸的另一图像。更新单元1030还可以被配置为基于用户对另一图像的操作来确定用户的个性化美颜参数。发送单元1040还可以被配置为发送个性化美颜参数以用于与用户的标识相关联地存储。以此方式,在用户加入多人场景(例如,会议设备拍摄包括多个人的视频)之前,可以使用用户设备事先对自己的单人图像进行调节,确保良好的个人形象,同时在此过程中可以收集用户的个性化美颜参数,作为会议设备在多人场景下进行个性化美颜的参数依据,保证个性化效果。
在一些实施例中,装置1000还可以包括地点确定单元,地点确定单元被配置为确定该另一图像被采集的地点(例如,位置或会议设备的标识)。发送单元1040还可以被配置为发送地点和个性化美颜参数以用于与用户的标识相关联地存储。以此方式,用户的个性化美颜参数还可以根据多人图像的采集地点来定制,以满足不同地点的美颜处理的不同需求,例如,光照调节的差异会导致不同的美颜需求。
在第二方面的一些实施例中,显示单元1020还可以被配置为显示经过使用预先存储的个性化美颜参数处理后的所述另一图像,该个性化美颜参数可以是预先存储的个性化美颜参数。以此方式,可以先根据用户的通用个性化参数来生成个人预览图像,以便于用户在当前环境下进一步调整适合当前地点或环境的个性化美颜参数,给用户的个性化美颜调节带来便利。
通过以上结合图1至图10的描述可以看到,在根据本申请的一些实施例中,通过人脸识别技术识别出与图像中的多个人脸对应的用户,并针对不同用户获取其个性化美颜参数。电子设备使用由这些用户的个性化美颜参数组成的美颜参数集对上述图像进行美颜处理。以此方式,可以为用户提供多人场景的可即时进行的美颜处理,美颜处理可以即时生效,从而保证在多人场景尽可能满足不同用户各自的美颜诉求。在一些实施例中,用户还可以在会议期间通过用户设备获取本地的实时多人图像,针对自己的实时预览效果做精细调节,调节后的美颜信息能够实时同步和生效,使得用户在会议中能保持好的形象。
示例装置和设备
图11示出了可以用来实施本申请的实施例的示例设备1100的示意性框图。设备1100可以用于实现如图1和图2所示的会议设备102、112,以及用户设备104、114。如图所示,设备1100包括中央处理单元(CPU)1101,其可以根据存储在只读存储器(ROM)1102中的计算机程序指令或者从存储单元1208加载到随机访问存储器(RAM)1103中的计算机程序指令,来执行各种适当的动作和处理。在RAM 1103中,还可存储设备1100操作所需的各种程序和数据。CPU 1101、ROM 1102以及RAM 1103通过总线1204彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
设备1100中的多个部件连接至I/O接口1105,包括:输入单元1106,例如键盘、鼠标等;输出单元1107,例如各种类型的显示器、扬声器等;存储单元1108,例如磁盘、光盘等;以及通信单元1109,例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
上文所描述的各个过程和处理,例如方法或过程300、400、500、600、700和/或800,可由处理单元1101执行。例如,在一些实施例中,方法或过程300、400、500、600、700和/或800可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1108。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序被加载到RAM 1103并由CPU 1101执行时,可以执行上文描述的方法或过程300、400、500、600、700和/或800的一个或多个动作。
本申请可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于执行本申请的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本申请操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本申请的各个方面。
这里参照根据本申请实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本申请的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本申请的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本申请的各实施方式,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施方式。在不偏离所说明的各实施方式的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施方式的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其他普通技术人员能理解本文披露的各实施方式。
Claims (24)
1.一种图像处理方法,其特征在于,包括:
识别与图像中的多个人脸对应的多个用户;
基于所述多个用户各自的个性化美颜参数确定用于处理所述图像的美颜参数集;以及
使用所述美颜参数集处理所述图像。
2.根据权利要求1所述的方法,其特征在于,确定用于处理所述图像的美颜参数集包括:
获取所述多个用户的预先存储的个性化美颜参数;
使用所获取的个性化美颜参数处理所述图像;以及
基于所述图像和经处理的图像,调整所述个性化美颜参数以得到用于处理所述图像的所述美颜参数集。
3.根据权利要求2所述的方法,其特征在于,调整所述个性化美颜参数包括:
基于所述图像,确定所述多个人脸的关于第一美颜因素的第一排序;
基于所述经处理的图像,确定所述多个人脸的关于所述第一美颜因素的第二排序,且所述第二排序不同于所述第一排序;以及
调整所述多个用户中的至少一个用户的与所述第一美颜因素相关联的第一个性化美颜参数。
4.根据权利要求2所述的方法,其特征在于,获取所述多个用户的预先存储的个性化美颜参数包括:
基于所述图像被采集的地点,获取与所述地点相关联的所述个性化美颜参数。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
向所述多个用户中的至少一个用户的用户设备发送所述图像和所述美颜参数集;
从所述用户设备接收经更新的美颜参数集;以及
使用所述经更新的美颜参数集处理所述图像。
6.一种图像处理方法,其特征在于,包括:
接收包括多个人脸的图像和针对所述多个人脸的美颜参数集;
显示使用所述美颜参数集处理所述图像得到的图像;
基于用户对处理后的图像的操作更新所述美颜参数集;以及
发送经更新的美颜参数集。
7.根据权利要求6所述的方法,其特征在于,基于用户对处理后的图像的操作更新所述美颜参数集包括:
接收所述用户对与第一美颜因素相关联的第一个性化美颜参数的调整;以及
利用经调整的第一个性化美颜参数来更新所述美颜参数集中的所述用户的个性化美颜参数。
8.根据权利要求7所述的方法,还包括:
响应于所述用户对第一个性化美颜参数的过度调整,生成提醒。
9.根据权利要求6所述的方法,还包括:
基于所述用户对所述另一图像的操作来确定所述用户的个性化美颜参数;以及
发送所述个性化美颜参数以用于与所述用户的标识相关联地存储。
10.根据权利要求9所述的方法,其特征在于,发送所述个性化美颜参数以用于与所述用户的标识相关联地存储包括:
确定所述另一图像被采集的地点,以及
发送所述地点和所述个性化美颜参数以用于与所述用户的标识相关联地存储。
11.一种图像处理装置,包括:
识别单元,被配置为识别与图像中的多个人脸对应的多个用户;
美颜参数确定单元,被配置为基于所述多个用户各自的个性化美颜参数确定用于处理所述图像的美颜参数集;以及
图像处理单元,被配置为使用所述美颜参数集处理所述图像。
12.根据权利要求11所述的装置,其特征在于,所述美颜参数确定单元还被配置为:
获取所述多个用户的预先存储的个性化美颜参数;
使用所获取的个性化美颜参数处理所述图像;以及
基于所述图像和经处理的图像,调整所述个性化美颜参数以得到用于处理所述图像的所述美颜参数集。
13.根据权利要求12所述的装置,其特征在于,所述美颜参数确定单元还被配置为:
基于所述图像,确定所述多个人脸的关于第一美颜因素的第一排序;
基于所述经处理的图像,确定所述多个人脸的关于所述第一美颜因素的第二排序,且所述第二排序不同于所述第一排序;以及调整所述多个用户中的至少一个用户的与所述第一美颜因素相关联的第一个性化美颜参数。
14.根据权利要求12所述的装置,其特征在于,所述美颜参数确定单元还被配置为:
基于所述图像被采集的地点,获取与所述地点相关联的所述个性化美颜参数。
15.根据权利要求11所述的装置,还包括更新单元,所述更新单元被配置为:
向所述多个用户中的至少一个用户的用户设备发送所述图像和所述美颜参数集;
从所述用户设备接收经更新的美颜参数集;以及
使用所述经更新的美颜参数集处理所述图像。
16.一种图像处理装置,包括:
接收单元,被配置为接收包括多个人脸的图像和针对所述多个人脸的美颜参数集;
显示单元,被配置为显示使用所述美颜参数集处理所述图像得到的图像;;
更新单元,被配置为基于用户对处理后的图像的操作更新所述美颜参数集;以及
发送单元,被配置为发送经更新的美颜参数集。
17.根据权利要求16所述的装置,其特征在于,所述更新单元还被配置为:
接收所述用户对与第一美颜因素相关联的第一个性化美颜参数的调整;以及
利用经调整的第一个性化美颜参数来更新所述美颜参数集中的所述用户的个性化美颜参数。
18.根据权利要求17所述的装置,还包括提醒单元,所述提醒单元被配置为:
响应于所述用户对第一个性化美颜参数的过度调整,生成提醒。
19.根据权利要求16所述的装置,还包括个性美颜参数生成单元,个性美颜参数生成单元被配置为:
基于所述用户对所述另一图像的操作来确定所述用户的个性化美颜参数;以及
发送所述个性化美颜参数以用于与所述用户的标识相关联地存储。
20.根据权利要求19所述的装置,其特征在于,所述个性美颜参数生成单元还被配置为包括:
确定所述另一图像被采集的地点,以及
发送所述地点和所述个性化美颜参数以用于与所述用户的标识相关联地存储。
21.一种电子设备,包括:
处理单元和存储器,
所述处理单元执行所述存储器中的指令,使得所述电子设备执行根据权利要求1至5中任一项、或者权利要求6至10中任一项所述的方法。
22.一种电子设备,包括:
处理单元和存储器;
所述处理单元执行所述存储器中的指令,使得所述电子设备执行根据权利要求1至5中任一项、或者权利要求6至10中任一项所述的方法。
23.一种计算机可读存储介质,其上存储有一条或多条计算机指令,其中一条或多条计算机指令被处理器执行使所述处理器执行根据权利要求1至5中任一项、或者权利要求6至10中任一项所述的方法。
24.一种计算机程序产品,包括机器可执行指令,所述机器可执行指令在由设备执行时使所述设备执行根据权利要求1至5中任一项、或者权利要求6至10中任一项所述的方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2022101977916 | 2022-03-02 | ||
CN202210197791 | 2022-03-02 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116739886A true CN116739886A (zh) | 2023-09-12 |
Family
ID=87901788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211321399.4A Pending CN116739886A (zh) | 2022-03-02 | 2022-10-26 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116739886A (zh) |
-
2022
- 2022-10-26 CN CN202211321399.4A patent/CN116739886A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210360195A1 (en) | Virtual 3d communications with actual to virtual cameras optical axes compensation | |
EP3855731A1 (en) | Context based target framing in a teleconferencing environment | |
CN106682632B (zh) | 用于处理人脸图像的方法和装置 | |
US9424678B1 (en) | Method for teleconferencing using 3-D avatar | |
CN111402399B (zh) | 人脸驱动和直播方法、装置、电子设备及存储介质 | |
CN110503703A (zh) | 用于生成图像的方法和装置 | |
KR101598069B1 (ko) | 비디오에서의 시선 정렬 시스템 및 방법 | |
WO2016110188A1 (zh) | 一种即时视频中的人脸美化方法和电子设备 | |
CN105874506A (zh) | 具有细节保留的图像模糊 | |
US20210258584A1 (en) | Static video recognition | |
CN111583415B (zh) | 信息处理方法、装置和电子设备 | |
JP2022526053A (ja) | ダイナミックデプス画像を撮影して編集するための手法 | |
WO2016165614A1 (zh) | 一种即时视频中的表情识别方法和电子设备 | |
CN110377574B (zh) | 图片的协作处理方法及装置、存储介质、电子装置 | |
CN105960801A (zh) | 增强视频会议 | |
CN110516598A (zh) | 用于生成图像的方法和装置 | |
EP3739870A1 (en) | Depth camera based image stabilization | |
WO2021057644A1 (zh) | 拍摄方法和装置 | |
US20200193711A1 (en) | Virtual and physical reality integration | |
CN116739886A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
JP2005142765A (ja) | 撮像装置及び方法 | |
CN111314627B (zh) | 用于处理视频帧的方法和装置 | |
CN112734657A (zh) | 基于人工智能和三维模型的云合影方法、装置及存储介质 | |
JP2003077001A (ja) | 顔画像通信装置およびプログラム | |
Jikadra et al. | Video calling with augmented reality using WebRTC API |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |