CN112037162B - 一种面部痤疮的检测方法及设备 - Google Patents

一种面部痤疮的检测方法及设备 Download PDF

Info

Publication number
CN112037162B
CN112037162B CN201910413453.XA CN201910413453A CN112037162B CN 112037162 B CN112037162 B CN 112037162B CN 201910413453 A CN201910413453 A CN 201910413453A CN 112037162 B CN112037162 B CN 112037162B
Authority
CN
China
Prior art keywords
image
acne
skin
electronic device
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910413453.XA
Other languages
English (en)
Other versions
CN112037162A (zh
Inventor
黄伟
董辰
郜文美
卢曰万
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN201910413453.XA priority Critical patent/CN112037162B/zh
Publication of CN112037162A publication Critical patent/CN112037162A/zh
Application granted granted Critical
Publication of CN112037162B publication Critical patent/CN112037162B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30088Skin; Dermal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

本申请公开了一种面部痤疮的检测方法及设备,涉及图像处理领域。能够检测出用户面部皮肤中的痤疮和痘印,能对痤疮进行分类。对包括人脸面部皮肤的第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置;根据检测结果获取第一图像的人脸面部皮肤ROI的二值化掩膜;根据第一图像和该二值化掩膜获取第一通道图像的人脸面部皮肤ROI图像,即第二图像,第一通道能够反映痤疮和痘印;获取第二图像的二值化掩膜,并提取人脸面部皮肤中所有痤疮和/或痘印的连通域及对应的外接矩形框;根据外接矩形框从第一图像中获取待检测图像块;根据神经网络模型对待检测图像块进行检测,确定人脸面部皮肤中不同类型的痤疮和痘印,并在第一图像中标记。

Description

一种面部痤疮的检测方法及设备
技术领域
本申请涉及图像处理领域,尤其涉及一种面部痤疮的检测方法及设备。
背景技术
随着移动互联网的发展以及人们生活水平的提升,手机等电子设备已成为人们日常生活和工作中的必需品。通过在手机中安装应用程序(application,APP,以下简称为应用),可以完善手机功能,为用户提供更丰富的使用体验。例如,通过在手机中安装肌肤检测类的应用,可以辅助用户检测面部皮肤的细纹、毛孔、黑头、红区、痤疮、色斑、肌龄、法令纹、黑眼圈等项,并根据检测结果对用户的面部皮肤进行科学评价并给出护理建议。另外,根据对面部皮肤问题的市场调研结果,大多数用户对痤疮这一项较为关注。但目前现有检测痤疮和痘印的应用较少,并且未能提供一个较高的检测稳定性和准确率。
发明内容
本申请实施例提供一种面部痤疮的检测方法及设备,能够较准确,较稳定地检测出用户面部皮肤中的痤疮和痘印,并能对痤疮进行分类。
为了达到上述目的,本申请实施例采用如下技术方案:
第一方面,本申请实施例提供一种面部痤疮的检测方法,该方法可以包括:电子设备获取包括人脸面部皮肤图像的第一图像;对该第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置;根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤ROI的二值化掩膜;根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,该第二图像是第一图像的第一通道图像的人脸面部皮肤ROI图像,该第一通道是能够反映痤疮和痘印的颜色通道;电子设备获取第二图像的二值化掩膜,根据第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块;电子设备根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型;其中,皮肤类型可以包括痤疮、痘印和皮肤,并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型;在第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型。
本申请实施例提供的面部痤疮的检测方法,通过对包括人脸面部皮肤的第一图像进行检测,以获得人脸面部皮肤的轮廓和特征点的位置。根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤ROI的二值化掩膜。根据第一图像和该二值化掩膜获取第一图像的第一通道图像的人脸面部皮肤ROI图像,即获得第二图像,第一通道是能够反映痤疮和痘印的颜色通道。获取第二图像的二值化掩膜,并根据第二图像的二值化掩膜提取人脸面部皮肤中所有痤疮和/或痘印的连通域及对应的外接矩形框。根据外接矩形框从第一图像中获取待检测图像块。根据神经网络模型对待检测图像块进行检测,确定人脸面部皮肤中不同类型的痤疮和痘印,并在第一图像中标记。实现了人脸面部皮肤中痤疮和痘印较准确,较稳定地检测、分类和标记,使得电子设备更加智能,提高了用户体验。并且,预先剔除了面部大部分正常皮肤,仅对提取出的能够反映痤疮和痘印的颜色通道图像的人脸面部皮肤ROI进行痤疮和/或痘印的检测和分类,极大节省了计算复杂度,实现了面部痤疮的快速检测。
在一种可能的实现方式中,该方法还可以包括:电子设备获取人脸面部皮肤中所有痤疮的大小和严重程度,以及所有痘印的大小和严重程度,根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分。这样,通过根据人脸面部皮肤的痤疮和痘印的检测及分类结果,实现了对用户人脸面部皮肤痤疮严重程度的量化评分。用户可以通过多次检测,利用得到的多个量化评分,得到面部痤疮严重程度的变化趋势。通过快速呈现,痤疮类型的分类,以及动态大小的标记框呈现,具有一定的可发现性。
在另一种可能的实现方式中,上述电子设备根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分,可以包括:电子设备根据
Figure BDA0002063563630000021
确定量化评分。利用该公式实现了面部皮肤痤疮严重程度的量化评分。
其中,score表示量化评分,W为权重系数矩阵,
Figure BDA0002063563630000022
m表示不同痤疮类型或痘印,n表示痤疮和痘印的大小以及严重程度,xt为痘印或痤疮的类型,b为常数。
在另一种可能的实现方式中,上述电子设备根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤ROI的二值化掩膜,可以包括:电子设备根据人脸面部皮肤的轮廓,获取第一图像的人脸面部皮肤的二值化掩膜;在第一图像的人脸面部皮肤的二值化掩膜中,人脸面部皮肤的轮廓内的像素点的像素值为第一值,人脸面部皮肤的轮廓外的像素点的像素值为第二值;将第一图像的人脸面部皮肤的二值化掩膜中、人脸面部皮肤的特征点的位置对应区域内像素点的像素值置为第二值,以获得第一图像的人脸面部皮肤ROI的二值化掩膜,人脸面部皮肤的特征点包括:眉毛、眼睛、鼻子、嘴唇和面部外周轮廓。根据人脸面部的特征确定出了人脸面部皮肤ROI的二值化掩膜。
在另一种可能的实现方式中,上述电子设备根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,可以包括:电子设备将第一图像的颜色模型由RGB颜色模型转换为Lab颜色模型,并获取第一图像的第一通道图像,Lab颜色模型包括:L通道,a通道和b通道,第一通道为a通道;根据第一图像的a通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。根据确定的人脸面部皮肤ROI的二值化掩膜,提取出了能够反映痤疮和痘印的颜色通道图像的人脸面部皮肤ROI,以便进行痤疮和/或痘印的检测和分类,为面部痤疮的快速检测做好准备。
在另一种可能的实现方式中,上述电子设备根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,可以包括:电子设备将第一图像的颜色模型由RGB颜色模型转换为Ycbcr颜色模型,并获取第一图像的第一通道图像,Ycbcr颜色模型包括:Y通道,cb通道和cr通道,第一通道为cr通道;根据第一图像的cr通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。根据确定的人脸面部皮肤ROI的二值化掩膜,提取出了能够反映痤疮和痘印的颜色通道图像的人脸面部皮肤ROI,以便进行痤疮和/或痘印的检测和分类,为面部痤疮的快速检测做好准备。
在另一种可能的实现方式中,在上述电子设备获取第二图像的二值化掩膜之后,该方法还可以包括:电子设备去除第二图像的二值化掩膜中的噪声点;上述电子设备根据第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,可以包括:电子设备根据去除噪声点后的第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。通过去除第二图像的二值化掩膜的噪声点,对待检测的二值化掩膜进行优化调整,进一步节省了计算复杂度,实现面部痤疮的快速检测。
在另一种可能的实现方式中,在上述获取与每个连通域对应的外接矩形框之后,该方法还可以包括:电子设备调整外接矩形框的宽度和/或高度。通过调整外接矩形框的宽度和/高度,增加了痤疮及痘印与正常皮肤的对比,进一步提高了面部痤疮检测的准确性。
在另一种可能的实现方式中,上述电子设备根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块,可以包括:电子设备根据每个外接矩形框,从第一图像中截取与每个外接矩形框一一对应的图像块;电子设备将与每个外接矩形框一一对应的图像块的像素值调整为预设像素值,调整像素值后的图像块为待检测图像块。通过将截取的图像块调整为固定大小的待检测图像块,能够更好的利用神经网络模型确定该图像块对应皮肤位置处是否是痤疮或痘印,进一步提高了面部痤疮检测的准确性。
第二方面,本申请实施例提供一种电子设备,该电子设备可以包括:处理器和存储器;处理器和存储器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当该计算机指令被电子设备执行时,使得电子设备执行如下操作:获取第一图像,该第一图像包括人脸面部皮肤的图像;对第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置;根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜;根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,第二图像是第一图像的第一通道图像的人脸面部皮肤ROI图像,第一通道是能够反映痤疮和痘印的颜色通道;获取第二图像的二值化掩膜;根据第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框;根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块;根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型,皮肤类型包括痤疮、痘印和皮肤,并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型;在第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型。
在一种可能的实现方式中,当计算机指令被电子设备执行时,还使得电子设备执行如下操作:获取人脸面部皮肤中所有痤疮的大小和严重程度,以及所有痘印的大小和严重程度;根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分。
在另一种可能的实现方式中,根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分,具体为:根据
Figure BDA0002063563630000031
确定量化评分。
其中,score表示量化评分,W为权重系数矩阵,
Figure BDA0002063563630000041
m表示不同痤疮类型或痘印,n表示痤疮和痘印的大小以及严重程度,xt为痘印或痤疮的类型,b为常数。
在另一种可能的实现方式中,根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜,具体为:根据人脸面部皮肤的轮廓,获取第一图像的人脸面部皮肤的二值化掩膜;在第一图像的人脸面部皮肤的二值化掩膜中,人脸面部皮肤的轮廓内的像素点的像素值为第一值,人脸面部皮肤的轮廓外的像素点的像素值为第二值;将第一图像的人脸面部皮肤的二值化掩膜中、人脸面部皮肤的特征点的位置对应区域内像素点的像素值置为第二值,以获得第一图像的人脸面部皮肤ROI的二值化掩膜,人脸面部皮肤的特征点包括:眉毛、眼睛、鼻子、嘴唇和面部外周轮廓。
在另一种可能的实现方式中,根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,具体为:将第一图像的颜色模型由RGB颜色模型转换为Lab颜色模型,并获取第一图像的第一通道图像,Lab颜色模型包括:L通道,a通道和b通道,第一通道为a通道;根据第一图像的a通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。
在另一种可能的实现方式中,根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,具体为:将第一图像的颜色模型由RGB颜色模型转换为Ycbcr颜色模型,并获取第一图像的第一通道图像,Ycbcr颜色模型包括:Y通道,cb通道和cr通道,第一通道为cr通道;根据第一图像的cr通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。
在另一种可能的实现方式中,当计算机指令被电子设备执行时,还使得电子设备执行如下操作:去除第二图像的二值化掩膜中的噪声点;根据第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,具体为:根据去除噪声点后的第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。
在另一种可能的实现方式中,当计算机指令被电子设备执行时,还使得电子设备执行如下操作:调整外接矩形框的宽度和/或高度。
在另一种可能的实现方式中,根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块,具体为:根据每个外接矩形框,从第一图像中截取与每个外接矩形框一一对应的图像块;将与每个外接矩形框一一对应的图像块的像素值调整为预设像素值,调整像素值后的图像块为待检测图像块。
第三方面,本申请实施例提供一种计算机可读存储介质,包括:计算机软件指令;当计算机软件指令在电子设备中运行时,使得电子设备执行如第一方面或第一方面的可能的实现方式中任一项所述的面部痤疮的检测方法。
第四方面,本申请实施例提供一种计算机程序产品,当计算机程序产品在计算机上运行时,使得计算机执行如第一方面或第一方面的可能的实现方式中任一项所述的面部痤疮的检测方法。
第五方面,本申请实施例提供一种芯片系统,该芯片系统应用于电子设备;芯片系统包括接口电路和处理器;接口电路和处理器通过线路互联;接口电路用于从电子设备的存储器接收信号,并向处理器发送信号,信号包括存储器中存储的计算机指令;当处理器执行该计算机指令时,芯片系统执行如第一方面或第一方面的可能的实现方式中任一项所述的面部痤疮的检测方法。
第六方面,本申请实施例提供一种装置,该装置具有实现上述第一方面的方法中电子设备行为的功能。功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块,例如,获取单元或模块,确定单元或模块,标记单元或模块等。
应当理解的是,本申请中对技术特征、技术方案、有益效果或类似语言的描述并不是暗示在任意的单个实施例中可以实现所有的特点和优点。相反,可以理解的是对于特征或有益效果的描述意味着在至少一个实施例中包括特定的技术特征、技术方案或有益效果。因此,本说明书中对于技术特征、技术方案或有益效果的描述并不一定是指相同的实施例。进而,还可以任何适当的方式组合本实施例中所描述的技术特征、技术方案和有益效果。本领域技术人员将会理解,无需特定实施例的一个或多个特定的技术特征、技术方案或有益效果即可实现实施例。在其他实施例中,还可在没有体现所有实施例的特定实施例中识别出额外的技术特征和有益效果。
附图说明
图1为本申请实施例提供的一种电子设备的结构示意图;
图2为本申请实施例提供的一种面部痤疮的检测方法的流程示意图;
图3为本申请实施例提供的一种面部痤疮的检测方法的流程示意图;
图4为本申请实施例提供的一种面部痤疮的图像示意图;
图5为本申请实施例提供的一种图像的二值化掩膜的示意图;
图6为本申请实施例提供的另一种图像的二值化掩膜的示意图;
图7为本申请实施例提供的一种单通道图像的示意图;
图8为本申请实施例提供的另一种单通道图像的示意图;
图9为本申请实施例提供的另一种图像的二值化掩膜的示意图;
图10为本申请实施例提供的一种连通域的示意图;
图11为本申请实施例提供的一种待检测图像块的示意图;
图12为本申请实施例提供的一种电子设备的显示界面示意图;
图13为本申请实施例提供的另一种电子设备的显示界面示意图;
图14为本申请实施例提供的一种电子设备的组成示意图。
具体实施方式
本申请实施例提供一种面部痤疮的检测方法,该方法可以应用于电子设备。通过本申请实施例提供的方法,电子设备可以根据用户拍摄的包括人脸面部皮肤的图像,检测出该用户的人脸面部皮肤中的痤疮和痘印,并能对痤疮进行分类。还可在包括人脸面部皮肤的原始图像中标记出检测到的痘印以及不同类型的痤疮。实现了人脸面部皮肤中痤疮和痘印较准确,较稳定地检测、分类和标记,使得电子设备更加智能,提高了用户体验。
示例性的,本申请实施例中所述的电子设备可以是手机、平板电脑、桌面型、膝上型、手持计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本,以及增强现实(augmented reality,AR)\虚拟现实(virtual reality,VR)设备等设备,本申请实施例对该设备的具体形态不作特殊限制。
下面将结合附图对本申请实施例的实施方式进行详细描述。
请参考图1,为本申请实施例提供的一种电子设备的结构示意图。如图1所示,电子设备可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universalserial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中,传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本实施例示意的结构并不构成对电子设备的具体限定。在另一些实施例中,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以是电子设备的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,SIM接口,和/或USB接口等。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。移动通信模块150可以提供应用在电子设备上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。无线通信模块160可以提供应用在电子设备上的包括无线局域网(wireless localarea networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequencymodulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code divisionmultiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(globalnavigation satellite system,GLONASS),北斗卫星导航系统(beidou navigationsatellite system,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。例如,在本申请实施例中,GPU可以用于实现本实施例中图像处理相关的各个步骤。如,GPU可对包含人脸面部皮肤的图像,如第一图像进行检测,以获得人脸面部皮肤的轮廓和特征点的位置,GPU还可根据第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框等。该第二图像是第一图像的能够反映痤疮和痘印的颜色通道图像中人脸面部皮肤ROI图像。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备可以包括1个或N个显示屏194,N为大于1的正整数。例如,在本申请实施例中,显示屏194可以用于显示包括用户人脸面部皮肤的原始图像,还可用于显示标记了痘印和不同类型痤疮的图像等。
电子设备可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备可以包括1个或N个摄像头193,N为大于1的正整数。例如,在本申请实施例中,电子设备可以包括1个或多个前置摄像头,和/或,1个或多个后置摄像头。利用前置摄像头或后置摄像头,电子设备可以获取包括人脸面部皮肤的图像。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备可以支持一种或多种视频编解码器。这样,电子设备可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备的各种功能应用以及数据处理。例如,在本申请实施例中,处理器110(如GPU)可以通过执行存储在内部存储器121中的指令,对包括人脸面部皮肤的原始图像进行检测,以人脸面部皮肤中痤疮和痘印的检测、分类以及标记。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。当有触摸操作作用于显示屏194,电子设备根据压力传感器180A检测所述触摸操作强度。电子设备也可以根据压力传感器180A的检测信号计算触摸的位置。
陀螺仪传感器180B可以用于确定电子设备的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。磁传感器180D包括霍尔传感器。电子设备可以利用磁传感器180D检测翻盖皮套的开合。加速度传感器180E可检测电子设备在各个方向上(一般为三轴)加速度的大小。当电子设备静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备可以利用距离传感器180F测距以实现快速对焦。接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备通过发光二极管向外发射红外光。电子设备使用光电二极管检测来自附近物体的红外反射光。环境光传感器180L用于感知环境光亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备是否在口袋里,以防误触。指纹传感器180H用于采集指纹。电子设备可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。温度传感器180J用于检测温度。在一些实施例中,电子设备利用温度传感器180J检测的温度,执行温度处理策略。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备的表面,与显示屏194所处的位置不同。骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。SIM卡接口195用于连接SIM卡。
以下实施例中的方法均可以在具有上述硬件结构的电子设备中实现。
图2为本申请实施例提供的一种面部痤疮的检测方法的流程示意图。如图2所示,该方法可以包括:
S201、电子设备获取第一图像,该第一图像包括人脸面部皮肤的图像。
其中,用户可以操作电子设备,用电子设备的前置摄像头进行拍照,以获得包括人脸面部皮肤的图像,即获得第一图像。用户也可以操作电子设备,用电子设备的后置摄像头并配合闪光灯进行拍照,以获得该第一图像。当然,该第一图像也可以由其他电子设备发送给该电子设备。本实施例在此并不做具体限制。
S202、电子设备对第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置。
S203、电子设备根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤感兴趣区域(region of interest,ROI)的二值化掩膜。
电子设备可以对获取到的第一图像进行人脸检测,以获得该第一图像中的人脸面部皮肤的轮廓,以及眉毛、眼睛、鼻子、嘴唇,面部外周轮廓(即耳朵区域)这些特征点的位置。然后,可根据人脸面部皮肤的轮廓和特征点的位置,获取该第一图像的人脸面部皮肤ROI的二值化掩膜。其中,人脸面部皮肤ROI可以是仅包括人脸面部,且不包括眉毛、眼睛、鼻子、嘴唇,面部外周轮廓(即耳朵区域)这些特征点的区域。
S204、电子设备根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,该第二图像是第一图像的第一通道图像的人脸面部皮肤ROI图像。
其中,第一通道是能够反映痤疮和痘印的颜色通道。
S205、电子设备获取第二图像的二值化掩膜。
电子设备可以将第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜进行结合,以获得第二图像,该第二图像仅包括能够反映痤疮和痘印的颜色通道图像,且该颜色通道图像中仅包括人脸面部皮肤ROI图像。并获取该第二图像的二值化掩膜。
S206、电子设备根据第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。
S207、电子设备根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块。
电子设备在获取到第二图像的二值化掩膜后,可以根据该第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。然后,根据获得的每个外接矩形框,从第一图像中提取与每个外接矩形框对应的待检测图像块。
S208、电子设备根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型,该皮肤类型包括痤疮、痘印和皮肤,并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型。
S209、电子设备在第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型。
电子设备通过将获得的所有待检测图像块输入神经网络模型进行检测,可以确定出每个待检测图像块对应人脸面部皮肤位置处的皮肤类型是痤疮,还是痘印,还是皮肤。并可以在检测到待检测图像块对应人脸面部皮肤位置处的皮肤类型是痤疮时,检测出该痤疮的类型,如丘疹、脓疱、囊肿或结节等。最后,电子设备可以在获得的原始图像,即第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域处标记该位置的皮肤类型是哪种类型的痤疮,还是痘印。
本申请实施例提供的面部痤疮的检测方法,通过对包括人脸面部皮肤的第一图像进行检测,以获得人脸面部皮肤的轮廓和特征点的位置。根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤ROI的二值化掩膜。根据第一图像和该二值化掩膜获取第一图像的第一通道图像的人脸面部皮肤ROI图像,即获得第二图像,第一通道是能够反映痤疮和痘印的颜色通道。获取第二图像的二值化掩膜,并根据第二图像的二值化掩膜提取人脸面部皮肤中所有痤疮和/或痘印的连通域及对应的外接矩形框。根据外接矩形框从第一图像中获取待检测图像块。根据神经网络模型对待检测图像块进行检测,确定人脸面部皮肤中不同类型的痤疮和痘印,并在第一图像中标记。实现了人脸面部皮肤中痤疮和痘印较准确,较稳定地检测、分类和标记,使得电子设备更加智能,提高了用户体验。并且,仅对提取出的能够反映痤疮和痘印的颜色通道图像的人脸面部皮肤ROI进行痤疮和/或痘印的检测和分类,极大节省了计算复杂度。
图3为本申请实施例提供的另一种面部痤疮的检测方法的流程示意图。如图3所示,该方法可以包括:
S301、电子设备获取第一图像,该第一图像包括人脸面部皮肤的图像。
示例性的,以电子设备为手机为例,用户可以利用手机的后置摄像头配合闪光灯(如进行两次闪光拍照)或前置摄像头,根据语音提示近距离拍摄包括人脸面部皮肤的图像,以使得手机获得包括人脸面部皮肤的图像,即获得第一图像。拍摄的图像中原则上只包括一个用户的人脸最好。或者手机也可以接收来自其他电子设备(如其他手机)发送的包括人脸面部皮肤的图像,本申请实施例在此并不做具体限制。例如,第一图像可以如图4中的(b)所示。其中,图4中黑色点表示用户面部的痤疮或痘印。
另外,用户拍摄的图像通常除了包括人脸面部皮肤外,还会包括一些背景,在本实施例中,电子设备在获取到需要检测的图像(如用户拍摄到的图像)后,可以利用人脸检测算法将该图像中的背景区域去除,以获得包括人脸面部皮肤的图像。例如,用户拍摄的图像如图4中的(a)所示。电子设备可以将该图像中的背景区域(图4中的(a)所示的虚线框外的区域)去除,以获得图4中的(b)所示的包括人脸面部皮肤的图像(该图像也可以称为人脸大头照)。通过基于对去除背景后的人脸大头照进行后续处理,可以节省后续处理的复杂度,提高面部痤疮检测的效率。
S302、电子设备对第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置。
示例性的,在获取到包括人脸面部皮肤的图像后,电子设备可以利用图像处理技术和人脸检测算法,对该图像进行人脸检测,以获得该图像中人脸面部皮肤的轮廓,并定位出该人脸面部皮肤中眉毛、眼睛、鼻子、嘴唇,面部外周轮廓(即耳朵区域)这些特征点的位置。
根据检测到的人脸面部皮肤的轮廓和特征点的位置,电子设备可以获取该第一图像的人脸面部皮肤ROI的二值化掩膜。具体的,可以包括以下S303-S304。其中,人脸面部皮肤ROI可以是仅包括人脸面部,且不包括眉毛、眼睛、鼻子、嘴唇,面部外周轮廓(即耳朵区域)这些特征点的区域。
S303、电子设备根据人脸面部皮肤的轮廓,获取第一图像的人脸面部皮肤的二值化掩膜。
其中,在第一图像的人脸面部皮肤的二值化掩膜中,人脸面部皮肤的轮廓内的像素点的像素值为第一值,人脸面部皮肤的轮廓外的像素点的像素值为第二值。示例性的,第一值可以为255,第二值可以为0。也就是说,在电子设备获取到人脸面部皮肤的轮廓后,可以先利用皮肤分割算法分割出第一图像中的人脸面部皮肤,获得人脸面部皮肤的轮廓,然后将第一图像中该轮廓内的像素点的像素值置为255,将第一图像中该轮廓外的像素点的像素值置为0,以获得该第一图像的人脸面部皮肤的二值化掩膜。
例如,电子设备获得的图4中的(b)所示的第一图像的人脸面部皮肤的二值化掩膜如图5所示。可以看到的是,人脸面部皮肤的轮廓内,即图5所示的区域1内的像素点的像素值为255,区域1呈现白色,人脸面部皮肤的轮廓外,即图5所示的区域2内像素点的像素值为0,区域2呈现黑色。
S304、电子设备将第一图像的人脸面部皮肤的二值化掩膜中、人脸面部皮肤的特征点的位置对应区域内像素点的像素值置为第二值,以获得第一图像的人脸面部皮肤ROI的二值化掩膜。
电子设备在获得第一图像的人脸面部皮肤的二值化掩膜后,可以将人脸面部皮肤的二值化掩膜中用户的眉毛、眼睛、鼻子、嘴唇以及耳朵这些特征点的对应区域去除(或者说进行形态学腐蚀)。也就是说,电子设备可以将这些特征点的位置对应区域内像素点的像素值置为上述第二值,即0,这样便可获得第一图像的人脸面部皮肤ROI的二值化掩膜。
例如,结合图5,如图6中的(a)所示,电子设备可以根据检测到的眉毛和眼睛这两个特征点的位置,将图6中的(a)所示的第一图像的人脸面部皮肤的二值化掩膜中,用户左右眉毛和左右眼睛的位置对应区域,即图6中的(a)所示的区域1-1和区域1-2移除。也就是说,电子设备将图6中的(a)所示的区域1-1内和区域1-2内像素点的像素值置为0,区域1-1和区域1-2呈现黑色,如图6中的(b)所示。
电子设备还可以根据检测到的鼻子这个特征点的位置,将图6中的(a)所示的第一图像的人脸面部皮肤的二值化掩膜中,用户鼻子的位置对应区域,即图6中的(a)所示的区域2移除。也就是说,电子设备将图6中的(a)所示的区域2内像素点的像素值置为0,区域2呈现黑色,如图6中的(b)所示。
电子设备还可以根据检测到的嘴唇这个特征点的位置,将图6中的(a)所示的第一图像的人脸面部皮肤的二值化掩膜中,用户嘴唇的位置对应区域,即图6中的(a)所示的区域3移除。也就是说,电子设备将图6中的(a)所示的区域3内像素点的像素值也置为0,区域3呈现黑色,如图6中的(b)所示。
电子设备还可以根据检测到的面部外周轮廓特征点的位置,将图6中的(a)所示的第一图像的人脸面部皮肤的二值化掩膜中,用户左右两侧耳朵的位置对应区域,即图6中的(a)所示的区域4-1和区域4-2移除。也就是说,电子设备将图6中的(a)所示的区域4-1和区域4-2内像素点的像素值也置为0,区域4-1和区域4-2也呈现黑色,如图6中的(b)所示。
经过上述处理,便可以得到人脸面部皮肤ROI的二值化掩膜,如图6中的(b)所示。
S305、电子设备根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。
其中,第二图像是第一图像的第一通道图像的人脸面部皮肤ROI图像。第一通道是能够反映痤疮和痘印的颜色通道。用户拍摄得到的图像,即上述第一图像的颜色模型通常是RGB颜色模型,为了较为准确的识别出图像中人脸面部皮肤中的痤疮和痘印,可以将该第一图像的颜色模型进行转换(或者说通过颜色空间变换),原则是转换颜色模型后的图像中包括一个颜色通道图像能够反映痤疮和痘印。
例如,电子设备可以将第一图像的颜色模型由RGB颜色模型转换为Lab颜色模型。该Lab颜色模型包括:L通道,a通道和b通道。其中,a通道图像能够反映痤疮和痘印,也就是说,上述第一通道为Lab颜色模型中的a通道。然后,电子设备可以获取该第一图像的a通道图像。如,图4中的(b)所示的第一图像进行颜色空间转换,并提取得到的a通道图像如图7所示。图7中的白色点表示在a通道图像中该区域疑似痤疮或痘印,在图7中仅是为了示意,实际得到的a通道图像中疑似痤疮或痘印的对应位置处可能没有图7中白色点这样明显。最后,电子设备可以根据第一图像的a通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。如,电子设备可以将上述图6中的(b)所示的二值化掩膜和图7所示的第一图像的a通道图像进行结合。即对于图6中的(b)所示的白色区域的、对应在图7的区域内的像素点保留图7中像素点的像素值。对于图6中的(b)所示的黑色区域的、对应在图7的区域内的像素点保留图6中的(b)中像素点的像素值(即保留黑色)。最终获得的第二图像可如图8所示。
当然,能够反映痤疮和痘印的颜色通道图像除了上述a通道图像外,还有其他的颜色通道图像也可以较好的反映痤疮和痘印。如,颜色模型为Ycbcr颜色模型的图像中的cr通道图像也可以较好的反映痤疮和痘印。那么,电子设备也可以将第一图像的颜色模型由RGB颜色模型转换为Ycbcr颜色模型(Ycbcr颜色模型包括:Y通道,cb通道和cr通道),并获取该第一图像的cr通道图像。然后,电子设备根据第一图像的cr通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,也可获得第二图像。其具体实现与上述示例类似,此处不再详细赘述。
S306、电子设备获取第二图像的二值化掩膜。
其中,电子设备在获得第一图像的第一通道图像的人脸面部皮肤ROI图像,即第二图像后,可采用阈值分割法获取该第二图像的二值化掩膜。例如,对于痤疮和痘印来说,在第一通道图像,如a通道图像中,其像素点的像素值均是大于某阈值的。因此,电子设备可以将该第二图像中像素值大于该阈值的像素点的像素值置为255,即显示为白色,像素值小于该阈值的像素点的像素值置为0,即显示为黑色,这样便可得到该第二图像的二值化掩膜。例如,图8所示的第二图像的二值化掩膜可以如图9中的(a)所示,其中白色点疑似痤疮或痘印。
另外,在采用阈值分割法获得的第二图像的二值化掩膜中往往会包含一些噪声点,因此,电子设备可以对得到的图9中的(a)所示的二值化掩膜,采用滤波法、形态学法等进行优化调整,以去除图9中的(a)所示的第二图像的二值化掩膜中的噪声点。还可以改变白色区域的形态,使其更加突出。如优化调整后的二值化掩膜如图9中的(b)所示。对比图9中的(a)和图9中的(b)所示的二值化掩膜,可以看到广泛分布的、离散的、形态微小的噪声点被去除,且白色大的区域形态也发生微小的变化。
需要说明的是,本实施例中所述的阈值分割法可以包括:自适应阈值分割、Otsu阈值分割、均值方差法阈值分割等。滤波法可以包括中值滤波等。
S307、电子设备根据第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。
其中,连通域的外接矩形框可以用坐标(x,y,w,h)来标记,其可以定位出图像中的唯一区域。坐标(x,y,w,h)中,x和y表示该连通域的外接矩形框左上角坐标,w表示连通域的外接矩框的宽,h表示连通域的外接矩形框的高。
电子设备可以采用连通域分析法对去除噪声点后的第二图像的二值化掩膜进行分析,以提取出该二值化掩膜中的每个连通域。然后,根据痤疮和痘印的生物学形态筛选出人脸面部皮肤中痤疮和/或痘印的连通域,并利用连通域分析法获得与人脸面部皮肤中痤疮和/或痘印的连通域对应的外接矩形框。例如,痤疮和痘印的一般都是近似圆形的,因此,电子设备可以计算提取出的每个连通域的圆度,并判断其圆度与阈值的大小关系,圆度低于阈值的连通域可以认为不是痤疮和痘印的连通域,圆度高于阈值的连通域可以认为是痤疮或痘印的连通域。这样,便可筛选出人脸面部皮肤中痤疮和/或痘印的连通域。又例如,痤疮和痘印一般和其外接矩形框的面积比较接近,因此,电子设备可以计算提取出的每个连通域相对其外接矩形框的占比,如果该占比低于一定比例,则认为该连通域不是痤疮和痘印的连通域,如果该占比高于一定比例,则认为该连通域是痤疮或痘印的连通域。这样,便可筛选出人脸面部皮肤中痤疮和/或痘印的连通域。
另外,为了增加痤疮及痘印与正常皮肤的对比,电子设备可以在获取到人脸面部皮肤中痤疮和/或痘印的连通域以及每个连通域对应的外接矩形框后,对部分或全部外接矩形框的宽度和/或高度进行自适应调整。示例性的,调整方式可以是对所有的外接矩形框进行统一调整,如按照固定比例(如[0,2.5])对每个外接矩形框进行放大,或者将每个外接矩形框的宽度和/或高度增加某个固定的像素(如[0像素,50像素])。调整方式还可以是对于不同大小的外接矩形框,分区间按照固定比例进行放大,或者将宽度和/或高度增加某个固定的像素。调整方式还可以是对宽度和高度满足条件的外接矩形框不进行调整,不满足条件的外接矩形框进行调整。例如,可以对宽度和高度超过50像素的外接矩形框不进行调整。对宽度和/或高度小于10像素的外接矩形框进行自适应调整,如某外接矩形框的宽度小于10像素,则可以将该外接矩形框的宽度增加25像素,又如某外接矩形框的高度小于10像素,则可以将该外接矩形框的高度增加25像素。
例如,在本申请实施例中,对图9中的(b)所示的第二图像的二值化掩膜进行连通域提取后获得的人脸面部皮肤中痤疮和/或痘印的连通域以及外接矩形框如图10所示。图10中是对外接矩形框的宽度和/或高度进行自适应调整后的示意图。可以看到的是,共提取出了15个连通域,15个连通域的外接矩形框的大小不一。
S308、电子设备根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块。
其中,电子设备可以根据每个外接矩形框的坐标,从第一图像中截取与每个外接矩形框一一对应的图像块。并将与每个外接矩形框一一对应的图像块的像素值调整为预设像素值。如采用插值或缩放的方法调整提取的图像块的像素值,以获得固定大小的待检测图像块。待检测图像块的大小的取值范围可为[30像素-150像素]。例如,在本实施例中,与图10所示的连通域一一对应的待检测图像块可以如图11所示。
S309、电子设备根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型,皮肤类型包括痤疮、痘印和皮肤,并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型。
示例性的,电子设备可以通过将获得的所有待检测图像块输入神经网络模型进行检测,以确定出每个待检测图像块对应人脸面部皮肤位置处的皮肤类型是痤疮,还是痘印,还是皮肤。并可以在检测到待检测图像块对应人脸面部皮肤位置处的皮肤类型是痤疮时,检测出该痤疮的类型,如丘疹、脓疱、囊肿或结节等。
其中,可以收集大量不同类型的痤疮(如丘疹、脓疱、囊肿或结节)、痘印、正常皮肤、带有毛发(头发、胡须、眉毛等)的遮挡皮肤、色素痣等的图像块。这些图像块的大小相同,可以各收集5000张甚至更多。将收集到的所有图像块进行深度学习AlexNet神经网络或VGG神经网络的训练,以得到神经网络模型。这样,在需要进行检测时,可以将待检测图像块输入该训练好的神经网络模型中,以便对待检测图像块进行特征提取和分类,从而获得待检测图像块对应人脸面部皮肤位置处的皮肤类型是痤疮,还是痘印,还是皮肤。并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定该痤疮的类型。例如,将图11所示的15个待检测图像块输入神经网络模型后,可以得出:图11中所示的待检测图像块(7)、待检测图像块(8)、待检测图像块(12)及待检测图像块(14)对应人脸面部皮肤位置处的皮肤类型为丘疹类的痤疮。图11中所示的待检测图像块(2)、待检测图像块(6)及待检测图像块(9)对应人脸面部皮肤位置处的皮肤类型为痘印。其余待检测图像块对应人脸面部皮肤位置处的皮肤类型为正常皮肤。
S310、电子设备在第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型。
如果电子设备检测到待检测图像块对应人脸面部皮肤位置处是痤疮或痘印,则可以结合该待检测图像块对应的连通域的外接矩形框的坐标,在获得的原始图像,即图4中的(b)所示的第一图像中标记出不同类型的痤疮和痘印。如以标记框的形式标记,并以不同颜色的标记框来区分不同类型的痤疮和痘印,并呈现给用户。如图12所示,对于检测到的皮肤类型为丘疹类的痤疮的待检测图像块(7)、待检测图像块(8)、待检测图像块(12)及待检测图像块(14),可以采用红色(图中用虚线表示红色)的标记框来标记。对于检测到的皮肤类型为痘印的待检测图像块(2)、待检测图像块(6)及待检测图像块(9),可以采用蓝色(图中用实线表示蓝色)的标记框来标记。另外,由于S307中获得的不同连通域的外接矩形框的大小不一,因此,在第一图像中对应不同连通域的标记框的大小也不一。在一些实施例中,如图13所示,电子设备还可呈现对不同颜色的标记框所表示的皮肤类型,如不同类型的痤疮或痘印的提示,以便用户可获知不同颜色的标记框所标记的是痘印或哪种类型的痤疮。
S311、电子设备获取人脸面部皮肤中所有痤疮的大小和严重程度,以及所有痘印的大小和严重程度,根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分。
电子设备还可以根据检测到的人脸面部皮肤中痤疮、痘印的检测结果,以及所有痤疮的大小和严重程度,所有痘印的大小和严重程度,确定出人脸面部皮肤痤疮严重程度的量化评分。例如,电子设备可以根据下述公式(1)确定该量化评分。量化评分的取值范围可以为[0分,100分]。另外,电子设备还可以将确定出的量化评分呈现给用户,供用户查看。如图13所示的示例性中,以电子设备确定出的量化评分为80分为例,电子设备可显示该量化评分:80分。分值越高,表示用户面部皮肤痤疮严重程度越轻。
Figure BDA0002063563630000151
其中,score表示量化评分,W为权重系数矩阵,
Figure BDA0002063563630000152
m表示不同痤疮类型或痘印,n表示痤疮和痘印的大小以及严重程度,xt为痘印或痤疮的类型,b为常数。权重系数的取值范围可以是[0.01,8.0],可通过实验获得。另外,痘印及痤疮的大小可以根据其对应连通域的大小来确定,如该连通域包括的像素值为255的像素点的个数即为痘印或痤疮的大小。痘印及痤疮的严重程度可以根据其对应连通域内像素值的大小来确定,如可以将该连通域包括的所有像素点的像素值取平均,以获得痘印或痤疮的严重程度。
在另一些实施例中,在计算人脸面部皮肤痤疮严重程度的量化评分时,公式也可以为
Figure BDA0002063563630000153
这样,根据该公式计算得到的分值越高,表示用户面部皮肤痤疮严重程度越严重。
本申请实施例提供的面部痤疮的检测方法,通过对包括人脸面部皮肤的第一图像进行检测,以获得人脸面部皮肤的轮廓和特征点的位置。根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤ROI的二值化掩膜。根据第一图像和该二值化掩膜获取第一图像的第一通道图像的人脸面部皮肤ROI图像,即获得第二图像,第一通道是能够反映痤疮和痘印的颜色通道。获取第二图像的二值化掩膜,并根据第二图像的二值化掩膜提取人脸面部皮肤中所有痤疮和/或痘印的连通域及对应的外接矩形框。根据外接矩形框从第一图像中获取待检测图像块。根据神经网络模型对待检测图像块进行检测,确定人脸面部皮肤中不同类型的痤疮和痘印,并在第一图像中标记。实现了人脸面部皮肤中痤疮和痘印较准确,较稳定地检测、分类和标记,使得电子设备更加智能,提高了用户体验。并且,预先剔除了面部大部分正常皮肤,仅对提取出的能够反映痤疮和痘印的颜色通道图像的人脸面部皮肤ROI进行痤疮和/或痘印的检测和分类,极大节省了计算复杂度,实现了面部痤疮的快速检测。
另外,通过根据人脸面部皮肤的痤疮和痘印的检测及分类结果,利用公式实现了对用户人脸面部皮肤痤疮严重程度的量化评分。用户可以通过多次检测,利用得到的多个量化评分,得到面部痤疮严重程度的变化趋势。通过快速呈现,痤疮类型的分类,以及动态大小的标记框呈现,具有一定的可发现性。
上述主要从电子设备的角度对本申请实施例提供的方案进行了介绍。可以理解的是,电子设备为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例可以根据上述方法示例对电子设备进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
图14为本申请实施例提供的一种电子设备的组成示意图。如图14所示,该电子设备可以包括:获取单元1401,确定单元1402和标记单元1403。
获取单元1401,用于获取第一图像,该第一图像包括人脸面部皮肤的图像,对第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置,根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤ROI的二值化掩膜;根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,该第二图像是第一图像的第一通道图像的人脸面部皮肤ROI图像,第一通道是能够反映痤疮和痘印的颜色通道。
获取单元1401,还用于获取第二图像的二值化掩膜,根据第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块。
确定单元1402,用于根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型。该皮肤类型可以包括痤疮、痘印和皮肤。确定单元1402,还用于在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型。
标记单元1403,用于在第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型。
进一步的,获取单元1401,还用于获取人脸面部皮肤中所有痤疮的大小和严重程度,以及所有痘印的大小和严重程度。
确定单元1402,还用于根据获取单元1401获取到的所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分。
进一步的,确定单元,具体用于根据
Figure BDA0002063563630000171
确定量化评分。
进一步的,获取单元1401根据人脸面部皮肤的轮廓和特征点的位置,获取第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜,具体用于:根据人脸面部皮肤的轮廓,获取第一图像的人脸面部皮肤的二值化掩膜;在第一图像的人脸面部皮肤的二值化掩膜中,人脸面部皮肤的轮廓内的像素点的像素值为第一值,人脸面部皮肤的轮廓外的像素点的像素值为第二值;将第一图像的人脸面部皮肤的二值化掩膜中、人脸面部皮肤的特征点的位置对应区域内像素点的像素值置为第二值,以获得第一图像的人脸面部皮肤ROI的二值化掩膜,人脸面部皮肤的特征点包括:眉毛、眼睛、鼻子、嘴唇和面部外周轮廓。
进一步的,获取单元1401根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,具体用于:将第一图像的颜色模型由RGB颜色模型转换为Lab颜色模型,并获取第一图像的第一通道图像,Lab颜色模型包括:L通道,a通道和b通道,第一通道为a通道;根据第一图像的a通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。
进一步的,获取单元1401根据第一图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,具体用于:将第一图像的颜色模型由RGB颜色模型转换为Ycbcr颜色模型,并获取第一图像的第一通道图像,Ycbcr颜色模型包括:Y通道,cb通道和cr通道,第一通道为cr通道;根据第一图像的cr通道图像和第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像。
进一步的,该电子设备还可以包括,优化单元,用于去除第二图像的二值化掩膜中的噪声点。
获取单元1401根据第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,具体用于:根据优化单元去除噪声点后的第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。
进一步的,该电子设备还可以包括:调整单元,用于调整外接矩形框的宽度和/或高度。
进一步的,获取单元1401根据每个外接矩形框,获取第一图像中与每个外接矩形框对应的待检测图像块,具体为:根据每个外接矩形框,从第一图像中截取与每个外接矩形框一一对应的图像块;将与每个外接矩形框一一对应的图像块的像素值调整为预设像素值,调整像素值后的图像块为待检测图像块。
本申请另一些实施例还提供了一种电子设备,用于执行以上实施例中的方法,以实现上述实施例中电子设备的功能。该电子设备可以包括:显示屏;一个或多个处理器;存储器。上述各器件可以通过一个或多个通信总线连接。其中上述存储器中存储一个或多个计算机程序代码,该一个或多个计算机程序代码包括计算机指令,一个或多个处理器用于执行计算机指令,可以用于实现上述图2或图3所示实施例中电子设备的行为功能。显示屏可用于根据一个或多个处理器的指示进行内容的显示,如显示标记了痤疮和/或痘印的图像,还可以显示得到的人脸面部皮肤的量化评分。
本申请另一些实施例还提供一种计算机可读存储介质,该计算机可读存储介质可包括计算机软件指令,当该计算机软件指令在电子设备上运行时,使得该电子设备执行上述图2或图3所示实施例中电子设备执行的各个步骤。
本申请另一些实施例还提供一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得该计算机执行上述实施例中电子设备执行的各个步骤。
本申请另一些实施例还提供一种芯片系统,该芯片系统可以应用于电子设备;芯片系统包括接口电路和处理器;接口电路和处理器通过线路互联;接口电路用于从电子设备的存储器接收信号,并向处理器发送信号,信号包括存储器中存储的计算机指令;当处理器执行该计算机指令时,芯片系统执行如上述图2或图3所示实施例中电子设备执行的各个步骤。
本申请实施例提供的电子设备,计算机可读存储介质,计算机程序产品及芯片系统,可以执行上述图2或图3对应的方法实施例电子设备的动作,其实现原理和技术效果类似,在此不再赘述。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (15)

1.一种面部痤疮的检测方法,其特征在于,包括:
电子设备获取第一图像,所述第一图像包括人脸面部皮肤的图像;
所述电子设备对所述第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置;
所述电子设备根据所述人脸面部皮肤的轮廓和特征点的位置,获取所述第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜;
所述电子设备根据所述第一图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,所述第二图像是所述第一图像的第一通道图像的人脸面部皮肤ROI图像,所述第一通道是能够反映痤疮和痘印的颜色通道;
所述电子设备获取所述第二图像的二值化掩膜;
所述电子设备根据所述第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框;
所述电子设备根据每个外接矩形框,获取所述第一图像中与每个外接矩形框对应的待检测图像块;
所述电子设备根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型,所述皮肤类型包括痤疮、痘印和皮肤,并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型;
所述电子设备在所述第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型;
所述电子设备获取人脸面部皮肤中所有痤疮的大小和严重程度,以及所有痘印的大小和严重程度;
所述电子设备根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分;
其中,所述电子设备根据
Figure FDA0003596291020000011
Figure FDA0003596291020000012
确定所述量化评分;
其中,score表示所述量化评分,W为权重系数矩阵,
Figure FDA0003596291020000013
m表示不同痤疮类型或痘印,n表示痤疮和痘印的大小以及严重程度,xt为痘印或痤疮的类型,b为常数。
2.根据权利要求1所述的方法,其特征在于,所述电子设备根据所述人脸面部皮肤的轮廓和特征点的位置,获取所述第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜,包括:
所述电子设备根据所述人脸面部皮肤的轮廓,获取所述第一图像的人脸面部皮肤的二值化掩膜;在所述第一图像的人脸面部皮肤的二值化掩膜中,所述人脸面部皮肤的轮廓内的像素点的像素值为第一值,所述人脸面部皮肤的轮廓外的像素点的像素值为第二值;
所述电子设备将所述第一图像的人脸面部皮肤的二值化掩膜中、所述人脸面部皮肤的特征点的位置对应区域内像素点的像素值置为所述第二值,以获得所述第一图像的人脸面部皮肤ROI的二值化掩膜,所述人脸面部皮肤的特征点包括:眉毛、眼睛、鼻子、嘴唇和面部外周轮廓。
3.根据权利要求1或2所述的方法,其特征在于,所述电子设备根据所述第一图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,包括:
所述电子设备将所述第一图像的颜色模型由RGB颜色模型转换为Lab颜色模型,并获取所述第一图像的第一通道图像,所述Lab颜色模型包括:L通道,a通道和b通道,所述第一通道为所述a通道;
所述电子设备根据所述第一图像的a通道图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取所述第二图像。
4.根据权利要求1或2所述的方法,其特征在于,所述电子设备根据所述第一图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,包括:
所述电子设备将所述第一图像的颜色模型由RGB颜色模型转换为Ycbcr颜色模型,并获取所述第一图像的第一通道图像,所述Ycbcr颜色模型包括:Y通道,cb通道和cr通道,所述第一通道为所述cr通道;
所述电子设备根据所述第一图像的cr通道图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取所述第二图像。
5.根据权利要求1或2所述的方法,其特征在于,在所述电子设备获取所述第二图像的二值化掩膜之后,所述方法还包括:
所述电子设备去除所述第二图像的二值化掩膜中的噪声点;
所述电子设备根据所述第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,包括:
所述电子设备根据去除噪声点后的所述第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。
6.根据权利要求1或2所述的方法,其特征在于,在所述获取与每个连通域对应的外接矩形框之后,所述方法还包括:
所述电子设备调整所述外接矩形框的宽度和/或高度。
7.根据权利要求1或2所述的方法,其特征在于,所述电子设备根据每个外接矩形框,获取所述第一图像中与每个外接矩形框对应的待检测图像块,包括:
所述电子设备根据每个外接矩形框,从所述第一图像中截取与每个外接矩形框一一对应的图像块;
所述电子设备将与每个外接矩形框一一对应的图像块的像素值调整为预设像素值,调整像素值后的图像块为所述待检测图像块。
8.一种电子设备,其特征在于,所述电子设备包括:处理器和存储器;所述处理器和所述存储器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,当所述计算机指令被所述电子设备执行时,使得所述电子设备执行如下操作:
获取第一图像,所述第一图像包括人脸面部皮肤的图像;对所述第一图像进行检测,获取人脸面部皮肤的轮廓和特征点的位置;
根据所述人脸面部皮肤的轮廓和特征点的位置,获取所述第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜;
根据所述第一图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,所述第二图像是所述第一图像的第一通道图像的人脸面部皮肤ROI图像,所述第一通道是能够反映痤疮和痘印的颜色通道;
获取所述第二图像的二值化掩膜;根据所述第二图像的二值化掩膜,提取人脸面部皮肤中所有痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框;根据每个外接矩形框,获取所述第一图像中与每个外接矩形框对应的待检测图像块;
根据神经网络模型,对每个待检测图像块进行检测,确定与每个待检测图像块对应人脸面部皮肤位置处的皮肤类型,所述皮肤类型包括痤疮、痘印和皮肤,并在待检测图像块对应人脸面部皮肤位置处的皮肤类型为痤疮时,确定痤疮的类型;
在所述第一图像中待检测图像块对应人脸面部皮肤位置处是痤疮或痘印的区域分别标记检测到的皮肤类型;
获取人脸面部皮肤中所有痤疮的大小和严重程度,以及所有痘印的大小和严重程度;
根据所有痤疮的类型,大小和严重程度以及所有痘印的大小和严重程度确定人脸面部皮肤痤疮严重程度的量化评分;
其中,根据
Figure FDA0003596291020000031
Figure FDA0003596291020000032
确定所述量化评分;
其中,score表示所述量化评分,W为权重系数矩阵,
Figure FDA0003596291020000033
m表示不同痤疮类型或痘印,n表示痤疮和痘印的大小以及严重程度,xt为痘印或痤疮的类型,b为常数。
9.根据权利要求8所述的电子设备,其特征在于,所述根据所述人脸面部皮肤的轮廓和特征点的位置,获取所述第一图像的人脸面部皮肤感兴趣区域ROI的二值化掩膜,具体为:
根据所述人脸面部皮肤的轮廓,获取所述第一图像的人脸面部皮肤的二值化掩膜;在所述第一图像的人脸面部皮肤的二值化掩膜中,所述人脸面部皮肤的轮廓内的像素点的像素值为第一值,所述人脸面部皮肤的轮廓外的像素点的像素值为第二值;
将所述第一图像的人脸面部皮肤的二值化掩膜中、所述人脸面部皮肤的特征点的位置对应区域内像素点的像素值置为所述第二值,以获得所述第一图像的人脸面部皮肤ROI的二值化掩膜,所述人脸面部皮肤的特征点包括:眉毛、眼睛、鼻子、嘴唇和面部外周轮廓。
10.根据权利要求8或9所述的电子设备,其特征在于,所述根据所述第一图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,具体为:
将所述第一图像的颜色模型由RGB颜色模型转换为Lab颜色模型,并获取所述第一图像的第一通道图像,所述Lab颜色模型包括:L通道,a通道和b通道,所述第一通道为所述a通道;
根据所述第一图像的a通道图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取所述第二图像。
11.根据权利要求8或9所述的电子设备,其特征在于,所述根据所述第一图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取第二图像,具体为:
将所述第一图像的颜色模型由RGB颜色模型转换为Ycbcr颜色模型,并获取所述第一图像的第一通道图像,所述Ycbcr颜色模型包括:Y通道,cb通道和cr通道,所述第一通道为所述cr通道;
根据所述第一图像的cr通道图像和所述第一图像的人脸面部皮肤ROI的二值化掩膜,获取所述第二图像。
12.根据权利要求8或9所述的电子设备,其特征在于,当所述计算机指令被所述电子设备执行时,还使得所述电子设备执行如下操作:
去除所述第二图像的二值化掩膜中的噪声点;
所述根据所述第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框,具体为:
根据去除噪声点后的所述第二图像的二值化掩膜,提取人脸面部皮肤中痤疮和/或痘印的连通域,并获取与每个连通域对应的外接矩形框。
13.根据权利要求8或9所述的电子设备,其特征在于,当所述计算机指令被所述电子设备执行时,还使得所述电子设备执行如下操作:
调整所述外接矩形框的宽度和/或高度。
14.根据权利要求8或9所述的电子设备,其特征在于,所述根据每个外接矩形框,获取所述第一图像中与每个外接矩形框对应的待检测图像块,具体为:
根据每个外接矩形框,从所述第一图像中截取与每个外接矩形框一一对应的图像块;
将与每个外接矩形框一一对应的图像块的像素值调整为预设像素值,调整像素值后的图像块为所述待检测图像块。
15.一种计算机可读存储介质,其特征在于,包括:计算机软件指令;
当所述计算机软件指令在电子设备中运行时,使得所述电子设备执行如权利要求1至7中任一项所述的面部痤疮的检测方法。
CN201910413453.XA 2019-05-17 2019-05-17 一种面部痤疮的检测方法及设备 Active CN112037162B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910413453.XA CN112037162B (zh) 2019-05-17 2019-05-17 一种面部痤疮的检测方法及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910413453.XA CN112037162B (zh) 2019-05-17 2019-05-17 一种面部痤疮的检测方法及设备

Publications (2)

Publication Number Publication Date
CN112037162A CN112037162A (zh) 2020-12-04
CN112037162B true CN112037162B (zh) 2022-08-02

Family

ID=73575912

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910413453.XA Active CN112037162B (zh) 2019-05-17 2019-05-17 一种面部痤疮的检测方法及设备

Country Status (1)

Country Link
CN (1) CN112037162B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3117643B1 (fr) * 2020-12-10 2024-05-17 Oreal Systemes et procedes de comptage, localisation et visualisation d’acne
US20220108445A1 (en) * 2020-10-02 2022-04-07 L'oreal Systems and methods for acne counting, localization and visualization
CN112749708B (zh) * 2021-01-28 2024-04-23 深圳艾摩米智能科技有限公司 面部雀斑检测分析方法、装置、计算机设备及存储介质
CN115131446A (zh) * 2021-03-29 2022-09-30 北京小米移动软件有限公司 美妆镜、图像处理方法、图像处理装置及存储介质
CN113128375B (zh) * 2021-04-02 2024-05-10 西安融智芙科技有限责任公司 图像识别方法及电子设备、计算机可读存储介质
CN113129315B (zh) * 2021-04-02 2024-04-09 西安融智芙科技有限责任公司 毛孔区域获取方法、装置、计算机设备及存储介质
CN113128373B (zh) * 2021-04-02 2024-04-09 西安融智芙科技有限责任公司 基于图像处理的色斑评分方法、色斑评分装置及终端设备
WO2023184221A1 (en) * 2022-03-30 2023-10-05 L'oreal Computing device, method and apparatus for predicting acne propoerties for keratin material of human subject
CN115601811B (zh) * 2022-10-17 2024-07-16 北京京东拓先科技有限公司 面部痤疮的检测方法和装置
US12100152B1 (en) * 2023-01-30 2024-09-24 BelleTorus Corporation Compute system with acne diagnostic mechanism and method of operation thereof
CN116993714A (zh) * 2023-08-30 2023-11-03 深圳伯德睿捷健康科技有限公司 皮肤检测方法、系统及计算机可读存储介质

Citations (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1588429A (zh) * 2004-08-06 2005-03-02 上海大学 皮肤显微图像症状自动识别方法
CN101523169A (zh) * 2006-10-02 2009-09-02 强生消费者公司 用于使用L*a*b*色空间来分析皮肤的装置和方法
CN101916370A (zh) * 2010-08-31 2010-12-15 上海交通大学 人脸检测中非特征区域图像处理的方法
CN102568437A (zh) * 2012-01-20 2012-07-11 华为终端有限公司 图像显示方法及设备
CN103927718A (zh) * 2014-04-04 2014-07-16 北京金山网络科技有限公司 一种图片处理方法及装置
CN104299011A (zh) * 2014-10-13 2015-01-21 吴亮 一种基于人脸图像识别的肤质与皮肤问题识别检测方法
CN104463919A (zh) * 2015-01-07 2015-03-25 上海添美信息技术有限公司 一种评估皮肤色素的全像素色彩分析方法
CN104732214A (zh) * 2015-03-24 2015-06-24 吴亮 一种基于人脸图像识别的定量化肤质检测方法
CN105120747A (zh) * 2013-04-26 2015-12-02 株式会社资生堂 皮肤的暗沉评价装置以及皮肤的暗沉评价方法
CN105377132A (zh) * 2013-03-19 2016-03-02 H·施尼达尔 用于评估红斑的方法
CN106264463A (zh) * 2016-08-05 2017-01-04 深圳美立知科技有限公司 一种皮肤敏感度分析方法及装置
CN106407645A (zh) * 2016-08-08 2017-02-15 北京工商大学 基于主成分分析法的面部皮肤状态评价方法
CN106388781A (zh) * 2016-09-29 2017-02-15 深圳可思美科技有限公司 一种皮肤肤色及其色素沉淀情况的检测方法
CN106407909A (zh) * 2016-08-31 2017-02-15 北京云图微动科技有限公司 人脸识别方法、装置及系统
CN106529429A (zh) * 2016-10-27 2017-03-22 中国计量大学 一种基于图像识别的面部皮肤分析系统
CN106875391A (zh) * 2017-03-02 2017-06-20 深圳可思美科技有限公司 皮肤图像的识别方法及电子设备
CN107274452A (zh) * 2017-05-31 2017-10-20 成都品果科技有限公司 一种痘痘自动检测方法
CN108701357A (zh) * 2016-02-08 2018-10-23 皇家飞利浦有限公司 用于皮肤检测的设备、系统和方法
CN108932493A (zh) * 2018-06-29 2018-12-04 东北大学 一种面部皮肤质量评价方法
CN109389562A (zh) * 2018-09-29 2019-02-26 深圳市商汤科技有限公司 图像修复方法及装置

Patent Citations (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1588429A (zh) * 2004-08-06 2005-03-02 上海大学 皮肤显微图像症状自动识别方法
CN101523169A (zh) * 2006-10-02 2009-09-02 强生消费者公司 用于使用L*a*b*色空间来分析皮肤的装置和方法
CN101916370A (zh) * 2010-08-31 2010-12-15 上海交通大学 人脸检测中非特征区域图像处理的方法
CN102568437A (zh) * 2012-01-20 2012-07-11 华为终端有限公司 图像显示方法及设备
CN105377132A (zh) * 2013-03-19 2016-03-02 H·施尼达尔 用于评估红斑的方法
CN105120747A (zh) * 2013-04-26 2015-12-02 株式会社资生堂 皮肤的暗沉评价装置以及皮肤的暗沉评价方法
CN103927718A (zh) * 2014-04-04 2014-07-16 北京金山网络科技有限公司 一种图片处理方法及装置
CN104299011A (zh) * 2014-10-13 2015-01-21 吴亮 一种基于人脸图像识别的肤质与皮肤问题识别检测方法
CN104463919A (zh) * 2015-01-07 2015-03-25 上海添美信息技术有限公司 一种评估皮肤色素的全像素色彩分析方法
CN104732214A (zh) * 2015-03-24 2015-06-24 吴亮 一种基于人脸图像识别的定量化肤质检测方法
CN108701357A (zh) * 2016-02-08 2018-10-23 皇家飞利浦有限公司 用于皮肤检测的设备、系统和方法
CN106264463A (zh) * 2016-08-05 2017-01-04 深圳美立知科技有限公司 一种皮肤敏感度分析方法及装置
CN106407645A (zh) * 2016-08-08 2017-02-15 北京工商大学 基于主成分分析法的面部皮肤状态评价方法
CN106407909A (zh) * 2016-08-31 2017-02-15 北京云图微动科技有限公司 人脸识别方法、装置及系统
CN106388781A (zh) * 2016-09-29 2017-02-15 深圳可思美科技有限公司 一种皮肤肤色及其色素沉淀情况的检测方法
CN106529429A (zh) * 2016-10-27 2017-03-22 中国计量大学 一种基于图像识别的面部皮肤分析系统
CN106875391A (zh) * 2017-03-02 2017-06-20 深圳可思美科技有限公司 皮肤图像的识别方法及电子设备
CN107274452A (zh) * 2017-05-31 2017-10-20 成都品果科技有限公司 一种痘痘自动检测方法
CN108932493A (zh) * 2018-06-29 2018-12-04 东北大学 一种面部皮肤质量评价方法
CN109389562A (zh) * 2018-09-29 2019-02-26 深圳市商汤科技有限公司 图像修复方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Digital assessment of facial acne vulgaris;A. S. Malik et al.;《2014 IEEE International Instrumentation and Measurement Technology Conference (I2MTC) Proceedings》;20140721;1-5 *
基于肤色检测的中医面色识别;陈梦竹;《中国优秀博硕士学位论文全文数据库(硕士)医药卫生科技辑》;20180615(第06期);全文 *

Also Published As

Publication number Publication date
CN112037162A (zh) 2020-12-04

Similar Documents

Publication Publication Date Title
CN112037162B (zh) 一种面部痤疮的检测方法及设备
CN111542856B (zh) 一种皮肤检测方法和电子设备
WO2020134877A1 (zh) 一种皮肤检测方法及电子设备
US20220180485A1 (en) Image Processing Method and Electronic Device
CN112233064B (zh) 一种色素检测方法及电子设备
CN111566693B (zh) 一种皱纹检测方法及电子设备
CN111543049B (zh) 一种拍照方法及电子设备
CN114946169A (zh) 一种图像获取方法以及装置
CN111417982B (zh) 一种色斑检测方法及电子设备
WO2021218695A1 (zh) 一种基于单目摄像头的活体检测方法、设备和可读存储介质
CN111147667A (zh) 一种熄屏控制方法及电子设备
CN113711123B (zh) 一种对焦方法、装置及电子设备
CN113468929A (zh) 运动状态识别方法、装置、电子设备和存储介质
CN115150542B (zh) 一种视频防抖方法及相关设备
CN111557007B (zh) 一种检测眼睛睁闭状态的方法及电子设备
CN113129250A (zh) 皮肤检测方法、装置、终端设备及计算机存储介质
WO2023011348A1 (zh) 检测方法及电子设备
CN111460942B (zh) 接近检测方法及装置、计算机可读介质及终端设备
CN114332331A (zh) 一种图像处理方法和装置
CN113391735A (zh) 显示形态的调整方法、装置、电子设备及存储介质
CN117710701B (zh) 一种追踪物体的方法、装置和电子设备
CN113066048A (zh) 一种分割图置信度确定方法及装置
CN114463762A (zh) 一种数据的处理方法和装置
CN114885086A (zh) 一种图像处理方法、头戴式设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20210429

Address after: Unit 3401, unit a, building 6, Shenye Zhongcheng, No. 8089, Hongli West Road, Donghai community, Xiangmihu street, Futian District, Shenzhen, Guangdong 518040

Applicant after: Honor Device Co.,Ltd.

Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen

Applicant before: HUAWEI TECHNOLOGIES Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant