CN111429416A - 一种人脸色素斑识别方法、装置及电子设备 - Google Patents

一种人脸色素斑识别方法、装置及电子设备 Download PDF

Info

Publication number
CN111429416A
CN111429416A CN202010195754.2A CN202010195754A CN111429416A CN 111429416 A CN111429416 A CN 111429416A CN 202010195754 A CN202010195754 A CN 202010195754A CN 111429416 A CN111429416 A CN 111429416A
Authority
CN
China
Prior art keywords
face image
pigment spot
pigment
pixel point
classification result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010195754.2A
Other languages
English (en)
Other versions
CN111429416B (zh
Inventor
曾梦萍
侯丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Shuliantianxia Intelligent Technology Co Ltd
Original Assignee
Shenzhen Shuliantianxia Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Shuliantianxia Intelligent Technology Co Ltd filed Critical Shenzhen Shuliantianxia Intelligent Technology Co Ltd
Priority to CN202010195754.2A priority Critical patent/CN111429416B/zh
Publication of CN111429416A publication Critical patent/CN111429416A/zh
Application granted granted Critical
Publication of CN111429416B publication Critical patent/CN111429416B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30088Skin; Dermal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Abstract

本发明涉及色素斑识别技术领域,尤其涉及一种人脸色素斑识别方法、装置及电子设备。该方法包括:获取人脸图像;对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。该人脸色素斑识别方法、装置及电子设备能够实现人脸图像中每一像素点的分类,提高了人脸色素斑识别的准确率。

Description

一种人脸色素斑识别方法、装置及电子设备
【技术领域】
本发明涉及色素斑识别技术领域,尤其涉及一种人脸色素斑识别方法、装置及电子设备。
【背景技术】
人脸识别是指利用分析比较人脸视觉特征信息进行身份鉴别的计算机技术。目前人脸识别技术已经比较成熟并且应用广泛,可以根据现有的人脸识别技术检测出人脸的色素斑分布情况。现有的基于人脸识别技术识别色素斑的方式一般是采用传统图像处理方式选取人脸图片中的脸部部位,并进行色素斑分类。
发明人在实现本发明实施例的过程中,发现相关技术至少存在以下问题:传统的人脸色素斑识别方法受到脸部本身噪声的影响较大,从而降低了色素斑识别的准确率。
【发明内容】
本发明要解决的技术问题是提供一种人脸色素斑识别方法、装置及电子设备,以提高人脸色素斑识别的准确率。
本发明实施例的一个方面,提供了一种人脸色素斑识别方法,所述方法包括:
获取人脸图像;
对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;
对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
在一些实施例中,所述对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果,包括:
对所述人脸图像进行卷积处理,以获得不同层次的图像特征;
通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图;
对所述高维特征图进行上采样,以使所述高维特征图的图像尺寸与所述人脸图像的图像尺寸相同,以得到尺寸变化后的所述高维特征图中每一像素点的预测结果,其中,所述预测结果包括各像素点分别属于各个色素斑类别的预测概率;
基于所述每一像素点的预测结果,获取每一像素点对应的最大预测概率所对应的色素斑类别,作为所述每一像素点的色素斑分类结果。
在一些实施例中,所述对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置,包括:
组合属于相同色素斑分类结果的各个像素点,得到与所述色素斑分类结果对应的色素斑的类别;
在所述人脸图像中标记属于相同色素斑分类结果的各个像素点的位置,以获得色素斑的位置。
在一些实施例中,所述对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果和所述对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置的步骤由预设的算法模型执行;
所述方法还包括:
获取训练样本,所述训练样本包括批量人脸图像数据;
根据预设标签对所述批量图像数据进行标注,以获得标注后的训练样本,所述预设标签包括色素斑类别和色素斑位置;
将所述标注后的训练样本输入所述预设的算法模型中,以输出所述训练样本的色素斑分类结果,所述色素斑分类结果包括色素斑的类别和位置;
根据分类损失函数约束所述分类结果与所述预设标签的关系,以使所述预设的算法模型输出的所述分类结果与所述预设标签逼近;
将输出的分类结果最逼近于所述预设标签的分类的算法模型作为所述预设的算法模型。
在一些实施例中,在执行所述获取人脸图像的步骤之后,所述方法还包括:
基于所述人脸图像进行关键点标注;
根据标注的关键点截取所述人脸图像中的人脸区域;
对所述人脸区域对应的图像进行数据增强处理。
本发明实施例的另一个方面,提供了一种人脸色素斑识别装置,所述装置包括:
获取模块,用于获取人脸图像;
分类模块,用于对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;
识别模块,用于对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
在一些实施例中,所述分类模块具体用于:
对所述人脸图像进行卷积处理,以获得不同层次的图像特征;
通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图;
对所述高维特征图进行上采样,以使所述高维特征图的图像尺寸与所述人脸图像的图像尺寸相同,以得到尺寸变化后的所述高维特征图中每一像素点的预测结果,其中,所述预测结果包括各像素点分别属于各个色素斑类别的预测概率;
基于所述每一像素点的预测结果,获取每一像素点对应的最大预测概率所对应的色素斑类别,作为所述每一像素点的色素斑分类结果。
在一些实施例中,所述识别模块具体用于:
组合属于相同色素斑分类结果的各个像素点,得到与所述色素斑分类结果对应的色素斑的类别;
在所述人脸图像中标记属于相同色素斑分类结果的各个像素点的位置,以获得色素斑的位置。
本发明实施例的又一个方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方法。
本发明实施例的还一个方面,提供了一种非易失性计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,当所述计算机可执行指令被电子设备执行时,使所述电子设备执行如上所述的方法。
本发明实施例的再一个方面,提供了一种计算机程序产品,所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被电子设备执行时,使所述电子设备执行如上所述的方法。
区别于现有技术,本发明实施例提供的人脸色素斑识别方法、装置及电子设备,通过获取人脸图像,对所述人脸图像中各像素点进行色素斑分类识别,以获得人脸图像中每一像素点的色素斑分类结果,最后对所述每一像素点的色素斑分类结果进行类别组合,从而获得所述人脸图像中色素斑的类别和位置。该人脸色素斑识别方法、装置及电子设备能够实现人脸图像中每一像素点的分类,提高了人脸色素斑识别的准确率。
【附图说明】
一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定,附图中具有相同参考数字标号的元件表示为类似的元件,除非有特别申明,附图中的图不构成比例限制。
图1是本发明实施例提供的一种人脸色素斑识别方法的流程图;
图2是本发明实施例提供的对所述人脸图像中的各像素点进行色素斑分类识别,以获得每一像素点的色素斑分类结果的方法的流程图;
图3是本发明另一实施例提供的一种人脸色素斑识别方法的流程图;
图4是本发明实施例提供的获取预设的算法模型的方法的流程图;
图5是本发明又一实施例提供的一种人脸色素斑识别方法的流程图;
图6a至图6c是本发明实施例提供的人脸色素斑识别方法对应的示例图;
图7是本发明实施例提供的一种人脸色素斑识别装置的结构示意图;
图8是本发明实施例提供的一种电子设备的结构示意图。
【具体实施方式】
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
需要说明的是,如果不冲突,本发明实施例中的各个特征可以相互组合,均在本发明的保护范围之内。另外,虽然在装置示意图中进行了功能模块的划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置示意图中的模块划分,或流程图中的顺序执行所示出或描述的步骤。
本发明实施例提供的人脸色素斑识别方法和装置,主要采用语义分割的方法,通过像素级识别,定位出人脸色素斑的位置和色素斑的类别。所建立的算法模型可以实现色素斑的像素级分类,具有语义分割出色素斑的性能。该人脸色素斑识别方法和装置提高了算法模型的小目标的分类精度,从而使得最后识别出的色素斑准确性更高。
所述人脸色素斑识别方法和装置,可以在任何合适类型、具有运算能力的电子设备中执行,诸如摄像机、人脸扫描设备、服务器、台式计算机、智能手机、平板电脑等其他电子产品。其中,所述服务器可以是一个物理服务器或者多个物理服务器虚拟而成的一个逻辑服务器。服务器也可以是多个可互联通信的服务器组成的服务器集群,且各个功能模块可分别分布在服务器集群中的各个服务器上。
请参阅图1,图1是本发明实施例提供的一种人脸色素斑识别方法的流程图。所述方法包括:
S11、获取人脸图像。
在本实施例中,所述人脸图像可以通过包含摄像头的电子设备实时采集获得,也可以从本地数据库中调取得到。所获得的人脸图像为一张完整的全脸图像,并且所述全脸图像中包括色素斑区域。所述色素斑区域指的是由色素斑覆盖的人脸区域,所述色素斑是皮肤黑色素颗粒分布不均匀,导致局部出现比正常肤色深的斑点、斑片。在本实施例中,所述色素斑主要包括黄褐斑、雀斑、隐藏斑以及痣等。
S12、对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果。
在本实施例中,可以实现对图像进行像素级的分类,也即是每个像素点都进行分类。具体地,如图2所示,所述对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果,包括:
S121、对所述人脸图像进行卷积处理,以获得不同层次的图像特征;
其中,对所述人脸图像进行卷积处理前可以先确定卷积核和步长,所述卷积核的每个单元内有权重。根据所述步长在所述人脸图像上移动卷积核,比如步长为1,表示卷积核每次向右移动一个像素。在卷积核移动的过程中将图片上的像素和卷积核的对应权重相乘,最后将所有乘积相加,从而得到一个输出。其中,所述人脸图像用矩阵表示,所述人脸图像的每一个像素点构成所述矩阵。不同层的卷积核可以相同也可以不同。通过上述卷积核与图像矩阵的运算操作可以提取图像的部分特征,比如颜色特征。为了得到更高层次的特征,可以基于当前输出的图像特征继续进行卷积处理,在卷积处理过程中,上一层的输出是下一层的输入,经过多次运算后,最后得到更深层次的图像特征(比如语义特征),该更深层次的图像特征融合了前面的低层次的图像特征。
S122、通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图;
经过上述多次卷积操作后,图像的分辨率越来越低,为了从低分辨率的图像中恢复到原图大小,以便对原图上每一个像素点进行分类预测,需要对图像进行反卷积操作。为了提升反卷积操作结果的精度,在执行反卷积操作之前,先通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图。比如,将上述S121最后输出的高层次特征图与前面任意一个卷积层进行卷积处理,通常是将高层次的卷积层与低层次的卷积层进行卷积处理,具体的,将高层次的卷积层对应的矩阵与所述低层次的卷积层对应的矩阵进行乘法运算,得到所述高维特征图。所述高维特征图的特征更加丰富,有利于上采样恢复特征的丰富性。其中,虽然上述S121最后得到的图像特征也融合了图像的多个特征,然而在卷积处理过程中,噪声是一步一步去除的,即在经过每一层后,噪声都会有所减少,但是图像的细节也会大量减少,因此通过所述跳转连接的方式以恢复图像的细节。需要说明的是,执行跳转连接时,所获得的所述不同层次的图像特征可以与前述任何一个卷积层执行所述跳转连接,比如,语义特征对应的卷积层与颜色特征对应的卷积层执行所述跳转连接,或者语义特征对应的卷积层与纹理特征对应的卷积层执行所述跳转连接,等。
S123、对所述高维特征图进行上采样,以使所述高维特征图的图像尺寸与所述人脸图像的图像尺寸相同,以得到尺寸变化后的所述高维特征图中每一像素点的预测结果,其中,所述预测结果包括各像素点分别属于各个色素斑类别的预测概率;
其中,所述上采样的目的是将低分辨率特征图还原高分辨率,使所述高维特征图恢复到与输入的所述人脸图像相同的尺寸,并且能够保留原始输入的所述人脸图像中的空间信息。上采样的结果是图像中每个像素点都得到若干个预测结果,每个像素点的预测结果的个数与图像的通道数相同,也即是总共的类别数。每个像素点的预测结果具体包括类别信息和像素点属于类别的概率,其中,所述类别信息,比如黄褐斑、雀斑、隐藏斑和痣。所述像素点属于类别的概率,比如该像素点属于黄褐斑的概率、该像素点属于雀斑的概率、该像素点属于隐藏斑的概率、该像素点属于痣的概率。
其中,所述上采样指的是任何可以让图像变成更高分辨率的技术,最简单的方式是重采样和插值,即将图像进行处理,以得到想要的尺寸,并且计算图像中的每个像素点,使用如双线性插值等方法对其余点进行插值来完成所述上采样的过程。
其中,每一像素点的预测结果包括所述像素点属于该类别的概率,总共有多少类别,就对应有几个概率值,比如,总的类别数为3类,那么每一像素点的预测结果包括所述像素点属于第一类别的概率,属于第二类别的概率,以及属于第三类别的概率。所述概率值越大,则表示所述像素点越可能属于该类别;所述概率值越小,则表示所述像素点越不可能属于该类别。
S124、基于所述每一像素点的预测结果,获取每一像素点对应的最大预测概率所对应的色素斑类别,作为所述每一像素点的色素斑分类结果。
通过上述方式,算法输出的结果为每一像素点的类别。所述人脸图像中的色素斑是由像素点组成的,因此,将属于相同类别的像素点进行聚合处理,以实现色素斑的分类。
S13、对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
所述对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置,包括:组合属于相同色素斑分类结果的各个像素点,得到与所述色素斑分类结果对应的色素斑的类别;在所述人脸图像中标记属于相同色素斑分类结果的各个像素点的位置,以获得色素斑的位置。
其中,由于已经明确每个像素点的类别,将相同色素斑分类结果的像素点组合到一起后,组合好的像素点共同构成所述色素斑,并且可以确定所述像素点的分类结果即是所述像素点共同构成的所述色素斑的分类结果。此外,输出包含所述分类结果的人脸图像是由像素点组成的,可以根据所述分类结果对应的像素点的位置获得色素斑的位置。
其中,在组合属于相同色素斑分类结果的各个像素点时,可以将临近的并且属于同一色素斑分类结果的像素点组合在一起,该全部像素点对应一种色素斑。而其他不临近的但也属于该分类结果的像素点可以组合成另一个色素斑。所述人脸图像中属于同类别的色素斑的数量可以是一个或多个。
本发明实施例提供了一种人脸色素斑识别方法,通过上述方法实施例可以实现人脸图像中每一像素点的分类,最后对所述每一像素点的色素斑分类结果进行类别组合,从而获得所述人脸图像中色素斑的类别和位置,该方法提高了人脸色素斑识别的准确率。
在一些实施例中,上述步骤S12和步骤S13是由预设的算法模型执行的,具体地,如图3所示,所述方法包括:
S21、获取人脸图像;
S22、获取预设的算法模型;
其中,所述预设的算法模型可以是语义分割算法,所述语义分割算法包括FCN、编码器-解码器(encoder-decoder)结构(比如U-Net网络)、条件随机场(Conditional RandomField,CRF)方法、金字塔场景解析网络(Pyramid Scene Parsing Network,PSPNet)等。
S23、通过所述预设的算法模型对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;
S24、通过所述预设的算法模型对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
上述步骤S21,S23和S24具体可以参考上述方法实施例。
在本实施例中,所述预设的算法模型为FCN,如图4所示,所述S22、获取预设的算法模型,包括:
S221、获取训练样本,所述训练样本包括批量人脸图像数据;
S222、根据预设标签对所述批量图像数据进行标注,以获得标注后的训练样本,所述预设标签包括色素斑类别和色素斑位置;
S223、将所述标注后的训练样本输入所述预设的算法模型中,以输出所述训练样本的色素斑分类结果,所述色素斑分类结果包括色素斑的类别和位置;
S224、根据分类损失函数约束所述分类结果与所述预设标签的关系,以使所述预设的算法模型输出的所述分类结果与所述预设标签逼近;
S225、将输出的分类结果最逼近于所述预设标签的分类的算法模型作为所述预设的算法模型。
上述步骤S221至步骤S225即是FCN训练的具体过程。其中,所述训练样本可以从公共数据集中得到。训练FCN的主要目的是确定一组最优参数,该最优参数可以使FCN分类的结果与真实结果最接近。
所述分类损失函数是用来估量模型的预测值与真实值的不一致程度,它是一个非负实值函数。分类损失函数越小,模型的鲁棒性就越好。常用的分类损失函数包括铰链损失(比如hinge loss)、互熵损失(比如cross entropy loss,softmax loss)等。在本实施例中,可以采用所述softmax损失函数约束所述分类结果与所述预设标签的关系,以使所述预设的算法模型输出的分类结果与预设标签逼近。
其中,每一个训练样本都通过所述softmax损失函数约束分类结果与所述预设标签的关系。具体地,假设得分向量为z,转化后的概率向量为y,那么softmax损失函数做的就是令
Figure BDA0002417546530000101
softmax损失函数为
Figure BDA0002417546530000102
其中,yi是网络估计为第i类的概率,而
Figure BDA0002417546530000103
是真实地概率分布,一般情况下训练样本属于哪一类是确定好的,
Figure BDA0002417546530000104
向量里只有一项是1,其他都是0,因此损失函数L最终只会保留求和里面的一项,即
Figure BDA0002417546530000105
其中
Figure BDA0002417546530000106
是样本属于的类别。在模型训练过程中就是通过对损失函数求导,用梯度下降降低损失函数,即意味着分布y越来越接近于
Figure BDA0002417546530000107
在一些实施例中,在获得所述人脸图像后,还可以对所述人脸图像进行预处理,具体地,如图5所示,所述方法包括:
S31、获取人脸图像;
S32、基于所述人脸图像进行关键点标注,根据标注的关键点截取所述人脸图像中的人脸区域,并对所述人脸区域对应的图像进行数据增强处理。
S33、对所述进行数据增强处理后的人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;
S34、对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
可以理解的是,所获得的一些人脸图像并不完全就是只包含人脸部分的图像,所述人脸图像中可能还会存在衣服、头发、背景等干扰因素。为了提高算法模型学习位置信息的时间,有必要对所述人脸图像进行预处理,以获得包括色素斑区域并且尽可能只包括人脸的图像。
所述对人脸图像进行预处理即,基于所述人脸图像进行关键点标注,根据标注的关键点截取所述人脸图像中的人脸区域,并对所述人脸区域对应的图像进行数据增强处理。
其中,可以根据关键点算法对所述人脸图像进行关键点标注,并对进行关键点标注的人脸图像进行图像截取,从而获得只包括人脸的图像。
其中,所述关键点算法也即是人脸关键点检测、定位或者人脸对齐,其是指给指定的人脸图像,定位出人脸面部的关键区域位置,包括眉毛、眼睛、鼻子、嘴巴、脸部轮廓等。人脸关键点检测方法大致可以分为三种:基于模型的ASM(Active Shape Model)和AAM(Active Appearance Model);基于级联形状回归CPR(Cascaded Pose Regression);基于深度学习的方法。
举例而言,为了进一步提高人脸检测的准确性,获得脸部图像后,将脸部图像缩放至预设尺寸,然后将缩放后的脸部图像转换至标准人脸图像。其中,所述预设尺寸可以为任何合适的尺寸,比如为1024×1024。其中,将脸部图像转换成标准人脸图像可以采用关键点对齐的仿射变换方法。首先,设计一个预设尺寸(以下以预设尺寸为1024×1024为例说明)的标准人脸,然后在该标准人脸中提取若干关键点,比如提取五个关键点,分别是两个眼睛位置(100,100)、(300,100),鼻尖位置(150,150),两个嘴角位置(300,100)、(300,300)。然后根据标准人脸中的两个眼睛位置、鼻尖位置和两个嘴角位置,以及待识别的脸部图像中的两个眼睛位置、鼻尖位置和两个嘴角位置,利用仿射变换方法求出待识别的脸部图像转换至标准人脸的变换矩阵,然后利用该变换矩阵将待识别的脸部图像转换至标准人脸图像。将脸部图像转换成标准人脸图像可以消除图像中的畸变和偏差。
在一些实施例中,可以基于人脸对齐之LBF(Local Binary Features)算法对图像定位68个关键点,从而截取图像中的人脸区域。该算法的主要过程包括:提取特征、LBF编码以及获取shape增量,其具体实现过程可以参考现有技术。
根据上述关键点算法对所述人脸图像进行关键点标注,得到待识别的人脸图像后,所述方法还包括:对所述待识别人脸图像进行数据增强处理。
所述数据增强处理包括:光照处理、模糊处理等。其中,可以基于灰度变换调整图像的动态范围或图像对比度,具体可以采用线性变换,分段线性变换,非线性灰度变换等方式,从而增强图像。对于一些失真的图像,可以去模糊处理,可以基于图像增强、图像复原、以及图像超分辨率重构等方式还原失真的图像。
通过上述数据增强处理操作可以对所述待识别人脸图像进行数据扩充,增加数据的多样性,从而在后续算法模型识别色素斑的过程中能够拟合更多样性的特征,提高了算法模型的鲁棒性。
下面通过举例说明上述人脸色素斑识别的过程。
例如,采用FCN算法对人脸图像的黄褐斑、雀斑、痣以及隐藏斑进行识别。其中,黄褐斑的特点是大小不一,不规则形,典型者呈碟翼状;雀斑的特点是圆形、卵圆形和不规则形点状色素沉着斑,针头至粟米大,孤立不融合标注形式,采取颗粒标注;痣,就是黑痣;隐藏斑是隐藏于皮肤里层的色素斑。
第一步、训练FCN算法的过程,包括:
首先,使用标注工具(比如labelme)对批量的人脸图像进行色素斑标注,标注时可以根据上述四类色素斑的特点来进行标注,确定每一幅人脸图像中色素斑的类别和位置。然后将标注好的样本输入预设的算法模型FCN中,该预设算法模型的参数是预设好的,通过模型中的卷积层学习图像本身的特征信息,比如颜色、形状、边缘等特征,根据该预设的算法模型FCN可以获得色素斑的分类结果,所述分类结果包括色素斑的类别和位置;再通过分类损失函数约束所述分类结果与预设标签的关系,以使所述分类结果与所述预设标签逼近。其中,所述预设标签包括色素斑的类别和位置,该预设标签是预先就获得的,并且能真实反映图像中色素斑的类别和位置。重复上述过程,可以得到多组所述分类结果与所述预设标签逼近的结果。最后将输出的分类结果最逼近所述预设标签的分类的算法模型作为训练得到的FCN算法模型。
第二步、获取人脸图像,比如,如图6a所示,为获得的人脸图像。
第三步、对所述人脸图像进行预处理,以获得仅包含人脸部分的图像,比如,如图6b所示。对所述人脸图像进行预处理的详细过程可以参考上述方法实施例。
第四步、将进行预处理后的人脸图像输入上述训练好的FCN模型,通过所述FCN模型对所述人脸图像中的黄褐斑、雀斑、痣以及隐藏斑进行识别。
比如,输入的人脸图像是H*W*3,H为所述人脸图像的高,W为所述人脸图像的宽,3为所述人脸图像的通道数,所述FCN算法模型输出的结果为H*W*CLASS,CLASS为总共的类别数,如图6c所示,总共类别为5类,分别是背景、黄褐斑、雀斑、隐藏斑以及痣。其中,每一个通道对应一个类别,人脸图像上的每一个像素点都有CLASS数目个通道,每一个通道的值对应该像素点属于该CALSS的预测概率,在本实施例中,每一个像素点包括5个预测概率,最后选择最大的概率对应的类别作为该像素点的分类结果。得到每一个像素点的分类结果后,将像素点进行类别组合,比如,如图6c所示,红色像素点聚集一起表示的就是黄褐斑,绿色像素点聚集一起表示的就是雀斑,黄色像素点聚集一起表示的是隐藏斑,蓝色像素点聚集一起表明就是痣,而背景是黑色,除去色斑之外的都表示背景。
请参阅图7,图7是本发明实施例提供的一种人脸色素斑识别装置的结构示意图,所述装置40包括:获取模块401、分类模块402以及识别模块403。
其中,所述获取模块401,用于获取人脸图像;所述分类模块402,用于对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;所述识别模块403,用于对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
其中,所述分类模块402具体用于:
对所述人脸图像进行卷积处理,以获得不同层次的图像特征;
通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图;
对所述高维特征图进行上采样,以使所述高维特征图的图像尺寸与所述人脸图像的图像尺寸相同,以得到尺寸变化后的所述高维特征图中每一像素点的预测结果,其中,所述预测结果包括各像素点分别属于各个色素斑类别的预测概率;
基于所述每一像素点的预测结果,获取每一像素点对应的最大预测概率所对应的色素斑类别,作为所述每一像素点的色素斑分类结果。
其中,所述识别模块403具体用于:
组合属于相同色素斑分类结果的各个像素点,得到与所述色素斑分类结果对应的色素斑的类别;
在所述人脸图像中标记属于相同色素斑分类结果的各个像素点的位置,以获得色素斑的位置。
在一些实施例中,同样请参阅图7,所述装置40还包括第一处理模块404和第二处理模块405。所述第一处理模块404用于获取预设的算法模型,从而根据所述预设的算法模型执行上述分类模块402和识别模块403的过程。所述第二处理模块405用于对获取模块401获得的人脸图像进行预处理,以使所述分类模块402和所述识别模块403根据预处理后的人脸图像执行相应的算法流程。
其中,所述第一处理模块404具体用于:
获取训练样本,所述训练样本包括批量人脸图像数据;
根据预设标签对所述批量图像数据进行标注,以获得标注后的训练样本,所述预设标签包括色素斑类别和色素斑位置;
将所述标注后的训练样本输入所述预设的算法模型中,以输出所述训练样本的色素斑分类结果,所述色素斑分类结果包括色素斑的类别和位置;
根据分类损失函数约束所述分类结果与所述预设标签的关系,以使所述预设的算法模型输出的所述分类结果与所述预设标签逼近;
将输出的分类结果最逼近于所述预设标签的分类的算法模型作为所述预设的算法模型。
其中,所述第二处理模块405具体用于:
基于所述人脸图像进行关键点标注;
根据标注的关键点截取所述人脸图像中的人脸区域;
对所述人脸区域对应的图像进行数据增强处理。
需要说明的是,上述人脸色素斑识别装置可执行本发明实施例所提供的人脸色素斑识别方法,具备执行方法相应的功能模块和有益效果。未在人脸色素斑识别装置实施例中详尽描述的技术细节,可参见本发明实施例所提供的人脸色素斑识别方法。
请参阅图8,图8是本发明实施例提供的一种电子设备的硬件结构示意图,所述电子设备可以用于执行如上所述的人脸色素斑识别方法。如图8所示,该电子设备50包括:
一个或多个处理器51以及存储器52,图8中以一个处理器51为例。
处理器51和存储器52可以通过总线或者其他方式连接,图8中以通过总线连接为例。
存储器52作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本发明实施例中的人脸色素斑识别方法对应的程序指令/模块(例如,附图7所示的获取模块401、分类模块402以及识别模块403)。处理器51通过运行存储在存储器52中的非易失性软件程序、指令以及模块,从而执行人脸色素斑识别装置的各种功能应用以及数据处理,即实现上述方法实施例的人脸色素斑识别方法。
存储器52可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据人脸色素斑识别装置的使用所创建的数据等。此外,存储器52可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器52可选包括相对于处理器51远程设置的存储器,这些远程存储器可以通过网络连接至人脸色素斑识别装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
所述一个或者多个模块存储在所述存储器52中,当被所述一个或者多个处理器51执行时,执行上述任意方法实施例中的人脸色素斑识别方法,例如,执行以上描述的图1中的方法步骤S11至步骤S13,图2中的方法步骤S121至步骤S124,图3中的方法步骤S21至步骤S24,图4中的方法步骤S221至步骤S225,图5中的方法步骤S31至步骤S34,实现图7中的模块401-405的功能。
上述产品可执行本发明实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明实施例所提供的方法。
本发明实施例提供了一种非易失性计算机可读存储介质,所述非易失性计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被电子设备执行上述任意方法实施例中的人脸色素斑识别方法,例如,执行以上描述的图1中的方法步骤S11至步骤S13,图2中的方法步骤S121至步骤S124,图3中的方法步骤S21至步骤S24,图4中的方法步骤S221至步骤S225,图5中的方法步骤S31至步骤S34,实现图7中的模块401-405的功能。
本发明实施例提供了一种计算机程序产品,包括存储在非易失性计算机可读存储介质上的计算程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,使所述计算机执行上述任意方法实施例中的人脸色素斑识别方法,例如,执行以上描述的图1中的方法步骤S11至步骤S13,图2中的方法步骤S121至步骤S124,图3中的方法步骤S21至步骤S24,图4中的方法步骤S221至步骤S225,图5中的方法步骤S31至步骤S34,实现图7中的模块401-405的功能。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
通过以上的实施方式的描述,本领域普通技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现,当然也可以通过硬件来实现。本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;在本发明的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,步骤可以以任意顺序实现,并存在如上所述的本发明的不同方面的许多其它变化,为了简明,它们没有在细节中提供;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (10)

1.一种人脸色素斑识别方法,其特征在于,所述方法包括:
获取人脸图像;
对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;
对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
2.根据权利要求1所述的方法,其特征在于,所述对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果,包括:
对所述人脸图像进行卷积处理,以获得不同层次的图像特征;
通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图;
对所述高维特征图进行上采样,以使所述高维特征图的图像尺寸与所述人脸图像的图像尺寸相同,以得到尺寸变化后的所述高维特征图中每一像素点的预测结果,其中,所述预测结果包括各像素点分别属于各个色素斑类别的预测概率;
基于所述每一像素点的预测结果,获取每一像素点对应的最大预测概率所对应的色素斑类别,作为所述每一像素点的色素斑分类结果。
3.根据权利要求1或2所述的方法,其特征在于,所述对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置,包括:
组合属于相同色素斑分类结果的各个像素点,得到与所述色素斑分类结果对应的色素斑的类别;
在所述人脸图像中标记属于相同色素斑分类结果的各个像素点的位置,以获得色素斑的位置。
4.根据权利要求1所述的方法,其特征在于,所述对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果和所述对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置的步骤由预设的算法模型执行;
所述方法还包括:
获取训练样本,所述训练样本包括批量人脸图像数据;
根据预设标签对所述批量图像数据进行标注,以获得标注后的训练样本,所述预设标签包括色素斑类别和色素斑位置;
将所述标注后的训练样本输入所述预设的算法模型中,以输出所述训练样本的色素斑分类结果,所述色素斑分类结果包括色素斑的类别和位置;
根据分类损失函数约束所述分类结果与所述预设标签的关系,以使所述预设的算法模型输出的所述分类结果与所述预设标签逼近;
将输出的分类结果最逼近于所述预设标签的分类的算法模型作为所述预设的算法模型。
5.根据权利要求1所述的方法,其特征在于,在执行所述获取人脸图像的步骤之后,所述方法还包括:
基于所述人脸图像进行关键点标注;
根据标注的关键点截取所述人脸图像中的人脸区域;
对所述人脸区域对应的图像进行数据增强处理。
6.一种人脸色素斑识别装置,其特征在于,所述装置包括:
获取模块,用于获取人脸图像;
分类模块,用于对所述人脸图像中的各像素点进行色素斑分类识别,以获得所述人脸图像中每一像素点的色素斑分类结果;
识别模块,用于对所述每一像素点的色素斑分类结果进行类别组合,以获得所述人脸图像中色素斑的类别和位置。
7.根据权利要求6所述的装置,其特征在于,所述分类模块具体用于:
对所述人脸图像进行卷积处理,以获得不同层次的图像特征;
通过跳转连接的方式融合所述不同层次的图像特征,以获得高维特征图;
对所述高维特征图进行上采样,以使所述高维特征图的图像尺寸与所述人脸图像的图像尺寸相同,以得到尺寸变化后的所述高维特征图中每一像素点的预测结果,其中,所述预测结果包括各像素点分别属于各个色素斑类别的预测概率;
基于所述每一像素点的预测结果,获取每一像素点对应的最大预测概率所对应的色素斑类别,作为所述每一像素点的色素斑分类结果。
8.根据权利要求6或7所述的装置,其特征在于,所述识别模块具体用于:
组合属于相同色素斑分类结果的各个像素点,得到与所述色素斑分类结果对应的色素斑的类别;
在所述人脸图像中标记属于相同色素斑分类结果的各个像素点的位置,以获得色素斑的位置。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至5中任一项所述的方法。
10.一种非易失性计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,当所述计算机可执行指令被电子设备执行时,使所述电子设备执行权利要求1至5中任一项所述的方法。
CN202010195754.2A 2020-03-19 2020-03-19 一种人脸色素斑识别方法、装置及电子设备 Active CN111429416B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010195754.2A CN111429416B (zh) 2020-03-19 2020-03-19 一种人脸色素斑识别方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010195754.2A CN111429416B (zh) 2020-03-19 2020-03-19 一种人脸色素斑识别方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN111429416A true CN111429416A (zh) 2020-07-17
CN111429416B CN111429416B (zh) 2023-10-13

Family

ID=71548154

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010195754.2A Active CN111429416B (zh) 2020-03-19 2020-03-19 一种人脸色素斑识别方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN111429416B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114612971A (zh) * 2022-03-04 2022-06-10 北京百度网讯科技有限公司 人脸检测方法、模型训练方法、电子设备及程序产品
WO2022267327A1 (zh) * 2021-06-24 2022-12-29 厦门美图宜肤科技有限公司 一种色斑预测方法、装置、设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070172099A1 (en) * 2006-01-13 2007-07-26 Samsung Electronics Co., Ltd. Scalable face recognition method and apparatus based on complementary features of face image
CN106469300A (zh) * 2016-08-31 2017-03-01 广州莱德璞检测技术有限公司 一种色斑检测识别方法
CN108780497A (zh) * 2017-11-14 2018-11-09 深圳和而泰智能控制股份有限公司 一种皮肤瑕疵点分类方法及电子设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070172099A1 (en) * 2006-01-13 2007-07-26 Samsung Electronics Co., Ltd. Scalable face recognition method and apparatus based on complementary features of face image
CN106469300A (zh) * 2016-08-31 2017-03-01 广州莱德璞检测技术有限公司 一种色斑检测识别方法
CN108780497A (zh) * 2017-11-14 2018-11-09 深圳和而泰智能控制股份有限公司 一种皮肤瑕疵点分类方法及电子设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022267327A1 (zh) * 2021-06-24 2022-12-29 厦门美图宜肤科技有限公司 一种色斑预测方法、装置、设备及存储介质
CN114612971A (zh) * 2022-03-04 2022-06-10 北京百度网讯科技有限公司 人脸检测方法、模型训练方法、电子设备及程序产品

Also Published As

Publication number Publication date
CN111429416B (zh) 2023-10-13

Similar Documents

Publication Publication Date Title
Dias et al. Apple flower detection using deep convolutional networks
US11908244B2 (en) Human posture detection utilizing posture reference maps
Shan et al. Automatic facial expression recognition based on a deep convolutional-neural-network structure
Lin Face detection in complicated backgrounds and different illumination conditions by using YCbCr color space and neural network
US8638993B2 (en) Segmenting human hairs and faces
CN112070158B (zh) 一种基于卷积神经网络和双边滤波的面部瑕疵检测方法
CN110046574A (zh) 基于深度学习的安全帽佩戴识别方法及设备
CN110991258B (zh) 一种人脸融合特征提取方法及系统
CN111553438A (zh) 一种基于卷积神经网络的图像识别方法
CN112052772A (zh) 一种人脸遮挡检测算法
CN111680690A (zh) 一种文字识别方法及装置
CN111429416B (zh) 一种人脸色素斑识别方法、装置及电子设备
CN111191569A (zh) 人脸属性的识别方法及其相关装置
CN113159045A (zh) 一种结合图像预处理与卷积神经网络的验证码识别方法
CN114581918A (zh) 一种文本识别模型训练方法及装置
Xu et al. A system to localize and recognize texts in Oriented ID card images
CN110738213B (zh) 一种包括周边环境的图像识别方法及装置
Shiri et al. Recovering faces from portraits with auxiliary facial attributes
CN111488811A (zh) 人脸识别方法、装置、终端设备及计算机可读介质
Kaufhold et al. Recognition and segmentation of scene content using region-based classification
Bai et al. Facial expression recognition based on fusion features of lbp and gabor with lda
CN111626150A (zh) 商品识别方法
Rahman et al. A Quantitative Analysis of Basic vs. Deep Learning-based Image Data Augmentation Techniques
CN117037049B (zh) 基于YOLOv5深度学习的图像内容检测方法及系统
Anjomshoae et al. Hevea leaf boundary identification based on morphological transformation and edge detection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant