CN116631019B - 基于面部图像的口罩适合性检测方法及装置 - Google Patents

基于面部图像的口罩适合性检测方法及装置 Download PDF

Info

Publication number
CN116631019B
CN116631019B CN202210302699.1A CN202210302699A CN116631019B CN 116631019 B CN116631019 B CN 116631019B CN 202210302699 A CN202210302699 A CN 202210302699A CN 116631019 B CN116631019 B CN 116631019B
Authority
CN
China
Prior art keywords
image
face
suitability
model
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210302699.1A
Other languages
English (en)
Other versions
CN116631019A (zh
Inventor
罗常伟
黄晶
王生进
王桂芳
蔡颖南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Beijing Youan Hospital
Original Assignee
Tsinghua University
Beijing Youan Hospital
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University, Beijing Youan Hospital filed Critical Tsinghua University
Priority to CN202210302699.1A priority Critical patent/CN116631019B/zh
Publication of CN116631019A publication Critical patent/CN116631019A/zh
Application granted granted Critical
Publication of CN116631019B publication Critical patent/CN116631019B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明提供一种基于面部图像的口罩适合性检测方法及装置,其中方法包括:获取受试者的正面面部图像;将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。本发明实施例提供的基于面部图像的口罩适合性检测方法,提高了口罩适合性检测的便捷性,降低了口罩适合性检测的成本。

Description

基于面部图像的口罩适合性检测方法及装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种基于面部图像的口罩适合性检测方法及装置。
背景技术
防护口罩是预防呼吸道传播疾病最重要的防护用品。现有技术中,对防护口罩的适合性检测主要通过测试仪进行检测,如医用防护口罩的适合性定量检测主要依赖于呼吸器密合度测试仪。但是使用呼吸器密合度测试仪进行检测价格高,检测过程繁琐,且需口罩佩戴者长时间配合,导致该方法很难推广。如何快速检测口罩的适合性是目前亟需解决的问题。
发明内容
本发明提供一种基于面部图像的口罩适合性检测方法及装置,用以解决现有技术中口罩适合性检测成本高、检测过程繁琐的缺陷,实现口罩适合性低成本便捷检测。
第一方面,本发明提供一种基于面部图像的口罩适合性检测方法,包括:
获取受试者的正面面部图像;
将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;
其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
可选地,所述适合性检测模型包括三维建模子网络、标准图像合成子网络以及一个或多个适合性因数预测子网络;
所述将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,包括:
将所述正面面部图像输入至所述三维建模子网络,获得所述三维建模子网络输出的三维人脸模型;
将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像;
将所述面部标准图像和所述面部深度图像输入至一个或多个适合性因数预测子网络,获得每个所述适合性因数预测子网络输出的适合性因数;每个所述适合性因数预测子网络与预设口罩型号一一对应。
可选地,所述图像样本包括正面面部图像样本和与所述正面面部图像样本一一对应的深度图样本;
对所述三维建模子网络按照如下方法进行训练:
基于所述正面面部图像样本、所述深度图样本、三维人脸统计模型和匹配能量函数获得人脸模型参数集,所述人脸模型参数集用于生成三维人脸模型样本;
基于所述正面面部图像样本、所述人脸模型参数集和第一损失函数对所述三维建模子网络进行训练。
可选地,对每个所述适合性因数预测子网络按照如下方法进行训练:
将所述正面面部图像样本输入至所述三维建模子网络,获得所述三维建模子网络输出的所述三维人脸模型样本;
将所述正面面部图像样本和所述三维人脸模型样本输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像样本和面部深度图像样本;
基于所述面部标准图像样本、所述面部深度图像样本、与预设口罩型号对应的适合性因数标签以及第二损失函数对每个所述适合性因数预测子网络进行训练。
可选地,所述标准图像合成子网络包括矩阵模块、标准图像模块和深度图像模块;
所述将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像,包括:
将所述正面面部图像和所述三维人脸模型输入至所述矩阵模块,获得所述矩阵模块输出的形状变换矩阵;
将所述正面面部图像和所述形状变换矩阵输入至所述标准图像模块,获得所述标准图像模块输出的所述面部标准图像;
将所述三维人脸模型和所述形状变换矩阵输入至所述深度图像模块,获得所述深度图像模块输出的所述面部深度图像。
可选地,所述方法还包括:
将所述适合性检测模型输出的最大适合性因数对应的口罩型号确定为目标推荐型号。
第二方面,本发明还提供一种基于面部图像的口罩适合性检测装置,包括:
获取模块,用于获取受试者的正面面部图像;
检测模块,用于将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;
其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
第三方面,本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如第一方面所述基于面部图像的口罩适合性检测方法。
第四方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面所述基于面部图像的口罩适合性检测方法。
第五方面,本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如第一方面所述基于面部图像的口罩适合性检测方法。
本发明提供的基于面部图像的口罩适合性检测方法及装置,通过适合性检测模型对受试者的正面面部图像进行检测,获得口罩适合性因数,本发明实施例提供的基于面部图像的口罩适合性检测方法只需要采集受试者的正面面部图像,提高了口罩适合性检测的便捷性,降低了口罩适合性检测的成本。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的基于面部图像的口罩适合性检测方法的流程示意图之一;
图2是本发明实施例提供的基于面部图像的口罩适合性检测方法的流程示意图之二;
图3是本发明实施例提供的三维建模子网络应用及训练的流程示意图;
图4是本发明实施例提供的标准图像合成子网络应用的流程示意图之一;
图5是本发明实施例提供的标准图像合成子网络应用的流程示意图之二;
图6是本发明实施例提供的适合性因数预测子网络应用及训练的流程示意图;
图7是本发明实施例提供的基于面部图像的口罩适合性检测方法的流程示意图之三;
图8是本发明实施例提供的基于面部图像的口罩适合性检测装置的结构示意图;
图9是本发明实施例提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面对本发明涉及的技术术语作一介绍:
计算机视觉(Computer Vision,CV):就是人工智能(Artificial Intelligence,AI)的多种研究方向中研究如何使机器“看”的科学,更进一步地说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步进行图形处理,使计算机处理成为更适合人眼观察或传送给仪器检测的图像。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、光学字符识别(OCR)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括人脸识别、指纹识别等生物特征识别技术。
损失函数(Loss Function):也称为代价函数或目标函数,用来衡量模型的预测值f(x)与真实值Y不一致的程度,通常是表示为L(Y,f(x))的一个非负的实值函数。一般而言,损失函数的值(即,损失值)越小,模型拟合得越好,对新数据的预测能力也就越强。损失函数是深度学习中训练模型的“指挥棒”,通过对预测样本和真实样本标记产生的误差反向传播来指导模型参数学习。损失函数的损失值逐渐减少(收敛)时,可以认为完成模型训练。
对于某一型号的口罩,其材质和形状是确定的,口罩与人脸的密合程度(即口罩的适合性)主要与佩戴者的脸型、脸部皮肤平滑度有关。本发明实施例提出基于面部图像的口罩适合性检测方法,通过计算机视觉技术降低口罩适合性检测成本和难度。
下面结合图1-图7描述本发明实施例提供的基于面部图像的口罩适合性检测方法。
图1是本发明实施例提供的基于面部图像的口罩适合性检测方法的流程示意图之一,如图1所示,本发明实施例提供的基于面部图像的口罩适合性检测方法包括:
步骤110,获取受试者的正面面部图像;
具体地,对受试者的正面进行拍摄,获得受试者的人脸图像,人脸图像可以为彩色图像、灰度图像或黑白图像等。应理解,正面拍摄是指拍摄设备镜头正对受试者面部进行面部图像采集,正对受试者面部是指镜头中轴线与受试者面部成90±a度角,其中,a为允许的误差范围。本发明实施例对拍摄设备不作限定。
步骤120,将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;
其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
具体地,图像样本包括预先采集的受试者的正面面部图像样本,所述适合性检测模型中可以预设一种或多种口罩型号,一个图像样本和一个口罩型号的组合对应一个预先确定的适合性因数标签,适合性因数用于评价口罩与使用者面部密合程度。示例性地,表1是本发明实施例提供的图像样本、口罩型号及适合性因数标签对应关系示例表,如表1所示,适合性检测模型中预设ABC-100和DFG-200两种口罩型号,样本1与ABC-100对应的适合性因数标签为103,样本1与DFG-200对应的适合性因数标签为165。应理解,以上是为了便于理解本发明作出的示例,不应对本发明构成限定,本发明实施例对图像样本的来源以及适合性因数标签的确定方式不做限定。
表1.图像样本、口罩型号及适合性因数标签对应关系示例表
图像样本 口罩型号 适合性因数标签
样本1 ABC-100 103
样本1 DFG-200 165
样本2 ABC-100 45
样本2 DFG-200 136
本发明实施例提供的基于面部图像的口罩适合性检测方法,通过适合性检测模型对受试者的正面面部图像进行检测,获得口罩适合性因数,本发明实施例提供的基于面部图像的口罩适合性检测方法只需要采集受试者的正面面部图像,提高了口罩适合性检测的便捷性,降低了口罩适合性检测的成本。
下面,对上述步骤在具体实施例中的可能的实现方式做进一步说明。
可选地,图2是本发明实施例提供的基于面部图像的口罩适合性检测方法的流程示意图之二,如图2所示,所述适合性检测模型包括三维建模子网络、标准图像合成子网络以及一个或多个适合性因数预测子网络;
所述将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,包括:
步骤121,将所述正面面部图像输入至所述三维建模子网络,获得所述三维建模子网络输出的三维人脸模型;
示例性地,使用普通摄像头拍摄受试者正面的人脸彩色图像,即正面面部图像,三维建模子网络通过人脸检测方法得到人脸矩形区域,然后利用人脸建模卷积神经网络重建彩色图像对应的三维人脸模型,利用三维建模子网络基于正面面部图像重建三维人脸模型(即三维人脸模型)。其中,三维建模子网络可以为离线训练的人脸建模卷积神经网络。可选地,三维建模子网络可以通过人脸检测方法得到人脸矩形区域,然后利用人脸建模卷积神经网络重建正面面部图像对应的三维人脸模型。
步骤122,将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像;
应理解,为提高检测准确率,图像样本中的人脸姿态可以为统一姿态(如人脸面部中心与图像中心重合、面部中线与图像中线重合),但在正面面部图像采集过程中,由于设备偏角或受试者姿态等影响因素,正面面部图像中头部姿态与图像样本中的姿态可能存在偏差,偏差的增加对口罩适合性检测准确率具有影响。标准图像合成子网络可以通过平移、缩放、旋转、仿射或透视等变换方式对正面面部图像中的多姿态人脸图像进行姿态调整,将其调整为面部标准图像。相应地,标准图像合成子网络基于三维人脸模型获得的面部深度图像也为经过姿态调整的标准图像。
步骤123,将所述面部标准图像和所述面部深度图像输入至一个或多个适合性因数预测子网络,获得每个所述适合性因数预测子网络输出的适合性因数;每个所述适合性因数预测子网络与预设口罩型号一一对应。
具体地,适合性因数预测子网络可以为预先训练的卷积神经网络。
本发明实施例提供的基于面部图像的口罩适合性检测方法基于三维人脸模型和正面面部图像获得经过姿态调整的面部标准图像和面部深度图像,提高了检测准确率;并且适合性因数预测子网络基于面部标准图像和面部深度图像快速输出适合性因数,提高了检测速度。
可选地,所述图像样本包括正面面部图像样本和与所述正面面部图像样本一一对应的深度图样本;
对所述三维建模子网络按照如下方法进行训练:
步骤1211,基于所述正面面部图像样本、所述深度图样本、三维人脸统计模型和匹配能量函数获得人脸模型参数集,所述人脸模型参数集用于生成三维人脸模型样本;
步骤1212,基于所述正面面部图像样本、所述人脸模型参数集和第一损失函数对所述三维建模子网络进行训练。
一个实施例中,图3是本发明实施例提供的三维建模子网络应用及训练的流程示意图,如图3所示,使用摄像头拍摄受试者正面的正面面部图像,输入三维建模子网络。三维建模子网络通过人脸检测方法得到人脸矩形区域,然后利用人脸建模卷积神经网络重建彩色图像对应的三维人脸模型。人脸建模卷积神经网络需要进行离线训练。
离线训练包括如下步骤:
(1)采集图像样本并重建用于训练的三维人脸模型样本。
图像样本包括正面面部图像样本和与正面面部图像样本一一对应的深度图样本,可选地,图像样本为RGB-D图像,RGB-D图像包括人脸彩色图(正面面部图像样本)和深度图(深度图样本)。可选地,可以使用深度相机采集一定数量的RGB-D图像。
三维人脸统计模型是用于通过基于人脸主成分矩阵(如形状矩阵或纹理矩阵等特征矩阵)来表示任一一张人脸的数学模型,如3DMM模型。
可选地,三维人脸统计模型使用如下公式表示:
其中,S表示人脸形状,是一个列向量,包含了三维人脸模型所有网格点的三维坐标。是平均人脸形状。Pid为身份主成分向量组成的矩阵,Pex为表情主成分向量组成矩阵。aid为身份系数,aex为表情系数。/>Pid和Pex可以通过人脸扫描仪对多个面部样本进行扫描获得。三维人脸统计模型通过不同aid和aex,可以表示不同的三维人脸模型。
对每个RGB-D图像,利用迭代最近点(ICP)算法,将三维人脸统计模型匹配到RGB-D人脸图像,得到RGB-D人脸图像对应的三维人脸模型:
采用迭代最近点(ICP)算法将三维人脸统计模型匹配到深度图样本和正面面部图像样本,就能得到特定的三维人脸模型。
匹配过程中使用的匹配能量函数E(θ,aid,aex)如下所示:
其中,aid为身份系数,aex为表情系数,θ为六维的头部姿态向量,包括头部姿态的三个欧拉角,以及三维的平移向量。j表示第j个网格,ci表示人脸模型的第j个网格点是否被遮挡(示例性地,ci=0表示被遮挡,ci=1表示未被遮挡)。S(j)表示人脸网格的第j个网格点的三维坐标。V(j)表示深度图中与第j个网格点最近邻的点的坐标。n(j)为第V(j)的法向量,F(S,θ)表示根据姿态参数θ对人脸形状S进行三维旋转和平移变换。
应理解,匹配能量函数的值越小,三维人脸模型与图像样本拟合程度越高,采用高斯-牛顿梯度下降法,对匹配能量函数求解,可以得到彩色人脸图像对应的姿态、身份系数和表情系数,记p=[θ,aid,aex],p为人脸模型的参数集。将参数集p=[θ,aid,aex]代入三维人脸统计模型公式即可获得三维人脸模型样本。
(2)构建三维人脸建模卷积神经网络的训练集。
通过上述基于RGB-D图像的三维人脸建模方法,可以为每个RGB-D图像建立三维人脸模型样本,并得到对应的模型参数p=[θ,aid,aex]。将正面面部图像样本与对应的参数p=[θ,aid,aex]组成一个训练样本,用来训练卷积神经网络。
可选地,可以使用的商用深度相机(如微软的Knect,英特尔的Realsense)快速拍摄大量的RGB-D图像作为图像样本;此外,还可对正面面部图像样本添加噪声以扩充训练集,从而在训练集的规模上能够满足人脸建模卷积神经网络的训练需求。
(3)训练人脸建模卷积神经网络。
训练人脸建模卷积神经网络需要定义网络的结构和损失函数。可选地,可以使用VGG(Visual Geometry Group)卷积神经网络、mobileNet等骨干网络作为人脸建模的卷积神经网络。
可选地,人脸建模卷积神经网络的输入是固定大小的正面面部图像,网络的输出是模型参数p=[θ,aid,aex]。
人脸建模卷积神经网络的第一损失函数L3dfm采用如下形式:
L3dfm=LparverLverlanLlan
Lpar=||w·(p-pg)||2
Lver=||F(S,θ)-F(Sg,θg)||2
Llan=||q-qg||2
其中,Lpar为人脸模型参数的距离,Lver为网格点的距离,Llan为彩色图像上人脸特征点的距离。λver和λlan为常数。w为人脸模型参数不同分量的权重。pg为人脸模型参数的真实值。Sg为人脸网格点真实值,θg头部姿态真实值,F(S,θ)表示根据姿态参数θ对人脸形状S进行三维旋转和平移变换。q为预测的彩色图像中人脸特征点坐标。将人脸形状S投影到彩色图像平面就能得到q。qg为人脸特征点坐标的真实值。
根据上述第一损失函数,采用随机梯度下降算法,就能训练得到人脸建模卷积神经网络。
本发明实施例提供的基于面部图像的口罩适合性检测方法,采用通过正面面部图像样本和深度图样本构建训练用的三维人脸模型样本,重建得到的三维人脸模型样本精度更高,有利于提高适合性检测训练效果,从而提高口罩适合性检测准确性。
可选地,图4是本发明实施例提供的标准图像合成子网络应用的流程示意图之一,图5是本发明实施例提供的标准图像合成子网络应用的流程示意图之二,如图4和图5所示,所述标准图像合成子网络包括矩阵模块、标准图像模块和深度图像模块;
将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像,包括:
步骤1221,将所述正面面部图像和所述三维人脸模型输入至所述矩阵模块,获得所述矩阵模块输出的形状变换矩阵;
具体地,将所述正面面部图像和所述三维人脸模型输入至所述矩阵模块,矩阵模块根据三维人脸模型得到正面面部图像中眼角、鼻尖和嘴角等特征点,将所述特征点与标准二维人脸图像中特征点的进行匹配,并基于匹配后的特征点获得形状变换矩阵。标准二维人脸图像可以是标准图像合成子网络预先存储的,可以是用户输入的,也可以是经由三维人脸模型变换得到的,本发明实施例对标准二维人脸图像的来源不作限定。
步骤1222,将所述正面面部图像和所述形状变换矩阵输入至所述标准图像模块,获得所述标准图像模块输出的所述面部标准图像;
具体地,标准图像模块基于形状变换矩阵,对正面面部图像进行平移、缩放、旋转、仿射或透视等变换,得到与标准二维人脸图像对齐的面部标准图像。
步骤1223,将所述三维人脸模型和所述形状变换矩阵输入至所述深度图像模块,获得所述深度图像模块输出的所述面部深度图像。
具体地,深度图像模块可以基于三维人脸模型获得面部深度图像。应理解,如图5所示,三维人脸模型是基于正面面部图像获得的,当正面面部图像存在姿态偏差时,三维人脸模型也相应存在姿态偏差,基于三维人脸模型获得的面部深度图像,也会存在姿态偏差。深度图像模块基于形状变换矩阵,对存在偏差的面部深度图像进行平移、缩放、旋转、仿射或透视等变换,得到与标准二维人脸图像对齐的面部标准图像。
本发明实施例提供的基于面部图像的口罩适合性检测方法通过形状变换矩阵获得与标准二维人脸图像姿态一致的面部标准图像和面部深度图像,提高了检测准确率。
可选地,对每个所述适合性因数预测子网络按照如下方法进行训练:
步骤1231,将所述正面面部图像样本输入至所述三维建模子网络,获得所述三维建模子网络输出的所述三维模型样本;
步骤1232,将所述正面面部图像样本和所述三维模型样本输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像样本和面部深度图像样本;
步骤1233,基于所述面部标准图像样本、所述面部深度图像样本、与预设口罩型号对应的适合性因数标签以及第二损失函数对每个所述适合性因数预测子网络进行训练。
一个实施例中,图6是本发明实施例提供的适合性因数预测子网络应用及训练的流程示意图,如图6所示,本发明实施例通过离线训练适合性因数预测子网络。
(1)使用仪器采集口罩型号对应的适合性因数标签。
示例性地,使用呼吸器密合度测试仪(如TSI-8038 PortaCount Pro+)对佩戴防护口罩的受试者进行定量适合性测试。测试原理基于OSHA 29CFR 1910.134中推荐的凝结核粒子计数(condensation nuclei counting,CNC)定量适合性测试法。适合性因数基于口罩佩戴气密性情况,反映测试对象通过佩戴口罩获得的实际防护效果。在N95测试模式下,适合性因数的取值范围为0~200。
应理解,适合性测试中,受试者依次完成以下8个指定动作:正常呼吸;深呼吸;左右转头;上下点头;大声说话;扮鬼脸;弯腰;正常呼吸,以模拟实际工作状态时可能发生的头面部、颈部或躯体动作,并测试每个动作期间口罩佩戴气密性的状态。仪器自动计算每个动作的适合性因数,以及总适合性因数(overall fit factor),其中第六个动作“扮鬼脸”是模拟口罩佩戴过程中出现缝隙后又自行恢复的状况,故其适合性因数不纳入总适合性因数。
对于三维人脸建模,通常采用200个三维人脸样本构成人脸形状空间,即可表示任意三维人脸形状,即200个样本可以代表一般人群的脸部形状。因此,对于某一型号口罩,可以采集200个三维人脸样本对应的适合性因数标签。
(2)构建口罩适合性因数训练数据。
对于每个参加口罩适合性测试的受试者,拍摄一组正面面部图像样本,利用三维建模子网络和标准图像合成子网络,将原始的正面面部图像样本转化为规整化的面部标准图像样本和面部深度图像样本,并与对应的测量的适合性因数标签组成训练样本。
(3)训练适合性因数预测子网络。
可选地,采用ResNet等作为适合性因数预测子网络的骨干网络。将面部标准图像样本和面部深度图像样本组成四通道数据作为神经网络的输入,输出为适合性因数。由于适合性因数范围在0~200之间,因此,可将训练样本视为201个类别,从而将口罩适合性因数预测问题转化为多分类问题。由于训练样本数量限制,可对适合性因数的类别数进行缩减。例如,以20分为跨度,将[0,19]、[20,39]、[40,59]等范围作为一个大类别,则可将适合性因数分为十大类。
训练卷积神经网络需要定义和损失函数。对于分类问题,可采用softmax交叉熵损失函数:
其中,为第i个样本属于类别Ci的概率。Ci为第i个样本的真实类别(即对训练样本基于适合性因数跨度的分类类别)。
为确保预测的口罩合适性因数与仪器测量的口罩合适性因数Ci距离最小。因此,还需要使用回归损失函数Lregression
其中K为总的类别数,为第i个样本的预测类别。
将softmax交叉熵损失函数和回归损失函数Lregression叠加,获得第二损失函数为:
Lff=LsoftmaxrLregression
其中,λr为常数系数。
本发明实施例提供的基于面部图像的口罩适合性检测方法通过面部标准图像样本和面部深度图像样本、口罩适合性因数标签训练卷积神经网络,并采用分类和回归相结合的损失函数,使得卷积神经网络在训练完成后,能够准确地预测受试者的对某类型口罩的适合性。
可选地,参考图7,图7是本发明实施例提供的基于面部图像的口罩适合性检测方法的流程示意图之三,如图7所示,所述方法还包括:
将所述适合性检测模型输出的最大适合性因数对应的口罩型号确定为目标推荐型号。
具体地,将正面面部图像输入至三维建模子网络,获得三维建模子网络输出的三维模型;将正面面部图像和三维模型输入至标准图像合成子网络,获得标准图像合成子网络输出的面部标准图像和面部深度图像;将面部标准图像和面部深度图像输入至多个适应性因数预测子网络,获得每个适应性因数预测子网络输出的适应性因数;在多个适应性因数中选择最大值,并将适合性因数最大值对应的口罩型号作为推荐结果。
本发明实施例提供的基于面部图像的口罩适合性检测方法,通过适合性检测模型对受试者的正面面部图像进行检测,获得口罩适合性因数,并将适合性因数最大的口罩作为推荐结果,本发明实施例提供的基于面部图像的口罩适合性检测方法提高了口罩适合性检测的便捷性,降低了口罩适合性的检测成本和推荐成本。
下面对本发明提供的基于面部图像的口罩适合性检测装置进行描述,下文描述的基于面部图像的口罩适合性检测装置与上文描述的基于面部图像的口罩适合性检测方法可相互对应参照。
图8是本发明实施例提供的基于面部图像的口罩适合性检测装置的结构示意图,如图8所示,本发明实施例提供一种基于面部图像的口罩适合性检测装置,包括:
获取模块810,用于获取受试者的正面面部图像;
检测模块820,用于将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;
其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
在此需要说明的是,本发明实施例提供的上述装置,能够实现上述方法实施例所实现的所有方法步骤,且能够达到相同的技术效果,在此不再对本实施例中与方法实施例相同的部分及有益效果进行具体赘述。
图9示例了一种电子设备的实体结构示意图,如图9所示,该电子设备可以包括:处理器(processor)910、通信接口(Communications Interface)920、存储器(memory)930和通信总线940,其中,处理器910,通信接口920,存储器930通过通信总线940完成相互间的通信。处理器910可以调用存储器930中的逻辑指令,执行上述各方法所提供的基于面部图像的口罩适合性检测方法,方法包括:获取受试者的正面面部图像;将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
此外,上述的存储器930中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,计算机程序可存储在非暂态计算机可读存储介质上,所述计算机程序被处理器执行时,计算机能够执行上述各方法所提供的基于面部图像的口罩适合性检测方法,方法包括:获取受试者的正面面部图像;将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法提供的基于面部图像的口罩适合性检测方法,方法包括:获取受试者的正面面部图像;将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (8)

1.一种基于面部图像的口罩适合性检测方法,其特征在于,包括:
获取受试者的正面面部图像;
将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;
其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应;
所述适合性检测模型包括三维建模子网络、标准图像合成子网络以及一个或多个适合性因数预测子网络;
所述将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,包括:
将所述正面面部图像输入至所述三维建模子网络,获得所述三维建模子网络输出的三维人脸模型;
将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像;
将所述面部标准图像和所述面部深度图像输入至一个或多个适合性因数预测子网络,获得每个所述适合性因数预测子网络输出的适合性因数;每个所述适合性因数预测子网络与预设口罩型号一一对应。
2.根据权利要求1所述的基于面部图像的口罩适合性检测方法,其特征在于,所述图像样本包括正面面部图像样本和与所述正面面部图像样本一一对应的深度图样本;
对所述三维建模子网络按照如下方法进行训练:
基于所述正面面部图像样本、所述深度图样本、三维人脸统计模型和匹配能量函数获得人脸模型参数集,所述人脸模型参数集用于生成三维人脸模型样本;
基于所述正面面部图像样本、所述人脸模型参数集和第一损失函数对所述三维建模子网络进行训练。
3.根据权利要求2所述的基于面部图像的口罩适合性检测方法,其特征在于,对每个所述适合性因数预测子网络按照如下方法进行训练:
将所述正面面部图像样本输入至所述三维建模子网络,获得所述三维建模子网络输出的所述三维人脸模型样本;
将所述正面面部图像样本和所述三维人脸模型样本输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像样本和面部深度图像样本;
基于所述面部标准图像样本、所述面部深度图像样本、与预设口罩型号对应的适合性因数标签以及第二损失函数对每个所述适合性因数预测子网络进行训练。
4.根据权利要求1所述的基于面部图像的口罩适合性检测方法,其特征在于,所述标准图像合成子网络包括矩阵模块、标准图像模块和深度图像模块;
所述将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像,包括:
将所述正面面部图像和所述三维人脸模型输入至所述矩阵模块,获得所述矩阵模块输出的形状变换矩阵;
将所述正面面部图像和所述形状变换矩阵输入至所述标准图像模块,获得所述标准图像模块输出的所述面部标准图像;
将所述三维人脸模型和所述形状变换矩阵输入至所述深度图像模块,获得所述深度图像模块输出的所述面部深度图像。
5.根据权利要求1-4任一项所述的基于面部图像的口罩适合性检测方法,其特征在于,所述方法还包括:
将所述适合性检测模型输出的最大适合性因数对应的口罩型号确定为目标推荐型号。
6.一种基于面部图像的口罩适合性检测装置,其特征在于,包括:
获取模块,用于获取受试者的正面面部图像;
检测模块,用于将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,每个所述适合性因数与预设口罩型号一一对应;
其中,所述适合性检测模型是基于图像样本以及所述图像样本对应的一个或多个适合性因数标签进行训练后得到的,每个所述适合性因数标签是根据所述图像样本预先确定的,并与预设口罩型号一一对应;
所述适合性检测模型包括三维建模子网络、标准图像合成子网络以及一个或多个适合性因数预测子网络;
所述将所述正面面部图像输入至适合性检测模型,获得所述适合性检测模型输出的一个或多个适合性因数,包括:
将所述正面面部图像输入至所述三维建模子网络,获得所述三维建模子网络输出的三维人脸模型;
将所述正面面部图像和所述三维人脸模型输入至所述标准图像合成子网络,获得所述标准图像合成子网络输出的面部标准图像和面部深度图像;
将所述面部标准图像和所述面部深度图像输入至一个或多个适合性因数预测子网络,获得每个所述适合性因数预测子网络输出的适合性因数;每个所述适合性因数预测子网络与预设口罩型号一一对应。
7.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至5任一项所述基于面部图像的口罩适合性检测方法。
8.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述基于面部图像的口罩适合性检测方法。
CN202210302699.1A 2022-03-24 2022-03-24 基于面部图像的口罩适合性检测方法及装置 Active CN116631019B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210302699.1A CN116631019B (zh) 2022-03-24 2022-03-24 基于面部图像的口罩适合性检测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210302699.1A CN116631019B (zh) 2022-03-24 2022-03-24 基于面部图像的口罩适合性检测方法及装置

Publications (2)

Publication Number Publication Date
CN116631019A CN116631019A (zh) 2023-08-22
CN116631019B true CN116631019B (zh) 2024-02-27

Family

ID=87601418

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210302699.1A Active CN116631019B (zh) 2022-03-24 2022-03-24 基于面部图像的口罩适合性检测方法及装置

Country Status (1)

Country Link
CN (1) CN116631019B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1034701A (en) * 1975-10-09 1978-07-18 Charles C. T. Lamb Protective face mask
CA3015179A1 (en) * 2016-03-08 2016-12-08 Antisep - Tech Ltd. Method and system for monitoring activity of an individual
CN110276289A (zh) * 2019-06-17 2019-09-24 厦门美图之家科技有限公司 生成匹配模型的方法和人脸特征点追踪方法
WO2020063744A1 (zh) * 2018-09-30 2020-04-02 腾讯科技(深圳)有限公司 人脸检测方法及装置、业务处理方法、终端设备及存储介质
AU2020101210A4 (en) * 2020-06-30 2020-08-06 Anguraj, Dinesh Kumar Dr Automated screening system of covid-19 infected persons by measurement of respiratory data through deep facial recognition
CN111611874A (zh) * 2020-04-29 2020-09-01 杭州电子科技大学 基于ResNet和Canny的人脸口罩佩戴检测方法
CN112115818A (zh) * 2020-09-01 2020-12-22 燕山大学 口罩佩戴识别方法
CN112488034A (zh) * 2020-12-14 2021-03-12 上海交通大学 基于轻量化人脸口罩检测模型的视频处理方法
CN113239805A (zh) * 2021-05-14 2021-08-10 长春工业大学 基于mtcnn的口罩佩戴识别方法
CN113963426A (zh) * 2021-12-22 2022-01-21 北京的卢深视科技有限公司 模型训练、戴口罩人脸识别方法、电子设备及存储介质
CN113963183A (zh) * 2021-12-22 2022-01-21 北京的卢深视科技有限公司 模型训练、人脸识别方法、电子设备及存储介质
CN113963237A (zh) * 2021-12-22 2022-01-21 北京的卢深视科技有限公司 模型训练、戴口罩状态检测方法、电子设备及存储介质
CN114049325A (zh) * 2021-11-15 2022-02-15 刘有淇 轻量化人脸口罩佩戴检测模型的构建方法及应用

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8064712B2 (en) * 2007-01-24 2011-11-22 Utc Fire & Security Americas Corporation, Inc. System and method for reconstructing restored facial images from video
US8824808B2 (en) * 2011-08-19 2014-09-02 Adobe Systems Incorporated Methods and apparatus for automated facial feature localization
US20210322701A1 (en) * 2018-06-28 2021-10-21 The Gmn Group Llc Personal protective equipment fitting device and method

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1034701A (en) * 1975-10-09 1978-07-18 Charles C. T. Lamb Protective face mask
CA3015179A1 (en) * 2016-03-08 2016-12-08 Antisep - Tech Ltd. Method and system for monitoring activity of an individual
WO2020063744A1 (zh) * 2018-09-30 2020-04-02 腾讯科技(深圳)有限公司 人脸检测方法及装置、业务处理方法、终端设备及存储介质
CN110276289A (zh) * 2019-06-17 2019-09-24 厦门美图之家科技有限公司 生成匹配模型的方法和人脸特征点追踪方法
CN111611874A (zh) * 2020-04-29 2020-09-01 杭州电子科技大学 基于ResNet和Canny的人脸口罩佩戴检测方法
AU2020101210A4 (en) * 2020-06-30 2020-08-06 Anguraj, Dinesh Kumar Dr Automated screening system of covid-19 infected persons by measurement of respiratory data through deep facial recognition
CN112115818A (zh) * 2020-09-01 2020-12-22 燕山大学 口罩佩戴识别方法
CN112488034A (zh) * 2020-12-14 2021-03-12 上海交通大学 基于轻量化人脸口罩检测模型的视频处理方法
CN113239805A (zh) * 2021-05-14 2021-08-10 长春工业大学 基于mtcnn的口罩佩戴识别方法
CN114049325A (zh) * 2021-11-15 2022-02-15 刘有淇 轻量化人脸口罩佩戴检测模型的构建方法及应用
CN113963426A (zh) * 2021-12-22 2022-01-21 北京的卢深视科技有限公司 模型训练、戴口罩人脸识别方法、电子设备及存储介质
CN113963183A (zh) * 2021-12-22 2022-01-21 北京的卢深视科技有限公司 模型训练、人脸识别方法、电子设备及存储介质
CN113963237A (zh) * 2021-12-22 2022-01-21 北京的卢深视科技有限公司 模型训练、戴口罩状态检测方法、电子设备及存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Face mask detection and classification via deep transfer learning;Xueping Su et al;《PubMed》;全文 *
三维人脸识别研究进展综述;罗常伟等;《清华大学学报(自然科学版)》;第61卷(第01期);全文 *
人脸口罩佩戴检测研究综述;王欣然等;《计算机工程与应用》;第58卷(第10期);全文 *
用定量适合性检验分析呼吸防护装备应用的影响因素;林晓敏;谢雪妹;傅军华;刘玉飞;易建荣;;华南预防医学(03);全文 *

Also Published As

Publication number Publication date
CN116631019A (zh) 2023-08-22

Similar Documents

Publication Publication Date Title
Ploumpis et al. Towards a complete 3D morphable model of the human head
CN109359526B (zh) 一种人脸姿态估计方法、装置和设备
CN107358648B (zh) 基于单张人脸图像的实时全自动高质量三维人脸重建方法
Lou et al. Realistic facial expression reconstruction for VR HMD users
US10049262B2 (en) Method and system for extracting characteristic of three-dimensional face image
CN107403142B (zh) 一种微表情的检测方法
Wang et al. A hierarchical generative model for eye image synthesis and eye gaze estimation
CN108629336B (zh) 基于人脸特征点识别的颜值计算方法
WO2020103700A1 (zh) 一种基于微表情的图像识别方法、装置以及相关设备
Jan et al. Accurate facial parts localization and deep learning for 3D facial expression recognition
CN108182397B (zh) 一种多姿态多尺度的人脸验证方法
CN111783748A (zh) 人脸识别方法、装置、电子设备及存储介质
CN105740781A (zh) 一种三维人脸活体检测的方法和装置
CN112836680A (zh) 一种基于视觉的人脸表情识别方法
Wang et al. Prior-guided multi-view 3d head reconstruction
CN109977764A (zh) 基于平面检测的活体识别方法、装置、终端及存储介质
CN112149553A (zh) 一种考试作弊行为识别方法
Wang et al. Digital twin: Acquiring high-fidelity 3D avatar from a single image
Zhang et al. 3D statistical head modeling for face/head-related product design: a state-of-the-art review
Potamias et al. Handy: Towards a high fidelity 3d hand shape and appearance model
Pan et al. Removal of 3D facial expressions: A learning-based approach
Yongcun et al. Online examination behavior detection system for preschool education professional skills competition based on MTCNN
CN116631019B (zh) 基于面部图像的口罩适合性检测方法及装置
CN111523406B (zh) 一种基于生成对抗网络改进结构的偏转人脸转正方法
Fang et al. Automatic head and facial feature extraction based on geometry variations

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant