CN111860079A - 活体图像检测方法、装置以及电子设备 - Google Patents

活体图像检测方法、装置以及电子设备 Download PDF

Info

Publication number
CN111860079A
CN111860079A CN201910364308.7A CN201910364308A CN111860079A CN 111860079 A CN111860079 A CN 111860079A CN 201910364308 A CN201910364308 A CN 201910364308A CN 111860079 A CN111860079 A CN 111860079A
Authority
CN
China
Prior art keywords
image
rppg
living body
original image
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910364308.7A
Other languages
English (en)
Other versions
CN111860079B (zh
Inventor
赵元
陈路燕
沈海峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Didi Infinity Technology and Development Co Ltd
Original Assignee
Beijing Didi Infinity Technology and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Didi Infinity Technology and Development Co Ltd filed Critical Beijing Didi Infinity Technology and Development Co Ltd
Priority to CN201910364308.7A priority Critical patent/CN111860079B/zh
Publication of CN111860079A publication Critical patent/CN111860079A/zh
Application granted granted Critical
Publication of CN111860079B publication Critical patent/CN111860079B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40Spoof detection, e.g. liveness detection
    • G06V40/45Detection of the body part being alive

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供了一种活体图像检测方法、装置以及电子设备,其中,该方法包括:获取原始图像,对原始图像进行指定对象的特征检测;如果检测到原始图像包含指定对象,将指定对象所在的区域等比例划分成多个图像块;基于每个图像块提取rPPG信号;分别将rPPG信号输入至预先训练好的检测模型,检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号;如果是,确定原始图像为活体图像。本申请提供的活体图像检测方法、装置以及电子设备,可以减少指定对象本身或者所处环境发生的变化对整个原始图像的影响,与对整个原始图像进行检测的方式相比,能够提高检测过程的抗干扰性,从而提高活体检测的准确性。

Description

活体图像检测方法、装置以及电子设备
技术领域
本申请涉及图像处理的技术领域,具体而言,涉及一种活体图像检测方法、装置以及电子设备。
背景技术
目前,随着计算机视觉和机器学习技术的发展,人脸识别技术发展得越来越快,识别准确率越来越高,在日常生活中也得到了广泛的应用,比如门禁,金融支付等。因此,人脸识别的重要优点就是用户体验好,方便快捷。
但是,另一方面人脸识别的隐私性相对较差,这是因为人脸图片相对于指纹、虹膜等信息更容易获取。因此,为了实现在保证人脸识别高准确率的同时保证安全性,现有技术中多采用活体检测的方式,来保证安全性。而在实际运用过程汇总,活体检测技术,往往会受到很多因素的干扰而导致误判,比如,人脸自身的一些表情、姿态变化,以及,环境光照变化因素等等,这些都容易造成活体检测的误判。
针对上述活体检测容易出现误判的问题,目前尚未提出有效的解决方案。
发明内容
有鉴于此,本申请的目的在于提供一种活体图像检测方法、装置以及电子设备,以改善活体检测容易出现误判的问题,提高检测正确率。
根据本申请的一个方面,提供一种电子设备,可以包括存储介质和与存储介质通信的处理器。存储介质存储有处理器可执行的机器可读指令。当电子设备运行时,处理器与存储介质之间通过总线通信,处理器执行所述机器可读指令,以执行以下操作:
获取原始图像,对原始图像进行指定对象的特征检测;如果检测到原始图像包含指定对象,将指定对象所在的区域等比例划分成多个图像块;基于每个图像块提取rPPG信号;分别将rPPG信号输入至预先训练好的检测模型,检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号;如果是,确定原始图像为活体图像。
在一些实施例中,上述原始图像为视频图像;上述将指定对象所在的区域等比例划分成多个图像块的步骤包括:获取包含指定对象的连续多帧图像;基于每帧图像,将指定对象所在的区域等比例划分成多个图像块。
在一些实施例中,上述将指定对象所在的区域等比例划分成多个图像块的步骤包括:按照指定对象的轮廓,在每帧图像中对指定对象所在的区域进行裁切,以获取包含指定对象的矩形图;基于矩形图对指定对象所在的区域进行等比例划分,以生成多个图像块;其中,每个图像块均包含部分指定对象的图像。
在一些实施例中,上述基于矩形图对指定对象所在的区域进行等比例划分的步骤包括:获取矩形图的原始尺寸比例,以及预先设置的划分比例;根据原始尺寸比例与划分比例对矩形图进行缩放,生成矩形图对应的缩放图,其中,缩放图的尺寸比例与划分比例满足整数倍关系;基于缩放图,按照预先设置的划分比例进行等比例划分。
在一些实施例中,上述预先训练好的检测模型为多示例学习模型;上述分别将rPPG信号输入至预先训练好的检测模型的步骤包括:将原始图像标记为多示例学习模型对应的包,以及,根据每个图像块提取的rPPG信号生成与包对应的示例;将示例输入至多示例学习模型,以使多示例学习模型根据示例对包进行标记。
在一些实施例中,上述方法还包括:获取预先建立的样本集,其中,样本集包括指定对象的图像集,其中,图像集一部分图像为带有活体标记,另一部分图像带有非活体标记;将图像集中的图像作为多示例学习模型对应的包,对多示例学习模型进行训练,以生成检测模型,其中,多示例学习模型为具有检测rPPG信号是否为活体rPPG信号的功能的模型。
在一些实施例中,上述基于每个图像块提取rPPG信号的步骤包括:计算每个图像块中每个颜色通道像素值的平均值,对平均值进行去噪声处理;根据平均值计算每个图像块对应的rPPG值;基于多帧图像中的每帧图像,根据相同位置的图像块对应的rPPG值生成相同位置的图像块对应的rPPG信号。
在一些实施例中,上述方法还包括:如果检测出每个图像块提取的rPPG信号均不包含有指定对象对应的活体rPPG信号,确定原始图像为非活体图像。
在一些实施例中,上述方法还包括:如果确定原始图像为活体图像,对原始图像进行图像识别,以确定出原始图像对应的用户身份。
在一些实施例中,上述对原始图像进行图像识别的步骤,包括:当指定对象为人脸时,对原始图像进行人脸识别;根据人脸识别结果确定原始图像对应的用户是否合法,或者,根据人脸识别结果确定原始图像对应的用户的身份标识。
根据本申请的另一个方面,还提供一种活体图像检测装置,包括:第一获取模块,用于获取原始图像,对原始图像进行指定对象的特征检测;划分模块,用于如果检测到原始图像包含指定对象,将指定对象所在的区域等比例划分成多个图像块;提取模块,用于基于每个图像块提取rPPG信号;检测模块,用于分别将rPPG信号输入至预先训练好的检测模型,检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号;第一确定模块,用于当检测模块的检测结果为是时,确定原始图像为活体图像。
在一些实施例中,上述原始图像为视频图像;上述划分模块用于:获取包含指定对象的连续多帧图像;基于每帧图像,将指定对象所在的区域等比例划分成多个图像块。
在一些实施例中,上述划分模块还用于:按照指定对象的轮廓,在每帧图像中对指定对象所在的区域进行裁切,以获取包含指定对象的矩形图;基于矩形图对指定对象所在的区域进行等比例划分,以生成多个图像块;其中,每个图像块均包含部分指定对象的图像。
在一些实施例中,上述划分模块还用于:获取矩形图的原始尺寸比例,以及预先设置的划分比例;根据原始尺寸比例与划分比例对矩形图进行缩放,生成矩形图对应的缩放图,其中,缩放图的尺寸比例与划分比例满足整数倍关系;基于缩放图,按照预先设置的划分比例进行等比例划分。
在一些实施例中,上述预先训练好的检测模型为多示例学习模型;上述监测模块用于:将原始图像标记为多示例学习模型对应的包,以及,根据每个图像块提取的rPPG信号生成与包对应的示例;将示例输入至多示例学习模型,以使多示例学习模型根据示例对包进行标记。
在一些实施例中,上述装置还包括:第二获取模块,用于获取预先建立的样本集,其中,样本集包括指定对象的图像集,其中,图像集一部分图像为带有活体标记,另一部分图像带有非活体标记;训练模块,用于将图像集中的图像作为多示例学习模型对应的包,对多示例学习模型进行训练,以生成检测模型,其中,多示例学习模型为具有检测rPPG信号是否为活体rPPG信号的功能的模型。
在一些实施例中,上述提取模块用于:计算每个图像块中每个颜色通道像素值的平均值,对平均值进行去噪声处理;根据平均值计算每个图像块对应的rPPG值;基于多帧图像中的每帧图像,根据相同位置的图像块对应的rPPG值生成相同位置的图像块对应的rPPG信号。
在一些实施例中,上述装置还包括:第二确定模块,用于如果检测出每个图像块提取的rPPG信号均不包含有指定对象对应的活体rPPG信号,确定原始图像为非活体图像。
在一些实施例中,上述装置还包括:识别模块,用于如果确定原始图像为活体图像,对原始图像进行图像识别,以确定出原始图像对应的用户身份。
在一些实施例中,上述识别模块用于:当指定对象为人脸时,对原始图像进行人脸识别;根据人脸识别结果确定原始图像对应的用户是否合法,或者,根据人脸识别结果确定原始图像对应的用户的身份标识。
根据本申请的另一个方面,还提供一种电子设备,包括:处理器、存储介质和总线,存储介质存储有处理器可执行的机器可读指令,当电子设备运行时,处理器与存储介质之间通过总线通信,处理器执行机器可读指令,以执行时执行上述活体图像检测方法的步骤。
根据本申请的另一个方面,还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述活体图像检测方法的步骤。
基于上述任一方面,可以在检测到原始图像中包含指定对象后,将指定对象所在的区域进行等比例划分成多个图像块,再基于每个图像块提取rPPG信号,并利用预先训练好的检测模型检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号,并在检测到有指定对象对应的活体rPPG信号时,将原始图像确定为活体图像,上述对多个图像块的rPPG的信号分别进行检测的方式,可以在指定对象本身发生变化,或者,所处环境发生变化时,减少这些变化对整个原始图像的影响,与对整个原始图像进行检测的方式相比,能够提高检测过程的抗干扰性,从而提高活体检测的准确性。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例提供的一种电子设备的结构示意图;
图2示出了本申请实施例提供的一种活体图像检测方法的流程图;
图3示出了本申请实施例提供的另一种活体图像检测方法的流程图;
图4示出了本申请实施例提供的一种人脸图像裁切的示意图;
图5示出了本申请实施例提供的一种活体图像检测装置的结构示意图;
图6示出了本申请实施例提供的另一种活体图像检测装置的结构示意图;
图7示出了本申请实施例提供的另一种活体图像检测装置的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解,本申请中附图仅起到说明和描述的目的,并不用于限定本申请的保护范围。另外,应当理解,示意性的附图并未按实物比例绘制。本申请中使用的流程图示出了根据本申请的一些实施例实现的操作。应该理解,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。
需要说明的是,本申请实施例中将会用到术语“包括”,用于指出其后所声明的特征的存在,但并不排除增加其它的特征。
活体检测技术通常用在人脸活体检测中,具体地,人脸活体检测也称为人脸防伪检测,用于“刷脸”时判断这张脸是真实的人脸还是“假的”人脸。常见的活体检测攻击类型有照片翻拍,视频回放,立体面具等等,因此,活体检测目前仍然是一个难以妥善解决的问题。以往的活体检测技术主要是提取人脸图片与攻击图片的特征,比如LBP(Local BinaryPattern,局部二值模式)算法、DoG(Difference of Gaussian)算法进行特征提取等,再结合传统的机器学习算法,比如SVM(Support Vector Machine,支持向量机)算法进行分类。
考虑到干扰因素,比如人脸自身的一些变化(表情,姿态等),环境光照等容易造成误判。本申请提供了一种活体图像检测方法、装置以及电子设备,主要将人体指定部位的rPPG(Remote Photoplethysmography,远程光电体积描记术)信号,作为区分活体与非活体的特征。该rPPG信号的检测原理是人的心跳会产生血液流动,该指定部位中有丰富的毛细血管会产生人肉眼无法观测到的微小的颜色变化,但是可以通过摄像头记录这个变化的过程,通过一系列信号处理可以得到心率。非活体的视频或图像理论上是提取不到rPPG信号的,所以rPPG信号是一个区分活体非活体的有效特征。
图1示出可以实现本申请的一些实施例的电子设备100的示例性硬件和软件组件的示意图。该电子设备100可以是通用计算机或特殊用途的计算机,两者都可以用于实现本申请的活体图像检测装置。电子设备100可以包括连接到网络的网络端口110、用于执行程序指令的一个或多个处理器120、通信总线130、和不同形式的存储介质140,例如,磁盘、ROM、或RAM,或其任意组合。示例性地,计算机平台还可以包括存储在ROM、RAM、或其他类型的非暂时性存储介质、或其任意组合中的程序指令。根据这些程序指令可以实现本申请的装置。电子设备100还包括计算机与其他输入输出设备(例如键盘、显示屏)之间的输入/输出(Input/Output,I/O)接口150。
当电子设备运行时,处理器120与存储介质140之间通过通信总线130通信,处理器120执行机器可读指令,以实现如下实施例中的活体图像检测方法的步骤,例如:可以通过网络端口110从网络获取原始图像,该原始图像可以被存储在存储介质140,处理器从存储介质140读取该原始图像,对原始图像进行指定对象的特征检测,如果检测到原始图像包含指定对象,将指定对象所在的区域等比例划分成多个图像块;基于每个图像块提取rPPG信号;分别将提取到的rPPG信号输入至预先训练好的检测模型,检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号;如果每个上述图像块均包含有指定对象对应的活体rPPG信号,确定原始图像为活体图像。
为了便于说明,在电子设备100中仅描述了一个处理器。然而,应当注意,本申请中的电子设备100还可以包括多个处理器,因此本申请中描述的一个处理器执行的步骤也可以由多个处理器联合执行或单独执行。例如,若电子设备100的处理器执行步骤A和步骤B,则应该理解,步骤A和步骤B也可以由两个不同的处理器共同执行或者在一个处理器中单独执行。例如,第一处理器执行步骤A,第二处理器执行步骤B,或者第一处理器和第二处理器共同执行步骤A和B。
基于上述电子设备的描述,本申请实施例首先描述了一种活体图像检测方法,如图2所示的一种活体图像检测方法的流程图,该方法包括如下步骤:
步骤S202,获取原始图像,对该原始图像进行指定对象的特征检测;
在实际使用时,上述原始图像通常是摄像装置采集的图片信息或者是视频信息,上述指定对象通常是人体指定的位置,如面部、四肢等等。
进一步,在该步骤中,特征检测的过程可以通过轮廓识别、特征提取等算法实现,具体可以根据实际情况,并参考相关资料实现,本申请实施方式对此不进行限制。
步骤S204,如果检测到该原始图像包含指定对象,将指定对象所在的区域等比例划分成多个图像块;
步骤S206,基于每个图像块提取rPPG信号;
其中,rPPG信号可以利用反射的周围光来测量皮肤的细微亮度变化。通常,皮肤的细微亮度变化是由于心脏跳动使得血液流动导致的,通过特定的摄像装置,可以记录该变化的过程,并通过一系列的信号处理,可以得到心率、呼吸率等,实现活体图像的识别和检测。
以往的活体图像检测,通常是基于指定对象的整张图像进行的,例如,整张的人脸图像等等,这样,很容易受到表情、姿态,或者环境等变化而导致rPPG信号提取不准确,从而导致误判率较高,而通过上述步骤S204和步骤S206的步骤,将指定对象所在的区域等比例划分成多个图像块,再提取rPPG信号的方式,可以有效提高对表情、姿态,以及环境等变化的鲁棒性。
步骤S208,分别将rPPG信号输入至预先训练好的检测模型,检测每个图像块提取的rPPG信号中是否包含有上述指定对象对应的活体rPPG信号;
步骤S210,如果是,确定上述原始图像为活体图像。
具体实现时,上述预先训练好的检测模型,可以对每个图像块对应的rPPG信号进行检测,例如,检测rPPG信号的波形,信号幅度等等,以判断是否是指定对象对应的活体rPPG信号。
通常,在检测出多个图像块对应的rPPG信号中包含至少一个活体rPPG信号时,即可确定上述原始图像为活体图像,有效避免了由于局部图像受自身变化(如,表情、姿态等)或者受环境变化因素的影响而出现误判现象。
本申请实施例提供的活体图像检测方法,可以在检测到原始图像中包含指定对象后,将指定对象所在的区域进行等比例划分成多个图像块,再基于每个图像块提取rPPG信号,并利用预先训练好的检测模型检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号,并在检测到有指定对象对应的活体rPPG信号时,将原始图像确定为活体图像,上述对多个图像块的rPPG的信号分别进行检测的方式,可以在指定对象本身发生变化,或者,所处环境发生变化时,减少这些变化对整个原始图像的影响,与对整个原始图像进行检测的方式相比,能够提高检测过程的抗干扰性,从而提高活体检测的准确性。
在实际使用时,考虑到rPPG信号的原理是基于摄像装置记录的人肉眼无法观测到的微小的颜色变化过程,因此,上述原始图像通常是视频图像,以记录上述变化过程,因此,通过特征检测的过程检测到视频图像中包含指定对象后,会对包含该指定对象的连续多帧图像进行处理,因此,本申请实施例还提供了另一种活体图像检测方法,如图3所示的另一种活体图像检测方法的流程图,该方法包括以下步骤:
步骤S302,获取原始图像,对该原始图像进行指定对象的特征检测;
具体地,在本实施例中,以上述原始图像为视频图像,且上述指定对象为人脸为例进行说明,即检测原始视频图像中包括的人脸图像是否为活体人脸图像。
步骤S304,如果检测到该原始图像包含指定对象,获取包含指定对象的连续多帧图像;
具体实现时,以该指定对象为人脸为例,如果在原始视频图像中包含有人脸图像,则可以提取出包含该人脸的连续视频帧,并基于每帧图像按照下述步骤S306和步骤S308的过程提取rPPG信号信号,并进行检测。
步骤S306,基于每帧图像,将指定对象所在的区域等比例划分成多个图像块;
具体地,可以获取包含上述指定对象(即,人脸)的连续多帧图像;基于每帧图像,将指定对象所在的区域等比例划分成多个图像块。
考虑到在活体检测过程中,非活体人脸的攻击类型一般有手持照片攻击和手持电子设备屏幕攻击等,这些供给方式一般会与背景有比较明显的区分界线,因此,在提取出包含该人脸的连续视频帧后,会裁切掉每帧图像中额外的边框等背景信息。并且,在裁切时,是对连续多帧图像同时进行裁切,以保证每帧图像的尺寸统一,具体地,裁切过程包括以下几个步骤:
(1)按照指定对象的轮廓,在每帧图像中对指定对象所在的区域进行裁切,以获取包含该指定对象的矩形图;
例如,以该指定对象为人脸为例进行说明,对于包含该人脸的多帧连续图像,在该人脸所在的区域分别进行裁切,且,在裁切时按照相同的尺寸和位置,以获取包含该人脸的矩形图。
(2)基于该矩形图对指定对象所在的区域进行等比例划分,以生成多个图像块;其中,每个图像块均包含部分指定对象的图像。
具体地,等比例划分的方式,可以使每个图像块具有相同的尺寸,以便于后续进行rPPG信号的提取。在实际使用时,该尺寸通常以像素为单位计算,例如,每帧图像大小为256*256等等。
具体实现时,每个图像块的大小,可以根据实际使用情况进行设置,例如,大小为256*256的矩形图,可以划分成多个16*16的图像块,也可以划分成多个16*10的图像块,还可以划分成多个10*10的图像块,具体图像块的尺寸大小可以根据实际使用情况进行预先设置,本实施例对此不进行限制。
考虑到裁切后的矩形图的尺寸与预先设置的图像块的尺寸会出现不能满足整数倍划分的情况,因此,在对指定对象所在的区域进行划分时,还可以对上述矩形图进行缩放,以便于在对矩形图进行等比例划分后,生成多个尺寸相同的图像块。
具体地,等比例划分过程可以包括以下步骤:
(1)获取上述矩形图的原始尺寸比例,以及预先设置的划分比例;
(2)根据原始尺寸比例与划分比例对矩形图进行缩放,生成矩形图对应的缩放图,其中,该缩放图的尺寸比例与划分比例满足整数倍关系;
(3)基于缩放图,按照预先设置的划分比例进行等比例划分。
以上述预先设置的划分比例为m*n为例进行说明,如果裁切后获取的包含人脸的矩形图的长宽不能被m或者n整除,在等比例划分时可能会导致部分图像块大小和其他图像块不一致的问题,因此,在等比例划分时,可以首先将矩形图进行缩放,来满足对m和n的整除关系,即,使缩放图的尺寸比例与划分比例满足整数倍关系,然后再对缩放后的图像进行等比例划分裁切,切分成多个m*n的图像块。
进一步,上述m*n还可以是等比例划分后,生成的图像块的个数关系,即将矩形图划分成m*n个图像块,此时,在对矩形图进行缩放时,其缩放系数同样也可以参考根据该m*n的图像块的个数来计算,具体可以根据实际使用情况进行设置,本申请实施例对此不进行限制。
为了便于理解,图4示出了一种人脸图像裁切的示意图,如图4所示,假设图4中的(a)是从原始视频图像中获取的包含人脸的连续多帧图像中的其中一帧,除了包括人脸图像以外,还包括其他背景信息,因此,可以按照人脸的轮廓,在该帧图像中对人脸所在的区域进行裁切,以获取包含该人脸的的矩形图,即图4中的(b)图所示的人脸矩形图。
基于图4中的(b)所示的矩形图,还需进一步进行等比例划分,以生成多个图像块,假设预先设置的划分比例m*n为生成的图像块的个数,其中,图4中,以4*3为例,即将矩形图按照4行3列划分成12个图像块,而(b)所示的矩形图的长宽不能满足4行3列的整数倍关系,因此,对矩形图进行缩放,生成图4中的(c)所示的缩放图后再进行划分,然后再执行后面的步骤来提取每个图像块的rPPG信号。
应当理解,图4是以连续视频帧中的其中一帧图像为例进行说明,在实际使用时,连续的多帧图像可以同时进行裁切,且每一帧图像裁切得到的矩形图尺寸,以及缩放比例,通长都是一致的,以保证相同位置图像块的尺寸统一,以便于提取准确的rPPG信号来检测人脸中毛细血管产生的微小的颜色变化。
步骤S308,基于每个图像块提取rPPG信号;
在实际使用时,考虑到上述每个图像块是多帧图像中提取的图像块,因此,本申请中提取的rPPG信号,也是从连续视频帧包含的图像中提取出来的信号。具体地,可以按照如下步骤进行提取:
(1)计算每个图像块中每个颜色通道像素值的平均值,对平均值进行去噪声处理;
具体地,去噪处理的过程可以使用相应的滤波器实现,如,去平均滤波器、带通滤波器等等。
(2)根据该平均值计算每个图像块对应的rPPG值;
具体地,对每个图像块计算对应的rPPG值的过程,可以参考如下过程实现:
首先,计算图像块中的包括的任意指定点f的两个正交色度信号:
xf=3rf-2gf
yf=1.5rf+gf-1.5bf
其中,f为该图像块中的任意指定点,xf、yf为任意指定点的两个正交的色度信号,rf、gf、bf为肤色归一化后的RGB三个通道的滤波器输出的颜色通道像素值的平均值。
然后,计算该图像块中包括的多个任意指定点的两个正交色度信号的标准差δ(xf)和δ(yf),计算标准查的比值r:
其中,该比值r表示为:
Figure BDA0002047731890000131
再根据上述比值r计算每个图像块对应的rPPG值:
Figure BDA0002047731890000141
(3)基于多帧图像中的每帧图像,根据相同位置的图像块对应的rPPG值生成相同位置的图像块对应的rPPG信号。
具体地,对连续帧视频图像相同位置对应的图像块按照(2)步骤计算去噪后rPPG值,实际是时域rPPG值,此时,得到的是视频图像的一个连续的rPPG信号向量。
通常,会将该rPPG信号向量进行频域转换,进行傅立叶变换,如采用FFT(FastFourier Transformation,快速傅里叶变换)算法,变换时可设置变换到频域的时长信号,进而得到频域的多维向量。
并且,对于整段的原始视频图像,其包含指定对象的每一帧图像都可以切分为m*n个图像块,或者多个像素尺寸为m*n的图像块,在每一帧图像的相同位置对应的图像块,均可以通过上述计算过程得到rPPG信号。
步骤S310,分别将rPPG信号输入至预先训练好的检测模型;
步骤S312,检测每个图像块提取的rPPG信号中是否包含有上述指定对象对应的活体rPPG信号;如果是,执行步骤S314;如果否,执行步骤S316;
步骤S314,确定上述原始图像为活体图像;
步骤S316,确定上述原始图像为非活体图像。
即,如果检测出每个图像块提取的rPPG信号均不包含有上述指定对象(如,人脸)对应的活体rPPG信号,确定原始图像为非活体图像。
如果确定出上述原始图像为活体图像,可以进一步对原始图像进行图像识别,以确定出原始图像对应的用户身份。
例如,当上述指定对象为人脸时,对原始图像进行人脸识别;根据人脸识别结果确定原始图像对应的用户是否合法,或者,根据人脸识别结果确定原始图像对应的用户的身份标识。具体的图像识别过程可以参考相关识别算法实现,本申请实施方式对此不进行限制。
在实际使用时,上述预先训练好的检测模型为多示例学习模型;具体地,多示例学习是一种有监督的分类学习方法,对于该模型训练时,可以将训练样本转化为多个示例集合成的包,每个包分配一个标签,而包中的示例没有标签。在多示例学习的二分类问题中,如果一个包中至少有一个示例为正样本,则该多示例包标记为正包,反过来如果一个包中所有示例均为负样本,则该示例包标记为负包。
具体到本申请实施例中,将指定对象所在的区域等比例划分成多个图像块的方式,可以将包含指定对象的原始图像对应于多示例学习中的包,每个图像块提取的rPPG信号对应于多示例学习中的示例,若多示例学习模型对一个包中的所有图像块的检测结果为均不包含指定对象对应的活体rPPG信号,则该包记为负包,反之记为正包。
基于此,上述步骤S310中,分别将rPPG信号输入至预先训练好的检测模型的步骤包括:将原始图像标记为多示例学习模型对应的包,以及,根据每个图像块提取的rPPG信号生成与该包对应的示例;将示例输入至多示例学习模型,以使多示例学习模型根据示例对上述包进行标记。具体地,当多示例学习模型检测出至少一个图像块对应的rPPG信号为活体rPPG信号时,该包记为正包,即,原始图像为活体图像,如果多示例学习模型检测出所有图像块对应的rPPG信号均为活体rPPG信号时,该包记为负包,即,原始图像为活体图像。
上述对指定对象所在的区域进行等比例划分,并对每个图像块分别检测的方式,与以往的基于整张人脸图像进行检测的方式相比,可以有效避免整张人脸图像容易受到表情、姿态,以及环境因素(如光照变化)等变化而导致rPPG信号提取不准确,进而使误判率较高的问题。同时,也无需对人脸的关键点,如额头、脸颊等区域进行定位,有效避免了定位不准确,以及计算成本较高的技术问题。
在实际使用时,为了使上述多示例学习模型具体检测rPPG信号的功能,本申请实施例还包括对上述多示例学习模型的训练过程,具体地,训练过程通常包括以下步骤:
(1)获取预先建立的样本集;
其中,该样本集包括指定对象的图像集,图像集一部分图像为带有活体标记,另一部分图像带有非活体标记;
同样以指定对象为人脸进行说明,该图像集为包含人脸图像的图像集,其中,带有活体标记的一部分图像通常指该人脸图像切分成的图像块中提取出的rPPG信号为活体人脸图像的rPPG信号;带有非活体标记的一部分图像通常指该人脸图像切分成的图像块中提取出的rPPG信号为非活体人脸图像的rPPG信号,上述活体人脸图像的rPPG信号和非活体人脸图像的rPPG信号均对应为多示例学习中的示例,并形成多示例学习模型训练的样本集。
(2)将所述图像集中的图像作为多示例学习模型对应的包,对多示例学习模型进行训练,以生成所述检测模型,其中,多示例学习模型为具有检测rPPG信号是否为活体rPPG信号的功能的模型。
在训练时,活体人脸图像的包标记为正标签,非活体人脸图像的包标记为负标签。在实际使用时,由于该多示例学习模型具有检测rPPG信号是否为活体rPPG信号的功能,因此,可以使用预先标记好的活体rPPG信号和非活体rPPG信号对多示例学习模型进行训练,使该多示例学习模型具有检测rPPG信号的波形,信号幅度等功能,以实现活体图像的检测,并且,在检测时,无需对每个示例进行标记,仅在所有示例的判断结果都为负,时,将该包标记为负包,即判断为非活体人脸图像,反之,若至少有一个示例的判断结果不为负,则该包标记为正包,即判断为活体人脸图像,这样可以有效避免因为眼睛等部位不能提取rPPG信号而导致的误判率较高的问题。
因此,本申请实施例提供的活体图像检测方法,相当于是对原始视频图像进行分类的过程,引入多示例学习的概念,将整个原始视频图像对应为多示例学习中的包,指定对象所在的区域等比例划分成多个图像块中提取的rPPG信号对应为多示例学习中的示例,该rPPG信号为连续多帧图像中提取到的rPPG信号,相当于是训练中所需的特征,训练时的标签是图像块所属原始视频图像的类别,对多示例学习模型进行训练得到的是一个分类模型。
在实际检测过程中,将指定对象所在的区域等比例划分成多个图像块,分别对每个图像块提取rPPG信号进行检测,可以将活体检测过程从一个简单的二分类方法转化成一个多示例学习过程,降低原始的二分类活体检测的误判率。同时,对指定图像所在的区域进行简单的裁切划分,也无锡考虑关键点定位的准确性和计算成本等问题。
基于同一发明构思,本申请实施例中还提供了与上述活体图像检测方法对应的活体图像检测装置,由于本申请实施例中的装置解决问题的原理与本申请实施例上述活体图像检测方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
具体地,如5所示的一种活体图像检测装置的结构示意图,该装置包括:
第一获取模块50,用于获取原始图像,对原始图像进行指定对象的特征检测;
划分模块52,用于如果检测到原始图像包含指定对象,将指定对象所在的区域等比例划分成多个图像块;
提取模块54,用于基于每个图像块提取rPPG信号;
检测模块56,用于分别将rPPG信号输入至预先训练好的检测模型,检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号;
第一确定模块58,用于当检测模块的检测结果为是时,确定原始图像为活体图像。
本申请实施例提供的活体图像检测装置,可以在检测到原始图像中包含指定对象后,将指定对象所在的区域进行等比例划分成多个图像块,再基于每个图像块提取rPPG信号,并利用预先训练好的检测模型检测每个图像块提取的rPPG信号中是否包含有指定对象对应的活体rPPG信号,并在检测到有指定对象对应的活体rPPG信号时,将原始图像确定为活体图像,上述对多个图像块的rPPG的信号分别进行检测的方式,可以在指定对象本身发生变化,或者,所处环境发生变化时,减少这些变化对整个原始图像的影响,与对整个原始图像进行检测的方式相比,能够提高检测过程的抗干扰性,从而提高活体检测的准确性。
在一些实施例中,上述原始图像为视频图像;上述划分模块用于:获取包含指定对象的连续多帧图像;基于每帧图像,将指定对象所在的区域等比例划分成多个图像块。
在一些实施例中,上述划分模块还用于:按照指定对象的轮廓,在每帧图像中对指定对象所在的区域进行裁切,以获取包含指定对象的矩形图;基于矩形图对指定对象所在的区域进行等比例划分,以生成多个图像块;其中,每个图像块均包含部分指定对象的图像。
在一些实施例中,上述划分模块还用于:获取矩形图的原始尺寸比例,以及预先设置的划分比例;根据原始尺寸比例与划分比例对矩形图进行缩放,生成矩形图对应的缩放图,其中,缩放图的尺寸比例与划分比例满足整数倍关系;基于缩放图,按照预先设置的划分比例进行等比例划分。
在一些实施例中,上述预先训练好的检测模型为多示例学习模型;上述监测模块用于:将原始图像标记为多示例学习模型对应的包,以及,根据每个图像块提取的rPPG信号生成与包对应的示例;将示例输入至多示例学习模型,以使多示例学习模型根据示例对包进行标记。
在上述图5的基础上,图6示出了另一种活体图像检测装置的结构示意图,除上述图5所示的结构外,该装置还包括:
第二获取模块60,用于获取预先建立的样本集,其中,样本集包括指定对象的图像集,其中,图像集一部分图像为带有活体标记,另一部分图像带有非活体标记;
训练模块62,用于将图像集中的图像作为多示例学习模型对应的包,对多示例学习模型进行训练,以生成检测模型,其中,多示例学习模型为具有检测rPPG信号是否为活体rPPG信号的功能的模型。
在一些实施例中,上述提取模块用于:计算每个图像块中每个颜色通道像素值的平均值,对平均值进行去噪声处理;根据平均值计算每个图像块对应的rPPG值;基于多帧图像中的每帧图像,根据相同位置的图像块对应的rPPG值生成相同位置的图像块对应的rPPG信号。
进一步,在上述图5的基础上,图7也示出了另一种活体图像检测装置的结构示意图,除上述图5所示的结构外,该装置还包括:
第二确定模块64,用于如果检测出每个图像块提取的rPPG信号均不包含有指定对象对应的活体rPPG信号,确定原始图像为非活体图像。
识别模块66,用于如果确定原始图像为活体图像,对原始图像进行图像识别,以确定出原始图像对应的用户身份。
在一些实施例中,上述识别模块用于:当指定对象为人脸时,对原始图像进行人脸识别;根据人脸识别结果确定原始图像对应的用户是否合法,或者,根据人脸识别结果确定原始图像对应的用户的身份标识。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如上述活体图像检测方法的步骤。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置的具体工作过程,可以参考装置实施例中的对应过程,本申请中不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
以上仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种活体图像检测方法,其特征在于,包括:
获取原始图像,对所述原始图像进行指定对象的特征检测;
如果检测到所述原始图像包含所述指定对象,将所述指定对象所在的区域等比例划分成多个图像块;
基于每个所述图像块提取rPPG信号;
分别将所述rPPG信号输入至预先训练好的检测模型,检测每个所述图像块提取的rPPG信号中是否包含有所述指定对象对应的活体rPPG信号;
如果是,确定所述原始图像为活体图像。
2.根据权利要求1所述的方法,其特征在于,所述原始图像为视频图像;
将所述指定对象所在的区域等比例划分成多个图像块的步骤包括:
获取包含所述指定对象的连续多帧图像;
基于每帧所述图像,将所述指定对象所在的区域等比例划分成多个图像块。
3.根据权利要求2所述的方法,其特征在于,将所述指定对象所在的区域等比例划分成多个图像块的步骤包括:
按照所述指定对象的轮廓,在每帧所述图像中对所述指定对象所在的区域进行裁切,以获取包含所述指定对象的矩形图;
基于所述矩形图对所述指定对象所在的区域进行等比例划分,以生成多个图像块;
其中,每个所述图像块均包含部分所述指定对象的图像。
4.根据权利要求3所述的方法,其特征在于,基于所述矩形图对所述指定对象所在的区域进行等比例划分的步骤包括:
获取所述矩形图的原始尺寸比例,以及预先设置的划分比例;
根据所述原始尺寸比例与所述划分比例对所述矩形图进行缩放,生成所述矩形图对应的缩放图,其中,所述缩放图的尺寸比例与所述划分比例满足整数倍关系;
基于所述缩放图,按照预先设置的所述划分比例进行等比例划分。
5.根据权利要求1所述的方法,其特征在于,所述预先训练好的检测模型为多示例学习模型;
所述分别将所述rPPG信号输入至预先训练好的检测模型的步骤包括:
将所述原始图像标记为所述多示例学习模型对应的包,以及,根据每个所述图像块提取的所述rPPG信号生成与所述包对应的示例;
将所述示例输入至所述多示例学习模型,以使所述多示例学习模型根据所述示例对所述包进行标记。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
获取预先建立的样本集,其中,所述样本集包括指定对象的图像集,其中,所述图像集一部分图像为带有活体标记,另一部分图像带有非活体标记;
将所述图像集中的图像作为多示例学习模型对应的包,对多示例学习模型进行训练,以生成所述检测模型,其中,所述多示例学习模型为具有检测所述rPPG信号是否为活体rPPG信号的功能的模型。
7.根据权利要求2所述的方法,其特征在于,所述基于每个所述图像块提取rPPG信号的步骤包括:
计算每个所述图像块中每个颜色通道像素值的平均值,对所述平均值进行去噪声处理;
根据所述平均值计算每个所述图像块对应的rPPG值;
基于多帧图像中的每帧所述图像,根据相同位置的所述图像块对应的rPPG值生成所述相同位置的所述图像块对应的rPPG信号。
8.一种活体图像检测装置,其特征在于,包括:
第一获取模块,用于获取原始图像,对所述原始图像进行指定对象的特征检测;
划分模块,用于如果检测到所述原始图像包含所述指定对象,将所述指定对象所在的区域等比例划分成多个图像块;
提取模块,用于基于每个所述图像块提取rPPG信号;
检测模块,用于分别将所述rPPG信号输入至预先训练好的检测模型,检测每个所述图像块提取的rPPG信号中是否包含有所述指定对象对应的活体rPPG信号;
第一确定模块,用于当所述检测模块的检测结果为是时,确定所述原始图像为活体图像。
9.一种电子设备,其特征在于,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如权利要求1至7任一所述方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1至7任一所述方法的步骤。
CN201910364308.7A 2019-04-30 2019-04-30 活体图像检测方法、装置以及电子设备 Active CN111860079B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910364308.7A CN111860079B (zh) 2019-04-30 2019-04-30 活体图像检测方法、装置以及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910364308.7A CN111860079B (zh) 2019-04-30 2019-04-30 活体图像检测方法、装置以及电子设备

Publications (2)

Publication Number Publication Date
CN111860079A true CN111860079A (zh) 2020-10-30
CN111860079B CN111860079B (zh) 2024-05-14

Family

ID=72965783

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910364308.7A Active CN111860079B (zh) 2019-04-30 2019-04-30 活体图像检测方法、装置以及电子设备

Country Status (1)

Country Link
CN (1) CN111860079B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115116146A (zh) * 2022-06-02 2022-09-27 支付宝(杭州)信息技术有限公司 活体检测方法、装置、设备及系统
CN115953822A (zh) * 2023-03-06 2023-04-11 之江实验室 一种基于rPPG生理信号的人脸视频鉴伪方法和装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160343130A1 (en) * 2015-05-21 2016-11-24 Koninklijke Philips N.V. Identifying living skin tissue in a video sequence
US20170354334A1 (en) * 2014-12-16 2017-12-14 Oxford University Innovation Limited Method and apparatus for measuring and displaying a haemodynamic parameter
CN107851182A (zh) * 2015-06-16 2018-03-27 眼验股份有限公司 用于假冒检测及活跃度分析的系统及方法
WO2018057753A1 (en) * 2016-09-21 2018-03-29 Arizona Board Of Regents On Behalf Of Arizona State University Systems and methods for computer monitoring of remote photoplethysmography based on chromaticity in a converted color space
CN108369785A (zh) * 2015-08-10 2018-08-03 优替控股有限公司 活性检测
CN108509916A (zh) * 2018-03-30 2018-09-07 百度在线网络技术(北京)有限公司 用于生成图像的方法和装置
US20190014999A1 (en) * 2017-07-14 2019-01-17 Hong Kong Baptist University 3d mask face anti-spoofing with remote photoplethysmography
TWI652040B (zh) * 2017-11-08 2019-03-01 國立臺灣科技大學 非接觸式活體辨識方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170354334A1 (en) * 2014-12-16 2017-12-14 Oxford University Innovation Limited Method and apparatus for measuring and displaying a haemodynamic parameter
US20160343130A1 (en) * 2015-05-21 2016-11-24 Koninklijke Philips N.V. Identifying living skin tissue in a video sequence
CN107851182A (zh) * 2015-06-16 2018-03-27 眼验股份有限公司 用于假冒检测及活跃度分析的系统及方法
CN108369785A (zh) * 2015-08-10 2018-08-03 优替控股有限公司 活性检测
WO2018057753A1 (en) * 2016-09-21 2018-03-29 Arizona Board Of Regents On Behalf Of Arizona State University Systems and methods for computer monitoring of remote photoplethysmography based on chromaticity in a converted color space
US20190014999A1 (en) * 2017-07-14 2019-01-17 Hong Kong Baptist University 3d mask face anti-spoofing with remote photoplethysmography
TWI652040B (zh) * 2017-11-08 2019-03-01 國立臺灣科技大學 非接觸式活體辨識方法
CN108509916A (zh) * 2018-03-30 2018-09-07 百度在线网络技术(北京)有限公司 用于生成图像的方法和装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
丁建浩;耿卫东;王毅刚;: "基于多部位多示例学习的人体检测", 模式识别与人工智能, no. 05 *
关天一;宋春林;: "一种基于脸部视频及脉搏特征平面的心率检测算法", 信息技术与信息化, no. 10 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115116146A (zh) * 2022-06-02 2022-09-27 支付宝(杭州)信息技术有限公司 活体检测方法、装置、设备及系统
CN115953822A (zh) * 2023-03-06 2023-04-11 之江实验室 一种基于rPPG生理信号的人脸视频鉴伪方法和装置

Also Published As

Publication number Publication date
CN111860079B (zh) 2024-05-14

Similar Documents

Publication Publication Date Title
US10372226B2 (en) Visual language for human computer interfaces
CN108764071B (zh) 一种基于红外和可见光图像的真实人脸检测方法及装置
JP4307496B2 (ja) 顔部位検出装置及びプログラム
KR101853006B1 (ko) 깊이영상에서 코 검출을 이용한 얼굴 인식
CN106022209A (zh) 一种基于人脸检测的距离估算和处理的方法及装置
JP2000003452A (ja) デジタル画像における顔面の検出方法、顔面検出装置、画像判定方法、画像判定装置およびコンピュ―タ可読な記録媒体
KR102458615B1 (ko) 피부 상태 측정 장치, 이를 포함하는 피부 상태 측정 시스템 및 그 방법
JP6410450B2 (ja) オブジェクト識別装置、オブジェクト識別方法及びプログラム
US11315360B2 (en) Live facial recognition system and method
JP2007272435A (ja) 顔特徴抽出装置及び顔特徴抽出方法
KR20140036803A (ko) 위장 얼굴 판별 장치 및 방법
JP6784261B2 (ja) 情報処理装置、画像処理システム、画像処理方法及びプログラム
CN111860079B (zh) 活体图像检测方法、装置以及电子设备
CN110874572B (zh) 一种信息检测方法及装置、存储介质
CN111639582A (zh) 活体检测方法及设备
CN111582045A (zh) 一种活体的检测方法、装置以及电子设备
Das et al. Human face detection in color images using HSV color histogram and WLD
CN107977604B (zh) 一种基于改进聚合通道特征的手部检测方法
CN112149598A (zh) 一种侧脸评估方法、装置、电子设备及存储介质
CN112507877A (zh) 一种在视频部分信息缺失情况下检测心率的系统与方法
CN111797735A (zh) 人脸视频识别方法、装置、设备及存储介质
Alzubaydi et al. Face Clip Detection System Using HSV Color Model
US20220386918A1 (en) Fatigue measurement method, apparatus, and computer-readable medium
CN112307902A (zh) 一种打印照片的人脸防伪方法及其装置
KR100910754B1 (ko) 인체를 포함하는 실시간 입력 영상에서 격자기반 접근을 통한 피부 영역 검출 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant