CN108062544A - 用于人脸活体检测的方法和装置 - Google Patents
用于人脸活体检测的方法和装置 Download PDFInfo
- Publication number
- CN108062544A CN108062544A CN201810054425.9A CN201810054425A CN108062544A CN 108062544 A CN108062544 A CN 108062544A CN 201810054425 A CN201810054425 A CN 201810054425A CN 108062544 A CN108062544 A CN 108062544A
- Authority
- CN
- China
- Prior art keywords
- face
- dimensional reconstruction
- detected
- image
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/40—Spoof detection, e.g. liveness detection
- G06V40/45—Detection of the body part being alive
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种用于人脸活体检测的方法。该方法的一具体实施方式包括:响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果;基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。该实施方式有利于提高人脸活体检测的准确度。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及图像处理领域,尤其涉及用于人脸活体检测的方法和装置。
背景技术
当前,人脸识别系统越来越多地应用于需要身份验证的场景,如银行远程开户、门禁系统、远程交易操作验证等。在这些高安全级别的应用领域,首先需要验证被验证者是一个合法的生物活体。也就是说,人脸识别系统需要能够防范攻击者使用照片、视频等方式进行攻击。
发明内容
本申请实施例提出了用于人脸活体检测的方法和装置。
第一方面,本申请实施例提供了一种用于人脸活体检测的方法,包括:响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果;基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。
在一些实施例中,图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角基于以下步骤判断得到:提取各待检测人脸图像中的人脸对象的特征点;对从不同待检测人脸图像中提取出的特征点进行特征匹配以得到匹配点对;基于匹配点对,计算图像采集装置在采集各待检测人脸图像时的相对位姿;以及基于相对位姿,判断图像采集装置采集各待检测人脸图像时的视角是否符合图像采集指令所指示的不同视角。
在一些实施例中,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果包括:基于匹配点对和相对位姿,对人脸对象进行三维重建得到三维人脸特征点;以及将三维人脸特征点在各待检测人脸图像上的重投影误差作为能量函数,采用莱文伯格-马夸特算法优化图像采集装置的内参数、外参数以及三维人脸特征点;基于极线约束和灰度一致性约束,对以与各个优化后的三维人脸特征点对应的匹配点对为中心、具有预设大小的图像块进行三维重建,得到三维重建结果。
在一些实施例中,基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体包括:对三维重建结果进行真实尺度恢复处理;将经真实尺度恢复处理之后的三维重建结果输入预先训练的三维人脸识别模型,以确定待检测人脸图像中的人脸对象是否为人脸活体。
在一些实施例中,对三维重建结果进行真实尺度恢复处理,包括以下至少一项:基于预先设置的双眼间距与三维重建结果所指示的人脸对象的实际双眼间距之比,对三维重建结果进行尺寸调整;以及基于三维重建结果中人眼和嘴部的位置,对三维重建结果进行方向调整。
在一些实施例中,三维人脸识别模型基于以下步骤确定:基于预先标注的训练样本数据,训练预先建立的初始人脸识别模型,以得到预先训练的三维人脸识别模型。
在一些实施例中,方法还包括:对确定为人脸活体的人脸对象进行鉴权,以判断确定为人脸活体的人脸对象所指示的用户是否为认证用户。
第二方面,本申请实施例提供了一种用于人脸活体检测的装置,包括:指令生成单元,用于响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;三维重建单元,用于响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果;活体确定单元,用于基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。
在一些实施例中,三维重建单元包括:特征点提取子单元,用于提取各待检测人脸图像中的人脸对象的特征点;特征匹配子单元,用于对从不同待检测人脸图像中提取出的特征点进行特征匹配以得到匹配点对;位姿计算子单元,用于基于匹配点对,计算图像采集装置在采集各待检测人脸图像时的相对位姿;以及视角判断子单元,用于基于相对位姿,判断图像采集装置采集各待检测人脸图像时的视角是否符合图像采集指令所指示的不同视角。
在一些实施例中,三维重建单元还包括:特征点重建子单元,用于基于匹配点对和相对位姿,对人脸对象进行三维重建得到三维人脸特征点;以及参数优化子单元,用于将三维人脸特征点在各待检测人脸图像上的重投影误差作为能量函数,采用莱文伯格-马夸特算法优化图像采集装置的内参数、外参数以及三维人脸特征点;图像块重建子单元,用于基于极线约束和灰度一致性约束,对以与各个优化后的三维人脸特征点对应的匹配点对为中心、具有预设大小的图像块进行三维重建,得到三维重建结果。
在一些实施例中,活体确定单元包括:尺度恢复子单元,用于对三维重建结果进行真实尺度恢复处理;模型输入子单元,用于将经真实尺度恢复处理之后的三维重建结果输入预先训练的三维人脸识别模型,以确定待检测人脸图像中的人脸对象是否为人脸活体。
在一些实施例中,尺度恢复子单元进一步用于以下至少一项:基于预先设置的双眼间距与三维重建结果所指示的人脸对象的实际双眼间距之比,对三维重建结果进行尺寸调整;以及基于三维重建结果中人眼和嘴部的位置,对三维重建结果进行方向调整。
在一些实施例中,模型输入子单元中的三维人脸识别模型基于以下步骤确定:基于预先标注的训练样本数据,训练预先建立的初始人脸识别模型,以得到预先训练的三维人脸识别模型。
在一些实施例中,装置还包括:用户鉴权单元,用于对确定为人脸活体的人脸对象进行鉴权,以判断确定为人脸活体的人脸对象所指示的用户是否为认证用户。
第三方面,本申请实施例还提供了一种设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述第一方面任一所述的方法。
第四方面,本申请实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,其中,程序被处理器执行时实现如上述第一方面任一所述的方法。
本申请实施例提供的用于人脸活体检测的方法和装置,首先响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;之后,响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果;最后,基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。在这一过程中,由于采用不同视角的人脸图像进行活体检测,可以提高人脸活体检测的准确度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请实施例可以应用于其中的示例性系统架构图;
图2是根据本申请实施例的用于人脸活体检测的方法的一个实施例的流程图;
图3是根据本申请实施例的用于人脸活体检测的方法的一个应用场景的示意图;
图4是基于至少两张待检测人脸图像进行人脸的三维重建的方法法的一个实施例的流程图;
图5是根据本申请实施例的用于人脸活体检测的装置的一个实施例的结构示意图;
图6是适于用来实现本申请实施例的服务器的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于人脸活体检测的方法或用于人脸活体检测的装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105、106。网络104用以在终端设备101、102、103和服务器105、106之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端设备101、102、103通过网络104与服务器105、106交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如搜索引擎类应用、购物类应用、即时通信工具、邮箱客户端、社交平台软件、视频播放类应用等。
终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio LayerIII,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group AudioLayer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105、106可以是提供各种服务的服务器,例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对终端提交的数据进行分析、存储或计算等处理,并将分析、存储或计算结果推送给终端设备。
需要说明的是,本申请中实施例所提供的用于人脸活体检测的方法一般由服务器105、106或终端设备101、102、103执行,相应地,用于人脸活体检测的装置一般设置于服务器105、106或终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
请参考图2,图2示出了根据本申请实施例的用于人脸活体检测的方法的一个实施例的示意性流程。
如图2所示,用于人脸活体检测的方法200包括:
在步骤210中,响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令。
在本实施例中,运行用于人脸活体检测的方法的电子设备(例如图1中示出的服务器105、106或终端设备101、102、103),可以响应于接收到人脸活体检测请求,随机或按照预定规则生成不同视角的人脸图像采集指令。这里的人脸图像采集指令,为采集至少两张位于不同视角的人脸图像的采集指令。例如,包括采集至少两张距离图像采集装置不同距离的人脸图像的采集指令;或者包括采集至少两张相对于图像采集装置处于不同姿态角的人脸图像的采集指令。
在生成不同视角的人脸图像采集指令之后,可以向终端的呈现装置发送人脸图像采集指令,以便终端呈现人脸图像采集指令。
例如,运行用于人脸活体检测的方法的电子设备生成的用于生成不同视角的人脸图像采集指令可以为较为精准的采集指令:距离图像采集装置15-30公分采集待检测人脸图像以及距离图像采集装置45-60公分采集待检测人脸图像。
那么,在呈现人脸图像采集指令的一个具体的场景中,终端可以以以下两种方式呈现人脸图像采集指令:在第一种方式中,终端的呈现装置可以首先呈现“距离图像采集装置15-30公分采集待检测人脸图像”,并在采集完第一张待检测人脸图像后,再呈现“距离图像采集装置45-60公分采集待检测人脸图像”,并采集第二张待检测人脸图像;在第二种方式中,终端的呈现装置可以呈现“距离图像采集装置15-30公分采集待检测人脸图像以及距离图像采集装置45-60公分采集待检测人脸图像”,之后图像采集装置先后两次分别采集待检测人脸图像。应当理解,该场景仅为本申请实施例的示例性场景,并不代表对本申请的限定。
又例如,运行用于人脸活体检测的方法的电子设备生成的用于生成不同视角的人脸图像采集指令还可以为以下较为模糊的采集指令:距离图像采集装置较近距离采集待检测人脸图像以及距离图像采集装置较远距离采集待检测人脸图像。同理,在呈现人脸图像采集指令的一个具体的场景中,终端可以以与上述两种方式来呈现人脸图像采集指令,在此不再赘述。
在步骤220中,响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建。
在本实施例中,运行用于人脸活体检测的方法的电子设备可以首先基于图像采集装置所采集的至少两张待检测人脸图像,计算图像采集装置与人脸对象的相对位姿,并比对计算的结果与图像采集指令所指示的视角,以确定至少两张待检测人脸图像的视角是否符合图像采集指令所指示的不同视角,若符合,则基于至少两张待检测人脸图像进行人脸的三维重建。
在进行三维重建时,可以采用上述计算得到的相对位姿以及各待检测人脸图像的匹配点对,进行人脸的稀疏三维重建,得到稀疏三维重建结果。进一步地,还可以在稀疏三维重建结果的基础上,采用灰度一致性约束,基于以与三维重建的特征点对应的匹配点对为中心的预设尺寸的面片,进行稠密三维重建,从而得到优化后的稠密三维重建结果。
在本实施例的一些可选实现方式中,图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角基于以下步骤判断得到:提取各待检测人脸图像中的人脸对象的特征点;对从不同待检测人脸图像中提取出的特征点进行特征匹配以得到匹配点对;基于匹配点对,计算图像采集装置在采集各待检测人脸图像时的相对位姿;以及基于相对位姿,判断图像采集装置采集各待检测人脸图像时的视角是否符合图像采集指令所指示的不同视角。
在本实现方式中,相比于其它的图像,待检测人脸图像具备一些独有的特点。首先,待检测人脸图像具有很强的先验信息。例如,每一张人脸都会包括眼睛,眉毛,鼻子,嘴巴等。利用这些先验信息,可以从各待检测人脸图像中提取特征点,并将提取的各待检测人脸图像的特征点进行匹配,从而提高特征点匹配的精确度。
之后,可以利用特征点匹配的结果,计算图像采集装置与人脸对象的相对位姿。为了提高计算的精度,可以在利用特征点匹配的结果计算相对位姿时,去除错误的匹配点对。例如,可以采用随机抽样一致算法(RANdom SAmple Consensus,RANSAC)去除错误的匹配点对。最终采用所有正确的匹配点对来计算相机的相对位姿的初始值。
在计算图像采集装置与人脸对象的相对位姿时,可以假设在两个待检测人脸图像中,包含匹配点对(p1,p2),那么,有:
其中,p1、p2分别为匹配点对中两个特征点的齐次坐标,P为该二特征点在三维空间内的非齐次坐标,K为图像采集装置的内参数。R为图像采集装置在采集第二个待检测人脸图像时,其相对于采集第一个待检测人脸图像时的旋转矩阵,而t则为图像采集装置在采集第二个待检测人脸图像时,其相对于采集第一个待检测人脸图像时的平移量。
将多个匹配点对(p1,p2)带入如上的公式(1)中,便可以求解出旋转矩阵和平移量,从而完成图像采集装置在采集各待检测人脸图像时的相对位姿计算。这里的相对位姿,用于表征图像采集装置在采集前后两个待检测人脸图像时的位姿差异。
在计算图像采集装置在采集各待检测人脸图像时的相对位姿并得到计算结果之后,可以基于相对位姿,判断图像采集装置采集各待检测人脸图像时的视角是否符合图像采集指令所指示的不同视角。
在步骤230中,基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。
在本实施例中,三维重建结果可以为基于三维点云得到的三维人脸模型。根据该三维人脸模型在不同图像视角所呈现的图像,就可以判定至少两张待检测人脸图像中的人脸对像是否为人脸活体。例如,三维人脸模型在正面人脸图像视角和非正面人脸图像视角中均呈现人脸图像,那么采集的至少两张待检测人脸图像中的人脸对像为人脸活体。又例如,三维人脸模型在正面人脸图像视角中呈现人脸图像,而在非正面人脸图像中不能呈现出人脸图像,那么采集的至少两张待检测人脸图像中的人脸对像为非人脸活体。
在本实施例的一些可选实现方式中,基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体可以包括:对三维重建结果进行真实尺度恢复处理;将经真实尺度恢复处理之后的三维重建结果输入预先训练的三维人脸识别模型,以确定待检测人脸图像中的人脸对象是否为人脸活体。
在本实现方式中,对三维重建结果进行真实尺度恢复处理,可以包括基于预先设置的双眼间距与三维重建结果所指示的人脸对象的实际双眼间距之比,对三维重建结果进行尺寸调整;备选地或附加地,可以包括基于三维重建结果中人眼和嘴部的位置,对三维重建结果进行方向调整。
在这里,由于人脸的特殊性,我们可以假设人的两个眼睛之间的具体的距离是已知的。利用双眼间距与三维重建结果所指示的人脸对象的实际双眼间距之比,我们可以将恢复的三维人脸模型转化到真实的尺度。另外,利用人的眼睛与嘴唇的位置,可以将所有的三维人脸都转向同一个方向。这样可以保证所有的训练样本都保持尺度与方向的一致性。
这里的三维人脸识别模型,可以基于以下步骤确定:基于预先标注的训练样本数据,训练预先建立的初始人脸识别模型,以得到预先训练的三维人脸识别模型。
预先标注的训练样本数据,可以基于将三维重建得到的三维模型进行栅格化得到。具体的讲,在XYZ三个方向上分别取预定尺寸(如0.02米)将空间分成小的网格,每一个网格的值可以是在此网格的三维人脸特征点的数目。在训练预先建立的初始人脸识别模型时,可以将标注好的三维的训练样本数据输入到初始人脸识别模型中去,并采用三维卷积完成卷积的过程。在经过至少一层卷积网络之后,最后用一个全连接层来输出三维模型的特征向量。最终,利用此特征向量来判断此样本是活体还是非活体。
可选地,在步骤240中,对确定为人脸活体的人脸对象进行鉴权,以判断确定为人脸活体的人脸对象所指示的用户是否为认证用户。
在本实施例中,在采用上述步骤210至步骤230中的用于人脸活体检测的方法确定至少两张待检测人脸图像中的人脸对像是否为人脸活体之后,可以进一步基于人脸活体的人脸对像进行鉴权,从而判断确定为人脸活体的人脸对象所指示的用户是否为认证用户。在这里,由于该用于活体检测的方法提高了活体检测的准确度,因此采用该活体检测的方法检测出的人脸活体来鉴权人脸活体所指示的用户是否为认证用户,可以提高鉴权的安全性能,防止不法分子轻易采用照片或视频等完成鉴权。
本申请上述实施例提供的用于人脸活体检测的方法,可以通过对不同视角的待检测人脸图像进行三维重建结果来确定待检测人脸图像中的人脸对象是否为人脸活体,从而有效防止采用预先拍摄的照片或视频等来进行人脸活体检测的攻击。
进一步地,请参考图3,图3示出了本申请实施例的用于人脸活体检测的方法的示例性应用场景。
如图3所示,用于人脸活体检测的方法300运行于电子设备320中,方法包括:
首先,响应于接收到人脸活体检测请求301,生成不同视角的人脸图像采集指令302;
之后,响应于图像采集装置所采集的至少两张待检测人脸图像303的视角304符合图像采集指令302所指示的不同视角305,可以基于至少两张待检测人脸图像303进行人脸的三维重建,得到三维重建结果306;
最后,基于三维重建结果306,可以确定至少两张待检测人脸图像中的人脸对像是否为人脸活体307。
应当理解,上述图3中所示出的用于人脸活体检测的方法,仅为用于定位目标人体的位置的方法的示例性应用场景,并不代表对本申请的限定。例如,图3中图像采集装置所采集的至少两张待检测人脸图像303的视角304可以基于各待检测人脸图像中的人脸对象的匹配点对,计算图像采集装置在采集各待检测人脸图像时的相对位姿得到;或者,图3中还可以基于匹配点对和相对位姿,先后进行稀疏三维重建和稠密三维重建,从而得到三维重建结果。
进一步地,请参考图4,图4示出了本申请实施例的基于至少两张待检测人脸图像进行人脸的三维重建的方法的一个实施例的示意性流程图。
如图4所示,基于至少两张待检测人脸图像进行人脸的三维重建的方法400包括:
在步骤410中,基于匹配点对和相对位姿,对人脸对象进行三维重建得到三维人脸特征点。
在本实施例中,可以采用基于图像的运动恢复结构(VisualSFM)算法,来得到三维人脸特征点,也即得到稀疏的三维重建结果。
在步骤420中,将三维人脸特征点在各待检测人脸图像上的重投影误差作为能量函数,采用莱文伯格-马夸特算法LM(Levenberg-Marquard)优化图像采集装置的内参数、外参数以及三维人脸特征点。
在本实施例中,重投影误差是指投影的点(理论值)与图像上的测量点的误差。例如在标定的时候我们经常用到重投影误差作为最终标定效果的评价标准,我们认为标定板上的物理点是理论值,它经过投影变换后会得到理论的像素点a,而测量的点经过畸变矫正后的像素点为a',它们的欧氏距离||a-a'||2即表示重投影误差。
采用重投影误差作为能量函数,也即采用重投影误差描述系统的能量值,当能量值达到最小时系统达到稳定状态。而LM算法是指从初始点开始,先假设一个可以信赖的最大位移s,然后在以当前点为中心,以s为半径的区域内,通过寻找能量函数的一个近似函数(二次的)的最优点,来求解得到真正的位移。在得到了位移之后,再计算能量函数值,如果其使能量函数值的下降满足了一定条件,那么就说明这个位移是可靠的,则继续按此规则迭代计算下去;如果其不能使能量函数值的下降满足一定的条件,则应减小信赖域的范围,再重新求解。
在步骤430中,基于极线约束和灰度一致性约束,对以与各个优化后的三维人脸特征点对应的匹配点对为中心、具有预设大小的图像块进行三维重建,得到三维重建结果。
在本实施例中,对于每一个优化后的三维人脸特征点,可以以与该优化后的三维人脸特征点为中心,确定出一个预设大小的面片(例如,3×3或者5×5的图像块)。之后,利用上一步计算得到的相机位姿,结合极线约束以及图像灰度一致性,可以找到该预设大小的面片在不同视角下的对应匹配块。利用上述的匹配关系,便可以对这些面片进行三维重建,从而得到稠密的三维重建结果。
本申请上述实施例提供的基于至少两张待检测人脸图像进行人脸的三维重建的方法,可以在稀疏重建的基础上优化图像采集装置的内参数、外参数以及三维人脸特征点,之后进行稠密重建,从而提高三维重建的准确度。
进一步参考图5,作为对上述方法的实现,本申请实施例提供了一种用于人脸活体检测的装置的一个实施例,该用于人脸活体检测的装置的实施例与图1至图4所示的用于人脸活体检测的方法的实施例相对应,由此,上文针对图1至图4中用于人脸活体检测的方法描述的操作和特征同样适用于用于人脸活体检测的装置500及其中包含的单元,在此不再赘述。
如图5所示,该用于人脸活体检测的装置500可以包括:一种用于人脸活体检测的装置,包括:指令生成单元510,用于响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;三维重建单元520,用于响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果;活体确定单元530,用于基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。
在本实施例的一些可选实现方式中,三维重建单元520包括:特征点提取子单元521,用于提取各待检测人脸图像中的人脸对象的特征点;特征匹配子单元522,用于对从不同待检测人脸图像中提取出的特征点进行特征匹配以得到匹配点对;位姿计算子单元523,用于基于匹配点对,计算图像采集装置在采集各待检测人脸图像时的相对位姿;以及视角判断子单元524,用于基于相对位姿,判断图像采集装置采集各待检测人脸图像时的视角是否符合图像采集指令所指示的不同视角。
在本实施例的一些可选实现方式中,三维重建单元520还包括:特征点重建子单元525,用于基于匹配点对和相对位姿,对人脸对象进行三维重建得到三维人脸特征点;以及参数优化子单元526,用于将三维人脸特征点在各待检测人脸图像上的重投影误差作为能量函数,采用莱文伯格-马夸特算法优化图像采集装置的内参数、外参数以及三维人脸特征点;图像块重建子单元527,用于基于极线约束和灰度一致性约束,对以与各个优化后的三维人脸特征点对应的匹配点对为中心、具有预设大小的图像块进行三维重建,得到三维重建结果。
在本实施例的一些可选实现方式中,活体确定单元530包括:尺度恢复子单元531,用于对三维重建结果进行真实尺度恢复处理;模型输入子单元532,用于将经真实尺度恢复处理之后的三维重建结果输入预先训练的三维人脸识别模型,以确定待检测人脸图像中的人脸对象是否为人脸活体。
在本实施例的一些可选实现方式中,尺度恢复子单元531进一步用于以下至少一项:基于预先设置的双眼间距与三维重建结果所指示的人脸对象的实际双眼间距之比,对三维重建结果进行尺寸调整;以及基于三维重建结果中人眼和嘴部的位置,对三维重建结果进行方向调整。
在本实施例的一些可选实现方式中,模型输入子单元532中的三维人脸识别模型基于以下步骤确定:基于预先标注的训练样本数据,训练预先建立的初始人脸识别模型,以得到预先训练的三维人脸识别模型。
在本实施例的一些可选实现方式中,装置还包括:用户鉴权单元540,用于对确定为人脸活体的人脸对象进行鉴权,以判断确定为人脸活体的人脸对象所指示的用户是否为认证用户。
本申请还提供了一种设备的实施例,包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上任意一项所述的用于人脸活体检测的方法。
本申请还提供了一种计算机可读存储介质的实施例,其上存储有计算机程序,该程序被处理器执行时实现如上任意一项所述的用于人脸活体检测的方法。
下面参考图6,其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,所述计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的方法中限定的上述功能。
需要说明的是,本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个单元、程序段、或代码的一部分,所述单元、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括待指令生成单元、三维重建单元和活体确定单元。这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,指令生成单元还可以被描述为“响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令的单元”。
作为另一方面,本申请还提供了一种非易失性计算机存储介质,该非易失性计算机存储介质可以是上述实施例中所述装置中所包含的非易失性计算机存储介质;也可以是单独存在,未装配入终端中的非易失性计算机存储介质。上述非易失性计算机存储介质存储有一个或者多个程序,当所述一个或者多个程序被一个设备执行时,使得所述设备:响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合图像采集指令所指示的不同视角,基于至少两张待检测人脸图像进行人脸的三维重建,得到三维重建结果;基于三维重建结果,确定至少两张待检测人脸图像中的人脸对像是否为人脸活体。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (16)
1.一种用于人脸活体检测的方法,包括:
响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;
响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合所述图像采集指令所指示的不同视角,基于至少两张所述待检测人脸图像进行人脸的三维重建,得到三维重建结果;
基于所述三维重建结果,确定至少两张所述待检测人脸图像中的人脸对像是否为人脸活体。
2.根据权利要求1所述的方法,其中,所述图像采集装置所采集的至少两张待检测人脸图像的视角符合所述图像采集指令所指示的不同视角基于以下步骤判断得到:
提取各所述待检测人脸图像中的人脸对象的特征点;
对从不同待检测人脸图像中提取出的特征点进行特征匹配以得到匹配点对;
基于所述匹配点对,计算所述图像采集装置在采集各所述待检测人脸图像时的相对位姿;以及
基于所述相对位姿,判断所述图像采集装置采集各所述待检测人脸图像时的视角是否符合所述图像采集指令所指示的不同视角。
3.根据权利要求2所述的方法,其中,所述基于至少两张所述待检测人脸图像进行人脸的三维重建,得到三维重建结果包括:
基于所述匹配点对和所述相对位姿,对所述人脸对象进行三维重建得到三维人脸特征点;以及
将三维人脸特征点在各待检测人脸图像上的重投影误差作为能量函数,采用莱文伯格-马夸特算法优化图像采集装置的内参数、外参数以及三维人脸特征点;
基于极线约束和灰度一致性约束,对以与各个优化后的三维人脸特征点对应的匹配点对为中心、具有预设大小的图像块进行三维重建,得到三维重建结果。
4.根据权利要求1-3任意一项所述的方法,其中,所述基于所述三维重建结果,确定至少两张所述待检测人脸图像中的人脸对像是否为人脸活体包括:
对所述三维重建结果进行真实尺度恢复处理;
将经真实尺度恢复处理之后的三维重建结果输入预先训练的三维人脸识别模型,以确定所述待检测人脸图像中的人脸对象是否为人脸活体。
5.根据权利要求4所述的方法,其中,所述对所述三维重建结果进行真实尺度恢复处理包括以下至少一项:
基于预先设置的双眼间距与所述三维重建结果所指示的人脸对象的实际双眼间距之比,对所述三维重建结果进行尺寸调整;以及
基于所述三维重建结果中人眼和嘴部的位置,对所述三维重建结果进行方向调整。
6.根据权利要求4所述的方法,其中,所述三维人脸识别模型基于以下步骤确定:
基于预先标注的训练样本数据,训练预先建立的初始人脸识别模型,以得到所述预先训练的三维人脸识别模型。
7.根据权利要求1所述的方法,其中,所述方法还包括:
对确定为所述人脸活体的人脸对象进行鉴权,以判断所述确定为所述人脸活体的人脸对象所指示的用户是否为认证用户。
8.一种用于人脸活体检测的装置,包括:
指令生成单元,用于响应于接收到人脸活体检测请求,生成不同视角的人脸图像采集指令;
三维重建单元,用于响应于图像采集装置所采集的至少两张待检测人脸图像的视角符合所述图像采集指令所指示的不同视角,基于至少两张所述待检测人脸图像进行人脸的三维重建,得到三维重建结果;
活体确定单元,用于基于所述三维重建结果,确定至少两张所述待检测人脸图像中的人脸对像是否为人脸活体。
9.根据权利要求8所述的装置,其中,所述三维重建单元包括:
特征点提取子单元,用于提取各所述待检测人脸图像中的人脸对象的特征点;
特征匹配子单元,用于对从不同待检测人脸图像中提取出的特征点进行特征匹配以得到匹配点对;
位姿计算子单元,用于基于所述匹配点对,计算所述图像采集装置在采集各所述待检测人脸图像时的相对位姿;以及
视角判断子单元,用于基于所述相对位姿,判断所述图像采集装置采集各所述待检测人脸图像时的视角是否符合所述图像采集指令所指示的不同视角。
10.根据权利要求9所述的装置,其中,所述三维重建单元还包括:
特征点重建子单元,用于基于所述匹配点对和所述相对位姿,对所述人脸对象进行三维重建得到三维人脸特征点;以及
参数优化子单元,用于将三维人脸特征点在各待检测人脸图像上的重投影误差作为能量函数,采用莱文伯格-马夸特算法优化图像采集装置的内参数、外参数以及三维人脸特征点;
图像块重建子单元,用于基于极线约束和灰度一致性约束,对以与各个优化后的三维人脸特征点对应的匹配点对为中心、具有预设大小的图像块进行三维重建,得到三维重建结果。
11.根据权利要求8-10任意一项所述的装置,其中,所述活体确定单元包括:
尺度恢复子单元,用于对所述三维重建结果进行真实尺度恢复处理;
模型输入子单元,用于将经真实尺度恢复处理之后的三维重建结果输入预先训练的三维人脸识别模型,以确定所述待检测人脸图像中的人脸对象是否为人脸活体。
12.根据权利要求11所述的装置,其中,所述尺度恢复子单元进一步用于以下至少一项:
基于预先设置的双眼间距与所述三维重建结果所指示的人脸对象的实际双眼间距之比,对所述三维重建结果进行尺寸调整;以及
基于所述三维重建结果中人眼和嘴部的位置,对所述三维重建结果进行方向调整。
13.根据权利要求11所述的装置,其中,所述模型输入子单元中的三维人脸识别模型基于以下步骤确定:
基于预先标注的训练样本数据,训练预先建立的初始人脸识别模型,以得到所述预先训练的三维人脸识别模型。
14.根据权利要求8所述的装置,其中,所述装置还包括:
用户鉴权单元,用于对确定为所述人脸活体的人脸对象进行鉴权,以判断所述确定为所述人脸活体的人脸对象所指示的用户是否为认证用户。
15.一种设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
16.一种计算机可读存储介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810054425.9A CN108062544A (zh) | 2018-01-19 | 2018-01-19 | 用于人脸活体检测的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810054425.9A CN108062544A (zh) | 2018-01-19 | 2018-01-19 | 用于人脸活体检测的方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108062544A true CN108062544A (zh) | 2018-05-22 |
Family
ID=62141400
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810054425.9A Pending CN108062544A (zh) | 2018-01-19 | 2018-01-19 | 用于人脸活体检测的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108062544A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108776786A (zh) * | 2018-06-04 | 2018-11-09 | 北京京东金融科技控股有限公司 | 用于生成用户真伪识别模型的方法和装置 |
CN109508702A (zh) * | 2018-12-29 | 2019-03-22 | 安徽云森物联网科技有限公司 | 一种基于单一图像采集设备的三维人脸活体检测方法 |
CN110163953A (zh) * | 2019-03-11 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 三维人脸重建方法、装置、存储介质和电子装置 |
CN110222573A (zh) * | 2019-05-07 | 2019-09-10 | 平安科技(深圳)有限公司 | 人脸识别方法、装置、计算机设备及存储介质 |
CN110998600A (zh) * | 2019-03-07 | 2020-04-10 | 深圳市汇顶科技股份有限公司 | 光学掌纹感测的方法和系统 |
WO2020164284A1 (zh) * | 2019-02-12 | 2020-08-20 | 平安科技(深圳)有限公司 | 基于平面检测的活体识别方法、装置、终端及存储介质 |
CN113255511A (zh) * | 2021-05-21 | 2021-08-13 | 北京百度网讯科技有限公司 | 用于活体识别的方法、装置、设备以及存储介质 |
CN113705426A (zh) * | 2019-07-24 | 2021-11-26 | 创新先进技术有限公司 | 人脸校验方法、装置、服务器及可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101866497A (zh) * | 2010-06-18 | 2010-10-20 | 北京交通大学 | 基于双目立体视觉的智能三维人脸重建方法及系统 |
CN104348778A (zh) * | 2013-07-25 | 2015-02-11 | 信帧电子技术(北京)有限公司 | 一种在手机端进行人脸初步验证的远程身份认证的系统、终端和方法 |
CN105574518A (zh) * | 2016-01-25 | 2016-05-11 | 北京天诚盛业科技有限公司 | 人脸活体检测的方法和装置 |
CN105718863A (zh) * | 2016-01-15 | 2016-06-29 | 北京海鑫科金高科技股份有限公司 | 一种人脸活体检测方法、装置及系统 |
CN106355147A (zh) * | 2016-08-26 | 2017-01-25 | 张艳 | 一种活体人脸检测头部姿态回归器的获取方法及检测方法 |
CN107506696A (zh) * | 2017-07-29 | 2017-12-22 | 广东欧珀移动通信有限公司 | 防伪处理方法及相关产品 |
-
2018
- 2018-01-19 CN CN201810054425.9A patent/CN108062544A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101866497A (zh) * | 2010-06-18 | 2010-10-20 | 北京交通大学 | 基于双目立体视觉的智能三维人脸重建方法及系统 |
CN104348778A (zh) * | 2013-07-25 | 2015-02-11 | 信帧电子技术(北京)有限公司 | 一种在手机端进行人脸初步验证的远程身份认证的系统、终端和方法 |
CN105718863A (zh) * | 2016-01-15 | 2016-06-29 | 北京海鑫科金高科技股份有限公司 | 一种人脸活体检测方法、装置及系统 |
CN105574518A (zh) * | 2016-01-25 | 2016-05-11 | 北京天诚盛业科技有限公司 | 人脸活体检测的方法和装置 |
CN106355147A (zh) * | 2016-08-26 | 2017-01-25 | 张艳 | 一种活体人脸检测头部姿态回归器的获取方法及检测方法 |
CN107506696A (zh) * | 2017-07-29 | 2017-12-22 | 广东欧珀移动通信有限公司 | 防伪处理方法及相关产品 |
Non-Patent Citations (1)
Title |
---|
刘太磊: "《相机标定与三维重建相关技术研究》", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108776786A (zh) * | 2018-06-04 | 2018-11-09 | 北京京东金融科技控股有限公司 | 用于生成用户真伪识别模型的方法和装置 |
CN109508702A (zh) * | 2018-12-29 | 2019-03-22 | 安徽云森物联网科技有限公司 | 一种基于单一图像采集设备的三维人脸活体检测方法 |
WO2020164284A1 (zh) * | 2019-02-12 | 2020-08-20 | 平安科技(深圳)有限公司 | 基于平面检测的活体识别方法、装置、终端及存储介质 |
CN110998600A (zh) * | 2019-03-07 | 2020-04-10 | 深圳市汇顶科技股份有限公司 | 光学掌纹感测的方法和系统 |
CN110163953A (zh) * | 2019-03-11 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 三维人脸重建方法、装置、存储介质和电子装置 |
CN110163953B (zh) * | 2019-03-11 | 2023-08-25 | 腾讯科技(深圳)有限公司 | 三维人脸重建方法、装置、存储介质和电子装置 |
CN110222573A (zh) * | 2019-05-07 | 2019-09-10 | 平安科技(深圳)有限公司 | 人脸识别方法、装置、计算机设备及存储介质 |
CN110222573B (zh) * | 2019-05-07 | 2024-05-28 | 平安科技(深圳)有限公司 | 人脸识别方法、装置、计算机设备及存储介质 |
CN113705426A (zh) * | 2019-07-24 | 2021-11-26 | 创新先进技术有限公司 | 人脸校验方法、装置、服务器及可读存储介质 |
CN113705426B (zh) * | 2019-07-24 | 2023-10-27 | 创新先进技术有限公司 | 人脸校验方法、装置、服务器及可读存储介质 |
CN113255511A (zh) * | 2021-05-21 | 2021-08-13 | 北京百度网讯科技有限公司 | 用于活体识别的方法、装置、设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108898186B (zh) | 用于提取图像的方法和装置 | |
CN108062544A (zh) | 用于人脸活体检测的方法和装置 | |
CN108038469B (zh) | 用于检测人体的方法和装置 | |
CN108229296B (zh) | 人脸皮肤属性识别方法和装置、电子设备、存储介质 | |
CN108509915A (zh) | 人脸识别模型的生成方法和装置 | |
CN107578017A (zh) | 用于生成图像的方法和装置 | |
CN108038880A (zh) | 用于处理图像的方法和装置 | |
CN109191514A (zh) | 用于生成深度检测模型的方法和装置 | |
CN108898185A (zh) | 用于生成图像识别模型的方法和装置 | |
US10970938B2 (en) | Method and apparatus for generating 3D information | |
CN108171211A (zh) | 活体检测方法和装置 | |
CN108171206B (zh) | 信息生成方法和装置 | |
CN108363995A (zh) | 用于生成数据的方法和装置 | |
CN108494778A (zh) | 身份认证方法和装置 | |
CN109086719A (zh) | 用于输出数据的方法和装置 | |
CN108460365B (zh) | 身份认证方法和装置 | |
CN108198044A (zh) | 商品信息的展示方法、装置、介质及电子设备 | |
CN108388889B (zh) | 用于分析人脸图像的方法和装置 | |
CN110472460A (zh) | 人脸图像处理方法及装置 | |
CN108229375B (zh) | 用于检测人脸图像的方法和装置 | |
CN108182746A (zh) | 控制系统、方法和装置 | |
CN108491823A (zh) | 用于生成人眼识别模型的方法和装置 | |
CN108491881A (zh) | 用于生成检测模型的方法和装置 | |
CN108171204A (zh) | 检测方法和装置 | |
CN110110666A (zh) | 目标检测方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180522 |
|
RJ01 | Rejection of invention patent application after publication |