CN110826440B - 一种基于眼动特征的换脸视频篡改检测方法及系统 - Google Patents
一种基于眼动特征的换脸视频篡改检测方法及系统 Download PDFInfo
- Publication number
- CN110826440B CN110826440B CN201911029468.2A CN201911029468A CN110826440B CN 110826440 B CN110826440 B CN 110826440B CN 201911029468 A CN201911029468 A CN 201911029468A CN 110826440 B CN110826440 B CN 110826440B
- Authority
- CN
- China
- Prior art keywords
- video
- sight
- frame
- goodness
- eye
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Geometry (AREA)
- Eye Examination Apparatus (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于眼动特征的换脸视频篡改检测方法及系统,该方法包括下述步骤:检测待测视频中的人眼区域,并对眼部特征点进行定位,并预测眼球中心位置;计算待测视频各帧的视线方向向量,并计算视线变化率序列和视线转移方向序列;根据视线变化率序列计算单眼灵活度;根据视线变化率序列计算双眼视线变化率吻合度,根据视线转移方向序列计算双眼视线转移方向吻合度;根据单眼灵活度、视线变化率吻合度、视线转移方向吻合度判断视频是否经过换脸篡改。本发明从生物信号的角度出发,提取视频中人眼眼球运动的固有特征,从单眼灵活度和双眼吻合度描述真实视频与换脸视频之间的眼动特征差异,提升了检测效果,并具有通用性和实时性。
Description
技术领域
本发明涉及数字视频的篡改检测技术领域,具体涉及一种基于眼动特征的换脸视频篡改检测方法及系统。
背景技术
随着换脸技术的不断发展,换脸视频的制作门槛越来越低,合成效果越来越逼真,一方面丰富了人们的娱乐生活,另一方面换脸技术的滥用也给社会治安带来了不良影响,因此,针对换脸视频篡改检测技术的研究具有十分重要的意义;
目前所提出的检测方法按其使用的技术基础大致可分为两类,一类基于手工特征,另一类基于深度学习,基于手工特征的典型方法如将局部特征与全局特征多模态融合来检测篡改,或者利用脸部轮廓与五官姿势的不统一来判定真假脸;基于深度学习的方法如结合CNN(Convolutional Neural Networks,卷积神经网络)和LSTM(Long Short-TermMemory,长短期记忆网络)提取视频时空域特征检测是否换脸,或者利用Meso-4和MesoInception-4检测换脸,总的来看,目前关于假脸检测的研究工作尚处于起步阶段,基于手工特征的方法大多仅对单帧图像进行分析,较少考虑到图像帧在时域上的关联性;基于深度学习的方法在库内检测效果良好,准确率通常能达到90%以上,但跨库性能下降严重,通用性不强。
发明内容
为了克服现有技术存在的缺陷与不足,本发明提供一种基于眼动特征的换脸视频篡改检测方法及系统,本发明在充分考虑视频帧时域信息的基础上,提出基于以人眼为代表的面部生物信号的差异性来检测视频是否发生篡改,为了描述真实视频与换脸视频在人眼方面的差异,通过定义单眼灵活度和双眼吻合度来刻画两者在时域和时空域中眼动特征的不同,通过计算视频中人眼的单眼灵活度和双眼吻合度等眼动特征来确定视频真假,利用人眼生物信号的固有特征进行检测,提升了检测效果,并具有通用性和实时性。
为了达到上述目的,本发明采用以下技术方案:
本发明提供一种基于眼动特征的换脸视频篡改检测方法,包括下述步骤:
逐帧检测待测视频中的人眼区域并对眼部特征点进行定位;
根据眼部特征点预测眼球中心位置;
逐帧计算待测视频各帧的视线方向向量;
根据所述的视线方向向量,计算待测视频各帧的视线变化率序列和视线转移方向序列;
根据待测视频各帧的视线变化率序列计算单眼灵活度;
根据待测视频双眼的视线变化率序列计算双眼视线变化率吻合度,根据待测视频双眼的视线转移方向序列计算双眼视线转移方向吻合度;
根据待测视频的单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度判断视频是否经过换脸篡改。
作为优选的技术方案,所述逐帧检测待测视频中的人眼区域并对眼部特征点进行定位,具体步骤为:
采用FFmpeg工具包对待测视频进行解码分帧,采用CLNF方法检测眼部区域并定位眼部特征点。
作为优选的技术方案,所述逐帧计算待测视频各帧的视线方向向量,具体步骤为:
所述眼部特征点包括眼球中心、眼睑、虹膜和瞳孔,建立以眼球中心为原点的坐标系,所述原点到瞳孔坐标的射线设为视线方向,所述原点与瞳孔坐标的坐标差设为视线方向向量。
作为优选的技术方案,所述计算待测视频各帧的视线变化率序列和视线转移方向序列,具体步骤为:
计算前后帧视线方向向量的夹角得到视线变化率,计算公式为:
计算得到各帧的视线变化率序列V={vi,i∈[1,N]},以及各帧的视线转移方向序列D={di,i∈[1,N]}。
作为优选的技术方案,所述根据待测视频各帧的视线变化率序列计算单眼灵活度,具体计算公式为:
作为优选的技术方案,所述根据待测视频双眼的视线变化率序列计算双眼视线变化率吻合度,具体计算公式为:
Mv=corr<Vl,Vr>
其中,Mv表示双眼视线变化率吻合度,Vl,Vr分别表示所有视频帧左、右眼视线变化率序列,corr<Vl,Vr>表示Vl与Vr之间的皮尔逊相关系数,分别表示第i帧视频图像左、右眼视线变化率,分别表示Vl,Vr的均值。
作为优选的技术方案,所述根据待测视频双眼的视线转移方向序列计算双眼视线转移方向吻合度,具体计算公式为:
Md=corr<Dl,Dr>
其中,Md表示双眼视线转移方向吻合度,Dl,Dr分别表示所有视频帧左、右眼视线转移方向序列,corr<Dl,Dr>表示Dl与Dr之间的皮尔逊相关系数, 分别表示第i帧视频图像左、右眼视线转移方向,分别表示Dl、Dr的均值。
作为优选的技术方案,所述根据待测视频的单眼灵活度、双眼视线变化率吻合度、双眼视线转移方向吻合度判断视频是否经过换脸篡改,具体步骤为:
将所述单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度组合构建为三维特征空间,采用逻辑回归的方法选定最优线性决策面,根据待测视频与所述最优线性决策面的位置判断视频是否经过换脸篡改;
所述最优线性决策面表示为:w0A+w1Mv+w2Md+w3=0,其中,A表示单眼灵活度,Mv表示双眼视线变化率吻合度,Md表示双眼视线转移方向吻合度。
本发明还提供一种基于眼动特征的换脸视频篡改检测系统,包括:人眼区域检测模块、眼部特征点定位模块、眼球中心位置预测模块、视线方向向量计算模块、视线变化率序列计算模块、视线转移方向序列计算模块、单眼灵活度计算模块、双眼视线变化率吻合度计算模块、双眼视线转移方向吻合度计算模块和换脸篡改判断模块;
所述人眼区域检测模块用于逐帧检测待测视频中的人眼区域,所述眼部特征点定位模块用于定位眼部特征点的位置信息,所述眼球中心位置预测模块用于根据眼部特征点预测眼球中心位置,所述视线方向向量计算模块用于逐帧计算待测视频各帧的视线方向向量,所述视线变化率序列计算模块用于根据视线方向向量计算得到待测视频各帧的视线变化率序列,所述视线转移方向序列计算模块用于根据视线方向向量计算得到待测视频各帧的视线转移方向序列,所述单眼灵活度计算模块用于根据待测视频各帧的视线变化率序列计算得到单眼灵活度,所述双眼视线变化率吻合度计算模块用于根据待测视频双眼的视线变化率序列计算得到双眼视线变化率吻合度,所述双眼视线转移方向吻合度计算模块用于根据待测视频双眼的视线转移方向序列计算得到双眼视线转移方向吻合度,所述换脸篡改判断模块用于根据待测视频的单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度判断视频是否经过换脸篡改。
本发明与现有技术相比,具有如下优点和有益效果:
(1)本发明将生物信号中的眼动特征应用到换脸视频篡改检测当中,能充分利用真实视频与换脸视频在眼球运动方面的差异,为换脸视频的篡改检测提供了一种有效途径。
(2)本发明根据眼球的运动特性,定义了视线变化率和视线转移方向来描述眼球的运动速度和运动方向,在时域上,根据真眼复杂多样的运动状态,定义了单眼灵活度来刻画真实视频与换脸视频在单眼运动情况上的差异,在时空域上,根据真实视频双眼的协调联动性,定义双眼视线变化率吻合度和双眼视线转移方向吻合度,来描述双眼眼球在运动速度和运动方向上的一致性,并以此刻画真实视频与换脸视频在双眼吻合度方面的差异。
(3)本发明利用人眼生物信号的固有特征进行检测,提升了检测效果,具有良好的通用性,该检测方法不涉及复杂运算,能在普通计算机上较为快速地完成,具有较好的实时性。
附图说明
图1为本实施例基于眼动特征的换脸视频篡改检测方法的流程框图;
图2为本实施例眼球简化模型图;
图3为本实施例视线变化率与视线转移方向示意图;
图4为本实施例视频中左眼视线变化率序列Vl变化曲线图;
图5为本实施例视频中左、右眼视线变化率序列Vl和Vr曲线对比图;
图6为本实施例视频中左、右眼的视线转移方向序列Dl和Dr曲线对比图;
图7为本实施例最优线性决策面选取示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例
如图1所示,本实施例提供一种基于眼动特征的换脸视频篡改检测方法,以TIMIT库中一段AVI格式的换脸视频作为优选的方案详细介绍实施过程,其中,该换脸视频使用深度网络Deep-Faceswap-GAN换脸技术实现换脸,将通过本实施例中的方法,将此篡改操作检测出来,具体步骤为:
S1:逐帧检测待测视频中的人眼区域,并对包括瞳孔在内的眼部特征点进行定位;
以上述AVI格式的换脸视频为例,首先使用FFmpeg工具包对视频进行解码,得到所有的视频帧图像,帧数为N+1,帧序号记为0~N,然后对每一帧进行人眼区域的检测以及眼部特征点的定位,具体利用OpenFace工具包中基于CLNF(Conditional Local NeuralFields,受约束的局部神经模型)的方法检测眼部区域并定位眼部特征点,检测结果为包括眼睑、虹膜、瞳孔等眼部特征点的位置信息;
S2:根据虹膜等眼部特征点估计眼球中心位置,;
真实眼球中虹膜与眼球中心的距离一般是确定的,虹膜的位置已经在第一步中得到,因此,对于眼球中心位置的估计,可根据真实眼球的大小和眼球中心与虹膜的距离估算得出;
S3:根据瞳孔及眼球中心位置计算视线方向向量;
如图2所示,将眼球模型简化,首先以眼球中心为空间坐标原点,水平方向为x轴、竖直方向为y轴、面部正前方向为z轴,逐帧计算视频各帧的视线方向向量,视线方向向量表示为(gx,gv,gz),其中i=0,1,2,...N,视线方向为眼球中心到瞳孔坐标的射线方向,即将两者坐标差视为视线方向向量;
S4:根据视线方向向量,计算视频各帧的视线变化率与视线转移方向;
为了衡量视频当前帧眼球的运动状态,本实施例根据眼球的运动状态定义了视线变化率和视线转移方向,其中,视线变化率vi表示视频第i帧眼球的运动的角速度,视线转移方向di反映眼球运动的旋转方向,i=1,2,...N,本实施例采用V={vi,i∈[1,N])表示整段视频的视线变化率序列,D={di,i∈[1,N]}表示整段视频的视线转移方向序列;
如图3所示,以视频当前帧第i帧为例,视线变化率采用前后帧视线方向向量的夹角来表示,具体定义为第i帧与其前一帧即第i-1帧的视线夹角θi(图3左半部分),计算公式如下:
其中,依次表示视频第i帧图像视线在x,y,z三个方向上的分量,vi表示视频第i帧视线变化率,为了衡量眼球旋转的运动方向,以视频第i帧为例,将前后帧视线方向向量投影到xOy平面上,则视线转移方向定义为瞳孔位置在xOy平面上的运动向量与x轴的夹角(图3右半部分),具体计算公式如下:
S5:利用视频各帧的视线变化率序列V计算单眼灵活度A。
眼球具有丰富的运动状态,如扫视、注视、平滑追踪等,且不同状态下的眼球转动速度和幅度有很大的区别,为了刻画真实视频和换脸视频中眼球运动的差异,本实施例定义眼球运动的灵活度,来表示一段视频中眼球运动的剧烈程度,具体以整段视频的视线变化率序列V的标准差来表征眼球运动的灵活度,计算公式定义如下:
如图4所示,以左眼为例,从图4可知所选视频的视线变化率序列Vl曲线,根据公式计算其标准差为0.005,即该段视频的单眼灵活度为0.005,本实施例以整段视频视线变化率V的标准差表征单眼灵活度,标准差越大表明整段视频其眼球运动角速度的离散度越高,即眼球灵活度越高,运动形式越复杂多样,视频为真的可能性越大;
S6:根据整段视频左、右眼的视线变化率序列Vl和Vr计算双眼视线变化率吻合度Mv;
眼球运动具有双眼协调联动性,任何眼球运动都有两只眼睛协调完成,即双眼眼球运动具有很高的相关性,考虑到单帧合成的造假视频较难协调整段视频双眼的眼动状态,据此,本实施例根据双眼视线变化率吻合度反映双眼运动速度上的一致性,双眼视线变化率吻合度定义为左、右眼视线变化率序列Vl和Vr的皮尔逊相关系数,计算公式如下:
Mv=corr<Vl,Vr>
其中,Mv表示视线变化率吻合度,Vl,Vr分别表示所有视频帧左、右眼视线变化率序列,corr<Vl,Vr>表示Vl与Vr之间的皮尔逊相关系数,分别表示第i帧视频图像左、右眼视线变化率,分别表示Vl,Vr的均值;
如图5所示,从图5可知该视频Vl与Vr曲线,经计算,其视线变化率吻合度为0.11,本实施例将双眼视线变化率吻合度Mv来说明整段视频双眼眼球运动速度之间的关联性,具体以左、右眼视线变化率序列Vl和Vr的皮尔逊相关系数计算得到,Mv越高,表明左右眼眼球在运动速度上的一致性越高,视频为真的可能性越大;
S7:根据整段视频左、右眼的视线转移方向序列Dl和Dr计算双眼视线转移方向吻合度Md;
除运动速度外,双眼眼球运动的方向也应具有一较高的相关性,本实施例首先引出双眼视线转移方向吻合度来刻画双眼运动方向之间的关系,具体定义为左、右眼视线变化率序列Dl和Dr的皮尔逊相关系数,计算公式如下:
Md=corr<Dl,Dr>
其中,Md表示双眼视线转移方向吻合度,Dl,Dr分别表示所有视频帧左、右眼视线转移方向序列,corr<Dl,Dr>表示Dl与Dr之间的皮尔逊相关系数, 分别表示第i帧视频图像左、右眼视线转移方向,分别表示Dl、Dr的均值;
如图6所示,从图6可知该视频Dl与Dr曲线,经计算,其视线变化率吻合度为0.27,本实施例定义了双眼视线转移方向吻合度Md来说明整段视频双眼眼球运动方向之间的关联性,具体以左、右视线变化率Dl和Dr的皮尔逊相关系数计算得到,Md越高,表明左右眼眼球在运动方向上的一致性越高,视频为真的可能性也越大;
S8:根据待测视频的单眼灵活度、双眼视线变化率吻合度、双眼视线转移方向吻合度判断视频是否经过换脸篡改;
决策面的计算通过TIMIT数据库中的统计结果得到,首先将A、Mv、Md三个特征组成三维特征空间,然后计算TIMIT库中真实视频与换脸视频的A、Md和Mv,根据两种视频在特征空间中的分布利用逻辑回归的方法计算得到最优线性决策面w0A+w1Mv+w2Md+w3=0,其中w0、w1、w2、w3为决策面系数,最后根据待测视频在特征空间中的位置计算其是否为真实视频;
将计算得到的A、Mv、Md的值代入w0A+w1Mv+w2Md+w3计算,若结果大于0,则视频为真实视频,否则为换脸视频;
如图7所示,图中给出了TIMIT库中300段真实视频,200段换脸视频在特征空间中的分布情况,根据其分布利用逻辑回归的方法计算所得的决策面系数w0、w1、w2、w3分别为239.09、3.99、2.83、-6.53、决策面为239.09A+3.99Mv+2.83Md-6.53=0,因此对于本实施例中的测试视频,A=0.005、My=0.11、Md=0.27,经计算0.005×239.09+3.99×0.11+2.83×0.27-6.53=-4.13,该值小于0,因此该视频为换脸视频,与实际情况相符,证明了本实施例的有效性。
本实施例还提供一种基于眼动特征的换脸视频篡改检测系统,包括:人眼区域检测模块、眼部特征点定位模块、眼球中心位置预测模块、视线方向向量计算模块、视线变化率序列计算模块、视线转移方向序列计算模块、单眼灵活度计算模块、双眼视线变化率吻合度计算模块、双眼视线转移方向吻合度计算模块和换脸篡改判断模块;
本实施例的人眼区域检测模块用于逐帧检测待测视频中的人眼区域,眼部特征点定位模块用于定位眼部特征点的位置信息,眼球中心位置预测模块用于根据眼部特征点预测眼球中心位置,视线方向向量计算模块用于逐帧计算待测视频各帧的视线方向向量,视线变化率序列计算模块用于根据视线方向向量计算得到待测视频各帧的视线变化率序列,视线转移方向序列计算模块用于根据视线方向向量计算得到待测视频各帧的视线转移方向序列,单眼灵活度计算模块用于根据待测视频各帧的视线变化率序列计算得到单眼灵活度,双眼视线变化率吻合度计算模块用于根据待测视频双眼的视线变化率序列计算得到双眼视线变化率吻合度,双眼视线转移方向吻合度计算模块用于根据待测视频双眼的视线转移方向序列计算得到双眼视线转移方向吻合度,换脸篡改判断模块用于根据待测视频的单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度判断视频是否经过换脸篡改。
在充分考虑视频帧时域信息的基础上,提出基于面部生物信号的差异性来检测视频是否发生篡改,具体利用以人眼为代表的生物信号来判断视频是否经过换脸,为了描述真实视频与换脸视频在人眼方面的差异,通过定义单眼灵活度和双眼吻合度来刻画两者在时域和时空域中眼动特征的不同,真实视频的眼球运动通常具有较高的灵活性,其运动形式多样,运动速度和幅度差别较大;此外,眼球运动具有双眼协调联动性,任何眼球运动状态都由两只眼睛协调完成,因此左右眼眼球的运动具有很高的吻合度,以此通过计算视频中人眼的单眼灵活度和双眼吻合度等眼动特征来确定视频真假。利用人眼生物信号的固有特征进行检测,具有良好的通用性,本实施例的检测算法不涉及复杂运算,能在普通计算机上较为快速地完成,具有较好的实时性。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (6)
1.一种基于眼动特征的换脸视频篡改检测方法,其特征在于,包括下述步骤:
逐帧检测待测视频中的人眼区域并对眼部特征点进行定位;
根据眼部特征点预测眼球中心位置;
逐帧计算待测视频各帧的视线方向向量;
根据所述的视线方向向量,计算待测视频各帧的视线变化率序列和视线转移方向序列;
根据待测视频各帧的视线变化率序列计算单眼灵活度,具体计算公式为:
根据待测视频双眼的视线变化率序列计算双眼视线变化率吻合度,根据待测视频双眼的视线转移方向序列计算双眼视线转移方向吻合度;
根据待测视频双眼的视线变化率序列计算双眼视线变化率吻合度,具体计算公式为:
Mv=corr<Vl,Vr>
其中,Mv表示双眼视线变化率吻合度,Vl,Vr分别表示所有视频帧左、右眼视线变化率序列,corr<Vl,Vr>表示Vl与Vr之间的皮尔逊相关系数,分别表示第i帧视频图像左、右眼视线变化率,分别表示Vl,Vr的均值;
根据待测视频双眼的视线转移方向序列计算双眼视线转移方向吻合度,具体计算公式为:
Md=corr<Dl,Dr>
其中,Md表示双眼视线转移方向吻合度,Dl,Dr分别表示所有视频帧左、右眼视线转移方向序列,corr<Dl,Dr>表示Dl与Dr之间的皮尔逊相关系数, 分别表示第i帧视频图像左、右眼视线转移方向,分别表示Dl、Dr的均值;
根据待测视频的单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度判断视频是否经过换脸篡改。
2.根据权利要求1所述的基于眼动特征的换脸视频篡改检测方法,其特征在于,所述逐帧检测待测视频中的人眼区域并对眼部特征点进行定位,具体步骤为:
采用FFmpeg工具包对待测视频进行解码分帧,采用CLNF方法检测眼部区域并定位眼部特征点。
3.根据权利要求1所述的基于眼动特征的换脸视频篡改检测方法,其特征在于,所述逐帧计算待测视频各帧的视线方向向量,具体步骤为:
所述眼部特征点包括眼球中心、眼睑、虹膜和瞳孔,建立以眼球中心为原点的坐标系,所述原点到瞳孔坐标的射线设为视线方向,所述原点与瞳孔坐标的坐标差设为视线方向向量。
4.根据权利要求1所述的基于眼动特征的换脸视频篡改检测方法,其特征在于,所述计算待测视频各帧的视线变化率序列和视线转移方向序列,具体步骤为:
计算前后帧视线方向向量的夹角得到视线变化率,计算公式为:
计算得到各帧的视线变化率序列V={vi,i∈[1,N]},以及各帧的视线转移方向序列D={di,i∈[1,N]}。
5.根据权利要求1所述的基于眼动特征的换脸视频篡改检测方法,其特征在于,所述根据待测视频的单眼灵活度、双眼视线变化率吻合度、双眼视线转移方向吻合度判断视频是否经过换脸篡改,具体步骤为:
将所述单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度组合构建为三维特征空间,采用逻辑回归的方法选定最优线性决策面,根据待测视频与所述最优线性决策面的位置判断视频是否经过换脸篡改;
所述最优线性决策面表示为:w0A+w1Mv+w2Md+w3=0,其中,w0、w1、w2、w3为决策面系数,A表示单眼灵活度,Mv表示双眼视线变化率吻合度,Md表示双眼视线转移方向吻合度。
6.一种基于眼动特征的换脸视频篡改检测系统,其特征在于,包括:人眼区域检测模块、眼部特征点定位模块、眼球中心位置预测模块、视线方向向量计算模块、视线变化率序列计算模块、视线转移方向序列计算模块、单眼灵活度计算模块、双眼视线变化率吻合度计算模块、双眼视线转移方向吻合度计算模块和换脸篡改判断模块;
所述人眼区域检测模块用于逐帧检测待测视频中的人眼区域,所述眼部特征点定位模块用于定位眼部特征点的位置信息,所述眼球中心位置预测模块用于根据眼部特征点预测眼球中心位置,所述视线方向向量计算模块用于逐帧计算待测视频各帧的视线方向向量,所述视线变化率序列计算模块用于根据视线方向向量计算得到待测视频各帧的视线变化率序列,所述视线转移方向序列计算模块用于根据视线方向向量计算得到待测视频各帧的视线转移方向序列,所述单眼灵活度计算模块用于根据待测视频各帧的视线变化率序列计算得到单眼灵活度,所述双眼视线变化率吻合度计算模块用于根据待测视频双眼的视线变化率序列计算得到双眼视线变化率吻合度,所述双眼视线转移方向吻合度计算模块用于根据待测视频双眼的视线转移方向序列计算得到双眼视线转移方向吻合度,所述换脸篡改判断模块用于根据待测视频的单眼灵活度、双眼视线变化率吻合度和双眼视线转移方向吻合度判断视频是否经过换脸篡改;
根据待测视频各帧的视线变化率序列计算单眼灵活度,具体计算公式为:
根据待测视频双眼的视线变化率序列计算双眼视线变化率吻合度,具体计算公式为:
Mv=corr<Vl,Vr>
其中,Mv表示双眼视线变化率吻合度,Vl,Vr分别表示所有视频帧左、右眼视线变化率序列,corr<Vl,Vr>表示Vl与Vr之间的皮尔逊相关系数,分别表示第i帧视频图像左、右眼视线变化率,分别表示Vl,Vr的均值;
根据待测视频双眼的视线转移方向序列计算双眼视线转移方向吻合度,具体计算公式为:
Md=corr<Dl,Dr>
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911029468.2A CN110826440B (zh) | 2019-10-28 | 2019-10-28 | 一种基于眼动特征的换脸视频篡改检测方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911029468.2A CN110826440B (zh) | 2019-10-28 | 2019-10-28 | 一种基于眼动特征的换脸视频篡改检测方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110826440A CN110826440A (zh) | 2020-02-21 |
CN110826440B true CN110826440B (zh) | 2022-05-24 |
Family
ID=69550754
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911029468.2A Active CN110826440B (zh) | 2019-10-28 | 2019-10-28 | 一种基于眼动特征的换脸视频篡改检测方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110826440B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111353399A (zh) * | 2020-02-24 | 2020-06-30 | 中国科学技术大学 | 篡改视频检测方法 |
CN113449543B (zh) * | 2020-03-24 | 2022-09-27 | 百度在线网络技术(北京)有限公司 | 视频检测方法、装置、设备、以及存储介质 |
CN113449542B (zh) * | 2020-03-24 | 2023-04-07 | 浙江宇视科技有限公司 | 一种换脸识别方法、装置、设备和介质 |
CN111914633B (zh) * | 2020-06-22 | 2023-06-30 | 华南理工大学 | 基于人脸特征时域稳定性的换脸视频篡改检测方法及其应用 |
CN112541473B (zh) * | 2020-12-24 | 2023-01-24 | 华南理工大学 | 基于人脸面部向量时空域特征的换脸视频检测方法及应用 |
CN113627256B (zh) * | 2021-07-09 | 2023-08-18 | 武汉大学 | 基于眨眼同步及双目移动检测的伪造视频检验方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108875468A (zh) * | 2017-06-12 | 2018-11-23 | 北京旷视科技有限公司 | 活体检测方法、活体检测系统以及存储介质 |
CN108875469A (zh) * | 2017-06-14 | 2018-11-23 | 北京旷视科技有限公司 | 活体检测与身份认证的方法、装置及计算机存储介质 |
CN109934187A (zh) * | 2019-03-19 | 2019-06-25 | 西安电子科技大学 | 基于人脸活性检测-眼睛视线随机挑战响应方法 |
CN110221699A (zh) * | 2019-06-13 | 2019-09-10 | 北京师范大学珠海分校 | 一种前置摄像头视频源的眼动行为识别方法 |
-
2019
- 2019-10-28 CN CN201911029468.2A patent/CN110826440B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108875468A (zh) * | 2017-06-12 | 2018-11-23 | 北京旷视科技有限公司 | 活体检测方法、活体检测系统以及存储介质 |
CN108875469A (zh) * | 2017-06-14 | 2018-11-23 | 北京旷视科技有限公司 | 活体检测与身份认证的方法、装置及计算机存储介质 |
CN109934187A (zh) * | 2019-03-19 | 2019-06-25 | 西安电子科技大学 | 基于人脸活性检测-眼睛视线随机挑战响应方法 |
CN110221699A (zh) * | 2019-06-13 | 2019-09-10 | 北京师范大学珠海分校 | 一种前置摄像头视频源的眼动行为识别方法 |
Non-Patent Citations (4)
Title |
---|
"Eye Tracking and Head Movement Detection:A State-of-Art Survey";Amer AI-Rahayfeh et al.;《IEEE J Transl Eng Health Med》;20131231(第6期);全文 * |
"In Ictu Oculi:Exposing AI Generated Fake Face Videos by Detecting Eye Blinking";Yuezun Li et al.;《arXiv》;20180630;全文 * |
"图像篡改检测方法及其影响评估研究";叶奎;《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》;20190115(第01期);全文 * |
"基于视觉内容一致性视频篡改取证研究";李海涛;《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》;20150515(第05期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110826440A (zh) | 2020-02-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110826440B (zh) | 一种基于眼动特征的换脸视频篡改检测方法及系统 | |
Li et al. | End-to-end model-based gait recognition | |
Gu et al. | Dynamic facial analysis: From bayesian filtering to recurrent neural network | |
US11095869B2 (en) | System and method for generating combined embedded multi-view interactive digital media representations | |
US10706577B2 (en) | Facial features tracker with advanced training for natural rendering of human faces in real-time | |
CN104978548B (zh) | 一种基于三维主动形状模型的视线估计方法与装置 | |
Tran et al. | 3-D posture and gesture recognition for interactivity in smart spaces | |
Rangesh et al. | Driver gaze estimation in the real world: Overcoming the eyeglass challenge | |
Fu et al. | Automatic calibration method for driver's head orientation in natural driving environment | |
CN111046734B (zh) | 基于膨胀卷积的多模态融合视线估计方法 | |
CN110490158B (zh) | 一种基于多级模型的鲁棒人脸对齐方法 | |
CN105389554A (zh) | 基于人脸识别的活体判别方法和设备 | |
CN112418095A (zh) | 一种结合注意力机制的面部表情识别方法及系统 | |
CN110853073A (zh) | 确定关注点的方法、装置、设备、系统及信息处理方法 | |
CN105389553A (zh) | 一种活体检测方法和装置 | |
CN110349152A (zh) | 人脸图像质量检测方法及装置 | |
CN111259739A (zh) | 一种基于3d人脸关键点和几何投影的人脸姿态估计方法 | |
CN112633217A (zh) | 基于三维眼球模型计算视线方向的人脸识别活体检测方法 | |
CN114005167A (zh) | 基于人体骨骼关键点的远距离视线估计方法和装置 | |
Chen et al. | 3D face reconstruction and gaze tracking in the HMD for virtual interaction | |
Kang et al. | Real-time eye tracking for bare and sunglasses-wearing faces for augmented reality 3D head-up displays | |
CN113095274B (zh) | 一种视线估计方法、系统、装置及存储介质 | |
Rangesh et al. | Gaze preserving CycleGANs for eyeglass removal and persistent gaze estimation | |
Yu et al. | Head pose estimation based on head tracking and the Kalman filter | |
Zhou et al. | Learning a 3D gaze estimator with adaptive weighted strategy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |