CN111931707A - 基于对抗补丁的人脸图像预测方法、装置、设备和介质 - Google Patents
基于对抗补丁的人脸图像预测方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN111931707A CN111931707A CN202010971248.8A CN202010971248A CN111931707A CN 111931707 A CN111931707 A CN 111931707A CN 202010971248 A CN202010971248 A CN 202010971248A CN 111931707 A CN111931707 A CN 111931707A
- Authority
- CN
- China
- Prior art keywords
- image
- pixel
- predicted
- training
- mask threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例属于人工智能领域,应用于智慧城管领域中,涉及一种基于对抗补丁的人脸图像预测方法,包括根据待预测图像的类型获取对应的掩码阈值;计算待预测图像每一像素的归因属性值;基于归因属性值,根据掩码阈值对所述待预测图像进行掩码处理,得到新图像;将所述新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。本申请还提供一种基于对抗补丁的人脸图像预测装置、计算机设备及存储介质。此外,本申请还涉及区块链技术,待预测图像、预测识别结果还存储于区块链中。采用本方法解决了现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
Description
技术领域
本申请涉及图像处理领域,特别是涉及一种基于对抗补丁的人脸图像预测方法、装置、计算机设备和存储介质。
背景技术
近年来,基于深度神经网络的计算机视觉技术获得了广泛的应用,其中,视频监控技术在智慧城市相关的各类场景应用中作用重大。例如,与食品安全相关方面的场景包括监测触发厨师是否佩戴口罩、卫生帽,基于视觉的不合格食品检出等;在社区管理相关的包括在垃圾分类投放处进行智能垃圾分类,车辆乱停放等;特定场合中对人脸的检测与识别等等。
现有技术中,通常是以在背景中或目标本身上面加入补丁或者贴纸的方式来干扰人脸识别的准确度,比如人戴上了眼镜、垃圾桶上贴了某种特征的干扰贴纸等等,这种补丁攻击即是造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御,实现准确的人脸识别。
发明内容
基于此,针对上述技术问题,本申请提供一种基于对抗补丁的人脸图像预测方法、装置、计算机设备及存储介质,以解决现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
一种基于对抗补丁的人脸图像预测方法,所述方法包括:
获取待预测图像,根据所述待预测图像的类型获取对应的掩码阈值;
计算所述待预测图像每一像素的归因属性值;
基于所述归因属性值,根据所述掩码阈值对所述待预测图像进行掩码处理,得到新图像;
将所述新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。
一种基于对抗补丁的人脸图像预测装置,所述装置包括:
数据模块,用于获取待预测图像,根据所述待预测图像的类型获取对应的掩码阈值;
归因模块,用于计算所述待预测图像每一像素的归因属性值;
掩码模块,用于基于所述归因属性值,根据所述掩码阈值对所述待预测图像进行掩码处理,得到新图像;
识别模块,用于将所述新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。
一种计算机设备,包括存储器和处理器,以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述基于对抗补丁的人脸图像预测方法的步骤。
一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述基于对抗补丁的人脸图像预测方法的步骤。
上述基于对抗补丁的人脸图像预测方法、装置、计算机设备和存储介质,通过根据待预测图像的训练好的掩码阈值对其进行掩码处理,输入到训练后的预测模型对其进行人脸识别,得到预测识别结果。本申请通过这种经过干扰对抗训练后得到的预测模型进行人脸识别,对那些被遮挡的输入图像具有一定的鲁棒性,预测的准确率更好,解决了现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为基于对抗补丁的人脸图像预测方法的应用环境示意图;
图2为基于对抗补丁的人脸图像预测方法的流程示意图;
图3为基于对抗补丁的人脸图像预测装置的示意图;
图4为一个实施例中计算机设备的示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本申请的目的、技术方案及优点更加清楚明白,下面结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供的基于对抗补丁的人脸图像预测方法,可以应用于如图1所示的应用环境中。其中,该应用环境可以包括终端102、网络以及服务端104,网络用于在终端102和服务端104之间提供通信链路介质,网络可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端102通过网络与服务端104交互,以接收或发送消息等。终端102上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端102可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器( Moving Picture Experts Group AudioLayer III,动态影像专家压缩标准音频层面3 )、MP4( Moving Picture Experts GroupAudio Layer IV,动态影像专家压缩标准音频层面4 )播放器、膝上型便携计算机和台式计算机等等。
服务端104可以是提供各种服务的服务器,例如对终端102上显示的页面提供支持的后台服务器。
需要说明的是,本申请实施例所提供的基于对抗补丁的人脸图像预测方法一般由服务端/终端执行,相应地,基于对抗补丁的人脸图像预测装置一般设置于服务端/终端设备中。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本申请可应用于智慧城管领域中,比如应用于公共场所监控、高铁、飞机的人脸识别、安全监测等等场景,从而推动智慧城市的建设。
应该理解,图1中的终端、网络和服务端的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
其中,终端102通过网络与服务端104进行通信。服务端104从终端102获取待预测图像,通过根据待预测图像的掩码阈值对其进行掩码处理,将掩码处理得到的新图像输入到训练后的预测模型对其进行人脸识别,得到识别结果。其中,终端102和服务端104之间通过网络进行连接,该网络可以是有线网络或者无线网络,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,服务端104可以用独立的服务器或者是多个组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种基于对抗补丁的人脸图像预测方法,以该方法应用于图1中的服务端为例进行说明,包括以下步骤:
步骤202,获取待预测图像,根据待预测图像的类型获取对应的掩码阈值。
待预测图像可以是终端采集到的戴口罩的人脸图像或者戴眼镜的人脸图像,但每一类的待预测图像中都也可以包括不戴任何遮挡的人脸图像。掩码阈值是限制待预测图像上干扰区域的值,不同类型的待预测图像对应有不同的掩码阈值,所以需要先获取待预测图像的类型,是戴口罩的人脸图像,还是戴眼镜的人脸图像,然后根据不同的类型获取已经训练好的掩码阈值。
进一步地,掩码阈值的确定方式为:需要获取训练样本图像;为各个训练样本图像生成图像大小相同,但像素取值皆为0的基准图像;根据基准图像计算训练样本图像每一像素的归因属性值;按照降序排列归因属性值;根据归因属性值、预设掩码阈值对训练样本图像进行掩码处理,得到干扰图像,其中,同一类型的训练样本图像只有一个预设掩码阈值,初始的掩码阈值可以从1开始选取对训练样本图像进行训练,即将训练样本图像与对应的干扰图像分别输入到预测模型中,输出得到训练完成的预设掩码阈值,作为掩码阈值。一次迭代循环中只有一个预设掩码阈值,通过更新预设掩码阈值,重新输入到预设模型中进行预测训练,最终得到该类型训练样本图像对应的最终的掩码阈值。
其中,训练样本图像是戴眼镜或者戴口罩的人脸图像,该训练样本图像包括原始
标签是哪一类人脸图像、也包括是图像中人脸中补丁的具体的坐标框位置。基准图像是大
小和其对应的训练样本图像相同,但是每一个像素的像素值都是0的图像,相同是指图像的
像素宽度和高度都相同。例如:基准图像B是与训练样本图像X同样大小,可以表示为:,表示B的第i个像素。
本实施例通过为不同的类型的待预测图像训练掩码阈值,用于在人脸预测时,对待预测图像进行相应的掩码操作,得到新图像进行预测,可以准确地过滤掉待预测图像的一小部分对应于高属性值的像素之后进行预测,能有效去除对抗补丁对人脸预测的影响,提高预测准确度,而且不影响对一个未受到对抗攻击的正常图像的预测。
进一步地,根据基准图像计算训练样本图像的各像素的归因属性值包括:
获取训练样本图像、基准图像各个像素的像素值;将训练样本图像和对应的基准图像视为n维向量空间中的两个点;在两个点的直线上任取m个采样点,其中,任意两相邻采样点之间的间隔都不大于预设间隔;根据采样点、像素值计算得到归因属性值。本实施例还通过基于n维欧氏空间的方式计算归因属性值,简单直观,适用于图像的各个维度的特征的数值相差不大的情况。
具体地,可以以近似方式为每个训练样本图像的像素计算一个归因属性值。
其中,归因分析方式是将深度神经网络模型的输出与输入图像的特征联系起来,计算出每
个特征对输出的贡献。我们将为每个输入特征(图像像素)计算的贡献值称为归因属性值。
其中,以近似方式计算的过程为:将训练样本图像和基准图像看作n维向量空间
内的两个点,在连接两点的直线上取m个采样点,其中,任意两相邻采样点之间的间隔都不
大于预设间隔,即m的取值满足将两点之间的线段分成足够小的间隔,即预设间隔选取尽可
能小的数值。
需要强调的是,为进一步保证用户信息的私密和安全性,上述待预测图像、预测识别结果还可以存储于一区块链的节点中。
步骤204,计算待预测图像每一像素的归因属性值。
获取待预测图像和待预测图像的基准图像,将和看作n维向量空间内
的两个点,在连接两点的直线上取m个采样点,其中,m的取值满足将两点之间的线段分成足
够小的间隔。此处的待预测图像可能是没有对抗补丁的人脸图像,也可能是有对抗补丁的
人脸图像。当图像中的人不戴眼镜时,即不包含对抗补丁时,归因属性值分布较均匀,即使
掩码处理掉一部分像素,也几乎不会影响预测结果。
步骤206,基于归因属性值,根据掩码阈值对待预测图像进行掩码处理,得到新图像。
根据掩码阈值可以对待预测图像进行掩码处理,去除干扰像素,会屏蔽掉人脸图像中眼镜区域的那些像素,从而提高预测的准确性。
具体地,待预测图像x包括n个像素,可以表示为:,其中,表
示待预测图像上的第i个像素。引入一个与待预测图像同样大小的基准图像B,表示为:,表示基准图像B的第i个像素,其中,对一个待预测图像x,可选基
准图像B的各个像素值全为0。然后,以掩码阈值为临界点,将对应于
的待预测图像x的像素分别替换为基准图像B对应位置的像素值,即将掩码阈值所对应的像素、以及该像素之前的所有像素的值都设为
0,得到一个经过掩码操作后的干扰新图像。通过这种掩码操作会屏蔽掉人脸图像上眼
镜区域的那些像素,从而提高预测的准确性。
步骤208,将新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。
预测模型输出的结果在人脸识别结果,是将待预测图像中的人识别为一个人物身份,识别为不同的人就是不同的结果。
上述基于对抗补丁的人脸图像预测方法中,通过根据待预测图像的训练好的掩码阈值对其进行掩码处理,输入到训练后的预测模型对其进行人脸识别,得到预测识别结果。本申请通过经过干扰对抗训练后得到的预测模型进行人脸识别,对那些被遮挡的输入图像具有一定的鲁棒性,预测的准确率更好,解决了现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
在一个实施例中,确定掩码阈值的具体步骤为:
以预设掩码阈值为临界点对归因属性值进行划分,得到第一归因属性序列;将第一归因属性序列中各归因属性值对应的像素替换为基准图像上对应位置上的像素,得到基于预设掩码阈值与训练样本图像对应的干扰图像。
然后需要将训练样本图像与对应的干扰图像分别输入到预测模型中,得到训练样本图像输入到掩码阈值模型中的样本输出结果、干扰图像输入到掩码阈值模型中的干扰输出结果;对比干扰输出结果与样本输出结果是否相同;若相同,则根据预设值递增干扰图像对应的预设掩码阈值,得到新的预设掩码阈值,并重复根据预设掩码阈值对训练样本图像进行掩码处理得到干扰图像、输入掩码阈值模型、对比输出结果是否相同的操作,直到干扰输出结果与样本输出结果不相同,将当前循环的预设掩码阈值作为最终的掩码阈值。
具体地,对训练样本图像x,其中,训练样本图像有n个像素,可以表示为:,其中,表示训练样本图像上的第i个像素,引入一个与训练样本图像
的同样大小的基准图像B,表示为:,表示B的第i个像素,其中,对
一个训练样本图像x,可选基准图像B的各个像素值全为0。
然后,以预设掩码阈值为临界点,将对应于的训练样本图
像x的第一归因属性序列,即像素分别替换为基准图像B对应位置的像
素值,即将预设掩码阈值所对应的像素、以及该像素之前的所有像素的
值都设为0,得到一个经过掩码操作后的干扰图像。
若不相同,则将当前循环中的预设掩码阈值作为最终需要使用的掩码阈值;若相
同,则对当前训练中的预设掩码阈值递增一个预设值,比如递增1后,再将对应于的训练样本图像x的第一归因属性序列所对应的像素、以及该像素值
钱的所有像素的值都设为0,实现掩码处理,再输入到预测模型中得到,并重复输出
对比的操作,直到二者不相同,或者预设掩码阈值的取值大于等于像素数量,停止迭代。
如果出现“预设掩码阈值的取值大于等于像素数量,但两个输出结果依旧相同”
这种情况,可能是出现预测模型参数不准确,或者选取的训练样本图像不标准的情况,则需
要对预测模型重新进行训练,或者重新选取训练样本图像进行处理。
本实施例通过掩码操作会屏蔽掉人脸图像上眼镜区域的那些像素,从而提高预测的准确性。
在一个实施例中,在步骤208之前,基于对抗补丁的人脸图像预测方法,还包括:
预测模型输出的结果是人脸识别结果,是将待预测图像中的人识别为一个人物身份,
识别为不同的人就是不同的结果。其中,需要对预测模型进行对抗训练,假设所使用的神经
网络框架模型定义为M,损失函数,那么本实施例首先需要基于对抗训练的方式训
练模型M,训练后得到预测模型的权重参数,训练后的预测模型对带扰动攻击的输入
图像具有一定的鲁棒性。输入:训练集图像x,y为对应于x的真实标签(y可能为人脸图像的
分类、检测框坐标等);输出:经过对的对抗训练后,权重参数确定后的预测模型。
具体地,需要先获取训练集图像,其中,训练集图像中包括训练图像、训练图像的人脸标签;为各训练图像生成一个同样大小的扰动图像,其中,扰动图像中每个像素的像素值预期对应的训练图像同位置像素的像素值具有预设大小的变化;将得到的各扰动图像作为训练图像,输入到待训练预测模型中进行模型训练,得到训练完成的预测模型。
其中,上述提到的对抗训练就是对训练集合中的每个训练图像x(比如人脸识别中
包含人脸的一幅图像),使用对抗攻击方式生成一个同样大小的扰动图像,中每个像素
值相比训练图像x同位置的像素值具有微小的扰动变化,将扰动图像作为训练样本对模
型进行训练。
具体地,预设一个超参数,根据公式(2):
详细地是:为每个训练图像x,给定一个超参数,作如公式(2)的多次迭代计算得
到对抗扰动图像,初始为x。给定最大像素扰动值的范围,将v值裁剪到的区间内。可以看到,公式(2)定义了一个基于范数的攻击,意思是对抗扰动图像中每个像素上可以叠加的扰动值都位于区间内。然后将扰动后的对抗扰动图像
作为训练图像,按照公式(3)的优化目标,利用最小梯度下降法求解最小化损失函数J的权
重参数:
就是在预测后的损失函数值,比如交叉熵。计算损失函数J相对于权重参数的梯
度,并按照预先设置的学习以梯度下降的方式更新权重参数。其中,学习率为在梯度
下降的过程中更新权重时的超参数,学习率越低,损失函数的变化速度就越慢,容易过拟
合。本提案已根据经验得到了合适的学习率的数值。
本实施例通过为训练集每个样本集图像x作上述的迭代攻击得,然后作梯度下
降最小化损失函数,更新权重参数,从而得到训练后的预测模型。我们将所有训练图
像完成这样的一个过程称为一次训练迭代,会进行预设的训练迭代次数后,以实现足够最
小化损失函数的目的,完成对抗训练过程。
应该理解的是,虽然图2的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图3所示,提供了一种基于对抗补丁的人脸图像预测装置,该基于对抗补丁的人脸图像预测装置与上述实施例中基于对抗补丁的人脸图像预测方法一一对应。该基于对抗补丁的人脸图像预测装置包括:
数据模块302,用于获取待预测图像,根据待预测图像的类型获取对应的掩码阈值。
归因模块304,用于计算待预测图像每一像素的归因属性值。
掩码模块306,用于基于归因属性值,根据掩码阈值对待预测图像进行掩码处理,得到新图像。
识别模块308,用于将新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。
需要强调的是,为进一步保证用户信息的私密和安全性,上述待预测图像、预测识别结果还可以存储于一区块链的节点中。
进一步地,在数据模块302之前,还包括预测模块,该预测模块包括:
第一样本子模块,用于获取训练样本图像;
基准子模块,用于为各个训练样本图像生成图像大小相同,但像素取值皆为0的基准图像;
归因子模块,用于根据基准图像计算训练样本图像每一像素的归因属性值;
排列子模块,用于按照降序排列归因属性值;
干扰子模块,用于根据归因属性值、预设掩码阈值对训练样本图像进行掩码处理,得到干扰图像;
输出子模块,用于将训练样本图像与对应的干扰图像分别输入到预测模型中,输出得到训练完成的预设掩码阈值,作为掩码阈值。
进一步地,归因属性值有多个,干扰子模块,包括:
序列单元,用于以预设掩码阈值为临界点对归因属性值进行划分,得到第一归因属性序列;
干扰单元,用于将第一归因属性序列中各归因属性值对应的像素替换为基准图像上对应位置上的像素,得到基于预设掩码阈值与训练样本图像对应的干扰图像。
进一步地,输出子模块,包括:
结果单元,用于获取训练样本图像输入到掩码阈值模型中的样本输出结果、干扰图像输入到掩码阈值模型中的干扰输出结果;
对比单元,用于对比干扰输出结果与样本输出结果是否相同;
若相同,则根据预设值递增干扰图像对应的预设掩码阈值,得到新的预设掩码阈值,并重复根据预设掩码阈值对训练样本图像进行掩码处理得到干扰图像、输入掩码阈值模型、对比输出结果是否相同的操作,直到干扰输出结果与样本输出结果不相同,将当前循环的预设掩码阈值作为最终的掩码阈值。
进一步地,归因子模块,包括:
像素单元,用于获取训练样本图像、基准图像各个像素的像素值;
向量单元,用于将训练样本图像和对应的基准图像视为n维向量空间中的两个点;
采样单元,用于在两个点的直线上任取m个采样点,其中,任意两相邻采样点之间的间隔都不大于预设间隔;
计算单元,用于根据采样点、像素值计算得到归因属性值。
进一步地,在识别模块308之前,还包括训练模块,该训练模块包括:
第二样本子模块,用于获取训练集图像,其中,训练集图像中包括训练图像、训练图像的人脸标签;
扰动子模块,用于为各训练图像生成一个同样大小的扰动图像,其中,扰动图像中每个像素的像素值预期对应的训练图像同位置像素的像素值具有预设大小的变化;
训练子模块,用于将得到的各扰动图像作为训练图像,输入到待训练预测模型中进行模型训练,得到训练完成的预测模型。
上述基于对抗补丁的人脸图像预测装置,通过根据待预测图像的训练好的掩码阈值对其进行掩码处理,输入到训练后的预测模型对其进行人脸识别,得到预测识别结果。本申请通过经过干扰对抗训练后得到的预测模型进行人脸识别,对那些被遮挡的输入图像具有一定的鲁棒性,预测的准确率更好,解决了现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储待预测图像。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于对抗补丁的人脸图像预测方法。通过根据待预测图像的训练好的掩码阈值对其进行掩码处理,输入到训练后的预测模型对其进行人脸识别,得到预测识别结果。本申请通过这种经过干扰对抗训练后得到的预测模型进行人脸识别,对那些被遮挡的输入图像具有一定的鲁棒性,预测的准确率更好,解决了现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器 (Digital Signal Processor,DSP)、嵌入式设备等。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述实施例中基于对抗补丁的人脸图像预测方法的步骤,例如图2所示的步骤202至步骤208,或者,处理器执行计算机程序时实现上述实施例中基于对抗补丁的人脸图像预测装置的各模块/单元的功能,例如图3所示模块302至模块308的功能。本实施例通过根据待预测图像的训练好的掩码阈值对其进行掩码处理,输入到训练后的预测模型对其进行人脸识别,得到预测识别结果。本申请通过这种经过干扰对抗训练后得到的预测模型进行人脸识别,对那些被遮挡的输入图像具有一定的鲁棒性,预测的准确率更好,解决了现有技术中补丁攻击造成了较大的范数扰动,但是因为极易造成合理的假象而不易被人发现,从而不能对其进行有效的防御的技术问题。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink) DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形、改进或者对部分技术特征进行等同替换,而这些修改或者替换,并不使相同技术方案的本质脱离本发明个实施例技术方案地精神和范畴,都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种基于对抗补丁的人脸图像预测方法,其特征在于,所述方法包括:
获取待预测图像,根据所述待预测图像的类型获取对应的掩码阈值;
计算所述待预测图像每一像素的归因属性值;
基于所述归因属性值,根据所述掩码阈值对所述待预测图像进行掩码处理,得到新图像;
将所述新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。
2.根据权利要求1所述的方法,其特征在于,在所述根据所述待预测图像的类型获取对应的掩码阈值之前,还包括:
获取训练样本图像;
为各个所述训练样本图像生成图像大小相同,但像素取值皆为0的基准图像;
根据所述基准图像计算所述训练样本图像每一像素的归因属性值;
按照降序排列所述归因属性值;
根据所述归因属性值、预设掩码阈值对所述训练样本图像进行掩码处理,得到干扰图像;
将所述训练样本图像与对应的干扰图像分别输入到预测模型中,输出得到训练完成的预设掩码阈值,作为所述掩码阈值。
3.根据权利要求2所述的方法,其特征在于,所述归因属性值有多个,所述根据所述归因属性值、预设掩码阈值对所述训练样本图像进行掩码处理,得到干扰图像,包括:
以所述预设掩码阈值为临界点对所述归因属性值进行划分,得到第一归因属性序列;
将所述第一归因属性序列中各归因属性值对应的像素替换为所述基准图像上对应位置上的像素,得到基于所述预设掩码阈值与所述训练样本图像对应的干扰图像。
4.根据权利要求2或3所述的方法,其特征在于,所述将所述训练样本图像与对应的干扰图像分别输入到预测模型中,输出得到训练完成的预设掩码阈值,作为所述掩码阈值,包括:
获取所述训练样本图像输入到所述掩码阈值模型中的样本输出结果、所述干扰图像输入到所述掩码阈值模型中的干扰输出结果;
对比所述干扰输出结果与所述样本输出结果是否相同;
若相同,则根据预设值递增所述干扰图像对应的预设掩码阈值,得到新的预设掩码阈值,并重复根据预设掩码阈值对所述训练样本图像进行掩码处理得到干扰图像、输入掩码阈值模型、对比输出结果是否相同的操作,直到干扰输出结果与样本输出结果不相同,将当前循环的预设掩码阈值作为最终的掩码阈值。
5.根据权利要求2所述的方法,其特征在于,所述根据所述基准图像计算所述训练样本图像每一像素的归因属性值,包括:
获取训练样本图像、所述基准图像各个像素的像素值;
将所述训练样本图像和对应的基准图像视为n维向量空间中的两个点;
在两个点的直线上任取m个采样点,其中,任意两相邻采样点之间的间隔都不大于预设间隔;
根据所述采样点、所述像素值计算得到所述归因属性值。
7.根据权利要求1所述的方法,其特征在于,在所述将所述新图像输入到训练好的预测模型中进行人脸识别之前,还包括:
获取训练集图像,其中,所述训练集图像中包括训练图像、训练图像的人脸标签;
为各所述训练图像生成一个同样大小的扰动图像,其中,所述扰动图像中每个像素的像素值预期对应的训练图像同位置像素的像素值具有预设大小的变化;
将得到的各扰动图像作为训练图像,输入到待训练预测模型中进行模型训练,得到训练完成的预测模型。
8.一种基于对抗补丁的人脸图像预测装置,其特征在于,包括:
数据模块,用于获取待预测图像,根据所述待预测图像的类型获取对应的掩码阈值;
归因模块,用于计算所述待预测图像每一像素的归因属性值;
掩码模块,用于基于所述归因属性值,根据所述掩码阈值对所述待预测图像进行掩码处理,得到新图像;
识别模块,用于将所述新图像输入到训练好的预测模型中进行人脸识别,得到预测识别结果。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010971248.8A CN111931707A (zh) | 2020-09-16 | 2020-09-16 | 基于对抗补丁的人脸图像预测方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010971248.8A CN111931707A (zh) | 2020-09-16 | 2020-09-16 | 基于对抗补丁的人脸图像预测方法、装置、设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111931707A true CN111931707A (zh) | 2020-11-13 |
Family
ID=73333770
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010971248.8A Pending CN111931707A (zh) | 2020-09-16 | 2020-09-16 | 基于对抗补丁的人脸图像预测方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111931707A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112633424A (zh) * | 2021-03-10 | 2021-04-09 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、图像处理设备及存储介质 |
CN112912893A (zh) * | 2021-01-28 | 2021-06-04 | 深圳市锐明技术股份有限公司 | 佩戴口罩的检测方法、装置、终端设备及可读存储介质 |
CN114998707A (zh) * | 2022-08-05 | 2022-09-02 | 深圳中集智能科技有限公司 | 评估目标检测模型鲁棒性的攻击方法和装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107153816A (zh) * | 2017-04-16 | 2017-09-12 | 五邑大学 | 一种用于鲁棒人脸识别的数据增强方法 |
CN109190489A (zh) * | 2018-08-08 | 2019-01-11 | 深圳市唯特视科技有限公司 | 一种基于修复自动编码器残差的异常人脸检测方法 |
CN109977922A (zh) * | 2019-04-11 | 2019-07-05 | 电子科技大学 | 一种基于生成对抗网络的行人掩模生成方法 |
CN110892408A (zh) * | 2017-02-07 | 2020-03-17 | 迈恩德玛泽控股股份有限公司 | 用于立体视觉和跟踪的系统、方法和装置 |
CN110991299A (zh) * | 2019-11-27 | 2020-04-10 | 中新国际联合研究院 | 一种物理域上针对人脸识别系统的对抗样本生成方法 |
CN111127308A (zh) * | 2019-12-08 | 2020-05-08 | 复旦大学 | 用于局部遮挡下单样本人脸识别的镜像特征重排修复方法 |
CN111340008A (zh) * | 2020-05-15 | 2020-06-26 | 支付宝(杭州)信息技术有限公司 | 对抗补丁生成、检测模型训练、对抗补丁防御方法及系统 |
EP3690712A1 (en) * | 2019-01-28 | 2020-08-05 | StradVision, Inc. | Learning method and learning device of pedestrian detector for robust surveillance based on image analysis by using gan and testing method and testing device using the same |
CN111626925A (zh) * | 2020-07-24 | 2020-09-04 | 支付宝(杭州)信息技术有限公司 | 一种对抗补丁的生成方法及装置 |
-
2020
- 2020-09-16 CN CN202010971248.8A patent/CN111931707A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110892408A (zh) * | 2017-02-07 | 2020-03-17 | 迈恩德玛泽控股股份有限公司 | 用于立体视觉和跟踪的系统、方法和装置 |
CN107153816A (zh) * | 2017-04-16 | 2017-09-12 | 五邑大学 | 一种用于鲁棒人脸识别的数据增强方法 |
CN109190489A (zh) * | 2018-08-08 | 2019-01-11 | 深圳市唯特视科技有限公司 | 一种基于修复自动编码器残差的异常人脸检测方法 |
EP3690712A1 (en) * | 2019-01-28 | 2020-08-05 | StradVision, Inc. | Learning method and learning device of pedestrian detector for robust surveillance based on image analysis by using gan and testing method and testing device using the same |
CN109977922A (zh) * | 2019-04-11 | 2019-07-05 | 电子科技大学 | 一种基于生成对抗网络的行人掩模生成方法 |
CN110991299A (zh) * | 2019-11-27 | 2020-04-10 | 中新国际联合研究院 | 一种物理域上针对人脸识别系统的对抗样本生成方法 |
CN111127308A (zh) * | 2019-12-08 | 2020-05-08 | 复旦大学 | 用于局部遮挡下单样本人脸识别的镜像特征重排修复方法 |
CN111340008A (zh) * | 2020-05-15 | 2020-06-26 | 支付宝(杭州)信息技术有限公司 | 对抗补丁生成、检测模型训练、对抗补丁防御方法及系统 |
CN111626925A (zh) * | 2020-07-24 | 2020-09-04 | 支付宝(杭州)信息技术有限公司 | 一种对抗补丁的生成方法及装置 |
Non-Patent Citations (4)
Title |
---|
MUKUND SUNDARARAJAN.ET AL: "Axiomatic Attribution for Deep Networks", 《HTTPS://ARXIV.ORG/LABS/1703.01365》 * |
SUSMIT JHA,ET AL: "Attribution-driven Causal Analysis for Detection of Adversarial Examples", 《HTTPS://ARVIX.ORG/PDF/1903.05821.PDF》 * |
蒋凌云: "基于生成对抗网络的图像对抗样本攻防算法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
韩青: "云环境下人脸安全识别技术研究与实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112912893A (zh) * | 2021-01-28 | 2021-06-04 | 深圳市锐明技术股份有限公司 | 佩戴口罩的检测方法、装置、终端设备及可读存储介质 |
CN112633424A (zh) * | 2021-03-10 | 2021-04-09 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、图像处理设备及存储介质 |
CN112633424B (zh) * | 2021-03-10 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、图像处理设备及存储介质 |
CN114998707A (zh) * | 2022-08-05 | 2022-09-02 | 深圳中集智能科技有限公司 | 评估目标检测模型鲁棒性的攻击方法和装置 |
CN114998707B (zh) * | 2022-08-05 | 2022-11-04 | 深圳中集智能科技有限公司 | 评估目标检测模型鲁棒性的攻击方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111931707A (zh) | 基于对抗补丁的人脸图像预测方法、装置、设备和介质 | |
CN111310562B (zh) | 基于人工智能的车辆驾驶风险管控方法及其相关设备 | |
CN112148987A (zh) | 基于目标对象活跃度的消息推送方法及相关设备 | |
CN110647921B (zh) | 一种用户行为预测方法、装置、设备及存储介质 | |
CN108491720B (zh) | 一种应用识别方法、系统以及相关设备 | |
CN111738244A (zh) | 图像检测方法、装置、计算机设备和存储介质 | |
CN111614690A (zh) | 一种异常行为检测方法及装置 | |
CN110929799B (zh) | 用于检测异常用户的方法、电子设备和计算机可读介质 | |
CN110287316A (zh) | 一种告警分类方法、装置、电子设备及存储介质 | |
CN111126208B (zh) | 行人归档方法、装置、计算机设备及存储介质 | |
CN113435583A (zh) | 基于联邦学习的对抗生成网络模型训练方法及其相关设备 | |
CN113536139B (zh) | 基于兴趣的内容推荐方法、装置、计算机设备及存储介质 | |
CN112418292A (zh) | 一种图像质量评价的方法、装置、计算机设备及存储介质 | |
Iannizzotto et al. | Personal Protection Equipment detection system for embedded devices based on DNN and Fuzzy Logic | |
CN111738441B (zh) | 兼顾预测精度和隐私保护的预测模型训练方法及装置 | |
CN112288163A (zh) | 目标对象的目标因子预测方法及相关设备 | |
JP6971514B1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN114266946A (zh) | 遮挡条件下的特征识别方法、装置、计算机设备及介质 | |
CN113591751A (zh) | 变电站异常情况告警方法、装置、计算机设备及存储介质 | |
CN117077075A (zh) | 用于环境保护的水质监测系统及其方法 | |
CN112634158A (zh) | 人脸图像恢复方法、装置、计算机设备及存储介质 | |
CN117156442A (zh) | 基于5g网络的云数据安全保护方法及系统 | |
Jin et al. | Distributed Byzantine tolerant stochastic gradient descent in the era of big data | |
CN113674317A (zh) | 一种高位视频的车辆跟踪方法及装置 | |
CN112991274A (zh) | 一种人群计数方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20201113 |
|
RJ01 | Rejection of invention patent application after publication |