CN110321790B - 一种对抗样本的检测方法及电子设备 - Google Patents

一种对抗样本的检测方法及电子设备 Download PDF

Info

Publication number
CN110321790B
CN110321790B CN201910425689.5A CN201910425689A CN110321790B CN 110321790 B CN110321790 B CN 110321790B CN 201910425689 A CN201910425689 A CN 201910425689A CN 110321790 B CN110321790 B CN 110321790B
Authority
CN
China
Prior art keywords
value
electronic device
pixel
sample
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910425689.5A
Other languages
English (en)
Chinese (zh)
Other versions
CN110321790A (zh
Inventor
李实�
赵晓娜
王思善
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201910425689.5A priority Critical patent/CN110321790B/zh
Publication of CN110321790A publication Critical patent/CN110321790A/zh
Priority to PCT/CN2020/091027 priority patent/WO2020233564A1/fr
Application granted granted Critical
Publication of CN110321790B publication Critical patent/CN110321790B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Collating Specific Patterns (AREA)
  • Telephone Function (AREA)
CN201910425689.5A 2019-05-21 2019-05-21 一种对抗样本的检测方法及电子设备 Active CN110321790B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201910425689.5A CN110321790B (zh) 2019-05-21 2019-05-21 一种对抗样本的检测方法及电子设备
PCT/CN2020/091027 WO2020233564A1 (fr) 2019-05-21 2020-05-19 Procédé et dispositif électronique de détection d'exemple antagoniste

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910425689.5A CN110321790B (zh) 2019-05-21 2019-05-21 一种对抗样本的检测方法及电子设备

Publications (2)

Publication Number Publication Date
CN110321790A CN110321790A (zh) 2019-10-11
CN110321790B true CN110321790B (zh) 2023-05-12

Family

ID=68113242

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910425689.5A Active CN110321790B (zh) 2019-05-21 2019-05-21 一种对抗样本的检测方法及电子设备

Country Status (2)

Country Link
CN (1) CN110321790B (fr)
WO (1) WO2020233564A1 (fr)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110321790B (zh) * 2019-05-21 2023-05-12 华为技术有限公司 一种对抗样本的检测方法及电子设备
CN110768971B (zh) * 2019-10-16 2021-12-03 伍军 适用于人工智能系统的对抗样本快速预警方法及系统
CN110705652B (zh) * 2019-10-17 2020-10-23 北京瑞莱智慧科技有限公司 对抗样本及其生成方法、介质、装置和计算设备
CN111046379B (zh) * 2019-12-06 2021-06-18 支付宝(杭州)信息技术有限公司 一种对抗攻击的监测方法和装置
CN111325127A (zh) * 2020-02-12 2020-06-23 上海云从汇临人工智能科技有限公司 一种异常对象判断方法、系统、机器可读介质及设备
CN111353403A (zh) * 2020-02-24 2020-06-30 中国人民大学 一种深度神经网络图像对抗样本检测方法和系统
CN113591517A (zh) * 2020-04-30 2021-11-02 华为技术有限公司 一种活体检测方法及相关设备
CN111811657B (zh) * 2020-07-07 2022-05-27 杭州海康威视数字技术股份有限公司 一种纠正人脸测温的方法、装置及存储介质
CN112001249B (zh) * 2020-07-21 2022-08-26 山东师范大学 一种在物理世界通过生成贴纸构造可取消生物特征的方法
WO2022104503A1 (fr) * 2020-11-17 2022-05-27 华为技术有限公司 Procédé d'identification d'échantillon antagoniste et dispositif associé
CN112488130B (zh) * 2020-12-17 2023-08-15 苏州聚悦信息科技有限公司 一种ai的微小孔壁检测方法
CN113409407B (zh) * 2021-05-17 2022-05-17 海南师范大学 一种基于平均压缩获取低频信息的对抗样本防御方法
CN113240028A (zh) * 2021-05-24 2021-08-10 浙江大学 一种基于类激活图的对抗样本块攻击检测方法
CN113222056B (zh) * 2021-05-28 2022-11-08 北京理工大学 面向图像分类系统攻击的对抗样本检测方法
CN114240732B (zh) * 2021-06-24 2023-04-07 中国人民解放军陆军工程大学 一种攻击人脸验证模型的对抗贴片生成方法
CN113936310A (zh) * 2021-08-03 2022-01-14 秒针信息技术有限公司 一种识别对抗样本口罩的方法及装置
CN113705620B (zh) * 2021-08-04 2023-08-15 百度在线网络技术（北京）有限公司 图像显示模型的训练方法、装置、电子设备和存储介质
CN115712893A (zh) * 2021-08-20 2023-02-24 华为技术有限公司 一种攻击检测方法及装置
CN113947409A (zh) * 2021-10-12 2022-01-18 支付宝(杭州)信息技术有限公司 样本生成方法、支付方法、样本生成系统及相关设备
CN114333031A (zh) * 2021-12-31 2022-04-12 北京瑞莱智慧科技有限公司 活体检测模型的漏洞检测方法、装置及存储介质
CN114661940B (zh) * 2022-01-28 2023-08-08 宁波大学 一种适用于黑盒攻击下快速获取语音对抗样本的方法
CN115909020B (zh) * 2022-09-30 2024-01-09 北京瑞莱智慧科技有限公司 模型鲁棒性检测方法、相关装置及存储介质
CN116935172A (zh) * 2023-07-31 2023-10-24 北京瑞莱智慧科技有限公司 图像处理方法、相关装置及存储介质
CN117934000B (zh) * 2024-01-23 2024-07-02 武汉光谷康服信息科技有限公司 用于金融支付的人脸面部数据解析系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108171215A (zh) * 2018-01-25 2018-06-15 河南大学 基于低秩变异字典和稀疏表示分类的人脸伪装检测及伪装类别检测方法
CN109740615A (zh) * 2018-12-29 2019-05-10 武汉大学 一种对抗攻击样本扰动的去除方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104143078B (zh) * 2013-05-09 2016-08-24 腾讯科技（深圳）有限公司 活体人脸识别方法、装置和设备
CN108537271B (zh) * 2018-04-04 2021-02-05 重庆大学 一种基于卷积去噪自编码机防御对抗样本攻击的方法
CN109214327B (zh) * 2018-08-29 2021-08-03 浙江工业大学 一种基于pso的反人脸识别方法
CN110321790B (zh) * 2019-05-21 2023-05-12 华为技术有限公司 一种对抗样本的检测方法及电子设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108171215A (zh) * 2018-01-25 2018-06-15 河南大学 基于低秩变异字典和稀疏表示分类的人脸伪装检测及伪装类别检测方法
CN109740615A (zh) * 2018-12-29 2019-05-10 武汉大学 一种对抗攻击样本扰动的去除方法

Also Published As

Publication number Publication date
CN110321790A (zh) 2019-10-11
WO2020233564A1 (fr) 2020-11-26

Similar Documents

Publication Publication Date Title
CN110321790B (zh) 一种对抗样本的检测方法及电子设备
EP3859576B1 (fr) Procédé de gestion d'autorisation d'application et dispositif électronique
EP3882793A1 (fr) Procédé de commande de dispositif électronique et dispositif électronique
CN114553814B (zh) 处理推送消息的方法和装置
CN112085647B (zh) 一种人脸校正方法及电子设备
CN114528581A (zh) 一种安全显示方法及电子设备
CN115914461B (zh) 位置关系识别方法和电子设备
CN116669020B (zh) 一种密码管理方法、系统和电子设备
CN116048831B (zh) 一种目标信号处理方法和电子设备
CN116051351B (zh) 一种特效处理方法和电子设备
CN113496477A (zh) 屏幕检测方法及电子设备
CN116305093B (zh) 小应用程序的操作方法和电子设备
CN114157412B (zh) 信息验证的方法、电子设备及计算机可读存储介质
CN113676440B (zh) 通信过程中的权限协商方法、装置和电子设备
CN116527266A (zh) 数据归集方法及相关设备
CN115865406A (zh) 通信过程中的权限协商方法、装置和电子设备
CN115792431B (zh) 一种异常位置检测方法和电子设备
US20240233933A1 (en) Contact tracing method and related device
CN116233599B (zh) 一种录像模式推荐方法和电子设备
CN117234351B (zh) 触控处理方法、终端设备以及存储介质
CN115016666B (zh) 触控处理方法、终端设备以及存储介质
CN115495716B (zh) 一种本地鉴权方法和电子设备
CN114329595B (zh) 应用程序的检测方法、设备、存储介质和程序产品
CN114205318B (zh) 头像显示方法及电子设备
EP4394636A1 (fr) Procédé d?affichage d?application, dispositif électronique et support de stockage

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant