CN114647824B - 一种神经网络主动保护方法、系统、存储介质及计算设备 - Google Patents

一种神经网络主动保护方法、系统、存储介质及计算设备 Download PDF

Info

Publication number
CN114647824B
CN114647824B CN202210559415.7A CN202210559415A CN114647824B CN 114647824 B CN114647824 B CN 114647824B CN 202210559415 A CN202210559415 A CN 202210559415A CN 114647824 B CN114647824 B CN 114647824B
Authority
CN
China
Prior art keywords
comparison
network model
watermark
model layer
watermarks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210559415.7A
Other languages
English (en)
Other versions
CN114647824A (zh
Inventor
陈先意
孟宇航
刘宇
颜凯
何俊杰
张广星
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Qisheng Yutu Information Technology Co ltd
Nanjing University of Information Science and Technology
Original Assignee
Nanjing Qisheng Yutu Information Technology Co ltd
Nanjing University of Information Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Qisheng Yutu Information Technology Co ltd, Nanjing University of Information Science and Technology filed Critical Nanjing Qisheng Yutu Information Technology Co ltd
Priority to CN202210559415.7A priority Critical patent/CN114647824B/zh
Publication of CN114647824A publication Critical patent/CN114647824A/zh
Application granted granted Critical
Publication of CN114647824B publication Critical patent/CN114647824B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/16—Program or content traceability, e.g. by watermarking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/106—Enforcing content protection by specific content processing
    • G06F21/1063—Personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/12—Protecting executable software
    • G06F21/121—Restricting unauthorised execution of programs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Technology Law (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Storage Device Security (AREA)

Abstract

本发明公开了一种神经网络主动保护方法、系统、存储介质及计算设备，本发明在网络模型层运算之前，从分配给网络模型和用户的水印从提取与层数匹配的第一比对水印和第二比对水印，并进行第一比对水印和第二比对水印的比对，根据比对结果输入正确或错误的运算数据，从而实现了神经网络主动保护。

Description

一种神经网络主动保护方法、系统、存储介质及计算设备
技术领域
本发明涉及一种神经网络主动保护方法、系统、存储介质及计算设备，属于计算机科学与技术领域。
背景技术
随着人工智能的飞速发展，基于神经网络技术应用到各种产品中，如人脸识别、目标跟踪、智能分类等。对于神经网络的保护成为越来越重要的问题，恶意用户为了获得高性能模型可能会非法复制、重新分发、滥用模型，或未经许可使用模型提供预测，这对模型安全造成巨大威胁。传统的保护方法为在发生版权纠纷后的被动验证方法，目前缺少神经网络主动保护方法。
发明内容
本发明提供了一种神经网络主动保护方法、系统、存储介质及计算设备，解决了背景技术中披露的问题。
为了解决上述技术问题，本发明所采用的技术方案是：
一种神经网络主动保护方法，包括：
在预设网络模型层运算之前，根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，将第一比对水印和第二比对水印进行比对；
若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据。
网络模型中预设若干个网络模型层，每个预设网络模型层运算之前均进行水印比对；分配给网络模型和用户的水印长度等于最深的预设网络模型层的层数减一。
水印为数值序列；根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，包括：
根据预设网络模型层的层数A，从预先分配给网络模型的水印中提取前A-1个数值作为第一比对水印；
根据预设网络模型层的层数A，从预先分配给用户的水印中提取前A-1个数值作为第二比对水印。
将第一比对水印和第二比对水印进行比对，包括：
采用异或函数，计算第一比对水印和第二比对水印的差异值；
将差异值输入S型生长曲线函数，获得比对结果。
第一比对水印和第二比对水印的差异值计算公式为：
Figure 341576DEST_PATH_IMAGE001
其中，sum为差异值，
Figure 342243DEST_PATH_IMAGE002
为构成第一比对水印的数值，
Figure 829987DEST_PATH_IMAGE003
为构成第二比对水印的数值，i为第一比对水印和第二比对水印中数值 的总数，i=A-1，
Figure 623148DEST_PATH_IMAGE004
为异或函数。
S型生长曲线函数公式为：
Figure 784483DEST_PATH_IMAGE005
其中，out为比对结果，sum为差异值。
若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据，包括：
若比对结果一致，将比对结果与预设网络模型层的原运算数据相乘获得正确的运算数据，给预设网络模型层输入正确的运算数据；若比对结果不一致，将比对结果与预设网络模型层的原运算数据相乘获得错误的运算数据，给预设网络模型层输入错误的运算数据。
一种神经网络主动保护系统，包括：
比对模块：在预设网络模型层运算之前，根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，将第一比对水印和第二比对水印进行比对；
结果模块：若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据。
一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序包括指令，所述指令当由计算设备执行时，使得所述计算设备执行神经网络主动保护方法。
一种计算设备，包括一个或多个处理器、一个或多个存储器以及一个或多个程序，其中一个或多个程序存储在所述一个或多个存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于执行神经网络主动保护方法的指令。
本发明所达到的有益效果：本发明在网络模型层运算之前，从分配给网络模型和用户的水印从提取与层数匹配的第一比对水印和第二比对水印，并进行第一比对水印和第二比对水印的比对，根据比对结果输入正确或错误的运算数据，从而实现了神经网络主动保护。
附图说明
图1为本发明方法的流程图；
图2为本发明方法实施的框架图。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
一种神经网络主动保护方法，包括以下步骤：
步骤1，在预设网络模型层运算之前，根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，将第一比对水印和第二比对水印进行比对；
步骤2，若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据。
上述方法在网络模型层运算之前，从分配给网络模型和用户的水印从提取与层数匹配的第一比对水印和第二比对水印，并进行第一比对水印和第二比对水印的比对，根据比对结果输入正确或错误的运算数据，从而实现了神经网络主动保护。
网络模型（神经网络模型）中有好多层，如Conv层、FC层等，可以预设若干个网络模型层，即这些预设的层在运算之前均需要进行水印比对。
在进行主动保护之前，需要给网络模型分配水印，同时给用户分配水印，分配给网络模型和用户的水印长度等于最深的预设网络模型层的层数减一。如假设网络模型中的预设层为2、5、…、i+1，那么最深的预设网络模型层的层数为i+1，那么水印的长度为i。
这里的水印采用的是数值序列，每个数值为0或1，因此分配给网络模型的水印可 表示为
Figure 213059DEST_PATH_IMAGE006
，分配给用户的水印可表示为
Figure 100DEST_PATH_IMAGE007
。
在某一预设网络模型层运算之前，需要根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，假设该预设网络模型层的层数为A，那么提取过程可以为：
11）根据预设网络模型层的层数A，从预先分配给网络模型的水印中提取前A-1个 数值作为第一比对水印；如
Figure 876527DEST_PATH_IMAGE008
，A=5，那么提取的第一比对水印为
Figure 116753DEST_PATH_IMAGE009
，如
Figure 289019DEST_PATH_IMAGE010
，A=6，那么提取的第一比对水印为
Figure 492467DEST_PATH_IMAGE011
。
12）根据预设网络模型层的层数A，从预先分配给用户的水印中提取前A-1个数值 作为第二比对水印；如
Figure 675930DEST_PATH_IMAGE012
，A=5，那么提取的第二比对水印为
Figure 555900DEST_PATH_IMAGE013
，如
Figure 284034DEST_PATH_IMAGE014
，A=6，那么提取的第二比对水印为
Figure 806020DEST_PATH_IMAGE015
。
提取出第一比对水印和第二比对水印后，采用异或函数，计算第一比对水印和第二比对水印的差异值，具体公式可以如下：
Figure 116146DEST_PATH_IMAGE001
其中，sum为差异值，
Figure 494912DEST_PATH_IMAGE002
为构成第一比对水印的数值，
Figure 165803DEST_PATH_IMAGE003
为构成第二比对水印的数值，i为第一比对水印和第二比对水印中数值 的总数，i=A-1，
Figure 678430DEST_PATH_IMAGE004
为异或函数；
然后将将差异值输入改进的S型生长曲线函数，获得比对结果；其中，改进的S型生长曲线函数公式为：
Figure 26366DEST_PATH_IMAGE005
其中，out为比对结果。
如果out为1，那么表明第一比对水印和第二比对水印一致，即比对结果一致，将比对结果与预设网络模型层的原运算数据相乘，即给预设网络模型层输入原运算数据；其中原运算数据是准确的数据，因此网络模型层的运算可获得正确的结果，即网络模型层可正常运算。
反之如果out不为1，如为0.32等，那么表明第一比对水印和第二比对水印不一致，即比对结果不一致，将比对结果与预设网络模型层的原运算数据相乘，即给预设网络模型层输入错误运算数据，网络模型层的运算只能获得错误的结果，即网络模型层无法正常运算，从而实现神经网络主动保护。
上述方法将比对水印与预设网络模型层层数匹配，可以大大降低前期比对计算量。
以图像分类网络为例，使用的分类网络是Lenet网络，使用Minist数据集原运算数据X，上述方法的具体流程如图2所示：
1）随机生成水印
Figure 310455DEST_PATH_IMAGE016
，将其分配给需要保护的网络模型，给授 权用户分配水印
Figure 154127DEST_PATH_IMAGE017
，预设的网络模型层为lenet网络的第3层；
2）提取的第一比对水印为
Figure 267183DEST_PATH_IMAGE018
，提取的第二比对水印为
Figure 224554DEST_PATH_IMAGE019
；
3）采用异或函数，计算第一比对水印和第二比对水印的差异值，
Figure 666162DEST_PATH_IMAGE020
；
4）将0输入
Figure 980819DEST_PATH_IMAGE021
，得到out=1，即两者一致；
5）计算
Figure 772932DEST_PATH_IMAGE022
，得到
Figure 718629DEST_PATH_IMAGE023
；
6）将X 输入lenet网络的第3层，lenet网络的第3层输出正确。
若未授权用户模拟输入伪造水印
Figure 547783DEST_PATH_IMAGE024
，那么第二比对水印为
Figure 995076DEST_PATH_IMAGE025
，
Figure 768645DEST_PATH_IMAGE026
，
Figure 693482DEST_PATH_IMAGE027
，因此lenet网络第3层 输入的数据不是X，即输入错误。
上述预设的网络模型层可以根据实际情况随意设定，如图2所示，可以在不同层之间设置上述方法，由于不同层之间，每一次匹配的水印是不同的，即使遭受到攻击者的恶意攻击，也很破解每一层的不同水印。上述方法可以运用至各种类型的神经网络中去，可以参与网络的训练过程或者是直接应用到已经训练的模型中。
上述方法可以更加高效的使得授权用户使用到正确的神经网络的功能，而未经授权的用户无法正确使用神经网络功能。有效地解决了传统方法只能在发生版权纠纷后的被动验证，更快速高效地主动保护了神经网络的安全。
基于相同的技术方案，本发明还公开了上述方法的软件系统，一种神经网络主动保护系统，包括：
比对模块：在预设网络模型层运算之前，根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，将第一比对水印和第二比对水印进行比对。
结果模块：若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据。
上述软件系统各模块的数据处理流程与方法的一致，这里不重复描述了。
基于相同的技术方案，本发明还公开了一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序包括指令，所述指令当由计算设备执行时，使得所述计算设备执行神经网络主动保护方法。
基于相同的技术方案，本发明还公开了一种计算设备，包括一个或多个处理器、一个或多个存储器以及一个或多个程序，其中一个或多个程序存储在所述一个或多个存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于执行神经网络主动保护方法的指令。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
以上仅为本发明的实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均包含在申请待批的本发明的权利要求范围之内。

Claims (8)

1.一种神经网络主动保护方法，其特征在于，包括：
在预设网络模型层运算之前，根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，将第一比对水印和第二比对水印进行比对；
其中，水印为数值序列；根据预设网络模型层的层数A，从预先分配给网络模型的水印中提取前A-1个数值作为第一比对水印；根据预设网络模型层的层数A，从预先分配给用户的水印中提取前A-1个数值作为第二比对水印；
采用异或函数，计算第一比对水印和第二比对水印的差异值；将差异值输入S型生长曲线函数，获得比对结果；
若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据。
2.根据权利要求1所述的一种神经网络主动保护方法，其特征在于，网络模型中预设若干个网络模型层，每个预设网络模型层运算之前均进行水印比对；分配给网络模型和用户的水印长度等于最深的预设网络模型层的层数减一。
3.根据权利要求1所述的一种神经网络主动保护方法，其特征在于，第一比对水印和第二比对水印的差异值计算公式为：
Figure DEST_PATH_IMAGE001
其中，sum为差异值，
Figure 55005DEST_PATH_IMAGE002
为构成第一比对水印的数值，
Figure DEST_PATH_IMAGE003
为构成第二比对水印的数值，i为第一比对水印和第二比对水印中数值 的总数，i=A-1，
Figure 111167DEST_PATH_IMAGE004
为异或函数。
4.根据权利要求1所述的一种神经网络主动保护方法，其特征在于，S型生长曲线函数公式为：
Figure DEST_PATH_IMAGE005
其中，out为比对结果，sum为差异值。
5.根据权利要求1所述的一种神经网络主动保护方法，其特征在于，若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据，包括：
若比对结果一致，将比对结果与预设网络模型层的原运算数据相乘获得正确的运算数据，给预设网络模型层输入正确的运算数据；若比对结果不一致，将比对结果与预设网络模型层的原运算数据相乘获得错误的运算数据，给预设网络模型层输入错误的运算数据。
6.一种神经网络主动保护系统，其特征在于，包括：
比对模块：在预设网络模型层运算之前，根据预设网络模型层的层数，从预先分配给网络模型的水印中提取出第一比对水印，从预先分配给用户的水印中提取出第二比对水印，将第一比对水印和第二比对水印进行比对；
其中，水印为数值序列；根据预设网络模型层的层数A，从预先分配给网络模型的水印中提取前A-1个数值作为第一比对水印；根据预设网络模型层的层数A，从预先分配给用户的水印中提取前A-1个数值作为第二比对水印；
采用异或函数，计算第一比对水印和第二比对水印的差异值；将差异值输入S型生长曲线函数，获得比对结果；
结果模块：若比对结果一致，给预设网络模型层输入正确的运算数据；若比对结果不一致，给预设网络模型层输入错误的运算数据。
7.一种存储一个或多个程序的计算机可读存储介质，其特征在于，所述一个或多个程序包括指令，所述指令当由计算设备执行时，使得所述计算设备执行根据权利要求1至5所述的方法中的任一方法。
8.一种计算设备，其特征在于，包括：
一个或多个处理器、一个或多个存储器以及一个或多个程序，其中一个或多个程序存储在所述一个或多个存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于执行根据权利要求1至5所述的方法中的任一方法的指令。
CN202210559415.7A 2022-05-23 2022-05-23 一种神经网络主动保护方法、系统、存储介质及计算设备 Active CN114647824B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210559415.7A CN114647824B (zh) 2022-05-23 2022-05-23 一种神经网络主动保护方法、系统、存储介质及计算设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210559415.7A CN114647824B (zh) 2022-05-23 2022-05-23 一种神经网络主动保护方法、系统、存储介质及计算设备

Publications (2)

Publication Number Publication Date
CN114647824A CN114647824A (zh) 2022-06-21
CN114647824B true CN114647824B (zh) 2022-09-23

Family

ID=81997037

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210559415.7A Active CN114647824B (zh) 2022-05-23 2022-05-23 一种神经网络主动保护方法、系统、存储介质及计算设备

Country Status (1)

Country Link
CN (1) CN114647824B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114862650B (zh) * 2022-06-30 2022-09-23 南京信息工程大学 一种神经网络水印嵌入方法以及验证方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103065278B (zh) * 2012-12-24 2015-08-05 南京师范大学 一种针对shp线面图层完整性的多级认证方法
CN112750064A (zh) * 2019-10-29 2021-05-04 阿里巴巴集团控股有限公司 一种水印信息嵌入方法以及装置
CN112613001A (zh) * 2020-12-21 2021-04-06 中国科学技术大学 通过可逆水印实现卷积神经网络完整性认证的方法
CN113379584B (zh) * 2021-06-10 2023-10-31 大连海事大学 一种基于残差学习的不可感知水印攻击方法、存储介质及电子装置

Also Published As

Publication number Publication date
CN114647824A (zh) 2022-06-21

Similar Documents

Publication Publication Date Title
Darvish Rouhani et al. Deepsigns: An end-to-end watermarking framework for ownership protection of deep neural networks
Tobisch et al. On the scaling of machine learning attacks on PUFs with application to noise bifurcation
CN111967609B (zh) 模型参数验证方法、设备及可读存储介质
Shavit What does it take to catch a Chinchilla? Verifying rules on large-scale neural network training via compute monitoring
Zhang et al. A survey on privacy inference attacks and defenses in cloud-based deep neural network
CN114647824B (zh) 一种神经网络主动保护方法、系统、存储介质及计算设备
Shao et al. Fedtracker: Furnishing ownership verification and traceability for federated learning model
Chen et al. You are caught stealing my winning lottery ticket! making a lottery ticket claim its ownership
Iftikhar et al. A reversible watermarking technique for social network data sets for enabling data trust in cyber, physical, and social computing
Li et al. Secure watermark for deep neural networks with multi-task learning
Lou et al. Ownership verification of dnn architectures via hardware cache side channels
KR102301295B1 (ko) 모델 추출 공격에 대한 인공신경망 워터마킹의 안전성 평가 방법
CN115277065B (zh) 一种物联网异常流量检测中的对抗攻击方法及装置
TWI814213B (zh) 資料中毒方法及裝置
Xue et al. ActiveGuard: Active intellectual property protection for Deep Neural Networks via adversarial examples based user fingerprinting
Cheng et al. DeepDIST: A Black-Box Anti-Collusion Framework for Secure Distribution of Deep Models
Xu et al. Hufu: A Modality-Agnositc Watermarking System for Pre-Trained Transformers via Permutation Equivariance
Cui et al. Steganographic Passport: An Owner and User Verifiable Credential for Deep Model IP Protection Without Retraining
Li et al. PIPP: A Practical PUF-Based Intellectual Property Protection Scheme for DNN Model on FPGA
CN112733173A (zh) 图像处理、密钥生成、训练方法及装置、计算机可读介质
Gu Watermark Removal Scheme Based on Neural Network Model Pruning
Wang et al. Template Protection based on Chaotic Map and DNA Encoding for Multimodal Biometrics at Feature Level Fusion.
Meyers et al. Remote Identification of Neural Network FPGA Accelerators by Power Fingerprints
US20230101547A1 (en) Method of preventing capture of an ai module and an ai system thereof
CN114880642B (zh) 神经网络分发加密及其抗合谋攻击方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant