CN110378140B - 验证深度神经网络模型归属的方法、装置和系统 - Google Patents
验证深度神经网络模型归属的方法、装置和系统 Download PDFInfo
- Publication number
- CN110378140B CN110378140B CN201910687802.7A CN201910687802A CN110378140B CN 110378140 B CN110378140 B CN 110378140B CN 201910687802 A CN201910687802 A CN 201910687802A CN 110378140 B CN110378140 B CN 110378140B
- Authority
- CN
- China
- Prior art keywords
- neural network
- deep neural
- network model
- preset
- verification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003062 neural network model Methods 0.000 title claims abstract description 207
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000012795 verification Methods 0.000 claims abstract description 167
- 239000013598 vector Substances 0.000 claims abstract description 123
- 238000012549 training Methods 0.000 claims description 30
- 238000004590 computer program Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 description 21
- 238000004891 communication Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003340 mental effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioethics (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Storage Device Security (AREA)
Abstract
本发明公开了一种验证深度神经网络模型归属的方法,包括:将待测数据输入目标深度神经网络模型,获得预设目标向量;利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;输出所述模型序列号;在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。本发明还公开了一种验证深度神经网络模型归属的装置和系统。本发明实现了验证深度神经网络模型归属方法的高保密性。
Description
技术领域
本发明涉及神经网络领域,尤其涉及一种验证深度神经网络模型归属的方法、装置和系统。
背景技术
深度神经网络作为人工智能服务的重要组成部分,已经在数据分析、语音识别以及自然处理等方面取得了巨大的成功。训练一个生产级深度学习模型需要大量的数据、计算资源、专业知识以及脑力劳动,因此有必要设计一项技术来对模型的归属权进行验证以此来保护模型的知识产权。
2017年日本东京国家信息研究所首次提出了数字水印技术,是模型保护的一次明确的进步。该方法通过在神经网络的参数中嵌入水印信息,在验证时通过模型输出的水印信息进行模型的归属权验证。该技术仅允许从本地和完全访问的网络中提取水印,这导致其白盒限制。
随后,一些支持远程认证的水印方法被提出,如零位水印算法(EL Merrer)和数字水印算法(IBM)。两者都可以通过服务API达到远程验证。然而,这些算法只对在线部署的模型有一定保护作用。当模型用于内部使用时,水印无法被检测。且这些算法一般只有模型验证阶段是远程操作,攻击者可以直接阻断该操作请求,阻止验证者的模型检验。在这些情况下,远程验证水印算法将失去效用,模型归属权也因此无从验证。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供一种验证深度神经网络模型归属的方法、装置和系统,旨在解决现有的模型验证方法存在安全性不高的问题。
为实现上述目的,本发明提供一种验证深度神经网络模型归属的方法,包括:将待测数据输入目标深度神经网络模型,获得预设目标向量;利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;输出所述模型序列号;在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
可选地,所述利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号,具体包括:利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号和公钥;所述在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果,具体包括:在接收到用户发出的验证指令时,利用预设加解密算法根据所述模型序列号、所述公钥和所述预设目标向量进行解密,以获得验证结果。
可选地,所述将待测数据输入目标深度神经网络模型,获得预设目标向量的步骤之前,所述验证深度神经网络模型归属的方法还包括:获取验证数据集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;将所述验证集作为输入,将所述预设目标向量作为输出,对预设深度神经网络模型进行训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预设目标向量。
可选地,所述将待测数据输入目标深度神经网络模型,获得预设目标向量,具体包括:将待测数据输入目标深度神经网络模型,获得分类结果和预设目标向量;所述输出所述模型序列号,具体包括:输出所述分类结果和所述模型序列号。
可选地,所述将待测数据输入目标深度神经网络模型,获得预设目标向量的步骤之前,所述验证深度神经网络模型归属的方法还包括:获取分类数据集和验证数据集,所述分类数据集包括预测集和与所述预测集对应的预测结果集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量;对所述预设目标向量进行加密,生成所述目标深度神经网络模型的模型序列号。
可选地,所述利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量,具体包括:分别将所述预测集作为输入、将所述预测结果集作为与所述预测集对应的输出,以及将所述验证集作为输入、将所述预设目标向量作为与所述验证集对应的输出,对所述预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型;加载所述目标深度神经网络模型,分别将所述预测集和所述验证集输入所述目标深度神经网络模型,获得目标深度神经网络模型返回的预测结果集和预设目标向量。
此外,为实现上述目的,本发明还提供一种验证深度神经网络模型归属的装置,所述验证深度神经网络模型归属的装置包括:输入模块,用于将待测数据输入目标深度神经网络模型,获得预设目标向量;加密模块,用于利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;输出模块,用于输出所述模型序列号;验证模块,用于在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
此外,为实现上述目的,本发明还提供一种验证深度神经网络模型归属的系统,所述验证深度神经网络模型归属的系统包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上述的验证深度神经网络模型归属的方法的步骤。
此外,为实现上述目的,本发明还提供一种存储介质,所述存储介质上存储有验证深度神经网络模型归属的程序,所述验证深度神经网络模型归属的程序被处理器执行时实现如上述的验证深度神经网络模型归属的方法的步骤。
本发明实施例提出的一种验证深度神经网络模型归属的方法、装置和系统,通过将待测数据输入目标深度神经网络模型,获得预设目标向量,并利用预设加解密算法对所述预设目标向量进行加密,生成并输出模型序列号,在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果,验证过程不需要通过用户输入特殊的参数来对模型进行验证,预设目标向量并不对所有用户公开,只需要利用预设加解密算法对对加密后生成的公开的模型序列号进行解密验证即可验证模型归属,不需要公开预设目标向量即可验证模型归属,使得预设目标向量难以被泄露,且模型序列号的生成基于预设加解密算法,难以被修改或破解,实现了验证深度神经网络模型归属方法的高保密性。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的终端结构示意图;
图2为本发明验证深度神经网络模型归属的方法第一实施例的流程示意图;
图3为本发明验证深度神经网络模型归属的方法第二实施例的步骤S202之前的步骤的流程示意图;
图4为本发明验证深度神经网络模型归属的方法第三实施例的步骤S202之前的步骤的流程示意图;
图5为本发明验证深度神经网络模型归属的方法第三实施例的步骤S404的细化流程示意图;
图6为本发明验证深度神经网络模型归属的装置的结构框图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,图1是本发明实施例方案涉及的硬件运行环境的终端结构示意图。
本发明实施例终端可以是PC,也可以是智能手机、平板电脑、电子书阅读器、MP3(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)播放器、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面3)播放器、便携计算机等具有显示功能的可移动式终端设备。
如图1所示,该终端可以包括:处理器1001,例如CPU,网络接口1004,用户接口1003,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
可选地,终端还可以包括摄像头、RF(Radio Frequency,射频)电路,传感器、音频电路、WiFi模块等等。其中,传感器比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示屏的亮度,接近传感器可在移动终端移动到耳边时,关闭显示屏和/或背光。作为运动传感器的一种,重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别移动终端姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;当然,移动终端还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
本领域技术人员可以理解,图1中示出的终端结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及验证深度神经网络模型归属的程序。
在图1所示的终端中,网络接口1004主要用于连接后台服务器,与后台服务器进行数据通信;用户接口1003主要用于连接客户端(用户端),与客户端进行数据通信;而处理器1001可以用于调用存储器1005中存储的验证深度神经网络模型归属的程序,并执行以下操作:将待测数据输入目标深度神经网络模型,获得预设目标向量;利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;输出所述模型序列号;在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
可选地,所述利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号,具体包括:利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号和公钥;所述在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果,具体包括:在接收到用户发出的验证指令时,利用预设加解密算法根据所述模型序列号、所述公钥和所述预设目标向量进行解密,以获得验证结果。
可选地,所述将待测数据输入目标深度神经网络模型,获得预设目标向量的步骤之前,所述验证深度神经网络模型归属的方法还包括:获取验证数据集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;将所述验证集作为输入,将所述预设目标向量作为输出,对预设深度神经网络模型进行训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预设目标向量。
可选地,所述将待测数据输入目标深度神经网络模型,获得预设目标向量,具体包括:将待测数据输入目标深度神经网络模型,获得分类结果和预设目标向量;所述输出所述模型序列号,具体包括:输出所述分类结果和所述模型序列号。
可选地,所述将待测数据输入目标深度神经网络模型,获得预设目标向量的步骤之前,所述验证深度神经网络模型归属的方法还包括:获取分类数据集和验证数据集,所述分类数据集包括预测集和与所述预测集对应的预测结果集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量;对所述预设目标向量进行加密,生成所述目标深度神经网络模型的模型序列号。
可选地,所述利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量,具体包括:分别将所述预测集作为输入、将所述预测结果集作为与所述预测集对应的输出,以及将所述验证集作为输入、将所述预设目标向量作为与所述验证集对应的输出,对所述预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型;加载所述目标深度神经网络模型,分别将所述预测集和所述验证集输入所述目标深度神经网络模型,获得目标深度神经网络模型返回的预测结果集和预设目标向量。
参照图2,一种验证深度神经网络模型归属的方法第一实施例,所述验证深度神经网络模型归属的方法包括:
步骤S202,将待测数据输入目标深度神经网络模型,获得预设目标向量;
本实施例中,待测数据为图片。在其他实施例中,待测数据还可以是文字以及音频信号等,本发明实施例并不对待测数据的类型作限定。目标深度神经网络模型为预先训练好的模型。其中,预设目标向量为预先设定的目标深度神经网络模型的输出,在向目标深度神经网络模型输入待测数据时,目标深度神经网络模型会输出该预设目标向量,其中,待测数据可以是提前定义的验证数据集。本实施例中,预设目标向量为对预设数据串进行编码后生成。其中,预设数据串为预先设置的唯一数据串。预设数据串可以是字符串,例如A1B2C。
步骤S204,利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;
具体地,终端利用预设加解密算法对预设目标向量进行加密,生成模型序列号和验证公钥。本实施例中,预设加解密算法为椭圆曲线加解密算法,模型序列号为字符串。
步骤S206,输出所述模型序列号;
终端将模型序列号打印输出至终端的显示屏,以供用户阅览。
步骤S208,在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
其中,验证指令为验证目标深度神经网络模型归属权的指令。在用户需要对目标深度神经网络模型进行归属验证时,通过终端的输入设备发出验证指令。终端利用预设加解密算法对模型序列号进行解密,获得验证结果。具体地,在接收到用户发出的验证指令时,利用预设加解密算法根据所模型序列号、验证公钥和所述预设目标向量进行解密,以获得验证结果。由于模型序列号为通过预设加解密算法加密生成,通过预设加解密算法对其解密验证时,验证通过,证明目标深度神经网络模型的归属。
在本实施例中,通过将待测数据输入目标深度神经网络模型,获得预设目标向量,并利用预设加解密算法对所述预设目标向量进行加密,生成并输出模型序列号,在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果,验证过程不需要通过用户输入特殊的参数来对模型进行验证,预设目标向量并不对所有用户公开,只需要利用预设加解密算法对对加密后生成的公开的模型序列号进行解密验证即可验证模型归属,不需要公开预设目标向量即可验证模型归属,使得预设目标向量难以被泄露,且模型序列号的生成基于预设加解密算法,难以被修改或破解,实现了验证深度神经网络模型归属方法的高保密性。
参照图3,一种验证深度神经网络模型归属的方法第二实施例,基于上述图2所示的实施例,所述步骤S202之前,所述验证深度神经网络模型归属的方法还包括:
步骤S302,获取验证数据集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;
其中,验证数据集为验证集和预设目标向量之间映射的集合。验证集为多个验证图片向量。验证图片向量为对验证图片进行编码后生成。多张验证图片具有相同的规格。本实施例中,验证图片具有相同的尺寸和灰度。多个验证图片向量均映射相同的预设目标向量。
步骤S304,将所述验证集作为输入,将所述预设目标向量作为输出,对预设深度神经网络模型进行训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预设目标向量。
本实施例中,在步骤S304之前,所述验证深度神经网络模型归属的方法还包括:根据验证数据集的输入和输出搭建预设深度神经网络模型。
具体地,终端将所述验证集作为输入,将所述预设目标向量作为输出,利用序列号损失函数和序列号优化器,搭建预设深度神经网络模型。其中,本实施例中,序列号损失函数为最小平方差损失函数,序列号优化器为梯度下降算法。终端根据验证数据集的大小定义输入层、卷积层、池化层、以及全连接层和softmax层,以构成预设深度神经网络模型。在其中一个实施例中,终端构建预设深度神经网络模型后,将预设深度神经网络模型进行存储。在需训练预设深度神经网络模型时,从存储路径中加载预设深度神经网络模型以对其进行训练。
进一步地,终端利用验证数据集对预设深度神经网络模型进行训练,获得目标深度神经网络模型,并获取最后一次训练时目标深度神经网络模型返回的预设目标向量。终端在接收到用户输入的待测数据时,执行步骤S202。
本实施例中,提供了为深度神经网络模型添加模型序列号的方法,以使在需验证目标深度神经网络模型的归属权时,目标深度神经网络模型能够输出模型序列号以供归属验证。
一种验证深度神经网络模型归属的方法第三实施例,基于上述图2所示的实施例,所述步骤S202具体包括:将待测数据输入目标深度神经网络模型,获得分类结果和预设目标向量;所述步骤S206具体包括:输出所述分类结果和所述模型序列号。
本实施例中,目标深度神经网络模型同时具备分类功能和生成序列号功能。终端将待测数据输入目标深度神经网络模型中,通过目标深度神经网络模型的处理,获得待测数据的分类结果和预设目标向量。具体地,在目标深度神经网络模型的处理进行处理后,获得结果向量和预设目标向量。进一步地,终端对结果向量进行解码后获得分类结果,并对预设目标向量进行加密后获得模型序列号。其中,分类结果和模型序列号具有相同的数据类型。例如分类结果和模型序列号均为字符串类型。
在其中一个实施例中,用户在使用目标深度神经网络模型的分类功能前,必须先通过模型的归属验证。即基于上述图2所示的实施例,在步骤S208之后,所述验证深度神经网络模型归属的方法还包括:将待测数据输入目标深度神经网络模型,获得分类结果和预设目标向量;利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;输出所述分类结果和所述模型序列号。本实施例提供的验证模型归属的功能具有很高的安全系数,难以被破解。
参照图4,在其中一个实施例中,步骤S202之前,所述验证深度神经网络模型归属的方法还包括:
步骤S402,获取分类数据集和验证数据集,所述分类数据集包括预测集和与所述预测集对应的预测结果集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;
其中,分类数据集为预测集和预测结果集之间映射的集合。预测集与验证集具有相同的数据类型。在其中一个实施例中,终端根据分类数据集创建验证数据集。具体地,终端创建与预测集相同数据类型的验证集,验证集与预测集的数据个数可以不同。将验证集中的各验证数据分别与预设目标向量相映射,组成验证数据集。本实施例中,预测集与验证集均为图片,预测集包括多张预测图片,验证集包括多张验证图片。其中,预测图片与验证图片具有相同的图片规格,例如具有相同的尺寸和灰度。在创建验证数据集时,对创建的验证图片进行尺寸调整及灰度化,以使创建的验证图片与预测图片具有相同的尺寸和灰度。本实施例中,终端利用reshape函数对验证图片进行尺寸调整。
步骤S404,利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量;
本实施例中,在步骤S404之前,所述验证深度神经网络模型归属的方法还包括:根据分类数据集和验证数据集的输入和输出搭建预设深度神经网络模型。
终端将预测集作为输入,将预测结果集作为预测集的输出,将验证集作为输入,将预设目标向量作为验证集的输出,利用分类损失函数和分类优化器,以及序列号损失函数和序列号优化器,搭建预设深度神经网络模型。其中,本实施例中,分类损失函数交叉熵损失函数,例如loss函数,分类优化器为Adadelta算法,序列号损失函数为最小平方差损失函数,序列号优化器为梯度下降算法。终端根据分类数据集和验证数据集的大小定义输入层、卷积层、池化层、以及全连接层和softmax层,以构成预设深度神经网络模型。在其中一个实施例中,终端构建预设深度神经网络模型后,将预设深度神经网络模型进行存储。在需训练预设深度神经网络模型时,从存储路径中加载预设深度神经网络模型以对其进行训练。
进一步地,终端利用分类数据集和验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型,并获取最后一次训练时目标深度神经网络模型返回的预测结果集和预设目标向量。
参照图5,在其中一个实施例中,步骤S404具体包括:
步骤S502,分别将所述预测集作为输入、将所述预测结果集作为与所述预测集对应的输出,以及将所述验证集作为输入、将所述预设目标向量作为与所述验证集对应的输出,对所述预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型;
终端将预测集作为输入、将预测结果集作为与预测集对应的输出,对预设深度神经网络模型进行训练;并将所述验证集作为输入、将预设目标向量作为与验证集对应的输出,对预设深度神经网络模型进行训练;重复上述训练过程,以完成交叉训练,获得目标深度神经网络模型并进行存储。
步骤S504,加载所述目标深度神经网络模型,分别将所述预测集和所述验证集输入所述目标深度神经网络模型,获得目标深度神经网络模型返回的预测结果集和预设目标向量。
终端从存储路径中加载目标深度神经网络模型,分别将预测集和验证集输入目标深度神经网络模型,获得目标深度神经网络模型返回的预测结果集和预设目标向量。
步骤S406,对所述预设目标向量进行加密,生成所述目标深度神经网络模型的模型序列号。
终端利用椭圆曲线加解密算法对预设目标向量进行加密,生成目标深度神经网络模型的模型序列号以及验证公钥。进一步地,在终端接收到用户的验证指令时,执行步骤S202。
本实施例中,目标深度神经网络模型同时具有分类功能和输出序列号功能,在对目标深度神经网络模型输入任意的待测数据时,能够同时输出分类结果和模型序列号,即在目标深度神经网络模型每一次使用分类功能时均可同时输出模型序列号以验证模型的归属,使得目标深度神经网络模型在拥有分类功能的同时还能够很好的对其进行归属验证,以保护模型的知识产权。
参照图6,一种验证深度神经网络模型归属的装置实施例,基于上述图2所示的实施例,所述验证深度神经网络模型归属的装置包括:
输入模块610,用于将待测数据输入目标深度神经网络模型,获得预设目标向量;
加密模块620,用于利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;
输出模块630,用于输出所述模型序列号;
验证模块640,用于在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
可选地,加密模块620,还用于利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号和公钥;验证模块640,还用于在接收到用户发出的验证指令时,利用预设加解密算法根据所述模型序列号、所述公钥和所述预设目标向量进行解密,以获得验证结果。
可选地,所述验证深度神经网络模型归属的装置还包括:训练模块,用于获取验证数据集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;将所述验证集作为输入,将所述预设目标向量作为输出,对预设深度神经网络模型进行训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预设目标向量。
可选地,输入模块610,还用于将待测数据输入目标深度神经网络模型,获得分类结果和预设目标向量;输出模块630,还用于输出所述分类结果和所述模型序列号。
可选地,所述验证深度神经网络模型归属的装置还包括:训练模块,用于获取分类数据集和验证数据集,所述分类数据集包括预测集和与所述预测集对应的预测结果集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量;对所述预设目标向量进行加密,生成所述目标深度神经网络模型的模型序列号。
可选地,训练模块,还用于分别将所述预测集作为输入、将所述预测结果集作为与所述预测集对应的输出,以及将所述验证集作为输入、将所述预设目标向量作为与所述验证集对应的输出,对所述预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型;加载所述目标深度神经网络模型,分别将所述预测集和所述验证集输入所述目标深度神经网络模型,获得目标深度神经网络模型返回的预测结果集和预设目标向量。
此外,本发明实施例还提出一种验证深度神经网络模型归属的系统,所述验证深度神经网络模型归属的系统包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上述任意一个验证深度神经网络模型归属的方法实施例的步骤。
此外,本发明实施例还提出一种存储介质,所述存储介质上存储有验证深度神经网络模型归属的程序,所述验证深度神经网络模型归属的程序被处理器执行时实现如上述任意一个验证深度神经网络模型归属的方法实施例的步骤。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种验证深度神经网络模型归属的方法,其特征在于,所述验证深度神经网络模型归属的方法包括以下步骤:
将待测数据输入目标深度神经网络模型,获得预设目标向量,所述预设目标向量为对预设数据串进行编码后生成;
利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;
输出所述模型序列号;
在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
2.如权利要求1所述的验证深度神经网络模型归属的方法,其特征在于,所述利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号,具体包括:
利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号和公钥;
所述在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果,具体包括:
在接收到用户发出的验证指令时,利用预设加解密算法根据所述模型序列号、所述公钥和所述预设目标向量进行解密,以获得验证结果。
3.如权利要求1所述的验证深度神经网络模型归属的方法,其特征在于,所述将待测数据输入目标深度神经网络模型,获得预设目标向量的步骤之前,所述验证深度神经网络模型归属的方法还包括:
获取验证数据集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;
将所述验证集作为输入,将所述预设目标向量作为输出,对预设深度神经网络模型进行训练,获得目标深度神经网络模型。
4.如权利要求1所述的验证深度神经网络模型归属的方法,其特征在于,所述将待测数据输入目标深度神经网络模型,获得预设目标向量,具体包括:
将待测数据输入目标深度神经网络模型,获得分类结果和预设目标向量;
所述输出所述模型序列号,具体包括:
输出所述分类结果和所述模型序列号。
5.如权利要求4所述的验证深度神经网络模型归属的方法,其特征在于,所述将待测数据输入目标深度神经网络模型,获得预设目标向量的步骤之前,所述验证深度神经网络模型归属的方法还包括:
获取分类数据集和验证数据集,所述分类数据集包括预测集和与所述预测集对应的预测结果集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;
利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量;
对所述预设目标向量进行加密,生成所述目标深度神经网络模型的模型序列号。
6.如权利要求5所述的验证深度神经网络模型归属的方法,其特征在于,所述利用所述分类数据集和所述验证数据集对预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预测结果集和预设目标向量,具体包括:
分别将所述预测集作为输入、将所述预测结果集作为与所述预测集对应的输出,以及将所述验证集作为输入、将所述预设目标向量作为与所述验证集对应的输出,对所述预设深度神经网络模型进行交叉训练,获得目标深度神经网络模型;
加载所述目标深度神经网络模型,分别将所述预测集和所述验证集输入所述目标深度神经网络模型,获得目标深度神经网络模型返回的预测结果集和预设目标向量。
7.一种验证深度神经网络模型归属的装置,其特征在于,所述验证深度神经网络模型归属的装置包括:
输入模块,用于将待测数据输入目标深度神经网络模型,获得预设目标向量,所述预设目标向量为对预设数据串进行编码后生成;
加密模块,用于利用预设加解密算法对所述预设目标向量进行加密,生成模型序列号;
输出模块,用于输出所述模型序列号;
验证模块,用于在接收到用户发出的验证指令时,利用预设加解密算法对所述模型序列号进行解密,以获得验证结果。
8.如权利要求7所述的验证深度神经网络模型归属的装置,其特征在于,所述验证深度神经网络模型归属的装置还包括:
训练模块,用于获取验证数据集,所述验证数据集包括验证集和与所述验证集对应的预设目标向量;将所述验证集作为输入,将所述预设目标向量作为输出,对预设深度神经网络模型进行训练,获得目标深度神经网络模型以及所述目标深度神经网络模型返回的预设目标向量。
9.一种验证深度神经网络模型归属的系统,其特征在于,所述验证深度神经网络模型归属的系统包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的验证深度神经网络模型归属的方法的步骤。
10.一种存储介质,其特征在于,所述存储介质上存储有验证深度神经网络模型归属的程序,所述验证深度神经网络模型归属的程序被处理器执行时实现如权利要求1至6中任一项所述的验证深度神经网络模型归属的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910687802.7A CN110378140B (zh) | 2019-07-26 | 2019-07-26 | 验证深度神经网络模型归属的方法、装置和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910687802.7A CN110378140B (zh) | 2019-07-26 | 2019-07-26 | 验证深度神经网络模型归属的方法、装置和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110378140A CN110378140A (zh) | 2019-10-25 |
CN110378140B true CN110378140B (zh) | 2021-05-18 |
Family
ID=68256608
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910687802.7A Expired - Fee Related CN110378140B (zh) | 2019-07-26 | 2019-07-26 | 验证深度神经网络模型归属的方法、装置和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110378140B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023164868A1 (en) * | 2022-03-03 | 2023-09-07 | Huawei Technologies Co., Ltd. | Methods, devices and systems for trustworthiness certification of inference requests and inference responses |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104484584A (zh) * | 2014-11-26 | 2015-04-01 | 厦门达天电子科技有限公司 | 一种基于三维打印设备的三维模型版权保护的方法 |
CN106598863A (zh) * | 2016-12-19 | 2017-04-26 | 广州视源电子科技股份有限公司 | 一种嵌入式软件版权验证的方法及装置 |
CN109977778A (zh) * | 2019-02-26 | 2019-07-05 | 河北泊松信息科技有限公司 | 物体三维数据传输存储展示过程中的安全保护方法及装置 |
CN110020402A (zh) * | 2019-05-05 | 2019-07-16 | 武汉轻工大学 | 变异函数套合模型参数估计方法、装置、设备及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100435162C (zh) * | 2006-04-18 | 2008-11-19 | 北京大学 | 数字产品中指纹的构造和验证方法及数字产品发行系统 |
US10162881B2 (en) * | 2017-01-17 | 2018-12-25 | Maana, Inc. | Machine-assisted key discovery and join generation |
CN107086910B (zh) * | 2017-03-24 | 2018-08-10 | 中国科学院计算技术研究所 | 一种针对神经网络处理的权重加解密方法和系统 |
US10068099B1 (en) * | 2018-01-19 | 2018-09-04 | Griffin Group Global, LLC | System and method for providing a data structure having different-scheme-derived portions |
CN108921769B (zh) * | 2018-07-11 | 2022-07-01 | 湖南师范大学 | 一种基于分层伪像分析的3d网格盲水印生成方法 |
CN109040091A (zh) * | 2018-08-17 | 2018-12-18 | 中科物栖(北京)科技有限责任公司 | 深度神经网络模型的加密方法及装置 |
-
2019
- 2019-07-26 CN CN201910687802.7A patent/CN110378140B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104484584A (zh) * | 2014-11-26 | 2015-04-01 | 厦门达天电子科技有限公司 | 一种基于三维打印设备的三维模型版权保护的方法 |
CN106598863A (zh) * | 2016-12-19 | 2017-04-26 | 广州视源电子科技股份有限公司 | 一种嵌入式软件版权验证的方法及装置 |
CN109977778A (zh) * | 2019-02-26 | 2019-07-05 | 河北泊松信息科技有限公司 | 物体三维数据传输存储展示过程中的安全保护方法及装置 |
CN110020402A (zh) * | 2019-05-05 | 2019-07-16 | 武汉轻工大学 | 变异函数套合模型参数估计方法、装置、设备及存储介质 |
Non-Patent Citations (3)
Title |
---|
Research on Authorship Attribution of Article Fragments via RNNs;Chen Zhao 等;《2018 IEEE 9th International Conference on Software Engineering and Service Science (ICSESS)》;20190311;全文 * |
一种基于图像的运动校正算法;杨琳 等;《通讯世界》;20150805;第2015卷(第3期);全文 * |
局部集的3D模型水印方法;张朝辉 等;《中国图象图形学报A》;20090805;第14卷(第7期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110378140A (zh) | 2019-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108665403B (zh) | 数字水印嵌入方法、提取方法、装置及数字水印系统 | |
CN109886417A (zh) | 基于联邦学习的模型参数训练方法、装置、设备及介质 | |
KR102079626B1 (ko) | 모바일 환경에서 생체 인증 기반 경량 상호 인증 프로토콜을 이용한 정보 은닉 시스템, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체 | |
CN111582505A (zh) | 联邦建模方法、装置、设备及计算机可读存储介质 | |
CN104980278B (zh) | 验证生物特征图像的可用性的方法和装置 | |
CN108769027B (zh) | 安全通信方法、装置、移动终端和存储介质 | |
CN105981398B (zh) | 用于提供内容安全功能的内容安全方法和电子设备 | |
CN102572314A (zh) | 图像传感器以及支付认证方法 | |
CN110738323B (zh) | 基于数据共享建立机器学习模型的方法和装置 | |
CN110796267A (zh) | 数据共享的机器学习方法和机器学习装置 | |
US20160253510A1 (en) | Method for security authentication and apparatus therefor | |
CN111833472B (zh) | 实时考勤方法、装置及计算机可读存储介质 | |
CN114244518B (zh) | 数字签名混淆加密方法、装置、计算机设备、存储介质 | |
CN106778295B (zh) | 文件存储、显示方法、装置及终端 | |
CN111343204B (zh) | 控制命令混淆方法、装置及计算机可读存储介质 | |
CN114362955A (zh) | 软件代码云端数字签名方法、系统、设备和存储介质 | |
CN110378140B (zh) | 验证深度神经网络模型归属的方法、装置和系统 | |
CN117978446A (zh) | 芯片通信传输加密方法、装置、计算机设备、存储介质 | |
CN111130805B (zh) | 安全传输方法、电子设备及计算机可读存储介质 | |
CN105847883A (zh) | 一种基于用户信任等级的节目流推送方法和装置 | |
CN115277197B (zh) | 模型所有权验证方法、电子设备、介质及程序产品 | |
CN110990848A (zh) | 基于hive数据仓库的敏感字加密方法及装置、存储介质 | |
CN114692121A (zh) | 信息获取方法及相关产品 | |
CN111131284B (zh) | 信息验证方法、装置、电子设备及计算机可读存储介质 | |
KR20180081469A (ko) | 경량암호 알고리즘 기반의 스마트 기기 내의 개인정보 및 콘텐츠 암복호화를 통한 정보 보안 시스템, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20210518 |