CN108629193A - 一种针对人工神经网络模型的加密保护系统及方法 - Google Patents

一种针对人工神经网络模型的加密保护系统及方法 Download PDF

Info

Publication number
CN108629193A
CN108629193A CN201810384928.2A CN201810384928A CN108629193A CN 108629193 A CN108629193 A CN 108629193A CN 201810384928 A CN201810384928 A CN 201810384928A CN 108629193 A CN108629193 A CN 108629193A
Authority
CN
China
Prior art keywords
data
module
distribution
network model
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810384928.2A
Other languages
English (en)
Other versions
CN108629193B (zh
Inventor
尹愚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Elephant Fractal Intelligent Technology Co Ltd
Original Assignee
Chengdu Elephant Fractal Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Elephant Fractal Intelligent Technology Co Ltd filed Critical Chengdu Elephant Fractal Intelligent Technology Co Ltd
Priority to CN201810384928.2A priority Critical patent/CN108629193B/zh
Publication of CN108629193A publication Critical patent/CN108629193A/zh
Application granted granted Critical
Publication of CN108629193B publication Critical patent/CN108629193B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioethics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Storage Device Security (AREA)

Abstract

本发明属于人工神经网络保护机制领域，特别涉及一种针对人工神经网络模型的加密保护系统及方法，包括数据输入模块、加密模块、加密数据输入模块、人工神经网络模型模块和数据输出模块，所述数据输入模块与加密模块信号相连，所述加密模块与加密数据输入模块信号相连，所述加密数据输入模块与人工神经网络模型模块信号相连，所述人工神经网络模型模块与数据输出模块信号相连。与现有技术相比，本发明可以在计算量无显著增加且保持人工神经网络性能的情况下，对人工神经网络模型嵌入保护性密码，使得在人工神经网络模型发布后，任何的复制、二次开发或修改均无法影响该保护性密码。

Description

一种针对人工神经网络模型的加密保护系统及方法
技术领域
本发明属于人工神经网络保护机制领域，特别涉及一种针对人工神经网络模型的加密保护系统及方法。
背景技术
深度学习是当前人工智能应用的主要技术方案。以深度学习技术所训练完成的人工神经网络模型是汇集了初始开发者智慧的劳动成果。但在发布和应用人工神经网络模型的过程中，其网络结构和节点权重会完全对外暴露。人工神经网络模型经发布和/或第三方应用后，容易被复制、二次开发或修改，导致初始开发者权益受损。现有技术中适用于人工神经网络模型的保护方案主要包括网络整体加密、训练数据加密及网络同态加密训练。
网络整体加密方案是对训练完成的网络模型进行加密发布，没有密钥则无法使用该网络模型。然而该加密方式仅仅是网络模型的二次封装，利用密钥解密网络模型后，仍可分析得到网络模型的结构和节点权重等核心信息，并能进行复制、传播、二次开发或修改，从而无法保护网络模型初始研发者的权益；
训练数据加密方案将训练数据转义，对映射后的数据进行网络训练，并将该映射方案用于网络模型后续使用，以保护网络模型的核心内容。该加密技术要求破坏数据内部统计规律以避免利用统计分析破解加密，而人工神经网络训练是基于训练数据的重要统计特征完成数据分类和预测，其本质是一种统计学习，因此与训练数据加密方案本质相矛盾，例如，采用MD5算法对数据进行现代高级加密，待训练数据的每个值不会产生唯一映射值，其内在统计特性会被破坏，因此不适于人工神经网络训练。而简单映射加密虽然可以维持数据内在统计特性，但容易由深度学习的大量训练数据分析出加密方式，使加密保护失败；
同态加密训练方案允许以特定方式修改加密信息而无需读懂加密信息，对经同态加密后的数据进行网络训练，能够保护网络模型的核心内容，且同态加密后的训练数据仍可保留其内部统计结构，以弥补训练数据加密方案的弱点。但该方案会导致计算量大量提升，并且由于同态加密各种算法具有不同程度的计算不完备性，造成某些数学运算无法直接实现，使大量已投入使用的人工神经网络训练方法无法实现，导致人工神经网络性能下降。
发明内容
针对现有人工神经网络保护机制的上述缺陷，本发明提供了一种针对人工神经网络模型的加密保护系统。
具体方案为：
一种针对人工神经网络模型的加密保护系统，其特征在于：包括数据输入模块、加密模块、加密数据输入模块、人工神经网络模型模块和数据输出模块，所述数据输入模块与加密模块信号相连，所述加密模块与加密数据输入模块信号相连，所述加密数据输入模块与人工神经网络模型模块信号相连，所述人工神经网络模型模块与数据输出模块信号相连。
进一步的，所述数据输入模块，用于向加密模块提供原始输入数据。
进一步的，所述加密模块，用于对数据输入模块提供的原始输入数据进行加密处理，输出加密输入数据；
所述加密模块由一组具有N位数字的密码组作为控制量，对数据输入模块提供的所有原始输入数据进行加密处理，以实现数据加密；所述密码组的长度由加密处理中的加密方式及加密要求所限定；所述密码组中的N位数字的每一位分别阿拉伯数字0-9之间的一个。
所述加密模块包括数据划分模块、数据处理模块和数据重组模块；所述数据划分模块将原始输入数据转换为二维结构，并将其划分为多个待处理的子块。其中，密码组中预设定的任意几位上的数字与子块划分数量及子块划分位置相关联；数据处理模块计算各个子块的数据均值及方差，定义其原始分布形式，将各个子块的数据的原始分布形式转换为标准正态分布形式，再根据密码组中预设定的其他几位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布的各子块的数据，分别转换为目标数据分布模型下的数值形式，其中，密码组中预设定的其他几位上的数字与该目标分布形式的特定均值和方差相关联；所述数据重组模块根据先前的子块划分方式，将经分布变换后的各个子块重构为二维结构，生成加密输入数据。
进一步的，所述加密数据输入模块，用于接收加密模块输出的加密输入数据，并将加密输入数据传输至人工神经网络模型模块。
进一步的，所述人工神经网络模型模块，用于接收加密输入数据，并且对加密输入数据进行运算；在训练阶段，人工神经网络模型模块通过正向网络计算与逆向误差传播计算实现人工神经网络的训练；在训练完成的使用阶段，人工神经网络模型模块通过正向网络计算得出结果。
进一步的，所述数据输出模块，用于将人工神经网络模型模块计算得出的结果进行输出处理。
进一步地，当数据划分模块将原始输入数据转换为二维结构时，当原始输入数据为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构。
进一步地，当数据处理模块将各个子块的数据从原始分布形式转换为标准正态分布时，对于呈正态分布的子块的数据，通过标准化变换将其转换为标准正态分布；对于呈非正态分布的子块的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布。
进一步地，目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种。
进一步地，N位数字的密码组中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，该可执行数值确定了子块划分数量、子块划分位置，及对应不同子块的目标分布模型所具有的特定均值及方差。
一种针对人工神经网络模型的加密保护方法，其特征在于：包括以下步骤：
A.提供原始输入数据；
S.对原始输入数据进行加密处理，生成加密输入数据；
B.将加密输入数据输入至人工神经网络模型，人工神经网络模型对加密输入数据进行计算，得出结果；
C.将计算所得结果进行输出。
所述步骤S具体包括：
S1.提供一组具有N位数字的密码组作为控制量，该密码组具体限定了针对原始输入数据的加密处理；其中，密码组的长度由加密处理中的加密方式及加密要求所限定；密码组的N位数字的每一位分别选自阿拉伯数字0-9之间的一个；
S2.将原始输入数据转换为二维结构，并将其划分为多个待处理的子块；其中，密码组中预设定的任意几位上的数字与子块划分数量及子块划分位置相关联，例如可选择密码组第1-2位上的数字关联至子块划分数量及子块划分位置。
进一步地，当原始输入数据为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构。
S3.计算各子块的数据均值和方差，定义其原始分布形式，再将各个子块的数据的原始分布形式转换为目标分布形式；
S4.将分别经过数据分布变换后的各子块，按照步骤S1中的划分方式，重新组合成与所述原始输入数据相同形式的二维结构，完成数据加密过程，由此生成加密输入数据。
进一步地，步骤S3中，将各个子块的数据的原始分布形式转换为目标分布形式时，首先将各个子块的数据的原始分布形式转换为标准正态分布形式，再根据密码组中预设定的其他几位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布的各子块的数据，分别转换为目标数据分布模型下的数值形式，由此得到经数据分布变换后的子块。
其中，密码组中预设定的其他几位上的数字与目标分布形式的特定均值和方差相关联，例如可选择密码组第3-N位上的数字与目标数据分布模型的特定均值和方差相关联。进一步地，例如对于每个需要进行数据分布模型转换的子块，密码组第3-4位上的数字与第一子块对应的目标数据分布模型的特定均值和方差相关联，密码组第5-6位上的数字与第二子块对应的目标数据分布模型的特定均值和方差相关联，以此类推。
进一步的，步骤S3中，对于呈正态分布的子块的数据，通过标准化变换将其转换为标准正态分布，对于呈非正态分布的子块的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布。
进一步地，步骤S3中，目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种。
进一步地，N位数字的密码组中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，该可执行数值确定了子块划分数量、子块划分位置，及对应不同子块的目标分布模型所具有的特定均值及方差。
本发明的优点在于：
本发明提供了一种针对人工神经网络模型的加密保护系统。与现有技术相比，本发明可以在计算量无显著增加且保持人工神经网络性能的情况下，对人工神经网络模型嵌入保护性密码，使得在人工神经网络模型发布后，任何的复制、二次开发或修改均无法影响该保护性密码。并且破坏该保护性密码会导致人工神经网络模型性能降低或无法做出有效输出，使得人工神经网络模型的研发者权益得以保护，对人工神经网络模型的使用和发布实现了技术可控。
附图说明
图1为本发明实施例提供的一种针对人工神经网络模型的加密保护系统的系统结构图。
图2为本发明实施例提供的一种针对人工神经网络模型的加密保护系统的加密模块的加密原理。
图3为本发明实施例提供的一种针对人工神经网络模型的加密保护系统的加密模块的密码组中每一位上的数字-可执行数值的映射关系。
图4为本发明实施例提供的一种针对人工神经网络模型的加密保护方法的方法流程图。
附图中：
一种针对人工神经网络模型的加密保护系统100，数据输入模块1，加密模块2，加密数据输入模块3，人工神经网络模型模块4，数据输出模块5。
具体实施方式
深度学习人工神经网络的核心思想是：利用梯度反向传播算法，调整人工神经网络权重，实现对已知输入数据集内含的某些特征，进行具备统计性质的归纳收敛，以达到对未知输入数据集进行识别和判断的目的。
人工神经网络的训练目标是让网络以迭代的方式，完成对已知输入数据集内含某种能实现对该数据集进行区别的非显式的特征组合的探索和统计。在输入数据进入网络训练前，可以进行一些特征工程操作，使经训练的人工神经网络具有更优的性能。本发明公开的一种针对人工神经网络模型的加密保护系统的加密步骤体现了上述特征工程操作。
在训练数据输入人工神经网络之前，对其进行白化处理或归一化操作，或者将训练数据转换为标准正态分布，理论上的目的是使后续人工神经网络训练能达到更好的收敛。虽然这些步骤在实际应用中对人工神经网络的收敛效果直接影响不大，但针对经转换的数据训练完成的人工神经网络，必须将后续输入数据进行相同的转换后再输入人工神经网络进行使用，否则结果差异巨大。
在本发明公开的一种针对人工神经网络模型的加密保护系统的加密步骤中，对输入数据采用类似归一化的统计变化。这样不会破坏输入数据内在的与识别特征相关的统计特性，并加入了额外特别定义的附加统计特性。这种统计特性会被人工神经网络的训练过程所习得，并嵌入在人工神经网络权重的某些无法直接探测到的位置。若后续的输入数据没有这个附加的统计特性，已经训练好的人工神经网络模型会产生错误判断。而本发明公开的加密保护系统在输入数据加入的附加统计特性仅略微增加了人工神经网络待整理和归纳的统计特征，但从测试数据和理论而言，这个由简单已知的数学方程制造出的额外的统计特征，对于人工神经网络是可以非常容易习得的。而由于反向传播算法，这些习得过程是对人工神经网络的全体权重参数的调整，因此是完全融合于人工神经网络中，无法单纯拆分出来的一部分。
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
实施例1
一种针对人工神经网络模型的加密保护系统包括数据输入模块1、加密模块2、加密数据输入模块3、人工神经网络模型模块4和数据输出模块5，所述数据输入模块1与加密模块2信号相连，所述加密模块2与加密数据输入模块3信号相连，所述加密数据输入模块3与人工神经网络模型模块4信号相连，所述人工神经网络模型模块4与数据输出模块5信号相连。
所述数据输入模块1，用于向加密模块2提供原始输入数据D。
所述加密模块2，用于对数据输入模块1提供的原始输入数据D进行加密处理，输出加密输入数据D，；所述加密模块2由一组具有N位数字的密码组S作为控制量，对数据输入模块1提供的所有原始输入数据D进行加密处理，以实现数据加密；所述密码组S的长度由加密处理中的加密方式及加密要求所限定；所述密码组S中的N位数字的每一位分别阿拉伯数字0-9之间的一个。所述加密模块2包括数据划分模块、数据处理模块和数据重组模块；所述数据划分模块将原始输入数据D转换为二维结构，并将其划分为多个待处理的子块。其中，密码组S中预设定的任意几位上的数字与子块划分数量及子块划分位置相关联；数据处理模块计算各个子块的数据均值及方差，定义其原始分布形式，将各个子块的数据的原始分布形式转换为标准正态分布形式，再根据密码组S中预设定的其他几位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布的各子块的数据，分别转换为目标数据分布模型下的数值形式，其中，密码组S中预设定的其他几位上的数字与该目标分布形式的特定均值和方差相关联；所述数据重组模块根据先前的子块划分方式，将经分布变换后的各个子块重构为二维结构，生成加密输入数据D，。
所述加密数据输入模块3，用于接收加密模块2输出的加密输入数据D，，并将加密输入数据D，传输至人工神经网络模型模块4。
所述人工神经网络模型模块4，用于接收加密输入数据D，，并且对加密输入数据D，进行运算；在训练阶段，人工神经网络模型模块4通过正向网络计算与逆向误差传播计算实现人工神经网络的训练；在训练完成的使用阶段，人工神经网络模型模块4通过正向网络计算得出结果。
所述数据输出模块5，用于将人工神经网络模型模块4计算得出的结果进行输出处理。
当数据划分模块将原始输入数据D转换为二维结构时，当原始输入数据D为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据D为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构。
当数据处理模块将各个子块的数据从原始分布形式转换为标准正态分布时，对于呈正态分布的子块的数据，通过标准化变换将其转换为标准正态分布；对于呈非正态分布的子块的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布。
目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种。
N位数字的密码组S中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，该可执行数值确定了子块划分数量、子块划分位置，及对应不同子块的目标分布模型所具有的特定均值及方差。
实施例2
一种针对人工神经网络模型的加密保护方法，其特征在于：包括以下步骤：
A.提供原始输入数据D；
S.对原始输入数据D进行加密处理，生成加密输入数据D，；
B.将加密输入数据D，输入至人工神经网络模型，人工神经网络模型对加密输入数据D，进行计算，得出结果；
C.将计算所得结果进行输出。
所述步骤S具体包括：
S1.提供一组具有N位数字的密码组S作为控制量，该密码组S具体限定了针对原始输入数据D的加密处理；其中，密码组S的长度由加密处理中的加密方式及加密要求所限定；密码组S的N位数字的每一位分别选自阿拉伯数字0-9之间的一个；
S2.将原始输入数据转换为二维结构，并将其划分为多个待处理的子块；其中，密码组S中预设定的任意几位上的数字与子块划分数量及子块划分位置相关联，例如可选择密码组S第1-2位上的数字关联至子块划分数量及子块划分位置。
进一步地，当原始输入数据D为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据D为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构。
S3.计算各子块的数据均值和方差，定义其原始分布形式，再将各个子块的数据的原始分布形式转换为目标分布形式。
将各个子块的数据的原始分布形式转换为目标分布形式时，首先将各个子块的数据的原始分布形式转换为标准正态分布形式，再根据密码组S中预设定的其他几位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布的各子块的数据，分别转换为目标数据分布模型下的数值形式，由此得到经数据分布变换后的子块。
其中，密码组S中预设定的其他几位上的数字与目标分布形式的特定均值和方差相关联，例如可选择密码组S第3-N位上的数字与目标数据分布模型的特定均值和方差相关联。进一步地，例如对于每个需要进行数据分布模型转换的子块，密码组S第3-4位上的数字与第一子块对应的目标数据分布模型的特定均值和方差相关联。，密码组S第5-6位上的数字与第二子块对应的目标数据分布模型的特定均值和方差相关联，以此类推。
对于呈正态分布的子块的数据，通过标准化变换将其转换为标准正态分布，对于呈非正态分布的子块的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布。
目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种。
N位数字的密码组S中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，该可执行数值确定了子块划分数量、子块划分位置，及对应不同子块的目标分布模型所具有的特定均值及方差。
S4.将分别经过数据分布变换后的各子块，按照步骤S1中的划分方式，重新组合成与所述原始输入数据相同形式的二维结构，完成数据加密过程，由此生成加密输入数据D，。
本发明提供了一种针对人工神经网络模型的加密保护系统。与现有技术相比，本发明可以在计算量无显著增加且保持人工神经网络性能的情况下，对人工神经网络模型嵌入保护性密码，使得在人工神经网络模型发布后，任何的复制、二次开发或修改均无法影响该保护性密码。并且破坏该保护性密码会导致人工神经网络模型性能降低或无法做出有效输出，使得人工神经网络模型的研发者权益得以保护，对人工神经网络模型的使用和发布实现了技术可控。
实施例3
一种针对人工神经网络模型的加密保护系统100的系统结构图参见说明书附图1，系统100包括加密模块2，加密模块2设于人工神经网络模型模块4之前，由数据输入模块1提供的原始输入数据D先进入加密模块2进行加密处理，生成加密输入数据D，，并输出至加密数据输入模块3，人工神经网络模型模块4基于加密数据输入模块3提供的加密输入数据D，进行运算。加密模块2由一组具有N位数字的密码组S作为控制量，并采用统一方式对原始输入数据D进行调整，其中，密码组S的长度由加密模块2实施的加密处理中的加密方式及加密要求所限定；密码组S中的N位数字的每一位分别选自阿拉伯数字0-9之间的一个。
进一步地，上述人工神经网络模型模块3运算所得结果由数据输出模块5进行输出，在训练阶段，该结果用于人工神经网络模块3计算损失函数，并通过梯度反向传播算法实现人工神经网络的训练；在使用阶段，该结果作为直接输出，以用于实际功能判断。
实施例4
在实施例3的基础上，说明书附图2示出了针对人工神经网络模型的加密保护系统100的加密模块2的具体加密原理：
S1.将原始输入数据D转换为二维结构M，并将其划分为多个待处理的子块M1-Mn，其中，N位数字的密码组S中预设定的任意几位上的数字与子块划分数量和子块划分位置相关联。例如，选择密码组第1-2位上的数字关联至子块划分数量及子块划分位置。
具体而言，当原始输入数据D为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据1为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构。
S2.首先对所有待处理子块M1-Mn进行统计分析，计算各子块的数据均值和方差，定义各子块的数据符合原始分布形式A1-An，其次将各子块的数据变换为均值为0、方差为1的标准正态分布N1-Nn，再根据密码组S中预设定的其他位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布N1-Nn的各子块的数据，分别转换为目标数据分布模型A1 ’-An ’下的数值形式，由此得到经数据分布转换后的子块M1 ’-Mn ’。
具体而言，步骤S2中，对于呈正态分布的子块M1-Mn的数据，通过标准化变换将其转换为标准正态分布N1-Nn，对于呈非正态分布的子块M1-Mn的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布N1-Nn。
S3.将分别经过数据分布变换后的各子块，按照步骤S1中的划分方式，重新组合成与所述原始输入数据D相同形式的二维结构，完成数据加密过程，由此生成加密输入数据D，。
进一步地，步骤S2中，目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种。
步骤S2中，N位数字的密码组S中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，用于实现子块划分及确定不同子块M1-Mn的目标分布模型的特定均值和方差。如说明书附图3所示，密码组S每一位上可选的阿拉伯数字0-9分别映射到可执行数值Cp,q,其中，p的取值范围为1-N,q的取值范围为0-9，Cp,q指密码组第p位的数值q映射得到的可执行数值。
以上实施例仅用以说明本发明的技术方案，而非对其限制。本领域技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求所界定的保护范围为准。

Claims (10)

1.一种针对人工神经网络模型的加密保护系统，其特征在于：包括数据输入模块（1）、加密模块（2）、加密数据输入模块（3）、人工神经网络模型模块（4）和数据输出模块（5），所述数据输入模块（1）与加密模块（2）信号相连，所述加密模块（2）与加密数据输入模块（3）信号相连，所述加密数据输入模块（3）与人工神经网络模型模块（4）信号相连，所述人工神经网络模型模块（4）与数据输出模块（5）信号相连。
2.根据权利要求1所述的一种针对人工神经网络模型的加密保护系统，其特征在于：所述数据输入模块（1），用于向加密模块（2）提供原始输入数据；所述加密模块（2），用于对数据输入模块（1）提供的原始输入数据进行加密处理，输出加密输入数据；所述加密数据输入模块（3），用于接收加密模块（2）输出的加密输入数据，并将加密输入数据传输至人工神经网络模型模块（4）；所述人工神经网络模型模块（4），用于接收加密输入数据，并且对加密输入数据进行运算；所述数据输出模块（5），用于将人工神经网络模型模块（4）计算得出的结果进行输出处理。
3.根据权利要求2所述的一种针对人工神经网络模型的加密保护系统，其特征在于：所述加密模块（2）由一组具有N位数字的密码组作为控制量，对数据输入模块（1）提供的所有原始输入数据进行加密处理，以实现数据加密；所述密码组的长度由加密处理中的加密方式及加密要求所限定；所述密码组中的N位数字的每一位分别阿拉伯数字0-9之间的一个。
4.根据权利要求3所述的一种针对人工神经网络模型的加密保护系统，其特征在于：所述加密模块（2）包括数据划分模块、数据处理模块和数据重组模块；所述数据划分模块将原始输入数据转换为二维结构，并将其划分为多个待处理的子块，密码组中预设定的任意几位上的数字与子块划分数量及子块划分位置相关联；数据处理模块计算各个子块的数据均值及方差，定义其原始分布形式，将各个子块的数据的原始分布形式转换为标准正态分布形式，再根据密码组中预设定的其他几位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布的各子块的数据，分别转换为目标数据分布模型下的数值形式，密码组中预设定的其他几位上的数字与该目标分布形式的特定均值和方差相关联；所述数据重组模块根据先前的子块划分方式，将经分布变换后的各个子块重构为二维结构，生成加密输入数据。
5.根据权利要求2所述的一种针对人工神经网络模型的加密保护系统，其特征在于：在训练阶段，人工神经网络模型模块（4）通过正向网络计算与逆向误差传播计算实现人工神经网络的训练；在训练完成的使用阶段，人工神经网络模型模块（4）通过正向网络计算得出结果。
6.根据权利要求4所述的一种针对人工神经网络模型的加密保护系统，其特征在于：当数据划分模块将原始输入数据转换为二维结构时，原始输入数据为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构。
7.根据权利要求4所述的一种针对人工神经网络模型的加密保护系统，其特征在于：当数据处理模块将各个子块的数据从原始分布形式转换为标准正态分布时，对于呈正态分布的子块的数据，通过标准化变换将其转换为标准正态分布；对于呈非正态分布的子块的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布；
目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种；
N位数字的密码组中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，该可执行数值确定了子块划分数量、子块划分位置，及对应不同子块的目标分布模型所具有的特定均值及方差。
8.一种针对人工神经网络模型的加密保护方法，其特征在于：包括以下步骤：
A.提供原始输入数据；
S.对原始输入数据进行加密处理，生成加密输入数据；
B.将加密输入数据输入至人工神经网络模型，人工神经网络模型对加密输入数据进行计算，得出结果；
C.将计算所得结果进行输出；
所述步骤S具体包括：
S1.提供一组具有N位数字的密码组作为控制量，该密码组具体限定了针对原始输入数据的加密处理；其中，密码组的长度由加密处理中的加密方式及加密要求所限定；密码组的N位数字的每一位分别选自阿拉伯数字0-9之间的一个；
S2.将原始输入数据转换为二维结构，并将其划分为多个待处理的子块；其中，密码组中预设定的任意几位上的数字与子块划分数量及子块划分位置相关联；
其中，当原始输入数据为一维结构时，将其视为第二维度为1的二维结构，对其进行子块划分相当于生成多个子串；当原始输入数据为大于二维的结构时，将其降维转换为二维结构，加密步骤完成后再将其重新映射为原始结构；
S3.计算各子块的数据均值和方差，定义其原始分布形式，再将各个子块的数据的原始分布形式转换为目标分布形式；
S4.将分别经过数据分布变换后的各子块，按照步骤S1中的划分方式，重新组合成与所述原始输入数据相同形式的二维结构，完成数据加密过程，由此生成加密输入数据。
9.根据权利要求8所述的一种针对人工神经网络模型的加密保护方法，其特征在于：步骤S3中，将各个子块的数据的原始分布形式转换为目标分布形式时，首先将各个子块的数据的原始分布形式转换为标准正态分布形式，再根据密码组中预设定的其他几位上的数字，分别构建具有特定均值和方差的目标数据分布模型，并利用分布函数之间的关系，将已经变换为标准正态分布的各子块的数据，分别转换为目标数据分布模型下的数值形式，由此得到经数据分布变换后的子块；密码组中预设定的其他几位上的数字与目标分布形式的特定均值和方差相关联。
10.根据权利要求8所述的一种针对人工神经网络模型的加密保护方法，其特征在于：步骤S3中，对于呈正态分布的子块的数据，通过标准化变换将其转换为标准正态分布，对于呈非正态分布的子块的数据，首先利用正态化变换将各子块的数据分布变换为正态分布，再对其进行标准化以变换为标准正态分布；
目标数据分布模型选自正态分布、F分布、卡方分布、T分布或其他联合分布的一种；
N位数字的密码组中，每一位上可选的阿拉伯数字0-9分别映射至一个可执行数值，该可执行数值确定了子块划分数量、子块划分位置，及对应不同子块的目标分布模型所具有的特定均值及方差。
CN201810384928.2A 2018-04-26 2018-04-26 一种针对人工神经网络模型的加密保护系统及方法 Active CN108629193B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810384928.2A CN108629193B (zh) 2018-04-26 2018-04-26 一种针对人工神经网络模型的加密保护系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810384928.2A CN108629193B (zh) 2018-04-26 2018-04-26 一种针对人工神经网络模型的加密保护系统及方法

Publications (2)

Publication Number Publication Date
CN108629193A true CN108629193A (zh) 2018-10-09
CN108629193B CN108629193B (zh) 2020-06-16

Family

ID=63694637

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810384928.2A Active CN108629193B (zh) 2018-04-26 2018-04-26 一种针对人工神经网络模型的加密保护系统及方法

Country Status (1)

Country Link
CN (1) CN108629193B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109564615A (zh) * 2018-10-31 2019-04-02 算丰科技（北京）有限公司 模型数据的载入方法、装置、设备和存储介质
CN109919303A (zh) * 2019-02-28 2019-06-21 范力欣 一种深度神经网络的知识产权保护方法、系统及终端
CN110457951A (zh) * 2019-08-19 2019-11-15 南京大学 一种无人工噪声的深度学习模型保护方法
CN110795726A (zh) * 2019-10-23 2020-02-14 成都索贝数码科技股份有限公司 一种基于人工神经网络的密码保护方法及系统
CN110991462A (zh) * 2019-10-31 2020-04-10 福建师范大学 基于隐私保护cnn的密态图像识别方法及系统
CN111245531A (zh) * 2019-12-18 2020-06-05 广州市梦享网络技术有限公司 通过分析设备模块功率进行参数自适应调节的方法
CN111259427A (zh) * 2020-01-21 2020-06-09 北京安德医智科技有限公司 一种基于神经网络的图像处理方法、装置及存储介质
CN111581671A (zh) * 2020-05-11 2020-08-25 笵成科技南京有限公司 一种深度神经网络与区块链相结合的数字护照保护方法
CN112001452A (zh) * 2020-08-27 2020-11-27 深圳前海微众银行股份有限公司 特征选择方法、装置、设备及可读存储介质
CN112395635A (zh) * 2021-01-18 2021-02-23 北京灵汐科技有限公司 图像处理、密钥生成、训练方法及装置、计算机可读介质
CN113190877A (zh) * 2021-04-29 2021-07-30 网易（杭州）网络有限公司 一种模型加载方法、装置、可读存储介质及电子设备
CN115150063A (zh) * 2022-06-30 2022-10-04 北京百度网讯科技有限公司 模型加密的方法、装置及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101977112A (zh) * 2010-11-04 2011-02-16 厦门大学 一种基于神经网络混沌吸引子的公钥密码加密和解密方法
CN103605972A (zh) * 2013-12-10 2014-02-26 康江科技(北京)有限责任公司 一种基于分块深度神经网络的非限制环境人脸验证方法
US20160350648A1 (en) * 2014-11-07 2016-12-01 Microsoft Technology Licensing, Llc. Neural networks for encrypted data

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101977112A (zh) * 2010-11-04 2011-02-16 厦门大学 一种基于神经网络混沌吸引子的公钥密码加密和解密方法
CN103605972A (zh) * 2013-12-10 2014-02-26 康江科技(北京)有限责任公司 一种基于分块深度神经网络的非限制环境人脸验证方法
CN103605972B (zh) * 2013-12-10 2017-02-15 康江科技(北京)有限责任公司 一种基于分块深度神经网络的非限制环境人脸验证方法
US20160350648A1 (en) * 2014-11-07 2016-12-01 Microsoft Technology Licensing, Llc. Neural networks for encrypted data

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109564615A (zh) * 2018-10-31 2019-04-02 算丰科技（北京）有限公司 模型数据的载入方法、装置、设备和存储介质
CN109919303B (zh) * 2019-02-28 2023-09-19 笵成科技南京有限公司 一种深度神经网络的知识产权保护方法、系统及终端
CN109919303A (zh) * 2019-02-28 2019-06-21 范力欣 一种深度神经网络的知识产权保护方法、系统及终端
WO2020173252A1 (zh) * 2019-02-28 2020-09-03 笵成科技南京有限公司 运用自锁机制保护深度神经网络的方法、系统及终端
CN110457951A (zh) * 2019-08-19 2019-11-15 南京大学 一种无人工噪声的深度学习模型保护方法
CN110457951B (zh) * 2019-08-19 2021-04-16 南京大学 一种无人工噪声的深度学习模型保护方法
CN110795726A (zh) * 2019-10-23 2020-02-14 成都索贝数码科技股份有限公司 一种基于人工神经网络的密码保护方法及系统
CN110991462A (zh) * 2019-10-31 2020-04-10 福建师范大学 基于隐私保护cnn的密态图像识别方法及系统
CN110991462B (zh) * 2019-10-31 2023-04-07 福建师范大学 基于隐私保护cnn的密态图像识别方法及系统
CN111245531A (zh) * 2019-12-18 2020-06-05 广州市梦享网络技术有限公司 通过分析设备模块功率进行参数自适应调节的方法
CN111245531B (zh) * 2019-12-18 2022-01-14 广州市梦享网络技术有限公司 通过分析设备模块功率进行参数自适应调节的方法
CN111259427A (zh) * 2020-01-21 2020-06-09 北京安德医智科技有限公司 一种基于神经网络的图像处理方法、装置及存储介质
CN111259427B (zh) * 2020-01-21 2020-11-06 北京安德医智科技有限公司 一种基于神经网络的图像处理方法、装置及存储介质
CN111581671A (zh) * 2020-05-11 2020-08-25 笵成科技南京有限公司 一种深度神经网络与区块链相结合的数字护照保护方法
CN111581671B (zh) * 2020-05-11 2021-05-25 笵成科技南京有限公司 一种深度神经网络与区块链相结合的数字护照保护方法
CN112001452A (zh) * 2020-08-27 2020-11-27 深圳前海微众银行股份有限公司 特征选择方法、装置、设备及可读存储介质
CN112001452B (zh) * 2020-08-27 2021-08-27 深圳前海微众银行股份有限公司 特征选择方法、装置、设备及可读存储介质
CN112395635B (zh) * 2021-01-18 2021-05-04 北京灵汐科技有限公司 图像处理、密钥生成、训练方法及装置、计算机可读介质
CN112395635A (zh) * 2021-01-18 2021-02-23 北京灵汐科技有限公司 图像处理、密钥生成、训练方法及装置、计算机可读介质
CN113190877A (zh) * 2021-04-29 2021-07-30 网易（杭州）网络有限公司 一种模型加载方法、装置、可读存储介质及电子设备
CN115150063A (zh) * 2022-06-30 2022-10-04 北京百度网讯科技有限公司 模型加密的方法、装置及电子设备

Also Published As

Publication number Publication date
CN108629193B (zh) 2020-06-16

Similar Documents

Publication Publication Date Title
CN108629193A (zh) 一种针对人工神经网络模型的加密保护系统及方法
CN108898028A (zh) 涉及迭代与随机加密的神经网络模型加密保护系统及方法
CN108920981A (zh) 涉及数据迭代加密的神经网络模型加密保护系统及方法
CN108830092A (zh) 涉及数据随机加密的神经网络模型加密保护系统及方法
TWI670621B (zh) 資訊加密、解密方法及裝置
CN108880781A (zh) 一种对加掩防护加密设备的无掩码神经网络攻击方法
CN113298268B (zh) 一种基于对抗噪声注入的垂直联邦学习方法和装置
CN112597519B (zh) Ofdm加密系统中基于卷积神经网络的无密钥解密方法
Hu et al. Research on plaintext restoration of AES based on neural network
CN113240129A (zh) 一种面向多类型任务图像分析的联邦学习系统
CN112906052B (zh) 联邦学习中多用户梯度置换的聚合方法
CN117391188A (zh) 基于联邦ai计算的物联网模型训练方法
CN108804931A (zh) 涉及域变换数据加密的神经网络模型加密保护系统及方法
Meng et al. Fedmonn: meta operation neural network for secure federated aggregation
CN112153045B (zh) 一种私有协议的加密字段的识别方法及系统
CN108900294A (zh) 涉及指定频段加密的神经网络模型加密保护系统及方法
Fernandez et al. Functional invariants to watermark large transformers
Peleshchak et al. Two-stage AES encryption method based on stochastic error of a neural network
CN112787810A (zh) 基于区块链和安全多方计算的电子投票选举方法及装置
Khavalko et al. Application of neural network technologies for information protection in real time
CN115567239B (zh) 一种基于生成对抗的加密流量特征隐藏系统以及方法
Tanaka et al. On the transferability of adversarial examples between encrypted models
CN114049245A (zh) 一种基于复合混沌映射的彩色图像加密方法
CN117726421B (zh) 一种应用于银行的权益管理方法
Di Crescenzo et al. Encrypted-Input Program Obfuscation: Simultaneous Security Against White-Box and Black-Box Attacks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant