CN115174191B - 一种局部预测值安全传输方法、计算机设备和存储介质 - Google Patents
一种局部预测值安全传输方法、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN115174191B CN115174191B CN202210763601.2A CN202210763601A CN115174191B CN 115174191 B CN115174191 B CN 115174191B CN 202210763601 A CN202210763601 A CN 202210763601A CN 115174191 B CN115174191 B CN 115174191B
- Authority
- CN
- China
- Prior art keywords
- local
- training
- prediction
- encryption
- lorentz
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 109
- 230000005540 biological transmission Effects 0.000 title claims abstract description 52
- 238000003860 storage Methods 0.000 title claims abstract description 13
- 230000000739 chaotic effect Effects 0.000 claims abstract description 53
- 230000008569 process Effects 0.000 claims abstract description 41
- 238000012360 testing method Methods 0.000 claims abstract description 21
- 239000011159 matrix material Substances 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims abstract description 4
- 238000012549 training Methods 0.000 claims description 55
- 238000004422 calculation algorithm Methods 0.000 claims description 36
- 230000006870 function Effects 0.000 claims description 36
- 238000009826 distribution Methods 0.000 claims description 22
- 238000010801 machine learning Methods 0.000 claims description 10
- 239000013598 vector Substances 0.000 claims description 10
- 230000002776 aggregation Effects 0.000 claims description 7
- 238000004220 aggregation Methods 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 239000000243 solution Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- DMSMPAJRVJJAGA-UHFFFAOYSA-N benzo[d]isothiazol-3-one Chemical compound C1=CC=C2C(=O)NSC2=C1 DMSMPAJRVJJAGA-UHFFFAOYSA-N 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
- H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
- G06F17/13—Differential equations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/001—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols using chaotic signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/06—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols the encryption apparatus using shift registers or memories for block-wise or stream coding, e.g. DES systems or RC4; Hash functions; Pseudorandom sequence generators
- H04L9/065—Encryption by serially and continuously modifying data stream elements, e.g. stream cipher systems, RC4, SEAL or A5/3
- H04L9/0656—Pseudorandom key sequence combined element-for-element with data sequence, e.g. one-time-pad [OTP] or Vernam's cipher
- H04L9/0662—Pseudorandom key sequence combined element-for-element with data sequence, e.g. one-time-pad [OTP] or Vernam's cipher with particular pseudorandom sequence generator
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computer Security & Cryptography (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computing Systems (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Operations Research (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及物联网技术领域，具体涉及一种局部预测值安全传输方法、计算机设备和存储介质。该方法通过工作机利用高斯过程回归得到局部模型预测，其中，局部模型为采用高斯过程回归的学习模型，用于处理流数据以实现对测试输出进行预测；利用洛伦兹混沌加密方法产生伪随机序列，对局部模型预测期望和方差进行加密，并将密文发送至服务器。由于洛伦兹混沌加密系统只涉及到微分运算和矩阵的求逆运算，因此加密速度非常快，适用于在线学习。本发明利用洛伦兹混沌加密方法对局部预测期望和方差进行加密，极大提升了的传输安全性；由于洛伦兹混沌加密和观测器解密只涉及微分运算和矩阵逆运算，本发明可以提升加解密效率。
Description
技术领域
本发明涉及物联网技术领域，尤其涉及一种局部预测值安全传输方法、计算机设备和存储介质。
背景技术
如今，物联网(Internet of Things，简称IoT)产生大量的分布数据。一种典型的训练方式是存储这些数据在服务器，让服务器来训练模型。然而，通信效率以及计算效率问题凸显。例如，一辆小汽车几个小时就可以产生数百吉字节(Gigabyte，简称GB)的数据，这些数据在传输和计算过程中，都是极大的负担。
而分布式机器学习的诞生，主要解决几类问题：一是计算量太大，二是训练数据太多，三是模型规模太大。对于计算量太大的情形，可以采取基于共享内存(或虚拟内存)的多线程或多机并行运算。对于训练数据太多的情形，需要将数据进行划分，并分配到多个工作节点上进行训练，这样每个工作节点的局部数据都在容限之内。每个工作节点会根据局部数据训练出一个子模型，并且会按照一定的规律和其他工作节点进行通信(通信的内容主要是子模型参数或者参数更新)，以保证最终可以有效整合来自各个工作节点的训练结果并得到全局的机器学习模型。
对于模型规模太大的情形，则需要对模型进行划分，并且分配到不同的工作节点上进行训练。与数据并行不同，模型并行的框架下各个子模型之间的依赖关系非常强，因为某个子模型的输出可能是另外一个子模型的输入，如果不进行中间计算结果的通信，则无法完成整个模型训练。
一般分布式机器学习采用深度神经网络作为机器学习模型，它在许多应用中都取得了空前的成功，比如模型分类与模式识别。但是深度学习主要局限在离线学习。在实际应用中，工作机在实时应用中都会获得数据流。因此，在线学习会成为一种解决此问题的手段。高斯过程回归是一个有效的手段之一。实际上，高斯过程模型在某种意义下可以等价为现有的机器学习模型，包括Bayesian线性模型，多层神经网络。根据中心极限定理，假设神经网络中的权重服从高斯正态分布，随着神经网络的宽度趋近于无穷，那么这样的神经网络等价于高斯过程回归。然而高斯过程回归是一个非超参数的统计概率模型，不像传统的学习模型，比如线性回归，逻辑回归，神经网络，需要求解优化问题使得损失函数最小来得到最优的模型参数，高斯过程回归并不需要求解优化问题。给定训练数据和测试输入，高斯过程回归的预测分为推断和预测两步。推断过程假设要学习的函数服从高斯过程，给出模型的高斯先验概率分布，然后利用观测值和Bayesian规则，求出模型的高斯后验概率分布。当完成局部模型预测之后，各个工作机将所得到的局部预测(期望和方差)发送至服务器，让服务器完成全局模型的计算，例如，利用平均聚合算法求取全局模型。但是在局部模型传输过程中，攻击者会窥探和窃取传输的局部预测值，使得局部模型的隐私性受到了威胁。
当工作机完成模型预测，在将预测结果发送至服务器的过程中，这些预测结果无疑是脆弱的，敏感的，容易受到攻击者的窥探和破坏。例如攻击者将图像数据集中的数据进行更改，使得训练出来的模型与真实的模型相比，有一定的偏差，这会影响到准确模型的应用，甚至会带来经济损失。为了保证模型预测在传输过程中不被窃取，加密方法是一个好的选择。
随着混沌加密算法被提出来，混沌加密算法在图像加密领域得到了广泛的关注。混沌加密算法可以分为利用连续动态系统构成的模拟混沌加密系统以及利用离散动态系统构成的数字混沌加密系统。混沌加密算法的主要优势在于密钥空间从整数空间拓展至实数空间，以及对系统初始值的极度敏感。因此，混沌加密算法一般将系统初始值设置为密钥。
一般混沌加密算法给定混沌系统初始值，然后得到密钥流，不同的系统初始值，得到的密钥流将会完全不一样，也就是说，不同的混沌系统初始值对应了不同的伪随机序列。然后将系统生成的密钥流与要加密的模型预测(局部预测的期望和方差)进行信息融合运算，使得模型传输更为安全。
发明内容
在分布式机器学习框架下，本发明提供了一种基于洛伦兹混沌加密的局部预测值安全传输方法、计算机设备和存储介质，学习模型采用高斯过程回归(GPR)，其可以处理流数据，实现对测试输出进行预测。然后利用洛伦兹系统产生的伪随机序列，对局部模型预测进行加密，并将密文发送至服务器。由于洛伦兹混沌加密系统只涉及到微分运算和矩阵的求逆运算，因此加密速度非常快，适用于在线学习。
为实现上述目的，本发明实施例提供了如下的技术方案：
第一方面，在本发明提供的一个实施例中，提供了一种局部预测值安全传输方法，该方法包括：
工作机利用高斯过程回归得到局部模型预测，其中，局部模型为采用高斯过程回归的学习模型，用于处理流数据以实现对测试输出进行预测；
利用洛伦兹混沌加密方法产生伪随机序列，对局部模型预测期望和方差进行加密，并将密文发送至服务器。
作为本发明的进一步方案，所述局部预测值安全传输方法，还包括定义目标函数；
其中，定义所述目标函数为其中/>是nx维输入空间；
当输出为一维时，在时刻t，给定/>所述目标函数相应的输出为：
y＝f(x)+ε；
式中，ε是服从均值为0，方差为的高斯概率分布的高斯噪声，即/>
作为本发明的进一步方案，所述局部预测值安全传输方法，还包括定义训练集；
其中，定义所述训练集为其中，/>是输入数据集合，y＝[y(1),y(2),K,y(ns)]Τ是聚合了输出的列向量；
高斯过程回归目标为利用训练集在测试数据集合/>上逼近函数f。
作为本发明的进一步方案，所述局部预测值安全传输方法，还包括定义对称正半定的核函数；
其中，定义所述对称正半定的核函数为k:即∫k(x,x')f(x)f(x')dν(x)dν(x')≥0；
式中，ν是测度；当/>返回一个列向量，则第i个元素等于f(x(i))。
作为本发明的进一步方案，当函数f为来自高斯过程先验概率分布的一个采样时，先验分布的均值函数为μ，核函数是k，则训练输出和测试输出服从联合概率分布：
式中，和/>返回由μ(x(i))和μ(x*(i))组成的向量，/>返回一个矩阵使得第i行第j列的元素是k(x(i),x*(j))。
作为本发明的进一步方案，高斯过程回归利用训练集预测测试数据集的输出，输出/>服从正态分布，/>
其中，
在分布式机器学习中，一个网络中有n个工作机，则定义该集合为在每一个时刻t，每一个工作机/>利用局部的训练数据/>来预测函数对于测试输入/>的输出：
yi(t)＝[yi(1),K,yi(t)]；
每一个工作机训练的局部预测值为：
作为本发明的进一步方案，所述局部预测值安全传输方法，分布式训练时，包括构造训练子集：
基于对训练集投影的训练子集合构造，其中，定义两个训练数据点x和x'的距离为d(x,x')＝||x-x'||，数据点x到集合的距离为：/>定义数据点x到集合/>的投影集合为：/>
选择核函数，并针对每一个工作机在新的训练集/>上计算高斯后验概率分布；
在训练子集基于高斯后验概率分布得到局部预测/>和covi(f*)，并将局部预测发送给服务器，服务器利用聚合算法对局部预测值进行聚合，给出全局预测。
作为本发明的进一步方案，所述局部预测值安全传输方法，还包括基于洛伦兹混沌系统的局部模型预测加密算法，其中，基于洛伦兹混沌系统的局部模型预测加密算法的构造步骤如下：
将洛伦兹系统转化为TS模糊模型；
数据注入洛伦兹混沌系统，将数据注入洛伦兹混沌系统的状态方程以及输出方程中；
并联固定位流加密系统，将洛伦兹流加密系统按固定位数进行并联；
密钥选择为系统初始值以及系统参数。
作为本发明的进一步方案，所述局部预测值安全传输方法，还包括基于状态观测器的解密算法，基于状态观测器的解密算法用于对洛伦兹流加密系统转化。
第三方面，在本发明提供的又一个实施例中，提供了一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器加载并执行所述计算机程序时实现局部预测值安全传输方法的步骤。
第四方面，在本发明提供的再一个实施例中，提供了一种存储介质，存储有计算机程序，所述计算机程序被处理器加载并执行时实现所述局部预测值安全传输方法的步骤。
本发明提供的技术方案，具有如下有益效果：
本发明提供的局部预测值安全传输方法、计算机设备和存储介质带来的优势有两方面：
第一，工作机利用高斯过程回归得到模型预测，本发明利用洛伦兹混沌加密方法对局部预测期望和方差进行加密，极大提升了的传输安全性；
第二，由于洛伦兹混沌加密和观测器解密只涉及微分运算和矩阵逆运算，本发明算法可以提升加解密快速。
本发明的这些方面或其他方面在以下实施例的描述中会更加简明易懂。应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。
本发明的这些方面或其他方面在以下实施例的描述中会更加简明易懂。应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例。在附图中：
图1为本发明一个实施例的一种局部预测值安全传输方法的流程图；
图2为本发明一个实施例的一种局部预测值安全传输方法中工作机局部预测性能图；
图3为本发明又一个实施例的一种局部预测值安全传输方法中不同容量训练数据的均方误差结果图；
图4为本发明一个实施例的一种局部预测值安全传输方法中基于洛伦兹加密系统的局部预测期望密文结果图；
图5为本发明一个实施例的一种局部预测值安全传输方法中基于状态观测器的局部预测期望密文的解密结果图；
图6为本发明一个实施例的一种局部预测值安全传输方法中解密误差结果图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
附图中所示的流程图仅是示例说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解、组合或部分合并，因此实际执行的顺序有可能根据实际情况改变。
应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
随着混沌加密算法被提出来，混沌加密算法在图像加密领域得到了广泛的关注。混沌加密算法可以分为利用连续动态系统构成的模拟混沌加密系统以及利用离散动态系统构成的数字混沌加密系统。混沌加密算法的主要优势在于密钥空间从整数空间拓展至实数空间，以及对系统初始值的极度敏感。因此，混沌加密算法一般将系统初始值设置为密钥。
一般混沌加密算法给定混沌系统初始值，然后得到密钥流，不同的系统初始值，得到的密钥流将会完全不一样，也就是说，不同的混沌系统初始值对应了不同的伪随机序列。然后将系统生成的密钥流与要加密的模型预测(局部预测的期望和方差)进行信息融合运算，使得模型传输更为安全。
在分布式机器学习框架下，本发明提供了一种基于洛伦兹混沌加密的局部预测值安全传输方法、计算机设备和存储介质，学习模型采用高斯过程回归(GPR)，其可以处理流数据，实现对测试输出进行预测。然后利用洛伦兹系统产生的伪随机序列，对局部模型预测进行加密，并将密文发送至服务器。由于洛伦兹混沌加密系统只涉及到微分运算和矩阵的求逆运算，因此加密速度非常快，适用于在线学习。
具体地，下面结合附图，对本发明实施例作进一步阐述。
请参阅图1，图1是本发明实施例提供的一种局部预测值安全传输方法的流程图，如图1所示，该局部预测值安全传输方法包括步骤S10至步骤S40。
S10、工作机利用高斯过程回归得到局部模型预测，其中，局部模型为采用高斯过程回归的学习模型，用于处理流数据以实现对测试输出进行预测；
S20、利用洛伦兹混沌加密方法产生伪随机序列，对局部模型预测期望和方差进行加密，并将密文发送至服务器。
本发明提出的一种局部预测值安全传输方法为基于洛伦兹混沌加密的局部预测值安全传输算法。学习模型采用高斯过程回归(GPR)，其可以处理流数据，实现对测试输出进行预测。然后利用洛伦兹系统产生的伪随机序列，对局部模型预测进行加密，并将密文发送至服务器。由于洛伦兹混沌加密系统只涉及到微分运算和矩阵的求逆运算，因此加密速度非常快，适用于在线学习。
在一些实施例中，本发明提出的局部预测值安全传输方法的具体实施步骤为：定义所述目标函数为f(x):其中/>是nx维输入空间；
当输出为一维时，在时刻t，给定/>所述目标函数相应的输出为：
y＝f(x)+ε；
式中，ε是服从均值为0，方差为的高斯概率分布的高斯噪声，即/>
在一些实施例中，所述局部预测值安全传输方法，还包括定义训练集；
其中，定义所述训练集为其中，/>是输入数据集合，y＝[y(1),y(2),K,y(ns)]Τ是聚合了输出的列向量；
高斯过程回归目标为利用训练集在测试数据集合/>上逼近函数f。
在一些实施例中，所述局部预测值安全传输方法，还包括定义对称正半定的核函数；
其中，定义所述对称正半定的核函数为k:即∫k(x,x')f(x)f(x')dν(x)dν(x')≥0；
式中，ν是测度；当/>返回一个列向量，则第i个元素等于f(x(i))。
假设函数f是来自高斯过程先验概率分布的一个采样，这个先验分布的均值函数为μ，核函数是k。那么训练输出和测试输出服从联合概率分布为：
其中和/>返回由μ(x(i))和μ(x*(i))组成的向量，/>返回一个矩阵使得第i行第j列的元素是k(x(i),x*(j))。
利用高斯过程的性质，高斯过程回归利用训练集预测测试数据集/>的输出。这个输出/>依然服从正态分布，即/>本申请的实施例中：
在分布式机器学习中，考虑一个网络中有n个工作机。定义这个集合为在每一个时刻t，每一个工作机/>利用局部的训练数据/>来预测函数对于测试输入/>的输出。本申请的实施例中，/>yi(t)＝[yi(1),K,yi(t)]。每一个工作机训练的局部预测值为：
如果在联邦学习框架下，每一个工作机都会将训练好的局部预测covi(f*)发送给服务器。下面给出分布式训练的具体步骤，首先构造训练子集。
1.基于对训练集投影的训练子集合构造。
定义两个训练数据点x和x'的距离为d(x,x')＝||x-x'||，数据点x到集合的距离为/>定义数据点x到集合/>的投影集合为
Step 1：考虑每一个工作机及其局部训练数据集/>针对一个测试数据x*，计算测试数据x*到训练集/>的投影，标注为：
在每一个时刻t，这个局部投影集合包含有/>个投影数据，即/>
Step 2：对每一个工作机及其投影集合/>取出每一个投影点，标注为本申请的实施例中下标j表示第j个投影点。然后针对每一个投影点/>找出它的一个邻域/>使得/>并且针对/> 本申请的实施例中需要注意，邻域的个数是可调的，可以实现选取固定。
Step 3：对每一个工作机构造新的训练集合/>
2.选择核函数。
核函数选择：
3.针对每一个工作机在新的训练集/>上计算高斯后验概率分布，即：
在训练子集利用高斯后验概率分布的公式得到局部预测/>和covi(f*)。然后将此局部预测发送给服务器。服务器利用聚合算法对局部预测值进行聚合，给出全局预测。
本发明还包括给出基于混沌加密的局部模型传输算法以及服务器端平均聚合算法。
其中，基于洛伦兹混沌系统的局部模型预测加密算法中，洛伦兹混沌系统是一个非线性、非周期、三维的确定性连续动态系统。其动态方程可以表示为：
y(t)＝x1(t)；
其中，x1(t)，x2(t)和x3(t)是系统的状态，y(t)是系统的输出，x1(0)，x2(0)和x3(0)设置为系统的初始状态，即t＝0时刻的状态初始值。
在本发明的一个实施例中，基于洛伦兹系统的加密算法构造如下：
步骤1：将洛伦兹系统转化为TS模糊模型；
规则i：如果x1(t)属于模糊集Fi，那么：
y(t)＝Ckx(t)，k＝1,2；
其中x(t)＝[x1(t) x2(t)]T为系统的状态向量；模糊集定义为：
系数矩阵为/> C1＝C2＝[1 0 0]。
因此，基于洛伦兹系统的TS模糊模型可以写为：
y(t)＝Cx(t)。
其中，ξ(t)＝x1(t)，并且其满足μ1(ξ(t))+μ2(ξ(t))＝1。
步骤2：数据注入洛伦兹混沌系统；
定义要加密的数据(明文)为和mi,2(t)＝covi(f*,t)，且在t时刻，是个常数，系统输入矩阵为Bk。为了设计解密系统方便，方案将明文mi,1(t),mi,2(t)分别注入洛伦兹混沌系统的状态方程以及输出方程中，系统转换为：
yi，1(t)＝Cxi，1(t)+mi，1(t)
yi，2(t)＝Cxi，2(t)+mi，2(t)
从系统结构看出，明文mi,1(t)和mi,2(t)直接注入状态方程中。对应的密文为yi,1(t)和yi,2(t)。这样的构造使得密钥流的产生极其依赖明文。也就是说，密钥流的产生不仅仅与系统的初始值xi,1(0),xi,2(0)有关，还与明文mi,1(t)和mi,2(t)有关，从而使得加密系统的安全性得到了提高。
步骤3：并联固定位流加密系统；
将洛伦兹流加密系统按固定位数进行并联。为便于理解，将洛伦兹流加密子系统描述为：
yi，j(t)＝Cxi，j(t)+mi，j(t)；
其中，下角标j＝1,2为加密的当前位数，它表示了对均值加密和对方差加密。
步骤4：密钥选择；
基于洛伦兹系统的加密算法，密钥选择为系统初始值以及系统参数。由于加密算法并联两个洛伦兹流加密模块，因此，系统初始值可以设置：
xi(0)＝[xi,1(0) xi,2(0)]。
在本申请的一些实施例中，基于状态观测器的解密算法中，将洛伦兹流加密系统转化为如下形式：
其中，明文mi,j(t)利用输出方程替换掉，即mi,j(t)＝yi,j(t)-Cxi,j(t)。状态观测器构造如下：
根据加密系统和解密观测器，可以得到流密码的观测误差系统，如下：
本申请中，为了配合加密系统，本申请中需要求出注入矩阵B。针对流加密子系统，基于状态观测器的解密子系统描述为：
其中，上角标j为解密系统的当前位数，即针对第i个工作机，是对均值解密还是对方差解密。由于混沌系统对系统初值极其敏感，因此，解密系统要根据块加密系统来严格输入密钥，还原初始模型预测mi,1(t)和mi,2(t)。当服务器将所有局部预测值解密后，平均聚合算法，即：
得到全局预测模型。然后将mave,1(t)和mave,2(t)发送回各个工作机进行模型预测优化。基于混沌加密的安全分布式在线学习如算法1所示。
需要说明的是，本申请只讨论了工作机发送局部预测模型至服务器的安全性问题。同理，当服务器解密后，也可以采用相同的策略对全局聚合模型进行加密，然后将密文发送给每一个工作机，工作机利用密钥进行解密得到全局预测模型。
需要说明的是，解密观测器需要求解矩阵B，一般会才用Lyapunov函数进行求解，得到一组线性矩阵不等式。
本发明的一种局部预测值安全传输方法进行仿真实验验证如下：
本发明利用构造的数据集，来验证所提算法的有效性。对于观测模型本发明考虑如下的目标函数：
和高斯噪声ε:/>
本发明在[0,20]区间产生5×104的训练数据，并且随机选择100个测试点。本发明假设网络中一共有100个工作机，然后本发明将训练数据平均分为100等份使得每一个工作机拥有500个训练数据。
仿真结果如图2-图6所示。图2给出了工作机的局部预测结果，其中红色点线为真实的测量输出，而蓝色实线为基于局部数据的预测值，从图中可以看出，两条曲线重合度非常高，也就是说，采用基于投影的局部在线预测算法，预测的准确度达到了预期水平。两条黑色虚线为边界，中间的蓝色阴影部分为95％的置信区间。
第二组实验，本发明选择多组训练数据，即分别选择5×103,104,2×104,5×104训练数据，本发明采用均方误差衡量预测结果的准确性。图3是对数坐标图，显示了均方误差水平，可以看出随着训练数据的增大，均方误差越来越小，说明模型预测结果越来越好。
第三组实验为模型预测的加解密性能分析。由于空间有限，本发明仅仅针对模型的预测期望进行加解密，图4为模型预测期望的加密后的效果。可以看到混沌随机序列已经将原有的局部预测结果进行了加密，使得数据随机化。
图5-图6，可以看到，利用观测器解密系统，系统暂态过程，当趋于稳态时，系统解密效果非常好。
因此，本发明申请带来的优势有两方面：第一，工作机利用高斯过程回归得到模型预测，本申请利用洛伦兹混沌加密方法对局部预测期望和方差进行加密，极大提升了的传输安全性；第二，由于洛伦兹混沌加密和观测器解密只涉及微分运算和矩阵逆运算，本申请算法可以提升加解密快速性。
应该理解的是，上述虽然是按照某一顺序描述的，但是这些步骤并不是必然按照上述顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，本实施例的一部分步骤可以包括多个步骤或者多个阶段，这些步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中，在本发明的实施例中还提供了一种计算机设备，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器执行所述的局部预测值安全传输方法，该处理器执行指令时实现上述方法实施例中的步骤。
在上下文中所称“计算机设备”，也称为“电脑”，是指可以通过运行预定程序或指令来执行数值计算和/或逻辑计算等预定处理过程的智能电子设备，其可以包括处理器与存储器，由处理器执行在存储器中预存的存续指令来执行预定处理过程，或是由ASIC、FPGA、DSP等硬件执行预定处理过程，或是由上述二者组合来实现。计算机设备包括但不限于服务器、个人电脑、笔记本电脑、平板电脑、智能手机等。
所述计算机设备包括用户设备与网络设备。其中，所述用户设备包括但不限于电脑、智能手机、PDA等；所述网络设备包括但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(Cloud Computing)的由大量计算机或网络服务器构成的云，其中，云计算是分布式计算的一种，由一群松散耦合的计算机集组成的一个超级虚拟计算机。其中，所述计算机设备可单独运行来实现本发明，也可接入网络并通过与网络中的其他计算机设备的交互操作来实现本发明。其中，所述计算机设备所处的网络包括但不限于互联网、广域网、城域网、局域网、VPN网络等。
还应当进理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
在本发明的一个实施例中还提供了一种存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述方法的实施例的流程。其中，本发明所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和易失性存储器中的至少一种。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。
以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。
应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。上述本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。
所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。
Claims (9)
1.一种局部预测值安全传输方法，其特征在于，该方法包括：
工作机利用高斯过程回归得到局部模型预测，其中，局部模型为采用高斯过程回归的学习模型，用于处理流数据以实现对测试输出进行预测；
利用洛伦兹混沌加密方法产生伪随机序列，对局部模型预测期望和方差进行加密，并将密文发送至服务器；
所述局部预测值安全传输方法，分布式训练时，包括构造训练子集：
基于对训练集投影的训练子集合构造，其中，定义两个训练数据点和/>的距离为，数据点/>到集合/>的距离为/>；定义数据点/>到集合/>的投影集合为/>；
选择核函数，并针对每一个工作机，在新的训练集/>上计算高斯后验概率分布；
在训练子集，基于高斯后验概率分布得到局部预测/>和/>，并将局部预测发送给服务器，服务器利用聚合算法对局部预测值进行聚合，给出全局预测。
2.如权利要求1所述的局部预测值安全传输方法，其特征在于，所述局部预测值安全传输方法，还包括定义目标函数；
其中，定义所述目标函数为，其中/>是/>维输入空间；
当输出为一维时，，在时刻/>，给定/>，所述目标函数相应的输出为：
式中，是服从均值为/>，方差为/>的高斯概率分布的高斯噪声，即/>。
3.如权利要求1所述的局部预测值安全传输方法，其特征在于，所述局部预测值安全传输方法，还包括定义训练集；
其中，定义所述训练集为，其中，/>是输入数据集合，/>是聚合了输出的列向量；
高斯过程回归目标为利用训练集在测试数据集合/>上逼近函数/>。
4.如权利要求3所述的局部预测值安全传输方法，其特征在于，所述局部预测值安全传输方法，还包括定义对称正半定的核函数；
其中，定义所述对称正半定的核函数为，即
；
式中，，/>是测度；当/>返回一个列向量，则第/>个元素等于/>。
5.如权利要求2所述的局部预测值安全传输方法，其特征在于，当函数为来自高斯过程先验概率分布的一个采样时，先验分布的均值函数为/>，核函数是/>，则训练输出和测试输出/>服从联合概率分布：
式中，和/>返回由/>和/>组成的向量，/>返回一个矩阵使得第/>行第/>列的元素是/>。
6.如权利要求5所述的局部预测值安全传输方法，其特征在于，高斯过程回归利用训练集预测测试数据集/>的输出，输出/>服从正态分布，；
其中，
；
在分布式机器学习中，一个网络中有个工作机，则定义该集合为/>，在每一个时刻/>，每一个工作机/>利用局部的训练数据/>来预测函数对于测试输入/>的输出：
，/>；
每一个工作机训练的局部预测值为：
。
7.如权利要求1所述的局部预测值安全传输方法，其特征在于，所述局部预测值安全传输方法，还包括基于洛伦兹混沌系统的局部模型预测加密算法，其中，基于洛伦兹混沌系统的局部模型预测加密算法的构造步骤如下：
将洛伦兹系统转化为TS模糊模型；
数据注入洛伦兹混沌系统，将数据注入洛伦兹混沌系统的状态方程以及输出方程中；
并联固定位流加密系统，将洛伦兹流加密系统按固定位数进行并联；
密钥选择为系统初始值以及系统参数。
8.一种计算机设备，其特征在于，所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的局部预测值安全传输程序，其中所述局部预测值安全传输程序被所述处理器执行时，实现如权利要求1至7中任一项所述的局部预测值安全传输方法的步骤。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有局部预测值安全传输程序，其中所述局部预测值安全传输程序被处理器执行时，实现如权利要求1至7中任一项所述的局部预测值安全传输方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210763601.2A CN115174191B (zh) | 2022-06-30 | 2022-06-30 | 一种局部预测值安全传输方法、计算机设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210763601.2A CN115174191B (zh) | 2022-06-30 | 2022-06-30 | 一种局部预测值安全传输方法、计算机设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115174191A CN115174191A (zh) | 2022-10-11 |
| CN115174191B true CN115174191B (zh) | 2024-01-09 |
Family
ID=83489871
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210763601.2A Active CN115174191B (zh) | 2022-06-30 | 2022-06-30 | 一种局部预测值安全传输方法、计算机设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115174191B (zh) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115392493A (zh) * | 2022-10-28 | 2022-11-25 | 苏州浪潮智能科技有限公司 | 一种分布式预测方法、系统、服务器及存储介质 |
| CN115456202B (zh) * | 2022-11-08 | 2023-04-07 | 苏州浪潮智能科技有限公司 | 一种提高工作机学习性能的方法、装置、设备及介质 |
| CN115664632B (zh) * | 2022-11-10 | 2023-03-21 | 苏州浪潮智能科技有限公司 | 一种基于同态加密的预测模型训练方法、系统、设备及介质 |
| CN117370473B (zh) * | 2023-12-07 | 2024-03-01 | 苏州元脑智能科技有限公司 | 基于完整性攻击的数据处理方法、装置、设备及存储介质 |
| CN117370471B (zh) * | 2023-12-07 | 2024-02-27 | 苏州元脑智能科技有限公司 | 基于修剪平均的全局预测方法、装置、设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112907781A (zh) * | 2021-02-07 | 2021-06-04 | 中国人民解放军国防科技大学 | 一种系统故障诊断方法、装置、计算机设备和存储介质 |
| CN113076551A (zh) * | 2021-05-22 | 2021-07-06 | 河南大学 | 基于提升方案和跨分量置乱的彩色图像加密方法 |
| CN114117502A (zh) * | 2022-01-21 | 2022-03-01 | 苏州浪潮智能科技有限公司 | 一种数据加解密方法、系统、设备及计算机可读存储介质 |
| CN114338022A (zh) * | 2022-03-10 | 2022-04-12 | 山东云海国创云计算装备产业创新中心有限公司 | 一种图像加密方法、系统、装置及计算机可读存储介质 |
-
2022
- 2022-06-30 CN CN202210763601.2A patent/CN115174191B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112907781A (zh) * | 2021-02-07 | 2021-06-04 | 中国人民解放军国防科技大学 | 一种系统故障诊断方法、装置、计算机设备和存储介质 |
| CN113076551A (zh) * | 2021-05-22 | 2021-07-06 | 河南大学 | 基于提升方案和跨分量置乱的彩色图像加密方法 |
| CN114117502A (zh) * | 2022-01-21 | 2022-03-01 | 苏州浪潮智能科技有限公司 | 一种数据加解密方法、系统、设备及计算机可读存储介质 |
| CN114338022A (zh) * | 2022-03-10 | 2022-04-12 | 山东云海国创云计算装备产业创新中心有限公司 | 一种图像加密方法、系统、装置及计算机可读存储介质 |
Non-Patent Citations (4)
| Title |
|---|
| Design and analysis of a novel chaos-based image encryption algorithm via switch control mechanism;Shenyong Xiao, etc.;《Hindawi》;第1-12页 * |
| Image Encryption Based on Improved Lorenz System;Chengye Zou, etc.;《IEEE》;全文 * |
| 向量运算加速的超混沌图像加密算法;葛滨;《西安电子科技大学学报》;全文 * |
| 针对基于感知器模型的混沌图像加密算法的选择明文攻击;朱淑芹;王文宏;李俊青;;计算机科学(第04期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115174191A (zh) | 2022-10-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN115174191B (zh) | 一种局部预测值安全传输方法、计算机设备和存储介质 | |
| Zhou et al. | Quantum image encryption scheme with iterative generalized Arnold transforms and quantum image cycle shift operations | |
| Mani et al. | Adaptive control for fractional order induced chaotic fuzzy cellular neural networks and its application to image encryption | |
| Xiong et al. | Toward lightweight, privacy-preserving cooperative object classification for connected autonomous vehicles | |
| Wang et al. | LiPSG: Lightweight privacy-preserving Q-learning-based energy management for the IoT-enabled smart grid | |
| CN110008717A (zh) | 支持隐私保护的决策树分类服务系统及方法 | |
| Mendis et al. | A blockchain-powered decentralized and secure computing paradigm | |
| Chen et al. | Privacy-preserving image multi-classification deep learning model in robot system of industrial IoT | |
| Luo et al. | SecFact: Secure large-scale QR and LU factorizations | |
| Baryalai et al. | Towards privacy-preserving classification in neural networks | |
| AU2021102261A4 (en) | Density-based distributed stochastic gradient federated learning algorithm to Byzantine attack | |
| Zhang et al. | Privacy security in control systems | |
| Weng et al. | pvcnn: Privacy-preserving and verifiable convolutional neural network testing | |
| Zhang et al. | Joint intelligence ranking by federated multiplicative update | |
| Tian et al. | Low-latency privacy-preserving outsourcing of deep neural network inference | |
| Al-Maslamani et al. | Toward secure federated learning for iot using drl-enabled reputation mechanism | |
| CN117034307A (zh) | 数据加密方法、装置、计算机设备和存储介质 | |
| Ardhianto et al. | Covertext generation using fuzzy logic approach in parallel encryption with digit arithmetic of covertext to improve information confidentiality | |
| Wang et al. | Blockchain-Enabled Lightweight Fine-Grained Searchable Knowledge Sharing for Intelligent IoT | |
| Arora et al. | Application of Artificial Neural Network in Cryptography | |
| Feng et al. | Digital Image Encryption Algorithm Based on Double Chaotic Map and LSTM. | |
| Curran et al. | Oblivious sensor fusion via secure multi-party combinatorial filter evaluation | |
| Sawant | Enhancing encryption in cloud computing and reducing energy usage by using PSO-ALO algorithm to improve homomorphic encryption technique | |
| Sivaranjani et al. | ECC-based privacy-preserving mechanisms using deep learning for industrial IoT: a State-of-the-Art approaches | |
| CN112054891A (zh) | 基于区块链的共有用户确定方法、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |