CN114978654A - 一种基于深度学习的端到端通信系统攻击防御方法 - Google Patents
一种基于深度学习的端到端通信系统攻击防御方法 Download PDFInfo
- Publication number
- CN114978654A CN114978654A CN202210533212.0A CN202210533212A CN114978654A CN 114978654 A CN114978654 A CN 114978654A CN 202210533212 A CN202210533212 A CN 202210533212A CN 114978654 A CN114978654 A CN 114978654A
- Authority
- CN
- China
- Prior art keywords
- vector
- defense
- attack
- def
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1441—Countermeasures against malicious traffic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/20—Network architectures or network communication protocols for network security for managing network security; network security policies in general
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/12—Detection or prevention of fraud
- H04W12/121—Wireless intrusion detection systems [WIDS]; Wireless intrusion prevention systems [WIPS]
- H04W12/122—Counter-measures against attacks; Protection against rogue devices
Landscapes
- Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种基于深度学习的端到端通信系统攻击防御方法,其步骤包括:1)发射机将待发送信号通过发送网络编码后经通信信道发送给接收机;2)接收机通过所述通信信道获取发送信号对应的信息向量x并对信息向量x进行k次迭代运算,每次迭代运算利用目标攻击算法得到一攻击向量;然后将最后一次迭代所得攻击向量xadv的相反方向,作为防御向量的方向,得到防御向量xdef=‑ξdef*(xadv‑x0);其中,x0=x,ξdef为防御半径;3)接收机将所述防御向量xdef和信息向量x输入接收网络进行解码,得到对应的解码信号。本发明大大提升了端到端通信系统的安全性能,具有广阔的应用前景。
Description
技术领域
本发明属于计算机可信计算技术领域,具体涉及一种基于深度学习的端到端通信系统攻击防御方法。
背景技术
现如今5G技术发展迅速并且已经广泛推广应用,6G通信的相关研究已经开始蓬勃发展。深度学习方法的引入给通信系统的研究带来的更多活力,同时也携带了一些潜在的风险。神经网络本身面临着针对性的攻击风险,可能会被攻击者以不易察觉的扰动实施攻击,并导致严重的性能下降。因此,通过神经网络实现的通信系统,也将面临着神经网络模型被攻击和干扰的安全问题,且与传统攻击方法不同,需要更有针对性的算法作为这一问题的解决方案。
端到端通信系统由神经网络实现,参考自动编码器的原理,利用神经网络建模通信系统中的发射机与接收机,结合已知的信道模型,完成系统仿真的功能。与传统模块化设计的通信系统比较而言,端到端系统设计跨越了模块之间的障碍,以更直接的目标完成网络训练,达到联合优化的效果。对于系统性能的评估,采用误帧率(BLER)作为标准,绘制不同信噪比(SNR)下的误帧率曲线。
攻击算法的原理,是向神经网络即将训练或者推理的数据集样本中添加不明显的干扰,这种干扰不会使得样本特征出现很大改变,但会导致训练或者推理过程出现偏差,即实现了攻击行为。攻击行为可以根据先验知识的多少分为黑盒攻击、灰盒攻击以及白盒攻击。黑盒攻击指攻击者对于被攻击模型没有任何信息,白盒攻击指攻击者有被攻击模型的全部结构和参数信息,灰盒攻击介于两者之间。本发明中针对的所有攻击方法均为白盒攻击。常用的白盒攻击FGSM算法和PGD算法是通过获取模型的梯度,利用梯度的方向信息,使得损失函数产生逐渐增大的趋势,导致预测概率发生变化,完成攻击行为。
发明内容
针对现有技术中存在的问题,本发明的目的在于提供一种基于深度学习的端到端通信系统攻击防御方法。本发明通过添加梯度反方向的防御向量,提高针对神经网络设计的攻击的安全性能。防御向量的设计包括方向和大小两个方面,从经典的攻击算法原理出发,结合模型的梯度进行设计,目的在于降低攻击行为的成功率,实现防御效果。本发明不仅提高了对于神经网络攻击行为的鲁棒性,也提高了系统本身在安全环境下仅含信道噪声情况时的性能。
本发明的技术方案为:
一种基于深度学习的端到端通信系统攻击防御方法,其步骤包括:
1)发射机将待发送信号通过发送网络编码后经通信信道发送给接收机;
2)接收机通过所述通信信道获取发送信号对应的信息向量x并对信息向量x进行k次迭代运算,每次迭代运算利用目标攻击算法得到一攻击向量;然后将最后一次迭代所得攻击向量xadv的相反方向,作为防御向量的方向,得到防御向量xdef=-ξdef*(xadv-x0);其中,x0=x,ξdef为防御半径;
3)接收机将所述防御向量xdef和信息向量x输入接收网络进行解码,得到对应的解码信号。
进一步的,k次迭代后获得防御向量xdef=-ξdef*(xk-x0),xadv=xk; 其中,t=0,1,…,k-1,k;迭代步长为α,表示当接收模块网络模型参数为θ,第t次迭代时的输入信息向量为xt,对应标签为y时的损失函数,每次迭代时的输入信息向量对应的标签y均为信息向量x;为输入信息向量为xt时损失函数对应的梯度,符号函数sign(·)用于获取梯度方向,映射函数clip(·)用于将得到的干扰后的向量裁剪到规定的最大干半径ξ之内。
进一步的,所述目标攻击算法为白盒攻击算法。
进一步的,所述目标攻击算法为FGSM算法或者PGD算法。
本发明的优点如下:
本发明从深度学习基本原理出发,设计了迭代梯度防御算法,通过设置迭代的步长和步数以及防御强度,实现对于端到端通信系统安全性能的提升。经过仿真实验验证,本算法能够有效的抵御针对神经网络的攻击,尤其是以梯度为原理的攻击,保证了通信系统对于攻击的鲁棒性。此外,本方法还能够一定程度上提高系统对于信道噪声的抗干扰能力,进一步提高了通信模型的性能。除了端到端系统这一典型案例,本方法也可以用于缓解其他基于神经网络的通信模型的安全问题,具有广阔的应用前景。
附图说明
图1是本发明的方法流程图。
图2是迭代梯度防御法方向选择示意图。
图3是防御向量对系统性能的影响。
图4是防御强度对防御能力和系统性能的影响。
图5是迭代梯度法设计的防御向量对FGSM攻击的响应。
具体实施方式
下面结合附图对本发明进行进一步详细描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
本发明的技术方案具体流程如图1所示。
本发明基于梯度设计了防御向量,叠加在信息向量上,实现在不影响原模型性能的前提下,防御攻击算法。防御向量的设计包括大小和方向两个方面。关于防御向量的大小,参照信噪比定义了防御强度(SDR)的概念,同理攻击强度(SPR)用于表示攻击向量的大小,即信号与防御/攻击向量的功率之比。该强度值越小,说明防御或者攻击向量功率越大,强度越大,反之亦然。两者定义如式1和2所示:
其中,Psignal代指信号功率,Pdefense表示防御向量功率,Pperturbation表示攻击向量功率,分母处100*Pdefense扩大100倍是由于通常攻击和相应的防御向量都比较小,通过添加一个因子使得防御向量和信息向量之间的量级不会有太大的差距。
本发明提出了一种迭代梯度防御法,结合经典攻击方法PGD算法的基本原理,进行防御向量方向的选择。PGD算法通过自定义步长、步数以及干扰范围,在多次迭代中获取并调整梯度的方向,能够提高攻击行为的成功率。相应的防御方法设计,为了简化计算过程,直接选取PGD算法经过k次迭代后得到的攻击向量的相反方向,作为防御向量的方向,形式上虽然是一步到位的设计,但向量方向经过多次迭代后修正,相对更加精确。k次迭代后获得防御向量的具体表达式如下:
x0=x; (3)
xadv=xk (5)
xdef=-ξdef*(xk-x0) (6)
迭代的步长为α,总迭代步数为k,算法起始点从信息向量x本身出发,表示当接收机网络模型(具体结构参照表1)参数为θ,输入样本为xt,对应标签为y时的损失函数;每次迭代时样本的标签为向量x,即第t次迭代时的输入样本xt对应的标签y为向量x。每次迭代的递推中通过计算样本xt对应损失函数的梯度,并利用符号函数sign(·)获取梯度方向。迭代完成后利用映射函数clip(·)的作用是将得到的叠加干扰后的向量裁剪到规定的最大干扰范围,即干扰半径ξ之内。在进行下一次迭代时,梯度方向进行更新,继续进行叠加过程直至迭代结束。结合具体表达式来看,防御向量的方向与差值向量(xk-x0)的反方向一致,大小通过防御半径ξdef控制,得到最终的防御向量xdef。图形化表示如图2所示。
非线性的模型可能在较小的范围内梯度有剧烈的变化,对于一次性获取的梯度方向可能存在误差,而采用迭代的方法不断调整梯度的方向,能更好地应对这种情况。对于攻击方法来说,攻击方向更加精准;相应地对于防御行为来说,也能够具有更强的鲁棒性。
在有攻击的情况下,最终进入接收机的是信息向量、攻击向量和防御向量之和;无攻击情况下,接收机的输入是信息向量和防御向量的叠加。基本原理是通过防御向量的叠加,将超出决策边界的部分抵消,从而不影响分类结果。
算法方案基本流程:
1.发射信号通过接收机后,在高斯白噪声信道进行传播的含噪声的信息向量为x。
2.根据接收机网络参数,利用式3~5计算k次迭代后的攻击向量xadv,其中x0=x。
3.计算信息向量x的功率Px,由人为设定的防御强度SDR换算为防御半径ξdef
4.计算防御向量xdef=-ξdef*(xadv-x)。
5.防御向量叠加于x:x=x+xdef。
6.如有攻击存在,则向步骤5得到的结果向量继续叠加攻击向量xadv:x=x+xadv攻击向量通过FGSM或者PGD算法计算得出。
7.步骤6得到的向量x通过接收机网络(结构参照表1)实现映射,获得接收序列。
性能分析与仿真结果
1.系统设计基础
基础通信系统模型包括发射机、接收机和信道三部分,信道采用高斯白噪声信道,发射机和接收机通过全连接神经网络建模。仿真实验应用(64,16)编码方式,即信息向量长度为16比特,经过发射机类似于编码操作的处理后得到64比特的向量,通过信道之后进行接收相关处理。具体网络参数设计参见表1:
表1基础通信系统模型网络结构
在进行防御算法设计的仿真实验时,所有涉及网络训练的训练参数均设定为信噪比EbN0=5dB,攻击强度SPR=4dB。推理阶段改变信噪比或者防御强度进行性能的评估,并寻求参数的最优设置。
2.仿真结果
实验关注基于迭代梯度法设计的防御向量在无攻击、有攻击以及不同攻击强度下的表现,探索相关参数的最佳设置,以及对于其他攻击方法的响应,以验证本算法的可迁移性。
图3反映了防御向量的设计对系统性能的影响,以及不同防御半径产生的不同效果。由图像可见,随着防御强度的增加,系统对攻击和噪声的防御能力都在逐渐增强,提高了系统对于攻击的鲁棒性并且同时提升了模型在安全环境下的性能。但防御向量的功率也不能无限增加,否则必定会影响到系统本身的信号传输过程。图4所示实验通过固定攻击强度和信噪比,观测防御强度对于误码率的影响。
由图4可见在无攻击情况下攻击强度SDR=-3dB误码率达到最低,而有攻击的情况下SDR=-6dB时为最小值点,在-6dB<SDR<-4dB之间对于有无攻击两种情况的误码率取值都在一个相对较低的水平,可以取其折中,使得不论在有无攻击的情况下,模型的性能都能保持在一个较好的水准。
仿真实验也证明了本发明对于其他攻击算法,例如FGSM算法的可迁移性。图5的实验结果证明,基于迭代梯度防御算法设计的防御向量对于FGSM攻击算法也具有显著的防御能力。由于迭代过程对模型梯度的获取更加精确,因此对于一步获取梯度的FGSM攻击方法有明显的效果。依次类推,本防御方法对其他基于梯度设计的攻击算法都能起到防御的作用。
尽管为说明目的公开了本发明的具体实施例,其目的在于帮助理解本发明的内容并据以实施,本领域的技术人员可以理解:在不脱离本发明及所附的权利要求的精神和范围内,各种替换、变化和修改都是可能的。因此,本发明不应局限于最佳实施例所公开的内容,本发明要求保护的范围以权利要求书界定的范围为准。
Claims (5)
1.一种基于深度学习的端到端通信系统攻击防御方法,其步骤包括:
1)发射机将待发送信号通过发送网络编码后经通信信道发送给接收机;
2)接收机通过所述通信信道获取发送信号对应的信息向量x并对信息向量x进行k次迭代运算,每次迭代运算利用目标攻击算法得到一攻击向量;然后将最后一次迭代所得攻击向量xadv的相反方向,作为防御向量的方向,得到防御向量xdef=-ξdef*(xadv-x0);其中,x0=x,ξdef为防御半径;
3)接收机将所述防御向量xdef和信息向量x输入接收网络进行解码,得到对应的解码信号。
4.根据权利要求1所述的方法,其特征在于,所述目标攻击算法为白盒攻击算法。
5.根据权利要求4所述的方法,其特征在于,所述目标攻击算法为FGSM算法或者PGD算法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210533212.0A CN114978654B (zh) | 2022-05-12 | 2022-05-12 | 一种基于深度学习的端到端通信系统攻击防御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210533212.0A CN114978654B (zh) | 2022-05-12 | 2022-05-12 | 一种基于深度学习的端到端通信系统攻击防御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114978654A true CN114978654A (zh) | 2022-08-30 |
CN114978654B CN114978654B (zh) | 2023-03-10 |
Family
ID=82984255
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210533212.0A Active CN114978654B (zh) | 2022-05-12 | 2022-05-12 | 一种基于深度学习的端到端通信系统攻击防御方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114978654B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108718310A (zh) * | 2018-05-18 | 2018-10-30 | 安徽继远软件有限公司 | 基于深度学习的多层次攻击特征提取及恶意行为识别方法 |
CN109948658A (zh) * | 2019-02-25 | 2019-06-28 | 浙江工业大学 | 面向特征图注意力机制的对抗攻击防御方法及应用 |
CN110941794A (zh) * | 2019-11-27 | 2020-03-31 | 浙江工业大学 | 一种基于通用逆扰动防御矩阵的对抗攻击防御方法 |
CN111860832A (zh) * | 2020-07-01 | 2020-10-30 | 广州大学 | 一种基于联邦学习的增强神经网络防御能力的方法 |
CN112115469A (zh) * | 2020-09-15 | 2020-12-22 | 浙江科技学院 | 基于Bayes-Stackelberg博弈的边缘智能移动目标防御方法 |
CN114387449A (zh) * | 2021-12-25 | 2022-04-22 | 中国人民解放军空军预警学院 | 一种应对神经网络对抗性攻击的图像处理方法及系统 |
-
2022
- 2022-05-12 CN CN202210533212.0A patent/CN114978654B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108718310A (zh) * | 2018-05-18 | 2018-10-30 | 安徽继远软件有限公司 | 基于深度学习的多层次攻击特征提取及恶意行为识别方法 |
CN109948658A (zh) * | 2019-02-25 | 2019-06-28 | 浙江工业大学 | 面向特征图注意力机制的对抗攻击防御方法及应用 |
CN110941794A (zh) * | 2019-11-27 | 2020-03-31 | 浙江工业大学 | 一种基于通用逆扰动防御矩阵的对抗攻击防御方法 |
CN111860832A (zh) * | 2020-07-01 | 2020-10-30 | 广州大学 | 一种基于联邦学习的增强神经网络防御能力的方法 |
CN112115469A (zh) * | 2020-09-15 | 2020-12-22 | 浙江科技学院 | 基于Bayes-Stackelberg博弈的边缘智能移动目标防御方法 |
CN114387449A (zh) * | 2021-12-25 | 2022-04-22 | 中国人民解放军空军预警学院 | 一种应对神经网络对抗性攻击的图像处理方法及系统 |
Non-Patent Citations (3)
Title |
---|
CAMILO PESTANA; NAVEED AKHTAR; WEI LIU; DAVID GLANCE; AJMAL MIAN: "Adversarial Attacks and Defense on Deep Learning Classification Models using YCbCr Color Images", 《2021 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS (IJCNN)》 * |
李文欢: "电力CPS中网络攻击预测与防御方法研究", 《中国优秀硕士学位论文全文数据库》 * |
王冠森: "基于机器学习的电网虚假数据注入攻击检测方法研究", 《CNKI中国优秀硕士学位论文全文数据库》 * |
Also Published As
Publication number | Publication date |
---|---|
CN114978654B (zh) | 2023-03-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109948658B (zh) | 面向特征图注意力机制的对抗攻击防御方法及应用 | |
CN112308133A (zh) | 基于卷积神经网络的调制识别方法 | |
CN112887239B (zh) | 基于深度混合神经网络的快速准确水声信号调制方式识别方法 | |
CN110941794A (zh) | 一种基于通用逆扰动防御矩阵的对抗攻击防御方法 | |
CN111178504B (zh) | 基于深度神经网络的鲁棒压缩模型的信息处理方法及系统 | |
CN111740934A (zh) | 一种基于深度学习的水声fbmc通信信号检测方法 | |
CN114531274A (zh) | 通信信号调制识别的智能对抗方法、系统、介质及设备 | |
CN112115821A (zh) | 一种基于小波近似系数熵的多信号智能调制模式识别方法 | |
CN113627479A (zh) | 一种基于半监督学习的图数据异常检测方法 | |
CN114070354B (zh) | 基于gs迭代法的自适应分段矩阵逆跟踪mimo检测方法 | |
CN114978654B (zh) | 一种基于深度学习的端到端通信系统攻击防御方法 | |
CN114499601A (zh) | 一种基于深度学习的大规模mimo信号检测方法 | |
Cao et al. | Learning to denoise and decode: A novel residual neural network decoder for polar codes | |
Gao et al. | Defensive distillation based end-to-end auto-encoder communication system | |
CN115270891A (zh) | 一种信号对抗样本的生成方法、装置、设备及存储介质 | |
CN111786915B (zh) | 非线性失真条件下基于深度学习的无线通信方法及其系统 | |
CN114584337A (zh) | 一种基于遗传算法的语音攻击伪造方法 | |
Zhang et al. | A neural rejection system against universal adversarial perturbations in radio signal classification | |
Ma et al. | Faking signals to fool deep neural networks in AMC via few data points | |
Gomes et al. | CNN-based learning system in a generalized fading environment | |
CN113193925B (zh) | 一种通信系统的优化处理方法、装置及电子设备 | |
Xie et al. | Deep Learning-Based Adaptive Joint Source-Channel Coding using Hypernetworks | |
CN108449120B (zh) | 一种基于差分度量低复杂度qam-mimo检测方法 | |
CN113973041B (zh) | 一种太赫兹信号解调方法、装置和电子设备 | |
CN115828154B (zh) | 一种lpi雷达信号识别方法、系统、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |