CN115186797B - 一种语用通信方法及系统 - Google Patents
一种语用通信方法及系统 Download PDFInfo
- Publication number
- CN115186797B CN115186797B CN202210631432.7A CN202210631432A CN115186797B CN 115186797 B CN115186797 B CN 115186797B CN 202210631432 A CN202210631432 A CN 202210631432A CN 115186797 B CN115186797 B CN 115186797B
- Authority
- CN
- China
- Prior art keywords
- message
- agent
- trained
- transmitted
- sender
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/20—Network architectures or network communication protocols for network security for managing network security; network security policies in general
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Computer Hardware Design (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Telephonic Communication Services (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明公开了一种语用通信方法及系统,涉及通信技术领域。包括:训练好的发送方智能体根据语用意图,得到待传输的消息,并将待传输的消息通过神经网络输出层传输到训练好的接收方智能体;训练好的接收方智能体通过神经网络输入层接收待传输的消息,并对待传输的消息进行译码,得到译码后的消息;训练好的接收方智能体通过全连接的权重矩阵接收译码后的消息并理解消息的意图,结合训练好的接收方智能体自身信息,做出行为决策。本发明适用于信令信道受限,且硬件条件受限的分布式协同系统;解决分布式系统由于硬件算力限制,安全性不高的问题。
Description
技术领域
本发明涉及通信技术领域,特别是指一种语用通信方法及系统。
背景技术
1948年香农奠基经典信息论之后,通信的发展已经逐步逼近理论极限,如果无法在理论上突破经典信息论,通信学科的发展将受到阻碍。香农和Weaver将通信分成三个层次:1.传比特;2.“达意”;3.通信之后,通信主体行为发生改变,从而“达效”。限于当时的条件,香农不考虑信息的涵义,只对概率信息熵度量;不分析通信主体,将信源作为通信系统的外部输入。然而,建立在概率信息基础上的通信系统,信源编码逼近了信源熵/率失真函数;信道编码已经逼近信道容量。
作为6G移动通信的重要候选技术,语义通信认为突破经典通信系统的关键在于传递更高层次的信息。现有通信系统的目标是传输信号,衡量指标为误码率。语义通信只要求语义信息的匹配,而不要求编译码序列的无差错匹配,衡量指标多样,比如自然语言信息的句子相似度,误词率和图像信息的失真度。语义通信放松了差错要求,其本质是用更高层次的语义信息提取和压缩了比特信息,当传送相同的比特时,增加了冗余。因此,语义通信有望突破理论极限,实现通信学科的进一步发展。
回归通信的真正目的,不光要“达意”,也要“达效”,做到目标导向,因此要进行语用通信的研究。实现语用通信最直接的方式,是在接收语义的基础上添加功能,实现语用。通信的轻量化是语用通信的根本动机,是其能运用于分布式场景轻量化设备的前提。
现有的语义通信研究中,在发送端,信源产生的信息首先送入语义提取模块,产生语义表征序列,接着送入语义信源编码器,对语义特征压缩编码,然后送入信道编码器,产生信道编码序列,送入传输信道。在接收端,信道输出信号首先送入信道译码模块,输出的译码序列再送入语义信源译码器,得到的语义表征序列再送入语义恢复与重建模块,最终得到信源数据送入信宿。信源依旧是系统的外部输入,由通信主体产生,通信系统只在虚线框内,由于没有考虑信源的产生,只能做到语义层的编解码。因此,如何在带宽受限,信道条件差的分布式场景下进行通信,是现有技术亟待解决的问题。
发明内容
本发明针对现有技术如何设计出适用于信令信道受限,且硬件条件受限的分布式协同系统通信的方法以及分布式系统由于硬件算力限制,安全性不高的问题,提出了本发明。
为解决上述技术问题,本发明提供如下技术方案:
一方面,本发明提供了一种语用通信方法,该方法由语用通信系统实现,语用通信系统包括系统包括训练好的发送方智能体以及训练好的接收方智能体;方法包括:
S1、训练好的发送方智能体根据语用意图,得到待传输的消息,并将待传输的消息通过神经网络输出层传输到训练好的接收方智能体。
S2、训练好的接收方智能体通过神经网络输入层接收待传输的消息,并对待传输的消息进行译码,得到译码后的消息。
S3、训练好的接收方智能体通过全连接的权重矩阵接收译码后的消息并理解消息的意图,结合训练好的接收方智能体自身信息,做出行为决策。
可选地,发送方智能体以及接收方智能体的训练过程包括:
S11、发送方智能体根据语用意图产生神经冲动,神经冲动经过神经网络输出层输出,产生待传递的消息。
S12、待传递的消息通过全连接的权重矩阵传输到差量通信系统中,差量通信系统将待传递的消息发送到信道中。
S13、接收方智能体通过信道接收消息,并对消息进行译码,得到译码后的消息。
S14、译码后的消息通过全连接的权重矩阵发送到接收方智能体的输入层。
S15、接收方智能体根据译码后的消息以及自身信息,做出环境动作,获得奖励,产生损失函数以及误差,误差经信道反向传播到发送方智能体;其中,损失函数为消息对接收方智能体行为的影响。
S16、根据误差对发送方智能体进行调整。
S17、重复上述S11-S16,直到误差小于或等于预设阈值,则结束调整,得到训练好的发送方智能体以及接收方智能体。
可选地,S12中的差量通信系统将待传递的消息发送到信道中包括:
在发送方智能体以及接收方智能体的训练过程中,差量通信系统将待传递的消息形成可求导的浮点型消息,将浮点型消息训练为0和1发送到信道中。
可选地,S12中的差量通信系统将待传递的消息发送到信道中包括:
在训练好的发送方智能体以及接收方智能体消息传递中,差量通信系统将待传递的消息形成比特数据,发送到信道中。
可选地,待传输的消息通过神经网络输出层传输到训练好的接收方智能体包括:
待传输的消息经发送方智能体神经网络输出层的最后一层传输到训练好的接收方智能体神经网络输入层的第一层。
可选地,方法还包括根据对环境信息的观测以及结合语义消息和对过去行为的记忆,更新发送方智能体以及接收方智能体的信息库,得到最佳的行为决策。
可选地,S1中的待传输的消息的大小由消息所需的语义状态数量和时间维度的关系确定。
可选地,训练好的发送方智能体的输出层包括通信模块以及行为模块。
其中,通信模块通过神经网络输出层发送神经冲动。
行为模块用于做出行为决策。
另一方面,本发明提供了一种语用通信系统,该系统用于实现语用通信方法,该系统包括训练好的发送方智能体以及训练好的接收方智能体;其中:
训练好的发送方智能体,用于根据语用意图,得到待传输的消息,并将待传输的消息通过神经网络输出层传输到训练好的接收方智能体;
训练好的接收方智能体,用于通过神经网络输入层接收待传输的消息,并对待传输的消息进行译码,得到译码后的消息;训练好的接收方智能体通过全连接的权重矩阵接收译码后的消息并理解消息的意图,结合训练好的接收方智能体自身信息,做出行为决策。
可选地,发送方智能体以及接收方智能体,进一步用于:
S11、发送方智能体根据语用意图产生神经冲动,神经冲动经过神经网络输出层输出,产生待传递的消息。
S12、待传递的消息通过全连接的权重矩阵传输到差量通信系统中,差量通信系统将待传递的消息发送到信道中。
S13、接收方智能体通过信道接收消息,并对消息进行译码,得到译码后的消息。
S14、译码后的消息通过全连接的权重矩阵发送到接收方智能体的输入层。
S15、接收方智能体根据译码后的消息以及自身信息,做出环境动作,获得奖励,产生损失函数以及误差,误差经信道反向传播到发送方智能体;其中,损失函数为消息对接收方智能体行为的影响。
S16、根据误差对发送方智能体进行调整。
S17、重复上述S11-S16,直到误差小于或等于预设阈值,则结束调整,得到训练好的发送方智能体以及接收方智能体。
可选地,发送方智能体,进一步用于:
在发送方智能体以及接收方智能体的训练过程中,差量通信系统将待传递的消息形成可求导的浮点型消息,将浮点型消息训练为0和1发送到信道中。
可选地,发送方智能体,进一步用于:
在训练好的发送方智能体以及接收方智能体消息传递中,差量通信系统将待传递的消息形成比特数据,发送到信道中。
可选地,发送方智能体以及接收方智能体,进一步用于:
待传输的消息经发送方智能体神经网络输出层的最后一层传输到训练好的接收方智能体神经网络输入层的第一层。
可选地,方法还包括根据对环境信息的观测以及结合语义消息和对过去行为的记忆,更新发送方智能体以及接收方智能体的信息库,得到最佳的行为决策。
可选地,待传输的消息的大小由消息所需的语义状态数量和时间维度的关系确定。
可选地,训练好的发送方智能体的输出层包括通信模块以及行为模块。
其中,通信模块通过神经网络输出层发送神经冲动。
行为模块用于做出行为决策。
本发明实施例提供的技术方案带来的有益效果至少包括:
上述方案中,语用通信适用于信令信道受限且硬件条件受限的分布式协同系统,如分布式及多跳智能反射面,无线局域网隐藏节点问题,动态频谱分配,无线原生AI系统的split learning,分布式通信感知一体化协同问题,天基互联网络路由和移动计算等场景。语用通信在应用上的优势可以凝练为两点:轻量化和安全性。
轻量化:第一,通信的轻量化,语义通信之所以可以放松差错要求,突破香农极限,其实质是语义信息更凝练,发送相同比特条件下,增加了冗余量。本发明所研究的目标导向性更强的“灵”与“灵”的通信,甚至可以用一个比特表达三个状态(时间维度提供额外信息),因此语用通信有望在带宽受限,信道条件差的分布式场景下通信。第二,设备的轻量化,智能体网络模型结构简单,维度和深度受限,可以在物联网设备上实现。设备轻量化包括更大程度上压缩设备制造和运维成本,提升资产利用率;还包括在设备改造后仍覆盖原有需求内容,在改造设备成本的基础上,满足应对常态化传递消息等场景。
安全性:分布式系统由于硬件算力限制,其安全性问题一直困扰学术界和工业界,亟待解决。本发明提出的具体方案将在原理上防止窃听者仅通过截获消息内容就理解语义内涵,所述的安全性能包括窃听者不可以仅通过消息内容就轻松获知任务目标、行为空间,甚至发送方智能体的网络结构,因此不需要为安全性配置更多算力资源。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的语用通信方法流程示意图;
图2是本发明实施例提供的语用通信系统框图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。
如图1所示,本发明实施例提供了一种语用通信方法,该方法可以由语用通信系统实现,语用通信系统包括训练好的发送方智能体以及训练好的接收方智能体。语用通信聚焦于智能体之间的通信,无需数据集,能生成贯序动作,从而改变智能体的行为决策。而现有语义通信只要求语义信息的匹配,不要求编译码序列的无差错匹配,通过放松差错要求从而打破香农容限。语义通信的本质是压缩,没有回归通信改变行为决策的本来目的。而语用通信聚焦于智能体之间的通信,生成贯序动作,因此语用通信是语义通信的补充和扩展。
如图1所示的语用通信方法流程图,该方法的处理流程可以包括如下的步骤:
S1、训练好的发送方智能体根据语用意图,得到待传输的消息,并将待传输的消息通过神经网络输出层传输到训练好的接收方智能体。
可选地,待传输的消息通过神经网络输出层传输到训练好的接收方智能体包括:
待传输的消息经发送方智能体神经网络输出层的最后一层传输到训练好的接收方智能体神经网络输入层的第一层。
一种可行的实施方式中,训练好的发送方智能体结合观测到的环境信息,得到要发送的任务消息,并将所述任务消息通过神经网络输出层传输出去;并将要传输的消息增加冗余。
具体地,从保密通信的视角看,窃听者方的智能体无法参与训练,仅能通过窃听比特数据类型的消息训练神经网络,无法求导以训练网络。即便传输的是可以求导的连续浮点数据,理解浮点型消息就需要:第一,猜测我方智能体神经网络的维度,深度以及结构,并且搭建一个具有相同神经网络,相同行为空间,对环境有相同观察的窃听智能体;第二,把消息对应不同的状态;第三,需要训练节点与输入层的全连接权重;第四,需要在环境种做出动作以获得损失函数,用于神经网络的隐藏层。其难度无异于从零开始学习语言,并完成机器语言环境下的“图灵测试”,并且在此过程中,需要长时间的窃听、观察和行为,不被我方察觉。我方消息在发送之前还可以增加冗余,在无线恶劣环境中提高发送消息的成功率,也可以进一步加强安全性,使得窃听者无法猜测窃听到的消息。
S2、训练好的接收方智能体通过神经网络输入层接收待传输的消息,并对待传输的消息进行译码,得到译码后的消息。
S3、训练好的接收方智能体通过全连接的权重矩阵接收译码后的消息并理解消息的意图,结合训练好的接收方智能体自身信息,做出行为决策。
可选地,方法还包括根据对环境信息的观测以及结合语义消息和对过去行为的记忆,更新发送方智能体以及接收方智能体的信息库,得到最佳的行为决策。
一种可行的实施方式中,训练好的接收方智能体根据每一层的每个神经元都与上一层的每个神经元连接,每条连接都有一个权重来进行传递的方法。通过全连接的权重矩阵接收译码后的任务消息并理解意图,结合接收方智能体自身信息,并更新自己的信息库,同时根据任务消息和自己的消息库做出最佳行为决策。
可选地,发送方智能体以及接收方智能体的训练过程包括:
S11、发送方智能体根据语用意图产生神经冲动,神经冲动经过神经网络输出层输出,产生待传递的消息。
其中,神经冲动和消息是不同场景下的概念,本质上是一样的,神经冲动是要经过胶水神经层进行降维的。
S12、待传递的消息通过全连接的权重矩阵传输到差量通信系统中,差量通信系统将待传递的消息发送到信道中。
一种可行的实施方式中,负责通信的神经元产生神经冲动后,经过胶水神经层降维设计,将信息传输到差量通信系统中,经过任意编码规则(信源信道编码)形成比特消息调制发送到信道中胶水神经层用于发送方智能体的不同层之间通过轻量化的信道进行传递参数。
其中,胶水神经层是在通信场景下转换消息维度的中介,以适应自身神经网络的维度。轻量化的信道是信息的轻量化和传输信道的轻量化,预进行目标导向性更强的“灵”与“灵”的通信,甚至可以用一个比特表达三个状态。
可选地,S12中的差量通信系统将待传递的消息发送到信道中包括:
在发送方智能体以及接收方智能体的训练过程中,差量通信系统将待传递的消息形成可求导的浮点型消息,将浮点型消息训练为0和1发送到信道中。
一种可行的实施方式中,执行阶段,为了通信的轻量化,传到实际信道上的是比特数据,而不是浮点数据,因此需要在训练阶段将浮点数据逐渐训练为0和1。以便分散执行阶段发送比特型消息,实现轻量化的设计目标。
其中,语用通信系统的轻量化主要包括通信的轻量化和设备的轻量化,包括:
1、通信的轻量化,实现目标导向性更强的“灵”与“灵”的通信,甚至可以用一个比特表达三种状态。
2、设备的轻量化,智能体网络模型结构简单,维度和深度受限,可以在物联网设备上实现。设备轻量化包括更大程度上压缩设备制造和运维成本,提升资产利用率;还包括在设备改造后仍覆盖原有需求内容,在改造设备成本的基础上,满足应对常态化传递消息等场景。
3、系统的安全性,在原理上防止窃听者仅通过截获消息内容就理解语义内涵。具体地,安全性能包括窃听者不可以仅通过消息内容就轻松获知任务目标、行为空间,甚至发送方智能体的网络结构。
可选地,S12中的差量通信系统将待传递的消息发送到信道中包括:
在训练好的发送方智能体以及接收方智能体消息传递中,差量通信系统将待传递的消息形成比特数据,发送到信道中。
S13、接收方智能体通过信道接收消息,并对消息进行译码,得到译码后的消息。
S14、译码后的消息通过全连接的权重矩阵发送到接收方智能体的输入层。
S15、接收方智能体根据译码后的消息以及自身信息,做出环境动作,获得奖励,产生损失函数以及误差,误差经信道反向传播到发送方智能体;其中,损失函数为消息对接收方智能体行为的影响。
S16、根据误差对发送方智能体进行调整。
S17、重复上述S11-S16,直到误差小于或等于预设阈值,则结束调整,得到训练好的发送方智能体以及接收方智能体。
一种可行的实施方式中,训练阶段,消息对接收方智能体行为的影响量化为损失函数,且能通过梯度反向传播充分传回发送方智能体,并有效对发送方通信功能进行训练。人类语言不能作用于自然界,但人类具有的社交能力,通过语言,表情或者行动,可以对通信内容做出反馈。
训练过程中,做到协作策略稳定,尽量做到可通过观察通信内容就可以解释策略。训练完成时,隐藏训练阶段的信息,使得窃听者仅通过窃听通信内容,难以获知任务和环境,以及可能的行为空间,并最终得出智能体的协作策略和规则。
可选地,待传输的消息的大小由消息所需的语义状态数量和时间维度的关系确定。
一种可行的实施方式中,语义的信息量不等于一个消息的信息量,是某个智能体在一个单位时间内的所有信息量,而且一个消息在不同时刻的涵义可能不同,即在足够长的时间内,一个比特可以表达多种状态,不同的维度下表达的语义状态不同。
可选地,训练好的发送方智能体的输出层包括通信模块以及行为模块。
其中,通信模块通过神经网络输出层发送神经冲动。
行为模块用于做出行为决策。
可选地,方法还包括对信道扩容。
信道扩容的方法为增加不同符号的距离。
一种可行的实施方式中,为了实现语用通信的实用性的目标,消息的比特数量应当增加。然而,比特数量增加时,不同符号的相关性增加,梯度方向错误概率变高。为了加快训练过程,本发明提出“通道扩容”的方法,增加不同符号的距离,将梯度方向错误的概率变低。
可选地,方法还包括降维信道宽度。
一种可行的实施方式中,在消息大小高于一定比特数量时,“通道扩容”会给分布式硬件设备带来负担,本发明采用分割消息内容的方式降维通道宽度,实现可行性的目标。
本发明实施例中,语用通信适用于信令信道受限且硬件条件受限的分布式协同系统,如分布式及多跳智能反射面,无线局域网隐藏节点问题,动态频谱分配,无线原生AI系统的split learning,分布式通信感知一体化协同问题,天基互联网络路由和移动计算等场景。语用通信在应用上的优势可以凝练为三点:轻量化,安全性和对粘合分布式的神经网络。
轻量化:第一,通信的轻量化,语义通信之所以可以放松差错要求,突破香农极限,其实质是语义信息更凝练,发送相同比特条件下,增加了冗余量。本发明所研究的目标导向性更强的“灵”与“灵”的通信,甚至可以用一个比特表达三个状态(时间维度提供额外信息),因此语用通信有望在带宽受限,信道条件差的分布式场景下通信。第二,设备的轻量化,智能体网络模型结构简单,维度和深度受限,可以在物联网设备上实现。设备轻量化包括更大程度上压缩设备制造和运维成本,提升资产利用率;还包括在设备改造后仍覆盖原有需求内容,在改造设备成本的基础上,满足应对常态化传递消息等场景。
安全性:分布式系统由于硬件算力限制,其安全性问题一直困扰学术界和工业界,亟待解决。本发明提出的具体方案将在原理上防止窃听者仅通过截获消息内容就理解语义内涵,所述的安全性能包括窃听者不可以仅通过消息内容就轻松获知任务目标、行为空间,甚至发送方智能体的网络结构,因此不需要为安全性配置更多算力资源,因此不需要为安全性配置更多算力资源。
如图2所示,本发明实施例提供了一种语用通信系统,该系统用于实现语用通信方法,该系统包括训练好的发送方智能体以及训练好的接收方智能体;其中:
训练好的发送方智能体,用于根据语用意图,得到待传输的消息,并将待传输的消息通过神经网络输出层传输到训练好的接收方智能体;
训练好的接收方智能体,用于通过神经网络输入层接收待传输的消息,并对待传输的消息进行译码,得到译码后的消息;训练好的接收方智能体通过全连接的权重矩阵接收译码后的消息并理解消息的意图,结合训练好的接收方智能体自身信息,做出行为决策。
可选地,发送方智能体以及接收方智能体,进一步用于:
S11、发送方智能体根据语用意图产生神经冲动,神经冲动经过神经网络输出层输出,产生待传递的消息。
S12、待传递的消息通过全连接的权重矩阵传输到差量通信系统中,差量通信系统将待传递的消息发送到信道中。
S13、接收方智能体通过信道接收消息,并对消息进行译码,得到译码后的消息。
S14、译码后的消息通过全连接的权重矩阵发送到接收方智能体的输入层。
S15、接收方智能体根据译码后的消息以及自身信息,做出环境动作,获得奖励,产生损失函数以及误差,误差经信道反向传播到发送方智能体;其中,损失函数为消息对接收方智能体行为的影响。
S16、根据误差对发送方智能体进行调整。
S17、重复上述S11-S16,直到误差小于或等于预设阈值,则结束调整,得到训练好的发送方智能体以及接收方智能体。
可选地,发送方智能体,进一步用于:
在发送方智能体以及接收方智能体的训练过程中,差量通信系统将待传递的消息形成可求导的浮点型消息,将浮点型消息训练为0和1发送到信道中。
可选地,发送方智能体,进一步用于:
在训练好的发送方智能体以及接收方智能体消息传递中,差量通信系统将待传递的消息形成比特数据,发送到信道中。
可选地,发送方智能体以及接收方智能体,进一步用于:
待传输的消息经发送方智能体神经网络输出层的最后一层传输到训练好的接收方智能体神经网络输入层的第一层。
可选地,方法还包括根据对环境信息的观测以及结合语义消息和对过去行为的记忆,更新发送方智能体以及接收方智能体的信息库,得到最佳的行为决策。
可选地,待传输的消息的大小由消息所需的语义状态数量和时间维度的关系确定。
可选地,训练好的发送方智能体的输出层包括通信模块以及行为模块。
其中,通信模块通过神经网络输出层发送神经冲动。
行为模块用于做出行为决策。
本发明实施例中,语用通信适用于信令信道受限且硬件条件受限的分布式协同系统,如分布式及多跳智能反射面,无线局域网隐藏节点问题,动态频谱分配,无线原生AI系统的split learning,分布式通信感知一体化协同问题,天基互联网络路由和移动计算等场景。语用通信在应用上的优势可以凝练为三点:轻量化,安全性和对粘合分布式的神经网络。
轻量化:第一,通信的轻量化,语义通信之所以可以放松差错要求,突破香农极限,其实质是语义信息更凝练,发送相同比特条件下,增加了冗余量。本发明所研究的目标导向性更强的“灵”与“灵”的通信,甚至可以用一个比特表达三个状态(时间维度提供额外信息),因此语用通信有望在带宽受限,信道条件差的分布式场景下通信。第二,设备的轻量化,智能体网络模型结构简单,维度和深度受限,可以在物联网设备上实现。设备轻量化包括更大程度上压缩设备制造和运维成本,提升资产利用率;还包括在设备改造后仍覆盖原有需求内容,在改造设备成本的基础上,满足应对常态化传递消息等场景。
安全性:分布式系统由于硬件算力限制,其安全性问题一直困扰学术界和工业界,亟待解决。本发明提出的具体方案将在原理上防止窃听者仅通过截获消息内容就理解语义内涵,所述的安全性能包括窃听者不可以仅通过消息内容就轻松获知任务目标、行为空间,甚至发送方智能体的网络结构,因此不需要为安全性配置更多算力资源,因此不需要为安全性配置更多算力资源。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种语用通信方法,其特征在于,所述方法由语用通信系统实现,所述系统包括训练好的发送方智能体以及训练好的接收方智能体;所述方法包括:
S1、所述训练好的发送方智能体根据语用意图,得到待传输的消息,并将所述待传输的消息通过神经网络输出层传输到所述训练好的接收方智能体;
S2、所述训练好的接收方智能体通过神经网络输入层接收所述待传输的消息,并对所述待传输的消息进行译码,得到译码后的消息;
S3、所述训练好的接收方智能体通过神经网络模型的全连接的权重矩阵接收所述译码后的消息并理解所述消息的意图,结合所述训练好的接收方智能体自身信息,做出行为决策;
所述发送方智能体以及接收方智能体的训练过程包括:
S11、发送方智能体根据语用意图产生神经冲动,所述神经冲动经过神经网络输出层输出,产生待传递的消息;
S12、所述待传递的消息通过全连接的权重矩阵传输到差量通信系统中,所述差量通信系统将所述待传递的消息发送到信道中;
S13、所述接收方智能体通过所述信道接收所述消息,并对所述消息进行译码,得到译码后的消息;
S14、所述译码后的消息通过全连接的权重矩阵发送到接收方智能体的输入层;
S15、接收方智能体根据所述译码后的消息以及自身信息,做出环境动作,获得奖励,产生误差以及损失函数,所述误差经信道反向传播到所述发送方智能体;其中,所述损失函数为消息对接收方智能体行为的影响;
S16、根据所述误差对所述发送方智能体进行调整;
S17、重复上述S11-S16,直到所述误差小于或等于预设阈值,则结束调整,得到训练好的发送方智能体以及接收方智能体。
2.根据权利要求1所述的方法,其特征在于,所述S12中的所述差量通信系统将所述待传递的消息发送到信道中包括:
在所述发送方智能体以及接收方智能体的训练过程中,所述差量通信系统将所述待传递的消息形成可求导的浮点型消息,将所述浮点型消息训练为0和1发送到信道中。
3.根据权利要求1所述的方法,其特征在于,所述S12中的所述差量通信系统将所述待传递的消息发送到信道中包括:
在训练好的发送方智能体以及接收方智能体消息传递中,所述差量通信系统将所述待传递的消息形成比特数据,发送到信道中。
4.根据权利要求1所述的方法,其特征在于,所述待传输的消息通过神经网络输出层传输到所述训练好的接收方智能体包括:
待传输的消息经发送方智能体神经网络输出层的最后一层传输到所述训练好的接收方智能体神经网络输入层的第一层。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括根据对环境信息的观测以及结合语义消息和对过去行为的记忆,更新所述发送方智能体以及接收方智能体的信息库,得到最佳的行为决策。
6.根据权利要求1所述的方法,其特征在于,所述S1中的待传输的消息的大小由消息所需的语义状态数量和时间维度的关系确定。
7.根据权利要求1所述的方法,其特征在于,所述训练好的发送方智能体的输出层包括通信模块以及行为模块;
其中,所述通信模块通过神经网络输出层发送神经冲动;
所述行为模块用于做出行为决策。
8.一种语用通信系统,其特征在于,所述系统用于实现语用通信方法,所述系统包括训练好的发送方智能体以及训练好的接收方智能体;其中:
所述训练好的发送方智能体,用于根据语用意图,得到待传输的消息,并将所述待传输的消息通过神经网络输出层传输到所述训练好的接收方智能体;
所述训练好的接收方智能体,用于通过神经网络输入层接收所述待传输的消息,并对所述待传输的消息进行译码,得到译码后的消息;所述训练好的接收方智能体通过神经网络模型的全连接的权重矩阵接收所述译码后的消息并理解所述消息的意图,结合所述训练好的接收方智能体自身信息,做出行为决策;
所述发送方智能体以及接收方智能体的训练过程包括:
S11、发送方智能体根据语用意图产生神经冲动,所述神经冲动经过神经网络输出层输出,产生待传递的消息;
S12、所述待传递的消息通过全连接的权重矩阵传输到差量通信系统中,所述差量通信系统将所述待传递的消息发送到信道中;
S13、所述接收方智能体通过所述信道接收所述消息,并对所述消息进行译码,得到译码后的消息;
S14、所述译码后的消息通过全连接的权重矩阵发送到接收方智能体的输入层;
S15、接收方智能体根据所述译码后的消息以及自身信息,做出环境动作,获得奖励,产生误差以及损失函数,所述误差经信道反向传播到所述发送方智能体;其中,所述损失函数为消息对接收方智能体行为的影响;
S16、根据所述误差对所述发送方智能体进行调整;
S17、重复上述S11-S16,直到所述误差小于或等于预设阈值,则结束调整,得到训练好的发送方智能体以及接收方智能体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210631432.7A CN115186797B (zh) | 2022-06-06 | 2022-06-06 | 一种语用通信方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210631432.7A CN115186797B (zh) | 2022-06-06 | 2022-06-06 | 一种语用通信方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115186797A CN115186797A (zh) | 2022-10-14 |
CN115186797B true CN115186797B (zh) | 2023-05-30 |
Family
ID=83513111
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210631432.7A Active CN115186797B (zh) | 2022-06-06 | 2022-06-06 | 一种语用通信方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115186797B (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8775341B1 (en) * | 2010-10-26 | 2014-07-08 | Michael Lamport Commons | Intelligent control with hierarchical stacked neural networks |
CN107153672A (zh) * | 2017-03-22 | 2017-09-12 | 中国科学院自动化研究所 | 基于言语行为理论的用户交互意图识别方法及系统 |
CN112236782A (zh) * | 2018-04-03 | 2021-01-15 | 诺基亚技术有限公司 | 通信系统中的端到端学习 |
CN114337911A (zh) * | 2020-09-30 | 2022-04-12 | 华为技术有限公司 | 一种基于神经网络的通信方法以及相关装置 |
CN113589695B (zh) * | 2021-08-02 | 2023-11-10 | 郑州大学 | 基于记忆序列回放机制的机器人行为决策方法及设备 |
-
2022
- 2022-06-06 CN CN202210631432.7A patent/CN115186797B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN115186797A (zh) | 2022-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Bao et al. | Towards a theory of semantic communication | |
Besser et al. | Wiretap code design by neural network autoencoders | |
Xu et al. | Deep joint source-channel coding for semantic communications | |
Winter | Compression of sources of probability distributions and density operators | |
Xiao et al. | Imitation learning-based implicit semantic-aware communication networks: Multi-layer representation and collaborative reasoning | |
Choi et al. | A unified approach to semantic information and communication based on probabilistic logic | |
Xu et al. | Knowledge-enhanced semantic communication system with OFDM transmissions | |
Xiao et al. | Reasoning over the air: A reasoning-based implicit semantic-aware communication framework | |
Barbarossa et al. | Semantic communications based on adaptive generative models and information bottleneck | |
CN115186797B (zh) | 一种语用通信方法及系统 | |
Ishai et al. | On the round complexity of black-box secure MPC | |
Tang et al. | Contrastive learning based semantic communications | |
Chen et al. | Quantum merkle trees | |
Wheeler et al. | Semantic communication with conceptual spaces | |
CN117648994A (zh) | 一种基于无监督学习的高效异构纵向联邦学习方法 | |
Wang et al. | Transceiver cooperative learning-aided semantic communications against mismatched background knowledge bases | |
Chehimi et al. | Quantum semantic communications for resource-efficient quantum networking | |
Fu et al. | Scalable extraction based semantic communication for 6G wireless networks | |
CN116582242A (zh) | 一种密文明文混合学习模式的安全联邦学习方法 | |
Dong et al. | Innovative semantic communication system | |
Guo | Pragmatic Communication: Bridging Neural Networks for Distributed Agents | |
Yu et al. | Two-way semantic communications without feedback | |
Lu et al. | Adversarial Learning for Implicit Semantic-Aware Communications | |
Gao et al. | Unveil the time delay signature in delayed chaotic communication system via CNN | |
Simpkin et al. | Coalition c3 information exchange using binary symbolic vectors |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |