CN112236782A - 通信系统中的端到端学习 - Google Patents

通信系统中的端到端学习 Download PDF

Info

Publication number
CN112236782A
CN112236782A CN201880094274.8A CN201880094274A CN112236782A CN 112236782 A CN112236782 A CN 112236782A CN 201880094274 A CN201880094274 A CN 201880094274A CN 112236782 A CN112236782 A CN 112236782A
Authority
CN
China
Prior art keywords
receiver
transmitter
training
loss function
algorithm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201880094274.8A
Other languages
English (en)
Inventor
J·霍伊迪斯
F·艾特·奥迪亚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nokia Technologies Oy
Original Assignee
Nokia Technologies Oy
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nokia Technologies Oy filed Critical Nokia Technologies Oy
Publication of CN112236782A publication Critical patent/CN112236782A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/02—Transmitters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/06—Receivers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00—Arrangements for detecting or preventing errors in the information received
    • H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
    • H04L1/0041—Arrangements at the transmitter end
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00—Arrangements for detecting or preventing errors in the information received
    • H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
    • H04L1/0045—Arrangements at the receiver end
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/0202—Channel estimation
    • H04L25/0204—Channel estimation of multiple channels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/0202—Channel estimation
    • H04L25/0224—Channel estimation using sounding signals
    • H04L25/0226—Channel estimation using sounding signals sounding signals per se
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03012—Arrangements for removing intersymbol interference operating in the time domain
    • H04L25/03114—Arrangements for removing intersymbol interference operating in the time domain non-adaptive, i.e. not adjustable, manually adjustable, or adjustable only during the reception of special signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03165—Arrangements for removing intersymbol interference using neural networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03343—Arrangements at the transmitter end

Abstract

描述了一种装置和方法，该装置和方法包括：获取或生成用于传输系统的传输器训练消息序列，其中传输系统包括传输器、信道和接收器，其中传输器包括具有至少一些可训练权重的传输器算法并且接收器包括具有至少一些可训练权重的接收器算法；通过传输系统传输传输器训练消息序列的扰动版本；在传输器处接收第一接收器损失函数数据，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重。

Description

通信系统中的端到端学习
技术领域
本说明书涉及通信系统中的学习。
背景技术
简单的通信系统包括传输器、传输信道和接收器。这种通信系统的设计可能涉及系统的每个部分的单独设计和优化。一种替代方法是将整个通信系统视为单个系统，并且寻求优化整个系统。尽管在现有技术中已经进行了一些尝试，但是该领域中仍保留进一步发展的空间。
发明内容
在第一方面，本说明书描述了一种装置，包括：用于获取或生成用于传输系统的传输器训练消息序列的部件，其中传输系统包括传输器、信道和接收器，其中传输器包括具有至少一些可训练权重的传输器算法，并且接收器包括具有至少一些可训练权重的接收器算法(传输器算法可以被实现为可微分参数函数，并且接收器算法可以被实现为可微分参数函数)；用于通过传输系统传输传输器训练消息序列的扰动版本的部件(其中扰动可以是零均值高斯扰动)；用于在传输器处接收第一接收器损失函数数据的部件，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及用于基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重的部件。
用于训练传输器算法的至少一些权重的部件可以利用分布来生成被应用于传输器训练消息序列的扰动。
第一损失函数数据可以与块错误率、误比特率和分类交叉熵中的一项或多项有关。
该装置还可以包括用于重复对传输器算法的至少一些权重的训练直到第一条件被达到的部件。第一条件可以例如是所定义的迭代次数和/或所定义的性能水平。
用于训练的部件还可以包括优化以下一项或多项：传输器训练消息序列的批量大小、学习速率、以及被应用于传输器训练消息序列的扰动版本的扰动的分布。
该装置还可以包括：用于获取或生成用于通过传输系统进行传输的接收器训练消息序列的部件；用于通过传输系统传输接收器训练消息序列的部件；用于生成或获取第二接收器损失函数数据的部件，第二接收器损失函数数据基于在接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及用于基于第二接收器损失函数数据来训练接收器算法的至少一些权重的部件。第二损失函数可以例如与块错误率、误比特率和分类交叉熵中的一项或多项有关。
本发明的某些形式还可以包括用于重复接收器算法的至少一些权重的训练直到第二条件被达到的部件。第二条件可以例如是所定义的迭代次数和/或所定义的性能水平。
本发明的某些形式还可以包括用于重复对传输器算法的至少一些权重的训练以及对重复传输器算法的至少一些权重的训练达到第三条件被达到的部件。
在本发明的某些形式中，传输算法和接收算法的至少一些权重可以使用随机梯度下降来训练。
在本发明的一些形式中，该装置还可以包括用于重复对传输器算法的至少一些权重的训练直到第一条件被达到的部件、以及用于重复对接收器算法的至少一些权重的训练直到第二条件被达到的部件。
在本发明的某些形式中，传输器算法可以包括传输器神经网络和/或接收器算法可以包括接收器神经网络。
在第二方面，本说明书描述了一种装置，该装置包括：用于获取或生成用于通过传输系统进行传输的接收器训练消息序列的部件，其中传输器包括具有至少一些可训练权重的传输器算法(例如，传输器神经网络)，并且接收器包括具有至少一些可训练权重的接收器算法(例如，接收器神经网络)；用于通过传输系统传输接收器训练消息序列的部件；用于生成或获取第二接收器损失函数数据的部件，第二接收器损失函数数据是基于在接收器处接收的接收器训练序列和所传输的接收器训练序列的知识而生成的；用于基于第二接收器损失函数数据来训练接收器算法的至少一些权重的部件；用于获取或生成用于传输系统的传输器训练消息序列的部件；用于通过传输系统传输传输器训练消息序列的扰动版本的部件；用于在传输器处接收第一接收器损失函数数据的部件，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及用于基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重的部件。
第二方面的装置还可以包括用于重复对传输器算法的至少一些权重的训练直到第一条件被达到的部件、以及用于重复对接收器算法的至少一些权重的训练直到第二条件被达到的部件。此外，该装置还可以包括用于重复对传输器算法的至少一些权重的训练以及重复对传输器算法的至少一些权重的训练直到第三条件被达到的部件。
在本发明的至少一些形式中，该部件可以包括至少一个处理器和包括计算机程序代码的至少一个存储器，至少一个存储器和计算机程序代码被配置为与至少一个处理器一起引起该装置的执行。
在第三方面，本说明书描述了一种方法，该方法包括：获取或生成用于传输系统的传输器训练消息序列，其中传输系统包括传输器、信道和接收器，其中传输器包括具有至少一些可训练权重的传输器算法，并且接收器包括具有至少一些可训练权重的接收器算法(传输器算法可以实现为可微分参数函数，并且接收器算法可以实现为可微分参数函数)；通过传输系统传输传输器训练消息序列的扰动版本；在传输器处接收第一接收器损失函数数据，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重。
该方法还可以包括：获取或生成用于通过传输系统进行传输的接收器训练消息序列；通过传输系统传输接收器训练消息序列；生成或获取第二接收器损失函数数据，第二接收器损失函数数据基于在接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及基于第二接收器损失函数数据来训练接收器算法的至少一些权重。
在第四方面，本说明书描述了一种方法，该方法包括：获取或生成用于通过传输系统进行传输的接收器训练消息序列，其中传输器包括具有至少一些可训练权重的传输器算法，并且接收器包括具有至少一些可训练权重的接收器算法：通过传输系统传输接收器训练消息序列；生成或获取第二接收器损失函数数据，第二接收器损失函数数据基于在接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；基于第二损失函数来训练接收器算法的至少一些权重；获取或生成用于通过传输系统进行传输的传输器训练消息序列；通过传输系统传输传输器训练消息序列的扰动版本；在传输器处接收第一接收器损失函数数据，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重。
在第五方面，本说明书描述了一种装置，该装置被配置为执行参考第三方面或第四方面所述的任何方法。
在第六方面，本说明书描述了计算机可读指令，该计算机可读指令在由计算装置执行时引起计算装置执行参考第一方面描述的任何方法。
在第七方面，本说明书描述了一种计算机程序，该计算机程序包括在其上存储的指令，该指令用于至少执行以下：获取或生成用于传输系统的传输器训练消息序列，其中传输系统包括传输器、信道和接收器，其中传输器包括传输器算法并且接收器包括接收器算法；通过传输系统传输传输器训练消息序列的扰动版本；在传输器处接收第一接收器损失函数数据，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重。该计算机程序还可以包括存储在其上的指令用于至少执行以下：获取或生成用于通过传输系统进行传输的接收器训练消息序列；通过传输系统传输接收器训练消息序列；生成或获取第二接收器损失函数数据，第二接收器损失函数数据基于在接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及基于第二接收器损失函数数据来训练接收器算法的至少一些权重。
在第八方面，本说明书描述了一种非瞬态计算机可读介质，该非瞬态计算机可读介质包括存储在其上的程序指令，该程序指令用于至少执行以下：获取或生成用于传输系统的传输器训练消息序列，其中传输系统包括传输器、信道和接收器，其中传输器包括具有至少一些可训练权重的传输器算法，并且接收器包括具有至少一些可训练权重的接收器算法；通过传输系统传输传输器训练消息序列的扰动版本；在传输器处接收第一接收器损失函数数据，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重。该非瞬态计算机可读介质还可以包括存储在其上的指令，该指令用于至少执行以下：获取或生成用于通过传输系统进行传输的接收器训练消息序列；通过传输系统传输接收器训练消息序列；生成或获取第二接收器损失函数数据，第二接收器损失函数数据基于在接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及基于第二接收器损失函数数据来训练接收器算法的至少一些权重。
在第九方面，本说明书描述了一种装置，该装置包括至少一个处理器和包括计算机程序代码的至少一个存储器，该计算机程序代码在由至少一个处理器执行时使该装置：获取或生成用于传输系统的传输器训练消息序列，其中传输系统包括传输器、信道和接收器，其中传输器包括具有至少一些可训练权重的传输器算法，并且接收器包括具有至少一些可训练权重的接收器算法；通过传输系统传输传输器训练消息序列的扰动版本；在传输器处接收第一接收器损失函数数据，第一接收器损失函数数据基于在接收器处接收的接收训练序列和用于传输系统的传输器训练消息序列的知识而被生成；以及基于第一接收器损失函数数据以及传输器训练消息序列的知识和传输器训练消息序列的扰动版本来训练传输器算法的至少一些权重。该计算机代码还可以使该装置：获取或生成用于通过传输系统进行传输的接收器训练消息序列；通过传输系统传输接收器训练消息序列；生成或获取第二接收器损失函数数据，第二接收器损失函数数据基于在接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及基于第二接收器损失函数数据来训练接收器算法的至少一些权重。
附图说明
现在将参考以下示意图通过非限制性示例来描述示例实施例，在附图中：
图1是示例性端到端通信系统的框图；
图2是在图1的系统的示例性实现中使用的示例性传输器的框图；
图3是在图1的系统的示例性实现中使用的示例性接收器的框图；
图4是示出根据示例性实施例的算法的流程图；
图5是示出根据示例性实施例的算法的流程图；
图6是根据示例实施例的示例性端到端通信系统的框图；
图7是示出根据示例性实施例的算法的流程图；
图8是根据示例实施例的示例性端到端通信系统的框图；
图9是根据示例性实施例的系统的组件的框图；以及
图10a和10b示出了存储计算机可读代码的有形介质，分别是可移动存储器单元和光盘(CD)，该计算机可读代码在由计算机运行时执行根据实施例的操作。
具体实施方式
图1是总体上由附图标记1表示的、示例性实施例可被实现在其中的示例性通信系统的框图。系统1包括传输器2、信道4和接收器6。在系统级别，系统1将在传输器2的输入处接收的输入符号(s)(也称为消息)转换为接收器6的输出处的输出符号
Figure BDA0002812833400000071
传输器2包括用于实现传输器算法的模块10(诸如神经网络)。类似地，接收器6包括用于实现接收器算法的模块14(诸如神经网络)。如下面详细描述的，模块10和14被训练以便优化整个系统的性能。
由模块10实现的传输器算法可以被实现为可微分参数函数，并且可以包括至少一些可训练权重(其可以通过随机梯度下降可训练)。类似地，由模块14实现的接收器算法可以被实现为可微分参数函数，并且可以包括至少一些可训练权重(其可以通过随机梯度下降可训练)。
传输器2试图向接收器6传送M个可能消息
Figure BDA0002812833400000072
中的一个消息。为此，传输器2通过信道4发送消息的复值向量表示
Figure BDA0002812833400000073
总体上，传输器硬件对x施加约束，例如，能量约束
Figure BDA0002812833400000074
幅度约束
Figure BDA0002812833400000075
或平均功率约束
Figure BDA0002812833400000076
信道通过条件概率密度函数(pdf)p(y|x)来描述，其中
Figure BDA0002812833400000077
表示接收信号。在接收到y时，接收器产生所传输的消息s的估计
Figure BDA0002812833400000081
图2是示出上述传输器2的示例性实现的细节的框图。如图2所示，传输器2包括嵌入模块22、一个或多个单元24(例如，一个或多个神经网络)的密集层、复数向量生成器26和归一化模块28。传输器2内的模块通过示例的方式被提供，并且修改是可能的。例如，复数向量生成器26和归一化模块28可以以不同顺序被提供。
消息索引s被馈送到嵌入模块22中，嵌入：
Figure BDA0002812833400000082
嵌入模块22将s转换为nemb维实值向量。
嵌入模块22可以可选地跟随有若干密集神经网络(NN)层24，这些密集NN层24具有可能的不同激活函数(诸如ReLU、tanh、signmoid、线性等)的。神经网络的最后一层具有2n个输出维度和线性激活函数。如果未使用密集层，则nemb＝2n。
密集层24的输出通过映射
Figure BDA0002812833400000083
被转换为复值向量(通过复数向量生成器26)，该映射可以被实现为
Figure BDA0002812833400000084
由归一化模块28应用归一化，以确保功率、幅度或其他约束被满足。归一化过程的结果是传输器2的传输向量x(其中
Figure BDA0002812833400000085
)。如上所述，复数向量生成和归一化的顺序可以被颠倒。
传输器2定义以下映射：
Figure BDA0002812833400000086
换言之，TX将集合
Figure BDA0002812833400000087
中的整数映射到n维复值向量。我们在图2中解释了该映射如何可被实现为NN。其他NN架构是可能的，并且该说明仅用作示例。
图3是示出上述接收器6的示例性实现的细节的框图。如图3所示，接收器6包括实向量生成器32、一个或多个层34(例如，一个或多个神经网络)和softmax模块36。如下面进一步描述的，softmax模块的输出是提供给arg max模块38的输入的概率向量。接收器6内的模块通过示例的方式被提供，并且修改是可能的。
接收向量
Figure BDA0002812833400000091
通过映射
Figure BDA0002812833400000092
被变换(由实向量生成器32)为2n维的实值向量，该映射可以被实现为
Figure BDA0002812833400000093
结果被馈送到一个或多个层34，这些层可以具有不同激活函数，诸如ReLU、tanh、sigmoid、线性等。最后一层具有M个输出维度，(由softmax模块36)对这些输出维度应用softmax激活。这将生成概率向量
Figure BDA0002812833400000094
其第i个元素[p]i可以解释为Pr(s＝i|y)。消息索引的硬判决由arg max模块38获取为
Figure BDA0002812833400000095
接收器6定义如下映射：
Figure BDA0002812833400000096
换言之，接收器6将n维复值向量映射到M维概率向量和集合
Figure BDA0002812833400000097
中的整数。上面的示例描述了这可以如何通过使用神经网络架构而被实现，尽管其他架构也是可能的。例如，在信道提供不同数目的相关输出的情况下，维度y的数目可以不同于n。
图4是示出根据示例性实施例的算法的流程图，该算法总体上由附图标记40表示。
算法40在操作42开始，其中对传输系统1的传输器2和接收器6被初始化。注意，算法40作用于系统1，该系统包括实际信道4。
在算法40的操作44，接收器6被训练。如以下详细讨论的，接收器6基于由传输器2使用信道4发送的已知训练数据来被训练。接收器算法的可训练参数(例如，接收器层34，其可以使用神经网络来实现)通过使用经由信道接收的信号和对应的已知消息，基于随机梯度下降(SGD)而被优化。优化的目标是提高所选择的性能度量(或奖励)，诸如块错误率(BLER)、误比特率(BER)、分类交叉熵等。
在操作46，确定接收器的训练是否完成。如果是，则算法40移动到操作48，否则算法返回到操作44并且进行对接收器的进一步训练。
在操作48，传输器被训练。在操作48中，传输器2向接收器6发送一系列已知消息。然而，与每个消息相关联的传输器信号被轻微地扰动，例如通过添加从已知分布中获取的随机向量。接收器针对接收信号计算所选择的性能度量或奖励(诸如BLER、BER、分类交叉熵，如上所述)，并且将度量或奖励数据反馈给传输器。注意，在操作48的一部分中未对接收器进行优化。
传输器算法(例如，传输器层24，其可以使用神经网络来实现)的可训练参数基于通过使用所传输的消息和信号的知识以及随机扰动的已知分布来估计关于其可训练参数的度量或奖励的梯度的随机梯度下降(SGD)来被优化。
在操作50，确定传输器的训练是否完成。如果是，则算法40移动到操作52，否则该算法返回到操作48并且进行对传输器的进一步训练。
在操作52，确定对传输系统的训练是否完成。如果是，则该算法在操作54终止，否则该算法返回到操作44，从而可以重复接收器和传输器训练。
因此，通信系统1通过使用两步过程来被训练。例如，可以迭代地执行这两个步骤，直到获取期望的性能水平和/或直到完成预定迭代次数。存在很多用于实现操作46、50和/或52的替代机制，诸如在给定迭代次数中所使用的损失函数没有减少时停止，或者在诸如块错误率(BLER)等度量达到期望水平时停止。
图5是示出根据示例性实施例的算法的流程图，该算法总体上由附图标记60表示。算法60提供关于上述算法40的接收器训练操作44的更多细节。
图6是根据示例实施例的示例性端到端通信系统的框图，该端到端通信系统总体上由附图标记70表示。系统70包括上面参考图1描述的传输器2、信道4和接收器6。系统70展示了算法60的各方面。
算法60从操作62开始，在其中进行以下步骤：
1.从
Figure BDA0002812833400000111
中均匀地得到NR个消息的随机集合
Figure BDA0002812833400000112
2.计算对应的输出向量xR，i＝TX(sR，i)。
在操作64，信道4被用于如下将向量从传输器2传输到接收器6：
3.使用传输器通过信道来传输向量xR，i。接收器处的对应信道输出被称为yR，i，i＝1，...，NR。
在操作66，损失函数被生成，并且用于训练接收器的随机梯度下降如下(并且如图6所示)：
4.针对i＝1，...，NR，计算
Figure BDA0002812833400000113
5.使用损失函数向接收器NN的可训练参数(或权重)应用SGD的一个步骤
Figure BDA0002812833400000114
其中LR，i＝-log([pR，i]sR，i)是输入消息与输出向量pR，i之间的分类交叉熵。
应当注意，批量大小NR以及学习速率(和可能的所选择的SGD变体的其他参数，例如，ADAM、RMSProp、动量(Momentum))可以是训练操作44的优化参数。
图7是示出根据示例性实施例的算法的流程图，该算法总体上由附图标记80表示。算法80提供关于上述算法40的传输器训练操作48的更多细节。
图8是根据示例实施例的示例性端到端通信系统的框图，该示例性端到端通信系统总体上由附图标记90表示。系统90包括上面参考图1描述的传输器2、信道4和接收器6。该系统还包括在传输器2与信道4之间的扰动模块92。系统90展示了算法80的各方面。
算法80从操作82开始，其中进行以下步骤：
1.从
Figure BDA0002812833400000121
中均匀地得到NT个消息的随机集合
Figure BDA0002812833400000122
2.计算对应的输出向量xT，i＝TX(sT，i)。
3.独立地并且根据某种分布p(ε).来得到NT个扰动向量
Figure BDA0002812833400000123
例如，p(ε).可以是具有某个小方差σ2的多元复高斯分布
Figure BDA0002812833400000124
扰动向量εi使用扰动模块92被添加到传输器输出。
在操作84，信道4被用于如下传输扰动向量：
4.使用传输器通过信道来传输扰动向量
Figure BDA0002812833400000125
对于给定xT，i，表示
Figure BDA0002812833400000126
Figure BDA0002812833400000127
的结果条件pdf。接收器处的对应信道输出被称为yT，i，i＝1，...，NT。
在操作86，损失函数被生成，并且用于训练传输器的随机梯度下降如下所示：
5.对于i＝1，...，NT，计算
Figure BDA0002812833400000128
6.计算损失函数LT，i，如下
Figure BDA00028128334000001210
其中
Figure BDA00028128334000001211
是输入消息与输出向量pT，i之间的分类交叉熵。
7.通过使用损失函数向传输器NN的可训练参数(或权重)应用SGD的一个步骤
Figure BDA0002812833400000129
在传输器训练中，应当注意：
1.与在1.4部分中用于接收器训练的损失函数相比，损失函数LT，i可以采用其他形式并且不一定需要是可微分的。
2.注意，所选择的分布p(ε)的参数可以被选择为是可训练的。例如，如果
Figure BDA0002812833400000131
则σ和μ可以是传输器NN的可训练参数。
3.批量大小NT以及学习速率(和可能的所选择的SGD变体的其他参数(例如，ADAM、RMSProp、动量(Momentum)))是优化参数。步骤8中的停止标准可以采用多种形式：在固定次数的训练迭代之后停止，当在固定次数的迭代期间损失函数LT没有减小时停止，当损失或另一相关联的度量(诸如
Figure BDA0002812833400000132
)已经达到期望的值时停止。
4.注意，(5)仅是计算关于传输器的可训练参数θ的梯度的函数。
本文所述的训练过程包括很多变体。本文所述的强化学习的使用依赖于探索策略空间(即，可能的状态到动作映射的空间)。如本文所述，策略是由传输器实现的映射，状态空间是源符号字母，而动作空间是
Figure BDA0002812833400000133
探索可以通过多种方式实现，其中两种最普及的方法是：
·高斯策略，其中从多元零均值正态分布得出扰动向量ε并且将其添加到当前策略中。这确保了在当前策略“附近”的探索。
·ε贪婪，其中概率为1-ε，令牌动作是策略之一，而概率为ε，采取随机操作。
在高斯策略中从中得出扰动向量ε的正态分布的协方差矩阵和ε贪婪方法的ε参数通常是固定参数，即在训练过程中不被学习。这些参数控制“探索的量”，因为减小这些参数会减少随机探索的量，并且有利于当前策略采取的措施。
在本发明的另一实施例中，目标不是传送消息
Figure BDA0002812833400000134
而是向量
Figure BDA0002812833400000135
该向量由接收器重构。例如，s可以是数字图像并且接收器的目标在于尽可能良好地重构向量
Figure BDA0002812833400000136
图5和图6示出了传输器和接收器实现这个想法分别需要的改变。
在这种情况下，传输器和接收器训练期间的损失函数LT，i和LR，i可以表示如下
Figure BDA0002812833400000141
Figure BDA0002812833400000142
其中sT，in sR，i对应于所传输的数据向量并且
Figure BDA0002812833400000143
是相应重构。这个损失是所谓的均方差(MSE)。
传输器也可以发送数据向量
Figure BDA0002812833400000144
但是接收器的目标在于将所传输的向量分类为M个类别之一。例如，s可以是图像并且接收器的目标在于给出s是否包含狗或猫。在该实施例中，可以使用如图5所示的传输器的实现，同时接收器如图3所示来实现。然后，用于训练的损失函数可以如1.3部分中被选择，不同之处在于，每个传输向量s具有相关联的标签
Figure BDA0002812833400000145
该标签用于计算损失，即
Figure BDA0002812833400000146
Figure BDA0002812833400000147
为了完整性，图9是先前描述的模块中的一个或多个模块(例如，传输器或接收器神经网络)的组件的示意图，其在下文中被统称为处理系统110。处理系统110可以具有处理器112、存储器114、以及可选的硬件键120和显示器128，存储器114被紧密耦合到处理器并且由RAM 124和ROM 122组成、。处理系统110可以包括用于连接到网络的一个或多个网络接口118，例如可以是有线或无线的调制解调器。
处理器112被连接到其他组件中的每个组件，以便控制其操作。
存储器114可以包括非易失性存储器、硬盘驱动器(HDD)或固态驱动器(SSD)。除其他外，存储器114的ROM 122还存储操作系统125，并且可以存储软件应用126。存储器114的RAM 124由处理器112用于数据的临时存储。操作系统125可以包含代码，该代码在由处理器执行时实现算法40、60和80的各方面。
处理器112可以采用任何合适的形式。例如，它可以是微控制器、多个微控制器、一个处理器或多个处理器。
处理系统110可以是独立的计算机、服务器、控制台、或其网络。
在一些实施例中，处理系统110还可以与外部软件应用相关联。这些可以是存储在远程服务器设备上的应用，并且可以部分或专门在远程服务器设备上运行。这些应用可以称为云托管应用。处理系统110可以与远程服务器设备通信以便利用存储在其中的软件应用。
图10a和10b示出了存储计算机可读代码的有形介质，分别是可移动存储器单元165和光盘(CD)168，该计算机可读代码在由计算机运行时可以执行根据上述实施例的方法。可移动存储器单元165可以是具有存储计算机可读代码的内部存储器166的存储棒，例如，USB存储棒。存储器166可以由计算机系统经由连接器167访问。CD 168可以是CD-ROM或DVD等。可以使用其他形式的有形存储介质。
本发明的实施例可以以软件、硬件、应用逻辑或软件、硬件和应用逻辑的组合来实现。软件、应用逻辑和/或硬件可以驻留在存储器或任何计算机介质上。在示例实施例中，应用逻辑、软件或指令集被维持在各种常规计算机可读介质中的任何一种上。在本文档的上下文中，“存储器”或“计算机可读介质”可以是能够包含、存储、传送、传播或传输指令以供诸如计算机的指令执行系统、装置或设备使用或与之相结合使用的任何非瞬态介质或装置。
在相关时，对“计算机可读存储介质”、“计算机程序产品”、“有形实现的计算机程序”等或“处理器”或“处理电路系统”等的引用应当理解为不仅包括具有不同的架构(诸如单/多处理器架构和定序器/并行架构)的计算机，而且还包括专用电路，诸如现场可编程门阵列FPGA、应用特定电路ASIC、信号处理设备和其他设备。对计算机程序、指令、代码等的引用应当理解为表示用于可编程处理器固件的软件，诸如作为用于处理器的指令的硬件设备的可编程内容、或者用于固定功能设备、门阵列、可编程逻辑设备等的配置或配置设置。
如本申请中使用的，术语“电路系统”是指以下所有内容：(a)仅硬件电路实现(诸如仅在模拟和/或数字电路系统中的实现)，以及(b)电路和软件(和/或固件)的组合，诸如(如果适用)：(i)(多个)处理器的组合，或(ii)(多个)处理器/软件(包括(多个)数字信号处理器)、软件和存储器的部分，这些部分一起工作以使诸如服务器等装置执行各种功能，以及(c)需要软件或固件用于操作(即使软件或固件实际上不存在)的电路，诸如(多个)微处理器或(多个)微处理器的一部分等。
如果需要，本文中讨论的不同功能可以以不同的顺序和/或彼此同时地执行。此外，如果需要，上述功能中的一个或多个可以是可选的或可以被组合。类似地，还将认识到，图4、5和7的流程图仅是示例，并且其中描绘的各种操作可以省略、重新排序和/或组合。
应当理解，上述示例实施例仅是说明性的，并且不对本发明的范围进行限制。在阅读本说明书后，其他变型和修改对本领域技术人员将是很清楚的。
此外，本申请的公开内容应当被理解为包括本文中明确或隐含公开的任何新颖特征或特征的任何新颖组合或其任何概括，并且在本申请或由此衍生的任何申请的审查期间，可以构想新的权利要求以涵盖任何这样的特征和/或这样的特征的组合。
尽管在独立权利要求中阐述了本发明的各方面，但是本发明的其他方面包括来自所描述的实施例和/或从属权利要求的特征与独立权利要求的特征的其他组合，而不仅是在权利要求中明确阐述的组合。
在此还应注意，尽管上面描述了各种示例，但是这些描述不应以限制性意义来理解。而是，在不脱离如所附权利要求中限定的本发明的范围的情况下，可以进行若干变型和修改。

Claims (22)

1.一种装置，包括：
用于获取或生成用于传输系统的传输器训练消息序列的部件，其中所述传输系统包括传输器、信道和接收器，其中所述传输器包括具有至少一些可训练权重的传输器算法，并且所述接收器包括具有至少一些可训练权重的接收器算法；
用于通过所述传输系统传输所述传输器训练消息序列的扰动版本的部件；
用于在所述传输器处接收第一接收器损失函数数据的部件，所述第一接收器损失函数数据基于在所述接收器处接收的接收训练序列和用于所述传输系统的所述传输器训练消息序列的知识而被生成；以及
用于基于所述第一接收器损失函数数据以及所述传输器训练消息序列的知识和所述传输器训练消息序列的所述扰动版本来训练所述传输器算法的至少一些权重的部件。
2.根据权利要求1所述的装置，其中用于训练所述传输器算法的所述至少一些权重的所述部件利用分布来生成被应用于所述传输器训练消息序列的扰动。
3.根据权利要求1或2所述的装置，其中所述扰动是零均值高斯扰动。
4.根据前述权利要求中任一项所述的装置，其中所述第一损失函数数据与块错误率、误比特率和分类交叉熵中的一项或多项有关。
5.根据前述权利要求中任一项所述的装置，还包括用于重复对所述传输器算法的所述至少一些权重的所述训练直到第一条件被达到的部件。
6.根据权利要求5所述的装置，其中所述第一条件是所定义的迭代次数和/或所定义的性能水平。
7.根据前述权利要求中任一项所述的装置，其中用于训练的所述部件还包括优化以下一项或多项：所述传输器训练消息序列的批量大小、学习速率、以及被应用于所述传输器训练消息序列的所述扰动版本的所述扰动的分布。
8.根据前述权利要求中任一项所述的装置，还包括：
用于获取或生成用于通过所述传输系统进行传输的接收器训练消息序列的部件；
用于通过所述传输系统传输所述接收器训练消息序列的部件；
用于生成或获取第二接收器损失函数数据的部件，所述第二接收器损失函数数据基于在所述接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及
用于基于所述第二接收器损失函数数据来训练所述接收器算法的至少一些权重的部件。
9.根据权利要求8所述的装置，还包括用于重复所述接收器算法的所述至少一些权重的所述训练直到第二条件被达到的部件。
10.根据权利要求9所述的装置，其中所述第二条件是所定义的迭代次数和/或所定义的性能水平。
11.根据权利要求8至10中任一项所述的装置，其中所述第二损失函数与块错误率、误比特率和分类交叉熵中的一项或多项有关。
12.根据权利要求8至11中任一项所述的装置，还包括用于重复对所述传输器算法的所述至少一些权重的所述训练以及对重复所述传输器算法的所述至少一些权重的所述训练二者、直到第三条件被达到的部件。
13.根据前述权利要求中任一项所述的装置，其中所述传输算法和所述接收算法的所述至少一些权重使用随机梯度下降被训练。
14.一种装置，包括：
用于获取或生成用于通过传输系统进行传输的接收器训练消息序列的部件，其中所述传输器包括具有至少一些可训练权重的传输器算法，并且所述接收器包括具有至少一些可训练权重的接收器算法；
用于通过所述传输系统传输所述接收器训练消息序列的部件；
用于生成或获取第二接收器损失函数数据的部件，所述第二接收器损失函数数据基于在所述接收器处接收的接收器训练序列和所传输的所述接收器训练序列的知识而被生成；
用于基于所述第二接收器损失函数数据来训练所述接收器算法的至少一些权重的部件；
用于获取或生成用于所述传输系统的传输器训练消息序列的部件；
用于通过所述传输系统传输所述传输器训练消息序列的扰动版本的部件；
用于在所述传输器处接收第一接收器损失函数数据部件，所述第一接收器损失函数数据基于在所述接收器处接收的接收训练序列和用于所述传输系统的所述传输器训练消息序列的知识而被生成；以及
用于基于所述第一接收器损失函数数据以及所述传输器训练消息序列的知识和所述传输器训练消息序列的所述扰动版本来训练所述传输器算法的至少一些权重的部件。
15.根据前述权利要求中任一项所述的装置，还包括用于重复对所述传输器算法的所述至少一些权重的所述训练直到第一条件被达到的部件，以及用于重复对所述接收器算法的所述至少一些权重的所述训练直到第二条件被达到的部件。
16.根据权利要求15所述的装置，还包括用于重复对所述传输器算法的所述至少一些权重的所述训练以及重复对所述传输器算法的所述至少一些权重的所述训练二者直到第三条件被达到的部件。
17.根据前述权利要求中任一项所述的装置，其中所述传输器算法包括传输器神经网络和/或所述接收器算法包括接收器神经网络。
18.一种方法，包括：
获取或生成用于传输系统的传输器训练消息序列，其中所述传输系统包括传输器、信道和接收器，其中所述传输器包括具有至少一些可训练权重的传输器算法，并且所述接收器包括具有至少一些可训练权重的接收器算法；
通过所述传输系统传输所述传输器训练消息序列的扰动版本；
在所述传输器处接收第一接收器损失函数数据，所述第一接收器损失函数数据基于在所述接收器处接收的接收训练序列和用于所述传输系统的所述传输器训练消息序列的知识而被生成；以及
基于所述第一接收器损失函数数据以及所述传输器训练消息序列的知识和所述传输器训练消息序列的所述扰动版本来训练所述传输器算法的至少一些权重。
19.根据权利要求18所述的方法，还包括：
获取或生成用于通过所述传输系统进行传输的接收器训练消息序列；
通过所述传输系统传输所述接收器训练消息序列；
生成或获取第二接收器损失函数数据，所述第二接收器损失函数数据基于在所述接收器处接收的接收训练序列和所传输的接收器训练序列的知识而被生成；以及
基于所述第二接收器损失函数数据来训练所述接收器算法的至少一些权重。
20.一种方法，包括：
获取或生成用于通过传输系统进行传输的接收器训练消息序列，其中所述传输器包括具有至少一些可训练权重的传输器算法，并且所述接收器包括具有至少一些可训练权重的接收器算法；
通过所述传输系统传输所述接收器训练消息序列；
生成或获取第二接收器损失函数数据，所述第二接收器损失函数数据基于在所述接收器处接收的接收器训练序列和所传输的接收器训练序列的知识而被生成；
基于所述第二损失函数来训练所述接收器算法的至少一些权重；
获取或生成用于通过所述传输系统进行传输的传输器训练消息序列；
通过所述传输系统传输所述传输器训练消息序列的扰动版本；
在所述传输器处接收第一接收器损失函数数据，所述第一接收器损失函数数据基于在所述接收器处接收的接收训练序列和用于所述传输系统的所述传输器训练消息序列的知识而被生成；以及
基于所述第一接收器损失函数数据以及所述传输器训练消息序列的知识和所述传输器训练消息序列的所述扰动版本来训练所述传输器算法的至少一些权重。
21.一种计算机程序，包括存储在其上的指令，所述指令用于至少执行：
获取或生成用于传输系统的传输器训练消息序列，其中所述传输系统包括传输器、信道和接收器，其中所述传输器包括传输器算法并且所述接收器包括接收器算法；
通过所述传输系统传输所述传输器训练消息序列的扰动版本；
在所述传输器处接收第一接收器损失函数数据，所述第一接收器损失函数数据基于在所述接收器处接收的接收训练序列和用于所述传输系统的所述传输器训练消息序列的知识而被生成；以及
基于所述第一接收器损失函数数据以及所述传输器训练消息序列的知识和所述传输器训练消息序列的所述扰动版本来训练所述传输器算法的至少一些权重。
22.一种计算机程序，包括存储在其上的指令，所述指令用于至少执行：
获取或生成用于通过传输系统进行传输的接收器训练消息序列，其中所述传输器包括具有至少一些可训练权重的传输器算法，并且所述接收器包括具有至少一些可训练权重的接收器算法；
通过所述传输系统传输所述接收器训练消息序列；
生成或获取第二接收器损失函数数据，所述第二接收器损失函数数据基于在所述接收器处接收的接收器训练序列和所传输的接收器训练序列的知识而被生成；
基于所述第二损失函数来训练所述接收器算法的至少一些权重；
获取或生成用于通过所述传输系统进行传输的传输器训练消息序列；
通过所述传输系统传输所述传输器训练消息序列的扰动版本；
在所述传输器处接收第一接收器损失函数数据，所述第一接收器损失函数数据基于在所述接收器处接收的接收训练序列和用于所述传输系统的所述传输器训练消息序列的知识而被生成；以及
基于所述第一接收器损失函数数据以及所述传输器训练消息序列的知识和所述传输器训练消息序列的所述扰动版本来训练所述传输器算法的至少一些权重。
CN201880094274.8A 2018-04-03 2018-04-03 通信系统中的端到端学习 Pending CN112236782A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/IB2018/000814 WO2019193377A1 (en) 2018-04-03 2018-04-03 End-to-end learning in communication systems

Publications (1)

Publication Number Publication Date
CN112236782A true CN112236782A (zh) 2021-01-15

Family

ID=63517920

Family Applications (3)

Application Number Title Priority Date Filing Date
CN201880094274.8A Pending CN112236782A (zh) 2018-04-03 2018-04-03 通信系统中的端到端学习
CN201880093531.6A Active CN112166568B (zh) 2018-04-03 2018-06-07 通信系统中的学习
CN201880093390.8A Active CN112166567B (zh) 2018-04-03 2018-06-29 通信系统中的学习

Family Applications After (2)

Application Number Title Priority Date Filing Date
CN201880093531.6A Active CN112166568B (zh) 2018-04-03 2018-06-07 通信系统中的学习
CN201880093390.8A Active CN112166567B (zh) 2018-04-03 2018-06-29 通信系统中的学习

Country Status (4)

Country Link
US (3) US20210201135A1 (zh)
EP (3) EP3776365A1 (zh)
CN (3) CN112236782A (zh)
WO (3) WO2019193377A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113193925A (zh) * 2021-02-09 2021-07-30 中国人民解放军战略支援部队信息工程大学 一种通信系统的优化处理方法、装置及电子设备

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3824606A1 (en) 2018-07-20 2021-05-26 Nokia Technologies Oy Learning in communication systems by updating of parameters in a receiving algorithm
CN113906704A (zh) * 2019-05-30 2022-01-07 诺基亚技术有限公司 通信系统中的学习
FI20195547A1 (en) 2019-06-20 2020-12-21 Nokia Technologies Oy Systems and apparatus for adaptive modulation category
US11570030B2 (en) * 2019-10-11 2023-01-31 University Of South Carolina Method for non-linear distortion immune end-to-end learning with autoencoder—OFDM
US11128498B2 (en) 2020-02-25 2021-09-21 Nokia Solutions And Networks Oy Communication-channel tracking aided by reinforcement learning
US20210303662A1 (en) * 2020-03-31 2021-09-30 Irdeto B.V. Systems, methods, and storage media for creating secured transformed code from input code using a neural network to obscure a transformation function
CN115668218A (zh) * 2020-05-22 2023-01-31 诺基亚技术有限公司 通信系统
EP3975453A1 (en) * 2020-09-24 2022-03-30 Rohde & Schwarz GmbH & Co. KG Adaptive coverage optimization in single-frequency networks (sfn)
CN115186797B (zh) * 2022-06-06 2023-05-30 山西大学 一种语用通信方法及系统
CN117295096B (zh) * 2023-11-24 2024-02-09 武汉市豪迈电力自动化技术有限责任公司 基于5g短共享的智能电表数据传输方法及系统

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5293453A (en) * 1990-06-07 1994-03-08 Texas Instruments Incorporated Error control codeword generating system and method based on a neural network
JP4154229B2 (ja) * 2002-12-27 2008-09-24 富士通株式会社 適応アレーアンテナ制御装置
GB2398976B (en) * 2003-02-28 2006-03-08 Samsung Electronics Co Ltd Neural network decoder
US7606138B2 (en) * 2003-09-29 2009-10-20 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Multi-symbol encapsulated OFDM system
US7631246B2 (en) * 2006-01-09 2009-12-08 Broadcom Corporation LDPC (low density parity check) code size adjustment by shortening and puncturing
US8331420B2 (en) * 2008-04-14 2012-12-11 General Dynamics C4 Systems, Inc. Methods and apparatus for multiple-antenna communication of wireless signals with embedded pilot signals
JP5308102B2 (ja) * 2008-09-03 2013-10-09 日本電信電話株式会社 誤り数別識別スコア・事後確率計算方法と、その方法を用いた誤り数重み付き識別学習装置とその方法と、その装置を用いた音声認識装置と、プログラムと記録媒体
JP5613829B2 (ja) * 2010-06-03 2014-10-29 ノキア シーメンス ネットワークス オサケユキチュア ベースステーションの校正
US9015093B1 (en) * 2010-10-26 2015-04-21 Michael Lamport Commons Intelligent control with hierarchical stacked neural networks
WO2014205376A1 (en) * 2013-06-21 2014-12-24 Marvell World Trade Ltd. Methods and systems for determining indicators used in channel state information (csi) feedback in wireless systems
WO2016078722A1 (en) * 2014-11-20 2016-05-26 Huawei Technologies Co., Ltd. Methods and nodes in a wireless communication network
CN106295678B (zh) * 2016-07-27 2020-03-06 北京旷视科技有限公司 神经网络训练与构建方法和装置以及目标检测方法和装置
US10546230B2 (en) * 2016-08-12 2020-01-28 International Business Machines Corporation Generating labeled data by sequence-to-sequence modeling with added perturbations to encoded information
US10552738B2 (en) * 2016-12-15 2020-02-04 Google Llc Adaptive channel coding using machine-learned models
CN107241320A (zh) * 2017-05-26 2017-10-10 微梦创科网络科技（中国）有限公司 一种基于图像的人机鉴别方法及鉴别系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113193925A (zh) * 2021-02-09 2021-07-30 中国人民解放军战略支援部队信息工程大学 一种通信系统的优化处理方法、装置及电子设备
CN113193925B (zh) * 2021-02-09 2023-08-11 中国人民解放军战略支援部队信息工程大学 一种通信系统的优化处理方法、装置及电子设备

Also Published As

Publication number Publication date
US20210027161A1 (en) 2021-01-28
EP3776365A1 (en) 2021-02-17
CN112166568B (zh) 2023-10-20
US20210099327A1 (en) 2021-04-01
EP3776941A1 (en) 2021-02-17
CN112166567A (zh) 2021-01-01
WO2019193377A1 (en) 2019-10-10
US20210201135A1 (en) 2021-07-01
US11082264B2 (en) 2021-08-03
WO2019192740A1 (en) 2019-10-10
CN112166568A (zh) 2021-01-01
WO2019193380A1 (en) 2019-10-10
CN112166567B (zh) 2023-04-18
EP3776940A1 (en) 2021-02-17

Similar Documents

Publication Publication Date Title
CN112236782A (zh) 通信系统中的端到端学习
CN111712835B (zh) 数据传输系统中的信道建模
CN110474716B (zh) 基于降噪自编码器的scma编解码器模型的建立方法
CN111566673B (zh) 通信系统中的端到端学习
CN112771547A (zh) 通信系统中的端到端学习
US11736899B2 (en) Training in communication systems
WO2019080988A1 (en) END-TO-END LEARNING IN COMMUNICATION SYSTEMS
US11750436B2 (en) Learning in communication systems
EP3767549A1 (en) Delivery of compressed neural networks
CN117337432A (zh) 用于使用神经网络对经编码数据进行解码的解码器及系统
CN113748626A (zh) 通信系统中的迭代检测
CN112740631A (zh) 通过接收算法中的参数的更新来在通信系统中学习
US20220083870A1 (en) Training in Communication Systems
US20230246887A1 (en) Training in Communication Systems
CN114175050A (zh) 信号解映射
EP3767548A1 (en) Delivery of compressed neural networks
EP4097644A1 (en) Determining locations of objects in communication systems
CN117278426A (zh) 一种基于潜在动态条件扩散模型的延迟容忍网络QoS度量概率预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination