EP4168937A1 - Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications - Google Patents

Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications

Info

Publication number
EP4168937A1
EP4168937A1 EP21739158.0A EP21739158A EP4168937A1 EP 4168937 A1 EP4168937 A1 EP 4168937A1 EP 21739158 A EP21739158 A EP 21739158A EP 4168937 A1 EP4168937 A1 EP 4168937A1
Authority
EP
European Patent Office
Prior art keywords
network
parameters
neural network
cnr
snr
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
EP21739158.0A
Other languages
German (de)
English (en)
Inventor
Quentin Lampin
Louis Adrien DUFRENE
Guillaume LARUE
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orange SA
Original Assignee
Orange SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Orange SA filed Critical Orange SA
Publication of EP4168937A1 publication Critical patent/EP4168937A1/fr
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/391—Modelling the propagation channel
    • H04B17/3913—Predictive models, e.g. based on neural network models

Definitions

  • the invention relates to the general field of telecommunications. More specifically, the invention relates to the field of signal processing using so-called artificial neural networks in telecommunications networks.
  • FIG. 1 represents a communication network of the state of the art, for example a cellular communication network, in which an NR neural network can be implemented.
  • the network comprises at least one mobile terminal device UE, connected via a radio communication channel CN to a device BS of the base station type.
  • the terminal UE transmits a radio signal x (t) to the base station BS
  • the base station BS will receive a radio signal y (t) different from the transmitted signal x (t).
  • the transmitted signal x (t) undergoes alterations due to its propagation on the radio channel CN.
  • the base station implements a network function in the form of an NR neural network to estimate, from the received signal y (t), the signal x (t) issued by the UE terminal.
  • the CN radio channel is modeled by choosing the functions of the different neurons, and by training the NR neural network so that it determines the parameters (P weight and bias) of each neuron during a learning phase. of the NR network.
  • the neural network NR receives a plurality of signals y '(t) corresponding respectively to transmitted signals x' (t) belonging to a set of known sequences.
  • the neural network is able to estimate a transmitted signal x (t) for a new received signal y (t).
  • the CN radio channel evolves, it is necessary to adapt (relearn) the NR neural network to take into account the evolution of the CN channel and improve the estimation of the signal x (t).
  • the adaptation of the neural network requires time and resources in terms of memory and computational capacity. The adaptation is all the longer and more expensive as the neural network model is complex.
  • the network function which performs the adaptation of a neural network transmits the parameters of this neural network to other network functions which use the neural network.
  • the station BS following the adaptation of the neural network NR implemented by the base station BS, the station BS sends the new parameters (functions, weight and bias) of its NR network to d other network equipment, for example at the UE terminal.
  • the UE terminal uses the new parameters to initialize its own neural network.
  • One solution can consist in using a neural network of less complex architecture, so that its adaptation is faster, easier and less expensive, but such a network has poorer expressiveness.
  • a complexity of a neural network is for example defined in terms of the number of parameters, of the number of neurons, of the number of layers.
  • the expressiveness of the neural network NR represents its capacity to approximate the signal processing function implemented, for example the equalization function. The latter corrects the received signal to facilitate demodulation. This modification is made according to the CN channel.
  • a poorer expressivity therefore affects the reliability of the estimate of the transmitted signal x (t).
  • Another solution may consist in taking into account, during the adaptation, only certain parameters, for example the weights of a limited number of neurons, by freezing the weights associated with other neurons. This solution is not satisfactory because it requires knowing the weights to be frozen. The equalization applied to the received signal to estimate the transmitted signal x (t) is thus less reliable.
  • the invention relates to a method of adapting the parameters of a first neural network used in a communication network to implement a signal processing function by a device, to process an input signal in order to get an output signal.
  • the process comprises steps of:
  • a third neural network configured to determine a transfer function of the parameters of a second neural network to the parameters of the first neural network, the second neural network being less complex than the first neural network and being also used to implement the signal processing function, the learning of the first and second neural networks having been carried out by the same input and output signals, the transfer function making it possible to deduce parameters of the first network from parameters of the second neural network;
  • the invention relates to a system for adapting the parameters of a first neural network used in a communication network to implement a signal processing function by a device for processing an input signal in order to '' obtain an output signal, the system comprising:
  • a device called a “third device”, configured to perform a learning process of a third neural network configured to determine a transfer function of the parameters of a second neural network to the parameters of the first neural network, the second network being less complex than the first network and being also used to implement the signal processing function, the learning of the first and second neural networks having been carried out by the same input and output signals, the transfer function making it possible to deriving parameters of the first network from parameters of the second neural network;
  • a device called a "second device”, configured to adapt, following a detection of an evolution of said processing function, the parameters of the second neural network by means of input signals associated with a learning sequence;
  • first device configured to adapt parameters of the first neural network using the adapted parameters of the second network and the transfer function.
  • the adaptation system according to the invention implements the adaptation method according to the invention.
  • the architecture of the first neural network is more complex than that of the second neural network.
  • the time required for learning the first network is greater than that required for learning the second network.
  • the expressiveness of the first network is better than that of the second network.
  • the first and second neural networks are configured to perform the same signal processing function.
  • this signal processing function corresponds to the estimation of the signal transmitted by a transmitting device on a communication channel to a receiving device.
  • the input signal corresponds to the signal received by the receiving equipment item and the output signal then corresponds to the estimate of the transmitted signal.
  • the first and second neural networks model the equalization function of the communication channel, the modeling by the first neural network being more reliable.
  • the second neural network can be considered as an approximation of the first neural network.
  • the first neural network (called complex) is configured with more parameters than the second neural network (called simple) thus allowing it to perform more complex signal processing operations to implement the processing function of signal.
  • this involves in particular compensating for the effects of complex non-linearity of the power amplifiers or the effects linked to its propagation on the channel, such as a power loss, a rotation of phase, masking and a frequency or time shift.
  • the two neural networks are trained with the same input signals (for example the signals received by the receiving equipment) and the same signals targets (for example the signals emitted by the sending equipment).
  • the transfer function according to the invention makes it possible to determine the parameters of the complex network from the parameters of the simple network.
  • the adaptation of the complex network is based on this transfer function to deduce, from the adapted parameters of the simple network, the new parameters of the complex network.
  • the transfer function according to the invention is an application of a set of real numbers of dimension n, Rn, to a set of real numbers of dimension m, Rm, where n and m are strictly positive integers, and m is greater than n.
  • the transfer function is a signal processing function, for example an arithmetic function.
  • the third neural network for implementing the transfer function is trained with parameters of the second neural network as inputs.
  • the target of the third neural network is to determine the set of parameters of the first neural network as if the first had been trained directly from signals transmitted over the communication channel.
  • the third neural network learns how to get the complex network from the simple network.
  • the proposed technique makes it possible to reduce the time, memory and computational capacity required for the adaptation of the complex neural network. Indeed, the adaptation of the parameters of the complex network only uses the parameters of the simple neural network and the transfer function performed by the third neural network as defined previously. The adaptation of the complex neural network is thus faster.
  • the proposed technique also makes it possible to reduce the consumption of resources necessary for the device implementing the first neural network by making it possible to deport the adaptation of this first network to another device, without requiring transmission of the data necessary for this. adaptation.
  • the first device which performs the adaptation of the parameters of the complex neural network has more resources in terms of memory and computational capacity than the second device which performs the adaptation of the parameters of the network. of simple neurons.
  • the first (or respectively the second) device also performs the initial learning of the first (or respectively of the second) neural network.
  • the adaptation of the parameters of the first neural network, the adaptation of the parameters of the second neural network, and / or the determination of the transfer function can be performed by the same device.
  • the proposed method further comprises, after the adaptation of the parameters of the second neural network as a function of the input signals associated with the learning sequence and the adaptation of the parameters of the first network of neurons using the adapted parameters of the second network and the transfer function, following the detection of the evolution of the processing function, a step of complementary adaptation of the adapted parameters of the first network as a function of the associated input signals to this learning sequence.
  • the execution of a said neural network can be carried out by a device other than that which carries out the learning and / or the adaptation of the parameters of this neural network.
  • the device that performs the learning or adaptation sends the parameters of the neural network to the device that performs it.
  • the invention has an advantageous application within the framework of the standardization of the nature of the exchanges between the equipments of a communication network for the implementation of neural networks.
  • the second device is a base station, for example of the eNodeB, advanced eNodeB or gNodeB type and the first device is a server at the heart of the communication network, for example a server of the "datacenter" type.
  • the third device is a server of the communication network, which may in particular be the same as the first device.
  • the invention also relates to a computer program on a recording medium, this program being capable of being implemented in a computer or one of the devices of the proposed adaptation system.
  • This program comprises instructions adapted to the implementation of an adaptation method as described above, when the program is executed by a computer.
  • the program can use any programming language, and be in the form of source code, object code, or intermediate code between source code and code.
  • object such as in a partially compiled form, or in any other desirable form.
  • the invention also relates to an information medium or a recording medium readable by a computer, and comprising instructions of the computer program as mentioned above.
  • the information or recording medium can be any entity or device capable of storing the program.
  • the medium may include a storage means, such as a ROM, for example a CD ROM or a microelectronic circuit ROM, or else a magnetic recording means, for example a floppy disk or a disk. hard, or flash memory.
  • the information or recording medium can be a transmissible medium such as an electrical or optical signal, which can be conveyed via an electrical or optical cable, by radio link, by optical link without wire or by other means.
  • the program according to the invention can in particular be downloaded from an Internet type network.
  • the information or recording medium can be an integrated circuit in which the program is incorporated, the circuit being adapted to execute or to be used in the execution of the method according to the invention.
  • FIG. 1 already described, illustrates an architecture of a communication network in which a neural network is used according to a method of the state of the art
  • FIG. 2 is an architecture of a NET communication network in which a method for adapting the parameters of a neural network is implemented according to a particular embodiment
  • FIG. 3 is a flowchart representing steps of an adaptation method implemented according to a particular embodiment
  • FIG. 4 represents a functional architecture, according to a particular embodiment, of a system for adapting the parameters of a neural network
  • FIG. 5 shows a hardware architecture of a device of the adaptation system according to a particular embodiment.
  • FIG. 2 is an architecture of a NET communication network in which a method for adapting the parameters of a neural network is implemented according to a particular embodiment.
  • the NET network is a cellular communication network, for example of the 3G, 4G or 5G type.
  • the proposed method can be implemented in communication networks based on other technologies.
  • the NET communication network is an optical network.
  • the communication network NET comprises at least one terminal UE of a user such as a mobile telephone and at least one base station BS of the eNodeB or gNodeB type.
  • a radio communication channel CN connects the terminal UE to the base station BS.
  • the NET network also includes two DC and DT servers of the datacenter type.
  • the base station BS and the servers DC and DT form an adaptation system SYS in accordance with the invention.
  • a radio signal x (t) transmitted by the terminal UE to the base station BS undergoes alterations in the CN channel, for example complex non-linearity effects of the power amplifiers or effects linked to its propagation on the channel, such as a weakening of its amplitude (its power), masking, a phase rotation of the symbols included in the signal, a frequency shift, sampling desynchronization, interference with other transmitted signals on neighboring channels, etc.
  • the base station receives a signal y (t) different from the transmitted signal x (t).
  • the BS base station has the architecture of a computer. It is configured to implement an SNR neural network.
  • the base station BS is configured to perform the learning phase of the SNR network, to adapt the parameters P2 (t) of this SNR network and also to execute it (inference phase) once the learning phase ( or adaptation) completed.
  • This SNR neural network makes it possible to execute a signal processing function, such as an equalization function to compensate for the effects of the CN channel.
  • the base station BS is also configured to run a CNR neural network of higher complexity than that of the SNR network.
  • the DC server is configured to train this complex CNR neural network. This CNR neural network makes it possible to perform a signal processing function, such as an equalization function to compensate for the effects of the CN channel.
  • the SNR and CNR networks are both intended to estimate the signal x (t) transmitted by the terminal UE from the signal y (t) received by the base station BS (also called the input signal).
  • the two networks SNR and CNR perform signal processing operations to implement the equalization function.
  • the expressiveness of the CNR complex network is better than that of the simple SNR network.
  • the two networks SNR and CNR are driven by the same set of input signals y (t) and output signals x (t). In a particular embodiment, the two networks use an identical error function.
  • the DT server is configured to perform the training of a third neural network T which is configured to determine a transfer function of the parameters P2 (t) of the simple network SNR to the parameters Pl (t) of the complex network CNR.
  • the transfer function of the network T makes it possible to deduce the parameters Pl (t) of the complex network CNR from the parameters P2 (t) of the simple network SNR.
  • the DT server sends the T network implementing the transfer function to the DC server.
  • the base station BS performs an adaptation of the simple SNR network and sends the new parameters P2 (t) of the SNR network to the DC server.
  • the server DC uses the network T and the adapted parameters P2 (t) to determine the new parameters Pl (t) of the complex network CNR and adapt them.
  • BS base stations, DT and DC servers are described as devices. Their network function can also be implemented by virtual functions (VNF for “Virtual Network Function”) running on equipment.
  • VNF Virtual Network Function
  • FIG. 3 is a flowchart representing the steps of an adaptation method, implemented according to a particular embodiment, by the SYS system described with reference to FIG. 2.
  • the terminal UE transmits a training sequence seql comprising symbols allowing the base station BS, as receiver, to estimate the channel of CN communication.
  • This seql learning sequence can be fully or partially known by the receiving device, as can its statistical properties.
  • This transmitted sequence seql comprises all of the target signals x (t) for the receiver device BS.
  • a sequence of deterministic symbols is of the Zadoff-Chu type.
  • An example of such a sequence is defined in specification 3GPP TS 38.211 “NR; Physical channels and modulation (Release 15) »vl5.8.0.
  • the base station BS learns the parameters P2 (t) of the simple network SNR.
  • the terminal UE sends target signals x (t), corresponding to the training sequence seql, and the base station BS receives signals y (t), called input signals, which correspond to the signals x (t) following their alteration by the CN channel.
  • this learning E020 iteratively updates the parameters of the simple SNR network by backpropagation of the gradient by minimizing a cost function (also called an error function) based on the quality of the reconstruction by the model of the known sequence seql.
  • the base station BS sends the parameters P2 (t) to the server DT.
  • the base station BS sends the training sequence seql and the signals y (t) associated with this training sequence that it has received to the server DC.
  • the base station BS sends only the signals y (t) associated with this training sequence that it has received to the server DC.
  • the server DC has information relating to the training sequence, for example a training sequence number, or else stores the training sequence.
  • the server DC learns the parameters Pl (t) of the complex network CNR. For example, this learning E050 iteratively updates the parameters of the complex network by back-propagation of the gradient while minimizing the cost function based on the quality of the reconstruction by the model of the known sequence seql.
  • the server DC sends the parameters Pl (t) to the server DT.
  • the server DC sends during a step E062 to the base station BS the parameters Pl (t) of the learned complex network CNR.
  • the BS base station is capable of executing the complex CNR network, but not of carrying out its training.
  • the base station BS is able to execute the simple SNR network.
  • the base station BS estimates a signal x (t) having been sent by the terminal UE from an input signal, the received signal y (t) coming from the terminal .
  • the base station uses the CNR complex network for estimation E064 because its expressiveness is greater. When it does not have the necessary resources to run the complex CNR network, it uses the simple SNR network.
  • the estimated signal is noted x1 (t) or x2 (t) depending on the neural network used for the estimation, CNR or SNR respectively.
  • step E070 which can be implemented in parallel, before or after steps E062 and E064, the server DT executes a phase of learning the parameters of the neural network T, which implements the transfer function.
  • This transfer function makes it possible to determine the parameters Pl (t) from the parameters P2 (t).
  • the DT server received the parameters Pl (t) and P2 (t) during steps E060 and E030 respectively.
  • the server DT sends the server DC the parameters of the trained network T.
  • the terminal UE transmits during a step E100 target signals x (t), corresponding to another known learning sequence seq2 at the base station BS, for example a Zadoff-Chu type sequence.
  • the base station BS receives signals y (t) which correspond to the signals x (t) of this other training sequence seq2 following their alteration by the CN channel.
  • the base station BS detects an evolution of the CN channel, for example, by a drop in performance observed after an inference by the simple network SNR.
  • the base station BS adapts the previous parameters P2 (t) of the simple network SNR from the signals y (t) associated with this other training sequence seq2 that it has received. It is emphasized here that the learning sequences seq1 and seq2 can be identical.
  • the base station BS sends the adapted parameters P2 (t) of the simple network SNR to the server DC.
  • the server DC adapts the complex network CNR by using the transfer function of the network T and the adapted parameters P2 (t) of the network simple SNR.
  • the server DC determines the adapted parameters Pl (t) of the complex network CNR.
  • the server DC sends the adapted parameters Pl (t) of the complex network CNR to the base station BS.
  • the base station BS preferably executes the complex network CNR to implement the equalization function of the radio channel CN and to estimate the signals x (t) which have been transmitted by the EU terminal. If the resources of the base station BS do not allow it to execute the complex network CNR (limited memory or calculation capacity), it uses, during step E200, the simple network SNR to implement the function of equalization.
  • the neural network CNR or SNR implement an equalization function of the received signal y (t) by multiplying its power by two to estimate the signal x (t).
  • the CNR neural network can compensate for other more complex effects and implement the equalization function with better reliability.
  • the parameters P2 (t) of the simple SNR network are adapted (E120) following each detection (E100) of an evolution of the equalization function.
  • the parameters Pl (t) of the complex network CNR can be adapted (E160) less often, for example every five or ten adaptations of the parameters P2 (t) of the simple network SNR.
  • the parameters Pl (t) of the complex network CNR are adapted (E160) if it is determined that the difference between the results of the two networks SNR and CNR exceeds a certain threshold.
  • the difference can be observed by the base station BS, which sends, if the difference exceeds the threshold, a request to the server DC to adapt the parameters Pl (t) of the complex network CNR.
  • the base station BS is able to adapt the complex network CNR.
  • the server DT sends the network T to the base station BS.
  • the base station can locally adapt the complex network CNR using the network T and the new parameters P2 (t) of the simple network SNR.
  • the base station BS implements the adaptation step E160 instead of the server DC, which avoids the exchanges E140 and E180 with the server DC.
  • the base station BS is configured to run complex and simple neural networks but is not configured to train or train them. to adapt them.
  • the proposed SYS system then comprises another device configured to train and adapt the simple SNR network and transmit its parameters to the base station so that the latter can execute it.
  • the DC server uses at during an optional step E170 (shown in dotted lines in FIG. 3) the input signals y (t) associated with the learning sequence seq2 for a complementary adaptation of the current parameters Pl (t).
  • the base station BS transmits the training sequence seq2 and the signals y (t) associated with the sequence seq2 that it received and which were used to adapt (E120) the neural network SNR. This embodiment makes it possible to optimize the adapted parameters Pl (t) of the complex network CNR.
  • the base station BS sends only the signals y (t) associated with this training sequence that it has received to the server DC.
  • the server DC has information relating to the training sequence, for example a training sequence number, or else stores the training sequence.
  • the SNR and CNR neural networks are configured to implement an equalization function.
  • the SNR and CNR neural networks are configured to implement a signal processing function to process an input signal (y (t)) in order to obtain an output signal (x (t)).
  • the signal processing function can include time and / or frequency synchronization between the transmitter and the receiver. To maintain this synchronization, it is necessary to perform a certain number of time / frequency drift measurements.
  • FIG. 4 represents a functional architecture, according to an embodiment of the invention, of the proposed adaptation system SYS, described with reference to FIGS. 2 and 3.
  • the SYS system consists of the base station BS, the DC server and the DT server. These devices respectively comprise SNR_m, CNR_m and T_m modules which are configured to learn (E020, E050, E070) the SNR, CNR and T neural networks, and adapt their parameters (E120, E160, E170).
  • the BS base station has an exec module configured to run (E064, E220) the SNR simple network and / or the CNR complex network.
  • Each of the devices of the SYS system includes a COM communication module configured to exchange (E030, E060, E080, E090, E140 and E180) neural networks as described previously with reference to figure 3.
  • the base station BS further comprises a CNR_m module configured to adapt the complex network CNR.
  • the base station BS and the server DT form a single device.
  • the DT and DC servers form a single device.
  • each device BS, DC and DT of the adaptation system SYS has the hardware architecture of a computer, as illustrated in FIG. 5.
  • each of the BS, DC and DT devices comprises in particular a processor 7, a random access memory 8, a read only memory 9, a non-volatile flash memory 10 in a particular embodiment, as well as communication means. 11. Such means are known per se and are not described in more detail here.
  • the read only memory 9 of the device BS, DC, DT constitutes a recording medium according to the invention, readable by the processor 7 and on which is recorded here a computer program Prog according to the invention.
  • the memory 10 of the device BS, DC, DT makes it possible to record variables used for the execution of the steps of the method of adapting a neural network as described above, such as CNR neural networks, SNR and T, and the parameters Pl (t) and P2 (t).
  • the computer program Prog defines functional and software modules here, configured to adapt the parameters of a neural network from a transfer function and parameters of another network of less complexity. These functional modules are based on and / or control the hardware elements 7-11 of the device BS, DC, DT DG mentioned above.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

Un premier réseau de neurones (CNR) est utilisé dans un réseau de communication (NET) pour mettre en œuvre une fonction de traitement de signal par un équipement (BS), pour traiter un signal en entrée (y(t)) afin d'obtenir un signal en sortie (x(t)). Le procédé comporte des étapes de : - apprentissage d'un troisième réseau de neurones (T) configuré pour déterminer une fonction de transfert des paramètres (P2(t)) d'un deuxième réseau de neurones (SNR) vers les paramètres (P1(t)) du premier réseau de neurones, le deuxième réseau de neurones étant moins complexe que le premier réseau et étant également utilisé pour mettre en œuvre la fonction de traitement, l'apprentissage des premier et deuxième réseaux de neurones ayant été effectués par les mêmes signaux en entrée et en sortie, la fonction de transfert permettant de déduire des paramètres du premier réseau à partir de paramètres du deuxième réseau de neurones; - suite à une détection d'une évolution de la fonction de traitement, adaptation des paramètres du deuxième réseau au moyen de signaux en entrée (y(t)) associés à une séquence d'apprentissage; et - adaptation des paramètres du premier réseau de neurones en utilisant les paramètres adaptés du deuxième réseau et la fonction de transfert.

Description

DESCRIPTION
Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications
Technique antérieure
[1] L'invention se rapporte au domaine général des télécommunications. Plus précisément, l'invention se rapporte au domaine du traitement de signal à l'aide de réseaux de neurones dits artificiels dans des réseaux de télécommunications.
[2] La figure 1 représente un réseau de communication de l'état de la technique, par exemple un réseau de communication cellulaire, dans lequel un réseau de neurones NR peut être mis en œuvre. Le réseau comporte au moins un équipement terminal mobile UE, connecté via un canal de communication radio CN à un équipement BS de type station de base. Supposons que le terminal UE émette un signal radio x(t) vers la station de base BS, la station de base BS recevra un signal radio y(t) différent du signal émis x(t). En effet, le signal émis x(t) subit des altérations dues à sa propagation sur le canal radio CN.
[3] Pour pallier les effets du canal CN, la station de base met en œuvre une fonction réseau sous la forme d'un réseau de neurones NR pour estimer, à partir du signal reçu y(t), le signal x(t) émis par le terminal UE. A cet effet, le canal radio CN est modélisé en choisissant les fonctions des différents neurones, et en entraînant le réseau de neurones NR pour qu'il détermine les paramètres (poids P et biais) de chaque neurone lors d'une phase d'apprentissage du réseau NR. Par exemple, lors de cette phase, le réseau de neurones NR reçoit une pluralité de signaux y'(t) correspondants respectivement à des signaux émis x'(t) appartenant à un ensemble de séquences connues. Une fois que la phase d'apprentissage est terminée, le réseau de neurones est capable d'estimer un signal émis x(t) pour un nouveau signal reçu y(t).
[4] Une problématique se pose si le canal radio CN évolue au cours du temps, par exemple à cause du déplacement du terminal UE, des conditions climatiques, de l'apparition ou de la disparition d'obstacles à la transmission de signaux sur le canal CN, d'évolution d'un nombre de terminaux connectés à la station de base BS, d'évolution d'interférences d'autres canaux avec le canal CN, etc. Lorsque le canal radio CN évolue, il est nécessaire d'adapter (réapprendre) le réseau de neurones NR pour prendre en compte l'évolution du canal CN et améliorer l'estimation du signal x(t). [5] L'adaptation du réseau de neurones requiert du temps et des ressources en matière de mémoire et de capacité de calcul. L'adaptation est d'autant plus longue et coûteuse que le modèle de réseau de neurones est complexe.
[6] On note que dans un réseau de télécommunications, la fonction réseau qui effectue l'adaptation d'un réseau de neurones transmet les paramètres de ce réseau de neurones à d'autres fonctions réseau qui utilisent le réseau de neurones. Dans l'exemple illustré par la figure 1, suite à l'adaptation du réseau de neurones NR mis en œuvre par la station de base BS, la station BS envoie les nouveaux paramètres (fonctions, poids et biais) de son réseau NR à d'autres équipements du réseau, par exemple au terminal UE. Dans un autre exemple illustratif, le terminal UE utilise les nouveaux paramètres pour initialiser son propre réseau de neurones.
[7] Lorsque la fonction réseau est déportée, il est nécessaire de transférer les données nécessaires à l'apprentissage, ce qui nécessite des ressources réseau importantes.
[8] Une solution peut consister à utiliser un réseau de neurones d'architecture moins complexe, pour que son adaptation soit plus rapide, plus facile et moins coûteuse, mais un tel réseau présente une expressivité moins bonne. Une complexité d'un réseau de neurones est par exemple définie en termes de nombre de paramètres, de nombre de neurones, de nombre de couches. On rappelle que l'expressivité du réseau de neurones NR représente sa capacité à approximer la fonction de traitement de signal mise en œuvre, par exemple la fonction d'égalisation. Cette dernière permet de corriger le signal reçu pour en faciliter la démodulation. Cette modification s'effectue en fonction du canal CN. Une expressivité moins bonne affecte donc la fiabilité de l'estimation du signal émis x(t).
[9] Une autre solution peut consister à ne prendre en compte, lors de l'adaptation, que certains paramètres par exemple les poids d'un nombre limité de neurones, en figeant les poids associés à d'autres neurones. Cette solution n'est pas satisfaisante car elle nécessite de connaître les poids à figer. L'égalisation appliquée au signal reçu pour estimer le signal émis x(t) est ainsi moins fiable.
[10] Il existe donc un besoin d'une solution qui permet de diminuer les ressources réseau nécessaires pour s'adapter aux évolutions de la fonction d'égalisation mise en œuvre avec un réseau de neurones, plus généralement à celles d'une fonction de traitement de signal, et qui ne présente pas des inconvénients des méthodes de l'état de la technique. Exposé de l'invention
[11] L'invention vise un procédé d'adaptation des paramètres d'un premier réseau de neurones utilisé dans un réseau de communication pour mettre en œuvre une fonction de traitement de signal par un équipement, pour traiter un signal en entrée afin d’obtenir un signal en sortie. Le procédé comporte des étapes de :
- apprentissage d'un troisième réseau de neurones configuré pour déterminer une fonction de transfert des paramètres d'un deuxième réseau de neurones vers les paramètres du premier réseau de neurones, le deuxième réseau de neurones étant moins complexe que le premier réseau de neurones et étant également utilisé pour mettre en œuvre la fonction de traitement de signal, les apprentissages des premier et deuxième réseaux de neurones ayant été effectués par les mêmes signaux en entrée et en sortie, la fonction de transfert permettant de déduire des paramètres du premier réseau à partir de paramètres du deuxième réseau de neurones ;
- suite à une détection d’une évolution de ladite fonction de traitement, adaptation des paramètres du deuxième réseau de neurones au moyen de signaux en entrée associés à une séquence d’apprentissage ; et
- adaptation des paramètres du premier réseau de neurones en utilisant les paramètres adaptés du deuxième réseau et la fonction de transfert.
[12] Corrélativement, l'invention vise un système d'adaptation des paramètres d'un premier réseau de neurones utilisé dans un réseau de communication pour mettre en œuvre une fonction de traitement de signal par un équipement pour traiter un signal en entrée afin d’obtenir un signal en sortie, le système comportant :
- un dispositif, dit « troisième dispositif », configuré pour effectuer un apprentissage d'un troisième réseau de neurones configuré pour déterminer une fonction de transfert des paramètres d'un deuxième réseau de neurones vers les paramètres du premier réseau de neurones, le deuxième réseau étant moins complexe que le premier réseau et étant également utilisé pour mettre en œuvre la fonction de traitement de signal, les apprentissages des premier et deuxième réseaux de neurones ayant été effectués par les mêmes signaux en entrée et en sortie, la fonction de transfert permettant de déduire des paramètres du premier réseau à partir de paramètres du deuxième réseau de neurones;
- un dispositif, dit « deuxième dispositif », configuré pour adapter, suite à une détection d’une évolution de ladite fonction de traitement, les paramètres du deuxième réseau de neurones au moyen de signaux en entrée associés à une séquence d’apprentissage ; et
- un dispositif, dit «premier dispositif », configuré pour adapter des paramètres du premier réseau de neurones en utilisant les paramètres adaptés du deuxième réseau et la fonction de transfert.
[13] Le système d'adaptation conforme à l'invention met en œuvre le procédé d'adaptation conforme à l'invention.
[14] Les caractéristiques et avantages du procédé d'adaptation proposé présentés ci- après s'appliquent de la même façon au système d'adaptation proposé et vice versa.
[15] Conformément à l'invention, l'architecture du premier réseau de neurones est plus complexe que celle du deuxième réseau de neurones. Le temps requis pour l'apprentissage du premier réseau est plus important que celui requis pour l'apprentissage du deuxième réseau. Cependant, l'expressivité du premier réseau est meilleure que celle du deuxième réseau.
[16] Dans ce document, nous désignons par le réseau "complexe" le premier réseau, et par le réseau "simple" le deuxième réseau de neurones.
[17] Conformément à l'invention, les premier et deuxième réseaux de neurones sont configurés pour effectuer la même fonction de traitement de signal. Par exemple, cette fonction de traitement de signal correspond à l'estimation du signal émis par un équipement émetteur sur un canal de communication vers un équipement récepteur. Le signal en entrée correspond au signal reçu par l'équipement récepteur et le signal en sortie correspond alors à l'estimation du signal émis. Dans cet exemple, les premier et deuxième réseaux de neurones modélisent la fonction d'égalisation du canal de communication, la modélisation par le premier réseau de neurones étant plus fiable. Le deuxième réseau de neurones peut être considéré comme une approximation du premier réseau de neurones.
[18] Le premier réseau de neurones (dit complexe) est configuré avec davantage de paramètres que le deuxième réseau de neurones (dit simple) lui permettant ainsi de réaliser des opérations de traitement de signal plus complexes pour mettre en œuvre la fonction de traitement de signal. Dans l'exemple du procédé d'égalisation, il s'agit notamment de compenser les effets de non-linéarité complexes des amplificateurs de puissance ou des effets liés à sa propagation sur le canal, tels qu'un affaiblissement de puissance, une rotation de phase, un masquage et un décalage fréquentiel ou temporel.
[19] Selon l'invention, lors d'un apprentissage initial, les deux réseaux de neurones, simple et complexe, sont entraînés avec les mêmes signaux d'entrées (par exemple les signaux reçus par l'équipement récepteur) et les mêmes signaux cibles (par exemple les signaux émis par l'équipement émetteur). [20] La fonction de transfert selon l'invention permet de déterminer les paramètres du réseau complexe à partir des paramètres du réseau simple. L'adaptation du réseau complexe repose sur cette fonction de transfert pour déduire, à partir des paramètres adaptés du réseau simple, les nouveaux paramètres du réseau complexe.
[21] La fonction de transfert selon l'invention est une application d'un ensemble de réels de dimension n, Rn, vers un ensemble de réels de dimension m, Rm, où n et m sont des entiers strictement positifs, et m est plus grand que n. La fonction de transfert est une fonction de traitement de signal, par exemple une fonction arithmétique. Le troisième réseau de neurones permettant de mettre en œuvre la fonction de transfert est entraîné avec des paramètres du deuxième réseau de neurones en tant qu'entrées. La cible du troisième réseau de neurones est de déterminer l'ensemble des paramètres du premier réseau de neurones comme si ce premier avait été entraîné directement à partir de signaux transmis sur le canal de communication. Le troisième réseau de neurones apprend comment obtenir le réseau complexe à partir du réseau simple.
[22] La technique proposée permet de réduire le temps, la mémoire et la capacité de calcul requis pour l'adaptation du réseau de neurones complexe. En effet, l'adaptation des paramètres du réseau complexe utilise uniquement les paramètres du réseau de neurones simple et la fonction de transfert effectuée par le troisième réseau de neurones telle que définie précédemment. L'adaptation du réseau de neurones complexe est ainsi plus rapide.
[23] La technique proposée permet également de diminuer la consommation de ressources nécessaires au dispositif mettant en œuvre le premier réseau de neurones en permettant de déporter l'adaptation de ce premier réseau vers un autre dispositif, sans nécessiter de transmission des données nécessaires à cette adaptation.
[24] Suite à un changement des conditions d'opérations du système, par exemple l'évolution du canal de communication, il peut être nécessaire d'adapter les paramètres du réseau de neurones simple. L'adaptation des paramètres du réseau de neurones complexe peut être effectuée moins fréquemment que l'adaptation de ceux du réseau de neurones simple, par exemple après cinq adaptations du réseau de neurones simple.
[25] Dans un mode de réalisation, le premier dispositif qui effectue l'adaptation des paramètres du réseau de neurones complexe a plus de ressources en termes de mémoire et de capacité de calcul que le deuxième dispositif qui effectue l'adaptation des paramètres du réseau de neurones simple. Dans un mode de réalisation, le premier (ou respectivement le deuxième) dispositif effectue également l'apprentissage initial du premier (ou respectivement du deuxième) réseau de neurones.
[26] Dans un autre mode de réalisation, l'adaptation des paramètres du premier réseau de neurones, l'adaptation des paramètres du deuxième réseau de neurones, et/ou la détermination de la fonction de transfert peuvent être effectués par le même dispositif.
[27] Dans un mode de réalisation particulier, le procédé proposé comporte en outre, après l'adaptation des paramètres du deuxième réseau de neurones en fonction des signaux en entrée associés à la séquence d'apprentissage et l'adaptation des paramètres du premier réseau de neurones en utilisant les paramètres adaptés du deuxième réseau et la fonction de transfert, faisant suite à la détection de l'évolution de la fonction de traitement, une étape d'adaptation complémentaire des paramètres adaptés du premier réseau en fonction des signaux en entrée associés à cette séquence d'apprentissage. Ce mode de réalisation particulier permet d'améliorer encore les performances du premier réseau même après l'adaptation de ses paramètres.
[28] Telle que proposée, l'exécution d'un dit réseau de neurones peut être effectuée par un autre dispositif que celui qui effectue l'apprentissage et/ou l'adaptation des paramètres de ce réseau de neurones. Le dispositif qui effectue l'apprentissage ou l'adaptation envoie les paramètres du réseau de neurones au dispositif qui l'exécute.
[29] L'invention a une application avantageuse dans le cadre de la standardisation des natures des échanges entre les équipements d'un réseau de communication pour la mise en œuvre des réseaux de neurones.
[30] Dans un mode de réalisation de l'invention, le deuxième dispositif est une station de base, par exemple de type eNodeB, eNodeB évoluée ou gNodeB et le premier dispositif est un serveur du cœur du réseau de communication, par exemple un serveur de type "datacenter". Le troisième dispositif est un serveur du réseau de communication, qui peut être en particulier le même que le premier dispositif.
[31] L'invention vise également un programme d'ordinateur sur un support d'enregistrement, ce programme étant susceptible d'être mis en œuvre dans un ordinateur ou l'un des dispositifs du système d'adaptation proposé. Ce programme comporte des instructions adaptées à la mise en œuvre d'un procédé d'adaptation tel que décrit ci-dessus, lorsque le programme est exécuté par un ordinateur.
[32] Le programme peut utiliser n'importe quel langage de programmation, et être sous la forme de code source, code objet, ou de code intermédiaire entre code source et code objet, tel que dans une forme partiellement compilée, ou dans n'importe quelle autre forme souhaitable.
[33] L'invention vise aussi un support d'information ou un support d'enregistrement lisibles par un ordinateur, et comportant des instructions du programme d'ordinateur tel que mentionné ci-dessus.
[34] Le support d'information ou d'enregistrement peut être n'importe quelle entité ou dispositif capable de stocker le programme. Par exemple, le support peut comporter un moyen de stockage, tel qu'une ROM, par exemple un CD ROM ou une ROM de circuit microélectronique, ou encore un moyen d'enregistrement magnétique, par exemple une disquette (floppy dise) ou un disque dur, ou une mémoire flash.
[35] D'autre part, le support d'information ou d'enregistrement peut être un support transmissible tel qu'un signal électrique ou optique, qui peut être acheminé via un câble électrique ou optique, par lien radio, par lien optique sans fil ou par d'autres moyens.
[36] Le programme selon l'invention peut être en particulier téléchargé sur un réseau de type Internet.
[37] Alternativement, le support d'informations ou d'enregistrement peut être un circuit intégré dans lequel le programme est incorporé, le circuit étant adapté pour exécuter ou pour être utilisé dans l'exécution du procédé conforme à l'invention.
Brève description des dessins
[38] D'autres caractéristiques et avantages de la présente invention ressortiront de la description faite ci-dessous, en référence aux dessins annexés qui en illustrent un exemple de réalisation dépourvu de tout caractère limitatif. Sur les figures :
- la figure 1, déjà décrite, illustre une architecture d'un réseau de communication dans lequel un réseau de neurones est utilisé selon une méthode de l'état de la technique;
- la figure 2 est une architecture d'un réseau de communication NET dans lequel un procédé d'adaptation des paramètres d'un réseau de neurones est mis en œuvre selon un mode de réalisation particulier;
- la figure 3 est un organigramme représentant des étapes d'un procédé d'adaptation mis en œuvre selon un mode de réalisation particulier ;
- la figure 4 représente une architecture fonctionnelle, selon un mode de réalisation particulier, d'un système d'adaptation des paramètres d'un réseau de neurones ; et - la figure 5 présente une architecture matérielle d'un dispositif du système d'adaptation selon un mode de réalisation particulier.
Description des modes de réalisation
[39] La figure 2 est une architecture d'un réseau de communication NET dans lequel un procédé d'adaptation des paramètres d'un réseau de neurones est mis en œuvre selon un mode de réalisation particulier.
[40] Dans le mode décrit ici, le réseau NET est un réseau de communication cellulaire, par exemple de type 3G, 4G ou 5G. Cependant, le procédé proposé peut être mis dans des réseaux de communication reposant sur d'autres technologies. Par exemple, le réseau de communication NET est un réseau optique.
[41] Le réseau de communication NET comporte au moins un terminal UE d'un utilisateur tel qu'un téléphone mobile et au moins une station de base BS de type eNodeB ou gNodeB. Un canal de communication radio CN relie le terminal UE à la station de base BS. Le réseau NET comporte également deux serveurs DC et DT de type centre de données (datacenter). La station de base BS et les serveurs DC et DT forment un système d'adaptation SYS conforme à l'invention.
[42] Un signal radio x(t) émis par le terminal UE vers la station de base BS subit des altérations du canal CN, par exemple des effets de non-linéarité complexes des amplificateurs de puissance ou des effets liés à sa propagation sur le canal, tel qu'un affaiblissement de son amplitude (sa puissance), un masquage, une rotation d'une phase des symboles compris dans le signal, un décalage de fréquence, une désynchronisation d'échantillonnage, une interférence avec d'autres signaux transmis sur des canaux voisins, etc. La station de base reçoit un signal y(t) différent du signal émis x(t).
[43] La station de base BS a l'architecture d'un ordinateur. Elle est configurée pour mettre en œuvre un réseau de neurones SNR. La station de base BS est configurée pour effectuer la phase d'apprentissage du réseau SNR, pour adapter les paramètres P2(t) de ce réseau SNR et également pour l'exécuter (phase d'inférence) une fois la phase d'apprentissage (ou d'adaptation) terminée. Ce réseau de neurones SNR permet d'exécuter une fonction de traitement de signal, telle une fonction d'égalisation pour pallier les effets du canal CN. La station de base BS est également configurée pour exécuter un réseau de neurones CNR d'une complexité plus élevée que celle du réseau SNR. [44] Le serveur DC est configuré pour effectuer l'apprentissage de ce réseau de neurones CNR complexe. Ce réseau de neurones CNR permet d'exécuter une fonction de traitement de signal, telle qu'une fonction d'égalisation pour pallier les effets du canal CN.
[45] Les réseaux SNR et CNR sont tous les deux destinés à estimer le signal x(t) émis par le terminal UE à partir du signal y(t) reçu par la station de base BS (également appelé signal en entrée). Les deux réseaux SNR et CNR réalisent des opérations de traitement de signal pour mettre en œuvre la fonction d'égalisation. L'expressivité du réseau complexe CNR est meilleure que celle du réseau simple SNR. Les deux réseaux SNR et CNR sont entraînés par un même ensemble de signaux d'entrée y(t) et de sortie x(t). Dans un mode de réalisation particulier, les deux réseaux utilisent une fonction d'erreur identique.
[46] Le résultat de l'estimation du signal x(t) par application du réseau simple SNR est noté x2(t). Le résultat de l'estimation du signal x(t) par application du réseau complexe CNR est noté xl(t). Les paramètres des réseaux SNR et CNR sont notés respectivement P2(t) et Pl(t), ces paramètres étant les fonctions, les poids et les biais des neurones de chacun de ces réseaux.
[47] Le serveur DT est configuré pour effectuer l'apprentissage d'un troisième réseau de neurones T qui est configuré pour déterminer une fonction de transfert des paramètres P2(t) du réseau simple SNR vers les paramètres Pl(t) du réseau complexe CNR. La fonction de transfert du réseau T permet de déduire les paramètres Pl(t) du réseau complexe CNR à partir des paramètres P2(t) du réseau simple SNR.
[48] Le serveur DT envoie au serveur DC le réseau T implémentant la fonction de transfert. Lorsque le canal CN évolue, la station de base BS effectue une adaptation du réseau simple SNR et envoie les nouveaux paramètres P2(t) du réseau SNR au serveur DC. Pour l'adaptation du réseau complexe CNR, le serveur DC utilise le réseau T et les paramètres adaptés P2(t) pour déterminer les nouveaux paramètres Pl(t) du réseau complexe CNR et les adapter.
[49] Les stations de base BS, les serveurs DT et DC sont décrits comme des dispositifs. Leur fonction réseau peut également être mise en œuvre par des fonctions virtuelles (VNF pour « Virtual Network Function ») s'exécutant sur des équipements.
[50] La figure 3 est un organigramme représentant des étapes d'un procédé d'adaptation, mis en œuvre selon un mode de réalisation particulier, par le système SYS décrit en référence à la figure 2. [51] Au cours d'une étape E010, le terminal UE, en tant qu'émetteur, transmet une séquence d'apprentissage seql comportant des symboles permettant à la station de base BS, en tant que récepteur, d'estimer le canal de communication CN. Cette séquence d'apprentissage seql peut être entièrement ou partiellement connue par le dispositif récepteur, de même que ses propriétés statistiques. Cette séquence émise seql comporte l'ensemble des signaux cibles x(t) pour le dispositif récepteur BS. A titre illustratif, une séquence de symboles déterministes est de type Zadoff-Chu. Un exemple d'une telle séquence est défini dans la spécification 3GPP TS 38.211 « NR; Physical channels and modulation (Release 15) » vl5.8.0.
[52] Au cours d'une étape E020, la station de base BS apprend les paramètres P2(t) du réseau simple SNR. Le terminal UE envoie des signaux cibles x(t), correspondants à la séquence d'apprentissage seql, et la station de base BS reçoit des signaux y(t), dits signaux en entrée, qui correspondent aux signaux x(t) suite à leur altération par le canal CN. Par exemple, cet apprentissage E020 met à jour de manière itérative les paramètres du réseau simple SNR par rétro-propagation du gradient en minimisant une fonction de coût (également appelée fonction d'erreur) basée sur la qualité de la reconstruction par le modèle de la séquence connue seql. A la fin de la phase d'apprentissage E020, et au cours d'une étape E030, la station de base BS envoie au serveur DT les paramètres P2(t).
[53] Au cours d'une étape E040 la station de base BS envoie la séquence d'apprentissage seql et les signaux y(t) associés à cette séquence d'apprentissage qu'elle a reçus au serveur DC. Dans un mode de réalisation particulier, la station de base BS envoie uniquement les signaux y(t) associés à cette séquence d'apprentissage qu'elle a reçus au serveur DC. Dans ce mode de réalisation particulier, le serveur DC dispose d'une information relative à la séquence d'apprentissage, par exemple un numéro de séquence d'apprentissage, ou bien mémorise la séquence d'apprentissage.
[54] Au cours d'une étape E050, le serveur DC apprend les paramètres Pl(t) du réseau complexe CNR. Par exemple, cet apprentissage E050 met à jour de manière itérative les paramètres du réseau complexe par rétro-propagation du gradient en minimisant la fonction de coût basée sur la qualité de la reconstruction par le modèle de la séquence connue seql. A la fin de la phase d'apprentissage E050, et au cours d'une étape E060, le serveur DC envoie au serveur DT les paramètres Pl(t).
[55] Dans le mode décrit ici, le serveur DC envoie au cours d'une étape E062 à la station de base BS les paramètres Pl(t) du réseau complexe CNR appris. La station de base BS est apte à exécuter le réseau complexe CNR, mais pas à effectuer son apprentissage. La station de base BS est apte à exécuter le réseau simple SNR.
[56] Au cours d'une étape E064, la station de base BS estime un signal x(t) ayant été émis par le terminal UE à partir d'un signal en entrée, le signal reçu y(t) en provenance du terminal. La station de base utilise le réseau complexe CNR pour l'estimation E064 car son expressivité est plus grande. Lorsqu'elle ne dispose pas des ressources nécessaires à l'exécution du réseau complexe CNR, elle utilise le réseau simple SNR. Le signal estimé est noté xl(t) ou x2(t) selon le réseau de neurones utilisé pour l'estimation, CNR ou SNR respectivement.
[57] Au cours d'une étape E070 qui peut être mise en œuvre en parallèle, avant ou après les étapes E062 et E064, le serveur DT exécute une phase d'apprentissage des paramètres du réseau de neurones T, qui met en œuvre la fonction de transfert. Cette fonction de transfert permet de déterminer les paramètres Pl(t) à partir des paramètres P2(t). Le serveur DT a reçu les paramètres Pl(t) et P2(t) au cours des étapes E060 et E030 respectivement.
[58] A la fin de la phase d'apprentissage E070 du réseau de neurones T, et au cours d'une étape E080, le serveur DT envoie au serveur DC les paramètres du réseau entraîné T.
[59] Dans un mode de réalisation particulier, par exemple dans le cadre d'une transmission postérieure, le terminal UE transmet au cours d'une étape E100 des signaux cibles x(t), correspondants à une autre séquence d'apprentissage connue seq2 à la station de base BS, par exemple une séquence de type Zadoff-Chu.
[60] La station de base BS reçoit des signaux y(t) qui correspondent aux signaux x(t) de cette autre séquence d'apprentissage seq2 suite à leur altération par le canal CN. La station de base BS détecte alors une évolution du canal CN, par exemple, par une baisse de performances observée après une inférence par le réseau simple SNR. Au cours d'une étape E120, la station de base BS adapte les paramètres précédents P2(t) du réseau simple SNR à partir des signaux y(t) associés à cette autre séquence d'apprentissage seq2 qu'elle a reçus. Il est ici souligné que les séquences d'apprentissage seql et seq2 peuvent être identiques.
[61] Au cours d'une étape E140, la station de base BS envoie les paramètres adaptés P2(t) du réseau simple SNR au serveur DC.
[62] Au cours d'une étape E160, le serveur DC adapte le réseau complexe CNR en utilisant la fonction de transfert du réseau T et les paramètres adaptés P2(t) du réseau simple SNR. En exécutant le réseau T avec les paramètres adaptés P2(t) en entrée, le serveur DC détermine les paramètres adaptés Pl(t) du réseau complexe CNR.
[63] Au cours d'une étape E180, le serveur DC envoie les paramètres adaptés Pl(t) du réseau complexe CNR à la station de base BS.
[64] Au cours d'une étape E220, la station de base BS exécute de préférence le réseau complexe CNR pour mettre en œuvre la fonction d'égalisation du canal radio CN et estimer les signaux x(t) qui ont été émis par le terminal UE. Si les ressources de la station de base BS ne lui permettent pas d'exécuter le réseau complexe CNR (mémoire ou capacité de calcul limitées), elle utilise au cours de l'étape E200 le réseau simple SNR pour mettre en œuvre la fonction d'égalisation.
[65] Selon un exemple, si l'altération du signal x(t) par le canal CN résulte en un affaiblissement de sa puissance par la moitié, le réseau de neurones CNR ou SNR mettent en œuvre une fonction d'égalisation du signal reçu y(t) en multipliant sa puissance par deux pour estimer le signal x(t). Le réseau de neurones CNR peut compenser d'autres effets plus complexes et mettre en œuvre la fonction d'égalisation avec une meilleure fiabilité.
[66] Dans un mode de réalisation, les paramètres P2(t) du réseau simple SNR sont adaptés (E120) suite à chaque détection (E100) d'une évolution de la fonction d'égalisation. Les paramètres Pl(t) du réseau complexe CNR peuvent être adaptés (E160) moins souvent, par exemple tous les cinq ou dix adaptations des paramètres P2(t) du réseau simple SNR.
[67] Dans un mode de réalisation, les paramètres Pl(t) du réseau complexe CNR sont adaptés (E160) s'il est déterminé que la différence entre les résultats des deux réseaux SNR et CNR dépasse un certain seuil. En particulier, la différence peut être observée par la station de base BS, qui envoie, si la différence dépasse le seuil, une demande au serveur DC pour adapter les paramètres Pl(t) du réseau complexe CNR.
[68] Dans un autre mode de réalisation, la station de base BS est apte à adapter le réseau complexe CNR. Au cours d'une étape E090 présentée en pointillés sur la figure 3, le serveur DT envoie le réseau T à la station de base BS. Suite à l'adaptation E120 du réseau simple SNR, la station de base peut adapter localement le réseau complexe CNR en utilisant le réseau T et les nouveaux paramètres P2(t) du réseau simple SNR. Autrement dit la station de base BS met en œuvre l'étape d'adaptation E160 au lieu du serveur DC, ce qui évite les échanges E140 et E180 avec le serveur DC.
[69] Dans un mode de réalisation, la station de base BS est configurée pour exécuter les réseaux de neurones complexe et simple mais n'est pas configurée pour les entraîner ni pour les adapter. Le système SYS proposé comporte alors un autre dispositif configuré pour entraîner et adapter le réseau simple SNR et transmettre ses paramètres à la station de base pour que celle-ci puisse l'exécuter.
[70] Dans un mode de réalisation particulier, suite à l'adaptation (E160) des paramètres Pl(t) du réseau CNR en utilisant les paramètres adaptés P2(t) du réseau SNR et la fonction de transfert, le serveur DC utilise au cours d'une étape optionnelle E170 (représentée en pointillés sur la figure 3) les signaux en entrée y(t) associés à la séquence d'apprentissage seq2 pour une adaptation complémentaire des paramètres Pl(t) courants. Dans ce mode de réalisation particulier, la station de base BS transmet la séquence d'apprentissage seq2 et les signaux y(t) associés à la séquence seq2 qu'elle a reçus et qui ont été utilisés pour adapter (E120) le réseau de neurones SNR. Ce mode de réalisation permet d'optimiser les paramètres adaptés Pl(t) du réseau complexe CNR. Dans un mode de réalisation particulier, la station de base BS envoie uniquement les signaux y(t) associés à cette séquence d'apprentissage qu'elle a reçus au serveur DC. Dans ce mode de réalisation particulier, le serveur DC dispose d'une information relative à la séquence d'apprentissage, par exemple un numéro de séquence d'apprentissage, ou bien mémorise la séquence d'apprentissage.
[71] Les réseaux de neurone SNR et CNR sont configurés pour mettre en œuvre une fonction d'égalisation. De manière générale, les réseaux de neurone SNR et CNR sont configurés pour mettre en œuvre une fonction de traitement de signal pour traiter un signal en entrée (y(t)) afin d'obtenir un signal en sortie (x(t)). Par exemple, la fonction de traitement de signal peut comporter une synchronisation temporelle et/ou fréquentielle entre l'émetteur et le récepteur. Pour conserver cette synchronisation, il est nécessaire d'effectuer un certain nombre de mesures de dérive temporelle/fréquentielle.
[72] La figure 4 représente une architecture fonctionnelle, selon un mode de réalisation de l'invention, du système d'adaptation SYS proposé, décrit en référence aux figures 2 et 3.
[73] Le système SYS comporte la station de base BS, le serveur DC et le serveur DT. Ces dispositifs comportent respectivement des modules SNR_m, CNR_m et T_m qui sont configurés pour apprendre (E020, E050, E070) les réseaux de neurones SNR, CNR et T, et adapter leurs paramètres (E120, E160, E170).
[74] La station de base BS comporte un module exec configuré pour exécuter (E064, E220) le réseau simple SNR et/ou le réseau complexe CNR. [75] Chacun des dispositifs du système SYS comporte un module de communication COM configuré pour échanger (E030, E060, E080, E090, E140 et E180) les réseaux de neurones tel que décrit précédemment en référence à la figure 3.
[76] Dans un mode de réalisation, la station de base BS comporte en outre un module CNR_m configuré pour adapter le réseau complexe CNR.
[77] Dans un mode de réalisation, la station de base BS et le serveur DT forment un seul dispositif.
[78] Dans un autre mode de réalisation, les serveurs DT et DC forment un seul dispositif.
[79] Dans le mode de réalisation décrit ici, chaque dispositif BS, DC et DT du système d'adaptation SYS a l'architecture matérielle d'un ordinateur, telle qu'illustrée à la figure 5.
[80] L'architecture de chacun des dispositifs BS, DC et DT comprend notamment un processeur 7, une mémoire vive 8, une mémoire morte 9, une mémoire flash non volatile 10 dans un mode particulier de réalisation, ainsi que des moyens de communication 11. De tels moyens sont connus en soi et ne sont pas décrits plus en détail ici.
[81] La mémoire morte 9 du dispositif BS, DC, DT constitue un support d'enregistrement conforme à l'invention, lisible par le processeur 7 et sur lequel est enregistré ici un programme d'ordinateur Prog conforme à l'invention.
[82] La mémoire 10 du dispositif BS, DC, DT permet d'enregistrer des variables utilisées pour l'exécution des étapes du procédé d'adaptation d'un réseau de neurones tel que décrit précédemment, telles que les réseaux de neurones CNR, SNR et T, et les paramètres Pl(t) et P2(t).
[83] Le programme d'ordinateur Prog définit des modules fonctionnels et logiciels ici, configurés pour adapter les paramètres d'un réseau de neurones à partir d'une fonction de transfert et de paramètres d'un autre réseau de moindre complexité. Ces modules fonctionnels s'appuient sur et/ou commandent les éléments matériels 7-11 du dispositif BS, DC, DT DG cités précédemment.

Claims

REVENDICATIONS
1. Procédé d'adaptation des paramètres d'un premier réseau de neurones (CNR) utilisé dans un réseau de communication (NET) pour mettre en œuvre une fonction de traitement de signal par un équipement (BS), pour traiter un signal en entrée (y(t)) afin d'obtenir un signal en sortie (x(t)), ledit procédé étant caractérisé en ce qu'il comporte des étapes de :
- apprentissage (E070) d'un troisième réseau de neurones (T) configuré pour déterminer une fonction de transfert des paramètres (P2(t)) d'un deuxième réseau de neurones (SNR) vers les paramètres (Pl(t)) dudit premier réseau de neurones (CNR), le deuxième réseau étant moins complexe que ledit premier réseau (CNR) et étant également utilisé pour mettre en œuvre ladite fonction de traitement, les apprentissages des premier et deuxième réseaux de neurones ayant été effectués par les mêmes signaux en entrée et en sortie, ladite fonction de transfert permettant de déduire des paramètres (Pl(t)) dudit premier réseau (CNR) à partir de paramètres (P2(t)) dudit deuxième réseau (SNR) ;
- suite à une détection d'une évolution de ladite fonction de traitement, adaptation (E120) des paramètres (P2) dudit deuxième réseau (SNR) au moyen de signaux en entrée associés à une séquence d'apprentissage (seq2) ; et
- adaptation (E160) des paramètres (Pl(t)) dudit premier réseau de neurones (CNR) en utilisant les paramètres (P2(t)) adaptés du deuxième réseau et ladite fonction de transfert.
2. Procédé selon la revendication 1 dans lequel l'adaptation (E160) des paramètres (PI) dudit premier réseau (CNR) est effectuée à une fréquence inférieure à celle de l'adaptation (E120) des paramètres (P2(t)) dudit deuxième réseau (SNR).
3. Procédé selon l'une des revendications 1 ou 2 comportant en outre une étape d'adaptation complémentaire (E170) des paramètres adaptés (E160) dudit premier réseau (CNR) en fonction des signaux en entrée (y(t)) associés à la séquence d'apprentissage (seq2).
4. Programme d'ordinateur (Prog) comportant des instructions pour l'exécution des étapes d'un procédé d'adaptation des paramètres d'un premier réseau de neurones (CNR) selon l'une quelconque des revendications 1 à 3, lorsque ledit procédé est exécuté par un ordinateur.
5. Support d'enregistrement lisible par un ordinateur sur lequel est enregistré un programme d'ordinateur selon la revendication 4.
6. Système (SYS) d'adaptation des paramètres d'un premier réseau de neurones (CNR) utilisé dans un réseau de communication (NET) pour mettre en œuvre une fonction de traitement de signal par un équipement (BS), pour traiter un signal en entrée (y(t)) afin d'obtenir un signal en sortie (x(t)), ledit système comportant :
- un dispositif (DT), dit troisième dispositif, configuré pour effectuer un apprentissage d'un troisième réseau de neurones (T) configuré pour déterminer une fonction de transfert des paramètres (P2) d'un deuxième réseau de neurones (SNR) vers les paramètres (PI) dudit premier réseau de neurones (CNR), le deuxième réseau (SNR) étant moins complexe que ledit premier réseau (CNR) et étant également utilisé pour mettre en œuvre ladite fonction de traitement, les apprentissages des premier et deuxième réseaux de neurones ayant été effectués par les mêmes signaux en entrée et en sortie, ladite fonction de transfert permettant de déduire des paramètres (PI) dudit premier réseau (CNR) à partir de paramètres (P2) dudit deuxième réseau (SNR) ;
- un dispositif (BS), dit deuxième dispositif, configuré pour adapter, suite à une détection d'une évolution de ladite fonction de traitement, les paramètres (P2) dudit deuxième réseau (SNR) au moyen de signaux en entrée associés à une séquence d'apprentissage (seq2) ; et
- un dispositif (DC), dit premier dispositif, configuré pour adapter des paramètres (PI) dudit premier réseau (CNR) en utilisant les paramètres (P2) adaptés du deuxième réseau et ladite fonction de transfert.
7. Système selon la revendication 6 dans lequel ledit deuxième dispositif est une station de base (BS) et lesdits premier et troisième dispositifs sont des serveurs (DC, DT) d'un cœur dudit réseau de communication (NET).
EP21739158.0A 2020-06-17 2021-06-03 Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications Pending EP4168937A1 (fr)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR2006325A FR3111454A1 (fr) 2020-06-17 2020-06-17 Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications
PCT/FR2021/051004 WO2021255362A1 (fr) 2020-06-17 2021-06-03 Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications

Publications (1)

Publication Number Publication Date
EP4168937A1 true EP4168937A1 (fr) 2023-04-26

Family

ID=72709511

Family Applications (1)

Application Number Title Priority Date Filing Date
EP21739158.0A Pending EP4168937A1 (fr) 2020-06-17 2021-06-03 Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications

Country Status (4)

Country Link
US (1) US20230351156A1 (fr)
EP (1) EP4168937A1 (fr)
FR (1) FR3111454A1 (fr)
WO (1) WO2021255362A1 (fr)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11551083B2 (en) * 2019-12-17 2023-01-10 Soundhound, Inc. Neural network training from private data

Also Published As

Publication number Publication date
FR3111454A1 (fr) 2021-12-17
US20230351156A1 (en) 2023-11-02
WO2021255362A1 (fr) 2021-12-23

Similar Documents

Publication Publication Date Title
EP4272125B1 (fr) Procédés et dispositifs pour geler ou adapter des paramètres d'un réseau de neurones utilisé dans un réseau de télécommunications
EP0734133A1 (fr) Système dégalisation pour récepteur multiporteur
EP3825919A1 (fr) Méthode d'association d'équipements d'utilisateurs dans un réseau cellulaire au moyen d'un apprentissage par renforcement multi-agent
WO2009156705A2 (fr) Procède d'estimation de la qualité de focalisation d'un signal pre-egalise par retournement temporel
EP4117178A1 (fr) Dispositif de linéarisation, par prédistorsion numérique, d'un amplificateur de puissance d'un système de communication
EP3979717A1 (fr) Méthode d'association d'équipements d'utilisateurs dans un réseau cellulaire selon une politique d'association transférable
EP2427991B1 (fr) Procede de pre-egalisation par retournement temporel en fdd
EP1330091B1 (fr) Procédé de sélection d'une position d'une fenêtre FFT dans un récepteur COFDM
EP1878185B1 (fr) Procédé de codage d'un signal multiporteuse de type OFDM/OQAM utilisant des symboles à valeurs complexes, signal, dispositifs et programmes d'ordinateur correspondants
Li et al. Model-free end-to-end deep learning of joint geometric and probabilistic shaping for optical fiber communication in IM/DD system
EP4168937A1 (fr) Procédé et système d'adaptation d'un réseau de neurones utilisé dans un réseau de télécommunications
EP0080544B1 (fr) Procédé de réception d'un signal de données en modulation à double bande latérale-porteuses en quadrature
FR3094164A1 (fr) Procédé d’obtention d’un segment de données par un dispositif client apte à communiquer avec une pluralité de réseaux de diffusion de contenu
EP2641369B1 (fr) Procede de communication dans un reseau cooperatif
EP3539259B1 (fr) Procédé et dispositif d'actualisation d'un modèle prédictif d'une variable relative à un terminal mobile
CA2374095A1 (fr) Procede et dispositif d'estimation d'un canal de propagation a partir de ses statistiques
FR2985397A1 (fr) Procede de pre-codage en tdd
EP4391464A2 (fr) Procédé d'amélioration de la détermination de l'estimée d'un canal de télécommunication, dispositif récepteur associé
WO2025073504A1 (fr) Procédé, dispositif et système d'adaptation d'une transmission de données à la suite d'un changement d'attachement
EP1206045A1 (fr) Procédé de correction de l'erreur de frequence
WO2025073505A1 (fr) Procédé, dispositif et système de transmission de données d'un terminal lors d'un changement d'attachement
FR3067541A1 (fr) Emission et reception d'un flux de donnees
FR2809575A1 (fr) Recepteur, procede de reception, et milieu d'enregistrement qui enregistre un programme pour recevoir des signaux de donnees
WO2006117268A1 (fr) Procédé de décodage itératif d'un signal ofdm/oqam utilisant des symboles à valeurs complexes, dispositif et programme d'ordinateur correspondants
EP4158811A1 (fr) Procede et dispositif de quantification de donnees representatives d'un signal radio reçu par une antenne radio d'un reseau mobile

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20230102

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)
RAP3 Party data changed (applicant data changed or rights of an application transferred)

Owner name: ORANGE

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

17Q First examination report despatched

Effective date: 20250205