KR102355383B1 - Deep learning-based signal detection technique for high reliability in massive MIMO systems - Google Patents

Deep learning-based signal detection technique for high reliability in massive MIMO systems Download PDF

Info

Publication number
KR102355383B1
KR102355383B1 KR1020210175055A KR20210175055A KR102355383B1 KR 102355383 B1 KR102355383 B1 KR 102355383B1 KR 1020210175055 A KR1020210175055 A KR 1020210175055A KR 20210175055 A KR20210175055 A KR 20210175055A KR 102355383 B1 KR102355383 B1 KR 102355383B1
Authority
KR
South Korea
Prior art keywords
equation
linear
nonlinear
estimation
sor
Prior art date
Application number
KR1020210175055A
Other languages
Korean (ko)
Inventor
송형규
장준용
박찬엽
이영롱
Original Assignee
세종대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 세종대학교산학협력단 filed Critical 세종대학교산학협력단
Priority to KR1020210175055A priority Critical patent/KR102355383B1/en
Application granted granted Critical
Publication of KR102355383B1 publication Critical patent/KR102355383B1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B7/00—Radio transmission systems, i.e. using radiation field
    • H04B7/02—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
    • H04B7/04—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
    • H04B7/0413—MIMO systems
    • H04B7/0452—Multi-user MIMO systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Radio Transmission System (AREA)

Abstract

The present invention relates to a deep learning-based detection technique that satisfies lower implementation complexity and high reliability by extending detection performance improvement using a deep learning algorithm to a massive MIMO system. According to the present invention, detection accuracy can be increased by using a deep learning algorithm. Provided is an iterative structure detection technique that detects a signal with high accuracy by combining a DNN-based nonlinear estimator with an SOR technique through a learning algorithm. According to the present invention, a detector uses a low-complexity SOR technique as a linear estimator and can be implemented with lower complexity than an OAMPNet in the massive MIMO system.

Description

Massive MIMO 시스템에서 고 신뢰도를 위한 딥러닝 기반 신호 검출 기법 {Deep learning-based signal detection technique for high reliability in massive MIMO systems}Deep learning-based signal detection technique for high reliability in massive MIMO systems

본 발명은 massive MIMO 시스템에서 높은 신뢰도를 위한 딥러닝 기반 신호 검출 장치 및 그 방법에 관한 것으로서, 보다 상세하게는 업 링크 대용량 MIMO 시스템에서 딥러닝 알고리즘을 이용하여 오류 성능을 향상시키기 위한 효율적인 검출 장치 및 그 방법에 관한 것이다.The present invention relates to a deep learning-based signal detection apparatus and method for high reliability in a massive MIMO system, and more particularly, an efficient detection apparatus for improving error performance by using a deep learning algorithm in an uplink large-capacity MIMO system, and It's about the way.

무선통신 시스템에서 다중 안테나의 기지국으로 활용되는 MIMO 시스템은 신뢰도 및 데이터 전송 효율을 향상시키는 다이버시티 이득과 독립적인 데이터의 다중 스트림을 지원하기 위한 필수적인 기술로 여겨진다. MIMO 시스템을 사용하여 기대되는 이득을 얻기 위해 송신 단으로부터 전송된 기존 데이터를 정확하게 복구해야 하며 이는 잘 설계된 신호 검출 기법을 요구한다.A MIMO system used as a base station for multiple antennas in a wireless communication system is considered to be an essential technology for supporting multiple streams of data independent of diversity gain that improves reliability and data transmission efficiency. In order to obtain the expected gain using the MIMO system, it is necessary to accurately recover the existing data transmitted from the transmitting end, which requires a well-designed signal detection technique.

신호 검출을 위한 MLD(Maximum Likelihood Detection) 기법은 최적의 검출 성능을 얻을 수 있으나, 매우 높은 구현 복잡도로 인하여 이를 대체하는 다양한 선형 및 비선형 검출 기법이 개발되었다. 최근 무선통신 시스템에서 인공지능을 활용하여 통신 시스템을 최적화하려는 연구가 진행되어왔으며, 이는 신호 검출 기법에 학습 가능한 변수를 적용하여 다양한 채널 환경에서 높은 정확도로 신호를 검출하기 위한 연구가 존재한다. 딥러닝 기반의 검출 기법은 크게 데이터 기반 검출 기법과 모델 기반 검출 기법으로 두 가지로 구분할 수 있다. 데이터 기반 검출 기법은 학습 알고리즘으로 얻을 수 있는 성능 향상을 최대화하기 위해 기존 수학적으로 설계된 검출 기법을 NN(Nerual Network)의 구조로 대체한다. 모델 기반 검출 기법은 기존 수학적인 모델을 유지하며 학습 가능한 변수를 통해 딥러닝 알고리즘의 장점을 활용한다. 반복적인 구조의 OAMP(Orthogonal approximate message passing)에 학습 가능한 변수를 포함하여 한 번의 반복을 딥러닝 네트워크의 한 레이어로 구조화한 OAMPNet(OAMP Network)의 모델 기반 검출 기법은 오프라인 학습을 통해 OAMP보다 높은 성능을 기대할 수 있다. 또한 높은 차수의 변조 방식과 공간적 상관이 존재하는 채널에 대해서도 신호 검출의 높은 신뢰도를 얻을 수 있다. 하지만, 기지국의 안테나 수가 최소 64개 이상을 가정하는 massive MIMO 시스템에서 안테나 수에 비례하는 OAMPNet의 구현 복잡도가 매우 높아진다.Although the MLD (Maximum Likelihood Detection) technique for signal detection can obtain an optimal detection performance, various linear and non-linear detection techniques have been developed to replace it due to the very high implementation complexity. Recently, research has been conducted to optimize the communication system using artificial intelligence in the wireless communication system, and there is a study to detect a signal with high accuracy in various channel environments by applying a learnable variable to the signal detection technique. Deep learning-based detection techniques can be broadly divided into data-based detection techniques and model-based detection techniques. The data-based detection technique replaces the existing mathematically designed detection technique with the structure of a neural network (NN) in order to maximize the performance improvement that can be achieved with a learning algorithm. The model-based detection technique maintains the existing mathematical model and utilizes the advantages of deep learning algorithms through learnable variables. The model-based detection technique of OAMPNet (OAMP Network), which structured one iteration as one layer of a deep learning network, including trainable variables in orthogonal approximate message passing (OAMP) of an iterative structure, performs better than OAMP through offline learning. can be expected In addition, high reliability of signal detection can be obtained even for a channel having spatial correlation with a high-order modulation scheme. However, the implementation complexity of OAMPNet, which is proportional to the number of antennas, is very high in a massive MIMO system that assumes the number of antennas of the base station is at least 64.

한국 공개특허 10-2020-0024072호Korean Patent Publication No. 10-2020-0024072 한국 공개특허 10-2010-0125593호Korean Patent Publication No. 10-2010-0125593

본 발명은 딥러닝 알고리즘을 활용한 검출 성능 향상을 massive MIMO 시스템으로 확장하는 것으로 보다 낮은 구현 복잡도와 높은 신뢰도를 만족하는 딥러닝 기반 검출 기법을 제공하는데 목적이 있다.An object of the present invention is to provide a deep learning-based detection technique that satisfies lower implementation complexity and high reliability by extending the detection performance improvement using a deep learning algorithm to a massive MIMO system.

본 발명은, 업 링크 massive MIMO 시스템에서 딥러닝 알고리즘을 활용한 높은 신뢰도를 얻을 수 있는 새로운 검출 기법을 개발하는 것으로, 반복적인 구조의 선형 추정기로 SOR(Successive over relaxiation)의 근사화 기법을 이용하고 비선형 추정기로는 DNN(Deep neural network) 기반의 추정기를 이용한다.The present invention is to develop a new detection technique that can obtain high reliability using a deep learning algorithm in an uplink massive MIMO system, using an approximation technique of SOR (Successive over relaxiation) as a linear estimator of an iterative structure and nonlinear As the estimator, a deep neural network (DNN)-based estimator is used.

반복적인 구조를 저 복잡도로 설계하기 위해 선형 추정기로 SOR 기법을 고려하며, DNN 기반의 비선형 추정기는 신호 검출을 위해 지도 학습으로 최적화되어 SOR 기법과 결합된다.In order to design an iterative structure with low complexity, the SOR technique is considered as a linear estimator, and the DNN-based nonlinear estimator is optimized by supervised learning for signal detection and combined with the SOR technique.

반복적인 구조의 신호 검출 기법은 선형 추정기의 출력에서 정확한 신호를 검출하기 위해 수학적으로 최적화된 비선형 추정기를 설계한다. 하지만, 기존의 비선형 추정기는 채널의 통계적 특성을 분석하는 것으로 설계되며 채널의 통계적 특성이 예측과 환경에서 비선형 추정기를 이용한 성능 향상을 기대하기 어렵다. 또한, 선형 ZF(Zero-forcing)와 MMSE(Minimum mean square error)의 신호 검출 결과를 반복적으로 연산하는 SOR 기법의 정확도는 반복횟수에 영향을 받아 결과 값이 달라지며 다양한 반복횟수를 가지는 SOR 기법을 고려하여 비선형 추정기를 설계하는 것은 매우 복잡하다. 이는 특정 채널 환경에 적응적으로 최적화되는 딥러닝 기반 비선형 추정기를 설계하는 것으로 문제를 해결할 수 있다. DNN 기반의 비선형 추정기는 수학적인 연산 없이도 채널의 통계적 특성을 데이터 기반으로 분석하여 주어진 반복횟수에 따라 반복적인 구조의 검출 기법을 최적화한다. 따라서, 제안된 검출기는 역 행렬 연산을 요구하는 선형 추정기와 비교하여 저 복잡도로 선형 추정기를 설계하며 딥러닝 알고리즘을 통해 높은 정확도로 신호를 검출할 수 있다.The iterative structure signal detection technique designs a mathematically optimized nonlinear estimator to detect an accurate signal from the output of the linear estimator. However, the existing nonlinear estimator is designed to analyze the statistical characteristics of the channel, and it is difficult to expect performance improvement using the nonlinear estimator in the environment and prediction of the statistical characteristics of the channel. In addition, the accuracy of the SOR technique, which repeatedly calculates the signal detection results of linear ZF (Zero-forcing) and MMSE (Minimum Mean Square Error), is affected by the number of iterations, so the result value varies. It is very complicated to design a nonlinear estimator taking this into account. This problem can be solved by designing a deep learning-based nonlinear estimator that is adaptively optimized for a specific channel environment. The DNN-based nonlinear estimator optimizes the detection technique of the iterative structure according to the given number of iterations by analyzing the statistical characteristics of the channel based on data without any mathematical operation. Therefore, the proposed detector designs a linear estimator with low complexity compared to a linear estimator that requires an inverse matrix operation, and can detect a signal with high accuracy through a deep learning algorithm.

상술한 신호 검출방법을 구현하기 위하여, 본 발명은 업링크 Massive MIMO 시스템에서 고 신뢰도를 위한 딥러닝 기반 신호 검출 장치에 있어서, 단말기로부터 수신되는 신호를 입력받아 선형 추정(SOR기법)을 통해 추정된 신호를 출력하는 선형 추정 모듈; 상기 선형 추정모듈에서 출력된 상기 추정 신호를 입력받아 검출 신호를 비선형 추정하여 출력하는 DNN 모델 기반의 비선형 추정 모듈; 상기 비선형 추정 모듈의 출력을 상기 선형 추정 모듈의 입력으로 소정 횟수 귀환하여, 상기 선형 추정 모듈과 상기 비선형 추정 모듈이 연결된, 묶음 구성을 포함하는 신호 검출 블록 모듈에서의 연산이 소정 횟수 반복되도록 구성된 귀환 모듈;을 포함하는 신호 검출 장치를 제공한다. In order to implement the above-described signal detection method, the present invention provides a deep learning-based signal detection apparatus for high reliability in an uplink massive MIMO system, receiving a signal received from a terminal and estimated through linear estimation (SOR method) a linear estimation module for outputting a signal; a DNN model-based nonlinear estimation module that receives the estimation signal output from the linear estimation module and nonlinearly estimates and outputs a detection signal; The output of the nonlinear estimation module is fed back a predetermined number of times as an input of the linear estimation module, and the operation in the signal detection block module including the bundle configuration in which the linear estimation module and the nonlinear estimation module are connected is repeated a predetermined number of times. It provides a signal detection device comprising a; module.

이때, 상기 선형 추정모듈은 SOR 기법을 적용한 연산을 반복하는 모듈일 수 있으며, 상기 비선형 추정모듈은 상기 선형 추정모듈의 출력을 입력 받아, 적응적 기계 학습을 수행하는 모듈인 것;을 특징으로 한다. In this case, the linear estimation module may be a module that repeats the operation to which the SOR technique is applied, and the nonlinear estimation module is a module that receives the output of the linear estimation module and performs adaptive machine learning; .

또한, 본 발명은 업링크 Massive MIMO 시스템에서 고 신뢰도를 위한 딥러닝 기반 신호 검출 방법에 있어서, 단말기로부터 수신되는 신호를 입력받아 선형 추정(SOR기법)을 통해 추정된 신호를 출력하는 선형 추정 단계; 상기 선형 추정단계에서 출력된 상기 추정 신호를 입력받아 검출 신호를 비선형 추정하여 출력하는 비선형 추정 단계; 상기 비선형 추정 단계의의 출력을 상기 선형 추정 단계의 입력으로 소정 횟수 귀환하여, 상기 선형 추정 단계와 상기 비선형 추정 단계를 결합한 연산을 소정 횟수 반복하는 귀환 단계;를 포함하는 신호 검출 방법을 제공하며, 상기 비선형 추정단계는 상기 선형 추정단계의 출력을 입력 받아, 적응적 기계 학습을 수행하도록 구성된다. In addition, the present invention provides a deep learning-based signal detection method for high reliability in an uplink massive MIMO system, comprising: a linear estimation step of receiving a signal received from a terminal and outputting a signal estimated through linear estimation (SOR method); a non-linear estimation step of receiving the estimation signal output in the linear estimation step, estimating a detection signal in a non-linear manner and outputting the estimation signal; A feedback step of feeding back the output of the nonlinear estimation step as an input of the linear estimation step a predetermined number of times and repeating the operation combining the linear estimation step and the nonlinear estimation step a predetermined number of times; The non-linear estimation step is configured to receive the output of the linear estimation step and perform adaptive machine learning.

본 발명에 따르면, 딥러닝 알고리즘을 신호 검출에 적용하는 것으로 검출 정확도를 향상시킬 수 있다. 이러한 본 발명은 채널의 통계적 특성을 기반으로 설계된 기존의 신호 검출 기법과 비교하여 서로 다른 통계적 특성을 가지는 채널 환경에 대해 적응적으로 학습하여 높은 정확도로 신호를 검출할 수 있는 이점이 있다.According to the present invention, detection accuracy can be improved by applying a deep learning algorithm to signal detection. The present invention has the advantage of being able to detect a signal with high accuracy by adaptively learning about a channel environment having different statistical characteristics compared to a conventional signal detection technique designed based on the statistical characteristics of the channel.

[도 1]은 본 발명에서 제안하는 신호 검출 기법에 대한 선형 추정기와 비선형 추정기의 반복적인 구조를 나타내며 두 가지 변조 기법에 대해 서로 다른 비선형 추정기의 DNN을 그림으로 표현한 것이다.
[도 2]는 본 발명에서 제안된 기법의 수렴율을 레이어 수에 따른 SER 성능으로 보여준다.
[도 3]는 본 발명에서 제안된 기법의 수렴율을 반복 추정 알고리즘의 반복 수에 따른 SER 성능으로 보여준다.
[도 4]은 이상적인 통계적 특성을 가지는 독립항등분포의 Rayleigh fading 채널에서 검출 성능을 비교하기 위해 제안된 검출기를 포함한 다양한 검출 기법의 수신 SNR 따른 SER 성능을 보여준다.
[도 5]는 [도 4]와 비교하여 보다 현실적인 통계적 특성을 가지는 3차원 채널에 대해 제안된 검출기를 포함한 다양한 검출 기법의 수신 SNR 따른 SER 성능을 보여준다.1 shows the iterative structures of a linear estimator and a nonlinear estimator for the signal detection technique proposed in the present invention, and DNNs of different nonlinear estimators for the two modulation techniques are graphically expressed.
[Figure 2] shows the convergence rate of the technique proposed in the present invention as SER performance according to the number of layers.
[Fig. 3] shows the convergence rate of the method proposed in the present invention as SER performance according to the number of iterations of the iterative estimation algorithm.
[Fig. 4] shows the SER performance according to the received SNR of various detection techniques including the detector proposed to compare the detection performance in the Rayleigh fading channel of the independent identity distribution with ideal statistical characteristics.
[Fig. 5] shows the SER performance according to the received SNR of various detection techniques including the proposed detector for a 3D channel with more realistic statistical characteristics compared to [Fig. 4].

첨부한 도면을 참고로 하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.With reference to the accompanying drawings, embodiments of the present invention will be described in detail so that those of ordinary skill in the art to which the present invention pertains can easily implement them.

본 발명에서는

Figure 112021142535153-pat00001
개의 안테나를 가진 기지국에서 단일 안테나를 가진
Figure 112021142535153-pat00002
개의 USs(User Equipments)와 동시에 송수신하는 단일 셀의 업 링크 massive MINO 시스템을 고려한다. 복소수의 집합을 표현하기 위하여 기호
Figure 112021142535153-pat00003
를 사용하며, 기지국의 수신신호
Figure 112021142535153-pat00004
는 아래의 수학식으로 나타낼 수 있다. In the present invention
Figure 112021142535153-pat00001
A base station with two antennas with a single antenna
Figure 112021142535153-pat00002
Consider a single-cell uplink massive MINO system that transmits and receives simultaneously with up to two USs (User Equipments). symbol to represent a set of complex numbers
Figure 112021142535153-pat00003
is used, and the received signal of the base station
Figure 112021142535153-pat00004
can be expressed by the following equation.

Figure 112021142535153-pat00005
Figure 112021142535153-pat00005

여기서,

Figure 112021142535153-pat00006
는 채널 행렬을 나타내며,
Figure 112021142535153-pat00007
은 독립항등분포의 평균이 0이고 분산이
Figure 112021142535153-pat00008
인 가우시안 복소 잡음 벡터를 나타낸다.
Figure 112021142535153-pat00009
는
Figure 112021142535153-pat00010
개의 송신 신호 벡터로 QAM(Quadrature amplitude modulation) 변조의 성상도 상의 값을 표현하는 S 의 벡터로 표현되며 S 의 모든 값은 정규화 된다. 본 발명에서 신호 검출을 위한 정확한 채널의 정보는 기지국에 알려져 있다고 가정한다.here,
Figure 112021142535153-pat00006
represents the channel matrix,
Figure 112021142535153-pat00007
The mean of the independent identity distribution is 0 and the variance is
Figure 112021142535153-pat00008
denotes a Gaussian complex noise vector.
Figure 112021142535153-pat00009
Is
Figure 112021142535153-pat00010
It is expressed as a vector of S expressing the values on the constellation of QAM (Quadrature Amplitude Modulation) modulation as two transmit signal vectors, and all values of S are normalized. In the present invention, it is assumed that the correct channel information for signal detection is known to the base station.

신호 검출을 위한 선형 기법은 아래의 수학식을 해결하는 것으로 massive MIMO 시스템에서 채널 경화 성질로 인해 높은 검출 성능을 얻을 수 있다.The linear technique for signal detection is to solve the following equation, and high detection performance can be obtained due to the channel hardening properties in a massive MIMO system.

Figure 112021142535153-pat00011
Figure 112021142535153-pat00011

여기서, 선형 검출 기법인 ZF, MMSE는 각각

Figure 112021142535153-pat00012
,
Figure 112021142535153-pat00013
을 사용하며,
Figure 112021142535153-pat00014
는
Figure 112021142535153-pat00015
크기의 단위 행렬을 의미한다. 선형 MMSE 기법의 검출 성능을 역 행렬의 연산 과정 없이 달성하는 것으로 복잡도를 감소시키는 반복적인 추정 알고리즘은 A 행렬을 아래의 수학식과 같이 3가지 부분으로 나누어 연산 식에 활용한다.Here, the linear detection techniques ZF and MMSE are each
Figure 112021142535153-pat00012
,
Figure 112021142535153-pat00013
is used,
Figure 112021142535153-pat00014
Is
Figure 112021142535153-pat00015
It means the identity matrix of size. An iterative estimation algorithm that reduces complexity by achieving the detection performance of the linear MMSE technique without an inverse matrix operation process divides the matrix A into three parts as shown in the following equation and uses it in the calculation equation.

Figure 112021142535153-pat00016
Figure 112021142535153-pat00016

여기서,

Figure 112021142535153-pat00017
와
Figure 112021142535153-pat00018
은 각각
Figure 112021142535153-pat00019
행렬의 대각 성분을 제외한 상 삼각 행렬과 하 삼각 행렬을 나타내며
Figure 112021142535153-pat00020
는 대각 행렬을 나타낸다. here,
Figure 112021142535153-pat00017
Wow
Figure 112021142535153-pat00018
is each
Figure 112021142535153-pat00019
Represents an upper triangular matrix and a lower triangular matrix excluding the diagonal components of the matrix
Figure 112021142535153-pat00020
represents a diagonal matrix.

본 발명에서 제안된 검출기를 설명하기 앞서 송 수신 신호를 복소수로 표현하는 것은 신호 검출을 위한 딥러닝 알고리즘을 구현하는데 어려움이 있다. 이를 해결하기 위해 복소수 표현에서 수학적으로 동일한 연산 결과를 얻을 수 있는 실수 표현으로 대체하며 기존보다 2배 크기의 행렬과 벡터로 표현된다. 이는 복소수 값을 가지는 임의의 열 벡터

Figure 112021142535153-pat00021
와 행렬
Figure 112021142535153-pat00022
에 대해 아래의 수학식으로 나타낼 수 있다. Before describing the detector proposed in the present invention, it is difficult to implement a deep learning algorithm for signal detection to express the transmit/receive signal as a complex number. To solve this problem, the complex number expression is replaced with a real number expression that can obtain the same mathematically same operation result, and is expressed as a matrix and vector twice the size of the existing ones. This is an arbitrary column vector with complex values.
Figure 112021142535153-pat00021
and matrix
Figure 112021142535153-pat00022
can be expressed by the following formula.

Figure 112021142535153-pat00023
Figure 112021142535153-pat00023

여기서,

Figure 112021142535153-pat00024
은 복소수의 실수 값을 나타내며,
Figure 112021142535153-pat00025
은 복소수의 허수 값을 나타낸다. 이와 같이 [수학식 1]의 실수 표현은 아래의 수학식으로 나타낼 수 있다.here,
Figure 112021142535153-pat00024
represents the real value of a complex number,
Figure 112021142535153-pat00025
represents the imaginary value of a complex number. As such, the real number expression of [Equation 1] can be expressed by the following equation.

Figure 112021142535153-pat00026
Figure 112021142535153-pat00026

본 발명에서 제안된 검출기는 3차원의 채널 환경을 수학적으로 모델링하여 생성된 무작위의 채널 행렬과 송수신 데이터를 이용하여 지도 학습의 종단 간 학습 알고리즘으로 신호를 정확하게 검출할 수 있도록 최적화된다. 제안된 검출기의 구조는 선형 추정기와 비선형 추정기의 반복적인 블록 구조를 기반으로 설계되어 반복하는 횟수에 따라 복잡도와 검출 정확도가 결정된다. 본 발명에서 제안된 반복적인 구조의 신호 검출 기법은 선형 추정기와 비선형 추정기로 나누어 설명한다.The detector proposed in the present invention is optimized to accurately detect a signal with an end-to-end learning algorithm of supervised learning using a random channel matrix and transmission/reception data generated by mathematically modeling a three-dimensional channel environment. The proposed detector structure is designed based on the iterative block structures of the linear and nonlinear estimators, and the complexity and detection accuracy are determined according to the number of iterations. The iterative signal detection technique proposed in the present invention is divided into a linear estimator and a non-linear estimator.

첫째, 반복적인 구조의 선형 추정기는 낮은 복잡도를 위해 MMSE 기반 반복 추정 알고리즘인 SOR 기법을 고려한다. 본 발명에서는 딥러닝 알고리즘을 활용하여 얻을 수 있는 성능 향상을 극대화하기 위해 학습 가능한 변수를 포함하는 SOR 기법을 제안하며 반복적인 구조의 제안된 검출 기법은 아래의 수학식으로 나타낼 수 있다.First, the linear estimator of iterative structure considers the MMSE-based iterative estimation algorithm SOR technique for low complexity. In the present invention, in order to maximize the performance improvement that can be obtained by utilizing a deep learning algorithm, an SOR technique including a learnable variable is proposed, and the proposed detection technique of the iterative structure can be expressed by the following equation.

Figure 112021142535153-pat00027
Figure 112021142535153-pat00027

Figure 112021142535153-pat00028
Figure 112021142535153-pat00028

Figure 112021142535153-pat00029
Figure 112021142535153-pat00029

여기서, v는 v=H H y, n은 선형 추정기로 사용되는 SOR 기법의 반복을 나타내며 k는 선형 추정기와 비선형 추정기를 결합한 블록의 반복을 나타낸다. 이와 같이 제안된 검출기를 설명하기 위한 반복 용어의 혼란을 방지하기 위해 기존의 반복 용어는 SOR 기법의 반복 추정 알고리즘에 대해서만 사용한다. 이에 반복되는 구조의 한 블록은 딥러닝 네트워크의 한 레이어로 지칭한다. Here, v is v = H H y, n is the iteration of the SOR technique used as the linear estimator, and k is the iteration of the block combining the linear estimator and the nonlinear estimator. In order to prevent confusion of iterative terms to describe the proposed detector, the existing iterative terms are used only for the iterative estimation algorithm of the SOR technique. One block of the repeated structure is referred to as one layer of the deep learning network.

[수학식 6]은 본 발명에서 제안하는 변형된 SOR 기법의 수식으로 제안된 검출기의 k번째 레이어에 대해

Figure 112021142535153-pat00030
는 SOR 기법의 각 반복에 적용되는 서로 다른 가중치를 나타내고,
Figure 112021142535153-pat00031
는 기존 SOR 기법의 완화 변수를 나타내며 두 변수 모두 검출 성능을 향상시키기 위해 학습 알고리즘을 통해 최적화된다. 기호
Figure 112021142535153-pat00032
는 실수 집합을 표현한다. 반복 추정 알고리즘에서 추정 성능을 향상시키기 위한 초기 벡터를 따로 고려하지 않으며,
Figure 112021142535153-pat00033
을 영 벡터로 설정한다. 이에 k 번째 레이어에 대한 SOR 기법의 초기 벡터
Figure 112021142535153-pat00034
은 k-1 번째 비선형 추정기의 결과값으로 사용된다. [Equation 6] is an equation of the modified SOR method proposed in the present invention, and for the k -th layer of the detector,
Figure 112021142535153-pat00030
represents the different weights applied to each iteration of the SOR technique,
Figure 112021142535153-pat00031
represents the relaxation variables of the existing SOR technique, and both variables are optimized through a learning algorithm to improve detection performance. sign
Figure 112021142535153-pat00032
represents a set of real numbers. It does not consider the initial vector to improve the estimation performance in the iterative estimation algorithm.
Figure 112021142535153-pat00033
is set to the zero vector. Therefore, the initial vector of the SOR technique for the k -th layer
Figure 112021142535153-pat00034
is used as the result of the k- 1th nonlinear estimator.

[수학식 7]은 n번 반복하여 얻은 SOR 기법의 결과를 k번째 레이어에 대한 비선형 추정기의 입력인

Figure 112021142535153-pat00035
벡터로 나타낸다.[Equation 7] is the input of the nonlinear estimator for the k -th layer, the result of the SOR technique obtained by repeating n times.
Figure 112021142535153-pat00035
represented as a vector.

[수학식 8]의

Figure 112021142535153-pat00036
는 비선형 추정기의 연산을 기호로 표현한 것이며 k+1 번째 레이어의 SOR 기법의 초기 벡터
Figure 112021142535153-pat00037
을 도출한다. of [Equation 8]
Figure 112021142535153-pat00036
is a symbolic representation of the operation of the nonlinear estimator, and is the initial vector of the SOR technique of the k+ 1th layer.
Figure 112021142535153-pat00037
to derive

둘째, 본 발명에서는 [수학식 8]의 비선형 추정기에 대한 연산을 단일 입출력 구조의 DNN로 설계하며 비선형 추정기의

Figure 112021142535153-pat00038
벡터의 i 번째 성분
Figure 112021142535153-pat00039
에 대하여 아래의 수학식으로 나타낼 수 있다. Second, in the present invention, the operation of the nonlinear estimator of [Equation 8] is designed as a DNN of a single input/output structure, and the calculation of the nonlinear estimator is
Figure 112021142535153-pat00038
i component of vector
Figure 112021142535153-pat00039
can be expressed by the following equation.

Figure 112021142535153-pat00040
Figure 112021142535153-pat00040

여기서,

Figure 112021142535153-pat00041
는 함수 연결을 의미하는 수학적인 기호이며,
Figure 112021142535153-pat00042
는
Figure 112021142535153-pat00043
의 i 번째 성분을 나타내고,
Figure 112021142535153-pat00044
는 딥러닝 알고리즘에서 주로 사용되는 활성화 함수인 Relu(Rectifier linear unit)의 성분 곱 연산의 기호를 나타낸다. 이에
Figure 112021142535153-pat00045
는
Figure 112021142535153-pat00046
의 출력 크기와
Figure 112021142535153-pat00047
의 입력 크기를 가지는 DNN의
Figure 112021142535153-pat00048
번째 FC(Fully connected layer)를 나타내며
Figure 112021142535153-pat00049
의 가중치 행렬과
Figure 112021142535153-pat00050
의 bias 벡터의 선형대수의 연산으로 아래의 수학식으로 나타낼 수 있다. here,
Figure 112021142535153-pat00041
is a mathematical symbol for function linkage,
Figure 112021142535153-pat00042
Is
Figure 112021142535153-pat00043
represents the i -th component of
Figure 112021142535153-pat00044
represents the sign of the component product operation of Relu (rectifier linear unit), an activation function mainly used in deep learning algorithms. Therefore
Figure 112021142535153-pat00045
Is
Figure 112021142535153-pat00046
with the output size of
Figure 112021142535153-pat00047
of a DNN with an input size of
Figure 112021142535153-pat00048
represents the second fully connected layer (FC)
Figure 112021142535153-pat00049
with the weight matrix of
Figure 112021142535153-pat00050
It is an operation of the linear algebra of the bias vector of .

Figure 112021142535153-pat00051
Figure 112021142535153-pat00051

(b l 은 bias를 의미함)(b l means bias)

Figure 112021142535153-pat00052
집합의 성분 개수를
Figure 112021142535153-pat00053
라 할 때, 제안된 비선형 추정기를 구성하는 DNN은 마지막 FC에 대해
Figure 112021142535153-pat00054
의 출력 크기를 가지며,
Figure 112021142535153-pat00055
를 출력 값을 나타내는 벡터라 할 때 수학식 [9]의 딥러닝 활성화 함수의 소프트맥스 연산 기호
Figure 112021142535153-pat00056
를 아래의 수학식으로 나타낼 수 있다.
Figure 112021142535153-pat00052
the number of elements in the set
Figure 112021142535153-pat00053
, the DNN constituting the proposed nonlinear estimator is
Figure 112021142535153-pat00054
has an output size of
Figure 112021142535153-pat00055
When is a vector representing the output value, the softmax operation symbol of the deep learning activation function in Equation [9]
Figure 112021142535153-pat00056
can be expressed by the following equation.

Figure 112021142535153-pat00057
Figure 112021142535153-pat00057

여기서,

Figure 112021142535153-pat00058
는 z 벡터의 j 번째 성분 값을 나타낸다. 이에 비선형 추정기의 마지막 연산을 나타내는
Figure 112021142535153-pat00059
는 단일 입력 값이 대한 단일 출력 값을 얻기 위해 본 발명에서 아래와 같은 수학식으로 계산하는 것을 제안한다.here,
Figure 112021142535153-pat00058
denotes the j -th component value of the z vector. This represents the last operation of the nonlinear estimator.
Figure 112021142535153-pat00059
In the present invention, in order to obtain a single output value for a single input value, it is proposed to calculate by the following equation.

Figure 112021142535153-pat00060
Figure 112021142535153-pat00060

여기서,

Figure 112021142535153-pat00061
는 변조의 성상도를 표현하는 S의 모든 값을 나타내는 벡터이며,
Figure 112021142535153-pat00062
는 s 벡터의 j 번째 성분 값,
Figure 112021142535153-pat00063
는 z 벡터의 i번째 성분 값을 나타낸다. here,
Figure 112021142535153-pat00061
is a vector representing all values of S expressing the constellation of modulation,
Figure 112021142535153-pat00062
is the j -th component value of the s vector,
Figure 112021142535153-pat00063
denotes the i -th component value of the z vector.

비선형 추정기로 제안된 DNN의 크기는 제안된 검출기의 계산 복잡도를 결정하며 적절한 크기의 DNN을 설계하는 것이 중요하다. 본 발명에서는 16QAM과 64QAM의 두 변조에 대해 각각 다른 크기의 DNN를 제안하며 16QAM 변조에 대해

Figure 112021142535153-pat00064
의 첫번째 FC와
Figure 112021142535153-pat00065
의 두번째 FC를 사용한다. 이에 64QAM 변조에는
Figure 112021142535153-pat00066
의 FC를 추가하는 것으로 반복적인 구조의 검출기를 표현하는 [도 1]에서 16QAM과 64QAM을 비교하여 비선형 추정기에 대해 다른 깊이의 FC를 가지는 DNN를 표현한다.The size of the proposed DNN as a nonlinear estimator determines the computational complexity of the proposed detector, and it is important to design a DNN of an appropriate size. In the present invention, DNNs of different sizes are proposed for two modulations of 16QAM and 64QAM, and for 16QAM modulation,
Figure 112021142535153-pat00064
with the first FC of
Figure 112021142535153-pat00065
The second FC of Therefore, 64QAM modulation is
Figure 112021142535153-pat00066
In [FIG. 1], which expresses a detector with an iterative structure by adding FC of , 16QAM and 64QAM are compared to express a DNN having different depths of FC for a nonlinear estimator.

기존 반복적인 구조의 비선형 추정기는 선형 추정기의 결과로부터 높은 정확도로 신호를 검출하기 위해 수학적으로 설계되었다. 하지만, SOR 기법은 반복 수에 따라 달라지는 결과 값에 대해 수학적으로 비선형 추정기를 설계하는 것은 매우 어렵다. 본 발명에서 제안하는 DNN 기반의 비선형 추정기는 데이터를 기반으로 최적화되어 SOR 기법과 결합될 수 있으며 학습된 채널 환경에 대해 높은 정확도로 신호를 검출할 수 있다.The existing iterative nonlinear estimator is mathematically designed to detect a signal with high accuracy from the result of the linear estimator. However, in the SOR technique, it is very difficult to mathematically design a nonlinear estimator for a result value that varies depending on the number of iterations. The DNN-based nonlinear estimator proposed in the present invention can be optimized based on data and combined with the SOR technique, and can detect a signal with high accuracy for a learned channel environment.

본 발명에서 제안된 검출기는 오프라인 학습을 통해 최적화된다. 학습 알고리즘은 Adam(Adaptative moment estimation) 최적화 함수를 활용한 Tensor flow로 구현되며 최적화하려는 손실 함수는 아래의 수학식으로 나타낼 수 있다.The detector proposed in the present invention is optimized through offline learning. The learning algorithm is implemented as a tensor flow using an Adam (Adaptative moment estimation) optimization function, and the loss function to be optimized can be expressed by the following equation.

Figure 112021142535153-pat00067
Figure 112021142535153-pat00067

여기서, M은 훈련 데이터의 수를 나타내고 K는 제안된 검출기의 총 레이어 수를 나타내며 모든 값은 [수학식 4]의 실수 표현으로 변환되어 사용된다. 학습 알고리즘을 위한 데이터 집합

Figure 112021142535153-pat00068
은 검증되어지는 수신 SNR(Signal to noise ratio) 범위 안에서 [수학식 5]의 변조된 신호 벡터
Figure 112021142535153-pat00069
, 채널행렬
Figure 112021142535153-pat00070
, 그리고 수신 잡음 벡터
Figure 112021142535153-pat00071
을 통해 무작위로 생성된다. 본 발명에서 제안된 검출기를 검증하기 위한 성능 지표로는 수신 SNR에 따른 SER(Symbol error rate)을 사용하며 기지국의 수신 SNR은 아래의 수학식으로 나타낼 수 있다.Here, M represents the number of training data, K represents the total number of layers of the proposed detector, and all values are converted into real numbers in [Equation 4] and used. Datasets for Learning Algorithms
Figure 112021142535153-pat00068
is the modulated signal vector of [Equation 5] within the range of the received signal to noise ratio (SNR) to be verified.
Figure 112021142535153-pat00069
, channel matrix
Figure 112021142535153-pat00070
, and the receive noise vector
Figure 112021142535153-pat00071
generated randomly through As a performance index for verifying the detector proposed in the present invention, a symbol error rate (SER) according to the received SNR is used, and the received SNR of the base station can be expressed by the following equation.

Figure 112021142535153-pat00072
Figure 112021142535153-pat00072

제안된 검출기의 학습 과정은 검증되는 서로 다른 채널 환경에 대해 다시 수행되며 500의 배치 크기로 2만번 학습한다. 이에 0.003의 learning rate과 천 번의 반복에 0.97의 decay rate이 적용된다. The training process of the proposed detector is performed again for different channel environments to be verified and trained 20,000 times with a batch size of 500. Thus, a learning rate of 0.003 and a decay rate of 0.97 for 1,000 iterations are applied.

본 발명은 제안된 검출기의 성능 비교에 대해 ML 성능을 보다 낮은 복잡도로 달성할 수 있는 트리 구조의 QRDM(QR decomposition-based M) 검출 기법으로 최적의 검출 성능 기준치를 보여주고 선형 기법의 검출 성능을 비교하기 위해 선형 MMSE 기법의 성능을 제공한다. 또한 이상적인 통계적 특성을 가지는 Rayleigh fading 채널에 대해서는 MMSE 기반 DFE(Decision feedback equalizer)와 AMP의 검출 성능을 추가적으로 비교한다. 본 발명에서 딥러닝 알고리즘으로 검출 성능을 향상시키는 것과 같은 맥락에서 딥러닝 알고리즘을 활용한 30개의 레이어를 가진 DetNet(Detection Network)과 10개의 레이어를 가진 OAMPNet의 두 가지 검출 기법의 성능 비교는 제안된 검출기의 우수성을 검증하기 위해 제공된다.The present invention is a tree-structured QR decomposition-based M (QRDM) detection technique that can achieve ML performance with lower complexity for the performance comparison of the proposed detector, showing the optimal detection performance reference value, and improving the detection performance of the linear technique. For comparison, we present the performance of the linear MMSE technique. Also, for a Rayleigh fading channel with ideal statistical characteristics, the detection performance of MMSE-based DFE (Decision feedback equalizer) and AMP is additionally compared. In the present invention, in the same context as improving the detection performance with the deep learning algorithm, the performance comparison of the two detection techniques of DetNet (Detection Network) with 30 layers and OAMPNet with 10 layers using the deep learning algorithm is proposed It is provided to verify the superiority of the detector.

본 발명은 이상적인 Rayleigh fading 채널 환경 이외에도 3차원의 채널 환경을 수학적으로 모델링하여 제안된 검출기를 검증한다. 3차원 채널의 모델링은 3GPP 표준의 Release 16 TR(Technical report) 38.901 V16.1.0을 참고하였으며 본 발명은 채널의 상관도와 반비례하는 ASD(Angular spread deviation)로 채널의 공간적 상관도를 조절한다. 또한 64개의 안테나에 대해 ULA(Uniform linear array)와

Figure 112021142535153-pat00073
의 UPA(Uniform planar array) 두 가지의 기지국 안테나 배치를 가정한다.The present invention validates the proposed detector by mathematically modeling a three-dimensional channel environment in addition to the ideal Rayleigh fading channel environment. The 3D channel modeling refers to Release 16 TR (Technical report) 38.901 V16.1.0 of the 3GPP standard, and the present invention adjusts the spatial correlation of the channel with angular spread deviation (ASD) that is inversely proportional to the correlation of the channel. In addition, ULA (Uniform linear array) and
Figure 112021142535153-pat00073
It is assumed that the antenna arrangement of two base station antennas of UPA (Uniform planar array).

제안된 검출기의 수렴율은 SOR 기법의 반복횟수에 따라 달라진다. 본 발명에서는 단일 ULA 기지국의

Figure 112021142535153-pat00074
ASD를 가정하여 채널의 공간적 상관이 높은 3차원 채널에 대해 수렴율을 분석한다. 제안된 검출기의 학습 알고리즘은 16QAM에서는 6에서 16dB SNR 범위에서 64QAM에서는 12에서 22dB SNR 범위에서 무작위로 생성된 데이터로 수행된다.The convergence rate of the proposed detector depends on the number of iterations of the SOR technique. In the present invention, a single ULA base station
Figure 112021142535153-pat00074
Assuming ASD, the convergence rate is analyzed for a 3D channel with high spatial correlation. The learning algorithm of the proposed detector is performed with randomly generated data in the range of 6 to 16 dB SNR in 16QAM and 12 to 22 dB SNR in 64QAM.

[도 2]는 제안된 검출기의 SER 성능을 16QAM 변조에 대해 레이어의 수에 따라 보여준다. 반복 수가 수렴율에 미치는 영향을 평가하기 위해 1에서 5까지의 반복을 가지는 제안된 검출기를 제시한다. 1번의 반복을 가진 제안된 검출기는 5개의 레이어 이상에서 매우 낮은 수렴율을 보여준다. 이는 채널 상관이 높은 채널에서 1번의 반복이 제안된 검출기가 얻을 수 있는 최적의 성능을 달성하는데 매우 비효율적이라는 것을 의미한다. 반면에 5번의 반복을 사용한 제안된 검출기는 5개의 레이어에 SER 성능의 최적에 수렴하는 것을 확인할 수 있다.[Fig. 2] shows the SER performance of the proposed detector according to the number of layers for 16QAM modulation. To evaluate the effect of the number of iterations on the convergence rate, we present a proposed detector with iterations from 1 to 5. The proposed detector with 1 iteration shows a very low convergence rate over 5 layers. This means that one iteration in a channel with high channel correlation is very inefficient to achieve the optimal performance that the proposed detector can achieve. On the other hand, it can be confirmed that the proposed detector using 5 iterations converges to the optimum of SER performance in 5 layers.

[도 3]은 제안된 검출기의 SER 성능을 64QAM 변조에 대해 반복 수에 따라 보여준다. 이 결과는 반복 수에 따라 달성할 수 있는 제안된 검출기 성능의 최대 한계를 확인하기 위해 1에서 5까지의 레이어를 가지는 제안된 검출기를 제시한다. 단일 레이어의 제안된 검출기는 반복수가 증가함에 따라 낮은 SER 성능을 보여준다. 이는 제안된 검출기의 적절한 반복수가 선택되어야 함을 의미한다. 제안된 검출기의 성능 한계는 레이어의 수가 증가함에 따라 점차 감소하고 제안된 검출기는 4에서 5의 레이어에 대해 최대로 수렴가능한 성능을 얻을 수 있다. [도 2]와 [도 3]의 결과는 제안된 검출기가 높은 변조 차수와 상관 채널에 대해서도 반복 수와 레이어 수를 조절하여 높은 성능을 달성할 수 있다는 사실을 보여준다.[Fig. 3] shows the SER performance of the proposed detector according to the number of iterations for 64QAM modulation. This result presents the proposed detector with 1 to 5 layers to confirm the maximum limit of the achievable detector performance according to the number of iterations. The proposed detector of a single layer shows low SER performance as the number of iterations increases. This means that an appropriate number of iterations of the proposed detector should be selected. The performance limit of the proposed detector gradually decreases as the number of layers increases, and the proposed detector can achieve maximally convergent performance for 4 to 5 layers. The results of [Fig. 2] and [Fig. 3] show that the proposed detector can achieve high performance by adjusting the number of repetitions and the number of layers even for high modulation order and correlation channels.

5개의 레이어를 가진 제안된 검출기와 다양한 검출 기법의 성능 비교는 16QAM과 64QAM 그리고 16개의 UE를 가정하는 Rayleigh fading 채널과 단일 UPA 기지국이 존재하는

Figure 112021142535153-pat00075
ASD의 3차원 채널에 대해 제시된다.The performance comparison of the proposed detector with 5 layers and various detection techniques is based on 16QAM and 64QAM, a Rayleigh fading channel assuming 16 UEs, and a single UPA base station.
Figure 112021142535153-pat00075
A three-dimensional channel of ASD is presented.

[도 4]는 Rayleigh fading 채널에서 성능 비교가 수행되며 16QAM에서는 1번의 반복을 64QAM에서는 3번의 반복을 가지는 제안된 검출기의 성능을 보여준다. Rayleigh fading 채널은 SOR 기법과 같은 반복 추정 알고리즘의 추정 성능에 영향을 주는 채널 경화 특성에 이상적이기 때문에 적은 반복으로도 높은 성능을 달성할 수 있다. 제안된 검출기가 ML 성능을 제시하는 QRDM의 SER과 거의 일치함을 보여준다. 이는 제안된 검출기의 DNN 기반 비선형 추정기가 SOR 기법과 성공적으로 결합되었다는 사실을 증명한다. 이외 64QAM의 DetNet을 제외한 나머지 기법들도 제시된 SNR 범위에서 2dB SNR 차이 안으로 QRDM의 성능을 달성하는 것을 보여준다.[Fig. 4] shows the performance of the proposed detector in which performance comparison is performed in a Rayleigh fading channel and has 1 repetition in 16QAM and 3 repetitions in 64QAM. Because Rayleigh fading channels are ideal for channel hardening properties that affect the estimation performance of iterative estimation algorithms such as SOR techniques, high performance can be achieved with few iterations. We show that the proposed detector is in close agreement with the SER of QRDM, which presents ML performance. This proves that the DNN-based nonlinear estimator of the proposed detector has been successfully combined with the SOR technique. Except for DetNet of 64QAM, other techniques also show that the performance of QRDM is achieved within 2dB SNR difference in the suggested SNR range.

[도 5]는 3차원 채널에 대해 수렴 율 분석을 기반으로 5번의 반복 수를 가지는 제안된 검출기의 성능을 보여주며 딥러닝 알고리즘 기반 DetNet과 OAMPNet의 주된 성능 비교를 제시한다. DetNet은 공간적 상관이 높은 채널과 높은 변조 차수에 대해 성능이 매우 낮은 것을 확인할 수 있으며 16QAM의 16dB SNR에 대해 선형 MMSE 기법보다도 SER 성능이 낮은 것을 볼 수 있다. 제안된 검출기는 OAMPNet 보다 SER 성능이 높으며 약 1dB SNR 범위에서 QRDM의 성능을 달성할 수 있다. 이는 제안된 검출기는 높은 공간적 상관과 변조 차수에 대해 강건성을 가지며 높은 성능을 제공하는 것을 알 수 있다. 이러한 결과는 제안된 검출기가 더 적은 레이어의 낮은 복잡도로 OAMPNet 보다 높은 성능을 달성할 수 있다는 것을 보여준다.[Fig. 5] shows the performance of the proposed detector with 5 iterations based on the analysis of the convergence rate for the 3D channel, and presents the main performance comparison of the deep learning algorithm-based DetNet and OAMPNet. It can be seen that DetNet has very low performance for a channel with high spatial correlation and a high modulation order, and it can be seen that the SER performance is lower than that of the linear MMSE technique for 16dB SNR of 16QAM. The proposed detector has higher SER performance than OAMPNet and can achieve the performance of QRDM in the range of about 1dB SNR. It can be seen that the proposed detector is robust to high spatial correlation and modulation order, and provides high performance. These results show that the proposed detector can achieve higher performance than OAMPNet with fewer layers and lower complexity.

Claims (10)

업링크 Massive MIMO 시스템에서 고 신뢰도를 위한 딥러닝 기반 신호 검출 장치에 있어서,
단말기로부터 수신되는 신호를 입력받아 선형 추정(SOR기법)을 통해 추정된 신호를 출력하는 선형 추정 모듈;
상기 선형 추정모듈에서 출력된 상기 추정 신호를 입력받아 검출 신호를 비선형 추정하여 출력하는 DNN 모델 기반의 비선형 추정 모듈;
상기 비선형 추정 모듈의 출력을 상기 선형 추정 모듈의 입력으로 소정 횟수 귀환하여, 상기 선형 추정 모듈과 상기 비선형 추정 모듈이 연결된, 묶음 구성을 포함하는 신호 검출 블록 모듈에서의 연산이 소정 횟수 반복되도록 구성된 귀환 모듈;
을 포함하여 구성되며,
상기 선형 추정모듈은 SOR 기법을 적용한 연산을 반복하는 모듈이고;
상기 비선형 추정모듈은 상기 선형 추정모듈의 출력을 입력 받아, 적응적 기계 학습을 수행하는 모듈이며;
상기 SOR 기법은 상기 비선형 추정 모듈에 대한 기계 학습 변수를 출력하고 아래의 (수학식 1) 내지 (수학식 3)을 만족하는 연산을 수행하는 것;
을 특징으로 하는 신호 검출 장치.
(수학식 1)
Figure 112022004719818-pat00105

(수학식 2)
Figure 112022004719818-pat00106

(수학식 3)
Figure 112022004719818-pat00107

(v는 v=H H y, n은 선형 추정기로 사용되는 SOR 기법의 반복횟수, k는 선형 추정기와 비선형 추정기를 결합한 블록의 반복횟수,
Figure 112022004719818-pat00108
는 SOR 기법의 각 반복에 적용되는 서로 다른 가중치,
Figure 112022004719818-pat00109
는 기존 SOR 기법의 완화 변수,
Figure 112022004719818-pat00110
는 n번 반복하여 얻은 SOR 기법의 결과로 k 번째 레이어의 비선형 추정 모듈로의 입력,
Figure 112022004719818-pat00111
는 비선형 추정기의 연산을 기호로 표현한 것이며,
Figure 112022004719818-pat00112
는 k+1 번째 레이어의 SOR 기법의 초기 벡터임)
In a deep learning-based signal detection apparatus for high reliability in an uplink massive MIMO system,
a linear estimation module for receiving a signal received from the terminal and outputting a signal estimated through linear estimation (SOR technique);
a DNN model-based nonlinear estimation module that receives the estimation signal output from the linear estimation module and nonlinearly estimates and outputs a detection signal;
The output of the nonlinear estimation module is fed back a predetermined number of times as an input of the linear estimation module, and the operation in the signal detection block module including the bundle configuration in which the linear estimation module and the nonlinear estimation module are connected is repeated a predetermined number of times. module;
It consists of
the linear estimation module is a module that repeats the operation to which the SOR technique is applied;
the nonlinear estimation module is a module that receives an output of the linear estimation module and performs adaptive machine learning;
The SOR technique outputs a machine learning variable for the nonlinear estimation module and performs an operation satisfying the following (Equation 1) to (Equation 3);
Signal detection device, characterized in that.
(Equation 1)
Figure 112022004719818-pat00105

(Equation 2)
Figure 112022004719818-pat00106

(Equation 3)
Figure 112022004719818-pat00107

( v is v = H H y, n is the number of iterations of the SOR method used as a linear estimator, k is the number of iterations of a block combining a linear estimator and a nonlinear estimator,
Figure 112022004719818-pat00108
is a different weight applied to each iteration of the SOR technique,
Figure 112022004719818-pat00109
is the relaxation variable of the existing SOR technique,
Figure 112022004719818-pat00110
is the input to the nonlinear estimation modulus of the kth layer as a result of the SOR technique obtained through n iterations,
Figure 112022004719818-pat00111
is a symbolic representation of the operation of the nonlinear estimator,
Figure 112022004719818-pat00112
is the initial vector of the SOR technique of the k+ 1th layer)
 삭제delete 삭제delete 삭제delete 제 1 항에 있어서,
상기 비선형 추정 모듈은 단일 입출력 구조를 가지며 아래의 (수학식 4) 내지 (수학식 7)를 만족하는 연산을 수행하는 것;
을 특징으로 하는 신호 검출 장치.
(수학식 4)
Figure 112022004719818-pat00113

(
Figure 112022004719818-pat00114
는 함수 연결을 의미하는 수학적인 기호이며,
Figure 112022004719818-pat00115
는
Figure 112022004719818-pat00116
의 i 번째 성분을 나타내고,
Figure 112022004719818-pat00117
는 딥러닝 알고리즘에서 주로 사용되는 활성화 함수인 Relu(Rectifier linear unit)의 성분 곱 연산의 기호)
(수학식 5)
Figure 112022004719818-pat00118

(b l 은 bias 벡터,
Figure 112022004719818-pat00119
는 가중치 행렬)
(수학식 6)
Figure 112022004719818-pat00120

(
Figure 112022004719818-pat00121
는 딥러닝 활성화 함수의 소프트맥스 연산 기호,
Figure 112022004719818-pat00122
는 z 벡터의 j 번째 성분 값)
(수학식 7)
Figure 112022004719818-pat00123

(
Figure 112022004719818-pat00124
는 비선형 추정기의 마지막 연산,
Figure 112022004719818-pat00125
는 변조의 성상도를 표현하는 S의 모든 값을 나타내는 벡터,
Figure 112022004719818-pat00126
는 s 벡터의 j 번째 성분 값,
Figure 112022004719818-pat00127
는 z 벡터의 i 번째 성분 값)
The method of claim 1,
The nonlinear estimation module has a single input/output structure and performs an operation satisfying the following (Equation 4) to (Equation 7);
Signal detection device, characterized in that.
(Equation 4)
Figure 112022004719818-pat00113

(
Figure 112022004719818-pat00114
is a mathematical symbol for function linkage,
Figure 112022004719818-pat00115
Is
Figure 112022004719818-pat00116
represents the i -th component of
Figure 112022004719818-pat00117
is the symbol of component product operation of Relu (rectifier linear unit), an activation function mainly used in deep learning algorithms)
(Equation 5)
Figure 112022004719818-pat00118

(b l is the bias vector,
Figure 112022004719818-pat00119
is the weight matrix)
(Equation 6)
Figure 112022004719818-pat00120

(
Figure 112022004719818-pat00121
is the softmax operation symbol of the deep learning activation function,
Figure 112022004719818-pat00122
is the j -th component value of the z vector)
(Equation 7)
Figure 112022004719818-pat00123

(
Figure 112022004719818-pat00124
is the last operation of the nonlinear estimator,
Figure 112022004719818-pat00125
is a vector representing all values of S representing the constellation of the modulation,
Figure 112022004719818-pat00126
is the j -th component value of the s vector,
Figure 112022004719818-pat00127
is the i -th component value of the z vector)
 제 1 항에 있어서,
상기 적응적 기계학습은 오프라인 학습으로, 학습 알고리즘은 Adam(Adaptative moment estimation) 최적화 함수를 활용한 Tensor flow로 구현되며 최적화하려는 손실 함수는 아래의 (수학식 8) 을 만족하는 것;
을 특징으로 하는 신호 검출 장치.
(수학식 8)
Figure 112022004719818-pat00128

(L은 손실함수, M은 훈련 데이터의 수를 나타내고 K는 제안된 검출기의 총 레이어 수)
The method of claim 1,
The adaptive machine learning is offline learning, the learning algorithm is implemented as a Tensor flow using an Adam (Adaptative moment estimation) optimization function, and the loss function to be optimized satisfies the following (Equation 8);
Signal detection device, characterized in that.
(Equation 8)
Figure 112022004719818-pat00128

( L is the loss function, M is the number of training data, and K is the total number of layers of the proposed detector)
 제 6 항에 있어서,
상기 신호 검출장치의 학습 과정은 검증되는 서로 다른 채널 환경에 대해 다시 수행되며 500의 배치 크기로 2만번 학습하며, 0.003의 learning rate와 천 번의 반복에 0.97의 decay rate가 적용되는 것;
을 특징으로 하는 신호 검출 장치.
7. The method of claim 6,
The learning process of the signal detection device is performed again for different channel environments to be verified, learning 20,000 times with a batch size of 500, and applying a learning rate of 0.003 and a decay rate of 0.97 to 1,000 iterations;
Signal detection device, characterized in that.
 업링크 Massive MIMO 시스템에서 고 신뢰도를 위한 딥러닝 기반 신호 검출 방법에 있어서,
단말기로부터 수신되는 신호를 입력받아 선형 추정(SOR기법)을 통해 추정된 신호를 출력하는 선형 추정 단계;
상기 선형 추정단계에서 출력된 상기 추정 신호를 입력받아 검출 신호를 비선형 추정하여 출력하는 비선형 추정 단계;
상기 비선형 추정 단계의의 출력을 상기 선형 추정 단계의 입력으로 소정 횟수 귀환하여, 상기 선형 추정 단계와 상기 비선형 추정 단계를 결합한 연산을 소정 횟수 반복하는 귀환 단계;를 포함하여 구성되며,
상기 선형 추정단계는 SOR 기법을 적용한 연산을 반복하는 것;이고,
상기 비선형 추정단계는 상기 선형 추정단계의 출력을 입력 받아, 적응적 기계 학습을 수행하는 것이며;
상기 SOR 기법은 상기 비선형 추정 단계에 대한 기계 학습 변수를 출력하고 아래의 (수학식 1) 내지 (수학식 3)을 만족하는 연산을 수행하는 것;
을 특징으로 하는 신호 검출 방법.
(수학식 1)
Figure 112022004719818-pat00129

(수학식 2)
Figure 112022004719818-pat00130

(수학식 3)
Figure 112022004719818-pat00131

(v는 v=H H y, n은 선형 추정단계에서 사용되는 SOR 기법의 반복횟수, k는 선형 추정단계와 비선형 추정단계를 결합한 절차의 반복횟수,
Figure 112022004719818-pat00132
는 SOR 기법의 각 반복에 적용되는 서로 다른 가중치,
Figure 112022004719818-pat00133
는 기존 SOR 기법의 완화 변수,
Figure 112022004719818-pat00134
는 n번 반복하여 얻은 SOR 기법의 결과로 k 번째 레이어의 비선형 추정 단계로의 입력,
Figure 112022004719818-pat00135
는 비선형 추정단계의 연산을 기호로 표현한 것이며,
Figure 112022004719818-pat00136
는 k+1 번째 레이어의 SOR 기법의 초기 벡터임)
In a deep learning-based signal detection method for high reliability in an uplink massive MIMO system,
a linear estimation step of receiving a signal received from a terminal and outputting a signal estimated through linear estimation (SOR technique);
a non-linear estimation step of receiving the estimation signal output in the linear estimation step, estimating a detection signal in a non-linear manner and outputting the estimation signal;
A feedback step of feeding back the output of the nonlinear estimation step as an input of the linear estimation step a predetermined number of times and repeating the operation combining the linear estimation step and the nonlinear estimation step a predetermined number of times; and
The linear estimation step is to repeat the operation to which the SOR technique is applied;
the nonlinear estimating step receives the output of the linear estimating step and performs adaptive machine learning;
The SOR technique outputs a machine learning variable for the nonlinear estimation step and performs an operation satisfying the following (Equation 1) to (Equation 3);
Signal detection method characterized in that.
(Equation 1)
Figure 112022004719818-pat00129

(Equation 2)
Figure 112022004719818-pat00130

(Equation 3)
Figure 112022004719818-pat00131

( v is v = H H y, n is the number of iterations of the SOR method used in the linear estimation step, k is the number of iterations of the procedure combining the linear estimation step and the nonlinear estimation step,
Figure 112022004719818-pat00132
is a different weight applied to each iteration of the SOR technique,
Figure 112022004719818-pat00133
is the relaxation variable of the existing SOR technique,
Figure 112022004719818-pat00134
is the input to the nonlinear estimation step of the kth layer as a result of the SOR technique obtained through n iterations,
Figure 112022004719818-pat00135
is a symbolic representation of the operation of the nonlinear estimation step,
Figure 112022004719818-pat00136
is the initial vector of the SOR technique of the k+ 1th layer)
 제 8 항에 있어서,
상기 비선형 추정 단계는 단일 입출력을 수행하며, 아래의 (수학식 4) 내지 (수학식 7)를 만족하는 연산을 수행하는 것;
을 특징으로 하는 신호 검출 방법.
(수학식 4)
Figure 112022004719818-pat00137

(
Figure 112022004719818-pat00138
는 함수 연결을 의미하는 수학적인 기호이며,
Figure 112022004719818-pat00139
는
Figure 112022004719818-pat00140
의 i 번째 성분을 나타내고,
Figure 112022004719818-pat00141
는 딥러닝 알고리즘에서 주로 사용되는 활성화 함수인 Relu(Rectifier linear unit)의 성분 곱 연산의 기호)
(수학식 5)
Figure 112022004719818-pat00142

(b l 은 bias 벡터,
Figure 112022004719818-pat00143
는 가중치 행렬)
(수학식 6)
Figure 112022004719818-pat00144

(
Figure 112022004719818-pat00145
는 딥러닝 활성화 함수의 소프트맥스 연산 기호,
Figure 112022004719818-pat00146
는 z 벡터의 j 번째 성분 값)
(수학식 7)
Figure 112022004719818-pat00147

(
Figure 112022004719818-pat00148
는 비선형 추정단계의 마지막 연산,
Figure 112022004719818-pat00149
는 변조의 성상도를 표현하는 S의 모든 값을 나타내는 벡터,
Figure 112022004719818-pat00150
는 s 벡터의 j 번째 성분 값,
Figure 112022004719818-pat00151
는 z 벡터의 i 번째 성분 값)

9. The method of claim 8,
In the nonlinear estimation step, a single input/output is performed, and an operation satisfying the following (Equation 4) to (Equation 7) is performed;
Signal detection method characterized in that.
(Equation 4)
Figure 112022004719818-pat00137

(
Figure 112022004719818-pat00138
is a mathematical symbol for function linkage,
Figure 112022004719818-pat00139
Is
Figure 112022004719818-pat00140
represents the i -th component of
Figure 112022004719818-pat00141
is the symbol of component product operation of Relu (rectifier linear unit), an activation function mainly used in deep learning algorithms)
(Equation 5)
Figure 112022004719818-pat00142

(b l is the bias vector,
Figure 112022004719818-pat00143
is the weight matrix)
(Equation 6)
Figure 112022004719818-pat00144

(
Figure 112022004719818-pat00145
is the softmax operation symbol of the deep learning activation function,
Figure 112022004719818-pat00146
is the value of the j -th component of the z -vector)
(Equation 7)
Figure 112022004719818-pat00147

(
Figure 112022004719818-pat00148
is the last operation of the nonlinear estimation step,
Figure 112022004719818-pat00149
is a vector representing all values of S representing the constellation of the modulation,
Figure 112022004719818-pat00150
is the j -th component value of the s vector,
Figure 112022004719818-pat00151
is the i -th component value of the z vector)

 삭제delete
KR1020210175055A 2021-12-08 2021-12-08 Deep learning-based signal detection technique for high reliability in massive MIMO systems KR102355383B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210175055A KR102355383B1 (en) 2021-12-08 2021-12-08 Deep learning-based signal detection technique for high reliability in massive MIMO systems

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210175055A KR102355383B1 (en) 2021-12-08 2021-12-08 Deep learning-based signal detection technique for high reliability in massive MIMO systems

Publications (1)

Publication Number Publication Date
KR102355383B1 true KR102355383B1 (en) 2022-02-08

Family

ID=80251673

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210175055A KR102355383B1 (en) 2021-12-08 2021-12-08 Deep learning-based signal detection technique for high reliability in massive MIMO systems

Country Status (1)

Country Link
KR (1) KR102355383B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024090766A1 (en) * 2022-10-24 2024-05-02 주식회사 크로스웍스 Machine learning-based massive mimo processing method for mobile base station
WO2024144363A1 (en) * 2022-12-29 2024-07-04 한밭대학교 산학협력단 Deep-learning-based multiple input/output relay transmission method and system

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030096406A (en) * 2001-05-16 2003-12-24 퀄컴 인코포레이티드 Allocation of uplink resources in a multi-input multi-output (mimo) communication system
KR20100125593A (en) 2009-05-21 2010-12-01 주식회사강산넷 Mimo system having adaptive linear detector and detection method of output signal using the same
KR20130037118A (en) * 2011-10-05 2013-04-15 엘지전자 주식회사 Block-based optical flow estimation of motion pictures using an approximate solution
KR20200024072A (en) 2018-08-17 2020-03-06 한국전자통신연구원 Apparatus and method for detecting signal based on machine learning
KR20210000645A (en) * 2019-06-25 2021-01-05 인하대학교 산학협력단 Method and apparatus of massive mimo detection based on deep neural network

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030096406A (en) * 2001-05-16 2003-12-24 퀄컴 인코포레이티드 Allocation of uplink resources in a multi-input multi-output (mimo) communication system
KR20100125593A (en) 2009-05-21 2010-12-01 주식회사강산넷 Mimo system having adaptive linear detector and detection method of output signal using the same
KR20130037118A (en) * 2011-10-05 2013-04-15 엘지전자 주식회사 Block-based optical flow estimation of motion pictures using an approximate solution
KR20200024072A (en) 2018-08-17 2020-03-06 한국전자통신연구원 Apparatus and method for detecting signal based on machine learning
KR20210000645A (en) * 2019-06-25 2021-01-05 인하대학교 산학협력단 Method and apparatus of massive mimo detection based on deep neural network

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024090766A1 (en) * 2022-10-24 2024-05-02 주식회사 크로스웍스 Machine learning-based massive mimo processing method for mobile base station
WO2024144363A1 (en) * 2022-12-29 2024-07-04 한밭대학교 산학협력단 Deep-learning-based multiple input/output relay transmission method and system

Similar Documents

Publication Publication Date Title
Honkala et al. DeepRx: Fully convolutional deep learning receiver
CN114051701B (en) Apparatus and method for machine learning assisted precoding
KR102355383B1 (en) Deep learning-based signal detection technique for high reliability in massive MIMO systems
US11888655B2 (en) Devices and methods for machine learning assisted sphere decoding
CN113364528B (en) Underwater wireless optical communication receiver for generating countermeasure network based on depth condition
Khadr et al. Machine learning-based massive augmented spatial modulation (ASM) for IoT VLC systems
Xu et al. Detect to learn: Structure learning with attention and decision feedback for MIMO-OFDM receive processing
Pankratov et al. Linear and nonlinear Chebyshev iterative demodulation algorithms for MIMO systems with large number of antennas
Wang et al. Deep Transfer Learning for Model-Driven Signal Detection in MIMO-NOMA Systems
Meenalakshmi et al. Deep learning-based channel estimation in 5g mimo-ofdm systems
Jang et al. Combined deep learning and SOR detection technique for high reliability in massive MIMO systems
Sarwar et al. Channel estimation in space time block coded MIMO-OFDM system using genetically evolved artificial neural network
Zhu et al. Deep learning-based precoder design in MIMO systems with finite-alphabet inputs
Li et al. Real-time machine learning for multi-user massive MIMO: Symbol detection using Multi-Mode StructNet
Yıldırım et al. Deep receiver design for multi-carrier waveforms using cnns
CN107248876B (en) Generalized spatial modulation symbol detection method based on sparse Bayesian learning
Ramasamy et al. Evolutionary gravitational Neocognitron neural network based differential spatial modulation detection scheme for uplink multiple user huge MIMO systems
Punia et al. Signal detection for Spatially Multiplexed multi input multi output (MIMO) systems
CN114528925B (en) Time-varying channel OFDM signal equalization method based on deep classification network
CN112202510B (en) Signal detection method based on regularization stream neural network
Ajayi et al. Low-complexity neural networks for denoising imperfect CSI in physical layer security
Xu et al. RC-Struct: Reservoir computing meets knowledge of structure in MIMO-OFDM
Labed et al. Efficient Iterative Detection Based on Conjugate Gradient and Successive Over-Relaxation Methods for Uplink Massive MIMO Systems
CN106209317B (en) Extensive mimo system multi-user's mpsk signal block combined decoding method
Sur et al. Decision feedback equalization for large scale MIMO System

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant