KR20230087409A - 무선 통신 시스템에서 심층 강화 학습 기반 iab 노드의 연결 정보를 결정하기 위한 장치 및 방법 - Google Patents

무선 통신 시스템에서 심층 강화 학습 기반 iab 노드의 연결 정보를 결정하기 위한 장치 및 방법 Download PDF

Info

Publication number
KR20230087409A
KR20230087409A KR1020220171592A KR20220171592A KR20230087409A KR 20230087409 A KR20230087409 A KR 20230087409A KR 1020220171592 A KR1020220171592 A KR 1020220171592A KR 20220171592 A KR20220171592 A KR 20220171592A KR 20230087409 A KR20230087409 A KR 20230087409A
Authority
KR
South Korea
Prior art keywords
iab
node
iab node
identifying
transmitting data
Prior art date
Application number
KR1020220171592A
Other languages
English (en)
Inventor
김남이
김성경
나지현
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Publication of KR20230087409A publication Critical patent/KR20230087409A/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W40/00Communication routing or communication path finding
    • H04W40/02Communication route or path selection, e.g. power-based or shortest path routing
    • H04W40/04Communication route or path selection, e.g. power-based or shortest path routing based on wireless node resources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W16/00Network planning, e.g. coverage or traffic planning tools; Network deployment, e.g. resource partitioning or cells structures
    • H04W16/24Cell structures
    • H04W16/32Hierarchical cell structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/08Load balancing or load distribution
    • H04W28/09Management thereof
    • H04W28/0925Management thereof using policies
    • H04W28/0942Management thereof using policies based on measured or predicted load of entities- or links
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W40/00Communication routing or communication path finding
    • H04W40/02Communication route or path selection, e.g. power-based or shortest path routing
    • H04W40/22Communication route or path selection, e.g. power-based or shortest path routing using selective relaying for reaching a BTS [Base Transceiver Station] or an access point
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W84/00Network topologies
    • H04W84/02Hierarchically pre-organised networks, e.g. paging networks, cellular networks, WLAN [Wireless Local Area Network] or WLL [Wireless Local Loop]
    • H04W84/04Large scale networks; Deep hierarchical networks
    • H04W84/042Public Land Mobile systems, e.g. cellular systems
    • H04W84/047Public Land Mobile systems, e.g. cellular systems using dedicated repeater stations

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

본 개시(disclosure)는 일반적으로 무선 통신 시스템에 관한 것으로, 보다 구체적으로 무선 통신 시스템에서 심층 강화 학습 기반 IAB 노드의 연결 정보를 결정하기 위한 장치 및 방법에 관한 것이다. 무선 통신 시스템에서 IAB(intergrade access and backhaul) 노드(node)의 동작 방법은 IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별하는 과정과, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별하는 과정과, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별하는 과정과, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별하는 과정과, 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하는 과정과, UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 UE의 데이터를 송신하는 과정을 포함할 수 있다.

Description

무선 통신 시스템에서 심층 강화 학습 기반 IAB 노드의 연결 정보를 결정하기 위한 장치 및 방법{APPARATUS AND METHOD FOR DETERMINIG CONNECTION INFORMATION OF DEEP REINFORCEMENT LEARNING-BASED INTEGRATED ACCESS AND BACKHAUL NODE IN WIRELESS COMMUNICATION SYSTEM}
본 개시(disclosure)는 일반적으로 무선 통신 시스템에 관한 것으로, 보다 구체적으로 무선 통신 시스템에서 심층 강화 학습 기반 IAB 노드의 연결 정보를 결정하기 위한 장치 및 방법에 관한 것이다.
스몰 셀(small cell)은 매크로 기지국(macro base station)에 비해 매우 작은 기지국을 의미한다. 작은 크기로 인해 스몰 셀은 폭증하는 데이터 트래픽에 유연하게 대처할 수 있다. 스몰 셀은 실내외 사용자와 같이 밀집되지만 매크로 기지국의 설치가 어려운 지역에 저렴한 비용으로 빠르게 스몰 셀을 설치하여 많은 수의 사용자를 효과적으로 처리할 수 있다.
또한, 5G 이동통신에서 mmWave가 도입됨에 따라 스몰 셀의 중요성이 더욱 커졌다. mmWave는 높은 주파수에 의하여 전파의 직진성이 높고 투과성은 낮아 낮은 주파수 대역에 비하여 통신 서비스 제공이 어려운 지역에 적절한 통신 환경이 제공하기 어려웠다. 따라서, 매크로 기지국에 비해 좁은 범위의 영역을 지원하면서 저렴하고 에너지 효율적인 스몰 셀이 최근 많이 연구 개발되고 있다.
Integrated Access & Backhaul(IAB)는 3GPP와 같은 5G 통신 기술 단체에서 활발히 논의되고 있는 주제로 5G 네트워크 보급에 있어 중요한 기술로 평가되고 있다. IAB는 모바일 엑세스(mobile access)와 백홀링(backhauling)을 동시에 지원하는 기술로 기지국 서비스 영역 내 단말을 지원하는 동시에 주변 기지국으로 무선 통신 채널을 통해 데이터 패킷을 전달하는 기능을 수행한다. 이처럼 무선 백홀을 통해 연결된 기지국 망은 값비싼 유선 통신 선로 구축을 필요로 하지 않아 설치와 이동이 용이하고 이와 동시에 모바일 단말의 데이터도 처리할 수 있다. 따라서 스몰셀 기술과 쉽게 접목될 수 있다. IAB 기술은 3GPP Rel-16을 시작으로 Rel-17에서 계속하여 규격화가 진행 중에 있다.
심층 강화 학습(Deep Reinforcement Learning)은 인공 지능의 한 분야로 경험적 알고리즘으로 풀기 어려운 매우 복잡한 최적화 문제를 풀기 위한 솔루션으로 많은 연구와 개발이 이루어지고 있다. 최근 심층 Q 네트워크를 이용한 심층 강화 학습이 게임, 바둑을 비롯하여 여러 분야에서 두각을 나타내고 있다.
따라서, 심층 강화 학습을 이용한 복잡한 통신 네트워크 상의 문제를 풀기 위한 많은 시도가 있다.
상술한 바와 같은 논의를 바탕으로, 본 개시(disclosure)는, 무선 통신 시스템에서 심층 강화 학습을 기반으로 복수의 IAB 노드(스몰 셀)들 간에 무선 경로를 결정하기 위한 장치 및 방법을 제공한다.
또한, 본 개시는, 무선 통신 시스템에서 심층 강화 학습을 기반으로 전체 네트워크 처리량이 감소하지 않도록 복수의 IAB 노드(스몰 셀)들 간에 데이터 패킷 경로를 결정하기 위한 장치 및 방법을 제공한다.
본 개시의 다양한 실시 예들에 따르면, 무선 통신 시스템에서 IAB(intergrade access and backhaul) 노드(node)의 동작 방법은 IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별하는 과정과, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별하는 과정과, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별하는 과정과, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별하는 과정과, 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하는 과정과, UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 UE의 데이터를 송신하는 과정을 포함할 수 있다.
본 개시의 다양한 실시 예들에 따르면, 무선 통신 시스템에서 IAB(intergrade access and backhaul) 도너(donor) 노드(node)의 동작 방법은 사용자 단말(user equipment, UE)의 데이터를 IAB 노드로부터 수신하는 과정과, UE의 데이터를 코어 네트워크(core network, CN)으로 송신하는 과정을 포함할 수 있다.
본 개시의 다양한 실시 예들에 따르면, 무선 통신 시스템에서 IAB(intergrade access and backhaul) 노드(node)는 제어부(processor); 제어부와 동작 가능하게 연결된 송수신부(transceiver)를 포함하고; 제어부는, IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별하고, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별하고, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별하고, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별하고, 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하고, UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 UE의 데이터를 송신할 수 있다.
본 개시의 다양한 실시 예들에 따른 장치 및 방법은, 심층 강화 학습을 기반으로 복수의 IAB 노드(스몰 셀)들 간에 무선 경로를 결정함으로써, 복수의 스몰 셀간 데이터 패킷을 위한 무선 경로를 결정하고 특정 IAB 노드(스몰 셀)에 트래픽이 몰리는 것을 방지하는 최적의 무선 연결 정보를 도출할 수 있게 한다.
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 개시의 다양한 실시 예에 따른 IAB 네트워크를 도시한다.
도 2는 본 개시의 다양한 실시 예에 따라 홉 횟수에 기반한 IAB 노드의 제1 실시 예를 도시한다.
도 3는 본 개시의 다양한 실시 예에 따라 전송 가능한 데이터 레이트에 기반한 IAB 노드의 제2 실시 예를 도시한다.
도 4는 본 개시의 다양한 실시 예에 따라 버퍼 상태 정보에 기반한 IAB 노드의 제3 실시 예를 도시한다.
도 5는 본 개시의 다양한 실시 예에 따라 전체 심층 강화 학습 네트워크를 도시한다.
도 6는 본 개시의 다양한 실시 예에 따라 DQN 네트워크를 기반으로 스몰 셀이 배치된 환경을 도시한다.
도 7는 본 개시의 다양한 실시 예에 따라 DQN 네트워크를 기반으로 IAB 노드의 보상을 도시한다.
도 8는 본 개시의 다양한 실시 예에 따라 IAB 노드의 동작 방법을 도시한다.
도 9는 본 개시의 다양한 실시 예에 따라 IAB 도너 노드의 동작 방법을 도시한다.
도 10은 본 개시의 다양한 실시 예에 따른 단말의 구성을 도시한다.
도 11은 본 개시의 다양한 실시 예에 따른 매크로 기지국(IAB-donor 기지국)의 구성을 도시한다.
도 12는 본 개시의 다양한 실시 예에 따른 IAB 노드의 구성을 도시한다.
본 개시에서 사용되는 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 개시에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 개시에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 개시에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 개시에서 정의된 용어일지라도 본 개시의 실시 예들을 배제하도록 해석될 수 없다.
이하에서 설명되는 본 개시의 다양한 실시 예들에서는 하드웨어적인 접근 방법을 예시로서 설명한다. 하지만, 본 개시의 다양한 실시 예들에서는 하드웨어와 소프트웨어를 모두 사용하는 기술을 포함하고 있으므로, 본 개시의 다양한 실시 예들이 소프트웨어 기반의 접근 방법을 제외하는 것은 아니다.
이하 본 개시는 무선 통신 시스템에서 무선 통신 시스템에서 심층 강화 학습 기반 IAB(integrated access and backhaul) 노드의 연결 정보를 결정하기 위한 장치 및 방법에 관한 것이다. 구체적으로, 본 개시는 무선 통신 시스템에서 심층 강화 학습을 기반으로 복수의 IAB 노드(스몰 셀)들 간에 무선 경로를 결정하기 위한 기술을 설명한다.
이하 설명에서 사용되는 신호를 지칭하는 용어, 채널을 지칭하는 용어, 제어 정보를 지칭하는 용어, 네트워크 객체(network entity)들을 지칭하는 용어, 장치의 구성 요소를 지칭하는 용어 등은 설명의 편의를 위해 예시된 것이다. 따라서, 본 개시가 후술되는 용어들에 한정되는 것은 아니며, 동등한 기술적 의미를 가지는 다른 용어가 사용될 수 있다.
또한, 본 개시는, 일부 통신 규격(예: 3GPP(3rd Generation Partnership Project))에서 사용되는 용어들을 이용하여 다양한 실시 예들을 설명하지만, 이는 설명을 위한 예시일 뿐이다. 본 개시의 다양한 실시 예들은, 다른 통신 시스템에서도, 용이하게 변형되어 적용될 수 있다.
Integrated access & backhaul(IAB)는 3GPP 와 같은 5G 통신 기술 단체에서 단체에서 활발히 논의되고 있는 주제로 5G 네트워크 보급에 있어 중요한 요소 기술로 평가되고 있다. IAB는 이름 그대로 모바일 엑세스와 백홀링(backhauling)을 동시에 지원하는 기술로 기지국(base station, BS) 서비스 영역 내 단말(user equipment, UE)을 지원하는 동시에 주변 기지국으로 무선 통신 채널을 통해 데이터 패킷을 전달하는 기능을 수행한다. 이처럼 무선 백홀를 통해 연결된 기지국 네트워크는 값비싼 유선 통신 선로 구축을 필요로 하지 않아 설치와 이동이 용이하고 이와 동시에 모바일 단말의 데이터도 처리할 수 있다. 따라서, 스몰 셀 기술과 쉽게 접목될 수 있다. IAB 기술은 3GPP Rel-16를 시작으로 Rel -17 에서 계속하여 규격화가 진행중에 있다.
본 개시는 심층 강화 학습(deep reinforcement learning)을 기반으로 복잡한 통신 네트워크에서 IAB 노드가 하나의 주체가 되어 IAB 연결과 같은 복잡한 문제를 수많은 환경 변수를 입력 받고 처리하여, 복수의 IAB 노드들 간에 무선 경로를 결정함으로써, 복수의 IAB 노드 간 데이터 패킷을 위한 무선 경로를 결정하고 특정 IAB 노드에 트래픽이 몰리는 것을 방지하는 최적의 무선 연결 정보를 도출하는 기술에 관한 것이다.
본 개시는 전술한 배경 기술에서 IAB-노드 간 연결을 결정하는 문제를 해결하기위해 고안되었다. 실내외 여러 대의 IAB 노드가 배치되고 IAB 노드가 코어 네트워크(core network, CN)와 유선연결이 없는 상황이라면 각 IAB 노드(스몰 셀)들간 데이터 패킷을 위한 무선경로를 어떻게 연결해야 되는지 결정하여야 한다. 각 IAB 노드(스몰 셀)은 부모IAB-노드(parent IAB-node)로 연결이 결정되면 자신이 서비스하는 단말의 데이터와 자식IAB-node(child IAB-node)로부터 전달받은 데이터를 부모IAB-node로 전송해야 한다. 이러한 상황에서 연결이 올바르지 않다면 너무 많은 IAB-node를 거쳐 긴 딜레이를 유발할 수 있고 또 트래픽이 너무 많이 몰리는 IAB 노드(스몰 셀)을 회피하지 못해 전체 네트워크 처리량 감소가 발생할 수 있다. 하지만 이런 문제를 해결하기 위해 고려하여야 할 상황, 변수가 매우 많고 복잡하므로 경험적 알고리즘을 설계하기 어려운데 심층강화학습을 이용한 인공지능을 통해 학습을 진행시켜 최적의 연결정보를 도출할 수 있다.
도 1은 본 개시의 다양한 실시 예에 따른 IAB 네트워크를 도시한다.
도 1을 참고하면, IAB 네트워크는 IAB-노드(node)(101, 107), IAB-도너(donor) 노드(103), 및 코어 네트워크(core network, CN)(105)를 포함할 수 있다. IAB-노드(101, 107)은 스몰 셀(small cell), IAB - 도너 노드(103)은 매크로 기지국(macro base station, macro BS)일 수 있다.
IAB-노드(101)은 IAB-노드(107)의 부모 IAB-노드일 수 있다. 이와 반대로 IAB-노드(107)은 IAB-노드(101)의 자 IAB-노드일 수 있다.
IAB-노드(101)은 IAB-노드(107)과 백홀로 연결될 수 있으나, CN에는 연결되지 않을 수 있다.
IAB-도너 노드(103)은 IAB-노드(101)과 백홀로 연결될 수 있고, CN과 연결될 수 있다.
IAB-노드(101, 107)은 단말(user equipment, UE)(109, 111)와 무선 엑세스로 연결될 수 있다.
도 1에 도시된 무선 통신 네트워크에서 각각의 스몰셀 기지국(101, 107)은 IAB 기능을 가진다고 가정할 수 있다. 즉, 스몰 셀(101, 107)은 다른 스몰 셀에 단말(109, 111)처럼 접속할 수 있고 또 다른 스몰 셀(101, 107)이 자신에게 단말(109, 111)처럼 접속하는 것을 허락할 수 있다. 또한, 동시에 여러 실제 사용자 단말(109, 111)들을 지원할 수 있다. 이때 스몰 셀(101, 107) 간 접속은 백홀 링크(backhaul link)를 통해 연결될 수 있고, 이 기능은 일종의 릴레이와 같은 역할을 하게 된다.
3GPP에서는 이처럼 백홀링(backhauling)과 단말의 엑세스(access) 기능을 모두 제공하는 기지국을 IAB-노드라고 정의한다. IAB-노드는 부모 IAB-노드에 접속하는 기능을 수행하기 위하여 MT(mobile terminal)과 단말의 엑세스 기능을 수행하기 위한 DU(distributed unit)으로 구성될 수 있다. 또한, IAB 기능을 제공하면서 동시에 CN에 연결된 기지국을 IAB-도너라고 정의한다. 도 1에는 이러한 네트워크 구성의 일 예가 도시되어 있다.
도 1을 참고하면, 두 개의 스몰 셀(101, 107)은 IAB-노드 기능을 제공한다. 반면, 코어 네트워크와는 유선으로 연결되어 있지 않다. 매크로 기지국(103)은 IAB-도너의 역할을 수행할 수 있다. 도 1은 IAB-도너의 형상은 매크로 기지국으로 도시하나, 이는 하나의 예일 뿐 매크로 기지국이 아닌 스몰 셀이 IAB-도너 역할을 할 수 있다. 또한, 도 1의 IAB-노드는 스몰 셀에 한정하지 않고, 매크로 기지국, 혹은 드론과 같은 UAV(unnamed aerial vehicle)에 설치된 스몰 셀, 차량과 같은 이동체에 설치된 스몰 셀도 IAB-노드 역할을 수행할 수 있다.
IAB 기능이 추가된 스몰 셀들이 네트워크를 구성하며 배치되었을 때 최적의 연결 정보를 찾는 문제는 매우 중요할 수 있다. 각 스몰 셀이 몰리는 사용자 단말의 데이터와 자식 IAB-노드로부터 전달된 데이터를 최종적으로 코어 네트워크로 전송해야 하는데 백홀링 연결에 따라 데이터 패킷이 최적의 경로로 전송되지 못하고 불필요한 딜레이를 유발할 수 있고, 하나의 IAB-노드에 너무 많은 데이터가 몰려 병목현상으로 인한 네트워크 처리량 감소가 발생할 수 있다.
본 개시의 목적을 달성하기 위하여는 심층 강화 학습(deep reinforcement learning)이 적용된 스몰 셀이 고려될 수 있다. 심층 강화 학습은 심층 Q 네트워크(Deep Q-network)로 구현되며 설계된 Q-function을 통해 각 상태(state)에 따른 동작(action)이 결정될 수 있다. 각 스몰 셀은 각각의 주체(agent)가 되어 스스로 학습하여 외부 환경(environment)에 동작할 수 있다. 외부 환경은 주체가 행한 동작에 따라 적절한 보상(reward)가 이루어진다. 만약 보상이 크다면 Q 네트워크는 큰 업데이트가 발생하여 동작을 강화하게 된다.
IAB 스몰 셀 네트워크에서 연결 방법을 결정하고 갱신하는 방법에는 여러 알고리즘이 사용될 수 있는 데 본 발명에서는 심층 강화 학습을 고려한다. 일반적으로 심층 강화 학습과 같은 인공 지능은 해결하고자 하는 문제가 매우 복잡하여 알고리즘을 설계하기 매우 어려운 문제에 적합한 것으로 알려져 있다. 본 발명에서 해결하고자 하는 문제는 여러가지 상태 변수를 바탕으로 문제를 해결해야 하므로 인공 지능을 적용하기 적합한 문제일 수 있다. 심층 강화 학습은 주변 환경과 상호 작용하는 주체가 현재 환경의 상태에 따라 어떤 동작을 수행했을 때 얻는 보상에 따라 학습이 진행된다. 큰 보상을 주는 동작에 대해서는 동작이 강화되어 다음 수행에서 이 동작이 수행될 확률이 증가할 수 있다. 이러한 강화 학습 알고리즘을 적용해 네트워크 성능에 이득을 주도록 IAB 연결 정보를 결정할 수 있다.
IAB 연결 정보를 결정하기 위한 주체는 IAB 노드(스몰 셀)일 수 있다. IAB 노드는 각 상태 정보와 정책(policy)을 바탕으로 어떤 동작을 수행하고 그에 따른 보상에 따라 지속적으로 동작을 강화할 수 있다. 본 개시에서는 IAB 노드가 수행하는 동작은 백홀링 연결이고, IAB 노드 주위에서 자신을 제외한 복수의 IAB 노드 중 하나의 IAB 노드를 선택하여 IAB 프로토콜을 통해 연결을 진행할 수 있다. 이러한 연결 동작을 통해 현재 상태와 정책에 따라 하나의 스몰 셀을 선택할 수 있다.
현재 IAB 노드의 상태는 여러 가지 변수로 나타낼 수 있다. IAB 노드는 자기 주변의 연결 가능한 IAB-노드를 알면, 이후 각각의 IAB 노드로부터 3가지 변수를 획득할 수 있다.
[제1 변수 - 홉(hop) 횟수: IAB 도너 노드까지 전송에 필요한 횟수]
도 2는 본 개시의 다양한 실시 예에 따라 홉 횟수에 기반한 IAB 노드의 제1 실시 예를 도시한다.
도 2을 참조하면, 도 2는 장애물(211) 주변의 IAB 노드(스몰 셀)(201, 205, 207, 209)과 단말들(213)의 위치를 도시한다. 주변 스몰셀 각각을 탐색한 결과 스몰 셀 m(201)은 주변에 연결 가능한 스몰 셀 2개(스몰셀 m+1(207), 스몰 셀 m+3(205))를 가질 수 있다. 스몰셀 m+3(205)는 IAB-도너 스몰 셀까지 1홉으로 연결되고, 스몰셀 m+1(207)은 IAB-도너까지 2홉으로 연결된다. 이와 같이 주변 스몰 셀의 연결 홉수는 현재 자신(IAB 노드)의 상태를 나타내어 심층 강화 학습에 사용되는 파라미터일 수 있다.
[제2 변수 - 전송 가능 데이터 레이트]
도 3는 본 개시의 다양한 실시 예에 따라 전송 가능한 데이터 레이트에 기반한 IAB 노드의 제2 실시 예를 도시한다.
도 3에서 도시하는 전송 가능 데이터 레이트는 백홀링(backhauling) 연결이 된다는 가정에서 전송 가능 데이터 레이트이다. 도 3에서 도시된 것과 같이, 스몰 셀 m+1(307) 혹은 스몰 셀 m+3(305)과 백홀링 연결이 된다면 전송 가능한 데이터 레이트를 고려하는 것이다. 전송 가능한 데이터 레이트는 사용 가능한 대역폭과 그 대역의 채널 상태을 기반하여 결정될 수 있다. 즉, 전송 가능한 데이터 레이트는 경로 손실(path loss)에 영향을 받는 변수로서, 일반적으로 거리가 멀면 경로 손실이 커져 데이터 레이트가 감소하고 mmWave와 같이 주파수 대역이 높은 경우 가용 대역폭이 넓어 data rate가 커질 수 있다. 다만, 주변 환경은 시간에 따라 변하므로 정확한 계산을 위하여 주기적인 측정과 정보 교환이 이루어져야 한다. 일 실시 예에 따라, 스몰 셀(IAB 노드)는 주변 IAB 노드 각각에 대하여 전송 가능 데이터 레이터 정보를 주기적으로 수신할 수 있다.
[제3 변수 - IAB 노드(스몰 셀)의 전송 버퍼 상태]
도 4는 본 개시의 다양한 실시 예에 따라 버퍼 상태 정보에 기반한 IAB 노드의 제3 실시 예를 도시한다.
도 4를 참고하면, 특정 지역에 사용자(단말)(307)이 많이 몰린 경우에 버퍼 상태를 도시한다. 특정 스몰 셀(IAB 노드)(305)에 전송 버퍼가 많이 차 있는 경우 스몰 셀에 많은 수의 사용자 노드(307) 혹은 IAB-노드가 연결되어 트래픽이 몰릴 수 있다. 이런 경우 일반적으로 트래픽이 몰리는 경로를 회피하는 것이 네트워크 성능에 이득을 줄 수 있다. 이와 같이 부하 밸런싱(load balancing) 기능을 제공하기 위해 전송 버퍼의 상태를 심층 강화 학습의 파라미터로 사용할 수 있다.
도 5는 본 개시의 다양한 실시 예에 따라 전체 심층 강화 학습 네트워크를 도시한다.
도 5를 참조하면, k는 상태 정보로 입력되는 주변 스몰 셀(IAB 노드)의 최대 수일 수 있다. k를 기반으로 DQN 네트워크에 의하여 출력되는 것은 어떤 스몰 셀과 backhaul 연결을 수행할지 나태는 벡터일 수 있다. 주변에 다수의 스몰 셀이 존재할 수 있지만 DQN 복잡도를 고려하여 k개의 스몰 셀만을 고려하고 k개의 연결 출력만 가지도록 설계할 수 있다.
도 6는 본 개시의 다양한 실시 예에 따라 DQN 네트워크를 기반으로 스몰 셀이 배치된 환경을 도시한다.
도 6을 참고하면, 최대 백홀(backhaul) 연결 예상 가능 경로를 k로 고정하더라도 통신 네트워크의 상황에 따라 더 적은 수의 스몰 셀만을 탐색하는 것이 복잡도 측면에서 이득일 수 있다. 이러한 경우 상태 정보에서 고려하지 않은 스몰 셀(601)의 상태 값은 0으로 설정될 수 있다. 예를 들어, 도 6에 도시된 것과 같이, 5개의 예상 가능 경로를 탐색하고 있지만 최대 값은 5이 상의 값으로 설정될 수 있다. 이런 경우 5 초과 상태 정보는 전부 0으로 설정하고 학습과 동작을 진행할 수 있다.
도 7는 본 개시의 다양한 실시 예에 따라 DQN 네트워크를 기반으로 IAB 노드의 보상(reward, r)를 도시한다.
도 7을 참조하면, 아래의 수학식 1과 같이 보상(reward, r)이 계산될 수 있다.
Figure pat00001
여기서, h는 홉 횟수,
Figure pat00002
는 홉 수의 가중치, t는 전송 속도, 1-
Figure pat00003
는 전송 속도 가중치, M은 엑세스 기능을 통해 접속한 단말의 수, N은 백홀링을 통해 접속한 스몰 셀(IAB 노드)의 수
일 실시 예에 따라, h는 부모 IAB-node 홉 수에 1을 더한 값과 같다. t는 실제 동작을 통해 IAB연결이 이루어진 이후 실제 전송되는 속도를 의미할 수 있다. 즉, 실제 동작을 통해 IAB 연결이 이루어진 이후 실제 전송되는 속도를 의미할 수 있다. 즉, 잘못된 연결로 트래픽이 몰리는 스몰 셀로 데이터 패킷을 포워딩(forwarding)했을 경우 속도 제한으로 인해 낮은 속도로 동작할 수 있다.
일 실시 예에 따라, 보상은 상위 노드로부터 얻을 수 있다. 상위 노드로 데이터 전송이 성공적으로 이루어지면 ACK(acknowledge)와 같은 형태로 전송 성공에 대한 신호가 수신될 수 있다. 이를 통해 DQN이 적용된 IAB 노드(스몰 셀)은 데이터 전송 속도를 측정할 수 있다.
일 실시 예에 따라, 홉 횟수는 스몰 간 정보 교환을 통해 계속해서 업데이트 될 수 있다. 즉, 전송 속도와 홉 횟수를 이용하여 가중치에 따라 보상(reward, r)을 계산하여 DQN에게 보상을 주는 방식으로 학습을 수행할 수 있다.
동작과 상태 보상을 디자인한 이후 DQN 학습은 종래의 DQN 학습 방법을 이용할 수 있다. 각 학습 과정에서 Q 값을 업데이트 하는 과정이 DQN 학습이라 할 수 있으며, 이를 수식으로 표현하면 아래의 수학식 2와 같다.
Figure pat00004
여기서, s'는 현재 상태, s'는 다음 상태, r은 보상,
Figure pat00005
은 활인율, a'는 동작이다.
DQN이 동작할 때 항상 같은 동작만 시도하지 않고 가끔은 다른 새로운 동작을 시도하도록 설계하여야 최적이 해답을 찾을 수 있다. 이러한 동작을 구현하기 위해 심층 강화 학습에 일반적으로 많이 적용되는 알고리즘인 e-greedy 알고리즘을 적용할 수 있다. E-greedy 알고리즘이 적용됨으로써 DQN에서 매 시도에서 지금까지 학습한 해답 중 최적의 해만 찾지 않고 가끔은 랜덤하게 다른 동작을 수행할 수 있다. 따라서, 새로 시도한 해답이 네트워크에 더 큰 보상을 준다면 이 해답으로 강화가 일어날 수 있다.
도 8는 본 개시의 다양한 실시 예에 따라 IAB 노드의 동작 방법을 도시한다.
도 8을 참고하면, IAB(intergrade access and backhaul) 노드(node)는 IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별할 수 있다(801).
IAB 노드는 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별할 수 있다(803).
IAB 노드는 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별할 수 있다(805).
IAB 노드는 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별할 수 있다(807).
IAB 노드는 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별할 수 있다(809).
IAB 노드는 UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 UE의 데이터를 송신할 수 있다(811).
일 실시 예에 따라, IAB 노드는 코어 네트워크(core network, CN)과 유선 연결되어 있지 않을 수 있다.
일 실시 예에 따라, IAB 노드는 스몰 셀(small cell), 매크로 기지국(macro base station), UAV(unmanned aerial vehicle)의 스몰 셀, 혹은 차량(vehicle)의 스몰 셀일 수 있다.
일 실시 예에 따라, 전송 가능 데이터 레이트는 경로 손실(path-loss)에 반비례할 수 있다.
일 실시 예에 따라, 전송 가능 데이터 레이트는 다른 IAB 노드와 IAB 노드 간의 거리에 반비례할 수 있다.
일 실시 예에 따라, 전송 버퍼 상태는 IAB 노드의 트래픽에 비례할 수 있다.
일 실시 예에 따라, IAB 노드는 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하기 위하여 홉 횟수, 전송 속도, 접속 가능한 UE의 수, CN과 접속한 IAB 노드의 수를 기반으로 보상(reward)를 식별할 수 있고, 보상을 기반으로 DQN(Deep Q-Network) 학습하여 UE의 데이터를 전송하기 위한 IAB 노드를 식별할 수 있다.
일 실시 예에 따라, IAB 노드는 보상을 식별하기 위하여, 홉 수의 가중치, 전송 속도의 가중치를 기반으로 보상을 식별할 수 있다.
일 실시 예에 따라, DQN 학습은, e-greedy 알고리즘을 적용할 수 있다.
일 실시 예에 따라, UE의 데이터를 전송하기 위한 IAB 노드는 IAB 프로토콜(protocol)을 경유하여 CN과 연결될 수 있다.
도 9는 본 개시의 다양한 실시 예에 따라 IAB 도너 노드의 동작 방법을 도시한다.
도 9를 참고하면, IAB 도너 노드는 사용자 단말(user equipment, UE)의 데이터를 IAB 노드로부터 수신할 수 있다(901).
IAB 도너 노드는 UE의 데이터를 코어 네트워크(core network, CN)으로 송신할 수 있다.
일 실시 예에 따라, IAB 도너 노드는 CN와 연결될 수 있다.
도 10은 본 개시의 다양한 실시 예에 따른 단말의 구성을 도시한 도면이다.
도 10을 참조하면, 본 개시의 단말은 프로세서(1001), 수신기(1002), 송신기(1003)을 포함할 수 있다.
프로세서(1001)는 상술한 도 1 내지 도 8의 본 개시의 실시 예들의 각각 또는 결합에 따라 단말이 동작할 수 있는 일련의 과정을 제어할 수 있다. 예컨대 본 개시의 실시 예들에 따르는 IAB 노드와의 억세스 링크 송수신 등을 상이하게 제어할 수 있다. 수신기(1002)와 송신기(1003)를 통칭하여 본 개시의 실시 예에서는 송수신기(transceiver)라 칭할 수 있다. 송수신기는 기지국과 신호를 송수신할 수 있다. 이 신호는 제어 정보와, 데이터 중 적어도 하나를 포함할 수 있다. 이를 위해, 송수신기는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF(radio frequency) 송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF 수신기 등을 포함할 수 있다. 또한, 송수신기는 무선 채널을 통해 신호를 수신하여 프로세서(1001)로 출력하고, 프로세서(1001)로부터 출력된 신호를 무선 채널을 통해 전송할 수 있다.
도 11은 본 개시의 다양한 실시 예에 따른 기지국(IAB-donor 기지국)의 구성을 도시한 도면이다.
도 11을 참조하면, 본 개시의 기지국은 프로세서(1101), 수신기(1102), 및/또는 송신기(1103)을 포함할 수 있다.
프로세서(1101)는 상술한 도 1 내지 도 8의 본 개시의 실시 예들의 각각 또는 결합에 따라 기지국이 동작할 수 있도록 일련의 과정을 제어할 수 있다.
예컨대 본 개시의 실시 예들에 따르는 IAB 노드와의 백홀 링크 송수신 및 억세스 링크의 송수신 등을 상이하게 제어할 수 있다. 수신기(1102)와 송신기(1103)를 통칭하여 본 개시의 실시 예에서는 송수신부라 칭할 수 있다. 송수신기는 단말 또는 하위(자)(child) IAB 노드와 신호를 송수신할 수 있다. 이 신호는 제어 정보와, 데이터 중 적어도 하나를 포함할 수 있다. 이를 위해, 송수신기는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF 수신기 등을 포함할 수 있다. 또한, 송수신기는 무선 채널을 통해 신호를 수신하여 프로세서(1101)로 출력하고, 프로세서(1101)로부터 출력된 신호를 무선 채널을 통해 전송할 수 있다.
도 12는 본 개시의 다양한 실시 예에 따른 IAB 노드의 구성을 도시한다.
도 12를 참조하면, 본 개시의 실시 예에 따라, IAB 노드는 하위(자)(child) IAB 노드와 (무선) 백홀 링크를 통해 송수신 하기 위한 IAB 노드의 기지국 기능 제어부(1201), 기지국 기능 수신부(1202), 기지국 기능 송신부(1203)을 포함할 수 있다. 또한, IAB 노드는 상위(모) IAB 노드 및/또는 도너(donor) 기지국에 초기 접속하고 백홀 링크로 송수신 전에 상위 계층 신호 송수신을 하고 상위(모) IAB 노드 및 도너(donor) 기지국과 (무선) 백홀 링크를 통한 송수신을 위한 IAB 노드의 단말 기능 제어부(1211), 단말 기능 수신부(1212), 단말 기능 송신부(1213)등을 포함할 수 있다.
IAB 노드의 기지국 기능 제어부(1201)는 상술한 본 개시의 실시 예에 따라 IAB 노드가 기지국과 같이 동작할 수 있도록 일련의 과정을 제어할 수 있으며, 예를 들어, 앞서 설명한 IAB 노드의 DU의 기능을 수행할 수 있다. 예컨대 기지국 기능 제어부(1201)는 본 개시의 실시 예에 따르는 하위 IAB 노드와의 백홀 링크 송수신 및 단말과의 억세스 링크의 송수신 등을 상이하게 제어할 수 있다. 기지국 기능 수신부(1202)와 기지국 기능 송신부(1203)를 통칭하여 본 개시의 실시 예에서는 제1 송수신기라 칭할 수 있다. 제1 송수신기는 하위(자) IAB 노드 및 단말과 신호를 송수신할 수 있다. 이 신호는 제어 정보와, 데이터 중 적어도 하나를 포함할 수 있다. 이를 위해, 제1 송수신기는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF 수신기 등을 포함할 수 있다. 또한, 제1 송수신기는 무선 채널을 통해 신호를 수신하여 기지국 기능 제어부(1201)로 출력하고, 기지국 기능 제어부(1201)로부터 출력된 신호를 무선 채널을 통해 전송할 수 있다.
IAB 노드의 단말 기능 제어부(1211)는 상술한 본 개시의 실시 예에 따라 하위(자) IAB 노드가 Donor 기지국 혹은 상위(모) IAB 노드와의 데이터 송수신을 위해 단말과 같이 동작할 수 있는 일련의 과정을 제어할 수 있으며, 예를 들어 앞서 설명한 IAB 노드의 MT의 기능을 수행할 수 있다. 예컨대 단말 기능 제어부(1211)는 본 개시의 실시 예에 따르는 도너(donor) 기지국 및/또는 상위(모) IAB 노드와의 (무선) 백홀 링크를 통한 송수신 등을 상이하게 제어할 수 있다. 단말 기능 수신부(1212)와 단말 기능 송신부(1213)를 통칭하여 본 개시의 실시 예에서는 제2 송수신기라 칭할 수 있다. 제2 송수신기는 도너(donor) 기지국 및 상위 IAB 노드와 신호를 송수신할 수 있다. 이 신호는 제어 정보와, 데이터 중 적어도 하나를 포함할 수 있다. 이를 위해, 제2 송수신기는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF 수신기 등을 포함할 수 있다. 또한, 제2 송수신기는 무선 채널을 통해 신호를 수신하여 단말기능 제어부(1211)로 출력하고, 단말 기능 제어부(1211)로부터 출력된 신호를 무선 채널을 통해 전송할 수 있다.
한편, 도 12의 IAB 노드에 포함된 IAB 노드의 기지국 기능 제어부(1201)와 IAB 노드의 단말 기능 제어부(1211)는 서로 통합되어 IAB 노드 제어부로써 구현될 수도 있다. 이러한 경우, IAB 노드 제어부(1200)가 IAB 노드 내에서 DU와 MT의 기능을 함께 제어할 수 있다. 기지국 기능 제어부(1201), 단말 기능 제어부(1211), IAB 노드 제어부는 적어도 하나의 프로세서로 구현될 수 있다. 제1 송수신기와 제2 송수신기는 각각 구비되거나 또는 통합된 하나의 송수신기로 구현될 수도 있다.
도 12를 참조하면, IAB(intergrade access and backhaul) 노드(node)는 제어부(processor), 제어부와 동작 가능하게 연결된 송수신부를 포함할 수 있고, 제어부는 IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별할 수 있고, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별할 수 있고, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별할 수 있고, 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별할 수 있고, 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하고, UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 UE의 데이터를 송신할 수 있다.
일 실시 예에 따라, IAB 노드는 코어 네트워크(core network, CN)과 유선 연결되어 있지 않을 수 있다.
일 실시 예에 따라, IAB 노드는 스몰 셀(small cell), 매크로 기지국(macro base station), UAV(unmanned aerial vehicle)의 스몰 셀, 혹은 차량(vehicle)의 스몰 셀일 수 있다.
일 실시 예에 따라, 전송 가능 데이터 레이트는 경로 손실(path-loss)에 반비례할 수 있다.
일 실시 예에 따라, 전송 가능 데이터 레이트는 다른 IAB 노드와 IAB 노드 간의 거리에 반비례할 수 있다.
일 실시 예에 따라, 전송 버퍼 상태는 IAB 노드의 트래픽에 비례할 수 있다.
일 실시 예에 따라, IAB 노드는 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하기 위하여 홉 횟수, 전송 속도, 접속 가능한 UE의 수, CN과 접속한 IAB 노드의 수를 기반으로 보상(reward)를 식별할 수 있고, 보상을 기반으로 DQN(Deep Q-Network) 학습하여 UE의 데이터를 전송하기 위한 IAB 노드를 식별할 수 있다.
일 실시 예에 따라, IAB 노드는 보상을 식별하기 위하여, 홉 수의 가중치, 전송 속도의 가중치를 기반으로 보상을 식별할 수 있다.
일 실시 예에 따라, DQN 학습은, e-greedy 알고리즘을 적용할 수 있다.
일 실시 예에 따라, UE의 데이터를 전송하기 위한 IAB 노드는 IAB 프로토콜(protocol)을 경유하여 CN과 연결될 수 있다.
본 개시의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들은 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합의 형태로 구현될(implemented) 수 있다.
소프트웨어로 구현하는 경우, 하나 이상의 프로그램(소프트웨어 모듈)을 저장하는 컴퓨터 판독 가능 저장 매체가 제공될 수 있다. 컴퓨터 판독 가능 저장 매체에 저장되는 하나 이상의 프로그램은, 전자 장치(device) 내의 하나 이상의 프로세서에 의해 실행 가능하도록 구성된다(configured for execution). 하나 이상의 프로그램은, 전자 장치로 하여금 본 개시의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들을 실행하게 하는 명령어(instructions)를 포함한다.
이러한 프로그램(소프트웨어 모듈, 소프트웨어)은 랜덤 액세스 메모리 (random access memory), 플래시(flash) 메모리를 포함하는 불휘발성(non-volatile) 메모리, 롬(read only memory, ROM), 전기적 삭제가능 프로그램가능 롬(electrically erasable programmable read only memory, EEPROM), 자기 디스크 저장 장치(magnetic disc storage device), 컴팩트 디스크 롬(compact disc-ROM, CD-ROM), 디지털 다목적 디스크(digital versatile discs, DVDs) 또는 다른 형태의 광학 저장 장치, 마그네틱 카세트(magnetic cassette)에 저장될 수 있다. 또는, 이들의 일부 또는 전부의 조합으로 구성된 메모리에 저장될 수 있다. 또한, 각각의 구성 메모리는 다수 개 포함될 수도 있다.
또한, 프로그램은 인터넷(Internet), 인트라넷(Intranet), LAN(local area network), WAN(wide area network), 또는 SAN(storage area network)과 같은 통신 네트워크, 또는 이들의 조합으로 구성된 통신 네트워크를 통하여 접근(access)할 수 있는 부착 가능한(attachable) 저장 장치(storage device)에 저장될 수 있다. 이러한 저장 장치는 외부 포트를 통하여 본 개시의 실시 예를 수행하는 장치에 접속할 수 있다. 또한, 통신 네트워크상의 별도의 저장장치가 본 개시의 실시 예를 수행하는 장치에 접속할 수도 있다.
상술한 본 개시의 구체적인 실시 예들에서, 개시에 포함되는 구성 요소는 제시된 구체적인 실시 예에 따라 단수 또는 복수로 표현되었다. 그러나, 단수 또는 복수의 표현은 설명의 편의를 위해 제시한 상황에 적합하게 선택된 것으로서, 본 개시가 단수 또는 복수의 구성 요소에 제한되는 것은 아니며, 복수로 표현된 구성 요소라 하더라도 단수로 구성되거나, 단수로 표현된 구성 요소라 하더라도 복수로 구성될 수 있다.
한편 본 개시의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 개시의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 개시의 범위는 설명된 실시 예에 국한되어 정해져서는 아니 되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.

Claims (20)

  1. 무선 통신 시스템에서 IAB(intergrade access and backhaul) 노드(node)의 동작 방법에 있어서,
    IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별하는 과정과,
    상기 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별하는 과정과,
    상기 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별하는 과정과,
    상기 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별하는 과정과,
    상기 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하는 과정과,
    상기 UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 상기 UE의 데이터를 송신하는 과정을 포함하는, 방법.
  2. 청구항 1에 있어서,
    상기 IAB 노드는 스몰 셀(small cell), 매크로 기지국(macro base station), UAV(unmanned aerial vehicle)의 스몰 셀, 혹은 차량(vehicle)의 스몰 셀인, 방법.
  3. 청구항 1에 있어서,
    상기 전송 가능 데이터 레이트는 경로 손실(path-loss)에 반비례하는, 방법.
  4. 청구항 1에 있어서,
    상기 전송 가능 데이터 레이트는 상기 다른 IAB 노드와 상기 IAB 노드 간의 거리에 반비례하는, 방법.
  5. 청구항 1에 있어서,
    상기 전송 버퍼 상태는 상기 IAB 노드의 트래픽에 비례하는, 방법.
  6. 청구항 1에 있어서, 상기 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하는 과정은,
    상기 홉 횟수, 전송 속도, 접속 가능한 UE의 수, CN과 접속한 IAB 노드의 수를 기반으로 보상(reward)를 식별하는 과정과,
    상기 보상을 기반으로 DQN(Deep Q-Network) 학습하여 상기 UE의 데이터를 전송하기 위한 IAB 노드를 식별하는 과정을 포함하는, 방법.
  7. 청구항 6에 있어서, 상기 보상을 식별하는 과정은,
    상기 홉 수의 가중치, 상기 전송 속도의 가중치를 기반으로 상기 보상을 식별하는 과정을 포함하는, 방법.
  8. 청구항 6에 있어서,
    상기 UE의 데이터를 전송하기 위한 IAB 노드는 IAB 프로토콜(protocol)을 경유하여 상기 CN과 연결되는, 방법.
  9. 무선 통신 시스템에서 IAB(intergrade access and backhaul) 도너(donor) 노드(node)의 동작 방법에 있어서,
    사용자 단말(user equipment, UE)의 데이터를 IAB 노드로부터 수신하는 과정과,
    상기 UE의 데이터를 코어 네트워크(core network, CN)으로 송신하는 과정을 포함하는, 방법.
  10. 청구항 9에 있어서, 상기 IAB 도너 노드는 CN와 연결되어 있는, 방법.
  11. 무선 통신 시스템에서 IAB(intergrade access and backhaul) 노드(node)에 있어서,
    상기 IAB 노드는 제어부(processor);
    상기 제어부와 동작 가능하게 연결된 송수신부(transceiver)를 포함하고;
    상기 제어부는,
    IAB 노드 주변의 연결 가능한 다른 IAB 노드를 식별하고,
    상기 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들로부터 IAB 도너(donor) 노드까지의 홉(hop) 횟수를 식별하고,
    상기 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 가능 데이터 레이트(data rate)를 식별하고,
    상기 다른 IAB 노드를 식별하는 것에 기반하여 각 다른 IAB 노드들의 전송 버퍼 상태를 식별하고,
    상기 각 다른 IAB 노드들의 홉 횟수, 전송 가능 데이터 레이트, 전송 버퍼 상태를 기반하여 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하고,
    상기 UE의 데이터를 전송하기 위한 IAB 노드를 경유하여 IAB 도너 노드에게 상기 UE의 데이터를 송신하는 장치.
  12. 청구항 11에 있어서,
    상기 IAB 노드는 스몰 셀(small cell), 매크로 기지국(macro base station), UAV(unmanned aerial vehicle)의 스몰 셀, 혹은 차량(vehicle)의 스몰 셀인, 장치.
  13. 청구항 11에 있어서,
    상기 전송 가능 데이터 레이트는 경로 손실(path-loss)에 반비례하는, 장치.
  14. 청구항 11에 있어서,
    상기 전송 가능 데이터 레이트는 상기 다른 IAB 노드와 상기 IAB 노드 간의 거리에 반비례하는, 장치.
  15. 청구항 11에 있어서,
    상기 전송 버퍼 상태는 상기 IAB 노드의 트래픽에 비례하는, 장치.
  16. 청구항 11에 있어서,
    상기 제어부는, 상기 사용자 단말(user equipment, UE)의 데이터를 전송하기 위한 IAB 노드를 식별하기 위하여, 상기 홉 횟수, 전송 속도, 접속 가능한 UE의 수, CN과 접속한 IAB 노드의 수를 기반으로 보상(reward)를 식별하고,
    상기 보상을 기반으로 DQN(Deep Q-Network) 학습하여 상기 UE의 데이터를 전송하기 위한 IAB 노드를 식별하는, 장치.
  17. 청구항 16에 있어서, 상기 제어부는, 상기 보상을 식별하기 위하여,
    상기 홉 수의 가중치, 상기 전송 속도의 가중치를 기반으로 상기 보상을 식별하는, 장치.
  18. 청구항 1에 있어서,
    상기 UE의 데이터를 전송하기 위한 IAB 노드는 IAB 프로토콜(protocol)을 경유하여 상기 CN과 연결되는, 장치.
  19. 무선 통신 시스템에서 IAB(intergrade access and backhaul) 도너(donor) 노드(node)에 있어서,
    상기 IAB 도너 노드는 송수신부(transceiver)와
    상기 송수신부와 동작 가능하게 연결된 제어부(processor)를 포함하고,
    상기 제어부는,
    사용자 단말(user equipment, UE)의 데이터를 IAB 노드로부터 수신하고
    상기 UE의 데이터를 코어 네트워크(core network, CN)으로 송신하는 장치
  20. 청구항 19에 있어서, 상기 IAB 도너 노드는 CN와 연결되어 있는, 장치.
KR1020220171592A 2021-12-09 2022-12-09 무선 통신 시스템에서 심층 강화 학습 기반 iab 노드의 연결 정보를 결정하기 위한 장치 및 방법 KR20230087409A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210175683 2021-12-09
KR20210175683 2021-12-09

Publications (1)

Publication Number Publication Date
KR20230087409A true KR20230087409A (ko) 2023-06-16

Family

ID=86948217

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220171592A KR20230087409A (ko) 2021-12-09 2022-12-09 무선 통신 시스템에서 심층 강화 학습 기반 iab 노드의 연결 정보를 결정하기 위한 장치 및 방법

Country Status (1)

Country Link
KR (1) KR20230087409A (ko)

Similar Documents

Publication Publication Date Title
WO2022022334A1 (zh) 基于人工智能的通信方法和通信装置
Cacciapuoti et al. Beyond 5G: THz-based medium access protocol for mobile heterogeneous networks
US20220078637A1 (en) Wireless device, a network node and methods therein for updating a first instance of a machine learning model
US10362588B2 (en) Determining a threshold value for determining whether to steer a particular node from associating with one node to another node in a wireless environment
US11576119B2 (en) Method and apparatus for power control for network energy optimization
Ahmed et al. A comprehensive survey on handover management for vehicular ad hoc network based on 5G mobile networks technology
Manzoor et al. Towards QoS-aware load balancing for high density software defined Wi-Fi networks
TWI615047B (zh) 無線網路系統與無線網路連線方法
Mox et al. Mobile wireless network infrastructure on demand
Lam et al. Congestion control for M2M traffic with heterogeneous throughput demands
US10433201B2 (en) Method for transmitting and receiving packet in transport network
US11044640B2 (en) Uplink bearer binding in handover
KR20230087409A (ko) 무선 통신 시스템에서 심층 강화 학습 기반 iab 노드의 연결 정보를 결정하기 위한 장치 및 방법
US20230239736A1 (en) Method and apparatus for supporting change of network slice in wireless communication system
US20240137783A1 (en) Signalling support for split ml-assistance between next generation random access networks and user equipment
Wu et al. Energy‐efficient link scheduling in time‐variant dual‐hop 60GHz wireless networks
US20240056897A1 (en) Method and apparatus for managing edge computing service session in wireless communication system
US20240196187A1 (en) Machine learning configuration information transfer to ue using proximity services (prose)/sidelink wireless communication
US20230362716A1 (en) Method and apparatus for determining machine learning model based on network congestion information in wireless communication system
CN114513825B (zh) 异构网络的切换方法、装置和电子设备
KR102049044B1 (ko) 트랜스포트 네트워크에서 통신 경로 제어 방법 및 장치
US20230362305A1 (en) Method and device for dynamic backhaul network delay-based session management in wireless communication system
US20230362865A1 (en) Method and device for obtaining network data server information in wireless communication system
Mondal et al. Maximization of instantaneous transmission rate in unmanned aerial vehicles‐supported self‐organized device‐to‐device network
WO2024073948A1 (en) Method and apparatus of supporting artificial intelligence