KR20220008172A - 무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법 - Google Patents

무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법 Download PDF

Info

Publication number
KR20220008172A
KR20220008172A KR1020200086440A KR20200086440A KR20220008172A KR 20220008172 A KR20220008172 A KR 20220008172A KR 1020200086440 A KR1020200086440 A KR 1020200086440A KR 20200086440 A KR20200086440 A KR 20200086440A KR 20220008172 A KR20220008172 A KR 20220008172A
Authority
KR
South Korea
Prior art keywords
unmanned aerial
aerial vehicle
terminal
base station
information
Prior art date
Application number
KR1020200086440A
Other languages
English (en)
Inventor
이효진
이형제
이승현
엄차현
이충용
Original Assignee
삼성전자주식회사
연세대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사, 연세대학교 산학협력단 filed Critical 삼성전자주식회사
Priority to KR1020200086440A priority Critical patent/KR20220008172A/ko
Priority to US17/374,530 priority patent/US11751017B2/en
Publication of KR20220008172A publication Critical patent/KR20220008172A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/029—Location-based management or tracking services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B7/00—Radio transmission systems, i.e. using radiation field
    • H04B7/14—Relay systems
    • H04B7/15—Active relay systems
    • H04B7/185—Space-based or airborne stations; Stations for satellite systems
    • H04B7/18502—Airborne stations
    • H04B7/18504—Aircraft used as relay or high altitude atmospheric platform
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S1/00—Beacons or beacon systems transmitting signals having a characteristic or characteristics capable of being detected by non-directional receivers and defining directions, positions, or position lines fixed relatively to the beacon transmitters; Receivers co-operating therewith
    • G01S1/02—Beacons or beacon systems transmitting signals having a characteristic or characteristics capable of being detected by non-directional receivers and defining directions, positions, or position lines fixed relatively to the beacon transmitters; Receivers co-operating therewith using radio waves
    • G01S1/04—Details
    • G01S1/042—Transmitters
    • G01S1/0423—Mounting or deployment thereof
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0252—Radio frequency fingerprinting
    • G01S5/02521—Radio frequency fingerprinting using a radio-map
    • G01S5/02524—Creating or updating the radio-map
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H04L67/125—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks involving control of end-device applications over a network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W24/00—Supervisory, monitoring or testing arrangements
    • H04W24/02—Arrangements for optimising operational condition
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/023—Services making use of location information using mutual or relative location information between multiple location based services [LBS] targets or of distance thresholds
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/025—Services making use of location information using location based information parameters
    • H04W4/026—Services making use of location information using location based information parameters using orientation information, e.g. compass
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W64/00—Locating users or terminals or network equipment for network management purposes, e.g. mobility management
    • H04W64/006—Locating users or terminals or network equipment for network management purposes, e.g. mobility management with additional information processing, e.g. for direction or speed determination
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S2205/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S2205/01—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations specially adapted for specific applications
    • G01S2205/03—Airborne
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0295—Proximity-based methods, e.g. position inferred from reception of particular signals
    • G01S5/02955—Proximity-based methods, e.g. position inferred from reception of particular signals by computing a weighted average of the positions of the signal transmitters
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/309—Measuring or estimating channel quality parameters
    • H04B17/318—Received signal strength
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/391—Modelling the propagation channel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W24/00—Supervisory, monitoring or testing arrangements
    • H04W24/10—Scheduling measurement reports ; Arrangements for measurement reports
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W84/00—Network topologies
    • H04W84/005—Moving wireless networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W84/00—Network topologies
    • H04W84/02—Hierarchically pre-organised networks, e.g. paging networks, cellular networks, WLAN [Wireless Local Area Network] or WLL [Wireless Local Loop]
    • H04W84/04—Large scale networks; Deep hierarchical networks
    • H04W84/06—Airborne or Satellite Networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W88/00—Devices specially adapted for wireless communication networks, e.g. terminals, base stations or access point devices
    • H04W88/02—Terminal devices
    • H04W88/04—Terminal devices adapted for relaying to or from another terminal or user
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W88/00—Devices specially adapted for wireless communication networks, e.g. terminals, base stations or access point devices
    • H04W88/08—Access point devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

본 개시의 일 측면은 무선 통신 시스템에서 기지국의 동작 방법에 있어서, 적어도 하나의 단말의 위치 정보를 수신하고, 상기 위치 정보에 기초하여 무인 항공기의 초기 위치를 결정하는 단계; 상기 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관(association) 정보를 상기 무인 항공기에게 전송하는 단계; 상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 무인 항공기로부터 수신하는 단계; 및 상기 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 단계를 포함하는, 기지국의 동작 방법을 제공할 수 있다.

Description

무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법 {METHOD AND APPARATUS FOR SUPPORTING COMMUNICATION OF USER EQUIPMENT WITH UNMANNED AERIAL VEHICLE IN MOBILE COMMUNICATION SYSTEM}
본 개시는 무선 통신 시스템에 있어서 무인 항공기(Unmanned Aerial Vehicle, UAV)를 이용하여 단말의 통신을 지원하는 방법 및 장치에 관한 것이다.
4G 통신 시스템 상용화 이후 증가 추세에 있는 무선 데이터 트래픽 수요를 충족시키기 위해, 개선된 5G 통신 시스템 또는 pre-5G 통신 시스템을 개발하기 위한 노력이 이루어지고 있다. 이러한 이유로, 5G 통신 시스템 또는 pre-5G 통신 시스템은 4G 네트워크 이후 (Beyond 4G Network) 통신 시스템 또는 LTE 시스템 이후 (Post LTE) 이후의 시스템이라 불리어지고 있다. 높은 데이터 전송률을 달성하기 위해, 5G 통신 시스템은 초고주파 (mmWave) 대역 (예를 들어, 60기가 (60GHz) 대역과 같은)에서의 구현이 고려되고 있다. 초고주파 대역에서의 전파의 경로손실 완화 및 전파의 전달 거리를 증가시키기 위해, 5G 통신 시스템에서는 빔포밍 (beamforming), 거대 배열 다중 입출력 (massive MIMO), 전차원 다중입출력 (full dimensional MIMO, FD-MIMO), 어레이 안테나 (array antenna), 아날로그 빔형성 (analog beam-forming), 및 대규모 안테나 (large scale antenna) 기술들이 논의되고 있다. 또한 시스템의 네트워크 개선을 위해, 5G 통신 시스템에서는 진화된 소형 셀, 개선된 소형 셀 (advanced small cell), 클라우드 무선 엑세스 네트워크 (cloud radio access network: cloud RAN), 초고밀도 네트워크 (ultra-dense network), 기기 간 통신 (Device to Device communication: D2D), 무선 백홀 (wireless backhaul), 이동 네트워크 (moving network), 협력 통신 (cooperative communication), CoMP (Coordinated Multi-Points), 및 수신 간섭제거 (interference cancellation) 등의 기술 개발이 이루어지고 있다.
이 밖에도, 5G 시스템에서는 진보된 코딩 변조(Advanced Coding Modulation: ACM) 방식인 FQAM (Hybrid FSK and QAM Modulation) 및 SWSC (Sliding Window Superposition Coding)과, 진보된 접속 기술인 FBMC (Filter Bank Multi Carrier), NOMA (non orthogonal multiple access), 및 SCMA (sparse code multiple access) 등이 개발되고 있다.
최근 들어 통신 시스템에 무인 항공기(Unmanned Aerial Vehicle, UAV)를 이용하는 기술 개발이 진행되고 있다. 예를 들어, 재난 모니터링, 국경 감시, 비상 상황 지원 등의 경우에, 배치 용이성, 낮은 유지 보수 비용, 및 높은 기동성 등으로 인해 무인 항공기가 상업용 애플리케이션을 위한 적합한 선택으로 제안되고 있다. 특히, 기지국의 커버리지를 향상시키기 위해 무인 항공기를 기지국 또는 릴레이 노드로 이용하는 기술이 제안될 수 있다.
무선 통신 시스템이 무인 항공기를 이용함에 있어서, 사용자 단말의 상황에 따라 적응적으로 무인 항공기를 배치함으로써 신속하게 단말의 통신을 지원할 수 있는 방법이 요구된다.
본 개시의 일 측면은 무선 통신 시스템에서 기지국의 동작 방법에 있어서, 적어도 하나의 단말의 위치 정보를 수신하고, 상기 위치 정보에 기초하여 무인 항공기의 초기 위치를 결정하는 단계; 상기 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관(association) 정보를 상기 무인 항공기에게 전송하는 단계; 상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 무인 항공기로부터 수신하는 단계; 및 상기 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 단계를 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 적어도 하나의 단말의 요청, 또는 QoS의 감소 중 적어도 하나에 기초하여, 상기 무인 항공기를 상기 적어도 하나의 단말의 통신을 위한 릴레이 노드로서 배치할 필요가 있음을 판단하는 단계를 더 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 무인 항공기의 초기 위치를 결정하는 단계는, 상기 적어도 하나의 단말의 위치 정보를 수신하고, 상기 적어도 하나의 단말의 위치의 중심(centroid)을 상기 초기 위치로서 결정하는 단계; 및 상기 무인 항공기가 상기 적어도 하나의 단말의 무선 통신을 지원하도록 상기 적어도 하나의 단말을 상기 무인 항공기와 연관시키는 단계를 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 초기 위치와 관련된 제어 정보는, 상기 무인 항공기가 배치될 위치의 3차원 좌표 값을 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 제1 특징 정보는, 상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 RSS 데이터를 포함하는 제2 특징 정보를 상기 무인 항공기로부터 수신하는 단계; 상기 제2 특징 정보에 포함되는 RSS 데이터에 대한 보간을 통해 RF 맵을 획득하는 단계; 및 상기 RF 맵에 기초하여 상기 강화 학습 네트워크를 학습시키는 단계를 더 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 RSS 데이터를 포함하는 제2 특징 정보를 수신하는 단계; 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나 및 상기 제2 특징 정보를 고려하여 상기 강화 학습 네트워크를 학습시키는 단계를 더 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 강화 학습 네트워크의 적합성 여부를 판단하는 단계; 상기 강화 학습 네트워크가 적합하지 않다고 판단되는 경우, 상기 RF 맵을 갱신하고, 상기 갱신된 RF 맵에 기초하여 상기 강화 학습 네트워크를 추가 학습시키는 단계; 및 상기 강화 학습 네트워크가 적합하다고 판단되는 경우, 상기 강화 학습 네트워크 이용의 시작을 알리는 플래그를 상기 무인 항공기에게 전송하는 단계를 더 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 단계는, 상기 제1 특징 정보에 기초하여 상기 무인 항공기가 이동하는 스텝의 크기를 결정하는 단계; 복수의 강화 학습 네트워크들 중에서 상기 결정된 스텝의 크기에 대응하는 상기 강화 학습 네트워크를 결정하는 단계; 상기 결정된 스텝의 크기에 대응하는 상기 강화 학습 네트워크에 상기 제1 특징 정보를 적용함으로써 상기 무인 항공기의 이동 방향 정보를 획득하는 단계; 및 상기 이동 방향 정보 및 상기 결정된 스텝의 크기를 전송하는 단계를 포함하는, 기지국의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 무인 항공기가 이동하는 스텝의 크기를 결정하는 단계는, 상기 무인 항공기로부터 상기 단말로의 다운 링크 데이터 레이트의 최근 변화량 및 평균 변화량을 상기 제1 특징 정보로부터 획득하는 단계; 및 상기 최근 변화량 및 상기 평균 변화량을 비교한 결과에 기초하여, 상기 무인 항공기가 이동하는 스텝의 크기를 결정하는 단계를 포함하는, 기지국의 동작 방법을 제공할 수 있다.
본 개시의 다른 측면은 무선 통신 시스템에서 무인 항공기의 동작 방법에 있어서, 초기 위치와 관련된 제어 정보 및 적어도 하나의 단말과 상기 무인 항공기 간의 연관(association) 정보를 기지국으로부터 수신하는 단계; 상기 초기 위치와 관련된 제어 정보에 기초하여 이동하여 상기 적어도 하나의 단말의 통신을 지원하는 단계; 상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 기지국에게 전송하는 단계; 및 상기 제1 특징 정보에 응답하여, 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 수신하는 단계를 포함하는, 무인 항공기의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 초기 위치와 관련된 제어 정보는, 상기 무인 항공기가 배치될 위치의 3차원 좌표 값을 포함하는, 무인 항공기의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 적어도 하나의 단말의 무선 통신을 지원하는 단계는, 상기 무인 항공기로부터 상기 적어도 하나의 단말로 레퍼런스 신호를 전송하는 단계; 및 상기 레퍼런스 신호에 응답하여 상기 레퍼런스 신호의 세기에 대한 피드백을 수신하는 단계를 포함하고, 상기 제1 특징 정보는, 상기 레퍼런스 신호의 세기에 대한 정보를 포함하는, 무인 항공기의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 제1 특징 정보는, 상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함하는, 무인 항공기의 동작 방법을 제공할 수 있다.
또한 본 개시의 일 실시 예에서 상기 무인 항공기의 이동 위치와 관련된 제어 정보는, 상기 무인 항공기의 이동 방향 정보 및 상기 무인 항공기가 이동하는 스텝의 크기를 포함하는, 무인 항공기의 동작 방법을 제공할 수 있다.
본 개시의 다른 측면은 무선 통신 시스템에서 무인 항공기를 이용하여 적어도 하나의 단말의 통신을 지원하는 기지국에 있어서, 상기 적어도 하나의 단말 및 상기 무인 항공기와 신호를 송수신하는 통신부; 상기 기지국의 동작을 위한 프로그램 및 데이터를 저장하는 메모리; 및 상기 메모리에 저장된 프로그램을 실행함으로써, 상기 적어도 하나의 단말의 위치 정보에 기초하여 상기 무인 항공기의 초기 위치를 결정하고, 상기 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관 정보를 상기 무인 항공기에게 전송하고, 상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 무인 항공기로부터 수신하고, 상기 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 적어도 하나의 프로세서를 포함하는, 기지국을 제공할 수 있다.
본 개시의 다른 측면은 무선 통신 시스템에서 기지국과 적어도 하나의 단말 간의 통신을 지원하는 무인 항공기에 있어서, 상기 적어도 하나의 단말 및 상기 기지국과 신호를 송수신하는 통신부; 상기 무인 항공기의 동작을 위한 프로그램 및 데이터를 저장하는 메모리; 및 상기 메모리에 저장된 프로그램을 실행함으로써, 상기 무인 항공기의 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관 정보를 상기 기지국으로부터 수신하고, 상기 초기 위치와 관련된 제어 정보에 기초하여 이동하여 상기 적어도 하나의 단말의 통신을 지원하고, 상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 기지국에게 전송하고, 상기 제1 특징 정보에 응답하여, 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 수신하는, 적어도 하나의 프로세서를 포함하는, 무인 항공기를 제공할 수 있다.
도 1은 무선 통신 시스템에서 무인 항공기를 이용하는 무선 통신 시스템의 다양한 실시 예들을 도시한다.
도 2는 본 개시의 일 실시 예에 따라 무인 항공기를 이용하여 단말의 통신을 지원하는 무선 통신 시스템을 도시한다.
도 3은 본 개시의 일 실시 예에 따른 무선 통신 시스템에 있어서 무인 항공기의 배치를 위한 학습 과정을 설명하기 위한 도면이다.
도 4는 본 개시의 일 실시 예에 따라 기지국이 무인 항공기의 배치를 위한 학습을 수행하는 방법의 흐름도를 도시한다.
도 5는 본 개시의 일 실시 예에 따라 RSS 데이터를 이용하여 DQN(Deep Q-network)의 학습을 수행하는 과정을 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따라 무선 통신 시스템이 무인 항공기의 배치를 위한 학습을 수행하는 방법의 흐름도를 도시한다.
도 7은 본 개시의 일 실시 예에 따라 무인 항공기가 적응적 스텝 크기에 기초하여 이동하는 과정을 설명하기 위한 도면이다.
도 8은 본 개시의 일 실시 예에 따라 기지국이 학습된 DQN을 이용하여 무인 항공기를 운용하는 방법의 흐름도를 도시한다.
도 9는 본 개시의 일 실시 예에 따라 무선 통신 시스템이 학습된 DQN을 이용하여 무인 항공기를 운용하는 방법의 흐름도를 도시한다.
도 10은 본 개시의 일 실시 예에 따라 무선 통신 시스템이 학습된 DQN을 이용하여 무인 항공기를 운용하는 방법의 구체화된 흐름도를 도시한다.
도 11은 본 개시의 일 실시 예에 따라 무선 통신 시스템이 강화 학습 네트워크를 이용하여 무인 항공기를 최적화된 위치로 이동시키는 과정을 설명하기 위한 도면이다.
도 12는 본 개시의 일 실시 예에 따라 기지국이 데이터 레이트에 기초하여 무인 항공기가 이동하는 스텝 크기를 조정하는 과정을 설명하기 위한 도면이다.
도 13은 본 개시의 일 실시 예에 따라 무선 통신 시스템에서 기지국의 동작 방법의 흐름도를 도시한다.
도 14는 본 개시의 일 실시 예에 따라 무선 통신 시스템에서 무인 항공기의 동작 방법의 흐름도를 도시한다.
도 15는 본 개시의 일 실시 예에 따른 무인 항공기의 블록도를 도시한다.
도 16은 본 개시의 일 실시 예에 따른 기지국의 블록도를 도시한다.
이하 첨부된 도면을 참조하여 본 발명의 동작 원리를 상세히 설명한다. 하기에서 본 발명을 설명하기에 있어 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
마찬가지 이유로 첨부 도면에 있어서 일부 구성요소는 과장되거나 생략되거나 개략적으로 도시되었다. 또한, 각 구성요소의 크기는 실제 크기를 전적으로 반영하는 것이 아니다. 각 도면에서 동일한 또는 대응하는 구성요소에는 동일한 참조 번호를 부여하였다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
이때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행 예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
이 때, 본 실시 예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA(Field Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다. 또한 실시 예에서 '~부'는 하나 이상의 프로세서를 포함할 수 있다.
하기에서 본 개시를 설명함에 있어 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 이하 첨부된 도면을 참조하여 본 개시의 실시 예를 설명하기로 한다.
이하 설명에서 사용되는 접속 노드(node)를 식별하기 위한 용어, 망 객체(network entity)들을 지칭하는 용어, 메시지들을 지칭하는 용어, 망 객체들 간 인터페이스를 지칭하는 용어, 다양한 식별 정보들을 지칭하는 용어 등은 설명의 편의를 위해 예시된 것이다. 따라서, 본 발명이 후술되는 용어들에 한정되는 것은 아니며, 동등한 기술적 의미를 가지는 대상을 지칭하는 다른 용어가 사용될 수 있다.
이하 설명의 편의를 위하여, 본 발명은 현재 존재하는 통신표준 가운데 3GPP (The 3rd Generation Partnership Project) 단체에서 정의하는 가장 최신의 표준인 LTE 및 NR 규격에서 정의하고 있는 용어 및 명칭들을 사용한다. 하지만, 본 발명이 상기 용어 및 명칭들에 의해 한정되는 것은 아니며, 다른 규격에 따르는 시스템에도 동일하게 적용될 수 있다. 특히 본 발명은 3GPP NR (5세대 이동통신 표준)에 적용할 수 있다. 또한, 유사한 기술적 배경 또는 채널형태를 갖는 여타의 통신시스템에도 본 개시의 실시 예가 적용될 수 있다. 또한, 본 개시의 실시 예는 숙련된 기술적 지식을 가진 자의 판단으로써 본 개시의 범위를 크게 벗어나지 아니하는 범위에서 일부 변형을 통해 다른 통신시스템에도 적용될 수 있다.
본 개시의 다양한 실시 예들에 따르면 무인 항공기를 기지국 또는 릴레이 노드로 이용함에 있어서, 강화 학습 네트워크를 이용하여 사용자 단말의 상황에 따라 적응적으로 무인 항공기를 배치하기 위한 방법 및 장치가 제공될 수 있다. 본 개시의 일 실시 예에 따를 경우, 최적화된 위치에 무인 항공기가 배치됨으로써 다수의 사용자들의 QoS(Quality of Service)를 최대화할 수 있다.
도 1은 무선 통신 시스템에서 무인 항공기를 이용하는 무선 통신 시스템의 다양한 실시 예들을 도시한다.
재난 모니터링, 국경 감시, 비상 상황 지원 등의 상황에 있어서, 배치 용이성, 낮은 유지 보수 비용, 및 높은 기동성 등으로 인해 무인 항공기가 이용될 수 있다.
무선 통신 관점에서, 무인 항공기에 탑재된 무선 액세스 노드(예를 들어, UAV eNB / gNB / ng-eNB, UxNB 등)를 사용하는 것, 특히, 커버리지를 향상시키기 위해 UxNB를 사용하는 것에 대한 관심이 높아지고 있다.
IEEE 표준 규격 TR 38.811은 HAPS(High Altitude Pseudo Satellites)를 포함하는 UAS(Unmanned Aircraft Systems)를 기지국으로 사용하는 기술의 일 측면(aspect)을 설명하고 있다. UAS의 고도는 8km에서 50km 사이일 수 있다. 한편, 약 100m의 낮은 고도로 비행하는, 기지국을 탑재한 UAV(예를 들어, UxNB)는, 상대적으로 높은 고도에 위치하는 UAS보다 적용 범위와 빠른 배치 관점에서 유연하다는 장점이 있다.
도 1에 도시된 바와 같이, 일 실시 예에 따른 무선 통신 시스템(101)에서 UxNB(111, 112)는, 단말(10)과 코어 네트워크(120) 사이의 기지국으로서 동작할 수 있다. 또는, 일 실시 예에 따른 무선 통신 시스템(102)에서 UxNB(113)는, 단말(10)과 코어 네트워크(120) 사이의 기지국(130)의 릴레이 노드로서 동작할 수 있다.
도 2는 본 개시의 일 실시 예에 따라 무인 항공기를 이용하여 단말의 통신을 지원하는 무선 통신 시스템을 도시한다.
도 2를 참조하면, 기지국(300)에 의해 서비스가 제공되는 셀(cell)(203)이 도시된다. 예를 들어, 기지국(300)은 마크로셀(macrocell) 내에서 무선 신호 커버리지를 제공하는 MBS(Macrocell Base Station)일 수 있다. 셀(203) 내에서 기지국의 커버리지(201) 내의 다수의 단말들은 기지국(300)에 의해 서비스를 제공받을 수 있다. 다만, 셀 엣지 영역(205) 또는 좁은 공간 내에 많은 사용자들이 위치한 핫 스팟 영역(207) 내의 단말들에 대해서는, 무인 항공기(200)가 기지국의 릴레이 노드로서 이용될 수 있다. 무인 항공기(200)가 이용됨으로써, 기지국의 커버리지가 향상될 수 있다.
무인 항공기(200)가 고정된 위치에서 서비스를 제공하는 것과 비교하여, 본 개시의 일 실시 예에 따르면, 설계된 이동 궤적에 따라 무인 항공기(200)를 이동하고 운용함으로써 통신 성능 향상을 기대할 수 있다. 특히, 본 개시의 일 실시 예에 따른 무선 통신 시스템은, 강화 학습 네트워크에 기초하여 UAV를 배치함으로써 통신 성능을 보다 향상시킬 수 있다.
강화 학습 네트워크에 기초한 무인 항공기를 활용한 통신 시스템을 위해서는 새로운 시그널링이 요구될 수 있다. 예를 들어, 무인 항공기(200)와 단말 간의 링크에서는, 레퍼런스 신호(reference signal), CSI(Channel Sate Information) 피드백, 다운 링크/업 링크 데이터, 사용자 특징(user feature) 등을 교환될 수 있다. 기지국(300)과 무인 항공기(200) 간의 링크에서는, 강화 학습 데이터, 기지국(300)과 무인 항공기(200) 간의 연관(association) 정보, 및 무인 항공기(200)의 배치 및 이동 정보 등이 교환될 수 있다.
본 개시의 다양한 실시 예들에 따른 무선 통신 시스템의 동작은, 학습(learning) 단계 및 서비스 제공(serving) 단계로 구분할 수 있다. 학습 단계에서, 무선 통신 시스템의 기지국(300)은, 무인 항공기를 배치하기 위한 학습 데이터를 수집하고, 수집된 학습 데이터에 기초하여 강화 학습 네트워크를 학습할 수 있다. 서비스 제공 단계에서, 기지국(300)은, 학습된 강화 학습 네트워크를 이용하여, 현재 상황 데이터에 기반한 무인 항공기(200)의 최적의 위치를 결정할 수 있다. 기지국(300)은, 결정된 위치로 무인 항공기(200)가 이동하도록 제어할 수 있다.
도 3은 본 개시의 일 실시 예에 따른 무선 통신 시스템에 있어서 무인 항공기의 배치를 위한 학습 과정을 설명하기 위한 도면이다.
일 실시 예에 따른 기지국(300)은, 무인 항공기(200)가 처음으로 배치되면, 무인 항공기(200)를 통해 현재 단말들의 상황을 반영하는 학습 데이터를 수신할 수 있다. 기지국(300)은, 사용자 특징, 사용자 요청, 또는 통신 환경 정보 등을 포함하는 학습 데이터를 무인 항공기(200)로부터 수신할 수 있다. 예를 들어, 학습 데이터는, 무인 항공기(200)의 위치 정보, 무인 항공기(200)의 위치에 따른 단말의 레퍼런스 신호 수신 세기(Reference Signal Strength, RSS), 채널 상태 정보(Channel State Information, CSI), QoS, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 또는 사용자 클래스 등을 포함할 수 있다.
기지국(300)이 현재 상황에서 최적화된 위치에 무인 항공기(200)를 이동시켜 배치할 수 있도록, 강화 학습 네트워크(301)는 무인 항공기(200)로부터 수신된 학습 데이터를 학습할 수 있다. 기지국(300)은, 학습 데이터를 강화 학습함으로써, 강화 학습 네트워크(301)의 가중치 및/또는 바이어스를 최적화할 수 있다.
강화 학습 네트워크(301)란, 어떠한 상태에 대해서 최적의 행동을 선택하도록 학습되는 인공 신경망을 의미한다. 일 실시 예에 따른 기지국(300)은, 무인 항공기(200)로부터 수신되는 학습 데이터를 강화 학습 네트워크(301)에 대한 상태(state)로서 입력하고, 무인 항공기(200)의 이동과 관련된 파라미터를 강화 학습 네트워크(301)의 출력으로서 획득할 수 있다.
일 실시 예에 따른 강화 학습 네트워크(301)는, 심층 신경망(Deep Neural Network, DNN), 컨볼루션 신경망(Convolution Neural Network, CNN), 및 순환 신경망(Recurrent Neural Network, RNN) 등 다양한 인공 신경망으로 구성될 수 있다.
예를 들어, 일 실시 예에 따른 강화 학습 네트워크(301)는, 심층 신경망 기반 DQN(Deep Q-Network)을 포함할 수 있다. DQN은, 현재 상태(state)와 현재 상태에서 수행 가능한 행동들(actions)을 입력으로 기대값을 출력해주는 함수인 Q함수를 심층 신경망 형태로 구성한 네트워크를 의미할 수 있다. DQN은, 특정 상태 'S'에서 특정 행동 'A'를 수행하였을 때의 보상(Reward)을 반복적으로 학습함으로써, 높은 정확도로 보상을 가장 많이 얻을 수 있는 행동을 취할 수 있도록 업데이트될 수 있다.
이하에서는, 도 4 내지 도 6을 참조하여, 일 실시 예에 따른 기지국(300)이 강화 학습 네트워크로서 DQN을 이용하고, 현재 단말들의 상황을 반영하는 학습 데이터로서 단말의 RSS 데이터를 수신하여 동작하는 경우를 예로 들어 설명한다.
도 4는 본 개시의 일 실시 예에 따라 기지국이 무인 항공기의 배치를 위한 DQN 학습을 수행하는 방법의 흐름도를 도시한다.
도 4를 참고하면, 단계 S410에서 일 실시 예에 따른 기지국(300)은, 무인 항공기를 추가 배치할 필요성이 있다고 판단할 수 있다. 기지국(300)은, 다수의 단말들의 요청이 수신되거나, QoS가 감소하는 경우, 무인 항공기를 추가 배치할 필요성이 있다고 판단할 수 있다.
단계 S420에서 일 실시 예에 따른 기지국(300)은, 무인 항공기(200)가 배치될 초기 위치를 설정하고, 무인 항공기(200)에게 초기 위치로 이동할 것을 명령하는 제어 신호를 전송할 수 있다. 예를 들어, 기지국(300)은, 무인 항공기(200)에 의해 서비스를 제공 받을 단말들의 위치들의 중심을 초기 위치로서 결정할 수 있다.
단계 S430에서 일 실시 예에 따른 기지국(300)은, 초기 위치에 배치된 무인 항공기(200)를 통해 단말들의 현재 상황을 반영하는 학습 데이터를 수신할 수 있다. 예를 들어, 기지국(300)은, 무인 항공기(200)로부터 단말로 수신되는 레퍼런스 신호의 세기를 나타내는 데이터를 무인 항공기(200)로부터 수신할 수 있다.
단계 S440에서 일 실시 예에 따른 기지국(300)은, 수신한 레퍼런스 신호 세기 데이터를 이용하여 RF 맵을 구성할 수 있다. 기지국(300)이 레퍼런스 신호 세기 데이터에 기초하여 RF 맵을 구성하는 구체적인 방법에 대해서는, 후에 도 5를 참조하여 설명한다. 따라서, 중복되는 설명은 생략한다.
단계 S450에서 일 실시 예에 따른 기지국(300)은, RF map을 이용하여 DQN에 대한 학습을 수행할 수 있다. 예를 들어, 기지국(300)은, 사전 설정된 여러 스텝 사이즈들에 대한 DQN들을 구성하고, 각각의 DQN에 대한 학습을 수행할 수 있다.
이하에서는, 도 5를 참조하여, RF map을 이용하여 학습 네트워크에 대한 학습을 수행하는 과정을 구체적으로 살펴본다.
도 5는 본 개시의 일 실시 예에 따라 RSS 데이터를 이용하여 DQN의 학습을 수행하는 과정을 설명하기 위한 도면이다.
기지국(300)은, 무인 항공기(200)를 통해 관심 영역(501) 내의 단말들이 수신하는 레퍼런스 신호의 세기 정보를 수집할 수 있다. 관심 영역(501) 내의 단말들이 무인 항공기(200)로부터 수신하는 레퍼런스 신호의 세기는, 무인 항공기(200)의 위치 및 단말들의 위치에 따라 달라질 수 있다. 따라서, 도 5에 도시된 바와 같이, 기지국(300)은, 수집된 정보에 대해 보간(interpolation)을 수행함으로써, 무인 항공기의 위치 및 단말의 위치에 따라 달라지는 레퍼런스 신호 세기를 나타내는 RF 맵(503)을 획득할 수 있다.
기지국(300)은, RF 맵(503)를 입력으로서 이용하여, DQN(505)의 학습을 수행할 수 있다. 기지국(300)은, DQN(505)을 학습시킴으로써, RF 맵(503)에 기초하여 DQN(505)의 가중치 및 바이어스를 최적화할 수 있다
도 6은 본 개시의 일 실시 예에 따라 무선 통신 시스템이 무인 항공기의 배치를 위한 학습을 수행하는 방법의 구체적인 흐름도를 도시한다.
도 4의 단계 S410은 도 6의 단계 S601에 대응되고, 도 4의 단계 S420은 도 6의 단계 S603 내지 S615에 대응되고, 도 4의 단계 S430은 도 6의 단계 S617 내지 S623에 대응되고, 도 4의 단계 S440은 도 6의 단계 S623 및 S625에 대응되고, 도 4의 단계 S450은 도 6의 단계 S627에 대응될 수 있다. 따라서, 도 4의 설명은 도 6에 적용될 수 있으며, 중복되는 설명은 생략한다.
단계 S601에서 일 실시 예에 따른 기지국(300)은, 무인 항공기를 추가 배치할 필요성이 있다고 판단할 수 있다. 일 실시 예에 따른 기지국(300)은, 셀 엣지 영역에 위치하거나 핫스팟 영역에 위치한 단말들에 대해서 무인 항공기를 배치할 필요가 있다고 판단할 수 있다. 예를 들어, 기지국(300)은, 다수의 단말들의 요청이 수신되거나, QoS가 감소하는 경우, 무인 항공기를 추가 배치할 필요성이 있다고 판단할 수 있다.
단계 S603에서 단말(100)이 기지국(300)에게 적어도 하나의 단말(100)의 위치 정보를 전송할 수 있다. 단계 S605에서 기지국(300)은 단말(100)들의 위치를 획득할 수 있다.
단계 S607에서 기지국(300)은 단말(100)들의 위치에 기초하여 무인 항공기(200)가 배치될 초기 위치를 결정할 수 있다. 예를 들어, 기지국(300)은, 단말(100)들의 위치들의 중심(centroid)에 대응하는 위치를 초기 위치로서 결정할 수 있다. 이 경우, 단말들이 이동하게 되면, 기지국(300)은, 단말들의 새로운 위치들의 중심으로 초기 위치를 변경할 수 있다. 그러나 본 개시는 단말들의 위치들의 중심을 초기 위치로서 결정하는 예에 제한되지 않으며, 단말들의 위치 정보에 기초하여 높은 데이터 레이트 성능을 기대할 수 있는 위치를 초기 위치로 결정할 수 있다.
단계 S609에서 기지국(300)은, 무인 항공기(200)가 서비스를 제공할 단말(100)들을 결정하는 연관(association)을 수행할 수 있다. 기지국(300)은, 관심 영역 내의 단말들을 그룹핑하고, 그룹핑된 단말들 중에서 무인 항공기(200)가 서비스를 제공할 단말들을 결정할 수 있다.
단계 S611에서 기지국(300)은, 단말(100) 및 무인 항공기(200)에게 연관 정보를 전송할 수 있다. 단계 S613에서 기지국(300)은 무인 항공기(200)가 배치될 초기 위치를 전송할 수 있다. 단계 S615에서 무인 항공기(200)는, 초기 위치로 이동하여 단말(100)을 지원할 수 있다. 무인 항공기(200)는, 초기 위치로 이동하여 단말(100)과 통신을 수행할 수 있다. 예를 들어, 무인 항공기(200)는, 단말(100)과 레퍼런스 신호를 주고받을 수 있다.
단계 S617에서 무인 항공기(200)는, 레퍼런스 신호를 전송하고, 단계 S619에서 단말(100)로부터 RSS 피드백을 수신할 수 있다. 단말(100)은, RSS를 측정하여, 무인 항공기(200)에게 RSS 데이터를 전달할 수 있다.
단계 S621에서 무인 항공기(200)는, 기지국(300)에게 RSS 데이터를 전달할 수 있다. S623에서 기지국(300)은, 복수의 단말들로부터 RSS 데이터를 수집할 수 있다. 단계 S625에서 기지국(300)은 수집된 RSS 데이터에 기초하여 RF 맵을 구성할 수 있다. 도 5를 참조하여 상술한 바와 같이, 기지국(300)은, 획득된 RSS 데이터에 보간을 적용하여 RF 맵을 획득할 수 있다.
단계 S627에서 기지국(300)은, RF 맵에 기초하여 DQN의 학습을 수행할 수 있다. 일 실시 예에 따른 기지국(300)은, 무인 항공기(200)가 이동하는 스텝 크기에 따라 복수의 DQN들을 구성하고, 별도의 학습을 수행할 수 있다. 무인 항공기(200)가 이동하는 스텝의 크기는, 무인 항공기(200)가 지원하는 단말들이 분포되어 있는 영역에 따라 상이하게 설정될 수 있다.
한편, 본 개시의 다양한 실시 예들에 따른 무선 통신 시스템은, 현재 상황 데이터에 기초하여 학습된 강화 학습 네트워크를 이용하여, 최적의 위치로 무인 항공기(200)가 이동하도록 제어할 수 있다. 이 때, 일 실시 예에 따르면, 신속한 단말 지원을 위하여, 스텝 크기를 적응적으로 조절하여 무인 항공기를 운용하는 방법이 이용될 수 있다.
도 7은 본 개시의 일 실시 예에 따라 무인 항공기가 적응적 스텝 크기에 기초하여 이동하는 과정을 설명하기 위한 도면이다.
도 7에 도시된 바와 같이, 일 실시 예에 따른 무인 항공기는 초기 위치(701)로부터 최적의 위치(702)로 이동함에 있어서, 고정된 스텝 크기로 이동하는 것이 아니라 적응적으로 조절된 스텝 크기로 이동할 수 있다. 일 실시 예에 따른 무인 항공기는, RSS 등의 시스템 파라미터 변화에 따라 조정된 스텝 크기로 이동함으로써, 유연하게 배치될 수 있고 따라서 신속하게 단말을 지원할 수 있다.
도 8은 본 개시의 일 실시 예에 따라 기지국이 학습된 DQN을 이용하여 무인 항공기를 운용하는 방법의 흐름도를 도시한다.
단계 S810에서 일 실시 예에 따른 기지국(300)은 RF 맵을 활용한 DQN 학습을 진행할 수 있다. RF 맵을 활용한 DQN 학습과 관련된 구체적인 설명은 도 4 내지 도 6을 참조하여 상술하였으므로 생략한다.
단계 S820에서 일 실시 예에 따른 기지국(300)은 학습된 DQN이 적합한 지 여부를 판단할 수 있다. 일 실시 예에 따른 기지국(300)은, DQN에 적용되는 리워드, 현재 단말들의 RSS 데이터, 또는 DQN의 학습에 이용된 RF 맵 중 적어도 하나에 기초하여 학습된 DQN이 적합한 지 여부를 판단할 수 있다.
일 예로서 기지국(300)은, DQN 리워드와 임계 값을 비교하여, 학습된 DQN이 적합한지 여부를 판단할 수 있다. 예를 들어, 기지국(300)은, DQN 리워드가 임계 값 이상일 경우 학습된 DQN이 적합하다고 판단할 수 있다. DQN 리워드는, 무인 항공기(200)의 이동 전 후의 다운 링크 데이터 레이트를 비교한 결과에 기초하여 결정될 수 있다.
예를 들어, 무인 항공기(200)의 이동 후의 다운 링크 데이터 레이트가 이동 전의 다운 링크 데이터 레이트보다 증가할 경우, 무인 항공기(200)가 적절하게 이동하고 있다고 판단되어 높은 리워드가 DQN에게 적용될 수 있다.
예를 들어, 이동 전의 무인 항공기(200)로부터 단말로의 다운 링크 데이터 레이트를 Rold라고 하고, 이동 후의 다운 링크 데이터 레이트를 Rnew라고 하는 경우, 다음과 같이 리워드가 결정될 수 있다. 만약, Rnew>Rold이면, 리워드가 1로 결정될 수 있다. Rnew=Rold이면, 리워드가 -0.1로 결정되고, Rnew<Rold이면, 리워드가 -1로 결정되고, 무인 항공기(200)가 관심 영역을 벗어나는 경우 리워드가 -10으로 결정될 수 있다.
다른 예로서 기지국(300)은, DQN의 학습에 이용된 RSS 데이터와 현재 수신되는 RSS 데이터를 비교하여, 학습된 DQN이 적합한 지 여부를 판단할 수 있다. 예를 들어, 기지국(300)은, DQN의 학습에 이용된 RSS 데이터와 현재 수신되는 RSS 데이터를 비교하여, 차이가 클 경우 학습된 DQN이 적합하지 않다고 판단하고, 현재 단말들의 상황을 반영하도록 다시 학습하여야 한다고 판단할 수 있다.
학습된 DQN이 적합하지 않다고 판단되는 경우, 단계 S830에서 일 실시 예에 따른 기지국(300)은, RSS 데이터를 다시 수집하고, RF 맵을 갱신할 수 있다.
반면에, 학습된 DQN이 적합하다고 판단되는 경우, 단계 S840에서 일 실시 예에 따른 기지국(300)은, 학습된 DQN을 활용하여 무인 항공기(200)의 다음 위치를 도출하고 무인 항공기(200)에게 이동을 명령할 수 있다.
이하에서는 도 9를 참조하여 단계 S840에서 기지국(300)이 학습된 DQN을 활용하여 무인 항공기(200)를 운영하는 동작을 보다 구체적으로 설명한다.
도 9는 본 개시의 일 실시 예에 따라 무선 통신 시스템이 학습된 DQN을 이용하여 무인 항공기를 운용하는 방법의 흐름도를 도시한다.
단계 S910에서 기지국(300)은, 학습된 DQN이 적합하다고 판단할 수 있다.
예를 들어, 기지국(300)은, DQN 리워드가 임계 값 이상일 경우 학습된 DQN이 적합하다고 판단할 수 있다. 또는, 기지국(300)은, DQN의 학습에 이용된 RSS 데이터와 현재 수신되는 RSS 데이터를 비교하여, 차이가 임계 값 이하일 경우 학습된 DQN이 적합하다고 판단할 수 있다.
단계 S920에서 기지국(300)은, DQN 활용을 시작한다는 플래그를 무인 항공기(200)에게 전송할 수 있다.
단계 S930에서 무인 항공기(200)는, 실시간 RSS 데이터를 획득하고 DQN에게 입력될 스테이트를 구성할 수 있다. 예를 들어, 스테이트는, 무인 항공기(200)의 3차원 좌표 값 및 RSS 데이터를 포함하는 행렬로 표현될 수 있다. 그러나 이에 제한되지 않으며, 스테이트는, 단말 별 요구 사항, CSI, QoS, User Class 등과 같이 단말의 현재 상태를 나타내는 파라미터를 포함할 수 있다.
단계 S940에서 무인 항공기(200)는, 구성된 스테이트를 기지국(300)에게 전송할 수 있다. 단계 S950에서 기지국(300)은, 무인 항공기(200)로부터 수신된 스테이트를 입력으로서 DQN에게 적용함으로써, DQN 출력을 획득할 수 있다. 기지국(300)은, DQN 출력으로서 무인 항공기(200)의 이동과 관련된 파라미터를 획득할 수 있다.
예를 들어, DQN 출력은, +x, -x, +y, -y, +h, -h의 6가지 좌표축 방향 중 하나를 포함하는 무인 항공기(200)의 이동 방향을 포함할 수 있다. 또는, DQN 출력은, 무인 항공기(200)의 다음 위치를 나태는 3차원 좌표 값을 포함할 수 있다.
단계 S960에서 기지국(300)은, DQN 출력을 무인 항공기(200)에게 전송할 수 있다. 단계 S970에서 무인 항공기(200)는, 기지국(300)로부터 수신된 DQN 출력에 기초하여 이동하고, 이동된 위치에서 단말의 통신을 지원할 수 있다.
한편, 일 실시 예에 따른 기지국(300)은, 현재 단말들의 상황을 학습한 DQN을 이용하여 무인 항공기(200)의 이동을 제어함에 있어서, 무인 항공기(200)를 고정된 스텝 크기로 이동시키는 것이 아니라 적응적으로 조절된 스텝 크기로 이동시킬 수 있다.
도 10은 본 개시의 일 실시 예에 따라 무선 통신 시스템이 학습된 DQN을 이용하여 적응적으로 무인 항공기를 운용하는 방법의 구체화된 흐름도를 도시한다.
단계 S1010에서 기지국(300)은, 여러 스텝 크기 별로 DQN들을 학습할 수 있다. 예를 들어, 기지국(300)은, 5m, 10m, 50m, 100m 등의 스텝 크기로 무인 항공기(200)가 이동한다고 가정하였을 때, 현재 단말들의 상황에 대한 무인 항공기(200)의 최적의 이동 파라미터를 출력할 수 있도록, 각각의 스텝 크기 별로 DQN을 학습할 수 있다.
단계 S1020에서 기지국(300)은, DQN 활용을 시작한다는 플래그를 전송할 수 있다.
단계 S1030에서 무인 항공기(200)는, 실시간 RSS 데이터를 획득하고 DQN에게 입력될 스테이트를 구성할 수 있다.
단계 S1040에서 무인 항공기(200)는, 구성된 스테이트를 기지국(300)에게 전송할 수 있다.
단계 S1050에서 기지국(300)은, RSS 데이터 기반의 최적의 스텝 크기를 결정할 수 있다. 기지국(300)은, 무인 항공기(200)로부터 단말로의 다운 링크 데이터 레이트의 최근 변화량 및 평균 변화량을 비교한 결과에 기초하여, 무인 항공기(200)가 이동하는 스텝의 크기를 결정할 수 있다. 예를 들어, 데이터 레이트의 증가 량이 점점 커지는 경우, 기지국(300)은, 무인 항공기(200)가 올바른 방향으로 이동하고 있다고 판단하고 가장 큰 스텝 크기를 결정할 수 있다. 반면에, 데이터 레이트의 증가 량이 점점 작아지는 경우, 기지국(300)은, 무인 항공기(200)가 잘못된 방향으로 이동하고 있다고 판단하고 상대적으로 작은 크기의 스텝 크기를 결정할 수 있다.
단계 S1060에서 기지국(300)은, 복수의 DQN들 중에서, 결정된 스텝 크기에 대응하는 DQN을 이용할 것을 결정할 수 있다.
단계 S1070에서 기지국(300)은, 무인 항공기(200)로부터 수신된 스테이트를 결정된 DQN에 입력으로서 적용함으로써, DQN 출력을 획득할 수 있다. 기지국(300)은, DQN 출력으로서 무인 항공기(200)의 이동 방향을 획득할 수 있다.
단계 S1080에서 기지국(300)은, 결정된 스텝 크기 및 DQN 출력을 무인 항공기(200)에게 전송할 수 있다.
단계 S1090에서 무인 항공기(200)는, 기지국(300)로부터 수신된 스텝 크기 및 이동 방향에 따라 이동하여, 단말을 지원할 수 있다.
도 4 내지 도 10을 참조하여 상술한 바와 같이, 본 개시의 일 실시 예에 따른 무선 통신 시스템은, 강화 학습 네트워크로서 DQN을 이용하고, 현재 단말들의 상황을 반영하는 학습 데이터로서 단말의 RSS 데이터를 이용할 수 있다. 그러나, 본 개시는 이에 제한되지 않는다. 본 개시의 일 실시 예에 따른 무선 통신 시스템은, 다양한 사용자 단말 특징을 이용하여 다양한 강화 학습 네트워크를 학습할 수 있고, 최적의 위치에 무인 항공기를 배치할 수 있다. 따라서, 이하에서는 도 11을 참조하여, 본 개시의 다양한 실시 예들에 따른 강화 학습 네트워크에 기반한 무인 항공기 운용 방법을 설명한다.
도 11은 본 개시의 일 실시 예에 따라 무선 통신 시스템이 강화 학습 네트워크를 이용하여 무인 항공기를 최적화된 위치로 이동시키는 과정을 설명하기 위한 도면이다.
무인 항공기(200)로부터 스테이트(1101)를 수신한 기지국(300)은, 강화 학습 네트워크(1102)에 스테이트(1101)를 입력함으로써 무인 항공기(200)의 이동 파라미터(1103)를 출력으로 획득할 수 있다.
이 때, 스테이트(1101)는 단말의 현재 상태를 나타내는 다양한 파라미터를 포함할 수 있다. 일 예로서, 스테이트(110)는, 무인 항공기(200)의 위치를 나타내는 3차원 좌표 값 및 해당 위치의 무인 항공기(200)로부터 단말로 수신되는 레퍼런스 신호의 세기를 포함하는 행렬로 표현될 수 있다. 다른 예로서, 스테이트(1101)는, 단말 별 요구 사항, CSI, QoS, 또는 User Class 중 적어도 하나를 포함할 수 있다.
강화 학습 네트워크(1102)는, 무인 항공기(200)로부터 수신되는 스테이트(110)에 대해, 무인 항공기(200)를 최적의 위치로 이동하도록 제어 하는 이동 파라미터(1103)를 선택하여 출력할 수 있다. 무인 항공기(200)는, 기지국(300)로부터 수신된 이동 파라미터(1103)에 기초하여 이동 하고, 이동된 위치에서 단말을 지원할 수 있다.
무인 항공기(200)의 이동 파라미터(1103)는 3차원 공간 내에서 무인 항공기(200)의 이동을 나타내는 파라미터를 포함할 수 있다. 예를 들어, 무인 항공기(200)의 이동 파라미터(1103)는, 무인 항공기(200)가 이동할 다음 위치를 나타내는 좌표 값, 이동 방향, 또는 이동 거리 중 적어도 하나를 포함할 수 있다.
기지국(300)은, 강화 학습 네트워크(1102)의 출력으로서 도출된 이동 파라미터(1103)가 단말 별 요구 사항을 만족하는 지, 또는 데이터 레이트 총합(sum data rate) 등을 고려하여 강화 학습 네트워크(1102)에 대한 리워드를 결정할 수 있다. 본 개시의 일 실시 예에 따른 기지국(300)은, 무인 항공기(200)가 이동한 후에 무인 항공기(200) 또는 단말로부터 수신되는 피드백에 기초하여, 이동 파라미터(1103)가 적합하였는지 또는 부적합하였는 지 여부를 리워드를 통해 강화 학습 네트워크(1102)에게 알려줄 수 있다.
도 12는 본 개시의 일 실시 예에 따라 기지국이 데이터 레이트에 기초하여 무인 항공기가 이동하는 스텝 크기를 조정하는 과정을 설명하기 위한 도면이다.
본 개시의 일 실시 예에 따른 기지국(300)은, RSS 등과 같이 시스템 파라미터의 변화에 따라 무인 항공기(200)가 이동하는 스텝 크기를 적응적으로 변경할 수 있다. 따라서, 단말의 상태에 따라 유연한 무인 항공기(200)의 배치를 통해 신속하게 단말을 지원할 수 있다.
예를 들어, 도 12에 도시된 바와 같이, 일 실시 예에 따른 기지국(300)은, 무인 항공기(200)로부터 단말로의 다운 링크 데이터 레이트의 평균 변화 량에 기초하여, 스텝 크기를 조정할 수 있다.
단계 S1201에서 기지국(300)은, 무인 항공기(200)의 이동 궤적에 대해 윈도우 함수를 적용하여, 시간 구간 별 데이터 레이트를 획득할 수 있다. 단계 S1203에서 기지국(300)은, 데이터 레이트의 평균 변화량 △R 및 최근 데이터 레이트 변화량 △Ri (△Ri = Ri+1-Ri, i는 0보다 크거나 같은 정수)을 비교한 결과에 기초하여, 스텝 크기를 결정할 수 있다.
예를 들어, 기지국(300)은, 데이터 레이트가 감소한 경우, 무인 항공기(200)의 이동 방향이 잘못되었다고 판단하고, 가장 작은 스텝 크기를 결정할 수 있다. 또는 기지국(300)은, 최근 데이터 레이트 변화 량이 데이터 레이트의 평균 변화 량보다 임계 차이 값(α) 이상으로 큰 경우, 무인 항공기(200)의 이동 방향이 적합하다고 판단하고, 가장 큰 스텝 크기를 결정할 수 있다.
단계 S1205에서 기지국(300)은, 단계 S1203에서 결정된 스텝 크기에 기초하여 무인 항공기(200)가 이동하도록 제어할 수 있다.
이하에서는, 본 개시의 일 실시 예에 따라 강화 학습 기반 무인 항공기(200)를 배치하고 운용하는 전반적인 절차를 도 13 및 도 14를 참조하여 설명한다.
도 13은 본 개시의 일 실시 예에 따라 무선 통신 시스템에서 기지국(300)의 동작 방법의 흐름도를 도시한다.
일 실시 예에 따른 기지국(300)은 무인 항공기를 추가적으로 배치할 필요가 있다고 판단되면, 도 13에 도시된 단계들을 수행할 수 있다. 예를 들어, 기지국(300)은, 단말의 요청, 또는 QoS의 감소 중 적어도 하나에 기초하여, 무인 항공기를 단말의 통신을 위한 릴레이 노드로서 배치할 필요가 있다고 판단할 수 있다.
단계 S1310에서 일 실시 예에 따른 기지국(300)은, 적어도 하나의 단말의 위치 정보를 수신하고, 위치 정보에 기초하여 무인 항공기의 초기 위치를 결정할 수 있다.
일 실시 예에 따른 기지국(300)은, 적어도 하나의 단말의 위치 정보를 수신하고, 적어도 하나의 단말의 위치의 중심을 초기 위치로서 결정할 수 있다. 기지국(300)은, 무인 항공기가 적어도 하나의 단말의 무선 통신을 지원하도록 적어도 하나의 단말과 무인 항공기 간의 연관(association)을 수행할 수 있다.
단계 S1320에서 일 실시 예에 따른 기지국(300)은, 초기 위치와 관련된 제어 정보 및 적어도 하나의 단말과 무인 항공기 간의 연관 정보를 무인 항공기에게 전송할 수 있다. 예를 들어, 초기 위치와 관련된 제어 정보는, 무인 항공기가 배치될 위치의 3차원 좌표 값을 포함할 수 있다.
단계 S1330에서 일 실시 예에 따른 기지국(300)은, 적어도 하나의 단말과 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 무인 항공기로부터 수신할 수 있다.
일 실시 예에 따른 제1 특징 정보는, 현재 적어도 하나의 단말의 상태를 나타내는 파라미터를 포함할 수 있다. 예를 들어, 제1 특징 정보는, 무인 항공기의 위치 정보, 무인 항공기로부터 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함할 수 있다.
단계 S1340에서 일 실시 예에 따른 기지국(300)은, 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 무인 항공기의 이동 위치와 관련된 제어 정보를 전송할 수 있다. 예를 들어, 무인 항공기의 이동 위치와 관련된 제어 정보는, 무인 항공기(200)가 이동할 다음 위치를 나타내는 좌표 값, 이동 스텝 크기, 이동 방향, 또는 이동 거리 중 적어도 하나를 포함할 수 있다.
무인 항공기로부터 수신되는 제1 특징 정보는 강화 학습 네트워크의 스테이트로서 입력될 수 있다. 강화 학습 네트워크의 동작(action)으로서 무인 항공기의 이동과 관련된 파라미터가 출력될 수 있다.
일 실시 예에 따른 강화 학습 네트워크는, 단말의 특징에 기초하여 미리 학습되어 있을 수 있다. 일 실시 예에 따른 기지국(300)은, 단계 S1330을 수행하기 전에, 무인 항공기로부터 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 RSS 데이터를 포함하는 제2 특징 정보를 무인 항공기로부터 수신할 수 있다. 기지국(300)은, 제2 특징 정보에 포함되는 RSS 데이터에 대한 보간을 통해 RF 맵을 획득할 수 있다. 기지국(300)은, RF 맵에 기초하여 강화 학습 네트워크를 학습시킬 수 있다. 이 때, 기지국(300)은, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 더 고려하여, 강화 학습 네트워크를 학습시킬 수 있다.
일 실시 예에 따른 기지국(300)은, 학습된 강화 학습 네트워크의 적합성 여부를 판단하고, 학습된 강화 학습 네트워크가 적합하지 않다고 판단되는 경우, RF 맵을 갱신하고, 갱신된 RF 맵에 기초하여 강화 학습 네트워크를 추가 학습시킬 수 있다. 반면에, 기지국(300)은, 학습된 강화 학습 네트워크가 적합하다고 판단되는 경우, 강화 학습 네트워크 이용의 시작을 알리는 플래그를 무인 항공기에게 전송하고, 강화 학습 네트워크에 기초한 무인 항공기의 운용을 시작할 수 있다.
한편, 일 실시 예에 따른 기지국(300)은, 무인 항공기의 이동 위치와 관련된 제어 정보를 전송함에 있어서, 제1 특징 정보에 기초하여 무인 항공기가 이동하는 스텝의 크기를 결정할 수 있다.
예를 들어, 기지국(300)은, 무인 항공기로부터 단말로의 다운 링크 데이터 레이트의 최근 변화량 및 평균 변화량을 제1 특징 정보로부터 획득할 수 있다. 기지국(300)은, 최근 변화량 및 평균 변화량을 비교한 결과에 기초하여, 무인 항공기가 이동하는 스텝의 크기를 결정할 수 있다.
기지국(300)은, 복수의 강화 학습 네트워크들 중에서 결정된 스텝의 크기에 대응하는 강화 학습 네트워크를 결정할 수 있다. 기지국(300)은, 결정된 스텝의 크기에 대응하는 강화 학습 네트워크에 제1 특징 정보를 적용함으로써 무인 항공기의 이동 방향 정보를 획득할 수 있다. 기지국(300)은, 이동 방향 정보 및 결정된 스텝의 크기를 무인 항공기에게 전송할 수 있다.
도 14는 본 개시의 일 실시 예에 따라 무선 통신 시스템에서 무인 항공기의 동작 방법의 흐름도를 도시한다.
단계 S1410에서 일 실시 예에 따른 무인 항공기(200)는, 초기 위치와 관련된 제어 정보 및 적어도 하나의 단말과 무인 항공기(200) 간의 연관(association) 정보를 기지국으로부터 수신할 수 있다.
단계 S1420에서 일 실시 예에 따른 무인 항공기(200)는, 초기 위치와 관련된 제어 정보에 기초하여 이동하여 적어도 하나의 단말의 통신을 지원할 수 있다.
예를 들어, 초기 위치와 관련된 제어 정보는, 무인 항공기(200)가 배치될 위치의 3차원 좌표 값을 포함할 수 있다.
일 실시 예에 따른 무인 항공기(200)는, 무인 항공기(200)로부터 적어도 하나의 단말로 레퍼런스 신호를 전송할 수 있다. 무인 항공기(200)는, 전송된 레퍼런스 신호에 응답하여, 단말이 수신한 레퍼런스 신호의 세기에 대한 피드백을 단말로부터 수신할 수 있다.
단계 S1430에서 일 실시 예에 따른 무인 항공기(200)는, 적어도 하나의 단말과 무인 항공기(200) 간의 통신 상태와 관련된 제1 특징 정보를 기지국에게 전송할 수 있다.
일 예로서, 제1 특징 정보는, 무인 항공기(200)의 위치 정보, 무인 항공기(200)로부터 단말로 전송되는 레퍼런스 신호의 세기에 대한 정보를 포함할 수 있다. 또는, 다른 예로서, 제1 특징 정보는, 무인 항공기(200)로부터 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함할 수 있다.
단계 S1440에서 일 실시 예에 따른 무인 항공기(200)는, 제1 특징 정보에 응답하여, 무인 항공기(200)의 이동 위치와 관련된 제어 정보를 기지국으로부터 수신할 수 있다.
일 실시 예에 따르면, 무인 항공기(200)의 이동 위치와 관련된 제어 정보는, 무인 항공기(200)의 이동 방향 정보 및 무인 항공기(200)가 이동하는 스텝의 크기를 포함할 수 있다.
상술한 바와 같이 본 개시의 다양한 실시 예들에 따르면, 강화 학습에 기초하여 현재 단말들의 상태를 학습하고, 무인 항공기의 배치에 이용함으로써, 단말의 상황에 따라 신속하게 적응적으로 단말의 통신을 지원할 수 있다. 이하에서는, 무인 항공기(200) 및 기지국(300)의 구체적인 구성을 설명한다.
도 15는 본 개시의 일 실시 예에 따른 무인 항공기의 블록도를 도시한다.
도 15에 도시된 구성은 무인 항공기(200)의 구성으로서 이해될 수 있다. 본 개시에서 무인 항공기(200)는, 전자 제어 장치를 포함하는 무인 항공기(200)를 의미할 수 있으나 이에 제한되지 않는다. 본 개시에서 무인 항공기(200)는, 비행을 위한 프로펠러, 자세 또는 상태를 센싱하는 센서 모듈, 및 전력을 공급하는 배터리를 포함하는 비행 구동부 본체와 구별되는 별도의 전자 디바이스를 의미할 수 있다. 무인 항공기(200)는, 무인 항공기 상에 탑재되거나, 무인 항공기에 연결되거나, 무인 항공기에 포함되거나, 무인 항공기를 제어하는 전자 디바이스를 의미할 수 있다. 예를 들어, 무인 항공기(200)는, 무인 항공기 제어 시스템, 무인 항공기에 탑재된 통신 단말, 또는 무인 항공기 통신 시스템을 의미할 수 있다.
도 15에 도시된 무인 항공기(200)는, 본 개시의 다양한 실시 예들에 따른 무인 항공기(200)의 동작 방법을 수행할 수 있으며, 도 1 내지 도 14에 대한 설명들이 적용될 수 있다. 따라서, 상술한 바와 중복되는 내용은 생략한다.
도 15를 참고하면, 무인 항공기(200)는, 통신부(210), 메모리(220), 및 프로세서(230)를 포함한다.
통신부(210)는 무선 채널을 통해 신호를 송수신하기 위한 기능들을 수행한다. 예를 들어, 통신부(210)는 시스템의 물리 계층 규격에 따라 기저대역 신호 및 비트열 간 변환 기능을 수행한다. 예를 들어, 데이터 송신 시, 통신부(210)는 송신 비트열을 부호화 및 변조함으로써 복소 심볼들을 생성한다. 또한, 데이터 수신 시, 통신부(210)는 기저대역 신호를 복조 및 복호화를 통해 수신 비트열을 복원한다.
또한, 통신부(210)는 기저대역 신호를 RF 대역 신호로 상향 변환한 후 안테나를 통해 송신하고, 안테나를 통해 수신되는 RF 대역 신호를 기저대역 신호로 하향 변환한다. 예를 들어, 통신부(210)는 송신 필터, 수신 필터, 증폭기, 믹서(mixer), 오실레이터(oscillator), DAC(digital to analog convertor), ADC(analog to digital convertor) 등을 포함할 수 있다.
또한, 통신부(210)는 다수의 송수신 경로(path)들을 포함할 수 있다. 나아가, 통신부(210)는 다수의 안테나 요소들(antenna elements)로 구성된 적어도 하나의 안테나 어레이(antenna array)를 포함할 수 있다.
하드웨어의 측면에서, 통신부(210)는 디지털 유닛(digital unit) 및 아날로그 유닛(analog unit)(예를 들어, RFIC(radio frequency integrated circuit))으로 구성될 수 있다. 여기서, 디지털 회로 및 아날로그 회로는 하나의 패키지로 구현될 수 있다. 또한, 통신부(210)는 다수의 RF 체인들을 포함할 수 있다. 나아가, 통신부(210)는 빔포밍을 수행할 수 있다.
통신부(210)는 상술한 바와 같이 신호를 송신 및 수신한다. 이에 따라, 통신부(210)의 전부 또는 일부는 '송신부(transmitter)', '수신부(receiver)' 또는 '송수신부(transceiver)'로 지칭될 수 있다. 또한, 이하 설명에서 무선 채널을 통해 수행되는 송신 및 수신은 통신부(210)에 의해 상술한 바와 같은 처리가 수행되는 것을 포함하는 의미로 사용된다.
메모리(220)는 무인 항공기(200)의 동작을 위한 기본 프로그램, 응용 프로그램, 설정 정보 등의 데이터를 저장한다. 메모리(220)는 휘발성 메모리, 비휘발성 메모리 또는 휘발성 메모리와 비휘발성 메모리의 조합으로 구성될 수 있다. 그리고, 메모리(220)는 프로세서(230)의 요청에 따라 저장된 데이터를 제공한다.
프로세서(230)는 무인 항공기(200)의 전반적인 동작들을 제어한다. 예를 들어, 프로세서(230)는 통신부(210)를 통해 신호를 송신 및 수신한다. 또한, 프로세서(230)는 메모리(220)에 데이터를 기록하고, 읽는다. 그리고, 프로세서(230)는 통신 규격에서 요구하는 프로토콜 스택의 기능들을 수행할 수 있다. 이를 위해, 프로세서(230)는 적어도 하나의 프로세서 또는 마이크로(micro) 프로세서를 포함하거나, 또는, 마이크로 프로세서의 일부일 수 있다. 또한, 통신부(210)의 일부 및 프로세서(230)는 CP(communication processor)라 지칭될 수 있다. 일 실시 예들에 따라, 프로세서(230)는 무인 항공기(200)가 후술하는 일 실시 예들에 따른 동작들을 수행하도록 제어할 수 있다.
도 15에서는 무인 항공기(200)가 하나의 프로세서를 포함하는 것으로 도시되었으나, 실시 예는 이에 제한되지 않으며, 무인 항공기(200)는 복수의 프로세서들을 포함할 수 있다. 이하, 서술되는 프로세서(230)의 동작 및 기능들의 적어도 일부는 복수의 프로세서들에 의해 수행될 수 있다.
일 실시 예에 따른 프로세서(230)는, 무인 항공기(200)의 초기 위치와 관련된 제어 정보 및 적어도 하나의 단말과 무인 항공기 간의 연관 정보를 기지국(300)으로부터 수신할 수 있다.
일 실시 예에 따른 프로세서(230)는, 초기 위치와 관련된 제어 정보에 기초하여 이동하여 적어도 하나의 단말의 통신을 지원할 수 있다. 예를 들어, 초기 위치와 관련된 제어 정보는, 무인 항공기(200)가 배치될 위치의 3차원 좌표 값을 포함할 수 있다. 일 실시 예에 따른 프로세서(230)는, 적어도 하나의 단말로 레퍼런스 신호를 전송할 수 있다. 프로세서(230)는, 전송된 레퍼런스 신호에 응답하여, 단말이 수신한 레퍼런스 신호의 세기에 대한 피드백을 단말로부터 수신할 수 있다.
일 실시 예에 따른 프로세서(230)는, 적어도 하나의 단말과 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 기지국에게 전송할 수 있다.
일 예로서, 제1 특징 정보는, 무인 항공기(200)로부터 단말로 전송되는 레퍼런스 신호의 세기에 대한 정보를 포함할 수 있다. 또는, 다른 예로서, 제1 특징 정보는, 무인 항공기(200)로부터 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따른 프로세서(230)는, 제1 특징 정보에 응답하여, 무인 항공기의 이동 위치와 관련된 제어 정보를 수신할 수 있다. 일 실시 예에 따르면, 무인 항공기(200)의 이동 위치와 관련된 제어 정보는, 무인 항공기(200)의 이동 방향 정보 및 무인 항공기(200)가 이동하는 스텝의 크기를 포함할 수 있다.
도 16은 본 개시의 일 실시 예에 따른 기지국의 블록도를 도시한다.
도 16은 본 개시의 일 실시 예에 따른 무선 통신 시스템에서 기지국의 구성을 도시한다. 도 16을 참고하면, 기지국(300)은 통신부(310), 백홀통신부(320), 메모리(330), 프로세서(340)를 포함한다.
도 16에 도시된 기지국(300)은, 본 개시의 다양한 실시 예들에 따른 기지국(300)의 동작 방법을 수행할 수 있으며, 도 1 내지 도 14에 대한 설명들이 적용될 수 있다. 따라서, 상술한 바와 중복되는 내용은 생략한다.
통신부(310)는 무선 채널을 통해 신호를 송수신하기 위한 기능들을 수행한다. 예를 들어, 통신부(310)는 시스템의 물리 계층 규격에 따라 기저대역 신호 및 비트열 간 변환 기능을 수행한다. 예를 들어, 데이터 송신 시, 통신부(310)는 송신 비트열을 부호화 및 변조함으로써 복소 심볼들을 생성한다. 또한, 데이터 수신 시, 통신부(310)는 기저대역 신호를 복조 및 복호화를 통해 수신 비트열을 복원한다.
또한, 통신부(310)는 기저대역 신호를 RF 대역 신호로 상향 변환한 후 안테나를 통해 송신하고, 안테나를 통해 수신되는 RF 대역 신호를 기저대역 신호로 하향 변환 한다. 이를 위해, 통신부(310)는 송신 필터, 수신 필터, 증폭기, 믹서, 오실레이터, DAC, ADC 등을 포함할 수 있다. 또한, 통신부(310)는 다수의 송수신 경로들을 포함할 수 있다. 나아가, 통신부(310)는 다수의 안테나 요소들로 구성된 적어도 하나의 안테나 어레이를 포함할 수 있다.
하드웨어의 측면에서, 통신부(310)는 디지털 유닛 및 아날로그 유닛으로 구성될 수 있다. 아날로그 유닛은 동작 전력, 동작 주파수 등에 따라 다수의 서브 유닛(sub-unit)들로 구성될 수 있다. 디지털 유닛은 적어도 하나의 프로세서(예: DSP(digital signal processor))로 구현될 수 있다.
통신부(310)는 상술한 바와 같이 신호를 송신 및 수신한다. 이에 따라, 통신부(310)의 전부 또는 일부는 '송신부', '수신부' 또는 '송수신부'로 지칭될 수 있다. 또한, 이하 설명에서, 무선 채널을 통해 수행되는 송신 및 수신은 통신부(310)에 의해 상술한 바와 같은 처리가 수행되는 것을 포함하는 의미로 사용된다.
백홀통신부(320)는 네트워크 내 다른 노드들과 통신을 수행하기 위한 인터페이스를 제공한다. 즉, 백홀통신부(320)는 기지국(300)에서 다른 노드, 예를 들어, 다른 접속 노드, 다른 기지국, 상위 노드, 코어망 등으로 송신되는 비트열을 물리적 신호로 변환하고, 다른 노드로부터 수신되는 물리적 신호를 비트열로 변환한다.
메모리(330)는 기지국(300)의 동작을 위한 기본 프로그램, 응용 프로그램, 설정 정보 등의 데이터를 저장한다. 메모리(330)는 휘발성 메모리, 비휘발성 메모리 또는 휘발성 메모리와 비휘발성 메모리의 조합으로 구성될 수 있다. 그리고, 메모리(330)는 프로세서(340)의 요청에 따라 저장된 데이터를 제공한다.
프로세서(340)는 기지국(300)의 전반적인 동작들을 제어한다. 예를 들어, 프로세서(340)는 통신부(310)를 통해 또는 백홀통신부(320)를 통해 신호를 송신 및 수신한다. 또한, 프로세서(340)는 메모리(330)에 데이터를 기록하고, 읽는다. 그리고, 프로세서(340)는 통신 규격에서 요구하는 프로토콜 스택(protocol stack)의 기능들을 수행할 수 있다. 다른 구현 예에 따라, 프로토콜 스택은 통신부(310)에 포함될 수 있다. 이를 위해, 프로세서(340)는 적어도 하나의 프로세서(processor)를 포함할 수 있다.
이하, 서술되는 프로세서(340)의 동작 및 기능들의 적어도 일부는 복수의 프로세서들에 의해 수행될 수 있다. 일 실시 예들에 따라, 프로세서(340)는 기지국(300)이 후술하는 일 실시 예들에 따른 동작들을 수행하도록 제어할 수 있다.
일 실시 예에 따른 프로세서(340)는 무인 항공기(200)를 추가적으로 배치할 필요가 있다고 판단할 수 있다. 예를 들어, 프로세서(340)는, 단말의 요청, 또는 QoS의 감소 중 적어도 하나에 기초하여, 무인 항공기(200)를 단말의 통신을 위한 릴레이 노드로서 배치할 필요가 있다고 판단할 수 있다.
일 실시 예에 따른 프로세서(340)는, 적어도 하나의 단말의 위치 정보에 기초하여 무인 항공기(200)의 초기 위치를 결정할 수 있다.
프로세서(340)는, 적어도 하나의 단말의 위치 정보를 수신하고, 적어도 하나의 단말의 위치의 중심(centroid)을 초기 위치로서 결정할 수 있다. 프로세서(340)는, 무인 항공기가 적어도 하나의 단말의 무선 통신을 지원하도록 적어도 하나의 단말과 무인 항공기 간의 어소시에이션(association)을 수행할 수 있다.
일 실시 예에 따른 프로세서(340)는, 초기 위치와 관련된 제어 정보 및 적어도 하나의 단말과 무인 항공기(200) 간의 연관 정보를 무인 항공기(200)에게 전송할 수 있다. 예를 들어, 초기 위치와 관련된 제어 정보는, 무인 항공기(200)가 배치될 위치의 3차원 좌표 값을 포함할 수 있다.
일 실시 예에 따른 프로세서(340)는, 단말의 특징에 기초하여 강화 학습 네트워크를 학습 시킬 수 있다. 프로세서(340)는, 무인 항공기로부터 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 RSS 데이터를 무인 항공기로부터 수신할 수 있다. 프로세서(340)는, RSS 데이터에 대한 보간을 통해 RF 맵을 획득할 수 있다. 프로세서(340)는, RF 맵에 기초하여 강화 학습 네트워크를 학습시킬 수 있다. 이 때, 프로세서(340)는, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 더 고려하여, 강화 학습 네트워크를 학습시킬 수 있다.
일 실시 예에 따른 프로세서(340)는, 학습된 강화 학습 네트워크의 적합성 여부를 판단하고, 학습된 강화 학습 네트워크가 적합하지 않다고 판단되는 경우, RF 맵을 갱신하고, 갱신된 RF 맵에 기초하여 강화 학습 네트워크를 추가 학습시킬 수 있다. 프로세서(340)는, 학습된 강화 학습 네트워크가 적합하다고 판단되는 경우, 강화 학습 네트워크 이용의 시작을 알리는 플래그를 무인 항공기에게 전송할 수 있다.
일 실시 예에 따른 프로세서(340)는, 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 무인 항공기(200)의 이동 위치와 관련된 제어 정보를 전송할 수 있다.
일 실시 예에 따른 프로세서(340)는, 적어도 하나의 단말과 무인 항공기(200) 간의 통신 상태와 관련된 제1 특징 정보를 무인 항공기(200)로부터 수신할 수 있다. 일 실시 예에 따른 제1 특징 정보는, 현재 단말 상태를 나타내는 파라미터를 포함할 수 있다. 예를 들어, 제1 특징 정보는, 무인 항공기(200)로부터 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함할 수 있다.
무인 항공기로부터 수신되는 제1 특징 정보는 강화 학습 네트워크의 스테이트로서 입력될 수 있다. 강화 학습 네트워크의 동작(action)으로서 무인 항공기의 이동과 관련된 파라미터가 출력될 수 있다.
일 실시 예에 따른 프로세서(340)는, 무인 항공기의 이동 위치와 관련된 제어 정보를 전송함에 있어서, 제1 특징 정보에 기초하여 무인 항공기가 이동하는 스텝의 크기를 결정할 수 있다.
예를 들어, 프로세서(340)는, 무인 항공기로부터 단말로의 다운 링크 데이터 레이트의 최근 변화량 및 평균 변화량을 제1 특징 정보로부터 획득할 수 있다. 프로세서(340)는, 최근 변화량 및 평균 변화량을 비교한 결과에 기초하여, 무인 항공기가 이동하는 스텝의 크기를 결정할 수 있다.
프로세서(340)는, 복수의 강화 학습 네트워크들 중에서 결정된 스텝의 크기에 대응하는 강화 학습 네트워크를 결정할 수 있다. 프로세서(340)는, 결정된 스텝의 크기에 대응하는 강화 학습 네트워크에 제1 특징 정보를 적용함으로써 무인 항공기의 이동 방향 정보를 획득할 수 있다. 프로세서(340)는, 이동 방향 정보 및 결정된 스텝의 크기를 무인 항공기에게 전송할 수 있다.
본 개시의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들은 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합의 형태로 구현될(implemented) 수 있다.
소프트웨어로 구현하는 경우, 하나 이상의 프로그램(소프트웨어 모듈)을 저장하는 컴퓨터 판독 가능 저장 매체가 제공될 수 있다. 컴퓨터 판독 가능 저장 매체에 저장되는 하나 이상의 프로그램은, 전자 장치(device) 내의 하나 이상의 프로세서에 의해 실행 가능하도록 구성된다(configured for execution). 하나 이상의 프로그램은, 전자 장치로 하여금 본 개시의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들을 실행하게 하는 명령어(instructions)를 포함한다.
이러한 프로그램(소프트웨어 모듈, 소프트웨어)은 랜덤 액세스 메모리 (random access memory), 플래시(flash) 메모리를 포함하는 불휘발성(non-volatile) 메모리, 롬(ROM: Read Only Memory), 전기적 삭제가능 프로그램가능 롬(EEPROM: Electrically Erasable Programmable Read Only Memory), 자기 디스크 저장 장치(magnetic disc storage device), 컴팩트 디스크 롬(CD-ROM: Compact Disc-ROM), 디지털 다목적 디스크(DVDs: Digital Versatile Discs) 또는 다른 형태의 광학 저장 장치, 마그네틱 카세트(magnetic cassette)에 저장될 수 있다. 또는, 이들의 일부 또는 전부의 조합으로 구성된 메모리에 저장될 수 있다. 또한, 각각의 구성 메모리는 다수 개 포함될 수도 있다.
또한, 프로그램은 인터넷(Internet), 인트라넷(Intranet), LAN(Local Area Network), WLAN(Wide LAN), 또는 SAN(Storage Area Network)과 같은 통신 네트워크, 또는 이들의 조합으로 구성된 통신 네트워크를 통하여 접근(access)할 수 있는 부착 가능한(attachable) 저장 장치(storage device)에 저장될 수 있다. 이러한 저장 장치는 외부 포트를 통하여 본 개시의 실시 예를 수행하는 장치에 접속할 수 있다. 또한, 통신 네트워크상의 별도의 저장장치가 본 개시의 실시 예를 수행하는 장치에 접속할 수도 있다.
상술한 본 개시의 구체적인 실시 예들에서, 개시에 포함되는 구성 요소는 제시된 구체적인 실시 예에 따라 단수 또는 복수로 표현되었다. 그러나, 단수 또는 복수의 표현은 설명의 편의를 위해 제시한 상황에 적합하게 선택된 것으로서, 본 개시가 단수 또는 복수의 구성 요소에 제한되는 것은 아니며, 복수로 표현된 구성 요소라 하더라도 단수로 구성되거나, 단수로 표현된 구성 요소라 하더라도 복수로 구성될 수 있다.
한편, 본 명세서와 도면에 개시된 실시 예들은 본 개시의 기술 내용을 쉽게 설명하고 본 개시의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 개시의 범위를 한정하고자 하는 것은 아니다. 즉, 본 개시의 기술적 사상에 바탕을 둔 다른 변형예들이 실시 가능하다는 것은 본 개시의 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다. 또한, 각각의 실시 예는 필요에 따라 서로 조합되어 운용할 수 있다. 예를 들어, 본 개시의 일 실시 예와 다른 일 실시 예의 일부분들이 서로 조합될 수 있다. 또한, 실시 예들은 다른 시스템, 예를 들어, LTE 시스템, 5G 또는 NR 시스템 등에도 상술한 실시 예의 기술적 사상에 바탕을 둔 다른 변형예들이 실시 가능할 것이다.

Claims (17)

  1. 무선 통신 시스템에서 기지국의 동작 방법에 있어서,
    적어도 하나의 단말의 위치 정보를 수신하고, 상기 위치 정보에 기초하여 무인 항공기의 초기 위치를 결정하는 단계;
    상기 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관(association) 정보를 상기 무인 항공기에게 전송하는 단계;
    상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 무인 항공기로부터 수신하는 단계; 및
    상기 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 단계를 포함하는, 기지국의 동작 방법.
  2. 제1 항에 있어서,
    상기 적어도 하나의 단말의 요청, 또는 QoS의 감소 중 적어도 하나에 기초하여, 상기 무인 항공기를 상기 적어도 하나의 단말의 통신을 위한 릴레이 노드로서 배치할 필요가 있음을 판단하는 단계를 더 포함하는, 기지국의 동작 방법.
  3. 제1 항에 있어서,
    상기 무인 항공기의 초기 위치를 결정하는 단계는,
    상기 적어도 하나의 단말의 위치 정보를 수신하고, 상기 적어도 하나의 단말의 위치의 중심(centroid)을 상기 초기 위치로서 결정하는 단계; 및
    상기 무인 항공기가 상기 적어도 하나의 단말의 무선 통신을 지원하도록 상기 적어도 하나의 단말을 상기 무인 항공기와 연관시키는 단계를 포함하는, 기지국의 동작 방법.
  4. 제1 항에 있어서,
    상기 초기 위치와 관련된 제어 정보는, 상기 무인 항공기가 배치될 위치의 3차원 좌표 값을 포함하는, 기지국의 동작 방법.
  5. 제1 항에 있어서,
    상기 제1 특징 정보는, 상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함하는, 기지국의 동작 방법.
  6. 제1 항에 있어서,
    상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 RSS 데이터를 포함하는 제2 특징 정보를 상기 무인 항공기로부터 수신하는 단계;
    상기 제2 특징 정보에 포함되는 RSS 데이터에 대한 보간을 통해 RF 맵을 획득하는 단계; 및
    상기 RF 맵에 기초하여 상기 강화 학습 네트워크를 학습시키는 단계를 더 포함하는, 기지국의 동작 방법.
  7. 제1 항에 있어서,
    상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 RSS 데이터를 포함하는 제2 특징 정보를 수신하는 단계;
    지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나 및 상기 제2 특징 정보를 고려하여 상기 강화 학습 네트워크를 학습시키는 단계를 더 포함하는, 기지국의 동작 방법.
  8. 제6 항에 있어서,
    상기 강화 학습 네트워크의 적합성 여부를 판단하는 단계;
    상기 강화 학습 네트워크가 적합하지 않다고 판단되는 경우, 상기 RF 맵을 갱신하고, 상기 갱신된 RF 맵에 기초하여 상기 강화 학습 네트워크를 추가 학습시키는 단계; 및
    상기 강화 학습 네트워크가 적합하다고 판단되는 경우, 상기 강화 학습 네트워크 이용의 시작을 알리는 플래그를 상기 무인 항공기에게 전송하는 단계를 더 포함하는, 기지국의 동작 방법.
  9. 제1 항에 있어서,
    상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 단계는,
    상기 제1 특징 정보에 기초하여 상기 무인 항공기가 이동하는 스텝의 크기를 결정하는 단계;
    복수의 강화 학습 네트워크들 중에서 상기 결정된 스텝의 크기에 대응하는 상기 강화 학습 네트워크를 결정하는 단계;
    상기 결정된 스텝의 크기에 대응하는 상기 강화 학습 네트워크에 상기 제1 특징 정보를 적용함으로써 상기 무인 항공기의 이동 방향 정보를 획득하는 단계; 및
    상기 이동 방향 정보 및 상기 결정된 스텝의 크기를 전송하는 단계를 포함하는, 기지국의 동작 방법.
  10. 제9 항에 있어서,
    상기 무인 항공기가 이동하는 스텝의 크기를 결정하는 단계는,
    상기 무인 항공기로부터 상기 단말로의 다운 링크 데이터 레이트의 최근 변화량 및 평균 변화량을 상기 제1 특징 정보로부터 획득하는 단계; 및
    상기 최근 변화량 및 상기 평균 변화량을 비교한 결과에 기초하여, 상기 무인 항공기가 이동하는 스텝의 크기를 결정하는 단계를 포함하는, 기지국의 동작 방법.
  11. 무선 통신 시스템에서 무인 항공기의 동작 방법에 있어서,
    초기 위치와 관련된 제어 정보 및 적어도 하나의 단말과 상기 무인 항공기 간의 연관(association) 정보를 기지국으로부터 수신하는 단계;
    상기 초기 위치와 관련된 제어 정보에 기초하여 이동하여 상기 적어도 하나의 단말의 통신을 지원하는 단계;
    상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 기지국에게 전송하는 단계; 및
    상기 제1 특징 정보에 응답하여, 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 수신하는 단계를 포함하는, 무인 항공기의 동작 방법.
  12. 제11 항에 있어서,
    상기 초기 위치와 관련된 제어 정보는, 상기 무인 항공기가 배치될 위치의 3차원 좌표 값을 포함하는, 무인 항공기의 동작 방법.
  13. 제11 항에 있어서,
    상기 적어도 하나의 단말의 무선 통신을 지원하는 단계는,
    상기 무인 항공기로부터 상기 적어도 하나의 단말로 레퍼런스 신호를 전송하는 단계; 및
    상기 레퍼런스 신호에 응답하여 상기 레퍼런스 신호의 세기에 대한 피드백을 수신하는 단계를 포함하고,
    상기 제1 특징 정보는, 상기 레퍼런스 신호의 세기에 대한 정보를 포함하는, 무인 항공기의 동작 방법.
  14. 제11 항에 있어서,
    상기 제1 특징 정보는, 상기 무인 항공기로부터 상기 적어도 하나의 단말에게 전송되는 레퍼런스 신호의 세기에 대한 정보, 지연도 및 데이터 레이트에 대한 단말의 요청 정보, 단말의 클래스 또는 통신 환경 정보 중 적어도 하나를 포함하는, 무인 항공기의 동작 방법.
  15. 제11 항에 있어서,
    상기 무인 항공기의 이동 위치와 관련된 제어 정보는, 상기 무인 항공기의 이동 방향 정보 및 상기 무인 항공기가 이동하는 스텝의 크기를 포함하는, 무인 항공기의 동작 방법.
  16. 무선 통신 시스템에서 무인 항공기를 이용하여 적어도 하나의 단말의 통신을 지원하는 기지국에 있어서,
    상기 적어도 하나의 단말 및 상기 무인 항공기와 신호를 송수신하는 통신부;
    상기 기지국의 동작을 위한 프로그램 및 데이터를 저장하는 메모리; 및
    상기 메모리에 저장된 프로그램을 실행함으로써,
    상기 적어도 하나의 단말의 위치 정보에 기초하여 상기 무인 항공기의 초기 위치를 결정하고,
    상기 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관 정보를 상기 무인 항공기에게 전송하고,
    상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 무인 항공기로부터 수신하고,
    상기 제1 특징 정보를 입력으로 하는 강화 학습 네트워크의 출력으로부터 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 전송하는 적어도 하나의 프로세서를 포함하는, 기지국.
  17. 무선 통신 시스템에서 기지국과 적어도 하나의 단말 간의 통신을 지원하는 무인 항공기에 있어서,
    상기 적어도 하나의 단말 및 상기 기지국과 신호를 송수신하는 통신부;
    상기 무인 항공기의 동작을 위한 프로그램 및 데이터를 저장하는 메모리; 및
    상기 메모리에 저장된 프로그램을 실행함으로써,
    상기 무인 항공기의 초기 위치와 관련된 제어 정보 및 상기 적어도 하나의 단말과 상기 무인 항공기 간의 연관 정보를 상기 기지국으로부터 수신하고,
    상기 초기 위치와 관련된 제어 정보에 기초하여 이동하여 상기 적어도 하나의 단말의 통신을 지원하고,
    상기 적어도 하나의 단말과 상기 무인 항공기 간의 통신 상태와 관련된 제1 특징 정보를 상기 기지국에게 전송하고,
    상기 제1 특징 정보에 응답하여, 상기 무인 항공기의 이동 위치와 관련된 제어 정보를 수신하는, 적어도 하나의 프로세서를 포함하는, 무인 항공기.
KR1020200086440A 2020-07-13 2020-07-13 무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법 KR20220008172A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200086440A KR20220008172A (ko) 2020-07-13 2020-07-13 무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법
US17/374,530 US11751017B2 (en) 2020-07-13 2021-07-13 Method and apparatus for supporting communication of user equipment by using unmanned aerial vehicle in mobile communication system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200086440A KR20220008172A (ko) 2020-07-13 2020-07-13 무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법

Publications (1)

Publication Number Publication Date
KR20220008172A true KR20220008172A (ko) 2022-01-20

Family

ID=79173253

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200086440A KR20220008172A (ko) 2020-07-13 2020-07-13 무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법

Country Status (2)

Country Link
US (1) US11751017B2 (ko)
KR (1) KR20220008172A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102416783B1 (ko) * 2022-04-05 2022-07-05 아주대학교산학협력단 무선 통신 서비스를 제공하는 스케줄링 장치 및 방법

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115549759B (zh) * 2022-09-19 2023-06-20 南京信息工程大学 一种基于irs辅助的无人机通信网络构建方法
CN115481702B (zh) * 2022-10-28 2023-02-17 中国人民解放军国防科技大学 面向多元时序数据处理的预见式对照表征方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9363008B2 (en) 2014-07-22 2016-06-07 International Business Machines Corporation Deployment criteria for unmanned aerial vehicles to improve cellular phone communications
CN108353291B (zh) * 2015-11-12 2022-02-25 索尼移动通讯有限公司 用于移动小区的动态定位方法
WO2017096545A1 (zh) * 2015-12-08 2017-06-15 深圳大学 一种基于定时机制的最佳中继位置搜寻方法及系统
KR102536118B1 (ko) * 2017-12-30 2023-05-23 인텔 코포레이션 차량 무선 통신을 위한 방법 및 디바이스
US11182611B2 (en) * 2019-10-11 2021-11-23 International Business Machines Corporation Fire detection via remote sensing and mobile sensors
US20210287556A1 (en) * 2020-03-13 2021-09-16 Electronics And Telecommunications Research Institute Method and apparatus for generating optimal path for an unmanned aerial vehicle

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102416783B1 (ko) * 2022-04-05 2022-07-05 아주대학교산학협력단 무선 통신 서비스를 제공하는 스케줄링 장치 및 방법

Also Published As

Publication number Publication date
US20220014880A1 (en) 2022-01-13
US11751017B2 (en) 2023-09-05

Similar Documents

Publication Publication Date Title
KR20220008172A (ko) 무선 통신 시스템에서 무인 항공기를 이용하여 단말의 통신을 지원하는 장치 및 방법
JPWO2019031133A1 (ja) 通信装置及び通信方法
WO2024004194A1 (ja) 端末、無線通信方法及び基地局
WO2023228374A1 (ja) 端末、無線通信方法及び基地局
WO2023218543A1 (ja) 端末、無線通信方法及び基地局
WO2024004199A1 (ja) 端末、無線通信方法及び基地局
WO2024013852A1 (ja) 端末、無線通信方法及び基地局
WO2024013851A1 (ja) 端末、無線通信方法及び基地局
WO2023228370A1 (ja) 端末、無線通信方法及び基地局
WO2024053064A1 (ja) 端末、無線通信方法及び基地局
WO2024053063A1 (ja) 端末、無線通信方法及び基地局
WO2024038613A1 (ja) 端末、無線通信方法及び基地局
WO2024106380A1 (ja) 端末、無線通信方法及び基地局
WO2024038614A1 (ja) 端末、無線通信方法及び基地局
WO2024038617A1 (ja) 端末、無線通信方法及び基地局
WO2024038616A1 (ja) 端末、無線通信方法及び基地局
WO2024038615A1 (ja) 端末、無線通信方法及び基地局
WO2024106379A1 (ja) 端末、無線通信方法及び基地局
WO2023218650A1 (ja) 端末、無線通信方法及び基地局
WO2024080023A1 (ja) 端末、無線通信方法及び基地局
WO2024075254A1 (ja) 端末、無線通信方法及び基地局
WO2024075255A1 (ja) 端末、無線通信方法及び基地局
WO2023199512A1 (ja) 端末、無線通信方法及び基地局
WO2024053071A1 (ja) 端末、無線通信方法及び基地局
WO2023199438A1 (ja) 端末、無線通信方法及び基地局

Legal Events

Date Code Title Description
A201 Request for examination