KR102416342B1

KR102416342B1 - Intermittency-aware federated learning method for 3D cellular network

Info

Publication number: KR102416342B1
Application number: KR1020200086749A
Authority: KR
Inventors: 홍충선; 라티프울라 칸; 김도현
Original assignee: 경희대학교 산학협력단
Priority date: 2020-07-14
Filing date: 2020-07-14
Publication date: 2022-07-05
Also published as: KR20220008539A

Abstract

본 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습을 수행하는 학습 프레임워크 시스템이 제공된다. 상기 학습 프레임워크 시스템은 로컬 학습 모델과 로컬 데이터를 각각 구비하는 복수의 FUE(flying UE)들을 포함하는 FUE 모듈; 상기 FUE 모듈과 인터페이스되고, 각 군집 별로 로컬 모델 정보를 상기 복수의 FUE들 중 대표 FUE들로부터 수신하는 복수의 FBS(flying BS)들을 포함하는 FBS 모듈; 및 상기 FBS 모듈과 인터페이스되고, 상기 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 상기 복수의 FBS들로부터 수신하는 위성 모듈을 포함하고, 상기 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델은 각 군집 내에서 FUE들과 대표 FUE 사이에서 학습 모델 업데이트가 반복적인 방식으로 수행되어 계산될 수 있다.A learning framework system for performing intermittent cognitive federated learning in a three-dimensional cellular network according to the present invention is provided. The learning framework system includes a FUE module including a plurality of FUEs (flying UEs) each having a local learning model and local data; an FBS module interfaced with the FUE module and including a plurality of flying BSs (FBSs) that receive local model information for each cluster from representative FUEs among the plurality of FUEs; and a satellite module interfaced with the FBS module and receiving sub-global model information in which the local model information is integrated from the plurality of FBSs, wherein the global federated learning model associated with the sub-global model information is each cluster A learning model update may be performed and calculated in an iterative manner between the FUEs and the representative FUE in .

Description

Intermittency-aware federated learning method for 3D cellular network

본 발명은 간헐적 인식 연합 학습 방법에 관한 것이다. 보다 상세하게는, 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법 및 이를 수행하는 시스템에 대한 것이다. The present invention relates to an intermittent cognitive association learning method. More specifically, it relates to an intermittent recognition federated learning method in a three-dimensional cellular network and a system for performing the same.

flying-user equipments (FUEs), flying base stations (FBSs), 위성 및 지상에 위치한 코어 네트워크로 구성된 3차원 셀룰러 네트워크는 6세대 무선 시스템의 필수적인 부분으로 간주될 수 있다. 이러한 3차원 셀룰러 네트워크의 FUE에서 다양한 통신 및 서비스 기능을 구현하기 위해 경로 계획 조정 등에 있어 기계 학습(machine learning)을 고려할 수 있다.A three-dimensional cellular network consisting of flying-user equipments (FUEs), flying base stations (FBSs), satellites and a core network located on the ground can be considered an integral part of the 6th generation wireless system. In order to implement various communication and service functions in the FUE of such a three-dimensional cellular network, machine learning may be considered in path planning adjustment, etc.

하지만, 기존의 기계 학습은 학습을 위해 사용자 장치에서 중앙 서버로 데이터를 전송해야 한다. 따라서, 사용자 장치에서 중앙 서버로 데이터를 전송함에 있어 개인 정보 유출 문제를 가지고 있다는 문제점이 있다.However, conventional machine learning requires sending data from a user device to a central server for learning. Accordingly, there is a problem in that there is a problem of leakage of personal information in transmitting data from the user device to the central server.

다른 기능을 가진 FUEs에 대해 3차원 셀룰러 네트워크를 가능하게 하는 것은 상당히 중요하다.다른 기능을 가진 FUEs에 대해 3차원 셀룰러 네트워크를 가능하게 하기 위해 기존의 기계 학습 기반의 접근법을 사용할 수 있다. 하지만, 전술한 바와 같이, 3차원 셀룰러 네트워크의 다른 기능을 갖는 FUEs에서 중앙 서버로 데이터를 전송함에 있어 특히 개인 정보 유출 문제를 가지고 있다는 문제점이 있다.It is very important to enable 3D cellular networks for FUEs with different functions. Existing machine learning based approaches can be used to enable 3D cellular networks for FUEs with different functions. However, as described above, there is a problem in that there is a problem of leakage of personal information in particular when data is transmitted from FUEs having other functions of a three-dimensional cellular network to a central server.

따라서, 본 발명의 목적은 전술한 문제를 해결하기 위해, 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법 및 이를 수행하는 시스템을 제공함에 있다. Accordingly, it is an object of the present invention to provide a method and a system for performing intermittent recognition federated learning in a 3D cellular network in order to solve the above-mentioned problem.

또한, 본 발명의 목적은 FUEs, FBSs, 위성 및 지상에 위치한 코어 네트워크로 구성된 3차원 셀룰러 네트워크에 대한 새로운 프레임워크, 즉 간헐적 인식 연합 학습을 제공하기 위한 것이다. In addition, it is an object of the present invention to provide a new framework for a 3D cellular network consisting of FUEs, FBSs, satellites, and a core network located on the ground, that is, intermittent cognitive federated learning.

또한, 본 발명의 목적은 개인 정보 유출에 대처하여 최종 장치와 서버 간에 정보 데이터가 아닌 학습 모델 매개변수만을 전송하는 연합 학습 방법을 제공할 수 있다. In addition, it is an object of the present invention to provide a federated learning method in which only the learning model parameters, not information data, are transmitted between the end device and the server in response to personal information leakage.

또한, 본 발명의 목적은 3차원 셀룰러 네트워크를 위한 새로운 간헐적 인식 연합 학습 프레임워크를 제공하기 위한 것이다.It is also an object of the present invention to provide a novel intermittent cognitive federated learning framework for a three-dimensional cellular network.

상기와 같은 과제를 해결하기 위한 본 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법이 제공된다. 상기 학습 프레임워크 시스템은 로컬 학습 모델과 로컬 데이터를 각각 구비하는 복수의 FUE(flying UE)들을 포함하는 FUE 모듈; 상기 FUE 모듈과 인터페이스되고, 각 군집 별로 로컬 모델 정보를 상기 복수의 FUE들 중 대표 FUE들로부터 수신하는 복수의 FBS(flying BS)들을 포함하는 FBS 모듈; 및 상기 FBS 모듈과 인터페이스되고, 상기 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 상기 복수의 FBS들로부터 수신하는 위성 모듈을 포함하고, 상기 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델은 각 군집 내에서 FUE들과 대표 FUE 사이에서 학습 모델 업데이트가 반복적인 방식으로 수행되어 계산될 수 있다. 한편, 상기 각 군집 내에서 상기 서브-글로벌 모델 정보를 훈련하는 과정은 상기 각 군집 별로 이미 점유된 주파수 대역을 재사용하여 반복적으로 이루어지고, 상기 FUE들과 상기 대표 FUE 사이의 통신은 상기 FUE들과 FBS 간 통신보다 낮은 지연 시간을 갖도록 설정될 수 있다.In order to solve the above problems, there is provided a method for intermittent recognition federated learning in a three-dimensional cellular network according to the present invention. The learning framework system includes a FUE module including a plurality of FUEs (flying UEs) each having a local learning model and local data; an FBS module interfaced with the FUE module and including a plurality of flying BSs (FBSs) that receive local model information for each cluster from representative FUEs among the plurality of FUEs; and a satellite module interfaced with the FBS module and receiving sub-global model information in which the local model information is integrated from the plurality of FBSs, wherein the global federated learning model associated with the sub-global model information is each cluster A learning model update may be performed and calculated in an iterative manner between the FUEs and the representative FUE in . Meanwhile, the process of training the sub-global model information in each cluster is repeatedly performed by reusing a frequency band already occupied by each cluster, and communication between the FUEs and the representative FUE is performed with the FUEs. It may be set to have a lower delay time than inter-FBS communication.

일 실시 예에 따르면, 지상에 위치하고, 상기 위성 모듈과 인터페이스되는 코어 네트워크를 더 포함하고, 상기 위성 모듈은 갱신된 상기 서브-글로벌 모델 정보와 연관된 모델 매개변수를 상기 코어 네트워크에 위치한 서버로 전송할 수 있다. According to an embodiment, it is located on the ground and further includes a core network interfaced with the satellite module, wherein the satellite module can transmit the updated model parameters associated with the sub-global model information to a server located in the core network. have.

일 실시 예에 따르면, 상기 서버는 상기 모델 매개변수에 기반하여 글로벌 연합 학습 모델을 획득하고, 상기 글로벌 연합 학습 모델을 상기 위성 모듈로 전달하고, 상기 위성 모듈은 상기 글로벌 연합 학습 모델을 상기 FBS들을 통해 상기 대표 FUE들로 전송할 수 있다. According to an embodiment, the server acquires a global federated learning model based on the model parameter, and transmits the global federated learning model to the satellite module, and the satellite module transmits the global federated learning model to the FBSs. through the representative FUEs.

일 실시 예에 따르면, 상기 서버는 제1 FBS로부터 제1 모델 매개변수 및 제2 FBS로부터 제2 모델 매개변수를 획득하고, 상기 제1 모델 매개변수 및 상기 제2 모델 매개변수에 기반하여 상기 글로벌 연합 학습 모델을 갱신할 수 있다. According to an embodiment, the server obtains a first model parameter from a first FBS and a second model parameter from a second FBS, and based on the first model parameter and the second model parameter, the global The federated learning model can be updated.

일 실시 예에 따르면, 상기 대표 FUE들은 상기 갱신된 글로벌 연합 학습 모델을 상기 복수의 FUE들 중 관련 FUE에 배포하여 상기 로컬 학습 모델을 갱신하고, 상기 위성 모듈은 상기 갱신된 글로벌 연합 학습 모델과 상기 관련 FUE와 연관된 FUE 매개 변수를 상기 대표 FUE들로 전송할 수 있다. According to an embodiment, the representative FUEs update the local learning model by distributing the updated global federated learning model to a related FUE among the plurality of FUEs, and the satellite module includes the updated global federated learning model and the A FUE parameter associated with a related FUE may be transmitted to the representative FUEs.

일 실시 예에 따르면, 상기 로컬 학습 모델을 갱신하는 학습 과정은 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴할 때까지 반복적인 방식으로 진행될 수 있다.According to an embodiment, the learning process of updating the local learning model may be performed in an iterative manner until the updated global federated learning model converges to have an accuracy greater than or equal to a threshold.

일 실시 예에 따르면, 상기 FUE 모듈과 인터페이스되고, 상기 복수의 FUE들을 각 군집 별로 그룹 설정하도록 구성된 클러스터 매니저를 더 포함하고, 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 상기 클러스터 매니저는 상기 복수의 FUE들에 대한 군집 클러스터링을 변경할 수 있다. According to an embodiment, it is interfaced with the FUE module, further comprising a cluster manager configured to group the plurality of FUEs for each cluster, and when it is determined that the updated global federated learning model does not converge to an accuracy higher than a threshold, The cluster manager may change cluster clustering for the plurality of FUEs.

일 실시 예에 따르면, 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하지 않는다고 판단되고, 상기 각 군집 내의 FUE가 각 군집 영역을 벗어난다고 판단되면, 상기 클러스터 매니저는 상기 각 군집 영역을 벗어난 FUE와 연관된 군집에 대한 군집 클러스터링을 변경할 수 있다. According to an embodiment, if it is determined that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold, and it is determined that the FUE in each cluster is out of each cluster area, the cluster manager selects each cluster area It is possible to change the clustering clustering for the clusters associated with the out-of-bounds FUE.

일 실시 예에 따르면, 상기 복수의 FUE들에 대한 군집 클러스터의 변경에 따른 제2 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 상기 클러스터 매니저는 상기 변경된 군집 클러스터링에 대해 대표 FUE를 변경할 수 있다. According to an embodiment, if it is determined that the second global federated learning model according to the change of the cluster cluster for the plurality of FUEs does not converge to an accuracy greater than or equal to a threshold, the cluster manager changes the representative FUE for the changed cluster clustering. can

본 발명의 다른 양상에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법이 제공된다. 상기 학습 방법은 복수의 FUE들과 FBS들을 포함하는 학습 프레임워크 시스템에 수행되고, 상기 방법은 로컬 학습 모델과 로컬 데이터를 각각 구비하는 복수의 FUE들 중 대표 FUE들로부터 각각의 FBS들이 로컬 모델 정보를 획득하는 로컬 모델 정보 획득 과정; 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 위성 모듈이 획득하는 서브-글로벌 모델 정보 획득 과정; 및 상기 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델을 코어 네트워크 내의 서버가 획득하는 글로벌 연합 학습 모델 획득 과정을 포함할 수 있다. In accordance with another aspect of the present invention, there is provided a method for intermittent cognitive federated learning in a three-dimensional cellular network. The learning method is performed in a learning framework system including a plurality of FUEs and FBSs, wherein each FBS is obtained from representative FUEs among a plurality of FUEs having a local learning model and local data, respectively, local model information Local model information acquisition process to acquire; a sub-global model information acquisition process in which the satellite module acquires sub-global model information in which local model information is integrated; and a global federated learning model acquisition process in which a server in a core network acquires a global federated learning model associated with the sub-global model information.

상기 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델은 각 군집 내에서 FUE들과 대표 FUE 사이에서 학습 모델 업데이트가 반복적인 방식으로 수행되어 계산될 수 있다. 한편, 상기 각 군집 내에서 상기 서브-글로벌 모델 정보를 훈련하는 과정은 상기 각 군집 별로 이미 점유된 주파수 대역을 재사용하여 반복적으로 이루어지고, 상기 FUE들과 상기 대표 FUE 사이의 통신은 상기 FUE들과 FBS 간 통신보다 낮은 지연 시간을 갖도록 설정될 수 있다. The global federated learning model associated with the sub-global model information may be calculated by performing the learning model update iteratively between the FUEs and the representative FUE in each cluster. Meanwhile, the process of training the sub-global model information in each cluster is repeatedly performed by reusing a frequency band already occupied by each cluster, and communication between the FUEs and the representative FUE is performed with the FUEs. It may be set to have a lower delay time than inter-FBS communication.

일 실시 예에 따르면, 상기 위성 모듈과 인터페이스되는 상기 코어 네트워크는 지상에 위치하고, 상기 글로벌 연합 학습 모델 획득 과정에서, 상기 위성 모듈은 갱신된 상기 서브-글로벌 모델 정보와 연관된 모델 매개변수를 상기 코어 네트워크에 위치한 상기 서버로 전송할 수 있다.According to an embodiment, the core network interfaced with the satellite module is located on the ground, and in the process of acquiring the global federated learning model, the satellite module transmits the updated sub-global model information and associated model parameters to the core network. can be transmitted to the server located in

일 실시 예에 따르면, 상기 글로벌 연합 학습 모델 획득 과정에서, 상기 서버는 상기 모델 매개변수에 기반하여 글로벌 연합 학습 모델을 획득하고, 상기 글로벌 연합 학습 모델을 상기 위성 모듈로 전달할 수 있다. 상기 학습 방법은 상기 위성 모듈이 상기 글로벌 연합 학습 모델을 상기 FBS들을 통해 상기 대표 FUE들로 전송하는 글로벌 연합 학습 모델 전송 과정을 더 포함할 수 있다. According to an embodiment, in the process of acquiring the global federated learning model, the server may acquire a global federated learning model based on the model parameter, and transmit the global federated learning model to the satellite module. The learning method may further include a global federated learning model transmission process in which the satellite module transmits the global federated learning model to the representative FUEs through the FBSs.

일 실시 예에 따르면, 상기 글로벌 연합 학습 모델 획득 과정에서, 상기 서버는 제1 FBS로부터 제1 모델 매개변수 및 제2 FBS로부터 제2 모델 매개변수를 획득하고, 상기 제1 모델 매개변수 및 상기 제2 모델 매개변수에 기반하여 상기 글로벌 연합 학습 모델을 갱신할 수 있다. According to an embodiment, in the process of obtaining the global federated learning model, the server obtains a first model parameter from a first FBS and a second model parameter from a second FBS, and the first model parameter and the second 2 The global federated learning model may be updated based on the model parameters.

일 실시 예에 따르면, 상기 학습 방법은 상기 대표 FUE들이 상기 갱신된 글로벌 연합 학습 모델을 상기 복수의 FUE들 중 관련 FUE에 배포하여 상기 로컬 학습 모델을 갱신하는 로컬 학습 모델 갱신 과정을 더 포함할 수 있다. 상기 글로벌 연합 학습 모델 전송 과정에서, 상기 위성 모듈은 상기 갱신된 글로벌 연합 학습 모델과 상기 관련 FUE와 연관된 FUE 매개 변수를 상기 대표 FUE들로 전송할 수 있다.According to an embodiment, the learning method may further include a local learning model update process in which the representative FUEs distribute the updated global federated learning model to a related FUE among the plurality of FUEs to update the local learning model. have. In the process of transmitting the global federated learning model, the satellite module may transmit the updated global federated learning model and FUE parameters associated with the related FUE to the representative FUEs.

일 실시 예에 따르면, 상기 로컬 학습 모델 갱신 과정은 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴할 때까지 반복적인 방식으로 진행될 수 있다. 상기 학습 방법은 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 클러스터 매니저는 상기 복수의 FUE들에 대한 군집 클러스터링을 변경하는 군집 클러스터링 변경 과정을 더 포함할 수 있다. According to an embodiment, the local learning model update process may be performed in an iterative manner until the updated global federated learning model converges to have an accuracy greater than or equal to a threshold. The learning method may further include, when it is determined that the updated global federated learning model does not converge to an accuracy greater than or equal to a threshold, the cluster manager changing the clustering clustering for the plurality of FUEs.

일 실시 예에 따르면, 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하지 않는다고 판단되고, 상기 각 군집 내의 FUE가 각 군집 영역을 벗어난다고 판단되면, 상기 군집 클러스터링 변경 과정에서 상기 클러스터 매니저는 상기 각 군집 영역을 벗어난 FUE와 연관된 군집에 대한 군집 클러스터링을 변경할 수 있다. According to an embodiment, if it is determined that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold, and it is determined that the FUE in each cluster is out of each cluster area, the cluster manager in the clustering change process may change the cluster clustering for the cluster associated with the FUE outside the respective cluster area.

일 실시 예에 따르면, 상기 복수의 FUE들에 대한 군집 클러스터의 변경에 따른 제2 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 상기 학습 방법은 상기 클러스터 매니저가 상기 변경된 군집 클러스터링에 대해 대표 FUE를 변경하는 대표 FUE 변경 과정을 더 포함할 수 있다. According to an embodiment, if it is determined that the second global federated learning model according to the change of the cluster cluster for the plurality of FUEs does not converge to an accuracy greater than or equal to a threshold, the learning method is the cluster manager for the changed cluster clustering. A representative FUE change process of changing the representative FUE may be further included.

본 발명의 또 다른 양상에 따른 학습 프레임워크를 통해 간헐적 인식 연합 학습을 수행하는 3차원 셀룰러 네트워크 시스템이 제공된다. 상기 3차원 셀룰러 네트워크 시스템은 로컬 학습 모델과 로컬 데이터를 각각 구비하는 복수의 FUE(flying UE)들; 상기 FUE들과 인터페이스되고, 각 군집 별로 로컬 모델 정보를 상기 복수의 FUE들 중 대표 FUE들로부터 수신하도록 구성된 복수의 FBS(flying BS)들; 및 상기 FBS들과 인터페이스되고, 상기 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 상기 복수의 FBS들로부터 수신하는 LEO 위성을 포함할 수 있다. A three-dimensional cellular network system for performing intermittent cognitive federated learning through a learning framework according to another aspect of the present invention is provided. The three-dimensional cellular network system includes a plurality of FUEs (flying UEs) each having a local learning model and local data; a plurality of flying BSs (FBSs) interfaced with the FUEs and configured to receive local model information for each cluster from representative FUEs among the plurality of FUEs; and an LEO satellite interfaced with the FBSs and receiving sub-global model information in which the local model information is integrated from the plurality of FBSs.

상기 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델은 각 군집 내에서 FUE들과 대표 FUE 사이에서 학습 모델 업데이트가 반복적인 방식으로 수행되어 계산될 수 있다. 한편, 상기 각 군집 내에서 상기 서브-글로벌 모델 정보를 훈련하는 과정은 상기 각 군집 별로 이미 점유된 주파수 대역을 재사용하여 반복적으로 이루어지고, 상기 FUE들과 상기 대표 FUE 사이의 통신은 상기 FUE들과 FBS 간 통신보다 낮은 지연 시간을 갖도록 설정될 수 있다.The global federated learning model associated with the sub-global model information may be calculated by performing the learning model update iteratively between the FUEs and the representative FUE in each cluster. Meanwhile, the process of training the sub-global model information in each cluster is repeatedly performed by reusing a frequency band already occupied by each cluster, and communication between the FUEs and the representative FUE is performed with the FUEs. It may be set to have a lower delay time than inter-FBS communication.

일 실시 예에 따르면, 상기 3차원 셀룰러 네트워크 시스템은 지상에 위치하고, 상기 LEO 위성과 인터페이스되는 코어 네트워크에 위치한 서버를 더 포함할 수 있다. 상기 LEO 위성은 갱신된 상기 서브-글로벌 모델 정보와 연관된 모델 매개변수를 상기 서버로 전송하고, 상기 서버는 상기 모델 매개변수에 기반하여 글로벌 연합 학습 모델을 획득하고, 상기 글로벌 연합 학습 모델을 상기 LEO 위성으로 전달하고, 상기 LEO 위성은 상기 글로벌 연합 학습 모델을 상기 FBS들을 통해 상기 대표 FUE들로 전송할 수 있다. According to an embodiment, the 3D cellular network system may further include a server located on the ground and located in a core network interfaced with the LEO satellite. The LEO satellite transmits the updated model parameters associated with the sub-global model information to the server, the server acquires a global federated learning model based on the model parameters, and uses the global federated learning model to the LEO to the satellite, and the LEO satellite may transmit the global federated learning model to the representative FUEs through the FBSs.

일 실시 예에 따르면, 상기 서버는 제1 FBS로부터 제1 모델 매개변수 및 제2 FBS로부터 제2 모델 매개변수를 획득하고, 상기 제1 모델 매개변수 및 상기 제2 모델 매개변수에 기반하여 상기 글로벌 연합 학습 모델을 갱신하고, 상기 대표 FUE들은 상기 갱신된 글로벌 연합 학습 모델을 상기 복수의 FUE들 중 관련 FUE에 배포하여 상기 로컬 학습 모델을 갱신하고, 상기 LEO 위성은 상기 갱신된 글로벌 연합 학습 모델과 상기 관련 FUE와 연관된 FUE 매개 변수를 상기 대표 FUE들로 전송할 수 있다. According to an embodiment, the server obtains a first model parameter from a first FBS and a second model parameter from a second FBS, and based on the first model parameter and the second model parameter, the global update the federated learning model, the representative FUEs update the local learning model by distributing the updated global federated learning model to a relevant FUE among the plurality of FUEs, and the LEO satellite is the updated global federated learning model and FUE parameters associated with the related FUE may be transmitted to the representative FUEs.

본 발명에 따르면, 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법 및 이를 수행하는 시스템을 제공할 수 있다.According to the present invention, it is possible to provide an intermittent recognition federated learning method in a three-dimensional cellular network and a system for performing the same.

본 발명에 따르면, FUEs, FBSs, 위성 및 지상에 위치한 코어 네트워크로 구성된 3차원 셀룰러 네트워크에 대한 새로운 프레임워크, 즉 간헐적 인식 연합 학습을 제공할 수 있다.According to the present invention, it is possible to provide a new framework for a three-dimensional cellular network composed of FUEs, FBSs, satellites, and a core network located on the ground, that is, intermittent cognitive federated learning.

본 발명에 따르면, 개인 정보 유출에 대처하여 최종 장치와 서버 간에 정보 데이터가 아닌 학습 모델 매개변수만을 전송하는 연합 학습 방법을 제공할 수 있다. According to the present invention, it is possible to provide a federated learning method in which only the learning model parameters, not information data, are transmitted between the end device and the server in response to personal information leakage.

본 발명에 따르면, 본 발명의 목적은 3차원 셀룰러 네트워크를 위한 새로운 간헐적 인식 연합 학습 프레임워크를 제공할 수 있다. According to the present invention, it is an object of the present invention to provide a new intermittent recognition federated learning framework for a three-dimensional cellular network.

본 발명에 따르면, 제안된 간헐적 인식 연합 학습 프레임워크를 통해 FUE를 위한 글로벌 공유 모델을 학습하여 다양한 스마트 애플리케이션에 사용할 수 있다.According to the present invention, it is possible to learn a global shared model for FUE through the proposed intermittent recognition federated learning framework and use it for various smart applications.

상술한 본 발명의 특징 및 효과는 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해 질 것이며, 그에 따라 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. The features and effects of the present invention described above will become more apparent through the following detailed description in relation to the accompanying drawings, whereby those of ordinary skill in the art to which the present invention pertains can easily implement the technical idea of the present invention. will be able

도 1은 본 발명에 따른 간헐적 인식 연합 학습을 수행하는 3차원 셀룰러 네트워크 시스템을 나타낸다.
도 2는 본 발명에 따른 연합 학습 프레임워크 시퀀스 다이어그램을 나타낸다.
도 3은 본 발명에 따른 연합 학습 프레임워크의 구성을 나타낸다.
도 4는 본 발명의 일 실시 예에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법의 흐름도를 나타낸다.
도 5는 본 발명의 다른 실시 예에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법의 흐름도를 나타낸다. 1 shows a three-dimensional cellular network system for performing intermittent cognitive federated learning according to the present invention.
2 shows a federated learning framework sequence diagram according to the present invention.
3 shows the configuration of a federated learning framework according to the present invention.
4 is a flowchart illustrating a method for intermittent recognition federated learning in a 3D cellular network according to an embodiment of the present invention.
5 is a flowchart of a method for intermittent recognition federated learning in a 3D cellular network according to another embodiment of the present invention.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 구체적으로 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Since the present invention can have various changes and can have various embodiments, specific embodiments are illustrated in the drawings and will be described in detail in the detailed description. However, this is not intended to limit the present invention to specific embodiments, and it should be understood to include all modifications, equivalents, and substitutes included in the spirit and scope of the present invention.

각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용한다.In describing each figure, like reference numerals are used for like elements.

제1, 제2등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms such as first, second, etc. may be used to describe various elements, but the elements should not be limited by the terms. The above terms are used only for the purpose of distinguishing one component from another.

예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.For example, without departing from the scope of the present invention, a first component may be referred to as a second component, and similarly, a second component may also be referred to as a first component. and/or includes a combination of a plurality of related listed items or any of a plurality of related listed items.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미가 있다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs.

일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않아야 한다.Terms such as those defined in a commonly used dictionary should be interpreted as having a meaning consistent with the meaning in the context of the related art, and should not be interpreted in an ideal or excessively formal meaning unless explicitly defined in the present application. shouldn't

이하의 설명에서 사용되는 구성요소에 대한 접미사 모듈, 블록 및 부는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. The suffix module, block, and part for the components used in the following description are given or mixed in consideration of only the ease of writing the specification, and do not have distinct meanings or roles by themselves.

이하, 본 발명의 바람직한 실시 예를 첨부한 도면을 참조하여 당해 분야에 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 설명한다. 하기에서 본 발명의 실시 예를 설명함에 있어, 관련된 공지의 기능 또는 공지의 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings so that those of ordinary skill in the art can easily implement them. In the following description of embodiments of the present invention, if it is determined that a detailed description of a related known function or a known configuration may unnecessarily obscure the gist of the present invention, the detailed description thereof will be omitted.

이하에서는, 본 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법에 대해 설명한다. 이와 관련하여, 본 발명의 목적은 전술한 문제를 해결하기 위해, 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법 및 이를 수행하는 시스템을 제공함에 있다. 또한, 본 발명의 목적은 FUEs, FBSs, 위성 및 지상에 위치한 코어 네트워크로 구성된 3차원 셀룰러 네트워크에 대한 새로운 프레임워크, 즉 간헐적 인식 연합 학습을 제공하기 위한 것이다. 또한, 본 발명의 목적은 개인 정보 유출에 대처하여 최종 장치와 서버 간에 정보 데이터가 아닌 학습 모델 매개변수만을 전송하는 연합 학습 방법을 제공할 수 있다. 또한, 본 발명의 목적은 3차원 셀룰러 네트워크를 위한 새로운 간헐적 인식 연합 학습 프레임워크를 제공하기 위한 것이다.Hereinafter, a method for intermittent recognition federated learning in a three-dimensional cellular network according to the present invention will be described. In this regard, an object of the present invention is to provide a method and a system for performing intermittent recognition federated learning in a three-dimensional cellular network in order to solve the above-described problem. In addition, it is an object of the present invention to provide a new framework for a 3D cellular network consisting of FUEs, FBSs, satellites, and a core network located on the ground, that is, intermittent cognitive federated learning. In addition, it is an object of the present invention to provide a federated learning method in which only the learning model parameters, not information data, are transmitted between the end device and the server in response to personal information leakage. It is also an object of the present invention to provide a novel intermittent cognitive federated learning framework for a three-dimensional cellular network.

본 발명에서는 사용자 장치에서 중앙 서버로 데이터를 전송하지 않고 글로벌 모델을 학습할 수 있는 연합 학습을 사용한다. 따라서 연합 학습은 다양한 기계 학습 모델의 훈련을 위해 3차원 셀룰러 네트워크에서 사용될 수 있다. 연합 학습은 중앙 서버와 사용자 장치의 반복적인 상호 작용에서 무선 통신을 통해 이들 사이의 학습 모델 매개변수만 교환하는 것에 기초한다. 연합 학습 교육 과정은 중앙 서버와 원활하게 연결되도록 해야 한다.In the present invention, federated learning is used to learn the global model without transmitting data from the user device to the central server. Therefore, federated learning can be used in 3D cellular networks for training various machine learning models. Federated learning is based on exchanging only learning model parameters between central server and user equipment through wireless communication in repeated interactions. Federated learning training courses should be seamlessly connected to a central server.

이와 관련하여, 도 1은 본 발명에 따른 간헐적 인식 연합 학습을 수행하는 3차원 셀룰러 네트워크 시스템을 나타낸다. 한편, 도 2는 본 발명에 따른 연합 학습 프레임워크 시퀀스 다이어그램을 나타낸다.In this regard, FIG. 1 shows a three-dimensional cellular network system for performing intermittent cognitive federated learning according to the present invention. Meanwhile, FIG. 2 shows a sequence diagram of a federated learning framework according to the present invention.

도 1을 참조하면, 3차원 셀룰러 네트워크 시스템은 복수의 FUE들(100), 복수의 FBS들(200) 및 LEO 위성(300)을 포함할 수 있다. 도 2를 참조하면, 3차원 셀룰러 네트워크 시스템은 코어 네트워크 내에 위치하는 서버(400)를 더 포함할 수 있다. Referring to FIG. 1 , a 3D cellular network system may include a plurality of FUEs 100 , a plurality of FBSs 200 , and an LEO satellite 300 . Referring to FIG. 2 , the 3D cellular network system may further include a server 400 located in the core network.

복수의 FUE들(100)은 각 군집 별로 클러스터링 (그룹핑)될 수 있다. 복수의 FBS들(200)은 각 군집 별 대표 FUE와 통신을 수행할 수 있다. LEO 위성(300)은 복수의 FBS들(200)과 통신을 수행할 수 있다. 서버(400)는 지상에 위치하고, LEO 위성(300)과 인터페이스되는 코어 네트워크에 위치할 수 있다.The plurality of FUEs 100 may be clustered (grouped) for each cluster. The plurality of FBSs 200 may communicate with a representative FUE for each cluster. The LEO satellite 300 may perform communication with a plurality of FBSs 200 . The server 400 may be located on the ground and located in the core network that interfaces with the LEO satellite 300 .

제안한 프레임워크에서 첫 번째는 여러 군집은 어떤 사회적 인식 기준에 기초하여 형성되는 것이다. 모든 군집에는 자체 군집장(서버 역할을 담당)이 있으며, 하위 글로벌 모델을 훈련하기 위해 반복적으로 다른 FUE와 통신한다. 군집 내에서 서브 글로벌 모델을 훈련하는 것의 장점은 이미 점유된 주파수 대역을 재사용하는 것이다. 또한, FUE와 FUE 통신은 FUE와 FBS 간 통신 보다 더 낮은 지연 시간을 가진다. 모든 군집 내의 하위 글로벌 모델은 FUE와 그것의 군집장(FUE) 사이의 반복적 상호작용을 사용하여 형성된다. 하위 글로벌 모델 계산 후, 모든 군집장은 하위 글로벌 모델 매개변수를 집계가 이루어지는 FBS로 전송한다. FBS에서 서브 글로벌 모델 집계가 끝난 후, 하위 글로벌 모델은 원격 위성으로 전송된다. 위성은 통합된 하위 글로벌 모델을 지상 코어 네트워크로 전송하며, 여기서 글로벌 모델은 하위 글로벌 모델들의 집계를 통해 계산된다. In the proposed framework, the first is that several clusters are formed based on certain social recognition criteria. Every cluster has its own superintendent (which acts as a server), which iteratively communicates with other FUEs to train sub-global models. The advantage of training a sub-global model within a cluster is to reuse an already occupied frequency band. In addition, FUE and FUE communication has a lower delay time than FUE and FBS communication. A sub-global model within every cluster is formed using iterative interactions between the FUE and its cluster field (FUE). After calculating the sub-global model, all the superintendents send the sub-global model parameters to the FBS where the aggregation takes place. After the sub-global model aggregation is finished in FBS, the sub-global model is transmitted to the remote satellite. The satellite transmits the integrated sub-global model to the terrestrial core network, where the global model is calculated through the aggregation of the sub-global models.

갱신된 글로벌 모델은 위성으로 보내진다. 마지막으로 글로벌 모델 매개변수는 위성을 통해 FBS로 다시 전송되며, 이는 각 군집장으로 전송된다. 이러한 연합 학습의 장점은 모든 군집에 대한 소규모 FUE 집합 중 하위 글로벌 모델을 학습함으로써 간헐적인 연결에 대처할 수 있다는 것이다. 그리고 군집 형성 단계에서는 하위 글로벌 모델 훈련 과정 중 FUE가 서로 근접하게 유지되도록 해야 한다. 소수의 FUE가 서로 연결될 확률은 주변에 많은 수의 FUE가 위치한 것에 비해 매우 높다. 따라서 제안된 간헐적 인식 연합 학습 프레임워크는 실제 구현에 현실성이 높다.The updated global model is sent to the satellite. Finally, the global model parameters are sent back to the FBS via satellite, which is sent to each platoon. The advantage of such federated learning is that it can cope with intermittent connectivity by learning a sub-global model among a small set of FUEs for all clusters. And in the cluster formation stage, it is necessary to keep the FUEs close to each other during the training of the sub-global model. The probability that a small number of FUEs are connected to each other is very high compared to a large number of FUEs located nearby. Therefore, the proposed intermittent cognitive federated learning framework is highly realistic for practical implementation.

3차원 셀룰러 네트워크는 다양한 스마트 서비스를 가능하게 하는 6세대 무선 시스템의 필수적인 부분이다. 전통적인 기계 학습을 사용하여 스마트 애플리케이션을 제공하는 3차원 셀룰러 네트워크를 활성화하는 것은 학습을 위해 사용자 장치에서 중앙 서버로 데이터를 전송하는 것을 기반으로 하기 때문에 심각한 개인 정보 유출 문제를 안고 있다. 따라서, 본 발명에서는 사용자 장치의 데이터를 전송하지 않고 사용자 장치와 에지/클라우드 서버 간의 학습 모델 매개변수 전송을 반복적으로 수행한다. 따라서, 학습 모델 매개변수 전송을 기반으로 하는 3차원 셀룰러 네트워크에서 스마트 서비스를 활성화하기 위해 연합 학습을 사용할 수 있어 사용자의 개인 정보를 보호할 수 있다.The 3D cellular network is an essential part of the 6th generation wireless system that enables various smart services. Enabling three-dimensional cellular networks to deliver smart applications using traditional machine learning poses a serious privacy breach problem as it is based on sending data from user devices to a central server for learning. Therefore, in the present invention, transmission of learning model parameters between the user device and the edge/cloud server is repeatedly performed without transmitting the data of the user device. Therefore, federated learning can be used to activate smart services in a three-dimensional cellular network based on learning model parameter transmission, thereby protecting users' privacy.

연합 학습은 개인 정보 보호의 이점을 제공하지만, 3D 셀룰러 네트워크에 대해 다음과 같은 몇 가지 구현 과제를 안고 있다.Federated learning offers privacy benefits, but presents some implementation challenges for 3D cellular networks:

1) 통신 자원 제약: 연합 학습은 글로벌 연합 학습 모델 교육을 위해 사용자 장치와 에지/클라우드 서버 간에 학습 모델 매개변수를 전송하기 위한 성공적인 반복적 상호작용을 기반으로 한다. 최종 장치와 에지/클라우드 서버 간에 이러한 유형의 반복적인 학습 모델 매개변수 교환은 통신 자원에 제한을 가한다.1) Communication resource constraints: Federated learning is based on successful iterative interactions to transfer learning model parameters between user devices and edge/cloud servers for global federated learning model training. This type of iterative exchange of learning model parameters between end devices and edge/cloud servers places limits on communication resources.

2) 간헐적 연결: 3차원 셀룰러 네트워크는 FUE(100), FBS(200) 및 위성(300)으로 구성된다. 3차원 셀룰러 네트워크는 지상 통신에 비해 이동성이 높고 3차원 셀룰러 네트워크에서 FUE와 FBS의 움직임으로 인해 발생한다. FUE와 위성 간의 통신 연결은 지상 통신에 비해 지연이 더 높다. 또한 FUE, FBS, 인공위성의 이동성 특성 때문에 핸드오프가 빈번하게 발생할 수 있다. 위에서 논의된 모든 요인은 3차원 셀룰러 네트워크에서 통신 연결의 간헐적 특성을 야기한다.2) Intermittent connection: The 3D cellular network is composed of the FUE 100 , the FBS 200 , and the satellite 300 . The 3D cellular network has high mobility compared to terrestrial communication and occurs due to the movement of the FUE and FBS in the 3D cellular network. The communication connection between the FUE and the satellite has higher latency compared to terrestrial communication. In addition, handoff may occur frequently due to the mobility characteristics of FUE, FBS, and satellites. All of the factors discussed above give rise to the intermittent nature of communication connections in three-dimensional cellular networks.

한편, 통신 자원 제약 및 간헐적 연결을 가진 3차원 셀룰러 네트워크에 대한 연합 학습 모델 훈련을 위해, 새로운 프레임워크를 제안하고자 한다. 즉, 본 발명에서는 3차원 셀룰러 네트워크에 대한 연합 학습 모델 훈련을 위해 간헐적 인식 연합 학습을 제안한다. 이와 관련하여, 도 3은 본 발명에 따른 연합 학습 프레임워크의 구성을 나타낸다. 도 3을 참조하면, 제안된 프레임워크는 다음과 같은 단계로 구성될 수 있다.On the other hand, we would like to propose a new framework for training a federated learning model for a 3D cellular network with communication resource constraints and intermittent connectivity. That is, the present invention proposes intermittent cognitive federated learning for training a federated learning model for a 3D cellular network. In this regard, Figure 3 shows the configuration of the federated learning framework according to the present invention. Referring to FIG. 3 , the proposed framework may be configured in the following steps.

1단계) 군집 형성: 우선, FUE의 여러 군집은 일부 유효 기준에 기초하여 형성된다. 이 기준은 다중 군집에 대한 군집장을 선택하는 동안 사회적 연계, 거리 및 각 군집 간 중심성을 고려해야 한다. 그런 다음 이전에 선택된 군집장을 가진 여러 개의 FUE 군집이 형성된다.Step 1) Cluster formation: First, several clusters of FUE are formed based on some validity criteria. This criterion should consider social connections, distances, and centrality between each cluster during the selection of a colony for multiple clusters. Then, several FUE clusters with previously selected cluster fields are formed.

2단계) 연결: 군집 형성 후 연결이 실행된다. 제안하는 모델에는 FBS와의 FUE 연결과 위성과의 FBS 연결 등 두 가지 유형의 연결이 필요하다. 첫째, 군집장은 시스템 처리량을 최대화하는 몇 가지 효과적인 기준을 사용하여 FBS와 연결된다. 특정 FBS의 경우, 여러 군집장을 연결하여 더 많은 군집에 대한 지원을 제공할 수 있다. FUE와 FBS 간의 직접적인 통신 대신 군집화의 이유는 이미 점유하고 있는 3차원 셀룰러 네트워크의 주파수 대역을 재이용하기 위해서다. 둘째, FBS는 통신 지연 시간을 최소화하기 위해 그러한 방식으로 위성과 연결된다.Step 2) Connection: After cluster formation, connection is executed. The proposed model requires two types of connection: FUE connection with FBS and FBS connection with satellite. First, the colony is associated with the FBS using several effective criteria to maximize system throughput. For a particular FBS, multiple platoons can be linked to provide support for more platoons. The reason for clustering instead of direct communication between the FUE and the FBS is to reuse the frequency band of the 3D cellular network that has already been occupied. Second, the FBS connects with the satellites in such a way to minimize communication latency.

3단계) 하위 글로벌 모델 계산: 군집화 및 연결 단계 후에 특정 군집 내에서 모든 장치가 로컬 학습 모델을 계산한다. 로컬 학습 모델 매개변수는 하위 글로벌 모델 집계가 이루어지는 군집장으로 전송된다. 하위 글로벌 모델 계산의 이 과정은 FUE와 군집장 사이의 상호작용에 의해 모든 군집 내에서 몇 번의 반복으로 이루어진다.Step 3) Sub-global model calculation: After the clustering and concatenation steps, all devices within a specific cluster compute the local learning model. Local learning model parameters are sent to the cluster where the sub-global model aggregation takes place. This process of calculating the sub-global model is done with several iterations within every cluster by the interaction between the FUE and the cluster leader.

4단계) 글로벌 모델 계산: 모든 군집 내에서 하위 글로벌 모델 연산 후, 하위 글로벌 모델은 FBS에 의해 위성으로 전송된다. 3차원 셀룰러 네트워크의 모든 위성은 글로벌 모델 집계가 이루어지는 코어 네트워크에 연결된다. 그런 다음 업데이트된 글로벌 모델은 FBS로 다시 전송되고 FBS는 이를 각 군집장으로 전송한다. 마지막으로 모든 군집의 군집장은 갱신된 글로벌 모델을 관련 장치로 전송한다. 이러한 연합 학습의 패션은 글로벌 모델 정확도 수준으로 수렴되기 전까지 반복적으로 이루어진다.Step 4) Global model calculation: After calculating the sub-global model in all clusters, the sub-global model is transmitted to the satellite by the FBS. All satellites of the 3D cellular network are connected to the core network where global model aggregation takes place. The updated global model is then sent back to the FBS, which sends it to each platoon. Finally, the superintendent of all clusters sends the updated global model to the relevant device. This fashion of federated learning is iterative until it converges to a global model accuracy level.

본 발명에서 제안하고자 하는 기술적 특징은 다음곽 같다. 한편, 본 발명에서 청구하고자 하는 사항은 이러한 기술적 특징에 기반하는 것을 원칙으로 하지만, 이하의 기술적 특징에 한정되는 것은 아니다.The technical features to be proposed in the present invention are as follows. On the other hand, although the subject matter to be claimed in the present invention is based on these technical features in principle, it is not limited to the following technical features.

1) 3차원 셀룰러 네트워크에서 연합 학습을 위한 새로운 프레임워크1) A new framework for federated learning in 3D cellular networks

계층적 방식으로 효율적인 연합 학습 모델 교육을 가능하게 하는 3차원 셀룰러 네트워크에서 연합 학습을 위한 새로운 프레임워크를 제안한다. 3차원 셀룰러 네트워크에서 학습하는 두 가지 수준의 계층적 패션은 FUE 수준에서 하위 글로벌 모델을 학습한 다음 핵심 네트워크 수준에서 글로벌 모델 연산을 포함한다.We propose a novel framework for federated learning in 3D cellular networks that enables efficient federated learning model training in a hierarchical manner. The two-level hierarchical fashion of learning in 3D cellular networks involves learning a sub-global model at the FUE level and then global model computation at the core network level.

2) 확장 가능한 프레임워크2) Extensible framework

제안된 프레임워크는 확장성을 제공한다. FUEs는 쉽게 군집을 형성하고 FBS 중 하나에 연결할 수 있으므로 연합 학습 과정에 참여할 수 있다. 이러한 학습 방식은 연합 학습 과정에 새로운 FUE를 쉽게 추가할 수 있기 때문에 확장성이 향상된다.The proposed framework provides extensibility. FUEs can easily cluster and connect to one of the FBSs, allowing them to participate in the federated learning process. This learning method improves scalability because new FUEs can be easily added to the federated learning process.

3) 견고한 프레임워크3) Robust framework

제안된 프레임워크는 단일 FB를 사용하는 3차원 셀룰러 네트워크에 대한 기존의 연합 학습에 비해 향상된 견고성을 제공한다. 단일 FB를 사용하는 3차원 셀룰러 네트워크에 대한 전통적인 연합 학습에서, 일련의 FUE는 글로벌 연합 학습 모델의 훈련을 위해 에지 컴퓨팅 서버 기반 FBS와 반복적으로 통신할 수 있다. 그러나 에지 컴퓨팅 서버 기반 FBS의 오작동으로 연합 학습이 실패하게 된다. 반면에, 제안하는 프레임워크에서는, 여러 하위 글로벌 모델들이 다른 FBS로 보내지고, 따라서 강화된 견고함을 제공한다.The proposed framework provides improved robustness compared to conventional federated learning for 3D cellular networks using a single FB. In traditional federated learning for 3D cellular networks using a single FB, a set of FUEs can iteratively communicate with an edge computing server-based FBS for training of a global federated learning model. However, federated learning fails due to a malfunction of the edge computing server-based FBS. On the other hand, in the proposed framework, several sub-global models are sent to different FBSs, thus providing enhanced robustness.

4) 통신 자원에 대해 효율적인 프레임워크4) Efficient framework for communication resources

제안된 프레임워크는 연합 학습의 계층적 구조를 사용하므로 향상된 자원 효율적 운영을 제공한다. 하위 글로벌 모델 연산의 첫 번째 단계에서, 모든 FUE 군집 내에서, 이미 점유된 리소스 블록은 하위 글로벌 모델을 산출하기 위해 FUE와 군집장 사이의 학습 모델 매개변수의 반복적인 교환에 사용되며, 따라서 통신 자원 효율적 연산을 제공한다.The proposed framework uses the hierarchical structure of federated learning and thus provides improved resource-efficient operation. In the first stage of the sub-global model computation, within all FUE clusters, the resource blocks already occupied are used for iterative exchange of learning model parameters between the FUE and the cluster leader to yield a sub-global model, thus providing communication resources It provides efficient computation.

전술한 바와 같이, 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법의 기술적 특징과 관련하여, 도 1 내지 도 3을 참조하여 본 발명에서 제안하는 3차원 셀룰러 네트워크 시스템에 대하여 설명하면 다음과 같다. 제안된 프레임워크에는 주로 네 개의 계층으로 이루어져 있다. 첫 번째 계층은 전세계적으로 공유된 기계 학습 모델을 훈련시키고자 하는 일련의 FUE(100)로 구성된다. 통신 자원 제약으로 인해, 우선 군집 집합은 자체 군집장으로 형성된다. 하위 글로벌 연합 학습 모델은 모든 군집 내에서 FUE(100)와 군집장 FUE 사이의 반복적인 방식으로 학습 모델 업데이트를 전송하여 계산된다. 둘째는 하위 글로벌 모델 계산 후, 모든 군집장은 하위 글로벌 모델을 관련 FBS(200)로 전송하며, 하위 글로벌 모델 집계가 이루어진다. 다음으로 집계된 갱신된 하위 글로벌 모델은 모두 위성(300)으로 전송되며, 이는 다시 모델 매개변수를 지상에 위치한 코어 네트워크에 위치한 서버(400)로 전송한다. 최종 글로벌 연합 학습 모델은 코어 네트워크에 위치한 서버(400)에 통합하여 얻는다. 계산된 글로벌 모델은 위성(300)에 의해 해당하는 FBS(200)로 전송되며, 이는 다시 군집장 FUE로 전송된다. 마지막으로, 군집장은 갱신된 글로벌 모델을 관련 FUE(100)에 배포하여 로컬 모델을 갱신한다. 학습의 과정은 글로벌 연합 학습 모델이 일정 정확성에 수렴할 때까지 반복적인 방식으로 진행될 수 있다.As described above, in relation to the technical characteristics of the intermittent recognition federated learning method in the 3D cellular network, the 3D cellular network system proposed by the present invention will be described with reference to FIGS. 1 to 3 as follows. The proposed framework mainly consists of four layers. The first layer consists of a set of FUEs 100 that want to train a globally shared machine learning model. Due to communication resource constraints, first, a cluster set is formed with its own cluster field. The sub-global federated learning model is computed by sending the learning model update in an iterative manner between the FUE 100 and the superintendent FUE within every cluster. Second, after calculating the sub-global model, all the superintendents transmit the sub-global model to the related FBS 200, and the sub-global model is aggregated. Next, all of the aggregated and updated sub-global models are transmitted to the satellite 300, which in turn transmits the model parameters to the server 400 located in the core network located on the ground. The final global federated learning model is obtained by integrating with the server 400 located in the core network. The calculated global model is transmitted to the corresponding FBS 200 by the satellite 300, which is again transmitted to the platoon leader FUE. Finally, the superintendent updates the local model by distributing the updated global model to the relevant FUE 100 . The process of learning may proceed in an iterative manner until the global federated learning model converges to a certain accuracy.

이하에서는, 본 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법과 이를 수행하는 학습 프레임워크 시스템 및 3차원 셀룰러 네트워크 시스템에 대해 설명하기로 한다. 이와 관련하여, 도 1 내지 도 3을 참조하여 학습 프레임워크 시스템 및 3차원 셀룰러 네트워크 시스템의 구성 요소에 대해 설명하면 다음과 같다.Hereinafter, a method for intermittent recognition federated learning in a three-dimensional cellular network according to the present invention, a learning framework system for performing the same, and a three-dimensional cellular network system will be described. In this regard, the components of the learning framework system and the 3D cellular network system will be described with reference to FIGS. 1 to 3 as follows.

1) FUEs 환경: FUEs 환경은 글로벌 연합 학습 모델의 학습에 참여하는 하는 공중 FUE로 구성된다.1) FUEs environment: The FUEs environment consists of public FUEs participating in the learning of the global federated learning model.

2) FUE 모듈: FUE 모듈은 공중에서 비행하는 모든 노드가 될 수 있다. 멀티로터 드론, 고정익 드론, 싱글로터 헬리콥터가 될 수 있다2) FUE module: The FUE module can be any node flying in the air. It could be a multi-rotor drone, a fixed-wing drone, or a single-rotor helicopter.

3) 로컬 학습 모델 모듈: FUE 모듈에 위치한 이 모듈은 로컬 학습 모델을 실행하여 로컬 학습 모델 매개 변수를 계산한다.3) Local learning model module: This module located in the FUE module runs the local learning model to calculate the local learning model parameters.

4) 로컬 데이터 모듈: 로컬 데이터 모듈은 로컬 학습 모델의 학습에 사용되는 로컬 장치 데이터를 저장한다.4) Local data module: The local data module stores local device data used for training of the local learning model.

5) FBSs 환경: FBS 환경은 비행 노드로 구성된다. 이 노드들은 충분한 계산 자원을 가진 멀티로터 드론, 고정익 드론, 단일 로터 헬리콥터가 될 수 있다.5) FBSs environment: FBS environment consists of flight nodes. These nodes can be multi-rotor drones, fixed-wing drones, or single-rotor helicopters with sufficient computational resources.

6) FBSs 모듈: FBS 모듈은 FUE의 기지국 역할을 한다. 제안된 간헐적 인식 연합 학습의 경우 다른 군집장에서 수신한 하위 글로벌 모델의 집계를 수행한다. 더욱이 이 모듈은 집계된 하위 글로벌 모델을 코어 네트워크 서버로 전송하기 위해 위성과 통신한다.6) FBSs module: The FBS module serves as a base station for the FUE. In the case of the proposed intermittent cognitive federated learning, we perform aggregation of sub-global models received from different clusters. Moreover, this module communicates with the satellite to transmit the aggregated sub-global model to the core network server.

7) 하위 글로벌 모델 모듈: 하위 글로벌 모델 모듈은 다른 군집장(FUE)로부터 수신된 하위 글로벌 모델의 집계를 수행한다.7) Lower global model module: The lower global model module performs aggregation of lower global models received from other FUEs.

8) 위성 환경: 위성 환경은 FBS와 코어 네트워크 사이의 통신 릴레이 역할을 하는 일련의 위성으로 구성된다.8) Satellite environment: The satellite environment consists of a set of satellites that act as communication relays between the FBS and the core network.

9) 위성 모듈: 위성 모듈은 지상에 위치한 FBS 및 코어 네트워크와 통신할 수 있는 모든 위성(예: LEO 위성)이 될 수 있다.9) Satellite module: A satellite module can be any satellite (eg LEO satellite) that can communicate with the FBS and core networks located on the ground.

10) 코어 네트워크 모듈: 코어 네트워크 모듈은 지상에 위치한 코어 네트워크로 구성되며 위성 모듈을 통한 FBS와의 통신을 담당한다.10) Core network module: The core network module consists of a core network located on the ground and is in charge of communication with the FBS through the satellite module.

11) 글로벌 모델 계산 모듈: 글로벌 모델 계산 모듈은 서로 다른 FBS의 통합된 하위 글로벌 모델을 모두 취합하여 글로벌 연합 학습 모델의 연산을 수행할 수 있다.11) Global model calculation module: The global model calculation module can perform the calculation of the global federated learning model by collecting all integrated sub-global models of different FBSs.

12) 군집 관리자 모듈: 군집 관리자 모듈은 FUE의 군집화를 담당한다. 먼저 군집장 역할을 할 FUE가 선택된다. FUE의 선택에 따라, 하위 글로벌 모델을 훈련하는 데 사용되는 군집이 형성된다.12) Cluster manager module: The cluster manager module is responsible for clustering the FUE. First, a FUE to serve as a platoon leader is selected. Depending on the choice of FUE, the clusters used to train the sub-global model are formed.

도 1 내지 도 3을 참조하여, 본 발명의 일 양상에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습을 수행하는 학습 프레임워크 시스템에 대해 설명하면 다음과 같다. 이와 관련하여, 도 3은 본 발명에 따른 연합 학습 프레임워크의 구성을 나타낸다. A learning framework system for performing intermittent recognition federated learning in a three-dimensional cellular network according to an aspect of the present invention will be described with reference to FIGS. 1 to 3 . In this regard, Figure 3 shows the configuration of the federated learning framework according to the present invention.

학습 프레임워크 시스템은 FUE 모듈(1), FBS 모듈(5) 및 위성 모듈(8)를 포함할 수 있다. 이와 관련하여, FUE 모듈(1)은 복수의 FUE들을 포함할 수 있고, 각각의 FUE들(2)은 로컬 학습 모델(3) 및 로컬 데이터(4)를 구비할 수 있다. 또한, FBS 모듈(5)은 복수의 FBS들을 포함할 수 있고, 각각의 FBS들(6)은 서브-글로벌 모델 모듈(7)을 포함할 수 있다. 위성 모듈(8)은 각각의 위성 모듈(9)을 포함할 수 있다.The learning framework system may include a FUE module 1 , an FBS module 5 and a satellite module 8 . In this regard, the FUE module 1 may include a plurality of FUEs, and each of the FUEs 2 may include a local learning model 3 and local data 4 . Further, the FBS module 5 may include a plurality of FBSs, and each of the FBSs 6 may include a sub-global model module 7 . The satellite modules 8 may include respective satellite modules 9 .

FUE 모듈(1)은 로컬 학습 모델과 로컬 데이터를 각각 구비하는 복수의 FUE(flying UE)들을 포함할 수 있다. FBS 모듈(5)은 FUE 모듈과 인터페이스되고, 각 군집 별로 로컬 모델 정보를 상기 복수의 FUE들 중 대표 FUE들로부터 수신하는 복수의 FBS(flying BS)들을 포함할 수 있다. 위성 모듈(8)은 FBS 모듈과 인터페이스되고, 상기 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 상기 복수의 FBS들로부터 수신하도록 구성될 수 있다. 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델은 각 군집 내에서 FUE들과 대표 FUE 사이에서 학습 모델 업데이트가 반복적인 방식으로 수행되어 계산될 수 있다.The FUE module 1 may include a plurality of flying UEs (FUEs) each having a local learning model and local data. The FBS module 5 may include a plurality of flying BSs that are interfaced with the FUE module and receive local model information for each cluster from representative FUEs among the plurality of FUEs. The satellite module 8 may be configured to interface with the FBS module and receive sub-global model information in which the local model information is integrated from the plurality of FBSs. The global federated learning model associated with the sub-global model information may be calculated by performing the learning model update between the FUEs and the representative FUE in each cluster in an iterative manner.

학습 프레임워크 시스템은 지상에 위치하고, 상기 위성 모듈과 인터페이스되는 코어 네트워크(10)를 더 포함할 수 있다. 위성 모듈(8)은 갱신된 상기 서브-글로벌 모델 정보와 연관된 모델 매개변수를 상기 코어 네트워크(10)에 위치한 서버로 전송할 수 있다.The learning framework system may further include a core network 10 located on the ground and interfaced with the satellite module. The satellite module 8 may transmit the updated model parameters associated with the sub-global model information to a server located in the core network 10 .

코어 네트워크(10)에 위치한 서버는 상기 모델 매개변수에 기반하여 글로벌 연합 학습 모델을 획득하고, 상기 글로벌 연합 학습 모델을 상기 위성 모듈(8)로 전달할 수 있다. 상기 위성 모듈(8)은 상기 글로벌 연합 학습 모델을 상기 FBS들을 통해 상기 대표 FUE들로 전송할 수 있다. The server located in the core network 10 may obtain a global federated learning model based on the model parameters, and transmit the global federated learning model to the satellite module 8 . The satellite module 8 may transmit the global federated learning model to the representative FUEs through the FBSs.

코어 네트워크(10)에 위치한 서버는 제1 FBS로부터 제1 모델 매개변수 및 제2 FBS로부터 제2 모델 매개변수를 획득하고, 상기 제1 모델 매개변수 및 상기 제2 모델 매개변수에 기반하여 상기 글로벌 연합 학습 모델을 갱신할 수 있다. 상기 대표 FUE들은 상기 갱신된 글로벌 연합 학습 모델을 상기 복수의 FUE들 중 관련 FUE에 배포하여 상기 로컬 학습 모델을 갱신할 수 있다. 상기 위성 모듈(8)은 상기 갱신된 글로벌 연합 학습 모델과 상기 관련 FUE와 연관된 FUE 매개 변수를 상기 대표 FUE들로 전송할 수 있다.The server located in the core network 10 obtains the first model parameter from the first FBS and the second model parameter from the second FBS, and based on the first model parameter and the second model parameter, the global The federated learning model can be updated. The representative FUEs may update the local learning model by distributing the updated global federated learning model to a related FUE among the plurality of FUEs. The satellite module 8 may transmit the updated global federated learning model and FUE parameters associated with the related FUE to the representative FUEs.

한편, 상기 로컬 학습 모델을 갱신하는 학습 과정은 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴할 때까지 반복적인 방식으로 진행될 수 있다. 이와 관련하여, 학습 프레임워크 시스템은 상기 FUE 모듈과 인터페이스되고, 상기 복수의 FUE들을 각 군집 별로 그룹 설정하도록 구성된 클러스터 매니저(12)를 더 포함할 수 있다. 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 상기 클러스터 매니저(12)는 상기 복수의 FUE들에 대한 군집 클러스터링을 변경할 수 있다.Meanwhile, the learning process of updating the local learning model may be performed in an iterative manner until the updated global federated learning model converges to have an accuracy greater than or equal to a threshold. In this regard, the learning framework system may further include a cluster manager 12 that is interfaced with the FUE module and configured to group the plurality of FUEs for each cluster. If it is determined that the updated global federated learning model does not converge to an accuracy greater than or equal to a threshold, the cluster manager 12 may change cluster clustering for the plurality of FUEs.

한편, 군집 클러스터링은 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는 경우 복수의 FUE들의 위치를 기반으로 수행될 수 있다. 이와 관련하여, 코어 네트워크(10)에 위치한 서버는 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하지 않는다고 판단되고, 상기 각 군집 내의 FUE가 각 군집 영역을 벗어난다고 판단되는지를 판단할 수 있다. 이 경우, 상기 클러스터 매니저(12)는 상기 각 군집 영역을 벗어난 FUE와 연관된 군집에 대한 군집 클러스터링을 변경할 수 있다.Meanwhile, cluster clustering may be performed based on the positions of a plurality of FUEs when the global federated learning model does not converge with an accuracy greater than or equal to a threshold. In this regard, the server located in the core network 10 determines that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold, and determines whether the FUE in each cluster is determined to deviate from each cluster area. have. In this case, the cluster manager 12 may change the cluster clustering for the cluster associated with the FUE outside the respective cluster area.

한편, 군집 클러스터링이 수행된 경우에도 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하지 않는다고 판단되면, 군집 클러스터링이 아닌 다른 방식으로 시스템을 일부 변경할 수 있다. 이와 관련하여, 코어 네트워크(10)에 위치한 서버는 상기 복수의 FUE들에 대한 군집 클러스터의 변경에 따른 제2 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하는지 여부를 판단할 수 있다. 군집 클러스터의 변경에 따른 제2 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 클러스터 매니저(12)는 상기 변경된 군집 클러스터링에 대해 대표 FUE를 변경할 수 있다.On the other hand, if it is determined that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold even when clustering is performed, the system may be partially changed in a manner other than clustering clustering. In this regard, the server located in the core network 10 may determine whether the second global federated learning model converges with an accuracy greater than or equal to a threshold according to the change of the cluster cluster for the plurality of FUEs. If it is determined that the second global federated learning model does not converge with an accuracy greater than or equal to the threshold according to the change of the cluster cluster, the cluster manager 12 may change the representative FUE for the changed cluster clustering.

따라서, 변경된 군집 클러스터링 및 변경된 대표 FUE를 기반으로, 전술한 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델과 관련한 학습 모델 업데이트가 반복적인 방식으로 수행될 수 있다. 이와 관련하여, 각 군집 내에서 서브-글로벌 모델 정보를 훈련하는 과정은 상기 각 군집 별로 이미 점유된 주파수 대역을 재사용하여 반복적으로 이루어지고, 상기 FUE들과 상기 대표 FUE 사이의 통신은 상기 FUE들과 FBS 간 통신보다 낮은 지연 시간을 갖는다.Accordingly, based on the changed clustering clustering and the changed representative FUE, the learning model update related to the global federated learning model associated with the above-described sub-global model information may be performed in an iterative manner. In this regard, the process of training sub-global model information in each cluster is repeatedly performed by reusing a frequency band already occupied for each cluster, and communication between the FUEs and the representative FUE is performed with the FUEs. It has lower latency than inter-FBS communication.

이하에서는 본 발명의 다른 양상에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법에 대해 설명하면 다음과 같다. 이와 관련하여, 상기 학습 방법은 복수의 FUE들과 FBS들을 포함하는 학습 프레임워크 시스템에 수행될 수 있다. 한편, 도 4는 본 발명의 일 실시 예에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법의 흐름도를 나타낸다. 도 5는 본 발명의 다른 실시 예에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법의 흐름도를 나타낸다. Hereinafter, a method for intermittent recognition federated learning in a 3D cellular network according to another aspect of the present invention will be described. In this regard, the learning method may be performed in a learning framework system including a plurality of FUEs and FBSs. Meanwhile, FIG. 4 is a flowchart illustrating a method for intermittent recognition joint learning in a 3D cellular network according to an embodiment of the present invention. 5 is a flowchart of a method for intermittent recognition federated learning in a 3D cellular network according to another embodiment of the present invention.

도 1 내지 도 4를 참조하면, 간헐적 인식 연합 학습 방법은 로컬 모델 정보 획득 과정(S100), 서브-글로벌 모델 정보 획득 과정(S200) 및 글로벌 연합 학습 모델 획득 과정(S300)을 포함하도록 구성될 수 있다. 한편, 간헐적 인식 연합 학습 방법은 글로벌 연합 학습 모델 전송 과정(S400) 및 로컬 학습 모델 갱신 과정(S500)을 더 포함할 수 있다. 도 1 내지 도 5를 참조하면, 간헐적 인식 연합 학습 방법은 군집 클러스터링 변경 과정(S600) 및 대표 FUE 변경 과정(S700)을 더 포함할 수 있다.1 to 4 , the intermittent recognition federated learning method may be configured to include a local model information acquisition process (S100), a sub-global model information acquisition process (S200), and a global federated learning model acquisition process (S300). have. Meanwhile, the intermittent recognition federated learning method may further include a global federated learning model transmission process ( S400 ) and a local learning model update process ( S500 ). 1 to 5 , the intermittent recognition federated learning method may further include a clustering clustering change process ( S600 ) and a representative FUE change process ( S700 ).

로컬 모델 정보 획득 과정(S100)에서, 로컬 학습 모델과 로컬 데이터를 각각 구비하는 복수의 FUE들 중 대표 FUE들로부터 각각의 FBS들이 로컬 모델 정보를 획득할 수 있다. 서브-글로벌 모델 정보 획득 과정(S200)에서, 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 위성 모듈이 획득할 수 있다. 글로벌 연합 학습 모델 획득 과정(S300)에서, 상기 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델을 코어 네트워크 내의 서버가 획득할 수 있다. In the local model information acquisition process ( S100 ), each FBS may acquire local model information from representative FUEs among a plurality of FUEs each having a local learning model and local data. In the sub-global model information acquisition process ( S200 ), the satellite module may acquire sub-global model information in which local model information is integrated. In the global federated learning model acquisition process ( S300 ), the server in the core network may acquire the global federated learning model associated with the sub-global model information.

위성 모듈과 인터페이스되는 상기 코어 네트워크는 지상에 위치할 수 있다. 글로벌 연합 학습 모델 획득 과정(S300)에서, 상기 위성 모듈은 갱신된 상기 서브-글로벌 모델 정보와 연관된 모델 매개변수를 상기 코어 네트워크에 위치한 상기 서버로 전송할 수 있다.The core network interfaced with the satellite module may be located on the ground. In the global federated learning model acquisition process ( S300 ), the satellite module may transmit the updated model parameters associated with the sub-global model information to the server located in the core network.

한편, 글로벌 연합 학습 모델 획득 과정(S300)에서, 상기 서버는 상기 모델 매개변수에 기반하여 글로벌 연합 학습 모델을 획득하고, 상기 글로벌 연합 학습 모델을 상기 위성 모듈로 전달할 수 있다. 글로벌 연합 학습 모델 전송 과정(S400)에서, 위성 모듈이 상기 글로벌 연합 학습 모델을 상기 FBS들을 통해 상기 대표 FUE들로 전송할 수 있다. 이와 관련하여, 각 군집 내에서 서브-글로벌 모델 정보를 훈련하는 과정은 상기 각 군집 별로 이미 점유된 주파수 대역을 재사용하여 반복적으로 이루어지고, 상기 FUE들과 상기 대표 FUE 사이의 통신은 상기 FUE들과 FBS 간 통신보다 낮은 지연 시간을 갖는다.Meanwhile, in the process of acquiring the global federated learning model ( S300 ), the server may acquire the global federated learning model based on the model parameters, and transmit the global federated learning model to the satellite module. In the global federated learning model transmission process (S400), the satellite module may transmit the global federated learning model to the representative FUEs through the FBSs. In this regard, the process of training sub-global model information in each cluster is repeatedly performed by reusing a frequency band already occupied for each cluster, and communication between the FUEs and the representative FUE is performed with the FUEs. It has lower latency than inter-FBS communication.

한편, 글로벌 연합 학습 모델 획득 과정(S300)에서, 서버는 제1 FBS로부터 제1 모델 매개변수 및 제2 FBS로부터 제2 모델 매개변수를 획득할 수 있다. 또한, 상기 제1 모델 매개변수 및 상기 제2 모델 매개변수에 기반하여 상기 글로벌 연합 학습 모델을 갱신할 수 있다. Meanwhile, in the global federated learning model acquisition process ( S300 ), the server may acquire the first model parameter from the first FBS and the second model parameter from the second FBS. In addition, the global federated learning model may be updated based on the first model parameter and the second model parameter.

한편, 로컬 학습 모델 갱신 과정(S500)에서, 대표 FUE들은 상기 갱신된 글로벌 연합 학습 모델을 상기 복수의 FUE들 중 관련 FUE에 배포하여 상기 로컬 학습 모델을 갱신할 수 있다. 이와 관련하여, 글로벌 연합 학습 모델 전송 과정(S400)에서, 상기 위성 모듈은 상기 갱신된 글로벌 연합 학습 모델과 상기 관련 FUE와 연관된 FUE 매개 변수를 상기 대표 FUE들로 전송할 수 있다. 이와 관련하여, 상기 관련 FUE와 연관된 FUE 매개 변수는 해당 변수를 송신 및 수신하는 엔티티 간에만 식별화될 수 있도록 익명화 또는 암호화될 수 있다. Meanwhile, in the local learning model update process ( S500 ), the representative FUEs may update the local learning model by distributing the updated global federated learning model to a related FUE among the plurality of FUEs. In this regard, in the global federated learning model transmission process ( S400 ), the satellite module may transmit the updated global federated learning model and FUE parameters associated with the related FUE to the representative FUEs. In this regard, the FUE parameters associated with the relevant FUE may be anonymized or encrypted so that they can only be identified between the entity transmitting and receiving the variable.

한편, 로컬 학습 모델 갱신 과정(S500)은 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴할 때까지 반복적인 방식으로 진행될 수 있다. 상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 클러스터 매니저는 상기 복수의 FUE들에 대한 군집 클러스터링을 변경하는 군집 클러스터링 변경 과정(S600)을 더 수행될 수 있다.On the other hand, the local learning model update process ( S500 ) may be performed in an iterative manner until the updated global federated learning model converges to have an accuracy greater than or equal to a threshold value. If it is determined that the updated global federated learning model does not converge to an accuracy greater than or equal to a threshold, the cluster manager may further perform a clustering change process ( S600 ) of changing the clustering clustering for the plurality of FUEs.

상기 갱신된 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하지 않는다고 판단되고, 상기 각 군집 내의 FUE가 각 군집 영역을 벗어난다고 판단되면, 상기 군집 클러스터링 변경 과정(S600)에서 상기 클러스터 매니저는 상기 각 군집 영역을 벗어난 FUE와 연관된 군집에 대한 군집 클러스터링을 변경할 수 있다. 한편, 상기 복수의 FUE들에 대한 군집 클러스터의 변경에 따른 제2 글로벌 연합 학습 모델이 임계치 이상의 정확도로 수렴하지 않는다고 판단되면, 상기 클러스터 매니저는 상기 변경된 군집 클러스터링에 대해 대표 FUE를 변경하는 대표 FUE 변경 과정(S700)을 더 수행할 수 있다. 대표 FUE 변경 과정(S700)이 수행된 이후 컬 모델 정보 획득 과정(S100) 이하의 과정이 반복될 수 있다. If it is determined that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold, and it is determined that the FUE in each cluster is out of each cluster area, in the clustering change process S600, the cluster manager It is possible to change the clustering clustering for the clusters associated with the FUE out of the cluster area. On the other hand, if it is determined that the second global federated learning model according to the change of the cluster cluster for the plurality of FUEs does not converge to an accuracy greater than or equal to a threshold, the cluster manager changes the representative FUE for the changed cluster clustering. The process (S700) may be further performed. After the representative FUE change process ( S700 ) is performed, the process below the curl model information acquisition process ( S100 ) may be repeated.

한편, 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴한다고 판단되면, 통신 연결이 필요한지 여부에 따라 전술한 과정을 반복하거나 또는 간헐적 인식 연합 학습 과정을 종료할 수 있다. 이와 관련하여, 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하고 갱신된 로컬 모델에 따라 통신 연결이 필요하면, 서브-글로벌 모델 정보 획득 과정(S200) 이하의 과정이 반복될 수 있다. 하지만, 이러한 절차에 한정되는 것은 아니고, 로컬 모델 정보를 다시 획득할 필요가 있다고 판단되면, 로컬 모델 정보 획득 과정(S100) 이하의 과정이 반복될 수 있다. 반면에, 글로벌 연합 학습 모델이 임계치 이상의 정확도를 갖는 것으로 수렴하고 갱신된 로컬 모델에 따라 통신 연결이 필요하지 않다고 판단되면, 간헐적 인식 연합 학습 과정을 종료할 수 있다. On the other hand, if it is determined that the global federated learning model converges to have an accuracy greater than or equal to the threshold, the above-described process may be repeated or the intermittent recognition federated learning process may be terminated depending on whether a communication connection is required. In this regard, if the global federated learning model converges to have an accuracy greater than or equal to a threshold and a communication connection is required according to the updated local model, the sub-global model information acquisition process ( S200 ) and the following processes may be repeated. However, it is not limited to this procedure, and if it is determined that it is necessary to acquire the local model information again, the process below the local model information acquisition process S100 may be repeated. On the other hand, if the global federated learning model converges to have an accuracy greater than or equal to the threshold and it is determined that communication connection is not required according to the updated local model, the intermittent recognition federated learning process may be terminated.

이상에서는 본 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법 및 이를 수행하는 학습 프레임워크 시스템에 대해 설명하였다. 이하에서는 본 발명의 또 다른 양상에 따른 학습 프레임워크를 통해 간헐적 인식 연합 학습을 수행하는 3차원 셀룰러 네트워크 시스템에 대해 설명하기로 한다. 이와 관련하여, 간헐적 인식 연합 학습 방법 및 학습 프레임워크 시스템에 대한 전술한 모든 설명이 3차원 셀룰러 네트워크 시스템에 대해 적용 가능하다.In the above, a method for intermittent recognition federated learning in a three-dimensional cellular network according to the present invention and a learning framework system for performing the same have been described. Hereinafter, a three-dimensional cellular network system for performing intermittent cognitive federated learning through a learning framework according to another aspect of the present invention will be described. In this regard, all of the above descriptions of the intermittent recognition federated learning method and the learning framework system are applicable to the three-dimensional cellular network system.

도 1 내지 도 5를 참조하면, 3차원 셀룰러 네트워크 시스템은 복수의 FUE(flying UE)들(100), 복수의 FBS(flying BS)(200) 및 LEO 위성(300)을 포함하도록 구성 가능하다. 또한, 3차원 셀룰러 네트워크 시스템은 코어 네트워크에 위치한 서버(400)를 더 포함할 수 있다.1 to 5, the three-dimensional cellular network system is configurable to include a plurality of FUE (flying UE) 100, a plurality of FBS (flying BS) 200 and LEO satellite (300). In addition, the 3D cellular network system may further include a server 400 located in the core network.

복수의 FUE들(100)은 로컬 학습 모델과 로컬 데이터를 각각 구비하도록 구성될 수 있다. 복수의 FBS들(200)는 FUE들(100)과 인터페이스되고, 각 군집 별로 로컬 모델 정보를 복수의 FUE들(100) 중 대표 FUE들로부터 수신하도록 구성될 수 있다. LEO 위성(300)은 복수의 FBS들(200)과 인터페이스되고, 상기 로컬 모델 정보가 통합된 서브-글로벌 모델 정보를 상기 복수의 FBS들(200)로부터 수신할 수 있다. 한편, 서브-글로벌 모델 정보와 연관된 글로벌 연합 학습 모델은 각 군집 내에서 FUE들(100)과 대표 FUE 사이에서 학습 모델 업데이트가 반복적인 방식으로 수행되어 계산될 수 있다.The plurality of FUEs 100 may be configured to have a local learning model and local data, respectively. The plurality of FBSs 200 may be interfaced with the FUEs 100 and configured to receive local model information for each cluster from representative FUEs of the plurality of FUEs 100 . The LEO satellite 300 may be interfaced with a plurality of FBSs 200 , and may receive sub-global model information in which the local model information is integrated from the plurality of FBSs 200 . Meanwhile, the global federated learning model associated with the sub-global model information may be calculated by performing the learning model update iteratively between the FUEs 100 and the representative FUE within each cluster.

한편, LEO 위성(300)은 갱신된 상기 서브-글로벌 모델 정보와 연관된 모델 매개변수를 상기 서버(400)로 전송할 수 있다. 서버(400)는 상기 모델 매개변수에 기반하여 글로벌 연합 학습 모델을 획득하고, 상기 글로벌 연합 학습 모델을 상기 LEO 위성(300)으로 전달할 수 있다. LEO 위성(300)은 상기 글로벌 연합 학습 모델을 상기 FBS들(200)을 통해 상기 대표 FUE들로 전송할 수 있다.Meanwhile, the LEO satellite 300 may transmit the updated sub-global model information and associated model parameters to the server 400 . The server 400 may acquire a global federated learning model based on the model parameters, and transmit the global federated learning model to the LEO satellite 300 . The LEO satellite 300 may transmit the global federated learning model to the representative FUEs through the FBSs 200 .

한편, 서버(400)는 제1 FBS로부터 제1 모델 매개변수 및 제2 FBS로부터 제2 모델 매개변수를 획득하고, 상기 제1 모델 매개변수 및 상기 제2 모델 매개변수에 기반하여 상기 글로벌 연합 학습 모델을 갱신할 수 있다. 대표 FUE들은 상기 갱신된 글로벌 연합 학습 모델을 상기 복수의 FUE(100)들 중 관련 FUE에 배포하여 상기 로컬 학습 모델을 갱신할 수 있다. LEO 위성(300)은 상기 갱신된 글로벌 연합 학습 모델과 상기 관련 FUE와 연관된 FUE 매개 변수를 상기 대표 FUE들로 전송할 수 있다.On the other hand, the server 400 obtains the first model parameter from the first FBS and the second model parameter from the second FBS, and the global federated learning based on the first model parameter and the second model parameter The model can be updated. Representative FUEs may update the local learning model by distributing the updated global federated learning model to a related FUE among the plurality of FUEs 100 . The LEO satellite 300 may transmit the updated global federated learning model and FUE parameters associated with the related FUE to the representative FUEs.

이상에서는 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법 및 이를 수행하는 학습 프레임워크 시스템 및 3차원 셀룰러 네트워크 시스템에 대해 살펴보았다. 본 발명에 따른 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법의 활용분야는 스마트 배송 서비스(예: 에어드론 배송 서비스), 재난 관리, 군사 감시 및 스마트 헬스케어 분야이다. 본 발명에 따른 기술적 효과에 대해 살펴보면 다음과 같다.In the above, a method for intermittent recognition federated learning in a three-dimensional cellular network according to the present invention, a learning framework system for performing the same, and a three-dimensional cellular network system have been reviewed. Fields of application of the intermittent recognition federated learning method in the three-dimensional cellular network according to the present invention are smart delivery service (eg, air drone delivery service), disaster management, military surveillance, and smart healthcare fields. Looking at the technical effects of the present invention are as follows.

본 발명에 따르면, 3차원 셀룰러 네트워크를 위한 새로운 간헐적 인식 연합 학습 프레임워크를 제공할 수 있다. According to the present invention, it is possible to provide a new intermittent recognition federated learning framework for a three-dimensional cellular network.

또한, 본 발명에 따른 특허기술의 사업화 전망은 다음과 같다. 사업적인 측면에서 제안된 간헐적 인식 연합 학습 프레임워크를 스마트 군사 애플리케이션, 스마트 전달 서비스, 스마트 모니터링 등에 사용할 수 있다.In addition, the commercialization prospects of the patented technology according to the present invention are as follows. In the business aspect, the proposed intermittent cognitive federated learning framework can be used for smart military applications, smart delivery services, and smart monitoring.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능뿐만 아니라 각각의 구성 요소들에 대한 설계 및 파라미터 최적화는 별도의 소프트웨어 모듈로도 구현될 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리에 저장되고, 제어부(controller) 또는 프로세서(processor)에 의해 실행될 수 있다.According to the software implementation, not only the procedures and functions described in this specification but also the design and parameter optimization for each component may be implemented as a separate software module. The software code may be implemented as a software application written in a suitable programming language. The software code may be stored in a memory and executed by a controller or a processor.

Claims

In a learning framework system for performing intermittent cognitive federated learning in a three-dimensional cellular network,
a FUE module comprising a plurality of flying UEs (FUEs) each having a local learning model and local data;
an FBS module interfaced with the FUE module and including a plurality of flying BSs (FBSs) that receive local model information for each cluster from representative FUEs among the plurality of FUEs; and
a satellite module interfaced with the FBS module and receiving sub-global model information in which the local model information is integrated, from the plurality of FBSs;
The global federated learning model associated with the sub-global model information is calculated by performing the learning model update in an iterative manner between the FUEs and the representative FUE within each cluster,
The process of training the sub-global model information in each cluster is repeatedly performed by reusing a frequency band already occupied for each cluster, and communication between the FUEs and the representative FUE is performed between the FUEs and the FBS. A learning framework system with lower latency than communication.

According to claim 1,
It is located on the ground and further comprises a core network interfaced with the satellite module,
and the satellite module transmits the updated model parameters associated with the sub-global model information to a server located in the core network.

3. The method of claim 2,
the server acquires a global federated learning model based on the model parameters, and transmits the global federated learning model to the satellite module;
and the satellite module transmits the global federated learning model to the representative FUEs via the FBSs.

4. The method of claim 3,
The server obtains a first model parameter from a first FBS and a second model parameter from a second FBS, and updates the global federated learning model based on the first model parameter and the second model parameter , a learning framework system.

5. The method of claim 4,
The representative FUEs update the local learning model by distributing the updated global federated learning model to a relevant FUE among the plurality of FUEs,
and the satellite module transmits the updated global federated learning model and FUE parameters associated with the related FUE to the representative FUEs.

6. The method of claim 5,
The learning process of updating the local learning model proceeds in an iterative manner until the updated global federated learning model converges to have an accuracy above a threshold value.

7. The method of claim 6,
Further comprising a cluster manager interfaced with the FUE module and configured to group the plurality of FUEs for each cluster,
If it is determined that the updated global federated learning model does not converge to an accuracy greater than or equal to a threshold, the cluster manager changes cluster clustering for the plurality of FUEs.

8. The method of claim 7,
If it is determined that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold, and it is determined that the FUE in each cluster deviates from each cluster area, the cluster manager is assigned to the cluster associated with the FUE out of each cluster area. A learning framework system that changes clustering clustering for

8. The method of claim 7,
If it is determined that the second global federated learning model does not converge to an accuracy greater than or equal to a threshold according to the change of the cluster cluster for the plurality of FUEs, the cluster manager changes the representative FUE for the changed cluster clustering, learning framework system .

In the intermittent recognition federated learning method in a three-dimensional cellular network, the learning method is performed in a learning framework system including a plurality of FUEs and FBSs, the method comprising:
a local model information acquisition process in which each FBS acquires local model information from representative FUEs among a plurality of FUEs each having a local learning model and local data;
a sub-global model information acquisition process in which the satellite module acquires sub-global model information in which local model information is integrated; and
A global federated learning model acquisition process in which a server in a core network acquires a global federated learning model associated with the sub-global model information,
The global federated learning model associated with the sub-global model information is calculated by performing the learning model update in an iterative manner between the FUEs and the representative FUE within each cluster.

11. The method of claim 10,
The core network interfaced with the satellite module is located on the ground,
In the global federated learning model acquisition process, the satellite module transmits the updated model parameters associated with the sub-global model information to the server located in the core network.

12. The method of claim 11,
In the process of acquiring the global federated learning model, the server acquires a global federated learning model based on the model parameters, and transmits the global federated learning model to the satellite module,
The method further comprising a global federated learning model transmission process in which the satellite module transmits the global federated learning model to the representative FUEs through the FBSs.

13. The method of claim 12,
In the process of acquiring the global federated learning model,
The server obtains a first model parameter from a first FBS and a second model parameter from a second FBS, and updates the global federated learning model based on the first model parameter and the second model parameter , how to learn.

14. The method of claim 13,
The representative FUEs further include a local learning model update process of updating the local learning model by distributing the updated global federated learning model to a related FUE among the plurality of FUEs,
In the process of transmitting the global federated learning model, the satellite module transmits the updated global federated learning model and the FUE parameters associated with the related FUE to the representative FUEs.

15. The method of claim 14,
The local learning model update process proceeds in an iterative manner until the updated global federated learning model converges to have an accuracy greater than or equal to a threshold,
If it is determined that the updated global federated learning model does not converge to an accuracy greater than or equal to a threshold, the cluster manager further comprises a clustering change process of changing the clustering clustering for the plurality of FUEs.

16. The method of claim 15,
If it is determined that the updated global federated learning model does not converge to have an accuracy greater than or equal to a threshold, and it is determined that the FUE in each cluster is out of each cluster area, in the process of changing the clustering clustering, the cluster manager selects each cluster area A learning method that alters the cluster clustering for the clusters associated with an out-of-bounds FUE.

16. The method of claim 15,
If it is determined that the second global federated learning model according to the change of the cluster cluster for the plurality of FUEs does not converge with an accuracy greater than or equal to a threshold, the cluster manager changes the representative FUE for the changed cluster clustering. The representative FUE change process More inclusive, learning methods.

In a three-dimensional cellular network system for performing intermittent cognitive federated learning through a learning framework,
a plurality of flying UEs (FUEs) each having a local learning model and local data;
a plurality of flying BSs (FBSs) interfaced with the FUEs and configured to receive local model information for each cluster from representative FUEs among the plurality of FUEs; and
and an LEO satellite interfaced with the FBSs and receiving sub-global model information in which the local model information is integrated, from the plurality of FBSs,
The global federated learning model associated with the sub-global model information is calculated by performing the learning model update in an iterative manner between the FUEs and the representative FUE within each cluster.

19. The method of claim 18,
It is located on the ground, further comprising a server located in the core network interfaced with the LEO satellite,
the LEO satellite transmits the updated sub-global model information and associated model parameters to the server;
the server acquires a global federated learning model based on the model parameters, and transmits the global federated learning model to the LEO satellite;
The LEO satellite transmits the global federated learning model to the representative FUEs through the FBSs.

20. The method of claim 19,
the server obtains a first model parameter from a first FBS and a second model parameter from a second FBS, and updates the global federated learning model based on the first model parameter and the second model parameter; ,
The representative FUEs update the local learning model by distributing the updated global federated learning model to a relevant FUE among the plurality of FUEs,
The LEO satellite transmits the updated global federated learning model and the FUE parameters associated with the related FUE to the representative FUEs.