KR20220009646A - 인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법 - Google Patents
인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법 Download PDFInfo
- Publication number
- KR20220009646A KR20220009646A KR1020200088120A KR20200088120A KR20220009646A KR 20220009646 A KR20220009646 A KR 20220009646A KR 1020200088120 A KR1020200088120 A KR 1020200088120A KR 20200088120 A KR20200088120 A KR 20200088120A KR 20220009646 A KR20220009646 A KR 20220009646A
- Authority
- KR
- South Korea
- Prior art keywords
- recognition model
- federated learning
- propensity
- user terminal
- recognition
- Prior art date
Links
- 230000013016 learning Effects 0.000 title claims abstract description 174
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000004458 analytical method Methods 0.000 title claims abstract description 26
- 230000001149 cognitive effect Effects 0.000 claims abstract description 4
- 238000005728 strengthening Methods 0.000 abstract description 2
- 230000019771 cognition Effects 0.000 abstract 4
- 238000010586 diagram Methods 0.000 description 15
- 238000011161 development Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000035045 associative learning Effects 0.000 description 2
- 238000004821 distillation Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000002787 reinforcement Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000003014 reinforcing effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
- G06F18/2115—Selection of the most significant subset of features by evaluating different subsets according to an optimisation criterion, e.g. class separability, forward selection or backward elimination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G06N3/0454—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법이 개시된다. 본 발명의 실시예에 따른 실시예에 따른 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법은, 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계, 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계 및 복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송하는 단계를 포함할 수 있다.
Description
기재된 실시예는 다양한 인공지능 네트워크의 교류 및 강화를 위한 연합 학습 기술에 관한 것이다.
인공 지능 기술의 발전에 따라서 점차 자기 스스로 강화하거나 환경에 적응하는 방식의 인식기가 나타나고 있다. 그와 함께 동일한 인식기를 모두가 공유하는 방식이 아닌, 사용자나 단말기 각각이 자신에게 적합한 인식기를 사용하는 시대가 올 것으로 기대된다.
그리고 이런 다양한 인식기를 모아서 하나의 더 좋은 인식기를 만들어내는 연구로 '연합 학습(Federated Learning)'이 있다. 이 때 중요한 이슈로는 개인 정보의 보호, 통신량의 최소화, 강화된 인식기의 성능이 이에 해당한다.
지금까지 가장 널리 알려진 방식의 연합 학습에서는 메인 서버가 복수의 단말들 각각으로부터 가중치들을 획득하여, 복수의 가중치들로부터 평균 또는 증류(Distillation) 등을 통해 강화된 하나의 인식기를 생성한다. 그 후, 메인 서버가 다시 단말들에게 연합 학습의 결과 인식기를 재 배포하는 방식이 일반적이다. 이 외에도 업데이트의 기울기(Gradient) 혹은 강화용 수집 데이터를 공유하는 방식도 존재하나, 이는 통신량이 너무 많을 뿐만 아니라 개인 정보를 포함하고 있기 때문에 상대적으로 많이 사용되지 않고 있다.
이런 연합 학습에 관한 연구들은 휴대폰과 같은 보급형 모바일 기기에서 각자의 환경에 맞는 데이터를 수집 및 강화한 후, 이를 연합해 더 일반화된 인식기를 만드는 방향으로 제안되었다. 또한, 병원에서의 의료 데이터와 같이 개인 정보를 포함하고 있어 외부로 유출이 되지 않는 상황에서 데이터 유출 없이 병원끼리의 인식기 공유를 통해 강화된 인식기를 만드는 방향으로도 적용되려는 모습을 보이고 있다.
그러나, 이런 일반적인 방식의 연합 학습에는 다음과 같은 몇 가지 문제점들이 존재한다.
우선, 가중치를 공유하는 것이 개인 정보를 포함하지 않는가에 대해 확신할 수 없다. 우선, 딥러닝의 시각화 연구는 많은 발전을 이뤄 인식기의 구조와 가중치로부터 데이터를 알아내거나, 비교적 자연스럽게 생성할 수 있게 되었다. 이와 같은 기술의 발전은 곧 가중치와 인식기로부터 개인정보를 추출하는데 이를 수 있다.
다음으로, Adversarial Attack 기술의 발전이다. 인식기와 가중치로부터 인식기의 약점을 파악하고, 인식기 자체를 무용지물로 만들어내는 기술은 최근 다양하게 연구되고 있다. 일반적인 방식의 메인 서버가 모든 가중치를 보유하는 방식은 이런 위험을 안게 된다. 또한, 모든 기기가 같은 가중치를 갖기 때문에, 자기가 받은 가중치를 분석해 모두의 인식기를 무력화시키는 방법을 쉽게 찾을 수 있다.
마지막으로 중앙에서 모든 사용자에 알맞은 인식기를 만들어 배포하기에는 부담이 너무 크다. 사용자는 모두 각자의 환경이 있고, 자신의 인식기가 모든 환경에서 원활히 동작하기보다는 자신의 환경에서 더 잘 동작하기를 원할 수 있다. 예를 들어, 가정 환경에 특화된 인식기가 굳이 공사 현장에서도 잘 동작할 필요는 없다. 중앙에서 모든 사용자에 적합한 인식기를 만들기 위해서는 무수히 많은 인식기 강화를 진행해야 하며, 다시 배포해야 한다.
이런 문제점들이 있지만 자가 학습 기술의 발전, 모바일 장비의 발전, 그리고 개인 맞춤형 인공지능 기술의 수요에 따라 연합 학습의 필요성과 가능성은 점점 커질 것으로 예상된다. 그와 동시에 이런 잠재적 문제점들은 본격적으로 연합 학습이 확대되었을 때 큰 문제들을 야기할 수 있다.
실시예는 연합 학습을 통해 사용자 각각의 특성을 반영하여 사용자에게 적합한 방향 또는 사용자가 원하는 방향으로 인식 모델을 강화시키는 데 목적이 있다.
실시예는 연합 학습된 가중치 공유에 따라 발생될 수 있는 개인 정보 유출을 방지하는 데 그 목적이 있다.
실시예는 연합 학습된 인식기와 가중치로부터 약점을 파악하여 인식기를 무력화시키는 것을 방지하는데 그 목적이 있다.
실시예는 연합 학습을 위해 메인 서버에서 다양한 사용자 특정에 적합한 인식기를 생성하여 배포하는데 따른 부담을 해소하는 데 그 목적이 있다.
실시예에 따른 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법은, 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계, 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계 및 복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송하는 단계를 포함할 수 있다.
이때, 인식 모델의 성향을 분석하는 단계는, 사용자 단말에 샘플 데이터를 전송하는 단계, 사용자 단말로부터 샘플 데이터를 입력으로 하는 인식 모델의 인식 결과 데이터를 수신하는 단계 및 인식 결과 데이터를 기반으로 인식 모델의 성향을 판단하는 단계를 포함할 수 있다.
이때, 샘플 데이터는, 환경 속성 및 사용자 속성 중 적어도 하나의 따라 그 종류가 분류되고, 사용자 단말에 샘플 데이터를 전송하는 단계는, 종류별 샘플 데이터들을 전송하고, 인식 결과 데이터는, 종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들이고, 인식 모델의 성향을 판단하는 단계는, 종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들 각각의 정확도를 기반으로 인식 모델의 성향을 판단할 수 있다.
이때, 인식 모델의 성향은, 환경 속성, 사용자 속성, 입력 데이터 명확성, 출력 결과 명확성, 출력 클래스 별 편향성 및 범용성 중 적어도 하나를 포함하는 지표에 의해 표현될 수 있다.
이때, 연합 학습 그룹 정보는, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보를 더 포함할 수 있다.
실시예에 따른 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법은, 연합 학습 그룹별로 연합 학습에 따라 생성될 인식 모델의 성향을 예측하는 단계를 더 포함하고, 연합 학습 그룹 정보는, 예측된 인식 모델의 성향을 더 포함할 수 있다.
실시예에 따른 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법은, 사용자 단말로부터 연합 학습에 따른 인식 모델의 목표 성향을 선택받는 단계를 더 포함하고, 그룹핑하는 단계는, 선택받은 인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말을 선택할 수 있다.
이때, 인식 모델은, 적어도 하나의 지표를 축으로 하는 공간에서 좌표값을 갖는 점으로 표현되고, 그룹핑하는 단계는, 인식 모델들 각각에 상응한 점들 간의 거리를 기반으로 그룹핑할 수 있다.
실시예에 따른 사용자 단말에서의 연합 학습 방법은, 서버 장치로부터 연합 학습 그룹 정보를 수신하는 단계, 연합 학습 그룹 정보에 포함된 다른 사용자 단말의 인식 모델 가중치를 획득하는 단계 및 획득된 인식 모델 가중치를 이용하여 인식 모델의 연합 학습을 수행하는 단계를 포함하되, 연합 학습 그룹 정보에 포함된 다른 사용자 단말은, 사용자 단말에 의해 강화 학습된 인식 모델의 성향을 기반으로 그룹핑된 것일 수 있다.
이때, 실시예에 따른 사용자 단말에서의 연합 학습 방법은, 서버 장치로부터 환경 속성 및 사용자 속성 중 적어도 하나의 따라 분류된 종류별 샘플 데이터를 수신하는 단계 및 종류별 샘플 데이터들 각각을 인식 모델에 입력하여 출력된 결과 데이터들을 서버 장치에 전송하는 단계를 더 포함하되, 인식 결과 데이터들은, 인식 모델의 성향 판단에 사용될 수 있다.
이때, 실시예에 따른 사용자 단말에서의 연합 학습 방법은, 서버 장치에 연합 학습에 따른 인식 모델의 목표 성향을 요청하는 단계를 더 포함하고, 연합 학습 그룹 정보는, 인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말의 정보일 수 있다.
이때, 연합 학습 그룹 정보는, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보 및 연합 학습 그룹별로 연합 학습에 따라 생성될 것으로 예측되는 인식 모델의 성향 중 적어도 하나를 더 포함할 수 있다.
이때, 인식 모델 가중치는, 다른 사용자 단말의 인식 모델 가중치 공유 수락에 따라 획득될 수 있다.
실시예에 따른 서버 장치는, 적어도 하나의 프로그램이 기록된 메모리 및 프로그램을 실행하는 프로세서를 포함하며, 프로그램은, 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계, 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계 및 복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송하는 단계를 수행할 수 있다.
이때, 인식 모델의 성향을 분석하는 단계는, 사용자 단말에 샘플 데이터를 전송하는 단계, 사용자 단말로부터 샘플 데이터를 입력으로 하는 인식 모델의 인식 결과 데이터를 수신하는 단계 및 인식 결과 데이터를 기반으로 인식 모델의 성향을 판단하는 단계를 포함할 수 있다.
이때, 샘플 데이터는, 환경 속성 및 사용자 속성 중 적어도 하나의 따라 그 종류가 분류되고, 사용자 단말에 샘플 데이터를 전송하는 단계는, 종류별 샘플 데이터들을 전송하고, 인식 결과 데이터는, 종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들이고, 인식 모델의 성향을 판단하는 단계는, 종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들 각각의 정확도를 기반으로 인식 모델의 성향을 판단할 수 있다.
이때, 인식 모델의 성향은, 환경 속성, 사용자 속성, 입력 데이터 명확성, 출력 결과 명확성, 출력 클래스별 편향성 및 범용성 중 적어도 하나를 포함하는 지표에 의해 표현될 수 있다.
이때, 연합 학습 그룹 정보는, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보를 더 포함할 수 있다.
이때, 프로그램은, 연합 학습 그룹별로 연합 학습에 따라 생성될 인식 모델의 성향을 예측하는 단계를 더 수행하고, 연합 학습 그룹 정보는, 예측된 인식 모델의 성향을 더 포함할 수 있다.
이때, 프로그램은, 사용자 단말로부터 연합 학습에 따른 인식 모델의 목표 성향을 선택받는 단계를 더 수행하고, 그룹핑하는 단계는, 선택받은 인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말을 선택할 수 있다.
실시예에 따라, 연합 학습을 통해 사용자 각각의 특성을 반영하여 사용자에게 적합한 방향 또는 사용자가 원하는 방향으로 개인 특화형 인식 모델을 강화시킬 수 있다.
실시예에 따라, 연합 학습된 가중치 공유에 따라 발생될 수 있는 개인 정보 유출을 방지할 수 있다. 즉, 사용자의 동의 하에 가중치 공유가 진행되기 때문에 개인 정보와 관련된 문제로부터 비교적 자유로울 수 있다.
실시예에 따라, 연합 학습된 인식기와 가중치로부터 약점을 파악하여 인식기를 무력화시키는 것을 방지할 수 있다.
실시예에 따라, 연합 학습을 위한 메인 서버에서 다양한 사용자 특정에 적합한 인식기를 생성하여 배포하는데 따른 부담을 해소시킬 수 있다.
실시예에 따라, 사용자들은 자기 모델의 특성을 파악할 수 있으며, 연합 학습의 결과도 예상해볼 수 있다.
실시예는, 디바이스의 발전이 진행됨과 보급이 많아짐에 따라 더 넓은 활용이 가능할 것으로 기대된다.
도 1은 일반적인 연합 학습 시스템의 개략적인 구성도이다.
도 2는 실시예에 따른 연합 학습 시스템의 개략적인 구성도이다.
도 3은 실시예에 따른 서버 장치의 개략적인 블록 구성도이다.
도 4는 실시예에 따른 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계를 설명하기 위한 신호 흐름도이다.
도 5는 실시예에 따른 인식 모델 성향 표현 예시도이다.
도 6은 실시예에 따른 연합 학습 결과 예측 예시도이다.
도 7은 실시예에 따른 인식 모델 성향의 좌표 공간 예시도이다.
도 8은 실시예에 따른 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계를 설명하기 위한 순서도이다.
도 9는 실시예에 따른 사용자 단말에서의 연합 학습 방법을 설명하기 위한 신호 흐름도이다.
도 10은 실시예에 따른 컴퓨터 시스템 구성을 나타낸 도면이다.
도 2는 실시예에 따른 연합 학습 시스템의 개략적인 구성도이다.
도 3은 실시예에 따른 서버 장치의 개략적인 블록 구성도이다.
도 4는 실시예에 따른 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계를 설명하기 위한 신호 흐름도이다.
도 5는 실시예에 따른 인식 모델 성향 표현 예시도이다.
도 6은 실시예에 따른 연합 학습 결과 예측 예시도이다.
도 7은 실시예에 따른 인식 모델 성향의 좌표 공간 예시도이다.
도 8은 실시예에 따른 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계를 설명하기 위한 순서도이다.
도 9는 실시예에 따른 사용자 단말에서의 연합 학습 방법을 설명하기 위한 신호 흐름도이다.
도 10은 실시예에 따른 컴퓨터 시스템 구성을 나타낸 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
비록 "제1" 또는 "제2" 등이 다양한 구성요소를 서술하기 위해서 사용되나, 이러한 구성요소는 상기와 같은 용어에 의해 제한되지 않는다. 상기와 같은 용어는 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용될 수 있다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있다.
본 명세서에서 사용된 용어는 실시예를 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 또는 "포함하는(comprising)"은 언급된 구성요소 또는 단계가 하나 이상의 다른 구성요소 또는 단계의 존재 또는 추가를 배제하지 않는다는 의미를 내포한다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 해석될 수 있다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하에서는, 도 1 내지 도 10을 참조하여 실시예에 따른 장치 및 방법이 상세히 설명된다.
도 1은 일반적인 연합 학습 시스템의 개략적인 구성도이다.
도 1을 참조하면, 사용자 단말(10)은 최근 모바일 기기의 성능은 자체적으로 인식 모델을 학습시킬 수 있는 수준에 이르렀다. 이에 연합 학습의 이전에 각 사용자 단말(10)은 자체적으로 자기 강화 학습을 하고 있기 때문에, 인식 모델이 모두 상이하다.
이에, 중앙의 메인 서버(100)가 사용자 단말들(10) 별로 각각 각각 상이한 인식 모델의 가중치를 획득하여, 복수의 가중치들로부터 평균 또는 증류(Distillation) 등을 통해 강화된 하나의 인식기를 생성하게 된다.
이러한 종래의 연합 학습 시스템에서는 메인 서버(100)가 모든 사용자 단말들(100)로부터 수신한 가중치들을 전달받아 처리해야 하므로 부하가 커지게 된다.
따라서, 더 나아가 사용자 단말들(10) 각각에 맞춤형 인식 모델을 제공해주기 위해서 메인 서버(100)에 걸리는 부하는 더더욱 가중될 수 밖에 없다. 즉, 사용자 단말들(10)의 개수가 100개일 경우, 중앙의 메인 서버(100)는 100개의 가중치들을 획득하여 사용자 단말들(10) 각각이 원하는 형태로 가중치를 100회 조합하여 연합 학습해야 하기 때문이다. 따라서, 하나의 메인 서버(100)에서 모든 사람에게 적합한 모델을 생성해주는 것은 불가능하다.
따라서, 본 발명은 하나의 메인 서버가 중앙에서 연합 학습을 수행하는 것이 아니라 그룹핑된 사용자 단말들 간의 가중치 공유를 통해 로컬 연합 학습을 수행하는 것이 가능하도록 하는 인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법을 제안한다.
도 2는 실시예에 따른 연합 학습 시스템의 개략적인 구성도이다.
도 2를 참조하면, 도 1이 도시된 바와 같이 메인 서버(100)가 중앙 집중 방식의 연합 학습을 수행하는 것이 아닌 연합 학습 그룹들 별로 각각의 사용자 단말들(10-1, 10-2, 10-3) 간에 직접 데이터 교환을 통해 로컬 연합 학습이 수행되는 것으로 도시되어 있다.
이때, 교환되는 데이터는, 연합 학습에 필요한 정보들인 인식 모델의 가중치들 또는 인식 모델에 입력되는 데이터들일 수 있다.
사용자 단말들(10-1, 10-2, 10-3) 각각은 교환되는 인식 모델의 가중치들 또는 인식 모델에 입력되는 데이터들을 이용하여 자체적으로 해당 사용자가 원하는 방향으로 연합 학습을 진행한다.
이를 위해, 메인 서버(100)는 사용자 단말들(10-1, 10-2, 10-3) 각각에 적합한 인식 모델이 생성되도록 연합 학습 그룹을 매칭하여 추천해주는 역할을 수행한다.
이때, 실시예에 따라, 메인 서버(100)는 사용자 단말들(10-1, 10-2, 10-3) 각각의 인식 모델 성향을 분석한 결과를 기반으로 연합 학습 그룹을 매칭하여 추천해줄 수 있다.
즉, 인식 모델은, 입력되는 데이터를 인식함과 아울러 인식된 입력 데이터에 의해 강화 학습됨에 따라 인공 신경망의 가중치가 업데이트될 수 있다. 따라서, 인식 모델은, 인식 대상이 되는 입력 데이터의 종류에 따라 그 가중치가 그에 상응하는 방향을 가지면서 점진적으로 업데이트될 수 있다. 이와 같이 점진적으로 업데이트되는 가중치에 따라 인식 모델의 인식 결과는 고유의 경향성, 즉 성향을 가지게 된다.
따라서, 메인 서버(100)에서 수행되는 인식 모델 성향 분석 기반 연합 학습 추천 방법은, 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계, 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계 및 복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송하는 단계를 포함할 수 있다.
이러한 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법에 대해 도 3 내지 도 8을 참조하여 상세히 설명하기로 한다.
도 3은 실시예에 따른 서버 장치의 개략적인 블록 구성도이고, 도 4는 실시예에 따른 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계를 설명하기 위한 신호 흐름도이고, 도 5는 실시예에 따른 인식 모델 성향 표현 예시도이고, 도 6은 실시예에 따른 연합 학습 결과 예측 예시도이고, 도 7은 실시예에 따른 인식 모델 성향의 좌표 공간 예시도이고, 도 8은 실시예에 따른 실시예에 따른 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계를 설명하기 위한 순서도이다.
도 3을 참조하면, 인식 모델 성향 분석 기반 연합 학습 추천 방법을 수행하는 서버 장치(100)는, 인식 모델 성향 분석부(110), 인식 모델 성향 DB(120), 연합 학습 그룹핑부(130) 및 연합 학습 추천부(140)를 포함할 수 있다. 부가적으로, 인식 모델 예측부(150)를 더 포함할 수 있다.
인식 모델 성향 분석부(110)는, 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계를 수행한다.
즉, 사용자 단말들(10-1, 10-2, 10-3) 각각이 보유한 인식 모델의 초기 성향은 동일할 수 있어도, 사용자의 성향 또는 인식 모델이 주로 사용되는 환경적인 요소에 영향을 받으며 점차 강화되는 인식 모델은 모두 각자의 특성을 갖게 된다.
예컨대, 인식 모델이 가정 환경에만 고정적으로 위치하여 사용될 경우, 인식 모델이 가정 환경 데이터로 계속 자기 학습을 통해 강화되므로, 가정 환경에 더 적합하다는 인식 결과 특성을 갖게 된다.
또한, 스마트 단말에 설치된 인식 모델의 경우, 스마트 단말 사용자의 연령에 따라 그 인식 결과 특성이 달라질 수 있다.
이러한 인식 모델의 특성을 분석하기 위한 가장 용이한 방법으로는, 인식 모델에 자주 입력되는 데이터를 획득하여 분석하는 것일 수 있다. 그러나, 이러한 데이터에는 지극히 개인적인 정보 등이 포함될 수 있어 개인 정보 유출의 문제가 야기될 수 있다.
이러한 인식 모델의 특성을 분석하기 위한 다른 방법으로, 인식 모델의 가중치를 획득하는 방식을 고려해볼 수 있다. 그러나, 전술한 바와 같이 가중치를 통해 개인 정보가 유출될 우려가 있어 개인 정보 유출의 문제를 완전히 해결할 수 없다.
따라서, 실시예에 따른 인식 모델 성향 분석부(110)는, 개인 정보 유출의 문제를 방지하기 위해, 개인 정보 유출의 문제가 없는 샘플 데이터를 통해 인식 모델의 성향을 분석하는 것을 특징으로 한다.
즉, 메인 서버(100) 사전에 야외, 가정, 작업 등 다양한 환경 및 다양한 나이대의 사용자와 관련된 데이터를 수집하여 샘플 데이터로 사용할 수 있다. 이때, 샘플 데이터는, 개인 정보 유출 문제에서 자유로운 데이터일 수 있다.
또한, 샘플 데이터는, 수집된 환경 속성 및 사용자 속성 중 적어도 하나의 따라 그 종류가 분류된 것일 수 있다.
도 4를 참조하면, 메인 서버(100)의 인식 모델 성향 분석부(110)는, 사용자 단말(10)에 샘플 데이터를 전송한다(S210).
그러면, 사용자 단말(10)은 샘플 데이터를 자신이 보유한 인식 모델에 입력시켜, 샘플 데이터에 대한 인식을 수행한다(S220). 이때, 사용자 단말(10)은 수신된 종류별 샘플 데이터들을 각각에 대한 인식을 수행할 수 있다.
그런 후, 사용자 단말(10)은 인식 모델이 출력한 인식 결과 데이터를 메인 서버(100)에 전송한다(S230). 이때, 종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들이 전송될 수 있다.
메인 서버(100)의 인식 모델 성향 분석부(110)는, 사용자 단말(10)로부터 전송된 샘플 데이터들 각각에 대한 인식 결과 데이터를 기반으로 인식 모델의 성향을 분석한다(S240). 즉, 동일한 샘플 데이터라도 인식 모델의 성향에 따라 그 인식 결과 데이터가 상이할 수 있기 때문이다.
이때, 종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들 각각의 정확도를 기반으로 인식 모델의 성향을 판단할 수 있다. 즉, 어떤 종류의 샘플 데이터에 대한 인식 결과 데이터의 정확도 또는 명확도가 높은지 등을 분석해 인식 모델의 성향들을 파악할 수 있다.
이때, 인식 모델의 성향은, 환경 속성, 사용자 속성, 입력 데이터 명확성, 출력 결과 명확성, 출력 클래스 별 편향성 및 범용성 중 적어도 하나를 포함하는 지표에 의해 표현될 수 있다.
인식 모델 성향 DB(120)는, 인식 모델 성향 분석부(110)에 의해 분석된 사용자 단말(10) 별 인식 모델의 성향을 저장한다(S250).
이때, 사용자 단말(10) 별 인식 모델의 성향 데이터는 분석을 위해 조작되기 용이한 다양한 형태의 데이터로 구성되어 활용될 수 있다.
일 예로, 도 5를 참조하면, 가정 환경(Home Environment) 및 밝기 환경(Bright Environment)과 같은 환경 속성, 학습에 사용된 데이터가 얼마나 명확하고 깔끔한가를 나타내는 입력 데이터 명확성(Noisy Data), 인식 결과가 명확한지 혹은 모호한지(Uncertainty)를 나타내는 인식 결과 명확성, 인식의 경우 각 클래스 별로 고르게 분포해 있는가를 나타내는 출력 클래스 별 편향성(Bias) 및 범용성(General Subjects)를 포함하는 성향을 나타내는 지표들 각각을 꼭지점으로 하는 다각형 내에서 지표들 각각에 대한 값이 다각형의 중심으로부터 거리로 표현될 수 있다.
한편, 도 5에 도시된 바와 같은 형태를 갖는 인식 모델 성향 데이터는, 도 6에 도시된 바와 같이 연합 학습에 따른 인식 모델 예측을 위해 활용될 수 있다.
예컨대, 도 6에 도시된 바와 같은 성향을 갖는 Model 1과 Model 2를 연합 학습할 경우 생성되는 예측 모델(Expected Model)은 Model 1과 Model 2의 각 성향 지표들 별로 값들을 평균한 성향으로 도출해낼 수도 있다. 이는 도 3에 도시된 인식 모델 예측부(150)에 의해 수행될 수 있다.
또한, 도 5에 도시된 바와 같이 구성된 인식 모델 성향 데이터는 원하는 성향의 인식 모델 생성을 위한 연합 학습을 위해 사용될 인식 모델 조합에 따른 결과 예측을 용이하게 할 수 있다.
예컨대, 고령자와 더 친숙한 인식기와 청년에 친숙한 인식기를 연합해 보다 넓은 나이 대에 적합한 인식기로 생성해 갈 수도 있고, 가정 환경에 대한 인식기만을 연합해 가정 환경에 더 강력한 인식기를 만들 수도 있다.
또한, 자신의 원래 인식기와 연합학습의 비율을 조정해, 얼만큼 변화할지를 선택할 수도 있다. 이 기능은 성향 분석에 크게 기반을 두고 있으며, 이 기능에 입각해 다음 기능들이 구성된다.
한편, 사용자 단말(10) 별 인식 모델의 성향 데이터 형태의 다른 예로, 도 7에 도시된 바와 같이, 인식 모델의 성향 데이터는 인식 모델이 적어도 하나의 성향 지표를 축으로 하는 공간에서 좌표값을 갖는 점으로 표현되어 활용될 수 있다.
이때, 인식 모델에 상응하는 점들간의 거리에 따라 인식 모델의 성향이 유사성이 판단될 수 있다.
또한, 이러한 인식 모델 좌표 공간 상에서 사용자 선택에 의해 사용자의 인식 모델이 나아갈 방향 및 목표가 설정될 수도 있다.
다시 도 3을 참조하면, 메인 서버(100)의 연합 학습 그룹핑부(130)는, 인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계를 수행한다.
도 8을 참조하면, 메인 서버(100)의 연합 학습 그룹핑부(130)는, 인식 모델 목표 성향을 설정한다(S310).
이때, 연합 학습 그룹핑부(130)는 사용자 단말(10)로부터 연합 학습에 따른 인식 모델의 목표 성향을 선택받을 수 있다.
또는, 연합 학습 그룹핑부(130)는 도 7에 도시된 바와 같은 인식 모델 좌표 공간에서의 인식 모델들에 상응하는 점들 간의 거리를 기준으로 집단적 방향성을 임의로 설정할 수도 있다.
다음으로, 메인 서버(100)의 연합 학습 그룹핑부(130)는, 설정된 목표 성향을 갖는 인식 모델이 되도록 하기 위한 연합 학습 대상을 그룹핑한다(S320).
이때, 메인 서버(100)의 연합 학습 그룹핑부(130)는, 인식 모델 예측부(150)를 통해 다양한 인식 모델들의 그룹들 각각의 연합 학습에 따른 인식 모델을 예측하여 인식 모델의 목표 성향에 부합하는 지를 판단한 결과에 따라 그룹핑을 수행할 수 있다.
이때, 메인 서버(100)의 연합 학습 그룹핑부(130)는, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율을 결정할 수도 있다(S330).
이때, 메인 서버(100)의 연합 학습 그룹핑부(130)는, 인식 모델 예측부(150)를 통해 다양한 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율을 다양하게 가변시켜 가면서 연합 학습함에 따른 인식 모델을 예측하고, 예측된 인식 모델이 목표 성향에 부합하는 지를 판단한 결과에 따라 그룹핑을 수행할 수 있다.
다시 도 3을 참조하면, 연합 학습 추천부(140)는, 복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송할 수 있다.
이때, 연합 학습 그룹 정보는, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보를 더 포함할 수 있다.
또한, 연합 학습 그룹 정보는, 예측된 인식 모델의 성향을 더 포함할 수 있다.
그러면, 전술한 바와 같은 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법에 의해 그룹핑된 사용자 단말들은 상호간에 가중치를 공유하여 연합 학습을 수행할 수 있다.
도 9는 실시예에 따른 사용자 단말에서의 연합 학습 방법을 설명하기 위한 신호 흐름도이다.
도 9를 참조하면, 사용자 단말 1은 메인 서버로부터 연합 학습 그룹 정보를 수신한다(S410).
이때, 연합 학습 그룹 정보는, 인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말의 정보일 수 있다.
이때, 연합 학습 그룹 정보는, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보 및 연합 학습 그룹별로 연합 학습에 따라 생성될 것으로 예측되는 인식 모델의 성향 중 적어도 하나를 더 포함할 수 있다.
이때, 연합 학습 그룹 정보에 포함된 사용자 단말 2는, 사용자 단말 1에 의해 강화 학습된 인식 모델의 성향을 기반으로 그룹핑된 것일 수 있다. 이를 위해, 전술한 도 5에 도시된 바와 같이, 사용자 단말 1은 사전에 메인 서버로부터 환경 속성 및 사용자 속성 중 적어도 하나의 따라 분류된 종류별 샘플 데이터를 수신하는 단계 및 종류별 샘플 데이터들 각각을 인식 모델에 입력하여 출력된 결과 데이터들을 서버 장치에 전송하는 단계를 더 수행할 수 있다.
또한, 사용자 단말 1은 메인 서버에 연합 학습에 따른 인식 모델의 목표 성향을 요청하는 단계를 더 수행할 수 있다.
사용자 단말 1은 연합 학습 그룹 정보에 포함된 다른 사용자 단말 2의 인식 모델 가중치를 획득한다(S420, S430).
즉, 사용자 단말 1은 연합 학습 그룹 정보에 포함된 사용자 단말 2를 검출한다(S420). 이때, 사용자 단말 2는 복수 개일 수 있다. 따라서, 사용자 단말 1은 S430을 사용자 단말 2의 개수만큼 반복 수행할 수 있다.
이때, 인식 모델 가중치는, 다른 사용자 단말 2의 인식 모델 가중치 공유 수락에 따라 획득될 수 있다.
즉, 사용자 단말 1은 사용자 단말 2에 인식 모델의 가중치를 요청한다(S431). 그러면, 사용자 단말 2는 사용자 단말 1과의 가중치 공유 수락 여부를 판단한다(S433). 이는 사용자에게 문의한 결과에 따라 판단될 수도 있고, 미리 정해진 소정 기준에 따라 판단될 수도 있다.
S433의 판단 결과 가중치 공유 수락될 경우, 사용자 단말 2는 사용자 단말 1에 가중치를 전송한다(S435). 반면, S433의 판단 결과 가중치 공유 수락되지 않을 경우, 사용자 단말 2는 가중치 공유 거절한다(S437).
사용자 단말 1은 획득된 적어도 하나의 인식 모델 가중치를 이용하여 인식 모델의 연합 학습을 수행한다(S440). 이때, 그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보 및 연합 학습 그룹별로 연합 학습에 따라 생성될 것으로 예측되는 인식 모델의 성향 중 적어도 하나를 기반으로 인식 모델의 연합 학습이 조절될 수 있다.
이런 방식의 로컬 연합 학습은 여러 가지 방향성을 가질 수 있다.
예컨대, 기존 연합 학습과 동일한 방향성을 갖기 위해서는 무작위적으로 추출된 인식 모델들과 수 차례 반복하는 연합 학습을 통해 기존의 연합 학습과 거의 동일한 인식 모델이 획득되도록 할 수도 있다. 이는 다음의 <수학식 1>과 같이 표현될 수 있다.
이때, y는 연합 학습에 따른 결과로 생성되는 인식 모델, x는 각 로컬 인식 모델을 의미하며, f(.)는 연합 학습을 의미한다. 이때, 총 N개의 인식 모델들이 연합 학습에 사용되고 있다고 가정한다.
실시 예에 따른 로컬 방식의 연합 학습을 무작위적으로 추출된 로컬 인식 모델들에 대해 수 차례 적용된다면 다음의 <수학식 2>와 같이 표현될 수 있다.
이때, t는 로컬 연합 학습의 순번을 의미하며, i는 매번 무작위로 선택될 수 있다.
<수학식 2>에 따라, 로컬 연합 학습의 순번이 커질 경우, 는 결국 기존 연합 학습에서의 y와 유사해진다. 또한, i의 무작위적 선택이 아닌 사용자 적합한 선택을 진행할 경우에는 특정 방향으로의 연합 학습이 될 수 있다. 즉, 실시예에 따른 로컬 방식의 연합 학습은 기존의 연합 학습의 기능을 수행할 수 있을 뿐만 아니라, 기존의 연합 학습이 할 수 없는 기능인, 즉 인식 모델의 성향 목표에 상응하도록 연합 학습 방향이 나아갈 수 있도록 할 수도 있다.
도 10은 실시예에 따른 컴퓨터 시스템 구성을 나타낸 도면이다.
실시예에 따른 서버 장치 및 사용자 단말은 컴퓨터로 읽을 수 있는 기록매체와 같은 컴퓨터 시스템(1000)에서 구현될 수 있다.
컴퓨터 시스템(1000)은 버스(1020)를 통하여 서로 통신하는 하나 이상의 프로세서(1010), 메모리(1030), 사용자 인터페이스 입력 장치(1040), 사용자 인터페이스 출력 장치(1050) 및 스토리지(1060)를 포함할 수 있다. 또한, 컴퓨터 시스템(1000)은 네트워크(1080)에 연결되는 네트워크 인터페이스(1070)를 더 포함할 수 있다. 프로세서(1010)는 중앙 처리 장치 또는 메모리(1030)나 스토리지(1060)에 저장된 프로그램 또는 프로세싱 인스트럭션들을 실행하는 반도체 장치일 수 있다. 메모리(1030) 및 스토리지(1060)는 휘발성 매체, 비휘발성 매체, 분리형 매체, 비분리형 매체, 통신 매체, 또는 정보 전송 매체 중에서 적어도 하나 이상을 포함하는 저장 매체일 수 있다. 예를 들어, 메모리(1030)는 ROM(1031)이나 RAM(1032)을 포함할 수 있다.
이상에서 첨부된 도면을 참조하여 본 발명의 실시예들을 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.
10 : 사용자 단말
100 : 메인 서버
110 : 인식 모델 성향 분석부 120 : 인식 모델 성향 DB
130 : 연합 학습 그룹핑부 140 : 연합 학습 추천부
150 : 인식 모델 예측부
110 : 인식 모델 성향 분석부 120 : 인식 모델 성향 DB
130 : 연합 학습 그룹핑부 140 : 연합 학습 추천부
150 : 인식 모델 예측부
Claims (20)
- 복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계;
인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계; 및
복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송하는 단계를 포함하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제1 항에 있어서, 인식 모델의 성향을 분석하는 단계는,
사용자 단말에 샘플 데이터를 전송하는 단계;
사용자 단말로부터 샘플 데이터를 입력으로 하는 인식 모델의 인식 결과 데이터를 수신하는 단계; 및
인식 결과 데이터를 기반으로 인식 모델의 성향을 판단하는 단계를 포함하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제2 항에 있어서, 샘플 데이터는,
환경 속성 및 사용자 속성 중 적어도 하나의 따라 그 종류가 분류되고,
사용자 단말에 샘플 데이터를 전송하는 단계는,
종류별 샘플 데이터들을 전송하고,
인식 결과 데이터는,
종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들이고,
인식 모델의 성향을 판단하는 단계,
종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들 각각의 정확도를 기반으로 인식 모델의 성향을 판단하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제3 항에 있어서, 인식 모델의 성향은,
환경 속성, 사용자 속성, 입력 데이터 명확성, 출력 결과 명확성, 출력 클래스별 편향성 및 범용성 중 적어도 하나를 포함하는 지표에 의해 표현되는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제4 항에 있어서, 연합 학습 그룹 정보는,
그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보를 더 포함하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제5 항에 있어서,
연합 학습 그룹별로 연합 학습에 따라 생성될 인식 모델의 성향을 예측하는 단계를 더 포함하고,
연합 학습 그룹 정보는,
예측된 인식 모델의 성향을 더 포함하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제6 항에 있어서,
사용자 단말로부터 연합 학습에 따른 인식 모델의 목표 성향을 선택받는 단계를 더 포함하고,
그룹핑하는 단계는,
선택받은 인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말을 선택하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 제6 항에 있어서, 인식 모델은,
적어도 하나의 지표를 축으로 하는 공간에서 좌표값을 갖는 점으로 표현되고,
그룹핑하는 단계는,
인식 모델들 각각에 상응한 점들 간의 거리를 기반으로 그룹핑하는, 서버 장치에서의 인식 모델 성향 분석 기반 연합 학습 추천 방법. - 서버 장치로부터 연합 학습 그룹 정보를 수신하는 단계;
연합 학습 그룹 정보에 포함된 다른 사용자 단말의 인식 모델 가중치를 획득하는 단계; 및
획득된 인식 모델 가중치를 이용하여 인식 모델의 연합 학습을 수행하는 단계를 포함하되,
연합 학습 그룹 정보에 포함된 다른 사용자 단말은,
사용자 단말에 의해 강화 학습된 인식 모델의 성향을 기반으로 그룹핑된 것인, 사용자 단말에서의 연합 학습 방법. - 제9 항에 있어서,
서버 장치로부터 환경 속성 및 사용자 속성 중 적어도 하나의 따라 분류된 종류별 샘플 데이터를 수신하는 단계; 및
종류별 샘플 데이터들 각각을 인식 모델에 입력하여 출력된 결과 데이터들을 서버 장치에 전송하는 단계를 더 포함하되,
인식 결과 데이터들은,
인식 모델의 성향 판단에 사용되는, 사용자 단말에서의 연합 학습 방법. - 제9 항에 있어서,
서버 장치에 연합 학습에 따른 인식 모델의 목표 성향을 요청하는 단계를 더 포함하고,
연합 학습 그룹 정보는,
인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말의 정보인, 사용자 단말에서의 연합 학습 방법. - 제9 항에 있어서, 연합 학습 그룹 정보는,
그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보 및 연합 학습 그룹별로 연합 학습에 따라 생성될 것으로 예측되는 인식 모델의 성향 중 적어도 하나를 더 포함하는, 사용자 단말에서의 연합 학습 방법. - 제9 항에 있어서, 인식 모델 가중치는,
다른 사용자 단말의 인식 모델 가중치 공유 수락에 따라 획득되는, 사용자 단말에서의 연합 학습 방법. - 적어도 하나의 프로그램이 기록된 메모리; 및
프로그램을 실행하는 프로세서를 포함하며,
프로그램은,
복수의 사용자 단말들 각각에 의해 강화 학습된 인식 모델의 성향을 분석하는 단계;
인식 모델의 성향을 기반으로 복수의 사용자 단말들을 그룹핑하는 단계; 및
복수의 사용자 단말들 중 적어도 하나에 함께 그룹핑된 다른 사용자 단말들의 정보를 포함하는 연합 학습 그룹 정보를 전송하는 단계를 수행하는, 서버 장치. - 제14 항에 있어서, 인식 모델의 성향을 분석하는 단계는,
사용자 단말에 샘플 데이터를 전송하는 단계;
사용자 단말로부터 샘플 데이터를 입력으로 하는 인식 모델의 인식 결과 데이터를 수신하는 단계; 및
인식 결과 데이터를 기반으로 인식 모델의 성향을 판단하는 단계를 포함하는, 서버 장치. - 제15 항에 있어서, 샘플 데이터는,
환경 속성 및 사용자 속성 중 적어도 하나의 따라 그 종류가 분류되고,
사용자 단말에 샘플 데이터를 전송하는 단계는,
종류별 샘플 데이터들을 전송하고,
인식 결과 데이터는,
종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들이고,
인식 모델의 성향을 판단하는 단계는,
종류별 샘플 데이터들 각각에 대한 인식 결과 데이터들 각각의 정확도를 기반으로 인식 모델의 성향을 판단하는, 서버 장치. - 제16 항에 있어서, 인식 모델의 성향은,
환경 속성, 사용자 속성, 입력 데이터 명확성, 출력 결과 명확성, 출력 클래스별 편향성 및 범용성 중 적어도 하나를 포함하는 지표에 의해 표현되는, 서버 장치. - 제 17항에 있어서, 연합 학습 그룹 정보는,
그룹핑된 사용자 단말들 별 인식 모델 가중치 각각에 대한 연합 학습시의 반영 비율 정보를 더 포함하는, 서버 장치. - 제17 항에 있어서, 프로그램은,
연합 학습 그룹별로 연합 학습에 따라 생성될 인식 모델의 성향을 예측하는 단계를 더 수행하고,
연합 학습 그룹 정보는,
예측된 인식 모델의 성향을 더 포함하는, 서버 장치. - 제17 항에 있어서, 프로그램은,
사용자 단말로부터 연합 학습에 따른 인식 모델의 목표 성향을 선택받는 단계를 더 수행하고,
그룹핑하는 단계는,
선택받은 인식 모델의 목표 성향을 기반으로 연합 학습할 다른 사용자 단말을 선택하는, 서버 장치.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200088120A KR20220009646A (ko) | 2020-07-16 | 2020-07-16 | 인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법 |
US17/109,809 US20220019916A1 (en) | 2020-07-16 | 2020-12-02 | Apparatus and method for recommending federated learning based on tendency analysis of recognition model and method for federated learning in user terminal |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200088120A KR20220009646A (ko) | 2020-07-16 | 2020-07-16 | 인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20220009646A true KR20220009646A (ko) | 2022-01-25 |
Family
ID=79292666
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200088120A KR20220009646A (ko) | 2020-07-16 | 2020-07-16 | 인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20220019916A1 (ko) |
KR (1) | KR20220009646A (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230126908A (ko) | 2022-02-24 | 2023-08-31 | 명지대학교 산학협력단 | 대규모 연합학습을 위한 효율적 분산 클러스터링 방법 및 시스템 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114782176B (zh) * | 2022-06-23 | 2022-10-25 | 浙江数秦科技有限公司 | 一种基于联邦学习的信贷业务推荐方法 |
CN117851650B (zh) * | 2024-03-05 | 2024-05-10 | 烟台大学 | 一种基于用户群和强化学习的项目推荐方法、系统和设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190103090A (ko) | 2019-08-15 | 2019-09-04 | 엘지전자 주식회사 | 연합학습(Federated learning)을 통한 단말의 POI 데이터를 생성하는 모델의 학습방법 및 이를 위한 장치 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11176423B2 (en) * | 2016-10-24 | 2021-11-16 | International Business Machines Corporation | Edge-based adaptive machine learning for object recognition |
WO2019056109A1 (en) * | 2017-09-22 | 2019-03-28 | Noos Technologie Inc. | METHODS AND SYSTEMS FOR AUTONOMOUS IMPROVEMENT AND MONITORING OF COLLECTIVE INTELLIGENCE |
-
2020
- 2020-07-16 KR KR1020200088120A patent/KR20220009646A/ko unknown
- 2020-12-02 US US17/109,809 patent/US20220019916A1/en not_active Abandoned
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190103090A (ko) | 2019-08-15 | 2019-09-04 | 엘지전자 주식회사 | 연합학습(Federated learning)을 통한 단말의 POI 데이터를 생성하는 모델의 학습방법 및 이를 위한 장치 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230126908A (ko) | 2022-02-24 | 2023-08-31 | 명지대학교 산학협력단 | 대규모 연합학습을 위한 효율적 분산 클러스터링 방법 및 시스템 |
Also Published As
Publication number | Publication date |
---|---|
US20220019916A1 (en) | 2022-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20220009646A (ko) | 인식 모델 성향 분석 기반 연합 학습 추천 장치 및 방법, 사용자 단말에서의 연합 학습 방법 | |
CN111783902B (zh) | 数据增广、业务处理方法、装置、计算机设备和存储介质 | |
US10831762B2 (en) | Extracting and denoising concept mentions using distributed representations of concepts | |
US20150309988A1 (en) | Evaluating Crowd Sourced Information Using Crowd Sourced Metadata | |
CN116663525B (zh) | 一种文档审核方法、装置、设备及存储介质 | |
KR20200047006A (ko) | 머신 러닝 기반의 근사모델 구축 방법 및 시스템 | |
KR102649918B1 (ko) | 대규모 언어 모델 기반 맞춤형 복지 정책 추천 시스템 | |
KR101450453B1 (ko) | 컨텐츠 추천 방법 및 장치 | |
CN116956116A (zh) | 文本的处理方法和装置、存储介质及电子设备 | |
CN112148865B (zh) | 信息推送方法和装置 | |
CN115412401B (zh) | 训练虚拟网络嵌入模型及虚拟网络嵌入的方法和装置 | |
CN116757783A (zh) | 产品推荐方法及装置 | |
WO2024004076A1 (ja) | 情報処理システム、情報処理方法およびプログラム | |
CN115795355A (zh) | 一种分类模型训练方法、装置及设备 | |
CN114268625B (zh) | 特征选择方法、装置、设备及存储介质 | |
Özmen et al. | Interactive evolutionary approaches to multiobjective feature selection | |
CN113516182B (zh) | 视觉问答模型训练、视觉问答方法和装置 | |
CN114880709A (zh) | 一种应用人工智能的电商数据防护方法及服务器 | |
Bourdache et al. | Active preference elicitation by bayesian updating on optimality polyhedra | |
KR102544179B1 (ko) | 인공지능 모델의 구조 변경을 위한 커널 크기를 결정하기 위한 방법 및 장치 | |
CN118444789B (zh) | 一种基于大语言模型的ai智能机器人交互方法及系统 | |
Kaminska et al. | Feature Selection in Bipolar Disorder Episode Classification Using Cost-Constrained Methods | |
CN113672783B (zh) | 特征处理方法、模型训练方法及媒体资源处理方法 | |
CN115344880B (zh) | 应用于数字云的信息安全分析方法及服务器 | |
CN112766490B (zh) | 特征变量学习方法、装置、设备及计算机可读存储介质 |