KR20240083248A - 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램 - Google Patents

그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램 Download PDF

Info

Publication number
KR20240083248A
KR20240083248A KR1020220166754A KR20220166754A KR20240083248A KR 20240083248 A KR20240083248 A KR 20240083248A KR 1020220166754 A KR1020220166754 A KR 1020220166754A KR 20220166754 A KR20220166754 A KR 20220166754A KR 20240083248 A KR20240083248 A KR 20240083248A
Authority
KR
South Korea
Prior art keywords
group
nodes
class
neural network
target node
Prior art date
Application number
KR1020220166754A
Other languages
English (en)
Inventor
박찬영
윤석원
김기범
윤강훈
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020220166754A priority Critical patent/KR20240083248A/ko
Priority to US18/522,470 priority patent/US20240185036A1/en
Publication of KR20240083248A publication Critical patent/KR20240083248A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/096—Transfer learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

본 발명의 일 실시예에 따른 신경망 제어 장치는 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 분류부; 상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 제1 제어부; 및 상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 제2 제어부를 포함할 수 있다.

Description

그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램{APPARATUS, METHOD, COMPUTER-READABLE STORAGE MEDIUM AND COMPUTER PROGRAM FOR CONTROLLING GRAPH NEURAL NETWORK BASED ON CLASSIFICATION OF CLASS AND DEGREE OF GRAPH}
본 발명은 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램에 관한 것이다.
롱테일 현상은 특정 변수를 기준으로 데이터의 분포를 그래프로 나타냈을 때, 대부분의 데이터가 밀집해 있는 20%의 헤드 부분과, 적은 수의 데이터가 꼬리처럼 긴 부분을 형성하는 80%의 테일 부분으로 나뉘는 현상을 일컫는다. 롱테일 현상에 따른 20:80의 분산 현상을 나타내는 그래프에서는 발생량이 상대적으로 적은 80%의 테일 부분이 무시되는 경향이 있었다.
그러나 인공지능 학습에 있어서 모델의 정확도를 향상시키기 위해서는 다양한 데이터에 기반한 균형적인 학습이 필요하다. 알고리즘 측면에서 아무리 뛰어난 인공지능 모델이라도 롱테일 현상을 따르는 데이터를 그대로 이용하여 학습한다면, 대부분의 데이터가 분포한 20%의 헤드 부분에 대해서는 잘 판단할 수 있지만, 적은 수의 데이터가 분산적으로 분포한 80%의 테일 부분에 대해서는 정확도가 대폭 낮아지기 때문이다. 이처럼 데이터의 롱테일 현상은 인공지능 모델의 정확도를 저하시키는 큰 요인 중 하나이다.
대한민국 등록특허공보 제10-2214422호: 개인화 컨텐츠 추천을 위한 실시간 그래프기반 임베딩 구축 방법 및 시스템
본 발명이 해결하고자 하는 과제는, 그래프 구조의 노드 클래스에서 롱테일 현상이 발생한다는 점과, 그래프 구조의 노드 차수에서 롱테일 현상이 발생한다는 점을 동시에 고려하여, 그래프 구조에서 발생하는 롱테일 현상에 대해 강인한 그래프 신경망(Graph Neural Network, GNN)을 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 이상에서 언급한 바로 제한되지 않으며, 언급되지는 않았으나 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있는 목적을 포함할 수 있다.
본 발명의 일 실시예에 따른 신경망 제어 장치는 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 분류부; 상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 제1 제어부; 및 상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 제2 제어부를 포함할 수 있다.
또한, 상기 분류부는 상기 그래프 구조에 포함된 각 클래스에 속하는 노드의 특징값을 평균하여 상기 각 클래스의 기준 특징값을 계산할 수 있다.
또한, 상기 분류부는 상기 타겟 노드의 특징값과 상기 각 클래스의 기준 특징값 간의 코사인 유사도를 계산하여 상기 타겟 노드와 가장 높은 코사인 유사도를 갖는 클래스가 속한 그룹으로 상기 타겟 노드를 분류할 수 있다.
또한, 상기 분류부는 상기 그래프 구조에 포함된 각 클래스 별 노드의 수를 집계하여, 클래스 별 노드의 수가 기 설정된 비율 이상인 클래스에 포함된 노드를 H그룹으로 분류하고, 클래스 별 노드의 수가 기 설정된 비율 미만인 클래스에 포함된 노드를 T그룹으로 분류할 수 있다.
또한, 상기 분류부는 상기 그래프 구조에 포함된 각 차수 별 노드의 수를 집계하여, H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 HH그룹, H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 HT그룹, T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 TH그룹, T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 TT그룹으로 분류할 수 있다.
또한, 상기 제1 신경망은 상기 HH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HH교사 모델, 상기 HT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HT교사 모델, 및 상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 H그룹에 속하는 노드를 기준으로 상기 H그룹에 속하는 노드의 클래스를 분류하도록 학습한 H학생 모델을 포함하고, 상기 제2 신경망은 상기 TH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TH교사 모델, 상기 TT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TT교사 모델, 및 상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 T그룹에 속하는 노드를 기준으로 상기 T그룹에 속하는 노드의 클래스를 분류하도록 학습한 T학생 모델을 포함할 수 있다.
또한, 상기 제1 제어부는 상기 H학생 모델의 학습 과정이 진행됨에 따라, 상기 H학생 모델의 로스에 반영되는 상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스의 반영 비율이 상이해지도록 제어하고, 상기 제2 제어부는 상기 T학생 모델의 학습 과정이 진행됨에 따라, 상기 T학생 모델의 로스에 반영되는 상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스의 반영 비율이 상이해지도록 제어할 수 있다.
일 실시예에 따른 신경망 제어 장치가 수행하는 신경망 제어 방법에 있어서, 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 단계; 상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계; 및 상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계를 포함할 수 있다.
또한, 상기 분류하는 단계는 상기 그래프 구조에 포함된 각 클래스에 속하는 노드의 특징값을 평균하여 상기 각 클래스의 기준 특징값을 계산할 수 있다.
또한, 상기 분류하는 단계는 상기 타겟 노드의 특징값과 상기 각 클래스의 기준 특징값 간의 코사인 유사도를 계산하여 상기 타겟 노드와 가장 높은 코사인 유사도를 갖는 클래스가 속한 그룹으로 상기 타겟 노드를 분류할 수 있다.
또한, 상기 분류하는 단계는 상기 그래프 구조에 포함된 각 클래스 별 노드의 수를 집계하여, 클래스 별 노드의 수가 기 설정된 비율 이상인 클래스에 포함된 노드를 H그룹으로 분류하고, 클래스 별 노드의 수가 기 설정된 비율 미만인 클래스에 포함된 노드를 T그룹으로 분류할 수 있다.
또한, 상기 분류하는 단계는 상기 그래프 구조에 포함된 각 차수 별 노드의 수를 집계하여, H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 HH그룹, H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 HT그룹, T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 TH그룹, T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 TT그룹으로 분류할 수 있다.
또한, 상기 제1 신경망은 상기 HH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HH교사 모델, 상기 HT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HT교사 모델, 및 상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 H그룹에 속하는 노드를 기준으로 상기 H그룹에 속하는 노드의 클래스를 분류하도록 학습한 H학생 모델을 포함하고, 상기 제2 신경망은 상기 TH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TH교사 모델, 상기 TT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TT교사 모델, 및 상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 T그룹에 속하는 노드를 기준으로 상기 T그룹에 속하는 노드의 클래스를 분류하도록 학습한 T학생 모델을 포함할 수 있다.
또한, 상기 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계는 상기 H학생 모델의 학습 과정이 진행됨에 따라, 상기 H학생 모델의 로스에 반영되는 상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스의 반영 비율이 상이해지도록 제어하고, 상기 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계는 상기 T학생 모델의 학습 과정이 진행됨에 따라, 상기 T학생 모델의 로스에 반영되는 상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스의 반영 비율이 상이해지도록 제어할 수 있다.
일 실시예에 따른 컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서, 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 단계; 상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계; 및 상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계를 포함할 수 있다.
일 실시예에 따른 컴퓨터 판독 가능한 기록매체에 저장되어 있는 컴퓨터 프로그램으로서, 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 단계; 상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계; 및 상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계를 포함할 수 있다.
본 발명의 실시예에 따르면, 그래프 구조의 노드 클래스에 발생하는 롱테일 현상과, 그래프 구조의 노드 차수에서 발생하는 롱테일 현상을 동시에 고려해 데이터의 그룹을 분류함으로써, 그룹 내에서 서로 균형적인 분포를 갖는 데이터 그룹을 생성한 다음, 각 그룹의 데이터를 기준으로 학습시킨 교사 모델의 로스를 이용해 지식 증류 기법으로 학생 모델을 학습시킴으로써, 데이터의 롱테일 현상에 대해 강인한 인공지능 모델을 제공할 수 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 신경망 제어 장치의 기능 블록도이다.
도 2는 본 발명의 일 실시예에 따른 신경망 제어 장치가 제1 신경망 및 제2 신경망을 학습시키기 위해 수행하는 동작을 블록 별로 나타낸 개념도이다.
도 3는 본 발명의 일 실시예에 따른 신경망 제어 장치가 신경망 학습 이후, 타겟 노드의 클래스를 판별하기 위해 수행하는 동작을 블록 별로 나타낸 개념도이다.
도 4는 본 발명의 일 실시예에 따른 신경망 제어 장치가 수행하는 신경망 제어 방법의 흐름도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명의 범주는 청구항에 의해 정의될 뿐이다.
본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명은 본 발명의 실시예들을 설명함에 있어 실제로 필요한 경우 외에는 생략될 것이다. 그리고 후술되는 용어들은 본 발명의 실시예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
이하 사용되는 '…부', '…기' 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어, 또는, 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.
본 문서의 실시예에 따른 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치(100)(이하, '신경망 제어 장치(100)'로 지칭)는 그래프 구조의 '클래스' 및 그래프 구조의 '차수'에서 롱테일 현상이 발생한다는 점을 고려하여 신경망을 학습 및 사용한다.
그래프 구조란, 노드와 간선으로 구성된 자료 구조를 의미한다. 그래프 구조는 복수의 노드를 포함할 수 있고, 각 노드는 특정 객체에 대한 데이터를 포함할 수 있다. 노드는 보유한 데이터의 특성을 기준으로 특정 카테고리로 분류될 수 있는데, 이때 분류된 카테고리의 식별 정보를 '클래스'라고 지칭한다. 간선은 노드와 노드를 연결하며, 연결된 노드 간의 관계에 대한 정보를 포함할 수 있다. 이때 특정 노드가 갖는 간선의 수를 '차수'라고 지칭한다. 특정 노드를 기준으로 직접적으로 간선으로 연결된 노드들을 '인접 노드'라고 지칭한다. 각 노드가 포함하는 데이터는 소정의 알고리즘에 의해 특징값으로 도출될 수 있으며, 특정 노드의 특징값과 기 설정된 범위 내로 유사한 특징값을 갖는 노드들을 '유사 노드'로 지칭한다.
롱테일 현상이란, 특정 변수를 기준으로 데이터의 분포를 그래프로 나타냈을 때, 대부분의 데이터가 밀집해 있는 20%의 헤드 부분과, 적은 수의 데이터가 꼬리처럼 긴 부분을 형성하는 80%의 테일 부분으로 나뉘는 현상을 일컫는다. 알고리즘 측면에서 아무리 뛰어난 인공지능 모델이라도 롱테일 현상을 따르는 데이터를 그대로 이용하여 학습한다면, 대부분의 데이터가 분포한 20%의 헤드 부분에 대해서는 잘 판단할 수 있지만, 적은 수의 데이터가 분산적으로 분포한 80%의 테일 부분에 대해서는 정확도가 대폭 낮아질 수 있다. 따라서, 인공지능 학습에 있어서 모델의 정확도를 향상시키기 위해서는 다양한 데이터에 기반한 균형적인 학습이 필요하다.
이하, 본 문서의 실시예에 따른 신경망 제어 장치(100)는 그래프 구조의 노드 '클래스' 및 그래프 구조의 노드 '차수'에서 롱테일 현상이 발생한다는 점을 고려하여 전체 데이터가 균형적인 분포를 갖도록 그룹을 분류하고, 각 그룹의 데이터를 기준으로 학습시킨 교사 모델의 로스를 이용해 지식 증류 기법으로 학생 모델을 학습시킴으로써, 롱테일 현상에 대해 강인한 인공지능 모델을 제공하는 방법을 제시한다.
본 문서의 설명은 도 1에서 신경망 제어 장치(100)의 개략적인 구성을 살펴본 후, 도 2에서 신경망을 학습하는 과정과 도 3에서 신경망을 이용하여 타겟 노드의 클래스를 판별하는 과정을 나누어 설명한다.
도 1은 본 발명의 일 실시예에 따른 신경망 제어 장치(100)의 기능 블록도이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 신경망 제어 장치(100)는 분류부(110), 제1 제어부(120) 및 제2 제어부(130)를 포함할 수 있다. 본 발명의 일 실시예에 따른 신경망 제어 장치(100)는 하나 이상의 프로세서에 의해 전반적인 동작이 수행될 수 있고, 하나 이상의 프로세서는 도 1에 포함된 기능 블록들이 후술할 도 2 및 도 3의 동작들을 수행하도록 제어할 수 있다.
도 2는 본 발명의 일 실시예에 따른 신경망 제어 장치(100)가 제1 신경망 및 제2 신경망을 학습시키기 위해 수행하는 동작을 블록 별로 나타낸 개념도이다.
도 2를 참조하면, 분류부(110)는 그래프 구조에 포함된 각 클래스 별 노드의 수를 집계하여, 클래스 별 노드의 수가 기 설정된 비율 이상(ex. 상위 20%)인 클래스에 포함된 노드를 H그룹으로 분류하고, 클래스 별 노드의 수가 기 설정된 비율 미만(ex. 하위 80%)인 클래스에 포함된 노드를 T그룹으로 분류할 수 있다. 상술한 예시에서 H그룹과 T그룹을 나누는 20%와 80%의 비율은 예시일 뿐이며, H그룹과 T그룹으로 나눌 데이터의 비율은 관리자의 선택에 따라 다양한 비율로 설정하는 실시예를 포함할 수 있다.
분류부(110)는 그래프 구조에 포함된 각 차수 별 노드의 수를 집계하여, H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상(ex. 상위 20%)인 차수에 포함된 노드를 HH그룹, H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만(ex. 하위 80%)인 차수에 포함된 노드를 HT그룹, T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상(ex. 상위 20%)인 차수에 포함된 노드를 TH그룹, T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만(ex. 하위 80%)인 차수에 포함된 노드를 TT그룹으로 분류할 수 있다.
즉, 분류부(110)는 그래프 구조의 '클래스'와 '차수'의 두 가지 변수를 기준으로 롱테일 현상을 고려하여, 그래프 구조에 포함된 노드를 HH그룹, HT그룹, TH그룹, TT그룹의 4가지 그룹으로 분류할 수 있다. 이에 따라, HH그룹, HT그룹, TH그룹, TT그룹의 각 그룹에 속한 노드들끼리는 '클래스'나 '차수'에 대해 균형적인 분포를 가질 수 있다.
제1 제어부(120)는 H그룹(HH그룹 + HT그룹)에 속한 그래프 구조의 노드를 기준으로 그래프 구조의 임베딩을 도출하도록 GNN(Graph Neural Network) 학습을 수행한 제1 신경망을 생성할 수 있다.
일 실시예에 따른 제1 신경망은 HH교사 모델, HT교사 모델 및 H학생 모델을 포함할 수 있다.
제1 제어부(120)는 HH교사 모델이 HH그룹에 속하는 노드를 기준으로 그래프 구조의 임베딩을 도출하도록 학습시킬 수 있으며, 이 과정에서 HH교사 모델이 학습하는 로스(loss)는 LHH이다.
제1 제어부(120)는 HT교사 모델이 HT그룹에 속하는 노드를 기준으로 그래프 구조의 임베딩을 도출하도록 학습시킬 수 있으며, 이 과정에서 HT교사 모델이 학습하는 로스(loss)는 LHT이다.
제1 제어부(120)는 지식 증류 기법(Knowledge Distillation)을 사용하여 H학생 모델이 H그룹에 속하는 노드의 클래스를 분류(ex. 지도 학습)하도록 다음과 같이 학습시킬 수 있다. 제1 제어부(120)는 HH교사 모델이 기 학습한 로스 LHH 값을 로스 LHHKD의 초기값으로 설정하고 HH그룹의 데이터를 이용하여 로스 LHHKD를 학습시킬 수 있다. 제1 제어부(120)는 HT교사 모델이 기 학습한 로스 LHT 값을 로스 LHTKD의 초기값으로 설정하고 HT그룹의 데이터를 이용하여 로스 LHTKD를 학습시킬 수 있다. 이때 제1 제어부(120)는 H학생 모델의 전체 로스(LH)의 학습에 반영되는 LHHKD의 반영 비율()과 LHTKD의 반영 비율()이 학습 횟수가 진행됨에 따라 상이해지도록 제어할 수 있다. 가령, 제1 제어부(120)는 가 초기 학습 단계에서는 1에 가까운 값을 갖다가 후기 학습 단계에서는 0에 가까운 값을 갖도록, 값이 1에서 0으로 학습 횟수에 따라 감소하는 음의 로그 함수나 음의 지수 함수의 형태를 갖도록 설정할 수 있다.
제2 제어부(130)는 T그룹(TH그룹 + TT그룹)에 속한 그래프 구조의 노드를 기준으로 그래프 구조의 임베딩을 도출하도록 GNN(Graph Neural Network) 학습을 수행한 제2 신경망을 생성할 수 있다.
일 실시예에 따른 제2 신경망은 TH교사 모델, TT교사 모델 및 T학생 모델을 포함할 수 있다.
제2 제어부(130)는 TH교사 모델이 TT그룹에 속하는 노드를 기준으로 그래프 구조의 임베딩을 도출하도록 학습시킬 수 있으며, 이 과정에서 TH교사 모델이 학습하는 로스(loss)는 LTH이다.
제2 제어부(130)는 TT교사 모델이 TT그룹에 속하는 노드를 기준으로 그래프 구조의 임베딩을 도출하도록 학습시킬 수 있으며, 이 과정에서 TT교사 모델이 학습하는 로스(loss)는 LTT이다.
제2 제어부(130)는 지식 증류 기법을 사용하여 T학생 모델이 T그룹에 속하는 노드의 클래스를 분류(ex. 지도 학습)하도록 다음과 같이 학습시킬 수 있다. 제2 제어부(130)는 TH교사 모델이 기 학습한 로스 LTH 값을 로스 LTHKD의 초기값으로 설정하고 TT그룹의 데이터를 이용하여 로스 LTHKD를 학습시킬 수 있다. 제2 제어부(130)는 TT교사 모델이 기 학습한 로스 LTT 값을 로스 LTTKD의 초기값으로 설정하고 TT그룹의 데이터를 이용하여 로스 LTTKD를 학습시킬 수 있다. 이때 제2 제어부(130)는 T학생 모델의 전체 로스(LT)의 학습에 반영되는 LTHKD의 반영 비율()과 LTTKD의 반영 비율()이 학습 횟수가 진행됨에 따라 상이해지도록 제어할 수 있다. 가령, 제2 제어부(130)는 가 초기 학습 단계에서는 1에 가까운 값을 갖다가 후기 학습 단계에서는 0에 가까운 값을 갖도록, 값이 1에서 0으로 학습 횟수에 따라 감소하는 음의 로그 함수나 음의 지수 함수의 형태를 갖도록 설정할 수 있다.
도 3는 본 발명의 일 실시예에 따른 신경망 제어 장치(100)가 신경망 학습 이후, 타겟 노드의 클래스를 판별하기 위해 수행하는 동작을 블록 별로 나타낸 개념도이다.
도 3을 참조하면, 분류부(110)는 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류할 수 있다.
일 예로, 분류부(110)는 그래프 구조에 포함된 각 클래스에 속하는 노드의 특징값을 평균하여 각 클래스의 기준 특징값을 미리 계산하여 저장할 수 있다. 예를 들어, 그래프 구조에 포함된 노드들의 클래스가 A, B, C, D, E로 5가지이라 가정할 때, 클래스 A에 속한 모든 노드의 특징값을 평균하여 클래스 A의 기준 특징값을 생성할 수 있다. 나머지 클래스 B, C, D, E에 대해서도 동일한 방법으로 기준 특징값을 생성할 수 있다. 이때 도 2의 학습 과정에서 클래스 A, B는 H그룹에 속하고, 클래스 C, D, E는 T그룹에 속하는 것으로 분류되었다고 가정한다. 이후, 분류부(110)는 타겟 노드가 입력되면, 타겟 노드의 특징값과 각 클래스의 기준 특징값 간의 거리(ex. 코사인 유사도)를 계산하여 타겟 노드와 가장 가까운 거리(ex. 가장 높은 코사인 유사도)를 갖는 클래스가 속한 그룹으로 타겟 노드를 분류할 수 있다.
또한, 분류부(110)는 타겟 노드 자체의 제1 특징값, 타겟 노드를 기준으로 한 이웃 노드의 제2 특징값, 타겟 노드를 기준으로 한 유사 노드의 제3 특징값을 구한 후, 제1 특징값 내지 제3 특징값을 평균한 제4 특징값을 생성하고, 타겟 노드의 제4 특징값과 각 클래스의 기준 특징값 간의 거리(ex. 코사인 유사도)를 계산하여 타겟 노드와 가장 가까운 거리(ex. 가장 높은 코사인 유사도)를 갖는 클래스가 속한 그룹으로 타겟 노드를 분류할 수 있다.
가령, 타겟 노드의 특징값(또는 제4 특징값)이 클래스 A의 기준 특징값과 가장 거리가 가까운 경우, 타겟 노드는 클래스 A와 동일한 H그룹으로 분류될 수 있다. 또한, 타겟 노드의 특징값(또는 제4 특징값)이 클래스 D의 기준 특징값과 가장 거리가 가까운 경우, 타겟 노드는 클래스 D와 동일한 T그룹으로 분류될 수 있다.
제1 제어부(120)는 타겟 노드가 H그룹으로 분류된 경우, 도 2의 동작에 따라 학습된 제1 신경망(ex. H학생 모델)을 이용하여 타겟 노드의 클래스를 판별할 수 있다.
제2 제어부(130)는 타겟 노드가 T그룹으로 분류된 경우, 도 2의 동작에 따라 학습된 제2 신경망(ex. T학생 모델)을 이용하여 타겟 노드의 클래스를 판별할 수 있다.
도 4는 본 발명의 일 실시예에 따른 신경망 제어 장치(100)가 수행하는 신경망 제어 방법의 흐름도이다. 도 4에 따른 신경망 제어 방법의 각 단계는 도 1을 통해 설명된 신경망 제어 장치(100)에 의해 수행될 수 있으며, 각 단계를 설명하면 다음과 같다.
S1010 단계에서, 분류부(110)는 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류할 수 있다.
S1020 단계에서, 제1 제어부(120)는 타겟 노드가 H그룹으로 분류된 경우, 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 타겟 노드의 클래스를 판별할 수 있다.
S1030 단계에서, 제2 제어부(130)는 타겟 노드가 T그룹으로 분류된 경우, 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 타겟 노드의 클래스를 판별할 수 있다.
한편, 도 4에 도시된 단계 외에도, 상술한 분류부(110), 제1 제어부(120) 및 제2 제어부(130)가 도 1 내지 도 3과 함께 설명된 동작을 수행하는 실시예들을 다양하게 구성함에 따라, 도 4의 단계에서도 각 기능 블록이 수행하는 새로운 단계가 부가될 수 있으며, 추가적인 단계의 구성 및 각 단계의 주체인 구성 요소들이 해당 단계를 실시하기 위한 동작은 도 1 내지 도 3에서 설명하였으므로 중복된 설명은 생략한다.
상술한 실시예에 따르면, 그래프 구조의 노드 클래스에 발생하는 롱테일 현상과, 그래프 구조의 노드 차수에서 발생하는 롱테일 현상을 동시에 고려해 데이터의 그룹을 분류함으로써, 그룹 내에서 서로 균형적인 분포를 갖는 데이터 그룹을 생성한 다음, 각 그룹의 데이터를 기준으로 학습시킨 교사 모델의 로스를 이용해 지식 증류 기법으로 학생 모델을 학습시킴으로써, 데이터의 롱테일 현상에 대해 강인한 인공지능 모델을 제공할 수 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 품질에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 명세서에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 균등한 범위 내에 있는 모든 기술사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
100: 신경망 제어 장치
110: 분류부
120: 제1 제어부
130: 제2 제어부

Claims (16)

  1. 그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 분류부;
    상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 제1 제어부; 및
    상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 제2 제어부를 포함하는
    신경망 제어 장치.
  2. 제1항에 있어서,
    상기 분류부는
    상기 그래프 구조에 포함된 각 클래스에 속하는 노드의 특징값을 평균하여 상기 각 클래스의 기준 특징값을 계산하는
    신경망 제어 장치.
  3. 제2항에 있어서,
    상기 분류부는
    상기 타겟 노드의 특징값과 상기 각 클래스의 기준 특징값 간의 코사인 유사도를 계산하여 상기 타겟 노드와 가장 높은 코사인 유사도를 갖는 클래스가 속한 그룹으로 상기 타겟 노드를 분류하는
    신경망 제어 장치.
  4. 제1항에 있어서,
    상기 분류부는
    상기 그래프 구조에 포함된 각 클래스 별 노드의 수를 집계하여, 클래스 별 노드의 수가 기 설정된 비율 이상인 클래스에 포함된 노드를 H그룹으로 분류하고, 클래스 별 노드의 수가 기 설정된 비율 미만인 클래스에 포함된 노드를 T그룹으로 분류하는
    신경망 제어 장치.
  5. 제4항에 있어서,
    상기 분류부는
    상기 그래프 구조에 포함된 각 차수 별 노드의 수를 집계하여,
    H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 HH그룹,
    H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 HT그룹,
    T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 TH그룹,
    T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 TT그룹으로 분류하는
    신경망 제어 장치.
  6. 제5항에 있어서,
    상기 제1 신경망은
    상기 HH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HH교사 모델,
    상기 HT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HT교사 모델, 및
    상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 H그룹에 속하는 노드를 기준으로 상기 H그룹에 속하는 노드의 클래스를 분류하도록 학습한 H학생 모델을 포함하고,
    상기 제2 신경망은
    상기 TH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TH교사 모델,
    상기 TT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TT교사 모델, 및
    상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 T그룹에 속하는 노드를 기준으로 상기 T그룹에 속하는 노드의 클래스를 분류하도록 학습한 T학생 모델을 포함하는
    신경망 제어 장치.
  7. 제6항에 있어서,
    상기 제1 제어부는
    상기 H학생 모델의 학습 과정이 진행됨에 따라, 상기 H학생 모델의 로스에 반영되는 상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스의 반영 비율이 상이해지도록 제어하고,
    상기 제2 제어부는
    상기 T학생 모델의 학습 과정이 진행됨에 따라, 상기 T학생 모델의 로스에 반영되는 상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스의 반영 비율이 상이해지도록 제어하는
    신경망 제어 장치.
  8. 신경망 제어 장치가 수행하는 신경망 제어 방법에 있어서,
    그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 단계;
    상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계; 및
    상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계를 포함하는
    신경망 제어 방법.
  9. 제8항에 있어서,
    상기 분류하는 단계는
    상기 그래프 구조에 포함된 각 클래스에 속하는 노드의 특징값을 평균하여 상기 각 클래스의 기준 특징값을 계산하는
    신경망 제어 방법.
  10. 제9항에 있어서,
    상기 분류하는 단계는
    상기 타겟 노드의 특징값과 상기 각 클래스의 기준 특징값 간의 코사인 유사도를 계산하여 상기 타겟 노드와 가장 높은 코사인 유사도를 갖는 클래스가 속한 그룹으로 상기 타겟 노드를 분류하는
    신경망 제어 방법.
  11. 제8항에 있어서,
    상기 분류하는 단계는
    상기 그래프 구조에 포함된 각 클래스 별 노드의 수를 집계하여, 클래스 별 노드의 수가 기 설정된 비율 이상인 클래스에 포함된 노드를 H그룹으로 분류하고, 클래스 별 노드의 수가 기 설정된 비율 미만인 클래스에 포함된 노드를 T그룹으로 분류하는
    신경망 제어 방법.
  12. 제11항에 있어서,
    상기 분류하는 단계는
    상기 그래프 구조에 포함된 각 차수 별 노드의 수를 집계하여,
    H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 HH그룹,
    H그룹에 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 HT그룹,
    T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 이상인 차수에 포함된 노드를 TH그룹,
    T그룹 속하는 노드 중 차수 별 노드의 수가 기 설정된 비율 미만인 차수에 포함된 노드를 TT그룹으로 분류하는
    신경망 제어 방법.
  13. 제12항에 있어서,
    상기 제1 신경망은
    상기 HH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HH교사 모델,
    상기 HT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 HT교사 모델, 및
    상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 H그룹에 속하는 노드를 기준으로 상기 H그룹에 속하는 노드의 클래스를 분류하도록 학습한 H학생 모델을 포함하고,
    상기 제2 신경망은
    상기 TH그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TH교사 모델,
    상기 TT그룹에 속하는 노드를 기준으로 상기 그래프 구조의 임베딩을 도출하도록 학습한 TT교사 모델, 및
    상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스를 이용하는 지식 증류 기법을 기초로 상기 T그룹에 속하는 노드를 기준으로 상기 T그룹에 속하는 노드의 클래스를 분류하도록 학습한 T학생 모델을 포함하는
    신경망 제어 방법.
  14. 제13항에 있어서,
    상기 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계는
    상기 H학생 모델의 학습 과정이 진행됨에 따라, 상기 H학생 모델의 로스에 반영되는 상기 HH 교사 모델의 로스와 상기 HT 교사 모델의 로스의 반영 비율이 상이해지도록 제어하고,
    상기 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계는
    상기 T학생 모델의 학습 과정이 진행됨에 따라, 상기 T학생 모델의 로스에 반영되는 상기 TH 교사 모델의 로스와 상기 TT 교사 모델의 로스의 반영 비율이 상이해지도록 제어하는
    신경망 제어 방법.
  15. 컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,
    그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 단계;
    상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계; 및
    상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계를 포함하는
    신경망 제어 방법을 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 판독 가능한 기록매체.
  16. 컴퓨터 판독 가능한 기록매체에 저장되어 있는 컴퓨터 프로그램으로서,
    그래프 구조에 포함된 각 클래스를 대표하는 기준 특징값을 기초로 타겟 노드가 H그룹 또는 T그룹인지 분류하는 단계;
    상기 타겟 노드가 H그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 H그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제1 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계; 및
    상기 타겟 노드가 T그룹으로 분류된 경우, 상기 그래프 구조에 포함된 노드 중 클래스가 T그룹에 해당하는 노드를 기준으로 임베딩을 도출하도록 학습한 제2 신경망을 이용하여 상기 타겟 노드의 클래스를 판별하는 단계를 포함하는
    신경망 제어 방법을 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 프로그램.
KR1020220166754A 2022-12-02 2022-12-02 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램 KR20240083248A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020220166754A KR20240083248A (ko) 2022-12-02 2022-12-02 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램
US18/522,470 US20240185036A1 (en) 2022-12-02 2023-11-29 Apparatus and method for controlling graph neural network based on classification into class and degree of graph, and recording medium storing instructions to perform method for controlling graph neural network based on classification into class and degree of graph

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220166754A KR20240083248A (ko) 2022-12-02 2022-12-02 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램

Publications (1)

Publication Number Publication Date
KR20240083248A true KR20240083248A (ko) 2024-06-12

Family

ID=91279969

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220166754A KR20240083248A (ko) 2022-12-02 2022-12-02 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램

Country Status (2)

Country Link
US (1) US20240185036A1 (ko)
KR (1) KR20240083248A (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102214422B1 (ko) 2019-08-08 2021-02-09 네이버 주식회사 개인화 컨텐츠 추천을 위한 실시간 그래프기반 임베딩 구축 방법 및 시스템

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102214422B1 (ko) 2019-08-08 2021-02-09 네이버 주식회사 개인화 컨텐츠 추천을 위한 실시간 그래프기반 임베딩 구축 방법 및 시스템

Also Published As

Publication number Publication date
US20240185036A1 (en) 2024-06-06

Similar Documents

Publication Publication Date Title
US10713597B2 (en) Systems and methods for preparing data for use by machine learning algorithms
US9390373B2 (en) Neural network and method of neural network training
US20210049512A1 (en) Explainers for machine learning classifiers
CN111753101B (zh) 一种融合实体描述及类型的知识图谱表示学习方法
US11537277B2 (en) System and method for generating photorealistic synthetic images based on semantic information
RU2689818C1 (ru) Способ интерпретации искусственных нейронных сетей
CN106778834A (zh) 一种基于距离测度学习的ap聚类图像标注方法
CN110458600A (zh) 画像模型训练方法、装置、计算机设备及存储介质
CN112990222A (zh) 一种基于图像边界知识迁移的引导语义分割方法
CN109344968A (zh) 一种神经网络的超参数处理的方法及装置
Kim et al. DyGRAIN: An Incremental Learning Framework for Dynamic Graphs.
KR102154425B1 (ko) 인공지능 학습을 위한 유사데이터 생성 방법 및 장치
JPH11510936A (ja) コンピュータによるファジィルールの最適化方法
CN114417095A (zh) 一种数据集划分方法及装置
CN117765480A (zh) 一种道路沿线野生动物迁徙预警方法及系统
KR20240083248A (ko) 그래프의 클래스 및 차수 분류에 기반한 그래프 신경망 제어 장치, 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램
Martins et al. Evotype: evolutionary type design
CN111832787B (zh) 教师风格预测模型的训练方法及计算机存储介质
JP6958618B2 (ja) 情報処理装置、情報処理方法、およびプログラム
KR102085599B1 (ko) 네트워크 기반의 유망 융합기술 발굴 장치 및 방법, 이를 기록한 기록매체
KR20210079203A (ko) 다계층 지식베이스 시스템 및 그의 처리 방법
CN112036566A (zh) 使用遗传算法选取特征的方法和装置
KR20210057847A (ko) 다차원 신경망 및 의사결정 신경망의 딥러닝 학습을 통한 영상 인식 방법 및 시스템
KR102235048B1 (ko) 학습 기반의 음악 자동 생성 장치 및 그 방법
JP7314723B2 (ja) 画像処理システム、及び画像処理プログラム