KR20200137772A - 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치 - Google Patents

분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치 Download PDF

Info

Publication number
KR20200137772A
KR20200137772A KR1020190064632A KR20190064632A KR20200137772A KR 20200137772 A KR20200137772 A KR 20200137772A KR 1020190064632 A KR1020190064632 A KR 1020190064632A KR 20190064632 A KR20190064632 A KR 20190064632A KR 20200137772 A KR20200137772 A KR 20200137772A
Authority
KR
South Korea
Prior art keywords
classifier
support elements
prototype
classes
learning
Prior art date
Application number
KR1020190064632A
Other languages
English (en)
Other versions
KR102240882B1 (ko
Inventor
박준영
이수빈
최용석
조동연
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to KR1020190064632A priority Critical patent/KR102240882B1/ko
Publication of KR20200137772A publication Critical patent/KR20200137772A/ko
Application granted granted Critical
Publication of KR102240882B1 publication Critical patent/KR102240882B1/ko

Links

Images

Classifications

    • G06K9/6271—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

본 발명의 일 실시예에 따른 분류기 생성 방법은, 지원 세트(Support Set) 내 복수의 클래스(Class) 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 vMF 모델에 따라 초구(Hypersphere)에 매핑하는 단계; 상기 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 상기 복수의 클래스 각각의 프로토타입(Prototype)을 결정하는 단계; 및 상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성하는 단계를 포함한다.

Description

분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치{APPARATUS, METHOD FOR GENERATING CLASSIFIER AND CLASSIFYING APPARATUS GENERATED THEREBY}
본 발명은 입력 데이터를 대응되는 클래스로 분류하는 분류기를 생성하는 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치에 관한 것이다.
급격한 발전을 거듭하고 있는 기계 학습은 강화 학습을 시작으로 이미지 인식과 자연어 처리, 자율 주행 등 다양한 분야에 적용되고 있다. 특히 충분한 데이터를 확보한 환경에서의 지도 학습은 인간의 인지 능력을 넘어선 성능까지도 보여주고 있다. 하지만 실제 산업 현장에서는 여러 가지 제약들로 인해 충분한 데이터를 확보하지 못한 경우가 대부분이라 기존 모델들의 성능을 보장하기 어렵다.
이러한 학습 데이터 부족 문제를 해결하기 위해 제안된 모델이 Few-Shot 학습 모델이다. 한정된 데이터만 존재하는 환경에서 좋은 성능을 발휘할 수 있는 Few-Shot 학습 모델은 다양한 발전을 거듭하면서 메모리 저장소를 활용하거나, 메타 러닝을 활용하는 등 발전을 거듭하고 있다.
다만, 과적합(Over Fitting)과 같은 적용상의 문제가 남아 있어, Few-Shot 학습 모델의 학습 성능을 개선하기 위한 다각적인 연구와 접근이 필요한 실정이다.
한국공개특허공보, 제 10-2018-0074845호 (2018.07.04. 공개)
본 발명이 해결하고자 하는 과제는, 복수의 지원 요소를 vMF 모델에 따라 초구에 매핑하고, 매핑된 복수의 지원 요소 간 거리 정보를 기초로 결정된 프로토타입을 이용하는 분류기를 생성하는 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치를 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 이상에서 언급한 것으로 제한되지 않으며, 언급되지 않은 또 다른 해결하고자 하는 과제는 아래의 기재로부터 본 발명이 속하는 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 실시예에 따른 분류기 생성 방법은, 지원 세트(Support Set) 내 복수의 클래스(Class) 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 vMF 모델에 따라 초구(Hypersphere)에 매핑하는 단계; 상기 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 상기 복수의 클래스 각각의 프로토타입(Prototype)을 결정하는 단계; 및 상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성하는 단계를 포함한다.
또한, 상기 프로토타입을 결정하는 단계는, 상기 학습 결과에 따른 사후 확률(Posterior Probability)을 기초로 결정되는 판별적 파라미터(Discriminative Parameter)를 이용하여 상기 프로토타입을 결정할 수 있다.
또한, 상기 프로토타입을 결정하는 단계는, 상기 복수의 지원 요소 간 상기 거리 정보를 출력하는 거리 함수를 학습하는 단계; 및 상기 학습된 거리 함수를 기초로 상기 판별적 파라미터를 결정하는 단계를 포함할 수 있다.
또한, 상기 거리 함수는, 전체 지원 요소 중 어느 하나와 상기 복수의 클래스 중 어느 하나에 속하는 복수의 지원 요소간의 제 1 거리 정보 및 상기 전체 지원 요소 중 어느 하나와 상기 전체 지원 요소 중 나머지와의 제 2 거리 정보를 포함하는 상기 거리 정보를 출력할 수 있다.
또한, 상기 복수의 지원 요소를 초구에 매핑하는 단계는, 상기 복수의 지원 요소로부터 정규화된 표현(Normalized Representation)을 획득하는 단계; 상기 획득된 정규화된 표현을 기초로 상기 복수의 클래스 각각에 대한 상기 복수의 지원 요소 각각에 대응되는 상기 초구 상의 위치를 학습하는 단계; 및 상기 학습 결과를 이용하여 상기 복수의 지원 요소를 상기 초구에 매핑하는 단계를 포함할 수 있다.
또한, 상기 복수의 지원 요소 각각에 대응되는 상기 초구 상의 위치를 학습하는 단계는, 상기 복수의 클래스 각각이 서로 다른 vMF 모델을 따르도록, 상기 복수의 지원 요소 각각에 대응되는 상기 초구 상의 위치를 학습할 수 있다.
또한, 상기 서로 다른 vMF 모델은, 동일한 분산을 가질 수 있다.
또한, 상기 초구의 클래스 영역을 구획하는 단계는, 적어도 두 개의 프로토타입으로부터 동일 거리만큼 이격된 구획선을 기초로 상기 초구의 클래스 영역을 구획할 수 있다.
또한, 상기 분류기는, 입력되는 쿼리 세트(Query Set) 내 복수의 쿼리 요소(Query Element)를 상기 초구에 매핑하고, 상기 매핑된 쿼리 요소와 상기 프로토타입 간 거리에 기초하여 상기 쿼리 요소를 상기 복수의 클래스 중 어느 하나로 분류할 수 있다.
본 발명의 일 실시예에 따른 분류기 생성 장치는, 지원 세트(Support Set) 내 복수의 클래스(Class) 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 vMF 모델에 따라 초구(Hypersphere)에 매핑하는 인코더(Encoder); 상기 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 상기 복수의 클래스 각각의 프로토타입(Prototype)을 결정하는 결정부; 및 상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성하는 구획부를 포함한다.
본 발명의 실시예에 의하면, vMF 모델에 따라 지원 요소를 매핑하고, 차별적 파라미터를 기초로 프로토타입을 결정하므로, 보다 정확도 높은 분류기를 생성할 수 있다. 특히, 차별적 파라미터를 근사화하여 결정할 수 있어, 차별적 파라미터에 기초한 분류기를 생성할 수 있다.
도 1 은 본 발명의 일 실시예에 따른 분류기 생성 장치의 제어 블록도이다.
도 2는 본 발명의 일 실시예에 따른 분류기 생성 방법의 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 분류기 생성 방법의 매핑하는 단계를 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 분류기 생성 방법의 결정하는 단계를 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 분류기 생성 방법의 생성하는 단계를 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 분류기 생성 방법에 의해 생성된 분류기의 동작을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 분류기 생성 방법에 따라 생성된 분류기의 성능 그래프이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명의 실시예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
도 1 은 본 발명의 일 실시예에 따른 분류기 생성 장치의 제어 블록도이다.
본 발명의 분류기 생성 장치는 입력 데이터를 복수의 클래스(Class) 중 어느 하나로 분류하는 분류기를 생성하는 장치를 의미할 수 있다. 이 때, 분류기 생성 장치는 기계 학습(Machine Learning)을 통해 분류기 생성할 수 있다.
종래의 기계 학습 방법은 신경망(Neural Network)을 학습하기 위해 대용량의 데이터가 요구될 수 있다. 특히, 종래의 기계 학습 방법은 새로운 데이터 세트가 입력되면, 처음부터 네트워크 학습을 다시 시작할 수 있다. 만약, GPU와 같은 고성능 장치를 이용할 경우, 새롭게 입력되는 데이터를 재학습하기 위해서는 수 일에서 수 주까지 걸릴 수 있다. 이와는 달리, 인간은 학습이나 경험에 의해 누적된 정보를 지속적으로 활용함으로써, 몇 가지의 예만으로도 훨씬 더 효과적으로 새로운 일을 배울 수 있다.
인간 학습과 기계 학습의 격차를 줄이려는 시도 중 하나는 신경망이 새로운 환경에 빠르게 적응하거나, 작업 중에 보이지 않는 작업을 해결하도록 훈련된 메타 학습 방법이다. 메타 학습 방법의 학습 단계에서는 입력되는 데이터의 수가 제한될 수 있다.
메타 학습 방법 중 하나인 Few-Shot 학습 모델은 이렇게 제한된 수의 입력 데이터를 학습하도록 고안된 모델이다. 이러한 Few-Shot 학습 모델은 순환 모델(Recurrent Model) 기반 방법, 최적화(Optimization) 기반 방법, 메트릭(Metric) 기반 방법 및 이들의 조합 등과 같은 다양한 방법에 의해 구현될 수 있다.
이 중, 메트릭 기반 방법은 Few-Shot 학습 모델을 구현하는데 가장 간단하면서도 효과적인 방법일 수 있다. 메트릭 기반 방법의 일 실시예인 Prototypical Network에 따르면, 표현 공간(Representation Space)이 학습되어 각각의 클래스 별로 프로토타입(Prototype)을 가지고, 클래스 내 데이터들은 학습된 표현 공간 내 대응되는 프로토타입 주위로 클러스터링될 수 있다. 이 때, 표현 공간에서, 클래스 별 프로토타입은 해당 클래스에 속하는 데이터의 평균으로 정의될 수 있다. 이후, 신규 데이터가 입력되면, 가장 근접한 프로토타입을 선택함으로써 신규 데이터가 분류될 수 있다.
이러한 메트릭 기반 방법은 학습된 공간에 가우시안 분포(Gaussian Distribution)를 적용할 수 있다. 이 경우, 가우시안 분포의 공분산 행렬의 파라미터의 수는 변수의 제곱에 비례할 수 있다. 그 결과, 가우시안 분포를 따르는 방법에서는 특정 파라미터만을 제어하는 것이 어려울 수 있다.
이를 해결하기 위해 위해, 본 발명의 일 실시예에 따른 분류기 생성 장치(100)는 학습된 공간에 vMF(von Mises-Fisher) 모델을 적용할 수 있다. 여기서, vMF 모델은 (p-1)차원상의 확률 분포를 의미하며, 제어 가능한 하나의 파라미터로서 분산을 의미하는 κ를 포함할 수 있다.
구체적으로, 도 1을 참조하면, 본 발명의 일 실시예에 따른 분류기 생성 장치(100)는 인코더(110)(Encoder), 결정부(120), 및 구획부(130)를 포함할 수 있다.
인코더(110)는 지원 세트(Support Set) 내 복수의 클래스(Class) 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 vMF 모델에 따라 초구(Hypersphere)에 매핑할 수 있다. 여기서, 지원 세트는 레이블링이 완료된 학습 데이터인 지원 요소를 포함하고, 지원 요소 및 레이블링에 따른 클래스의 수는 극히 작을 수 있다. 예를 들어, 지원 세트는 5개의 클래스 각각으로 레이블링된 5개의 지원 요소, 즉 25개의 지원 요소를 포함할 수 있다. 이와 같이, 소수의 클래스와 소수의 지원 요소를 이용함으로써 Few-Shot 학습 모델을 구현할 수 있다.
또한, 초구는 3차원 이상으로 차원을 확장한 공간을 의미하고, vMF 모델에 따라 지원 요소가 매핑될 수 있다. 이 때, vMF 모델은 방향성을 가지므로, 지원 요소 역시 방향 성을 가지고 초구에 매핑될 수 있다.
결정부(120)는 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 복수의 클래스 각각의 프로토타입(Prototype)을 결정할 수 있다. 구체적으로, 결정부(120)는 학습 결과에 따른 사후 확률(Posterior Probability)을 기초로 결정되는 판별적 파라미터(Discriminative Parameter)를 이용하여 프로토타입을 결정할 수 있다. 이를 위해, 결정부(120)는 복수의 지원 요소를 입력 받아 이들의 거리 정보를 출력하는 거리 함수를 이용할 수 있다.
구획부(130)는 상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성할 수 있다. 구체적으로, 구획부(130)는 적어도 두 개의 프로토타입을 연결하는 보조선에 수직이고, 보조선의 중심을 지나는 구획선을 기초로 초구의 클래스 영역을 구획할 수 있다.
구획부(130)에 의해 생성되는 분류기는 입력되는 쿼리 세트(Query Set) 내 복수의 쿼리 요소(Query Element)를 초구에 매핑하고, 매핑된 쿼리 요소와 프로토타입 간 거리에 기초하여 쿼리 요소를 복수의 클래스 중 어느 하나로 분류할 수 있다. 여기서, 쿼리 세트는 레이블링이 되지 않은 데이터로, 학습 데이터와 동종의 데이터일 수 있다.
상술한 실시예에 따른 분류기 생성 장치(100)의 각 구성은 마이크로프로세서(Microprocessor)를 포함하는 연산 장치로 구현될 수 있고, 예를 들어 중앙 처리 장치(Central Processing Unit, CPU), 그래픽 처리 장치(Graphic Processing Unit, GPU) 등으로 구현될 수 있다. 이와는 달리, 분류기 생성 장치(100)를 구성하는 복수의 구성이 하나의 SOC(System On Chip)으로 구현되는 것도 가능할 수 있다.
지금까지는 본 발명의 일 실시예에 따른 분류기 생성 장치(100)의 각 구성에 대하여 설명하였다. 이하에서는 상술한 분류기 생성 장치(100)에 의해 수행되는 분류기 생성 방법에 대해 설명한다.
도 2는 본 발명의 일 실시예에 따른 분류기 생성 방법의 흐름도이고, 도 3 내지 6은 본 발명의 일 실시예에 따른 분류기 생성 방법의 각 단계를 설명하기 위한 도면이다.
설명에 앞서, 도 2의 실시예에 따른 분류기 생성 방법은 다음을 전제한다. 먼저, 도 2의 실시예에 따른 분류기 생성 방법은 K개의 클래스 및 각각의 클래스에 대한 N개의 지원 요소를 포함하는 K-Way N-Shot 지원 세트에 대한 Few-Shot 학습 모델을 따른다. 또한, 지원 세트 S는 S = {(xi s,yi s)|i = 1, … , NK }로 정의되고, xi s는 D차원의 벡터 공간에서 표현되는 벡터이고, yi s는 yi s∈1, … , K}로 정의되어 특정 클래스를 나타낼 수 있다. 아울러, χk는 지원 세트 S로부터 클래스 k의 지원 요소 집합을 의미하며, χk={xi s|yi s = k}로 정의될 수 있다.
이를 기초로, vMF 모델이 정의될 수 있다. 구체적으로, (p-1) 차원의 초구 SP-1= {x∈Rp|∥x∥=1} 상에서, vMF 모델은 수학식 1에 의해 정의될 수 있다.
Figure pat00001
여기서, μ는 평균 방향(Mean Direction)로서 크기가 1인 p차원의 벡터이고, κ는 밀집 파라미터(Concentration Parameter)로서 0보다 클 수 있다. 또한, Cp(κ)는 정규화 상수(Normalizing Constant)로서 수학식 2를 따른다.
Figure pat00002
여기서, Ip는 닫힌 수식(Closed Formula)로 표현될 수 없도록 수정된 1종 p차 베셀 함수(Bessel Function)을 의미할 수 있다.
상술한 전제를 기초로, 분류기 생성 장치(100)는 먼저 지원 세트 내 복수의 클래스 각각에 대한 복수의 지원 요소를 학습하여, 복수의 지원 요소를 vMF 모델에 따라 초구에 매핑할 수 있다(S100). 이를 위해, 분류기 생성 장치(100)의 인코더(110)는 인코딩 함수 fφ: RD → RM를 포함하고, 인코더(110) 함수 fφ는 복수의 지원 요소를 초구가 형성하는 표현 공간 상에 매핑할 수 있다. 이하에서는 설명의 편의 상 L2-정규화(L2-Normalized)된 fφ를 x로 표기한다.
구체적으로, 인코더(110)는 복수의 지원 요소로부터 정규화된 표현(Normalized Representation)을 획득할 수 있다.
그 다음, 인코더(110)는 획득된 정규화된 표현을 기초로 vMF 모델에 따라 복수의 클래스 각각에 대한 복수의 지원 요소 각각에 대응되는 초구 상의 위치를 학습할 수 있다. 학습의 과정에서는 신경망이 이용될 수 있고, 인코더(110)는 복수의 클래스 각각에는 서로 다른 vMF 모델을 따르도록, 복수의 지원 요소 각각에 대응되는 초구 상의 위치를 학습할 수 있다. 다만, 서로 다른 vMF 모델은 동일한 분산을 가질 수 있다.
또한, 인코더(110)는 동일 클래스의 복수의 지원 요소가 특정 위치 주변으로 밀집하도록 학습할 수 있다.
마지막으로, 인코더(110)는 학습 결과를 이용하여 복수의 지원 요소를 초구에 매핑할 수 있다. 도 3은 본 발명의 일 실시예에 따른 분류기 생성 방법 중 단계 S100을 예시한 도면으로, 초구 H 상에 복수의 지원 요소 S가 매핑됨을 확인할 수 있다. 이 때, 매핑된 복수의 지원 요소 S는 클래스 별로 밀집되어 위치함을 확인할 수 있다.
그 다음, 분류기 생성 장치(100)는 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 복수의 클래스 각각의 프로토타입을 결정할 수 있다(S110). 구체적으로, 분류기 생성 장치(100)의 결정부(120)는 단계 S100의 학습 결과에 따른 우도(Likelihood)를 기초로 결정되는 생성적 파라미터(Generative Parameter) 및 사후 확률(Posterior Probability)를 기초로 결정되는 판별적 파라미터(Discriminative Parameter)중 적어도 하나를 이용하여 프로토타입을 결정할 수 있다.
생성적 파라미터와 판별적 파라미터를 결정하기 위해, 결정부(120)는 각각의 클래스 k가 가지는 고유의 vMF 모델을 fM(x; μk, κk)라 가정하고, x를 클래스 k로부터 획득한 경우 z=k 관계가 성립하도록, z를 x에 대한 잠재 변수(Latent Variable)로 설정할 수 있다.
이를 기초로, vMF 모델을 따르는 주변 확률(Marginal Probability) p(x)는 수학식 3에 따라 표현될 수 있다.
Figure pat00003
상술한 바와 같이, 지원 세트의 복수의 지원 요소는 모두 레이블링이 된 상태일 수 있다. 따라서, 지원 요소 (xi,yi) = (xi s,yi s)에 대하여 수학식 4가 성립할 수 있다.
Figure pat00004
Few-Shot 학습 방법을 따르는 본 발명의 분류기 생성 방법에서는 각각의 클래스 별 지원 요소의 수가 동일하므로, 주변 확률 p(x)가 동일하다고 가정할 수 있다. 또한, 모든 클래스 k에 대하여 κk가 일치, 즉 κk = κ 가 성립함을 가정할 수 있다. 그러면, 사후 확률 p(zi=yi|xi)을 수학식 5로 나타낼 수 있다.
Figure pat00005
한편, 우도 p(X|Z)와 사후 확률 p(Z|X)는 수학식 6에 따라 표현될 수 있다.
Figure pat00006
이 때, 결정부(120)는 κ를 하이퍼파라미터(Hyperparameter)로 설정하고, 우도 p(X|Z) 및 사후 확률 p(Z|X) 중 적어도 하나를 최대화하는 파라미터 {μk}, 즉 생성적 파라미터 및 판별적 파마리터 중 적어도 하나를 결정할 수 있다.
vMF 모델을 따르는 바, 모든 k에 대한 ∥μk∥=1의 제약 조건이 존재한다. 이를 고려하여, 수학식 6에 라그랑주 승수법(Lagrangian Multiplier Method)을 적용할 수 있으며, 이는 수학식 7과 같다.
Figure pat00007
생성적 파라미터를 결정하기 위해, 결정부(120)는 {μk} 및 {λk} 각각에 대해 Lgen를 편미분(Partial Derivatives)할 수 있다. 그 결과는 수학식 8을 따른다.
Figure pat00008
수학식 8을 0으로 하여 식을 정리하면, 결정부(120)는 생성적 파라미터 μk gen 를 수학식 9에 따라 결정할 수 있다.
Figure pat00009
이렇게 결정된 μk gen 는 초구의 평균 방향을 직관적으로 나타낼 수 있다. 이것은, μk gen 이 초구 상에서 정규화된 표현의 평균이기 때문에, 코사인 유사도를 이용함에도 불구하고, Prototypical Network에서 정의된 평균 벡터로서 정확히 일치하지는 않을 수 있다.
한편, 판별적 파라미터를 결정하기 위해, 결정부(120)는 수학식 8과 같이 {μk} 및 {λk}에 대해 편미분을 취할 수 있다. 그 결과는 수학식 10과 같다.
Figure pat00010
또한, 수학식 10을 0으로 하여 정리하면, 결정부(120)는 판별적 파라미터 μk dis의 지역 최적값(Local Optima) {μk dis=
Figure pat00011
}에 대한 하기의 수학식 11을 획득할 수 있다.
Figure pat00012
여기서, Norm은 μk를 단위 벡터로 만드는 정규화 연산자를 의미할 수 있고, 수학식 11 역시 수학식 5를 따를 수 있다.
이 때, 수학식 11의 좌변과 우변 모두에
Figure pat00013
이 존재하므로, 이로부터 판별적 파라미터 μk dis를 도출하는 것은 매우 어렵다. 이를 해결하기 위해, 결정부(120)는 복수의 지원 요소 간 상기 거리 정보를 출력하는 거리 함수를 이용하여 판별적 파라미터를 추정할 수 있다.
구체적으로, 결정부(120)는 거리 함수를 학습하고, 학습된 거리 함수를 기초로 판별적 파라미터를 결정할 수 있다. 여기서, 학습된 거리 함수 gθ의 출력값 gθ(k,i;S)는 각각의 i∈{1, … , NK} 및 클래스 k에 대하여 gθ(k,i;S)∈R 이고, 0< gθ(k,i;S)<1을 만족할 수 있다.
거리 함수 gθ를 학습하기 위해, 결정부(120)는 거리 메트릭 신경망 dθ를 학습할 수 있다. 거리 메트릭 신경망 dθ(x,y)는 M차원의 벡터 공간의 벡터 x 및 y에 대하여 실수를 출력할 수 있다. 이 때, 결정부(120)는 거리 메트릭 신경망 dθ(x,y)가 대칭(Symmetry) 또는 비음수(Non-Negative)와 같은 메트릭의 특성을 가지도록 설계하지는 않을 수 있다.
거리 메트릭 신경망 dθ가 학습되면, 결정부(120)는 초구 상의 모든 지원 요소 쌍의 거리 dij=dθ(xi s,xj s)를 구할 수 있다. 초구로의 매핑 단계에서의 학습 결과, 클래스에 따라 지원 요소가 클러스터링 되는 바, xi s와 xj s가 동일한 클래스에 속하면 dij는 상대적으로 작은 값을 가질 수 있다.
이를 기초로 k 클래스 내 지원 요소와의 거리 합인
Figure pat00014
를 획득할 수 있다. 이 때, dij와 마찬가지로, eik도 xi s와 xj s가 동일한 클래스에 속하면 상대적으로 작은 값을 가질 수 있다. 이렇게 획득된 eik를 기초로, 결정부(120)는 거리 함수 gθ를 전체 지원 요소 중 i번째 지원 요소와 복수의 클래스 중 k 클래스에 속하는 복수의 지원 요소간의 제 1 거리 정보
Figure pat00015
및 전체 지원 요소 중 i번째 지원 요소와 전체 지원 요소 중 전체 클래스를 의미하는 k'클래스와의 제 2 거리 정보
Figure pat00016
를 포함하도록 정의할 수 있다. 구체적으로, 거리 함수 gθ는 수학식 12에 따라 정의될 수 있다.
Figure pat00017
상술한 바와 같이, xi s와 xj s가 동일한 클래스에 속하면 dij와 eik의 값이 작아χk`의 조건을 만족할 때, gθ(k,i;S)가 gθ(k`,i;S)보다 큰 값을 가질 수 있다. 따라서, 결정부(120)는 수학식 11의 p(zi=k|xi)을 gθ(k,i;S)으로 치환함으로써 판별적 파라미터를 추정할 수 있다. 이렇게 추정된 판별적 파라미터
Figure pat00018
는 수학식 13을 따른다.
Figure pat00019
그 결과, 결정부(120)는 수학식 13의 추정된 판별적 파라미터
Figure pat00020
를 판별적 파라미터 μk dis로 결정할 수 있고, 초구 상의 μk dis 위치에 대응되는 지원 요소를 해당 클래스의 프로토타입으로 결정할 수 있다.
도 4는 본 발명의 일 실시예에 따른 분류기 생성 방법 중 단계 S110을 예시한 도면으로, 초구 H 상에 복수의 지원 요소 S가 매핑되었을 때, 클러스터링 된 지원 요소 마다 하나의 프로토타입 P1, P2, P3가 결정됨을 확인할 수 있다.
다시 도 2를 참조하면, 분류기 생성 장치(100)는 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성할 수 있다(S120). 구체적으로, 분류기 생성 장치(100)의 구획부(130)는 적어도 두 개의 프로토타입으로부터 동일 거리만큼 이격된 구획선을 기초로 초구의 클래스 영역을 구획할 수 있다. 일 실시예에 따른 구획부(130)는 두 개의 프로토타입을 연결하는 가상의 선을 설정하고, 가상의 선의 중심을 지나고, 가상의 선과 수직인 구획선을 설정할 수 있다.
도 5는 본 발명의 일 실시예에 따른 분류기 생성 방법 중 단계 S120을 예시한 도면으로, 초구 H 상에 복수의 지원 요소 S가 매핑되고, 프로토타입 P1, P2, P3가 결정되었을 때, 적어도 두 개의 프로토타입으로부터 동일 거리만큼 이격된 구획선 B에 의해 초구의 클래스 영역이 구획된 것을 확인할 수 있다.
상술한 과정을 통해 생성된 분류기는 레이블링 없이 입력되는 쿼리 요소를 이에 대응되는 클래스로 분류해 낼 수 있다. 구체적으로 본 발명의 일 실시예에 따라 생성된 분류기는 레이블링 없이 입력되는 쿼리 세트 내 쿼리 요소를 초구에 매핑하고, 매핑된 쿼리 요소와 프로토타입 간 거리에 기초하여 쿼리 요소를 복수의 클래스 중 어느 하나로 분류할 수 있다.
도 6은 본 발명의 일 실시예에 따른 분류기 생성 방법에 따라 생성된 분류기의 동작을 예시한 도면으로, 초구 H 상에 프로토타입을 기초로 클래스 영역이 구획된 경우, 새롭게 입력된 쿼리 요소 Q는 프로토타입 P3와 가장 인접하며, 프로토타입 P3에 대응되는 클래스 영역에 존재하므로, 해당 클래스 영역에 대응되는 클래스로 분류될 수 있다.
분류기가 쿼리 요소 x를 분류하는 동작은 수학식 14와 같이 나타낼 수 있다.
Figure pat00021
이와 함께, 분류기에 입력된 쿼리 세트에 따라 출력되는 출력값의 손실(Loss)은 수학식 15에 의해 정의될 수 있다.
Figure pat00022
본 발명의 일 실시예에 따른 분류기 생성 장치(100)는 수학식 15에 따른 손실을 최소화하도록, Few-Shot 학습 방법을 수행하여 분류기를 생성할 수도 있다.
지금까지는 분류기 생성 방법에 대해 설명하였다. 이하에서는 상술한 방법에 따라 생성된 분류기를 포함하는 분류 장치의 구성에 대해 설명한다.
본 발명의 일 실시예에 따른 분류 장치(200)는 입력부(210), 및 상술한 방법에 따라 생성된 분류기(220)를 포함할 수 있다.
입력부(210)는 쿼리 세트(Query Set)를 입력받을 수 있다. 여기서, 쿼리 세트는 레이블링 되지 않은 복수의 쿼리 요소의 집합으로 구성될 수 있다.
분류기(220)는 입력되는 쿼리 세트 내 복수의 쿼리 요소를 vMF 모델에 따라 초구에 매핑하고, 매핑된 쿼리 요소와 미리 정해진 프로토타입 간 거리에 기초하여 쿼리 요소를 복수의 클래스 중 어느 하나로 분류할 수 있다.
지금까지는 분류기를 포함하는 분류 장치(200)의 구성에 대해 설명하였다. 이하에서는 상술한 분류기의 성능에 대해 설명한다.
도 8은 본 발명의 일 실시예에 따른 분류기 생성 방법에 따라 생성된 분류기의 성능 그래프이다.
분류기의 성능을 확인하기 위해, vMF 모델의 밀집 파라미터 κ의 변화에 따른 정확도(%)를 확인하였다.
이 때, 거리 메트릭 신경망 dθ으로서 네트워크 구조가 상이한 M1, M2를 변경하여 분류기의 성능을 확인하였다. 여기서 거리 메트릭 신경망 M1은 Flatten Layer, Substraction Layer 및 Two-Layered MLP로 구성되고, 거리 메트릭 신경망 M2는 Relation Network의 관계 모듈과 동일한 아키텍처를 가지도록 구성된다.
또한, 지원 세트로서 MiniImageNet과 TieredImageNet을 변경하여 분류기의 성능을 확인하였다. MiniImageNet은 ILSVRC-12 ImageNet dataset의 서브 세트로서, 600개의 예제(Example)이 있는 100개의 클래스로부터 84×84 크기의 60,000 장의 컬러 이미지를 포함한다. TieredImageNet 또한 ILSVRC-12 ImageNet dataset의 서브 세트이나, 608개의 클래스가 34개 카테고리로 그룹화되고, 이 중 광범위한 카테고리는 20개의 훈련 세트, 6개의 검증 세트 및 8개의 테스트 세트로 분류된다.
아울러, 지원 세트의 구성을 5-Way 1-Shot과 5-Way 5-Shot으로 달리하여 분류기의 성능을 확인하였다.
도 8의 (a)는 지원 세트를 MiniImageNet로 하여 생성된 분류기의 성능에 대한 그래프로서, 좌측이 5-Way 1-Shot으로 지원 세트가 구성되는 경우이고, 우측이 5-Way 5-Shot로 지원 세트가 구성되는 경우를 나타낸다.
log κ= 2.5 일 때, 거리 메트릭 신경망 M1을 이용하는 분류기는 1-Shot 조건에서 52.44%, 5-Shot 조건에서 68.60%의 정확도를 가지며, 가장 우수한 성능을 보임을 확인할 수 있다.
반면, 거리 메트릭 신경망 M2를 이용하는 분류기는 1-Shot 조건에서 log κ= 3 일 때 가장 우수한 정확도를 가지고, 5-Shot 조건에서 log κ= 2.5 일 때 가장 우수한 정확도를 가짐을 알 수 있다.
도 8의 (b)는 지원 세트를 TieredImageNet로 하여 생성된 분류기의 성능에 대한 그래프로서, 좌측이 5-Way 1-Shot으로 지원 세트가 구성되는 경우이고, 우측이 5-Way 5-Shot로 지원 세트가 구성되는 경우를 나타낸다.
log κ= 2.5 일 때, 거리 메트릭 신경망 M1을 이용하는 분류기는 1-Shot 조건 및 5-Shot 조건에서 가장 우수한 성능을 보이는 반면, 거리 메트릭 신경망 M2를 이용하는 분류기는 log κ= 3 일 때 가장 우수한 정확도를 나타낸다.
이처럼, 본 발명의 일 실시예에 따른 분류기 생성 방법에 따라 생성된 분류기는 다양한 조건 하에서 κ값에 따라 정확도가 달라질 수 있고, 특히 κ값이 너무 작거나 클 때 정확도가 낮아져 도 7의 그래프가 오목한 형상을 가짐을 확인할 수 있다. 이는 클래스 분포에 가장 적합하고, 정확도가 가장 높은 κ값이 존재함을 의미하므로, 분류기의 생성 시 이를 고려함으로써 성능을 최적화 할 수 있다.
상술한 실시예에 따른 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치는, vMF 모델에 따라 지원 요소를 매핑하고, 차별적 파라미터를 기초로 프로토타입을 결정하므로, 보다 정확도 높은 분류기를 생성할 수 있다. 특히, 차별적 파라미터를 근사화하여 결정할 수 있어, 차별적 파라미터에 기초한 분류기를 생성할 수 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 품질에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 균등한 범위 내에 있는 모든 기술사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
일 실시예에 따르면, 상술한 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치는 댁내 또는 산업 현장 등 다양한 분야에서 이용될 수 있으므로 산업상 이용 가능성이 있다.
100: 분류기 생성 장치
110: 인코더
120: 결정부
130: 구획부

Claims (12)

  1. 지원 세트(Support Set) 내 복수의 클래스(Class) 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 vMF 모델에 따라 초구(Hypersphere)에 매핑하는 단계;
    상기 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 상기 복수의 클래스 각각의 프로토타입(Prototype)을 결정하는 단계; 및
    상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성하는 단계를 포함하는
    분류기 생성 방법.
  2. 제 1 항에 있어서,
    상기 프로토타입을 결정하는 단계는,
    상기 학습 결과에 따른 사후 확률(Posterior Probability)를 기초로 결정되는 판별적 파라미터(Discriminative Parameter)를 이용하여 상기 프로토타입을 결정하는
    분류기 생성 방법.
  3. 제 2 항에 있어서,
    상기 프로토타입을 결정하는 단계는,
    상기 복수의 지원 요소 간 상기 거리 정보를 출력하는 거리 함수를 학습하는 단계; 및
    상기 학습된 거리 함수를 기초로 상기 판별적 파라미터를 결정하는 단계를 포함하는
    분류기 생성 방법.
  4. 제 3 항에 있어서,
    상기 거리 함수는,
    전체 지원 요소 중 어느 하나와 상기 복수의 클래스 중 어느 하나에 속하는 복수의 지원 요소간의 제 1 거리 정보 및 상기 전체 지원 요소 중 어느 하나와 상기 전체 지원 요소 중 나머지와의 제 2 거리 정보를 포함하는 상기 거리 정보를 출력하는
    분류기 생성 방법.
  5. 제 1 항에 있어서,
    상기 복수의 지원 요소를 초구에 매핑하는 단계는,
    상기 복수의 지원 요소로부터 정규화된 표현(Normalized Representation)을 획득하는 단계;
    상기 획득된 정규화된 표현을 기초로 상기 복수의 클래스 각각에 대한 상기 복수의 지원 요소 각각에 대응되는 상기 초구 상의 위치를 학습하는 단계; 및
    상기 학습 결과를 이용하여 상기 복수의 지원 요소를 상기 초구에 매핑하는 단계를 포함하는
    분류기 생성 방법.
  6. 제 5 항에 있어서,
    상기 복수의 지원 요소 각각에 대응되는 상기 초구 상의 위치를 학습하는 단계는,
    상기 복수의 클래스 각각이 서로 다른 vMF 모델을 따르도록, 상기 복수의 지원 요소 각각에 대응되는 상기 초구 상의 위치를 학습하는
    분류기 생성 방법.
  7. 제 6 항에 있어서,
    상기 서로 다른 vMF 모델은,
    동일한 분산을 가지는
    분류기 생성 방법.
  8. 제 1 항에 있어서,
    상기 초구의 클래스 영역을 구획하는 단계는,
    적어도 두 개의 프로토타입으로부터 동일 거리만큼 이격된 구획선을 기초로 상기 초구의 클래스 영역을 구획하는
    분류기 생성 방법.
  9. 쿼리 세트(Query Set)를 입력받는 입력부; 및
    상기 입력되는 쿼리 세트 내 복수의 쿼리 요소(Query Element)를 vMF 모델에 따라 초구(Hypersphere)에 매핑하고, 상기 매핑된 쿼리 요소와 미리 정해진 프로토타입(Prototype) 간 거리에 기초하여 상기 쿼리 요소를 복수의 클래스(Class) 중 어느 하나로 분류하는 분류기를 포함하고,
    상기 분류기는,
    지원 세트(Support Set) 내 상기 복수의 클래스 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 상기 vMF 모델에 따라 초구에 매핑하고, 상기 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 상기 복수의 클래스 각각의 상기 프로토타입을 결정하고, 상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성하는 단계를 포함하는 분류기 생성 방법에 의해 생성되는
    분류 장치.
  10. 지원 세트(Support Set) 내 복수의 클래스(Class) 각각에 대한 복수의 지원 요소(Support Element)를 학습하여, 상기 복수의 지원 요소를 vMF 모델에 따라 초구(Hypersphere)에 매핑하는 인코더(Encoder);
    상기 매핑된 복수의 지원 요소 간 거리 정보에 기초하여 상기 복수의 클래스 각각의 프로토타입(Prototype)을 결정하는 결정부; 및
    상기 결정된 프로토타입을 기초로 상기 초구의 클래스 영역을 구획하여 분류기를 생성하는 구획부를 포함하는
    분류기 생성 장치.
  11. 제 1 항 내지 제 8 항 중 어느 한 항에 기재된 방법에 따른 각각의 단계를 수행하는, 컴퓨터 판독 가능 기록매체에 저장된 프로그램.
  12. 제 1 항 내지 제 8 항 중 어느 한 항에 기재된 방법에 따른 각각의 단계를 수행하는 명령어를 포함하는 프로그램이 기록된 컴퓨터 판독 가능 기록매체.
KR1020190064632A 2019-05-31 2019-05-31 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치 KR102240882B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190064632A KR102240882B1 (ko) 2019-05-31 2019-05-31 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190064632A KR102240882B1 (ko) 2019-05-31 2019-05-31 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치

Publications (2)

Publication Number Publication Date
KR20200137772A true KR20200137772A (ko) 2020-12-09
KR102240882B1 KR102240882B1 (ko) 2021-04-15

Family

ID=73787318

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190064632A KR102240882B1 (ko) 2019-05-31 2019-05-31 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치

Country Status (1)

Country Link
KR (1) KR102240882B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220097666A (ko) * 2020-12-30 2022-07-08 동국대학교 산학협력단 동적 메모리 기반의 신경망을 이용한 Few-Shot 텍스트 분류 장치 및 그 방법
WO2023096011A1 (ko) * 2021-11-26 2023-06-01 연세대학교 산학협력단 제로샷 시맨틱 분할 장치 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003228706A (ja) * 2002-02-05 2003-08-15 Fuji Xerox Co Ltd データ分類装置
KR20120010997A (ko) * 2010-07-27 2012-02-06 어플라이드 머티리얼즈 이스라엘 리미티드 최적화된 순도를 이용한 결함 분류
JP2017027622A (ja) * 2016-10-25 2017-02-02 株式会社東芝 パターン認識装置、パターン認識方法、及びパターン認識プログラム
KR20180074845A (ko) 2016-12-23 2018-07-04 중앙대학교 산학협력단 체스 게임 제공 방법 및 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003228706A (ja) * 2002-02-05 2003-08-15 Fuji Xerox Co Ltd データ分類装置
KR20120010997A (ko) * 2010-07-27 2012-02-06 어플라이드 머티리얼즈 이스라엘 리미티드 최적화된 순도를 이용한 결함 분류
JP2017027622A (ja) * 2016-10-25 2017-02-02 株式会社東芝 パターン認識装置、パターン認識方法、及びパターン認識プログラム
KR20180074845A (ko) 2016-12-23 2018-07-04 중앙대학교 산학협력단 체스 게임 제공 방법 및 장치

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220097666A (ko) * 2020-12-30 2022-07-08 동국대학교 산학협력단 동적 메모리 기반의 신경망을 이용한 Few-Shot 텍스트 분류 장치 및 그 방법
WO2023096011A1 (ko) * 2021-11-26 2023-06-01 연세대학교 산학협력단 제로샷 시맨틱 분할 장치 및 방법

Also Published As

Publication number Publication date
KR102240882B1 (ko) 2021-04-15

Similar Documents

Publication Publication Date Title
US20240144665A1 (en) Dual deep learning architecture for machine-learning systems
JP2020091922A (ja) 畳み込みニューラルネットワークにおける構造学習
Kamyshanska et al. The potential energy of an autoencoder
CN109783666B (zh) 一种基于迭代精细化的图像场景图谱生成方法
KR102224253B1 (ko) 심층 네트워크와 랜덤 포레스트가 결합된 앙상블 분류기의 경량화를 위한 교사-학생 프레임워크 및 이를 기반으로 하는 분류 방법
WO2020114378A1 (zh) 视频水印的识别方法、装置、设备及存储介质
EP3029606A2 (en) Method and apparatus for image classification with joint feature adaptation and classifier learning
KR102548732B1 (ko) 신경망 학습 방법 및 이를 적용한 장치
Sankaran et al. Representation learning through cross-modality supervision
KR102240882B1 (ko) 분류기 생성 장치, 방법 및 이에 의해 생성되는 분류 장치
Oliveira et al. Concurrent learning of visual codebooks and object categories in open-ended domains
WO2003030089A1 (en) System and method of face recognition through 1/2 faces
Miller et al. Biomimetic sensory abstraction using hierarchical quilted self-organizing maps
US20220164648A1 (en) Clustering method based on self-discipline learning sdl model
Puthenputhussery et al. Sparse representation based complete kernel marginal fisher analysis framework for computational art painting categorization
CN116152645A (zh) 一种融合多种表征平衡策略的室内场景视觉识别方法及系统
KR20200123507A (ko) 교사-학생 프레임워크 기반의 소프트 타겟 학습방법을 이용한 보행자 포즈 방향 추정 방법 및 시스템
CN114241227A (zh) 一种基于vlad的图像识别方法及装置
US20210357700A1 (en) Method and apparatus for image analysis using image classification model
CN111523649A (zh) 针对业务模型进行数据预处理的方法及装置
US20210248426A1 (en) Learning device, learning method, and computer program product
US20220172073A1 (en) Simulated deep learning method based on sdl model
Murphy The Application of Computer Vision, Machine and Deep Learning Algorithms Utilizing MATLAB®
Schulz Human-Assisted Self-Supervised Labeling of Large Data Sets
Gürbüz Novel Optimization Models to Generalize Deep Metric Learning

Legal Events

Date Code Title Description
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)