KR20170057118A - Method and apparatus for recognizing object, and method and apparatus for training recognition model - Google Patents

Method and apparatus for recognizing object, and method and apparatus for training recognition model Download PDF

Info

Publication number
KR20170057118A
KR20170057118A KR1020160084932A KR20160084932A KR20170057118A KR 20170057118 A KR20170057118 A KR 20170057118A KR 1020160084932 A KR1020160084932 A KR 1020160084932A KR 20160084932 A KR20160084932 A KR 20160084932A KR 20170057118 A KR20170057118 A KR 20170057118A
Authority
KR
South Korea
Prior art keywords
recognition model
input
features
regions
information
Prior art date
Application number
KR1020160084932A
Other languages
Korean (ko)
Other versions
KR102554149B1 (en
Inventor
유병인
곽영준
김정배
이선민
한승주
한재준
황원준
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US15/347,143 priority Critical patent/US10860887B2/en
Priority to EP16198686.4A priority patent/EP3168781A1/en
Priority to CN201611009586.3A priority patent/CN107038405B/en
Publication of KR20170057118A publication Critical patent/KR20170057118A/en
Priority to US17/101,552 priority patent/US11544497B2/en
Application granted granted Critical
Publication of KR102554149B1 publication Critical patent/KR102554149B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06K9/46—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06K9/00067—
    • G06K9/00268—
    • G06K9/627—
    • G06K9/66—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/19—Recognition using electronic means
    • G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194—References adjustable by an adaptive method, e.g. learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12—Fingerprints or palmprints
    • G06V40/1347—Preprocessing; Feature extraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

Disclosed are an object recognition method and a device thereof. The object recognition device according to an embodiment may extract a plurality of features from an input image using a single recognition model and recognize an object displayed on the input image based on the extracted features. The single recognition model includes one or more compression layers for compressing the inputted information and one or more restoration layers for restoring the compressed information to determine characteristics.

Description

오브젝트 인식 방법 및 장치, 인식 모델 학습 방법 및 장치{METHOD AND APPARATUS FOR RECOGNIZING OBJECT, AND METHOD AND APPARATUS FOR TRAINING RECOGNITION MODEL}[0001] METHOD AND APPARATUS FOR RECOGNIZING OBJECT, AND METHOD AND APPARATUS FOR TRAINING RECOGNITION MODEL [0002]

아래 실시예들은 오브젝트 인식 방법 및 장치, 및 인식 모델 학습 방법 및 장치에 관한 것이다.The embodiments described below relate to an object recognition method and apparatus, and a recognition model learning method and apparatus.

사용자의 얼굴이나 지문을 통해 사용자 인증을 수행하는 인식 모델은 인간의 생물학적 신경 세포의 특성을 수학적 표현에 의해 모델링한 인공 신경망(artificial neural network)에 기초할 수 있다. 인공 신경망은 입력된 정보의 입력 패턴에 대응하는 인식 결과를 출력하는데 이용될 수 있는데 학습을 통해 입력 패턴과 출력 패턴 간의 사상(mapping)을 생성할 수 있고, 학습 결과에 기초하여 학습에 이용되지 않았던 입력 패턴에 대하여 비교적 올바른 출력 값을 생성할 수 있는 능력을 가지고 있다.A recognition model that performs user authentication through a user's face or fingerprint may be based on an artificial neural network modeled by a mathematical representation of the characteristics of human biological neurons. Artificial neural networks can be used to output recognition results corresponding to input patterns of input information. It is possible to generate mappings between input patterns and output patterns through learning, It has the ability to generate relatively correct output values for input patterns.

일 실시예에 따른 오브젝트 인식 방법은, 단일 인식 모델을 이용하여 입력 영상으로부터 복수의 특징들을 추출하는 단계; 및 상기 추출된 특징들에 기초하여 상기 입력 영상에 나타난 오브젝트를 인식하는 단계를 포함할 수 있다.An object recognition method includes extracting a plurality of features from an input image using a single recognition model; And recognizing an object displayed on the input image based on the extracted features.

상기 단일 인식 모델은, 입력된 정보를 압축하는 적어도 하나의 압축 레이어; 및 상기 압축된 정보로부터 상기 특징들을 복원하기 위한 적어도 하나의 복원 레이어를 포함할 수 있다.Wherein the single recognition model comprises at least one compression layer for compressing input information; And at least one reconstruction layer for reconstructing the features from the compressed information.

상기 특징들을 추출하는 단계는, 상기 입력 영상에서 복수의 영역들을 결정하는 단계; 및 상기 단일 인식 모델에 상기 영역들에 대한 정보를 입력하고, 상기 단일 인식 모델을 이용하여 상기 영역들 각각에 대한 특징을 결정하는 단계를 포함할 수 있다.Wherein the extracting of the features comprises: determining a plurality of regions in the input image; And inputting information on the regions into the single recognition model and determining characteristics of each of the regions using the single recognition model.

상기 단일 인식 모델은, 단일 입력 레이어 및 상기 복수의 특징들을 출력하는 복수의 출력 레이어들을 포함할 수 있다.The single recognition model may include a single input layer and a plurality of output layers outputting the plurality of features.

상기 입력 영상 또는 상기 입력 영상의 복수의 영역들이 상기 단일 입력 레이어에 입력될 수 있다.A plurality of regions of the input image or the input image may be input to the single input layer.

상기 단일 인식 모델은, 복수의 입력 레이어들 및 상기 복수의 특징들을 출력하는 복수의 출력 레이어들을 포함할 수 있다.The single recognition model may include a plurality of input layers and a plurality of output layers outputting the plurality of features.

상기 입력 영상의 복수의 영역들이 상기 복수의 입력 레이어들에 입력될 수 있다.A plurality of regions of the input image may be input to the plurality of input layers.

상기 단일 인식 모델은, 상기 영역들 중 서로 관련이 있는 영역들의 정보를 압축하는 적어도 하나의 제1 압축 레이어; 및 상기 적어도 하나의 제1 압축 레이어로부터 전달된 정보에 기초하여 상기 영역들 전체에 대한 정보를 압축하는 제2 압축 레이어를 포함할 수 있다.Wherein the single recognition model comprises at least one first compression layer for compressing information of mutually related areas of the areas; And a second compression layer for compressing information about the entire areas based on the information delivered from the at least one first compression layer.

상기 오브젝트를 인식하는 단계는, 상기 단일 인식 모델을 이용하여 영역들 중에 현재 영역에 가림이 존재할 확률을 결정하는 단계; 및 상기 확률에 기초한 가중치를 상기 현재 영역에 대한 특징에 적용하는 단계를 포함할 수 있다.The step of recognizing the object may include determining a probability of occlusion in the current region among the regions using the single recognition model; And applying a weight based on the probability to the feature for the current region.

일 실시예에 따른 오브젝트 인식 장치는, 적어도 하나의 프로세서; 및 상기 프로세서에 의해 실행될 인스트럭션들을 저장하는 적어도 하나의 메모리를 포함하고, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 때, 상기 프로세서로 하여금, 단일 인식 모델을 이용하여 입력 영상으로부터 복수의 특징들을 추출하는 동작; 및 상기 추출된 특징들에 기초하여 상기 입력 영상에 나타난 오브젝트를 인식하는 동작을 실행하도록 구성될 수 있다.An object recognition apparatus according to an embodiment includes at least one processor; And at least one memory for storing instructions to be executed by the processor, the instructions further comprising instructions for causing the processor to perform the steps of: extracting a plurality of features from an input image using a single recognition model, ; And recognizing an object displayed on the input image based on the extracted features.

도 1은 일 실시예에 따른 오브젝트 인식 방법의 동작을 설명하기 위한 흐름도이다.
도 2는 일 실시예에 따른 입력 영상으로부터 특징들을 추출하는 일례를 설명하기 위한 흐름도이다.
도 3a 내지 도 6c는 일 실시예에 따른 단일 인식 모델의 구조들을 도시하는 도면들이다.
도 7은 일 실시예에 따른 가림(occlusion)이 존재하는 경우에 단일 인식 모델을 이용하여 특징을 결정하는 과정을 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 오브젝트 인식 장치의 구성을 도시하는 도면이다.
도 9는 일 실시예에 따른 인식 모델 학습 방법의 동작을 설명하기 위한 흐름도이다.
도 10은 일 실시예에 따른 가이드 특징을 이용하여 단일 인식 모델을 학습시키는 일례를 설명하기 위한 도면이다.
도 11은 일 실시예에 따른 가림 속성에 대해 단일 인식 모델을 학습시키는 과정을 설명하기 위한 도면이다.
도 12는 일 실시예에 따른 학습 장치의 구성을 설명하기 위한 도면이다.1 is a flowchart illustrating an operation of an object recognition method according to an exemplary embodiment of the present invention.
2 is a flowchart illustrating an example of extracting features from an input image according to an embodiment.
3A to 6C are diagrams showing structures of a single recognition model according to an embodiment.
FIG. 7 is a diagram for explaining a process of determining a feature using a single recognition model in the presence of an occlusion according to an exemplary embodiment. Referring to FIG.
8 is a diagram showing a configuration of an object recognition apparatus according to an embodiment.
9 is a flowchart illustrating an operation of a recognition model learning method according to an embodiment.
FIG. 10 is a view for explaining an example of learning a single recognition model using a guide feature according to an embodiment.
FIG. 11 is a diagram for explaining a process of learning a single recognition model for the occlusion attribute according to an exemplary embodiment.
12 is a diagram for explaining a configuration of a learning apparatus according to an embodiment.

아래의 특정한 구조적 내지 기능적 설명들은 단지 실시예들을 설명하기 위한 목적으로 예시된 것으로, 특허출원의 범위가 본 명세서에 설명된 내용에 한정되는 것으로 해석되어서는 안된다. 설명한 분야에 속하는 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 본 명세서에서 "일 실시예" 또는 "실시예"에 대한 언급은 그 실시예와 관련하여 설명되는 특정한 특징, 구조 또는 특성이 적어도 하나의 실시예에 포함된다는 것을 의미하며, "일 실시예" 또는 "실시예"에 대한 언급이 모두 동일한 실시예를 지칭하는 것이라고 이해되어서는 안된다.It should be understood that the specific structural and functional descriptions below are merely illustrative of the embodiments and are not to be construed as limiting the scope of the patent application described herein. Various modifications and variations may be made thereto by those skilled in the art to which the present invention pertains. Reference throughout this specification to "one embodiment" or "an embodiment" means that a particular feature, structure, or characteristic described in connection with the embodiment is included in at least one embodiment, It should be understood that references to "an embodiment" are not all referring to the same embodiment.

제1 또는 제2 등의 용어가 다양한 구성요소들을 구분하기 위해 사용될 수 있지만, 구성요소들이 제1 또는 제2의 용어에 의해 한정되는 것으로 해석되어서는 안된다. 또한, 실시예에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.Although the terms first or second may be used to distinguish the various components, the components should not be construed as being limited by the first or second term. It is also to be understood that the terminology used in the description is by way of example only and is not intended to be limiting. The singular expressions include plural expressions unless the context clearly dictates otherwise.

본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In this specification, the terms "comprises" or "having" and the like refer to the presence of stated features, integers, steps, operations, elements, components, or combinations thereof, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.

이하에서 설명될 실시예들은 입력 영상으로부터 오브젝트(object)를 인식(recognition)하는데 적용될 수 있다. 실시예들은 복수의 인식 모델(인식기 또는 분류기)들이 아닌 하나의 인식 모델을 이용하여 입력 영상으로부터 복수의 특징들(다중 특징)을 추출하고, 추출된 특징들에 기초하여 오브젝트를 인식하는데 적용될 수 있다. 오브젝트를 인식하는 것은 예를 들어, 영상에서 사용자의 얼굴 또는 장면(scene)을 인식하거나, 또는 지문 영상(fingerprint image)에서 사용자의 지문을 인식하는 것 등을 포함할 수 있다.Embodiments to be described below can be applied to recognition of an object from an input image. Embodiments can be applied to extract a plurality of features (multiple features) from an input image using one recognition model rather than a plurality of recognition models (recognizers or classifiers), and to recognize objects based on the extracted features . Recognizing an object may include, for example, recognizing a user's face or scene in the image, or recognizing the user's fingerprint in a fingerprint image, and the like.

오브젝트를 인식하는 동작은 오브젝트를 인식함으로써 오브젝트를 인증(verification) 또는 식별(identification)하는 동작을 포함할 수 있다. 오브젝트를 인증하는 동작은 오브젝트가 미리 등록된 오브젝트인지 여부를 결정하는 동작을 포함할 수 있고, 오브젝트를 식별하는 동작은 오브젝트가 미리 등록된 오브젝트들 중 어느 오브젝트에 해당되는지를 결정하는 동작을 포함할 수 있다.The operation of recognizing an object may include an operation of verifying or identifying the object by recognizing the object. The act of authenticating an object may include determining whether the object is a pre-registered object, and the act of identifying the object may include determining which object of the pre-registered objects the object corresponds to .

이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, embodiments will be described in detail with reference to the accompanying drawings. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS In the following description of the present invention with reference to the accompanying drawings, the same components are denoted by the same reference numerals regardless of the reference numerals, and a duplicate description thereof will be omitted.

도 1은 일 실시예에 따른 오브젝트 인식 방법의 동작을 설명하기 위한 흐름도이다.1 is a flowchart illustrating an operation of an object recognition method according to an exemplary embodiment of the present invention.

도 1을 참조하면, 단계(110)에서, 오브젝트 인식 장치는 단일 인식 모델을 이용하여 입력 영상으로부터 복수의 특징들을 추출한다. 오브젝트 인식 장치는 예를 들어, 단일 인식 모델을 이용하여 사용자의 얼굴이 나타난 얼굴 영상에서 사용자 얼굴과 관련된 다중 특징을 추출하거나 또는 사용자의 지문 정보를 포함하는 지문 영상에서 지문과 관련된 다중 특징을 추출할 수 있다.Referring to FIG. 1, in step 110, an object recognition apparatus extracts a plurality of features from an input image using a single recognition model. For example, the object recognition apparatus extracts multiple features related to a user's face from a face image in which a face of the user is displayed using a single recognition model, or extracts multiple features related to a fingerprint from a fingerprint image including the user's fingerprint information .

단일 인식 모델은 예를 들어, 복수의 레이어(layer)들을 포함하는 딥 뉴럴 네트워크(deep neural network)에 기초할 수 있다. 각각의 레이어들은 수학적 모델에 기초한 인공 뉴런(artificial neuron)들을 포함하고, 각 인공 뉴런들은 다른 인공 뉴런과 연결될 수 있다. 단일 인식 모델은 인공 뉴런들의 처리 결과에 기초하여 입력된 정보로부터 다중 특징을 추출할 수 있다. 단일 인식 모델의 입력 구조에 따라, 오브젝트 인식 장치는 입력 영상에 포함된 하나의 영역에 대한 정보를 단일 인식 모델에 입력하거나 또는 입력 영상에 포함된 복수의 영역들에 대한 정보를 단일 인식 모델에 입력할 수 있다. 단일 인식 모델에 하나의 입력 정보가 입력되더라도, 단일 인식 모델은 하나의 입력 정보로부터 복수의 특징들을 추출할 수 있다. 단일 인식 모델의 기능 및 구조에 대한 보다 자세한 내용은 도 3a 내지 도 6c를 참조하여 후술한다.The single recognition model may be based, for example, on a deep neural network comprising a plurality of layers. Each layer contains artificial neurons based on a mathematical model, and each artificial neuron can be associated with another artificial neuron. The single recognition model can extract multiple features from the input information based on the processing results of artificial neurons. According to the input structure of the single recognition model, the object recognition apparatus inputs information on one region included in the input image into a single recognition model, or inputs information on a plurality of regions included in the input image into a single recognition model can do. Even if one input information is input to the single recognition model, the single recognition model can extract a plurality of features from one input information. The details of the function and structure of the single recognition model will be described later with reference to FIGS. 3A to 6C.

이와 같은 단일 인식 모델은 학습 영상(training image)들에 기초하여 미리 학습될 수 있다. 단일 인식 모델의 학습 과정에 대해서는 도 9 내지 도 12를 참조하여 후술한다.Such a single recognition model can be learned in advance based on training images. The learning process of the single recognition model will be described later with reference to FIG. 9 to FIG.

단계(120)에서, 오브젝트 인식 장치는 단계(110)에서 추출된 특징들에 기초하여 입력 영상에 나타난 오브젝트를 인식한다. 오브젝트 인식 장치는 예를 들어, 입력 영상에 나타난 사용자의 얼굴, 지문 또는 장면을 인식할 수 있으나 이에 한정되는 것은 아니다.In step 120, the object recognition apparatus recognizes an object displayed on the input image based on the features extracted in step 110. [ The object recognition apparatus can recognize, for example, a user's face, a fingerprint or a scene displayed on the input image, but is not limited thereto.

오브젝트 인식 장치는 단일 인식 모델로부터 출력된 다중 특징들에 기초하여 입력 영상에 나타난 오브젝트가 미리 등록된 오브젝트인지 여부 또는 오브젝트가 미리 등록된 오브젝트들 중 어느 오브젝트인지를 결정할 수 있다. 오브젝트 인식 장치는 추출된 특징들에 기초하여 입력 영상에 나타난 오브젝트와 미리 등록된 오브젝트 간의 유사도를 결정하고, 유사도에 따라 오브젝트에 대한 인식이 성공 또는 실패인지를 결정할 수 있다.The object recognition apparatus can determine whether an object displayed in the input image is an object registered in advance or an object among objects in which objects are registered in advance, based on the multiple features output from the single recognition model. The object recognition apparatus can determine the degree of similarity between the object displayed in the input image and the object registered in advance based on the extracted features and determine whether the recognition of the object is success or failure according to the degree of similarity.

도 2는 일 실시예에 따른 입력 영상으로부터 특징들을 추출하는 일례를 설명하기 위한 흐름도이다. 도 2를 참조하면, 단계(210)에서 오브젝트 인식 장치는 입력 영상에서 복수의 영역들을 결정한다. 예를 들어, 입력 영상이 얼굴 영상인 경우, 오브젝트 인식 장치는 얼굴 영상에서 얼굴의 전체 영역에 대한 패치(patch) 영역 및 얼굴의 특정 영역을 확대한 패치 영역(예를 들어, 코 영역에 대한 패치 영역)을 결정할 수 있다. 실시예에 따라, 입력 영상에서 결정된 영역들은 서로 중첩될 수 있다.2 is a flowchart illustrating an example of extracting features from an input image according to an embodiment. Referring to FIG. 2, in step 210, the object recognition apparatus determines a plurality of regions in the input image. For example, when the input image is a face image, the object recognition apparatus may extract a patch area for the entire area of the face and a patch area for enlarging a specific area of the face (e.g., Area) can be determined. According to an embodiment, regions determined in the input image may overlap each other.

단계(220)에서, 오브젝트 인식 장치는 단일 인식 모델을 이용하여 영역들 각각에 대한 특징을 결정한다. 오브젝트 인식 장치는 단계(210)에서 결정된 영역들에 대한 정보를 단일 입력 모델에 입력하고, 단일 인식 모델로부터 각 영역들에 대응하는 특징들을 추출할 수 있다.In step 220, the object recognition apparatus determines a characteristic for each of the regions using a single recognition model. The object recognition apparatus can input information on the regions determined in step 210 to a single input model and extract features corresponding to the respective regions from the single recognition model.

도 3a 내지 도 6c는 일 실시예에 따른 단일 인식 모델의 구조들을 도시하는 도면들이다.3A to 6C are diagrams showing structures of a single recognition model according to an embodiment.

도 3a를 참조하면, 일 실시예에 따른 단일 인식 모델(320)은 단일 입력 및 다중 특징 출력의 구조를 가질 수 있다. 단일 인식 모델(320)은 입력 영상(310) 또는 입력 영상(310)의 일 영역에 대한 정보를 입력받아 복수의 특징들(370)을 출력할 수 있다. 여기서는 얼굴 영상이 입력 영상(310)으로 입력된다고 가정한다. 입력 영상(310)의 일 영역에 대한 정보가 단일 인식 모델(320)에 입력되더라도, 단일 인식 모델(320)은 해당 영역에 대한 특징뿐만 아니라 다른 영역에 대한 특징도 출력할 수 있다.Referring to FIG. 3A, a single recognition model 320 according to an embodiment may have a structure of a single input and a multiple feature output. The single recognition model 320 may receive information on one region of the input image 310 or the input image 310 and output a plurality of the features 370. Here, it is assumed that the face image is input as the input image 310. [ Even if information on one area of the input image 310 is input to the single recognition model 320, the single recognition model 320 can output not only the features for the corresponding area but also the features for the other areas.

단일 인식 모델(320)은 복수의 레이어들이 연결된 구조를 가지고, 각 레이어들은 복수의 인공 뉴런들을 포함할 수 있다. 일 실시예에 따르면, 단일 인식 모델(320)은 입력 영상(310) 또는 입력 영상(310)의 일 영역에 대한 정보를 입력받는 단일 입력 레이어(330), 입력 레이어(330)로부터 전달된 정보에 기초하여 계산된 출력 값을 제2 중간 레이어들(350)에 전달하는 제1 중간 레이어(340), 제1 중간 레이어(340)의 출력 값에 기초하여 출력할 특징들을 구체화하는 제2 중간 레이어들(350) 및 제2 중간 레이어들(350)의 출력 값에 기초하여 결정된 특징 들(370)을 출력하는 복수의 출력 레이어들(360)을 포함할 수 있다.The single recognition model 320 has a structure in which a plurality of layers are connected, and each layer may include a plurality of artificial neurons. The single recognition model 320 includes a single input layer 330 for receiving information on one area of the input image 310 or the input image 310, A first intermediate layer 340 for transferring the calculated output value to the second intermediate layers 350, a second intermediate layer 340 for specifying the characteristics to be output based on the output values of the first intermediate layer 340, And a plurality of output layers 360 outputting the determined features 370 based on the output values of the first intermediate layers 350 and the second intermediate layers 350.

도 3b를 참조하면, 일 실시예에 따른 단일 인식 모델(320)은 다중 입력 및 다중 특징 출력의 구조를 가질 수 있다. 오브젝트 인식 장치는 입력 영상(310)에서 복수의 영역들(315)을 결정할 수 있고, 단일 인식 모델(320)을 이용하여 영역들(315)에 대한 정보로부터 복수의 특징들(370)을 추출할 수 있다. 예를 들어, 입력 영상(310)에서 복수의 패치 영역들이 결정되고, 패치 영역들에 대한 정보가 단일 인식 모델(320)의 단일 입력 레이어(330)에 입력될 수 있다. 단일 인식 모델(320)은 영역들(315) 각각에 대응하는 특징들(370)을 추출할 수 있고, 오브젝트 인식 장치는 추출된 특징들(370)에 기초하여 오브젝트를 인식할 수 있다. 예를 들어, 단일 인식 모델(320)에 코 영역, 줌-인(zoom-in) 영역 및 전체 영역에 대한 정보가 입력되었다면, 단일 인식 모델(320)로부터 출력되는 특징들(370)은 코 영역에 대한 특징, 줌-인 영역에 대한 특징 및 전체 영역에 대한 특징을 포함할 수 있다.Referring to FIG. 3B, the single recognition model 320 according to an exemplary embodiment may have a structure of multiple input and multiple feature output. The object recognition apparatus can determine a plurality of regions 315 in the input image 310 and extract a plurality of features 370 from the information about the regions 315 using the single recognition model 320 . For example, a plurality of patch regions may be determined in the input image 310, and information about the patch regions may be input to a single input layer 330 of the single recognition model 320. The single recognition model 320 can extract the features 370 corresponding to each of the areas 315 and the object recognition device can recognize the object based on the extracted features 370. [ For example, if information on the nose region, the zoom-in region, and the entire region is input to the single recognition model 320, the features 370 output from the single recognition model 320 may include the nose region Features for the zoom-in area, and features for the entire area.

도 3c를 참조하면, 실시예에 따라 단일 인식 모델(320)에 사용자의 지문 정보를 포함하는 지문 영상(380)이 입력될 수도 있다. 지문 영상(380)은 사용자의 전체 지문의 일부분에 해당하는 부분 영상일 수 있다. 오브젝트 인식 장치는 지문 영상(380)에서 복수의 영역들(390)을 결정하고, 결정된 영역들(390)에 대한 정보를 단일 인식 모델(320)에 입력할 수 있다. 여기서, 영역들(390)은 블록 영역 단위로 결정될 수 있다. 단일 인식 모델(320)은 입력된 영역들(390)에 대한 지문 정보에 기초하여 지문 정보와 관련된 복수의 특징들(370)을 추출할 수 있다.Referring to FIG. 3C, a fingerprint image 380 including fingerprint information of a user may be input to the single recognition model 320 according to an embodiment of the present invention. The fingerprint image 380 may be a partial image corresponding to a part of the entire fingerprint of the user. The object recognition apparatus can determine a plurality of regions 390 in the fingerprint image 380 and input information on the determined regions 390 to the single recognition model 320. [ Here, the areas 390 may be determined on a block area basis. The single recognition model 320 may extract a plurality of features 370 related to the fingerprint information based on the fingerprint information about the input areas 390. [

도 4를 참조하면, 일 실시예에 따른 단일 인식 모델(420)은 다중 입력 및 다중 특징 출력의 구조를 가질 수 있다. 오브젝트 인식 장치는 입력 영상(410)에서 복수의 영역들(415)을 결정하고, 영역들(415)에 대한 정보가 단일 인식 모델(420)에 입력될 수 있다. 오브젝트 인식 장치는 단일 인식 모델(420)을 이용하여 각 영역들(415)에 대한 특징들(480)을 결정할 수 있다.Referring to FIG. 4, the single recognition model 420 according to an embodiment may have a structure of multiple input and multiple feature output. The object recognition apparatus may determine a plurality of regions 415 in the input image 410 and information on the regions 415 may be input to the single recognition model 420. [ The object recognition apparatus can determine the features 480 for each of the regions 415 using the single recognition model 420.

단일 인식 모델(420)은 영역들(415)에 대한 정보가 입력되는 입력 레이어들(430), 입력 레이어들(430)에서 출력된 정보를 압축하는 압축 레이어들(compress layers; 440), 압축 레이어들(440)로부터 출력된 정보에 기초하여 계산된 결과 값을 복원 레이어들(decompress layers; 460)에 전달하는 중간 레이어(450), 중간 레이어(450)로부터 출력된 정보로부터 각 영역들(415)에 대한 개별 특징들을 복원하는 복원 레이어들(460) 및 복원 레이어들(460)로부터 전달받은 정보에 기초하여 결정된 특징들(480)을 출력하는 출력 레이어들(470)을 포함할 수 있다. 압축 레이어들(440)에서는 영역들(415) 중 서로 관련이 있는 영역들의 정보가 압축될 수 있고, 중간 레이어(450)에서는 압축 레이어들(440)로부터 전달된 정보에 기초하여 영역들(415) 전체에 대한 정보가 압축된 후 개별 특징들에 대한 복원 과정이 시작될 수 있다.The single recognition model 420 includes input layers 430 for inputting information on the regions 415, compress layers 440 for compressing the information output from the input layers 430, An intermediate layer 450 for transmitting a result calculated based on the information output from the intermediate layer 450 to the decompress layers 460, And output layers 470 for outputting the determined features 480 based on the information received from the restoration layers 460. The restoration layers 460 and 460 may include a plurality of layers. In the compression layers 440, information of mutually related regions in the regions 415 can be compressed, and in the intermediate layer 450, regions 415 can be compressed based on the information delivered from the compression layers 440. [ After the information on the whole is compressed, the restoration process for individual features can be started.

도 5를 참조하면, 일 실시예에 따른 단일 인식 모델(520)은 입력 영상(510) 또는 입력 영상(510)의 하나 이상의 영역에 대한 정보를 수신하는 입력 레이어(530), 입력 레이어(530)로부터 전달된 정보를 압축하여 출력하는 압축 레이어들(540), 압축 레이어들(540)로부터 출력된 정보에 기초하여 계산된 결과 값을 복원 레이어들(560)에 전달하는 중간 레이어(550), 중간 레이어(550)로부터 출력된 정보로부터 개별 특징들을 복원하는 복원 레이어들(560) 및 복원 레이어들(560)로부터 출력된 정보에 기초하여 결정된 개별 특징들(580)을 출력하는 출력 레이어들(570)을 포함할 수 있다.5, a single recognition model 520 according to an embodiment includes an input layer 530, an input layer 530, and an input layer 530. The input layer 530 receives information about one or more regions of the input image 510 or the input image 510, An intermediate layer 550 for transmitting the calculated result based on the information output from the compression layers 540 to the restoration layers 560, (560) for recovering individual characteristics from information output from layer (550) and output layers (570) for outputting individual characteristics (580) determined based on information output from restoration layers (560) . ≪ / RTI >

도 6a를 참조하면, 일 실시예에 따른 오브젝트 인식 장치는 단일 인식 모델(620)에 입력 영상(610)에서 결정된 영역들(615)에 대한 정보를 입력하고, 단일 인식 모델(620)을 이용하여 각 영역들(615)에 대한 개별 특징들(630)을 결정할 수 있다. 단일 인식 모델(620)은 영역들(615)에 대한 정보로부터 특징들(630)을 결정하기 위한 복수의 레이어(625)들을 포함하고, 각 레이어(625)들은 상위 레이어들과 연결될 수 있다. 이 때, 레이어들 간의 연결들은 도 6a에 도시된 단일 인식 모델(620)과 같이 조밀(dense)하거나 또는 도 6b에 도시된 단일 인식 모델(640)과 같이 상대적으로 성길(sparse) 수 있다.6A, an object recognition apparatus according to an exemplary embodiment inputs information on regions 615 determined in an input image 610 to a single recognition model 620, and uses a single recognition model 620 Individual features 630 for each of the regions 615 can be determined. The single recognition model 620 includes a plurality of layers 625 for determining features 630 from the information about the regions 615 and each layer 625 can be associated with upper layers. At this time, the connections between the layers may be dense like the single recognition model 620 shown in FIG. 6A or relatively sparse like the single recognition model 640 shown in FIG. 6B.

도 6c를 참조하면, 일 실시예에 따른 단일 인식 모델(650)은 입력 영상(610)에서 결정된 영역들(615)들에 대한 정보를 입력받는 입력 레이어(660), 입력 레이어(660)로부터 전달된 정보에 기초하여 계산된 결과 값을 제2 중간 레이어들(670)에 출력하는 제1 중간 레이어(665), 제1 중간 레이어(665)의 출력에 기초하여 계산된 결과 값을 제3 중간 레이어들(675)에 출력하는 제2 중간 레이어들(670), 제2 중간 레이어들(670)의 출력에 기초하여 계산된 결과 값을 출력 레이어들(680)에 전달하는 제3 중간 레이어들(675) 및 제3 중간 레이어들(675)의 출력에 기초하여 복원한 개별 특징들(690)을 출력하는 출력 레이어(680)를 포함할 수 있다.6C, a single recognition model 650 according to an embodiment includes an input layer 660 receiving information on the regions 615 determined in the input image 610, an input layer 660 receiving information from the input layer 660, A first intermediate layer 665 for outputting a result calculated on the basis of the information on the second intermediate layer 670 to the second intermediate layer 670 and a resultant value calculated on the basis of the output of the first intermediate layer 665, The second intermediate layers 670 outputting to the output layers 675 and the third intermediate layers 675 transmitting output values calculated based on the outputs of the second intermediate layers 670 to the output layers 680, And output layers 680 that output individual features 690 restored based on the output of the third intermediate layers 675.

이상, 도 3a 내지 도 6c의 한정된 도면들을 통해 단일 인식 구조의 일례들을 설명하였다. 하지만, 단일 인식 모델의 구조는 도 3a 내지 도 6c에 도시된 일례들에 한정되지 않으며, 다양한 수정 및 변형이 가능하다. 예를 들어, 단일 인식 모델을 구성하는 레이어들 간의 연결 관계 및 레이어들의 수가 도 3a 내지 도 6c에 도시된 일례들에 한정되는 것이 아니며, 다양한 수정 및 변형이 가능하다.Above, one example of a single recognition structure has been described through the limited views of FIGS. 3A-6C. However, the structure of the single recognition model is not limited to the examples shown in Figs. 3A to 6C, and various modifications and variations are possible. For example, the number of layers and the connection relationship between the layers constituting the single recognition model is not limited to the examples shown in Figs. 3A to 6C, and various modifications and variations are possible.

복수의 특징들을 추출하기 위해 여러 개의 독립된 인식 모델들을 이용하는 경우, 연산량 및 자원의 소모량이 많고, 인식 속도로 느릴 수 있다. 하지만, 실시예들에서는 하나의 인식 모델을 이용하는 것에 의해 복수의 독립된 인식 모델들로부터 획득된 특징들과 유사한 특징들을 획득할 수 있으며, 인식률의 저하 없이 연산량 및 자원의 소모량을 줄일 수 있고, 인식 속도를 개선시킬 수 있다.When a plurality of independent recognition models are used to extract a plurality of features, a large amount of computation and resources are consumed, and the recognition speed is low. However, in the embodiments, by using one recognition model, characteristics similar to the features obtained from the plurality of independent recognition models can be obtained, the amount of calculation and resource consumption can be reduced without lowering the recognition rate, Can be improved.

도 7은 일 실시예에 따른 가림이 존재하는 경우에 단일 인식 모델을 이용하여 특징을 결정하는 과정을 설명하기 위한 도면이다.FIG. 7 is a diagram for explaining a process of determining a feature using a single recognition model when a blind according to an embodiment exists.

오브젝트 인식 장치는 입력 영상에 나타난 가림(예를 들어, 선글라스, 마스크 등)을 인식하여 가림에 강인(robust)하게 오브젝트를 인식할 수 있다. 예를 들어, 도 7에 도시된 실시예에서는, 입력 영상의 제1 영역(710)에 대한 정보 및 가림(선글라스)이 나타난 제2 영역(720)에 대한 정보가 단일 인식 모델(730)에 입력된다고 가정한다. 단일 인식 모델(730)에 제1 영역(710)에 대한 정보 및 제2 영역(720)에 대한 정보가 입력되면, 단일 인식 모델(730)로부터 제1 영역(710)에 대한 특징 F1, 제2 영역(720)에 대한 특징 F2뿐만 아니라 제2 영역(720)에 가림이 존재할 확률(또는, 강도(magnitude)) 값 P2(0과 1사이의 값을 가짐)가 출력될 수 있다. The object recognizing apparatus recognizes an obstruction (e.g., sunglasses, a mask, etc.) appearing in the input image and recognizes the object robustly to occlusion. 7, information about the first area 710 of the input image and information about the second area 720 in which the blind (sunglasses) appear is input to the single recognition model 730 . When the information on the first region 710 and the information on the second region 720 are input to the single recognition model 730, the feature F 1 for the first region 710 from the single recognition model 730, (Or a magnitude) value P 2 (having a value between 0 and 1) in which blindness exists in the second region 720 as well as the feature F 2 for the second region 720 may be output.

오브젝트 인식 장치는 단일 인식 모델(730)로부터 출력된 확률 값 P2에 기초하여 가중치(weight)를 결정하고, 결정된 가중치를 각 특징들 F1, F2에 적용할 수 있다. 예를 들어, 오브젝트 인식 장치는 특징 F1에 확률 값 P2의 가중치를 적용하고, 특징 F2에 (1-P2)의 가중치를 적용할 수 있다. 확률 값 P2가 커질수록 전체 특징 F에서 가림이 존재하는 제2 영역(720)에 대한 특징 F2의 영향은 작아지고, 가림이 존재하지 않는 제1 영역(710)에 대한 특징 F1의 영향은 상대적으로 커질 수 있다. 이와 같은 과정을 통해, 오브젝트 인식 장치는, 가림이 존재하는 입력 영상이 입력되더라도 가림에 강인하게 오브젝트를 인식할 수 있다.The object recognition apparatus can determine a weight based on the probability value P 2 output from the single recognition model 730, and apply the determined weight to each of the features F 1 and F 2 . For example, the object recognition apparatus may apply the weight of the probability value P 2 to the feature F 1 and apply the weight of (1-P 2 ) to the feature F 2 . As the probability value P 2 increases, the influence of the feature F 2 on the second region 720 in which the blindness exists in the whole feature F becomes small, and the influence of the feature F 1 on the first region 710 in which blindness does not exist Can be relatively large. Through such a process, the object recognizing apparatus can recognize the object robustly against occlusion even if an input image in which occlusion exists is input.

다른 실시예에 따르면, 오브젝트 인식 장치는 입력 영상에 대한 가림 지도(occlusion map)를 생성하고, 가림 지도를 이용하여 입력 영상에서 가림이 존재하지 않는 영역을 결정할 수 있다. 오브젝트 인식 장치는 가림이 존재하지 않는 영역에 대한 정보를 단일 인식 모델(730)에 입력하여 특징들을 추출할 수 있다.According to another embodiment, the object recognition apparatus may generate an occlusion map for an input image, and may determine an area where no occlusion exists in the input image using the occlusion map. The object recognition apparatus can extract the features by inputting the information about the area in which no occlusion exists to the single recognition model 730. [

도 8은 일 실시예에 따른 오브젝트 인식 장치의 구성을 도시하는 도면이다.8 is a diagram showing a configuration of an object recognition apparatus according to an embodiment.

도 8을 참조하면, 오브젝트 인식 장치(800)는 프로세서(810) 및 메모리(820)를 포함할 수 있다. 일 실시예에 따르면, 오브젝트 인식 장치(800)는 스마트 폰, 스마트 TV, 데스크 탑, 노트북, 태블릿 PC, 웨어러블 디바이스, 지능형 자동차, 보안 시스템, 스마트 홈 시스템, 스마트 가전기기 등에 탑재될 수 있다.Referring to FIG. 8, the object recognition apparatus 800 may include a processor 810 and a memory 820. According to one embodiment, the object recognition apparatus 800 can be mounted on a smart phone, a smart TV, a desktop, a notebook, a tablet PC, a wearable device, an intelligent vehicle, a security system, a smart home system,

프로세서(810)는 도 1 내지 도 7을 통하여 전술한 하나 이상의 동작을 수행한다. 예를 들어, 프로세서(810)는 단일 인식 모델(830)을 이용하여 입력 영상에서 다중 특징을 추출하고, 다중 특징에 기초하여 입력 영상에 나타난 오브젝트를 인식할 수 있다. 프로세서(810)는 디스플레이 또는 스피커 등의 출력 인터페이스(미도시)를 통해 인식 결과를 출력할 수 있다. 이와 같은 프로세서(810)는 다수의 논리 게이트들의 어레이로 구현될 수 있으나, 다른 형태의 하드웨어로 구현될 수도 있음은 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있다.The processor 810 performs one or more of the operations described above with respect to Figures 1-7. For example, the processor 810 may extract multiple features from the input image using a single recognition model 830 and recognize objects represented in the input image based on the multiple features. The processor 810 may output the recognition result through an output interface (not shown) such as a display or a speaker. Such a processor 810 may be implemented as an array of a plurality of logic gates, but may be implemented by other types of hardware, as will be understood by those skilled in the art.

메모리(820)는 도 1 내지 도 7을 통하여 전술한 하나 이상의 동작을 수행하기 위한 인스트럭션들을 저장하거나 또는 오브젝트 인식 장치(800)가 운용되면서 획득된 데이터와 결과를 저장할 수 있다. 일부 실시예들에서, 메모리(820)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 디스크 저장 디바이스들, 플래쉬 메모리 디바이스들, 또는 기타 비휘발성 솔리드 스테이트 메모리 디바이스들)를 포함할 수 있다.The memory 820 may store instructions for performing one or more of the operations described above with reference to FIGS. 1-7, or may store data and results obtained as the object recognition apparatus 800 is operated. In some embodiments, the memory 820 may be a non-volatile computer readable medium such as a high speed random access memory and / or a non-volatile computer readable storage medium (e.g., one or more disk storage devices, flash memory devices, Non-volatile solid state memory devices).

도 9는 일 실시예에 따른 단일 인식 모델을 학습시키는 학습 방법의 동작을 설명하기 위한 흐름도이다.9 is a flowchart illustrating an operation of a learning method for learning a single recognition model according to an embodiment.

도 9를 참조하면, 단계(910)에서 학습 장치는 복수의 개별 인식 모델들을 이용하여 학습 영상으로부터 복수의 특징들을 추출한다. 학습 장치는 학습 영상 또는 학습 영상에서 결정된 복수의 영역들에 대한 정보를 복수의 개별 인식 모델들에 입력하여 다중 특징을 획득할 수 있다. 학습 영상은 예를 들어, 다양한 사용자의 얼굴이 나타난 얼굴 영상 또는 지문 정보를 포함하는 지문 영상을 포함할 수 있다.Referring to FIG. 9, in step 910, the learning apparatus extracts a plurality of features from a learning image using a plurality of individual recognition models. The learning apparatus can acquire multiple features by inputting information on a plurality of regions determined in the learning image or the learning image to a plurality of individual recognition models. The learning image may include, for example, a face image in which faces of various users are displayed or a fingerprint image including fingerprint information.

단계(920)에서, 학습 장치는 단계(910)에서 추출된 특징들에 기초하여 단일 인식 모델을 학습시킨다. 학습 장치는 개별 인식 모델들로부터 출력된 각 특징들을 단일 인식 모델을 학습시키기 위한 가이드 특징들로 결정하고, 가이드 특징들에 기반하여 단일 인식 모델을 학습시킬 수 있다. 학습 과정을 통해 단일 인식 모델에 적용되는 파라미터들이 업데이트될 수 있다. 학습 장치는 단일 인식 모델로부터 출력된 특징들과 개별 인식 모델들을 통해 결정된 가이드 특징들 간의 오차가 최소가 되도록 단일 인식 모델의 파라미터들을 업데이트할 수 있다. 반복적인 학습 과정을 통해 단일 인식 모델로부터 출력되는 특징들은 개별 인식 모델들을 이용하여 추출한 특징들과 유사해질 수 있다.In step 920, the learning device learns a single recognition model based on the features extracted in step 910. [ The learning apparatus can determine each feature output from the individual recognition models as guide features for learning a single recognition model and learn a single recognition model based on the guide features. Through the learning process, the parameters applied to the single recognition model can be updated. The learning apparatus can update the parameters of the single recognition model so that the error between the features output from the single recognition model and the guide features determined through the individual recognition models is minimized. Through the iterative learning process, features output from a single recognition model can be similar to features extracted using individual recognition models.

학습 장치가 단일 인식 모델을 학습시키는 과정은 도 10을 참조하여 아래에서 보다 자세히 설명하도록 한다.The process by which the learning apparatus learns a single recognition model will be described in more detail below with reference to FIG.

도 10은 일 실시예에 따른 가이드 특징을 이용하여 단일 인식 모델을 학습시키는 일례를 설명하기 위한 도면이다.FIG. 10 is a view for explaining an example of learning a single recognition model using a guide feature according to an embodiment.

도 10을 참조하면, 단계(1010)에서 학습 장치는 학습 영상에서 결정된 복수의 영역들(1015, 1025, 1035) 각각에 대한 개별 인식 모델들(1020, 1030, 1040)을 학습시킬 수 있다. 단계(1050)에서, 학습 장치는 학습된 각 인식 모델들(1020, 1030, 140)로부터 가이드 특징들(1055)을 추출할 수 있다. 예를 들어, 가이드 특징들은 학습된 각 인식 모델들(1020, 1030, 1040)이 각 영역들(1015, 1025, 1035)에 대한 정보로부터 출력한 특징들일 수 있다. 가이드 특징들은 단일 인식 모델(1070)을 학습시키는 과정에서 실제 데이터 레이블(ground truth label)로 이용될 수 있다.Referring to FIG. 10, in step 1010, the learning apparatus may learn individual recognition models 1020, 1030, and 1040 for a plurality of regions 1015, 1025, and 1035 determined in a learning image. At step 1050, the learning device may extract the guide features 1055 from each of the learned recognition models 1020, 1030, 140. For example, the guide features may be features that the learned recognition models 1020, 1030, and 1040 output from information about each of the regions 1015, 1025, and 1035. The guide features may be used as a ground truth label in the course of learning the single recognition model 1070. [

단일 인식 모델(1070)에 대한 학습 과정에서, 단일 인식 모델(1070)에는 영역들(1015, 1025, 1035)에 대한 정보가 모두 입력되거나 또는 하나 이상의 영역에 대한 정보가 입력될 수 있다. 도 10의 실시예에서는, 일 영역(1035)에 대한 정보가 단일 인식 모델(1070)에 입력된다고 가정한다. 단일 인식 모델(1070)에 영역(1035)에 대한 정보만이 입력되더라도 단일 인식 모델(1070)은 영역(1035)에 대한 특징뿐만 아니라 다른 영역들(1025, 1035)에 대한 특징들도 출력할 수 있다.In the learning process for the single recognition model 1070, information on the regions 1015, 1025, and 1035 may be input to the single recognition model 1070, or information on one or more regions may be input. In the embodiment of FIG. 10, it is assumed that information about one area 1035 is input to the single recognition model 1070. FIG. The single recognition model 1070 can output not only the features for the region 1035 but also the features for the other regions 1025 and 1035 even if only the information for the region 1035 is input to the single recognition model 1070 have.

단계(1060)에서, 학습 장치는 가이드 특징들(1055)에 기반하여 단일 인식 모델(1070)을 학습시킬 수 있다. 학습 장치는 학습된 개별 인식 모델들(1020, 1030, 1040)에서 추출된 가이드 특징들(1055)을 저장했다가, 저장된 가이드 특징들(1055)에 기초하여 단일 인식 모델(1070)로부터 추출된 특징들(1080)이 가이드 특징들(1055)과 유사해지도록 단일 인식 모델(1070)을 학습시킬 수 있다. 가이드 특징들(1055)에 기초한 학습을 통해, 단일 인식 모델(1070)로부터 출력된 특징들(1080) 간의 직교성(orthogonality)이 높아질 수 있다.At step 1060, the learning device may learn a single recognition model 1070 based on the guide features 1055. [ The learning apparatus stores the guide features 1055 extracted from the learned individual recognition models 1020, 1030 and 1040 and then extracts features extracted from the single recognition model 1070 based on the stored guide features 1055 The single recognition model 1070 can be learned such that the search features 1080 are similar to the guide features 1055. [ Through learning based on the guide features 1055, the orthogonality between the features 1080 output from the single recognition model 1070 can be increased.

학습 장치는 가이드 특징들(1055)들과 단일 인식 모델(1070)을 통해 예측된 특징들(1080) 간의 손실(loss)들을 계산할 수 있다. 학습 장치는 예를 들어, 다음의 수학식 1과 같이 가이드 특징들(1055)에 기초한 손실 함수를 결정할 수 있다. 손실 함수는 현재 상태에서 단일 인식 모델(1070)이 가지는 오차를 계산하기 위한 함수이다.The learning apparatus can calculate the losses between the guide features 1055 and the predicted features 1080 through the single recognition model 1070. [ The learning apparatus may determine the loss function based on the guide features 1055, for example, as: < EMI ID = 1.0 > The loss function is a function for calculating the error of the single recognition model 1070 in the current state.

Figure pat00001
Figure pat00001

여기서, W는 단일 인식 모델(1070)의 각 레이어들에 적용되는 현재 파라미터들을 나타내고, LGL(W)는 W에 따른 손실 함수를 나타낸다. T는 전체 학습 영상의 수를 나타내고, t는 학습 영상을 구별하기 위한 인덱스를 나타낸다. xt는 현재 학습 영상이고, zt는 xt에 대해 결정된 가이드 특징들이다. f는 단일 인식 모델(1070)에 의해 근사화된 학습 함수(learned function)를 나타낸다.Here, W represents current parameters applied to the respective layers of the single recognition model 1070, and L GL (W) represents a loss function according to W. T denotes the number of all learning images, and t denotes an index for distinguishing the learning image. x t is the current learning image and z t is the guide features determined for x t . f represents a learning function approximated by the single recognition model 1070. [

또한, 학습 장치는 예를 들어, 다음의 수학식 2와 같이 크로스 엔트로피 손실 함수(cross entropy loss function)에 기초하여 오브젝트 인식에 대한 손실 함수를 정의할 수 있다.The learning apparatus may also define a loss function for object recognition based on, for example, a cross entropy loss function as: < EMI ID = 2.0 >

Figure pat00002
Figure pat00002

여기서, Pt는 오브젝트의 식별을 위한 실제 데이터 레이블(ground truth label)을 나타내고, LID(W)는 크로스 엔트로피 손실 함수를 나타낸다. T는 전체 학습 영상의 수이고, t는 학습 영상을 구별하기 위한 인덱스이다.

Figure pat00003
는 단일 인식 모델(1070)로부터 출력된 특징들에 기초하여 결정된 예측 값을 나타낸다.Here, P t represents a ground truth label for identification of an object, and L ID (W) represents a cross entropy loss function. T is the number of all learning images, and t is an index for distinguishing the learning image.
Figure pat00003
Represents a prediction value determined based on the features output from the single recognition model 1070. [

오브젝트 인식에 대한 손실 함수는 위 실시예에 한정되지 아니하며, 다양한 손실 함수가 이용될 수 있다. 예를 들어, 학습 장치는 힌지 손실(Hinge Loss), 스퀘어 손실(Square Loss), 소프트맥스 손실(Softmax Loss), 절대 손실(Absolute Loss) 또는 인센시티브 손실(Insensitive Loss) 등에 기초하여 오브젝트 인식에 대한 손실 함수를 정의할 수 있다.The loss function for object recognition is not limited to the above embodiment, and various loss functions can be used. For example, the learning device may be configured to determine whether the object recognition is based on hinge loss, square loss, softmax loss, absolute loss or insensitive loss, The loss function can be defined.

학습 장치는 수학식 1 및 수학식 2에 기초하여 다음의 수학식 3과 같은 단일 인식 모델(1070)의 파라미터들에 기초한 목적 함수 L(W)를 결정할 수 있다. 학습 장치는 목적 함수의 결과 값이 최소가 되도록 단일 인식 모델(1070)의 파라미터들을 업데이트할 수 있다.The learning apparatus may determine an objective function L (W) based on the parameters of the single recognition model 1070 as shown in Equation (3) based on Equations (1) and (2) The learning apparatus may update the parameters of the single recognition model 1070 so that the result value of the objective function is minimized.

Figure pat00004
Figure pat00004

여기서,

Figure pat00005
는 LGL(W)에 적용되는 가중치를 나타낸다. 학습 장치는 목적 함수 L(W)를 최소화하는 단일 인식 모델(1070)의 파라미터들 W를 결정하고, 결정된 파라미터들을 단일 인식 모델(1070)에 적용할 수 있다. 이와 같은 학습 과정을 통해, 단일 인식 모델(1070)로부터 출력된 특징들(1080)이 개별 인식 모델로부터 추출된 가이드 특징들(1055)과 유사해지고, 단일 인식 모델(1070)이 입력 영상에 나타난 오브젝트의 특징과 관련성이 높은 특징들이 출력되도록 단일 인식 모델(1070)의 파라미터들이 조정될 수 있다.here,
Figure pat00005
Represents a weight applied to L GL (W). The learning apparatus may determine the parameters W of the single recognition model 1070 that minimizes the objective function L (W) and apply the determined parameters to the single recognition model 1070. [ Through such a learning process, the features 1080 output from the single recognition model 1070 become similar to the guide features 1055 extracted from the individual recognition models, and when the single recognition model 1070 generates an object The parameters of the single recognition model 1070 can be adjusted so that the features having high relevance to the characteristics of the single recognition model 1070 are output.

도 11은 일 실시예에 따른 가림 속성에 대해 단일 인식 모델을 학습시키는 과정을 설명하기 위한 도면이다.FIG. 11 is a diagram for explaining a process of learning a single recognition model for the occlusion attribute according to an exemplary embodiment.

도 11을 참조하면, 학습 장치는 학습 영상(또는 학습 영상의 일 영역, 1110)에 가림 속성(occlusion attribute)을 설정할지 여부를 결정(1120)할 수 있다. 예를 들어, 학습 장치는 랜덤(random)한 확률로 학습 영상(1110)에 가림 속성을 설정하는 것으로 결정할 수 있다.Referring to FIG. 11, the learning apparatus may determine 1120 whether to set an occlusion attribute in a learning image (or a region of a learning image 1110). For example, the learning apparatus can determine to set the blind attribute in the learning image 1110 with a random probability.

가림 속성을 설정하기로 결정한 경우, 학습 장치는 가림 속성(예를 들어, 선글라스, 마스트 등)을 학습 영상(1110)에 적용하여 가림이 존재하는 학습 영상(1130)을 생성할 수 있고, 가림이 존재하는 학습 영상(1130)은 단일 인식 모델(1140)에 입력될 수 있다. 가림 속성을 설정하지 않는 경우, 학습 영상(1110)이 단일 인식 모델(1140)에 입력될 수 있다. 단일 인식 모델(1140)은 학습 영상(1110) 또는 학습 영상(1130)으로부터 특징 및 가림 속성 값을 출력하고, 학습 장치는 해당 특징 및 가림 속성 값에 기초하여 단일 인식 모델(1140)을 학습시킬 수 있다(1150). 가림 속성 값은 학습 영상에 가림이 존재하는지 여부를 나타내고, 예들 들어 '0(가림이 존재하지 않는 경우)' 및 '1(가림이 존재하는 경우)' 과 같이 가림의 존재 여부에 따른 값으로 표현될 수 있다. 학습 장치는 단일 인식 모델(1140)에 입력된 학습 영상에 가림이 존재하는 경우, 단일 인식 모델(1140)로부터 학습 영상에 가림이 존재함을 나타내는 가림 속성 값이 출력되도록 단일 인식 모델(1140)을 학습시킬 수 있다.If it is determined to set the skipping attribute, the learning apparatus can apply the skipping attribute (e.g., sunglasses, mast, etc.) to the skipping image 1110 to generate the skipping image 1130, The existing learning image 1130 may be input to the single recognition model 1140. [ The learning image 1110 can be input to the single recognition model 1140 when the blindness attribute is not set. The single recognition model 1140 outputs the feature and occlusion attribute values from the learning image 1110 or the learning image 1130 and the learning apparatus can learn the single recognition model 1140 based on the corresponding feature and the occluded attribute value (1150). The value of the occlusion attribute indicates whether or not occlusion exists in the learning image. For example, the occlusion value may be expressed as a value depending on whether or not occlusion exists, such as' 0 (when occlusion does not exist) 'and' 1 . The learning apparatus may include a single recognition model 1140 to output a blindness attribute value indicating that blindness exists in the learning image from the single recognition model 1140 when blindness exists in the learning image input to the single recognition model 1140 Can learn.

도 12는 일 실시예에 따른 학습 장치의 구성을 설명하기 위한 도면이다. 도 12를 참조하면, 학습 장치(1200)는 프로세서(1210) 및 메모리(1220)를 포함할 수 있다.12 is a diagram for explaining a configuration of a learning apparatus according to an embodiment. 12, the learning apparatus 1200 may include a processor 1210 and a memory 1220. [

프로세서(1210)는 도 9 내지 도 11을 통하여 전술한 하나 이상의 동작을 수행한다. 예를 들어, 프로세서(1210)는 학습 영상 데이터베이스(1230)에 포함된 학습 영상에 기초하여 단일 인식 모델(1240)을 학습시킬 수 있다. 이 때, 프로세서(1210)는 복수의 개별 인식 모델들을 통해 획득된 가이드 특징들과 단일 인식 모델(1240)로부터 출력된 특징들 간의 오차를 계산하고, 오차가 줄어드는 방향으로 단일 인식 모델(1240)의 파라미터들을 업데이트할 수 있다. 이와 같은 프로세서(1210)는 다수의 논리 게이트들의 어레이로 구현될 수 있으나, 다른 형태의 하드웨어로 구현될 수도 있음은 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있다.Processor 1210 performs one or more of the operations described above with respect to Figures 9-11. For example, the processor 1210 may learn a single recognition model 1240 based on a learning image included in the learning image database 1230. [ At this time, the processor 1210 calculates an error between the guide features obtained through the plurality of individual recognition models and the features output from the single recognition model 1240, and calculates the error between the features of the single recognition model 1240 Parameters can be updated. Such a processor 1210 may be implemented as an array of a plurality of logic gates, but may be implemented by other types of hardware, as will be understood by those skilled in the art.

메모리(1220)는 도 9 내지 도 11을 통하여 전술한 하나 이상의 동작을 수행하기 위한 인스트럭션들을 저장하거나 또는 학습 장치(1200)가 운용되면서 획득된 데이터와 결과를 저장할 수 있다. 일부 실시예들에서, 메모리(1220)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 디스크 저장 디바이스들, 플래쉬 메모리 디바이스들, 또는 기타 비휘발성 솔리드 스테이트 메모리 디바이스들)를 포함할 수 있다.The memory 1220 may store instructions for performing one or more of the operations described above with reference to FIGS. 9-11, or may store data and results obtained as the learning apparatus 1200 is operating. In some embodiments, the memory 1220 may be a non-volatile computer readable medium such as a high speed random access memory and / or a non-volatile computer readable storage medium (e.g., one or more disk storage devices, flash memory devices, Non-volatile solid state memory devices).

이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The embodiments described above may be implemented in hardware components, software components, and / or a combination of hardware components and software components. For example, the devices, methods, and components described in the embodiments may be implemented within a computer system, such as, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, such as an array, a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For ease of understanding, the processing apparatus may be described as being used singly, but those skilled in the art will recognize that the processing apparatus may have a plurality of processing elements and / As shown in FIG. For example, the processing unit may comprise a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as a parallel processor.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the foregoing, and may be configured to configure the processing device to operate as desired or to process it collectively or collectively Device can be commanded. The software and / or data may be in the form of any type of machine, component, physical device, virtual equipment, computer storage media, or device , Or may be permanently or temporarily embodied in a transmitted signal wave. The software may be distributed over a networked computer system and stored or executed in a distributed manner. The software and data may be stored on one or more computer readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to an embodiment may be implemented in the form of a program command that can be executed through various computer means and recorded in a computer-readable medium. The computer readable medium may include program instructions, data files, data structures, and the like, alone or in combination. Program instructions to be recorded on a computer-readable medium may be those specially designed and constructed for an embodiment or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.Although the embodiments have been described with reference to the drawings, various technical modifications and variations may be applied to those skilled in the art. For example, it is to be understood that the techniques described may be performed in a different order than the described methods, and / or that components of the described systems, structures, devices, circuits, Lt; / RTI > or equivalents, even if it is replaced or replaced.

Claims (25)

단일 인식 모델을 이용하여 입력 영상으로부터 복수의 특징들을 추출하는 단계; 및
상기 추출된 특징들에 기초하여 상기 입력 영상에 나타난 오브젝트를 인식하는 단계
를 포함하는 오브젝트 인식 방법.Extracting a plurality of features from an input image using a single recognition model; And
Recognizing an object displayed on the input image based on the extracted features
And an object recognition method. 제1항에 있어서,
상기 단일 인식 모델은,
입력된 정보를 압축하는 적어도 하나의 압축 레이어; 및
상기 압축된 정보로부터 상기 특징들을 복원하기 위한 적어도 하나의 복원 레이어
를 포함하는 오브젝트 인식 방법.The method according to claim 1,
Wherein the single recognition model comprises:
At least one compression layer for compressing the input information; And
At least one restoration layer for restoring the features from the compressed information
And an object recognition method. 제1항에 있어서,
상기 특징들을 추출하는 단계는,
상기 입력 영상에서 복수의 영역들을 결정하는 단계; 및
상기 단일 인식 모델에 상기 영역들에 대한 정보를 입력하고, 상기 단일 인식 모델을 이용하여 상기 영역들 각각에 대한 특징을 결정하는 단계
를 포함하는 오브젝트 인식 방법.The method according to claim 1,
Wherein extracting the features comprises:
Determining a plurality of regions in the input image; And
Inputting information on the regions into the single recognition model and determining a characteristic for each of the regions using the single recognition model
And an object recognition method. 제1항에 있어서,
상기 단일 인식 모델은,
단일 입력 레이어 및 상기 복수의 특징들을 출력하는 복수의 출력 레이어들을 포함하는 오브젝트 인식 방법.The method according to claim 1,
Wherein the single recognition model comprises:
A single input layer and a plurality of output layers outputting the plurality of features. 제4항에 있어서,
상기 입력 영상이 상기 단일 입력 레이어에 입력되는, 오브젝트 인식 방법.5. The method of claim 4,
Wherein the input image is input to the single input layer. 제4항에 있어서,
상기 입력 영상의 복수의 영역들이 상기 단일 입력 레이어에 입력되는, 오브젝트 인식 방법.5. The method of claim 4,
Wherein a plurality of regions of the input image are input to the single input layer. 제1항에 있어서,
상기 단일 인식 모델은,
복수의 입력 레이어들 및 상기 복수의 특징들을 출력하는 복수의 출력 레이어들을 포함하는 오브젝트 인식 방법.The method according to claim 1,
Wherein the single recognition model comprises:
A plurality of input layers, and a plurality of output layers outputting the plurality of features. 제7항에 있어서,
상기 입력 영상의 복수의 영역들이 상기 복수의 입력 레이어들에 입력되는 오브젝트 인식 방법.8. The method of claim 7,
Wherein a plurality of regions of the input image are input to the plurality of input layers. 제3항에 있어서,
상기 단일 인식 모델은,
상기 영역들 중 서로 관련이 있는 영역들의 정보를 압축하는 적어도 하나의 제1 압축 레이어; 및
상기 적어도 하나의 제1 압축 레이어로부터 전달된 정보에 기초하여 상기 영역들 전체에 대한 정보를 압축하는 제2 압축 레이어
를 포함하는 오브젝트 인식 방법.The method of claim 3,
Wherein the single recognition model comprises:
At least one first compression layer for compressing information of mutually related areas of the areas; And
A second compression layer for compressing information about all of the areas based on the information delivered from the at least one first compression layer,
And an object recognition method. 제3항에 있어서,
상기 오브젝트를 인식하는 단계는,
상기 영역들 각각에 대해 추출된 특징들에 기초하여 상기 오브젝트를 인식하는, 오브젝트 인식 방법.The method of claim 3,
The step of recognizing the object may include:
And recognizing the object based on extracted features for each of the regions. 제3항에 있어서,
상기 오브젝트를 인식하는 단계는,
상기 단일 인식 모델을 이용하여 영역들 중에 현재 영역에 가림(occlusion)이 존재할 확률을 결정하는 단계; 및
상기 확률에 기초한 가중치를 상기 현재 영역에 대한 특징에 적용하는 단계
를 포함하는 오브젝트 인식 방법.The method of claim 3,
The step of recognizing the object may include:
Determining a probability that an occlusion exists in a current region among the regions using the single recognition model; And
Applying a weight based on the probability to a feature for the current region
And an object recognition method. 제3항에 있어서,
상기 단일 인식 모델은,
상기 영역들 각각의 정보로부터 상기 특징들을 결정하기 위한 레이어들
을 포함하고,
상기 레이어들 중 적어도 하나는 다른 레이어와 연결된, 오브젝트 인식 방법.The method of claim 3,
Wherein the single recognition model comprises:
Layers for determining the features from information of each of the regions
/ RTI >
Wherein at least one of the layers is associated with another layer. 제1항에 있어서,
상기 특징들을 추출하는 단계는,
상기 단일 인식 모델을 이용하여 상기 입력 영상에서 결정된 하나의 영역으로부터 상기 특징들을 추출하는, 오브젝트 인식 방법.The method according to claim 1,
Wherein extracting the features comprises:
And extracting the features from one region determined in the input image using the single recognition model. 제1항에 있어서,
상기 단일 인식 모델은,
상기 특징들 각각에 대한 인식 모델들의 인식 결과에 기초하여 미리 학습된 모델인, 오브젝트 인식 방법.The method according to claim 1,
Wherein the single recognition model comprises:
And a model that is learned in advance based on recognition results of recognition models for each of the features. 제1항에 있어서,
상기 입력 영상은,
얼굴 영상 및 지문 영상 중 어느 하나인, 오브젝트 인식 방법.The method according to claim 1,
The input image may include:
A face image, and a fingerprint image. 하드웨어와 결합되어 제1항 내지 제15항 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.15. A computer program stored in a medium for executing the method of any one of claims 1 to 15 in combination with hardware. 적어도 하나의 프로세서; 및
상기 프로세서에 의해 실행될 인스트럭션들(instructions)을 저장하는 적어도 하나의 메모리를 포함하고,
상기 인스트럭션들은, 상기 프로세서에 의해 실행될 때, 상기 프로세서로 하여금,
단일 인식 모델을 이용하여 입력 영상으로부터 복수의 특징들을 추출하는 동작; 및
상기 추출된 특징들에 기초하여 상기 입력 영상에 나타난 오브젝트를 인식하는 동작
을 실행하도록 구성되는 오브젝트 인식 장치.At least one processor; And
And at least one memory for storing instructions to be executed by the processor,
The instructions, when executed by the processor, cause the processor to:
Extracting a plurality of features from an input image using a single recognition model; And
Recognizing an object displayed on the input image based on the extracted features,
The object recognition apparatus comprising: 제17항에 있어서,
상기 단일 인식 모델은,
입력된 정보를 압축하는 적어도 하나의 압축 레이어; 및
상기 압축된 정보로부터 상기 특징들을 복원하기 위한 적어도 하나의 복원 레이어
를 포함하는 오브젝트 인식 장치.18. The method of claim 17,
Wherein the single recognition model comprises:
At least one compression layer for compressing the input information; And
At least one restoration layer for restoring the features from the compressed information
The object recognition apparatus comprising: 제17항에 있어서,
상기 단일 인식 모델은,
단일 입력 레이어 및 상기 복수의 특징들을 출력하는 복수의 출력 레이어들을 포함하는 오브젝트 인식 장치.18. The method of claim 17,
Wherein the single recognition model comprises:
A single input layer, and a plurality of output layers outputting the plurality of features. 제19항에 있어서,
상기 입력 영상이 상기 단일 입력 레이어에 입력되는, 오브젝트 인식 장치.20. The method of claim 19,
Wherein the input image is input to the single input layer. 제19항에 있어서,
상기 입력 영상의 복수의 영역들이 상기 단일 입력 레이어에 입력되는, 오브젝트 인식 장치.20. The method of claim 19,
Wherein a plurality of regions of the input image are input to the single input layer. 제17항에 있어서,
상기 단일 인식 모델은,
복수의 입력 레이어들 및 상기 복수의 특징들을 출력하는 복수의 출력 레이어들을 포함하는 오브젝트 인식 장치.18. The method of claim 17,
Wherein the single recognition model comprises:
And a plurality of output layers for outputting the plurality of features. 제22항에 있어서,
상기 입력 영상의 복수의 영역들이 상기 복수의 입력 레이어들에 입력되는 오브젝트 인식 장치.23. The method of claim 22,
Wherein a plurality of regions of the input image are input to the plurality of input layers. 제17항에 있어서,
상기 특징들을 추출하는 동작은,
상기 입력 영상에서 복수의 영역들을 결정하는 동작; 및
상기 단일 인식 모델에 상기 영역들에 대한 정보를 입력하고, 상기 단일 인식 모델을 이용하여 상기 영역들 각각에 대한 특징을 결정하는 동작
을 포함하는 오브젝트 인식 장치.18. The method of claim 17,
The operation of extracting the features,
Determining a plurality of regions in the input image; And
Inputting information on the regions into the single recognition model, and determining a characteristic of each of the regions using the single recognition model
The object recognition apparatus comprising: 제24항에 있어서,
상기 단일 인식 모델은,.
상기 영역들 중 서로 관련이 있는 영역들의 정보를 압축하는 적어도 하나의 제1 압축 레이어; 및
상기 적어도 하나의 제1 압축 레이어로부터 전달된 정보에 기초하여 상기 영역들 전체에 대한 정보를 압축하는 제2 압축 레이어
를 포함하는 오브젝트 인식 장치.25. The method of claim 24,
The single recognition model comprises:.
At least one first compression layer for compressing information of mutually related areas of the areas; And
A second compression layer for compressing information about all of the areas based on the information delivered from the at least one first compression layer,
The object recognition apparatus comprising:
KR1020160084932A 2015-11-16 2016-07-05 Method and apparatus for recognizing object, and method and apparatus for training recognition model KR102554149B1 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US15/347,143 US10860887B2 (en) 2015-11-16 2016-11-09 Method and apparatus for recognizing object, and method and apparatus for training recognition model
EP16198686.4A EP3168781A1 (en) 2015-11-16 2016-11-14 Method and apparatus for recognizing object, and method and apparatus for training recognition model
CN201611009586.3A CN107038405B (en) 2015-11-16 2016-11-16 Method and apparatus for recognizing object and method and apparatus for training recognition model
US17/101,552 US11544497B2 (en) 2015-11-16 2020-11-23 Method and apparatus for recognizing object, and method and apparatus for training recognition model

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020150160481 2015-11-16
KR20150160481 2015-11-16

Publications (2)

Publication Number Publication Date
KR20170057118A true KR20170057118A (en) 2017-05-24
KR102554149B1 KR102554149B1 (en) 2023-07-12

Family

ID=59051436

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160084932A KR102554149B1 (en) 2015-11-16 2016-07-05 Method and apparatus for recognizing object, and method and apparatus for training recognition model

Country Status (1)

Country Link
KR (1) KR102554149B1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190072314A (en) * 2017-12-15 2019-06-25 삼성전자주식회사 Method and device to recognize object
KR20190098671A (en) * 2018-02-14 2019-08-22 삼성전자주식회사 High speed processing method of neural network and apparatus using thereof
KR102013777B1 (en) * 2018-12-12 2019-10-21 한국과학기술정보연구원 Method and apparatus for recovering distortion of video
CN113158971A (en) * 2021-05-11 2021-07-23 北京易华录信息技术股份有限公司 Event detection model training method and event classification method and system

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060115157A1 (en) * 2003-07-18 2006-06-01 Canon Kabushiki Kaisha Image processing device, image device, image processing method
US20080201282A1 (en) * 2005-03-31 2008-08-21 France Telecom System and Method for Locating Points of Interest in an Object Image Implementing a Neural Network

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060115157A1 (en) * 2003-07-18 2006-06-01 Canon Kabushiki Kaisha Image processing device, image device, image processing method
US20080201282A1 (en) * 2005-03-31 2008-08-21 France Telecom System and Method for Locating Points of Interest in an Object Image Implementing a Neural Network

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190072314A (en) * 2017-12-15 2019-06-25 삼성전자주식회사 Method and device to recognize object
KR20190098671A (en) * 2018-02-14 2019-08-22 삼성전자주식회사 High speed processing method of neural network and apparatus using thereof
KR102013777B1 (en) * 2018-12-12 2019-10-21 한국과학기술정보연구원 Method and apparatus for recovering distortion of video
CN113158971A (en) * 2021-05-11 2021-07-23 北京易华录信息技术股份有限公司 Event detection model training method and event classification method and system
CN113158971B (en) * 2021-05-11 2024-03-08 北京易华录信息技术股份有限公司 Event detection model training method and event classification method and system

Also Published As

Publication number Publication date
KR102554149B1 (en) 2023-07-12

Similar Documents

Publication Publication Date Title
US11829880B2 (en) Generating trained neural networks with increased robustness against adversarial attacks
KR102564855B1 (en) Device and method to recognize object and face expression, and device and method to train obejct and face expression robust to facial change
CN108780519B (en) Structural learning of convolutional neural networks
KR20230021043A (en) Method and apparatus for recognizing object, and method and apparatus for learning recognizer
KR102486699B1 (en) Method and apparatus for recognizing and verifying image, and method and apparatus for learning image recognizing and verifying
CN111738231A (en) Target object detection method and device, computer equipment and storage medium
KR20200045647A (en) Data recognition device and method and training device and method
US11423702B2 (en) Object recognition method and apparatus
US20180157892A1 (en) Eye detection method and apparatus
KR20160061856A (en) Method and apparatus for recognizing object, and method and apparatus for learning recognizer
KR20180048058A (en) Device and method to train and recognize object based on attribute of object
KR20190081243A (en) Method and apparatus of recognizing facial expression based on normalized expressiveness and learning method of recognizing facial expression
US10726206B2 (en) Visual reference resolution using attention memory for visual dialog
CN112395979B (en) Image-based health state identification method, device, equipment and storage medium
EP4322056A1 (en) Model training method and apparatus
JP2022141931A (en) Method and device for training living body detection model, method and apparatus for living body detection, electronic apparatus, storage medium, and computer program
CN111553267A (en) Image processing method, image processing model training method and device
CN113139628A (en) Sample image identification method, device and equipment and readable storage medium
KR20170057118A (en) Method and apparatus for recognizing object, and method and apparatus for training recognition model
WO2023179429A1 (en) Video data processing method and apparatus, electronic device, and storage medium
KR20220076398A (en) Object recognition processing apparatus and method for ar device
CN115050064A (en) Face living body detection method, device, equipment and medium
KR20200083119A (en) User verification device and method
CN113192175A (en) Model training method and device, computer equipment and readable storage medium
US11335128B2 (en) Methods and systems for evaluating a face recognition system using a face mountable device

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right