KR20180110891A - 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법 - Google Patents

입력 영상에 포함된 객체를 인식하는 디바이스 및 방법 Download PDF

Info

Publication number
KR20180110891A
KR20180110891A KR1020170040791A KR20170040791A KR20180110891A KR 20180110891 A KR20180110891 A KR 20180110891A KR 1020170040791 A KR1020170040791 A KR 1020170040791A KR 20170040791 A KR20170040791 A KR 20170040791A KR 20180110891 A KR20180110891 A KR 20180110891A
Authority
KR
South Korea
Prior art keywords
input image
characteristic value
value set
data
recognizing
Prior art date
Application number
KR1020170040791A
Other languages
English (en)
Other versions
KR102404791B1 (ko
Inventor
홍현석
박상규
한승훈
문보석
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020170040791A priority Critical patent/KR102404791B1/ko
Priority to US16/490,273 priority patent/US11176387B2/en
Priority to PCT/KR2018/000784 priority patent/WO2018182153A1/ko
Publication of KR20180110891A publication Critical patent/KR20180110891A/ko
Application granted granted Critical
Publication of KR102404791B1 publication Critical patent/KR102404791B1/ko

Links

Images

Classifications

    • G06K9/00791—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06K9/4604—
    • G06K9/4652—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N99/005—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/56—Extraction of image or video features relating to colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads

Abstract

입력 영상에 포함된 객체를 인식하는 디바이스 및 방법이 제공된다.
입력 영상에 포함된 객체를 인식하는 디바이스는, 적어도 하나의 프로그램이 저장되는 메모리, 디바이스의 주변을 촬영하는 카메라, 적어도 하나의 프로그램을 실행함으로써 입력 영상에 포함된 객체를 인식하는 적어도 하나의 프로세서를 포함하고, 적어도 하나의 프로그램은, 카메라를 제어함으로써 입력 영상을 획득하는 단계, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하는 단계, 환경 정보에 기초하여, 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계, 및 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식하는 단계를 실행하는 명령어들을 포함할 수 있다.

Description

입력 영상에 포함된 객체를 인식하는 디바이스 및 방법{DEVICE AND METHOD FOR RECOGNIZING OBJECTS INCLUDED IN INPUT IMAGE}
본 개시는 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법에 관한 것으로서, 보다 상세하게는, 입력 영상을 획득한 디바이스 주변의 환경 정보에 기초하여 객체를 인식하는 디바이스 및 방법에 관한 것이다.
컴퓨터 기술의 발달과 함께 데이터 트래픽이 지수함수 형태로 증가하면서 인공지능은 미래 혁신을 주도하는 중요한 트렌드로 자리잡았다. 인공지능은 사람의 사고방식을 모방하는 방식이기 때문에 사실상 전 산업에 무한하게 응용이 가능하다.
인공지능의 대표적인 기술로는 패턴 인식, 기계 학습, 전문가 시스템, 뉴럴 네트워크, 자연어 처리 등이 있다.
최근, 대량의 데이터가 지속적으로 축적되어가고 있고, CPU 등 관련 하드웨어의 성능이 개선되었으며, 딥 러닝(deep learning)과 같이 자기 학습이 가능한 알고리즘이 발전됨에 따라, 기계학습과 인공신경망을 이용하는 디바이스에 대한 관심이 높아지고 있다.
개시된 다양한 실시예들은, 디바이스 주변의 환경 정보에 기초하여 복수의 특성 값 세트를 혼용하여 객체를 인식함으로써, 객체를 보다 정확하게 인식하는 디바이스 및 방법을 제공할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제 1 측면은 적어도 하나의 프로그램이 저장되는 메모리, 디바이스의 주변을 촬영하는 카메라, 적어도 하나의 프로그램을 실행함으로써 입력 영상에 포함된 객체를 인식하는 적어도 하나의 프로세서를 포함하고, 적어도 하나의 프로그램은, 카메라를 제어함으로써 입력 영상을 획득하는 단계, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하는 단계, 환경 정보에 기초하여 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계, 및 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식하는 단계를 실행하는 명령어들을 포함하는 디바이스를 제공할 수 있다.
또한, 본 개시의 제 2 측면은, 디바이스의 주변을 촬영하여 입력 영상을 획득하는 단계, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하는 단계, 환경 정보에 기초하여 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계, 및 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식하는 단계를 포함하는, 디바이스가 입력 영상에 포함된 객체를 인식하는 방법을 제공할 수 있다.
또한, 본 개시의 제 3 측면은, 제 2 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.
도 1은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 개요도를 나타내는 도면이다.
도 2는 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 방법을 나타내는 흐름도이다.
도 3은 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
도 4는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
도 5는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 사용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
도 6은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습하는 방법을 설명하기 위한 도면이다.
도 7은 일부 실시예에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 결정하는 예시를 나타내는 도면이다.
도 8은 일부 실시예에 따라 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 적용하는 예시를 나타내는 도면이다.
도 9a 및 도 9b는 일부 실시예에 따른 디바이스가 제1 특성 값 세트 및 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 예시를 나타내는 도면이다.
도 10은 일부 실시예에 따른 디바이스가 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교하는 예시를 나타내는 도면이다.
도 11은 일부 실시예에 따른 디바이스가 복수의 환경 정보를 획득하는 방법을 나타내는 흐름도이다.
도 12는 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 혼용 기준에 따라 이용함으로써, 객체를 인식하는 방법을 나타내는 흐름도이다.
도 13 및 도 14는 일부 실시예에 따른 디바이스의 블록도이다.
도 15는 일부 실시예에 따른 프로세서의 블록도이다.
도 16은 일부 실시예에 따른 데이터 학습부의 블록도이다.
도 17은 일부 실시예에 따른 데이터 인식부의 블록도이다.
도 18은 일부 실시예에 따른 디바이스 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.
도 1은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 개요도를 나타내는 도면이다.
디바이스(1000)는, 차량 또는 로봇 등과 같이 스스로 이동할 수 있는 장치의 운전을 보조하거나 또는 제어하는 장치일 수 있다. 예를 들어, 도 1에 도시된 바와 같이, 차량(10)은, 차량(10)의 운전을 보조하거나 또는 제어하는 디바이스(1000)를 포함할 수 있으며, 디바이스(1000)는 ADAS(Advanced Driver Assistance Systems)를 포함하는 장치일 수 있으나, 이에 한정되지 않는다. 또한, 디바이스(1000)는 차량 또는 로봇 등과 같이 스스로 이동할 수 있는 장치 내에 포함된 장치들 중 일부일 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000)의 주변을 촬영하여 디바이스(1000) 주변에 있는 객체를 인식할 수 있다.
디바이스(1000)는, 디바이스(1000)의 주변을 촬영하여 입력 영상을 획득하고, 획득한 입력 영상을 이용하여 디바이스(1000) 주변에 위치하는 적어도 하나의 객체를 인식할 수 있다. 디바이스(1000)에 의해 인식되는 객체는, 사람, 차량, 오토바이, 건물, 차선, 및 나무 등과 같이, 디바이스(1000)가 이동할 때 디바이스(1000)의 주변에 위치할 수 있는 다양한 객체들을 포함할 수 있으나, 이에 한정되지 않는다.
입력 영상은, 디바이스(1000)의 주변을 촬영하여 획득한 영상으로써, 적어도 하나의 객체를 포함할 수 있다. 입력 영상은, 동일한 객체를 촬영한 경우에도, 디바이스(1000)의 주변 환경에 따라 다르게 나타날 수 있다. 이때, 주변 환경은 장소, 날씨, 및 시간 등을 포함할 수 있으나, 이에 한정되지 않는다. 예를 들어, 도 1을 참조하면, 제1 입력 영상(110)은 디바이스(1000) 주변을 낮에 촬영하여 획득한 영상이고, 제2 입력 영상(120)는 디바이스(1000) 주변을 밤에 촬영하여 획득한 영상일 수 있다. 제1 입력 영상(110) 및 제2 입력 영상(120)이 촬영된 환경이 서로 상이하기 때문에, 제1 입력 영상(110)에 포함된 차량들(111, 112)과 제2 입력 영상(120)에 포함된 차량들(121, 122)은 차량들의 색상, 형태, 윤곽선, 및 밝기 등이 서로 상이하게 나타날 수 있다. 예를 들어, 제1 입력 영상(110)은 제2 입력 영상(120)보다 상대적으로 밝게 보일 수 있으며, 객체의 색상이 보다 선명하게 나타나거나, 객체의 윤곽선이 보다 뚜렷하게 나타날 수 있다. 따라서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 서로 다른 기준을 적용하여 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 주변의 환경 정보에 따라, 서로 다른 특성 값 세트를 이용하여 입력 영상에 포함된 객체를 인식할 수 있다.
특성 값 세트는, 디바이스(1000)가 입력 영상에 포함된 객체를 인식하는데 사용되는 정보로서, 입력 영상에 포함된 각 객체를 식별하는 특성 값(feature)들의 집합을 의미할 수 있다. 예를 들어, 객체를 식별하는 특성 값은, 객체의 윤곽선, 밝기, 색깔, 색깔의 분포, 밝기, 및 밝기의 변화 정보 등을 포함할 수 있으나, 이에 한정되지 않는다. 또한, 객체를 식별하는 특성 값은, 객체를 나타내는 화소들의 특성 값을 포함할 수 있다. 입력 영상에 포함된 객체의 특성 값들은, 디바이스(1000) 주변의 환경 정보에 따라 다르게 나타날 수 있다. 따라서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 서로 다른 특성 값 세트를 이용하여 입력 영상에 포함된 객체를 인식함으로써, 객체를 보다 정확하게 인식할 수 있다. 예를 들어, 도 1을 참조하면, 디바이스(1000)는, 제1 입력 영상(110)과 제2 입력 영상(120)에 포함된 객체를 인식하기 위해, 서로 다른 특성 값 세트를 이용할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 입력 영상(110)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 제2 입력 영상(120)에 포함된 객체를 인식할 수 있다. 이때, 제1 특성 값 세트는, 낮에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 사용될 수 있으며, 제2 특성 값 세트는, 밤에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 사용될 수 있으나, 이에 한정되지 않는다.
그러나, 입력 영상이 낮에 촬영하여 획득된 경우에도, 디바이스(1000) 주변의 날씨 및/또는 장소에 따라, 입력 영상에 포함된 객체의 특성 값들이 달라질 수 있다. 예를 들어, 터널과 같이 어두운 장소에서 촬영하여 획득된 입력 영상은 어둡게 보일 수 있으며, 흐린 날 촬영하여 획득한 입력 영상 또한 어둡게 보일 수 있다. 이 경우, 디바이스(1000)는, 제1 특성 값 세트 또는 제2 특성 값 세트 중에서 적절한 특성 값 세트를 선택하기 어려울 수 있다. 또한, 제1 특성 값 세트와 제2 특성 값 세트 중에서 하나만 선택적으로 이용하는 경우, 디바이스(1000)가 객체를 정확하게 인식하기 어려울 수 있다. 따라서, 디바이스(1000)가 입력 영상에 포함된 객체를 보다 정확하게 인식하기 위해서는, 디바이스(1000) 주변의 환경 정보에 따라, 복수의 특성 값 세트를 혼용하는 방법이 필요하다.
도 2는 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 방법을 나타내는 흐름도이다.
단계 S200에서, 디바이스(1000)는 디바이스(1000)의 주변을 촬영하여 입력 영상을 획득한다. 예를 들어, 디바이스(1000)는, 카메라를 이용하여 디바이스(1000)의 주변을 촬영함으로써, 입력 영상을 획득할 수 있다. 획득된 입력 영상은 적어도 하나의 객체를 포함할 수 있으며, 객체는 디바이스(1000) 주변에 위치하는 외부 차량, 오토바이, 차선, 건물, 사람, 동물, 및 물체 등을 포함할 수 있으나, 이에 한정되지 않는다.
단계 S210 에서, 디바이스(1000)는 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득한다.
환경 정보는, 디바이스(1000) 주변의 시간, 날씨, 장소, 및 밝기 정보 등을 포함할 수 있으나, 이에 한정되지 않는다. 시간 정보는, 입력 영상이 획득된 시간을 나타내는 정보를 의미할 수 있다. 예를 들어, 디바이스(1000)는, 하루 24시간 중 입력 영상이 촬영된 시간을 시간 정보로서 획득할 수 있으며, 실시예에 따라 아침, 낮, 저녁, 밤, 및 새벽 등으로 시간 정보를 나타낼 수 있으나, 이에 한정되지 않는다. 날씨 정보는, 입력 영상을 획득한 디바이스(1000) 주변의 날씨를 나타내는 정보를 의미할 수 있다. 예를 들어, 날씨 정보는 하늘의 흐린 정도, 비, 눈, 및 안개 등에 관한 정보를 포함할 수 있으나, 이에 한정되지 않는다. 장소 정보는, 입력 영상을 획득한 디바이스(1000) 주변의 장소를 나타내는 정보를 의미할 수 있다. 예를 들어, 장소 정보는, 지하 주차장, 터널, 도심, 고속도로, 및 산길 등을 포함할 수 있으나, 이에 한정되지 않는다.
단계 S220에서, 디바이스(1000)는, 환경 정보에 기초하여 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정한다. 복수의 특성 값 세트는, 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 예를 들어, 디바이스(1000)는, 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정할 수 있다. 예를 들어, 제1 특성 값 세트는 낮에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 이용될 수 있고, 제2 특성 값 세트는 밤에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 이용될 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여 제1 특성 값 세트 및 제2 특성 값 세트 각각의 가중치를 다르게 결정할 수 있다. 디바이스(1000)는, 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 제1 특성 값 세트의 가중치 및 제2 특성 값 세트의 가중치를 각각 적용할 수 있다. 또한, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 입력 영상에 포함된 객체를 인식할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정할 수 있다. 또한, 디바이스(1000)는, 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식하고, 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교할 수 있다. 그리고, 디바이스(1000)는, 비교 결과에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트 각각을 이용하기 위한 혼용 기준을 결정할 수 있다. 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법에 대한 상세한 설명은, 도 3 내지 도 5를 참조하여 후술한다.
단계 S230에서, 디바이스(1000)는, 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식한다. 특성 값 세트를 이용하여 객체를 인식한 결과는 확률값으로 표현될 수 있으며, 디바이스(1000)는 입력 영상에 포함된 객체를 확률값이 가장 높은 객체인 것으로 인식할 수 있다.
도 3은 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 복수의 특성 값 세트의 가중치를 다르게 결정할 수 있다. 예를 들어, 복수의 특성 값 세트는, 제1 특성 값 세트와 제2 특성 값 세트를 포함할 수 있다. 이때, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 결정할 수 있다.
도 3을 참조하면, 디바이스(1000)는, 디바이스(1000) 주변을 촬영하여 입력 영상을 획득(단계 S300)하고, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득(단계 S310)할 수 있다. 단계 S300 및 단계 S310은, 도 2에 도시된 단계 S200 및 단계 S210에 대응될 수 있으므로, 자세한 설명은 생략한다.
단계 S320에서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정할 수 있다.
예를 들어, 제1 특성 값 세트와 제2 특성 값 세트는 각각 낮에 촬영된 입력 영상 및 밤에 촬영된 입력 영상에 이용되는 특성 값 세트일 수 있으나, 이에 한정되지 않는다. 예를 들어, 지하 주차장에서 오후 1시에 촬영하여 획득된 입력 영상의 경우, 지하 주차장의 조도가 낮기 때문에, 입력 영상의 밝기, 입력 영상에 포함된 객체의 색상, 형태, 및 윤곽선 등이 밤에 촬영된 입력 영상과 유사할 수 있다. 이때, 디바이스(1000)는, 디바이스(1000) 주변의 장소 정보(예를 들어, 지하 주차장) 및 시간 정보(예를 들어, 오후 1시)를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 지하 주차장의 조도가 낮을수록, 제2 특성 값 세트의 가중치를 크게 결정할 수 있다. 다른 예에 따르면, 도심에서 오후 7시에 촬영하여 획득된 입력 영상의 경우, 복수의 고층 빌딩들 및 가로등의 영향 때문에 입력 영상이 밝게 나타날 수 있으며, 입력 영상에 포함된 객체의 색상 및 형태가 선명하게 나타날 수 있다. 이때, 디바이스(1000)는, 디바이스(1000) 주변의 장소 정보(예를 들어, 도심) 및 시간 정보(예를 들어, 오후 7시)를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 디바이스(1000) 주변에 위치하는 고층 빌딩 및 가로등이 많을수록 제1 특성 값 세트의 가중치를 크게 결정할 수 있다.
단계 S330에서, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 제1 특성 값 세트의 가중치 및 제2 특성 값 세트의 가중치를 각각 적용할 수 있다.
단계 S340에서, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과를 더하여 최종 객체 인식 결과를 획득할 수 있다. 그리고, 디바이스(1000)는, 최종 객체 인식 결과에 기초하여, 입력 영상에 포함된 객체를 인식할 수 있다. 이에 따라, 복수의 특성 값 세트 중 어느 하나를 선택하기 어려운 경우, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 복수의 특성 값 세트를 혼용함으로써 객체 인식률을 높일 수 있으며, 입력 영상에 포함된 객체를 보다 정확하게 인식할 수 있다.
도 4는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 혼용 빈도를 다르게 결정할 수 있다.
도 4를 참조하면, 디바이스(1000)는, 디바이스(1000) 주변을 촬영하여 입력 영상을 획득(단계 S400)하고, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득(단계 S410)할 수 있다.
단계 S420에서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다.
예를 들어, 흐린 날 오후 3시에 촬영하여 획득한 입력 영상은, 입력 영상이 어둡게 보일 수 있으며, 입력 영상에 포함된 객체의 색상, 형태, 및 윤곽선이 밤에 촬영하여 획득한 입력 영상과 유사하게 나타날 수 있다. 이때, 디바이스(1000)는, 흐린 정도를 나타내는 날씨 정보, 및 시간 정보 중 적어도 하나를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 날씨가 흐릴수록 또는 입력 영상이 획득된 시간이 일몰 시간에 가까울수록, 제2 특성 값 세트의 사용 빈도를 높게 결정할 수 있다. 예를 들어, 입력 영상들이 비 오는 날의 오후 3시에 촬영하여 획득된 경우, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 2:1의 비율로 결정할 수 있으나, 이에 한정되지 않는다.
단계 S430에서, 디바이스(1000)는, 결정된 사용 빈도에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 혼용하여, 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 1초에 20개의 입력 영상을 획득할 수 있다. 이때, 1초 동안 획득된 입력 영상들은, 설명의 편의상, 제1 입력 영상 내지 제20 입력 영상으로 지칭될 수 있다. 예를 들어, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도가 2:1로 결정된 경우, 디바이스(1000)는, 제1 입력 영상 및 제2 입력 영상에 제1 특성 값 세트를 이용하고, 제3 입력 영상에 제2 특성 값 세트를 이용하여 객체를 인식할 수 있다. 또한, 디바이스(1000)는, 제4 입력 영상 및 제5 입력 영상에 제1 특성 값 세트를 이용하고, 제6 입력 영상에 제2 특성 값 세트를 이용하여 객체를 인식할 수 있으나, 이에 한정되지 않는다.
도 5는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 사용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트에 기초한 객체 인식 결과 및 제2 특성 값 세트에 기초한 객체 인식 결과를 비교하고, 비교 결과에 기초하여 제1 특성 값 및 제2 특성 값 세트의 혼용 기준을 결정할 수 있다.
도 5를 참조하면, 디바이스(1000)는, 디바이스(1000) 주변을 촬영하여 입력 영상을 획득(단계 S500)하고, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득(단계 S510)할 수 있다.
단계 S520에서, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트를 각각 이용하여, 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식할 수 있다. 디바이스(1000)는, 디바이스(1000) 주변의 환경이 변화함에 따라, 특성 값 세트의 혼용 기준을 변경해야 할 수 있다. 예를 들어, 디바이스(1000) 주변의 장소 정보가 고속도로에서 터널로 변경되면, 디바이스(1000) 주변의 조도가 변하기 때문에, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 변경할 수 있다. 이때, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트를 각각 이용하여, 소정의 시간(예를 들어, 1초) 동안 획득된 적어도 하나의 입력 영상에 포함된 객체를 인식한 결과를 획득할 수 있다. 예를 들어, 1초 동안 20개의 입력 영상이 획득되는 경우, 디바이스(1000)는 20개의 입력 영상에 대하여, 제1 특성 값 세트 및 제2 특성 값 세트 각각에 기초한 객체 인식 결과를 획득할 수 있다.
단계 S530에서, 디바이스(1000)는, 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교할 수 있다. 이에 따라, 디바이스(1000)는, 입력 영상을 획득한 디바이스(1000) 주변의 환경에 대하여, 어떤 특성 값 세트를 이용하여 객체를 인식하는 것이 더 정확한지 확인할 수 있다.
단계 S540에서, 디바이스(1000)는 객체 인식률의 비교 결과에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 결정할 수 있다. 예를 들어, 제1 특성 값 세트에 기초한 객체 인식률이 제2 특성 값 세트에 기초한 객체 인식률보다 높은 경우, 디바이스(1000)는 제1 특성 값 세트의 가중치를 제2 특성 값 세트의 가중치보다 크게 결정할 수 있다. 또한, 실시예에 따라, 제1 특성 값 세트에 기초한 객체 인식률이 제2 특성 값 세트에 기초한 객체 인식률보다 높은 경우, 디바이스(1000)는, 제2 특성 값 세트의 사용 빈도보다 제1 특성 값 세트의 사용 빈도를 크게 결정할 수 있다.
또는, 제1 특성 값 세트에 기초한 객체 인식률과 제2 특성 값 세트에 기초한 객체 인식률의 차이가 임계 수준 이하인 경우, 디바이스(1000)는 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 동일하게 결정할 수 있으나, 이에 한정되지 않는다.
도 6은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습하는 방법을 설명하기 위한 도면이다.
일부 실시예에 따른 디바이스(1000)는, 뉴럴 네트워크(neural network) 를 이용하여 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 뉴럴 네트워크는, 통계학적 기계 학습의 결과를 이용하여, 입력 영상들로부터 특성 값 세트를 추출하고, 추출된 특성 값 세트를 이용하여 영상에 포함된 객체들을 인식하는 알고리즘의 집합일 수 있다.
도 6을 참조하면, 디바이스(1000)는, 데이터베이스에 저장된 복수의 학습 영상을 이용하여, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 이때, 데이터베이스에 저장된 복수의 학습 영상은, 다양한 환경에서 디바이스 주변을 촬영하여 획득한 영상들을 의미할 수 있으며, 복수의 학습 영상은 적어도 하나의 객체를 포함할 수 있다. 예를 들어, 복수의 학습 영상은, 시간, 날씨, 및 장소 중 적어도 하나가 다른 환경에서 디바이스(1000)의 주변을 촬영하여 획득한 영상들을 포함할 수 있다.
또한, 복수의 학습 영상은, 디바이스(1000)가 인식하는 각 객체를 서로 다른 각도에서 촬영한 영상들을 포함할 수 있다. 예를 들어, 디바이스(1000)가 인식하는 객체는, 사람, 외부 차량, 오토바이, 차선, 및 건물 등을 포함할 수 있으나, 이에 한정되지 않는다. 예를 들어, 도 6을 참조하면, 사람을 포함하는 복수의 학습 영상(601)은, 복수의 사람을 여러 각도(예를 들어, 정면, 후면, 및 측면)에서 촬영하여 획득한 영상들을 포함할 수 있으며, 사람을 시간, 날씨, 및 장소 등의 조건이 다른 환경에서 촬영하여 획득한 영상들을 포함할 수 있다. 또한, 외부 차량을 포함하는 복수의 학습 영상(602)은, 다양한 형태의 외부 차량(예를 들어, 중형 자동차, 소형 자동차, 및 SUV(Sports Utility Vehicle) 차량 등)을 여러 각도에서 촬영하여 획득한 영상들을 포함할 수 있으며, 외부 차량을 시간, 날씨, 및 장소 등의 조건이 다른 환경에서 촬영하여 획득한 영상들을 포함할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 뉴럴 네트워크(610)를 이용하여, 복수의 학습 영상으로부터 학습 영상에 포함된 각 객체의 특성 값을 검출할 수 있다. 예를 들어, 디바이스(1000)는, 뉴럴 네트워크(610)를 이용하여, 복수의 학습 영상에 포함된 객체를 나타내는 화소들의 특성 값을 검출할 수 있다. 또한, 디바이스(1000)는, 복수의 학습 영상에 포함된 각 객체의 윤곽선 정보, 색상 정보, 및 밝기 정보 중 적어도 하나를 검출할 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 디바이스(1000)는, 검출된 각 객체의 특성 값을 학습하여 학습 결과를 저장하고, 저장된 학습 결과를 이용하여 입력 영상에 포함된 객체를 인식할 수 있다. 또한, 입력 영상에 포함된 객체를 어떻게 인식해야 하는지에 대한 판단은, 순환형 신경망(RNN, Recurrent Neural Network)을 포함하는 심층 신경망(Deep Neural Network) 기술에 따른 학습에 기초하여 수행될 수 있으나, 이에 한정되지 않는다.
도 7은 일부 실시예에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 결정하는 예시를 나타내는 도면이다.
일부 실시예에 따르면, 복수의 특성 값 세트는 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 예를 들어, 제1 특성 값 세트는, 낮에 촬영하여 획득한 입력 영상에 이용되고, 제2 특성 값 세트는, 밤에 촬영하여 획득한 입력 영상에 이용되는 특성 값 세트일 수 있으나, 이에 한정되지 않는다.
도 7을 참조하면, 디바이스(1000)는, 제1 학습 영상(700)을 이용하여, 낮에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 예를 들어, 제1 학습 영상(700)은, 데이터베이스에 저장된 복수의 학습 영상 중에서 낮에 촬영하여 획득된 학습 영상들을 의미할 수 있다. 예를 들어, 디바이스(1000)는, 제1 학습 영상(700)에 포함된 각 객체에 대하여, 적어도 하나의 특성 값을 추출할 수 있다. 예를 들어, 디바이스(1000)는, 제1 학습 영상(700)에 포함된 사람, 외부 차량, 차선, 오토바이, 및 건물 등에 대하여, 각 객체의 윤곽선 정보, 색상 정보, 및 밝기 정보 등을 추출할 수 있다. 그리고, 디바이스(1000)는, 제1 학습 영상(700)으로부터 추출된 각 객체의 특성 값들을 학습한 결과에 기초하여, 제1 특성 값 세트를 결정할 수 있다.
또한, 디바이스(1000)는, 제2 학습 영상(710)을 이용하여, 밤에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 예를 들어, 제2 학습 영상(710)은, 데이터베이스에 저장된 복수의 학습 영상 중에서 밤에 촬영하여 획득된 학습 영상들을 의미할 수 있다. 예를 들어, 디바이스(1000)는, 제2 학습 영상(710)에 포함된 사람, 외부 차량, 차선, 오토바이, 및 건물 등에 대하여, 각 객체의 윤곽선 정보, 색상 정보, 및 밝기 정보 등을 추출할 수 있다. 디바이스(1000)는, 제2 학습 영상(710)으로부터 추출된 각 객체의 특성 값들을 학습한 결과에 기초하여, 제2 특성 값 세트를 결정할 수 있다.
제1 학습 영상(700) 및 제2 학습 영상(710)이 동일한 객체를 포함하는 경우에도, 제1 학습 영상(700)에 포함된 객체와 제2 학습 영상(710)에 포함된 객체는, 객체의 윤곽선, 색상 분포, 및 밝기 등이 서로 다르게 나타날 수 있다. 따라서, 디바이스(1000)는, 데이터베이스에 저장된 복수의 학습 영상을 제1 학습 영상(700)과 제2 학습 영상(710)으로 구분하고, 제1 학습 영상(700) 및 제2 학습 영상(710)을 각각 학습함으로써, 제1 특성 값 세트 및 제2 특성 값 세트를 결정할 수 있다.
도 8은 일부 실시예에 따른 디바이스가 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 적용하는 예시를 나타내는 도면이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정하고, 제1 특성 값 세트와 제2 특성 값 세트를 이용하여 획득한 객체 인식 결과에 제1 특성 값 세트의 가중치 및 제2 특성 값 세트의 가중치를 각각 적용함으로써, 입력 영상에 포함된 객체를 인식할 수 있다.
도 8을 참조하면, 입력 영상(800)은, 흐린 날의 오후 1시에 촬영하여 획득된 영상일 수 있다. 날씨가 흐린 경우, 날씨가 맑은 날에 비해 상대적으로 디바이스(1000)의 주변 조도가 낮을 수 있으며, 입력 영상(800)에 포함된 객체 또한 어둡게 나타날 수 있다. 따라서, 디바이스(1000)가 제1 특성 값 세트만 이용하여 입력 영상(800)에 포함된 객체를 인식할 경우, 객체가 정확하게 인식될 확률이 낮아질 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 제1 특성 값 세트 및 제2 특성 값 세트의 가중치를 다르게 결정할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상을 획득한 디바이스(1000) 주변의 시간, 장소, 및 날씨 정보를 고려하여, 제1 특성 값 세트 및 제2 특성 값 세트의 가중치를 다르게 결정할 수 있다. 예를 들어, 낮에 촬영하여 획득한 입력 영상인 경우에도, 디바이스(1000) 주변의 조도가 기 설정된 임계 수준 이하인 경우, 디바이스(1000)는 제2 특성 값 세트의 가중치를 상대적으로 크게 결정할 수 있다.
도8에 도시된 바와 같이, 날씨가 흐려서 디바이스(1000) 주변의 조도가 낮은 경우, 디바이스(1000)는, 제1 특성 값 세트의 가중치를 0.3, 제2 특성 값 세트의 가중치를 0.7로 결정(810)할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 객체 인식 결과(821)를 획득하고, 제2 특성 값 세트를 이용하여 제2 객체 인식 결과(822)를 획득할 수 있다. 일부 실시예에 따르면, 제1 객체 인식 결과(821) 및 제2 객체 인식 결과(822)는, 확률 값으로 표현될 수 있다. 예를 들어, 제1 객체 인식 결과에 따르면, 인식된 객체가 외부 차량일 확률이 60%, 오토바이일 확률이 40%이고, 제2 객체 인식 결과에 따르면, 인식된 객체가 외부 차량일 확률이 40%, 오토바이일 확률이 60%일 수 있다.
디바이스(1000)는, 제1 객체 인식 결과(821)에 제1 특성 값 세트의 가중치(예를 들어, 0.3)의 가중치를 적용하고, 제2 객체 인식 결과(822)에 제2 특성 값 세트의 가중치(예를 들어, 0.7)의 가중치를 적용할 수 있다. 이에 따라, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과(831)에 따르면, 인식된 객체가 외부 차량일 확률이 18%, 오토바이일 확률이 12%일 수 있다. 또한, 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과(832)에 따르면, 인식된 객체가 외부 차량일 확률이 28%, 오토바이일 확률이 42%일 수 있다.
또한, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과(831) 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과(832)에 기초하여 판단된 최종 객체 인식 결과(840)를 획득할 수 있다. 그리고, 디바이스(1000)는, 최종 객체 인식 결과(840)(예를 들어, 외부 차량일 확률 46%, 오토바이일 확률 54%)에 기초하여, 입력 영상에 포함된 객체를 오토바이로 인식할 수 있다.
도 9a 및 도 9b는 일부 실시예에 따른 디바이스가 제1 특성 값 세트 및 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 예시를 나타내는 도면이다.
전술한 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정할 수 있다.
도 9a를 참조하면, 오후 5시에 촬영하여 획득한 입력 영상(900)은, 입력 영상(900)이 어둡게 보일 수 있으며, 입력 영상(900)에 포함된 객체들(901, 902, 및 903)의 색상, 형태, 및 윤곽선이 밤에 촬영하여 획득한 입력 영상과 유사하게 나타날 수 있다. 이때, 디바이스(1000)는, 시간 정보를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상이 획득된 시간이 일몰 시간에 가까울수록, 제2 특성 값 세트의 사용 빈도를 높게 결정할 수 있다. 예를 들어, 도 9a에 도시된 바와 같이, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 2:1의 비율로 결정(910)할 수 있다.
도 9a를 참조하면, 디바이스(1000)는, 예를 들어, 1초에 20개의 입력 영상(제1 입력 영상 내지 제20 입력 영상)(920)을 획득할 수 있다. 그리고, 디바이스(1000)는, 결정된 사용 빈도에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 혼용하여, 복수의 입력 영상(920)에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 입력 영상(921) 및 제2 입력 영상(922)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 제3 입력 영상(923)에 포함된 객체를 인식할 수 있다. 또한, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제4 입력 영상(924) 및 제5 입력 영상(925)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 제6 입력 영상(926)에 포함된 객체를 인식할 수 있다.
도 9b를 참조하면, 터널에서 오후 2시에 촬영하여 획득된 입력 영상(930)은, 터널 내의 조도가 낮기 때문에 입력 영상(930)이 어둡게 보일 수 있으며, 입력 영상(930)에 포함된 객체(931)의 색상, 형태, 및 윤곽선이 밤에 촬영하여 획득한 입력 영상과 유사하게 나타날 수 있다. 이때, 디바이스(1000)는, 입력 영상(930)을 획득한 디바이스(1000) 주변의 시간 정보 및 장소 정보를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 터널 또는 지하 주차장 등과 같이 조도가 낮은 장소일수록, 제2 특성 값 세트의 사용 빈도를 높게 결정할 수 있다. 예를 들어, 도 9b를 참조하면, 터널에서 오후 2시에 촬영하여 획득한 입력 영상일 때, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 2:1의 비율로 결정(940)할 수 있다.
도 9b를 참조하면, 디바이스(1000)는, 예를 들어, 1초에 20개의 입력 영상(제1 입력 영상 내지 제20 입력 영상)(950)을 획득할 수 있다. 그리고, 디바이스(1000)는, 결정된 사용 빈도에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 혼용하여, 복수의 입력 영상(950)에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 입력 영상(951)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 및 제2 입력 영상(952) 및 제3 입력 영상(953)에 포함된 객체를 인식할 수 있다.
도 10은 일부 실시예에 따른 디바이스가 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교하는 예시를 나타내는 도면이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보의 변화를 감지할 수 있다. 예를 들어, 도 10을 참조하면, 디바이스(1000)의 주변 장소가 고속도로(1010)에서 터널(1011)로 변경됨에 따라, 디바이스(1000) 주변의 조도가 낮아질 수 있다. 이때, 디바이스(1000)는, 변화된 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 변경할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트 각각을 이용하여, 소정의 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 도 10을 참조하면, 디바이스(1000)는, 제1 특성 값 세트(1031) 및 제2 특성 값 세트(1032) 각각을 이용하여, 1초 동안 획득된 20개의 입력 영상(1020)에 포함된 객체를 인식할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트(1031)에 기초한 객체 인식률 및 제2 특성 값 세트(1032)에 기초한 객체 인식률을 비교할 수 있다. 그리고, 디바이스(1000)는, 객체 인식률을 비교한 결과에 기초하여, 제1 특성 값 세트(1031) 및 제2 특성 값 세트(1032)의 혼용 기준을 결정(1040)할 수 있다. 예를 들어, 도 10을 참조하면, 터널에서 촬영하여 획득된 입력 영상(1011)의 경우, 디바이스(1000) 주변의 조도가 낮기 때문에 제2 특성 값 세트(1032)에 기초한 객체 인식률이 더 높을 수 있다. 이때, 디바이스(1000)는, 제2 특성 값 세트(1032)의 가중치를 제1 특성 값 세트(1031)의 가중치보다 크게 결정하거나, 제2 특성 값 세트(1032)의 사용 빈도를 제1 특성 값 세트(1031)의 사용 빈도보다 높게 결정할 수 있으나, 이에 한정되지 않는다. 예를 들어, 도 10을 참조하면, 디바이스(1000)는, 객체 인식률을 비교한 결과에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 1:2의 비율로 결정(1040)할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 결정된 혼용 기준에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 이용함으로써, 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 도 10을 참조하면, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도가 1:2의 비율로 결정됨에 따라, 디바이스(1000)는 제1 특성 값 세트를 이용하여 제21 입력 영상(1051)에 포함된 객체를 인식하고, 제2 특성 값 세트를 이용하여 제22 입력 영상(1052) 및 제23 입력 영상(1053)에 포함된 객체를 인식할 수 있다.
도 11은 일부 실시예에 따른 디바이스가 복수의 환경 정보를 획득하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여 복수의 특성 값 세트의 혼용 기준을 결정할 수 있다.
단계 S1100에서, 디바이스(1000)는, 입력 영상을 획득한 시간을 식별할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상이 낮에 촬영된 것인지 밤에 촬영된 것인지 식별할 수 있다. 또한, 디바이스(1000)는, 24시간 중 몇 시에 촬영된 입력 영상인지 식별할 수 있다.
단계 S1110에서, 디바이스(1000)는, 조도 센서를 이용하여 디바이스(1000) 주변의 조도 값을 획득할 수 있다. 예를 들어, 조도 센서로부터 감지된 조도 값이 기 설정된 임계값 이하인 경우, 디바이스(1000)는 날씨가 흐리다고 판단하거나, 입력 영상이 획득된 장소가 상대적으로 어두운 곳이라고 판단할 수 있다.
단계 S1120에서, 디바이스(1000)는, 강수량에 관한 정보를 획득할 수 있다. 예를 들어, 디바이스(1000)는, 비 센서(rain sensor)를 이용하여, 강수량을 감지할 수 있으나, 이에 한정되지 않는다.
단계 S1130에서, 디바이스(1000)는, 디바이스(1000) 주변의 장소 정보를 획득할 수 있다. 예를 들어, 디바이스(1000)는, 내비게이션(navigation)의 지도 정보를 이용하여, 입력 영상을 획득한 디바이스(1000) 주변의 장소가 터널, 지하 주차장, 및 산길과 같이 어두운 장소인지 판단할 수 있다.
단계 S1140에서, 디바이스(1000)는, 단계 S1100 내지 단계 S1130에서 획득한 복수의 환경 정보 중 적어도 하나에 기초하여, 복수의 특성 값 세트의 혼용 기준을 결정할 수 있다. 예를 들어, 낮에 촬영하여 획득된 입력 영상이라 하더라도, 입력 영상이 터널 또는 지하 주차장과 같이 조도가 낮은 장소에서 획득되거나, 흐린 날 또는 비가 오는 날에 획득될 수 있다. 이때, 낮에 촬영하여 획득된 입력 영상이라 하더라도, 입력 영상이 어둡게 보일 수 있다. 따라서, 디바이스(1000)는, 디바이스(1000) 주변의 날씨 정보, 장소 정보 등을 더 고려하여, 복수의 특성 값 세트의 혼용 기준을 결정하고, 결정된 혼용 기준에 따라 복수의 특성 값 세트를 이용함으로써, 객체를 인식할 수 있다.
도 12는 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 혼용 기준에 따라 이용함으로써, 객체를 인식하는 방법을 나타내는 흐름도이다.
도 12를 참조하면, 단계 S1200에서, 디바이스(1000)는 디바이스(1000) 주변의 환경 정보에 기초하여, 복수의 특성 값 세트의 혼용 기준을 결정할 수 있다. 예를 들어, 복수의 특성 값 세트는, 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 전술한 바와 같이, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 결정하거나, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정함으로써, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 결정할 수 있으나, 이에 한정되지 않는다.
단계 S1210에서, 디바이스(1000)는, 혼용 기준에 따라, 복수의 특성 값 세트와 입력 영상으로부터 추출한 특성 값을 비교할 수 있다. 예를 들어, 디바이스(1000)는, 학습 결과에 기초하여, 다양한 객체를 식별하기 위한 복수의 특성 값 세트를 결정할 수 있다. 또한, 디바이스(1000)는, 입력 영상에 포함된 적어도 하나의 객체의 특성 값을 추출할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상의 색상 정보, 윤곽선 정보, 및 밝기 정보 등을 이용하여, 입력 영상에 포함된 객체의 특성 값을 추출할 수 있다. 그리고, 디바이스(1000)는, 혼용 기준에 따라, 복수의 특성 값 세트와 입력 영상으로부터 추출한 특성 값을 비교할 수 있다.
단계 S1220에서, 디바이스(1000)는, 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식할 수 있다.
도 13 및 도 14는 일부 실시예에 따른 디바이스의 블록도이다.
도 13에 도시된 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 메모리(1310), 카메라(1320), 및 프로세서(1330)를 포함할 수 있다.
그러나, 도 13에 도시된 구성 요소 모두가 디바이스(1000)의 필수 구성 요소인 것은 아니다. 도 13에 도시된 구성 요소보다 많은 구성 요소에 의해 디바이스(1000)가 구현될 수도 있고, 도 13에 도시된 구성 요소보다 적은 구성 요소에 의해 디바이스(1000)가 구현될 수도 있다. 예를 들어, 도 14에 도시된 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 메모리(1310), 카메라(1320), 및 프로세서(1330) 이외에, 사용자 입력부(1400), 출력부(1410), 센싱부(1420), 통신부(1430), 및 A/V 입력부(1440)를 더 포함할 수도 있다.
프로세서(1330)는, 통상적으로 디바이스(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(1330)는, 메모리(1310)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1400), 출력부(1410), 센싱부(1420), 통신부(1430), A/V 입력부(1440) 등을 전반적으로 제어할 수 있다. 또한, 프로세서(1330)는 메모리(1310)에 저장된 프로그램들을 실행함으로써, 도 1 내지 도 12에 기재된 디바이스(1000)의 기능을 수행할 수 있다.
일부 실시예에 따른 프로세서(1330)는, 디바이스(1000)의 주변을 촬영하는 카메라를 제어함으로써, 입력 영상을 획득한다. 획득된 입력 영상은 적어도 하나의 객체를 포함할 수 있으며, 객체는 디바이스(1000) 주변에 위치하는 외부 차량, 오토바이, 차선, 건물, 사람, 동물, 및 물체 등을 포함할 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 프로세서(1330)는, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득한다. 환경 정보는, 디바이스(1000) 주변의 시간, 날씨, 장소, 및 밝기 정보 등을 포함할 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 프로세서(1330)는, 환경 정보에 기초하여, 복수의 특성 값(feature) 세트의 혼용 기준을 결정한다. 특성 값 세트는, 입력 영상에 포함된 각 객체를 식별하기 위한 특성 값들의 집합으로서, 특성 값 세트는 예를 들어, 객체의 윤곽선 정보, 밝기 정보, 및 색상 정보 중 적어도 하나를 포함할 수 있다. 복수의 특성 값 세트는, 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 예를 들어, 제1 특성 값 세트는 낮에 촬영된 입력 영상에 이용되고, 제2 특성 값 세트는 밤에 촬영된 입력 영상에 이용될 수 있으나, 이에 한정되지 않는다. 디바이스(1000)는, 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여 제1 특성 값 세트 및 제2 특성 값 세트의 가중치를 다르게 적용할 수 있다. 또한, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정할 수 있다.
또한, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트를 각각 이용하여, 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식할 수 있다. 그리고, 디바이스(1000)는, 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교하고, 비교 결과에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 결정된 혼용 기준에 따라 복수의 특성 값 세트를 이용함으로써, 입력 영상에 포함된 객체를 인식한다. 예를 들어, 디바이스(1000)는, 결정된 혼용 기준에 따라, 제1 특성 값 세트 및 제2 특성 값 세트와 입력 영상으로부터 추출한 특성 값을 비교할 수 있다. 또한, 디바이스(1000)는, 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식할 수 있으나, 이에 한정되지 않는다.
또한, 프로세서(1330)는 메모리(1310) 또는 서버에 저장된 데이터 인식 모델을 이용하여, 입력 영상에 포함된 객체를 인식할 수 있으며, 이에 관하여는, 도 15 내지 도 18에서 보다 상세히 설명하기로 한다.
또한, 프로세서(1330)는, 메모리(1310) 또는 서버에 저장된 데이터 인식 모델을 이용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 효율적으로 학습할 수 있으며, 학습된 결과에 따라 객체 인식 결과를 제공할 수 있다.
메모리(1310)는, 프로세서(1330)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 디바이스(1000)로 입력되거나 디바이스(1000)로부터 출력되는 데이터를 저장할 수도 있다. 예를 들어, 메모리(1310)는, 디바이스의 주변을 촬영하여 입력 영상을 획득하고, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하고, 환경 정보에 기초하여 복수의 특성 값 세트의 혼용 기준을 결정하고, 결정된 혼용 기준에 따라 복수의 특성 값 세트를 이용함으로써, 입력 영상에 포함된 객체를 인식하는, 적어도 하나의 프로그램을 저장할 수 있다.
메모리(1310)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
메모리(1310)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1450), 터치 스크린 모듈(1451), 알림 모듈(1452) 등으로 분류될 수 있다.
UI 모듈(1450)은, 애플리케이션 별로 디바이스(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1451)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1330)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1451)은 터치 코드를 인식하고 분석할 수 있다.
알림 모듈(1452)은 디바이스(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 디바이스(1000)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(1452)은 디스플레이부(1411)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1412)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1413)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.
카메라(1320)는 디바이스의 주변을 촬영하여, 입력 영상을 획득할 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1330) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다. 카메라(1320)에 의해 촬영된 영상은, 디바이스(1000) 주변에 위치하는 객체를 인식하는데 사용될 수 있다.
사용자 입력부(1400)는, 사용자가 디바이스(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1400)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
출력부(1410)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1410)는 디스플레이부(1411), 음향 출력부(1412), 및 진동 모터(1413)를 포함할 수 있다.
디스플레이부(1411)는 디바이스(1000)에서 처리되는 정보를 표시 출력한다. 예를 들어, 일부 실시예에 따른 디스플레이부(1411)는, 복수의 특성 값 세트를 이용한 객체 인식 결과를 디스플레이할 수 있다. 또한, 디스플레이부(1411)는, 객체 인식 결과에 기초하여, 기 설정된 알람을 디스플레이할 수 있다.
음향 출력부(1412)는 통신부(1430)로부터 수신되거나 메모리(1310)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1412)는 디바이스(1000)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다.
센싱부(1420)는, 디바이스(1000)의 상태 또는 디바이스(1000) 주변의 상태를 감지하고, 감지된 정보를 프로세서(1330)로 전달할 수 있다. 센싱부(1420)는 사용자 또는 디바이스(1000)의 주변 상황을 나타내는 컨텍스트 정보 중 일부를 생성하는데 이용될 수 있다.
센싱부(1420)는, 지자기 센서(Magnetic sensor)(1421), 가속도 센서(Acceleration sensor)(1422), 온/습도 센서(1423), 적외선 센서(1424), 조도 센서(1425), 위치 센서(예컨대, GPS)(1426), 비 센서(1427), 근접 센서(1428), 및 RGB 센서(illuminance sensor)(1429) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.
통신부(1430)는, 디바이스(1000)가 다른 장치(미도시) 및 서버와 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1430)는, 근거리 통신부(1431), 이동 통신부(1432), 방송 수신부(1433)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(1431)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1432)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
방송 수신부(1433)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.
A/V(Audio/Video) 입력부(1440)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 카메라(1320) 이외에 마이크로폰(1441) 등이 포함될 수 있다.
마이크로폰(1441)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1441)은 외부 디바이스 또는 사용자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1441)은 사용자의 음성 입력을 수신할 수 있다.
도 15는 일부 실시예에 따른 프로세서의 블록도이다.
도 15를 참조하면, 일부 실시예에 따른 프로세서(1330)는 데이터 학습부(1510) 및 데이터 인식부(1520)를 포함할 수 있다.
데이터 학습부(1510)는, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 예를 들어, 데이터 학습부(1510)는, 객체를 인식하기 위해 사용되는 객체의 특성 값을 학습할 수 있다. 데이터 학습부(1510)는, 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다.
데이터 인식부(1520)는, 데이터에 기초하여 입력 영상에 포함된 객체를 식별할 수 있다. 예를 들어, 데이터 인식부(1520)는, 객체의 특성 값에 관한 학습 결과를 이용하여, 입력 영상에 포함된 객체를 인식할 수 있다. 데이터 인식부(1520)는 학습에 의한 기 설정된 기준에 따라 소정의 데이터를 획득하고, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델을 이용할 수 있다. 또한, 데이터 인식부(1520)는 이를 이용함으로써, 입력 영상에 포함된 소정의 데이터에 기초한 객체를 인식할 수 있다. 또한, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델에 의해 출력된 결과 값은, 데이터 인식 모델을 갱신하는데 이용될 수 있다.
데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
이 경우, 데이터 학습부(1510) 및 데이터 인식부(1520)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(1510) 및 데이터 인식부(1520) 중 하나는 전자 장치에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(1510) 및 데이터 인식부(1520)는 유선 또는 무선으로 통하여, 데이터 학습부(1510)가 구축한 모델 정보를 데이터 인식부(1520)로 제공할 수도 있고, 데이터 인식부(1520)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(1510)로 제공될 수도 있다.
한편, 데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 16은 일부 실시예에 따른 데이터 학습부의 블록도이다.
도 16을 참조하면, 일부 실시예에 따른 데이터 학습부(1510)는 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5)를 포함할 수 있다.
데이터 획득부(1510-1)는, 입력 영상에 포함된 객체를 인식하기 위하여 필요한 데이터를 획득할 수 있다. 예를 들어, 데이터 획득부(1510-1)는, 디바이스(1000)의 주변 환경을 센싱하여 데이터를 획득할 수 있다.
데이터 획득부(1510-1)는, 이미지 및 동영상 중 적어도 하나를 획득할 수 있다. 예를 들어, 데이터 획득부(1510-1)는, 데이터 학습부(1510)를 포함하는 디바이스(1000)의 카메라를 이용하여 이미지 및 동영상 중 적어도 하나를 획득할 수 있다.
전처리부(1510-2)는 입력 영상에 포함된 객체의 인식을 위한 학습에 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리 할 수 있다. 전처리부(1510-2)는 후술할 모델 학습부(1510-4)가 입력 영상에 포함된 객체를 식별하기 위한 학습을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
학습 데이터 선택부(1510-3)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(1510-4)에 제공될 수 있다. 학습 데이터 선택부(1510-3)는 입력 영상에 포함된 객체를 인식하기 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(1510-3)는 후술할 모델 학습부(1510-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
모델 학습부(1510-4)는 학습 데이터에 기초하여 입력 영상에 포함된 객체를 어떻게 인식할지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(1510-4)는 입력 영상에 포함된 객체를 인식하기 위하여 어떤 학습 데이터를 이용해야 하는 지에 대한 기준을 학습할 수도 있다. 예를 들어, 모델 학습부(1510-4)는, 학습 데이터에 포함된 각 객체를 식별하는 특성 값을 학습할 수 있다.
또한, 모델 학습부(1510-4)는 입력 영상에 포함된 객체의 인식에 이용되는 데이터 인식 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 인식 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 인식 모델은 기본 학습 데이터(예를 들어, 샘플 데이터 등)을 입력 받아 미리 구축된 모델일 수 있다.
데이터 인식 모델은, 인식 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 인식 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 인식 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
다양한 실시예에 따르면, 모델 학습부(1510-4)는 미리 구축된 데이터 인식 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 인식 모델을 학습할 데이터 인식 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 인식 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(1510-4)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(1510-4)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1510-4)는, 예를 들어, 별다른 지도 없이 입력 영상에 포함된 객체를 인식하는데 필요한 데이터의 종류를 스스로 학습함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1510-4)는, 예를 들어, 학습에 따른 객체의 인식 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 데이터 인식 모델이 학습되면, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 저장할 수 있다. 이 경우, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 데이터 인식부(1520)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 후술할 데이터 인식부(1520)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 전자 장치와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 인식 모델이 저장되는 메모리는, 예를 들면, 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(1510-5)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(1510-4)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 인식 모델을 평가하기 위한 기 설정된 데이터일 수 있다.
예를 들어, 모델 평가부(1510-5)는 평가 데이터에 대한 학습된 데이터 인식 모델의 인식 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 인식 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(1510-5)는 학습된 데이터 인식 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 인식 모델이 복수 개가 존재하는 경우, 모델 평가부(1510-5)는 각각의 학습된 동영상 인식 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 인식 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(1510-5)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 인식 모델로서 결정할 수 있다.
한편, 데이터 학습부(1510) 내의 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
프로세서(1330)는 다양한 데이터 인식 모델을 이용할 수 있으며, 데이터 인식 모델을 통해 다양한 방법으로 사용자의 의도를 판단하고 연관 정보를 제공하고 대체 동작을 추천을 위한 기준을 효율적으로 학습할 수 있다.
도 17은 일부 실시예에 따른 데이터 인식부의 블록도이다.
도 17을 참조하면, 일부 실시예에 따른 데이터 인식부(1520)는 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5)를 포함할 수 있다.
데이터 획득부(1520-1)는 입력 영상에 포함된 객체의 식별에 필요한 데이터를 획득할 수 있으며, 전처리부(1520-2)는 입력 영상에 포함된 객체의 식별을 위해 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리 할 수 있다. 전처리부(1520-2)는 후술할 인식 결과 제공부(1520-4)가 입력 영상에 포함된 객체의 식별을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
인식 데이터 선택부(1520-3)는, 전처리된 데이터 중에서, 입력 영상에 포함된 객체를 인식하는데 필요한 데이터를 선택할 수 있다. 선택된 데이터는 인식 결과 제공부(1520-4)에게 제공될 수 있다. 인식 데이터 선택부(1520-3)는, 입력 영상에 포함된 객체의 인식을 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다. 또한, 인식 데이터 선택부(1520-3)는 후술할 모델 학습부(1510-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
인식 결과 제공부(1520-4)는, 선택된 데이터를 데이터 인식 모델에 적용하여, 입력 영상에 포함된 객체를 인식할 수 있다. 인식 결과 제공부(1520-4)는 데이터의 인식 목적에 따른 인식 결과를 제공할 수 있다. 인식 결과 제공부(1520-4)는 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 입력 값으로 이용함으로써, 선택된 데이터를 데이터 인식 모델에 적용할 수 있다. 또한, 인식 결과는 데이터 인식 모델에 의해 결정될 수 있다.
모델 갱신부(1520-5)는 인식 결과 제공부(1520-4)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 인식 모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(1520-5)는 인식 결과 제공부(1520-4)에 의해 제공되는 인식 결과를 모델 학습부(1510-4)에게 제공함으로써, 모델 학습부(1510-4)가 데이터 인식 모델을 갱신하도록 할 수 있다.
한편, 데이터 인식부(1520) 내의 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
또한, 디바이스(1000)는 학습된 결과가 적용된 데이터 인식 모델을 이용하여 사용자의 의도에 부합하는 서비스를 사용자에게 제공할 수 있게 된다.
도 18은 일부 실시예에 따른 디바이스 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 18을 참조하면, 서버(2000)는 입력 영상에 포함된 객체를 인식하기 기준을 학습할 수 있다. 예를 들어, 서버(2000)는, 객체를 인식하기 위해 사용되는 객체의 특성 값을 학습할 수 있다. 서버(2000)는, 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 디바이스(1000)는 서버(2000)에 의한 학습 결과에 기초하여 사용자의 의도 판단, 연관 정보의 제공 및 대체 동작의 추천을 판단할 수 있다.
이 경우, 서버(2000)의 모델 학습부(2340)는 도 13에 도시된 데이터 학습부(1510)의 기능을 수행할 수 있다. 서버(2000)의 모델 학습부(2340)는 입력 영상에 포함된 객체를 인식하기 위하여 어떤 데이터를 이용할 지에 관한 기준을 학습할 수 있다. 또한, 서버의 모델 학습부(2340)는 데이터를 이용하여 입력 영상에 포함된 객체를 어떻게 인식할 지에 관한 기준을 학습할 수 있다. 모델 학습부(2340)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다.
또한, 디바이스(1000)의 인식 결과 제공부(1520-4)는 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 서버(2000)에 의해 생성된 데이터 인식 모델에 적용하여 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 인식 결과 제공부(1520-4)는 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 서버(2000)에게 전송하고, 서버(2000)가 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 인식 모델에 적용하여 입력 영상에 포함된 객체를 인식할 것을 요청할 수 있다. 또한, 인식 결과 제공부(1520-4)는 서버(2000)에 의해 판단된 객체의 인식에 관한 정보를 서버(2000)로부터 수신할 수 있다.
또는, 디바이스(1000)의 인식 결과 제공부(1520-4)는 서버(2000)에 의해 생성된 인식 모델을 서버(2000)로부터 수신하고, 수신된 인식 모델을 이용하여 입력 영상에 포함된 객체를 인식할 수 있다. 이 경우, 디바이스(1000)의 인식 결과 제공부(1520-4)는, 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 서버(2000)로부터 수신된 데이터 인식 모델에 적용하여 입력 영상에 포함된 객체를 인식할 수 있다.
일부 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.
또한, 본 명세서에서, “부”는 프로세서 또는 회로와 같은 하드웨어 구성(hardware component), 및/또는 프로세서와 같은 하드웨어 구성에 의해 실행되는 소프트웨어 구성(software component)일 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (17)

  1. 입력 영상에 포함된 객체를 인식하는 디바이스에 있어서,
    적어도 하나의 프로그램이 저장되는 메모리;
    상기 디바이스의 주변을 촬영하는 카메라;
    상기 적어도 하나의 프로그램을 실행함으로써 상기 입력 영상에 포함된 객체를 인식하는 적어도 하나의 프로세서;를 포함하고,
    상기 적어도 하나의 프로그램은,
    상기 카메라를 제어함으로써 입력 영상을 획득하는 단계;
    상기 입력 영상을 획득하는 상기 디바이스 주변의 환경 정보를 획득하는 단계;
    상기 환경 정보에 기초하여, 상기 입력 영상 내의 상기 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계; 및
    상기 복수의 특성 값 세트를 상기 결정된 혼용 기준에 따라 이용함으로써, 상기 입력 영상에 포함된 객체를 인식하는 단계;
    를 실행하는 명령어들을 포함하는, 디바이스.
  2. 제 1항에 있어서,
    상기 복수의 특성 값 세트는 제1 특성 값 세트 및 제2 특성 값 세트를 포함하며,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 것인, 디바이스.
  3. 제 2항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 것인, 디바이스.
  4. 제 2항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트 각각의 가중치를 결정하는 단계를 포함하고,
    상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 상기 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 상기 제1 특성 값 세트의 가중치 및 상기 제2 특성 값 세트의 가중치를 각각 적용하는 단계; 및
    상기 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 상기 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 상기 입력 영상에 포함된 객체를 인식하는 단계;
    를 포함하는 것인, 디바이스.
  5. 제 2항에 있어서, 상기 혼용 기준을 결정하는 단계는,
    상기 제1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하여, 상기 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식하는 단계;
    상기 제1 특성 값 세트에 기초한 객체 인식률 및 상기 제2 특성 값 세트에 기초한 객체 인식률을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트 각각를 이용하기 위한 상기 혼용 기준을 결정하는 단계;
    를 포함하는 것인, 디바이스.
  6. 제 1항에 있어서, 상기 환경 정보는,
    상기 입력 영상이 촬영된 시간, 날씨, 및 장소에 관한 정보 중 적어도 하나를 포함하는 것인, 디바이스.
  7. 제 1항에 있어서, 상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 결정된 혼용 기준에 따라, 복수의 특성 값 세트와 상기 입력 영상으로부터 추출한 특성 값을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식하는 단계;를 포함하는 것인, 디바이스.
  8. 제 1항에 있어서, 상기 특성 값 세트는,
    객체의 윤곽선 정보, 밝기 정보, 및 색상 정보 중 적어도 하나를 포함하는 것인, 디바이스.
  9. 디바이스가 입력 영상에 포함된 객체를 인식하는 방법에 있어서,
    상기 디바이스의 주변을 촬영하여, 입력 영상을 획득하는 단계;
    상기 입력 영상을 획득하는 상기 디바이스 주변의 환경 정보를 획득하는 단계;
    상기 환경 정보에 기초하여, 상기 입력 영상 내의 상기 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계; 및
    상기 복수의 특성 값 세트를 상기 결정된 혼용 기준에 따라 이용함으로써, 상기 입력 영상으로부터 적어도 하나의 객체를 인식하는 단계;
    를 포함하는, 방법.
  10. 제 9항에 있어서,
    상기 복수의 특성 값 세트는 제1 특성 값 세트 및 제2 특성 값 세트를 포함하며,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 것인, 방법.
  11. 제 10항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 것인, 방법.
  12. 제 10항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트 각각의 가중치를 결정하는 단계를 포함하고,
    상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 상기 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 상기 제1 특성 값 세트의 가중치 및 상기 제2 특성 값 세트의 가중치를 각각 적용하는 단계; 및
    상기 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 상기 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 상기 입력 영상에 포함된 객체를 인식하는 단계;
    를 포함하는 것인, 방법.
  13. 제 10항에 있어서, 상기 혼용 기준을 결정하는 단계는,
    상기 제 1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하여, 상기 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식하는 단계;
    상기 제1 특성 값 세트에 기초한 객체 인식률 및 상기 제 2 특성 값 세트에 기초한 객체 인식률을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트 각각을 이용하기 위한 상기 혼용 기준을 결정하는 단계;
    를 포함하는 것인, 방법.
  14. 제 9항에 있어서, 상기 환경 정보는,
    상기 입력 영상이 촬영된 시간, 날씨, 및 장소에 관한 정보 중 적어도 하나를 포함하는 것인, 방법.
  15. 제 9항에 있어서, 상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 결정된 혼용 기준에 따라, 상기 복수의 특성 값 세트와 상기 입력 영상으로부터 추출한 특성 값을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식하는 단계;를 포함하는 것인, 방법.
  16. 제 9항에 있어서, 상기 특성 값 세트는,
    객체의 윤곽선 정보, 밝기 정보, 및 색상 정보 중 적어도 하나를 포함하는 것인, 방법.
  17. 제 9항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
KR1020170040791A 2017-03-30 2017-03-30 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법 KR102404791B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020170040791A KR102404791B1 (ko) 2017-03-30 2017-03-30 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법
US16/490,273 US11176387B2 (en) 2017-03-30 2018-01-17 Device and method for recognizing object included in input image
PCT/KR2018/000784 WO2018182153A1 (ko) 2017-03-30 2018-01-17 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170040791A KR102404791B1 (ko) 2017-03-30 2017-03-30 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법

Publications (2)

Publication Number Publication Date
KR20180110891A true KR20180110891A (ko) 2018-10-11
KR102404791B1 KR102404791B1 (ko) 2022-06-02

Family

ID=63676577

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170040791A KR102404791B1 (ko) 2017-03-30 2017-03-30 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법

Country Status (3)

Country Link
US (1) US11176387B2 (ko)
KR (1) KR102404791B1 (ko)
WO (1) WO2018182153A1 (ko)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102029852B1 (ko) * 2019-04-09 2019-10-08 세종대학교 산학협력단 환경에 따라 신경망 모델을 선택하는 객체 인식 장치 및 그 방법
WO2020231153A1 (en) * 2019-05-14 2020-11-19 Samsung Electronics Co., Ltd. Electronic device and method for assisting with driving of vehicle
WO2021066275A1 (ko) * 2019-10-01 2021-04-08 삼성전자주식회사 전자 장치 및 그 제어 방법
KR20210050803A (ko) * 2019-10-29 2021-05-10 서울과학기술대학교 산학협력단 차량용 번호판의 정보를 인식하는 장치
KR20210153989A (ko) * 2020-06-11 2021-12-20 주식회사 에이아이프로 맞춤형 객체 검출 모델을 가진 객체 검출 장치
KR102638136B1 (ko) * 2023-07-26 2024-02-20 (주)아세아항측 자율주행 정밀도로지도 제작을 위한 mms 영상 처리시스템

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10963706B2 (en) 2018-01-13 2021-03-30 Toyota Jidosha Kabushiki Kaisha Distributable representation learning for associating observations from multiple vehicles
US10916135B2 (en) * 2018-01-13 2021-02-09 Toyota Jidosha Kabushiki Kaisha Similarity learning and association between observations of multiple connected vehicles
US20220277556A1 (en) * 2019-08-06 2022-09-01 Sony Group Corporation Information processing device, information processing method, and program
US11653629B2 (en) * 2021-06-29 2023-05-23 Kyndryl, Inc. Proactive detection of invasive species
US11756288B2 (en) * 2022-01-05 2023-09-12 Baidu Usa Llc Image processing method and apparatus, electronic device and storage medium

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015098442A1 (ja) * 2013-12-26 2015-07-02 株式会社日立国際電気 映像検索システム及び映像検索方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269570A (ja) 2001-03-09 2002-09-20 Toyota Motor Corp 周辺認識装置
US8542928B2 (en) * 2005-09-26 2013-09-24 Canon Kabushiki Kaisha Information processing apparatus and control method therefor
KR101573051B1 (ko) 2009-01-29 2015-12-01 삼성전자 주식회사 밝기 및 명암 파라미터 셋을 이용한 향상된 문자 인식 장치
US8494259B2 (en) * 2009-12-28 2013-07-23 Teledyne Scientific & Imaging, Llc Biologically-inspired metadata extraction (BIME) of visual data using a multi-level universal scene descriptor (USD)
US9443298B2 (en) * 2012-03-02 2016-09-13 Authentect, Inc. Digital fingerprinting object authentication and anti-counterfeiting system
JP5594672B2 (ja) 2011-04-14 2014-09-24 株式会社 日立産業制御ソリューションズ 物体認識装置および物体認識方法
US8761498B1 (en) * 2012-01-26 2014-06-24 Google Inc. Face and license plate detection in street level images with 3-D road width features estimated from laser data
US9355123B2 (en) * 2013-07-19 2016-05-31 Nant Holdings Ip, Llc Fast recognition algorithm processing, systems and methods
JP2016161973A (ja) 2015-02-26 2016-09-05 株式会社リコー 認識装置、認識方法及びプログラム
JP7016522B2 (ja) * 2015-04-20 2022-02-07 コーネル ユニヴァーシティー 次元データ低減を有するマシンビジョン
US9633282B2 (en) * 2015-07-30 2017-04-25 Xerox Corporation Cross-trained convolutional neural networks using multimodal images
KR101750615B1 (ko) 2015-08-18 2017-06-23 재단법인대구경북과학기술원 객체 인식/탐지 장치 및 객체 인식/탐지 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015098442A1 (ja) * 2013-12-26 2015-07-02 株式会社日立国際電気 映像検索システム及び映像検索方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102029852B1 (ko) * 2019-04-09 2019-10-08 세종대학교 산학협력단 환경에 따라 신경망 모델을 선택하는 객체 인식 장치 및 그 방법
WO2020231153A1 (en) * 2019-05-14 2020-11-19 Samsung Electronics Co., Ltd. Electronic device and method for assisting with driving of vehicle
US11688195B2 (en) 2019-05-14 2023-06-27 Samsung Electronics Co., Ltd. Electronic device and method for assisting with driving of vehicle
WO2021066275A1 (ko) * 2019-10-01 2021-04-08 삼성전자주식회사 전자 장치 및 그 제어 방법
KR20210050803A (ko) * 2019-10-29 2021-05-10 서울과학기술대학교 산학협력단 차량용 번호판의 정보를 인식하는 장치
KR20210153989A (ko) * 2020-06-11 2021-12-20 주식회사 에이아이프로 맞춤형 객체 검출 모델을 가진 객체 검출 장치
KR102638136B1 (ko) * 2023-07-26 2024-02-20 (주)아세아항측 자율주행 정밀도로지도 제작을 위한 mms 영상 처리시스템

Also Published As

Publication number Publication date
US20200012868A1 (en) 2020-01-09
KR102404791B1 (ko) 2022-06-02
US11176387B2 (en) 2021-11-16
WO2018182153A1 (ko) 2018-10-04

Similar Documents

Publication Publication Date Title
KR20180110891A (ko) 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법
US11875574B2 (en) Object recognition method of autonomous driving device, and autonomous driving device
US20230096020A1 (en) Method and system for on-the-fly object labeling via cross modality validation in autonomous driving vehicles
US10769453B2 (en) Electronic device and method of controlling operation of vehicle
KR102060662B1 (ko) 차량의 주행 이벤트를 검출하는 전자 장치 및 방법
US11790551B2 (en) Method and system for object centric stereo in autonomous driving vehicles
US20230140540A1 (en) Method and system for distributed learning and adaptation in autonomous driving vehicles
CN110168530B (zh) 电子设备和操作该电子设备的方法
US11670068B2 (en) Apparatus and method for processing image
KR20180068578A (ko) 복수의 센서를 이용하여 객체를 인식하는 전자 기기 및 방법
KR20180055708A (ko) 이미지를 처리하는 전자 장치 및 방법
CN111465960A (zh) 图像获取装置及控制图像获取装置的方法
KR20180074568A (ko) 차선 정보를 추정하는 방법 및 전자 장치
KR102360181B1 (ko) 차량의 동작을 제어하는 전자 장치 및 방법
KR20190078222A (ko) 패션 상품을 추천하는 전자 장치, 서버 및 그 동작 방법
KR20200084428A (ko) 동영상을 제작하는 방법 및 그에 따른 장치
CN110705493A (zh) 车辆行驶环境的检测方法、系统、电子设备及存储介质
JP7025080B1 (ja) 識別装置、識別プログラム、および識別方法
CN110997415A (zh) 控制车辆的操作的电子设备和方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right