KR102311798B1 - 다중 객체 추적 방법 및 장치 - Google Patents

다중 객체 추적 방법 및 장치 Download PDF

Info

Publication number
KR102311798B1
KR102311798B1 KR1020190165373A KR20190165373A KR102311798B1 KR 102311798 B1 KR102311798 B1 KR 102311798B1 KR 1020190165373 A KR1020190165373 A KR 1020190165373A KR 20190165373 A KR20190165373 A KR 20190165373A KR 102311798 B1 KR102311798 B1 KR 102311798B1
Authority
KR
South Korea
Prior art keywords
tracked
tracking
similarity
candidate
command
Prior art date
Application number
KR1020190165373A
Other languages
English (en)
Other versions
KR20210074569A (ko
Inventor
김대진
이혜민
Original Assignee
포항공과대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 포항공과대학교 산학협력단 filed Critical 포항공과대학교 산학협력단
Priority to KR1020190165373A priority Critical patent/KR102311798B1/ko
Priority to US17/037,399 priority patent/US11694342B2/en
Publication of KR20210074569A publication Critical patent/KR20210074569A/ko
Application granted granted Critical
Publication of KR102311798B1 publication Critical patent/KR102311798B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0454—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Abstract

본 발명은 통합 유사도 신경망을 포함하는 다중 객체 추적 장치를 활용하여 영상에 포함된 다중 객체를 추적하는 방법으로서, 입력된 영상으로부터 추적 영역을 설정하는 단계; 상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하는 단계; 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계; 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계; 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계; 및 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계를 포함하는, 다중 객체 추적 방법을 개시한다.

Description

다중 객체 추적 방법 및 장치{APPARATUS AND METHOD FOR TRACKING MULTIPLE OBJECTS}
본 발명은 다중 객체를 추적하는 방법 및 장치에 관한 것으로, 더욱 상세하게는 통합 유사도 신경망을 활용하여 다중 객체를 추적하는 방법 및 장치에 관한 것이다.
컴퓨터 비전(Computer Vision), 머신 러닝(Machine Learning)은 다양한 이미징 센서로부터 입력되는 영상을 분석하여 의미 있는 데이터를 추출하는 분야로서 사용자의 자세 분석, 무인 자동차의 차선 감지, 사용자의 얼굴 인식 등 다양한 산업 분야에 활용되고 있다. 또한, 최근 컴퓨터 비전, 머신 러닝을 위한 데이터 세트가 공개되고 이를 기반으로 연구소, 학계 등에서 활발하게 연구가 진행되어 많은 발전을 이루고 있다.
객체 추적 기술은 비디오 감시, 인간 및 컴퓨터 간 상호 작용, 자율 주행 등 여러 분야에서 널리 사용되는 컴퓨터 비전 분야의 핵심 기술이다. 객체 추적 기술 분야에서 통용되는 방법은 검출 기반 추적(Tracking by Detection)방식이다. 검출 기반 추적 방식에서 핵심 기술은 객체와 객체 간 유사도를 평가하는 기술이다. 따라서, 객체 간 유사도를 평가하기 위해 객체의 외형 특징, 움직임 정보, 위치 정보 등이 사용된다.
최근 합성 곱 신경망(Convolutional Neural Network)의 비약적 발전으로 기존의 직접 설계 특징(Hand Crafted Features) 기반의 유사도 평가 방법에 비해 객체 간 유사도 평가의 정확도가 향상 되었다. 따라서, 합성 곱 신경망 특징을 활용한 강인한 특징을 통해 객체 간 유사도 평가의 정확도가 향상되어 검출 기반 추적 방식에서 검출 결과를 추적 객체에 정확히 할당함으로써 다중 객체 추적의 성능이 향상되었다.
다만, 합성 곱 신경망 특징을 이용해 객체 간 유사도 평가의 정확도가 향상되었음에도 불구하고, 다중 객체 추적 기술은 영상의 불규칙한 모션, 부정확한 검출 결과 및 장애물로 인한 가림 현상 등 다른 문제가 있다.
추적 대상이 되는 객체가 미검출 되거나 잘못된 객체가 검출될 경우 객체 간 유사도 평가의 결과에 관계 없이 추적의 정확도가 하락된다. 이러한 한계점을 보완하기 위해 검출 결과와 관계없이 객체의 주변을 탐색하여 다음 프레임에서 객체의 위치를 찾아내는 단일 객체 추적 알고리즘을 활용한 다중 객체 추적 알고리즘이 제안되었다.
다만, 단일 객체 추적 알고리즘은 주변 배경과 해당 객체를 구별하는 데 특화되어 있고, 다중 객체 추적 알고리즘은 객체와 객체를 구별하는 데 특화되어 있는 바, 단일 객체 추적 알고리즘을 다중 객체 추적 알고리즘에 바로 적용하면 신원 전환(Identification Switching) 현상이 빈번하게 발생할 수 있고, 단일 추적과 다중 추적을 위한 알고리즘을 따로 학습 시켜야하는 문제가 있다.
상기와 같은 문제점을 해결하기 위한 본 발명의 목적은 유사도 평가와 객체 추적을 동시에 수행할 수 있는 통합 유사도 신경망을 제공하는 데 있다.
상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른 다중 객체 추적 방법은, 통합 유사도 신경망을 포함하는 다중 객체 추적 장치를 활용하여 영상에 포함된 다중 객체를 추적하는 방법으로서, 입력된 영상으로부터 추적 영역을 설정하는 단계; 상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하는 단계; 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계; 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계; 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계; 및 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계를 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계는, 복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 기준 특징을 추출하는 단계를 포함할 수 있다.
또한, 상기 복수의 동일한 신경망은, 합성곱 연산을 수행하는 합성곱 신경망(Convolutional Neural Network; CNN)을 포함할 수 있다.
또한, 상기 합성곱 신경망은, 완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계는, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가하여 유사도 값을 산출하는 단계를 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계는, 상기 추적 대상이 되는 객체 및 상기 추적 영역 간 유사도를 평가하여 유사도 맵 및 객체의 위상 값을 산출하는 단계를 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계는, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성하는 단계; 상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 상기 추적 대상이 되는 객체에 객체 후보를 할당하는 단계를 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계는, 유사도 맵에서 추적 대상이 되는 객체와 가장 높은 유사도를 보이는 영역에 해당하는 객체 후보를 상기 추적 대상이 되는 객체에 할당하는 단계를 포함할 수 있다.
또한, 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계는, 할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적 대상이 되는 객체를 추적하는 단계를 포함할 수 있다.
또한, 본 발명의 일 실시예에 따른 다중 객체 추적 방법은, 추적 결과를 반영하여 변화된 상기 추적 대상이 되는 객체의 위치를 상기 통합 유사도 신경망에 입력하여 학습시키는 단계를 더 포함할 수 있다.
상기 목적을 달성하기 위한 본 발명의 다른 실시예에 따른 다중 객체 추적 장치는 프로세서; 및 상기 프로세서를 통해 실행되는 적어도 하나의 명령을 저장하는 메모리를 포함하고, 상기 적어도 하나의 명령은, 입력된 영상으로부터 추적 영역을 설정하도록 하는 명령; 상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하도록 하는 명령; 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하도록 하는 명령; 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령; 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령; 및 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하도록 하는 명령을 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하도록 하는 명령은, 복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 기준 특징을 추출하도록 하는 명령을 포함할 수 있다.
또한, 상기 복수의 동일한 신경망은, 합성곱 연산을 수행하는 합성곱 신경망(Convolutional Neural Network; CNN)을 포함할 수 있다.
또한, 상기 합성곱 신경망은, 완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령은, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가하여 유사도 값을 산출하도록 하는 명령을 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령은, 상기 추적 대상이 되는 객체 및 상기 추적 영역 간 유사도를 평가하여 유사도 맵 및 객체의 위상 값을 산출하도록 하는 명령을 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령은, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성하도록 하는 명령; 상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 상기 추적 대상이 되는 객체에 객체 후보를 할당하도록 하는 명령을 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령은, 유사도 맵에서 추적 대상이 되는 객체와 가장 높은 유사도를 보이는 영역에 해당하는 객체 후보를 상기 추적 대상이 되는 객체에 할당하도록 하는 명령을 포함할 수 있다.
또한, 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하도록 하는 명령은, 할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적 대상이 되는 객체를 추적하도록 하는 명령을 포함할 수 있다.
또한, 상기 적어도 하나의 명령은, 추적 결과를 반영하여 변화된 상기 추적 대상이 되는 객체의 위치를 상기 통합 유사도 신경망에 입력하여 학습시키도록 하는 명령을 더 포함할 수 있다.
상기와 같은 본 발명의 실시예들에 따르면, 하나의 통합 유사도 신경망을 사용하여 단일 추적을 통한 검출 결과를 보완하는 장점을 가진다.
또한, 상기와 같은 본 발명의 실시예들에 따르면, 객체 후보 간 유사도 평가와 객체 후보 할당을 동시에 수행하여 추적 성능이 향상되는 장점을 가진다.
또한, 상기와 같은 본 발명의 실시예들이 따르면, 통합 유사도 신경망을 통합하여 학습시킴으로써 학습의 효율을 높이는 장점을 가진다.
도 1은 본 발명의 일 실시예에 따른 다중 객체 추적 장치의 블록 구성도이다.
도 2는 본 발명의 일 실시예에 따른 신경망 학습부의 세부 블록 구성도이다.
도 3은 본 발명의 일 실시예에 따른 신경망 학습부를 통한 학습 방법의 개념도이다.
도 4는 단일 객체 추적 및 유사도 평가를 동시에 수행하는 방법의 개념도이다.
도 5는 본 발명의 일 실시예에 따른 다중 객체 추적 방법의 흐름도이다.
도 6는 본 발명의 일 실시예에 따른 다중 객체 추적 방법의 동작 순서도이다.
도 7은 본 발명의 다른 실시예에 따른 다중 객체 추적 장치의 블록 구성도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는 데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. "및/또는"이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 본 발명에 따른 바람직한 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 다중 객체 추적 장치의 블록 구성도이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 다중 객체 추적 장치(1000)는 객체 후보 추출부(1100), 신경망 학습부(1200), 객체 할당부(1300) 및 객체 추적부(1400)를 포함할 수 있다.
여기서, 객체 후보 추출부(1100)는 입력된 영상으로부터 추적 대상이 되는 추적 영역을 설정할 수 있고, 추적 영역 내에 존재하는 추적 대상이 되는 객체에 대한 객체 후보를 추출하여 분류할 수 있다.
또한, 신경망 학습부(1200)는 이전 프레임의 객체에 대한 정보와 현재 프레임의 객체 후보를 입력으로 받아 전체 객체와 후보 쌍에 대한 유사도 평가 결과를 출력할 수 있다.
또한, 신경망 학습부(1200)는 추적이 진행되어 오던 추적 궤적을 최신화된 객체의 상태를 반영하여 다시 한번 추적을 진행함으로써 추적 궤적을 개선시킬 수 있다.
또한, 객체 할당부(1300)는 신경망 학습부(1200)에서 추출된 추적 대상이 되는 객체와 추적 영역에 대한 유사도 평가 결과 및 객체 후보에 대한 유사도 평가를 종합하여 추적 대상이 되는 객체에 객체 후보를 할당할 수 있다.
여기서, 객체 할당부(1300)는 신경망 학습부(1200)에서 추출한 추적 대상이 되는 객체와 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성할 수 있다.
또한, 객체 할당부(1300)는 유사도 값을 토대로 구성된 행렬에서 유사도 값의 총합이 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 추적 대상이 되는 객체에 객체 후보를 할당하도록 할 수 있다.
여기서, 객체 할당부는 헝가리안 알고리즘을 적용하여 추적 대상이 되는 객체에 객체 후보를 할당함으로써 객체의 상태를 최신화 할 수 있다.
또한. 객체 추적부(1400)는 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적할 수 있다. 여기서, 추적 대상이 되는 객체는 할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적될 수 있다.
도 2는 본 발명의 일 실시예에 따른 신경망 학습부의 세부 블록 구성도이다.
도 2를 참조하면, 신경망 학습부(1200)는, 특징 추출 모듈(1210) 및 유사도 평가 모듈(1220)을 포함할 수 있다.
여기서, 특징 추출 모듈(1210)은 복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 객체 간 유사도를 평가하는 데 최적화된 기준 특징을 추출할 수 있다. 또한, 쌍둥이 네트워크 구조는 모든 입력에 대해 동일한 결과 값을 공유할 수 있다.
여기서, 추적 대상이 되는 객체로부터 추출된 유사도 평가를 위한 기준 특징은 템플릿(Template)으로 저장될 수 있다.
또한, 유사도 평가 모듈(1220)은 특징 추출 모듈(1210)에서 추출된 특징에 대해 합성곱 연산을 추가적으로 수행하여 추적 대상이 되는 객체의 외형적 특징을 템플릿으로 변환하여 유사도를 평가할 수 있다.
여기서, 합성곱 연산은 합성곱 신경망(Convolutional Neural Network; CNN)에서 수행될 수 있다.
또한, 합성곱 신경망은 완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함 수 있다. 따라서, 특징 추출 모듈은 완전 합성곱 네트워크 구조를 갖는 합성곱 신경망을 통해 입력 영상의 크기에 관계없이 특징을 추출할 수 있다.
또한, 유사도 평가 모듈(1220)은 추적 영역 및 객체 후보에 대해 연관성 연산(Correlation Operation)을 적용하여 유사도를 평가할 수 있다. 따라서, 추적 영역 및 객체 후보 간 연관성 연산을 적용함에 따라 추적 영역에서 나온 유사도 값과 객체 후보에서 나온 유사도 값은 서로 호환이 가능한 바, 검출된 객체 후보가 추적 대상이 되는 객체를 포함하지 못하더라도 단일 객체 추적을 수행하여 추적 대상이 되는 객체를 추적할 수 있다.
도 3은 본 발명의 일 실시예에 따른 신경망 학습부를 통한 학습 방법의 개념도이다.
도 3을 참조하면, 본 발명의 일 실시예에 따른 신경망 학습부의 특징 추출 모듈(1210)은 객체 후보, 추적 대상이 되는 객체 및 추적 영역에 대한 특징을 추출할 수 있다.
여기서, 객체 후보 및 추적 대상이 되는 객체는 동일한 크기로 영상의 크기가 조정되어 유사도 평가 모듈(1220)에 입력될 수 있고, 추적 영역은 추적 영역의 2배로 확장된 영역이 유사도 평가 모듈에 입력될 수 있다.
또한, 추적 대상이 되는 객체로부터 추출된 특징은 유사도 평가를 위한 템플릿으로 저장되어 합성곱 연산을 수행하고 유사도 평가를 위한 기준 특징 값과 추적 위상 변화 값을 계산하기 위한 기준 특징 값으로 나뉠 수 있다.
또한, 유사도 평가 모듈에 의해 추적 영역으로부터 추출된 특징을 활용하여 추적 영역으로부터 추출된 특징과 추적 대상이 되는 객체의 템플릿은 합성곱 연산을 통해 유사도 맵과 추적 위상 값을 출력할 수 있다.
여기서, 유사도 맵 및 추적 위상 값은 통합 유사도 신경망에서 단일 객체를 추적하기 위한 것으로, 유사도 맵의 결과 값 중 가장 높은 값에 해당하는 추적 위상을 추적 대상이 되는 객체에 적용함으로써 다음 프레임에서 추적 대상이 되는 객체의 위치를 예상할 수 있다.
또한, 유사도 평가 모듈(1220)은 객체 후보들로부터 추적 대상이 되는 객체의 템플릿과 합성곱 연산을 수행하여 각각의 객체 후보에 대한 단일 유사도 값을 출력할 수 있다.
최종적으로, 객체의 추적은 유사도 맵에서 가장 높은 값과, 객체후보들로부터 얻어진 유사도 값들을 종합하여 추적 대상이 되는 객체에 할당된 객체의 위치로 추적 대상이 되는 객체가 이동하여 객체를 추적할 수 있다.
여기서, 객체 할당부(1300)는 헝가리안 알고리즘을 적용하여 추적 대상이 되는 객체에 객체 후보를 할당함으로써 객체의 상태를 최신화 할 수 있고, 신경망 학습부(1200)는 추적이 진행되어 오던 추적 궤적을 최신화된 객체의 상태를 반영하여 다시 한번 추적을 진행함으로써 추적 궤적을 개선시킬 수 있다.
도 4는 단일 객체 추적 및 유사도 평가를 동시에 수행하는 방법의 개념도이다.
통상적으로 유사도 평가를 위한 유사도 평가 모듈은 객체 후보와 추적 대상이 되는 객체를 입력으로 받아 유사도를 평가한 결과를 출력한다. 또한, 통상적으로 단일 객체 추적의 결과는 유사도 평가 모듈에서 수행되는 유사도 평가와는 독립적으로 검출되지 않은 객체 후보를 추가해주는 역할을 수행한다.
도 4를 참조하면, 통합 유사도 신경망은 객체 후보와 추적 대상이 되는 객체뿐만 아니라 추적 영역을 입력으로 받음으로써 유사도 평가 과정에서 검출되지 않은 객체에 대해서도 단일 객체 추적을 동시에 수행하여 자연스럽게 후보에 추가할 수 있다.
따라서, 본 발명의 일 실시예에 따른 다중 객체 추적 방법은 추적 영역에 대해 유사도 평가를 진행하여 유사도 맵이 결과 값으로 도출되는 데, 이 중 가장 높은 유사도를 보이는 추적 영역에 해당하는 객체 후보를 추적 대상이 되는 객체에 할당할 수 있다.
도 5는 본 발명의 일 실시예에 따른 다중 객체 추적 방법의 흐름도이다.
도 5를 참조하면, 본 발명의 일 실시예에 따른 다중 객체 추적 방법은, 입력된 영상으로부터 추적 영역을 설정하고, 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출할 수 있다.
여기서, 통합 유사도 신경망은 이전 프레임의 객체 정보와 현재 프레임의 객체 후보를 입력으로 하여 전체 객체 및 후보 간 유사도 평가 결과를 출력할 수 있다. 또한, 통합 유사도 신경망은 객체의 특징을 추출하거나 유사도 평가를 수행할 수 있다.
여기서, 통합 유사도 신경망이 특징을 추출하는 경우, 쌍둥이 네트워크(Siamese Neural Network) 구조를 활용하여 객체 간 유사도를 평가하기에 최적화된 특징을 추출할 수 있다. 또한, 통합 유사도 신경망은 모든 입력에 대해 동일한 결과 값을 공유할 수 있다.
또한, 통합 유사도 신경망이 유사도를 평가하는 경우, 추출된 특징에 대해 합성곱 연산을 추가적으로 수행하여 추적 대상이 되는 객체의 외형을 템플릿으로 변환한 뒤, 추적 대상이 되는 객체, 추적 영역 및 객체 후보에 대해 연관성 연산을 적용하여 유사도를 평가할 수 있다.
또한, 본 발명은 추적 대상이 되는 객체와 추적 영역에 대한 유사도 평가 결과, 객체 후보에 대한 유사도 평가를 모두 종합하여 추적 대상이 되는 객체에 객체 후보를 할당할 수 있다.
여기서, 본 발명은 추적 대상이 되는 객체 및 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성할 수 있다. 또한, 상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘을 적용하여 추적 대상이 되는 객체에 객체 후보를 할당할 수 있다.
또한, 할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적 대상이 되는 객체의 상태를 최신화 할 수 있다.
최종적으로, 본 발명은 추적이 진행되어 오던 추적 궤적을 최신화된 객체의 상태를 반영하여 통합 유사도 신경망에 입력하여 다시 한번 추적을 진행함으로써 추적 궤적을 개선시킬 수 있다.
도 6는 본 발명의 일 실시예에 따른 다중 객체 추적 방법의 동작 순서도이다.
도 6을 참조하면, 본 발명의 일 실시예에 따른 다중 객체 추적 방법은, 통합 유사도 신경망을 포함하는 다중 객체 추적 장치를 활용하여 영상에 포함된 다중 객체를 추적하는 방법으로서, 입력된 영상으로부터 추적 영역을 설정하는 단계(S610)를 포함할 수 있다.
또한, 다중 객체 추적 방법은 상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하는 단계(S620)를 포함할 수 있다.
또한, 다중 객체 추적 방법은 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계(S630)를 포함할 수 있다.
여기서, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계는, 복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 기준 특징을 추출하는 단계를 포함할 수 있다.
또한, 상기 복수의 동일한 신경망은, 합성곱 연산을 수행하는 합성곱 신경망(Convolutional Neural Network; CNN)을 포함할 수 있다.
또한, 상기 합성곱 신경망은, 완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함할 수 있다.
또한, 다중 객체 추적 방법은 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계(S640)를 포함할 수 있다.
여기서, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계는, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가하여 유사도 값을 산출하는 단계를 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계는, 상기 추적 대상이 되는 객체 및 상기 추적 영역 간 유사도를 평가하여 유사도 맵 및 객체의 위상 값을 산출하는 단계를 포함할 수 있다.
또한, 다중 객체 추적 방법은 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계(S650)를 포함할 수 있다.
여기서, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계는, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성하는 단계; 상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 상기 추적 대상이 되는 객체에 객체 후보를 할당하는 단계를 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계는, 유사도 맵에서 추적 대상이 되는 객체와 가장 높은 유사도를 보이는 영역에 해당하는 객체 후보를 상기 추적 대상이 되는 객체에 할당하는 단계를 포함할 수 있다.
또한, 다중 객체 추적 방법은 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계(S660)를 포함할 수 있다.
여기서, 상기 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계는, 할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 객체를 추적하는 단계를 포함할 수 있다.
또한, 본 발명의 일 실시예에 따른 다중 객체 추적 방법은, 추적 결과를 반영하여 변화된 상기 추적 대상이 되는 객체의 위치를 상기 통합 유사도 신경망에 입력하여 학습시키는 단계를 더 포함할 수 있다.
도 7은 본 발명의 다른 실시예에 따른 다중 객체 추적 장치의 블록 구성도이다.
도 7을 참조하면, 본 발명의 일 실시예에 따른 다중 객체 추적 장치(1000)는 프로세서(1010) 및 프로세서를 통해 실행되는 적어도 하나의 명령 및 명령 수행의 결과를 저장하는 메모리(1020) 및 네트워크와 연결되어 통신을 수행하는 송수신 장치(1030)를 포함할 수 있다.
다중 객체 추적 장치(1000)는 또한, 입력 인터페이스 장치(1040), 출력 인터페이스 장치(1050), 저장 장치(1060) 등을 더 포함할 수 있다. 공간 정보 구성 장치(1000)에 포함된 각각의 구성 요소들은 버스(Bus)(1070)에 의해 연결되어 서로 통신을 수행할 수 있다.
프로세서(1010)는 메모리(1020) 및 저장 장치(1060) 중에서 적어도 하나에 저장된 프로그램 명령(program command)을 실행할 수 있다. 프로세서(1010)는 중앙 처리 장치(central processing unit, CPU), 그래픽 처리 장치(graphics processing unit, GPU), 또는 본 발명의 실시예에 따른 방법들이 수행되는 전용의 프로세서를 의미할 수 있다. 메모리(1020) 및 저장 장치(1060) 각각은 휘발성 저장 매체 및 비휘발성 저장 매체 중에서 적어도 하나로 구성될 수 있다. 예를 들어, 메모리(1020)는 읽기 전용 메모리(read only memory, ROM) 및 랜덤 액세스 메모리(random access memory, RAM) 중에서 적어도 하나로 구성될 수 있다.
저장 장치(1060)는 또한, 추적 대상이 되는 객체의 이전 프레임에서의 위치를 저장할 수 있고, 추적 대상이 되는 객체의 추적 궤도를 저장할 수 있다. 또한, 저장 장치는 추적 대상이 되는 객체, 객체 후보 및 추적 영역으로부터 추출된 유사도 평가를 위한 기준 특징을 저장할 수 있고, 유사도 평가 결과를 저장할 수 있다.
여기서, 적어도 하나의 명령은, 입력된 영상으로부터 추적 영역을 설정하도록 하는 명령; 상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하도록 하는 명령; 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하도록 하는 명령; 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령; 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령; 및 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하도록 하는 명령을 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하도록 하는 명령은, 복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 기준 특징을 추출하도록 하는 명령을 포함할 수 있다.
또한, 상기 복수의 동일한 신경망은, 합성곱 연산을 수행하는 합성곱 신경망(Convolutional Neural Network; CNN)을 포함할 수 있다.
또한, 상기 합성곱 신경망은, 완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령은, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가하여 유사도 값을 산출하도록 하는 명령을 포함할 수 있다.
또한, 상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령은, 상기 추적 대상이 되는 객체 및 상기 추적 영역 간 유사도를 평가하여 유사도 맵 및 객체의 위상 값을 산출하도록 하는 명령을 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령은, 상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성하도록 하는 명령; 상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 상기 추적 대상이 되는 객체에 객체 후보를 할당하도록 하는 명령을 포함할 수 있다.
또한, 상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령은, 유사도 맵에서 추적 대상이 되는 객체와 가장 높은 유사도를 보이는 영역에 해당하는 객체 후보를 상기 추적 대상이 되는 객체에 할당하도록 하는 명령을 포함할 수 있다.
또한, 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하도록 하는 명령은, 할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적 대상이 되는 객체를 추적하도록 하는 명령을 포함할 수 있다.
또한, 상기 적어도 하나의 명령은, 추적 결과를 반영하여 변화된 상기 추적 대상이 되는 객체의 위치를 상기 통합 유사도 신경망에 입력하여 학습시키도록 하는 명령을 더 포함할 수 있다.
본 발명의 실시예에 따른 방법의 동작은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 프로그램 또는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산 방식으로 컴퓨터로 읽을 수 있는 프로그램 또는 코드가 저장되고 실행될 수 있다.
또한, 컴퓨터가 읽을 수 있는 기록매체는 롬(rom), 램(ram), 플래시 메모리(flash memory) 등과 같이 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함할 수 있다. 프로그램 명령은 컴파일러(compiler)에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터(interpreter) 등을 사용해서 컴퓨터에 의해 실행될 수 있는 고급 언어 코드를 포함할 수 있다.
본 발명의 일부 측면들은 장치의 문맥에서 설명되었으나, 그것은 상응하는 방법에 따른 설명 또한 나타낼 수 있고, 여기서 블록 또는 장치는 방법 단계 또는 방법 단계의 특징에 상응한다. 유사하게, 방법의 문맥에서 설명된 측면들은 또한 상응하는 블록 또는 아이템 또는 상응하는 장치의 특징으로 나타낼 수 있다. 방법 단계들의 몇몇 또는 전부는 예를 들어, 마이크로프로세서, 프로그램 가능한 컴퓨터 또는 전자 회로와 같은 하드웨어 장치에 의해(또는 이용하여) 수행될 수 있다. 몇몇의 실시예에서, 가장 중요한 방법 단계들의 하나 이상은 이와 같은 장치에 의해 수행될 수 있다.
실시예들에서, 프로그램 가능한 로직 장치(예를 들어, 필드 프로그머블 게이트 어레이)가 여기서 설명된 방법들의 기능의 일부 또는 전부를 수행하기 위해 사용될 수 있다. 실시예들에서, 필드 프로그머블 게이트 어레이는 여기서 설명된 방법들 중 하나를 수행하기 위한 마이크로프로세서와 함께 작동할 수 있다. 일반적으로, 방법들은 어떤 하드웨어 장치에 의해 수행되는 것이 바람직하다.
이상 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.

Claims (20)

  1. 통합 유사도 신경망을 포함하는 다중 객체 추적 장치를 활용하여 영상에 포함된 다중 객체를 추적하는 방법으로서,
    입력된 영상으로부터 추적 영역을 설정하는 단계;
    상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하는 단계;
    추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계;
    상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하고, 상기 추적 대상이 되는 객체 및 상기 추적 영역 간 유사도를 평가하여 유사도 맵 및 객체의 위상 값을 산출하는 단계;
    상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계; 및
    할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계를 포함하는, 다중 객체 추적 방법.
  2. 청구항 1에 있어서,
    상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하는 단계는,
    복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 기준 특징을 추출하는 단계를 포함하는, 다중 객체 추적 방법.
  3. 청구항 2에 있어서,
    상기 복수의 동일한 신경망은,
    합성곱 연산을 수행하는 합성곱 신경망(Convolutional Neural Network; CNN)을 포함하는, 다중 객체 추적 방법.
  4. 청구항 3에 있어서,
    상기 합성곱 신경망은,
    완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함하는, 다중 객체 추적 방법.
  5. 청구항 1에 있어서,
    상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하는 단계는,
    상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가하여 유사도 값을 산출하는 단계를 포함하는, 다중 객체 추적 방법.
  6. 삭제
  7. 청구항 1에 있어서,
    상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계는,
    상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성하는 단계;
    상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 상기 추적 대상이 되는 객체에 객체 후보를 할당하는 단계를 포함하는, 다중 객체 추적 방법.
  8. 청구항 1에 있어서,
    상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하는 단계는,
    유사도 맵에서 추적 대상이 되는 객체와 가장 높은 유사도를 보이는 영역에 해당하는 객체 후보를 상기 추적 대상이 되는 객체에 할당하는 단계를 포함하는, 다중 객체 추적 방법.
  9. 청구항 1에 있어서,
    상기 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 단계는,
    할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적 대상이 되는 객체를 추적하는 단계를 포함하는, 다중 객체 추적 방법.
  10. 청구항 1에 있어서,
    추적 결과를 반영하여 변화된 상기 추적 대상이 되는 객체의 위치를 상기 통합 유사도 신경망에 입력하여 학습시키는 단계를 더 포함하는, 다중 객체 추적 방법.
  11. 프로세서;
    입력된 영상으로부터 추적 대상이 되는 추적 영역을 설정할 수 있고, 추적 영역 내에 존재하는 추적 대상이 되는 객체에 대한 객체 후보를 추출하여 분류하는 객체 후보 추출부;
    이전 프레임의 객체에 대한 정보와 현재 프레임의 객체 후보를 입력으로 받아 전체 객체와 후보 쌍에 대한 유사도 평가 결과를 출력하는 신경망 학습부;
    신경망 학습부에서 추출된 추적 대상이 되는 객체와 추적 영역에 대한 유사도 평가 결과 및 객체 후보에 대한 유사도 평가를 종합하여 추적 대상이 되는 객체에 객체 후보를 할당하는 객체 할당부;
    할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하는 객체 추적부; 및
    상기 프로세서를 통해 실행되는 적어도 하나의 명령을 저장하는 메모리를 포함하고,
    상기 적어도 하나의 명령은,
    입력된 영상으로부터 추적 영역을 설정하도록 하는 명령;
    상기 추적 영역에서 추적 대상이 되는 객체에 대한 객체 후보를 하나 이상 추출하도록 하는 명령;
    추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하도록 하는 명령;
    상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하고, 상기 추적 대상이 되는 객체 및 상기 추적 영역 간 유사도를 평가하여 유사도 맵 및 객체의 위상 값을 산출하도록 하는 명령;
    상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령; 및
    할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하도록 하는 명령을 포함하는, 다중 객체 추적 장치.
  12. 청구항 11에 있어서,
    상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역에 대한 기준 특징을 추출하도록 하는 명령은,
    복수의 동일한 신경망을 포함하는 쌍둥이 네트워크(Siamese Neural Network) 구조에 기반하여 기준 특징을 추출하도록 하는 명령을 포함하는, 다중 객체 추적 장치.
  13. 청구항 12에 있어서,
    상기 복수의 동일한 신경망은,
    합성곱 연산을 수행하는 합성곱 신경망(Convolutional Neural Network; CNN)을 포함하는, 다중 객체 추적 장치.
  14. 청구항 13에 있어서,
    상기 합성곱 신경망은,
    완전 합성곱 네트워크(Fully Convolutional Network) 구조를 포함하는, 다중 객체 추적 장치.
  15. 청구항 11에 있어서,
    상기 추적 대상이 되는 객체, 상기 객체 후보 및 상기 추적 영역 중 두 개를 선정하여 상기 기준 특징을 기초로 유사도를 평가하도록 하는 명령은,
    상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가하여 유사도 값을 산출하도록 하는 명령을 포함하는, 다중 객체 추적 장치.
  16. 삭제
  17. 청구항 11에 있어서,
    상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령은,
    상기 추적 대상이 되는 객체 및 상기 객체 후보 간 유사도를 평가한 유사도 값을 토대로 행렬을 구성하도록 하는 명령;
    상기 행렬에서 유사도 값의 총합이 최대가 되도록 헝가리안 알고리즘(Hungarian Algorithm)을 적용하여 상기 추적 대상이 되는 객체에 객체 후보를 할당하도록 하는 명령을 포함하는, 다중 객체 추적 장치.
  18. 청구항 11에 있어서,
    상기 평가된 유사도에 기반하여 상기 추적 대상이 되는 객체에 상기 객체 후보를 할당하도록 하는 명령은,
    유사도 맵에서 추적 대상이 되는 객체와 가장 높은 유사도를 보이는 영역에 해당하는 객체 후보를 상기 추적 대상이 되는 객체에 할당하도록 하는 명령을 포함하는, 다중 객체 추적 장치.
  19. 청구항 11에 있어서,
    상기 할당된 객체 후보의 위치에 기반하여 추적 대상이 되는 객체를 추적하도록 하는 명령은,
    할당된 객체 후보의 위치에 해당하는 객체의 위상 값을 추적 대상이 되는 객체에 적용하여 추적 대상이 되는 객체를 추적하도록 하는 명령을 포함하는, 다중 객체 추적 장치.
  20. 청구항 11에 있어서,
    추적 결과를 반영하여 변화된 상기 추적 대상이 되는 객체의 위치를 통합 유사도 신경망에 입력하여 학습시키도록 하는 명령을 더 포함하는, 다중 객체 추적 장치.
KR1020190165373A 2019-12-12 2019-12-12 다중 객체 추적 방법 및 장치 KR102311798B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190165373A KR102311798B1 (ko) 2019-12-12 2019-12-12 다중 객체 추적 방법 및 장치
US17/037,399 US11694342B2 (en) 2019-12-12 2020-09-29 Apparatus and method for tracking multiple objects

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190165373A KR102311798B1 (ko) 2019-12-12 2019-12-12 다중 객체 추적 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20210074569A KR20210074569A (ko) 2021-06-22
KR102311798B1 true KR102311798B1 (ko) 2021-10-08

Family

ID=76318164

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190165373A KR102311798B1 (ko) 2019-12-12 2019-12-12 다중 객체 추적 방법 및 장치

Country Status (2)

Country Link
US (1) US11694342B2 (ko)
KR (1) KR102311798B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220020700A (ko) * 2020-08-12 2022-02-21 현대자동차주식회사 객체의 추적 제어 장치 및 그 방법
KR102575689B1 (ko) * 2023-04-05 2023-09-06 (주)에이스엘이디 딥러닝 기반의 객체 선별이 가능한 cctv 보색 영상 처리 장치 및 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190147602A1 (en) 2017-11-13 2019-05-16 Qualcomm Technologies, Inc. Hybrid and self-aware long-term object tracking
US20190228266A1 (en) 2018-01-22 2019-07-25 Qualcomm Incorporated Failure detection for a neural network object tracker

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI557691B (zh) * 2015-09-23 2016-11-11 睿緻科技股份有限公司 監視攝影裝置及其使用的區域式移動偵測方法
GB2566369B (en) * 2016-03-17 2021-08-25 Avigilon Corp System and method for training object classifier by machine learning
JP6573744B2 (ja) * 2017-03-06 2019-09-11 三菱電機株式会社 物体追跡装置及び物体追跡方法
CN108230359B (zh) * 2017-11-12 2021-01-26 北京市商汤科技开发有限公司 目标检测方法和装置、训练方法、电子设备、程序和介质
KR20190110259A (ko) * 2018-03-20 2019-09-30 한국전자통신연구원 객체 추적을 이용한 객체 탐지 장치 및 방법
US10936905B2 (en) * 2018-07-06 2021-03-02 Tata Consultancy Services Limited Method and system for automatic object annotation using deep network
US11010905B2 (en) * 2018-09-07 2021-05-18 Apple Inc. Efficient object detection and tracking
CN109325967B (zh) * 2018-09-14 2023-04-07 腾讯科技（深圳）有限公司 目标跟踪方法、装置、介质以及设备
US10872424B2 (en) * 2018-11-19 2020-12-22 Accenture Global Solutions Limited Object tracking using object attributes
CN109544590B (zh) * 2018-11-27 2020-05-15 上海芯仑光电科技有限公司 一种目标跟踪方法及计算设备
WO2020133330A1 (en) * 2018-12-29 2020-07-02 Zhejiang Dahua Technology Co., Ltd. Systems and methods for video surveillance
CN109816701B (zh) * 2019-01-17 2021-07-27 北京市商汤科技开发有限公司 一种目标跟踪方法及装置、存储介质
US11062460B2 (en) * 2019-02-13 2021-07-13 Adobe Inc. Representation learning using joint semantic vectors
US10825188B1 (en) * 2019-03-08 2020-11-03 Zoox, Inc. Detector-tracker architecture
JP7184161B2 (ja) * 2019-03-27 2022-12-06 日本電気株式会社 物体追跡装置、制御方法、及びプログラム
CN110060274A (zh) * 2019-04-12 2019-07-26 北京影谱科技股份有限公司 基于深度稠密连接的神经网络的视觉目标跟踪方法和装置
US11948312B2 (en) * 2019-04-17 2024-04-02 Nec Corporation Object detection/tracking device, method, and program recording medium
US11094070B2 (en) * 2019-04-23 2021-08-17 Jiangnan University Visual multi-object tracking based on multi-Bernoulli filter with YOLOv3 detection
CN110264493B (zh) * 2019-06-17 2021-06-18 北京影谱科技股份有限公司 一种针对运动状态下的多目标对象追踪方法和装置
CN110533685B (zh) * 2019-08-30 2023-10-24 腾讯科技（深圳）有限公司 对象跟踪方法和装置、存储介质及电子装置
US11227179B2 (en) * 2019-09-27 2022-01-18 Intel Corporation Video tracking with deep Siamese networks and Bayesian optimization
US11763565B2 (en) * 2019-11-08 2023-09-19 Intel Corporation Fine-grain object segmentation in video with deep features and multi-level graphical models
US20220406065A1 (en) * 2019-11-13 2022-12-22 Taehoon KANG Tracking system capable of tracking a movement path of an object
CN111083358A (zh) * 2019-12-05 2020-04-28 浙江大华技术股份有限公司 一种目标抓拍方法、装置及系统
KR20210116953A (ko) * 2020-03-18 2021-09-28 삼성전자주식회사 타겟 트래킹 방법 및 장치
KR20220052765A (ko) * 2020-10-21 2022-04-28 한화디펜스 주식회사 이동 플랫폼에 탑재된 원격무장시스템 및 이의 이동 표적 추적 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190147602A1 (en) 2017-11-13 2019-05-16 Qualcomm Technologies, Inc. Hybrid and self-aware long-term object tracking
US20190228266A1 (en) 2018-01-22 2019-07-25 Qualcomm Incorporated Failure detection for a neural network object tracker

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Jiarui Xu 등, Spatial-Temporal Relation Networks for Multi-Objecting Tracking, arXiv:1904.11489v1.(2019.04.25.)*
Luca Bertinetto 등, Fully-Convolutional Siamese Networks for Object Tracking, arXiv:1606.09549v2.(2016.09.14.)*

Also Published As

Publication number Publication date
US11694342B2 (en) 2023-07-04
KR20210074569A (ko) 2021-06-22
US20210183074A1 (en) 2021-06-17

Similar Documents

Publication Publication Date Title
US11631239B2 (en) Iterative spatio-temporal action detection in video
US10860837B2 (en) Deep multi-task learning framework for face detection, landmark localization, pose estimation, and gender recognition
Yang et al. Sanet: Scene agnostic network for camera localization
US8755568B2 (en) Real time hand tracking, pose classification, and interface control
KR20210040326A (ko) 크로스 모달 처리 방법, 장치, 전자 장치 및 컴퓨터 판독 가능 저장 매체
WO2020078017A1 (zh) 用于识别空中手写的方法、装置、设备以及计算机可读存储介质
US11551027B2 (en) Object detection based on a feature map of a convolutional neural network
KR102311798B1 (ko) 다중 객체 추적 방법 및 장치
CN113033458B (zh) 动作识别方法和装置
CN112801103B (zh) 文本方向识别及文本方向识别模型训练方法、装置
CN114937285B (zh) 动态手势识别方法、装置、设备及存储介质
KR20220073645A (ko) 시공간 자기-주의에 기반한 행동 인식 방법 및 장치
CN114061586A (zh) 用于生成电子设备的导航路径的方法和产品
CN115661254B (zh) 一种多人姿态估计方法及相关装置
Yang et al. Explorations on visual localization from active to passive
KR102399673B1 (ko) 어휘 트리에 기반하여 객체를 인식하는 방법 및 장치
US11410045B2 (en) Method for few-shot learning and apparatus for executing the method
CN112612979A (zh) 基于云计算和人工智能的页面服务处理方法及区块链中心
KR20220048651A (ko) 3차원 의류 객체 생성 시스템 및 그 동작 방법
KR20210079138A (ko) 사용자 동작 인식 시스템 및 그 방법
Vitali et al. Dynamic Network selection for the Object Detection task: why it matters and what we (didn’t) achieve.
US11971955B1 (en) Example-based image annotation
US20200372368A1 (en) Apparatus and method for semi-supervised learning
KR102484375B1 (ko) 색상 및 거리 데이터를 이용한 객체 추종 방법 및 시스템
KR20220077439A (ko) 객체 검색 모델 및 그 학습 방법

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant