KR101991307B1 - 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법 - Google Patents

다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR101991307B1
KR101991307B1 KR1020190039617A KR20190039617A KR101991307B1 KR 101991307 B1 KR101991307 B1 KR 101991307B1 KR 1020190039617 A KR1020190039617 A KR 1020190039617A KR 20190039617 A KR20190039617 A KR 20190039617A KR 101991307 B1 KR101991307 B1 KR 101991307B1
Authority
KR
South Korea
Prior art keywords
tracklet
tracklets
vector
matrix
feature vector
Prior art date
Application number
KR1020190039617A
Other languages
English (en)
Inventor
배승환
Original Assignee
인천대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인천대학교 산학협력단 filed Critical 인천대학교 산학협력단
Priority to KR1020190039617A priority Critical patent/KR101991307B1/ko
Application granted granted Critical
Publication of KR101991307B1 publication Critical patent/KR101991307B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/24—Aligning, centring, orientation detection or correction of the image
    • G06K9/32—
    • G06K9/00711—
    • G06K9/4642—
    • G06K9/481—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/469—Contour-based spatial representations, e.g. vector-coding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30241—Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법이 개시된다. 본 발명은 다중 객체 추적에 있어서 정확한 추적 경로(trajectory)의 생성이 가능하도록 지원하기 위해, 트랙렛(tracklet)에 대한 특징 벡터를 비교적 정확하게 할당할 수 있는 전자 장치 및 그 동작 방법에 대한 것이다.

Description

다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법{ELECTRONIC DEVICE CAPABLE OF FEATURE VECTOR ASSIGNMENT TO A TRACKLET FOR MULTI-OBJECT TRACKING AND OPERATING METHOD THEREOF}
본 발명은 다중 객체 추적에 있어서 정확한 추적 경로(trajectory)의 생성이 가능하도록 지원하기 위해, 트랙렛(tracklet)에 대한 특징 벡터를 비교적 정확하게 할당할 수 있는 전자 장치 및 그 동작 방법에 대한 것이다.
최근, CCTV가 널리 보급되면서, CCTV를 통해 촬영된 영상으로부터 사람과 같은 객체를 추적하는 기술에 대한 관심이 증대되고 있다. 이러한 객체 추적 기술은 자율 주행 차량에서도 활용되고 있는데, 자율 주행 차량에 영상을 촬영할 수 있는 카메라를 탑재한 후 상기 카메라를 통해 촬영된 영상으로부터 다른 차량이나 사람과 같은 객체를 추적하는데에 활용되고 있다.
영상으로부터 객체를 추적하는 과정은 영상을 구성하는 각 프레임으로부터 객체를 검출하고, 짧은 영상 프레임 간의 객체의 이동 경로를 연결함으로써, 객체에 대한 짧은 이동 경로를 나타내는 정보인 트랙렛(tracklet)을 검출한 후 영상의 전체 프레임에서 검출된 트랙렛들을 연결함으로써, 객체에 대한 추적 경로(trajectory)를 생성하는 과정으로 구성된다.
여기서, 트랙렛이란 짧은 구간에서의 객체의 이동 경로를 나타내는 검출 정보를 의미하는 것으로, 짧은 구간의 영상 프레임으로부터 객체들이 검출되면, 각 프레임에서 검출된 객체들을 유사한 객체끼리 연결시킴으로써 검출할 수 있다.
예컨대, 프레임 1, 프레임 2, 프레임 3이 있다고 하고, 프레임 1, 2, 3에서 객체 검출기를 통해 객체 1과 객체 2가 검출되었다고 하는 경우, 트랙렛은 프레임 1, 2, 3에서 소정의 유사도에 기초하여 객체 1은 객체 1끼리 연결시키고, 객체 2는 객체 2끼리 연결시키는 방식으로 검출된다.
이때, 트랙렛을 검출하기 위해 사용되는 객체들 간의 유사도는 각 객체의 해당 영상 프레임에서의 컬러 히스토그램 수치 값 등과 같이 영상 프레임에서의 각 객체의 특징 정보가 활용될 수 있다. 즉, 상기 예에서 객체 1과 객체 2는 프레임이 프레임 1, 2, 3으로 변경되더라도 각 프레임에서의 색상 정보가 거의 유사하게 유지될 것이기 때문에, 프레임 1, 2, 3에서 서로 색상 정보가 유사한 객체들을 연결시키면 객체 1과 객체 2에 대한 트랙렛이 검출될 수 있다.
이렇게, 짧은 영상 프레임 간격으로 트랙렛들이 검출되면, 영상을 구성하는 긴 구간에서 각 트랙렛들을 유사한 트랙렛들끼리 다시 연결함으로써, 객체의 추적 정보가 생성될 수 있다.
이때, 트랙렛들을 서로 연결시키는 것도 각 트랙렛 간의 유사도를 고려해서 가장 유사한 트랙렛들끼리 연결시키는 방식이 사용되며, 트랙렛들 간의 유사도 역시 해당 트랙렛에 대응하는 컬러 히스토그램 수치 값과 같은 색상 정보가 활용될 수 있다.
보통, 영상의 긴 구간에서는 객체가 이동하는 과정에서 다른 장애물에 의해 객체가 영상에서 잠시 가려지는 현상이 발생할 수 있다. 예컨대, A라는 사람이 프레임 1, 2, 3에서는 존재하였는데, 프레임 4, 5에서 B라는 사람에 의해 A가 가려진 후 프레임 6, 7에서 다시 A가 등장하는 경우가 발생할 수 있다.
객체 추적 기술에서는 객체가 중간에 다른 장애물에 의해 가려지는 현상이 발생하는 경우에도 지속적으로 동일 객체로 인식하고 추적을 수행해야 하는 목표가 있다. 즉, 짧은 영상 프레임 간격으로 트랙렛들이 검출된 후 각 트랙렛들을 서로 연결하는 과정에서 중간에 장애물이 발생하더라도 그 다음 프레임 간격에서 검출된 트랙렛들 중 이전 트랙렛에 유사한 특성을 갖는 트랙렛을 잘 매칭시켜 연결을 수행해야 한다.
트랙렛을 검출하는 과정에서도 특정 객체가 장애물에 의해 가려지는 현상이 발생할 수 있지만, 트랙렛은 짧은 영상 프레임 구간에서 검출되는 객체를 연결하는 것이기 때문에, 트랙렛들을 연결해서 추적 경로(trajectory)를 생성하는 과정에 비해 장애물에 의한 검출 불능 문제가 발생할 여지가 거의 없다.
따라서, 소정의 객체 추적 검출기를 통해 영상으로부터 트랙렛들이 검출된 이후 유사한 트랙렛들끼리 정확히 연결해서 객체에 대한 추적 경로를 생성하기 위해서는 유사도 측정에 사용되는 각 트랙렛의 특성을 정확하게 특정해야 한다.
앞서 설명한 바와 같이, 유사한 트랙렛들끼리 연결시키기 위해, 각 트랙렛의 색상 정보를 유사도 측정에 사용할 특성으로 이용할 수 있지만, 영상에 존재하는 노이즈 등에 의해 그 정확성이 떨어질 가능성도 존재한다.
따라서, 객체 추적 검출기를 통해 영상으로부터 트랙렛들이 검출되었을 때, 유사한 트랙렛들끼리 정확히 연결될 수 있도록 하기 위해, 각 트랙렛에 할당될 유사도 측정의 척도가 되는 특성 정보를 적절하게 선정하는 기술에 대한 연구가 필요하다.
본 발명은 다중 객체 추적에 있어서 정확한 추적 경로(trajectory)의 생성이 가능하도록 지원하기 위해, 트랙렛(tracklet)에 대한 특징 벡터를 비교적 정확하게 할당할 수 있는 전자 장치 및 그 동작 방법을 제시하고자 한다.
본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치는 객체 추적 검출기를 통해, 영상을 구성하는 복수의 프레임들 중 t-g+1(t와 g는 자연수로, t는 g보다 크거나 같은 수임)번째 프레임에서 t번째 프레임까지로 구성된 g개 프레임으로부터 복수의 트랙렛(tracklet)들이 검출되면, t번째 프레임에서 확인되는 상기 복수의 트랙렛들 각각에 대한 컬러 히스토그램 수치 값을 기초로 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성하는 특징 벡터 생성부, 상기 복수의 트랙렛들 각각의 특징 벡터 간의 유사도에 기초하여 상기 복수의 트랙렛들이 상기 t번째 프레임에서 서로 구별되는 정도를 표상하는 제1 구별 정확도를 연산하는 제1 구별 정확도 연산부, 상기 제1 구별 정확도가 기설정된(predetermined) 제1 기준치 미만인지 여부를 확인하는 제1 확인부, 상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되면, 상기 복수의 트랙렛들 각각에 대해, 각 트랙렛의 특징 벡터와 상기 객체 추적 검출기를 통해 상기 t번째 프레임에서 검출되는 상기 복수의 트랙렛들 각각에 연관되지 않는 검출 반응에 대한 특징 벡터 간의 유사도를 기초로 제2 구별 정확도 - 상기 제2 구별 정확도는 상기 복수의 트랙렛들 각각이 상기 t번째 프레임에서 상기 검출 반응과 구별되는 정도를 표상하는 수치임 - 를 연산하는 제2 구별 정확도 연산부, 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도가 기설정된 제2 기준치 미만인지 여부를 확인하는 제2 확인부 및 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도 중 제1 트랙렛에 대해 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인된 경우, 상기 g개 프레임 각각에 대해 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 제1 트랙렛에 대한 특징 벡터를 갱신하는 특징 벡터 갱신부를 포함한다.
또한, 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법은 객체 추적 검출기를 통해, 영상을 구성하는 복수의 프레임들 중 t-g+1(t와 g는 자연수로, t는 g보다 크거나 같은 수임)번째 프레임에서 t번째 프레임까지로 구성된 g개 프레임으로부터 복수의 트랙렛들이 검출되면, t번째 프레임에서 확인되는 상기 복수의 트랙렛들 각각에 대한 컬러 히스토그램 수치 값을 기초로 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성하는 단계, 상기 복수의 트랙렛들 각각의 특징 벡터 간의 유사도에 기초하여 상기 복수의 트랙렛들이 상기 t번째 프레임에서 서로 구별되는 정도를 표상하는 제1 구별 정확도를 연산하는 단계, 상기 제1 구별 정확도가 기설정된 제1 기준치 미만인지 여부를 확인하는 단계, 상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되면, 상기 복수의 트랙렛들 각각에 대해, 각 트랙렛의 특징 벡터와 상기 객체 추적 검출기를 통해 상기 t번째 프레임에서 검출되는 상기 복수의 트랙렛들 각각에 연관되지 않는 검출 반응에 대한 특징 벡터 간의 유사도를 기초로 제2 구별 정확도 - 상기 제2 구별 정확도는 상기 복수의 트랙렛들 각각이 상기 t번째 프레임에서 상기 검출 반응과 구별되는 정도를 표상하는 수치임 - 를 연산하는 단계, 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도가 기설정된 제2 기준치 미만인지 여부를 확인하는 단계 및 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도 중 제1 트랙렛에 대해 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인된 경우, 상기 g개 프레임 각각에 대해 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 제1 트랙렛에 대한 특징 벡터를 갱신하는 단계를 포함한다.
본 발명은 영상에서 검출되는 트랙렛(tracklet)에 대한 특징 벡터를 비교적 정확하게 할당할 수 있는 전자 장치 및 그 동작 방법을 제시함으로써, 다중 객체 추적에 있어서 정확한 추적 경로(trajectory)의 생성이 가능하도록 지원할 수 있다.
도 1은 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 구조를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치를 설명하기 위한 도면이다.
도 3은 본 발명의 일실시예에 다른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법을 도시한 순서도이다.
이하에서는 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명하기로 한다. 이러한 설명은 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였으며, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 본 명세서 상에서 사용되는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 사람에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.
본 문서에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다. 또한, 본 발명의 다양한 실시예들에 있어서, 각 구성요소들, 기능 블록들 또는 수단들은 하나 또는 그 이상의 하부 구성요소로 구성될 수 있고, 각 구성요소들이 수행하는 전기, 전자, 기계적 기능들은 전자회로, 집적회로, ASIC(Application Specific Integrated Circuit) 등 공지된 다양한 소자들 또는 기계적 요소들로 구현될 수 있으며, 각각 별개로 구현되거나 2 이상이 하나로 통합되어 구현될 수도 있다.
한편, 첨부된 블록도의 블록들이나 흐름도의 단계들은 범용 컴퓨터, 특수용 컴퓨터, 휴대용 노트북 컴퓨터, 네트워크 컴퓨터 등 데이터 프로세싱이 가능한 장비의 프로세서나 메모리에 탑재되어 지정된 기능들을 수행하는 컴퓨터 프로그램 명령들(instructions)을 의미하는 것으로 해석될 수 있다. 이들 컴퓨터 프로그램 명령들은 컴퓨터 장치에 구비된 메모리 또는 컴퓨터에서 판독 가능한 메모리에 저장될 수 있기 때문에, 블록도의 블록들 또는 흐름도의 단계들에서 설명된 기능들은 이를 수행하는 명령 수단을 내포하는 제조물로 생산될 수도 있다. 아울러, 각 블록 또는 각 단계는 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 명령들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 가능한 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 정해진 순서와 달리 실행되는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 실질적으로 동시에 수행되거나, 역순으로 수행될 수 있으며, 경우에 따라 일부 블록들 또는 단계들이 생략된 채로 수행될 수도 있다.
도 1은 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 구조를 도시한 도면이다.
도 1을 참조하면, 본 발명에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치(110)는 특징 벡터 생성부(111), 제1 구별 정확도 연산부(112), 제1 확인부(113), 제2 구별 정확도 연산부(114), 제2 확인부(115) 및 특징 벡터 갱신부(116)를 포함한다.
특징 벡터 생성부(111)는 객체 추적 검출기를 통해, 영상을 구성하는 복수의 프레임들 중 t-g+1(t와 g는 자연수로, t는 g보다 크거나 같은 수임)번째 프레임에서 t번째 프레임까지로 구성된 g개 프레임으로부터 복수의 트랙렛(tracklet)들이 검출되면, t번째 프레임에서 확인되는 상기 복수의 트랙렛들 각각에 대한 컬러 히스토그램 수치 값을 기초로 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성한다.
이때, 본 발명의 일실시예에 따르면, 특징 벡터 생성부(111)는 상기 복수의 트랙렛들 각각에 대해, 상기 t번째 프레임에서 확인되는 각 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 히스토그램 벡터를 생성하고, 상기 복수의 트랙렛들 각각의 히스토그램 벡터에 대해 기설정된 초기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성할 수 있다.
예컨대, t를 5, g를 2라고 하고, 상기 객체 추적 검출기를 통해 4번째 프레임인 프레임 4에서 5번째 프레임인 프레임 5까지로 구성된 2개의 프레임으로부터 객체 1에 대한 트랙렛 1이 검출되었고, 객체 2에 대한 트랙렛 2가 검출되었다고 가정하면, 특징 벡터 생성부(111)는 상기 프레임 5에서 확인되는 상기 트랙렛 1(객체 1)의 컬러 히스토그램 수치 값을 성분으로 포함하는 히스토그램 벡터 1을 생성할 수 있고, 상기 프레임 5에서 확인되는 상기 트랙렛 2(객체 2)의 컬러 히스토그램 수치 값을 성분으로 포함하는 히스토그램 벡터 2를 생성할 수 있다.
여기서, 상기 트랙렛 1과 상기 트랙렛 2는 각각 상기 객체 1과 상기 객체 2에 대한 2개의 프레임으로부터의 경로 검출 정보를 의미하는 것이기 때문에, 상기 프레임 5에서 확인되는 상기 트랙렛 1과 상기 트랙렛 2의 컬러 히스토그램 수치 값이란 상기 프레임 5에서 확인되는 상기 객체 1과 상기 객체 2의 컬러 히스토그램 수치 값을 의미한다.
만약, 컬러 히스토그램 수치 값의 개수를
Figure 112019034764244-pat00001
라고 하는 경우, 특징 벡터 생성부(111)는
Figure 112019034764244-pat00002
차원을 갖는 상기 히스토그램 벡터 1과 상기 히스토그램 벡터 2를 생성할 수 있다.
이렇게, 상기 히스토그램 벡터 1과 상기 히스토그램 벡터 2가 생성되면, 특징 벡터 생성부(111)는 기설정된 초기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 트랙렛 1에 대한 특징 벡터와 상기 트랙렛 2에 대한 특징 벡터를 생성할 수 있다.
여기서, 상기 초기 가중치 행렬은 상기 트랙렛 1과 상기 트랙렛 2에 대해 각각 서로 다르게 설정되어 있을 수 있다.
만약, 상기 초기 가중치 행렬이
Figure 112019034764244-pat00003
x
Figure 112019034764244-pat00004
(
Figure 112019034764244-pat00005
는
Figure 112019034764244-pat00006
보다 작은 수임)의 크기를 갖는 행렬이라고 하고, i번째 트랙렛에 대한 히스토그램 벡터를
Figure 112019034764244-pat00007
라고 하고, i번째 트랙렛에 대한 초기 가중치 행렬을
Figure 112019034764244-pat00008
라고 하는 경우, 특징 벡터 생성부(111)는
Figure 112019034764244-pat00009
와
Figure 112019034764244-pat00010
에 대해 행렬 곱인
Figure 112019034764244-pat00011
연산을 수행하여
Figure 112019034764244-pat00012
차원을 갖는 특징 벡터
Figure 112019034764244-pat00013
을 생성할 수 있다.
이렇게, 상기 복수의 트랙렛들 각각에 대한 특징 벡터가 생성되면, 제1 구별 정확도 연산부(112)는 상기 복수의 트랙렛들 각각의 특징 벡터 간의 유사도에 기초하여 상기 복수의 트랙렛들이 상기 t번째 프레임에서 서로 구별되는 정도를 표상하는 제1 구별 정확도를 연산한다.
이때, 본 발명의 일실시예에 따르면, 제1 구별 정확도 연산부(112)는 하기의 수학식 1에 기초하여 상기 제1 구별 정확도를 연산할 수 있다.
Figure 112019034764244-pat00014
여기서,
Figure 112019034764244-pat00015
는 상기 제1 구별 정확도,
Figure 112019034764244-pat00016
는 트랙렛의 특징 벡터 간의 코사인 유사도로
Figure 112019034764244-pat00017
은 트랙렛
Figure 112019034764244-pat00018
와 트랙렛
Figure 112019034764244-pat00019
의 특징 벡터 간의 코사인 유사도를 의미하며, n은 상기 복수의 트랙렛들의 개수, i, j는 각 트랙렛을 구분하기 위한 인덱스를 의미한다.
예컨대, 전술한 예시에서 사용한 상기 트랙렛 1과 상기 트랙렛 2의 특징 벡터를 기초로 상기 수학식 1에 기초한 상기 제1 구별 정확도를 연산한다고 하는 경우, 상기 제1 구별 정확도는 상기 프레임 5에서 상기 트랙렛 1과 상기 트랙렛 2가 얼마나 명확하게 구별되는지를 표상하는 척도가 된다. 앞서, 특징 벡터 생성부(111)에 의해 할당된 특징 벡터를 기초로 상기 트랙렛 1과 상기 트랙렛 2에 대한 상기 제1 구별 정확도를 연산한 것이기 때문에, 만약 상기 트랙렛 1과 상기 트랙렛 2에 할당된 특징 벡터가 각 트랙렛의 특징을 비교적 정확하게 반영하고 있다면, 상기 트랙렛 1과 상기 트랙렛 2 간에는 특징 벡터의 유사도가 매우 낮을 것이고, 이로 인해, 상기 트랙렛 1과 상기 트랙렛 2는 상기 프레임 5에서 명확하게 구별되어야 할 것이며, 결국 상기 제1 구별 정확도의 수치는 큰 값을 가지게 될 것이다.
제1 확인부(113)는 상기 제1 구별 정확도가 기설정된(predetermined) 제1 기준치 미만인지 여부를 확인한다.
만약, 상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되면, 제2 구별 정확도 연산부(114)는 상기 복수의 트랙렛들 각각에 대해, 각 트랙렛의 특징 벡터와 상기 객체 추적 검출기를 통해 상기 t번째 프레임에서 검출되는 상기 복수의 트랙렛들 각각에 연관되지 않는 검출 반응에 대한 특징 벡터 간의 유사도를 기초로 제2 구별 정확도(상기 제2 구별 정확도는 상기 복수의 트랙렛들 각각이 상기 t번째 프레임에서 상기 검출 반응과 구별되는 정도를 표상하는 수치임)를 연산한다.
여기서, 상기 검출 반응에 대한 특징 벡터는 상기 복수의 트랙렛들 각각의 특징 벡터와 동일한 방식으로 생성된 특징 벡터로, 각 검출 반응에 대한 상기 t번째 프레임에서 확인되는 컬러 히스토그램 수치 값과 초기 가중치 행렬을 기초로 생성된 벡터를 의미한다.
이때, 본 발명의 일실시예에 따르면, 제2 구별 정확도 연산부(114)는 하기의 수학식 2에 기초하여 상기 제2 구별 정확도를 연산할 수 있다.
Figure 112019034764244-pat00020
여기서,
Figure 112019034764244-pat00021
는 상기 제2 구별 정확도,
Figure 112019034764244-pat00022
은 트랙렛
Figure 112019034764244-pat00023
와 검출 반응
Figure 112019034764244-pat00024
의 특징 벡터 간의 코사인 유사도를 의미하며,
Figure 112019034764244-pat00025
는 검출 반응의 개수, i, j는 각 트랙렛과 검출 반응을 구분하기 위한 인덱스를 의미한다.
제2 확인부(115)는 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도가 기설정된 제2 기준치 미만인지 여부를 확인한다.
특징 벡터 갱신부(116)는 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도 중 제1 트랙렛에 대해 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인된 경우, 상기 g개 프레임 각각에 대해 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 제1 트랙렛에 대한 특징 벡터를 갱신한다. 관련해서, 도 2에는 5개의 프레임이 있다고 하였을 때, 5개의 프레임 각각에서 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역(210)이 생성된 예가 도시되어 있다.
예컨대, 전술한 예시에서 언급한 바와 같이, 제1 구별 정확도 연산부(112)가 상기 트랙렛 1과 상기 트랙렛 2에 대한 상기 제1 구별 정확도를 연산하였다고 가정하자. 만약, 제1 확인부(113)에서 상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되었다고 하는 경우, 상기 트랙렛 1과 상기 트랙렛 2에는 상기 프레임 5에서 서로 잘 구별되지 않도록 특징 벡터가 할당된 상태라고 볼 수 있다.
이 경우, 제2 구별 정확도 연산부(114)는 상기 트랙렛 1과 상기 트랙렛 2 각각에 대해 상기 수학식 2에 따른 제2 구별 정확도를 연산할 수 있다. 관련해서, 제2 구별 정확도 연산부(114)는 상기 트랙렛 1의 특징 벡터와 상기 프레임 5에서 검출되는 상기 트랙렛 1에 연관이 없는 검출 반응들에 대한 특징 벡터를 기초로 상기 트랙렛 1에 대한 상기 제2 구별 정확도를 연산할 수 있고, 상기 트랙렛 2의 특징 벡터와 상기 프레임 5에서 검출되는 상기 트랙렛 2에 연관이 없는 검출 반응들에 대한 특징 벡터를 기초로 상기 트랙렛 2에 대한 상기 제2 구별 정확도를 연산할 수 있다.
상기 트랙렛 1과 상기 트랙렛 2에 대해서 연산된 상기 제2 구별 정확도는 각 트랙렛이 상기 프레임 5에서 불필요한 검출 반응들과 얼마나 잘 구별되는지를 표상하는 척도로, 상기 트랙렛 1과 상기 트랙렛 2에 특징 벡터가 제대로 할당되었다고 하는 경우, 상기 트랙렛 1과 상기 트랙렛 2에 대해서 연산되는 상기 제2 구별 정확도는 높은 값을 가지게 될 것이다.
관련해서, 제2 확인부(115)는 상기 트랙렛 1과 상기 트랙렛 2에 대한 상기 제2 구별 정확도가 제2 기준치 미만인지 여부를 확인할 수 있다. 만약, 상기 트랙렛 1과 상기 트랙렛 2 중 상기 트랙렛 1에 대해서 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인되는 경우, 상기 트랙렛 1에 대해서는 특징 벡터 생성부(111)에서 할당된 특징 벡터에 문제가 있는 것으로 볼 수 있다.
따라서, 특징 벡터 갱신부(116)는 상기 트랙렛 1에 대한 특징 벡터를 다시 할당하기 위해서, 상기 트랙렛 1의 검출에 사용된 상기 프레임 4와 상기 프레임 5 각각에 대해 상기 트랙렛 1이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 각 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 프레임 5에서 확인되는 상기 트랙렛 1에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 트랙렛 1에 대한 특징 벡터를 갱신할 수 있다.
이때, 본 발명의 일실시예에 따르면, 특징 벡터 갱신부(116)는 특징 행렬 생성부(117), 가중치 행렬 생성부(118) 및 갱신 벡터 생성부(119)를 포함할 수 있다.
특징 행렬 생성부(117)는 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 상기 추가 컬러 히스토그램 수치 값이 획득되면, 각 샘플 영역에서 획득된 상기 추가 컬러 히스토그램 수치 값을 성분으로 포함시킨 벡터를 생성함으로써, 각 샘플 영역에 대응하는 추가 컬러 히스토그램 벡터를 생성한 후 각 샘플 영역에 대응하는 상기 추가 컬러 히스토그램 벡터를 부분 행렬로 포함하는 컬러 히스토그램 특징 행렬을 생성한다.
관련해서, g개의 샘플 영역에서 획득된 추가 컬러 히스토그램 수치 값이 각각
Figure 112019034764244-pat00026
개로 이루어져 있다고 하면, 특징 행렬 생성부(117)는 g개의 추가 컬러 히스토그램 벡터를 부분 행렬로 포함시킴으로써,
Figure 112019034764244-pat00027
라고 하는
Figure 112019034764244-pat00028
xg 크기의 상기 컬러 히스토그램 특징 행렬을 생성할 수 있다.
가중치 행렬 생성부(118)는 상기 컬러 히스토그램 특징 행렬을 기초로 부분 최소 제곱법(Partial Least Square: PLS)에 기초한 가중치 벡터의 연산을 복수회 반복수행하여 복수의 가중치 벡터들을 생성하고, 상기 복수의 가중치 벡터들을 부분 행렬로 포함하는 가중치 행렬을 생성한다.
관련해서, 가중치 행렬 생성부(118)는
Figure 112019034764244-pat00029
라고 하는 상기 컬러 히스토그램 특징 행렬을 기초로 NIPALS 알고리즘을 사용하여 상기 수학식 3의 연산에 기초하여 PLS 가중치 벡터
Figure 112019034764244-pat00030
를 생성할 수 있다.
Figure 112019034764244-pat00031
여기서,
Figure 112019034764244-pat00032
,
Figure 112019034764244-pat00033
,
Figure 112019034764244-pat00034
는 각각 g차원 특징 스코어(feature score), 레이블(label), 레이블 스코어 벡터(label score vector)를 의미하며, p는 레이블 로딩 값(label loading value)을 의미한다. 그리고, 상기 가중치 벡터
Figure 112019034764244-pat00035
는
Figure 112019034764244-pat00036
라고 하는 상기 컬러 히스토그램 특징 행렬을 기초로 생성된 행렬이므로,
Figure 112019034764244-pat00037
차원의 벡터가 된다.
이때, 가중치 행렬 생성부(118)는 상기 수학식 3에 기초한 가중치 벡터의 연산을
Figure 112019034764244-pat00038
회 반복수행하여
Figure 112019034764244-pat00039
개의 가중치 벡터들을 생성할 수 있고, 상기
Figure 112019034764244-pat00040
개의 가중치 벡터들을 부분 행렬로 포함시킴으로써,
Figure 112019034764244-pat00041
라고 하는 가중치 행렬을 생성할 수 있다. 여기서, 상기 가중치 행렬 W는
Figure 112019034764244-pat00042
의 전치 행렬이기 때문에 상기 가중치 행렬 W의 크기는
Figure 112019034764244-pat00043
x
Figure 112019034764244-pat00044
(
Figure 112019034764244-pat00045
는
Figure 112019034764244-pat00046
보다 작은 수임)가 된다.
이렇게, 상기 가중치 행렬의 연산이 완료되면, 갱신 벡터 생성부(119)는 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 제1 히스토그램 벡터에 대해 상기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 갱신된 특징 벡터를 생성한다.
이때, 본 발명의 일실시예에 따르면, 갱신 벡터 생성부(119)는 상기 가중치 행렬이 생성되면, 상기 가중치 행렬과 상기 초기 가중치 행렬에 대해 기설정된 밸런싱 가중치를 기초로 한 가중 평균을 연산함으로써, 보정 가중치 행렬을 생성하고, 상기 보정 가중치 행렬이 생성되면, 상기 보정 가중치 행렬을 기초로 상기 제1 히스토그램 벡터에 대해 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 상기 갱신된 특징 벡터를 생성할 수 있다.
관련해서, 상기 제1 트랙렛에 대한 상기 초기 가중치 행렬을
Figure 112019034764244-pat00047
라고 하고, 상기 제1 트랙렛에 대해서 생성된 상기 가중치 행렬을
Figure 112019034764244-pat00048
라고 하며, 상기 기설정된 밸런싱 가중치를
Figure 112019034764244-pat00049
라고 하는 경우, 갱신 백터 생성부(119)는 하기의 수학식 4의 연산에 기초하여 상기 초기 가중치 행렬을
Figure 112019034764244-pat00050
를 갱신함으로써, 상기 보정 가중치 행렬
Figure 112019034764244-pat00051
를 생성할 수 있다.
Figure 112019034764244-pat00052
이때, 상기 제1 트랙렛에 대한 히스토그램 벡터를
Figure 112019034764244-pat00053
라고 하는 경우, 갱신 벡터 생성부(119)는 상기 보정 가중치 행렬
Figure 112019034764244-pat00054
와
Figure 112019034764244-pat00055
에 대해 행렬 곱인
Figure 112019034764244-pat00056
연산을 수행하여 상기 제1 트랙렛에 대한 갱신된 특징 벡터
Figure 112019034764244-pat00057
을 생성할 수 있다.
이때, 상기 보정 가중치 행렬
Figure 112019034764244-pat00058
의 크기는
Figure 112019034764244-pat00059
x
Figure 112019034764244-pat00060
이고, 상기 제1 트랙렛에 대한 히스토그램 벡터
Figure 112019034764244-pat00061
는
Figure 112019034764244-pat00062
차원 벡터이기 때문에 상기 제1 트랙렛에 대한 갱신된 특징 벡터
Figure 112019034764244-pat00063
는
Figure 112019034764244-pat00064
차원으로 벡터 차원이 축소된다.
즉, 전술한 예시에서 상기 트랙렛 1과 상기 트랙렛 2 중 상기 트랙렛 1에 대해 특징 벡터의 갱신을 수행한다고 하는 경우, 특징 벡터 갱신부(116)는 상기 프레임 4와 상기 프레임 5에서 상기 트랙렛 1에 대응하는 샘플 영역으로부터 추가 컬러 히스토그램 수치 값을 획득하고, 상기 추가 컬러 히스토그램 수치 값을 기초로 PLS에 기초한 가중치 벡터의 연산을 복수회 수행해서 소정의 가중치 행렬을 생성한 후 상기 가중치 행렬을 기초로 상기 프레임 5에서 확인되는 상기 트랙렛 1에 대한 컬러 히스토그램 수치 값을 조정함으로써, 상기 트랙렛 1에 대한 특징 벡터를 갱신할 수 있다.
이렇게, 특징 벡터 갱신부(116)에 의해 소정의 트랙렛에 대한 특징 벡터의 갱신이 완료되면, 본 발명에 따른 전자 장치(110)는 제1 구별 정확도 연산부(112), 제1 확인부(113), 제2 구별 정확도 연산부(114), 제2 확인부(115)를 통해 각 트랙렛에 대한 구별 정확도를 다시 연산해 보고, 만약, 구별 정확도가 기준치 미만으로 나오는 트랙렛이 존재하는 경우, 특징 벡터 갱신부(116)를 통해 해당 트랙렛에 대한 특징 벡터를 다시 갱신하는 과정을 반복함으로써, 영상으로부터 검출된 트랙렛들에 대해 정확한 특징 벡터를 할당할 수 있다. 이를 통해, 본 발명은 트랙렛들을 연결해서 추적 경로(trajectory)를 생성하는 과정에서 유사한 특징 벡터를 갖는 트랙렛들끼리 적절하게 매칭될 수 있도록 지원함으로써, 객체 추적의 정확도 향상에 기여할 수 있다.
도 3은 본 발명의 일실시예에 다른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법을 도시한 순서도이다.
단계(S310)에서는 객체 추적 검출기를 통해, 영상을 구성하는 복수의 프레임들 중 t-g+1(t와 g는 자연수로, t는 g보다 크거나 같은 수임)번째 프레임에서 t번째 프레임까지로 구성된 g개 프레임으로부터 복수의 트랙렛들이 검출되면, t번째 프레임에서 확인되는 상기 복수의 트랙렛들 각각에 대한 컬러 히스토그램 수치 값을 기초로 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성한다.
단계(S320)에서는 상기 복수의 트랙렛들 각각의 특징 벡터 간의 유사도에 기초하여 상기 복수의 트랙렛들이 상기 t번째 프레임에서 서로 구별되는 정도를 표상하는 제1 구별 정확도를 연산한다.
단계(S330)에서는 상기 제1 구별 정확도가 기설정된 제1 기준치 미만인지 여부를 확인한다.
단계(S340)에서는 상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되면, 상기 복수의 트랙렛들 각각에 대해, 각 트랙렛의 특징 벡터와 상기 객체 추적 검출기를 통해 상기 t번째 프레임에서 검출되는 상기 복수의 트랙렛들 각각에 연관되지 않는 검출 반응에 대한 특징 벡터 간의 유사도를 기초로 제2 구별 정확도(상기 제2 구별 정확도는 상기 복수의 트랙렛들 각각이 상기 t번째 프레임에서 상기 검출 반응과 구별되는 정도를 표상하는 수치임)를 연산한다.
단계(S350)에서는 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도가 기설정된 제2 기준치 미만인지 여부를 확인한다.
단계(S360)에서는 상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도 중 제1 트랙렛에 대해 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인된 경우, 상기 g개 프레임 각각에 대해 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 제1 트랙렛에 대한 특징 벡터를 갱신한다.
이때, 본 발명의 일실시예에 따르면, 단계(S310)에서는 상기 복수의 트랙렛들 각각에 대해, 상기 t번째 프레임에서 확인되는 각 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 히스토그램 벡터를 생성하고, 상기 복수의 트랙렛들 각각의 히스토그램 벡터에 대해 기설정된 초기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성할 수 있다.
이때, 본 발명의 일실시예에 따르면, 단계(S360)에서는 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 상기 추가 컬러 히스토그램 수치 값이 획득되면, 각 샘플 영역에서 획득된 상기 추가 컬러 히스토그램 수치 값을 성분으로 포함시킨 벡터를 생성함으로써, 각 샘플 영역에 대응하는 추가 컬러 히스토그램 벡터를 생성한 후 각 샘플 영역에 대응하는 상기 추가 컬러 히스토그램 벡터를 부분 행렬로 포함하는 컬러 히스토그램 특징 행렬을 생성하는 단계, 상기 컬러 히스토그램 특징 행렬을 기초로 PLS에 기초한 가중치 벡터의 연산을 복수회 반복수행하여 복수의 가중치 벡터들을 생성하고, 상기 복수의 가중치 벡터들을 부분 행렬로 포함하는 가중치 행렬을 생성하는 단계 및 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 제1 히스토그램 벡터에 대해 상기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 갱신된 특징 벡터를 생성하는 단계를 포함할 수 있다.
이때, 본 발명의 일실시예에 따르면, 상기 갱신된 특징 벡터를 생성하는 단계는 상기 가중치 행렬이 생성되면, 상기 가중치 행렬과 상기 초기 가중치 행렬에 대해 기설정된 밸런싱 가중치를 기초로 한 가중 평균을 연산함으로써, 보정 가중치 행렬을 생성하고, 상기 보정 가중치 행렬이 생성되면, 상기 보정 가중치 행렬을 기초로 상기 제1 히스토그램 벡터에 대해 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 상기 갱신된 특징 벡터를 생성할 수 있다.
또한, 본 발명의 일실시예에 따르면, 단계(S320)에서는 상기 수학식 1에 기초하여 상기 제1 구별 정확도를 연산할 수 있다.
또한, 본 발명의 일실시예에 따르면, 단계(S340)에서는 상기 수학식 2에 기초하여 상기 제2 구별 정확도를 연산할 수 있다.
이상, 도 3을 참조하여 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법에 대해 설명하였다. 여기서, 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법은 도 1과 도 2를 이용하여 설명한 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치(110)의 동작에 대한 구성과 대응될 수 있으므로, 이에 대한 보다 상세한 설명은 생략하기로 한다.
본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법은 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램으로 구현될 수 있다.
또한, 본 발명의 일실시예에 따른 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.
110: 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치
111: 특징 벡터 생성부 112: 제1 구별 정확도 연산부
113: 제1 확인부 114: 제2 구별 정확도 연산부
115: 제2 확인부 116: 특징 벡터 갱신부
117: 특징 행렬 생성부 118: 가중치 행렬 생성부
119: 갱신 벡터 생성부

Claims (14)

  1. 객체 추적 검출기를 통해, 영상을 구성하는 복수의 프레임들 중 t-g+1(t와 g는 자연수로, t는 g보다 크거나 같은 수임)번째 프레임에서 t번째 프레임까지로 구성된 g개 프레임으로부터 복수의 트랙렛(tracklet)들이 검출되면, t번째 프레임에서 확인되는 상기 복수의 트랙렛들 각각에 대한 컬러 히스토그램 수치 값을 기초로 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성하는 특징 벡터 생성부;
    상기 복수의 트랙렛들 각각의 특징 벡터 간의 유사도에 기초하여 상기 복수의 트랙렛들이 상기 t번째 프레임에서 서로 구별되는 정도를 표상하는 제1 구별 정확도를 연산하는 제1 구별 정확도 연산부;
    상기 제1 구별 정확도가 기설정된(predetermined) 제1 기준치 미만인지 여부를 확인하는 제1 확인부;
    상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되면, 상기 복수의 트랙렛들 각각에 대해, 각 트랙렛의 특징 벡터와 상기 객체 추적 검출기를 통해 상기 t번째 프레임에서 검출되는 상기 복수의 트랙렛들 각각에 연관되지 않는 검출 반응에 대한 특징 벡터 간의 유사도를 기초로 제2 구별 정확도 - 상기 제2 구별 정확도는 상기 복수의 트랙렛들 각각이 상기 t번째 프레임에서 상기 검출 반응과 구별되는 정도를 표상하는 수치임 - 를 연산하는 제2 구별 정확도 연산부;
    상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도가 기설정된 제2 기준치 미만인지 여부를 확인하는 제2 확인부; 및
    상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도 중 제1 트랙렛에 대해 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인된 경우, 상기 g개 프레임 각각에 대해 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 제1 트랙렛에 대한 특징 벡터를 갱신하는 특징 벡터 갱신부
    를 포함하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치.
  2. 제1항에 있어서,
    상기 특징 벡터 생성부는
    상기 복수의 트랙렛들 각각에 대해, 상기 t번째 프레임에서 확인되는 각 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 히스토그램 벡터를 생성하고, 상기 복수의 트랙렛들 각각의 히스토그램 벡터에 대해 기설정된 초기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치.
  3. 제2항에 있어서,
    상기 특징 벡터 갱신부는
    상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 상기 추가 컬러 히스토그램 수치 값이 획득되면, 각 샘플 영역에서 획득된 상기 추가 컬러 히스토그램 수치 값을 성분으로 포함시킨 벡터를 생성함으로써, 각 샘플 영역에 대응하는 추가 컬러 히스토그램 벡터를 생성한 후 각 샘플 영역에 대응하는 상기 추가 컬러 히스토그램 벡터를 부분 행렬로 포함하는 컬러 히스토그램 특징 행렬을 생성하는 특징 행렬 생성부;
    상기 컬러 히스토그램 특징 행렬을 기초로 부분 최소 제곱법(Partial Least Square: PLS)에 기초한 가중치 벡터의 연산을 복수회 반복수행하여 복수의 가중치 벡터들을 생성하고, 상기 복수의 가중치 벡터들을 부분 행렬로 포함하는 가중치 행렬을 생성하는 가중치 행렬 생성부; 및
    상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 제1 히스토그램 벡터에 대해 상기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 갱신된 특징 벡터를 생성하는 갱신 벡터 생성부
    를 포함하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치.
  4. 제3항에 있어서,
    상기 갱신 벡터 생성부는
    상기 가중치 행렬이 생성되면, 상기 가중치 행렬과 상기 초기 가중치 행렬에 대해 기설정된 밸런싱 가중치를 기초로 한 가중 평균을 연산함으로써, 보정 가중치 행렬을 생성하고, 상기 보정 가중치 행렬이 생성되면, 상기 보정 가중치 행렬을 기초로 상기 제1 히스토그램 벡터에 대해 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 상기 갱신된 특징 벡터를 생성하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치.
  5. 제1항에 있어서,
    상기 제1 구별 정확도 연산부는
    하기의 수학식 1에 기초하여 상기 제1 구별 정확도를 연산하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치.
    [수학식 1]
    Figure 112019034764244-pat00065

    여기서,
    Figure 112019034764244-pat00066
    는 상기 제1 구별 정확도,
    Figure 112019034764244-pat00067
    는 트랙렛의 특징 벡터 간의 코사인 유사도로
    Figure 112019034764244-pat00068
    은 트랙렛
    Figure 112019034764244-pat00069
    와 트랙렛
    Figure 112019034764244-pat00070
    의 특징 벡터 간의 코사인 유사도를 의미하며, n은 상기 복수의 트랙렛들의 개수, i, j는 각 트랙렛을 구분하기 위한 인덱스를 의미함.
  6. 제1항에 있어서,
    상기 제2 구별 정확도 연산부는
    하기의 수학식 2에 기초하여 상기 제2 구별 정확도를 연산하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치.
    [수학식 2]
    Figure 112019034764244-pat00071

    여기서,
    Figure 112019034764244-pat00072
    는 상기 제2 구별 정확도,
    Figure 112019034764244-pat00073
    은 트랙렛
    Figure 112019034764244-pat00074
    와 검출 반응
    Figure 112019034764244-pat00075
    의 특징 벡터 간의 코사인 유사도를 의미하며,
    Figure 112019034764244-pat00076
    는 검출 반응의 개수, i, j는 각 트랙렛과 검출 반응을 구분하기 위한 인덱스를 의미함.
  7. 객체 추적 검출기를 통해, 영상을 구성하는 복수의 프레임들 중 t-g+1(t와 g는 자연수로, t는 g보다 크거나 같은 수임)번째 프레임에서 t번째 프레임까지로 구성된 g개 프레임으로부터 복수의 트랙렛(tracklet)들이 검출되면, t번째 프레임에서 확인되는 상기 복수의 트랙렛들 각각에 대한 컬러 히스토그램 수치 값을 기초로 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성하는 단계;
    상기 복수의 트랙렛들 각각의 특징 벡터 간의 유사도에 기초하여 상기 복수의 트랙렛들이 상기 t번째 프레임에서 서로 구별되는 정도를 표상하는 제1 구별 정확도를 연산하는 단계;
    상기 제1 구별 정확도가 기설정된(predetermined) 제1 기준치 미만인지 여부를 확인하는 단계;
    상기 제1 구별 정확도가 상기 제1 기준치 미만인 것으로 확인되면, 상기 복수의 트랙렛들 각각에 대해, 각 트랙렛의 특징 벡터와 상기 객체 추적 검출기를 통해 상기 t번째 프레임에서 검출되는 상기 복수의 트랙렛들 각각에 연관되지 않는 검출 반응에 대한 특징 벡터 간의 유사도를 기초로 제2 구별 정확도 - 상기 제2 구별 정확도는 상기 복수의 트랙렛들 각각이 상기 t번째 프레임에서 상기 검출 반응과 구별되는 정도를 표상하는 수치임 - 를 연산하는 단계;
    상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도가 기설정된 제2 기준치 미만인지 여부를 확인하는 단계; 및
    상기 복수의 트랙렛들 각각에 대해 연산된 상기 제2 구별 정확도 중 제1 트랙렛에 대해 연산된 상기 제2 구별 정확도가 상기 제2 기준치 미만인 것으로 확인된 경우, 상기 g개 프레임 각각에 대해 상기 제1 트랙렛이 존재하는 영역에 대응하는 샘플 영역을 생성하고, 상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 추가 컬러 히스토그램 수치 값을 획득한 후 상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값과 상기 추가 컬러 히스토그램 수치 값을 기초로 상기 제1 트랙렛에 대한 특징 벡터를 갱신하는 단계
    를 포함하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법.
  8. 제7항에 있어서,
    상기 특징 벡터를 생성하는 단계는
    상기 복수의 트랙렛들 각각에 대해, 상기 t번째 프레임에서 확인되는 각 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 히스토그램 벡터를 생성하고, 상기 복수의 트랙렛들 각각의 히스토그램 벡터에 대해 기설정된 초기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 복수의 트랙렛들 각각에 대한 특징 벡터를 생성하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법.
  9. 제8항에 있어서,
    상기 특징 벡터를 갱신하는 단계는
    상기 g개의 프레임에서 생성된 샘플 영역 각각에 대한 상기 추가 컬러 히스토그램 수치 값이 획득되면, 각 샘플 영역에서 획득된 상기 추가 컬러 히스토그램 수치 값을 성분으로 포함시킨 벡터를 생성함으로써, 각 샘플 영역에 대응하는 추가 컬러 히스토그램 벡터를 생성한 후 각 샘플 영역에 대응하는 상기 추가 컬러 히스토그램 벡터를 부분 행렬로 포함하는 컬러 히스토그램 특징 행렬을 생성하는 단계;
    상기 컬러 히스토그램 특징 행렬을 기초로 부분 최소 제곱법(Partial Least Square: PLS)에 기초한 가중치 벡터의 연산을 복수회 반복수행하여 복수의 가중치 벡터들을 생성하고, 상기 복수의 가중치 벡터들을 부분 행렬로 포함하는 가중치 행렬을 생성하는 단계; 및
    상기 t번째 프레임에서 확인되는 상기 제1 트랙렛에 대한 컬러 히스토그램 수치 값을 성분으로 포함하는 제1 히스토그램 벡터에 대해 상기 가중치 행렬을 기초로 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 갱신된 특징 벡터를 생성하는 단계
    를 포함하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법.
  10. 제9항에 있어서,
    상기 갱신된 특징 벡터를 생성하는 단계는
    상기 가중치 행렬이 생성되면, 상기 가중치 행렬과 상기 초기 가중치 행렬에 대해 기설정된 밸런싱 가중치를 기초로 한 가중 평균을 연산함으로써, 보정 가중치 행렬을 생성하고, 상기 보정 가중치 행렬이 생성되면, 상기 보정 가중치 행렬을 기초로 상기 제1 히스토그램 벡터에 대해 벡터 차원 축소를 위한 행렬 연산을 수행함으로써, 상기 제1 트랙렛에 대한 상기 갱신된 특징 벡터를 생성하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법.
  11. 제7항에 있어서,
    상기 제1 구별 정확도를 연산하는 단계는
    하기의 수학식 3에 기초하여 상기 제1 구별 정확도를 연산하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법.
    [수학식 3]
    Figure 112019034764244-pat00077

    여기서,
    Figure 112019034764244-pat00078
    는 상기 제1 구별 정확도,
    Figure 112019034764244-pat00079
    는 트랙렛의 특징 벡터 간의 코사인 유사도로
    Figure 112019034764244-pat00080
    은 트랙렛
    Figure 112019034764244-pat00081
    와 트랙렛
    Figure 112019034764244-pat00082
    의 특징 벡터 간의 코사인 유사도를 의미하며, n은 상기 복수의 트랙렛들의 개수, i, j는 각 트랙렛을 구분하기 위한 인덱스를 의미함.
  12. 제7항에 있어서,
    상기 제2 구별 정확도를 연산하는 단계는
    하기의 수학식 4에 기초하여 상기 제2 구별 정확도를 연산하는 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치의 동작 방법.
    [수학식 4]
    Figure 112019034764244-pat00083

    여기서,
    Figure 112019034764244-pat00084
    는 상기 제2 구별 정확도,
    Figure 112019034764244-pat00085
    은 트랙렛
    Figure 112019034764244-pat00086
    와 검출 반응
    Figure 112019034764244-pat00087
    의 특징 벡터 간의 코사인 유사도를 의미하며,
    Figure 112019034764244-pat00088
    는 검출 반응의 개수, i, j는 각 트랙렛과 검출 반응을 구분하기 위한 인덱스를 의미함.
  13. 제7항 내지 제12항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 컴퓨터 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
  14. 제7항 내지 제12항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램.
KR1020190039617A 2019-04-04 2019-04-04 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법 KR101991307B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190039617A KR101991307B1 (ko) 2019-04-04 2019-04-04 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190039617A KR101991307B1 (ko) 2019-04-04 2019-04-04 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법

Publications (1)

Publication Number Publication Date
KR101991307B1 true KR101991307B1 (ko) 2019-06-20

Family

ID=67103486

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190039617A KR101991307B1 (ko) 2019-04-04 2019-04-04 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법

Country Status (1)

Country Link
KR (1) KR101991307B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102176179B1 (ko) * 2019-06-10 2020-11-09 인천대학교 산학협력단 영상에서의 객체 추적을 위한 트랙렛의 특징 벡터 할당을 수행하는 전자 장치 및 그 동작 방법
KR20210050702A (ko) * 2019-10-29 2021-05-10 주식회사 한컴엔플럭스 보안 구역 내에 설치된 복수의 라이더 센서들을 통해 침입을 탐지하는 침입 탐지 장치 및 그 동작 방법
KR20220103572A (ko) * 2021-01-15 2022-07-22 주식회사 비트코퍼레이션 무인 매장에서의 출입 고객을 모니터링하기 위한 무인 매장 출입 고객 모니터링 장치 및 그 동작 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140013407A (ko) * 2012-07-23 2014-02-05 삼성테크윈 주식회사 객체 추적 장치 및 방법
KR101517359B1 (ko) * 2013-12-27 2015-06-05 전남대학교산학협력단 객체 추적 방법 및 이를 이용한 객체 추적 장치
KR20170097265A (ko) * 2016-02-17 2017-08-28 광주과학기술원 다중 이동 객체 추적 시스템 및 이를 이용한 다중 이동 객체 추적 방법
KR101935969B1 (ko) * 2018-09-10 2019-01-07 (주)피플리 히스토그램을 이용한 객체 추적 실패 감지 및 재추적 방법 및 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140013407A (ko) * 2012-07-23 2014-02-05 삼성테크윈 주식회사 객체 추적 장치 및 방법
KR101517359B1 (ko) * 2013-12-27 2015-06-05 전남대학교산학협력단 객체 추적 방법 및 이를 이용한 객체 추적 장치
KR20170097265A (ko) * 2016-02-17 2017-08-28 광주과학기술원 다중 이동 객체 추적 시스템 및 이를 이용한 다중 이동 객체 추적 방법
KR101935969B1 (ko) * 2018-09-10 2019-01-07 (주)피플리 히스토그램을 이용한 객체 추적 실패 감지 및 재추적 방법 및 장치

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
배승환 외 1명, Confidence-Based Data Association and Discriminative Deep Appearance Learning for Robust Online Multi-Object Tracking, IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE(2018년 3월 *
배승환 외 1명, Robust Online Multi-Object Tracking based on Tracklet Confidence and Online Discriminative Appearance Learning, 2014 IEEE Conference on Computer Vision and Pattern Recognition(2014년) *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102176179B1 (ko) * 2019-06-10 2020-11-09 인천대학교 산학협력단 영상에서의 객체 추적을 위한 트랙렛의 특징 벡터 할당을 수행하는 전자 장치 및 그 동작 방법
KR20210050702A (ko) * 2019-10-29 2021-05-10 주식회사 한컴엔플럭스 보안 구역 내에 설치된 복수의 라이더 센서들을 통해 침입을 탐지하는 침입 탐지 장치 및 그 동작 방법
KR102269098B1 (ko) * 2019-10-29 2021-06-24 주식회사 한컴엔플럭스 보안 구역 내에 설치된 복수의 라이더 센서들을 통해 침입을 탐지하는 침입 탐지 장치 및 그 동작 방법
KR20220103572A (ko) * 2021-01-15 2022-07-22 주식회사 비트코퍼레이션 무인 매장에서의 출입 고객을 모니터링하기 위한 무인 매장 출입 고객 모니터링 장치 및 그 동작 방법
KR102511569B1 (ko) * 2021-01-15 2023-03-17 주식회사 비트코퍼레이션 무인 매장에서의 출입 고객을 모니터링하기 위한 무인 매장 출입 고객 모니터링 장치 및 그 동작 방법

Similar Documents

Publication Publication Date Title
JP7208480B2 (ja) 学習プログラム、検出プログラム、学習装置、検出装置、学習方法および検出方法
JP6032921B2 (ja) 物体検出装置及びその方法、プログラム
US9092662B2 (en) Pattern recognition method and pattern recognition apparatus
KR101557376B1 (ko) 사람 계수 방법 및 그를 위한 장치
KR101991307B1 (ko) 다중 객체 추적을 위한 트랙렛의 특징 벡터 할당이 가능한 전자 장치 및 그 동작 방법
JP5459674B2 (ja) 移動物体追跡システムおよび移動物体追跡方法
US8019143B2 (en) Image processing apparatus and computer program product
US20200175377A1 (en) Training apparatus, processing apparatus, neural network, training method, and medium
US11893798B2 (en) Method, system and computer readable medium of deriving crowd information
US20120020523A1 (en) Information creation device for estimating object position and information creation method and program for estimating object position
JP2014093023A (ja) 物体検出装置、物体検出方法及びプログラム
EP3772037A1 (en) Image processing apparatus, method of tracking a target object, and program
US20080175447A1 (en) Face view determining apparatus and method, and face detection apparatus and method employing the same
US11836944B2 (en) Information processing apparatus, information processing method, and storage medium
US11651493B2 (en) Method, system and computer readable medium for integration and automatic switching of crowd estimation techniques
US20230154016A1 (en) Information processing apparatus, information processing method, and storage medium
JP6787075B2 (ja) 画像処理システム、画像処理装置および画像処理方法
JP5241687B2 (ja) 物体検出装置及び物体検出プログラム
KR102176179B1 (ko) 영상에서의 객체 추적을 위한 트랙렛의 특징 벡터 할당을 수행하는 전자 장치 및 그 동작 방법
US20230377188A1 (en) Group specification apparatus, group specification method, and computer-readable recording medium
KR102093208B1 (ko) 화소 분석에 기초한 인물 인식 장치 및 그 동작 방법
JP2005071125A (ja) 被写体検出装置、被写体検出方法、被写体データ選定プログラムおよび被写体位置検出プログラム
CN110349183B (zh) 一种基于kcf的跟踪方法、装置、电子设备及存储介质
US20220301292A1 (en) Target object detection device, target object detection method, and non-transitory computer readable storage medium storing target object detection program
US20240005528A1 (en) Information processing apparatus, learning apparatus, and tracking method

Legal Events

Date Code Title Description
A302 Request for accelerated examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant