KR102458242B1 - 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법 - Google Patents

스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법 Download PDF

Info

Publication number
KR102458242B1
KR102458242B1 KR1020170078174A KR20170078174A KR102458242B1 KR 102458242 B1 KR102458242 B1 KR 102458242B1 KR 1020170078174 A KR1020170078174 A KR 1020170078174A KR 20170078174 A KR20170078174 A KR 20170078174A KR 102458242 B1 KR102458242 B1 KR 102458242B1
Authority
KR
South Korea
Prior art keywords
image pair
image
frame image
processing apparatus
feature
Prior art date
Application number
KR1020170078174A
Other languages
English (en)
Other versions
KR20180015570A (ko
Inventor
밍카이 저우
지화 리우
춘 왕
장현성
허진구
린 마
타오 홍
웨이헹 리우
웨이밍 리
자이란 왕
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US15/668,261 priority Critical patent/US20180041747A1/en
Publication of KR20180015570A publication Critical patent/KR20180015570A/ko
Application granted granted Critical
Publication of KR102458242B1 publication Critical patent/KR102458242B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85—Stereo camera calibration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/292—Multi-camera tracking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G06T7/593—Depth or shape recovery from multiple images from stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/246—Calibration of cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30236—Traffic on road, railway or crossing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)

Abstract

이미지 페어 처리 장치는 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지에서 피사체가 포함된 타겟 영역을 생성한 다음, 생성된 타겟 영역에서 하나 이상의 특징 포인트를 추출할 수 있다. 이미지 페어 처리 장치는 특징 포인트들의 공간 거리에 기초하여 특징 포인트들을 연결할 수 있다. 이미지 페어 처리 장치가 특징 포인트들을 연결하여 특징 포인트를 노드로 하는 트리를 생성할 수 있다. 이미지 페어 처리 장치는 복수의 프레임 이미지에 대하여, 노드에 대응하는 특징 포인트를 매칭할 때의 비용을 결정할 수 있다. 이미지 페어 처리 장치는 트리의 가지를 따라 노드 별로 결정된 비용을 누적할 수 있다. 이미지 페어 처리 장치는 비용을 누적한 결과에 기초하여, 특징 포인트의 시차를 결정할 수 있다. 결정된 시차는 피사체 및 이미지 페어를 촬영한 스테레오 카메라 간의 거리를 결정하는데 사용될 수 있다. 더 나아가서, 이미지 페어 처리 장치는 시간을 따라 순차적으로 촬영된 복수의 이미지 페어에 공통으로 포함된 피사체의 위치를 추적할 수 있다.

Description

스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법{APPARATUS AND METHOD FOR PROCESSING IMAGE PAIR OBTAINED FROM A STEREO CAMERA}
이하의 실시예들은 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법에 관한 것이다.
사람의 시각은 주위 환경의 정보를 얻기 위한 감각의 하나로서, 양안을 통해 사물의 위치와 멀고 가까움을 인지할 수 있다. 사람의 뇌는 양안을 통해 들어오는 시각 정보들로부터 하나의 거리정보로 합성함으로써, 보이는 물체의 거리를 결정할 수 있다. 스테레오 카메라 시스템은 상술한 사람의 시각 기능을 기계로 구현한 시스템이다. 스테레오 카메라 시스템은 두 개의 카메라를 이용하여 얻은 이미지 페어에 스테레오 매칭(stereo matching)을 수행할 수 있다. 스테레오 카메라 시스템은 스테레오 매칭을 통해 촬영된 이미지에 포함된 피사체의 양안 시차(Binocular parallax)를 결정하고, 이미지의 모든 픽셀 또는 피사체에 대한 양안 시차 맵을 결정할 수 있다.
일실시예에 따르면, 피사체를 촬영한 스테레오 카메라로부터 획득된 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지 각각에서, 상기 피사체가 포함된 타겟 영역을 생성하는 단계, 상기 타겟 영역내의 특징 포인트를 추출하는 단계, 상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하여, 상기 특징 포인트의 시차를 계산하는 단계 및 상기 특징 포인트의 시차에 기초하여, 상기 피사체 및 상기 스테레오 카메라 간의 거리를 결정하는 단계를 포함하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 계산하는 단계는, 상기 제1 프레임 이미지의 특징 포인트들 간의 수평 거리, 수직 거리 또는 유클리디언 거리에 기초하여 상기 제1 프레임 이미지의 특징 포인트들을 연결하여, 상기 제1 프레임 이미지의 특징 포인트들을 노드로 하는 제1 트리를 생성하는 단계, 상기 제2 프레임 이미지의 특징 포인트들 간의 수평 거리, 수직 거리 또는 유클리디언 거리에 기초하여 상기 제2 프레임 이미지의 특징 포인트들을 연결하여, 상기 제2 프레임 이미지의 특징 포인트들을 노드로 하는 제2 트리를 생성하는 단계 및 상기 제1 프레임 이미지의 특징 포인트 및 상기 제2 프레임 이미지의 특징 포인트의 시차를 계산하기 위하여, 상기 제1 트리의 노드들 및 상기 제2 트리의 노드들을 매칭하는 단계를 포함하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 매칭하는 단계는, 상기 제1 트리의 노드들 및 상기 제2 트리의 노드들을 매칭할 때의 비용을 상기 제1 트리의 노드들의 가지를 따라 누적하는 단계 및 상기 누적된 비용에 기초하여 상기 제1 프레임 이미지의 특징 포인트 및 상기 제2 프레임 이미지의 특징 포인트의 시차를 결정하는 단계를 포함하고, 상기 비용은, 매칭의 대상이 되는 상기 제1 트리의 노드 및 상기 제2 트리의 노드의 휘도 및 시차에 기초하여 결정되는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 제1 프레임 이미지의 타겟 영역 및 상기 타겟 영역의 위치에 따라 결정되는 제2 프레임 이미지의 대응 영역간의 휘도 차이에 기초하여, 상기 피사체와 관련된 시차 범위를 결정하는 단계를 더 포함하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 특징 포인트의 시차를 계산하는 단계는, 상기 결정된 시차 범위내에서 상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 시차 범위를 결정하는 단계는, 상기 제2 프레임 이미지의 대응 영역을 평행 이동하는 단계 및 상기 평행 이동된 상기 대응 영역 및 상기 제1 프레임 이미지의 타겟 영역의 휘도를 비교하는 단계를 포함하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 타겟 영역의 특징 값을 추출하는 단계, 상기 추출된 특징 값에 기초하여, 상기 이미지 페어의 특징값 평면을 생성하는 단계, 상기 이미지 페어 이전에 획득된 이미지 페어의 특징값 평면으로부터 생성된 특징값 평면 모델과 상기 특징값 평면을 비교하는 단계 및 상기 특징값 평면 모델과 상기 특징값 평면을 비교한 결과에 기초하여, 상기 이미지 페어에서 상기 피사체의 위치를 결정하는 단계를 더 포함하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 상기 결정된 피사체의 위치에 기초하여 상기 특징값 평면 모델을 변경하는 단계를 더 포함하는 이미지 페어 처리 방법이 제공된다.
일실시예에 따르면, 피사체를 촬영한 이미지 페어가 저장되는 메모리 및 상기 이미지 페어를 처리하는 프로세서를 포함하고, 상기 프로세서는, 상기 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지 각각에서, 상기 피사체가 포함된 타겟 영역을 생성하고, 상기 타겟 영역내의 특징 포인트를 추출하고, 상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하여, 상기 특징 포인트의 시차를 계산하고, 상기 특징 포인트의 시차에 기초하여, 상기 피사체 및 상기 스테레오 카메라 간의 거리를 결정하는 이미지 페어 처리 장치가 제공된다.
일실시예에 따르면, 상기 프로세서는, 상기 제1 프레임 이미지의 특징 포인트들을 노드로 하는 제1 트리 및 상기 제2 프레임 이미지의 특징 포인트들을 노드로 하는 제2 트리를 매칭할 때의 비용에 기초하여, 상기 제1 프레임 이미지의 특징 포인트 및 상기 제2 프레임 이미지의 특징 포인트의 시차를 계산하는 이미지 페어 처리 장치가 제공된다.
일실시예에 따르면, 상기 프로세서는, 상기 제1 트리의 노드에 대응하는 특징 포인트 및 상기 제2 트리의 노드에 대응하는 특징 포인트의 휘도 및 시차에 기초하여 결정된 유사도를 이용하여 상기 비용을 결정하는 이미지 페어 처리 장치가 제공된다.
일실시예에 따르면, 상기 제1 트리 및 상기 제2 트리 각각은, 공간 거리가 가장 작은 상기 제1 프레임 이미지의 특징 포인트들 및 공간 거리가 가장 작은 상기 제2 프레임 이미지의 특징 포인트들을 연결하여 생성되는 이미지 페어 처리 장치가 제공된다.
일실시예에 따르면, 상기 프로세서는, 상기 제1 프레임 이미지의 타겟 영역 및 상기 타겟 영역의 위치에 따라 결정되는 제2 프레임 이미지의 대응 영역간의 휘도 차이에 기초하여, 상기 피사체와 관련된 시차 범위를 결정하는 이미지 페어 처리 장치가 제공된다.
일실시예에 따르면, 상기 프로세서는, 상기 결정된 시차 범위내에서 상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하는 이미지 페어 처리 장치가 제공된다.
일실시예에 따르면, 상기 프로세서는, 상기 타겟 영역의 특징 값을 추출하고, 상기 추출된 특징 값에 기초하여, 상기 이미지 페어의 특징 값 평면을 생성하고, 상기 이미지 페어 이전에 획득된 이미지 페어의 특징 값 평면으로부터 생성된 특징 값 평면 모델과 상기 특징 값 평면을 비교하고, 상기 특징 값 평면 모델과 상기 특징 값 평면을 비교한 결과에 기초하여, 상기 이미지 페어에서 상기 피사체의 위치를 결정하는 이미지 페어 처리 장치가 제공된다.
도 1은 일실시예에 따른 이미지 페어 처리 장치의 구조를 설명하기 위한 개념적인 도면이다.
도 2는 일실시예에 따른 이미지 페어 처리 장치가 프레임 이미지에서 타겟 영역을 생성하고, 생성된 타겟 영역을 이용하여 피사체의 시차 범위를 결정하는 동작을 설명하기 위한 예시적인 도면이다.
도 3은 일실시예에 따른 이미지 페어 처리 장치가 도 2의 예시로부터 계산한 휘도 차이를 도시한 그래프이다.
도 4는 일실시예에 따른 이미지 페어 처리 장치가 타겟 영역 내의 특징 포인트를 결정하는 동작을 설명하기 위한 예시적인 도면이다.
도 5는 일실시예에 따른 이미지 페어 처리 장치가 최소 트리를 생성하는 동작을 설명하기 위한 예시적인 도면이다.
도 6은 AD, census, AD+census에 대한 비교 실험 결과를 도시한 도면이다.
도 7은 일실시예에 따른 이미지 페어 처리 장치가 이미지 페어에 포함된 피사체 및 스테레오 카메라간의 거리를 결정하는 동작을 설명하기 위한 도면이다.
도 8은 일실시예에 따른 이미지 페어 처리 장치가 복수의 이미지 페어에 공통적으로 포함된 피사체의 위치를 추적하는 동작을 설명하기 위한 흐름도이다.
도 9는 일실시예에 따른 이미지 페어 처리 장치가 특징값 평면을 특징값 평면 모델로 피팅하여 계산한 응답값의 분포를 도시한 그래프이다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 실시예들은 특정한 개시형태로 한정되는 것이 아니며, 본 명세서의 범위는 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일실시예에 따른 이미지 페어 처리 장치의 구조를 설명하기 위한 개념적인 도면이다. 일실시예에 따른 이미지 페어 처리 장치는 차량, 로봇, 스마트 착용 장비, 컴퓨터 단말 또는 이동 단말에 적용될 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 이미지 페어를 수신하기 위하여 서로 다른 각도에서 피사체를 촬영하는 스테레오 카메라(101)를 포함할 수 있다. 다른 실시예에 따르면, 이미지 페어 처리 장치는 스테레오 카메라(101)와 유선 네트워크 또는 무선 네트워크를 통해 연결될 수 있고, 스테레오 카메라(101)가 획득한 이미지 페어를 수신하여 저장할 수 있다.
스테레오 카메라(101)는 동일한 피사체를 촬영하는 복수의 이미지 센서를 포함할 수 있다. 두 개의 이미지 센서는 일정한 거리만큼 이격되어 배치될 수 있다. 이미지 센서들 각각은 피사체를 촬영하여 프레임 이미지를 생성할 수 있고, 스테레오 카메라(101)는 피사체를 촬영한 시간에 따라 프레임 이미지들의 페어(이미지 페어)를 출력할 수 있다. 이하에서는, 스테레오 카메라(101)가 사람의 두 눈과 유사하게 서로 다른 각도에서 피사체를 촬영하는 제1 이미지 센서 및 제2 이미지 센서를 포함하는 것으로 가정한다. 제1 이미지 센서 및 제2 이미지 센서들 각각은 피사체를 촬영하여 제1 프레임 이미지 및 제2 프레임 이미지를 출력할 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지 각각에서, 피사체가 포함된 타겟 영역을 생성하는 타겟 영역 생성기(102)를 포함할 수 있다. 타겟 영역 생성기(102)는 제1 프레임 이미지에서 피사체가 포함된 일부분을 포함하는 제1 프레임 이미지의 타겟 영역을 생성할 수 있다. 유사하게, 타겟 영역 생성기(102)는 제2 프레임 이미지에서 피사체가 포함된 일부분을 포함하는 제2 프레임 이미지의 타겟 영역을 생성할 수 있다. 타겟 영역의 형태는 다각형 또는 원형일 수 있으며, 피사체의 형태를 고려하여 결정될 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 타겟 영역내의 특징 포인트를 추출하는 특징 포인트 추출기(103)를 포함할 수 있다. 특징 포인트 추출기(103)는 이미지 페어의 모든 프레임 이미지에 대하여 특징 포인트를 추출할 수 있다. 특징 포인트는 복수의 프레임 이미지의 매칭을 용이하게 만드는 타겟 영역내의 픽셀로 선택될 수 있다. 복수의 프레임 이미지의 매칭은 복수의 프레임 이미지에 공통된 픽셀, 피사체, 배경을 식별하도록 복수의 프레임 이미지를 처리하는 동작을 의미한다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 복수의 프레임 이미지들 각각의 특징 포인트들을 연결하는 특징 포인트 연결기(107)를 포함할 수 있다. 특징 포인트 연결기(107)는 특징 포인트 사이의 공간 거리에 기초하여 특징 포인트를 연결할 수 있다. 특징 포인트 연결기(107)는 복수의 프레임 이미지들 각각의 타겟 영역에서 특징 포인트들을 연결하여 연결 그래프를 생성할 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 복수의 프레임 이미지들의 특징 포인트를 매칭할 때의 비용을 측정하는 매칭 비용 측정기(104)를 포함할 수 있다. 매칭 비용 측정기(104)는 특징 포인트 연결기(107)에 의해 생성된 연결 그래프를 이용하여 특징 포인트를 매칭할 때의 비용을 측정할 수 있다. 매칭 비용 측정기(104)는 연결 그래프에 기초하여, 특징 포인트들 각각에서 측정된 비용을 누적할 수 있다.
보다 구체적으로, 도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 연결 그래프로부터 최소 트리를 생성하는 최소 트리 생성기(108)를 포함할 수 있다. 최소 트리는 복수의 프레임 이미지들의 타겟 영역 각각에 대하여 생성될 수 있으며, 타겟 영역 내의 모든 특징 포인트들을 최소 트리의 노드로써 포함할 수 있다. 최소 트리의 예로 최소 비용 생성 트리(minimum cost spanning tree)가 있다. 매칭 비용 측정기(104)는 최소 트리 생성기(108)에 의해 생성된 최소 트리에 기초하여, 특징 포인트들 각각에서 측정된 비용을 누적할 수 있다. 보다 구체적으로, 매칭 비용 측정기(104)는 모든 특징 포인트를 노드로 하는 최소 트리에서, 각 노드에 대응하는 특징 포인트를 매칭할 때의 비용을 결정한 다음, 노드의 가지를 따라 결정된 비용을 누적할 수 있다. 즉, 매칭 비용 측정기(104)가 최소 트리를 따라 비용을 누적함으로써, 특징 포인트 연결기(107)에 의해 생성된 연결 그래프보다 가지가 감소된 최소 트리가 사용될 수 있다. 따라서, 비용을 누적할 때 필요한 계산량이 줄어들 수 있다.
매칭 비용 측정기(104)가 특징 포인트를 매칭할 때의 비용을 측정하는 과정에서, 피사체의 시차 범위가 활용될 수 있다. 도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 복수의 프레임 이미지의 타겟 영역들의 휘도 차이에 기초하여, 피사체와 관련된 시차 범위를 결정하는 시차 범위 결정기(109)를 포함할 수 있다. 시차 범위 결정기(109)는 이미지 페어의 특정 프레임 이미지의 타겟 영역에 대하여, 다른 프레임 이미지에서 특정 프레임 이미지의 타겟 영역과 동일한 높이, 형태 및 크기를 가지는 대응 영역을 식별한 다음, 특정 프레임 이미지의 타겟 영역과 다른 프레임 이미지의 대응 영역의 휘도의 차이값을 결정할 수 있다. 시차 범위 결정기(109)는 최소의 휘도 차이값에 기초하여 피사체의 시차 범위를 결정할 수 있다. 매칭 비용 측정기(104)는 결정된 시차 범위에 기초하여 특징 포인트들을 매칭할 수 있다. 따라서, 특징 포인트를 매칭할 때의 비용을 측정하는 속도가 향상될 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 누적된 비용에 기초하여 특징 포인트의 시차를 계산하는 특징 포인트 시차 계산기(105)를 포함할 수 있다. 특징 포인트 시차 계산기(105)는 누적된 비용을 최소로 하는 시차를 특징 포인트의 시차로 결정할 수 있다. 특징 포인트 시차 계산기(105)는 타겟 영역 내의 모든 특징 포인트들의 시차를 결정할 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 타겟 영역 내의 특징 포인트들 각각의 시차에 기초하여, 피사체 및 스테레오 카메라(101) 간의 거리를 결정하는 피사체 거리 결정기(106)를 포함할 수 있다. 피사체 거리 결정기(106)는 결정된 피사체 및 스테레오 카메라(101) 간의 거리에 기초하여, 알람 처리 또는 조작적 처리(operational treatment)를 수행할 수 있다.
도 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치는 시간을 따라 순차적으로 획득된 복수의 이미지 페어에서 피사체의 위치를 추적하는 피사체 추적기(110)를 포함할 수 있다. 스테레오 카메라(101)로부터 새롭게 획득된 이미지 페어가 입력될 때마다, 피사체 추적기(110)는 과거에 입력된 이미지 페어에서 피사체를 추적한 결과에 기초하여 새롭게 획득된 이미지 페어의 피사체의 위치를 결정할 수 있다.
도 1에 도시된 이미지 페어 처리 장치의 구조는 개념적인 것으로, 도시된 타겟 영역 생성기(102), 특징 포인트 추출기(103), 매칭 비용 측정기(104), 특징 포인트 시차 계산기(105), 피사체 거리 결정기(106), 특징 포인트 연결기(107), 최소 트리 생성기(108), 시차 범위 결정기 및 피사체 추적기(110)는 하나 이상의 싱글-코어 프로세서 또는 멀티-코어 프로세서로 구현될 수 있다. 도시된 타겟 영역 생성기(102) 내지 피사체 추적기(110)는 하나 이상의 프로세서 및 메모리의 조합으로 구현될 수 있다.
도 2는 일실시예에 따른 이미지 페어 처리 장치가 프레임 이미지에서 타겟 영역(210)을 생성하고, 생성된 타겟 영역(210)을 이용하여 피사체의 시차 범위를 결정하는 동작을 설명하기 위한 예시적인 도면이다.
시차는 수평 방향으로 일정한 거리만큼 이격된 두 개의 이미지 센서에서 동일한 피사체를 촬영하여 생성된 두 개의 프레임 이미지에서, 두 개의 프레임 이미지 각각에 포함된 피사체의 이미지의 수평 좌표의 차이를 의미한다. 도 1의 스테레오 카메라(101)로부터 획득된 이미지 페어에서, 시차는 제1 프레임 이미지 및 제2 프레임 이미지 각각에 포함된 피사체의 위치의 차이를 의미한다.
이미지 페어가 동일한 피사체를 촬영하여 획득된 프레임 이미지의 페어이므로, 제1 프레임 이미지의 피사체 이미지를 픽셀 단위로 평행이동하는 경우, 제1 프레임 이미지의 평행이동된 피사체 이미지는 제2 프레임 이미지의 피사체 이미지와 중첩될 수 있다. 도 2를 참고하면, 이미지 페어 처리 장치는 피사체(도 2의 경우, 자동차)보다 약간 넓은 타겟 영역(210)을 단위로 평행이동을 수행할 수 있다.
이하에서는 이미지 페어 처리 장치가 제1 프레임 이미지(예를 들어, 스테레오 카메라 중에서 좌측 카메라로부터 획득된 좌측 영상)로부터 타겟 영역(210)을 생성한 것으로 가정한다. 이미지 페어 처리 장치는 제1 프레임 이미지의 타겟 영역(210)의 제1 프레임 이미지상의 좌표에 기초하여, 타겟 영역(210)에 대응하는 제2 프레임 이미지(220)(예를 들어, 스테레오 카메라 중에서 우측 카메라로부터 획득된 우측 영상)의 영역(이하 타겟 영역(210)의 대응 영역이라 한다)을 결정할 수 있다.
이미지 페어 처리 장치는 대응 영역을 타겟 영역(210)의 좌표에 기초하여 평행이동하여, 복수 개의 대응 영역을 생성할 수 있다. 예를 들어, 이미지 페어 처리 장치는 타겟 영역(210)과 동일한 좌표 및 크기를 가지는 제2 프레임 이미지(220)의 영역을 수평 방향(예를 들어, x축의 양의 방향)으로 k 픽셀만큼 평행이동하여, 대응 영역 k를 생성할 수 있다. 따라서, 타겟 영역(210) 및 대응 영역 k의 좌표는 k 개 픽셀만큼 다를 수 있다. 타겟 영역(210)이 피사체를 포함하는 영역으로 설정되므로, 복수 개의 대응 영역이 피사체를 포함할 수 있다.
이미지 페어 처리 장치는 생성된 복수의 대응 영역 및 타겟 영역(210)의 휘도 차이에 기초하여, 피사체와 관련된 시차 범위를 결정할 수 있다. 상기 휘도 차이를 최소로 하는 대응 영역의 위치 및 타겟 영역(210)의 위치의 차이가 피사체의 시차일 수 있다. 시차 범위는 휘도 차이를 최소로 하는 대응 영역 및 타겟 영역(210)의 시차를 포함할 수 있다. 예를 들어, 대응 영역 α 및 타겟 영역(210)의 휘도 차이가 최소인 경우, 시차 범위는 대응 영역 α이 타겟 영역(210)의 위치를 기준으로 평행 이동한 정도인 α를 포함할 수 있다.
도 2를 참고하면, 이미지 페어 처리 장치는 제2 프레임 이미지(220)의 대응 영역을 스윕 라인(sweep line)(230, 240)을 따라 평행이동할 수 있다. 스윕 라인(230, 240)은 제2 프레임 이미지(220)의 수평 축 또는 x 축에 평행한 선으로 결정될 수 있다. 스윕 라인(230, 240)의 수직 좌표 또는 y 좌표는 타겟 영역(210)의 제1 프레임 이미지상의 수직 좌표 또는 y 좌표에 기초하여 결정될 수 있다. 이미지 페어 처리 장치는 대응 영역을 스윕 라인(230, 240)을 따라 평행이동하는 정도를 0 픽셀부터 제2 프레임 이미지(220)의 수평 길이 이하까지 조절할 수 있다. 예를 들어, 이미지 페어 처리 장치는 0 픽셀부터 100 픽셀까지 대응 영역을 스윕 라인(230, 240)을 따라 평행이동하여 101 개의 대응 영역을 생성할 수 있다. 또는, 이미지 페어 처리 장치는 0 픽셀부터 256 픽셀까지 대응 영역을 스윕 라인(230, 240)을 따라 평행이동하여 257 개의 대응 영역을 생성할 수 있다.
대응 영역이 타겟 영역(210)의 위치를 중심으로 픽셀 단위 만큼 평행이동 할 때에, 시차 범위는 대응 영역이 이동할 수 있는 픽셀의 구간으로 결정될 수 있다. 예를 들어, 도 2를 참고하면, 시차 범위 [0, 100]는 대응 영역이 타겟 영역(210)의 위치를 기준으로 스윕 라인(230, 240)을 따라 0 픽셀 내지 100 픽셀까지 이동할 수 있음을 의미한다. 일실시예에 따른 이미지 페어 처리 장치는 시차 범위 [0, 100] 내의 복수의 대응 영역 각각에 대하여, 타겟 영역(210)과의 휘도 차이를 결정할 수 있다.
도 3은 일실시예에 따른 이미지 페어 처리 장치가 도 2의 예시로부터 계산한 휘도 차이를 도시한 그래프(300)이다. 도 3을 참고하면, 가로축은 시차, 즉, 대응 영역이 타겟 영역의 위치를 기준으로 평행이동한 정도를 픽셀 단위로 나타낸 것이다. 세로 축은 제2 프레임 이미지의 대응 영역 및 제1 프레임 이미지의 타겟 영역간의 휘도 차이를 나타낸 것이다. 그래프(300)의 곡선의 형태는 개구가 위로 향한 포물선일 수 있다. 이미지 페어 처리 장치는 휘도 차이가 최소가 되는 시차인 Dopt를 식별할 수 있다. Dopt만큼 평행 이동된 대응 영역 Dopt에 포함되는 제2 프레임 이미지의 일부분은 나머지 대응 영역의 그것보다 타겟 영역과 가장 매칭될 수 있다.
이미지 페어 처리 장치는 수학식 1 및 수학식 2에 기초하여 Dopt를 포함하는 시차 범위 [minD, maxD]를 계산할 수 있다.
Figure 112017059280073-pat00001
Figure 112017059280073-pat00002
수학식 1 및 수학식 2에서, &&는 AND 조건 연산자를 의미하며, max_disparity는 이미지 페어 처리 장치가 대응 영역을 최대로 평행 이동한 정도를 의미한다. difference(d)는 대응 영역 d 및 타겟 영역 간의 휘도 차이를 의미한다. 수학식 1 및 수학식 2는 예시적인 수학식으로, 휘도 차이에 적용되는 계수 또는 임계치는 다른 값으로 설정될 수 있다. 일실시예에 따른 이미지 페어 처리 장치는 샘플링을 이용하여 대응 영역 및 타겟 영역 간의 휘도 차이를 결정할 수 있다.
도 3을 참고하면, 이미지 페어 처리 장치가 최종적으로 계산하는 시차 범위 [minD, maxD]는 이미지 페어 처리 장치가 시차 범위 [minD, maxD]를 계산하기 위하여 대응 영역을 평행 이동한 범위 [0, 100] 보다 작을 수 있다. 이미지 페어 처리 장치가 시차 범위 [minD, maxD]를 이후 특징 포인트의 시차, 더 나아가서, 피사체의 시차 또는 피사체와 스테레오 카메라 간의 거리를 구하는데 사용하므로, 이미지 페어 처리 장치가 수행하는 계산량이 감소할 수 있다.
도 4는 일실시예에 따른 이미지 페어 처리 장치가 타겟 영역 내의 특징 포인트를 결정하는 동작을 설명하기 위한 예시적인 도면이다.
도 4를 참고하면, 이미지 페어 처리 장치가 타겟 영역(410, 420)에서 추출한 특징 포인트가 도트로 표시된다. 이미지 페어 처리 장치는 ORB(Oriented FAST and Rotate BRIEF) 방식에 기초하여 특징 포인트를 추출할 수 있다. 이외에도 이미지 페어 처리 장치는 BRISK(Binary Robust Invariant Scalable Keypoints) BRISK(Binary Robust Invariant Scalable Keypoints) 방식, OFAST 방식 또는 FAST 방식에 기초하여 특징 포인트를 추출할 수 있다.
이미지 페어 처리 장치는 피사체 및 스테레오 카메라 간의 거리를 결정하기 위하여, 타겟 영역 내의 픽셀 전체의 시차를 구하는 대신, 추출된 특징 포인트의 시차만을 계산할 수 있다. 따라서, 이미지 페어 처리 장치가 피사체 및 스테레오 카메라 간의 거리를 결정하는데 필요한 시간 또는 계산량이 감소할 수 있다.
일실시예에 따른 이미지 페어 처리 장치는 타겟 영역내에서 추출된 특징 포인트들을 연결하여, 프레임 이미지의 타겟 영역 별로 연결 그래프를 생성할 수 있다. 이미지 페어 처리 장치는 특징 포인트들간의 수평 거리, 수직 거리 및 유클리디언 거리를 측정한 다음, 측정된 거리가 가장 가까운 두 개의 특징 포인트를 서로 연결할 수 있다. 보다 구체적으로, (1) 특징 포인트 p에 대하여, 특징 포인트 q 및 특징 포인트 p의 수평 거리가 가장 가까운 경우, 이미지 페어 처리 장치는 특징 포인트 p 및 q를 연결할 수 있다. (2) 특징 포인트 p에 대하여, 특징 포인트 q 및 특징 포인트 p의 수직 거리가 가장 가까운 경우, 이미지 페어 처리 장치는 특징 포인트 p 및 q를 연결할 수 있다. (3) 특징 포인트 p에 대하여, 특징 포인트 q 및 특징 포인트 p의 유클리디언 거리가 가장 가까운 경우, 이미지 페어 처리 장치는 특징 포인트 p 및 q를 연결할 수 있다. 이미지 페어 처리 장치가 생성한 연결 그래프는 글로벌 그래프로써, 하나의 특징 포인트가 최대 3개의 다른 특징 포인트 - 최소 수평 거리를 가지는 특징 포인트, 최소 수직 거리를 가지는 특징 포인트, 최소 유클리디언 거리를 가지는 특징 포인트 - 들과 연결된 3-connected 그래프일 수 있다.
일실시예에 따른 이미지 페어 처리 장치는 생성된 연결 그래프로부터 타겟 영역내의 특징 포인트들 각각을 노드로 하는 최소 트리를 생성할 수 있다. 따라서, 최소 트리는 프레임 이미지의 타겟 영역별로 생성될 수 있다. 도 5는 일실시예에 따른 이미지 페어 처리 장치가 최소 트리를 생성하는 동작을 설명하기 위한 예시적인 도면이다.
이미지 페어 처리 장치는 연결 그래프의 각 변(edge)의 가중치(weight)를, 변을 따라 연결된 두 특징 포인트 사이의 공간 거리로 결정할 수 있다. 이미지 페어 처리 장치는 결정된 가중치에 기초하여 특징 포인트들을 연결함으로써, 최소 트리를 생성할 수 있다. 최소 트리는 연결 그래프의 모든 변 중에서, 가중치의 합을 최소로 하는 변을 포함할 수 있다. 최소 트리는 최소 신장 트리(MST, Minimum Spanning Tree) 또는 분할 트리(ST, Segment Tree)일 수 있다. 도 5를 참고하면, 이미지 페어 처리 장치가 타겟 영역(510, 520)의 특징 포인트들로부터 생성한 최소 트리가 도시된다. 이미지 페어 처리 장치가 특징 포인트들로부터 생성한 최소 트리로써, 최소 신장 트리가 타겟 영역(510)에 도시된다. 이미지 페어 처리 장치가 특징 포인트들로부터 생성한 최소 트리로써, 분할 트리가 타겟 영역(520)에 도시된다.
예를 들어, 이미지 페어 처리 장치는 prim 알고리즘을 이용하여 최소 신장 트리를 생성할 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 특징 포인트들 중 어느 하나를 루트 노드(root node)로 선택한 다음, 루트 노드로 선택된 특징 포인트의 변 중에서, 가중치가 가장 작은 변을 최소 트리에 추가할 수 있다. 이미지 페어 처리 장치는 최소 트리에 추가된 변을 통하여 루트 노드로 선택된 특징 포인트와 연결된 다른 특징 포인트를 식별할 수 있다. 이미지 페어 처리 장치는 식별된 다른 특징 포인트를 루트 노드의 하위 노드인 리프 노드(leaf node)로 선택할 수 있다. 이미지 페어 처리 장치는 리프 노드로 선택된 특징 포인트의 변 중에서, 가중치가 가장 작은 변(보다 구체적으로, 최소 트리에 추가된 변을 제외한 나머지 변 중에서 가중치가 가장 작은 변)을 최소 트리에 추가할 수 있다. 이미지 페어 처리 장치는 리프 노드의 변 중에서 최소 트리로 추가된 변에 대해서도 상술한 동작을 반복적으로 수행함으로써, 루트 노드로 선택된 특징 포인트에서 시작되어 모든 특징 포인트들을 연결하는 최소 신장 트리를 생성할 수 있다.
이미지 페어 처리 장치는 이미지 페어에 포함된 프레임 이미지들 각각의 타겟 영역별로 최소 트리를 생성할 수 있다. 이미지 페어 처리 장치는 제1 프레임 이미지의 타겟 영역으로부터 제1 최소 트리를 생성할 수 있고, 마찬가지로 제2 프레임 이미지의 타겟 영역으로부터 제2 최소 트리를 생성할 수 있다. 이미지 페어 처리 장치는 생성된 제1 최소 트리 또는 제2 최소 트리에 기초하여, 특징 포인트들 각각에서 측정된 비용을 누적할 수 있다.
보다 구체적으로, 이미지 페어 처리 장치는 제1 프레임 이미지의 특징 포인트와 이에 대응하는 제2 프레임 이미지의 특징 포인트의 휘도 및 시차에 기초하여, 제1 프레임 이미지의 특징 포인트 및 제2 프레임 이미지의 특징 포인트를 매칭하는 비용을 결정할 수 있다. 이미지 페어 처리 장치는 비용을 결정할 때에, 사전에 결정된 시차 범위를 이용할 수 있다. 이미지 페어 처리 장치는 최소 트리의 노드들 각각에 대응하는 특징 포인트별로 상기 비용을 결정할 수 있다.
이미지 페어 처리 장치는 제1 프레임 이미지의 특징 포인트 및 제2 프레임 이미지의 특징 포인트를 매칭하는 비용을, BT(Birchfield and Tomasi, 버치 필드와 토마시)비용 또는 Census(통계)비용에 기초하여 결정할 수 있다. BT 비용을 결정할 때에, 선형 보간(linear interpolation)이 이미지 샘플링 효과에 의한 민감도(sensitivity)를 줄이기 위하여 사용될 수 있다. Census 비용은 현재 픽셀의 휘도와 현재 픽셀과 인접하는 인접 픽셀의 휘도를 비교하여, 현재 픽셀의 휘도보다 작은 휘도를 가지는 픽셀의 개수에 기초하여 결정될 수 있다. 따라서, Census 비용은 조명에 대하여 강인한 특성을 가질 수 있다. 일실시예에 따른 이미지 페어 처리 장치는 수학식 3에 기초하여 BT 비용 및 Census 비용을 결합함으로써, 제1 프레임 이미지의 특징 포인트 및 제2 프레임 이미지의 특징 포인트를 매칭하는 비용을 결정할 수 있다.
Figure 112017059280073-pat00003
수학식 3을 참고하면, C(p)는 제1 프레임 이미지의 픽셀 p(예를 들어, 특징 포인트)를 대응하는 제2 프레임 이미지의 픽셀과 매칭할 때의 비용을 의미한다. w는 BT 비용 및 Census 비용간의 가중치를 의미한다. CBT(p)는 픽셀 p에 대한 BT 비용을 의미하고, CCensus(p)는 픽셀 p에 대한 Census 비용을 의미한다. 도 6은 AD, census, AD+census에 대한 비교 실험 결과를 도시한 도면이다. 도 6을 참고하면, AD(absolute intensity differences, 휘도차의 절대값), Census, AD+Census에 대한 middleburry의 비교 실험 결과가 도시된다.
이미지 페어 처리 장치는 C(p)로부터 제1 프레임 이미지의 특징 포인트 및 제2 프레임 이미지의 특징 포인트를 매칭하는 비용을 벡터로 나타낸 매칭 비용 벡터를 결정할 수 있다. 매칭 비용 벡터의 개수는 시차 범위내에 포함된 시차의 개수와 동일할 수 있다. 앞서 설명한 바와 같이, 시차 범위가 휘도 차이가 최소인 시차를 포함하는 상대적으로 작은 범위로 결정되므로, 매칭 비용 벡터의 차원(dimension)이 감소됨에 따라 계산량이 감소될 수 있다.
최소 트리의 노드들 각각에 대응하는 특징 포인트별로 특징 포인트를 매칭할 때의 비용을 결정한 다음, 이미지 페어 처리 장치는 최소 트리의 루트 노드에서 리프 노드를 따라 노드 별로 결정된 비용을 누적할 수 있다. 이미지 페어 처리 장치는 최소 트리의 노드들 각각에서, 루트 노드에서 리프 노드로 향하는 방향을 따라 각 노드의 하위 노드(즉, 서브 노드)의 비용을 누적할 수 있다. 이미지 페어 처리 장치는 최소 트리의 노드들 각각에서, 리프 노드에서 루트 노드로 향하는 방향을 따라 각 노드의 상위 노드(파더 노드)의 비용을 누적할 수 있다.
이미지 페어 처리 장치는 각 노드의 하위 노드의 비용을 누적한 결과 및 각 노드의 상위 노드의 비용을 누적한 결과에 기초하여, 각 노드를 중심으로 최소 트리의 노드 별로 결정된 비용을 누적한 누적 매칭 비용을 결정할 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 최소 트리의 필터링 방법에 기초하여 누적 매칭 비용을 결정할 수 있다. 이미지 페어 처리 장치가 루트 노드에서 리프 노드로 향하는 방향을 따라 최소 트리의 각 노드에 대한 하위 노드(즉, 서브 노드)의 비용을 누적할 때에, 이미지 페어 처리 장치는 수학식 4에 기초하여 하위 노드의 비용을 누적할 수 있다.
Figure 112017059280073-pat00004
수학식 4를 참고하면,
Figure 112017059280073-pat00005
는 픽셀 p(즉, 최소 트리의 특정 노드에 대응하는 특징 포인트)의 변화 후의 누적 비용을 나타내고,
Figure 112017059280073-pat00006
는 픽셀 p의 초기 비용을 의미한다. Ch(p)는 픽셀 p에 대응하는 노드의 모든 서브 노드의 집합을 의미한다. S(p, q)는 픽셀 p 및 서브 노드에 포함된 픽셀 q(즉, 최소 트리의 특정 노드의 하위 노드에 대응하는 특징 포인트)의 유사도를 의미한다. D는 매칭 비용 벡터이고, 매칭 비용 벡터의 차원의 개수와 시차 범위의 시차의 수는 서로 동일할 수 있다. 시차 범위가 휘도 차이를 최소로 하는 시차를 포함하는 상대적으로 작은 범위로 결정되므로, 매칭 비용 벡터의 차원(dimension)이 감소됨에 따라 계산량이 감소될 수 있다. 이미지 페어 처리 장치는 수학식 4에 기초하여, 최소 트리의 특정 노드의 모든 하위 노드를 탐색한 다음, 특정 노드의 누적 매칭 비용을 업데이트할 수 있다.
이미지 페어 처리 장치가 리프 노드에서 루트 노드로 향하는 방향을 따라 최소 트리의 각 노드에 대한 상위 노드(즉, 파더 노드)의 비용을 누적할 때에, 이미지 페어 처리 장치는 수학식 5에 기초하여 상위 노드의 비용을 누적할 수 있다.
Figure 112017059280073-pat00007
수학식 5에서, Pr(p)는 픽셀 p(즉, 최소 트리의 특정 노드에 대응하는 특징 포인트)에 대응하는 노드의 파더 노드를 의미하고, S(Pr(p), p)는 픽셀 p에 대응하는 노드 및 그 파더 노드의 유사도를 의미하며,
Figure 112017059280073-pat00008
는 픽셀 p에 대응하는 노드의 파더 노드를 매칭할때의 비용을 의미한다. 수학식 5를 참고하면, 최종적으로 계산되는 비용
Figure 112017059280073-pat00009
은 픽셀 p에 대응하는 노드의 파더 노드에 의하여 결정됨을 알 수 있다.
두 개의 특징 포인트 간의 유사도인 수학식 4의 S(p, q) 및 수학식 5의 S(Pr(p), p)는 수학식 6에 기초하여 결정될 수 있다.
Figure 112017059280073-pat00010
수학식 6에서, I(p) 및 I(q)는 각각 픽셀 p, q의 휘도 값을 의미하고, xp 및 xq는 각각 픽셀 p, q의 수평 좌표(x축 좌표)를, yp 및 yq는 각각 픽셀 p, q의 수직 좌표(y축 좌표)를 의미한다. σs 및 σr은 고정 파라미터로써, 실험에 의해 조절될 수 있다.
이미지 페어 처리 장치는 최소 트리의 노드들 각각에 대응하는 특징 포인트의 시차, 깊이 또는 깊이 정보를, 상기 누적 매칭 비용을 최소로 하는 시차에 기초하여 결정할 수 있다. 예를 들어, 이미지 페어 처리 장치는 winner-takes-all 방법을 이용하여 특징 포인트의 시차를 결정할 수 있다. 이미지 페어 처리 장치는 수학식 7에 기초하여 특징 포인트의 시차를 결정할 수 있다.
Figure 112017059280073-pat00011
수학식 7을 참고하면, fp는 픽셀 p(즉, 제1 프레임 이미지의 타겟 영역에 대한 최소 트리의 특정 노드에 대응하는 특징 포인트)의 시차로써, C'(p, d)는 시차가 d일 때에 제1 프레임 이미지의 픽셀 p를 매칭할 때의 비용을 의미한다. D는 시차 범위를 의미한다. 이미지 페어 처리 장치는 결정된 특징 포인트의 시차에 기초하여 피사체 및 스테레오 카메라 간의 거리를 결정할 수 있다. 피사체 및 스테레오 카메라 간의 거리를 결정한 다음, 이미지 페어 처리 장치는 알람 처리 또는 조작적 처리를 수행할 수 있다. 예를 들어, 피사체가 차량, 길표지, 행인, 장애물, 풍경 중 어느 하나인 경우, 조작적 처리는 이미지 페어 처리 장치가 제어하는 물체(예를 들어, 차량)의 제동, 방향 전환 중 적어도 하나일 수 있다.
도 7은 일실시예에 따른 이미지 페어 처리 장치가 이미지 페어에 포함된 피사체 및 스테레오 카메라간의 거리를 결정하는 동작을 설명하기 위한 도면이다. 일실시예에 따른 이미지 페어 처리 방법을 실행하기 위한 프로그램이 기록된 컴퓨터에서 판독 가능한 기록 매체가 제공될 수 있다. 상기 프로그램은 이미지 페어 처리 방법을 저장한 응용 프로그램, 디바이스 드라이버, 펌웨어, 미들웨어, 동적 링크 라이브러리(DLL) 및 애플릿 중 적어도 하나를 포함할 수 있다. 일실시예에 따르면, 이미지 페어 처리 장치는 프로세서를 포함하고, 프로세서는 이미지 페어 처리 방법이 기록된 기록 매체를 판독함으로써, 이미지 페어 처리 방법을 수행할 수 있다.
도 7을 참고하면, 단계(710)에서, 일실시예에 따른 이미지 페어 처리 장치는 프레임 이미지에서 타겟 영역을 생성할 수 있다. 타겟 영역은 프레임 이미지의 일부분으로써, 프레임 이미지를 생성한 스테레오 카메라가 촬영한 피사체를 포함할 수 있다.
이미지 페어 처리 장치가 스테레오 카메라에 포함된 복수의 이미지 센서로부터 생성된 복수의 프레임 이미지의 페어를 수신한 경우, 이미지 페어 처리 장치는 복수의 프레임 이미지들 각각에서, 피사체가 포함된 타겟 영역을 생성할 수 있다. 스테레오 카메라가 두 개의 이미지 센서를 포함하는 경우, 이미지 페어 처리 장치는 제1 프레임 이미지 및 제2 프레임 이미지의 페어를 수신할 수 있다. 이미지 페어 처리 장치는 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지 각각에서, 피사체가 포함된 타겟 영역을 생성할 수 있다.
도 7을 참고하면, 단계(720)에서, 일실시예에 따른 이미지 페어 처리 장치는 타겟 영역의 시차 범위를 결정할 수 있다. 바꾸어 말하면, 이미지 페어 처리 장치는 타겟 영역에 포함된 피사체의 시차가 포함될 것으로 예상되는 범위를 결정할 수 있다. 이미지 페어 처리 장치는 복수의 프레임 이미지 중에서 어느 하나의 프레임 이미지에서 추출한 타겟 영역 및 다른 프레임 이미지에서 상기 타겟 영역과 동일한 위치, 형태 및 크기를 가진 대응 영역을 식별할 수 있다. 이미지 페어 처리 장치는 타겟 영역 및 대응 영역의 휘도 차이를 계산할 수 있다.
이미지 페어 처리 장치는 복수의 대응 영역에서 타겟 영역 및 대응 영역의 휘도 차이를 계산할 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 대응 영역을 타겟 영역과 동일한 높이에서 수평 방향을 따라 평행이동하면서, 타겟 영역 및 대응 영역의 휘도 차이를 계산할 수 있다. 바꾸어 말하면, 대응 영역의 y 좌표는 고정되고, x 좌표만 변경될 수 있다.
시차 범위는 휘도 차이를 최소로 하는 대응 영역의 평행 이동량(즉, 시차)을 포함하도록 결정될 수 있다. 예를 들어, 이미지 페어 처리 장치는 휘도 차이를 최소로하는 대응 영역의 평행 이동량을 수학식 1 및 수학식 2에 적용하여, 시차 범위를 결정할 수 있다. 따라서, 시차 범위는 대응 영역이 평행 이동할 수 있는 모든 범위 중 일부분으로 결정될 수 있다.
도 7을 참고하면, 단계(730)에서, 일실시예에 따른 이미지 페어 처리 장치는 타겟 영역내의 특징 포인트를 추출할 수 있다. 이미지 페어 처리 장치는 이미지 페어의 복수의 프레임 이미지 각각의 타겟 영역에서 특징 포인트를 추출할 수 있다.
도 7을 참고하면, 단계(740)에서, 일실시예에 따른 이미지 페어 처리 장치는 추출된 특징 포인트를 연결하여 연결 그래프를 생성할 수 있다. 연결 그래프의 노드는 특징 포인트이고, 노드는 특징 포인트간의 수평 거리, 수직 거리 또는 유클리디언 거리에 기초하여 연결될 수 있다. 이미지 페어 처리 장치는 어느 특징 포인트를, 수평 거리가 가장 가까운 다른 특징 포인트와 연결할 수 있다. 이미지 페어 처리 장치는 어느 특징 포인트를, 수직 거리가 가장 가까운 다른 특징 포인트와 연결할 수 있다. 이미지 페어 처리 장치는 어느 특징 포인트를, 유클리디언 거리가 가장 가까운 다른 특징 포인트와 연결할 수 있다. 연결 그래프는 복수의 프레임 이미지 각각의 타겟 영역별로 생성될 수 있다.
도 7을 참고하면, 단계(750)에서, 일실시예에 따른 이미지 페어 처리 장치는 생성된 연결 그래프로부터 최소 트리를 생성할 수 있다. 최소 트리는 연결 그래프에 대응하여 복수의 프레임 이미지 각각의 타겟 영역별로 생성될 수 있으며, 타겟 영역에 포함된 모든 특징 포인트를 노드로 할 수 있다. 이미지 페어 처리 장치는 연결 그래프의 변 각각의 가중치를, 변을 따라 연결된 두 특징 포인트 사이의 공간 거리에 기초하여 결정할 수 있다. 이미지 페어 처리 장치는 가중치의 합을 최소로 하는 변을 선택하고, 선택된 변에 기초하여 최소 트리를 생성할 수 있다.
도 7을 참고하면, 단계(760)에서, 일실시예에 따른 이미지 페어 처리 장치는 최소 트리의 노드들 각각을 매칭할 때의 비용을 결정할 수 있다. 바꾸어 말하면, 노드들 각각이 특징 포인트에 대응하므로, 서로 다른 프레임 이미지에서 특징 포인트를 매칭할 때의 비용이 결정될 수 있다. 상기 비용은 타겟 영역의 휘도 및 단계(720)에서 결정된 시차 범위에 따라 결정될 수 있다. 이미지 페어 처리 장치는 수학식 3에 기초하여 최소 트리의 노드들 각각을 매칭할 때의 비용을 결정할 수 있다. 단계(720)는 단계(730) 내지 단계(750) 중 적어도 하나와 동시에 수행될 수 있다. 또한, 단계(720)는 단계(730) 내지 단계(750)의 사이에서 수행될 수 있다.
도 7을 참고하면, 단게(770)에서, 일실시예에 따른 이미지 페어 처리 장치는 최소 트리의 복수의 노드들 각각에서 결정된 비용을 최소 트리의 가지를 따라 누적할 수 있다. 이미지 페어 처리 장치는 최소 트리의 특정 노드에 대하여, 특정 노드의 상위 방향 또는 하위 방향을 따라 최소 트리를 탐색할 수 있다. 이미지 페어 처리 장치는 각 방향에서 탐색된 노드를 매칭할 때의 비용을, 특정 노드를 매칭할 때의 비용에 결합함으로써, 복수의 노드들 각각에서 결정된 비용을 누적할 수 있다. 예를 들어, 이미지 페어 처리 장치는 수학식 4 또는 수학식 5에 기초하여 복수의 노드들 각각에서 결정된 비용을 최소 트리의 가지를 따라 누적할 수 있다.
도 7을 참고하면, 단계(780)에서, 일실시예에 따른 이미지 페어 처리 장치는 누적된 비용에 기초하여 특징 포인트의 시차를 결정할 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 최소 트리의 특정 노드에 대응하는 특징 포인트의 시차를, 특정 노드를 매칭할 때의 비용에 특정 노드와 최소 트리를 통해 연결된 다른 노드를 매칭할 때의 비용을 누적한 결과에 기초하여 결정할 수 있다.
도 7을 참고하면, 단게(790)에서, 일실시예에 따른 이미지 페어 처리 장치는 결정된 특징 포인트의 시차에 기초하여, 피사체 및 스테레오 카메라 간의 거리를 결정할 수 있다. 종합하면, 피사체 및 스테레오 카메라 간의 거리를 결정함에 있어서, 이미지 페어 처리 장치는 피사체가 포함된 타겟 영역의 모든 픽셀의 시차를 결정하는 대신에, 타겟 영역의 일부 픽셀(특징 포인트)의 시차만을 결정하므로, 피사체 및 스테레오 카메라 간의 거리를 결정하기 위해 필요한 계산량 또는 시간이 줄어들 수 있다. 또한, 이미지 페어 처리 장치는 가능한 모든 시차에서 특징 포인트의 시차를 측정하지 않고, 제한된 시차 범위 내에서 특징 포인트의 시차를 결정하는 동작을 수행하므로, 특징 포인트의 시차를 결정하는데 필요한 계산량 또는 시간이 줄어들 수 있다. 이미지 페어 처리 장치는 결정된 피사체 및 스테레오 카메라 간의 거리에 기초하여 알람 처리 또는 조작적 처리를 수행할 수 있다.
이하에서는 일실시예에 따른 이미지 페어 처리 장치가 복수의 이미지 페어를 포함하는 공공 데이터 집합 KITTI에 포함된 280개 피사체의 거리를 최소 트리를 따라 비용을 누적하는 방식에 따라 측정한 실험 결과를 설명한다. 피사체는 차량, 도로 표지판 및 행인을 포함한다. 표 1은 이미지 페어 처리 장치가 최소 신장 트리 또는 분할 트리를 이용하여 특징 포인트를 매칭할 때의 비용을 누적한 결과에 기초하여 피사체와의 거리를 결정하였을 때의 정확도 및 시간을 비용을 누적하지 않고 피사체와의 거리를 결정하였을 때의 정확도 및 시간과 함께 표시한다.
데이터 집합 방법 정확도 시간
KITTI
(280개의 피사체를 포함함)		 비용을 누적하지 않고 프레임 이미지를 매칭함 80.41% 3.7ms
최소 신장 트리(MST)를 이용하여 프레임 이미지를 매칭함 90.25% 4.53ms
분할 트리(ST)를 이용하여 프레임 이미지를 매칭함 90.39% 4.65ms
표 1을 참고하면, 일실시예에 따른 이미지 페어 처리 장치가 측정한 피사체 및 스테레오 카메라 간의 거리의 정확도는 약 90%로써, 비용을 누적하지 않고 프레임 이미지를 매칭하여 피사체 및 스테레오 카메라 간의 거리를 측정하였을 때보다 정확도가 10% 가량 향상되었음을 알 수 있다.
더 나아가서, 일실시예에 따른 이미지 페어 처리 장치는 시간에 따라 순차적으로 획득된 복수의 이미지 페어에 대하여, 복수의 이미지 페어에 공통적으로 포함된 피사체의 위치를 추적할 수 있다. 도 8은 일실시예에 따른 이미지 페어 처리 장치가 복수의 이미지 페어에 공통적으로 포함된 피사체의 위치를 추적하는 동작을 설명하기 위한 흐름도이다.
도 8을 참고하면, 단계(810)에서, 일실시예에 따른 이미지 페어 처리 장치는 마지막으로 입력된 현재 프레임 이미지에서 타겟 영역을 생성할 수 있다. 이미지 페어 처리 장치가 타겟 영역을 생성하는 동작은 단계(710)에서 설명한 바와 유사할 수 있다. 타겟 영역은 이미지 페어 처리 장치에 의해 추적될 피사체를 포함할 수 있다.
도 8을 참고하면, 단계(820)에서, 일실시예에 따른 이미지 페어 처리 장치는 생성된 타겟 영역의 특징 값을 추출할 수 있다. 단계(830)에서, 이미지 페어 처리 장치는 현재 프레임 이미지의 타겟 영역의 특징 값을 필터링할 수 있다. 단계(840)에서, 이미지 페어 처리 장치는 필터링된 특징 값을 보간(interpolate)하여 현재 프레임 이미지에 대응하는 특징값 평면을 생성할 수 있다.
단계(850)에서, 이미지 페어 처리 장치는 생성된 특징값 평면 및 현재 프레임 이미지보다 먼저 획득된 프레임 이미지로부터 생성된 특징값 평면 모델을 비교할 수 있다. 특징값 평면 모델은 현재 프레임 이미지보다 먼저 획득된 하나 이상의 프레임 이미지에 의해 갱신되거나 트레이닝됨으로써 생성될 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 생성된 특징값 평면을 특징값 평면 모델로 피팅(fitting)할 수 있다. 이미지 페어 처리 장치는 특징값 평면을 특징값 평면 모델로 피팅(fitting)하였을 때의 응답값을 계산할 수 있다.
단계(860)에서, 이미지 페어 처리 장치는 특징 값 평면 및 특징 값 평면 모델을 비교한 결과에 기초하여, 현재 프레임 이미지 내에서 피사체의 위치를 결정할 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 응답 값을 최대로 하는 위치를 피사체의 위치로 결정할 수 있다. 단계(870)에서, 이미지 페어 처리 장치는 현재 프레임 이미지 내에서 피사체의 위치에 기초하여 특징 값 평면 모델을 업데이트할 수 있다.
이미지 페어 처리 장치는 서브 픽셀 수준에서 피사체의 위치를 결정할 수 있다. 이미지 페어 처리 장치는 평면 보간 피팅 방법을 이용하여 서브 픽셀 수준의 정확도를 제공할 수 있다.
도 9는 일실시예에 따른 이미지 페어 처리 장치가 특징값 평면을 특징값 평면 모델로 피팅하여 계산한 응답값의 분포를 도시한 그래프(900)이다. 응답값은 응답함수
Figure 112017059280073-pat00012
에 기초하여 결정될 수 있다. 그래프(900)를 참고하면, 응답값의 최대값은 현재 프레임 이미지에서 피사체의 위치에 대응할 수 있다. 응답값을 최대로 하는 (x*, y*)는 응답함수 R(x,y)의 편미분 함수
Figure 112017059280073-pat00013
에 기초하여 수학식 8과 같이 결정될 수 있다.
Figure 112017059280073-pat00014
응답함수 R(x,y)의 6개 파라미터 a 내지 f는 과결정 방정식(overdetermined equation)에 기초하여 결정될 수 있다. 보다 구체적으로, 이미지 페어 처리 장치는 응답값이 최대가 되는 (x*, y*) 근처의 6개 포인트의 응답값을 이용하여 6개의 방정식을 획득할 수 있다. 이미지 페어 처리 장치는 대입법 또는 소거법에 기초하여 획득된 방정식을 연립하여 파라미터 a 내지 f를 결정할 수 있다.
이하에서는 일실시예에 따른 이미지 페어 처리 장치가 공공 데이터 집합(OOTB)으로부터 선택한 9개의 비디오 이미지로부터 피사체의 위치를 결정한 실험 결과를 설명한다. 선택된 9개의 비디오 이미지는 피사체로 FaceOcc1, Coke, David, Bolt, Car4, Suv, Sylvester, Walking2 and Singer2를 포함한다. 이미지 페어 처리 장치가 상기 피사체를 추적한 정확도가 표 2에 제시된다.
정밀한 구성 FaceOcc1 Coke David Bolt Car4 Suv Sylvester Walking2 Singer2
KCF 0.730 0.838 1.0 0.989 0.950 0.979 0.843 0.440 0.945
서브 픽셀 KCF 0.754 0.873 1.0 0.997 0.953 0.980 0.851 0.438 0.962
표 2를 참고하면, 일실시예에 따른 이미지 페어 처리 장치가 피사체 위치를 추적한 정확도(서브 픽셀 KCF)가 종래의 피사체 위치 추적 방법의 그것보다 향상되었음을 알 수 있다.
종합하면, 일실시예에 따른 이미지 페어 처리 장치는 수신한 프레임 이미지보다 작은 타겟 영역에서 특징포인트를 추출하므로, 특징 포인트를 추출하는 시간 또는 계산량이 감소할 수 있다. 또한, 이미지 페어 처리 장치는 타겟 영역의 일부인 특징 포인트에 대하여 특징 포인트의 매칭, 시차 측정등의 동작을 수행하므로, 프레임 이미지를 처리하는데 소비되는 시간 또는 계산량이 감소할 수 있다. 이미지 페어 처리 장치는 최소 트리의 노드들에 대한 최소 누적 매칭 비용을 결정할 때에, 누적의 매칭 비용을 필터링하여 제거함으로써 특징 포인트의 시차를 결정할 때의 계산량이 줄어들 수 있다.
또한, 추출된 복수의 특징 포인트는 피사체의 특징을 포함하므로, 특징 포인트에 기초하여 결정된 피사체 및 스테레오 카메라의 거리의 정확도가 향상될 수 있다. 따라서, 피사체 및 스테레오 카메라의 거리를 동일한 정확도로 측정하는 경우, 일실시예에 따른 이미지 페어 처리 장치는 이미지 페어를 처리하는 전 과정의 계산량을 감소함으로써, 이미지 페어를 처리하는 속도를 향상시킬 수 있다.
추가적으로, 이미지 페어 처리 장치는 타겟 영역에 대한 시차범위를 결정함으로써, 타겟 영역의 특징 포인트를 매칭할 때 사용되는 시차범위의 크기를 줄일 수 있다. 보다 구체적으로, 이미지 페어 처리 장치가 계산한 매칭 비용 벡터의 개수가 시차범위 내의 시차의 개수만큼 감소되므로, 특징 포인트를 매칭할 때의 비용을 결정하는 동작 및 결정된 비용을 누적하는 동작의 계산량이 감소될 수 있다.
추가적으로, 일실시예에 따른 이미지 페어 처리 장치는 타겟 영역내의 복수의 특징 포인트에 기초하여 복수의 특징 포인트를 노드로 하는 연결 그래프를 생성할 수 있다. 더 나아가서, 이미지 페어 처리 장치는 연결 그래프로부터 최소 트리를 생성함으로써, 모든 특징 포인트를 노드로 유지하면서 연결 그래프에 포함된 변의 개수를 줄일 수 있다.
또한, 일실시예에 따른 이미지 페어 처리 장치는 현재 프레임 이미지의 타겟 영역의 특징 값을 추출한 다음, 추출된 특징 값에 대하여 보간을 이용하여 현재 프레임 이미지에 대한 특징 값 평면을 생성할 수 있다. 이미지 페어 처리 장치는 현재 프레임 이미지 이전에 획득된 프레임 이미지로부터 생성된 특징 값 평면 모델을 생성된 특징 값 평면과 비교함으로써, 현재 프레임 이미지에서 피사체의 위치를 결정할 수 있다. 따라서, 이미지 페어 처리 장치는 보다 정확하게 현재 프레임 이미지에서 피사체의 위치를 결정할 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
101: 스테레오 카메라
102: 타겟 영역 생성기
103: 특징 포인트 추출기
104: 매칭 비용 측정기
105: 특징 포인트 시차 계산기
106: 피사체 거리 결정기
107: 특징 포인트 연결기
108: 최소 트리 생성기
109: 시차 범위 결정기
110: 피사체 추적기

Claims (15)

  1. 피사체를 촬영한 스테레오 카메라로부터 획득된 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지 각각에서, 상기 피사체가 포함된 타겟 영역을 생성하는 단계;
    상기 타겟 영역내의 특징 포인트를 추출하는 단계;
    상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하여, 상기 특징 포인트의 시차를 계산하는 단계; 및
    상기 특징 포인트의 시차에 기초하여, 상기 피사체 및 상기 스테레오 카메라 간의 거리를 결정하는 단계
    를 포함하고,
    상기 계산하는 단계는,
    상기 제1 프레임 이미지의 특징 포인트들 간의 수평 거리, 수직 거리 또는 유클리디언 거리에 기초하여 상기 제1 프레임 이미지의 특징 포인트들을 연결하여, 상기 제1 프레임 이미지의 특징 포인트들을 노드로 하는 제1 트리를 생성하는 단계;
    상기 제2 프레임 이미지의 특징 포인트들 간의 수평 거리, 수직 거리 또는 유클리디언 거리에 기초하여 상기 제2 프레임 이미지의 특징 포인트들을 연결하여, 상기 제2 프레임 이미지의 특징 포인트들을 노드로 하는 제2 트리를 생성하는 단계; 및
    상기 제1 프레임 이미지의 특징 포인트 및 상기 제2 프레임 이미지의 특징 포인트의 시차를 계산하기 위하여, 상기 제1 트리의 노드들 및 상기 제2 트리의 노드들을 매칭하는 단계
    를 포함하고,
    상기 매칭하는 단계는,
    상기 제1 트리의 노드들 및 상기 제2 트리의 노드들을 매칭할 때의 비용을 상기 제1 트리의 노드들의 가지를 따라 누적하는 단계; 및
    상기 누적된 비용에 기초하여 상기 제1 프레임 이미지의 특징 포인트 및 상기 제2 프레임 이미지의 특징 포인트의 시차를 결정하는 단계
    를 포함하고,
    상기 비용은,
    매칭의 대상이 되는 상기 제1 트리의 노드 및 상기 제2 트리의 노드의 휘도 및 시차에 기초하여 결정되는
    이미지 페어 처리 장치에서 이미지 페어 처리 방법.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 제1 프레임 이미지의 타겟 영역 및 상기 타겟 영역의 위치에 따라 결정되는 제2 프레임 이미지의 대응 영역간의 휘도 차이에 기초하여, 상기 피사체와 관련된 시차 범위를 결정하는 단계
    를 더 포함하는 이미지 페어 처리 장치에서 이미지 페어 처리 방법.
  5. 제4항에 있어서,
    상기 특징 포인트의 시차를 계산하는 단계는,
    상기 결정된 시차 범위내에서 상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하는 이미지 페어 처리 장치에서 이미지 페어 처리 방법.
  6. 제4항에 있어서,
    상기 시차 범위를 결정하는 단계는,
    상기 제2 프레임 이미지의 대응 영역을 평행 이동하는 단계; 및
    상기 평행 이동된 상기 대응 영역 및 상기 제1 프레임 이미지의 타겟 영역의 휘도를 비교하는 단계
    를 포함하는 이미지 페어 처리 장치에서 이미지 페어 처리 방법.
  7. 제1항에 있어서,
    상기 타겟 영역의 특징 값을 추출하는 단계;
    상기 추출된 특징 값에 기초하여, 상기 이미지 페어의 특징값 평면을 생성하는 단계;
    상기 이미지 페어 이전에 획득된 이미지 페어의 특징값 평면으로부터 생성된 특징값 평면 모델과 상기 특징값 평면을 비교하는 단계; 및
    상기 특징값 평면 모델과 상기 특징값 평면을 비교한 결과에 기초하여, 상기 이미지 페어에서 상기 피사체의 위치를 결정하는 단계
    를 더 포함하는 이미지 페어 처리 장치에서 이미지 페어 처리 방법.
  8. 제7항에 있어서,
    상기 결정된 피사체의 위치에 기초하여 상기 특징값 평면 모델을 변경하는 단계
    를 더 포함하는 이미지 페어 처리 장치에서 이미지 페어 처리 방법.
  9. 피사체를 촬영한 이미지 페어가 저장되는 메모리; 및
    상기 이미지 페어를 처리하는 프로세서
    를 포함하고,
    상기 프로세서는,
    상기 이미지 페어의 제1 프레임 이미지 및 제2 프레임 이미지 각각에서, 상기 피사체가 포함된 타겟 영역을 생성하고,
    상기 타겟 영역내의 특징 포인트를 추출하고,
    상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하여, 상기 특징 포인트의 시차를 계산하고,
    상기 특징 포인트의 시차에 기초하여, 상기 피사체 및 상기 피사체를 촬영한 스테레오 카메라 간의 거리를 결정하고,
    상기 프로세서는,
    상기 제1 프레임 이미지의 특징 포인트들을 노드로 하는 제1 트리 및 상기 제2 프레임 이미지의 특징 포인트들을 노드로 하는 제2 트리를 매칭할 때의 비용에 기초하여, 상기 제1 프레임 이미지의 특징 포인트 및 상기 제2 프레임 이미지의 특징 포인트의 시차를 계산하고,
    상기 프로세서는,
    상기 제1 트리의 노드에 대응하는 특징 포인트 및 상기 제2 트리의 노드에 대응하는 특징 포인트의 휘도 및 시차에 기초하여 결정된 유사도를 이용하여 상기 비용을 결정하고,
    상기 제1 트리 및 상기 제2 트리 각각은,
    공간 거리가 가장 작은 상기 제1 프레임 이미지의 특징 포인트들 및 공간 거리가 가장 작은 상기 제2 프레임 이미지의 특징 포인트들을 연결하여 생성되는
    이미지 페어 처리 장치.
  10. 삭제
  11. 삭제
  12. 삭제
  13. 제9항에 있어서,
    상기 프로세서는,
    상기 제1 프레임 이미지의 타겟 영역 및 상기 타겟 영역의 위치에 따라 결정되는 제2 프레임 이미지의 대응 영역간의 휘도 차이에 기초하여, 상기 피사체와 관련된 시차 범위를 결정하는 이미지 페어 처리 장치.
  14. 제13항에 있어서,
    상기 프로세서는,
    상기 결정된 시차 범위내에서 상기 제1 프레임 이미지에서 추출된 특징 포인트 및 상기 제2 프레임 이미지에서 추출된 특징 포인트를 매칭하는 이미지 페어 처리 장치.
  15. 제9항에 있어서,
    상기 프로세서는,
    상기 타겟 영역의 특징 값을 추출하고,
    상기 추출된 특징 값에 기초하여, 상기 이미지 페어의 특징 값 평면을 생성하고,
    상기 이미지 페어 이전에 획득된 이미지 페어의 특징 값 평면으로부터 생성된 특징 값 평면 모델과 상기 특징 값 평면을 비교하고,
    상기 특징 값 평면 모델과 상기 특징 값 평면을 비교한 결과에 기초하여, 상기 이미지 페어에서 상기 피사체의 위치를 결정하는 이미지 페어 처리 장치.
KR1020170078174A 2016-08-03 2017-06-20 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법 KR102458242B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US15/668,261 US20180041747A1 (en) 2016-08-03 2017-08-03 Apparatus and method for processing image pair obtained from stereo camera

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201610630643.3A CN107689060A (zh) 2016-08-03 2016-08-03 目标对象的视觉处理方法、装置及基于视觉处理的设备
CN201610630643.3 2016-08-03

Publications (2)

Publication Number Publication Date
KR20180015570A KR20180015570A (ko) 2018-02-13
KR102458242B1 true KR102458242B1 (ko) 2022-10-24

Family

ID=61151472

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170078174A KR102458242B1 (ko) 2016-08-03 2017-06-20 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법

Country Status (2)

Country Link
KR (1) KR102458242B1 (ko)
CN (1) CN107689060A (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102103418B1 (ko) * 2018-04-06 2020-04-23 주식회사 와이즈오토모티브 조감도 이미지 생성 장치 및 방법
WO2020019111A1 (zh) * 2018-07-23 2020-01-30 深圳市大疆创新科技有限公司 一种目标对象的深度信息获取方法及可移动平台
CN110374045B (zh) * 2019-07-29 2021-09-28 哈尔滨工业大学 一种智能化除冰方法
CN110738731B (zh) * 2019-10-16 2023-09-22 光沦科技(深圳)有限公司 一种用于双目视觉的3d重建方法和系统
CN112348859A (zh) * 2020-10-26 2021-02-09 浙江理工大学 一种渐近全局匹配的双目视差获取方法和系统
WO2022252036A1 (zh) * 2021-05-31 2022-12-08 深圳市大疆创新科技有限公司 障碍物信息获取方法、装置、可移动平台及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014206893A (ja) * 2013-04-15 2014-10-30 ソニー株式会社 画像処理装置と画像処理方法およびプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101669840B1 (ko) * 2010-10-21 2016-10-28 삼성전자주식회사 다시점 비디오로부터 일관성 있는 변이를 추정하는 변이 추정 시스템 및 방법
KR102240570B1 (ko) * 2014-05-13 2021-04-15 삼성전자주식회사 신장 트리 생성 방법 및 장치，스테레오 매칭 방법 및 장치，업 샘플링 방법 및 장치，및 기준 픽셀 생성 방법 및 장치

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014206893A (ja) * 2013-04-15 2014-10-30 ソニー株式会社 画像処理装置と画像処理方法およびプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Qingxiong Yang ET AL:"A non-local cost aggregation method for stereo matching", 2012 IEEE Conference on Computer Vision and Pattern Recognition, (2012.6.16.)

Also Published As

Publication number Publication date
CN107689060A (zh) 2018-02-13
KR20180015570A (ko) 2018-02-13

Similar Documents

Publication Publication Date Title
KR102458242B1 (ko) 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법
CN110322500B (zh) 即时定位与地图构建的优化方法及装置、介质和电子设备
US10789719B2 (en) Method and apparatus for detection of false alarm obstacle
CN108961327B (zh) 一种单目深度估计方法及其装置、设备和存储介质
KR101708659B1 (ko) 이동 로봇의 맵을 업데이트하기 위한 장치 및 그 방법
US10573018B2 (en) Three dimensional scene reconstruction based on contextual analysis
KR102647351B1 (ko) 3차원의 포인트 클라우드를 이용한 모델링 방법 및 모델링 장치
JP6095018B2 (ja) 移動オブジェクトの検出及び追跡
KR101776622B1 (ko) 다이렉트 트래킹을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
KR101725060B1 (ko) 그래디언트 기반 특징점을 이용한 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
KR102459853B1 (ko) 디스패리티 추정 장치 및 방법
CN108027877B (zh) 用于非障碍区检测的系统和方法
JP6670071B2 (ja) 車両用画像認識システム、及び対応法
KR102462278B1 (ko) 어떤 대상의 자기 동작 추정을 위한 방법
US9412034B1 (en) Occlusion handling for computer vision
KR101784183B1 (ko) ADoG 기반 특징점을 이용한 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
CN107735797B (zh) 用于确定第一坐标系与第二坐标系之间的运动的方法
JP2017526082A (ja) 動作推定方法、移動体、およびプロセッサに動作推定方法を実行させるコンピュータプログラムコードでコード化された非一時的コンピュータ可読媒体
KR20150144727A (ko) 에지 기반 재조정을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
CN110349212B (zh) 即时定位与地图构建的优化方法及装置、介质和电子设备
US20180041747A1 (en) Apparatus and method for processing image pair obtained from stereo camera
KR20200075727A (ko) 깊이 맵 산출 방법 및 장치
KR20190030474A (ko) 신뢰도에 기초하여 깊이 맵을 산출하는 방법 및 장치
AliAkbarpour et al. Fast structure from motion for sequential and wide area motion imagery
Jung et al. Object Detection and Tracking‐Based Camera Calibration for Normalized Human Height Estimation

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant