KR101622344B1 - 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템 - Google Patents

적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템 Download PDF

Info

Publication number
KR101622344B1
KR101622344B1 KR1020140180880A KR20140180880A KR101622344B1 KR 101622344 B1 KR101622344 B1 KR 101622344B1 KR 1020140180880 A KR1020140180880 A KR 1020140180880A KR 20140180880 A KR20140180880 A KR 20140180880A KR 101622344 B1 KR101622344 B1 KR 101622344B1
Authority
KR
South Korea
Prior art keywords
window
matching
calculating
weight
pixels
Prior art date
Application number
KR1020140180880A
Other languages
English (en)
Inventor
문병인
배경렬
손현식
옥승호
Original Assignee
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경북대학교 산학협력단 filed Critical 경북대학교 산학협력단
Priority to KR1020140180880A priority Critical patent/KR101622344B1/ko
Priority to US14/587,620 priority patent/US9786063B2/en
Application granted granted Critical
Publication of KR101622344B1 publication Critical patent/KR101622344B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/327Calibration thereof
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/22Treatment of data
    • H01J2237/226Image reconstruction
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/26Electron or ion microscopes
    • H01J2237/2611Stereoscopic measurements and/or imaging
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/02Details
    • H01J37/22Optical, image processing or photographic arrangements associated with the tube
    • H01J37/222Image processing arrangements associated with the tube
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 센서스 변환 기반 스테레오 정합에서 적응적 영역 가중치 기법과 듬성한 모양의 윈도우를 사용하여 정합 정확도를 향상시키는 방법에 관한 것으로서, 좌 영상의 특정 지점을 중심으로 하는 적응적 영역 가중치 윈도우를 설정하고, 우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 한 점에 대하여 동일한 크기의 적응적 영역 가중치 윈도우를 설정하는 제 1 단계, 좌 영상과 우 영상의 각 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치를 산출하는 제 2 단계, 좌 영상과 우 영상에 설정된 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 정합 윈도우를 설정하는 제 3 단계, 상기 정합 윈도우를 이용하여 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대한 원시 정합 비용을 산출하는 제 4 단계, 상기 산출된 각 픽셀들의 적응적 영역 가중치와 원시 정합 비용을 이용하여 정합 비용을 산출하는 제 5 단계 및 우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 다른 점들에 대하여 정합 비용을 산출한 후, 산출된 정합 비용들의 비교를 통해 시차값을 산출하는 제 6 단계를 포함한다.

Description

적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템{A DISPARITY CACULATION METHOD BASED ON OPTIMIZED CENSUS TRANSFORM STEREO MATCHING WITH ADAPTIVE SUPPORT WEIGHT METHOD AND SYSTEM THEREOF}
본 발명은 영역기반 스테레오 정합에서 적응적 영역 가중치 방법을 적용한 개선된 센서스 변환 기반 스테레오 정합법을 이용하여 정밀한 시차를 계산하는 방법을 개시하고 있다.
스테레오 정합 (stereo matching)은 두 대의 카메라를 통해 동일 시간에 서로 다른 위치에서 획득한 2차원 영상들로부터 3차원 정보를 획득하는 기술이며, 좌/우 영상 내에서 동일 지점에 해당하는 대응점을 찾아 두 대응점간의 시차 (disparity) 정보를 계산함으로써 3차원 거리정보인 뎁스 맵(depth map)을 획득할 수 있다.
스테레오 정합 방법 중 하나인 센서스 변환 기반 스테레오 정합 방법은 두 카메라 사이의 이득(gain)이나 성향(bias)의 차이에 의해 발생하는 오차에 강인하며, SAD(sum of absolute difference), SSD (sum of squared difference), NCC (normalized correlation) 등과 같은 다른 스테레오 정합 방법과 비교하여 하드웨어로 구현하기 용이한 방법으로 알려져 있다.
도 1은 좌/우 영상에서 일정한 윈도우 크기 및 일정한 크기의 시차 탐색 범위(disparity search range)를 사용하는 센서스 변환 기반 스테레오 정합법을 나타낸 것이고, 도 2는 설정된 윈도우에서 해밍 웨이트 윈도우를 산출하는 방법을 나타낸 것이며, 도 3은 좌,우 해밍 웨이트 윈도우를 이용하여 해밍 비트 윈도우를 생성하는 방법을 도시한 것이다.
도 1을 참조하면, 좌 영상의 A 지점에 대한 우 영상에서의 대응점을 찾기 위해 좌 영상A 지점을 중심으로 하는 윈도우를 설정하고, 그에 대응하여 우 영상에서 A 지점에 대응되는 좌표인 B 지점으로부터 최대 시차 예측 범위인 B'지점까지 동일한 크기로 설정된 윈도우를 이동해가면서 우 영상에서 설정된 윈도우 영역 내부의 상관도가 좌 영상에서 설정된 윈도우 영역 내부의 상관도와 가장 높은 지점을 찾아 A 지점에 대응되는 좌우 영상간의 시차값을 얻게 된다.
그리고 또 다른 예로 C 지점에 대한 우 영상에서의 대응점을 찾기 위해 D 지점에서 D' 지점까지의 일정한 변위 범위 내에서 상관도가 가장 높은 지점을 찾는다.
좌,우 윈도우 간의 상관도 비교를 위한 방법을 도 2 및 도 3을 통해 설명한다.
센서스 변환은 특정 영역 내의 영상의 밝기 정보를 이용하여 비트열(bit stream) 정보를 생성하는 변환이다.
도 2는 센서스 변환 윈도우가 5×5 크기로 설정된 경우에 해밍 웨이트를 산출하는 방법을 도시한 것으로서, 좌 영상과 우 영상의 센서스 변환 윈도우에 대해 각각 해밍 웨이트를 구해야 한다.
도 2에서 좌측의 센서스 변환 윈도우내의 각 셀에 표시된 숫자는 영상을 2진화하였을 때의 밝기값을 나타내는 것으로서, 중앙에 있는 데이터를 기준으로 각각의 픽셀의 크기를 비교하여 각 픽셀의 밝기값이 중앙 지점의 밝기값보다 큰 경우 1, 반대인 경우 0으로 설정하여 우측과 같은 해밍 웨이트 윈도우를 생성하며, 이를 이용하여 도 2 하단부에 도시된 바와 같은 해밍 비트 스트림을 생성한다.
좌 영상과 우 영상에 대하여 각각 해밍 웨이트 윈도우가 생성되면, 도 3과 같이 좌 영상 해밍 웨이트 윈도우와 우 영상 해밍 웨이트 윈도우 간의 대응되는 셀의 값을 비교하여 두 값이 같으면 해밍 비트를 1로 설정하고, 다르면 0으로 설정한다.
도 3의 하단은 해밍 비트 윈도우를 나타낸 것으로서, 해밍 비트가 1인 개수가 많을수록 두 개의 영상이 일치함을 나타낸다.
좌 영상의 특정 지점의 해밍 웨이트값과 우 영상에서 설정된 윈도우에 대한 해밍 웨이트 값들을 비교하여 해밍 비트의 개수가 가장 많은 지점을 추출하게 되고, 좌 영상과 그에 대응되는 우 영상의 지점 간의 시차가 산출된다.
센서스 변환 기반 스테레오 정합 기법은 윈도우 크기에 따라 유사도 판단을 위한 비용(cost)을 계산하기 때문에 윈도우 크기가 클수록 정합 정확도가 높은 특성이 있어 윈도우의 크기가 커질 수록 대응점을 찾기 위한 연산량이 급격히 증가하고 3차원 정보를 획득하는데 많은 시간이 소모되는 문제가 있다.
한편, 윈도우 영역 별로 가중치에 차등을 두어 다양한 크기 및 모양을 가지는 윈도우를 사용하는 효과를 거둘 수 있는 적응적 영역 가중치 방법이 알려져 있다.
적응적 영역 가중치 방법은 좌영상과 우영상에서 설정된 윈도우 내의 각 픽셀에 대하여, 중심 픽셀과의 거리 및 색상 차를 활용하여 가중치를 계산한 후, 좌영상의 가중치와 우영상의 가중치가 반영된 정합비용의 누적치를 이용하여 좌,우 영상 윈도우 내의 상관도가 가장 높은 지점을 찾는 방식으로서, 좌영상내의 p점과 우영상내의 q점 간의 정합 비용(비유사도)는 하기의 수학식 1과 같이 표현된다.
Figure 112014121934717-pat00001
수학식 1에서 픽셀 p는 윈도우의 중심 픽셀이며, q는 주변 픽셀로서, Np, Np는 각각 좌 영상 윈도우와 우 영상 윈도우 영역 내의 대응되는 픽셀이다.
e(q,qd)는 원시 정합 비용(raw matching cost)를 나타내는 것으로서, 대응되는 좌,우 영상의 픽셀(p,q) 간의 밝기값의 절대차이다.
그리고,
Figure 112014121934717-pat00002
는 가중치 값으로서, γcp 는 상수계수이며, Δcpq는 픽셀 p와 픽셀 q사이의 색상 유사도, Δppq는 픽셀 p와 픽셀 q사이의 거리 근접도를 나타낸다.
그러나, 적응적 영역 가중치 방법은 연산량이 급격하게 증가하여 연산속도가 늘어나는 문제점이 있고, 원시 정합비용을 픽셀 간의 밝기 절대차를 이용하므로 센서스 변환 방식에 비해 정합비용 정확도가 떨어지는 문제점이 있다.
그 외에, 듬성한 윈도우 모양을 사용하여 센서스 변환의 비트열 생성을 위한 특정 영역을 지정하는 윈도우에서 특정 영역만 사용하는 방법과 적응적 영역 가중치 방법에서 윈도우 영역 내에 특정 영역만 연산에 사용하는 방법이 있다. 이 방법은 연산량을 감소시키고 연산 속도를 향상 시킬 수 있는 장점이 있으나, 그만큼 정확도가 떨어지는 문제점도 있다. 도 4는 다양한 윈도우 모양의 예를 나타내며, 제시된 모양 이외에도 다양한 모양이 사용된다.
본 발명은 이러한 종래기술의 문제점을 해결하기 위해 제안된 것으로서, 보 발명의 목적은 윈도우 영역 일부를 사용하지 않는 기법과 적응적 영역 가중치 방법을 융합하고, 센서스 변환 방식 기반의 누적 정합 비용을 사용함으로써 정합속도를 향상시키고 정합 정확도를 높일 수 있도록 하는 것이다.
상기와 같은 목적을 달성하기 위한 본 발명의 일 측면에 따르면, 좌 영상의 특정 지점을 중심으로 하는 적응적 영역 가중치 윈도우를 설정하고, 우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 한 점에 대하여 동일한 크기의 적응적 영역 가중치 윈도우를 설정하는 제 1 단계, 좌 영상과 우 영상의 각 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치를 산출하는 제 2 단계, 좌 영상과 우 영상에 설정된 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 정합 윈도우를 설정하는 제 3 단계, 상기 정합 윈도우를 이용하여 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대한 원시 정합 비용을 산출하는 제 4 단계, 상기 산출된 각 픽셀들의 적응적 영역 가중치와 원시 정합 비용을 이용하여 정합 비용을 산출하는 제 5 단계 및 우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 다른 점들에 대하여 정합 비용을 산출한 후, 산출된 정합 비용들의 비교를 통해 시차값을 산출하는 제 6 단계를 포함하는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법이 제공된다.
본 발명의 바람직한 다른 일 측면에 따르면, 좌 영상과 우 영상에 각각 설정된 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치를 산출하는 가중치 산출부, 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 정합 윈도우를 설정하고, 상기 정합 윈도우를 이용하여 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대한 원시 정합 비용을 산출하는 센서스 변환부, 상기 산출된 각 픽셀들의 적응적 영역 가중치와 원시 정합 비용을 이용하여 정합 비용을 산출하는 정합 비용 산출부 및 우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 다른 점들에 대하여 정합 비용을 산출한 후, 산출된 정합 비용들의 비교를 통해 시차값을 산출하는 시차 산출부를 포함하는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템이 제공된다.
이상과 같은 본 발명에 의하면, 센서스 변환 기반 스테레오 매칭과 적응적 영역 가중치 방식을 조합함으로써 정합 정확도를 향상시킬 수 있으면서도, 윈도우 영역 내부의 사용 픽셀을 제한함으로써 급격한 연산량 증가를 방지할 수 있어 연산속도가 빠르면서도 높은 정합도를 달성할 수 있는 효과가 있다.
또한, 가중치 산출과 센서스 변환 기반 스테레오 매칭 처리를 동시에 진행하고 정합 비용 산출과정에서 분자 계산과 분모 계산을 동시에 진행함으로써 연산 속도를 높일 수 있다.
도 1은 좌/우 영상에서 일정한 윈도우 크기 및 일정한 크기의 시차 탐색 범위(disparity search range)를 사용하는 센서스 변환 기반 스테레오 정합법을 나타낸 것이다.
도 2는 설정된 윈도우에서 해밍 웨이트 윈도우를 산출하는 방법을 나타낸 것이다.
도 3은 좌,우 해밍 웨이트 윈도우를 이용하여 해밍 비트 윈도우를 생성하는 방법을 도시한 것이다.
도 4는 정합 비용 계산에 사용되는 윈도우 모양의 다양한 예를 나타내는 그림이다.
도 5는 본 발명에 따른 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법이 수행되는 과정을 도시한 흐름도이다.
도 6은 본 발명의 실시예에 따른 센서스 변환 기반 스테레오 정합 방법과 적응적 영역 가중치 방법을 융합하여 신뢰성 높은 시차정보를 획득하는 방법을 설명하기 위한 도면이다.
도 7은 본 발명에 따른 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템의 구성을 도시한 블럭도이다.
도 8은 본 발명의 실시예에 따른 밝기 차이에 따른 가중치 값과 이를 구하는 슈도코드를 나타낸다.
도 9는 본 발명의 실시예에 따른 다양한 윈도우 모양의 예를 나타내는 그림이다.
도 10은 본 발명의 실시예에 따른 적응적 영역 가중치 윈도우와 센서스 변환 스테레오 정합을 위한 정합 윈도우의 사용방법을 나타내는 그림이다.
이하에서는 첨부된 도면을 참조하여 본 발명의 바람직한 일 실시예를 상세하게 설명하기로 한다.
도 5는 본 발명에 따른 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법이 수행되는 과정을 도시한 흐름도, 도 6은 본 발명의 실시예에 따른 센서스 변환 기반 스테레오 정합 방법과 적응적 영역 가중치 방법을 융합하여 신뢰성 높은 시차정보를 획득하는 방법을 설명하기 위한 도면, 도 7은 본 발명에 따른 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템의 구성을 도시한 블럭도, 도 8은 본 발명의 실시예에 따른 밝기 차이에 따른 가중치 값과 이를 구하는 슈도코드를 나타낸다.
도 5를 기반으로 본 발명에서 센서스 변환 기반 스테레오 정합 방법과 적응적 영역 가중치 방법을 융합하여 신뢰성 높은 시차정보를 획득하는 방법을 설명하면 다음과 같다.
우선, 좌 영상과 우 영상에서 각각 비용 정합 산출을 위한 윈도우가 설정된다(S100-1, S100-2). 도 6과 같이, 좌 영상의 특정 지점(P)에 대응되는 우 영상의 지점을 찾기 위해 좌 영상의 특정 지점(P)을 중심으로 하는 적응적 영역 가중치 윈도우(Wal, 이하 "가중치 윈도우"라 함)가 설정된다. 도 6의 실시예에서는 5×5 크기의 가중치 윈도우(Wal)가 예시되어 있다. 그리고, 우 영상에서 좌 영상의 P 지점에 대하여 최대 시차 예측값 이내에 위치하는 한 점(Pd)에 대하여 동일한 크기의 가중치 윈도우(War)가 설정된다.
좌 영상과 우 영상에서 가중치 윈도우(Wal,War)가 각각 설정되면, 각 윈도우 (Wal,War)내의 모든 픽셀에 대하여 적응적 영역 가중치(이하 "가중치"라 함)가 산출된다(S110-1, S110-3).
본 발명에서는 가중치 산출을 위한 연산을 감소시킬 수 있도록 픽셀의 밝기값 차만을 이용하였으며, 가중치는 하기 수학식 2에 의해 산출된다.
Figure 112014121934717-pat00003
γ p : 상수 계수
Δppq : 셀의 밝기 값의 차이
즉, 중심 픽셀(P)과 이웃 픽셀의 밝기 차가 클수록 가중치가 지수함수적으로 감소함을 알 수 있으며, 도 8과 같은 간단한 슈도 코드(psedo code)로 가중치 계산함수가 구현될 수 있다. 도 8의 가중치 계산 함수는 최대 64에서 0 사이에서 지수적으로 가중치가 감소하도록 되어 있다.
상기 수학식 2를 이용하여 좌 영상과 우 영상에서 가중치 윈도우(Wal,War) 내의 모든 픽셀들에 대하여 가중치가 계산된다. 이러한 계산은 하드웨어적으로 구현될 수 있으며, 이를 위해 본 발명에 따른 시차 계산 시스템은 좌측 적응적 영역 가중치 산출부(210)와 우측 적응적 영역 가중치 산출부(220)를 포함하는 가중치 산출부(200)를 포함할 수 있다.
가중치 산출과 동시에 스테레오 기반 센서스 변환이 이루어진다(S110-2). 이와 같이 좌 영상과 우 영상의 가중치 계산 및 센서스 변환이 동시에 병렬적으로 이루어지므로 연산 시간을 단축시킬 수 있는 장점이 있다.
스테레오 기반 센서스 변환을 위해 좌 영상과 우 영상에 설정된 가중치 윈도우(Wal,War)내의 모든 픽셀들에 대하여 원시 정합 비용(raw matching cost)을 구하기 위한 정합 윈도우(Wcl,Wcr)가 설정된다.
도 6에서 좌측 가중치 윈도우(Wal) 내의 픽셀들에 대하여 일정 크기(실시예에서는 3×3)의 정합 윈도우(Wcl)가 설정되고, 우측 가중치 윈도우(War) 내의 대응 픽셀들에 대해서도 동일한 크기의 정합 윈도우(Wcr)가 설정된다. 도 6에서는 좌측 가중치 윈도우(Wal) 내의 q 픽셀과 우측 가중치 윈도우(War) 내의 대응 픽셀인 qd 픽셀에 각각 정합 윈도우(Wcl, War)가 설정된 것을 나타낸다.
좌측 정합 윈도우(Wcl)와 우측 정합 윈도우(Wcr)에 대하여 센서스 변환 기반 스테레오 매칭 방식을 적용하여 가중치 윈도우(Wal) 내의 q 픽셀과 우측 가중치 윈도우(War) 내의 대응 픽셀인 qd 픽셀 간의 원시 정합비용이 계산된다. 이러한 계산은 하드웨어적으로 구현될 수 있으며, 이를 위해 본 발명에 따른 시차 계산 시스템은 좌측 해밍 웨이트 산출부(110), 우측 해밍 웨이트 산출부(120) 및 해밍 디스턴스 산출부(130)를 포함하는 센서스 변환부(100)를 포함할 수 있다.
상기에서 좌,우 영상에 대하여 가중치와 원시 정합비용이 산출되면, 하기 수학식 3을 이용하여 정합 비용으로서 DASW(p,pd)가 계산된다.
Figure 112014121934717-pat00004
여기서, Np, Npd는 각각 좌 영상 윈도우와 우 영상 윈도우 영역 내의 대응되는 픽셀이고, e(q,qd)는 종래 기술에 따른 수학식 1과 달리 센서스 변환 기반 스테레오 매칭을 통해 계산된 원시 정합 비용을 나타낸다.
상기 수학식 3을 이용하여 정합 비용을 구하는 과정은, 수학식 3의 분자를 합산하는 과정(S120-1)과 수학식 3의 분모를 합산하는 과정(S120-2)을 거친 후, 합산된 분자값을 분모값으로 제산하는 과정(S130)을 통해 이루어진다. 이러한 분자 및 분모값 합산 및 제산 처리는 하드웨어적으로 구현될 수 있으며, 이를 위해 본 발명에 따른 시차 계산 시스템은 분자 합산부(310), 분모 합산부(320) 및 제산부(330)를 포함하는 정합비용 산출부(300)를 포함할 수 있다.
그리고, 분자 계산 과정(S120-1)과 분모 계산 과정(120-2) 또한 동시에 처리되도록 함으로써 연산 속도를 향상시킬 수 있다.
좌 영상의 p점과 우 영상에서 p점에 대응되는 최대 시차 예측범위 내의 모든 점들에 대하여 상기와 같은 정합 비용이 산출된 후, 산출된 정합 비용 비교를 통해 시차값이 계산된다(S140). 이러한 시차 계산도 하드웨어적으로 이루어질 수 있고, 본 발명에 따른 시차 계산 시스템은 시차 산출부(400)를 포함할 수 있다.
도 9는 본 발명의 변형된 실시예에 따른 다양한 윈도우 모양의 예를 나타내는 그림이고, 도 10은 본 발명의 변형된 실시예에 따른 가중치 윈도우와 정합 윈도우의 사용방법을 나타내는 그림이다.
도 9의 (a)는 듬성한 가중치 윈도우의 일례를 나타낸 것이고, (b)는 듬성한 정합 윈도우를 나타내는 일례로서, 본 발명의 변형된 실시예는 스테레오 정합과 가중치 계산에서 윈도우 영역 일부를 사용하지 않는 것이 특징이다.
보다 구체적으로 도 9에서, (a)는 7×7 크기의 윈도우에서 8 점의 사용을 나타내는 원형(circle)의 가중치 윈도우를 나타내며, (b)는 5×5 크기의 윈도우에서 8 점의 사용을 나타내는 듬성형(sparse)의 정합 윈도우를 나타낸다. 가중치 윈도우는 가중치 계산과정(S110-1, S110-2)에서 사용되는 윈도우 영역의 사용 여부를 결정하며, 정합 윈도우는 센서스 변환 과정(S110-2)에서 사용되는 윈도우 영역의 사용 여부를 결정한다.
즉, 수학식 3에서 Np, Npd는 좌우 듬성한 윈도우 영역 내의 선택 픽셀을 나타내며, 선택 픽셀에 대해서만 센서스 변환과 가중치 계산이 이루어지도록 함으로써 연산 시간을 감소시킬 수 있도록 하였다.
도 10은 도 9에 예시된 가중치 윈도우와 정합 윈도우를 이용하여 정합 비용을 산출하는 방법을 도시한 것으로서, 가중치 윈도우에서 미리 설정된 선택 픽셀에 대해서만 정합 윈도우가 설정되어 센서스 변환 기반의 스테레오 매칭이 이루어지고, 센서스 변환 기반의 스테레오 매칭에 있어서도 정합 윈도우에서 미리 설정된 선택 픽셀에 대해서만 센서스 변환이 이루어지는 과정을 통해 연산 시간을 감소시키게 된다.
이상에서와 같이 도면과 명세서에서 최적 실시예가 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.
100 : 센서스 변환부 110 : 좌측 해밍 웨이트 산출부
120 : 우측 해밍 웨이트 산출부 130 : 해밍 디스턴스 산출부
200 : 가중치 산출부
210 : 좌측 적응적 영역 가중치 산출부
220 : 우측 적응적 영역 가중치 산출부
300 : 정합비용 산출부 310 : 분자 합산부
320 : 분모 합산부 330 : 제산부
340 : 시차 산출부

Claims (20)

  1. 좌 영상의 특정 지점을 중심으로 하는 적응적 영역 가중치 윈도우를 설정하고, 우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 한 점에 대하여 동일한 크기의 적응적 영역 가중치 윈도우를 설정하는 제 1 단계;
    좌 영상과 우 영상의 각 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치 윈도우의 중심 픽셀과 나머지 픽셀들의 밝기값의 차를 이용하여 적응적 영역 가중치를 산출하는 제 2 단계;
    좌 영상과 우 영상에 설정된 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 정합 윈도우를 설정하는 제 3 단계;
    상기 정합 윈도우를 이용하여 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대한 원시 정합 비용을 산출하는 제 4 단계;
    상기 산출된 각 픽셀들의 적응적 영역 가중치와 원시 정합 비용을 이용하여 정합 비용을 산출하는 제 5 단계; 및
    우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 다른 점들에 대하여 정합 비용을 산출한 후, 산출된 정합 비용들의 비교를 통해 시차값을 산출하는 제 6 단계를 포함하되,
    상기 제 1, 2 단계와 제3,4 단계가 동시에 병렬적으로 수행되고, 상기 적응적 영역 가중치 윈도우와 정합 윈도우는 윈도우 영역 내의 선택 픽셀만 사용하는 듬성형 윈도우인 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법.
  2. 삭제
  3. 제 1 항에 있어서,
    상기 적응적 영역 가중치는 하기 수학식에 의해 산출되는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법.
    Figure 112016009157823-pat00005

    γp : 상수 계수, Δppq : 셀의 밝기 값의 차이
  4. 삭제
  5. 제 1 항에 있어서,
    상기 원시 정합 비용은 센서스 변환 기반 스테레오 매칭을 통해 계산되는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법.
  6. 제 5 항에 있어서,
    상기 제 5 단계에서, 정합 비용은 하기 수학식에 의해 산출되는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법.
    Figure 112014121934717-pat00006

    여기서, Np, Npd는 각각 좌 영상 윈도우와 우 영상 윈도우 영역 내의 대응되는 픽셀이고, e(q,qd)는 센서스 변환 기반 스테레오 매칭을 통해 계산된 원시 정합 비용임
  7. 제 6 항에 있어서,
    상기 수학식을 이용하여 정합 비용을 구하는 제 5 단계는,
    수학식 3의 분자를 합산하는 제 5-1 단계와, 수학식 3의 분모를 합산하는 제 5-2 단계와, 합산된 분자값을 분모값으로 제산하는 제 5-3 단계를 통해 산출되는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법.
  8. 제 7 항에 있어서,
    상기 제 5-1 단계와 5-2 단계는 동시에 병렬적으로 수행되는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법.
  9. 삭제
  10. 삭제
  11. 좌 영상과 우 영상에 각각 설정된 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치 윈도우의 중심 픽셀과 나머지 픽셀들의 밝기값의 차를 이용하여 적응적 영역 가중치를 산출하는 가중치 산출부;
    상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 정합 윈도우를 설정하고, 상기 정합 윈도우를 이용하여 상기 적응적 영역 가중치 윈도우 내의 픽셀들에 대한 원시 정합 비용을 산출하는 센서스 변환부;
    상기 산출된 각 픽셀들의 적응적 영역 가중치와 원시 정합 비용을 이용하여 정합 비용을 산출하는 정합 비용 산출부;
    우 영상에서 좌 영상의 특정 지점에 대하여 최대 시차 예측값 이내에 위치하는 다른 점들에 대하여 정합 비용을 산출한 후, 산출된 정합 비용들의 비교를 통해 시차값을 산출하는 시차 산출부를 포함하되,
    상기 적응적 영역 가중치 윈도우와 정합 윈도우는 윈도우 영역 내의 선택 픽셀만 사용하는 듬성형 윈도우이고, 상기 가중치 산출부와 센서스 변환부는 동시에 병렬적으로 구동되는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템.
  12. 제 11 항에 있어서,
    상기 가중치 산출부는
    좌측 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치를 산출하는 좌측 적응적 영역 가중치 산출부와, 우측 적응적 영역 가중치 윈도우 내의 픽셀들에 대하여 적응적 영역 가중치를 산출하는 우측 적응적 영역 가중치 산출부를 포함하는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템.
  13. 제 11 항에 있어서,
    상기 센서스 변환부는
    좌측 정합 윈도우내의 중심 픽셀과 나머지 픽셀들의 밝기 차를 이용하여 해밍 웨이트를 산출하는 좌측 해밍 웨이트 산출부와, 우측 정합 윈도우내의 중심 픽셀과 나머지 픽셀들의 밝기 차를 이용하여 해밍 웨이트를 산출하는 우측 해밍 웨이트 산출부와, 상기 산출된 좌측 해밍 웨이트와 우측 해밍 웨이트를 이용하여 해밍 디스턴스를 산출하는 해밍 디스턴스 산출부를 포함하는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템.
  14. 제 11 항에 있어서,
    상기 정합 비용 산출부는 하기 수학식에 의해 정합 비용을 산출하는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템.
    Figure 112014121934717-pat00007

    여기서, Np, Npd는 각각 좌 영상 윈도우와 우 영상 윈도우 영역 내의 대응되는 픽셀이고, e(q,qd)는 센서스 변환 기반 스테레오 매칭을 통해 계산된 원시 정합 비용임
  15. 제 14 항에 있어서,
    상기 정합 비용 산출부는
    상기 수학식의 분자값을 합산처리하는 분자 합산부와, 상기 수학식의 분모값을 합산처리하는 분모 합산부와, 상기 분자 합산값을 분모 합산값으로 제산하는 제산부를 포함하는 것을 특징으로 하는 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 시스템.
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
KR1020140180880A 2014-12-16 2014-12-16 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템 KR101622344B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020140180880A KR101622344B1 (ko) 2014-12-16 2014-12-16 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템
US14/587,620 US9786063B2 (en) 2014-12-16 2014-12-31 Disparity computation method through stereo matching based on census transform with adaptive support weight and system thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140180880A KR101622344B1 (ko) 2014-12-16 2014-12-16 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템

Publications (1)

Publication Number Publication Date
KR101622344B1 true KR101622344B1 (ko) 2016-05-19

Family

ID=56103455

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140180880A KR101622344B1 (ko) 2014-12-16 2014-12-16 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템

Country Status (2)

Country Link
US (1) US9786063B2 (ko)
KR (1) KR101622344B1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180070857A (ko) * 2016-12-19 2018-06-27 경북대학교 산학협력단 버티컬 센서스 변환 기반 스테레오 정합을 통한 시차정보 생성장치 및 그 방법
WO2018030642A3 (ko) * 2016-08-10 2018-08-09 주식회사 유엑스팩토리 Cmos 이미지 센서를 집적한 스테레오 이미지 정합 시스템 및 방법
WO2018062650A3 (ko) * 2016-09-30 2018-09-07 중앙대학교 산학협력단 스테레오 매칭 장치 및 방법
CN112150519A (zh) * 2020-08-10 2020-12-29 华洋通信科技股份有限公司 一种对光照不敏感的局部立体匹配方法
CN113763269A (zh) * 2021-08-30 2021-12-07 上海工程技术大学 一种用于双目图像的立体匹配方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE202013006962U1 (de) 2013-08-05 2013-08-28 Tenneco Gmbh Mischkammer
US9784163B2 (en) 2015-01-22 2017-10-10 Tenneco Automotive Operating Company Inc. Exhaust aftertreatment system having mixer assembly
US9905020B2 (en) * 2015-02-12 2018-02-27 Texas Instruments Incorporated Method and circuitry for performing census transforms
DE102015103425B3 (de) 2015-03-09 2016-05-19 Tenneco Gmbh Mischvorrichtung
CN104966290B (zh) * 2015-06-12 2017-12-08 天津大学 一种基于sift描述子的自适应权重立体匹配方法
US20180213201A1 (en) * 2015-07-21 2018-07-26 Heptagon Micro Optics Pte. Ltd. Generating a disparity map based on stereo images of a scene
KR20170047780A (ko) * 2015-10-23 2017-05-08 한국전자통신연구원 적응적 윈도우 마스크를 이용하는 로우 코스트 계산장치 및 그 방법
US10554947B1 (en) * 2015-12-16 2020-02-04 Marvell International Ltd. Method and apparatus for stereo vision matching including disparity refinement based on matching merit values
US10462445B2 (en) 2016-07-19 2019-10-29 Fotonation Limited Systems and methods for estimating and refining depth maps
US10839535B2 (en) 2016-07-19 2020-11-17 Fotonation Limited Systems and methods for providing depth map information
DE112018002572T5 (de) * 2017-05-19 2020-06-04 Movidius Ltd. Verfahren, systeme und vorrichtungen zur optimierung der pipeline-ausführung
CN107680083B (zh) * 2017-09-13 2020-05-29 海信集团有限公司 视差确定方法和视差确定装置
CN108682026B (zh) * 2018-03-22 2021-08-06 江大白 一种基于多匹配基元融合的双目视觉立体匹配方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100438212B1 (ko) * 2002-08-09 2004-07-01 학교법인고려중앙학원 전자현미경을 사용해서 물체의 3차원 공간 데이터를추출하는 방법 및 그 장치
US7119816B2 (en) * 2003-03-31 2006-10-10 Microsoft Corp. System and method for whiteboard scanning to obtain a high resolution image
US8400497B2 (en) * 2007-09-07 2013-03-19 Samsung Electronics Co., Ltd Method and apparatus for generating stereoscopic file
JP4934701B2 (ja) * 2009-06-30 2012-05-16 株式会社日立製作所 ステレオ画像処理装置およびステレオ画像処理方法
US20120007819A1 (en) * 2010-07-08 2012-01-12 Gregory Robert Hewes Automatic Convergence Based on Touchscreen Input for Stereoscopic Imaging
KR101875615B1 (ko) * 2010-09-01 2018-07-06 엘지전자 주식회사 삼차원 디스플레이를 위한 디지털 방송 신호를 처리하는 방법 및 장치
JP4956658B2 (ja) * 2010-10-12 2012-06-20 シャープ株式会社 立体映像変換装置及び立体映像表示装置
US20130258067A1 (en) * 2010-12-08 2013-10-03 Thomson Licensing System and method for trinocular depth acquisition with triangular sensor
JP2012177676A (ja) * 2011-01-31 2012-09-13 Sony Corp 画像処理装置および方法、並びにプログラム
US10805625B2 (en) * 2011-07-05 2020-10-13 Texas Instruments Incorporated Method, system and computer program product for adjusting a stereoscopic image in response to decoded disparities between views of the stereoscopic image
US9014463B2 (en) * 2011-11-25 2015-04-21 Kyungpook National University Industry-Academic Cooperation Foundation System for real-time stereo matching
KR101862199B1 (ko) * 2012-02-29 2018-05-29 삼성전자주식회사 원거리 획득이 가능한 tof카메라와 스테레오 카메라의 합성 시스템 및 방법
US8879829B2 (en) * 2012-10-23 2014-11-04 Intel Corporation Fast correlation search for stereo algorithm
TWI502544B (zh) * 2013-03-07 2015-10-01 Acer Inc 立體影像的視差估算方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
논문1*
논문2*

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018030642A3 (ko) * 2016-08-10 2018-08-09 주식회사 유엑스팩토리 Cmos 이미지 센서를 집적한 스테레오 이미지 정합 시스템 및 방법
WO2018062650A3 (ko) * 2016-09-30 2018-09-07 중앙대학교 산학협력단 스테레오 매칭 장치 및 방법
KR20180070857A (ko) * 2016-12-19 2018-06-27 경북대학교 산학협력단 버티컬 센서스 변환 기반 스테레오 정합을 통한 시차정보 생성장치 및 그 방법
KR101896160B1 (ko) * 2016-12-19 2018-09-07 경북대학교 산학협력단 버티컬 센서스 변환 기반 스테레오 정합을 통한 시차정보 생성장치 및 그 방법
CN112150519A (zh) * 2020-08-10 2020-12-29 华洋通信科技股份有限公司 一种对光照不敏感的局部立体匹配方法
CN113763269A (zh) * 2021-08-30 2021-12-07 上海工程技术大学 一种用于双目图像的立体匹配方法
CN113763269B (zh) * 2021-08-30 2023-11-24 上海工程技术大学 一种用于双目图像的立体匹配方法

Also Published As

Publication number Publication date
US20160173852A1 (en) 2016-06-16
US9786063B2 (en) 2017-10-10

Similar Documents

Publication Publication Date Title
KR101622344B1 (ko) 적응적 영역 가중치가 적용된 센서스 변환 기반 스테레오 정합을 통한 시차 계산 방법 및 그 시스템
CN109886997B (zh) 基于目标检测的识别框确定方法、装置及终端设备
Feng et al. Local background enclosure for RGB-D salient object detection
KR102459853B1 (ko) 디스패리티 추정 장치 및 방법
US9576367B2 (en) Object detection method and device
JP2015138554A (ja) 対象追跡方法及び装置
JP2011138500A (ja) ステレオ映像内の視差探索範囲を求めるための方法及びシステム
US9292929B2 (en) Image region extraction device, image region extraction method, and image region extraction program
CN104881029B (zh) 基于一点ransac和fast算法的移动机器人导航方法
KR20130049091A (ko) 병변 경계의 오류 검출 장치 및 방법, 병변 경계의 오류 수정 장치 및 방법 및, 병변 경계의 오류 검사 장치
JP2014229317A (ja) 1つ以上の画像処理アルゴリズムの自動選択のための方法およびシステム
WO2018082308A1 (zh) 一种图像处理方法及终端
CN103455991A (zh) 一种多聚焦图像融合方法
CN103578092A (zh) 一种多聚焦图像融合方法
CN105809182B (zh) 一种图像分类的方法及装置
Haq et al. An edge-aware based adaptive multi-feature set extraction for stereo matching of binocular images
KR20150053438A (ko) 스테레오 매칭 시스템과 이를 이용한 시차 맵 생성 방법
Kim et al. Adaptive descriptor-based robust stereo matching under radiometric changes
CN104125470A (zh) 一种视频数据传输方法
US11475233B2 (en) Image processing device and image processing method
US10430971B2 (en) Parallax calculating apparatus
JP6601893B2 (ja) 画像処理装置、画像処理方法、及びプログラム
CN104125471B (zh) 一种视频图像压缩方法
JP2006031392A (ja) テンプレート照合装置および方法
JP2009282635A (ja) サブピクセル推定装置およびサブピクセル推定方法

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190429

Year of fee payment: 4