KR101856344B1 - 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법 - Google Patents

스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법 Download PDF

Info

Publication number
KR101856344B1
KR101856344B1 KR1020160106266A KR20160106266A KR101856344B1 KR 101856344 B1 KR101856344 B1 KR 101856344B1 KR 1020160106266 A KR1020160106266 A KR 1020160106266A KR 20160106266 A KR20160106266 A KR 20160106266A KR 101856344 B1 KR101856344 B1 KR 101856344B1
Authority
KR
South Korea
Prior art keywords
value
cumulative
parallax
pixel
image
Prior art date
Application number
KR1020160106266A
Other languages
English (en)
Other versions
KR20180021549A (ko
Inventor
박민우
이원석
정순기
박정필
정근호
Original Assignee
현대자동차주식회사
기아자동차주식회사
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사, 기아자동차주식회사, 경북대학교 산학협력단 filed Critical 현대자동차주식회사
Priority to KR1020160106266A priority Critical patent/KR101856344B1/ko
Priority to US15/353,430 priority patent/US10171795B2/en
Priority to DE102016123168.1A priority patent/DE102016123168A1/de
Priority to CN201611078378.9A priority patent/CN107770512B/zh
Publication of KR20180021549A publication Critical patent/KR20180021549A/ko
Application granted granted Critical
Publication of KR101856344B1 publication Critical patent/KR101856344B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Measurement Of Optical Distance (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

본 발명의 일 실시예에 따른 시차맵 생성 장치는 좌영상 및 우영상을 획득하는 영상 획득부, 상기 좌영상 및 상기 우영상의 픽셀별 매칭 비용을 계산하는 매칭 비용 계산부, 상기 계산된 매칭 비용을 기초로 상기 픽셀의 누적값을 구하고, 상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 누적값에 곱한 값들의 평균인 릴렉세이션 누적값을 계산하는 누적합 계산부, 상기 계산된 릴렉세이션 누적값을 기초로 픽셀별 시차값을 도출하는 시차값 도출부 및 상기 도출된 시차값을 기초로 시차맵을 생성하는 시차맵 생성부를 포함할 수 있다.

Description

스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법{SYSTEM AND METHOD FOR GENERATING DISPARITY MAP BY MATCHING STEREO IMAGES}
본 발명은 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법에 관한 것이다.
스테레오 영상정합 기술은 3차원 정보에 기반한 객체(차량, 보행자) 검출, 주행가능 영역 계산 등을 비롯한 차량의 주변상황인지를 위해 다양하게 활용되고 있다. 스테레오 영상정합 기술을 차량 환경에서 활용하기 위해서는 스테레오 정합 결과에 대한 높은 신뢰도가 요구된다.
광역 최적화(Global matching) 기반의 스테레오 영상정합 알고리즘은 높은 품질의 3차원 정보를 계산할 수 있으나 높은 계산 복잡도를 가져, 차량 환경에서는 낮은 계산 비용을 요구하는 지역 최적화(Local matching) 기반의 영상 정합 알고리즘이 적용되고 있다. 그러나 지역최적화 방법은 도로면과 같은 넓은 영역에 대해서 정확하고 조밀한 정합을 할 수 없다는 단점이 있다.
최근 계산 비용 대비 품질면에서 우수한 반광역 최적화(Semi-global matching) 기법을 기반으로 한 연구가 활발하게 진행되고 있다. 그러나 종래에 사용되는 반광역 최적화 기법은 차량 환경에 적합하지 않은 3차원 기하요소를 가정하고 있으며, 이로 인해 정합품질과 계산비용에 있어서 성능저하가 발생한다는 문제가 있다. 특히 도로면과 같이 카메라의 영상평면에 대하여 크게 기울어진 면에 대한 정합에 어려움이 있고, 차량 주행시 자주 발생하는 비와 눈과 같은 악천후 상황에서는 제대로 된 스테레오 매칭이 수행되기 어렵다.
따라서 악천후에서도 스테레오 정합을 하여 우수한 시차맵을 생성할 수 있는 시스템 및 방법의 개발이 요구되는 실정이다.
(1) K.H.Won and S.K.Jung, Billboard sweep stereo for obstacle detection in road scenes, Electronics Letters, 48(24):1528-1530, November 2012. (2) K.H.Won, J.W.Son and S.K.Jung, Stixels Estimation through Stereo Matching of Road Scenes, Proceedings of the 2014 Conference on Research in Adaptive and Convergent Systems(RACS), pp116-120, October 5-8 2014, Towson, MD, USA
본 발명은 상기와 같은 종래의 문제점을 해결하기 위하여 안출된 것으로서, 악천후에도 스테레오 영상의 정합을 우수하게 할 수 있는 시차맵 생성 방법을 사용자에게 제공하는 데 그 목적이 있다.
한편, 본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 실현하기 위한 본 발명의 일예와 관련된 시차맵 생성 장치는 좌영상 및 우영상을 획득하는 영상 획득부, 상기 좌영상 및 상기 우영상의 픽셀별 매칭 비용을 계산하는 매칭 비용 계산부, 상기 계산된 매칭 비용을 기초로 상기 픽셀의 누적값을 구하고, 상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 누적값에 곱한 값들의 평균인 릴렉세이션 누적값을 계산하는 누적합 계산부, 상기 계산된 릴렉세이션 누적값을 기초로 픽셀별 시차값을 도출하는 시차값 도출부 및 상기 도출된 시차값을 기초로 시차맵을 생성하는 시차맵 생성부를 포함할 수 있다.
일 실시예에서, 상기 매칭 비용 계산부는, 상기 좌영상과 상기 우영상의 지면영상을 비교하여 상기 매칭 비용을 계산하고, 상기 좌영상와 상기 우영상의 지면 윗부분 영상을 비교하여 매칭 비용을 계산할 수 있다.
일 실시예에서, 상기 누적합 계산부는 수직 방향으로 상기 매칭 비용을 누적합하는 경우, 해당 시차의 이전 방향 누적값, 시차값 주변 방향 누적값에 제 1 누적 상수를 합한 값 및 이전 방향 누적값 들의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구하고, 수평 방향으로 상기 매칭 비용을 누적합하는 경우, 해당 시차의 이전 방향 누적값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구할 수 있다.
일 실시예에서, 상기 누적합 계산부는, 상기 픽셀의 시차값과 상기 픽셀의 주변픽셀의 시차값간의 관계 계수들 각각을 상기 픽셀의 상기 릴렉세이션 누적값에 곱한 값들의 평균인 반복 릴렉세이션 누적값을 계산하고, 상기 시차값 도출부는 상기 반복 릴렉세이션 누적값을 기초로 상기 픽셀별 시차값을 도출할 수 있다.
일 실시예에서, 상기 시차값 도출부는 상기 계산된 누적값이 최소가 되는 시차값을 상기 픽셀의 시차값으로 도출할 수 있다.
일 실시예에서, 수직방향 또는 수평방향으로 상기 시차값이 같은 픽셀을 그룹화하여 스틱셀로 구성하고, 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 상기 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 상기 복수의 스틱셀의 시차값으로 변경하는 스틱셀 적용부를 더 포함할 수 있다.
상술한 과제를 실현하기 위한 본 발명의 일예와 관련된 시차맵 생성 방법은 좌영상 및 우영상을 획득하는 단계, 상기 좌영상 및 상기 우영상의 픽셀별 매칭 비용을 계산하는 단계, 상기 계산된 매칭 비용을 기초로 상기 픽셀의 누적값을 구하는 단계, 상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 누적값에 곱한 값들의 평균인 릴렉세이션 누적값을 계산하는 단계, 상기 계산된 릴렉세이션 누적값을 기초로 픽셀별 시차값을 도출하는 단계 및 상기 도출된 시차값을 기초로 시차맵을 생성하는 단계를 포함할 수 있다.
일 실시예에서, 상기 매칭 비용을 계산하는 단계는, 상기 좌영상과 상기 우영상의 지면영상을 비교하여 상기 매칭 비용을 계산하고, 상기 좌영상와 상기 우영상의 지면 윗부분 영상을 비교하여 매칭 비용을 계산할 수 있다.
일 실시예에서, 상기 누적값을 계산하는 단계는 수직 방향으로 상기 매칭 비용을 누적합하는 경우, 해당 시차의 이전 방향 누적값, 시차값 주변 방향 누적값에 제 1 누적 상수를 합한 값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구하고, 수평 방향으로 상기 매칭 비용을 누적합하는 경우, 해당 시차의 이전 방향 누적값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구할 수 있다.
일 실시예에서, 상기 릴렉세이션 누적값을 계산하는 단계 후, 상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 상기 릴렉세이션 누적값에 곱한 값들의 평균인 반복 릴렉세이션 누적값을 계산하는 단계를 더 포함하고, 상기 픽셀별 시차값을 도출하는 단계는, 상기 반복 릴렉세이션 누적값을 기초로 상기 픽셀별 시차값을 도출할 수 있다.
일 실시예에서, 상기 픽셀별 시차값을 도출하는 단계는 상기 계산된 누적값이 최소가 되는 시차값을 상기 픽셀의 시차값으로 도출할 수 있다.
일 실시예에서, 수직방향 또는 수평방향으로 상기 시차값이 같은 픽셀을 그룹화하여 스틱셀로 구성하고, 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 상기 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 상기 복수의 스틱셀의 시차값으로 변경하는 단계를 더 포함할 수 있다.
본 발명의 실시예들은 악천후에도 스테레오 영상의 정합을 우수하게 할 수 있는 시차맵 생성 방법을 사용자에게 제공할 수 있다.
한편, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 일 실시예를 예시하는 것이며, 발명의 상세한 설명과 함께 본 발명의 기술적 사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석 되어서는 아니 된다.
도 1은 본 발명의 일 실시예에 따른 시차맵 생성 시스템의 블록도이다.
도 2a는 본 발명의 일 실시예에 따른 수직방향으로 위에서 아래로 매칭 비용을 누적합하는 과정을 나타내는 도면이다.
도 2b는 본 발명의 일 실시예에 따른 수직방향으로 아래에서 위로 매칭 비용을 누적합하는 과정을 나타내는 도면이다.
도 3a는 본 발명의 일 실시예에 따른 수평방향으로 왼쪽에서 오른쪽로 매칭 비용을 누적합하는 과정을 나타내는 도면이다.
도 3b는 본 발명의 일 실시예에 따른 수평방향으로 오른쪽에서 왼쪽으로 매칭 비용을 누적합하는 과정을 나타내는 도면이다.
도 4는 본 발명의 일 실시예에 따른 매칭 비용을 릴렉세이션 누적합하는 과정을 나타내는 도면이다.
도 5a는 본 발명의 일 실시예에 따른 픽셀별 매칭 비용이 나타난 매칭 비용 맵이다.
도 5b는 본 발명의 일 실시예에 따라 왼쪽에서 오른쪽 방향으로 누적합이 한번 수행된 경우의 픽셀별 누적값이 나타난 누적값 맵이다.
도 5c는 본 발명의 일 실시예에 따라 왼쪽에서 오른쪽 방향으로 누적합이 두번 수행된 경우의 픽셀별 누적값이 나타난 누적값 맵이다.
도 5d는 본 발명의 일 실시예에 따라 왼쪽에서 오른쪽 방향으로 누적합이 세번 수행된 경우의 픽셀별 누적값이 나타난 누적값 맵이다.
도 6a는 본 발명의 일 실시예에 따른 각 방향 누적값의 평균이 도출된 누적값 맵이다.
도 6b는 본 발명의 일 실시예에 따른 도 6a의 누적값 맵에서 릴렉세이션 누적합이 한번 수행된 누적값 맵이다.
도 6c는 본 발명의 일 실시예에 따른 도 6b의 누적값 맵에서 릴렉세이션 누적합 계산이 한번 더 수행된 누적값 맵이다.
도 7a는 본 발명의 일 실시예에 따른 시차값이 0일 때의 릴렉세이션 누적값을 나타내는 누적값 맵이다.
도 7b는 본 발명의 일 실시예에 따른 시차값이 1일 때의 릴렉세이션 누적값을 나타내는 누적값 맵이다.
도 7c는 본 발명의 일 실시예에 따른 시차값이 9일 때의 릴렉세이션 누적값을 나타내는 누적값 맵이다.
도 8은 본 발명의 다른 실시예에 따른 시차맵 생성 시스템의 블록도이다.
도 9는 본 발명의 일 실시예에 따른 스틱셀이 적용된 시차맵이다.
도 10은 본 발명의 일 실시예에 따른 시차맵 생성 방법을 나타내는 순서도이다.
도 11은 본 발명의 다른 실시예에 따른 시차맵 생성 방법을 나타내는 순서도이다.
도 12a는 본 발명의 일 실시예에 따른 영상 획득부가 획득한 좌영상이다.
도 12b는 본 발명의 일 실시예에 따른 영상 획득부가 획득한 우영상이다.
도 13은 종래의 스테레오 영상 매칭 방법에 따라 도 11a의 좌영상과 도 11b의 우영상을 이용하여 생성한 시차맵이다.
도 14는 본 발명의 일 실시예에 따라 도 11a의 좌영상과 도 11b의 우영상을 이용하여 생성한 시차맵이다.
도 15는 본 발명의 일 실시예에 따른 시차맵 생성 방법을 실행하는 컴퓨팅 시스템을 보여주는 블록도이다.
이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 실시예에 대한 이해를 방해한다고 판단되는 경우에는 그 상세한 설명은 생략한다.
본 발명의 실시예의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 또한, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가진 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
도 1은 본 발명의 일 실시예에 따른 시차맵 생성 시스템의 블록도이다.
도 1을 참조하면, 시차맵 생성 시스템(100)은 영상 획득부(110), 매칭 비용 계산부(120), 누적합 계산부(130), 시차값 도출부(140) 및 시차맵 생성부(150) 등을 포함할 수 있다.
다만, 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 시차맵 생성 시스템(100)이 구현될 수도 있다.
영상 획득부(110)는 좌영상 및 우영상을 획득할 수 있다. 영상 획득부(110)는 영상을 촬영하는 카메라일 수 있고, 카메라로부터 영상을 획득하는 영상 수신부일 수도 있다. 영상 획득부(110)가 카메라인 경우, 영상 획득부(110)는 좌우로 이격된 2개의 카메라일 수 있다. 또한, 영상 획득부(110)가 영상 수신부인 경우, 수신하는 영상을 촬영한 카메라는 좌우로 이격된 2개의 카메라일 수 있다.
이와 같이 좌우로 이격된 2개의 카메라는 동일한 방향으로 촬영을 하더라도 이격된 거리에 의해 각 카메라가 획득하는 영상은 서로 차이가 존재하며, 본 발명의 시차맵 생성 시스템(100)은 이러한 차이를 기초로 시차맵을 생성하는 것이다.
매칭 비용 계산부(120)는 좌영상 및 우영상의 픽셀별 매칭 비용을 계산할 수 있다. 본 발명에서 매칭 비용 계산부(120)는 지면 기반 스테레오 영상 매칭 알고리즘을 사용할 수 있다. 지면 기반 스테레오 영상 매칭 알고리즘은 좌영상과 우영상의 지면영상을 비교하여 매칭 비용을 계산하고, 좌영상와 우영상의 지면 윗부분 영상을 비교하여 매칭 비용을 계산하는 알고리즘이다. 지면 기반 스테레오 영상 매칭 알고리즘에 따르면 지면 시차 레이블링과 사물 시차 레이블링을 구분되게 계산하므로 종래의 반광역화(Semi-Global) 방법보다 지면에 대해서 강인하게 시차맵을 생성할 수 있다.
누적합 계산부(130)는 계산된 매칭 비용을 기초로 픽셀별 누적값을 구하고, 픽셀의 주변 누적값을 기초로 릴렉세이션 누적합 계산을 하여 픽셀별 릴렉세이션 누적값을 계산할 수 있다.
먼저, 누적합 계산부(130)가 수직방향 및 수평방향으로 누적값을 계산하는 방법에 대해 도 2a 내지 도 3b를 참조하여 설명한다.
도 2a는 본 발명의 일 실시예에 따른 수직방향으로 위에서 아래로 매칭 비용을 누적합하는 과정을 나타내는 도면이다. 도 2b는 본 발명의 일 실시예에 따른 수직방향으로 아래에서 위로 매칭 비용을 누적합하는 과정을 나타내는 도면이다.
도 3a는 본 발명의 일 실시예에 따른 수평방향으로 왼쪽에서 오른쪽로 매칭 비용을 누적합하는 과정을 나타내는 도면이다. 도 3b는 본 발명의 일 실시예에 따른 수평방향으로 오른쪽에서 왼쪽으로 매칭 비용을 누적합하는 과정을 나타내는 도면이다.
누적합 계산부(130)는 수직 방향으로 매칭 비용을 누적합하는 경우, 해당 시차의 이전 방향 누적값, 시차값 주변 방향 누적값에 제 1 누적 상수를 합한 값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구할 수 있다.
이를 수학식으로 나타내면 다음과 같이 표현할 수 있다.
Figure 112016081457264-pat00001
상기
Figure 112016081457264-pat00002
는 누적값이고, 상기 p1은 제 1 누적상수이고, 상기 p2는 제 2 누적상수이고, 상기 C(p,d)는 매칭 비용이고, 상기 p는 픽셀 좌표이고, 상기 d는 시차값이고, 상기 r은 누적합되는 방향이다.
도 2a는 위에서 아래 방향으로 매칭 비용을 누적합하는 과정을 나타내고, 도 2b는 아래에서 위 방향으로 매칭 비용을 누적합하는 과정을 나타낸다.
도 2a 및 도 2b에 나타난 것과 같이, 누적합 계산부(130)는 해당 시차의 이전 방향 누적값, 시차값 주변 방향 누적값에 제 1 누적 상수를 합한 값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구할 수 있다.
누적 상수는 이전 방향 누적값 또는 시차값 주변 방향 누적값에 합하는 임의의 상수로써, 누적 상수를 합함으로써 수직 연결성을 강화할 수 있다.
또한, 누적합 계산부(130)는 수평 방향으로 매칭 비용을 누적합하는 경우, 해당 시차의 이전 방향 누적값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구할 수 있다.
이를 수학식으로 나타내면 다음과 같이 표현할 수 있다.
Figure 112016081457264-pat00003
상기
Figure 112016081457264-pat00004
는 누적값이고, 상기 p1은 제 1 누적상수이고, 상기 p2는 제 2 누적상수이고, 상기 C(p,d)는 매칭 비용이고, 상기 p는 픽셀 좌표이고, 상기 d는 시차값이고, 상기 r은 누적합되는 방향이다.
도 3a는 왼쪽에서 오른쪽 방향으로 매칭 비용을 누적합하는 과정을 나타내고, 도 3b는 오른쪽에서 왼쪽 방향으로 매칭 비용을 누적합하는 과정을 나타낸다.
도 3a 및 도 3b에 나타난 것과 같이, 누적합 계산부(130)는 해당 시차의 이전 방향 누적값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구할 수 있다.
수직 방향 누적합과 달리 수평 방향 누적합 시에는 제 2 누적 상수만이 사용되고, 누적 상수를 합함으로써 수평 연결성을 강화할 수 있다.
누적합 계산부(130)는 상기와 같이 수직방향 및 수평방향으로 누적합한 누적값을 기초로 릴렉세이션(Relaxation) 누적합 계산을 수행할 수 있다. 릴렉세이션 누적합 계산은 현재 픽셀의 주변 누적값을 기초로 하는 누적합 계산으로서, 릴렉세이션 누적합 계산을 함으로써 현재 픽셀과 주변 픽셀 간의 연관성이 커질 수 있다. 이하에서는 도 4와 수학식 3을 참조하여 릴렉세이션 누적합 계산 방법을 설명한다.
도 4는 본 발명의 일 실시예에 따른 매칭 비용을 릴렉세이션 누적합하는 과정을 나타내는 도면이다.
누적합 계산부(130)는 현재 픽셀의 시차값과 현재 픽셀의 주변 픽셀의 시차값간의 관계 계수를 현재 픽셀의 누적값에 곱하고, 곱한 값들을 평균을 릴렉세이션 누적값으로 산출할 수 있다. 또한, 누적합 계산부(130)는 산출한 릴렉세이션 누적값을 기초로 릴렉세이션 누적합을 반복할 수 있다. 즉, 현재 픽셀의 시차값과 현재 픽셀의 주변 픽셀의 시차값간의 관계 계수를 현재 픽셀의 릴렉세이션 누적값에 곱하고, 곱한 값들의 평균을 릴렉세이션 반복 릴렉세이션 누적값으로 산출할 수 있다. 여기서 관계 계수는 (현재 픽셀의 추정되는 시차 - 주변 픽셀의 추정되는 시차) / (전체 허용 시차 범위) 이다.
이를 수학식으로 나타내면 다음과 같이 표현할 수 있다.
Figure 112016081457264-pat00005
상기
Figure 112016081457264-pat00006
는 n번째 반복 누적값이고, n(r)은 현재 픽셀의 주변값 개수이고, 상기 q(p,p-r)은 현재 픽셀의 시차값과 주변픽셀의 시차값간의 관계 계수이고, 상기 r은 누적합되는 방향이고, 상기 d는 시차값이고, 상기 p-r 은 현재 픽셀의 상기 r 방향으로의 이전값이다.
누적값(
Figure 112016081457264-pat00007
)의 초기값은 매칭 비용이고(
Figure 112016081457264-pat00008
), 매칭 비용에 현재 픽셀의 시차 값과 주변 픽셀의 시차값간의 관계 계수를 곱하고 주변 누적값 개수로 나눈 값이 릴렉세이션 누적값이다.
누적합 계산부(130)는 누적값(
Figure 112016081457264-pat00009
)으로서 산출한 릴렉세이션 누적값을 대입하여 반복 릴렉세이션 누적합 계산을 할 수 있다.
시차값 도출부(140)는 계산된 누적값을 기초로 픽셀별 시차값을 도출할 수 있다. 시차값 도출부(140)는 계산된 누적값이 최소가 되는 시차값을 현재 픽셀의 시차값으로 도출할 수 있다. 상기 수학식 3에는 시차값인 d가 포함되어 있으며, 시차값 도출부(140)는 누적값을 최소로 만드는 d를 현재 픽셀의 시차로 도출하게 되는 것이다.
시차맵 생성부(150)는 도출된 시차값을 기초로 시차맵을 생성할 수 있다. 즉, 시차값 도출부(140)는 영상의 모든 픽셀의 시차값을 도출할 수 있으며, 영상에 각 픽셀의 시차값을 나타낸 것이 시차맵이 되는 것이다.
이하에서는 도 5a 내지 도 7c를 참조하여 매칭 비용 계산부(120)가 계산한 매칭 비용을 기초로 누적값을 구하고, 시차값을 도출하는 과정의 예를 설명한다.
도 5a는 본 발명의 일 실시예에 따른 픽셀별 매칭 비용이 나타난 매칭 비용 맵이다. 도 5b는 본 발명의 일 실시예에 따라 왼쪽에서 오른쪽 방향으로 누적합이 한번 수행된 경우의 픽셀별 누적값이 나타난 누적값 맵이다. 도 5c는 본 발명의 일 실시예에 따라 왼쪽에서 오른쪽 방향으로 누적합이 두번 수행된 경우의 픽셀별 누적값이 나타난 누적값 맵이다. 도 5d는 본 발명의 일 실시예에 따라 왼쪽에서 오른쪽 방향으로 누적합이 세번 수행된 경우의 픽셀별 누적값이 나타난 누적값 맵이다.
도 6a는 본 발명의 일 실시예에 따른 각 방향 누적값의 평균이 도출된 누적값 맵이다. 도 6b는 본 발명의 일 실시예에 따른 도 6a의 누적값 맵에서 릴렉세이션 누적합이 한번 수행된 누적값 맵이다. 도 6c는 본 발명의 일 실시예에 따른 도 6b의 누적값 맵에서 릴렉세이션 누적합 계산이 한번 더 수행된 누적값 맵이다.
도 7a는 본 발명의 일 실시예에 따른 시차값이 0일 때의 릴렉세이션 누적값을 나타내는 누적값 맵이다. 도 7b는 본 발명의 일 실시예에 따른 시차값이 1일 때의 릴렉세이션 누적값을 나타내는 누적값 맵이다. 도 7c는 본 발명의 일 실시예에 따른 시차값이 9일 때의 릴렉세이션 누적값을 나타내는 누적값 맵이다.
도 5a를 참조하면 시차가 1일 때의 매칭 비용은 모든 픽셀에서 1이다. 누적합 계산부(130)는 각 방향에 대해 누적합 계산을 하며, 도 5b 내지 도 5d는 수평방향으로 왼쪽에서 오른쪽으로 누적합 계산 과정을 나타낸다.
전술한 바와 같이 누적값의 초기값은 매칭비용과 같으므로, 도 5b에서 가장 좌측열 픽셀들의 누적값은 1이다.
누적합 계산부(130)는 상기 수학식 2를 이용하여 두 번째 열의 누적값을 구할 수 있다. 누적합 계산부(130)는 모든 시차 레이블의 이전 방향 누적 값 중 최소값에 제 2 누적상수를 더한 값 및 현재 시차 레이블의 이전 방향의 누적 값 중 최소값인 1과 현재 매칭 비용 값인 1을 합하여 도 5c와 같이 누적값 2를 도출한다.
누적합 계산부(130)는 다시 상기 수학식 2를 이용하여 세 번째 열의 누적값을 구할 수 있다. 누적합 계산부(130)는 모든 시차 레이블의 이전 방향 누적 값 중 최소값에 제 2 누적상수를 더한 값 및 현재 시차 레이블의 이전 방향의 누적 값 중 최소값인 2와 현재 매칭 비용 값인 1을 합하여 도 5d와 같이 누적값 3을 도출한다.
누적합 계산부(130)는 상술한 방법으로 모든 방향의 누적값을 구하고 릴렉세이션 누적값을 산출한다. 도 6a는 전술한 방법으로 누적합 계산부(130)가 산출한 누적값을 나타낸다.
즉, 누적합 계산부(130)는 상기 수학식 3을 이용하여 도 6a의 현재 픽셀인 정가운데 픽셀의 현재 누적값에 관계계수를 곱하고, 주변 누적값의 개수로 나누어 도 6b와 같은 릴렉세이션 누적값을 도출한다.
누적합 계산부(130)는 상기 수학식 3을 이용하여 도출한 릴렉세이션 누적값을 다시 릴렉세이션 누적합 계산한다. 한번 더 릴렉세이션 누적합한 결과가 도 6c에 나타나며, 누적합 계산부(130)가 릴렉세이션 누적합할 수 있는 횟수는 이러한 예시에 한정되지 않는다.
시차값 도출부(140)는 누적합 계산부(130)가 계산한 릴렉세이션 누적값이 최소가 되는 시차값을 현재 픽셀의 시차값으로 도출할 수 있다.
도 7a은 시차값이 0일 때의 릴렉세이션 누적값을 나타내고, 도 7b는 시차값이 1일 때의 릴렉세이션 누적값을 나타내고, 도 7c는 시차값이 9일 때의 릴렉세이션 누적값을 나타낸다. 도 7a 내지 도 7c를 참조하면, 시차값이 9일 때의 릴렉세이션 누적값이 3으로써 최소이며, 시차값 도출부(140)는 시차값이 9라고 도출할 수 있다.
한편, 본 발명의 다른 실시예에 따라 스틱셀을 적용하여 픽셀의 연관성을 높임으로써, 시차맵에 나타날 수 있는 홀을 제거하고, 연결성이 강화된 시차맵을 생성할 수 있다.
도 8은 본 발명의 다른 실시예에 따른 시차맵 생성 시스템의 블록도이다.
도 8을 참조하면, 본 발명의 다른 실시예에 따른 시차맵 생성 시스템(200)은 영상 획득부(210), 매칭 비용 계산부(220), 누적합 계산부(230), 시차값 도출부(240), 시차맵 생성부(250) 및 스틱셀 적용부(260)를 포함할 수 있다.
다만, 도 8에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 시차맵 생성 시스템(200)이 구현될 수도 있다.
영상 획득부(210), 매칭 비용 계산부(220), 누적합 계산부(230), 시차값 도출부(240) 및 시차맵 생성부(250)는 도 1을 참조하여 설명한 것과 동일하므로 이에 대한 설명은 생략한다.
스틱셀 적용부(260)는 수직방향 또는 수평방향으로 시차값이 같은 픽셀을 그룹화하여 스틱셀로 구성할 수 있다. 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 복수의 스틱셀의 시차값으로 변경할 수 있다.
스틱셀 적용부(260)는 수평방향 또는 수직방향으로 시차값이 같은 픽셀을 하나의 그룹으로 묶어 스틱셀을 구성한다. 시차값이 정상적으로 도출되었다면, 지면 영상은 수평방향으로 동일한 시차값을 가져 하나의 스틱셀로 구성될 것이다.
그러나 악천후 환경의 경우에는 시차값이 정상적으로 도출되기 어려우므로, 지면 영상의 일부는 수평방향으로 동일한 시차값을 가지지만 일부는 다른 시차값을 가지므로, 지면 영상이 하나의 스틱셀로 구성되지 않을 수 있다.
스틱셀 적용부(260)는 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 복수의 스틱셀의 시차값으로 변경할 수 있다.
복수의 스틱셀이 같은 방향으로 구성되어 동일 선상에 위치하고, 복수의 스틱셀 간의 이격거리가 작다면, 그 사이에 위치하는 다른 시차값을 가지는 픽셀은 악천후에 의해 잘못된 시차값을 가지는 것으로 볼 수 있다. 이러한 점을 반영하여 스틱셀 적용부(260)는 잘못된 시차값을 가지는 픽셀의 시차값을 복수의 스틱셀의 시차값으로 변경하는 보정을 할 수 있다.
도 9는 본 발명의 일 실시예에 따른 스틱셀이 적용된 시차맵이다.
이와 같이 스틱셀을 적용하여 시차값을 보정하면 복수의 스틱셀 사이의 픽셀은 복수의 스틱셀의 시차값과 같은 시차값을 가지게 된다. 이에 따라 복수의 스틱셀은 도 9와 같이 하나의 스틱셀로 구성될 수 있다.
이하에서는 도 10을 참조하여 전술한 구성들을 기초로 시차맵 생성 방법에 대해 구체적으로 설명한다.
도 10은 본 발명의 일 실시예에 따른 시차맵 생성 방법을 나타내는 순서도이다.
도 10을 참조하면 본 발명의 일 실시예에 따른 시차맵 생성 방법은 좌영상 및 우영상 획득하는 단계(S110), 좌영상 및 우영상의 매칭 비용을 계산하는 단계(S120), 매칭 비용을 기초로 픽셀별 누적값을 계산하는 단계(S130), 픽셀별 누적값을 기초로 릴렉세이션 누적값을 계산하는 단계(S140), 릴렉세이션 누적값을 기초로 픽셀별 시차값 도출하는 단계(S150) 및 시차값을 기초로 시차맵 생성하는 단계(S160)를 포함할 수 있다.
이하에서, 상술한 S110 단계 내지 S160 단계가 구체적으로 설명될 것이다.
S110 단계에서, 영상 획득부(110)는 좌영상 및 우영상을 획득할 수 있다. 좌영상과 우영상은 좌우로 이격된 2개의 카메라 각각으로부터 촬영된 영상이다. 영상 획득부(110)는 카메라로서 영상을 직접 획득할 수 있고, 영상 수신부로서 카메라로부터 영상을 수신할 수 있다.
S120 단계에서, 매칭 비용 계산부(120)는 지면 기반 스테레오 영상 매칭 알고리즘에 따라 좌영상 및 우영상의 픽셀별 매칭 비용을 계산할 수 있다. 전술한 바와 같이 매칭 비용 계산부(120)는 좌영상과 우영상의 지면영상을 비교하여 매칭 비용을 계산하고, 좌영상와 우영상의 지면 윗부분 영상을 비교하여 매칭 비용을 계산할 수 있다.
S130 단계에서, 누적합 계산부(130)는 매칭 비용을 기초로 픽셀별 누적값을 계산할 수 있다. 누적합 계산부(130)는 전술한 바와 같이 수직 방향 및 수평 방향으로 누적값을 구할 수 있다.
S140 단계에서, 누적합 계산부(130)는 누적값을 기초로 릴렉세이션 누적합 계산을 하여 릴렉세이션 누적값을 산출할 수 있다. 누적합 계산부(130)는 현재 픽셀의 시차값과 주변 픽셀의 시차값 간의 관계 계수들 각각을 현재 픽셀의 누적값에 곱한 값들의 평균인 릴렉세이션 누적값을 산출할 수 있으며, 구체적인 누적값 계산 방법은 전술하였으므로 생략한다. 또한, 산출한 릴렉세이션 누적값을 기초로 반복하여 릴렉세이션 누적값을 산출할 수도 있다.
S150 단계에서, 시차값 도출부(140)는 릴렉세이션 누적값을 기초로 픽셀별 시차값을 도출할 수 있다. 시차값 도출부(140)는 계산된 릴렉세이션 누적값이 최소가 되는 시차값을 현재 픽셀의 시차값으로 도출할 수 있다.
S160 단계에서, 시차맵 생성부(150)는 도출된 시차값을 기초로 시차맵을 생성할 수 있다. 영상에 각 픽셀의 시차값을 나타낸 것이 시차맵이 되는 것이다.
이하에서는 도 11을 참조하여 본 발명의 다른 실시예에 따른 시차맵 생성 방법에 대해 설명한다.
도 11은 본 발명의 다른 실시예에 따른 시차맵 생성 방법을 나타내는 순서도이다.
도 11을 참조하면 본 발명의 일 실시예에 따른 시차맵 생성 방법은 좌영상 및 우영상 획득하는 단계(S210), 좌영상 및 우영상의 매칭 비용을 계산하는 단계(S220), 매칭 비용을 기초로 픽셀별 누적값을 계산하는 단계(S230), 픽셀별 누적값을 기초로 릴렉세이션 누적값을 계산하는 단계(S240), 누적값을 기초로 픽셀별 시차값 도출하는 단계(S250), 스틱셀을 적용하여 시차값을 보정하는 단계(S260) 및 시차값을 기초로 시차맵 생성하는 단계(S270)를 포함할 수 있다.
S210 단계 내지 S250 단계 및 S270단계는 전술한 S110단계 내지 S160 단계와 동일하므로 설명을 생략한다.
S260단계에서, 스틱셀 적용부(260)는 수직방향 또는 수평방향으로 시차값이 같은 픽셀을 그룹화하여 스틱셀로 구성할 수 있다. 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 복수의 스틱셀의 시차값으로 변경하는 보정을 할 수 있다.
S260단계가 추가됨으로써, 악천후 환경에서 촬영된 영상을 이용한 시차맵에서 발생할 수 있는 홀(hole)이 제거되어 연결성이 강화된 시차맵을 획득할 수 있다.
도 12a는 본 발명의 일 실시예에 따른 영상 획득부가 획득한 좌영상이다. 도 12b는 본 발명의 일 실시예에 따른 영상 획득부가 획득한 우영상이다.
도 13은 종래의 스테레오 영상 매칭 방법에 따라 도 12a의 좌영상과 도 12b의 우영상을 이용하여 생성한 시차맵이다. 도 14는 본 발명의 일 실시예에 따라 도 12a의 좌영상과 도 12b의 우영상을 이용하여 생성한 시차맵이다.
도 12a 및 도 12b는 본 발명의 시차맵 생성 시스템(100, 200)의 영상 획득부가 획득할 수 있는 좌영상 및 우영상이다. 도 12a 및 도 12b를 참조하면 영상의 기후는 비가 오는 악천후라는 것을 확인할 수 있다.
종래의 스테레오 영상 매칭 방법(지역 최적화 기반의 영상 매칭, 반광역 최적화 기반의 영상 매칭 등)에 의하면, 시차맵에는 도 13과 같이 잘못된 시차값이 도출되어 홀이 발생한다는 것을 확인할 수 있다.
그러나 전술한 본 발명의 구성과 방법으로 시차맵을 생성하면 도 14와 같이 도로면에서 수평으로 일관되게 시차가 표현되고, 사물에 대한 수직으로 시차가 표현되어 악천후에서도 우수한 시차맵을 생성할 수 있다는 것을 확인할 수 있다.
도 15는 본 발명의 일 실시예에 따른 시차맵 생성 방법을 실행하는 컴퓨팅 시스템을 보여주는 블록도이다.
도 15를 참조하면, 컴퓨팅 시스템(1000)은 버스(1200)를 통해 연결되는 적어도 하나의 프로세서(1100), 메모리(1300), 사용자 인터페이스 입력 장치(1400), 사용자 인터페이스 출력 장치(1500), 스토리지(1600), 및 네트워크 인터페이스(1700)를 포함할 수 있다.
프로세서(1100)는 중앙 처리 장치(CPU) 또는 메모리(1300) 및/또는 스토리지(1600)에 저장된 명령어들에 대한 처리를 실행하는 반도체 장치일 수 있다. 메모리(1300) 및 스토리지(1600)는 다양한 종류의 휘발성 또는 불휘발성 저장 매체를 포함할 수 있다. 예를 들어, 메모리(1300)는 ROM(Read Only Memory) 및 RAM(Random Access Memory)을 포함할 수 있다.
따라서, 본 명세서에 개시된 실시예들과 관련하여 설명된 방법 또는 알고리즘의 단계는 프로세서(1100)에 의해 실행되는 하드웨어, 소프트웨어 모듈, 또는 그 2 개의 결합으로 직접 구현될 수 있다. 소프트웨어 모듈은 RAM 메모리, 플래시 메모리, ROM 메모리, EPROM 메모리, EEPROM 메모리, 레지스터, 하드 디스크, 착탈형 디스크, CD-ROM과 같은 저장 매체(즉, 메모리(1300) 및/또는 스토리지(1600))에 상주할 수도 있다. 예시적인 저장 매체는 프로세서(1100)에 커플링되며, 그 프로세서(1100)는 저장 매체로부터 정보를 판독할 수 있고 저장 매체에 정보를 기입할 수 있다. 다른 방법으로, 저장 매체는 프로세서(1100)와 일체형일 수도 있다. 프로세서 및 저장 매체는 주문형 집적회로(ASIC) 내에 상주할 수도 있다. ASIC는 사용자 단말기 내에 상주할 수도 있다. 다른 방법으로, 프로세서 및 저장 매체는 사용자 단말기 내에 개별 컴포넌트로서 상주할 수도 있다.
상기와 같이 설명된 시차맵 생성 시스템 및 방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
100: 시차맵 생성 시스템
110: 영상 획득부
120: 매칭 비용 계산부
130: 누적합 계산부
140: 시차값 도출부
150: 시차맵 생성부
200: 시차맵 생성 시스템
210: 영상 획득부
220: 매칭 비용 계산부
230: 누적합 계산부
240: 시차값 도출부
250: 시차맵 생성부
260: 스틱셀 적용부
1000: 컴퓨팅 시스템
1100: 프로세서
1200: 시스템 버스
1300: 메모리
1310: ROM
1320: RAM
1400: 사용자 인터페이스

Claims (12)

  1. 좌영상 및 우영상을 획득하는 영상 획득부;
    상기 좌영상 및 상기 우영상의 픽셀별 매칭 비용을 계산하는 매칭 비용 계산부;
    상기 계산된 매칭 비용을 기초로 상기 픽셀의 누적값을 구하고, 상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수들 각각을 상기 픽셀의 누적값에 곱한 값들의 평균인 릴렉세이션 누적값을 계산하는 누적합 계산부;
    상기 계산된 릴렉세이션 누적값을 기초로 픽셀별 시차값을 도출하는 시차값 도출부; 및
    상기 도출된 시차값을 기초로 시차맵을 생성하는 시차맵 생성부를 포함하는 시차맵 생성 시스템.
  2. 제 1 항에 있어서,
    상기 매칭 비용 계산부는,
    상기 좌영상과 상기 우영상의 지면영상을 비교하여 상기 매칭 비용을 계산하고, 상기 좌영상와 상기 우영상의 지면 윗부분 영상을 비교하여 매칭 비용을 계산하는 것을 특징으로 하는 시차맵 생성 시스템.
  3. 제 1 항에 있어서,
    상기 누적합 계산부는 수직 방향으로 상기 매칭 비용을 누적합하는 경우,
    해당 시차의 이전 방향 누적값, 시차값 주변 방향 누적값에 제 1 누적 상수를 합한 값 및 이전 방향 누적값 들의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구하고,
    수평 방향으로 상기 매칭 비용을 누적합하는 경우,
    해당 시차의 이전 방향 누적값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구하는 것을 특징으로 하는 시차맵 생성 시스템.
  4. 제 1 항에 있어서,
    상기 누적합 계산부는,
    상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 상기 릴렉세이션 누적값에 곱한 값들의 평균인 반복 릴렉세이션 누적값을 계산하고,
    상기 시차값 도출부는 상기 반복 릴렉세이션 누적값을 기초로 상기 픽셀별 시차값을 도출하는 것을 특징으로 하는 시차맵 생성 시스템.
  5. 제 1 항에 있어서,
    상기 시차값 도출부는 상기 계산된 누적값 중 가장 작은 값을 최소값으로 판단하고, 상기 계산된 누적값이 최소값이 되는 시차값을 상기 픽셀의 시차값으로 도출하되,
    상기 계산된 누적값은 상기 누적합 계산부의 계산이 복수번 수행되어 계산된 누적값인 것을 특징으로 하는 시차맵 생성 시스템.
  6. 제 1 항에 있어서,
    수직방향 또는 수평방향으로 상기 시차값이 같은 픽셀을 그룹화하여 스틱셀로 구성하고, 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 상기 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 상기 복수의 스틱셀의 시차값으로 변경하는 스틱셀 적용부를 더 포함하는 것을 특징으로 하는 시차맵 생성 시스템.
  7. 좌영상 및 우영상을 획득하는 단계;
    상기 좌영상 및 상기 우영상의 픽셀별 매칭 비용을 계산하는 단계;
    상기 계산된 매칭 비용을 기초로 상기 픽셀의 누적값을 구하는 단계;
    상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 누적값에 곱한 값들의 평균인 릴렉세이션 누적값을 릴렉세이션 누적합 계산하는 단계;
    상기 릴렉세이션 누적합 계산된 상기 릴렉세이션 누적값을 기초로 픽셀별 시차값을 도출하는 단계; 및
    상기 도출된 시차값을 기초로 시차맵을 생성하는 단계를 포함하는 시차맵 생성 방법.
  8. 제 7 항에 있어서,
    상기 매칭 비용을 계산하는 단계는,
    상기 좌영상과 상기 우영상의 지면영상을 비교하여 상기 매칭 비용을 계산하고, 상기 좌영상와 상기 우영상의 지면 윗부분 영상을 비교하여 매칭 비용을 계산하는 것을 특징으로 하는 시차맵 생성 방법.
  9. 제 7 항에 있어서,
    상기 누적값을 계산하는 단계는
    수직 방향으로 상기 매칭 비용을 누적합하는 경우,
    해당 시차의 이전 방향 누적값, 시차값 주변 방향 누적값에 제 1 누적 상수를 합한 값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구하고,
    수평 방향으로 상기 매칭 비용을 누적합하는 경우,
    해당 시차의 이전 방향 누적값 및 이전 방향 누적값의 최소값에 제 2 누적 상수를 합한 값 중 최소값을 현재 매칭 비용에 합하여 현재 누적값을 구하는 것을 특징으로 하는 시차맵 생성 방법.
  10. 제 7 항에 있어서,
    상기 릴렉세이션 누적값을 계산하는 단계 후,
    상기 픽셀의 시차값과 상기 픽셀의 주변 픽셀의 시차값간의 관계 계수 각각을 상기 픽셀의 상기 릴렉세이션 누적값에 곱한 값들의 평균인 반복 릴렉세이션 누적값을 계산하는 단계를 더 포함하고,
    상기 픽셀별 시차값을 도출하는 단계는,
    상기 반복 릴렉세이션 누적값을 기초로 상기 픽셀별 시차값을 도출하는 것을 특징으로 하는 시차맵 생성 방법.
  11. 제 7 항에 있어서,
    상기 픽셀별 시차값을 도출하는 단계는 상기 누적합 계산된 상기 릴렉세이션 누적값 중 가장 작은 값을 최소값으로 판단하고, 상기 계산된 릴렉세이션 누적값이 최소값이 되는 시차값을 상기 픽셀의 시차값으로 도출하되,
    상기 계산된 릴렉세이션 누적값은 상기 누적합 계산이 복수번 수행되어 계산된 누적값인 것을 특징으로 하는 시차맵 생성 방법.
  12. 제 7 항에 있어서,
    수직방향 또는 수평방향으로 상기 시차값이 같은 픽셀을 그룹화하여 스틱셀로 구성하고, 같은 방향으로 구성되어 동일 선상에 위치하고 같은 시차값을 가지는 복수의 스틱셀 간의 픽셀 거리가 기 설정된 픽셀값 이하인 경우, 상기 복수의 스틱셀 사이에 위치한 픽셀의 시차값을 상기 복수의 스틱셀의 시차값으로 변경하는 단계를 더 포함하는 것을 특징으로 하는 시차맵 생성 방법.
KR1020160106266A 2016-08-22 2016-08-22 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법 KR101856344B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020160106266A KR101856344B1 (ko) 2016-08-22 2016-08-22 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법
US15/353,430 US10171795B2 (en) 2016-08-22 2016-11-16 System and method for generating disparity map by matching stereo images
DE102016123168.1A DE102016123168A1 (de) 2016-08-22 2016-11-30 System und Verfahren zum Erzeugen einer Disparitätskarte durch Abgleich von Stereobildern
CN201611078378.9A CN107770512B (zh) 2016-08-22 2016-11-30 通过匹配立体图像而产生视差图的系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160106266A KR101856344B1 (ko) 2016-08-22 2016-08-22 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20180021549A KR20180021549A (ko) 2018-03-05
KR101856344B1 true KR101856344B1 (ko) 2018-06-25

Family

ID=61082623

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160106266A KR101856344B1 (ko) 2016-08-22 2016-08-22 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법

Country Status (4)

Country Link
US (1) US10171795B2 (ko)
KR (1) KR101856344B1 (ko)
CN (1) CN107770512B (ko)
DE (1) DE102016123168A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10313584B2 (en) 2017-01-04 2019-06-04 Texas Instruments Incorporated Rear-stitched view panorama for rear-view visualization
DE102019211582A1 (de) * 2019-08-01 2021-02-04 Robert Bosch Gmbh Verfahren zum Erstellen einer Höhenkarte

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100374784B1 (ko) * 2000-07-19 2003-03-04 학교법인 포항공과대학교 실시간 입체 영상 정합 시스템
KR100938195B1 (ko) 2008-07-28 2010-01-21 재단법인대구경북과학기술원 스테레오 매칭을 이용한 거리 추정 장치 및 추정 방법
JP2010152456A (ja) * 2008-12-24 2010-07-08 Ricoh Co Ltd 画像処理装置及び画像処理方法、並びに当該画像処理方法を用いたプログラム
CN102447917A (zh) * 2010-10-08 2012-05-09 三星电子株式会社 立体图像匹配方法及其设备
JP5682065B2 (ja) 2011-03-02 2015-03-11 独立行政法人産業技術総合研究所 ステレオ画像処理装置及びステレオ画像処理方法
CN103366354B (zh) * 2012-03-27 2016-09-07 富士通株式会社 用于立体匹配的方法和系统
EP2722816A3 (en) * 2012-10-18 2017-04-19 Thomson Licensing Spatio-temporal confidence maps
KR20150053438A (ko) 2013-11-08 2015-05-18 한국전자통신연구원 스테레오 매칭 시스템과 이를 이용한 시차 맵 생성 방법
CN104915941B (zh) * 2014-03-11 2017-08-04 株式会社理光 计算视差的方法和装置
JP6561512B2 (ja) * 2014-03-27 2019-08-21 株式会社リコー 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム
JP6589313B2 (ja) * 2014-04-11 2019-10-16 株式会社リコー 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6377970B2 (ja) * 2014-06-12 2018-08-22 トヨタ自動車株式会社 視差画像生成装置及び視差画像生成方法
CN105335952B (zh) * 2014-06-19 2018-04-17 株式会社理光 匹配代价计算方法和装置、以及视差值计算方法和设备
JP2016061622A (ja) * 2014-09-17 2016-04-25 株式会社リコー 情報処理システム、及び情報処理方法
KR102350232B1 (ko) * 2014-11-20 2022-01-13 삼성전자주식회사 스테레오 영상 매칭 방법 및 장치
KR101734912B1 (ko) 2015-03-02 2017-05-12 주식회사 엘엠에스 방열 시트
US10321112B2 (en) * 2016-07-18 2019-06-11 Samsung Electronics Co., Ltd. Stereo matching system and method of operating thereof

Also Published As

Publication number Publication date
CN107770512A (zh) 2018-03-06
DE102016123168A1 (de) 2018-02-22
CN107770512B (zh) 2020-11-06
KR20180021549A (ko) 2018-03-05
US10171795B2 (en) 2019-01-01
US20180054609A1 (en) 2018-02-22

Similar Documents

Publication Publication Date Title
US9799118B2 (en) Image processing apparatus, imaging apparatus and distance correction method
JP5870273B2 (ja) 物体検出装置、物体検出方法及びプログラム
JP6179639B2 (ja) 道路境界物の検出方法及び検出装置
US9361699B2 (en) Imaging system and method
US20140379257A1 (en) Method and device for detecting road region as well as method and device for detecting road line
US20140002605A1 (en) Imaging system and method
CN105069804B (zh) 基于智能手机的三维模型扫描重建方法
EP2632160A1 (en) Method and apparatus for image processing
US20150138322A1 (en) Image processing device and its control method, imaging apparatus, and storage medium
KR100953076B1 (ko) 객체 또는 배경 분리를 이용한 다시점 정합 방법 및 장치
US20150367781A1 (en) Lane boundary estimation device and lane boundary estimation method
CN105335955A (zh) 对象检测方法和对象检测装置
EP3293700A1 (en) 3d reconstruction for vehicle
KR101856344B1 (ko) 스테레오 영상 정합을 통한 시차맵 생성 시스템 및 방법
CN111738033B (zh) 基于平面分割的车辆行驶信息确定方法及装置、车载终端
US10043106B2 (en) Corresponding point searching method and distance detection device
CN110443228B (zh) 一种行人匹配方法、装置、电子设备及存储介质
JP6212021B2 (ja) 距離検出装置
JP6571492B2 (ja) 対応点探索方法、および距離測定装置
US20130294708A1 (en) Object separating apparatus, image restoration apparatus, object separating method and image restoration method
US9674503B2 (en) Stereo matching apparatus using image property
US9894367B2 (en) Multimedia device and motion estimation method thereof
US11138448B2 (en) Identifying a curb based on 3-D sensor data
KR101544156B1 (ko) 동영상 리타겟팅 방법 및 이러한 기능이 탑재된 동영상 장치
Gehrig et al. Exploiting traffic scene disparity statistics for stereo vision

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant