KR102234376B1 - 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법 - Google Patents

카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법 Download PDF

Info

Publication number
KR102234376B1
KR102234376B1 KR1020140010589A KR20140010589A KR102234376B1 KR 102234376 B1 KR102234376 B1 KR 102234376B1 KR 1020140010589 A KR1020140010589 A KR 1020140010589A KR 20140010589 A KR20140010589 A KR 20140010589A KR 102234376 B1 KR102234376 B1 KR 102234376B1
Authority
KR
South Korea
Prior art keywords
distortion
information
image data
unit
camera
Prior art date
Application number
KR1020140010589A
Other languages
English (en)
Other versions
KR20150089677A (ko
Inventor
박승룡
Original Assignee
엘지이노텍 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지이노텍 주식회사 filed Critical 엘지이노텍 주식회사
Priority to KR1020140010589A priority Critical patent/KR102234376B1/ko
Publication of KR20150089677A publication Critical patent/KR20150089677A/ko
Application granted granted Critical
Publication of KR102234376B1 publication Critical patent/KR102234376B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/215—Motion-based segmentation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

본 발명의 일 실시 예에 따르면 캘리브레이션 장치는 카메라를 통해 획득되는 영상데이터를 분석하여, 광흐름(optical flow) 정보를 추출하는 광흐름 추적부, 상기 광흐름 정보를 토대로 상기 영상데이터의 왜곡정보를 획득하는 왜곡 검출부, 상기 왜곡정보를 토대로 상기 영상데이터의 보정데이터를 산출하는 보정데이터 획득부, 그리고 상기 보정데이터를 토대로 상기 영상데이터의 왜곡을 보정하는 보정부를 포함한다.

Description

카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법{Camera system, calibration device and calibration method}
본 발명은 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법에 관한 것으로서, 더욱 상세하게는 어라운드 뷰 모니터 시스템에 적용되는 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법에 관한 것이다.
최근 차량 운전자의 편의와 안전 운행을 위한 차량용 카메라에 대한 수요가 급증하고 있다.
일 예로, 차량에 장착된 여러 대의 카메라로 차량 주변의 이미지를 촬영하고, 이들을 합성하여 운전자가 차량을 위에서 내려다본 주변 영상을 표시하는 어라운드 뷰 모니터(Around View Monitor, AVM) 시스템이 사용될 수 있다.
AVM 시스템은 여러 대의 카메라를 통해 획득한 영상을 합성하여 하나의 화면을 제공한다. AVM 시스템에서 각 카메라의 위치 및 시선 방향은 영상 합성을 위한 중요한 정보이다. 따라서, AVM 시스템을 차량에 초기 장착 시, 각 카메라의 위치에 따른 캘리브레이션(calibration) 과정이 수행될 필요가 있다.
일반적으로 AVM 시스템의 캘리브레이션 과정은 캘리브레이션을 위한 패턴들이 그려진 커다란 차트를 이용하여 수행되는데, 이러한 방법은 시간과 공간에 제약을 받는다. 또한, 차량 운행 중 발생하는 충격으로 인해 카메라의 위치 또는 방향이 틀어지는 경우, 실시간 캘리브레이션이 어려워 운전자의 불편을 초래할 수 있다.
본 발명이 이루고자 하는 기술적 과제는, 시간과 공간의 제약 없이 실시간 캘리브레이션이 가능한 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법을 제공하는 것이다.
본 발명의 일 실시 예에 따르면 캘리브레이션 장치는 카메라를 통해 획득되는 영상데이터를 분석하여, 광흐름(optical flow) 정보를 추출하는 광흐름 추적부, 상기 광흐름 정보를 토대로 상기 영상데이터의 왜곡정보를 획득하는 왜곡 검출부, 상기 왜곡정보를 토대로 상기 영상데이터의 보정데이터를 산출하는 보정데이터 획득부, 그리고 상기 보정데이터를 토대로 상기 영상데이터의 왜곡을 보정하는 보정부를 포함한다.
본 발명의 일 실시 예에 따르면 카메라 시스템은 서로 다른 위치에 배치되는 복수의 카메라, 상기 복수의 카메라를 이용하여 복수의 영상데이터를 획득하는 영상 수신부, 상기 복수의 영상데이터를 각각 분석하여 광흐름 정보를 추출하고, 상기 광흐름 정보를 토대로 상기 복수의 영상데이터 각각의 왜곡정보를 획득하며, 상기 왜곡정보를 토대로 상기 복수의 영상데이터를 보정하는 캘리브레이션부, 그리고 상기 복수의 영상데이터를 합성하여 합성영상을 생성하는 영상 합성부를 포함한다.
본 발명의 일 실시 예에 따르면 카메라 시스템의 캘리브레이션 방법은 카메라를 통해 획득되는 영상데이터로부터, 상기 영상데이터를 구성하는 각 픽셀 또는 각 블록 별 움직임벡터를 포함하는 광흐름 정보를 추출하는 단계, 상기 광흐름 정보를 토대로, 상기 영상데이터의 왜곡정보를 획득하는 단계, 상기 왜곡정보를 토대로 상기 영상데이터의 보정데이터를 산출하는 단계, 그리고 상기 보정데이터를 토대로 상기 영상데이터의 왜곡을 보정하는 단계를 포함한다.
본 발명의 실시 예에 따르면, 특정한 차트의 사용 없이 실시간으로 획득되는 영상데이터 또는 합성영상을 분석하여 각 카메라의 이동 또는 회전으로 인한 왜곡정보를 획득하는 것이 가능하며, 이로 인해 실시간 캘리브레이션이 가능한 효과가 있다.
또한, 각 카메라를 통해 획득되는 영상데이터를 분석하여 왜곡정보를 획득할 수 있어, 카메라 스펙에 대한 정보가 없더라도, 카메라 렌즈의 왜곡으로 인해 영상데이터가 왜곡되는 것을 보정이 가능하여, 임의의 왜곡을 가지는 카메라에 대해서는 보정이 가능하다. 이로 인해, 제조과정에서 카메라 간에 렌즈 특성의 편차가 발생하더라도, 왜곡 보정이 가능한 효과가 있다.
도 1은 본 발명의 일 실시 예에 따른 AVM 시스템을 개략적으로 도시한 구조도이다.
도 2는 본 발명의 일 실시 예에 따른 캘리브레이션부를 도시한 상세 블록도이다.
도 3은 본 발명의 일 실시 예에 따른 캘리브레이션부에서 광흐름 추적을 통해 검출한 움직임 벡터의 일 예를 도시한 것이다.
도 4는 본 발명의 일 실시 예에 따른 카메라 시스템의 캘리브레이션 방법을 도시한 흐름도이다.
도 5는 본 발명의 일 실시 예에 따른 캘리브레이션 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 다른 실시 예에 따른 캘리브레이션부를 도시한 상세 블록도이다.
도 7은 본 발명의 다른 실시 예에 따른 캘리브레이션부에서 왜곡정보를 획득하는 방법을 설명하기 위한 도면이다.
도 8은 본 발명의 다른 실시 예에 따른 카메라 시스템의 캘리브레이션 방법을 도시한 흐름도이다.
도 9는 본 발명의 다른 실시 예에 따른 캘리브레이션 방법을 설명하기 위한 도면이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제2, 제1 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제2 구성요소는 제1 구성요소로 명명될 수 있고, 유사하게 제1 구성요소도 제2 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
또한, 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 첨부된 도면을 참조하여 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 대응하는 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
이하, 도 1 내지 도 5를 참조하여, 본 발명의 일 실시 예에 따른 캘리브레이션 방법 및 이를 수행하기 위한 캘리브레이션 장치 및 카메라 시스템의 구성에 대하여 상세하게 설명하기로 한다.
도 1은 본 발명의 일 실시 예에 따른 어라운드 뷰 모니터(Around View Monitor, AVM) 시스템을 개략적으로 도시한 구조도로서, 차량에 장착되는 AVM 시스템을 도시한 것이다.
도 1을 참조하면, 본 발명의 일 실시 예에 따른 AVM 시스템은 카메라 시스템(10)과 표시장치(20)를 포함할 수 있다.
카메라 시스템(10)은 카메라부(11), 카메라 구동부(12), 영상 수신부(13), 저장부(14), 영상 합성부(15), 캘리브레이션부(16) 등을 포함할 수 있다. 도 1에 도시된 구성요소는 필수적인 것은 아니어서 본 발명의 일 실시 예에 따른 카메라 시스템은 그보다 더 많거나 더 적은 구성 요소를 포함할 수 있다.
카메라부(11)는 복수 개의 카메라(미도시)를 포함한다.
카메라부(11)의 각 카메라는 차량의 서로 다른 위치에 장착되어, 서로 다른 위치 및 방향에서 차량의 주변 영상을 획득한다.
카메라부(11)는 이로서 한정되는 것은 아니나, 4개 이상의 카메라를 포함하며, 4개 이상의 카메라를 이용하여 차량의 전/후 영상 및 좌/우 영상을 획득할 수 있다.
카메라 구동부(12)는 카메라부(11)에 포함되는 각 카메라의 구동을 제어한다. 예를 들어, 각 카메라의 온(On)/오프(Off)를 제어할 수 있다.
영상 수신부(13)는 카메라부(11)의 각 카메라로부터 수신한 영상신호에 대해 샘플링(sampling) 등의 신호 처리를 수행하여 영상데이터를 획득한다. 각 카메라에 대응하여 획득한 영상데이터는 카메라 별로 구분되어 저장부(14)에 저장될 수 있다.
저장부(14)는 카메라 시스템(10)의 동작을 위한 프로그램과 카메라 시스템(10)에 입/출력되는 데이터들을 저장할 수 있다.
예를 들어, 저장부(14)는 카메라부(11)에 포함된 복수의 카메라로부터 획득한 복수의 영상데이터, 또는 이들을 합성한 합성영상을 저장할 수 있다.
또한, 예를 들어, 저장부(14)는 각 카메라로부터 획득한 영상데이터와 이들을 합성하여 생성하는 합성영상 간의 좌표 매핑정보를 데이터베이스화하여 저장할 수 있다. 여기서, 좌표 매핑정보는 각 카메라를 통해 획득한 영상데이터의 각 픽셀(pixel)이 합성영상의 어느 픽셀에 매핑되는지를 나타내는 정보이다.
또한, 예를 들어, 저장부(14)는 카메라 시스템(10)의 캘리브레이션을 위한 보정데이터를 저장할 수 있다.
영상 합성부(15)는 저장부(14)에 저장된 좌표 매핑정보를 토대로 카메라부(11)에 포함되는 복수의 카메라로부터 획득한 복수의 영상데이터를 합성하여 하나의 합성영상을 생성한다. 여기서, 합성영상은 차량 위에서 차량 주변의 360도 방향으로 바라본 영상에 해당하는 탑 뷰(top view) 영상을 포함할 수 있다.
영상 합성부(15)는 차량 주변을 촬영한 복수의 영상데이터를 합성한 합성영상을 표시장치(20)로 전달한다. 표시장치(20)는 영상 합성부(15)로부터 수신한 합성영상을 화면에 디스플레이한다.
캘리브레이션부(16)는 광흐름(Obtical Flow) 추적을 토대로 카메라 시스템(10)의 캘리브레이션을 수행한다.
도 2는 본 발명의 일 실시 예에 따른 캘리브레이션부를 도시한 상세 블록도이다. 도 3은 본 발명의 일 실시 예에 따른 캘리브레이션부에서 광흐름 추적을 통해 검출한 움직임 벡터의 일 예를 도시한 것이다.
도 2를 참조하면, 본 발명의 일 실시 예에 따른 캘리브레이션부(16)는 광흐름 추적부(110), 왜곡 검출부(120), 보정데이터 획득부(130), 보정부(140) 등을 포함할 수 있다.
광흐름 추적부(110)는 카메라부(11)의 각 카메라를 통해 획득되는 영상데이터를 분석하여 광흐름 정보를 추출할 수 있다.
광흐름 추적은 영상에서 움직임을 검출하기 위한 방법으로, 각 픽셀의 픽셀정보를 토대로 연속하는 프레임 간에 상응하는 픽셀을 검색하여 움직임을 추적하는 방법이다. 여기서, 픽셀정보는 각 픽셀의 컬러 세기 및 텍스쳐(texture) 등을 포함할 수 있다. 도 3은 광흐름 추적부(110)에서 움직임 벡터를 추적하는 일 예를 도시한 것으로서, 도 3에서 영상 내에 표시되는 직선들은 광흐름 추적을 통해 획득한 움직임 벡터들을 나타낸다.
한편, 각 픽셀별로 광흐름 추적을 수행하는 경우 연산량이 증가하여 실시간 처리가 어려울 수 있다. 따라서, 광흐름 추적부(110)는 실시간으로 광흐름을 추적하기 위해 복수의 픽셀로 구성되는 블록 단위로 영상데이터를 분할하고, 블록 별로 광흐름 추적을 수행할 수도 있다. 또한, 광흐름 추적부(110)는 복수의 카메라를 통해 획득한 복수의 영상데이터에 대한 광흐름 추적 과정을 병렬로 수행할 수도 있다.
왜곡 검출부(120)는 광흐름 추적부(110)에서 획득한 카메라별 광흐름 정보를 분석하여, 각 카메라 별로 왜곡정보를 검출할 수 있다.
카메라가 이동하거나 카메라의 시선방향이 변경되면, 해당 카메라의 영상데이터 내 움직임 벡터의 방향이 급격히 변화할 수 있다.
따라서, 왜곡 검출부(120)는 광흐름 정보에 포함된 움직임 벡터들의 방향 및 크기를 분석하여, 기 설정된 수준 이상 왜곡된 움직임 벡터를 추출할 수 있다. 또한, 왜곡된 움직임 벡터의 왜곡 방향 및 왜곡 정도를 토대로 왜곡정보를 획득할 수 있다. 여기서, 왜곡정보는 각 카메라가 어느 방향으로 얼마나 이동(translation)하였는지와, 광축을 기준으로 얼마나 회전(rotation)하였는지를 나타내는 파라미터이다.
보정데이터 획득부(130)는 각 카메라의 왜곡정보를 토대로 영상데이터를 보정하기 위한 보정데이터를 카메라 별로 생성할 수 있다. 여기서, 보정데이터는 각 카메라의 이동 또는 회전으로 인해 변화된 위치 및 시선 방향을 반영하여 각 카메라로부터 획득되는 영상데이터를 보정하기 위한 데이터로서, 왜곡 보정을 위한 각 픽셀 또는 블록 별 이동정보, 회전정보 등을 포함할 수 있다.
보정데이터 획득부(130)는 각 카메라 별로 획득한 보정데이터를 저장부(14)에 저장할 수 있다.
보정부(140)는 보정데이터 획득부(130)에서 획득한 보정데이터를 토대로 각 카메라를 통해 획득되는 영상데이터를 보정할 수 있다. 보정부(140)는 보정 데이터를 토대로 영상 데이터 내 픽셀을 이동시켜 영상 데이터를 보정할 수 있다.
보정부(140)에서 보정된 각 카메라별 영상데이터는 영상 합성부(15)로 전달된다. 이를 수신한 영상 합성부(15)는 좌표 매핑정보를 토대로, 왜곡이 보정된 영상데이터들을 합성함으로써 합성 영상을 생성할 수 있다.
도 4는 본 발명의 일 실시 예에 따른 카메라 시스템의 캘리브레이션 방법을 도시한 흐름도이고, 도 5는 본 발명의 일 실시 예에 따른 캘리브레이션 방법을 설명하기 위한 도면이다.
도 4를 참조하면, 카메라 시스템(10)은 카메라부(11)를 통해 각 카메라의 영상 신호를 지속적으로 수신한다. 그리고 각 카메라를 통해 수신되는 영상 신호를 신호 처리하여 카메라 별로 영상데이터를 획득한다(S101).
캘리브레이션부(16)는 상기 S101 단계에서 획득한 카메라별 영상데이터에 대해 광흐름 추적과정을 수행한다. 또한, 광흐름 추적과정을 통해 각 카메라에 대응하는 광흐름 정보를 획득한다(S102).
도 5의 (a)를 예로 들면, 캘리브레이션부(16)는 영상데이터에 대한 광흐름 추적을 수행하여, 영상 내에서 도로 상에 표시된 화살표와 같은 움직임 벡터를 획득할 수 있다.
캘리브레이션부(16)는 광흐름 정보를 획득하면, 이로부터 각 카메라 별 왜곡정보를 획득한다(S103). 그리고, 캘리브레이션부(16)는 각 카메라 별로 획득한 왜곡정보를 토대로 각 카메라 별로 왜곡 보정을 위한 보정데이터를 산출하고, 이를 이용하여 각 카메라를 통해 획득한 영상데이터의 왜곡을 보정한다(S104).
도 5를 예로 들면, 도 5의 (b)와 (c)는 왜곡 보정 과정을 도시한 것으로서, 도 5의 (a)에 도시된 영상데이터에서 합성영상에 포함되는 영역의 왜곡을 보정하는 일 예를 도시한 것이다. 합성영상이 탑 뷰 영상인 경우, 도 5의 (a)에서 합성영상에 포함되는 영역은 도로 영역이 될 수 있다. 도 5의 (b)와 (c)는 왜곡정도를 표현하기 위해 영상데이터 중 도로 영역을 메쉬 데이터로 표시한 것으로서, 도 5의 (b)는 왜곡 보정 전의 데이터이고, 도 5의 (c)는 왜곡 보정 후의 데이터를 나타낸다.
각 카메라 별로 왜곡 보정이 완료된 영상데이터는 영상 합성부(15)로 전달된다.
영상 합성부(15)는 각 카메라 별로 왜곡이 보정된 영상데이터가 입력되면, 좌표 매핑정보를 토대로 각 카메라별 영상데이터를 합성하여 합성영상을 생성한다(S105).
상기 S105 단계에서, 영상 합성부(15)는 왜곡이 보정된 영상데이터가 입력되면, 이를 탑 뷰 영상으로 합성하기 위해 가공할 수 있다. 도 5를 예로 들면, 영상 합성부(15)는 도 5의 (c)에 도시된 바와 같이 왜곡이 보정된 영상이 수신되면, 이를 도 5의 (d)에 도시된 바와 같이, 시선 방향이 탑 뷰 시점에 대응하도록 영상 데이터를 가공할 수 있다. 영상 합성부(15)는 시선 변경이 완료되면, 이를 이용하여 합성 영상을 생성한다.
이하, 도 6 내지 도 9를 참조하여, 본 발명의 다른 실시 예에 따른 캘리브레이션 방법 및 이를 수행하기 위한 캘리브레이션 장치의 구성에 대하여 상세하게 설명하기로 한다.
한편, 본 발명의 다른 실시 예예 따른 캘리브레이션 방법을 실행하기 위한 AVM 시스템 및 카메라 시스템은 전술한 일 실시 예에서 도 1을 참조하여 설명한 AVM 시스템 및 카메라 시스템과 구성이 동일하므로 아래에서는 AVM 시스템과 카메라 시스템에 대한 설명을 생략한다.
도 6은 본 발명의 다른 실시 예에 따른 캘리브레이션부를 도시한 상세 블록도이다. 도 7은 본 발명의 다른 실시 예에 따른 캘리브레이션부에서 왜곡정보를 획득하는 방법을 설명하기 위한 도면이다.
도 6을 참조하면, 본 발명의 다른 실시 예에 따른 캘리브레이션부(16)는 광흐름 추적부(210), 왜곡 검출부(220), 보정데이터 획득부(230) 등을 포함할 수 있다.
광흐름 추적부(210)는 영상 합성부(15)에서 생성한 합성영상을 분석하여, 합성영상을 구성하는 각 픽셀 또는 각 블록에 대한 광흐름 정보를 추출할 수 있다.
왜곡 검출부(220)는 광흐름 추적부(110)에서 획득한 합성영상의 광흐름 정보를 분석하여, 합성영상의 왜곡정보를 검출할 수 있다.
어느 하나의 카메라가 이동하거나 시선방향이 변경되면, 해당 카메라를 통해 획득되는 영상데이터를 기존의 좌표 매핑정보대로 합성하는 경우, 합성영상 내에서 해당 카메라에 대응하는 영역의 움직임 벡터는 다른 영역에서의 움직임 벡터와 방향이 틀어지게 된다. 도 7을 예로 들면, 차량의 좌측을 촬영한 영상이 왜곡이 발생했음을 알 수 있다.
따라서, 왜곡 검출부(220)는 광흐름 정보에 포함된 움직임 벡터들의 방향 및 크기를 분석하여, 기 설정된 수준 이상 움직임 벡터가 왜곡된 영역을 검출할 수 있다. 또한, 움직임 벡터가 왜곡된 영역에서의 움직임 벡터의 왜곡 방향 및 왜곡 정도를 토대로 왜곡정보를 획득할 수 있다. 여기서, 왜곡정보는 움직임 벡터가 왜곡된 픽셀 또는 블록의 위치정보를 포함할 수 있다.
보정데이터 획득부(230)는 왜곡정보를 토대로 합성영상을 보정하기 위한 보정데이터를 생성할 수 있다. 여기서, 보정데이터는 각 카메라의 이동 또는 회전으로 인해 각 영상데이터를 구성하는 픽셀 또는 블록이 이동 또는 회전하고, 이로 인해 합성영상을 구성하는 각 픽셀 또는 블록이 이동 또는 회전하여 왜곡되는 것을 보정하기 위한 데이터로서, 왜곡 보정을 위한 합성영상의 각 픽셀 또는 블록 별 이동정보, 회전정보 등을 포함할 수 있다.
보정데이터 획득부(230)는 합성영상에 대해 획득한 보정데이터를 저장부(14)에 저장할 수 있다.
보정데이터 획득부(230)에서 획득한 보정데이터는 영상 합성부(15)로 전달되어, 영상 합성부(15)에서 합성영상을 보정하는데 사용될 수 있다. 즉, 영상 합성부(15)는 보정데이터를 토대로 좌표 매핑정보를 보정하고, 보정된 좌표 매핑정보를 토대로 합성영상을 생성할 수 있다.
도 8은 본 발명의 다른 실시 예에 따른 카메라 시스템의 캘리브레이션 방법을 도시한 흐름도이고, 도 9는 본 발명의 다른 실시 예에 따른 캘리브레이션 방법을 설명하기 위한 도면이다.
도 8을 참조하면, 카메라 시스템(10)은 카메라부(11)를 통해 각 카메라의 영상 신호를 지속적으로 수신한다. 그리고 각 카메라를 통해 수신되는 영상 신호를 신호 처리하여 카메라 별로 영상데이터를 획득한다(S201).
또한, 영상 합성부(15)를 통해 각 카메라를 통해 획득한 영상데이터를 합성하여 합성영상을 생성한다(S202).
캘리브레이션부(16)는 영상 합성부(15)를 통해 합성영상이 생성되면, 합성영상에 대한 광흐름 추적과정을 수행한다. 또한, 광흐름 추적과정을 통해 합성영상에 대한 광흐름 정보를 획득한다(S203).
도 9의 (a)를 예로 들면, 캘리브레이션부(16)는 합성영상을 구성하는 각 블록별로 광흐름 추적을 수행하여, 각 블록에 대응하는 움직임 벡터를 획득할 수 있다.
캘리브레이션부(16)는 광흐름 정보를 획득하면, 이로부터 합성영상의 각 픽셀 또는 블록에 대한 왜곡정보를 획득한다(S204). 그리고, 캘리브레이션부(16)는 합성영상으로부터 획득한 왜곡정보를 토대로 합성영상을 구성하는 각 픽셀 또는 블록의 왜곡 보정을 위한 보정데이터를 산출하고, 이를 이용하여 합셩영상의 왜곡을 보정한다(S205).
도 9를 예로 들면, 도 9의 (a)와 (b)는 왜곡 보정 과정을 도시한 것으로서, 탑뷰 영상인 합성영상의 왜곡을 보정하는 일 예를 도시한 것이다. 도 9의 (a)는 왜곡 보정 전의 합성영상이고, 도 9의 (b)는 왜곡 보정 후의 합성영상을 나타낸다.
상기 S205 단계에서, 캘리브레이션부(16)는 각 카메라를 통해 획득되는 영상데이터들을 합성하여 합성영상을 생성하기 위해 사용되는 좌표 매핑정보를 보정함으로써, 합성영상의 왜곡을 보정할 수 있다. 즉, 카메라의 이동 또는 회전으로 인해, 해당 카메라를 통해 획득되는 영상데이터의 합성영상 내 좌표가 왜곡되는 것을 보정하기 위해 좌표 매핑정보를 보정하고, 이를 토대로 합성영사을 생성함으로써 합성영상의 왜곡을 보정할 수 있다.
전술한 본 발명의 실시 예들에 따르면, 특정한 차트의 사용 없이 실시간으로 획득되는 영상데이터 또는 합성영상을 분석하여 각 카메라의 이동 또는 회전으로 인한 왜곡정보를 획득하는 것이 가능하며, 이로 인해 실시간 캘리브레이션이 가능한 효과가 있다.
또한, 본 발명의 일 실시 예에 기술한 바와 같이, 각 카메라를 통해 획득되는 영상데이터를 분석하여 왜곡정보를 획득할 수 있어, 카메라 스펙에 대한 정보가 없더라도, 카메라 렌즈의 왜곡으로 인해 영상데이터가 왜곡되는 것을 보정이 가능하여, 임의의 왜곡을 가지는 카메라에 대해서는 보정이 가능하다. 이로 인해, 제조과정에서 카메라 간에 렌즈 특성의 편차가 발생하더라도, 왜곡 보정이 가능한 효과가 있다.
본 실시 예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA(field-programmable gate array) 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 기록 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.
상기에서는 본 발명의 바람직한 실시 예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.

Claims (9)

  1. 카메라를 통해 획득되는 영상데이터를 분석하여, 광흐름(optical flow) 정보를 추출하는 광흐름 추적부,
    상기 광흐름 정보를 토대로 상기 영상데이터의 왜곡정보를 획득하는 왜곡 검출부,
    상기 왜곡정보를 토대로 상기 영상데이터의 보정데이터를 산출하는 보정데이터 획득부, 그리고
    상기 보정데이터를 토대로 상기 영상데이터의 왜곡을 보정하는 보정부를 포함하고,
    상기 왜곡 검출부는,
    상기 광흐름 정보에 포함된 움직임 벡터 중 움직임 벡터의 방향 및 크기가 기 설정된 수준 이상 왜곡된 움직임 벡터를 추출하고, 상기 왜곡된 움직임 벡터의 왜곡 방향 및 왜곡 정보를 토대로 상기 왜곡정보를 획득하는 캘리브레이션 장치.
  2. 제1항에 있어서,
    상기 광흐름 정보는 상기 영상데이터를 구성하는 각 픽셀 또는 각 블록 별 움직임 벡터를 포함하는 캘리브레이션 장치.
  3. 삭제
  4. 제2항에 있어서,
    상기 보정 데이터는 상기 각 픽셀 또는 상기 각 블록 별로 왜곡 보상을 위한 이동정보 및 회전정보를 포함하는 캘리브레이션 장치.
  5. 서로 다른 위치에 배치되는 복수의 카메라,
    상기 복수의 카메라를 이용하여 복수의 영상데이터를 획득하는 영상 수신부,
    상기 복수의 영상데이터를 각각 분석하여 광흐름 정보를 추출하고, 상기 광흐름 정보를 토대로 상기 복수의 영상데이터 각각의 왜곡정보를 획득하며, 상기 왜곡정보를 토대로 상기 복수의 영상데이터를 보정하는 캘리브레이션부, 그리고
    상기 복수의 영상데이터를 합성하여 합성영상을 생성하는 영상 합성부를 포함하고,
    상기 캘리브레이션부는,
    상기 광흐름 정보에 포함된 움직임 벡터 중 움직임 벡터의 방향 및 크기가 기 설정된 수준 이상 왜곡된 움직임 벡터를 추출하고, 상기 왜곡된 움직임 벡터의 왜곡 방향 및 왜곡 정보를 토대로 상기 왜곡정보를 획득하는 카메라 시스템.
  6. 제5항에 있어서,
    상기 광흐름 정보는 상기 복수의 영상데이터 각각을 구성하는 각 픽셀 또는 각 블록 별 움직임 벡터를 포함하는 카메라 시스템.
  7. 삭제
  8. 제6항에 있어서,
    상기 캘리브레이션부는 상기 왜곡정보를 토대로 상기 각 픽셀 또는 각 블록 별 이동정보 및 회전정보를 포함하는 보정데이터를 산출하고, 상기 보정데이터를 이용하여 상기 복수의 영상데이터를 각각 보정하는 카메라 시스템.
  9. 카메라를 통해 획득되는 영상데이터로부터, 상기 영상데이터를 구성하는 각 픽셀 또는 각 블록 별 움직임벡터를 포함하는 광흐름 정보를 추출하는 단계,
    상기 광흐름 정보를 토대로, 상기 영상데이터의 왜곡정보를 획득하는 단계,
    상기 왜곡정보를 토대로 상기 영상데이터의 보정데이터를 산출하는 단계, 그리고
    상기 보정데이터를 토대로 상기 영상데이터의 왜곡을 보정하는 단계를 포함하고,
    상기 광흐름 정보를 추출하는 단계는,
    상기 광흐름 정보에 포함된 움직임 벡터 중 움직임 벡터의 방향 및 크기가 기 설정된 수준 이상 왜곡된 움직임 벡터를 추출하고,
    상기 영상데이터의 왜곡정보를 획득하는 단계는,
    상기 왜곡된 움직임 벡터의 왜곡 방향 및 왜곡 정보를 토대로 상기 왜곡정보를 획득하는 카메라 시스템의 캘리브레이션 방법.
KR1020140010589A 2014-01-28 2014-01-28 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법 KR102234376B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140010589A KR102234376B1 (ko) 2014-01-28 2014-01-28 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140010589A KR102234376B1 (ko) 2014-01-28 2014-01-28 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법

Publications (2)

Publication Number Publication Date
KR20150089677A KR20150089677A (ko) 2015-08-05
KR102234376B1 true KR102234376B1 (ko) 2021-03-31

Family

ID=53886074

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140010589A KR102234376B1 (ko) 2014-01-28 2014-01-28 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법

Country Status (1)

Country Link
KR (1) KR102234376B1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102441052B1 (ko) * 2016-09-02 2022-09-06 현대자동차주식회사 Ａｖｍ 영상 변환 장치 및 방법
KR102336284B1 (ko) * 2017-01-11 2021-12-08 한국전자기술연구원 단일 카메라를 이용한 영상에서 움직이는 객체 검출 방법 및 시스템
KR102280169B1 (ko) * 2017-03-06 2021-07-21 삼성전자주식회사 영상을 처리하는 방법 및 장치
KR102406513B1 (ko) * 2017-09-21 2022-06-15 현대자동차주식회사 영상 변환 시스템 및 방법
KR102159134B1 (ko) * 2019-09-27 2020-09-23 네이버시스템(주) 무인비행기를 이용한 비측량용 실시간 고해상도 정사지도 생성 방법 및 비측량용 실시간 고해상도 정사지도 생성 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005276057A (ja) 2004-03-26 2005-10-06 Mitsubishi Motors Corp ノーズビューモニタ装置
JP2005318568A (ja) * 2004-03-30 2005-11-10 Fuji Photo Film Co Ltd 画像補正装置、および画像補正方法
JP2010109451A (ja) 2008-10-28 2010-05-13 Panasonic Corp 車両周囲監視装置及び車両周囲監視方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101077584B1 (ko) * 2009-12-14 2011-10-27 (주) 에투시스템 복수개의 카메라로부터 획득한 영상을 정합하는 영상 처리 장치 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005276057A (ja) 2004-03-26 2005-10-06 Mitsubishi Motors Corp ノーズビューモニタ装置
JP2005318568A (ja) * 2004-03-30 2005-11-10 Fuji Photo Film Co Ltd 画像補正装置、および画像補正方法
JP2010109451A (ja) 2008-10-28 2010-05-13 Panasonic Corp 車両周囲監視装置及び車両周囲監視方法

Also Published As

Publication number Publication date
KR20150089677A (ko) 2015-08-05

Similar Documents

Publication Publication Date Title
US10073517B1 (en) Position tracking system that exploits arbitrary configurations to determine loop closure
KR102234376B1 (ko) 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법
US11102467B2 (en) Array detector for depth mapping
US10171802B2 (en) Calibration method and calibration device
US10176543B2 (en) Image processing based on imaging condition to obtain color image
US20180376067A1 (en) Method and apparatus for remanent imaging control
US20150189267A1 (en) Image projection device and calibration method thereof
US10685431B1 (en) Optical measurement system
US8797387B2 (en) Self calibrating stereo camera
US10540784B2 (en) Calibrating texture cameras using features extracted from depth images
US10678325B2 (en) Apparatus, system, and method for accelerating positional tracking of head-mounted displays
JPWO2018051459A1 (ja) 物体検出装置および物体検出方法
JP2013502558A (ja) 空間光パターンに基づく深さデータの生成
US20130100249A1 (en) Stereo camera device
US9070189B2 (en) Image blurring correction device
US10410372B1 (en) Methods, systems, and computer-readable media for utilizing radial distortion to estimate a pose configuration
JP2021523347A (ja) 飛行時間カメラの低減された出力動作
CN115150561B (zh) 一种高动态成像系统和方法
JP2011049733A (ja) カメラキャリブレーション装置および映像歪み補正装置
US11218691B1 (en) Upsampling content for head-mounted displays
CN112700502A (zh) 双目相机系统和双目相机空间标定方法
WO2020092051A1 (en) Rolling shutter rectification in images/videos using convolutional neural networks with applications to sfm/slam with rolling shutter images/videos
US9158183B2 (en) Stereoscopic image generating device and stereoscopic image generating method
US10043430B1 (en) Eyecup-display alignment testing apparatus
KR102503976B1 (ko) 증강현실 영상 보정 장치 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant