KR101938067B1 - Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치 - Google Patents

Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치 Download PDF

Info

Publication number
KR101938067B1
KR101938067B1 KR1020170068183A KR20170068183A KR101938067B1 KR 101938067 B1 KR101938067 B1 KR 101938067B1 KR 1020170068183 A KR1020170068183 A KR 1020170068183A KR 20170068183 A KR20170068183 A KR 20170068183A KR 101938067 B1 KR101938067 B1 KR 101938067B1
Authority
KR
South Korea
Prior art keywords
wide
angle
stereo
matching
images
Prior art date
Application number
KR1020170068183A
Other languages
English (en)
Other versions
KR20180131743A (ko
Inventor
송병철
김용준
이승현
Original Assignee
인하대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인하대학교 산학협력단 filed Critical 인하대학교 산학협력단
Priority to KR1020170068183A priority Critical patent/KR101938067B1/ko
Publication of KR20180131743A publication Critical patent/KR20180131743A/ko
Application granted granted Critical
Publication of KR101938067B1 publication Critical patent/KR101938067B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G06K9/4671—
    • G06T5/006—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G06T2207/10012—Stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30244—Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치가 제시된다. 본 발명에서 제안하는 SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법은 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 단계, SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상하는 단계 및 사상된 광각 스테레오 영상들에 대해 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 단계를 포함한다.

Description

SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치{Method and Apparatus for Stereo Matching of Wide-Angle Images using SIFT Flow}
본 발명은 SIFT Flow를 이용한 광각영상의 스테레오 정합 방법 및 장치에 관한 것으로, 더욱 상세하게는 서로 수직으로 배치된 광각 스테레오 카메라를 이용하여 촬영된 광각 영상들을 보정과 SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 정합 성능을 향상시킬 수 있는 방법 및 장치에 관한 것이다.
최근 광각 영상은 감시, 로봇비전 그리고 ADAS(advanced driver assistant systems) 등의 자동차 관련 분야뿐만 아니라, 다양한 분야에서 사용되고 있다. 또한 여러 대의 카메라를 이용하여 전 방향 영상을 얻어 VR영상으로 사용하거나 깊이 정보를 더하여 3D 맵을 구성하여 지도로 사용되는 등 광각 영상의 다양한 활용 방법이 제시되고 있다.
이러한 영상을 만들기 위해서는 여러 장의 영상을 이어 붙이는 스티칭(Stitching)과 영상의 3차원 위치 정보를 계산하기 위한 깊이 정보 추정 기술이 필요하고, 이에 대한 기반 기술이 영상 정합이다. 이 때 광각 카메라를 사용할 경우 협각 카메라에 비해 적은 수의 카메라를 이용하여 전 방향 영상을 촬영할 수 있고 특히 180도 이상의 시야각을 갖는 카메라를 사용하면 소수의 카메라만으로 가능하다.
하지만 180도 이상의 시야각을 가지는 광각 영상의 경우 영상의 외곽으로 갈수록 생기는 왜곡이 일반적인 광각 영상에 비해 상당히 크고 이 때문에 오정합이 발생하거나 정합점의 수가 너무 적어지는 문제가 발생한다. 이러한 문제점을 해결하기 위해 일반적으로 카메라를 평행한 방향으로 더 배치하여 깊이 정보를 추정하는 방법을 사용한다. 하지만 영상 외곽에서 중심부에 비해 픽셀 정보가 부족해지고 이로 인해 영상의 접합 점에서 화질이 떨어지게 되면서 3D 맵의 픽셀 분포가 고르지 않게 되는 문제가 발생한다.
이러한 문제를 해결하기 위해 일반적인 스테레오 영상 획득 방식과 다르게 카메라를 서로 수직으로 배치하여 영상을 얻는다. 하지만 수직으로 카메라를 배치할 경우 영상 외곽에서의 픽셀 정보의 부족 문제를 해결할 수 있으나 기존의 광각 영상의 왜곡 정도의 차이와 좌우 측 영상간 스케일 차이가 커져 정합이 잘 되지 않는 문제가 더 커지게 된다. 따라서 이를 해결하기 위해 카메라를 수직으로 배치하면서도 영상의 왜곡을 최대한 보정하여 두 영상을 정합함으로써 픽셀정보도 충분히 확보하고 정확한 정합도 할 수 있는 방안을 필요로 한다.
도 1은 종래기술에 따른 전 방향 영상을 얻기 위한 다양한 카메라 배치 방식을 나타내는 도면이다.
도 1(a)는 전 방향 영상만을 얻기 위한 카메라의 배치를 나타내고, 도 1(b)는 깊이 정보를 포함한 전 방향 영상을 얻기 위한 카메라의 배치를 나타낸다.
전 방향 영상을 얻을 때 여러 대의 협각 카메라를 사용하거나 광각 카메라를 도 1(a)와 같이 배치하여 좀 더 적은 수의 카메라를 사용하여 촬영을 해야 한다. 이때 180도 이상의 시야각을 카메라를 이용하면 더 적은 수로 전 방향 촬영이 가능하다. 예를 들어, 220도 시야각의 카메라를 이용하여 구성하면 네 대의 카메라로도 가능하다. 하지만 카메라 간의 뷰 포인트(view point)가 달라 영상의 왜곡 정도가 달라져 스파스한(sparse) 정합을 통한 스티칭은 가능하나 정확하면서 조밀하게(dense) 정합 하지 못해 깊이 정보까지 추정하지 못한다.
이러한 문제를 해결하기 위해 도 1(b)와 같이 카메라를 배치하는 방식이 제안 되었고, 이러한 방식은 깊이 정보를 포함한 전 방향 영상을 얻을 수 있으나 기존의 카메라의 배치를 스테레오 방식으로 바꾼 것이기 때문에 장착해야 하는 카메라 수가 두 배로 늘어나게 되는 문제가 있다.
본 발명이 이루고자 하는 기술적 과제는 서로 수직으로 배치된 180도 이상의 시야각을 가지는 광각 스테레오 카메라를 통해 촬영된 광각 영상들을 캘리브레이션(calibration)과 SIFT 플로우를 이용하여 정합 성능을 향상시키고, 종래기술 대비 더 적은 수의 카메라를 이용하여 깊이 정보를 포함한 전 방향 영상을 촬영하기 위한 방법 및 장치를 제공하는데 있다.
일 측면에 있어서, 본 발명에서 제안하는 SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법은 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 단계, SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상하는 단계 및 사상된 광각 스테레오 영상들에 대해 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 단계를 포함한다.
서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 단계는 수직으로 배치된 광각 스테레오 카메라들을 이용하여 체커 보드를 복수의 각도로 촬영하고, 촬영된 광각 스테레오 영상들을 이용하여 카메라의 위치, 방향 및 내부 렌즈 정보를 포함하는 외부 파라미터와 내부 파라미터를 구하고, 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 왜곡을 보정한다.
더욱 상세하게는, 촬영된 광각 스테레오 영상들이 겹치는 영역에 대해 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡을 보정하고, 외부 파라미터를 이용하여 뷰 포인트 차이로 인한 왜곡을 보정한다.
사상된 광각 스테레오 영상들에 대해 ASIFT를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 단계는 ASIFT를 이용하여 광각 스테레오 영상들을 정합한 후, 정합점에 대해 RANSAC을 이용하여 이상점(outlier)을 제거하고, SIFT 플로우를 통해 구한 플로우 벡터(flow vector)를 합하여 최종 정합점을 구한다.
또 다른 일 측면에 있어서, 본 발명에서 제안하는 SIFT 플로우를 이용한 광각영상의 스테레오 정합 장치는 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 보정부, SIFT 플로우(SIFT flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상하는 SIFT 알고리즘 수행부 및 사상된 광각 스테레오 영상들에 대해 ASIFT를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 ASIFT 정합부를 포함한다.
보정부는 수직으로 배치된 광각 스테레오 카메라들을 이용하여 체커 보드를 복수의 각도로 촬영하고, 촬영된 광각 스테레오 영상들을 이용하여 카메라의 위치, 방향 및 내부 렌즈 정보를 포함하는 외부 파라미터와 내부 파라미터를 구하고, 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 왜곡을 보정한다.
보정부는 촬영된 광각 스테레오 영상들이 겹치는 영역에 대해 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡을 보정하고, 외부 파라미터를 이용하여 뷰 포인트 차이로 인한 왜곡을 보정한다.
ASIFT 정합부는 ASIFT를 이용하여 광각 스테레오 영상들을 정합한 후, 정합점에 대해 RANSAC을 이용하여 이상점(outlier)을 제거하고, SIFT 플로우를 통해 구한 플로우 벡터(flow vector)를 합하여 최종 정합점을 구한다.
본 발명의 실시예들에 따르면 광각 영상을 수직으로 배치한 후 캘리브레이션(calibration)을 통한 보정과 SIFT 플로우를 통한 영상 사상을 이용하여 두 영상 간의 왜곡 정도 차이를 최소화함으로써 정합점의 수를 최대화하고 오정합을 최소화할 수 있다. 또한, 광각 영상에서의 외곽영역에서의 픽셀 데이터(pixel data) 부족을 해결함과 동시에 정합의 어려움을 해결하는 결과를 얻을 수 있다. 따라서, 180도 이상의 광각 영상을 수직으로 배치함으로써 전체적으로 화질이 높은 정합 영상 및 깊이 맵(depth map)을 구성할 수 있다.
도 1은 종래기술에 따른 전 방향 영상을 얻기 위한 다양한 카메라 배치 방식을 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따른 SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법을 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 수직 배치된 광각 카메라를 나타내는 도면이다.
도 4는 본 발명의 일 실시예에 따른 외부 파라미터를 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 체커 보드 영상에서의 SIFT 플로우를 이용한 사상을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 체커 보드 영상에서의 SIFT 플로우를 이용한 사상을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 SIFT 플로우를 이용한 광각영상의 스테레오 정합 장치의 구성을 나타내는 도면이다.
도 8은 본 발명의 일 실시예에 따른 실험에서 각 단계별 정합점과 오정합 비율을 비교한 결과를 나타내는 도면이다.
본 발명은 카메라를 수직으로 배치한 후 촬영된 영상에 보정을 통해 두 영상 간의 차이를 최소화 한 후 정합해서 영상의 외곽에서의 픽셀 정보 부족 문제와 정합의 어려움 문제를 해결할 수 있는 기술을 제안한다. 이를 기술을 이용하면 소수의 카메라를 이용해 영상을 촬영하여 깊이 정보를 포함한 전 방향 영상을 얻을 수 있다.
본 발명은 서로 수직으로 배치된 180도 이상의 시야각을 가지는 광각 스테레오 카메라를 이용하여 촬영된 광각 영상들을 보정(calibration)과 SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 정합 성능을 향상시키고, 종래기술 대비 더 적은 수의 카메라를 이용하여 깊이 정보를 포함한 전 방향 영상을 촬영할 수 있는 기반 기술을 제안한다. 다시 말해, 본 발명은 스테레오 영상에 보정을 수행하여 왜곡을 보정하고 SIFT 플로우를 이용하여 한쪽으로 사상하는 단계를 거친 후 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 스테레오 정합을 수행하는 단계로 구성된다. 이하, 본 발명의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.
도 2는 본 발명의 일 실시예에 따른 SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법을 설명하기 위한 흐름도이다.
제안하는 SIFT 플로우를 이용한 광각영상의 스테레오 정합 방법은 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 단계(210), SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상하는 단계(220) 및 사상된 광각 스테레오 영상들에 대해 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 단계(230)를 포함한다.
단계(210)에서, 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정한다. 이때, 수직으로 배치된 광각 스테레오 카메라들을 이용하여 체커 보드를 복수의 각도로 촬영하고, 촬영된 광각 스테레오 영상들을 이용하여 카메라의 위치, 방향 및 내부 렌즈 정보를 포함하는 외부 파라미터와 내부 파라미터를 구한 후, 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 왜곡을 보정한다. 더욱 상세하게는, 촬영된 광각 스테레오 영상들이 겹치는 영역에 대해 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡을 보정하고, 외부 파라미터를 이용하여 뷰 포인트 차이로 인한 왜곡을 보정한다.
광각 카메라를 수직으로 배치하여 전 방향에 대해 두 장의 겹쳐진 영상을 얻으면서 광각영상의 광학적 특성상 생기는 영상 외곽에서의 화질 저하를 해결한다.
광각 스테레오 영상을 촬영 한 후 피시아이-스테레오 보정(fisheye-stereo calibration)을 통한 카메라의 외부 파라미터(extrinsic parameter), 내부 파라미터(intrinsic parameter)를 이용하여 두 영상 간의 겹쳐지는 부분을 중심으로 광각영상에서 발생하는 배럴형 왜곡(barrel-shaped distort)을 제거하면서 정류(rectifying)하여 이 후 과정에서의 정합의 정확도를 높인다.
단계(220)에서, SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상한다.
단계(230)에서, 사상된 광각 스테레오 영상들에 대해 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 최종적으로 광각 스테레오 영상들을 정합한다.
보정된 두 영상을 SIFT 플로우를 이용하여 한 영상을 다른 영상에 사상하고, 두 영상 간의 차이를 최소화한 후에 사상시킨 영상을 ASIFT를 통해 정합하고, 이상점(outlier)들을 RANSAC(Random sample consensus)을 통해 제거한다. 마지막으로 SIFT 플로우와 ASIFT의 플로우 벡터(flow vector)들을 합한 후 역 변환(inverse transform)하여 두 광각 영상의 정합점을 구하게 된다.
본 발명의 주요한 특징은 다음과 같다. 광각 영상을 수직으로 배치한 후 캘리브레이션(calibration)을 통한 보정과 SIFT 플로우를 통한 영상 사상을 이용하여 두 영상 간의 왜곡 정도 차이를 최소화함으로써 정합점의 수를 최대화하고 오정합을 최소화한다. 또한, 광각 영상에서의 외곽영역에서의 픽셀 데이터(pixel data)부족을 해결함과 동시에 정합의 어려움을 해결하는 결과를 얻는다. 따라서, 180도 이상의 광각 영상을 수직으로 배치함으로써 전체적으로 화질이 높은 정합 영상 및 깊이 맵(depth map)을 구성할 수 있다.
도 3은 본 발명의 일 실시예에 따른 수직 배치된 광각 카메라를 나타내는 도면이다.
종래기술에서의 문제를 해결하기 위하여, 본 발명의 일 실시예에 따른 220도의 시야각을 가지는 두 개의 카메라(310, 320)를 도 3과 같이 배치한다. 이와 같은 배치로 전 방향에서 두 장의 영장 정보를 얻을 수 있지만 앞서 언급한 바와 같이 깊이 정보를 추정하기 어렵다. 이를 해결하기 위해 새로운 정합 기술이 필요하다. 본 발명에서 제안하는 기술은 아래와 같다.
본 발명의 일 실시예에 따르면, 먼저 수직으로 배치된 광각 카메라에서 촬영된 광각 스테레오 영상을 사전에 구한 카메라의 내부 파라미터(intrinsic parameter), 외부 파라미터(extrinsic parameter)를 통해 광각 스테레오 캘리브레이션(calibration)을 한다. 이를 통해 겹치는 영역을 위주로 왜곡 보정을 하여 두 영상 간의 영상 왜곡으로 인한 차이를 최소화하고 정확도를 높인다.
다음으로 SIFT 플로우를 이용하여 한 영상을 다른 영상에 대해 사상한다. 이 때 알고리즘 내의 에너지 함수(Energy function)을 최소화하는 기술로 영상의 오정합을 줄이게 된다. 이 과정으로 인해 두 영상 간의 뷰 포인트(view point) 차이로 인한 영상의 차이를 줄이게 된다.
마지막으로 앞선 과정으로 인해 영상의 광각 렌즈로 인한 왜곡과 뷰 포인트의 차이로 인한 문제가 해결된 영상에 ASIFT를 이용해 최종적으로 영상을 정합한 후 RANSAC으로 오정합을 제거한다. 마지막으로 각 단계별로 구한 플로우 벡터(flow vector)를 합하여 최종적으로 두 영상 간의 정합점을 구하게 된다.
도 4는 본 발명의 일 실시예에 따른 외부 파라미터를 설명하기 위한 도면이다.
본 발명의 일 실시예에 따르면, 왜곡 보정은 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 시행한다. 도 3과 같이 수직으로 배치한 카메라(410, 420)를 이용하여 채커 보드(checker board)(430)를 여러 각도로 촬영(1, 2, 3, ..., 8) 한 후 이를 이용하여 카메라의 위치, 방향과 내부 렌즈 등의 정보, 다시 말해 외부 파라미터(extrinsic parameter)와 내부 파라미터(intrinsic parameter)를 구한다.
이 후 같은 조건에서 촬영된 두 영상의 겹쳐지는 영역에 대해 앞서 구한 파라미터를 이용하여 정류를 한다. 더욱 상세하게는 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡 성분은 제거하고, 외부 파라미터를 이용하여 영상의 뷰 포인트가 다르기 때문에 생긴 왜곡을 줄임으로써 같은 방향을 촬영한 것과 같이 변환하게 되므로 두 카메라가 수평 배치가 아니기 때문에 생기는 문제를 줄일 수 있다. 또한, 이러한 과정을 통해 공액선(epipolar line)을 일치시켜 이 후 과정에서의 정합 정확도를 향상시키고 검색 윈도우(searching window)의 크기를 최소화할 수 있도록 한다.
도 5는 본 발명의 일 실시예에 따른 체커 보드 영상에서의 SIFT 플로우를 이용한 사상을 설명하기 위한 도면이다.
SIFT 플로우를 이용하여 두 영상의 특징 맵을 구성한 후, 검색 윈도우 내에서 가장 특징이 비슷한 점, 다시 말해 같은 위치가 촬영된 픽셀들을 정합한다. 이때, SIFT 플로우는 수학식(1)의 에너지 함수(Energy function)을 최소화하는 방향으로 최적화한다. 이러한 방법을 이용하여 정합한 픽셀들 중 이상점을 제거하면서 더욱 강인하게(robust) 동작할 수 있도록 한다.
Figure 112017052343515-pat00001
수학식(1)
두 영상의 특징 벡터 s1, s2 를 비교할 뿐만 아니라, 픽셀 p를 정합할 때 주변 픽셀들 p, q 의 플로우 벡터 u(p), v(q)의 차이도 최소화 하도록 에너지 함수를 정의하여 이상점을 최소화하면서 더욱 강인하게 동작할 수 있도록 한다.
본 발명의 일 실시예에 따르면, 이상점을 최소화하는 방향으로 영상을 사상함으로써 도 5에 나타낸 체커 보드와 같이 반복되거나 복잡한 패턴에서도 정확하게 사상하여 마지막 과정에서의 정합 성능을 높이고, 오정합의 비율을 최소화시킬 수 있도록 한다.
도 6은 본 발명의 일 실시예에 따른 체커 보드 영상에서의 SIFT 플로우를 이용한 사상을 설명하기 위한 도면이다.
도 6에 광각 스테레오 영상(610), 정규화된 영상(620), SIFT 플로우로 사상된 영상(630)을 나타내었다. SIFT 플로우를 이용해 사상한 영상에 아핀 변환(affine transform)에 더 잘 대응하는 ASIFT를 이용하여 스파스하게 정합을 한 후에 RANSAC을 이용하여 이상점을 제거한다. 마지막으로 도 6과 같은 방식으로 지금까지의 알고리즘에 대한 역과정을 거쳐서 광각 영상에서의 정합점을 구하게 된다. ASIFT를 이용하여 구한 이상점이 제거된 정합점들에 대해 SIFT 플로우로 구한 플로우 벡터를 더한 후 정규화 하면서 생긴 변환 행렬을 이용하여 역변환함으로써 최종 정합점을 구하게 된다.
따라서, 도 6의 원본 영상과 같은 왜곡 정도와 크기 차이가 큰 부분에 대해서도 작은 검색 윈도우만으로도 정합을 할 수 있고 영상의 겹쳐지는 영역 전체에 대해 정합점을 구할 수 있기 때문에 영상의 스티칭을 더욱 정확하게 할 수 있다.
도 7은 본 발명의 일 실시예에 따른 SIFT 플로우를 이용한 광각영상의 스테레오 정합 장치의 구성을 나타내는 도면이다.
제안하는 SIFT 플로우를 이용한 광각영상의 스테레오 정합 장치는 보정부(710), SIFT 알고리즘 수행부(720), ASIFT 정합부(730)를 포함한다.
보정부(710)는 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정한다. 이때, 수직으로 배치된 광각 스테레오 카메라들을 이용하여 체커 보드를 복수의 각도로 촬영하고, 촬영된 광각 스테레오 영상들을 이용하여 카메라의 위치, 방향 및 내부 렌즈 정보를 포함하는 외부 파라미터와 내부 파라미터를 구한 후, 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 왜곡을 보정한다. 더욱 상세하게는, 촬영된 광각 스테레오 영상들이 겹치는 영역에 대해 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡을 보정하고, 외부 파라미터를 이용하여 뷰 포인트 차이로 인한 왜곡을 보정한다.
광각 카메라를 수직으로 배치하여 전 방향에 대해 두 장의 겹쳐진 영상을 얻으면서 광각영상의 광학적 특성상 생기는 영상 외곽에서의 화질 저하를 해결한다.
광각 스테레오 영상을 촬영 한 후 피시아이-스테레오 보정(fisheye-stereo calibration)을 통한 카메라의 외부 파라미터(extrinsic parameter), 내부 파라미터(intrinsic parameter)를 이용하여 두 영상 간의 겹쳐지는 부분을 중심으로 광각영상에서 발생하는 배럴형 왜곡(barrel-shaped distort)을 제거하면서 정류(rectifying)하여 이 후 과정에서의 정합의 정확도를 높인다.
SIFT 알고리즘 수행부(720)는 SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상한다.
ASIFT 정합부(730)는 사상된 광각 스테레오 영상들에 대해 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 최종적으로 광각 스테레오 영상들을 정합한다.
보정된 두 영상을 SIFT 플로우를 이용하여 한 영상을 다른 영상에 사상하고, 두 영상 간의 차이를 최소화한 후에 사상시킨 영상을 ASIFT를 통해 정합하고, 이상점(outlier)들을 RANSAC(Random sample consensus)을 통해 제거한다. 마지막으로 SIFT 플로우와 ASIFT의 플로우 벡터(flow vector)들을 합한 후 역 변환(inverse transform)하여 두 광각 영상의 정합점을 구하게 된다.
본 발명의 주요한 특징은 다음과 같다. 광각 영상을 수직으로 배치한 후 캘리브레이션(calibration)을 통한 보정과 SIFT 플로우를 통한 영상 사상을 이용하여 두 영상 간의 왜곡 정도 차이를 최소화함으로써 정합점의 수를 최대화하고 오정합을 최소화한다. 또한, 광각 영상에서의 외곽영역에서의 픽셀 데이터(pixel data)부족을 해결함과 동시에 정합의 어려움을 해결하는 결과를 얻는다. 따라서, 180도 이상의 광각 영상을 수직으로 배치함으로써 전체적으로 화질이 높은 정합 영상 및 깊이 맵(depth map)을 구성할 수 있다.
도 8은 본 발명의 일 실시예에 따른 실험에서 각 단계별 정합점과 오정합 비율을 비교한 결과를 나타내는 도면이다.
도 8(a)는 일 실시예에 따른 실험 영상1을 나타내고, 도 8(b)는 ASIFT를 이용한 정합점을 나타낸다. 도 8(c)는 왜곡 보정, ASIFT를 이용한 정합점을 나타내고, 도 8(d) 제안 기법을 이용한 정합점을 나타낸다.
본 발명의 일 실시예에 따르면, 광각 카메라를 수직으로 배치하여 전 방향에 대해 두 장의 겹쳐진 영상을 얻으면서 광각영상의 광학적 특성상 생기는 영상 외곽에서의 화질 저하를 해결할 수 있다. 또한, 광각 스테레오 영상을 촬영 한 후 피시아이-스테레오 보정(fisheye-stereo calibration)을 통한 카메라의 외부 파라미터(extrinsic parameter), 내부 파라미터(intrinsic parameter)를 이용하여 두 영상 간의 겹쳐지는 부분을 중심으로 광각영상에서 발생하는 배럴형 왜곡(barrel-shaped distort)을 제거하면서 정류(rectifying)하여 이 후 과정에서의 정합의 정확도를 높일 수 있다.
다시 말해, 광각 영상을 수직으로 배치한 후 캘리브레이션(calibration)을 통한 보정과 SIFT 플로우를 통한 영상 사상을 이용하여 두 영상 간의 왜곡 정도 차이를 최소화함으로써 정합점의 수를 최대화하고 오정합을 최소화할 수 있다. 또한, 광각 영상에서의 외곽영역에서의 픽셀 데이터(pixel data) 부족을 해결함과 동시에 정합의 어려움을 해결하는 결과를 얻을 수 있다. 따라서, 180도 이상의 광각 영상을 수직으로 배치함으로써 전체적으로 화질이 높은 정합 영상 및 깊이 맵(depth map)을 구성할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다.　 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다.　 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다.　 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다.　 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다.　 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다.　 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다.　 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.　 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.　 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다.　 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.　
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다.　 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (8)

  1. 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 단계;
    SIFT 플로우(Scale-Invariant Feature Transform flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상하는 단계; 및
    사상된 광각 스테레오 영상들에 대해 ASIFT(Affine Scale-Invariant Feature Transform)를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 단계
    를 포함하고,
    서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 단계는,
    수직으로 배치된 광각 스테레오 카메라들을 이용하여 체커 보드를 복수의 각도로 촬영하고, 촬영된 광각 스테레오 영상들을 이용하여 카메라의 위치, 방향 및 내부 렌즈 정보를 포함하는 외부 파라미터와 내부 파라미터를 구하고, 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 왜곡을 보정하는
    스테레오 정합 방법.
  2. 삭제
  3. 제1항에 있어서,
    촬영된 광각 스테레오 영상들이 겹치는 영역에 대해 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡을 보정하고, 외부 파라미터를 이용하여 뷰 포인트 차이로 인한 왜곡을 보정하는
    스테레오 정합 방법.
  4. 제1항에 있어서,
    사상된 광각 스테레오 영상들에 대해 ASIFT를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 단계는,
    ASIFT를 이용하여 광각 스테레오 영상들을 정합한 후, 정합점에 대해 RANSAC을 이용하여 이상점(outlier)을 제거하고, SIFT 플로우를 통해 구한 플로우 벡터(flow vector)를 합하여 최종 정합점을 구하는
    스테레오 정합 방법.
  5. 서로 수직으로 배치된 광각 스테레오 카메라들을 이용하여 촬영된 광각 스테레오 영상들에 대해 광각 스테레오 카메라의 내부 파라미터 및 외부 파라미터를 이용하여 왜곡을 보정하는 보정부;
    SIFT 플로우(SIFT flow)를 이용하여 보정된 광각 스테레오 영상들의 특징 맵을 구성하고, 구성된 특징 맵을 이용하여 하나의 광각 스테레오 영상을 다른 광각 스테레오 영상에 대해 사상하는 SIFT 알고리즘 수행부; 및
    사상된 광각 스테레오 영상들에 대해 ASIFT를 이용하여 최종적으로 광각 스테레오 영상들을 정합하는 ASIFT 정합부
    를 포함하고,
    보정부는,
    수직으로 배치된 광각 스테레오 카메라들을 이용하여 체커 보드를 복수의 각도로 촬영하고, 촬영된 광각 스테레오 영상들을 이용하여 카메라의 위치, 방향 및 내부 렌즈 정보를 포함하는 외부 파라미터와 내부 파라미터를 구하고, 피시아이-스테레오 보정(fisheye-stereo calibration)을 이용하여 왜곡을 보정하는
    스테레오 정합 장치.
  6. 삭제
  7. 제5항에 있어서,
    보정부는,
    촬영된 광각 스테레오 영상들이 겹치는 영역에 대해 내부 파라미터를 이용하여 광각 렌즈로 인한 왜곡을 보정하고, 외부 파라미터를 이용하여 뷰 포인트 차이로 인한 왜곡을 보정하는
    스테레오 정합 장치.
  8. 제5항에 있어서,
    ASIFT 정합부는,
    ASIFT를 이용하여 광각 스테레오 영상들을 정합한 후, 정합점에 대해 RANSAC을 이용하여 이상점(outlier)을 제거하고, SIFT 플로우를 통해 구한 플로우 벡터(flow vector)를 합하여 최종 정합점을 구하는
    스테레오 정합 장치.
KR1020170068183A 2017-06-01 2017-06-01 Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치 KR101938067B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170068183A KR101938067B1 (ko) 2017-06-01 2017-06-01 Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170068183A KR101938067B1 (ko) 2017-06-01 2017-06-01 Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20180131743A KR20180131743A (ko) 2018-12-11
KR101938067B1 true KR101938067B1 (ko) 2019-01-14

Family

ID=64671751

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170068183A KR101938067B1 (ko) 2017-06-01 2017-06-01 Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치

Country Status (1)

Country Link
KR (1) KR101938067B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210065503A (ko) * 2019-11-27 2021-06-04 숭실대학교산학협력단 딥러닝을 적용한 탁구 로봇 시스템

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12015755B2 (en) 2021-03-25 2024-06-18 Korea Advanced Institute Of Science And Technology Real-time omnidirectional stereo matching method using multi-view fisheye lenses and system thereof
KR102469815B1 (ko) * 2022-02-14 2022-11-23 주식회사 리트빅 딥러닝 기반의 3d 어라운드뷰 모니터링 시스템

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
고용빈 외 1인. 얼굴인식을 위한 어파인 불변 지역 서술자. 정보처리학회논문지 소프트웨어 및 데이터 공학.2014.9.30. 제3권 제9호 pp.375-380*

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210065503A (ko) * 2019-11-27 2021-06-04 숭실대학교산학협력단 딥러닝을 적용한 탁구 로봇 시스템
KR102324690B1 (ko) * 2019-11-27 2021-11-11 숭실대학교 산학협력단 딥러닝을 적용한 탁구 로봇 시스템

Also Published As

Publication number Publication date
KR20180131743A (ko) 2018-12-11

Similar Documents

Publication Publication Date Title
US11039121B2 (en) Calibration apparatus, chart for calibration, chart pattern generation apparatus, and calibration method
US7565029B2 (en) Method for determining camera position from two-dimensional images that form a panorama
US8928736B2 (en) Three-dimensional modeling apparatus, three-dimensional modeling method and computer-readable recording medium storing three-dimensional modeling program
CN112767542A (zh) 一种多目相机的三维重建方法、vr相机和全景相机
US8131113B1 (en) Method and apparatus for estimating rotation, focal lengths and radial distortion in panoramic image stitching
US20070031004A1 (en) Apparatus and method for aligning images by detecting features
US20150124059A1 (en) Multi-frame image calibrator
US8531505B2 (en) Imaging parameter acquisition apparatus, imaging parameter acquisition method and storage medium
US10628967B2 (en) Calibration for multi-camera systems
JP6518115B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、及びプログラム
KR101938067B1 (ko) Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치
KR101694651B1 (ko) 3차원 위치 추정을 이용한 광각 렌즈 영상의 왜곡 보정 장치 및 그 방법
JP2017220715A (ja) 画像処理装置、画像処理方法、プログラム
CN112017215B (zh) 图像处理方法、装置、计算机可读存储介质及计算机设备
CN115205118A (zh) 一种水下图像拼接方法、装置、计算机设备及存储介质
WO2016208404A1 (ja) 情報処理装置および方法、並びにプログラム
CN109658451B (zh) 一种深度感知方法，装置和深度感知设备
CN113298187A (zh) 图像处理方法及装置、计算机可读存储介质
CN117333367A (zh) 基于图像局部特征的图像拼接方法、系统、介质及装置
JP7185162B2 (ja) 画像処理方法、画像処理装置およびプログラム
CN109859313B (zh) 3d点云数据获取方法、装置、3d数据生成方法及系统
JP2005275789A (ja) 三次元構造抽出方法
Galego et al. Auto-calibration of pan-tilt cameras including radial distortion and zoom
KR102236473B1 (ko) 영상 처리 방법 및 그 장치
WO2019058487A1 (ja) ３次元復元画像処理装置、３次元復元画像処理方法及び３次元復元画像処理プログラムを記憶したコンピュータ読み取り可能な記憶媒体

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant