KR101967284B1 - Apparatus and method for aligning multi image - Google Patents

Apparatus and method for aligning multi image Download PDF

Info

Publication number
KR101967284B1
KR101967284B1 KR1020170155948A KR20170155948A KR101967284B1 KR 101967284 B1 KR101967284 B1 KR 101967284B1 KR 1020170155948 A KR1020170155948 A KR 1020170155948A KR 20170155948 A KR20170155948 A KR 20170155948A KR 101967284 B1 KR101967284 B1 KR 101967284B1
Authority
KR
South Korea
Prior art keywords
image
images
points
estimated
final
Prior art date
Application number
KR1020170155948A
Other languages
Korean (ko)
Inventor
김태정
Original Assignee
(주)쓰리디랩스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)쓰리디랩스 filed Critical (주)쓰리디랩스
Priority to KR1020170155948A priority Critical patent/KR101967284B1/en
Application granted granted Critical
Publication of KR101967284B1 publication Critical patent/KR101967284B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Abstract

Disclosed is a method for aligning multiple images comprising the following steps: selecting three first images among a plurality of images; extracting a triple tie point of the selected three first images; selecting the number of appropriate points corresponding to an estimated position and an estimated posture in the extracted triple tie point based on each estimated position and estimated posture of the three first images; and determining the estimated position and estimated posture of the three first images as a final position and a final posture of the three first images based on the number of appropriate points.

Description

다중 영상 정렬 장치 및 방법{APPARATUS AND METHOD FOR ALIGNING MULTI IMAGE}Multi-image alignment device and method {APPARATUS AND METHOD FOR ALIGNING MULTI IMAGE}

본 발명은 영상 처리 분야에 관한 것이다. 보다 구체적으로, 본 발명은 카메라 의해 촬영된 여러 영상들을 정렬시키는 장치 및 방법에 관한 것이다.The present invention relates to the field of image processing. More specifically, the present invention relates to an apparatus and method for aligning various images taken by a camera.

무인항공기, 자동차 등과 같은 이동체에 카메라를 장착하여 지표면 및 도로 주변 등을 촬영하고, 이렇게 촬영된 영상을 활용하여 3차원 공간정보를 취득하거나 주변 환경의 3차원 분석을 수행하는 기술이 널리 사용되고 있다.BACKGROUND ART [0002] Techniques for photographing the surface of the earth and roads by mounting a camera on a moving object such as an unmanned aerial vehicle or a car, and acquiring three-dimensional spatial information or performing three-dimensional analysis of the surrounding environment by using the photographed images are widely used.

영상들로부터 정밀한 3차원 정보를 추출하기 위해서는 먼저 촬영된 영상의 위치 및 자세를 산출하는 과정이 필요하며, 이러한 과정을 영상 정렬 과정이라 한다. 자동으로 영상 정렬을 하기 위해서는 먼저 SIFT(Scale-invariant feature transform), SURF(speeded up robust features) 등과 같은 특징점 추출자를 이용하여 각 영상으로부터 특징점들을 추출하고, 특징점 정합 과정을 통해서 여러 장의 영상에서 동일 특징점을 찾아 내는 과정을 수행한다. In order to extract precise 3D information from images, a process of first calculating a position and a posture of the captured image is required, and this process is called an image alignment process. In order to automatically align images, feature points are extracted from each image using feature extractors such as scale-invariant feature transform (SIFT) and speeded up robust features (SURF), and the same feature points in multiple images through feature point matching Follow the process to find out.

이때 여러 장의 영상에서 추출한 동일 특징점을 타이포인트라고 한다. 두 장의 영상에서 추출된 동일한 특징점을 2중 타이포인트, 세 장의 영상에서 추출된 동일한 특징점을 3중 타이포인트라 한다. 마찬가지로 4중 타이포인트, 5중 타이포인트 등이 정의될 수 있다.At this time, the same feature point extracted from several images is called a tie point. The same feature point extracted from two images is called a double tie point, and the same feature point extracted from three images is called a triple tie point. Similarly, four tie points, five tie points, and the like can be defined.

그러나 특징점 정합의 부정확성, 촬영된 영상의 품질 등의 요인으로 인해 특징점 정합 과정에서 얻어진 타이포인트에 에러가 존재하여 실제 동일한 특징점이 아닌 점들이 타이포인트에 포함되는 경우가 발생한다. 이러한 타이포인트 에러로 인해서 영상 정렬과정에서 영상의 위치와 자세가 올바르게 산출되지 못하는 문제와, 영상들로부터 추출되는 3차원 공간정보의 정확도가 크게 저감되는 문제가 발생한다. 이러한 이유로 여러 장의 영상들로 구성된 다중 영상의 경우, 에러가 없는 타이포인트의 추출이 영상 정렬 과정에 있어서 가장 중요한 요소에 해당된다.However, due to factors such as inaccuracy of feature point matching and quality of photographed images, an error exists in the tie point obtained in the feature point matching process, so that the points that are not actually the same feature point are included in the tie point. Due to such a tie point error, a problem arises that the position and attitude of the image are not calculated correctly in the image alignment process, and that the accuracy of 3D spatial information extracted from the images is greatly reduced. For this reason, in the case of multiple images consisting of several images, error-free tie point extraction is the most important factor in the image alignment process.

본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상에서 부적합 타이포인트(또는 에러 타이포인트)를 제거하는 것을 기술적 과제로 한다.An apparatus and method for aligning multiple images according to an embodiment of the present invention are directed to removing an inappropriate tie point (or error tie point) from multiple images.

또한, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상을 정확한 위치 및 자세로 정렬하는 것을 기술적 과제로 한다.In addition, the multi-image alignment device and method according to an embodiment of the present invention to align the multiple images in the correct position and posture as a technical problem.

본 발명의 일 실시예에 따른 다중 영상 정렬 방법은,In the multi-image alignment method according to an embodiment of the present invention,

복수의 영상들 중 3개의 제 1 영상을 선택하는 단계; 상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하는 단계; 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하는 단계; 및 상기 적합 포인트의 개수에 기초하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 단계를 포함할 수 있다.Selecting three first images from among the plurality of images; Extracting triple tie points from the selected three first images; Calculating a number of fitting points corresponding to the estimated position and the estimated position among the extracted triple tie points based on the estimated positions and the estimated attitude of each of the three first images; And determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images based on the number of the fitting points.

상기 적합 포인트의 개수를 산정하는 단계는, 상기 추출된 3중 타이포인트 중 일부를 무작위로 선택하는 단계; 및 상기 선택된 일부의 3중 포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출하는 단계를 포함할 수 있다.The calculating of the number of fitting points may include: randomly selecting a part of the extracted triple tie points; And deriving an estimated position and an estimated pose of each of the first three images by applying the image coordinates of the selected partial triple points to a relative expression relational expression.

상기 적합 포인트의 개수를 산정하는 단계는, 상기 추정 위치 및 추정 자세에 따라 배열된 상기 3개의 제 1 영상 중 두 개의 제 1 영상에 포함된 나머지 3중 타이포인트 각각을 다른 하나의 제 1 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 제 1 영상에 포함된 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함할 수 있다.The calculating of the number of fitting points may include assigning each of the remaining triple tie points included in two first images of the three first images arranged according to the estimated position and the estimated attitude to the other first image. And determining the fit point based on the distance between the projection points when the projection is performed and the triple tie points included in the other first image.

상기 다중 영상 정렬 방법은, 상기 복수의 영상들 중 하나의 제 2 영상을 선택하는 단계; 두 개의 제 1 영상과 상기 제 2 영상 사이의 제 2의 3중 타이포인트를 추출하는 단계; 및 상기 두 개의 제 1 영상 각각의 최종 위치 및 최종 자세와, 상기 제 2 영상의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 제 2의 3중 타이포인트 중에서 적합 포인트의 개수를 산정하는 단계; 및 상기 산정된 적합 포인트의 개수에 기초하여 상기 제 2 영상의 추정 위치 및 추정 자세를 상기 제 2 영상의 최종 위치 및 최종 자세로 결정하는 단계를 더 포함할 수 있다.The multi-image sorting method may include selecting a second image of the plurality of images; Extracting a second triple tie point between two first images and the second image; Calculating a number of fitting points from the extracted second triple tie points based on a final position and a final position of each of the two first images and an estimated position and the estimated position of the second image; And determining the estimated position and the estimated position of the second image as the final position and the final position of the second image based on the calculated number of fitting points.

상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 제 2의 3중 타이포인트 중 일부를 무작위로 선택하는 단계; 및 상기 선택된 일부의 제 2의 3중 포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 도출하는 단계를 포함할 수 있다.The determining of the final position and the final posture of the second image may include randomly selecting a portion of the second triple tie points; And deriving an estimated position and an estimated pose of the second image by applying the image coordinates of the selected partial second triple point to a relative expression relational expression.

상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 최종 위치 및 최종 자세에 따라 배열된 상기 두 개의 제 1 영상과 상기 추정 위치 및 추정 자세에 따라 배열된 제 2 영상을 포함한 3개의 영상 중 두개의 영상에 포함된 제 2의 3중 타이포인트 각각을 다른 하나의 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 영상에 포함된 제 2의 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함할 수 있다.The determining of the final position and the final posture of the second image may include: three including the two first images arranged according to the final position and the final pose and a second image arranged according to the estimated position and the estimated pose. The distance between the projection points when each of the second triple tie points included in two of the images is projected onto another image and the second triple tie points included in the other image. Based on the above, may determine the fit point.

상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 두 개의 제 1 영상에 포함된 제 2의 3중 타이포인트 각각의 3차원 좌표를 기준 포인트들로 설정하는 단계; 상기 설정된 기준 포인트들 중 일부를 무작위로 선택하는 단계; 상기 무작위로 선택된 일부의 기준 포인트의 3차원 좌표와, 무작위로 선택된 일부의 기준 포인트에 대응하는 상기 제 2 영상의 제 2의 3중 타이포인트의 영상 좌표를 절대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 결정하는 단계를 포함할 수 있다.The determining of the final position and the final posture of the second image may include setting three-dimensional coordinates of each of the second triple tie points included in the two first images as reference points; Randomly selecting some of the set reference points; The second image by applying the three-dimensional coordinates of the randomly selected partial reference points and the image coordinates of the second triple tie points of the second image corresponding to the randomly selected partial reference points to an absolute expression relational expression; And determining an estimated position and estimated pose of the.

상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 기준 포인트들 각각을 상기 제 2 영상의 추정 위치 및 추정 자세에 따라 상기 제 2 영상으로 투영하는 단계; 및 상기 제 2 영상에 투영된 투영 포인트들과 상기 제 2 영상의 제 2의 타이포인트들 사이의 거리를 고려하여, 상기 적합 포인트를 결정하는 단계; 및 상기 결정된 적합 포인트들의 개수가 가장 많을 때의 상기 제 2 영상의 추정 위치 및 추정 자세를 최종 위치 및 최종 자세로 결정하는 단계를 포함할 수 있다.The determining of the final position and the final pose of the second image may include projecting each of the reference points onto the second image according to the estimated position and the estimated pose of the second image; And determining the fit point in consideration of the distance between the projection points projected on the second image and the second tie points of the second image. And determining the estimated position and the estimated pose of the second image when the determined number of the fitting points is the largest as the final position and the final pose.

본 발명의 다른 실시예에 따른 다중 영상 정렬 장치는, According to another embodiment of the present invention,

적어도 하나의 프로세서; 및 상기 프로세서에 전기적으로 연결된 메모리를 포함하고, 상기 메모리는, 상기 프로세서가 실행 시에, 복수의 영상들 3개의 제 1 영상을 선택하고, 상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하고, 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하고, 상기 적합 포인트의 개수를 고려하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 포함할 수 있다.At least one processor; And a memory electrically connected to the processor, wherein when the processor is executed, the memory selects a first image of three images and extracts triple tie points from the selected three first images. Based on the estimated positions and the estimated poses of each of the three first images, the number of fitting points corresponding to the estimated positions and the estimated positions among the extracted triple tie points is calculated, and the number of the fitting points is calculated. In consideration of this, instructions for determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images may be included.

본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상에서 부적합 타이포인트를 제거할 수 있다.An apparatus and method for aligning multiple images according to an embodiment of the present invention may remove an unsuitable tie point from multiple images.

또한, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상을 정확한 위치 및 자세로 정렬할 수 있다.In addition, the apparatus and method for aligning multiple images according to an embodiment of the present invention may align multiple images in a precise position and posture.

다만, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법이 달성할 수 있는 효과는 이상에서 언급한 것들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.However, the effects that the multi-image alignment device and method according to an embodiment of the present invention can achieve are not limited to those mentioned above, and other effects not mentioned are described in the following description. It will be clearly understood by those skilled in the art.

본 명세서에서 인용되는 도면을 보다 충분히 이해하기 위하여 각 도면의 간단한 설명이 제공된다.
도 1a는 적합 타이포인트와 부적합 타이포인트를 포함하는 3장의 영상들을 도시하는 도면이다.
도 1b는 도 1a에 도시된 타이포인트들의 영상 좌표를 도시하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 다중 영상 정렬 장치의 구성을 도시하는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위해 도시된 3장의 제 1 영상을 나타내는 도면이다.
도 5는 추정 위치 및 추정 자세에 따라 정렬된 제 1 영상들을 도시하는 예시적인 도면이다.
도 6은 최종 위치 및 최종 자세에 따라 정렬된 제 1 영상들을 도시하는 예시적인 도면이다.
도 7은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.
도 8a는 부적합 타이포인트를 제외한 적합 타이포인트를 포함하는 3장의 영상들을 도시하는 도면이다.
도 8b는 도 8a에 도시된 적합 타이포인트들의 영상 좌표를 도시하는 도면이다.
BRIEF DESCRIPTION OF THE DRAWINGS In order to better understand the drawings referred to herein, a brief description of each drawing is provided.
FIG. 1A is a diagram illustrating three images including a fit tie point and a non-fit tie point.
FIG. 1B is a diagram illustrating image coordinates of tie points shown in FIG. 1A.
2 is a block diagram illustrating a configuration of a multi-image alignment device according to an embodiment of the present invention.
3 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.
FIG. 4 is a diagram illustrating three first images illustrated for explaining a multiple image alignment method according to an embodiment of the present invention.
5 is an exemplary diagram illustrating first images aligned according to an estimated position and an estimated pose.
6 is an exemplary diagram illustrating first images aligned according to a final position and a final pose.
7 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.
FIG. 8A is a diagram illustrating three images including a fit tie point excluding an unsuitable tie point.
FIG. 8B is a diagram showing image coordinates of the fit tie points shown in FIG. 8A.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고, 이를 상세한 설명을 통해 상세히 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명은 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.The present invention may be variously modified and have various embodiments, and specific embodiments are illustrated in the drawings and described in detail with reference to the accompanying drawings. However, this is not intended to limit the present invention to specific embodiments, it should be understood that the present invention includes all modifications, equivalents, and substitutes included in the spirit and scope of the present invention.

본 발명을 설명함에 있어서, 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 본 명세서의 설명 과정에서 이용되는 숫자(예를 들어, 제 1, 제 2 등)는 하나의 구성요소를 다른 구성요소와 구분하기 위한 식별기호에 불과하다.In describing the present invention, when it is determined that the detailed description of the related known technology may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. In addition, the numbers (eg, first, second, etc.) used in the description process of the present specification are merely identification symbols for distinguishing one component from another component.

또한, 본 명세서에서, 일 구성요소가 다른 구성요소와 "연결된다" 거나 "접속된다" 등으로 언급된 때에는, 상기 일 구성요소가 상기 다른 구성요소와 직접 연결되거나 또는 직접 접속될 수도 있지만, 특별히 반대되는 기재가 존재하지 않는 이상, 중간에 또 다른 구성요소를 매개하여 연결되거나 또는 접속될 수도 있다고 이해되어야 할 것이다.In addition, in the present specification, when one component is referred to as "connected" or "connected" with another component, the one component may be directly connected or directly connected to the other component, but in particular It is to be understood that, unless there is an opposite substrate, it may be connected or connected via another component in the middle.

또한, 본 명세서에서 '~부(유닛)', '모듈' 등으로 표현되는 구성요소는 2개 이상의 구성요소가 하나의 구성요소로 합쳐지거나 또는 하나의 구성요소가 보다 세분화된 기능별로 2개 이상으로 분화될 수도 있다. 또한, 이하에서 설명할 구성요소 각각은 자신이 담당하는 주기능 이외에도 다른 구성요소가 담당하는 기능 중 일부 또는 전부의 기능을 추가적으로 수행할 수도 있으며, 구성요소 각각이 담당하는 주기능 중 일부 기능이 다른 구성요소에 의해 전담되어 수행될 수도 있음은 물론이다.In addition, in the present specification, the components represented by '~ unit (unit)', 'module', etc., two or more components are combined into one component or two or more components for each functionalized function May be differentiated into In addition, each component to be described below may additionally perform some or all of the functions of other components in addition to the main functions of which they are responsible, and some of the main functions of each of the components may be different. Of course, it may be carried out exclusively by the component.

이하, 본 발명의 기술적 사상에 의한 실시예들을 차례로 상세히 설명한다.Hereinafter, embodiments according to the spirit of the present invention will be described in detail.

도 1a는 적합 타이포인트와 부적합 타이포인트를 포함하는 3장의 영상들(10a, 10b, 10c)을 도시하는 도면이고, 도 1b는 도 1a에 도시된 타이포인트들의 영상 좌표를 도시하는 도면이다.FIG. 1A is a diagram showing three images 10a, 10b, and 10c including a fit tie point and a non-fit tie point, and FIG. 1B is a diagram showing image coordinates of the tie points shown in FIG. 1A.

앞서 설명한 바와 같이, 카메라가 이동체에 장착되어 영상이 촬영되면, 각 영상들은 서로 간에 공유하는 부분과 서로 간에 공유하지 않는 부분을 포함하게 된다. 따라서, 각 영상들(10a, 10b, 10c)의 위치 및 자세를 판단하기 위해서는 영상들(10a, 10b, 10c)에 공통적으로 포함된 타이포인트를 추출하는 것이 선결적이다.As described above, when the camera is mounted on the moving object to capture an image, each of the images includes a portion shared with each other and a portion not shared with each other. Therefore, in order to determine the position and posture of each of the images 10a, 10b, and 10c, it is preliminary to extract tie points commonly included in the images 10a, 10b and 10c.

도 1a에 도시된 바와 같이, 세 영상(10a, 10b, 10c)에서 추출된 타이포인트들은 실제 세계에서 동일 지점에 해당하지만, 도 1b를 참조하면 각 타이포인트들의 영상 좌표가 세 영상마다 상이할 수 있다는 것을 알 수 있다. 영상 좌표는 각 영상에 대해 설정된 영상 좌표계(즉, 로컬 좌표계)에 따라 추출되는 값이므로 서로 간에 상이할 확률이 높다. 도 1b에서 첫번째 컬럼은 타이포인트의 ID, 두번째 및 세번째 컬럼들은 각각 1번 영상(10a)의 열 좌표와 행 좌표, 네번째 및 다섯번째 컬럼들은 각각 2번 영상(10b)의 열 좌표와 행 좌표, 그리고 여섯번째 및 일곱번째 컬럼들은 각각 3번 영상(10c)의 열 좌표와 행 좌표에 해당한다.As shown in FIG. 1A, the tie points extracted from the three images 10a, 10b, and 10c correspond to the same point in the real world. However, referring to FIG. 1B, the image coordinates of the tie points may be different for each of the three images. It can be seen that there is. Since image coordinates are values extracted according to an image coordinate system (that is, a local coordinate system) set for each image, there is a high possibility that they differ from each other. In FIG. 1B, the first column is the ID of the tie point, the second and third columns are the column coordinates and the row coordinates of the first image 10a, respectively, and the fourth and fifth columns are the column coordinates and the row coordinates of the second image 10b, respectively. The sixth and seventh columns correspond to the column coordinates and the row coordinates of the third image 10c, respectively.

전통적인 방법에 따라 추출된 타이포인트들 중에는 실제 동일 특징점이 아닌데도 타이포인트로서 추출된 부적합 타이포인트(또는 에러 타이포인트, 에러 포인트)가 포함될 수 있다.Among the tie points extracted according to the traditional method, non-conforming tie points (or error tie points, error points) extracted as tie points may be included even though they are not actually identical feature points.

부적합 타이포인트에 기초하여 영상들의 위치 및 자세를 결정하는 경우 그 정확도가 감소할 수 밖에 없어지므로, 부적합 타이포인트를 제외한 적합 타이포인트(또는 적합 포인트)만을 선택하여 영상들의 위치 및 자세를 결정하는 것이 중요하다.When determining the position and posture of the images based on the inappropriate tie point, the accuracy is inevitably reduced. Therefore, selecting only the suitable tie point (or the suitable point) except the non-compliant tie point to determine the position and posture of the images. It is important.

도 2는 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)의 구성을 도시하는 블록도이다.2 is a block diagram illustrating a configuration of a multi-image alignment device 200 according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)는 메모리(210) 및 적어도 하나의 프로세서(220)를 포함할 수 있다. 메모리(210)와 상기 적어도 하나의 프로세서(220)는 서로 전기적으로 연결될 수 있다.Referring to FIG. 2, the multiple image alignment device 200 according to an embodiment of the present invention may include a memory 210 and at least one processor 220. The memory 210 and the at least one processor 220 may be electrically connected to each other.

프로세서(220)는 다중 영상 정렬 장치(200)의 동작 전반을 제어할 수 있다. 프로세서(220)는 다중 영상들 각각을 정렬하는 동작을 수행할 수 있다.The processor 220 may control the overall operation of the multiple image alignment device 200. The processor 220 may perform an operation of aligning each of the multiple images.

예를 들면, 프로세서(220)는 메모리(210)에 저장된 인스트럭션들을 실행하여 복수의 영상들 중 3개의 제 1 영상의 최종 위치 및 최종 자세를 결정하고, 결정된 최종 위치 및 최종 자세에 따라 나머지 제 2 영상들의 최종 위치 및 최종 자세를 결정할 수 있다.For example, the processor 220 executes instructions stored in the memory 210 to determine the final position and the final posture of three first images of the plurality of images, and the remaining second according to the determined final position and the final posture. The final position and final pose of the images may be determined.

메모리(210)는 프로세서(220)의 동작을 위한 여러 인스트럭션을 저장한다.The memory 210 stores various instructions for the operation of the processor 220.

예를 들어, 메모리(210)는 적어도 하나의 프로세서(220)가 실행될 때, 복수의 영상들 3개의 제 1 영상을 선택하고, 상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하고, 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하고, 상기 산정된 적합 포인트의 개수를 고려하여, 상기 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 저장할 수 있다.For example, when the at least one processor 220 is executed, the memory 210 selects a first image of three images, extracts triple tie points from the selected three first images, and Based on the estimated positions and the estimated poses of each of the three first images, the number of fitting points corresponding to the estimated positions and the estimated positions among the extracted triple tie points is calculated, and the number of the estimated fit points is considered. In this case, instructions for determining the estimated position and the estimated position as the final position and the final position of the three first images may be stored.

또한, 메모리(210)는 적어도 하나의 프로세서(220)가 실행될 때, 상기 복수의 영상들 중 하나의 제 2 영상을 선택하고, 두 개의 제 1 영상과 상기 제 2 영상 사이의 제 2의 3중 타이포인트를 추출하고, 상기 두 개의 제 1 영상 각각의 최종 위치 및 최종 자세와, 상기 제 2 영상의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 제 2의 3중 타이포인트 중에서 적합 포인트의 개수를 산정하고, 상기 적합 포인트의 개수를 고려하여 상기 제 2 영상의 추정 위치 및 추정 자세를 상기 제 2 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 저장할 수 있다.Also, the memory 210 selects a second image of one of the plurality of images when the at least one processor 220 is executed, and stores a second triplet between two first images and the second image. Extracting a tie point, and based on the final position and the final posture of each of the two first images, and the estimated position and the estimated position of the second image, the number of fit points from the extracted second triple tie points In this case, instructions for determining the estimated position and the estimated position of the second image as the final position and the final position of the second image in consideration of the number of the fitting points may be stored.

도 2에는 도시되어 있지 않지만, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)는 프로세서(220)에 의해 결정된 여러 영상들의 최종 위치 및 최종 자세에 대한 정보를 출력하는 출력부를 더 포함할 수 있다. 출력부는 모니터, 프린터 등의 다양한 출력 기기를 포함할 수 있고, 관리자는 출력부에서 출력된 내용을 통해 여러 영상들의 최종 위치 및 최종 자세를 확인하고, 그로부터 3차원 정보를 획득할 수 있다.Although not shown in FIG. 2, the multi-image alignment device 200 according to an exemplary embodiment of the present invention may further include an output unit configured to output information about a final position and a final posture of various images determined by the processor 220. Can be. The output unit may include various output devices such as a monitor and a printer, and the administrator may check the final position and the final posture of various images through the contents output from the output unit, and obtain three-dimensional information therefrom.

이하에서는, 도 3 이하를 참조하여 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)의 동작에 대해 상세히 설명한다.Hereinafter, an operation of the multi-image alignment device 200 according to an embodiment of the present invention will be described in detail with reference to FIG. 3.

도 3은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.3 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.

S310 단계에서, 다중 영상 정렬 장치(200)는 복수의 영상들 중에서 3개의 제 1 영상을 획득한다. 다중 영상 정렬 장치(200)는 카메라, 또는 외부 서버로부터 복수의 영상들을 네트워크를 통해 수신할 수도 있고, 또는 관리자로부터 복수의 영상들을 입력받을 수도 있다.In operation S310, the multiple image alignment apparatus 200 obtains three first images from among the plurality of images. The multi-image arranging apparatus 200 may receive a plurality of images from a camera or an external server through a network, or may receive a plurality of images from an administrator.

다중 영상 정렬 장치(200)는 복수의 영상들 중 두 장씩 조합하였을 때 가장 많은 2중 타이포인트를 포함하는 3개의 제 1 영상을 선택할 수 있다. 예를 들어, 복수의 영상으로서, a 영상, b 영상, c 영상, d 영상 등이 존재할 때, a 영상과 b 영상, a 영상과 c 영상, 그리고, b 영상과 c 영상의 조합에서 가장 많은 2중 타이포인트가 추출되면, a 영상, b 영상 및 c 영상을 3개의 제 1 영상으로 선택할 수 있는 것이다. 이는, 복수의 영상들 중 서로 간에 공유하는 영역이 가장 많은 3개의 영상들을 선택하고자 하는 과정으로 볼 수 있다.The multi-image arranging apparatus 200 may select three first images including the most double tie points when two sheets of the plurality of images are combined. For example, when a picture, b picture, c picture, d picture and the like exist as a plurality of pictures, the most 2 in the combination of a picture and b picture, a picture and c picture, and b picture and c picture If the tie point is extracted, the a image, the b image, and the c image can be selected as three first images. This may be viewed as a process of selecting three images having the largest area shared among the plurality of images.

구현예에 따라서는, 다중 영상 정렬 장치(200)는 복수의 영상들 중에서 임의로 3개의 제 1 영상을 선택할 수도 있다.According to an exemplary embodiment, the multi-image arranging apparatus 200 may select three first images arbitrarily from among a plurality of images.

S320 단계에서, 다중 영상 정렬 장치(200)는 3개의 제 1 영상에서 3중 타이포인트를 추출한다. 다중 영상 정렬 장치(200)는 각각의 제 1 영상에 포함된 특징점들을 서로 비교하여 3개의 제 1 영상에 공통적으로 포함된 특징점들을 3중 타이포인트로서 추출할 수 있다. 다중 영상 정렬 장치(200)는 3개의 제 1 영상에 포함된 특징점들 각각의 특징 값을 비교하여, 3중 타이포인트를 추출할 수 있다.In operation S320, the multi-image alignment apparatus 200 extracts triple tie points from three first images. The multi-image alignment apparatus 200 may compare the feature points included in each first image with each other and extract feature points commonly included in the three first images as triple tie points. The multi-image alignment apparatus 200 may extract the triple tie points by comparing feature values of each of the feature points included in the three first images.

S330 단계에서, 다중 영상 정렬 장치(200)는 임의로 선택된 3중 타이포인트에 기초하여 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 결정하고, S340 단계에서, 다중 영상 정렬 장치(200)는 나머지 3중 타이포인트 중에서 상기 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정한다.In operation S330, the multi-image alignment apparatus 200 determines an estimated position and an estimated posture of each of the three first images based on a randomly selected triple tie point. In operation S340, the multi-image alignment apparatus 200 may determine the remaining positions. The number of fitting points corresponding to the estimated position and the estimated attitude among the three tie points is calculated.

상기 S330 단계 및 S340 단계를 구체적으로 설명하면, 다중 영상 정렬 장치(200)는 3중 타이포인트들 중 일부를 무작위로 선택하고, 무작위로 선택된 3중 타이포인트들 각각의 영상 좌표를 상대표정 관계식에 적용시켜 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출할 수 있다. 3중 타이포인트들 각각의 영상 좌표를 상대표정 관계식에 적용하여 각 영상의 위치 및 자세를 추정하는 것은 사진측량 분야 등에서 자명하게 사용되고 있는 바, 상세한 설명은 생략한다.Specifically, in steps S330 and S340, the multi-image arranging apparatus 200 randomly selects some of the triple tie points, and sets the image coordinates of each of the randomly selected triple tie points to the relative expression relation. The estimated position and the estimated pose of each of the three first images may be derived. Estimating the position and posture of each image by applying the image coordinates of each of the three tie points to the relative expression relation is obviously used in the field of photogrammetry, and thus detailed description thereof will be omitted.

도 4 및 도 5를 참조하면, 3개의 제 1 영상들(400a, 400b, 400c)은 원으로 도시된 3중 타이포인트(410)들을 포함할 수 있는데, 이 3중 타이포인트(410)들 중 무작위로 선택된 3중 타이포인트(410)들의 영상 좌표에 따라 글로벌 좌표계(500)에서의 각 제 1 영상(400a, 400b, 400c)의 추정 위치 및 추정 자세가 도출될 수 있는 것이다. 상기 추정 위치는 글로벌 좌표계(500)의 원점(O)을 기준으로 하였을 때 각 제 1 영상(400a, 400b, 400c)의 x 축 거리, y 축 거리 및 z 축 거리를 포함할 수 있고, 상기 추정 자세는 글로벌 좌표계(500)의 x 축, y 축 및 z 축을 회전 축으로 한 각 제 1 영상(400a, 400b, 400c)의 회전 각도를 포함할 수 있다.4 and 5, three first images 400a, 400b, and 400c may include triple tie points 410 shown as circles, of which triple tie points 410 are included. According to the image coordinates of the randomly selected triple tie points 410, an estimated position and an estimated pose of each first image 400a, 400b, and 400c in the global coordinate system 500 may be derived. The estimated position may include the x-axis distance, the y-axis distance, and the z-axis distance of each of the first images 400a, 400b, and 400c based on the origin O of the global coordinate system 500. The posture may include rotation angles of the first images 400a, 400b, and 400c having the x, y, and z axes as the rotation axis of the global coordinate system 500.

3개의 제 1 영상들(400a, 400b, 400c)에서 추출된 3중 타이포인트들은 실제 세계에서 모두 동일한 지점에 해당하여야 하나, 도 5에 도시된 바와 같이, 추정 위치 및 추정 자세에 따라 제 1 영상들(400a, 400b, 400c)을 정렬시켰을 때 모든 3중 타이포인트들이 중첩되지 않을 수 있으며, 서로 간에 중첩되지 않는 3중 타이포인트들은 에러 타이포인트(이하, 에러 포인트)에 해당할 확률이 높다.The triple tie points extracted from the three first images 400a, 400b, and 400c should correspond to the same point in the real world, but as shown in FIG. 5, the first image according to the estimated position and the estimated posture. When the three 400a, 400b, and 400c are aligned, all triple tie points may not overlap, and triple tie points that do not overlap each other are likely to correspond to error tie points (hereinafter, referred to as error points).

다중 영상 정렬 장치(200)는 추정 위치 및 추정 자세에 따라 제 1 영상들 각각을 배열한 후, 3개의 제 1 영상들 중 두 개의 제 1 영상에 포함된 3중 타이포인트들(구체적으로는, 3중 타이포인트 중 무작위로 선택된 3중 타이포인트를 제외한 3중 타이포인트들) 각각의 3차원 좌표를 나머지 하나의 제 1 영상에 투영시킨다. 상기 3차원 좌표는 글로벌 좌표계에서의 3중 타이포인트의 좌표를 의미한다.The multi-image arranging apparatus 200 arranges each of the first images according to the estimated position and the estimated posture, and then triples tie points included in two first images of the three first images (specifically, The three-dimensional coordinates of each of the triple tie points except for the triple tie point selected at random are projected onto the other first image. The three-dimensional coordinates refer to the coordinates of the triple tie point in the global coordinate system.

3중 타이포인트를 나머지 하나의 제 1 영상에 투영시킬 때, 다중 영상 정렬 장치(200)는 글로벌 좌표계(500)와 3중 타이포인트가 투영될 하나의 제 1 영상의 영상 좌표계 사이의 변환 관계식을 이용할 수 있다. 예를 들어, 3중 타이포인트의 글로벌 좌표를 상기 변환 관계식에 적용시켜 3중 타이포인트가 투영될 제 1 영상에서의 영상 좌표가 획득될 수 있다.When the triple tie point is projected onto the other first image, the multi-image alignment device 200 calculates a conversion relation between the global coordinate system 500 and the image coordinate system of the first image to which the triple tie point is projected. It is available. For example, image coordinates in the first image to which the triple tie point is projected may be obtained by applying the global coordinates of the triple tie point to the transformation relation.

그리고, 다중 영상 정렬 장치(200)는 어느 하나의 제 1 영상에 투영된 투영 포인트와, 어느 하나의 제 1 영상에 포함된 대응 3중 타이포인트 사이의 거리를 고려하여, 3중 타이포인트 각각의 부합 여부를 판단할 수 있다. 예를 들어, 'A' 3중 타이포인트의 글로벌 좌표가 어느 하나의 제 1 영상에 투영되었을 때, 제 1 영상에 투영된 'A' 3중 타이포인트와, 상기 제 1 영상에 포함된 'A' 3중 타이 포인트 사이의 거리를 고려하여 'A' 3중 타이포인트의 부합 여부를 판단할 수 있고, 'B' 3중 타이포인트의 글로벌 좌표가 어느 하나의 제 1 영상에 투영되었을 때, 제 1 영상에 투영된 'B' 3중 타이포인트와, 상기 제 1 영상에 포함된 'B' 3중 타이 포인트 사이의 거리를 고려하여 'B' 3중 타이포인트의 부합 여부를 판단할 수 있다.In addition, the multi-image alignment apparatus 200 considers the distance between the projection point projected on any one first image and the corresponding triple tie point included in any one first image, and thus, each of the triple tie points. You can judge the match. For example, when the global coordinate of the triple tie point 'A' is projected on any one first image, the triple tie point 'A' projected on the first image and 'A' included in the first image 'If the' A 'triple tie point can be determined in consideration of the distance between the triple tie points, and when the global coordinates of the' B 'triple tie point are projected on any one first image, In accordance with the distance between the 'B' triple tie point projected on the first image and the 'B' triple tie point included in the first image, it may be determined whether the 'B' triple tie point matches.

구체적으로, 다중 영상 정렬 장치(200)는 투영 포인트와 그에 대응하는 3중 타이포인트 사이의 거리가 소정 기준 값을 초과하면 해당하는 3중 타이포인트가 에러 포인트인 것으로 판단할 수 있고, 투영 포인트와 3중 타이포인트 사이의 거리가 소정 기준 값 이하이면 해당 3중 타이포인트가 적합 포인트인 것으로 판단할 수 있다.Specifically, when the distance between the projection point and the triple tie point corresponding thereto exceeds a predetermined reference value, the multi-image alignment apparatus 200 may determine that the corresponding triple tie point is an error point. If the distance between the triple tie points is less than or equal to a predetermined reference value, it may be determined that the triple tie points are suitable points.

이와 같이, 다중 영상 정렬 장치(200)는 3중 타이포인트들 중 무작위로 선택된 3중 타이포인트에 기초하여 제 1 영상 각각의 추정 위치 및 추정 자세를 결정한 후, 나머지 3중 타이포인트들 각각을 어느 하나의 제 1 영상에 투영시켜 3중 타이포인트들 중 적합 포인트가 몇 개인지를 산출할 수 있게 된다. As such, the multi-image alignment apparatus 200 determines an estimated position and an estimated pose of each of the first images based on a randomly selected triple tie point among the triple tie points, and then selects each of the remaining triple tie points. By projecting onto one first image, it is possible to calculate how many fit points are among the triple tie points.

다시 도 3을 보면, 다중 영상 정렬 장치(200)는 S330 단계 및 S340 단계를 소정 횟수 반복하면서 적합 포인트의 개수를 산정하고, S350 단계에서, 예를 들어, RANSAC(Random Sample Consensus)이라고 불리는 강인추정기법에 따라 적합 포인트의 개수가 가장 많을 때의 추정 위치 및 추정 자세를 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정할 수 있다.Referring back to FIG. 3, the multi-image arranging apparatus 200 calculates the number of fitting points by repeating steps S330 and S340 a predetermined number of times, and at step S350, for example, a robust estimation called RANSAC (Random Sample Consensus) According to the technique, the estimated position and the estimated pose when the number of fitting points is the largest may be determined as the final positions and the final poses of the three first images.

도 6은 최종 위치 및 최종 자세에 따라 정렬된 제 1 영상들(400a, 400b, 400c)을 도시하는 예시적인 도면인데, 제 1 영상들(400a, 400b, 400c)에서 에러 포인트가 제거됨으로써 모든 3중 타이포인트들이 글로벌 좌표계(500)에서 서로 간에 중첩된 것을 확인할 수 있다.FIG. 6 is an exemplary diagram showing the first images 400a, 400b, 400c arranged according to the final position and the final posture, in which all the error points are removed from the first images 400a, 400b, 400c. It can be seen that the tie points are overlapped with each other in the global coordinate system 500.

도 7은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.7 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.

복수의 영상들 중 3개의 제 1 영상의 최종 위치 및 최종 자세가 결정되면, S710 단계에서, 다중 영상 정렬 장치(200)는 복수의 영상들 중 제 1 영상들을 제외한 어느 하나의 제 2 영상을 선택한다.When the final position and the final posture of the three first images of the plurality of images are determined, in operation S710, the multi-image arranging apparatus 200 selects any one second image except for the first images among the plurality of images. do.

S720 단계에서, 다중 영상 정렬 장치(200)는 두 개의 제 1 영상 및 제 2 영상에서 제 2의 3중 타이포인트를 추출한다. 다중 영상 정렬 장치(200)는 두 개의 제 1 영상을 임의로 선택할 수도 있고, 3개의 제 1 영상 중 제 2 영상을 포함하여 2장씩 조합하였을 때 가장 많은 2중 타이포인트를 포함하는 2장의 제 1 영상을 선택할 수도 있다.In operation S720, the multiple image alignment apparatus 200 extracts a second triple tie point from two first images and a second image. The multi-image arranging apparatus 200 may arbitrarily select two first images, and the first two images including the most double tie points when the two images are included, including the second image among the three first images. You can also select.

S730 단계에서, 다중 영상 정렬 장치(200)는 제 2 영상의 추정 위치 및 추정 자세를 결정한다. In operation S730, the multi-image alignment apparatus 200 determines an estimated position and an estimated pose of the second image.

제 2 영상의 추정 위치 및 추정 자세를 결정하는 방법의 일례로서, 다중 영상 정렬 장치(200)는 두 개의 제 1 영상 및 제 2 영상의 제 2의 3중 타이포인트 중 일부를 무작위로 선택하고, 선택된 제2의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 기초하여 제 2 영상의 추정 위치 및 추정 자세를 결정할 수 있다.As an example of a method of determining the estimated position and the estimated pose of the second image, the multi-image arranging apparatus 200 randomly selects a portion of two first triplets and a second triple tie point of the second image, The estimated position and the estimated pose of the second image may be determined based on the relative coordinate relational expression of the image coordinates of the selected second triple tie point.

또 다른 예로서, 다중 영상 정렬 장치(200)는 두 개의 제 1 영상에 포함된 제 2의 3중 타이포인트 각각의 3차원 좌표, 구체적으로는 글로벌 좌표계에서의 각 제 2의 3중 타이포인트의 좌표를 기준 포인트들로 설정한다. 그리고, 다중 영상 정렬 장치(200)는 상기 설정된 기준 포인트들 중 일부를 무작위로 선택하고, 상기 무작위로 선택된 일부의 기준 포인트의 3차원 좌표와, 무작위로 선택된 일부의 기준 포인트에 대응하는 상기 제 2 영상의 제 2의 3중 타이포인트의 영상 좌표를 절대표정 관계식에 적용시켜 제 2 영상의 추정 위치 및 추정 자세를 결정할 수 있다. 절대표정 관계식을 이용하여 영상의 위치 및 자세를 추정하는 것은 사진측량 분야 등에서 자명하게 사용되고 있는 바, 상세한 설명은 생략한다.As another example, the multi-image alignment apparatus 200 may include three-dimensional coordinates of each of the second triple tie points included in the two first images, specifically, of each second triple tie point in the global coordinate system. Set coordinates to reference points. The multi-image arranging apparatus 200 randomly selects some of the set reference points, and the 3D coordinates of the randomly selected some reference points and the second corresponding to the randomly selected some reference points. The image coordinates of the second triple tie points of the image may be applied to the absolute expression relation to determine the estimated position and the estimated pose of the second image. Estimation of the position and posture of an image using an absolute expression relation is obviously used in the field of photogrammetry, and thus a detailed description thereof will be omitted.

다시 도 7을 보면, S740 단계에서, 다중 영상 정렬 장치(200)는 추정 위치 및 추정 자세에 따라 제 2 영상을 배열시켰을 때, 제 2 영상의 제 2의 3중 타이포인트 중 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정한다.Referring to FIG. 7 again, in operation S740, when the multi-image alignment apparatus 200 arranges the second image according to the estimated position and the estimated position, the estimated position and the estimated position among the second triple tie points of the second image. Calculate the number of fit points corresponding to.

예를 들어, 제 2 영상의 추정 위치 및 추정 자세가 S730 단계에서 상대표정 관계식에 따라 결정된 경우, 두 개의 제 1 영상과 제 2 영상을 포함한 3개의 영상 중 두개의 영상에 포함된 제 2의 3중 타이포인트들(예를 들어, 무작위로 선택된 제 2의 3중 타이포인트들을 제외한 나머지 타이포인트들) 각각을 다른 하나의 영상에 투영하였을 때의 투영 포인트들 각각과 상기 다른 하나의 영상에 포함된 제 2의 3중 타이포인트들 각각의 사이 거리에 기초하여, 제 2의 3중 타이포인트 중에서 적합 포인트를 결정하고, 적합 포인트의 개수를 산정할 수 있다. 이는 도 4의 S340 단계에서 설명한 방법과 유사한 것을 알 수 있다.For example, when the estimated position and the estimated pose of the second image are determined according to the relative expression relation in operation S730, the second 3 included in two images among two images including two first images and a second image. Each of the middle points (eg, the remaining tie points except for a randomly selected second triple tie point) is included in each of the projection points and the other image when the other image is projected. Based on the distance between each of the second triple tie points, a fit point may be determined among the second triple tie points, and the number of fit points may be calculated. It can be seen that this is similar to the method described in step S340 of FIG.

또 다른 예로서, 제 2 영상의 추정 위치 및 추정 자세가 S730 단계의 절대표정 관계식에 따라 결정된 경우, 다중 영상 정렬 장치(200)는 기준 포인트들(예를 들어, 무작위로 선택된 기준 포인트들을 제외한 나머지 기준 포인트들) 각각을 제 2 영상의 추정 위치 및 추정 자세에 따라 상기 제 2 영상으로 투영한다. 그리고, 다중 영상 정렬 장치(200)는 제 2 영상에 투영된 투영 포인트들 각각과 상기 제 2 영상의 제 2의 3중 타이포인트들 각각의 사이 거리를 고려하여, 제 2의 3중 타이포인트들 중 적합 포인트를 결정하고, 제 2 영상의 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정할 수 있다.As another example, when the estimated position and the estimated pose of the second image are determined according to the absolute expression relation in operation S730, the multi-image alignment apparatus 200 may exclude the reference points (eg, except the randomly selected reference points). Each of the reference points is projected onto the second image according to the estimated position and the estimated attitude of the second image. In addition, the multi-image alignment apparatus 200 considers the distance between each of the projection points projected on the second image and each of the second triple tie points of the second image. The fit point may be determined, and the number of fit points corresponding to the estimated position and the estimated pose of the second image may be calculated.

다중 영상 정렬 장치(200)는 S730 단계 및 S740 단계를 소정 횟수 반복하면서 적합 포인트의 개수들을 산정하고, S750 단계에서, 예를 들어, RANSAC(Random Sample Consensus)이라고 불리는 강인추정기법에 따라, 적합 포인트의 개수가 가장 많을 때의 제 2 영상의 추정 위치 및 추정 자세를 제 2 영상의 최종 위치 및 최종 자세로 결정한다.The multiple image aligning apparatus 200 calculates the number of fitting points by repeating steps S730 and S740 a predetermined number of times, and in step S750, for example, the fitting points according to a robust estimation technique called RANSAC (Random Sample Consensus) The estimated position and the estimated position of the second image when the number of times is the greatest are determined as the final position and the final position of the second image.

이후, 다중 영상 정렬 장치(200)는 복수의 영상들 중 나머지 영상 각각에 대해 도 7에 도시된 방법에 따라 하나씩 최종 위치 및 최종 자세를 순차적으로 결정함으로써, 모든 영상들을 정확한 위치 및 자세에 따라 정렬시킬 수 있게 된다.Then, the multi-image alignment device 200 sequentially determines the final position and the final posture one by one according to the method shown in FIG. 7 for each of the remaining images of the plurality of images, thereby aligning all the images according to the correct position and posture. You can do it.

한편, 도 7과 관련하여, 제 2 영상의 최종 위치 및 최종 자세를 결정하기 위해 두 개의 제 1 영상을 이용하는 것으로 설명하였는데, 구현예에 따라서는 세 개의 제 1 영상 모두를 이용할 수도 있다. 이 경우, 세 개의 제 1 영상과 제 2 영상에 공통으로 포함된 4중 타이포인트가 이용될 수 있다. 구체적으로, 4중 타이포인트를 추출한 후, 제 2 영상의 추정 위치 및 추정 자세를 결정하고, 4중 타이포인트 중 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수에 따라 제 2 영상의 최종 위치 및 최종 자세를 결정할 수 있다.Meanwhile, with reference to FIG. 7, it has been described that two first images are used to determine the final position and the final posture of the second image. In some embodiments, all three first images may be used. In this case, a quad tie point commonly included in three first and second images may be used. Specifically, after extracting the four tie points, the estimated position and the estimated pose of the second image are determined, and the final position and the final position of the second image are determined according to the number of fit points corresponding to the estimated position and the estimated pose among the four tie points. Final posture can be determined.

도 8a는 부적합 타이포인트를 제외한 적합 타이포인트를 포함하는 3장의 영상들(80a, 80b, 80c)을 도시하는 도면이고, 도 8b는 도 8a에 도시된 적합 타이포인트들의 영상 좌표를 도시하는 도면이다.FIG. 8A is a diagram showing three images 80a, 80b, and 80c including a fit tie point excluding a nonconforming tie point, and FIG. 8b is a diagram showing image coordinates of the fit tie points shown in FIG. 8a. .

도 8b를 참조하면, 3중 타이포인트들 중 ID 1, ID 2 등을 갖는 3중 타이포인트들이 에러 포인트로 결정되어 도 8a에 도시된 3장의 영상들(80a, 80b, 80c)에서 삭제된 것을 확인할 수 있다.Referring to FIG. 8B, triple tie points having ID 1, ID 2, etc. among the triple tie points are determined as error points and deleted from the three images 80a, 80b and 80c shown in FIG. 8A. You can check it.

한편, 상술한 본 발명의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 작성된 프로그램은 매체에 저장될 수 있다.Meanwhile, the above-described embodiments of the present invention can be written as a program that can be executed in a computer, and the written program can be stored in a medium.

매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수개 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 애플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.The medium may be to continue to store a computer executable program, or to temporarily store for execution or download. In addition, the medium may be a variety of recording means or storage means in the form of a single or several hardware combined, not limited to a medium directly connected to any computer system, it may be distributed on the network. Examples of the medium include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, And ROM, RAM, flash memory, and the like, configured to store program instructions. In addition, examples of another medium may include a recording medium or a storage medium managed by an app store that distributes an application or a site or server that supplies or distributes various software.

이상, 본 발명의 기술적 사상을 바람직한 실시예를 들어 상세하게 설명하였으나, 본 발명의 기술적 사상은 상기 실시예들에 한정되지 않고, 본 발명의 기술적 사상의 범위 내에서 당 분야에서 통상의 지식을 가진 자에 의하여 여러 가지 변형 및 변경이 가능하다.As mentioned above, although the technical idea of the present invention has been described in detail with reference to a preferred embodiment, the technical idea of the present invention is not limited to the above embodiments, and having ordinary skill in the art within the scope of the technical idea of the present invention. Many modifications and variations are possible.

200: 다중 영상 정렬 장치
210: 메모리
220: 프로세서
200: multiple image alignment device
210: memory
220: processor

Claims (10)

복수의 영상들 중 3개의 제 1 영상을 선택하는 단계;
상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하는 단계;
상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하는 단계; 및
상기 적합 포인트의 개수에 기초하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 단계를 포함하고,
상기 적합 포인트의 개수를 산정하는 단계는,
상기 추출된 3중 타이포인트 중 일부를 선택하는 단계; 및
상기 선택된 일부의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출하는 단계를 포함하는 것을 특징으로 하는, 다중 영상 정렬 장치에 의한 다중 영상 정렬 방법.
Selecting three first images from among the plurality of images;
Extracting triple tie points from the selected three first images;
Calculating a number of fitting points corresponding to the estimated position and the estimated position among the extracted triple tie points based on the estimated positions and the estimated attitude of each of the three first images; And
Determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images based on the number of the fitting points;
Calculating the number of fit points,
Selecting some of the extracted triple tie points; And
And applying the image coordinates of the selected triple tie points to a relative expression relation to derive an estimated position and an estimated pose of each of the three first images. How to arrange images.
제1항에 있어서,
상기 적합 포인트의 개수를 산정하는 단계에서,
상기 추출된 3중 타이포인트 중 일부를 선택하는 단계는, 상기 추출된 3중 타이포인트 중 일부를 무작위로 선택하는 단계인 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 1,
In the step of calculating the number of fit points,
And selecting a part of the extracted triple tie points randomly selecting a part of the extracted triple tie points.
제1항에 있어서,
상기 적합 포인트의 개수를 산정하는 단계는,
상기 추정 위치 및 추정 자세에 따라 배열된 상기 3개의 제 1 영상 중 두 개의 제 1 영상에 포함된 나머지 3중 타이포인트 각각을 다른 하나의 제 1 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 제 1 영상에 포함된 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 1,
Calculating the number of fit points,
Projection points and the other one when each of the remaining three tie points included in the two first images of the three first images arranged according to the estimated position and the estimated attitude is projected on the other first image And determining the fit point based on the distance between the triple tie points included in the first image of the image.
제1항에 있어서,
상기 다중 영상 정렬 방법은,
상기 복수의 영상들 중 하나의 제 2 영상을 선택하는 단계;
두 개의 제 1 영상과 상기 제 2 영상 사이의 제 2의 3중 타이포인트를 추출하는 단계; 및
상기 두 개의 제 1 영상 각각의 최종 위치 및 최종 자세와, 상기 제 2 영상의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 제 2의 3중 타이포인트 중에서 적합 포인트의 개수를 산정하는 단계; 및
상기 산정된 적합 포인트의 개수에 기초하여 상기 제 2 영상의 추정 위치 및 추정 자세를 상기 제 2 영상의 최종 위치 및 최종 자세로 결정하는 단계를 더 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 1,
The multi-image sorting method,
Selecting a second image of the plurality of images;
Extracting a second triple tie point between two first images and the second image; And
Calculating a number of fitting points among the extracted second triple tie points based on the final position and the final position of each of the two first images and the estimated position and the estimated position of the second image; And
And determining the estimated position and the estimated pose of the second image as the final position and the final pose of the second image based on the calculated number of fitted points.
제4항에 있어서,
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 제 2의 3중 타이포인트 중 일부를 무작위로 선택하는 단계; 및
상기 선택된 일부의 제 2의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 도출하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 4, wherein
Determining the final position and the final posture of the second image,
Randomly selecting a portion of the second triple tie points; And
And applying the image coordinates of the selected second triple tie points to a relative expression relation to derive an estimated position and an estimated pose of the second image.
제5항에 있어서,
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 최종 위치 및 최종 자세에 따라 배열된 상기 두 개의 제 1 영상과 상기 추정 위치 및 추정 자세에 따라 배열된 제 2 영상을 포함한 3개의 영상 중 두개의 영상에 포함된 제 2의 3중 타이포인트 각각을 다른 하나의 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 영상에 포함된 제 2의 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 5,
Determining the final position and the final posture of the second image,
Each of the second triple tie points included in two of the three images including the two first images arranged according to the final position and the final pose and the second image arranged according to the estimated position and the estimated pose. And determining the fit point based on the distance between the projection points when the image is projected on the other image and the second triple tie points included in the other image. Multi image sorting method.
제4항에 있어서,
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 두 개의 제 1 영상에 포함된 제 2의 3중 타이포인트 각각의 3차원 좌표를 기준 포인트들로 설정하는 단계;
상기 설정된 기준 포인트들 중 일부를 무작위로 선택하는 단계;
상기 무작위로 선택된 일부의 기준 포인트의 3차원 좌표와, 무작위로 선택된 일부의 기준 포인트에 대응하는 상기 제 2 영상의 제 2의 3중 타이포인트의 영상 좌표를 절대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 4, wherein
Determining the final position and the final posture of the second image,
Setting three-dimensional coordinates of each of the second triple tie points included in the two first images as reference points;
Randomly selecting some of the set reference points;
The second image by applying the three-dimensional coordinates of the randomly selected partial reference points and the image coordinates of the second triple tie points of the second image corresponding to the randomly selected partial reference points to an absolute expression relational expression; And determining an estimated position and an estimated pose of the image.
제7항에 있어서,
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 기준 포인트들 각각을 상기 제 2 영상의 추정 위치 및 추정 자세에 따라 상기 제 2 영상으로 투영하는 단계; 및
상기 제 2 영상에 투영된 투영 포인트들과 상기 제 2 영상의 제 2의 타이포인트들 사이의 거리를 고려하여, 상기 적합 포인트를 결정하는 단계; 및
상기 결정된 적합 포인트들의 개수가 가장 많을 때의 상기 제 2 영상의 추정 위치 및 추정 자세를 최종 위치 및 최종 자세로 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 7, wherein
Determining the final position and the final posture of the second image,
Projecting each of the reference points onto the second image according to the estimated position and the estimated attitude of the second image; And
Determining the fit point in consideration of the distance between the projection points projected on the second image and the second tie points of the second image; And
And determining the estimated position and the estimated pose of the second image when the determined number of the fitted points are the largest as the final position and the final pose.
하드웨어와 결합하여 제1항 내지 제8항 중 어느 하나의 항의 다중 영상 정렬 방법을 실행시키기 위하여 매체에 저장된 프로그램.
A program stored on a medium in combination with hardware to execute the multiple image alignment method of any one of claims 1 to 8.
다중 영상 정렬 장치에 있어서,
적어도 하나의 프로세서; 및
상기 프로세서에 전기적으로 연결된 메모리를 포함하고,
상기 메모리는, 상기 프로세서가 실행 시에,
복수의 영상들 3개의 제 1 영상을 선택하고,
상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하고,
상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하고,
상기 적합 포인트의 개수 산정은,
상기 추출된 3중 타이포인트 중 일부를 선택하고, 상기 선택된 일부의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출하는 단계를 포함하며,
상기 적합 포인트의 개수를 고려하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 포함하는 것을 특징으로 하는 다중 영상 정렬 장치.
In the multiple image alignment device,
At least one processor; And
A memory electrically connected to the processor;
The memory, when the processor is running,
Select first three images of the plurality of images,
Extracting triple tie points from the selected three first images,
Based on the estimated positions and estimated postures of each of the three first images, calculating the number of fitting points corresponding to the estimated positions and the estimated postures among the extracted triple tie points,
The calculation of the number of fit points is
Selecting a part of the extracted triple tie points and applying image coordinates of the selected triple tie points to a relative expression relation to derive an estimated position and an estimated pose of each of the three first images. ,
And instructions for determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images in consideration of the number of the fitting points.
KR1020170155948A 2017-11-21 2017-11-21 Apparatus and method for aligning multi image KR101967284B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170155948A KR101967284B1 (en) 2017-11-21 2017-11-21 Apparatus and method for aligning multi image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170155948A KR101967284B1 (en) 2017-11-21 2017-11-21 Apparatus and method for aligning multi image

Publications (1)

Publication Number Publication Date
KR101967284B1 true KR101967284B1 (en) 2019-08-13

Family

ID=67624252

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170155948A KR101967284B1 (en) 2017-11-21 2017-11-21 Apparatus and method for aligning multi image

Country Status (1)

Country Link
KR (1) KR101967284B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220069541A (en) * 2020-11-20 2022-05-27 김동욱 Map making Platform apparatus and map making method using the platform

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120111805A (en) * 2011-04-01 2012-10-11 에스케이씨앤씨 주식회사 System of estimating camaera pose and method thereof
KR101737438B1 (en) * 2016-07-18 2017-05-18 한국항공우주연구원 Method and Apparatus for Constructing Reference Layer, Method and System for Constructing 3D GIS Data using Reference Layer

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120111805A (en) * 2011-04-01 2012-10-11 에스케이씨앤씨 주식회사 System of estimating camaera pose and method thereof
KR101737438B1 (en) * 2016-07-18 2017-05-18 한국항공우주연구원 Method and Apparatus for Constructing Reference Layer, Method and System for Constructing 3D GIS Data using Reference Layer

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220069541A (en) * 2020-11-20 2022-05-27 김동욱 Map making Platform apparatus and map making method using the platform
KR102475790B1 (en) * 2020-11-20 2022-12-08 김동욱 Map making Platform apparatus and map making method using the platform

Similar Documents

Publication Publication Date Title
US10964049B2 (en) Method and device for determining pose of camera
US10573018B2 (en) Three dimensional scene reconstruction based on contextual analysis
JP6464934B2 (en) Camera posture estimation apparatus, camera posture estimation method, and camera posture estimation program
CN110568447B (en) Visual positioning method, device and computer readable medium
JP6507730B2 (en) Coordinate transformation parameter determination device, coordinate transformation parameter determination method, and computer program for coordinate transformation parameter determination
EP2153409B1 (en) Camera pose estimation apparatus and method for augmented reality imaging
JP6338021B2 (en) Image processing apparatus, image processing method, and image processing program
US20150262346A1 (en) Image processing apparatus, image processing method, and image processing program
US20110293142A1 (en) Method for recognizing objects in a set of images recorded by one or more cameras
US20140267254A1 (en) Accurate Image Alignment to a 3D Model
US20120162220A1 (en) Three-dimensional model creation system
JP7147753B2 (en) Information processing device, information processing method, and program
US20120162387A1 (en) Imaging parameter acquisition apparatus, imaging parameter acquisition method and storage medium
CN112132754B (en) Vehicle movement track correction method and related device
CN109934873B (en) Method, device and equipment for acquiring marked image
JP2009014629A (en) Position measuring apparatus and position measuring method
CN115830135A (en) Image processing method and device and electronic equipment
CN114998773A (en) Characteristic mismatching elimination method and system suitable for aerial image of unmanned aerial vehicle system
Onyango et al. Accurate estimation of orientation parameters of UAV images through image registration with aerial oblique imagery
WO2020133080A1 (en) Object positioning method and apparatus, computer device, and storage medium
WO2022002149A1 (en) Initial localization method, visual navigation device, and warehousing system
KR102475790B1 (en) Map making Platform apparatus and map making method using the platform
KR101967284B1 (en) Apparatus and method for aligning multi image
Alsadik et al. Robust extraction of image correspondences exploiting the image scene geometry and approximate camera orientation
TWI471821B (en) A system, a method, and a recording medium for establishing a correlation for a plurality of images