KR101967284B1 - Apparatus and method for aligning multi image - Google Patents
Apparatus and method for aligning multi image Download PDFInfo
- Publication number
- KR101967284B1 KR101967284B1 KR1020170155948A KR20170155948A KR101967284B1 KR 101967284 B1 KR101967284 B1 KR 101967284B1 KR 1020170155948 A KR1020170155948 A KR 1020170155948A KR 20170155948 A KR20170155948 A KR 20170155948A KR 101967284 B1 KR101967284 B1 KR 101967284B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- images
- points
- estimated
- final
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Abstract
Description
본 발명은 영상 처리 분야에 관한 것이다. 보다 구체적으로, 본 발명은 카메라 의해 촬영된 여러 영상들을 정렬시키는 장치 및 방법에 관한 것이다.The present invention relates to the field of image processing. More specifically, the present invention relates to an apparatus and method for aligning various images taken by a camera.
무인항공기, 자동차 등과 같은 이동체에 카메라를 장착하여 지표면 및 도로 주변 등을 촬영하고, 이렇게 촬영된 영상을 활용하여 3차원 공간정보를 취득하거나 주변 환경의 3차원 분석을 수행하는 기술이 널리 사용되고 있다.BACKGROUND ART [0002] Techniques for photographing the surface of the earth and roads by mounting a camera on a moving object such as an unmanned aerial vehicle or a car, and acquiring three-dimensional spatial information or performing three-dimensional analysis of the surrounding environment by using the photographed images are widely used.
영상들로부터 정밀한 3차원 정보를 추출하기 위해서는 먼저 촬영된 영상의 위치 및 자세를 산출하는 과정이 필요하며, 이러한 과정을 영상 정렬 과정이라 한다. 자동으로 영상 정렬을 하기 위해서는 먼저 SIFT(Scale-invariant feature transform), SURF(speeded up robust features) 등과 같은 특징점 추출자를 이용하여 각 영상으로부터 특징점들을 추출하고, 특징점 정합 과정을 통해서 여러 장의 영상에서 동일 특징점을 찾아 내는 과정을 수행한다. In order to extract precise 3D information from images, a process of first calculating a position and a posture of the captured image is required, and this process is called an image alignment process. In order to automatically align images, feature points are extracted from each image using feature extractors such as scale-invariant feature transform (SIFT) and speeded up robust features (SURF), and the same feature points in multiple images through feature point matching Follow the process to find out.
이때 여러 장의 영상에서 추출한 동일 특징점을 타이포인트라고 한다. 두 장의 영상에서 추출된 동일한 특징점을 2중 타이포인트, 세 장의 영상에서 추출된 동일한 특징점을 3중 타이포인트라 한다. 마찬가지로 4중 타이포인트, 5중 타이포인트 등이 정의될 수 있다.At this time, the same feature point extracted from several images is called a tie point. The same feature point extracted from two images is called a double tie point, and the same feature point extracted from three images is called a triple tie point. Similarly, four tie points, five tie points, and the like can be defined.
그러나 특징점 정합의 부정확성, 촬영된 영상의 품질 등의 요인으로 인해 특징점 정합 과정에서 얻어진 타이포인트에 에러가 존재하여 실제 동일한 특징점이 아닌 점들이 타이포인트에 포함되는 경우가 발생한다. 이러한 타이포인트 에러로 인해서 영상 정렬과정에서 영상의 위치와 자세가 올바르게 산출되지 못하는 문제와, 영상들로부터 추출되는 3차원 공간정보의 정확도가 크게 저감되는 문제가 발생한다. 이러한 이유로 여러 장의 영상들로 구성된 다중 영상의 경우, 에러가 없는 타이포인트의 추출이 영상 정렬 과정에 있어서 가장 중요한 요소에 해당된다.However, due to factors such as inaccuracy of feature point matching and quality of photographed images, an error exists in the tie point obtained in the feature point matching process, so that the points that are not actually the same feature point are included in the tie point. Due to such a tie point error, a problem arises that the position and attitude of the image are not calculated correctly in the image alignment process, and that the accuracy of 3D spatial information extracted from the images is greatly reduced. For this reason, in the case of multiple images consisting of several images, error-free tie point extraction is the most important factor in the image alignment process.
본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상에서 부적합 타이포인트(또는 에러 타이포인트)를 제거하는 것을 기술적 과제로 한다.An apparatus and method for aligning multiple images according to an embodiment of the present invention are directed to removing an inappropriate tie point (or error tie point) from multiple images.
또한, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상을 정확한 위치 및 자세로 정렬하는 것을 기술적 과제로 한다.In addition, the multi-image alignment device and method according to an embodiment of the present invention to align the multiple images in the correct position and posture as a technical problem.
본 발명의 일 실시예에 따른 다중 영상 정렬 방법은,In the multi-image alignment method according to an embodiment of the present invention,
복수의 영상들 중 3개의 제 1 영상을 선택하는 단계; 상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하는 단계; 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하는 단계; 및 상기 적합 포인트의 개수에 기초하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 단계를 포함할 수 있다.Selecting three first images from among the plurality of images; Extracting triple tie points from the selected three first images; Calculating a number of fitting points corresponding to the estimated position and the estimated position among the extracted triple tie points based on the estimated positions and the estimated attitude of each of the three first images; And determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images based on the number of the fitting points.
상기 적합 포인트의 개수를 산정하는 단계는, 상기 추출된 3중 타이포인트 중 일부를 무작위로 선택하는 단계; 및 상기 선택된 일부의 3중 포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출하는 단계를 포함할 수 있다.The calculating of the number of fitting points may include: randomly selecting a part of the extracted triple tie points; And deriving an estimated position and an estimated pose of each of the first three images by applying the image coordinates of the selected partial triple points to a relative expression relational expression.
상기 적합 포인트의 개수를 산정하는 단계는, 상기 추정 위치 및 추정 자세에 따라 배열된 상기 3개의 제 1 영상 중 두 개의 제 1 영상에 포함된 나머지 3중 타이포인트 각각을 다른 하나의 제 1 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 제 1 영상에 포함된 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함할 수 있다.The calculating of the number of fitting points may include assigning each of the remaining triple tie points included in two first images of the three first images arranged according to the estimated position and the estimated attitude to the other first image. And determining the fit point based on the distance between the projection points when the projection is performed and the triple tie points included in the other first image.
상기 다중 영상 정렬 방법은, 상기 복수의 영상들 중 하나의 제 2 영상을 선택하는 단계; 두 개의 제 1 영상과 상기 제 2 영상 사이의 제 2의 3중 타이포인트를 추출하는 단계; 및 상기 두 개의 제 1 영상 각각의 최종 위치 및 최종 자세와, 상기 제 2 영상의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 제 2의 3중 타이포인트 중에서 적합 포인트의 개수를 산정하는 단계; 및 상기 산정된 적합 포인트의 개수에 기초하여 상기 제 2 영상의 추정 위치 및 추정 자세를 상기 제 2 영상의 최종 위치 및 최종 자세로 결정하는 단계를 더 포함할 수 있다.The multi-image sorting method may include selecting a second image of the plurality of images; Extracting a second triple tie point between two first images and the second image; Calculating a number of fitting points from the extracted second triple tie points based on a final position and a final position of each of the two first images and an estimated position and the estimated position of the second image; And determining the estimated position and the estimated position of the second image as the final position and the final position of the second image based on the calculated number of fitting points.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 제 2의 3중 타이포인트 중 일부를 무작위로 선택하는 단계; 및 상기 선택된 일부의 제 2의 3중 포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 도출하는 단계를 포함할 수 있다.The determining of the final position and the final posture of the second image may include randomly selecting a portion of the second triple tie points; And deriving an estimated position and an estimated pose of the second image by applying the image coordinates of the selected partial second triple point to a relative expression relational expression.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 최종 위치 및 최종 자세에 따라 배열된 상기 두 개의 제 1 영상과 상기 추정 위치 및 추정 자세에 따라 배열된 제 2 영상을 포함한 3개의 영상 중 두개의 영상에 포함된 제 2의 3중 타이포인트 각각을 다른 하나의 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 영상에 포함된 제 2의 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함할 수 있다.The determining of the final position and the final posture of the second image may include: three including the two first images arranged according to the final position and the final pose and a second image arranged according to the estimated position and the estimated pose. The distance between the projection points when each of the second triple tie points included in two of the images is projected onto another image and the second triple tie points included in the other image. Based on the above, may determine the fit point.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 두 개의 제 1 영상에 포함된 제 2의 3중 타이포인트 각각의 3차원 좌표를 기준 포인트들로 설정하는 단계; 상기 설정된 기준 포인트들 중 일부를 무작위로 선택하는 단계; 상기 무작위로 선택된 일부의 기준 포인트의 3차원 좌표와, 무작위로 선택된 일부의 기준 포인트에 대응하는 상기 제 2 영상의 제 2의 3중 타이포인트의 영상 좌표를 절대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 결정하는 단계를 포함할 수 있다.The determining of the final position and the final posture of the second image may include setting three-dimensional coordinates of each of the second triple tie points included in the two first images as reference points; Randomly selecting some of the set reference points; The second image by applying the three-dimensional coordinates of the randomly selected partial reference points and the image coordinates of the second triple tie points of the second image corresponding to the randomly selected partial reference points to an absolute expression relational expression; And determining an estimated position and estimated pose of the.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는, 상기 기준 포인트들 각각을 상기 제 2 영상의 추정 위치 및 추정 자세에 따라 상기 제 2 영상으로 투영하는 단계; 및 상기 제 2 영상에 투영된 투영 포인트들과 상기 제 2 영상의 제 2의 타이포인트들 사이의 거리를 고려하여, 상기 적합 포인트를 결정하는 단계; 및 상기 결정된 적합 포인트들의 개수가 가장 많을 때의 상기 제 2 영상의 추정 위치 및 추정 자세를 최종 위치 및 최종 자세로 결정하는 단계를 포함할 수 있다.The determining of the final position and the final pose of the second image may include projecting each of the reference points onto the second image according to the estimated position and the estimated pose of the second image; And determining the fit point in consideration of the distance between the projection points projected on the second image and the second tie points of the second image. And determining the estimated position and the estimated pose of the second image when the determined number of the fitting points is the largest as the final position and the final pose.
본 발명의 다른 실시예에 따른 다중 영상 정렬 장치는, According to another embodiment of the present invention,
적어도 하나의 프로세서; 및 상기 프로세서에 전기적으로 연결된 메모리를 포함하고, 상기 메모리는, 상기 프로세서가 실행 시에, 복수의 영상들 3개의 제 1 영상을 선택하고, 상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하고, 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하고, 상기 적합 포인트의 개수를 고려하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 포함할 수 있다.At least one processor; And a memory electrically connected to the processor, wherein when the processor is executed, the memory selects a first image of three images and extracts triple tie points from the selected three first images. Based on the estimated positions and the estimated poses of each of the three first images, the number of fitting points corresponding to the estimated positions and the estimated positions among the extracted triple tie points is calculated, and the number of the fitting points is calculated. In consideration of this, instructions for determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images may be included.
본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상에서 부적합 타이포인트를 제거할 수 있다.An apparatus and method for aligning multiple images according to an embodiment of the present invention may remove an unsuitable tie point from multiple images.
또한, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법은 다중의 영상을 정확한 위치 및 자세로 정렬할 수 있다.In addition, the apparatus and method for aligning multiple images according to an embodiment of the present invention may align multiple images in a precise position and posture.
다만, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치 및 방법이 달성할 수 있는 효과는 이상에서 언급한 것들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.However, the effects that the multi-image alignment device and method according to an embodiment of the present invention can achieve are not limited to those mentioned above, and other effects not mentioned are described in the following description. It will be clearly understood by those skilled in the art.
본 명세서에서 인용되는 도면을 보다 충분히 이해하기 위하여 각 도면의 간단한 설명이 제공된다.
도 1a는 적합 타이포인트와 부적합 타이포인트를 포함하는 3장의 영상들을 도시하는 도면이다.
도 1b는 도 1a에 도시된 타이포인트들의 영상 좌표를 도시하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 다중 영상 정렬 장치의 구성을 도시하는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위해 도시된 3장의 제 1 영상을 나타내는 도면이다.
도 5는 추정 위치 및 추정 자세에 따라 정렬된 제 1 영상들을 도시하는 예시적인 도면이다.
도 6은 최종 위치 및 최종 자세에 따라 정렬된 제 1 영상들을 도시하는 예시적인 도면이다.
도 7은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.
도 8a는 부적합 타이포인트를 제외한 적합 타이포인트를 포함하는 3장의 영상들을 도시하는 도면이다.
도 8b는 도 8a에 도시된 적합 타이포인트들의 영상 좌표를 도시하는 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS In order to better understand the drawings referred to herein, a brief description of each drawing is provided.
FIG. 1A is a diagram illustrating three images including a fit tie point and a non-fit tie point.
FIG. 1B is a diagram illustrating image coordinates of tie points shown in FIG. 1A.
2 is a block diagram illustrating a configuration of a multi-image alignment device according to an embodiment of the present invention.
3 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.
FIG. 4 is a diagram illustrating three first images illustrated for explaining a multiple image alignment method according to an embodiment of the present invention.
5 is an exemplary diagram illustrating first images aligned according to an estimated position and an estimated pose.
6 is an exemplary diagram illustrating first images aligned according to a final position and a final pose.
7 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.
FIG. 8A is a diagram illustrating three images including a fit tie point excluding an unsuitable tie point.
FIG. 8B is a diagram showing image coordinates of the fit tie points shown in FIG. 8A.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고, 이를 상세한 설명을 통해 상세히 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명은 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.The present invention may be variously modified and have various embodiments, and specific embodiments are illustrated in the drawings and described in detail with reference to the accompanying drawings. However, this is not intended to limit the present invention to specific embodiments, it should be understood that the present invention includes all modifications, equivalents, and substitutes included in the spirit and scope of the present invention.
본 발명을 설명함에 있어서, 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 본 명세서의 설명 과정에서 이용되는 숫자(예를 들어, 제 1, 제 2 등)는 하나의 구성요소를 다른 구성요소와 구분하기 위한 식별기호에 불과하다.In describing the present invention, when it is determined that the detailed description of the related known technology may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. In addition, the numbers (eg, first, second, etc.) used in the description process of the present specification are merely identification symbols for distinguishing one component from another component.
또한, 본 명세서에서, 일 구성요소가 다른 구성요소와 "연결된다" 거나 "접속된다" 등으로 언급된 때에는, 상기 일 구성요소가 상기 다른 구성요소와 직접 연결되거나 또는 직접 접속될 수도 있지만, 특별히 반대되는 기재가 존재하지 않는 이상, 중간에 또 다른 구성요소를 매개하여 연결되거나 또는 접속될 수도 있다고 이해되어야 할 것이다.In addition, in the present specification, when one component is referred to as "connected" or "connected" with another component, the one component may be directly connected or directly connected to the other component, but in particular It is to be understood that, unless there is an opposite substrate, it may be connected or connected via another component in the middle.
또한, 본 명세서에서 '~부(유닛)', '모듈' 등으로 표현되는 구성요소는 2개 이상의 구성요소가 하나의 구성요소로 합쳐지거나 또는 하나의 구성요소가 보다 세분화된 기능별로 2개 이상으로 분화될 수도 있다. 또한, 이하에서 설명할 구성요소 각각은 자신이 담당하는 주기능 이외에도 다른 구성요소가 담당하는 기능 중 일부 또는 전부의 기능을 추가적으로 수행할 수도 있으며, 구성요소 각각이 담당하는 주기능 중 일부 기능이 다른 구성요소에 의해 전담되어 수행될 수도 있음은 물론이다.In addition, in the present specification, the components represented by '~ unit (unit)', 'module', etc., two or more components are combined into one component or two or more components for each functionalized function May be differentiated into In addition, each component to be described below may additionally perform some or all of the functions of other components in addition to the main functions of which they are responsible, and some of the main functions of each of the components may be different. Of course, it may be carried out exclusively by the component.
이하, 본 발명의 기술적 사상에 의한 실시예들을 차례로 상세히 설명한다.Hereinafter, embodiments according to the spirit of the present invention will be described in detail.
도 1a는 적합 타이포인트와 부적합 타이포인트를 포함하는 3장의 영상들(10a, 10b, 10c)을 도시하는 도면이고, 도 1b는 도 1a에 도시된 타이포인트들의 영상 좌표를 도시하는 도면이다.FIG. 1A is a diagram showing three
앞서 설명한 바와 같이, 카메라가 이동체에 장착되어 영상이 촬영되면, 각 영상들은 서로 간에 공유하는 부분과 서로 간에 공유하지 않는 부분을 포함하게 된다. 따라서, 각 영상들(10a, 10b, 10c)의 위치 및 자세를 판단하기 위해서는 영상들(10a, 10b, 10c)에 공통적으로 포함된 타이포인트를 추출하는 것이 선결적이다.As described above, when the camera is mounted on the moving object to capture an image, each of the images includes a portion shared with each other and a portion not shared with each other. Therefore, in order to determine the position and posture of each of the
도 1a에 도시된 바와 같이, 세 영상(10a, 10b, 10c)에서 추출된 타이포인트들은 실제 세계에서 동일 지점에 해당하지만, 도 1b를 참조하면 각 타이포인트들의 영상 좌표가 세 영상마다 상이할 수 있다는 것을 알 수 있다. 영상 좌표는 각 영상에 대해 설정된 영상 좌표계(즉, 로컬 좌표계)에 따라 추출되는 값이므로 서로 간에 상이할 확률이 높다. 도 1b에서 첫번째 컬럼은 타이포인트의 ID, 두번째 및 세번째 컬럼들은 각각 1번 영상(10a)의 열 좌표와 행 좌표, 네번째 및 다섯번째 컬럼들은 각각 2번 영상(10b)의 열 좌표와 행 좌표, 그리고 여섯번째 및 일곱번째 컬럼들은 각각 3번 영상(10c)의 열 좌표와 행 좌표에 해당한다.As shown in FIG. 1A, the tie points extracted from the three
전통적인 방법에 따라 추출된 타이포인트들 중에는 실제 동일 특징점이 아닌데도 타이포인트로서 추출된 부적합 타이포인트(또는 에러 타이포인트, 에러 포인트)가 포함될 수 있다.Among the tie points extracted according to the traditional method, non-conforming tie points (or error tie points, error points) extracted as tie points may be included even though they are not actually identical feature points.
부적합 타이포인트에 기초하여 영상들의 위치 및 자세를 결정하는 경우 그 정확도가 감소할 수 밖에 없어지므로, 부적합 타이포인트를 제외한 적합 타이포인트(또는 적합 포인트)만을 선택하여 영상들의 위치 및 자세를 결정하는 것이 중요하다.When determining the position and posture of the images based on the inappropriate tie point, the accuracy is inevitably reduced. Therefore, selecting only the suitable tie point (or the suitable point) except the non-compliant tie point to determine the position and posture of the images. It is important.
도 2는 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)의 구성을 도시하는 블록도이다.2 is a block diagram illustrating a configuration of a
도 2를 참조하면, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)는 메모리(210) 및 적어도 하나의 프로세서(220)를 포함할 수 있다. 메모리(210)와 상기 적어도 하나의 프로세서(220)는 서로 전기적으로 연결될 수 있다.Referring to FIG. 2, the multiple
프로세서(220)는 다중 영상 정렬 장치(200)의 동작 전반을 제어할 수 있다. 프로세서(220)는 다중 영상들 각각을 정렬하는 동작을 수행할 수 있다.The
예를 들면, 프로세서(220)는 메모리(210)에 저장된 인스트럭션들을 실행하여 복수의 영상들 중 3개의 제 1 영상의 최종 위치 및 최종 자세를 결정하고, 결정된 최종 위치 및 최종 자세에 따라 나머지 제 2 영상들의 최종 위치 및 최종 자세를 결정할 수 있다.For example, the
메모리(210)는 프로세서(220)의 동작을 위한 여러 인스트럭션을 저장한다.The
예를 들어, 메모리(210)는 적어도 하나의 프로세서(220)가 실행될 때, 복수의 영상들 3개의 제 1 영상을 선택하고, 상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하고, 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하고, 상기 산정된 적합 포인트의 개수를 고려하여, 상기 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 저장할 수 있다.For example, when the at least one
또한, 메모리(210)는 적어도 하나의 프로세서(220)가 실행될 때, 상기 복수의 영상들 중 하나의 제 2 영상을 선택하고, 두 개의 제 1 영상과 상기 제 2 영상 사이의 제 2의 3중 타이포인트를 추출하고, 상기 두 개의 제 1 영상 각각의 최종 위치 및 최종 자세와, 상기 제 2 영상의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 제 2의 3중 타이포인트 중에서 적합 포인트의 개수를 산정하고, 상기 적합 포인트의 개수를 고려하여 상기 제 2 영상의 추정 위치 및 추정 자세를 상기 제 2 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 저장할 수 있다.Also, the
도 2에는 도시되어 있지 않지만, 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)는 프로세서(220)에 의해 결정된 여러 영상들의 최종 위치 및 최종 자세에 대한 정보를 출력하는 출력부를 더 포함할 수 있다. 출력부는 모니터, 프린터 등의 다양한 출력 기기를 포함할 수 있고, 관리자는 출력부에서 출력된 내용을 통해 여러 영상들의 최종 위치 및 최종 자세를 확인하고, 그로부터 3차원 정보를 획득할 수 있다.Although not shown in FIG. 2, the
이하에서는, 도 3 이하를 참조하여 본 발명의 일 실시예에 따른 다중 영상 정렬 장치(200)의 동작에 대해 상세히 설명한다.Hereinafter, an operation of the
도 3은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.3 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.
S310 단계에서, 다중 영상 정렬 장치(200)는 복수의 영상들 중에서 3개의 제 1 영상을 획득한다. 다중 영상 정렬 장치(200)는 카메라, 또는 외부 서버로부터 복수의 영상들을 네트워크를 통해 수신할 수도 있고, 또는 관리자로부터 복수의 영상들을 입력받을 수도 있다.In operation S310, the multiple
다중 영상 정렬 장치(200)는 복수의 영상들 중 두 장씩 조합하였을 때 가장 많은 2중 타이포인트를 포함하는 3개의 제 1 영상을 선택할 수 있다. 예를 들어, 복수의 영상으로서, a 영상, b 영상, c 영상, d 영상 등이 존재할 때, a 영상과 b 영상, a 영상과 c 영상, 그리고, b 영상과 c 영상의 조합에서 가장 많은 2중 타이포인트가 추출되면, a 영상, b 영상 및 c 영상을 3개의 제 1 영상으로 선택할 수 있는 것이다. 이는, 복수의 영상들 중 서로 간에 공유하는 영역이 가장 많은 3개의 영상들을 선택하고자 하는 과정으로 볼 수 있다.The multi-image arranging
구현예에 따라서는, 다중 영상 정렬 장치(200)는 복수의 영상들 중에서 임의로 3개의 제 1 영상을 선택할 수도 있다.According to an exemplary embodiment, the multi-image arranging
S320 단계에서, 다중 영상 정렬 장치(200)는 3개의 제 1 영상에서 3중 타이포인트를 추출한다. 다중 영상 정렬 장치(200)는 각각의 제 1 영상에 포함된 특징점들을 서로 비교하여 3개의 제 1 영상에 공통적으로 포함된 특징점들을 3중 타이포인트로서 추출할 수 있다. 다중 영상 정렬 장치(200)는 3개의 제 1 영상에 포함된 특징점들 각각의 특징 값을 비교하여, 3중 타이포인트를 추출할 수 있다.In operation S320, the
S330 단계에서, 다중 영상 정렬 장치(200)는 임의로 선택된 3중 타이포인트에 기초하여 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 결정하고, S340 단계에서, 다중 영상 정렬 장치(200)는 나머지 3중 타이포인트 중에서 상기 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정한다.In operation S330, the
상기 S330 단계 및 S340 단계를 구체적으로 설명하면, 다중 영상 정렬 장치(200)는 3중 타이포인트들 중 일부를 무작위로 선택하고, 무작위로 선택된 3중 타이포인트들 각각의 영상 좌표를 상대표정 관계식에 적용시켜 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출할 수 있다. 3중 타이포인트들 각각의 영상 좌표를 상대표정 관계식에 적용하여 각 영상의 위치 및 자세를 추정하는 것은 사진측량 분야 등에서 자명하게 사용되고 있는 바, 상세한 설명은 생략한다.Specifically, in steps S330 and S340, the multi-image arranging
도 4 및 도 5를 참조하면, 3개의 제 1 영상들(400a, 400b, 400c)은 원으로 도시된 3중 타이포인트(410)들을 포함할 수 있는데, 이 3중 타이포인트(410)들 중 무작위로 선택된 3중 타이포인트(410)들의 영상 좌표에 따라 글로벌 좌표계(500)에서의 각 제 1 영상(400a, 400b, 400c)의 추정 위치 및 추정 자세가 도출될 수 있는 것이다. 상기 추정 위치는 글로벌 좌표계(500)의 원점(O)을 기준으로 하였을 때 각 제 1 영상(400a, 400b, 400c)의 x 축 거리, y 축 거리 및 z 축 거리를 포함할 수 있고, 상기 추정 자세는 글로벌 좌표계(500)의 x 축, y 축 및 z 축을 회전 축으로 한 각 제 1 영상(400a, 400b, 400c)의 회전 각도를 포함할 수 있다.4 and 5, three
3개의 제 1 영상들(400a, 400b, 400c)에서 추출된 3중 타이포인트들은 실제 세계에서 모두 동일한 지점에 해당하여야 하나, 도 5에 도시된 바와 같이, 추정 위치 및 추정 자세에 따라 제 1 영상들(400a, 400b, 400c)을 정렬시켰을 때 모든 3중 타이포인트들이 중첩되지 않을 수 있으며, 서로 간에 중첩되지 않는 3중 타이포인트들은 에러 타이포인트(이하, 에러 포인트)에 해당할 확률이 높다.The triple tie points extracted from the three
다중 영상 정렬 장치(200)는 추정 위치 및 추정 자세에 따라 제 1 영상들 각각을 배열한 후, 3개의 제 1 영상들 중 두 개의 제 1 영상에 포함된 3중 타이포인트들(구체적으로는, 3중 타이포인트 중 무작위로 선택된 3중 타이포인트를 제외한 3중 타이포인트들) 각각의 3차원 좌표를 나머지 하나의 제 1 영상에 투영시킨다. 상기 3차원 좌표는 글로벌 좌표계에서의 3중 타이포인트의 좌표를 의미한다.The multi-image arranging
3중 타이포인트를 나머지 하나의 제 1 영상에 투영시킬 때, 다중 영상 정렬 장치(200)는 글로벌 좌표계(500)와 3중 타이포인트가 투영될 하나의 제 1 영상의 영상 좌표계 사이의 변환 관계식을 이용할 수 있다. 예를 들어, 3중 타이포인트의 글로벌 좌표를 상기 변환 관계식에 적용시켜 3중 타이포인트가 투영될 제 1 영상에서의 영상 좌표가 획득될 수 있다.When the triple tie point is projected onto the other first image, the
그리고, 다중 영상 정렬 장치(200)는 어느 하나의 제 1 영상에 투영된 투영 포인트와, 어느 하나의 제 1 영상에 포함된 대응 3중 타이포인트 사이의 거리를 고려하여, 3중 타이포인트 각각의 부합 여부를 판단할 수 있다. 예를 들어, 'A' 3중 타이포인트의 글로벌 좌표가 어느 하나의 제 1 영상에 투영되었을 때, 제 1 영상에 투영된 'A' 3중 타이포인트와, 상기 제 1 영상에 포함된 'A' 3중 타이 포인트 사이의 거리를 고려하여 'A' 3중 타이포인트의 부합 여부를 판단할 수 있고, 'B' 3중 타이포인트의 글로벌 좌표가 어느 하나의 제 1 영상에 투영되었을 때, 제 1 영상에 투영된 'B' 3중 타이포인트와, 상기 제 1 영상에 포함된 'B' 3중 타이 포인트 사이의 거리를 고려하여 'B' 3중 타이포인트의 부합 여부를 판단할 수 있다.In addition, the
구체적으로, 다중 영상 정렬 장치(200)는 투영 포인트와 그에 대응하는 3중 타이포인트 사이의 거리가 소정 기준 값을 초과하면 해당하는 3중 타이포인트가 에러 포인트인 것으로 판단할 수 있고, 투영 포인트와 3중 타이포인트 사이의 거리가 소정 기준 값 이하이면 해당 3중 타이포인트가 적합 포인트인 것으로 판단할 수 있다.Specifically, when the distance between the projection point and the triple tie point corresponding thereto exceeds a predetermined reference value, the
이와 같이, 다중 영상 정렬 장치(200)는 3중 타이포인트들 중 무작위로 선택된 3중 타이포인트에 기초하여 제 1 영상 각각의 추정 위치 및 추정 자세를 결정한 후, 나머지 3중 타이포인트들 각각을 어느 하나의 제 1 영상에 투영시켜 3중 타이포인트들 중 적합 포인트가 몇 개인지를 산출할 수 있게 된다. As such, the
다시 도 3을 보면, 다중 영상 정렬 장치(200)는 S330 단계 및 S340 단계를 소정 횟수 반복하면서 적합 포인트의 개수를 산정하고, S350 단계에서, 예를 들어, RANSAC(Random Sample Consensus)이라고 불리는 강인추정기법에 따라 적합 포인트의 개수가 가장 많을 때의 추정 위치 및 추정 자세를 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정할 수 있다.Referring back to FIG. 3, the multi-image arranging
도 6은 최종 위치 및 최종 자세에 따라 정렬된 제 1 영상들(400a, 400b, 400c)을 도시하는 예시적인 도면인데, 제 1 영상들(400a, 400b, 400c)에서 에러 포인트가 제거됨으로써 모든 3중 타이포인트들이 글로벌 좌표계(500)에서 서로 간에 중첩된 것을 확인할 수 있다.FIG. 6 is an exemplary diagram showing the
도 7은 본 발명의 일 실시예에 따른 다중 영상 정렬 방법을 설명하기 위한 순서도이다.7 is a flowchart illustrating a method of aligning multiple images according to an embodiment of the present invention.
복수의 영상들 중 3개의 제 1 영상의 최종 위치 및 최종 자세가 결정되면, S710 단계에서, 다중 영상 정렬 장치(200)는 복수의 영상들 중 제 1 영상들을 제외한 어느 하나의 제 2 영상을 선택한다.When the final position and the final posture of the three first images of the plurality of images are determined, in operation S710, the multi-image arranging
S720 단계에서, 다중 영상 정렬 장치(200)는 두 개의 제 1 영상 및 제 2 영상에서 제 2의 3중 타이포인트를 추출한다. 다중 영상 정렬 장치(200)는 두 개의 제 1 영상을 임의로 선택할 수도 있고, 3개의 제 1 영상 중 제 2 영상을 포함하여 2장씩 조합하였을 때 가장 많은 2중 타이포인트를 포함하는 2장의 제 1 영상을 선택할 수도 있다.In operation S720, the multiple
S730 단계에서, 다중 영상 정렬 장치(200)는 제 2 영상의 추정 위치 및 추정 자세를 결정한다. In operation S730, the
제 2 영상의 추정 위치 및 추정 자세를 결정하는 방법의 일례로서, 다중 영상 정렬 장치(200)는 두 개의 제 1 영상 및 제 2 영상의 제 2의 3중 타이포인트 중 일부를 무작위로 선택하고, 선택된 제2의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 기초하여 제 2 영상의 추정 위치 및 추정 자세를 결정할 수 있다.As an example of a method of determining the estimated position and the estimated pose of the second image, the multi-image arranging
또 다른 예로서, 다중 영상 정렬 장치(200)는 두 개의 제 1 영상에 포함된 제 2의 3중 타이포인트 각각의 3차원 좌표, 구체적으로는 글로벌 좌표계에서의 각 제 2의 3중 타이포인트의 좌표를 기준 포인트들로 설정한다. 그리고, 다중 영상 정렬 장치(200)는 상기 설정된 기준 포인트들 중 일부를 무작위로 선택하고, 상기 무작위로 선택된 일부의 기준 포인트의 3차원 좌표와, 무작위로 선택된 일부의 기준 포인트에 대응하는 상기 제 2 영상의 제 2의 3중 타이포인트의 영상 좌표를 절대표정 관계식에 적용시켜 제 2 영상의 추정 위치 및 추정 자세를 결정할 수 있다. 절대표정 관계식을 이용하여 영상의 위치 및 자세를 추정하는 것은 사진측량 분야 등에서 자명하게 사용되고 있는 바, 상세한 설명은 생략한다.As another example, the
다시 도 7을 보면, S740 단계에서, 다중 영상 정렬 장치(200)는 추정 위치 및 추정 자세에 따라 제 2 영상을 배열시켰을 때, 제 2 영상의 제 2의 3중 타이포인트 중 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정한다.Referring to FIG. 7 again, in operation S740, when the
예를 들어, 제 2 영상의 추정 위치 및 추정 자세가 S730 단계에서 상대표정 관계식에 따라 결정된 경우, 두 개의 제 1 영상과 제 2 영상을 포함한 3개의 영상 중 두개의 영상에 포함된 제 2의 3중 타이포인트들(예를 들어, 무작위로 선택된 제 2의 3중 타이포인트들을 제외한 나머지 타이포인트들) 각각을 다른 하나의 영상에 투영하였을 때의 투영 포인트들 각각과 상기 다른 하나의 영상에 포함된 제 2의 3중 타이포인트들 각각의 사이 거리에 기초하여, 제 2의 3중 타이포인트 중에서 적합 포인트를 결정하고, 적합 포인트의 개수를 산정할 수 있다. 이는 도 4의 S340 단계에서 설명한 방법과 유사한 것을 알 수 있다.For example, when the estimated position and the estimated pose of the second image are determined according to the relative expression relation in operation S730, the second 3 included in two images among two images including two first images and a second image. Each of the middle points (eg, the remaining tie points except for a randomly selected second triple tie point) is included in each of the projection points and the other image when the other image is projected. Based on the distance between each of the second triple tie points, a fit point may be determined among the second triple tie points, and the number of fit points may be calculated. It can be seen that this is similar to the method described in step S340 of FIG.
또 다른 예로서, 제 2 영상의 추정 위치 및 추정 자세가 S730 단계의 절대표정 관계식에 따라 결정된 경우, 다중 영상 정렬 장치(200)는 기준 포인트들(예를 들어, 무작위로 선택된 기준 포인트들을 제외한 나머지 기준 포인트들) 각각을 제 2 영상의 추정 위치 및 추정 자세에 따라 상기 제 2 영상으로 투영한다. 그리고, 다중 영상 정렬 장치(200)는 제 2 영상에 투영된 투영 포인트들 각각과 상기 제 2 영상의 제 2의 3중 타이포인트들 각각의 사이 거리를 고려하여, 제 2의 3중 타이포인트들 중 적합 포인트를 결정하고, 제 2 영상의 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정할 수 있다.As another example, when the estimated position and the estimated pose of the second image are determined according to the absolute expression relation in operation S730, the
다중 영상 정렬 장치(200)는 S730 단계 및 S740 단계를 소정 횟수 반복하면서 적합 포인트의 개수들을 산정하고, S750 단계에서, 예를 들어, RANSAC(Random Sample Consensus)이라고 불리는 강인추정기법에 따라, 적합 포인트의 개수가 가장 많을 때의 제 2 영상의 추정 위치 및 추정 자세를 제 2 영상의 최종 위치 및 최종 자세로 결정한다.The multiple
이후, 다중 영상 정렬 장치(200)는 복수의 영상들 중 나머지 영상 각각에 대해 도 7에 도시된 방법에 따라 하나씩 최종 위치 및 최종 자세를 순차적으로 결정함으로써, 모든 영상들을 정확한 위치 및 자세에 따라 정렬시킬 수 있게 된다.Then, the
한편, 도 7과 관련하여, 제 2 영상의 최종 위치 및 최종 자세를 결정하기 위해 두 개의 제 1 영상을 이용하는 것으로 설명하였는데, 구현예에 따라서는 세 개의 제 1 영상 모두를 이용할 수도 있다. 이 경우, 세 개의 제 1 영상과 제 2 영상에 공통으로 포함된 4중 타이포인트가 이용될 수 있다. 구체적으로, 4중 타이포인트를 추출한 후, 제 2 영상의 추정 위치 및 추정 자세를 결정하고, 4중 타이포인트 중 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수에 따라 제 2 영상의 최종 위치 및 최종 자세를 결정할 수 있다.Meanwhile, with reference to FIG. 7, it has been described that two first images are used to determine the final position and the final posture of the second image. In some embodiments, all three first images may be used. In this case, a quad tie point commonly included in three first and second images may be used. Specifically, after extracting the four tie points, the estimated position and the estimated pose of the second image are determined, and the final position and the final position of the second image are determined according to the number of fit points corresponding to the estimated position and the estimated pose among the four tie points. Final posture can be determined.
도 8a는 부적합 타이포인트를 제외한 적합 타이포인트를 포함하는 3장의 영상들(80a, 80b, 80c)을 도시하는 도면이고, 도 8b는 도 8a에 도시된 적합 타이포인트들의 영상 좌표를 도시하는 도면이다.FIG. 8A is a diagram showing three
도 8b를 참조하면, 3중 타이포인트들 중 ID 1, ID 2 등을 갖는 3중 타이포인트들이 에러 포인트로 결정되어 도 8a에 도시된 3장의 영상들(80a, 80b, 80c)에서 삭제된 것을 확인할 수 있다.Referring to FIG. 8B, triple tie points having ID 1, ID 2, etc. among the triple tie points are determined as error points and deleted from the three
한편, 상술한 본 발명의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 작성된 프로그램은 매체에 저장될 수 있다.Meanwhile, the above-described embodiments of the present invention can be written as a program that can be executed in a computer, and the written program can be stored in a medium.
매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수개 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 애플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.The medium may be to continue to store a computer executable program, or to temporarily store for execution or download. In addition, the medium may be a variety of recording means or storage means in the form of a single or several hardware combined, not limited to a medium directly connected to any computer system, it may be distributed on the network. Examples of the medium include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, And ROM, RAM, flash memory, and the like, configured to store program instructions. In addition, examples of another medium may include a recording medium or a storage medium managed by an app store that distributes an application or a site or server that supplies or distributes various software.
이상, 본 발명의 기술적 사상을 바람직한 실시예를 들어 상세하게 설명하였으나, 본 발명의 기술적 사상은 상기 실시예들에 한정되지 않고, 본 발명의 기술적 사상의 범위 내에서 당 분야에서 통상의 지식을 가진 자에 의하여 여러 가지 변형 및 변경이 가능하다.As mentioned above, although the technical idea of the present invention has been described in detail with reference to a preferred embodiment, the technical idea of the present invention is not limited to the above embodiments, and having ordinary skill in the art within the scope of the technical idea of the present invention. Many modifications and variations are possible.
200: 다중 영상 정렬 장치
210: 메모리
220: 프로세서200: multiple image alignment device
210: memory
220: processor
Claims (10)
상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하는 단계;
상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추정 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하는 단계; 및
상기 적합 포인트의 개수에 기초하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 단계를 포함하고,
상기 적합 포인트의 개수를 산정하는 단계는,
상기 추출된 3중 타이포인트 중 일부를 선택하는 단계; 및
상기 선택된 일부의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출하는 단계를 포함하는 것을 특징으로 하는, 다중 영상 정렬 장치에 의한 다중 영상 정렬 방법.
Selecting three first images from among the plurality of images;
Extracting triple tie points from the selected three first images;
Calculating a number of fitting points corresponding to the estimated position and the estimated position among the extracted triple tie points based on the estimated positions and the estimated attitude of each of the three first images; And
Determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images based on the number of the fitting points;
Calculating the number of fit points,
Selecting some of the extracted triple tie points; And
And applying the image coordinates of the selected triple tie points to a relative expression relation to derive an estimated position and an estimated pose of each of the three first images. How to arrange images.
상기 적합 포인트의 개수를 산정하는 단계에서,
상기 추출된 3중 타이포인트 중 일부를 선택하는 단계는, 상기 추출된 3중 타이포인트 중 일부를 무작위로 선택하는 단계인 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 1,
In the step of calculating the number of fit points,
And selecting a part of the extracted triple tie points randomly selecting a part of the extracted triple tie points.
상기 적합 포인트의 개수를 산정하는 단계는,
상기 추정 위치 및 추정 자세에 따라 배열된 상기 3개의 제 1 영상 중 두 개의 제 1 영상에 포함된 나머지 3중 타이포인트 각각을 다른 하나의 제 1 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 제 1 영상에 포함된 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 1,
Calculating the number of fit points,
Projection points and the other one when each of the remaining three tie points included in the two first images of the three first images arranged according to the estimated position and the estimated attitude is projected on the other first image And determining the fit point based on the distance between the triple tie points included in the first image of the image.
상기 다중 영상 정렬 방법은,
상기 복수의 영상들 중 하나의 제 2 영상을 선택하는 단계;
두 개의 제 1 영상과 상기 제 2 영상 사이의 제 2의 3중 타이포인트를 추출하는 단계; 및
상기 두 개의 제 1 영상 각각의 최종 위치 및 최종 자세와, 상기 제 2 영상의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 제 2의 3중 타이포인트 중에서 적합 포인트의 개수를 산정하는 단계; 및
상기 산정된 적합 포인트의 개수에 기초하여 상기 제 2 영상의 추정 위치 및 추정 자세를 상기 제 2 영상의 최종 위치 및 최종 자세로 결정하는 단계를 더 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 1,
The multi-image sorting method,
Selecting a second image of the plurality of images;
Extracting a second triple tie point between two first images and the second image; And
Calculating a number of fitting points among the extracted second triple tie points based on the final position and the final position of each of the two first images and the estimated position and the estimated position of the second image; And
And determining the estimated position and the estimated pose of the second image as the final position and the final pose of the second image based on the calculated number of fitted points.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 제 2의 3중 타이포인트 중 일부를 무작위로 선택하는 단계; 및
상기 선택된 일부의 제 2의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 도출하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 4, wherein
Determining the final position and the final posture of the second image,
Randomly selecting a portion of the second triple tie points; And
And applying the image coordinates of the selected second triple tie points to a relative expression relation to derive an estimated position and an estimated pose of the second image.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 최종 위치 및 최종 자세에 따라 배열된 상기 두 개의 제 1 영상과 상기 추정 위치 및 추정 자세에 따라 배열된 제 2 영상을 포함한 3개의 영상 중 두개의 영상에 포함된 제 2의 3중 타이포인트 각각을 다른 하나의 영상에 투영하였을 때의 투영 포인트들과 상기 다른 하나의 영상에 포함된 제 2의 3중 타이포인트들 사이의 거리에 기초하여, 상기 적합 포인트를 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 5,
Determining the final position and the final posture of the second image,
Each of the second triple tie points included in two of the three images including the two first images arranged according to the final position and the final pose and the second image arranged according to the estimated position and the estimated pose. And determining the fit point based on the distance between the projection points when the image is projected on the other image and the second triple tie points included in the other image. Multi image sorting method.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 두 개의 제 1 영상에 포함된 제 2의 3중 타이포인트 각각의 3차원 좌표를 기준 포인트들로 설정하는 단계;
상기 설정된 기준 포인트들 중 일부를 무작위로 선택하는 단계;
상기 무작위로 선택된 일부의 기준 포인트의 3차원 좌표와, 무작위로 선택된 일부의 기준 포인트에 대응하는 상기 제 2 영상의 제 2의 3중 타이포인트의 영상 좌표를 절대표정 관계식에 적용시켜 상기 제 2 영상의 추정 위치 및 추정 자세를 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 4, wherein
Determining the final position and the final posture of the second image,
Setting three-dimensional coordinates of each of the second triple tie points included in the two first images as reference points;
Randomly selecting some of the set reference points;
The second image by applying the three-dimensional coordinates of the randomly selected partial reference points and the image coordinates of the second triple tie points of the second image corresponding to the randomly selected partial reference points to an absolute expression relational expression; And determining an estimated position and an estimated pose of the image.
상기 제 2 영상의 최종 위치 및 최종 자세를 결정하는 단계는,
상기 기준 포인트들 각각을 상기 제 2 영상의 추정 위치 및 추정 자세에 따라 상기 제 2 영상으로 투영하는 단계; 및
상기 제 2 영상에 투영된 투영 포인트들과 상기 제 2 영상의 제 2의 타이포인트들 사이의 거리를 고려하여, 상기 적합 포인트를 결정하는 단계; 및
상기 결정된 적합 포인트들의 개수가 가장 많을 때의 상기 제 2 영상의 추정 위치 및 추정 자세를 최종 위치 및 최종 자세로 결정하는 단계를 포함하는 것을 특징으로 하는 다중 영상 정렬 방법.
The method of claim 7, wherein
Determining the final position and the final posture of the second image,
Projecting each of the reference points onto the second image according to the estimated position and the estimated attitude of the second image; And
Determining the fit point in consideration of the distance between the projection points projected on the second image and the second tie points of the second image; And
And determining the estimated position and the estimated pose of the second image when the determined number of the fitted points are the largest as the final position and the final pose.
A program stored on a medium in combination with hardware to execute the multiple image alignment method of any one of claims 1 to 8.
적어도 하나의 프로세서; 및
상기 프로세서에 전기적으로 연결된 메모리를 포함하고,
상기 메모리는, 상기 프로세서가 실행 시에,
복수의 영상들 3개의 제 1 영상을 선택하고,
상기 선택된 3개의 제 1 영상에서 3중 타이포인트를 추출하고,
상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세에 기초하여, 상기 추출된 3중 타이포인트 중에서 상기 추청 위치 및 추정 자세에 부합하는 적합 포인트의 개수를 산정하고,
상기 적합 포인트의 개수 산정은,
상기 추출된 3중 타이포인트 중 일부를 선택하고, 상기 선택된 일부의 3중 타이포인트의 영상 좌표를 상대표정 관계식에 적용시켜 상기 3개의 제 1 영상 각각의 추정 위치 및 추정 자세를 도출하는 단계를 포함하며,
상기 적합 포인트의 개수를 고려하여 상기 3개의 제 1 영상의 추정 위치 및 추정 자세를 상기 3개의 제 1 영상의 최종 위치 및 최종 자세로 결정하는 인스트럭션들을 포함하는 것을 특징으로 하는 다중 영상 정렬 장치.In the multiple image alignment device,
At least one processor; And
A memory electrically connected to the processor;
The memory, when the processor is running,
Select first three images of the plurality of images,
Extracting triple tie points from the selected three first images,
Based on the estimated positions and estimated postures of each of the three first images, calculating the number of fitting points corresponding to the estimated positions and the estimated postures among the extracted triple tie points,
The calculation of the number of fit points is
Selecting a part of the extracted triple tie points and applying image coordinates of the selected triple tie points to a relative expression relation to derive an estimated position and an estimated pose of each of the three first images. ,
And instructions for determining the estimated positions and the estimated poses of the three first images as the final positions and the final poses of the three first images in consideration of the number of the fitting points.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170155948A KR101967284B1 (en) | 2017-11-21 | 2017-11-21 | Apparatus and method for aligning multi image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170155948A KR101967284B1 (en) | 2017-11-21 | 2017-11-21 | Apparatus and method for aligning multi image |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101967284B1 true KR101967284B1 (en) | 2019-08-13 |
Family
ID=67624252
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170155948A KR101967284B1 (en) | 2017-11-21 | 2017-11-21 | Apparatus and method for aligning multi image |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101967284B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220069541A (en) * | 2020-11-20 | 2022-05-27 | 김동욱 | Map making Platform apparatus and map making method using the platform |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120111805A (en) * | 2011-04-01 | 2012-10-11 | 에스케이씨앤씨 주식회사 | System of estimating camaera pose and method thereof |
KR101737438B1 (en) * | 2016-07-18 | 2017-05-18 | 한국항공우주연구원 | Method and Apparatus for Constructing Reference Layer, Method and System for Constructing 3D GIS Data using Reference Layer |
-
2017
- 2017-11-21 KR KR1020170155948A patent/KR101967284B1/en active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120111805A (en) * | 2011-04-01 | 2012-10-11 | 에스케이씨앤씨 주식회사 | System of estimating camaera pose and method thereof |
KR101737438B1 (en) * | 2016-07-18 | 2017-05-18 | 한국항공우주연구원 | Method and Apparatus for Constructing Reference Layer, Method and System for Constructing 3D GIS Data using Reference Layer |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220069541A (en) * | 2020-11-20 | 2022-05-27 | 김동욱 | Map making Platform apparatus and map making method using the platform |
KR102475790B1 (en) * | 2020-11-20 | 2022-12-08 | 김동욱 | Map making Platform apparatus and map making method using the platform |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10964049B2 (en) | Method and device for determining pose of camera | |
US10573018B2 (en) | Three dimensional scene reconstruction based on contextual analysis | |
JP6464934B2 (en) | Camera posture estimation apparatus, camera posture estimation method, and camera posture estimation program | |
CN110568447B (en) | Visual positioning method, device and computer readable medium | |
JP6507730B2 (en) | Coordinate transformation parameter determination device, coordinate transformation parameter determination method, and computer program for coordinate transformation parameter determination | |
EP2153409B1 (en) | Camera pose estimation apparatus and method for augmented reality imaging | |
JP6338021B2 (en) | Image processing apparatus, image processing method, and image processing program | |
US20150262346A1 (en) | Image processing apparatus, image processing method, and image processing program | |
US20110293142A1 (en) | Method for recognizing objects in a set of images recorded by one or more cameras | |
US20140267254A1 (en) | Accurate Image Alignment to a 3D Model | |
US20120162220A1 (en) | Three-dimensional model creation system | |
JP7147753B2 (en) | Information processing device, information processing method, and program | |
US20120162387A1 (en) | Imaging parameter acquisition apparatus, imaging parameter acquisition method and storage medium | |
CN112132754B (en) | Vehicle movement track correction method and related device | |
CN109934873B (en) | Method, device and equipment for acquiring marked image | |
JP2009014629A (en) | Position measuring apparatus and position measuring method | |
CN115830135A (en) | Image processing method and device and electronic equipment | |
CN114998773A (en) | Characteristic mismatching elimination method and system suitable for aerial image of unmanned aerial vehicle system | |
Onyango et al. | Accurate estimation of orientation parameters of UAV images through image registration with aerial oblique imagery | |
WO2020133080A1 (en) | Object positioning method and apparatus, computer device, and storage medium | |
WO2022002149A1 (en) | Initial localization method, visual navigation device, and warehousing system | |
KR102475790B1 (en) | Map making Platform apparatus and map making method using the platform | |
KR101967284B1 (en) | Apparatus and method for aligning multi image | |
Alsadik et al. | Robust extraction of image correspondences exploiting the image scene geometry and approximate camera orientation | |
TWI471821B (en) | A system, a method, and a recording medium for establishing a correlation for a plurality of images |