KR20130055447A - Device and method of generating mosaic images - Google Patents

Device and method of generating mosaic images Download PDF

Info

Publication number
KR20130055447A
KR20130055447A KR1020110121197A KR20110121197A KR20130055447A KR 20130055447 A KR20130055447 A KR 20130055447A KR 1020110121197 A KR1020110121197 A KR 1020110121197A KR 20110121197 A KR20110121197 A KR 20110121197A KR 20130055447 A KR20130055447 A KR 20130055447A
Authority
KR
South Korea
Prior art keywords
image
subject
navigation information
coordinate
still
Prior art date
Application number
KR1020110121197A
Other languages
Korean (ko)
Other versions
KR101323099B1 (en
Inventor
김태화
황현덕
최욱현
Original Assignee
(주)쎄트렉아이
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)쎄트렉아이 filed Critical (주)쎄트렉아이
Priority to KR1020110121197A priority Critical patent/KR101323099B1/en
Publication of KR20130055447A publication Critical patent/KR20130055447A/en
Application granted granted Critical
Publication of KR101323099B1 publication Critical patent/KR101323099B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C17/00Compasses; Devices for ascertaining true or magnetic north for navigation or surveying purposes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4015Demosaicing, e.g. colour filter array [CFA], Bayer pattern
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising

Abstract

PURPOSE: A mosaic image generation device and method are provided to obtain a position, movement speed, and a posture of a camera and to obtain a subject coordinate, thereby arranging static images by using the subject coordinate. CONSTITUTION: An image information obtainment unit(10) obtains a plurality of static images and photographing time from image information. A navigation information obtainment unit(20) measures navigation information of a camera corresponding to time flow. A coordinate conversion unit(40) obtains a subject coordinate corresponding to an image coordinate of a static image. An image display unit(50) arranges the static images by using the subject coordinate. [Reference numerals] (10) Image information obtainment unit; (20) Navigation information obtainment unit; (30) Navigation information synchronization unit; (40) Coordinate conversion unit; (50) Image display unit

Description

모자이크 영상 생성 장치 및 방법{Device and method of generating Mosaic images}Device and method for generating mosaic images

본 발명은 모자이크 영상 생성 장치 및 방법에 관한 것으로서, 특히 항공기 등의 이동체를 이용하는 이동 촬영에서 실시간으로 정확한 모자이크 영상을 생성시킬 수 있는 모자이크 영상 생성 장치 및 방법에 관한 것이다.The present invention relates to a mosaic image generating apparatus and method, and more particularly, to a mosaic image generating apparatus and method capable of generating an accurate mosaic image in real time in mobile photographing using a moving object such as an aircraft.

모자이크 영상(Mosaic image)이란, 카메라가 피사체의 일부를 각각 촬영함으로써 획득되는 복수 개의 정지 영상을 서로 연결함으로써 합성되며, 피사체 전체를 표현하는 하나의 연속적인(seamless) 영상을 의미한다. 상기 복수 개의 정지 영상들은, 비디오카메라에 의해 촬영된 동영상으로부터 추출되거나 디지털카메라에 의해 촬영된다. 이러한 모자이크 영상 생성 방법은, 카메라가 한 번에 담을 수 있는 시야각(viewing angle)이 제한적이기 때문에 널리 사용되고 있다.The mosaic image refers to one continuous image that is synthesized by connecting a plurality of still images obtained by photographing a part of a subject to each other, and represents the entire subject. The plurality of still images are extracted from a video photographed by a video camera or photographed by a digital camera. Such a mosaic image generation method is widely used because the viewing angle that the camera can hold at a time is limited.

종래의 모자이크 영상 생성 방법은, 상기 정지 영상들을 서로 연결시키는 방법에 따라, 화소(pixel)에 기초한 방법과 특징(feature)에 기초한 방법으로 나눌 수 있다.The conventional mosaic image generating method may be divided into a pixel-based method and a feature-based method according to a method of connecting the still images to each other.

상기 화소에 기초한 방법은, 서로 연결할 두 개의 정지 영상에 존재하는 대응되는 화소들에 대하여, 연결 오차가 최소가 되도록 하는 위치를 반복적으로 찾는 방법으로서, 비록 정확하지만, 계산상 복잡도가 상당히 높으며, 영상 간의 중복도가 낮을 경우 모자이크 성능이 급격하게 저하되는 문제점이 있다.The pixel-based method is a method of iteratively finding a position where the connection error is minimized with respect to corresponding pixels existing in two still images to be connected to each other. Although accurate, the computational complexity is considerably high. When the degree of redundancy is low, there is a problem that the mosaic performance is sharply degraded.

그리고, 상기 특징에 기초한 방법은, 피사체에서 특징점(feature point) 추출하고 그 특징점을 통한 대응관계를 설정하여, 촬영된 영상으로부터 카메라의 위치와 움직임을 분석하고 장면(scene)에 대한 3차원 모델을 구성하는 방법으로서, 대상 장면 내 물체에 의하여 특징점이 가려지는 경우(occlusion)나, 특징점이 영상 경계를 벗어나는 경우(out of Image), 특징점이 적은 경우에는 모자이크 제작이 매우 어렵게 되며, 이미지 중복구간에 뚜렷하게 공통되는 포인트가 없거나 비슷한 특징들이 많을 경우 엉뚱한 모양의 이미지를 합성할 가능성도 높은 문제점이 있다.The feature-based method extracts a feature point from a subject and sets a corresponding relationship through the feature point to analyze the position and movement of the camera from the photographed image and generate a three-dimensional model of the scene. As a method of constructing a mosaic, it is very difficult to produce a mosaic when the feature point is occluded by an object in the target scene (occlusion), when the feature point is out of the image boundary, or when the feature point is small. If there are no distinctly common points or many similar features, there is a high possibility of synthesizing the wrong shape image.

한편, 상기 종래의 모자이크 영상 생성 방법들은, 영상 처리에 필요한 계산량이 매우 많아, 영상 처리가 실시간에 이루어질 수 없는 문제점도 있다.On the other hand, the conventional mosaic image generation method, there is a problem that the image processing can not be performed in real time because a large amount of calculation required for image processing.

본 발명은 상기 문제를 해결하기 위해 안출된 것으로서, 그 목적은 항공기 등의 이동체를 이용하는 이동 촬영에서 실시간으로 정확한 모자이크 영상을 생성시킬 수 있도록 구조가 개선된 모자이크 영상 생성 장치 및 방법을 제공하기 위함이다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and an object thereof is to provide a mosaic image generating apparatus and method having an improved structure so as to generate an accurate mosaic image in real time in mobile photographing using a moving object such as an aircraft. .

상기 목적을 달성하기 위하여 본 발명에 따른 모자이크 영상 생성 장치는, 위치 이동하는 카메라가 피사체를 촬영함으로써 획득되는 복수 개의 정지 영상을 연결하여 모자이크 영상을 생성하는 장치에 있어서, 상기 카메라에 의하여 촬영된 영상 정보로부터 상기 복수 개의 정지 영상과 그 정지 영상 각각이 촬영된 촬영 시각을 획득하는 영상 정보 획득부; 상기 카메라의 위치와 이동 속도 및 자세 등의 항법 정보를 시간의 흐름에 따라 측정하여 획득하는 항법 정보 획득부; 공선조건식을 이용하여, 상기 정지 영상 상의 특정한 좌표인 사진좌표에 대응되는, 상기 피사체 상에 형성되는 피사체좌표를 획득하는 좌표 변환부; 상기 피사체좌표를 이용하여 상기 정지 영상들을 배열함으로써, 상기 모자이크 영상을 생성하고 표시하는 영상 전시부;를 포함하는 것을 특징으로 한다.In order to achieve the above object, the apparatus for generating a mosaic image according to the present invention is a device for generating a mosaic image by connecting a plurality of still images obtained by photographing a subject by a moving camera, wherein the image is photographed by the camera. An image information acquisition unit for acquiring the plurality of still images and a shooting time at which each of the still images is captured from the information; A navigation information acquisition unit for measuring and obtaining navigation information such as the position, movement speed, and attitude of the camera over time; A coordinate converting unit for obtaining a subject coordinate formed on the subject, corresponding to a photo coordinate which is a specific coordinate on the still image by using a collinear condition equation; And an image display unit for generating and displaying the mosaic image by arranging the still images using the subject coordinates.

여기서, 상기 정지 영상과 상기 항법 정보를 동기화시킴으로써, 상기 정지 영상의 각 촬영 시각에 대한 상기 항법 정보를 획득하는 항법 정보 동기화부를 포함하는 것이 바람직하다.Here, it is preferable to include a navigation information synchronization unit for acquiring the navigation information for each shooting time of the still image by synchronizing the still image with the navigation information.

여기서, 상기 좌표 변환부는 상기 정지 영상 상의 네 코너의 사진좌표를 피사체좌표로 변환하는 것이 바람직하다.The coordinate converting unit may convert photo coordinates of four corners on the still image into subject coordinates.

여기서, 상기 정지 영상 및 상기 항법 정보를 미리 정한 시간 내에 처리함으로써, 실시간으로 작동하는 것이 바람직하다.Here, it is preferable to operate in real time by processing the still image and the navigation information within a predetermined time.

여기서, 상기 항법 정보 획득부는 관성 항법 시스템을 구비하는 것이 바람직하다.Here, the navigation information acquisition unit preferably includes an inertial navigation system.

여기서, 상기 항법 정보 획득부는, 상기 관성 항법 시스템의 적분 오차를 감소시킬 수 있도록, 나침반 또는 위성 항법 시스템을 구비하는 것이 바람직하다.Here, the navigation information acquisition unit preferably includes a compass or satellite navigation system so as to reduce the integral error of the inertial navigation system.

여기서, 상기 영상 정보 획득부는, 상기 피사체의 형상이 끊김 없이 연속적으로 표현되도록 상기 정지 영상들을 획득하는 것이 바람직하다.Here, the image information acquisition unit preferably acquires the still images so that the shape of the subject is represented continuously.

여기서, 상기 영상 정보 획득부는, 상기 획득되는 정지 영상의 샘플링 주기 및 해상도를 조절할 수 있는 것이 바람직하다.Here, the image information acquisition unit may adjust the sampling period and resolution of the obtained still image.

상기 목적을 달성하기 위하여 본 발명에 따른 모자이크 영상 생성 방법은, 위치 이동하는 카메라가 피사체를 촬영함으로써 획득되는 복수 개의 정지 영상을 연결하여 모자이크 영상을 생성하는 방법으로서, 상기 카메라에 의하여 촬영된 영상 정보로부터 상기 복수 개의 정지 영상과 그 정지 영상 각각이 촬영된 촬영 시각을 획득하는 영상 정보 획득 단계; 상기 카메라의 위치와 이동 속도 및 자세 등의 항법 정보를 시간의 흐름에 따라 측정하여 획득하는 항법 정보 획득 단계; 공선조건식을 이용하여, 상기 정지 영상 상의 특정한 좌표인 사진좌표에 대응되는, 상기 피사체 상에 형성되는 피사체좌표를 획득하는 좌표 변환 단계; 상기 피사체좌표를 이용하여 상기 정지 영상들을 배열함으로써, 상기 모자이크 영상을 생성하고 표시하는 영상 전시 단계;를 구비하는 것을 특징으로 한다.In order to achieve the above object, a mosaic image generating method according to the present invention is a method of generating a mosaic image by connecting a plurality of still images obtained by photographing a subject by a moving camera, the image information photographed by the camera An image information obtaining step of obtaining from the plurality of still images and a photographing time at which each of the still images is captured; A navigation information acquisition step of measuring and obtaining navigation information such as the position, movement speed, and attitude of the camera over time; A coordinate conversion step of acquiring a subject coordinate formed on the subject, corresponding to a photo coordinate which is a specific coordinate on the still image using a collinear condition equation; And an image displaying step of generating and displaying the mosaic image by arranging the still images using the subject coordinates.

여기서, 상기 정지 영상과 상기 항법 정보를 동기화시킴으로써, 상기 정지 영상의 각 촬영 시각에 대한 상기 항법 정보를 획득하는 항법 정보 동기화 단계를 구비하는 것이 바람직하다.In this case, it is preferable to include a navigation information synchronization step of acquiring the navigation information for each shooting time of the still image by synchronizing the still image with the navigation information.

여기서, 상기 좌표 변환 단계에서는, 상기 정지 영상 상의 네 코너의 사진좌표가 피사체좌표로 변환되는 것이 바람직하다.Here, in the coordinate conversion step, it is preferable that the photo coordinates of the four corners on the still image are converted into the subject coordinates.

여기서, 상기 단계들은 미리 정한 시간 내에 실시간으로 처리되는 것이 바람직하다.Here, the steps are preferably processed in real time within a predetermined time.

여기서, 상기 영상 정보 획득 단계에서는, 상기 피사체의 형상이 끊김 없이 연속적으로 표현되도록 상기 정지 영상들이 획득되는 것이 바람직하다.In the obtaining of the image information, it is preferable that the still images are obtained so that the shape of the subject is continuously expressed without interruption.

본 발명에 따르면, 상기 카메라의 위치와 이동 속도 및 자세 등을 획득하는 항법 정보 획득부와, 공선조건식을 이용하여 상기 정지 영상 상의 특정한 좌표인 사진좌표에 대응되는, 상기 피사체 상에 형성되는 피사체좌표를 획득하는 좌표 변환부와, 상기 피사체좌표를 이용하여 상기 정지 영상들을 배열하는 영상 전시부를 구비함으로써, 항공기 등의 이동체를 이용하는 이동 촬영에서 실시간으로 정확한 모자이크 영상을 생성시킬 수 있는 효과가 있다.According to the present invention, a navigation information acquisition unit for acquiring a position, a moving speed, a posture, and the like of the camera, and a subject coordinate formed on the subject corresponding to a photo coordinate, which is a specific coordinate on the still image, using a collinear conditional expression. By providing a coordinate converting unit for acquiring an image and an image display unit for arranging the still images using the subject coordinates, an accurate mosaic image can be generated in real time in mobile shooting using a moving object such as an aircraft.

도 1은 본 발명의 일 실시예인 모자이크 영상 생성 장치의 구성도를 나타내는 도면이다.
도 2는 도 1에 도시된 모자이크 영상 생성 장치를 이용하여 모자이크 영상을 생성하는 방법 일례를 설명하기 위한 흐름도이다.
도 3은 정지 영상 상의 특정한 좌표인 사진좌표와, 상기 사진좌표에 대응하는 상기 피사체 상에 형성되는 피사체좌표와의 관계를 나타내는 도면이다.
도 4는 비행중인 항공기에서 촬영할 지면을 나타내는 도면이다.
도 5는 피사체인 지면을 서로 일부분 겹치는 3개의 정지 영상으로 나누어 촬영하는 상태를 나타내는 도면이다.
도 6은 도 5에서 촬영된 3개의 정지 영상을 피사체좌표를 이용하여 배열함으로써 끊김 없이 연속적으로 표현된 모자이크 영상을 생성하는 상태를 나타내는 도면이다.
도 7은 피사체인 지면을 서로 겹치지 않는 3개의 정지 영상으로 나누어 촬영하는 상태를 나타내는 도면이다.
도 8은 도 7에서 촬영된 3개의 정지 영상을 피사체좌표를 이용하여 배열함으로써 끊김은 있으나 연속성은 유지하는 모자이크 영상을 생성하는 상태를 나타내는 도면이다.
1 is a block diagram of a mosaic image generating apparatus according to an embodiment of the present invention.
FIG. 2 is a flowchart for explaining an example of a method of generating a mosaic image by using the mosaic image generating apparatus of FIG. 1.
3 is a diagram illustrating a relationship between a photo coordinate which is a specific coordinate on a still image and a subject coordinate formed on the subject corresponding to the photo coordinate.
4 is a view showing the ground to shoot in the aircraft in flight.
FIG. 5 is a diagram illustrating a photographing state in which the ground, which is the subject, is divided into three still images partially overlapping each other.
FIG. 6 is a diagram illustrating a state of generating mosaic images continuously expressed by seamlessly arranging three still images photographed in FIG. 5 using object coordinates.
FIG. 7 is a diagram illustrating a state in which the photographic surface of the subject is photographed by being divided into three still images that do not overlap each other.
FIG. 8 is a diagram illustrating a state in which three still images photographed in FIG. 7 are arranged by using object coordinates to generate a mosaic image which is broken but maintains continuity.

이하에서, 첨부된 도면들을 참조하여 본 발명의 바람직한 실시예를 상세하게 설명하기로 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시예인 모자이크 영상 생성 장치의 구성도를 나타내는 도면이며, 도 2는 도 1에 도시된 모자이크 영상 생성 장치를 이용하여 모자이크 영상을 생성하는 방법 일례를 설명하기 위한 흐름도이다. 도 3은 정지 영상 상의 특정한 좌표인 사진좌표와, 상기 사진좌표에 대응하는 상기 피사체 상에 형성되는 피사체좌표와의 관계를 나타내는 도면이며, 도 4는 비행중인 항공기에서 촬영할 지면을 나타내는 도면이다.1 is a diagram illustrating a configuration of a mosaic image generating apparatus according to an embodiment of the present invention, and FIG. 2 is a flowchart for explaining an example of a method of generating a mosaic image using the mosaic image generating apparatus illustrated in FIG. 1. 3 is a diagram illustrating a relationship between a photo coordinate which is a specific coordinate on a still image and a subject coordinate formed on the subject corresponding to the photo coordinate, and FIG. 4 is a diagram illustrating a ground to be photographed by an aircraft in flight.

도 1 내지 도 4를 참조하면, 본 발명의 바람직한 실시예에 따른 모자이크 영상 생성 장치(100)는, 위치 이동하는 카메라(미도시)가 피사체(M)를 촬영함으로써 획득되는 복수 개의 정지 영상(P1, P2, P3,..Pn...)을 연결하여 모자이크 영상을 생성하는 장치로서, 영상 정보 획득부(10)와, 항법 정보 획득부(20)와, 항법 정보 동기화부(30)와, 좌표 변환부(40)와, 영상 전시부(50)를 포함하여 구성된다. 이하에서는 항공기를 이용하여 비행하면서 도로나 논밭이 있는 지면(M)을 항공 촬영하는 것을 전제로 설명하기로 한다.1 to 4, a mosaic image generating apparatus 100 according to an exemplary embodiment of the present invention may include a plurality of still images P1 obtained by photographing a subject M by a moving camera (not shown). , P2, P3, ..Pn ...) to generate a mosaic image, comprising: an image information acquisition unit 10, navigation information acquisition unit 20, navigation information synchronization unit 30, The coordinate conversion unit 40 and the image display unit 50 are included. Hereinafter, it will be described on the premise of aerial photographing the ground (M) with a road or paddy field while flying by using the aircraft.

상기 영상 정보 획득부(10)는, 항공기에 탑재되어 위치 이동하는 카메라(미도시)에 의하여 촬영된 동영상(video) 정보로부터, 도 5에 도시된 바와 같이 상기 복수 개의 정지 영상(P1, P2, P3,..Pn...)을 추출하는 부분이다. 이때 상기 영상 정보 획득부(10)는, 획득되는 정지 영상(P1, P2, P3,..Pn...)들 각각이 촬영된 촬영 시각(T1, T2, T3,..Tn...)도 함께 기록한다.The video information acquisition unit 10 may include the plurality of still images P1, P2, and the like, as shown in FIG. 5, from video information captured by a camera (not shown) mounted on an aircraft and moving in position. This is the part that extracts P3, .. Pn ...). At this time, the image information acquisition unit 10, the shooting time (T1, T2, T3, ... Tn ...) each of the obtained still images (P1, P2, P3, ... Pn ...) Also write together.

상기 영상 정보 획득부(10)는, 도 5에 도시된 바와 같이, 서로 일부분 겹치는 정지 영상(P1, P2, P3,..Pn...)으로 획득할 수 있으며, 도 7에 도시된 바와 같이, 서로 겹치지 않는 정지 영상(P1, P2, P3,..Pn...)으로 획득할 수도 있다. 본 실시예에서, 상기 영상 정보 획득부(10)는 도 5에 도시된 바와 같이 서로 일부분 겹치는 정지 영상(P1, P2, P3,..Pn...)으로 획득한다.As shown in FIG. 5, the image information acquisition unit 10 may acquire a still image (P1, P2, P3, ..Pn ...) which partially overlap each other, as shown in FIG. It may also be obtained as a still image (P1, P2, P3, ... Pn ...) do not overlap each other. In the present embodiment, the image information acquisition unit 10 acquires a still image (P1, P2, P3, ... Pn ...) partially overlapping each other, as shown in FIG.

본 실시예에서, 상기 영상 정보 획득부(10)는, 상기 동영상(video) 정보로부터 획득되는 정지 영상(P1, P2, P3,..Pn...)의 초당 촬영 프레임(frame)을 조절하기 위하여 샘플링 주기(sampling period)(SP1)를 조절할 수 있으며, 상기 정지 영상(P1, P2, P3,..Pn...)들의 해상도(resolution)를 조절할 수 있다.In the present embodiment, the image information acquisition unit 10 adjusts the shooting frame per second of the still image (P1, P2, P3, ... Pn ...) obtained from the video information (video). In order to adjust the sampling period SP1, the resolution of the still images P1, P2, P3, .. Pn.

상기 항법 정보 획득부(20)는, 상기 카메라의 위치와 이동 속도 및 자세 등의 항법 정보를 시간의 흐름에 따라 측정하여 획득하는 장치로서, 상기 카메라가 탑재된 항공기의 위치와 이동 속도 및 자세를 측정함으로써 상기 카메라의 위치와 이동 속도 및 자세 등을 측정한다. The navigation information acquisition unit 20 is a device for measuring and obtaining navigation information such as the position and the moving speed and the attitude of the camera over time, and the position and the moving speed and the attitude of the aircraft on which the camera is mounted. By measuring, the position, the moving speed and the posture of the camera are measured.

상기 항법 정보 획득부(20)는, 관성 항법 시스템(INS, Inertial Navigation System)과 위성 항법 시스템(satellite navigation system)을 함께 구비하는 복합항법시스템(Hybrid or Integrated Navigation System)이다.The navigation information acquisition unit 20 is a hybrid or integrated navigation system including an inertial navigation system (INS) and a satellite navigation system.

상기 관성 항법 시스템(INS)은, 복수의 자이로와 가속도계를 조합시켜 그 신호를 컴퓨터로 처리하여 항공기의 위치나 자세 등의 항법정보를 얻는 장치로서, 획득한 가속도 정보와 각속도 정보를 적분하여 항공기의 현재 위치, 속도, 각도 등을 짧은 시간 동안 정확하게 계산한다. The inertial navigation system (INS) is a device that combines a plurality of gyros and an accelerometer and processes the signals with a computer to obtain navigation information such as the position or attitude of the aircraft. The inertial navigation system (INS) integrates the acquired acceleration information and angular velocity information to Accurately calculate your current position, speed, angle, etc. in a short time.

본 실시예에서, 상기 관성 항법 시스템은, 상기 영상 정보 획득부(10)의 샘플링 주기(SP1)와는 다른 값의 샘플링 주기(SP2)로 작동하므로 상기 항법 정보의 측정 시각(t1, t2, t3,...tn...)이 상기 정지 영상(P1, P2, P3,..Pn...)의 촬영 시각(T1, T2, T3,..Tn...)과 일치하지는 않는다. 일반적으로 상기 항법 정보의 샘플링 주기(SP2)가 상기 영상 정보 획득부(10)의 샘플링 주기(SP1)보다 더 짧은 것이 보통이다.In the present embodiment, since the inertial navigation system operates at a sampling period SP2 having a value different from that of the sampling period SP1 of the image information acquisition unit 10, the measurement times t1, t2, t3, ... tn ... does not coincide with the shooting times T1, T2, T3, ..Tn ... of the still images P1, P2, P3, ..Pn .... In general, the sampling period SP2 of the navigation information is shorter than the sampling period SP1 of the image information acquisition unit 10.

상기 위성 항법 시스템은, 인공위성을 위치 측정의 기준점으로 사용하는 항법 장치로서, 위성에서 발사된 전파를 관측하거나 위성을 중계국으로 이용해서 항공기의 위치를 확인한다. 상기 위성 항법 시스템의 대표적인 예로서는, GPS(Global Positiong System)또는 DGPS(Differencial Global Positiong System)를 들 수 있다. 본 실시예에서, 상기 위성 항법 시스템은, 상기 관성 항법 시스템에 의하여 누적되는 적분 오차를 감소시키기 위하여 마련된 보조적 장치이다.The satellite navigation system is a navigation device using satellites as a reference point for positioning, and observes radio waves emitted from satellites or uses satellites as relay stations to confirm the position of the aircraft. Representative examples of the satellite navigation system include a GPS (Global Positiong System) or a DGPS (Differencial Global Positiong System). In this embodiment, the satellite navigation system is an auxiliary device provided to reduce the integral error accumulated by the inertial navigation system.

상기 항법 정보 획득부(20)는, 기준 위치로부터 항해한 침로와 거리를 이용하여 현재 위치를 산정하는 추측 항법(dead reckoning)을 사용한다.The navigation information acquisition unit 20 uses dead reckoning to calculate the current position using the course and distance navigated from the reference position.

상기 항법 정보 동기화부(30)는, 상기 정지 영상(P1, P2, P3,..Pn...)과 상기 항법 정보를 서로 동기화시키는 부분이다.The navigation information synchronization unit 30 is a part for synchronizing the still images P1, P2, P3, ..Pn ... and the navigation information with each other.

상기 항법 정보 동기화부(30)는 상기 정지 영상(P1, P2, P3,..Pn...)의 각 촬영 시각(T1, T2, T3,..Tn...)을 기준으로 그에 대응하는 상기 항법 정보를 획득한다. 이때, 상기 항법 정보 획득부(20)로부터 출력되는 상기 항법 정보를 보간함으로써, 상기 촬영 시각(T1, T2, T3,..Tn...)에 각각 대응하는 항법 정보를 획득한다.The navigation information synchronization unit 30 corresponds to the photographing time T1, T2, T3, .. Tn ... of the still images P1, P2, P3, .. Pn... Obtain the navigation information. At this time, by interpolating the navigation information output from the navigation information acquisition unit 20, navigation information corresponding to the photographing times T1, T2, T3, ..Tn ... are obtained.

상기 좌표 변환부(40)는, 상기 항법 정보 동기화부(30)에 의하여 동기화된 상기 정지 영상(P1, P2, P3,..Pn...)과 항법 정보를 이용하여, 도 3에 도시된 바와 같이, 상기 정지 영상(P) 상의 특정한 좌표인 사진좌표 (xP,yP)에 대응되는, 상기 피사체(M) 상에 형성되는 피사체좌표 (XP,YP)를 획득하는 부분이다.The coordinate conversion unit 40 uses the still images P1, P2, P3, .. Pn... And navigation information synchronized by the navigation information synchronization unit 30, as shown in FIG. 3. As described above, the object coordinates (X P , Y P ) formed on the subject (M) corresponding to the photo coordinates (x P , y P ) which are specific coordinates on the still image ( P ) are obtained.

상기 좌표 변환부(40)는, 아래의 식(1)과 같은 공선조건식(Collinearity condition Equation)을 이용하게 되는데, 상기 식(1)은 도 3에 도시된 바와 같이 피사체(M) 상의 임의의 점 (XP,YP)과 상기 (XP,YP)에 대응하는 정지 영상(P) 상의 대응점 (xP,yP)와 카메라의 투영중심(C)가 동일한 직선상에 존재한다는 공선조건(Collinearity condition)에서 유도된다.The coordinate conversion unit 40 uses a collinearity condition equation, such as Equation 1 below, wherein Equation 1 is an arbitrary point on the subject M as shown in FIG. 3. (x P, Y P) and the (x P, Y P) corresponding points on the still image (P) corresponding to the (x P, y P) and the camera projection center (C) the collinearity condition that they exist on the same straight line in the Derived from Collinearity condition.

Figure pat00001
----식(1)
Figure pat00001
---- Equation (1)

여기서, f는 카메라의 초점거리이며, (X0,Y0,Z0)는 투영중심(C)의 피사체(M) 상의 좌표이며, (x0,y0)는 투영중심(C)의 정지 영상(P) 상의 사진좌표이며, mij는 카메라의 자세에 대한 회전행렬 M의 i행, j열 값으로서, 상기 카메라의 위치와 자세에 의하여 결정되는 값이다. 이때, 상기 투영중심(C)의 위치와 이동 속도 등은 상기 카메라의 위치와 이동 속도 등으로부터 계산할 수 있다.Where f is the focal length of the camera, (X 0 , Y 0 , Z 0 ) is the coordinate on the subject M of the projection center C, and (x 0 , y 0 ) is the static of the projection center C Photo coordinates on the image P, where m ij is a value of i rows and j columns of the rotation matrix M with respect to the attitude of the camera, and is determined by the position and attitude of the camera. In this case, the position and the moving speed of the projection center C may be calculated from the position and the moving speed of the camera.

따라서, 상기 식(1)에 의하며, 현재 시각과 현재 위치에서, x-y 좌표평면상에 있는 정지 영상(P) 상의 임의점 x P = (xP,yP)을 대입하면, 그에 대응하는 X-Y 좌표평면상의 점 X P = (XP,YP)값을 획득할 수 있다.Therefore, when the arbitrary point x P = (x P , y P ) on the still image P on the xy coordinate plane is substituted at the current time and the current position according to Equation (1), the corresponding XY coordinates The point X P = (X P , Y P ) on the plane can be obtained.

본 실시예에서, 상기 좌표 변환부(40)는 도 3에 도시된 바와 같이 1개의 정지 영상(P)에 대하여 5개의 사진좌표를 5개의 피사체좌표로 변환하는데, 상기 정지 영상(P) 상의 네 코너의 사진좌표 (x1,y1), (x2,y2), (x3,y3), (x4,y4)를 각각 피사체좌표 (X1,Y1), (X2,Y2), (X3,Y3), (X4,Y4)로 변환하고, 투영중심(C)의 사진좌표인 (x0,y0)를 (X0,Y0)로 변환한다. 여기서, Z=0인 평면에 상기 피사체(M)가 존재하는 것으로 가정하는 바, Z0=Z1=Z2=Z3=Z4=0이다.In the present embodiment, the coordinate conversion unit 40 converts five photo coordinates into five subject coordinates for one still image P, as shown in FIG. 3. The photo coordinates (x 1 , y 1 ), (x 2 , y 2 ), (x 3 , y 3 ), and (x 4 , y 4 ) in the corner are respectively set to the subject coordinates (X 1 , Y 1 ), (X 2 , Y 2 ), (X 3 , Y 3 ), (X 4 , Y 4 ) and convert (x 0 , y 0 ), the photo coordinates of the projection center (C), to (X 0 , Y 0 ) do. Here, it is assumed that the subject M exists in a plane where Z = 0, and Z 0 = Z 1 = Z 2 = Z 3 = Z 4 = 0.

상기 영상 전시부(50)는, 상기 5개의 피사체좌표 (X0,Y0), (X1,Y1), (X2,Y2), (X3,Y3), (X4,Y4)를 이용하여, 도 6에 도시된 바와 같이 상기 정지 영상(P1, P2, P3,..Pn...)을 배열함으로써 상기 모자이크 영상을 생성하고 표시하는 부분이다.The image display unit 50 may include the five subject coordinates (X 0 , Y 0 ), (X 1 , Y 1 ), (X 2 , Y 2 ), (X 3 , Y 3 ), (X 4 , Y 4 ), the mosaic image is generated and displayed by arranging the still images P1, P2, P3, ..Pn ... as shown in FIG.

여기서, 상기 복수 개의 정지 영상(Pi, i=1,2,3)의 사진좌표는 x ij =(xij,yij)(j=1,2,3,4)로 표현되며, 상기 정지 영상(Pi, i=1,2,3)의 피사체좌표는 X ij =(Xij,Yij)(j=0,1,2,3,4)로 표현된다.Here, the photo coordinates of the plurality of still images Pi, i = 1, 2, 3 are represented by x ij = (x ij , y ij ) (j = 1,2,3,4), and the still images The subject coordinate of (Pi, i = 1, 2, 3) is expressed as X ij = (X ij , Y ij ) (j = 0,1,2,3,4).

상기 모자이크 영상 생성 장치(100)의 각 구성요소들은, 상기 정지 영상(P1, P2, P3,..Pn...) 및 상기 항법 정보를 미리 정한 시간 내에 처리함으로써 실시간으로 작동할 수 있도록 구성되어 있다.Each component of the mosaic image generating apparatus 100 is configured to operate in real time by processing the still images P1, P2, P3, ..Pn ... and the navigation information within a predetermined time. have.

상술한 구성의 모자이크 영상 생성 장치(100)는, 상기 카메라의 위치와 이동 속도 및 자세 등을 획득하는 항법 정보 획득부(20)와, 공선조건식을 이용하여 상기 정지 영상(P) 상의 특정한 좌표인 사진좌표 (xP,yP)에 대응되는, 상기 피사체(M) 상에 형성되는 피사체좌표 (XP,YP)를 획득하는 좌표 변환부(40)와, 상기 피사체좌표 (XP,YP)를 이용하여 상기 정지 영상(P)들을 배열하는 영상 전시부(50)를 구비하고 있으므로, 항공기의 항법 정보를 이용하여 상기 정지 영상(P)들의 배열 위치를 간단하게 산출할 수 있는 바, 항공기 등의 이동체를 이용하는 이동 촬영에서 정확하고 끊김 없는(seamless) 모자이크 영상을 생성시킬 수 있는 장점이 있다.The mosaic image generating apparatus 100 having the above-described configuration includes a navigation information acquisition unit 20 for acquiring a position, a moving speed, a posture, and the like of the camera, and specific coordinates on the still image P using collinear conditional expressions. picture coordinates (x P, y P), the object coordinate converter (40) for obtaining the object coordinates (x P, Y P) formed on a (M) and the object coordinates (x P, Y corresponding to the Since the image display unit 50 for arranging the still images (P) by using the P), it is possible to simply calculate the arrangement position of the still images (P) using the navigation information of the aircraft, the aircraft There is an advantage of generating an accurate and seamless mosaic image in mobile photographing using a moving object.

그리고, 상기 모자이크 영상 생성 장치(100)는, 상기 종래의 모자이크 영상 생성 방법들과는 달리, 영상 처리에 필요한 계산량이 매우 적으므로, 상기 정지 영상(P) 및 상기 항법 정보를 미리 정한 시간 내에 처리하여 실시간으로 작동될 수 있는 장점이 있다. 따라서, 상기 모자이크 영상 생성 장치(100)는, 피해 현황의 조사가 긴급한 재해 발생 시 등에 항공기에 탑재되어 사용되면, 실시간으로 신속하게 재해 현장 전체를 조망할 수 있도록, 비행 궤적에 따라 생성된 넓은 시야각(viewing angle)의 모자이크 영상을 제공할 수 있다는 장점이 있다.In addition, unlike the conventional mosaic image generation methods, the mosaic image generating apparatus 100 has a very small amount of calculation required for image processing, and thus, processes the still image P and the navigation information within a predetermined time and performs real time. There is an advantage that can be operated. Accordingly, the mosaic image generating apparatus 100 may have a wide viewing angle generated according to a flight trajectory so that the entire survey of the disaster may be quickly performed in real time when the damage status investigation is mounted on the aircraft and used in case of an emergency disaster. There is an advantage that a mosaic image of a viewing angle can be provided.

또한, 상기 모자이크 영상 생성 장치(100)는, 상기 정지 영상(P)의 각 촬영 시각에 대한 상기 항법 정보를 획득하는 항법 정보 동기화부를 포함하고 있으므로, 상기 영상 정보 획득부(10)의 샘플링 주기(SP1)와 상기 항법 정보 획득부(20)의 샘플링 주기(SP2)가 서로 일치하지는 않는 경우에도, 상기 정지 영상(P)과 상기 항법 정보를 동기화시킴으로써, 상기 정지 영상(P)의 각 촬영 시각(T1, T2, T3,..Tn...)을 기준으로 그에 대응하는 상기 항법 정보를 획득할 수 있는 장점이 있다.In addition, since the mosaic image generating apparatus 100 includes a navigation information synchronization unit for acquiring the navigation information for each photographing time of the still image P, a sampling cycle of the image information acquisition unit 10 ( Even when the sampling period SP2 of SP1) and the navigation information acquisition unit 20 do not coincide with each other, by synchronizing the still image P with the navigation information, each photographing time of the still image P ( T1, T2, T3, ... Tn ...) has the advantage of obtaining the corresponding navigation information corresponding thereto.

아울러, 상기 모자이크 영상 생성 장치(100)는, 상기 좌표 변환부(40)가 상기 정지 영상(P) 상의 네 코너의 사진좌표 (x1,y1), (x2,y2), (x3,y3), (x4,y4)를 각각 피사체좌표 (X1,Y1), (X2,Y2), (X3,Y3), (X4,Y4)로 변환하고 있으므로, 상기 정지 영상(P)들 간의 연결이 끊김 없이 연속적으로(seamlessly) 표현될 수 있는 장점이 있다. 만약, 5개의 사진좌표를 이용하지 않고, 상기 좌표 (x0,y0)과 상기 좌표 (x1,y1)만을 사용하게 된다면, 나머지 3개의 코너부에서 상기 정지 영상(P)들 간의 연결이 매끄럽지 못하고 끊어질 가능성이 높아진다.In addition, the mosaic image generating apparatus 100, the coordinate transformation unit 40 is the photo coordinates (x 1 , y 1 ), (x 2 , y 2 ), (x 2 ) of the four corners on the still image (P) converted to 3, y 3), (x 4, y 4) of the object coordinates (x 1, y 1), respectively, (x 2, y 2) , (x 3, y 3), (x 4, y 4) Therefore, there is an advantage that the connection between the still images P can be represented continuously without disconnection. If only the coordinates (x 0 , y 0 ) and the coordinates (x 1 , y 1 ) are used without using five photo coordinates, the connection between the still images P in the remaining three corner portions This is not smooth and is more likely to break.

또한, 상기 모자이크 영상 생성 장치(100)는, 상기 항법 정보 획득부(20)가 관성 항법 시스템(INS)을 구비하고 있으므로, 복수 개의 자이로와 가속도계로부터 획득한 가속도 정보와 각속도 정보를 적분하여 항공기의 현재 위치, 속도, 각도 등을 짧은 시간 동안 정확하게 계산할 수 있는 장점이 있다.In addition, since the navigation information acquisition unit 20 includes an inertial navigation system (INS), the mosaic image generating apparatus 100 integrates acceleration information and angular velocity information obtained from a plurality of gyros and accelerometers. The advantage is that the current position, speed, angle, etc. can be calculated accurately in a short time.

그리고, 상기 모자이크 영상 생성 장치(100)는, 상기 항법 정보 획득부(20)가 보조적 장치로서 위성 항법 시스템(satellite navigation system)을 함께 구비하고 있으므로, 상기 관성 항법 시스템(INS)에 의하여 시간에 따라 누적되는 적분 오차를 감소시킬 수 있는 장점이 있다.In addition, since the navigation information acquisition unit 20 includes a satellite navigation system as an auxiliary device, the mosaic image generating apparatus 100 may be configured to change according to time by the inertial navigation system INS. There is an advantage that can reduce the cumulative integration error.

한편, 상기 모자이크 영상 생성 장치(100)는, 상기 영상 정보 획득부(10)가 도 5에 도시된 바와 같이 서로 일부분 겹치는 정지 영상(P1, P2, P3,..Pn...)을 획득하므로, 상기 피사체(M)의 형상이 끊김 없이 연속적으로 표현되도록 상기 모자이크 영상을 생성할 수 있는 장점이 있다.Meanwhile, the mosaic image generating apparatus 100 obtains still images P1, P2, P3, .. Pn... Which partially overlap each other as shown in FIG. 5. The mosaic image may be generated such that the shape of the subject M is continuously displayed without interruption.

그리고, 상기 모자이크 영상 생성 장치(100)는, 상기 영상 정보 획득부(10)가 상기 획득되는 정지 영상(P)의 샘플링 주기(SP1) 및 해상도를 조절할 수 있으므로, 원본 영상인 상기 동영상(video)의 해상도가 지나치게 높은 경우에 상기 정지 영상(P)의 해상도를 낮출 수 있어, 상기 정지 영상(P)의 처리 속도를 증가시키고 상기 정지 영상(P)의 저장 공간을 감소시킬 수 있는 장점이 있다.In addition, the mosaic image generating apparatus 100 may adjust the sampling period SP1 and the resolution of the still image P obtained by the image information obtaining unit 10, and thus, the video as the original image. When the resolution is too high, the resolution of the still image P can be lowered, thereby increasing the processing speed of the still image P and reducing the storage space of the still image P.

이하에서는, 상술한 구성의 모자이크 영상 생성 장치(100)를 이용하여 모자이크 영상을 생성하는 방법의 일례를 설명하기로 한다.Hereinafter, an example of a method of generating a mosaic image by using the mosaic image generating apparatus 100 having the above-described configuration will be described.

먼저, 상기 영상 정보 획득부(10)를 이용하여, 항공기에 탑재되어 위치 이동하는 카메라(미도시)에 의하여 촬영된 동영상(video) 정보로부터, 도 5에 도시된 바와 같이 상기 복수 개의 정지 영상(P1, P2, P3,..Pn...)을 추출한다. 이때 획득되는 정지 영상(P1, P2, P3,..Pn...)들 각각이 촬영된 촬영 시각(T1, T2, T3,..Tn...)도 함께 기록한다. 본 실시예에서는, 도 5에 도시된 바와 같이 서로 일부분 겹치는 정지 영상(P1, P2, P3,..Pn...)으로 획득한다. 여기서 필요한 경우에는, 정지 영상(P1, P2, P3,..Pn...)의 초당 촬영 프레임(frame)을 조절하기 위하여 샘플링 주기(sampling period)(SP1)를 조절할 수 있으며, 상기 정지 영상(P1, P2, P3,..Pn...)들의 해상도(resolution)를 조절할 수도 있다. (영상 정보 획득 단계, S100)First, as shown in FIG. 5, from the video information captured by a camera (not shown) mounted on an aircraft and moving in position by using the image information acquisition unit 10, the plurality of still images ( P1, P2, P3, .. Pn ...) are extracted. At this time, each of the acquired still images P1, P2, P3, ..Pn ... is also recorded with the shooting time points T1, T2, T3, ..Tn .. In the present embodiment, as shown in Fig. 5, the images are acquired as still images P1, P2, P3, ..Pn .. which partially overlap each other. If necessary, the sampling period SP1 may be adjusted to adjust the shooting frames per second of the still images P1, P2, P3, ..Pn. It is also possible to adjust the resolution of P1, P2, P3, ... Pn ...). (Image information acquisition step, S100)

한편, 상기 영상 정보 획득 단계(S100)가 수행되면서 이와 동시에, 상기 항법 정보 획득부(20)를 이용하여, 시간의 흐름에 따라 상기 카메라의 위치와 이동 속도 및 자세 등의 항법 정보를 측정하여 획득한다. 상기 항법 정보는 상기 샘플링 주기(SP2)에 의하여 각각의 측정 시각(t1, t2, t3,...tn...)에 대응한 값이 저장된다. (항법 정보 획득 단계, S200)Meanwhile, while the image information acquisition step S100 is performed, the navigation information acquisition unit 20 is used to measure and obtain navigation information such as the position, the moving speed, and the attitude of the camera over time. do. The navigation information stores a value corresponding to each measurement time t1, t2, t3, ... tn ... by the sampling period SP2. (Navigating information acquisition step, S200)

이렇게 상기 정지 영상(P1, P2, P3,..Pn...)들과 상기 항법 정보가 획득되면, 상기 항법 정보 동기화부(30)를 이용하여, 상기 각 정지 영상(P1, P2, P3,..Pn...)의 촬영 시각(T1, T2, T3,..Tn...)을 기준으로 그에 대응하는 각각의 항법 정보를 획득한다. (항법 정보 동기화 단계, S300)When the still images P1, P2, P3, .. Pn... And the navigation information are obtained, the still images P1, P2, P3, Each navigation information corresponding to the photographing time (T1, T2, T3, ..Tn ...) of ... Pn ...) is obtained. (Navigation information synchronization step, S300)

상기 항법 정보 동기화 단계(S300)에서 상기 정지 영상(P1, P2, P3,..Pn...)과 상기 항법 정보를 서로 동기화시킨 후, 상기 좌표 변환부(40)를 이용하여, 도 3에 도시된 바와 같이, 각각의 정지 영상(P1, P2, P3,..Pn...)들에 대하여 5개의 사진좌표를 5개의 피사체좌표로 변환하는데, 상기 정지 영상(P) 상의 네 코너의 사진좌표 (x1,y1), (x2,y2), (x3,y3), (x4,y4)와 투영중심(C)의 사진좌표인 (x0,y0)를 각각 피사체좌표 (X1,Y1), (X2,Y2), (X3,Y3), (X4,Y4)와 (X0,Y0)로 변환한다. 이때, 상술한 식(1)의 공선조건식(Collinearity condition Equation)이 사용된다. (좌표 변환 단계, S400)In the navigation information synchronization step (S300), the still image (P1, P2, P3, .. Pn...) And the navigation information are synchronized with each other, and then, using the coordinate converter 40, FIG. As shown, for each still image (P1, P2, P3, .. Pn ...), five photo coordinates are converted into five subject coordinates, and four corner photographs on the still image P are illustrated. Coordinates (x 1 , y 1 ), (x 2 , y 2 ), (x 3 , y 3 ), (x 4 , y 4 ) and (x 0 , y 0 ), the photo coordinates of the projection center (C) Convert to the subject coordinates (X 1 , Y 1 ), (X 2 , Y 2 ), (X 3 , Y 3 ), (X 4 , Y 4 ) and (X 0 , Y 0 ) respectively. At this time, the collinearity condition Equation of Equation (1) described above is used. (Coordinate transformation step, S400)

이렇게 상기 정지 영상(P1, P2, P3,..Pn...)의 좌표 변환을 수행한 후, 상기 5개의 피사체좌표 (X0,Y0), (X1,Y1), (X2,Y2), (X3,Y3), (X4,Y4)를 이용하여, 도 6에 도시된 바와 같이 X-Y 좌표평면에서, 상기 정지 영상(P1, P2, P3,..Pn...)을 항공기의 비행 궤적에 따라 배열하며, 상기 피사체(M)의 형상이 끊김 없이 연속적으로(seamlessly) 표현된 모자이크 영상이 생성되어 표시된다. (영상 전시 단계, S500)After the coordinate transformation of the still images P1, P2, P3, .. Pn ... is performed, the five subject coordinates (X 0 , Y 0 ), (X 1 , Y 1 ), (X 2 , Y 2 ), (X 3 , Y 3 ), (X 4 , Y 4 ), in the XY coordinate plane as shown in FIG. 6, the still images P1, P2, P3, .. Pn. ..) is arranged according to the flight trajectory of the aircraft, and a mosaic image in which the shape of the subject M is seamlessly represented is generated and displayed. (Video display stage, S500)

상술한 단계들은, 상기 모자이크 영상 생성 장치(100)를 항공기에 탑재함으로써, 항공기가 비행하는 중에 미리 정한 시간 내에 실시간으로 수행될 수 있다.The above-described steps may be performed in real time within a predetermined time while the aircraft is flying by mounting the mosaic image generating apparatus 100 on an aircraft.

상술한 모자이크 영상 생성 방법은, 상기 카메라의 위치와 이동 속도 및 자세 등을 획득하는 항법 정보 획득 단계(S200)와, 공선조건식을 이용하여 상기 정지 영상(P) 상의 특정한 좌표인 사진좌표 (xP,yP)에 대응되는, 상기 피사체(M) 상에 형성되는 피사체좌표 (XP,YP)를 획득하는 좌표 변환 단계(S400)와, 상기 피사체좌표 (XP,YP)를 이용하여 상기 정지 영상(P)들을 배열하는 영상 전시 단계(S500)를 구비하고 있으므로, 항공기의 항법 정보를 이용하여 상기 정지 영상(P)들의 배열 위치를 간단하게 산출할 수 있는 바, 항공기 등의 이동체를 이용하는 이동 촬영에서 정확하고 끊김 없는(seamless) 모자이크 영상을 생성시킬 수 있는 장점이 있다.The above-described mosaic image generating method includes a navigation information obtaining step (S200) of acquiring a position, a moving speed, a posture, and the like of the camera, and a photo coordinate (x P ) which is a specific coordinate on the still image P using a collinear conditional expression. By using the coordinate conversion step (S400) for obtaining the subject coordinates (X P , Y P ) formed on the subject (M), corresponding to, y P ), and using the subject coordinates (X P , Y P ) Since the image display step (S500) of arranging the still image (P), it is possible to simply calculate the arrangement position of the still image (P) using navigation information of the aircraft bar, moving objects such as aircraft There is an advantage in that it is possible to generate an accurate and seamless mosaic image in mobile photographing.

그리고, 상기 모자이크 영상 생성 방법은, 상기 정지 영상(P)의 각 촬영 시각에 대한 상기 항법 정보를 획득하는 항법 정보 동기화 단계(S300)를 포함하고 있으므로, 상기 영상 정보 획득부(10)의 샘플링 주기(SP1)와 상기 항법 정보 획득부(20)의 샘플링 주기(SP2)가 서로 일치하지는 않는 경우에도, 상기 정지 영상(P)과 상기 항법 정보를 동기화시킴으로써, 상기 정지 영상(P)의 각 촬영 시각(T1, T2, T3,..Tn...)을 기준으로 그에 대응하는 상기 항법 정보를 획득할 수 있는 장점이 있다.In addition, the mosaic image generating method includes a navigation information synchronization step (S300) of acquiring the navigation information for each photographing time of the still image (P), and thus, a sampling period of the image information acquisition unit 10. Even when the sampling period SP2 of the SP1 and the navigation information acquisition unit 20 does not coincide with each other, by synchronizing the still image P with the navigation information, each photographing time of the still image P is synchronized. Based on (T1, T2, T3, ... Tn ...) there is an advantage that can be obtained the navigation information corresponding thereto.

또한, 상기 모자이크 영상 생성 방법은, 상기 좌표 변환 단계(S400)에서 상기 정지 영상(P) 상의 네 코너의 사진좌표 (x1,y1), (x2,y2), (x3,y3), (x4,y4)가 각각 피사체좌표 (X1,Y1), (X2,Y2), (X3,Y3), (X4,Y4)로 변환되고 있으므로, 상기 정지 영상(P)들 간의 연결이 끊김 없이 연속적으로(seamlessly) 표현될 수 있는 장점이 있다. In addition, the mosaic image generating method may include photo coordinates (x 1 , y 1 ), (x 2 , y 2 ), (x 3 , y) of four corners on the still image P in the coordinate transformation step (S400). 3 ), (x 4 , y 4 ) are converted to subject coordinates (X 1 , Y 1 ), (X 2 , Y 2 ), (X 3 , Y 3 ), (X 4 , Y 4 ) respectively, There is an advantage that the connection between the still images (P) can be represented continuously without disconnection.

아울러, 상기 모자이크 영상 생성 방법은, 상기 종래의 모자이크 영상 생성 방법들과는 달리, 영상 처리에 필요한 계산량이 매우 적으므로, 상기 정지 영상(P) 및 상기 항법 정보를 미리 정한 시간 내에 처리하여 실시간으로 상기 모자이크 영상을 생성할 수 있는 장점이 있다. In addition, unlike the conventional mosaic image generation methods, since the mosaic image generation method has a very small amount of calculation required for image processing, the mosaic image and the navigation information are processed within a predetermined time and the mosaic in real time. There is an advantage that can generate an image.

그리고 상기 모자이크 영상 생성 방법은, 상기 영상 정보 획득 단계(S100)에서, 도 5에 도시된 바와 같이 서로 일부분 겹치는 정지 영상(P1, P2, P3,..Pn...)이 획득되므로, 상기 피사체(M)의 형상이 끊김 없이 연속적으로 표현되도록 상기 모자이크 영상을 생성할 수 있는 장점이 있다.In the mosaic image generating method, the still images P1, P2, P3,... Pn... Which overlap with each other as shown in FIG. 5 are obtained in the image information acquiring step S100. The mosaic image may be generated such that the shape of (M) is continuously displayed without interruption.

본 실시예에서는, 상기 관성 항법 시스템에 의하여 누적되는 적분 오차를 감소시키기 위하여 상기 위성 항법 시스템이 사용되고 있으나, 상기 위성 항법 시스템 대신에 또는 함께, 나침반(compass)이 사용될 수도 있음은 물론이다.In the present embodiment, the satellite navigation system is used to reduce the integral error accumulated by the inertial navigation system, but a compass may be used instead of or together with the satellite navigation system.

본 실시예에서는, 상기 영상 정보 획득 단계(S100)에서 도 5에 도시된 바와 같이 서로 일부분 겹치는 정지 영상(P1, P2, P3,..Pn...)이 획득되고 있으나, 도 7에 도시된 바와 같이 서로 겹치지 않는 정지 영상(P1, P2, P3,..Pn...)이 획득될 수도 있음은 물론이다. 이 경우에는 도 8에 도시된 바와 같이 도로나 논밭의 끊김은 있으나 그 형태의 연속성이 유지되는 모자이크 영상이 생성될 수 있다. 즉, 상기 모자이크 영상 생성 방법은, 상기 종래의 모자이크 영상 생성 방법들과는 달리, 서로 겹치지 않는 정지 영상(P)들을 사용하여서도 모자이크 영상을 생성할 수 있는 장점이 있다.In the present embodiment, the still image (P1, P2, P3, ... Pn ...) overlapping with each other as shown in Figure 5 is obtained in the image information acquisition step (S100), As described above, still images P1, P2, P3, ..Pn... Which do not overlap each other may be obtained. In this case, as shown in FIG. 8, although the road or the rice field is cut off, a mosaic image in which continuity of the shape is maintained may be generated. That is, the mosaic image generating method has a merit of generating a mosaic image using still images P that do not overlap each other, unlike the conventional mosaic image generating methods.

본 실시예에서는, 상기 영상 정보 획득부(10)가 원본인 동영상(video) 정보로부터 상기 정지 영상(P)들을 추출하고 있으나, 디지털카메라에 의하여 촬영된 정지 화상을 원본 영상으로 할 수 있음은 물론이다.In the present embodiment, the image information acquisition unit 10 is extracting the still images (P) from the video information of the original, but of course, the still image photographed by the digital camera can be used as the original image, of course. to be.

본 실시예에서는, 항법 정보 동기화부(30)가 상기 정지 영상(P1, P2, P3,..Pn...)과 상기 항법 정보를 서로 동기화시키고 있으나, 상기 항법 정보 획득부(20)가 상기 영상 정보 획득부(10)의 샘플링 주기(SP1)와 동일한 샘플링 주기(SP2)로 작동될 경우에는, 상기 항법 정보 동기화부(30)에 의한 동기화가 필요하지 않을 수도 있다.In the present embodiment, the navigation information synchronization unit 30 synchronizes the still images P1, P2, P3, ..Pn ... and the navigation information with each other, but the navigation information acquisition unit 20 When operated in the same sampling period SP2 as the sampling period SP1 of the image information acquisition unit 10, synchronization by the navigation information synchronization unit 30 may not be required.

이상으로 본 발명을 설명하였는데, 본 발명의 기술적 범위는 상술한 실시예에 기재된 내용으로 한정되는 것은 아니며, 해당 기술 분야의 통상의 지식을 가진 자에 의해 수정 또는 변경된 등가의 구성은 본 발명의 기술적 사상의 범위를 벗어나지 않는 것임은 명백하다.The technical scope of the present invention is not limited to the contents described in the above embodiments, and the equivalent structure modified or changed by those skilled in the art can be applied to the technical It is clear that the present invention does not depart from the scope of thought.

* 도면의 주요부위에 대한 부호의 설명 *
100 : 모자이크 영상 생성 장치 10 : 영상 정보 획득부
20 : 항법 정보 획득부 30 : 항법 정보 동기화부
40 : 좌표 변환부 50 :영상 전시부
P, P1, P2, P3 : 정지 영상 M : 피사체
C : 투영중심
[Description of Reference Numerals]
100: mosaic image generating apparatus 10: image information acquisition unit
20: navigation information acquisition unit 30: navigation information synchronization unit
40: coordinate conversion unit 50: video display unit
P, P1, P2, P3: Still image M: Subject
C: projection center

Claims (13)

위치 이동하는 카메라가 피사체를 촬영함으로써 획득되는 복수 개의 정지 영상을 연결하여 모자이크 영상을 생성하는 장치에 있어서,
상기 카메라에 의하여 촬영된 영상 정보로부터 상기 복수 개의 정지 영상과 그 정지 영상 각각이 촬영된 촬영 시각을 획득하는 영상 정보 획득부;
상기 카메라의 위치와 이동 속도 및 자세 등의 항법 정보를 시간의 흐름에 따라 측정하여 획득하는 항법 정보 획득부;
공선조건식을 이용하여, 상기 정지 영상 상의 특정한 좌표인 사진좌표에 대응되는, 상기 피사체 상에 형성되는 피사체좌표를 획득하는 좌표 변환부;
상기 피사체좌표를 이용하여 상기 정지 영상들을 배열함으로써, 상기 모자이크 영상을 생성하고 표시하는 영상 전시부;
를 포함하는 것을 특징으로 하는 모자이크 영상 생성 장치.
An apparatus for generating a mosaic image by connecting a plurality of still images obtained by photographing a subject by a moving camera,
An image information obtaining unit which obtains the plurality of still images and a photographing time at which each of the still images is photographed from the image information photographed by the camera;
A navigation information acquisition unit for measuring and obtaining navigation information such as the position, movement speed, and attitude of the camera over time;
A coordinate converting unit for obtaining a subject coordinate formed on the subject, corresponding to a photo coordinate which is a specific coordinate on the still image by using a collinear condition equation;
An image display unit generating and displaying the mosaic image by arranging the still images using the subject coordinates;
Mosaic image generating apparatus comprising a.
제 1항에 있어서,
상기 정지 영상과 상기 항법 정보를 동기화시킴으로써, 상기 정지 영상의 각 촬영 시각에 대한 상기 항법 정보를 획득하는 항법 정보 동기화부를 포함하는 것을 특징으로 하는 모자이크 영상 생성 장치.
The method of claim 1,
And a navigation information synchronization unit for acquiring the navigation information for each shooting time of the still image by synchronizing the still image with the navigation information.
제 1항에 있어서,
상기 좌표 변환부는 상기 정지 영상 상의 네 코너의 사진좌표를 피사체좌표로 변환하는 것을 특징으로 하는 모자이크 영상 생성 장치.
The method of claim 1,
And the coordinate conversion unit converts photo coordinates of four corners on the still image into subject coordinates.
제 1항에 있어서,
상기 정지 영상 및 상기 항법 정보를 미리 정한 시간 내에 처리함으로써, 실시간으로 작동하는 것을 특징으로 하는 모자이크 영상 생성 장치.
The method of claim 1,
And processing the still image and the navigation information within a predetermined time to operate in real time.
제 1항에 있어서,
상기 항법 정보 획득부는 관성 항법 시스템을 구비하는 것을 특징으로 하는 모자이크 영상 생성 장치.
The method of claim 1,
The navigation information acquisition unit includes an inertial navigation system.
제 5항에 있어서,
상기 항법 정보 획득부는,
상기 관성 항법 시스템의 적분 오차를 감소시킬 수 있도록, 나침반 또는 위성 항법 시스템을 구비하는 것을 특징으로 하는 모자이크 영상 생성 장치.
6. The method of claim 5,
The navigation information acquisition unit,
And a compass or a satellite navigation system so as to reduce the integral error of the inertial navigation system.
제 1항에 있어서,
상기 영상 정보 획득부는,
상기 피사체의 형상이 끊김 없이 연속적으로 표현되도록 상기 정지 영상들을 획득하는 것을 특징으로 하는 모자이크 영상 생성 장치.
The method of claim 1,
The image information acquisition unit,
And obtaining the still images so that the shape of the subject is continuously displayed without interruption.
제 1항에 있어서,
상기 영상 정보 획득부는,
상기 획득되는 정지 영상의 샘플링 주기 및 해상도를 조절할 수 있는 것을 특징으로 하는 모자이크 영상 생성 장치.
The method of claim 1,
The image information acquisition unit,
And a sampling period and a resolution of the obtained still image can be adjusted.
위치 이동하는 카메라가 피사체를 촬영함으로써 획득되는 복수 개의 정지 영상을 연결하여 모자이크 영상을 생성하는 방법으로서,
상기 카메라에 의하여 촬영된 영상 정보로부터 상기 복수 개의 정지 영상과 그 정지 영상 각각이 촬영된 촬영 시각을 획득하는 영상 정보 획득 단계;
상기 카메라의 위치와 이동 속도 및 자세 등의 항법 정보를 시간의 흐름에 따라 측정하여 획득하는 항법 정보 획득 단계;
공선조건식을 이용하여, 상기 정지 영상 상의 특정한 좌표인 사진좌표에 대응되는, 상기 피사체 상에 형성되는 피사체좌표를 획득하는 좌표 변환 단계;
상기 피사체좌표를 이용하여 상기 정지 영상들을 배열함으로써, 상기 모자이크 영상을 생성하고 표시하는 영상 전시 단계;
를 구비하는 것을 특징으로 하는 모자이크 영상 생성 방법.
A method of generating a mosaic image by connecting a plurality of still images obtained by photographing a subject by a moving camera,
An image information acquiring step of acquiring the plurality of still images and a photographing time at which each of the still images is photographed from the image information photographed by the camera;
A navigation information acquisition step of measuring and obtaining navigation information such as the position, movement speed, and attitude of the camera over time;
A coordinate conversion step of acquiring a subject coordinate formed on the subject, corresponding to a photo coordinate which is a specific coordinate on the still image using a collinear condition equation;
An image display step of generating and displaying the mosaic image by arranging the still images using the subject coordinates;
Mosaic image generating method comprising the.
제 9항에 있어서,
상기 정지 영상과 상기 항법 정보를 동기화시킴으로써, 상기 정지 영상의 각 촬영 시각에 대한 상기 항법 정보를 획득하는 항법 정보 동기화 단계를 구비하는 것을 특징으로 하는 모자이크 영상 생성 방법.
The method of claim 9,
And a navigation information synchronization step of acquiring the navigation information for each shooting time of the still image by synchronizing the still image with the navigation information.
제 9항에 있어서,
상기 좌표 변환 단계에서는,
상기 정지 영상 상의 네 코너의 사진좌표가 피사체좌표로 변환되는 것을 특징으로 하는 모자이크 영상 생성 방법.
The method of claim 9,
In the coordinate transformation step,
And a photo coordinate of four corners on the still image is converted into a subject coordinate.
제 9항에 있어서,
상기 단계들은 미리 정한 시간 내에 실시간으로 처리되는 것을 특징으로 하는 모자이크 영상 생성 방법.
The method of claim 9,
And the steps are processed in real time within a predetermined time.
제 9항에 있어서,
상기 영상 정보 획득 단계에서는,
상기 피사체의 형상이 끊김 없이 연속적으로 표현되도록 상기 정지 영상들이 획득되는 것을 특징으로 하는 모자이크 영상 생성 방법.
The method of claim 9,
In the image information acquisition step,
And the still images are acquired such that the shape of the subject is continuously expressed without interruption.
KR1020110121197A 2011-11-18 2011-11-18 Device of generating Mosaic images KR101323099B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110121197A KR101323099B1 (en) 2011-11-18 2011-11-18 Device of generating Mosaic images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110121197A KR101323099B1 (en) 2011-11-18 2011-11-18 Device of generating Mosaic images

Publications (2)

Publication Number Publication Date
KR20130055447A true KR20130055447A (en) 2013-05-28
KR101323099B1 KR101323099B1 (en) 2013-10-30

Family

ID=48663932

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110121197A KR101323099B1 (en) 2011-11-18 2011-11-18 Device of generating Mosaic images

Country Status (1)

Country Link
KR (1) KR101323099B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102189298B1 (en) 2014-03-21 2020-12-09 한국전자통신연구원 Method and apparatus for generating panorama image
KR101591197B1 (en) * 2014-10-01 2016-02-04 한국항공우주연구원 Apparatus and method for generating mosaic image using assistant information

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3781034B2 (en) * 2003-12-24 2006-05-31 朝日航洋株式会社 Stereo image forming method and apparatus
KR100822814B1 (en) * 2007-07-18 2008-04-18 (주)지에스엠솔루션 Method for overlapping real-time landscape image and gis data
US8315477B2 (en) * 2007-11-14 2012-11-20 Integraph Software Technologies Company Method and apparatus of taking aerial surveys

Also Published As

Publication number Publication date
KR101323099B1 (en) 2013-10-30

Similar Documents

Publication Publication Date Title
CN110675450B (en) Method and system for generating orthoimage in real time based on SLAM technology
US9083859B2 (en) System and method for determining geo-location(s) in images
JP2016057108A (en) Arithmetic device, arithmetic system, arithmetic method and program
KR101285360B1 (en) Point of interest displaying apparatus and method for using augmented reality
TWI494898B (en) Extracting and mapping three dimensional features from geo-referenced images
CN105352509B (en) Unmanned plane motion target tracking and localization method under geography information space-time restriction
US10911680B2 (en) Method and system of geolocation and attitude correction for mobile rolling shutter cameras
KR101011813B1 (en) Installaion for displaying overlap line of adjoined digital aerial photograph
US20150062123A1 (en) Augmented reality (ar) annotation computer system and computer-readable medium and method for creating an annotated 3d graphics model
US20060215027A1 (en) Picked-up image display method
CN105627991A (en) Real-time panoramic stitching method and system for unmanned aerial vehicle images
JP2010504711A (en) Video surveillance system and method for tracking moving objects in a geospatial model
JP2008304260A (en) Image processing device
GB2591857A (en) Photographing-based 3D modeling system and method, and automatic 3D modeling apparatus and method
TWI444593B (en) Ground target geolocation system and method
JP2014186004A (en) Measurement device, method and program
JP2016048221A (en) Arithmetic unit, arithmetic method, and program
JP3957888B2 (en) Imaging apparatus and captured image composition method
JP4077385B2 (en) Global coordinate acquisition device using image processing
JP4588369B2 (en) Imaging apparatus and imaging method
KR20030070553A (en) Video picture processing method
KR101224830B1 (en) Portable Multi-Sensor System for Acquiring Georeferenced Images and Method thereof
Liu et al. A new approach to fast mosaic UAV images
JP2011169658A (en) Device and method for pinpointing photographed position
KR101323099B1 (en) Device of generating Mosaic images

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20171019

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20181018

Year of fee payment: 6