KR102169687B1 - 무인비행체를 이용한 초분광영상 획득 방법 - Google Patents

무인비행체를 이용한 초분광영상 획득 방법 Download PDF

Info

Publication number
KR102169687B1
KR102169687B1 KR1020190000698A KR20190000698A KR102169687B1 KR 102169687 B1 KR102169687 B1 KR 102169687B1 KR 1020190000698 A KR1020190000698 A KR 1020190000698A KR 20190000698 A KR20190000698 A KR 20190000698A KR 102169687 B1 KR102169687 B1 KR 102169687B1
Authority
KR
South Korea
Prior art keywords
hyperspectral
image
coordinates
information
module
Prior art date
Application number
KR1020190000698A
Other languages
English (en)
Other versions
KR20200084972A (ko
Inventor
김동수
유호준
Original Assignee
단국대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 단국대학교 산학협력단 filed Critical 단국대학교 산학협력단
Priority to KR1020190000698A priority Critical patent/KR102169687B1/ko
Publication of KR20200084972A publication Critical patent/KR20200084972A/ko
Application granted granted Critical
Publication of KR102169687B1 publication Critical patent/KR102169687B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05—Geographic models
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B64—AIRCRAFT; AVIATION; COSMONAUTICS
    • B64C—AEROPLANES; HELICOPTERS
    • B64C39/00—Aircraft not otherwise provided for
    • B64C39/02—Aircraft not otherwise provided for characterised by special use
    • B64C39/024—Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/0007—Image acquisition
    • G06T5/006—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10032—Satellite or aerial image; Remote sensing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10032—Satellite or aerial image; Remote sensing
    • G06T2207/10036—Multispectral image; Hyperspectral image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • Image Processing (AREA)

Abstract

본 발명은 (a) 비행경로 설정모듈(220)이, 수집영역을 이용하여 무인비행체(100)의 비행경로를 설정하는 단계; (b) 무인비행체(100)가, 상기 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝을 통해, 기 설정된 영상 단위마다 초분광정보를 획득하는 단계; (c) 기하보정 수행모듈(250)이, 상기 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정을 수행하는 단계; 및 (d) 영상정합 수행모듈(260)이, 상기 기하보정이 수행된, 상기 각각의 영상 단위마다 획득된 초분광정보를 정합하여, 상기 수집영역의 초분광영상을 획득하는 단계를 포함하는, 초분광영상 획득 방법을 제공한다.

Description

무인비행체를 이용한 초분광영상 획득 방법{Method for acquisition of hyperspectral image using an unmanned aerial vehicle}
본 발명은 무인비행체를 이용하여 초분광영상을 획득하는 방법에 관한 것이다.
카메라에 포함되는 일반적인 이미지 센서(image sensor)는 가시광영역의 정보만을 감지하는데 반하여, 초분광 센서(hyperspectral sensor)를 사용할 경우 자외선영역, 적외선영역을 더 포함하여 수백배에 이르는 많은 정보를 확보할 수 있다. 따라서, 초분광 센서가 포함된 카메라를 이용할 경우, 해당 영역의 다양한 정보를 포함한 초분광영상을 확보할 수 있어서, 토지피복, 식생, 수질 등을 정밀하게 식별할 수 있다.
하지만, 기존의 초분광 센서를 이용한 영상 취득 방법에는 다양한 문제점이 있었다.
넓은 영역의 초분광영상 확보를 위하여 유인비행체, 인공위성 등에서 촬영을 하는 것이 일반적인데, 이 경우 셀 사이즈가 10m 내지 50m 등으로 과다하게 커져서 정밀한 계측이 불가능하였다. 예를 들어, 수심을 측정할 경우 지표에서 100m2 단위로 측정되기에 정밀도가 감소하는 것이다.
이를 해소하기 위하여 근거리에서 비행할 수 있는 드론과 같은 무인비행체에 초분광 센서를 탑재하는 시도가 있었다. 이 경우, 셀 사이즈가 작아져서 정밀도는 상승하나, 무인비행체가 갖고 있는 비행 중 흔들림 등의 문제로 정확도가 낮아지는 다른 문제가 발생하였다. 이를 방지하고자, 흔들림을 보정할 수 있는 고성능 짐벌의 탑재를 고려할 수 있지만, 고성능 짐벌의 무게가 상당히 크기에 드론의 비행 성능을 약화시켰다.
한편, 초분광 센서는 기본적으로 라인 스캐닝(line scanning)을 하여 초분광정보를 확보하기에, 다수의 초분광정보를 정합하는 소프트웨어가 필수적이다. 하지만, 기존의 초분광정보 정합 소프트웨어는 그 정확도가 부족하여, 다수의 초분광정보를 정합한 영상이 실재 촬영 지점에서 다소 벗어난 지점의 정보를 제공하기도 하였다.
관련된 특허 문헌을 검토한다.
한국등록특허 제10-1619836호는 초분광영상 촬영을 위한 카메라를 짐벌과 완충장치를 이용한 드론을 개시한다. 드론의 흔들림을 보상한 영상이 확보된다는 점에서 장점이나, 라인 스캐닝에 의한 영상 정합 기술을 개시하지 못한다.
한국등록특허 제10-1806488호는 초분광영상 센서를 드론에 탑재하여 암체를 식별하는 기술을 개시한다. 한국등록특허 제10-1744662호는 초분광영상을 이용하여 식물을 분류하는 기술을 개시한다. 이를 위해, 다양한 암체 내지 식물에 대한 초분광영상 표준자료가 미리 확보되어 있어야 하며, 촬영된 영상을 이와 비교함으로써, 피촬영 오브젝트를 식별한다. 하지만, 드론의 흔들림으로 인한 정확도 저하 문제, 영상 정합의 효율성을 상승시키는 문제 등 촬영 단계에서 확인되는 원천적인 문제를 해결하지 못한다.
한국등록특허 제10-1689197호는 드론에 부착될 수 있는 짐벌 어셈블리를 개시한다. 여기에 개시된 어셈블리는 회전/역회전이 가능한 제1유닛과, 승강이 가능한 제2유닛과, 이들을 회동시키는 제3유닛으로 구성되어, 비행체의 흔들림을 보상한다. 하지만, 이와 같이 구성될 경우, 짐벌의 무게가 과다하게 증가하여, 드론의 비행 성능이 낮아진다는 문제가 발생할 것이다.
한국공개특허 제10-2014-0014819호는 초분광영상에서 확인된 데이터에 대하여 색인/질의 기법을 적용함으로써, 마치 인공지능 알고리즘과 같은 형태로, 데이터를 식별하는 방법을 개시한다. 이러한 방법 활용의 전제조건은 초분광영상의 정확도인데, 무인비행체와 같은 환경에서 촬영된 영상의 정확도를 상승시키는 방법까지 제시하지 못한다.
미국특허 제7,181,055호는 초분광영상을 정합하는 알고리즘을 제시한다. 여기에서는, 반사도 이미지를 활용하여 정합 정확도를 상승시킨다.
(특허문헌 1) 한국등록특허 제10-1619836호
(특허문헌 2) 한국등록특허 제10-1806488호
(특허문헌 3) 한국등록특허 제10-1744662호
(특허문헌 4) 한국등록특허 제10-1689197호
(특허문헌 5) 한국공개특허 제10-2014-0014819호
(특허문헌 6) 미국특허 제7,181,055호
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것이다.
구체적으로, 라인 스캐닝되는 초분광 센서의 특성에 기인하여 영상 정합의 정확도가 낮아지는 문제를 해결하고, 무인비행체에서 촬영됨으로 인한 영상의 흔들림 문제를 해결하고자 한다.
상기와 같은 과제를 해결하기 위한 본 발명의 일 실시예는, (a) 비행경로 설정모듈(220)이, 수집영역을 이용하여 무인비행체(100)의 비행경로를 설정하는 단계; (b) 무인비행체(100)가, 상기 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝을 통해, 기 설정된 영상 단위마다 초분광정보를 획득하는 단계; (c) 기하보정 수행모듈(250)이, 상기 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정을 수행하는 단계; 및 (d) 영상정합 수행모듈(260)이, 상기 기하보정이 수행된, 상기 각각의 영상 단위마다 획득된 초분광정보를 정합하여, 상기 수집영역의 초분광영상을 획득하는 단계를 포함하며, 상기 (d) 단계는, (d11) 대응점 확인 모듈(262)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 어느 두 개의 초분광정보(A, B)에 있어서, 어느 하나의 초분광정보(A)의 어느 하나의 픽셀의 XY 좌표(x, y) 및 해당 좌표에서의 화소값(I(x, y))에 대하여, 다른 하나의 초분광정보(B)의 어느 하나의 픽셀의 XY 좌표(x', y') 및 해당 좌표에서의 화소값(I(x', y'))의 정규상관계수(normalized correlation)를 연산하되, 상기 어느 하나의 초분광정보(A)의 모든 픽셀 각각에 대하여 상기 다른 하나의 초분광정보(B)의 모든 픽셀 각각의 정규상관계수를 모두 연산함으로써, 정규상관계수의 값이 큰 지점의 XY좌표를 상기 두 개의 초분광정보(A, B)의 대응점으로 확인하는 단계; (d12) 상기 영상정합 수행모듈(260)이 상기 확인된 대응점을 기준으로 상기 두 개의 초분광정보(A, B)를 영상 정합하는 단계; 및 (d13) 상기 영상정합 수행모듈(260)이 상기 (d1) 내지 (d2) 단계를, 상기 (b) 단계에서 획득된 각각의 영상 단위마다의 초분광정보의 각 쌍마다 수행하여, 영상정합된 상기 수집영역의 초분광영상을 획득하는 단계를 포함하는, 초분광영상 획득 방법을 제공한다.
또한, 상기 (d11) 단계 이전에, (d21) 적분영상 연산모듈(261)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 초분광정보에서, 각각의 픽셀마다, 어느 하나의 기준 좌표를 기준으로 하여 적분영상(integral image) 화소값을 연산하는 단계를 더 포함하며, 상기 (d11) 단계에서의 화소값은, 상기 (d21) 단계에서 연산된 적분영상 화소값인 것이 바람직하다.
또한, 상기 (d21) 단계 이전에, (d31) 정규화 모듈(240)이, 어느 하나의 영상 단위의 초분광정보의 픽셀의 XY 좌표들을 정수의 순서쌍(x, y)으로 설정하고, 상기 설정된 XY 좌표들의 평균 좌표를 연산하고, 상기 연산된 평균 좌표를 원점(0, 0)으로 설정하여 각 정수의 순서쌍(x, y) 사이의 단위 거리가 √2가 되도록, 상기 XY 좌표(x, y)를 정규화된 XY 좌표(x', y')로 이동시킴으로써, 상기 어느 하나의 영상 단위의 초분광정보를 정규화하는 단계를 더 포함하는 것이 바람직하다.
또한, 상기 (d31) 단계 이후, (d32) 상기 정규화 모듈(240)이 상기 어느 하나의 초분광정보의 정규화 전 XY 좌표(x, y)와 정규화된 이후의 XY 좌표(x', y')의 값을 이용하여, 매개변수를 포함한 행렬식인 호모그래피(homography)(H)를 연산하는 단계; 및 (d33) 상기 연산된 호모그래피(H)를 이용하여, 다른 하나의 초분광정보를 정규화하는 단계를 포함하는 것이 바람직하다.
또한, 상기 (d32) 단계에서 동차좌표계(homogeneous coordinates)가 활용되어 정규화 전 XY 좌표는 (x, y, 1)로서 행렬식 A로 지칭되고, 정규화된 이후의 XY 좌표는 (x', y', 1)로서 행렬식 A'로 지칭되며, 다음의 수식을 이용하되 다수의 XY 좌표를 활용하여, 호모그래피(H)가 연산되며, 상기 (d33) 단계는, 다른 하나의 초분광정보를 행렬식 A에 대입하여, 정규화된 XY 좌표인 행렬식 A'가 연산되는 것이 바람직하다.
또한, 상기 무인비행체(100)는 드론이며, 상기 드론은: 상기 초분광센서(140)가 탑재된 카메라(130); 짐벌(gimbal)(110); 상기 짐벌(110)과 상기 카메라(130) 사이에 구비된 완충기(damper)(120); 및 상기 카메라(130)와 전기적으로 연결된 통신부(150)를 포함하며, 상기 통신부(150)는 상기 카메라(130)의 촬영에 의해 상기 초분광센서(140)가 획득한 초분광정보를 외부에 전송하는 것이 바람직하다.
또한, 상기 통신부(150)는 통신모듈(210)을 통해 촬영영상 입력모듈(230)에 상기 초분광정보를 송신하고, 상기 촬영영상 입력모듈(230)은 상기 기하보정 수행모듈(250)에 상기 초분광정보를 송신하는 것이 바람직하다.
상기와 같은 과제를 해결하기 위한 본 발명의 다른 실시예는, 컴퓨터 판독 가능한 기록 매체에 저장되어, 전술한 방법을 실행시키는 프로그램과, 그 코드가 기록된 컴퓨터 판독 가능한 기록 매체를 제공한다.
본 발명에 따른 방법은, 작은 영상 단위(라인 단위)로 확보되는 초분광정보를 높은 정확도로 정합함으로써, 정확도 및 정밀도가 모두 높은 우수한 초분광영상을 획득할 수 있다. 이렇게 확보된 영상은, 수심의 확인은 물론, 지형 내 각종 특성(식생, 지형 등)을 확인하는데 유용한 정보로 활용될 수 있다.
높은 중량의 고성능 짐벌을 사용하지 않고서도 무인비행체의 흔들림을 효과적으로 보정할 수 있다. 전술한 영상 정합 기술과 함께 사용되어, 높은 상승 효과로서 우수한 초분광영상을 획득하게 한다.
이러한 방법은, 컴퓨터 프로그램화되어, 다수의 지점의 관측값과 촬영된 초분광영상이 입력되면, 자동으로 회귀식이 결정될 수 있어서, 높은 정확도를 유지하면서도 신속한 회귀식 연산 및 이를 기반으로 한 대상 물체의 식별이 가능하다는 장점을 갖는다. 특히, 기존에는 다수의 프로그램을 오고 가며 복잡한 연산 및 데이터 전송을 수행하여야 하였으나, 이러한 문제점들이 모두 해소됨은 물론, 적분영상을 활용하여 수일에 걸리던 연산 시간을 약 50% 이상 감소시킬 수 있다.
도 1은 본 발명에 따른 방법을 수행하기 위한 시스템을 도시한다.
도 2는 본 발명에 따른 방법을 설명하기 위한 순서도이다.
도 3은 본 발명에 따른 방법에서 사용되는 무인비행체의 예시를 설명하기 위한 사진이다.
도 4는 본 발명에 따른 방법에서 무인비행체가 초분광정보를 획득하는 방법을 설명하기 위한 개략도이다.
도 5는 본 발명에 따른 방법에서 기하보정을 설명하기 위한 개략도이다.
도 6은 본 발명에 따른 방법에서 영상정합을 설명하기 위한 개략도이다.
도 7은 본 발명에 따른 방법에서 영상정합을 위해 정규상관계수를 사용하는 방법을 설명하기 위한 개략도이다.
도 8은 본 발명에 따른 방법에서 영상정합시 적분영상을 활용하는 방법을 설명하기 위한 개략도이다.
도 9는 본 발명에 따른 방법에서 정규화 단계를 설명하기 위한 개략도이다.
이하에서, "영상 획득"은, 영상을 촬영, 가공, 전처리, 후처리, 제작 등 영상 정보를 이용하여 최종 영상을 얻기 위한 모든 과정 중 어느 하나 이상을 포함하는 개념으로 이해되어야 한다.
이하, 도면을 참조하여 본 발명을 보다 상세히 설명한다.
시스템의 설명
본 발명에 따른 방법이 수행되는 시스템은, 무인비행체(100)와 영상처리부(200)로 구분될 수 있다. 무인비행체(100)는 예를 들어 드론일 수 있으나, 지표면으로부터 근거리에서 비행하는 어떠한 형식의 비행체이어도 무방하다.
무인비행체(100)는, 자이로 센서와 가속도 센서가 있어 움직임의 반대 방향으로 카메라(130) 등을 이동시킬 수 있는 짐벌(110), 짐벌(110)에 구비되어 충격을 흡수하는 완충기(120), 초분광센서(140)가 탑재된 카메라(130), 및 초분광센서(140)에서 획득된 초분광정보를 영상처리부(200)에 전송할 수 있는 통신부(150)를 포함한다.
짐벌(110)은 확보 가능한 어떠한 구조의 짐벌을 사용하여도 무방하나, 무게를 고려하여, 4축 또는 5축 짐벌보다는 1, 2, 3축 짐벌이 바람직하다. 다만, 1, 2, 3축 짐벌이 갖는 흔들림 보정의 한계는 완충기(120)의 보상으로 극복할 수 있다.
또한, 무인비행체(100)에는 위치 정보를 확인하기 위한 GPS 센서가 더 포함될 수 있다.
이러한 무인비행체(100)의 예시가 도 3에 도시된다.
영상처리부(200)는 통신모듈(210), 비행경로 설정모듈(220), 촬영영상 입력모듈(230), 정규화 수행모듈(240), 기하보정 수행모듈(250), 영상정합 수행모듈(260) 및 초분광영상 출력 모듈(270)을 포함한다.
통신모듈(210)은 무인비행체(100)의 통신부(150)와 유선 또는 무선으로 통신하여, 촬영영상 입력모듈(230)이 초분광센서(140)에서 획득되는 초분광정보를 수신하도록 한다. 수신하는 정보에는, 위치 정보가 포함될 수도 있다.
비행경로 설정모듈(220)은 초분광정보를 수집하고자 하는 수집영역을 기초로 하여, 그 영상을 확보하기 위한 무인비행체(100)의 비행경로를 설정하는 기능을 수행한다.
정규화 수행모듈(240)은, 확보된 초분광정보의 정규화 기능을 수행한다. 모든 기하학적 변환에서, 회전, 크기, 평행성 보존 등은 원점(0, 0)을 기준으로 발생하기에, 각 영상에 존재하는 XY 좌표의 각 순서쌍의 정규화가 필요하다.
기하보정 수행모듈(250)은, 확보된 초분광정보에서 지면의 굴곡 등 기하학적 조건에 의한 왜곡을 보상하기 위한 기하보정을 수행한다.
영상정합 수행모듈(260)은, 확보된 다수의 초분광정보를 정합하는 기능을 수행한다. 이를 위하여, 적분영상 연산모듈(261) 및 대응점 확인모듈(262)이 구비된다.
초분광영상 출력 모듈(270)은, 정규화되고, 기하보정되고, 영상정합된 최종 결과물로서 획득된 초분광영상을 출력하는 기능을 수행한다.
각 모듈의 구체적인 기능 수행 방법은 후술한다.
방법의 설명
도 2 및 도 4 내지 도 9를 참조하여, 본 발명에 따른 초분광영상 획득 방법을 설명한다.
먼저, 비행경로 설정모듈(220)이, 수집영역을 이용하여 무인비행체(100)의 비행경로를 설정한다(S110). 초분광센서(140)가 라인 스캐닝을 수행하는바, 도 4에 도시된 바와 같이, 초분광정보를 획득하고자 하는 대상인 수집영역(collection area)에 대하여, 무인비행체(100)의 화각(angle of view)을 고려하여, 무인비행체(100)의 비행 경로(flight path)가 설정된다. 그 설정 방법은, 종래 기술에 따른 어떠한 것이어도 무방한바, 구체적인 설명은 생략한다.
다음, 무인비행체(100)가, 상기 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝을 통해, 기 설정된 영상 단위마다 초분광정보를 획득한다(S120). 여기서의 영상 단위는 카메라(130) 또는 초분광 센서(140)의 특성에 따라 제조사에서 미리 설정된 것으로, 각 특성에 따라 상이한 방식으로 초분광정보가 획득될 수 있다.
이와 같은 방법으로 확인된 초분광정보에 대하여, 기하보정이 이루어지고(S140), 영상정합이 이루어져서(S150), 최종 결과물인 초분광영상이 확보된다.
구체적인 방법을 설명한다.
먼저, 기하보정은, 기하보정 수행모듈(250)에 의하여 이루어진다(도 5 참조). 구체적으로, 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정이 수행된다. 종래 알려진 어떠한 방법이 적용되어도 무방하다.
다음 이루어지는 영상정합은, 다수의 초분광정보를 일정한 기준점을 이용하여 정합하는 과정이다(도 6 참조). 다수의 초분광정보 중 적어도 2개의 쌍이 상호 일부씩 중첩되도록 촬영되는데, 소정의 기준점을 찾고, 이러한 기준점을 기초로 2개의 쌍의 초분광정보를 중첩하고, 이러한 과정이 모든 초분광정보의 각 쌍에서 반복됨으로써, 최종 초분광영상이 획득된다. 즉, 영상정합의 기초는 2개의 초분광정보를 중첩하는 과정이다.
본 발명에서는, "대응점 추출 알고리즘"을 착안하여, 이에 따라 영상정합을 수행한다. 이는, 중첩하는 영역이 있는 2개의 초분광정보 중 어느 하나의 초분광정보에서 템플릿(template)을 추출하고, 추출된 템플릿을 다른 하나의 초분광정보에서 상관성(correlation)이 가장 높은 지점을 찾음으로써, 해당 지점을 중첩의 기준의 되는 점, 즉 대응점(matching point)로 설정하는 알고리즘이다. 이를 도 7에 도시하였다.
구체적으로, 중첩하는 영역이 있는 2개의 초분광정보(A, B)(도 7에서, image1과 image2로 표시)의 영상정합을 설명한다.
먼저, 대응점 확인 모듈(262)이, 중첩하는 어느 두 개의 초분광정보(A, B)에 있어서, 어느 하나의 초분광정보(A)의 어느 하나의 픽셀의 XY 좌표(x, y) 및 해당 좌표에서의 화소값(I(x, y))에 대하여, 다른 하나의 초분광정보(B)의 어느 하나의 픽셀의 XY 좌표(x', y') 및 해당 좌표에서의 화소값(I(x', y'))의 정규상관계수(normalized correlation)를 연산한다. 이러한 과정은, 후술할 바와 같이, 초분광정보(A)의 템플릿의 모든 픽셀의 XY 좌표(x, y) 각각마다 다른 하나의 초분광정보(B)의 템플릿의 모든 픽셀의 XY 좌표(x', y')를 모두 대응시킴으로써 다수 회 이루어지게 된다.
일반적인 정규상관계수를 연산하는 식은 아래의 수학식 1과 같으나, 본 발명에서는 보다 높은 정확도를 확보하기 위하여, 화소값을 더 이용한 수학식 2를 사용한다.
Figure 112019000704285-pat00001
Figure 112019000704285-pat00002
초분광정보(A)의 XY좌표는 (x, y)로 표현되고, 초분광정보(B)의 XY좌표는 (x', y')로 표현된다. 상부 바는 평균값을 의미한다(이는 이하의 모든 수식에서 동일하다). n은 총 화소의 수, I(x, y)는 XY 좌표 상 (x, y)에 해당하는 화소값이며, 초분광정보(A)의 화소값이 I1으로 표현되고 초분광정보(B)의 화소값이 I2로 표현된다. W는 템플릿의 가로 화소 크기, H는 템플릿의 세로 화소 크기이다.
이와 같은 방식으로, 템플릿 상의 모든 픽셀 좌표마다 정규상관계수를 연산하고, 이를 XY좌표로 표현하면, 도 7의 우하단에 도시된 바와 같은 상관계수 맵(correlation map)을 산정할 수 있다. 상관계수 맵에서 최대값을 가지는 위치, 즉, 정규상관계수의 값이 가장 큰 지점의 XY좌표를 상기 두 개의 초분광정보(A, B)의 대응점으로 확인하게 된다.
이제, 영상정합 수행모듈(260)은 대응점을 기준으로 두 개의 초분광정보(A, B)를 영상 정합하게 된다.
영상정합 수행모듈(260)은 이러한 과정을 각각의 영상 단위마다의 모든 초분광정보의 각 쌍마다 수행하여 영상정합을 수행하며, 이를 통해 모든 촬영 영상들이 정합된 초분광영상이 획득된다.
다만, 이 경우 상당히 많은 연산이 수행되는바, 영상처리부(200)의 성능에 따라 연산 속도가 늦어질 수 있다. 따라서, 본 발명의 다른 실시예에서는, 보다 빠른 연산 속도를 구현하기 위해, 적분영상을 사용하여 연산량을 크게 줄인 상태에서 영상정합을 수행할 수 있다. 적분영상은 기준 좌표를 설정하고, 이를 기준으로 한 방향성을 이용하여, 각 픽셀의 화소값을 모두 합산한 후 이를 수학식 2와 같이 정규상관계수 연산에 필요한 화소값으로 사용하는 것이다.
도 8을 참조하여, 적분영상을 사용하는 개념을 설명한다. 좌측은 일반적인 영상을 도시한다. 각 픽셀마다 기록된 숫자는 화소값이다. 우측은 좌측 영상을 이용한 적분영상을 도시한다. 여기의 적분영상에서는 좌상단의 "2"를 기준 좌표로 설정한 후, 좌측 및 하측 방향으로 각 값을 합산함으로써 형성한 적분영상이다. 예를 들어, 2번째 줄, 3번째 열의 "13"은 2+1+5+0+3+2의 값이다.
만약, 해당 영상에서 가운데의 9개의 픽셀의 화소값의 합을 구하고 싶다면, 좌측의 일반적인 영상에서는 총 9번의 연산을 수행하여야 한다. 하지만, 우측의 적분영상에서는 4번의 연산을 수행하면 족하다. 즉, 적분영상을 생성하여 둠으로써, 연산량을 50% 이하로 낮추는 것이다.
구체적으로, 초분광영상에서 적분영상을 활용하는 방법은 아래와 같다. 먼저, 수학식 3을 이용하여 각 픽셀마다 적분영상에 의한 새로운 화소값(II(x, y))을 설정한다.
Figure 112019000704285-pat00003
각 기호는 수학식 2에서 밝힌 바와 같다. 이제 이를 이용하면, 수학식 2에서 설명한 정규상관계수는 수학식 4에 의하여 연산될 수 있다.
Figure 112019000704285-pat00004
여기서, 분모에 사용되는 표준편차 σ의 값은 수학식 5를 통해 연산될 수 있다. I가 화소값을 의미함은 앞에서 밝힌 바와 같다.
Figure 112019000704285-pat00005
이와 같이, 한 번 적분영상을 생성하여 두기만 하면, 수학식 3 내지 수학식 5를 이용함으로써, 매 연산마다 수학식 2의 많은 연산량을 사용할 필요가 없어지기에, 정규상관계수를 신속하게 연산할 수 있어서 바람직하다.
한편, 전술한 바와 같이, 모든 기하학적 변환에서, 회전, 크기, 평행성 보존 등은 원점(0, 0)을 기준으로 발생하기에, 본 발명의 일 실시예에서는, 각 영상에 존재하는 XY 좌표의 각 순서쌍의 정규화를 수행한 후, 기하보정 및 영상정합이 이루어질 수 있다.
구체적으로, 정규화 모듈(240)은, 어느 하나의 영상 단위의 초분광정보의 픽셀의 XY 좌표들을 정수의 순서쌍(x, y)으로 설정하고, 상기 설정된 XY 좌표들의 평균 좌표를 연산하고, 상기 연산된 평균 좌표를 원점(0, 0)으로 설정하여 각 정수의 순서쌍(x, y) 사이의 단위 거리가 √2가 되도록, 상기 XY 좌표(x, y)를 정규화된 XY 좌표(x', y')로 이동시킴으로써, 상기 어느 하나의 영상 단위의 초분광정보를 정규화한다. 이러한 개념이 도 9에 도시된다.
보다 구체적으로, 이러한 연산은 수학식 6을 이용할 수 있다.
Figure 112019000704285-pat00006
여기서, A는 정규화하고자 하는(즉, 정규화되지 않은) 초분광정보에서의 XY 좌표이고, A'는 정규화된 XY 좌표이다. 여기서의 좌표는, 후술하는 매개변수 연산을 위해, 동차좌표계를 이용하는 것이 바람직하다. 즉, XY 좌표는 (x, y, 1)로서 행렬식 A로 지칭되고, 정규화된 이후의 XY 좌표는 (x', y', 1)로서 행렬식 A'로 지칭된다. 일종의 벡터와 같이 표현한 것으로서, 달리 표현하면, 동차좌표계 안에서 (x, y)좌표는 무수히 많은 점으로 이루어진 선으로 이해할 수 있다.
H는 정규화를 위한 매개변수(h11~h33)로 구성된 행렬인 호모그래피이다. 즉, 호모그래피(H)를 연산해두면, 모든 초분광정보를 손쉽게 정규화할 수 있다.
호모그래피(H)의 연산을 위해서, 수학식 6을 이용하되, 어느 하나의 정규화된 값이 필요하다. 즉, 어느 하나의 초분광정보에 대해서는, 도 9를 참조하여 설명한 방법을 이용하여 별도로 정규화한 후, 그 값을 이용하여 호모그래피(H)를 연산하는 것이다. 예를 들어, 정규화되기 이전의 XY 좌표의 x 및 y의 순서쌍 4개를 알고, 해당 순서쌍 4개의 정규화된 값을 알 경우, 수학식 6을 이용하면, 수학식 7 및 수학식 8을 도출할 수 있으며, 이에 따라 각 매개변수(h11~h33)를 확인할 수 있다.
Figure 112019000704285-pat00007
Figure 112019000704285-pat00008
수학식 8에 의하여 호모그래피(H)가 연산되면, 이제 모든 초분광영상의 모든 픽셀의 XY 좌표를 수학식 6에 대입함으로써, 별도로 정규화된 값을 연산할 필요도 없이, 작은 연산량만으로 정규화가 가능하다.
이와 같이, 호모그래피(H)가 있다는 것은, 대응점 사이의 좌표 변화만 가능한 것뿐만 아니라 2개의 초분광정보의 좌표계에 존재하는 모든 점을 서로 변환 가능한 것을 의미한다. 따라서, 2개의 초분광정보 중 어느 하나의 초분광정보를 기준으로 나머지 다른 초분광정보를 정규화하여 좌표 변환을 실시하면 두 초분광영상은 동일 좌표계로 이동하게 된다.
이상, 본 명세서에는 본 발명을 당업자가 용이하게 이해하고 재현할 수 있도록 도면에 도시한 실시예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 당업자라면 본 발명의 실시예로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 보호범위는 특허청구범위에 의해서 정해져야 할 것이다.
100: 무인비행체
110: 짐벌
120: 완충기
130: 카메라
140: 초분광 센서
150: 통신부
200: 영상처리부
210: 통신모듈
220: 비행경로 설정모듈
230: 촬영영상 입력모듈
240: 정규화 수행모듈
250: 기하보정 수행모듈
260: 영상정합 수행모듈
261: 적분영상 연산모듈
262: 대응점 확인모듈
270: 초분광영상 출력모듈

Claims (9)

  1. (a) 비행경로 설정모듈(220)이, 수집영역을 이용하여 무인비행체(100)의 비행경로를 설정하는 단계;
    (b) 무인비행체(100)가, 상기 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝(line scanning)을 통해, 기 설정된 영상 단위마다 초분광정보를 획득하는 단계;
    (c) 기하보정 수행모듈(250)이, 상기 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정을 수행하는 단계; 및
    (d) 영상정합 수행모듈(260)이, 상기 기하보정이 수행된, 상기 각각의 영상 단위마다 획득된 초분광정보를 정합하여, 상기 수집영역의 초분광영상을 획득하는 단계를 포함하며,
    상기 (d) 단계는,
    (d11) 대응점 확인 모듈(262)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 어느 두 개의 초분광정보(A, B)에 있어서, 어느 하나의 초분광정보(A)의 어느 하나의 픽셀의 XY 좌표(x, y) 및 해당 좌표에서의 화소값(I(x, y))에 대하여, 다른 하나의 초분광정보(B)의 어느 하나의 픽셀의 XY 좌표(x', y') 및 해당 좌표에서의 화소값(I(x', y'))의 정규상관계수(normalized correlation)를 연산하되, 상기 어느 하나의 초분광정보(A)의 모든 픽셀 각각에 대하여 상기 다른 하나의 초분광정보(B)의 모든 픽셀 각각의 정규상관계수를 모두 연산함으로써, 정규상관계수의 값이 가장 큰 지점의 XY좌표를 상기 두 개의 초분광정보(A, B)의 대응점으로 확인하는 단계;
    (d12) 상기 영상정합 수행모듈(260)이 상기 확인된 대응점을 기준으로 상기 두 개의 초분광정보(A, B)를 영상 정합하는 단계; 및
    (d13) 상기 영상정합 수행모듈(260)이 상기 (d11) 내지 (d12) 단계를, 상기 (b) 단계에서 획득된 각각의 영상 단위마다의 초분광정보의 각 쌍마다 수행하여, 영상정합된 상기 수집영역의 초분광영상을 획득하는 단계를 포함하고,
    상기 (d11) 단계 이전에,
    (d21) 적분영상 연산모듈(261)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 초분광정보에서, 각각의 픽셀마다, 어느 하나의 기준 좌표를 기준으로 하여 적분영상(integral image) 화소값을 연산하는 단계를 더 포함하며,
    상기 (d11) 단계에서의 화소값은, 상기 (d21) 단계에서 연산된 적분영상 화소값인,
    초분광영상 획득 방법.
  2. 삭제
  3. 제 1 항에 있어서,
    상기 (d21) 단계 이전에,
    (d31) 정규화 모듈(240)이, 어느 하나의 영상 단위의 초분광정보의 픽셀의 XY 좌표들을 정수의 순서쌍(x, y)으로 설정하고, 상기 설정된 XY 좌표들의 평균 좌표를 연산하고, 상기 연산된 평균 좌표를 원점(0, 0)으로 설정하여 각 정수의 순서쌍(x, y) 사이의 단위 거리가 √2가 되도록, 상기 XY 좌표(x, y)를 정규화된 XY 좌표(x', y')로 이동시킴으로써, 상기 어느 하나의 영상 단위의 초분광정보를 정규화하는 단계를 더 포함하는,
    초분광영상 획득 방법.
  4. 제 3 항에 있어서,
    상기 (d31) 단계 이후,
    (d32) 상기 정규화 모듈(240)이 상기 어느 하나의 초분광정보의 정규화 전 XY 좌표(x, y)와 정규화된 이후의 XY 좌표(x', y')의 값을 이용하여, 매개변수를 포함한 행렬식인 호모그래피(homography)(H)를 연산하는 단계; 및
    (d33) 상기 연산된 호모그래피(H)를 이용하여, 다른 하나의 초분광정보를 정규화하는 단계를 포함하는,
    초분광영상 획득 방법.
  5. 제 4 항에 있어서,
    상기 (d32) 단계에서 동차좌표계(homogeneous coordinates)가 활용되어 정규화 전 XY 좌표는 (x, y, 1)로서 행렬식 A로 지칭되고, 정규화된 이후의 XY 좌표는 (x', y', 1)로서 행렬식 A'로 지칭되며, 다음의 수식을 이용하되 다수의 XY 좌표를 활용하여, 호모그래피(H)가 연산되며,
    Figure 112019000704285-pat00009

    상기 (d33) 단계는, 다른 하나의 초분광정보를 행렬식 A에 대입하여, 정규화된 XY 좌표인 행렬식 A'가 연산되는,
    초분광영상 획득 방법.
  6. 제 1 항 및 제 3 항 내지 제 5 항 중 어느 한 항에 있어서,
    상기 무인비행체(100)는 드론이며,
    상기 드론은:
    상기 초분광센서(140)가 탑재된 카메라(130);
    짐벌(gimbal)(110);
    상기 짐벌(110)과 상기 카메라(130) 사이에 구비된 완충기(damper)(120); 및
    상기 카메라(130)와 전기적으로 연결된 통신부(150)를 포함하며,
    상기 통신부(150)는 상기 카메라(130)의 촬영에 의해 상기 초분광센서(140)가 획득한 초분광정보를 외부에 전송하는,
    초분광영상 획득 방법.
  7. 제 6 항에 있어서,
    상기 통신부(150)는 통신모듈(210)을 통해 촬영영상 입력모듈(230)에 상기 초분광정보를 송신하고, 상기 촬영영상 입력모듈(230)은 상기 기하보정 수행모듈(250)에 상기 초분광정보를 송신하는,
    초분광영상 획득 방법.
  8. 컴퓨터 판독 가능한 기록 매체에 저장되어
    제 1 항 및 제 3 항 내지 제 5 항 중 어느 한 항에 따른 방법을 실행시키는 프로그램.
  9. 제 1 항 및 제 3 항 내지 제 5 항 중 어느 한 항에 따른 방법을 실행하기 위한 프로그램 코드가 기록된 컴퓨터 판독 가능한 기록 매체.
KR1020190000698A 2019-01-03 2019-01-03 무인비행체를 이용한 초분광영상 획득 방법 KR102169687B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190000698A KR102169687B1 (ko) 2019-01-03 2019-01-03 무인비행체를 이용한 초분광영상 획득 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190000698A KR102169687B1 (ko) 2019-01-03 2019-01-03 무인비행체를 이용한 초분광영상 획득 방법

Publications (2)

Publication Number Publication Date
KR20200084972A KR20200084972A (ko) 2020-07-14
KR102169687B1 true KR102169687B1 (ko) 2020-10-26

Family

ID=71526825

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190000698A KR102169687B1 (ko) 2019-01-03 2019-01-03 무인비행체를 이용한 초분광영상 획득 방법

Country Status (1)

Country Link
KR (1) KR102169687B1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102220151B1 (ko) * 2020-09-25 2021-02-24 서울대학교 산학협력단 항공 라이더 결측지역 보완 시스템 및 이를 이용한 보완방법, 상기 보완방법을 수행하는 프로그램 기록매체
KR102504280B1 (ko) * 2020-11-13 2023-02-27 단국대학교 산학협력단 옵티컬 플로우를 활용한 초분광영상의 영상정합 방법
CN113640232A (zh) * 2021-07-07 2021-11-12 中国科学院新疆生态与地理研究所 草地毒害草识别方法
CN117058541B (zh) * 2023-08-03 2024-02-13 国网吉林省电力有限公司通化供电公司 绝缘子高光谱数据采集系统及其方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033294A (ja) * 2004-07-14 2006-02-02 Starlabo Corp 画像処理装置
US20140133753A1 (en) 2012-11-09 2014-05-15 Ge Aviation Systems Llc Spectral scene simplification through background subtraction
KR101619836B1 (ko) * 2016-02-05 2016-05-11 (주)아세아항측 드론을 이용한 초분광 원격모니터링 시스템
KR101621354B1 (ko) 2016-03-31 2016-05-20 주식회사 지오스토리 항공 초분광영상을 활용한 수심 보정 방법
WO2016183000A1 (en) 2015-05-12 2016-11-17 BioSensing Systems, LLC Apparatuses and methods for bio-sensing using unmanned aerial vehicles
KR101863123B1 (ko) * 2017-02-15 2018-06-01 한국건설기술연구원 자율주행 무인비행체 및 이동형 무인부체를 이용한 하천 녹조지도 작성 시스템

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033294A (ja) * 2004-07-14 2006-02-02 Starlabo Corp 画像処理装置
US20140133753A1 (en) 2012-11-09 2014-05-15 Ge Aviation Systems Llc Spectral scene simplification through background subtraction
WO2016183000A1 (en) 2015-05-12 2016-11-17 BioSensing Systems, LLC Apparatuses and methods for bio-sensing using unmanned aerial vehicles
US20160334276A1 (en) 2015-05-12 2016-11-17 BioSensing Systems, LLC Apparatuses and methods for bio-sensing using unmanned aerial vehicles
KR101619836B1 (ko) * 2016-02-05 2016-05-11 (주)아세아항측 드론을 이용한 초분광 원격모니터링 시스템
KR101621354B1 (ko) 2016-03-31 2016-05-20 주식회사 지오스토리 항공 초분광영상을 활용한 수심 보정 방법
KR101863123B1 (ko) * 2017-02-15 2018-06-01 한국건설기술연구원 자율주행 무인비행체 및 이동형 무인부체를 이용한 하천 녹조지도 작성 시스템

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
김동수, and 유호준. "초분광 영상을 활용한 하천 수리량 측정 현황과 전망." 대한토목학회 학술대회 (2016)
유호준, 김동수, and 김서준. "초분광영상의 분광특성을 활용한 특성 분류 기술 개발." 대한토목학회 학술대회 (2018)

Also Published As

Publication number Publication date
KR20200084972A (ko) 2020-07-14

Similar Documents

Publication Publication Date Title
KR102169687B1 (ko) 무인비행체를 이용한 초분광영상 획득 방법
US11897606B2 (en) System and methods for improved aerial mapping with aerial vehicles
US10515271B2 (en) Flight device and flight control method
Xiang et al. Method for automatic georeferencing aerial remote sensing (RS) images from an unmanned aerial vehicle (UAV) platform
WO2017080108A1 (zh) 飞行装置、飞行控制系统及方法
KR102313438B1 (ko) 초분광영상을 이용한 하상 변동속도 측정 방법
US20100245571A1 (en) Global hawk image mosaic
JP2006252473A (ja) 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム
CN111510704B (zh) 校正摄像头错排的方法及利用其的装置
KR102313437B1 (ko) 초분광영상을 이용한 하천 지형측량 방법
CN109214254B (zh) 一种确定机器人位移的方法及装置
Jurado et al. An efficient method for generating UAV-based hyperspectral mosaics using push-broom sensors
KR102164522B1 (ko) 초분광영상을 이용한 수심 추정 방법
CN116385504A (zh) 一种基于无人机采集点云与图像配准的巡检、测距方法
CN116912715A (zh) 一种面向风机叶片巡检的无人机视觉伺服控制方法及系统
CN117095315A (zh) 一种高精度溢洪道底板混凝土结构表面裂缝特征检测方法
KR102142616B1 (ko) 밴드비를 이용한 초분광영상 활용 방법
US20180114293A1 (en) Large scale image mosaic construction for agricultural applications
CN113781524B (zh) 一种基于二维标签的目标追踪系统及方法
KR101837403B1 (ko) 고속 영상 모자이킹 방법 및 장치
CN115471555A (zh) 一种基于图像特征点匹配的无人机红外巡检位姿确定方法
CN114924585B (zh) 基于视觉的旋翼无人机在崎岖地表的安全降落方法及系统
CN117665841B (zh) 一种地理空间信息采集测绘方法及装置
JP7318768B2 (ja) 作物栽培支援装置
WO2021083049A1 (zh) 图像处理装置、图像处理方法以及程序

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant