KR20200084974A - 초분광영상을 이용한 수심 추정 방법 - Google Patents

초분광영상을 이용한 수심 추정 방법 Download PDF

Info

Publication number
KR20200084974A
KR20200084974A KR1020190000700A KR20190000700A KR20200084974A KR 20200084974 A KR20200084974 A KR 20200084974A KR 1020190000700 A KR1020190000700 A KR 1020190000700A KR 20190000700 A KR20190000700 A KR 20190000700A KR 20200084974 A KR20200084974 A KR 20200084974A
Authority
KR
South Korea
Prior art keywords
hyperspectral
image
module
coordinates
depth
Prior art date
Application number
KR1020190000700A
Other languages
English (en)
Other versions
KR102164522B1 (ko
Inventor
김동수
유호준
Original Assignee
단국대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 단국대학교 산학협력단 filed Critical 단국대학교 산학협력단
Priority to KR1020190000700A priority Critical patent/KR102164522B1/ko
Publication of KR20200084974A publication Critical patent/KR20200084974A/ko
Application granted granted Critical
Publication of KR102164522B1 publication Critical patent/KR102164522B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • G06T5/006
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10036Multispectral image; Hyperspectral image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Computer Graphics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Operations Research (AREA)
  • Probability & Statistics with Applications (AREA)
  • Remote Sensing (AREA)
  • Algebra (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

본 발명은 초분광영상을 이용하여 수심을 추정하는 방법에 관한 것으로, 구체적으로 무인비행체를 이용하여 초분광영상을 획득한 후, 밴드비를 활용하여 회귀식을 설정함으로써, 초분광영상만으로 높은 정확도로 수심을 추정할 수 있는 방법에 관한 것이다.

Description

초분광영상을 이용한 수심 추정 방법{Method for estimation of depth of water using hyperspectral image}
본 발명은 초분광영상을 이용하여 수심을 추정하는 방법에 관한 것으로, 구체적으로 무인비행체를 이용하여 초분광영상을 획득한 후, 밴드비를 활용하여 회귀식을 설정함으로써, 초분광영상만으로 높은 정확도로 수심을 추정할 수 있는 방법에 관한 것이다.
물 밖의 정보는 다양한 이미지 장비를 이용하여 3차원 모델링이 비교적 손쉽게 가능하지만, 물 안의 정보, 특히 넓은 범위의 수체 내 수심을 반영한 3차원 모델링은 매우 어려운 작업이다.
수심을 측정하는 가장 일반적인 방법은 초음파(ultrasound)를 활용하는 것이다. 하지만, 이 방법은 장애물로 인한 반사 등의 다양한 외부 요인으로 정밀도가 낮고 저수심에서는 불가능하다. 저수심에서는 사람이 직접 잠수하거나 줄자를 이용한 실측 방법이 주로 사용된다. 이 경우에도, 넓은 범위를 빠짐없이 측정하는 것은 현실적으로 불가능하다.
이에 대한 대안으로, 수심을 측정하기 위해, 수체에 대한 초분광영상을 확보하여 이를 이용하는 방법이 거론되고 있다. 초분광 센서(hyperspectral sensor)를 사용할 경우, 가시광영역은 물론 자외선영역, 적외선영역을 포함하여, 일반적인 이미지 센서에서 촬영하는 것에 대비하여 수백배에 이르는 많은 정보를 확보할 수 있기 때문이다.
초분광정보를 이용하여 수심을 확인하기 위해, 실재의 파장별 밴드가 무엇을 의미하는지를 매칭시킨 데이터베이스가 필요하다. 예를 들어, 2010년에 발사된 천리안 해양관측 위성(Goestationary Ocean Color Imager, GOGI)에 의해여, 8개 밴드(412, 490, 512, 555, 660, 680, 765, 875nm)의 값을 알 경우, 각각의 값이 어떠한 해색(海色)을 의미하는지 여부에 대한 데이터베이스는 이미 확보되어 있는 상태이다. 따라서, 해양의 초분광영상을 촬영함으로써 지점별 초분광정보가 확인되면, 데이터베이스로부터 해당 파장에서의 값과 이에 매칭된 해색을 확인함으로써, 초분광영상만으로도 직접 관측 없이 해색을 추정하게 된다. 동일한 방법이 수심에 적용될 수 있는 것이다.
또한, 모든 지점에서의 파장별 관측값을 확인하고 데이터베이스화할 수 없기에, 회귀식이 사용된다. 즉, 다수의 데이터를 이용하여 회귀식을 구축하여 두면, 데이터베이스화되어 있지 않은 위치에서도, 회귀식을 이용하여, 초분광영상에서 확인되는 파장별 밴드를 이용하여 실재의 값을 추정할 수 있다.
이러한 방법들을 조합하면, 이론적으로 초분광영상만으로 수심의 추정이 가능하다. 초분광영상으로부터 특정 파장에 대한 값을 추출하면, 해당 값과 수심이 미리 매칭되어 저장된 데이터베이스을 이용하거나 회귀식에 대입함으로써, 수심을 추정할 수 있다.
하지만, 이러한 방식으로 특정 파장의 촬영값을 이용하여 수심을 추정하는 방식은 일정 수준의 오차가 있는 것으로 알려져 있다. 이러한 오차의 원인으로서, 초분광정보 촬영 단계에서 발생하는 오차(예를 들어, 반사광의 영향으로 촬영값이 실재 위치의 값을 대변하지 못하는 상황), 영상 수정 단계에서 발생하는 오차(예를 들어, 기하 보정의 오류, 영상 정합의 오류 등), 데이터베이스의 오류(예를 들어, 촬영값은 정확하였지만 식별 정보가 잘못된 경우), 기타 외부요인 등이 제시된다.
더욱이, 정확도가 낮은 값을 이용하여 구축한 회귀식을 통해 수심을 추정할 경우, 이러한 오차는 점차 커지게 된다.
또한, 넓은 영역의 초분광영상 확보에도 어려움이 있다.
넓은 영역의 초분광영상 확보를 위하여 유인비행체, 인공위성 등에서 촬영을 하는 것이 일반적인데, 이 경우 셀 사이즈가 10m 내지 50m 등으로 과다하게 커져서 정밀한 계측이 불가능하다. 예를 들어, 수심을 측정할 경우 지표에서 100m2 단위로 측정되기에 정밀도가 감소하는 것이다.
이를 해소하기 위하여 근거리에서 비행할 수 있는 드론과 같은 무인비행체에 초분광 센서를 탑재하는 시도가 있었다. 이 경우, 셀 사이즈가 작아져서 정밀도는 상승하나, 무인비행체가 갖고 있는 비행 중 흔들림 등의 문제로 정확도가 낮아지는 다른 문제가 발생하였다. 이를 방지하고자, 흔들림을 보정할 수 있는 고성능 짐벌의 탑재를 고려할 수 있지만, 고성능 짐벌의 무게가 상당히 크기에 드론의 비행 성능을 약화시켰다.
더욱이, 초분광 센서는 기본적으로 라인 스캐닝(line scanning)을 하여 초분광정보를 확보하기에, 다수의 초분광정보를 정합하는 소프트웨어가 필수적이다. 하지만, 기존의 초분광정보 정합 소프트웨어는 그 정확도가 부족하여, 다수의 초분광정보를 정합한 영상이 실재 촬영 지점에서 다소 벗어난 지점의 정보를 제공하기도 한다.
이에, 오차를 줄여서 정확도를 높일 수 있는 새로운 방식의 수심 식별 방법에 대한 요구가 증가하는 추세이다.
관련된 특허 문헌을 검토한다.
한국등록특허 제10-1621354호는 초분광영상을 이용한 수심 측정 방법을 개시한다. 전술한 문제점들이 모두 포함되어 있어, 정확도가 낮다.
한국등록특허 제10-1463351호는 초분광영상에서 밴드비를 활용하여 특이영역을 검출하고, 초분광영상에서 검출된 영역을 제외함으로써 정보 연산의 속도를 상승시키는 기술을 개시한다. 후술하는 본 발명과 밴드비를 사용한다는 점만 공통될 뿐, 전체적인 발명의 목적, 구성 및 효과가 상이하다.
한국등록특허 제10-1619836호는 초분광영상 촬영을 위한 카메라를 짐벌과 완충장치를 이용한 드론을 개시한다. 드론의 흔들림을 보상한 영상이 확보된다는 점에서 장점이나, 라인 스캐닝에 의한 영상 정합 기술을 개시하지 못한다.
한국등록특허 제10-1806488호는 초분광영상 센서를 드론에 탑재하여 암체를 식별하는 기술을 개시한다. 한국등록특허 제10-1744662호는 초분광영상을 이용하여 식물을 분류하는 기술을 개시한다. 이를 위해, 다양한 암체 내지 식물에 대한 초분광영상 표준자료가 미리 확보되어 있어야 하며, 촬영된 영상을 이와 비교함으로써, 피촬영 오브젝트를 식별한다. 하지만, 드론의 흔들림으로 인한 정확도 저하 문제, 영상 정합의 효율성을 상승시키는 문제 등 촬영 단계에서 확인되는 원천적인 문제를 해결하지 못한다.
한국등록특허 제10-1689197호는 드론에 부착될 수 있는 짐벌 어셈블리를 개시한다. 여기에 개시된 어셈블리는 회전/역회전이 가능한 제1유닛과, 승강이 가능한 제2유닛과, 이들을 회동시키는 제3유닛으로 구성되어, 비행체의 흔들림을 보상한다. 하지만, 이와 같이 구성될 경우, 짐벌의 무게가 과다하게 증가하여, 드론의 비행 성능이 낮아진다는 문제가 발생할 것이다.
한국공개특허 제10-2014-0014819호는 초분광영상에서 확인된 데이터에 대하여 색인/질의 기법을 적용함으로써, 마치 인공지능 알고리즘과 같은 형태로, 데이터를 식별하는 방법을 개시한다. 이러한 방법 활용의 전제조건은 초분광영상의 정확도인데, 무인비행체와 같은 환경에서 촬영된 영상의 정확도를 상승시키는 방법까지 제시하지 못한다.
미국특허 제7,181,055호는 초분광영상을 정합하는 알고리즘을 제시한다. 여기에서는, 반사도 이미지를 활용하여 정합 정확도를 상승시킨다.
(특허문헌 1) 한국등록특허 제10-1463351호
(특허문헌 2) 한국등록특허 제10-1463351호
(특허문헌 3) 한국등록특허 제10-1619836호
(특허문헌 4) 한국등록특허 제10-1806488호
(특허문헌 5) 한국등록특허 제10-1744662호
(특허문헌 6) 한국등록특허 제10-1689197호
(특허문헌 7) 한국공개특허 제10-2014-0014819호
(특허문헌 8) 미국특허 제7,181,055호
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것이다. 특히, 초분광영상을 이용하여 수심을 추정하고자 하는 경우, 발생할 수 있는 다양한 문제점을 해결하고자 한다.
구체적으로, 라인 스캐닝되는 초분광 센서의 특성에 기인하여 영상 정합의 정확도가 낮아지는 문제를 해결하고, 무인비행체에서 촬영됨으로 인한 영상의 흔들림 문제를 해결하고자 한다.
또한, 정확한 초분광정보를 획득하여 특정 파장이 갖고 있는 촬영값이 정확함에도, 해당 촬영값에 대한 데이터베이스가 정확한 식별 정보를 반영하지 못하는 상황을 방지하기 위한, 신규한 초분광정보 식별 방법을 제안하고자 한다.
상기와 같은 과제를 해결하기 위한 본 발명의 일 실시예는, (a) 무인비행체(100)가, 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝(line scanning)을 통해, 기 설정된 영상 단위마다 초분광정보를 획득하는 단계; (b) 기하보정 수행모듈(250)이, 상기 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정을 수행하는 단계; (c) 영상정합 수행모듈(260)이, 상기 기하보정이 수행된, 상기 각각의 영상 단위마다 획득된 초분광정보를 정합하여, 상기 수집영역의 초분광영상을 획득하는 단계; (d) 초분광 관측값 입력모듈(310)에 미리 결정된 다수의 지점 각각의 수심 관측값(Y)이 입력되는 단계; (e) 밴드비 연산모듈(320)이, 상기 미리 결정된 다수의 지점 각각에서, 상기 (c) 단계에서 획득된 초분광영상으로부터 다수의 파장(x)에 대한 화소값인 초분광 촬영값(I(x))을 확인하고, 초분광 촬영값에 포함된 다수의 파장(x) 중 임의의 2개의 파장의 쌍(λ1, λ2)을 선택하여, 각각에 대한 초분광 촬영값(I(λ1), I(λ2))을 확인하는 단계; (f) 상기 밴드비 연산모듈(320)이, 상기 확인된 2개의 초분광 촬영값(I(λ1), I(λ2))에서 어느 하나를 다른 하나로 나누어 밴드비(band ratio)(X)를 연산하는 단계; 및 (g) 회귀분석모듈(330)이, 상기 수심 관측값(Y)과 상기 연산된 밴드비(X)가 선형관계에 있음을 가정하고, 상기 다수의 지점에서의 상기 수심 관측값(Y)과 상기 연산된 밴드비(X)를 이용하여, 회귀식(Y=aX+b)의 a와 b를 연산함으로써, 회귀식(Y=aX+b)을 생성하는 단계를 포함하며, 상기 생성된 회귀식을 이용하여 초분광영상으로부터 수심을 추정하는, 초분광영상을 이용한 수심 추정 방법을 제공한다.
또한, 상기 (g) 단계 이후, (h) 상기 회귀분석모듈(330)이, 상기 초분광 촬영값에 포함된 상기 다수의 파장 중 상기 (e) 단계에서의 2개의 파장의 쌍을 제외한 다른 임의의 파장을 선택하여, 이에 대한 초분광 촬영값을 확인하고, 상기 (f) 내지 (g) 단계를 반복함으로써, 다수의 2개의 파장의 쌍마다 각각 회귀식을 생성하는 단계; (i) 회귀식 결정모듈(340)이, 상기 생성된 다수의 회귀식 중 상관계수(correlation)가 가장 높은 회귀식을 선택하는 단계; 및 (j) 상기 회귀식 결정모듈(340)이, 상기 (g) 단계에서 선택된 회귀식에 사용된 밴드비(X)에 적용된 2개의 파장을, 최적 밴드비 파장의 쌍으로 결정하는 단계를 더 포함하는 것이 바람직하다.
또한, 상기 (j) 단계 이후, (k) 관측값 추정모듈(350)이, 상기 다수의 지점 이외의 지점의 초분광 촬영값에서, 상기 (j) 단계에서 결정된 최적 밴드비 파장의 쌍에 해당하는 2개의 초분광 촬영값을 확인하고, 어느 하나를 다른 하나로 나누어 해당 지점의 밴드비를 연산하는 단계; 및 (l) 상기 관측값 추정모듈(350)이, 상기 (i) 단계에서 선택된 회귀식에 상기 연산된 밴드비를 입력하여 해당 지점의 수심 관측값을 추정하는 단계를 더 포함하는 것이 바람직하다.
또한, 상기 (l) 단계는, 상기 관측값 추정모듈(350)이 초분광영상에서 근적외선에 해당하는 파장에 대한 빛의 세기를 이용하여 정규식생지수(NDWI)를 연산하는 단계; 및 상기 관측값 추정모듈(350)이 상기 연산된 정규식생지수(NDWI)가 0보다 작은 경우 수심을 0으로 출력하는 단계를 더 포함하는 것이 바람직하다.
또한, 상기 (i) 단계는, 상기 회귀식 결정모듈(340)이, 상기 생성된 다수의 회귀식에 대한 상관계수를 연산하여, 2개의 파장의 쌍에서 각각의 파장을 X축 및 Y축으로 하는 상관계수 맵을 생성하는 단계를 포함하고, 상기 (i) 단계는, 상기 회귀식 결정모듈(340)이, 상기 (i) 단계에서 생성된 상관계수 맵을 이용하여 상관계수가 가장 높은 지점을 결정하고, 해당 지점을 구성하는 각각의 파장을 상기 최적 밴드비 파장의 쌍으로 결정하는 단계를 포함하는 것이 바람직하다.
또한, 상기 (c) 단계는, (c11) 대응점 확인 모듈(262)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 어느 두 개의 초분광정보(A, B)에 있어서, 어느 하나의 초분광정보(A)의 어느 하나의 픽셀의 XY 좌표(x, y) 및 해당 좌표에서의 화소값(I(x, y))에 대하여, 다른 하나의 초분광정보(B)의 어느 하나의 픽셀의 XY 좌표(x', y') 및 해당 좌표에서의 화소값(I(x', y'))의 정규상관계수(normalized correlation)를 연산하되, 상기 어느 하나의 초분광정보(A)의 모든 픽셀 각각에 대하여 상기 다른 하나의 초분광정보(B)의 모든 픽셀 각각의 정규상관계수를 모두 연산함으로써, 정규상관계수의 값이 큰 지점의 XY좌표를 상기 두 개의 초분광정보(A, B)의 대응점으로 확인하는 단계; (c12) 상기 영상정합 수행모듈(260)이 상기 확인된 대응점을 기준으로 상기 두 개의 초분광정보(A, B)를 영상 정합하는 단계; 및 (c13) 상기 영상정합 수행모듈(260)이 상기 (c11) 내지 (c12) 단계를, 상기 (a) 단계에서 획득된 각각의 영상 단위마다의 초분광정보의 각 쌍마다 수행하여, 영상정합된 상기 수집영역의 초분광영상을 획득하는 단계를 포함하는 것이 바람직하다.
또한, 상기 (c11) 단계 이전에, (c21) 적분영상 연산모듈(261)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 초분광정보에서, 각각의 픽셀마다, 어느 하나의 기준 좌표를 기준으로 하여 적분영상(integral image) 화소값을 연산하는 단계를 더 포함하며, 상기 (c11) 단계에서의 화소값은, 상기 (c21) 단계에서 연산된 적분영상 화소값인 것이 바람직하다.
또한, 상기 (c21) 단계 이전에, (c31) 정규화 모듈(240)이, 어느 하나의 영상 단위의 초분광정보의 픽셀의 XY 좌표들을 정수의 순서쌍(x, y)으로 설정하고, 상기 설정된 XY 좌표들의 평균 좌표를 연산하고, 상기 연산된 평균 좌표를 원점(0, 0)으로 설정하여 각 정수의 순서쌍(x, y) 사이의 단위 거리가 √2가 되도록, 상기 XY 좌표(x, y)를 정규화된 XY 좌표(x', y')로 이동시킴으로써, 상기 어느 하나의 영상 단위의 초분광정보를 정규화하는 단계를 더 포함하는 것이 바람직하다.
또한, 상기 (c31) 단계 이후, (c32) 상기 정규화 모듈(240)이 상기 어느 하나의 초분광정보의 정규화 전 XY 좌표(x, y)와 정규화된 이후의 XY 좌표(x', y')의 값을 이용하여, 매개변수를 포함한 행렬식인 호모그래피(homography)(H)를 연산하는 단계; 및 (c33) 상기 연산된 호모그래피(H)를 이용하여, 다른 하나의 초분광정보를 정규화하는 단계를 포함하는 것이 바람직하다.
또한, 상기 (c32) 단계에서 동차좌표계(homogeneous coordinates)가 활용되어 정규화 전 XY 좌표는 (x, y, 1)로서 행렬식 A로 지칭되고, 정규화된 이후의 XY 좌표는 (x', y', 1)로서 행렬식 A'로 지칭되며, 다음의 수식을 이용하되 다수의 XY 좌표를 활용하여, 호모그래피(H)가 연산되며, 상기 (c33) 단계는, 다른 하나의 초분광정보를 행렬식 A에 대입하여, 정규화된 XY 좌표인 행렬식 A'가 연산되는 것이 바람직하다.
상기와 같은 과제를 해결하기 위한 본 발명의 다른 실시예는, 컴퓨터 판독 가능한 기록 매체에 저장되어, 전술한 방법을 실행시키는 프로그램과, 그 코드가 기록된 컴퓨터 판독 가능한 기록 매체를 제공한다.
본 발명에 따른 방법은, 작은 영상 단위(라인 단위)로 확보되는 초분광정보를 높은 정확도로 정합함으로써, 정확도 및 정밀도가 모두 높은 우수한 초분광영상을 획득하고, 이를 토대로 높은 정확도 및 정밀도로 수심을 추정할 수 있다. 특히, 높은 중량의 고성능 짐벌을 사용하지 않고서도 무인비행체의 흔들림을 효과적으로 보정할 수 있다. 전술한 영상 정합 기술과 함께 사용되어, 높은 상승 효과로서 우수한 초분광영상을 획득하게 한다.
또한, 종래에는 실재 물체의 파장의 값과 가장 가까운 것으로 식별되는 값을 갖는 오직 1개의 파장만을 사용하기에, 해당 매칭이 부정확하거나 측정값에 오류가 있는 경우 실재 추정된 수심의 정확도가 낮다는 단점이 있었지만, 본 발명에 의하여, 실재 수심의 파장의 값과 가장 가까운 것으로 식별되는 파장의 촬영값이 분자로 사용되고, 실재 수심의 파장의 값과 가장 먼 것으로 식별의 촬영값이 분모로 사용함으로써, 단일 파장에 의한 매칭과 달리 이중의 매칭 과정을 통해 수심의 값을 추정하기에, 정확도를 높일 수 있는 것이다.
또한, 이러한 방법은, 단 1개의 프로그램으로서 논스톱(non-stop) 개념으로 컴퓨터 프로그램화되어, 다수의 지점의 관측값인 수심과 촬영된 초분광영상이 입력되면, 초분광영상은 적절하게 전처리 및 후처리되고, 이를 기반으로 자동으로 회귀식이 결정되고, 자동으로 수심이 추정될 수 있다.
특히, 기존에는 다수의 프로그램을 오고 가며 복잡한 연산 및 데이터 전송을 수행하여야 하였으나, 이러한 문제점들이 모두 해소됨은 물론, 적분영상을 활용하여 수일에 걸리던 연산 시간을 약 50% 이상 감소시킬 수 있다.
도 1은 본 발명에 따른 방법을 수행하기 위한 시스템을 도시한다.
도 2는 본 발명에 따른 방법 중 영상 처리 방법을 설명하기 위한 순서도이다.
도 3은 본 발명에 따른 방법 중 영상 분석 방법을 설명하기 위한 순서도이다.
도 4는 본 발명에 따른 방법에서 사용되는 무인비행체의 예시를 설명하기 위한 사진이다.
도 5는 본 발명에 따른 방법에서 무인비행체가 초분광정보를 획득하는 방법을 설명하기 위한 개략도이다.
도 6은 본 발명에 따른 방법 중 영상 처리 방법에서 기하보정을 설명하기 위한 개략도이다.
도 7은 본 발명에 따른 방법 중 영상 처리 방법에서 영상정합을 설명하기 위한 개략도이다.
도 8은 본 발명에 따른 방법 중 영상 처리 방법에서 영상정합을 위해 정규상관계수를 사용하는 방법을 설명하기 위한 개략도이다.
도 9는 본 발명에 따른 방법 중 영상 처리 방법에서 영상정합시 적분영상을 활용하는 방법을 설명하기 위한 개략도이다.
도 10은 본 발명에 따른 방법 중 영상 처리 방법에서 정규화 단계를 설명하기 위한 개략도이다.
도 11은 본 발명에 따른 방법 중 영상 분석 방법의 밴드비를 설명하기 위한 도면이다.
도 12는 본 발명에 따른 방법 중 영상 분석 방법에서 밴드비와 관측값인 수심을 이용하여 회귀분석이 수행되는 과정을 설명하기 위한 도면이다.
도 13은 본 발명에 따른 방법 중 영상 분석 방법에 의하여 설정된 상관관계 맵을 도시한다.
도 14는 본 발명에 따른 방법 중 영상 분석 방법에 의하여 상관관계 맵을 이용하여 회귀식을 선택하는 방법을 설명한다.
도 15는 본 발명에 따른 방법이 구현된 프로그램의 화면을 도시한다.
도 16은 본 발명에 따른 방법에서, 수체 판단 단계를 적용하여 수심 추정을 완성한 후 후보정을 통하여 최종 결과물이 출력되는 화면을 도시한다.
이하, 도면을 참조하여 본 발명을 보다 상세히 설명한다.
이하에서는, 초분광영상을 이용하여 실재 측정하지 않고도 높은 정확도로 관측값인 수심을 추정하는 방법을 설명한다. 다만, 아래에서 설명하고 청구범위에서 설명되는 방법의 개념이 적용된다면, 수심 이외의 다른 물체(예를 들어, 해색, 암체, 식생 등)에 대한 식별도 가능할 것이며, 이러한 과정이 동일하거나 균등한 범위 내의 개념에 따라 이루어진다면, 이에 대한 권리범위 역시, 아래의 청구범위에서 청구되는 본 발명의 범위 내에 포함될 수 있음을, 통상의 기술자는 이해할 수 있을 것이다.
시스템의 설명
본 발명에 따른 방법이 수행되는 시스템은, 초분광센서(140)가 탑재되어 초분광영상을 촬영하는 무인비행체(100)와, 촬영된 초분광영상의 정확도를 향상시키기 위한 처리가 수행되는 영상처리부(200)와, 처리된 초분광영상을 기초로 수심을 추정하는 기능이 수행되는 영상분석부(300)로 구분될 수 있다.
무인비행체(100)는 예를 들어 드론일 수 있으나, 지표면으로부터 근거리에서 비행하는 어떠한 형식의 비행체이어도 무방하다.
무인비행체(100)는, 자이로 센서와 가속도 센서가 있어 움직임의 반대 방향으로 카메라(130) 등을 이동시킬 수 있는 짐벌(110), 짐벌(110)에 구비되어 충격을 흡수하는 완충기(120), 초분광센서(140)가 탑재된 카메라(130), 및 초분광센서(140)에서 획득된 초분광정보를 영상처리부(200)에 전송할 수 있는 통신부(150)를 포함한다.
짐벌(110)은 확보 가능한 어떠한 구조의 짐벌을 사용하여도 무방하나, 무게를 고려하여, 4축 또는 5축 짐벌보다는 1, 2, 3축 짐벌이 바람직하다. 다만, 1, 2, 3축 짐벌이 갖는 흔들림 보정의 한계는 완충기(120)의 보상으로 극복할 수 있다.
또한, 무인비행체(100)에는 위치 정보를 확인하기 위한 GPS 센서가 더 포함될 수 있다.
이러한 무인비행체(100)의 예시가 도 4에 도시된다.
영상처리부(200)는 통신모듈(210), 비행경로 설정모듈(220), 촬영영상 입력모듈(230), 정규화 수행모듈(240), 기하보정 수행모듈(250), 영상정합 수행모듈(260) 및 초분광영상 출력 모듈(270)을 포함한다.
통신모듈(210)은 무인비행체(100)의 통신부(150)와 유선 또는 무선으로 통신하여, 촬영영상 입력모듈(230)이 초분광센서(140)에서 획득되는 초분광정보를 수신하도록 한다. 수신하는 정보에는, 위치 정보가 포함될 수도 있다.
비행경로 설정모듈(220)은 초분광정보를 수집하고자 하는 수집영역을 기초로 하여, 그 영상을 확보하기 위한 무인비행체(100)의 비행경로를 설정하는 기능을 수행한다.
정규화 수행모듈(240)은, 확보된 초분광정보의 정규화 기능을 수행한다. 모든 기하학적 변환에서, 회전, 크기, 평행성 보존 등은 원점(0, 0)을 기준으로 발생하기에, 각 영상에 존재하는 XY 좌표의 각 순서쌍의 정규화가 필요하다.
기하보정 수행모듈(250)은, 확보된 초분광정보에서 지면의 굴곡 등 기하학적 조건에 의한 왜곡을 보상하기 위한 기하보정을 수행한다.
영상정합 수행모듈(260)은, 확보된 다수의 초분광정보를 정합하는 기능을 수행한다. 이를 위하여, 적분영상 연산모듈(261) 및 대응점 확인모듈(262)이 구비된다.
초분광영상 출력 모듈(270)은, 정규화되고, 기하보정되고, 영상정합된 최종 결과물로서 획득된 초분광영상을 출력하는 기능을 수행한다.
각 모듈의 구체적인 기능 수행 방법은 후술한다.
영상분석부(300)는, 초분광 관측값 입력모듈(310), 밴드비 연산모듈(320), 회귀분석모듈(330), 회귀식 결정모듈(340) 및 관측값 추정모듈(350)을 포함한다.
초분광 관측값 입력모듈(310)은, 미리 결정된 다수의 지점에 대한 실재 초분광 관측값인 수심(이하, '수심 관측값'이라 지칭함)을 입력하는 기능을 수행한다. 즉, 초분광영상에서 확보되는 촬영값과 상관관계를 확인하기 위한 실재의 수심이 입력되는 것이다.
밴드비 연산모듈(320)은, 영상처리부(200)로부터의 초분광영상에서 확보되는 촬영값(예를 들어, 화소값)을 통해 밴드비를 연산한다.
회귀분석모듈(330)은, 수심 관측값과 밴드비의 회귀분석을 수행하여 회귀식을 연산한다.
회귀식 결정모듈(340)은, 다수의 회귀식이 상관관계를 연산하여, 가장 상관성이 높은 회귀식을 결정하고, 이를 통해 최적의 밴드비를 결정하는 기능을 수행한다.
관측값 추정모듈(350)은, 회귀식 결정모듈(340)에서 결정된 회귀식을 이용하여, 특정 초분광영상이 입력된 경우(즉, 임의의 밴드비가 입력된 경우), 이를 기반으로 관측값인 실재 수심을 추정하고, 이를 토대로 실재 물체를 식별하는 기능을 수행한다.
각 모듈의 구체적인 기능 수행 방법은 후술한다.
방법의 설명
본 발명에 따른 방법을 설명한다. 도 2를 참조한 영상 처리 방법과 도 3을 참조한 영상 분석 방법으로 구분하여 설명한다.
먼저, 도 2 및 도 5 내지 도 10을 참조하여 영상 처리 방법을 설명한다.
비행경로 설정모듈(220)이, 수집영역을 이용하여 무인비행체(100)의 비행경로를 설정한다(S110). 수집영역은 수심을 추정하고자 하는 수체 및 그 주변의 영역일 것이다. 초분광센서(140)가 라인 스캐닝을 수행하는바, 도 5에 도시된 바와 같이, 초분광정보를 획득하고자 하는 대상인 수집영역(collection area)에 대하여, 무인비행체(100)의 화각(angle of view)을 고려하여, 무인비행체(100)의 비행 경로(flight path)가 설정된다. 그 설정 방법은, 종래 기술에 따른 어떠한 것이어도 무방한바, 구체적인 설명은 생략한다.
다음, 무인비행체(100)가, 상기 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝을 통해, 기 설정된 영상 단위마다 초분광정보를 획득한다(S120). 여기서의 영상 단위는 카메라(130) 또는 초분광 센서(140)의 특성에 따라 제조사에서 미리 설정된 것으로, 각 특성에 따라 상이한 방식으로 초분광정보가 획득될 수 있다.
이와 같은 방법으로 확인된 초분광정보에 대하여, 기하보정이 이루어지고(S140), 영상정합이 이루어져서(S150), 영상 분석 대상이 되는 초분광영상이 확보된다.
구체적인 방법을 설명한다.
기하보정은, 기하보정 수행모듈(250)에 의하여 이루어진다(도 6 참조). 구체적으로, 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정이 수행된다. 종래 알려진 어떠한 방법이 적용되어도 무방하다.
영상정합은, 다수의 초분광정보를 일정한 기준점을 이용하여 정합하는 과정이다(도 7 참조). 다수의 초분광정보 중 적어도 2개의 쌍이 상호 일부씩 중첩되도록 촬영되는데, 소정의 기준점을 찾고, 이러한 기준점을 기초로 2개의 쌍의 초분광정보를 중첩하고, 이러한 과정이 모든 초분광정보의 각 쌍에서 반복됨으로써, 초분광영상이 획득된다. 즉, 영상정합의 기초는 2개의 초분광정보를 중첩하는 과정이다.
본 발명에서는, "대응점 추출 알고리즘"을 착안하여, 이에 따라 영상정합을 수행한다. 이는, 중첩하는 영역이 있는 2개의 초분광정보 중 어느 하나의 초분광정보에서 템플릿(template)을 추출하고, 추출된 템플릿을 다른 하나의 초분광정보에서 상관성이 가장 높은 지점을 찾음으로써, 해당 지점을 중첩의 기준의 되는 점, 즉 대응점(matching point)로 설정하는 알고리즘이다. 이를 도 8에 도시하였다.
구체적으로, 중첩하는 영역이 있는 2개의 초분광정보(A, B)(도 8에서, image1과 image2로 표시)의 영상정합을 설명한다.
먼저, 대응점 확인 모듈(262)이, 중첩하는 어느 두 개의 초분광정보(A, B)에 있어서, 어느 하나의 초분광정보(A)의 어느 하나의 픽셀의 XY 좌표(x, y) 및 해당 좌표에서의 화소값(I(x, y))에 대하여, 다른 하나의 초분광정보(B)의 어느 하나의 픽셀의 XY 좌표(x', y') 및 해당 좌표에서의 화소값(I(x', y'))의 정규상관계수(normalized correlation)를 연산한다. 이러한 과정은, 후술할 바와 같이, 초분광정보(A)의 템플릿의 모든 픽셀의 XY 좌표(x, y) 각각마다 다른 하나의 초분광정보(B)의 템플릿의 모든 픽셀의 XY 좌표(x', y')를 모두 대응시킴으로써 다수 회 이루어지게 된다.
일반적인 정규상관계수를 연산하는 식은 아래의 수학식 1과 같으나, 본 발명에서는 보다 높은 정확도를 확보하기 위하여, 화소값을 더 이용한 수학식 2를 사용한다.
Figure pat00001
Figure pat00002
초분광정보(A)의 XY좌표는 (x, y)로 표현되고, 초분광정보(B)의 XY좌표는 (x', y')로 표현된다. 상부 바는 평균값을 의미한다(이는 이하의 모든 수식에서 동일하다). n은 총 화소의 수, I(x, y)는 XY 좌표 상 (x, y)에 해당하는 화소값이며, 초분광정보(A)의 화소값이 I1으로 표현되고 초분광정보(B)의 화소값이 I2로 표현된다. W는 템플릿의 가로 화소 크기, H는 템플릿의 세로 화소 크기이다.
이와 같은 방식으로, 템플릿 상의 모든 픽셀 좌표마다 정규상관계수를 연산하고, 이를 XY좌표로 표현하면, 도 8의 우하단에 도시된 바와 같은 상관계수 맵(correlation map)을 산정할 수 있다. 상관계수 맵에서 최대값을 가지는 위치, 즉, 정규상관계수의 값이 큰 지점의 XY좌표를 상기 두 개의 초분광정보(A, B)의 대응점으로 확인하게 된다.
이제, 영상정합 수행모듈(260)은 대응점을 기준으로 두 개의 초분광정보(A, B)를 영상 정합하게 된다.
영상정합 수행모듈(260)은 이러한 과정을 각각의 영상 단위마다의 모든 초분광정보의 각 쌍마다 수행하여 영상정합을 수행하며, 이를 통해 모든 촬영 영상들이 정합된 초분광영상이 획득된다.
다만, 이 경우 상당히 많은 연산이 수행되는바, 영상처리부(200)의 성능에 따라 연산 속도가 늦어질 수 있다. 따라서, 본 발명의 다른 실시예에서는, 보다 빠른 연산 속도를 구현하기 위해, 적분영상을 사용하여 연산량을 크게 줄인 상태에서 영상정합을 수행할 수 있다. 적분영상은 기준 좌표를 설정하고, 이를 기준으로 한 방향성을 이용하여, 각 픽셀의 화소값을 모두 합산한 후 이를 수학식 2와 같이 정규상관계수 연산에 필요한 화소값으로 사용하는 것이다.
도 9를 참조하여, 적분영상을 사용하는 개념을 설명한다. 좌측은 일반적인 영상을 도시한다. 각 픽셀마다 기록된 숫자는 화소값이다. 우측은 좌측 영상을 이용한 적분영상을 도시한다. 여기의 적분영상에서는 좌상단의 "2"를 기준 좌표로 설정한 후, 좌측 및 하측 방향으로 각 값을 합산함으로써 형성한 적분영상이다. 예를 들어, 2번째 줄, 3번째 열의 "13"은 2+1+5+0+3+2의 값이다.
만약, 해당 영상에서 가운데의 9개의 픽셀의 화소값의 합을 구하고 싶다면, 좌측의 일반적인 영상에서는 총 9번의 연산을 수행하여야 한다. 하지만, 우측의 적분영상에서는 4번의 연산을 수행하면 족하다. 즉, 적분영상을 생성하여 둠으로써, 연산량을 50% 이하로 낮추는 것이다.
구체적으로, 초분광영상에서 적분영상을 활용하는 방법은 아래와 같다. 먼저, 수학식 3을 이용하여 각 픽셀마다 적분영상에 의한 새로운 화소값(II(x, y))을 설정한다.
Figure pat00003
각 기호는 수학식 2에서 밝힌 바와 같다. 이제 이를 이용하면, 수학식 2에서 설명한 정규상관계수는 수학식 4에 의하여 연산될 수 있다.
Figure pat00004
여기서, 분모에 사용되는 표준편차 σ의 값은 수학식 5를 통해 연산될 수 있다. I가 화소값을 의미함은 앞에서 밝힌 바와 같다.
Figure pat00005
이와 같이, 한 번 적분영상을 생성하여 두기만 하면, 수학식 3 내지 수학식 5를 이용함으로써, 매 연산마다 수학식 2의 많은 연산량을 사용할 필요가 없어지기에, 정규상관계수를 신속하게 연산할 수 있어서 바람직하다.
한편, 전술한 바와 같이, 모든 기하학적 변환에서, 회전, 크기, 평행성 보존 등은 원점(0, 0)을 기준으로 발생하기에, 본 발명의 일 실시예에서는, 각 영상에 존재하는 XY 좌표의 각 순서쌍의 정규화를 수행한 후, 기하보정 및 영상정합이 이루어질 수 있다.
구체적으로, 정규화 모듈(240)은, 어느 하나의 영상 단위의 초분광정보의 픽셀의 XY 좌표들을 정수의 순서쌍(x, y)으로 설정하고, 상기 설정된 XY 좌표들의 평균 좌표를 연산하고, 상기 연산된 평균 좌표를 원점(0, 0)으로 설정하여 각 정수의 순서쌍(x, y) 사이의 단위 거리가 √2가 되도록, 상기 XY 좌표(x, y)를 정규화된 XY 좌표(x', y')로 이동시킴으로써, 상기 어느 하나의 영상 단위의 초분광정보를 정규화한다. 이러한 개념이 도 10에 도시된다.
보다 구체적으로, 이러한 연산은 수학식 6을 이용할 수 있다.
Figure pat00006
여기서, A는 정규화하고자 하는(즉, 정규화되지 않은) 초분광정보에서의 XY 좌표이고, A'는 정규화된 XY 좌표이다. 여기서의 좌표는, 후술하는 매개변수 연산을 위해, 동차좌표계를 이용하는 것이 바람직하다. 즉, XY 좌표는 (x, y, 1)로서 행렬식 A로 지칭되고, 정규화된 이후의 XY 좌표는 (x', y', 1)로서 행렬식 A'로 지칭된다. 일종의 벡터와 같이 표현한 것으로서, 달리 표현하면, 동차좌표계 안에서 (x, y)좌표는 무수히 많은 점으로 이루어진 선으로 이해할 수 있다.
H는 정규화를 위한 매개변수(h11~h33)로 구성된 행렬인 호모그래피이다. 즉, 호모그래피(H)를 연산해두면, 모든 초분광정보를 손쉽게 정규화할 수 있다.
호모그래피(H)의 연산을 위해서, 수학식 6을 이용하되, 어느 하나의 정규화된 값이 필요하다. 즉, 어느 하나의 초분광정보에 대해서는, 도 10을 참조하여 설명한 방법을 이용하여 별도로 정규화한 후, 그 값을 이용하여 호모그래피(H)를 연산하는 것이다. 예를 들어, 정규화되기 이전의 XY 좌표의 x 및 y의 순서쌍 4개를 알고, 해당 순서쌍 4개의 정규화된 값을 알 경우, 수학식 6을 이용하면, 수학식 7 및 수학식 8을 도출할 수 있으며, 이에 따라 각 매개변수(h11~h33)를 확인할 수 있다.
Figure pat00007
Figure pat00008
수학식 8에 의하여 호모그래피(H)가 연산되면, 이제 모든 초분광영상의 모든 픽셀의 XY 좌표를 수학식 6에 대입함으로써, 별도로 정규화된 값을 연산할 필요도 없이, 작은 연산량만으로 정규화가 가능하다.
이와 같이, 호모그래피(H)가 있다는 것은, 대응점 사이의 좌표 변화만 가능한 것뿐만 아니라 2개의 초분광정보의 좌표계에 존재하는 모든 점을 서로 변환 가능한 것을 의미한다. 따라서, 2개의 초분광정보 중 어느 하나의 초분광정보를 기준으로 나머지 다른 초분광정보를 정규화하여 좌표 변환을 실시하면 두 초분광영상은 동일 좌표계로 이동하게 된다.
다음, 도 3 및 도 11 내지 도 16을 참조하여 영상 분석 방법을 설명한다.
전술한 영상 처리 방법이 수행된 초분광영상이 확보된 상태이다. 또한, 수심 추정을 위해, 미리 결정된 다수의 지점마다 각각의 초분광 관측값인 수심 관측값(Y)이 별도로 확인되어 있어야 한다(S210). 즉, 초분광 관측값 입력모듈(310)에 미리 결정된 다수의 지점 각각의 수심 관측값(Y)이 입력된 것이다. 여기서, 회귀분석의 정확도를 위하여, 수심 관측값(Y)이 확인되는 지점은 다수일수록 바람직하다.
다음, 촬영영상 입력모듈(210)에는 초분광정보를 갖는 촬영영상이 입력되고, 수심 관측값이 입력되었던 미리 결정된 다수의 지점 각각에서 다수의 파장(x)에 대한 화소값인 초분광 촬영값(I(x))이 확인된다(S220).
다음, 밴드비 연산모듈(320)이, 초분광 촬영값에 포함된 다수의 파장(x) 중 임의의 2개의 파장의 쌍(λ1, λ2)을 선택하고, 각각에 대한 초분광 촬영값(I(λ1), I(λ2))을 확인한다(S230). 이 때에, 확인된 2개의 초분광 촬영값(I(λ1), I(λ2))에서 어느 하나를 다른 하나로 나누어 밴드비(X)를 연산한다(S240)(도 11 참조). 이를 수식으로 표현하면, 아래의 수학식 9와 같다.
Figure pat00009
달리 표현하면, 어느 하나의 지점마다 밴드비가 연산되어 수심 관측값(Y)과 밴드비(X)가 확인되는데, 다수의 지점마다 각각 개별적으로 수행되는 것이다.
다음, 회귀분석모듈(330)이, 수심 관측값(Y)과 연산된 밴드비(X)가 선형관계에 있음을 가정하고, 다수의 지점 각각에서 S210 단계에서 확인된 수심 관측값(Y)과 S240 단계에서 연산된 밴드비(X)를 이용함으로써, 회귀식(Y=aX+b)의 a와 b를 연산하여, 회귀식(Y=aX+b)을 생성한다(S250). 여기서 a를 연산하는 구체적인 수식은 아래의 수학식 10과 같으며, a의 값이 연산되면 b의 값은 당연히 연산된다. n은 수심 관측값의 개수이며, X는 밴드비이고, Y는 수심 관측값이다.
Figure pat00010
도 12는 그 예시를 도시한다. 여기에는, 5개의 지점(P1, P2, P3, P4, P5)(즉,n=5)에서의 밴드비(X)와 수심 관측값(Y)을 이용하여 연산된 회귀식이 우측 하단에 도시된다.
한편, 이러한 과정은 S230 단계에서 선택된 2개의 파장을 변경하면서 각각의 쌍에 대하여 이루어질 수 있다. 미리 결정된 지점이 동일하고, 각 지점에서의 수심 관측값(Y)이 동일하더라도, 2개의 파장을 다르게 선택하면, 최종 연산되는 회귀식은 다르게 된다.
구체적으로, 회귀분석모듈(330)이, 먼저 선택된 2개의 파장의 쌍을 제외한 다른 임의의 파장을 선택하여, 이에 대한 초분광 촬영값을 확인하고, S240 내지 S250 단계를 반복하여, 다수의 회귀식을 생성한다(S260).
다음, 회귀식 결정모듈(340)이, 생성된 다수의 회귀식의 상관계수를 각각 연산하고, 그 중에서 상관계수가 가장 높은 회귀식을 선택한다(S270). 이 때에 선택된 회귀식에 사용된 밴드비(X)에 적용된 2개의 파장을, 최적 밴드비 파장의 쌍으로 결정된다.
예를 들어, 초분광정보에 포함된 파장의 개수가 N개라면, 2개의 파장의 쌍의 개수는 그 조합(combination)에 의하여 NC2개이므로, 해당 개수만큼 회귀식과 상관계수가 연산되어, 최적의 회귀식과 밴드비와 그 파장이 연산될 것이다.
한편, 이러한 방식은 상관계수 맵을 이용하여 이루어질 수 있다. 상관계수 맵의 예시가 도 13에 도시된다(이는, 도 8에 설명된 영상 처리 방법의 상관계수 맵에 적용된 수치와 다른 개념이 적용된 것임에 주의한다). 여기에는, 회귀식 결정모듈(340)이, 생성된 다수의 회귀식에 대한 상관계수를 연산하되, 2개의 파장의 쌍에서 어느 하나의 파장을 X축으로 하고 다른 하나의 파장을 Y축으로 하여 생성한 상관계수 맵이 도시된다.
다음, 회귀식 결정모듈(340)은 상관계수 맵을 이용하여 상관계수가 가장 높은 지점을 결정하고, 해당 지점을 구성하는 각각의 파장을 상기 최적 밴드비 파장의 쌍으로 결정하게 된다.
도 14에는 이러한 방식을 자동화하는 개념이 도시된다. 분광특성인 파장마다의 촬영값을 추출하고, 이를 통해 각각의 밴드비를 산정하고, 수심 관측값을 이용하여 회귀분석하면, 상관계수 맵이 생성되며, 각 파장의 쌍마다 상관계수를 연산함으로써, 최적 밴드비 파장과 최적 회귀식이 결정된다.
도 15는 이를 구현한 프로그램의 출력 화면을 도시한다. 우측의 상관계수 맵이 도시되며, 그 아래에는 각 파장에 대한 상관계수 및 회귀식이 자동으로 연산됨을 확인할 수 있다.
이와 같은 과정을 통하여, 최적의 회귀식과 최적의 밴드비가 결정되면, 수심 관측값이 없는 위치에서도 초분광영상에 포함된 초분광정보의 파장과 촬영값만으로도 수심 관측값을 추정할 수 있다.
예를 들어, 관측값 추정모듈(350)이, 초분광영상에 포함된 촬영값 중에서 최적 밴드비 파장의 쌍에 해당하는 2개의 초분광 촬영값을 확인하여 밴드비를 연산하면, 이를 최적의 회귀식에 입력하여 해당 지점의 수심 관측값을 높은 정확도로 추정할 수 있는 것이다.
한편, 본 발명의 일 실시예에서는, 최종 결과물인 수심 관측값이 식생 등으로 인하여 왜곡되는 현상을 방지하기 위한 단계를 더 포함할 수 있다. 이를 위하여 관측값 추정모듈(350)이 초분광영상에서 근적외선(NIR)에 해당하는 파장에 대한 빛의 세기를 이용하여 정규식생지수(NDWI)를 연산하고, 연산된 정규식생지수(NDWI)가 0보다 작은 경우 수체로 판단하지 않는다(즉, 식생 등으로 판단한다). 이 경우, 프로그램 상에서 수심이 0인 것, 또는 수체가 아닌 것으로 출력할 수 있다.
정규식생지수(NDWI)는 아래의 수식으로 연산된다. 여기에서, NIR은 초분광영상의 초분광정보에 포함된 값 중 근적외선에 해당하는 파장에서의 빛의 세기이고, Green은 초분광영상의 초분광정보에 포함된 값 중 녹색에 해당하는 파장에서의 빛의 세기이다.
Figure pat00011
위의 수학식 11로 연산된 값인 정규식생지수(NDWI)는 -1 내지 1의 범위에서 값을 갖게 된다. 정규식생지수(NDWI)가 0 이상일 경우 수체로 판단하여, 앞선 단계에서 추정된 수심 관측값을 그대로 출력하면 되나, 0보다 작은 경우라면 수체가 아닌 것으로 판단하여 수심을 0으로 출력하거나 수체가 아닌 것으로 출력한다. 즉, 식생 등에 의한 왜곡으로 수심이 일정 부분 연산되었던 것을 보상하는 것이다.
이러한 단계를 수행함으로써, 수심 관측값 추정 정확도가 더욱 상승할 수 있다.
도 16의 좌측은 일반적인 카메라에 의하여 촬영된 영상을 도시하고, 우측은 본 발명에 따른 방법이 수행된 결과물을 도시한다. 정규식생지수(NDWI)의 활용으로 수체인 부분(청색 부분)과 아닌 부분이 구분되었으며, 수체인 부분에서는 회귀식을 이용한 추정 방법에 의하여, 높은 정확도로 각 지점들의 모든 수심이 빠짐없이 연산되었다. 이를 실재 데이터와 비교하여, 본 발명에 따른 방법의 정확도가 높음을 검증할 수 있었다.
이상, 본 명세서에는 본 발명을 당업자가 용이하게 이해하고 재현할 수 있도록 도면에 도시한 실시예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 당업자라면 본 발명의 실시예로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 보호범위는 특허청구범위에 의해서 정해져야 할 것이다.
100: 무인비행체
110: 짐벌
120: 완충기
130: 카메라
140: 초분광 센서
150: 통신부
200: 영상처리부
210: 통신모듈
220: 비행경로 설정모듈
230: 촬영영상 입력모듈
240: 정규화 수행모듈
250: 기하보정 수행모듈
260: 영상정합 수행모듈
261: 적분영상 연산모듈
262: 대응점 확인모듈
270: 초분광영상 출력모듈
300: 영상분석부
310: 초분광 관측값 입력모듈
320: 밴드비 연산모듈
330: 회귀분석모듈
340: 회귀식 결정모듈
350: 관측값 추정모듈

Claims (13)

  1. (a) 무인비행체(100)가, 설정된 비행경로를 따라 비행하면서, 초분광 센서(140)를 이용하여, 라인 스캐닝(line scanning)을 통해, 기 설정된 영상 단위마다 초분광정보를 획득하는 단계;
    (b) 기하보정 수행모듈(250)이, 상기 각각의 영상 단위마다 획득된 초분광정보에 대하여 각 픽셀의 위치정보를 이용하여 기하보정을 수행하는 단계;
    (c) 영상정합 수행모듈(260)이, 상기 기하보정이 수행된, 상기 각각의 영상 단위마다 획득된 초분광정보를 정합하여, 상기 수집영역의 초분광영상을 획득하는 단계;
    (d) 초분광 관측값 입력모듈(310)에 미리 결정된 다수의 지점 각각의 수심 관측값(Y)이 입력되는 단계;
    (e) 밴드비 연산모듈(320)이, 상기 미리 결정된 다수의 지점 각각에서, 상기 (c) 단계에서 획득된 초분광영상으로부터 다수의 파장(x)에 대한 화소값인 초분광 촬영값(I(x))을 확인하고, 초분광 촬영값에 포함된 다수의 파장(x) 중 임의의 2개의 파장의 쌍(λ1, λ2)을 선택하여, 각각에 대한 초분광 촬영값(I(λ1), I(λ2))을 확인하는 단계;
    (f) 상기 밴드비 연산모듈(320)이, 상기 확인된 2개의 초분광 촬영값(I(λ1), I(λ2))에서 어느 하나를 다른 하나로 나누어 밴드비(band ratio)(X)를 연산하는 단계; 및
    (g) 회귀분석모듈(330)이, 상기 수심 관측값(Y)과 상기 연산된 밴드비(X)가 선형관계에 있음을 가정하고, 상기 다수의 지점에서의 상기 수심 관측값(Y)과 상기 연산된 밴드비(X)를 이용하여, 회귀식(Y=aX+b)의 a와 b를 연산함으로써, 회귀식(Y=aX+b)을 생성하는 단계를 포함하며,
    상기 생성된 회귀식을 이용하여 초분광영상으로부터 수심을 추정하는,
    초분광영상을 이용한 수심 추정 방법.
  2. 제 1 항에 있어서,
    상기 (g) 단계 이후,
    (h) 상기 회귀분석모듈(330)이, 상기 초분광 촬영값에 포함된 상기 다수의 파장 중 상기 (e) 단계에서의 2개의 파장의 쌍을 제외한 다른 임의의 파장을 선택하여, 이에 대한 초분광 촬영값을 확인하고, 상기 (f) 내지 (g) 단계를 반복함으로써, 다수의 2개의 파장의 쌍마다 각각 회귀식을 생성하는 단계;
    (i) 회귀식 결정모듈(340)이, 상기 생성된 다수의 회귀식 중 상관계수(correlation)가 가장 높은 회귀식을 선택하는 단계;
    (j) 상기 회귀식 결정모듈(340)이, 상기 (g) 단계에서 선택된 회귀식에 사용된 밴드비(X)에 적용된 2개의 파장을, 최적 밴드비 파장의 쌍으로 결정하는 단계를 더 포함하며,
    상기 선택된 회귀식을 이용하여 초분광영상으로부터 수심을 추정하는,
    초분광영상을 이용한 수심 추정 방법.
  3. 제 2 항에 있어서,
    상기 (j) 단계 이후,
    (k) 관측값 추정모듈(350)이, 상기 다수의 지점 이외의 지점의 초분광 촬영값에서, 상기 (j) 단계에서 결정된 최적 밴드비 파장의 쌍에 해당하는 2개의 초분광 촬영값을 확인하고, 어느 하나를 다른 하나로 나누어 해당 지점의 밴드비를 연산하는 단계; 및
    (l) 상기 관측값 추정모듈(350)이, 상기 (g) 단계에서 선택된 회귀식에 상기 연산된 밴드비를 입력하여 해당 지점의 수심 관측값을 추정하는 단계를 더 포함하는,
    초분광영상을 이용한 수심 추정 방법.
  4. 제 3 항에 있어서,
    상기 (l) 단계는,
    상기 관측값 추정모듈(350)이 초분광영상에서 근적외선에 해당하는 파장에 대한 빛의 세기를 이용하여 정규식생지수(NDWI)를 연산하는 단계; 및
    상기 관측값 추정모듈(350)이 상기 연산된 정규식생지수(NDWI)가 0보다 작은 경우 수심을 0으로 출력하는 단계를 더 포함하는,
    초분광영상을 이용한 수심 추정 방법.
  5. 제 4 항에 있어서,
    상기 정규식생지수(NDWI)는 아래의 수식으로 연산되며,
    Figure pat00012

    여기에서, NIR은 상기 초분광정보에 포함된 값 중 근적외선에 해당하는 파장에서의 빛의 세기이고, Green은 상기 초분광정보에 포함된 값 중 녹색에 해당하는 파장에서의 빛의 세기인,
    초분광영상을 이용한 수심 추정 방법.
  6. 제 3 항에 있어서,
    상기 (i) 단계는,
    상기 회귀식 결정모듈(340)이, 상기 생성된 다수의 회귀식에 대한 상관계수를 연산하여, 2개의 파장의 쌍에서 각각의 파장을 X축 및 Y축으로 하는 상관계수 맵을 생성하는 단계를 포함하고,
    상기 (i) 단계는,
    상기 회귀식 결정모듈(340)이, 상기 (i) 단계에서 생성된 상관계수 맵을 이용하여 상관계수가 가장 높은 지점을 결정하고, 해당 지점을 구성하는 각각의 파장을 상기 최적 밴드비 파장의 쌍으로 결정하는 단계를 포함하는,
    초분광영상을 이용한 수심 추정 방법.
  7. 제 1 항에 있어서,
    상기 (c) 단계는,
    (c11) 대응점 확인 모듈(262)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 어느 두 개의 초분광정보(A, B)에 있어서, 어느 하나의 초분광정보(A)의 어느 하나의 픽셀의 XY 좌표(x, y) 및 해당 좌표에서의 화소값(I(x, y))에 대하여, 다른 하나의 초분광정보(B)의 어느 하나의 픽셀의 XY 좌표(x', y') 및 해당 좌표에서의 화소값(I(x', y'))의 정규상관계수(normalized correlation)를 연산하되, 상기 어느 하나의 초분광정보(A)의 모든 픽셀 각각에 대하여 상기 다른 하나의 초분광정보(B)의 모든 픽셀 각각의 정규상관계수를 모두 연산함으로써, 정규상관계수의 값이 큰 지점의 XY좌표를 상기 두 개의 초분광정보(A, B)의 대응점으로 확인하는 단계;
    (c12) 상기 영상정합 수행모듈(260)이 상기 확인된 대응점을 기준으로 상기 두 개의 초분광정보(A, B)를 영상 정합하는 단계; 및
    (c13) 상기 영상정합 수행모듈(260)이 상기 (c11) 내지 (c12) 단계를, 상기 (a) 단계에서 획득된 각각의 영상 단위마다의 초분광정보의 각 쌍마다 수행하여, 영상정합된 상기 수집영역의 초분광영상을 획득하는 단계를 포함하는,
    초분광영상을 이용한 수심 추정 방법.
  8. 제 7 항에 있어서,
    상기 (c11) 단계 이전에,
    (c21) 적분영상 연산모듈(261)이, 상기 기하 보정이 수행된 각각의 영상 단위마다 획득된 초분광정보에서, 각각의 픽셀마다, 어느 하나의 기준 좌표를 기준으로 하여 적분영상(integral image) 화소값을 연산하는 단계를 더 포함하며,
    상기 (c11) 단계에서의 화소값은, 상기 (c21) 단계에서 연산된 적분영상 화소값인,
    초분광영상을 이용한 수심 추정 방법.
  9. 제 8 항에 있어서,
    상기 (c21) 단계 이전에,
    (c31) 정규화 모듈(240)이, 어느 하나의 영상 단위의 초분광정보의 픽셀의 XY 좌표들을 정수의 순서쌍(x, y)으로 설정하고, 상기 설정된 XY 좌표들의 평균 좌표를 연산하고, 상기 연산된 평균 좌표를 원점(0, 0)으로 설정하여 각 정수의 순서쌍(x, y) 사이의 단위 거리가 √2가 되도록, 상기 XY 좌표(x, y)를 정규화된 XY 좌표(x', y')로 이동시킴으로써, 상기 어느 하나의 영상 단위의 초분광정보를 정규화하는 단계를 더 포함하는,
    초분광영상을 이용한 수심 추정 방법.
  10. 제 9 항에 있어서,
    상기 (c31) 단계 이후,
    (c32) 상기 정규화 모듈(240)이 상기 어느 하나의 초분광정보의 정규화 전 XY 좌표(x, y)와 정규화된 이후의 XY 좌표(x', y')의 값을 이용하여, 매개변수를 포함한 행렬식인 호모그래피(homography)(H)를 연산하는 단계; 및
    (c33) 상기 연산된 호모그래피(H)를 이용하여, 다른 하나의 초분광정보를 정규화하는 단계를 포함하는,
    초분광영상을 이용한 수심 추정 방법.
  11. 제 10 항에 있어서,
    상기 (c32) 단계에서 동차좌표계(homogeneous coordinates)가 활용되어 정규화 전 XY 좌표는 (x, y, 1)로서 행렬식 A로 지칭되고, 정규화된 이후의 XY 좌표는 (x', y', 1)로서 행렬식 A'로 지칭되며, 다음의 수식을 이용하되 다수의 XY 좌표를 활용하여, 호모그래피(H)가 연산되며,
    Figure pat00013

    상기 (c33) 단계는, 다른 하나의 초분광정보를 행렬식 A에 대입하여, 정규화된 XY 좌표인 행렬식 A'가 연산되는,
    초분광영상을 이용한 수심 추정 방법.
  12. 컴퓨터 판독 가능한 기록 매체에 저장되어
    제 1 항 내지 제 11 항 중 어느 한 항에 따른 방법을 실행시키는 프로그램.
  13. 제 1 항 내지 제 11 항 중 어느 한 항에 따른 방법을 실행하기 위한 프로그램 코드가 기록된 컴퓨터 판독 가능한 기록 매체.
KR1020190000700A 2019-01-03 2019-01-03 초분광영상을 이용한 수심 추정 방법 KR102164522B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190000700A KR102164522B1 (ko) 2019-01-03 2019-01-03 초분광영상을 이용한 수심 추정 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190000700A KR102164522B1 (ko) 2019-01-03 2019-01-03 초분광영상을 이용한 수심 추정 방법

Publications (2)

Publication Number Publication Date
KR20200084974A true KR20200084974A (ko) 2020-07-14
KR102164522B1 KR102164522B1 (ko) 2020-10-13

Family

ID=71526821

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190000700A KR102164522B1 (ko) 2019-01-03 2019-01-03 초분광영상을 이용한 수심 추정 방법

Country Status (1)

Country Link
KR (1) KR102164522B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114092534A (zh) * 2021-11-19 2022-02-25 哈尔滨工业大学 高光谱图像与激光雷达数据配准方法及配准系统
KR20220065435A (ko) * 2020-11-13 2022-05-20 단국대학교 산학협력단 옵티컬 플로우를 활용한 초분광영상의 영상정합 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033294A (ja) * 2004-07-14 2006-02-02 Starlabo Corp 画像処理装置
KR101621354B1 (ko) * 2016-03-31 2016-05-20 주식회사 지오스토리 항공 초분광영상을 활용한 수심 보정 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033294A (ja) * 2004-07-14 2006-02-02 Starlabo Corp 画像処理装置
KR101621354B1 (ko) * 2016-03-31 2016-05-20 주식회사 지오스토리 항공 초분광영상을 활용한 수심 보정 방법

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
신명식, et al. "연안 해저 재질 분석을 위한 초분광영상의 보정 방법." 한국지리정보학회지 19.2 (2016) *
신정일, et al. "연안 해저 피복 분류를 위한 항공 초분광영상의 수심보정." 한국공간정보학회지 23.2 (2015) *
유영화, 김윤수, and 이선구. "초분광 위성영상을 이용한 수심산정에 관한 연구." 항공우주기술 7.1 (2008) *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220065435A (ko) * 2020-11-13 2022-05-20 단국대학교 산학협력단 옵티컬 플로우를 활용한 초분광영상의 영상정합 방법
CN114092534A (zh) * 2021-11-19 2022-02-25 哈尔滨工业大学 高光谱图像与激光雷达数据配准方法及配准系统

Also Published As

Publication number Publication date
KR102164522B1 (ko) 2020-10-13

Similar Documents

Publication Publication Date Title
KR102313438B1 (ko) 초분광영상을 이용한 하상 변동속도 측정 방법
US9798928B2 (en) System for collecting and processing aerial imagery with enhanced 3D and NIR imaging capability
KR101105795B1 (ko) 항공 화상의 자동 처리
US11184604B2 (en) Passive stereo depth sensing
JP5992184B2 (ja) 画像データ処理装置、画像データ処理方法および画像データ処理用のプログラム
US8737720B2 (en) System and method for detecting and analyzing features in an agricultural field
JP4181800B2 (ja) ステレオ画像を用いた地形計測システム及び記憶媒体並びにプログラム
KR102169687B1 (ko) 무인비행체를 이용한 초분광영상 획득 방법
KR102313437B1 (ko) 초분광영상을 이용한 하천 지형측량 방법
US10373339B2 (en) Hyperspectral scene analysis via structure from motion
US9679382B2 (en) Georeferencing method and system
Oliveira et al. Generating a hyperspectral digital surface model using a hyperspectral 2D frame camera
Jurado et al. An efficient method for generating UAV-based hyperspectral mosaics using push-broom sensors
EP4066162A1 (en) System and method for correspondence map determination
KR102164522B1 (ko) 초분광영상을 이용한 수심 추정 방법
US20230052582A1 (en) Systems and methods for image processing based on optimal transport and epipolar geometry
KR102142616B1 (ko) 밴드비를 이용한 초분광영상 활용 방법
CN113012084A (zh) 无人机影像实时拼接方法、装置及终端设备
Khezrabad et al. A new approach for geometric correction of UAV-based pushbroom images through the processing of simultaneously acquired frame images
KR102295630B1 (ko) 밴드지수를 이용한 초분광영상 활용 방법
JP4223860B2 (ja) 画像マッチング方法
JP7446320B2 (ja) 画像処理装置、ヘッドマウントディスプレイ、および空間情報取得方法
Pateraki et al. Analysis and performance of the Adaptive Multi-Image matching algorithm for airborne digital sensor ADS40
Pyka Comparison of quality of metric photos relative orientation in Micmac and PhotoScan
Franzini et al. Weighted ICP point clouds registration by segmentation based on eigenfeatures clustering

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant