KR101928393B1 - 적외선 영상과 레이더 영상의 융합방법 및 장치 - Google Patents
적외선 영상과 레이더 영상의 융합방법 및 장치 Download PDFInfo
- Publication number
- KR101928393B1 KR101928393B1 KR1020170090384A KR20170090384A KR101928393B1 KR 101928393 B1 KR101928393 B1 KR 101928393B1 KR 1020170090384 A KR1020170090384 A KR 1020170090384A KR 20170090384 A KR20170090384 A KR 20170090384A KR 101928393 B1 KR101928393 B1 KR 101928393B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- fusion
- radar
- infrared
- radar image
- Prior art date
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 179
- 238000000034 method Methods 0.000 title claims description 42
- 238000006243 chemical reaction Methods 0.000 claims abstract description 17
- 238000010606 normalization Methods 0.000 claims abstract description 16
- 238000001914 filtration Methods 0.000 claims abstract description 14
- 238000004519 manufacturing process Methods 0.000 claims abstract description 9
- 238000007500 overflow downdraw method Methods 0.000 claims description 14
- 230000005855 radiation Effects 0.000 claims description 5
- 230000009466 transformation Effects 0.000 claims description 3
- 238000000605 extraction Methods 0.000 abstract description 4
- 238000012544 monitoring process Methods 0.000 abstract description 4
- 238000001514 detection method Methods 0.000 abstract description 3
- 230000003287 optical effect Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000001174 ascending effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000005684 electric field Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 101100423891 Caenorhabditis elegans qars-1 gene Proteins 0.000 description 1
- 235000015842 Hesperis Nutrition 0.000 description 1
- 235000012633 Iberis amara Nutrition 0.000 description 1
- 229910000831 Steel Inorganic materials 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229910052755 nonmetal Inorganic materials 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/865—Combination of radar systems with lidar systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G06T5/002—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10044—Radar image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Networks & Wireless Communication (AREA)
- Image Processing (AREA)
Abstract
본 발명은 특정지역에 대한 적외선 영상과 레이더 영상을 각각 획득하는 영상 획득부, 상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화부, 상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출부, 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조정부, 상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정부, 상기 적외선 영상과 레이더 영상의 융합 계수를 결정하는 융합 계수 결정부, 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작부 및 상기 융합영상의 색상을 변환하는 융합영상 색상 변환부를 포함하는 적외선 영상과 레이더 영상의 융합장치에 관한 것이다.
본 발명에 따르면, 지표의 정보를 관측하는 여러 분야에 전반적으로 활용이 가능하며, 특히 지표의 온도특성에 대한 구분을 용이하게 할 수 있어서 영상분류, 표적 탐지, 식생모니터링을 비롯한 객체 인식 등 다양한 분야에 폭넓게 적용될 수 있는 효과가 있다.
본 발명에 따르면, 지표의 정보를 관측하는 여러 분야에 전반적으로 활용이 가능하며, 특히 지표의 온도특성에 대한 구분을 용이하게 할 수 있어서 영상분류, 표적 탐지, 식생모니터링을 비롯한 객체 인식 등 다양한 분야에 폭넓게 적용될 수 있는 효과가 있다.
Description
본 발명은 적외선 영상과 레이더 영상의 융합방법 및 장치에 관한 것으로 더욱 상세하게는 저해상도의 적외선 영상과 고해상도의 레이더 영상을 융합하여 저해상도 적외선 영상에 나타나는 지표의 온도정보와 고해상도의 레이더 영상에 나타나는 지표의 공간적 분포 정보를 동시에 제공할 수 있는 적외선 영상과 레이더영상의 융합 방법 및 그 장치에 관한 것이다.
지구관측 위성에 탑재된 적외선센서는 지구에서 방출하는 복사에너지를 영상화 할 수 있는 것으로, 야간에도 촬영이 가능하며, 금속/비금속 탐지에 뛰어남으로 인하여 영상분류, 표적탐지, 객체인식을 포함하는 민간분야와, 목조로 구성된 로켓 또는 전차를 탐지할 수 있기에 군사분야에도 활용되고 있다. 그러나 8~15㎛ 파장대역의 지구복사에너지는 태양복사에너지에 비하여 에너지 총량이 적기 때문에 넓은 영역에서 지구복사에너지를 수집해야 하며, 이에 따라 고해상도의 적외선영상을 획득하는 것은 현실적으로 매우 어려운 실정이다.
즉, 적외선영상은 일반적으로 활용되는 광학영상과 달리 지표의 열정보를 제공함으로써 광학영상에서는 제공할 수 없는 정보를 추가로 제공하기에 장점이 있으나, 낮은 해상도로 인하여 지표의 객체를 인식하는 데는 한계가 있다. 이에 따라, 최근에는 적외선영상에 나타나는 지표의 객체인식을 향상시키기 위하여 고해상 광학영상 또는 적외선영상과 융합하는 영상융합기법(data fusion)이 활용되고 있다.
이는 하나의 센서에서 제공하는 영상정보의 한계점을 극복할 수 있는 기술로서, 다양한 영상들과의 융합을 통하여 해상도를 향상시키는 기술개발이 시도 되고 있으며, 이는 한국등록특허 제10-1132272호 “영상의 분광 및 공간특성이 반영된 융합계수를 이용하여 고해상도 위성영상을 융합하는 방법”, 한국등록특허 제10-1291219호 “전정색 영상과 다분광 영상의 융합 방법 및 그 장치”등을 통해 개시되고 있다.
한편, 영상융합의 성능을 극대화하기 위해서는 융합을 위한 각각의 영상이 동일 촬영시간에 촬영된 영상을 융합하는 것이 적합하다. 예를 들어, 주간에 촬영된 적외선영상의 경우, 주간에 촬영된 광학영상 또는 전정색 영상과 융합을 하는 것이 대기 중 수분량에 의한 왜곡을 저감시킬 수 있다. 이와 마찬가지로 야간에 촬영된 적외선영상은 야간에 촬영된 고해상 광학영상 또는 전정색 영상과 융합을 수행해야 하나, 광학영상과 전정색 영상의 경우 태양복사에너지를 영상화하여 제작한 영상으로 오직 주간에만 영상을 획득할 수 있는 한계점이 있다. 따라서, 야간에 관측된 적외선 영상에서 제공하는 지표의 열정보에 대한 해상도를 개선하기 위해서는 야간에 관측된 고해상 위성영상과의 융합이 요구되고 있다.
한편, 야간에도 영상을 촬영할 수 있는 레이더 위성은 능동적으로 마이크로파를 전파하여 산란되어 되돌아오는 전기장을 측정할 수 있는 위성이다. 되돌아온 전기장의 강도(intensity)는 지표의 반사특성을 고해상도로 제공할 수 있기 때문에 전정색 영상과 마찬가지로 지표의 공간적 상세정보를 제공할 수 있는 장점이 있다. 따라서, 야간에도 촬영할 수 있는 적외선영상의 활용도를 극대화시키기 위해서는 야간에도 영상획득이 가능한 레이더 영상과의 융합기술이 요구되고 있는 실정이다.
본 발명의 목적은 저해상도 적외선 영상과 고해상도 레이더 영상을 융합하여 저해상 적외선 영상에 나타나는 지표의 속성정보와 고해상 레이더 영상에 나타나는 지표의 상세정보를 동시에 정확하고 효과적으로 나타낼 수 있는 적외선 영상과 레이더 영상의 융합 방법 및 그 장치를 제공하는 것이다.
이러한 목적을 달성하기 위하여 본 발명에 따른 적외선 영상과 레이더 영상의 융합장치는 특정지역에 대한 적외선 영상과 레이더 영상을 각각 획득하는 영상 획득부, 상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화부, 상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출부, 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조정부, 상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정부, 상기 적외선 영상과 레이더 영상의 융합 계수를 결정하는 융합 계수 결정부, 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작부 및 상기 융합영상의 색상을 변환하는 융합영상 색상변환부를 포함하는 것으로 구성된다.
상기 영상 획득부는 적외선 영상과 레이더 영상의 좌표변환을 통해 좌표체계를 동일하게 하고, 영상정합을 통해 영상의 위치를 일치시키며, 정사보정을 통해 수직방향 시야 보정을 수행할 수 있다.
상기 입력영상 정규화부는 상기 적외선 영상과 레이더 영상의 각각의 화소값의 복사해상도의 최소치와 최대치로 정규화하여 영상의 노이즈를 제거할 수 있다.
상기 공간적 상세정보 추출부는 저주파 필터링을 통해 저주파 레이더 영상을 제작하고, 원레이더 영상과 상기 저주파 레이더 영상을 차분하여 고주파 레이더 영상을 제작하는 것으로 공간적 상세정보를 추출할 수 있다.
상기 영상크기 조정부는 내삽법을 이용하여 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절할 수 있다.
상기 융합가중치 결정부는 상기 적외선 영상에 나타나는 지표의 온도특성 정보와 상기 레이더 영상에 나타나는 공간적 상세정보의 융합비율을 결정하는 것으로 융합 가중치를 결정할 수 있다.
상기 융합계수 추정부는 상기 적외선 영상과 레이더 영상의 전체 화소의 표준 편차를 이용하여 융합계수를 추정하는 방법, 상기 영상들의 국지적인 화소의 표준편차의 합을 이용하여 융합계수를 추정하는 방법 및 상기 영상들의 정규화된 입력영상 값의 범위를 이용하여 융합계수를 추정하는 방법으로 이루어진 군에서 선택된 방법으로 융합 계수를 추정할 수 있다.
상기 융합영상 제작부는 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 모두 서로 곱한 값을 상기 정규화된 적외선 영상에 합산하여 융합영상을 제작할 수 있다.
상기 융합영상 색상변환부는 상기 융합영상의 색상테이블 값을 0 내지 255의 값을 갖도록 색상 변환할 수 있다.
본 발명은 또한 상기 목적을 달성하기 위해, 특정지역에 대한 적외선 영상과 레이더 영상을 각각 획득하는 영상 획득단계, 상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화 단계, 상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출단계, 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조절단계, 상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정단계, 상기 적외선 영상과 레이더 영상의 융합 계수를 결정하는 융합 계수 결정단계, 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작단계 및 상기 융합영상의 색상을 변환하는 융합영상 색상변환 단계를 포함하는 적외선 영상과 레이더 영상의 융합방법을 제공한다.
본 발명은 또한 상기 목적을 달성하기 위해, 상기 융합방법을 실행하기 위한 프로그램이 기록되어 있는 컴퓨터에서 판독 가능한 기록 매체를 제공한다.
본 발명에 따른 적외선 영상과 레이더 영상의 융합방법 및 장치는 지표의 정보를 관측하는 여러 분야에 전반적으로 활용이 가능하며, 특히 지표의 온도특성을 가시적으로 이해할 수 있어서 영상분류, 표적 탐지, 식생모니터링, 토양수분량 추출을 비롯한 객체 인식 등 군사분야를 비롯한 민간분야에 적용될 수 있는 효과가 있다.
도 1은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 장치에 관한 구성을 개략적으로 나타낸 모식도이다.
도 2는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합방법에 대한 순서를 나타낸 모식도이다.
도 3은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상 융합 장치에 관한 흐름을 이미지로 나타낸 모식도이다.
도 4는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상 융합 방법을 통한 다중편파레이더영상과 레이더영상의 예를 나타낸 이미지이다.
도 5는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 융합가중치에 따른 영상융합의 결과를 나타낸 이미지이다.
도 6은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 도심지의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합영상과 색상 변환된 융합영상의 예를 나타낸 이미지이다.
도 7은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 산악지역의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합 영상과 색상 변환된 융합영상의 예를 나타낸 이미지이다.
도 8은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 농경지의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합영상과 색상 변환된 융합영상의 예를 나타낸 이미지이다.
도 2는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합방법에 대한 순서를 나타낸 모식도이다.
도 3은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상 융합 장치에 관한 흐름을 이미지로 나타낸 모식도이다.
도 4는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상 융합 방법을 통한 다중편파레이더영상과 레이더영상의 예를 나타낸 이미지이다.
도 5는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 융합가중치에 따른 영상융합의 결과를 나타낸 이미지이다.
도 6은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 도심지의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합영상과 색상 변환된 융합영상의 예를 나타낸 이미지이다.
도 7은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 산악지역의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합 영상과 색상 변환된 융합영상의 예를 나타낸 이미지이다.
도 8은 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 농경지의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합영상과 색상 변환된 융합영상의 예를 나타낸 이미지이다.
이하, 본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략하기로 한다. 또한 본 발명의 실시예들을 설명함에 있어 구체적인 수치는 실시예에 불과하다.
도 1에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 장치에 관한 구성을 개략적으로 나타낸 모식도가 도시되어 있고, 도 2에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합방법에 대한 순서를 나타낸 모식도가 개시되어 있으며, 도 3에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상 융합 장치에 관한 흐름을 이미지로 나타낸 모식도가 개시되어 있다.
도 4에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상 융합 방법을 통한 다중편파레이더영상과 레이더영상의 예를 나타낸 이미지가 개시되어 있고, 도 5에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 융합가중치에 따른 영상융합의 결과를 나타낸 이미지가 개시되어 있으며, 도 6에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 도심지의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합영상과 색상 변환된 융합영상의 예를 나타낸 이미지가 개시되어 있다.
도 7에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 산악지역의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합 영상과 색상 변환된 융합영상의 예를 나타낸 이미지가 개시되어 있고, 도 8에는 본 발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법을 통한 농경지의 적외선 영상과 레이더 영상과 고주파 레이더 영상과 제작된 융합영상과 색상 변환된 융합영상의 예를 나타낸 이미지가 개시되어 있다.
이들 도면을 참조하면, 본 발명에 따른 적외선 영상과 레이더 영상의 융합장치는 특정지역에 대한 적외선 영상과 레이더 영상을 각각 획득하는 영상 획득부(110), 상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화부(120), 상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출부(130), 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조정부(140), 상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정부(150), 상기 적외선 영상과 레이더 영상의 융합 계수를 결정하는 융합 계수 결정부(160), 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작부(170) 및 상기 융합영상의 색상을 변환하는 융합영상 색상변환부(180)를 포함하는 것으로 구성된다.
즉 본 발명에 따른 적외선 영상과 레이더 영상의 융합장치는 저해상 적외선 영상에 나타나는 지표의 온도정보와 고해상 레이더영상에서 제공하는 지표의 상세정보를 동시에 제공할 수 있다. 구체적으로, 적외선 영상과 레이더 영상을 융합함으로써 적외선 영상에 나타나는 지표특성을 사용자가 가시적으로 이해할 수 있도록 하며, 융합 가중치 결정을 통해 사용자가 자유로이 적외선 영상과 레이더 영상의 융합 비율을 결정하여 융합영상에 반영되도록 할 수 있다.
또한, 융합계수 추정을 통해 자동적으로 적외선 영상과 레이더 영상의 융합비율을 최적 비율로 조절하여 영상 분석의 정확성과 신뢰도를 향상시킬 수 있으며, 융합가중치 결정과 융합계수 추정을 통해 자동적으로 최적화된 융합비율을 결정할 수 있을 뿐만 아니라, 사용자의 요구사항까지 반영된 융합영상을 제작할 수 있다.
더욱이 본 발명에 따른 적외선 영상과 레이더 영상의 융합장치는 개발되는 위성영상처리 소프트웨어에 탑재되거나, 새로운 이종 센서로부터 획득된 정보를 동시에 제공할 수 있는 핵심기술로 적용될 수 있다.
또한, 예를 들어, 지구관측위성 중 적외선 영상을 획득할 수 있는 Landsat-5/7/8과 국내 지구관측위성인 Kompsat-3A, 레이더영상을 획득할 수 있는 ERS-1/2, Radarsat, Alos-1/2 및 국내 지구관측위성인 Kompsat-5에 적용하여 위성영상자료의 활용도를 극대화시킬 수 있다.
상기 영상 획득부(110)는 우선 동일한 좌표체계를 지닌 적외선 영상 및 레이더 영상을 획득한다.
즉, 영상 획득부(110)는 특정 지역을 촬영하여 얻어진 저해상도의 적외선 영상과 고해상도 레이더 영상을 각각 획득한다. 이와 관련하여, 상기 적외선 영상과 상기 레이더 영상은 서로 다른 탑재체에 의해 얻어진 영상으로 좌표체계가 다를 수 있다. 따라서, 적외선 영상과 레이더 영상을 융합할 경우, 동일한 타원체와 투영법을 가지도록 좌표변환 과정이 선행되어야 한다.
또한, 상기 저해상도의 적외선 영상과 상기 고해상도 레이더 영상은 상호적으로 위치가 일치해야 한다. 이와 같은 영상정합(co-registration)은 적외선 영상과 레이더 영상이 다른 탑재체에 의하여 촬영됨으로써 요구되는 과정이므로, 상기 영상 획득부(110)는 이러한 영상정합을 수행한다.
또한, 상기 저해상도의 적외선 영상과 상기 고해상도 레이더 영상은 융합을 위하여 정사보정이 수행되어야 한다. 정사보정이란 탑재체의 투영법에 의해 생긴 기복변위와 카메라 자세에 의해 발생한 변위를 제거하여 지도와 같이 정사투영된 특성을 가지도록 만드는 과정을 의미하며, 영상 내 모든 화소가 수직방향에서 본 것과 같은 형태를 갖도록 보정해 주는 것을 의미한다. 적외선 영상과 레이더 영상은 서로 다른 탑재체로부터 획득된 영상으로, 탑재체의 특성에 따라 촬영특성과 기하특성이 다르므로 정사보정 과정이 선행되는 것이 바람직하다.
즉, 상기 영상 획득부(110)에서는 융합을 위한 저해상도의 상기 적외선 영상과 상기 고해상도 레이더 영상을 획득하며, 획득된 영상은 좌표변환을 수행하여 좌표체계가 동일하도록 처리하고, 영상정합을 수행하여 상호적으로 위치가 일치하도록 처리하며, 정사보정을 수행하여 모든 영상이 수직방향에서 본 것과 같이 보정된 영상을 제작한다.
이와 관련하여, 도 4는 본 발명의 일 실시예로 Landsat-8 위성으로부터 촬영된 적외선 영상과 Kompsat-5A 위성으로부터 촬영된 레이더 영상을 보인다. 도 4a는 지표의 온도정보를 가지고 있는 것으로, 밝게 나타나는 지역은 높은 온도를 지닌 도심지일 가능성이 높으며, 어둡게 나타나는 지역은 수계 또는 식생지역일 가능성이 높다. 반면, 도 4b는 전자파의 강도를 나타내는 레이더 영상으로, 밝게 나타나는 지역은 센서로 되돌아오는 강도가 높기에 도심지일 가능성이 높다. 본 발명의 실시예인 저해상 적외선 영상(도 4a)은 120m의 공간해상도를 지닌다. 이에 따라 강, 도심지 및 산악지역 등의 대표적 지형지물은 서로 다른 온도를 지님으로 다른 밝기로 보이는 것은 구분할 수 있으나, 지형지물에 대한 상세정보는 알기 어렵다는 단점이 있다. 반면, 본 발명의 실시예인 고해상 레이더 영상(도 4b)은 5m의 공간해상도를 지니고 있으며, 이에 따라 도로, 도심지 및 농경지 등의 지형지물이 자세히 표현되고 있음을 알 수 있다.
즉, 저해상 적외선 영상의 경우 지표의 온도정보를 제공할 수 있는 장점이 있으나, 낮은 해상도로 인하여 지형지물을 확인하기 어려운 단점이 존재한다. 이에 따라 저해상 적외선 영상의 온도정보에 고해상 레이더 영상의 지표의 상세정보를 동시에 제공하게 될 경우, 지형지물에 따른 지표의 온도정보를 직관적으로 이해하는데 효과적일 수 있다.
상기 입력영상 정규화부(120)는 획득된 상기 저해상 적외선 영상과 상기 고해상 레이더 영상의 화소값을 지닐 수 있는 복사해상도의 최소치와 최대치로 분류하여 정규화를 수행한다.
즉, 상기 입력영상 정규화부(120)는 정규화를 통하여 각각의 화소값을 복사해상도의 최소치와 최대치로 분류하여 정규화를 수행하며, 해당 과정에서 영상의 노이즈를 제거하게 된다.
구체적으로 상기 입력영상 정규화부(120)는 아래 수학식 1을 통하여 영상의 정규화를 수행하며, 노이즈가 제거된 정규화된 영상 
을 획득한다.
[수학식 1]
이때, 
는 정규화된 영상의 픽셀값을 나타내며, 
와 
는 각각 라인방향과 픽셀방향의 영상좌표를 나타낸다. 또한 
와 
는 입력영상을 오름차순으로 나열하였을 때 0.5%에 해당하는 값과 99.5%에 해당하는 값을 나타낸다. 이는 위성영상에는 반드시 노이즈가 전체 화소 수의 1%의 양만큼 존재한다는 가정에 따른 것으로, 실질적으로 위성영상의 최소값 및 최대값은 1%의 노이즈를 제거하고 계산하여야 한다.
또한 
및 
은 센서 복사해상도에 따른 최대값 및 최소값을 의미한다. 여기서 복사해상도는 센서의 민감도를 의미하며, 과거에 운용되었던 Landsat-5 위성의 경우, 센서의 복사해상도는 8bit로 이는 영상값의 범위가 0부터 255까지 지닐 수 있음을 의미한다. 반면 최근에 운용되고 있는 Kompsat-3A, Kompsat-5 및 Landsat-8의 복사해상도는 16bit로 이는 영상값의 범위가 0부터 65535까지 지닐 수 있다. 여기서 각각 입력영상의 복사해상도가 다를 경우 높은 복사해상도의 
와 
값을 적용하여야 한다.
상기 공간적 상세정보 추출부(130)에서는 고해상 레이더 영상을 대상으로 필터링을 거쳐 저주파 레이더 영상 및 고주파 레이더 영상을 각각 제작한다. 구체적으로, 상기 공간적 상세정보 추출부(130)는 고해상 레이더 영상으로부터 고주파 레이더 영상을 제작한다. 여기서 고주파 레이더 영상은 영상 내 존재하는 지형지물의 고주파 성분만 추출된 영상으로 곧 공간적 상세정보를 의미한다.
이와 관련하여, 상기 공간적 상세정보 추출부(130)에서는 공간적 상세정보를 획득하기 위하여 선행적으로 저주파 필터링을 통해 저주파 레이더 영상을 제작한다. 여기서, 저주파 필터링은 공간영역(spatial domain) 또는 주파수영역(frequency domain)에서 수행할 수도 있다. 저주파 필터링을 통해 제작된 저주파 레이더 영상은 일반적으로 영상의 속성정보만을 지니는 것으로 가정할 수 있다.
공간영역에서 저주파 레이더 영상을 제작하기 위하여, 일정 크기의 윈도우를 적용하여 블록 평균영상을 제작한다. 여기서, 블록 평균영상을 제작하는 과정의 경우, 윈도우의 크기는 저해상 적외선 영상의 공간해상도와 고해상 레이더 영상의 공간해상도 비를 고려하여 결정된다.
상기 공간적 상세정보 추출부(130)에서는 원 레이더 영상과 상기 저주파 레이더 영상을 차분하는 것으로 고주파 레이더영상을 제작한다.
구체적으로, 원 레이더 영상은 저주파 레이더 영상과 고주파 레이더 영상의 합으로 이루어지며, 저주파 필터링을 통해 저주파 레이더 영상을 제작하고, 원 레이더 영상에서 저주파 레이더 영상을 차분함으로써 고주파 레이더 영상을 제작할 수 있다. 이때, 상기 고주파 레이더 영상 
는 하기 수학식 2을 통하여 얻어진다.
[수학식 2]
이때, 
는 고주파 레이더영상의 픽셀값을 나타내며, 
와 
는 각각 라인방향과 픽셀방향의 영상좌표를 나타낸다. 또한 
는 상기 입력영상 정규화부(120)에서 정규화된 레이더영상을 나타내며, 
는 상기 정규화된 레이더 영상에서 저주파 성분을 나타내는 것으로 저주파 필터링을 통해 제작할 수 있다.
상기 영상 크기 조정부(140)에서는 저해상 적외선 영상의 크기와 고해상 레이더 영상의 크기를 동일하게 조정한다. 즉, 상기 영상크기 조정부(140)에서는 저해상 적외선 영상의 크기를 고해상 레이더 영상의 크기와 동일하도록 내삽법(interpolation)을 활용하여 조정한다. 일반적으로 내삽을 위한 방법은 이웃화소내삽법(nearest neighbor interpolation), 양선형 내삽법(bilinear interpolation), 3차 회선내삽법(cubic convolution interpolation) 및 B-스플라인 내삽법(B-spline interpolation) 등을 이용할 수 있다.
상기 융합 가중치 결정부(150)에서는 적외선 영상과 레이더영상의 융합 가중치를 결정한다.
즉, 상기 융합 가중치 결정부(150)는 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 것으로, 프로그램에 의해 자동으로 정해진 융합 가중치가 결정될 수도 있으며, 사용자가 가중치를 결정함에 따라 사용자가 원하는 융합영상을 제작할 수도 있다.
또한, 상기 융합 가중치 결정부(150)에서 결정된 가중치는 저해상 적외선 영상에 나타나는 지표의 산란정보와 고해상 레이더 영상에 나타나는 공간적 상세정보의 융합 비율을 결정할 수 있다.
예를 들어, 상기 융합 가중치 결정부(150)에서 가중치의 값의 범위는 0이상의 값을 지닐 수 있다. 가중치가 0일 경우, 이는 레이더 영상의 공간적 상세정보를 반영하지 않는 것을 의미하며, 가중치가 1일 경우 적외선 영상에 나타나는 지표의 온도정보와 레이더 영상에 나타나는 공간적 상세정보를 동일 비율로 융합하는 것을 의미하며, 가중치가 1 이상일 경우, 공간적 상세정보가 더 반영이 된 융합영상을 제작할 수 있음을 의미할 수 있다.
따라서, 상기 융합 가중치 결정부(150)는 수학적 결과에 의하여 융합비율을 결정할 수도 있으며, 경우에 따라서, 사용자가 임의로 융합 가중치를 결정함으로써, 사용자가 자유로이 적외선 영상과 레이더 영상의 융합 비율을 결정하여 융합영상에 반영되도록 할 수 있는 장점이 있다.
상기 융합계수 추정부(160)는 적외선 영상과 레이더 영상의 융합계수를 추정하는 것으로, 이러한 융합계수에 따라 융합비율이 결정되며, 수학적인 계산을 통하여 적외선 영상과 레이더 영상의 융합계수를 추정한다.
즉, 상기 융합계수 추정부(160)는 수학적인 계산을 통하여 저해상 적외선 영상에 나타나는 지표의 온도정보와 고해상 레이더 영상에 나타나는 공간적 상세정보의 융합비율을 결정한다.
구체적으로, 상기 융합계수 추정부(160)는 상기 적외선 영상과 레이더 영상의 전체 화소의 표준 편차를 이용하여 융합계수를 추정하는 방법, 상기 영상들의 국지적인 화소의 표준편차의 합을 이용하여 융합계수를 추정하는 방법 및 상기 영상들의 정규화된 입력영상 값의 범위를 이용하여 융합계수를 추정하는 방법으로 이루어진 군에서 선택된 방법으로 융합 계수를 추정할 수 있다.
먼저, 상기 적외선 영상과 레이더 영상의 전체 화소의 표준 편차를 이용하여 융합계수를 추정하는 방법은 융합계수 
가 아래 수학식 3을 통해 얻어진다.
[수학식 3]
이때, 
는 융합계수 추정방법에 의하여 결정된 융합계수를 나타내며, 
는 적외선영상의 표준편차값을 나타내며, 
은 레이더영상의 표준편차값을 나타낸다.
또한, 융합계수 추정부(160)에서는 국지적 화소들의 표준편차합을 이용하여 융합계수를 추정할 수 있으며, 이 경우 융합계수 
는 아래 수학식 4를 통해 얻어진다.
[수학식 4]
이때, 
는 융합계수 추정방법에 의하여 결정된 융합계수를 나타내며, 
와 
는 각각 라인방향과 픽셀방향의 영상좌표를 나타낸다. 
과 
은 각각 라인방향과 픽셀방향의 총 픽셀 수를 나타낸다. 
는 적외선영상에서 
번째 라인방향과 
번째 픽셀방향의 화소값을 기준으로 주변영역의 표준편차값을 나타내며, 
는 레이더영상에서 
번째 라인방향과 
번째 픽셀방향의 화소값을 기준으로 주변영역의 표준편차값을 나타낸다.
또한, 융합계수 추정부(160)에서는 상기 입력영상 정규화부에서 정규화된 입력영상의 값의 범위를 이용하여 융합계수를 추정할 수 있으며, 이 경우 융합계수 
는 하기 수학식 5를 통해 얻어진다.
[수학식 5]
이때, 
는 융합계수 추정방법에 의하여 결정된 융합계수를 나타내며, 
과 
은 각각 정규화된 적외선 영상과 레이더 영상을 나타내며, 0.5%와 99.5%는 정규화된 영상값을 오름차순으로 나열하였을 때 0.5%에 해당하는 값과 99.5%에 해당하는 값을 나타낸다.
상기 융합영상 제작부(170)에서는 저해상 적외선 영상과 고해상 레이더 영상을 융합한다.
더 자세히 설명하자면, 융합영상 제작부(170)에서는 상기 공간적 상세정보 추출부(130)에서 추출된 공간적 상세정보와 상기 융합가중치 결정부(150)에서 결정된 융합가중치와 상기 융합계수 추정부(160)에서 추정된 융합계수를 이용하여 융합영상을 제작한다.
더 자세히 설명하자면, 융합영상 제작부(170)에서는 상기 공간적 상세정보 추출부(130)에서 추출된 공간적 상세정보와 상기 융합가중치 결정부(150)에서 결정된 융합가중치와 상기 융합계수 추정부(160)에서 추정된 융합계수를 곱하고 난 다음, 저해상 적외선 영상에 합산하는 것으로 융합영상을 제작하는 것으로, 융합영상 
은 하기 수학식 6을 통하여 얻어진다.
[수학식 6]
이때, 
는 최종 제작된 융합영상의 픽셀값을 나타내며, 
는 입력영상 정규화부(120)에서 제작된 정규화된 적외선영상을 나타내며, 
는 융합가중치 결정부(150)에서 결정된 융합가중치를 나타내며, 
는 융합계수 추정부(160)에서 추정된 융합계수를 나타내며, 
는 공간적 상세정보 추출부(130)에서 제작된 정규화된 고주파 레이더영상을 나타낸다.
상기 수학식 6을 참조하면, 융합가중치 결정부(150)와 융합계수 추정부(160)에서 결정된 가중치와 융합계수에 따라 공간적 상세정보의 반영도가 달라지는 것으로 
와 
값이 높을수록 고주파 레이더영상이 더 많이 반영되는 것을 확인할 수 있다.
융합영상 색상변환부(180)는 상기 융합영상 제작부(170)을 통해 제작된 융합영상의 색상변환을 수행한다. 예를 들어, 융합영상 색상변환부(180)는 아래 수학식 7을 통하여 융합영상이 0에서 255의 값을 가지도록 값의 변환을 수행하여, 값이 변환된 융합영상 
을 획득할 수 있다.
[수학식 7]
이때, 
는 값이 변환된 융합영상의 픽셀값을 나타내며, 
와 
는 각각 라인방향과 픽셀방향의 영상좌표를 나타낸다. 또한 
와 
는 융합영상에서의 최소값과 최대값을 나타낸다.
상기 수학식 7을 통해 0에서 255의 값을 가지도록 변환된 융합영상은 색상테이블을 활용하여 영상값에 알맞은 색상을 지니도록 변환할 수 있다. 예를 들어, rainbow 색상테이블의 경우, 255의 값은 붉은색으로, 128의 값은 녹색으로, 0의 값은 파란색의 색상테이블을 지니게 된다. 반면 brown-green 색상테이블의 경우, 255의 값은 녹색으로, 0의 값은 갈색의 색상테이블을 지니게 된다. 따라서, 이러한 색상테이블은 사용자에 따라 다양하게 설정하여 적용할 수 있다.
이러한 융합영상 색상변환부(180)는 흑백영상으로 제작된 융합영상을 색상을 가지도록 나타낼 수 있으며, 이러한 색상정보는 흑백영상에서 나타내는 밝기에 비하여 보다 직관적으로 지표를 표현할 수 있는 점에서 객체의 인식 가능성을 향상시킬 수 있는 장점이 있다.
본 발명은 또한, 상기 목적을 달성하기 위해, 특정지역에 대한 적외선 영상과 레이더 영상을 각각 획득하는 영상 획득단계(S200), 상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화 단계(S210), 상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출단계(S220), 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조절단계(S230), 상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정단계(S240), 상기 적외선 영상과 레이더 영상의 융합 계수를 결정하는 융합 계수 결정단계(S250), 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작단계(S260) 및 상기 융합영상의 색상을 변환하는 융합영상 색상변환 단계(S270)를 포함하는 적외선 영상과 레이더 영상의 융합방법을 제공한다.
본 발명은 또한 상기 목적을 달성하기 위해, 상기 융합방법을 실행하기 위한 프로그램이 기록되어 있는 컴퓨터에서 판독 가능한 기록 매체를 제공한다.
즉, 본 발명에 따른 적외선 영상과 레이더 영상의 융합방법은 저해상 적외선 영상에 나타나는 지표의 온도정보와 고해상 레이더 영상에서 제공하는 지표의 상세정보를 동시에 제공할 수 있다. 구체적으로, 적외선 영상과 레이더 영상을 융합함으로써 적외선 영상에 나타나는 지표특성을 사용자가 가시적으로 이해할 수 있도록 하며, 융합 가중치 결정을 통해 사용자가 자유로이 적외선 영상과 레이더 영상의 융합 비율을 결정하여 융합영상에 반영되도록 할 수 있다.
또한, 융합계수 추정을 통해 자동적으로 적외선 영상과 레이더 영상의 융합비율을 최적 비율로 조절하여 영상 분석의 정확성과 신뢰도를 향상시킬 수 있으며, 융합가중치 결정과 융합계수 추정을 통해 자동적으로 최적화된 융합비율을 결정할 수 있을 뿐만 아니라, 사용자의 요구사항까지 반영된 융합영상을 제작할 수 있다.
이와 관련하여, 도 5는 본원발명의 일 실시예로 융합가중치에 따른 융합영상 결과를 나타내고 있다. 각각의 융합가중치는 0.5, 1.0, 2.0 및 5.0을 준 결과이다. 도 5를 참조하면, 융합가중치를 적게 줄 경우 적외선 영상의 온도정보가 더 많이 반영되고, 레이더 영상의 공간적 상세정보의 반영이 덜 되는 융합영상을 제작할 수 있으며, 가중치를 크게 줄 경우 적외선영상의 온도정보가 덜 반영되고, 공간적 상세정보가 매우 높게 반영되는 것을 확인할 수 있다.
도 6은 본원발명의 일 실시예로 도심지 지역에서의 최종 융합영상의 형태를 보인다. 해당 결과는 세 가지의 융합계수 추정방법 중 수학식 3에 따라 산출된 융합계수를 적용하여 나타낸 결과이다. 도 6a는 적외선 영상을 나타내며, 도 6b는 레이더영상을 나타내며, 도 6c는 고주파 레이더영상을 나타내며, 도 6d는 융합된 영상을 나타내며, 도 6e는 융합된 영상을 컬러로 표현한 것을 나타낸다.
도 6에 따르면, 적외선영상에서 제공하는 지표의 온도정보는 어둡고 밝게 나타나는 것을 확인할 수 있으나, 낮은 해상도로 인하여 지표가 구체적으로 무엇인지 파악하기에는 한계가 있다. 반면 레이더 영상에서는 비교적 해당 지표가 무엇인지 파악할 수 있으나, 지표의 온도정보는 알 수 없는 한계가 존재한다. 이를 융합한 영상 도 6d의 경우, 지표의 온도정보와 공간적 상세정보를 동시에 제공하는 것을 확인할 수 있다. 그러나, 적외선 영상의 공간해상도가 너무 낮은 관계로 융합된 영상은 전반적으로 흐릿하게 나타나는 것을 확인할 수 있다. 반면 융합된 영상을 색상으로 나타낸 도 6e의 경우, 컬러정보를 제공함으로써 객체 인식률이 향상된 것을 확인할 수 있다. 도 6e에서 붉은색으로 표현된 지역은 높은 온도를 지니는 지역으로, 레이더영상에서 확인하였을 때 나대지 또는 개활지의 특성을 보인다.
반면, 파란색으로 표현된 지역은 낮은 온도를 지니는 지역으로, 레이더영상에서 확인하였을 때 산악지, 고층건물 및 호수의 특성을 나타낸다. 이에 따라, 융합영상에서 지표의 온도정보를 보다 상세하게 나타내어 온도정보가 다르게 나타나는 원인을 보다 직관적으로 확인할 수 있다.
한편, 도 7은 본원발명의 일 실시예로 산악지역에서의 최종 융합영상의 형태를 보인다. 도 7a는 적외선영상을 나타내며, 도 7b는 레이더영상을 나타내며, 도 7c는 고주파 레이더영상을 나타내며, 도 7d는 수학식 3에 의한 최종 융합영상을 나타내며, 도 7e는 융합된 영상을 컬러로 나타낸 것이다.
도 7a을 참조하면, 해당지역은 산악지역이기 때문에 사면에 따라 온도정보가 다르게 나타나는 것을 확인할 수 있다. 이는 위성영상에 나타나는 특징 중 하나로써, 사면이 이루는 각도에 따라 위성센서에 기록되는 에너지의 양이 다르기 때문에 나타나는 현상이다. 예를 들면, 지표에서 동일한 크기의 복사에너지를 방출하였다 하더라도, 센서를 마주보는 사면은 많은 양의 복사에너지가 기록되어 밝게 나타나지만 센서를 등지는 사면일 경우 적은 양의 복사에너지가 기록되어 어둡게 나타난다. 이러한 현상은 도 7e에서 더 자세히 확인할 수 있는데, 레이더영상에서 나타나는 능선을 기준으로 지표의 온도정보가 다르게 나타나는 것을 확인할 수 있다.
즉, 적외선 영상만 도시한 도 7a의 경우 낮은 해상도로 인하여 온도정보가 다르게 표현되는 원인을 파악하는데 어렵지만, 융합한 영상 도 7e의 경우 온도정보와 레이더영상에서 나타나는 공간적 상세정보를 동시에 제공함으로 인하여 온도정보가 다르게 표현되는 원인이 사면에 의한 것임을 알 수 있게 된다.
또한, 도 8은 본원발명의 일 실시예로 농경지역에서의 최종 융합영상의 형태를 보인다. 도 8a는 적외선영상을 나타내며, 도 8b는 레이더영상을 나타내며, 도 8c는 고주파 레이더영상을 나타내며, 도 8d는 수학식 3에 의한 최종 융합영상을 나타내며, 도 8e는 융합된 영상을 컬러로 나타낸 것이다.
도 8a을 참조하면, 해당지역은 농경지역이기 때문에 농경활동에 따라 온도정보가 다르게 나타나는 것을 확인할 수 있다. 일반적으로 지표의 온도정보는 지표의 수분에 따라 다르게 표현되기 때문에 적외선 영상을 활용할 경우, 농경활동을 구분할 수 있는 장점이 존재한다. 그러나 전술된 바와 같이 적외선 영상의 낮은 해상도로 인하여 넓은 지역의 농경활동 모니터링에 주로 활용되어 왔으며, 국내 환경에 일반적인 좁은 지역의 농경활동 모니터링에는 활용되기 어려운 한계점이 존재하였다. 반면, 레이더영상은 높은 해상도로 인하여 농경지 구분이 용이한 장점이 있기 때문에, 도 8e와 같이 두 영상의 특징을 융합함으로써 농경지 모니터링에 본 발명의 결과인 융합영상이 활용될 수 있다.
따라서, 본원발명의 일 실시예에 따른 적외선 영상과 레이더 영상의 융합 방법 및 그 장치는 저해상도 적외선 영상의 지표 온도정보와 레이더 영상의 공간적 상세정보를 동시에 제공하는 것이 가능하며, 이로 인해 현재까지 낮은 정밀도로 인해 활용이 어려웠던 적외선 영상에서의 객체 인식을 향상하는 것이 가능하다.
또한, 융합 가중치를 사용자가 자유로이 결정함으로써 최종 융합영상의 공간적 상세정보 제공 비율을 결정할 수 있으며, 이로부터 영상 촬영지역의 형태에 따라 요구되는 공간해상도를 충족시킬 수 있으므로, 도심지, 산악지역 및 농경지 등에 적절하게 활용될 수 있다.
본 발명의 적외선 영상과 레이더 영상의 융합 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.
110: 영상획득부
120: 입력영상 정규화부
130: 공간적 상세정보 추출부
140: 영상크기 조정부
150: 융합 가중치 결정부
160: 융합계수 추정부
170: 융합영상 제작부
180: 융합영상 색상변환부
120: 입력영상 정규화부
130: 공간적 상세정보 추출부
140: 영상크기 조정부
150: 융합 가중치 결정부
160: 융합계수 추정부
170: 융합영상 제작부
180: 융합영상 색상변환부
Claims (11)
- 특정지역에 대한 적외선 영상과 레이터 영상을 각각 획득하는 영상 획득부;
상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화부;
상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출부;
상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조정부;
상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정부;
상기 적외선 영상과 레이더 영상의 융합 계수를 추정하는 융합 계수 추정부;
상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작부; 및
상기 융합영상의 색상을 변환하는 융합영상 색상변환부;
를 포함하고,
상기 입력영상 정규화부는 상기 적외선 영상과 레이더 영상의 각각의 화소값의 복사해상도의 최소치와 최대치로 정규화하여 영상의 노이즈를 제거하는 적외선 영상과 레이더 영상의 융합장치.
- 제1항에 있어서,
상기 영상 획득부는 적외선 영상과 레이더 영상의 좌표변환을 통해 좌표체계를 동일하게 하고, 영상정합을 통해 영상의 위치를 일치시키며, 정사보정을 통해 수직방향 시야 보정을 수행하는 적외선 영상과 레이더 영상의 융합장치.
- 삭제
- 제1항에 있어서,
상기 공간적 상세정보 추출부는 저주파 필터링을 통해 저주파 레이더 영상을 제작하고, 원레이더 영상과 상기 저주파 레이더 영상을 차분하여 고주파 레이더 영상을 제작하는 것으로 공간적 상세정보를 추출하는 적외선 영상과 레이더 영상의 융합장치.
- 제1항에 있어서,
상기 영상크기 조정부는 내삽법을 이용하여 상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 적외선 영상과 레이더 영상의 융합장치.
- 제1항에 있어서,
상기 융합가중치 결정부는 상기 적외선 영상에 나타나는 지표의 온도특성 정보와 상기 레이더 영상에 나타나는 공간적 상세정보의 융합비율을 결정하는 것으로 융합 가중치를 결정하는 적외선 영상과 레이더 영상의 융합장치.
- 제1항에 있어서,
상기 융합계수 추정부는 상기 적외선 영상과 레이더 영상의 전체 화소의 표준 편차를 이용하여 융합계수를 추정하는 방법, 상기 영상들의 국지적인 화소의 표준편차의 합을 이용하여 융합계수를 추정하는 방법 및 상기 영상들의 정규화된 입력영상 값의 범위를 이용하여 융합계수를 추정하는 방법으로 이루어진 군에서 선택된 방법으로 융합 계수를 추정하는 적외선 영상과 레이더 영상의 융합장치.
- 제1항에 있어서,
상기 융합영상 제작부는 상기 공간적 상세정보, 융합 가중치 및 융합 계수를 모두 서로 곱한 값을 상기 정규화된 적외선 영상에 합산하여 융합영상을 제작하는 적외선 영상과 레이더 영상의 융합장치.
- 제1항에 있어서,
상기 융합영상 색상변환부는 상기 융합영상의 색상테이블 값을 0 내지 255의 값을 갖도록 색상 변환하는 적외선 영상과 레이더 영상의 융합장치.
- 특정지역에 대한 적외선 영상과 레이더 영상을 각각 획득하는 영상 획득단계;
상기 획득된 적외선 영상과 레이더 영상의 노이즈를 각각 제거하여 정규화를 수행하는 입력영상 정규화 단계;
상기 정규화된 레이더 영상을 저주파 필터링하여 공간적 상세정보를 추출하는 공간적 상세정보 추출단계;
상기 적외선 영상의 크기를 상기 레이더 영상의 크기와 동일하게 조절하는 영상크기 조절단계;
상기 적외선 영상과 레이더 영상의 융합 가중치를 결정하는 융합가중치 결정단계;
상기 적외선 영상과 레이더 영상의 융합 계수를 추정하는 융합 계수 추정단계;
상기 공간적 상세정보, 융합 가중치 및 융합 계수를 이용하여 융합영상을 제작하는 융합영상 제작단계; 및
상기 융합영상의 색상을 변환하는 융합영상 색상변환 단계;
를 포함하고,
상기 입력영상 정규화 단계는 상기 적외선 영상과 레이더 영상의 각각의 화소값의 복사해상도의 최소치와 최대치로 정규화하여 영상의 노이즈를 제거하는 적외선 영상과 레이더 영상의 융합방법.
- 제10항의 융합방법을 실행하기 위한 프로그램이 기록되어 있는 컴퓨터에서 판독 가능한 기록 매체.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020170090384A KR101928393B1 (ko) | 2017-07-17 | 2017-07-17 | 적외선 영상과 레이더 영상의 융합방법 및 장치 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020170090384A KR101928393B1 (ko) | 2017-07-17 | 2017-07-17 | 적외선 영상과 레이더 영상의 융합방법 및 장치 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR101928393B1 true KR101928393B1 (ko) | 2018-12-12 |
Family
ID=64669806
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020170090384A KR101928393B1 (ko) | 2017-07-17 | 2017-07-17 | 적외선 영상과 레이더 영상의 융합방법 및 장치 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR101928393B1 (ko) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20210128076A (ko) * | 2020-04-16 | 2021-10-26 | 광주과학기술원 | 이미지의 정합 여부를 식별하는 방법 및 장치 |
| CN113569944A (zh) * | 2021-07-26 | 2021-10-29 | 北京奇艺世纪科技有限公司 | 一种异常用户识别方法、装置、电子设备及存储介质 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101291219B1 (ko) * | 2012-03-16 | 2013-07-31 | 한국항공우주연구원 | 전정색영상과 다분광영상의 융합 방법 및 그 장치 |
| KR101405435B1 (ko) * | 2012-12-14 | 2014-06-11 | 한국항공우주연구원 | 고해상도 영상 융합 방법 및 그 장치 |
-
2017
- 2017-07-17 KR KR1020170090384A patent/KR101928393B1/ko active IP Right Grant
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101291219B1 (ko) * | 2012-03-16 | 2013-07-31 | 한국항공우주연구원 | 전정색영상과 다분광영상의 융합 방법 및 그 장치 |
| KR101405435B1 (ko) * | 2012-12-14 | 2014-06-11 | 한국항공우주연구원 | 고해상도 영상 융합 방법 및 그 장치 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20210128076A (ko) * | 2020-04-16 | 2021-10-26 | 광주과학기술원 | 이미지의 정합 여부를 식별하는 방법 및 장치 |
| KR102366172B1 (ko) | 2020-04-16 | 2022-02-22 | 광주과학기술원 | 이미지의 정합 여부를 식별하는 방법 및 장치 |
| CN113569944A (zh) * | 2021-07-26 | 2021-10-29 | 北京奇艺世纪科技有限公司 | 一种异常用户识别方法、装置、电子设备及存储介质 |
| CN113569944B (zh) * | 2021-07-26 | 2024-06-04 | 北京奇艺世纪科技有限公司 | 一种异常用户识别方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101580585B1 (ko) | 전정색영상과 적외선영상의 융합 방법 및 장치 | |
| US11810272B2 (en) | Image dehazing and restoration | |
| KR101918007B1 (ko) | 다중 편광레이더 영상과 전정색 영상의 융합방법 및 장치 | |
| KR101928391B1 (ko) | 다중분광 영상과 레이더 영상의 융합방법 및 장치 | |
| KR102170260B1 (ko) | 합성 개구 레이더 영상 및 다중분광영상의 융합 장치, 방법 및 그를 이용한 변화 검출 방법 | |
| WO2019042232A1 (zh) | 一种快速鲁棒的多模态遥感影像匹配方法和系统 | |
| KR101664123B1 (ko) | 필터링에 기반하여 고스트가 없는 ｈｄｒｉ를 생성하는 장치 및 방법 | |
| CN107403134B (zh) | 基于局部梯度三边的图域多尺度红外弱小目标检测方法 | |
| CN110660065B (zh) | 一种红外故障检测识别算法 | |
| CN114973028B (zh) | 一种航拍视频图像实时变化检测方法及系统 | |
| CN105139396B (zh) | 一种全自动遥感影像云雾检测方法 | |
| CN101976436A (zh) | 一种基于差分图修正的像素级多聚焦图像融合方法 | |
| KR101928393B1 (ko) | 적외선 영상과 레이더 영상의 융합방법 및 장치 | |
| Li et al. | DIM moving target detection using spatio-temporal anomaly detection for hyperspectral image sequences | |
| WO2021056297A1 (zh) | 图像处理方法、设备、无人机、系统和存储介质 | |
| CN110033408B (zh) | 针对多云雨地区的sar与多光谱遥感数据的融合方法 | |
| KR101770745B1 (ko) | 이종의 위성영상 융합가능성 평가방법 및 그 장치 | |
| CN106910178B (zh) | 一种基于色调统计特性分类的多角度sar图像融合方法 | |
| KR101809656B1 (ko) | 위성영상 기반 양식장 시설물 탐지 시스템 및 그 탐지 방법 | |
| CN109801253B (zh) | 一种对高分辨率光学遥感图像的自适应云区检测方法 | |
| JP3012927B1 (ja) | マルチスペクトル画像処理を用いた目標抽出装置 | |
| CN105023261A (zh) | 基于agihs及低通滤波器的遥感图像融合方法 | |
| CN110751626B (zh) | 一种基于像元可靠性判定的卫星融合图像质量评价方法 | |
| CN113050090B (zh) | 一种双极化hh、hv雷达图像特征融合增强方法 | |
| JP5089448B2 (ja) | 反射特性評価装置、反射特性評価方法および反射特性評価プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |