KR102528718B1 - 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템 - Google Patents

Abstract

본 발명은 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템에 관한 것이다. 보다 상세하게는, 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 원거리에 위치하여 사람이 육안으로 식별하기 어려울 정도로 크기가 작은 소형 드론을 탐지할 수 있고, 레이다와 같은 특수장치나 기술 없이 근적외선카메라(20)(SWIR camera)만을 사용하여 시스템을 구성할 수 있어 시스템 구성을 위한 비용을 줄일 수 있는 동시에 휴대성을 향상시킬 수 있는 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템에 관한 것이다.
이를 위해 본 발명은 단파장 적외선 방식으로 드론객체를 탐지하기 위한 영상 촬영을 수행하고, 촬영된 영상을 이미지를 출력하는 근적외선카메라(20)(20); 근적외선카메라(20)에서 촬영하여 전송한 이미지를 수신하고, 전송된 이미지에서 드론객체와 드론객체의 위치, 드론객체의 움직임을 감지하기 위해 딥러닝 기반으로 이미지를 분석하는 이미지분석기(30); 이미지분석기(30)에서 감지한 드론객체의 위치와 움직임에 관한 정보를 수신하며, 원격에서 근적외선카메라(20)의 동작을 제어하고, 근적외선카메라(20)에서 전송한 이미지를 표시하며, 이미지분석기(30)에서 드론객체를 감지한 경우, 근적외선카메라(20)에서 전송한 이미지에 이미지분석기(30)에서 감지한 드론객체를 중첩시켜 모니터 상에 표시하는 통합컨트롤러(40)를 포함하고, 이미지분석기(30)는 근적외선카메라(20)에서 전송한 배경과 드론객체가 포함된 다수의 이미지에서 드론객체에 대해 경계박스를 설정하는 라벨링 과정을 통해 배경이 포함된 이미지에서 드론객체만을 식별할 수 있는 학습데이터를 생성하는 학습데이터생성기능(100); 근적외선카메라(20)에서 전송한 이미지에서 딥러닝 네트위크를 이용하여 드론객체를 탐지하고 그 위치를 추적하기 위해 딥러닝 네트워크 학습을 위한 입력 형태로 학습데이터를 변환하는 데이터변환기능(200); 콘볼루션신경망이 포함된 딥러닝 네트워크 모델이 포함되며, 데이터변환기능(200)에서 변환된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 드론객체를 탐지하고, 그 위치를 추적하기 위한 학습을 진행하는 데이터학습기능(300); 데이터학습기능(300)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 실제 드론을 탐지하기 위해 근적외선카메라(20)에서 획득한 영상 정보를 시간 단위로 캡쳐하여 이미지로 분할하며, 분할된 이미지 중에 포함된 드론객체를 탐지하고, 탐지된 드론객체에 대해 경계박스가 설정된 이미지를 출력하는 드론탐지적용기능(400); 및 드론탐지적용기능(400)에서 출력한 이미지 상에서 경계박스가 설정된 형태로 탐지된 드론객체의 이동속도를 포함하여 드론객체의 동적 상태를 추정하기 위한 상태추정기능(500)을 포함하는 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템를 제공한다.

Description

근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템 {Drone detection system based on deep learning using SWIR camera}

본 발명은 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템에 관한 것이다. 보다 상세하게는, 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 원거리에 위치하여 사람이 육안으로 식별하기 어려울 정도로 크기가 작은 소형 드론을 탐지할 수 있고, 레이다와 같은 특수장치나 기술 없이 근적외선카메라(SWIR camera)만을 사용하여 시스템을 구성할 수 있어 시스템 구성을 위한 비용을 줄일 수 있는 동시에 휴대성을 향상시킬 수 있는 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템에 관한 것이다.

최근 드론으로 알려진 소형 무인 항공기와 관련 산업이 비약적으로 발전하고 있다.

글로벌 드론 시장은 초창기 군수용 시장 중심에서 최근 상업/취미용 드론 시장을 중심으로 급속히 성장하고 있다.

이러한 드론 시장의 확장에 기반하여 드론의 소형화 및 배터리 확장 등의 관련 기술 또한 급격히 발전하였다.

드론 기술이 발전함에 따라 이를 이용한 무분별한 사생활 침해 및 소형 폭탄 운반 등을 포함하여 드론의 악의적 사용과 화학 물질 및 소규모 테러와 관련된 개인 또는 그룹의 드론 남용 사례가 세계적인 문제가 되고 있다.

이러한 문제점을 방지하기 위해 최근 드론 탐지 기술 등의 안티 드론 기술에 대한 연구가 활발히 진행되고 있다.

안티 드론 기술이란 무인 비행체 장치 탐지기술과 무인 비행 장치 무력화 기술을 결합한 방식이다.

안티 드론 기술중 무인 비행체 장치 탐지 기술의 경우, 초고해상도 레이더, 마이크, 카메라, RF 탐지등 다양한 센서를 융합한 드론 탐지 기술이 개발되고 있다.

그러나, 기존의 드론 탐지 기술은 다양한 센서를 융합한 레이다를 통한 탐지기술이 대부분이며, 이러한 레이다 기반 탐지는 비교적 고비용이며 훈련된 운용 전문가가 필요하다는 문제점이 있다.

또한, 일반적인 화상 카메라 영상을 이용한 연구 또한 진행되고 있으나, 대부분 사람이 드론의 형태를 육안으로 식별 가능할 정도로 큰 경우에 대해서만 연구가 진행되고 있는 실정이다.

따라서, 특수장치 및 기술을 사용하지 않고 육안 식별하기 어려운 소형 드론 영상에 대한 탐지 기술이 필요하다.

선행기술문헌 : KR등록특허공보 제10-1200974호(2012년11월12일 공고)

본 발명은 상기와 같은 문제점을 해결하기 위해 안출된 것으로, 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 원거리에 위치하여 사람이 육안으로 식별하기 어려울 정도로 크기가 작은 소형 드론을 탐지할 수 있고, 레이다와 같은 특수장치나 기술 없이 근적외선카메라(SWIR camera)만을 사용하여 시스템을 구성할 수 있어 시스템 구성을 위한 비용을 줄일 수 있는 동시에 휴대성을 향상시킬 수 있는 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템을 제공하는 데 그 목적이 있다.

상기 목적을 달성하기 위해 안출된 본 발명에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템은 단파장 적외선 방식으로 드론객체를 탐지하기 위한 영상 촬영을 수행하고, 촬영된 영상을 이미지를 출력하는 근적외선카메라(20); 근적외선카메라에서 촬영하여 전송한 이미지를 수신하고, 전송된 이미지에서 드론객체와 드론객체의 위치, 드론객체의 움직임을 감지하기 위해 딥러닝 기반으로 이미지를 분석하는 이미지분석기(30); 이미지분석기에서 감지한 드론객체의 위치와 움직임에 관한 정보를 수신하며, 원격에서 근적외선카메라의 동작을 제어하고, 근적외선카메라에서 전송한 이미지를 표시하며, 이미지분석기에서 드론객체를 감지한 경우, 근적외선카메라에서 전송한 이미지에 이미지분석기에서 감지한 드론객체를 중첩시켜 모니터 상에 표시하는 통합컨트롤러(40)를 포함하고, 이미지분석기는 근적외선카메라에서 전송한 배경과 드론객체가 포함된 다수의 이미지에서 드론객체에 대해 경계박스를 설정하는 라벨링 과정을 통해 배경이 포함된 이미지에서 드론객체만을 식별할 수 있는 학습데이터를 생성하는 학습데이터생성기능(100); 근적외선카메라에서 전송한 이미지에서 딥러닝 네트위크를 이용하여 드론객체를 탐지하고 그 위치를 추적하기 위해 딥러닝 네트워크 학습을 위한 입력 형태로 학습데이터를 변환하는 데이터변환기능(200); 콘볼루션신경망이 포함된 딥러닝 네트워크 모델이 포함되며, 데이터변환기능(200)에서 변환된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 드론객체를 탐지하고, 그 위치를 추적하기 위한 학습을 진행하는 데이터학습기능(300); 데이터학습기능(300)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 실제 드론을 탐지하기 위해 근적외선카메라에서 획득한 영상 정보를 시간 단위로 캡쳐하여 이미지로 분할하며, 분할된 이미지 중에 포함된 드론객체를 탐지하고, 탐지된 드론객체에 대해 경계박스가 설정된 이미지를 출력하는 드론탐지적용기능(400); 및 드론탐지적용기능(400)에서 출력한 이미지 상에서 경계박스가 설정된 형태로 탐지된 드론객체의 이동속도를 포함하여 드론객체의 동적 상태를 추정하기 위한 상태추정기능(500)을 포함한다.

또한, 이미지분석기는 상태추정기능(500)의 결과 값을 이용하여 드론객체가 포함된 경계박스의 중앙 좌표를 구해 저장한 후 각 이미지에 포함된 경계박스의 중앙 좌표를 직선으로 연결하여 드론객체의 경로를 추적하여 최종 이미지를 출력하는 경로추적기능(600)을 포함할 수 있다.

또한, 데이터변환기능(200)을 통해 변환되는 학습데이터는 실수로 표현된 텍스트 파일 형태로 저장되며, 변환된 학습데이터는 클래스번호, 드론객체가 포함된 경계박스의 중심점에 대한 가로축 좌표, 경계박의 중심점에 대한 세로축 좌표, 경계박스의 폭, 경계박스의 높이에 관한 정보를 포함하는 것을 포함할 수 있다.

본 발명에 의하면 특수장치 및 기술을 사용하지 않고, 사람이 육안으로 식별 어려울 정도로 작은 드론을 탐지할 수 있는 있는 효과가 있다.

또한, 전체 시스템의 구성이 비교적 간단하여 시스템 구성을 위한 비용을 줄일 수 있는 동시에 휴대성을 향상시킬 수 있는 효과가 있다.

도 1은 본 발명의 바람직한 실시예에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템의 구성과 신호 흐름을 도시한 도면,
도 2는 이미지분석기의 기능을 도시한 도면,
도 3은 학습데이터생성기능에서 드록객체에 대한 라벨링과정을 도시한 도면,
도 4는 데이터변환기능에서 딥러닝 네트워크 학습을 위한 입력 형태로 학습데이터를 변환한 상태를 도시한 도면,
도 5는 본 발명의 바람직한 실시예에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템에 대한 성능 실험 결과를 그래프로 도시한 도면,
도 6은 경로추적기능에 의해 드론객체의 경로를 추적하는 상태를 도시한 도면,
도 7은은 근적외선카메라에서 전송한 이미지에 이미지분석기에서 감지한 드론객체를 중첩시켜 통합컨트롤러의 모니터 상에 표시한 도면.

이하, 본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 우선 각 도면의 구성 요소들에 참조 부호를 부가함에 있어서, 동일한 구성 요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한, 이하에서 본 발명의 바람직한 실시예를 설명할 것이나, 본 발명의 기술적 사상은 이에 한정하거나 제한되지 않고 당업자에 의해 변형되어 다양하게 실시될 수 있음은 물론이다.

도 1은 본 발명의 바람직한 실시예에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템의 구성과 신호 흐름을 도시한 도면, 도 2는 이미지분석기의 기능을 도시한 도면, 도 3은 학습데이터생성기능에서 드록객체에 대한 라벨링과정을 도시한 도면, 도 4는 데이터변환기능에서 딥러닝 네트워크 학습을 위한 입력 형태로 학습데이터를 변환한 상태를 도시한 도면, 도 5는 본 발명의 바람직한 실시예에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템에 대한 성능 실험 결과를 그래프로 도시한 도면, 도 6은 경로추적기능에 의해 드론객체의 경로를 추적하는 상태를 도시한 도면, 도 7은은 근적외선카메라에서 전송한 이미지에 이미지분석기에서 감지한 드론객체를 중첩시켜 통합컨트롤러의 모니터 상에 표시한 도면이다.

본 발명의 바람직한 실시예에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템는, 도 1을 참조하면, 근적외선카메라(20), 이미지분석기(30), 통합컨트롤러(40)를 포함하여 이루어진다.

먼저, 본 발명에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템은 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 원거리에 위치하여 사람이 육안으로 식별 불가능할 정도로 크기가 작은 소형 드론을 탐지할 수 있는데 그 특징이 있다.

또한, 레이다와 같은 특수장치나 기술 없이 근적외선카메라만을 사용하여 시스템을 구성할 수 있어 시스템 구성을 위한 비용을 줄일 수 있는 동시에 휴대성을 향상시킬 수 있는데 그 특징이 있다.

이하, 본 발명의 바람직한 실시예에 따른 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템의 구성 요소에 대해 상세하게 설명한다.

도 1을 참조하면, 근적외선카메라(20)는 SWIR 카메라를 포함하여 단파장 적외선 방식으로 드론객체를 탐지하기 위한 영상 촬영을 수행하고, 촬영된 영상을 열화상 형태의 이미지로 출력한다.

이미지분석기(30)는 도 1을 참조하면, 근적외선카메라(20)에서 촬영하여 전송한 이미지를 수신하고, 전송된 이미지에서 드론객체와 드론객체의 위치, 드론객체의 움직임을 감지하기 위해 딥러닝 기반으로 이미지를 분석한다.

통합컨트롤러(40)는 도 1을 참조하면, 이미지분석기(30)에서 감지한 드론객체의 위치와 움직임에 관한 정보를 수신하고, 원격에서 근적외선카메라(20)의 팬-틸트를 포함한 동작을 제어한다.

또한, 통합컨트로러는 근적외선카메라(20)에서 전송한 이미지를 표시하며, 이미지분석기(30)에서 드론객체를 감지한 경우, 도 7에 도시한 바와 같이 근적외선카메라(20)에서 전송한 이미지에 이미지분석기(30)에서 감지한 드론객체를 중첩시켜 모니터 상에 표시한다.

한편, 도 2를 참조하면, 이미지분석기(30)에는 학습데이터생성기능(100), 데이터변환기능(200), 데이터학습기능(300), 드론탐지적용기능(400), 상태추정기능(500), 경로추적기능(600)이 포함된다.

이미지분석기(30)의 학습데이터생성기능(100)은 도 1을 참조하면, 아래에 서술된 데이터학습기능(300)에서 특정 이미지에 드론객체가 있는지 여부를 판단하고, 드론객체를 탐지하기 위한 학습자료를 생성한다.

학습데이터생성기능(100)은 도 3에 도시한 바와 같이 배경과 드론객체가 포함된 다수의 이미지에서 드론객체에 대해 경계박스를 설정하는 라벨링(labeling) 과정을 통해 배경이 포함된 이미지에서 드론객체만을 식별할 수 있는 학습데이터를 생성한다.

학습데이터생성기능(100)에서의 라벨링과정은 학습을 위한 이미지에 포함된 각각의 물체를 이미지상에서 구분하기 위해 각 물체들의 픽셀들이 서로 연결되어 있는지의 여부를 판단한다.

이때, 이미지의 배열 속에서 서로 연결되어 있는 픽셀들의 집합인 연결성분을 찾고, 같은 연결성분을 가지는 픽셀들에게 번호를 지정해주는 라벨링을 함으로써 이미지에 포함된 각각의 물체들을 서로 구분하게 된다.

일반적으로, 근적외선카메라(20)에서 획득한 이미지 정보는 근적외선카메라(20)의 성능에 따라 규칙성이 없는 노이즈가 발생할 수 있다.

크기필터링과정(150)은 근적외선카메라(20)에서 획득한 이미지에 포함된 규칙성이 없는 노이즈를 제거하는 과정으로 학습데이터생성기능(100)의 라벨링과정에서 라벨링이 되는 이미지의 픽셀에서 특정 픽셀수를 정하고, 특정된 픽셀수 보다 적은 영역을 제거하여 데이터학습기능(300)에서 이미지에 포함된 드론객체의 식별력을 높일 수 있도록 한다.

데이터변환기능(200)은 딥러닝 네트위크를 이용하여 드론객체를 식별하고 그 위치를 추적하기 위해 딥러닝 네트워크 학습을 위한 입력 형태로 학습데이터를 변환한다.

데이터변환기능(200)을 통해 변환되는 학습데이터는 도 4에 도시한 바와 같이 실수로 표현된 텍스트 파일 형태로 저장되며, 변환된 학습데이터의 각 행의 구성은 각각 클래스번호(2), 드론객체가 포함된 경계박스의 중심점에 대한 가로축 좌표(4), 경계박의 중심점에 대한 세로축 좌표(6), 경계박스의 폭(8), 경계박스의 높이(10)에 관한 정보를 포함한다.

여기서, 클래스번호(2)는 음이 아닌 정수로 표현. 현재 이미지에서 객체가 하나 밖에 없을 경우에는 0 으로 고정된 값을 가진다.

드론객체가 포함된 경계박스의 중심점에 대한 가로축 좌표(4)는 0~1사이의 소수점 아래 6자리의 실수로 표현되며, 경계박스의 좌상단 꼭지점 좌표가 전체 이미지 에 비례해서 가로축 어느 지점에 있는지를 표현한다.

경계박의 중심점에 대한 세로축 좌표(6)는 0~1사이의 소수점 아래 6자리의 실수로 표현되며, 직사각형 박스의 좌상단 꼭지점 좌표가 전체 이미지 비례해서 세로축 어느 지점에 있는지를 표현한다.

경계박스의 폭(8)은 0~1사이의 소수점 아래 6자리의 실수로 표현되며, 전체 이미지의 크기를 1이라고 했을 때, 경계박스의 너비를 전체 이미지에 비례해서 표현한다.

경계박스의 높이(10)는 0~1사이의 소수점 아래 6자리의 실수로 표현되며, 전체 이미지의 크기를 1이라고 했을 때, 경계박스의 높이를 전체 이미지 비례해서 표현한다.

데이터학습기능(300)은 콘볼루션 신경망(CNN; Convolutional Neural Network)이 포함된 R-CNN(Regions with CNN), Fast R-CNN, Faster R-CNN, YOLO(You Only Look Once)을 포함한 딥러닝 네트워크 모델을 포함하며, 데이터변환기능(200)에 의해 변환된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 드론객체를 탐지하고, 그 위치를 추적하기 위한 학습을 진행한다.

드론탐지적용기능(400)은 데이터학습기능(300)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 실제 드론을 탐지하기 위한 과정으로 근적외선카메라(20)에서 획득한 영상 정보를 시간 단위로 캡쳐하여 분할한 이미지 중에 포함된 드론객체를 탐지하고, 탐지된 드론객체에 대해 경계박스가 설정된 이미지를 출력한다.

한편, 드론탐지적용기능(400)에서는 근적외선카메라(20)에서 획득한 연속적인 이미지를 유한개의 픽셀로 분할하는 표준화과정을 거친다.

그리고, 표준화과정을 거친 이미지에 대해 연속적인 농담 값을 가지는 분할된 픽셀의 농담 값을 결정 하기 위해 이산적인 정수 값으로 표현하는 양자화과정을 진행한다.

또한, 양자화과정에서 발생하거나 근적외선카메라(20)에서 획득한 영상신호를 증폭하는 과정에서 발생할 수 있는 노이즈를 제거하여 드론탐지적용기능(400)에서 실제 드론객체 탐지를 위한 정확도를 높일 수 있도록 하기 위한 노이즈제거기능이 포함될 수 있다.

배경클러터제거기능(350)은 드론탐지적용기능(400)에 포함될 수 있으며, 실제 근적외선카메라(20)에서 획득한 영상에서 드론객체와 배경으로 분리하여 배경을 추출하고, 추출된 배경을 제거하여 동적상태에 있는 드론객체에 대한 픽셀정보를 추출하기 위한 전처리를 수행한다.

배경클러터제거과정(350)은 가우시안 모델을 이용하여 구현될 수 있으며, 움직임으로 인해 계속적으로 위치가 변하는 드론객체에 비해 영상 안에서 비교적 움직임이 없는 배경(background)을 구하고, 초기에 주어진 영상에서 배경으로 지정하거나 연속으로 입력되는 영상에서 적절한 배경을 생성한 후, 현재 영화상카메라에서 획득한 영상과의 비교를 통해 배경을 제외한 드론객체만을 분리해 낸다.

한편, 학습된 딥러닝 네트워크 모델은 근적외선카메라(20)에서 획득한 영상에서 드론객체를 탐지할 때, 영상을 이미지 프레임 단위로 분할하여 단일 이미지 프레임에서만 드론객체를 탐지하므로 오탐지 가능성이 높다.

또한, 드론과 같은 동적 물체의 이동 정보는 영상의 잡음과 이동 상태천이의 불확실성을 가지고 있기 때문에 강인하게 상태를 추정할 필요가 있다.

따라서, 본 발명에서는 이러한 문제를 해결하기 위해 칼만 필터(Kalman Filter), 확장 칼만 필터(EKF: Extended Kalman Filter)를 포함한 재귀적필터를 사용하여 딥러닝 네트워크 모델에서 출력하는 이미지 상에서 드론객체를 재귀적(recursively) 탐지하고 이동 경로를 포함한 드론객체의 상태를 추정하는 상태추정기능(500)이 포함된다.

상태추정기능(500)은 근적외선카메라(20)에서 획득한 드론객체의 동적 상태를 추정하기 위해서도 사용될 수 있다.

상태추정기능(500)은 학습된 딥러닝 네트위크 모델이 적용되어 실제 드론을 탐지하는 드론탐지적용기능(400)에서 출력한 이미지 상에 경계박스가 설정된 형태로 탐지된 드론객체의 이동속도를 포함하여 드론객체의 동적 상태를 추정한다.

상태추정기능(500)에서는 학습된 딥러닝 네트위크 모델에서 출력하는 이미지들을 시간 단위(time step) 별로 저장하여 사용한다.

상태추정기능(500)은 드론탐지적용기능(400)에서 학습된 딥러닝 네트위크 모델이 출력하는 다수의 이미지들 중에서 이전 시간단계(time step)에서의 이미지를 입력으로 받아 재귀적(recursively) 드론객체를 탐지하고 현재의 상태를 추정한다.

경로추적기능(600)은 도 6을 참조하면, 상태추정기능(500)에서 다수의 이미지 형태로 출력한 결과 값을 이용하여 드론객체가 포함된 경계박스의 중앙 좌표를 구하고, 각 결과 값에 포함된 경계박스의 중앙 좌표를 직선으로 연결하여 드론객체의 경로를 추적하여 최종 이미지를 출력한다.

즉, 상태추정기능(500)에서 출력한 이미지 상에 드론객체가 포함된 경계박스의 중심점에 대한 가로축 좌표, 경계박의 중심점에 대한 세로축 좌표, 경계박스의 폭, 경계박스의 높이에 관한 정보를 이용하여 드론객체가 포함된 경계박스의 중앙 좌표를 구해 메모리에 저장하고, 저장된 드론객체가 포함된 경계박스의 중앙 좌표를 서로 직선으로 연결하여 탐지된 드론객체의 최정 경로를 추적한다.

도 5는 본 발명에 대해 영상처리(computer vision)분야에서 객체탐지(object detection) 영역에 사용되는 성능평가지표인 mAP(mean Average Precision)을 이용하여 성능 실험을 수행한 결과이며, 총 95분(minute) 동안의 근적외선카메라(20)에서 획득한 영상을 이용하여 mAP 평가한 결과 98.4%의 드론탐지 성능를 얻었음을 알 수 있다.

이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위 내에서 다양한 수정, 변경 및 치환이 가능할 것이다. 따라서, 본 발명에 개시된 실시예 및 첨부된 도면들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예 및 첨부된 도면에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

20 - 근적외선카메라 30 - 이미지분석기
40 - 통합컨트롤러

Claims (5)

1. 단파장 적외선 방식으로 드론객체를 탐지하기 위한 영상 촬영을 수행하고, 촬영된 영상을 이미지로 출력하는 근적외선카메라(20);
   근적외선카메라(20)에서 촬영하여 전송한 이미지를 수신하고, 전송된 이미지에서 드론객체와 드론객체의 위치, 드론객체의 움직임을 감지하기 위해 딥러닝 기반으로 이미지를 분석하는 이미지분석기(30);
   이미지분석기(30)에서 감지한 드론객체의 위치와 움직임에 관한 정보를 수신하며, 원격에서 근적외선카메라(20)의 동작을 제어할 수 있는 통합컨트롤러(40)
   를 포함하고,
   이미지분석기(30)는
   근적외선카메라(20)에서 전송한 배경과 드론객체가 포함된 다수의 이미지에서 드론객체에 대해 경계박스를 설정하는 라벨링 과정을 통해 배경이 포함된 이미지에서 드론객체만을 식별할 수 있는 학습데이터를 생성하는 학습데이터생성기능(100);
   근적외선카메라(20)에서 전송한 이미지에서 딥러닝 네트위크를 이용하여 드론객체를 탐지하고 그 위치를 추적하기 위해 딥러닝 네트워크 학습을 위한 입력 형태로 학습데이터를 변환하는 데이터변환기능(200);
   콘볼루션신경망이 포함된 딥러닝 네트워크 모델이 포함되며, 데이터변환기능(200)에서 변환된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 드론객체를 탐지하고, 그 위치를 추적하기 위한 학습을 진행하는 데이터학습기능(300);
   데이터학습기능(300)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 실제 드론을 탐지하기 위해 근적외선카메라(20)에서 획득한 영상 정보를 시간 단위로 캡쳐하여 이미지로 분할하며, 분할된 이미지 중에 포함된 드론객체를 탐지하고, 탐지된 드론객체에 대해 경계박스가 설정된 이미지를 출력하는 드론탐지적용기능(400);
   드론탐지적용기능(400)에서 출력한 이미지 상에서 경계박스가 설정된 형태로 탐지된 드론객체의 이동속도를 포함하여 드론객체의 동적 상태를 추정하기 위한 상태추정기능(500); 및
   상태추정기능(500)의 결과 값을 이용하여 드론객체가 포함된 경계박스의 중앙 좌표를 구해 저장한 후 각 이미지에 포함된 경계박스의 중앙 좌표를 직선으로 연결하여 드론객체의 경로를 추적하여 최종 이미지를 출력하는 경로추적기능(600)
   을 포함하고,
   데이터변환기능(200)을 통해 변환되는 학습데이터는 실수로 표현된 텍스트 파일 형태로 저장되며, 변환된 학습데이터는 클래스번호, 드론객체가 포함된 경계박스의 중심점에 대한 가로축 좌표, 경계박의 중심점에 대한 세로축 좌표, 경계박스의 폭, 경계박스의 높이에 관한 정보를 포함하는 것
   을 포함하며,
   학습데이터생성기능(100)의 라벨링 과정은
   이미지의 배열 속에서 서로 연결되어 있는 픽셀들의 집합인 연결성분을 찾고, 같은 연결성분을 가지는 칙셀들에게 번호를 지정해주는 라벨링을 함으로써 이미지에 포함된 각각의 물체들을 서로 구분할 수 있는 것;
   라벨링이 되는 이미지의 픽셀에서 특정 픽셀수를 정하고, 특정된 픽셀수 보다 적은 영역을 제거하여 드론객체의 식별력을 높일 수 있는 것
   을 포함하고,
   드론탐지적용기능(400)은
   근적외선카메라에서 획득한 연속적인 이미지를 유한개의 픽셀로 분할하는 표준화과정을 포함하는 것;
   실제 근적외선카메라에서 획득한 영상에서 드론객체와 배경으로 분리하여 배경을 추출하고, 추출된 배경을 제거하여 동적상태에 있는 드론객체에 대한 픽셀정보를 추출하기 위한 전처리를 수행하는 배경클러터제거기능을 포함하는 것; 및
   배경클러터제거과정은 가우시안 모델을 이용하여 구현될 수 있으며, 움직임으로 인해 계속적으로 위치가 변하는 드론객체에 비해 영상 안에서 비교적 움직임이 없는 배경을 구하고, 초기에 주어진 영상에서 배경으로 지정하거나 연속으로 입력되는 영상에서 적절한 배경을 생성한 후, 현재 근적외선카메라에서 획득한 영상과의 비교를 통하여 배경을 제외한 드론객체만을 분리해내는 것;
   을 포함하며,
   상태추정기능은
   재귀적필터를 사용하여 딥러닝 네트워크 모델에서 출력하는 이미지 상에서 드론객체를 재귀적 탐지하고 이동 경로를 포함한 드론객체의 상태를 추정하는 것;
   드론탐지적용기능에서 학습된 딥러닝 네트워크 모델이 출력하는 다수의 이미지들 중에서 이전 시간단계에서의 이미지를 입력으로 받아 재귀적 드론객체를 탐지하고 현재의 상태를 추정하는 것
   을 포함하고,
   경로추적기능은
   상태추정기능에서 출력한 이미지 상에서 드론객체가 포함된 경계박스의 중심점에 대한 가로축 좌표, 경계박스의 중심점에 대한 세로축 좌표, 경계박스의 폭, 경계박스의 높이에 관한 정보를 이용하여 드론객체가 포함된 경계박스의 중앙 좌표를 구해 메모리에 저장하고, 저장된 드론객체가 포한된 경계박스의 중앙 좌표를 서로 직선으로 연결하여 탐지된 드론객체의 최종 경로를 추적하는 것
   통합컨트롤러는
   근적외선카메라(20)에서 전송한 이미지를 표시하며, 이미지분석기에서 드론객체를 감지한 경우, 근적외선카메라에서 전송한 이미지에 이미지분석기의 경로추적기능에서 출력된 최종 이미지와 중첩시켜 모니터 상에 표시할 수 있는 것
   을 포함하는 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템.
   
2. 삭제
3. 삭제
4. 삭제
5. 삭제

Images