KR102257006B1 - 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템 - Google Patents

딥러닝을 이용한 선박 충돌 방지 자율회피 시스템 Download PDF

Info

Publication number
KR102257006B1
KR102257006B1 KR1020200022864A KR20200022864A KR102257006B1 KR 102257006 B1 KR102257006 B1 KR 102257006B1 KR 1020200022864 A KR1020200022864 A KR 1020200022864A KR 20200022864 A KR20200022864 A KR 20200022864A KR 102257006 B1 KR102257006 B1 KR 102257006B1
Authority
KR
South Korea
Prior art keywords
ship
module
boundary box
box
size
Prior art date
Application number
KR1020200022864A
Other languages
English (en)
Inventor
조석제
김형진
김수호
김병주
Original Assignee
한국해양대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국해양대학교 산학협력단 filed Critical 한국해양대학교 산학협력단
Priority to KR1020200022864A priority Critical patent/KR102257006B1/ko
Application granted granted Critical
Publication of KR102257006B1 publication Critical patent/KR102257006B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B63SHIPS OR OTHER WATERBORNE VESSELS; RELATED EQUIPMENT
    • B63BSHIPS OR OTHER WATERBORNE VESSELS; EQUIPMENT FOR SHIPPING 
    • B63B43/00Improving safety of vessels, e.g. damage control, not otherwise provided for
    • B63B43/18Improving safety of vessels, e.g. damage control, not otherwise provided for preventing collision or grounding; reducing collision damage
    • B63B43/20Feelers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G3/00Traffic control systems for marine craft
    • G08G3/02Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/12Bounding box

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Ocean & Marine Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Public Health (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명은 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템에 관한 것이다. 보다 상세하게는, 라이다(LIDAR) 등을 포함한 고가의 특수장치 없이 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 해상에서 운항하는 다른 선박을 탐지하고, 학습된 컨볼루션 신경망에서 출력하는 선박객체의 이미지와 선박객체의 이미지에 설정된 경계박스의 크기를 이용하여 선박 간의 거리를 측정한 후 선박 간의 거리가 가까워 충돌의 우려가 있을 경우, 자율회피 기동을 하여 선박 간의 충돌을 방지할 수 있는 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템에 관한 것이다.
이를 위해 본 발명은 선박객체가 포함된 다수의 이미지에서 선박객체에 대해 경계박스를 설정하는 라벨링 과정을 통해 배경이 포함된 이미지에서 선박객체만을 식별할 수 있는 학습데이터를 생성하는 학습데이터생성모듈(100); 콘볼루션신경망이 포함된 딥러닝 네트워크 모델이 포함되며, 학습데이터생성모듈(100)에 의해 생성된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 선박객체를 탐지하기 위한 학습을 진행하는 데이터학습모듈(200); 해상에 위치하는 타 선박객체를 촬영하기 위해 선박에 구비되는 열화상카메라모듈(300); 및 데이터학습모듈(200)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 해상에서 운항하는 실제 타 선박객체를 탐지하며, 열화상카메라모듈에서 획득한 영상 정보를 시간 단위로 캡쳐하고, 캡쳐된 이미지 중에 포함된 선박객체를 탐지하며, 탐지된 선박객체에 대해 경계박스가 설정된 이미지를 출력하는 선박탐지모듈(400)을 포함하는 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템를 제공한다.

Description

딥러닝을 이용한 선박 충돌 방지 자율회피 시스템{Ship Collision Avoidance Autonomous Avoidance System using Deep Learning}
본 발명은 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템에 관한 것이다. 보다 상세하게는, 라이다(LIDAR) 등을 포함한 고가의 특수장치 없이 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 해상에서 운항하는 다른 선박을 탐지하고, 학습된 컨볼루션 신경망에서 출력하는 선박객체의 이미지와 선박객체의 이미지에 설정된 경계박스의 크기를 이용하여 선박 간의 거리를 측정한 후, 선박 간의 거리가 가까워 충돌의 우려가 있을 경우, 자율회피 기동을 하여 선박 간의 충돌을 방지할 수 있는 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템에 관한 것이다.
해상을 운항하는 선박은 미리 설정된 항로를 따라 이동하기는 하나, 도로와 같은 정해진 형태의 길이 없는 관계로 항만 부근이나 해상에서 충돌 사고가 발생할 수 있다.
해상에서 발생하는 선박사고의 대부분은 사람의 운항과실에 의해 발생하며, 이러한 사람이 범할 수 있는 부주의를 방지하기 위해 최근에는 선박에 카메라를 설치하고 영상 분석 및 알림 시스템을 통해 부주의를 줄일 수 있는 방안을 연구되고 있다.
일반적으로 해상에서의 선박 충돌 방지를 위해서는 초고해상도 레이더, 마이크, 카메라, RF 탐지 등 다양한 센서를 융합한 선박 탐지 기술이 적용되고 있다.
그러나, 기존의 선박 탐지 기술은 다양한 센서를 융합한 레이다를 통한 탐지기술이 대부분이며, 이러한 레이다 기반 탐지는 비교적 고비용이며 훈련된 운용 전문가가 필요하다는 문제점이 있다.
또한, 선박용 레이더 장치는 항해사가 모니터를 계속해서 주시하면서 장애물이 접근하는지 충돌위험에 있는 지 판단하는 방식이므로, 항해사가 지속적으로 견시하지 않거나 실수로 오판할 경우 대형 사고로 이어질 수 있다.
이와 같은 문제점을 해결하기 위해서는 선박 자동 식별 장치(AIS)를 장착하고 신호를 교환하면 되나 장비가 비교적 고가이며, 어선이나 소형선박은 의무사항이 아니어서 사용되지 않는 경우가 많다는 문제점이 있었다.
따라서, 고가의 특수장치 없이 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 해상에서 운항하는 다른 선박을 탐지하고, 선박 간의 거리가 가까워 충돌위험의 우려가 있을 경우 자율적으로 선박이 회피기동을 할 수 있는 기술이 필요하다.
선행기술문헌 : KR등록특허공보 제10-1987846호(2019년06월11일 공고)
본 발명은 상기와 같은 문제점을 해결하기 위해 안출된 것으로, 라이다(LIDAR) 등을 포함한 고가의 특수장치 없이 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 해상에서 운항하는 다른 선박을 탐지하고, 학습된 컨볼루션 신경망에서 출력하는 선박객체의 이미지와 선박객체의 이미지에 설정된 경계박스의 크기를 이용하여 선박 간의 거리를 측정한 후 선박 간의 거리가 가까워 충돌의 우려가 있을 경우, 자율회피 기동을 하여 선박 간의 충돌을 방지할 수 있는 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템을 제공하는 데 그 목적이 있다.
상기 목적을 달성하기 위해 안출된 본 발명에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템은 선박객체가 포함된 다수의 이미지에서 선박객체에 대해 경계박스를 설정하는 라벨링 과정을 통해 배경이 포함된 이미지에서 선박객체만을 식별할 수 있는 학습데이터를 생성하는 학습데이터생성모듈(100); 콘볼루션신경망이 포함된 딥러닝 네트워크 모델이 포함되며, 학습데이터생성모듈(100)에 의해 생성된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 선박객체를 탐지하기 위한 학습을 진행하는 데이터학습모듈(200); 해상에 위치하는 타 선박객체를 촬영하기 위해 선박에 구비되는 열화상카메라모듈(300); 및 데이터학습모듈(200)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 해상에서 운항하는 실제 타 선박객체를 탐지하며, 열화상카메라모듈에서 획득한 영상 정보를 시간 단위로 캡쳐하고, 캡쳐된 이미지 중에 포함된 선박객체를 탐지하며, 탐지된 선박객체에 대해 경계박스가 설정된 이미지를 출력하는 선박탐지모듈(400)을 포함한다.
또한, 선박탐지모듈(400)에서는 탐지된 경계박스가 설정된 타 선박객체의 이미지와 경계박스의 가로축좌표, 경계박스의 세로축좌표, 경계박스의 폭, 경계박스의 높이를 포함하여 경계박스에 관한 정보가 함께 출력되는 것을 포함할 수 있다.
또한, 선박탐지모듈(400)에서 경계박스가 설정된 타 선박객체를 탐지할 경우, 타 선박객체에 설정된 경계박스에 관한 정보 중 경계박스의 폭과 경계박스의 높이에 관한 정보를 추출하고, 추출된 경계박스의 폭과 경계박스의 높이를 곱하여 경계박스의 크기를 연산하는 경계박스크기연산모듈(500)을 포함할 수 있다.
또한, 경계박스크기연산모듈(500)에서 연산된 경계박스의 크기를 탐지된 타 선박객체와의 거리로 변환하는 선박거리측정모듈(600)을 포함할 수 있다.
또한, 선박거리측정모듈(600)에는 타 선박객체에 설정된 경계박스의 크기를 거리로 변환할 때, 경계박스의 크기를 선박 간의 거리로 변환할 수 있는 임계값이 설정되어 있으며, 경계박스크기연산모듈(500)에서 전송된 경계박스의 크기가 설정된 임계값보다 클 경우, 탐지된 선박객체과의 거리가 가까워 충돌 위험이 발생할 우려가 있는 위험거리로 인식하여 위험신호를 전송하는 것을 포함하며, 선박거리측정모듈(600)에서 탐지된 타 선박객체의 설정된 경계박스의 크기가 설정된 임계값보다 클 경우, 선박거리측정모듈(600)에서 전송한 위험신호를 전송받아 선박의 자율회피기동을 수행하는 자율회피제어모듈(700)을 포함할 수 있다.
본 발명에 의하면 인공지능을 이용하여 선박의 충돌사고를 예방할 수 있는 효과가 있다.
또한, 별도의 고가 장비 없이 학습된 컨볼루션 신경망에서 출력하는 선박객체의 이미지와 선박객체의 이미지에 설정된 경계박스의 크기를 이용하여 선박 간의 거리를 측정하고, 선박의 충돌방지를 위한 회피기동을 할 수 있어 경제적인 효과가 있다.
도 1은 본 발명의 바람직한 실시예에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템의 구성을 도시한 도면,
도 2는 학습데이터생성모듈에서 선박객체에 대한 라벨링과정을 도시한 도면,
도 3은 선박탐지모듈에서 출력되는 경계박스에 관한 정보를 도시한 도면.
이하, 본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 우선 각 도면의 구성 요소들에 참조 부호를 부가함에 있어서, 동일한 구성 요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한, 이하에서 본 발명의 바람직한 실시예를 설명할 것이나, 본 발명의 기술적 사상은 이에 한정하거나 제한되지 않고 당업자에 의해 변형되어 다양하게 실시될 수 있음은 물론이다.
도 1은 본 발명의 바람직한 실시예에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템의 구성을 도시한 도면, 도 2는 학습데이터생성모듈에서 선박객체에 대한 라벨링과정을 도시한 도면, 도 3은 선박탐지모듈에서 출력되는 경계박스에 관한 정보를 도시한 도면이다.
본 발명의 바람직한 실시예에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템은, 도 1을 참조하면, 학습데이터생성모듈(100), 데이터학습모듈(200), 열화상카메라모듈(300), 선박탐지모듈(400), 경계박스크기연산모듈(500), 선박거리측정모듈(600), 자율회피제어모듈(700)을 포함하여 이루어진다.
먼저, 본 발명에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템은 영상처리 분야에서 활용되고 있는 딥러닝 기술 중 하나인 컨볼루션 신경망(Convolution Neural Network(CNN))를 이용하여 해상에서 운항하는 다른 선박을 탐지하고, 선박 간의 거리를 학습된 컨볼루션 신경망을 이용하여 측정한 후 선박 간의 거리가 가까워 충돌의 우려가 있을 경우, 선박이 자율회피 기동을 하여 선박 간의 충돌을 방지할 수 있는 데 그 특징이 있다.
또한, 본 발명에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템은 라이다(LIDAR) 등을 포함한 고가의 특수장치 없이 학습된 컨볼루션 신경망에서 출력하는 선박객체의 이미지와 선박객체의 이미지에 설정된 경계박스의 크기를 이용하여 선박 간의 거리를 측정할 수 있는데 그 특징이 있다.
이하, 본 발명의 바람직한 실시예에 따른 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템의 구성 요소에 대해 상세하게 설명한다.
학습데이터생성모듈(100)은 도 1을 참조하면, 아래에 서술된 데이터학습모듈(200)에서 특정 이미지에 선박객체가 있는지 여부를 판단하고, 선박객체를 탐지하기 위한 학습자료를 생성하는 과정이다.
학습데이터생성모듈(100)은 도 2에 도시한 바와 같이 배경과 선박객체가 포함된 다수의 이미지에서 선박객체에 대해 경계박스를 설정하는 라벨링(labeling) 과정을 통해 배경이 포함된 이미지에서 선박객체만을 식별할 수 있는 학습데이터를 생성한다.
학습데이터생성모듈(100)에서의 라벨링과정은 학습을 위한 이미지에 포함된 각각의 물체를 이미지상에서 구분하기 위해 각 물체들의 픽셀들이 서로 연결되어 있는지의 여부를 판단한다.
이때, 이미지의 배열 속에서 서로 연결되어 있는 픽셀들의 집합인 연결성분을 찾고, 같은 연결성분을 가지는 픽셀들에게 번호를 지정해주는 라벨링을 함으로써 이미지에 포함된 각각의 물체들을 서로 구분하게 된다.
데이터학습모듈(200)은 도 1을 참조하면, 콘볼루션 신경망(CNN; Convolutional Neural Network)이 포함된 R-CNN(Regions with CNN), Fast R-CNN, Faster R-CNN, YOLO(You Only Look Once)을 포함한 딥러닝 네트워크 모델을 포함하며, 학습데이터생성모듈(100)에 의해 생성된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 선박객체를 탐지하기 위한 학습을 진행한다.
한편, 아래에 서술된 열화상카메라모듈(300)에서 획득한 이미지 정보는 열화상카메라모듈의 성능에 따라 규칙성이 없는 노이즈가 발생할 수 있다.
따라서, 학습데이터생성모듈(100)의 라벨링과정에서 라벨링이 되는 이미지의 픽셀에서 특정 픽셀수를 정하고, 특정된 픽셀수 보다 적은 영역을 제거하여 데이터학습모듈(200)에서 이미지에 포함된 선박객체의 식별력을 높일 수 있도록 하여 아래에 서술된 열화상카메라모듈(300)에서 획득한 이미지에 포함된 규칙성이 없는 노이즈를 제거할 수 있는 크기필터링모듈이 데이터학습모듈(200)에 포함될 수 있다.
열화상카메라모듈(300)은 도 1을 참조하면, 해상에 위치하는 타 선박객체를 촬영하기 위해 선박에 구비된다.
선박탐지모듈(400)은 마이크로프로세서에 프로그램 형태로 이식되며, 도 1을 참조하면, 데이터학습모듈(200)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 해상에서 운항하는 실제 타 선박객체를 탐지하기 위한 모듈로서, 열화상카메라모듈(300)에서 획득한 영상 정보를 시간 단위로 캡쳐하고, 캡쳐된 이미지 중에 포함된 선박객체를 탐지하며, 탐지된 선박객체에 대해 경계박스가 설정된 이미지를 출력한다.
선박탐지모듈(400)에서는 탐지된 경계박스가 설정된 타 선박객체의 이미지와 함께 도 3에 도시된 바와 같이 경계박스의 가로축좌표(4), 경계박스의 세로축좌표(6), 경계박스의 폭(8), 경계박스의 높이(10)를 포함하여 경계박스에 관한 정보가 함께 출력된다.
선박탐지모듈(400)에서 출력되는 경계박스에 관한 정보는 도 3에 도시한 바와 같이 실수로 표현된 텍스트 파일 형태로 저장되며, 텍스트 파일에서 각 행의 구성은 각각 클래스번호(2), 선박객체가 포함된 경계박스의 중심점에 대한 가로축좌표(4), 경계박의 중심점에 대한 세로축좌표(6), 경계박스의 폭(8), 경계박스의 높이(10)에 관한 정보를 포함한다.
여기서, 클래스번호(2)는 음이 아닌 정수로 표현. 현재 이미지에서 객체가 하나 밖에 없을 경우에는 0 으로 고정된 값을 가진다.
선박객체가 포함된 경계박스의 중심점에 대한 가로축좌표(4)는 경계박스의 좌상단 꼭지점 좌표가 전체 이미지 에 비례해서 가로축 어느 지점에 있는지를 표현한다.
경계박의 중심점에 대한 세로축좌표(6)는 직사각형 박스의 좌상단 꼭지점 좌표가 전체 이미지 비례해서 세로축 어느 지점에 있는지를 표현한다.
경계박스의 폭(8)은 전체 이미지의 크기를 1이라고 했을 때, 경계박스의 너비를 전체 이미지에 비례해서 표현한다.
경계박스의 높이(10)는 전체 이미지의 크기를 1이라고 했을 때, 경계박스의 높이를 전체 이미지 비례해서 표현한다.
한편, 선박탐지모듈(400)에서는 열화상카메라모듈(300)에서 획득한 연속적인 이미지를 유한개의 픽셀로 분할하는 표준화과정을 거친다.
그리고, 표준화과정을 거친 이미지에 대해 연속적인 농담 값을 가지는 분할된 픽셀의 농담 값을 결정 하기 위해 이산적인 정수 값으로 표현하는 양자화과정을 진행한다.
또한, 양자화 과정에서 발생하거나 열화상카메라모듈(300)에서 획득한 영상신호를 증폭하는 과정에서 발생할 수 있는 노이즈를 제거하여 선박탐지모듈(400)에서 실제 선박객체 탐지를 위한 정확도를 높일 수 있도록 하기 위한 노이즈제거과정이 포함될 수 있다.
한편, 실제 열화상카메라모듈(300)에서 획득한 영상에서 선박객체와 배경으로 분리하여 배경을 추출하고, 추출된 배경을 제거하여 동적상태에 있는 선박객체에 대한 픽셀정보를 추출하기 위한 배경클러터제거모듈(350)이 포함될 수 있으며, 배경클러터제거모듈(350)은 선박탐지모듈(400)에 대한 전처리 과정으로 사용된다.
배경클러터제거모듈(350)은 가우시안 모델을 이용하여 구현될 수 있으며, 움직임으로 인해 계속적으로 위치가 변하는 선박객체에 비해 영상 안에서 비교적 움직임이 없는 배경(background)을 구하고, 초기에 주어진 영상에서 배경으로 지정하거나 연속으로 입력되는 영상에서 적절한 배경을 생성한 후, 현재 열화상카메라모듈에서 획득한 영상과의 비교를 통해 배경을 제외한 선박객체만을 분리해 낸다.
경계박스크기연산모듈(500)은 도 1을 참조하면, 선박탐지모듈(400)에서 경계박스가 설정된 타 선박객체를 탐지할 경우, 도 3에 도시한 타 선박객체에 설정된 경계박스에 관한 정보 중 경계박스의 폭(8)과 경계박스의 높이(10)에 관한 정보를 추출하고, 추출된 경계박스의 폭(8)과 경계박스의 높이(10)를 곱하여 경계박스의 크기를 연산한다.
또한, 경계박스크기연산모듈(500)에서는 시간의 경과에 따라 경계박스가 크지는 속도를 측정하여 연속적인 경계박스 크기에 대한 데이터를 연산하게 된다.
선박거리측정모듈(600)은 도 1을 참조하면, 경계박스크기연산모듈(500)에서 연산된 경계박스의 크기를 탐지된 타 선박객체와의 거리로 변환한다.
선박거리측정모듈(600)에서 타 선박객체에 설정된 경계박스의 크기를 거리로 변환할 때, 경계박스의 크기를 선박 간의 거리로 변환할 수 있는 임계값이 선박거리측정모듈(600)에 미리 설정되어 있다.
이 임계값은 경계박스의 크기에 대한 임계값이며, 경계박스의 크기에 따라 선박 간의 거리가 달라지며, 이 임계값을 기준으로 선박 간의 위험거리를 판단하게 된다.
만일, 경계박스크기연산모듈(500)에서 전송된 경계박스의 크기가 설정된 임계값보다 클 경우, 탐지된 선박객체과의 거리가 가까워 충돌 위험이 발생할 우려가 있는 위험거리로 인식하여 위험신호를 아래에 서술된 자율회피제어모듈(700)로 전송한다.
또한, 경계박스크기연산모듈(500)에서 전송된 경계박스의 크기가 설정된 임계값 보다 작을 경우, 탐지된 타 선박객체과의 거리가 멀어 충돌 위험이 없는 안전거리로 인식하여 아래에 서술된 자율회피제어모듈(700)에서 선박의 회피기동을 하지 않고, 본래의 항로를 따라 운항을 계속하게 된다.
자율회피제어모듈(700)은 도 1을 참조하면, 선박거리측정모듈(600)에서 탐지된 타 선박객체의 설정된 경계박스의 크기가 설정된 임계값보다 클 경우, 선박거리측정모듈(600)에서 전송한 위험신호를 전송받아 선박의 자율회피기동을 수행한다.
자율회피제어모듈(700)에서는 경계박스크기연산모듈(500)에서 전송한 신호가 위험신호일 경우, 그에 따른 회피기동을 할 때, 탐지된 타 선박객체에 대해 오른쪽 방향 즉, 우현 방향으로 회피기동을 하도록 설정된다.
또한, 우현 방향으로 회피기동을 할 때, 계속적으로 우현 방향으로 회전을 할 경우, 또 다른 문제가 발생할 우려가 있기 때문에 회피기동을 하는 선박은 열화상카메라모듈에서 전송한 타 선박객체가 자율회피기동을 하는 선박의 폭만큼 좌측 방향에 위치해 있을 때 우현 회피 기동을 멈추고, 다시 전진 운항을 하도록 설정된다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위 내에서 다양한 수정, 변경 및 치환이 가능할 것이다. 따라서, 본 발명에 개시된 실시예 및 첨부된 도면들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예 및 첨부된 도면에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
100 - 학습데이터생성모듈 200 - 데이터학습모듈
300 - 열화상카메라모듈 400 - 선박탐지모듈
500 - 경계박스크기연산모듈 600 - 선박거리측정모듈
700 - 자율회피제어모듈

Claims (5)

  1. 선박객체가 포함된 다수의 이미지에서 선박객체에 대해 경계박스를 설정하는 라벨링 과정을 통해 배경이 포함된 이미지에서 선박객체만을 식별할 수 있는 학습데이터를 생성하는 학습데이터생성모듈(100);
    콘볼루션신경망이 포함된 딥러닝 네트워크 모델이 포함되며, 학습데이터생성모듈(100)에 의해 생성된 학습데이터를 딥러닝 네트워크 모델에 대한 입력데이터로 이용하여 입력데이터로 사용된 이미지 상에서 선박객체를 탐지하기 위한 학습을 진행하는 데이터학습모듈(200);
    해상에 위치하는 타 선박객체를 촬영하기 위해 선박에 구비되는 열화상카메라모듈(300);
    데이터학습모듈(200)에 의해 학습된 딥러닝 네트위크 모델을 이용하여 해상에서 운항하는 실제 타 선박객체를 탐지하며, 열화상카메라모듈(300)에서 획득한 영상 정보를 시간 단위로 캡쳐하고, 캡쳐된 이미지 중에 포함된 선박객체를 탐지하며, 탐지된 선박객체에 대해 경계박스가 설정된 이미지를 출력하는 선박탐지모듈(400)
    을 포함하고,
    선박탐지모듈(400)에서는 탐지된 경계박스가 설정된 타 선박객체의 이미지와 경계박스의 가로축좌표, 경계박스의 세로축좌표, 경계박스의 폭, 경계박스의 높이를 포함하여 경계박스에 관한 정보가 함께 출력되는 것
    을 포함하며,
    선박탐지모듈(400)에서 경계박스가 설정된 타 선박객체를 탐지할 경우, 타 선박객체에 설정된 경계박스에 관한 정보 중 경계박스의 폭과 경계박스의 높이에 관한 정보를 추출하고, 추출된 경계박스의 폭과 경계박스의 높이를 곱하여 경계박스의 크기를 연산하는 경계박스크기연산모듈(500);
    을 포함하고,
    경계박스크기연산모듈(500)에서는 시간의 경과에 따라 경계박스가 크지는 속도를 측정하여 연속적인 경계박스 크기에 대한 데이터를 연산하는 것
    을 포함하며,
    경계박스크기연산모듈(500)에서 연산된 경계박스의 크기를 탐지된 타 선박객체와의 거리로 변환하는 선박거리측정모듈(600);
    을 포함하고,
    선박거리측정모듈(600)에는 타 선박객체에 설정된 경계박스의 크기를 거리로 변환할 때, 경계박스의 크기를 선박 간의 거리로 변환할 수 있는 임계값이 설정되어 있으며, 경계박스크기연산모듈(500)에서 전송된 경계박스의 크기가 설정된 임계값보다 클 경우, 탐지된 선박객체과의 거리가 가까워 충돌 위험이 발생할 우려가 있는 위험거리로 인식하여 위험신호를 전송하는 것
    을 포함하며,
    선박거리측정모듈(600)에서 탐지된 타 선박객체의 설정된 경계박스의 크기가 설정된 임계값보다 클 경우, 선박거리측정모듈(600)에서 전송한 위험신호를 전송받아 선박의 자율회피기동을 수행하는 자율회피제어모듈(700)
    을 포함하는, 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
KR1020200022864A 2020-02-25 2020-02-25 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템 KR102257006B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200022864A KR102257006B1 (ko) 2020-02-25 2020-02-25 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200022864A KR102257006B1 (ko) 2020-02-25 2020-02-25 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템

Publications (1)

Publication Number Publication Date
KR102257006B1 true KR102257006B1 (ko) 2021-05-27

Family

ID=76135895

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200022864A KR102257006B1 (ko) 2020-02-25 2020-02-25 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템

Country Status (1)

Country Link
KR (1) KR102257006B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230040461A (ko) * 2021-09-16 2023-03-23 (주) 위트리 딥러닝을 이용한 차단봉 제어 시스템
KR102590238B1 (ko) * 2022-10-25 2023-10-17 주식회사 아이티유 머신러닝 기반 선박높이 예측을 위한 영상처리 장치
KR20240043171A (ko) 2022-09-26 2024-04-03 김준연 멀티 채널 인공지능망 기반의 선박 검출, 분류 및 추적 시스템

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102060567B1 (ko) * 2019-05-13 2019-12-30 호서대학교 산학협력단 심층신경망을 이용한 선박 주변 객체 인식 방법 및 시스템

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102060567B1 (ko) * 2019-05-13 2019-12-30 호서대학교 산학협력단 심층신경망을 이용한 선박 주변 객체 인식 방법 및 시스템

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230040461A (ko) * 2021-09-16 2023-03-23 (주) 위트리 딥러닝을 이용한 차단봉 제어 시스템
KR102640725B1 (ko) * 2021-09-16 2024-02-27 (주) 위트리 딥러닝을 이용한 차단봉 제어 시스템
KR20240043171A (ko) 2022-09-26 2024-04-03 김준연 멀티 채널 인공지능망 기반의 선박 검출, 분류 및 추적 시스템
KR102590238B1 (ko) * 2022-10-25 2023-10-17 주식회사 아이티유 머신러닝 기반 선박높이 예측을 위한 영상처리 장치

Similar Documents

Publication Publication Date Title
KR102257006B1 (ko) 딥러닝을 이용한 선박 충돌 방지 자율회피 시스템
KR102060567B1 (ko) 심층신경망을 이용한 선박 주변 객체 인식 방법 및 시스템
KR102113955B1 (ko) 선박 및 항만 모니터링 장치 및 방법
KR101805564B1 (ko) 선박 충돌 방지용 경보 시스템 및 방법
KR102235787B1 (ko) 접안 모니터링 장치 및 방법
US10007836B2 (en) Bird detection device, bird detection system, bird detection method, and program extracting a difference between the corrected images
KR102265980B1 (ko) 선박 및 항만 모니터링 장치 및 방법
US20220351523A1 (en) Method and device for monitoring port and ship in consideration of sea level
KR102155724B1 (ko) 심층신경망을 이용한 선박 내 객체의 위험 검출 방법 및 시스템
KR102530847B1 (ko) 항만 및 선박 모니터링 방법 및 장치
KR20200095888A (ko) 무인 선박 시스템의 상황인지 방법 및 장치
Bloisi et al. Camera based target recognition for maritime awareness
KR101666466B1 (ko) 단안 카메라를 이용한 해상 객체 거리측정 시스템을 이용한 해상 위험관리 시스템 및 해상 위험 관리방법
KR20210099450A (ko) 딥러닝을 이용한 원거리 소형 드론 탐지 방법
KR20180065048A (ko) 카메라 영상의 뎁쓰-맵을 이용한 이동 차량의 장애물 검출 장치
Gupta et al. A GUI based application for low intensity object classification & count using SVM approach
KR20230074438A (ko) 선박 및 항만 모니터링 장치 및 방법
KR20220028607A (ko) 딥러닝을 이용한 익수자 인식 시스템
US10304205B2 (en) Image processing apparatus, method of controlling the same, and storage medium
KR101807852B1 (ko) 적외선 영상 기반의 해상 물체 탐지 장치 및 방법
Fiorini et al. Optical target recognition for drone ships
KR102528718B1 (ko) 근적외선 카메라를 사용한 딥 러닝 기반 드론 감지 시스템
Kennedy Development of an exteroceptive sensor suite on unmanned surface vessels for real-time classification of navigational markers
KR20110044492A (ko) 위치인식에 의한 표적좌표 추적영상감시시스템 및 그 추적영상감시장치
Mou et al. Global sparsity potentials for obstacle detection from unmanned surface vehicles

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant