KR102645492B1

KR102645492B1 - 선박 및 항만 모니터링 장치 및 방법

Info

Publication number: KR102645492B1
Application number: KR1020230063562A
Authority: KR
Inventors: 박별터; 김한근; 김동훈; 구정모
Original assignee: 씨드로닉스(주)
Priority date: 2020-10-26
Filing date: 2023-05-17
Publication date: 2024-03-11
Also published as: KR102535115B1; KR20230074438A; KR20220055556A; KR20240036529A

Abstract

본 발명은 선박 및 항만 모니터링 장치 및 방법에 관한 것으로, 일 실시예에 따르면 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 복수의 훈련 이미지 및 상기 복수의 훈련 이미지의 픽셀들에 라벨링되는 객체 정보를 포함하는 학습 세트를 이용하여 학습되는 인공 신경망을 준비하는 단계 - 상기 객체 정보는 객체의 유형이 선박임을 나타내는 제1 인덱스 및 객체의 유형이 바다임을 나타내는 제2 인덱스를 갖고, 상기 제1 인덱스는 상기 복수의 훈련 이미지 내의 상기 선박의 영역에 대응하는 픽셀들에 라벨링되고, 상기 제2 인덱스는 상기 복수의 훈련 이미지 내의 상기 바다의 영역에 대응하는 픽셀들에 라벨링됨-, 카메라에 의해 촬상된 이미지를 획득하는 단계, 상기 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 갖는 라이다 센서에 의해 얻어지는 복수의 라이다 포인트를 포함하는 라이다 데이터를 획득하는 단계, 상기 인공 신경망을 이용하여 상기 획득한 이미지로부터 타겟 선박에 대응하는 타겟 선박 영역을 검출하는 단계, 상기 타겟 선박 영역을 특정 기준 평면으로 투영하여 변환 이미지를 생성하는 단계, 상기 변환 이미지의 투영된 상기 타겟 선박 영역에 포함되는 픽셀의 픽셀 위치를 고려하여 상기 타겟 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 선택하는 단계, 상기 선택된 라이다 포인트들을 이용하여 추정 라이다 포인트들을 생성하는 단계, 상기 선택된 라이다 포인트들 및 상기 생성된 추정 라이다 포인트들 중 상기 타겟 선박의 특징 포인트를 결정하는 단계 및 상기 특징 포인트를 이용하여 상기 타겟 선박과 다른 객체와의 거리를 계산하는 단계를 포함하는 항만 모니터링 방법이 제공될 수 있다.

Description

선박 및 항만 모니터링 장치 및 방법{DEVICE AND METHOD FOR MONITORING SHIP AND PORT}

본 발명은 선박 및 항만 모니터링 장치 및 방법에 관한 것으로, 구체적으로 카메라 이미지를 이용하여 선박과 관련된 라이다 데이터를 추정하는 선박 및 항만 모니터링 장치 및 방법에 관한 것이다.

선박의 운항 및 항만 내에서의 접안, 이안에 있어 많은 사고가 발생하고 있으며, 그 사고의 주요 원인은 사람의 운항 부주의로 알려져 있다. 여기서, 운항 부주의는 주로 선박 주변이나 항만 내의 상황을 육안을 통해서 정확하게 모니터링하지 못한다는 점에 의해 발생한다. 현재 다양한 종류의 장애물 센서 등을 이용해 이를 보완하고 있으나 아직까지는 한계점이 존재하는 상황이다.

최근에는 영상을 통해 선박 주변이나 항만 내의 상황을 모니터링하는 기술이 개발되고 있으나, 라이다를 함께 사용하여 모니터링의 정확도 향상을 도모하고 있다. 하지만, 항만에 사용되는 라이다의 경우 비용 문제로 저성능이며, 모니터링의 대상인 선박의 크기가 크기 때문에 모니터링을 위해 필요한 최소한의 라이다 데이터도 획득하기가 어렵다는 문제점이 있었다.

따라서, 획득된 라이다 데이터로부터 모니터링을 위해 필요한 부가 라이다 데이터를 추정하는 기술에 대한 기술 개발이 필요한 실정이다.

본 출원의 해결하고자 하는 일 과제는, 카메라 및 라이다의 데이터를 효율적으로 융합하는 선박 및 항만 모니터링 장치 및 방법을 제공하는 것에 있다.

본 출원의 해결하고자 하는 일 과제는, 카메라 이미지를 이용하여 선박과 관련된 라이다 데이터를 추정하는 선박 및 항만 모니터링 장치 및 방법을 제공하는 것에 있다.

본 출원의 해결하고자 하는 과제가 상술한 과제로 제한되는 것은 아니며, 언급되지 아니한 과제들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

일실시예에 따르면 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 복수의 훈련 이미지 및 상기 복수의 훈련 이미지의 픽셀들에 라벨링되는 객체 정보를 포함하는 학습 세트를 이용하여 학습되는 인공 신경망을 준비하는 단계 - 상기 객체 정보는 객체의 유형이 선박임을 나타내는 제1 인덱스 및 객체의 유형이 바다임을 나타내는 제2 인덱스를 갖고, 상기 제1 인덱스는 상기 복수의 훈련 이미지 내의 상기 선박의 영역에 대응하는 픽셀들에 라벨링되고, 상기 제2 인덱스는 상기 복수의 훈련 이미지 내의 상기 바다의 영역에 대응하는 픽셀들에 라벨링됨-, 카메라에 의해 촬상된 이미지를 획득하는 단계, 상기 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 갖는 라이다 센서에 의해 얻어지는 복수의 라이다 포인트를 포함하는 라이다 데이터를 획득하는 단계, 상기 인공 신경망을 이용하여 상기 획득한 이미지로부터 타겟 선박에 대응하는 타겟 선박 영역을 검출하는 단계, 상기 타겟 선박 영역을 특정 기준 평면으로 투영하여 변환 이미지를 생성하는 단계, 상기 변환 이미지의 투영된 상기 타겟 선박 영역에 포함되는 픽셀의 픽셀 위치를 고려하여 상기 타겟 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 선택하는 단계, 상기 선택된 라이다 포인트들을 이용하여 추정 라이다 포인트들을 생성하는 단계, 상기 선택된 라이다 포인트들 및 상기 생성된 추정 라이다 포인트들 중 상기 타겟 선박의 특징 포인트를 결정하는 단계 및 상기 특징 포인트를 이용하여 상기 타겟 선박과 다른 객체와의 거리를 계산하는 단계를 포함하는 항만 모니터링 방법이 제공될 수 있다.

일 실시예에 따르면 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 카메라에 의해 촬상된 이미지를 획득하는 단계, 상기 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 갖는 라이다 센서에 의해 얻어지는 복수의 라이다 포인트를 포함하는 라이다 데이터를 획득하는 단계, 상기 이미지로부터 세그멘테이션 이미지를 생성하는 단계 -상기 세그멘테이션 이미지는 선박에 대응하는 선박 영역을 포함하고, 상기 선박 영역은 상기 선박의 측면에 대응하는 측면 영역 및 상기 선박의 갑판 영역에 대응하는 갑판 영역을 포함함-, 상기 선박 영역을 임의의 제1 기준 평면 및 제2 기준 평면에 투영하여 제1 변환 이미지 또는 제2 변환 이미지 중 적어도 하나를 생성하는 단계 - 상기 제1 기준 평면 및 상기 제2 기준 평면의 높이는 서로 상이한, 상기 복수의 라이다 포인트 중 상기 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 상기 제1 변환 이미지 및 상기 제2 변환 이미지 중 적어도 하나에 정렬하는 단계, 상기 제1 변환 이미지 및 상기 제2 변환 이미지 중 적어도 하나에서 투영된 상기 선박 영역의 형상에 따라 상기 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 내삽 및/또는 외삽하여 추정 라이다 포인트를 생성하는 단계, 상기 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들 및 상기 추정 라이다 포인트 중 선박의 특징 포인트를 결정하는 단계 및 상기 특징 포인트를 이용하여 상기 타겟 선박과 다른 객체와의 거리를 계산하는 단계를 포함하는 항만 모니터링 방법이 제공될 수 있다.

일 실시예에 따르면, 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 복수의 훈련 이미지 및 상기 복수의 훈련 이미지의 픽셀들에 라벨링되는 객체 정보를 포함하는 학습 세트를 이용하여 학습되는 인공 신경망을 준비하는 단계 - 상기 객체 정보는 객체의 유형이 선박임을 나타내는 제1 인덱스 및 객체의 유형이 바다임을 나타내는 제2 인덱스를 갖고, 상기 제1 인덱스는 상기 복수의 훈련 이미지 내의 상기 선박의 영역에 대응하는 픽셀들에 라벨링되고, 상기 제2 인덱스는 상기 복수의 훈련 이미지 내의 상기 바다의 영역에 대응하는 픽셀들에 라벨링됨-, 상기 갑판이 서로 상이한 높이에 위치하는 제1 선박 및 제2 선박을 포함하는 해상 이미지를 획득하는 단계, 상기 인공 신경망을 이용하여 상기 획득한 해상 이미지로부터 상기 제1 선박에 대응하는 제1 선박 영역 및 상기 제2 선박에 대응하는 제2 선박 영역을 검출하는 단계, 상기 제1 선박의 갑판 높이에 대응하는 제1 높이 및 상기 제2 선박의 갑판 높이에 대응하는 제2 높이에 기초하여 상기 제1 선박의 위치 및 상기 제2 선박의 위치를 획득하는 단계 및 상기 제1 선박의 위치 및 상기 제2 선박의 위치에 기초하여 상기 제1 선박 및 상기 제2 선박 사이의 거리를 계산하는 단계;를 포함하는 항만 모니터링 방법이 제공될 수 있다.

본 발명의 과제의 해결 수단이 상술한 해결 수단들로 제한되는 것은 아니며, 언급되지 아니한 해결 수단들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 출원의 일 실시예에 의하면, 카메라 및 라이다의 데이터를 효율적으로 융합하여 선박의 특징 포인트를 추출하고, 이를 이용하여 모니터링을 위한 정보를 정확하게 제공할 수 있다.

본 출원의 다른 일 실시예에 의하면, 카메라 이미지를 이용하여 선박과 관련된 라이다 데이터를 추정하여 라이다 데이터의 부족 문제를 해결할 수 있다.

본 출원의 효과가 상술한 효과들로 제한되는 것은 아니며, 언급되지 아니한 효과들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.

도 1은 일 실시예에 따른 항만 모니터링 장치에 관한 도면이다.
도 2 및 도 3은 일 실시예에 따른 모니터링 장치의 실시예에 관한 도면이다.
도 4는 일 실시예에 따른 시야각 및 피사계 심도에 관한 도면이다.
도 5 및 도 6은 일 실시예에 따른 센서 모듈의 설치 위치에 관한 도면이다.
도 7 내지 도 9는 일 실시예에 따른 오브젝트 인식 단계에 관한 도면이다.
도 10 및 도 11은 일 실시예에 따른 인공 신경망의 학습 단계 및 추론 단계에 관한 도면이다.
도 12는 일 실시예에 따른 접안 가이드 정보를 설명하기 위한 도면이다.
도 13은 일 실시예에 따른 선박과 안벽 사이의 접안 가이드 정보를 설명하기 위한 도면이다.
도 14는 일 실시예에 따른 접안 가이드 정보를 획득하는 방법을 설명하기 위한 도면이다.
도 15는 일 실시예에 따른 시점 변환에 관한 도면이다.
도 16은 일 실시예에 따른 선박의 특징 포인트에 기초한 거리 산출 방법의 순서도이다.
도 17은 일 실시예에 따른 센서 데이터의 획득의 일 예시이다.
도 18은 일 실시예에 따른 시점이 변환된 이미지를 이용한 선박의 특징 포인트 생성 방법의 순서도이다.
도 19는 일 실시예에 따른 변환 이미지의 예시이다.
도 20은 일 실시예에 따른 선박 사이의 거리 계산을 설명하기 위한 도면이다.
도 21은 일 실시예에 따른 라이다 포인트 추정 방법의 순서도이다.
도 22는 일 실시예에 따른 카메라 이미지 및 라이다 데이터의 정합의 예시이다.
도 23은 일 실시예에 따른 추정 라이다 포인트를 고려한 선박의 특징 포인트 생성 방법의 순서도이다.
도 24는 일 실시예에 따른 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들의 일 예시이다.
도 25 및 도 26은 일 실시예에 따른 기준 평면에 투영된 선박 영역에 정합된 라이다 포인트를 이용한 추정 라이다 포인트의 생성을 설명하기 위한 도면이다.
도 27은 일 실시예에 따른 선박 영역이 복수의 기준 평면에 투영된 이미지들을 이용한 선박의 특징 포인트 획득 방법의 순서도이다.
도 28 및 도 29는 일 실시예에 따른 서로 상이한 임의의 기준 평면에 투영된 이미지들의 정렬을 설명하기 위한 도면이다.

본 명세서에 기재된 실시예는 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 본 발명의 사상을 명확히 설명하기 위한 것이므로, 본 발명이 본 명세서에 기재된 실시예에 의해 한정되는 것은 아니며, 본 발명의 범위는 본 발명의 사상을 벗어나지 아니하는 수정예 또는 변형예를 포함하는 것으로 해석되어야 한다.

본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하여 가능한 현재 널리 사용되고 있는 일반적인 용어를 선택하였으나 이는 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자의 의도, 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 다만, 이와 달리 특정한 용어를 임의의 의미로 정의하여 사용하는 경우에는 그 용어의 의미에 관하여 별도로 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는 단순한 용어의 명칭이 아닌 그 용어가 가진 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 한다.

본 명세서에 첨부된 도면은 본 발명을 용이하게 설명하기 위한 것으로 도면에 도시된 형상은 본 발명의 이해를 돕기 위하여 필요에 따라 과장되어 표시된 것일 수 있으므로 본 발명이 도면에 의해 한정되는 것은 아니다.

본 명세서에서 본 발명에 관련된 공지의 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에 이에 관한 자세한 설명은 필요에 따라 생략하기로 한다.

본 명세서에서 해수면 높이란 절대적인 해수면의 높이뿐만 아니라, 상대적인 해수면의 높이, 특정 바다의 영역의 평균적인 해수면 높이와 비교된 상대적인 해수면 높이 등을 포함하도록 넓게 해석되어야 한다. 예를 들어, 해수면 높이는 해수면과 안벽 사이의 거리, 해수면과 모니터링 장치(예를 들어, 이미지 생성 유닛) 사이의 거리, 해수면 위로 노출된 오브젝트의 길이 등 해수면의 높이 변화에 따라 달라질 수 있는 다양한 정보를 포함할 수도 있다.

본 명세서에서 모니터링이란 주변 상황을 파악하거나 인식하는 것으로, 일정 영역이나 특정 오브젝트 등 감지 대상을 각종 센서를 이용하여 감지하고 그 감지 결과를 사용자에게 제공하는 것뿐만 아니라 감지 결과를 바탕으로 연산 등을 통해 추가적인 정보를 제공하는 것 등을 포함하도록 넓게 해석되어야 한다.

이미지 기반 모니터링이란 이미지에 기초하여 주변 상황을 파악하거나 인식하는 것을 의미할 수 있다. 예를 들어, 모니터링은 선박의 운항 시 선박 주변 이미지를 획득하여 이로부터 다른 선박이나 장애물 등을 인식하거나, 선박의 접안 또는 이안 시 접안 가이드 정보를 산출하기 위한 정보를 획득하는 것을 의미할 수 있다.

접안 가이드 정보란 다른 선박이나 장애물 등의 인식, 항만 상황 파악, 선석에 접근 가능한지 여부, 안벽과의 거리 및 속도, 다른 선박과의 거리 및 속도, 운항 경로 상 장애물 존재 여부 파악 등 환경에 대한 정보를 의미할 수 있다. 본 명세서에서는 주로 선박 및 항만에서 접안이 수행되는 경우의 모니터링에 대해 설명하나, 이에 한정되는 것은 아니고 차량의 주행, 비행체의 운항 등의 경우에도 적용될 수 있을 것이다.

본 발명의 일 양상에 따르면, 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 복수의 훈련 이미지 및 상기 복수의 훈련 이미지의 픽셀들에 라벨링되는 객체 정보를 포함하는 학습 세트를 이용하여 학습되는 인공 신경망을 준비하는 단계 - 상기 객체 정보는 객체의 유형이 선박임을 나타내는 제1 인덱스 및 객체의 유형이 바다임을 나타내는 제2 인덱스를 갖고, 상기 제1 인덱스는 상기 복수의 훈련 이미지 내의 상기 선박의 영역에 대응하는 픽셀들에 라벨링되고, 상기 제2 인덱스는 상기 복수의 훈련 이미지 내의 상기 바다의 영역에 대응하는 픽셀들에 라벨링됨-, 카메라에 의해 촬상된 이미지를 획득하는 단계, 상기 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 갖는 라이다 센서에 의해 얻어지는 복수의 라이다 포인트를 포함하는 라이다 데이터를 획득하는 단계, 상기 인공 신경망을 이용하여 상기 획득한 이미지로부터 타겟 선박에 대응하는 타겟 선박 영역을 검출하는 단계, 상기 타겟 선박 영역을 특정 기준 평면으로 투영하여 변환 이미지를 생성하는 단계, 상기 변환 이미지의 투영된 상기 타겟 선박 영역에 포함되는 픽셀의 픽셀 위치를 고려하여 상기 타겟 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 선택하는 단계, 상기 선택된 라이다 포인트들을 이용하여 추정 라이다 포인트들을 생성하는 단계, 상기 선택된 라이다 포인트들 및 상기 생성된 추정 라이다 포인트들 중 상기 타겟 선박의 특징 포인트를 결정하는 단계 및 상기 특징 포인트를 이용하여 상기 타겟 선박과 다른 객체와의 거리를 계산하는 단계를 포함하는 항만 모니터링 방법이 제공될 수 있다.

일 실시예에서, 상기 특정 기준 평면은 해수면에서의 기준 평면을 포함할 수 있다.

일 실시예에서, 상기 추정 라이다 포인트는 상기 선택된 라이다 포인트들 중 상기 변환 이미지에서 상기 타겟 선박과 상기 해수면이 접하는 라인에 위치한 라이다 포인트들로부터 생성될 수 있다.

일 실시예에서, 상기 추정 라이다 포인트는 상기 타겟 선박과 상기 해수면이 접하는 상기 라인에 위치한 상기 라이다 포인트들의 상대적인 위치를 고려하여 외삽 및/또는 내삽하여 생성될 수 있다.

일 실시예에서, 상기 특정 기준 평면은 상기 타겟 선박의 갑판 높이에서의 기준 평면을 포함할 수 있다.

일 실시예에서, 상기 추정 라이다 포인트는 상기 선택된 라이다 포인트들 중 상기 변환 이미지에서 상기 타겟 선박의 측면과 갑판이 접하는 라인에 위치한 라이다 포인트들로부터 생성될 수 있다.

일 실시예에서, 상기 추정 라이다 포인트는 상기 타겟 선박의 측면과 갑판이 접하는 상기 라인에 위치한 상기 라이다 포인트들의 상대적인 위치를 고려하여 외삽 및/또는 내삽하여 생성될 수 있다.

일 실시예에서, 상기 특정 기준 평면은 임의의 제1 기준 평면 및 제2 기준 평면을 포함하고, 상기 변환 이미지는 제1 변환 이미지 및 제2 변환 이미지를 포함하고, 상기 제1 변환 이미지는 상기 타겟 선박 영역을 상기 제1 기준 평면에 투영하여 생성되고, 상기 제2 변환 이미지는 상기 타겟 선박 영역을 상기 제2 기준 평면에 투영하여 생성될 수 있다.

일 실시예에서, 상기 제1 변환 이미지 및 상기 제2 변환 이미지는 상기 복수의 라이다 포인트의 위치에 기초하여 정렬될 수 있다.

일 실시예에서, 상기 타겟 선박의 특징 포인트는 상기 타겟 선박의 선수 및 선미 중 적어도 하나에 대응하는 포인트를 포함할 수 있다.

일 실시예에서, 상기 타겟 선박의 특징 포인트는 상기 변환 이미지의 상기 타겟 선박과 해수면이 접하는 라인에 위치한 라이다 포인트들 중 적어도 하나의 임의의 포인트를 포함할 수 있다.

일 실시예에서, 상기 타겟 선박의 특징 포인트는 상기 변환 이미지의 상기 타겟 선박 영역의 양 끝단에 위치한 라이다 포인트들을 포함할 수 있다.

일 실시예에서, 상기 인공 신경망은 객체의 유형이 선박의 측면임을 나타내는 제3 인덱스, 객체의 유형이 선박의 갑판임을 나타내는 제4 인덱스를 추가로 포함할 수 있다.

본 발명의 다른 일 양상에 따르면 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 카메라에 의해 촬상된 이미지를 획득하는 단계, 상기 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 갖는 라이다 센서에 의해 얻어지는 복수의 라이다 포인트를 포함하는 라이다 데이터를 획득하는 단계, 상기 이미지로부터 세그멘테이션 이미지를 생성하는 단계 -상기 세그멘테이션 이미지는 선박에 대응하는 선박 영역을 포함하고, 상기 선박 영역은 상기 선박의 측면에 대응하는 측면 영역 및 상기 선박의 갑판 영역에 대응하는 갑판 영역을 포함함-, 상기 선박 영역을 임의의 제1 기준 평면 및 제2 기준 평면에 투영하여 제1 변환 이미지 또는 제2 변환 이미지 중 적어도 하나를 생성하는 단계 - 상기 제1 기준 평면 및 상기 제2 기준 평면의 높이는 서로 상이한, 상기 복수의 라이다 포인트 중 상기 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 상기 제1 변환 이미지 및 상기 제2 변환 이미지 중 적어도 하나에 정렬하는 단계, 상기 제1 변환 이미지 및 상기 제2 변환 이미지 중 적어도 하나에서 투영된 상기 선박 영역의 형상에 따라 상기 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들을 내삽 및/또는 외삽하여 추정 라이다 포인트를 생성하는 단계, 상기 선박으로부터 반사되는 라이다 빔과 관련된 라이다 포인트들 및 상기 추정 라이다 포인트 중 선박의 특징 포인트를 결정하는 단계 및 상기 특징 포인트를 이용하여 상기 타겟 선박과 다른 객체와의 거리를 계산하는 단계를 포함하는 항만 모니터링 방법이 제공될 수 있다.

본 발명의 다른 일 양상에 따르면, 컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로, 복수의 훈련 이미지 및 상기 복수의 훈련 이미지의 픽셀들에 라벨링되는 객체 정보를 포함하는 학습 세트를 이용하여 학습되는 인공 신경망을 준비하는 단계 - 상기 객체 정보는 객체의 유형이 선박임을 나타내는 제1 인덱스 및 객체의 유형이 바다임을 나타내는 제2 인덱스를 갖고, 상기 제1 인덱스는 상기 복수의 훈련 이미지 내의 상기 선박의 영역에 대응하는 픽셀들에 라벨링되고, 상기 제2 인덱스는 상기 복수의 훈련 이미지 내의 상기 바다의 영역에 대응하는 픽셀들에 라벨링됨-, 상기 갑판이 서로 상이한 높이에 위치하는 제1 선박 및 제2 선박을 포함하는 해상 이미지를 획득하는 단계, 상기 인공 신경망을 이용하여 상기 획득한 해상 이미지로부터 상기 제1 선박에 대응하는 제1 선박 영역 및 상기 제2 선박에 대응하는 제2 선박 영역을 검출하는 단계, 상기 제1 선박의 갑판 높이에 대응하는 제1 높이 및 상기 제2 선박의 갑판 높이에 대응하는 제2 높이에 기초하여 상기 제1 선박의 위치 및 상기 제2 선박의 위치를 획득하는 단계 및 상기 제1 선박의 위치 및 상기 제2 선박의 위치에 기초하여 상기 제1 선박 및 상기 제2 선박 사이의 거리를 계산하는 단계;를 포함하는 항만 모니터링 방법이 제공될 수 있다.

일 실시예에서, 상기 제1 선박의 위치 및 상기 제2 선박의 위치를 획득하는 단계는 상기 제1 선박 영역을 상기 제1 높이에서의 기준 평면에 투영하여 제1 변환 이미지를 생성하는 단계, 상기 제1 변환 이미지를 이용하여 상기 제1 선박의 위치를 획득하는 단계, 상기 제2 선박 영역을 상기 제2 높이에서의 기준 평면에 투영하여 제2 변환 이미지를 생성하는 단계, 및 상기 제2 변환 이미지를 이용하여 상기 제2 선박의 위치를 획득하는 단계를 포함할 수 있다.

일 실시예에서, 상기 제1 선박의 위치를 획득하는 단계는 상기 제1 변환 이미지에서 투영된 상기 제1 선박 영역의 픽셀 위치를 이용하여 상기 제1 선박의 선수 및 선미 중 적어도 하나의 제1 위치를 획득하는 단계를 포함하고, 상기 제2 선박의 위치를 획득하는 단계는 상기 제2 변환 이미지에서 투영된 상기 제2 선박 영역의 픽셀 위치를 이용하여 상기 제2 선박의 선수 및 선미 중 적어도 하나의 제2 위치를 획득하는 단계를 포함할 수 있다.

본 발명의 다른 일 양상에 따르면 상술한 방법들을 수행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체가 제공될 수 있다.

이하에서는 일 실시예에 따른 선박 및 항만 모니터링 장치 및 방법에 대하여 설명한다.

도 1은 일 실시예에 따른 항만 모니터링 장치에 관한 도면이다.

도 1을 참고하면, 모니터링 장치(10)는 센서 모듈(100), 제어 모듈(200) 및 통신 모듈(300)을 포함할 수 있다.

센서 모듈(100)은 선박이나 선박 주변 및 항만에 대한 정보를 센싱할 수 있다. 센서 모듈(100)은 선박자동식별장치(automatic identification system, AIS), 이미지 생성 유닛, 라이다(LIDAR) 센서, 위치 측정 유닛, 자세 측정 유닛, 케이싱 등을 포함할 수 있다.

이미지 생성 유닛은 이미지를 생성할 수 있다. 이미지 생성 유닛은 카메라, 레이더, 초음파 탐지기 등을 포함할 수 있다. 카메라의 예로는 단안 카메라, 쌍안 카메라, 가시광선 카메라, IR 카메라, depth 카메라가 있지만 이에 한정되는 것은 아니다.

라이다 센서는 레이저를 이용하여 대상체의 거리 및 위치를 탐지하기 위한 센서이다. 예를 들어, 라이다 센서와 대상체와의 거리 및 라이다 센서를 기준으로 한 대상체의 위치는 3차원 좌표계로 나타낼 수 있다. 예를 들어, 라이다 센서와 대상체와의 거리 및 라이다 센서를 기준으로 한 대상체의 위치는 직교좌표계, 구면좌표계, 원통좌표계 등으로 나타낼 수 있다. 라이다 센서는 수직 또는 수평 방향으로 복수의 채널을 가질 수 있고, 일 예로 32개 또는 64개의 채널을 갖는 라이다 센서일 수 있다.

라이다 센서는 대상체와의 거리(R)를 결정하기 위하여, 대상체로부터 반사된 레이저를 이용할 수 있다. 예를 들어, 라이다 센서는 대상체와의 거리를 결정하기 위해 출사된 레이저와 감지된 레이저의 시간차이인 비행시간(TOF: Time Of Flight)을 이용할 수 있다. 이를 위해, 라이다 센서는 레이저를 출력하는 레이저 출력부와 반사된 레이저를 감지하는 수신부를 포함할 수 있다. 라이다 센서는 레이저 출력부에서 레이저가 출력된 시간을 확인하고, 대상체로부터 반사된 레이저를 수신부에서 감지한 시간을 확인하여, 출사된 시간과 감지된 시간의 차이에 기초하여 대상체와의 거리를 판단할 수 있다. 물론, 라이다 센서는 대상체와의 거리(R)를 결정하기 위해 감지된 레이저의 감지 위치를 기초로 삼각측량법, 감지된 레이저의 위상변화(Phase shift)를 이용하는 등 다른 방식으로 대상체와의 거리(R)를 결정하여도 무방하다.

라이다 센서는 조사되는 레이저의 각도를 이용하여 대상체의 위치를 결정할 수 있다. 예를 들어, 라이다 센서에서 라이다 센서의 스캔영역을 향해 조사된 하나의 레이저의 조사 각도를 알 수 있는 경우, 상기 스캔영역상에 존재하는 대상체로부터 반사된 레이저가 수신부에서 감지된다면, 라이다 센서는 조사된 레이저의 조사 각도로 상기 대상체의 위치를 결정할 수 있다.

라이다 센서는 주변의 임의의 대상체의 위치를 탐지하기 위해 대상체를 포함하는 스캔영역을 가질 수 있다. 여기서 스캔영역은 탐지 가능한 영역을 한 화면으로 표현한 것으로 1프레임동안 한 화면을 형성하는 점, 선, 면의 집합을 의미할 수 있다. 또한 스캔영역은 라이다 센서에서 조사된 레이저의 조사영역을 의미할 수 있으며, 조사영역은 1프레임 동안 조사된 레이저가 같은 거리(R)에 있는 구면과 만나는 점, 선, 면의 집합을 의미할 수 있다. 또한 시야각(FOV, Field of view)은 탐지 가능한 영역을 의미하며, 라이다 센서를 원점으로 보았을 때 스캔영역이 가지는 각도 범위로 정의될 수 있다.

위치 측정 유닛은 센서 모듈(100)이나 이미지 생성 유닛 등 센서 모듈(100)에 포함된 구성의 위치를 측정할 수 있다. 일 예로, 위치 측정 유닛은 GPS(Global Positioning System)일 수 있다. 특히, 위치 측정의 정확도 향상을 위해 RTK-GPS(Real-Time Kinematic GPS)가 이용될 수도 있다.

위치 측정 유닛은 미리 정해진 시간 간격마다 위치 정보를 획득할 수 있다. 여기서, 상기 시간 간격은 센서 모듈(100)의 설치 위치에 따라 달라질 수 있다. 예를 들어, 센서 모듈(100)이 선박 등 이동체에 설치된 경우 위치 측정 유닛은 짧은 시간 간격마다 위치 정보를 획득할 수 있다. 반면, 센서 모듈(100)이 항만 등 고정체에 설치된 경우 위치 측정 유닛은 긴 시간 간격마다 위치 정보를 획득할 수 있다. 위치 측정 유닛의 위치 정보 획득을 위한 시간 간격은 변경될 수 있다.

자세 측정 유닛은 센서 모듈(100)이나 이미지 생성 유닛 등 센서 모듈(100)에 포함된 구성의 자세를 측정할 수 있다. 일 예로, 자세 측정 유닛은 관성측정장비(Inertial Measurement Unit, IMU)일 수 있다.

자세 측정 유닛은 미리 정해진 시간 간격마다 자세 정보를 획득할 수 있다. 여기서, 상기 시간 간격은 센서 모듈의 설치 위치에 따라 달라질 수 있다. 예를 들어, 센서 모듈(100)이 선박 등 이동체에 설치된 경우 자세 측정 유닛은 짧은 시간 간격마다 자세 정보를 획득할 수 있다. 반면, 센서 모듈(100)이 항만 등 고정체에 설치된 경우 자세 측정 유닛은 긴 시간 간격마다 자세 정보를 획득할 수 있다. 자세 측정 유닛의 자세 정보 획득을 위한 시간 간격은 변경될 수 있다.

케이싱은 이미지 생성 유닛, 위치 측정 유닛, 자세 측정 유닛 등 센서 모듈을 보호할 수 있다.

케이싱의 내부에는 이미지 생성 유닛, 위치 측정 유닛, 자세 측정 유닛 중 적어도 하나가 존재할 수 있다. 케이싱은 내부에 존재하는 이미지 생성 유닛 등의 장비가 염수에 의해 부식되는 것을 방지할 수 있다. 또는, 케이싱은 내부에 존재하는 장비에 가해지는 충격을 방지하거나 완화시켜 이를 보호할 수 있다.

내부에 이미지 생성 유닛 등을 포함하기 위하여 케이싱의 내부에 공동이 형성될 수 있다. 예를 들어, 케이싱은 내부가 비어있는 직육면체 형상일 수 있지만, 이에 한정되는 것은 아니고 내부에 이미지 생성 유닛 등이 배치될 수 있는 다양한 형상으로 제공될 수 있다.

케이싱의 내부에 이미지 생성 유닛이 배치되는 경우, 이미지 생성 유닛의 시야 확보를 위해 케이싱의 일 영역에 개폐구가 형성되거나 케이싱의 일 영역을 유리 등 투명한 물질로 형성할 수 있다. 이미지 생성 유닛은 상기 개폐구 또는 투명한 영역을 통해 선박 주변 및 항만을 촬상할 수 있다.

케이싱은 이미지 생성 유닛 등을 외부 충격으로부터 보호하기 위해 강인한 소재로 제공될 수 있다. 또는, 케이싱은 염분으로 인한 부식을 방지하기 위하여 해수용 합금 등의 소재로 제공될 수 있다.

케이싱은 이미지 생성 유닛의 이물질을 제거하기 위한 장비를 포함할 수 있다. 일 예로, 케이싱에 포함된 와이퍼를 통해 이미지 생성 유닛의 표면에 달라붙은 이물질을 물리적으로 제거할 수 있다. 여기서, 상기 와이퍼는 이물질을 제거하려는 표면에 밀착할 수 있도록 상기 표면과 동일하거나 유사한 곡률을 갖는 선형 또는 판형으로 제공될 수 있다. 다른 예로, 케이싱에 포함된 액체 스프레이를 통해 물이나 워셔액을 도포하여 이물질을 제거하거나 도포 후 와이퍼를 이용하여 이물질을 물리적으로 제거할 수 있다.

이물질 제거 장비는 수동으로 가동될 수 있지만, 자동으로도 가동될 수 있다. 예를 들어, 미리 정해진 시간 간격으로 이물질 제거 장비가 동작할 수 있다. 또는, 이미지 생성 유닛에 이물질이 달라 붙었는지 여부를 감지하는 센서를 이용하여 이물질 제거 장비를 동작시킬 수 있다. 또는, 이미지 생성 유닛이 촬상한 이미지를 이용하여, 상기 이미지에 이물질이 촬상되었는지 여부를 판단한 후, 이물질이 존재한다고 판단되는 경우에 이물질 제거 장비를 동작시킬 수 있다. 여기서, 이미지에 이물질이 촬상되었는지 여부는 인공 신경망(artificial neural network)을 통하여 판단될 수도 있을 것이다.

하나의 센서 모듈(100)은 2개 이상의 동일한 카메라를 포함하는 등 복수의 동일한 장비를 포함할 수도 있다.

제어 모듈(200)은 이미지 분석을 수행할 수 있다. 또한, 센서 모듈(100)을 통해 각종 데이터를 수신하는 동작, 출력 장치를 통해 각종 출력을 출력하는 동작, 메모리에 각종 데이터를 저장하거나 메모리로부터 각종 데이터를 획득하는 동작 등이 제어 모듈(200)의 제어에 의해 수행될 수 있다. 이하에서는 본 명세서의 실시예로 개시되는 각종 동작이나 단계들은 별도의 언급이 없는 이상 제어 모듈(200)에 의해 수행되거나 제어 모듈(200)의 제어에 의해 수행되는 것으로 해석될 수 있다.

제어 모듈(200)의 예로는 중앙 처리 장치(Central Processing Unit, CPU), 그래픽 처리 장치(Graphics Processing Unit, GPU), 디지털 신호 처리 장치(Digital Signal Processor, DSP), 상태 기계(state machine), 주문형 반도체(Application Specific Integrated Circuit, ASIC), 무선 주파수 집적 회로(Radio-Frequency Integrated Circuit, RFIC) 및 이들의 조합 등이 있을 수 있다.

통신 모듈(300)은 장치(10)로부터 외부로 정보를 송신하거나 외부로부터 정보를 수신할 수 있다. 통신 모듈(300)은 유선 또는 무선 통신을 수행할 수 있다. 통신 모듈(300)은 양방향(bi-directional) 또는 단방향 통신을 수행할 수 있다. 예를 들어, 장치(10)는 통신 모듈(300)을 통해 외부 출력 장치로 정보를 전달하여 제어 모듈(200)이 수행한 제어 결과를 외부 출력 장치를 통해 출력할 수 있다. 또한, 통신 모듈(300)은 선박을 관제하는 해상교통관제시스템(VTS, Vessel Traffic Service)으로부터 선박과 관련된 VTS 정보 또는 CITS(Costal Intelligent Transport System) 정보를 수신할 수 있다.

센서 모듈(100), 제어 모듈(200) 및 통신 모듈(300)은 제어부를 포함할 수 있다. 제어부는 모듈 내에서 각종 정보의 처리와 연산을 수행하고, 모듈을 구성하는 다른 구성 요소를 제어할 수 있다. 제어부는 물리적으로는 전기 신호를 처리하는 전자 회로 형태로 제공될 수 있다. 모듈은 물리적으로 단일한 제어부만을 포함할 수도 있으나, 이와 달리 복수의 제어부를 포함할 수도 있다. 일 예로, 제어부는 하나의 컴퓨팅 수단에 탑재되는 하나 또는 복수의 프로세서(processor)일 수 있다. 다른 예로, 제어부는 물리적으로 이격된 서버(server)와 터미널(terminal)에 탑재되어 통신을 통해 협업하는 프로세서들로 제공될 수도 있다. 제어부의 예로는 중앙 처리 장치(Central Processing Unit, CPU), 그래픽 처리 장치(Graphics Processing Unit, GPU), 디지털 신호 처리 장치(Digital Signal Processor, DSP), 상태 기계(state machine), 주문형 반도체(Application Specific Integrated Circuit, ASIC), 무선 주파수 집적 회로(Radio-Frequency Integrated Circuit, RFIC) 및 이들의 조합 등이 있을 수 있다.

센서 모듈(100), 제어 모듈(200) 및 통신 모듈(300)은 통신부를 포함할 수 있다. 상기 모듈들은 통신부를 통해 정보를 송수신할 수 있다. 예를 들어, 센서 모듈(100)은 외부로부터 획득한 정보를 그 통신부를 통해 송신하고, 제어 모듈(200)은 그 통신부를 통해 센서 모듈(100)이 송신한 정보를 수신할 수 있다. 통신부는 유선 또는 무선 통신을 수행할 수 있다. 통신부는 양방향(bi-directional) 또는 단방향 통신을 수행할 수 있다.

센서 모듈(100), 제어 모듈(200) 및 통신 모듈(300)은 메모리를 포함할 수 있다. 메모리는 각종 프로세싱 프로그램, 프로그램의 프로세싱을 수행하기 위한 파라미터 또는 이러한 프로세싱 결과 데이터 등을 저장할 수 있다. 예를 들어, 메모리는 학습 및/또는 추론에 필요한 데이터, 학습이 진행중이거나 학습된 인공 신경망 등을 저장할 수 있다. 메모리는 비휘발성 반도체 메모리, 하드 디스크, 플래시 메모리, RAM(Random Access Memory), ROM(Read Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory) 또는 그 외에 유형의(tangible) 비휘발성의 기록 매체 등으로 구현될 수 있다.

모니터링 장치(10)는 2개 이상의 센서 모듈(100)을 포함하는 등 복수의 동일한 모듈을 포함할 수도 있다. 예를 들어, 하나의 장치(10)가 2개의 센서 모듈(100)을 포함하고, 각 센서 모듈(100)이 다시 2개의 카메라를 포함할 수도 있다.

도 2 및 도 3은 일 실시예에 따른 모니터링 장치의 실시예에 관한 도면이다.

도 2를 참고하면, 모니터링 장치(10)는 센서 모듈(100) 및 제어 모듈(200)을 포함할 수 있다. 센서 모듈(100)은 카메라(130)를 통해 이미지를 생성하고, 통신부(110)를 통해 이미지를 제어 모듈(200)로 송신할 수 있다. 또한, 센서 모듈(100)의 제어부(120)는 후술할 시점 변환을 수행하여 이미지의 시점을 변환시킬 수 있다. 제어 모듈(200)은 통신부(210)를 통해 센서 모듈(100)로부터 이미지를 수신하고, 제어부(220)를 통해 후술할 위치/이동 정보 추정 및 이미지 정합 등 이미지 분석을 수행할 수 있다. 또한, 제어 모듈(200)은 통신부(210)를 통해 클라우드 서버로 위치/이동 정보 및 정합된 이미지 등 분석 결과를 송신할 수 있다. 클라우드 서버는 제어 모듈(200)로부터 수신한 분석 결과를 스마트폰, 태블릿, PC 등 사용자 단말로 전송하거나 사용자 단말로부터 인스트럭션을 수신할 수 있다.

도 3을 참고하면, 모니터링 장치(10)는 센서 모듈(100)을 포함할 수 있다. 센서 모듈(100)은 카메라(130)를 통해 이미지를 생성하고, 통신부(110)를 통해 클라우드 서버로 이미지를 전송할 수 있다. 또한, 센서 모듈(100)의 제어부(120)는 후술할 시점 변환을 수행하여 이미지의 시점을 변환시킬 수 있다. 클라우드 서버는 센서 모듈(100)로부터 이미지를 수신하고, 후술할 위치/이동 정보 추정 및 이미지 정합 등 이미지 분석을 수행할 수 있다. 또한, 클라우드 서버는 이미지 분석의 결과를 스마트폰, 태블릿, PC 등 사용자 단말로 전송하거나 사용자 단말로부터 인스트럭션을 수신할 수 있다.

도 1 내지 도 3에서 도시하는 장치(10)는 예시에 불과하며 장치(10)의 구성이 이에 한정되지는 않는다.

일 예로, 장치(10)는 출력 모듈(400)을 포함할 수 있다. 출력 모듈(400)은 제어 모듈(200)에 의해 수행된 연산의 결과 등을 출력할 수 있다. 예를 들어, 출력 모듈(400)은 분석 결과를 출력할 수 있다. 출력 모듈(400)은 예시적으로 디스플레이, 스피커, 신호 출력 회로 등일 수 있으나 이에 한정되는 것은 아니다. 이 경우 정보를 사용자 단말 등 외부 출력 장치로 전달하여 외부 출력 장치가 정보를 출력하는 것 외에 출력 모듈(400)을 통해 정보를 출력할 수도 있을 것이다.

다른 예로, 장치(10)는 센서 모듈을 포함하지 않을 수도 있다. 이 경우 제어 모듈(200)은 외부 센서 장치로부터 정보를 전달받아 이미지 분석을 수행하는 등 이미지 기반 모니터링 동작을 수행할 수 있을 것이다. 예를 들어, 제어 모듈(200)은 선박이나 항만에 이미 설치된 AIS, 카메라, 라이다, 레이다 등으로부터 정보를 전달받아 이미지 분석을 수행할 수 있다.

또한, 도 1 내지 도 3의 각 구성이 수행하는 단계는 반드시 해당 구성이 수행해야 하는 것은 아니고 다른 구성에 의해 수행될 수 있다. 예를 들어, 위의 도 2에서는 센서 모듈(100)의 제어부(120)가 시점 변환을 수행하는 것으로 기재하였으나, 제어 모듈(200)의 제어부(220) 또는 클라우드 서버가 시점 변환을 수행할 수도 있다.

이하에서는 모니터링 장치(10) 및 방법에 대해 보다 구체적으로 살펴본다.

이미지 기반 모니터링을 위한 이미지 획득은 센서 모듈(100)을 통해 수행될 수 있다. 예를 들어, 센서 모듈(100)에 포함된 이미지 생성 유닛을 통해 이미지를 획득할 수 있다. 또는, 전술한 바와 같이 외부 센서 장치로부터 이미지를 획득할 수도 있다. 선박 및 항만 모니터링을 위한 이미지는 바다, 선박, 부표, 장애물, 지형, 항만, 하늘, 건물 등을 포함하는 것이 일반적일 것이다. 이하에서는 주로 가시광선 카메라를 통해 획득한 이미지를 분석하여 모니터링하는 것에 대해 설명하나 이에 한정되는 것은 아니다.

이미지 생성 유닛에 따라 시야각(FOV, Field of View) 및 피사계 심도(depth of field)가 달라질 수 있다. 도 4는 일 실시예에 따른 시야각 및 피사계 심도에 관한 도면이다. 도 4를 참고하면, 시야각(FOV)은 좌우 또는 상하로 어느 정도의 범위까지 이미지에 포함되는지를 의미할 수 있고, 일반적으로는 각도(angle, degree)로 표현된다. 시야각이 더 크다는 의미는 좌우로 더 큰 폭의 영역을 포함하는 이미지를 생성하거나, 상하로 더 큰 폭의 영역을 포함하는 이미지를 생성하는 것을 의미할 수 있다. 피사계 심도는 이미지의 초점이 맞은 것으로 인식되는 거리 범위를 의미할 수 있고, 피사계 심도가 깊다는 의미는 이미지의 초점이 맞은 것으로 인식되는 거리 범위가 넓다는 것을 의미할 수 있다. 도 4를 참고하면, 피사계 심도(DOF)에 따라 이미지는 초점이 맞은 것으로 인식되는 영역(A1) 및 그 외의 영역(A2)을 포함할 수 있다. 이하에서는 이미지가 포함하고 있는 영역을 촬상 영역(A1 + A2), 초점이 맞은 것으로 인식되는 영역을 유효 영역(A1)이라 하고, 이미지 분석 및 모니터링은 유효 영역에 기초하여 수행될 수 있지만 촬상 영역 전체에 기초하여 수행되거나 촬상 영역의 일부에 기초하여 수행될 수도 있으므로, 이미지 분석 및 모니터링을 수행하기 위해 이용되는 영역을 모니터링 영역이라고 한다.

시야각이 크고 피사계 심도가 얕은 카메라의 예로 광각 카메라가 있다. 시야각이 작고 피사계 심도가 깊은 카메라의 예로는 고배율 카메라, 줌 카메라가 있다.

센서 모듈(100)은 항만 내의 조명탑, 크레인, 선박 등 그 위치나 자세에 제한이 없이 설치될 수 있고, 그 개수에도 제한이 없다. 다만, 센서 모듈(100)의 종류 및 성능 등 특성에 따라 그 설치 위치나 개수가 달라질 수 있다. 예를 들어, 센서 모듈(100)이 카메라인 경우, 센서 모듈(100)은 효율적인 모니터링을 위해 수면에서 15m 이상의 고도에 설치되거나, 서로 다른 촬상 영역을 갖도록 복수가 설치될 수 있다. 또한, 센서 모듈(100)의 위치 및 자세는 설치 시 또는 설치 후에 수동 또는 자동으로 조절될 수도 있다.

라이다의 시야각은 이미지 생성 유닛(일 예로, 카메라)의 시야각과 적어도 부분적으로 오버랩될 수 있다. 예를 들어, 라이다의 시야각(FOV)은 카메라의 시야각보다 작을 수 있다. 후술하겠지만, 이러한 경우 라이다 데이터가 획득되지 않은 라이다의 시야각 밖의 라이다 데이터는 카메라로부터 획득된 이미지를 이용하여 추정될 수 있다.

도 5 및 도 6은 일 실시예에 따른 센서 모듈의 설치 위치에 관한 도면이다. 도 5 및 도 6을 참고하면, 센서 모듈(100)은 항만 또는 육지와 같이 고정된 위치에 설치되거나, 선박 등과 같이 이동하는 물체에 설치될 수 있다. 여기서, 센서 모듈(100)이 선박에 설치되는 경우, 도 6과 같이 모니터링의 대상이 되는 선박(이하 “타겟 선박”이라 함)에 설치될 수 있고, 도 5와 같이 타겟 선박의 접안 또는 이안을 보조하는 예인선 등 모니터링의 대상이 아닌 제3의 선박에 설치될 수도 있다. 이 외에도, 센서 모듈(100)은 드론 등에 설치되어 타겟 선박을 모니터링할 수 있다.

모니터링 장치(10)의 다른 구성 요소는 센서 모듈(100)과 함께 또는 이와 별도의 장소에 설치될 수 있다.

전술한 바와 같이 이미지 기반 모니터링을 위한 이미지 분석은 오브젝트 특성을 획득하는 것을 포함할 수 있다. 오브젝트의 예로는 선박, 항만, 부표, 바다, 지형, 하늘, 건물, 사람, 동물, 불, 연기 등이 있을 수 있다. 오브젝트 특성의 예로는 오브젝트의 종류, 오브젝트의 위치, 오브젝트까지의 거리, 오브젝트의 절대적 및 상대적인 속력 및 속도 등이 있을 수 있다.

이미지 기반 모니터링을 위한 이미지 분석은 주변 상황을 인식/판단하는 것을 포함할 수 있다. 예를 들어, 이미지 분석은 항만에 불이 난 이미지로부터 화재 상황이 발생한 것을 판단하거나, 예정되지 않은 시간에 항만에 들어온 사람이 촬상된 이미지로부터 침입자가 들어온 것을 판단하는 것일 수 있다. 다른 예를 들어, 이미지 분석은 연기가 존재하는 이미지로부터 화재를 감지하는 것을 포함할 수 있다.

이미지 기반 모니터링을 위한 이미지 분석은 제어 모듈(200)이나 각 모듈(100, 200)에 포함된 제어부(120, 220)를 통해 수행될 수 있다.

장치(10)는 오브젝트를 인식할 수 있다. 예를 들어, 장치(10)는 이미지에 포함된 오브젝트를 인식할 수 있다. 일 예로, 장치(10)는 이미지에 선박, 예인선, 바다, 항만 등의 오브젝트가 포함되어 있는지 여부를 판단할 수 있다. 여기서, 오브젝트 인식은 이미지의 어떤 위치에 오브젝트가 존재하는지를 판단하는 것일 수 있다.

도 7 내지 도 9는 일 실시예에 따른 오브젝트 인식 단계에 관한 도면이다.

도 7은 카메라가 촬상한 이미지이고, 오브젝트 인식 단계를 통해 도 8 또는 도 9와 같이 오브젝트를 인식할 수 있다.

구체적으로, 도 8은 이미지의 각 픽셀 별로 해당 픽셀이 어떠한 오브젝트에 대응되는지를 나타낸 것으로, 세그멘테이션(segmentation)이라고도 한다. 이 경우 오브젝트 인식 단계는 세그멘테이션 단계를 의미할 수 있을 것이다. 세그멘테이션을 통해 이미지로부터 이미지상의 픽셀에 대응되는 특성을 할당하거나 산출할 수 있다. 이는 픽셀에 특성이 할당 또는 라벨링(labelling)되었다고 얘기할 수도 있을 것이다. 도 7 및 도 8을 참고하면, 도 7 의 카메라로 촬상된 이미지에 기초한 세그멘테이션을 수행하여 도 8과 같은 세그멘테이션 이미지를 획득할 수 있다. 도 8에서, 제1 픽셀 영역(P1)은 선박에 대응되는 픽셀의 이미지상의 영역이고, 제2 픽셀 영역(P2)은 바다, 제3 픽셀 영역(P3)은 항만의 안벽, 제4 픽셀 영역(P4)은 지형, 제5 픽셀 영역(P5)은 하늘에 대응되는 픽셀의 이미지상의 영역이다.

도 8 에서는 세그멘테이션을 수행하여 이미지상의 각 픽셀에 대응되는 오브젝트의 종류에 대한 정보를 산출하는 것을 도시하였으나, 세그멘테이션을 통해 획득할 수 있는 정보가 이에 한정되는 것은 아니다. 예를 들어, 오브젝트의 위치, 좌표, 거리, 방향 등의 특성 또한 세그멘테이션을 통해 획득할 수 있을 것이다. 이 경우 서로 다른 특성은 독립적으로 표현될 수도 있고, 동시에 반영하여 표현될 수도 있다.

표 1은 일 실시예에 따른 오브젝트의 종류 및 거리에 대한 정보를 동시에 반영한 라벨링에 관한 표이다. 표 1을 참고하면, 오브젝트의 종류 및 거리에 대한 정보를 함께 고려하여 클래스를 설정하고, 각 클래스 별로 식별값을 할당할 수 있다. 예를 들어, 오브젝트의 종류에 대한 정보인 지형과 거리에 대한 정보인 근거리를 함께 고려하여 2번 식별값을 할당할 수 있다. 표 1은 종류에 대한 정보와 거리에 대한 정보를 함께 고려한 경우의 일 예이고, 이 외에 방향 정보, 장애물 이동 방향, 속도, 항로 표지 등 다른 정보 또한 함께 고려될 수 있다. 또한, 모든 식별값이 복수의 정보를 포함해야 하는 것은 아니고, 같은 종류의 정보를 포함해야 하는 것도 아니다. 예를 들어, 특정 식별값은 종류에 대한 정보만 포함하고(예를 들어, 식별값 1은 거리에 대한 정보를 포함하지 않음) 다른 식별값은 종류 및 거리에 대한 정보를 포함하는 등 경우에 따라 다양한 방식으로 표현될 수 있다. 다른 예를 들어, 클래스는 예인선, 밧줄, 선박의 측면 및 갑판 등 다른 클래스가 추가되거나 다른 클래스로 수정되어도 무방하다.

식별값	클래스
0	하늘 및 기타
1	바다
2	지형 + 근거리
3	지형 + 중거리
4	지형 + 원거리
5	고정 장애물 + 근거리
6	고정 장애물 + 중거리
7	고정 장애물 + 원거리
8	동적 장애물 + 근거리
9	동적 장애물 + 중거리
10	동적 장애물 + 원거리

도 9는 이미지의 어떤 위치에 오브젝트가 존재하는지를 바운딩 박스(bounding box)로 표시한 것으로, 디텍션(detection)이라고도 한다. 이 경우 오브젝트 인식 단계는 디텍션 단계를 의미할 수 있을 것이다. 세그멘테이션과 비교하면, 디텍션은 이미지의 각 픽셀 별로 특성을 산출하는 것이 아닌 오브젝트가 어느 위치에 포함되어 있는지를 박스 형태로 검출하는 것으로 볼 수 있다. 도 7 및 도 9를 참고하면, 도 7 의 카메라로 촬상된 이미지에 기초한 디텍션을 수행하여 도 9와 같은 디텍션 이미지를 획득할 수 있다. 도 9에서, 이미지상에서 선박을 검출하고 선박의 위치를 사각형의 바운딩 박스(BB)로 표현한 것을 볼 수 있다. 도 9에는 하나의 오브젝트만을 디텍션하는 것으로 도시하였으나, 하나의 이미지로부터 2 이상의 오브젝트를 디텍션할 수도 있다.

세그멘테이션 및 디텍션은 인공 신경망을 이용하여 수행될 수 있다. 하나의 인공 신경망을 통해 세그멘테이션/디텍션을 수행할 수도 있고, 복수의 인공 신경망을 이용하여 각각의 인공 신경망이 세그멘테이션/디텍션을 수행하고 이 결과를 조합하여 최종 결과를 산출할 수도 있다.

인공 신경망이란 인간의 신경망 구조를 본떠 만든 알고리즘의 일종으로, 하나 이상의 노드 또는 뉴런(neuron)을 포함하는 하나 이상의 레이어를 포함할 수 있고 각각의 노드는 시냅스(synapse)를 통해 연결될 수 있다. 인공 신경망에 입력된 데이터(입력 데이터)는 시냅스를 통해 노드를 거쳐 출력(출력 데이터)될 수 있고, 이를 통해 정보를 획득할 수 있다.

인공 신경망의 종류로는 필터를 이용해 특징을 추출하는 합성곱신경망(convolution neural network, CNN) 및 노드의 출력이 다시 입력으로 피드백 되는 구조를 갖는 순환인공신경망(recurrent neural network, RNN)이 있고, 제한된 볼츠만 머신(restricted Boltzmann machine, RBM), 심층신뢰신경망(deep belief network, DBN), 생성대립신경망(generative adversarial network, GAN), 관계형 네트워크(relation networks, RN) 등 다양한 구조가 적용될 수 있고 제한이 있는 것은 아니다.

인공 신경망을 이용하기 전에 학습시키는 단계가 필요하다. 또는, 인공 신경망을 이용하며 학습시킬 수 있다. 이하에서는 인공신경망을 학습시키는 단계를 학습 단계, 이용하는 단계를 추론 단계로 표현하기로 한다.

인공 신경망은 지도 학습(supervised learning), 비지도 학습(unsupervised learning), 강화 학습(reinforcement learning), 모방 학습(imitation learning) 등 다양한 방법을 통해 학습될 수 있다.

도 10 및 도 11은 일 실시예에 따른 인공 신경망의 학습 단계 및 추론 단계에 관한 도면이다.

도 10은 인공 신경망의 학습 단계의 일 실시예로, 학습되지 않은 인공 신경망이 학습 데이터 또는 훈련 데이터(training data)를 입력 받아 출력 데이터를 출력하고, 출력 데이터와 라벨링 데이터(labelling data)를 비교하여 그 오차의 역전파를 통해 인공 신경망을 학습시킬 수 있다. 학습 데이터, 출력 데이터, 라벨링 데이터는 이미지일 수 있다. 라벨링 데이터는 실측 자료(ground truth)를 포함할 수 있다. 또는, 라벨링 데이터는 사용자 또는 프로그램을 통하여 생성된 자료일 수 있다.

도 11은 인공 신경망의 추론 단계의 일 실시예로, 학습된 인공 신경망이 입력 데이터를 입력 받아 출력 데이터를 출력할 수 있다. 학습 단계에서의 학습 데이터의 정보에 따라 추론 단계에서 추론 가능한 정보가 달라질 수 있다. 또한, 인공 신경망의 학습 정도에 따라 출력 데이터의 정확성이 달라질 수 있다.

오브젝트의 인식은 상술한 기재에 한정되지 않고 다른 방식으로 구현되어도 무방하다. 예를 들어, 설명의 편의를 위해 오브젝트의 인식에 식별값이 사용되는 것으로 설명하였으나, 식별값은 인덱스의 하나의 종류로 사용되는 것에 불과하다. 일 예로, 오브젝트의 인식에는 값이 아닌 벡터 형태의 인덱스가 사용될 수 있고, 인공 신경망의 학습 데이터, 출력 데이터, 라벨링 데이터는 벡터 형태의 데이터일 수 있다.

일 실시예에 따르면, 장치(10)는 선박에 대한 접안 가이드 정보를 제공할 수 있다. 접안 가이드 정보는 선박의 접안에 이용될 수 있고 도선사나 선장 등 사용자의 접안을 보조하거나 가이드하기 위한 정보를 의미할 수 있다. 접안 가이드 정보는 거리/속도에 대한 정보를 포함할 수 있다. 거리/속도에 대한 정보의 예로는 좌표와 같은 절대적 위치, 특정 기준으로부터의 상대적 위치, 임의의 지점으로부터의 거리, 거리 범위, 방향, 절대적 속도, 상대적 속도, 속력 등이 있으나 이에 한정되는 것은 아니다.

거리/속도에 대한 정보는 소정의 영역이나 포인트를 기준으로 추정될 수 있다. 일 예로, 선박과 안벽 사이의 거리는 선박의 일 포인트와 안벽의 일 포인트 사이의 거리를 산출함으로써 추정되거나, 선박의 일 포인트와 안벽과의 최단 거리를 산출함으로써 추정될 수 있다. 다른 예로, 선박 사이의 간격은 제1 선박의 일 포인트와 제2 선박의 일 포인트 사이의 거리를 산출함으로써 추정될 수 있다. 선박의 일 포인트는 바다와 접하는 선박의 일 지점에 대응되거나 선박의 선수 또는 선미에 대응될 수 있지만, 이에 한정되는 것은 아니다.

거리/속도에 대한 정보는 소정의 거리값, 방향값 및 속도값 등으로 표현될 수 있다. 예를 들어, 거리 정보는 1m, 2m 등으로 표현될 수 있고, 방향 정보는 10°, 20° 등으로 표현될 수 있고, 속도 정보는 5cm/s, 10cm/s 등으로 표현될 수 있다.

거리/속도에 대한 정보는 일정 범위를 갖는 복수의 카테고리에 대응되는 인덱스(index)로 표현될 수 있다. 예를 들어, 거리 정보는 근거리, 중거리 및 원거리 등으로 표현될 수 있고, 방향 정보는 좌측 방향, 정면 방향 및 우측 방향 등으로 표현될 수 있고, 속도 정보는 저속, 중속, 고속 등으로 표현될 수 있다. 이를 조합하여 좌측 근거리, 우측 원거리 등으로 표현하는 것도 가능할 것이다.

도 12는 일 실시예에 따른 접안 가이드 정보를 설명하기 위한 도면이다. 도 12의 (a)를 참고하면, 접안 가이드 정보는 선박(OBJ1)과 안벽(OBJ2) 사이의 접안 가이드 정보(f1, f2) 및 선박(OBJ1)과 다른 선박(OBJ3, OBJ4) 사이의 접안 가이드 정보(f3, f4)를 포함할 수 있다. 구체적으로, 선박(OBJ1)과 안벽(OBJ2) 사이의 접안 가이드 정보(f1, f2)는 선박(OBJ1)의 안벽(OBJ2)과의 거리/속도에 대한 정보를 포함할 수 있고, 선박(OBJ1)과 다른 선박(OBJ3, OBJ4) 사이의 접안 가이드 정보(f3, f4)는 선박(OBJ1)의 다른 선박(OBJ3, OBJ4)과의 거리/속도에 대한 정보를 포함할 수 있다. 도 12의 (b)를 참고하면, 선박(OBJ1)과 안벽(OBJ2) 사이의 접안 가이드 정보(f1, f2)는 선박(OBJ1)의 해수면과 접하는 영역에 대응되는 영역인 경계 영역과 안벽(OBJ2) 사이의 정보일 수 있다. 경계 영역은 선박과 해수면이 접하는 라인 또는 포인트뿐만 아니라 그 근방의 일정 영역을 포함할 수 있다. 또한, 선박(OBJ1)과 다른 선박(OBJ3, OBJ4) 사이의 접안 가이드 정보는 선박(OBJ1, OBJ3, OBJ4)의 선수/선미에 대응되는 소정의 영역 사이의 정보일 수 있고, 여기서 상기 소정의 영역은 선박(OBJ1, OBJ3, OBJ4)의 선수/선미 포인트뿐만 아니라 그 근방의 일정 영역을 의미할 수도 있다.

선박(OBJ1)과 안벽(OBJ2) 사이의 접안 가이드 정보(f1, f2)는 도 12에 도시된 바와 같이 두 개의 접안 가이드 정보를 포함할 수 있지만 이에 한정되는 것은 아니고 하나의 접안 가이드 정보 또는 셋 이상의 접안 가이드 정보를 포함할 수 있다. 또한, 선박(OBJ1)과 다른 선박(OBJ3, OBJ4) 사이의 접안 가이드 정보(f3, f4)는 도 12에 도시된 바와 같이 두 선박 사이에 하나의 접안 가이드 정보를 포함할 수 있지만 이에 한정되는 것은 아니고 두 선박 사이에 둘 이상의 접안 가이드 정보를 포함할 수 있다. 전술한 정보는 선박의 이안에 이용되는 경우 이안 가이드 정보라 지칭될 수도 있을 것이다.

도 13은 일 실시예에 따른 선박과 안벽 사이의 접안 가이드 정보를 설명하기 위한 도면이다.

상기 접안 가이드 정보는 해수면 높이/해수면 상에서의 정보일 수 있다. 예를 들어, 접안 가이드 정보(f5)는 해수면 높이에서의 선박(OBJ1)과 안벽(OBJ2) 사이의 거리/속도에 대한 정보를 포함할 수 있다.

상기 접안 가이드 정보는 지면 높이(또는 안벽 높이)에서의 정보일 수 있다. 예를 들어, 접안 가이드 정보(f6)는 안벽(OBJ2) 높이에서의 선박(OBJ1)과 안벽(OBJ2) 사이의 거리/속도에 대한 정보를 포함할 수 있다.

상기 접안 가이드 정보는 소정의 높이에서의 정보일 수 있다. 여기서, 소정의 높이는 도 13에 도시된 접안 가이드 정보(f7)와 같이 해수면 높이와 안벽 높이 사이일 수 있으나 이에 한정되는 것은 아니다.

선박과 안벽 사이의 접안 가이드 정보는 선박(OBJ1)과 안벽(OBJ2)에 설치된 방충재(fender, OBJ6) 사이의 정보(f8)일 수 있다. 선박(OBJ1)은 접안 시 방충재(OBJ6)와 충돌하거나 정박 시 방충재(OBJ6)와 접하므로 선박(OBJ1)과 방충재(OBJ6) 사이의 거리/속도에 대한 정보(f8)를 획득하는 것이 유리할 수 있다. 도 13에서는 방충재(OBJ6)가 해수면보다 높은 위치에 설치된 것으로 도시되었으나, 방충재(OBJ6)의 적어도 일부가 바다(OBJ5)에 잠기도록 설치될 수 있고, 이 경우 접안 가이드 정보는 해수면 높이에서의 선박과 방충재 사이의 거리/속도에 대한 정보를 포함할 수 있을 것이다.

선박과 다른 선박 사이의 접안 가이드 정보는 해수면 높이에서의 선박과 다른 선박 사이의 거리/속도에 대한 정보를 포함할 수 있다. 선박과 다른 선박 사이의 접안 가이드 정보는 소정의 높이에서의 선박과 다른 선박 사이의 거리/속도에 대한 정보를 포함할 수 있다. 여기서, 소정의 높이는 선체의 형태를 고려하여 결정될 수 있다. 예를 들어, 소정의 높이는 선박이 다른 선박 방향으로 돌출된 영역의 높이일 수 있다. 이 경우 선박 사이의 충돌 가능성을 보다 정확히 파악하여 접안 가이드에 유리할 수 있다.

일 실시예에 따르면, 장치(10)는 접안 가이드 정보를 라이다 데이터에 기초하여 산출할 수 있다. 예를 들어, 장치(10)는 획득된 라이다 데이터에 포함된 라이다 포인트들의 3차원 좌표를 이용하여 오브젝트와의 거리/속도를 산출할 수 있다. 오브젝트의 예로는 선박, 바다 및 육지, 항만, 안벽, 부표, 지형, 하늘, 건물, 사람, 동물 등이 있을 수 있다.

일 실시예에 따르면, 접안 가이드 정보는 이미지에 기초하여 산출될 수 있다. 여기서, 이미지는 카메라와 같은 이미지 생성 유닛이 생성한 이미지이거나 이로부터 이미지 세그멘테이션 등을 통해 처리된 이미지일 수 있다. 예를 들어, 오브젝트로써 선박, 바다 및 육지를 포함하는 이미지에 기초하여 선박의 거리/속도에 대한 정보를 산출하거나 상기 이미지로부터 세그멘테이션을 통해 생성된 세그멘테이션 이미지에 기초하여 선박의 거리/속도에 대한 정보를 산출할 수 있다. 오브젝트의 예로는 선박, 바다 및 육지 외에 항만, 안벽, 부표, 지형, 하늘, 건물, 사람, 동물 등이 있을 수 있다.

이하에서는 접안 가이드 정보를 추정하는 오브젝트를 타겟 오브젝트라 한다. 예를 들어, 위의 예에서는 선박이 타겟 오브젝트일 수 있다. 또한, 타겟 오브젝트는 복수일 수 있다. 예를 들어, 이미지에 포함된 복수의 선박 각각에 대해 그 거리나 속도 등을 추정하는 경우 복수의 선박이 타겟 오브젝트일 수 있다.

일 실시예에 따르면, 접안 가이드 정보는 이미지 픽셀을 기반으로 산출될 수 있다. 전술한 바와 같이 포인트를 기준으로 접안 가이드 정보를 산출하는 경우, 이미지 상에서 포인트는 픽셀에 대응될 수 있다. 따라서, 접안 가이드 정보는 이미지 픽셀 사이의 간격에 기초하여 산출될 수 있다.

포인트 사이의 거리에 대한 정보는 픽셀 사이의 간격에 기초하여 산출될 수 있다. 일 예로, 하나의 픽셀 간격마다 일정 거리를 할당하고 픽셀 사이의 간격에 비례하여 포인트 사이의 거리를 산출할 수 있다. 다른 예로, 픽셀의 이미지상에서의 좌표값을 바탕으로 픽셀 사이의 거리를 산출하고 이에 기초하여 포인트 사이의 거리를 산출할 수 있다.

포인트 사이의 속도에 대한 정보는 포인트 사이의 거리에 대한 정보의 변화에 기초하여 산출될 수 있다. 이 경우 복수의 이미지 또는 영상 프레임에 기초하여 이동 정보를 산출할 수 있다. 예를 들어, 이전 프레임에서의 포인트 사이의 거리와 현재 프레임에서의 포인트 사이의 거리 및 프레임 사이의 시간 간격에 기초하여 포인트 사이의 속도에 대한 정보를 산출할 수 있다.

도 14는 일 실시예에 따른 접안 가이드 정보를 획득하는 방법을 설명하기 위한 도면이다. 접안 가이드 정보를 획득하는 단계는 카메라 등 이미지 생성 유닛이 생성한 이미지를 획득하는 단계(도 14의 (a)), 상기 이미지에 대해 이미지 세그멘테이션을 수행하여 세그멘테이션 이미지(또는 세그멘테이션 이미지를 시각화한 이미지)를 생성하는 단계(도 14의 (b)), 상기 세그멘테이션 이미지에 기초하여 접안 가이드 정보를 산출하는 포인트를 찾는 단계(도 14의 (c)) 및 상기 포인트에 대응되는 접안 가이드 정보를 산출하는 단계를 포함할 수 있다. 도 14에서는 세그멘테이션 이미지로부터 접안 가이드 정보를 산출하는 방법에 대해 기재하였으나 이는 실시예에 불과하고 세그멘테이션 이미지를 생성하는 단계 없이 이미지 생성 유닛이 생성한 이미지에 기초하여 포인트를 찾고 접안 가이드 정보를 산출할 수도 있을 것이다.

접안 가이드 정보를 획득하는 단계는 이미지의 시점을 변환하는 단계를 포함할 수 있다. 예를 들어, 접안 가이드 정보를 획득하는 단계는 이미지 생성 유닛이 생성한 이미지를 획득하는 단계 이후에 상기 이미지에 대해 시점 변환을 수행하는 단계를 거쳐 시점 변환된 이미지에 대해 세그멘테이션을 수행하여 세그멘테이션 이미지를 생성하거나, 세그멘테이션 이미지를 생성하는 단계 이후에 상기 세그멘테이션 이미지에 대해 시점 변환을 수행하는 단계를 거쳐 시점 변환된 세그멘테이션 이미지에 대해 접안 가이드 정보를 산출할 수 있다. 이하에서는 시점 변환에 대해 설명한다.

일반적으로 카메라 등 이미지 생성 유닛이 생성하는 이미지는 원근 시점(perspective view)로 나타날 수 있다. 이를 탑 뷰(top view, 평면 시점), 측면 시점(side view), 다른 원근 시점 등으로 변환하는 것을 시점 변환이라 할 수 있다. 물론, 탑 뷰나 측면 시점 이미지를 다른 시점으로 변환할 수도 있으며, 이미지 생성 유닛이 탑 뷰 이미지나 측면 시점 이미지 등을 생성할 수도 있고 이 경우 시점 변환이 수행될 필요가 없을 수도 있다.

도 15는 일 실시예에 따른 시점 변환에 관한 도면이다. 도 15의 (a)를 참고하면, 원근 시점 이미지의 시점 변환을 통해 다른 원근 시점 이미지를 획득할 수 있다. 여기서, 안벽(OBJ2)이 이미지 상에서 수평 방향(이미지 상에서 좌우 방향)을 따라 위치하도록 시점 변환을 수행할 수 있다. 도 15의 (b)를 참고하면, 원근 시점 이미지의 시점 변환을 통해 탑 뷰 이미지를 획득할 수 있다. 여기서, 탑 뷰 이미지는 해수면과 수직한 방향에서 해수면을 내려다 본 뷰일 수 있다. 또한, 도 15의 (a)와 마찬가지로 안벽(OBJ2)이 이미지 상에서 수평 방향을 따라 위치하도록 시점 변환을 수행할 수 있다.

시점 변환을 통해 접안 가이드 정보 산출 시 용이성, 편의성 및 정확성 향상을 도모할 수 있다. 예를 들어, 픽셀 기반 거리 산출의 경우 탑 뷰 이미지를 이용하면 픽셀 사이의 간격에 대응되는 거리가 이미지 전체 또는 적어도 일부 영역에 대해 동일해질 수 있다.

시점 변환의 일 예로 역투영 변환(Inverse Projective Mapping, IPM)을 수행할 수 있다. 2차원 이미지는 3차원 공간 상의 피사체에서 반사된 빛이 카메라의 렌즈를 통해 이미지 센서에 입사되어 생성되고, 2차원과 3차원의 관계는 이미지 센서와 렌즈에 의존하며, 예를 들어 수학식 1과 같이 표현될 수 있다.

여기서, 좌변의 행렬은 2차원 이미지 좌표, 우변의 첫 번째 행렬은 내부 파라미터(intrinsic parameter), 두 번째 행렬은 외부 파라미터(extrinsic parameter), 세 번째 행렬은 3차원 좌표를 의미한다. 구체적으로, fx 및 fy는 초점 거리(focal length), cx 및 cy는 주점(principal point), r 및 t는 각각 회전 및 평행이동 변환 파라미터를 의미한다.

2차원 이미지를 역투영 변환을 통해 3차원 상의 임의의 평면에 투영시켜 그 시점을 변경시킬 수 있다. 예를 들어, 원근 시점 이미지를 역투영 변환을 통해 탑 뷰 이미지로 변환하거나, 다른 원근 시점 이미지로 변환할 수 있다.

시점 변환을 위해서 내부 파라미터가 필요할 수 있다. 내부 파라미터를 구하는 방법의 일 예로 Zhang 방법을 이용할 수 있다. Zhang 방법은 다항식 모델(polynomial model)의 일종으로 격자의 크기를 알고 있는 격자판을 다양한 각도와 거리에서 촬영하여 내부 파라미터를 획득하는 방법이다.

시점 변환을 위해서 이미지를 촬상한 이미지 생성 유닛/센서 모듈의 위치 및/또는 자세에 대한 정보가 필요할 수 있다. 이러한 정보는 위치 측정 유닛 및 자세 측정 유닛으로부터 획득될 수 있다.

또는, 이미지에 포함된 고정체의 위치에 기초하여 위치 및/또는 자세에 대한 정보를 획득할 수 있다. 예를 들어, 제1 시점에 이미지 생성 유닛은 제1 위치 및/또는 제1 자세로 배치되고, 지형이나 건물 등과 같이 고정된 객체인 타겟 고정체를 포함하는 제1 이미지를 생성할 수 있다. 이 후, 제2 시점에 이미지 생성 유닛은 상기 타겟 고정체를 포함하는 제2 이미지를 생성할 수 있다. 제1 이미지 상에서의 타겟 고정체의 위치 및 제2 이미지 상에서의 타겟 고정체의 위치를 비교하여 제2 시점에서의 이미지 생성 유닛의 위치 및/또는 자세인 제2 위치 및/또는 제2 자세를 산출할 수 있다.

시점 변환을 위한 위치 및/또는 자세에 대한 정보의 획득은 미리 정해진 시간 간격으로 수행될 수 있다. 여기서, 상기 시간 간격은 이미지 생성 유닛/센서 모듈의 설치 위치에 의존할 수 있다. 예를 들어, 이미지 생성 유닛/센서 모듈이 선박 등 이동체에 설치된 경우 짧은 시간 간격마다 위치 및/또는 자세에 대한 정보가 획득되어야 할 필요성이 존재할 수 있다. 반면, 이미지 생성 유닛/센서 모듈이 항만 등 고정체에 설치된 경우 상대적으로 긴 시간 간격으로 위치 및/또는 자세에 대한 정보를 획득하거나 초기에 한 번만 획득할 수도 있다. 크레인과 같이 이동과 고정이 반복되는 경우, 이동 후에만 위치 및/또는 자세에 대한 정보를 획득하는 방식으로 구현될 수도 있을 것이다. 또한, 이러한 위치 및/또는 자세에 대한 정보 획득을 위한 시간 간격은 변경될 수도 있다.

장치(10)는 기준 평면에 기초하여 이미지를 시점 변환할 수 있다. 예를 들어, 장치(10)는 안벽이 위치하고, 해수면과 평행인 평면을 기준 평면으로 이미지를 시점 변환할 수 있다. 여기서, 기준 평면은 산출되는 해수면 높이에 의존할 수 있다. 물론, 장치(10)는 상술한 기재에 한정되지 않으며, 해수면, 안벽이 위치한 평면 외의 선박의 일부분(일예로 갑판 높이의 기준 평면) 등 다른 평면을 기준 평면으로 이미지를 시점 변환해도 무방하다.

장치(10)는 해수면 높이를 고려하여 이미지를 시점 변환할 수 있다. 예를 들어, 장치(10)는 라이다 센서 또는 카메라로부터 획득한 데이터를 이용하여 해수면 높이를 산출하고, 산출된 해수면 높이를 고려하여 이미지를 시점 변환할 수 있다.

전술한 시점 변환 방법은 예시에 불과하고 이와 다른 방법으로 시점 변환을 수행할 수도 있으며, 시점 변환 정보는 전술한 식 1의 행렬, 파라미터, 좌표, 위치 및/또는 자세에 대한 정보 등 시점 변환을 위해 필요한 정보를 포함한다.

장치(10)는 선박 및/또는 항만 모니터링을 위해 다른 선박 및/또는 안벽과의 거리를 산출할 수 있다. 예를 들어, 장치(10)는 센서 데이터로부터 거리 산출을 위한 선박의 특징 포인트를 생성하고, 생성한 특징 포인트에 기초하여 다른 선박 및/또는 안벽과의 거리를 산출할 수 있다.

선박의 특징 포인트는 이미지 내의 특정 포인트, 라이다 데이터의 특정 라이다 포인트 등을 포함하는 개념으로, 특징 포인트는 일예로, 선박의 일단에 대응하는 포인트, 선박의 선수에 대응하는 포인트, 선박의 선미에 대응하는 포인트, 선박과 해수면이 접하는 부분에 대응하는 포인트 등을 포함할 수 있다.

도 16은 일 실시예에 따른 선박의 특징 포인트에 기초한 거리 산출 방법의 순서도이다.

도 16을 참고하면 일 실시예에 따른 선박의 특징 포인트에 기초한 거리 산출 방법은 센서 데이터를 획득하는 단계(S1000), 선박의 특징 포인트를 생성하는 단계(S2000) 및 특징 포인트에 기초하여 거리를 계산하는 단계(S2000)를 포함할 수 있다.

장치(10)는 센서 데이터를 획득할 수 있다(S1000).

일 실시예에 따르면, 장치(10)는 카메라로부터 이미지를 획득할 수 있다. 예를 들어, 장치(10)는 바다 쪽을 향해 선석에 설치된 카메라로부터 이미지를 획득할 수 있다. 일 예로, 장치(10)는 바다에 대한 이미지를 획득할 수 있고, 선박이 있는 경우에는 선박에 대한 이미지도 함께 획득할 수 있다.

일 실시예에 따르면, 장치(10)는 라이다 센서로부터 라이다 데이터를 획득할 수 있다. 예를 들어, 장치(10)는 바다 쪽을 향해 선석에 설치된 라이다 센서로부터 라이다 데이터를 획득할 수 있다. 일 예로, 장치(10)는 바다에 대한 라이다 데이터를 획득할 수 있고, 선박이 선석에 진입하는 경우에는 선박에 대한 라이다 데이터도 함께 획득할 수 있다.

일 실시예에 따르면 라이다 센서는 이미지를 획득하는 카메라가 촬상하는 영역과 대응되는 영역에 대하여 라이다 데이터를 획득할 수 있다. 예를 들어, 라이다 센서는 이미지를 획득하는 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 가질 수 있다.

도 17은 일 실시예에 따른 센서 데이터의 획득의 일 예시이다. 도 17을 참고하면, 일 실시예에 따른 장치(10)는 선석 주변에 설치된 라이다 및 카메라로부터 동일한 영역에 대한 센서 데이터를 획득할 수 있다. 예를 들어, 라이다 및 카메라는 선석을 향해 또는 선석을 바라보며 부두에 설치되어 선석이 위치하는 영역에 대한 데이터를 획득할 수 있다. 여기서, 라이다의 시야각은 카메라의 시야각과 적어도 부분적으로 오버랩될 수 있다.

도 17(a)를 참고하면, 장치(10)는 바다에 대한 이미지를 획득할 수 있고, 선박이 있는 경우에는 선박에 대한 이미지도 함께 획득할 수 있다. 장치(10)는 선박과 다른 선박 사이의 거리 및/또는 선박과 안벽 사이의 거리를 계산하는데 획득한 카메라 이미지를 이용할 수 있다.

도 17(b)를 참고하면, 장치(10)는 바다에 대한 라이다 데이터를 획득할 수 있고, 선박이 선석에 진입하는 경우에는 선박에 대한 라이다 데이터도 함께 획득할 수 있다. 라이다 데이터는 라이다 센서에 의해 캡쳐된 복수의 라이다 포인트를 포함할 수 있다. 예를 들어, 라이다 데이터는 수직 또는 수평 채널별 복수의 라이다 포인트들을 포함할 수 있다. 장치(10)는 선박과 다른 선박 사이의 거리 및/또는 선박과 안벽 사이의 거리를 계산하는데 획득한 라이다 데이터를 이용할 수 있다.

다시 도 16으로 돌아와 설명하도록 한다.

장치(10)는 선박의 특징 포인트를 생성할 수 있다(S2000).

장치(10)는 획득한 센서 데이터를 이용하여 선박과 다른 물체와의 거리 계산에 이용되는 선박의 특징 포인트를 생성할 수 있다. 예를 들어, 장치(10)는 바다 쪽을 향해 선석에 설치된 카메라 및 라이다 센서로부터 얻은 센서 데이터 중 적어도 하나를 이용하여 선박의 특징 포인트를 생성할 수 있다. 일예로, 장치(10)는 카메라 이미지로부터 선박의 영역을 검출하고, 검출된 선박의 영역에 기초하여 선박의 특징 포인트를 생성할 수 있다. 일예로, 장치(10)는 라이다 데이터로부터 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 검출하고, 검출된 상기 라이다 포인트들에 기초하여 선박의 특징 포인트를 생성할 수 있다. 장치(10)는 상술한 기재에 한정되지 않으며, 카메라 이미지 및 라이다 데이터를 융합하는 등 다른 방식으로 선박의 특징 포인트를 생성해도 무방하다. 선박의 특징 포인트의 생성에 대한 다양한 실시예에 대해서는 후술하기로 한다.

장치(10)는 선박의 특징 포인트에 기초하여 선박과 다른 물체와의 거리를 계산할 수 있다(S3000).

장치(10)는 선박의 특징 포인트에 기초하여 선박과 다른 선박 사이의 거리 및/또는 선박과 안벽 사이의 거리를 계산할 수 있다. 예를 들어, 장치(10)는 선박의 선수 및 선미 중 적어도 하나에 대응하는 포인트의 위치에 기초하여 선박과 다른 선박 사이의 거리를 계산할 수 있다. 다른 예를 들어, 장치(10)는 선박과 해수면이 접하는 부분에 대응하는 포인트의 위치에 기초하여 선박과 안벽 사이의 거리를 계산할 수 있다. 일예로, 카메라 이미지를 이용한 거리 계산은 이미지 픽셀 사이의 간격에 기초하여 산출될 수 있고, 라이다 데이터를 이용한 거리 계산은 라이다 데이터의 좌표값에 기초하여 산출될 수 있으며 이에 대해서는 상술한 내용이 적용될 수 있어 자세한 내용은 생략하기로 한다.

일 실시예에 따르면 장치(10)는 카메라 이미지로부터 획득한 선박의 특징 포인트를 이용하여 선박과 다른 오브젝트 사이의 거리를 계산할 수 있다. 예를 들어, 장치(10)는 카메라 이미지로부터 획득한 선박의 특징 포인트를 이용하여 선박과 다른 선박 또는 안벽 사이의 거리를 계산할 수 있다.

일 실시예에 따르면, 장치(10)는 시점이 변환된 이미지를 이용하여 선박의 특징 포인트를 생성할 수 있다. 예를 들어, 장치(10)는 이미지 내의 선박 영이 기준 평면에 투영된 변환 이미지를 이용하여 선박의 특징 포인트를 생성할 수 있다.

도 18은 일 실시예에 따른 시점이 변환된 이미지를 이용한 선박의 특징 포인트 생성 방법의 순서도이다. 도 18을 참고하면 일 실시예에 따른 시점이 변환된 이미지를 이용한 선박의 특징 포인트 생성 방법은 카메라 이미지로부터 선박 영역을 검출하는 단계(S2010), 기준 평면에 선박 영역을 투영하여 변환 이미지를 생성하는 단계(S2020) 및 변환 이미지에서 선박의 특징 포인트를 획득하는 단계(S2030)를 포함할 수 있다.

장치(10)는 카메라 이미지로부터 선박 영역을 검출할 수 있다(S2010).

예를 들어, 장치(10)는 인공신경망을 이용하여 이미지 내에서 선박에 대응하는 영역을 검출할 수 있다. 일 예로, 장치(10)는 인공신경망을 이용하여 이미지로부터 세그멘테이션 이미지를 생성하고, 객체 유형이 선박을 나타내는 객체 정보로 라벨링된 픽셀이 위치한 영역을 선박에 대응하는 영역으로 검출할 수 있다. 장치(10)는 상술한 기재에 한정되지 않으며, 이미지 디텍션을 통해 선박에 대응하는 영역을 결정하는 등 다른 방식으로 이미지 내의 선박에 대응하는 영역을 검출해도 무방하다.

장치(10)는 기준 평면에 선박 영역을 투영하여 변환 이미지를 생성할 수 있다(S2020).

예를 들어, 장치(10)는 선박의 갑판 높이에서의 기준 평면으로, 선박의 영역이 투영된 변환 이미지를 생성할 수 있다. 일 예로, 장치(10)는 인공신경망을 이용하여 이미지로부터 세그멘테이션 이미지를 생성하고, 객체 유형이 선박의 갑판 또는 선박의 측면을 나타내는 객체 정보로 라벨링된 픽셀이 위치한 영역들에 기초하여 선박의 측면과 갑판이 접하는 부분의 위치를 획득할 수 있고 획득한 갑판의 위치를 기준 평면으로 선박의 영역을 투영시킬 수 있다. 다른 일예로, 장치(10)는 카메라 이미지에 정합되는 라이다 데이터를 이용하여 이미지 내의 선박의 갑판의 위치를 획득할 수 있고, 획득한 갑판의 위치를 기준 평면으로 선박의 영역을 투영시킬 수 있다.

다른 예를 들어, 장치(10)는 해수면을 기준 평면으로, 선박의 영역이 투영된 변환 이미지를 생성할 수 있다. 일 예로, 장치(10)는 인공신경망을 이용하여 이미지로부터 세그멘테이션 이미지를 생성하고, 객체 유형이 선박 또는 바다를 나타내는 객체 정보로 라벨링된 픽셀이 위치한 영역들에 기초하여 선박과 해수면이 접하는 부분의 위치를 획득할 수 있고 획득한 해수면의 위치를 기준 평면으로 선박의 영역을 투영시킬 수 있다.

장치(10)는 상술한 기재에 한정되지 않으며, 이미지 디텍션을 통해 갑판의 위치를 획득하거나 안벽을 기준 평면으로 선박 영역을 투영시키는 등 다른 방식으로 변환 이미지를 생성해도 무방하다.

장치(10)는 변환 이미지에서 선박의 특징 포인트를 획득할 수 있다(S2030).

예를 들어, 장치(10)는 변환 이미지에서 선박들 사이의 거리를 계산하기 위한 선박의 특징 포인트를 결정할 수 있다. 일 예로, 장치(10)는 선박의 갑판 높이에서의 기준 평면으로 선박의 영역이 투영된 변환 이미지에서 선박의 선수 및/또는 선수에 대응하는 포인트를 획득하고, 이를 이용하여 선박들 사이의 거리를 계산할 수 있다.

다른 예를 들어, 장치(10)는 변환 이미지에서 선박과 안벽 사이의 거리를 계산하기 위한 선박의 특징 포인트를 결정할 수 있다. 일 예로, 장치(10)는 해수면을 기준 평면으로 선박의 영역이 투영된 변환 이미지에서 선박의 선수 및/또는 선수에 대응하는 포인트를 획득하고, 이를 이용하여 선박과 안벽 사이의 거리를 계산할 수 있다.

도 19는 일 실시예에 따른 변환 이미지의 예시이다. 변환 이미지에서는 기준 평면으로의 선박 영역의 투영으로 인해 왜곡 현상이 발생할 수 있고, 기준 평면과 멀어질수록 왜곡 현상이 심해질 수 있으며, 기준 평면에서는 왜곡이 발생하지 않을 수 있다.

도 19(a)를 참고하면 일 실시예에 따른 장치(10)는 해수면에서의 기준 평면(401)으로 선박의 영역이 투영된 변환 이미지를 생성하고, 이를 이용하여 거리 계산을 위한 선박의 특징 포인트를 결정할 수 있다.

예를 들어, 장치(10)는 변환 이미지에서의 선박과 해수면이 접하는 라인의 임의의 포인트를 선박의 특징 포인트로 결정할 수 있다. 일예로, 장치(10)는 변환 이미지에서의 선박과 해수면이 접하는 라인의 선수 쪽의 임의의 포인트(403)를 이용하여 선박의 선수와 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 변환 이미지에서의 선박과 해수면이 접하는 라인의 선미 쪽의 임의의 포인트(402)를 이용하여 선박의 선미와 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다.

다른 예를 들어, 장치(10)는 변환 이미지에서의 선박의 선수 및 선미의 끝단에 위치하는 포인트를 선박의 특징 포인트로 결정할 수 있다. 일예로, 장치(10)는 변환 이미지에서의 선박의 선수 끝단의 포인트(405)를 이용하여 선박과 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 변환 이미지에서의 선박의 선미 끝단의 포인트(406)를 이용하여 선박과 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다.

장치(10)는 상술한 기재에 한정되지 않으며, 변환 이미지에서의 선박의 영역을 다각형화하여 추출되는 선박의 특징 포인트를 이용하여 선박과 다른 선박 또는 안벽 사이의 거리를 계산하는 등 다른 방식으로 거리 계산을 해도 무방하다.

도 19(b)를 참고하면 일 실시예에 따른 장치(10)는 선박의 갑판 높이에서의 기준 평면(411)으로 선박의 영역이 투영된 변환 이미지를 생성하고, 이를 이용하여 거리 계산을 위한 선박의 특징 포인트를 결정할 수 있다.

예를 들어, 장치(10)는 변환 이미지에서의 선박의 측면과 선박의 갑판 영역이 접하는 라인의 임의의 포인트를 선박의 특징 포인트로 결정할 수 있다. 일예로, 장치(10)는 변환 이미지에서의 선박의 측면과 선박의 갑판 영역이 접하는 라인의 선수 쪽의 임의의 포인트(413)를 이용하여 선박의 선수와 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 변환 이미지에서의 선박의 측면과 선박의 갑판 영역이 접하는 라인의 선미 쪽의 임의의 포인트(414)를 이용하여 선박의 선미와 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다.

다른 예를 들어, 장치(10)는 변환 이미지에서의 선박의 선수 및 선미의 끝단에 위치하는 포인트를 선박의 특징 포인트로 결정할 수 있다. 일예로, 장치(10)는 변환 이미지에서의 선박의 선수 끝단의 포인트(415)를 이용하여 선박과 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 변환 이미지에서의 선박의 선미 끝단의 포인트(416)를 이용하여 선박과 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다.

도 20은 일 실시예에 따른 선박 사이의 거리 계산을 설명하기 위한 도면이다. 도 20을 참고하면, 장치(10)는 이미지 내의 각 선박의 영역을 서로 다른 기준 평면에 투영시켜 선박 사이의 거리를 계산할 수 있다.

장치(10)는 카메라 이미지로부터 제1 선박 영역(421) 및 제2 선박 영역(422)을 검출할 수 있다. 예를 들어, 장치(10)는 인공 신경망을 이용하여 제1 선박 영역(421) 및 제2 선박 영역(422)을 검출할 수 있다. 이에 대해서는 상술한 설명이 적용될 수 있으므로 자세한 설명은 생략하기로 한다.

장치(10)는 검출된 제1 선박 영역(421) 및 제2 선박 영역(422)을 각 선박의 갑판 높이에서의 기준 평면 각각에 투영시켜 변환 이미지를 생성할 수 있다. 예를 들어, 장치(10)는 검출된 제1 선박 영역(421)을 제1 선박의 갑판 높이에서의 제1 기준 평면(425)에 투영시켜 제1 변환 이미지(423)를 생성할 수 있고, 장치(10)는 검출된 제2 선박 영역(422)을 제2 선박의 갑판 높이에서의 제2 기준 평면(426)에 투영시켜 제2 변환 이미지(424)를 생성할 수 있다. 이에 대해서는 상술한 설명이 적용될 수 있으므로 자세한 설명은 생략하기로 한다.

장치(10)는 변환 이미지들 각각을 이용하여 각 선박의 특징 포인트를 획득할 수 있다.

장치(10)는 제1 변환 이미지(423)에서 제1 선박과 제2 선박과의 거리 계산을 위해 제1 선박의 선수 및/또는 선미에 대응되는 위치의 포인트를 특징 포인트를 결정할 수 있다. 예를 들어, 장치(10)는 제1 변환 이미지(423)에서 제1 선박 영역의 양 끝단의 포인트 중 하나를 특징 포인트로 획득할 수 있다. 여기서, 제1 선박 영역의 양 끝단의 포인트 중 제2 선박과 가까운 쪽에 위치한 포인트(427)를 선박의 특징 포인트로 결정할 수 있다.

장치(10)는 제2 변환 이미지(424)에서 제2 선박과 제1 선박과의 거리 계산을 위해 제2 선박의 선수 및/또는 선미에 대응되는 위치의 포인트를 특징 포인트를 결정할 수 있다. 예를 들어, 장치(10)는 제2 변환 이미지(424)에서 제2 선박 영역의 양 끝단의 포인트 중 하나를 특징 포인트로 획득할 수 있다. 여기서, 제2 선박 영역의 양 끝단의 포인트 중 제1 선박과 가까운 쪽에 위치한 포인트(428)를 선박의 특징 포인트로 결정할 수 있다. 이에 대해서는 상술한 설명이 적용될 수 있으므로 자세한 설명은 생략하기로 한다.

장치(10)는 각 변환 이미지(423, 424)에서 획득한 제1 선박 및 제2 선박의 특징 포인트들을 이용하여 제1 선박과 제2 선박 사이의 거리를 계산할 수 있다. 예를 들어, 장치(10)는 제1 선박 및 제2 선박의 특징 포인트들(427, 428) 사이의 픽셀 수에 기초하여 제1 선박과 제2 선박 사이의 거리를 계산할 수 있다. 다른 예를 들어, 장치(10)는 제1 선박 및 제2 선박의 특징 포인트들(427, 428)에 정합된 라이다 데이터에 기초하여 제1 선박과 제2 선박 사이의 거리를 계산할 수 있다. 이에 대해서는 상술한 설명이 적용될 수 있으므로 자세한 설명은 생략하기로 한다.

일 실시예에 따르면 장치(10)는 라이다 데이터로부터 획득한 선박의 특징 포인트를 이용하여 선박과 다른 오브젝트 사이의 거리를 계산할 수 있다. 예를 들어, 장치(10)는 라이다 데이터로부터 획득한 선박의 특징 포인트를 이용하여 선박과 다른 선박 또는 안벽 사이의 거리를 계산할 수 있다. 일예로, 장치(10)는 선박의 양끝단으로부터 반사된 라이다 빔과 관련된 라이다 포인트를 이용하여 선박과 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 선박과 해수면이 접하는 부분으로부터 반사된 라이다 빔과 관련된 라이다 포인트를 이용하여 선박과 안벽 사이의 거리를 계산할 수 있다.

다만, 라이다 센서가 저성능이거나 라이다 센서가 설치되는 장소의 제약 등이 있는 경우, 선박 또는 항만의 모니터링을 하기에 불충분한 라이다 데이터를 획득할 수 있다. 이에 선박 또는 항만의 모니터링을 하기에 불충분한 라이다 데이터의 보완이 필요할 수 있다.

이를 위해 일 실시예에 따르면 장치(10)는 획득한 라이다 데이터로부터 새로운 라이다 데이터를 추정할 수 있다. 예를 들어, 장치(10)는 획득한 라이다 데이터를 이용하여 선박과 관련된 라이다 포인트를 새롭게 추정할 수 있다. 일 예로, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 내삽 또는 외삽하여 선박과 관련된 라이다 포인트를 추정할 수 있다.

도 21은 일 실시예에 따른 라이다 포인트 추정 방법의 순서도이다. 도 21을 참고하면 일 실시예에 따른 라이다 포인트 추정 방법은 카메라 이미지 및 라이다 데이터를 정합하는 단계(S1010) 및 정합된 카메라 이미지 및 라이다 데이터를 이용하여 라이다 포인트를 추정하는 단계(S1020)를 포함할 수 있다.

장치(10)는 카메라 이미지 및 라이다 데이터를 정합할 수 있다(S1010).

일 실시예에 따르면 장치(10)는 정합을 위한 정보를 이용하여 카메라 이미지 및 라이다 데이터를 정합할 수 있다. 예를 들어, 장치(10)는 카메라 이미지 상의 좌표계와 라이다 데이터 상의 좌표계를 일치시켜 카메라 이미지 및 라이다 데이터를 정합할 수 있다. 즉, 카메라 이미지와 라이다 데이터의 좌표계는 서로 변환이 가능할 수 있다.

장치(10)는 카메라의 설치 위치, 카메라의 설치 각도, 라이다 센서의 설치 위치, 라이다 센서의 설치 각도 등을 고려하여 카메라 이미지 및 라이다 데이터를 정합할 수 있다. 여기서, 장치(10)는 계산된 해수면 높이를 반영하여 카메라 이미지 및 라이다 데이터를 재정합할 수도 있다. 일 예로, 장치(10)는 라이다 데이터와 카메라 이미지의 정합 시, 계산된 해수면 높이를 데이터 변환의 변수로 사용하여 카메라 이미지 및 라이다 데이터를 재정합할 수도 있다.

도 22는 일 실시예에 따른 카메라 이미지 및 라이다 데이터의 정합의 예시이다. 도 22(a)를 참고하면, 선석에 설치된 카메라로부터 획득한 이미지와 동일한 영역에 대해 스캔하는 라이다 센서로부터 획득한 라이다 데이터가 정합된 것을 볼 수 있다.

일 실시예에 다르면, 장치(10)는 세그멘테이션 이미지를 라이다 데이터와 정합시킬 수 있다. 예를 들어, 장치(10)는 카메라로부터 획득한 이미지로부터 인공신경망을 이용하여 세그멘테이션 이미지를 생성하고, 생성된 세그멘테이션 이미지를 라이다 데이터와 정합시킬 수 있다. 도 22(b)를 참고하면, 선석에 설치된 카메라로부터 획득한 이미지와 동일한 영역에 대해 스캔하는 라이다 센서로부터 획득한 라이다 데이터가 정합된 것을 볼 수 있다.

카메라 이미지 및 라이다 데이터의 정합은 상술한 기재에 한정되지 않으며, 인공신경망을 이용하여 디텍션된 이미지와 라이다 데이터가 정합되는 등 다른 방식으로 구현되어도 무방하다.

다시 도 21로 돌아와서 설명하도록 한다.

장치(10)는 정합된 카메라 이미지 및 라이다 데이터를 이용하여 라이다 포인트를 추정할 수 있다(S1020).

일 실시예에 따르면, 장치(10)는 라이다 데이터의 복수의 라이다 포인트 중 라이다 데이터와 정합된 이미지를 이용하여 추정 라이다 포인트를 생성할 수 있다. 예를 들어, 장치(10)는 이미지 내의 바다와 대응하는 영역에 정합된 라이다 포인트를 이용하여 바다와 관련된 추정 라이다 포인트를 새롭게 생성할 수 있다. 다른 예를 들어, 장치(10)는 이미지 내의 선박의 영역에 정합된 라이다 포인트를 이용하여 선박과 관련된 추정 라이다 포인트를 새롭게 생성할 수 있다.

도 23은 일 실시예에 따른 추정 라이다 포인트를 고려한 선박의 특징 포인트 생성 방법의 순서도이다. 도 23을 참고하면 일 실시예에 따른 추정 라이다 포인트를 고려한 선박의 특징 포인트 생성 방법은 카메라 이미지로부터 선박 영역을 검출하는 단계(S2110), 검출된 선박 영역에 기초하여 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택하는 단계(S2120), 선택된 라이다 포인트들을 이용하여 선박과 관련된 라이다 포인트를 추정하는 단계(S2130) 및 추정된 라이다 포인트 고려하여 선박의 특징 포인트를 생성하는 단계(S2140)를 포함할 수 있다.

장치(10)는 카메라 이미지로부터 선박 영역을 검출할 수 있다(S2110).

카메라 이미지와 라이다 데이터는 서로 대응할 수 있고, 정합될 수 있다. 이에 대해서는 상술한 내용이 적용될 수 있으며, 자세한 설명은 생략하기로 한다.

장치(10)는 검출된 선박 영역에 기초하여 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택할 수 있다(S2120).

장치(10)는 검출된 이미지 내의 선박에 대응하는 영역을 이용하여 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택할 수 있다. 예를 들어, 장치(10)는 이미지 내의 선박에 대응하는 영역에 포함된 픽셀들의 픽셀 위치를 고려하여 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택할 수 있다.

도 24는 일 실시예에 따른 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들의 일 예시이다. 도 24(a)를 참고하면, 장치(10)는 이미지와 정합된 라이다 포인트들 중 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들(431)을 선택할 수 있다. 예를 들어, 장치(10)는 복수의 라이다 포인트들 중 이미지 내의 선박에 대응하는 영역에 포함된 픽셀들에 정합된 라이다 포인트들을 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들(431)로 선택할 수 있다.

도 24(b)를 참고하면, 장치(10)는 세그멘테이션 이미지와 정합된 라이다 포인트들 중 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들(432)을 선택할 수도 있다.

또한 후술하겠지만, 장치(10)는 기준 평면에 선박 영역이 투영된 변환 이미지와 정합된 라이다 포인트들 중 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택하는 것도 가능하다.

도 24에 한정되지 않고, 디텍션된 이미지가 사용되는 등 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들의 선택은 상술한 기재에 한정되지 않으며 다른 방식으로 구현되어도 무방하다. 일 실시예에 따르면, 장치(10)는 라이다 데이터만을 이용하여 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택할 수 있다. 예를 들어, 장치(10)는 라이다 데이터의 분포, 개수 등을 고려하여 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 선택할 수 있다.

다시 도 23으로 돌아와서 설명하도록 한다.

장치(10)는 선택된 라이다 포인트들을 이용하여 선박과 관련된 라이다 포인트를 추정할 수 있다(S2130).

예를 들어, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들을 내삽 또는 외삽하여 새로운 라이다 포인트를 추정할 수 있다. 일 예로, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들의 좌표를 이용하여 상대적인 위치를 고려하여 각 라이다 포인트들을 내삽 또는 외삽하여 새로운 라이다 포인트를 추정할 수 있다

일 실시예에 따르면, 장치(10)는 기준 평면으로 선박 영역이 투영된 변환 이미지를 이용하여 새로운 라이다 포인트를 추정할 수 있다. 예를 들어, 장치(10)는 해수면을 기준 평면으로 선박 영역이 투영된 변환 이미지를 이용하여 새로운 라이다 포인트를 추정할 수 있다. 다른 예를 들어, 장치(10)는 선박의 갑판 높이에서의 영역을 기준 평면으로 선박 영역이 투영된 변환 이미지를 이용하여 새로운 라이다 포인트를 추정할 수 있다.

도 25 및 도 26은 일 실시예에 따른 기준 평면에 투영된 선박 영역에 정합된 라이다 포인트를 이용한 추정 라이다 포인트의 생성을 설명하기 위한 도면이다.

도 25를 참고하면, 해수면(441)을 기준 평면으로 선박 영역이 투영된 변환 이미지와 라이다 포인트는 서로 정합될 수 있다. 선박과 해수면이 접하는 영역에 위치한 라이다 포인트들(442)은 서로 동일한 높이값을 갖기 때문에, 동일한 상기 영역에 위치한 라이다 포인트들(442)을 내삽 및/또는 외삽하여 추정 라이다 포인트들(443, 444, 445)을 생성할 수 있다. 예를 들어, 장치(10)는 선박과 해수면이 접하는 영역(441)에 위치한 라이다 포인트들(442)을 내삽하여 추정 라이다 포인트(443)를 생성할 수 있다. 다른 예를 들어, 장치(10)는 선박과 해수면이 접하는 영역(441)에 위치한 라이다 포인트들(442)을 외삽하여 추정 라이다 포인트들(444, 445)을 생성할 수 있다. 여기서, 장치(10)는 이미지 내의 선박의 형태를 고려하여 라이다 포인트들을 추정할 수 있다.

도 26을 참고하면, 선박의 갑판 높이에서의 영역(451)을 기준 평면으로 선박 영역이 투영된 변환 이미지와 라이다 포인트는 서로 정합될 수 있다. 선박의 갑판 높이 영역에 위치한 라이다 포인트들(452)은 서로 동일한 높이값을 갖기 때문에, 동일한 상기 영역에 위치한 라이다 포인트들(452)을 내삽 및/또는 외삽하여 추정 라이다 포인트들(453, 454, 455)을 생성할 수 있다. 예를 들어, 장치(10)는 선박의 갑판 높이 영역(451)에 위치한 라이다 포인트들을 내삽하여 추정 라이다 포인트(453)를 생성할 수 있다. 다른 예를 들어, 장치(10)는 선박의 갑판 높이 영역(451)에 위치한 라이다 포인트들을 외삽하여 추정 라이다 포인트들(454, 455)을 생성할 수 있다. 여기서, 장치(10)는 이미지 내의 선박의 형태를 고려하여 라이다 포인트들을 추정할 수 있다.

물론 장치(10)는 상술한 기재에 한정되지 않으며 동일한 높이값을 갖지 않는 영역에 위치한 라이다 포인트들을 추정하는 등 다른 방식으로 추정 라이다 포인트들을 생성해도 무방하다.

다시 도 23으로 돌아와서 설명하도록 한다.

장치(10)는 추정된 라이다 포인트 고려하여 선박의 특징 포인트를 생성할 수 있다(S2140).

일 실시예에 따르면, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 기존 라이다 포인트들 및 생성된 추정 라이다 포인트들 중 선박들 사이의 거리를 계산하기 위한 선박의 특징 포인트를 선택할 수 있다. 즉, 장치(10)는 선박의 갑판 높이에서의 기준 평면으로 선박의 영역이 투영된 변환 이미지와 정합된 기존 라이다 포인트들 및 상기 기존 라이다 포인트들을 외삽 및/또는 내삽하여 생성된 추정 라이다 포인트들 중 선박의 선수 및/또는 선수에 대응하는 라이다 포인트를 획득하고, 이를 이용하여 선박들 사이의 거리를 계산할 수 있다.

일 실시예에 따르면, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 기존 라이다 포인트들 및 생성된 추정 라이다 포인트들 중 선박과 안벽 사이의 거리를 계산하기 위한 선박의 특징 포인트를 결정할 수 있다. 즉, 장치(10)는 해수면을 기준 평면으로 선박의 영역이 투영된 변환 이미지와 정합된 기존 라이다 포인트들 및 상기 기존 라이다 포인트들을 외삽 및/또는 내삽하여 생성된 추정 라이다 포인트들 중 선박의 선수 및/또는 선수에 대응하는 포인트를 획득하고, 이를 이용하여 선박과 안벽 사이의 거리를 계산할 수 있다.

예를 들어, 장치(10)는 변환 이미지에서의 선박과 해수면이 접하는 라인에 정합된 임의의 라이다 포인트를 선박의 특징 포인트로 결정할 수 있다. 일예로, 장치(10)는 변환 이미지에서의 선박과 해수면이 접하는 라인의 선수 쪽에 정합된 임의의 라이다 포인트를 이용하여 선박의 선수와 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 변환 이미지에서의 선박과 해수면이 접하는 라인의 선미 쪽에 정합된 임의의 라이다 포인트를 이용하여 선박의 선미와 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 여기서, 라이다 포인트는 기존 라이다 포인트 및 추정 라이다 포인트를 포함할 수 있다.

다른 예를 들어, 장치(10)는 변환 이미지에서의 선박의 선수 및 선미의 끝단에 정합된 라이다 포인트를 선박의 특징 포인트로 결정할 수 있다. 일예로, 장치(10)는 변환 이미지에서의 선박의 선수 끝단에 정합된 라이다 포인트를 이용하여 선박과 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 다른 일예로, 장치(10)는 변환 이미지에서의 선박의 선미 끝단에 정합된 라이다 포인트를 이용하여 선박과 안벽 또는 다른 선박 사이의 거리를 계산할 수 있다. 여기서, 라이다 포인트는 기존 라이다 포인트 및 추정 라이다 포인트를 포함할 수 있다.

장치(10)는 상술한 기재에 한정되지 않으며, 변환 이미지에서의 선박의 영역을 다각형화하고, 이에 정합되는 라이다 포인트를 이용하여 선박과 다른 선박 또는 안벽 사이의 거리를 계산하는 등 다른 방식으로 거리 계산을 해도 무방하다.

장치(10)는 라이다 데이터를 이용하여 선박의 높이(갑판 높이)를 획득하고, 획득한 선박의 갑판 높이를 선박의 특징 포인트를 생성하는데 이용할 수 있다. 하지만 라이다 데이터의 부족으로 인하여 선박의 갑판 높이를 정확하게 획득하지 못하는 경우가 있을 수 있고, 이 때 장치(10)는 카메라 이미지를 어떤 평면을 기준 평면으로 삼아야 할지 결정할 수 없으며, 잘못된 평면을 기준 평면으로 하는 경우 변환 이미지에 왜곡이 심하게 발생할 수 있다. 이에, 일 실시예에 따르는 장치(10)는 선박의 갑판 높이를 정확하게 획득하지 못한 경우, 임의의 기준 평면으로 선박의 영역이 투영된 변환 이미지들을 이용하여 선박의 특징 포인트를 획득할 수 있다.

일 실시예에 따르면, 장치(10)는 임의의 기준 평면으로 선박의 영역이 투영된 변환 이미지들을 이용하여 선박의 특징 포인트를 획득할 수 있다. 예를 들어, 장치(10)는 이미지 내의 선박의 영역이 서로 상이한 임의의 기준 평면에 투영된 변환 이미지들을 라이다 데이터를 이용하여 정렬시키고, 이를 이용하여 선박의 특징 포인트를 획득할 수 있다. 여기서, 장치(10)는 세그멘테이션 이미지를 사용할 수 있다.

도 27은 일 실시예에 따른 선박 영역이 복수의 기준 평면에 투영된 이미지들을 이용한 선박의 특징 포인트 획득 방법의 순서도이다. 도 27을 참고하면, 일 실시예에 따른 선박 영역이 복수의 기준 평면에 투영된 이미지들을 이용한 선박의 특징 포인트 획득 방법은 카메라 이미지로부터 선박 영역을 검출하는 단계(S2210), 선박 영역을 서로 상이한 임의의 기준 평면에 투영하는 단계(S2220), 서로 상이한 임의의 기준 평면에 투영된 이미지들을 정렬하는 단계(S2230) 및 정렬된 이미지들 및 라이다 포인트들을 이용하여 선박의 특징 포인트를 생성하는 단계(S2240)를 포함할 수 있다.

장치(10)는 카메라 이미지로부터 선박 영역을 검출할 수 있다(S2210).

예를 들어, 장치(10)는 인공 신경망을 이용하여 카메라 이미지를 세그멘테이션하여 세그멘테이션 이미지를 생성할 수 있다. 구체적으로, 장치(10)는 선박의 갑판 영역 및 측면 영역을 검출하는 세그멘테이션 이미지를 생성할 수 있다. 일 예로, 장치(10)는 판옵틱 세그멘테이션(Panoptic Segmentation)을 이용하여 세그멘테이션 이미지를 생성할 수 있다.

장치(10)는 선박 영역을 서로 상이한 임의의 기준 평면에 투영할 수 있다(S2220).

예를 들어, 장치(10)는 인공 신경망을 이용하여 선박의 갑판 영역 및 측면 영역을 검출하는 세그멘테이션 이미지를 서로 상이한 기준 평면에 투영할 수 있다. 즉, 장치(10)는 세그멘테이션 이미지를 서로 상이한 제1 기준 평면 및 제2 기준 평면에 투영하여 제1 이미지 및 제2 이미지 중 적어도 하나를 생성할 수 있다.

장치(10)는 서로 상이한 임의의 기준 평면에 투영된 이미지들을 정렬할 수 있다(S2230).

일 실시예에 따르면, 장치(10)는 라이다 데이터를 이용하여 서로 상이한 임의의 기준 평면에 투영된 이미지들을 정렬할 수 있다. 예를 들어, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들의 위치에 기초하여 서로 상이한 임의의 기준 평면에 투영된 이미지들 중 적어도 하나를 정렬할 수 있다. 여기서, 투영된 이미지들은 인공 신경망을 이용하여 선박의 갑판 영역 및 측면 영역을 검출하는 세그멘테이션 이미지가 투영된 이미지일 수 있다.

도 28 및 도 29는 일 실시예에 따른 서로 상이한 임의의 기준 평면에 투영된 이미지들의 정렬을 설명하기 위한 도면이다.

도 28을 참고하면, 장치(10)는 기준 평면을 바꿔가면서 서로 상이한 임의의 기준 평면에 투영된 이미지들과 라이다 포인트를 정렬할 수 있다. 기준 평면이 변경됨에 따라 투영된 이미지들과 정합되는 라이다 포인트의 상대적인 위치도 바뀔 수 있다. 장치(10)는 서로 상이한 임의의 기준 평면에 투영된 이미지들의 특정 영역에 라이다 포인트들이 위치하도록 이미지들과 라이다 포인트를 정렬할 수 있다.

도 28(a)를 참고하면, 선박의 갑판 영역(461) 및 측면 영역(462)을 검출하는 세그멘테이션 이미지가 임의의 제1 기준 평면에 투영된 제1 이미지를 볼 수 있다. 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들이 제1 이미지에서 특정 영역에 위치하도록 라이다 포인트들과 제1 이미지를 정렬할 수 있다. 예를 들어, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들과 제1 이미지를 정렬하는 경우, 제1 이미지에서 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들이 세그멘테이션 이미지의 선박의 측면 영역(462)에 대응하는 투영된 영역에 위치하도록 라이다 포인트들과 제1 이미지를 정렬할 수 있다. 일 예로, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들 중의 일부가 제1 이미지에서 선박과 해수면이 접하는 영역에 위치하도록 라이다 포인트들과 제1 이미지를 정렬할 수 있다.

도 28(b)를 참고하면, 선박의 갑판 영역(463) 및 측면 영역(464)을 검출하는 세그멘테이션 이미지가 제1 기준 평면과는 상이한 임의의 제2 기준 평면에 투영된 제2 이미지를 볼 수 있다. 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들이 제2 이미지에서 특정 영역에 위치하도록 라이다 포인트들과 제2 이미지를 정렬할 수 있다. 예를 들어, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들과 제2 이미지를 정렬하는 경우, 제2 이미지에서 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들이 세그멘테이션 이미지의 선박의 갑판 영역(463)에 대응하는 투영된 영역에 위치하도록 라이다 포인트들과 제2 이미지를 정렬할 수 있다. 일 예로, 장치(10)는 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들 중의 일부가 제2 이미지에서 선박의 갑판이 시작되는 영역에 위치하도록 라이다 포인트들과 제2 이미지를 정렬할 수 있다.

도 29를 참고하면 라이다 포인트의 위치에 기초하여 정렬된 서로 상이한 임의의 기준 평면에 투영된 이미지들이 융합된 것을 볼 수 있다. 장치(10)는 제1 이미지 및 제2 이미지에서의 라이다 포인트의 상대적인 위치에 기초하여 라이다 포인트들과 제1 이미지 및 제2 이미지를 정렬할 수 있다.

예를 들어, 장치(10)는 제1 이미지에서 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들이 세그멘테이션 이미지의 선박의 측면 영역(462)에 대응하는 투영된 영역보다 아래에 위치하고, 제2 이미지에서 선박으로부터 반사된 라이다 빔과 관련된 라이다 포인트들이 세그멘테이션 이미지의 선박의 갑판 영역(463)에 대응하는 투영된 영역에 위치하도록 라이다 포인트들과 제1 이미지 및 제2 이미지를 정렬할 수 있다.

다시 도 27로 돌아가 설명하도록 한다.

장치(10)는 정렬된 이미지들 및 라이다 포인트들을 이용하여 선박의 특징 포인트를 생성할 수 있다(S2240).

예를 들어, 장치(10)는 정렬된 라이다 포인트들과 투영된 제1 이미지 및 제2 이미지를 이용하여 다른 물체(일예로, 다른 선박, 안벽 등)와의 거리를 계산하는데 이용되는 선박의 특징 포인트를 획득할 수 있다.

일 실시예에 따르면, 장치(10)는 정렬된 라이다 포인트들과 투영된 제1 이미지 및 제2 이미지를 이용하여 추정되는 라이다 포인트를 고려하여 선박의 특징 포인트를 획득할 수 있다.

예를 들어, 장치(10)는 투영된 제1 이미지 및 제2 이미지와 정렬된 라이다 포인트들을 외삽 및/또는 내삽하여 추정 라이다 포인트를 생성하고, 생성된 추정 라이다 포인트 및 기존 라이다 포인트를 이용하여 선박의 특징 포인트를 획득할 수 있다. 도 29를 참고하면, 장치(10)는 라이다 포인트들을 내삽하여 추정 라이다 포인트(465)를 생성할 수 있고, 라이다 포인트들을 외삽하여 추정 라이다 포인트들(466, 467)을 생성할 수 있다. 라이다 포인트의 추정이나 선박의 특징 포인트의 획득에 대해서는 상술한 내용이 적용될 수 있어 자세한 내용은 생략하기로 한다.

장치(10)는 선박의 갑판 높이를 다양한 방법으로 획득할 수 있다.

일 실시예에서, 장치(10)는 센서 데이터를 이용하여 선박의 갑판 높이를 획득할 수 있다. 예를 들어, 장치(10)는 이미지 및 라이다 데이터 중 적어도 하나를 이용하여 선박의 갑판 높이를 획득할 수 있다. 일예로, 장치(10)는 선박의 측면으로부터 반사된 라이다 빔과 관련된 라이다 포인트들의 거리값이 급격히 변하는 부분에 대응하는 라이다 포인트의 좌표를 이용하여 선박의 갑판 높이를 획득할 수 있다. 다른 일예로, 장치(10)는 선박의 측면과 갑판 영역을 검출할 수 있는 인공 신경망을 이용하여 선박의 측면과 갑판 영역을 검출하고, 선박의 측면 영역과 갑판 영역이 접하는 부분에 대응하는 라이다 포인트들의 좌표를 이용하여 선박의 갑판 높이를 획득할 수 있다.

일 실시예에서, 장치(10)는 통신 모듈(300)을 통해 선박의 갑판 높이를 획득할 수 있다. 예를 들어, 장치(10)는 통신 모듈(300)을 통해 선박의 AIS 정보를 수신하고, 수신한 AIS 정보를 이용하여 선박의 갑판 높이를 획득할 수 있다. 다른 예를 들어, 장치(10)는 통신 모듈(300)을 통해 외부 장치로부터 입력된 선박의 갑판 높이를 수신하여 선박의 갑판 높이를 획득할 수 있다.

물론, 선박의 갑판 높이의 획득은 상술한 기재에 한정되지 않으며 다른 방식으로 획득되는 등 다른 방식으로 구현되어도 무방하다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

10: 모니터링 장치
100: 센서 모듈
110: 통신부
120: 제어부
130: 카메라
200: 제어 모듈
210: 통신부
220: 제어부
300: 통신 모듈

Claims

컴퓨팅 수단에 의해 수행되는 항만 모니터링 방법으로,
카메라에 의해 촬상된 이미지를 획득함;
상기 카메라의 시야각과 적어도 부분적으로 오버랩되는 시야각을 갖는 라이다 센서에 의해 얻어지는 복수의 라이다 포인트를 포함하는 라이다 데이터를 획득함;
상기 이미지로부터 세그멘테이션 이미지를 생성함 - 상기 세그멘테이션 이미지는 선박에 대응하는 선박 영역 및 바다에 대응하는 바다 영역을 포함하며, 상기 선박 영역에 대응하는 픽셀들에는 제1 인덱스가 할당되고, 상기 바다 영역에 대응하는 픽셀들에는 제2 인덱스가 할당되며, 상기 제1 인덱스는 객체 유형이 선박임을 나타내고, 상기 제2 인덱스는 객체 유형이 바다임을 나타냄 -;
상기 세그멘테이션 이미지와 상기 라이다 데이터를 정합하여 정합 이미지를 생성함;
상기 정합 이미지에 기초하여 상기 선박으로부터 반사되는 라이다 빔과 관련된 제1 라이다 포인트들을 선택함;
상기 제1 라이다 포인트들 중 상기 선박의 측면에 위치한 라이다 포인트들의 좌표, 상기 선박의 상기 측면에 위치한 라이다 포인트들의 상대적인 위치 및 상기 세그멘테이션 이미지에서 상기 선박 영역이 상기 바다 영역과 접하는 라인을 고려하여 상기 선박과 관련된 제2 라이다 포인트를 생성함;
상기 제1 라이다 포인트들 및 상기 제2 라이다 포인트를 포함하는 선박 라이다 포인트들 중 상기 선박의 특징 포인트를 결정함; 및
상기 특징 포인트를 이용하여 상기 선박과 다른 객체와의 거리를 계산함;을 포함하는,
항만 모니터링 방법.
제1항에 있어서,
상기 선박 라이다 포인트는,
상기 선박의 선수에 대응하는 선수 포인트 및 상기 선박의 선미에 대응하는 선미 포인트를 포함하는,
항만 모니터링 방법.
제2항에 있어서,
상기 선수 포인트는, 상기 제1 라이다 포인트에 포함되고,
상기 선미 포인트는, 상기 제2 라이다 포인트에 포함되는,
항만 모니터링 방법.
제2항에 있어서,
상기 선수 포인트는, 상기 제2 라이다 포인트에 포함되고,
상기 선미 포인트는, 상기 제1 라이다 포인트에 포함되는,
항만 모니터링 방법.
제2항에 있어서,
상기 특징 포인트는,
상기 선수 포인트 및 상기 선미 포인트 중 적어도 하나를 포함하는,
항만 모니터링 방법.
제1항에 있어서,
상기 특징 포인트는,
상기 선박 라이다 포인트들 중 상기 선박이 상기 바다와 접하는 위치에 대응되는 포인트를 포함하는,
항만 모니터링 방법.
제1항에 있어서,
상기 특징 포인트는,
상기 선박 라이다 포인트들 중 양 끝단에 위치한 포인트를 포함하는,
항만 모니터링 방법.
제1항에 있어서,
상기 제1 라이다 포인트들은,
상기 정합 이미지 상에서 상기 선박 영역에 포함되는 픽셀에 대응되는 라이다 포인트들 중에서 선택되는,
항만 모니터링 방법.
제1항에 있어서,
상기 제2 라이다 포인트는,
상기 제1 라이다 포인트들을 내삽 및/또는 외삽하여 생성되는,
항만 모니터링 방법.
제1항에 있어서,
상기 정합 이미지는
상기 카메라의 설치 정보 및 상기 라이다 센서의 설치 정보를 고려하여 생성되는,
항만 모니터링 방법.
제1항 내지 제10항 중 어느 하나의 방법을 수행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록매체.