KR20210055904A - Apparatus for electronic surveillance of voyage - Google Patents

Apparatus for electronic surveillance of voyage Download PDF

Info

Publication number
KR20210055904A
KR20210055904A KR1020190142247A KR20190142247A KR20210055904A KR 20210055904 A KR20210055904 A KR 20210055904A KR 1020190142247 A KR1020190142247 A KR 1020190142247A KR 20190142247 A KR20190142247 A KR 20190142247A KR 20210055904 A KR20210055904 A KR 20210055904A
Authority
KR
South Korea
Prior art keywords
image
ship
unit
collision
obstacle
Prior art date
Application number
KR1020190142247A
Other languages
Korean (ko)
Inventor
하영열
Original Assignee
삼성중공업 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성중공업 주식회사 filed Critical 삼성중공업 주식회사
Priority to KR1020190142247A priority Critical patent/KR20210055904A/en
Publication of KR20210055904A publication Critical patent/KR20210055904A/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B63SHIPS OR OTHER WATERBORNE VESSELS; RELATED EQUIPMENT
    • B63BSHIPS OR OTHER WATERBORNE VESSELS; EQUIPMENT FOR SHIPPING 
    • B63B43/00Improving safety of vessels, e.g. damage control, not otherwise provided for
    • B63B43/18Improving safety of vessels, e.g. damage control, not otherwise provided for preventing collision or grounding; reducing collision damage
    • B63B43/20Feelers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/937Radar or analogous systems specially adapted for specific applications for anti-collision purposes of marine craft
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • H04N5/23299
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Abstract

Disclosed is an electronic device for monitoring voyage, which uses an image of the surrounding of a ship taken to distinguish and detect an obstacle and a suspicious object around a ship, and accurately determine a risk of collision with the ship. The electronic device for monitoring voyage according to an embodiment of the present invention comprises: an image photographing unit for photographing the surrounding of a ship; and an object detecting unit for detecting an object corresponding to a marine object in the image. The object detecting unit includes: a first object detecting unit for detecting a first object from the image by a semantic segmentation-based deep learning model which finds meaning by a pixel unit; a second object detecting unit for detecting a second object from the image by an area-based object detecting deep learning model which detects a box-shaped object; and a determining unit for distinguishing and determining an obstacle and a suspicious object from the image, based on the first object and the second object.

Description

전자 항해 감시 장치{APPARATUS FOR ELECTRONIC SURVEILLANCE OF VOYAGE}Electronic navigation monitoring device {APPARATUS FOR ELECTRONIC SURVEILLANCE OF VOYAGE}

본 발명은 전자 항해 감시 장치에 관한 것으로, 보다 상세하게는 선박 주변을 촬상한 영상을 이용하여 선박 주위의 장애물과 의심 물체를 구분하여 검출할 수 있고 선박 충돌 위험을 정확하게 판단할 수 있는 전자 항해 감시 장치에 관한 것이다.The present invention relates to an electronic navigation monitoring device, and more particularly, an electronic navigation monitoring capable of distinguishing and detecting an obstacle and a suspicious object around the vessel using an image captured around the vessel and accurately determining the risk of a vessel collision. It relates to the device.

선박이 운항할 경우, 충돌사고에 대비하여 항해사는 견시 업무를 수행하며, 레이더와 전자해도 장비를 통해 지원을 받고 있다. 그러나 충돌상황을 초기에 식별하고 회피기동을 수행하기까지 수동으로 많은 항해 장비를 일일이 확인하고, 위험상황 시 신속하게 대응하는 데 많은 시간이 소요된다. 선박 충돌사고를 사전에 예방하기 위해 선박 주위의 수십 척의 선박과의 충돌상황을 효과적으로 단시간에 식별할 수 있도록 지원해주는 시스템이 필요하다.In the case of a ship's operation, the navigator performs the watch-to-see service in preparation for a crash accident, and is supported by radar and electronic chart equipment. However, it takes a lot of time to manually check a number of navigational equipment and quickly respond to a dangerous situation until the collision situation is initially identified and the evasion maneuver is performed. In order to prevent ship collision accidents in advance, there is a need for a system that supports effective identification of collision situations with dozens of ships around the ship in a short time.

종래에는 AIS(Automatic Identification System)나 Radar를 이용하여 선박의 충돌을 방지하는 시스템이 있었으나, 종래의 선박 충돌 방지 시스템은 AIS에 등록되지 않은 선박에 대해서는 감지하지 못하거나 미등록 선박을 감지하더라도 선박의 예상 충돌 위치, 타선의 이동 경로 등을 제공하지 못하여 항해사가 배경지식과 경험을 통해 선박의 충돌 위험을 판단하는 문제가 있었다.Conventionally, there has been a system that prevents a ship from colliding using an AIS (Automatic Identification System) or a radar, but the conventional ship collision avoidance system does not detect ships that are not registered in AIS, or even if it detects unregistered ships, the ship's predictions There is a problem in that the navigator judges the risk of a collision of the ship through background knowledge and experience because the location of the collision and the path of movement of other ships could not be provided.

본 발명은 선박 주변을 촬상한 영상을 이용하여 선박 주위의 장애물과 의심 물체를 구분하여 검출할 수 있고 선박 충돌 위험을 정확하게 판단할 수 있는 전자 항해 감시 장치를 제공하기 위한 것이다.An object of the present invention is to provide an electronic navigation monitoring device capable of distinguishing and detecting an obstacle and a suspicious object around a ship by using an image captured around a ship and accurately determining the risk of a ship collision.

본 발명이 해결하고자 하는 과제는 이상에서 언급된 과제로 제한되지 않는다. 언급되지 않은 다른 기술적 과제들은 이하의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The problem to be solved by the present invention is not limited to the problems mentioned above. Other technical problems not mentioned will be clearly understood by those of ordinary skill in the art from the following description.

본 발명의 실시예에 따른 전자 항해 감시 장치는 선박 주위의 영상을 촬영하는 영상 촬영부; 및 상기 영상에서 해상 물체에 해당하는 객체를 검출하는 객체 검출부를 포함한다. 상기 객체 검출부는, 픽셀 단위로 의미를 찾아내는 의미 분할 기반 딥러닝 모델에 의해 상기 영상으로부터 제1 객체를 검출하는 제1 객체 검출부; 박스형의 물체를 검출하는 영역 기반 물체 검출 딥러닝 모델에 의해 상기 영상으로부터 제2 객체를 검출하는 제2 객체 검출부; 및 상기 제1 객체 및 상기 제2 객체를 기반으로 상기 영상에서 장애물과 의심 물체를 구분하여 판단하는 판단부를 포함한다.An electronic navigation monitoring device according to an embodiment of the present invention includes an image photographing unit for photographing an image around a ship; And an object detection unit that detects an object corresponding to a marine object in the image. The object detector may include: a first object detector configured to detect a first object from the image by means of a semantic division-based deep learning model that finds a meaning in a pixel unit; A second object detection unit detecting a second object from the image by using a region-based object detection deep learning model that detects a box-shaped object; And a determination unit that distinguishes and determines an obstacle and a suspicious object in the image based on the first object and the second object.

상기 판단부는, 상기 제1 객체 및 상기 제2 객체에 공통으로 포함되는 객체를 상기 장애물로 판단하고; 그리고 상기 제1 객체 및 상기 제2 객체 중 어느 하나에만 포함되는 객체를 상기 의심 물체로 판단할 수 있다.The determining unit determines an object commonly included in the first object and the second object as the obstacle; In addition, an object included in only one of the first object and the second object may be determined as the suspicious object.

상기 영상 촬영부는 가시 영상을 촬영하는 가시광 카메라와, 열화상 영상을 촬영하는 열화상 카메라를 포함할 수 있다. 상기 객체 검출부는 상기 가시 영상과 상기 열화상 영상을 결합한 영상에서 상기 제1 객체 및 상기 제2 객체를 검출하도록 구성될 수 있다.The image capturing unit may include a visible light camera for capturing a visible image and a thermal camera for capturing a thermal image. The object detector may be configured to detect the first object and the second object from an image obtained by combining the visible image and the thermal image.

본 발명의 실시예에 따른 전자 항해 감시 장치는 상기 영상 촬영부 및 상기 객체 검출부를 제어하는 감시 제어부를 더 포함할 수 있다. 상기 객체 검출부는 상기 의심 물체의 중심 위치 및 크기를 산출하는 분석부를 더 포함할 수 있다.The electronic navigation monitoring apparatus according to an embodiment of the present invention may further include a monitoring control unit for controlling the image photographing unit and the object detection unit. The object detection unit may further include an analysis unit that calculates the center position and size of the suspicious object.

상기 감시 제어부는 상기 의심 물체의 크기를 중심 위치와 크기에 따라 줌 기능을 적용하여 상기 의심 물체에 대한 확대 영상을 생성하도록 상기 영상 촬영부를 제어하고, 상기 확대 영상에서 상기 의심 물체를 추출하여 장애물 여부를 판단할 수 있다.The monitoring control unit controls the image capture unit to generate an enlarged image of the suspect object by applying a zoom function to the size of the suspect object according to a center position and size, and extracts the suspect object from the enlarged image to determine whether there is an obstacle. Can be judged.

본 발명의 실시예에 따른 전자 항해 감시 장치는 상기 영상 촬영부의 촬영 방향을 3축 방향으로 제어하기 위한 3축 구동부; 및 상기 감시 제어부에 의해 지시된 방향 각도를 유지하도록 상기 3축 구동부를 구동하는 안정 제어부를 더 포함할 수 있다.Electronic navigation monitoring device according to an embodiment of the present invention includes a three-axis driving unit for controlling the photographing direction of the image photographing unit in the three-axis direction; And a stability control unit driving the three-axis drive unit to maintain the direction angle indicated by the monitoring control unit.

상기 객체 검출부는 상기 영상에서 추출된 객체 중에서 육지 영역 내의 객체를 제외하는 해상 객체 추출부를 더 포함할 수 있다.The object detection unit may further include a marine object extraction unit excluding an object within a land area from among the objects extracted from the image.

상기 감시 제어부는, 레이더에 의해 검출된 장애물과 상기 영상으로부터 검출된 장애물을 비교하여, 상기 레이더 및 상기 영상으로부터 모두 장애물로 검출된 경우와 상기 영상에서만 검출된 장애물을 구별하여 표시할 수 있다.The monitoring control unit may compare an obstacle detected by a radar with an obstacle detected from the image, and display a case where both the radar and the image are detected as obstacles and an obstacle detected only in the image.

본 발명의 실시예에 따른 전자 항해 감시 장치는, 상기 영상을 기반으로 상기 선박의 장애물과의 충돌을 예측하는 충돌 예측부; 및 상기 충돌 예측부의 충돌 예측 결과를 디스플레이하는 디스플레이부를 더 포함할 수 있다.An electronic navigation monitoring apparatus according to an embodiment of the present invention includes: a collision prediction unit for predicting a collision with an obstacle of the ship based on the image; And a display unit that displays a collision prediction result of the collision prediction unit.

상기 충돌 예측부는, 상기 영상에서 적어도 하나의 타선을 추출하는 타선 추출부; 상기 타선의 이동 경로 및 속력을 감지하는 이동 경로 감지부; 및 상기 타선의 이동 경로 및 속력에 기초하여 상기 선박과 상기 타선의 충돌 위험을 예측하는 충돌 위험 예측부를 포함할 수 있다.The collision prediction unit may include a second line extraction unit for extracting at least one other line from the image; A movement path detector configured to detect a movement path and speed of the other ship; And a collision risk prediction unit predicting a collision risk between the ship and the other ship based on the moving path and speed of the other ship.

상기 충돌 위험 예측부는, 상기 타선의 이동 경로 및 속력을 이용하여 상기 타선의 각속도를 산출하고, 상기 타선의 속력 및 각속도를 이용하여 상기 타선의 미래 이동 경로를 예측하고, 상기 타선의 미래 이동 경로와 상기 선박의 미래 이동 경로를 이용하여 상기 타선과 상기 선박의 충돌 확률 및 충돌 시간을 산출할 수 있다.The collision risk prediction unit calculates the angular velocity of the other ship using the moving path and speed of the other ship, predicts the future movement path of the other ship using the speed and angular speed of the other ship, and The collision probability and collision time between the other ship and the ship may be calculated by using the future movement path of the ship.

본 발명의 실시예에 의하면, 선박 주변을 촬상한 영상을 이용하여 선박 주위의 장애물과 의심 물체를 구분하여 검출할 수 있고 선박 충돌 위험을 정확하게 판단할 수 있는 전자 항해 감시 장치가 제공된다.According to an embodiment of the present invention, there is provided an electronic navigation monitoring device capable of distinguishing and detecting an obstacle and a suspicious object around a ship using an image captured around a ship, and accurately determining the risk of a ship collision.

본 발명의 효과는 상술한 효과들로 제한되지 않는다. 언급되지 않은 효과들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.The effects of the present invention are not limited to the above-described effects. Effects not mentioned will be clearly understood by those of ordinary skill in the art from the present specification and the accompanying drawings.

도 1은 본 발명의 실시예에 따른 전자 항해 감시 장치의 구성도이다.
도 2는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 영상 촬영부의 예시도이다.
도 3은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 구성도이다.
도 4는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 기능을 설명하기 위한 개념도이다.
도 5는 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작 순서도이다.
도 6 내지 도 8은 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작을 설명하기 위한 예시도이다.
도 9는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 충돌 예측부의 구성도이다.
도 10은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 정보의 예시도이다.
도 11은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 화면의 예시도이다.
1 is a block diagram of an electronic navigation monitoring device according to an embodiment of the present invention.
2 is an exemplary view of an image photographing unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
3 is a block diagram of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
4 is a conceptual diagram illustrating a function of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
5 is a flowchart illustrating an operation of an electronic navigation monitoring device according to an embodiment of the present invention.
6 to 8 are exemplary views for explaining the operation of the electronic navigation monitoring device according to an embodiment of the present invention.
9 is a block diagram of a collision prediction unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
10 is an exemplary diagram of information displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
11 is an exemplary view of a screen displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.

본 발명의 다른 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술하는 실시예를 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되지 않으며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 만일 정의되지 않더라도, 여기서 사용되는 모든 용어들(기술 혹은 과학 용어들을 포함)은 이 발명이 속한 종래 기술에서 보편적 기술에 의해 일반적으로 수용되는 것과 동일한 의미를 갖는다. 공지된 구성에 대한 일반적인 설명은 본 발명의 요지를 흐리지 않기 위해 생략될 수 있다.Other advantages and features of the present invention, and a method of achieving them will become apparent with reference to the embodiments to be described later in detail together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, and the present invention is only defined by the scope of the claims. Even if not defined, all terms (including technical or scientific terms) used herein have the same meaning as commonly accepted by universal technology in the prior art to which this invention belongs. A general description of known configurations may be omitted so as not to obscure the subject matter of the present invention.

도 1은 본 발명의 실시예에 따른 전자 항해 감시 장치의 구성도이다. 도 1을 참조하면, 본 발명의 실시예에 따른 전자 항해 감시 장치(100)는 영상 촬영부(110), 객체 검출부(120), 충돌 예측부(130), 감시 제어부(140), 디스플레이부(150), 안정 제어부(160) 및 3축 구동부(170)를 포함할 수 있다.1 is a block diagram of an electronic navigation monitoring device according to an embodiment of the present invention. Referring to FIG. 1, an electronic navigation monitoring device 100 according to an embodiment of the present invention includes an image capture unit 110, an object detection unit 120, a collision prediction unit 130, a monitoring control unit 140, and a display unit ( 150), may include a stability control unit 160 and a three-axis drive unit 170.

도 2는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 영상 촬영부의 예시도이다. 도 1 및 도 2를 참조하면, 영상 촬영부(110)는 선박에 설치되어 선박의 전방, 측방 및 후방 등에서 선박 주위의 영상을 촬영할 수 있다.2 is an exemplary view of an image photographing unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. Referring to FIGS. 1 and 2, the image photographing unit 110 may be installed on a ship to capture images around the ship from the front, side, and rear of the ship.

영상 촬영부(110)는 선박의 전방, 측방, 후방에 각각 설치되는 3개 이상의 카메라로 제공되거나, 선박의 전방, 측방, 후방 중 하나 또는 둘 이상의 방향에 구비되는 하나 또는 두 개 이상의 광각 카메라로 제공될 수 있다. 영상 촬영부(110)는 선박의 특정 위치에 구비되는 하나의 360° 카메라 또는 VR 카메라 등으로 제공될 수도 있다.The image capture unit 110 is provided with three or more cameras installed in the front, side, and rear of the ship, or one or two or more wide-angle cameras provided in one or two or more directions of the front, side, and rear of the ship. Can be provided. The image capturing unit 110 may be provided with a single 360° camera or a VR camera provided at a specific location of the ship.

영상 촬영부(110)는 가시 영상을 촬영하는 가시광 카메라(Visual Camera)(112)와, 열화상 영상을 촬영하는 열화상 카메라(Thermal Camera)(114)를 포함할 수 있다. 일 예로, 가시광 카메라(112)는 CMOS(Complementary Metal Oxide Semiconductor) 카메라 또는 CCD(Charge Coupled Device) 카메라 등일 수 있다.The image capturing unit 110 may include a visual camera 112 for capturing a visible image and a thermal camera 114 for capturing a thermal image. For example, the visible light camera 112 may be a Complementary Metal Oxide Semiconductor (CMOS) camera or a Charge Coupled Device (CCD) camera.

도 3은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 구성도이다. 도 4는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 기능을 설명하기 위한 개념도이다.3 is a block diagram of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. 4 is a conceptual diagram illustrating a function of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.

도 1, 도 3 및 도 4를 참조하면, 객체 검출부(120)는 영상 촬영부(110)에 의해 촬영된 영상에서 해상 물체에 해당하는 객체를 검출할 수 있다. 객체 검출부(120)는 제1 객체 검출부(121), 제2 객체 검출부(122), 해상 객체 추출부(123), 판단부(124) 및 분석부(125)를 포함할 수 있다.1, 3, and 4, the object detection unit 120 may detect an object corresponding to a marine object from an image captured by the image capture unit 110. The object detection unit 120 may include a first object detection unit 121, a second object detection unit 122, a marine object extraction unit 123, a determination unit 124, and an analysis unit 125.

제1 객체 검출부(121)는 픽셀(pixel) 단위로 의미를 찾아내는 의미 분할(Semantic Segmentation) 기반 딥러닝 모델(예를 들어, SEGNET)에 의해 영상으로부터 제1 객체를 검출할 수 있다. 제1 객체 검출부(121)는 가시 영상(10)과 열화상 영상(20)을 결합한 영상에서 제1 객체들을 검출할 수 있다.The first object detector 121 may detect a first object from an image by using a semantic segmentation-based deep learning model (eg, SEGNET) to find a meaning in a pixel unit. The first object detector 121 may detect first objects from an image obtained by combining the visible image 10 and the thermal image 20.

제2 객체 검출부(122)는 특정 위치, 크기의 박스에 해당하는 박스형의 물체를 검출하는 영역 기반 물체 검출(Region based Object Detection) 딥러닝 모델(예를 들어, YOLO)에 의해 영상으로부터 제2 객체를 검출할 수 있다. 제2 객체 검출부(122)는 가시 영상(10)과 열화상 영상(20)을 결합한 영상에서 제2 객체들을 검출할 수 있다.The second object detection unit 122 detects a box-shaped object corresponding to a box of a specific location and size by using a region-based object detection deep learning model (eg, YOLO). Can be detected. The second object detector 122 may detect second objects from an image obtained by combining the visible image 10 and the thermal image 20.

실시예에서, 야간에도 해상 물체를 정확하게 감지할 수 있도록, 3개의 2D 가시 영상과 2D 열화상 영상을 결합한 이미지를 이용하여 해상 객체들을 검출할 수 있다. 해상 객체 추출부(123)는 영상에서 추출된 객체들 중에서 육지 영역 내의 객체들을 제외하여 해상 객체들을 추출할 수 있다.In an embodiment, in order to accurately detect marine objects even at night, marine objects may be detected using an image that is a combination of three 2D visible images and 2D thermal images. The marine object extraction unit 123 may extract marine objects by excluding objects in the land area from among the objects extracted from the image.

판단부(124)는 제1 객체 검출부(121)에 의해 검출된 제1 객체들(30) 및 제2 객체 검출부(122)에 의해 검출된 제2 객체들(40)을 기반으로 영상에서 장애물(Obstacle)과 의심 물체(Suspect Object)를 구분하여 판단할 수 있다.The determination unit 124 is based on the first objects 30 detected by the first object detection unit 121 and the second objects 40 detected by the second object detection unit 122. Obstacle) and Suspect Object can be distinguished and judged.

판단부(124)는 제1 객체 검출부(121)에 의해 검출된 제1 객체들(30) 및 제2 객체 검출부(122)에 의해 검출된 제2 객체들(40)에 공통으로 포함되는 객체를 장애물(50)로 판단할 수 있다.The determination unit 124 determines objects commonly included in the first objects 30 detected by the first object detection unit 121 and the second objects 40 detected by the second object detection unit 122. It can be determined as an obstacle 50.

판단부(124)는 제1 객체 및 상기 제2 객체 중 어느 하나에만 포함되는 객체를 의심 물체(60)로 판단할 수 있다. 분석부(125)는 의심 물체(60)의 중심 위치 및 크기를 산출할 수 있다.The determination unit 124 may determine an object included in only one of the first object and the second object as the suspicious object 60. The analysis unit 125 may calculate the center position and size of the suspect object 60.

즉, 판단부(124)는 제1 객체 검출부(121)에 의해 검출된 제1 객체들과 제2 객체 검출부(122)에 의해 검출된 제2 객체들의 교집합에 해당하는 영역을 통해 장애물을 검출하고, 의미 분할 기반 물체 검출과 영역 기반 물체 검출의 두 검출 기법이 공통으로 해상 물체라고 판단하지는 않더라도 의미 분할 기반 물체 검출과 영역 기반 물체 검출 중 어느 하나에 의해 장애물로 검출된 영역을 의심 물체로 검출할 수 있다.That is, the determination unit 124 detects an obstacle through an area corresponding to the intersection of the first objects detected by the first object detection unit 121 and the second objects detected by the second object detection unit 122 However, even if the two detection techniques, semantic division-based object detection and area-based object detection, do not determine that the object is a sea object in common, the area detected as an obstacle by either semantic division-based object detection or area-based object detection can be detected as a suspicious object. I can.

감시 제어부(140)는 감시 상황을 디스플레이부(150)에 표시하고, 사용자의 지령을 입력받는 기능을 수행하고, 해상 감시를 위해 영상 촬영부(110) 및 객체 검출부(120)를 제어할 수 있다.The monitoring control unit 140 may display a monitoring situation on the display unit 150, perform a function of receiving a user's command, and control the image capture unit 110 and the object detection unit 120 for maritime monitoring. .

감시 제어부(140)는 객체 검출부(120)에 의해 검출된 의심 물체의 중심 위치와 크기에 따라 줌 기능을 적용하여 의심 물체에 대한 확대 영상을 생성하도록 영상 촬영부(110)를 제어할 수 있다. 감시 제어부(140)는 확대 영상에서 의심 물체를 추출하여 장애물 여부를 정확하게 판단할 수 있다.The monitoring control unit 140 may control the image capturing unit 110 to generate an enlarged image of the suspicious object by applying a zoom function according to the center position and size of the suspicious object detected by the object detection unit 120. The monitoring control unit 140 may accurately determine whether there is an obstacle by extracting a suspicious object from the enlarged image.

3축 구동부(170)는 영상 촬영부(110)의 촬영 방향을 3축 방향으로 제어할 수 있다. 3축 구동부(170)는 적어도 3개의 모터를 포함할 수 있다. 안정 제어부(160)는 감시 제어부(140)에 의해 지시된 방향 각도를 유지하도록 3축 구동부를 구동할 수 있다.The three-axis driving unit 170 may control the photographing direction of the image capturing unit 110 in the three-axis direction. The three-axis driving unit 170 may include at least three motors. The stability control unit 160 may drive the three-axis drive unit to maintain the direction angle indicated by the monitoring control unit 140.

안정 제어부(160)는 하나 이상의 관성 측정 유닛(Inertial Measurement Unit)을 구비할 수 있으며, 3축 구동부(170)를 제어하여 선박 운동 발생시에도 수평선이나 특정 물체를 흔들림 없이 영상을 획득하도록 할 수 있다.The stability control unit 160 may include one or more inertial measurement units, and control the three-axis driving unit 170 to obtain an image without shaking a horizontal line or a specific object even when a ship movement occurs.

안정 제어부(160)는 영상 촬영부(110)의 움직임 최소화를 위해 카메라에 장착된 관성 측정 유닛(IMU)으로부터 현재의 각속도를 읽어서 감시 제어부에서 지시한 고정 좌표계 상의 특정 방향 각도가 유지되도록 영상 촬영부(110)의 방향을 제어할 수 있다.The stability control unit 160 reads the current angular velocity from the inertial measurement unit (IMU) mounted on the camera to minimize the motion of the image capture unit 110, and maintains a specific direction angle on a fixed coordinate system indicated by the monitoring control unit. The direction of (110) can be controlled.

감시 제어부(140)는 레이더에 의해 검출된 장애물과 영상으로부터 검출된 장애물을 비교하여, 레이더 및 상기 영상으로부터 모두 장애물로 검출된 경우와 영상에서만 검출된 장애물을 구별하여 디스플레이부(150)에 표시할 수 있다.The monitoring control unit 140 compares the obstacle detected by the radar and the obstacle detected from the image, and distinguishes between the case detected as an obstacle from the radar and the image and the obstacle detected only in the image, and displays it on the display unit 150. I can.

충돌 예측부(130)는 영상 촬영부(110)에 의해 촬영된 영상을 기반으로 선박의 장애물과의 충돌을 예측할 수 있다. 디스플레이부(150)는 충돌 예측부(130)의 충돌 예측 결과를 디스플레이할 수 있다.The collision prediction unit 130 may predict a collision with an obstacle of the ship based on the image captured by the image capture unit 110. The display unit 150 may display a collision prediction result of the collision prediction unit 130.

도 5는 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작 순서도이다. 도 6 내지 도 8은 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작을 설명하기 위한 예시도이다. 5 is a flowchart illustrating an operation of an electronic navigation monitoring device according to an embodiment of the present invention. 6 to 8 are exemplary views for explaining the operation of the electronic navigation monitoring device according to an embodiment of the present invention.

도 1, 도 5 내지 도 8을 참조하면, 감시 제어부(140)는 의심 물체에 관련된 불확실한 정보를 확인하기 위해 영상 촬영부(110)의 줌 기능을 이용하여 다시 검체 검출을 수행하도록 객체 검출부(120)를 제어할 수 있다.1, 5 to 8, the monitoring control unit 140, the object detection unit 120 to perform the specimen detection again using the zoom function of the image capturing unit 110 in order to check the uncertain information related to the suspicious object. ) Can be controlled.

실시예에서, 감시 제어부(140)에서 감시 기능을 명령하면, 영상 촬영부(110)의 파노라믹 스캔(Panoramic Scan)에 의해 순방향으로 수평선을 따라 전방위 영상을 획득하여 1차적으로 장애물들(O1, O2)과 의심 물체들(SO1, SO2, SO3)을 검출한다(S10, S20).In an embodiment, when a monitoring function is commanded by the monitoring control unit 140, an omnidirectional image is acquired along the horizontal line in the forward direction by a panoramic scan of the image capturing unit 110, and the obstacles O1 , O2) and suspicious objects (SO1, SO2, SO3) are detected (S10, S20).

이후 영상 촬영부(110)의 스캔 방향을 전환하여 역방향으로 돌아올 때는 의심 물체(S01, S02, S03)의 중심과 의심 물체의 크기를 기준으로 영상 촬영부(110)의 카메라 줌 기능을 활용하여 보다 큰 확대 영상을 통해 추가로 장애물(O3)을 감지할 수 있다(S30, S40, S50).Thereafter, when the scan direction of the image photographing unit 110 is changed and returned to the reverse direction, the camera zoom function of the image photographing unit 110 is used based on the center of the suspicious object (S01, S02, S03) and the size of the suspicious object. An additional obstacle O3 can be detected through a large enlarged image (S30, S40, S50).

장애물 정보는 향후 충돌 예측 시스템에서 장애물일 확률을 100%로 적용하고, 의심 물체는 장애물일 확률을 100% 미만의 값으로 설정할 수 있다. 본 발명의 실시예에 의하면 장애물 뿐 아니라 의심 물체도 선박의 충돌 예측에 활용할 수 있다.As for the obstacle information, a probability of an obstacle in a future collision prediction system may be applied as 100%, and a probability of a suspicious object being an obstacle may be set to a value less than 100%. According to an embodiment of the present invention, not only an obstacle but also a suspicious object can be utilized for predicting a collision of a ship.

본 발명의 실시예에 의하면, 가시적인 해상 상황에 대한 정보를 제공하여, 안전성을 향상하고 선박 운영 비용을 절감할 수 있으며, 관측자의 의존도를 낮추어 인적 오류에 의한 사고를 방지할 수 있다.According to an embodiment of the present invention, by providing information on visible maritime conditions, it is possible to improve safety and reduce ship operating costs, and to reduce the dependence of observers to prevent accidents due to human error.

또한, 본 발명의 실시예에 의하면, 각종 항통 장비(Inertial Navigation System, AIS, Radar)에서 제공하는 정보와 함께, 전방향으로 선박 주변 상황에 대한 현재 및 과거 가시 및 열화상 정보와 충돌 예측 정보를 제공할 수 있다.In addition, according to an embodiment of the present invention, information provided by various navigation equipment (Inertial Navigation System, AIS, Radar), as well as current and past visible and thermal image information and collision prediction information about the situation around the ship in all directions. Can provide.

도 9는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 충돌 예측부의 구성도이다. 도 1 및 도 9를 참조하면, 충돌 예측부(130)는 타선 추출부(132), 이동 경로 감지부(134) 및 충돌 위험 예측부(136)를 포함할 수 있다.9 is a block diagram of a collision prediction unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. Referring to FIGS. 1 and 9, the collision prediction unit 130 may include another ship extraction unit 132, a movement path detection unit 134, and a collision risk prediction unit 136.

타선 추출부(132)는 영상 촬영부(110)에 의해 획득된 영상에서 적어도 하나의 타선(장애물 또는 의심 물체)을 추출할 수 있다.The other line extracting unit 132 may extract at least one other line (an obstacle or a suspicious object) from the image acquired by the image capturing unit 110.

이동 경로 감지부(134)는 영상에서 추출된 타선의 이동 경로 및 속력을 감지할 수 있다. 실시예에서, 이동 경로 감지부(134)는 Kanade-Lucas-Tomasi 알고리즘 등으로 구현될 수 있다.The movement path detection unit 134 may detect the movement path and speed of the other ship extracted from the image. In an embodiment, the movement path detection unit 134 may be implemented with a Kanade-Lucas-Tomasi algorithm or the like.

충돌 위험 예측부(136)는 타선의 이동 경로 및 속력에 기초하여 선박과 타선의 충돌 위험을 예측할 수 있다.The collision risk prediction unit 136 may predict a collision risk between a ship and another ship based on the moving path and speed of the other ship.

구체적으로, 충돌 위험 예측부(136)는 타선의 이동 경로 및 속력을 이용하여 타선의 각속도를 산출하고, 타선의 속력 및 각속도를 이용하여 타선의 미래 이동 경로를 예측할 수 있다.Specifically, the collision risk prediction unit 136 may calculate the angular velocity of the other ship using the moving path and speed of the other ship, and predict the future movement path of the other ship using the speed and angular velocity of the other ship.

또한, 충돌 위험 예측부(136)는 선박(자선)의 이동 경로 및 속력을 이용하여 선박의 각속도를 산출하고, 선박의 속력 및 각속도를 이용하여 선박의 미래 이동 경로를 예측할 수 있다.In addition, the collision risk prediction unit 136 may calculate the angular velocity of the vessel using the moving path and speed of the vessel (own vessel), and predict the future moving path of the vessel using the velocity and angular velocity of the vessel.

충돌 위험 예측부(136)는 예측된 타선의 미래 이동 경로와 선박의 미래 이동 경로를 이용하여 타선과 선박의 충돌 확률 및 충돌 시간을 산출할 수 있다. 이 경우, 충돌 위험 예측부(136)는 타선과 선박의 충돌 시간이 늦어질수록 타선과 선박의 충돌 확률이 낮아지는 것으로 판단할 수 있다.The collision risk prediction unit 136 may calculate a collision probability and a collision time between the other ship and the ship by using the predicted future movement path of the other ship and the future movement path of the ship. In this case, the collision risk prediction unit 136 may determine that the collision probability between the other ship and the ship decreases as the collision time between the other ship and the ship is delayed.

본 발명의 실시 예에 의하면, 라이다 센서(Radar Sensor)에서 선별된 선박에 관한 정보를 이용하여 선박의 충돌을 예측할 수 있으며, 선박의 관성 항법 장치를 통해서 획득되는 Roll, Pith, Yaw 정보를 이용하여 선박의 기울어진 상태를 검출할 수 있다.According to an embodiment of the present invention, a collision of a ship can be predicted using information on a ship selected by a radar sensor, and roll, pith, and yaw information obtained through the ship's inertial navigation device is used. Thus, it is possible to detect the inclined state of the ship.

또한, 본 발명의 실시예에 의하면, 영상 촬영부(110)에 의해 획득되는 영상을 기반으로 물체 탐지(Object Detection) 또는 의미 분할(Semantic Segmentation) 기술을 이용하여 장애물 및 의심 물체를 검출하고, 그 위치 및 크기를 Feature 기반 탐지 기술(SIFT, SURF, HOG, Ferns, LBP 등)을 활용하여 검출할 수 있다.In addition, according to an embodiment of the present invention, an obstacle and a suspicious object are detected using an object detection or semantic segmentation technology based on an image acquired by the image capturing unit 110, and The location and size can be detected using feature-based detection technologies (SIFT, SURF, HOG, Ferns, LBP, etc.).

또한, 영상에서 식별된 타선들의 상태 변화를 판단하기 위하여 물체 추적 기술이 이용될 수 있다. 물체 추적 기술은 Kanade-Lucas-Tomasi 방법 등의 알고리즘이 이용될 수 있다. 일 예로, 영상에서 검출된 타선들과 이전 영상에서 검출된 타선들의 영상 유사도를 검출하여 가장 유사도가 높은 타선을 대응시킬 수 있고, 다수의 영상을 이용하면 특정 타선이 시간에 따라 어떻게 이동하였는지에 대한 정보를 획득할 수 있다. 또한, 특정 시점에는 검출되지 않은 타선이 이전 또는 이후 영상에 존재하여 위치 이동에 단절이 발생하는 경우를 예방하기 위하여 타선의 위치를 추정하는 Kalman Filter 기술이 활용될 수 있다. 이와 같이, 영상에서 추출되는 타선들의 추적 정보는 미래 경로를 예측하는데 이용될 수 있다. 구체적으로, 타선은 전방으로 이동하거나 좌현, 우현으로 이동하는 경우만 존재하는 것으로 가정하고, 타선의 미래 이동 경로는 과거의 속력, 각속력을 기준으로 직선 또는 호의 형태로 이동한다고 가정하여, 타선의 과거 이동 경로를 통해 미래 이동 경로를 예측할 수 있다.In addition, object tracking technology may be used to determine the state change of other ships identified in the image. As the object tracking technology, an algorithm such as the Kanade-Lucas-Tomasi method may be used. For example, by detecting image similarity between other lines detected in an image and other lines detected in a previous image, the other line with the highest similarity can be associated. If multiple images are used, information on how a specific other line has moved over time. Can be obtained. In addition, in order to prevent a case where the other line that has not been detected at a specific time point exists in the image before or after the position movement is interrupted, a Kalman filter technique that estimates the location of the other line may be used. In this way, tracking information of other ships extracted from the image may be used to predict a future path. Specifically, the other ship is assumed to exist only when it moves forward or moves to the port or starboard. The future travel path can be predicted through the past travel path.

또한, 추정된 타선의 위치는 불확실성을 내재하고 있으며, 시간이 지남에 따라 이러한 불확실성은 크기가 커질 수 있다. 구체적으로, 불확실성은 타선의 속력이 높을 경우 추정된 타선의 위치보다 타선의 진행 방향으로 더 앞쪽에 위치하고, 타선의 속력이 낮을 경우 추정된 타선의 위치보다 타선의 진행 방향으로 더 뒤쪽에 위치할 수 있다. 또한, 불확실성은 타선의 각속력에 따라 추정된 타선의 위치의 좌측 또는 우측에 위치할 수 있다. 타선의 위치 추정시 불확실성에 따른 모든 위치를 고려하는 경우 계산량이 많아져서 처리 속도가 느려질 수 있으므로, 근사 함수로 대치하여 처리할 수도 있다. 또한, 타선의 예상 위치에 대한 확률은 추정된 위치에서 100%를 가지고 추정된 위치에서 멀어질수록 작아질 수 있다. 타선의 위치 추정은 시간이 지남에 따라 불확실성이 커지므로, 현 시점에서 멀어질수록 표준편차가 커질 수 있다.In addition, the estimated location of other ships has inherent uncertainty, and this uncertainty may increase in magnitude over time. Specifically, if the speed of the other ship is high, it may be located further forward in the direction of the other ship's travel than the estimated position of the other ship, and if the speed of the other ship is low, it may be located further in the direction of travel of the other ship than the estimated position of the other ship have. In addition, the uncertainty may be located to the left or right of the estimated position of the other ship according to the angular speed of the other ship. When all positions due to uncertainty are considered when estimating the position of other ships, the processing speed may be slowed due to a large amount of calculation, and thus the processing may be replaced with an approximation function. In addition, the probability of the predicted position of the other ship may have 100% from the estimated position and may decrease as the distance from the estimated position increases. Since the uncertainty increases over time in estimating the location of other ships, the standard deviation may increase as the distance from the current point increases.

이러한 시간에 따른 타선들의 위치 분포와 자선의 위치 분포를 활용하여 충돌 확률을 산출할 수 있다. 구체적으로, 특정 시점에서 각 타선의 위치 분포와 자선의 위치 분포를 곱한 결과의 최대값이 해당 시점의 충돌 확률일 수 있다. 또한, 각 타선의 시간에 따른 충돌 확률 중 가장 큰 값을 그 타선의 충돌 확률로 설정할 수 있다. 또한, 모든 타선들에 대해 충돌 확률이 큰 순서대로 정렬하면 현재 시점에서 자선 및 타선의 속력 및 각속력을 기반으로 예상 충돌 사항을 우선 순위화할 수 있다.The collision probability can be calculated by using the position distribution of the other ships and the position distribution of the own ship over time. Specifically, a maximum value of a result of multiplying the position distribution of each other ship and the position distribution of the own ship at a specific time point may be a collision probability at the time point. In addition, the largest value among the collision probability of each other ship according to time may be set as the collision probability of the other ship. In addition, if all other ships are arranged in the order of the high collision probability, the expected collisions can be prioritized based on the speeds and angular speeds of the own ship and other ships at the current point in time.

디스플레이부(150)는 충돌 예측부(130)의 판단 결과를 디스플레이할 수 있다. 일 예로, 디스플레이부(150)는 선박에 설치되는 LCD 모니터 등으로 구현되어 충돌 예측부(130)에서 판단되는 타선과 선박의 충돌 확률 및 충돌 시간 등을 디스플레이할 수 있다. 또한, 디스플레이부(150)은 선박의 주변 환경이 표시된 해상 지도를 디스플레이할 수 있다.The display unit 150 may display a result of determination of the collision prediction unit 130. For example, the display unit 150 may be implemented as an LCD monitor installed on a ship to display a collision probability and a collision time between another ship and the ship determined by the collision prediction unit 130. In addition, the display unit 150 may display a maritime map in which the surrounding environment of the ship is displayed.

디스플레이부(150)는 해상 지도 상에 충돌 예측부(130)에서 판단된 타선과 선박의 이동 경로 및 미래 이동 경로를 표시하고, 해상 지도 상에서 타선과 선박의 충돌 예상 위치를 표시하고, 타선과 선박의 충돌 예상 위치에 타선과 선박의 충돌 확률 및 충돌 시간을 표시할 수 있다.The display unit 150 displays the movement path of the other ship and the ship determined by the collision prediction unit 130 and the future movement path on the maritime map, and displays the predicted position of collision between the other ship and the ship on the maritime map, and The collision probability and collision time of other ships and ships can be displayed at the predicted position of collision.

전자 항해 감시 장치(100)는 통신 유닛(도시생략)을 더 포함할 수 있다. 통신 유닛은 외부로부터 AIS 정보를 수신할 수 있다. 통신 유닛은 무선 통신 모듈 등으로 구현될 수 있으며, 일 예로, 와이파이 모듈일 수 있다. 다만, 이에 한정되는 것은 아니고, 다양한 무선 통신 모듈로 구현되거나 유선 통신 모듈로 구현될 수도 있다.The electronic navigation monitoring device 100 may further include a communication unit (not shown). The communication unit may receive AIS information from the outside. The communication unit may be implemented as a wireless communication module or the like, and may be, for example, a Wi-Fi module. However, the present invention is not limited thereto, and may be implemented with various wireless communication modules or wired communication modules.

타선 추출부(132)는 통신 유닛에서 수신되는 AIS 정보와 영상 촬영부(110)에서 획득된 영상을 비교하여 AIS 정보에 등록되지 않은 타선을 추출할 수 있다. 또한, 이동 경로 감지부(134)는 AIS 정보에 등록되지 않은 타선의 이동 경로 및 속력을 감지할 수 있으며, 충돌 위험 예측부(136)는 AIS 정보에 등록되지 않은 타선의 이동 경로 및 속력에 기초하여 선박과 AIS 정보에 등록되지 않은 타선의 충돌을 예측할 수 있다.The other line extraction unit 132 may extract other lines not registered in the AIS information by comparing the AIS information received from the communication unit with the image obtained by the image capturing unit 110. In addition, the movement path detection unit 134 can detect the movement path and speed of other ships not registered in AIS information, and the collision risk prediction unit 136 is based on the movement path and speed of other ships not registered in AIS information. Thus, it is possible to predict the collision between the ship and other ships not registered in the AIS information.

AIS 정보에 등록되지 않은 타선의 경우 선박과의 충돌을 예측하기 어려우나, 본 발명의 전자 항해 감시 장치(100)에 의하면 AIS 정보에 등록되지 않은 타선과 선박의 충돌을 예측할 수도 있다. 이에 따라, AIS를 통해 등록된 타선과 선박의 충돌을 방지하고, 본 발명의 전자 항해 감시 장치(100)에 의해 AIS에 등록되지 않은 타선과 선박의 충돌을 방지하여, AIS를 이용한 선박 충돌 방지 시스템을 보완할 수 있다.In the case of other ships not registered in the AIS information, it is difficult to predict the collision with the ship. However, according to the electronic navigation monitoring device 100 of the present invention, it is possible to predict the collision between the ships and other ships not registered in the AIS information. Accordingly, a collision between a ship and another ship registered through AIS is prevented, and a collision between a ship not registered in AIS by the electronic navigation monitoring device 100 of the present invention is prevented, and a ship collision prevention system using AIS Can be supplemented.

도 10은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 정보의 예시도이다. 도 1 및 도 10을 참조하면, 디스플레이부(150)는 도 10과 같은 디스플레이 화면을 표시할 수 있다. 예를 들어, 선박(자선)의 미래 이동 경로를 파란색으로 표시하고, 타선의 미래 이동 경로를 검은색 또는 자주색으로 표시할 수 있다. 타선 중 선박과 충돌 위험이 있는 타선은 자주색으로 표시하고, 충돌 위험이 없는 타선은 검은색으로 표시할 수 있다. 또한, 타선과 선박의 충돌 예상 위치를 빨간색으로 표시하고, 해당 위치에 해당 타선과 선박의 충돌 확률 및 충돌 시간을 표시할 수 있다. 또한, 효율적인 정보 전달을 위하여 식별된 충돌 정보를 영상에 오버레이하여 디스플레이할 수도 있다.10 is an exemplary diagram of information displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. 1 and 10, the display unit 150 may display a display screen as shown in FIG. 10. For example, a future movement path of a ship (ownership) may be displayed in blue, and a future movement path of another ship may be displayed in black or purple. Among other ships, other ships that have a risk of collision with the ship may be marked in purple, and other ships that do not have a risk of collision may be marked in black. In addition, the predicted position of collision between the other ship and the ship may be displayed in red, and the probability of collision between the other ship and the ship and the collision time may be displayed at the corresponding position. In addition, for efficient information transmission, the identified collision information may be overlaid on an image and displayed.

도 11은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 화면의 예시도이다. 도 1 및 도 11을 참조하면, 파노라믹 뷰(Panoramic view) 부분(151)은 영상 촬영부(110)를 360° 회전하여 얻은 파노라믹 영상을 표시한다. 파노라믹 영상은 선박의 방향(Heading) 또는 정북방향 등의 방향을 기준으로 표시될 수 있다.11 is an exemplary view of a screen displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. 1 and 11, a panoramic view portion 151 displays a panoramic image obtained by rotating the image capturing unit 110 by 360°. The panoramic image may be displayed based on a direction such as the heading of the ship or the direction of the forward north.

도 11의 실시예에서, 파노라믹 뷰에는 검출된 물체(152)가 점선으로 표시되고, 예측되는 거리 정보와 AIS 정보가 추가로 표시될 수 있다. 또한, 현재 스캔하고 있는 촬영 영역(Capture Status)(154)을 실시간으로 보여줌에 따라 과거 영상과 현재 영상을 구별할 수 있다. 파노라믹 뷰는 수평선이 영상의 수평과 평행하도록 이미지 스티칭(image stitching) 기술을 이용하여 계측된 영상을 보정하여 보여줄 수 있다. 파노라믹 뷰 상의 마우스, 조이스틱 등에 의해 지시된 부분(153)은 줌 뷰(zoom view) 부분(155)에서 확대되어 표시될 수 있다.In the embodiment of FIG. 11, the detected object 152 is displayed as a dotted line in the panoramic view, and predicted distance information and AIS information may be additionally displayed. In addition, by showing the capture status 154 currently being scanned in real time, a past image and a current image can be distinguished. In the panoramic view, the measured image may be corrected and displayed using an image stitching technique so that the horizontal line is parallel to the horizontal of the image. The portion 153 indicated by a mouse, joystick, or the like on the panoramic view may be enlarged and displayed in the zoom view portion 155.

충돌 예측(Collision Prediction Chart) 부분(156)은 선박의 충돌 정보를 제공할 수 있다. 장애물 검출 정보(157, 158, 159)는 AIS 및 Radar에서 검출한 장애물(타선)과 영상 비전(Vision)을 기반으로 검출한 장애물을 비교하여, 모두 장애물로 검출한 경우와 AIS 및 Radar에서만 검출한 경우, 그리고 영상 비전에서만 검출한 경우를 각각 구분하여 표시될 수 있다.The collision prediction chart part 156 may provide collision information of a ship. Obstacle detection information (157, 158, 159) compares obstacles detected by AIS and Radar (other ships) and obstacles detected based on image vision. Cases and cases detected only in image vision may be displayed separately.

줌 뷰(Zoom view) 부분(155)은 하단의 줌(Zoom) 모드에 따라 촬영 중인 영상, 파노라믹에서 커서가 위치된 부분, 충돌 예측 차트 상의 커서 위치 영상, 검출된 장애물 등을 선택시 선택한 내용에 대해 확대 영상을 표시할 수 있다. 커서 위치를 활용하는 경우에는 마우스 휠 또는 조이스틱 버튼의 기능을 이용하여 줌 된 영상을 보여 줄 수도 있다.The zoom view part 155 is selected when selecting the image being photographed according to the zoom mode at the bottom, the part where the cursor is located in the panorama, the image of the cursor position on the collision prediction chart, and the detected obstacle. You can display an enlarged image of the content. When using the cursor position, zoomed images can be displayed using the function of the mouse wheel or joystick button.

파노라믹 뷰(Panoramic view)와 촬영 뷰(Capture view)는 가시 영상 단독, 열화상 영상 단독, 가시영상에 열화상 영상을 중첩(overlay)한 것 중에 선택이 가능하다. 히스토릭 런(Historic Run) 모드 선정시에는 하단의 타임 슬라이드(Time slide) 바에 따라 과거 영상 정보와 충돌 예측 정보를 불러와서 과거 상황을 확인하는 것도 가능하다. 따라서 과거에 저장된 영상 및 충돌 예측 정보를 확인할 수도 있다.Panoramic view and capture view can be selected from a visible image alone, a thermal image alone, or an overlay of a thermal image on a visible image. When selecting the Historic Run mode, it is also possible to check the past situation by calling the past image information and collision prediction information according to the time slide bar at the bottom. Therefore, it is also possible to check the image and collision prediction information stored in the past.

종래 선박의 충돌을 방지하기 위한 AIS나 Radar를 이용한 선박 충돌 방지 시스템은, AIS에 미등록된 선박의 식별이 어렵거나, 선박의 충돌 예상 위치나 이동 경로 등은 제공하지 못하는 문제가 있었으나, 본 발명의 실시예에 의하면, 선박에 설치되는 영상 촬상부에 의해 선박의 주변에 대한 영상을 획득하고 이에 따라 선박의 충돌을 예측하여 선박 충돌 확률 및 선박 충돌 시간을 제공할 수 있다. 따라서, 본 발명에 따른 전자 항해 감시 장치에 의하면 선박의 충돌을 효과적으로 방지할 수 있으며, 선박의 주변 상황에 대한 정보를 실시간으로 제공할 수 있다. 이상과 같은 본 발명의 다양한 실시 예에 따르면 타선의 이동 경로 및 충돌 예상 위치에 관한 정보를 정확히 제공하고, AIS에 미등록된 타선에 대해서도 충돌 위험을 판단할 수 있으므로, 선박의 충돌을 더욱 효과적으로 방지할 수 있다.Conventional ship collision prevention system using AIS or radar to prevent collision of ships has a problem in that it is difficult to identify ships not registered in AIS, or it is not possible to provide a collision predicted position or movement path of the ship, but the present invention According to an embodiment, an image of the periphery of a ship is acquired by an image pickup unit installed on a ship, and accordingly, a collision of a ship is predicted to provide a ship collision probability and a ship collision time. Accordingly, according to the electronic navigation monitoring device according to the present invention, it is possible to effectively prevent a collision of a ship, and to provide information on the surrounding situation of the ship in real time. According to various embodiments of the present invention as described above, information on the movement path and the predicted position of collision of other ships is accurately provided, and the risk of collision can be determined even for other ships not registered in the AIS, so that the collision of ships can be more effectively prevented. I can.

본 발명의 실시예에 따른 방법 중 적어도 일부는 컴퓨터에서 실행될 수 있는 프로그램으로 작성 가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 컴퓨터로 읽을 수 있는 기록매체는 SRAM(Static RAM), DRAM(Dynamic RAM), SDRAM(Synchronous DRAM) 등과 같은 휘발성 메모리, ROM(Read Only Memory), PROM(Programmable ROM), EPROM(Electrically Programmable ROM), EEPROM(Electrically Erasable and Programmable ROM), 플래시 메모리 장치, PRAM(Phase-change RAM), MRAM(Magnetic RAM), RRAM(Resistive RAM), FRAM(Ferroelectric RAM)과 같은 불휘발성 메모리, 플로피 디스크, 하드 디스크 또는 광학적 판독 매체 예를 들어 시디롬, 디브이디 등과 같은 형태의 저장매체일 수 있으나, 이에 제한되지는 않는다.At least some of the methods according to the embodiments of the present invention may be written in a program that can be executed on a computer, and may be implemented in a general-purpose digital computer that operates the program using a computer-readable recording medium. Computer-readable recording media include volatile memories such as SRAM (Static RAM), DRAM (Dynamic RAM), SDRAM (Synchronous DRAM), Read Only Memory (ROM), Programmable ROM (PROM), Electrically Programmable ROM (EPROM), Nonvolatile memory such as Electrically Erasable and Programmable ROM (EEPROM), flash memory device, phase-change RAM (PRAM), magnetic RAM (MRAM), resistive RAM (RRAM), ferroelectric RAM (FRAM), floppy disk, hard disk, or The optical reading medium may be, for example, a storage medium such as a CD-ROM or a DVD, but is not limited thereto.

이상의 실시예들은 본 발명의 이해를 돕기 위하여 제시된 것으로, 본 발명의 범위를 제한하지 않으며, 이로부터 다양한 변형 가능한 실시예들도 본 발명의 범위에 속하는 것임을 이해하여야 한다. 본 발명의 보호범위는 청구범위의 기술적 사상에 의해 정해져야 할 것이며, 본 발명의 보호범위는 청구범위의 문언적 기재 그 자체로 한정되는 것이 아니라 실질적으로는 기술적 가치가 균등한 범주의 발명까지 미치는 것임을 이해하여야 한다.It should be understood that the above embodiments have been presented to aid the understanding of the present invention, and do not limit the scope of the present invention, and various deformable embodiments are also within the scope of the present invention. The scope of protection of the present invention should be determined by the technical spirit of the claims, and the scope of protection of the present invention is not limited to the literal description of the claims itself, but the technical value extends to the invention of an equal scope. It should be understood that it will be.

10: 가시 영상 20: 열화상 영상
110: 영상 촬영부 112: 가시광 카메라
114: 열화상 카메라 120: 객체 검출부
121: 제1 객체 검출부 122: 제2 객체 검출부
123: 해상 객체 추출부 124: 판단부
125: 분석부 130: 충돌 예측부
132: 타선 추출부 134: 이동 경로 감지부
136: 충돌 위험 예측부 140: 감시 제어부
150: 디스플레이부 160: 안정 제어부
170: 3축 구동부
10: visible image 20: thermal image
110: image capture unit 112: visible light camera
114: thermal imaging camera 120: object detection unit
121: first object detection unit 122: second object detection unit
123: marine object extraction unit 124: determination unit
125: analysis unit 130: collision prediction unit
132: other ship extraction unit 134: moving path detection unit
136: collision risk prediction unit 140: monitoring control unit
150: display unit 160: stability control unit
170: 3-axis drive unit

Claims (10)

선박 주위의 영상을 촬영하는 영상 촬영부; 및
상기 영상에서 해상 물체에 해당하는 객체를 검출하는 객체 검출부를 포함하고,
상기 객체 검출부는,
픽셀 단위로 의미를 찾아내는 의미 분할 기반 딥러닝 모델에 의해 상기 영상으로부터 제1 객체를 검출하는 제1 객체 검출부;
박스형의 물체를 검출하는 영역 기반 물체 검출 딥러닝 모델에 의해 상기 영상으로부터 제2 객체를 검출하는 제2 객체 검출부; 및
상기 제1 객체 및 상기 제2 객체를 기반으로 상기 영상에서 장애물과 의심 물체를 구분하여 판단하는 판단부를 포함하는 전자 항해 감시 장치.
An image photographing unit for photographing images around the ship; And
Including an object detection unit for detecting an object corresponding to the marine object in the image,
The object detection unit,
A first object detection unit that detects a first object from the image by means of a semantic division-based deep learning model that finds meaning in units of pixels;
A second object detection unit detecting a second object from the image by using a region-based object detection deep learning model that detects a box-shaped object; And
Electronic navigation monitoring apparatus comprising a determination unit for determining by classifying an obstacle and a suspicious object in the image based on the first object and the second object.
제1항에 있어서,
상기 판단부는,
상기 제1 객체 및 상기 제2 객체에 공통으로 포함되는 객체를 상기 장애물로 판단하고; 그리고
상기 제1 객체 및 상기 제2 객체 중 어느 하나에만 포함되는 객체를 상기 의심 물체로 판단하는 전자 항해 감시 장치.
The method of claim 1,
The determination unit,
Determining an object commonly included in the first object and the second object as the obstacle; And
An electronic navigation monitoring device that determines an object included in only one of the first object and the second object as the suspicious object.
제1항에 있어서,
상기 영상 촬영부는 가시 영상을 촬영하는 가시광 카메라와, 열화상 영상을 촬영하는 열화상 카메라를 포함하고,
상기 객체 검출부는 상기 가시 영상과 상기 열화상 영상을 결합한 영상에서 상기 제1 객체 및 상기 제2 객체를 검출하도록 구성되는 전자 항해 감시 장치.
The method of claim 1,
The image capturing unit includes a visible light camera for capturing a visible image and a thermal camera for capturing a thermal image,
The object detection unit is configured to detect the first object and the second object in an image obtained by combining the visible image and the thermal image.
제1항에 있어서,
상기 영상 촬영부 및 상기 객체 검출부를 제어하는 감시 제어부를 더 포함하고,
상기 객체 검출부는 상기 의심 물체의 중심 위치 및 크기를 산출하는 분석부를 더 포함하고,
상기 감시 제어부는 상기 의심 물체의 크기를 중심 위치와 크기에 따라 줌 기능을 적용하여 상기 의심 물체에 대한 확대 영상을 생성하도록 상기 영상 촬영부를 제어하고, 상기 확대 영상에서 상기 의심 물체를 추출하여 장애물 여부를 판단하는 전자 항해 감시 장치.
The method of claim 1,
Further comprising a monitoring control unit for controlling the image capturing unit and the object detection unit,
The object detection unit further includes an analysis unit that calculates the center position and size of the suspicious object,
The monitoring control unit controls the image capture unit to generate an enlarged image of the suspect object by applying a zoom function to the size of the suspect object according to a center position and size, and extracts the suspect object from the enlarged image to determine whether there is an obstacle. Electronic navigation monitoring device to determine the.
제1항에 있어서,
상기 영상 촬영부의 촬영 방향을 3축 방향으로 제어하기 위한 3축 구동부; 및
상기 감시 제어부에 의해 지시된 방향 각도를 유지하도록 상기 3축 구동부를 구동하는 안정 제어부를 더 포함하는 전자 항해 감시 장치.
The method of claim 1,
A three-axis driving unit for controlling a photographing direction of the image capturing unit in a three-axis direction; And
Electronic navigation monitoring device further comprising a stability control unit for driving the three-axis driving unit to maintain the direction angle indicated by the monitoring control unit.
제1항에 있어서,
상기 객체 검출부는 상기 영상에서 추출된 객체 중에서 육지 영역 내의 객체를 제외하는 해상 객체 추출부를 더 포함하는 전자 항해 감시 장치.
The method of claim 1,
The object detection unit further comprises a marine object extraction unit excluding objects in the land area from among the objects extracted from the image.
제1항에 있어서,
상기 감시 제어부는, 레이더에 의해 검출된 장애물과 상기 영상으로부터 검출된 장애물을 비교하여, 상기 레이더 및 상기 영상으로부터 모두 장애물로 검출된 경우와 상기 영상에서만 검출된 장애물을 구별하여 표시하는 전자 항해 감시 장치.
The method of claim 1,
The monitoring control unit compares the obstacle detected by the radar with the obstacle detected from the image, and displays a case where both the radar and the image are detected as obstacles and the obstacle detected only in the image. .
제1항에 있어서,
상기 영상을 기반으로 상기 선박의 장애물과의 충돌을 예측하는 충돌 예측부; 및
상기 충돌 예측부의 충돌 예측 결과를 디스플레이하는 디스플레이부를 더 포함하는 전자 항해 감시 장치.
The method of claim 1,
A collision prediction unit for predicting a collision with an obstacle of the ship based on the image; And
Electronic navigation monitoring device further comprising a display unit for displaying the collision prediction result of the collision prediction unit.
제8항에 있어서,
상기 충돌 예측부는,
상기 영상에서 적어도 하나의 타선을 추출하는 타선 추출부;
상기 타선의 이동 경로 및 속력을 감지하는 이동 경로 감지부; 및
상기 타선의 이동 경로 및 속력에 기초하여 상기 선박과 상기 타선의 충돌 위험을 예측하는 충돌 위험 예측부를 포함하는 전자 항해 감시 장치.
The method of claim 8,
The collision prediction unit,
Another line extraction unit for extracting at least one other line from the image;
A movement path detector configured to detect a movement path and speed of the other ship; And
Electronic navigation monitoring apparatus comprising a collision risk prediction unit for predicting the risk of collision between the ship and the other ship based on the moving path and speed of the other ship.
제9항에 있어서,
상기 충돌 위험 예측부는,
상기 타선의 이동 경로 및 속력을 이용하여 상기 타선의 각속도를 산출하고, 상기 타선의 속력 및 각속도를 이용하여 상기 타선의 미래 이동 경로를 예측하고,
상기 타선의 미래 이동 경로와 상기 선박의 미래 이동 경로를 이용하여 상기 타선과 상기 선박의 충돌 확률 및 충돌 시간을 산출하는 전자 항해 감시 장치.
The method of claim 9,
The collision risk prediction unit,
The angular velocity of the other ship is calculated using the moving path and speed of the other ship, and the future movement path of the other ship is predicted using the speed and angular velocity of the other ship,
An electronic navigation monitoring device that calculates a collision probability and a collision time between the other ship and the ship by using the future movement path of the other ship and the future movement path of the ship.
KR1020190142247A 2019-11-08 2019-11-08 Apparatus for electronic surveillance of voyage KR20210055904A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190142247A KR20210055904A (en) 2019-11-08 2019-11-08 Apparatus for electronic surveillance of voyage

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190142247A KR20210055904A (en) 2019-11-08 2019-11-08 Apparatus for electronic surveillance of voyage

Publications (1)

Publication Number Publication Date
KR20210055904A true KR20210055904A (en) 2021-05-18

Family

ID=76158629

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190142247A KR20210055904A (en) 2019-11-08 2019-11-08 Apparatus for electronic surveillance of voyage

Country Status (1)

Country Link
KR (1) KR20210055904A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102340184B1 (en) * 2021-08-23 2021-12-17 한화시스템 주식회사 Apparatus and method for tracking a manual target using AI learning technique in the console terminal
KR102406600B1 (en) * 2021-12-23 2022-06-13 국방과학연구소 Method of photorealistic image transformation for marine images, apparatus for photorealistic image transformation for marine images, and computer program for the method

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102340184B1 (en) * 2021-08-23 2021-12-17 한화시스템 주식회사 Apparatus and method for tracking a manual target using AI learning technique in the console terminal
KR102406600B1 (en) * 2021-12-23 2022-06-13 국방과학연구소 Method of photorealistic image transformation for marine images, apparatus for photorealistic image transformation for marine images, and computer program for the method

Similar Documents

Publication Publication Date Title
KR102566724B1 (en) Harbor monitoring device and harbor monitoring method
US10878584B2 (en) System for tracking object, and camera assembly therefor
KR102623124B1 (en) Device and method for monitoring a berthing
US11900668B2 (en) System and method for identifying an object in water
EP1981278B1 (en) Automatic tracking device and automatic tracking method
JP6932487B2 (en) Mobile monitoring device
US20180114067A1 (en) Apparatus and method for extracting objects in view point of moving vehicle
JP5054612B2 (en) Approaching object detection device and approaching object detection method
EP4089660A1 (en) Method and device for monitoring port and ship in consideration of sea level
KR101666466B1 (en) Marine risk management system and marine risk management method using marine object distance measuring system with monocular camera
CN114359714A (en) Unmanned body obstacle avoidance method and device based on event camera and intelligent unmanned body
KR20210055904A (en) Apparatus for electronic surveillance of voyage
US10343603B2 (en) Image processing device and image processing method
KR20210001308A (en) Apparatus for preventing collision of vessels
US10549853B2 (en) Apparatus, system, and method for determining an object's location in image video data
CN112639405A (en) State information determination method, device, system, movable platform and storage medium
US20190156512A1 (en) Estimation method, estimation apparatus, and non-transitory computer-readable storage medium
KR102661363B1 (en) Device and method for monitoring a berthing
JP2021103410A (en) Mobile body and imaging system
KR102661171B1 (en) System for predicting degree of collision risk and guiding safe voyage route through fusing navigation sensor inside ship and image information
KR102658233B1 (en) Harbor monitoring device and harbor monitoring method
WO2023070667A1 (en) Movable platform, method and apparatus for processing data of movable platform, and terminal device
KR20240057388A (en) Harbor monitoring device and harbor monitoring method
JPH06273170A (en) Obstacle detector for vehicle
CN105785990A (en) Ship parking system based on panoramic viewing and barrier identification method

Legal Events

Date Code Title Description
E902 Notification of reason for refusal