KR20210055904A - Apparatus for electronic surveillance of voyage - Google Patents
Apparatus for electronic surveillance of voyage Download PDFInfo
- Publication number
- KR20210055904A KR20210055904A KR1020190142247A KR20190142247A KR20210055904A KR 20210055904 A KR20210055904 A KR 20210055904A KR 1020190142247 A KR1020190142247 A KR 1020190142247A KR 20190142247 A KR20190142247 A KR 20190142247A KR 20210055904 A KR20210055904 A KR 20210055904A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- ship
- unit
- collision
- obstacle
- Prior art date
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B63—SHIPS OR OTHER WATERBORNE VESSELS; RELATED EQUIPMENT
- B63B—SHIPS OR OTHER WATERBORNE VESSELS; EQUIPMENT FOR SHIPPING
- B63B43/00—Improving safety of vessels, e.g. damage control, not otherwise provided for
- B63B43/18—Improving safety of vessels, e.g. damage control, not otherwise provided for preventing collision or grounding; reducing collision damage
- B63B43/20—Feelers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/937—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of marine craft
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H04N5/23299—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Abstract
Description
본 발명은 전자 항해 감시 장치에 관한 것으로, 보다 상세하게는 선박 주변을 촬상한 영상을 이용하여 선박 주위의 장애물과 의심 물체를 구분하여 검출할 수 있고 선박 충돌 위험을 정확하게 판단할 수 있는 전자 항해 감시 장치에 관한 것이다.The present invention relates to an electronic navigation monitoring device, and more particularly, an electronic navigation monitoring capable of distinguishing and detecting an obstacle and a suspicious object around the vessel using an image captured around the vessel and accurately determining the risk of a vessel collision. It relates to the device.
선박이 운항할 경우, 충돌사고에 대비하여 항해사는 견시 업무를 수행하며, 레이더와 전자해도 장비를 통해 지원을 받고 있다. 그러나 충돌상황을 초기에 식별하고 회피기동을 수행하기까지 수동으로 많은 항해 장비를 일일이 확인하고, 위험상황 시 신속하게 대응하는 데 많은 시간이 소요된다. 선박 충돌사고를 사전에 예방하기 위해 선박 주위의 수십 척의 선박과의 충돌상황을 효과적으로 단시간에 식별할 수 있도록 지원해주는 시스템이 필요하다.In the case of a ship's operation, the navigator performs the watch-to-see service in preparation for a crash accident, and is supported by radar and electronic chart equipment. However, it takes a lot of time to manually check a number of navigational equipment and quickly respond to a dangerous situation until the collision situation is initially identified and the evasion maneuver is performed. In order to prevent ship collision accidents in advance, there is a need for a system that supports effective identification of collision situations with dozens of ships around the ship in a short time.
종래에는 AIS(Automatic Identification System)나 Radar를 이용하여 선박의 충돌을 방지하는 시스템이 있었으나, 종래의 선박 충돌 방지 시스템은 AIS에 등록되지 않은 선박에 대해서는 감지하지 못하거나 미등록 선박을 감지하더라도 선박의 예상 충돌 위치, 타선의 이동 경로 등을 제공하지 못하여 항해사가 배경지식과 경험을 통해 선박의 충돌 위험을 판단하는 문제가 있었다.Conventionally, there has been a system that prevents a ship from colliding using an AIS (Automatic Identification System) or a radar, but the conventional ship collision avoidance system does not detect ships that are not registered in AIS, or even if it detects unregistered ships, the ship's predictions There is a problem in that the navigator judges the risk of a collision of the ship through background knowledge and experience because the location of the collision and the path of movement of other ships could not be provided.
본 발명은 선박 주변을 촬상한 영상을 이용하여 선박 주위의 장애물과 의심 물체를 구분하여 검출할 수 있고 선박 충돌 위험을 정확하게 판단할 수 있는 전자 항해 감시 장치를 제공하기 위한 것이다.An object of the present invention is to provide an electronic navigation monitoring device capable of distinguishing and detecting an obstacle and a suspicious object around a ship by using an image captured around a ship and accurately determining the risk of a ship collision.
본 발명이 해결하고자 하는 과제는 이상에서 언급된 과제로 제한되지 않는다. 언급되지 않은 다른 기술적 과제들은 이하의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The problem to be solved by the present invention is not limited to the problems mentioned above. Other technical problems not mentioned will be clearly understood by those of ordinary skill in the art from the following description.
본 발명의 실시예에 따른 전자 항해 감시 장치는 선박 주위의 영상을 촬영하는 영상 촬영부; 및 상기 영상에서 해상 물체에 해당하는 객체를 검출하는 객체 검출부를 포함한다. 상기 객체 검출부는, 픽셀 단위로 의미를 찾아내는 의미 분할 기반 딥러닝 모델에 의해 상기 영상으로부터 제1 객체를 검출하는 제1 객체 검출부; 박스형의 물체를 검출하는 영역 기반 물체 검출 딥러닝 모델에 의해 상기 영상으로부터 제2 객체를 검출하는 제2 객체 검출부; 및 상기 제1 객체 및 상기 제2 객체를 기반으로 상기 영상에서 장애물과 의심 물체를 구분하여 판단하는 판단부를 포함한다.An electronic navigation monitoring device according to an embodiment of the present invention includes an image photographing unit for photographing an image around a ship; And an object detection unit that detects an object corresponding to a marine object in the image. The object detector may include: a first object detector configured to detect a first object from the image by means of a semantic division-based deep learning model that finds a meaning in a pixel unit; A second object detection unit detecting a second object from the image by using a region-based object detection deep learning model that detects a box-shaped object; And a determination unit that distinguishes and determines an obstacle and a suspicious object in the image based on the first object and the second object.
상기 판단부는, 상기 제1 객체 및 상기 제2 객체에 공통으로 포함되는 객체를 상기 장애물로 판단하고; 그리고 상기 제1 객체 및 상기 제2 객체 중 어느 하나에만 포함되는 객체를 상기 의심 물체로 판단할 수 있다.The determining unit determines an object commonly included in the first object and the second object as the obstacle; In addition, an object included in only one of the first object and the second object may be determined as the suspicious object.
상기 영상 촬영부는 가시 영상을 촬영하는 가시광 카메라와, 열화상 영상을 촬영하는 열화상 카메라를 포함할 수 있다. 상기 객체 검출부는 상기 가시 영상과 상기 열화상 영상을 결합한 영상에서 상기 제1 객체 및 상기 제2 객체를 검출하도록 구성될 수 있다.The image capturing unit may include a visible light camera for capturing a visible image and a thermal camera for capturing a thermal image. The object detector may be configured to detect the first object and the second object from an image obtained by combining the visible image and the thermal image.
본 발명의 실시예에 따른 전자 항해 감시 장치는 상기 영상 촬영부 및 상기 객체 검출부를 제어하는 감시 제어부를 더 포함할 수 있다. 상기 객체 검출부는 상기 의심 물체의 중심 위치 및 크기를 산출하는 분석부를 더 포함할 수 있다.The electronic navigation monitoring apparatus according to an embodiment of the present invention may further include a monitoring control unit for controlling the image photographing unit and the object detection unit. The object detection unit may further include an analysis unit that calculates the center position and size of the suspicious object.
상기 감시 제어부는 상기 의심 물체의 크기를 중심 위치와 크기에 따라 줌 기능을 적용하여 상기 의심 물체에 대한 확대 영상을 생성하도록 상기 영상 촬영부를 제어하고, 상기 확대 영상에서 상기 의심 물체를 추출하여 장애물 여부를 판단할 수 있다.The monitoring control unit controls the image capture unit to generate an enlarged image of the suspect object by applying a zoom function to the size of the suspect object according to a center position and size, and extracts the suspect object from the enlarged image to determine whether there is an obstacle. Can be judged.
본 발명의 실시예에 따른 전자 항해 감시 장치는 상기 영상 촬영부의 촬영 방향을 3축 방향으로 제어하기 위한 3축 구동부; 및 상기 감시 제어부에 의해 지시된 방향 각도를 유지하도록 상기 3축 구동부를 구동하는 안정 제어부를 더 포함할 수 있다.Electronic navigation monitoring device according to an embodiment of the present invention includes a three-axis driving unit for controlling the photographing direction of the image photographing unit in the three-axis direction; And a stability control unit driving the three-axis drive unit to maintain the direction angle indicated by the monitoring control unit.
상기 객체 검출부는 상기 영상에서 추출된 객체 중에서 육지 영역 내의 객체를 제외하는 해상 객체 추출부를 더 포함할 수 있다.The object detection unit may further include a marine object extraction unit excluding an object within a land area from among the objects extracted from the image.
상기 감시 제어부는, 레이더에 의해 검출된 장애물과 상기 영상으로부터 검출된 장애물을 비교하여, 상기 레이더 및 상기 영상으로부터 모두 장애물로 검출된 경우와 상기 영상에서만 검출된 장애물을 구별하여 표시할 수 있다.The monitoring control unit may compare an obstacle detected by a radar with an obstacle detected from the image, and display a case where both the radar and the image are detected as obstacles and an obstacle detected only in the image.
본 발명의 실시예에 따른 전자 항해 감시 장치는, 상기 영상을 기반으로 상기 선박의 장애물과의 충돌을 예측하는 충돌 예측부; 및 상기 충돌 예측부의 충돌 예측 결과를 디스플레이하는 디스플레이부를 더 포함할 수 있다.An electronic navigation monitoring apparatus according to an embodiment of the present invention includes: a collision prediction unit for predicting a collision with an obstacle of the ship based on the image; And a display unit that displays a collision prediction result of the collision prediction unit.
상기 충돌 예측부는, 상기 영상에서 적어도 하나의 타선을 추출하는 타선 추출부; 상기 타선의 이동 경로 및 속력을 감지하는 이동 경로 감지부; 및 상기 타선의 이동 경로 및 속력에 기초하여 상기 선박과 상기 타선의 충돌 위험을 예측하는 충돌 위험 예측부를 포함할 수 있다.The collision prediction unit may include a second line extraction unit for extracting at least one other line from the image; A movement path detector configured to detect a movement path and speed of the other ship; And a collision risk prediction unit predicting a collision risk between the ship and the other ship based on the moving path and speed of the other ship.
상기 충돌 위험 예측부는, 상기 타선의 이동 경로 및 속력을 이용하여 상기 타선의 각속도를 산출하고, 상기 타선의 속력 및 각속도를 이용하여 상기 타선의 미래 이동 경로를 예측하고, 상기 타선의 미래 이동 경로와 상기 선박의 미래 이동 경로를 이용하여 상기 타선과 상기 선박의 충돌 확률 및 충돌 시간을 산출할 수 있다.The collision risk prediction unit calculates the angular velocity of the other ship using the moving path and speed of the other ship, predicts the future movement path of the other ship using the speed and angular speed of the other ship, and The collision probability and collision time between the other ship and the ship may be calculated by using the future movement path of the ship.
본 발명의 실시예에 의하면, 선박 주변을 촬상한 영상을 이용하여 선박 주위의 장애물과 의심 물체를 구분하여 검출할 수 있고 선박 충돌 위험을 정확하게 판단할 수 있는 전자 항해 감시 장치가 제공된다.According to an embodiment of the present invention, there is provided an electronic navigation monitoring device capable of distinguishing and detecting an obstacle and a suspicious object around a ship using an image captured around a ship, and accurately determining the risk of a ship collision.
본 발명의 효과는 상술한 효과들로 제한되지 않는다. 언급되지 않은 효과들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.The effects of the present invention are not limited to the above-described effects. Effects not mentioned will be clearly understood by those of ordinary skill in the art from the present specification and the accompanying drawings.
도 1은 본 발명의 실시예에 따른 전자 항해 감시 장치의 구성도이다.
도 2는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 영상 촬영부의 예시도이다.
도 3은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 구성도이다.
도 4는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 기능을 설명하기 위한 개념도이다.
도 5는 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작 순서도이다.
도 6 내지 도 8은 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작을 설명하기 위한 예시도이다.
도 9는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 충돌 예측부의 구성도이다.
도 10은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 정보의 예시도이다.
도 11은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 화면의 예시도이다.1 is a block diagram of an electronic navigation monitoring device according to an embodiment of the present invention.
2 is an exemplary view of an image photographing unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
3 is a block diagram of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
4 is a conceptual diagram illustrating a function of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
5 is a flowchart illustrating an operation of an electronic navigation monitoring device according to an embodiment of the present invention.
6 to 8 are exemplary views for explaining the operation of the electronic navigation monitoring device according to an embodiment of the present invention.
9 is a block diagram of a collision prediction unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
10 is an exemplary diagram of information displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
11 is an exemplary view of a screen displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
본 발명의 다른 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술하는 실시예를 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되지 않으며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 만일 정의되지 않더라도, 여기서 사용되는 모든 용어들(기술 혹은 과학 용어들을 포함)은 이 발명이 속한 종래 기술에서 보편적 기술에 의해 일반적으로 수용되는 것과 동일한 의미를 갖는다. 공지된 구성에 대한 일반적인 설명은 본 발명의 요지를 흐리지 않기 위해 생략될 수 있다.Other advantages and features of the present invention, and a method of achieving them will become apparent with reference to the embodiments to be described later in detail together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, and the present invention is only defined by the scope of the claims. Even if not defined, all terms (including technical or scientific terms) used herein have the same meaning as commonly accepted by universal technology in the prior art to which this invention belongs. A general description of known configurations may be omitted so as not to obscure the subject matter of the present invention.
도 1은 본 발명의 실시예에 따른 전자 항해 감시 장치의 구성도이다. 도 1을 참조하면, 본 발명의 실시예에 따른 전자 항해 감시 장치(100)는 영상 촬영부(110), 객체 검출부(120), 충돌 예측부(130), 감시 제어부(140), 디스플레이부(150), 안정 제어부(160) 및 3축 구동부(170)를 포함할 수 있다.1 is a block diagram of an electronic navigation monitoring device according to an embodiment of the present invention. Referring to FIG. 1, an electronic
도 2는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 영상 촬영부의 예시도이다. 도 1 및 도 2를 참조하면, 영상 촬영부(110)는 선박에 설치되어 선박의 전방, 측방 및 후방 등에서 선박 주위의 영상을 촬영할 수 있다.2 is an exemplary view of an image photographing unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. Referring to FIGS. 1 and 2, the
영상 촬영부(110)는 선박의 전방, 측방, 후방에 각각 설치되는 3개 이상의 카메라로 제공되거나, 선박의 전방, 측방, 후방 중 하나 또는 둘 이상의 방향에 구비되는 하나 또는 두 개 이상의 광각 카메라로 제공될 수 있다. 영상 촬영부(110)는 선박의 특정 위치에 구비되는 하나의 360° 카메라 또는 VR 카메라 등으로 제공될 수도 있다.The
영상 촬영부(110)는 가시 영상을 촬영하는 가시광 카메라(Visual Camera)(112)와, 열화상 영상을 촬영하는 열화상 카메라(Thermal Camera)(114)를 포함할 수 있다. 일 예로, 가시광 카메라(112)는 CMOS(Complementary Metal Oxide Semiconductor) 카메라 또는 CCD(Charge Coupled Device) 카메라 등일 수 있다.The
도 3은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 구성도이다. 도 4는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 객체 검출부의 기능을 설명하기 위한 개념도이다.3 is a block diagram of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. 4 is a conceptual diagram illustrating a function of an object detection unit constituting an electronic navigation monitoring device according to an embodiment of the present invention.
도 1, 도 3 및 도 4를 참조하면, 객체 검출부(120)는 영상 촬영부(110)에 의해 촬영된 영상에서 해상 물체에 해당하는 객체를 검출할 수 있다. 객체 검출부(120)는 제1 객체 검출부(121), 제2 객체 검출부(122), 해상 객체 추출부(123), 판단부(124) 및 분석부(125)를 포함할 수 있다.1, 3, and 4, the
제1 객체 검출부(121)는 픽셀(pixel) 단위로 의미를 찾아내는 의미 분할(Semantic Segmentation) 기반 딥러닝 모델(예를 들어, SEGNET)에 의해 영상으로부터 제1 객체를 검출할 수 있다. 제1 객체 검출부(121)는 가시 영상(10)과 열화상 영상(20)을 결합한 영상에서 제1 객체들을 검출할 수 있다.The
제2 객체 검출부(122)는 특정 위치, 크기의 박스에 해당하는 박스형의 물체를 검출하는 영역 기반 물체 검출(Region based Object Detection) 딥러닝 모델(예를 들어, YOLO)에 의해 영상으로부터 제2 객체를 검출할 수 있다. 제2 객체 검출부(122)는 가시 영상(10)과 열화상 영상(20)을 결합한 영상에서 제2 객체들을 검출할 수 있다.The second
실시예에서, 야간에도 해상 물체를 정확하게 감지할 수 있도록, 3개의 2D 가시 영상과 2D 열화상 영상을 결합한 이미지를 이용하여 해상 객체들을 검출할 수 있다. 해상 객체 추출부(123)는 영상에서 추출된 객체들 중에서 육지 영역 내의 객체들을 제외하여 해상 객체들을 추출할 수 있다.In an embodiment, in order to accurately detect marine objects even at night, marine objects may be detected using an image that is a combination of three 2D visible images and 2D thermal images. The marine
판단부(124)는 제1 객체 검출부(121)에 의해 검출된 제1 객체들(30) 및 제2 객체 검출부(122)에 의해 검출된 제2 객체들(40)을 기반으로 영상에서 장애물(Obstacle)과 의심 물체(Suspect Object)를 구분하여 판단할 수 있다.The
판단부(124)는 제1 객체 검출부(121)에 의해 검출된 제1 객체들(30) 및 제2 객체 검출부(122)에 의해 검출된 제2 객체들(40)에 공통으로 포함되는 객체를 장애물(50)로 판단할 수 있다.The
판단부(124)는 제1 객체 및 상기 제2 객체 중 어느 하나에만 포함되는 객체를 의심 물체(60)로 판단할 수 있다. 분석부(125)는 의심 물체(60)의 중심 위치 및 크기를 산출할 수 있다.The
즉, 판단부(124)는 제1 객체 검출부(121)에 의해 검출된 제1 객체들과 제2 객체 검출부(122)에 의해 검출된 제2 객체들의 교집합에 해당하는 영역을 통해 장애물을 검출하고, 의미 분할 기반 물체 검출과 영역 기반 물체 검출의 두 검출 기법이 공통으로 해상 물체라고 판단하지는 않더라도 의미 분할 기반 물체 검출과 영역 기반 물체 검출 중 어느 하나에 의해 장애물로 검출된 영역을 의심 물체로 검출할 수 있다.That is, the
감시 제어부(140)는 감시 상황을 디스플레이부(150)에 표시하고, 사용자의 지령을 입력받는 기능을 수행하고, 해상 감시를 위해 영상 촬영부(110) 및 객체 검출부(120)를 제어할 수 있다.The
감시 제어부(140)는 객체 검출부(120)에 의해 검출된 의심 물체의 중심 위치와 크기에 따라 줌 기능을 적용하여 의심 물체에 대한 확대 영상을 생성하도록 영상 촬영부(110)를 제어할 수 있다. 감시 제어부(140)는 확대 영상에서 의심 물체를 추출하여 장애물 여부를 정확하게 판단할 수 있다.The
3축 구동부(170)는 영상 촬영부(110)의 촬영 방향을 3축 방향으로 제어할 수 있다. 3축 구동부(170)는 적어도 3개의 모터를 포함할 수 있다. 안정 제어부(160)는 감시 제어부(140)에 의해 지시된 방향 각도를 유지하도록 3축 구동부를 구동할 수 있다.The three-
안정 제어부(160)는 하나 이상의 관성 측정 유닛(Inertial Measurement Unit)을 구비할 수 있으며, 3축 구동부(170)를 제어하여 선박 운동 발생시에도 수평선이나 특정 물체를 흔들림 없이 영상을 획득하도록 할 수 있다.The
안정 제어부(160)는 영상 촬영부(110)의 움직임 최소화를 위해 카메라에 장착된 관성 측정 유닛(IMU)으로부터 현재의 각속도를 읽어서 감시 제어부에서 지시한 고정 좌표계 상의 특정 방향 각도가 유지되도록 영상 촬영부(110)의 방향을 제어할 수 있다.The
감시 제어부(140)는 레이더에 의해 검출된 장애물과 영상으로부터 검출된 장애물을 비교하여, 레이더 및 상기 영상으로부터 모두 장애물로 검출된 경우와 영상에서만 검출된 장애물을 구별하여 디스플레이부(150)에 표시할 수 있다.The
충돌 예측부(130)는 영상 촬영부(110)에 의해 촬영된 영상을 기반으로 선박의 장애물과의 충돌을 예측할 수 있다. 디스플레이부(150)는 충돌 예측부(130)의 충돌 예측 결과를 디스플레이할 수 있다.The
도 5는 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작 순서도이다. 도 6 내지 도 8은 본 발명의 실시예에 따른 전자 항해 감시 장치의 동작을 설명하기 위한 예시도이다. 5 is a flowchart illustrating an operation of an electronic navigation monitoring device according to an embodiment of the present invention. 6 to 8 are exemplary views for explaining the operation of the electronic navigation monitoring device according to an embodiment of the present invention.
도 1, 도 5 내지 도 8을 참조하면, 감시 제어부(140)는 의심 물체에 관련된 불확실한 정보를 확인하기 위해 영상 촬영부(110)의 줌 기능을 이용하여 다시 검체 검출을 수행하도록 객체 검출부(120)를 제어할 수 있다.1, 5 to 8, the
실시예에서, 감시 제어부(140)에서 감시 기능을 명령하면, 영상 촬영부(110)의 파노라믹 스캔(Panoramic Scan)에 의해 순방향으로 수평선을 따라 전방위 영상을 획득하여 1차적으로 장애물들(O1, O2)과 의심 물체들(SO1, SO2, SO3)을 검출한다(S10, S20).In an embodiment, when a monitoring function is commanded by the
이후 영상 촬영부(110)의 스캔 방향을 전환하여 역방향으로 돌아올 때는 의심 물체(S01, S02, S03)의 중심과 의심 물체의 크기를 기준으로 영상 촬영부(110)의 카메라 줌 기능을 활용하여 보다 큰 확대 영상을 통해 추가로 장애물(O3)을 감지할 수 있다(S30, S40, S50).Thereafter, when the scan direction of the
장애물 정보는 향후 충돌 예측 시스템에서 장애물일 확률을 100%로 적용하고, 의심 물체는 장애물일 확률을 100% 미만의 값으로 설정할 수 있다. 본 발명의 실시예에 의하면 장애물 뿐 아니라 의심 물체도 선박의 충돌 예측에 활용할 수 있다.As for the obstacle information, a probability of an obstacle in a future collision prediction system may be applied as 100%, and a probability of a suspicious object being an obstacle may be set to a value less than 100%. According to an embodiment of the present invention, not only an obstacle but also a suspicious object can be utilized for predicting a collision of a ship.
본 발명의 실시예에 의하면, 가시적인 해상 상황에 대한 정보를 제공하여, 안전성을 향상하고 선박 운영 비용을 절감할 수 있으며, 관측자의 의존도를 낮추어 인적 오류에 의한 사고를 방지할 수 있다.According to an embodiment of the present invention, by providing information on visible maritime conditions, it is possible to improve safety and reduce ship operating costs, and to reduce the dependence of observers to prevent accidents due to human error.
또한, 본 발명의 실시예에 의하면, 각종 항통 장비(Inertial Navigation System, AIS, Radar)에서 제공하는 정보와 함께, 전방향으로 선박 주변 상황에 대한 현재 및 과거 가시 및 열화상 정보와 충돌 예측 정보를 제공할 수 있다.In addition, according to an embodiment of the present invention, information provided by various navigation equipment (Inertial Navigation System, AIS, Radar), as well as current and past visible and thermal image information and collision prediction information about the situation around the ship in all directions. Can provide.
도 9는 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 충돌 예측부의 구성도이다. 도 1 및 도 9를 참조하면, 충돌 예측부(130)는 타선 추출부(132), 이동 경로 감지부(134) 및 충돌 위험 예측부(136)를 포함할 수 있다.9 is a block diagram of a collision prediction unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. Referring to FIGS. 1 and 9, the
타선 추출부(132)는 영상 촬영부(110)에 의해 획득된 영상에서 적어도 하나의 타선(장애물 또는 의심 물체)을 추출할 수 있다.The other
이동 경로 감지부(134)는 영상에서 추출된 타선의 이동 경로 및 속력을 감지할 수 있다. 실시예에서, 이동 경로 감지부(134)는 Kanade-Lucas-Tomasi 알고리즘 등으로 구현될 수 있다.The movement
충돌 위험 예측부(136)는 타선의 이동 경로 및 속력에 기초하여 선박과 타선의 충돌 위험을 예측할 수 있다.The collision
구체적으로, 충돌 위험 예측부(136)는 타선의 이동 경로 및 속력을 이용하여 타선의 각속도를 산출하고, 타선의 속력 및 각속도를 이용하여 타선의 미래 이동 경로를 예측할 수 있다.Specifically, the collision
또한, 충돌 위험 예측부(136)는 선박(자선)의 이동 경로 및 속력을 이용하여 선박의 각속도를 산출하고, 선박의 속력 및 각속도를 이용하여 선박의 미래 이동 경로를 예측할 수 있다.In addition, the collision
충돌 위험 예측부(136)는 예측된 타선의 미래 이동 경로와 선박의 미래 이동 경로를 이용하여 타선과 선박의 충돌 확률 및 충돌 시간을 산출할 수 있다. 이 경우, 충돌 위험 예측부(136)는 타선과 선박의 충돌 시간이 늦어질수록 타선과 선박의 충돌 확률이 낮아지는 것으로 판단할 수 있다.The collision
본 발명의 실시 예에 의하면, 라이다 센서(Radar Sensor)에서 선별된 선박에 관한 정보를 이용하여 선박의 충돌을 예측할 수 있으며, 선박의 관성 항법 장치를 통해서 획득되는 Roll, Pith, Yaw 정보를 이용하여 선박의 기울어진 상태를 검출할 수 있다.According to an embodiment of the present invention, a collision of a ship can be predicted using information on a ship selected by a radar sensor, and roll, pith, and yaw information obtained through the ship's inertial navigation device is used. Thus, it is possible to detect the inclined state of the ship.
또한, 본 발명의 실시예에 의하면, 영상 촬영부(110)에 의해 획득되는 영상을 기반으로 물체 탐지(Object Detection) 또는 의미 분할(Semantic Segmentation) 기술을 이용하여 장애물 및 의심 물체를 검출하고, 그 위치 및 크기를 Feature 기반 탐지 기술(SIFT, SURF, HOG, Ferns, LBP 등)을 활용하여 검출할 수 있다.In addition, according to an embodiment of the present invention, an obstacle and a suspicious object are detected using an object detection or semantic segmentation technology based on an image acquired by the
또한, 영상에서 식별된 타선들의 상태 변화를 판단하기 위하여 물체 추적 기술이 이용될 수 있다. 물체 추적 기술은 Kanade-Lucas-Tomasi 방법 등의 알고리즘이 이용될 수 있다. 일 예로, 영상에서 검출된 타선들과 이전 영상에서 검출된 타선들의 영상 유사도를 검출하여 가장 유사도가 높은 타선을 대응시킬 수 있고, 다수의 영상을 이용하면 특정 타선이 시간에 따라 어떻게 이동하였는지에 대한 정보를 획득할 수 있다. 또한, 특정 시점에는 검출되지 않은 타선이 이전 또는 이후 영상에 존재하여 위치 이동에 단절이 발생하는 경우를 예방하기 위하여 타선의 위치를 추정하는 Kalman Filter 기술이 활용될 수 있다. 이와 같이, 영상에서 추출되는 타선들의 추적 정보는 미래 경로를 예측하는데 이용될 수 있다. 구체적으로, 타선은 전방으로 이동하거나 좌현, 우현으로 이동하는 경우만 존재하는 것으로 가정하고, 타선의 미래 이동 경로는 과거의 속력, 각속력을 기준으로 직선 또는 호의 형태로 이동한다고 가정하여, 타선의 과거 이동 경로를 통해 미래 이동 경로를 예측할 수 있다.In addition, object tracking technology may be used to determine the state change of other ships identified in the image. As the object tracking technology, an algorithm such as the Kanade-Lucas-Tomasi method may be used. For example, by detecting image similarity between other lines detected in an image and other lines detected in a previous image, the other line with the highest similarity can be associated. If multiple images are used, information on how a specific other line has moved over time. Can be obtained. In addition, in order to prevent a case where the other line that has not been detected at a specific time point exists in the image before or after the position movement is interrupted, a Kalman filter technique that estimates the location of the other line may be used. In this way, tracking information of other ships extracted from the image may be used to predict a future path. Specifically, the other ship is assumed to exist only when it moves forward or moves to the port or starboard. The future travel path can be predicted through the past travel path.
또한, 추정된 타선의 위치는 불확실성을 내재하고 있으며, 시간이 지남에 따라 이러한 불확실성은 크기가 커질 수 있다. 구체적으로, 불확실성은 타선의 속력이 높을 경우 추정된 타선의 위치보다 타선의 진행 방향으로 더 앞쪽에 위치하고, 타선의 속력이 낮을 경우 추정된 타선의 위치보다 타선의 진행 방향으로 더 뒤쪽에 위치할 수 있다. 또한, 불확실성은 타선의 각속력에 따라 추정된 타선의 위치의 좌측 또는 우측에 위치할 수 있다. 타선의 위치 추정시 불확실성에 따른 모든 위치를 고려하는 경우 계산량이 많아져서 처리 속도가 느려질 수 있으므로, 근사 함수로 대치하여 처리할 수도 있다. 또한, 타선의 예상 위치에 대한 확률은 추정된 위치에서 100%를 가지고 추정된 위치에서 멀어질수록 작아질 수 있다. 타선의 위치 추정은 시간이 지남에 따라 불확실성이 커지므로, 현 시점에서 멀어질수록 표준편차가 커질 수 있다.In addition, the estimated location of other ships has inherent uncertainty, and this uncertainty may increase in magnitude over time. Specifically, if the speed of the other ship is high, it may be located further forward in the direction of the other ship's travel than the estimated position of the other ship, and if the speed of the other ship is low, it may be located further in the direction of travel of the other ship than the estimated position of the other ship have. In addition, the uncertainty may be located to the left or right of the estimated position of the other ship according to the angular speed of the other ship. When all positions due to uncertainty are considered when estimating the position of other ships, the processing speed may be slowed due to a large amount of calculation, and thus the processing may be replaced with an approximation function. In addition, the probability of the predicted position of the other ship may have 100% from the estimated position and may decrease as the distance from the estimated position increases. Since the uncertainty increases over time in estimating the location of other ships, the standard deviation may increase as the distance from the current point increases.
이러한 시간에 따른 타선들의 위치 분포와 자선의 위치 분포를 활용하여 충돌 확률을 산출할 수 있다. 구체적으로, 특정 시점에서 각 타선의 위치 분포와 자선의 위치 분포를 곱한 결과의 최대값이 해당 시점의 충돌 확률일 수 있다. 또한, 각 타선의 시간에 따른 충돌 확률 중 가장 큰 값을 그 타선의 충돌 확률로 설정할 수 있다. 또한, 모든 타선들에 대해 충돌 확률이 큰 순서대로 정렬하면 현재 시점에서 자선 및 타선의 속력 및 각속력을 기반으로 예상 충돌 사항을 우선 순위화할 수 있다.The collision probability can be calculated by using the position distribution of the other ships and the position distribution of the own ship over time. Specifically, a maximum value of a result of multiplying the position distribution of each other ship and the position distribution of the own ship at a specific time point may be a collision probability at the time point. In addition, the largest value among the collision probability of each other ship according to time may be set as the collision probability of the other ship. In addition, if all other ships are arranged in the order of the high collision probability, the expected collisions can be prioritized based on the speeds and angular speeds of the own ship and other ships at the current point in time.
디스플레이부(150)는 충돌 예측부(130)의 판단 결과를 디스플레이할 수 있다. 일 예로, 디스플레이부(150)는 선박에 설치되는 LCD 모니터 등으로 구현되어 충돌 예측부(130)에서 판단되는 타선과 선박의 충돌 확률 및 충돌 시간 등을 디스플레이할 수 있다. 또한, 디스플레이부(150)은 선박의 주변 환경이 표시된 해상 지도를 디스플레이할 수 있다.The
디스플레이부(150)는 해상 지도 상에 충돌 예측부(130)에서 판단된 타선과 선박의 이동 경로 및 미래 이동 경로를 표시하고, 해상 지도 상에서 타선과 선박의 충돌 예상 위치를 표시하고, 타선과 선박의 충돌 예상 위치에 타선과 선박의 충돌 확률 및 충돌 시간을 표시할 수 있다.The
전자 항해 감시 장치(100)는 통신 유닛(도시생략)을 더 포함할 수 있다. 통신 유닛은 외부로부터 AIS 정보를 수신할 수 있다. 통신 유닛은 무선 통신 모듈 등으로 구현될 수 있으며, 일 예로, 와이파이 모듈일 수 있다. 다만, 이에 한정되는 것은 아니고, 다양한 무선 통신 모듈로 구현되거나 유선 통신 모듈로 구현될 수도 있다.The electronic
타선 추출부(132)는 통신 유닛에서 수신되는 AIS 정보와 영상 촬영부(110)에서 획득된 영상을 비교하여 AIS 정보에 등록되지 않은 타선을 추출할 수 있다. 또한, 이동 경로 감지부(134)는 AIS 정보에 등록되지 않은 타선의 이동 경로 및 속력을 감지할 수 있으며, 충돌 위험 예측부(136)는 AIS 정보에 등록되지 않은 타선의 이동 경로 및 속력에 기초하여 선박과 AIS 정보에 등록되지 않은 타선의 충돌을 예측할 수 있다.The other
AIS 정보에 등록되지 않은 타선의 경우 선박과의 충돌을 예측하기 어려우나, 본 발명의 전자 항해 감시 장치(100)에 의하면 AIS 정보에 등록되지 않은 타선과 선박의 충돌을 예측할 수도 있다. 이에 따라, AIS를 통해 등록된 타선과 선박의 충돌을 방지하고, 본 발명의 전자 항해 감시 장치(100)에 의해 AIS에 등록되지 않은 타선과 선박의 충돌을 방지하여, AIS를 이용한 선박 충돌 방지 시스템을 보완할 수 있다.In the case of other ships not registered in the AIS information, it is difficult to predict the collision with the ship. However, according to the electronic
도 10은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 정보의 예시도이다. 도 1 및 도 10을 참조하면, 디스플레이부(150)는 도 10과 같은 디스플레이 화면을 표시할 수 있다. 예를 들어, 선박(자선)의 미래 이동 경로를 파란색으로 표시하고, 타선의 미래 이동 경로를 검은색 또는 자주색으로 표시할 수 있다. 타선 중 선박과 충돌 위험이 있는 타선은 자주색으로 표시하고, 충돌 위험이 없는 타선은 검은색으로 표시할 수 있다. 또한, 타선과 선박의 충돌 예상 위치를 빨간색으로 표시하고, 해당 위치에 해당 타선과 선박의 충돌 확률 및 충돌 시간을 표시할 수 있다. 또한, 효율적인 정보 전달을 위하여 식별된 충돌 정보를 영상에 오버레이하여 디스플레이할 수도 있다.10 is an exemplary diagram of information displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. 1 and 10, the
도 11은 본 발명의 실시예에 따른 전자 항해 감시 장치를 구성하는 디스플레이부에 의해 표시되는 화면의 예시도이다. 도 1 및 도 11을 참조하면, 파노라믹 뷰(Panoramic view) 부분(151)은 영상 촬영부(110)를 360° 회전하여 얻은 파노라믹 영상을 표시한다. 파노라믹 영상은 선박의 방향(Heading) 또는 정북방향 등의 방향을 기준으로 표시될 수 있다.11 is an exemplary view of a screen displayed by a display unit constituting an electronic navigation monitoring device according to an embodiment of the present invention. 1 and 11, a
도 11의 실시예에서, 파노라믹 뷰에는 검출된 물체(152)가 점선으로 표시되고, 예측되는 거리 정보와 AIS 정보가 추가로 표시될 수 있다. 또한, 현재 스캔하고 있는 촬영 영역(Capture Status)(154)을 실시간으로 보여줌에 따라 과거 영상과 현재 영상을 구별할 수 있다. 파노라믹 뷰는 수평선이 영상의 수평과 평행하도록 이미지 스티칭(image stitching) 기술을 이용하여 계측된 영상을 보정하여 보여줄 수 있다. 파노라믹 뷰 상의 마우스, 조이스틱 등에 의해 지시된 부분(153)은 줌 뷰(zoom view) 부분(155)에서 확대되어 표시될 수 있다.In the embodiment of FIG. 11, the detected
충돌 예측(Collision Prediction Chart) 부분(156)은 선박의 충돌 정보를 제공할 수 있다. 장애물 검출 정보(157, 158, 159)는 AIS 및 Radar에서 검출한 장애물(타선)과 영상 비전(Vision)을 기반으로 검출한 장애물을 비교하여, 모두 장애물로 검출한 경우와 AIS 및 Radar에서만 검출한 경우, 그리고 영상 비전에서만 검출한 경우를 각각 구분하여 표시될 수 있다.The collision
줌 뷰(Zoom view) 부분(155)은 하단의 줌(Zoom) 모드에 따라 촬영 중인 영상, 파노라믹에서 커서가 위치된 부분, 충돌 예측 차트 상의 커서 위치 영상, 검출된 장애물 등을 선택시 선택한 내용에 대해 확대 영상을 표시할 수 있다. 커서 위치를 활용하는 경우에는 마우스 휠 또는 조이스틱 버튼의 기능을 이용하여 줌 된 영상을 보여 줄 수도 있다.The
파노라믹 뷰(Panoramic view)와 촬영 뷰(Capture view)는 가시 영상 단독, 열화상 영상 단독, 가시영상에 열화상 영상을 중첩(overlay)한 것 중에 선택이 가능하다. 히스토릭 런(Historic Run) 모드 선정시에는 하단의 타임 슬라이드(Time slide) 바에 따라 과거 영상 정보와 충돌 예측 정보를 불러와서 과거 상황을 확인하는 것도 가능하다. 따라서 과거에 저장된 영상 및 충돌 예측 정보를 확인할 수도 있다.Panoramic view and capture view can be selected from a visible image alone, a thermal image alone, or an overlay of a thermal image on a visible image. When selecting the Historic Run mode, it is also possible to check the past situation by calling the past image information and collision prediction information according to the time slide bar at the bottom. Therefore, it is also possible to check the image and collision prediction information stored in the past.
종래 선박의 충돌을 방지하기 위한 AIS나 Radar를 이용한 선박 충돌 방지 시스템은, AIS에 미등록된 선박의 식별이 어렵거나, 선박의 충돌 예상 위치나 이동 경로 등은 제공하지 못하는 문제가 있었으나, 본 발명의 실시예에 의하면, 선박에 설치되는 영상 촬상부에 의해 선박의 주변에 대한 영상을 획득하고 이에 따라 선박의 충돌을 예측하여 선박 충돌 확률 및 선박 충돌 시간을 제공할 수 있다. 따라서, 본 발명에 따른 전자 항해 감시 장치에 의하면 선박의 충돌을 효과적으로 방지할 수 있으며, 선박의 주변 상황에 대한 정보를 실시간으로 제공할 수 있다. 이상과 같은 본 발명의 다양한 실시 예에 따르면 타선의 이동 경로 및 충돌 예상 위치에 관한 정보를 정확히 제공하고, AIS에 미등록된 타선에 대해서도 충돌 위험을 판단할 수 있으므로, 선박의 충돌을 더욱 효과적으로 방지할 수 있다.Conventional ship collision prevention system using AIS or radar to prevent collision of ships has a problem in that it is difficult to identify ships not registered in AIS, or it is not possible to provide a collision predicted position or movement path of the ship, but the present invention According to an embodiment, an image of the periphery of a ship is acquired by an image pickup unit installed on a ship, and accordingly, a collision of a ship is predicted to provide a ship collision probability and a ship collision time. Accordingly, according to the electronic navigation monitoring device according to the present invention, it is possible to effectively prevent a collision of a ship, and to provide information on the surrounding situation of the ship in real time. According to various embodiments of the present invention as described above, information on the movement path and the predicted position of collision of other ships is accurately provided, and the risk of collision can be determined even for other ships not registered in the AIS, so that the collision of ships can be more effectively prevented. I can.
본 발명의 실시예에 따른 방법 중 적어도 일부는 컴퓨터에서 실행될 수 있는 프로그램으로 작성 가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 컴퓨터로 읽을 수 있는 기록매체는 SRAM(Static RAM), DRAM(Dynamic RAM), SDRAM(Synchronous DRAM) 등과 같은 휘발성 메모리, ROM(Read Only Memory), PROM(Programmable ROM), EPROM(Electrically Programmable ROM), EEPROM(Electrically Erasable and Programmable ROM), 플래시 메모리 장치, PRAM(Phase-change RAM), MRAM(Magnetic RAM), RRAM(Resistive RAM), FRAM(Ferroelectric RAM)과 같은 불휘발성 메모리, 플로피 디스크, 하드 디스크 또는 광학적 판독 매체 예를 들어 시디롬, 디브이디 등과 같은 형태의 저장매체일 수 있으나, 이에 제한되지는 않는다.At least some of the methods according to the embodiments of the present invention may be written in a program that can be executed on a computer, and may be implemented in a general-purpose digital computer that operates the program using a computer-readable recording medium. Computer-readable recording media include volatile memories such as SRAM (Static RAM), DRAM (Dynamic RAM), SDRAM (Synchronous DRAM), Read Only Memory (ROM), Programmable ROM (PROM), Electrically Programmable ROM (EPROM), Nonvolatile memory such as Electrically Erasable and Programmable ROM (EEPROM), flash memory device, phase-change RAM (PRAM), magnetic RAM (MRAM), resistive RAM (RRAM), ferroelectric RAM (FRAM), floppy disk, hard disk, or The optical reading medium may be, for example, a storage medium such as a CD-ROM or a DVD, but is not limited thereto.
이상의 실시예들은 본 발명의 이해를 돕기 위하여 제시된 것으로, 본 발명의 범위를 제한하지 않으며, 이로부터 다양한 변형 가능한 실시예들도 본 발명의 범위에 속하는 것임을 이해하여야 한다. 본 발명의 보호범위는 청구범위의 기술적 사상에 의해 정해져야 할 것이며, 본 발명의 보호범위는 청구범위의 문언적 기재 그 자체로 한정되는 것이 아니라 실질적으로는 기술적 가치가 균등한 범주의 발명까지 미치는 것임을 이해하여야 한다.It should be understood that the above embodiments have been presented to aid the understanding of the present invention, and do not limit the scope of the present invention, and various deformable embodiments are also within the scope of the present invention. The scope of protection of the present invention should be determined by the technical spirit of the claims, and the scope of protection of the present invention is not limited to the literal description of the claims itself, but the technical value extends to the invention of an equal scope. It should be understood that it will be.
10: 가시 영상
20: 열화상 영상
110: 영상 촬영부
112: 가시광 카메라
114: 열화상 카메라
120: 객체 검출부
121: 제1 객체 검출부
122: 제2 객체 검출부
123: 해상 객체 추출부
124: 판단부
125: 분석부
130: 충돌 예측부
132: 타선 추출부
134: 이동 경로 감지부
136: 충돌 위험 예측부
140: 감시 제어부
150: 디스플레이부
160: 안정 제어부
170: 3축 구동부10: visible image 20: thermal image
110: image capture unit 112: visible light camera
114: thermal imaging camera 120: object detection unit
121: first object detection unit 122: second object detection unit
123: marine object extraction unit 124: determination unit
125: analysis unit 130: collision prediction unit
132: other ship extraction unit 134: moving path detection unit
136: collision risk prediction unit 140: monitoring control unit
150: display unit 160: stability control unit
170: 3-axis drive unit
Claims (10)
상기 영상에서 해상 물체에 해당하는 객체를 검출하는 객체 검출부를 포함하고,
상기 객체 검출부는,
픽셀 단위로 의미를 찾아내는 의미 분할 기반 딥러닝 모델에 의해 상기 영상으로부터 제1 객체를 검출하는 제1 객체 검출부;
박스형의 물체를 검출하는 영역 기반 물체 검출 딥러닝 모델에 의해 상기 영상으로부터 제2 객체를 검출하는 제2 객체 검출부; 및
상기 제1 객체 및 상기 제2 객체를 기반으로 상기 영상에서 장애물과 의심 물체를 구분하여 판단하는 판단부를 포함하는 전자 항해 감시 장치.An image photographing unit for photographing images around the ship; And
Including an object detection unit for detecting an object corresponding to the marine object in the image,
The object detection unit,
A first object detection unit that detects a first object from the image by means of a semantic division-based deep learning model that finds meaning in units of pixels;
A second object detection unit detecting a second object from the image by using a region-based object detection deep learning model that detects a box-shaped object; And
Electronic navigation monitoring apparatus comprising a determination unit for determining by classifying an obstacle and a suspicious object in the image based on the first object and the second object.
상기 판단부는,
상기 제1 객체 및 상기 제2 객체에 공통으로 포함되는 객체를 상기 장애물로 판단하고; 그리고
상기 제1 객체 및 상기 제2 객체 중 어느 하나에만 포함되는 객체를 상기 의심 물체로 판단하는 전자 항해 감시 장치.The method of claim 1,
The determination unit,
Determining an object commonly included in the first object and the second object as the obstacle; And
An electronic navigation monitoring device that determines an object included in only one of the first object and the second object as the suspicious object.
상기 영상 촬영부는 가시 영상을 촬영하는 가시광 카메라와, 열화상 영상을 촬영하는 열화상 카메라를 포함하고,
상기 객체 검출부는 상기 가시 영상과 상기 열화상 영상을 결합한 영상에서 상기 제1 객체 및 상기 제2 객체를 검출하도록 구성되는 전자 항해 감시 장치.The method of claim 1,
The image capturing unit includes a visible light camera for capturing a visible image and a thermal camera for capturing a thermal image,
The object detection unit is configured to detect the first object and the second object in an image obtained by combining the visible image and the thermal image.
상기 영상 촬영부 및 상기 객체 검출부를 제어하는 감시 제어부를 더 포함하고,
상기 객체 검출부는 상기 의심 물체의 중심 위치 및 크기를 산출하는 분석부를 더 포함하고,
상기 감시 제어부는 상기 의심 물체의 크기를 중심 위치와 크기에 따라 줌 기능을 적용하여 상기 의심 물체에 대한 확대 영상을 생성하도록 상기 영상 촬영부를 제어하고, 상기 확대 영상에서 상기 의심 물체를 추출하여 장애물 여부를 판단하는 전자 항해 감시 장치.The method of claim 1,
Further comprising a monitoring control unit for controlling the image capturing unit and the object detection unit,
The object detection unit further includes an analysis unit that calculates the center position and size of the suspicious object,
The monitoring control unit controls the image capture unit to generate an enlarged image of the suspect object by applying a zoom function to the size of the suspect object according to a center position and size, and extracts the suspect object from the enlarged image to determine whether there is an obstacle. Electronic navigation monitoring device to determine the.
상기 영상 촬영부의 촬영 방향을 3축 방향으로 제어하기 위한 3축 구동부; 및
상기 감시 제어부에 의해 지시된 방향 각도를 유지하도록 상기 3축 구동부를 구동하는 안정 제어부를 더 포함하는 전자 항해 감시 장치.The method of claim 1,
A three-axis driving unit for controlling a photographing direction of the image capturing unit in a three-axis direction; And
Electronic navigation monitoring device further comprising a stability control unit for driving the three-axis driving unit to maintain the direction angle indicated by the monitoring control unit.
상기 객체 검출부는 상기 영상에서 추출된 객체 중에서 육지 영역 내의 객체를 제외하는 해상 객체 추출부를 더 포함하는 전자 항해 감시 장치.The method of claim 1,
The object detection unit further comprises a marine object extraction unit excluding objects in the land area from among the objects extracted from the image.
상기 감시 제어부는, 레이더에 의해 검출된 장애물과 상기 영상으로부터 검출된 장애물을 비교하여, 상기 레이더 및 상기 영상으로부터 모두 장애물로 검출된 경우와 상기 영상에서만 검출된 장애물을 구별하여 표시하는 전자 항해 감시 장치.The method of claim 1,
The monitoring control unit compares the obstacle detected by the radar with the obstacle detected from the image, and displays a case where both the radar and the image are detected as obstacles and the obstacle detected only in the image. .
상기 영상을 기반으로 상기 선박의 장애물과의 충돌을 예측하는 충돌 예측부; 및
상기 충돌 예측부의 충돌 예측 결과를 디스플레이하는 디스플레이부를 더 포함하는 전자 항해 감시 장치.The method of claim 1,
A collision prediction unit for predicting a collision with an obstacle of the ship based on the image; And
Electronic navigation monitoring device further comprising a display unit for displaying the collision prediction result of the collision prediction unit.
상기 충돌 예측부는,
상기 영상에서 적어도 하나의 타선을 추출하는 타선 추출부;
상기 타선의 이동 경로 및 속력을 감지하는 이동 경로 감지부; 및
상기 타선의 이동 경로 및 속력에 기초하여 상기 선박과 상기 타선의 충돌 위험을 예측하는 충돌 위험 예측부를 포함하는 전자 항해 감시 장치.The method of claim 8,
The collision prediction unit,
Another line extraction unit for extracting at least one other line from the image;
A movement path detector configured to detect a movement path and speed of the other ship; And
Electronic navigation monitoring apparatus comprising a collision risk prediction unit for predicting the risk of collision between the ship and the other ship based on the moving path and speed of the other ship.
상기 충돌 위험 예측부는,
상기 타선의 이동 경로 및 속력을 이용하여 상기 타선의 각속도를 산출하고, 상기 타선의 속력 및 각속도를 이용하여 상기 타선의 미래 이동 경로를 예측하고,
상기 타선의 미래 이동 경로와 상기 선박의 미래 이동 경로를 이용하여 상기 타선과 상기 선박의 충돌 확률 및 충돌 시간을 산출하는 전자 항해 감시 장치.The method of claim 9,
The collision risk prediction unit,
The angular velocity of the other ship is calculated using the moving path and speed of the other ship, and the future movement path of the other ship is predicted using the speed and angular velocity of the other ship,
An electronic navigation monitoring device that calculates a collision probability and a collision time between the other ship and the ship by using the future movement path of the other ship and the future movement path of the ship.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190142247A KR20210055904A (en) | 2019-11-08 | 2019-11-08 | Apparatus for electronic surveillance of voyage |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190142247A KR20210055904A (en) | 2019-11-08 | 2019-11-08 | Apparatus for electronic surveillance of voyage |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20210055904A true KR20210055904A (en) | 2021-05-18 |
Family
ID=76158629
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190142247A KR20210055904A (en) | 2019-11-08 | 2019-11-08 | Apparatus for electronic surveillance of voyage |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20210055904A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102340184B1 (en) * | 2021-08-23 | 2021-12-17 | 한화시스템 주식회사 | Apparatus and method for tracking a manual target using AI learning technique in the console terminal |
KR102406600B1 (en) * | 2021-12-23 | 2022-06-13 | 국방과학연구소 | Method of photorealistic image transformation for marine images, apparatus for photorealistic image transformation for marine images, and computer program for the method |
-
2019
- 2019-11-08 KR KR1020190142247A patent/KR20210055904A/en not_active Application Discontinuation
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102340184B1 (en) * | 2021-08-23 | 2021-12-17 | 한화시스템 주식회사 | Apparatus and method for tracking a manual target using AI learning technique in the console terminal |
KR102406600B1 (en) * | 2021-12-23 | 2022-06-13 | 국방과학연구소 | Method of photorealistic image transformation for marine images, apparatus for photorealistic image transformation for marine images, and computer program for the method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102566724B1 (en) | Harbor monitoring device and harbor monitoring method | |
US10878584B2 (en) | System for tracking object, and camera assembly therefor | |
KR102623124B1 (en) | Device and method for monitoring a berthing | |
US11900668B2 (en) | System and method for identifying an object in water | |
EP1981278B1 (en) | Automatic tracking device and automatic tracking method | |
JP6932487B2 (en) | Mobile monitoring device | |
US20180114067A1 (en) | Apparatus and method for extracting objects in view point of moving vehicle | |
JP5054612B2 (en) | Approaching object detection device and approaching object detection method | |
EP4089660A1 (en) | Method and device for monitoring port and ship in consideration of sea level | |
KR101666466B1 (en) | Marine risk management system and marine risk management method using marine object distance measuring system with monocular camera | |
CN114359714A (en) | Unmanned body obstacle avoidance method and device based on event camera and intelligent unmanned body | |
KR20210055904A (en) | Apparatus for electronic surveillance of voyage | |
US10343603B2 (en) | Image processing device and image processing method | |
KR20210001308A (en) | Apparatus for preventing collision of vessels | |
US10549853B2 (en) | Apparatus, system, and method for determining an object's location in image video data | |
CN112639405A (en) | State information determination method, device, system, movable platform and storage medium | |
US20190156512A1 (en) | Estimation method, estimation apparatus, and non-transitory computer-readable storage medium | |
KR102661363B1 (en) | Device and method for monitoring a berthing | |
JP2021103410A (en) | Mobile body and imaging system | |
KR102661171B1 (en) | System for predicting degree of collision risk and guiding safe voyage route through fusing navigation sensor inside ship and image information | |
KR102658233B1 (en) | Harbor monitoring device and harbor monitoring method | |
WO2023070667A1 (en) | Movable platform, method and apparatus for processing data of movable platform, and terminal device | |
KR20240057388A (en) | Harbor monitoring device and harbor monitoring method | |
JPH06273170A (en) | Obstacle detector for vehicle | |
CN105785990A (en) | Ship parking system based on panoramic viewing and barrier identification method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal |