KR102340184B1 - Apparatus and method for tracking a manual target using AI learning technique in the console terminal - Google Patents

Apparatus and method for tracking a manual target using AI learning technique in the console terminal Download PDF

Info

Publication number
KR102340184B1
KR102340184B1 KR1020210111156A KR20210111156A KR102340184B1 KR 102340184 B1 KR102340184 B1 KR 102340184B1 KR 1020210111156 A KR1020210111156 A KR 1020210111156A KR 20210111156 A KR20210111156 A KR 20210111156A KR 102340184 B1 KR102340184 B1 KR 102340184B1
Authority
KR
South Korea
Prior art keywords
target
radar video
information
passive
manual
Prior art date
Application number
KR1020210111156A
Other languages
Korean (ko)
Inventor
정동한
김영산
문다흰
Original Assignee
한화시스템 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한화시스템 주식회사 filed Critical 한화시스템 주식회사
Priority to KR1020210111156A priority Critical patent/KR102340184B1/en
Application granted granted Critical
Publication of KR102340184B1 publication Critical patent/KR102340184B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F41—WEAPONS
    • F41H—ARMOUR; ARMOURED TURRETS; ARMOURED OR ARMED VEHICLES; MEANS OF ATTACK OR DEFENCE, e.g. CAMOUFLAGE, IN GENERAL
    • F41H11/00—Defence installations; Defence devices
    • F41H11/02—Anti-aircraft or anti-guided missile or anti-torpedo defence installations or systems
    • G06K9/00744—
    • G06K9/627—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Abstract

An embodiment of the present invention provides an apparatus and method for tracking a manual target in a console terminal, the apparatus comprising: a manual target generation unit for receiving a request for generating a manual target from an operator; a radar video analysis unit for learning an artificial intelligence (AI) algorithm by analyzing multiple patterns included in multiple radar video images using a deep learning algorithm, identifying and classifying the multiple patterns in the radar video images using the learned AI algorithm, identifying a pattern corresponding to the manual target from among the patterns using position information of the manual target, and generating and updating motion information of the manual target using a previous pattern and a current pattern corresponding to the manual target in each predetermined period of radar video scanning; and a target information display unit for generating the manual target using the position information of the manual target on a display unit input from the operator, displaying the manual target on the display unit, and updating position and target information of the manual target by using the motion information of the manual target in every period of radar video scanning.

Description

콘솔 단말기에서 인공지능 학습기법을 이용하여 수동 표적을 추적하는 장치 및 방법{Apparatus and method for tracking a manual target using AI learning technique in the console terminal}Apparatus and method for tracking a manual target using AI learning technique in the console terminal

본 발명은 콘솔 단말기에 관한 것으로, 특히, 콘솔 단말기에서 인공지능 학습 기법을 이용하여 수동 표적을 추적하는 장치 및 방법에 관한 것이다.The present invention relates to a console terminal, and more particularly, to an apparatus and method for tracking a passive target using an artificial intelligence learning technique in a console terminal.

함정 전투체계에서 다기능 콘솔 단말기는 여러 가지 기능을 지원합니다. 특히, 다기능 콘솔 단말기는 램(Rate Added Manual, 이하 'RAM'이라 한다) 표적 생성 기능을 지원한다. In the warship combat system, the multi-function console terminal supports several functions. In particular, the multi-function console terminal supports a RAM (Rate Added Manual, hereinafter referred to as 'RAM') target generation function.

여기서, RAM 표적은 속도 성분이 추가된, 운용자에 의해 수동으로 생성되는 표적을 나타낸다. 그리고 RAM 표적 생성 기능은 운용자가 시각을 통해 레이더 센서에 의해 표적화되지 못한 표적을 수동으로 확인하여 표적화한 후, 갱신하는 기능을 나타낸다. 좀 더 자세히 설명하면, RAM 표적 생성 기능은 운용자에 의해 레이더 비디오 영상 속의 물표가 표적으로 생성되고, 일정 시간 경과 후에 생성된 표적의 다음 위치에서 표적이 갱신되면, 생성된 시각과 생성된 시각의 표적 위치와 갱신된 시각 및 갱신된 시각의 표적 위치를 기반으로 표적의 침로와 속도를 자동으로 계산하는 기능이다. 즉, RAM 표적 생성 기능은 운용자가 레이더 비디오 영상을 이용하여 다기능 콘솔 단말기에서 자동으로 생성되는 기동 정보와 최대한 유사한 표적 정보를 생성 및 설정할 수 있도록 보조하는 기능을 나타낸다.Here, the RAM target refers to a target created manually by the operator to which a speed component has been added. And the RAM target generation function refers to a function that the operator manually identifies a target that is not targeted by the radar sensor through vision, targets it, and then updates it. More specifically, the RAM target generation function creates a target in the radar video image by the operator, and when the target is updated at the next position of the created target after a certain period of time, the target at the created time and the created time It is a function that automatically calculates the course and speed of the target based on the position and the updated time and the target position at the updated time. That is, the RAM target generation function refers to a function that assists the operator to create and set target information that is as similar as possible to the maneuver information automatically generated by the multi-function console terminal using the radar video image.

이러한 RAM 표적 생성 기능은 운용자가 시각을 통해 레이더 비디오 영상 속의 물표를 식별하여 물표의 위치를 지속적으로 갱신해야 하므로 운용자가 지속적으로 화면을 주시하면서 관찰해야 한다. 이에 따라, 생성된 표적 정보의 오차가 운용자의 숙련도 및 실수에 의해 발생될 가능성이 높은 문제점이 있었다.This RAM target generation function requires the operator to continuously update the position of the target by identifying the target in the radar video image through vision, so the operator must continuously observe the screen. Accordingly, there is a problem in that the error of the generated target information is highly likely to be generated by the skill and error of the operator.

따라서, 이러한 문제점을 해결하기 위한 방안의 필요성이 대두하였다.Therefore, the need for a method for solving these problems has emerged.

본 발명의 일 실시 예는 운용자의 간섭을 최소화하여 생성된 표적 정보의 오차 발생을 방지하는 RAM 표적 생성 기능을 제안한다.An embodiment of the present invention proposes a RAM target generation function that minimizes operator interference to prevent errors in generated target information.

그리고 본 발명의 일 실시 예는 운용자의 간섭을 최소화하여 생성된 표적 정보의 정확성 및 신속성을 높이는 RAM 표적 생성 기능을 제안한다. In addition, an embodiment of the present invention proposes a RAM target generation function that increases the accuracy and speed of the generated target information by minimizing the operator's interference.

본 발명의 일 실시 예에 따른, 콘솔 단말기에서 수동 표적을 추적하는 장치는, 운용자로부터 수동 표적의 생성 요청을 입력받는 수동 표적 생성부; 딥러닝 알고리즘을 이용하여 복수의 레이더 비디오 영상들에 포함된 복수의 패턴들을 분석함으로써 인공지능 알고리즘을 학습하며, 상기 학습된 인공지능 알고리즘을 이용하여 레이더 비디오 영상에서 복수의 패턴들을 식별하여 분류하고, 상기 수동 표적의 상기 위치 정보를 이용하여 상기 패턴들 중에서 상기 수동 표적에 대응하는 패턴을 식별하며, 미리 지정된 레이더 비디오 스캔 주기마다 상기 수동 표적에 대응하는 이전 패턴과 현재 패턴을 이용하여 상기 수동 표적의 운동 정보를 생성 및 갱신하는 레이더 비디오 분석부; 및 상기 운용자로부터 입력된 표시부 상의 상기 수동 표적의 위치 정보를 이용하여 상기 수동 표적을 생성하여 상기 표시부 상에 전시하고, 상기 레이더 비디오 스캔 주기마다 상기 수동 표적의 상기 운동 정보를 이용하여 상기 수동 표적의 위치 및 표적 정보를 갱신하는 표적 정보 전시부를 포함한다.According to an embodiment of the present invention, there is provided an apparatus for tracking a manual target in a console terminal, comprising: a manual target generator for receiving a request for generating a manual target from an operator; An artificial intelligence algorithm is learned by analyzing a plurality of patterns included in a plurality of radar video images using a deep learning algorithm, and a plurality of patterns are identified and classified in a radar video image using the learned artificial intelligence algorithm, A pattern corresponding to the passive target is identified from among the patterns by using the position information of the passive target, and a previous pattern and a current pattern corresponding to the passive target are used in each preset radar video scan period to determine the pattern of the passive target. Radar video analysis unit for generating and updating motion information; and generating the manual target by using the position information of the passive target on the display unit input from the operator and displaying it on the display unit, and using the motion information of the manual target for each radar video scan period and a target information display unit for updating position and target information.

본 발명의 일 실시 예에 따른, 콘솔 단말기에서 수동 표적을 추적하는 방법은, 레이더 비디오 분석부가, 딥러닝 알고리즘을 이용하여 복수의 레이더 비디오 영상들에 포함된 복수의 패턴들을 분석함으로써 인공지능 알고리즘을 학습하는 과정, 상기 레이더 비디오 분석부가, 상기 학습된 인공지능 알고리즘을 이용하여 레이더 비디오 영상에서 복수의 패턴들을 식별하여 분류하는 과정, 수동 표적 생성부가, 운용자로부터 수동 표적의 생성 요청을 입력받는 과정, 표적 정보 전시부가, 상기 운용자로부터 입력된 표시부 상의 상기 수동 표적의 위치 정보를 이용하여 상기 수동 표적을 생성하여 상기 표시부 상에 전시하는 과정, 상기 레이더 비디오 분석부가, 상기 수동 표적의 상기 위치 정보를 이용하여 상기 패턴들 중에서 상기 수동 표적에 대응하는 패턴을 식별하는 과정, 상기 레이더 비디오 분석부가, 미리 지정된 레이더 비디오 스캔 주기마다 상기 수동 표적에 대응하는 이전 패턴과 현재 패턴을 이용하여 상기 수동 표적의 운동 정보를 생성 및 갱신하는 과정, 및 상기 표적 정보 전시부가, 상기 레이더 비디오 스캔 주기마다 상기 수동 표적의 상기 운동 정보를 이용하여 상기 수동 표적의 위치 및 표적 정보를 갱신하는 과정을 포함한다.According to an embodiment of the present invention, in a method for tracking a passive target in a console terminal, the radar video analyzer analyzes a plurality of patterns included in a plurality of radar video images using a deep learning algorithm to generate an artificial intelligence algorithm. a process of learning, a process in which the radar video analysis unit identifies and classifies a plurality of patterns in a radar video image using the learned artificial intelligence algorithm, a process in which the manual target generator receives a manual target generation request from an operator; A process in which the target information display unit generates the passive target using the position information of the passive target on the display unit input from the operator and displays it on the display unit, the radar video analysis unit uses the position information of the passive target to identify a pattern corresponding to the passive target from among the patterns, the radar video analysis unit using a previous pattern and a current pattern corresponding to the passive target for each preset radar video scan period, motion information of the passive target generating and updating, and updating, by the target information display unit, the position and target information of the passive target by using the motion information of the passive target at every interval of the radar video scan.

본 발명의 일 실시 예는 운용자의 간섭을 최소화하는 RAM 표적 생성 기능을 제안함으로써 생성된 표적 정보의 오차 발생을 방지할 수 있다.An embodiment of the present invention can prevent an error in the generated target information by proposing a RAM target generation function that minimizes operator interference.

그리고 본 발명의 일 실시 예는 운용자의 간섭을 최소화하는 RAM 표적 생성 기능을 제안함으로써 생성된 표적 정보의 정확성 및 신속성을 높일 수 있다. In addition, an embodiment of the present invention can increase the accuracy and speed of the generated target information by proposing a RAM target generation function that minimizes operator interference.

도 1은 본 발명의 일 실시 예에 따른 다기능 콘솔 단말기의 블록 구성도이다.
도 2는 본 발명의 일 실시 예에 따른 레이더 비디오 분석부의 블록 구성도이다.
도 3은 본 발명의 일 실시 예에 따른 앵커 박스를 도시한 도면이다.
도 4는 본 발명의 일 실시 예에 따른 앵커 박스를 탐지하는 잘못된 예를 도시한 도면이다.
도 5는 본 발명의 일 실시 예에 따른 표적 추적부에서 표적을 추적하는 시나리오를 도시한 도면이다.
도 6은 본 발명의 일 실시 예에 따른 다기능 콘솔 단말기에서 표적 정보를 전시하는 화면이다.
도 7은 본 발명의 일 실시 예에 따른 다기능 콘솔 단말기에서 수동 표적을 전시하는 흐름도이다.1 is a block diagram of a multi-function console terminal according to an embodiment of the present invention.
2 is a block diagram of a radar video analyzer according to an embodiment of the present invention.
3 is a view showing an anchor box according to an embodiment of the present invention.
4 is a diagram illustrating an erroneous example of detecting an anchor box according to an embodiment of the present invention.
5 is a diagram illustrating a scenario in which a target tracking unit tracks a target according to an embodiment of the present invention.
6 is a screen for displaying target information in a multi-function console terminal according to an embodiment of the present invention.
7 is a flowchart of displaying a passive target in a multi-function console terminal according to an embodiment of the present invention.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.Terms used in this specification will be briefly described, and the present invention will be described in detail.

본 발명의 실시 예에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당하는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.Terms used in the embodiments of the present invention are selected as currently widely used general terms as possible while considering the functions in the present invention, which may vary depending on the intention or precedent of a person skilled in the art, the emergence of new technology, etc. . In addition, in a specific case, there is a term arbitrarily selected by the applicant, and in this case, the meaning will be described in detail in the description of the corresponding invention. Therefore, the term used in the present invention should be defined based on the meaning of the term and the overall content of the present invention, rather than the name of a simple term.

본 발명의 실시 예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 발명된 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 실시 예들을 설명함에서 관련된 공지 기술에 대한 구체적인 설명이 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.Embodiments of the present invention can apply various transformations and can have various embodiments, and specific embodiments are illustrated in the drawings and described in detail in the detailed description. However, this is not intended to limit the scope of the specific embodiments, and it should be understood to include all transformations, equivalents, and substitutes included in the spirit and scope of the invention. In the description of the embodiments, if it is determined that a detailed description of a related known technology may obscure the subject matter, the detailed description thereof will be omitted.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms such as first, second, etc. may be used to describe various elements, but the elements should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The singular expression includes the plural expression unless the context clearly dictates otherwise. In the present application, terms such as "comprises" or "consisting of" are intended to designate that the features, numbers, steps, operations, components, parts, or combinations thereof described in the specification exist, and are intended to indicate that one or more other It should be understood that this does not preclude the possibility of addition or presence of features or numbers, steps, operations, components, parts, or combinations thereof.

본 발명의 실시 예에서 '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 '모듈' 혹은 복수의 '부'는 특정한 하드웨어로 구현될 필요가 있는 '모듈' 혹은 '부'를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.In an embodiment of the present invention, a 'module' or 'unit' performs at least one function or operation, and may be implemented as hardware or software, or a combination of hardware and software. In addition, a plurality of 'modules' or a plurality of 'units' are integrated into at least one module and implemented with at least one processor (not shown) except for 'modules' or 'units' that need to be implemented with specific hardware. can be

본 발명의 실시 예에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.In an embodiment of the present invention, when a part is "connected" with another part, it is not only "directly connected" but also "electrically connected" with another element interposed therebetween. also includes In addition, when a part "includes" a certain component, this means that other components may be further included rather than excluding other components unless otherwise stated.

아래에서는 첨부한 도면을 참고하여 본 발명의 실시 예에 대하여 본 발명가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, with reference to the accompanying drawings, embodiments of the present invention will be described in detail so that those of ordinary skill in the art to which the present invention pertains can easily implement them. However, the present invention may be implemented in several different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

본 발명의 실시 예에서, '패턴'이라는 용어는 '객체'라는 용어와 동일한 의미로 사용될 수 있다.In an embodiment of the present invention, the term 'pattern' may be used with the same meaning as the term 'object'.

도 1은 본 발명의 일 실시 예에 따른 다기능 콘솔 단말기의 블록 구성도이다.1 is a block diagram of a multi-function console terminal according to an embodiment of the present invention.

도 1을 참조하면, 다기능 콘솔 단말기는 레이더 비디오 입력부(101)와 레이더 비디오 분석부(103)와 수동 표적 생성부(105)와 표적 위치 전송부(107)와 표적 정보 입력부(109)와 레이더 비디오 전시부(111)와 표적 정보 전시부(113)와 전자 해도 전시부(115)를 표시한다.Referring to FIG. 1 , the multi-function console terminal includes a radar video input unit 101 , a radar video analysis unit 103 , a manual target generation unit 105 , a target position transmission unit 107 , a target information input unit 109 , and a radar video unit. The display unit 111 , the target information display unit 113 , and the electronic chart display unit 115 are displayed.

각 구성요소를 살펴보면, 레이더 비디오 입력부(101)는 함정에 구비된 레이더 장치로부터 레이더 비디오 영상을 입력받고, 입력된 레이더 비디오 영상을 레이더 비디오 분석부(103) 및 레이더 비디오 전시부(111)로 출력한다. 예를 들면, 레이더 비디오 영상은 레이더 장치에 의해 발산된 후, 물체에 의해 반사된 레이더 펄스 RF 신호를 처리하여 이동 물체를 식별하고, 식별된 이동 물체에 대한 기동 정보를 레이더 비디오 형태로 생성한 것일 수 있다. Looking at each component, the radar video input unit 101 receives a radar video image from the radar device provided on the ship, and outputs the input radar video image to the radar video analysis unit 103 and the radar video display unit 111 . . For example, a radar video image is emitted by a radar device, then a radar pulse RF signal reflected by the object is processed to identify a moving object, and maneuver information for the identified moving object is generated in the form of a radar video. can

즉, 레이더 비디오 영상은 자동으로 생성된 표적(이하, '자동 표적'이라 한다)의 기동 정보를 포함할 수 있다. 예를 들면, 기동 정보는 자함에서 특정 표적을 추적 및 대응하기 위해 필요한 정보를 나타내며, 특정 표적의 좌표, 속도 및 자함과 표적 간의 거리 등을 포함할 수 있다.That is, the radar video image may include maneuver information of an automatically generated target (hereinafter, referred to as an 'automatic target'). For example, the maneuver information indicates information required to track and respond to a specific target in the own ship, and may include the coordinates, speed, and distance between the own ship and the target, and the like of the specific target.

레이더 비디오 전시부(111)는 레이더 비디오 입력부(101)로부터 레이더 비디오 영상을 입력받고, 입력된 레이더 비디오 영상을 표시부(미도시)를 통해 전시한다. 예를 들면, 표시부(미도시)는 다기능 콘솔 단말기에 구비될 수 있다. The radar video display unit 111 receives a radar video image from the radar video input unit 101 and displays the inputted radar video image through a display unit (not shown). For example, the display unit (not shown) may be provided in the multi-function console terminal.

수동 표적 생성부(105)는 운용자에 의해 RAM 표적 생성 기능이 요청되면, 운용자에 의해 선택된 표시부(미도시) 상의 위치를 확인하고, 확인된 위치에 관한 정보를 표적 위치 전송부(107) 및 레이더 비디오 분석부(103)로 출력한다. 예를 들면, 수동 표적 생성부(105)는 다기능 콘솔 단말기의 소프트 키 판넬에서 RAM 표적 생성 기능을 요청하는 버튼이 클릭되면, RAM 표적 생성 기능이 운용자에 의해 요청된 것으로 결정할 수 있다. 예를 들면, 운용자에 의해 선택된 표시부(미도시) 상의 위치는 운용자에 의해 지시된 마우스 커서의 위치일 수 있다. 예를 들면, 마우스 커서의 위치는 레이더 비디오 전시부(111)에서 전시되는 레이더 비디오 영상 내에서 표적화되지 않은 물표의 위치일 수 있다. 예를 들면, 확인된 위치에 관한 정보는 표시부(미도시) 상에서 마우스 커서가 위치하는 위치 정보(예를 들면, x축 및 y축 상의 픽셀 좌표 정보)일 수 있다. When the RAM target generation function is requested by the operator, the manual target generation unit 105 confirms a location on a display unit (not shown) selected by the operator, and transmits information about the confirmed location to the target location transmitter 107 and the radar and output to the video analysis unit 103 . For example, when a button for requesting a RAM target generation function is clicked on the soft key panel of the multi-function console terminal, the manual target generation unit 105 may determine that the RAM target generation function is requested by the operator. For example, the position on the display unit (not shown) selected by the operator may be the position of the mouse cursor indicated by the operator. For example, the position of the mouse cursor may be the position of an untargeted target within the radar video image displayed in the radar video display unit 111 . For example, the information about the confirmed position may be position information (eg, pixel coordinate information on the x-axis and the y-axis) at which the mouse cursor is positioned on the display unit (not shown).

표적 위치 전송부(107)는 수동 표적 생성부(105)로부터 표시부(미도시) 상의 위치 정보를 입력받는다. 그리고 표적 위치 전송부(107)는 입력된 표시부(미도시) 상의 위치 정보를 이용하여 자함을 기준으로 하는 수동 표적의 최초 위치 정보(예를 들면, 위도 및 경도 정보) 및 수동 표적의 최초 생성 시각을 계산한다. 그리고 표적 위치 전송부(107)는 수동 표적의 최초 위치 정보 및 최초 생성 시각을 표적 정보 입력부(109)로 출력한다. 예를 들면, 표시부(미도시) 상의 위치 정보는 마우스 커서의 위치 정보일 수 있다.The target position transmitting unit 107 receives position information on the display unit (not shown) from the manual target generating unit 105 . In addition, the target position transmitter 107 uses the input position information on the display unit (not shown) to determine the initial position information (eg, latitude and longitude information) of the passive target based on the self-ship and the initial creation time of the manual target. to calculate In addition, the target position transmitter 107 outputs the initial position information and the initial creation time of the passive target to the target information input unit 109 . For example, the location information on the display unit (not shown) may be location information of a mouse cursor.

그리고 표적 위치 전송부(107)는 레이더 비디오 분석부(103)로부터 미리 지정된 레이더 비디오 스캔 주기마다 수동 표적에 대한 운동 정보를 입력받고, 입력된 수동 표적의 운동 정보를 표적 정보 입력부(109)로 출력한다. 예를 들면, 레이더 비디오 스캔 주기는 레이더 비디오 분석부(103)에서 레이더 비디오 영상을 주기적으로 스캔하기 위한 주기를 나타낼 수 있다.In addition, the target position transmitter 107 receives motion information for the passive target at each preset radar video scan period from the radar video analysis unit 103 , and outputs the motion information of the passive target to the target information input unit 109 . do. For example, the radar video scan period may indicate a period for periodically scanning the radar video image by the radar video analyzer 103 .

표적 정보 입력부(109)는 표적 위치 전송부(107)로부터 수동 표적의 최초 위치 정보 및 최초 생성 시각을 입력받고, 입력된 수동 표적의 최초 위치 정보 및 최초 생성 시각을 이용하여 수동 표적(RAM 표적)에 대한 표적 정보를 생성한다. 예를 들면, 표적 정보는 수동 표적의 위치, 속력 및 침로 등을 포함할 수 있다. 그리고 표적 정보 입력부(109)는 수동 표적의 생성된 표적 정보를 표적 정보 전시부(113)로 전송한다. The target information input unit 109 receives the initial position information and the initial creation time of the manual target from the target position transmitter 107, and uses the input initial position information and the initial creation time of the manual target to generate a manual target (RAM target) Generate target information for For example, the target information may include the position, speed and course of the passive target, and the like. In addition, the target information input unit 109 transmits the generated target information of the passive target to the target information display unit 113 .

그리고 표적 정보 입력부(109)는 표적 위치 전송부(107)로부터 수동 표적의 운동 정보를 입력받고, 이전에 생성된 수동 표적의 표적 정보에 입력된 수동 표적의 운동 정보를 반영하여 수동 표적의 표적 정보를 갱신한다. 그리고 표적 정보 입력부(109)는 수동 표적의 갱신된 표적 정보를 표적 정보 전시부(113)로 전송한다.In addition, the target information input unit 109 receives the motion information of the passive target from the target position transmitter 107, and reflects the motion information of the passive target input to the previously generated target information of the passive target to obtain target information of the passive target. update In addition, the target information input unit 109 transmits the updated target information of the passive target to the target information display unit 113 .

표적 정보 전시부(113)는 표적 정보 입력부(109)로부터 수동 표적의 생성된 표적 정보 또는 갱신된 표적 정보를 입력받고, 입력된 표적 정보를 표시부(미도시) 상에 전시한다. 예를 들면, 표적 정보 전시부(113)는 레이더 비디오 영상 내에서 운용자에 의해 선택된 물표 상에 표적 정보를 전시할 수 있다.The target information display unit 113 receives generated target information or updated target information of the passive target from the target information input unit 109 , and displays the input target information on a display unit (not shown). For example, the target information display unit 113 may display target information on a target selected by the operator in the radar video image.

전자 해도 전시부(115)는 자함의 위치를 기준으로 미리 저장된 전자 해도를 표시부(미도시) 상에 전시한다. 예를 들면, 전자 해도는 연안 항해에 필요한 바다의 상태를 표시한 항해도를 디지털화한 것일 수 있다.The electronic chart display unit 115 displays the electronic chart stored in advance on the display unit (not shown) based on the position of the self-box. For example, the electronic chart may be a digitized navigation chart indicating the sea conditions necessary for coastal navigation.

즉, 다기능 콘솔 단말기는 레이더 비디오 전시부(111)와 표적 정보 전시부(113)와 전자 해도 전시부(115)를 통해 레이더 비디오 영상 상에 해도 및 자동 표적에 대한 표적 정보와 수동 표적에 대한 표적 정보를 함께 전시할 수 있다. 예를 들면, 다기능 콘솔 단말기는 도 6의 화면(601)과 같이, 수동 표적(603)을 기호화하여 표시할 수 있다. That is, the multi-function console terminal displays target information on charts and automatic targets and target information on manual targets on the radar video image through the radar video display unit 111, the target information display unit 113, and the electronic chart display unit 115 together. can be exhibited. For example, the multi-function console terminal may symbolically display the manual target 603 as shown in the screen 601 of FIG. 6 .

레이더 비디오 분석부(103)는 레이더 비디오 입력부(101)로부터 레이더 비디오 영상을 입력받고, 인공지능을 통해 입력된 레이더 비디오 영상에 딥러닝(Deep Learning) 알고리즘을 적용하여 레이더 비디오 영상 내에서 적어도 하나의 패턴을 분석한 후, 식별함으로써 인공지능을 학습시킨다. 즉, 인공지능은 레이더 비디오 영상 내에서 물표를 식별할 수 있을 때까지 이러한 동작을 반복 학습한다. 예를 들면, 패턴은 레이더 비디오 영상에 포함된 적어도 하나의 물표에 대한 디지털화된 형상일 수 있다.The radar video analysis unit 103 receives a radar video image from the radar video input unit 101, and applies a deep learning algorithm to the radar video image input through artificial intelligence to obtain at least one After analyzing the pattern, it trains artificial intelligence by identifying it. That is, the AI repeatedly learns these actions until it can identify the target within the radar video image. For example, the pattern may be a digitized shape of at least one target included in the radar video image.

그리고 레이더 비디오 분석부(103)는 수동 표적 생성부(105)로부터 표시부(미도시) 상의 확인된 위치에 관한 정보를 입력받고, 학습된 인공지능을 통해 입력된 위치 정보를 이용하여 레이더 비디오 영상에서 운용자에 의해 선택된 물표를 수동 표적으로 식별한다. In addition, the radar video analysis unit 103 receives information about the confirmed position on the display unit (not shown) from the manual target generation unit 105, and uses the position information input through the learned artificial intelligence from the radar video image. Identifies the target selected by the operator as a passive target.

그리고 레이더 비디오 분석부(103)는 미리 지정된 레이더 비디오 스캔 주기마다 레이더 비디오 영상을 분석하여 식별된 수동 표적에 대응하는 패턴의 경과 시간 및 위치 등을 계산하고, 계산된 수동 표적에 대한 패턴의 경과 시간 및 위치를 포함하는 수동 표적의 기동 정보를 생성한다. 그리고 레이더 비디오 분석부(103)는 이전에 식별된 패턴 정보와 현재 식별된 패턴 정보 간의 시간 차이 및 위치 차이를 계산하고, 계산된 시간 차이 및 위치 차이를 기반으로 수동 표적의 운동 정보를 생성한다. 예를 들면, 패턴 정보는 레이더 비디오 영상 내에서의 해당 패턴의 위치 및 패턴을 식별한 시각(이하 '패턴 식별 시각'이라 한다)을 포함할 수 있다. 그리고 레이더 비디오 분석부(103)는 생성된 수동 표적의 운동 정보를 표적 위치 전송부(107)로 전송한다. 이제부터, 도 2를 참조하여 레이더 비디오 분석부(103)의 구성을 자세히 설명하고자 한다.In addition, the radar video analysis unit 103 analyzes the radar video image at each predetermined radar video scan period to calculate the elapsed time and position of the pattern corresponding to the identified passive target, and the calculated elapsed time of the pattern for the passive target. and the manual target's maneuvering information including the position. In addition, the radar video analysis unit 103 calculates a time difference and a position difference between the previously identified pattern information and the currently identified pattern information, and generates motion information of the passive target based on the calculated time difference and the position difference. For example, the pattern information may include a position of a corresponding pattern in a radar video image and a time at which the pattern is identified (hereinafter referred to as a 'pattern identification time'). And the radar video analysis unit 103 transmits the generated passive target motion information to the target position transmitting unit 107 . Hereinafter, the configuration of the radar video analyzer 103 will be described in detail with reference to FIG. 2 .

도 2는 본 발명의 일 실시 예에 따른 레이더 비디오 분석부(103)의 블록 구성도이다.2 is a block diagram of the radar video analyzer 103 according to an embodiment of the present invention.

도 2를 참조하면, 레이더 비디오 분석부(103)는 인공지능부(201)와 표적 추적부(213)를 포함한다.Referring to FIG. 2 , the radar video analysis unit 103 includes an artificial intelligence unit 201 and a target tracking unit 213 .

각 구성요소를 살펴보면, 인공지능부(201)는 예상 표적 탐지부(203)와 최종 표적 결정부(205)를 포함한다. Looking at each component, the artificial intelligence unit 201 includes an expected target detection unit 203 and a final target determination unit 205 .

예상 표적 탐지부(203)는 자함에 구비된 각 레이더 장치의 노이즈 필터값(207)과 표적 크기 설정값(209)을 특징(feature)으로 설정하고, 설정된 특징을 고려하여 레이더 비디오 영상에서 적어도 하나의 예상 표적을 탐지한다. 이때, 예상 표적 탐지부(203)는 연속성을 가지는 예상 표적을 탐지하기 위해 RNN(Recurrent Neural Network)의 LSTM(Long Short Term Memory) 모델을 사용할 수 있다. 그리고 예상 표적 탐지부(203)는 탐지된 적어도 하나의 예상 표적을 최종 표적 결정부(205)로 출력한다.The expected target detection unit 203 sets the noise filter value 207 and the target size setting value 209 of each radar device provided in the ship as a feature, and considers the set feature in at least one of the radar video images. detect the expected target of In this case, the predicted target detector 203 may use a Long Short Term Memory (LSTM) model of a Recurrent Neural Network (RNN) to detect a predicted target having continuity. In addition, the predicted target detection unit 203 outputs the detected at least one predicted target to the final target determiner 205 .

최종 표적 결정부(205)는 예상 표적 탐지부(203)로부터 적어도 하나의 예상 표적을 입력받고, 적어도 하나의 예상 표적에 관한 정보와 실제 표적에 관한 정보(211)를 비교하여 적합성을 판단함으로써 적어도 하나의 예상 표적 중에서 적어도 하나의 최종 표적을 탐지한다. 예를 들면, 실제 표적에 관한 정보는 운용자에 의해 선택된 표시부(미도시) 상에서의 물표 위치 정보일 수 있다. 그리고 최종 표적 결정부(205)는 탐지된 최종 표적을 표적 추적부(213)로 출력한다. 예를 들면, 최종 표적은 운용자에 의해 선택된 수동 표적일 수 있다.The final target determiner 205 receives at least one predicted target from the predicted target detector 203 , compares the information about the at least one predicted target with the information 211 about the actual target, and determines suitability to at least Detects at least one final target among one expected target. For example, the information about the actual target may be target position information on a display unit (not shown) selected by the operator. And the final target determination unit 205 outputs the detected final target to the target tracking unit 213 . For example, the final target may be a manual target selected by the operator.

이때, 최종 표적 결정부(205)는 앵커 박스(Anchor Box)를 이용하여 적어도 하나의 예상 표적 중에서 적어도 하나의 최종 후보 표적을 탐지하고, 탐지된 최종 후보 표적에 관한 정보와 실제 표적에 관한 정보를 비교하여 적어도 하나의 최종 후보 표적에서 최종 표적을 탐지한다. At this time, the final target determiner 205 detects at least one final candidate target from among at least one predicted target using an anchor box, and obtains information about the detected final candidate target and information about the actual target. comparing to detect a final target in at least one final candidate target.

좀 더 자세히 설명하면, 최종 표적 결정부(205)는, 도 3에 도시된 바와 같이, 레이더 비디오 영상(301) 내에서 주변의 RGB(Red, Green, Blue) 값(화소값)보다 큰 값을 가지는 구역(305)을 박스(303)로 표기한다. 이러한 박스(303)가 앵커 박스라고 불린다. 이때, 최종 표적 결정부(205)는 앵커 박스를 정확하게 표기하기 위해 레이더 비디오 영상에서 RGB 값에 혼동을 주는 레이더 노이즈를 제거한다. 그리고 최종 표적 결정부(205)는 최소 및 최대 표적의 크기를 설정하여 노이즈와 지형 중 어느 하나도 표적으로 인식되지 않도록 한다. 그리고 예상 표적 탐지부(203)에서 입력된, 연속적으로 탐지되지 않은 예상 표적은 노이즈일 확률이 높으므로, 최종 표적 결정부(205)는 축적된 데이터를 기반으로 예상 표적을 최종 후보 표적으로 결정할지 여부를 판단한다.More specifically, as shown in FIG. 3 , the final target determiner 205 selects a value larger than the surrounding RGB (Red, Green, Blue) values (pixel values) in the radar video image 301 . The branch area 305 is marked with a box 303 . This box 303 is called an anchor box. In this case, the final target determiner 205 removes radar noise that confuses the RGB values in the radar video image in order to accurately mark the anchor box. In addition, the final target determiner 205 sets minimum and maximum target sizes so that neither noise nor terrain is recognized as a target. And, since the predicted target that is not continuously detected and input from the predicted target detection unit 203 has a high probability of being noise, the final target determiner 205 determines whether the expected target is the final candidate target based on the accumulated data. decide whether

예를 들면, 최종 표적 결정부(205)는, 도 4의 401 화면과 같이, 레이더 비디오 영상에 노이즈가 심한 경우, 노이즈를 최종 후보 표적으로 인식할 수 있다. 그리고 최종 표적 결정부(205)는, 도 4의 402 화면과 같이, 레이더 비디오 영상에 노이즈가 적은 경우, 노이즈를 최종 후보 표적으로 인식할 수 있다. 또한, 최종 표적 결정부(205)는, 도 4의 403 화면과 같이, 지형을 최종 후보 표적으로 인식할 수 있다.For example, the final target determiner 205 may recognize the noise as the final candidate target when the radar video image is noisy as shown in screen 401 of FIG. 4 . In addition, the final target determiner 205 may recognize the noise as a final candidate target when there is little noise in the radar video image as shown in screen 402 of FIG. 4 . In addition, the final target determiner 205 may recognize the terrain as the final candidate target as shown in screen 403 of FIG. 4 .

표적 추적부(213)는 최종 표적 결정부(205)로부터 적어도 하나의 최종 표적을 입력받고, IOU(Intersection-Over-Union) 추적기(Tracker)를 이용하여 적어도 하나의 최종 표적을 추적하여 레이더 비디오 스캔 주기마다 적어도 하나의 최종 표적에 대한 운동 정보를 생성 및 갱신한다. 예를 들면, IOU는 객체의 면적을 이용하여 유사도를 나타내는 객체 탐지 정확도 지표일 수 있다. The target tracking unit 213 receives at least one final target from the final target determiner 205 and tracks the at least one final target using an Intersection-Over-Union (IOU) tracker to scan the radar video. It generates and updates motion information for at least one final target every cycle. For example, the IOU may be an object detection accuracy index indicating similarity using the area of the object.

좀 더 자세히 설명하면, 표적 추적부(213)는 IOU를 이용하여 레이더 비디오 영상 내에서 특정 최종 표적에 대한 제1객체와 레이더 비디오 스캔 주기가 경과한 이후의 특정 최종 표적에 대한 제2객체 간의 IOU를 계산하여 특정 최종 표적을 추적한다. 이때, 표적 추적부(213)는 다음과 같은 수학식 1을 이용하여 특정 최종 표적을 추적한다.In more detail, the target tracking unit 213 uses the IOU between the first object for the specific final target in the radar video image and the second object for the specific final target after the radar video scan period has elapsed. to track a specific final target. In this case, the target tracking unit 213 tracks a specific final target using Equation 1 as follows.

Figure 112021097082070-pat00001
Figure 112021097082070-pat00001

여기서, a는 특정 최종 표적에 대한 제1객체를 나타내며, b는 특정 최종 표적에 대한 제2객체를 나타낸다. Area(a)는 제1객체의 면적을 나타내며, Area(b)는 제2객체의 면적을 나타낸다.Here, a denotes a first object for a specific final target, and b denotes a second object for a specific final target. Area(a) represents the area of the first object, and Area(b) represents the area of the second object.

도 5는 본 발명의 일 실시 예에 따른 표적 추적부(213)에서 표적을 추적하는 시나리오를 도시한 도면이다.5 is a diagram illustrating a scenario in which the target tracking unit 213 tracks a target according to an embodiment of the present invention.

도 5를 참조하면, 501 화면에서, 표적 추적부(213)는 제1레이더 비디오 스캔 주기에서 최종 표적에 대응하는 제1객체를 탐지한다. 예를 들면, 최종 표적은 운용자에 의해 선택된 수동 표적일 수 있다. Referring to FIG. 5 , on screen 501 , the target tracking unit 213 detects a first object corresponding to the final target in the first radar video scan period. For example, the final target may be a manual target selected by the operator.

그리고 표적 추적부(213)는, 503 화면에서, IOU 추적기를 이용하여 제2레이더 비디오 스캔 주기에서 최종 표적에 대응하는 제2객체를 탐지한다. 그리고 표적부(213)는 제1객체의 제1앵커 박스와 제2객체의 제2앵커 박스 간의 방향 및 생성 시각을 비교하여 최종 표적에 대한 속도와 침로를 계산하고, 속도와 침로 등을 포함하는 최종 표적의 운동 정보를 생성한다. And, the target tracking unit 213 detects a second object corresponding to the final target in the second radar video scan period using the IOU tracker in the 503 screen. And the target unit 213 compares the direction and creation time between the first anchor box of the first object and the second anchor box of the second object to calculate the speed and course for the final target, including the speed and course, etc. Generates motion information of the final target.

또한, 표적 추적부(213)는, 505 화면에서, IOU 추적기를 이용하여 제3레이더 비디오 스캔 주기에서 최종 표적에 대응하는 제3객체를 탐지한다. 그리고 표적부(213)는 제2객체의 제2앵커 박스와 제3객체의 제3앵커 박스 간의 방향 및 생성 시각을 비교하여 최종 표적에 대한 속도와 침로를 계산하고, 속도와 침로 등을 포함하는 최종 표적의 운동 정보를 갱신한다.Also, in the 505 screen, the target tracking unit 213 detects a third object corresponding to the final target in the third radar video scan period using the IOU tracker. And the target unit 213 calculates the speed and course for the final target by comparing the direction and creation time between the second anchor box of the second object and the third anchor box of the third object, including the speed and course, etc. Update the motion information of the final target.

즉, 표적 추적부(213)는 이러한 동작을 반복하여, 레이더 비디오 스캔 주기마다 최종 표적의 운동 정보를 생성 및 갱신한다.That is, the target tracking unit 213 repeats this operation to generate and update the motion information of the final target every radar video scan period.

도 7은 본 발명의 일 실시 예에 따른 다기능 콘솔 단말기에서 수동 표적을 전시하는 흐름도이다.7 is a flowchart of displaying a passive target in a multi-function console terminal according to an embodiment of the present invention.

도 7을 참조하면, 레이더 비디오 분석부(103)는, 701 단계에서, 딥러닝 알고리즘을 이용하여 레이더 비디오 영상의 패턴을 분석하여 식별함으로써 인공지능 알고리즘을 학습시킨다. Referring to FIG. 7 , in step 701 , the radar video analysis unit 103 learns an artificial intelligence algorithm by analyzing and identifying a pattern of a radar video image using a deep learning algorithm.

703 단계에서, 레이더 비디오 분석부(103)는 학습된 인공지능 알고리즘을 이용하여 레이더 비디오 영상에서 물표를 식별하여 분류한다. 예를 들면, 레이더 비디오 분석부(103)의 인공지능부(203)는 레이더 비디오 영상에서 패턴을 분석하여 예상 표적을 탐지한다. 예를 들면, 인공지능부(203)는 레이더 비디오 영상에서 패턴을 분석하여 물표로 예상되는 적어도 하나의 패턴을 식별하고, 식별된 패턴을 예상 표적으로 결정할 수 있다. 이때, 인공지능부(203)는 RNN의 LSTM 모델을 이용하여 적어도 하나의 예상 표적을 탐지할 수 있다.In step 703, the radar video analysis unit 103 identifies and classifies a target in the radar video image using the learned artificial intelligence algorithm. For example, the artificial intelligence unit 203 of the radar video analysis unit 103 detects a predicted target by analyzing a pattern in the radar video image. For example, the artificial intelligence unit 203 may analyze a pattern in a radar video image to identify at least one pattern expected as a target, and determine the identified pattern as an expected target. In this case, the artificial intelligence unit 203 may detect at least one predicted target using the LSTM model of the RNN.

705 단계에서, 수동 표적 생성부(105)는 운용자에 의해 수동 표적 생성이 요청되는지 여부를 확인한다. 예를 들면, RAM 표적 생성 버튼이 눌러지면, 수동 표적 생성부(105)는 수동 표적의 생성이 요청된 것으로 결정할 수 있다. In step 705 , the manual target generation unit 105 determines whether manual target generation is requested by the operator. For example, when the RAM target generation button is pressed, the manual target generation unit 105 may determine that generation of the manual target is requested.

확인 결과, 수동 표적의 생성이 요청되면, 수동 표적 생성부(105)는 707 단계로 진행하고, 그렇지 않으면, 705 단계를 반복적으로 수행한다.As a result of the check, if generation of the manual target is requested, the manual target generation unit 105 proceeds to step 707 , otherwise, step 705 is repeatedly performed.

707 단계에서, 표적 정보 전시부(113)는 레이더 비디오 영상 상에 수동 표적의 기호를 전시하고, 수동 표적에 대한 표적 정보를 전시한다. In step 707, the target information display unit 113 displays the sign of the passive target on the radar video image, and displays target information on the passive target.

좀 더 자세히 설명하면, 표적 위치 전송부(107)는 수동 표적 생성부(105)로부터 레이더 비디오 영상 상에서 운용자에 의해 선택된 물표의 위치 정보(예를 들면, 마우스 커서 위치 정보)를 입력받고, 입력된 물표의 위치 정보를 이용하여 자함을 기준으로 하는 수동 표적의 최초 위치 정보(예를 들면, 위도 및 경도 정보) 및 수동 표적의 최초 생성 시각을 계산한다. 그리고 표적 위치 전송부(107)는 수동 표적의 최초 위치 정보 및 최초 생성 시각을 표적 정보 입력부(109)로 출력한다.In more detail, the target position transmitter 107 receives the position information (eg, mouse cursor position information) of the target selected by the operator on the radar video image from the manual target generation unit 105, and The initial position information (eg, latitude and longitude information) of the passive target based on the self-ship and the initial creation time of the manual target are calculated using the position information of the target. In addition, the target position transmitter 107 outputs the initial position information and the initial creation time of the passive target to the target information input unit 109 .

표적 정보 입력부(109)는 표적 위치 전송부(107)로부터 수동 표적의 최초 위치 정보 및 최초 생성 시각을 입력받고, 입력된 수동 표적의 최초 위치 정보 및 최초 생성 시각을 이용하여 수동 표적(RAM 표적)에 대한 표적 정보를 생성한다. The target information input unit 109 receives the initial position information and the initial creation time of the manual target from the target position transmitter 107, and uses the input initial position information and the initial creation time of the manual target to generate a manual target (RAM target) Generate target information for

표적 정보 전시부(113)는 표적 정보 입력부(109)로부터 수동 표적의 생성된 표적 정보 또는 갱신된 표적 정보를 입력받고, 입력된 표적 정보를 표시부(미도시) 상에 전시한다.The target information display unit 113 receives generated target information or updated target information of the passive target from the target information input unit 109 , and displays the input target information on a display unit (not shown).

709 단계에서, 레이더 비디오 분석부(103)는 운용자에 의해 선택된 물표의 위치 정보를 이용으로 레이더 비디오 영상에서 수동 표적을 식별한다. In step 709, the radar video analysis unit 103 identifies a passive target in the radar video image by using the location information of the target selected by the operator.

좀 더 자세히 설명하면, 레이더 비디오 분석부(103)의 최종 표적 결정부(205)는 실제 표적 정보를 이용하여 예상 표적을 최종 표적으로 결정한다. 예를 들면, 최종 표적 결정부(205)는 앵커 박스에 노이즈와 최소 및 최대 표적 크기를 적용하여 적어도 하나의 예상 표적 중에서 적어도 하나의 예상 표적을 제외하여 최종 후보 표적을 결정할 수 있다. 그리고 최종 표적 결정부(205)는 최종 후보 표적에 관한 정보과 실제 표적 정보를 이용하여 최종 후보 표적에서 최종 표적을 결정할 수 있다. 예를 들면, 결정된 최종 표적이 수동 표적이 될 수 있다. 예를 들면, 실제 표적 정보는 레이더 비디오 영상 상에서 운용자에 의해 선택된 물표의 위치 정보일 수 있다. In more detail, the final target determiner 205 of the radar video analyzer 103 determines the expected target as the final target using actual target information. For example, the final target determiner 205 may determine a final candidate target by excluding at least one predicted target from among at least one predicted target by applying noise and minimum and maximum target sizes to the anchor box. In addition, the final target determiner 205 may determine the final target from the final candidate target by using the information on the final candidate target and the actual target information. For example, the final target determined may be a passive target. For example, the actual target information may be location information of a target selected by an operator on a radar video image.

예를 들면, 최종 표적 결정부(205)는 레이더 비디오 영상 상의 최종 후보 표적의 위치 정보와 레이더 비디오 영상 상의 물표의 위치 정보를 비교할 수 있다. 비교 결과, 최종 후보 표적의 위치 정보와 물표의 위치 정보가 동일하면, 최종 후보 표적을 최종 표적으로 결정하고, 그렇지 않으면, 다음 최종 후보 표적의 위치 정보와 물표의 위치 정보를 비교하는 동작을 반복 수행할 수 있다. 만일, 모든 최종 후보 표적의 위치 정보가 물표의 위치 정보와 동일하지 않은 경우, 최종 표적 결정부(205)는 운용자에 의해 선택된 물표에 대응하는 수동 표적이 레이더 비디오 영상 내에 존재하지 않다는 메시지를 표시할 수 있다.For example, the final target determiner 205 may compare the position information of the final candidate target on the radar video image with the position information of the target on the radar video image. As a result of the comparison, if the position information of the final candidate target and the position information of the target are the same, the final candidate target is determined as the final target, otherwise, the operation of comparing the position information of the next final candidate target with the position information of the target is repeatedly performed can do. If the position information of all the final candidate targets is not the same as the position information of the target, the final target determiner 205 displays a message that the manual target corresponding to the target selected by the operator does not exist in the radar video image. can

711 단계에서, 레이더 비디오 분석부(103)는 식별된 수동 표적에 대한 객체 정보와 미리 지정된 레이더 비디오 스캔 주기 후의 식별된 수동 표적에 대한 객체 정보를 기반으로 수동 표적의 운동 정보를 생성 및 갱신한다. 예를 들면, 객체 정보는 객체를 포함하는 앵커 박스가 될 수 있다. In step 711 , the radar video analysis unit 103 generates and updates motion information of the passive target based on object information on the identified passive target and object information on the identified passive target after a predetermined radar video scan period. For example, the object information may be an anchor box including the object.

예를 들면, 레이더 비디오 분석부(103)의 표적 추적부(213)는, 도 5의 501 화면과 같이, 제1레이더 비디오 스캔 주기에서 수동 표적에 대응하는 제1객체를 탐지할 수 있다. 그리고 표적 추적부(213)는, 503 화면과 같이, IOU 추적기를 이용하여 제2레이더 비디오 스캔 주기에서 수동 표적에 대응하는 제2객체를 탐지할 수 있다. 그리고 표적부(213)는 제1객체의 제1앵커 박스와 제2객체의 제2앵커 박스의 방향 및 생성 시각을 비교하여 수동 표적에 대한 속도와 침로를 계산하고, 속도와 침로 등을 포함하는 수동 표적의 운동 정보를 생성 및 갱신할 수 있다. For example, the target tracking unit 213 of the radar video analyzer 103 may detect a first object corresponding to the passive target in the first radar video scan period as shown in screen 501 of FIG. 5 . In addition, the target tracking unit 213 may detect a second object corresponding to the passive target in the second radar video scan period using the IOU tracker as shown in screen 503. And the target unit 213 compares the direction and creation time of the first anchor box of the first object and the second anchor box of the second object to calculate the speed and course for the manual target, including the speed and course, etc. It is possible to generate and update motion information of a passive target.

713 단계에서, 표적 정보 입력부(109)는 갱신된 수동 표적의 운동 정보를 기반으로 수동 표적의 위치 정보를 갱신한다. In step 713 , the target information input unit 109 updates the location information of the passive target based on the updated motion information of the passive target.

715 단계에서, 표적 정보 전시부(113)는 갱신된 수동 표적의 위치 정보를 기반으로 수동 표적을 전시한다. 예를 들면, 표적 정보 전시부(113)는 도 6의 화면(601) 같이, 수동 표적의 기호(603)와 표적 정보를 전시할 수 있다.In step 715 , the target information display unit 113 displays the passive target based on the updated manual target position information. For example, the target information display unit 113 may display a sign 603 of a passive target and target information, like the screen 601 of FIG. 6 .

이러한 구성 및 과정을 통해, 본 발명의 일 실시 예는 다기능 콘솔 화면을 계속해서 주시하면서 레이더가 표적화하지 못한 물표를 지속적으로 수동으로 표적을 생성/ 갱신하는 운용자의 개입을 최소화할 수 있다. 그리고 본 발명의 일 실시 예는 운용자의 숙련도에 상관없이 수동 표적을 신속하고 정확하게 추적할 수 있다.Through such a configuration and process, an embodiment of the present invention can minimize the intervention of an operator who continuously manually creates/renews a target that is not targeted by the radar while continuously watching the multi-function console screen. And one embodiment of the present invention can quickly and accurately track a manual target regardless of the skill level of the operator.

이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.In the above, preferred embodiments of the present invention have been illustrated and described, but the present invention is not limited to the specific embodiments described above, and it is common in the technical field to which the present invention pertains without departing from the gist of the present invention as claimed in the claims. Various modifications may be made by those having the knowledge of, of course, and these modifications should not be individually understood from the technical spirit or perspective of the present invention.

101: 레이더 비디오 입력부
103: 레이더 비디오 분석부
105: 수동 표적 생성부
107: 표적 위치 전송부
109: 표적 정보 입력부
111: 레이더 비디오 전시부
113: 표적 정보 전시부
115: 전자 해도 전시부101: radar video input unit
103: radar video analysis unit
105: manual target generation unit
107: target position transmitter
109: target information input unit
111: Radar Video Exhibition
113: target information display unit
115: electronic chart display unit

Claims (6)

운용자로부터 수동 표적의 생성 요청을 입력받는 수동 표적 생성부;
딥러닝 알고리즘을 이용하여 복수의 레이더 비디오 영상들에 포함된 복수의 패턴들을 분석함으로써 인공지능 알고리즘을 학습하며, 상기 학습된 인공지능 알고리즘을 이용하여 레이더 비디오 영상에서 복수의 패턴들을 식별하여 분류하고, 상기 수동 표적의 위치 정보를 이용하여 상기 패턴들 중에서 상기 수동 표적에 대응하는 패턴을 식별하며, 미리 지정된 레이더 비디오 스캔 주기마다 상기 수동 표적에 대응하는 이전 패턴과 현재 패턴을 이용하여 상기 수동 표적의 운동 정보를 생성 및 갱신하는 레이더 비디오 분석부; 및
상기 운용자로부터 입력된 표시부 상의 상기 수동 표적의 위치 정보를 이용하여 상기 수동 표적을 생성하여 상기 표시부 상에 전시하고, 상기 레이더 비디오 스캔 주기마다 상기 수동 표적의 상기 운동 정보를 이용하여 상기 수동 표적의 위치 및 표적 정보를 갱신하는 표적 정보 전시부를 포함하고,
상기 레이더 비디오 분석부는,
RNN의 LSTM 모델을 기반으로 상기 레이더 비디오 영상 내에서 상기 패턴들을 분석 및 식별하여 복수의 예상 표적들을 탐지하는 예상 표적 탐지부;
상기 예상 표적들에 대응하는 복수의 앵커 박스들을 생성하며, 상기 앵커 박스들 각각에 표적의 최대 및 최소 크기 및 레이더 장치의 노이즈를 적용하여 상기 복수의 예상 표적들 중에서 적어도 하나의 예상 표적을 선택하고, 상기 선택된 예상 표적을 최종 후보 표적으로 결정하며, 상기 최종 후보 표적에 대한 픽셀 정보와 상기 수동 표적의 픽셀 정보를 이용하여 상기 최종 후보 표적에서 최종 표적을 선택하고, 상기 선택된 최종 표적을 상기 수동 표적으로 결정하는 최종 표적 결정부; 및
상기 레이더 비디오 스캔 주기마다 IOU 추적기를 이용하여 상기 수동 표적을 추적하는 표적 추적부를 포함하는 것을 특징으로 하는 콘솔 단말기에서 수동 표적을 추적하는 장치.
a manual target generating unit receiving a request for generating a manual target from an operator;
An artificial intelligence algorithm is learned by analyzing a plurality of patterns included in a plurality of radar video images using a deep learning algorithm, and a plurality of patterns are identified and classified in a radar video image using the learned artificial intelligence algorithm, A pattern corresponding to the passive target is identified from among the patterns by using the location information of the passive target, and movement of the passive target using a previous pattern and a current pattern corresponding to the passive target at every predetermined radar video scan period a radar video analysis unit for generating and updating information; and
The manual target is generated by using the position information of the passive target on the display unit input from the operator and displayed on the display unit, and the position of the manual target using the motion information of the passive target at every radar video scan period and a target information display unit for updating target information,
The radar video analysis unit,
a predicted target detector for detecting a plurality of predicted targets by analyzing and identifying the patterns in the radar video image based on the LSTM model of the RNN;
generating a plurality of anchor boxes corresponding to the predicted targets, and selecting at least one predicted target from among the plurality of predicted targets by applying a maximum and minimum size of a target and a noise of a radar device to each of the anchor boxes; , determine the selected expected target as a final candidate target, select a final target from the final candidate target using pixel information of the last candidate target and pixel information of the passive target, and select the selected final target as the passive target The final target determination unit to determine; and
and a target tracking unit for tracking the passive target by using an IOU tracker for each radar video scan period.
 삭제delete 제1항에 있어서,
상기 레이더 비디오 분석부는,
상기 이전 패턴의 제1앵커 박스와 상기 현재 패턴의 제2앵커 박스 간의 방향 및 생성 시각을 이용하여 상기 수동 표적의 방향 및 침로를 계산하고, 상기 계산된 방향 및 침로를 포함하는 상기 운동 정보를 생성하는 것을 특징으로 하는 콘솔 단말기에서 수동 표적을 추적하는 장치.
According to claim 1,
The radar video analysis unit,
The direction and course of the passive target are calculated using the direction and generation time between the first anchor box of the previous pattern and the second anchor box of the current pattern, and the motion information including the calculated direction and course is generated. A device for tracking a passive target in a console terminal, characterized in that.
 레이더 비디오 분석부가, 딥러닝 알고리즘을 이용하여 복수의 레이더 비디오 영상들에 포함된 복수의 패턴들을 분석함으로써 인공지능 알고리즘을 학습하는 과정,
상기 레이더 비디오 분석부가, 상기 학습된 인공지능 알고리즘을 이용하여 레이더 비디오 영상에서 복수의 패턴들을 식별하여 분류하는 과정,
수동 표적 생성부가, 운용자로부터 수동 표적의 생성 요청을 입력받는 과정,
표적 정보 전시부가, 상기 운용자로부터 입력된 표시부 상의 상기 수동 표적의 위치 정보를 이용하여 상기 수동 표적을 생성하여 상기 표시부 상에 전시하는 과정,
상기 레이더 비디오 분석부가, 상기 수동 표적의 위치 정보를 이용하여 상기 패턴들 중에서 상기 수동 표적에 대응하는 패턴을 식별하는 과정,
상기 레이더 비디오 분석부가, 미리 지정된 레이더 비디오 스캔 주기마다 상기 수동 표적에 대응하는 이전 패턴과 현재 패턴을 이용하여 상기 수동 표적의 운동 정보를 생성 및 갱신하는 과정, 및
상기 표적 정보 전시부가, 상기 레이더 비디오 스캔 주기마다 상기 수동 표적의 상기 운동 정보를 이용하여 상기 수동 표적의 위치 및 표적 정보를 갱신하는 과정을 포함하고,
상기 수동 표적에 대응하는 패턴을 식별하는 과정은,
예상 표적 탐지부가, RNN의 LSTM 모델을 기반으로 상기 레이더 비디오 영상 내에서 상기 패턴들을 분석 및 식별하여 복수의 예상 표적들을 탐지하는 과정,
최종 표적 결정부가, 상기 예상 표적들에 대응하는 복수의 앵커 박스들을 생성하는 과정,
상기 최종 표적 결정부가, 상기 앵커 박스들 각각에 표적의 최대 및 최소 크기 및 레이더 장치의 노이즈를 적용하여 상기 복수의 예상 표적들 중에서 적어도 하나의 예상 표적을 선택하고, 상기 선택된 예상 표적을 최종 후보 표적으로 결정하는 과정,
상기 최종 표적 결정부가, 상기 최종 후보 표적에 대한 픽셀 정보와 상기 수동 표적의 픽셀 정보를 이용하여 상기 최종 후보 표적에서 최종 표적을 선택하고, 상기 선택된 최종 표적을 상기 수동 표적으로 결정하는 과정, 및
표적 추적부가, 상기 레이더 비디오 스캔 주기마다 IOU 추적기를 이용하여 상기 수동 표적을 추적하는 과정을 포함하는 것을 특징으로 하는 콘솔 단말기에서 수동 표적을 추적하는 방법.
A process of learning an artificial intelligence algorithm by the radar video analysis unit analyzing a plurality of patterns included in a plurality of radar video images using a deep learning algorithm;
A process of identifying and classifying, by the radar video analysis unit, a plurality of patterns in a radar video image using the learned artificial intelligence algorithm;
A process in which the manual target generating unit receives a request for generating a manual target from an operator;
A process in which the target information display unit generates the manual target by using the location information of the manual target on the display unit input from the operator and displays the manual target on the display unit;
A process of identifying, by the radar video analysis unit, a pattern corresponding to the passive target from among the patterns by using the location information of the passive target;
generating and updating, by the radar video analysis unit, motion information of the passive target by using a previous pattern and a current pattern corresponding to the passive target every predetermined radar video scan period; and
and updating, by the target information display unit, the position and target information of the passive target by using the motion information of the passive target at every radar video scan period,
The process of identifying a pattern corresponding to the passive target,
A process in which a predicted target detector detects a plurality of predicted targets by analyzing and identifying the patterns in the radar video image based on the LSTM model of the RNN;
The process of generating, by the final target determiner, a plurality of anchor boxes corresponding to the predicted targets;
The final target determiner selects at least one expected target from among the plurality of expected targets by applying the maximum and minimum sizes of the target and the noise of the radar device to each of the anchor boxes, and selects the selected expected target as the final candidate target the process of determining
a process in which the final target determiner selects a final target from the final candidate targets by using pixel information on the final candidate target and pixel information of the passive target, and determines the selected final target as the passive target; and
A method for tracking a passive target in a console terminal, comprising: a target tracking unit, tracking the passive target by using an IOU tracker for every radar video scan cycle.
 삭제delete 제4항에 있어서,
상기 수동 표적의 운동 정보를 생성 및 갱신하는 과정은,
상기 이전 패턴의 제1앵커 박스와 상기 현재 패턴의 제2앵커 박스 간의 방향 및 생성 시각을 이용하여 상기 수동 표적의 방향 및 침로를 계산하는 과정, 및
상기 계산된 방향 및 침로를 포함하는 상기 운동 정보를 생성하는 과정을 포함하는 것을 특징으로 하는 콘솔 단말기에서 수동 표적을 추적하는 방법.5. The method of claim 4,
The process of generating and updating the motion information of the passive target is,
calculating the direction and course of the passive target by using the direction and creation time between the first anchor box of the previous pattern and the second anchor box of the current pattern; and
and generating the motion information including the calculated direction and course.
KR1020210111156A 2021-08-23 2021-08-23 Apparatus and method for tracking a manual target using AI learning technique in the console terminal KR102340184B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210111156A KR102340184B1 (en) 2021-08-23 2021-08-23 Apparatus and method for tracking a manual target using AI learning technique in the console terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210111156A KR102340184B1 (en) 2021-08-23 2021-08-23 Apparatus and method for tracking a manual target using AI learning technique in the console terminal

Publications (1)

Publication Number Publication Date
KR102340184B1 true KR102340184B1 (en) 2021-12-17

Family

ID=79033713

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210111156A KR102340184B1 (en) 2021-08-23 2021-08-23 Apparatus and method for tracking a manual target using AI learning technique in the console terminal

Country Status (1)

Country Link
KR (1) KR102340184B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102488429B1 (en) * 2022-09-01 2023-01-13 한화시스템(주) System and method for providing naval gun firing specifications based on deep learning

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101960667B1 (en) * 2018-08-31 2019-07-15 주식회사 텍트원 Suspect Tracking Apparatus and Method In Stored Images
KR102130566B1 (en) * 2019-10-02 2020-07-06 한화시스템 주식회사 Apparatus for managing target of next generation battleship
KR20200095888A (en) * 2019-02-01 2020-08-11 한국전자통신연구원 Method for context awareness of unmanned ship system and apparatus for the same
KR20210055904A (en) * 2019-11-08 2021-05-18 삼성중공업 주식회사 Apparatus for electronic surveillance of voyage

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101960667B1 (en) * 2018-08-31 2019-07-15 주식회사 텍트원 Suspect Tracking Apparatus and Method In Stored Images
KR20200095888A (en) * 2019-02-01 2020-08-11 한국전자통신연구원 Method for context awareness of unmanned ship system and apparatus for the same
KR102130566B1 (en) * 2019-10-02 2020-07-06 한화시스템 주식회사 Apparatus for managing target of next generation battleship
KR20210055904A (en) * 2019-11-08 2021-05-18 삼성중공업 주식회사 Apparatus for electronic surveillance of voyage

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102488429B1 (en) * 2022-09-01 2023-01-13 한화시스템(주) System and method for providing naval gun firing specifications based on deep learning

Similar Documents

Publication Publication Date Title
US7239719B2 (en) Automatic target detection and motion analysis from image data
US6404455B1 (en) Method for tracking entering object and apparatus for tracking and monitoring entering object
CN112288742A (en) Navigation method and device for ultrasonic probe, storage medium and electronic equipment
JP2001160144A (en) Image recognizing device
JP2008537815A (en) Pose estimation based on critical point analysis
CN110572636B (en) Camera contamination detection method and device, storage medium and electronic equipment
US11403842B2 (en) Simulator to simulate target detection and recognition
JP7334801B2 (en) LEARNING DEVICE, LEARNING METHOD AND LEARNING PROGRAM
CN111354022B (en) Target Tracking Method and System Based on Kernel Correlation Filtering
CN110136186B (en) Detection target matching method for mobile robot target ranging
US20020136455A1 (en) System and method for robust foreground and background image data separation for location of objects in front of a controllable display within a camera view
KR102340184B1 (en) Apparatus and method for tracking a manual target using AI learning technique in the console terminal
JP2009026223A (en) Object detector and program
EP3872523A1 (en) System and method for constructing fused tracks from radar detections
JPH1144533A (en) Preceding vehicle detector
JP2012198802A (en) Intrusion object detection system
US11393189B2 (en) Method to simulate target detection and recognition
CN111474916A (en) Ship navigation autonomous collision avoidance algorithm testing method and device
CN114846513A (en) Motion analysis system and motion analysis program
US20200089822A1 (en) User interface to simulate target detection and recognition
US20220092829A1 (en) Augmented reality detection for locating autonomous vehicles
US20230080978A1 (en) Machine learning method and information processing apparatus for machine learning
CN110892449A (en) Image processing method and device and mobile device
JPH0345898A (en) Image identifying and tracing apparatus
US10580144B2 (en) Method and system for tracking holographic object

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant