KR102383966B1 - Video surveillance system and method for composing, presenting, retrieving and controlling multi-channel video data and sensor data - Google Patents

Video surveillance system and method for composing, presenting, retrieving and controlling multi-channel video data and sensor data Download PDF

Info

Publication number
KR102383966B1
KR102383966B1 KR1020210055875A KR20210055875A KR102383966B1 KR 102383966 B1 KR102383966 B1 KR 102383966B1 KR 1020210055875 A KR1020210055875 A KR 1020210055875A KR 20210055875 A KR20210055875 A KR 20210055875A KR 102383966 B1 KR102383966 B1 KR 102383966B1
Authority
KR
South Korea
Prior art keywords
image data
data
sensing
sensing data
monitoring
Prior art date
Application number
KR1020210055875A
Other languages
Korean (ko)
Inventor
임승천
심병삼
조규득
Original Assignee
주식회사 에이스티앤비
(주) 이론시스템
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 에이스티앤비, (주) 이론시스템 filed Critical 주식회사 에이스티앤비
Application granted granted Critical
Publication of KR102383966B1 publication Critical patent/KR102383966B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/274Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Alarm Systems (AREA)

Abstract

The present disclosure relates to an integrated image monitoring system and method thereof for the synthesis, expression, search and control of multichannel image data and sensor data. The integrated image monitoring system includes: an image data recording part receiving image data acquired from a plurality of cameras photographing a predetermined area; a sensing data receiving part receiving sensing data acquired from a plurality of sensors sensing information related with the weather or environment of the predetermined area; and a monitoring image data generation part visualizing the received sensing data to generate sensing image data, and synchronizing the received image data with the generated sensing image data to generate monitoring image data. Therefore, the present invention is capable of effectively preventing a natural disaster by minimizing the occurrence of errors.

Description

다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템 및 방법{VIDEO SURVEILLANCE SYSTEM AND METHOD FOR COMPOSING, PRESENTING, RETRIEVING AND CONTROLLING MULTI-CHANNEL VIDEO DATA AND SENSOR DATA}An integrated video surveillance system and method for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data

본 개시는 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템 및 방법에 관한 것으로, 구체적으로 산업현장, 재해현장 등에 분산 설치되어 있는 카메라 및 센서 등에 의해 수집되는 다양한 영상 데이터와 센서 데이터를 효율적으로 합성 및 분석하는 방법 및 시스템에 관한 것이다.The present disclosure relates to an integrated video surveillance system and method for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data, and specifically, to various A method and system for efficiently synthesizing and analyzing image data and sensor data.

일반적으로 스마트팜, 빌딩자동화 시스템, 물관리 자동화시스템 등이 설치된 다양한 산업현장에서 다양한 센서, 측정, 제어 장비가 설치되어 있고, 관리 지역에서 센서 등을 통해 전송되는 데이터에 기초해서 설치된 시스템의 제어를 실행하거나 시스템이 설치된 현장의 상황을 실시간 감시된다. 일 예에서, 하천 및 저수지에는 카메라, 수위센서 등이 설치되고, 센서 등에 의해 측정된 수위 변화 정보는 주로 하절기에 폭우로 인한 홍수 등과 같은 자연재해의 발생을 예측하거나 실시간 감지와 대응에 활용되고 있다. 다른 예에서, 하천에 교량이 있는 경우에는 측정되는 하천의 수위는 안전을 위해 차량 등의 교량 통과를 통제하는 지표가 된다.In general, various sensors, measurement, and control equipment are installed in various industrial sites where smart farms, building automation systems, and water management automation systems are installed, and control of the installed system based on data transmitted through sensors in the management area is performed. Real-time monitoring is performed or the situation of the site where the system is installed. In one example, cameras, water level sensors, etc. are installed in rivers and reservoirs, and water level change information measured by the sensors is mainly used for predicting the occurrence of natural disasters such as floods due to heavy rain in summer or real-time detection and response. . In another example, when there is a bridge in a river, the measured water level of the river is an indicator controlling the passage of vehicles, etc., through the bridge for safety.

최근, CCTV 카메라를 이용하여 촬영한 영상을 기반으로 하천 등의 수위 측정 및 감시하는 기술이 발전하고 있다. 이 기술에 따르면, CCTV 카메라에 의해 촬영된 영상과 다른 센서 데이터에 기초하여, CCTV 카메라 주변의 상황 변화를 감지 또는 분석할 수 있다. 이 경우, CCTV 카메라 내부에 설치된 영상 처리 보드에서 영상과 센서 데이터를 합성하여, 합성된 영상 및 데이터를 관리 서버로 전송할 수 있다. Recently, a technology for measuring and monitoring the water level of a river or the like has been developed based on an image captured by a CCTV camera. According to this technology, based on the image captured by the CCTV camera and other sensor data, it is possible to detect or analyze a change in the situation around the CCTV camera. In this case, the image and sensor data are synthesized on the image processing board installed inside the CCTV camera, and the synthesized image and data can be transmitted to the management server.

그러나, CCTV 카메라에 영상 처리 보드가 일체로 설치되어 사용되는 경우, 해당 하드웨어 장비가 열악한 외부 환경에 노출되어 있어 유지 관리에 어려움이 많고, 관련 영상처리 하드웨어 및 소프트웨어 기술의 개선에 따른 장비 교체에도 많은 비용이 소요되는 문제점이 있다. 또한, 최근 스마트팜, 빌딩자동화, 무인 물관리 자동화시스템의 운영에 다수의 센서와 감시용 카메라가 현장에 설치되어 사용되고 있으나, 각기 형태로 생성되는 영상 및 센서 데이터의 통합 관제에 어려움이 있다. However, when the video processing board is installed and used in a CCTV camera, the hardware equipment is exposed to the harsh external environment, making it difficult to maintain and replace the equipment due to the improvement of related image processing hardware and software technology. There is a problem in that it costs money. In addition, although a number of sensors and surveillance cameras are installed and used in the field in recent years for the operation of smart farms, building automation, and unmanned water management automation systems, there is a difficulty in the integrated control of images and sensor data generated in each form.

본 개시는 상기와 같은 문제점을 해결하기 위해, 외부 환경에 노출되어 유지 관리가 필요한 카메라에 구현된 영상촬영 기능과 데이터 합성처리 기능을 분리하고, 다중 채널을 통해 수집된 카메라 영상과 다른 센싱 데이터를 합성 및 통합 처리하고, 통합된 영상을 즉시 저장할 수 있는 일체형 저장장치를 이용하여 재난 상황실에 구축이 가능한 기술을 제공한다. 본 개시의 기술에 따르면, 영상 데이터 및 센싱 데이터의 통합 영상 감시 시스템을 감시 현장에 설치하지 않고 상황 관제실에 설치함으로써, 해당 시스템을 외부 환경적 영향으로부터 안전하게 보호할 수 있으며, 외부 환경에 이미 설치된 카메라 및 센서의 교체나 추가적인 설치에 영향을 받지 않는다. 또한, 본 개시의 시스템에서 처리하는 영상과 합성된 각종 센싱 데이터는 외부 환경에서 발생하는 환경 변수의 실시간 변화량을 영상에 중첩되어 표현해주기 때문에, 외부 환경에서 특정 이벤트 발생시 시스템 운영자 또는 관리자가 직관적인 상황대처가 가능하도록 구성할 수 있다.In order to solve the above problems, the present disclosure separates the image capturing function and the data synthesis processing function implemented in the camera that is exposed to the external environment and requires maintenance, and collects the camera image and other sensing data collected through multiple channels. It provides a technology that can be built into a disaster situation room by using an integrated storage device that can synthesize and integrate processing and immediately store the integrated image. According to the technology of the present disclosure, by installing the integrated video monitoring system of video data and sensing data in the situation control room instead of installing it at the monitoring site, the system can be safely protected from external environmental influences, and the camera already installed in the external environment and sensor replacement or additional installation. In addition, since various sensing data synthesized with the image processed by the system of the present disclosure is superimposed on the image to express real-time changes in environmental variables occurring in the external environment, when a specific event occurs in the external environment, the system operator or manager intuitive situation It can be configured to be responsive.

본 개시에 따르면, 예컨데, 급작스런 폭우로 인한 수위 변화 및 수문의 개폐와 같은 긴급 재난 상황 시 수위센서로부터 전달받은 센서데이터가 상황실로 전송되고 현장의 실시간 영상과 결합되어 제공되기 때문에, 영상 모니터링만으로 현장 위기상황에 대한 실시간 감시와 효과적인 대응이 가능하다. 또한, 본 개시의 시스템 및 방법에 따르면, 합성된 영상 및 센싱 데이터의 저장 및 재생이 가능하고, 영상 및 센싱 데이터에 대한 한 개 이상의 채널을 구성하고 원하는 채널을 다양하게 추가할 수 있다.According to the present disclosure, for example, in emergency disaster situations such as water level change due to sudden heavy rain and opening and closing of sluice gates, the sensor data transmitted from the water level sensor is transmitted to the control room and provided in combination with the real-time image of the site. Real-time monitoring and effective response to crisis situations are possible. In addition, according to the system and method of the present disclosure, it is possible to store and reproduce the synthesized image and sensing data, configure one or more channels for the image and sensing data, and variously add desired channels.

일 실시예에 따르면, 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템 및 방법에서, 다양한 장소에 설치되는 수위계, 염도계, 온도계, 풍향계, 습도계, 진동센서와 같은 다양한 계측 및 센서 장비와 시스템을 구동, 작동하는 장비의 데이터를 다채널의 영상과 합성하여 하나 이상의 직관적인 디스플레이 화면으로 표출하여 감시 및 제어가 가능하다.According to an embodiment, in an integrated video monitoring system and method for synthesis, expression, search and control of multi-channel image data and sensor data, a water level meter, salinity meter, thermometer, wind vane meter, hygrometer, and vibration sensor installed in various places It is possible to monitor and control various measurement and sensor equipment and systems by synthesizing the data of the equipment with multi-channel images and displaying it on one or more intuitive display screens.

본 개시는 방법, 시스템 또는 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램을 포함한 다양한 방식으로 구현될 수 있다.The present disclosure may be implemented in various ways including a method, a system, or a computer program stored in a computer-readable recording medium.

본 개시의 일 실시예에 따른 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템은, 미리 정해진 영역을 촬영하는 복수의 카메라로부터 획득된 영상 데이터를 수신하는 영상 데이터 기록부, 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 획득된 센싱 데이터를 수신하는 센싱 데이터 수신부, 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성하고, 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성하는 감시 영상 데이터 생성부를 포함한다.An integrated video surveillance system for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data according to an embodiment of the present disclosure includes image data for receiving image data obtained from a plurality of cameras that photograph a predetermined area A recording unit, a sensing data receiving unit receiving sensing data obtained from a plurality of sensors for sensing weather or environment-related information in a predetermined area, visualizing the received sensing data to generate sensing image data, and generating the received image data and a monitoring image data generating unit generating monitoring image data by synchronizing the sensed image data.

일 실시예에 따르면, 통합 영상 감시 시스템은, 디스플레이 장치로부터 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 생성된 감시 영상 데이터를 디스플레이 장치로 전송하는 감시 영상 관리부를 더 포함한다.According to an exemplary embodiment, the integrated video monitoring system further includes a monitoring image management unit configured to transmit the generated monitoring image data to the display device in response to receiving a request for monitoring image data from the display device.

일 실시예에 따르면, 감시 영상 관리부는 디스플레이 장치로부터 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 디스플레이 장치와 연관된 외부 시스템의 감시 영상 데이터에 대한 요청 권한을 판정한다.According to an embodiment, in response to receiving a request for monitoring image data from the display device, the monitoring image management unit determines a request authority for monitoring image data of an external system associated with the display device.

일 실시예에 따르면, 통합 영상 감시 시스템은, 복수의 센서로부터 획득된 센싱 데이터를 수집하고, 수집된 센싱 데이터를 복수의 채널별로 정렬하는 복수의 RTU(Remote Terminal Unit)로부터 정렬된 센싱 데이터를 수신하고, 채널별로 정렬된 센싱 데이터를 센싱 데이터 수신부로 전송하는 HMI 서버를 더 포함한다.According to an embodiment, the integrated video surveillance system collects sensing data obtained from a plurality of sensors, and receives the sorted sensing data from a plurality of RTUs (Remote Terminal Units) for arranging the collected sensing data by a plurality of channels. and an HMI server that transmits the sensed data sorted by channel to the sensing data receiver.

일 실시예에 따르면, 복수의 RTU는 복수의 센서와 RS-232/485/IO를 포함하는 직렬통신을 이용하여 통신한다.According to one embodiment, the plurality of RTUs communicate using serial communication including a plurality of sensors and RS-232/485/IO.

일 실시예에 따르면, 감시 영상 데이터 생성부는 영상 데이터 및 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하고, 결정된 이상 현상과 연관된 정보를 포함하도록 감시 영상 데이터를 생성한다.According to an embodiment, the monitoring image data generator determines an abnormality in a predetermined area based on the image data and the sensing data, and generates the monitoring image data to include information related to the determined abnormality.

일 실시예에 따르면, 통합 영상 감시 시스템은, 미리 정해진 영역을 촬영하는 복수의 카메라로부터 인코딩된 영상 데이터를 복수의 채널별로 수신하여 정렬하고, 채널별로 정렬된 영상 데이터를 영상 데이터 기록부로 전송하는 NVR(Network Video Recorder)을 더 포함한다.According to an embodiment, the integrated video surveillance system receives and arranges video data encoded by a plurality of channels from a plurality of cameras that photograph a predetermined area, and an NVR that transmits the video data sorted by channels to the video data recorder (Network Video Recorder) is further included.

일 실시예에 따르면, 복수의 카메라는 인터넷에 연결하여 사용할 수 있는 IP 카메라를 포함하고, 영상 데이터 기록부는 복수의 카메라와 네트워크를 통해 통신한다.According to an embodiment, the plurality of cameras includes an IP camera that can be used by connecting to the Internet, and the image data recording unit communicates with the plurality of cameras through a network.

본 개시의 다른 실시예에 따른 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 방법은, 미리 정해진 영역을 촬영하는 복수의 카메라로부터 획득된 영상 데이터를 수신하는 단계, 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 획득된 센싱 데이터를 수신하는 단계, 및 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성하고, 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성하는 단계를 포함한다.An integrated image monitoring method for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data according to another embodiment of the present disclosure includes the steps of: receiving image data obtained from a plurality of cameras photographing a predetermined area; Receiving sensing data obtained from a plurality of sensors for sensing weather or environment-related information in a predetermined area, and generating sensing image data by visualizing the received sensing data, and the received image data and the generated sensing image and generating surveillance image data by synchronizing the data.

본 개시의 또 다른 실시예에 따르면, 통합 영상 감시 방법을 컴퓨터에서 실행하기 위해 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램이 제공된다.According to another embodiment of the present disclosure, there is provided a computer program stored in a computer-readable recording medium for executing an integrated video monitoring method in a computer.

본 개시의 다양한 실시예들에 따르면, 하천 등의 수위 변화를 카메라 촬영 영상을 기초로 실시간으로 감지하고, 기상 또는 환경 변화 데이터를 다양한 센서 데이터를 기초로 측정하여 분석함으로써, 하천 등의 수위 변화에 따른 자연재해 가능성을 예측에 있어서 오차의 발생을 최소화해서 효과적인 자연재해 방지가 가능하다.According to various embodiments of the present disclosure, by detecting a change in water level of a river, etc. in real time based on a camera captured image, and measuring and analyzing weather or environmental change data based on various sensor data, It is possible to effectively prevent natural disasters by minimizing the occurrence of errors in predicting the possibility of natural disasters.

본 개시의 실시예들에 따르면, 통합 영상 감시 시스템에서 하천 등의 수위 변화를 관측하는 영상 촬영 기능과 영상을 처리 및 분석하는 영상처리 기능을 분리함으로써, 외부 환경에 노출되어 지속적인 유지 보수가 필요한 카메라와 소프트웨어의 업데이트가 필요한 영상처리보드를 별도 관리가 가능해지고 관련 유지 관리 비용을 줄일 수 있다.According to embodiments of the present disclosure, by separating an image capturing function for observing a change in water level of a river, etc. and an image processing function for processing and analyzing an image in an integrated video monitoring system, a camera exposed to an external environment and requiring continuous maintenance It is possible to separately manage image processing boards that require software updates and software updates, and reduce related maintenance costs.

본 개시의 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급되지 않은 다른 효과들은 청구범위의 기재로부터 본 개시에 속하는 기술 분야에서 통상의 지식을 가진 자(이하, '통상의 기술자'라 함)에게 명확하게 이해될 수 있을 것이다.The effect of the present disclosure is not limited to the above-mentioned effects, and other effects not mentioned are those of ordinary skill in the art to which the present disclosure belongs from the description of the claims (hereinafter referred to as 'person of ordinary skill') can be clearly understood by

본 개시의 실시예들은, 이하 설명하는 첨부 도면들을 참조하여 설명될 것이며, 여기서 유사한 참조 번호는 유사한 요소들을 나타내지만, 이에 한정되지는 않는다.
도 1은 본 개시의 일 실시예에 따른 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템의 구성을 나타내는 도면이다.
도 2는 본 개시의 일 실시예에 따른 영상 처리 시스템의 내부 구성을 나타내는 블록도이다.
도 3은 본 개시의 일 실시예에 따른 프로세서의 내부 구성을 나타내는 예시적인 블록도이다.
도 4는 본 개시의 다른 실시예에 따른 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템의 구성을 나타내는 도면이다.
도 5는 본 개시의 일 실시예에 따른 현장에 설치된 카메라가 촬영한 영상 데이터의 예시를 나타내는 도면이다.
도 6은 본 개시의 일 실시예에 따른 영상 감시 인터페이스 상에서 데이터 설정 입력창을 출력하는 방법을 설명하기 위한 예시도이다.
도 7은 본 개시의 일 실시예에 따른 영상 감시 인터페이스 상에서 영상 데이터의 화면에 센싱 데이터를 동기화하는 방법을 설명하기 위한 예시도이다.
도 8은 본 개시의 일 실시예에 따른 영상 데이터와 센싱 이미지 데이터를 동기화하여 합성한 감시 영상 데이터의 예시를 나타내는 도면이다.
도 9는 본 개시의 일 실시예에 따른 영상 데이터 및 센싱 데이터에 기초하여 이상 현상 정보를 추출하도록 학습된 인공신경망의 예시를 나타내는 구조도이다.
도 10은 본 개시의 일 실시예에 따른 통합 영상 감시 방법을 나타내는 흐름도이다.
도 11은 본 개시의 일 실시예에 따른 외부 시스템의 요청 권한 판정 방법을 나타내는 흐름도이다.
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Embodiments of the present disclosure will be described with reference to the accompanying drawings described below, in which like reference numerals denote like elements, but are not limited thereto.
1 is a diagram illustrating a configuration of an integrated video surveillance system for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data according to an embodiment of the present disclosure.
2 is a block diagram illustrating an internal configuration of an image processing system according to an embodiment of the present disclosure.
3 is an exemplary block diagram illustrating an internal configuration of a processor according to an embodiment of the present disclosure.
4 is a diagram illustrating the configuration of an integrated video surveillance system for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data according to another embodiment of the present disclosure.
5 is a diagram illustrating an example of image data captured by a camera installed in a field according to an embodiment of the present disclosure.
6 is an exemplary diagram for explaining a method of outputting a data setting input window on a video monitoring interface according to an embodiment of the present disclosure.
7 is an exemplary diagram for explaining a method of synchronizing sensing data to a screen of image data on a video monitoring interface according to an embodiment of the present disclosure.
8 is a diagram illustrating an example of monitoring image data synthesized by synchronizing image data and sensing image data according to an embodiment of the present disclosure.
9 is a structural diagram illustrating an example of an artificial neural network trained to extract anomaly information based on image data and sensing data according to an embodiment of the present disclosure.
10 is a flowchart illustrating an integrated video monitoring method according to an embodiment of the present disclosure.
11 is a flowchart illustrating a method for determining a request authority of an external system according to an embodiment of the present disclosure.

이하, 본 개시의 실시를 위한 구체적인 내용을 첨부된 도면을 참조하여 상세히 설명한다. 다만, 이하의 설명에서는 본 개시의 요지를 불필요하게 흐릴 우려가 있는 경우, 널리 알려진 기능이나 구성에 관한 구체적 설명은 생략하기로 한다.Hereinafter, specific contents for carrying out the present disclosure will be described in detail with reference to the accompanying drawings. However, in the following description, if there is a risk of unnecessarily obscuring the gist of the present disclosure, detailed descriptions of well-known functions or configurations will be omitted.

첨부된 도면에서, 동일하거나 대응하는 구성요소에는 동일한 참조부호가 부여되어 있다. 또한, 이하의 실시예들의 설명에 있어서, 동일하거나 대응하는 구성요소를 중복하여 기술하는 것이 생략될 수 있다. 그러나 구성요소에 관한 기술이 생략되어도, 그러한 구성요소가 어떤 실시예에 포함되지 않는 것으로 의도되지는 않는다.In the accompanying drawings, the same or corresponding components are assigned the same reference numerals. In addition, in the description of the embodiments below, overlapping description of the same or corresponding components may be omitted. However, even if descriptions regarding components are omitted, it is not intended that such components are not included in any embodiment.

개시된 실시예의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 개시는 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 개시가 완전하도록 하고, 본 개시가 통상의 기술자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이다.Advantages and features of the disclosed embodiments, and methods of achieving them, will become apparent with reference to the embodiments described below in conjunction with the accompanying drawings. However, the present disclosure is not limited to the embodiments disclosed below and may be implemented in various different forms, and only the present embodiments allow the present disclosure to be complete, and the present disclosure will provide those of ordinary skill in the art to fully understand the scope of the invention. It is provided only to inform you.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 개시된 실시예에 대해 구체적으로 설명하기로 한다. 본 명세서에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 관련 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.Terms used in this specification will be briefly described, and the disclosed embodiments will be described in detail. Terms used in this specification have been selected as currently widely used general terms as possible while considering the functions in the present disclosure, but these may vary depending on the intention or precedent of a person skilled in the art, the emergence of new technology, and the like. In addition, in a specific case, there is a term arbitrarily selected by the applicant, and in this case, the meaning will be described in detail in the description of the corresponding invention. Therefore, the terms used in the present disclosure should be defined based on the meaning of the term and the contents of the present disclosure, rather than the simple name of the term.

본 명세서에서의 단수의 표현은 문맥상 명백하게 단수인 것으로 특정하지 않는 한, 복수의 표현을 포함한다. 또한, 복수의 표현은 문맥상 명백하게 복수인 것으로 특정하지 않는 한, 단수의 표현을 포함한다.References in the singular herein include plural expressions unless the context clearly dictates the singular. Also, the plural expression includes the singular expression unless the context clearly dictates the plural.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다.In the entire specification, when a part "includes" a certain element, this means that other elements may be further included, rather than excluding other elements, unless otherwise stated.

또한, 명세서에서 사용되는 '모듈' 또는 '부'라는 용어는 소프트웨어 또는 하드웨어 구성요소를 의미하며, '모듈' 또는 '부'는 어떤 역할들을 수행한다. 그렇지만 '모듈' 또는 '부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '모듈' 또는 '부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '모듈' 또는 '부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 또는 변수들 중 적어도 하나를 포함할 수 있다. 구성요소들과 '모듈' 또는 '부'들은 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '모듈' 또는 '부'들로 결합되거나 추가적인 구성요소들과 '모듈' 또는 '부'들로 더 분리될 수 있다.In addition, the term 'module' or 'unit' used in the specification means a software or hardware component, and 'module' or 'unit' performs certain roles. However, 'module' or 'unit' is not meant to be limited to software or hardware. A 'module' or 'unit' may be configured to reside on an addressable storage medium or configured to reproduce one or more processors. Thus, as an example, 'module' or 'unit' refers to components such as software components, object-oriented software components, class components and task components, processes, functions, properties, may include at least one of procedures, subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, database, data structures, tables, arrays or variables. Components and 'modules' or 'units' are the functions provided therein that are combined into a smaller number of components and 'modules' or 'units' or additional components and 'modules' or 'units' can be further separated.

본 개시의 일 실시예에 따르면, '모듈' 또는 '부'는 프로세서 및 메모리로 구현될 수 있다. '프로세서'는 범용 프로세서, 중앙 처리 장치(CPU), 마이크로프로세서, 디지털 신호 프로세서(DSP), 제어기, 마이크로제어기, 상태머신 등을 포함하도록 넓게 해석되어야 한다. 몇몇 환경에서, '프로세서'는 주문형 반도체(ASIC), 프로그램가능 로직 디바이스(PLD), 필드 프로그램가능 게이트 어레이(FPGA) 등을 지칭할 수도 있다. '프로세서'는, 예를 들어, DSP와 마이크로프로세서의 조합, 복수의 마이크로프로세서들의 조합, DSP 코어와 결합한 하나 이상의 마이크로프로세서들의 조합, 또는 임의의 다른 그러한 구성들의 조합과 같은 처리 디바이스들의 조합을 지칭할 수도 있다. 또한, '메모리'는 전자 정보를 저장 가능한 임의의 전자 컴포넌트를 포함하도록 넓게 해석되어야 한다. '메모리'는 임의 액세스 메모리(RAM), 판독-전용 메모리(ROM), 비-휘발성 임의 액세스 메모리(NVRAM), 프로그램가능 판독-전용 메모리(PROM), 소거-프로그램가능 판독 전용 메모리(EPROM), 전기적으로 소거가능 PROM(EEPROM), 플래쉬 메모리, 자기 또는 광학 데이터 저장장치, 레지스터들 등과 같은 프로세서-판독가능 매체의 다양한 유형들을 지칭할 수도 있다. 프로세서가 메모리로부터 정보를 판독하고/하거나 메모리에 정보를 기록할 수 있다면 메모리는 프로세서와 전자 통신 상태에 있다고 불린다. 프로세서에 집적된 메모리는 프로세서와 전자 통신 상태에 있다.According to an embodiment of the present disclosure, a 'module' or a 'unit' may be implemented with a processor and a memory. 'Processor' should be construed broadly to include general purpose processors, central processing units (CPUs), microprocessors, digital signal processors (DSPs), controllers, microcontrollers, state machines, and the like. In some contexts, a 'processor' may refer to an application specific semiconductor (ASIC), a programmable logic device (PLD), a field programmable gate array (FPGA), or the like. 'Processor' refers to a combination of processing devices, such as, for example, a combination of a DSP and a microprocessor, a combination of a plurality of microprocessors, a combination of one or more microprocessors in combination with a DSP core, or any other such configuration. You may. Also, 'memory' should be construed broadly to include any electronic component capable of storing electronic information. 'Memory' means random access memory (RAM), read-only memory (ROM), non-volatile random access memory (NVRAM), programmable read-only memory (PROM), erase-programmable read-only memory (EPROM); may refer to various types of processor-readable media, such as electrically erasable PROM (EEPROM), flash memory, magnetic or optical data storage, registers, and the like. A memory is said to be in electronic communication with the processor if the processor is capable of reading information from and/or writing information to the memory. A memory integrated in the processor is in electronic communication with the processor.

본 명세서에서 'A 및/또는 B'의 기재는 'A', 또는 'B', 또는 'A 및 B'를 의미한다.In this specification, the description of 'A and/or B' means 'A', or 'B', or 'A and B'.

본 개시에서,'RTU(Remote Terminal Unit)'는, 복수의 센서로부터 수집된 센싱 데이터를 채널별로 관리하는 원격 단말 장치를 지칭할 수 있다. 일 실시예에 따르면, RTU는 수집된 센싱 데이터를 영상 처리 시스템을 포함하는 원격 감시 시스템으로 전송하거나, 영상 처리 시스템 등으로부터 명령을 수신하여 복수의 센서 등의 제어, 관리 등을 수행할 수 있다. 예를 들어, RTU는 PLC(Programmable Logic Controller)로 구현될 수 있으며, 미리 정해진 시리얼 통신 프로토콜(예: RS-485, RS-232 등의 모드버스(MOD BUS) 프로토콜 등)을 이용하여 복수의 센서, 영상 처리 시스템 등과 통신할 수 있지만, 이에 한정되지는 않는다.In the present disclosure, a 'remote terminal unit (RTU)' may refer to a remote terminal device that manages sensing data collected from a plurality of sensors for each channel. According to an embodiment, the RTU may transmit the collected sensing data to a remote monitoring system including an image processing system or receive a command from the image processing system to control, manage, etc. a plurality of sensors. For example, the RTU may be implemented as a programmable logic controller (PLC), and a plurality of sensors using a predetermined serial communication protocol (eg, a MOD BUS protocol such as RS-485, RS-232, etc.) , an image processing system, etc., but is not limited thereto.

본 개시에서, 하천 등의 물영역의 수위를 나타내는 다양한 용어들이 사용될 수 있다. 본 개시에서,'저수위'는, 하천의 임의의 단면에서 측정되었을 때, 일정 기간(예를 들어, 365일(1년) 중 275일간) 동안 유지되는 최저 수위를 지칭할 수 있으며, 유황곡선을 통하여 산정할 수 있다. 여기서, 유황곡선은 하천 유량의 변동성을 나타내는 그래프로서, 날짜(일단위)를 나타내는 횡축과 유량을 나타내는 종축을 포함하며, 하천의 일평균 유량을 365일에 걸쳐 크기순으로 나열하여 얻는 곡선 그래프를 말한다. 유황곡선에서 95, 185, 275, 355의 일수에 대응하는 수위는 각각 풍수위, 평수위, 저수위, 갈수위에 해당한다. 유황곡선은 하천의 연간 사용 가능 수량을 나타내는 방법으로 사용될 수 있으며, 하천마다 강수량, 유역면적, 지형 및 지질, 식생 등의 차이에 의해 다른 형상의 유황곡선이 생성될 수 있다. 또한, 본 개시에서, '내수위'란, 제방 안쪽의 물의 높이를 나타낼 수 있다. 예를 들어, 간척지에 제방을 처음 세웠을 때, 썰물때는 제방 안쪽의 내수위가 제방 바깥쪽보다 높고, 밀물때는 낮다. 본 개시에서, '외수위'란, 강이나 간석지를 막은 둑 바깥쪽의 물 높이를 나타내는 것으로, 밀물때는 안쪽보다 높고, 썰물때는 안쪽보다 낮다. In the present disclosure, various terms indicating the water level of a water region such as a river may be used. In the present disclosure, 'low water level' may refer to the lowest water level maintained for a certain period (eg, 275 days out of 365 days (1 year)) when measured in any cross section of a river, and the sulfur curve can be calculated through Here, the sulfur curve is a graph showing the variability of the river flow, including a horizontal axis indicating the date (in daily units) and a vertical axis indicating the flow rate. say The water level corresponding to the number of days of 95, 185, 275, and 355 in the sulfur curve corresponds to the wind water level, the flat water level, the low water level, and the dry water level, respectively. Sulfur curves can be used as a method of indicating the annual usable amount of rivers, and different shapes of sulfur curves can be created by differences in precipitation, watershed area, topography, geology, vegetation, etc. for each river. In addition, in the present disclosure, the 'internal water level' may indicate the height of water inside the embankment. For example, when a levee was first built on reclaimed land, the water level inside the levee is higher than the outside of the levee at low tide, and lower during high tide. In the present disclosure, the 'outside water level' refers to the water level outside the dam that blocks the river or tidal ground, and is higher than the inside at high tide and lower than the inside at low tide.

도 1은 본 개시의 일 실시예에 따른 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템의 구성을 나타내는 도면이다. 도시된 바와 같이, 통합 영상 감시 시스템(110)은, 미리 정해진 영역에 설치되어 해당 영역을 촬영하도록 구성된 복수의 카메라(130_1 내지 130_N), 미리 정해진 영역에 설치되어 해당 영역의 기상 또는 환경과 연관된 정보를 감지하는 복수의 센서(140_1 내지 140_N) 등과 통신하며, 감시 영상 데이터 생성을 위해 필요한 데이터 및/또는 정보를 송수신할 수 있다. 이 경우, 통합 영상 감시 시스템(110)은 네트워크(120)를 통해 복수의 카메라(130_1 내지 130_N) 및 복수의 센서(140_1 내지 140_N) 등과 통신할 수 있다. 예를 들어, 복수의 카메라(130_1 내지 130_N)는 하천 등의 수위 감지를 위해 주변 환경(예: 하천의 수문에 해당하는 영역 등)을 촬영하도록 구성될 수 있으며, 복수의 센서(140_1 내지 140_N)는 복수의 카메라(130_1 내지 130_N)가 촬영하는 하천 지역의 기상 또는 환경 데이터를 수집하도록 구성될 수 있다. 여기서, 복수의 센서(140_1 내지 140_N)에 의해 수집된 센싱 데이터는 RTU(Remote Terminal Unit)(150)로 전송된 후 복수의 채널로 정렬되어 통합 영상 감시 시스템(110)으로 제공될 수 있다.1 is a diagram illustrating the configuration of an integrated video surveillance system for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data according to an embodiment of the present disclosure. As shown, the integrated video surveillance system 110 includes a plurality of cameras 130_1 to 130_N installed in a predetermined area and configured to photograph the corresponding area, and information related to the weather or environment of the predetermined area and installed in the predetermined area. It communicates with the plurality of sensors 140_1 to 140_N for detecting , and may transmit/receive data and/or information necessary for generating monitoring image data. In this case, the integrated video monitoring system 110 may communicate with the plurality of cameras 130_1 to 130_N and the plurality of sensors 140_1 to 140_N through the network 120 . For example, the plurality of cameras 130_1 to 130_N may be configured to photograph a surrounding environment (eg, an area corresponding to a sluice gate of a river, etc.) to detect the water level of a river, etc., and the plurality of sensors 140_1 to 140_N) may be configured to collect weather or environmental data of a river area photographed by a plurality of cameras 130_1 to 130_N. Here, the sensing data collected by the plurality of sensors 140_1 to 140_N may be transmitted to a remote terminal unit (RTU) 150 and then arranged into a plurality of channels and provided to the integrated video monitoring system 110 .

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 미리 정해진 영역을 촬영하는 복수의 카메라(130_1 내지 130_N)로부터 획득된 영상 데이터를 수신할 수 있다. 예를 들어, 통합 영상 감시 시스템(110)은 실시간으로 또는 주기적으로 복수의 카메라(130_1 내지 130_N)와 통신하며, 미리 정해진 영역이 촬영된 영상 데이터를 수신할 수 있다. 이 경우, 수신된 영상 데이터는, 각 카메라에서 촬영된 이미지 또는 영상, 촬영 시간 정보 등을 포함할 수 있다. 여기서, 통합 영상 감시 시스템(110)은 수신된 영상 데이터를 복수의 카메라(130_1 내지 130_N) 각각에 대해 할당된 채널별로 저장하여 관리할 수 있다.According to an embodiment, the integrated video monitoring system 110 may receive image data obtained from the plurality of cameras 130_1 to 130_N for photographing a predetermined area. For example, the integrated video monitoring system 110 may communicate with the plurality of cameras 130_1 to 130_N in real time or periodically, and may receive image data in which a predetermined area is captured. In this case, the received image data may include images or images captured by each camera, photographing time information, and the like. Here, the integrated video monitoring system 110 may store and manage the received image data for each channel allocated to each of the plurality of cameras 130_1 to 130_N.

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 미리 정해진 영역을 촬영하는 복수의 카메라(130_1 내지 130_N)로부터 인코딩된 영상 데이터를 수신하여 저장하는 NVR(Network Video Recorder)을 포함할 수 있다. 이 경우 복수의 카메라(130_1 내지 130_N)는 영상 데이터를 인코딩하여 NVR로 전송할 수 있는 칩셋 등을 포함하는 IP(Internet Protocol) 카메라 등에 해당할 수 있다. 또한, NVR은 복수의 카메라(130_1 내지 130_N)로부터 수신된 영상 데이터를 채널별로 정렬하여 관리, 저장 및/또는 처리할 수 있다.According to an embodiment, the integrated video surveillance system 110 may include a network video recorder (NVR) for receiving and storing encoded image data from a plurality of cameras 130_1 to 130_N for photographing a predetermined area. In this case, the plurality of cameras 130_1 to 130_N may correspond to an IP (Internet Protocol) camera including a chipset capable of encoding image data and transmitting it to the NVR. In addition, the NVR may arrange, manage, store, and/or process the image data received from the plurality of cameras 130_1 to 130_N by channel.

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 감지하는 복수의 센서(140_1 내지 140_N)로부터 획득된 센싱 데이터를 수신할 수 있다. 이 경우, 통합 영상 감시 시스템(110)은, 복수의 센서(140_1 내지 140_N)로부터 획득된 센싱 데이터를 수신하여 복수의 채널로 정렬하는 RTU(150)로부터 채널별로 정렬된 센싱 데이터를 수신할 수 있다. 예를 들어, 통합 영상 감시 시스템(110)은 실시간으로 또는 주기적으로 복수의 센서(140_1 내지 140_N) 및/또는 RTU(150)와 통신하며, 센싱 데이터를 수신할 수 있다. 여기서, 센싱 데이터는, 각 센서에서 수집된 온도, 습도, 바람의 방향 및 세기, 강수량 등의 기상 또는 환경과 연관된 정보, 센싱 시간 정보 등을 포함할 수 있다.According to an embodiment, the integrated video monitoring system 110 may receive sensing data obtained from the plurality of sensors 140_1 to 140_N that detect weather or environment-related information in a predetermined area. In this case, the integrated video surveillance system 110 may receive the sensing data obtained from the plurality of sensors 140_1 to 140_N and receive the sensing data arranged for each channel from the RTU 150 for aligning the plurality of channels. . For example, the integrated video monitoring system 110 may communicate with the plurality of sensors 140_1 to 140_N and/or the RTU 150 in real time or periodically, and receive sensing data. Here, the sensing data may include information related to meteorological or environment such as temperature, humidity, wind direction and strength, and precipitation, sensing time information, and the like, collected by each sensor.

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 특정 영역에 추가로 설치된 카메라 및 센서의 최초의 데이터 전송 요청에 응답하여, 영상 데이터 및 센싱 데이터를 전송하기 위한 채널을 추가로 생성할 수 있다. 다른 예에서, 통합 영상 감시 시스템(110)은, 해당 카메라 및 센서의 영상 데이터 및 센싱 데이터에 대한 사용자 단말의 사용자의 전송 요청에 응답하여, 영상 데이터 및 센싱 데이터를 사용자 단말의 서버로 전송할 수 있다.According to an embodiment, the integrated video surveillance system 110 may additionally create a channel for transmitting image data and sensing data in response to an initial data transmission request of a camera and a sensor additionally installed in a specific area. . In another example, the integrated video monitoring system 110 may transmit the image data and the sensing data to the server of the user terminal in response to the user's request for transmission of the image data and the sensing data of the corresponding camera and sensor. .

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 RTU(150)로부터 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터를 수신하여 저장하는 HMI(Human Machine Interface) 서버를 포함할 수 있다. 예를 들어, HMI는 시각이나 청각과 연관된 아날로그적인 인지의 세계와 컴퓨터, 통신 등의 디지털 데이터를 처리하는 기계의 세계를 연결하는 인터페이스를 지칭할 수 있으며, HMI 서버는 이러한 인터페이스 기능을 실행하는 컴퓨팅 장치를 지칭할 수 있다. HMI 서버는 RTU(150)로부터 수신된 센싱 데이터를 채널별로 관리, 저장 및/또는 처리하거나, 사용자에게 제공할 수 있다. 즉, HMI 서버는, 센싱 데이터를 사용자에게 제공하기 위해, 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성할 수 있다.According to an embodiment, the integrated video surveillance system 110 may include a Human Machine Interface (HMI) server for receiving and storing sensing data including weather or environment-related information from the RTU 150 . For example, HMI may refer to an interface that connects the world of analog perception related to sight or hearing and the world of machines that process digital data such as computers and communications, and the HMI server is a computing system that executes these interface functions. It may refer to a device. The HMI server may manage, store and/or process sensing data received from the RTU 150 for each channel, or provide it to a user. That is, the HMI server may generate sensing image data by visualizing the received sensing data in order to provide the sensing data to the user.

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성할 수 있다. 여기서, 감시 영상 데이터는 시간(영상 데이터의 촬영 시간 및 센싱 데이터의 센싱 시간) 및 채널에 따라 영상 데이터 및 센싱 이미지 데이터가 중첩(overlay)되어 생성될 수 있다. 즉, 감시 영상 데이터는 미리 정해진 영역의 영상 및 센싱 정보를 포함하는 영상, 이미지 등의 형태로 표현된 데이터를 지칭할 수 있다.According to an embodiment, the integrated video monitoring system 110 may generate monitoring image data by synchronizing the received image data and the generated sensing image data. Here, the monitoring image data may be generated by overlapping the image data and the sensing image data according to a time (a capturing time of the image data and a sensing time of the sensing data) and a channel. That is, the surveillance image data may refer to data expressed in the form of an image or an image including an image of a predetermined area and sensing information.

통합 영상 감시 시스템(110)은 영상 데이터 및 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하고, 결정된 이상 현상과 연관된 정보를 포함하도록 감시 영상 데이터를 생성할 수 있다. 예를 들어, 미리 정해진 영역이 하천 영역인 경우, 이상 현상은 하천의 범람에 대한 가능성 등을 나타낼 수 있다. 즉, 통합 영상 감시 시스템(110)은 영상 데이터 및 센싱 데이터를 기초로 하천의 범람에 대한 가능성을 결정하고, 결정된 하천의 범람에 대한 정보를 포함하도록 감시 영상 데이터를 생성하여 사용자에게 제공할 수 있다. 상술된 예에서, 감시 영상 데이터는 하천 등의 수위를 나타내는 영상과 해당 하천의 범람 가능성, 수위 높이, 온도, 수압 등의 정보를 함께 포함하도록 생성될 수 있다.The integrated video surveillance system 110 may determine an abnormality in a predetermined area based on the image data and the sensing data, and generate surveillance image data to include information related to the determined abnormality. For example, when the predetermined area is a river area, the anomaly may indicate a possibility of river overflow or the like. That is, the integrated video monitoring system 110 determines the possibility of river overflow based on the image data and the sensing data, and generates monitoring image data to include the determined information on the overflow of the river and provides it to the user. . In the above-described example, the monitoring image data may be generated to include an image indicating the water level of a river, etc., and information such as the possibility of flooding of the corresponding river, the water level height, temperature, water pressure, and the like.

도 1에서는 복수의 센서(140_1 내지 140_N)와 통신하는 하나의 RTU(150)가 존재하는 것으로 도시되었으나, 이에 한정되지 않으며, 복수의 RTU 센서가 각각 서로 다른 복수의 센서와 통신하도록 구성될 수도 있다. 이 경우, 복수의 RTU는 통합 영상 감시 시스템(110) 및/또는 HMI 서버와 통신할 수 있다. 이와 같은 구성에 의해, 영상 처리 시스템(110)은, 영상 데이터와 연관된 센서 데이터의 동기화를 실행함으로써, 복수의 카메라(130_1 내지 130_N)에 의해 촬영된 하천 등과 같은 주변 환경의 변화를 직관적으로 인식하고, 분석할 수 있다. 또한, 복수의 카메라(130_1 내지 130_N)와 영상 처리 기능을 수행하는 통합 영상 감시 시스템(110)을 분리하여 구성함으로써, 외부 환경에 노출되는 복수의 카메라(130_1 내지 130_N)에 대한 지속적인 유지 보수를 간단히 수행할 수 있으며, 이에 따라 유지 관리 비용을 감소시킬 수 있다.In FIG. 1 , one RTU 150 communicating with a plurality of sensors 140_1 to 140_N is shown to exist, but the present invention is not limited thereto, and a plurality of RTU sensors may be configured to communicate with a plurality of different sensors, respectively. . In this case, the plurality of RTUs may communicate with the integrated video surveillance system 110 and/or the HMI server. With this configuration, the image processing system 110 intuitively recognizes changes in the surrounding environment, such as rivers photographed by the plurality of cameras 130_1 to 130_N, by executing synchronization of sensor data related to the image data, and , can be analyzed. In addition, by separately configuring the plurality of cameras 130_1 to 130_N and the integrated video surveillance system 110 performing an image processing function, continuous maintenance of the plurality of cameras 130_1 to 130_N exposed to the external environment is simplified. can be performed, thereby reducing maintenance costs.

도 2는 본 개시의 일 실시예에 따른 통합 영상 감시 시스템(110)의 내부 구성을 나타내는 블록도이다. 통합 영상 감시 시스템(110)은 메모리(210), 프로세서(220), 통신 모듈(230) 및 입출력 인터페이스(240)를 포함할 수 있다. 도 2에 도시된 바와 같이, 통합 영상 감시 시스템(110)은 통신 모듈(230)을 이용하여 네트워크를 통해 정보 및/또는 데이터를 통신할 수 있도록 구성될 수 있다.2 is a block diagram illustrating an internal configuration of the integrated video surveillance system 110 according to an embodiment of the present disclosure. The integrated video monitoring system 110 may include a memory 210 , a processor 220 , a communication module 230 , and an input/output interface 240 . As shown in FIG. 2 , the integrated video surveillance system 110 may be configured to communicate information and/or data through a network using the communication module 230 .

메모리(210)는 비-일시적인 임의의 컴퓨터 판독 가능한 기록매체를 포함할 수 있다. 일 실시예에 따르면, 메모리(210)는 RAM(random access memory), ROM(read only memory), 디스크 드라이브, SSD(solid state drive), 플래시 메모리(flash memory) 등과 같은 비소멸성 대용량 저장 장치(permanent mass storage device)를 포함할 수 있다. 다른 예로서, ROM, SSD, 플래시 메모리, 디스크 드라이브 등과 같은 비소멸성 대용량 저장 장치는 메모리와는 구분되는 별도의 영구 저장 장치로서 통합 영상 감시 시스템(110)에 포함될 수 있다. 또한, 메모리(210)에는 운영체제와 적어도 하나의 프로그램 코드(예를 들어, 통합 영상 감시 시스템(110)에 설치되어 구동되는 영상 데이터 수신, 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터 수신, 영상 및 센싱 데이터의 합성 또는 동기화, 감시 영상 데이터의 생성 등을 위한 코드)가 저장될 수 있다.The memory 210 may include any non-transitory computer-readable recording medium. According to one embodiment, the memory 210 is a non-volatile mass storage device (permanent) such as random access memory (RAM), read only memory (ROM), disk drive, solid state drive (SSD), flash memory (flash memory), etc. mass storage device). As another example, a non-volatile mass storage device such as a ROM, SSD, flash memory, disk drive, etc. may be included in the integrated video surveillance system 110 as a separate permanent storage device distinct from the memory. In addition, the memory 210 includes an operating system and at least one program code (eg, image data reception installed and driven in the integrated video monitoring system 110 , sensing data reception including weather or environment-related information, images and A code for synthesizing or synchronizing sensing data, generating surveillance image data, etc.) may be stored.

이러한 소프트웨어 구성요소들은 메모리(210)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 이러한 통합 영상 감시 시스템(110)에 직접 연결가능한 기록 매체를 포함할 수 있는데, 예를 들어, 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 예로서, 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 모듈(230)을 통해 메모리(210)에 로딩될 수도 있다. 예를 들어, 적어도 하나의 프로그램은 개발자들 또는 어플리케이션의 설치 파일을 배포하는 파일 배포 시스템이 통신 모듈(230)을 통해 제공하는 파일들에 의해 설치되는 컴퓨터 프로그램(예를 들어, 영상 데이터에 대한 수신, 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터를 수신, 영상 데이터와 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성하기 위한 프로그램 등)에 기반하여 메모리(210)에 로딩될 수 있다.These software components may be loaded from a computer-readable recording medium separate from the memory 210 . The separate computer-readable recording medium may include a recording medium directly connectable to the integrated video surveillance system 110, for example, a floppy drive, a disk, a tape, a DVD/CD-ROM drive, and a memory card. It may include a computer-readable recording medium, such as. As another example, the software components may be loaded into the memory 210 through the communication module 230 rather than a computer-readable recording medium. For example, at least one program is a computer program (eg, reception of image data) installed by files provided by developers or a file distribution system that distributes installation files of applications through the communication module 230 . , a program for generating monitoring image data by receiving sensing data including information related to , weather or environment, synchronizing image data and sensing image data, etc.) may be loaded into the memory 210 .

프로세서(220)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(210) 또는 통신 모듈(230)에 의해 사용자 단말(미도시) 또는 다른 외부 시스템으로 제공될 수 있다. 예를 들어, 프로세서(220)는 외부 시스템으로부터 감시 영상 데이터에 대한 요청을 수신하는 경우, 복수의 카메라(130_1 내지 130_N) 및 복수의 센서(140_1 내지 140_N)로부터 미리 정해진 영역의 영상 데이터 및 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터를 수신할 수 있다. 미리 정해진 영역의 영상 데이터 및 센싱 데이터를 수신하는 경우, 프로세서(220)는 복수의 카메라(130_1 내지 130_N) 및/또는 복수의 센서(140_1 내지 140_N)로부터 수위 계측 및 제어를 위한 미리 정해진 영역의 지리적 정보(예를 들어, 교량의 유무를 포함하는 교량 정보, 인근 거주 인구 정보, 인근 건물 정보, 인근 시설 정보 등)를 더 획득할 수 있다. 그리고 나서, 프로세서(220)는 수신된 센싱 데이터, 지리적 정보를 기초로 센싱 이미지 데이터를 생성하고, 영상 데이터와 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성하고, 생성한 감시 영상 데이터를 사용자 단말 또는 외부 시스템으로 전송할 수 있다.The processor 220 may be configured to process instructions of a computer program by performing basic arithmetic, logic, and input/output operations. The command may be provided to a user terminal (not shown) or another external system by the memory 210 or the communication module 230 . For example, when the processor 220 receives a request for monitoring image data from an external system, image data and weather or Sensing data including information related to the environment may be received. When receiving the image data and the sensing data of the predetermined area, the processor 220 is a geographic area of the predetermined area for water level measurement and control from the plurality of cameras 130_1 to 130_N and/or the plurality of sensors 140_1 to 140_N. Information (eg, bridge information including whether or not a bridge exists, information on population living nearby, information on nearby buildings, information on nearby facilities, etc.) may be further acquired. Then, the processor 220 generates sensing image data based on the received sensing data and geographic information, synchronizes the image data and the sensing image data to generate monitoring image data, and transmits the generated monitoring image data to a user terminal or It can be transferred to an external system.

통신 모듈(230)은 네트워크를 통해 복수의 카메라(130_1 내지 130_N), RTU(150), 및/또는 사용자 단말(미도시)과 통합 영상 감시 시스템(110)이 서로 통신하기 위한 구성 또는 기능을 제공할 수 있으며, 통합 영상 감시 시스템(110)이 외부 시스템(일례로 별도의 클라우드 시스템 등)과 통신하기 위한 구성 또는 기능을 제공할 수 있다. 일례로, 통합 영상 감시 시스템(110)의 프로세서(220)의 제어에 따라 제공되는 제어 신호, 명령, 데이터 등이 통신 모듈(230)과 네트워크를 거쳐 사용자 단말 및/또는 외부 시스템의 통신 모듈을 통해 사용자 단말 및/또는 외부 시스템으로 전송될 수 있다. 예를 들어, 사용자 단말 및/또는 외부 시스템은 통합 영상 감시 시스템(110)으로부터 미리 정해진 영역의 영상 데이터, 미리 정해진 영역의 센싱 이미지 데이터, 미리 정해진 영역의 감시 영상 데이터 등을 전달받을 수 있다.The communication module 230 provides a configuration or function for the plurality of cameras 130_1 to 130_N, the RTU 150, and/or the user terminal (not shown) and the integrated video surveillance system 110 to communicate with each other through a network. and may provide a configuration or function for the integrated video surveillance system 110 to communicate with an external system (eg, a separate cloud system). For example, control signals, commands, data, etc. provided under the control of the processor 220 of the integrated video monitoring system 110 are transmitted through the communication module 230 and the network through the user terminal and/or the communication module of the external system. It may be transmitted to a user terminal and/or an external system. For example, the user terminal and/or the external system may receive image data of a predetermined area, sensing image data of a predetermined area, monitoring image data of a predetermined area, and the like from the integrated video monitoring system 110 .

또한, 통합 영상 감시 시스템(110)의 입출력 인터페이스(240)는 통합 영상 감시 시스템(110)과 연결되거나 통합 영상 감시 시스템(110)이 포함할 수 있는 입력 또는 출력을 위한 장치(미도시)와의 인터페이스를 위한 수단일 수 있다. 도 2에서는 입출력 인터페이스(240)가 프로세서(220)와 별도로 구성된 요소로서 도시되었으나, 이에 한정되지 않으며, 입출력 인터페이스(240)가 프로세서(220)에 포함되도록 구성될 수 있다. 통합 영상 감시 시스템(110)은 도 2의 구성요소들보다 더 많은 구성요소들을 포함할 수 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다.In addition, the input/output interface 240 of the integrated video monitoring system 110 is connected to the integrated video monitoring system 110 or an interface with an input or output device (not shown) that the integrated video monitoring system 110 may include. may be a means for In FIG. 2 , the input/output interface 240 is illustrated as an element configured separately from the processor 220 , but the present invention is not limited thereto, and the input/output interface 240 may be configured to be included in the processor 220 . The integrated video surveillance system 110 may include more components than those of FIG. 2 . However, there is no need to clearly show most of the prior art components.

통합 영상 감시 시스템(110)의 프로세서(220)는 복수의 카메라(130_1 내지 130_N), RTU(150), 복수의 사용자 단말 및/또는 복수의 외부 시스템으로부터 수신된 정보 및/또는 데이터를 관리, 처리 및/또는 저장하도록 구성될 수 있다. 일 실시예에 따르면, 프로세서(220)는 복수의 카메라(130_1 내지 130_N), RTU(150), 복수의 사용자 단말 및/또는 외부 시스템으로부터 정해진 영역의 감시 영상 데이터에 대한 요청, 정해진 영역의 인근 교량 정보, 인근 거주 인구 정보, 인근 건물 정보, 인근 시설 정보를 포함하는 지리적 정보, 정해진 영역의 영상 데이터, 정해진 영역의 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터 등을 수신할 수 있다. 이 경우, 프로세서(220)는 수신된 미리 정해진 영역의 지리적 정보 및 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터를 기초로 센싱 이미지 데이터를 생성하고, 영상 데이터와 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성하고, 생성된 감시 영상 데이터를 사용자 단말 또는 외부 시스템으로 전송할 수 있다.The processor 220 of the integrated video surveillance system 110 manages and processes information and/or data received from a plurality of cameras 130_1 to 130_N, the RTU 150, a plurality of user terminals, and/or a plurality of external systems. and/or be configured to store. According to one embodiment, the processor 220 is a plurality of cameras (130_1 to 130_N), the RTU (150), a plurality of user terminals and / or a request for monitoring image data of a predetermined area from an external system, a bridge adjacent to the predetermined area It is possible to receive information, geographic information including information on population living nearby, information about nearby buildings, information about nearby facilities, image data of a predetermined area, sensing data including information related to weather or environment in a predetermined area, and the like. In this case, the processor 220 generates sensing image data based on the sensed data including the received geographical information of the predetermined area and information related to the weather or environment of the predetermined area, and synchronizes the image data and the sensing image data. to generate monitoring image data, and transmit the generated monitoring image data to a user terminal or an external system.

도 3은 본 개시의 일 실시예에 따른 프로세서(220)의 내부 구성을 나타내는 예시적인 블록도이다. 도시된 바와 같이, 프로세서(220)는 영상 데이터 기록부(310), 센싱 데이터 수신부(320), 감시 영상 데이터 생성부(330), 감시 영상 관리부(340) 등을 포함할 수 있다. 일 실시예에 따르면, 영상 데이터 기록부(310)는 복수의 카메라와 실시간으로 또는 미리 정해진 시간 간격 마다 통신하며 영상 데이터를 수신할 수 있다. 또한, 센싱 데이터 수신부(320)는 복수의 센서 및/또는 복수의 RTU와 실시간으로 또는 미리 정해진 시간 간격 마다 통신하며 센싱 데이터를 수신할 수 있다.3 is an exemplary block diagram illustrating an internal configuration of a processor 220 according to an embodiment of the present disclosure. As shown, the processor 220 may include an image data recorder 310 , a sensing data receiver 320 , a surveillance image data generator 330 , a surveillance image manager 340 , and the like. According to an embodiment, the image data recording unit 310 may receive image data while communicating with a plurality of cameras in real time or at predetermined time intervals. In addition, the sensing data receiver 320 may receive sensing data while communicating with a plurality of sensors and/or a plurality of RTUs in real time or at predetermined time intervals.

영상 데이터 기록부(310)는 미리 정해진 영역을 촬영하는 복수의 카메라로부터 영상 데이터를 수신하여 저장할 수 있다. 예를 들어, 복수의 카메라는 하천 등의 수위 감지를 위해 수문 등을 포함하는 주변 환경을 촬영하도록 구성될 수 있으며, 영상 데이터 기록부(310)는 이와 같은 복수의 카메라로부터 하천 등의 주변 환경을 촬영한 영상 데이터를 수신하여 채널별로 저장할 수 있다. 여기서, 영상 데이터가 저장되는 각각의 채널은 센싱 데이터가 저장되는 각각의 채널과 대응될 수 있다.The image data recorder 310 may receive and store image data from a plurality of cameras that photograph a predetermined area. For example, the plurality of cameras may be configured to photograph a surrounding environment including a sluice gate to detect the water level of a river, etc., and the image data recording unit 310 captures the surrounding environment such as a river from such a plurality of cameras. One image data can be received and stored for each channel. Here, each channel in which image data is stored may correspond to each channel in which sensing data is stored.

센싱 데이터 수신부(320)는 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 획득된 센싱 데이터를 수신할 수 있다. 예를 들어, 센싱 데이터 수신부(320)는 기상 또는 환경과 연관된 정보를 수집하도록 구성된 복수의 센서로부터 수신되는 센싱 데이터를 수신하여 채널별로 저장할 수 있다. 즉, 센싱 데이터 수신부(320)는, 복수의 센서로부터 획득된 센싱 데이터를 수집하고, 수집된 센싱 데이터를 복수의 채널로 정렬하는 복수의 RTU로부터 정렬된 센싱 데이터를 수신할 수 있다. 여기서, 센싱 데이터가 저장되는 각각의 채널은 영상 데이터가 저장되는 각각의 채널과 대응될 수 있다.The sensing data receiver 320 may receive sensing data obtained from a plurality of sensors that sense information related to weather or environment in a predetermined area. For example, the sensing data receiver 320 may receive sensing data received from a plurality of sensors configured to collect weather or environment-related information and store the received sensing data for each channel. That is, the sensing data receiving unit 320 may collect sensing data obtained from a plurality of sensors, and receive the aligned sensing data from a plurality of RTUs for arranging the collected sensing data into a plurality of channels. Here, each channel in which sensing data is stored may correspond to each channel in which image data is stored.

감시 영상 데이터 생성부(330)는 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성할 수 있다. 예를 들어, 감시 영상 데이터 생성부(330)는 센싱 데이터를 이용하여, 미리 정해진 영역 근방의 온도, 기상 등을 나타내는 텍스트를 생성하거나, 해당 온도, 기상 등을 나타내는 특정 표, 그래프, 이미지, 영상 등을 생성할 수 있다. 그리고 나서, 감시 영상 데이터 생성부(330)는 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 합성 또는 동기화하여 감시 영상 데이터를 생성할 수 있다. 즉, 감시 영상 데이터 생성부(330)는 채널 및 촬영/센싱 시간 등이 대응되도록 영상 데이터와 센싱 이미지 데이터를 결합하여 감시 영상 데이터를 생성할 수 있다.The monitoring image data generating unit 330 may generate sensing image data by visualizing the received sensing data. For example, the monitoring image data generating unit 330 uses the sensed data to generate text indicating the temperature, the weather, etc. in the vicinity of a predetermined area, or a specific table, graph, image, image indicating the corresponding temperature, the weather, etc. etc can be created. Then, the monitoring image data generating unit 330 may generate the monitoring image data by synthesizing or synchronizing the received image data and the generated sensing image data. That is, the monitoring image data generating unit 330 may generate the monitoring image data by combining the image data and the sensing image data so that the channel and the shooting/sensing time correspond.

감시 영상 데이터 생성부(330)는 영상 데이터 및 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하고, 결정된 이상 현상과 연관된 정보를 포함하도록 감시 영상 데이터를 생성할 수 있다. 예를 들어, 미리 정해진 영역이 하천, 강 등을 포함하는 경우, 이상 현상은 하천, 강 등의 범람 가능성 등을 포함할 수 있다. 또한, 이상 현상과 연관된 정보는 하천, 강 등의 범람 가능성에 따른 관심, 주의, 경계 등의 이상 현상에 대한 경고(또는 통지) 단계를 나타내는 텍스트, 이미지, 영상 등을 포함할 수 있다. 일 실시예에 따르면, 감시 영상 데이터 생성부(330)는 상술된 영상 데이터, 센싱 이미지 데이터 및 이상 현상과 연관된 정보를 결합하여 감시 영상 데이터를 생성할 수 있다. 다시 말해, 감시 영상 데이터는 미리 정해진 영역의 영상, 온도, 기상, 이상 현상 등에 대한 정보를 모두 포함하도록 생성될 수 있다. 이와 같은 구성에 의해, 사용자는 미리 정해진 영역의 영상, 온도, 기상, 이상 현상 등에 대한 정보를 모두 포함하는 감시 영상 데이터를 제공받음으로써, 미리 정해진 영역의 상황을 시각적 또는 직관적으로 인식하고, 수문 제어 등의 후속 처리를 신속하고 효율적으로 진행할 수 있다.The monitoring image data generating unit 330 may determine an abnormality in a predetermined area based on the image data and the sensing data, and generate the monitoring image data to include information related to the determined abnormality. For example, when the predetermined region includes a river, a river, or the like, the anomaly may include a possibility of overflowing the river, the river, or the like. In addition, the information related to the anomaly may include text, images, images, etc. indicating a warning (or notification) stage for anomalies such as interest, caution, and alertness according to the possibility of flooding of rivers and rivers. According to an embodiment, the surveillance image data generator 330 may generate surveillance image data by combining the above-described image data, sensing image data, and information related to anomalies. In other words, the monitoring image data may be generated to include all information about an image, temperature, weather, abnormal phenomenon, etc. of a predetermined area. With such a configuration, the user is provided with monitoring image data including all information on images, temperature, weather, and abnormal phenomena of a predetermined area, thereby visually or intuitively recognizing the situation of the predetermined area and controlling the sluice gate It is possible to quickly and efficiently proceed with subsequent processing such as

감시 영상 관리부(340)는 사용자 단말 또는 외부 시스템 등의 디스플레이 장치로부터 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 생성된 감시 영상 데이터를 디스플레이 장치로 전송할 수 있다. 이 경우, 감시 영상 관리부(340)는 디스플레이 장치로부터 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 디스플레이 장치와 연관된 사용자 단말 또는 외부 시스템의 감시 영상 데이터에 대한 요청 권한을 판정할 수 있다. 예를 들어, 감시 영상 관리부(340)는 수신된 감시 영상 데이터에 대한 요청 상에 요청 권한이 포함되어 있는지 여부를 판정하고, 감시 영상 데이터의 전송 여부를 결정할 수 있으나, 이에 한정되지 않는다. 예를 들어, 감시 영상 데이터를 요청할 수 있는 권한을 가진 외부 시스템(또는 외부 시스템의 디스플레이 장치) 등은 사전 결정될 수 있으며, 사전 결정된 외부 시스템으로부터 감시 영상 데이터에 대한 요청을 수신하는 경우, 감시 영상 관리부(340)는 요청 권한이 있는 것으로 판정할 수 있다.The monitoring image management unit 340 may transmit the generated monitoring image data to the display device in response to receiving a request for monitoring image data from a display device such as a user terminal or an external system. In this case, in response to receiving a request for monitoring image data from the display device, the monitoring image management unit 340 may determine the request authority for monitoring image data of a user terminal or an external system associated with the display device. For example, the monitoring image management unit 340 may determine whether a request authority is included in the received request for monitoring image data, and may determine whether to transmit the monitoring image data, but is not limited thereto. For example, an external system (or a display device of an external system) having the authority to request monitoring image data may be predetermined, and when receiving a request for monitoring image data from the predetermined external system, the monitoring image management unit 340 may determine that there is a request authority.

도 4는 본 개시의 다른 실시예에 따른 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템의 구성을 나타내는 도면이다. 도시된 바와 같이, 산업현장과 같은 현장(400)에는, 주변 환경을 촬영하도록 구성된 복수의 카메라(130_1 내지 130_N), 기상 또는 외부 환경과 연관된 정보 및/또는 데이터를 수집하도록 구성된 복수의 센서(140_1 내지 140_N), 및 복수의 센서(140_1 내지 140_N)로부터 수신된 센싱 데이터를 채널별로 분류 및 저장하고 HMI 서버(412)로부터 수신된 제어 신호를 임의의 센서로 전송하는 RTU(150)가 설치될 수 있다. 또한, 상황실(410)에는, 복수의 센서(140_1 내지 140_N)로부터 수신되는 센싱 데이터를 채널별로 처리하는 HMI 서버(412), 복수의 카메라(130_1 내지 130_N)로부터 수신된 영상 데이터를 채널별로 처리하는 NVR(414), 및 NVR(414)로부터 수신된 영상 데이터 및 HMI 서버(412)로부터 수신된 센싱 데이터를 분석 및 합성하여 표출함으로써 각종 센서 변화의 감지 및 제어를 실행하는 통합 영상 처리 시스템(110)(예를 들어, HMI 및 NVR의 통합 제어 소프트웨어/하드웨어 모듈) 등을 포함할 수 있다.4 is a diagram illustrating the configuration of an integrated video surveillance system for synthesizing, displaying, searching, and controlling multi-channel image data and sensor data according to another embodiment of the present disclosure. As shown, in a field 400 such as an industrial site, a plurality of cameras 130_1 to 130_N configured to photograph the surrounding environment, a plurality of sensors 140_1 configured to collect information and/or data related to weather or external environment to 140_N), and the RTU 150 for classifying and storing the sensing data received from the plurality of sensors 140_1 to 140_N by channel and transmitting the control signal received from the HMI server 412 to any sensor may be installed. there is. In addition, in the control room 410, an HMI server 412 that processes sensing data received from a plurality of sensors 140_1 to 140_N for each channel, and an image data received from a plurality of cameras 130_1 to 130_N for each channel. Integrated image processing system 110 for detecting and controlling various sensor changes by analyzing, synthesizing, and displaying the image data received from the NVR 414 and the NVR 414 and the sensing data received from the HMI server 412 (eg, integrated control software/hardware module of HMI and NVR) and the like.

이상 설명된 구성요소들 중 복수의 카메라(130_1 내지 130_N)(예를 들어, CCTV 카메라), 복수의 센서(140_1 내지 140_N) 및 RTU(150)는 외부 환경 감시가 필요한 현장(400)에 설치되며, HMI 서버(412), NVR(414), 영상 처리 시스템(110)은 외부 환경과 분리되어 외부 환경의 이상 현상을 감지하고 관리하는 상황실(410)에 설치될 수 있다. 또한, 이상 구성요소들은 RS-232/485/IO, TCP/IP 등과 같은 다양한 네트워크 프로토콜을 이용하여 서로 통신할 수 있다. 일 실시예에 따르면, 복수의 카메라(130_1 내지 130_N)와 NVR(414)는 TCP/IP 프로토콜을 이용하여 연결될 수 있으며, 복수의 센서(140_1 내지 140_N)와 RTU(150)는 RS-232/485/IO 프로토콜을 통해 연결될 수 있다.Among the components described above, a plurality of cameras (130_1 to 130_N) (eg, CCTV cameras), a plurality of sensors (140_1 to 140_N), and the RTU 150 are installed at the site 400 requiring external environment monitoring, and , the HMI server 412 , the NVR 414 , and the image processing system 110 may be installed in the control room 410 separated from the external environment to detect and manage abnormalities in the external environment. In addition, the above components can communicate with each other using various network protocols such as RS-232/485/IO and TCP/IP. According to an embodiment, the plurality of cameras 130_1 to 130_N and the NVR 414 may be connected using a TCP/IP protocol, and the plurality of sensors 140_1 to 140_N and the RTU 150 are RS-232/485 Connections can be made via the /IO protocol.

본 개시에서 네트워크 프로토콜로 사용되는 RS-232/485/IO는 컴퓨팅 장치, 입출력 장치, 주변 장치 등을 상호 접속할 때 사용하는 직렬 방식의 인터페이스이다. 예를 들어, RS-232는 전송 속도가 낮고 전송 거리가 짧은 특징을 가는 직렬통신방식으로 1대1 통신을 위해 사용될 수 있다. 이와 같은 RS232 인터페이스를 이용하여 1대 다(多)의 방식으로 통신을 하기 위해서는 새로운 채널의 구성이 필요한데, 이때 사용하는 것이 RS-485이다. RS-485는 한 개의 마스터 장치와 슬레이브 장치 간에 데이터를 주고받는 방식으로 통신을 하여, 모든 장치들이 같은 라인에서 데이터 전송 및 수신을 할 수 있다. 일반적으로, RS-485는 2개의 선을 사용하여 반이중(Half Duplex) 통신 방식으로 사용하나 2개의 RS-485 통신망을 사용하면 전이중(Full Duplex) 통신도 가능하다. 이를 4선(4-wire) 또는 전이중 RS-485라고 한다. 또한, RS-485를 통해 접속 가능한 최대 드라이버 및/또는 리시버 수는 각각 32개이며, 최대 대역폭은 10Mbps이며, 최장 통신 거리는 1.2km이다. RS-232/485/IO used as a network protocol in the present disclosure is a serial interface used when interconnecting a computing device, an input/output device, a peripheral device, and the like. For example, RS-232 is a serial communication method characterized by a low transmission rate and a short transmission distance, and can be used for one-to-one communication. In order to communicate in a one-to-many manner using such an RS232 interface, a new channel configuration is required. In this case, RS-485 is used. RS-485 communicates by sending and receiving data between one master device and a slave device, so that all devices can transmit and receive data on the same line. In general, RS-485 is used as a half-duplex communication method using two lines, but full-duplex communication is also possible if two RS-485 communication networks are used. This is called 4-wire or full-duplex RS-485. In addition, the maximum number of drivers and/or receivers that can be connected via RS-485 is 32 each, the maximum bandwidth is 10Mbps, and the longest communication distance is 1.2km.

또한, TCP/IP는, 인터넷 상에서 서로 다른 운영체제를 쓰는 컴퓨터 등 정보 디바이스 간에도 데이터를 전송할 수 있도록 구성된 데이터 전송 프로토콜이다. TCP는 전송 데이터를 일정 단위로 나누고 포장하는 것에 관한 규약이고, IP는 직접 소스 IP 주소의 디바이스와 목적지 IP 주소의 디바이스 간에 데이터를 주고받는 것에 관한 규약을 포함한다. In addition, TCP/IP is a data transmission protocol configured to transmit data between information devices such as computers using different operating systems on the Internet. TCP is a protocol for dividing and packaging transmission data into a certain unit, and IP includes a protocol for directly exchanging data between a device of a source IP address and a device of a destination IP address.

일 실시예에 따르면, 현장(400)에 설치된 복수의 카메라(130_1 내지 130_N)는 미리 정해진 영역을 실시간으로 촬영한 영상 데이터를 일정한 시간 단위로 수집 및 구분하고, 촬영된 영상 데이터를 일정 시간 단위마다 재난 상황 방지 서비스 등을 제공할 수 있는 상황실(410)과 연관된 NVR(414) 및/또는 VMS(416)로 전송할 수 있다. 이 경우, 영상 데이터에는 촬영 시작 시간, 종료 시간 및 총 촬영 시간 등의 시간 데이터가 포함될 수 있다.According to an embodiment, the plurality of cameras 130_1 to 130_N installed in the field 400 collect and classify image data photographed in real time in a predetermined area at a predetermined time unit, and collect the captured image data every predetermined time unit. It can be transmitted to the NVR 414 and/or the VMS 416 associated with the situation room 410 that can provide a disaster prevention service and the like. In this case, the image data may include time data such as a shooting start time, an end time, and a total shooting time.

또한, 현장(400)에 설치된 복수의 센서(140_1 내지 140_N)는 (영상 데이터가 촬영된) 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 포함하는 센싱 데이터를 일정한 시간 단위로 수집 및 구분하고, 측정된 센싱 데이터를 일정 시간 단위마다 RTU(150)를 통해 재난 상황 방지 서비스 등을 제공할 수 있는 상황실(410)과 연관된 HMI 서버(412)로 전송할 수 있다. 이 경우, 센싱 데이터에는 센싱 시작 시간, 종료 시간 및 총 센싱 시간 등의 시간 데이터가 포함될 수 있다.In addition, the plurality of sensors 140_1 to 140_N installed in the field 400 collect and classify sensing data including information related to weather or environment in a predetermined area (image data is photographed) in a predetermined time unit, and measure, The sensed data may be transmitted to the HMI server 412 associated with the control room 410 capable of providing a disaster situation prevention service, etc. through the RTU 150 every predetermined time unit. In this case, the sensing data may include time data such as a sensing start time, an end time, and a total sensing time.

일 실시예에 따르면, 상황실(410)에 설치된 HMI 서버(412)는, 센서(140) 및/또는 RTU(150)를 제어하고, RTU(150)를 통해 수신된 센싱 데이터를 채널별로 시각화할 수 있다. 또한, HMI 서버(412)가 수신한 센싱 데이터에는, 각 센서에서 수집된 기상 또는 환경 변화 데이터(예를 들어, 범람 가능성, 수위 높이, 온도, 수압, 습도, 바람의 방향 및 세기, 강수량 등)와 함께 수집 시간 정보가 포함될 수 있다. 이 때, 기상 또는 환경 변화 데이터를 포함하는 채널별 센싱 데이터는 통합 영상 감시 시스템(110)으로 전송될 수 있다. 통합 영상 감시 시스템(110)은 수신된 채널별 센싱 데이터를 이용하여 시간 경과에 따른 그래프, 표, 이미지, 영상 등의 형태로 시각화된 센싱 이미지 데이터를 생성할 수 있다.According to an embodiment, the HMI server 412 installed in the control room 410 may control the sensor 140 and/or the RTU 150 and visualize the sensing data received through the RTU 150 for each channel. there is. In addition, the sensing data received by the HMI server 412 includes weather or environmental change data collected from each sensor (eg, possibility of flooding, water level height, temperature, water pressure, humidity, wind direction and strength, precipitation, etc.) In addition, collection time information may be included. In this case, the sensing data for each channel including the weather or environment change data may be transmitted to the integrated video monitoring system 110 . The integrated video monitoring system 110 may generate the sensed image data visualized in the form of a graph, table, image, image, etc. over time by using the received sensing data for each channel.

VMS(Virtual Management System)(416)는, 현장의 영상 모니터링 기능, 통합 영상 감시 시스템을 통한 관리 기능 등을 통합 영상 감시 시스템(110)에 연결된 원격지의 (418_1 내지 418_N)에서도 동일하게 구현하도록 구성될 수 있다. 즉, 복수의 카메라(130_1 내지 130_N)로부터 수신된 영상 데이터는 NVR(414)에 의해 채널별로 관리, 저장 및/또는 처리됨과 동시에, VMS(416)를 통해 (418_1 내지 418_N)에서 실시간으로 표시되거나 출력될 수 있다. The VMS (Virtual Management System) 416 is configured to implement the on-site video monitoring function, the management function through the integrated video monitoring system, etc. in the same way in the remote locations (418_1 to 418_N) connected to the integrated video monitoring system 110. can That is, the image data received from the plurality of cameras 130_1 to 130_N is managed, stored, and/or processed for each channel by the NVR 414 , and is displayed in real time at (418_1 to 418_N) through the VMS 416 or can be output.

통합 영상 감시 시스템(110)은, NVR(414) 및/또는 HMI 서버(412)로부터 각각 수신된 영상 데이터 및 센싱 데이터를 채널별로 저장 및 처리할 수 있다. 일 실시예에 따르면, 통합 영상 감시 시스템(110)은, NVR(414)로부터 수신된 영상 데이터의 촬영 시간과 HMI 서버(412)로부터 수신된 센싱 데이터의 수집 시간의 동기화를 실행할 수 있다. 이와 같이, 영상 처리 시스템(110)은, 영상 데이터와 연관된 센싱 데이터의 동기화를 실행함으로써, 복수의 카메라(130_1 내지 130_N)에 의해 촬영된 하천 등과 같은 주변 환경의 변화를 좀 더 정확하게 분석할 수 있다.The integrated video monitoring system 110 may store and process video data and sensing data respectively received from the NVR 414 and/or the HMI server 412 for each channel. According to an embodiment, the integrated video monitoring system 110 may synchronize the capturing time of the image data received from the NVR 414 and the collection time of the sensing data received from the HMI server 412 . As such, the image processing system 110 may more accurately analyze changes in the surrounding environment, such as rivers photographed by the plurality of cameras 130_1 to 130_N, by synchronizing the sensing data associated with the image data. .

일 실시예에 따르면, 통합 영상 감시 시스템(110)은 정해진 영역 주변의 구조물의 수위를 감지할 수 있도록 학습된 인공 지능 기반의 수위 계측 모델을 저장 및 실행 가능하도록 구성될 수 있다. 예를 들어, 영상 처리 시스템(110)은 영상 데이터 상의 실시간 수위, 토지의 높이, 토지 위치, 구조물 이미지 등을 비교하여 영상 데이터 상의 토지, 구조물 등에서 수위가 차지하는 비율을 식별하여 위험을 감지할 수 있다.According to an embodiment, the integrated video monitoring system 110 may be configured to store and execute an artificial intelligence-based water level measurement model learned to detect the water level of a structure around a predetermined area. For example, the image processing system 110 compares the real-time water level, land height, land location, structure image, etc. on the image data to identify the ratio of the water level to the land, structure, etc. on the image data to detect a risk. .

통합 영상 감시 시스템(110)은 HMI 서버(412), NVR(414) 등으로부터 수신된 영상 데이터, 기상 또는 환경 변화 데이터를 포함하는 센싱 데이터, 센싱 이미지 데이터 및 감시 영상 데이터 등에 대한 저장, 제어, 검색, 팝업 및/또는 통합 관제를 수행할 수 있다. The integrated video monitoring system 110 stores, controls, and retrieves image data received from the HMI server 412 , the NVR 414 , etc., sensing data including weather or environmental change data, sensing image data and monitoring image data, etc. , pop-up and/or integrated control.

도 5는 본 개시의 일 실시예에 따른 현장에 설치된 카메라가 촬영한 영상 데이터(500)의 예시를 나타내는 도면이다. 상술된 바와 같이, 복수의 카메라는 산업현장과 같은 현장에 설치되어 미리 정해진 영역을 촬영하도록 구성될 수 있다. 도 5는, 하천, 강 등에서 유량을 조절하기 위해 설치된 3개의 수문(510)이 포함된 영역(500)의 예를 도시하고 있다. 5 is a diagram illustrating an example of image data 500 captured by a camera installed in a field according to an embodiment of the present disclosure. As described above, the plurality of cameras may be installed in a field such as an industrial site and configured to photograph a predetermined area. FIG. 5 shows an example of an area 500 including three sluice gates 510 installed to control flow rates in a river, river, and the like.

일 실시예에 따르면, 카메라에 의해 촬영된 미리 정해진 영역(500)의 영상 데이터는 NVR 및/또는 통합 영상 감시 시스템으로 전송될 수 있다. 이와 같이 영상 데이터(500)를 수신한 통합 영상 감시 시스템은 수신된 영상 데이터를 기초로 수문(510)의 수위(520)를 결정하고, 결정된 수위에 대응하는 이상 현상 여부를 판단할 수 있다. 통합 영상 감시 시스템은, 결정된 수위 및 이상 현상 여부 판단 결과가 반영된 감시 영상 데이터를 외부 시스템 등에 전송하고, 결정된 수위 및 이상 현상 여부 판단 결과에 따라 해당 영역의 수문의 원격 제어(예를 들어, 수문 개폐 제어) 등을 수행할 수 있다.According to an embodiment, image data of the predetermined area 500 captured by the camera may be transmitted to the NVR and/or the integrated video surveillance system. The integrated video monitoring system that has received the image data 500 as described above may determine the water level 520 of the sluice gate 510 based on the received image data and determine whether an abnormality corresponding to the determined water level is present. The integrated video monitoring system transmits the monitoring image data reflecting the determined water level and abnormality determination result to an external system, etc. control), etc.

도 6은 본 개시의 일 실시예에 따른 영상 감시 인터페이스(600) 상에서 데이터 설정 입력창(630)을 출력하는 방법을 설명하기 위한 예시도이다. 사용자는, 통합 영상 감시 시스템 또는 이에 연결된 외부 시스템의 디스플레이 상에 표시된 영상 감시 인터페이스(600) 상에서 센싱 이미지 데이터 및 감시 영상 데이터의 형태 또는 표시 방법 등을 설정할 수 있다.6 is an exemplary diagram for explaining a method of outputting the data setting input window 630 on the video monitoring interface 600 according to an embodiment of the present disclosure. The user may set the form or display method of the sensing image data and the monitoring image data on the video monitoring interface 600 displayed on the display of the integrated video monitoring system or an external system connected thereto.

일 실시예에서, 도시된 바와 같이, 사용자는 통합 영상 감시 시스템의 디스플레이 상에서 표시된 영상 감시 인터페이스(600) 상에서 복수의 카메라로부터 수신된 영상 데이터를 확인할 수 있다. 영상 감시 인터페이스(600) 상에서 각 영상 데이터 상에 중첩되어 표시된 센싱 데이터 설정 아이콘(610)을 클릭하면, 센싱 데이터 설정 입력창(630)이 출력될 수 있다. 이때, 센싱 데이터 설정 입력창(630) 상에는, RTU가 복수의 센서로부터 센싱 데이터를 수신할 때 사용하는 통신 프로토콜(예를 들어, TCP/IP 프로토콜)의 IP주소, 통신 포트 번호 및 국번이 표시될 수 있다. 또한, 센싱 데이터 설정 입력창(630) 상에는, F-CODE 설정 아이콘(632) 및 센싱 데이터 Tag 설정 아이콘(634 및 636)이 출력될 수 있다. F-CODE는 0, 1, 3, 4 중 어느 하나에 해당될 수 있으며, 0 F-CODE는 DIGITAL OUTPUT 데이터, 1 F-CODE는 DIGITAL INPUT 데이터, 3 F-CODE는 ANALOG INPUT 데이터, 4 F-CODE는 ANALOG OUTPUT 데이터에 해당될 수 있다.In one embodiment, as shown, the user may check the image data received from the plurality of cameras on the video monitoring interface 600 displayed on the display of the integrated video monitoring system. When the sensing data setting icon 610 displayed overlaid on each image data is clicked on the image monitoring interface 600 , the sensing data setting input window 630 may be output. At this time, on the sensing data setting input window 630, the IP address, communication port number, and station number of the communication protocol (eg, TCP/IP protocol) used when the RTU receives sensing data from a plurality of sensors will be displayed. can Also, on the sensing data setting input window 630 , an F-CODE setting icon 632 and sensing data tag setting icons 634 and 636 may be output. F-CODE can correspond to any one of 0, 1, 3, 4, 0 F-CODE is DIGITAL OUTPUT data, 1 F-CODE is DIGITAL INPUT data, 3 F-CODE is ANALOG INPUT data, 4 F- CODE may correspond to ANALOG OUTPUT data.

일 실시예에 따르면, 사용자가 입출력 장치(예를 들어, 마우스)를 통해 F-CODE 설정 아이콘(632)을 클릭하고, 복수의 F-CODE 중 적어도 하나의 F-CODE에 대한 선택을 입력하면, 해당 F-CODE와 연관된 데이터가 센싱 데이터 설정 입력창(630) 상에 출력된다. 이때, 센싱 데이터 설정 입력창(630) 상에는 해당 F-CODE별 센싱 데이터 설정 아이콘(634 및 636)이 출력될 수 있으며, 사용자는 입출력 장치를 통해 센싱 데이터 Tag 설정 아이콘(634 및 636)을 클릭하여 영상 데이터에 출력될 센싱 이미지 데이터에 관한 Tag 설정을 할 수 있다.According to an embodiment, when a user clicks the F-CODE setting icon 632 through an input/output device (eg, a mouse) and inputs a selection for at least one F-CODE among a plurality of F-CODEs, Data associated with the corresponding F-CODE is output on the sensing data setting input window 630 . At this time, the sensing data setting icon (634 and 636) for each F-CODE may be output on the sensing data setting input window 630, and the user clicks the sensing data tag setting icon (634 and 636) through the input/output device. You can set the tag for the sensing image data to be output to the image data.

도 7은 본 개시의 일 실시예에 따른 영상 감시 인터페이스(600) 상에서 영상 데이터의 화면에 센싱 데이터를 동기화하는 방법을 설명하기 위한 예시도이다. 사용자는 영상 감시 인터페이스(600)를 통해 영상 데이터의 화면에 합성되어 출력될 센싱 데이터의 종류 및 색상을 포함하는 센싱 이미지 데이터의 출력 조건을 설정할 수 있다.7 is an exemplary diagram for explaining a method of synchronizing sensing data to a screen of image data on the image monitoring interface 600 according to an embodiment of the present disclosure. The user may set an output condition of the sensing image data including the type and color of the sensing data to be synthesized and output on the screen of the image data through the image monitoring interface 600 .

우선 도 7-(a)를 참조하면, 도 6에 상술된 바와 같이, 사용자는 센싱 데이터 설정 입력창(630) 상에서 입출력 장치를 통해 F-CODE 설정 아이콘(632)을 클릭하고, 3 F-CODE의 선택을 입력하면, 센싱 데이터 설정 입력창(630)에는 ANALOG INPUT 데이터가 출력된다. 이때, ANALOG INPUT 데이터는 센싱 데이터 TAG 설정 아이콘(636)을 포함하고, 사용자가 입출력 장치를 통해 해당 ANLAOG INPUT 데이터의 센싱 데이터 TAG 설정 아이콘(636)을 클릭하면, ANALOG INPUT TAG 설정 창(710)이 출력된다.First, referring to FIG. 7-( a ), as described above in FIG. 6 , the user clicks the F-CODE setting icon 632 through the input/output device on the sensing data setting input window 630 and selects 3 F-CODE When the selection of , ANALOG INPUT data is output to the sensing data setting input window 630 . At this time, the ANALOG INPUT data includes the sensing data TAG setting icon 636, and when the user clicks the sensing data TAG setting icon 636 of the corresponding ANLAOG INPUT data through the input/output device, the ANALOG INPUT TAG setting window 710 opens. is output

일 실시예에 따르면, ANALOG INPUT TAG 설정 창(710)은, 영상 데이터 상에 중첩되어 표시될 센싱 데이터의 명칭(Tag 명), 어드레스, 데이터 형식, 데이터 값의 하한(Low scale), 데이터 값의 상한(High scale), Low 실데이터, High 실데이터, 데이터 값의 단위, 데이터가 표시되는 그래프의 색상, 화면표시 여부 아이콘(712)을 포함한다. 이때, 사용자는 입출력 장치를 통해 ANALOG INPUT TAG 설정 창(710) 상에서 화면표시 여부 아이콘(712)을 클릭하여 감시 영상 데이터에 중첩되어 표시될 센싱 데이터를 선택할 수 있다. 이처럼, 감시 영상 데이터에는 사용자가 선택한 복수의 센싱 데이터가 그래프의 형태로 영상 데이터 상에 중첩되어 표시될 수 있다.According to an embodiment, the ANALOG INPUT TAG setting window 710 displays the name (tag name), address, data format, lower limit of the data value, and the data value to be displayed overlaid on the image data. It includes an upper limit (High scale), Low real data, High real data, a unit of data value, a color of a graph in which data is displayed, and a screen display icon 712 . At this time, the user may click the screen display icon 712 on the ANALOG INPUT TAG setting window 710 through the input/output device to select sensing data to be displayed overlaid on the monitoring image data. In this way, a plurality of sensing data selected by a user may be displayed on the monitoring image data by being superimposed on the image data in the form of a graph.

도 7-(b)를 참조하면, 도 6에 상술된 바와 같이, 사용자는 센싱 데이터 설정 입력창(630) 상에서 입출력 장치를 통해 F-CODE 설정 아이콘(632)을 클릭하고, 1 F-CODE의 선택을 입력하면, 센싱 데이터 설정 입력창(630)에는 DIGITAL INPUT 데이터가 출력된다. 이때, DIGITAL INPUT 데이터는 센싱 데이터 TAG 설정 아이콘(636)을 포함하고, 사용자가 입출력 장치를 통해 해당 DIGITAL INPUT 데이터의 센싱 데이터 TAG 설정 아이콘(636)을 클릭하면, DIGITAL INPUT TAG 데이터 설정창 (720)이 출력된다.Referring to FIG. 7-(b), as described above in FIG. 6, the user clicks the F-CODE setting icon 632 through the input/output device on the sensing data setting input window 630, and When a selection is input, DIGITAL INPUT data is output to the sensing data setting input window 630 . At this time, the DIGITAL INPUT data includes the sensing data TAG setting icon 636, and when the user clicks the sensing data TAG setting icon 636 of the corresponding DIGITAL INPUT data through the input/output device, the DIGITAL INPUT TAG data setting window 720 opens. is output

일 실시예에 따르면, DIGITAL INPUT 데이터 TAG 설정창(720)은, 센싱 데이터의 명칭(Tag 명), 어드레스, 가동 및 정지 상태(On/Off 표시), 화면표시 여부 아이콘(720 및 722)을 포함한다. 이때, 사용자는 입출력 장치를 통해 DIGITAL INPUT TAG 데이터 설정창(720) 상에서 화면표시 여부 아이콘(720 및 722)를 클릭하여 감시 영상 데이터에 중첩되어 표시될 센싱 데이터를 선택할 수 있다.According to an embodiment, the DIGITAL INPUT data TAG setting window 720 includes a name (tag name), an address, an active and stopped state (On/Off display) of the sensing data, and an icon for whether to display the screen 720 and 722. . In this case, the user may click the screen display icon 720 and 722 on the DIGITAL INPUT TAG data setting window 720 through the input/output device to select sensing data to be displayed overlaid on the monitoring image data.

도 8은 본 개시의 일 실시예에 따른 영상 데이터와 센싱 이미지 데이터를 동기화하여 합성한 감시 영상 데이터(800)의 예시를 나타내는 도면이다. 상술된 바와 같이, 통합 영상 감시 시스템은 복수의 카메라로부터 촬영된 영상 데이터를 수신하고, 수신된 영상 데이터를 VMS, 외부 시스템 등을 통해 출력할 수 있다. 또한, 통합 영상 감시 시스템은 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 감지하는 복수의 센서로부터 획득된 센싱 데이터를 수신하고, 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성하고, 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 동기화하여 합성함으로써 감시 영상 데이터(800)를 생성할 수 있다.8 is a diagram illustrating an example of monitoring image data 800 synthesized by synchronizing image data and sensing image data according to an embodiment of the present disclosure. As described above, the integrated video surveillance system may receive image data captured from a plurality of cameras and output the received image data through a VMS, an external system, or the like. In addition, the integrated video surveillance system receives sensing data obtained from a plurality of sensors that detect weather or environment-related information in a predetermined area, and visualizes the received sensing data to generate sensing image data, and the received image data The monitoring image data 800 may be generated by synchronizing and synthesizing the generated sensing image data.

일 실시예에 따르면, 감시 영상 데이터(800)는 센싱 데이터표(810), 센싱 데이터 그래프표(820) 및 그 배경에 표시된 영상 데이터를 포함할 수 있다. 도시된 예에서, 센싱 데이터표(810)는 복수의 카메라에 의해 촬영된 미리 정해진 영역의 범람 가능성, 수위, 온도, 내수위, 외수위, 저수량, 저수율, 흡입수위, 도출수위 등을 포함하는 센싱 데이터 및 각 센싱 데이터를 센싱 이미지 데이터로 출력할 수 있는 센싱 그래프 추가 버튼(812)을 포함할 수 있다. 이와 같이, 센싱 데이터표(810)에는, 각 센싱 데이터의 종류, 수치, 단위를 포함하는 센싱 데이터 정보가 텍스트 형태로 출력될 수 있다. 또한, 도 7을 참조하여 상술한 바와 같이, 센싱 데이터표(810)에 출력되는 센싱 데이터는 영상 감시 인터페이스 상에서 입출력 장치를 통해 추가하거나 제거할 수 있다. According to an embodiment, the monitoring image data 800 may include a sensing data table 810 , a sensing data graph table 820 , and image data displayed in a background thereof. In the illustrated example, the sensing data table 810 is a sensing including flood potential, water level, temperature, internal water level, outer water level, stored water level, low water yield, suction water level, derived water level, etc. of a predetermined area photographed by a plurality of cameras It may include a sensing graph add button 812 capable of outputting data and each sensing data as sensing image data. As such, in the sensing data table 810, sensing data information including the type, number, and unit of each sensing data may be output in text form. Also, as described above with reference to FIG. 7 , the sensing data output to the sensing data table 810 may be added or removed through an input/output device on the video monitoring interface.

센싱 데이터표(810)에 출력되는 각 센싱 데이터의 수치는, 도7-(a)에 도시된 바와 같이, ANALOG INPUT TAG 설정창(710)을 통해 설정된 데이터 값의 상한(High scale), 실데이터, High 실데이터, Low 실데이터에 따라 결정된다. 예를 들어, 각 센싱 데이터의 수치는 아래 수식을 통해 산출할 수 있다.The numerical value of each sensing data output to the sensing data table 810 is, as shown in FIG. 7-(a), the upper limit of the data value set through the ANALOG INPUT TAG setting window 710 (High scale), real data, It is determined according to high real data and low real data. For example, the numerical value of each sensing data can be calculated through the following equation.

Figure 112021050378910-pat00001
Figure 112021050378910-pat00001

감시 영상 데이터(800)는 영상 데이터 및 센싱 데이터를 시각화한 시각 이미지 데이터(그래픽 데이터)를 포함하도록 구성될 수 있다. 일 실시예에 따르면, 사용자는 입출력 장치를 통해 센싱 데이터표(810) 상에 표시된 각 센서의 그래프 추가 버튼(812)의 클릭을 수행함으로써, 센싱 데이터 그래프(820)상에 각 센서의 센싱 데이터를 그래프의 형태로 출력할 수 있다. 예를 들어, 각 센싱 데이터의 수치를 임의의 그래프의 형태로 일정 시간 단위마다 센싱 데이터 그래프(820) 상에 출력할 수 있다. 이처럼, 센싱 이미지 데이터는 센싱 데이터 그래프(820)에 임의의 그래프의 형태로 출력될 수 있다. 이때, 사용자는 입출력 장치를 통해, 센싱 데이터 그래프(820)에 출력되는 복수의 센싱 이미지 데이터의 그래프의 위치를 조정할 수 있다. 또다른 실시예에 따르면, 사용자는 입출력 장치를 통해, 감시 영상 데이터(800)에 포함된 영상 데이터 위에 중첩되어 표시되는 센싱 데이터표(810) 및/또는 센싱 데이터 그래프(820)의 투명도를 설정할 수 있다.The monitoring image data 800 may be configured to include visual image data (graphic data) obtained by visualizing image data and sensing data. According to an embodiment, the user clicks the graph add button 812 of each sensor displayed on the sensing data table 810 through the input/output device, thereby adding the sensing data of each sensor on the sensing data graph 820. It can be output in the form of a graph. For example, the numerical value of each sensing data may be output in the form of an arbitrary graph on the sensing data graph 820 at predetermined time units. As such, the sensing image data may be output in the form of an arbitrary graph on the sensing data graph 820 . In this case, the user may adjust the positions of the graphs of the plurality of sensing image data output to the sensing data graph 820 through the input/output device. According to another embodiment, the user can set the transparency of the sensing data table 810 and/or the sensing data graph 820 superimposed on the image data included in the monitoring image data 800 through the input/output device. there is.

일 실시예에 따르면, 통합 영상 감시 시스템은 영상 데이터 및 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하고, 결정된 이상 현상과 연관된 정보를 포함하도록 감시 영상 데이터(800)를 생성할 수 있다. 예를 들어, 미리 정해진 영역이 하천, 강 등인 경우, 이상 현상은 하천, 강 등의 범람 등을 지칭할 수 있다. 도시된 바와 같이, 통합 영상 감시 시스템은 영상 데이터 및 센싱 데이터를 이용하여 하천, 강 등의 범람 가능성을 판정할 수 있다. 그리고 나서, 범람 가능성에 따른 주의(또는 경고) 단계를 나타내는 텍스트, 이미지, 영상 등이 감시 영상 데이터(800)에 포함될 수 있다. 예를 들어, 통합 영상 감시 시스템은 하천, 강 등의 범람 가능성을 "관심", "주의", 경계" 단계 등으로 구분하고, 해당되는 단계의 텍스트, 이미지, 영상 등을 포함하도록 감시 영상 데이터(800)를 생성할 수 있다.According to an embodiment, the integrated video surveillance system may determine an abnormality in a predetermined area based on the image data and the sensing data, and generate the monitoring image data 800 to include information related to the determined abnormality. For example, when the predetermined area is a river, a river, etc., the abnormal phenomenon may refer to an overflow of a river, a river, or the like. As shown, the integrated video surveillance system may determine the possibility of flooding of rivers and rivers by using image data and sensing data. Then, text, an image, an image, etc. indicating a caution (or warning) level according to the possibility of overflow may be included in the monitoring image data 800 . For example, the integrated video surveillance system classifies the possibility of flooding of rivers and rivers into “interest”, “attention”, and “guardian” stages, etc., and monitors surveillance image data ( 800) can be created.

일 실시예에 따르면, 통합 영상 감시 시스템은 감시 영상 데이터(800)를 제공받은 사용자의 사용자 단말(또는 외부 시스템)로부터 임의의 명령, 입력 등을 수신할 수 있다. 이 경우, 통합 영상 감시 시스템은 수신된 명령, 입력 등에 따라 카메라, 센서, 미리 정해진 영역과 연관된 장치 등을 제어할 수 있다. 예를 들어, 영상 처리 시스템은 사용자로부터 명령을 수신하는 경우, 하천, 강 등의 수문의 높이를 조정할 수 있다. 이와 같은 구성에 의해, 사용자는 단순히 미리 정해진 영역의 영상 데이터를 제공받는 것뿐만 아니라, 시각화된 센싱 정보, 이상 현상 정보 등을 함께 제공받을 수 있으므로, 이상 현상 등에 대한 즉각적인 대처를 수행할 수 있다. 이때, 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 이상 현상 정보를 수신하면, 감시 영상 데이터(800)의 화면이 반짝거리거나, 이상 현상 정보를 알리기 위한 팝업이 표시될 수 있다.According to an embodiment, the integrated video monitoring system may receive an arbitrary command, input, etc. from a user terminal (or an external system) of a user provided with the monitoring video data 800 . In this case, the integrated video surveillance system may control a camera, a sensor, a device associated with a predetermined area, etc. according to a received command, input, or the like. For example, when receiving a command from a user, the image processing system may adjust the height of a sluice gate such as a river or a river. With such a configuration, the user can not only simply receive image data of a predetermined area, but also receive visualized sensing information, abnormal phenomenon information, and the like, so that an immediate response to the abnormal phenomenon can be performed. At this time, when abnormal phenomenon information is received from a plurality of sensors that sense weather or environment-related information in a predetermined area, the screen of the monitoring image data 800 may flash or a pop-up for notifying abnormal phenomenon information may be displayed. there is.

도 9는 본 개시의 일 실시예에 따른 영상 데이터 및 센싱 데이터에 기초하여 이상 현상 정보를 추출하도록 학습된 인공신경망(900)의 예시를 나타내는 구조도이다. 일 실시예에 따르면, 인공신경망(900)은 영상 처리 시스템의 프로세서에서 생성되고 실행될 수 있다. 여기서, 인공신경망(900)은 영상 데이터 및 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하도록 학습된 모델일 수 있다. 일 실시예에 따르면, 인공신경망(900)은 생물학적 신경망의 구조에 기초하여 구현된 통계학적 학습 알고리즘 또는 그 알고리즘을 실행하는 모델 또는 구조를 포함할 수 있다.  예를 들어, 인공신경망(900)은, 생물학적 신경망에서와 같이 시냅스의 결합으로 네트워크를 형성한 인공 뉴런인 노드(Node)들이 시냅스의 가중치를 반복적으로 조정하여, 특정 입력에 대응한 올바른 출력과 추론된 출력 사이의 오차가 감소되도록 학습함으로써, 문제 해결 능력을 가지는 머신러닝 모델을 나타낸다.9 is a structural diagram illustrating an example of an artificial neural network 900 trained to extract anomaly information based on image data and sensing data according to an embodiment of the present disclosure. According to an embodiment, the artificial neural network 900 may be generated and executed in a processor of an image processing system. Here, the artificial neural network 900 may be a model trained to determine an anomaly in a predetermined area based on image data and sensing data. According to an embodiment, the artificial neural network 900 may include a statistical learning algorithm implemented based on the structure of a biological neural network, or a model or structure for executing the algorithm. For example, in the artificial neural network 900 , as in a biological neural network, nodes that are artificial neurons that form a network by combining synapses repeatedly adjust the weights of synapses to obtain correct output and reasoning in response to a specific input. It represents a machine learning model with problem-solving ability by learning to reduce the error between the outputs.

일 실시예에 따르면, 인공신경망(900)은 다층의 노드들과 이들 상이의 연결로 구성된 다층 퍼셉트론(MLP: multilayer perceptron), 컨볼루션 신경망(CNN: convolution neural network), 순환 신경망(RNN: recurrent neural network) 등을 포함하는 다양한 인공신경망 구조들 중의 하나를 이용하여 구현될 수 있다.  인공신경망(900)은 외부로부터 입력 신호 또는 데이터를 수신하는 입력층, 입력 데이터에 대응한 출력 신호 또는 데이터를 출력하는 출력층, 입력층과 출력층 사이에 위치하며 입력층으로부터 신호를 받아 특성을 추출하여 출력층으로 전달하는 n개의 은닉층으로 구성될 수 있다.  여기서, 출력층은, 은닉층으로부터 신호를 받아 외부로 출력한다.According to an embodiment, the artificial neural network 900 includes a multilayer perceptron (MLP), a convolutional neural network (CNN), and a recurrent neural network (RNN) composed of multiple layers of nodes and their different connections. network) may be implemented using one of various artificial neural network structures including The artificial neural network 900 is located between an input layer that receives an input signal or data from the outside, an output layer that outputs an output signal or data corresponding to the input data, and an input layer and an output layer, and receives a signal from the input layer to extract characteristics. It can consist of n hidden layers that pass to the output layer. Here, the output layer receives a signal from the hidden layer and outputs it to the outside.

일반적으로, 인공신경망(900)의 학습 방법에는, 교사 신호(정답)의 입력에 의해서 문제의 해결에 최적화되도록 학습하는 지도 학습(Supervised Learning)방법과, 교사 신호를 필요로 하지 않는 비지도 학습(Unsupervised Learning)방법이 있다.  본 개시에 따른 방법 및 시스템은, 지도 학습(Supervised Learning), 비지도 학습(Unsupervised Learning) 및 준 지도 학습(Semi-supervised Learning)을 이용하여, 미리 정해진 영역의 수위가 "관심" 수준, "주의" 수준, "경계" 수준 중 어느 범위에 속하는지 판별하도록 인공신경망(900)을 학습시킬 수 있다. 이와 같이 학습된 인공신경망(900)은 복수의 카메라 및 복수의 센서로부터 수신된 영상 데이터(910), 센싱 데이터(920)를 이용하여 미리 정해진 영역의 이상 현상을 결정할 수 있다. 도시된 예에서, 미리 정해진 영역이 하천, 강 등인 경우, 인공신경망(900)은 수위의 범람 가능성을 나타내는 수위 위험 단계(930) 및 각 단계의 확률값(940)을 출력할 수 있다. 예를 들어, "관심"단계의 확률은 0.1로 산출되고, "주의"단계의 확률은 0.5로 산출되고, "경계"단계의 확률은 0.8로 산출될 수 있다. 산출된 결과에 기초하여, 영상 처리 시스템은 주의 단계를 가장 높은 확률 값을 갖는"경계"단계로 결정하고, 해당 이상 현상 정보(즉, 주의 단계 정보)를 포함하는 감시 영상 데이터를 생성할 수 있다.In general, the learning method of the artificial neural network 900 includes a supervised learning method that learns to be optimized to solve a problem by input of a teacher signal (correct answer), and an unsupervised learning method that does not require a teacher signal ( There is an unsupervised learning method. The method and system according to the present disclosure, using supervised learning, unsupervised learning, and semi-supervised learning, the water level of a predetermined area is "interest" level, "attention" The artificial neural network 900 may be trained to determine which range of the "level" and "boundary" level. The artificial neural network 900 learned in this way may determine an anomaly in a predetermined area using the image data 910 and the sensing data 920 received from a plurality of cameras and a plurality of sensors. In the illustrated example, when the predetermined area is a river, a river, etc., the artificial neural network 900 may output a water level risk step 930 indicating the possibility of flooding of the water level and a probability value 940 of each step. For example, the probability of the "interest" level may be calculated as 0.1, the probability of the "attention" level may be calculated as 0.5, and the probability of the "boundary" level may be calculated as 0.8. Based on the calculated result, the image processing system may determine the attention level as the "boundary" level having the highest probability value, and generate surveillance image data including the corresponding anomaly information (ie, attention level information). .

도 10은 본 개시의 일 실시예에 따른 통합 영상 감시 방법(1000)을 나타내는 흐름도이다. 일 실시예에 따르면, 통합 영상 감시 방법(1000)은 통합 영상 감시 시스템(예를 들어, 통합 영상 감시 시스템의 적어도 하나의 프로세서)에 의해 수행될 수 있다. 영상 처리 방법(1000)은 프로세서가 미리 정해진 영역을 촬영하는 복수의 카메라로부터 획득된 영상 데이터를 수신함으로써 개시될 수 있다(S1010). 예를 들어, 복수의 카메라는 인터넷에 연결하여 사용할 수 있는 IP 카메라를 포함할 수 있으며, 프로세서는 복수의 카메라와 네트워크를 통해 통신할 수 있다.10 is a flowchart illustrating an integrated video monitoring method 1000 according to an embodiment of the present disclosure. According to an embodiment, the integrated video monitoring method 1000 may be performed by an integrated video monitoring system (eg, at least one processor of the integrated video monitoring system). The image processing method 1000 may be started when the processor receives image data obtained from a plurality of cameras for photographing a predetermined area ( S1010 ). For example, the plurality of cameras may include an IP camera that can be used by connecting to the Internet, and the processor may communicate with the plurality of cameras through a network.

프로세서는 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 획득된 센싱 데이터를 수신할 수 있다(S1020). 이 경우, 영상 데이터 및 센싱 데이터는 채널별로 저장되거나 관리될 수 있다. 일 실시예에 따르면, 프로세서는 복수의 센서로부터 획득된 센싱 데이터를 수집하고, 수집된 센싱 데이터를 복수의 채널로 정렬하는 복수의 RTU로부터 정렬된 센싱 데이터를 수신할 수 있다. 여기서, 복수의 RTU는 복수의 센서와 미리 정해진 시리얼 통신 프로토콜을 이용하여 통신할 수 있다.The processor may receive sensing data obtained from a plurality of sensors that sense information related to weather or environment in a predetermined area (S1020). In this case, image data and sensing data may be stored or managed for each channel. According to an embodiment, the processor may collect sensing data obtained from a plurality of sensors, and receive the aligned sensing data from a plurality of RTUs for arranging the collected sensing data into a plurality of channels. Here, the plurality of RTUs may communicate with the plurality of sensors using a predetermined serial communication protocol.

일 실시예에 따르면, 프로세서는 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성하고, 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성할 수 있다(S1030). 이 경우, 프로세서는 영상 데이터 및 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하고, 결정된 이상 현상과 연관된 정보를 포함하도록 감시 영상 데이터를 생성할 수 있다.According to an embodiment, the processor may generate sensing image data by visualizing the received sensing data, and may generate monitoring image data by synchronizing the received image data and the generated sensing image data (S1030). In this case, the processor may determine an abnormality in a predetermined area based on the image data and the sensing data, and generate the monitoring image data to include information related to the determined abnormality.

도 11은 본 개시의 일 실시예에 따른 외부 시스템의 요청 권한 판정 방법(1100)을 나타내는 흐름도이다. 요청 권한 판정 방법(1100)은, 통합 영상 감시 시스템(예를 들어, 통합 영상 감시 시스템의 적어도 하나의 프로세서 또는 감시 영상 관리부)에 의해 수행될 수 있다. 요청 권한 판정 방법(1100)은 프로세서가 수신된 영상 데이터와 생성된 센싱 이미지 데이터를 동기화하여 감시 영상 데이터를 생성함으로써 개시될 수 있다(S1110). 이 경우, 감시 영상 데이터를 생성하는 과정은 도 1 내지 도 10을 참조하여 상술된 것과 동일하게 수행될 수 있다.11 is a flowchart illustrating a method 1100 for determining a request authority of an external system according to an embodiment of the present disclosure. The request authority determination method 1100 may be performed by an integrated video monitoring system (eg, at least one processor or a monitoring video management unit of the integrated video monitoring system). The request authority determination method 1100 may be started by the processor synchronizing the received image data and the generated sensing image data to generate monitoring image data (S1110). In this case, the process of generating the surveillance image data may be performed in the same manner as described above with reference to FIGS. 1 to 10 .

일 실시예에 따르면, 프로세서는 입출력 장치(또는 디스플레이 장치)로부터 감시 영상 데이터에 대한 요청을 수신할 수 있다(S1120). 예를 들어, 입출력 장치는 통합 영상 감시 시스템에 연결된 임의의 외부 시스템에 포함되거나, 외부 시스템과 연결된 장치를 지칭할 수 있다. 프로세서는 입출력 장치로부터 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 입출력 장치와 연관된 외부 시스템의 감시 영상 데이터에 대한 요청 권한을 판정할 수 있다(S1130). 예를 들어, 감시 영상 데이터에 대한 요청 권한은 각 외부 시스템 별로 미리 결정되거나, 수신된 감시 영상 데이터에 대한 요청과 연관된 정보를 기초로 판정될 수 있다.According to an embodiment, the processor may receive a request for monitoring image data from an input/output device (or a display device) (S1120). For example, the input/output device may be included in any external system connected to the integrated video surveillance system or may refer to a device connected to the external system. In response to receiving a request for monitoring image data from the input/output device, the processor may determine a request authority for monitoring image data of an external system associated with the input/output device ( S1130 ). For example, the request authority for monitoring image data may be predetermined for each external system, or may be determined based on information related to the received request for monitoring image data.

요청 권한이 존재하는 것으로 판정된 경우, 프로세서는 생성된 감시 영상 데이터를 입출력 장치(또는 입출력 장치와 연관된 외부 시스템)로 전송할 수 있다(S1140). 반면에, 요청 권한이 존재하지 않는 것으로 판정된 경우, 프로세서는 감시 영상 데이터를 요청을 전송한 입출력 장치로 전송하지 않을 수 있다.When it is determined that the request authority exists, the processor may transmit the generated monitoring image data to the input/output device (or an external system associated with the input/output device) (S1140). On the other hand, when it is determined that the request authority does not exist, the processor may not transmit the monitoring image data to the input/output device that transmitted the request.

상술한 방법은 컴퓨터에서 실행하기 위해 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램으로 제공될 수 있다. 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수개 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD 와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 애플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.The above-described method may be provided as a computer program stored in a computer-readable recording medium for execution by a computer. The medium may continuously store a computer executable program, or may be a temporary storage for execution or download. In addition, the medium may be various recording means or storage means in the form of a single or several hardware combined, it is not limited to a medium directly connected to any computer system, and may exist distributedly on a network. Examples of the medium include a hard disk, a magnetic medium such as a floppy disk and a magnetic tape, an optical recording medium such as CD-ROM and DVD, a magneto-optical medium such as a floppy disk, and those configured to store program instructions, including ROM, RAM, flash memory, and the like. In addition, examples of other media may include recording media or storage media managed by an app store for distributing applications, sites supplying or distributing other various software, and servers.

본 개시의 방법, 동작 또는 기법들은 다양한 수단에 의해 구현될 수도 있다. 예를 들어, 이러한 기법들은 하드웨어, 펌웨어, 소프트웨어, 또는 이들의 조합으로 구현될 수도 있다. 본원의 개시와 연계하여 설명된 다양한 예시적인 논리적 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합들로 구현될 수도 있음을 통상의 기술자들은 이해할 것이다. 하드웨어 및 소프트웨어의 이러한 상호 대체를 명확하게 설명하기 위해, 다양한 예시적인 구성요소들, 블록들, 모듈들, 회로들, 및 단계들이 그들의 기능적 관점에서 일반적으로 위에서 설명되었다. 그러한 기능이 하드웨어로서 구현되는지 또는 소프트웨어로서 구현되는지의 여부는, 특정 애플리케이션 및 전체 시스템에 부과되는 설계 요구사항들에 따라 달라진다. 통상의 기술자들은 각각의 특정 애플리케이션을 위해 다양한 방식들로 설명된 기능을 구현할 수도 있으나, 그러한 구현들은 본 개시의 범위로부터 벗어나게 하는 것으로 해석되어서는 안된다.The method, operation, or techniques of this disclosure may be implemented by various means. For example, these techniques may be implemented in hardware, firmware, software, or a combination thereof. Those of ordinary skill in the art will appreciate that the various illustrative logical blocks, modules, circuits, and algorithm steps described in connection with the disclosure herein may be implemented as electronic hardware, computer software, or combinations of both. To clearly illustrate this interchangeability of hardware and software, various illustrative components, blocks, modules, circuits, and steps have been described above generally in terms of their functionality. Whether such functionality is implemented as hardware or software depends upon the particular application and design requirements imposed on the overall system. Skilled artisans may implement the described functionality in varying ways for each particular application, but such implementations should not be interpreted as causing a departure from the scope of the present disclosure.

하드웨어 구현에서, 기법들을 수행하는 데 이용되는 프로세싱 유닛들은, 하나 이상의 ASIC들, DSP들, 디지털 신호 프로세싱 디바이스들(digital signal processing devices; DSPD들), 프로그램가능 논리 디바이스들(programmable logic devices; PLD들), 필드 프로그램가능 게이트 어레이들(field programmable gate arrays; FPGA들), 프로세서들, 제어기들, 마이크로제어기들, 마이크로프로세서들, 전자 디바이스들, 본 개시에 설명된 기능들을 수행하도록 설계된 다른 전자 유닛들, 컴퓨터, 또는 이들의 조합 내에서 구현될 수도 있다.In a hardware implementation, the processing units used to perform the techniques include one or more ASICs, DSPs, digital signal processing devices (DSPDs), programmable logic devices (PLDs). ), field programmable gate arrays (FPGAs), processors, controllers, microcontrollers, microprocessors, electronic devices, and other electronic units designed to perform the functions described in this disclosure. , a computer, or a combination thereof.

따라서, 본 개시와 연계하여 설명된 다양한 예시적인 논리 블록들, 모듈들, 및 회로들은 범용 프로세서, DSP, ASIC, FPGA나 다른 프로그램 가능 논리 디바이스, 이산 게이트나 트랜지스터 로직, 이산 하드웨어 컴포넌트들, 또는 본원에 설명된 기능들을 수행하도록 설계된 것들의 임의의 조합으로 구현되거나 수행될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안으로, 프로세서는 임의의 종래의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한, 컴퓨팅 디바이스들의 조합, 예를 들면, DSP와 마이크로프로세서, 복수의 마이크로프로세서들, DSP 코어와 연계한 하나 이상의 마이크로프로세서들, 또는 임의의 다른 구성의 조합으로 구현될 수도 있다.Accordingly, the various illustrative logic blocks, modules, and circuits described in connection with this disclosure are suitable for use in general purpose processors, DSPs, ASICs, FPGAs or other programmable logic devices, discrete gate or transistor logic, discrete hardware components, or the present disclosure. It may be implemented or performed in any combination of those designed to perform the functions described in A general purpose processor may be a microprocessor, but in the alternative, the processor may be any conventional processor, controller, microcontroller, or state machine. A processor may also be implemented as a combination of computing devices, eg, a combination of a DSP and a microprocessor, a plurality of microprocessors, one or more microprocessors in conjunction with a DSP core, or any other configuration.

펌웨어 및/또는 소프트웨어 구현에 있어서, 기법들은 랜덤 액세스 메모리(random access memory; RAM), 판독 전용 메모리(read-only memory; ROM), 비휘발성 RAM(non-volatile random access memory; NVRAM), PROM(programmable read-only memory), EPROM(erasable programmable read-only memory), EEPROM(electrically erasable PROM), 플래시 메모리, 컴팩트 디스크(compact disc; CD), 자기 또는 광학 데이터 스토리지 디바이스 등과 같은 컴퓨터 판독가능 매체 상에 저장된 명령어들로 구현될 수도 있다. 명령들은 하나 이상의 프로세서들에 의해 실행 가능할 수도 있고, 프로세서(들)로 하여금 본 개시에 설명된 기능의 특정 양태들을 수행하게 할 수도 있다.In firmware and/or software implementations, the techniques may include random access memory (RAM), read-only memory (ROM), non-volatile random access memory (NVRAM), PROM ( on computer readable media such as programmable read-only memory), erasable programmable read-only memory (EPROM), electrically erasable PROM (EEPROM), flash memory, compact disc (CD), magnetic or optical data storage devices, etc. It may be implemented with stored instructions. The instructions may be executable by one or more processors, and may cause the processor(s) to perform certain aspects of the functionality described in this disclosure.

이상 설명된 실시예들이 하나 이상의 독립형 컴퓨터 시스템에서 현재 개시된 주제의 양태들을 활용하는 것으로 기술되었으나, 본 개시는 이에 한정되지 않고, 네트워크나 분산 컴퓨팅 환경과 같은 임의의 컴퓨팅 환경과 연계하여 구현될 수도 있다. 또 나아가, 본 개시에서 주제의 양상들은 복수의 프로세싱 칩들이나 장치들에서 구현될 수도 있고, 스토리지는 복수의 장치들에 걸쳐 유사하게 영향을 받게 될 수도 있다. 이러한 장치들은 PC들, 네트워크 서버들, 및 휴대용 장치들을 포함할 수도 있다.Although the embodiments described above have been described utilizing aspects of the presently disclosed subject matter in one or more standalone computer systems, the present disclosure is not so limited and may be implemented in connection with any computing environment, such as a network or distributed computing environment. . Still further, aspects of the subject matter in this disclosure may be implemented in a plurality of processing chips or devices, and storage may be similarly affected across the plurality of devices. Such devices may include PCs, network servers, and portable devices.

본 명세서에서는 본 개시가 일부 실시예들과 관련하여 설명되었지만, 본 개시의 발명이 속하는 기술분야의 통상의 기술자가 이해할 수 있는 본 개시의 범위를 벗어나지 않는 범위에서 다양한 변형 및 변경이 이루어질 수 있다. 또한, 그러한 변형 및 변경은 본 명세서에 첨부된 특허청구의 범위 내에 속하는 것으로 생각되어야 한다.Although the present disclosure has been described in connection with some embodiments herein, various modifications and changes may be made without departing from the scope of the present disclosure that can be understood by those skilled in the art to which the present disclosure pertains. Further, such modifications and variations are intended to fall within the scope of the claims appended hereto.

110: 영상 처리 시스템 120: 네트워크
130: 카메라 140: 센서
150: RTU
110: image processing system 120: network
130: camera 140: sensor
150: RTU

Claims (10)

다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 시스템에 있어서,
미리 정해진 영역을 촬영하는 복수의 카메라로부터 획득된 영상 데이터를 수신하여 채널별로 저장하는 영상 데이터 기록부;
상기 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 획득된 센싱 데이터를 수신하고, 상기 영상 데이터가 저장되는 각각의 채널과 대응되는 채널별로 상기 센싱 데이터를 저장하는 센싱 데이터 수신부;
상기 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성하고, 상기 채널, 촬영 시간 및 센싱 시간이 대응되도록 상기 수신된 영상 데이터와 상기 생성된 센싱 이미지 데이터를 동기화하고, 상기 영상 데이터 및 상기 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하여, 상기 결정된 이상 현상과 연관된 정보를 포함하는 감시 영상 데이터를 생성하는 감시 영상 데이터 생성부; 및
디스플레이 장치로부터 상기 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 상기 생성된 감시 영상 데이터를 상기 디스플레이 장치로 전송하고, 상기 디스플레이 장치와 연관된 외부 시스템의 상기 감시 영상 데이터에 대한 요청 권한을 판정하는 감시 영상 관리부를 포함하고,
상기 감시 영상 데이터는 상기 영상 데이터와 중첩하여 표시된 센싱 데이터표 및 센싱 데이터 그래프표를 포함하고, 상기 센싱 데이터표 또는 상기 센싱 데이터 그래프표는 사용자의 선택에 의해서 화면에 표시할 센싱 데이터 또는 센싱 데이터 그래프의 종류가 설정될 수 있는 센싱 그래프 추가 버튼을 포함하는, 통합 영상 감시 시스템.
In the integrated video surveillance system for synthesis, expression, search and control of multi-channel image data and sensor data,
an image data recording unit for receiving image data obtained from a plurality of cameras for photographing a predetermined area and storing the image data for each channel;
a sensing data receiver configured to receive sensing data obtained from a plurality of sensors for sensing weather or environment-related information in the predetermined area, and to store the sensing data for each channel corresponding to each channel in which the image data is stored;
Visualize the received sensing data to generate sensing image data, synchronize the received image data and the generated sensing image data so that the channel, the shooting time, and the sensing time correspond, and the image data and the sensing data a monitoring image data generating unit that determines an abnormality in a predetermined area based on the detection and generates monitoring image data including information related to the determined abnormality; and
In response to receiving a request for the monitoring image data from the display device, transmitting the generated monitoring image data to the display device, and determining the request authority for the monitoring image data of an external system associated with the display device including a surveillance video management unit;
The monitoring image data includes a sensing data table and a sensing data graph table displayed overlapping the image data, and the sensing data table or the sensing data graph table is sensing data or a sensing data graph to be displayed on the screen by a user's selection. An integrated video surveillance system, including a sensing graph add button to which the type of can be set.
삭제delete 삭제delete 제1항에 있어서,
상기 복수의 센서로부터 획득된 센싱 데이터를 수집하고, 상기 수집된 센싱 데이터를 복수의 채널별로 정렬하는 복수의 RTU(Remote Terminal Unit)로부터 상기 정렬된 센싱 데이터를 수신하고, 상기 채널별로 정렬된 센싱 데이터를 상기 센싱 데이터 수신부로 전송하는 HMI 서버를 더 포함하는, 통합 영상 감시 시스템.
The method of claim 1,
Collects the sensing data obtained from the plurality of sensors, receives the sorted sensing data from a plurality of RTU (Remote Terminal Unit) that aligns the collected sensing data for each channel, and the sensing data arranged for each channel The integrated video surveillance system further comprising an HMI server that transmits to the sensing data receiver.
제4항에 있어서,
상기 복수의 RTU는 상기 복수의 센서와 RS-232/485/IO를 포함하는 직렬통신을 이용하여 통신하는, 통합 영상 감시 시스템.
5. The method of claim 4,
The plurality of RTUs communicate using serial communication including the plurality of sensors and RS-232/485/IO, an integrated video surveillance system.
삭제delete 제1항에 있어서,
상기 미리 정해진 영역을 촬영하는 복수의 카메라로부터 인코딩된 영상 데이터를 복수의 채널별로 수신하여 정렬하고, 상기 채널별로 정렬된 영상 데이터를 상기 영상 데이터 기록부로 전송하는 NVR(Network Video Recorder)을 더 포함하는, 통합 영상 감시 시스템.
The method of claim 1,
Further comprising a network video recorder (NVR) for receiving and arranging video data encoded by a plurality of channels from a plurality of cameras for photographing the predetermined area, and transmitting the video data sorted for each channel to the video data recording unit , an integrated video surveillance system.
제1항에 있어서,
상기 복수의 카메라는 인터넷에 연결하여 사용할 수 있는 IP(Internet Protocol) 카메라를 포함하고,
상기 영상 데이터 기록부는 상기 복수의 카메라와 네트워크를 통해 통신하는, 통합 영상 감시 시스템.
The method of claim 1,
The plurality of cameras include an IP (Internet Protocol) camera that can be used by connecting to the Internet,
The video data recording unit communicates with the plurality of cameras through a network, an integrated video surveillance system.
적어도 하나의 프로세서에 의해 수행되는 다채널 영상 데이터 및 센서 데이터의 합성, 표출, 검색 및 제어를 위한 통합 영상 감시 방법에 있어서,
미리 정해진 영역을 촬영하는 복수의 카메라로부터 획득된 영상 데이터를 수신하여 채널별로 저장하는 단계;
상기 미리 정해진 영역의 기상 또는 환경과 연관된 정보를 센싱하는 복수의 센서로부터 획득된 센싱 데이터를 수신하고, 상기 영상 데이터가 저장되는 각각의 채널과 대응되는 채널별로 상기 센싱 데이터를 저장하는 단계;
상기 수신된 센싱 데이터를 시각화하여 센싱 이미지 데이터를 생성하고, 상기 채널, 촬영 시간 및 센싱 시간이 대응되도록 상기 수신된 영상 데이터와 상기 생성된 센싱 이미지 데이터를 동기화하고, 상기 영상 데이터 및 상기 센싱 데이터를 기초로 미리 정해진 영역의 이상 현상을 결정하여, 상기 결정된 이상 현상과 연관된 정보를 포함하는 감시 영상 데이터를 생성하는 단계; 및
디스플레이 장치로부터 상기 감시 영상 데이터에 대한 요청을 수신하는 것에 응답하여, 상기 생성된 감시 영상 데이터를 상기 디스플레이 장치로 전송하고, 상기 디스플레이 장치와 연관된 외부 시스템의 상기 감시 영상 데이터에 대한 요청 권한을 판정하는 단계를 포함하고,
상기 감시 영상 데이터는 상기 영상 데이터와 중첩하여 표시된 센싱 데이터표 및 센싱 데이터 그래프표를 포함하고, 상기 센싱 데이터표 또는 상기 센싱 데이터 그래프표는 사용자의 선택에 의해서 화면에 표시할 센싱 데이터 또는 센싱 데이터 그래프의 종류가 설정될 수 있는 센싱 그래프 추가 버튼을 포함하는, 통합 영상 감시 방법.
An integrated video monitoring method for synthesizing, displaying, searching and controlling multi-channel image data and sensor data performed by at least one processor, the method comprising:
receiving image data obtained from a plurality of cameras for photographing a predetermined area and storing the image data for each channel;
receiving sensing data obtained from a plurality of sensors for sensing weather or environment-related information in the predetermined area, and storing the sensing data for each channel corresponding to each channel in which the image data is stored;
Visualize the received sensing data to generate sensing image data, synchronize the received image data and the generated sensing image data so that the channel, the shooting time, and the sensing time correspond, and the image data and the sensing data determining an abnormality in a predetermined area based on the determination of an abnormality, and generating surveillance image data including information related to the determined abnormality; and
In response to receiving a request for the monitoring image data from the display device, transmitting the generated monitoring image data to the display device, and determining the request authority for the monitoring image data of an external system associated with the display device comprising steps;
The monitoring image data includes a sensing data table and a sensing data graph table displayed overlapping the image data, and the sensing data table or the sensing data graph table is sensing data or a sensing data graph to be displayed on the screen by a user's selection. Including a sensing graph add button to which the type of can be set, the integrated video monitoring method.
제9항에 따른 통합 영상 감시 방법을 컴퓨터에서 실행하기 위해 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램.A computer program stored in a computer-readable recording medium to execute the integrated video monitoring method according to claim 9 in a computer.
KR1020210055875A 2021-03-02 2021-04-29 Video surveillance system and method for composing, presenting, retrieving and controlling multi-channel video data and sensor data KR102383966B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210027701 2021-03-02
KR20210027701 2021-03-02

Publications (1)

Publication Number Publication Date
KR102383966B1 true KR102383966B1 (en) 2022-04-08

Family

ID=81182833

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210055875A KR102383966B1 (en) 2021-03-02 2021-04-29 Video surveillance system and method for composing, presenting, retrieving and controlling multi-channel video data and sensor data

Country Status (1)

Country Link
KR (1) KR102383966B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116668859A (en) * 2023-07-31 2023-08-29 深圳市汇龙净化技术有限公司 GIS equipment computer lab environment monitoring device
CN117676089A (en) * 2023-12-08 2024-03-08 烟台山有智能科技有限公司 Method and device for realizing fusion of streaming media data and digital device data

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000039780A (en) * 1998-12-16 2000-07-05 김영환 Monitoring and controlling system for d-trs base station using rtu
KR20070037752A (en) * 2005-10-04 2007-04-09 (주)인와이저 Data communication protocol of multi-guardian service system
KR20170141049A (en) * 2016-06-14 2017-12-22 주식회사 케이티 System and method for event alarm based on metadata and application therefor
KR20190002142A (en) * 2017-06-29 2019-01-08 주식회사 케이티 System and method for security
KR20200143752A (en) * 2019-06-07 2020-12-28 (주)솔로몬기술단기술사사무소 Home security system capable of being communicated with a doorbel1 and smart phone and method thereof

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000039780A (en) * 1998-12-16 2000-07-05 김영환 Monitoring and controlling system for d-trs base station using rtu
KR20070037752A (en) * 2005-10-04 2007-04-09 (주)인와이저 Data communication protocol of multi-guardian service system
KR20170141049A (en) * 2016-06-14 2017-12-22 주식회사 케이티 System and method for event alarm based on metadata and application therefor
KR20190002142A (en) * 2017-06-29 2019-01-08 주식회사 케이티 System and method for security
KR20200143752A (en) * 2019-06-07 2020-12-28 (주)솔로몬기술단기술사사무소 Home security system capable of being communicated with a doorbel1 and smart phone and method thereof

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116668859A (en) * 2023-07-31 2023-08-29 深圳市汇龙净化技术有限公司 GIS equipment computer lab environment monitoring device
CN116668859B (en) * 2023-07-31 2023-11-14 深圳市汇龙净化技术有限公司 GIS equipment computer lab environment monitoring device
CN117676089A (en) * 2023-12-08 2024-03-08 烟台山有智能科技有限公司 Method and device for realizing fusion of streaming media data and digital device data

Similar Documents

Publication Publication Date Title
KR102138340B1 (en) Autonomous Inspection and Failure Notification System for IoT-based Repair Facilities Using Intelligent Remote Terminal Device
KR102383966B1 (en) Video surveillance system and method for composing, presenting, retrieving and controlling multi-channel video data and sensor data
CN104091413B (en) A kind of flood control rainwater feelings automatic monitoring method
US20170076563A1 (en) Systems and methods to provide pipeline damage alerts
CN113793234B (en) Wisdom garden platform based on digit twin technique
CN107277443B (en) Large-range peripheral safety monitoring method and system
CN110159929B (en) Intelligent control big data processing method for underground drainage pipe network
CN107451709A (en) The system and method that the dynamic risk level indicator of ATM websites or other remote monitoring websites is shown on map
Lirer et al. Hazard and risk assessment in a complex multi-source volcanic area: the example of the Campania Region, Italy
CN110187233A (en) Holographic sensor, transmission line malfunction method of disposal and terminal device
CN113125659A (en) Water quality monitoring platform
CN113053063A (en) Mobile terminal-based disaster online disposal flow implementation method
KR20230061012A (en) Big data-based flood warning and prevention system using CCTV and signage
CN115965246A (en) Early warning analysis method for karst collapse disaster
CN115841730A (en) Video monitoring system and abnormal event detection method
CN117765707A (en) Reservoir water condition monitoring and alarming system and method based on edge calculation
CN117499424A (en) Tunnel water fire control data acquisition monitoring system
US20190114725A1 (en) Utility network monitoring with a device and an unmanned aircraft
Tillihal et al. River flood monitoring and management: a review
CN104103152B (en) A kind of flood control rainwater feelings automatic monitoring method
Suwatthikul et al. Development of dam safety remote monitoring and evaluation system
CN115829536A (en) Gradual faults in power networks
US10768613B2 (en) Methods and systems for streaming non-process event data to computing devices
CN114743332A (en) Perception early warning method and device for intelligent fire fighting, storage medium and terminal
Selvi et al. IoT-Enabled Flood Monitoring System for Enhanced Dam Surveillance and Risk Mitigation

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant