KR102300640B1 - System for analyzing cctv image information for occupancy realtime monitoring, and method for the same - Google Patents

System for analyzing cctv image information for occupancy realtime monitoring, and method for the same Download PDF

Info

Publication number
KR102300640B1
KR102300640B1 KR1020190162406A KR20190162406A KR102300640B1 KR 102300640 B1 KR102300640 B1 KR 102300640B1 KR 1020190162406 A KR1020190162406 A KR 1020190162406A KR 20190162406 A KR20190162406 A KR 20190162406A KR 102300640 B1 KR102300640 B1 KR 102300640B1
Authority
KR
South Korea
Prior art keywords
cctv
occupants
image information
entrance
real
Prior art date
Application number
KR1020190162406A
Other languages
Korean (ko)
Other versions
KR20210072285A (en
Inventor
채승언
조경숙
최지훈
최수환
김흥열
조범연
Original Assignee
한국건설기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국건설기술연구원 filed Critical 한국건설기술연구원
Priority to KR1020190162406A priority Critical patent/KR102300640B1/en
Publication of KR20210072285A publication Critical patent/KR20210072285A/en
Application granted granted Critical
Publication of KR102300640B1 publication Critical patent/KR102300640B1/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/0202Child monitoring systems using a transmitter-receiver system carried by the parent and the child
    • G08B21/0205Specific application combined with child monitoring using a transmitter-receiver system
    • G08B21/0208Combination with audio or video communication, e.g. combination with "baby phone" function
    • G06K9/00624
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B17/00Fire alarms; Alarms responsive to explosion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • H04N5/2258
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Abstract

고층건물에서 화재 등 재난 발생시, 비상구 및 승강기 등의 출입구로 이동하는 재실자(또는 출입자)의 위치 및 인원수를 실시간 모니터링하기 위해서 CCTV 영상을 수집하여 가시화함으로써 자동으로 신속하고 정확하게 분석할 수 있고, 또한, 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 여러 명이 한 번에 출입구를 통해 이동하는 경우에도 각각의 재실자를 용이하게 구분하여 인식할 수 있으며, 또한, 다수의 CCTV 각각이 CMOS 이미지 센서(CIS)와 동적시각센서(DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(TIS)가 내장된 돔형 IP 카메라로 구현됨에 따라 다양한 조도환경 하에서도 영향을 받지 않고 안정적인 검출률을 확보할 수 있고, 또한, CCTV 모니터링 프로그램에 따라 인식 구역을 지정할 수 있으며, 이러한 지정된 인식 구역을 중심으로 하여 진출/진입 여부를 용이하게 판정할 수 있는, 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템 및 그 방법 이 제공된다.In the event of a disaster such as a fire in a high-rise building, in order to monitor the location and number of occupants (or visitors) moving to the exits such as emergency exits and elevators in real time, CCTV images can be collected and visualized to automatically and quickly and accurately analyze, According to the movement of occupants based on camera motion detection, even if several people move through the entrance at once, each occupant can be easily distinguished and recognized. As it is implemented as a dome-type IP camera with a built-in dynamic visual sensor (DVS) or CMOS image sensor (CIS) and thermal image sensor (TIS), it is possible to secure a stable detection rate without being affected under various lighting conditions, and also A CCTV image information analysis system and method for real-time monitoring of occupants, which can designate a recognition area according to a monitoring program, and can easily determine whether to enter or exit based on this designated recognition area, are provided.

Description

재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템 및 그 방법 {SYSTEM FOR ANALYZING CCTV IMAGE INFORMATION FOR OCCUPANCY REALTIME MONITORING, AND METHOD FOR THE SAME}CCTV image information analysis system and method for real-time monitoring of occupants {SYSTEM FOR ANALYZING CCTV IMAGE INFORMATION FOR OCCUPANCY REALTIME MONITORING, AND METHOD FOR THE SAME}

본 발명은 재실자 인원 실시간 모니터링에 관한 것으로, 보다 구체적으로, 고층건물에서 화재 등 재난 발생시, 비상구 및 승강기 등의 출입구로 이동하는 재실자(또는 출입자)의 위치 및 인원수를 실시간 모니터링하기 위해서 CCTV 영상을 수집하여 가시화하고, 자동으로 분석하는 CCTV 영상정보 분석 시스템 및 그 방법에 관한 것이다.The present invention relates to real-time monitoring of occupants, and more specifically, when a disaster such as a fire occurs in a high-rise building, CCTV images are collected in order to monitor the location and number of occupants (or occupants) moving to the exits such as emergency exits and elevators in real time. It relates to a CCTV image information analysis system and method for visualizing and automatically analyzing.

최근 도시화에 따른 인구의 집중화로 각종 빌딩의 대형화, 고층화 및 복합화가 급격히 진행되고 있다. 이에 따라 상대적으로 화재안전에 취약한 건축물이 증가되고 있으므로, 인명안전 확보를 위한 효과적인 화재대책 수립의 필요성이 절실히 요구되고 있다.Recently, due to the concentration of population due to urbanization, large-scale, high-rise, and complex of various buildings are rapidly progressing. Accordingly, as the number of buildings that are relatively vulnerable to fire safety is increasing, there is an urgent need to establish effective fire countermeasures to secure human safety.

특히, 초고층 복합빌딩과 같이 고층빌딩은 재실자들이 외부와의 접근성에 제약을 받기 때문에 화재 발생시 일반 건축물보다 피난 동선이 길어 피난시간이 지연되고, 각종 구난장비 활용의 제약 등으로 인해 인명피해의 위험성이 더 높다고 판단된다. 즉, 고층 또는 대규모의 건물에서는 재난이 발생하게 되면 건물의 특성 상 피난시간이 오래 걸리고, 혼잡성이 증가하게 된다. 또한, 대피로를 찾지 못하여 건물 내에 재실자가 있음에도 불구하고 건물 내 재실자의 유무 또는 위치에 대한 정보를 확인할 수 없기 때문에 구조에 어려움을 겪고 있다. 이에 따라, 재난 발생 시 빠른 대처방법을 제시해 주고 인명피해를 최소화하기 위한 방안이 필요하다.In particular, high-rise buildings, such as high-rise complex buildings, have a longer evacuation route than general buildings in case of fire because occupants are restricted in their accessibility to the outside, so the evacuation time is delayed. judged to be higher. That is, when a disaster occurs in a high-rise or large-scale building, it takes a long time to evacuate due to the characteristics of the building, and congestion increases. In addition, it is difficult to find an evacuation route because it is not possible to check information on the presence or location of occupants in the building despite the presence of occupants in the building. Accordingly, it is necessary to suggest a quick response method in the event of a disaster and to minimize human casualties.

종래의 기술에 따르면, 건물의 출입구, 사무실 구역에 RFID(Radio Frequency InDentification) 센서, CCTV(Closed Circuit TeleVision), 인체감지센서(pyroelectric infrared sensor: PIR 센서) 등을 설치하고 각 센서를 통해 감지한 데이터에 기초하여 재실자의 유무를 판단하는 기술이 제안되고 있다.According to the prior art, RFID (Radio Frequency InDentification) sensor, CCTV (Closed Circuit TeleVision), human body detection sensor (pyroelectric infrared sensor: PIR sensor), etc. are installed in the entrance and office area of a building, and the data detected through each sensor A technique for determining the presence or absence of an occupant based on the

구체적으로, RFID 센서를 이용한 방법은 2인 이상의 단체가 입/퇴실하는 경우, ID카드 유실, 퇴실 시 ID카드를 인식하지 않는 등의 오용에 의해 데이터가 왜곡되어 정확한 출입 데이터를 측정하기가 어렵다.Specifically, in the method using the RFID sensor, when a group of two or more people enters/exits, it is difficult to accurately measure the access data because the data is distorted due to misuse such as loss of ID card or not recognizing ID card when leaving.

또한, CCTV를 이용한 방법은 특정 영역을 통과하는 사람들의 얼굴을 연속으로 검출하여 분석함으로써 설치된 영역에 대하여 입퇴실(출입) 인원을 정확하게 카운팅할 수 있는 장점이 있지만, 프라이버시 문제로 오피스 내에 설치하기 힘든 문제점이 있다. 따라서 종래 CCTV를 이용한 방법은 재실 여부를 판단하기 위한 데이터를 측정하는데 한계가 있다.In addition, the method using CCTV has the advantage of accurately counting the number of people entering and leaving the installed area by continuously detecting and analyzing the faces of people passing through a specific area, but it is difficult to install in the office due to privacy problems. There is a problem. Therefore, the conventional method using CCTV has limitations in measuring data for determining whether occupancy is present.

또한, 인체감지센서를 이용한 방법은 보통 인체감지센서를 건물의 천정에 설치하고 일정 영역에 인체의 존재 여부를 식별하는 것으로 재실 유무를 정확히 판단할 수 있다. 하지만, 재실자의 수를 카운팅할 수는 없으며, 화재 시 연기와 화염에 의해 인체감지센서가 영향을 받게 되면 재실 유무에 대한 판단에 영향을 미칠 수 있다는 문제점이 있다.In addition, in the method using the human body sensor, the presence or absence of an occupancy can be accurately determined by installing the human body detecting sensor on the ceiling of a building and identifying the presence of a human body in a certain area. However, it is not possible to count the number of occupants, and if the human body sensor is affected by smoke and flames in case of a fire, there is a problem in that it may affect the determination of whether or not occupancy is present.

전술한 문제점을 해결하기 위한 선행기술로서, 대한민국 등록특허번호 제10-1871991호에는 "재실자 유무 판단 시스템 및 방법"이라는 명칭의 발명이 개시되어 있는데, 도 1 및 도 2를 참조하여 구체적으로 설명한다.As a prior art for solving the above-described problems, the Republic of Korea Patent Registration No. 10-1871991 discloses an invention entitled “System and Method for Determining Occupancy Occupancy”, which will be described in detail with reference to FIGS. 1 and 2 . .

도 1은 종래의 기술에 따른 재실자 유무 판단 시스템의 구성도이다.1 is a block diagram of a system for determining presence of occupants according to the prior art.

도 1을 참조하면, 종래의 기술에 따른 재실자 유무 판단 시스템은 건물 출입구, 층별, 일정 구역에 설치되는 다수의 측정센서(10), 데이터 수신부(20), 출입 여부 분석부(30), 재실자 유무 판단부(40), 보정부(50) 및 데이터베이스(60)를 포함한다.Referring to FIG. 1 , a occupant determination system according to the prior art includes a plurality of measurement sensors 10 installed in a building entrance, each floor, and a predetermined area, a data receiving unit 20, an entrance/exit analysis unit 30, and the presence or absence of an occupant. It includes a determination unit 40 , a correction unit 50 , and a database 60 .

다수의 측정센서(10)는 서로 다른 종류의 측정센서로서, 건물 내 출입구, 층별, 또는 일정 구역에 설치되어 재실자의 출입 여부 또는 재실 유무를 측정한다. 여기서, 다수의 측정센서(10)는 건물 내 출입구 또는 일정 구역에 설치되어 재실자의 출입 여부를 감지하는 RFID 센서(11); 건물의 일정 구역에 설치되어 재실자의 유무를 감지할 수 있는 인체감지 센서(13); 및 건물 내 출입구, 각 층의 비상구 또는 승강기에 설치되어 해당 출입구, 층간 출입하는 재실자를 촬영하는 CCTV(12)를 포함한다.The plurality of measurement sensors 10 are different types of measurement sensors, and are installed at an entrance, each floor, or a predetermined area in a building to measure whether or not a occupant enters or occupies the room. Here, the plurality of measurement sensors 10 are installed at the entrance or a certain area within the building, the RFID sensor 11 for detecting whether a occupant enters; a human body sensor 13 installed in a certain area of the building to detect the presence or absence of occupants; and a CCTV (12) installed at the entrance of the building, the emergency exit of each floor, or the elevator, and photographing the occupants entering and exiting the corresponding entrance or between the floors.

데이터 수신부(20)는 다수의 측정센서로부터 감지된 측정 데이터를 수신하여 취합한다.The data receiving unit 20 receives and collects measurement data sensed from a plurality of measurement sensors.

출입 여부 분석부(30)는 데이터 수신부(20)로부터 다수의 측정센서(10)를 통해 감지된 측정 데이터를 전달받고, 전달받은 측정 데이터를 데이터베이스(60)에 저장된 센서 설치정보-여기서, 센서 설치정보는 다수의 측정센서가 설치된 건물 출입구, 층별, 또는 일정 구역의 위치 정보를 포함함- 및 건물 출입정보에 기초하여 건물 내 재실자의 출입 여부 및 출입 위치를 분석하고, 출입 위치와 대응되는 출입구, 층별 또는 일정 구역의 출입 인원을 카운팅한다. 구체적으로, 출입 여부 분석부(30)는 RFID 센서(11)로부터 감지된 측정 데이터로부터 재실자 ID 및 출입 위치를 식별하여 출입 여부를 분석하고, CCTV(12)로부터 촬영된 측정 데이터로부터 건물 내 출입구 또는 층별 출입 여부를 분석하고 각 층간 이동 인원을 분석한다.The entry/exit analysis unit 30 receives the measurement data sensed through the plurality of measurement sensors 10 from the data receiving unit 20, and the received measurement data is stored in the database 60, sensor installation information-here, the sensor installation The information includes the location information of the entrance, each floor, or a certain area of the building where a plurality of measurement sensors are installed - and based on the building access information, analyzes the entry and exit of the occupants in the building and the entry and exit location, Count the number of people entering each floor or in a certain area. Specifically, the entry/exit analysis unit 30 identifies the occupant ID and entry/exit location from the measurement data sensed by the RFID sensor 11 to analyze the entry and exit, and uses the measurement data captured from the CCTV 12 to determine the entrance or exit of the building. Analyze whether each floor has entered or not, and the number of people moving between each floor is analyzed.

재실자 유무 판단부(40)는 데이터 수신부(20)로부터 다수의 측정센서(10)를 통해 감지된 측정 데이터를 전달받아, 건물 내 재실자의 유무를 판단하고, 출입 여부 분석부(30)를 통해 카운팅한 출입 인원에 기초하여 해당 층별, 일정 구역에 존재하는 재실자 인원을 산출한다. 구체적으로, 재실자 유무 판단부(40)는 각 층의 재실자 수를 산출 시, 수학식 1에 기초하여 RFID 센서(11)로부터 감지된 측정 데이터와 CCTV(12)로로부터 감지된 측정 데이터에 대한 가중치를 다르게 부여하되, 각 층이 2개 이상의 구역으로 구분되는 경우, 수학식 2에 기초하여 CCTV(12)로부터 감지된 측정 데이터에 해당 층의 각 구역별 비중을 반영하여 최종 재실자 수를 산출한다.The occupant presence determination unit 40 receives the measured data sensed through the plurality of measurement sensors 10 from the data receiving unit 20 , determines the presence or absence of occupants in the building, and counts through the entry/exit analysis unit 30 . Based on the number of people entering and leaving, the number of occupants present in each floor and in a certain area is calculated. Specifically, when calculating the number of occupants on each floor, the occupant presence determination unit 40 weights the measured data sensed from the RFID sensor 11 and the measured data sensed from the CCTV 12 based on Equation 1 However, when each floor is divided into two or more zones, the final number of occupants is calculated by reflecting the weight of each zone of the corresponding floor in the measurement data sensed from the CCTV 12 based on Equation 2 based on Equation 2.

[수학식 1][Equation 1]

재실자 수 = a

Figure 112019126718021-pat00001
(RFID 센서에 의한 재실자 수) + b
Figure 112019126718021-pat00002
(CCTV에 의한 재실자 수)(단, a, b는 가중치이고 a < b 임)number of occupants = a
Figure 112019126718021-pat00001
(number of occupants by RFID sensor) + b
Figure 112019126718021-pat00002
(Number of occupants by CCTV) (where a and b are weights and a < b)

[수학식 2][Equation 2]

재실자 수 = a

Figure 112019126718021-pat00003
(RFID 센서에 의한 재실자 수) + {b
Figure 112019126718021-pat00004
(CCTV에 의한 재실자 수)
Figure 112019126718021-pat00005
(각 구역별 비중) }number of occupants = a
Figure 112019126718021-pat00003
(Number of occupants by RFID sensor) + {b
Figure 112019126718021-pat00004
(Number of occupants by CCTV)
Figure 112019126718021-pat00005
(Proportion of each area) }

각 구역별 비중 = 해당 구역의 RFID 측정값 / {(A구역의 RFID 측정값) + (B구역의 RFID 측정값) + … } (단, a, b는 가중치이고 a < b 임)Proportion of each zone = RFID measurement value of the zone / {(RFID measurement value of zone A) + (RFID measurement value of zone B) + … } (where a and b are weights and a < b)

이때, 각 구역별 비중은 해당 층의 모든 구역에 대한 RFID 센서(11)의 재실자 수 총합을 분모로 하고, 해당 구역의 RFID 센서(11)의 재실자 수를 분자로 하여 산출될 수 있다.In this case, the specific gravity of each zone may be calculated by taking the total number of occupants of the RFID sensor 11 for all zones of the corresponding floor as the denominator, and using the number of occupants of the RFID sensor 11 in the corresponding zone as the numerator.

보정부(50)는 다수의 측정센서(10)로부터 감지된 측정 데이터에 기초하여 각 층간 이동 인원을 체크하고, 이동 인원을 재실자 유무 판단부(40)를 통해 산출된 재실자 수로부터 차감하여 보정한다. 구체적으로, 보정부(50)는 재실자 유무 판단부(40)를 통해 산출된 최종 재실자 수 또는 RFID 센서(11)로부터 산출된 RFID 재실자 수가 CCTV(12)로부터 산출된 CCTV 재실자 수를 초과하는지 여부를 판단하고, 초과하면, 최종 재실자 수 또는 RFID 재실자 수를 CCTV(12)로부터 산출된 CCTV 재실자 수로 보정하고, 또한, CCTV(12)로부터 산출된 CCTV 재실자 수가 RFID 센서(11)로부터 산출된 RFID 재실자 수를 비정상적으로 초과하는 경우, RFID 재실자 수에 대한 가중치를 상향 보정하고, CCTV 재실자 수에 대한 가중치를 하향 보정한다.The correction unit 50 checks the number of people moving between floors based on the measured data sensed by the plurality of measurement sensors 10 , and corrects the number of people moving by subtracting the number of occupants from the number of occupants calculated by the occupancy determination unit 40 . . Specifically, the correction unit 50 determines whether the final number of occupants calculated by the occupant presence determination unit 40 or the number of RFID occupants calculated from the RFID sensor 11 exceeds the number of CCTV occupants calculated from the CCTV 12 . If it is determined and exceeds, the final number of occupants or the number of RFID occupants is corrected by the number of CCTV occupants calculated from the CCTV 12, and the number of CCTV occupants calculated from the CCTV 12 is the number of RFID occupants calculated from the RFID sensor 11 is abnormally exceeded, the weight for the number of RFID occupants is corrected upward, and the weight for the number of CCTV occupants is corrected downward.

한편, 도 2는 종래의 기술에 따른 재실자 유무 판단 시스템을 이용하여 재실자 유무를 판단하는 방법을 설명하기 위한 동작흐름도이다.Meanwhile, FIG. 2 is an operation flowchart for explaining a method of determining the presence or absence of an occupant using the occupancy determination system according to the related art.

도 1 및 도 2를 참조하면, 종래의 기술에 따른 재실자 유무 판단 시스템을 이용하여 재실자 유무를 판단하는 방법은, 먼저, 재실자 유무 판단 시스템이 다수의 측정센서로부터 감지된 데이터를 취합하여 해당 건물의 출입 정보를 모델링화한다(S10). 이때, 모델링 방법은 임의 재실자가 건물에 몇 시부터 출근하고, 화장실, 흡연, 타 사무실 출입, 승강기 승하탑, 계단 출입, 외근, 1층 로비 이용, 단체 입퇴실 등의 방법으로 임의로 상주 인원의 이동을 고려하여 모델링할 수 있다. 이러한 모델링을 통해 건물의 입출현황, 이동현황, 재실현황 등을 통계적으로 파악할 수 있다.1 and 2, in the method of determining the presence or absence of an occupant using the occupancy determination system according to the prior art, first, the occupant presence determination system collects data detected from a plurality of measurement sensors and Access information is modeled (S10). At this time, the modeling method is as follows: a random occupant enters the building from what time, and arbitrarily moves resident personnel in the following ways: toilet, smoking, access to other offices, elevators, stairs, outside work, use of the lobby on the 1st floor, group entry and exit, etc. can be modeled taking into account. Through this modeling, it is possible to statistically grasp the status of entering/exiting, moving, and occupancy of a building.

다음으로, 재실자 유무 판단 시스템이 데이터 수신부(20)에서 다수의 측정센서(10)로부터 감지된 측정 데이터를 수신하여 취합한다(S20).Next, the occupant presence determination system receives and collects the measured data sensed from the plurality of measurement sensors 10 by the data receiving unit 20 (S20).

다음으로, 재실자 유무 판단 시스템의 출입 여부 분석부(30)가 다수의 측정센서(10)로부터 감지된 측정 데이터를 데이터 수신부(20)로부터 전달받고 전달받은 측정 데이터를 모델링한 건물 출입 정보에 기초하여 출입 여부를 분석한다(S30). 이때, 출입 여부의 분석 과정은 RFID 센서(11)인지 CCTV(12) 인지에 따라 구분할 수 있다. 구체적으로, RFID 센서(11)로부터 감지된 측정 데이터가 수신되면. 출입 여부 분석부(30)가 데이터베이스(60)에 저장되어 있는 센서 설치정보 및 건물 출입 정보에 기초하여 측정 데이터(태그 정보)로부터 재실자 ID 및 출입 위치를 식별하고, 식별한 출입 위치에 대응하여 층별, 구역별 출입 여부를 판단한다. 또한, CCTV(12)로부터 감지된 측정 데이터가 수신되면, 출입 여부 분석부(30)가 측정 데이터로부터 출입구, 층별 출입 여부를 판단하고, 층간 이동 현황을 검출할 수 있다.Next, the entrance/exit analysis unit 30 of the occupant presence determination system receives the measurement data detected from the plurality of measurement sensors 10 from the data receiving unit 20 and based on the building entrance information modeling the received measurement data. Analyze whether or not to enter (S30). At this time, the analysis process of whether to enter or not can be divided according to whether it is the RFID sensor 11 or the CCTV 12 . Specifically, when the detected measurement data from the RFID sensor 11 is received. The entry/exit analysis unit 30 identifies the occupant ID and the entry/exit location from the measurement data (tag information) based on the sensor installation information and the building access information stored in the database 60, and corresponds to the identified entry/exit location by floor , and judges whether or not to enter each zone. In addition, when the detected measurement data from the CCTV 12 is received, the entry/exit analysis unit 30 may determine the entry/exit status based on the measurement data and whether the entry/exit is by floor, and may detect the inter-floor movement status.

다음으로, 재실자 유무 판단 시스템의 출입 여부 분석부(30)가 해당 출입 위치에 대응되는 출입구, 층별, 일정 구역을 식별하고, 해당 출입구, 층별, 일정 구역에 출입하는 인원수를 카운팅한다(S40).Next, the entry/exit analysis unit 30 of the occupant presence determination system identifies an entrance, each floor, and a predetermined area corresponding to the corresponding entry/exit location, and counts the number of persons entering and exiting the corresponding entrance, each floor, and the predetermined area (S40).

다음으로, 재실자 유무 판단 시스템의 재실자 유무 판단부(40)가 데이터 수신부(20)로부터 다수의 측정센서(10)를 통해 감지된 측정 데이터를 전달받고, 측정 데이터 및 출입 여부 분석부(30)를 통해 카운팅한 출입 인원에 기초하여 해당 층별, 구역에 따라 재실자의 유무 또는 인원을 산출한다. 이에 따라, 재실 유무 또는 재실자 수를 예측할 수 있다(S50).Next, the occupancy determination unit 40 of the occupant presence determination system receives the measured data sensed through the plurality of measurement sensors 10 from the data receiving unit 20, and performs the measurement data and entry/exit analysis unit 30 Based on the number of entrances and exits counted through the system, the presence or absence of occupants is calculated according to the floor and area. Accordingly, the presence or absence of occupancy or the number of occupants may be predicted (S50).

다음으로, 재실자 유무 판단 시스템의 보정부(50)가 재실자 유무 판단부(40)를 통해 산출된 재실자 수에 대하여 산출 오차 및 오류를 체크하여 보정한다(S60).Next, the correction unit 50 of the occupancy determination system checks and corrects calculation errors and errors with respect to the number of occupants calculated by the occupant presence determination unit 40 ( S60 ).

종래의 기술에 따른 재실자 유무 판단 시스템 및 그 방법에 따르면, 다수의 측정센서들의 측정 데이터를 취합하여 종합적으로 분석함으로써 각 측정센서가 가지고 있는 한계를 보완하고 보다 정확한 재실자의 유무 또는 인원을 판단할 수 있다. 또한, 건물의 화재, 재난 시 도어 또는 배연창의 자동 개폐를 제어하는데 활용하거나, 보안을 위한 방범 관리 등으로 활용할 수 있다. 또한, 다수의 측정센서들을 이용한 분석 알고리즘을 제공함으로써 기존 건물에 구축되어 있거나 범용적으로 사용되는 다수의 측정센서들을 그대로 활용할 수 있다. 또한, CCTV를 통해 촬영된 측정 데이터로부터 각 층간을 이동하는 인원을 차감하고, 각 센서로부터 산출된 측정 데이터에 대하여 오류를 보정하여 실시간 반영함으로써 각 개별 센서를 이용한 재실자 예측 방법보다 더욱 정확하게 재실자 수를 산출할 수 있다.According to the occupancy determination system and method according to the prior art, by collecting and comprehensively analyzing the measurement data of a plurality of measurement sensors, the limitations of each measurement sensor can be supplemented, and the presence or number of occupants can be determined more accurately. have. In addition, it can be used to control the automatic opening and closing of a door or smoke window in case of a fire or disaster in a building, or it can be used as a crime prevention management for security. In addition, by providing an analysis algorithm using a plurality of measurement sensors, it is possible to utilize a plurality of measurement sensors that are built in an existing building or used in general. In addition, the number of occupants is calculated more accurately than the occupant prediction method using each individual sensor by subtracting the number of people moving between floors from the measured data taken through CCTV, correcting the error on the measured data calculated from each sensor and reflecting it in real time. can be calculated.

하지만, 종래의 기술에 따른 재실자 유무 판단 시스템 및 그 방법의 경우, 다수의 측정센서를 설치해야 하므로 구성이 복잡하며, 또한, CCTV를 이용할 경우, 재실 여부를 판단하기 위한 데이터를 측정하는데 한계가 있다. 예를 들면, 전술한 CCTV가 IP 카메라인 경우, 다음과 같은 문제점이 있다.However, in the case of the occupancy determination system and the method according to the prior art, the configuration is complicated because a plurality of measurement sensors must be installed, and when CCTV is used, there is a limit in measuring data for determining whether occupancy is present. . For example, when the aforementioned CCTV is an IP camera, there are the following problems.

먼저, 일반적으로 IP 카메라에 고정되어 있는 IP만 입력하여 영상 재생하는 방식이기 때문에 확장성이 없다는 문제점이 있다. 예를 들면, IP 카메라에 접속 IP를 고정해야 동작하며, IP를 정확히 알지 못하면 접속이 불가하고, 또한, IP 카메라에 고정 IP가 할당되어 있기 때문에 장비 추가 시 개별 동조(tuning) 작업이 필요하다.First, there is a problem in that there is no scalability because it is a method of reproducing video by inputting only the IP fixed in the IP camera in general. For example, it works only when the IP camera is connected to a fixed IP, and if the IP is not known, access is not possible. Also, since a fixed IP is assigned to the IP camera, individual tuning is required when adding equipment.

또한, IP 카메라의 원격조정이 불가하며, 즉, 재부팅, 해상도, FPS 지정 등 동작 방식 조정은 IP 카메라 설치 장소에서만 가능하다.In addition, remote control of the IP camera is not possible, that is, operation method adjustment such as rebooting, resolution, and FPS designation is possible only at the IP camera installation site.

또한, 카메라 장비의 펌웨어(Firmware)를 수정 보완 없이 그대로 사용하고 있고, 특히, 고정된 특정 폴더만을 사용하기 때문에 카메라 기종이 변경되는 경우에는 적용이 불가하며, 또한, Hardware/Firmware를 이용하여 "모션 검출(motion detecting)" 및 "모션 영역(detection area)" 설정을 적용하므로 특정 IP 카메라 장비만을 이용해야 한다.In addition, since the firmware of the camera equipment is used as it is without modification or supplementation, and in particular, it is not applicable when the camera model is changed because only a fixed specific folder is used. Since the settings of "motion detecting" and "detection area" are applied, only specific IP camera equipment must be used.

또한, IP 카메라에서 제공되는 기본 기능을 제대로 이용할 수 없다는 문제점이 있다. 예를 들면, 영역을 지정하여 모션 감지 명령을 수행할 수 있는데, 이때, 영역 지정은 가능하지만 떨림으로 인해 정확한 인원 검출은 불가하다는 문제점이 있다. 예를 들면, 움직임이 감지되어도 해당 움직임이 사람인지 동물(혹은 물건)인지 분별하지 못하며, 다수의 사람이 뭉쳐서 움직이는 경우에도 하나의 카운팅으로 확인된다는 문제점이 있다. 이에 따라, 실제 수행 결과로서, 유용한 검출 결과를 확보할 수 없다는 문제점이 있다.In addition, there is a problem that basic functions provided by the IP camera cannot be used properly. For example, a motion detection command can be performed by designating an area. In this case, although the area can be designated, there is a problem in that it is impossible to accurately detect a person due to shaking. For example, even when a motion is detected, it is not possible to distinguish whether the corresponding motion is a human or an animal (or object), and there is a problem in that a single counting is performed even when a plurality of people move together. Accordingly, there is a problem in that a useful detection result cannot be obtained as an actual execution result.

결국, 재실자 유무 판단을 위해 CCTV를 이용할 경우, 보다 정확하게 재실자를 카운팅할 수 있는 방법이 필요한 실정이다.After all, when CCTV is used to determine the presence or absence of occupants, there is a need for a method for counting occupants more accurately.

대한민국 등록특허번호 제10-1871991호(출원일: 2015년 6월 25일), 발명의 명칭: "재실자 유무 판단 시스템 및 방법"Republic of Korea Patent No. 10-1871991 (application date: June 25, 2015), title of invention: "System and method for determining presence of occupants" 대한민국 등록특허번호 제10-1492799호(출원일: 2014년 11월 21일), 발명의 명칭: "감시영역 입퇴실자 추적을 통한 출입 통제 기능을 가지는 출입 통제 통합 영상 저장 시스템 및 그 방법"Republic of Korea Patent No. 10-1492799 (application date: November 21, 2014), title of invention: "Access control integrated image storage system and method having access control function through tracking people entering and leaving the monitoring area" 대한민국 등록특허번호 제10-1714479호(출원일: 2015년 2월5일), 발명의 명칭: "광센서를 이용한 공간정보 인식방법 및 이를 이용한 상호 다중 사물인식형 재난 대응 시스템"Republic of Korea Patent No. 10-1714479 (application date: February 5, 2015), title of invention: "Spatial information recognition method using optical sensor and mutual multi-object recognition type disaster response system using the same" 대한민국 등록특허번호 제10-2010320호(출원일: 2017년 2월 19일), 발명의 명칭: "재실 확인 서비스 장치"Republic of Korea Patent No. 10-2010320 (application date: February 19, 2017), title of invention: "Occupancy check service device" 대한민국 등록특허번호 제10-1972655호(출원일: 2017년 7월 18일), 발명의 명칭: "초음파 인식 기술을 활용한 재실자 감지 보안 시스템"Republic of Korea Patent No. 10-1972655 (Application Date: July 18, 2017), Title of Invention: "Occupant Detection Security System Using Ultrasound Recognition Technology" 대한민국 등록특허번호 제10-1442658호(출원일: 2013년 1월 15일), 발명의 명칭: "대피시뮬레이션을 제공하는 재난대피 시스템 및 방법"Republic of Korea Patent No. 10-1442658 (application date: January 15, 2013), title of invention: "Disaster evacuation system and method providing evacuation simulation" 대한민국 등록특허번호 제10-1828005호(출원일: 2017년 11월 22일), 발명의 명칭: "피난용 승강기를 이용한 피난전략 지원 시스템 및 그 방법"Republic of Korea Patent No. 10-1828005 (application date: November 22, 2017), title of invention: "Evacuation strategy support system and method using an evacuation elevator"

전술한 문제점을 해결하기 위한 본 발명이 이루고자 하는 기술적 과제는, 고층건물에서 화재 등 재난 발생시, 비상구 및 승강기 등의 출입구로 이동하는 재실자의 위치 및 인원수를 실시간 모니터링하기 위해서 CCTV 영상을 수집하여 가시화함으로써 자동으로 신속하고 정확하게 분석할 수 있는, 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템 및 그 방법 을 제공하기 위한 것이다.The technical task of the present invention to solve the above problems is to collect and visualize CCTV images in order to monitor in real time the location and number of occupants moving to the exits such as emergency exits and elevators when disasters such as fires occur in high-rise buildings. An object of the present invention is to provide a CCTV image information analysis system and method for real-time monitoring of occupants, which can be analyzed quickly and accurately automatically.

본 발명이 이루고자 하는 다른 기술적 과제는, 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 여러 명이 한 번에 출입구를 통해 이동하는 경우에도 각각의 재실자를 용이하게 구분하여 인식할 수 있는, 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템 및 그 방법 을 제공하기 위한 것이다.Another technical problem to be achieved by the present invention is real-time monitoring of the number of occupants that can easily distinguish and recognize each occupant even when several people move through the entrance at once according to the occupant's passage based on camera motion detection To provide a CCTV image information analysis system and method for

본 발명이 이루고자 하는 또 다른 기술적 과제는, 다수의 CCTV 각각이 CMOS 이미지 센서(CIS)와 동적시각센서(DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(TIS)가 내장된 돔형 IP 카메라로 구현됨에 따라 다양한 조도환경 하에서도 영향을 받지 않고 안정적인 검출률을 확보할 수 있는, 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템 및 그 방법을 제공하기 위한 것이다.Another technical task to be achieved by the present invention is that each of a plurality of CCTVs is a dome-type IP camera with a CMOS image sensor (CIS) and a dynamic visual sensor (DVS) or a CMOS image sensor (CIS) and a thermal image sensor (TIS). It is to provide a CCTV image information analysis system and method for real-time monitoring of occupants, which can secure a stable detection rate without being affected under various illuminance environments as it is implemented.

전술한 기술적 과제를 달성하기 위한 수단으로서, 본 발명에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템은, 건물의 각 층별 및 구역별 출입구에 설치되어 비디오스트림(Video Stream)을 생성하는 다수의 CCTV; 상기 다수의 CCTV 각각으로부터 생성된 비디오스트림을 취합하여 전송하는 중계기; CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램에 따라, 상기 중계기로부터 비디오스트림을 수집하고, 상기 수집된 비디오스트림을 처리 및 분석하여 출입구를 진입하거나 진출하는 재실자를 카운팅하여 카운팅 데이터에 따른 출입구 통행 인원정보를 생성하고, 상기 다수의 CCTV를 원격 제어하는 CCTV 영상정보 처리장치; 및 상기 CCTV 영상정보 처리장치에서 처리된 출입구 통행 인원정보를 관제 모니터링하는 관제 모니터링 서버를 포함하되, 상기 다수의 CCTV 각각은 CMOS 이미지 센서(CMOS Image Sensor: CIS)와 동적시각센서(Dynamic Vision Sensor: DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(Thermal Imaging Sensor: TIS)가 내장된 돔형(Dome Type) IP(Internet Protocol) 카메라이고; 상기 CCTV 영상정보 처리장치는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 처리하기 위한 사용자 인터페이스가 구현되어, 재실자 인원 실시간 모니터링을 위해 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 출입구 인원을 자동 검출하며; 상기 CCTV 영상정보 처리장치는, 상기 중계기를 경유하는 상기 다수의 CCTV으로부터 촬영된 비디오스트림을 실시간 수집하는 비디오스트림 수집부; 상기 비디오스트림 수집부로부터 수집된 비디오스트림을 처리 및 분석하고, 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 상기 재실자의 출입구 진입 또는 진출을 구분하여 인식하는 출입구 진입/진출 검출부; 상기 출입구 진입/진출 검출부에 의해 인식되는 재실자를 자동 카운팅하여 출입구 통행 인원정보를 생성하는 재실자 카운팅부; 상기 재실자 카운팅부에서 카운팅된 출입구 통행 인원정보를 상기 모니터링 서버로 전송하는 데이터 전송부; 및 상기 다수의 CCTV 각각의 재부팅, 해상도 및 초당 프레임수 지정을 포함하는 동작 방식을 원격 제어하는 원격 제어부를 포함하는 것을 특징으로 한다.As a means for achieving the above-described technical problem, the CCTV image information analysis system for real-time monitoring of occupants according to the present invention is installed at the entrance of each floor and each area of a building to generate a video stream. CCTV; a repeater that collects and transmits the video streams generated from each of the plurality of CCTVs; According to the CCTV monitoring program and automatic doorway occupant counting program, a video stream is collected from the repeater, and the collected video stream is processed and analyzed to count the occupants entering or exiting the doorway. CCTV image information processing device for generating and remotely controlling the plurality of CCTVs; and a control monitoring server for controlling and monitoring the entrance/passenger information processed by the CCTV image information processing device, wherein each of the plurality of CCTVs includes a CMOS image sensor (CIS) and a dynamic vision sensor: DVS) or a dome type IP (Internet Protocol) camera with a built-in CMOS image sensor (CIS) and a thermal imaging sensor (TIS); The CCTV image information processing device is implemented with a user interface for processing a CCTV monitoring program and an automatic doorway occupant counting program, and automatically detects the number of entrances and exits according to the occupant's movement line based on camera motion detection for real-time monitoring of the number of occupants; The CCTV image information processing apparatus includes: a video stream collecting unit for collecting video streams captured from the plurality of CCTVs via the repeater in real time; an entrance/exit detection unit that processes and analyzes the video stream collected from the video stream collection unit, and recognizes the entrance or exit of the occupant according to the movement of the occupant based on camera motion detection; an occupant counting unit automatically counting the occupants recognized by the entrance/exit detection unit to generate information on the number of people passing through the entrance; a data transmission unit for transmitting information on the number of people passing through the entrance, counted by the occupant counting unit, to the monitoring server; and a remote control unit for remotely controlling an operation method including rebooting, resolution, and number of frames per second of each of the plurality of CCTVs.

삭제delete

여기서, 상기 다수의 CCTV 각각은, 충분한 조도가 확보된 경우, 상기 CMOS 이미지 센서(CIS)가 작동하여 이미지를 수집하고, 조도가 부족하면 상기 동적시각센서(DVS) 또는 열화상센서(TIS)가 대신 작동하여 비디오스트림을 생성할 수 있다.Here, in each of the plurality of CCTVs, when sufficient illuminance is secured, the CMOS image sensor (CIS) operates to collect images, and when the illuminance is insufficient, the dynamic visual sensor (DVS) or the thermal image sensor (TIS) It can work instead to create a videostream.

여기서, 상기 CCTV 영상정보 처리장치는 상기 CCTV 모니터링 프로그램에서 인식 구역을 지정하고, 상기 지정된 인식 구역을 중심으로 하여 출입구를 통행하는 재실자의 진출/진입 여부를 판정할 수 있다.Here, the CCTV image information processing apparatus may designate a recognition area in the CCTV monitoring program, and determine whether a occupant passing through an entrance/exit or not with the designated recognition area as a center.

여기서, 상기 CCTV 모니터링 프로그램을 통해 "모션 감지영역"을 설정하면 CCTV용 IP 카메라에 원격제어신호를 전송하여 해당 영역의 재실자 이동을 감지하는 것을 특징으로 한다.Here, when the "motion detection area" is set through the CCTV monitoring program, a remote control signal is transmitted to the IP camera for CCTV to detect the movement of occupants in the corresponding area.

여기서, 상기 CCTV 모니터링 프로그램을 통해 "움직임이 있는 경우", CCTV용 IP 카메라는 검출 정보를 IP 카메라 내에 구현된 메모리의 특정 폴더에 저장하고, 주기적으로 상기 IP 카메라의 특정 폴더를 폴링하여 관련정보 파일을 가져 오는 것을 특징으로 한다.Here, in the case of “movement” through the CCTV monitoring program, the IP camera for CCTV stores the detection information in a specific folder of a memory implemented in the IP camera, and periodically polls the specific folder of the IP camera to file related information characterized by bringing

여기서, 상기 CCTV 모니터링 프로그램은 기지정된 "모션 감지영역" 안으로 이동이 확인될 경우, 진입 카운팅(People-In Counting)을 처리하고, 경계 부근에서 "모션 감지영역" 밖으로 이동이 확인될 경우, 진출 카운팅(People-Out Counting)을 진행하여 해당 결과를 저장함으로써, 재실자 인원수는 진입 카운팅(People-In Counting)으로부터 진출 카운팅(People-Out Counting)을 차감한 것으로 판정하는 것을 특징으로 한다.Here, the CCTV monitoring program processes entry counting (People-In Counting) when movement into a predetermined "motion detection area" is confirmed, and when movement out of the "motion detection area" near the boundary is confirmed, exit counting By performing (People-Out Counting) and storing the result, the number of occupants is determined by subtracting the outgoing counting (People-Out Counting) from the entry counting (People-In Counting).

삭제delete

여기서, 상기 출입구 진입/진출 검출부는 여러 명이 한 번에 이동하는 경우에도 카메라 모션 검출에 기반하여 재실자를 각각 구분하여 인식할 수 있다.Here, the entrance/exit detection unit may distinguish and recognize occupants based on camera motion detection even when several people move at once.

여기서, 상기 출입구 진입/진출 검출부는, 실시간으로 수집된 CCTV 비디오스트림 각각으로부터 비디오프레임을 각각 추출하여 영상 시퀀스(Sequence)를 자동 추출하는 영상 시퀀스 추출부; 상기 영상 시퀀스 추출부에서 추출된 영상을 분석하는 영상 분석부; 상기 영상 분석부의 영상 분석에 대응하여 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 재실자 이동방향을 자동 감지하는 이동방향 감지부; 및 상기 재실자의 출입구 진입 또는 진출을 구분하여 인식하는 진입/진출 인식부를 포함할 수 있다.Here, the entrance/exit detection unit includes: an image sequence extractor for automatically extracting an image sequence by extracting a video frame from each CCTV video stream collected in real time; an image analyzer for analyzing the image extracted by the image sequence extractor; a movement direction detection unit for automatically detecting the movement direction of the occupants according to the movement of the occupants based on the camera motion detection in response to the image analysis of the image analysis unit; and an entry/exit recognition unit that distinguishes and recognizes the entrance or exit of the occupant.

여기서, 상기 이동방향 감지부는 통행이 없는 상태를 초기 상태로 기억하고 재실자 이동시 이동방향을 자동 감지할 수 있다.Here, the movement direction detecting unit may store a state in which there is no traffic as an initial state and automatically detect the movement direction when a occupant moves.

한편, 전술한 기술적 과제를 달성하기 위한 다른 수단으로서, 본 발명에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법은, a) 건물의 각 층별 및 구역별 출입구에 설치된 각각의 CCTV가 출입구를 촬영하여 비디오스트림을 생성하는 단계; b) CCTV 영상정보 처리장치가 상기 각각의 CCTV가 생성한 비디오스트림을 중계기를 경유하여 실시간 수집하는 단계; c) 상기 CCTV 영상정보 처리장치가 카메라 모션 검출에 기반하여 상기 출입구를 통행하는 재실자의 진입/진출을 구분하여 인식하는 단계; d) 상기 CCTV 영상정보 처리장치가 상기 출입구를 진입하거나 진출하는 재실자를 자동 카운팅하여 출입구 통행 인원정보를 생성하는 단계; e) 상기 CCTV 영상정보 처리장치가 상기 출입구 통행 인원정보를 관제 모니터링 서버로 전송하는 단계; 및 f) 상기 CCTV 영상정보 처리장치가 각각의 CCTV의 동작을 원격 제어하는 단계를 포함하되, 상기 다수의 CCTV 각각은 CMOS 이미지 센서(CMOS Image Sensor: CIS)와 동적시각센서(Dynamic Vision Sensor: DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(Thermal Imaging Sensor: TIS)가 내장된 돔형(Dome Type) IP(Internet Protocol) 카메라이고; 상기 CCTV 영상정보 처리장치는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 처리하기 위한 사용자 인터페이스가 구현되어, 재실자 인원 실시간 모니터링을 위해 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 출입구 인원을 자동 검출하며; 상기 c) 단계는, c-1) 다수의 CCTV(100)으로부터 실시간 수집되는 비디오스트림으로부터 각각의 비디오프레임(Video Frame)을 추출하는 단계; c-2) 상기 비디오프레임이 첫 번째 프레임인 경우, 통행이 없는 상태를 가정한 첫 번째 추출 이미지를 기본영상으로 저장하는 단계; c-3) 추출되는 프레임 이미지는 분석을 용이하게 하기 위하여 그레이스케일(Grayscale) 형식으로 변환하는 단계; c-4) 상기 그레이스케일 영상에 대해 광학흐름(Optical Flow) 특징을 추출하는 단계; c-5) 상기 그레이스케일 영상의 떨림 제거를 위한 1차 필터링(Filtering), 플리커(Flicker) 제거를 위한 2차 필터링 및 잡영(Noise) 제거를 위한 3차 필터링을 순차적으로 수행하는 단계; c-6) 상기 저장된 기본영상과 순차적으로 필터링이 수행된 그레이스케일 영상에 대한 비교 영역 화소값인 RGB 비교 연산을 수행하는 단계; c-7) 상기 비교 영역 화소값(RGB) 비교 연산이 수행된 영상에 대해 현재 특징 리스트를 추출하여, 상기 현재 특징 리스트를 이전 특징 리스트와 비교하여 운동방향을 추출하는 단계; 및 c-8) 출입구를 통과하는 재실자 각각의 진입 또는 진출 여부를 인식하는 단계를 포함하는 것을 특징으로 한다.On the other hand, as another means for achieving the above-mentioned technical problem, the CCTV image information analysis method for real-time monitoring of occupants according to the present invention is a) Each CCTV installed at the entrance and exit of each floor and area of the building shoots the entrance. to generate a video stream; b) collecting, by the CCTV image information processing device, the video stream generated by each CCTV in real time via a repeater; c) the step of recognizing, by the CCTV image information processing device, the entry/exit of a occupant passing through the entrance/exit separately based on camera motion detection; d) generating, by the CCTV image information processing device, automatically counting the occupants entering or exiting the doorway to generate information on the number of people passing through the doorway; e) transmitting, by the CCTV image information processing device, information on the number of people passing through the entrance to a control monitoring server; and f) the CCTV image information processing device remotely controlling the operation of each CCTV, wherein each of the plurality of CCTVs includes a CMOS image sensor (CIS) and a dynamic vision sensor (DVS). ) or a dome type IP (Internet Protocol) camera with a built-in CMOS image sensor (CIS) and a thermal imaging sensor (TIS); The CCTV image information processing device is implemented with a user interface for processing a CCTV monitoring program and an automatic doorway occupant counting program, and automatically detects the number of entrances and exits according to the occupant's movement line based on camera motion detection for real-time monitoring of the number of occupants; Step c) includes: c-1) extracting each video frame from a video stream collected in real time from a plurality of CCTVs 100; c-2) if the video frame is the first frame, storing a first extracted image assuming no traffic as a basic image; c-3) converting the extracted frame image into a grayscale format to facilitate analysis; c-4) extracting an optical flow feature from the grayscale image; c-5) sequentially performing primary filtering for removing shake of the grayscale image, secondary filtering for removing flicker, and tertiary filtering for removing noise; c-6) performing an RGB comparison operation that is a pixel value of a comparison area on the stored basic image and the grayscale image on which the filtering is sequentially performed; c-7) extracting a current feature list with respect to the image on which the comparison operation of comparing pixel values (RGB) has been performed, and comparing the current feature list with a previous feature list to extract a movement direction; and c-8) recognizing whether each occupant who passes through the entrance or exits enters or exits.

여기서, 상기 c) 단계에서 상기 수집된 비디오스트림을 처리 및 분석하고, 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 상기 재실자의 출입구 진입 또는 진출을 구분하여 인식하며; 그리고 상기 d) 단계의 인식 결과로 얻은 상기 출입구를 진입하거나 진출하는 재실자를 자동 카운팅한 데이터를 생성하는 것을 특징으로 한다.Here, the video stream collected in step c) is processed and analyzed, and the entrance or exit of the occupant is recognized according to the occupant's passage based on camera motion detection; And it is characterized in that the data automatically counting the occupants entering or exiting the entrance obtained as a result of the recognition in step d) is generated.

삭제delete

본 발명에 따르면, 고층건물에서 화재 등 재난 발생시, 비상구 및 승강기 등의 출입구로 이동하는 재실자(또는 출입자)의 위치 및 인원수를 실시간 모니터링하기 위해서 CCTV 영상을 수집하여 가시화함으로써 자동으로 신속하고 정확하게 분석할 수 있다.According to the present invention, when a disaster such as a fire occurs in a high-rise building, CCTV images are collected and visualized to automatically and quickly and accurately analyze the location and number of occupants (or occupants) moving to the exits such as emergency exits and elevators in real time. can

본 발명에 따르면, 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 여러 명이 한 번에 출입구를 통해 이동하는 경우에도 각각의 재실자를 용이하게 구분하여 인식할 수 있다.According to the present invention, it is possible to easily distinguish and recognize each occupant even when several people move through the entrance at once according to the occupant's passage based on camera motion detection.

본 발명에 따르면, 다수의 CCTV 각각이 CMOS 이미지 센서(CIS)와 동적시각센서(DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(TIS)가 내장된 돔형 IP 카메라로 구현됨에 따라 다양한 조도환경 하에서도 영향을 받지 않고 안정적인 검출률을 확보할 수 있다.According to the present invention, as each of a plurality of CCTVs is implemented as a dome-type IP camera having a CMOS image sensor (CIS) and a dynamic visual sensor (DVS) or a CMOS image sensor (CIS) and a thermal image sensor (TIS), various illumination environments It is possible to secure a stable detection rate without being affected even under low conditions.

본 발명에 따르면, CCTV 모니터링 프로그램에 따라 인식 구역을 지정할 수 있으며, 이러한 지정된 인식 구역을 중심으로 하여 진출/진입 여부를 용이하게 판정할 수 있다.According to the present invention, it is possible to designate a recognition zone according to a CCTV monitoring program, and it is possible to easily determine whether to enter/exit based on the designated recognition zone.

도 1은 종래의 기술에 따른 재실자 유무 판단 시스템의 구성도이다.
도 2는 종래의 기술에 따른 재실자 유무 판단 시스템을 이용하여 재실자 유무를 판단하는 방법을 설명하기 위한 동작흐름도이다.
도 3은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템의 개략적인 구성도이다.
도 4는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에 적용되는 CCTV로서 돔형 CCTV를 사용하는 것을 설명하기 위한 도면이다.
도 5는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에 적용되는 CCTV가 CIS-DVS 또는 CIS-TIS로 구현되는 것을 예시하는 도면이다.
도 6은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에서 CCTV 영상정보 처리장치가 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 이용하는 것을 개략적으로 설명하기 위한 도면이다.
도 7은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템의 구체적인 구성도이다.
도 8은 도 7에 도시된 출입구 진입/진출 검출부의 구체적인 구성도이다.
도 9는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법의 개략적인 동작흐름도이다.
도 10은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법에서 재실자의 진입/진출을 인식하는 과정을 구체적으로 나타내는 동작흐름도이다.
도 11은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법에서 입력영상의 재실자 수와 방향을 추출하는 것을 예시하는 도면이다.
도 12는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석시 입력영상에 대한 모서리 특징 리스트를 예시하는 도면이다.
도 13은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 방법에서 재실자의 이동 방향을 분석해서 진입 또는 진출 인원을 카운팅하는 것을 예시하는 도면이다.
도 14는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 방법이 구현된 검출 분석용 프로그램을 예시하는 도면이다.
도 15는 도 14에 도시된 검출 분석용 프로그램을 구체적으로 나타내는 도면이다.
1 is a block diagram of a system for determining presence of occupants according to the prior art.
2 is an operation flowchart for explaining a method of determining the presence or absence of an occupant using the occupant presence determination system according to the related art.
3 is a schematic configuration diagram of a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention.
4 is a diagram for explaining the use of a dome-type CCTV as a CCTV applied to a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention.
5 is a diagram illustrating that CCTV applied to a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention is implemented as CIS-DVS or CIS-TIS.
6 is a diagram schematically illustrating that the CCTV image information processing apparatus uses the CCTV monitoring program and the automatic doorway occupant counting program in the CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention.
7 is a detailed configuration diagram of a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention.
8 is a detailed configuration diagram of the entrance/exit detection unit shown in FIG. 7 .
9 is a schematic operation flowchart of a CCTV image information analysis method for real-time monitoring of occupants according to an embodiment of the present invention.
10 is an operation flowchart specifically illustrating a process of recognizing an occupant's entry/exit in the CCTV image information analysis method for real-time monitoring of occupants according to an embodiment of the present invention.
11 is a diagram illustrating extraction of the number and direction of occupants of an input image in the CCTV image information analysis method for real-time monitoring of occupants according to an embodiment of the present invention.
12 is a diagram illustrating a list of corner features for an input image when analyzing CCTV image information for real-time monitoring of occupants according to an embodiment of the present invention.
13 is a view illustrating counting the number of people entering or leaving by analyzing the moving direction of the occupants in the CCTV image information method for real-time monitoring of the occupants according to an embodiment of the present invention.
14 is a diagram illustrating a program for detection and analysis in which a CCTV image information method for real-time monitoring of occupants according to an embodiment of the present invention is implemented.
FIG. 15 is a diagram specifically illustrating the program for detection and analysis shown in FIG. 14 .

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art can easily implement them. However, the present invention may be embodied in many different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 "…부" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Throughout the specification, when a part "includes" a certain element, it means that other elements may be further included, rather than excluding other elements, unless otherwise stated. In addition, terms such as “…unit” described in the specification mean a unit that processes at least one function or operation, which may be implemented as hardware or software or a combination of hardware and software.

이하, 도 3 내지 도 8을 참조하여, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템을 설명하고, 도 9 내지 도 15를 참조하여 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법을 설명하기로 한다.Hereinafter, a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention will be described with reference to FIGS. 3 to 8 , and occupants according to an embodiment of the present invention with reference to FIGS. 9 to 15 . A CCTV image information analysis method for real-time monitoring will be described.

[재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템][CCTV video information analysis system for real-time monitoring of occupants]

도 3은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템의 개략적인 구성도이다.3 is a schematic configuration diagram of a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention.

도 3을 참조하면, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템은, 크게, 다수의 CCTV(100), 중계기(200), CCTV 영상정보 처리장치(300) 및 관제 모니터링 서버(400)를 포함한다.Referring to FIG. 3, the CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention is largely, a plurality of CCTVs 100, repeaters 200, CCTV image information processing apparatus 300 and control. and a monitoring server 400 .

다수의 CCTV(100)는 IP 카메라로 구현되고, 출입구를 촬영하여 비디오스트림을 생성하고, 중계기(Hub: 200)는 상기 다수의 CCTV(100)에 의해 생성된 비디오스트림을 전송한다. 여기서, 상기 출입구는 고층건물의 비상구 및 승강기를 포함한다.A plurality of CCTVs 100 are implemented as IP cameras, and a video stream is generated by photographing an entrance, and a repeater (Hub: 200) transmits the video stream generated by the plurality of CCTVs 100 . Here, the entrance includes an emergency exit and an elevator of a high-rise building.

CCTV 영상정보 처리장치(300)는 상기 중계기(200)를 경유하는 비디오스트림을 수집하여 출입구 비디오스트림을 분석하여 재실자 인원을 카운팅하며, 관제 모니터링 서버(400)는 관제 모니터를 통해 상기 다수의 CCTV(100)에 대한 관제 모니터링을 수행한다. 이때, CCTV 모니터링 프로그램이 전체 출입구의 CCTV를 관제하고 메타자료를 수집하도록 소프트웨어로 구현될 수 있다.The CCTV image information processing device 300 collects the video stream passing through the repeater 200, analyzes the entrance video stream, and counts the number of occupants, and the control monitoring server 400 is the plurality of CCTVs ( 100) to perform control monitoring. At this time, the CCTV monitoring program may be implemented as software to control the CCTV of the entire entrance and collect meta data.

한편, 도 4는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에 적용되는 CCTV로서 돔형 CCTV를 사용하는 것을 설명하기 위한 도면이고, 도 5는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에 적용되는 CCTV가 CIS-DVS 또는 CIS-TIS로 구현되는 것을 예시하는 도면으로서, 즉, CCTV는 CMOS 이미지 센서(CIS)와 동적시각센서(DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(TIS)로 구현될 수 있다.On the other hand, FIG. 4 is a view for explaining the use of a dome-type CCTV as a CCTV applied to a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention, and FIG. 5 is a diagram according to an embodiment of the present invention As a diagram illustrating that CCTV applied to CCTV image information analysis system for real-time monitoring of occupants is implemented as CIS-DVS or CIS-TIS, that is, CCTV is a CMOS image sensor (CIS) and a dynamic visual sensor (DVS) or It can be implemented with a CMOS image sensor (CIS) and a thermal image sensor (TIS).

본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에 적용되는 CCTV(100)의 경우, 도 4에 도시된 바와 같이, CIS와 DVS 또는 CIS와 TIS를 어레이(Array) 형태로 묶어서 제작하는 카메라의 형태이므로 촬영 전면부가 넓은 돔형 IP 카메라를 사용할 필요가 있다.In the case of the CCTV 100 applied to the CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention, as shown in FIG. 4 , CIS and DVS or CIS and TIS are arranged in an array form. Since it is a form of a bundled camera, it is necessary to use a dome-type IP camera with a wide front part.

또한, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템의 경우, 도 5에 도시된 바와 같이, 다수의 CCTV(100) 각각은 CMOS Image Sensor(CIS)-DVS(Dynamic Vision Sensor) 또는 CIS-TIS(Thermal Imaging Sensor)가 내장된 돔형 IP 카메라인 것이 바람직하다. 예를 들면, 상기 다수의 CCTV(100) 각각은, 충분한 조도가 확보된 경우, 상기 CMOS 이미지 센서(CIS)가 작동하여 이미지를 수집하고, 조도가 부족하면 상기 동적시각센서(DVS) 또는 열화상센서(TIS)가 대신 작동하여 비디오스트림(Video Stream)을 생성할 수 있다.In addition, in the case of a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention, as shown in FIG. 5 , each of a plurality of CCTVs 100 is a CMOS Image Sensor (CIS)-DVS (Dynamic Vision) Sensor) or CIS-TIS (Thermal Imaging Sensor) is preferably a dome-type IP camera. For example, each of the plurality of CCTVs 100 collects images by operating the CMOS image sensor (CIS) when sufficient illumination is secured, and when the illumination is insufficient, the dynamic visual sensor (DVS) or thermal imager A sensor (TIS) may act instead to create a Video Stream.

한편, 도 6은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에서 CCTV 영상정보 처리장치가 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 이용하는 것을 개략적으로 설명하기 위한 도면이다.Meanwhile, FIG. 6 is a diagram schematically illustrating that the CCTV image information processing apparatus uses a CCTV monitoring program and an automatic door/exit occupant counting program in the CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention.

본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템의 경우, 도 6에 도시된 바와 같이, CCTV 영상정보 처리장치(300)는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램에 따라 운용된다.In the case of a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention, as shown in FIG. 6 , the CCTV image information processing apparatus 300 operates according to a CCTV monitoring program and an automatic entrance and exit occupant counting program. do.

이때, 상기 CCTV 모니터링 프로그램에 의해 고층건물의 화재상황에 적합한 CCTV 네트워크를 구성하고, CCTV용 IP 카메라를 원격 제어하고 감시하는 관제 인터페이스를 구축할 수 있다. 이에 따라, CCTV 영상정보 처리장치(300)는 원격제어신호를 생성할 수 있고, 다수의 CCTV(100) 각각으로부터 비디오스트림을 수집할 수 있다.In this case, a CCTV network suitable for a fire situation in a high-rise building can be configured by the CCTV monitoring program, and a control interface for remotely controlling and monitoring an IP camera for CCTV can be built. Accordingly, the CCTV image information processing apparatus 300 may generate a remote control signal, and may collect a video stream from each of the plurality of CCTVs 100 .

또한, 상기 CCTV 모니터링 프로그램의 경우, CCTV 통합 사용자 인터페이스 화면으로 설계되고, CCTV 해상도 등 촬영 방식을 원격 지정할 수 있다. 또한, 출입구 인원 진입/진출 영역을 원격 지정할 수 있으며, 예를 들면, CCTV 모니터링 프로그램에서 인식 구역을 지정하면, 이러한 지정된 인식 구역을 중심으로 하여 진출/진입 여부를 판정할 수 있다. 또한, 상기 CCTV 모니터링 프로그램에 의해 출입구별 인원 상황을 모니터링할 수 있는 데이터베이스(DB)가 구축될 수 있다.In addition, in the case of the CCTV monitoring program, it is designed as a CCTV integrated user interface screen, and a shooting method such as a CCTV resolution can be specified remotely. In addition, it is possible to remotely designate the entrance/exit area of the entrance/exit personnel, for example, if the recognition area is designated in the CCTV monitoring program, it is possible to determine whether to enter/exit based on the designated recognition area. In addition, a database (DB) that can monitor the situation of the person at each entrance by the CCTV monitoring program can be built.

또한, 상기 출입구 재실자 자동 카운팅 프로그램은 출입구(비상구 및 승강기)별 출입 인원을 자동으로 검출하는 소프트웨어(Automatic People Counting Program: APCP)로서, 카메라 모션 검출에 기반한 재실자의 통행 동선, 예를 들면, 단순통행 등을 파악하여 카운팅 데이터를 제공할 수 있고, 특히, 화재 발생시 한 번에 몰려드는 재실자들의 군집 이동을 감안하여 카운팅 데이터를 처리할 수 있다.In addition, the automatic occupant counting program at the entrance is a software (Automatic People Counting Program: APCP) that automatically detects the number of people entering each entrance (emergency exit and elevator). It is possible to provide counting data by identifying the etc., and in particular, in the event of a fire, it is possible to process the counting data in consideration of the movement of the occupants gathered at once.

한편, 도 7은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템의 구체적인 구성도이고, 도 8은 도 7에 도시된 출입구 진입/진출 검출부의 구체적인 구성도이다.Meanwhile, FIG. 7 is a detailed configuration diagram of a CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention, and FIG. 8 is a detailed configuration diagram of the entrance/exit detection unit shown in FIG. 7 .

도 7 및 도 8을 참조하면, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템은, 다수의 CCTV(100), 중계기(200), CCTV 영상정보 처리장치(300) 및 관제 모니터링 서버(400)를 포함하되, 상기 CCTV 영상정보 처리장치(300)는 비디오스트림 수집부(310), 출입구 진입/진출 검출부(320), 재실자 카운팅부(330), 데이터 전송부(340) 및 원격 제어부(350)를 포함한다.7 and 8, the CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention includes a plurality of CCTVs 100, repeaters 200, CCTV image information processing apparatus 300 and Including a control monitoring server 400, the CCTV image information processing device 300 includes a video stream collecting unit 310, an entrance/exit detection unit 320, an occupant counting unit 330, and a data transmission unit 340. and a remote control 350 .

다수의 CCTV(100, 100a~100n)는, 전술한 도 5에 도시된 바와 같이, 건물의 각 층별 및 구역별 출입구(500)에 설치되고, 상기 출입구(500)를 촬영하여 비디오스트림을 실시간 생성한다. 여기서, 상기 다수의 CCTV(100) 각각은 CMOS Image Sensor인 DVS가 내장된 돔형 IP 카메라인 것이 바람직하며, 상기 출입구(500)는 비상구 및 승강기 등을 포함한다.A plurality of CCTVs (100, 100a ~ 100n), as shown in Fig. 5 described above, is installed at the entrance 500 for each floor and each area of the building, and generates a video stream in real time by photographing the entrance 500 do. Here, each of the plurality of CCTVs 100 is preferably a dome-type IP camera having a DVS, which is a CMOS image sensor, built-in, and the entrance 500 includes an emergency exit and an elevator.

중계기(200)는 상기 다수의 CCTV(100) 각각으로부터 생성된 비디오스트림을 취합하여 전송한다.The repeater 200 collects and transmits the video streams generated from each of the plurality of CCTVs 100 .

CCTV 영상정보 처리장치(300)는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램에 따라, 상기 중계기(200)로부터 비디오스트림을 수집하고, 상기 수집된 비디오스트림을 처리 및 분석하여 출입구를 진입하거나 진출하는 재실자를 카운팅하여 카운팅 데이터에 따른 출입구 통행 인원정보를 생성하고, 또한, 상기 다수의 CCTV(100)를 원격 제어한다. 이때, 상기 CCTV 영상정보 처리장치(300)는 전술한 CCTV 모니터링 프로그램에 따라 인식 구역을 지정하고, 상기 지정된 인식 구역을 중심으로 하여 출입구를 통행하는 재실자의 진출/진입 여부를 판정할 수 있다. 예를 들면, 상기 CCTV 모니터링 프로그램을 통해 "모션 감지영역"을 설정하면 CCTV(100)용 IP 카메라에 원격제어신호를 전송하여 해당 영역의 재실자 이동을 감지하며, 또한, 상기 CCTV 모니터링 프로그램을 통해 "움직임이 있는 경우", CCTV(100)용 IP 카메라는 검출 정보를 IP 카메라 내에 구현된 메모리의 특정 폴더에 저장하고, 주기적으로 상기 IP 카메라의 특정 폴더를 폴링하여 관련정보 파일을 가져 오며, 또한, 상기 CCTV 모니터링 프로그램은 기지정된 "모션 감지영역" 안으로 이동이 확인될 경우, 진입 카운팅(People-In Counting)을 처리하고, 경계 부근에서 "모션 감지영역" 밖으로 이동이 확인될 경우, 진출 카운팅(People-Out Counting)을 진행하여 해당 결과를 저장함으로써, 재실자 인원수는 진입 카운팅(People-In Counting)으로부터 진출 카운팅(People-Out Counting)을 차감한 것으로 판정할 수 있다.The CCTV image information processing device 300 collects a video stream from the repeater 200 according to a CCTV monitoring program and an automatic doorway occupant counting program, and processes and analyzes the collected video stream to enter or exit the doorway. by counting to generate information on the number of people passing through the entrance according to the counting data, and also remotely control the plurality of CCTVs 100 . In this case, the CCTV image information processing apparatus 300 may designate a recognition area according to the above-described CCTV monitoring program, and determine whether a occupant passing through the entrance/exit is entered with the designated recognition area as a center. For example, if a "motion detection area" is set through the CCTV monitoring program, a remote control signal is transmitted to the IP camera for CCTV 100 to detect the movement of occupants in the area, and also, through the CCTV monitoring program, " When there is movement", the IP camera for CCTV 100 stores the detection information in a specific folder of the memory implemented in the IP camera, periodically polls the specific folder of the IP camera to get the related information file, The CCTV monitoring program processes entry counting (People-In Counting) when movement into a predetermined "motion detection area" is confirmed, and when movement out of the "motion detection area" is confirmed near the boundary, exit counting (People-In Counting) -Out Counting) and storing the result, the number of occupants may be determined as deducting People-Out Counting from People-In Counting.

또한, 상기 CCTV 영상정보 처리장치(300)는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 처리하기 위한 사용자 인터페이스(User Interface)를 구현하며, 재실자 인원 실시간 모니터링을 위해 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 출입구 인원을 자동 검출한다. In addition, the CCTV image information processing apparatus 300 implements a user interface for processing a CCTV monitoring program and an automatic door/exit occupant counting program, and is based on camera motion detection for real-time monitoring of occupants. The number of entrances and exits is automatically detected according to the occupant's flow.

구체적으로, 상기 CCTV 영상정보 처리장치(300)의 비디오스트림 수집부(310)는 상기 중계기(200)를 경유하는 상기 다수의 CCTV(100)로부터 촬영된 비디오스트림을 실시간 수집한다.Specifically, the video stream collecting unit 310 of the CCTV image information processing device 300 collects the video streams captured from the plurality of CCTVs 100 via the repeater 200 in real time.

상기 CCTV 영상정보 처리장치(300)의 출입구 진입/진출 검출부(320)는 상기 비디오스트림 수집부(310)로부터 수집된 비디오스트림을 처리 및 분석하고, 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 상기 재실자의 출입구 진입 또는 진출을 구분하여 인식한다. 또한, 상기 출입구 진입/진출 검출부(320)는 여러 명이 한 번에 이동하는 경우에도 카메라 모션 검출에 기반하여 재실자를 각각 구분하여 인식한다. 보다 구체적으로, 도 8에 도시된 바와 같이, 상기 출입구 진입/진출 검출부(320)는 영상 시퀀스 추출부(321), 영상 분석부(322), 이동방향 감지부(323) 및 진입/진출 인식부(324)를 포함한다.The entrance/exit detection unit 320 of the CCTV image information processing device 300 processes and analyzes the video stream collected from the video stream collection unit 310, and the passage of occupants based on camera motion detection. The occupant's entrance or exit is recognized by dividing it according to the movement line. Also, the entrance/exit detection unit 320 distinguishes and recognizes occupants based on camera motion detection even when several people move at once. More specifically, as shown in FIG. 8 , the entrance/exit detection unit 320 includes an image sequence extraction unit 321 , an image analysis unit 322 , a movement direction detection unit 323 , and an entry/exit recognition unit. (324).

영상 시퀀스 추출부(321)는 실시간으로 수집된 CCTV 비디오스트림 각각으로부터 비디오프레임을 각각 추출하여 영상 시퀀스(Image Sequence)를 자동 추출하며, 영상 분석부(322)는 상기 영상 시퀀스 추출부(321)에서 추출된 영상을 상기 CCTV 모니터링 프로그램에 따라 실시간 분석한다.The image sequence extracting unit 321 automatically extracts an image sequence by extracting video frames from each CCTV video stream collected in real time, and the image analysis unit 322 is The extracted image is analyzed in real time according to the CCTV monitoring program.

이동방향 감지부(323)는 상기 영상 분석부(322)의 영상 분석에 대응하여 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 재실자 이동방향을 자동 감지하고, 또한, 진입/진출 인식부(324)는 상기 재실자의 출입구 진입 또는 진출을 구분하여 인식한다. 이때, 상기 이동방향 감지부(323)는 통행이 없는 상태를 초기 상태로 기억하고 재실자 이동시 이동방향을 자동 감지할 수 있다.The movement direction detection unit 323 automatically detects the movement direction of the occupants according to the occupant's movement line based on camera motion detection in response to the image analysis of the image analysis unit 322, and also recognizes entry/exit. The unit 324 distinguishes and recognizes the entrance or exit of the occupant. In this case, the movement direction detecting unit 323 may store the non-traffic state as an initial state and automatically detect the movement direction when the occupant moves.

도 7을 다시 참조하면, 상기 CCTV 영상정보 처리장치(300)의 재실자 카운팅부(330)는 상기 출입구 진입/진출 검출부(320)에 의해 인식되는 재실자를 자동 카운팅하여 출입구 통행 인원정보를 생성한다.Referring back to FIG. 7 , the occupant counting unit 330 of the CCTV image information processing device 300 automatically counts the occupants recognized by the entrance/exit detection unit 320 to generate information on the number of people passing through the entrance.

상기 CCTV 영상정보 처리장치(300)의 데이터 전송부(340)는 상기 재실자 카운팅부(330)에서 카운팅된 출입구 통행 인원정보를 상기 모니터링 서버(400)로 전송한다.The data transmission unit 340 of the CCTV image information processing device 300 transmits the information on the number of people passing through the entrance and exit counted by the occupant counting unit 330 to the monitoring server 400 .

상기 CCTV 영상정보 처리장치(300)의 원격 제어부(350)는 상기 다수의 CCTV(100) 각각의 재부팅, 해상도 및 초당 프레임수(FPS) 지정을 포함하는 동작 방식을 원격 제어한다.The remote control unit 350 of the CCTV image information processing device 300 remotely controls the operation method including rebooting, resolution, and frames per second (FPS) designation of each of the plurality of CCTVs 100 .

관제 모니터링 서버(400)는 상기 CCTV 영상정보 처리장치(300)에서 처리된 출입구 통행 인원정보를 관제 모니터링한다. 여기서, 상기 모니터링 서버(400)는 상기 CCTV 영상정보 처리장치(300)에서 처리된 통행 인원정보를 저장하는 출입구 통행 인원정보 데이터베이스(DB); 및 상기 통행 인원정보 데이터베이스(DB)에 저장된 통행 인원정보에 따라 상기 다수의 CCTV(100) 각각을 관제 모니터링하기 위한 관제 모니터를 포함할 수 있다.The control monitoring server 400 controls and monitors the information on the number of people passing through the entrance processed by the CCTV image information processing device 300 . Here, the monitoring server 400 includes: a doorway pass person information database (DB) for storing pass person information processed by the CCTV image information processing device 300; and a control monitor for controlling and monitoring each of the plurality of CCTVs 100 according to the number of passengers information stored in the passenger information database DB.

결국, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템에 따르면, 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 여러 명이 한 번에 출입구를 통해 이동하는 경우에도 각각의 재실자를 용이하게 구분하여 인식할 수 있다. 또한, 다수의 CCTV 각각이 CIS-DVS 또는 CIS-TIS가 내장된 돔형 IP 카메라로 구현됨에 따라 다양한 조도환경 하에서도 영향을 받지 않고 안정적인 검출률을 확보할 수 있고, 또한, 상기 CCTV 모니터링 프로그램에 따라 인식 구역을 지정할 수 있으며, 이러한 지정된 인식 구역을 중심으로 하여 진출/진입 여부를 용이하게 판정할 수 있다.After all, according to the CCTV image information analysis system for real-time monitoring of occupants according to an embodiment of the present invention, even when several people move through the doorway at once according to the occupant's passage based on camera motion detection, each occupant is It can be easily distinguished and recognized. In addition, as each of a plurality of CCTVs is implemented as a dome-type IP camera with CIS-DVS or CIS-TIS, it is possible to secure a stable detection rate without being affected under various illuminance environments, and also recognize according to the CCTV monitoring program. It is possible to designate a zone, and it is possible to easily determine whether to enter/exit based on this designated recognition zone.

[재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법][CCTV video information analysis method for real-time monitoring of occupants]

도 9는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법의 개략적인 동작흐름도이고, 도 10은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법에서 재실자의 진입/진출을 인식하는 과정을 구체적으로 나타내는 동작흐름도이다.9 is a schematic operation flowchart of a method for analyzing CCTV image information for real-time monitoring of occupants according to an embodiment of the present invention, and FIG. 10 is a method for analyzing CCTV image information for real-time monitoring of occupants according to an embodiment of the present invention. It is an operation flow chart specifically showing the process of recognizing the entry/exit of a occupant.

도 9 및 도 10을 참조하면, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법은, 먼저, 건물의 각 층별 및 구역별 출입구(500)에 설치된 각각의 CCTV(100)가 출입구(500)를 촬영하여 비디오스트림(Video Stream)을 생성한다(S100).9 and 10, the CCTV image information analysis method for real-time monitoring of occupants according to an embodiment of the present invention is, first, each CCTV 100 installed at the entrance 500 for each floor and each area of the building. Creates a video stream (Video Stream) by photographing the entrance (500) (S100).

다음으로, CCTV 영상정보 처리장치(300)가 상기 각각의 CCTV(100)가 생성한 비디오스트림을 중계기(Hub)를 경유하여 실시간 수집한다(S200).Next, the CCTV image information processing device 300 collects the video stream generated by each CCTV 100 in real time via a repeater (Hub) (S200).

다음으로, 상기 CCTV 영상정보 처리장치(300)가 카메라 모션 검출에 기반하여 상기 출입구(500)를 통행하는 재실자의 진입/진출을 구분하여 인식한다(S300). 보다 구체적으로, 도 10을 참조하면, 다수의 CCTV(100)으로부터 실시간 수집되는 비디오스트림으로부터 각각의 비디오프레임(Video Frame)을 추출하고(S301), 다음으로, 첫 번째 프레임인지 확인한다(S302).Next, the CCTV image information processing apparatus 300 distinguishes and recognizes the entry/exit of the occupants passing through the entrance/exit 500 based on the camera motion detection (S300). More specifically, referring to FIG. 10 , each video frame is extracted from a video stream collected in real time from a plurality of CCTVs 100 ( S301 ), and then, it is checked whether it is the first frame ( S302 ). .

다음으로, 상기 비디오프레임이 첫 번째 프레임인 경우, 통행이 없는 상태를 가정한 첫 번째 추출 이미지를 기본영상으로 저장하고(S303), 다음으로, 추출되는 프레임 이미지는 분석을 용이하게 하기 위하여 그레이스케일(Grayscale) 형식으로 변환하며(S304), 다음으로, 광학흐름(Optical Flow) 특징을 추출한다(S305).Next, when the video frame is the first frame, the first extracted image assuming no passage is stored as a basic image (S303), and then, the extracted frame image is grayscaled to facilitate analysis. (Grayscale) format is converted (S304), and then, the optical flow (Optical Flow) feature is extracted (S305).

다음으로, 상기 그레이스케일 영상의 떨림 제거를 위한 1차 필터링(Filtering)을 수행하고(S306), 다음으로, 상기 그레이스케일 영상의 플리커(Flicker) 제거를 위한 2차 필터링을 수행하며(S307), 다음으로, 상기 그레이스케일 영상의 잡영(Noise) 제거를 위한 3차 필터링을 수행한다(S308).Next, primary filtering is performed for removing the shake of the grayscale image (S306), and then secondary filtering is performed for removing flicker of the grayscale image (S307), Next, third-order filtering is performed to remove noise from the grayscale image (S308).

다음으로, 상기 저장된 기본영상과 순차적으로 필터링이 수행된 그레이스케일 영상에 대한 비교영역 화소값인 RGB 비교 연산을 수행한다(S309).Next, an RGB comparison operation, which is a pixel value of a comparison area, is performed on the stored base image and the grayscale image on which the filtering is sequentially performed (S309).

다음으로, 상기 비교영역 화소값(RGB) 비교 연산이 수행된 영상에 대해 현재 특징 리스트를 추출하고(S310), 다음으로, 상기 현재 특징 리스트를 이전 특징 리스트와 비교하여 운동방향을 결정한다(S311).Next, a current feature list is extracted with respect to the image on which the comparison operation of the comparison region pixel value (RGB) has been performed (S310), and then, the current feature list is compared with the previous feature list to determine the movement direction (S311). ).

다음으로, 출입구(500)를 통과하는 재실자 각각의 진입 또는 진출 여부를 인식한다(S312). 이때, 전술한 S304 내지 S312 단계는 비디오스트림의 모든 비디오프레임에 대해 반복적으로 수행된다.Next, it is recognized whether each of the occupants passing through the doorway 500 enters or exits (S312). In this case, the above-described steps S304 to S312 are repeatedly performed for all video frames of the video stream.

이에 따라, 상기 CCTV 영상정보 처리장치(300)는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 처리하기 위한 사용자 인터페이스가 구현되어, 재실자 인원 실시간 모니터링을 위해 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 출입구 인원을 자동으로 인식하여 검출할 수 있다.Accordingly, the CCTV image information processing device 300 is implemented with a user interface for processing the CCTV monitoring program and the automatic doorway occupant counting program, so that the occupant's real-time monitoring is performed according to the occupant's movement line based on camera motion detection. Personnel can be automatically recognized and detected.

도 9를 다시 참조하면, 다음으로, 상기 CCTV 영상정보 처리장치(300)가 상기 출입구(500)를 진입하거나 진출하는 재실자를 자동 카운팅하여 출입구 통행 인원정보를 생성한다(S400).Referring back to FIG. 9 , next, the CCTV image information processing apparatus 300 automatically counts the occupants entering or exiting the entrance 500 to generate information on the number of people passing through the entrance (S400).

다음으로, 상기 CCTV 영상정보 처리장치(300)가 상기 출입구 통행 인원정보를 관제 모니터링 서버(400)로 전송한다(S500).Next, the CCTV image information processing device 300 transmits the information on the number of people passing through the entrance to the control monitoring server 400 (S500).

다음으로, 상기 CCTV 영상정보 처리장치(300)가 각각의 CCTV(100)의 동작을 원격 제어한다(S600).Next, the CCTV image information processing device 300 remotely controls the operation of each CCTV 100 (S600).

한편, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법의 경우, 노이즈를 제거하는 전처리와 입력 내용의 변화를 비 교하고 정합하기 위한 특징을 추출하며, 분석을 위한 구조체로는 딥러닝(Deep Learning) 기반의 CNN을 적용하였다.On the other hand, in the case of the CCTV image information analysis method for real-time monitoring of occupants according to the embodiment of the present invention, the pre-processing to remove noise and the features for comparing and matching the changes in the input contents are extracted and used as a structure for analysis. applied deep learning-based CNN.

여기서, 컨벌루션 뉴럴 네트워크(Convolutional Neural Network: CNN)는 모델이 직접 이미지, 비디오, 텍스트 또는 사운드를 분류하는 머신 러닝의 한 유형인 딥러닝에 가장 많이 사용되는 알고리즘으로서, 이러한 CNN은 이미지에서 객체, 얼굴, 장면을 인식하기 위해 패턴을 찾는 데 특히 유용하다. 특히, 이러한 CNN은 데이터에서 직접 학습하며, 패턴을 사용하여 이미지를 분류하고 특징을 수동으로 추출할 필요가 없고, 예를 들면, 얼굴 인식 애플리케이션과 같이 객체 인식과 컴퓨터 비전이 필요한 분야에 주로 사용되고 있다.Here, a convolutional neural network (CNN) is the most used algorithm in deep learning, a type of machine learning in which a model directly classifies an image, video, text, or sound. , especially useful for finding patterns to recognize scenes. In particular, these CNNs learn directly from data, classify images using patterns and do not need to manually extract features, and are mainly used in fields that require object recognition and computer vision, for example, face recognition applications. .

한편, 도 11은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법에서 입력영상의 재실자 수와 방향을 추출하는 것을 예시하는 도면이고, 도 12는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석시 입력영상에 대한 모서리 특징 리스트를 예시하는 도면이며, 도 13은 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 방법에서 재실자의 이동 방향을 분석해서 진입 또는 진출 인원을 카운팅하는 것을 예시하는 도면이다.Meanwhile, FIG. 11 is a diagram illustrating extracting the number and direction of occupants of an input image in the CCTV image information analysis method for real-time monitoring of occupants according to an embodiment of the present invention, and FIG. It is a diagram illustrating a list of corner features for an input image when analyzing CCTV image information for real-time monitoring of occupants, and FIG. 13 is a moving direction of occupants in the CCTV image information method for real-time monitoring of occupants according to an embodiment of the present invention. It is a diagram illustrating counting the number of people entering or leaving by analyzing.

본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법은, 딥러닝 CNN 구조체가 사용되며, 크게 제1 내지 제3 단계까지 순서대로 이루어진다.In the CCTV image information analysis method for real-time monitoring of occupants according to an embodiment of the present invention, a deep learning CNN structure is used, and the first to third steps are largely performed in order.

제1 CNN 적용 과정으로서, 도 11에 도시된 바와 같이, 입력된 비디오프레임 특징 추출을 위한 전처리(Pre-Processing) 및 광학흐름(Optical Flow)을 적용하여 모서리(Corner) 특징 리스트를 얻고, 이러한 특징 리스트를 특징 리스트 구조체에 저장한다. 구체적으로, 광학흐름(Optical Flow) 분석으로 얻어진 벡터 리스트 중에 불필요하거나 정상적인 검출을 방해하는 요소가 종종 포함되므로 이를 제거해야 한다. 예를 들면, 벡터의 길이가 극단적으로 짧은 경우, 벡터 방향의 분포가 주변과 큰 차이를 보이며 돌출되는 경우 또는 이동 벡터가 지시하는 영역의 화소값(RGB)과 기본영상의 화소값(RGB)과 차이가 없는 경우는 벡터 리스트에서 제외시킨다.As the first CNN application process, as shown in FIG. 11, pre-processing and optical flow for extracting input video frame features are applied to obtain a list of corner features, and these features Store the list in a feature list structure. Specifically, elements that are unnecessary or interfere with normal detection are often included in the vector list obtained by optical flow analysis, and thus, they should be removed. For example, when the length of the vector is extremely short, when the distribution in the vector direction protrudes with a large difference from the surrounding, or when the pixel value (RGB) of the area indicated by the motion vector and the pixel value (RGB) of the base image If there is no difference, it is excluded from the vector list.

이때, 상기 특징 리스트 구조체의 크기는 입력되는 비디오프레임 영상과 동일하게 설정되며, 입력영상의 광학흐름에 의해 모서리 특징 추출을 모두 표현할 수 있다. 예를 들면, 상기 모서리 특징 리스트는, 도 12에 도시된 바와 같이 주어질 수 있다.In this case, the size of the feature list structure is set to be the same as the input video frame image, and all corner feature extraction can be expressed by the optical flow of the input image. For example, the edge feature list may be given as shown in FIG. 12 .

다음으로, 제2 CNN 적용 과정으로서, 상기 제1 CNN 적용 과정의 분석결과인 제1 특징 리스트 구조체를 간략화한 상위레벨 요약에 해당하는 제2 특징 리스트 구조체를 생성한다. 구체적으로, 상기 제2 특징 리스트 구조체의 생성은 상기 제1 CNN 적용 과정의 일정 영역의 대표값을 구하여 매핑하는 과정으로서, 원본영상의 노이즈를 감소시키며, 분석해야 할 계산의 범위를 축소하여 처리시간을 제2 특징 리스트 구조체 생성 과정에 컨벌루션 커널의 크기, 최소 항목 개수 등의 임계치가 사용된다.Next, as a second CNN application process, a second feature list structure corresponding to a simplified high-level summary of the first feature list structure, which is an analysis result of the first CNN application process, is generated. Specifically, the generation of the second feature list structure is a process of obtaining and mapping a representative value of a certain region of the first CNN application process, and reduces the noise of the original image and reduces the range of calculation to be analyzed, resulting in processing time Thresholds such as the size of the convolution kernel and the minimum number of items are used in the process of generating the second feature list structure.

다음으로, 제3 CNN 적용 과정으로서, 영상 리스트로부터 검출되는 상기 제2 특징 리스트 구조체 배열의 분석으로부터 재실자의 동선정보를 알 수 있으며, 동일인 경우라면 진행 방향의 일관성을 유지해야 한다. 이때, 광학흐름(Optical Flow) 진행의 일관성이 중단되는 경우, 새로운 모션이 시작되는 시점으로 인식하고, 새로운 재실자의 출현으로 인식한다. 또한, 새로운 재실자 등장 조건으로서 상기 제2 특징 리스트 구조체 배열에 속한 운동벡터들의 방향성 분포의 일관성 검사를 수행할 수 있다.Next, as the third CNN application process, the movement information of the occupants can be known from the analysis of the second feature list structure arrangement detected from the image list, and in the case of the same, the consistency of the proceeding direction must be maintained. At this time, if the consistency of the optical flow process is interrupted, it is recognized as the starting point of a new motion, and it is recognized as the appearance of a new occupant. Also, as a condition for the appearance of a new occupant, it is possible to check the consistency of the directional distribution of motion vectors included in the second feature list structure arrangement.

한편, 상기 CCTV 모니터링 프로그램의 기능으로서, 예를 들면, "모션 감지영역"을 설정하면 IP 카메라에 전송하여 해당 영역의 재실자 이동을 감지하는 방식으로 구성된다. 또한, "움직임이 있는 경우", IP 카메라는 검출 정보를 카메라 내에 구현된 메모리의 특정 폴더에 저장하며, 또한, CCTV 모니터링 프로그램은 주기적으로 IP 카메라의 특정 폴더를 폴링하여 관련정보 파일을 가져 오는 방식을 사용한다. 또한, 상기 CCTV 모니터링 프로그램은 기지정된 "모션 감지영역" 안으로 이동이 확인될 경우, 도 13의 a)에 도시된 바와 같이, 진입 카운팅(People-In Counting)을 처리하고, 경계 부근에서 "모션 감지영역" 밖으로 이동이 확인될 경우, 도 13의 b)에 도시된 바와 같이, 진출 카운팅(People-Out Counting)을 진행하여 해당 결과를 저장한다.On the other hand, as a function of the CCTV monitoring program, for example, when a "motion detection area" is set, it is transmitted to an IP camera and configured in a manner to detect the movement of occupants in the corresponding area. In addition, if there is a movement, the IP camera stores the detected information in a specific folder of the memory implemented in the camera, and the CCTV monitoring program periodically polls the specific folder of the IP camera to obtain the related information file. use In addition, the CCTV monitoring program processes the entry counting (People-In Counting) as shown in FIG. 13 a) when movement into the predetermined "motion detection area" is confirmed, and "motion detection" in the vicinity of the boundary When it is confirmed that movement out of the "area", as shown in b) of FIG. 13 , people-out counting is performed and the corresponding result is stored.

이에 따라, 재실자 인원수는 진입 카운팅(People-In Counting)으로부터 진출 카운팅(People-Out Counting)을 차감한 것으로 판정한다. 즉, 재실자 인원수 = (People-In Counting) - (People-Out Counting)으로 주어질 수 있다.Accordingly, it is determined that the number of occupants is calculated by subtracting the people-out counting from the people-in counting. That is, it may be given as the number of occupants = (People-In Counting) - (People-Out Counting).

한편, 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법의 경우, 상기 CCTV 모니터링 프로그램의 구현 결과로서, 사용자가 관리 프로그램을 이용하여 CCTV용 IP 카메라를 설정할 수 있다. 또한, 해상도 조정, 초당 프레임수(Frame Per Second: FPS) 조정, 영상물의 저장 위치를 지정할 수 있다. 또한, 화면 레이아웃을 모니터 등 상황에 맞게 관리자가 지정하여 사용할 수 있고, 예를 들면, 3x2, 3x3, 4x2 또는 4x3 등의 화면 분할이 가능하다. 또한 "모션 감지영역"을 사용자 인터페이스(UI) 상에서 지정하고, 현장의 다수의 CCTV(100)를 일괄적으로 변경하거나 또는 특정 CCTV만 변경할 수 있다.Meanwhile, in the case of the CCTV image information analysis method for real-time monitoring of occupants according to the embodiment of the present invention, as a result of the implementation of the CCTV monitoring program, the user can set the IP camera for CCTV using the management program. In addition, it is possible to adjust the resolution, adjust the number of frames per second (FPS), and specify the storage location of the video. In addition, the screen layout can be designated and used by the administrator according to the situation such as the monitor, for example, screen division such as 3x2, 3x3, 4x2 or 4x3 is possible. In addition, a "motion detection area" can be designated on the user interface (UI), and a plurality of CCTVs 100 in the field can be collectively changed or only a specific CCTV can be changed.

한편, 도 14는 본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 방법이 구현된 검출 분석용 프로그램을 예시하는 도면이고, 도 15는 도 14에 도시된 검출 분석용 프로그램을 구체적으로 나타내는 도면이다.On the other hand, FIG. 14 is a diagram illustrating a program for detection and analysis in which a CCTV image information method for real-time monitoring of occupants according to an embodiment of the present invention is implemented, and FIG. 15 is a detailed example of the program for detection and analysis shown in FIG. It is a drawing showing

본 발명의 실시예에 따른 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 방법이 구현된 검출 분석용 프로그램은, 도 14에 도시된 바와 같이 구현될 수 있다.The program for detection and analysis in which the CCTV image information method for real-time monitoring of occupants according to an embodiment of the present invention is implemented may be implemented as shown in FIG. 14 .

구체적으로, 도 15의 a)는 비디오스트림으로부터 추출된 현재 저장 영상이며, 표시된 번호는 이동 벡터의 프로그램 내부의 넘버링(Numbering)을 나타낸다. 또한, 도 15의 b)는 현재 입력 영상를로부터 광학흐름(Optical flow) 특징을 추출하기 전단계로서, 그레이스케일(Grayscale) 영상으로 변환한 결과를 나타낸다. 또한, 도 15의 c)는 바로 이전 단계의 그레이스케일 영상을 나타내며, 이동방향을 검출하도록 현재 입력영상과 비교하게 된다. 또한, 도 15의 d)는 분석에 앞서 통행인이 없는 경우, 기본영상으로 저장한 것을 나타내며, 상기 기본영상은 인식 검출의 정확도를 높이기 위한 검증용으로 사용된다. 따라서 측정 결과로서, 출입구의 검출영역 지정, CNN 구성을 위한 다양한 임계치 설정 등에 의하여 인식 측정결과가 다양하게 나타나는 것을 확인할 수 있다.Specifically, a) of FIG. 15 is a current stored image extracted from a video stream, and the indicated number indicates the numbering of the motion vector in the program. In addition, FIG. 15 b) shows the result of converting the current input image into a grayscale image, which is a step before extracting the optical flow feature from the current input image. Also, FIG. 15 c) shows the grayscale image of the previous stage, and compares it with the current input image to detect the moving direction. In addition, in FIG. 15 d), if there is no passer-by prior to analysis, it is stored as a basic image, and the basic image is used for verification to increase the accuracy of recognition detection. Therefore, as a measurement result, it can be confirmed that the recognition measurement result appears in various ways by specifying the detection area of the entrance and setting various thresholds for the CNN configuration.

결국, 본 발명의 실시예에 따르면, 본 발명에 따르면, 고층건물에서 화재 등 재난 발생시, 비상구 및 승강기 등의 출입구로 이동하는 재실자의 위치 및 인원수를 실시간 모니터링하기 위해서 CCTV 영상을 수집하여 가시화함으로써 자동으로 신속하고 정확하게 분석할 수 있다.After all, according to an embodiment of the present invention, according to the present invention, when a disaster such as a fire occurs in a high-rise building, in order to monitor the location and number of occupants moving to an exit such as an emergency exit or an elevator in real time, CCTV images are automatically collected and visualized. can be analyzed quickly and accurately.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustration, and those of ordinary skill in the art to which the present invention pertains can understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not restrictive. For example, each component described as a single type may be implemented in a dispersed form, and likewise components described as distributed may be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the above detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.

100: CCTV 200: 중계기(Hub)
300: CCTV 영상정보 처리장치 400: 관제 모니터링 서버
500: 출입구(비상구 및 승강기) 310: 비디오스트림 수집부
320: 출입구 진입/진출 검출부 330: 재실자 카운팅부
340: 데이터 전송부 350: 원격 제어부
321: 영상 시퀀스 추출부 322: 영상 분석부
323: 이동방향 감지부 324: 진입/진출 인식부
100: CCTV 200: Repeater (Hub)
300: CCTV image information processing device 400: control monitoring server
500: Entrance (emergency exit and elevator) 310: Video stream collection unit
320: entrance/exit detection unit 330: occupant counting unit
340: data transmitter 350: remote control
321: image sequence extraction unit 322: image analysis unit
323: movement direction detection unit 324: entry / exit recognition unit

Claims (22)

건물의 각 층별 및 구역별 출입구(500)에 설치되어 비디오스트림(Video Stream)을 생성하는 다수의 CCTV(100);
상기 다수의 CCTV(100) 각각으로부터 생성된 비디오스트림을 취합하여 전송하는 중계기(Hub: 200);
CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램에 따라, 상기 중계기(200)로부터 비디오스트림을 수집하고, 상기 수집된 비디오스트림을 처리 및 분석하여 출입구를 진입하거나 진출하는 재실자를 카운팅하여 카운팅 데이터에 따른 출입구 통행 인원정보를 생성하고, 상기 다수의 CCTV(100)를 원격 제어하는 CCTV 영상정보 처리장치(300); 및
상기 CCTV 영상정보 처리장치(300)에서 처리된 출입구 통행 인원정보를 관제 모니터링하는 관제 모니터링 서버(400)를 포함하되,
상기 다수의 CCTV(100) 각각은 CMOS 이미지 센서(CMOS Image Sensor: CIS)와 동적시각센서(Dynamic Vision Sensor: DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(Thermal Imaging Sensor: TIS)가 내장된 돔형(Dome Type) IP(Internet Protocol) 카메라이고;
상기 CCTV 영상정보 처리장치(300)는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 처리하기 위한 사용자 인터페이스(User Interface)가 구현되어, 재실자 인원 실시간 모니터링을 위해 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 출입구 인원을 자동 검출하며;
상기 CCTV 영상정보 처리장치(300)는, 상기 중계기(200)를 경유하는 상기 다수의 CCTV(100)으로부터 촬영된 비디오스트림을 실시간 수집하는 비디오스트림 수집부(310); 상기 비디오스트림 수집부(310)로부터 수집된 비디오스트림을 처리 및 분석하고, 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 상기 재실자의 출입구(500) 진입 또는 진출을 구분하여 인식하는 출입구 진입/진출 검출부(320); 상기 출입구 진입/진출 검출부(320)에 의해 인식되는 재실자를 자동 카운팅하여 출입구 통행 인원정보를 생성하는 재실자 카운팅부(330); 상기 재실자 카운팅부(330)에서 카운팅된 출입구 통행 인원정보를 상기 모니터링 서버(400)로 전송하는 데이터 전송부(340); 및 상기 다수의 CCTV(100) 각각의 재부팅, 해상도 및 초당 프레임수(FPS) 지정을 포함하는 동작 방식을 원격 제어하는 원격 제어부(350)를 포함하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
A plurality of CCTVs (100) installed at the entrance 500 for each floor and each area of the building to generate a video stream (Video Stream);
a repeater (Hub: 200) for collecting and transmitting video streams generated from each of the plurality of CCTVs (100);
According to the CCTV monitoring program and automatic doorway occupant counting program, a video stream is collected from the repeater 200, and the collected video stream is processed and analyzed to count the occupants entering or exiting the doorway, and the doorway passage according to the counting data CCTV image information processing device 300 for generating personnel information and remotely controlling the plurality of CCTVs 100; and
Including a control monitoring server 400 to control and monitor the information on the number of people passing through the entrance processed by the CCTV image information processing device 300,
Each of the plurality of CCTVs 100 has a built-in CMOS image sensor (CMOS Image Sensor: CIS) and a Dynamic Vision Sensor (DVS) or a CMOS image sensor (CIS) and a Thermal Imaging Sensor (TIS). Dome Type IP (Internet Protocol) camera;
The CCTV image information processing device 300 is implemented with a user interface for processing a CCTV monitoring program and an automatic doorway occupant counting program, so that occupants can be monitored in real time based on camera motion detection. automatically detect the entrance and exit personnel according to the traffic flow;
The CCTV image information processing apparatus 300 includes: a video stream collecting unit 310 for collecting video streams captured from the plurality of CCTVs 100 via the repeater 200 in real time; A doorway that processes and analyzes a video stream collected from the video stream collecting unit 310, and distinguishes and recognizes the entrance or exit of the occupant 500 according to the occupant's passage based on camera motion detection. Entry/exit detection unit 320; an occupant counting unit 330 for automatically counting the occupants recognized by the entrance/exit detection unit 320 to generate information on the number of people passing through the entrance; a data transmission unit 340 for transmitting the information on the number of people passing through the entrance and exit counted by the occupant counting unit 330 to the monitoring server 400; And CCTV video information analysis system for real-time monitoring of occupants comprising a remote control unit 350 for remotely controlling the operation method including rebooting, resolution, and frame per second (FPS) designation of each of the plurality of CCTVs 100 .
삭제delete 제1항에 있어서,
상기 다수의 CCTV(100) 각각은, 충분한 조도가 확보된 경우, 상기 CMOS 이미지 센서(CIS)가 작동하여 이미지를 수집하고, 조도가 부족하면 상기 동적시각센서(DVS) 또는 열화상센서(TIS)가 대신 작동하여 비디오스트림(Video Stream)을 생성하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
According to claim 1,
In each of the plurality of CCTVs 100, when sufficient illumination is secured, the CMOS image sensor (CIS) operates to collect images, and when illumination is insufficient, the dynamic visual sensor (DVS) or thermal image sensor (TIS) CCTV image information analysis system for real-time monitoring of occupants, characterized in that it works instead to generate a video stream.
제1항에 있어서,
상기 CCTV 영상정보 처리장치(300)는 상기 CCTV 모니터링 프로그램에서 인식 구역을 지정하고, 상기 지정된 인식 구역을 중심으로 하여 출입구를 통행하는 재실자의 진출/진입 여부를 판정하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
According to claim 1,
The CCTV image information processing device 300 designates a recognition zone in the CCTV monitoring program, and determines whether a occupant passing through the entrance or exit is made based on the designated recognition zone, real-time monitoring of the number of occupants CCTV video information analysis system for
제4항에 있어서,
상기 CCTV 모니터링 프로그램을 통해 "모션 감지영역"을 설정하면 CCTV(100)용 IP 카메라에 원격제어신호를 전송하여 해당 영역의 재실자 이동을 감지하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
5. The method of claim 4,
CCTV image information analysis for real-time monitoring of occupants, characterized in that when "motion detection area" is set through the CCTV monitoring program, a remote control signal is transmitted to the IP camera for CCTV 100 to detect the movement of occupants in the area system.
제4항에 있어서,
상기 CCTV 모니터링 프로그램을 통해 "움직임이 있는 경우", CCTV(100)용 IP 카메라는 검출 정보를 IP 카메라 내에 구현된 메모리의 특정 폴더에 저장하고, 주기적으로 상기 IP 카메라의 특정 폴더를 폴링하여 관련정보 파일을 가져 오는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
5. The method of claim 4,
Through the CCTV monitoring program, "when there is movement", the IP camera for CCTV 100 stores the detection information in a specific folder of the memory implemented in the IP camera, and periodically polls the specific folder of the IP camera for related information CCTV image information analysis system for real-time monitoring of occupants, characterized in that the file is imported.
제4항에 있어서,
상기 CCTV 모니터링 프로그램은 기지정된 "모션 감지영역" 안으로 이동이 확인될 경우, 진입 카운팅(People-In Counting)을 처리하고, 경계 부근에서 "모션 감지영역" 밖으로 이동이 확인될 경우, 진출 카운팅(People-Out Counting)을 진행하여 해당 결과를 저장함으로써, 재실자 인원수는 진입 카운팅(People-In Counting)으로부터 진출 카운팅(People-Out Counting)을 차감한 것으로 판정하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
5. The method of claim 4,
The CCTV monitoring program processes entry counting (People-In Counting) when movement into a predetermined "motion detection area" is confirmed, and when movement out of the "motion detection area" is confirmed near the boundary, exit counting (People-In Counting) -Out Counting) and storing the result, the number of occupants is determined by deducting People-Out Counting from People-In Counting CCTV for real-time monitoring of occupants Video information analysis system.
삭제delete 제1항에 있어서,
상기 출입구 진입/진출 검출부(320)는 여러 명이 한 번에 이동하는 경우에도 카메라 모션 검출에 기반하여 재실자를 각각 구분하여 인식하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
According to claim 1,
CCTV image information analysis system for real-time monitoring of occupants, characterized in that the entrance/exit detection unit 320 distinguishes and recognizes occupants based on camera motion detection even when several people move at once.
제1항에 있어서, 상기 출입구 진입/진출 검출부(320)는,
실시간으로 수집된 CCTV 비디오스트림 각각으로부터 비디오프레임을 각각 추출하여 영상 시퀀스를 자동 추출하는 영상 시퀀스 추출부(321);
상기 영상 시퀀스 추출부(321)에서 추출된 영상을 분석하는 영상 분석부(322);
상기 영상 분석부(322)의 영상 분석에 대응하여 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 재실자 이동방향을 자동 감지하는 이동방향 감지부(323); 및
상기 재실자의 출입구 진입 또는 진출을 구분하여 인식하는 진입/진출 인식부(324)를 포함하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
According to claim 1, wherein the entrance / exit detection unit 320,
an image sequence extractor 321 for automatically extracting an image sequence by extracting a video frame from each CCTV video stream collected in real time;
an image analyzer 322 for analyzing the image extracted by the image sequence extractor 321;
a movement direction detection unit 323 that automatically detects the movement direction of the occupants according to the occupant's movement line based on camera motion detection in response to the image analysis of the image analysis unit 322; and
CCTV image information analysis system for real-time monitoring of occupants, including an entry/exit recognition unit 324 for distinguishing and recognizing the entrance or exit of the occupant.
제10항에 있어서,
상기 이동방향 감지부(323)는 통행이 없는 상태를 초기 상태로 기억하고 재실자 이동시 이동방향을 자동 감지하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 시스템.
11. The method of claim 10,
The moving direction detecting unit 323 stores the no-passage state as an initial state and automatically detects the moving direction when the occupants move.
a) 건물의 각 층별 및 구역별 출입구(500)에 설치된 각각의 CCTV(100)가 출입구(500)를 촬영하여 비디오스트림을 생성하는 단계;
b) CCTV 영상정보 처리장치(300)가 상기 각각의 CCTV(100)가 생성한 비디오스트림을 중계기(Hub)를 경유하여 실시간 수집하는 단계;
c) 상기 CCTV 영상정보 처리장치(300)가 카메라 모션 검출에 기반하여 상기 출입구(500)를 통행하는 재실자의 진입/진출을 구분하여 인식하는 단계;
d) 상기 CCTV 영상정보 처리장치(300)가 상기 출입구(500)를 진입하거나 진출하는 재실자를 자동 카운팅하여 출입구 통행 인원정보를 생성하는 단계;
e) 상기 CCTV 영상정보 처리장치(300)가 상기 출입구 통행 인원정보를 관제 모니터링 서버(400)로 전송하는 단계; 및
f) 상기 CCTV 영상정보 처리장치(300)가 각각의 CCTV(100)의 동작을 원격 제어하는 단계를 포함하되,
상기 다수의 CCTV 각각은 CMOS 이미지 센서(CMOS Image Sensor: CIS)와 동적시각센서(Dynamic Vision Sensor: DVS) 또는 CMOS 이미지 센서(CIS)와 열화상센서(Thermal Imaging Sensor: TIS)가 내장된 돔형(Dome Type) IP(Internet Protocol) 카메라이고;
상기 CCTV 영상정보 처리장치(300)는 CCTV 모니터링 프로그램 및 출입구 재실자 자동 카운팅 프로그램을 처리하기 위한 사용자 인터페이스가 구현되어, 재실자 인원 실시간 모니터링을 위해 카메라 모션 검출에 기반한 재실자의 통행 동선에 따라 출입구 인원을 자동 검출하며;
상기 c) 단계는, c-1) 다수의 CCTV(100)으로부터 실시간 수집되는 비디오스트림으로부터 각각의 비디오프레임을 추출하는 단계; c-2) 상기 비디오프레임이 첫 번째 프레임인 경우, 통행이 없는 상태를 가정한 첫 번째 추출 이미지를 기본영상으로 저장하는 단계; c-3) 추출되는 프레임 이미지는 분석을 용이하게 하기 위하여 그레이스케일(Grayscale) 형식으로 변환하는 단계; c-4) 상기 그레이스케일 영상에 대해 광학흐름(Optical Flow) 특징을 추출하는 단계; c-5) 상기 그레이스케일 영상의 떨림 제거를 위한 1차 필터링(Filtering), 플리커(Flicker) 제거를 위한 2차 필터링 및 잡영(Noise) 제거를 위한 3차 필터링을 순차적으로 수행하는 단계; c-6) 상기 저장된 기본영상과 순차적으로 필터링이 수행된 그레이스케일 영상에 대한 비교 영역 화소값인 RGB 비교 연산을 수행하는 단계; c-7) 상기 비교 영역 화소값(RGB) 비교 연산이 수행된 영상에 대해 현재 특징 리스트를 추출하여, 상기 현재 특징 리스트를 이전 특징 리스트와 비교하여 운동방향을 추출하는 단계; 및 c-8) 출입구(500)를 통과하는 재실자 각각의 진입 또는 진출 여부를 인식하는 단계를 포함하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
a) generating a video stream by photographing the entrance 500 by each CCTV 100 installed at the entrance 500 for each floor and each zone of the building;
b) the CCTV image information processing device 300 collecting the video stream generated by each CCTV 100 in real time via a repeater (Hub);
c) the step of recognizing, by the CCTV image information processing device 300, the entry/exit of a occupant passing through the entrance/exit 500 based on the camera motion detection;
d) generating, by the CCTV image information processing device 300, automatically counting occupants entering or exiting the doorway 500 to generate information on the number of people passing through the doorway;
e) transmitting the CCTV image information processing device 300 to the control monitoring server 400 the information on the number of people passing through the entrance; and
f) comprising the step of remotely controlling the operation of each CCTV 100 by the CCTV image information processing device 300,
Each of the plurality of CCTVs has a CMOS image sensor (CIS) and a dynamic vision sensor (DVS) or a CMOS image sensor (CIS) and a thermal imaging sensor (TIS) in a dome type ( Dome Type) IP (Internet Protocol) camera;
The CCTV image information processing device 300 is implemented with a user interface for processing a CCTV monitoring program and an automatic doorway occupant counting program, so that the number of occupants is automatically calculated according to the occupant's movement line based on camera motion detection for real-time monitoring of the number of occupants. detect;
The step c) includes: c-1) extracting each video frame from a video stream collected in real time from a plurality of CCTVs 100; c-2) if the video frame is the first frame, storing a first extracted image assuming no traffic as a basic image; c-3) converting the extracted frame image into a grayscale format to facilitate analysis; c-4) extracting an optical flow feature from the grayscale image; c-5) sequentially performing primary filtering for removing shake of the grayscale image, secondary filtering for removing flicker, and tertiary filtering for removing noise; c-6) performing an RGB comparison operation that is a pixel value of a comparison area on the stored basic image and the grayscale image on which the filtering is sequentially performed; c-7) extracting a current feature list with respect to the image on which the comparison operation of comparing pixel values (RGB) has been performed, and comparing the current feature list with a previous feature list to extract a movement direction; And c-8) CCTV image information analysis method for real-time monitoring of occupants comprising the step of recognizing whether each occupant passing through the entrance or exit 500.
제12항에 있어서,
상기 c) 단계에서 상기 수집된 비디오스트림을 처리 및 분석하고, 카메라 모션 검출(Motion Detection)에 기반한 재실자의 통행 동선에 따라 상기 재실자의 출입구 진입 또는 진출을 구분하여 인식하며; 그리고 상기 d) 단계의 인식 결과로 얻은 상기 출입구(500)를 진입하거나 진출하는 재실자를 자동 카운팅한 데이터를 생성하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
processing and analyzing the video stream collected in step c), and classifying and recognizing the entrance or exit of the occupant according to the occupant's passage based on camera motion detection; And CCTV image information analysis method for real-time monitoring of occupants, characterized in that generating data automatically counting the occupants entering or leaving the entrance (500) obtained as a result of the recognition in step d).
삭제delete 제12항에 있어서,
상기 다수의 CCTV(100) 각각은, 충분한 조도가 확보된 경우, 상기 CMOS 이미지 센서(CIS)가 작동하여 이미지를 수집하고, 조도가 부족하면 상기 동적시각센서(DVS) 또는 열화상센서(TIS)가 대신 작동하여 비디오스트림(Video Stream)을 생성하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
In each of the plurality of CCTVs 100, when sufficient illumination is secured, the CMOS image sensor (CIS) operates to collect images, and when illumination is insufficient, the dynamic visual sensor (DVS) or thermal image sensor (TIS) CCTV image information analysis method for real-time monitoring of occupants, characterized in that it works instead to generate a video stream.
제12항에 있어서,
상기 c) 단계에서 상기 CCTV 영상정보 처리장치(300)는 상기 CCTV 모니터링 프로그램을 통해 인식 구역을 지정하고, 상기 지정된 인식 구역을 중심으로 하여 출입구를 통행하는 재실자의 진출/진입 여부를 판정하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
In step c), the CCTV image information processing device 300 designates a recognition area through the CCTV monitoring program, and determines whether an occupant passing through the entrance/exit is entered with the designated recognition area as the center. CCTV image information analysis method for real-time monitoring of occupants with
제12항에 있어서,
상기 CCTV 모니터링 프로그램을 통해 "모션 감지영역"을 설정하면 CCTV(100)용 IP 카메라에 원격제어신호를 전송하여 해당 영역의 재실자 이동을 감지하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
CCTV image information analysis for real-time monitoring of occupants, characterized in that when "motion detection area" is set through the CCTV monitoring program, a remote control signal is transmitted to the IP camera for CCTV 100 to detect the movement of occupants in the area Way.
제12항에 있어서,
상기 CCTV 모니터링 프로그램을 통해 "움직임이 있는 경우", CCTV(100)용 IP 카메라는 검출 정보를 IP 카메라 내에 구현된 메모리의 특정 폴더에 저장하고, 주기적으로 상기 IP 카메라의 특정 폴더를 폴링하여 관련정보 파일을 가져 오는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
Through the CCTV monitoring program, "when there is movement", the IP camera for CCTV 100 stores the detection information in a specific folder of the memory implemented in the IP camera, and periodically polls the specific folder of the IP camera for related information CCTV image information analysis method for real-time monitoring of occupants, characterized in that the file is imported.
제12항에 있어서,
상기 CCTV 모니터링 프로그램은 기지정된 "모션 감지영역" 안으로 이동이 확인될 경우, 진입 카운팅(People-In Counting)을 처리하고, 경계 부근에서 "모션 감지영역" 밖으로 이동이 확인될 경우, 진출 카운팅(People-Out Counting)을 진행하여 해당 결과를 저장함으로써, 재실자 인원수는 진입 카운팅(People-In Counting)으로부터 진출 카운팅(People-Out Counting)을 차감한 것으로 판정하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
The CCTV monitoring program processes entry counting (People-In Counting) when movement into a predetermined "motion detection area" is confirmed, and when movement out of the "motion detection area" is confirmed near the boundary, exit counting (People-In Counting) -Out Counting) and storing the result, the number of occupants is determined by deducting People-Out Counting from People-In Counting CCTV for real-time monitoring of occupants Image information analysis method.
제12항에 있어서,
상기 c) 단계에서 여러 명이 한 번에 이동하는 경우에도 카메라 모션 검출에 기반하여 재실자를 각각 구분하여 인식하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
CCTV image information analysis method for real-time monitoring of occupants, characterized in that even when several people move at once in step c), each occupant is recognized separately based on camera motion detection.
삭제delete 제12항에 있어서,
상기 c-2) 단계에서 출입구(500)의 통행이 없는 상태를 초기 상태로 기억하여 기본영상으로 저장하고, 상기 c-7) 단계에서 재실자 이동시 이동방향을 자동 감지하는 것을 특징으로 하는 재실자 인원 실시간 모니터링을 위한 CCTV 영상정보 분석 방법.
13. The method of claim 12,
In the step c-2), the state in which there is no passage of the entrance 500 is stored as an initial state and stored as a basic image, and in the step c-7), the direction of movement is automatically detected when the occupants move in real time. CCTV image information analysis method for monitoring.
KR1020190162406A 2019-12-09 2019-12-09 System for analyzing cctv image information for occupancy realtime monitoring, and method for the same KR102300640B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190162406A KR102300640B1 (en) 2019-12-09 2019-12-09 System for analyzing cctv image information for occupancy realtime monitoring, and method for the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190162406A KR102300640B1 (en) 2019-12-09 2019-12-09 System for analyzing cctv image information for occupancy realtime monitoring, and method for the same

Publications (2)

Publication Number Publication Date
KR20210072285A KR20210072285A (en) 2021-06-17
KR102300640B1 true KR102300640B1 (en) 2021-09-10

Family

ID=76603604

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190162406A KR102300640B1 (en) 2019-12-09 2019-12-09 System for analyzing cctv image information for occupancy realtime monitoring, and method for the same

Country Status (1)

Country Link
KR (1) KR102300640B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102396420B1 (en) * 2021-11-23 2022-05-10 주식회사 와치캠 Disaster evacuation monitoring method and system

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102563094B1 (en) * 2021-09-01 2023-08-03 주식회사 케이엔엑스정보통신 Emergency response system
KR102410056B1 (en) * 2021-12-21 2022-06-15 서울시립대학교 산학협력단 Apparatus and method for analyzing occupancy measurement location and measurement data in a residential building according to PIR sensor characteristics
KR102386208B1 (en) * 2022-01-03 2022-04-15 주식회사 서플라이스 Method and apparatus for detecting hazardous situations in fiteness center using neural network model
CN116071885B (en) * 2023-04-04 2023-08-01 四川三思德科技有限公司 Anti-interference smoke induction alarm method and system for elevator

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101861245B1 (en) * 2017-11-15 2018-05-25 (주)엠더블유스토리 Movement detection system and method for multi sensor cctv panorama video
KR101910640B1 (en) * 2018-03-12 2018-10-24 주식회사 사라다 Entrance management system and method therof

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101442658B1 (en) 2013-01-15 2014-09-24 서울시립대학교 산학협력단 System and Method for Disaster Evacuation providing Evacuation Simulation
KR20160035121A (en) * 2014-09-22 2016-03-31 에스케이텔레콤 주식회사 Method and Apparatus for Counting Entity by Using Location Information Extracted from Depth Image
KR20160052891A (en) * 2014-10-29 2016-05-13 주식회사 큐브인 Intelligent guidance system for emergency evacuation by using situation recognition technology
KR101492799B1 (en) 2014-11-21 2015-02-13 (주)금성보안 Entrance control integrated video recording system and method thereof
KR101714479B1 (en) 2015-02-05 2017-03-10 (주)도원엔지니어링건축사사무소 Spatial data recognizing method using light sensor and mutual multi-object recognition type disaster response system using the same
KR101871991B1 (en) 2015-06-25 2018-08-24 재단법인 한국기계전기전자시험연구원 System and method for determining occupants in building
KR102010320B1 (en) 2017-02-19 2019-08-13 (주)참슬테크 Service apparatus of checking room occupation
KR101972655B1 (en) 2017-07-18 2019-04-25 주식회사 에스원 Security system for detecting a resident by using verification technology of ultrasound signal
KR101828005B1 (en) 2017-11-22 2018-03-22 한국건설기술연구원 System for supporting evacuation strategy using occupant evacuation elevator, and method for the same

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101861245B1 (en) * 2017-11-15 2018-05-25 (주)엠더블유스토리 Movement detection system and method for multi sensor cctv panorama video
KR101910640B1 (en) * 2018-03-12 2018-10-24 주식회사 사라다 Entrance management system and method therof

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102396420B1 (en) * 2021-11-23 2022-05-10 주식회사 와치캠 Disaster evacuation monitoring method and system

Also Published As

Publication number Publication date
KR20210072285A (en) 2021-06-17

Similar Documents

Publication Publication Date Title
KR102300640B1 (en) System for analyzing cctv image information for occupancy realtime monitoring, and method for the same
KR102087000B1 (en) Method And System for Monitoring Fire
KR101387628B1 (en) Entrance control integrated video recorder
JP5369175B2 (en) Elevator door detection apparatus and detection method using video
KR100897339B1 (en) Total security system of apartment complex and application method thereof
KR102407327B1 (en) Apparatus for Monitoring Fire And System having the same
CN111562745A (en) Intelligent control system and intelligent control method
KR102277968B1 (en) Early fire detection system, server and method using image processing and artificial intelligence based on deep learning
US20220338303A1 (en) Systems and methods for identifying blockages of emergency exists in a building
JP6807548B2 (en) Processing equipment, control methods, programs, and intercom systems
JP6336709B2 (en) Security device, security method and program
KR102467814B1 (en) Integrated security system for apartment complexes based on artificial intelligence image analysis
EP2000952A2 (en) Smoke detecting method and device
JP4687058B2 (en) Suspicious person judgment device
KR20200075378A (en) Monitoring system for building occupant density using cctv, and method for the same
KR102113489B1 (en) Action Detection System and Method Using Deep Learning with Camera Input Image
KR101938308B1 (en) Image Sensing System including Identifiable Image Identification device for machine learned objects
KR101695127B1 (en) Group action analysis method by image
KR102333803B1 (en) System and method for setting of video surveillance area
KR101656642B1 (en) Group action analysis method by image
KR102081577B1 (en) Intelligence Fire Detecting System Using CCTV
KR101509223B1 (en) Security system with an auto capturing for monitoring screen and method of the same
JP5520675B2 (en) Reporting device
JPH0460880A (en) Moving body discrimination and analysis controlling system
KR102395440B1 (en) Cloud-based building management system and method thereof

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right