KR102107957B1 - Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof - Google Patents

Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof Download PDF

Info

Publication number
KR102107957B1
KR102107957B1 KR1020200001733A KR20200001733A KR102107957B1 KR 102107957 B1 KR102107957 B1 KR 102107957B1 KR 1020200001733 A KR1020200001733 A KR 1020200001733A KR 20200001733 A KR20200001733 A KR 20200001733A KR 102107957 B1 KR102107957 B1 KR 102107957B1
Authority
KR
South Korea
Prior art keywords
detecting
human
candidate window
image
setting
Prior art date
Application number
KR1020200001733A
Other languages
Korean (ko)
Inventor
박성하
임채욱
박승정
김의수
조수연
김현정
Original Assignee
주식회사 투윈스컴
주식회사 포스코아이씨티
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 투윈스컴, 주식회사 포스코아이씨티 filed Critical 주식회사 투윈스컴
Priority to KR1020200001733A priority Critical patent/KR102107957B1/en
Application granted granted Critical
Publication of KR102107957B1 publication Critical patent/KR102107957B1/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Abstract

The present invention relates to a CCTV monitoring system for detecting a person who invades a building through an exterior wall, to effectively detect an object from a photographed image, and a method thereof. According to the present invention, the CCTV monitoring system comprises: a camera (100) capturing the outer wall of the building; a server (200) receiving a captured image from the camera; and a terminal (300) receiving a warning signal outputted from the server. The server (200) comprises: a region setting unit (210) setting a monitoring region in the image transmitted from the camera; an object detection unit (220) detecting a person from the set monitoring region; and a warning signal output unit (230) outputting the warning signal to the terminal when the person is detected. The object detection unit (220) comprises: a candidate window setting module (221) setting a region of a moving object; an object detection learning module (222) using an object learning module to detect the person from objects included in a candidate window; and an object acquisition module (223) removing a background from the current image and detecting the person. Detection performed in the object detection unit is performed by setting the candidate window on the region including the moving object, detecting the person included in the candidate window based on the object learning model, and detecting the person through background removal.

Description

건물 외벽 침입감지를 위한 CCTV 모니터링 시스템 및 방법{CCTV MONITORING SYSTEM FOR DETECTING THE INVASION IN THE EXTERIOR WALL OF BUILDING AND METHOD THEREOF}CCTV monitoring system and method for intrusion detection of building exterior walls {CCTV MONITORING SYSTEM FOR DETECTING THE INVASION IN THE EXTERIOR WALL OF BUILDING AND METHOD THEREOF}

본 발명은 공동주택의 외벽을 통해 댁내로 침입하는 객체를 검출하기 위한 CCTV 모니터링 시스템에 관한 것이다.The present invention relates to a CCTV monitoring system for detecting an object invading a house through the outer wall of an apartment house.

최근, 재해, 교통, 침입자 등을 위한 CCTV 모니터링 시스템의 수요가 지속적으로 증가되고 있다. CCTV 모니터링 시스템은 사고를 사전에 예방하고 사고가 발생한 경우에는 신속하게 대응하여 피해를 줄일 수 있게 해준다. Recently, the demand for CCTV monitoring systems for disasters, traffic, intruders, etc. continues to increase. The CCTV monitoring system prevents accidents in advance and responds quickly in the event of an accident to reduce damage.

CCTV 카메라는 출입구와 같은 감시영역을 감시하도록 하기 위하여 촬상범위가 정해진다. 촬상된 영상은 관제 서버로 전송되고, 관제 서버에서는 영상 내에서 촬상된 객체의 이상 행위, 침입감지를 검출한다.CCTV cameras have a defined imaging range to monitor a surveillance area such as a doorway. The captured image is transmitted to the control server, and the control server detects abnormal behavior and intrusion detection of the object captured in the image.

종래의 지능형 영상분석 기술은 하나의 이벤트로 국한되어 객체인식을 하고 있어서 여러 개의 채널을 동시에 모니터링하기에는 어려움이 있다. 또한 촬영된 영상에서 복수의 이벤트 영상이 발생하는 경우 이를 통합하여 처리하는 데 어려움이 있다. Conventional intelligent image analysis technology is limited to one event and recognizes objects, making it difficult to monitor multiple channels simultaneously. In addition, when a plurality of event images are generated from the captured image, it is difficult to integrate and process them.

공개특허공보 제10-2008-0072454호, 배경과 이동객체를 분리하여 움직임을 추정하는 프레임보간 장치 및 프레임 보간 방법Patent Publication No. 10-2008-0072454, Frame interpolation device and frame interpolation method to estimate motion by separating background and moving object 등록특허공보 제10-1130963호, 형태와 특징 정보를 이용한 비정형 객체 추적 장치 및 그 방법Registration Patent Publication No. 10-1130963, Unstructured object tracking device and method using form and feature information 등록특허공보 제10-1180887호, 이상행위 검출장치 및 방법Patent registration No. 10-1180887, abnormal behavior detection device and method 등록특허공보 제10-1690057호, 고화질 영상 보간을 통한 CCTV용 다채널 고화질(HD급) 영상 데이터의 장거리 전송 시스템Patent registration No. 10-1690057, Long-distance transmission system of multi-channel high-definition (HD) video data for CCTV through high-definition image interpolation

본 발명은 촬상된 영상 내에서 효과적으로 객체를 검출하기 위한 CCTV 모니터링 시스템을 제공하려는 데 그 목적이 있다.An object of the present invention is to provide a CCTV monitoring system for effectively detecting an object in a captured image.

또한 본 발명은 촬상된 영상에서 객체를 검출할 때 검색 속도를 증대시킬 수 있는 CCTV 모니터링 시스템을 제공하려는 데 그 목적이 있다.In addition, an object of the present invention is to provide a CCTV monitoring system capable of increasing a search speed when detecting an object from an image captured.

본 발명의 해결하고자 하는 과제는 언급한 과제로 제한되지 않는다. 언급하지 않은 다른 기술적 과제들은 이하의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The problems to be solved of the present invention are not limited to the problems mentioned. Other technical problems not mentioned will be clearly understood by those skilled in the art from the following description.

본 발명에 따른 CCTV 모니터링 시스템은 건물 외벽으로 침입하는 사람객체를 검출하기 위한 CCTV 모니터링 시스템으로서, 상기 CCTV 모니터링 시스템은 건물의 외벽을 촬상하는 카메라(100)와, 상기 카메라로부터 촬상된 영상을 전송받는 서버(200)와, 상기 서버에서 출력하는 경보신호를 수신하는 단말기(300)를 포함하고,The CCTV monitoring system according to the present invention is a CCTV monitoring system for detecting a person object invading a building exterior wall, wherein the CCTV monitoring system receives a camera 100 capturing an exterior wall of a building and an image captured from the camera. It includes a server 200 and a terminal 300 for receiving an alarm signal output from the server,

상기 서버(200)는 카메라로부터 전송된 영상으로부터 감시영역을 설정하는 영역 설정부(210)와, 설정된 감시영역에서 사람객체를 검출하는 객체 검출부(220)와, 사람객체가 확인된 경우, 단말기로 경고신호를 출력하는 경고신호 출력부(230)로 이루어지며,The server 200 includes an area setting unit 210 for setting a monitoring area from an image transmitted from a camera, an object detection unit 220 for detecting a human object in the set monitoring area, and when a person object is confirmed, to the terminal. It consists of a warning signal output unit 230 for outputting a warning signal,

상기 객체 검출부(220)는 움직이는 객체 영역을 설정하는 후보 윈도우 설정모듈(221)와, 객체학습모듈을 이용하여 후보 윈도우 내의 객체 중에서 사람객체를 검출하는 객체검출 학습모듈(222)과, 현재 영상에서 배경을 제거하고 사람객체를 확인하는 객체 획득모듈(223)로 이루어지고,The object detection unit 220 includes a candidate window setting module 221 for setting a moving object area, an object detection learning module 222 for detecting a human object among objects in the candidate window using the object learning module, and the current image. It consists of an object acquisition module (223) to remove the background and check the human object,

객체 검출부의 객체의 검출은 움직이는 객체를 포함하는 영역에 후보 윈도우를 설정하고, 객체학습모델을 이용하여 후보 윈도우에 포함된 사람객체를 검출한 후, 배경 제거를 통해 사람객체를 확인하여 수행된다..The detection of the object in the object detection unit is performed by setting a candidate window in an area including a moving object, detecting a human object included in the candidate window using the object learning model, and then checking the human object through background removal. .

실시예로서, 사람 객체는 설정된 감시영역 내에서 검출될 수 있다.As an embodiment, the human object may be detected within the set surveillance area.

본 발명에 따른 CCTV 모니터링 시스템을 이용한 사람객체의 검출방법은 건물 외벽으로 침입하는 사람객체를 검출하기 위한 방법으로서, 촬상된 영상에서 감시영역을 설정하는 단계(S100)와, 설정된 감시영역에서 움직이는 사람객체를 검출하는 단계(S200)와, 사람객체가 검출된 경우, 경고신호를 출력하는 단계(S300)를 포함하고,A method for detecting a human object using a CCTV monitoring system according to the present invention is a method for detecting a human object that invades the exterior wall of a building, comprising: setting a surveillance area in the captured image (S100); And detecting an object (S200) and, if a human object is detected, outputting a warning signal (S300).

상기 사람객체를 검출하는 단계(S200)는 현재 영상에서 객체를 검출하고 객체에 후보 윈도우를 설정하는 단계(S210)와, 후보 윈도우에서 객체학습모델을 이용하여 사람객체를 검출하는 단계(S220)와, 현재 영상에서 배경을 제거하고 사람객체를 확인하는 단계(S230)로 이루어지고,The detecting of the human object (S200) includes detecting an object from the current image and setting a candidate window on the object (S210), and detecting a human object using an object learning model in the candidate window (S220). , Consists of removing the background from the current image and identifying a human object (S230),

상기 사람객체의 검출은 현재 영상에서 객체를 검출하고 후보 윈도우를 설정한 후, 객체학습모듈을 이용하여 설정된 후보 윈도우 내에서 사람객체를 검출한 다음, 검출된 사람객체가 포함된 영상에서 배경을 제거하여 사람객체를 확인하여 수행된다.The detection of the human object detects the object from the current image, sets the candidate window, detects the human object within the set candidate window using the object learning module, and then removes the background from the image containing the detected human object. It is performed by checking the human object.

본 발명에 따르면, 촬상된 영상 내에서 감시 영역만을 검색 대상으로 설정함으로써 시스템 자원을 최소화하고, 검색 속도를 증대시킬 수 있다.According to the present invention, it is possible to minimize the system resource and increase the search speed by setting only the surveillance area as the search target in the captured image.

또한 본 발명에 따르면, 서버의 모니터에는 복수 개의 촬상 영상을 분할하여 표시하고, 이들 중 사람객체가 포함된 분할영상의 가장자리에 이벤트 표식을 출력함으로써 관리자가 해당 CCTV 카메라를 쉽게 찾을 수 있다.Also, according to the present invention, a plurality of captured images are dividedly displayed on a monitor of a server, and an event marker is output on the edge of a divided image including a human object, so that an administrator can easily find the corresponding CCTV camera.

또한 본 발명에 따르면, 사람객체의 영역의 가장자리에 이벤트 표식을 출력함으로써 관리자가 해당 CCTV 카메라를 쉽게 찾을 수 있다.In addition, according to the present invention, by outputting an event marker on the edge of the area of a human object, the administrator can easily find the corresponding CCTV camera.

도 1은 본 발명에 따른 CCTV 모니터링 시스템의 구성도이다.
도 2는 본 발명에 따른 서버의 구성도이다.
도 3은 본 발명에 따른 CCTV 카메라의 촬상 범위를 나타낸 도면이다.
도 4는 후보 윈도우를 사용하여 객체를 검출하는 것을 보여주는 도면이다.
도 5는 현재 영상에서 배경 영상을 차분하여 객체 영상을 획득하는 것을 나타낸 것이다.
도 6은 본 발명에 따른 CCTV 모니터링 시스템의 동작을 나타내는 순서도이다.
도 7은 현재 영상에서 사람 객체를 검출하는 방법을 나타낸 순서도이다.
1 is a configuration diagram of a CCTV monitoring system according to the present invention.
2 is a configuration diagram of a server according to the present invention.
3 is a view showing an imaging range of a CCTV camera according to the present invention.
4 is a diagram showing detecting an object using a candidate window.
5 shows that an object image is obtained by differentiating a background image from a current image.
6 is a flow chart showing the operation of the CCTV monitoring system according to the present invention.
7 is a flowchart illustrating a method of detecting a human object in the current image.

이하, 본 발명의 바람직한 실시예를 도면을 참조하여 설명한다. Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings.

본 명세서에서 부, 모듈, 서버, 단말기 또는 시스템 등의 용어는 하드웨어 및 해당 하드웨어에 의해 구동되는 소프트웨어의 조합을 의미할 수 있으며, 영상이라는 용어는 하나의 영상 프레임 또는 영상 프레임의 연속된 집합을 의미할 수 있다.In this specification, terms such as a part, a module, a server, a terminal, or a system may mean a combination of hardware and software driven by the hardware, and the term video means one video frame or a continuous set of video frames. can do.

본 발명은 공동주택의 외벽을 통해 댁내로 침입하는 객체를 검출하기 위한 CCTV 모니터링 시스템에 관한 것이다.The present invention relates to a CCTV monitoring system for detecting an object invading a house through the outer wall of an apartment house.

도 1은 본 발명에 따른 CCTV 영상 시스템의 구성도이고, 도 2는 본 발명에 따른 서버의 구성도이다.1 is a configuration diagram of a CCTV video system according to the present invention, and FIG. 2 is a configuration diagram of a server according to the present invention.

본 발명에 따른 CCTV 영상 시스템은 건물의 외벽을 촬상하는 카메라(100)와, 상기 카메라로부터 촬상된 영상을 전송받는 서버(200)와, 상기 서버에서 출력하는 경보신호를 수신하는 단말기(300)를 포함한다.The CCTV video system according to the present invention includes a camera 100 for photographing the outer wall of a building, a server 200 for receiving an image captured from the camera, and a terminal 300 for receiving an alarm signal output from the server. Includes.

상기 카메라(100)는 연립주택, 아파트 등과 같은 공동주택의 외벽을 촬상하도록 설치된다. 카메라는 소정의 화각을 가지도록 설치되며, 미리 설정된 영역을 촬상한다. 카메라는 여러 장소에 하나 이상으로 설치될 수 있다. 예컨대, 공동주택의 외벽 모서리에 서로 다른 방향을 촬상하기 위하여 모서리와 접하는 양측면을 촬상할 수 있도록 2대의 카메라를 설치할 수 있다.The camera 100 is installed to image the outer wall of the apartment house, such as a tenement house, an apartment. The camera is installed to have a predetermined angle of view, and images a preset area. More than one camera can be installed in multiple locations. For example, two cameras may be installed at the corners of the outer wall of the apartment house so as to image both sides of the corners in order to photograph different directions.

카메라로부터 촬상된 영상은 서버로 전송된다. 서버(200)는 하나 이상의 카메라(100)가 촬상한 영상을 수신하고, 촬상된 영상으로부터 객체를 검출한다. 한편, 객체는 사람객체, 동물객체, 사물객체로 분류될 수 있으며, 본 발명에서는 댁내로 침입하는 사람객체를 검출 대상으로 한다.The image captured from the camera is transmitted to the server. The server 200 receives an image captured by one or more cameras 100 and detects an object from the captured image. Meanwhile, the object may be classified into a human object, an animal object, and an object object, and in the present invention, a human object that invades the home is a detection target.

서버(200)는 카메라로부터 전송된 영상으로부터 감시영역을 설정하는 영역 설정부(210)와, 설정된 감시영역에서 사람객체를 검출하는 객체 검출부(220)와, 사람객체가 확인된 경우, 단말기로 경고신호를 출력하는 경고신호 출력부(230)을 포함한다.The server 200 is an area setting unit 210 for setting a surveillance area from an image transmitted from a camera, an object detection unit 220 for detecting a human object in the set surveillance area, and when a human object is confirmed, alerts the terminal It includes a warning signal output unit 230 for outputting a signal.

추가적으로 서버에는 카메라로부터 전송된 영상을 저장하는 영상 녹화기와 영상을 디스플레이하는 모니터가 설치될 수 있다. 영상 녹화기는 영상 저장공간을 위한 하드 디스크(HDD)를 포함할 수 있다. 일 실시예로서 영상 녹화기는 NVR(Network Video Recorder), DVR(Digital Video Recorder)로 구성할 수 있다.Additionally, a server may be provided with a video recorder that stores the image transmitted from the camera and a monitor that displays the image. The video recorder may include a hard disk (HDD) for video storage. As an embodiment, the video recorder may include a network video recorder (NVR) and a digital video recorder (DVR).

영역 설정부(210)는 촬상된 영상에서 미리 정해진 감시영역을 설정한다. 실시예로서 감시영역은 건물의 외벽을 포함한 영역을 감시영역으로 설정된다. 바람직하게는 건물 외벽의 하부를 감시영역으로 설정할 수 있다.The area setting unit 210 sets a predetermined monitoring area in the captured image. As an embodiment, the monitoring area is set as a monitoring area for the area including the outer wall of the building. Preferably, the lower part of the outer wall of the building can be set as a monitoring area.

감시영역은 촬상된 영상에서 감시 대상이 되는 건물 영역만을 포함하지만, 건물의 주변 영역, 즉 하늘, 땅, 옆 건물 등의 영역은 포함되지 않는다.The surveillance area includes only the building area to be monitored in the captured image, but does not include the area around the building, that is, the area of the sky, the ground, or the next building.

도 3은 본 발명에 따른 CCTV 카메라의 촬상 범위를 나타낸 도면이다.3 is a view showing an imaging range of a CCTV camera according to the present invention.

도면을 참조하면, CCTV 카메라의 감시영역은 아파트의 외벽의 하부를 감시영역으로 설정한 것을 보여준다. 침입을 하고자 하는 객체는 건물의 하부로부터 올라가는 것을 가정하고, 건물의 하부를 감시영역으로 설정한다.Referring to the drawing, the surveillance area of the CCTV camera shows that the lower part of the outer wall of the apartment is set as the surveillance area. It is assumed that the object to invade rises from the lower part of the building, and the lower part of the building is set as the surveillance area.

객체 검출부(220)는 미리 설정된 감시영역에서 사람객체를 검출한다. 촬상된 영상에는 남자, 여자, 노인, 아이와 같은 사람 객체와, 개, 고양이와 같은 동물 객체와, 자전거, 자동차 등과 같은 사물 객체가 포함될 수 있다. 객체 검출부는 감시영역에서 움직이는 객체들 중 사람 객체만을 검출한다.The object detection unit 220 detects a human object in a preset monitoring area. The captured image may include human objects such as men, women, the elderly, and children, animal objects such as dogs and cats, and object objects such as bicycles and cars. The object detection unit detects only human objects among moving objects in the surveillance area.

경고신호 출력부(230)는 움직이는 객체가 사람객체로 확인된 경우, 단말기로 경고신호를 출력한다. 상기 단말기는 서버 관리자의 단말기일 수 있으며, 경고신호는 경보음과 검출위치좌표를 포함한다.When a moving object is identified as a human object, the warning signal output unit 230 outputs a warning signal to the terminal. The terminal may be a terminal of a server administrator, and the warning signal includes an alarm sound and a detection position coordinate.

관리자는 단말기의 지도화면에서 표시되는 침입위치와 경보음으로부터 해당 장소에 침입자가 발생되었다는 것을 확인할 수 있다. The administrator can confirm that an intruder has occurred in the corresponding location from the intrusion location and the alarm sound displayed on the map screen of the terminal.

이하, 본 발명에 따른 서버(200)의 객체 검출부(220)에 대하여 설명한다.Hereinafter, the object detection unit 220 of the server 200 according to the present invention will be described.

본 발명에 따른 사람 객체의 검출은 움직이는 객체를 포함하는 영역에 후보 윈도우를 설정하고, 객체학습모델을 이용하여 후보 윈도우에 포함된 사람객체를 검출한 후, 배경 제거를 통해 사람객체를 확인하여 수행된다.Detection of a human object according to the present invention is performed by setting a candidate window in an area containing a moving object, detecting a human object included in the candidate window using the object learning model, and then checking the human object through background removal do.

객체 검출부(220)는 움직이는 객체 영역을 설정하는 후보 윈도우 설정모듈(221)와, 객체학습모듈을 이용하여 후보 윈도우 내의 객체 중에서 사람객체를 검출하는 객체검출 학습모듈(222)과, 현재 영상에서 배경을 제거하고 사람객체를 확인하는 객체 획득모듈(223)을 포함한다.The object detection unit 220 includes a candidate window setting module 221 for setting a moving object area, an object detection learning module 222 for detecting a human object among objects in the candidate window using the object learning module, and a background from the current image. And an object acquiring module 223 for removing and identifying a human object.

후보 윈도우 설정부(221)는 촬상 영상 내의 감시영역에서 움직이는 객체가 있을 경우, 움직이는 객체에 후보 윈도우를 설정한다. 에컨대, 후보 윈도우는 사람 객체, 동물 객체, 사물 객체에 각각에 설정할 수 있다.The candidate window setting unit 221 sets a candidate window on the moving object when there is an object moving in the surveillance area in the captured image. For example, the candidate window can be set for each of human objects, animal objects, and object objects.

실시예로서, 후보 윈도우는 입력되는 영상에 동일한 크기의 격자 그리드를 형성하고, 각각의 격자 그리드에 지정된 후보 윈도우의 개수를 예측하는 단일 단계 방식을 사용한다. As an embodiment, the candidate window forms a grid grid of the same size in the input image, and uses a single-step method for predicting the number of candidate windows assigned to each grid grid.

도 4는 객체를 검출하는 것을 보여주는 도면이다.4 is a diagram showing detecting an object.

감시영역 내에서 사람과 개(dog)가 함께 이동하고 있는 경우, 사람과 개에는 각각 후보 윈도우가 설정된다.When a person and a dog are moving together in the surveillance area, a candidate window is set for each person and dog.

상기 후보 윈도우는 그리드를 기반으로 설정되며, 객체는 후보 윈도우로부터 추출된다. 도면을 참조하면, (a)와 (b)에서 그리드를 기반으로 미리 설정된 윈도우의 개수를 예측하고, 배경이 아닌 객체, 그 중에서 신뢰도가 높은 객체만을 추출한다. (a)와 (b)는 반복하여 수행될 수 있다.The candidate window is set based on a grid, and the object is extracted from the candidate window. Referring to the drawings, in (a) and (b), the number of preset windows is predicted based on the grid, and only objects with high reliability are extracted from objects other than the background. (a) and (b) can be performed repeatedly.

실시예로서, 영상 이미지를 일정한 간격의 그리드로 분할한 후, 각 그리드 별로 화소를 샘플링하고, 샘플링된 화소를 그리드의 대푯값으로 하여 클러스트링을 수행한다. 다른 실시예로서 복수 개의 이상의 화소를 샘플링하고 복수 개의 화소의 무게중심을 그리드의 대푯값으로 하여 K개의 그리드 군집을 클러스트링한다. 상기 무게중심은 Center Of Gravity로 계산될 수 있다. 이 경우 샘플링 시간이 길어지지만 정확도는 높일 수 있다.As an embodiment, after dividing a video image into grids at regular intervals, pixels are sampled for each grid, and clustering is performed using the sampled pixels as a representative value of the grid. In another embodiment, a plurality of pixels are sampled, and clusters of K grids are clustered using the center of gravity of the plurality of pixels as a representative value of the grid. The center of gravity can be calculated as Center Of Gravity. In this case, the sampling time becomes longer, but the accuracy can be increased.

〈수학식 1〉<Equation 1>

COG = ((X(11)+X(12)+X(13)+ … +X(1N))/N, (X(21)+X(22)+X(23)+ … +X(2N))/N, …)COG = ((X (11) + X (12) + X (13) + ... + X (1N)) / N, (X (21) + X (22) + X (23) + ... + X (2N) )) / N,…)

여기서, X는 화소를 나타내고, N은 샘플링 수를 나타낸다.Here, X represents a pixel, and N represents a sampling number.

이어서, 그리드 군집의 중심과의 거리를 기초로 후보 윈도우를 설정하고, 후보 윈도우로부터 객체를 추출한다.Subsequently, a candidate window is set based on the distance from the center of the grid cluster, and an object is extracted from the candidate window.

객체검출 학습모듈(222)은 감시영역에서 움직이는 객체 중에서 사람객체를 검출한다. 객체검출 학습모듈은 컨볼루션 신경망이 적용된 객체학습모델을 이용할 수 있다. 이때 객체의 추출은 사전학습된 가중치 파일을 사용하여 검출할 수 있다.The object detection learning module 222 detects a human object among moving objects in the surveillance area. The object detection learning module may use an object learning model to which a convolutional neural network is applied. At this time, the extraction of the object can be detected using a pre-trained weight file.

객체검출 학습모델은 사람과 동물이 포함된 영상을 학습할 수 있다. 실시예로서, 객체학습모델은 암벽, 산, 공원, 도로 등과 같은 장소에서 다양한 각도에서 촬영된 그리고 객체가 포함된 영상을 학습한 모델일 수 있다.The object detection learning model can learn images containing humans and animals. As an embodiment, the object learning model may be a model that learns images captured from various angles in a place such as a rock wall, a mountain, a park, a road, and an object.

복수 개의 CCTV 카메라로부터 전송되는 영상을 개별적으로 사람객체를 검출하는 것은 복잡하고 많은 연산처리를 필요로 한다. 실시예로서 16개의 CCTV 영상에서 사람객체를 검출할 경우, 객체검출 속도를 향상시키기 위하여 각 채널을 하나의 이미지로 합성하고, 합성된 하나의 이미지로부터 사람객체를 검출하는 방식을 사용할 수 있다.Detecting human objects individually from images transmitted from multiple CCTV cameras is complex and requires a lot of computational processing. As an embodiment, when detecting a human object from 16 CCTV images, a method of synthesizing each channel into one image and detecting a human object from one synthesized image may be used to improve the object detection speed.

한편, 컨볼류션 신경망을 이용한 객체의 검출은 배경 이미지를 사람객체로 오검출할 수 있다. 이를 보완하기 위하여 배경 차분기법을 이용하여 사람객체를 정확히 검출한다.Meanwhile, the detection of an object using a convolutional neural network may incorrectly detect a background image as a human object. To compensate for this, the human object is accurately detected using the background difference method.

객체 획득모듈(223)는 배경을 제거하고 객체를 검증하고 사람객체를 확인한다. 우선, 현재 영상에서 미리 저장된 배경 영상을 차분한다. 현재 영상 - 카메라로부터 실시간으로 전송되는 입력 영상 - 에서 배경 영상을 차분함으로써 배경으로부터 객체가 분리된다. 실시예로서, 미리 저장된 배경 영상은 소정 주기로 업데이트될 수 있다. 상기 미리 저정된 배경 영상은 적어도 N회 이상의 영상에서 객체가 검출되지 않은 영상으로 설정할 수 있다.The object acquisition module 223 removes the background, verifies the object, and identifies the human object. First, the background image previously stored is differentiated from the current image. The object is separated from the background by subtracting the background image from the current image-the input image transmitted in real time from the camera. As an embodiment, the pre-stored background image may be updated at a predetermined cycle. The pre-determined background image may be set as an image in which an object is not detected from at least N or more images.

도 5는 현재 영상에서 배경 영상을 차분하여 객체 영상을 획득하는 것을 나타낸 것이다.5 shows that an object image is obtained by differentiating a background image from a current image.

입력되는 현재 영상에는 배경과 객체가 촬상되어 있다. 그리고 배경 영상에는 객체가 존재하지 않은 배경만이 촬상되어 있다. 객체 획득모듈은 현재 영상에서 배경영상을 차분하여 객체영상을 획득한다. 도 5(c)는 현재 영상에서 배경이 제거된 영상 즉, 객체 영상을 보여준다.Background and object are captured in the current image. In addition, in the background image, only the background without the object is captured. The object acquisition module acquires the object image by differentiating the background image from the current image. 5 (c) shows an image in which the background is removed from the current image, that is, an object image.

이하, 본 발명에 따른 CCTV 모니터링 시스템의 동작을 설명한다.Hereinafter, the operation of the CCTV monitoring system according to the present invention will be described.

도 6은 본 발명에 따른 CCTV 모니터링 시스템의 동작을 나타내는 순서도이고, 도 7은 현재 영상에서 사람 객체를 검출하는 방법을 나타낸 순서도이다.6 is a flowchart illustrating the operation of the CCTV monitoring system according to the present invention, and FIG. 7 is a flowchart illustrating a method of detecting a human object in the current image.

본 발명에 따른 시스템의 동작방법은, 촬상된 영상에서 감시영역을 설정하는 단계(S100)와, 설정된 감시영역에서 움직이는 사람객체를 검출하는 단계(S200)와, 사람객체가 검출된 경우, 경고신호를 출력하는 단계(S300)를 포함하고,The operation method of the system according to the present invention includes the steps of setting a surveillance area in the captured image (S100), detecting a moving human object in the set surveillance area (S200), and when a human object is detected, a warning signal It includes the step of outputting (S300),

상기 사람객체를 검출하는 단계(S200)는 현재 영상에서 객체를 검출하고 객체에 후보 윈도우를 설정하는 단계(S210)와, 후보 윈도우에서 객체학습모델을 이용하여 사람객체를 검출하는 단계(S220)와, 현재 영상에서 배경을 제거하고 사람객체를 확인하는 단계(S230)를 포함한다.The detecting of the human object (S200) includes detecting an object from the current image and setting a candidate window on the object (S210), and detecting a human object using an object learning model in the candidate window (S220). , Removing the background from the current image and identifying a human object (S230).

상기 단계(S100)에서, 서버는 복수 개의 카메라로부터 현재 영상을 전송받고, 현재 영상에서 감시영역을 설정한다. 실시예로서, 감시영역은 건물의 외벽의 하부가 설정될 수 있다. 감시영역을 건물의 외벽 하부로 제한함으로써 객체 검출에 따른 자원을 절약할 수 있고, 빠르게 객체를 검출할 수 있다.In the step (S100), the server receives the current image from a plurality of cameras, and sets the surveillance area from the current image. As an embodiment, the lower part of the outer wall of the building may be set as the monitoring area. By limiting the surveillance area to the lower part of the outer wall of the building, resources for object detection can be saved, and objects can be detected quickly.

상기 단계(S200)에서, 설정된 감시영역에서 움직이는 객체를 검출한다. 감시영역에서 움직이는 객체는 사람객체, 사물객체, 동물객체가 있을 수 있다. 본 발명에서는 이러한 객체들 중에서 사람객체만을 검출한다. In step S200, a moving object is detected in the set surveillance area. The moving object in the surveillance area may be a human object, an object object, or an animal object. In the present invention, only human objects are detected among these objects.

실시예로서, 현재 영상에서 객체를 검출하고 후보 윈도우를 설정한다. 이어서 객체학습모듈을 이용하여 설정된 후보 윈도우 내에서 사람객체를 검출한 다음, 검출된 사람객체가 포함된 영상에서 배경을 제거하여 사람객체를 확인하여 수행된다.As an embodiment, an object is detected in the current image and a candidate window is set. Subsequently, the human object is detected in the candidate window set using the object learning module, and then the background is removed from the image containing the detected human object to check the human object.

이와 같이 현재 영상에서 사람객체가 검출되면, 서버의 모니터에서 보여주는 복수 개의 분할된 영상 중에서 사람객체가 검출된 영상의 가장자리에 이벤트를 표식을 출력할 수 있다. 또한 사람객체 영역의 가장자리에 이벤트 표식을 출력할 수 있다. 이러한 이벤트 표식은 깜빡임 등 시각적인 이벤트 효과일 수 있으며, 관리자는 해당 영상 및 CCTV 카메라를 쉽게 찾을 수 있다. As such, when a human object is detected in the current image, an event may be displayed on the edge of the image where the human object is detected among a plurality of divided images displayed on the monitor of the server. In addition, an event marker may be output on the edge of the human object area. The event marker may be a visual event effect such as flickering, and the administrator can easily find the corresponding video and CCTV camera.

또한 현재 영상에서 사람객체가 검출되면, 서버는 단말기로 경고신호를 출력한다. 관리자는 단말기에서 보여주는 지도화면에서 침입한 장소를 촬상하는 현재 영상을 표시하고, 더불어 경고음을 출력한다.In addition, when a human object is detected in the current image, the server outputs a warning signal to the terminal. The manager displays the current image capturing the intruded place on the map screen displayed by the terminal, and also outputs a warning sound.

실시예들에 따른 사람객체 검출방법에 따른 동작은 적어도 부분적으로 컴퓨터 프로그램으로 구현되고 컴퓨터로 읽을 수 있는 기록매체에 기록될 수 있다. The operation according to the human object detection method according to the embodiments may be implemented at least partially as a computer program and recorded in a computer-readable recording medium.

컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 구성될 수 있고, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수도 있다. Examples of computer-readable recording media include ROM, RAM, CD-ROM, magnetic tape, floppy disks, and optical data storage devices. In addition, the computer-readable recording medium may be distributed and configured in a networked computer system, and the computer-readable code may be stored and executed in a distributed manner.

이상, 본 발명을 구체적인 실시예를 통하여 상세하게 설명하였으나, 본 발명은 상기 실시예에 한정되지 않고, 본 발명의 기술적 사상의 범위내에서 통상의 지식을 가진 자에 의하여 여러 가지 변형이 가능하다.As described above, the present invention has been described in detail through specific embodiments, but the present invention is not limited to the above embodiments, and various modifications can be made by those skilled in the art within the scope of the technical spirit of the present invention.

100 : 카메라
200 : 서버
210 : 영역 설정부
220 : 객체 검출부
221 : 후보 윈도우 설정모듈
222 : 객체검출 학습모듈
223 : 객체획득 모듈
230 : 경고신호 출력부
300 : 단말기
100: camera
200: server
210: area setting unit
220: object detection unit
221: candidate window setting module
222: Object detection learning module
223: object acquisition module
230: warning signal output
300: terminal

Claims (3)

건물 외벽으로 침입하는 사람객체를 검출하기 위한 CCTV 모니터링 시스템으로서,
상기 CCTV 모니터링 시스템은,
건물의 외벽을 촬상하는 카메라(100)와, 상기 카메라로부터 촬상된 영상을 전송받는 서버(200)와, 상기 서버에서 출력하는 경보신호를 수신하는 단말기(300)를 포함하고,
상기 서버(200)는 카메라로부터 전송된 영상으로부터 감시영역을 설정하는 영역 설정부(210)와, 설정된 감시영역에서 사람객체를 검출하는 객체 검출부(220)와, 사람객체가 확인된 경우, 단말기로 경고신호를 출력하는 경고신호 출력부(230)로 이루어지며,
상기 객체 검출부(220)는 움직이는 객체 영역을 설정하는 후보 윈도우 설정모듈(221)와, 객체학습모듈을 이용하여 후보 윈도우 내의 객체 중에서 사람객체를 검출하는 객체검출 학습모듈(222)과, 현재 영상에서 배경을 제거하고 사람객체를 확인하는 객체 획득모듈(223)로 이루어지고,
객체 검출부의 객체의 검출은 움직이는 객체를 포함하는 영역에 후보 윈도우를 설정하고, 객체학습모델을 이용하여 후보 윈도우에 포함된 사람객체를 검출한 후, 배경 제거를 통해 사람객체를 확인하여 수행되며,
상기 후보 윈도우 설정모듈(221)의 후보 윈도우는 영상 이미지를 일정한 간격의 그리드로 분할한 후, 각 그리드 별로 화소를 샘플링하고, 화소의 무게중심을 그리드의 대푯값으로 하여 K개의 그리드 군집을 클러스트링하여 수행되되, 상기 무게중심은 하기 〈수학식 1〉로부터 계산되는 것을 특징으로 하는 CCTV 모니터링 시스템.
〈수학식 1〉
COG = ((X(11)+X(12)+X(13)+ … +X(1N))/N, (X(21)+X(22)+X(23)+ …+X(2N))/N, …)
여기서, X는 화소를 나타내고, N은 샘플링 수를 나타낸다.
CCTV monitoring system for detecting human objects intruding into the outer walls of buildings,
The CCTV monitoring system,
It includes a camera (100) for photographing the outer wall of a building, a server (200) for receiving an image captured from the camera, and a terminal (300) for receiving an alarm signal output from the server,
The server 200 includes an area setting unit 210 for setting a monitoring area from an image transmitted from a camera, an object detection unit 220 for detecting a human object in the set monitoring area, and when a person object is confirmed, to the terminal. It consists of a warning signal output unit 230 for outputting a warning signal,
The object detection unit 220 includes a candidate window setting module 221 for setting a moving object area, an object detection learning module 222 for detecting a human object among objects in the candidate window using the object learning module, and the current image. It consists of an object acquisition module (223) to remove the background and check the human object,
The detection of the object in the object detection unit is performed by setting a candidate window in an area including a moving object, detecting a human object included in the candidate window using the object learning model, and then checking the human object through background removal,
The candidate window of the candidate window setting module 221 is performed by dividing a video image into grids at regular intervals, sampling pixels for each grid, and clustering K grid clusters using the center of gravity of the pixels as a representative value of the grid. However, the center of gravity is CCTV monitoring system, characterized in that calculated from <Equation 1> below.
<Equation 1>
COG = ((X (11) + X (12) + X (13) + ... + X (1N)) / N, (X (21) + X (22) + X (23) + ... + X (2N) )) / N,…)
Here, X represents a pixel, and N represents a sampling number.
청구항 1에 있어서,
상기 사람 객체는 설정된 감시영역 내에서 검출하도록 구성한 것을 특징으로 하는 CCTV 모니터링 시스템.
The method according to claim 1,
CCTV monitoring system, characterized in that the human object is configured to detect within the set surveillance area.
건물 외벽으로 침입하는 사람객체를 검출하기 위한 방법으로서,
촬상된 영상에서 감시영역을 설정하는 단계(S100)와, 설정된 감시영역에서 움직이는 사람객체를 검출하는 단계(S200)와, 사람객체가 검출된 경우, 경고신호를 출력하는 단계(S300)를 포함하고,
상기 사람객체를 검출하는 단계(S200)는 현재 영상에서 객체를 검출하고 객체에 후보 윈도우를 설정하는 단계(S210)와, 후보 윈도우에서 객체학습모델을 이용하여 사람객체를 검출하는 단계(S220)와, 현재 영상에서 배경을 제거하고 사람객체를 확인하는 단계(S230)로 이루어지고,
상기 사람객체의 검출은 현재 영상에서 객체를 검출하고 후보 윈도우를 설정한 후, 객체학습모듈을 이용하여 설정된 후보 윈도우 내에서 사람객체를 검출한 다음, 검출된 사람객체가 포함된 영상에서 배경을 제거하여 사람객체를 확인하여 수행되고,
상기 후보 윈도우는 영상 이미지를 일정한 간격의 그리드로 분할한 후, 각 그리드 별로 화소를 샘플링하고, 화소의 무게중심을 그리드의 대푯값으로 하여 K개의 그리드 군집을 클러스트링하여 수행되되, 상기 무게중심은 하기 〈수학식 1〉로부터 계산되는 것을 특징으로 하는 것을 특징으로 하는 CCTV 모니터링 방법.
〈수학식 1〉
COG = ((X(11)+X(12)+X(13)+ … +X(1N))/N, (X(21)+X(22)+X(23)+ …+X(2N))/N, …)
여기서, X는 화소를 나타내고, N은 샘플링 수를 나타낸다.
As a method for detecting human objects that invade the outer wall of a building,
It includes the steps of setting a surveillance area in the captured image (S100), detecting a moving human object in the set monitoring area (S200), and outputting a warning signal when a human object is detected (S300). ,
The detecting of the human object (S200) includes detecting an object from the current image and setting a candidate window on the object (S210), and detecting a human object using an object learning model in the candidate window (S220). , Consists of removing the background from the current image and identifying a human object (S230),
The detection of the human object detects an object from the current image, sets a candidate window, detects the human object within the set candidate window using the object learning module, and then removes the background from the image containing the detected human object. Is performed by checking the human object,
The candidate window is performed by dividing the video image into grids at regular intervals, sampling pixels for each grid, and clustering K grid clusters using the pixel's center of gravity as a representative value of the grid. CCTV monitoring method characterized in that it is calculated from the equation (1).
<Equation 1>
COG = ((X (11) + X (12) + X (13) + ... + X (1N)) / N, (X (21) + X (22) + X (23) + ... + X (2N) )) / N,…)
Here, X represents a pixel, and N represents a sampling number.
KR1020200001733A 2020-01-06 2020-01-06 Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof KR102107957B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200001733A KR102107957B1 (en) 2020-01-06 2020-01-06 Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200001733A KR102107957B1 (en) 2020-01-06 2020-01-06 Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof

Publications (1)

Publication Number Publication Date
KR102107957B1 true KR102107957B1 (en) 2020-05-07

Family

ID=70733080

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200001733A KR102107957B1 (en) 2020-01-06 2020-01-06 Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof

Country Status (1)

Country Link
KR (1) KR102107957B1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111707972A (en) * 2020-05-11 2020-09-25 广州智特信息科技有限公司 Ground monitoring system, method and computer readable storage medium
KR102297766B1 (en) * 2020-06-19 2021-09-06 주식회사 크레스프리 Ai camera device and edge device for generating and processing image data in edge computing system
KR102555857B1 (en) * 2022-07-26 2023-07-13 장형석 Multi-ourlayer concrete block for city battle and war game treasure and its sencing and control system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080072454A (en) 2007-02-02 2008-08-06 삼성전자주식회사 Frame interpolate device for estimating motion by separating static object and moving object and frame interpolate method using the device
KR101130963B1 (en) 2010-05-24 2012-04-04 중앙대학교 산학협력단 Apparatus and method for tracking non-rigid object based on shape and feature information
KR101180887B1 (en) 2010-09-08 2012-09-07 중앙대학교 산학협력단 Apparatus and method for detecting abnormal behavior
KR101690057B1 (en) 2016-12-01 2017-01-09 주식회사 투윈스컴 Long distance transmission system for multi-channel high quality mulimedia image data using image interpolation
KR101897923B1 (en) * 2017-09-20 2018-10-31 한국전력공사 System for providing identify target object based on neural network learning model, method thereof, and computer readable storage having the same
KR20190046351A (en) * 2017-10-26 2019-05-07 에스케이텔레콤 주식회사 Method and Apparatus for Detecting Intruder

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080072454A (en) 2007-02-02 2008-08-06 삼성전자주식회사 Frame interpolate device for estimating motion by separating static object and moving object and frame interpolate method using the device
KR101130963B1 (en) 2010-05-24 2012-04-04 중앙대학교 산학협력단 Apparatus and method for tracking non-rigid object based on shape and feature information
KR101180887B1 (en) 2010-09-08 2012-09-07 중앙대학교 산학협력단 Apparatus and method for detecting abnormal behavior
KR101690057B1 (en) 2016-12-01 2017-01-09 주식회사 투윈스컴 Long distance transmission system for multi-channel high quality mulimedia image data using image interpolation
KR101897923B1 (en) * 2017-09-20 2018-10-31 한국전력공사 System for providing identify target object based on neural network learning model, method thereof, and computer readable storage having the same
KR20190046351A (en) * 2017-10-26 2019-05-07 에스케이텔레콤 주식회사 Method and Apparatus for Detecting Intruder

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111707972A (en) * 2020-05-11 2020-09-25 广州智特信息科技有限公司 Ground monitoring system, method and computer readable storage medium
KR102297766B1 (en) * 2020-06-19 2021-09-06 주식회사 크레스프리 Ai camera device and edge device for generating and processing image data in edge computing system
KR102555857B1 (en) * 2022-07-26 2023-07-13 장형석 Multi-ourlayer concrete block for city battle and war game treasure and its sencing and control system

Similar Documents

Publication Publication Date Title
KR102107957B1 (en) Cctv monitoring system for detecting the invasion in the exterior wall of building and method thereof
US7286157B2 (en) Computerized method and apparatus for determining field-of-view relationships among multiple image sensors
US7751647B2 (en) System and method for detecting an invalid camera in video surveillance
US20050168574A1 (en) Video-based passback event detection
CN113256924A (en) Monitoring system, monitoring method and monitoring device for rail train
KR101019384B1 (en) Apparatus and method for unmanned surveillance using omni-directional camera and pan/tilt/zoom camera
KR102195706B1 (en) Method and Apparatus for Detecting Intruder
JP2009517740A (en) Object density estimation in video
KR102397837B1 (en) An apparatus and a system for providing a security surveillance service based on edge computing and a method for operating them
KR101049758B1 (en) Method for monitoring total of school zone and system thereof
KR102366544B1 (en) Vision-based Rainfall Information System and Methodology Using Deep Learning
JP5693147B2 (en) Photographic interference detection method, interference detection device, and surveillance camera system
EP3432575A1 (en) Method for performing multi-camera automatic patrol control with aid of statistics data in a surveillance system, and associated apparatus
KR20160093253A (en) Video based abnormal flow detection method and system
US11836935B2 (en) Method and apparatus for detecting motion deviation in a video
KR101046819B1 (en) Method and system for watching an intrusion by software fence
KR20220000226A (en) A system for providing a security surveillance service based on edge computing
CN111914592B (en) Multi-camera combined evidence obtaining method, device and system
KR20220000216A (en) An apparatus for providing a security surveillance service based on deep learning distributed processing
US10916017B2 (en) Method and apparatus for detecting motion deviation in a video sequence
CN110855932A (en) Alarm method and device based on video data, electronic equipment and storage medium
KR101653820B1 (en) System for sensing object and emergency based on thermal detective operation, and method for tracking object using the same
KR20230039468A (en) Interaction behavior detection apparatus between objects in the image and, method thereof
KR20220000209A (en) Recording medium that records the operation program of the intelligent security monitoring device based on deep learning distributed processing
KR20220000424A (en) A camera system for providing a intelligent security surveillance service based on edge computing

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant