KR20000006661A - Motion Detector and Its Method using three demensional information of Stereo Vision - Google Patents

Motion Detector and Its Method using three demensional information of Stereo Vision Download PDF

Info

Publication number
KR20000006661A
KR20000006661A KR1019990041474A KR19990041474A KR20000006661A KR 20000006661 A KR20000006661 A KR 20000006661A KR 1019990041474 A KR1019990041474 A KR 1019990041474A KR 19990041474 A KR19990041474 A KR 19990041474A KR 20000006661 A KR20000006661 A KR 20000006661A
Authority
KR
South Korea
Prior art keywords
sound
data
remote
monitoring
interface
Prior art date
Application number
KR1019990041474A
Other languages
Korean (ko)
Other versions
KR100297059B1 (en
Inventor
김석기
김민기
한상용
이재신
임민수
Original Assignee
김석기
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 김석기 filed Critical 김석기
Priority to KR1019990041474A priority Critical patent/KR100297059B1/en
Publication of KR20000006661A publication Critical patent/KR20000006661A/en
Application granted granted Critical
Publication of KR100297059B1 publication Critical patent/KR100297059B1/en

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/08Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using communication transmission lines

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)

Abstract

PURPOSE: The detector provides the reliability and solves the problem of wrong information by monitoring the region with a stereo camera(190), an audio and an infrared ray sensor(160). CONSTITUTION: The detector can recognize the movement like a person by calculating the data as to the distance and the size of a moving subject using 2 monitoring cameras simultaneously. The detector comprises a sensor interface(150), a stereo video interface(170), a sound interface(200), a communication interface(210), a frame buffer, a memory(130), a CPU(110) and a key input apparatus(140). The sensor interface senses the existence of a heat-generating object, and the stereo video interface monitors the response of the change of the distance, size and lighting of the subject and outputs the image to a display apparatus, and the sound interface performs the sound sensing, and the communication interface controls the data communication between remote places. The detector is composed to perform the affirmation of an invader and the notification function when the invader or the movement is monitored through the sensor input apparatus and the stereo video interface.

Description

스테레오 비젼의 3차원 정보를 이용한 동작 검출기 및 그 방법 { Motion Detector and Its Method using three demensional information of Stereo Vision }Motion Detector and Its Method using three demensional information of Stereo Vision}

본 발명은 스테레오 비젼의 3차원 정보를 이용한 동작 검출기 및 그 방법에 관한 것으로, 좀 더 구체적으로는 두 대의 카메라 또는 하나의 스테레오 카메라를 사용하여 침입자 및 이상 물체를 견실하게 감지하여 근거리 및 원격지에 침입자 및 이상 물체가 있음을 알리고, 원격지에서는 감시장소를 원격으로 디지털 영상을 통해서 감시할 수 있는 장치 및 그 방법에 관한 것이다.The present invention relates to a motion detector and a method using the three-dimensional information of the stereo vision, and more specifically, using two cameras or a single stereo camera to detect the intruder and abnormal objects reliably to intruders in the near and remote locations And a device and a method for notifying that there is an abnormal object and remotely monitoring a monitoring place through a digital image at a remote location.

근래에 도난방지 또는 무단침입을 예방하고자 이른바 많은 방범장치와 용역회사가 있다. 이러한 방범장치와 용역회사는 감시하고자 하는 감시장소에 대해 각종의 감지기를 부착시킨 후, 감지된 정보에 따라 소정의 대응동작을 수행하게 된다.In recent years, there are many so-called security devices and service companies to prevent theft or unauthorized intrusion. Such a security device and a service company attach various sensors to a monitoring place to be monitored, and then perform a predetermined corresponding operation according to the detected information.

도 1은 종래의 실시예에 따른 방범장치의 동작의 일 예를 도시한 플로우차트이다.1 is a flowchart illustrating an example of an operation of a security apparatus according to a conventional embodiment.

도면은 도시된 바와 같이 종래의 방범장치는 소정의 감시지역(보안장소)에 대한 침입을 인체감시센서를 통해 확인하게 되면(S30), 침입자 영상을 저장하고 (S40) 근거리 또는 원거리로는 침입자가 있었음을 통보(S50)하는 기능을 수행한다. 통보를 받은 방범회사 또는 개인은 경보신호를 발생시킨 방범장치가 설치된 감시지역에 대해 방범활동을 수행하게 된다.As shown in the drawing, when the conventional security device confirms an intrusion into a predetermined surveillance area (security location) through the human body monitoring sensor (S30), stores the intruder image (S40) and the intruder at a short distance or far It performs a function of notifying that there was (S50). When notified, the security company or individual performs security activities in the surveillance area where the security device that generated the alarm signal is installed.

그러나 상기와 같은 종래의 방범장치는 침입에 대한 정보 또는 경보의 원인을 알 수 있으나, 원격지에서 실시간으로 확인할 수 없다는 점과, 온도의 변화에 민감한 인체감지센서와 사람이 아닌 동물의 움직임이나 물체의 이동에 의한 영상의 변화를 사람이 움직였다고 경보를 발생하는 심각한 문제점을 가지고 있다.However, the above-described conventional security device can know the cause of the intrusion or information on the alarm, but can not be confirmed in real time from a remote location, the human body sensor and sensitive to the change of temperature and the movement or object of the animal There is a serious problem of generating an alarm that a person has moved a change in image due to movement.

따라서, 본 발명은 상술한 제반 문제점을 해결하기 위해 제안된 것으로서, 감시지역에 대하여 스테레오 카메라, 오디오 및 적외선 센서로 감시할 수 있다. 더구나 상기의 스테레오 비젼을 이용하여 움직이는 피사체에 대한 거리와 크기를 산출하여 피사체에 대한 사람과 그 밖의 동물의 구별, 점진적 또는 급작스런 조명의 변화에 따른 영상의 변화, 감시지역이 아닌 창밖의 움직임으로 인한 영상의 변화, 카메라에 근접하여 비행하는 곤충으로 인한 영상의 변화를 침입자로 판단하는 기존의 문제점을 획기적으로 해결할 수 있다. 이러한 사람과 같은 인공지능적인 동작검출기를 발명함으로서 기존의 보안 및 방범 시스템에서 제공하지 못했던 신뢰성 및 오보의 문제점을 획기적으로 해결하는 시스템을 제공하는데 그 목적이 있다.Therefore, the present invention has been proposed to solve the above-mentioned problems, and can monitor the surveillance area with a stereo camera, an audio and an infrared sensor. In addition, the distance and size of a moving subject are calculated using the stereo vision described above to distinguish a person and other animals from a subject, image changes due to gradual or sudden changes in lighting, and movement caused by movement outside a window rather than a surveillance area. It is possible to drastically solve the existing problem of judging the change of the image and the change of the image due to the insect flying near the camera. It is an object of the present invention to provide a system that significantly solves the problem of reliability and misinformation which is not provided by the existing security and security system by inventing an artificial motion detector such as a human.

도 1은 종래의 실시예에 따른 방범장치의 동작을 도시한 플로우차트;1 is a flowchart showing the operation of the security apparatus according to the conventional embodiment;

도 2는 본 발명의 일 실시예에 따른 원격지간의 접속된 스테레오 비젼의 3차원 정보를 이용한 동작 검출기의 접속을 도시한 도면;2 is a diagram illustrating a connection of a motion detector using three-dimensional information of a connected stereo vision between remote locations according to an embodiment of the present invention;

도 3은 도 2에 도시된 본 발명의 일 실시예에 따른 스테레오 비젼의 3차원 정보를 이용한 동작 검출기에서 주감시장치의 구성을 도시한 블록도;3 is a block diagram showing the configuration of the main monitoring device in the motion detector using the three-dimensional information of the stereo vision according to an embodiment of the present invention shown in FIG.

도 4는 본 발명의 다른 실시예에 따른 주감시장치의 동작방법을 도시한 도면;4 is a view showing a method of operating a main monitoring device according to another embodiment of the present invention;

도 5는 도 4에 도시된 설정변경루틴을 상세히 도시한 도면;FIG. 5 is a detailed view of a setting change routine shown in FIG. 4; FIG.

도 6은 도 4에 도시된 감시루틴을 상세히 도시한 도면;6 is a detailed view of the monitoring routine shown in FIG. 4;

도 7은 도 4에 도시된 경보루틴를 상세히 도시한 도면;7 is a detailed view of the alarm routine shown in FIG. 4;

도 8A와 B는 도 4에 도시된 감시및조회루틴을 크기 등과 도시한 도면;8A and B show the size of the monitoring and query routines shown in FIG. 4;

*도면의 주요 부분에 대한 부호의 설명* Explanation of symbols for the main parts of the drawings

100 : 주감시장치 300A~300C : 원격감시장치100: main monitoring device 300A ~ 300C: remote monitoring device

110 : 주제어부 120 : 임시기억장치110: main controller 120: temporary memory device

130 : 저장장치 140 : 키입력부130: storage device 140: key input unit

150 : 센서인터페이스 160 : 적외선센서150: sensor interface 160: infrared sensor

170 : 스테레오비디오인터페이스 180 : 디스플레이장치170: stereo video interface 180: display device

190 : 스테레오카메라 200 : 사운드인터페이스190: Stereo camera 200: Sound interface

210 : 통신인터페이스 220 : 통신망210: communication interface 220: communication network

상술한 목적을 달성하기 위해 제안된 본 발명의 특징에 의하면, 스테레오 비젼의 3차원 정보를 이용한 동작 검출기는 마이크에 의해 감시지역으로부터 감지된 아날로그 사운드 신호를 디지털 사운드데이터로 변환시키는 사운드인터페이스와; 2대의 카메라 또는 스테레오 카메라에 의해 감시지역으로부터 촬상된 아날로그 비디오신호를 디지털 비디오데이터를 변환시키는 스테레오비디오인터페이스와; 적외선 선세로부터 들어오는 신호를 인식하는 센서인터페이스와; 원격지간의 디지털 화상데이터 및 각종 정보를 송수신하는 통신인터페이스와; 설정정보, 제어프로그램, 사운드데이터, 비디오데이터 및 원격접속정보를 저장시키는 저장장치와; 동작명령 및 설정정보를 입력시키는 키입력장치와; 상기 사운드인터페이스로 부터의 사운드데이터와 화상입력장치로부터의 디지털 비디오데이터, 그리고 센서인터페이스로부터의 센서 입력에 따라 감시지역에 대한 침입여부를 판단하고, 침입으로 확인된 경우에는 사운드데이터 및 비디오데이터를 저장장치에 기억시키고, 상기 저장장치에 기억된 원격접속정보에 따라 상기 통신인터페이스에 의해 근거리 또는 원거리통신망을 통해 원격감시장치와 접속하고 감시지역에 대해 침입이 있음을 알리고, 인가된 원격감시장치로부터 상기 저장장치에 기록된 사운드데이터 및 비디오데이터에 대한 전송요구가 있을 경우, 상기 저장장치에 기록된 사운드데이터 및 디지털 비디오데이터를 원격지로 전송시키도록 제어하는 주제어부와; 상기 주제어부에 의해 처리되는 데이터를 임시로 기억시키는 임시기억장치와; 상기 저장장치로부터의 디지털 비디오데이터를 아날로그비디오신호로 변환시켜 디스플레이스키는 영상출력장치를 포함한다.According to a feature of the present invention proposed to achieve the above object, the motion detector using three-dimensional information of the stereo vision includes a sound interface for converting the analog sound signal detected from the surveillance area by the microphone into digital sound data; A stereo video interface for converting analog video signals captured from the surveillance area by two cameras or stereo cameras into digital video data; A sensor interface for recognizing a signal coming from the infrared predecessor; A communication interface for transmitting and receiving digital image data and various kinds of information between remote areas; A storage device for storing setting information, control program, sound data, video data and remote access information; A key input device for inputting an operation command and setting information; The intrusion into the surveillance area is determined according to the sound data from the sound interface, the digital video data from the image input device, and the sensor input from the sensor interface, and the sound data and the video data are stored when the intrusion is confirmed. Stored in the device, connected to the remote monitoring device through the local area network or the telecommunication network by the communication interface according to the remote access information stored in the storage device, and notifying that there is an intrusion into the monitoring area, and from the authorized remote monitoring device. A main control unit for controlling transmission of the sound data and the digital video data recorded in the storage device to a remote site when there is a request for transmission of the sound data and the video data recorded in the storage device; A temporary memory device for temporarily storing data processed by the main control unit; The display ski includes an image output device by converting the digital video data from the storage device into an analog video signal.

본 발명의 다른 특징에 의하면, 동작 검출기의 방법은 동작검출기의 동작을 초기화시키고 정상동작여부를 확인하는 시스템초기화및기능점검단계와; 설정정보 및 원격접속정보를 기억시키는 설정변경단계와; 일정한 시간 간격으로 감시지역의 영상 및 센서로부터의 입력을 순차적으로 비교하는 감시단계와; 상기 비교결과가 침입자로 판단될 경우에는 감시지역에 대해 사운드를 감지하여 감지된 사운드를 디지털 사운드로 변환시켜 연속적으로 저장하고, 감시지역의 영상을 디지털비디오데이터로 변환시켜 저장하며, 근거리 또는 원격지의 감시장치로 접속하여 기억된 사운드 및 디지털비디오데이터를 원격지로 전송시키는 경보단계와; 인가된 원격지로 부터의 요구에 따라 감시지역에 대한 크기 등과 전송시키는 원격감시단계와; 기억된 감시정보를 복원시키고, 복원된 감시정보를 표시시키는 조회단계와; 감시정보를 지속적으로 기억할 수 있도록 관리하는 시스템관리단계를 수행한다.According to another aspect of the invention, the method of the motion detector includes a system initialization and function checking step of initializing the operation of the motion detector and confirming normal operation; A setting changing step of storing setting information and remote access information; A monitoring step of sequentially comparing the images of the monitoring area and the inputs from the sensors at regular time intervals; When the comparison result is determined to be an intruder, the sound is detected in the surveillance area, and the detected sound is converted into digital sound and stored continuously, and the image of the surveillance area is converted into digital video data and stored. An alarm step of connecting to a monitoring apparatus and transmitting the stored sound and digital video data to a remote place; A remote monitoring step of transmitting a size and the like for the monitoring area according to a request from an authorized remote site; An inquiry step of restoring the stored surveillance information and displaying the restored surveillance information; It performs the system management step to manage the monitoring information continuously.

이 특징의 바람직한 실시예에 있어서, 상기 원격감시단계는 원거리 통신망의 인가된 원격감시장치로부터 감시지역에 대한 사운드 및 영상의 전송요구에 따라 상호간에 접속하는 단계와; 기억된 사운드 및 디지털비디오데이터을 원격감시장치의 데이터수신 형식에 맞추어 변환시킨 후 전송시키는 단계를 더 포함한다.In a preferred embodiment of this aspect, the remote monitoring step comprises the steps of: mutually connecting each other according to a request for transmitting sound and video to a surveillance area from an authorized remote monitoring device of a telecommunication network; And converting the stored sound and the digital video data according to the data receiving format of the remote monitoring apparatus and transmitting the converted sound.

본 발명은 스테레오 비젼의 3차원 정보를 이용한 동작 검출기 및 그 방법에 관한 것으로, 음성입출력장치는 감시지역에 대해 소리를 감지하고, 화상입력장치는 감시지역에 대해 영상을 감지하고, 통신인터페이스는 원격지간의 데이터통신을 제어하고, 영상출력장치는 명령 및 선택정보를 입력시키고, 임시기억장치는 처리되는 데이터를 임시로 기억시키고, 제어프로그램은 설정상태와 제어프로그램 및 감시정보를 저장시키고, 주제어부는 감시지역에 대해 비디오 및 크기 등과 통해 감시를 수행하면서 침입을 판단하거나 원격지로부터 요청이 있을 경우 감시정보를 전송시키도록 구성되어, 감시지역에 대하여 비디오, 적외선 센서 및 오디오로 감시할 수 있고, 침입을 감지한 경우에 원격지로 경보할 수 있으며, 원격지에서 감시지역을 조회할 수 있다.The present invention relates to a motion detector and a method using the three-dimensional information of the stereo vision, the voice input and output device detects the sound for the surveillance zone, the image input device detects the image for the surveillance zone, the communication interface is remote Control the data communication between each other, the image output device inputs command and selection information, the temporary memory device temporarily stores the processed data, the control program stores the setting status and the control program and monitoring information, and the main control unit monitors. It is configured to judge the intrusion while monitoring the area through video and size, or to transmit the monitoring information when requested from a remote location, and can monitor the surveillance area by video, infrared sensor and audio, and detect the intrusion. In one case, you can alarm at a remote location, and you can query a surveillance area from a remote location.

실시예Example

이하, 도 2 내지 도 8를 참조하여 본 발명의 실시예를 상세히 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to FIGS. 2 to 8.

도 2를 참조하면, 본 발명의 신규한 스테레오 비젼의 3차원 정보를 이용한 동작 검출기 시스템은 주감시장치를 구비하여, 감시지역에 대하여 스테레오 비디오, 오디오, 및 적외선 센서로 감시할 수 있고, 침입 및 움직임을 감지한 경우에 원격지로 경보할 수 있으며, 원격지에서 감시지역을 조회할 수 있다.Referring to FIG. 2, the motion detector system using the three-dimensional information of the novel stereo vision of the present invention has a perimeter monitoring value, and can monitor the surveillance area with stereo video, audio, and infrared sensors, and intrude and In case of detecting motion, it can alarm remotely and search surveillance area from remotely.

도면에 도시된 바와 같이 주감시장치는 소정의 감시지역에 대해 스테레오 카메라, 적외선 센서 및 오디오를 통해 감시하게 된다. 그리고 상기 주감시장치는 근거리통신망(LAN) 또는 상용통신망을 통해 상호간에 접속된다. 상기 주감시장치는 예컨대 전화로 보안용역을 수행하는 회사와 접속되거나, 인터넷을 통해 어느 곳에서나 접속될 수 있다.As shown in the figure, the head of the market may monitor a certain surveillance area through a stereo camera, an infrared sensor, and audio. The head of the mayor may be connected to each other through a local area network (LAN) or a commercial communication network. The head of the mayor may be connected to a company performing security services, for example, by telephone, or may be connected anywhere through the Internet.

도 3은 도 2에 도시된 본 발명의 실시예에 따른 방범시스템에서 주감시장치의 구성을 도시한 블록도이다. 도면에서 부호 110은 주제어부, 120은 임시기억장치, 130은 저장장치, 140은 키입력부, 150은 센서인터페이스, 160은 적외선센서, 170은 스테레오비디오인터페이스, 180은 디스플레이장치, 190은 스테레오카메라, 200은 사운드인터페이스, 210은 통신인터페이스, 220은 통신망을 각각 나타낸 것이다. 상기 주제어부(110)와 임시기억장치(120), 저장장치(130), 키입력부(140), 센서인터페이스(150)와, 스테레오비디오인터페이스(170), 사운드인터페이스(200), 통신인터페이스(210)는 소정의 시스템 버스를 통해 상호간에 제어신호 및 데이터를 전송하게 된다.3 is a block diagram showing the configuration of the main monitoring device in the security system according to an embodiment of the present invention shown in FIG. In the drawings, reference numeral 110 denotes a main controller, 120 denotes a temporary storage device, 130 denotes a storage device, 140 denotes a key input unit, 150 denotes a sensor interface, 160 denotes an infrared sensor, 170 denotes a stereo video interface, 180 denotes a display device, 190 denotes a stereo camera, 200 represents a sound interface, 210 represents a communication interface, and 220 represents a communication network. The main controller 110, the temporary memory device 120, the storage device 130, the key input unit 140, the sensor interface 150, the stereo video interface 170, the sound interface 200, the communication interface 210 ) Transmits control signals and data to each other via a predetermined system bus.

상기 주제어부(110)는 예컨대 CPU로 구성되어 주감시장치의 동작을 제어하거나 데이터처리기능을 수행하게 된다. 그리고 임시기억장치(120)는 예컨대 DRAM으로 구성되어 상기 주제어부(110)가 수행할 명령 또는 처리되는 데이터를 임시로 기억시킨다. 또한 저장장치(130)는 예컨대 하드디스크드라이브 또는 플레쉬메모리 (Flash Memory)로 구성되어 주감시장치의 동작프로그램 또는 감시데이터들을 저장한다.The main control unit 110 is configured with, for example, a CPU to control the operation of the main monitoring device or to perform a data processing function. The temporary memory device 120 is configured of, for example, a DRAM to temporarily store a command to be executed by the main controller 110 or data to be processed. The storage device 130 also includes, for example, a hard disk drive or a flash memory to store operation programs or monitoring data of the main monitoring device.

키입력부(140)는 주감시장치의 초기값, 원격지의 접속정보, 동작에 따른 제어모드를 입력시킬 수 있는 키들로 구성된다.The key input unit 140 is composed of keys for inputting an initial value of the main monitoring device, remote access information, and a control mode according to the operation.

상기 센서인터페이스(150)는 적외선 센서(160)와 접속되어 카메라가 가질 수 있는 오동작을 보완하는 역할을 수행한다. 그 일 예로 사람이 아닌 물체의 움직임에 대한 오류 방지와 야간에 카메라의 기능이 저하될 때 카메라의 기능을 대신하여 동작하게 된다.The sensor interface 150 is connected to the infrared sensor 160 to compensate for the malfunction that the camera may have. For example, it prevents errors on the movement of non-human objects and operates in place of the camera functions when the camera functions at night.

비디오인터페이스(170)는 스테레오 카메라(190)와 접속되어 카메라로 촬상된 비디오신호를 처리하여 주제어부(110)로 전송시킨다. 이러한 스테레오 카메라(190)는 원하는 만큼 다수를 접속시켜 감시지역을 확대할 수 있다. 또한 주제어부(110)의 제어에 따라 저장장치(130)에 저장된 비디오 감시기록 및 스테레오 카메라로부터 촬상되는 비디오신호를 예컨대 디스플레이장치(180)를 통해 직접 디스플레이시킬 수도 있다.The video interface 170 is connected to the stereo camera 190 to process the video signal captured by the camera and transmit the processed video signal to the main controller 110. The stereo camera 190 may expand the surveillance area by connecting as many as desired. In addition, under the control of the main controller 110, the video surveillance recording stored in the storage device 130 and the video signal captured from the stereo camera may be directly displayed through, for example, the display device 180.

계속해서 사운드인터페이스(210)는 마이크(MIC)를 통해 소정의 감시지역에 대해 소리를 탐지하거나, 주제어부(110)로부터의 음성감시기록에 따라 재생된 사운드를 스피커를 통해 출력시키다.Subsequently, the sound interface 210 detects a sound for a predetermined surveillance region through a microphone (MIC), or outputs a sound reproduced according to the voice monitoring record from the main control unit 110 through the speaker.

또한 통신인터페이스(210)는 예컨대 모뎀(MODEM)으로 구성되어 주감시장치와 중앙관제소간의 전송되는 데이터를 변조시키거나 수신되는 데이터를 복조한다. 이러한 통신인터페이스는 주감시장치에 설정된 정보에 따라 원격지를 호출하거나, 원격지로부터 접속요구가 있는 경우에 이를 제어하게 된다. 만일 상기 주감시장치와 중앙통제소가 근거리통신망(LAN)을 통해서 접속하는 경우에 상기 통신인터페이스 (210)은 근거리통신망용 인터페이스카드로 구성된다. 이러한 통신인터페이스(210)는 접속시키고자하는 목적지의 개수 또는 통신방식에 따라 복수 개의 모뎀 또는 근거리 통신망용 인터페이스를 접속시킨다.In addition, the communication interface 210 is configured of, for example, a modem to modulate the data transmitted between the main monitoring device and the central control station or to demodulate the received data. Such a communication interface calls the remote site according to the information set in the main monitoring device, or controls the remote site when there is a connection request from the remote site. If the main monitoring device and the central control station are connected through a local area network (LAN), the communication interface 210 is configured as an interface card for a local area network. The communication interface 210 connects a plurality of modem or local area network interfaces according to the number of destinations to be connected or the communication method.

도 4는 본 발명의 다른 실시예에 따른 주감시장치(100)의 동작방법을 도시한 도면이다.4 is a diagram illustrating a method of operating the main monitoring apparatus 100 according to another embodiment of the present invention.

먼저, 주감시장치의 동작이 개시되면, 주제어부(110)는 접속된 주변장치(예컨대 스테레오 카메라, 센서, 마이크, 모뎀등)의 동작을 초기화시키면서 점검하게 된다.First, when the operation of the main monitoring device is started, the main controller 110 checks while initializing the operation of the connected peripheral device (eg, stereo camera, sensor, microphone, modem, etc.).

그리고 주제어부(110)는 키입력부(140)로부터 주감시장치(100)에 대한 소정의 설정상태변경이 있는 것으로 판단되면, 소정의 설정변경동작을 개시한다(S130). 상기 설정변경루틴(S130)에서는 도 5에 도시된 바와 같이 소정의 설정 및 설정 변경 작업으로 화면자동저장시간(S132), 경보시원격접속정보(S133), 음성메시지 (S134), 비밀번호(S135)등을 설정시킨다.If the main controller 110 determines that there is a change in the predetermined setting state of the main monitoring apparatus 100 from the key input unit 140, the main control unit 110 starts the predetermined setting change operation (S130). In the setting change routine (S130), as shown in FIG. 5, the screen automatic saving time (S132), remote access information (S133), voice message (S134), and password (S135) as a predetermined setting and setting change operation. And so on.

한편, 소정의 감시지역에 대한 감시모드를 개시할 것으로 판단되면(S140), 도 6에 도시된 바와 같이 소정의 감시동작이 개시된다(S151). 그러면, 주제어부 (110)는 감시지역에 대한 영상신호, 센서 및 사운드를 데이터를 감지하여 비교한다. 즉 스테레오비디오를 통한 영상신호와 적외선센서에 의한 출력신호를 동시에 비교하여(S152, S156) 움직임 또는 열체가 감시되게 되면(S153, S157), 검출의 신뢰성을 위해서 서로 다른 방법을 이용하여 한번 더 검출을 하게 된다(S154, S158). 이 검출과정에서 이상이 있다고 판단이 되면(S155, 159), 바로 감시루틴(S150)을 종료하고 이를 근거리 또는 원격지로 경보하기 위한 작업을 준비한다.On the other hand, if it is determined that the monitoring mode for the predetermined monitoring area is started (S140), the predetermined monitoring operation is started as shown in FIG. 6 (S151). Then, the main control unit 110 detects and compares the image signal, the sensor, and the sound for the surveillance area. That is, when the video signal through the stereo video and the output signal by the infrared sensor are compared at the same time (S152, S156) and movement or heat is monitored (S153, S157), it is detected once again using different methods for the reliability of detection (S154, S158). If it is determined that there is an abnormality in the detection process (S155, 159), immediately terminates the monitoring routine (S150) and prepares a task for alarming it to a near or remote location.

도 7은 도 4에 도시된 경보루틴을 상세히 도시한 도면이다. 도면에 도시된 바와 같이 경보루틴이 개시되면(S181), 주제어부(110)는 감시지역에 대해 비디오 및 사운드데이터를 연속적으로 저장하게 된다(S182). 이러한 연속저장는 소정의 설정상태에 따라 선택적으로 이루어지게 된다. 계속해서 주감시장치(100)는 감시지역에 대한 침입을 설정된 원격감시장치측에 알리기 위해 통신인터페이스(210)를 통해 원격감시장치와 접속한다(S183). 그리고 주감시장치(100)는 상기 통신인터페이스(210)를 통해 접속된 원격감시장치측으로 현재 감지되는 비디오 및 사운드데이터를 실시간으로 전송시킨다(S184). 이때, 주감시장치(100)는 사운드인터페이스 (200)를 통해 스피커로 경보음을 발생시키도록 제어할 수 있다. 만일, 설정된 원격감시장치와의 접속이 이루어지지 않게 되면, 주감시장치(100)는 설정된 시간간격으로 접속을 시도하게 된다.7 is a view showing in detail the alarm routine shown in FIG. As shown in the figure when the alarm routine is started (S181), the main control unit 110 is to continuously store the video and sound data for the surveillance area (S182). Such continuous storage is selectively performed according to a predetermined setting state. Subsequently, the main monitoring apparatus 100 connects with the remote monitoring apparatus through the communication interface 210 to inform the remote monitoring apparatus side of the intrusion into the monitoring area (S183). In addition, the main monitoring apparatus 100 transmits the currently detected video and sound data in real time to the remote monitoring apparatus connected through the communication interface 210 (S184). In this case, the main monitoring apparatus 100 may control to generate an alarm sound to the speaker through the sound interface 200. If the connection with the set remote monitoring device is not established, the main monitoring device 100 attempts to connect at the set time interval.

한편, 원격지로부터 소정의 통신인터페이스(210)를 통해 접속요구가 있는 경우(S190)에는 소정의 원격감시및조회루틴을 수행하게 된다(S200). 도 9(A)는 예컨대 상용통신망에 의해 접속될 수 있는 원격감시장치로부터 접속요구가 있는 경우, 도 9(B)는 근거리통신망과 접속된 원격감시장치로부터 접속요구가 있는 겅우를 각각 나타낸 것이다.On the other hand, if there is a connection request from the remote place through a predetermined communication interface (210) (S190) to perform a predetermined remote monitoring and query routine (S200). Fig. 9A shows, for example, when there is a connection request from a remote monitoring apparatus that can be connected by a commercial communication network, and Fig. 9B shows a case where there is a connection request from a remote monitoring apparatus connected to a local area network.

도면에 도시된 바와 같이, 원격지로부터 접속요구가 있는 경우에 주감시장치(100)는 원격지로부터 소정의 식별번호 및 비밀번호를 수신하여 이미 설정되어 있는 정보와 일치되면 접속을 허용한다(S192, S196). 그리고 주감시장치(100)는 현재 감시지역으로부터 감지되는 비디오 및 오디오데이터를 접속된 원격감시장치측으로 전송시킨다. 이때, 원격감시장치가 이미 기록되어 있는 감시정보를 수신하고자 요구하는 경우에는 해당되는 기록정보를 저장장치(130)로부터 조회하여 통신인터페이스(190)를 통해 전송시킨다(S193, S197). 마찬가지로 원격감시장치가 예컨대 팩시밀리로 설정되는 경우에는 소정의 감시화상(현재 감지된 화상)을 지정된 팩시밀리측으로 전송시킨다.As shown in the drawing, when there is a connection request from a remote site, the main monitoring apparatus 100 receives a predetermined identification number and password from the remote site and permits the connection if it matches the information already set (S192, S196). . The main monitoring apparatus 100 transmits the video and audio data detected from the current surveillance area to the connected remote monitoring apparatus. In this case, when the remote monitoring apparatus requests to receive the already recorded surveillance information, the corresponding recording information is inquired from the storage device 130 and transmitted through the communication interface 190 (S193 and S197). Similarly, when the remote monitoring apparatus is set to, for example, a facsimile, a predetermined surveillance image (currently detected image) is transmitted to the designated facsimile side.

마지막으로, 사용자는 주감시장치(100)의 키입력부(140)를 통해 소정의 조회명령을 입력시켜 이미 기록된 감시데이터를 조회할 수 있다(S200). 시스템관리(S200)을 통해서 사용자는 기록되어 있는 감시데이터(영상 및 사운드 데이터)를 조회할 수 있으며, 또한 주감시장치(100) 자체적으로 시스템관리를 수행하게 된다.Finally, the user may input a predetermined inquiry command through the key input unit 140 of the main monitoring device 100 to inquire the already recorded monitoring data (S200). Through the system management (S200), the user can inquire the recorded monitoring data (video and sound data), and the main monitoring apparatus 100 performs system management by itself.

본 발명은 종래의 방범장치는 침입에 대한 경보를 할 수 있으나 경보의 원인을 원격지에서 확인할 수 없으며, 무엇보다 조명, 동물, 곤충, 온도등의 변화로 인한 침입자가 아닌 다른 물체나 환경의 변화에 의한 영상의 변화를 침입자로 잘못 판단하는 문제점을 획기적으로 해결한 것으로, 감시지역에 대하여 비디오, 오디오 및 적외선 센서로 감시할 수 있고, 침입을 감지한 경우에는 근거리 또는 원격지로 실시간으로 영상, 음성등을 통해서 경보할 수 있으며, 원격지에서 감시지역을 실시간으로 조회할 수 있다.According to the present invention, the conventional security device can alarm against intrusion, but cannot determine the cause of the alarm remotely, and above all, change in other objects or environment other than the intruder due to changes in lighting, animals, insects, temperature, etc. It solves the problem of wrongly judging the change of image by intruder. It can monitor the surveillance area by video, audio and infrared sensor. You can alarm through it, and you can search the monitoring area in real time from a remote place.

상술한 바와 같은 본 발명에 따른 스테레오 비젼을 이용한 동작 검출기 및 그 방법은 예컨대 은행, 관공서, 중요 창고등 고수준의 보안을 필요로 하는 장소에 사용될 수 있고, 임의의 원격지에서 감시용으로 사용할 수도 있다.As described above, the motion detector and the method using the stereo vision according to the present invention can be used in a place requiring a high level of security, such as a bank, a public office, an important warehouse, or can be used for monitoring at any remote location.

Claims (4)

근거리 또는 원거리 통신망(상용 통신망)과 접속되고, 소정의 감시지역에 대해 감시기능을 수행하는 스테레오 비젼의 3차원 정보를 이용한 동작 검출기에 있어서,A motion detector, which is connected to a local or remote communication network (commercial communication network) and uses three-dimensional information of stereo vision to perform a monitoring function for a predetermined surveillance area, 마이크(MIC)에 의해 감시지역으로부터 감지된 아날로그 사운드신호를 디지털 사운드데이터로 변환시키는 사운드인터페이스(200)와;A sound interface 200 for converting the analog sound signal detected from the surveillance region by the microphone into digital sound data; 1대 이상의 스테레오카메라(190)에 의해 감시지역으로부터 촬상된 아날로그 비디오신호를 디지털데이터로 변환시키는 스테레오비디오인터페이스(170)와;A stereo video interface 170 for converting analog video signals captured from the surveillance area by at least one stereo camera 190 into digital data; 적외선 센서에 의해 감시지역으로부터 감지된 신호를 주제어부가 인식할 수 있는 신호로 변환하는 센서인터페이스(150)와;A sensor interface 150 for converting a signal sensed by the infrared sensor from the surveillance area into a signal that the main control unit can recognize; 데이터를 원격지로 송신하고, 원격지로부터 데이터를 수신하는 통신인터페이스(210)와;A communication interface 210 for transmitting data to a remote site and receiving data from the remote site; 설정정보, 제어프로그램, 사운드데이터, 비디오데이터 및 원격접속정보를 저장시키는 저장장치(130)와;A storage device 130 for storing setting information, control programs, sound data, video data, and remote access information; 동작명령 및 설정정보를 입력시키는 키입력장치(140)와;A key input device 140 for inputting an operation command and setting information; 상기 음성입력장치(200)로 부터의 사운드데이터와 화상입력장치(170)로 부터의 비디오데이터, 그리고 센서인터페이스(150)로부터 입력되는 값에 따라 감시지역에 대한 침입여부를 판단하고, 침입으로 확인된 경우에는 사운드데이터 및 비디오데이터를 저장장치(130)에 기억시키고 상기 저장장치(130)에 기억된 원격접속정보에 따라 상기 통신인터페이스(210)에 의해 근거리 또는 원거리통신망을 통해 중앙관제소와 접속하여 감시지역에 대해 침입이 있음을 알리고, 인가된 원격감시장치로부터 상기 저장장치(130)에 기록된 사운드데이터 및 비디오데이타에 전송요구가 있는 경우에는 상기 저장장치(130)에 기록된 사운드데이터 및 비디오데이터를 원격지로 전송시키도록 제어하는 주제어부(110)와;According to the sound data from the voice input device 200, the video data from the image input device 170, and the value input from the sensor interface 150, it is determined whether the intrusion into the monitoring area, and confirmed by intrusion In this case, the sound data and the video data are stored in the storage device 130 and connected to the central control station through the local area or telecommunication network by the communication interface 210 according to the remote access information stored in the storage device 130. Notify that there is an invasion to the monitoring area, and if there is a request to transmit sound data and video data recorded in the storage device 130 from an authorized remote monitoring device, sound data and video recorded in the storage device 130. A main control unit 110 for controlling data to be transmitted to a remote location; 상기 주제어부(110)에 의해 처리되는 데이터를 임시로 기억시키는 임시저장장치(120)와;A temporary storage device (120) for temporarily storing data processed by the main controller (110); 상기 저장장치(130)로 부터의 비디오데이터를 아날로그비디오신호로 변환시켜 디스플레이시키는 영상출력장치(180, 190)를 구비하여 구성된 것을 특징으로 하는 동작 검출기.And an image output device (180, 190) for converting and displaying video data from the storage device (130) into an analog video signal. 근거리 또는 원거리 통신망(상용통신망)과 접속되고, 소정의 감시지역에 대해 감시기능을 수행하는 스테레오 비젼의 3차원 정보를 이용한 동작 검출기의 검출방법에 있어서,A method of detecting a motion detector using three-dimensional information of a stereo vision connected to a local area or telecommunication network (commercial communication network) and performing a surveillance function for a predetermined surveillance area, 방범시스템의 동작을 초기화시키고 정상동작여부를 확인하는 단계(S110)와;Initiating the operation of the security system and confirming whether the normal operation (S110); 설정정보 및 원격접속정보를 기억시키는 설정변경단계(S130)와;A setting changing step (S130) of storing the setting information and the remote access information; 일정한 시간 간격으로 감시지역의 스테레오 3차원 영상, 열체, 그리고 사운드를 사용하여 침입자의 유무 및 크기, 거리를 판단하여 침입이 있다고 판단되면, 감시지역에서 감지된 사운드를 디지털 사운드데이터로 변환시켜 연속적으로 저장하고, 감시지역에 대한 영상을 디지털 영상데이터로 변환시켜 저장하는 동작검출단계와;If there is an intrusion by judging the presence, size, and distance of the intruder using the stereo 3D image, heating element, and sound of the surveillance area at regular time intervals, the sound detected at the surveillance area is converted into digital sound data and continuously Storing and converting and storing the image of the surveillance area into digital image data; 감시지역에 대한 침입판단시에 실시간으로 저장된 사운드 및 영상을 근거리 또는 원격지의 방범센터등에 접속하여 저장된 사운드 및 영상을 원격지로 전송시키는 경보단계와;An alarm step of transmitting the stored sound and video to a remote location by accessing a sound and video stored in real time at a time of intrusion into the surveillance area, such as a near or remote crime prevention center; 인가된 원격지로 부터의 요구에 따라 감시지역에 대한 감시정보를 원격지로 전송시키는 원격감시단계와;A remote monitoring step of transmitting monitoring information about the surveillance area to the remote site according to a request from an authorized remote site; 기억된 감시정보를 복원시키고, 복원된 감시정보를 표시시키는 조회단계와;An inquiry step of restoring the stored surveillance information and displaying the restored surveillance information; 감시정보를 지속적으로 기억할 수 있도록 방범시스템을 관리하는 시스템관리단계를 수행하는 것을 특징으로 하는 동작검출방법.And a system management step of managing the security system so that the monitoring information can be stored continuously. 제 2 항에 있어서,The method of claim 2, 상기 동작검출단계는 기존의 방식과는 다른 하나의 카메라가 아닌 두 개의 카메라 또는 스테레오 카메라를 이용하여 피사체에 대한 거리와 크기를 산출하며, 또한 PIR(Passive InfraRed) 및 사운드 데이터까지 복합적으로 사용함으로서 피사체를 검출하는데 있어서 좀 더 정확한 인식을 할 수 있는 검출단계를 특징으로 하는 검출 방법.The motion detection step calculates the distance and size of the subject using two cameras or stereo cameras instead of one camera different from the conventional method, and also uses a combination of PIR (Passive InfraRed) and sound data. A detection method characterized by a detection step capable of more accurate recognition in detecting a. 제 2 항에 있어서,The method of claim 2, 상기 원격감시단계(S200)는 근거리통신망의 인가된 원격감시장치로부터 감시지역에 대한 사운드 및 영상의 전송요구에 따라 상호간의 접속하는 단계(S206)와;The remote monitoring step (S200) includes the step of connecting each other according to the request for transmitting sound and video for the surveillance area from the authorized remote monitoring device of the local area network; 사운드 및 영상을 원격감시장치의 데이터수신 포맷에 맞추어 변환시킨 후 근거리통신망을 통해 전송시키는 단계(S207)를 더 포함하는 것을 특징으로 하는 경보방법.And converting the sound and the image into a data receiving format of the remote monitoring apparatus and transmitting the same through a local area network (S207).
KR1019990041474A 1999-09-28 1999-09-28 Motion Detector and Its Method using three demensional information of Stereo Vision KR100297059B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1019990041474A KR100297059B1 (en) 1999-09-28 1999-09-28 Motion Detector and Its Method using three demensional information of Stereo Vision

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1019990041474A KR100297059B1 (en) 1999-09-28 1999-09-28 Motion Detector and Its Method using three demensional information of Stereo Vision

Publications (2)

Publication Number Publication Date
KR20000006661A true KR20000006661A (en) 2000-02-07
KR100297059B1 KR100297059B1 (en) 2001-11-02

Family

ID=19613005

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1019990041474A KR100297059B1 (en) 1999-09-28 1999-09-28 Motion Detector and Its Method using three demensional information of Stereo Vision

Country Status (1)

Country Link
KR (1) KR100297059B1 (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020050867A (en) * 2000-12-22 2002-06-28 신현준 Motion stereo system using 3 CCDcamera
KR100469899B1 (en) * 2002-05-27 2005-02-02 주식회사 에스원 Apparatus and method for sensing burglar in a security system
KR100473758B1 (en) * 2002-08-14 2005-03-10 엘지전자 주식회사 Method for detecting audio event in digital video recorder for monitoring
KR100566059B1 (en) * 2003-04-15 2006-04-04 주식회사 한성전자산업개발 Watch Camera
KR100766995B1 (en) * 2007-01-03 2007-10-15 (주)다우텔레콤 3 dimension camera module device
KR100837356B1 (en) * 2006-11-29 2008-06-12 엘지전자 주식회사 Air conditioner and method of controlling airflow having the same
KR100856756B1 (en) * 2007-10-08 2008-09-10 (주)다우텔레콤 Unmanned monitering device using the 3 dimension camera module device
US7972586B2 (en) 2007-09-21 2011-07-05 Daejoo Electronic Materials Co., Ltd. Fluorine-containing magnesium oxide powder prepared by vapor phase reaction and method of preparing the same
US8442267B2 (en) 2008-12-24 2013-05-14 Electronics And Telecommunications Research Institute Apparatus and method for detecting upper body posture and hand posture
KR101337423B1 (en) * 2012-09-18 2013-12-06 전남대학교산학협력단 Method of moving object detection and tracking using 3d depth and motion information
KR101447170B1 (en) * 2013-01-04 2014-10-06 주식회사 코맥스 Apparatus and Method for Informing Message through User Recognition

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020050867A (en) * 2000-12-22 2002-06-28 신현준 Motion stereo system using 3 CCDcamera
KR100469899B1 (en) * 2002-05-27 2005-02-02 주식회사 에스원 Apparatus and method for sensing burglar in a security system
KR100473758B1 (en) * 2002-08-14 2005-03-10 엘지전자 주식회사 Method for detecting audio event in digital video recorder for monitoring
KR100566059B1 (en) * 2003-04-15 2006-04-04 주식회사 한성전자산업개발 Watch Camera
KR100837356B1 (en) * 2006-11-29 2008-06-12 엘지전자 주식회사 Air conditioner and method of controlling airflow having the same
KR100766995B1 (en) * 2007-01-03 2007-10-15 (주)다우텔레콤 3 dimension camera module device
US7972586B2 (en) 2007-09-21 2011-07-05 Daejoo Electronic Materials Co., Ltd. Fluorine-containing magnesium oxide powder prepared by vapor phase reaction and method of preparing the same
US8303928B2 (en) 2007-09-21 2012-11-06 Daejoo Electronic Materials Co, Ltd. Fluorine-containing magnesium oxide powder prepared by vapor phase reaction and method of preparing the same
KR100856756B1 (en) * 2007-10-08 2008-09-10 (주)다우텔레콤 Unmanned monitering device using the 3 dimension camera module device
US8442267B2 (en) 2008-12-24 2013-05-14 Electronics And Telecommunications Research Institute Apparatus and method for detecting upper body posture and hand posture
KR101337423B1 (en) * 2012-09-18 2013-12-06 전남대학교산학협력단 Method of moving object detection and tracking using 3d depth and motion information
KR101447170B1 (en) * 2013-01-04 2014-10-06 주식회사 코맥스 Apparatus and Method for Informing Message through User Recognition

Also Published As

Publication number Publication date
KR100297059B1 (en) 2001-11-02

Similar Documents

Publication Publication Date Title
US6504479B1 (en) Integrated security system
US6930599B2 (en) Security system
US20220108593A1 (en) Automated, remotely-verified alarm system with intrusion and video surveillance and digital video recording
JP4380252B2 (en) Imaging apparatus and imaging method
US6069655A (en) Advanced video security system
WO2016150045A1 (en) Housebreaking alarm method and device
CN105844209B (en) visitor identification based on infrared radiation detection
EP3563359B1 (en) A method and a system for providing privacy enabled surveillance in a building
KR100297059B1 (en) Motion Detector and Its Method using three demensional information of Stereo Vision
KR20020000473A (en) Safe guarding system using internet
KR100825403B1 (en) Security system
KR100233229B1 (en) Security system using communication network and method thereof
KR100746650B1 (en) Bluetooth camera apparatus and security camera system
KR100335837B1 (en) Intelligent prevention system
KR200203248Y1 (en) Safe guarding system using internet
KR100906259B1 (en) System and method for monitoring intruder
TWM582666U (en) Smart home protection system
JPH05328355A (en) Burglar camera device
KR100369714B1 (en) Anti-crime system using internet
KR101741240B1 (en) network camera apparatus
KR200311947Y1 (en) System for processing a sensing signal
JPH0564198A (en) Burglar alarm system
TW202213283A (en) Remote integrated system for anti-theft monitoring including an anti-theft host and a digital video recorder (DVR) host
KR20020043983A (en) An apparatus for watch shaped a bird
KR20140084437A (en) Hybrid control panel and method thereof

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee