WO2021095961A1 - Ptz 카메라 제어 장치 및 그 방법 - Google Patents

Ptz 카메라 제어 장치 및 그 방법 Download PDF

Info

Publication number
WO2021095961A1
WO2021095961A1 PCT/KR2019/015975 KR2019015975W WO2021095961A1 WO 2021095961 A1 WO2021095961 A1 WO 2021095961A1 KR 2019015975 W KR2019015975 W KR 2019015975W WO 2021095961 A1 WO2021095961 A1 WO 2021095961A1
Authority
WO
WIPO (PCT)
Prior art keywords
ptz camera
camera control
reinforcement learning
ptz
processor
Prior art date
Application number
PCT/KR2019/015975
Other languages
English (en)
French (fr)
Inventor
김동칠
박성주
Original Assignee
전자부품연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 전자부품연구원 filed Critical 전자부품연구원
Publication of WO2021095961A1 publication Critical patent/WO2021095961A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Definitions

  • the present invention relates to an apparatus and method for controlling a PTZ (pan tilt zoom) camera.
  • the Korean government is building 229 CCTV integrated control centers nationwide from 2012 to 2017 through the implementation of the intelligent control service pilot project.
  • the correct answer event is "violence", but there is a problem in detecting the "roaming" event.
  • the present invention has been proposed to solve the above-described problem, and by automatically controlling a PTZ camera using a model generated based on reinforcement learning, the performance of the intelligent video analysis technology installed in the security system is improved, and the intelligent video security control
  • An object of the present invention is to provide an apparatus and method for controlling a PTZ camera capable of improving the control efficiency of a system.
  • the PTZ camera control apparatus includes an input unit for receiving object and event information, a memory storing a program for generating a PTZ camera control model based on reinforcement learning using the object and event information, and a processor for executing the program.
  • the processor is characterized in that it performs PTZ camera control according to the PTZ camera control model.
  • the processor selects a PTZ camera action value, estimates the direction of the automatic control movement of the PTZ camera, calculates a compensation accordingly, and generates a PTZ camera control model based on reinforcement learning by storing the state and compensation before and after the action.
  • the processor estimates the moving direction of the PTZ camera by using the difference in the position of the object and the center distance of the acquired image, and adaptively gives compensation to the change in the position of the object in the image according to the movement of the PTZ camera.
  • the processor checks whether the object and event information matches the system target, and generates a PTZ camera control value using a PTZ camera control model based on reinforcement learning.
  • the PTZ camera control method includes (a) generating a PTZ camera control model based on reinforcement learning, and (b) performing PTZ camera control according to received information.
  • Steps (a) include (a-1) acquiring object information from image data including object and event information, (a-2) acquiring PTZ camera action values, (a-3) automatic PTZ camera Estimating the direction of the control movement, calculating a reward according to it, and (a-4) storing a state before and after the action and a reward, and generating a reinforcement learning model.
  • step (a-3) the movement direction for pan, tilt, and zoom is estimated using the difference in the position of the object and the center distance of the acquired image, and adaptively compensates for the change in the position of the object in the image according to the movement of the PTZ camera. Is given.
  • step (b) it is checked whether the received information on the object and event information matches the system target, the received information is input into the PTZ camera control model based on reinforcement learning, and a PTZ camera control value is generated.
  • FIG. 1 is a block diagram illustrating an apparatus for controlling a PTZ camera according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a method of controlling a PTZ camera according to an embodiment of the present invention.
  • FIG. 3 is a diagram illustrating a process of generating a control model of a method for controlling a PTZ camera according to an embodiment of the present invention.
  • FIG. 4 illustrates a process of controlling a PTZ camera according to a location and size of an object/event in a method for controlling a PTZ camera according to an embodiment of the present invention.
  • the present invention relates to an apparatus and method for controlling an automatic PTZ camera to support accuracy improvement of an intelligent video analysis technology installed and operated in a video security system.
  • an embodiment of the present invention with reference to FIGS. 1 to 4 Explain about.
  • FIG. 1 is a block diagram illustrating an apparatus for controlling a PTZ camera according to an embodiment of the present invention.
  • the PTZ camera control apparatus 100 includes an input unit 110 for receiving object and event information, and a memory 120 in which a program for generating a PTZ camera control model based on reinforcement learning using the object and event information is stored. And a processor 130 executing a program, wherein the processor 130 performs PTZ camera adjustment according to a PTZ camera control model.
  • the processor 130 selects a PTZ camera action value, estimates an automatic control movement direction of the PTZ camera, calculates a compensation according to it, and stores a state before and after the action and a compensation to generate a PTZ camera control model based on reinforcement learning.
  • the processor 130 estimates the movement direction of the PTZ camera by using the difference in the position of the object and the center distance of the acquired image, and adaptively gives compensation to the change in the position of the object in the image according to the movement of the PTZ camera.
  • the processor 130 checks whether the object and event information matches the system target, and generates a PTZ camera control value using a PTZ camera control model based on reinforcement learning.
  • FIG. 2 is a flowchart illustrating a method of controlling a PTZ camera according to an embodiment of the present invention
  • FIG. 3 is a flowchart illustrating a control model generation process of a method of controlling a PTZ camera according to an embodiment of the present invention.
  • a PTZ camera control method includes generating a PTZ camera control model based on reinforcement learning (S310) and performing PTZ camera control according to received information (S320).
  • learning data is acquired and analyzed (S311).
  • step S311 in order to perform reinforcement learning, information on the location and size (x, y, width, and height) of the object is acquired from image data including object/event information and analyzed.
  • Step S312 is a step for selecting a PTZ camera action value for PTZ camera control, and a total of 16 camera action values (0.02, 0.04, 0.06, 0.08, 0.1, 0.12, 0.14, 0.16, 0.18, 0.2, 0.22, 0.24) , 0.26, 0.28, 0.3, 0.32).
  • step S312 a PTZ camera action value is randomly selected, or an action value is selected through an untrained reinforcement learning model.
  • step S313 the direction of the automatic control movement of the PTZ camera is estimated, and a reward is calculated accordingly.
  • the screen center coordinates and the current coordinates of the object are analyzed using the following [Equation 1], and the PTZ camera control direction (Pan Left, Pan Right, Tilt Up, Tilt Down, Zoom In, Zoom Out) is estimated. .
  • pErr is the difference between the horizontal position of the current object and the horizontal center distance of the acquired image.
  • tErr is the difference between the vertical position of the current object and the vertical center distance of the acquired image.
  • ⁇ is a threshold constant, and when tErr and pErr are less than ⁇ , Zoom In and Zoom Out are estimated as the camera control direction.
  • Pan and Tilt are performed. If pErr is positive, Pan Right is estimated, and if pErr is negative, Pan Left is estimated as the moving direction.
  • tErr If tErr is positive, the camera control direction is estimated as Tilt Down, and if tErr is negative, it is Tilt UP.
  • step S313 the PTZ camera is moved in the direction of camera control estimated by using the action value selected in step S312.
  • step S314 after performing step S313, the state before and after the action and the reward are stored.
  • One data set consists of 11 detailed data, object status information before camera movement (x, y, with, height), action value estimation information (0 ⁇ 15), Reward, object status information after camera movement (x, y, with, height), the same as the end flag.
  • step S315 when step S314 is completed, it is checked whether the number of stored data sets is greater than or equal to a certain number (eg, 6000).
  • a certain number eg, 6000.
  • step S316 If it is determined in step S315 that the number of data sets is equal to or greater than the preset number, step S316 generates a reinforcement learning model based on the stored data set.
  • Step S316 generates a reinforcement learning model using [Equation 2] below.
  • s t is the current coordinate and size of the object/event
  • s t+1 is the coordinate and size of the object when the PTZ camera is moved with the action value and direction estimated in steps S312 and S313.
  • Is composed of an artificial neural network and the settings shown in [Table 1] below are used.
  • FIG. 4 illustrates a process of controlling a PTZ camera according to a location and size of an object/event in a method for controlling a PTZ camera according to an embodiment of the present invention.
  • step S321 object/event location and size information is received, and classification and analysis are performed to input the information into the PTZ control model.
  • step S322 it is checked whether the location and size of the object/event are the target location and size in the system.
  • step S322 if the location and size of the object/event is confirmed as the target location and size in the system, it ends.
  • step S323 inputs the received object/event location and size information into the reinforcement learning model.
  • step S323 the reinforcement learning-based PTZ camera control model generates a PTZ camera control value based on the input object/event information.
  • step S324 controls the PTZ camera using a control value generated through the reinforcement learning-based PTZ camera control model.
  • the image analysis system provides an image that is easy to analyze, and there is an effect that more accurate event detection is possible compared to the prior art.
  • the PTZ camera control method may be implemented in a computer system or recorded on a recording medium.
  • the computer system may include at least one processor, memory, user input device, data communication bus, user output device, and storage. Each of the above-described components performs data communication through a data communication bus.
  • the computer system may further include a network interface coupled to the network.
  • the processor may be a central processing unit (CPU) or a semiconductor device that processes instructions stored in a memory and/or storage.
  • the memory and storage may include various types of volatile or nonvolatile storage media.
  • the memory may include ROM and RAM.
  • a method for controlling a PTZ camera according to an embodiment of the present invention may be implemented in a computer-executable method.
  • commands readable by a computer may perform the control method according to the present invention.
  • the PTZ camera control method according to the present invention described above may be implemented as a computer-readable code on a computer-readable recording medium.
  • the computer-readable recording medium includes all types of recording media in which data that can be decoded by a computer system is stored. For example, there may be read only memory (ROM), random access memory (RAM), magnetic tape, magnetic disk, flash memory, optical data storage device, and the like.
  • ROM read only memory
  • RAM random access memory
  • magnetic tape magnetic tape
  • magnetic disk magnetic disk
  • flash memory optical data storage device
  • optical data storage device and the like.
  • the computer-readable recording medium can be distributed in a computer system connected through a computer communication network, and stored and executed as codes that can be read in a distributed manner.

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 PTZ(팬 틸트 줌) 카메라를 제어하는 장치 및 그 방법에 관한 것이다. 본 발명에 따른 PTZ 카메라 제어 장치는 객체 및 이벤트 정보를 수신하는 입력부와, 객체 및 이벤트 정보를 이용하여 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 프로그램이 저장된 메모리 및 프로그램을 실행시키는 프로세서를 포함하고, 프로세서는 PTZ 카메라 제어 모델에 따라 PTZ 카메라 조절을 수행하는 것을 특징으로 한다.

Description

PTZ 카메라 제어 장치 및 그 방법
본 발명은 PTZ(팬 틸트 줌) 카메라를 제어하는 장치 및 그 방법에 관한 것이다.
대한민국 정부는 지능형 관제서비스 시범사업 추진을 통해, 2012년부터 2017년까지 전국 229개의 CCTV 통합관제센터를 구축하고 있다.
최근, 인공 신경망을 이용한 딥러닝 기법의 비약적인 발전으로 인해 급속도로 발전된 지능형 영상 분석기술을 통합관제센터에 적용하여 운영하고 있다.
그런데, 이러한 지능형 영상 분석 기술은 객체/이벤트 사이즈가 너무 작거나 클 경우 객체 검출만이 가능할 뿐, 해당 객체가 어떤 동작을 하고 있는지 검출이 어려운 문제점이 있다.
예컨대, 종래 기술에 따른 통합관제센터는 이벤트를 검출함에 있어서, 정답 이벤트는 "폭력"이지만 "배회" 이벤트를 검출하는 문제점이 있다.
본 발명은 전술한 문제점을 해결하기 위하여 제안된 것으로, 강화학습 기반으로 생성된 모델을 이용하여 PTZ 카메라를 자동 제어함으로써, 보안 시스템에 탑재된 지능형 영상 분석 기술의 성능을 향상시키고, 지능형 영상 보안 관제 시스템의 관제 효율성을 향상시키는 것이 가능한 PTZ 카메라 제어 장치 및 방법을 제공하는데 그 목적이 있다.
본 발명에 따른 PTZ 카메라 제어 장치는 객체 및 이벤트 정보를 수신하는 입력부와, 객체 및 이벤트 정보를 이용하여 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 프로그램이 저장된 메모리 및 프로그램을 실행시키는 프로세서를 포함하고, 프로세서는 PTZ 카메라 제어 모델에 따라 PTZ 카메라 조절을 수행하는 것을 특징으로 한다.
프로세서는 PTZ 카메라 액션 값을 선택하고, PTZ 카메라의 자동 제어 이동 방향을 추정하고 그에 따른 보상을 계산하며, 액션 전후 상태와 보상을 저장하여 강화학습 기반의 PTZ 카메라 제어 모델을 생성한다.
프로세서는 객체의 위치 및 취득한 영상의 중심 거리 차이를 이용하여 PTZ 카메라 이동 방향을 추정하고, PTZ 카메라의 이동에 따른 영상 내 객체의 위치 변화에 적응적으로 보상을 부여한다.
프로세서는 객체 및 이벤트 정보와 시스템 목표의 부합 여부를 확인하고, 강화학습 기반의 PTZ 카메라 제어 모델을 이용하여 PTZ 카메라 제어 값을 생성한다.
본 발명에 따른 PTZ 카메라 제어 방법은 (a) 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 단계 및 (b) 수신 정보에 따라 PTZ 카메라 조절을 수행하는 단계를 포함하는 것을 특징으로 한다.
(a) 단계는 (a-1) 객체 및 이벤트 정보가 포함된 영상 데이터에서 객체 정보를 취득하는 단계, (a-2) PTZ 카메라 액션 값을 취득하는 단계, (a-3) PTZ 카메라의 자동 제어 이동 방향을 추정하고, 그에 따른 보상을 계산하는 단계 및 (a-4) 액션 전후 상태와 보상을 저장하고, 강화학습 모델을 생성하는 단계를 포함한다.
(a-3) 단계는 객체의 위치 및 취득한 영상의 중심 거리 차이를 이용하여 팬, 틸트, 줌에 대한 이동 방향을 추정하고, PTZ 카메라의 이동에 따른 영상 내 객체의 위치 변화에 적응적으로 보상을 부여한다.
(b) 단계는 객체 및 이벤트의 정보에 대한 수신 정보가 시스템 목표와 부합하는지 확인하여, 수신 정보를 강화학습 기반의 PTZ 카메라 제어 모델에 입력시키고, PTZ 카메라 제어 값을 생성한다.
본 발명에 따르면, 강화 학습을 이용함으로써 기존의 Rule 기반 방식에 비해 객체의 위치, 크기에 최적화 된 PTZ 카메라 제어가 가능한 효과가 있다.
영상 분석이 어려운 객체/이벤트 크기 및 위치를 적절하게 이동시키고 그 크기를 조절함으로써, 영상 분석의 성능 정확도를 향상시키는 효과가 있다.
본 발명의 효과는 이상에서 언급한 것들에 한정되지 않으며, 언급되지 아니한 다른 효과들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 실시예에 따른 PTZ 카메라 제어 장치를 나타내는 블록도이다.
도 2는 본 발명의 실시예에 따른 PTZ 카메라 제어 방법을 나타내는 순서도이다.
도 3은 본 발명의 실시예에 따른 PTZ 카메라 제어 방법의 제어 모델 생성 과정을 도시한다.
도 4는 본 발명의 실시예에 따른 PTZ 카메라 제어 방법의 객체/이벤트의 위치 및 크기에 따라 PTZ 카메라를 제어하는 과정을 도시한다.
본 발명의 전술한 목적 및 그 이외의 목적과 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다.
그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 이하의 실시예들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 목적, 구성 및 효과를 용이하게 알려주기 위해 제공되는 것일 뿐으로서, 본 발명의 권리범위는 청구항의 기재에 의해 정의된다.
한편, 본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성소자, 단계, 동작 및/또는 소자가 하나 이상의 다른 구성소자, 단계, 동작 및/또는 소자의 존재 또는 추가됨을 배제하지 않는다.
본 발명은 영상보안시스템에 탑재되어 운영되고 있는 지능형 영상 분석 기술의 정확도 향상을 지원하기 위한 자동 PTZ 카메라 제어 장치 및 그 방법에 관한 것으로, 이하에서는 도 1 내지 도 4를 참조하여 본 발명의 실시예에 대해 설명한다.
도 1은 본 발명의 실시예에 따른 PTZ 카메라 제어 장치를 나타내는 블록도이다.
본 발명에 따른 PTZ 카메라 제어 장치(100)는 객체 및 이벤트 정보를 수신하는 입력부(110)와, 객체 및 이벤트 정보를 이용하여 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 프로그램이 저장된 메모리(120) 및 프로그램을 실행시키는 프로세서(130)를 포함하고, 프로세서(130)는 PTZ 카메라 제어 모델에 따라 PTZ 카메라 조절을 수행하는 것을 특징으로 한다.
프로세서(130)는 PTZ 카메라 액션 값을 선택하고, PTZ 카메라의 자동 제어 이동 방향을 추정하고 그에 따른 보상을 계산하며, 액션 전후 상태와 보상을 저장하여 강화학습 기반의 PTZ 카메라 제어 모델을 생성한다.
프로세서(130)는 객체의 위치 및 취득한 영상의 중심 거리 차이를 이용하여 PTZ 카메라 이동 방향을 추정하고, PTZ 카메라의 이동에 따른 영상 내 객체의 위치 변화에 적응적으로 보상을 부여한다.
프로세서(130)는 객체 및 이벤트 정보와 시스템 목표의 부합 여부를 확인하고, 강화학습 기반의 PTZ 카메라 제어 모델을 이용하여 PTZ 카메라 제어 값을 생성한다.
도 2는 본 발명의 실시예에 따른 PTZ 카메라 제어 방법을 나타내는 순서도이고, 도 3은 본 발명의 실시예에 따른 PTZ 카메라 제어 방법의 제어 모델 생성 과정을 도시한다.
본 발명의 실시예에 따른 PTZ 카메라 제어 방법은 강화학습을 기반으로 PTZ 카메라 제어 모델을 생성하는 단계(S310) 및 수신 정보에 따라 PTZ 카메라 조절을 수행하는 단계(S320)를 포함한다.
본 발명의 실시예에 따른 PTZ 카메라 제어 방법의 제어 모델 생성 과정에 따르면, 학습 데이터를 취득하고 분석한다(S311).
S311 단계에서는, 강화학습을 수행하기 위해 객체/이벤트 정보가 포함된 영상 데이터에서 객체의 위치 및 크기(x, y, width, height) 정보를 취득하고 이를 분석한다.
S312 단계는 PTZ 카메라 제어를 위해 PTZ 카메라 액션 값을 선택하는 단계로서, 카메라의 액션 값은 총 16개(0.02, 0.04, 0.06, 0.08, 0.1, 0.12, 0.14, 0.16, 0.18, 0.2, 0.22, 0.24, 0.26, 0.28, 0.3, 0.32) 로 정의한다.
S312 단계에서는 PTZ 카메라 액션 값이 무작위로 선택되거나, 학습되지 않은 강화학습 모델을 통해 액션 값이 선택된다.
S313 단계는 PTZ 카메라의 자동 제어 이동 방향을 추정하고, 그에 따른 보상(reward)을 계산한다.
이 때, 화면 중심 좌표와 객체의 현재 좌표를 아래 [수학식 1]을 이용하여 분석하고, PTZ 카메라 제어 방향(Pan Left, Pan Right, Tilt Up, Tilt Down, Zoom In, Zoom Out)을 추정한다.
[수학식 1]
Figure PCTKR2019015975-appb-I000001
pErr는 현재 객체의 가로 위치와, 취득한 영상의 가로 중심 거리 차이이다.
tErr는 현재 객체의 세로 위치와, 취득한 영상의 세로 중심 거리 차이이다.
τ는 임계값 상수이고, tErr와 pErr가 τ보다 작을 때 Zoom In, Zoom Out을 카메라 제어 방향으로 추정한다.
그 외에는 Pan, Tilt를 수행하는데 pErr가 양수일 경우 Pan Right, pErr가 음수일 경우 Pan Left를 이동 방향으로 추정한다.
tErr가 양수일 경우 Tilt Down, tErr가 음수일 경우 Tilt UP으로 카메라 제어 방향을 추정한다.
S313 단계는 S312 단계에서 선택된 액션 값을 이용하여 추정된 카메라 제어 방향으로 PTZ 카메라를 이동시킨다.
PTZ 카메라 이동 후 영상 내 객체의 위치 변화에 적응적으로 보상(Reward)을 부여한다.
먼저 Pan과 Tilt에 관한 PTZ 카메라 움직임 발생 시 이동 방향 및 액션 값에 대응되는 보상을 계산하고, 이후 Zoom에 관한 보상을 계산한다.
Pan, Tilt, Zoom 이동이 각각 가로, 세로의 중심과 목표 크기에 가까워 질 경우, +Reward를 갖고, 반대의 경우 -Reward를 갖기 때문에, 이동 값 및 방향에 대해 적응적으로 보상을 부여한다.
S314 단계는 S313 단계를 수행한 후, 액션 전, 후 상태와 보상을 저장한다.
하나의 데이터 셋은 11개의 세부 데이터로 구성되어 있으며 카메라 이동 전 객체 상태정보(x, y, with, height), 액션 값 추정 정보(0~15), Reward, 카메라 이동 후 객체 상태정보(x, y, with, height), 종료 Flag와 같다.
S315 단계는 S314 단계가 완료되면, 저장 데이터 셋의 개수가 일정 개수(예: 6000개) 이상인지 여부를 확인한다.
이 때, 강화학습에 사용될 목적으로 액션 전, 후 상태와 보상으로 구성된 데이터 셋의 개수가 기설정된 개수 이상인지 여부를 확인한다.
S315 단계에서 데이터 셋의 개수가 기설정된 개수 이상인 것으로 확인되면, S316 단계는 저장된 데이터 셋을 기반으로 강화학습 모델을 생성한다.
S316 단계는 아래 [수학식 2]를 이용하여 강화학습 모델을 생성한다.
[수학식 2]
Figure PCTKR2019015975-appb-I000002
st는 객체/이벤트의 현재 좌표 및 크기이고, st+1은 S312 및 S313 단계에서 추정된 액션 값과 방향으로 PTZ 카메라를 이동 시켰을 때 객체의 좌표 및 크기이다.
또한,
Figure PCTKR2019015975-appb-I000003
는 인공신경망으로 구성되며, 아래 [표 1]과 같은 설정을 사용한다.
Figure PCTKR2019015975-appb-T000001
도 4는 본 발명의 실시예에 따른 PTZ 카메라 제어 방법의 객체/이벤트의 위치 및 크기에 따라 PTZ 카메라를 제어하는 과정을 도시한다.
S321 단계는 객체/이벤트 위치 및 크기 정보를 수신하여 PTZ 제어 모델에 입력하기 위해 분류 및 분석을 수행한다.
S322 단계는 객체/이벤트의 위치 및 크기가 시스템에서 목표로 하는 위치와 크기인지 확인한다.
S322 단계에서 객체/이벤트의 위치 및 크기가 시스템에서 목표로 하는 위치와 크기로 확인되면, 종료한다.
S322 단계에서 객체/이벤트의 위치 및 크기가 시스템에서 목표로 하는 위치와 크기가 아닌 것으로 확인되면, S323 단계는 수신한 객체/이벤트 위치 및 크기 정보를 강화 학습 모델에 입력한다.
S323 단계에서, 강화 학습 기반 PTZ 카메라 제어 모델은 입력된 객체/이벤트 정보를 기반으로 PTZ 카메라 제어 값을 생성한다.
S323 단계가 완료되면, S324 단계는 강화 학습 기반 PTZ 카메라 제어 모델을 통해 생성된 제어 값을 이용하여 PTZ 카메라를 제어한다.
본 발명의 실시예에 따르면, 지능형 영상 분석의 정확도 향상을 위해 강화학습 기반으로 PTZ 카메라 자동 제어를 수행함으로써. 영상 분석 시스템이 분석하기 용이한 영상을 제공하고 종래 기술에 비해 보다 정확한 이벤트 탐지가 가능한 효과가 있다.
한편, 본 발명의 실시예에 따른 PTZ 카메라 제어 방법은 컴퓨터 시스템에서 구현되거나, 또는 기록매체에 기록될 수 있다. 컴퓨터 시스템은 적어도 하나 이상의 프로세서와, 메모리와, 사용자 입력 장치와, 데이터 통신 버스와, 사용자 출력 장치와, 저장소를 포함할 수 있다. 전술한 각각의 구성 요소는 데이터 통신 버스를 통해 데이터 통신을 한다.
컴퓨터 시스템은 네트워크에 커플링된 네트워크 인터페이스를 더 포함할 수 있다. 프로세서는 중앙처리 장치(central processing unit (CPU))이거나, 혹은 메모리 및/또는 저장소에 저장된 명령어를 처리하는 반도체 장치일 수 있다.
메모리 및 저장소는 다양한 형태의 휘발성 혹은 비휘발성 저장매체를 포함할 수 있다. 예컨대, 메모리는 ROM 및 RAM을 포함할 수 있다.
따라서, 본 발명의 실시예에 따른 PTZ 카메라 제어 방법은 컴퓨터에서 실행 가능한 방법으로 구현될 수 있다. 본 발명의 실시예에 따른 PTZ 카메라 제어 방법이 컴퓨터 장치에서 수행될 때, 컴퓨터로 판독 가능한 명령어들이 본 발명에 따른 제어 방법을 수행할 수 있다.
한편, 상술한 본 발명에 따른 PTZ 카메라 제어 방법은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현되는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체로는 컴퓨터 시스템에 의하여 해독될 수 있는 데이터가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래시 메모리, 광 데이터 저장장치 등이 있을 수 있다. 또한, 컴퓨터로 판독 가능한 기록매체는 컴퓨터 통신망으로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 읽을 수 있는 코드로서 저장되고 실행될 수 있다.
이제까지 본 발명의 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

Claims (8)

  1. 객체 및 이벤트 정보를 수신하는 입력부;
    상기 객체 및 이벤트 정보를 이용하여 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 프로그램이 저장된 메모리; 및
    상기 프로그램을 실행시키는 프로세서를 포함하되,
    상기 프로세서는 상기 PTZ 카메라 제어 모델에 따라 PTZ 카메라 조절을 수행하는 것
    인 PTZ 카메라 제어 장치.
  2. 제1항에 있어서,
    상기 프로세서는 PTZ 카메라 액션 값을 선택하고, 상기 PTZ 카메라의 자동 제어 이동 방향을 추정하고 그에 따른 보상을 계산하며, 액션 전후 상태와 상기 보상을 저장하여 상기 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 것
    인 PTZ 카메라 제어 장치.
  3. 제2항에 있어서,
    상기 프로세서는 상기 객체의 위치 및 취득한 영상의 중심 거리 차이를 이용하여 PTZ 카메라 이동 방향을 추정하고, 상기 PTZ 카메라의 이동에 따른 영상 내 객체의 위치 변화에 적응적으로 보상을 부여하는 것
    인 PTZ 카메라 제어 장치.
  4. 제2항에 있어서,
    상기 프로세서는 상기 객체 및 이벤트 정보와 시스템 목표의 부합 여부를 확인하고, 상기 강화학습 기반의 PTZ 카메라 제어 모델을 이용하여 PTZ 카메라 제어 값을 생성하는 것
    인 PTZ 카메라 제어 장치.
  5. (a) 강화학습 기반의 PTZ 카메라 제어 모델을 생성하는 단계; 및
    (b) 수신 정보에 따라 PTZ 카메라 조절을 수행하는 단계
    를 포함하는 PTZ 카메라 제어 방법.
  6. 제5항에 있어서,
    상기 (a) 단계는 (a-1) 객체 및 이벤트 정보가 포함된 영상 데이터에서 객체 정보를 취득하는 단계, (a-2) PTZ 카메라 액션 값을 취득하는 단계, (a-3) 상기 PTZ 카메라의 자동 제어 이동 방향을 추정하고, 그에 따른 보상을 계산하는 단계 및 (a-4) 액션 전후 상태와 보상을 저장하고, 강화학습 모델을 생성하는 단계를 포함하는 것
    인 PTZ 카메라 제어 방법.
  7. 제6항에 있어서,
    상기 (a-3) 단계는 상기 객체의 위치 및 취득한 영상의 중심 거리 차이를 이용하여 팬, 틸트, 줌에 대한 이동 방향을 추정하고, 상기 PTZ 카메라의 이동에 따른 영상 내 객체의 위치 변화에 적응적으로 보상을 부여하는 것
    인 PTZ 카메라 제어 방법.
  8. 제5항에 있어서,
    상기 (b) 단계는 상기 객체 및 이벤트의 정보에 대한 상기 수신 정보가 시스템 목표와 부합하는지 확인하여, 상기 수신 정보를 상기 강화학습 기반의 PTZ 카메라 제어 모델에 입력시키고, PTZ 카메라 제어 값을 생성하는 것
    인 PTZ 카메라 제어 방법.
PCT/KR2019/015975 2019-11-14 2019-11-20 Ptz 카메라 제어 장치 및 그 방법 WO2021095961A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020190146220A KR20210058588A (ko) 2019-11-14 2019-11-14 Ptz 카메라 제어 장치 및 그 방법
KR10-2019-0146220 2019-11-14

Publications (1)

Publication Number Publication Date
WO2021095961A1 true WO2021095961A1 (ko) 2021-05-20

Family

ID=75913022

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/015975 WO2021095961A1 (ko) 2019-11-14 2019-11-20 Ptz 카메라 제어 장치 및 그 방법

Country Status (2)

Country Link
KR (1) KR20210058588A (ko)
WO (1) WO2021095961A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220109795A1 (en) * 2020-10-05 2022-04-07 Canon Kabushiki Kaisha Control apparatus and learning apparatus and control method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008538474A (ja) * 2005-04-19 2008-10-23 ダブリュキューエス リミテッド 自動化監視システム
KR101808587B1 (ko) * 2017-08-03 2017-12-13 주식회사 두원전자통신 객체인식과 추적감시 및 이상상황 감지기술을 이용한 지능형 통합감시관제시스템
KR20180029898A (ko) * 2016-09-12 2018-03-21 엑시스 에이비 개선된 모니터링 카메라 방향 제어
KR20180060335A (ko) * 2016-11-28 2018-06-07 주식회사 올로케이션 고정카메라와 다중 ptz 카메라를 이용한 원거리 얼굴인식 방법
KR20180117419A (ko) * 2017-04-19 2018-10-29 한화테크윈 주식회사 감시 시스템 및 그 동작 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008538474A (ja) * 2005-04-19 2008-10-23 ダブリュキューエス リミテッド 自動化監視システム
KR20180029898A (ko) * 2016-09-12 2018-03-21 엑시스 에이비 개선된 모니터링 카메라 방향 제어
KR20180060335A (ko) * 2016-11-28 2018-06-07 주식회사 올로케이션 고정카메라와 다중 ptz 카메라를 이용한 원거리 얼굴인식 방법
KR20180117419A (ko) * 2017-04-19 2018-10-29 한화테크윈 주식회사 감시 시스템 및 그 동작 방법
KR101808587B1 (ko) * 2017-08-03 2017-12-13 주식회사 두원전자통신 객체인식과 추적감시 및 이상상황 감지기술을 이용한 지능형 통합감시관제시스템

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220109795A1 (en) * 2020-10-05 2022-04-07 Canon Kabushiki Kaisha Control apparatus and learning apparatus and control method
US11882363B2 (en) * 2020-10-05 2024-01-23 Canon Kabushiki Kaisha Control apparatus and learning apparatus and control method

Also Published As

Publication number Publication date
KR20210058588A (ko) 2021-05-24

Similar Documents

Publication Publication Date Title
WO2019107614A1 (ko) 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템
CN107018357A (zh) 关于图像形成的动态视觉传感器的事件采样的方法和设备
WO2015126031A1 (ko) 사람 계수 방법 및 그를 위한 장치
WO2020256246A1 (ko) 딥러닝 기반의 자동차 부위별 파손정도 자동 판정을 위한 모델 학습 방법 및 시스템
WO2020111776A1 (en) Electronic device for focus tracking photographing and method thereof
CN109815787B (zh) 目标识别方法、装置、存储介质及电子设备
WO2019088335A1 (ko) 지능형 협업 서버, 시스템 및 이의 협업 기반 분석 방법
CN111597969A (zh) 基于手势识别的电梯控制方法及系统
WO2011062430A2 (ko) 적응적으로 객체를 추적하는 방법, 시스템, 및 컴퓨터 판독 가능한 기록 매체
WO2021107650A1 (en) Jointly learning visual motion and confidence from local patches in event cameras
WO2021095961A1 (ko) Ptz 카메라 제어 장치 및 그 방법
WO2019190076A1 (ko) 시선 추적 방법 및 이를 수행하기 위한 단말
WO2011078596A2 (ko) 상황에 따라 적응적으로 이미지 매칭을 수행하기 위한 방법, 시스템, 및 컴퓨터 판독 가능한 기록 매체
WO2011055930A2 (ko) 그래프 컷의 초기값을 설정하는 방법, 단말 장치, 및 컴퓨터 판독 가능한 기록 매체
WO2016064107A1 (ko) 팬틸트줌 카메라 기반의 영상 재생방법 및 장치
WO2023080667A1 (ko) Ai 기반 객체인식을 통한 감시카메라 wdr 영상 처리
WO2020101121A1 (ko) 딥러닝 기반의 영상분석 방법, 시스템 및 휴대 단말
WO2022108127A1 (ko) 촬영 공간 정보 기반 cctv 저장 영상 검색 방법 및 시스템
WO2016104842A1 (ko) 카메라의 왜곡을 고려한 물체 인식 시스템 및 방법
WO2021086108A1 (ko) 로봇 비전 시스템을 위한 자동 캘리브레이션 방법 및 장치
WO2018131729A1 (ko) 단일 카메라를 이용한 영상에서 움직이는 객체 검출 방법 및 시스템
WO2014007562A1 (ko) 영상 검색방법 및 장치
WO2022019355A1 (ko) 다중 페이즈 생체 이미지를 이용하여 학습된 뉴럴 네트워크를 이용한 질병 진단 방법 및 이를 수행하는 질병 진단 시스템
WO2022045519A1 (ko) 최적화 모델 선택 장치 및 방법
WO2021071258A1 (ko) 인공지능 기반의 휴대용 보안영상 학습장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19952351

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19952351

Country of ref document: EP

Kind code of ref document: A1