KR102080456B1 - 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법 - Google Patents

압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법 Download PDF

Info

Publication number
KR102080456B1
KR102080456B1 KR1020180088402A KR20180088402A KR102080456B1 KR 102080456 B1 KR102080456 B1 KR 102080456B1 KR 1020180088402 A KR1020180088402 A KR 1020180088402A KR 20180088402 A KR20180088402 A KR 20180088402A KR 102080456 B1 KR102080456 B1 KR 102080456B1
Authority
KR
South Korea
Prior art keywords
moving object
image
ptz camera
motion vector
object region
Prior art date
Application number
KR1020180088402A
Other languages
English (en)
Other versions
KR20200013335A (ko
Inventor
이현우
정승훈
이성진
Original Assignee
이노뎁 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 이노뎁 주식회사 filed Critical 이노뎁 주식회사
Priority to KR1020180088402A priority Critical patent/KR102080456B1/ko
Priority to PCT/KR2019/009373 priority patent/WO2020027512A1/ko
Publication of KR20200013335A publication Critical patent/KR20200013335A/ko
Application granted granted Critical
Publication of KR102080456B1 publication Critical patent/KR102080456B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • H04N5/23299
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • H04N5/2259
    • H04N5/23296

Abstract

본 발명은 일반적으로 CCTV 관제시스템에서 PTZ 카메라를 이용하여 이동객체를 효과적으로 추적하는 기술에 관한 것이다. 더욱 상세하게는, 본 발명은 압축영상에 대해 종래기술처럼 복잡한 이미지 프로세싱을 통해 객체를 식별하여 PTZ 카메라를 추적 제어하는 것이 아니라 압축영상 데이터를 파싱하여 얻어지는 신택스(예: 모션벡터, 코딩유형)를 활용하여 영상 내의 무언가 유의미한 움직임이 존재하는 영역, 즉 이동객체 영역을 추출하고 그 이동객체 영역을 추종시킴으로써 적은 연산으로도 PTZ 카메라의 객체 추적을 제어할 수 있는 기술에 관한 것이다. 본 발명에 따르면 디코딩, 다운스케일 리사이징, 차영상 획득, 영상 분석 등과 같은 복잡한 프로세싱을 거치지 않고서도 CCTV 압축영상으로부터 이동객체 영역을 식별하여 PTZ 카메라의 객체 추적 제어를 수행할 수 있는 장점이 있다. 특히, 종래기술 대비 1/20 정도의 연산량으로도 PTZ 카메라의 객체 추적 제어가 가능해져서 대규모 비용투자 없이도 CCTV 관제시스템의 PTZ 카메라 수용 채널수를 대폭 증가시킬 수 있는 장점이 있다.

Description

압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법 {method of controlling object tracking of PTZ camera by use of syntax data in compressed video}
본 발명은 일반적으로 CCTV 관제시스템에서 PTZ 카메라를 이용하여 이동객체를 효과적으로 추적하는 기술에 관한 것이다.
더욱 상세하게는, 본 발명은 압축영상에 대해 종래기술처럼 복잡한 이미지 프로세싱을 통해 객체를 식별하여 PTZ 카메라를 추적 제어하는 것이 아니라 압축영상 데이터를 파싱하여 얻어지는 신택스(syntax)(예: 모션벡터, 코딩유형)를 활용하여 영상 내의 무언가 유의미한 움직임이 존재하는 영역, 즉 이동객체 영역을 추출하고 그 이동객체 영역을 추종시킴으로써 적은 연산으로도 PTZ 카메라의 객체 추적을 제어할 수 있는 기술에 관한 것이다.
최근에는 범죄예방, 불법감시, 사후증거 확보 등을 위해 CCTV를 이용하는 영상관제 시스템을 구축하는 것이 일반적이다. 지역별로 다수의 CCTV 카메라를 설치해둔 상태에서 이들 CCTV 카메라가 생성하는 영상을 모니터에 표시하고 스토리지 장치에 저장해두는 것이다. 범죄나 사고가 발생하는 장면을 관제 요원이 발견하게 되면 그 즉시 적절하게 대처하는 한편, 필요에 따라서는 사후증거 확보를 위해 스토리지에 저장되어 있는 영상을 검색하는 것이다.
이러한 CCTV 관제시스템에서 관제 효과를 높이기 위해 PTZ 카메라를 채용하기도 한다. PTZ(Pan-Tilt-Zoom) 카메라는 지지부가 상하 좌우로 회전할 수 있고 렌즈의 줌 비율을 조절할 수 있는 카메라이다. PTZ 카메라는 수평 방향으로 360도 회전되는 패닝 동작과 수직 방향으로 일정 각도 회전되는 틸팅 동작에 의해 감시 영역을 이동할 수 있고 렌즈의 줌 비율을 가변하여 피사체를 확대 촬영하거나 또는 축소 촬영할 수 있다.
이처럼 PTZ 카메라를 이용하면 타겟을 바꾸어가며 촬영하거나 반대로 특정 타겟을 추적하면서 촬영할 수 있기 때문에 영상관제 분야에서 적극적으로 활용되기 시작하였다. 또한, 일반 카메라와 PTZ 카메라를 조합하여 활용하기도 한다. 이 경우에는 일반 카메라를 이용하여 상대적으로 넓은 영역에 대해 파노라마 영상을 촬영하여 관찰할 수 있게 하면서 PTZ 카메라를 통해서는 특정 타겟에 대한 객체 추적 감시를 수행한다. 이러한 PTZ 카메라의 객체 추적 동작은 관제요원이 수동으로 제어하기도 하지만 자동으로 제어할 수도 있다.
그런데, PTZ 카메라의 객체 추적을 자동으로 제어하는 것은 상당한 수준의 연산 능력을 요구한다. 최근에는 CCTV용 카메라에 H.264 AVC 및 H.265 HEVC 등과 같은 고압축율의 복잡한 영상압축 기술이 채택되고 있기 때문이다. 카메라에서 주변을 촬영하여 압축영상을 제공하면, CCTV 관제시스템에서는 해당 기술규격에 따라 역으로 압축영상에 대한 디코딩을 수행하고 이렇게 얻어진 원래 촬영한 영상에 대해 영상처리 분석을 수행해야 한다.
PTZ 카메라에 대해 특정 객체에 대한 추적 제어를 수행하려면 원래 영상을 분석하여 이동객체를 식별하고, 일련의 영상 프레임에서 해당 이동객체를 식별해야 한다. PTZ 카메라에 대한 패닝, 틸팅, 줌 제어를 수행하려면 그 이동객체가 어떻게 움직이는지 알아야 하기 때문이다. PTZ 카메라 또는 그 주변의 다른 CCTV 카메라가 생성하는 H.264 AVC 및 H.265 HEVC 등의 압축영상으로부터 이동객체를 식별하고 움직임을 감지하려면 상당한 연산이 요구된다.
먼저, [도 1]은 H.264 AVC 기술규격에 따른 동영상 디코딩 장치의 일반적인 구성을 나타내는 블록도이다. [도 1]을 참조하면, H.264 AVC에 따른 동영상 디코딩 장치는 구문분석기(11), 엔트로피 디코더(12), 역 변환기(13), 모션벡터 연산기(14), 예측기(15), 디블로킹 필터(16)를 포함하여 구성된다. 이들 하드웨어 모듈이 압축영상을 순차적으로 처리함으로써 압축을 풀고 원래의 영상 데이터를 복원해낸다. 이때, 구문분석기(11)는 압축영상의 코딩 유닛에 대해 모션벡터 및 코딩유형을 파싱해낸다. 이러한 코딩 유닛(coding unit)은 일반적으로는 매크로블록이나 서브 블록과 같은 영상 블록이다.
[도 2]는 기존의 영상분석 솔루션에서 이루어지는 PTZ 카메라의 객체 추적 제어 과정을 나타내는 순서도이다.
[도 2]를 참조하면, 종래기술에서는 압축영상을 H.264 AVC 및 H.265 HEVC 등에 따라 디코딩하고(S10), 재생영상의 프레임 이미지들을 작은 이미지, 예컨대 320x240 정도로 다운스케일 리사이징을 한다(S20). 이때, 다운스케일 리사이징을 하는 이유는 이후 과정에서의 프로세싱 부담을 그나마 줄이기 위한 것이다. 그리고 나서, 리사이징된 프레임 이미지들에 대해 차영상(differentials)을 구한 후에 영상 분석을 통해 이동객체를 추출하고 이들 이동객체의 좌표를 산출한다(S30). 그리고 나서, 이동객체의 크기 및 좌표를 이용하여 PTZ 카메라에 대한 패닝, 틸팅, 줌 제어를 수행하여 이동객체를 추적하며 촬영한다(S40).
종래기술에서 이동객체를 추출하려면 압축영상 디코딩, 다운스케일 리사이징, 영상 분석을 수행한다. 이들은 복잡도가 매우 높은 프로세스이고, 그로 인해 종래의 영상관제 시스템에서는 한 대의 영상분석 서버가 동시 처리할 수 있는 용량이 상당히 제한되어 있다. 그에 따라, 현재 고성능의 영상분석 서버가 수용할 수 있는 PTZ 카메라의 영상채널은 통상 최대 16 채널에 불과하여 PTZ 카메라의 대수를 늘리는 것에 상당한 어려움이 있었다.
본 발명의 목적은 일반적으로 CCTV 관제시스템에서 PTZ 카메라를 이용하여 이동객체를 효과적으로 추적하는 기술을 제공하는 것이다.
특히, 본 발명의 목적은 압축영상에 대해 종래기술처럼 복잡한 이미지 프로세싱을 통해 객체를 식별하여 PTZ 카메라를 추적 제어하는 것이 아니라 압축영상 데이터를 파싱하여 얻어지는 신택스(예: 모션벡터, 코딩유형)를 활용하여 영상 내의 무언가 유의미한 움직임이 존재하는 영역, 즉 이동객체 영역을 추출하고 그 이동객체 영역을 추종시킴으로써 적은 연산으로도 PTZ 카메라의 객체 추적을 제어할 수 있는 기술을 제공하는 것이다.
상기의 목적을 달성하기 위하여 본 발명에 따른 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법은, 압축영상의 비트스트림을 파싱하여 코딩 유닛에 대한 모션벡터 및 코딩유형을 획득하는 제 1 단계; 압축영상을 구성하는 복수의 영상 블록 별로 미리 설정된 제 1 시간동안의 모션벡터 누적값을 획득하는 제 2 단계; 복수의 영상 블록에 대하여 모션벡터 누적값을 미리 설정된 제 1 임계치와 비교하는 제 3 단계; 제 1 임계치를 초과하는 모션벡터 누적값을 갖는 영상 블록을 이동객체 영역으로 마킹하는 제 4 단계; 그 마킹된 하나이상의 이동객체 영역 중에서 PTZ 카메라가 추적할 대상인 추적대상 이동객체 영역을 식별하는 제 5 단계; 현재 프레임 이미지에서 추적대상 이동객체 영역에 대한 위치 정보와 크기 정보를 획득하는 제 6 단계; 추적대상 이동객체 영역의 위치 정보에 기초하여 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행하는 제 7 단계; 추적대상 이동객체 영역의 크기 정보를 이용하여 PTZ 카메라에 대한 줌 제어를 수행하는 제 8 단계;를 포함하여 구성된다.
이때 본 발명에 따른 PTZ 카메라의 객체 추적 제어 방법은, 각각의 프레임 별로 모션벡터의 평균값에 해당하는 글로벌 모션벡터를 산출하는 단계; 모션벡터에 대해 해당 프레임에 대해 산출된 글로벌 모션벡터를 차감 처리하는 단계;를 더 포함하여 구성될 수 있다. 이때, 글로벌 모션벡터는 해당 프레임에서 획득한 모든 모션벡터를 합산하고 해당 프레임에 속하는 영상 블록의 전체 갯수로 나눈 값으로 산출될 수 있다.
또한, 본 발명에 따른 PTZ 카메라의 객체 추적 제어 방법은, 이동객체 영역을 중심으로 그 인접하는 복수의 영상 블록(이하, '이웃 블록'이라 함)을 식별하는 제 a 단계; 복수의 이웃 블록에 대해 모션벡터 값을 미리 설정된 제 2 임계치와 비교하는 제 b 단계; 제 2 임계치를 초과하는 모션벡터 값을 갖는 이웃 블록을 이동객체 영역으로 추가 마킹하는 제 c 단계; 복수의 이웃 블록 중에서 코딩유형이 인트라 픽쳐인 이웃 블록을 이동객체 영역으로 추가 마킹하는 제 d 단계; 복수의 이동객체 영역에 대하여 인터폴레이션을 수행하여 이동객체 영역으로 둘러싸인 미리 설정된 갯수 이하의 비마킹 영상 블록을 이동객체 영역으로 추가 마킹하는 제 e 단계;를 더 포함하여 구성될 수 있다.
또한, 본 발명에서 제 7 단계는 추적대상 이동객체 영역이 압축영상에서 미리 설정된 관찰지점에 위치하도록 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행하도록 구성될 수 있다. 또한, 본 발명에서 제 8 단계는 추적대상 이동객체 영역이 압축영상에서 미리 설정된 관찰크기가 되도록 PTZ 카메라에 대해 줌 제어를 수행하도록 구성될 수 있다.
한편, 본 발명에 따른 컴퓨터프로그램은 하드웨어와 결합되어 이상과 같은 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법을 실행시키기 위하여 매체에 저장된 것이다.
본 발명에 따르면 디코딩, 다운스케일 리사이징, 차영상 획득, 영상 분석 등과 같은 복잡한 프로세싱을 거치지 않고서도 CCTV 압축영상으로부터 이동객체 영역을 식별하여 PTZ 카메라의 객체 추적 제어를 수행할 수 있는 장점이 있다. 특히, 종래기술 대비 1/20 정도의 연산량으로도 PTZ 카메라의 객체 추적 제어가 가능해져서 대규모 비용투자 없이도 CCTV 관제시스템의 PTZ 카메라 수용 채널수를 대폭 증가시킬 수 있는 장점이 있다.
[도 1]은 동영상 디코딩 장치의 일반적인 구성을 나타내는 블록도.
[도 2]는 종래기술에서 이루어지는 PTZ 카메라의 객체 추적 제어 과정을 나타내는 순서도.
[도 3]은 본 발명에 따른 PTZ 카메라의 객체 추적 제어 프로세스를 나타내는 순서도.
[도 4]는 본 발명에서 압축영상으로부터 유효 움직임을 검출하는 과정의 구현 예를 나타내는 순서도.
[도 5]는 CCTV 압축영상에 대해 본 발명에 따른 유효 움직임 영역 검출 과정을 적용한 결과의 일 예를 나타내는 도면.
[도 6]은 본 발명에서 이동객체 영역에 대한 바운더리 영역을 검출하는 과정의 구현 예를 나타내는 순서도.
[도 7]은 [도 5]의 CCTV 영상 이미지에 대해 본 발명에 따른 바운더리 영역 검출 과정을 적용한 결과의 일 예를 나타내는 도면.
[도 8]은 [도 7]의 CCTV 영상 이미지에 대해 인터폴레이션을 통해 이동객체 영역을 정리한 결과의 일 예를 나타내는 도면.
[도 9]는 본 발명에서 추적대상 이동객체 영역에 대하여 PTZ 카메라를 객체 추적 제어하는 과정의 구현 예를 나타내는 순서도.
[도 10]은 본 발명에서 이동객체 영역에 Unique ID가 할당된 일 예를 나타내는 도면.
[도 11]은 본 발명에서 이동객체 영역에 크기 정보가 식별된 일 예를 나타내는 도면.
[도 12]는 본 발명에서 이동객체 영역에 위치 정보가 식별된 일 예를 나타내는 도면.
이하에서는 도면을 참조하여 본 발명을 상세하게 설명한다.
[도 3]은 본 발명에 따른 PTZ 카메라의 객체 추적 제어 프로세스를 나타내는 순서도이다. 본 발명에 따른 PTZ 카메라의 객체 추적 제어 프로세스는 일련의 압축영상을 다루는 시스템, 예컨대 CCTV 관제시스템에서 PTZ 카메라가 생성하는 압축영상을 처리하는 영상분석 서버가 수행할 수 있다.
본 발명에서는 압축영상을 디코딩할 필요없이 압축영상의 비트스트림을 파싱하여 각 영상 블록, 즉 매크로블록(Macro Block) 및 서브블록(Sub Block) 등에 대해 얻어지는 신택스 정보, 예컨대 모션벡터(Motion Vector)와 코딩유형(Coding Type) 정보를 통해 이동객체 영역을 빠르게 추출한다. 이렇게 얻어진 이동객체 영역은 이동객체의 경계선을 정밀하게 반영하지는 못하지만 처리속도가 빠르면서도 일정 이상의 신뢰도를 나타낸다. 그리고 나서, 예컨대 CCTV 관제요원이 특정 이동객체 영역을 지정하면 이동객체 영역의 크기와 위치(예: 중심좌표)에 기초하여 PTZ 카메라의 패닝, 틸팅, 줌 제어를 수행함으로써 해당 이동객체 영역을 추적 촬영하는 동작을 수행할 수 있다.
한편, 본 발명에 따르면 압축영상을 디코딩하지 않고도 이동객체 영역을 추출해내고 객체 추적을 수행할 수 있다. 하지만, 본 발명이 적용된 장치 또는 소프트웨어라면 압축영상을 디코딩하는 동작을 수행하지 말아야 하는 것으로 본 발명의 범위가 한정되는 것은 아니다.
이하, [도 3]을 참조하여 본 발명에 따라 PTZ 카메라가 객체 추적을 수행하는 과정의 개념을 살펴본다.
단계 (S100) : 먼저, 압축영상의 모션벡터에 기초하여 압축영상으로부터 실질적으로 의미를 인정할만한 유효 움직임을 검출하며, 이처럼 유효 움직임이 검출된 영상 영역을 이동객체 영역으로 설정한다.
이를 위해, H.264 AVC 및 H.265 HEVC 등의 동영상압축 표준에 따라서 압축영상의 데이터를 파싱하여 코딩 유닛(coding unit)에 대해 모션벡터와 코딩유형을 획득한다. 이때, 코딩 유닛의 사이즈는 일반적으로 64x64 픽셀 내지 4x4 픽셀 정도이며 플렉서블(flexible)하게 설정될 수 있다.
각 영상 블록에 대해 미리 설정된 일정 시간(예: 500 msec) 동안 모션벡터를 누적시키고, 그에 따른 모션벡터 누적값이 미리 설정된 제 1 임계치(예: 20)을 초과하는지 검사한다. 만일 그러한 영상 블록이 발견되면 해당 영상 블록에서 유효 움직임이 발견된 것으로 보고 이동객체 영역으로 마킹한다. 그에 따라, 모션벡터가 발생하였더라도 일정 시간동안의 누적값이 제 1 임계치를 넘지 못하는 경우에는 영상 변화가 미미한 것으로 추정하고 무시한다.
단계 (S200) : 앞의 (S100)에서 검출된 이동객체 영역에 대하여 모션벡터와 코딩유형에 기초하여 바운더리 영역이 대략적으로 어디까지인지 검출한다. 이동객체 영역으로 마킹된 영상 블록을 중심으로 인접한 복수의 영상 블록을 검사하여 모션벡터가 제 2 임계치(예: 0) 이상 발생하였거나 코딩유형이 인트라 픽쳐(Intra Picture)일 경우에는 해당 영상 블록도 이동객체 영역으로 마킹한다. 이러한 과정을 통해서는 실질적으로는 해당 영상 블록이 앞서 (S100)에서 검출된 이동객체 영역과 한 덩어리를 이루는 형태로 되는 결과가 된다.
유효 움직임이 발견되어 이동객체 영역의 근방에서 어느 정도의 움직임이 있는 영상 블록이라면 이는 앞의 이동객체 영역과 한 덩어리일 가능성이 높기 때문에 이동객체 영역이라고 마킹한다. 또한, 인트라 픽쳐의 경우에는모션벡터가 존재하지 않기 때문에 모션벡터에 기초한 판정이 불가능하다. 이에, 이동객체 영역으로 이미 검출된 영상 블록에 인접하여 위치하는 인트라 픽쳐는 일단 기 추출된 이동객체 영역과 함께 한 덩어리로 추정한다.
단계 (S300) : 앞의 (S100)과 (S200)에서 검출된 이동객체 영역에 인터폴레이션(interpolation)을 적용하여 이동객체 영역의 분할(fragmentation)을 정리한다. 앞의 과정에서는 영상 블록 단위로 이동객체 영역 여부를 판단하였기 때문에 실제로는 하나의 이동객체(예: 사람)임에도 불구하고 중간중간에 이동객체 영역으로 마킹되지 않은 영상 블록이 존재하여 여러 개의 이동객체 영역으로 분할되는 현상이 발생할 수 있다. 그에 따라, 이동객체 영역으로 마킹된 복수의 영상 블록으로 둘러싸여 하나 혹은 소수의 비마킹 영상 블록이 존재한다면 이들은 이동객체 영역으로 추가로 마킹한다. 이를 통해, 여러 개로 분할되어 있는 이동객체 영역을 하나로 뭉쳐지도록 만들 수 있는데, 이와 같은 인터폴레이션의 영향은 [도 7]과 [도 8]을 비교하면 명확하게 드러난다.
단계 (S400) : 이상의 과정을 통하여 코딩 유닛의 신택스(모션벡터, 코딩유형)에 기초하여 압축영상을 구성하는 각 프레임 이미지로부터 이동객체 영역을 신속하게 추출하였다. 다음으로, 단계 (S400) 내지 단계 (S700)에서는 특정의 이동객체 영역이 타겟으로 식별되었을 때에 이러한 이동객체 영역의 추출 결과를 이용하여 PTZ 카메라에 대한 객체 추적 제어를 수행한다.
먼저, 이상의 과정에서 식별된 하나이상의 이동객체 영역 중에서 특정의 이동객체 영역을 추적 대상으로 식별하는데, 본 명세서에서는 이를 '추적대상 이동객체 영역'이라고 부른다. 추적대상 이동객체 영역은 관제요원이 CCTV 영상관제 화면 상에서 마우스 조작 등을 통해 지정하도록 구현될 수도 있고, 영상관제 소프트웨어의 메뉴를 통해 설정된 식별조건에 의해 영상관제 소프트웨어가 자체적으로 발견하도록 구현될 수도 있다.
단계 (S500) : 현재 프레임 이미지에서 추적대상 이동객체 영역에 대한 위치 정보와 크기 정보를 획득한다. [도 11]과 [도 12]는 이동객체 영역에 대해 크기 정보와 위치 정보가 식별된 예를 나타낸다. 위치정보는 해당 영상블록의 영상 내 위치를 의미하는데 [도 11]과 같이 좌상단 좌표로 설정할 수도 있고 [도 12]와 같이 중심 좌표로 설정할 수도 있다. 크기 정보로는 [도 11]과 같이 이동객체 영역을 최적으로 둘러싸는 사각형 사이즈로 설정할 수 있다.
단계 (S600) : 추적대상 이동객체 영역의 위치 정보를 이용하여 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행한다. 추적대상 이동객체 영역이 CCTV 촬영 영상에서 미리 설정된 관찰지점(예: 촬영 화면 중앙)에 위치하도록 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행한다. 예를 들어, [도 11]에서 Unique ID = 001 이라고 표시된 이동객체 영역이 추적대상 이동객체 영역으로 설정된 경우에는 PTZ 카메라에 대해 반시계 방향(CCW)으로 30도 패닝 제어하고 상방으로 10도 틸팅 제어한다. 또한, [도 11]에서 Unique ID = 003 이라고 표시된 이동객체 영역이 추적대상 이동객체 영역으로 설정된 경우라면 PTZ 카메라에 대해 시계 방향(CW)으로 7도 패닝 제어하고 하방으로 5도 틸팅 제어한다.
단계 (S700) : 또한, 추적대상 이동객체 영역의 크기 정보를 이용하여 PTZ 카메라에 대한 줌 제어를 수행한다. 추적대상 이동객체 영역이 CCTV 촬영 영상에서 미리 설정된 관찰크기(예: 화면 전체의 50 % 크기)가 되도록 PTZ 카메라에 대해 줌 제어를 수행한다. 예를 들어, [도 11]에서 Unique ID = 001 이라고 표시된 이동객체 영역이 추적대상 이동객체 영역으로 설정된 경우에는 PTZ 카메라에 대해 500 % 줌 제어를 수행한다. 또한, [도 11]에서 Unique ID = 003 이라고 표시된 이동객체 영역이 추적대상 이동객체 영역으로 설정된 경우라면 PTZ 카메라에 대해 200 % 줌 제어를 수행한다.
본 발명에서 압축영상의 신택스에 기초하여 PTZ 카메라의 객체 추적 제어를 수행하는 과정에 대해서는 [도 4] 내지 [도 12]를 참조하여 좀더 구체적으로 후술한다. 먼저, 압축영상으로부터 신택스에 의해 이동객체 영역을 식별하는 과정에 대해 [도 4] 내지 [도 8]을 참조하여 상세하게 기술한다. 또한, 이렇게 식별된 이동객체 영역을 PTZ 카메라에 대한 객체 추적 제어에 활용하는 과정에 대해 [도 9] 내지 [도 12]를 참조하여 상세하게 기술한다.
[도 4]는 본 발명에서 압축영상으로부터 유효 움직임을 검출하는 과정의 구현 예를 나타내는 순서도이고, [도 5]는 CCTV 압축영상에 대해 본 발명에 따른 유효 움직임 영역 검출 과정이 적용된 결과의 일 예를 나타내는 도면이다. [도 4]의 프로세스는 [도 3]에서 단계 (S100)에 대응한다.
단계 (S110) : 먼저, 압축영상의 코딩 유닛을 파싱하여 모션벡터 및 코딩유형을 획득한다. [도 1]을 참조하면, 동영상 디코딩 장치는 압축영상의 스트림에 대해 H.264 AVC 및 H.265 HEVC 등과 같은 동영상압축 표준에 따라 구문분석(헤더 파싱) 및 모션벡터 연산을 수행한다. 이러한 과정을 통하여 압축영상의 코딩 유닛에 대하여 모션벡터와 코딩유형을 파싱해낸다.
단계 (S120) : 다음으로, 각각의 모션벡터에 대해 글로벌 모션벡터(global motion vector)를 차감 처리한다. 본 명세서에서 글로벌 모션벡터란 해당 프레임으로부터 획득된 전체 모션벡터의 평균값을 의미한다. 바람직하게는 해당 프레임에서 획득한 모션벡터를 합산하고 해당 프레임에 속하는 영상 블록의 전체 갯수로 나눈 값을 글로벌 모션벡터로 설정할 수 있다.
PTZ 카메라가 패닝, 틸팅, 줌의 하나 이상을 변경하고 있는 도중에서는 촬영 영상이 전체적으로 특정 방향성에 따라 변경된다. 이 경우에는 대부분의 영상 블록에 대해 모션벡터가 도출되므로 글로벌 모션벡터는 유의미한 값으로 얻어지고 촬영 영상 전체의 방향성을 반영한다. 각각의 모션벡터에 대해 글로벌 모션벡터를 차감해주면 PTZ 동작으로 인하여 얻어진 모션벡터는 상쇄되고 순수하게 무언가 움직이는 내용이 있는 영상블록에 대해서만 PTZ 동작에 의한 영상 전체의 방향성이 제거된 상태로 모션 벡터가 남는다. 이를 통해 PTZ 카메라가 패닝, 틸팅, 줌 동작 중인 동안에도 이동객체를 추출 및 추적할 수 있다.
한편, PTZ 카메라가 패닝, 틸팅, 줌의 어느 것도 하지 않고 가만히 있는 동안에는 글로벌 모션벡터가 별다른 영향을 미치지 않아야 한다. 이 동안에는 촬영 영상에서 일부 소수의 영상 블록에서만 모션벡터가 도출될 뿐, 대부분의 영상 블록에서는 모션벡터가 도출되지 않는다. 이 경우에는 글로벌 모션벡터는 0 에 가까운 아주 작은 값으로 얻어지므로 각각의 모션벡터에 대해 글로벌 모션벡터를 차감하더라도 유의미한 영향은 미치지 못한다.
단계 (S130) : 압축영상을 구성하는 복수의 영상 블록 별로 미리 설정된 시간(예: 500 ms) 동안의 모션벡터 누적값을 획득한다.
이 단계는 압축영상으로부터 실질적으로 의미를 인정할만한 유효 움직임, 예컨대 주행중인 자동차, 달려가는 사람, 서로 싸우는 군중들이 있다면 이를 검출하려는 의도를 가지고 제시되었다. 흔들리는 나뭇잎, 잠시 나타나는 고스트, 빛의 반사에 의해 약간씩 변하는 그림자 등은 비록 움직임은 있지만 실질적으로는 무의미한 객체이므로 검출되지 않도록 한다.
이를 위해, 미리 설정된 일정 시간(예: 500 msec) 동안 하나이상의 영상 블록 단위로 모션벡터를 누적시켜 모션벡터 누적값을 획득한다. 이때, 영상 블록은 매크로블록과 서브블록을 포함하는 개념으로 사용된 것이다.
단계 (S140, S150) : 복수의 영상 블록에 대하여 모션벡터 누적값을 미리 설정된 제 1 임계치(예: 20)와 비교하며, 제 1 임계치를 초과하는 모션벡터 누적값을 갖는 영상 블록을 이동객체 영역으로 마킹한다.
만일 이처럼 일정 이상의 모션벡터 누적값을 갖는 영상 블록이 발견되면 해당 영상 블록에서 무언가 유의미한 움직임, 즉 유효 움직임이 발견된 것으로 보고 이동객체 영역으로 마킹한다. 예컨대 영상관제 시스템에서 사람이 뛰어가는 정도로 관제 요원이 관심을 가질만한 가치가 있을 정도의 움직임을 선별하여 검출하려는 것이다. 반대로, 모션벡터가 발생하였더라도 일정 시간동안의 누적값이 제 1 임계치를 넘지 못할 정도로 작을 경우에는 영상에서의 변화가 그다지 크지않고 미미한 것으로 추정하고 검출 단계에서 무시한다.
[도 5]는 [도 4]의 과정을 통해 CCTV 압축영상으로부터 유효 움직임 영역을 검출한 결과를 시각적으로 나타낸 일 예이다. [도 5]에서는 제 1 임계치 이상의 모션벡터 누적값을 갖는 영상 블록이 이동객체 영역으로 마킹되어 붉은 색으로 표시되었다. [도 5]를 살펴보면 보도블럭이나 도로, 그리고 그림자가 있는 부분 등은 이동객체 영역으로 표시되지 않은 반면, 걷고있는 사람들이나 주행중인 자동차 등이 이동객체 영역으로 표시되었다.
[도 6]은 본 발명에서 이동객체 영역에 대한 바운더리 영역을 검출하는 과정의 구현 예를 나타내는 순서도이고, [도 7]은 유효 움직임 영역 검출 과정을 수행한 [도 5]의 CCTV 영상 이미지에 대해 [도 6]에 따른 바운더리 영역 검출 과정을 더 적용된 결과의 일 예를 나타내는 도면이다. [도 6]의 프로세스는 [도 3]에서 단계 (S200)에 대응한다.
앞서의 [도 5]를 살펴보면 이동객체가 제대로 마킹되지 않았으며 일부에 대해서만 마킹이 이루어진 것을 발견할 수 있다. 즉, 걷고있는 사람이나 주행중인 자동차를 살펴보면 객체의 전부가 마킹된 것이 아니라 일부 블록만 마킹되었다는 것을 발견할 수 있다. 또한, 하나의 이동객체에 대해 복수의 이동객체 영역이 마킹된 것도 많이 발견된다. 이는 앞의 (S100)에서 채택한 이동객체 영역의 판단 기준이 일반 영역을 필터링 아웃하는 데에는 유용하지만 상당히 엄격한 조건이었음을 의미한다. 따라서, 이동객체 영역을 중심으로 그 주변을 살펴봄으로써 이동객체의 바운더리를 검출하는 과정이 필요하다.
단계 (S210) : 먼저, 앞의 (S100)에 의해 이동객체 영역으로 마킹된 영상 블록을 중심으로 하여 인접하는 복수의 영상 블록을 식별한다. 이들은 본 명세서에서는 편이상 '이웃 블록'이라고 부른다. 이들 이웃 블록은 (S100)에 의해서는 이동객체 영역으로 마킹되지 않은 부분인데, [도 6]의 프로세스에서는 이들에 대해 좀더 살펴봄으로써 이들 이웃 블록 중에서 이동객체 영역의 바운더리에 포함될만한 것이 있는지 확인하려는 것이다.
단계 (S220, S230) : 복수의 이웃 블록에 대하여 모션벡터 값을 미리 설정된 제 2 임계치(예: 0)와 비교하고, 제 2 임계치를 초과하는 모션벡터 값을 갖는 이웃 블록을 이동객체 영역으로 마킹한다. 실질적으로 의미를 부여할만한 유효 움직임이 인정된 이동객체 영역에 인접하여 위치하고 그 자신에 대해서도 어느 정도의 움직임이 발견되고 있다면 그 영상 블록은 촬영 영상의 특성상 그 인접한 이동객체 영역과 한 덩어리일 가능성이 높다. 따라서, 이러한 이웃 블록도 이동객체 영역이라고 마킹한다.
단계 (S240) : 또한, 복수의 이웃 블록 중에서 코딩유형이 인트라 픽쳐인 것을 이동객체 영역으로 마킹한다. 인트라 픽쳐의 경우에는 모션벡터가 존재하지 않기 때문에 해당 이웃 블록에 움직임이 존재하는지 여부를 모션벡터에 기초하여 판단하는 것이 원천적으로 불가능하다. 이 경우에 이동객체 영역으로 이미 검출된 영상 블록에 인접 위치하는 인트라 픽쳐는 일단 기 추출된 이동객체 영역의 설정을 그대로 유지해주는 편이 안전하다.
[도 7]은 CCTV 압축영상에 바운더리 영역 검출 과정까지 적용된 결과를 시각적으로 나타낸 도면인데, 이상의 과정을 통해 이동객체 영역으로 마킹된 다수의 영상 블록을 파란 색으로 표시하였다. [도 7]을 살펴보면, 앞서 [도 5]에서 붉은 색으로 표시되었던 이동객체 영역의 근방으로 파란 색의 이동객체 영역은 좀더 확장되었으며 이를 통해 CCTV로 촬영된 영상과 비교할 때 이동객체를 전부 커버할 정도가 되었다는 사실을 발견할 수 있다.
[도 8]은 [도 7]에 나타낸 바운더리 영역 검출 과정을 적용한 CCTV 영상 이미지에 대해 본 발명에 따라 인터폴레이션을 통해 이동객체 영역을 정리한 결과의 일 예를 나타내는 도면이다.
단계 (S300)은 앞의 (S100)과 (S200)에서 검출된 이동객체 영역에 인터폴레이션을 적용하여 이동객체 영역의 분할을 정리하는 과정이다. [도 7]을 살펴보면 파란 색으로 표시된 이동객체 영역 사이사이에 비마킹 영상 블록이 발견된다. 이렇게 중간중간에 비마킹 영상 블록이 존재하게 되면 이들이 다수의 개별적인 이동객체인 것처럼 간주될 수 있다. 이렇게 이동객체 영역이 파편화되면 단계 (S500)의 결과가 부정확해질 수 있고 이동객체 영역의 갯수가 많아져서 단계 (S500) 내지 단계 (S700)의 프로세스가 복잡해지는 문제도 있다.
그에 따라, 본 발명에서는 이동객체 영역으로 마킹된 복수의 영상 블록으로 둘러싸여 하나 혹은 소수의 비마킹 영상 블록이 존재한다면 이는 이동객체 영역으로 마킹하는데, 이를 인터폴레이션이라고 부른다. [도 7]과 대비하여 [도 8]을 살펴보면, 이동객체 영역 사이사이에 존재하던 비마킹 영상 블록이 모두 이동객체 영역이라고 마킹되었다. 이를 통해, 관제 요원이 참고하기에 좀더 직관적이고 정확한 이동객체 검출 결과를 도출할 수 있게 되었다.
[도 5]와 [도 8]을 비교하면 바운더리 영역 검출 과정과 인터폴레이션 과정을 거치면서 이동객체 영역이 실제 영상의 상황을 제대로 반영하게 되어간다는 사실을 발견할 수 있다. [도 5]에서 붉은 색으로 마킹된 덩어리로 판단한다면 영상 화면 속에 아주 작은 물체들이 다수 움직이는 것처럼 다루어질 것인데, 이는 실제와는 부합하지 않는다. 반면, [도 8]에서 파란 색으로 마킹된 덩어리로 판단한다면 어느 정도의 부피를 갖는 몇 개의 이동객체가 존재하는 것으로 다루어질 것이어서 실제 장면을 유사하게 반영한다.
[도 9]는 본 발명에서 추적대상 이동객체 영역에 대하여 PTZ 카메라를 객체 추적 제어하는 과정의 구현 예를 나타내는 순서도로서, [도 3]에서 단계 (S500) 내지 단계 (S700)에 대응한다.
전술한 바와 같이 본 발명은 압축영상에서 바로 얻을 수 있는 신택스 정보에 기초하여 이동객체 영역을 추출한다. 종래기술의 압축영상을 디코딩하여 원본 영상에 대해 차영상을 획득하여 분석하는 과정이 불필요하게 되었으며, 이를 통해 발명자의 테스트에 따르면 최대 20배의 처리속도 개선을 이루었다. 그러나, 이러한 접근방식은 정밀도가 떨어진다는 약점이 있다. 이동객체를 추출하는 것이 아니라 이동객체가 포함된 것으로 추정되는 영상 블록의 덩어리를 추출한다는 점에서 개념상 차이가 있다. 본 발명에서 이동객체 영역에 기초하여 PTZ 카메라를 객체 추적 제어하는 과정에도 이러한 특징을 반영하였다.
이하에서, 본 발명에서 채택하는 PTZ 카메라의 객체 추적 제어 과정의 일 실시예를 구체적으로 기술한다.
단계 (S410) : 먼저, 압축영상에서 신택스 기반으로 추출한 이동객체 영역에 대하여 Unique ID를 관리한다. 압축영상을 구성하는 각 영상 프레임에서 이동객체 영역이 도출되는데, 이는 영상 내용을 분석하여 객체(object)라고 판단한 것이 아니라 해당 영상 프레임 내에서 무언가 움직임이 있는 것처럼 보이는 이미지의 덩어리라는 개념이다.
그런데, 본 발명에서는 특정의 객체를 추종하면서 PTZ 카메라를 패닝, 틸팅, 줌 제어를 해야 하기 때문에 영상 프레임이 진행될 때에 이전 프레임에서 추적 대상으로 설정된 이동객체 영역을 다음 프레임에서 지속적으로 식별해야 한다. 즉, 단순히 해당 프레임에서의 이미지 덩어리의 개념을 넘어서 마치 객체(object)처럼 다루어야 하는 것이다. 이에, 압축영상에서 도출되는 이동객체 영역에 대하여 Unique ID를 할당 및 관리함으로써 이동객체 영역을 단순히 영역(region)이 아니라 객체(object)처럼 다룰 수 있게 되고, 압축영상에서 일련의 프레임 이미지를 넘어가면서 특정 객체의 움직임을 추적할 수 있다.
이동객체 영역의 Unique ID 관리는 아래의 3가지 경우로 다루어진다. 이전의 프레임에서 Unique ID가 할당되었기에 현재 프레임 이미지에서는 ID 할당 상태인 이동객체 영역을 식별하는 경우(S411), 이전의 프레임에서 식별된 적이 없기에 현재 프레임 이미지에서 ID 미할당 상태로 식별되는 이동객체 영역에 대해 Unique ID 신규 할당하는 경우(S412), 이전의 프레임에서 Unique ID가 할당되었으나 현재 프레임 이미지에서 사라진 이동객체 영역이 식별되어 그 할당하였던 Unique ID를 리보크(revoke)하는 경우(S413)이다.
그런데, 압축영상을 구성하는 일련의 프레임 이미지에서 이전 프레임에서 이동객체 영역이라고 마킹되어진 영상 블록의 덩어리가 앞뒤 프레임 간에 동일 객체에 관한 것인지 아닌지를 판단할 수 있어야 한다. 그래야, 현재 프레임에서 다루고 있는 이동객체 영역에 대해 이전에 Unique ID가 할당되어 있었는지 여부를 판단할 수 있기 때문이다.
본 발명에서는 원본 영상의 내용을 해석하지 않고 영상 블록이 이동객체 영역인지 여부만 체크하였기 때문에 앞뒤의 영상 프레임에서 이동객체 영역의 덩어리가 실제로 동일한지 아닌지 확인할 수 없다. 즉, 이동객체 영역의 내용을 파악하지 않기 때문에 예컨대 동일 지점에서 앞뒤 프레임 간에 고양이가 개로 치환되었을 때에 그러한 변화를 식별하지 못한다. 하지만, 프레임 간의 시간간격이 매우 짧다는 점과 CCTV 카메라의 관찰 대상은 통상의 속도로 움직인다는 점을 감안하면 이러한 일이 벌어질 가능성은 배제 가능하다.
이에, 본 발명에서는 앞뒤 프레임에서 이동객체 영역의 덩어리 간에 중첩되는 영상 블록의 비율 혹은 갯수가 일정 임계치 이상인 것들을 동일한 이동객체 영역이라고 추정한다. 이러한 접근방식에 의하면 영상 내용을 모르더라도 기존에 식별했던 이동객체 영역이 움직인 것인지 아니면 새로운 이동객체 영역이 신규로 발견된 것인지 아니면 기존의 이동객체 영역이 사라진 것인지 판단할 수 있다. 이러한 판단은 정확도는 종래기술에 비해 낮지만 데이터 처리 속도를 획기적으로 높일 수 있어 실제 적용에서 유리하다.
단계 (S411)에서, 이전의 프레임에서 Unique ID가 할당되었던 이동객체 영역을 현재 프레임 이미지에서 식별한 경우에는 기 할당된 Unique ID를 해당 이동객체 영역에 할당 유지한다. 구현 예에 따라서 Unique ID의 관리 데이터베이스에 그 식별 사실을 마킹 처리할 수 있다.
단계 (S412)에서, 이전의 프레임에서 식별된 적이 없기에 현재 프레임 이미지에서 ID 미할당 상태인 이동객체 영역을 새롭게 발견한 경우에는 해당 이동객체 영역에 대해 Unique ID를 신규 할당해준다. 이는 영상에서 새로운 이동객체가 발견된 상황을 의미한다. [도 11]과 [도 12]는 CCTV 촬영 영상에 세 개의 이동객체 영역에 Unique ID가 할당되어 있는 예를 나타낸다.
단계 (S413)에서, 압축영상의 이전의 프레임에서 Unique ID가 할당되었던 이동객체 영역이 현재 프레임 이미지에서 사라진 경우에 해당 이동객체 영역에 대해 이전의 프레임과 관련하여 단계 (S412)에서 할당하였고 단계 (S411)에서 유지 관리해주었던 Unique ID를 리보크 처리한다. 즉, 이전에 발견하여 관리해왔던 이동객체가 영상에서 사라진 것이다.
단계 (S420) : 앞서 [도 3]의 단계 (S400)에서 예컨대 관제요원의 마우스 조작에 의하여 CCTV 촬영영상에서 특정의 이동객체 영역이 추적대상 이동객체 영역으로 설정되었다. 추적대상 이동객체 영역은 현재 프레임에서 설정될 수도 있고 이전 프레임에서 이미 설정되었을 수도 있다.
이에, 단계 (S420)에서는 현재 프레임 이미지에서 그 추적대상 이동객체 영역에 할당된 Unique ID를 식별하는데, 이를 편이상 '추적대상 Unique ID'라고 부른다. 압축영상에서 프레임 이미지가 하나씩 진행되는 과정에서 각각의 프레임 이미지에서 식별되는 이동객체 영역에 대해 단계 (S410)을 통해 Unique ID가 할당 및 관리된다. 이전 프레임에서 식별되었던 이동객체 영역, 현재 프레임에서 새롭게 식별된 이동객체 영역, 이전 프레임에서 식별되었으나 현재 프레임에서 사라진 이동객체 영역을 구분하여 Unique ID를 관리한다. 따라서, 추적대상 이동객체 영역이 현재 프레임에서 사라져버린 것이 아니라면 추적대상 이동객체 영역의 Unique ID를 식별할 수 있다.
단계 (S430 ~ S450) : 현재 프레임 이미지에서 그 추적대상 Unique ID 값이 할당된 이동객체 영역의 위치 정보와 크기 정보를 도출하는데, 이는 [도 3]의 단계 (S500)에 대응한다. [도 11]과 [도 12]는 이동객체 영역에 대해 크기 정보와 위치 정보가 식별된 예를 나타낸다. 위치정보는 해당 영상블록의 영상 내 위치를 의미하는데 [도 11]과 같이 좌상단 좌표로 설정할 수도 있고 [도 12]와 같이 중심 좌표로 설정할 수도 있다. 크기 정보로는 [도 11]과 같이 이동객체 영역을 최적으로 둘러싸는 사각형 사이즈로 설정할 수 있다.
다음으로, 추적대상 이동객체 영역의 위치 정보를 이용하여 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행하고, 추적대상 이동객체 영역의 크기 정보를 이용하여 PTZ 카메라에 대한 줌 제어를 수행한다. 이 과정에 대해서는 [도 3]의 단계 (S600) 및 단계 (S700)에서 전술한 바 있다.
한편, 본 발명은 컴퓨터가 읽을 수 있는 비휘발성 기록매체에 컴퓨터가 읽을 수 있는 코드의 형태로 구현되는 것이 가능하다. 이러한 비휘발성 기록매체로는 다양한 형태의 스토리지 장치가 존재하는데 예컨대 하드디스크, SSD, CD-ROM, NAS, 자기테이프, 웹디스크, 클라우드 디스크 등이 있고 네트워크로 연결된 다수의 스토리지 장치에 코드가 분산 저장되고 실행되는 형태도 구현될 수 있다. 또한, 본 발명은 하드웨어와 결합되어 특정의 절차를 실행시키기 위하여 매체에 저장된 컴퓨터프로그램의 형태로 구현될 수도 있다.

Claims (9)

  1. 압축영상의 비트스트림을 파싱하여 코딩 유닛에 대한 모션벡터 및 코딩유형을 획득하는 제 1 단계;
    각각의 프레임 별로 모션벡터의 평균값에 해당하는 글로벌 모션벡터를 산출하는 단계;
    상기 제 1 단계에서 획득된 모션벡터에 대해 해당 프레임에 대해 산출된 상기 글로벌 모션벡터를 차감 처리하는 단계;
    압축영상을 구성하는 복수의 영상 블록 별로 미리 설정된 시간동안의 모션벡터 누적값을 획득하는 제 2 단계;
    상기 복수의 영상 블록에 대하여 상기 모션벡터 누적값을 미리 설정된 제 1 임계치와 비교하는 제 3 단계;
    상기 제 1 임계치를 초과하는 모션벡터 누적값을 갖는 영상 블록을 이동객체 영역으로 마킹하는 제 4 단계;
    상기 이동객체 영역을 중심으로 그 인접하는 복수의 영상 블록(이하, '이웃 블록'이라 함)을 식별하는 제 a 단계;
    상기 복수의 이웃 블록에 대하여 상기 제 1 단계에서 획득된 모션벡터 값을 미리 설정된 제 2 임계치와 비교하는 제 b 단계;
    상기 복수의 이웃 블록 중에서 상기 제 b 단계의 비교 결과 상기 제 2 임계치를 초과하는 모션벡터 값을 갖는 이웃 블록을 이동객체 영역으로 추가 마킹하는 제 c 단계;
    상기 압축영상에서 상기 이동객체 영역으로 마킹된 영상 블록들이 서로 연결되어 뭉쳐진 덩어리를 상기 압축영상에서 추출된 이동객체 영역으로 설정하는 제 5A 단계;
    상기 마킹된 하나이상의 이동객체 영역 중에서 PTZ 카메라가 추적할 대상인 추적대상 이동객체 영역을 식별하는 제 5B 단계;
    현재 프레임 이미지에서 상기 추적대상 이동객체 영역에 대한 위치 정보와 크기 정보를 획득하는 제 6 단계;
    상기 추적대상 이동객체 영역의 위치 정보에 기초하여 상기 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행하는 제 7 단계;
    상기 추적대상 이동객체 영역의 크기 정보를 이용하여 상기 PTZ 카메라에 대한 줌 제어를 수행하는 제 8 단계;
    를 포함하여 구성되는 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법.
  2. 삭제
  3. 청구항 1에 있어서,
    상기 글로벌 모션벡터는 해당 프레임에서 획득한 모든 모션벡터를 합산하고 해당 프레임에 속하는 영상 블록의 전체 갯수로 나눈 값으로 산출되는 것을 특징으로 하는 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법.
  4. 청구항 1에 있어서,
    상기 제 7 단계는 상기 추적대상 이동객체 영역이 압축영상에서 미리 설정된 관찰지점에 위치하도록 상기 PTZ 카메라에 대해 패닝 및 틸팅 제어를 수행하도록 구성된 것을 특징으로 하는 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법.
  5. 청구항 4에 있어서,
    상기 제 8 단계는 상기 추적대상 이동객체 영역이 압축영상에서 미리 설정된 관찰크기가 되도록 상기 PTZ 카메라에 대해 줌 제어를 수행하도록 구성된 것을 특징으로 하는 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법.
  6. 삭제
  7. 청구항 1에 있어서,
    상기 제 c 단계 이후에 수행되는,
    상기 복수의 이웃 블록 중에서 코딩유형이 인트라 픽쳐인 이웃 블록을 이동객체 영역으로 추가 마킹하는 제 d 단계;
    를 더 포함하여 구성되는 것을 특징으로 하는 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법.
  8. 청구항 7에 있어서,
    상기 제 d 단계 이후에 수행되는,
    상기 복수의 이동객체 영역에 대하여 인터폴레이션을 수행하여 이동객체 영역으로 둘러싸인 미리 설정된 갯수 이하의 비마킹 영상 블록을 이동객체 영역으로 추가 마킹하는 제 e 단계;
    를 더 포함하여 구성되는 것을 특징으로 하는 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법.
  9. 하드웨어와 결합되어 청구항 1, 3 내지 5, 7, 8 중 어느 하나의 항에 따른 압축영상에 대한 신택스 기반의 PTZ 카메라의 객체 추적 제어 방법을 실행시키기 위하여 매체에 저장된 컴퓨터프로그램.
KR1020180088402A 2018-07-30 2018-07-30 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법 KR102080456B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020180088402A KR102080456B1 (ko) 2018-07-30 2018-07-30 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법
PCT/KR2019/009373 WO2020027512A1 (ko) 2018-07-30 2019-07-29 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180088402A KR102080456B1 (ko) 2018-07-30 2018-07-30 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법

Publications (2)

Publication Number Publication Date
KR20200013335A KR20200013335A (ko) 2020-02-07
KR102080456B1 true KR102080456B1 (ko) 2020-02-24

Family

ID=69232271

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180088402A KR102080456B1 (ko) 2018-07-30 2018-07-30 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법

Country Status (2)

Country Link
KR (1) KR102080456B1 (ko)
WO (1) WO2020027512A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113163254B (zh) * 2021-04-06 2023-03-28 广州津虹网络传媒有限公司 直播图像处理方法、装置及电子设备
KR102462837B1 (ko) * 2022-07-14 2022-11-04 주식회사 에이스엘이디 원/근거리 객체를 자동추적 및 인식하기 위한 인공지능 영상 촬영 시스템 및 그 구동방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002262296A (ja) * 2001-02-28 2002-09-13 Mitsubishi Electric Corp 移動物体検出装置、および画像監視システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09252467A (ja) * 1996-03-18 1997-09-22 Toshiba Corp 移動体検出装置
US6553150B1 (en) * 2000-04-25 2003-04-22 Hewlett-Packard Development Co., Lp Image sequence compression featuring independently coded regions
JP4561845B2 (ja) * 2008-02-29 2010-10-13 カシオ計算機株式会社 撮像装置と画像処理プログラム
EP3214833B1 (en) * 2016-03-01 2018-02-28 Axis AB A method and device for controlling a camera capable of pan and tilt control

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002262296A (ja) * 2001-02-28 2002-09-13 Mitsubishi Electric Corp 移動物体検出装置、および画像監視システム

Also Published As

Publication number Publication date
KR20200013335A (ko) 2020-02-07
WO2020027512A1 (ko) 2020-02-06

Similar Documents

Publication Publication Date Title
EP3024227B1 (en) Image processing apparatus and image processing method
JP6088541B2 (ja) クラウドベースの映像監視管理システム
KR101949676B1 (ko) 압축영상에 대한 신택스 기반의 객체 침입 감지 방법
KR102090785B1 (ko) 압축영상에 대한 신택스 기반의 영상분석 시스템과 연동 처리 방법
US10122984B2 (en) Pan/tilt/zoom camera based video playing method and apparatus
KR101861245B1 (ko) 멀티 센서 cctv 파노라마 영상에서 움직임 검출 시스템 및 방법
KR102080456B1 (ko) 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법
KR102187376B1 (ko) 딥러닝 이미지 분석과 연동하는 신택스 기반의 선별 관제 제공 방법
KR20130089029A (ko) 이중 영상압축 이미지 추적 장치
KR102090775B1 (ko) 압축영상에 대한 신택스 기반의 이동객체 영역 추출 방법
KR102015082B1 (ko) 압축영상에 대한 신택스 기반의 객체 추적 방법
KR102015084B1 (ko) 압축영상에 대한 신택스 기반의 도로 역주행 감지 방법
KR102042397B1 (ko) 압축영상에 대한 신택스 기반의 히트맵 생성 방법
KR20190026625A (ko) 영상 표시 방법 및 컴퓨터 프로그램, 그 기록매체
US10769907B2 (en) Counter-flow detection in compressed video
KR102177494B1 (ko) 모션벡터의 궤적 및 패턴을 이용한 압축영상의 이상모션 객체 식별 방법
KR102015078B1 (ko) 압축영상에 대한 신택스 기반의 객체 배회 감지 방법
KR102090782B1 (ko) 압축영상에 대한 신택스 기반의 객체 월담 감지 방법
JP3758511B2 (ja) 物体検出装置及び物体検出プログラム
KR102178952B1 (ko) 압축영상에 대한 신택스 기반의 mrpn-cnn을 이용한 객체 분류 방법
KR102585167B1 (ko) 압축영상에 대한 신택스 기반의 동일인 분석 방법
KR102343029B1 (ko) 모션벡터 기반 분기처리를 이용한 압축영상의 영상분석 처리 방법
KR102594803B1 (ko) 압축영상에 대한 신택스 기반의 동일인 검색 방법
KR102153093B1 (ko) 컨텍스트를 고려한 압축영상에 대한 신택스 기반의 이동객체 영역 추출 방법
JP2016051236A (ja) 画像処理装置、画像処理方法およびそれを用いた検査方法。

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant