KR101675798B1 - 객체 수 추정 장치 및 방법 - Google Patents

객체 수 추정 장치 및 방법 Download PDF

Info

Publication number
KR101675798B1
KR101675798B1 KR1020110052388A KR20110052388A KR101675798B1 KR 101675798 B1 KR101675798 B1 KR 101675798B1 KR 1020110052388 A KR1020110052388 A KR 1020110052388A KR 20110052388 A KR20110052388 A KR 20110052388A KR 101675798 B1 KR101675798 B1 KR 101675798B1
Authority
KR
South Korea
Prior art keywords
feature
foreground region
linear regression
unit
image
Prior art date
Application number
KR1020110052388A
Other languages
English (en)
Other versions
KR20120133646A (ko
Inventor
조영관
노승인
박용진
한준희
Original Assignee
한화테크윈 주식회사
포항공과대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한화테크윈 주식회사, 포항공과대학교 산학협력단 filed Critical 한화테크윈 주식회사
Priority to KR1020110052388A priority Critical patent/KR101675798B1/ko
Priority to US13/458,390 priority patent/US8798369B2/en
Publication of KR20120133646A publication Critical patent/KR20120133646A/ko
Application granted granted Critical
Publication of KR101675798B1 publication Critical patent/KR101675798B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30242Counting objects in image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 영상 내에 포함된 객체 수를 추정하는 장치 및 방법에 관한 것이다. 객체 수 추정 장치는 임의의 영상을 학습하여 선형 회귀함수의 계수값을 계산하는 학습부; 입력되는 영상으로부터 전경영역과 배경영역을 분리하는 분리부; 상관도가 높은 특징들 중 계산량이 작은 것들을 미리 찾아 내어 이들을 상기 분리된 전경영역으로부터 추출하는 추출부; 및 상기 학습부에서 계산된 선형 회귀 함수의 계수값 및 상기 추출부에서 추출된 특징들을 선형 회귀 분석 함수의 독립변수로 할당하여 종속변수로써의 객체 수를 추정하는 추정부를 포함한다.

Description

객체 수 추정 장치 및 방법{Apparatus and method for estimating the number of object}
본 발명은 영상 내에 포함된 객체 수를 추정하는 장치 및 방법에 관한 것이다.
영상 감시 시스템 즉, CCTV를 이용하여 객체 수를 계수하는 시스템은 두 가지 용도로 사용될 수 있다. 하나는 가상의 선을 통과하는 객체를 계수하는 방법을 사용하여 임의의 장소에 출입하는 객체의 수를 파악하거나, 출입을 관리할 수 있고, 다른 하나는 특정 영역 내에 존재하는 객체의 수를 계수하여 특정 장소 예를 들어 쇼핑 센터에서 소비자의 선호도 분석 등에 적용할 수 있다.
본 발명이 해결하고자 하는 기술적인 과제는 임의의 공간을 조망하는 감시 카메라로부터 전송된 영상 내에 있는 객체의 수를 추정하는 장치 및 방법을 제공하는데 있다.
본 발명이 이루고자 하는 기술적인 과제를 해결하기 위한 일 실시 예에 따른 객체 수 추정 장치는 임의의 영상을 학습하여 선형 회귀함수의 계수값을 계산하는 학습부; 입력되는 영상으로부터 전경영역과 배경영역을 분리하는 분리부; 상관도가 높은 특징들 중 계산량이 작은 것들을 미리 찾아 내어 이들을 상기 분리된 전경영역으로부터 추출하는 추출부; 및 상기 학습부에서 계산된 선형 회귀 함수의 계수값 및 상기 추출부에서 추출된 특징들을 선형 회귀 분석 함수의 독립변수로 할당하여 종속변수로써의 객체 수를 추정하는 추정부를 포함하는 것이 바람직하다.
본 발명에 있어서, 상기 학습 및 객체 수 추정은 각각 독립적인 장소에서 수행할 수 있다.
본 발명에 있어서, 상기 학습부는 상기 임의의 영상에서 계산된 객체의 수를 선형 회귀함수의 종속변수로 할당하고, 상기 영상에서 분리된 전경영역으로부터 추출된 상기 특징들을 상기 선형 회귀함수의 독립변수로 할당하여 계수값을 계산할 수 있다.
본 발명에 있어서, 상기 분리부는 상기 영상의 각 화소 밝기 분포를 가우시안 혼합 모델을 사용하여 근사화 하고, 상기 영상의 각 화소를 상기 근사화된 모델 변수값을 이용하여 측정된 화소가 전경영역인지 배경영역인지 실시간으로 구분할 수 있다.
본 발명에 있어서, 상기 추출부는 상기 전경영역 내의 화소수를 나타내는 제1 특징; 상기 전경영역 및 배경영역의 경계에 위치하는 상기 전경영역의 화소수를 나타내는 제2 특징; 상기 제2 특징 상의 화소들에 대한 에지 법선 벡터 방향의 히스토그램을 나타내는 제3 특징; 및 상기 전경영역의 GLCM(gray level co-occurrence matrix)로부터 얻은 확률 밀도함수를 이용하여 계산된 에너지를 나타내는 제4 특징을 추출할 수 있다.
본 발명에 있어서, 상기 제1 특징부터 상기 제4 특징까지 내림차순으로 우선 순위가 설정될 수 있다.
본 발명이 이루고자 하는 기술적인 과제를 해결하기 위한 다른 실시 예에 따른 객체 수 추정 방법은 (a) 임의의 영상을 학습하여 선형 회귀함수의 계수값을 계산하는 단계; (b) 입력되는 영상으로부터 전경영역과 배경영역을 분리하는 단계; (c) 상관도가 높은 특징들 중 계산량이 작은 것들을 미리 찾아 내어 이들을 상기 분리된 전경영역으로부터 추출하는 단계; 및 (d) 상기 학습된 선형 회귀 함수의 계수값 및 상기 추출된 특징들을 선형 회귀 분석 함수의 독립변수로 하여 종속변수로써의 객체 수를 추정하는 단계를 포함하는 것이 바람직하다.
본 발명에 있어서, 상기 (a)단계는 (a-1) 상기 임의의 영상에서 계산된 객체의 수를 선형 회귀함수의 종속변수로 할당하는 단계; (a-2) 상기 영상에서 분리된 전경영역으로부터 추출된 상기 특징들을 상기 선형 회귀함수의 독립변수로 할당하는 단계; 및 (a-3) 상기 선형 회귀함수의 종속변수 및 독립변수를 이용하여 계수값을 계산하는 단계를 포함할 수 있다.
본 발명에 있어서, 상기 (b)단계는 (b-1) 상기 영상의 각 화소 밝기 분포를 가우시안 혼합 모델을 사용하여 근사화 하는 단계; 및 (b-2) 상기 영상의 각 화소를 상기 근사화된 모델 변수값을 이용하여 측정된 화소가 전경영역인지 배경영역인지 실시간으로 구분하는 단계를 포함할 수 있다.
본 발명에 있어서, 상기 (c)단계에서 상기 전경영역 내의 화소수를 나타내는 제1 특징; 상기 전경영역 및 배경영역의 경계에 위치하는 상기 전경영역의 화소수를 나타내는 제2 특징; 상기 제2 특징 상의 화소들에 대한 에지 법선 벡터 방향의 히스토그램을 나타내는 제3 특징; 및 상기 전경영역의 GLCM(gray level co-occurrence matrix)로부터 얻은 확률 밀도함수를 이용하여 계산된 에너지를 나타내는 제4 특징을 추출할 수 있다.
본 발명에 있어서, 상기 제1 특징부터 상기 제4 특징까지 내림차순으로 우선 순위가 설정될 수 있다.
상술한 바와 같이 본 발명에 따르면, 객체 수를 추정을 위해 가우시안 혼합 모델, 12차원 특징 추출 및 선형 회귀 함수를 사용하여 객체체 수 추정 속도를 향상시키고 전경/배경 분리 시에 오류 발생을 저하시킬 수 있다.
도 1은 본 발명의 일 실시 예에 따른 객체 수 추정 장치가 사용되는 시스템을 개략적으로 나타낸 도면이다.
도 2는 본 발명의 일 실시 예에 따른 객체 수 추정 장치가 사용되는 감시 카메라를 나타내는 블록도이다.
도 3은 본 발명의 일 실시 예에 따른 객체 수 추정 장치의 상세 블록도 이다.
도 4는 도 3에서 전경영역과 배경영역을 분리한 예를 보이는 도면이다.
도 5는 본 발명의 다른 실시 예에 따른 객체 수 추정 방법 중 학습 단계의 동작을 보이는 흐름도 이다.
도 6는 본 발명의 일 실시 예에 따른 학습 단계에서 계산한 계수 값을 이용한 객체 수 추정 방법의 동작을 보이는 흐름도 이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 본 발명의 실시 예를 첨부도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 본 발명의 일 실시 예에 따른 객체 수 추정 장치가 사용되는 시스템을 개략적으로 나타낸 도면이다.
도 1을 참조하면, 복수 개의 감시 카메라들(100)이 네트워크(200)를 통해 호스트 장치(300)와 데이터를 주고받고 있다. 구체적으로, 감시 카메라들(100)은 통신 채널(DCOM)을 통하여 호스트 장치(300)와 통신하면서, 영상 데이터 채널(DIMA)을 통하여 라이브 뷰 동영상 데이터를 호스트 장치(300)에 전달한다. 물론 복수 개의 감시 카메라가 아닌 한 개의 감시 카메라만 호스트 장치(300)와 통신할 수도 있고, 한 개의 감시 카메라 또는 복수 개의 감시 카메라들이 복수 개의 호스트 장치(300)들과 통신할 수도 있는 등 다양한 변형이 가능함은 물론이다. 여기서 통신 채널(DCOM) 및 영상 데이터 채널(DIMA)을 형성하는 네트워크(200)는 유선 또는 무선으로 데이터나 명령을 송수신할 수 있는 모든 수단이 될 수 있다. 예를 들어, 네트워크(200)는 케이블을 통하여 유선으로 감시 카메라(100)와 호스트 장치(300)를 연결할 수도 있으며, 무선 랜 등을 사용하여 무선으로 감시 카메라(100)와 호스트 장치(300)를 연결할 수도 있다.
도 1에서는 호스트 장치(300)가 컴퓨터와 유사한 형태를 갖는 것으로 도시하고 있으나 본 실시 예에 따른 감시 카메라(100)가 도 1에 도시된 것과 같은 호스트 장치(300)와만 통신할 수 있는 것은 아니며, 디스플레이 화면을 갖는 장치라면 어떠한 것이든 가능함은 물론이다. 예를 들어, 호스트 장치(300)로 개인용 컴퓨터 등이 사용될 수도 있을 것이다. 호스트 장치(300)는 필요에 따라 감시 카메라(100)로부터의 라이브 뷰 동영상을 저장할 수도 있다.
도 2는 본 발명의 일 실시 예에 따른 객체 수 추정 장치가 사용되는 감시 카메라를 나타내는 블록도이다.
도 2를 참조하면, 본 실시 예에 따른 감시 카메라(100)는, 렌즈부(110), 촬상소자(111), 촬상소자 제어부(112), 드라이버(113), 모터(114), 사전 처리부(120), 영상 신호 처리부(121), 압축 신장부(122), CPU(130), ROM(131), RAM(132), 메모리 콘트롤러(133), 카메라 메모리(134), 카메라 조작부(140), 카메라 디스플레이부(150), 카메라 통신부(160) 등을 포함할 수 있다.
렌즈부(110)는 외부의 광 정보를 촬상소자(111)에 결상시키는 광학계 시스템으로, 피사체로부터의 광을 촬상소자(111)까지 투과시킨다. 렌즈부(110)는 초점거리를 변화시키는 줌 렌즈, 초점을 조절하는 포커스 렌즈 등의 렌즈군과 투과하는 광량을 조절하는 조리개 등으로 이루어진다.
렌즈부(110)에 포함되는 줌 렌즈, 조리개, 포커스 렌즈 등은 드라이버(113)로부터 구동신호를 인가받은 모터(114)에 의해 구동된다.
촬상소자(111)는 광전변환소자의 일례로서, 렌즈부(110)를 투과하여 입사된 영상광을 촬상하여 전기신호로 변환하는 광전 변환이 가능한 복수의 소자로 구성된다. 각 소자는 입사된 빛에 따른 전기신호를 생성하여 영상신호를 생성한다. 이때, 촬상소자(11)는 촬상소자 제어부(112)로부터의 타이밍 신호에 따라서 미리 설정된 주기로 프레임 영상을 촬상하여 영상신호를 주기적으로 생성한다. 촬상소자(111)는 CCD(charge coupled device) 센서, CMOS(complementary metal oxide semiconductor) 센서 등을 적용할 수 있다. 촬상소자(111)는 광전변환 및 Analog/Digital 변환에 의하여 생성한 디지털 신호를 사전 처리부(120)로 출력한다.
촬상소자 제어부(112)는 타이밍 신호를 생성하고, 타이밍 신호에 동기하여 상기 촬상소자(111)가 촬상하도록 제어한다.
사전 처리부(120)는 촬상소자(111)로부터 출력된 디지털 신호에 대해 처리를 하여 영상처리가 가능하게 되는 영상신호를 생성한다. 사전 처리부(120)는, 영상신호를 영상 신호 처리부(121)로 출력한다. 또한, 사전 처리부(120)는 RAM(132)으로의 영상 데이터의 읽기 및 쓰기를 제어한다.
영상 신호 처리부(121)는 사전 처리부(120)로부터 영상신호를 받아 WB 제어값, γ값, 윤곽 강조 제어값 등에 기초하여 영상 처리된 영상신호를 생성한다. 영상 처리된 영상신호는 압축 신장부(122)에 인가될 수 있다. 또는 영상 처리된 영상신호는 라이브 뷰 영상으로 사용될 수 있으며, RAM(132)을 거쳐서 카메라 디스플레이부(150)로 전송될 수도 있다.
한편, 본 실시 예에 따른 영상 신호 처리부(121)는 촬상소자(110)에서 주기적으로 촬상한 프레임 영상들로부터 전경영역과 배경영역을 분리하고, 전경영역에서 추출된 특징과 학습된 선형 회귀 함수 계수 값을 이용하여 객체 수를 추정한다. 상기 영상 신호 처리부(121)의 기능에 대하여는 도 3 및 도 4에 대한 설명에서 자세히 설명하도록 한다.
여기서, 객체 수 추정 기능을 수행하는 영상 신호 처리부(121)가 반드시 감시 카메라 내부에 포함되는 것은 아니다. 카메라 내부에서 영상 처리를 수행할 수 있는 하드웨어(예를 들어, CPU, DSP, RAM, 영상 처리용 칩 등)가 장착된 경우, 카메라 내부에서 객체 수 추정이 가능하다. 이 밖에 감시 카메라 외부에, 감시 카메라와 네트워크로 연결되어 영상을 실시간으로 수신할 수 있는 컴퓨터(미도시)와 같은 계산 장치에 영상 신호 처리부(121)를 구비하여 객체 수 추정 기능을 수행할 수도 있다.
압축 신장부(122)는 압축 처리 전의 영상신호를 수신하여, 예를 들면 MPEG, ACI, MOV, ASD 등의 압축 형식으로 영상신호를 압축 처리한다. 압축 신장부(122)는 압축 처리로 생성한 영상 데이터를 포함하는 영상 파일을 메모리 콘트롤러(133)로 전송한다. 또는 압축 신장부(122)는 영상 파일을 카메라 통신부(160)에 입력하고, 카메라 통신부(160)를 통하여 감시 카메라(110)를 제어하는 메인 서버(300) 등으로 전송할 수도 있다. 또한 압축 신장부(122)는 카메라 디스플레이부(150)를 구비하는 경우, 카메라 메모리(134)에 저장된 영상 파일을 추출한 후 신장 처리를 수행하여 카메라 디스플레이부(150)에서 재생될 수 있도록 한다.
CPU(130)는, 프로그램에 의해 연산처리장치 및 제어장치로서 기능하고, 감시 카메라(100) 내에 설치된 각 구성요소의 처리를 제어한다. CPU(130)는, 예를 들면 포커스 제어나 노출 제어에 기초하여 드라이버(113)로 신호를 출력하여 모터(114)를 구동시킨다. 또한, CPU(130)는 카메라 조작부(140)로부터의 신호에 기초하여 감시 카메라(100)의 각 구성요소를 제어한다. 또, 본 실시 예에서는, CPU(130)가 하나만으로 이루어진 구성이지만, 신호계의 명령과 조작계의 명령을 별도의 CPU에서 행하는 등 복수의 CPU로 구성되어도 된다.
ROM(read only memory, 131)은 촬영 조건 등과 관련된 사용자의 설정 데이터가 저장될 수 있다. 또한 ROM(131)은 CPU(130)에서 감시 카메라(100)를 제어하기 위하여 사용하는 알고리즘이 저장될 수 있다. 이러한 ROM(131)으로는 EEPROM(electrically erasable and programmable read only memory) 등이 사용될 수 있다.
RAM(random access memory, 132)은 사전 처리부(120)에서 출력된 영상신호, 영상 신호 처리부(121)에서 신호 처리 과정에서 생성되는 데이터 등, 각종 데이터를 일시적으로 저장하는 부분이다. RAM(132)으로 DRAM(dynamic RAM)을 사용할 수 있다.
메모리 컨트롤러(133)는 카메라 메모리(134)로의 영상 데이터의 기입, 또는 상기 카메라 메모리(134)에 기록된 영상 데이터나 설정 정보 등의 독출을 제어한다. 카메라 메모리(134)는, 예를 들면 광디스크(CD, DVD, 블루레이 디스크 등), 광자기 디스크, 자기 디스크, 반도체 기억 매체 등으로서, 촬영된 영상 데이터를 기록한다. 상기 영상 데이터는 압축 신장부(122)에서 생성된 영상 파일에 포함된 것일 수 있다. 메모리 콘트롤러(133), 카메라 메모리(134)는 감시 카메라(100)로부터 착탈 가능하게 구성되어도 좋다. 그러나 메모리 콘트롤러(133) 및 카메라 메모리(134)는 감시 카메라(100)에 반드시 설치되어야 하는 것은 아니며, 감시 카메라(100)가 네트워크(200)를 통하여 메인 서버(300)에 연결된 감시 카메라 등일 경우에는 감시 카메라(100)를 제어하는 메인 서버(300) 측에 영상 데이터 등을 저장하기 위한 서버 메모리(350)가 구비될 수 있을 것이다. 이때, 영상 데이터 등은 카메라 통신부(160)에 의하여 네트워크(200)를 통하여 감시 카메라(100)로부터 메인 서버(300)로 전송될 수 있을 것이다.
카메라 조작부(140)는, 예를 들면 감시 카메라(100)에 설치된 각종 버튼이나 레버 등을 포함하며, 사용자에 의한 조작에 기초하여 조작신호를 CPU(130) 등에 전송한다. 그러나 카메라 조작부(140)는 감시 카메라(100)에 반드시 설치되어야 하는 것은 아니며, 감시 카메라(100)가 네트워크(200)로 연결된 감시 카메라 등일 경우에는 감시 카메라(100)를 제어하는 메인 서버(300) 측에 서버 조작부(330)를 구비하고, 이를 통하여 인가되는 신호를 통하여 감시 카메라(100)의 동작을 제어할 수도 있을 것이다.
카메라 디스플레이부(150)는 촬영된 영상이나 촬영되어 카메라 메모리(134)에 저장된 영상, 또는 압축 신장부(122)에서 신장 처리된 영상 등을 표시한다. 또한 카메라 디스플레이부(150)는 감시 카메라(100)의 제어를 위한 각종 설정 화면 등이 표시될 수 있다.
카메라 통신부(160)는 감시 카메라(100)에서 촬영된 라이브 뷰 영상이나 촬영되어 카메라 메모리(134)에 저장된 영상을 유선 또는 무선 네트워크(200)를 통하여 외부 장치, 예를 들어 호스트 장치(300)로 전송한다. 또한 카메라 통신부(160)는 네트워크(200)를 통하여 호스트 장치(300)로부터 전송되는 각종 명령 신호를 수신한다.
도 3은 본 발명의 일 실시 예에 따른 객체 수 추정 장치가 구비된 영상 처리부(121)의 상세 블록도 이다.
영상 처리부(121)는 촬상소자(110)에서 주기적으로 촬상한 프레임 영상들로부터 전경영역과 배경영역을 분리하고, 전경영역에서 추출된 특징과 학습된 선형 회귀 함수 계수 값을 이용하여 객체 수를 추정한다. 이를 위해 영상 처리부(121)는 학습부(121-1), 전경/배경 분리부(121-2), 특징 추출부(121-3) 및 객체 수 추정부(121-4)를 포함한다.
학습부(121-1)는 학습되어 계산된 선형 회귀 함수의 계수값을 본 실시 예의 객체 수 추정에 이용하기 위해 적용한다. 이를 위해 학습 과정을 통한 계수값 산출을 다음과 같이 설명한다. 학습부(121-1)는 임의의 장소에서 획득한 영상 프레임을 가우시안 혼합 모델을 이용하여 전경영역과 배경영역으로 분리하고, 분리된 전경영역으로부터 12차원 특징을 추출한다. 이어서, 분리된 전경영역 내의 객체 수를 종속변수(Y)로 할당하고, 12차원 특징을 독립변수(X1∼X12)로 할당하여, 하기 수학식 1에 개시된 선형 회귀 함수에 적용한 후 계수값(C1∼C12)을 산출한다.
Figure 112011041033704-pat00001
수학식 1에서 종속변수 Y는 계수된 전경 영역 내의 객체 수를, 독립변수 X1∼X12는 12차원 특징값을 나타내고, C1∼C12는 객체 수 추정을 위한 계수값을 나타낸다. 실시간으로 입력되는 영상 프레임들로부터 다수의 선형 회귀 함수식이 생성되고, 이들로부터 계수값(C1∼C12)을 도출해 낼 수 있다. 이 학습된 계수값(C1∼C12)은 이후 선형 회귀 함수를 이용한 객체 수 추정 시에 실제 계수값으로 사용된다. 본 실시 예에서는 학습 장소는 객체 수 추정 장소와 각각 독립적이어도 무방하다. 학습부(121-1)에 개시된 가우시안 혼합 모델 및 12차원 특징을 추출은 하기에 상세하게 설명한다.
전경/배경 분리부(121-2)는 렌즈부(110)에서 주기적으로 촬상한 프레임 영상들로부터 전경영역과 배경영역을 분리한다. 도 4에는 프레임 영상(도 4a)으로부터 전경영역과 배경영역이 분리된 예(도 4b)를 보여준다. 도 4b에서 흰색부분은 분리된 전경영역을, 검은색 부분은 분리된 배경영역을 나타낸다.
전경/배경을 분리하는 방법에는 여러 가지가 있다. 예를 들어 연속된 두 영상 프레임을 비교하여 그 차이로부터 전경영역을 찾는 프레임 차이법(frame difference)이 있다. 다른 방법으로, 각 화소의 색 분포를 한 개의 가우시안 함수로 모델링하거나 여러 개의 가우시안 함수를 사용하여 모델링 할 수 있다. 또한 색 분포를 특정 함수로 모델링 하지 않고 확률 분포로만 표현하여 화소를 전경영역 또는 배경영역으로 분리하는 방법도 있다. 일반적으로 전경/배경 분리에는 색을 이용하지만, 색 이외에 에지(edge) 또는 텍스쳐(texture)를 이용하기도 한다. 텍스쳐를 이용하는 방법에는 "local binary pattern"이나 "mixture of dynamic texture"를 사용하는 방법 등이 있다.
본 실시 예에서는 수많은 전경/배경 분리 방법 중 가우시안 혼합 모델(gaussian mixture model: GMM)을 사용한다. 그러나, 반드시 가우시안 혼합 모델로 한정 되는 것은 아니며, 전경/배경 분리가 가능한 어떠한 알고리즘도 사용 가능하다. 가우시안 혼합 모델은 확률적 학습 방법을 사용하게 되는데, 영상의 각 화소 밝기 분포를 가우시안 혼합 모델을 사용하여 근사화 하고, 근사화된 모델 변수값을 이용하여 측정된 화소가 전경영역과 배경영역 중 어디에 속할지를 판단하게 된다. 가우시안 혼합 모델은 실시간으로 전경영역과 배경영역을 분리해 낼 수 있는 장점이 있다.
특징 추출부(121-3)는 상관도가 높은 특징들 중 계산량이 작은 것들(12차원 특징)을 미리 찾아 내어 이들을 분리된 전경영역으로부터 추출한다. 특징 추출부(121-3)가 추출하는 12가지 특징은 다음과 같다. 분리된 전경영역 내의 화소수를 나타내는 제1 특징, 분리된 전경영역 및 배경영역의 경계에 위치하는 상기 전경영역의 화소 수를 나타내는 제2 특징, 제2 특징 상의 화소들에 대한 에지 법선 벡터 방향의 히스토그램을 나타내는 제3 특징 및 분리된 전경영역의 GLCM(gray level co-occurrence matrix)로부터 얻은 확률 밀도함수를 이용하여 계산된 에너지를 나타내는 제4 특징이다. 여기서 제1 특징 및 제2 특징은 각각 1차원을, 제3 특징은 6차원을, 제4 특징은 4차원으로 구성되어 총 12 차원이 된다. 또한 제1 특징부터 제4 특징까지 내림차순으로 우선 순위가 설정될 수 있다.
예를 들어 상기에 개시된 "mixture of dynamic texture"를 이용하여 전경/배경을 분리하는 경우 전경영역을 대상으로 세그먼트 특징, 내부 에지 특징, 텍스쳐 특징 등을 포함하는 29차원의 특징을 추출하는데, 본 실시 예의 경우 특징 추출부(121-3)가 12차원의 특징을 추출하여 객체 계수 속도를 향상시킬 수 있다.
본 실시 예에서 특징의 차원을 감소시키는 방법은 계산 속도 향상뿐만 아니라 학습 시기에도 영향을 준다. 즉 일반적으로는 객체 계수 및 객체 계수 학습을 동일 장소에서 수행해야 하는 반면, 본 실시 예에서는 서로 독립 적인 곳에서 객체 개수와 학습을 가능하게 한다. 이유는 다음과 같다, 특징 공간의 크기는 29차원 공간이 12차원 공간 보다 크다. 회귀 함수 학습 결과, 특징 공간의 각 위치가 객체 계수값과 서로 대응된다. 객체 계수값과 대응되지 않는 특징 공간의 위치는 학습된 특징-객체 계수값 대응 관계로부터 추정된다. 그런데, 학습된 대응관계가 추정된 대응관계 보다 계수 정확도가 높다. 학습에 이용되는 영상의 수는 제한되어 있고, 29 차원의 특징 공간이 12 차원의 특징 공간 보다 더 크므로, 추정된 특징-객체 계수값 대응의 수가 29 차원이 더 크다. 따라서 "mixture of dynamic texture"의 경우 객체 계수 오차가 커질 수 있다. 그러나, 본 실시 예는 일반 기술에 비해 상대적으로 특징 공간이 더 작고, 추정된 특징-객체 계수값 대응의 수도 작다. 이는 객체 계수가 학습된 위치와 다른 곳에서 얻은 영상에서 추출된 특징을 이용해도 객체 계수 오차가 상대적으로 작다는 것을 의미한다.
객체 수 추정부(121-4)는 상기에 개시된 수학식 1을 이용하여, 학습부(121-1)에서 계산된 선형 회귀 함수의 계수값(C1∼C12) 및 특징 추출부(121-3)에서 추출된 12차원 특징들(X1∼X12)을 선형 회귀 분석 함수의 독립변수로 할당하여 종속변수로써의 객체 수(Y)를 추정한다.
이로써, 오차 발생을 저하시키면서 속도가 향상된 객체 수 추정을 실행할 수 있게 된다.
이어서, 도 5 및 도 6을 참조하여 본 발명의 일 실시 예에 따른 객체 수 추정 방법을 설명한다.
먼저, 도 5를 참조하여, 본 발명에 따른 객체 수 추정 방법 중 학습 단계를설명한다. 본 실시 예에서는 학습 장소가 상기에 개시된 바와 같이 객체 수 추정 장소와 각각 독립적이어도 무방하다.
먼저, 임의의 장소에서 획득한 영상 프레임을 가우시안 혼합 모델을 이용하여 전경영역과 배경영역으로 분리한다(510단계).
이후 분리된 전경영역으로부터 상기에 개시된 바와 같은 12차원 특징을 추출한다(520단계).
분리된 전경영역 내의 객체 수를 종속변수(Y)로 할당하고, 12차원 특징을 독립변수(X1∼X12)로 할당하여, 상기 수학식 1에 개시된 선형 회귀 함수에 적용한 후 계수값(C1∼C12)을 산출한다(530단계). 학습되어 산출된 계수값(C1∼C12)은 임의 장소에서 객체 추정 시에, 선형 회귀 함수의 실제 계수값으로 적용된다.
이어서, 도 6을 참조하여 본 발명에 따른 객체 수 추정 방법을 설명한다.
도 6을 참조하면, 촬상소자(110)에서 주기적으로 촬상한 프레임 영상들로부터 전경영역과 배경영역을 분리한다(610단계).
전경/배경을 분리하는 방법에는 프레임 차이법, 단일 가우시안 모델, 가우시안 혼합 모델, mixture of dynamic texture model 등 여러 가지가 있으며, 특히 본 실시 예에서는 가우시안 혼합 모델을 사용하여 전경영역과 배경영역을 분리한다.
이후, 상관도가 높은 특징들 중 계산량이 작은 것들 즉, 12차원의 특징을 미리 찾아 내어 이들을 상기 분리된 전경영역으로부터 추출한다(620단계).
추출하는 12가지 특징은 분리된 전경영역 내의 화소수를 나타내는 제1 특징, 분리된 전경영역 및 배경영역의 경계에 위치하는 상기 전경영역의 화소수를 나타내는 제2 특징, 제2 특징 상의 화소들에 대한 에지 법선 벡터 방향의 히스토그램을 나타내는 제3 특징 및 분리된 전경영역의 GLCM로부터 얻은 확률 밀도함수를 이용하여 계산된 에너지를 나타내는 제4 특징이다. 여기서 제1 특징 및 제2 특징은 각각 1차원을, 제3 특징은 6차원을, 제4 특징은 4차원으로 구성되어 총 12 차원이 된다. 또한 제1 특징부터 제4 특징까지 내림차순으로 우선 순위가 설정될 수 있다.
이후, 상기 수학식 1을 이용하여, 학습된 선형 회귀 함수의 계수값(C1∼C12) 및 상기 추출된 12차원 특징들을 선형 회귀 분석 함수의 독립변수(X1∼X12)로 할당하여 종속변수(Y)로써의 객체 수를 추정한다(630단계).
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
본 발명의 명세서(특히 특허청구범위에서)에서 “상기”의 용어 및 이와 유사한 지시 용어의 사용은 단수 및 복수 모두에 해당하는 것일 수 있다. 또한, 본 발명에서 범위(range)를 기재한 경우 상기 범위에 속하는 개별적인 값을 적용한 발명을 포함하는 것으로서(이에 반하는 기재가 없다면), 발명의 상세한 설명에 상기 범위를 구성하는 각 개별적인 값을 기재한 것과 같다. 마지막으로, 본 발명에 따른 방법을 구성하는 단계들에 대하여 명백하게 순서를 기재하거나 반하는 기재가 없다면, 상기 단계들은 적당한 순서로 행해질 수 있다. 반드시 상기 단계들의 기재 순서에 따라 본 발명이 한정되는 것은 아니다. 본 발명에서 모든 예들 또는 예시적인 용어(예들 들어, 등등)의 사용은 단순히 본 발명을 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 본 발명의 범위가 한정되는 것은 아니다. 또한, 당업자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 팩터에 따라 구성될 수 있음을 알 수 있다.
100 감시 카메라 200 네트워크
300 호스트 장치 111 렌즈부
111 촬상소자 112 촬상소자 제어부
113 드라이버 114 모터
120 사전 처리부 121 영상 신호 처리부
121-1 학습부 121-2 전경/배경 분리부
121-3 특징 추출부 121-4 객체 수 추정부
122 압축 신장부 130 CPU
131 ROM 132 RAM
133 메모리 컨트롤러 134 카메라 메모리
140 카메라 조작부 150 카메라 디스플레이부
160 카메라 통신부

Claims (11)

  1. 임의의 영상을 학습하여 선형 회귀함수의 계수값을 계산하는 학습부;
    입력되는 영상으로부터 전경영역과 배경영역을 분리하는 분리부;
    상기 분리부에서 분리한 전경영역으로부터 1차원으로 구성된 제1 특징 및 제2 특징과, 6차원으로 구성된 제3 특징과, 4차원으로 구성된 제4 특징을 추출하는 추출부; 및
    상기 학습부에서 계산한 선형 회귀 함수의 계수값 및 상기 추출부에서 추출한 상기 제1 특징 내지 상기 제4 특징을 선형 회귀 분석 함수의 독립변수로 할당하여 종속변수로써의 객체 수를 추정하는 추정부를 포함하는 객체 수 추정 장치.
  2. 삭제
  3. 청구항 3은(는) 설정등록료 납부시 포기되었습니다.
    제 1항에 있어서, 상기 학습부는
    상기 임의의 영상에서 계산된 객체의 수를 선형 회귀함수의 종속변수로 할당하고, 상기 영상에서 분리된 전경영역으로부터 추출된 상기 특징들을 상기 선형 회귀함수의 독립변수로 할당하여 계수값을 계산하는 객체 수 추정 장치.
  4. 삭제
  5. 청구항 5은(는) 설정등록료 납부시 포기되었습니다.
    제 1항에 있어서, 상기 추출부는
    상기 전경영역 내의 화소수를 나타내는 상기 제1 특징;
    상기 전경영역 및 배경영역의 경계에 위치하는 상기 전경영역의 화소수를 나타내는 상기 제2 특징;
    상기 제2 특징 상의 화소들에 대한 에지 법선 벡터 방향의 히스토그램을 나타내는 상기 제3 특징; 및
    상기 전경영역의 GLCM(gray level co-occurrence matrix)로부터 얻은 확률 밀도함수를 이용하여 계산된 에너지를 나타내는 상기 제4 특징을 추출하는 객체 수 추정 장치.
  6. 삭제
  7. (a) 임의의 영상을 학습하여 선형 회귀함수의 계수값을 계산하는 단계;
    (b) 입력되는 영상으로부터 전경영역과 배경영역을 분리하는 단계;
    (c) 상기 (a)단계에서 분리한 전경영역으로부터 1차원으로 구성된 제1 특징 및 제2 특징과, 6차원으로 구성된 제3 특징과, 4차원으로 구성된 제4 특징을 추출하는 단계; 및
    (d) 상기 선형 회귀 함수의 계수값 및 상기 제1 특징 내지 제4 특징을 선형 회귀 분석 함수의 독립변수로 하여 종속변수로써의 객체 수를 추정하는 단계를 포함하는 객체 수 추정 방법.
  8. 제 7항에 있어서, 상기 (a)단계는
    (a-1) 상기 임의의 영상에서 계산된 객체의 수를 선형 회귀함수의 종속변수로 할당하는 단계;
    (a-2) 상기 영상에서 분리된 전경영역으로부터 추출한 상기 제1 특징 내지 상기 제4 특징을 상기 선형 회귀함수의 독립변수로 할당하는 단계; 및
    (a-3) 상기 선형 회귀함수의 종속변수 및 독립변수를 이용하여 계수값을 계산하는 단계를 포함하는 객체 수 추정 방법.
  9. 청구항 9은(는) 설정등록료 납부시 포기되었습니다.
    제 7항에 있어서, 상기 (c)단계는
    (c-1) 상기 전경영역 내의 화소수를 나타내는 상기 제1 특징을 추출하는 단계;
    (c-2) 상기 전경영역 및 배경영역의 경계에 위치하는 상기 전경영역의 화소수를 나타내는 상기 제2 특징을 추출하는 단계;
    (c-3) 상기 제2 특징 상의 화소들에 대한 에지 법선 벡터 방향의 히스토그램을 나타내는 상기 제3 특징을 추출하는 단계; 및
    상기 전경영역의 GLCM(gray level co-occurrence matrix)로부터 얻은 확률 밀도함수를 이용하여 계산된 에너지를 나타내는 상기 제4 특징을 추출하는 단계를 포함하는 객체 수 추정 방법.
  10. 삭제
  11. 삭제
KR1020110052388A 2011-05-31 2011-05-31 객체 수 추정 장치 및 방법 KR101675798B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020110052388A KR101675798B1 (ko) 2011-05-31 2011-05-31 객체 수 추정 장치 및 방법
US13/458,390 US8798369B2 (en) 2011-05-31 2012-04-27 Apparatus and method for estimating the number of objects included in an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110052388A KR101675798B1 (ko) 2011-05-31 2011-05-31 객체 수 추정 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20120133646A KR20120133646A (ko) 2012-12-11
KR101675798B1 true KR101675798B1 (ko) 2016-11-16

Family

ID=47261733

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110052388A KR101675798B1 (ko) 2011-05-31 2011-05-31 객체 수 추정 장치 및 방법

Country Status (2)

Country Link
US (1) US8798369B2 (ko)
KR (1) KR101675798B1 (ko)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9104908B1 (en) * 2012-05-22 2015-08-11 Image Metrics Limited Building systems for adaptive tracking of facial features across individuals and groups
US9111134B1 (en) 2012-05-22 2015-08-18 Image Metrics Limited Building systems for tracking facial features across individuals and groups
KR101437678B1 (ko) * 2013-08-08 2014-09-03 엘앤케이(주) 피플 카운팅 기능을 갖는 무인 방범 시스템
KR101683449B1 (ko) * 2015-05-20 2016-12-07 리더스손해사정 주식회사 착과수의 열매와 나무 개체수 계산이 가능한 과수원손해사정조사앱을 탑재한 모바일기기 및 착과수의 열매 객체의 외곽선을 추출하는 방법
CN106570557A (zh) * 2015-10-13 2017-04-19 富士通株式会社 运动物体的计数装置及方法
US11042975B2 (en) * 2018-02-08 2021-06-22 Flaschebottle Technologies Inc. Estimating a number of containers by digital image analysis
US10949649B2 (en) 2019-02-22 2021-03-16 Image Metrics, Ltd. Real-time tracking of facial features in unconstrained video
US11107238B2 (en) * 2019-12-13 2021-08-31 Zebra Technologies Corporation Method, system and apparatus for detecting item facings

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009014415A (ja) 2007-07-02 2009-01-22 National Institute Of Advanced Industrial & Technology 物体認識装置および物体認識方法
US20100195865A1 (en) 2008-08-08 2010-08-05 Luff Robert A Methods and apparatus to count persons in a monitored environment

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100765765B1 (ko) 2005-11-15 2007-10-15 삼성전자주식회사 프로젝터/프로젝션 겸용 디스플레이 장치
JP5042179B2 (ja) 2008-09-24 2012-10-03 三菱電機株式会社 人数計数装置及び人数計数方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009014415A (ja) 2007-07-02 2009-01-22 National Institute Of Advanced Industrial & Technology 物体認識装置および物体認識方法
US20100195865A1 (en) 2008-08-08 2010-08-05 Luff Robert A Methods and apparatus to count persons in a monitored environment

Also Published As

Publication number Publication date
US20120308123A1 (en) 2012-12-06
KR20120133646A (ko) 2012-12-11
US8798369B2 (en) 2014-08-05

Similar Documents

Publication Publication Date Title
KR101675798B1 (ko) 객체 수 추정 장치 및 방법
JP4653155B2 (ja) 画像処理方法及び装置
EP1984892B1 (en) Foreground/background segmentation in digital images
EP3709266A1 (en) Human-tracking methods, apparatuses, systems, and storage media
KR101747216B1 (ko) 표적 추출 장치와 그 방법 및 상기 방법을 구현하는 프로그램이 기록된 기록 매체
US20100322510A1 (en) Sky detection system used in image extraction device and method using sky detection system
JP7334432B2 (ja) 物体追跡装置、監視システムおよび物体追跡方法
JP2009147911A (ja) 映像データ圧縮前処理方法およびこれを用いた映像データ圧縮方法と映像データ圧縮システム
CN110012350B (zh) 一种视频处理方法及装置、设备、存储介质
KR101630281B1 (ko) 영상 처리 장치
US9189863B2 (en) Method and system for detecting motion capable of removing shadow by heat
JP5173549B2 (ja) 画像処理装置及び撮像装置
CN114613006A (zh) 一种远距离手势识别方法及装置
JP4694461B2 (ja) 撮像装置、撮像方法、監視システム、監視方法、及びプログラム
CN110992393A (zh) 一种基于视觉的目标运动跟踪方法
JP4879717B2 (ja) 監視システム、監視方法、及びプログラム
JP5539565B2 (ja) 撮像装置及び被写体追跡方法
US11575826B2 (en) Image processing apparatus and method, and image capturing apparatus
JP5754931B2 (ja) 画像解析装置、画像解析方法及びプログラム
JP4977454B2 (ja) 監視システム、監視方法、及びプログラム
JP2021093694A (ja) 情報処理装置およびその制御方法
JP7460561B2 (ja) 撮像装置および画像処理方法
US12002279B2 (en) Image processing apparatus and method, and image capturing apparatus
JP2010154374A (ja) 撮像装置および被写体追跡方法
Guo et al. A kind of global motion estimation algorithm based on feature matching

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191028

Year of fee payment: 4