KR20170075445A - 영상 처리 장치 및 영상 처리 방법 - Google Patents

영상 처리 장치 및 영상 처리 방법 Download PDF

Info

Publication number
KR20170075445A
KR20170075445A KR1020150185100A KR20150185100A KR20170075445A KR 20170075445 A KR20170075445 A KR 20170075445A KR 1020150185100 A KR1020150185100 A KR 1020150185100A KR 20150185100 A KR20150185100 A KR 20150185100A KR 20170075445 A KR20170075445 A KR 20170075445A
Authority
KR
South Korea
Prior art keywords
map
information
image
density
camera
Prior art date
Application number
KR1020150185100A
Other languages
English (en)
Other versions
KR102453858B1 (ko
Inventor
이영현
노승인
Original Assignee
한화테크윈 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한화테크윈 주식회사 filed Critical 한화테크윈 주식회사
Priority to KR1020150185100A priority Critical patent/KR102453858B1/ko
Priority to US15/167,286 priority patent/US9965701B2/en
Priority to CN201610590291.3A priority patent/CN106910229B/zh
Publication of KR20170075445A publication Critical patent/KR20170075445A/ko
Application granted granted Critical
Publication of KR102453858B1 publication Critical patent/KR102453858B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/20—Drawing from basic elements, e.g. lines or circles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B64—AIRCRAFT; AVIATION; COSMONAUTICS
    • B64C—AEROPLANES; HELICOPTERS
    • B64C39/00—Aircraft not otherwise provided for
    • B64C39/02—Aircraft not otherwise provided for characterised by special use
    • B64C39/024—Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2136—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on sparsity criteria, e.g. with an overcomplete basis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G06F18/232—Non-hierarchical techniques
    • G06F18/2323—Non-hierarchical techniques based on graph theory, e.g. minimum spanning trees [MST] or graph cuts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G06K9/00771—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/001—Texturing; Colouring; Generation of texture or colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/20—Drawing from basic elements, e.g. lines or circles
    • G06T11/206—Drawing of charts or graphs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/13—Satellite images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53—Recognition of crowd images, e.g. recognition of crowd congestion
    • H04N5/2257—
    • H04N5/232—

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Remote Sensing (AREA)
  • Computing Systems (AREA)
  • Discrete Mathematics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Aviation & Aerospace Engineering (AREA)

Abstract

본 실시예들은 영상 처리 장치 및 영상 처리 방법을 개시한다.
본 발명의 일 실시예에 따른 영상 처리 장치는, 관심 영역을 촬영한 영상 및 상기 영상의 촬영 시점에서의 카메라의 위치 정보를 획득하는 정보 획득부; 상기 영상에서 영역 단위로 군중 밀도 정보를 추정하여 상기 영상의 군중 밀도맵을 생성하는 밀도맵 생성부; 상기 카메라의 위치 정보를 기초로 상기 영상의 거리 정보를 제공하는 원근맵을 생성하는 원근맵 생성부; 및 상기 원근맵의 거리 정보를 기초로 상기 밀도맵의 군중 밀도 정보를 상기 관심 영역의 맵에 표시한 히트맵을 생성하는 히트맵 생성부;를 포함한다.

Description

영상 처리 장치 및 영상 처리 방법{Apparatus and method for image processing}
본 실시예들은 영상 처리 장치 및 영상 처리 방법에 관한 것으로, 보다 구체적으로 군중 히트맵을 생성하는 영상 처리 장치 및 영상 처리 방법에 관한 것이다.
히트맵은 매우 효과적인 브라우징 방식으로 다양한 영상 감시 시스템에서 사용되고 있다. 히트맵은 열을 뜻하는 히트(heat)와 지도를 뜻하는 맵(map)을 결합시킨 것으로, 색상으로 표현할 수 있는 다양한 정보를 일정한 이미지 위에 열분포 형태의 비주얼한 그래픽으로 출력한다. 히트맵은 카메라 영상이나 지도 상에서 고객들의 관심도 또는 복잡도를 색 단계로 표현할 수 있다.
한국공개특허 제2015-0080863호
본 실시예들은 넓은 지역에 대한 군중 밀도를 가시성 있게 표현할 수 있는 군중 히트맵을 제공하는 영상 처리 장치 및 영상 처리 방법을 제공하고자 한다.
본 발명의 일 실시예에 따른 영상 처리 장치는, 관심 영역을 촬영한 영상 및 상기 영상의 촬영 시점에서의 카메라의 위치 정보를 획득하는 정보 획득부; 상기 영상에서 영역 단위로 군중 밀도 정보를 추정하여 상기 영상의 군중 밀도맵을 생성하는 밀도맵 생성부; 상기 카메라의 위치 정보를 기초로 상기 영상의 거리 정보를 제공하는 원근맵을 생성하는 원근맵 생성부; 및 상기 원근맵의 거리 정보를 기초로 상기 밀도맵의 군중 밀도 정보를 상기 관심 영역의 맵에 표시한 히트맵을 생성하는 히트맵 생성부;를 포함한다.
상기 밀도맵 생성부는, 상기 영상을 복수의 패치 영상들로 분할하고 리사이징하는 분할부; 및 각 패치 영상에서 추출된 특징 정보를 기초로 각 패치 영상의 군중 밀도 클래스를 추정하는 분류기;를 포함할 수 있다.
상기 복수의 패치 영상들의 실측 면적이 동일할 수 있다.
상기 분류기는, 상기 패치 영상의 특징 정보로부터 기 설정된 복수의 군중 밀도 클래스들 각각에 대한 확률을 산출하고, 가장 높은 확률을 갖는 군중 밀도 클래스로 상기 패치 영상을 분류할 수 있다.
상기 밀도맵 생성부는, 상기 패치 영상에 군중 밀도 클래스에 대응하는 인덱스 또는 색상을 할당할 수 있다.
상기 원근맵 생성부는, 상기 카메라의 위치 정보를 기초로 상기 영상의 위치별 실제 거리 정보를 갖는 원근맵을 생성할 수 있다.
상기 히트맵 생성부는, 상기 관심 영역의 맵에 중첩되는 상기 군중 밀도맵의 투명도를 조절할 수 있다.
상기 히트맵 생성부는, 복수의 군중 밀도맵들 간의 중복영역에 대한 군중 밀도 정보를 기 설정된 융합 조건에 따라 융합하여 상기 관심 영역의 맵에 표시할 수 있다.
상기 카메라의 위치 정보는 GPS 정보 및 고도 정보를 포함할 수 있다.
상기 카메라의 위치 정보는, 상기 카메라가 탑재된 비행체의 위치 정보일 수 있다.
본 발명의 일 실시예에 따른 영상 처리 장치의 영상 처리 방법은, 관심 영역을 촬영한 영상 및 상기 영상의 촬영 시점에서의 카메라의 위치 정보를 획득하는 단계; 상기 영상에서 영역 단위로 군중 밀도 정보를 추정하여 상기 영상의 군중 밀도맵을 생성하는 단계; 상기 카메라의 위치 정보를 기초로 상기 영상의 거리 정보를 제공하는 원근맵을 생성하는 단계; 및 상기 원근맵의 거리 정보를 기초로 상기 밀도맵의 군중 밀도 정보를 상기 관심 영역의 맵에 표시한 히트맵을 생성하는 단계;를 포함한다.
상기 밀도맵 생성 단계는, 상기 영상을 복수의 패치 영상들로 분할하는 단계; 상기 복수의 패치 영상들을 리사이징하는 단계; 및 각 패치 영상에서 추출된 특징 정보를 기초로 각 패치 영상의 군중 밀도 클래스를 추정하는 단계;를 포함할 수 있다.
상기 복수의 패치 영상들의 실측 면적이 동일할 수 있다.
상기 클래스 추정 단계는, 상기 패치 영상의 특징 정보로부터 기 설정된 복수의 군중 밀도 클래스들 각각에 대한 확률을 산출하고, 가장 높은 확률을 갖는 군중 밀도 클래스로 상기 패치 영상을 분류하는 단계;를 포함할 수 있다.
상기 밀도맵 생성 단계는, 상기 패치 영상에 군중 밀도 클래스에 대응하는 인덱스 또는 색상을 할당하는 단계;를 더 포함할 수 있다.
상기 원근맵 생성 단계는, 상기 카메라의 위치 정보를 기초로 상기 영상의 위치별 실제 거리 정보를 갖는 원근맵을 생성하는 단계;를 포함할 수 있다.
상기 히트맵 생성 단계는, 상기 관심 영역의 맵에 중첩되는 상기 군중 밀도맵의 투명도를 조절하는 단계;를 포함할 수 있다.
상기 히트맵 생성 단계는, 복수의 군중 밀도맵들 간의 중복영역에 대한 군중 밀도 정보를 기 설정된 융합 조건에 따라 융합하여 상기 관심 영역의 맵에 표시하는 단계;를 포함할 수 있다.
상기 카메라의 위치 정보는 GPS 정보 및 고도 정보를 포함할 수 있다.
본 발명의 일 실시예에 따른 영상 처리 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.
본 실시예들에 의한 영상 처리 장치 및 영상 처리 방법은 넓은 지역에 대한 군중 밀도를 가시성 있게 표현하는 군중 히트맵을 제공할 수 있다.
도 1은 본 발명의 일 실시예에 따른 히트맵 생성 시스템의 개략적인 블록도이다.
도 2는 본 발명의 일 실시예에 따른 비행체의 촬영 예이다.
도 3은 본 발명의 일 실시예에 따른 영상 처리 장치를 개략적으로 도시한 블록도이다.
도 4는 도 3의 밀도맵 생성부를 개략적으로 도시한 블록도이다.
도 5 내지 도 7은 본 발명의 일 실시예에 따른 밀도맵을 생성하는 예를 설명하는 도면이다.
도 8 내지 도 10은 본 발명의 일 실시예에 따른 원근맵을 생성하는 예를 설명하는 도면이다.
도 11 및 도 12는 본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 예를 설명하는 도면이다.
도 13은 본 발명의 일 실시예에 따른 사용자 검색조건에 따른 군중 히트맵 생성 결과를 표시한 도면이다.
도 14 및 도 15는 본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 영상 처리 방법을 개락적으로 설명하는 흐름도이다.
도 16은 본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 영상 처리 방법을 개락적으로 설명하는 흐름도이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
이하의 실시예에서, 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
이하의 실시예에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 이하의 실시예에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 발명의 실시예들은 기능적인 블록 구성들 및 다양한 처리 단계들로 나타내어질 수 있다. 이러한 기능 블록들은 특정 기능들을 실행하는 다양한 개수의 하드웨어 또는/및 소프트웨어 구성들로 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하나 이상의 마이크로프로세서들의 제어 또는 다른 제어 장치들에 의해서 다양한 기능들을 실행할 수 있는, 메모리, 프로세싱, 로직(logic), 룩업 테이블(look-up table) 등과 같은 직접 회로 구성들을 채용할 수 있다. 본 발명의 실시예의 구성 요소들이 소프트웨어 프로그래밍 또는 소프트웨어 요소들로 실행될 수 있는 것과 유사하게, 본 발명의 실시예는 데이터 구조, 프로세스들, 루틴들 또는 다른 프로그래밍 구성들의 조합으로 구현되는 다양한 알고리즘을 포함하여, C, C++, 자바(Java), 어셈블러(assembler) 등과 같은 프로그래밍 또는 스크립팅 언어로 구현될 수 있다. 기능적인 측면들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다. 또한, 본 발명의 실시예들은 전자적인 환경 설정, 신호 처리, 및/또는 데이터 처리 등을 위하여 종래 기술을 채용할 수 있다. 매커니즘, 요소, 수단, 구성과 같은 용어는 넓게 사용될 수 있으며, 기계적이고 물리적인 구성들로서 한정되는 것은 아니다. 상기 용어는 프로세서 등과 연계하여 소프트웨어의 일련의 처리들(routines)의 의미를 포함할 수 있다.
도 1은 본 발명의 일 실시예에 따른 히트맵 생성 시스템의 개략적인 블록도이다. 도 2는 본 발명의 일 실시예에 따른 비행체의 촬영 예이다.
도 1을 참조하면, 히트맵 생성 시스템은 카메라(20)를 탑재한 비행체(10)와 영상 처리 장치(30)를 포함할 수 있다.
비행체(10)는 사람이 탑승하는 유인기 또는 사람이 탑승하지 않는 무인기(UAV: Unmanned Aerial Vehicle)일 수 있다. 무인기는 조종사가 탑승하지 않는 채로, 사전에 입력된 프로그램에 따르거나, 관리장치의 원격제어에 따라 또는 비행체가 스스로 주위 환경을 인식하고 판단하여 비행을 할 수 있다. 비행체(10)는 주변의 영상 정보를 획득하는 카메라(20)를 탑재할 수 있다.
카메라(20)는 CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal-Oxide-Semiconductor) 등의 촬상소자를 포함할 수 있다. 카메라(20)는 다양한 객체(예를 들어, 벽, 장애물 등의 정적 물체나 사람, 동물 등의 동적 물체)를 포함하는 주변 환경에 대한 영상을 획득할 수 있다. 카메라(20)는 실시간으로 또는 일정 주기 단위로 영상을 획득할 수 있다.
비행체(10)는 관심 영역을 비행하고 카메라(20)는 관심 영역을 촬영한다. 넓은 관심 영역을 한 장의 영상으로 표현하기 위해서는 비행체(10)의 고도가 높아져야 한다. 이 경우 사람의 크기가 너무 작아져 군중 밀도 정보를 추출하기 어렵다. 본 발명의 실시예에서는, 도 2에 도시된 바와 같이, 비행체(10)가 관심 영역을 비행하고, 카메라(20)가 정해진 위치 또는 정해진 시간에 영상을 획득한다. 카메라(20)가 비행체(10)에 장착된 위치에 따라 카메라(20)가 촬영한 영상은 탑 뷰 영상 또는 사이드 뷰 영상일 수 있다.
일 실시예에서, 비행체(10)는 유선 통신 인터페이스 및 GPS 모듈을 포함하는 무선 통신 인터페이스를 포함할 수 있다. 비행체(10)는 유선 또는 무선 통신에 의해 카메라(20)로부터 영상을 수신할 수 있다. 비행체(10)는 GPS 모듈을 통해 복수의 GPS 인공위성으로부터 자신의 위치 정보를 수신할 수 있다. 비행체(10)는 영상 처리 장치(30)와 무선 통신 네트워크에 의해 연결될 수 있다. 이때 무선 통신 네트워크는 CDMA, WIFI, WIBRO 또는 LTE 등의 다양한 종류의 다양한 주파수 대역의 네트워크일 수 있다. 비행체(10)는 무선 통신 네트워크를 통해 영상과 위치 정보를 영상 처리 장치(30)로 전송할 수 있다.
다른 실시예에서, 카메라(20)가 유선 통신 인터페이스 및 GPS 모듈을 포함하는 무선 통신 인터페이스를 포함할 수 있다. 카메라(20)는 GPS 모듈을 통해 복수의 GPS 인공위성으로부터 자신의 위치 정보를 수신할 수 있다. 카메라(20)는 영상 처리 장치(30)와 무선 통신 네트워크에 의해 연결될 수 있다. 이때 무선 통신 네트워크는 CDMA, WIFI, WIBRO 또는 LTE 등의 다양한 종류의 다양한 주파수 대역의 네트워크일 수 있다. 카메라(20)는 무선 통신 네트워크를 통해 영상과 위치 정보를 영상 처리 장치(30)로 전송할 수 있다.
다른 실시예에서, 카메라(20)가 유선 통신 인터페이스 및 GPS 모듈을 포함하는 무선 통신 인터페이스를 포함할 수 있다. 카메라(20)는 유선 또는 무선 통신에 의해 영상과 자신의 위치 정보를 비행체(10)로 전송할 수 있다. 비행체(10)는 영상과 위치 정보를 무선 통신 네트워크를 통해 영상 처리 장치(30)로 전송할 수 있다.
영상 처리 장치(30)는 비행체(10) 또는 카메라(20)로부터 영상 및 위치 정보를 수신할 수 있다. 위치 정보는 비행체(10) 또는 카메라(20)의 위치 정보일 수 있다. 영상 처리 장치(30)는 수신한 영상에서 군중 밀도 정보를 추출하여 군중 밀도맵을 생성할 수 있다. 영상 처리 장치(30)는 수신한 위치 정보를 이용하여 영상이 제공하는 장면의 실제 거리 정보를 추출하여 원근맵을 생성할 수 있다. 영상 처리 장치(30)는 원근맵의 실제 거리 정보를 기초로 군중 밀도맵을 관심 영역 맵의 대응 영역에 매칭시켜 군중 히트맵을 생성할 수 있다.
군중 히트맵이란 관심 영역에서의 사람 밀도를 서로 다른 색상으로 표시한 것이다. 예를 들어, 사람이 많아 밀도가 높은 곳은 빨간색에 가깝게 표현하고, 사람이 적어 밀도가 낮은 곳은 파란색에 가깝게 표시함으로써 관심 영역 전체에 대한 사람의 밀도 파악을 용이하게 하도록 도와준다.
영상 처리 장치(30)는 입력 장치(40) 및 디스플레이(50)와 연동하여 동작할 수 있다. 영상 처리 장치(30)는 입력 장치(40) 및 디스플레이(50)와 유선 또는 무선으로 연결되어 상호 정보를 송수신할 수 있다.
입력 장치(40)는 키 패드(key pad), 돔 스위치(dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 마우스, 리모컨, 조그 휠, 조그 스위치 등으로 구성될 수 있다.
디스플레이(50)는 영상 처리 장치(30)로부터 출력되는 결과 영상을 사용자에게 제공함으로써, 사용자가 표시되는 영상을 모니터링할 수 있도록 한다. 디스플레이(50)는 시각적인 정보 및/또는 청각적인 정보를 사용자에게 제공할 수 있다.
도 3은 본 발명의 일 실시예에 따른 영상 처리 장치를 개략적으로 도시한 블록도이다. 도 4는 도 3의 밀도맵 생성부를 개략적으로 도시한 블록도이다. 도 5 내지 도 7은 본 발명의 일 실시예에 따른 밀도맵을 생성하는 예를 설명하는 도면이다. 도 8 내지 도 10은 본 발명의 일 실시예에 따른 원근맵을 생성하는 예를 설명하는 도면이다. 도 11 및 도 12는 본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 예를 설명하는 도면이다.
도 3을 참조하면, 일 실시예에 따른 영상 처리 장치(30)는 정보 획득부(301), 밀도맵 생성부(303), 원근맵 생성부(305) 및 히트맵 생성부(307)를 포함할 수 있다.
정보 획득부(301)는 비행체(10) 또는 카메라(20)로부터 영상(Fin) 및 위치 정보(Lin)를 수신할 수 있다. 영상(Fin)은 관심 영역의 일부를 촬영한 영상 프레임일 수 있다. 차례로 입력되는 영상들은 시차를 가질 수 있다. 위치 정보(Lin)는 영상의 촬영 시점에서의 비행체(10) 또는 카메라(20)의 위치 정보일 수 있다. 위치 정보는 카메라(20) 또는 비행체(10)의 GPS 정보 및 고도 정보를 포함할 수 있다.
카메라(20)가 비행체(10)에 장착되므로, 카메라(20)의 위치 정보는 카메라(20)가 장착된 비행체(10)의 위치 정보로 추정할 수 있다. 따라서, 이하에서 '위치 정보'로 통칭하겠으며, 이는 카메라(20)의 위치 정보 및/또는 비행체(10)의 위치 정보일 수 있다.
정보 획득부(301)는 영상(Fin) 및 위치 정보(Lin)를 동기화한다. 정보 획득부(301)는 영상 및 위치 정보를 매칭하여 데이터 셋을 생성할 수 있다. 정보 획득부(301)는 카메라(20)의 캘리브레이션 정보를 더 수신할 수 있다.
밀도맵 생성부(303)는 입력되는 영상(이하, '입력 영상'이라 함)(Fin)에서 영역 단위로 군중 밀도 정보를 추출하여 군중 밀도맵(D)을 생성할 수 있다. 밀도맵 생성부(303)는 분할부(313) 및 분류기(353)를 포함할 수 있다.
분할부(313)는 입력 영상을 복수의 패치 영상(Pin)으로 분할할 수 있다. 분할부(313)는, 입력 영상(Fin)을 실제 면적이 가로(m)×세로(m)=n(m)×n(m)인 복수의 패치 영상(Pin)들로 분할할 수 있다. 패치 영상(Pin)은 실제 면적 단위로 분할되므로, 분할된 패치 영상(Pin)들의 크기는 상이하며, 정사각형 또는 직사각형일 수 있다. 카메라(20)로부터의 거리가 멀어질수록 대응하는 패치 영상의 크기가 작아진다. 패치 영상들 각각은 m(픽셀수)×m(픽셀수)의 크기의 동일 픽셀 크기의 영상으로 리사이징된다. 분할부(313)는 원근맵 생성부(305)로부터 입력 영상의 가로 방향(수평 방향) 및 세로 방향(수직 방향)의 실제 거리에 대한 거리 정보를 수신하고, 거리 정보를 기초로 입력 영상으로부터 실제 면적이 일정한 복수의 패치 영상들을 추출할 수 있다. 도 5는 3×3(m2)의 실제 면적에 대응하는 복수의 패치 영상(Pin)들 각각을 72×72(픽셀수2)로 리사이징한 예를 도시하고 있다.
분류부(353)는 패치 영상(Pin)으로부터 특징 정보를 추출하고, 패치 영상(Pin)을 복수의 군중 밀도 클래스들 중 하나의 클래스로 분류한다. 분류부(353)는 기 훈련된 분류기를 포함할 수 있다.
분류기는 복수의 훈련 데이터에 의해 복수의 군중 밀도 클래스 각각의 특징 정보를 훈련한 분류기이다. 훈련 데이터는 낮은 밀도부터 높은 밀도까지 복수 단계로 분포할 수 있다. 예를 들어, 훈련 데이터는 "아주 많음/많음/보통/적음/아주 적음/없음"과 같이 6개의 군중 밀도로 구분될 수 있다. 그러나, 본 발명의 실시예는 이에 한정되지 않고, 군중 밀도 개수는 다양하게 설정될 수 있다.
기 훈련된 분류기는 패치 영상(Pin)으로부터 특징을 추출하고, 추출된 특징을 기초로 패치 영상(Pin)을 6개의 군중 밀도 클래스 중 하나의 클래스로 분류할 수 있다. 예를 들어, 분류기는 패치 영상(Pin)의 특징을 기초로 6개의 군중 밀도 클래스 각각에 대한 확률을 산출하고, 가장 높은 확률을 갖는 클래스를 패치 영상(Pin)의 클래스로 분류(Pout)할 수 있다.
밀도맵 생성부(303)는 입력 영상의 모든 패치 영상(Pin)에 대한 분류부(353)의 분류 결과를 기초로 입력 영상의 군중 밀도 정보를 나타내는 군중 밀도맵을 생성할 수 있다. 분류된 패치 영상(Pin)에는 클래스에 대응하는 인덱스 또는 색상이 할당될 수 있다. 도 6은 각 패치 영상(Pin)에 클래스에 따른 색상이 할당된 군중 밀도맵의 예이다.
밀도맵 생성부(303)는 군중 밀도맵에 스무딩 필터를 적용하여 군중 밀도맵을 재구성할 수 있다. 스무딩 필터는 군중 밀도맵 생성 결과에 가우시안 필터(Gaussian filter), 메디안 필터(median filter), 바이래터럴 필터(bilateral filter), 또는 평균 필터(mean filter) 등을 적용하여 보다 부드러운 밀도맵으로 재구성하는 것이다. 예를 들어, 밀도맵 생성부(303)는 도 6에 도시된 군중 밀도맵에 스무딩 필터를 적용하여, 도 7에 도시된 바와 같이, 군중 밀도맵을 재구성할 수 있다.
원근맵 생성부(305)는 위치 정보를 기초로 입력 영상의 실제 거리 정보를 제공하는 원근맵을 생성할 수 있다. 비행체(10)의 물리적인 위치가 변경됨에 따라 비행체(10) 내에 장착된 카메라(20)가 획득한 영상이 나타내는 장면의 범위(면적)가 달라진다. 원근맵 생성부(305)는 입력 영상에 매칭된 위치 정보를 기초로 입력 영상의 최하단부터 최상단까지의 실제 장면의 거리를 산출할 수 있다.
원근맵 생성부(305)는, 도 8에 도시된 바와 같이, 비행체(10)가 떠 있는 위치의 수직 아래의 지면 상의 지점(S)과 입력 영상의 최하단에 대응하는 지면 상의 지점(L)까지의 거리(X1)와, 지점(S)과 입력 영상의 최상단에 대응하는 지면 상의 지점(H)까지의 거리(X2)를 하기 식(1)과 같이 산출할 수 있다.
Figure pat00001
.....(1)
식(1)에서 h는 비행체(10)의 고도이고, θ1과 θ2는 각각 카메라(20)로 촬영할 수 있는 장면의 최하단과 최상단이 지면 수직선과 이루는 각도이다.
원근맵 생성부(305)는 비행체(10)에 고도에 따른 입력 영상의 최하단과 최상단 간의 차이(즉, 영상의 세로 크기)에 대응하는 실세계에서의 실제 거리(Y)를 산출할 수 있다. 원근맵 생성부(305)는 일정한 실제 거리 간격, 예를 들어 10m 간격의 거리마다 입력 영상을 수평선으로 구분하여, 도 9와 같이 원근맵을 생성할 수 있다. 즉, 원근맵 생성부(305)는 비행체(10) 또는 카메라(20)의 위치 정보를 기초로 입력 영상의 세로 방향을 따라 실제 거리 정보를 갖는 원근맵을 생성할 수 있다. 입력 영상의 최하단에서 최상단으로 갈수록 카메라(20)로부터 먼 장면이므로, 입력 영상의 최하단에서 최상단으로 갈수록 10m 간격이 좁아진다.
원근맵 생성부(305)는 또한, 도 10에 도시된 바와 같이, 기준 고도마다 영상의 최하단의 실제 좌우 거리(Z1)와 최상단의 실제 좌우 거리(Z2)를 기초로, 영상의 위치별 단위 픽셀의 좌우 크기에 대응하는 실세계에서의 실제 좌우 거리, 즉, 픽셀 당 실제 좌우 거리를 하기 식(2)와 같이 보간법을 적용하여 산출할 수 있다. 영상의 최하단의 실제 좌우 거리(Z1)와 최상단의 좌우 실제 거리(Z2)는 카메라 캘리브레이션으로부터 획득될 수 있다. 단위 픽셀의 좌우 크기는 가로 방향으로 인접하는 픽셀들(P1, P2) 간의 간격일 수 있다.
Figure pat00002
Figure pat00003
Figure pat00004
...(2)
식(2)에서 Z는 영상의 임의의 위치가 포함되는 가로방향의 실제 좌우 거리, W는 영상의 가로 크기(영상의 가로방향의 픽셀 수), V는 영상의 세로 크기(영상의 세로방향의 픽셀 수), Vx는 영상의 최하단에서 소정 위치(x)까지의 세로방향의 픽셀 수, k는 영상의 픽셀 당 실제 좌우 거리, k1은 영상 최하단의 픽셀 당 실제 좌우 거리, k2는 영상 최상단의 픽셀 당 실제 좌우 거리, kx는 영상의 세로방향의 소정 위치(x)에서 픽셀 당 실제 좌우 거리이다.
영상 최상단의 단위 픽셀 당 실제 좌우 거리(k2)는 영상 최하단의 단위 픽셀 당 실제 좌우 거리(1)와 같거나 더 길다. 영상의 하단에서 상단으로 갈수록 픽셀 당 좌우 거리(k)는 길어지며, 선형적으로 증가한다.
원근맵 생성부(305)는 입력 영상의 실제 거리 정보를 밀도맵 생성부(303)와 히트맵 생성부(307)에 제공할 수 있다.
히트맵 생성부(307)는 원근맵을 기초로 군중 밀도맵을 관심 영역의 맵에 매칭한 군중 히트맵을 생성할 수 있다. 히트맵 생성부(307)는 원근맵의 거리 정보를 반영하여 군중 밀도맵의 군중 밀도 정보를 관심 영역의 맵 정보에 융합하여 군중 히트맵을 생성할 수 있다. 도 11에 도시된 바와 같이, 히트맵 생성부(307)는 원근맵의 거리 정보를 이용하여 관심 영역 맵(MAP)에 제1 방향의 입력 영상에 대해 생성된 군중 밀도맵(D1)을 매칭시킨다. 관심 영역 맵(MAP)은 디지털 맵 또는 위성 및 항공지도 형태로 제공될 수 있다. 관심 영역 맵(MAP)은 외부 맵 데이터베이스로부터 실시간 수신될 수 있다.
히트맵 생성부(307)는 입력 영상에 매칭된 비행체(10) 또는 카메라(20)의 위치 정보 및 원근맵의 거리 정보로부터 군중 밀도맵(D1)이 관심 영역 맵(MAP)의 어느 영역인지를 판단할 수 있다. 히트맵 생성부(307)는 관심 영역 맵(MAP)의 크기에 대응하도록 군중 밀도맵(D1)의 크기를 변환할 수 있다. 히트맵 생성부(307)는 군중 밀도맵(D1)을 관심 영역 맵(MAP)의 뷰 형태(탑 뷰)에 대응하게 변환할 수 있다.
히트맵 생성부(307)는 관심 영역 맵(MAP) 상에 군중 밀도맵(D1)을 매칭시키고, 군중 밀도맵(D1)의 투명도를 조절하여 관심 영역 맵(MAP)이 사용자에게 보여지는 정도를 조절할 수 있다. 군중 밀도맵(D1)의 투명도는 사용자의 설정에 의해 변경될 수 있다.
히트맵 생성부(307)는, 도 12에 도시된 바와 같이, 관심 영역을 복수의 위치에서 복수의 방향으로 촬영하여 획득한 복수의 입력 영상들의 복수의 군중 밀도맵들(D1 내지 D3)을 관심 영역 맵(MAP)에 매칭시킬 수 있다. 복수의 입력 영상들은 시간 차를 가질 수 있다.
히트맵 생성부(307)는 군중 밀도맵들(D1 내지 D3) 간의 중첩 영역의 군중 밀도 정보를 융합할 수 있다. 예를 들어, 히트맵 생성부(307)는 제1 방향에서 촬영하여 획득한 제1 군중 밀도맵(D1), 제2 방향에서 촬영하여 획득한 제2 군중 밀도맵(D2) 및 제3 방향에서 촬영하여 획득한 제3 군중 밀도맵(D3)의 중첩 영역(A)의 군중 밀도 정보를 제1 군중 밀도맵(D1)의 밀도 정보, 제2 군중 밀도맵(D2)의 밀도 정보 및 제3 군중 밀도맵(D3)의 밀도 정보의 평균값, 최대값, 최소값, 및 변화량 중 하나로 변환하여 관심 영역 맵(MAP)의 정보에 융합할 수 있다.
히트맵 생성부(307)는 사용자로부터의 입력 신호에 따라 군중 히트맵을 생성하여 디스플레이(50)에 출력할 수 있다. 히트맵 생성부(307)는 특정 시간 및/또는 특정 영역의 히트맵 요청을 수신하는 경우 특정 시간 및/또는 특정 영역에 적어도 일부가 포함되는 적어도 하나의 군중 밀도맵을 선택하고, 선택된 군중 밀도맵을 관심 영역 맵(MAP)에 매칭시킬 수 있다.
도시되지 않았으나, 영상 처리 장치(30)는 입력 영상 및 위치 정보, 입력 영상의 군중 밀도맵 및 원근맵을 저장하는 저장 수단을 포함할 수 있다.
도 13은 본 발명의 일 실시예에 따른 사용자 검색조건에 따른 군중 히트맵 생성 결과를 표시한 도면이다.
도 13을 참조하면, 디스플레이(50)의 화면(501)은 군중 히트맵을 생성하기 위한 시간구간 즉, 시작시간과 종료시간, 및 검색영역 등의 검색조건을 선택하는 검색조건 영역(121)과, 시작시간 및 종료시간 사이에 수신된 입력 영상 및/또는 입력 영상에 대해 생성된 군중 밀도맵의 리스트를 제공하는 리스트 영역(122)과, 시간을 나타내는 시간 축 표시 영역(123)과, 관심 영역 맵(MAP)과 군중 밀도맵(D)이 중첩 표시되는 영상 표시 영역(124)과, 군중 밀도맵(D)의 투명도를 조절하는 영역(125)으로 구성될 수 있다.
일 실시예에서 사용자는 검색조건 영역(121)에서 시간구간 및/또는 검색영역을 직접 입력하거나 선택할 수 있다. 다른 실시예에서 사용자는 시간 축 표시 영역(123)의 타임라인에서 시간구간을 지정하고, 영상 표시 영역(124)에서 마우스 또는 터치에 의한 드래그에 의해 검색영역을 지정할 수 있다.
영상 처리 장치(30)는 입력 장치(40)를 통한 사용자로부터의 입력 신호에 따라 군중 히트맵을 생성하여 디스플레이(50)로 출력할 수 있다. 영상 처리 장치(30)는 검색조건 영역(121) 또는 시간 축 표시 영역(123)과 영상 표시 영역(124)에서 선택된 검색조건에 대응하는 입력신호를 수신할 수 있다. 영상 처리 장치(30)는 검색조건을 적어도 일부 만족하는 적어도 하나의 입력 영상의 군중 밀도맵을 선택할 수 있다. 영상 처리 장치(30)는 선택된 적어도 하나의 군중 밀도맵을 관심 영역 맵(MAP)에 매칭시킨 결과를 디스플레이(50)로 출력할 수 있다.
영상 처리 장치(30)는 영역(125)에서 설정된 투명도 선택 입력 신호에 따라 관심 영역 맵(MAP) 상에 매칭되는 군중 밀도맵(D1)의 투명도를 조절하여 관심 영역 맵(MAP)이 사용자에게 보여지는 정도를 조절할 수 있다.
도 14 및 도 15는 본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 영상 처리 방법을 개락적으로 설명하는 흐름도이다.
본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 영상 처리 방법은 도 3에 도시된 영상 처리 장치(30)에 의해 수행될 수 있다.
도 14를 참조하면, 영상 처리 장치(30)는 관심 영역을 비행하는 비행체(10) 또는 비행체(10)에 장착된 카메라(20)로부터 영상 및 위치 정보를 수신할 수 있다(S21). 위치 정보는 영상을 획득할 시점의 비행체(10) 또는 카메라(20)의 위치 정보일 수 있다. 위치 정보는 GPS 정보 및 고도 정보를 포함할 수 있다. 카메라(20)는 비행체(10)에 장착되어 실시간으로 또는 주기적으로 관심 영역을 촬영하므로, 비행체(10)의 위치 정보는 카메라(20)의 위치 정보로 추정할 수 있다.
영상 처리 장치(30)는 입력 영상 및 위치 정보를 동기화하여 입력 영상과 위치 정보를 매칭한 데이터 셋을 생성할 수 있다.
영상 처리 장치(30)는 영역 단위로 군중 밀도 정보를 추출하여 군중 밀도맵을 생성할 수 있다(S23).
도 15를 참조하면, 영상 처리 장치(30)는 입력 영상을 복수의 패치 영상으로 분할할 수 있다(S231). 패치 영상은 실제 면적이 가로(m)×세로(m)=n(m)×n(m)이 되는 크기를 갖는다. 즉, 카메라(20)로부터의 거리가 먼 영역일수록 대응하는 패치 영상의 크기가 작아진다. 그리고, 패치 영상의 가로 길이와 세로 길이가 상이할 수 있다. 패치 영상은 m(픽셀수)×m(픽셀수)의 크기의 영상으로 리사이징된다. 리사 이징에 의해 패치 영상들의 크기는 동일해진다.
영상 처리 장치(30)는 리사이징된 패치 영상으로부터 특징 정보를 추출하고, 패치 영상을 하나의 군중 밀도 클래스로 분류한다(S233). 영상 처리 장치(30)는 기 훈련된 분류기를 이용하여 패치 영상으로부터 특징을 추출하고, 추출된 특징을 기초로 기 설정된 복수의 군중 밀도 클래스들 각각에 대한 확률을 산출하고, 가장 높은 확률을 갖는 클래스를 패치 영상의 클래스로 분류할 수 있다.
영상 처리 장치(30)는 모든 패치 영상들에 대한 클래스 분류 결과를 기초로 입력 영상의 군중 밀도 정보를 나타내는 군중 밀도맵을 생성할 수 있다(S235). 각 패치 영상에는 클래스에 대응하는 인덱스 또는 색상이 할당될 수 있다. 영상 처리 장치(30)는 군중 밀도맵에 스무딩 필터를 적용하여 군중 밀도맵을 재구성할 수 있다.
영상 처리 장치(30)는 입력 영상에 매칭된 위치 정보를 기초로 입력 영상의 실제 거리 정보를 제공하는 원근맵을 생성할 수 있다(S25). 영상 처리 장치(30)는 입력 영상의 최하단부터 최상단까지의 실제 거리를 산출하고, 일정 간격의 실제 거리마다 대응하는 입력 영상의 수평선을 정의한 원근맵을 생성할 수 있다. 입력 영상의 최하단에서 최상단으로 갈수록 실제 장면은 카메라로부터 거리가 멀어지는 것이므로, 입력 영상의 최하단에서 최상단으로 갈수록 수평선 간의 간격이 좁아진다. 영상 처리 장치(30)는 입력 영상의 위치별 실제 좌우 거리를 산출하고 원근맵에 매칭시킬 수 있다. 입력 영상의 최하단에서 최상단으로 갈수록 픽셀 당 실제 좌우 거리가 길어진다.
영상 처리 장치(30)는 스무딩 필터가 적용되지 않은 군중 밀도맵 또는 스무딩 필터가 적용된 군중 밀도맵을 원근맵을 기초로 관심 영역 맵에 매칭시켜 중첩 표시할 수 있다(S27). 영상 처리 장치(30)는 원근맵의 거리 정보를 반영하여 군중 밀도맵의 군중 밀도 정보를 관심 영역의 맵 정보에 융합하여 군중 히트맵을 생성할 수 있다. 영상 처리 장치(30)는 군중 밀도맵의 크기 및 뷰 형태를 관심 영역 맵에 대응하게 변환한 후 관심 영역 맵에 매칭시킬 수 있다.
도 16은 본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 영상 처리 방법을 개락적으로 설명하는 흐름도이다.
본 발명의 일 실시예에 따른 군중 히트맵을 생성하는 영상 처리 방법은 도 3에 도시된 영상 처리 장치(30)에 의해 수행될 수 있다.
도 16을 참조하면, 영상 처리 장치(30)는 입력 장치(40)를 통해 사용자로부터 군중 히트맵 생성을 위한 검색조건을 수신할 수 있다(S51). 검색조건은 군중 히트맵을 표시할 시간구간 및/또는 검색영역일 수 있다.
영상 처리 장치(30)는 검색조건에 맞는 적어도 하나의 입력 영상과 입력 영상의 군중 밀도맵을 선택할 수 있다(S53). 영상 처리 장치(30)는 검색조건의 적어도 일부를 만족하는 입력 영상 및 군중 밀도맵을 선택할 수 있다. 예를 들어, 영상 처리 장치(30)는 검색영역의 일부를 포함하는 입력 영상의 군중 밀도맵을 군중 히트맵 생성을 위해 선택할 수 있다.
영상 처리 장치(30)는 선택된 적어도 하나의 군중 밀도맵을 각각의 원근맵을 기초로 관심 영역 맵에 매칭시킨 군중 히트맵을 생성할 수 있다(S55).
일 실시예에서, 영상 처리 장치(30)는 검색조건이 입력되면 검색조건에 적어도 일부 일치하는 입력 영상들을 선택하고, 선택된 입력 영상들의 군중 밀도맵 및 원근맵을 생성하고, 생성된 군중 밀도맵을 원근맵을 기초로 관심 영역 맵에 매칭시킨 군중 히트맵을 생성할 수 있다.
다른 실시예에서, 영상 처리 장치(30)는 영상이 입력되면 실시간으로 입력 영상의 군중 밀도맵 및 원근맵을 생성하고, 검색조건이 입력되면 검색조건에 적어도 일부 일치하는 입력 영상들의 군중 밀도맵을 원근맵을 기초로 관심 영역 맵에 매칭시킨 군중 히트맵을 생성할 수 있다.
본 발명의 실시예들은 카메라 촬영에 의해 획득한 영상을 훈련된 분류기를 통해 영역별로 군중 밀도를 측정하고, 촬영 당시의 비행체 또는 카메라의 위치 정보를 이용하여 군중 히트맵을 생성할 수 있다.
종래의 히트맵 생성 방법 중 관심 영역을 카메라로 촬영하고, 영상 내에서 움직임 발생 빈도를 측정하여 색상으로 표현하는 방식이 있다. 이러한 방법은 사람이 움직이지 않고 가만히 있는 경우에 대해서 정보를 추출하기 어렵다. 또한 좁은 공간에서 사람이 과도하게 많은 경우 정체된 움직임을 보일 수 있는데 실제 높은 사람 밀도에 비해 움직임 정보는 적게 추출되기 때문에 정확한 결과를 얻기 어렵다. 또한 카메라를 천장 등의 높은 곳에 고정시켜 아래를 내려다보는 방식을 사용하기 때문에 실내가 아닌 실외에서는 적용하기에 어려움이 있고, 넓은 지역을 커버하기 위해서는 다수의 카메라가 필요하게 된다.
본 발명의 실시예들은 비행체에 탑재된 하나의 카메라만으로 여러 위치에서 여러 장의 영상을 얻음으로써 넓은 지역을 커버할 수 있다. 또한, 비행체의 비행을 통해 높은 곳에서 영상 획득이 가능하기 때문에 카메라 고정을 위한 별도의 지면에서의 지지대를 필요로 하지 않으며, 실외 환경에 적용하기에도 용이하다.
전술된 실시예들은 하나의 비행체에 탑재된 카메라가 여러 방향에서 획득한 영상들을 이용하여 군중 히트맵을 생성하는 방법을 설명하였다. 그러나, 본 발명의 실시예들은 이에 한정되지 않는다. 예를 들어, 비행체가 아닌 복수의 위치에 동일한 고도로 고정된 복수의 CCTV 카메라 장치들로부터 수신한 CCTV 영상들을 이용하여 군중 히트맵을 생성할 수 있다. 이 경우, 한 번의 원근맵만을 추정함으로써 보다 빠른 속도로 군중 히트맵 생성이 가능하다. 또는, 하나의 비행체가 아닌 복수의 비행체들로부터 각각의 탑재된 카메라가 획득한 영상들을 이용하여 군중 히트맵을 생성할 수 있다.
본 발명의 실시예에 따른 군중 히트맵 생성을 위한 영상 처리 방법은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등이 있다. 또한, 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.
본 발명의 일 측면들은 첨부된 도면에 도시된 실시예들을 참고로 설명되었으나, 이는 예시적인 것에 불과하며, 당해 기술분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 수 있을 것이다. 따라서, 본 발명의 진정한 보호 범위는 첨부된 청구 범위에 의해서만 정해져야 할 것이다.

Claims (20)

  1. 관심 영역을 촬영한 영상 및 상기 영상의 촬영 시점에서의 카메라의 위치 정보를 획득하는 정보 획득부;
    상기 영상에서 영역 단위로 군중 밀도 정보를 추정하여 상기 영상의 군중 밀도맵을 생성하는 밀도맵 생성부;
    상기 카메라의 위치 정보를 기초로 상기 영상의 거리 정보를 제공하는 원근맵을 생성하는 원근맵 생성부; 및
    상기 원근맵의 거리 정보를 기초로 상기 밀도맵의 군중 밀도 정보를 상기 관심 영역의 맵에 표시한 히트맵을 생성하는 히트맵 생성부;를 포함하는 영상 처리 장치.
  2. 제1항에 있어서, 상기 밀도맵 생성부는,
    상기 영상을 복수의 패치 영상들로 분할하고 리사이징하는 분할부; 및
    각 패치 영상에서 추출된 특징 정보를 기초로 각 패치 영상의 군중 밀도 클래스를 추정하는 분류기;를 포함하는 영상 처리 장치.
  3. 제2항에 있어서,
    상기 복수의 패치 영상들의 실측 면적이 동일한, 영상 처리 장치.
  4. 제2항에 있어서, 상기 분류기는,
    상기 패치 영상의 특징 정보로부터 기 설정된 복수의 군중 밀도 클래스들 각각에 대한 확률을 산출하고, 가장 높은 확률을 갖는 군중 밀도 클래스로 상기 패치 영상을 분류하는, 영상 처리 장치.
  5. 제2항에 있어서, 상기 밀도맵 생성부는,
    상기 패치 영상에 군중 밀도 클래스에 대응하는 인덱스 또는 색상을 할당하는, 영상 처리 장치.
  6. 제1항에 있어서, 상기 원근맵 생성부는,
    상기 카메라의 위치 정보를 기초로 상기 영상의 위치별 실제 거리 정보를 갖는 원근맵을 생성하는, 영상 처리 장치.
  7. 제1항에 있어서, 상기 히트맵 생성부는,
    상기 관심 영역의 맵에 중첩되는 상기 군중 밀도맵의 투명도를 조절하는, 영상 처리 장치.
  8. 제1항에 있어서, 상기 히트맵 생성부는,
    복수의 군중 밀도맵들 간의 중복영역에 대한 군중 밀도 정보를 기 설정된 융합 조건에 따라 융합하여 상기 관심 영역의 맵에 표시하는, 영상 처리 장치.
  9. 제1항에 있어서,
    상기 카메라의 위치 정보는 GPS 정보 및 고도 정보를 포함하는, 영상 처리 장치.
  10. 제1항에 있어서,
    상기 카메라의 위치 정보는, 상기 카메라가 탑재된 비행체의 위치 정보인, 영상 처리 장치.
  11. 관심 영역을 촬영한 영상 및 상기 영상의 촬영 시점에서의 카메라의 위치 정보를 획득하는 단계;
    상기 영상에서 영역 단위로 군중 밀도 정보를 추정하여 상기 영상의 군중 밀도맵을 생성하는 단계;
    상기 카메라의 위치 정보를 기초로 상기 영상의 거리 정보를 제공하는 원근맵을 생성하는 단계; 및
    상기 원근맵의 거리 정보를 기초로 상기 밀도맵의 군중 밀도 정보를 상기 관심 영역의 맵에 표시한 히트맵을 생성하는 단계;를 포함하는 영상 처리 장치에 의한 영상 처리 방법.
  12. 제11항에 있어서, 상기 밀도맵 생성 단계는,
    상기 영상을 복수의 패치 영상들로 분할하는 단계;
    상기 복수의 패치 영상들을 리사이징하는 단계; 및
    각 패치 영상에서 추출된 특징 정보를 기초로 각 패치 영상의 군중 밀도 클래스를 추정하는 단계;를 포함하는 영상 처리 장치에 의한 영상 처리 방법.
  13. 제12항에 있어서,
    상기 복수의 패치 영상들의 실측 면적이 동일한, 영상 처리 장치에 의한 영상 처리 방법.
  14. 제12항에 있어서, 상기 클래스 추정 단계는,
    상기 패치 영상의 특징 정보로부터 기 설정된 복수의 군중 밀도 클래스들 각각에 대한 확률을 산출하고, 가장 높은 확률을 갖는 군중 밀도 클래스로 상기 패치 영상을 분류하는 단계;를 포함하는, 영상 처리 장치에 의한 영상 처리 방법.
  15. 제12항에 있어서, 상기 밀도맵 생성 단계는,
    상기 패치 영상에 군중 밀도 클래스에 대응하는 인덱스 또는 색상을 할당하는 단계;를 더 포함하는, 영상 처리 장치에 의한 영상 처리 방법.
  16. 제11항에 있어서, 상기 원근맵 생성 단계는,
    상기 카메라의 위치 정보를 기초로 상기 영상의 위치별 실제 거리 정보를 갖는 원근맵을 생성하는 단계;를 포함하는, 영상 처리 장치에 의한 영상 처리 방법.
  17. 제11항에 있어서, 상기 히트맵 생성 단계는,
    상기 관심 영역의 맵에 중첩되는 상기 군중 밀도맵의 투명도를 조절하는 단계;를 포함하는, 영상 처리 장치에 의한 영상 처리 방법.
  18. 제11항에 있어서, 상기 히트맵 생성 단계는,
    복수의 군중 밀도맵들 간의 중복영역에 대한 군중 밀도 정보를 기 설정된 융합 조건에 따라 융합하여 상기 관심 영역의 맵에 표시하는 단계;를 포함하는, 영상 처리 장치에 의한 영상 처리 방법.
  19. 제11항에 있어서,
    상기 카메라의 위치 정보는 GPS 정보 및 고도 정보를 포함하는, 영상 처리 장치에 의한 영상 처리 방법.
  20. 제11항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
KR1020150185100A 2015-12-23 2015-12-23 영상 처리 장치 및 영상 처리 방법 KR102453858B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020150185100A KR102453858B1 (ko) 2015-12-23 2015-12-23 영상 처리 장치 및 영상 처리 방법
US15/167,286 US9965701B2 (en) 2015-12-23 2016-05-27 Image processing apparatus and method
CN201610590291.3A CN106910229B (zh) 2015-12-23 2016-07-25 图像处理设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150185100A KR102453858B1 (ko) 2015-12-23 2015-12-23 영상 처리 장치 및 영상 처리 방법

Publications (2)

Publication Number Publication Date
KR20170075445A true KR20170075445A (ko) 2017-07-03
KR102453858B1 KR102453858B1 (ko) 2022-10-14

Family

ID=59088071

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150185100A KR102453858B1 (ko) 2015-12-23 2015-12-23 영상 처리 장치 및 영상 처리 방법

Country Status (3)

Country Link
US (1) US9965701B2 (ko)
KR (1) KR102453858B1 (ko)
CN (1) CN106910229B (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102011775B1 (ko) * 2019-02-14 2019-08-19 아주대학교산학협력단 공장 생산안정성 평가 방법, 이를 이용하는 서버 및 시스템
KR20200003726A (ko) * 2018-07-02 2020-01-10 하만인터내셔날인더스트리스인코포레이티드 동적 스위트 스팟 교정
KR102584708B1 (ko) 2022-12-13 2023-10-05 주식회사 인텔리빅스 과소 및 과밀 환경을 지원하는 군중위험관리시스템 및 방법
KR102673628B1 (ko) * 2022-12-29 2024-06-13 주식회사 심시스글로벌 디지털 트윈 상황 인지를 위한 지도셀 기반 군중 밀집도 모니터링 방법 및 장치

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6511860B2 (ja) * 2015-02-27 2019-05-15 富士通株式会社 表示制御システム、グラフ表示方法およびグラフ表示プログラム
KR102453858B1 (ko) * 2015-12-23 2022-10-14 한화테크윈 주식회사 영상 처리 장치 및 영상 처리 방법
US10683088B2 (en) * 2016-05-27 2020-06-16 International Business Machines Corporation Unmanned aerial vehicle for crowd visual feedback
US10349060B2 (en) * 2017-06-30 2019-07-09 Intel Corporation Encoding video frames using generated region of interest maps
US10582196B2 (en) 2017-06-30 2020-03-03 Intel Corporation Generating heat maps using dynamic vision sensor events
SG10201802673VA (en) * 2018-03-29 2019-10-30 Nec Asia Pacific Pte Ltd Method and system for integration and automatic switching of crowd estimation techniques
CN109543694A (zh) * 2018-09-28 2019-03-29 天津大学 一种基于点特征稀疏策略的视觉同步定位与地图构建方法
US11200810B2 (en) * 2019-02-19 2021-12-14 Nec Corporation Of America Drone collision avoidance
CN109934148A (zh) * 2019-03-06 2019-06-25 华瑞新智科技（北京）有限公司 一种基于无人机的实时人群计数方法、装置及无人机
DE112019007195B4 (de) * 2019-04-12 2024-07-18 Mitsubishi Electric Corporation Anzeigesteuerungseinrichtung, anzeigesteuerungsverfahren und anzeigesteuerungsprogramm
US11106904B2 (en) * 2019-11-20 2021-08-31 Omron Corporation Methods and systems for forecasting crowd dynamics
CN111970490B (zh) * 2020-08-06 2023-04-18 万翼科技有限公司 用户流量监控方法及相关设备
CN112731919B (zh) * 2020-12-01 2023-09-01 汕头大学 一种基于人群密度估计的指引机器人方法及系统
CN113641852A (zh) * 2021-07-13 2021-11-12 彩虹无人机科技有限公司 无人机光电视频目标的检索方法、电子设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080063299A1 (en) * 2006-08-08 2008-03-13 Kokusai Kogyo Co., Ltd. Method of producing and displaying an aerial photograph data set
JP2010113562A (ja) * 2008-11-07 2010-05-20 Fujitsu Ltd 物体検知追跡装置，物体検知追跡方法および物体検知追跡プログラム
US8812344B1 (en) * 2009-06-29 2014-08-19 Videomining Corporation Method and system for determining the impact of crowding on retail performance
KR20150080863A (ko) 2014-01-02 2015-07-10 삼성테크윈 주식회사 히트맵 제공 장치 및 방법
KR20150109978A (ko) * 2014-03-21 2015-10-02 한화테크윈 주식회사 영상 처리 시스템 및 영상 처리 방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4705576B2 (ja) * 2003-06-12 2011-06-22 本田技研工業株式会社 Ｖｉｓｕａｌｈｕｌｌを用いて群衆の人数を決定するシステムおよび方法
EP2093698A1 (en) * 2008-02-19 2009-08-26 British Telecommunications Public Limited Company Crowd congestion analysis
CN101727573B (zh) * 2008-10-13 2013-02-20 汉王科技股份有限公司 一种视频图像中人群密度估计的方法和装置
US8692666B2 (en) * 2010-08-09 2014-04-08 Olympus Imaging Corp. Communication system and communication terminal
GB2489675A (en) * 2011-03-29 2012-10-10 Sony Corp Generating and viewing video highlights with field of view (FOV) information
CN103999117B (zh) * 2011-12-22 2017-04-12 英特尔公司 用于为大人群提供援助服务的方法和装置
CN104054077A (zh) 2012-01-13 2014-09-17 谷歌公司 地方热几何结构
KR101932535B1 (ko) * 2012-08-27 2018-12-27 한화테크윈 주식회사 실내 감시 시스템 및 실내 감시 방법
US9762865B2 (en) * 2013-03-15 2017-09-12 James Carey Video identification and analytical recognition system
JP6170574B2 (ja) * 2014-02-10 2017-07-26 株式会社日立国際電気 群集監視システムおよび群集監視方法
JP5597781B1 (ja) * 2014-03-26 2014-10-01 パナソニック株式会社 滞留状況分析装置、滞留状況分析システムおよび滞留状況分析方法
CN104463121A (zh) * 2014-12-08 2015-03-25 北京市新技术应用研究所 人群密度信息获取方法
US10133937B2 (en) * 2014-12-24 2018-11-20 Hitachi Kokusai Electric Inc. Crowd monitoring system
KR102453858B1 (ko) * 2015-12-23 2022-10-14 한화테크윈 주식회사 영상 처리 장치 및 영상 처리 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080063299A1 (en) * 2006-08-08 2008-03-13 Kokusai Kogyo Co., Ltd. Method of producing and displaying an aerial photograph data set
JP2010113562A (ja) * 2008-11-07 2010-05-20 Fujitsu Ltd 物体検知追跡装置，物体検知追跡方法および物体検知追跡プログラム
US8812344B1 (en) * 2009-06-29 2014-08-19 Videomining Corporation Method and system for determining the impact of crowding on retail performance
KR20150080863A (ko) 2014-01-02 2015-07-10 삼성테크윈 주식회사 히트맵 제공 장치 및 방법
KR20150109978A (ko) * 2014-03-21 2015-10-02 한화테크윈 주식회사 영상 처리 시스템 및 영상 처리 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200003726A (ko) * 2018-07-02 2020-01-10 하만인터내셔날인더스트리스인코포레이티드 동적 스위트 스팟 교정
KR102011775B1 (ko) * 2019-02-14 2019-08-19 아주대학교산학협력단 공장 생산안정성 평가 방법, 이를 이용하는 서버 및 시스템
KR102584708B1 (ko) 2022-12-13 2023-10-05 주식회사 인텔리빅스 과소 및 과밀 환경을 지원하는 군중위험관리시스템 및 방법
KR102673628B1 (ko) * 2022-12-29 2024-06-13 주식회사 심시스글로벌 디지털 트윈 상황 인지를 위한 지도셀 기반 군중 밀집도 모니터링 방법 및 장치

Also Published As

Publication number Publication date
CN106910229A (zh) 2017-06-30
CN106910229B (zh) 2022-08-12
US20170185867A1 (en) 2017-06-29
KR102453858B1 (ko) 2022-10-14
US9965701B2 (en) 2018-05-08

Similar Documents

Publication Publication Date Title
KR102453858B1 (ko) 영상 처리 장치 및 영상 처리 방법
US11715209B2 (en) Locating method and system
US10893251B2 (en) Three-dimensional model generating device and three-dimensional model generating method
US11797028B2 (en) Unmanned aerial vehicle control method and device and obstacle notification method and device
US9646212B2 (en) Methods, devices and systems for detecting objects in a video
CN108205797B (zh) 一种全景视频融合方法及装置
KR101337060B1 (ko) 화상 처리 장치 및 화상 처리 방법
CN108474657B (zh) 一种环境信息采集方法、地面站及飞行器
US20190132557A1 (en) Video surveillance system with aerial camera device
JP2022031304A (ja) 動画変換システム、動画変換方法及び動画変換プログラム
KR20170075444A (ko) 영상 처리 장치 및 영상 처리 방법
JP2019029747A (ja) 画像監視システム
JP2019003329A (ja) 情報処理装置、情報処理方法、及びプログラム
KR101645451B1 (ko) 스테레오 카메라를 이용한 감지영역 내의 이동객체 감지시스템
WO2017160381A1 (en) System for georeferenced, geo-oriented real time video streams
KR101937582B1 (ko) 인도 보안 안전 시스템
Schulte et al. Analysis of combined UAV-based RGB and thermal remote sensing data: A new approach to crowd monitoring
KR102350918B1 (ko) 히트맵 제공 장치 및 방법
KR102710645B1 (ko) 객체 썸네일 처리장치 및 그 장치의 구동방법
JP2023178007A (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
KR20210081223A (ko) 2d 영상 및 3d 영상의 융합을 통한 공간 상황 인지 장치, 방법, 및 시스템
CN118135521A (zh) 红外鸟瞰图感知设备、鸟瞰图感知方法、控制器和介质
JP2018156236A (ja) 物体位置推定装置

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right