KR101805018B1 - 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체 - Google Patents

컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체 Download PDF

Info

Publication number
KR101805018B1
KR101805018B1 KR1020160087017A KR20160087017A KR101805018B1 KR 101805018 B1 KR101805018 B1 KR 101805018B1 KR 1020160087017 A KR1020160087017 A KR 1020160087017A KR 20160087017 A KR20160087017 A KR 20160087017A KR 101805018 B1 KR101805018 B1 KR 101805018B1
Authority
KR
South Korea
Prior art keywords
image
matrix
objects
occupation
occupancy matrix
Prior art date
Application number
KR1020160087017A
Other languages
English (en)
Inventor
정진하
김회율
최건우
나문수
Original Assignee
한양대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한양대학교 산학협력단 filed Critical 한양대학교 산학협력단
Priority to KR1020160087017A priority Critical patent/KR101805018B1/ko
Priority to EP17824427.3A priority patent/EP3484145B1/en
Priority to PCT/KR2017/006329 priority patent/WO2018008871A1/ko
Priority to US16/315,893 priority patent/US10701463B2/en
Priority to CN201780042602.5A priority patent/CN109661808B/zh
Application granted granted Critical
Publication of KR101805018B1 publication Critical patent/KR101805018B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8549Creating video summaries, e.g. movie trailer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G06V20/47Detecting features for summarising video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/49Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2387Stream processing in response to a playback request from an end-user, e.g. for trick-play
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Abstract

본 발명은 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체에 관한 것이다. 본 발명에 의한 컴팩트 비디오 생성 장치는 촬영된 영상을 배경 영상과 전경 영상으로 분리하고 분리된 전경 영상 중에 포함된 객체를 추출하는 객체 추출부; 상기 추출된 각각의 객체 간에 충돌이 발생할 경우, 상기 전경 영상으로부터 스케일이 변화된 점유 매트릭스(occupation matrix)를 각각 생성하고 서로 다른 객체의 점유 매트릭스 간의 연산을 이용하여 충돌을 계산하는 객체 충돌 계산부; 상기 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 객체 재배치부; 및 상기 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성하는 요약 영상 생성부를 포함할 수 있다.

Description

컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체{Apparatus, method and computer readable medium having computer program for compact video}
본 발명은 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체에 관한 것으로, 보다 상세하게는 감시 카메라를 통해 획득한 감시 영상으로부터 전경과 배경을 분리하고, 전경에 해당하는 객체를 시간적으로 재배치하되 서로 중첩되지 않도록 하여 감시 영상 내의 객체를 모두 확인할 수 있으면서 원본 영상보다 짧은 시간을 갖는 요약 영상을 생성하는 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체에 관한 것이다.
최근 들어, 전자, 통신 기술이 급속히 발전하고, 카메라 기술의 발전과 스마트폰의 보급으로 인해 수집되는 영상 데이터의 양이 급격히 증가하고 있으며 이미지, 동영상 및 음성 데이터와 같이 멀티미디어 데이터로 생성되는 정보의 양 또한 폭발적으로 증가하고 있다.
이와 같이 저장된 정보를 영상으로 재생함에 있어서, 기존에는 녹화영상 카메라에서 녹화 완료 후 녹화 내용을 검색 할 때 영상을 순차적으로 보게 되어 많은 시간과 사용자의 집중이 필요하게 된다. 이러한 문제를 방지하고 검색시간을 줄이기 위해서 빨리감기 방법으로 검색하는 방법이 있으나, 디지털 녹화 방법은 순간 프레임을 빼고 영상을 보여주기 때문에 녹화된 객체(object)를 놓치게 되거나 영상이 자연스럽지 않은 문제가 있었다. 특히, CCTV와 같은 감시 영상의 경우 관찰 목적이 아닌 영상을 장시간 봐야 하기 때문에 사용자에게 큰 노력이 요구된다.
결과적으로, 현재 대부분의 감시 시스템에서는 지능형 감시 영상의 분석 없이 사람이 직접 영상을 관찰하여 찾고자 하는 대상을 검색하는데, 이 과정은 대단히 많은 시간을 필요로 하며 관찰하는 사람의 피로도가 극심하다. 또한, 사용자가 시간을 줄이기 위해 고속 재생, 영상 건너뛰기 등을 사용할 경우 검색하고자 하는 대상을 놓칠 위험이 높다는 문제점이 있다.
대한민국 등록특허공보 제10-1456652호(2014.10.24. 등록)
본 발명은 감시 카메라를 통해 획득한 감시 영상으로부터 전경과 배경을 분리하고, 전경에 해당하는 객체를 시간적으로 재배치하되 서로 중첩되지 않도록 하여 감시 영상 내의 객체를 모두 확인할 수 있으면서 원본 영상보다 짧은 시간을 갖는 요약 영상을 생성하는 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체를 제공하는 것이다.
본 발명의 일 실시예에 따르면, 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 장치는 촬영된 영상을 배경 영상과 전경 영상으로 분리하고 분리된 전경 영상 중에 포함된 객체를 추출하는 객체 추출부; 상기 추출된 각각의 객체 간에 충돌이 발생할 경우, 상기 전경 영상으로부터 스케일이 변화된 점유 매트릭스(occupation matrix)를 각각 생성하고 서로 다른 객체의 점유 매트릭스 간의 연산을 이용하여 충돌을 계산하는 객체 충돌 계산부; 상기 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 객체 재배치부; 및 상기 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성하는 요약 영상 생성부를 포함할 수 있다.
상기 객체는 복수개의 영상 프레임에 표시된 이미지를 연결한 튜브 형태일 수 있다.
상기 점유 매트릭스는 상기 전경 영상의 근사치(approximation)로부터 생성될 수 있다.
상기 점유 매트릭스는 복수개의 열 및 행으로 배치되는 픽셀로 구성되고, 상기 점유 매트릭스의 연산은 서로 다른 객체간의 대응되는 상기 픽셀 간에만 계산될 수 있다.
상기 점유 매트릭스의 연산은 어느 하나의 객체를 구성하는 점유 매트릭스를 시간적으로 이동시키면서 다른 객체를 구성하는 점유 매트릭스의 대응되는 픽셀을 계산함으로써 이루어질 수 있다.
상기 점유 매트릭스는 컨볼루션(convolution)을 이용하여 연산될 수 있다.
상기 점유 매트릭스의 컨볼루션은 고속 푸리에 변환(fast fourier transform)을 통해 계산될 수 있다.
상기 객체는 사용자가 부여하거나 미리 설정된 기준에 따라 중요도가 큰 경우 상대적으로 크게 조절될 수 있다.
상기 중요도는 상기 객체가 나타난 시간, 상기 객체의 색깔 또는 상기 객체의 진행 방향을 고려하여 설정될 수 있다.
상기 전경 영상에 나타난 객체의 개수가 미리 설정된 기준치보다 많거나 적을 경우, 상기 객체의 크기는 상대적으로 조절될 수 있다.
본 발명의 다른 실시예에 따르면, 본 발명에 의한 컴팩트 비디오 생성 방법은 촬영된 영상을 배경 영상과 전경 영상으로 분리하고 분리된 전경 영상 중에 포함된 객체를 추출하는 단계; 상기 추출된 각각의 객체 간에 충돌이 발생할 경우, 상기 전경 영상으로부터 스케일이 변화된 점유 매트릭스(occupation matrix)를 각각 생성하고 서로 다른 객체의 점유 매트릭스 간의 연산을 이용하여 충돌을 계산하는 단계; 상기 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 단계; 및 상기 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성하는 단계를 포함할 수 있다.
본 발명의 또 다른 실시예에 따르면, 컴팩트 비디오 생성 방법을 수행하는 컴퓨터 프로그램이 기록된 기록매체를 포함할 수 있다.
본 발명의 일 실시예에 따르면, 감시 카메라를 통해 획득한 감시 영상으로부터 전경과 배경을 분리하고, 전경에 해당하는 객체를 시간적으로 재배치하되 서로 중첩되지 않도록 하여 감시 영상 내의 객체를 모두 확인할 수 있으면서 원본 영상보다 짧은 시간을 갖는 요약 영상을 생성할 수 있다.
따라서, 감시 영상을 관찰하는데 필요한 시간을 최소한으로 하면서 높은 정확도로 감시 영상을 분석할 수 있고, 감시 영상을 관찰하는 사용자의 피로도가 줄어들 수 있다.
도 1은 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 장치의 블록도.
도 2는 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 방법의 순서도.
도 3은 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 방법에 따라 요약 영상이 생성하는 과정을 보인 도면.
도 4는 전경 영상으로부터 점유 매트릭스를 생성하는 것을 보인 도면.
도 5 내지 도 10은 점유 매트릭스 간의 컨볼루션(convolution)을 이용하여 충돌을 계산하는 과정을 보인 도면.
도 11은 요약 전 영상과 요약 후 영상을 비교한 것을 보인 도면.
도 12는 중요도를 고려하여 객체의 크기를 조절한 것을 보인 도면.
도 13은 객체의 개수를 고려하여 객체의 크기를 조절한 것을 보인 도면.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 본 발명에 의한 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체의 일 실시예를 첨부도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 장치의 블록도이고, 도 2는 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 방법의 순서도이다.
이에 도시된 바에 따르면, 본 발명의 일 실시예에 따른 컴팩트 비디오 생성 장치는 촬영된 영상을 배경 영상과 전경 영상으로 분리하고 분리된 전경 영상 중에 포함된 객체를 추출하는 객체 추출부(20); 상기 추출된 각각의 객체 간에 충돌이 발생할 경우, 상기 전경 영상으로부터 스케일이 변화된 점유 매트릭스(occupation matrix)를 각각 생성하고 서로 다른 객체의 점유 매트릭스 간의 연산을 이용하여 충돌을 계산하는 객체 충돌 계산부(30); 상기 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 객체 재배치부(40); 및 상기 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성하는 요약 영상 생성부(50)를 포함할 수 있다.
영상 입력부(10)는 영상을 촬영하고 촬영된 영상 정보를 입력하는 역할을 한다(S10). 즉, 영상 입력부(10)는 감시를 위해 설치되는 고정형 감시 카메라, 비디오 등이 사용될 수 있다. 그리고, 영상 입력부(10)를 제외한 객체 추출부(20), 객체 충돌 계산부(30), 객체 재배치부(40) 및 요약 영상 생성부(50)는 실질적으로 컴퓨터 프로그램이 기록된 기록매체일 수 있다. 영상 입력부(10)는 상술한 바와 같이 별도의 감시 카메라, 비디오 등으로 구성될 수도 있고, 상기 기록매체에 직접 구비되어 촬영된 영상을 입력하도록 구성될 수도 있다.
촬영된 영상은 배경 영상(background image) 및 전경 영상(foreground image)으로 구분될 수 있고, 본 실시예에서는 분리된 전경 영상에 포함된 객체(object)에 대하여 추출을 수행한다(S20).
객체 추출부(20)는 예를 들어, GMM(gaussian mixture model) 알고리즘을 사용하여 객체 영상을 추출할 수 있다. 객체 추출부(20)에 의해 추출된 영상은 도 3에 도시된 바와 같이 복수개의 프레임 형태로 나타날 수 있는데, 이와 같이 복수개의 영상 프레임에 표시된 이미지를 연결하게 되면 객체는 3차원 형상의 부피를 가진 튜브 형태가 될 수 있다.
다음으로, 객체 충돌 계산부(30)는 객체 간에 충돌이 발생할 경우, 점유 매트릭스를 생성하고 연산을 이용하여 충돌을 계산한다(S30). 서로 다른 객체가 시각적으로 영상 내에서 서로 다른 범위에 나타나는 경우에는 객체간에 충돌이 발생하지 않지만, 영상 내에서 약간이라도 같은 범위에 나타나는 경우에는 객체간에 충돌이 발생하게 된다. 이와 같이 되면, 영상을 관찰하는 사용자가 객체의 일부를 정상적으로 볼 수 없어 중요한 부분을 놓칠 수 있게 된다. 따라서, 본 실시예에서는 이를 방지하고자 객체 간에 충돌이 발생할 경우, 충돌 계산을 통해 객체를 재배치할 수 있도록 한 것이다.
본 실시예에서 점유 매트릭스는 컨볼루션(convolution)을 이용하여 연산될 수 있다. 물론, 점유 매트릭스는 컨볼루션에 국한되어 연산되는 것은 아니고, 상관관계(correlation) 등 다양한 기법에 의해 연산될 수 있다.
도 4는 전경 영상으로부터 점유 매트릭스를 생성하는 것을 보인 도면이다.
이를 참조하면, 좌측에 도시된 도면은 사람이 전경 영상으로 나타난 것을 보인 것이며, 우측에 도시된 도면은 이 객체로부터 점유 매트릭스를 생성한 것을 나타낸 것이다. 점유 매트릭스 복수개의 열 및 행으로 픽셀로 구성되며, 실제 객체가 표시되는 영상의 해상도보다 작은 스케일을 가진 픽셀 단위로 구성된다. 즉, 객체에서 큰 픽셀 하나는 점유 매트릭스의 픽셀 하나에 대응되나, 실제 객체의 큰 픽셀 하나는 40Ⅹ40, 1600개의 픽셀로 이루어져 있다.
그리고, 점유 매트릭스는 전체가 9Ⅹ9(예시임)로 이루어져 있으며, 이러한 점유 매트릭스는 전경 영상의 근사치(approximation)로부터 생성된다. 점유 매트릭스는 결국 해당 객체가 시공간 상에서 차지하는 공간을 대략적으로 나타낸다. 이와 같이 본 실시예에서 근사치로부터 점유 매트릭스를 생성하도록 한 것은 객체의 충돌을 계산하는 알고리즘이 종래에는 매우 오래 걸렸던 것을 개선하기 위함이다. 즉, 상술한 바와 같이 전경 영상으로부터 근사치로 점유 매트릭스를 생성하는 이를 기초로 하여 객체의 충돌을 계산하게 되면 충돌 계산 알고리즘의 속도가 빨라지기 때문에 요약 영상을 생성하는 작업이 가속화될 수 있다.
또한, 본 실시예에서는 객체의 충돌 계산을 보다 빠르게 하기 위해 점유 매트릭스 간의 컨볼루션이 병렬적으로 계산되도록 구성하였다. 이에 대해서는 도 5 내지 도 10을 참조하여 이하에서 설명하기로 한다.
도 5를 참조하면, 제1 객체의 점유 매트릭스가 좌측에서와 같이 3개로 생성되고, 제2 객체의 점유 매트릭스가 우측에서와 같이 4개로 생성되었다고 가정한다.
이 경우 제1 객체의 점유 매트릭스와 제2 객체의 점유 매트릭스 중 하나가 겹치도록 배치를 한 후 충돌한 점유 매트릭스 간에 컨볼루션을 수행한다. 중요한 것은 점유 매트릭스 간의 컨볼루션은 서로 대응되는 픽셀 간에만 이루어진다는 것이다. 즉, 서로 대응되는 픽셀 간에만 컨볼루션을 계산하기 때문에 전체적으로 보면 각각의 픽셀간에 병렬적으로 컨볼루션이 계산되는 것이다. 이와 같이 점유 매트릭스 간에 컨볼루션이 픽셀의 병렬 계산에 의해 얻어지면, 충돌 계산 알고리즘의 속도가 개선되기 때문에 보다 빠른 시간에 요약 영상을 얻을 수 있는 장점이 있다. 한편, 점유 매트릭스의 컨볼루션은 고속 푸리에 변환(fast fourier transform)을 통해 보다 빠르게 계산될 수 있다.
도 6 내지 도 10을 참조하면, 도 5에서와 같이 충돌한 하나의 점유 매트릭스의 컨볼루션이 계산되면, 제1 객체를 구성하는 점유 매트릭스를 시간적으로 이동시키면서 제2 객체를 구성하는 점유 매트릭스와 컨볼루션을 계산하게 된다. 도 6에서 도 10은 제1 객체를 구성하는 점유 매트릭스가 점유 매트릭스 간의 간격만큼 시간적으로 이동되면서 충돌하는 점유 매트릭스를 계산하는 과정을 보여주고 있다.
이상에서 설명한 병렬 연산에 의하면, 기존에 연산 시간 감소를 위하여 채택하고 있는 단순 배경 분리 알고리즘(temporal median), 시간적 샘플링(시간적 재배치를 위해 N frame 단위로 수행) 파일 분할(재배치 알고리즘에서 다루는 객체의 수를 줄이기 위해 객체 개수에 따라 영상 구간을 분할하여 알고리즘 적용) 등의 제한적인 방법을 사용하지 않고도 빠른 속도로 입력 영상을 분석하고 요약 영상을 생성할 수 있다.
객체 재배치부(40)는 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 역할을 한다(S40). 객체 재배치부(40)는 객체의 충돌 계산을 통해 얻어진 결과를 토대로 하여 객체를 재배치함으로써, 화면 상에서 시각적으로 객체 간에 겹치지 않도록 한다.
다음으로, 요약 생성부(50)는 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성한다(S60). 이상에서 재배치된 객체는 전경 영상에서 추출한 것이므로 기존에 촬영된 배경 영상에 이를 합성하여 요약 영상을 생성하는 것이다.
도 11은 요약 전 영상과 요약 후 영상을 비교한 것을 보인 도면이다.
이를 참조하면, 요약 전에는 하나의 영상에 나타나는 객체의 수가 적어 빠른 시간 내에 영상을 관찰하는 것이 어려웠으나, 요약 후에는 하나의 영상에 나타나는 객체의 수가 많음으로써 전체적인 영상 재생시간이 짧아 빠른 시간 내에 영상을 관찰하는 것이 가능해진다. 도 3의 요약 영상을 참고하면, 해당 객체에 인접한 부분에 객체가 등장하는 시간을 표시함으로써, 관심있는 객체에 대해서는 원본 영상의 해당 시간으로 재생하여 객체를 보다 심도있게 관찰할 수도 있다.
다음으로, 도 12는 중요도를 고려하여 객체의 크기를 조절한 것을 보인 도면이고, 도 13은 객체의 개수를 고려하여 객체의 크기를 조절한 것을 보인 도면이다.
도 12를 참조하면, 객체는 사용자가 부여하거나 미리 설정된 기준에 따라 중요도가 큰 경우 상대적으로 크게 조절될 수 있다(S50). 여기에서, 중요도는 객체가 나타난 시간, 객체의 색깔 또는 객체의 진행 방향을 고려하여 설정될 수 있으며, 필터링 기능과 맞물려 사용될 수도 있다.
사용자가 부여하는 기준은 예를 들어, 사용자가 특정 색깔이 포함된 객체에 대해서 중요도를 높게 설정할 경우 해당 색깔이 포함된 객체가 보다 크게 표시됨으로써 사용자가 보다 쉽게 객체를 관찰할 수 있게 된다.
또한, 미리 설정된 기준이라 함은 전체 영상에서 객체가 10분 이상 나타나는 경우에 대해서 중요도를 높게 설정할 경우 10분 이상 나타나는 객체가 보다 크게 표시됨으로써 사용자가 보다 쉽게 객체를 관찰할 수 있는 것이다.
이상에서 설명한 중요도는 일 예로 제시한 것에 불과하며, 중요도는 특정 목적을 위해 보다 다양하게 설정될 수 있음은 당연하다.
도 13을 참조하면, 전경 영상에 나타난 객체의 개수가 미리 설정된 기준치보다 많거나 적을 경우, 객체의 크기는 상대적으로 조절될 수 있다(S50). 이와 같이 설정하는 이유는 예를 들어, 화면 상에 나타나는 객체의 개수가 많을 경우(도로 정체, 인파가 많은 놀이동산 등) 객체들이 충돌하지 않도록 배치하면 요약 영상 효과를 볼 수 없기 때문이다. 따라서, 객체의 크기를 상대적으로 작게 조절하여 배치하면 더 많은 객체가 하나의 화면에 표시되기 때문에 사용자가 보다 효과적으로 영상을 관찰할 수 있다.
상기에서는 본 발명의 특정의 실시예를 참조하여 설명하였지만, 해당 기술 분야에서 통상의 지식을 가진 자라면 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
10 : 영상 입력부 20 : 객체 추출부
30 : 객체 충돌 계산부 40 : 객체 재배치부
50 : 요약 영상 생성부

Claims (20)

  1. 촬영된 영상을 배경 영상과 전경 영상으로 분리하고 분리된 전경 영상 중에 포함된 객체를 추출하는 객체 추출부;
    상기 추출된 각각의 객체 간에 충돌이 발생할 경우, 상기 전경 영상으로부터 스케일이 변화된 점유 매트릭스(occupation matrix)를 각각 생성하고 서로 다른 객체의 점유 매트릭스 간의 연산을 이용하여 충돌을 계산하는 객체 충돌 계산부;
    상기 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 객체 재배치부; 및
    상기 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성하는 요약 영상 생성부를 포함하고,
    상기 점유 매트릭스는 복수개의 열 및 행으로 배치되는 픽셀로 구성되고,
    상기 점유 매트릭스의 연산은 서로 다른 객체간의 대응되는 상기 픽셀 간에만 병렬적으로 계산되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  2. 제 1 항에 있어서,
    상기 객체는 복수개의 영상 프레임에 표시된 이미지를 연결한 튜브 형태인 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  3. 제 1 항에 있어서,
    상기 점유 매트릭스는 상기 전경 영상의 근사치(approximation)로부터 생성되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  4. 삭제
  5. 제 1 항에 있어서,
    상기 점유 매트릭스의 연산은 어느 하나의 객체를 구성하는 점유 매트릭스를 시간적으로 이동시키면서 다른 객체를 구성하는 점유 매트릭스의 대응되는 픽셀을 계산함으로써 이루어지는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  6. 제 1 항에 있어서,
    상기 점유 매트릭스는 컨볼루션(convolution)을 이용하여 연산되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  7. 제 6 항에 있어서,
    상기 점유 매트릭스의 컨볼루션은 고속 푸리에 변환(fast fourier transform)을 통해 계산되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  8. 제 1 항에 있어서,
    상기 객체는 사용자가 부여하거나 미리 설정된 기준에 따라 중요도가 큰 경우 상대적으로 크게 조절되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  9. 제 8 항에 있어서,
    상기 중요도는 상기 객체가 나타난 시간, 상기 객체의 색깔 또는 상기 객체의 진행 방향을 고려하여 설정되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  10. 제 1 항에 있어서,
    상기 전경 영상에 나타난 객체의 개수가 미리 설정된 기준치보다 많거나 적을 경우, 상기 객체의 크기는 상대적으로 조절되는 것을 특징으로 하는 컴팩트 비디오 생성 장치.
  11. 촬영된 영상을 배경 영상과 전경 영상으로 분리하고 분리된 전경 영상 중에 포함된 객체를 추출하는 단계;
    상기 추출된 각각의 객체 간에 충돌이 발생할 경우, 상기 전경 영상으로부터 스케일이 변화된 점유 매트릭스(occupation matrix)를 각각 생성하고 서로 다른 객체의 점유 매트릭스 간의 연산을 이용하여 충돌을 계산하는 단계;
    상기 객체를 시각적으로 충돌이 일어나지 않는 범위 내에서 재배치하는 단계; 및
    상기 촬영된 배경 영상과 재배치된 객체를 합성하여 요약 영상을 생성하는 단계를 포함하고,
    상기 점유 매트릭스는 복수개의 열 및 행으로 배치되는 픽셀로 구성되고,
    상기 점유 매트릭스의 연산은 서로 다른 객체간의 대응되는 상기 픽셀 간에만 병렬적으로 계산되는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  12. 제 11 항에 있어서,
    상기 점유 매트릭스는 상기 전경 영상의 근사치(approximation)로부터 생성되는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  13. 삭제
  14. 제 11 항에 있어서,
    상기 점유 매트릭스의 연산은 어느 하나의 객체를 구성하는 점유 매트릭스를 시간적으로 이동시키면서 다른 객체를 구성하는 점유 매트릭스의 대응되는 픽셀을 계산함으로써 이루어지는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  15. 제 11 항에 있어서,
    상기 점유 매트릭스는 컨볼루션(convolution)을 이용하여 연산되는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  16. 제 15 항에 있어서,
    상기 점유 매트릭스의 컨볼루션은 고속 푸리에 변환(fast fourier transform)을 통해 계산되는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  17. 제 11 항에 있어서,
    상기 객체가 사용자가 부여하거나 미리 설정된 기준에 따라 중요도가 큰 경우 상대적으로 크게 조절하는 단계를 더 포함하는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  18. 제 17 항에 있어서,
    상기 중요도는 상기 객체가 나타난 시간, 상기 객체의 색깔 또는 상기 객체의 진행 방향을 고려하여 설정되는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  19. 제 11 항에 있어서,
    상기 전경 영상에 나타난 객체의 개수가 미리 설정된 기준치보다 많거나 적을 경우, 상기 객체의 크기를 상대적으로 조절하는 단계를 더 포함하는 것을 특징으로 하는 컴팩트 비디오 생성 방법.
  20. 제 11 항 내지 제 12 항, 제 14 항 내지 제 19 항 중 어느 한 항에 따른 방법을 수행하는 컴퓨터 프로그램이 기록된 기록매체.
KR1020160087017A 2016-07-08 2016-07-08 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체 KR101805018B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020160087017A KR101805018B1 (ko) 2016-07-08 2016-07-08 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체
EP17824427.3A EP3484145B1 (en) 2016-07-08 2017-06-16 Compact video generation device and method, and recording medium in which computer program is recorded
PCT/KR2017/006329 WO2018008871A1 (ko) 2016-07-08 2017-06-16 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체
US16/315,893 US10701463B2 (en) 2016-07-08 2017-06-16 Compact video generation device and method, and recording medium in which computer program is recorded
CN201780042602.5A CN109661808B (zh) 2016-07-08 2017-06-16 精简视频生成装置、方法以及记录计算机程序的记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160087017A KR101805018B1 (ko) 2016-07-08 2016-07-08 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체

Publications (1)

Publication Number Publication Date
KR101805018B1 true KR101805018B1 (ko) 2017-12-06

Family

ID=60912821

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160087017A KR101805018B1 (ko) 2016-07-08 2016-07-08 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체

Country Status (5)

Country Link
US (1) US10701463B2 (ko)
EP (1) EP3484145B1 (ko)
KR (1) KR101805018B1 (ko)
CN (1) CN109661808B (ko)
WO (1) WO2018008871A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101971937B1 (ko) * 2018-11-08 2019-04-24 주식회사 휴메닉 고령자를 위한 혼합현실 기반 인지훈련 시스템 및 방법
KR20200082642A (ko) * 2018-12-31 2020-07-08 강원대학교산학협력단 요약 비디오를 생성하는 방법 및 장치
KR20210032745A (ko) * 2019-09-17 2021-03-25 한국과학기술연구원 장면 이해를 통해 비디오 요약을 생성하는 방법 및 이를 위한 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101456652B1 (ko) * 2007-02-01 2014-11-04 이섬 리서치 디벨러프먼트 컴파니 오브 더 히브루 유니버시티 오브 예루살렘 엘티디. 비디오 인덱싱 및 비디오 시놉시스 방법 및 시스템
KR101496287B1 (ko) 2014-11-11 2015-02-26 (주) 강동미디어 비디오 시놉시스 시스템 및 이를 이용한 비디오 시놉시스 방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7295925B2 (en) * 1997-10-22 2007-11-13 Intelligent Technologies International, Inc. Accident avoidance systems and methods
KR100547370B1 (ko) * 2001-06-30 2006-01-26 주식회사 케이티 객체 형상 정보를 이용한 요약영상 추출 장치 및 그방법과 그를 이용한 동영상 요약 및 색인 시스템
CN101366027B (zh) * 2005-11-15 2013-03-20 耶路撒冷希伯来大学伊森姆研究发展公司 用于产生视频概要的方法和系统
WO2008103929A2 (en) * 2007-02-23 2008-08-28 Johnson Controls Technology Company Video processing systems and methods
JP2011176748A (ja) * 2010-02-25 2011-09-08 Sony Corp 画像処理装置および方法、並びにプログラム
US8869198B2 (en) * 2011-09-28 2014-10-21 Vilynx, Inc. Producing video bits for space time video summary
KR20140048539A (ko) * 2012-10-16 2014-04-24 에스케이텔레콤 주식회사 차량의 주변영상을 이용한 객체 인식장치 및 방법
CN103079117B (zh) * 2012-12-30 2016-05-25 信帧电子技术(北京)有限公司 视频摘要生成方法和视频摘要生成装置
KR20150043962A (ko) * 2013-10-15 2015-04-23 한국전자통신연구원 동영상 요약 장치 및 방법
CN103793477B (zh) * 2014-01-10 2017-02-08 同观科技(深圳)有限公司 用于生成视频摘要的系统及方法
US20150294496A1 (en) * 2014-04-14 2015-10-15 GM Global Technology Operations LLC Probabilistic person-tracking using multi-view fusion
US10424341B2 (en) * 2014-11-12 2019-09-24 Massachusetts Institute Of Technology Dynamic video summarization
CN104581437B (zh) * 2014-12-26 2018-11-06 中通服公众信息产业股份有限公司 一种视频摘要生成及视频回溯的方法及系统
CN105163093B (zh) * 2015-10-08 2018-01-12 北京理工大学 一种面向avs监控档的压缩域视频摘要提取方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101456652B1 (ko) * 2007-02-01 2014-11-04 이섬 리서치 디벨러프먼트 컴파니 오브 더 히브루 유니버시티 오브 예루살렘 엘티디. 비디오 인덱싱 및 비디오 시놉시스 방법 및 시스템
KR101496287B1 (ko) 2014-11-11 2015-02-26 (주) 강동미디어 비디오 시놉시스 시스템 및 이를 이용한 비디오 시놉시스 방법

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101971937B1 (ko) * 2018-11-08 2019-04-24 주식회사 휴메닉 고령자를 위한 혼합현실 기반 인지훈련 시스템 및 방법
KR20200082642A (ko) * 2018-12-31 2020-07-08 강원대학교산학협력단 요약 비디오를 생성하는 방법 및 장치
KR102211858B1 (ko) * 2018-12-31 2021-02-03 강원대학교산학협력단 요약 비디오를 생성하는 방법 및 장치
KR20210032745A (ko) * 2019-09-17 2021-03-25 한국과학기술연구원 장면 이해를 통해 비디오 요약을 생성하는 방법 및 이를 위한 시스템
KR102271929B1 (ko) * 2019-09-17 2021-07-02 한국과학기술연구원 장면 이해를 통해 비디오 요약을 생성하는 방법 및 이를 위한 시스템
US11620335B2 (en) 2019-09-17 2023-04-04 Korea Institute Of Science And Technology Method for generating video synopsis through scene understanding and system therefor

Also Published As

Publication number Publication date
CN109661808B (zh) 2021-10-26
US20190261066A1 (en) 2019-08-22
EP3484145A4 (en) 2019-12-04
EP3484145B1 (en) 2023-08-23
WO2018008871A1 (ko) 2018-01-11
US10701463B2 (en) 2020-06-30
EP3484145A1 (en) 2019-05-15
CN109661808A (zh) 2019-04-19

Similar Documents

Publication Publication Date Title
CN109690620B (zh) 三维模型生成装置以及三维模型生成方法
US10424341B2 (en) Dynamic video summarization
CN111401205B (zh) 动作识别方法及装置、电子设备、计算机可读存储介质
US9514225B2 (en) Video recording apparatus supporting smart search and smart search method performed using video recording apparatus
US20200387718A1 (en) System and method for counting objects
CN112101305B (zh) 多路图像处理方法、装置及电子设备
Lai et al. Video summarization of surveillance cameras
JP2018170003A (ja) ビデオ中のイベントの検出装置、方法及び画像処理装置
CN111241872B (zh) 视频图像遮挡方法及装置
KR101805018B1 (ko) 컴팩트 비디오 생성 장치, 방법 및 컴퓨터 프로그램이 기록된 기록매체
US20220301317A1 (en) Method and device for constructing object motion trajectory, and computer storage medium
US20170116741A1 (en) Apparatus and Methods for Video Foreground-Background Segmentation with Multi-View Spatial Temporal Graph Cuts
JP6577397B2 (ja) 画像解析装置、画像解析方法、画像解析プログラム、および画像解析システム
CN113469200A (zh) 数据处理方法和系统、存储介质、计算设备
CN108040244B (zh) 基于光场视频流的抓拍方法及装置、存储介质
KR101064946B1 (ko) 다중 영상 분석 기반의 객체추출 장치 및 그 방법
CN116431857B (zh) 一种用于无人场景的视频处理方法和系统
KR102042397B1 (ko) 압축영상에 대한 신택스 기반의 히트맵 생성 방법
KR101496287B1 (ko) 비디오 시놉시스 시스템 및 이를 이용한 비디오 시놉시스 방법
CN106056042B (zh) 产生视频数据变换表示以及分析视频数据的方法和系统
CN112818743B (zh) 图像识别的方法、装置、电子设备及计算机存储介质
KR101826463B1 (ko) 동영상의 시간 축을 동기화하기 위한 방법 및 장치
CN115687692A (zh) 视频的处理方法、装置、计算机存储介质及智能交互平板
KR20220002626A (ko) 픽쳐 기반의 다차원 정보 통합 방법 및 관련 기기
CN110324661B (zh) 在移动拍摄下生成视频摘要方法、装置、设备及存储介质

Legal Events

Date Code Title Description
GRNT Written decision to grant