KR101817583B1 - 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법 - Google Patents

깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법 Download PDF

Info

Publication number
KR101817583B1
KR101817583B1 KR1020150168965A KR20150168965A KR101817583B1 KR 101817583 B1 KR101817583 B1 KR 101817583B1 KR 1020150168965 A KR1020150168965 A KR 1020150168965A KR 20150168965 A KR20150168965 A KR 20150168965A KR 101817583 B1 KR101817583 B1 KR 101817583B1
Authority
KR
South Korea
Prior art keywords
behavior pattern
module
extracted
moving image
pattern
Prior art date
Application number
KR1020150168965A
Other languages
English (en)
Other versions
KR20170064101A (ko
Inventor
한상규
전경진
장규태
이영전
진영배
정강진
강필용
홍정주
이상래
Original Assignee
한국생산기술연구원
한국생명공학연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국생산기술연구원, 한국생명공학연구원 filed Critical 한국생산기술연구원
Priority to KR1020150168965A priority Critical patent/KR101817583B1/ko
Priority to US15/779,913 priority patent/US10713478B2/en
Priority to JP2018547243A priority patent/JP6667006B2/ja
Priority to PCT/KR2016/013924 priority patent/WO2017095120A1/ko
Publication of KR20170064101A publication Critical patent/KR20170064101A/ko
Application granted granted Critical
Publication of KR101817583B1 publication Critical patent/KR101817583B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • H04N13/0022
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • H04N13/0003
    • H04N13/0007
    • H04N13/0048
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Abstract

깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법이 개시된다. 소정 공간상의 실험 대상자 또는 동물의 3차원 동영상을 생성하는 3차원 동영상 생성 모듈; 상기 3차원 동영상 생성 모듈에서 생성된 3차원 동영상에서 상기 실험 대상자 또는 동물을 배경(background)과 분리하여 추출하는 객체 추출 모듈; 상기 객체 추출 모듈에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하고 상기 객체의 깊이 이미지(depth image)를 추출하여 객체를 정의하는 객체 정의 모듈; 상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 행동 패턴 정의 모듈; 상기 행동 패턴 정의 모듈에서 정의된 객체의 기본 행동 패턴을 이용하여 상기 객체 추출 모듈에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악하는 행동 패턴 분석 모듈을 구성한다. 상술한 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법에 의하면, 깊이 이미지 카메라를 이용한 3차원 동영상에서 깊이 이미지를 추출하고 이미지 패턴 변화를 분석하여 실험 대상자나 동물의 행동 패턴을 쉽고 정확하게 분석할 수 있는 효과가 있다.

Description

깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법{SYSTEM AND METHOD FOR ANALYZING BEHAVIOR PATTERN USING DEPTH IMAGE}
본 발명은 행동 패턴 분석 시스템 및 방법에 관한 것으로서, 구체적으로는 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법에 관한 것이다.
기존에는 행동 패턴 분석을 위한 다양한 알고리즘이 개시되어 있다.
공개특허공보 10-2015-0100141 또는 등록특허공보 10-1513215는 동영상 속 객체의 패턴 분석에 대해 예시하고 있다. 그런데, 기존의 패턴 분석 알고리즘은 주로 차량의 이동이라든가 차량의 번호판 인식 불법 주정차와 같은 정형화된 패턴 분석에 한정되어 있는 실정이다.
사람이라든가 동물의 구체적인 동작에 대한 분석은 쉽지 않다. 예를 들어, 사람이나 동물이 앉아 있거나 서 있거나 또는 돌아다니는 것과 같은 행동 패턴에 대해서는 분석이 쉽지 않다. 더군다나 이러한 사람이나 동물의 구체적인 동작은 보는 방향에 따라서도 다르게 나타나기 때문에 정확한 분석이 어렵다. 예를 들어, 뛰는 동작에서 옆으로 뛰는 경우에는 쉽게 분석 가능할지라도 카메라를 향해 뛰어 오는 경우 또는 사선 방향으로 뛰어 오는 경우에는 그 객체의 패턴 변화가 제각각으로 나타나기 때문에 분석에 어려움이 있다.
기존에는 VICON과 같은 고가의 동작 분석 장비를 이용하여 분석할 수가 있으나, 일반적인 카메라를 이용하여 패턴 분석을 하지는 못하고 있는 실정이다.
특정 공간 내의 실험 대상자나 동물에 대한 장시간 패턴 분석을 하는 경우, 이러한 실정에서 실험자가 직접 육안으로 관찰하여 행동 패턴을 분석하고 기록할 수 있을 뿐이다.
이에, 일반적인 카메라를 이용하여 보다 쉽고 정확하게 실험 대상자나 동물의 행동 패턴을 정의하고 분석할 수 있는 알고리즘이 요구된다.
10-2015-0100141 10-1513215
본 발명의 목적은 깊이 이미지를 이용한 행동 패턴 분석 시스템을 제공하는 데 있다.
본 발명의 다른 목적은 깊이 이미지를 이용한 행동 패턴 분석 방법을 제공하는 데 있다.
상술한 본 발명의 목적에 따른 깊이 이미지를 이용한 행동 패턴 분석 시스템은, 소정 공간상의 실험 대상자 또는 동물의 3차원 동영상을 생성하는 3차원 동영상 생성 모듈; 상기 3차원 동영상 생성 모듈에서 생성된 3차원 동영상에서 상기 실험 대상자 또는 동물을 배경(background)과 분리하여 추출하는 객체 추출 모듈; 상기 객체 추출 모듈에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하고 상기 객체의 깊이 이미지(depth image)를 추출하여 객체를 정의하는 객체 정의 모듈; 상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 행동 패턴 정의 모듈; 상기 행동 패턴 정의 모듈에서 정의된 객체의 기본 행동 패턴을 이용하여 상기 객체 추출 모듈에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악하는 행동 패턴 분석 모듈을 포함하도록 구성될 수 있다.
여기서, 상기 행동 패턴 정의 모듈은, 상기 3차원 동영상에서 객체의 깊이 이미지의 변화 값과 시간당 변화하는 객체의 패턴 분석을 통해 상기 실험 대상자 또는 동물의 기본 행동 패턴을 정의하도록 구성될 수 있다.
그리고 상기 행동 패턴 정의 모듈은, 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다에 대한 기본 행동 패턴을 정의하도록 구성될 수 있다.
그리고 상기 행동 패턴 정의 모듈은, 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다의 기본 행동 패턴 각각에 대하여 키(height)의 변화 패턴, 객체의 이미지의 시간당 변화 패턴, 무게 중심의 움직임의 속도를 각각 정의하도록 구성될 수 있다.
한편, 상기 3차원 동영상 생성 모듈은, 깊이 이미지 카메라의 영상을 합성하여 3차원 동영상을 생성하도록 구성될 수 있다.
상술한 본 발명의 다른 목적에 따른 깊이 이미지를 이용한 행동 패턴 분석 방법은, 3차원 동영상 생성 모듈이 소정 공간상의 실험 대상자 또는 동물의 3차원 동영상을 생성하는 단계; 객체 추출 모듈이 상기 3차원 동영상 생성 모듈에서 생성된 3차원 동영상에서 상기 실험 대상자 또는 동물을 배경(background)과 분리하여 추출하는 단계; 객체 정의 모듈이 상기 객체 추출 모듈에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하고 상기 객체의 깊이 이미지(depth image)를 추출하여 객체를 정의하는 단계; 상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 행동 패턴 정의 모듈이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 단계; 행동 패턴 분석 모듈이 상기 행동 패턴 정의 모듈에서 정의된 객체의 기본 행동 패턴을 이용하여 상기 객체 추출 모듈에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악하는 단계를 포함하도록 구성될 수 있다.
이때, 상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 행동 패턴 정의 모듈이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 단계는, 상기 3차원 동영상에서 객체의 깊이 이미지의 변화 값과 시간당 변화하는 객체의 패턴 분석을 통해 상기 실험 대상자 또는 동물의 기본 행동 패턴을 정의하도록 구성될 수 있다.
그리고 상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 행동 패턴 정의 모듈이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 단계는, 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다에 대한 기본 행동 패턴을 정의하도록 구성될 수 있다.
그리고 상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 행동 패턴 정의 모듈이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 단계는, 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다의 기본 행동 패턴 각각에 대하여 키(height)의 변화 패턴, 객체의 이미지의 시간당 변화 패턴, 무게 중심의 움직임의 속도를 각각 정의하도록 구성될 수 있다.
한편, 상기 3차원 동영상 생성 모듈이 소정 공간상의 실험 대상자 또는 동물의 3차원 동영상을 생성하는 단계는, 깊이 이미지 카메라의 영상을 합성하여 3차원 동영상을 생성하도록 구성될 수 있다.
상술한 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법에 의하면, 깊이 이미지 카메라를 이용한 3차원 동영상에서 깊이 이미지를 추출하고 이미지 패턴 변화를 분석하여 실험 대상자나 동물의 행동 패턴을 쉽고 정확하게 분석할 수 있는 효과가 있다.
특히, 실험 대상자나 동물의 기본 행동 패턴을 누적된 데이터를 이용하여 분석함으로써, 실험 대상자나 동물의 행동 패턴을 정확하게 정의하고 파악할 수 있는 효과가 있다.
또한, 고가의 장비없이도 일반적인 장비를 이용하여 실험 대상자나 동물의 행동 분석을 오류없이 수행할 수 있는 효과가 있다.
도 1은 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석 시스템의 블록 구성도이다.
도 2는 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석의 예시도이다.
도 3은 본 발명의 다른 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석의 예시도이다.
도 4는 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석 방법의 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 발명을 실시하기 위한 구체적인 내용에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 본 발명에 따른 바람직한 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석 시스템의 블록 구성도이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석 시스템(이하, '행동 패턴 분석 시스템'이라 함)(100)은 3차원 동영상 생성 모듈(110), 객체 추출 모듈(120), 객체 정의 모듈(130), 행동 패턴 정의 모듈(140) 및 행동 패턴 분석 모듈(150)을 포함하도록 구성될 수 있다.
행동 패턴 분석 시스템(100)은 스테레오 영상에 의해 생성된 3차원 동영상의 깊이 이미지를 추출하여 특정 공간상의 실험 대상자나 동물의 행동 패턴을 면밀하고 정확하게 자동 분석하여 파악할 수 있도록 구성된다.
행동 패턴 분석 시스템(100)은 고가의 장비없이도 3차원 동영상에서 깊이 이미지를 이용한 정확한 행동 패턴의 분석 알고리즘만으로 오류없는 패턴 분석이 가능하다. 특히, 누적된 객체 이미지의 패턴 변화를 통해 기본 행동 패턴을 정의하기 때문에 정확한 행동 패턴 분석이 가능하다.
행동 패턴 분석 시스템(100)은 특정 공간상에서 실험 대상자나 동물이 나타내는 행동 패턴을 분석하기 위한 시스템이다. 실험이라든가 치료 등에 활용이 가능한 시스템이다.
이하, 세부적인 구성에 대하여 설명한다.
3차원 동영상 생성 모듈(110)은 소정 공간상의 실험 대상자 또는 동물의 3차원 동영상을 생성하도록 구성될 수 있다. 공간을 촬영하여 그 동영상 내에 실험 대상자와 동물이 포착될 수 있다. 촬영은 1대 이상의 깊이 이미지 카메라(10)에 의해 이루어질 수 있으며, 3차원 동영상 생성 모듈(110)2대의 깊이 이미지 카메라(10)에 의해 생성된 스테레오 영상을 합성하여 3차원 동영상을 생성한다.
객체 추출 모듈(120)은 3차원 동영상 생성 모듈(110)에서 생성된 3차원 동영상에서 실험 대상자 또는 동물을 배경(background)과 분리하여 전경(foreground)으로서 추출하도록 구성될 수 있다.
여기서, 배경은 특정 공간에 고정적으로 배치된 형상들로서 대개는 고정된 자세를 갖는다.
객체 정의 모듈(130)은 객체 추출 모듈(120)에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하도록 구성될 수 있다. 길이는 키(height), 좌우 길이 등이 될 수 있고, 크기는 전체적인 크기가 될 수 있다. 무게 중심은 객체의 이동을 파악하기 위한 구성이다.
한편, 객체 정의 모듈(130)은 3차원 동영상에서 객체의 깊이 이미지(depth image)를 추출하도록 구성될 수 있다.
그리고 객체 정의 모듈(130)은 객체의 길이, 크기 무게 중심 그리고 깊이 이미지에 의해 해당 객체를 정의하도록 구성될 수 있다. 실험 대상자나 동물이 취하는 자세나 방향에 따라서 객체의 길이나, 크기 등이 달라질 수 있으므로, 해당 객체의 깊이 이미지와 길이, 크기 등을 종합적으로 분석하여 객체를 정의하도록 구성될 수 있다.
객체 정의 모듈(130)에서 정의된 객체가 객체 추출 모듈(120)을 통해 추출되는데, 행동 패턴 정의 모듈(140)은 그 추출된 객체에 대해 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 그리고 추출된 깊이 데이터의 변화를 누적 분석하여 객체의 기본 행동 패턴을 정의하도록 구성될 수 있다. 즉, 어떤 실험 대상자에 대해 기본 행동 패턴 예를 들어, 눕다, 서다 등을 미리 정의하지 않고 3차원 동영상을 통해 누적적으로 추출되는 객체의 행동 패턴을 통해 기본 행동 패턴을 정의한다.
여기서, 좀 더 구체적으로는 행동 패턴 정의 모듈(140)은 3차원 동영상에서 객체의 깊이 이미지의 변화 값과 시간당 변화하는 객체의 패턴 분석을 통해 실험 대상자 또는 동물의 기본 행동 패턴을 정의하도록 구성될 수 있다. 즉, 실험 대상자가 패턴 변화가 얼마나 빨리 이루어지는지 또는 어떻게 변화하는지 등을 분석하여 정의할 수 있다.
예를 들어, 행동 패턴 정의 모듈(140)은 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다 등에 대한 기본 행동 패턴을 정의하도록 구성될 수 있다.
구체적으로는, 행동 패턴 정의 모듈(140)이 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다의 기본 행동 패턴 각각에 대하여 키(height)의 변화 패턴, 객체의 이미지의 시간당 변화 패턴, 무게 중심의 움직임의 속도를 각각 정의하도록 구성될 수 있다. 앉다의 경우 서다보다 더 작은 어느 정도의 키의 변화 패턴을 가질 수 있으며, 무게 중심도 더 낮아질 것이다. 뛰다의 경우에는 키의 큰 변화없이 무게 중심이 빠르게 변할 것이며 이때 깊이 이미지도 고려하게 된다.
행동 패턴 분석 모듈(150)은 행동 패턴 정의 모듈(140)에서 정의된 객체의 기본 행동 패턴을 이용하여 객체 추출 모듈(120)에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악하도록 구성될 수 있다. 기존에는 관찰자가 서다의 행동 패턴이 몇분 동안 얼마나 자주 발생하는지를 일일이 직접 보고 기록해야 했으나, 본 발명에서는 행동 패턴 분석 모듈(150)이 자동으로 기 정의된 기본 행동 패턴을 참고하여 그 지속 시간과 빈도수를 자동으로 분석하여 파악할 수 있다.
도 2는 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석의 예시도이고, 도 3은 본 발명의 다른 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석의 예시도이다.
도 2 및 도 3에서는 서다에 대한 키의 변화와 그리고 움직임에 대한 지속 시간의 변화를 통해 행동 패턴을 분석하는 과정을 예시하고 있다.
도 4는 본 발명의 일 실시예에 따른 깊이 이미지를 이용한 행동 패턴 분석 방법의 흐름도이다.
도 4를 참조하면, 먼저 3차원 동영상 생성 모듈(110)이 소정 공간상의 실험 대상자 또는 동물의 3차원 동영상을 생성한다(S101). 여기서, 3차원 동영상 생성 모듈은 깊이 이미지 카메라(10)의 영상을 합성하여 3차원 동영상을 생성하도록 구성될 수 있다.
다음으로, 객체 추출 모듈(120)이 3차원 동영상 생성 모듈(110)에서 생성된 3차원 동영상에서 실험 대상자 또는 동물을 배경(background)과 분리하여 추출한다(S102).
다음으로, 객체 정의 모듈(130)이 객체 추출 모듈(120)에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하고 객체의 깊이 이미지(depth image)를 추출하여 객체를 정의한다(S103).
다음으로, 객체 정의 모듈(130)에서 정의된 객체가 객체 추출 모듈(120)에서 추출되는 경우, 행동 패턴 정의 모듈(140)이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 추출된 깊이 데이터의 변화를 누적 분석하여 객체의 기본 행동 패턴을 정의한다(S104).
이때, 행동 패턴 정의 모듈(140)은 3차원 동영상에서 객체의 깊이 이미지의 변화 값과 시간당 변화하는 객체의 패턴 분석을 통해 실험 대상자 또는 동물의 기본 행동 패턴을 정의하도록 구성될 수 있다.
예를 들어, 행동 패턴 정의 모듈(140)은 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다에 대한 기본 행동 패턴을 정의하도록 구성될 수 있다.
이때, 행동 패턴 정의 모듈(140)은 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 또는 매달리다의 기본 행동 패턴 각각에 대하여 키(height)의 변화 패턴, 객체의 이미지의 시간당 변화 패턴, 무게 중심의 움직임의 속도를 각각 정의하도록 구성될 수 있다.
다음으로, 행동 패턴 분석 모듈(150)이 행동 패턴 정의 모듈(140)에서 정의된 객체의 기본 행동 패턴을 이용하여 객체 추출 모듈에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악한다(S105).
이상 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
110: 3차원 동영상 생성 모듈
120: 객체 추출 모듈
130: 객체 정의 모듈
140: 행동 패턴 정의 모듈
150: 행동 패턴 분석 모듈

Claims (10)

  1. 소정 공간상의 실험 대상자 또는 동물의 깊이 이미지 카메라의 영상을 합성하여 3차원 동영상을 생성하는 3차원 동영상 생성 모듈;
    상기 3차원 동영상 생성 모듈에서 생성된 3차원 동영상에서 상기 실험 대상자 또는 동물을 배경(background)과 분리하여 추출하는 객체 추출 모듈;
    상기 객체 추출 모듈에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하고 상기 객체의 깊이 이미지(depth image)를 추출하여 객체를 정의하는 객체 정의 모듈;
    상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 행동 패턴 정의 모듈;
    상기 행동 패턴 정의 모듈에서 정의된 객체의 기본 행동 패턴을 이용하여 상기 객체 추출 모듈에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악하는 행동 패턴 분석 모듈을 포함하고,
    상기 행동 패턴 정의 모듈은,
    상기 3차원 동영상에서 객체의 깊이 이미지의 변화 값과 시간당 변화하는 객체의 패턴 분석을 통해 상기 실험 대상자 또는 동물의 기본 행동 패턴을 정의하도록 구성되고, 사람이나 동물의 감정이나 이성에 기초한 분석이 가능하도록 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 및 매달리다에 대한 기본 행동 패턴을 정의하도록 구성되며, 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 및 매달리다의 기본 행동 패턴 각각에 대하여 키(height)의 변화 패턴, 객체의 이미지의 시간당 변화 패턴 및 무게 중심의 움직임의 속도를 각각 정의되는 것을 특징으로 하는 깊이 이미지를 이용한 행동 패턴 분석 시스템.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 3차원 동영상 생성 모듈이 소정 공간상의 실험 대상자 또는 동물의 깊이 이미지 카메라의 영상을 합성하여 3차원 동영상을 생성하는 단계;
    객체 추출 모듈이 상기 3차원 동영상 생성 모듈에서 생성된 3차원 동영상에서 상기 실험 대상자 또는 동물을 배경(background)과 분리하여 추출하는 단계;
    객체 정의 모듈이 상기 객체 추출 모듈에 의해 추출된 객체에 대해 해당 객체의 길이, 크기, 무게 중심을 측정하고 상기 객체의 깊이 이미지(depth image)를 추출하여 객체를 정의하는 단계;
    상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 행동 패턴 정의 모듈이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 단계;
    행동 패턴 분석 모듈이 상기 행동 패턴 정의 모듈에서 정의된 객체의 기본 행동 패턴을 이용하여 상기 객체 추출 모듈에서 추출된 객체에 대한 기본 행동 패턴의 지속 시간 및 빈도수를 분석하여 파악하는 단계를 포함하고,
    상기 객체 정의 모듈에서 정의된 객체가 상기 객체 추출 모듈에서 추출되는 경우, 행동 패턴 정의 모듈이 해당 객체의 무게 중심의 이동 속도 및 이동 시간과 상기 추출된 깊이 데이터의 변화를 누적 분석하여 상기 객체의 기본 행동 패턴을 정의하는 단계는,
    상기 3차원 동영상에서 객체의 깊이 이미지의 변화 값과 시간당 변화하는 객체의 패턴 분석을 통해 상기 실험 대상자 또는 동물의 기본 행동 패턴을 정의하도록 구성되고, 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 및 매달리다에 대한 기본 행동 패턴을 정의하도록 구성되며, 사람이나 동물의 감정이나 이성에 기초한 분석이 가능하도록 앉다, 서다, 눕다, 엎드리다, 돌아다니다, 뛰다 및 매달리다의 기본 행동 패턴 각각에 대하여 키(height)의 변화 패턴, 객체의 이미지의 시간당 변화 패턴, 무게 중심의 움직임의 속도를 각각 정의하도록 구성되는 것을 특징으로 하는 깊이 이미지를 이용한 행동 패턴 분석 방법.
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
KR1020150168965A 2015-11-30 2015-11-30 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법 KR101817583B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020150168965A KR101817583B1 (ko) 2015-11-30 2015-11-30 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법
US15/779,913 US10713478B2 (en) 2015-11-30 2016-11-30 Behaviour pattern analysis system and method using depth image
JP2018547243A JP6667006B2 (ja) 2015-11-30 2016-11-30 深度画像を用いた行動パターン分析システム及び方法
PCT/KR2016/013924 WO2017095120A1 (ko) 2015-11-30 2016-11-30 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150168965A KR101817583B1 (ko) 2015-11-30 2015-11-30 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20170064101A KR20170064101A (ko) 2017-06-09
KR101817583B1 true KR101817583B1 (ko) 2018-01-12

Family

ID=58797192

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150168965A KR101817583B1 (ko) 2015-11-30 2015-11-30 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법

Country Status (4)

Country Link
US (1) US10713478B2 (ko)
JP (1) JP6667006B2 (ko)
KR (1) KR101817583B1 (ko)
WO (1) WO2017095120A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102603396B1 (ko) 2022-08-12 2023-11-20 주식회사 아이트 인공지능을 이용한 영상 감시 기반 개체 인식 및 행동패턴 분석 방법 및 시스템

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107667904A (zh) * 2017-07-27 2018-02-09 北京奥云牧数据科技有限公司 基于物联网技术的生猪大数据系统
CN110620916A (zh) * 2018-12-29 2019-12-27 北京时光荏苒科技有限公司 用于处理图像的方法和装置
CN110135246B (zh) * 2019-04-03 2023-10-20 平安科技(深圳)有限公司 一种人体动作的识别方法及设备
KR102215133B1 (ko) * 2019-12-24 2021-02-10 이주철 반려동물의 비문 촬영 장치
US11508077B2 (en) 2020-05-18 2022-11-22 Samsung Electronics Co., Ltd. Method and apparatus with moving object detection

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101260847B1 (ko) * 2007-02-08 2013-05-06 비헤이버럴 레코그니션 시스템즈, 인코포레이티드 행동 인식 시스템

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000268173A (ja) * 1999-03-17 2000-09-29 Hitachi Denshi Ltd 物体認識画像処理方法
US6678413B1 (en) * 2000-11-24 2004-01-13 Yiqing Liang System and method for object identification and behavior characterization using video analysis
WO2005001768A1 (en) * 2003-06-06 2005-01-06 Psychogenics, Inc. System and method for assessing motor and locomotor deficits and recovery therefrom
JP2005004787A (ja) * 2004-07-26 2005-01-06 Toshiba Corp 行動計測装置、電子的装置及び記録媒体
CN101228555A (zh) * 2005-07-07 2008-07-23 独创目标实验室公司 用于目标的运动行为的三维监控和分析的系统
IES20080888A2 (en) * 2007-11-05 2009-08-19 Brian Francis Mooney Apparatus and method for analysing a golf swing
GB2455316B (en) * 2007-12-04 2012-08-15 Sony Corp Image processing apparatus and method
JP4982410B2 (ja) * 2008-03-10 2012-07-25 株式会社東芝 空間移動量算出装置及びその方法
US8634635B2 (en) * 2008-10-30 2014-01-21 Clever Sys, Inc. System and method for stereo-view multiple animal behavior characterization
GB2467514A (en) * 2008-12-23 2010-08-04 Univ Oxford Brookes Gait monitor for sensing vertical displacement
JP5440080B2 (ja) * 2009-10-02 2014-03-12 ソニー株式会社 行動パターン解析システム、携帯端末、行動パターン解析方法、及びプログラム
KR101160868B1 (ko) * 2010-02-19 2012-07-12 (주) 엔투유 제스처 제어를 이용한 동물 매개 치료 시스템 및 동물 매개 치료 방법
JP5569062B2 (ja) * 2010-03-15 2014-08-13 オムロン株式会社 ジェスチャ認識装置、ジェスチャ認識装置の制御方法、および、制御プログラム
US9311556B2 (en) * 2010-05-19 2016-04-12 Plf Agritech Pty Ltd Image analysis for making animal measurements including 3-D image analysis
KR101758058B1 (ko) * 2011-01-20 2017-07-17 삼성전자주식회사 깊이 정보를 이용한 카메라 모션 추정 방법 및 장치, 증강 현실 시스템
US20140207433A1 (en) * 2011-08-03 2014-07-24 Yeda Research And Development Co., Ltd. Systems and methods of monitoring social interactions in a group of organisms over a period of at least 24 hours in a semi-natural environment
WO2013118218A1 (ja) * 2012-02-09 2013-08-15 パナソニック株式会社 画像認識装置、画像認識方法、プログラムおよび集積回路
EP2846631A4 (en) * 2012-05-10 2017-02-15 President and Fellows of Harvard College A system and method for automatically discovering, characterizing, classifying and semi-automatically labeling animal behavior and quantitative phenotyping of behaviors in animals
KR101465087B1 (ko) * 2012-11-14 2014-11-26 포항공과대학교 산학협력단 생물의 자취 및 행동패턴을 분석하는 방법
CN105393281B (zh) * 2013-08-02 2018-02-13 三菱电机株式会社 手势判定装置和方法、手势操作装置
KR102217253B1 (ko) 2014-02-24 2021-02-17 주식회사 케이티 행동패턴 분석 장치 및 방법
KR101513215B1 (ko) 2014-03-28 2015-04-17 주식회사 로보티어 객체 행동패턴 cctv 영상 분석서버
KR101470314B1 (ko) * 2014-08-11 2014-12-09 (주)엔토스정보통신 객체 자동 인식/분류 cctv 시스템 및 그 방법
GB201506444D0 (en) * 2015-04-16 2015-06-03 Univ Essex Entpr Ltd Event detection and summarisation
AU2016338856B2 (en) * 2015-10-14 2021-01-28 President And Fellows Of Harvard College Automatically classifying animal behavior
US10909691B2 (en) * 2016-03-18 2021-02-02 President And Fellows Of Harvard College Automatically classifying animal behavior

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101260847B1 (ko) * 2007-02-08 2013-05-06 비헤이버럴 레코그니션 시스템즈, 인코포레이티드 행동 인식 시스템

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102603396B1 (ko) 2022-08-12 2023-11-20 주식회사 아이트 인공지능을 이용한 영상 감시 기반 개체 인식 및 행동패턴 분석 방법 및 시스템

Also Published As

Publication number Publication date
US10713478B2 (en) 2020-07-14
KR20170064101A (ko) 2017-06-09
JP6667006B2 (ja) 2020-03-18
JP2019514102A (ja) 2019-05-30
US20180322336A1 (en) 2018-11-08
WO2017095120A1 (ko) 2017-06-08

Similar Documents

Publication Publication Date Title
KR101817583B1 (ko) 깊이 이미지를 이용한 행동 패턴 분석 시스템 및 방법
Jalal et al. A wrist worn acceleration based human motion analysis and classification for ambient smart home system
JP2015058096A5 (ko)
CN104954747B (zh) 视频监视方法和装置
US20160203614A1 (en) Method and apparatus of detecting object using event-based sensor
WO2016031313A1 (ja) 体調検出装置、体調検出方法及び体調検出プログラム
KR20190118619A (ko) 보행자 추적 방법 및 전자 디바이스
JP6292122B2 (ja) オブジェクト情報抽出装置、オブジェクト情報抽出プログラム、及びオブジェクト情報抽出方法
JP2017059945A (ja) 画像解析装置及び画像解析方法
KR20180110443A (ko) 열량 정보 제공 장치 및 방법
RU2018140076A (ru) Система и способ для обнаружения перемещения пользователя устройства для ухода за полостью рта и предоставления обратной связи
WO2016031314A1 (ja) 個人識別装置、個人識別方法、及び、個人識別プログラム
JP2018042237A5 (ko)
US20170004631A1 (en) Method and system for visual pedometry
EP3206188A1 (en) Method and system for realizing motion-sensing control based on intelligent device, and intelligent device
JP2018066687A (ja) 情報処理装置、情報処理方法、および情報処理プログラム
JP6285116B2 (ja) 動作評価装置、動作評価方法及び動作評価プログラム
EP3088059A1 (en) Analysis device, recording medium, and analysis method
KR20160062665A (ko) 동작 인식 장치 및 방법
KR102233109B1 (ko) 영상 학습을 통한 기계 진단시스템 및 이를 이용한 기계 진단방법
Griffith et al. Verification of IMU-based inclination estimates using video motion capture
KR102241483B1 (ko) 사용자 인식방법 및 병적징후 예측방법
JP5713655B2 (ja) 映像処理装置、映像処理方法及びプログラム
KR101679125B1 (ko) 체형 분석 장치 및 방법
CN104935912B (zh) 一种信息处理方法及电子设备

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant