KR102174695B1 - 객체 움직임 인식 방법 및 장치 - Google Patents

객체 움직임 인식 방법 및 장치 Download PDF

Info

Publication number
KR102174695B1
KR102174695B1 KR1020180140476A KR20180140476A KR102174695B1 KR 102174695 B1 KR102174695 B1 KR 102174695B1 KR 1020180140476 A KR1020180140476 A KR 1020180140476A KR 20180140476 A KR20180140476 A KR 20180140476A KR 102174695 B1 KR102174695 B1 KR 102174695B1
Authority
KR
South Korea
Prior art keywords
layer
frame
objects
image
action
Prior art date
Application number
KR1020180140476A
Other languages
English (en)
Other versions
KR20200056602A (ko
Inventor
송응열
Original Assignee
송응열
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 송응열 filed Critical 송응열
Priority to KR1020180140476A priority Critical patent/KR102174695B1/ko
Publication of KR20200056602A publication Critical patent/KR20200056602A/ko
Application granted granted Critical
Publication of KR102174695B1 publication Critical patent/KR102174695B1/ko

Links

Images

Classifications

    • G06K9/00335—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G06K9/00885—
    • G06K9/6201—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20036—Morphological image processing
    • G06T2207/20044—Skeletonization; Medial axis transform

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 객체 움직임 인식 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 기반으로 스켈레톤 데이터를 이용하여 객체의 행동을 분석하는 객체 움직임 인식 방법 및 장치에 관한 것이다.
본 발명의 일 실시 예에 따른 객체 움직임 인식 장치는 입력 영상으로부터 객체를 추출하는 영상 추출부; 추출된 객체 영상으로부터 객체 스켈레톤 데이터를 생성하는 스켈레톤 생성부; 상기 객체 스켈레톤 데이터로부터 액션 파일을 생성하는 액션 파일 생성부; 및 상기 액션 파일을 이용하여 객체의 행동을 인식하는 행동 인식부를 포함하고, 상기 액션 파일은, 상기 객체가 다수의 영상 프레임 내에서 수행하는 동작을 나타내는 제1레이어와, 하나의 영상 프레임 내에서 상기 객체의 객체 스켈레톤 데이터를 나타내는 제2레이어를 포함하는 것을 특징으로 한다.

Description

객체 움직임 인식 방법 및 장치 {Apparatus and method for recognizing movement of object}
본 발명은 객체 움직임 인식 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 기반으로 스켈레톤 데이터를 이용하여 객체의 행동을 분석하는 객체 움직임 인식 방법 및 장치에 관한 것이다.
2차원 영상으로부터 사람의 동작을 인식하는 연구는 컴퓨터 비전(computer vision)의 초창기부터 수행되어온 매우 중요한 연구분야 중의 하나로써 영상감시(visual surveillance), 사람-컴퓨터 상호작용(human-computer interaction), 지능로봇(intelligent robot) 등 다양한 적용 분야를 가지고 있다. 동작인식에서 인식의 대상인 사람의 동작은 다양한 의미를 지닐 수 있는데, 신체부위들이 어떻게 배치(a configuration of the human body)되어 있는가를 표현하는 자세 혹은 특정한 의미를 가지는 신체의 움직임을 나타내는 동작(gesture) 등을 들 수 있다.
특히 촬영된 영상에서 사용자의 동작과 자세를 인식하여 사용자의 행동의 의미를 인식하는 기술이 널리 연구되고 있다. 예를 들면 센서 또는 카메라를 이용하여 사람의 신체 골격을 검출하고, 관절의 이동 궤적을 분석하여 사용자의 행동 및 제스처를 인식하는 기술이 개발되어 사용되고 있다. 그리고 이와 같은 기존의 사용자 행동 인식 방법들은 주로 사용자의 동작을 보다 정확하게 분석하여 행동을 인식하려는 노력을 기울여 왔다.
그러나 단순히 영상 내에 포함된 정보만을 이용하여 사용자의 행동을 인식하는 방식은 인식 정확도에 있어서 한계가 있고, 잘못된 인식 결과가 출력될 가능성이 높다. 따라서, 영상 내의 정보를 체계화하고 이를 활용하여 동작을 인식하고 사용자와 영상 간의 상호 교류가 가능한 기술 개발이 요구되고 있다.
대한민국 등록특허 제 10-1762010호 대한민국 등록특허 제 10-1908284호
본 발명이 이루고자 하는 기술적 과제는, 비디오 기반으로 스켈레톤 데이터를 이용하여 객체의 행동을 분석하는 객체 움직임 인식 방법 및 장치를 제공하는 것이다.
다만, 본 발명이 이루고자 하는 기술적 과제는 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
전술한 본 발명의 목적 달성을 위해, 본 발명의 일 실시 예에 따른 객체 움직임 인식 장치는 입력 영상으로부터 객체를 추출하는 영상 추출부; 추출된 객체 영상으로부터 객체 스켈레톤 데이터를 생성하는 스켈레톤 생성부; 상기 객체 스켈레톤 데이터로부터 액션 파일을 생성하는 액션 파일 생성부; 및 상기 액션 파일을 이용하여 객체의 행동을 인식하는 행동 인식부를 포함하고, 상기 액션 파일은, 상기 객체가 다수의 영상 프레임 내에서 수행하는 동작을 나타내는 제1레이어와, 하나의 영상 프레임 내에서 상기 객체의 객체 스켈레톤 데이터를 나타내는 제2레이어를 포함하는 것을 특징으로 한다.
본 발명의 일 실시 예에 있어서, 액션 파일은, 복수의 객체가 존재하는 경우, 하나의 영상 프레임 내에 다수의 랜드마크 레이어를 생성될 수 있다.
본 발명의 일 실시 예에 있어서, 행동 인식부는, 상기 액션 파일을 이용하여 서른 다른 객체의 행동을 비교할 수 있다.
본 발명의 일 실시 예에 있어서, 행동 인식부는, 상기 액션 파일을 이용하여 객체의 행동을 예측하여 행동이 발생하기 전에 경고를 제공할 수 있다.
본 발명의 일 실시 예에 있어서, 제1레이어는, 상기 다수의 영상 프레임 중에서 시작 프레임 정보와 종료 프레임 정보를 포함하고, 상기 객체와 관련된 객체 스켈레톤 데이터가 없는 프레임을 포함할 수 있다.
본 발명의 일 실시 예에 있어서, 제2레이어는, 상기 객체의 다수의 특정 부분에 대한 위치 데이터를 포함하고, 일부 프레임에서 상기 객체의 다수의 특정 부분의 위치 데이터 중의 일부만을 제공할 수 있다.
본 발명의 일 실시 예에 따른 객체 움직임 인식 방법은, 입력 영상으로부터 객체를 추출하는 단계; 추출된 객체 영상으로부터 객체 스켈레톤 데이터를 생성하는 단계; 상기 객체 스켈레톤 데이터로부터 액션 파일을 생성하는 단계; 및 상기 액션 파일을 이용하여 객체의 행동을 인식하는 단계를 포함하고, 상기 액션 파일을 생성하는 단계는, 상기 객체가 다수의 영상 프레임 내에서 수행하는 동작을 나타내는 제1레이어와, 하나의 영상 프레임 내에서 상기 객체의 객체 스켈레톤 데이터를 나타내는 제2레이어를 생성하는 단계를 포함하는 것을 특징으로 한다.
본 발명의 일 실시 예에 있어서, 액션 파일을 생성하는 단계는, 복수의 객체가 존재하는 경우, 하나의 영상 프레임 내에 다수의 랜드마크 레이어를 생성될 수 있다.
본 발명의 일 실시 예에 있어서, 객체의 행동을 인식하는 단계는, 상기 액션 파일을 이용하여 서른 다른 객체의 행동을 비교하는 단계를 포함할 수 있다.
본 발명의 일 실시 예에 있어서, 제1레이어는, 상기 다수의 영상 프레임 중에서 시작 프레임 정보와 종료 프레임 정보를 포함하고, 상기 객체와 관련된 객체 스켈레톤 데이터가 없는 프레임을 포함할 수 있다.
본 발명의 일 실시 예에 따른 객체 움직임 인식 방법 및 장치는 비디오 기반으로 스켈레톤 데이터를 이용하여 객체의 행동을 분석할 수 있다.
또한 본 발명에 의하면 스켈레톤 데이터를 이용하여 액션 파일을 생성함으로써, 객체 간의 행동 비교와 객체의 동작 예측을 하는 데 효율적으로 활용할 수 있다. 대상물이 사람일 경우 회전이나 승강에 의해 거부감이나 스트레스를 줄이고 필요한 신체 부위의 정확하게 스캔할 수 있다.
또한 본 발명에 의하면 영상콘텐츠에서 인공지능이 사람의 관절을 추출하고, 검출된 관절을 이용하여 움직임을 예측하고, 평가함으로써 바른 보행, 동작 피드백 또는 동작의 정확도를 판단할 수 있다.
또한 본 발명에 의하면 일방적인 콘텐츠 소비가 아닌 특정한 행동을 취해야 다음 동영상이 플레이 되는 등 유저와 영상 간의 상호 교류를 가능하게 하여 상호간 인터랙션이 필요한 교육 프로그램 및 장기적인 관리가 필요한 프로그램 등에 활용될 수 있다.
도1은 본 발명의 일 실시 예에 따른 객체 움직임 인식 장치에 대한 블럭도이다.
도2는 본 발명의 실시 예에 따른 객체 움직임 인식 방법을 도시한 흐름도이다.
도3은 본 발명과 관련된 사람 관절 모델의 예시를 보여주는 도면이다.
도4는 본 발명과 관련된 하나의 영상 프레임 내의 랜드마크 레이어를 설명하기 위한 도면이다.
도 5는 본 발명과 관련된 영상 프레임 내의 액션 레이어를 설명하기 위한 도면이다.
도 6은 본 발명과 관련된 다수의 프레임 내의 랜드마크 레이어와 액션레이어를 설명하기 위한 도면이다.
도7은 본 발명과 관련된 객체의 액션 파일 생성 방법을 설명하기 위한 도면이다.
도8은 본 발명과 관련된 객체의 움직임 비교와 관련된 위한 도면이다.
도9는 본 발명과 관련된 객체의 움직임 통한 행동 예측을 설명하기 위한 도면이다.
이하에서는 첨부한 도면을 참조하여 본 발명을 설명하기로 한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며, 따라서 여기에서 설명하는 실시예로 한정되는 것은 아니다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결(접속, 접촉, 결합)"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우 *뿐 아니라, 그 중간에 다른 부재를 사이에 두고 "간접적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 구비할 수 있다는 것을 의미한다.
본 명세서에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
도 1은 본 발명의 일 실시 예에 따른 객체 움직임 인식 장치에 대한 블록도이다.
도 1을 참조하면, 본 발명의 일 실시 예에 따른 객체 움직임 인식 장치(100)는 입력 영상(Observed Image)으로부터 객체를 추출하는 영상 추출부(110), 객체 영상으로부터 객체 스켈레톤(Skeleton) 데이터를 생성하는 스켈레톤 생성부(120), 객체 스켈레톤 데이터로부터 액션 파일을 생성하는 액션 파일 생성부(130), 객체의 행동을 인식하는 행동 인식부(140)및 행동 모델을 저장하는 저장부(150)를 포함할 수 있다.
입력 영상은 객체에 대해 취득된 영상으로서 일반적으로 널리 이용되는 RGB카메라나 뎁스(Depth) 카메라에 의해 취득될 수 있고, 이미 촬영된 영상으로부터 취득될 수 있다. 뎁스 카메라를 이용하여 객체에 대한 2차원 영상을 취득하는 동시에 초음파 또는 적외선 등을 이용하여 깊이 정보를 취득하고 2차원 영상의 각 픽셀이 깊이 정보를 포함한 3차원 좌표 정보를 갖는 영상을 취득할 수 있다.
입력 영상은 다수의 프레임으로 이루어지 영상 이미지와 오디오파일, 자막파일을 포함할 수 있다.
영상 추출부(110)는 입력 영상을 분석하여 각 프레임별로 다수의 객체를 추출할 수 있다.
스켈레톤 생성부(120)는 추출된 객체로부터 객체의 스켈레톤 데이터를 검출할 수 있다. 객체가 인체나 동물일 경우, 객체의 관절 부위이나 특정 부위를 검출할 수 있다. 인체의 경우, 머리, 눈, 코, 입, 귀, 목, 어깨, 팔꿈치, 손목, 손끝, 몸통, 고관절, 손목, 무릎, 발목, 발끝 등의 신체 부분을 추출할 수 있다.
스켈레톤 생성부(120)는 관절 검출 알고리즘을 이용하여 검출된 관절 정보를 활용하여 스켈레톤 데이터를 생성할 수 있다. 스켈레톤 데이터는 객체의 관절이 위치한 부분의 영상 상에서의 좌표로서 XY좌표값으로 나타낼 수 있다.
액션 파일 생성부(130)는 스켈레톤 데이터를 이용하여 액션 파일을 생성할 수 있다. 액션 파일은 액션 레이어(Action Layer)와 랜드마크 레이어(Landmark Layer)를 포함할 수 있다. 액션 레이어는 하나의 객체가 여러 프레임 내에서 연속적인 동작을 수행하는 것을 나타낼 수 있다. 랜드마크 레이어는 하나의 프레임 내에서 개별 객체의 스켈레톤 데이터를 나타낼 수 있고, 하나의 프레임 내에 다수의 랜드마크 레이어가 생성될 수 있다.
행동 인식부(140)는 객체의 행동을 인식하고 기준이 되는 행동과 비교하여 판단할 수 있다. 또한 행동 인식부(140)는 객체의 행동을 인식하고 행동을 예측할 수 있다.
저장부(150)는 객체의 행동과 비교할 수 있는 다양한 행동 모델을 저장할 수 있다.
저장부(150)는 영상 추출부(110), 스켈레톤 생성부(120), 액션 파일 생성부(130), 행동 인식부(140)가 수행하는 기능의 처리 및 제어를 위한 프로그램을 저장할 수도 있고, 입/출력되는 데이터들을 저장할 수도 있다.
저장부(150)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 장치는 인터넷(internet) 상에서 메모리의 저장 기능을 수행하는 웹 스토리지(web storage) 또는 클라우드 서버를 운영할 수도 있다.
도2는 본 발명의 실시 예에 따른 객체 움직임 인식 방법을 도시한 흐름도이다.
도2를 참조하면, 본 발명의 일 실시 예에 따른 객체 움직임 인식 장치(100)는 영상 추출부(110)를 통해 입력 영상으로부터 객체를 추출할 수 있다(S210). 입력 영상은 카메라 등의 영상 획득 장치를 통해 실시간으로 획득된 영상이거나 사용자에 의해 획득되었거나 외부 장치로부터 전송된 영상일 수 있다.
객체 움직임 인식 장치(100)는 스켈레톤 생성부(120)를 통해 추출된 객체 영상으로부터 객체 스켈레톤 데이터를 생성할 수 있다(S220). 사용자에 의해 정해진 관절 검출 알고리즘을 이용하여 검출된 관절 정보를 활용하여 스켈레톤 데이터를 생성할 수 있다. 스켈레톤 데이터는 객체의 관절이 위치한 부분의 영상 상에서의 좌표로서 XY좌표값으로 나타낼 수 있다.
객체 움직임 인식 장치(100)는 액션 파일 생성부(130)를 통해 상기 객체 스켈레톤 데이터로부터 액션 파일을 생성할 수 있다(S230). 생성된 액션 파일은 객체가 다수의 영상 프레임 내에서 수행하는 동작을 나타내는 액션 레이어와 하나의 영상 프레임 내에서 상기 객체의 객체 스켈레톤 데이터를 나타내는 랜드마크 레이어는 하나의 프레임 내에서 개별 객체의 스켈레톤 데이터를 포함할 수 있고, 하나의 프레임 내에 다수의 랜드마크 레이어가 생성될 수 있다.
객체 움직임 인식 장치(100)는 행동 인식부(140)를 통해 액션 파일을 이용하여 객체의 행동을 인식할 수 있다(S240). 행동 인식부(140)를 통해 프레임 내의 객체의 움직임과 관련된 액션 파일을 분석하여 객체의 행동을 예측할 수 있다. 또한, 행동 인식부(140)를 통해 프레임 내의 객체의 움직임과 관련된 액션 파일을 분석하여 객체의 행동을 예측할 수 있다.
도3은 본 발명과 관련된 사람 관절 모델의 예시를 보여주는 도면이다.
도3를 참조하면, 신체의 관절이나 특정 부위의 스켈레톤 데이터를 추출하기 위해 마이크로소프트의Kinetics 데이터 세트나 NTU-RGB-D (Nanyang Technological University's Red Blue Green and Depth information) 데이터 세트와 같은 관절 검출 알고리즘을 활용할 수 있다.
도3a와 같이, Kinetics 데이터 세트는 17개의 키 포인트 (Key point)로 사람의 관절을 나타낼 수 있고, 도3b와 같이, NTU-RGB-D는 25개의 키 포인트 (Key point)로 사람의 관절을 나타낼 수 있다. 사람 관절 모델을 표현하기 위해서 스켈레톤 모델의 관절 갯수는 특정되지 않고 개발자에 의해 임의로 정의 할 수 있다.
인간의 관절은 대표적인 위치를 정할 수 있고, 그래프로 표현하거나 연결점으로 표현할 수 있다. 따라서 관절의 연결점들의 이동하는 것을 통해 사람의 행동을 예측할 수 있다.
인체에서의 스켈레톤 데이터는 신체의 형상을 구조화한 모델을 기반으로 생성된 XY좌표값으로 구성된 스켈레톤 키 포인트(Skeleton Key Point)와 얼굴을 대상으로 눈, 코, 입 등의 개별 위치를 점에 대한 모델을 기반으로 하여 생성된 XY좌표값으로 페이스 키 포인트(Face Key Point)을 포함할 수 있다. 여기서, 스켈레톤 키 포인트는 18개의 포인트로 구성될 수 있으며 영상 프레임의 가려지는 부분이나 장면에 따라 적은 수의 포인트로 구성될 수 있다. 또한, 페이스 키 포인트는 48개의 포인트를 기준으로 그 이상 또는 그 이하의 포인트로 구성될 수 있다.
입력 영상에서 분석하고자 하는 객체 부분만 추출하여 그 객체 부분에서 객체의 움직임 인식을 위한 분석 대상의 관절 부위이나 특정 부위를 검출하는 기능을 수행할 수 있다.
도4는 본 발명과 관련된 하나의 영상 프레임 내의 랜드마크 레이어를 설명하기 위한 도면이다.
도4를 참조하면, 영상의 Frame t에는 3개의 객체가 추출되어 각 객체에 대한 스켈레톤 데이터가 생성된다. 각 객체의 특정 부위는 다른 객체에 의해 가려져 보이지 않을 수도 있다. 각 객체 별로 랜드마크 레이어가 생성되어 랜드마크 레이어 1, 랜드마크 레이어 2, 랜드마크 레이어 3가 생성되는 것을 알 수 있다. 랜드마크 레이어는 나타내고자 하는 객체를 식별할 수 있도록 객체의 테두리나 외곽에 사각형 또는 원형 등의 마크로 표시할 수 있다. 또한 랜드마크 레이어를 숫자나 알파벳, 문자 등으로 표시하여 다른 랜드마크 레이어와 구분할 수 있고, 이전이나 이후 프레임에 포함된 동일한 객체에 동일한 표시를 통해 객체의 식별을 용이하게 할 수 있다.
랜드마크 레이어는 아래 표 1과 같이 0 내지 17개 또는 0내지 25개로 이루어진 관절 모델을 저정할 수 있는 매트릭형태일 수 있고, XY축의 좌표를 나타내는 상수 또는 실수 형태의 자료일 수 있다. 랜드마크 레이어는 객체를 구분하기 위한 번호나 문자 등을 포함할 수 있다.
Name set1 좌표
Point 0 얼굴 (2, 1)
1 목 (2, 3)
2 오른쪽 어깨 (1, 4)
...
17 왼쪽 귀 (2.5, 1.8)
도 5는 본 발명과 관련된 영상 프레임 내의 액션 레이어를 설명하기 위한 도면이다.
도5를 참조하면, 영상은 일정 시간의 길이를 같는 영상으로 다수의 프레임과 다수의 액션레이어를 포함할 수 있다. 예를 들어, 8초짜리 영상이고, 초당 30프레임이라고 하면, 전체 영상은 240개의 프레임을 가지고 있을 수 있다. 영상 내에서 여러 객체가 인식될 수 있고, 객체 별로 영상 내에서 인식되는 시간은 다를 수 있다. 액션 레이어 1의 경우 영상의 시작과 함께 객체가 추출되어 인식되고 영상의 시작으로부터 5초 이후는 인식되지 않는 것을 확인할 수 잇다. 액션 레이어 2는 영상의 시작 이후 500ms부터 객체가 추출되어 인식되고 5.5초까지 인식되는 것을 확인할 수 있다. 이와 같이 객체 별로 추출되고 인식되는 시점과 영상 내에서 사라지거나 가려져 추출되지 않고 인식되지 않는 시점이 다를 수 있다.
각각의 액션레이어는 움직임을 나타내고자 하는 객체만 해당 프레임에서 표시하고 다른 영역은 공백이나 특정색으로 표시할 수 있고, 이를 통해 나타내고자 하는 객체가 다수의 프레임 상에서 움직이는 모습을 쉽게 확인할 수 있다.
액션 레이어는 나타내고자 하는 객체를 식별할 수 있도록 객체의 테두리나 외곽에 사각형 또는 원형 등의 마크로 표시할 수 있고, 시간의 흐름에 따른 이동하는 객체를 따라 마크하는 부분도 함께 이동할 수 있다. 또한 액션 레이어를 숫자나 알파벳, 문자 등으로 표시하여 다른 액션 레이어와 구분할 수 있다.
액션 레이어는 액션 레이어의 시작과 끝을 나타내는 Frame number를 포함할 수 있고, 객체를 구분하기 위한 번호나 문자 등을 포함할 수 있다.
도 6은 본 발명과 관련된 다수의 프레임 내의 랜드마크 레이어와 액션레이어를 설명하기 위한 도면이다.
도 6a를 참조하면, 시간의 흐름에 따른 다수의 프레임 내에서 표시되는 랜드마크 레이어의 변화를 확인할 수 있다.
랜드마크 레이어 (1)은 객체 T1을 인식하고 스켈레톤 데이터를 이용하여 생성된 레이어일 수 있고, 시간의 흐름에 따라 프레임 상에 t1, t2, t3 시간에는 객체가 인식되어 생성될 수 있고, 이후 시간에는 객체가 인식되지 않아 랜드마크 레이어가 생성되지 않을 수 있다.
랜드마크 레이어 (2)은 객체 T2를 인식하고 스켈레톤 데이터를 이용하여 생성된 레이어일 수 있고, 시간의 흐름에 따라 프레임 상에 t1, t3, tN시간에만 인식되어 생성될 수 있고, 다른 시간에는 객체가 인식되지 않아 랜드마크 레이어가 불연속적으로 생성될 수 있다.
랜드마크 레이어 (n)은 객체 Tn을 인식하고 스켈레톤 데이터를 이용하여 생성된 레이어일 수 있고, 시간의 흐름에 따라 프레임 상에 시간t1부터 tN까지 모든 시간에 객체가 인식되어 생성될 수 있다.
시간축 상에서 살펴보면, 시간t1에는 객체 T1, T2, Tn이 모든 인식되어 랜드마크 레이어가 생성될 수 있고, 시간 t2에는 객체 T1과 Tn만이 인식되어 랜드마크 레이어가 생성될 수 있고, 시간t3에는 객체 T1, T2, Tn이 모든 인식되어 랜드마크 레이어가 생성될 수 있고, 시간 tN에는 객체 T2와 Tn만이 인식되어 랜드마크 레이어가 생성될 수 있다.
도 6b를 참조하면, 도6a에 도시된 객체 별로 시간의 흐름에 따라 객체의 움직임을 나타내기 위한 액션레이어가 생성될 수 있다.
액션 레이어 (1)은 객체 T1에 대한 시간의 흐름에 따른 움직임을 나타내는 레이어일 수 있고, 시간 t1, t2, t3 에 객체가 인식되어 움직임이 표시될 수 있다.
액션 레이어 (2)은 객체 T2에 대한 시간의 흐름에 따른 움직임을 나타내는 레이어일 수 있고, 시간 t1, t2, tN 에 객체가 인식되어 움직임이 표시될 수 있다.
액션 레이어 (n)은 객체 T2에 대한 시간의 흐름에 따른 움직임을 나타내는 레이어일 수 있고, 시간 t1부터 tN까지 모든 시간에 객체가 인식되어 움직임이 표시될 수 있다.
액션 레이어는 액션 레이어의 전체 프레임에서 객체가 인식되지 않은 구간을 포함할 수 있고, 객체가 인식되지 않는 구간을 이후 객체가 인식되는 시간을 표시하거나 이동할 수 있는 키를 둘 수 있다.
도7은 본 발명과 관련된 객체의 액션 파일 생성 방법을 설명하기 위한 도면이다.
도7을 참조하면, 객체가 Frame t의 시간에는 손을 내리고 있고, 시간이 경과함에 따라 오른 손을 올리기 시작하여 Frame t+N의 시간에 오른손을 올리는 동작을 완성하는 것을 나타내고 있다. 오른손 올리는 동작이 있는 입력 영상에서 객체를 추출하고 추출된 객체에 스켈레톤 데이터를 생성할 수 있다. 스켈레도 데이터를 이용하여 Frame t의 시간에 랜드마크 레이어 1을 생성할 수 있고, 시간의 흐름에 따라 랜드마크 레이어 2, 3, … N을 순차적으로 생성할 수 있다.
객체가 Frame t부터 Frame N까지의 모든 시간에 인식되고 있으므로, 시작 시간이 Frame t이고, 종료 시점이 Frame N인 액션 레이어를 생성할 수 있다.
도8은 본 발명과 관련된 객체의 움직임 비교와 관련된 위한 도면이다.
도8을 참조하면, 행동 인식부(140)는 프레임 내의 객체의 움직임과 관련된 액션 파일을 생성하고 다른 객체의 움직임과 비교할 수 있다. 다른 객체는 같은 프레임 내에서 동일하거나 유사한 동작을 수행하는 객체일 수 있고, 별도의 영상에서 생성된 객체의 움직임 관련된 액션 파일 내의 객체일 수 있다.
예를 들어, 동일 장소에서 헬스 트레이너나 재활 운동사의 움직임에 따라 같은 동작을 수행하는 수강생이나 환자가 동일한 동작을 동일하게 수행하고 있는지 판단하여 다르게 수행되는 부분을 표시할 수 있다. 객체 간의 동일 동작이 일정 수준 이상으로 크게 다르게 수행되는 부분만 다르게 수행되는 부분으로 판단할 수 있다.
객체 간의 움직임을 비교하기 위한 기준이 되는 객체는 하나이지만, 비교 대상이 되는 객체는 하나일 수도 있고 다수의 객체일 수도 있다. 객체 간의 행동이 다르다고 판단되는 부분은 해당 시간의 액션 파일 내의 랜드마크 레이어에 표시할 수 있다. 또한 객체 간의 행동이 다르다고 판단되는 부분이 포함된 액션 파일 내의 액션 레이어에 표시하여 여러 객체 중에서 틀린 동작을 수행하는 객체를 추출할 수도 있다.
액션 파일을 비교하는 방법은 동일 시간대 같은 프레임의 액션 파일 상에서 객체 별 랜드마크 레이어를 비교하는 것일 수 있다. 서로 다른 프레임의 액션 파일 상의 객체를 비교하는 경우, 비교 기준이 되는 시작 시간을 동일하게 설정하거나 객체의 움직임의 유사성을 판단하여 자동으로 설정할 수 있다.
도9는 본 발명과 관련된 객체의 움직임 통한 행동 예측을 설명하기 위한 도면이다.
도9을 참조하면, 행동 인식부(140)는 프레임 내의 객체의 움직임과 관련된 액션 파일을 분석하여 객체의 행동을 예측할 수 있다.
행동 인식부(140)는 객체의 관절의 위치 좌표를 확인하고 프레임의 시간 변화에 따른 특정 관절의 이동 방향을 파악할 수 있다. 객체의 특정 관절의 이동 방향이 금지구역을 향하고 있는 것으로 판단되면 객체 움직임 인식 장치(100)의 출력부(미도시)나 객체가 위치한 곳의 스피커나 LED 등의 경고 장치를 통해 실시간으로 위험을 알려줄 수 있다. 액션 파일의 랜드마크 레이어에서 특정 관절이 이동 방향을 파악할 수 있다.
행동 인식부(140)는 객체가 저장부(150)에 저장된 위험 행동으로 인식되는 행동 모델과 유사한 행동을 수행하는지 판단하여 위험을 알리는 경고를 제공할 수도 있다.
예를 들어 보행자가 무단으로 도로나 기찻길을 횡단하려고 하는 경우 보행자의 스켈레톤 데이터를 통해 행동을 인식하여 무단 횡단하려는 행동이 발생하기 전에 사전 경고를 제공할 수 있다. 또한 보행자가 무단으로 도로나 기찻길 근처에서의 보행자의 행동이 위험한 행동 모델과 유사한 행동으로 인식될 경우 경고를 제공할 수 있다.
본 발명의 일실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
100: 객체 움직임 인식 장치
110: 영상 추출부
120: 스켈레톤 생성부
130: 액션 파일 생성부
140: 행동 인식부
150: 저장부

Claims (10)

  1. 입력 영상으로부터 객체를 추출하는 영상 추출부;
    추출된 객체 영상으로부터 객체 스켈레톤 데이터를 생성하는 스켈레톤 생성부;
    상기 객체 스켈레톤 데이터로부터 액션 파일을 생성하는 액션 파일 생성부; 및
    상기 액션 파일을 이용하여 객체의 행동을 인식하는 행동 인식부를 포함하고
    상기 액션 파일은,
    상기 객체가 다수의 영상 프레임 내에서 수행하는 동작을 나타내는 제1레이어와,
    하나의 영상 프레임 내에서 상기 객체의 객체 스켈레톤 데이터를 나타내는 제2레이어를 포함하되,
    상기 제1레이어는,
    상기 다수의 영상 프레임 중에서 복수의 객체 각각에 따라 복수개가 생성되고, 시작과 끝을 나타내는 프레임 넘버를 포함하며, 각각이 나타내고자 하는 객체에 대해서만 해당 프레임에서 표시하고 다른 영역은 공백이나 특정색으로 표시하고, 객체가 인식되지 않는 구간을 이후 객체가 인식되는 시간을 표시하거나 이동할 수 있는 키를 두며,
    상기 제2레이어는,
    하나의 영상 프레임 내에 복수의 객체가 존재하는 경우 상기 복수의 객체 각각의 특정 부분에 대한 관절 모델의 위치 데이터를 매트릭 형태로 저장하여 생성되고,
    상기 제1레이어 및 상기 제2레이어 각각은,
    나타내고자 하는 객체를 식별할 수 있도록 객체의 테두리나 외곽에 마크로 표시하고, 시간 흐름 또는 프레임 흐름에 따른 동일 객체에 상기 마크를 함께 표시시키며, 객체별 또는 다른 레이어와의 구별을 위한 숫자 및 문자 중 적어도 하나를 포함하고,
    상기 행동 인식부는,
    상기 액션 파일을 이용하여 서른 다른 객체의 행동을 비교하되, 동일 시간대 같은 프레임의 상기 액션 파일 내의 객체별 상기 제2레이어를 비교하여 객체간의 행동이 다르다고 판단되는 부분을 상기 액션 파일 내의 상기 제2 레이어에 표시하고 여러 객체 중에서 틀린 동작을 수행하는 객체를 추출하며,
    상기 제2레이어로부터 관절 모델의 위치 데이터를 확인하고 프레임의 시간 변화에 따른 특정 관절의 이동 방향을 파악하여 기 저장된 위험 행동을 인식되는 행동 모델과 유사한 행동을 수행하는지 판단하여 실시간으로 위험을 알리는 경고를 제공하는 것을 특징으로 하는 객체 움직임 인식 장치.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 삭제
  7. 입력 영상으로부터 객체를 추출하는 단계;
    추출된 객체 영상으로부터 객체 스켈레톤 데이터를 생성하는 단계;
    상기 객체 스켈레톤 데이터로부터 액션 파일을 생성하는 단계; 및
    상기 액션 파일을 이용하여 객체의 행동을 인식하는 단계를 포함하고
    상기 액션 파일을 생성하는 단계는,
    상기 객체가 다수의 영상 프레임 내에서 수행하는 동작을 나타내는 제1레이어와, 하나의 영상 프레임 내에서 상기 객체의 객체 스켈레톤 데이터를 나타내는 제2레이어를 생성하는 단계를 포함하되,
    상기 제1레이어는,
    상기 다수의 영상 프레임 중에서 복수의 객체 각각에 따라 복수개가 생성되고, 시작과 끝을 나타내는 프레임 넘버를 포함하며, 각각이 나타내고자 하는 객체에 대해서만 해당 프레임에서 표시하고 다른 영역은 공백이나 특정색으로 표시하고, 객체가 인식되지 않는 구간을 이후 객체가 인식되는 시간을 표시하거나 이동할 수 있는 키를 두며,
    상기 제2레이어는,
    하나의 영상 프레임 내에 복수의 객체가 존재하는 경우 상기 복수의 객체 각각의 특정 부분에 대한 관절 모델의 위치 데이터를 매트릭 형태로 저장하여 생성되고,
    상기 제1레이어 및 상기 제2레이어 각각은,
    나타내고자 하는 객체를 식별할 수 있도록 객체의 테두리나 외곽에 마크로 표시하고, 시간 흐름 또는 프레임 흐름에 따른 동일 객체에 상기 마크를 함께 표시시키며, 객체별 또는 다른 레이어와의 구별을 위한 숫자 및 문자 중 적어도 하나를 포함하고,
    상기 액션 파일을 이용하여 객체의 행동을 인식하는 단계에서는,
    상기 액션 파일을 이용하여 서른 다른 객체의 행동을 비교하되, 동일 시간대 같은 프레임의 상기 액션 파일 내의 객체별 상기 제2레이어를 비교하여 객체간의 행동이 다르다고 판단되는 부분을 상기 액션 파일 내의 상기 제2 레이어에 표시하고 여러 객체 중에서 틀린 동작을 수행하는 객체를 추출하며,
    상기 제2레이어로부터 관절 모델의 위치 데이터를 확인하고 프레임의 시간 변화에 따른 특정 관절의 이동 방향을 파악하여 기 저장된 위험 행동을 인식되는 행동 모델과 유사한 행동을 수행하는지 판단하여 실시간으로 위험을 알리는 경고를 제공하는 것을 특징으로 하는 객체 움직임 인식 방법.



  8. 삭제
  9. 삭제
  10. 삭제
KR1020180140476A 2018-11-15 2018-11-15 객체 움직임 인식 방법 및 장치 KR102174695B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180140476A KR102174695B1 (ko) 2018-11-15 2018-11-15 객체 움직임 인식 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180140476A KR102174695B1 (ko) 2018-11-15 2018-11-15 객체 움직임 인식 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20200056602A KR20200056602A (ko) 2020-05-25
KR102174695B1 true KR102174695B1 (ko) 2020-11-05

Family

ID=70914342

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180140476A KR102174695B1 (ko) 2018-11-15 2018-11-15 객체 움직임 인식 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102174695B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220081102A (ko) 2020-12-08 2022-06-15 (주)셀빅 실시간 카메라 영상 기반 2d 휴먼 포즈 추출 데이터의 필터링을 통한 데이터 보간법을 이용한 휴먼 포즈 추출 방법

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220083781A1 (en) * 2020-09-17 2022-03-17 Nec Laboratories America, Inc. Rule enabled compositional reasoning system
KR102397248B1 (ko) 2021-11-01 2022-05-13 주식회사 스위트케이 영상 분석 기반의 환자 동작 모니터링 시스템 및 그의 제공 방법
KR102438488B1 (ko) * 2022-03-02 2022-09-01 최성 3d 마커리스 모션 캡처 기반 3d 아바타 생성 장치 및 방법
KR102471192B1 (ko) * 2022-09-14 2022-11-28 주식회사 에이아이태권도 인공지능을 이용한 태권도 겨루기 동작 평가 방법 및 장치
KR102539102B1 (ko) 2022-09-19 2023-06-02 김보은 반려동물 미용공간 관리 서비스 제공 장치, 시스템, 방법 및 프로그램
KR102629582B1 (ko) * 2022-12-05 2024-01-29 한성정보기술주식회사 영상분석 기반의 횡단보도를 이용하는 보행자의 안전 관리 방법, 장치 및 프로그램

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8014565B2 (en) * 2005-08-26 2011-09-06 Sony Corporation Labeling used in motion capture
KR101908284B1 (ko) 2012-01-13 2018-10-16 삼성전자주식회사 신체 연결 관계 분석 장치 및 방법
KR20150110283A (ko) * 2014-03-21 2015-10-02 삼성전자주식회사 객체들 사이의 충돌을 방지하는 방법 및 장치.
KR101711488B1 (ko) * 2015-01-28 2017-03-03 한국전자통신연구원 동작 기반 인터랙티브 서비스 방법 및 시스템
KR101762010B1 (ko) 2015-08-28 2017-07-28 경희대학교 산학협력단 스켈레톤 자세 데이터세트를 이용한 비디오 기반 상호 활동 모델링 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220081102A (ko) 2020-12-08 2022-06-15 (주)셀빅 실시간 카메라 영상 기반 2d 휴먼 포즈 추출 데이터의 필터링을 통한 데이터 보간법을 이용한 휴먼 포즈 추출 방법

Also Published As

Publication number Publication date
KR20200056602A (ko) 2020-05-25

Similar Documents

Publication Publication Date Title
KR102174695B1 (ko) 객체 움직임 인식 방법 및 장치
KR102106135B1 (ko) 행동 인식 기반의 응용 서비스 제공 장치 및 그 방법
EP4002198A1 (en) Posture acquisition method and device, and key point coordinate positioning model training method and device
Panahi et al. Human fall detection using machine vision techniques on RGB–D images
Kale et al. A study of vision based human motion recognition and analysis
Hsieh et al. A real time hand gesture recognition system using motion history image
Xu et al. Human re-identification by matching compositional template with cluster sampling
Zeng et al. Agent-centric risk assessment: Accident anticipation and risky region localization
US11625646B2 (en) Method, system, and medium for identifying human behavior in a digital video using convolutional neural networks
Hu et al. Deep neural network-based speaker-aware information logging for augmentative and alternative communication
CN105426827A (zh) 活体验证方法、装置和系统
Szwoch et al. Emotion recognition for affect aware video games
Bloom et al. G3di: A gaming interaction dataset with a real time detection and evaluation framework
CN111222379A (zh) 一种手部检测方法及装置
Bhargavas et al. Human identification using gait recognition
US11222439B2 (en) Image processing apparatus with learners for detecting orientation and position of feature points of a facial image
CN109961038A (zh) 一种基于计算机算法的儿童安全监控方法及系统
Anwar et al. Real time intention recognition
Xipeng et al. Research on badminton teaching technology based on human pose estimation algorithm
TW201351308A (zh) 非接觸式醫療導覽系統及其控制方法
CN111008558B (zh) 结合深度学习与关系建模的图片/视频重要人物检测方法
WO2018073848A1 (ja) 画像処理装置、滞留物体追跡システム、画像処理方法および記録媒体
Leal-Taixé et al. Computer Vision–ECCV 2018 Workshops: Munich, Germany, September 8-14, 2018, Proceedings, Part VI
Wu et al. Human Pose Recognition Based on Openpose and Application in Safety Detection of Intelligent Factory
Panicker et al. Identification of cardio-pulmonary resuscitation (CPR) scenes in medical simulation videos using spatio-temporal gradient orientations

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right