KR102530219B1 - 동작 인식의 오류를 검출하는 방법 및 장치 - Google Patents

동작 인식의 오류를 검출하는 방법 및 장치 Download PDF

Info

Publication number
KR102530219B1
KR102530219B1 KR1020150151652A KR20150151652A KR102530219B1 KR 102530219 B1 KR102530219 B1 KR 102530219B1 KR 1020150151652 A KR1020150151652 A KR 1020150151652A KR 20150151652 A KR20150151652 A KR 20150151652A KR 102530219 B1 KR102530219 B1 KR 102530219B1
Authority
KR
South Korea
Prior art keywords
user
area
motion
motion recognition
detecting
Prior art date
Application number
KR1020150151652A
Other languages
English (en)
Other versions
KR20170050293A (ko
Inventor
조백환
우주연
박근주
류현석
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150151652A priority Critical patent/KR102530219B1/ko
Priority to US15/084,656 priority patent/US10410077B2/en
Publication of KR20170050293A publication Critical patent/KR20170050293A/ko
Application granted granted Critical
Publication of KR102530219B1 publication Critical patent/KR102530219B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/98—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107—Static hand or arm
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition

Abstract

사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지하고, 감지 결과를 기초로, 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정하며, 제2 영역에서 이벤트 발생이 감지되었는지 여부에 따라, 동작 인식의 오류를 검출하는 동작 인식의 오류를 검출하는 방법 및 장치를 제공할 수 있다.

Description

동작 인식의 오류를 검출하는 방법 및 장치 {METHOD AND APPARATUS OF DETECTING GESTURE RECOGNITION ERROR}
아래의 실시예들은 동작 인식의 오류를 검출하는 방법 및 장치에 관한 것이다.
동적 비전 센서(Dynamic Vision Sensor; DVS)는 빛의 변화에만 반응하므로 움직이는 사물의 윤곽선만을 검출할 수 있다. 이 경우, 상대적으로 적은 데이터 량으로 인한 고속 처리가 가능하고, 사물의 윤곽선만이 검출되므로 프라이버시 유지가 가능하며, 저전력이 소모된다. 다만, 윤곽선만이 검출되는 경우, 사용자의 신체 부위를 정확하게 추적(tracking)하지 못하므로 인식 오류에 빠질 가능성이 존재한다.
동작 인식을 위한 사용자의 위치나 손의 위치를 정확하게 찾지 못했을 때에는 해당 GUI(Graphic User Interface)가 제대로 동작하지 않게 되고, 이로 인해 동작 인식을 통한 제어를 기대하는 사용자에게 혼란을 야기할 수 있다.
일 측에 따르면, 동작 인식의 오류를 검출하는 방법은 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지하는 단계; 상기 감지 결과를 기초로, 상기 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정하는 단계; 및 상기 제2 영역에서 상기 이벤트 발생이 감지되었는지 여부에 따라, 상기 동작 인식의 오류를 검출하는 단계를 포함한다.
상기 유효한 동작의 발생 여부를 감지하는 단계는 상기 제1 영역 내에서의 움직임 발생 여부를 감지하는 단계; 및 상기 움직임이 상기 유효한 동작인지를 판단하는 단계를 포함할 수 있다.
상기 유효한 동작인지를 판단하는 단계는 미리 학습된 영상 분류기를 이용하여 상기 움직임이 상기 유효한 동작인지를 판단하는 단계를 포함할 수 있다.
상기 제2 영역을 설정하는 단계는 상기 사용자의 신체의 적어도 일부를 식별하는 단계; 상기 식별된 사용자의 신체에서 기준점(reference point)을 설정하는 단계; 및 상기 기준점에 기초하여, 상기 제2 영역을 설정하는 단계를 포함할 수 있다.
상기 사용자의 신체의 적어도 일부를 식별하는 단계는 미리 학습된 영상 분류기를 이용하여 상기 사용자의 신체의 적어도 일부를 식별하는 단계를 포함할 수 있다.
상기 제2 영역을 설정하는 단계는 상기 사용자의 신체의 적어도 일부를 식별하는 단계; 상기 식별된 사용자의 신체의 움직임을 추적하여 움직임 궤도(trajectory)를 저장하는 단계; 및 상기 움직임 궤도를 기초로, 상기 제2 영역을 설정하는 단계를 포함할 수 있다.
상기 동작 인식의 오류를 검출하는 단계는 상기 제2 영역에서 상기 이벤트 발생이 감지된 경우에, 상기 동작 인식의 오류를 검출하는 단계를 포함할 수 있다.
상기 동작 인식의 오류를 검출하는 단계는 상기 제2 영역에서 상기 이벤트에 대응되는 대상체의 이동량 또는 운동량(locomotion)을 측정하는 단계; 및 상기 대상체의 이동량 또는 운동량이 미리 설정된 제1 임계치보다 크거나, 미리 설정된 제2 임계치보다 작은 경우에 상기 이벤트 발생을 무시하는 단계를 포함할 수 있다.
상기 동작 인식의 오류를 검출하는 단계는 상기 제2 영역에서 상기 이벤트에 대응되는 대상체의 움직임이 규칙성을 가지는지를 판단하는 단계; 및 상기 판단 결과, 대상체의 움직임이 규칙성을 가지는 경우, 상기 이벤트 발생을 무시하는 단계를 포함할 수 있다.
상기 제1 영역의 크기는 상기 제2 영역의 크기보다 작을 수 있다.
상기 동작 인식의 오류를 검출하는 방법은 상기 동작 인식의 오류를 상기 사용자에게 피드백하는 단계를 더 포함할 수 있다.
상기 사용자에게 피드백하는 단계는 영상 메시지, 음성 메시지, 및 애니메이션 중 적어도 하나를 이용하여 상기 동작 인식의 오류를 상기 사용자에게 피드백하는 단계를 포함할 수 있다.
상기 동작 인식의 오류를 검출하는 방법은 상기 피드백 이후, 상기 제2 영역 전체를 스캔하여 흔들리는 물체의 위치를 다시 설정하는 단계를 더 포함할 수 있다.
상기 동작 인식의 오류를 검출하는 방법은 상기 피드백 이후, 상기 사용자에게 상기 제1 영역, 상기 사용자의 위치, 상기 사용자의 주변 환경 중 적어도 하나를 시각적으로 제공하는 단계를 더 포함할 수 있다.
상기 시각적으로 제공하는 단계는 상기 제1 영역을 미리 설정된 형태로 제공하는 단계; 및 정적 영상 생성 방법 및 미세 진동 제공 방법 중 적어도 하나를 이용하여 상기 사용자의 위치 및 상기 사용자의 주변 환경을 제공하는 단계를 포함할 수 있다.
상기 정적 영상 생성 방법은 동적 입력에 반응하여 이벤트 기반 센서에 의해 출력되는 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 상기 사용자의 위치 및 상기 사용자의 주변 환경에 대응되는 정적 패턴을 추출할 수 있다.
상기 미세 진동 제공 방법은 이벤트 기반 센서에 미세 진동을 제공함으로써, 상기 사용자의 위치 및 상기 사용자의 주변 환경에 대응되는 동적 입력을 발생시킬 수 있다.
상기 시각적으로 제공하는 단계는 상기 제1 영역, 상기 사용자의 위치, 상기 사용자의 주변 환경 중 적어도 하나를 재생 중인 화면에 오버레이(overlay)하거나, 화면 전환을 통해 시각적으로 제공하는 단계를 포함할 수 있다.
일 측에 따르면, 동작 인식의 오류를 검출하는 장치는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지하는 감지부; 및 상기 감지 결과를 기초로, 상기 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정하고, 상기 제2 영역에서 상기 이벤트 발생이 감지되었는지 여부에 따라, 상기 동작 인식의 오류를 검출하는 프로세서를 포함한다.
도 1은 일 실시예에 따른 동작 인식의 오류를 검출하는 장치의 블록도.
도 2는 일 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도.
도 3은 다른 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도.
도 4는 일 실시예에 따른 제1 영역, 제2 영역 및 기준점을 나타낸 도면.
도 5는 다른 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도.
도 6은 일 실시예에 따른 사용자의 신체 일부의 움직임을 추적한 움직임 궤도 및 제2 영역을 나타낸 도면.
도 7은 다른 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도.
도 8은 일 실시예에 따라 동작 인식의 오류를 검출하여 사용자에게 피드백하는 방법을 나타낸 흐름도.
도 9는 일 실시예에 따른 동작 인식의 오류를 사용자에게 피드백하는 방법을 설명하기 위한 도면.
도 10은 일 실시예에 따른 동작 인식의 오류의 피드백 시에 사용자에게 시각적으로 제공되는 화면을 도시한 도면.
도 11은 일 실시예에 따른 정적 영상 생성 방법에서 이용되는 타임 스탬프 맵을 나타내는 도면.
도 12는 일 실시예에 따른 정적 패턴의 추출 결과를 설명하기 위한 도면.
도 13 및 도 14는 일 실시예에 따른 타임 스탬프 맵의 능선을 설명하기 위한 도면.
도 15는 일 실시예에 따른 임계 시간 구간에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면.
본 명세서에서 개시되어 있는 특정한 구조적 또는 기능적 설명들은 단지 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 실시예들은 다양한 다른 형태로 실시될 수 있으며 본 명세서에 설명된 실시예들에 한정되지 않는다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 이해되어야 한다. 예를 들어 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~간의에"와 "바로~간의에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
하기에서 설명될 실시예들은 동작 인식의 오류를 검출하여 사용자에게 피드백하는 데에 사용될 수 있다. 실시예들은 태블릿 컴퓨터, 스마트 폰, 스마트 가전 기기, 지능형 자동차, 웨어러블 장치 등 다양한 형태의 제품으로 구현될 수 있다. 예를 들어, 실시예들은 스마트 텔레비젼, 웨어러블 장치, 모바일 기기, 지능형 자동차 등 사용자의 동작 인식에 의해 미리 지정된 동작(또는 지시)를 수행하는 장치들에서 동작 인식의 오류를 검출하고, 검출된 오류에 대한 피드백을 제공하는 데에 적용될 수 있다. 이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일 실시예에 따른 동작 인식의 오류를 검출하는 장치의 블록도이다. 도 1을 참조하면, 일 실시예에 따른 동작 인식의 오류를 검출하는 장치(이하, '검출 장치')(100)는 감지부(110) 및 프로세서(130)를 포함한다.
감지부(110)는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지한다. 제1 영역은 '주시 영역'이라고도 불릴 수 있다. 제1 영역은 경험칙 또는 미리 설정된 규칙에 의해 설정될 수 있다.
감지부(110)는 예를 들어, 이벤트 기반 센서를 포함할 수 있다.
이벤트 기반 센서는 동적 입력에 반응하여, 동적 입력에 대응하는 위치 정보 및 시간 정보를 포함하는 이벤트 신호를 출력할 수 있다.
동적 입력은 이벤트 기반 센서의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함할 수 있다. 예컨대, 상기 이벤트는 입력의 변화와 관련된 이벤트를 포함한다. 예를 들어, 이벤트는 입사되는 빛의 세기(intensity)가 변하는 이벤트, 입사되는 빛의 색상이 변하는 이벤트, 입력되는 소리의 크기가 변하는 이벤트, 입력되는 소리의 주파수가 변하는 이벤트, 입력되는 자극의 세기가 변하는 이벤트 등을 포함할 수 있다. 이하, 설명의 편의를 위하여 이벤트 기반 센서는 입사되는 빛의 세기가 변하는 이벤트를 감지하는 이벤트 기반 비전 센서인 경우를 가정하나, 실시예들은 다양한 이벤트 기반 센서에도 적용될 수 있다.
위치 정보는 이벤트 기반 센서에 포함된 복수의 픽셀들 중 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소(address)를 포함할 수 있다. 또한, 시간 정보는 이벤트 기반 센서의 적어도 하나의 픽셀에 의하여 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 포함할 수 있다. 이하, 이벤트 기반 센서에 의한 이벤트 신호의 생성 과정을 상세히 설명한다.
이벤트 기반 센서는 복수의 센싱 픽셀들을 포함한다. 이벤트 기반 센서는 복수의 센싱 픽셀들 중 이벤트를 감지한 활성 픽셀(active pixel)의 식별 정보를 포함하는 이벤트 신호를 생성한다. 이벤트 기반 센서는 뉴로모픽(neuromorphic) 센싱 기법에 기반할 수 있다. 일 예로, 감지부(110)는 20 x 20 um2 크기의 센싱 픽셀들을 포함하는 128 x 128 어레이로 구현될 수 있다.
이벤트 기반 센서에 포함된 복수의 센싱 픽셀들은 이벤트(예를 들어, 입사되는 빛의 세기가 변하는 이벤트)를 감지할 수 있다. 복수의 센싱 픽셀들 중 이벤트를 감지한 센싱 픽셀은 활성 픽셀이라고 지칭될 수 있다. 활성 픽셀은 이벤트를 감지함에 반응하여, 활성화 신호를 발생할 수 있다.
위치 정보는 이벤트 기반 센서에 포함된 복수의 픽셀들 중 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소를 포함할 수 있다. 이벤트 기반 센서는 활성 픽셀의 식별 정보를 생성할 수 있다. 예를 들어, 이벤트 기반 센서는 활성 픽셀에 의하여 발생된 활성화 신호에 기초하여 해당 활성 픽셀을 식별하는 주소를 포함하는 이벤트 신호를 생성할 수 있다. 이벤트 기반 센서는 시간 비동기적으로 이벤트 신호를 생성 및 출력하므로, 매 프레임마다 모든 픽셀들을 스캔하는 프레임 기반 비전 센서에 비하여 저전력, 고속으로 동작할 수 있다.
이벤트 기반 센서는 활성 픽셀들을 이용하여 비동기적 주소 이벤트(address events, AE) 신호를 생성할 수 있다. 예를 들어, 이벤트 기반 센서는 지난 이벤트 이후로 로그 인텐시티(log intensity)의 변화가 상위 임계(upper threshold) 또는 하위 임계(lower threshold)를 초과하는 경우, 온(ON) 이벤트 신호 또는 오프(OFF) 이벤트 신호를 생성할 수 있다. 이벤트 기반 센서는 이벤트 신호의 타이밍 정보가 추가적으로 생성될 수 있다. 이벤트 기반 센서는 타이밍 정보를 이용하여 동기적 시스템(synchronous system)과 인터페이스할 수 있다. 이벤트 기반 센서는 밀도가 낮고(sparse) 빠른 응답(low-latency)의 출력 특성을 가지므로, 고속 로보틱스(high-speed robotics) 등 빠른 응답의 피드백을 요구하는 고속의 객체 트래킹 어플리케이션에 이용될 수 있다.
이벤트 기반 센서는 이벤트 신호를 출력할 수 있다. 일 실시예에 따르면, 이벤트 기반 비전 센서의 출력은 실제 액티비티(real activity)에 해당하는 이벤트 신호뿐 아니라 백그라운드 액티비티에 해당하는 이벤트 신호를 포함할 수 있다. 예를 들어, 백그라운드 액티비티에 해당하는 이벤트 신호는 이벤트 기반 센서의 센싱 픽셀들 내 플로팅 노드들(floating nodes)과 연결된 스위치들에 작용하는 써멀 노이즈(thermal noise) 또는 정션 리키지 전류(junction leakage current) 등에 의하여 발생될 수 있다.
이벤트 기반 센서는 백그라운드 액티비티에 해당하는 이벤트 신호를 필터링하기 위하여, 시공간적으로 연관된 이벤트 신호들을 식별하는 패스 플래그(pass flag)를 생성할 수 있다. 이로 인하여, 이벤트 기반 센서는 통신 및 연산 부하(communication and computation load)를 감소시키고 정보 레이트(information rate)을 향상시킬 수 있다.
또한, 일 실시예에 따르면, 이벤트 기반 센서는 파워-게이팅(power-gating) 기법을 이용할 수 있다. 파워-게이팅 기법은 이벤트를 감지하는 센싱 픽셀에 대응하는 임계 감지 회로(threshold detection circuit) 및 통신 회로(communication circuit) 만을 활성화시킴으로써, 전력 소모를 최소화하는 기법이다. 또한, 이벤트 기반 센서는 연관 필터 칩(correlation filter chip)을 이용할 수 있다. 연관 필터 칩을 이용함으로써, 이벤트 기반 센서는 적은 전력 소모와 빠른 응답속도를 요구하는 임베디드 뉴로모픽 영상 및 음성 시스템(embedded neuromorphic visual and auditory system)에 적용될 수 있다.
이벤트 기반 센서는 활성 픽셀에 의하여 동적 입력이 감지된 시간을 지시하는 타임 스탬프를 생성할 수 있다. 활성 픽셀은 이벤트를 감지함에 반응하여, 활성화 신호를 발생시킬 수 있다. 일 예로, 이벤트 기반 센서는 활성화 신호의 발생 시간에 기초하여 타임 스탬프를 생성할 수 있다.
프로세서(130)는 감지부(110)의 감지 결과를 기초로, 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정한다. 제2 영역은 '이벤트 감시 영역'이라고도 불릴 수 있다. 프로세서(130)는 제2 영역에서 이벤트 발생이 감지되었는지 여부에 따라, 동작 인식의 오류를 검출한다. 이때, 감지부(110)는 프로세서(130)에 의해 설정된 제2 영역에서의 이벤트 발생 또한 감지할 수 있다.
실시예에 따라서, 프로세서(130)는 이전에 설정되어 있던 제2 영역이 있는 경우, 제2 영역을 갱신, 다시 말해 새로이 설정할 수도 있다.
프로세서(130)는 마이크로프로세서, 콘트롤러, CPU(central processing unit), ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), FPGA(field programmable gate array), PLU(programmable logic unit), 명령(instruction)을 실행하고 응답할 수 있는 하나 이상의 범용 또는 특수 목적 컴퓨터, 또는 이들의 다양한 조합으로 구현될 수 있다.
이하, 설명의 편의를 위하여 검출 장치(100)의 구조 및 동작을 설명하나, 실시예들은 검출 장치를 포함하는 다양한 컴퓨팅 장치들, 스마트 텔레비전, 스마트 폰, 웨어러블 디바이스 등 모바일 장치들, 및 각종 보안 장치들 등에 적용될 수 있다.
프로세서(130)는 감지부(110)로부터 이벤트 신호를 수신함에 반응하여 타임 스탬프를 생성할 수 있다.
프로세서(130)는 이벤트 신호에 기초하여, 동적 입력과 관련된 정적 패턴을 추출할 수 있다. 앞서 설명된 것처럼, 동적 입력은 이벤트 기반 센서의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함할 수 있다. 정적 패턴은 동적 입력과 관련된 객체의 형상(appearance)에 대응할 수 있다. 예컨대, 동적 입력은 객체의 모션을 포함할 수 있고, 정적 패턴은 상기 모션이 멈춘 상태의 상기 객체의 형상에 대응할 수 있다. 이하, 프로세서(130)에 의한 정적 패턴의 추출 과정을 상세하게 설명한다.
프로세서(130)는 이벤트 신호에 기초하여 위치 정보 및 시간 정보를 저장하고, 저장된 위치 정보 및 저장된 시간 정보에 기초하여, 정적 패턴을 추출할 수 있다. 위치 정보 및 시간 정보는 타임 스탬프 맵의 형태로 메모리에 저장될 수 있다. 검출 장치(100)는 타임 스탬프 맵을 저장하기 위한 메모리를 포함할 수 있다. 타임 스탬프 맵은 도 11을 참조하여 설명한다.
이 밖에도, 프로세서(130)는 도 1 내지 도 15를 통하여 전술하는 적어도 하나의 방법을 수행할 수 있다. 프로세서(130)는 프로그램을 실행하고, 검출 장치(100)를 제어할 수 있다. 프로세서(130)에 의하여 실행되는 프로그램 코드는 메모리(미도시)에 저장될 수 있다. 검출 장치(100)는 입출력 장치(도면 미 표시)를 통하여 외부 장치(예를 들어, 퍼스널 컴퓨터 또는 네트워크)에 연결되고, 데이터를 교환할 수 있다.
도 1 내지 도 15를 통하여 전술한 적어도 하나의 방법은 태블릿, 스마트 폰, 스마트 텔레비전 또는 웨어러블 디바이스 내의 프로세서에서 동작하는 동작 인식 엔진 또는 앱 형태로도 구현되거나, 칩 형태로 구현되어 스마트 폰, 스마트 텔레비전, 웨어러블 디바이스 또는 지능형 자동차, 기타 다양한 AV(Audio Video) 기기 내에 내장될 수 있다.
도 2는 일 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도이다. 도 2를 참조하면, 일 실시예에 따른 검출 장치는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지한다(210). 단계(210)에서, 검출 장치는 제1 영역 내에서의 움직임 발생 여부를 감지하고, 움직임이 유효한 동작인지를 판단할 수 있다. 여기서, 유효한 동작은 동작 인식에 의한 제어를 위해 미리 약속된 동작으로서, 예를 들어, AV 기기에서 채널 전환을 위해 오른쪽으로 원을 그리는 동작, TV를 끄기 위해 손을 위에서 아래로 내리는 동작, 소리를 줄이기 위해 손을 오른쪽에서 왼쪽으로 움직이는 동작 등이 이에 해당할 수 있다.
검출 장치는 예를 들어, 미리 학습된 영상 분류기를 이용하여 움직임이 유효한 동작인지를 판단할 수 있다. 이때, 스마트 TV 화면에서 컨트롤 커서의 이동을 위한 손의 움직임 또한 유효한 동작으로 판단될 수 있다.
검출 장치는 감지 결과를 기초로, 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정한다(220). 검출 장치는 예를 들어, 제1 영역에서 미리 약속된 유효한 동작이 발생하지 않은 경우, 제2 영역을 설정할 수 있다.
검출 장치는 제2 영역에서 이벤트 발생이 감지되었는지 여부에 따라, 동작 인식의 오류를 검출한다(230).
검출 장치는 제1 영역에서는 유효한 명령이 감지되지 않았으나, 다른 영역에서 DVS 센서 등을 통해 움직임이 많이 감지되는 경우, 또는 제1 영역에서 움직임이 감지되었으나 해당 움직임이 유효한 명령에 해당하지 않는 경우, 이를 동작 인식의 오류로 판단할 수 있다. 이때, 다른 영역에서 움직임이 많이 감지되는 경우는 예를 들어, 스마트 텔레비젼과 같은 AV 기기의 제어를 위해 사용자가 특정 제스처를 취하고 있으나, 검출 장치가 사용자의 신체 부위의 위치를 잘 파악하지 못하여 다른 곳을 주시하고 있는 경우에 발생할 수 있다.
또한, 다른 영역에서 포착된 움직임이 주변의 다른 물체나 다른 사용자의 움직임에 의한 것인 경우, 검출 장치는 이러한 움직임이 사용자에 의한 것이 아님에도 사용자에 의한 움직임으로 잘못된 판단(false alarm)을 할 여지가 있다.
일 실시예에서는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생하지 않는 경우, 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 적절하게 설정하고, 제2 영역에서 유효한 이벤트가 발생하는지를 확인함으로써 동작 인식의 오류를 검출할 수 있다.
도 3은 다른 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도이고, 도 4는 일 실시예에 따른 제1 영역, 제2 영역 및 기준점을 나타낸 도면이다.
도 3 및 도 4를 참조하면, 일 실시예에 따른 검출 장치는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작이 발생했는지를 판단할 수 있다(310). 제1 영역은 예를 들어, 도 4의 영역(410)에 해당할 수 있다. 영역(410)은 감지부(110)가 감지할 수 있는 전체 시야각(Field Of View; FOV)에 해당하는 영역(400) 중 사용자의 동작 인식을 위해 주시하는 일정 영역에 해당할 수 있다. 단계(310)의 판단 결과, 제1 영역에서 유효한 동작이 발생한 경우, 검출 장치는 단계(310) 과정을 반복하면서, 미리 약속된 유효한 동작이 발생하지 않는 때를 기다릴 수 있다.
단계(310)의 판단 결과, 제1 영역 내에서 미리 약속된 유효한 동작이 발생하지 않는 경우, 검출 장치는 사용자의 신체의 적어도 일부를 식별할 수 있다(320). 검출 장치는 예를 들어, 미리 학습된 영상 분류기를 이용하여 사용자의 신체의 적어도 일부를 식별할 수 있다. 이때, 영상 분류기는 사용자의 얼굴, 손, 몸 등을 식별하도록 미리 학습될 수 있다.
검출 장치는 식별된 사용자의 신체에서 기준점(reference point)을 설정할 수 있다(330). 일 실시예에서 기준점은 기준 영역(reference area)을 포함하는 의미로서, 예를 들어, 사용자의 머리, 손, 몸(토르소), 머리의 중심점, 손의 중심점, 몸의 중심점 등이 이에 해당할 수 있다. 기준점은 예를 들어, 도 4의 영역(430)에 해당할 수 있다. 영역(430)은 예를 들어, 사용자의 머리에 해당하는 영역일 수 있다.
검출 장치는 기준점에 기초하여, 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정할 수 있다(340). 검출 장치는 기준점을 기준으로 사용자의 신체 부위(예를 들어, 손)의 위치 등을 추정하여 제2 영역을 설정할 수 있다. 제2 영역은 예를 들어, 도 4의 영역(450)에 해당할 수 있다. 영역(450)은 예를 들어, 사용자의 머리가 최근에 위치한 영역을 기준으로 사용자의 손의 위치로 추정되는 영역이거나, 또는 사용자의 머리에 해당하는 기준점의 주변 영역일 수 있다. 또는, 영역(450)은 사용자의 머리를 기준으로 한 사용자가 움직일 수 있는 범위에 해당하는 영역일 수 있다. 일 실시예에서는 이벤트 기반 센서의 시야각 내에 여러 명의 사용자가 있더라도 기준점을 기준으로 설정된 제2 영역에 의해 감지하고자 하는 사용자를 구분할 수 있다.
검출 장치는 제2 영역에서 이벤트 발생이 감지되는지를 판단할 수 있다(350). 단계(350)에서 이벤트 발생이 감지되지 않은 경우, 검출 장치는 단계(310)을 수행할 수 있다.
단계(350)에서 이벤트 발생이 감지된 경우, 검출 장치는 동작 인식의 오류를 검출할 수 있다(360). 사용자가 동작 인식에 의해 AV 기기를 작동하는 도중에 알 수 없는 이유로 동작 인식의 오류가 발생한 경우, 영역(410)에서는 유효한 동작이 인식되지 않을 수 있다. 이 때, 검출 장치는 예를 들어, 사용자의 머리 부분에 해당하는 영역(430)을 기준으로 사용자의 손이 위치할 수 있는 영역(450)을 검색하여, 이벤트 발생이 감지되는지를 판단할 수 있다. 검출 장치는 주위의 다른 사용자의 움직임이 있더라도, 감시 영역을 영역(450)으로 한정하여 손의 움직임만을 추적함으로써 동작 인식의 오류를 해결할 수 있다.
검출 장치는 동작 인식의 오류를 사용자에게 피드백할 수 있다(370). 검출 장치는 예를 들어, 영상 메시지, 음성 메시지, 및 애니메이션 등을 이용하여 동작 인식의 오류를 사용자에게 피드백할 수 있다. 검출 장치가 동작 인식의 오류를 사용자에게 피드백하는 방법은 도 8 내지 도 10을 참조하여 설명한다.
도 5는 다른 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도이고, 도 6은 일 실시예에 따른 사용자의 신체 일부의 움직임을 추적한 움직임 궤도 및 제2 영역을 나타낸 도면이다.
도 5 및 도 6을 참조하면, 일 실시예에 따른 검출 장치는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작이 발생했는지를 판단할 수 있다(510). 단계(510)의 판단 결과, 제1 영역에서 유효한 동작이 발생한 경우, 검출 장치는 단계(510) 과정을 반복하면서, 미리 약속된 유효한 동작이 발생하지 않는 때를 기다릴 수 있다.
단계(510)의 판단 결과, 제1 영역 내에서 미리 약속된 유효한 동작이 발생하지 않는 경우, 검출 장치는 사용자의 신체의 적어도 일부를 식별할 수 있다(520).
검출 장치는 식별된 사용자의 신체의 움직임을 추적하여 움직임 궤도(trajectory)를 저장할 수 있다(530). 검출 장치는 예를 들어, 식별된 사용자의 손의 위치에 대응되는 움직임을 5초 동안 추적하여 움직임 궤도를 산출하고, 산출된 움직임 궤도를 저장할 수 있다. 움직임 궤도는 예를 들어, 도 6의 움직임 궤도(610)과 같이 나타날 수 있다.
검출 장치는 움직임 궤도를 기초로, 제2 영역을 설정할 수 있다(540). 검출 장치는 예를 들어, 움직임 궤도(610)를 기준으로 움직임 궤도(610)로부터 일정 범위 내의 영역 또는 일정 상관 관계를 가지는 영역을 제2 영역(630)으로 설정하여 감시할 수 있다.
도 5에서 제2 영역이 설정된 이후의 단계(550) 내지 단계(570)의 과정은 도 3의 단계(350) 내지 단계(370)의 과정과 동일하므로 해당 부분의 설명을 참조하기로 한다.
도 7은 다른 실시예에 따른 동작 인식의 오류를 검출하는 방법을 나타낸 흐름도이다. 도 7을 참조하면, 일 실시예에 따른 검출 장치는 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지한다(710). 검출 장치는 감지 결과를 기초로, 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역을 설정한다(720).
검출 장치는 제2 영역에서 이벤트 발생이 감지되는지 여부를 판단할 수 있다(730). 단계(730)의 판단 결과, 제2 영역에서 이벤트 발생이 감지되지 않은 경우, 검출 장치는 제1 영역 내에서 미리 약속된 유효한 동작의 발생 여부를 감지할 수 있다(710).
단계(730)의 판단 결과, 제2 영역에서 이벤트 발생이 감지되는 경우, 검출 장치는 제2 영역에서 이벤트에 대응되는 대상체의 이동량 또는 운동량(locomotion)을 측정할 수 있다(740).
검출 장치는 측정된 대상체의 이동량 또는 운동량이 미리 설정된 제1 임계치보다 크거나, 미리 설정된 제2 임계치보다 작은지 여부를 판단할 수 있다(750). 이때, 제1 임계치는 예를 들어, 강아지나 병아리와 같이 활동량이 많은 애완동물 등의 이동량 또는 운동량에 대응하는 값일 수 있다. 또한, 제2 임계치는 예를 들어, 선풍기, 팬 등과 같이 움직임이 있으나, 그 움직임이 기계적인 움직임에 해당하여 이동량은 0 또는 이에 근접한 값일 수 있다.
단계(750)의 판단 결과, 대상체의 이동량 또는 운동량이 미리 설정된 제1 임계치보다 크거나, 미리 설정된 제2 임계치보다 작은 경우, 검출 장치는 이벤트 발생을 무시할 수 있다(760). 예를 들어, 제2 영역에서 발생된 이벤트가 운동량이 활발한 애완 동물이거나, 로봇 청소기, 선풍기 등과 같은 기계적인 움직임을 가진 대상체에 의해 발생한 경우, 해당 이벤트는 동작 인식을 위한 사용자의 움직임에 의한 것이 아니므로 무시될 수 있다. 일 실시예에서는 제2 영역에서 이벤트를 발생시킨 대상체의 이동량 또는 운동량이 제1 임계치를 초과하는 너무 큰 값을 가지거나, 또는 제2 임계치에 미달하는 너무 작은 값을 가지는 경우에, 해당 이벤트가 사용자에 의한 것이 아니라고 판단하여 이벤트 발생을 무시할 수 있다.
단계(750)의 판단 결과, 대상체의 이동량 또는 운동량이 미리 설정된 제1 임계치보다 작거나, 또는 미리 설정된 제2 임계치보다 큰 경우, 검출 장치는 동작 인식의 오류를 검출할 수 있다(770). 검출 장치는 동작 인식의 오류를 사용자에게 피드백할 수 있다(780).
실시예에 따라서, 검출 장치는 제2 영역에서 이벤트에 대응되는 대상체의 움직임이 규칙성을 가지는지를 판단할 수 있다. 검출 장치는 예를 들어, 주파수 분석 등을 통해 대상체의 움직임이 규칙성을 가지는지를 판단할 수 있다. 대상체의 움직임이 규칙성을 가지는 경우, 예를 들어, 선풍기의 팬, 에어컨의 팬, 또는 그 밖의 기계적인 동작에 의한 움직임일 수 있다. 검출 장치는 이와 같이 대상체의 움직임이 규칙성을 가지는 경우 이벤트 발생을 무시할 수 있다.
실시예에 따라서, 검출 장치는 제2 영역에서 이벤트 발생이 감지되는 경우, 미리 학습된 영상 분류기를 통해 제2 영역의 영상이 사용자의 신체 부위(예를 들어, 손)의 모양인지를 판단하여 사용자의 손이 아니라고 판단되면, 이벤트 발생을 무시할 수 있다.
도 8은 일 실시예에 따라 동작 인식의 오류를 검출하여 사용자에게 피드백하는 방법을 나타낸 흐름도이다. 도 8에서 단계(810) 내지 단계(830)의 과정은 도 2의 단계(210) 내지 단계(230)의 과정과 동일하므로 해당 부분의 설명을 참조하기로 한다.
일 실시예에 따른 검출 장치는 동작 인식의 오류를 검출한 후, 영상 메시지, 음성 메시지, 및 애니메이션 중 적어도 하나를 이용하여 동작 인식의 오류를 사용자에게 피드백할 수 있다(840). 검출 장치가 동작 인식의 오류를 사용자에게 피드백하는 방법은 도 9를 참조하여 설명한다.
실시예에 따라서, 검출 장치는 피드백 이후, 제2 영역 전체를 스캔하여 흔들리는 물체의 위치를 다시 설정할 수도 있다.
검출 장치는 피드백 이후, 사용자에게 제1 영역, 사용자의 위치, 사용자의 주변 환경 중 적어도 하나를 시각적으로 제공할 수 있다(850). 검출 장치는 예를 들어, 제1 영역, 사용자의 위치, 사용자의 주변 환경 중 적어도 하나를 재생 중인 화면에 오버레이(overlay)하거나, 또는 화면 전환을 통해 시각적으로 제공할 수 있다. 검출 장치가 피드백 시에 또는 피드백 이후에 사용자에게 시각적으로 제공하는 화면은 도 10을 참조하여 설명한다.
도 9는 일 실시예에 따른 동작 인식의 오류를 사용자에게 피드백하는 방법을 설명하기 위한 도면이다. 도 9를 참조하면, 현재 재생 중인 화면(910) 및 전환된 화면(930)이 도시된다.
현재 재생 중인 화면(910)에서 동작 인식의 오류가 검출된 경우, 검출 장치는 전환된 화면(930)에 예를 들어, "손을 흔들어 주세요" 등과 같은 텍스트를 포함하는 영상 메시지(933)를 표시하거나, 또는 손을 흔드는 제스처를 나타내는 애니메이션(936)을 표시할 수 있다. 검출 장치는 전환된 화면(930)에 표시된 영상 메시지, 음성 메시지 및/ 또는 애니메이션을 통해 사용자에게 동작 인식의 오류가 검출되었음을 피드백할 수 있다.
피드백에 의해 동작 인식의 오류가 있음을 파악한 사용자는 동작 인식을 위한 미리 약속된 유효한 동작을 다시 수행함으로써 AV 기기로 하여금 다시 동작 인식에 의한 제어가 가능하도록 할 수 있다. 이때, 검출 장치는 이벤트 기반 센서의 시야각(FOV) 전체를 스캔하여 흔들리는 물체의 위치를 다시 파악할 수 있다.
도 10은 일 실시예에 따른 동작 인식의 오류의 피드백 시에 사용자에게 시각적으로 제공되는 화면을 도시한 도면이다. 도 10을 참조하면, 현재 재생 중인 화면(1010) 및 오버레이(overlay)된 화면(1030)이 도시된다.
동작 인식의 오류가 검출된 경우, 검출 장치 현재 재생 중인 화면(1010)에 오버레이 된 화면(1030)를 통해, 검출 장치가 주시하고 있는 위치, 다시 말해 제1 영역(1033)의 위치를 시각적으로 제시할 수 있다. 이때, 제1 영역(1033)의 위치는 예를 들어, 사각형 박스 형태로 제시될 수 있다. 또는, 검출 장치는 오버레이 된 화면(1030)을 통해 사용자의 위치 및 주변 환경(1036) 등을 현재 재생 중인 화면(1010)에 시각적으로 제시할 수 있다.
이벤트 기반 센서는 빛의 변화에만 반응하므로, 움직이지 않는 배경 또는 움직임이 없는 사용자의 위치 및 주변 환경은 감지할 수가 없다. 일 실시예에서는 정적 영상 생성 방법 및 미세 진동 제공 방법 중 적어도 하나를 이용하여 움직임이 없더라도 사용자의 위치 및 사용자의 주변 환경을 제공할 수 있다.
여기서, 정적 영상 생성 방법은 동적 입력에 반응하여 이벤트 기반 센서에 의해 출력되는 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 사용자의 위치 및 사용자의 주변 환경에 대응되는 정적 패턴을 추출하는 방법이다. 정적 영상 생성 방법에 대하여는 도 11 내지 도 15를 참조하여 설명한다.
미세 진동 제공 방법은 예를 들어, 미세 진동 모터 등을 이용하여 이벤트 기반 센서에 미세 진동을 제공함으로써, 사용자의 위치 및 사용자의 주변 환경에 대응되는 동적 입력을 발생시키는 방법이다.
검출 장치는 움직임이 있는 영역(예를 들어, 사용자의 손 영역)을 움직임이 없는 영역(예를 들어, 배경 영역)과 다른 색으로 구분하여 제시할 수 있다. 검출 장치는 예를 들어, 움직임이 있는 영역은 녹색으로 표시하고, 움직임이 없는 영역은 흰색으로 표시하여 사용자에게 제시할 수도 있다.
실시예들은 예를 들어, CIS(CMOS Image Sensor) 카메라, IR(Infrared Ray) 카메라, DVS(Dynamic Vision Sensor) 카메라 등을 포함하는 AV 기기 내의 영상 입력 장치, 영상 기반의 동작 인식 (소프트웨어) 엔진, 사용자 피드백 엔진 및 GUI(Graphic User Interface) 등에 의해 구성될 수 있다.
일 실시예에서는 동작 인식 엔진을 포함하는 AV 기기에서 동작 인식이 잘 수행되지 않는 경우, 사용자로 하여금 동작 인식의 오류를 즉각적으로 인지시키고, 이를 바로 잡을 수 있는 기회를 제공함으로써 스마트 텔레비전 등의 AV 관련 제품에서 동작 인식 수행에 대한 신뢰성을 향상시킬 수 있다.
도 11은 일 실시예에 따른 타임 스탬프 맵을 나타내는 도면이다. 도 11을 참조하면, 타임 스탬프 맵(1130)은 이벤트 기반 센서(1110)의 픽셀들에 대응하는 원소들을 포함한다. 예컨대, 원소(1131)는 이벤트 기반 센서(1110)에 포함된 픽셀들 중에 (i, j) 위치의 픽셀의 타임 스탬프를 저장할 수 있다.
타임 스탬프 맵(1130)의 각각의 원소들은 해당 원소에 대응되는 타임 스탬프 신호가 수신된 가장 최근 시간을 저장할 수 있다. 예를 들어, (i, j) 위치의 원소(1131)에서 타임 스탬프 신호가 수신된 가장 최근 시간은 Ti,j이고, (i, j+1) 위치의 원소(1132)에서 타임 스탬프 신호가 수신된 가장 최근 시간은 Ti,j +1일 수 있다. 이하, 타임 스탬프 신호가 수신된 시간은 타임 스탬프라고 지칭된다.
프로세서(130)는 타임 스탬프 신호를 수신하면, 수신된 타임 스탬프 신호에 기초하여 타임 스탬프 맵(1130)을 업데이트할 수 있다. 예를 들어, 프로세서(130)는 타임 스탬프 맵(1130)에 포함된 복수의 원소들 중 수신된 타임 스탬프 신호에 대응하는 원소를 검출하고, 검출된 원소에 저장된 값을 타임 스탬프 신호가 수신된 타임 스탬프로 업데이트할 수 있다.
프로세서(130)는 밀리 초(ms) 이하의 단위 또는 마이크로 초(μs) 이하의 단위로 새로운 타임 스탬프 신호가 수신된 시간을 각 원소 별로 저장할 수 있다. 이 때, 프로세서(130)는 시간의 흐름에 따라 수신되는 타임 스탬프 신호들의 히스토리를 고려하지 않고, 각 원소에서 마지막으로 수신된 타임 스탬프 신호의 타임 스탬프만을 이용하여 정적 패턴을 추출할 수 있다. 이로 인하여, 프로세서(130)는 적은 메모리와 적은 계산량을 가지고 정적 패턴을 추출할 수 있다. 정적 패턴에 대하여는 도 12를 참조하여 설명한다.
프로세서(130)는 수신된 위치 정보에 대응하는 저장 원소에 수신된 시간 정보를 덮어쓸(overwrite) 수 있다. 예컨대, 프로세서(130)는 수신된 위치 정보에 대응하는 저장 원소에 기 저장된 값을 폐기(discard)하고, 수신된 시간 정보를 상기 저장 원소에 저장할 수 있다.
도면에 도시하지 않았으나, 실시예들은 복수의 2차원 타임 스탬프 맵들 대신 3차원 타임 스탬프 맵을 생성하는 방식으로 변형될 수 있다. 예를 들어, 3차원 타임 스탬프 맵은 위치 정보에 대응하는 원소에 (시간 정보, 깊이 정보)의 페어를 저장할 수 있다. 프로세서(130)는 위치 정보에 대응하는 저장 원소에 시간 정보 및 깊이 정보를 저장할 수 있다.
일 실시예에 따르면, 깊이 정보는 미리 정해진 깊이 영역들로 양자화될 수 있다. 이 경우, 프로세서(130)는 깊이 영역 별 가장 최근의 (시간 정보, 깊이 정보)만 저장하는 3차원 타임 스탬프 맵을 생성할 수 있다. 예를 들어, 프로세서(130)는 기 저장된 (시간 정보, 깊이 정보)의 깊이 정보와 동일한 깊이 영역으로 양자화되는 새로운 깊이 정보가 수신되는 경우, 해당 원소에 (새로운 시간 정보, 새로운 깊이 정보)를 덮어쓸 수 있다.
도 12는 일 실시예에 따른 정적 패턴의 추출 결과를 설명하기 위한 도면이다. 도 12를 참조하면, 시간 t1에서의 이벤트 신호에 기초한 출력(1210)과, 시간 t2에서의 이벤트 신호에 기초한 출력(1221)과, 이벤트 신호에 기초하여 추출된 정적 패턴(1222)이 도시된다. 시간 t1에서 객체는 움직이는 상태이고, 시간 t2에서 객체는 정지 상태이다. 앞서 설명된 것처럼, 이벤트 기반 센서(1110)는 동적 입력에 반응하여 이벤트 신호를 출력하므로, 기본적으로 객체가 움직이다 정지하는 경우, 이러한 이벤트 신호에 따른 출력은 시간 t1에서 출력(1210)과 시간 t2에서 출력(1221)의 형태를 갖게 된다. 다만, 아래에서 설명되는 방법에 따라 타임 스탬프 맵에서 패턴을 추출하는 경우 출력(101210)은 정적 패턴(1222)의 형태로 복원될 수 있다.
다시 도 1을 참조하면, 프로세서(130)는 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 동적 입력과 관련된 정적 패턴을 추출한다. 일 실시예에 따르면, 프로세서(130)는 타임 스탬프 맵의 능선에 기초하여 정적 패턴을 추출할 수 있다. 타임 스탬프 맵에는 마지막으로 수신된 타임 스탬프 신호의 타임 스탬프만이 저장될 수 있다. 따라서, 객체가 움직이는 경우, 타임 스탬프 맵에는 다양한 시간의 타임 스탬프들이 저장될 수 있다. 타임 스탬프들의 시간들을 고도(altitude)라고 가정할 경우, 특정 시간대의 타임 스탬프들은 능선을 이룰 수 있다. 프로세서(130)는 타임 스탬프 맵으로부터 이러한 능선을 추출할 수 있다. 능선에 관해서는 도 13 및 도 14를 참조하여 설명한다.
도 13 및 도 14는 일 실시예에 따른 타임 스탬프 맵의 능선을 설명하기 위한 도면이다. 도 13을 참조하면, 움직이는 객체에 대한 이벤트 신호에 기초하여 생성된 타임 스탬프 맵의 사시도가 도시되어 있다. 도 13에서 x 축 및 y 축은 각각 동적 입력을 감지한 픽셀의 위치 정보를 나타내고, z 축은 타임 스탬프를 나타낸다. 따라서, 위치 정보는 타임 스탬프 맵의 좌표에 대응하고, 시간 정보는 타임 스탬프 맵의 고도에 대응한다. 도 13에서 타임 스탬프 맵의 원소들은 고도가 높을수록 어두운 음영을 갖는다. 따라서, 도 13에서 음영이 가장 어두운 영역이 능선에 해당한다.
도 14를 참조하면, 도 13에 도시된 타임 스탬프 맵의 평면도가 도시되어 있다. 도 14에서 x 축 및 y 축은 각각 동적 입력을 감지한 픽셀의 위치 정보를 나타낸다. 따라서, 위치 정보는 타임 스탬프 맵의 좌표에 대응한다. 도 14에 도시된 것처럼, 움직이는 객체가 정지한 경우에도 타임 스탬프 맵에는 객체의 움직임에 관한 정보가 남아있다. 타임 스탬프 맵에서 능선에 해당되는 가장 어두운 부분이 가장 최근의 움직임에 관한 정보를 나타낸다. 프로세서(130)는 타임 스탬프 맵의 능선에 기초하여 정적 패턴을 추출할 수 있으므로, 객체가 정지 상태인 경우에도 객체의 형태에 관한 정보를 제공할 수 있다.
다시 도 1을 참조하면, 프로세서(130)는 타임 스탬프 맵의 위치 정보 및 시간 정보에 기초하여 능선을 추출한다. 프로세서(130)는 다양한 방법에 따라 능선을 결정할 수 있다. 예컨대, 프로세서(130)는 타임 스탬프 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 능선으로 결정할 수 있다. 또는, 프로세서(130)는 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 능선을 트랙킹(tracking)할 수 있다. 이하, 도 15를 참조하여 능선의 결정 과정을 상세하게 설명한다.
도 15는 일 실시예에 따른 임계 시간 구간에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면이다. 도 15를 참조하면, 20 x 20의 타임 스탬프 맵에 타임 스탬프들이 표시되어 있다. 도 15에 도시된 타임 스탬프 맵에 따르면, 시간 29에서 시간 36까지 객체의 움직임이 있었고, 현재 시간은 시간 36을 경과하였음을 알 수 있다.
프로세서(130)는 타임 스탬프 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들에 기초하여 능선을 결정할 수 있다. 프로세서(130)는 현 시점을 기준으로 임계 시간 구간을 설정할 수 있다. 이 경우, 현 시점을 기준으로 임계 시간 구간 이내의 타임 스탬프를 가지는 원소들이 능선을 결정하는데 이용될 수 있다.
예컨대, 프로세서는 임계 시간 구간을 현 시점으로부터 단위 시간 5로 설정할 수 있다. 만약 현 시점이 시간 40에 해당하는 경우, 도 15와 같이 타임 스탬프 맵에서 시간 35 이상의 성분들이 능선으로 결정될 수 있다.
프로세서(130)는 추출된 원소들의 수에 기초하여, 임계 시간 구간의 길이를 조절할 수 있다. 임계 시간 구간에 포함된 원소들이 너무 많거나 적은 경우 객체의 형태를 인식하기 어려울 수 있다. 따라서, 프로세서(130)는 객체의 형태를 인식하기 적절한 수준으로 임계 시간 구간의 길이를 조절할 수 있다. 예컨대, 프로세서(130)는 정적 패턴에 포함되는 원소의 수에 대해 기준 값을 설정하고, 상기 기준 값에 기초하여 임계 시간 구간을 조절할 수 있다. 기준 값은 최소 값 및 최대 값 중 적어도 하나를 포함할 수 있다. 프로세서(130)는 조절된 임계 시간 구간 이내의 시간 정보를 저장하는 원소들에 기초하여 능선을 결정할 수 있다. 예컨대, 도 15에서 최소 원소의 수를 25 개로 설정한 경우, 타임 스탬프 맵에서 시간 35 내지 시간 36의 성분들이 능선으로 결정될 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 검출 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 검출 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 검출 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 검출 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 검출 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 검출 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 검출 장치에 의하여 해석되거나 검출 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 저장될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
100: 검출 장치
110: 감지부
130: 프로세서

Claims (20)

  1. 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 상기 동작 인식에 의한 제어를 위해 미리 약속된 유효한 동작의 발생 여부를 감지하는 단계;
    상기 제1 영역에서 상기 유효한 동작의 발생이 감지되지 않는 경우, 상기 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역- 상기 제2 영역은 동작 인식의 오류를 검출하기 위해 상기 이벤트 발생을 감지하는 영역임 -을 설정하는 단계; 및
    상기 제2 영역에서 상기 이벤트 발생이 감지되었는지 여부에 따라, 상기 동작 인식의 오류를 검출하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  2. 제1항에 있어서,
    상기 유효한 동작의 발생 여부를 감지하는 단계는
    상기 제1 영역 내에서의 움직임 발생 여부를 감지하는 단계; 및
    상기 움직임이 상기 유효한 동작인지를 판단하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  3. 제2항에 있어서,
    상기 유효한 동작인지를 판단하는 단계는
    미리 학습된 영상 분류기를 이용하여 상기 움직임이 상기 유효한 동작인지를 판단하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  4. 제1항에 있어서,
    상기 제2 영역을 설정하는 단계는
    상기 사용자의 신체의 적어도 일부를 식별하는 단계;
    상기 식별된 사용자의 신체에서 기준점(reference point)을 설정하는 단계; 및
    상기 기준점에 기초하여, 상기 제2 영역을 설정하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  5. 제4항에 있어서,
    상기 사용자의 신체의 적어도 일부를 식별하는 단계는
    미리 학습된 영상 분류기를 이용하여 상기 사용자의 신체의 적어도 일부를 식별하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  6. 제1항에 있어서,
    상기 제2 영역을 설정하는 단계는
    상기 사용자의 신체의 적어도 일부를 식별하는 단계;
    상기 식별된 사용자의 신체의 움직임을 추적하여 움직임 궤도(trajectory)를 저장하는 단계; 및
    상기 움직임 궤도를 기초로, 상기 제2 영역을 설정하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  7. 제1항에 있어서,
    상기 동작 인식의 오류를 검출하는 단계는
    상기 제2 영역에서 상기 이벤트 발생이 감지된 경우에, 상기 동작 인식의 오류를 검출하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  8. 제7항에 있어서,
    상기 동작 인식의 오류를 검출하는 단계는
    상기 제2 영역에서 상기 이벤트에 대응되는 대상체의 이동량 또는 운동량(locomotion)을 측정하는 단계; 및
    상기 대상체의 이동량 또는 운동량이 미리 설정된 제1 임계치보다 크거나, 미리 설정된 제2 임계치보다 작은 경우에 상기 이벤트 발생을 무시하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  9. 제7항에 있어서,
    상기 동작 인식의 오류를 검출하는 단계는
    상기 제2 영역에서 상기 이벤트에 대응되는 대상체의 움직임이 규칙성을 가지는지를 판단하는 단계; 및
    상기 판단 결과, 대상체의 움직임이 규칙성을 가지는 경우, 상기 이벤트 발생을 무시하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  10. 제1항에 있어서,
    상기 제1 영역의 크기는
    상기 제2 영역의 크기보다 작은, 동작 인식의 오류를 검출하는 방법.
  11. 제1항에 있어서,
    상기 동작 인식의 오류를 상기 사용자에게 피드백하는 단계
    를 더 포함하는, 동작 인식의 오류를 검출하는 방법.
  12. 제11항에 있어서,
    상기 사용자에게 피드백하는 단계는
    영상 메시지, 음성 메시지, 및 애니메이션 중 적어도 하나를 이용하여 상기 동작 인식의 오류를 상기 사용자에게 피드백하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  13. 제11항에 있어서,
    상기 피드백 이후, 상기 제2 영역 전체를 스캔하여 흔들리는 물체의 위치를 다시 설정하는 단계
    를 더 포함하는, 동작 인식의 오류를 검출하는 방법.
  14. 제11항에 있어서,
    상기 피드백 이후, 상기 사용자에게 상기 제1 영역, 상기 사용자의 위치, 상기 사용자의 주변 환경 중 적어도 하나를 시각적으로 제공하는 단계
    를 더 포함하는, 동작 인식의 오류를 검출하는 방법.
  15. 제14항에 있어서,
    상기 시각적으로 제공하는 단계는
    상기 제1 영역을 미리 설정된 형태로 제공하는 단계; 및
    정적 영상 생성 방법 및 미세 진동 제공 방법 중 적어도 하나를 이용하여 상기 사용자의 위치 및 상기 사용자의 주변 환경을 제공하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  16. 제15항에 있어서,
    상기 정적 영상 생성 방법은
    동적 입력에 반응하여 이벤트 기반 센서에 의해 출력되는 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 상기 사용자의 위치 및 상기 사용자의 주변 환경에 대응되는 정적 패턴을 추출하는, 동작 인식의 오류를 검출하는 방법.
  17. 제15항에 있어서,
    상기 미세 진동 제공 방법은
    이벤트 기반 센서에 미세 진동을 제공함으로써, 상기 사용자의 위치 및 상기 사용자의 주변 환경에 대응되는 동적 입력을 발생시키는, 동작 인식의 오류를 검출하는 방법.
  18. 제14항에 있어서,
    상기 시각적으로 제공하는 단계는
    상기 제1 영역, 상기 사용자의 위치, 상기 사용자의 주변 환경 중 적어도 하나를 재생 중인 화면에 오버레이(overlay)하거나, 화면 전환을 통해 시각적으로 제공하는 단계
    를 포함하는, 동작 인식의 오류를 검출하는 방법.
  19. 하드웨어와 결합되어 제1항 내지 제18항 중에서 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.
  20. 사용자의 동작 인식을 위해 주시하는 제1 영역 내에서 상기 동작 인식에 의한 제어를 위해 미리 약속된 유효한 동작의 발생 여부를 감지하는 감지부; 및
    상기 제1 영역에서 상기 유효한 동작의 발생이 감지되지 않는 경우, 상기 사용자의 움직임에 의한 이벤트 발생을 감지하는 제2 영역- 상기 제2 영역은 동작 인식의 오류를 검출하기 위해 상기 이벤트 발생을 감지하는 영역임- 을 설정하고, 상기 제2 영역에서 상기 이벤트 발생이 감지되었는지 여부에 따라, 상기 동작 인식의 오류를 검출하는 프로세서
    를 포함하는, 동작 인식의 오류를 검출하는 장치.
KR1020150151652A 2015-10-30 2015-10-30 동작 인식의 오류를 검출하는 방법 및 장치 KR102530219B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020150151652A KR102530219B1 (ko) 2015-10-30 2015-10-30 동작 인식의 오류를 검출하는 방법 및 장치
US15/084,656 US10410077B2 (en) 2015-10-30 2016-03-30 Method and apparatus for detecting error in gesture recognition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150151652A KR102530219B1 (ko) 2015-10-30 2015-10-30 동작 인식의 오류를 검출하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20170050293A KR20170050293A (ko) 2017-05-11
KR102530219B1 true KR102530219B1 (ko) 2023-05-09

Family

ID=58637889

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150151652A KR102530219B1 (ko) 2015-10-30 2015-10-30 동작 인식의 오류를 검출하는 방법 및 장치

Country Status (2)

Country Link
US (1) US10410077B2 (ko)
KR (1) KR102530219B1 (ko)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6000602B2 (ja) * 2012-03-30 2016-09-28 キヤノン株式会社 体検出方法及び物体検出装置
US20170255821A1 (en) * 2016-03-02 2017-09-07 National Taiwan University Gesture recognition system and related method
KR102497299B1 (ko) * 2016-06-29 2023-02-08 삼성전자주식회사 전자 장치 및 이의 제어 방법
KR102013935B1 (ko) 2017-05-25 2019-08-23 삼성전자주식회사 위험 상황을 감지하는 방법 및 시스템
CN111149350B (zh) * 2017-09-28 2022-02-22 苹果公司 使用事件相机生成静态图像
KR20200029270A (ko) * 2018-09-10 2020-03-18 삼성전자주식회사 객체를 인식하는 전자 장치 및 그 전자 장치를 제어하는 방법
CN109407957A (zh) * 2018-10-29 2019-03-01 努比亚技术有限公司 屏幕触摸控制方法、终端及计算机可读存储介质
CN109544590B (zh) * 2018-11-27 2020-05-15 上海芯仑光电科技有限公司 一种目标跟踪方法及计算设备
CN109815876B (zh) * 2019-01-17 2021-01-05 西安电子科技大学 基于地址事件流特征的手势识别方法
US10976829B1 (en) * 2019-06-03 2021-04-13 Facebook, Inc. Systems and methods for displaying augmented-reality objects
US11144129B2 (en) * 2020-03-04 2021-10-12 Panasonic Avionics Corporation Depth sensing infrared input device and associated methods thereof
US11405580B2 (en) * 2020-09-09 2022-08-02 Fotonation Limited Event camera hardware
CN117218716B (zh) * 2023-08-10 2024-04-09 中国矿业大学 一种基于dvs的汽车座舱手势识别系统及方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100776801B1 (ko) * 2006-07-19 2007-11-19 한국전자통신연구원 화상 처리 시스템에서의 제스처 인식 장치 및 방법
JP2010009558A (ja) * 2008-05-28 2010-01-14 Oki Semiconductor Co Ltd 画像認識装置、電装機器動作制御ユニット、電化製品、画像認識プログラム、半導体装置
US20110173204A1 (en) * 2010-01-08 2011-07-14 Microsoft Corporation Assigning gesture dictionaries

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7886236B2 (en) 2003-03-28 2011-02-08 Microsoft Corporation Dynamic feedback for gestures
EP2421251A1 (en) 2010-08-17 2012-02-22 LG Electronics Display device and control method thereof
KR101758271B1 (ko) * 2010-11-12 2017-07-14 엘지전자 주식회사 멀티미디어 장치의 사용자 제스쳐 인식 방법 및 그에 따른 멀티미디어 장치
JP5653206B2 (ja) * 2010-12-27 2015-01-14 日立マクセル株式会社 映像処理装置
JP5845002B2 (ja) * 2011-06-07 2016-01-20 ソニー株式会社 画像処理装置および方法、並びにプログラム
KR20140138424A (ko) 2013-05-23 2014-12-04 삼성전자주식회사 제스쳐를 이용한 사용자 인터페이스 방법 및 장치
KR20150068001A (ko) 2013-12-11 2015-06-19 삼성전자주식회사 센서를 이용한 동작 인식 방법 및 장치
KR101542986B1 (ko) 2013-12-19 2015-08-07 현대자동차 주식회사 홀로그램을 이용한 제스처 인식 시스템 및 그 제어 방법
KR101511146B1 (ko) 2014-07-29 2015-04-17 연세대학교 산학협력단 스마트 3차원 제스처 인식 장치 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100776801B1 (ko) * 2006-07-19 2007-11-19 한국전자통신연구원 화상 처리 시스템에서의 제스처 인식 장치 및 방법
JP2010009558A (ja) * 2008-05-28 2010-01-14 Oki Semiconductor Co Ltd 画像認識装置、電装機器動作制御ユニット、電化製品、画像認識プログラム、半導体装置
US20110173204A1 (en) * 2010-01-08 2011-07-14 Microsoft Corporation Assigning gesture dictionaries

Also Published As

Publication number Publication date
US20170124410A1 (en) 2017-05-04
US10410077B2 (en) 2019-09-10
KR20170050293A (ko) 2017-05-11

Similar Documents

Publication Publication Date Title
KR102530219B1 (ko) 동작 인식의 오류를 검출하는 방법 및 장치
USRE48780E1 (en) Method and apparatus for extracting static pattern based on output of event-based sensor
KR102465532B1 (ko) 객체 인식 방법 및 장치
Hsieh et al. A real time hand gesture recognition system using motion history image
CN105229582B (zh) 基于近距离传感器和图像传感器的手势检测
CN108596092B (zh) 手势识别方法、装置、设备和存储介质
EP3037917B1 (en) Monitoring
US10373357B2 (en) Device and method for displaying screen based on event
WO2019033957A1 (zh) 交互位置确定方法、系统、存储介质和智能终端
KR102512828B1 (ko) 이벤트 신호 처리 방법 및 장치
CN115315679A (zh) 在多用户环境中使用手势来控制设备的方法和系统
KR102357965B1 (ko) 객체 인식 방법 및 장치
US20190026548A1 (en) Age classification of humans based on image depth and human pose
KR20180014992A (ko) 이벤트 신호 처리 방법 및 장치
JP2015507391A (ja) ジェスチャを認識するための方法およびジェスチャ検出器
KR20170014491A (ko) 움직임 인식 방법 및 움직임 인식 장치
KR20150067680A (ko) 차량용 제스처 인식 시스템 및 그 방법
JP7162079B2 (ja) 頭部のジェスチャーを介してディスプレイ装置を遠隔制御する方法、システムおよびコンピュータプログラムを記録する記録媒体
WO2017084319A1 (zh) 手势识别方法及虚拟现实显示输出设备
KR20180015228A (ko) 장면 공간 모니터링을 통한 사람-컴퓨터 상호 작용
US20150146920A1 (en) Gesture recognition method and apparatus utilizing asynchronous multithreaded processing
CN103428551A (zh) 一种手势遥控系统
KR20130078496A (ko) 다양한 손모양 검출 및 추적을 기반으로 한 원격 전자칠판 제어 장치 및 그 방법
US20230206468A1 (en) Tracking device, tracking method, and recording medium
CN111447403A (zh) 一种视频显示方法、装置及系统

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant