KR20160128030A - 이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치 - Google Patents

이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치 Download PDF

Info

Publication number
KR20160128030A
KR20160128030A KR1020150059746A KR20150059746A KR20160128030A KR 20160128030 A KR20160128030 A KR 20160128030A KR 1020150059746 A KR1020150059746 A KR 1020150059746A KR 20150059746 A KR20150059746 A KR 20150059746A KR 20160128030 A KR20160128030 A KR 20160128030A
Authority
KR
South Korea
Prior art keywords
extracting
information
event
time
pattern
Prior art date
Application number
KR1020150059746A
Other languages
English (en)
Other versions
KR102307055B1 (ko
Inventor
이준행
박근주
신창우
우주연
류현석
홍석진
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150059746A priority Critical patent/KR102307055B1/ko
Priority to US15/017,711 priority patent/US9921643B2/en
Priority to CN201610260737.6A priority patent/CN106095262B/zh
Priority to EP16167010.4A priority patent/EP3089111B1/en
Publication of KR20160128030A publication Critical patent/KR20160128030A/ko
Priority to US16/291,685 priority patent/USRE48780E1/en
Application granted granted Critical
Publication of KR102307055B1 publication Critical patent/KR102307055B1/ko

Links

Images

Classifications

    • G06K9/00389—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G06K9/56—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/401—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107—Static hand or arm
    • G06V40/113—Recognition of static hand signs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds

Abstract

이벤트 기반 센서의 출력으로부터 정적 패턴의 추출 방법이 개시된다. 일 측에 따른 패턴 추출 방법은 동적 입력에 반응하여 이벤트 기반 센서에 의하여 출력되는 이벤트 신호를 수신하는 단계와, 상기 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 상기 동적 입력과 관련된 정적 패턴을 추출하는 단계를 포함한다. 상기 정적 패턴은 상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵으로부터 추출될 수 있다.

Description

이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치{METHOD AND APPARATUS FOR EXTRACTING STATIC PATTERN BASED ON OUTPUT OF EVENT-BASED SENSOR}
아래 실시예들은 이벤트 기반 센서의 출력을 처리하는 방법에 관한 것이다.
인간과 컴퓨터 사이의 상호 작용(Human-computer interaction, HCI)은 유저 인터페이스에서 발현되어 작동한다. 사용자 입력을 인식하는 다양한 유저 인터페이스는 인간과 컴퓨터 사이의 자연스러운 상호 작용을 제공할 수 있다.
사용자 입력을 인식하기 위하여 다양한 센서들이 이용될 수 있다. 자연스러운 상호 작용을 제공하기 위해서, 사용자 입력에 대한 응답 속도가 빠른 센서가 필요하다. 또한, 다양한 모바일 기기의 경우, 유저 인터페이스를 통한 여러 가지 스마트 기능을 수행하면서 전력을 적게 소모해야 하는 필요성이 존재한다. 이에 따라, 전력 소모는 낮고, 응답 속도는 빠르며, 센싱 목적에 맞는 신뢰도가 높은 센서가 요구된다. 또한, 센서의 출력은 센서의 동작 특성에 따라 다양하므로, 센서의 출력에 대한 처리 방안이 요구된다.
일 측에 따른 패턴 추출 방법은 동적 입력에 반응하여 이벤트 기반 센서에 의하여 출력되는 이벤트 신호를 수신하는 단계; 및 상기 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 상기 동적 입력과 관련된 정적 패턴을 추출하는 단계를 포함한다.
상기 동적 입력은 상기 이벤트 기반 센서의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함할 수 있다.
상기 정적 패턴은 상기 동적 입력과 관련된 객체의 형상(appearance)에 대응할 수 있다.
상기 동적 입력은 객체의 모션을 포함할 수 있고, 상기 정적 패턴은 상기 모션이 멈춘 상태의 상기 객체의 형상에 대응할 수 있다.
상기 위치 정보는 상기 이벤트 기반 센서에 포함된 복수의 픽셀들 중 상기 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소(address)를 포함할 수 있다.
상기 시간 정보는 상기 이벤트 기반 센서의 적어도 하나의 픽셀에 의하여 상기 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 포함할 수 있다.
상기 추출하는 단계는 상기 위치 정보 및 상기 시간 정보를 저장하는 단계; 및 상기 저장된 위치 정보 및 상기 저장된 시간 정보에 기초하여, 상기 정적 패턴을 추출하는 단계를 포함할 수 있다.
상기 저장하는 단계는 상기 위치 정보에 대응하는 저장 원소에 상기 시간 정보를 덮어쓰는 단계를 포함할 수 있다.
상기 추출하는 단계는 상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵으로부터 능선을 추출하는 단계를 포함할 수 있다.
상기 위치 정보는 상기 맵의 좌표에 대응하고, 상기 시간 정보는 상기 맵의 고도에 대응할 수 있다.
상기 능선을 추출하는 단계는 상기 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 추출하는 단계를 포함할 수 있다.
상기 능선을 추출하는 단계는 상기 추출된 원소들의 수에 기초하여, 상기 임계 시간 구간의 길이를 조절하는 단계; 및 상기 조절된 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 추출하는 단계를 더 포함할 수 있다.
상기 능선을 추출하는 단계는 상기 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 상기 능선을 트랙킹(tracking)하는 단계를 포함할 수 있다.
상기 추출하는 단계는 상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵 내에서, 상기 정적 패턴을 추출할 영역을 설정하는 단계; 및 상기 영역에 대응하는 임계 시간 구간에 기초하여, 상기 영역으로부터 능선을 추출하는 단계를 포함할 수 있다.
상기 설정하는 단계는 상기 동적 입력에 대응하는 객체의 부위에 따라 상기 영역을 설정하는 단계를 포함할 수 있다.
상기 추출하는 단계는 상기 영역에 대응하여 수신된 유효 이벤트 신호의 수에 기초하여, 상기 임계 시간 구간의 길이를 조절하는 단계; 및 상기 영역에 대응하여 수신된 신규 이벤트 신호에 반응하여, 상기 임계 시간 구간의 길이를 조절하는 단계 중 적어도 하나를 더 포함할 수 있다.
상기 추출하는 단계는 상기 위치 정보 및 상기 시간 정보에 기초하여, 복수의 깊이 영역들에 대응하는 복수의 맵들을 생성하는 단계; 상기 복수의 맵들 중 적어도 하나의 맵으로부터 능선을 추출하는 단계를 포함할 수 있다.
상기 추출하는 단계는 상기 동적 입력에 대응하는 깊이 정보를 수신하는 단계; 상기 위치 정보에 대응하는 저장 원소에 상기 시간 정보 및 상기 깊이 정보를 저장하는 단계; 및 상기 저장된 위치 정보, 상기 저장된 시간 정보, 및 상기 저장된 깊이 정보에 기초하여 상기 정적 패턴을 추출하는 단계를 포함할 수 있다.
상기 생성하는 단계는 상기 동적 입력에 대응하는 깊이 정보를 수신하는 단계; 상기 깊이 정보에 기초하여 상기 복수의 맵들 중 어느 하나의 맵을 선택하는 단계; 및 상기 위치 정보 및 상기 시간 정보에 기초하여, 상기 선택된 맵을 업데이트하는 단계를 포함할 수 있다.
일 측에 따른 패턴 추출 장치는 동적 입력에 반응하여, 상기 동적 입력에 대응하는 위치 정보 및 시간 정보를 포함하는 이벤트 신호를 출력하는 이벤트 기반 센서; 및 상기 이벤트 신호에 기초하여, 상기 동적 입력과 관련된 정적 패턴을 추출하는 프로세서를 포함한다.
도 1은 일 실시예에 따른 패턴 추출 장치를 나타내는 블록도.
도 2는 일 실시예에 따른 타임 스탬프 맵을 나타내는 도면.
도 3은 일 실시예에 따른 정적 패턴의 추출 결과를 설명하기 위한 도면.
도 4 및 도 5는 일 실시예에 따른 타임 스탬프 맵의 능선을 설명하기 위한 도면.
도 6은 일 실시예에 따른 임계 시간 구간에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면.
도 7 및 도 8은 일 실시예에 따른 최소 원소의 수가 설정된 경우에 정적 패턴을 추출하는 과정을 설명하는 도면.
도 9 및 도 10은 일 실시예에 따른 최대 원소의 수가 설정된 경우에 정적 패턴을 추출하는 과정을 설명하는 도면.
도 11 및 도 12는 일 실시예에 따른 에지의 두께에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면.
도 13 및 도 14는 일 실시예에 따른 타임 스탬프 맵에 설정된 복수의 영역에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면.
도 15는 일 실시예에 따른 패턴 추출 장치를 나타내는 블록도.
도 16은 일 실시예에 따른 복수의 타임 스탬프 맵에 대한 처리 과정을 설명하기 위한 도면.
도 17은 일 실시예에 따른 복수의 타임 스탬프 맵에 대한 처리 결과를 설명하기 위한 도면.
도 18은 일 실시예에 따른 패턴 추출 방법을 나타내는 흐름도.
본 명세서에서 개시되어 있는 본 발명의 개념에 따른 실시예들에 대해서 특정한 구조적 또는 기능적 설명들은 단지 본 발명의 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 본 발명의 개념에 따른 실시예들은 다양한 형태로 실시될 수 있으며 본 명세서에 설명된 실시예들에 한정되지 않는다.
본 발명의 개념에 따른 실시예들은 다양한 변경들을 가할 수 있고 여러 가지 형태들을 가질 수 있으므로 실시예들을 도면에 예시하고 본 명세서에 상세하게 설명하고자 한다. 그러나, 이는 본 발명의 개념에 따른 실시예들을 특정한 개시형태들에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 본 발명의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~사이에"와 "바로~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
본 명세서에서 사용한 용어는 단지 특정한 실시예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일 실시예에 따른 패턴 추출 장치를 나타내는 블록도이다.
도 1을 참조하면, 일 실시예에 따른 패턴 추출 장치(100)는 이벤트 기반 센서(110) 및 프로세서(130)를 포함한다. 프로세서(130)는 마이크로프로세서, 콘트롤러, CPU(central processing unit), ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), FPGA(field programmable gate array), PLU(programmable logic unit), 명령(instruction)을 실행하고 응답할 수 있는 하나 이상의 범용 또는 특수 목적 컴퓨터, 또는 이들의 다양한 조합으로 구현될 수 있다.
이하, 설명의 편의를 위하여 패턴 추출 장치의 구조 및 동작을 설명하나, 실시예들은 다양한 장치들로 확장될 수 있다. 예를 들어, 실시예들은 패턴 추출 장치를 포함하는 다양한 컴퓨팅 장치들, 스마트 폰, 웨어러블 디바이스 등 모바일 장치들, 및 각종 보안 장치들 등에 그대로 적용될 수 있다.
이벤트 기반 센서(110)는 동적 입력에 반응하여, 동적 입력에 대응하는 위치 정보 및 시간 정보를 포함하는 이벤트 신호를 출력한다. 동적 입력은 이벤트 기반 센서(110)의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함할 수 있다. 위치 정보는 이벤트 기반 센서(110)에 포함된 복수의 픽셀들 중 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소(address)를 포함할 수 있다. 시간 정보는 이벤트 기반 센서(110)의 적어도 하나의 픽셀에 의하여 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 포함할 수 있다. 이하, 이벤트 기반 센서(110)에 의한 이벤트 신호의 생성 과정을 상세히 설명한다.
이벤트 기반 센서(110)는 복수의 센싱 픽셀들을 포함한다. 이벤트 기반 센서(110)는 복수의 센싱 픽셀들 중 이벤트를 감지한 활성 픽셀(active pixel)의 식별 정보를 포함하는 이벤트 신호를 생성한다. 이벤트 기반 센서(110)는 뉴로모픽(neuromorphic) 센싱 기법에 기반할 수 있다. 일 예로, 센싱부(110)는 20 x 20 um2 크기의 센싱 픽셀들을 포함하는 128 x 128 어레이로 구현될 수 있다.
동적 입력은 이벤트 기반 센서(110)의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함할 수 있다. 예컨대, 상기 이벤트는 입력의 변화와 관련된 이벤트를 포함한다. 예를 들어, 이벤트는 입사되는 빛의 세기(intensity)가 변하는 이벤트, 입사되는 빛의 색상이 변하는 이벤트, 입력되는 소리의 크기가 변하는 이벤트, 입력되는 소리의 주파수가 변하는 이벤트, 입력되는 자극의 세기가 변하는 이벤트 등을 포함할 수 있다. 이하, 설명의 편의를 위하여 이벤트 기반 센서(110)는 입사되는 빛의 세기가 변하는 이벤트를 감지하는 이벤트 기반 비전 센서인 경우를 가정하나, 실시예들은 다양한 이벤트 기반 센서에도 적용될 수 있다.
이벤트 기반 센서(110)에 포함된 복수의 센싱 픽셀들은 이벤트(예를 들어, 입사되는 빛의 세기가 변하는 이벤트)를 감지할 수 있다. 복수의 센싱 픽셀들 중 이벤트를 감지한 센싱 픽셀은 활성 픽셀이라고 지칭될 수 있다. 활성 픽셀은 이벤트를 감지함에 반응하여, 활성화 신호를 발생할 수 있다.
위치 정보는 이벤트 기반 센서(110)에 포함된 복수의 픽셀들 중 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소(address)를 포함할 수 있다. 이벤트 기반 센서(110)는 활성 픽셀의 식별 정보를 생성할 수 있다. 예를 들어, 이벤트 기반 센서(110)는 활성 픽셀에 의하여 발생된 활성화 신호에 기초하여 해당 활성 픽셀을 식별하는 주소를 포함하는 이벤트 신호를 생성할 수 있다. 이벤트 기반 센서(110)는 시간 비동기적으로 이벤트 신호를 생성 및 출력하므로, 매 프레임마다 모든 픽셀들을 스캔하는 프레임 기반 비전 센서에 비하여 저전력, 고속으로 동작할 수 있다.
이벤트 기반 센서(110)은 활성 픽셀들을 이용하여 비동기적 주소 이벤트(address events, AE) 신호를 생성할 수 있다. 예를 들어, 이벤트 기반 센서(110)은 지난 이벤트 이후로 로그 인텐시티(log intensity)의 변화가 상위 임계(upper threshold) 또는 하위 임계(lower threshold)를 초과하는 경우, 온(ON) 이벤트 신호 또는 오프(OFF) 이벤트 신호를 생성할 수 있다. 이벤트 기반 센서(110)는 이벤트 신호의 타이밍 정보가 추가적으로 생성될 수 있다. 이벤트 기반 센서(110)는 타이밍 정보를 이용하여 동기적 시스템(synchronous system)과 인터페이스할 수 있다. 이벤트 기반 센서(110)은 밀도가 낮고(sparse) 빠른 응답(low-latency)의 출력 특성을 가지므로, 고속 로보틱스(high-speed robotics) 등 빠른 응답의 피드백을 요구하는 고속의 객체 트래킹 어플리케이션에 이용될 수 있다.
이벤트 기반 센서(110)는 이벤트 신호를 출력할 수 있다. 일 실시예에 따르면, 이벤트 기반 비전 센서의 출력은 실제 액티비티(real activity)에 해당하는 이벤트 신호뿐 아니라 백그라운드 액티비티에 해당하는 이벤트 신호를 포함할 수 있다. 예를 들어, 백그라운드 액티비티에 해당하는 이벤트 신호는 이벤트 기반 센서(110)의 센싱 픽셀들 내 플로팅 노드들과 연결된 스위치들에 작용하는 써멀 노이즈(thermal noise) 또는 정션 리키지 전류(junction leakage current) 등에 의하여 발생될 수 있다.
이벤트 기반 센서(110)는 백그라운드 액티비티에 해당하는 이벤트 신호를 필터링하기 위하여, 시공간적으로 연관된 이벤트 신호들을 식별하는 패스 플래그(pass flag)를 생성할 수 있다. 이로 인하여, 이벤트 기반 센서(110)는 통신 및 연산 부하(communication and computation load)를 감소시키고 정보 레이트(information rate)을 향상시킬 수 있다.
또한, 일 실시예에 따르면, 이벤트 기반 센서(110)는 파워-게이팅(power-gating) 기법을 이용할 수 있다. 파워-게이팅 기법은 이벤트를 감지하는 센싱 픽셀에 대응하는 임계 감지 회로(threshold detection circuit) 및 통신 회로(communication circuit) 만을 활성화시킴으로써, 전력 소모를 최소화하는 기법이다. 또한, 이벤트 기반 센서(110)는 연관 필터 칩(correlation filter chip)을 이용할 수 있다. 연관 필터 칩을 이용함으로써, 이벤트 기반 센서(100)는 적은 전력 소모와 빠른 응답속도를 요구하는 임베디드 뉴로모픽 영상 및 음성 시스템(embedded neuromorphic visual and auditory system)에 적용될 수 있다.
시간 정보는 이벤트 기반 센서(110)의 적어도 하나의 픽셀에 의하여 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 포함할 수 있다. 이벤트 기반 센서(110)는 활성 픽셀에 의하여 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 생성할 수 있다. 활성 픽셀은 이벤트를 감지함에 반응하여, 활성화 신호를 발생시킬 수 있다. 일 예로, 이벤트 기반 센서(110)는 활성화 신호의 발생 시간에 기초하여 타임 스탬프(time stamp)를 생성할 수 있다. 다른 예로, 프로세서(130)는 이벤트 기반 센서(110)로부터 이벤트 신호를 수신함에 반응하여 타임 스탬프를 생성할 수 있다.
프로세서(130)는 이벤트 신호에 기초하여, 동적 입력과 관련된 정적 패턴을 추출한다. 앞서 설명된 것처럼, 동적 입력은 이벤트 기반 센서(110)의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함할 수 있다. 정적 패턴은 동적 입력과 관련된 객체의 형상(appearance)에 대응할 수 있다. 예컨대, 동적 입력은 객체의 모션을 포함할 수 있고, 정적 패턴은 상기 모션이 멈춘 상태의 상기 객체의 형상에 대응할 수 있다. 이하, 프로세서(130)에 의한 정적 패턴의 추출 과정을 상세하게 설명한다.
프로세서(130)는 이벤트 신호에 기초하여 위치 정보 및 시간 정보를 저장하고, 저장된 위치 정보 및 저장된 시간 정보에 기초하여, 정적 패턴을 추출할 수 있다. 위치 정보 및 시간 정보는 타임 스탬프 맵의 형태로 메모리에 저장될 수 있다. 패턴 추출 장치(100)는 타임 스탬프 맵을 저장하기 위한 메모리를 포함할 수 있다. 타임 스탬프 맵은 도 2를 참조하여 설명한다.
도 2는 일 실시예에 따른 타임 스탬프 맵을 나타내는 도면이다. 도 2를 참조하면, 타임 스탬프 맵(200)은 이벤트 기반 센서(110)의 픽셀들에 대응하는 원소들을 포함한다. 예컨대, 원소(201)는 이벤트 기반 센서(110)에 포함된 픽셀들 중에 (i, j) 위치의 픽셀의 타임 스탬프를 저장할 수 있다.
타임 스탬프 맵(200)의 각각의 원소들은 해당 원소에 대응되는 타임 스탬프 신호가 수신된 가장 최근 시간을 저장할 수 있다. 예를 들어, (i, j) 위치의 원소(201)에서 타임 스탬프 신호가 수신된 가장 최근 시간은 Ti ,j이고, (i, j+1) 위치의 원소(202)에서 타임 스탬프 신호가 수신된 가장 최근 시간은 Ti ,j+1일 수 있다. 이하, 타임 스탬프 신호가 수신된 시간은 타임 스탬프라고 지칭된다.
프로세서(130)는 타임 스탬프 신호를 수신하면, 수신된 타임 스탬프 신호에 기초하여 타임 스탬프 맵(200)을 업데이트할 수 있다. 예를 들어, 프로세서(130)는 타임 스탬프 맵(200)에 포함된 복수의 원소들 중 수신된 타임 스탬프 신호에 대응하는 원소를 검출하고, 검출된 원소에 저장된 값을 타임 스탬프 신호가 수신된 타임 스탬프로 업데이트할 수 있다.
프로세서(130)는 밀리 초(ms) 이하의 단위 또는 마이크로 초(μs) 이하의 단위로 새로운 타임 스탬프 신호가 수신된 시간을 각 원소 별로 저장할 수 있다. 이 때, 프로세서(130)는 시간의 흐름에 따라 수신되는 타임 스탬프 신호들의 히스토리를 고려하지 않고, 각 원소에서 마지막으로 수신된 타임 스탬프 신호의 타임 스탬프만을 이용하여 정적 패턴을 추출할 수 있다. 이로 인하여, 프로세서(130)는 적은 메모리와 적은 계산량을 가지고 정적 패턴을 추출할 수 있다.
프로세서(130)는 수신된 위치 정보에 대응하는 저장 원소에 수신된 시간 정보를 덮어쓸(overwrite) 수 있다. 예컨대, 프로세서(130)는 수신된 위치 정보에 대응하는 저장 원소에 기 저장된 값을 폐기(discard)하고, 수신된 시간 정보를 상기 저장 원소에 저장할 수 있다. 도 3을 참조하여 정적 패턴에 관해 설명한다.
도 3은 일 실시예에 따른 정적 패턴의 추출 결과를 설명하기 위한 도면이다. 도 3을 참조하면, 시간 t1에서의 이벤트 신호에 기초한 출력(10)과, 시간 t2에서의 이벤트 신호에 기초한 출력(20)과, 이벤트 신호에 기초하여 추출된 정적 패턴(22)이 도시되어 있다. 시간 t1에서 객체는 움직이는 상태이고, 시간 t2에서 객체는 정지 상태이다. 앞서 설명된 것처럼, 이벤트 기반 센서(110)는 동적 입력에 반응하여 이벤트 신호를 출력하므로, 기본적으로 객체가 움직이다 정지하는 경우, 이러한 이벤트 신호에 따른 출력은 시간 t1에서 출력(10)과 시간 t2에서 출력(20)의 형태를 갖게 된다. 다만, 아래에서 설명되는 방법에 따라 타임 스탬프 맵에서 패턴을 추출하는 경우 출력(10)은 정적 패턴(22)의 형태로 복원될 수 있다.
다시 도 1을 참조하면, 프로세서(130)는 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 동적 입력과 관련된 정적 패턴을 추출한다. 일 실시예에 따르면, 프로세서(130)는 타임 스탬프 맵의 능선에 기초하여 정적 패턴을 추출할 수 있다. 타임 스탬프 맵에는 마지막으로 수신된 타임 스탬프 신호의 타임 스탬프만이 저장될 수 있다. 따라서, 객체가 움직이는 경우, 타임 스탬프 맵에는 다양한 시간의 타임 스탬프들이 저장될 수 있다. 타임 스탬프들의 시간들을 고도(altitude)라고 가정할 경우, 특정 시간대의 타임 스탬프들은 능선을 이룰 수 있다. 프로세서(130)는 타임 스탬프 맵으로부터 이러한 능선을 추출할 수 있다. 능선에 관해서는 도 4 및 도 5를 참조하여 설명한다.
도 4 및 도 5는 일 실시예에 따른 타임 스탬프 맵의 능선을 설명하기 위한 도면이다. 도 4를 참조하면, 움직이는 객체에 대한 이벤트 신호에 기초하여 생성된 타임 스탬프 맵의 사시도가 도시되어 있다. 도 4에서 x 축 및 y 축은 각각 동적 입력을 감지한 픽셀의 위치 정보를 나타내고, z 축은 타임 스탬프를 나타낸다. 따라서, 위치 정보는 타임 스탬프 맵의 좌표에 대응하고, 시간 정보는 타임 스탬프 맵의 고도에 대응한다. 도 4에서 타임 스탬프 맵의 원소들은 고도가 높을수록 어두운 음영을 갖는다. 따라서, 도 4에서 음영이 가장 어두운 영역이 능선에 해당한다.
도 5를 참조하면, 도 4에 도시된 타임 스탬프 맵의 평면도가 도시되어 있다. 도 5에서 x 축 및 y 축은 각각 동적 입력을 감지한 픽셀의 위치 정보를 나타낸다. 따라서, 위치 정보는 타임 스탬프 맵의 좌표에 대응한다. 도 5에 도시된 것처럼, 움직이는 객체가 정지한 경우에도 타임 스탬프 맵에는 객체의 움직임에 관한 정보가 남아있다. 타임 스탬프 맵에서 능선에 해당되는 가장 어두운 부분이 가장 최근의 움직임에 관한 정보를 나타낸다. 프로세서(130)는 타임 스탬프 맵의 능선에 기초하여 정적 패턴을 추출할 수 있으므로, 객체가 정지 상태인 경우에도 객체의 형태에 관한 정보를 제공할 수 있다.
다시 도 1을 참조하면, 프로세서(130)는 타임 스탬프 맵의 위치 정보 및 시간 정보에 기초하여 능선을 추출한다. 프로세서(130)는 다양한 방법에 따라 능선을 결정할 수 있다. 예컨대, 프로세서(130)는 타임 스탬프 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 능선으로 결정할 수 있다. 또는, 프로세서(130)는 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 능선을 트랙킹(tracking)할 수 있다. 이하, 도 6 내지 도 12를 참조하여 능선의 결정 과정을 상세하게 설명한다.
도 6은 일 실시예에 따른 임계 시간 구간에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면이다. 도 6을 참조하면, 20 x 20의 타임 스탬프 맵에 타임 스탬프들이 표시되어 있다. 도 6에 도시된 타임 스탬프 맵에 따르면, 시간 29에서 시간 36까지 객체의 움직임이 있었고, 현재 시간은 시간 36을 경과하였음을 알 수 있다.
프로세서(130)는 타임 스탬프 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들에 기초하여 능선을 결정할 수 있다. 프로세서(130)는 현 시점을 기준으로 임계 시간 구간을 설정할 수 있다. 이 경우, 현 시점을 기준으로 임계 시간 구간 이내의 타임 스탬프를 가지는 원소들이 능선을 결정하는데 이용될 수 있다.
예컨대, 프로세서는 임계 시간 구간을 현 시점으로부터 단위 시간 5로 설정할 수 있다. 만약 현 시점이 시간 40에 해당하는 경우, 도 6과 같이 타임 스탬프 맵에서 시간 35 이상의 성분들이 능선으로 결정될 수 있다.
프로세서(130)는 추출된 원소들의 수에 기초하여, 임계 시간 구간의 길이를 조절할 수 있다. 임계 시간 구간에 포함된 원소들이 너무 많거나 적은 경우 객체의 형태를 인식하기 어려울 수 있다. 따라서, 프로세서(130)는 객체의 형태를 인식하기 적절한 수준으로 임계 시간 구간의 길이를 조절할 수 있다. 예컨대, 프로세서(130)는 정적 패턴에 포함되는 원소의 수에 대해 기준 값을 설정하고, 상기 기준 값에 기초하여 임계 시간 구간을 조절할 수 있다. 기준 값은 최소 값 및 최대 값 중 적어도 하나를 포함할 수 있다. 프로세서(130)는 조절된 임계 시간 구간 이내의 시간 정보를 저장하는 원소들에 기초하여 능선을 결정할 수 있다. 예컨대, 도 6에서 최소 원소의 수를 25 개로 설정한 경우, 타임 스탬프 맵에서 시간 35 내지 시간 36의 성분들이 능선으로 결정될 수 있다. 이하, 도 7 내지 10을 참조하여 원소들의 수를 조절하는 과정을 보다 상세하게 설명한다.
도 7 및 도 8은 일 실시예에 따른 최소 원소의 수가 설정된 경우에 정적 패턴을 추출하는 과정을 설명하는 도면이다. 도 7을 참조하면, 이벤트가 감지된 원소에 대응하는 그래프는 시간의 흐름에 따라 실제로 이벤트가 감지된 원소의 수를 나타낸다. 도 7에서 이벤트가 감지된 픽셀의 수는 증가 및 감소를 반복하고 있다. 따라서, 객체가 움직이는 상태와 정지 상태를 반복했음을 알 수 있다.
또한, 정적 패턴에 포함된 원소에 대응하는 그래프는 시간의 흐름에 따라 정적 패턴을 추출하기 위하여 이용되는 원소의 수를 나타낸다. 정적 패턴을 추출하기 위하여 이용되는 원소의 수는 임계 시간 구간의 길이를 조절함으로써 제어될 수 있다.
도 7을 참조하면, 시간에 따른 원소의 수와 최소 원소의 수(thl)가 도시되어 있다. 프로세서(130)는 정적 패턴에 포함되는 원소의 수가 thl 이상이 되도록 임계 시간 구간의 길이를 조절할 수 있다. 예컨대, 영역(31)에서 객체가 정지함에 따라 이벤트가 감지된 픽셀의 수가 감소한다.
이 때, 프로세서(130)는 정적 패턴에 포함되는 원소의 수가 thl 이상이 되도록 임계 시간 구간의 길이를 적절히 조절할 수 있다. 임계 시간 구간의 길이가 적절히 조절될 경우, 정적 패턴의 선명도가 향상될 수 있다.
도 8을 참조하면, 영역(31)에서 프로세서(130)의 동작이 도시되어 있다. 예컨대, 정적 패턴에 포함된 원소의 수가 thl보다 적은 경우, 정적 패턴을 추출하기 위한 원소의 수가 충분하지 않아 정적 패턴의 선명도가 낮을 수 있다. 프로세서(130)는 임계 시간 구간의 길이를 증가시킴으로써 정적 패턴을 추출하기 위한 원소의 수를 증가시키고, 정적 패턴의 선명도를 향상시킬 수 있다. 예컨대, 도 8과 같이 임계 시간 구간의 길이가 증가됨에 따라 객체의 형상을 나타내는 정적 패턴의 선명도는 증가될 수 있다.
도 9 및 도 10은 일 실시예에 따른 최대 원소의 수가 설정된 경우에 정적 패턴을 추출하는 과정을 설명하는 도면이다. 도 9를 참조하면, 시간에 따른 원소의 수와 최소 원소의 수(thl)와 최대 원소의 수(thh)가 도시되어 있다. 프로세서(130)는 정적 패턴에 포함되는 원소의 수가 thl 이상이 되고, thh 이하가 되도록 임계 시간 구간의 길이를 조절할 수 있다. 예컨대, 영역(32)에서 객체의 움직임에 따라 이벤트가 감지된 픽셀의 수가 증가한다. 이 때, 프로세서(130)는 정적 패턴에 포함되는 원소의 수가 thh 이하가 되도록 임계 시간 구간의 길이를 적절히 조절할 수 있다. 임계 시간 구간의 길이가 적절이 조절될 경우, 정적 패턴의 선명도가 향상될 수 있다. thl과 관련해서는 앞서 설명된 내용이 적용될 수 있다.
도 10을 참조하면, 영역(32)에서 프로세서(130)의 동작이 도시되어 있다. 예컨대, 정적 패턴에 포함된 원소의 수가 thh보다 많은 경우, 정적 패턴을 추출하기 위한 원소의 수가 너무 많아 정적 패턴의 에지가 과도하게 두껍게 되고, 객체의 형상에 잡음이 발생할 수 있다. 프로세서(130)는 임계 시간 구간의 길이를 감소시킴으로써 정적 패턴을 추출하기 위한 원소의 수를 적절하게 제어하고, 정적 패턴의 선명도를 향상시킬 수 있다. 예컨대, 도 10과 같이 임계 시간 구간의 길이가 감소됨에 따라 객체의 형상을 나타내는 정적 패턴의 선명도는 증가될 수 있다.
앞서 설명된 것처럼, 프로세서(130)는 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 능선을 트랙킹(tracking)할 수 있다. 능선의 트랙킹(tracking) 과정에 대해서는 도 11 및 도 12를 참조하여 설명한다.
도 11 및 도 12는 일 실시예에 따른 에지의 두께에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면이다. 도 11을 참조하면, 20 x 20의 타임 스탬프 맵에 타임 스탬프들이 표시되어 있다. 도 11에 도시된 타임 스탬프 맵에 따르면, 시간 29에서 시간 36까지 객체의 움직임이 있었고, 현재 시간은 시간 36을 경과하였음을 알 수 있다.
프로세서(130)는 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 능선을 트랙킹(tracking)할 수 있다. 예컨대, 에지의 두께가 x 축 방향의 원소의 수에 의해 결정되고, 임계 두께가 5로 설정된 경우, 타임 스탬프 맵에서 시간 33 내지 시간 36의 성분들이 능선으로 결정될 수 있다. 에지의 두께는 다양한 방법에 의해 결정될 수 있다. 예컨대, 에지의 두께는 x 축 방향의 원소의 수, y 축 방향의 원소의 수, 능선의 진행 방향에 대한 수직 방향의 폭, 또는 이들의 다양한 조합 등에 기초하여 결정될 수 있다.
능선을 트랙킹하는 실시예는 객체가 패턴을 포함하는 경우에 적용될 수 있다. 예를 들어, 객체가 패턴을 포함하는 경우 외형선을 복원하기 위한 픽셀들뿐 아니라 패턴을 복원하기 위한 픽셀들도 필요하므로, 그렇지 않은 경우에 비하여 객체의 형상을 표현하기 위해 다수의 픽셀이 요구될 수 있다. 이 경우, 에지의 두께에 기초하여 능선을 트랙킹(tracking)함으로써 타임 스탬프 맵에서 정적 패턴을 적절하게 추출할 수 있다.
도 12를 참조하면, 움직이는 객체는 패턴(예를 들어, 반복적인 패턴)을 포함할 수 있다. 만약 능선에 포함된 에지의 두께를 직접적으로 고려하지 않고 원소들의 수만을 고려하여 정적 패턴을 추출하는 경우, 객체의 외형선 및 패턴을 함께 추출하기 위한 원소의 수가 충분하지 않아 정적 패턴의 선명도는 낮을 수 있다. 반면, 능선에 포함된 에지의 두께를 직접적으로 고려하는 경우, 객체의 외형선 및 패턴을 함께 추출하기 위한 적절한 수의 원소들을 이용함으로써 두 시점들(t=1, t=2)에서의 정적 패턴들(41, 42)과 같이 선명한 객체의 형상이 도출될 수 있다.
임계 두께는 다양하게 정의될 수 있다. 예컨대, 임계 두께는 능선에 포함된 에지들의 최소 두께, 평균 두께, 최대 두께, 또는 이들의 다양한 조합 등으로 정의될 수 있다. 임계 두께가 능선에 포함된 에지들의 평균 두께로 정의된 경우, 프로세서(130)는 능선에 포함된 에지의 두께가 능선에 포함된 에지들의 평균 두께 이하가 되도록 능선을 트랙킹(tracking)할 수 있다. 프로세서(130)는 능선에 포함된 에지의 두께에 기초하여 능선을 트랙킹(tracking) 함으로써, 복잡한 패턴을 포함하는 객체의 정적 패턴을 선명하게 추출할 수 있다.
지금까지 타임 스탬프 맵이 단일의 영역을 포함하는 경우에 정적 패턴의 추출 과정에 대해 설명하였다. 일측에 따르면, 타임 스탬프 맵은 복수의 영역을 포함할 수 있다. 프로세서(130)는 타임 스탬프 맵에 복수의 영역을 설정하고, 각각의 영역으로부터 정적 패턴을 추출할 수 있다. 복수의 객체가 존재하는 경우, 프로세서(130)는 타임 스탬프 맵에 복수의 객체에 대한 복수의 영역을 설정할 수 있다. 타임 스탬프 맵에 복수의 영역이 설정되는 경우, 복수의 객체가 시간 차를 두고 움직이는 경우에도 각각의 객체의 정적 패턴을 선명하게 추출할 수 있다. 복수의 영역에 관해서는 도 13 및 도 14를 참조하여 설명한다.
도 13 및 도 14는 일 실시예에 따른 타임 스탬프 맵에 설정된 복수의 영역에 기초하여 정적 패턴을 추출하는 과정을 설명하기 위한 도면이다. 도 13을 참조하면, 시간 t1 내지 시간 t2에서 객체의 움직임과 추출된 정적 패턴들(51, 52, 61, 62)이 도시되어 있다. 제1 정적 패턴들(51, 52)은 단일의 영역으로부터 추출된 것이고, 제2 정적 패턴들(61, 62)은 복수의 영역으로부터 추출된 것이다. 아래에서 사용자의 손은 제1 객체로 지칭될 수 있고, 사용자의 머리는 제2 객체로 지칭될 수 있다. 시간 t1에서 제1 객체와 제2 객체가 함께 움직이고 있고, 시간 t2에서 제2 객체만이 움직이고 있다.
타임 스탬프 맵에 단일의 영역이 설정된 경우, 정적 패턴의 추출 기준이 타임 스탬프 맵 전체에 동일하게 적용될 수 있다. 시간 t1에서 제1 객체와 제2 객체가 유사한 시간 구간 동안 움직이는 경우 제1 정적 패턴(51)과 같이 제1 객체 및 제2 객체의 형상이 함께 추출될 수 있다. 시간 t2에서 제1 객체는 더 이상 움직이지 않고 제2 객체만 움직이는 경우, 제2 객체의 움직임만으로 능선이 구성될 수 있다. 이 경우, 제2 정적 패턴(52)과 같이 제2 객체의 형상만이 추출될 수 있다.
타임 스탬프 맵에 복수의 영역을 설정할 경우 제1 객체 및 제2 객체의 형상이 적절하게 추출될 수 있다. 타임 스탬프 맵에 복수의 영역이 설정된 경우, 정적 패턴의 추출 기준이 타임 스탬프 맵에서 각각의 영역 별로 상이하게 적용될 수 있다. 예컨대, 프로세서(130)는 제1 영역에서 제1 객체의 형상이 능선을 이루도록 정적 패턴의 추출 기준을 설정하고, 제2 영역에서 제2 객체의 형상이 능선을 이루도록 정적 패턴의 추출 기준을 설정할 수 있다.
도 14를 참조하면, 타임 스탬프 맵에서 복수의 객체에 대한 영역들(71, 72)이 도시되어 있다. 제1 영역(71)은 제1 객체에 대한 것이고, 제2 영역(72)은 제2 객체에 대한 것이다. 제1 영역(71)은 시간 53 내지 시간 57의 타임 스탬프들을 포함한다. 제2 영역(72)은 시간 60 내지 시간 63의 타임 스탬프들을 포함한다. 따라서, 제1 객체가 움직인 이후에 제2 객체가 움직였음을 알 수 있다.
프로세서(130)는 타임 스탬프들의 분포에 기초하여 영역들(71, 72)을 설정할 수 있다. 예컨대, 프로세서(130)는 동적 입력에 대응하는 객체의 부위에 따라 영역들(71, 72)을 설정할 수 있다. 프로세서(130)는 각각의 영역들(71, 72)에 패턴 추출을 위한 개별적인 기준을 설정할 수 있다. 예컨대, 프로세서(130)는 각각의 영역들(71, 72)에 개별적인 임계 시간 구간을 설정할 수 있다. 또한, 프로세서(130)는 각각의 영역들(71, 72)에서 능선에 포함된 에지의 두께에 기초하여 능선을 트랙킹(tracking)할 수 있다. 이 때, 프로세서(130)는 각각의 영역들(71, 72)에 대해 임계 두께를 개별적으로 설정할 수 있다. 아래에서는 대표적으로 임계 시간 구간을 이용한 정적 패턴 과정에 대해 설명한다.
프로세서(130)는 제1 영역(71)에 대한 제1 임계 시간 구간에 기초하여 제1 영역(71)로부터 제1 객체에 대한 정적 패턴을 추출하고, 제2 영역(72)에 대한 제2 임계 시간 구간에 기초하여 제2 영역(72)로부터 제2 객체에 대한 정적 패턴을 추출할 수 있다. 도 14에서, 현재 시간이 65인 경우, 제1 영역(71)을 위한 제1 임계 시간 구간이 단위 시간 10으로 설정된 것으로 볼 수 있고, 제2 영역(72)을 위한 제2 임계 시간 구간이 단위 시간 3으로 설정된 것으로 볼 수 있다.
복수의 영역에 대한 패턴 추출 과정에는, 앞서 설명된 단일의 영역에 대한 패턴 추출 과정이 적용될 수 있다. 예컨대, 프로세서(130)는 각각의 영역들(71, 72) 포함되는 원소들의 수에 기초하여 임계 시간 구간의 길이를 조절할 수 있다. 프로세서(130)는 각각의 영역들(71, 72)에 대응하여 수신된 유효 이벤트 신호의 수에 기초하여, 임계 시간 구간의 길이를 조절할 수 있다. 유효 이벤트 신호는 유효한 것으로 처리된 이벤트 신호를 의미한다. 이벤트 신호의 유효 여부는 이벤트 신호의 수신 시간에 기초하여 결정될 수 있다. 프로세서(130)는 영역들(71, 72)에 대응하여 수신된 신규 이벤트 신호에 반응하여, 임계 시간 구간의 길이를 조절할 수 있다. 다시 말해, 프로세서(130)는 신규 이벤트 신호 수신 시에만 임계 시간 구간의 길이를 조절할 수 있다. 그 밖에, 임계 시간 구간의 조절에 관해서는 앞서 설명된 내용이 적용될 수 있다.
도 15는 일 실시예에 따른 패턴 추출 장치를 나타내는 블록도이다.
도 15를 참조하면, 일 실시예에 따른 패턴 추출 장치(100-2)는 이벤트 기반 센서(110), 깊이 센서(120) 및 프로세서(130)를 포함한다. 패턴 추출 장치(100-2)는 깊이 별로 복수의 타임 스탬프 맵을 생성하고, 복수의 타임 스탬프 맵으로부터 깊이 별로 정적 패턴을 추출할 수 있다. 패턴 추출 장치(100-2)는 깊이 별로 복수의 타임 스탬프 맵을 관리함으로써, 복수의 객체들 간에 겹침(occlusion)이 발생하는 경우에도, 각각의 객체들의 정적 패턴을 적절하게 복원할 수 있다.
이벤트 기반 센서(110)는 동적 입력에 반응하여, 동적 입력에 대응하는 위치 정보 및 시간 정보를 포함하는 이벤트 신호를 출력한다. 이벤트 기반 센서(110) 및 프로세서(130)에는 앞서 설명된 내용이 적용될 수 있다.
깊이 센서(120)는 깊이 정보를 출력한다. 깊이 센서(120)는 복수의 센싱 픽셀들을 포함한다. 깊이 센서(120)는 복수의 센싱 픽셀들에 의해 감지된 깊이 정보를 출력할 수 있다. 깊이 센서(120)는 이벤트 기반 센서(110)와 동일한 해상도를 가질 수 있다. 깊이 센서(120)는 동적 입력에 반응하여, 동적 입력에 대응하는 깊이 정보를 출력할 수 있다. 도면에 도시하지 않았지만, 일 실시예에 따른 깊이 센서(120)는 이벤트 신호를 수신하고, 수신된 이벤트 신호의 주소에 대응하는 픽셀에 의하여 감지된 깊이 정보를 출력할 수도 있다.
프로세서(130)는 다양한 깊이 별로 복수의 타임 스탬프 맵을 생성할 수 있다. 프로세서(130)는 이벤트 기반 센서(110)로부터 수신한 이벤트 신호 및 깊이 센서(120)로부터 수신한 깊이 정보에 기초하여 어느 하나의 타임 스탬프 맵을 업데이트할 수 있다. 예컨대, 제1 이벤트 신호에 대해 제1 깊이 정보가 수신된 경우, 프로세서(130)는 제1 깊이 구간에 대응하는 제1 타임 스탬프 맵에 제1 이벤트 신호에 따른 타임 스탬프를 업데이트할 수 있다. 복수의 타임 스탬프 맵에 대한 프로세서(130)의 동작에 관해서는 도 16 및 도 17을 참조하여 설명한다.
도 16은 일 실시예에 따른 복수의 타임 스탬프 맵에 대한 처리 과정을 설명하기 위한 도면이다. 도 16을 참조하면, 프로세서(130) 및 복수의 타임 스탬프 맵들(210, 220, 230)이 도시되어 있다. 제1 타임 스탬프 맵(210)은 제1 깊이 구간에 대응되고, 제2 타임 스탬프 맵(220)은 제2 깊이 구간에 대응되고, 제3 타임 스탬프 맵(230)은 제3 깊이 구간에 대응된다. 복수의 타임 스탬프 맵들(210,220,230)은 각각 2차원 타임 스탬프 맵이라고 지칭될 수 있다.
이벤트 신호가 수신될 경우, 프로세서(130)는 깊이 정보에 기초하여 복수의 타임 스탬프 맵들(210, 220, 230) 중에 이벤트 신호에 대응하는 타임 스탬프 맵을 선택할 수 있다. 예컨대, 이벤트 신호에 대응하는 깊이가 제1 깊이 구간에 해당하는 경우, 프로세서(130)는 제1 타임 스탬프 맵(210)을 선택할 수 있다. 프로세서(130)는 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여 제1 타임 스탬프 맵(210)을 업데이트할 수 있다.
프로세서(130)는 복수의 타임 스탬프 맵들(210, 220, 230) 중에 적어도 하나의 타임 스탬프 맵으로부터 능선을 추출할 수 있다. 능선의 추출 과정에 대해서는 앞서 설명된 내용이 적용될 수 있다. 프로세서(130)는 추출된 능선에 기초하여 정적 패턴을 추출할 수 있다. 예컨대, 프로세서(130)는 복수의 타임 스탬프 맵들(210, 220, 230) 각각으로부터 복수의 정적 패턴을 추출할 수 있다. 또한, 프로세서(130)는 복수의 타임 스탬프 맵들(210, 220, 230)에 기초하여 하나의 통합 맵을 생성하고, 통합 맵의 능선에 기초하여 정적 패턴을 추출할 수 있다. 복수의 타임 스탬프 맵들(210, 220, 230)에 동일한 좌표에 대한 타임 스탬프가 중복하여 존재하는 경우, 프로세서(130)는 중복되는 타임 스탬프 중에 가장 최근의 타임 스탬프로 통합 맵을 생성할 수 있다.
도면에 도시하지 않았으나, 실시예들은 복수의 2차원 타임 스탬프 맵들 대신 3차원 타임 스탬프 맵을 생성하는 방식으로 변형될 수 있다. 예를 들어, 3차원 타임 스탬프 맵은 위치 정보에 대응하는 원소에 (시간 정보, 깊이 정보)의 페어를 저장할 수 있다. 프로세서(130)는 위치 정보에 대응하는 저장 원소에 시간 정보 및 깊이 정보를 저장할 수 있다.
일 실시예에 따르면, 깊이 정보는 미리 정해진 깊이 영역들로 양자화될 수 있다. 이 경우, 프로세서(130)는 깊이 영역 별 가장 최근의 (시간 정보, 깊이 정보)만 저장하는 3차원 타임 스탬프 맵을 생성할 수 있다. 예를 들어, 프로세서(130)는 기 저장된 (시간 정보, 깊이 정보)의 깊이 정보와 동일한 깊이 영역으로 양자화되는 새로운 깊이 정보가 수신되는 경우, 해당 원소에 (새로운 시간 정보, 새로운 깊이 정보)를 덮어쓸 수 있다.
도 17은 일 실시예에 따른 복수의 타임 스탬프 맵에 대한 처리 결과를 설명하기 위한 도면이다. 도 17을 참조하면, 복수의 타임 스탬프 맵으로부터 추출된 정적 패턴들(91, 92, 93)이 도시되어 있다. 정적 패턴들(91, 92, 93)은 사용자의 손에 대응하는 제1 객체와 사용자의 얼굴에 대응하는 제2 객체를 포함한다. 제1 객체와 제2 객체는 상이한 깊이를 갖는 것으로 가정하며, 정적 패턴들(91, 92, 93)의 화살표는 제1 객체의 이동 방향을 의미한다.
프로세서(130)는 제1 객체에 대응되는 이벤트 신호를 제1 타임 스탬프 맵에 업데이트하고, 제2 객체에 대응되는 이벤트 신호를 제2 타임 스탬프 맵에 업데이트한다. 따라서, 제1 객체와 제2 객체 사이의 가려짐(occlusion)이 발생한 경우에도, 제1 객체의 정적 패턴과 제2 객체의 정적 패턴은 독립적으로 복원될 수 있다. 예컨대, 도 17을 참조하면, 시간 t2와 t3 사이에 제1 객체와 제2 객체 사이에 가려짐(occlusion)이 발생할 수 있다. 이 경우에도, 정적 패턴(93)에 나타난 것처럼 같이, 복수의 타임 스탬프 맵에 기초하여 제1 객체와 제2 객체 모두 독립적으로 복원될 수 있다.
프로세서(130)는 복수의 타임 스탬프 맵들 중 적어도 하나의 타임 스탬프 맵에 대해 복수의 영역을 설정할 수 있다. 프로세서(130)는 타임 스탬프들의 분포에 기초하여 복수의 영역을 설정할 수 있다. 프로세서(130)는 각각의 영역들에 패턴 추출을 위한 개별적인 기준을 설정할 수 있다. 예컨대, 프로세서(130)는 각각의 영역들에 개별적인 임계 시간 구간을 설정할 수 있고, 각각의 영역들 포함되는 원소들의 수에 기초하여 임계 시간 구간의 길이를 조절할 수 있다. 그 밖에, 복수의 영역에 대한 패턴 추출 과정에는, 앞서 설명된 내용이 적용될 수 있다.
도 18은 일 실시예에 따른 패턴 추출 방법을 나타내는 흐름도이다.
도 18을 참조하면, 단계(500)에서, 패턴 추출 장치는 동적 입력에 반응하여 이벤트 기반 센서에 의하여 출력되는 이벤트 신호를 수신한다. 단계(600)에서, 패턴 추출 장치는 상기 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 상기 동적 입력과 관련된 정적 패턴을 추출한다. 그 밖에, 패턴 추출 방법에는 앞서 설명된 내용이 적용될 수 있으므로, 보다 상세한 설명은 생략한다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 비록 한정된 도면에 의해 실시예들이 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다. 그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (37)

  1. 동적 입력에 반응하여 이벤트 기반 센서에 의하여 출력되는 이벤트 신호를 수신하는 단계; 및
    상기 이벤트 신호에 포함된 위치 정보 및 시간 정보에 기초하여, 상기 동적 입력과 관련된 정적 패턴을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  2. 제1항에 있어서,
    상기 동적 입력은
    상기 이벤트 기반 센서의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함하는, 패턴 추출 방법.
  3. 제1항에 있어서,
    상기 정적 패턴은
    상기 동적 입력과 관련된 객체의 형상(appearance)에 대응하는, 패턴 추출 방법.
  4. 제1항에 있어서,
    상기 동적 입력은 객체의 모션을 포함하고,
    상기 정적 패턴은 상기 모션이 멈춘 상태의 상기 객체의 형상에 대응하는, 패턴 추출 방법.
  5. 제1항에 있어서,
    상기 위치 정보는
    상기 이벤트 기반 센서에 포함된 복수의 픽셀들 중 상기 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소(address)를 포함하는, 패턴 추출 방법.
  6. 제1항에 있어서,
    상기 시간 정보는
    상기 이벤트 기반 센서의 적어도 하나의 픽셀에 의하여 상기 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 포함하는, 패턴 추출 방법.
  7. 제1항에 있어서,
    상기 추출하는 단계는
    상기 위치 정보 및 상기 시간 정보를 저장하는 단계; 및
    상기 저장된 위치 정보 및 상기 저장된 시간 정보에 기초하여, 상기 정적 패턴을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  8. 제7항에 있어서,
    상기 저장하는 단계는
    상기 위치 정보에 대응하는 저장 원소에 상기 시간 정보를 덮어쓰는 단계
    를 포함하는, 패턴 추출 방법.
  9. 제1항에 있어서,
    상기 추출하는 단계는
    상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵으로부터 능선을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  10. 제9항에 있어서,
    상기 위치 정보는 상기 맵의 좌표에 대응하고, 상기 시간 정보는 상기 맵의 고도에 대응하는, 패턴 추출 방법.
  11. 제9항에 있어서,
    상기 능선을 추출하는 단계는
    상기 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  12. 제11항에 있어서,
    상기 능선을 추출하는 단계는
    상기 추출된 원소들의 수에 기초하여, 상기 임계 시간 구간의 길이를 조절하는 단계; 및
    상기 조절된 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 추출하는 단계
    를 더 포함하는, 패턴 추출 방법.
  13. 제9항에 있어서,
    상기 능선을 추출하는 단계는
    상기 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 상기 능선을 트랙킹(tracking)하는 단계
    를 포함하는, 패턴 추출 방법.
  14. 제1항에 있어서,
    상기 추출하는 단계는
    상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵 내에서, 상기 정적 패턴을 추출할 영역을 설정하는 단계; 및
    상기 영역에 대응하는 임계 시간 구간에 기초하여, 상기 영역으로부터 능선을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  15. 제14항에 있어서,
    상기 설정하는 단계는
    상기 동적 입력에 대응하는 객체의 부위에 따라 상기 영역을 설정하는 단계
    를 포함하는, 패턴 추출 방법.
  16. 제14항에 있어서,
    상기 추출하는 단계는
    상기 영역에 대응하여 수신된 유효 이벤트 신호의 수에 기초하여, 상기 임계 시간 구간의 길이를 조절하는 단계; 및
    상기 영역에 대응하여 수신된 신규 이벤트 신호에 반응하여, 상기 임계 시간 구간의 길이를 조절하는 단계
    중 적어도 하나를 더 포함하는, 패턴 추출 방법.
  17. 제1항에 있어서,
    상기 추출하는 단계는
    상기 위치 정보 및 상기 시간 정보에 기초하여, 복수의 깊이 영역들에 대응하는 복수의 맵들을 생성하는 단계;
    상기 복수의 맵들 중 적어도 하나의 맵으로부터 능선을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  18. 제17항에 있어서,
    상기 생성하는 단계는
    상기 동적 입력에 대응하는 깊이 정보를 수신하는 단계;
    상기 깊이 정보에 기초하여 상기 복수의 맵들 중 어느 하나의 맵을 선택하는 단계; 및
    상기 위치 정보 및 상기 시간 정보에 기초하여, 상기 선택된 맵을 업데이트하는 단계
    를 포함하는, 패턴 추출 방법.
  19. 제1항에 있어서,
    상기 추출하는 단계는
    상기 동적 입력에 대응하는 깊이 정보를 수신하는 단계;
    상기 위치 정보에 대응하는 저장 원소에 상기 시간 정보 및 상기 깊이 정보를 저장하는 단계; 및
    상기 저장된 위치 정보, 상기 저장된 시간 정보, 및 상기 저장된 깊이 정보에 기초하여 상기 정적 패턴을 추출하는 단계
    를 포함하는, 패턴 추출 방법.
  20. 하드웨어와 결합되어 제1항 내지 제19항 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.
  21. 동적 입력에 반응하여, 상기 동적 입력에 대응하는 위치 정보 및 시간 정보를 포함하는 이벤트 신호를 출력하는 이벤트 기반 센서; 및
    상기 이벤트 신호에 기초하여, 상기 동적 입력과 관련된 정적 패턴을 추출하는 프로세서
    를 포함하는, 패턴 추출 장치.
  22. 제21항에 있어서,
    상기 동적 입력은
    상기 이벤트 기반 센서의 적어도 하나의 픽셀에 입사되는 빛을 변화시키는 이벤트를 포함하는, 패턴 추출 장치.
  23. 제21항에 있어서,
    상기 동적 입력은 객체의 모션을 포함하고, 상기 정적 패턴은 상기 모션이 멈춘 상태의 상기 객체의 형상에 대응하는, 패턴 추출 장치.
  24. 제21항에 있어서,
    상기 위치 정보는 상기 이벤트 기반 센서에 포함된 복수의 픽셀들 중 상기 동적 입력을 감지한 적어도 하나의 픽셀을 지시하는 주소(address)를 포함하고,
    상기 시간 정보는 상기 이벤트 기반 센서의 적어도 하나의 픽셀에 의하여 상기 동적 입력이 감지된 시간을 지시하는 타임 스탬프(time stamp)를 포함하는, 패턴 추출 장치.
  25. 제21항에 있어서,
    상기 프로세서는
    상기 위치 정보 및 상기 시간 정보를 메모리에 저장하고, 상기 저장된 위치 정보 및 상기 저장된 시간 정보에 기초하여 상기 정적 패턴을 추출하는, 패턴 추출 장치.
  26. 제25항에 있어서,
    상기 프로세서는
    상기 위치 정보에 대응하는 저장 원소에 상기 시간 정보를 덮어쓰는, 패턴 추출 장치.
  27. 제21항에 있어서,
    상기 프로세서는
    상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵으로부터 능선을 추출하고, 상기 위치 정보는 상기 맵의 좌표에 대응하며, 상기 시간 정보는 상기 맵의 고도에 대응하는, 패턴 추출 장치.
  28. 제27항에 있어서,
    상기 프로세서는
    상기 맵에 포함된 복수의 원소들 중 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 추출하는, 패턴 추출 장치.
  29. 제28항에 있어서,
    상기 프로세서는
    상기 추출된 원소들의 수에 기초하여, 상기 임계 시간 구간의 길이를 조절하고, 상기 조절된 임계 시간 구간 이내의 시간 정보를 저장하는 원소들을 추출하는, 패턴 추출 장치.
  30. 제27항에 있어서,
    상기 프로세서는
    상기 능선에 포함된 에지의 두께가 임계 두께 이하가 되도록 상기 능선을 트랙킹(tracking)하는, 패턴 추출 장치.
  31. 제21항에 있어서,
    상기 프로세서는
    상기 위치 정보 및 상기 시간 정보에 기초하여 생성되는 맵 내에서 상기 정적 패턴을 추출할 영역을 설정하고, 상기 영역에 대응하는 임계 시간 구간에 기초하여 상기 영역으로부터 능선을 추출하는, 패턴 추출 장치.
  32. 제31항에 있어서,
    상기 프로세서는
    상기 동적 입력에 대응하는 객체의 부위에 따라 상기 영역을 설정하는, 패턴 추출 장치.
  33. 제31항에 있어서,
    상기 프로세서는
    상기 영역에 대응하여 수신된 유효 이벤트 신호의 수에 기초하여 상기 임계 시간 구간의 길이를 조절하는, 패턴 추출 장치.
  34. 제31항에 있어서,
    상기 프로세서는
    상기 영역에 대응하여 수신된 신규 이벤트 신호에 반응하여 상기 임계 시간 구간의 길이를 조절하는, 패턴 추출 장치.
  35. 제21항에 있어서,
    상기 프로세서는
    상기 위치 정보 및 상기 시간 정보에 기초하여 복수의 깊이 영역들에 대응하는 복수의 맵들을 생성하고, 상기 복수의 맵들 중 적어도 하나의 맵으로부터 능선을 추출하는, 패턴 추출 장치.
  36. 제35항에 있어서,
    상기 동적 입력에 대응하는 깊이 정보를 출력하는 깊이 센서
    를 더 포함하고,
    상기 프로세서는
    상기 깊이 정보에 기초하여 상기 복수의 맵들 중 어느 하나의 맵을 선택하고, 상기 위치 정보 및 상기 시간 정보에 기초하여 상기 선택된 맵을 업데이트하는, 패턴 추출 장치.
  37. 제35항에 있어서,
    상기 동적 입력에 대응하는 깊이 정보를 출력하는 깊이 센서
    를 더 포함하고,
    상기 프로세서는
    상기 위치 정보에 대응하는 저장 원소에 상기 시간 정보 및 상기 깊이 정보를 저장하고, 상기 저장된 위치 정보, 상기 저장된 시간 정보, 및 상기 저장된 깊이 정보에 기초하여 상기 정적 패턴을 추출하는, 패턴 추출 장치.
KR1020150059746A 2015-04-28 2015-04-28 이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치 KR102307055B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020150059746A KR102307055B1 (ko) 2015-04-28 2015-04-28 이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치
US15/017,711 US9921643B2 (en) 2015-04-28 2016-02-08 Method and apparatus for extracting static pattern based on output of event-based sensor
CN201610260737.6A CN106095262B (zh) 2015-04-28 2016-04-25 根据基于事件的传感器的输出提取静态图案的方法和设备
EP16167010.4A EP3089111B1 (en) 2015-04-28 2016-04-26 Method and apparatus for extracting static pattern based on output of event-based sensor
US16/291,685 USRE48780E1 (en) 2015-04-28 2019-03-04 Method and apparatus for extracting static pattern based on output of event-based sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150059746A KR102307055B1 (ko) 2015-04-28 2015-04-28 이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20160128030A true KR20160128030A (ko) 2016-11-07
KR102307055B1 KR102307055B1 (ko) 2021-10-01

Family

ID=55910759

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150059746A KR102307055B1 (ko) 2015-04-28 2015-04-28 이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치

Country Status (4)

Country Link
US (2) US9921643B2 (ko)
EP (1) EP3089111B1 (ko)
KR (1) KR102307055B1 (ko)
CN (1) CN106095262B (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180102986A (ko) * 2017-03-08 2018-09-18 삼성전자주식회사 타임스탬프를 재생성하도록 구성된 이미지 처리 장치 및 그것을 포함하는 전자 기기
KR20200066371A (ko) * 2017-11-14 2020-06-09 애플 인크. 이벤트 카메라-기반 변형가능 물체 추적
US11202025B2 (en) 2017-03-08 2021-12-14 Samsung Electronics Co., Ltd. Image processing device configured to regenerate timestamp and electronic device including the same

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111611575A (zh) * 2016-10-13 2020-09-01 创新先进技术有限公司 基于虚拟现实场景的业务实现方法及装置
EP3393122A1 (en) * 2017-04-18 2018-10-24 Oculus VR, LLC Event camera
US10237481B2 (en) * 2017-04-18 2019-03-19 Facebook Technologies, Llc Event camera for generation of event-based images
US11019273B2 (en) * 2017-09-28 2021-05-25 Apple Inc. Generating static images with an event camera
US11474601B2 (en) * 2017-12-04 2022-10-18 National University Of Singapore Sensor-based communication apparatus and method, and communication medium
US11064173B2 (en) 2017-12-14 2021-07-13 International Business Machines Corporation Photographic directional light reference for articulating devices
WO2019137973A1 (en) * 2018-01-11 2019-07-18 Gensight Biologics Method and device for processing asynchronous signals generated by an event-based light sensor
CN112262568B (zh) * 2018-03-14 2024-03-29 索尼高级视觉传感股份公司 具有直接存储器控制的基于事件的视觉传感器
US10887535B2 (en) * 2018-07-18 2021-01-05 The Regents Of The University Of California Query driven image sensing
WO2020101895A1 (en) * 2018-11-12 2020-05-22 Magic Leap, Inc. Event-based camera with high-resolution frame output
EP3730256A1 (en) * 2019-04-26 2020-10-28 Prophesee Servo control method and system for controlling movement of a robot
TWI762956B (zh) * 2020-06-17 2022-05-01 瑞昱半導體股份有限公司 影像中靜止圖像的處理方法
WO2022096086A1 (en) * 2020-11-04 2022-05-12 Huawei Technologies Co., Ltd. Device and method for compensating event latency
CN114519017B (zh) * 2020-11-18 2024-03-29 舜宇光学（浙江）研究院有限公司 用于事件相机的数据传输方法及其系统和电子设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130142913A (ko) * 2012-06-19 2013-12-30 삼성전자주식회사 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3424204B2 (ja) * 1999-07-23 2003-07-07 インターナショナル・ビジネス・マシーンズ・コーポレーション オブジェクトの軌跡を利用したビデオ・コンテンツへのアクセス方法及び装置
US20050146605A1 (en) * 2000-10-24 2005-07-07 Lipton Alan J. Video surveillance system employing video primitives
US8243986B2 (en) 2004-06-09 2012-08-14 Cognex Technology And Investment Corporation Method and apparatus for automatic visual event detection
JP2006067452A (ja) 2004-08-30 2006-03-09 Nikon Corp 映像記録装置、および電子カメラ
WO2006078861A2 (en) * 2005-01-18 2006-07-27 Board Of Regents, The University Of Texas System Method, system and apparatus for a time stamped visual motion sensor
SG162756A1 (en) 2005-06-03 2010-07-29 Universitaet Zuerich Photoarray for detecting time-dependent image data
JP2009141702A (ja) 2007-12-06 2009-06-25 Canon Inc 撮像装置及び撮像装置の制御方法
US9386281B2 (en) * 2009-10-02 2016-07-05 Alarm.Com Incorporated Image surveillance and reporting technology
US8698092B2 (en) 2010-09-10 2014-04-15 Samsung Electronics Co., Ltd. Method and apparatus for motion recognition
US9154747B2 (en) * 2010-12-22 2015-10-06 Pelco, Inc. Stopped object detection
FR2983323B1 (fr) 2011-11-28 2014-06-06 Schneider Electric Ind Sas Systeme de gestion de buffers d'evenements horodates
KR101299180B1 (ko) * 2011-12-01 2013-08-22 주식회사 감성 휴대 단말의 패턴 입력 장치 및 그 방법
FR2985065B1 (fr) 2011-12-21 2014-01-10 Univ Paris Curie Procede d'estimation de flot optique a partir d'un capteur asynchrone de lumiere
US9075545B2 (en) 2012-08-01 2015-07-07 Hewlett-Packard Development Company, L.P. Synchronizing sensor data using timestamps and signal interpolation
US9323985B2 (en) * 2012-08-16 2016-04-26 Microchip Technology Incorporated Automatic gesture recognition for a sensor system
KR20140138424A (ko) * 2013-05-23 2014-12-04 삼성전자주식회사 제스쳐를 이용한 사용자 인터페이스 방법 및 장치
US9696812B2 (en) 2013-05-29 2017-07-04 Samsung Electronics Co., Ltd. Apparatus and method for processing user input using motion of object
KR102081087B1 (ko) 2013-06-17 2020-02-25 삼성전자주식회사 동기적 영상과 비동기적 영상을 위한 영상 정합 장치 및 이미지 센서
US9767571B2 (en) 2013-07-29 2017-09-19 Samsung Electronics Co., Ltd. Apparatus and method for analyzing image including event information
KR102203810B1 (ko) 2013-10-01 2021-01-15 삼성전자주식회사 사용자 입력에 대응되는 이벤트를 이용한 유저 인터페이싱 장치 및 방법
US9275284B2 (en) * 2014-04-30 2016-03-01 Sony Corporation Method and apparatus for extraction of static scene photo from sequence of images
CN104182049B (zh) * 2014-08-28 2017-02-15 华南理工大学广州学院 非接触式红外线二维手势动作检测与识别装置及方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130142913A (ko) * 2012-06-19 2013-12-30 삼성전자주식회사 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180102986A (ko) * 2017-03-08 2018-09-18 삼성전자주식회사 타임스탬프를 재생성하도록 구성된 이미지 처리 장치 및 그것을 포함하는 전자 기기
US11202025B2 (en) 2017-03-08 2021-12-14 Samsung Electronics Co., Ltd. Image processing device configured to regenerate timestamp and electronic device including the same
US11575849B2 (en) 2017-03-08 2023-02-07 Samsung Electronics Co., Ltd. Image processing device configured to regenerate timestamp and electronic device including the same
KR20200066371A (ko) * 2017-11-14 2020-06-09 애플 인크. 이벤트 카메라-기반 변형가능 물체 추적
US11379996B2 (en) 2017-11-14 2022-07-05 Apple Inc. Deformable object tracking

Also Published As

Publication number Publication date
EP3089111A1 (en) 2016-11-02
US9921643B2 (en) 2018-03-20
KR102307055B1 (ko) 2021-10-01
USRE48780E1 (en) 2021-10-19
US20160320834A1 (en) 2016-11-03
EP3089111B1 (en) 2019-01-09
CN106095262B (zh) 2021-04-23
CN106095262A (zh) 2016-11-09

Similar Documents

Publication Publication Date Title
KR102307055B1 (ko) 이벤트 기반 센서의 출력에 기초하여 정적 패턴을 추출하는 방법 및 장치
KR102530219B1 (ko) 동작 인식의 오류를 검출하는 방법 및 장치
US9495758B2 (en) Device and method for recognizing gesture based on direction of gesture
US10082879B2 (en) Head mounted display device and control method
KR102433931B1 (ko) 움직임 인식 방법 및 움직임 인식 장치
KR102357680B1 (ko) 이벤트에 기반하여 객체의 이동을 감지하는 장치 및 방법
KR102248404B1 (ko) 움직임 분석 방법 및 움직임 분석 장치
KR102347249B1 (ko) 외부 물체의 움직임과 연관된 이벤트에 응답하여 화면을 디스플레이하는 장치 및 방법
KR102512828B1 (ko) 이벤트 신호 처리 방법 및 장치
KR101380997B1 (ko) 공간 인식을 통한 벡터 기반 제스처를 보정하는 방법 및 그 장치
KR20180014992A (ko) 이벤트 신호 처리 방법 및 장치
KR20150067680A (ko) 차량용 제스처 인식 시스템 및 그 방법
KR20120028668A (ko) 전자 기기에서 2차원 이미지로 3차원 화면을 구성하는 방법 및 그 전자 기기
EP4307166A1 (en) Dynamic gesture recognition method, gesture interaction method, and interaction system
KR20160086605A (ko) 객체 인식 방법 및 장치
KR20160063163A (ko) 터치 제스쳐 인식 방법 및 장치
KR102224932B1 (ko) 비전 센서를 이용한 사용자 입력 처리 장치 및 사용자 입력 처리 방법
CN110807410A (zh) 关键点定位方法、装置、电子设备和存储介质
WO2015060896A1 (en) Finite state machine cursor and dynamic gesture detector recognition
WO2020067124A1 (ja) プログラム、電子装置、及び方法
US20150146920A1 (en) Gesture recognition method and apparatus utilizing asynchronous multithreaded processing
CN109829965B (zh) 人脸模型的动作处理方法、装置、存储介质及电子设备
Rahman et al. SHIMPG: Simple human interaction with machine using Physical Gesture
KR20210058614A (ko) 적응적인 임계치를 이용한 얼굴 검출 방법 및 장치
US11205076B2 (en) Apparatus for alerting based on detecting objects approaching each other in images, alerting method, program, and non-transitory computer-readable information recording medium

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right