KR102225342B1 - 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 - Google Patents

객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 Download PDF

Info

Publication number
KR102225342B1
KR102225342B1 KR1020190016941A KR20190016941A KR102225342B1 KR 102225342 B1 KR102225342 B1 KR 102225342B1 KR 1020190016941 A KR1020190016941 A KR 1020190016941A KR 20190016941 A KR20190016941 A KR 20190016941A KR 102225342 B1 KR102225342 B1 KR 102225342B1
Authority
KR
South Korea
Prior art keywords
body part
target region
dimensional
real
user
Prior art date
Application number
KR1020190016941A
Other languages
English (en)
Other versions
KR20200099048A (ko
Inventor
김석중
Original Assignee
주식회사 브이터치
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 브이터치 filed Critical 주식회사 브이터치
Priority to KR1020190016941A priority Critical patent/KR102225342B1/ko
Priority to PCT/KR2020/000967 priority patent/WO2020166837A1/ko
Publication of KR20200099048A publication Critical patent/KR20200099048A/ko
Application granted granted Critical
Publication of KR102225342B1 publication Critical patent/KR102225342B1/ko
Priority to US17/400,894 priority patent/US20210374991A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00—Measuring arrangements characterised by the use of optical techniques
    • G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00—Measuring arrangements characterised by the use of optical techniques
    • G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/026—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring distance between sensor and object
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • G06K9/00208—
    • G06K9/00335—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/64—Three-dimensional objects
    • G06V20/647—Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107—Static hand or arm
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person

Abstract

본 발명의 일 태양에 따르면, 객체 제어를 지원하는 방법으로서, 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하는 단계, 상기 2차원 이미지로부터 특정되는 상기 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하는 단계, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 상기 복수의 신체 부위 중 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하는 단계, 및 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 상기 2차원 이미지 내에서 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정하는 단계를 포함하고, 상기 제어 대상 영역은 상기 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 결정되는 방법이 제공된다.

Description

객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체{METHOD, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR SUPPORTING OBJECT CONTROL}
본 발명은 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체에 관한 것이다.
근래에 들어, 증강 현실(AR: Augmented Reality)이나 가상 현실(VR: Virtual Reality)에 관한 관심이 높아지고 관련 기술 분야의 연구 개발이 활발하게 진행됨에 따라, 사용자의 신체 부위를 이용하여 객체를 제어하는 다양한 기술들이 소개되고 있다.
이에 관한, 종래 기술의 일 예로서, 한국공개특허공보 제2012-126508호에 개시된 기술을 예로 들 수 있는데, 이에 따르면, 서로 다른 위치에 배치되는 2개 이상의 이미지 센서로 구성되며 상기 표시면 전방의 사용자 신체를 촬영하는 영상 획득부와, 상기 영상 획득부로부터 수신한 영상을 이용하여 상기 사용자 신체의 3차원 좌표 데이터를 산출하는 공간좌표 산출부와, 상기 공간 좌표 산출부로부터 수신한 제1 공간 좌표와 제2 공간 좌표를 이용하여 상기 제1 공간 좌표와 제2 공간 좌표를 연결하는 직선이 상기 표시면과 만나는 접점 좌표 데이터를 산출하는 터치 위치 산출부 및 상기 터치 위치 산출부로부터 수신된 상기 접점 좌표 데이터에 대응되도록 설정된 동작을 수행하는 명령 코드를 생성하여 상기 전자 기기의 주 제어부로 입력하는 가상 터치 처리부로 구성되는 가상 터치 장치를 통해, (A) 손가락 끝의 3차원 좌표 데이터(X1, Y1, Z1)와 한쪽 눈의 중심점의 3차원 좌표 데이터(X2, Y2, Z2)를 처리하여 디스플레이 표시면(C)과, 손가락 끝점(B)과, 한쪽 눈의 접점(A)을 각각 검출하는 단계와, (B) 상기 검출된 손가락 끝점의 깊이 변화, 궤적의 변화, 유지시간 및 변화의 속도 중 적어도 하나를 산출하는 단계와, (C) 산출된 손가락 끝점의 깊이 변화, 궤적의 변화, 유지 시간 및 변화의 속도 중 적어도 하나를 기반으로 전자 기기의 조작이 가능하고, 또한 터치 패널의 특정 부분을 터치하는 것과 같이 해당 영역을 선택하는 단계를 포함하는 것을 특징으로 하는 포인터를 사용하지 않는 가상 터치 장치에서의 터치 인식 방법이 소개된 바 있다.
위와 같은 종래 기술을 비롯하여 지금까지 소개된 기술에 의하면, 객체를 선택하거나 제어하기 위해서는 3차원 카메라를 이용하여 사용자 신체 부위의 3차원 좌표를 획득하는 과정이 필수적으로 요구되었다. 하지만, 3차원 카메라는 그 자체 가격이 비쌀 뿐만 아니라 3차원 데이터 처리 과정에서 많은 지연이 발생하였고, 그 지연을 해결하기 위해서는 더 높은 성능의 연산 처리 장치(CPU) 등이 요구되어 전체적으로 가격이 더 높아지게 되었다.
이에 본 발명자는, 3차원 카메라 없이도 종래의 2차원 카메라만을 이용하여서도 사용자에 의해 의도되는 대상 객체를 효율적이고 정확하게 선택 또는 제어할 수 있는 신규하고도 진보된 기술을 제안하는 바이다.
본 발명은, 전술한 종래 기술의 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은, 3차원 카메라를 이용하지 않고 2차원 카메라를 통해 획득되는 정보와 사용자의 적어도 하나의 신체 부위에 관하여 산출되는 3차원 정보를 이용하여 사용자에 의해 의도되는 제어 대상 영역을 정확하게 결정하는 것을 그 목적으로 한다.
또한, 본 발명은, 적은 리소스를 이용하여 제어 대상 영역을 효율적으로 결정하는 것을 또 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 객체 제어를 지원하는 방법으로서, 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하는 단계, 상기 2차원 이미지로부터 특정되는 상기 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하는 단계, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 상기 복수의 신체 부위 중 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하는 단계, 및 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 상기 2차원 이미지 내에서 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정하는 단계를 포함하고, 상기 제어 대상 영역은 상기 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 결정되는 방법이 제공된다.
본 발명의 다른 태양에 따르면, 객체 제어를 지원하는 시스템으로서, 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하는 이미지 획득부, 상기 2차원 이미지로부터 특정되는 상기 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하고, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 상기 복수의 신체 부위 중 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하는 좌표 추정부, 및 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 상기 2차원 이미지 내에서 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정하는 제어 대상 영역 결정부를 포함하고, 상기 제어 대상 영역은 상기 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 결정되는 시스템이 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 3차원 카메라를 이용하지 않고 2차원 카메라를 통해 획득되는 정보와 사용자의 적어도 하나의 신체 부위에 관하여 산출되는 3차원 정보를 이용하여 사용자에 의해 의도되는 제어 대상 영역을 정확하게 결정할 수 있게 된다.
본 발명에 의하면, 적은 리소스를 이용하여 제어 대상 영역을 효율적으로 결정할 수 있게 된다.
도 1은 본 발명의 일 실시예에 따른 객체 제어 지원 시스템의 내부 구성을 상세하게 도시하는 도면이다.
도 2는 본 발명의 일 실시예에 따라 사용자의 의도를 결정하는 데 이용되는 신체 부위의 3차원 실세계 좌표가 추정되는 과정을 예시적으로 나타내는 도면이다.
도 3 및 도 4는 본 발명의 일 실시예에 따라 후보 대상 영역 및 제어 대상 영역이 결정되는 과정을 예시적으로 나타내는 도면이다.
도 5는 본 발명의 일 실시예에 따른 객체 제어 지원 시스템에 의해 제어 대상 영역이 되는 결정되는 과정을 예시적으로 나타내는 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 바람직한 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
전체 시스템의 구성
본 발명의 일 실시예에 따른 전체 시스템은 통신망, 객체 제어 지원 시스템(100) 및 2차원 카메라를 포함하여 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따른 통신망은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다.
예를 들면, 통신망은 무선 데이터 통신망으로서, 무선주파수(RF; Radio Frequency) 통신, 와이파이(WiFi) 통신, 셀룰러(LTE 등) 통신, 블루투스 통신(더 구체적으로는, 저전력 블루투스(BLE; Bluetooth Low Energy)), 적외선 통신, 초음파 통신 등과 같은 종래의 통신 방법을 적어도 그 일부분에 있어서 구현하는 것일 수 있다.
다음으로, 본 발명의 일 실시예에 따른 객체 제어 지원 시스템(100)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 디바이스일 수 있다. 이러한 객체 제어 지원 시스템(100)은 서버 시스템일 수 있다.
본 발명의 일 실시예에 따르면, 객체 제어 지원 시스템(100)은, 후술할 2차원 카메라와 통신망 또는 소정의 프로세서(미도시됨)를 통하여 서로 연결될 수 있으며, 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하고, 그 2차원 이미지로부터 특정되는 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하고, 위의 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 사용자의 복수의 신체 부위 중 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하고, 위의 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 위의 2차원 이미지 내에서 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정하는 기능을 수행할 수 있다.
본 발명의 일 실시예에 따른 위의 2차원 상대 좌표는, 2차원 카메라와 연관되는 상대 좌표계에서 특정되는 좌표일 수 있다. 예를 들어, 본 발명의 일 실시예에 따르면, 2차원 카메라의 렌즈를 중심으로 특정되는 2차원 좌표계(예를 들어, 렌즈의 중심이 (0,0))가 위의 상대 좌표계로 특정될 수 있고, 위의 2차원 상대 좌표는 그 상대 좌표계에서 특정되는 좌표일 수 있다.
또한, 본 발명의 일 실시예에 따르면, 위의 신체 부위에는, 머리, 눈, 코, 입, 손, 손 끝, 손가락, 발, 발 끝, 발가락 등이 포함될 수 있으며, 위의 열거된 신체 부위에만 한정되지 않고 본 발명의 목적을 달성할 수 있는 범위 내에서 다양한 신체 부위로 변경될 수 있다.
또한, 본 발명의 일 실시예에 따르면, 위의 제어 대상 영역은, 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 결정될 수 있다. 본 발명의 일 실시예에 따르면, 위의 2차원 카메라를 기준으로 하여 설정되는 기준면은 2차원 카메라를 중심으로 설정되는 소정 크기의 면 또는 2차원 카메라와 인접(또는 소정 거리 이내)한 위치에 존재하는 소정 크기의 면을 포함하는 개념일 수 있고, 위와 같은 기준면의 형상은 평면 또는 곡면일 수 있으며, 디스플레이 화면, 프린트된 종이, 벽 등을 포함할 수 있다.
본 발명에 따른 객체 제어 지원 시스템(100)의 구성과 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다. 한편, 객체 제어 지원 시스템(100)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 객체 제어 지원 시스템(100)에 요구되는 기능이나 구성요소의 적어도 일부가 필요에 따라 외부 시스템(미도시됨) 내에서 실현되거나 외부 시스템 내에 포함될 수도 있음은 당업자에게 자명하다.
다음으로, 본 발명의 일 실시예에 따른 2차원 카메라는 통신망 또는 소정의 프로세서에 의하여 객체 제어 지원 시스템(100)과 통신이 이루어질 수 있으며, 사용자의 신체에 관한 2차원 이미지를 획득하는 기능을 수행할 수 있다. 예를 들어, 본 발명의 일 실시예에 따른 위의 2차원 카메라에는 전하 결합 소자(CCD; Charge Coupled Device), 상보적 금속 산화막 반도체(CMOS; Complementary Metal-Oxide Semiconductor) 등의 다양한 유형의 이미지 센서가 포함될 수 있다.
객체 제어 지원 시스템의 구성
이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 객체 제어 지원 시스템(100)의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.
도 1은 본 발명의 일 실시예에 따른 객체 제어 지원 시스템(100)의 내부 구성을 상세하게 도시하는 도면이다.
도 1에 도시된 바와 같이, 객체 제어 지원 시스템(100)은, 이미지 획득부(110), 좌표 추정부(120), 제어 대상 영역 결정부(130), 통신부(140) 및 제어부(150)를 포함하여 구성될 수 있다. 본 발명의 일 실시예에 따르면, 이미지 획득부(110), 좌표 추정부(120), 제어 대상 영역 결정부(130), 통신부(140) 및 제어부(150)는 그 중 적어도 일부가 외부의 시스템과 통신하는 프로그램 모듈일 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태로 객체 제어 지원 시스템(100)에 포함될 수 있고, 물리적으로는 여러 가지 공지의 기억 장치에 저장될 수 있다. 또한, 이러한 프로그램 모듈은 객체 제어 지원 시스템(100)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
먼저, 본 발명의 일 실시예에 따른 이미지 획득부(110)는 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하는 기능을 수행할 수 있다.
예를 들어, 본 발명의 일 실시예에 따른 이미지 획득부(110)는 사용자의 눈(예를 들어, 양안 또는 주안) 및 손가락(예를 들어, 검지 손가락 끝)을 포함하는 신체에 관한 2차원 이미지를 획득할 수 있다.
다음으로, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 사용자의 신체에 관한 2차원 이미지로부터 특정되는 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
예를 들어, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 위의 2차원 이미지로부터 특정되는 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위와 연관되는 2차원 카메라의 렌즈의 초점 거리를 참조하여 위의 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 2차원 카메라의 렌즈를 움직여 위의 적어도 하나의 신체 부위의 이미지가 선명해지거나 또렷해지는 지점을 해당 신체 부위의 초점 거리로 특정할 수 있고, 그 특정되는 초점 거리, 위의 적어도 하나의 신체 부위에 대한 화각 및 위의 2차원 카메라의 이미지 센서(또는 필름)의 길이 중 적어도 둘 사이의 관계를 이용하여 위의 2차원 카메라와 위의 적어도 하나의 신체 부위 사이의 거리에 관한 정보를 산출할 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 위의 2차원 이미지 내에서 특정되는 적어도 하나의 신체 부위의 2차원 상대 좌표 및 위의 산출되는 거리에 관한 정보를 참조하여 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
다른 예를 들어, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 위의 2차원 이미지로부터 특정되는 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위와 2차원 카메라 사이의 측정 거리를 참조하여 위의 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
보다 구체적으로, 먼저, 본 발명의 일 실시예에 따른 좌표 추정부(120)는, 초음파, 적외선, 라이다(LIDAR) 및 레이더(RADAR) 중 적어도 하나의 방식을 기반으로 거리를 산출하는 적어도 하나의 거리 측정 센서로부터 획득되는 정보를 참조하여 2차원 카메라와 위의 적어도 하나의 신체 부위 사이의 거리에 관한 정보를 추정할 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 위의 2차원 이미지 내에서 특정되는 적어도 하나의 신체 부위의 2차원 상대 좌표 및 위의 산출되는 거리에 관한 정보를 참조하여 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
또 다른 예를 들어, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 위의 2차원 이미지 내에 포함되는 적어도 하나의 객체의 길이, 크기 및 픽셀 중 적어도 하나에 관한 정보를 참조하여 위의 2차원 이미지로부터 특정되는 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 위의 2차원 이미지 내에 포함되는 객체 중 실제 길이, 실제 크기 및 2차원 카메라에서의 픽셀 크기 중 적어도 하나에 관한 정보가 데이터베이스(또는 룩업 테이블)에 기존재하는 객체를 특정할 수 있고, 그 특정되는 객체의 실제 길이, 실제 크기 및 2차원 카메라에서의 픽셀 크기와 2차원 이미지에서의 해당 객체의 길이, 크기 및 픽셀 크기를 서로 비교하여 분석함으로써, 위의 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출할 수 있다.
또한, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 복수의 신체 부위 중 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정할 수 있다.
예를 들어, 도 2를 참조하면, 본 발명의 일 실시예에 따라 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위(301)가 각각 사용자의 눈(예를 들어, 주안)과 사용자의 손가락 끝(예를 들어, 검지 손가락 끝)이고, 앞서 살펴본 과정을 통해 3차원 실세계 좌표가 산출되는 사용자의 신체 부위는 해당 사용자의 주먹 중심(302)의 좌표일 수 있다. 이 경우에, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 2차원 이미지 내에서 사용자의 손가락 끝(301)과 사용자의 주먹 중심(302) 사이의 2차원 직선 거리(즉, xy 평면에서의 직선 거리)(303)를 특정할 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 신체간 물리적 거리에 관한 모델을 참조하여 사용자의 손가락 끝(301)과 주먹 중심(302) 사이의 3차원 거리(304)를 특정할 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 좌표 추정부(120)는 사용자의 손가락 끝(301)과 주먹 중심(302) 사이의 3차원 거리(304) 및 사용자의 손가락 끝(301)과 사용자의 주먹 중심(302) 사이의 2차원 직선 거리(303)를 참조하여 사용자의 손가락 끝(301)의 3차원 실세계 좌표를 추정할 수 있다.
한편, 본 발명의 일 실시예에 따르면, 앞서 설명된 신체간 물리적 거리에 관한 모델은 사용자의 성별, 나이, 인종, 지역 등 사용자에 관한 정보를 참조하여 동적으로 특정되는 모델일 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 2차원 이미지 내에서 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정할 수 있다. 또한, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 위의 제어 대상 영역을 2차원 카메라를 기준으로 하여 설정되는 기준면상에 결정할 수 있다.
예를 들어, 도 3 및 도 4를 참조하면, 본 발명의 일 실시예에 따른 제2 후보 대상 영역은 2차원 카메라 및 그 2차원 카메라를 기준으로 하여 설정되는 기준면상에 설정되는 가상의 지점(미도시됨) 사이의 영역으로 특정되고, 위의 가상의 지점과 2차원 카메라 사이의 위치 관계는, 위의 2차원 카메라로부터 획득되는 2차원 이미지 내에서 사용자의 제1 신체 부위(401) 및 제2 신체 부위(402) 각각에 대응하는 2차원 상대 좌표 사이의 위치 관계에 의하여 특정될 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 2차원 카메라로부터 획득되는 2차원 이미지 내에서 특정되는 사용자의 눈(401)과 사용자의 손가락 끝(402)의 2차원 상대 좌표를 서로 잇는 직선(403)과 2차원 이미지 내에서 기설정되는 기준선(404) 사이의 각도(405)를 특정할 수 있다. 여기서, 본 발명의 일 실시예에 따르면, 2차원 이미지 내에서 기설정되는 기준선(404)은, 2차원 이미지의 가로축(또는 세로축)에 의해 특정되는 수평선(또는 수직선)이거나, 2차원 이미지 내에서 사용자의 양안을 잇는 직선과 평행한 직선일 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 위의 기준면상에서 2차원 카메라를 중심으로 위의 특정되는 각도(405)에 기초하여 결정되는 가상의 지점을 설정하고, 위의 2차원 카메라 및 위의 가상의 지점 사이의 영역을 제2 후보 대상 영역(501)으로 특정할 수 있다. 예를 들어, 본 발명의 일 실시예에 따르면, 위의 기준면상에서 위의 2차원 카메라를 중심으로 하여, 2차원 이미지 내에서 기설정되는 기준선(404)과 평행한 직선 또는 후술할 객체 표시 디바이스(200)의 가로축으로부터 위의 각도(405)만큼 회전된 위치의 영역이 가상의 지점으로 특정될 수 있다.
또한, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 적어도 하나의 지시선을 특정할 수 있고, 그 적어도 하나의 지시선에 기초하여 제1 후보 대상 영역을 특정할 수 있다.
보다 구체적으로, 도 4를 참조하면, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 사용자의 눈(401) 및 사용자의 손가락 끝(402) 각각에 대응하는 3차원 실세계 좌표에 기초하여 적어도 하나의 지시선(503)을 특정할 수 있고, 기준면상에서 위의 적어도 하나의 지시선(503)에 의하여 지시(또는 특정)되는 영역을 제1 후보 대상 영역(504)으로 특정할 수 있다.
또한, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 신체 부위의 3차원 실세계 좌표에 대응되는 지시 영역에 관한 룩업 테이블(미도시됨)을 참조하여 사용자의 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 대응되는 지시 영역을 특정(예를 들어, 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 특정)할 수 있고, 그 지시 영역을 제1 후보 대상 영역(504)으로 특정할 수 있다.
또한, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 위의 특정되는 제1 후보 대상 영역(504) 및 제2 후보 대상 영역(501)이 서로 공통되는 영역을 제어 대상 영역으로 결정할 수 있다.
예를 들어, 본 발명의 일 실시예에 따른 제어 대상 영역 결정부(130)는 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 위의 제1 후보 대상 영역(504) 및 제2 후보 대상 영역(501)이 공통되는 영역을 제어 대상 영역으로 특정할 수 있고, 그 제어 대상 영역에 포함되는 객체를 사용자에 의해 제어될 객체로 결정할 수 있다.
다음으로, 본 발명의 일 실시예에 따른 통신부(140)는 이미지 획득부(110), 좌표 추정부(120) 및 제어 대상 영역 결정부(130) 로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.
마지막으로, 본 발명의 일 실시예에 따른 제어부(150)는 이미지 획득부(110), 좌표 추정부(120), 제어 대상 영역 결정부(130) 및 통신부(140) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(150)는 객체 제어 지원 시스템(100)의 외부로부터의/로의 데이터 흐름 또는 객체 제어 지원 시스템(100)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 이미지 획득부(110), 좌표 추정부(120), 제어 대상 영역 결정부(130) 및 통신부(140)에서 각각 고유 기능을 수행하도록 제어할 수 있다.
도 5는 본 발명의 일 실시예에 따른 객체 제어 지원 시스템(100)에 의해 제어 대상 영역이 되는 결정되는 과정을 예시적으로 나타내는 도면이다.
도 5를 참조하면, 본 발명의 일 실시예에 따른 2차원 카메라는 후술할 객체 표시 디바이스(200)상에 포함될 수 있고, 필요에 따라 그 객체 표시 디바이스(200)와 인접한 위치에 배치될 수 있다. 이 경우에, 본 발명의 일 실시예에 따른 객체 표시 디바이스(200)의 표시 화면은, 2차원 카메라를 기준으로 하여 설정되는 기준면상에 존재하거나 서로 매칭되는 위치 관계를 가질 수 있다.
또한, 도 5에서는 객체 표시 디바이스(200)의 표시 화면상에는 'a' 내지 't'의 객체가 디스플레이 또는 프린트되는 상황을 가정해 볼 수 있다. 또한, 본 발명에 따른 객체 표시 디바이스(200)에서 표시되는 객체는 디스플레이될 수 있을 뿐만 아니라 본 발명의 목적을 달성할 수 있는 범위 내에서 프린팅, 음각, 양각 등과 같은 다양한 방식으로도 표시될 수 있다.
본 발명의 일 실시예에 따른 객체 표시 디바이스(200)는 객체 제어 지원 시스템(100)과 통신망 또는 소정의 프로세스를 통하여 연결될 수 있으며, 사용자에 의해 제어될 객체를 표시하는 기능을 수행할 수 있다. 예를 들어, 본 발명의 일 실시예에 따르면 객체 표시 디바이스(200)는 액정 표시 장치(LCD, Liquid Crystal Display), 초박막 액정 표시 장치(TFT-LCD, Thin Film Transistor LCD), 발광 다이오드(LED, Light Emitting Diode), 유기 발광 다이오드(OLED, Organic LED), 능동형 유기 발광 다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible Display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다.
먼저, 도 5의 (a)을 참조하면, 본 발명의 일 실시예에 따른 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지가 획득될 수 있다.
다음으로, 본 발명의 일 실시예에 따르면, 위의 획득되는 2차원 이미지로부터 특정되는 사용자의 복수의 신체 부위 중 주먹 중심(606)에 대응하는 3차원 실세계 좌표가 산출될 수 있다.
다음으로, 본 발명의 일 실시예에 따르면, 위의 주먹 중심(606)에 대응하는 3차원 실세계 좌표를 참조하여 사용자의 의도를 결정하는 데 이용되는 사용자의 눈(예를 들어, 주안)(601) 및 사용자의 손가락 끝(예를 들어, 검지 손가락 끝)(602) 각각에 대응하는 3차원 실세계 좌표가 추정될 수 있다.
한편, 본 발명의 다른 실시예에 따르면, 추정의 정확도를 높이기 위하여, 사용자의 복수의 신체 부위 중 주먹 중심(606) 및 머리 부위에 각각 대응하는 3차원 실세계 좌표를 각각 산출될 수 있고, 주먹 중심(606) 및 머리 부위에 각각 대응하는 3차원 실세계 좌표 모두를 참조하여 사용자의 눈(예를 들어, 주안)(601) 및 사용자의 손가락 끝(예를 들어, 검지 손가락 끝)(602) 각각에 대응하는 3차원 실세계 좌표가 추정될 수도 있다.
다음으로, 도 5의 (b)를 참조하면, 본 발명의 일 실시예에 따른 사용자의 눈(예를 들어, 주안)(601) 및 사용자의 손가락 끝(예를 들어, 검지 손가락 끝)(602) 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역(609) 및, 2차원 이미지 내에서 사용자의 눈(예를 들어, 주안)(601) 및 사용자의 손가락 끝(예를 들어, 검지 손가락 끝)(602) 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역(608)을 참조하여 제어 대상 영역이 결정될 수 있다. 보다 구체적으로, 본 발명의 일 실시예에 따르면, 위의 2차원 카메라를 기준으로 하여 설정되는 기준면상(예를 들어, 객체 표시 디바이스(200)의 표시 화면상)에서, 위의 특정되는 제1 후보 대상 영역(609) 및 제2 후보 대상 영역(608)이 서로 공통되는 영역을 제어 대상 영역으로 결정할 수 있다.
즉, 본 발명의 일 실시예에 따르면, 위의 제2 후보 대상 영역(608)에는 객체 'i' 및 객체 't'가 포함되고, 제1 후보 대상 영역(609)에는 객체 't'만이 포함되므로, 공통된 영역에 속하는 객체 't'가 사용자에 의도되는 제어 대상 객체로 결정될 수 있게 된다.
이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항과 한정된 실시예 및 도면에 의하여 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위하여 제공된 것일 뿐, 본 발명이 상기 실시예에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정과 변경을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 객체 제어 지원 시스템
110: 이미지 획득부
120: 좌표 추정부
130: 제어 대상 영역 결정부
140: 통신부
150: 제어부
200: 객체 표시 디바이스

Claims (11)

  1. 객체 제어를 지원하기 위한 객체 제어 지원 시스템에서 구현되는 방법으로서 - 상기 객체 제어 지원 시스템은 이미지 획득부, 좌표 추정부 및 제어 대상 영역 결정부를 포함함 - ,
    상기 이미지 획득부가, 2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하는 단계,
    상기 좌표 추정부가, 상기 2차원 이미지로부터 특정되는 상기 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하는 단계,
    상기 좌표 추정부가, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 상기 복수의 신체 부위 중 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하는 단계, 및
    상기 제어 대상 영역 결정부가, 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 상기 2차원 이미지 내에서 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정하는 단계를 포함하고,
    상기 제어 대상 영역은 상기 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 결정되고,
    상기 추정 단계에서, 상기 좌표 추정부가, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표가 산출되면, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 이용하여 상기 2차원 이미지 내 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하고,
    상기 적어도 하나의 신체 부위는 상기 제1 신체 부위 및 상기 제2 신체 부위와 서로 다른 신체 부위이고,
    상기 결정 단계에서, 상기 제어 대상 영역 결정부가, 상기 제1 후보 대상 영역 및 상기 제2 후보 대상 영역이 서로 공통되는 영역을 상기 제어 대상 영역으로 결정하는
    방법.
  2. 제1항에 있어서,
    상기 2차원 상대 좌표는, 상기 2차원 카메라와 연관되는 상대 좌표계에서 특정되는
    방법.
  3. 제1항에 있어서,
    상기 산출 단계에서, 상기 좌표 추정부가, 상기 2차원 카메라의 초점 거리를 참조하여 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하는
    방법.
  4. 제1항에 있어서,
    상기 산출 단계에서, 상기 좌표 추정부가, 상기 2차원 카메라와 상기 사용자 사이의 측정 거리 정보를 참조하여 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하는
    방법.
  5. 제1항에 있어서,
    상기 산출 단계는, 상기 좌표 추정부가, 상기 2차원 이미지 내에 포함되는 적어도 하나의 객체의 길이, 크기 및 픽셀 중 적어도 하나에 관한 정보를 참조하여 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하는
    방법.
  6. 제1항에 있어서,
    상기 결정 단계는,
    상기 제어 대상 영역 결정부가, 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 적어도 하나의 지시선을 특정하는 단계, 및
    상기 제어 대상 영역 결정부가, 상기 적어도 하나의 지시선에 기초하여 상기 제1 후보 대상 영역을 특정하는 단계를 포함하는
    방법.
  7. 제1항에 있어서,
    상기 결정 단계에서, 상기 제2 후보 대상 영역은, 상기 2차원 카메라 및 상기 기준면상에 설정되는 가상의 지점 사이의 영역으로 특정되고,
    상기 가상의 지점과 상기 2차원 카메라 사이의 위치 관계는, 상기 2차원 이미지 내에서 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 2차원 상대 좌표 사이의 위치 관계에 의하여 특정되는
    방법.
  8. 삭제
  9. 제1항에 있어서,
    상기 결정 단계에서, 상기 제어 대상 영역 결정부가, 상기 제어 대상 영역에 포함되는 객체를 상기 사용자에 의해 제어될 객체로 결정하는
    방법.
  10. 제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능 기록 매체.
  11. 객체 제어를 지원하는 시스템으로서,
    2차원 카메라로부터 사용자의 신체에 관한 2차원 이미지를 획득하는 이미지 획득부,
    상기 2차원 이미지로부터 특정되는 상기 사용자의 복수의 신체 부위 중 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 산출하고, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 참조하여 상기 복수의 신체 부위 중 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하는 좌표 추정부, 및
    상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표에 기초하여 특정되는 제1 후보 대상 영역 및, 상기 2차원 이미지 내에서 상기 제1 신체 부위 및 상기 제2 신체 부위 각각에 대응하는 2차원 상대 좌표에 기초하여 특정되는 제2 후보 대상 영역을 참조하여 제어 대상 영역을 결정하는 제어 대상 영역 결정부를 포함하고,
    상기 제어 대상 영역은 상기 2차원 카메라를 기준으로 하여 설정되는 기준면상에서 결정되고,
    상기 좌표 추정부가, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표가 산출되면, 상기 적어도 하나의 신체 부위에 대응하는 3차원 실세계 좌표를 이용하여 상기 2차원 이미지 내 상기 사용자의 의도를 결정하는 데 이용되는 제1 신체 부위 및 제2 신체 부위 각각에 대응하는 3차원 실세계 좌표를 추정하고,
    상기 적어도 하나의 신체 부위는 상기 제1 신체 부위 및 상기 제2 신체 부위와 서로 다른 신체 부위이고,
    상기 제어 대상 영역 결정부가, 상기 제1 후보 대상 영역 및 상기 제2 후보 대상 영역이 서로 공통되는 영역을 상기 제어 대상 영역으로 결정하는
    시스템.
KR1020190016941A 2019-02-13 2019-02-13 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 KR102225342B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190016941A KR102225342B1 (ko) 2019-02-13 2019-02-13 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
PCT/KR2020/000967 WO2020166837A1 (ko) 2019-02-13 2020-01-20 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
US17/400,894 US20210374991A1 (en) 2019-02-13 2021-08-12 Method, system and non-transitory computer-readable recording medium for supporting object control

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190016941A KR102225342B1 (ko) 2019-02-13 2019-02-13 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체

Publications (2)

Publication Number Publication Date
KR20200099048A KR20200099048A (ko) 2020-08-21
KR102225342B1 true KR102225342B1 (ko) 2021-03-09

Family

ID=72045174

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190016941A KR102225342B1 (ko) 2019-02-13 2019-02-13 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체

Country Status (3)

Country Link
US (1) US20210374991A1 (ko)
KR (1) KR102225342B1 (ko)
WO (1) WO2020166837A1 (ko)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011027707A (ja) 2009-06-25 2011-02-10 Sharp Corp 人物動作検出装置、遊具装置、人物動作検出方法、ゲーム方法、制御プログラムおよび可読記録媒体
WO2016186211A1 (ja) 2015-05-21 2016-11-24 国立大学法人 鹿児島大学 ３次元計測システム、３次元計測方法及び３次元計測プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3846984A (en) * 1974-04-29 1974-11-12 I Siegel Temperature differential fluid motor
JP3579909B2 (ja) * 1993-11-01 2004-10-20 松下電器産業株式会社 フォーム練習装置
US20120117514A1 (en) * 2010-11-04 2012-05-10 Microsoft Corporation Three-Dimensional User Interaction
CN103347437B (zh) * 2011-02-09 2016-06-08 苹果公司 3d映射环境中的凝视检测
KR101381928B1 (ko) * 2011-02-18 2014-04-07 주식회사 브이터치 포인터를 사용하지 않는 가상 터치 장치 및 방법
KR101188357B1 (ko) * 2011-04-21 2012-10-08 정제교 기설정 배율각을 가진 다중투사광의 2차원 영상획득을 통한 3차원 인식 방법
KR101235432B1 (ko) * 2011-07-11 2013-02-22 김석중 3차원 모델링된 전자기기의 가상터치를 이용한 원격 조작 장치 및 방법
US8836768B1 (en) * 2012-09-04 2014-09-16 Aquifi, Inc. Method and system enabling natural user interface gestures with user wearable glasses
US10262462B2 (en) * 2014-04-18 2019-04-16 Magic Leap, Inc. Systems and methods for augmented and virtual reality
CN105593787B (zh) * 2013-06-27 2019-07-05 视力移动科技公司 用于与数字设备交互的直接指向检测的系统和方法
KR101533319B1 (ko) * 2014-02-22 2015-07-03 주식회사 브이터치 카메라 중심의 가상터치를 이용한 원격 조작 장치 및 방법
US10304248B2 (en) * 2014-06-26 2019-05-28 Korea Advanced Institute Of Science And Technology Apparatus and method for providing augmented reality interaction service
CN106919294B (zh) * 2017-03-10 2020-07-21 京东方科技集团股份有限公司 一种3d触控交互装置、其触控交互方法及显示装置
US11138759B2 (en) * 2018-12-13 2021-10-05 Fujitsu Limited Image processing apparatus and image processing method
KR102191061B1 (ko) * 2019-03-11 2020-12-15 주식회사 브이터치 2차원 카메라를 이용하여 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
US11100790B2 (en) * 2019-09-25 2021-08-24 Universal City Studios Llc Systems and methods for determining projected target location of a handheld object
US11340756B2 (en) * 2019-09-27 2022-05-24 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011027707A (ja) 2009-06-25 2011-02-10 Sharp Corp 人物動作検出装置、遊具装置、人物動作検出方法、ゲーム方法、制御プログラムおよび可読記録媒体
WO2016186211A1 (ja) 2015-05-21 2016-11-24 国立大学法人 鹿児島大学 ３次元計測システム、３次元計測方法及び３次元計測プログラム

Also Published As

Publication number Publication date
US20210374991A1 (en) 2021-12-02
WO2020166837A1 (ko) 2020-08-20
KR20200099048A (ko) 2020-08-21

Similar Documents

Publication Publication Date Title
US20220206588A1 (en) Micro hand gestures for controlling virtual and graphical elements
EP3241093B1 (en) Electronic system with gesture calibration mechanism and method of operation thereof
US8923562B2 (en) Three-dimensional interactive device and operation method thereof
KR101844390B1 (ko) 사용자 인터페이스 제어를 위한 시스템 및 기법
US11625841B2 (en) Localization and tracking method and platform, head-mounted display system, and computer-readable storage medium
US10234941B2 (en) Wearable sensor for tracking articulated body-parts
KR101524575B1 (ko) 웨어러블 디바이스
US10572012B2 (en) Electronic device for performing gestures and methods for determining orientation thereof
US20140168261A1 (en) Direct interaction system mixed reality environments
TW201508561A (zh) 用於移動追蹤的光斑感測
KR20210069491A (ko) 전자 장치 및 이의 제어 방법
US10607069B2 (en) Determining a pointing vector for gestures performed before a depth camera
WO2017021902A1 (en) System and method for gesture based measurement of virtual reality space
KR102339839B1 (ko) 제스처 입력 처리 방법 및 장치
US11886643B2 (en) Information processing apparatus and information processing method
EP3910451B1 (en) Display systems and methods for aligning different tracking means
KR102191061B1 (ko) 2차원 카메라를 이용하여 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
CN110152293A (zh) 操控对象的定位方法及装置、游戏对象的定位方法及装置
KR102225342B1 (ko) 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
EP3971683A1 (en) Human body portion tracking method and human body portion tracking system
TWM598411U (zh) 擴增實境裝置
US20220415094A1 (en) Method and system for estimating gesture of user from two-dimensional image, and non-transitory computer-readable recording medium
US20220192487A1 (en) Method and system for determining dominant eye, and non-transitory computer-readable recording medium
US11783492B2 (en) Human body portion tracking method and human body portion tracking system
KR101547512B1 (ko) 디스플레이 패턴을 이용하는 미세 포인팅 방법 및 시스템

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant