KR20170088655A - 증강 현실 출력 방법 및 이를 지원하는 전자 장치 - Google Patents

증강 현실 출력 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
KR20170088655A
KR20170088655A KR1020160008812A KR20160008812A KR20170088655A KR 20170088655 A KR20170088655 A KR 20170088655A KR 1020160008812 A KR1020160008812 A KR 1020160008812A KR 20160008812 A KR20160008812 A KR 20160008812A KR 20170088655 A KR20170088655 A KR 20170088655A
Authority
KR
South Korea
Prior art keywords
virtual
user
information
input
user input
Prior art date
Application number
KR1020160008812A
Other languages
English (en)
Inventor
김경태
박수영
백상철
여재영
최영근
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020160008812A priority Critical patent/KR20170088655A/ko
Publication of KR20170088655A publication Critical patent/KR20170088655A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS, OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 – G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/02 - G06F3/16, e.g. facsimile, microfilm
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • H04N13/0271
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infra-red radiation

Abstract

본 문서의 다양한 실시 예에 따른 증강 현실 출력 방법은 전자 장치에서 수행되고, 센서 모듈 또는 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하는 동작, 상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하는 동작, 카메라 모듈 또는 센서 모듈을 이용하여 사용자 입력을 인식하는 동작, 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하는 동작, 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하는 동작상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하는 동작, 및 디스플레이 장치에 상기 제1 가상 객체를 출력하는 동작을 포함할 수 있다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

증강 현실 출력 방법 및 이를 지원하는 전자 장치{Method for Outputting Augmented Reality and Electronic Device supporting the same}
본 문서의 다양한 실시 예는 3차원 공간 상에 실제 객체와 가상의 객체를 결합하여 출력하는 증강 현실 출력 방법 및 이를 지원하는 전자 장치에 관한 것이다.
스마트폰의 디스플레이의 해상도 증가와 연산속도의 증가, 그래픽 처리 장치의 성능 향상으로 인해, 과거 대형기기에서만 동작하던 가상현실이 스마트 글래스, 헤드 마운트 장치(head mount device, 이하 HMD) 등을 통해 소형화, 경량화 되고 있다. 예를 들면, 기존 3D TV에서 보는 3D영상들을 HMD를 통해 시청할 수 있고, 과거 활용성이 낮았던 360도 파노라마 영상들을 HMD를 통해 접할 수 있게 되었다. 또한, 기존 모니터나 스마트폰 화면에서 느끼지 못했던 임장감을 HMD의 가속도 센서를 통해 머리의 움직임을 센싱하여 사용자에게 제공할 수 있게 되었다.
종래 기술에 의한 전자 장치는 증강 현실을 출력하는 경우, 사용자의 입력에 따라 간단한 선 또는 도형을 생성하거나, 가상 객체를 단순히 변형하는 방식으로 동작한다. 이 경우, 사용자의 입력이 입력 과정에서 흔들릴 수 있고, 사용자의 본래 의도대로 원하는 입력을 발생시킬 수 없다.
본 문서의 다양한 실시 예들은 사용자의 입력을 주변의 객체의 경계 또는 객체의 표면 등에 매칭하여 사용자가 개략적으로 선을 도시하는 경우에도 사용자의 의도에 부합하도록 선을 그릴 수 있는 증강 현실 출력 방법 및 이를 지원하는 전자 장치를 제공할 수 있다.
본 문서의 다양한 실시 예에 따른 증강 현실 출력 방법은 전자 장치에서 수행되고, 센서 모듈 또는 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하는 동작, 상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하는 동작, 카메라 모듈 또는 센서 모듈을 이용하여 사용자 입력을 인식하는 동작, 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하는 동작, 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하는 동작, 상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하는 동작, 및 디스플레이 장치에 상기 제1 가상 객체를 출력하는 동작을 포함할 수 있다.
본 문서의 다양한 실시 예에 따른 증강 현실 출력 방법 및 전자 장치는 사용자의 시선 정보 및 실제 객체 정보를 기반으로 실제 객체(또는 객체 주변의 공간)에 가상 객체를 생성할 수 있다.
본 문서의 다양한 실시 예에 따른 증강 현실 출력 방법 및 전자 장치는 사용자의 시선 정보, 주변의 객체 정보를 기반으로 사용자의 입력을 보정하고, 보정된 사용자의 입력을 기반으로 가상 객체를 출력하여 사용자의 의도에 부합하는 가상 객체를 생성할 수 있다.
도 1은 다양한 실시 예에 따른 네트워크 환경 내의 전자 장치를 나타낸다.
도 2는 다양한 실시 예에 따른 웨어러블 장치를 도시한다.
도 3a는 다양한 실시 예에 따른 프로세서의 구성을 도시한다.
도 3b는 다양한 실시 예에 따른 증강 현실 생성 방법을 나타내는 순서도이다.
도 3c는 다양한 실시 예에 따른 증강 현실 출력 방법을 나타내는 순서도이다.
도 4는 다양한 실시 예에 따른 증강 현실을 이용하는 화면 예시도이다.
도 5 내지 도 8은 다양한 실시 예에 따른 실제 객체 정보를 기반으로 가상 객체를 생성하는 예시도이다.
도 9는 다양한 실시 예에 따른 객체 정보를 기반으로 가상 객체 속성 결정하는 예시 도면이다.
도 10은 다양한 실시 예에 따른 가상 객체의 배치를 설명하는 도면이다.
도 11은 다양한 실시 예에 따른 실제 객체의 인접 평면에 가상 객체를 배치하는 예시도 이다.
도 12는 다양한 실시 예에 따른 사용자의 사용자 입력을 보정하는 예시도이다.
도 13은 다양한 실시 예에 따른 실제 객체의 경계를 반영한 가상 객체를 표시하는 예시도이다.
도 14는 다양한 실시 예에 따른 가상 객체의 동적 변화를 설명하는 예시도 이다.
도 15는 다양한 실시 예에 따른 입력을 위한 별도의 장치를 통한 입력을 변경하는 예시도이다.
도 16은 다양한 실시 예에 따른 외부 입력을 통한 가상 객체를 생성하는 과정을 나타내는 도면이다.
도 17은 다양한 실시 예에 따른 깊이 카메라를 이용한 사용자 입력의 형성을 설명하는 예시도이다.
도 18은 다양한 실시 예에 따른 모션 센서를 통한 사용자 입력의 생성을 설명하는 예시도이다.
도 19는 다양한 실시 예에 따른 전자 장치의 블록도를 나타낸다.
도 20은 다양한 실시 예에 따른 프로그램 모듈의 블록도를 나타낸다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC (desktop PC), 랩탑 PC(laptop PC), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라, 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면 웨어러블 장치는 엑세서리 형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체 형(예: 전자 의복), 신체 부착 형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식 형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD 플레이어(Digital Video Disk player), 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(Global Navigation Satellite System)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치 (예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 다양한 실시 예에 따른 네트워크 환경(100) 내의 전자 장치(101)를 나타낸다. 다양한 실시 예에서, 전자 장치(101)는 머리에 착용 가능한 웨어러블 장치일 수 있다. 예를 들어, 전자 장치(101)는 스마트 글래스, 헤드 마운트 장치(head mount device, 이하 HMD) 등일 수 있다.
도 1을 참조하면, 다양한 실시 예에서의 전자 장치(101)는 외부 장치(예: 제1 외부 전자 장치(102), 제2 외부 전자 장치(104), 또는 서버(106))와 네트워크(162) 또는 근거리 통신(164)을 통하여 서로 연결될 수 있다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(Central Processing Unit (CPU)), 어플리케이션 프로세서(Application Processor (AP)), 또는 커뮤니케이션 프로세서(Communication Processor (CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
다양한 실시 예에서, 프로세서(120)는 3D공간 생성하고, 3D 공간 상에 실제 객체 및 가상 객체를 결합한 증강 현실을 출력할 수 있다. 상기 증강 현실은 사용자가 눈으로 보는 현실 세계(또는 실제 객체)에 가상 객체를 겹쳐 보여주는 기술일 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 실제현실에 가상현실 데이터를 생성하기 위하여 실제현실의 객체를 선택/표시하는 방법으로 1) 카메라 모듈(180)을 통해 촬영되어 메모리(130)에 저장된 실제 현실로부터 마커/마커리스 방식으로 객체를 인식하고 상기 인식된 객체 상에 가상 현실 데이터를 표시하는 방법, 또는 2) 카메라 모듈(180)을 통해 실시간 촬영되는 실제 현실로부터 마커/마커리스 방식으로 객체를 인식하고 상기 인식된 객체 상에 가상현실 데이터를 선택/표시하는 방법을 이용할 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 N(N>1)개의 실제 객체를 인식하는 방법으로, 사용자의 시선 정보(또는 사용자의 head pose, 카메라 위치 정보)를 인식하고, 상기 사용자의 제스처를 포함한 입력 의사 정보를 인식하고, 상기 N개의 실제 객체에 관한 데이터 중 제n(1≤n<N)개의 실제 객체에 관한 데이터를 판독하여 객체 영역과 속성을 인식할 수 있다. 프로세서(120)는 상기 인식된 객체 영역에 대한 M(M>1)개의 가상 점을 부여하고, 상기 M개의 가상 점 정보와 가상 점 조합 순서 정보를 포함하는 가상 점 조합 정보를 구성한 후, 제(n+1) 내지 제N 실제현실 데이터를 판독하여 상기 가상 점 조합 정보에 대응하는 가상 점을 i(1≤i≤M)개 이상 포함하고, 상기 i개의 가상 점의 조합과 상기 사용자의 시선 정보와 상기 제스처를 포함한 입력 의사 정보와 상기 가상 점 조합 정보에 포함된 가상 점 조합 순서와 j(1≤j<M)회 이상 매칭되는 객체 영역을 상기 제n 실제현실 데이터로부터 인식된 객체 영역과 동일한 객체 영역으로 결정할 수 있다.
프로세서(120)를 이용한 3D 공간 생성 및 사용자의 입력을 변환하는 과정에 관한 추가 정보는 도 2 내지 도 20을 통해 제공될 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다.
다양한 실시 예에 따르면, 메모리(130)는 증강 현실 출력하는데 필요한 데이터를 저장할 수 있다. 상기 데이터는 실제 객체에 관한 데이터 또는 가상 객체에 관한 데이터를 포함할 수 있다. 예를 들어, 상기 실제 객체에 관한 데이터는 카메라 모듈(180)을 통해 수집한 영상에 포함된 실제 객체들 각각의 위치 정보, 카메라 모듈(180)과의 거리 정보, 상대적 거리 정보 등을 포함할 수 있다. 상기 가상 객체에 관한 데이터는 사용자의 입력에 의해 생성된 실제 객체들과 함께 출력되는 가상의 객체들의 크기, 위치, 실제 객체들과의 연관 관계에 관한 정보 등을 포함할 수 있다.
한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(Application Programming Interface (API))(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(Operating System (OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(Liquid Crystal Display (LCD)), 발광 다이오드(Light-Emitting Diode (LED)) 디스플레이, 유기 발광 다이오드(Organic LED (OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems, MEMS) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링(hovering) 입력을 수신할 수 있다.
다양한 실시 예에서, 디스플레이(160)는 프로세서(120)의 제어에 따라 증강 현실을 출력할 수 있다. 예를 들어, 디스플레이(160)가 투명 디스플레이(또는 see-through 타입의 디스플레이)인 경우, 실제 객체를 투영하고, 상기 실제 객체들과 연관된 가상 객체를 출력할 수 있다. 다른 예를 들어, 디스플레이(160)가 주변을 카메라 모듈(180)을 통해 촬영된 영상을 출력하는 방식(불투명 방식)인 경우, 전자 장치(101)의 주변을 촬영한 영상에 가상 객체를 추가한 증강 현실 화면을 출력할 수 있다. 디스플레이(160)는 실제 현실 데이터 상의 객체에 가상 현실 데이터를 표시하는 출력장치를 포함하며, LCD와 같은 일반 출력장치와 HMD, 안경, 고글, 유리창과 같은 투명 출력장치 중 어느 하나를 포함할 수 있다.
다양한 실시 예에서, 디스플레이(160)는 3D 가상 현실 공간과 상기 3D 가상 현실 공간에서의 조작 객체, 3D 가상객체의 움직임, 사용자의 입력 내용을 사용자에게 표시할 수 있다. 디스플레이(160)는 사용자가 조작 객체를 사용하여 가상 객체를 조작함에 따라 가상 객체의 운동을 사용자에게 시각적으로 표시할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제1 외부 전자 장치(102), 제2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 상기 외부 장치(예: 제2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면 셀룰러 통신 프로토콜로서, 예를 들면 LTE(Long-Term Evolution), LTE-A(LTE-Advanced), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA), UMTS(Universal Mobile Telecommunications System), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 중 적어도 하나를 사용할 수 있다. 또한 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, Wi-Fi(Wireless Fidelity), Bluetooth, NFC(Near Field Communication), MST(magnetic stripe transmission), 또는 GNSS 중 적어도 하나를 포함할 수 있다.
MST는 전자기 신호를 이용하여 전송 데이터에 따라 펄스를 생성하고, 상기 펄스는 자기장 신호를 발생시킬 수 있다. 전자 장치(101)는 상기 자기장 신호를 POS(point of sales)에 전송하고, POS는 MST 리더(MST reader)를 이용하여 상기 자기장 신호는 검출하고, 검출된 자기장 신호를 전기 신호로 변환함으로써 상기 데이터를 복원할 수 있다.
GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo(the European global satellite-based navigation system) 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따르면, 통신 인터페이스(170)는 어느 하나의 통신 규격과 프로토콜에 따라 유선 통신망과 무선 통신망 중 어느 하나의 통신망에 접속하는 통신모듈을 포함하며, 상기 통신망을 서버(또는 장치)와 통신채널을 연결하거나 또는 다른 증강 현실 장치와 통신채널을 연결하는 기능을 수행한다. 상기 통신 인터페이스(170)는 통신망 상의 서버(또는 장치)에 저장된 실제 현실 데이터를 수신하여, 실제 현실 데이터 및 가상 현실 데이터를 획득하는 수단의 기능을 수행할 수 있다. 상기 통신 인터페이스(170)는 프로세서(120)에서 처리된 사용자 입력 요구 사항을 다른 장치로 전달 및 공유 할 수 있다.
제1 및 제2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
다양한 실시 예에서, 제1 및 제2 외부 전자 장치(102, 104)는 증강 현실에 입력을 제공하는 장치로 활용될 수 있다. 예를 들어, 사용자가 제1 및 제2 외부 전자 장치(102, 104)에 2차원 디스플레이를 통해 입력을 발생시킨 경우, 상기 입력에 관한 정보는 전자 장치(101)에 송신될 수 있다. 전자 장치(101)는 상기 입력을 3차원 공간 상의 입력으로 변환하여, 대응하는 가상 객체를 생성할 수 있다. 제1 및 제2 외부 전자 장치(102, 104)를 이용한 입력에 관한 추가 정보는 도 15 내지 도 18을 통해 제공될 수 있다.
카메라 모듈(180)은 증강 현실 출력을 영상 데이터를 실시간으로 수집할 수 있다. 카메라 모듈(180)은 적어도 하나 이상의 RGB 카메라, IR 카메라, Depth 카메라 또는 열상 카메라를 포함할 수 있다. 다양한 실시 예에서, 상기 영상 데이터는 복수의 카메라들에서 수집된 데이터를 조합하여 생성될 수 있다.
예를 들어, 카메라 모듈(180)은 적외선 출력 장치 및 적외선 센싱 카메라(IR camera)를 포함할 수 있다. 적외선 출력 장치는 주변의 객체에 자외선을 주사할 수 있고, 적외선 센싱 카메라(IR camera)는 반사되는 적외선을 센싱할 수 있다.
센서 모듈(190)은 어느 하나의 센서로부터 아날로그 신호 또는 디지털 신호 형태의 센서신호를 획득하는 장치를 포함할 수 있다. 센서 모듈(190)은 환경 변화에 따라 전기적 신호(예컨대, 저항, 전류, 전압)를 발생시키는 전기적 신호 센서와, 상기 카메라와 같이 실제 현실 데이터를 획득한 후 상기 실제현실 데이터 중 센서 입력에 필요한 특정 데이터만 선택적으로 획득하는 카메라 센서를 포함할 수 있다. 다양한 실시 예에서, 센서 모듈(190)이 카메라 센서를 포함하는 경우 상기 센서 모듈(190)은 카메라 모듈(180)과 통합될 수 있다.
도 2는 다양한 실시 예에 따른 웨어러블 장치를 도시한다. 다양한 실시 예에서, 도 2의 전자 장치(201 또는 202)는 도 1에서의 전자 장치(101)일 수 있다.
도 2에서는 전자 장치(201 또는 202)가 스마트 글래스 또는 HMD인 경우 예시적으로 도시하였으나, 이에 한정되는 것은 아니다. 예를 들어, 전자 장치(201 또는 202)는 스마트폰, 태블릿과 같은 장치일 수도 있다. 사용자는 스마트폰, 태블릿과 같은 장치를 손에 파지하고 뎁스 카메라를 통해 주변을 촬영할 수 있다. 사용자는 화면을 확인하면서, 사용자 입력을 통해 가상 객체를 영상에 추가할 수 있다.
도 2를 참조하면, 전자 장치(201)는 증강 현실을 제공하는 스마트 글래스 형태의 장치일 수 있다. 전자 장치(201)는 전면에 디스플레이(210)를 포함할 수 있다. 한 실시 예에서, 디스플레이(210)은 투명 디스플레이(또는 see-through 타입)로 구현될 수 있다. 디스플레이(210)는 전자 장치(201) 주변의 실제 객체를 투영하고, 실제 객체와 연관된 가상 객체를 출력할 수 있다. 사용자는 안경과 같은 형태로 전자 장치(201)를 착용하고, 디스플레이(210)를 통해 증강 현실을 확인할 수 있다. 다양한 실시 예에서, 디스플레이(210)는 카메라 모듈(211)을 통해 촬영하여 영상을 사용자의 눈에 출력하는 방식(불투명 방식)으로 동작할 수 있다. 디스플레이(210)는 전자 장치(101)의 주변을 촬영한 영상에 가상 객체를 추가한 증강 현실 화면을 출력할 수 있다.
전자 장치(201)는 카메라 모듈(211)을 포함할 수 있다. 카메라 모듈(211)은 도 1에서의 카메라 모듈(180)일 수 있다. 카메라 모듈(211)은 주변의 실제 객체를 촬영한 영상을 수집할 수 있다. 다양한 실시 예에서, 카메라 모듈(211)은 전자 장치(201)의 전면에 사용자의 눈이 외부를 바라보는 방향으로 배치될 수 있다. 사용자의 시선 정보(예: 사용자의 시선이 향하는 방향)는 카메라 모듈(211)의 방향과 일치할 수 있다. 사용자의 시선 정보는 카메라 모듈(211)의 위치 정보를 이용하여 결정될 수 있다.
한 실시 예에서, 카메라 모듈(211)은 입체 카메라(stereo camera)일 수 있다. 상기 입체 카메라는 2개의 촬영용 렌즈를 장착하여, 하나의 객체를 촬영하여 동시에 2장의 이미지를 얻을 수 있다. 다른 한 실시 예에서, 카메라 모듈(211)은 적외선 출력 장치 및 적외선 센싱 카메라(IR camera)를 포함할 수 있다. 적외선 출력 장치는 주변의 객체에 자외선을 주사할 수 있고, 적외선 센싱 카메라(IR camera)는 반사되는 적외선을 센싱할 수 있다.
다양한 실시 예에서, 카메라 모듈(211)을 통해 수집된 영상은 depth map 생성에 활용될 수 있고, 사용자의 제스쳐 인식에 활용될 수 있다. 또한, 카메라 모듈(211)은 전자 장치(201) 주변 객체의 3D modeling/mapping에 이용될 수 있다.
전자 장치(202)는 사용자가 머리에 착용하고, 사용자의 눈 앞에 배치된 디스플레이를 확인하는 HMD일 수 있다. 다양한 실시 예에서, 전자 장치(202)는 디스플레이 장치(예: 스마트폰)과 상기 디스플레이 장치를 고정하는 고정부가 결합된 형태일 수 있다. 사용자는 고정부에 스마트폰을 장착하고, 고정부를 머리에 쓰는 방식으로 전자 장치(202)를 이용할 수 있다.
다양한 실시 예에 따르면, 전자 장치(202)는 카메라 모듈(221)을 포함할 수 있다. 카메라 모듈(221)은 도 1에서의 카메라 모듈(180)일 수 있다. 카메라 모듈(221)은 주변의 실제 객체를 촬영한 영상을 수집할 수 있다. 카메라 모듈(211)은 전자 장치(201)의 전면에 사용자의 눈이 외부를 바라보는 방향으로 배치될 수 있다. 예를 들어, 카메라 모듈(211)은 스마트폰의 후면 카메라일 수 있다.
다양한 실시 예에 따르면, 카메라 모듈(211 또는 221)은 적어도 하나 이상의 RGB 카메라, IR 카메라, Depth 카메라 또는 열상 카메라를 포함할 수 있다. 전자 장치(201 또는 202) 내부의 프로세서는 카메라 모듈(211 또는 221)을 사용하여, 전자 장치(201 또는 202) 주변의 객체에 대한 Depth MAP 정보와 RGB 이미지를 획득할 수 있다. 상기 프로세서는 획득한 정보에서, 사용자의 입력, 외부 기기로부터의 요청에 의해, 또는 자동적으로, 하나 이상의 객체를 추출하여 객체 정보를 생성할 수 있다. 예를 들어, 상기 객체 정보는 객체의 적어도 외관의 일부분의 Depth map정보, 객체의 외관적인 특성(색깔, 크기 등), 객체의 절대적 또는 상대적인 위치, 객체의 경계(예: 윤곽선, 표면) 중 적어도 일부를 포함할 수 있다.
도 3a는 다양한 실시 예에 따른 프로세서의 구성을 도시한다. 도 3a는 기능에 따라 분류한 것으로 이에 한정되는 것은 아니며, 각각의 구성은 통합되거나 분리될 수 있다. 다양한 실시 예에서, 각각의 구성은 메모리에 저장된 함수 또는 프로그램 모듈일 수 있다. 프로세서(301)는 도 1에서의 프로세서(120)일 수 있다.
프로세서(301)는 영상 입력부(301a), 영상 교정부(301b), 영상 정보 수집부(301c), 공간 재구성부(301d), 가상 객체 모델링부(301e), 공간 정합부(301f), 및 조작 처리부(301g)를 포함할 수 있다.
영상 입력부(301a)는 가상 객체를 조작하기 위해 사용자가 사용하는 조작 객체(예: 손가락 끝)와 사용자의 시선에서 바라보이는 주변환경에 대하여 카메라 모듈을 통해 영상 정보를 입력받을 수 있다. 상기 카메라 모듈은 컬러 카메라(color camera), 깊이 카메라(depth camera), 열 카메라, IR 카메라 중 적어도 하나를 포함할 수 있다. 상기 카메라 모듈은 복수의 카메라들을 결합한 형태일 수 있다. 영상 입력부(301a)는 조작 객체와 주변환경에 대한 컬러 영상 또는 깊이 영상을 입력 받을 수 있다.
영상 교정부(301b)는 카메라 모듈의 시선이 조작 객체를 사용하는 사용자의 시선과 일치되도록 카메라의 의해 획득된 조작 객체와 주변환경의 영상 정보에 대하여 보정을 수행할 수 있다. 영상 교정부(301b)는 사용자의 눈의 위치와 조작 객체 간의 정확한 상대적인 위치 관계 정보를 획득할 수 있다. 획득된 사용자의 눈의 위치와 조작 객체 간의 상대적인 위치 관계 정보는 가상 객체를 포함하는 3D 렌더링 공간이 정합된 3D 가상 현실 공간에서, 상기 가상 객체와 상기 조작 객체 간의 상대적인 위치 관계를 파악할 수 있도록 하는 정보로 이용될 수 있다.
영상 정보 수집부(301c)는 상기 입력된 영상 데이터를 판독하여 특정 객체의 색상/채도, 깊이(depth), 윤곽 정보 값을 추출할 수 있다. 영상 정보 수집부(301c)는 추출된 색상/채도 값을 판독하여, 상기 색상/채도를 기준으로 구분되는 영역의 경계 선을 검출할 수 있다. 영상 정보 수집부(301c)는 상기 검출된 경계선을 연결 및 조합하여 기 설정된 기하학 구조를 갖는 하나 이상의 객체 영역을 인식하고, 상기 객체 영역을 가상 현실 데이터를 출력할 객체로 인식할 수 있다.
공간 재구성부(301d)는 영상 입력부(301a)에 입력된 영상 정보를 이용하여 조작 객체를 포함하는 주변 환경에 대한 3D 가상 현실 공간을 재구성할 수 있다. 공간 재구성부(301d)는 사용자가 증강 현실 또는 가상 현실 상의 가상객체를 조작하기 위해 조작 객체를 움직이는 현실 세계에서의 주변 환경을 가상의 3D 공간으로 구현하고, 구현된 가상의 3D 공간에서 조작 객체의 위치 정보를 파악할 수 있다. 사용자가 사용하는 조작 객체는 공간 재구성부(301d)에 의해 가상의 3D 조작 객체로 모델링되어, 현실 세계에서의 움직임에 따라 3D 가상 현실 공간에서의 위치 정보가 3차원 좌표로 표현될 수 있다.
가상 객체 모델링부(301e)는 는 사용자가 사용하는 조작 객체에 의하여 조작되는 가상 객체를 모델링하고, 모델링된 가상객체를 포함하는 가상의 3D 렌더링 공간을 생성할 수 있다. 가상 객체 모델링부(301e)는 에 의해 모델링된 가상 객체의 위치 정보는 3D 렌더링 공간에서 3차원 좌표로 표현될 수 있다. 또한, 가상 객체 모델링부(301e)는 는 가상 객체의 무중력상태에서의 물리적인 특성 정보를 추가하여 가상 객체를 모델링할 수 있다.
공간 정합부(301f)는 가상 객체 모델링부(301e)에 의해 생성된 3D 렌더링 공간을 공간 재구성부(301d)에 의해 재구성된 사용자의 주변 환경에 대한 3D 가상 현실 공간에 정합하고, 3D 가상 현실 공간에서의 조작 객체와 3D 가상객체 간의 상대적인 위치 관계 정보를 산출할 수 있다.
조작 처리부(301g)는 상기 가상 객체 모델링부(301e) 또는 공간 재구성부(301d)에 의해 산출된 가상 현실 객체 및 공간에서의 가상 객체에 대한 사용자의 입력 조작 여부를 판단할 수 있다. 또한, 조작 처리부(301g)는 가상 객체의 사용자 입력이 요구된 것으로 판단되면, 사용자 입력 요구 사항에 대응되는 가상 객체의 기능 실행을 처리할 수 있다. 조작 처리부(301g)는 조작 객체와 가상 객체 간의 상대적인 위치 및 크기 관계 정보에 기초하여 사용자의 입력 조작에 대응할 수 있다.
도 3b는 다양한 실시 예에 따른 증강 현실 생성 방법을 나타내는 순서도이다.
도 3b를 참조하면, 동작 301에서, 프로세서(120)는 조작 객체(예: 사용자의 신체 일부)를 포함하는 주변 환경에 대하여 카메라 모듈(180)을 통해 촬영하여 생성한 영상 정보를 수집할 수 있다.
동작 302에서, 프로세서(120)는 수집한 영상 정보를 이용하여 전자 장치(101)의 주변 환경 및 검출된 객체에 대한 정보를 수집 및 재구성할 수 있다.
동작 303에서, 프로세서(120)는 수집한 영상 정보를 이용하여 전자 장치(101)의 주변 환경에 대한 3D 가상 현실 공간을 재구성할 수 있다.
동작 304에서, 프로세서(120)는 상기 조작 객체에 의하여 조작되는 3D 가상 객체를 모델링하고, 상기 3D 가상 객체를 포함하는 3D 렌더링 공간을 생성할 수 있다.
동작 305에서, 프로세서(120)는 상기 3D 렌더링 공간을 상기 3D 가상 현실 공간에 정합시킬 수 있다.
동작 306에서, 프로세서(120)는 상기 3D 가상 객체에 대한 사용자 입력의 발생 여부를 판단하고, 사용자의 입력에 대응하여 상기 3D 가상 객체의 운동을 처리할 수 있다.
도 3c는 다양한 실시 예에 따른 증강 현실 출력 방법을 나타내는 순서도이다.
도 3c를 참조하면, 동작 310에서, 프로세서(120)는 센서 모듈(190) 또는 카메라 모듈(180) 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성할 수 있다. 한 실시 예에서, 상기 시선 정보는 카메라 모듈(180)의 방향과 일치할 수 있다. 사용자의 시선 정보는 카메라 모듈(180)의 위치 또는 방향에 관한 정보를 이용하여 결정될 수 있다. 다른 한 실시 예에서, 상기 시선 정보는 센서 모듈(190)을 통해 인식된 사용자의 머리의 방향 또는 눈동자의 방향을 통해 결정될 수 있다.
동작 320에서, 프로세서(120)는 상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출할 수 있다.
다양한 실시 예에서, 프로세서(120)는 카메라 모듈(180)을 통해 촬영된 영상 또는 외부 장치(예: 도1 에서의 서버(106))으로부터 제공된 정보를 기반으로 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보를 생성할 수 있다. 예를 들어, 상기 3차원 공간 정보는 카메라 모듈(180)을 통해 촬영된 영상에서 객체를 인식하고, 인식된 객체의 공간 상의 위치, 크기 등에 관한 정보를 포함할 수 있다.
다양한 실시 예에서, 프로세서(120)는 사용자의 시선에 대응하는 시선 공간 정보를 추출할 수 있다. 상기 시선 공간 정보는 상기 3차원 공간 정보 중 센서 모듈(190) 또는 카메라 모듈(180) 중 적어도 하나에 기반하여 사용자의 시선 정보에 대응하는 영역의 3차원 공간 정보일 수 있다.
동작 330에서, 프로세서(120)는 카메라 모듈(180) 또는 센서 모듈(190)을 이용하여 사용자 입력을 인식할 수 있다. 상기 사용자 입력은 시선 공간 정보에 따른 3D 공간에서, 가상 객체의 생성을 위한 입력일 수 있다.
예를 들어, 상기 사용자 입력은 GUI를 통한 메뉴 선택일 수 있다. 다른 예를 들어, 상기 사용자 입력은 사용자의 특정한 제스처 또는 특정한 입력 패턴에 따른 것일 수 있다.
다양한 실시 예에서, 상기 사용자 입력은 포인트 입력(예: 손가락으로 객체의 특정 지점을 선택) 또는 스트로크 입력(예: 제1 지점에서 제2 지점으로 손가락을 이동) 중 적어도 하나를 포함할 수 있다.
한 실시 예에서, 프로세서(120)는 사용자가 HMD 형태의 전자 장치(101)을 착용하면, 사용자 입력의 인식을 시작할 수 있다. 다른 실시 예에서, 프로세서(120)는 전자 장치(101)의 전원이 켜지거나, 특정 어플리케이션이 구동되는 경우, 사용자 입력의 인식을 시작할 수 있다.
다양한 실시 예에서, 상기 사용자 입력의 입력 대기는 포인트 입력 또는 스트로크 입력 중 하나를 선택하여 대기할 수 있다. 하나를 선택하는 방법은 GUI입력, 사용자의 입력 패턴, 사용자의 사전 제스처를 포함할 수 있다. 입력 대기 중 첫번째 입력의 종류에 따라 포인트입력 또는 스트로크 입력이 선택될 수 있다.
프로세서(120)는 카메라 모듈(180) 또는 센서 모듈(190)을 이용하여 사용자의 사용자 입력을 인식할 수 있다. 사용자 입력은 2D 좌표 또는 3D 좌표로 표현될 수 있다. 다양한 실시 예에서, 사용자 입력은 포인트 입력, 스트로크 입력, 폐곡선 입력 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 상기 사용자 입력은 3D 입력(예: 가상 공간에서의 스트로크 입력) 또는 2D 입력(예: 2차원 디스플레이 화면의 스와이프 입력)일 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 상기 사용자 입력의 속성 정보를 도출할 수 있다. 상기 속성 정보는 상기 사용자 입력의 종류(예: 포인트 입력, 스트로크 입력, 폐곡선 입력), 사용자 입력 위치 정보(예: 시작점, 이동 방향, 끝점)을 포함할 수 있다. 예를 들어, 상기 속성 정보는 상기 사용자 입력의 좌표, 곡률 반경, 곡점의 특징(예: 극점, 변곡점 등), 곡점의 위치, 원의 반지름, 타원의 장축 및 단축의 길이 등을 포함할 수 있다. 이외에도 다양한 패턴을 표현할 수 있는 속성을 포함할 수 있다.
다양한 실시 예에서, 상기 사용자 입력을 인식하는 원점은 사용자의 시선일 수 있고, 입력 평면(2D 디스플레이 상)에 대응되는 한 점(예: 2D 디스플레이의 중심)일 수도 있다.
다양한 실시 예에서, 사용자의 입력 평면의 속성은 사용자의 시선(사용자의 Head Pose 또는 카메라 방향)에 따라 변경될 수 있다. 사용자의 입력 평면의 속성은 사용자의 신체적인 특징 또는 상황에 따라 달라질 수 있다. 입력 평면의 속성은 2D 또는 3D 좌표, 크기 등을 포함할 수 있다.
동작 340에서, 프로세서(120)는 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교할 수 있다. 프로세서(120)는 상기 사용자 입력에 대응하는 상기 시선 공간 정보 내 대응점의 좌표(이하, 출력점의 좌표)를 도출할 수 있다. 프로세서(120)는 상기 시선 공간 정보 내에서, 출력점 좌표에 대응하는 제1 부분을 확인할 수 있다. 프로세서(120)는 상기 제1 부분과 상기 사용자 입력을 비교할 수 있다.
다양한 실시 예에서, 프로세서(120)는 상기 사용자 입력에 대응하는 상기 출력점 좌표는 상기 사용자 입력을 구성하는 입력점의 좌표와는 독립적일 수 있다. 예를 들어, 사용자 입력이 2D인 경우(예: 사용자 입력이 평면 공간내에 존재)에도, 출력점의 좌표는 3D 좌표일 수 있다. 반대로, 사용자 입력이 3D이더라도 출력점의 좌표는 2D 형태로 하나의 평면상에 표시될 수 있다.
다양한 실시 예에서, 프로세서(120)는 도출된 출력점의 좌표 주변의 객체 정보를 확인하여 상기 제1 부분을 확인할 수 있다. 다양한 실시 예에서, 상기 객체 정보에는 Depth map 정보, 해당 객체의 위치 정보, 해당 객체의 윤곽선 정보(예: 사용자 시선기준의 윤곽선) 등이 포함될 수 있다. 상기 객체 정보는 해당 객체의 표면의 방향도 포함될 수 있다.
다양한 실시 예에서, 프로세서(120)는 Depth map, 색깔 등의 추가 정보를 활용하여 하나의 객체를 인식할 수 있다. 프로세서(120)는 객체의 종류 및 연관성을 판단할 수 있는 추가 정보를 활용하여 여러 객체를 하나의 객체 군으로 정의할 수도 있다. 또한 이 과정은 생략될 수도 있다.
한 실시 예에서, 프로세서(120)는 사용자 입력의 경로에 대응되는 범위 내에 포함되는 3차원 공간 정보 내의 제2 부분을 추출하고, 상기 제2 부분과 사용자 입력의 경로 사이의 거리를 측정할 수 있다. 예를 들어, 사용자 입력 경로에 대응되는 평면 수직 벡터를
Figure pat00001
, 상기 제2 부분에 대응되는 평면 수직 벡터를
Figure pat00002
라고 할 경우, 사용자 입력 경로와 상기 제2 부분의 거리는 벡터 내적(
Figure pat00003
)을 통해 계산될 수 있다.
다른 한 실시 예에서, 프로세서(120)는 사용자 입력의 경로가 포함된 평면 정보를 계산할 수 있다. 프로세서(120)는 3차원 공간 정보로부터 상기 사용자 입력의 경로에 대응되는 범위 내에 포함되는 3차원 공간 정보 내 제2 부분을 추출하고, 상기 제2 부분의 평면 정보와 상기 사용자 입력의 경로가 포함된 평면 정보를 비교할 수 있다.
동작 350에서, 프로세서(120)는 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성할 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 스트로크 입력에 의한 대응점의 집합을 객체의 표면 정보를 활용하여 변형할 수 있다. 하나의 실시 예로, 프로세서(120)는 객체의 표면 정보를 따라 대응점의 집합을 그릴 수 있다. 다른 실시 예로, 프로세서(120)는 객체의 외곽선 정보를 따라 대응점의 집합을 그릴 수 있다. 또 다른 실시 예로, 프로세서(120)는 객체가 놓여져 있는 평면에 평행 또는 수직하도록 대응점의 집합을 그릴 수 있다.
동작 360에서, 프로세서(120)는 상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성할 수 있다. 프로세서(120)는 객체 정보를 이용하여 출력점의 좌표를 도출하여, 제1 가상 객체를 생성할 수 있다. 다양한 실시 예에서, 프로세서(120)는 객체 정보와 상기 사용자 입력을 결합하여 상기 가상 객체의 속성(예: 좌표, 방향 등)을 결정할 수 있다. 가상 객체의 속성 결정에 관한 추가 정보는 도 9를 통해 제공될 수 있다.
동작 370에서, 프로세서(120)는 디스플레이 장치(160)에 상기 제1 가상 객체를 출력할 수 있다. 프로세서(120)는 상기 제1 가상 객체를 3D 공간 상에 출력할 수 있다. 사용자는 생성된 제1 가상 객체를 확인하고, 변형하거나 삭제할 수 있다. 사용자는 생성된 제1 가상 객체를 3D 공간상의 다른 좌표로 이동하거나, 생성된 가상 객체에 관한 정보를 외부 장치에 전송할 수 있다.
다양한 실시 예에 따른 증강 현실 출력 방법은 전자 장치에서 수행되고, 센서 모듈 또는 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하는 동작, 상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하는 동작, 카메라 모듈 또는 센서 모듈을 이용하여 사용자 입력을 인식하는 동작, 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하는 동작, 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하는 동작, 상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하는 동작 및 디스플레이 장치에 상기 제1 가상 객체를 출력하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 시선 공간 정보를 추출하는 동작은 상기 센서 모듈 또는 상기 카메라 모듈에 기반하여 상기 3차원 공간 정보를 생성하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 3차원 공간 정보를 생성하는 동작은 컬러 카메라(color camera), 깊이 카메라(depth camera), 열 카메라, IR 카메라 중 적어도 하나를 포함하는 상기 카메라 모듈을 통해 상기 전자 장치의 주변을 촬영하는 동작을 포함할 수 있다. 상기 3차원 공간 정보를 생성하는 동작은 선, 다각선(polylines), 곡선(curves), 다각형(polygons), 원, 타원, 텍스트 정보를 포함하는 상기 3차원 공간 정보를 생성하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 사용자 입력을 인식하는 동작은 사용자의 제스처 또는 지정된 입력 패턴을 상기 사용자 입력으로 인식하는 동작을 포함할 수 있다. 상기 사용자 입력을 인식하는 동작은 포인트 입력 또는 스트로크 입력 중 하나에 의한 상기 사용자 입력을 인식하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 부분과 상기 사용자 입력을 비교하는 동작은 상기 3차원 공간 정보로부터 상기 사용자 입력의 경로에 대응되는 범위 내에 포함되는 3차원 공간 정보 내 제2 부분을 추출하는 동작 및 상기 제2 부분과 상기 사용자 입력의 경로 사이의 거리를 측정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 부분과 상기 사용자 입력을 비교하는 동작은 상기 사용자 입력의 경로가 포함된 평면 정보를 계산하는 동작, 상기 3차원 공간 정보로부터 상기 사용자 입력의 경로에 대응되는 범위 내에 포함되는 3차원 공간 정보 내 제2 부분을 추출하는 동작 및 상기 제2 부분의 평면 정보와 상기 사용자 입력의 경로가 포함된 평면 정보를 비교하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 부분과 상기 사용자 입력을 비교하는 동작은 사용자의 시선의 위치 및 상기 사용자 입력을 구성하는 각 점들을 연결한 연장선과 상기 실제 객체가 만나거나 인접하는 대응점을 확인하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 대응점을 확인하는 동작은 상기 연장선과 상기 실제 객체의 표면 또는 윤곽선이 인접하는 지점을 상기 대응점으로 결정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 가상 객체를 생성하는 동작은 상기 3차원 공간 정보 내 제1 부분과 상기 사용자 입력의 유사도에 기반하여 유사하다고 판단될 경우, 상기 제1 가상 객체를 생성하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 가상 객체를 생성하는 동작은 상기 실제 객체의 표면 정보 또는 윤곽선 정보를 기반으로 2차원 평면 상의 상기 사용자 입력의 각 점을 3차원 공간의 대응점으로 매칭하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 3차원 공간의 대응점으로 매칭하는 동작은 사용자의 시선과 상기 사용자 입력의 연장선 상에 또는 상기 연장선의 주변에 존재하는 가상 객체에 기반하여 결정되는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 가상 객체를 생성하는 동작은 실제 객체의 중심 축 또는 중심 면과 평행한 축 또는 면을 기준으로 상기 가상 객체를 배치하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 가상 객체를 생성하는 동작은 실제 객체의 경계와 연장되거나 상기 실제 객체의 경계와 지정된 각도를 이루는 가상 객체를 생성하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 사용자 입력을 인식하는 동작은 제1 객체와 제2 객체를 연결하는 상기 사용자 입력을 인식하는 동작을 포함하고, 상기 제1 가상 객체를 생성하는 동작은 상기 제1 객체의 연결점과 상기 제2 객체의 연결점 사이를 지정된 속성에 따른 선으로 연결하는 상기 제1 가상 객체를 생성하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 가상 객체를 생성하는 동작은 상기 제1 객체의 속성이 변화되었다고 판단되는 경우, 상기 속성의 변화에 기반하여 상기 제1 가상 객체의 속성을 변경하는 동작을 포함할 수 있다.도 4는 다양한 실시 예에 따른 증강 현실을 이용하는 화면 예시도이다.
도 4를 참조하면, 사용자는 웨어러블 장치인 전자 장치(401)를 머리에 착용하고, 주변의 객체를 확인할 수 있다.
전자 장치(401)는 카메라 모듈을 이용하여 촬영한 영상을 기반으로 3D 공간(402)을 생성할 수 있다. 예를 들어, 전자 장치(401)는 사용자의 시선을 중심으로 제1 내지 제4 실제 객체(402a 내지 402d)를 인식할 수 있다. 전자 장치(401)는 각각의 실제 객체 사이의 거리, 실제 객체의 경계 등에 관한 정보를 저장할 수 있다.
전자 장치(401)는 사용자(410)의 사용자 입력(410b)을 인식할 수 있다. 전자 장치(401)는 센서 모듈 또는 카메라 모듈을 통해 조작 객체(예: 손가락 끝)를 인식할 수 있다. 전자 장치(401)는 시선 방향과 사용자 입력(410b)의 이동 방향을 기반으로 실제 객체의 경계와 평행한 선 또는 실체 객체의 일면과 평행한 면에 가상 객체(420)을 생성할 수 있다.
도 4에서, 사용자(410)의 사용자 입력(410b)에 따라 제2 실제 객체(402b)의 하나의 변과 평행한 가상 객체(420)이 생성될 수 있다. 사용자(410)가 사용자 입력(410b)를 발생시키는 과정에서 흔들림이 발생하는 경우에도, 가상 객체(420)는 제2 실제 객체(402b)의 하나의 변과 평행한 상태를 유지할 수 있다.
도 5 내지 도 8은 다양한 실시 예에 따른 실제 객체 정보를 기반으로 가상 객체를 생성하는 예시도이다. 도 5 내지 도 8에서는 사용자의 시선 방향(또는 전자 장치의 카메라 의 방향)과 실제 객체 사이에 사용자의 사용자 입력이 발생하는 경우, 상기 사용자 입력의 속성 및 실제 객체의 형태 또는 배치에 따라 실제 객체와 연관된 가상 객체가 3D 공간 상에 도시될 수 있다.
도 5를 참조하면, 사용자의 시선(카메라 의 방향일 수 있음)(510)과 실제 객체(520) 사이에서 사용자의 사용자 입력(531 또는 532)이 발생할 수 있다. 예를 들어, 사용자 입력(531 또는 532)은 사용자가 직접 신체의 일부(예: 손가락)를 움직여서 허공에 선을 그리는 제스쳐일 수 있다.
사용자 입력(531 또는 532)의 속성(예: 시작점, 끝점, 이동 거리, 이동 방향, 이동 속도 등) 및 사용자의 시선(510)의 방향에 따라 도시되는 가상 객체(541 또는 542)의 위치가 결정될 수 있다. 사용자의 시선(510)과 사용자 입력(531 또는 532)의 각 점을 연결한 연장선이 실제 객체(520)의 표면과 교차하는 지점에서 가상 객체(541 또는 542)가 생성될 수 있다.
한 실시 예에서, 사용자는 사용자 입력(531)을 2차원 형태로 발생시킬 수 있다. 사용자 입력(531)은 (x1, y1)에서 (x2, y2)로 이동하는 스트로크 입력일 수 있다. 실제 객체(520)은 사용자의 시선(510)보다 Y축 방향으로 더 낮은 위치에 배치될 수 있다(사용자가 실제 객체(520)을 내려다 보는 형태). 이 경우, 가상 객체(541)는 실제 객체(520)의 상단면(520a)에 포함되고, 상단면(520a)과 평행한 직선으로 도시될 수 있다. 다양한 실시 예에서, 사용자 입력(531)이 2차원 형태인 경우에도, 가상 객체(541)는 3차원적으로 도시될 수 있다. 사용자 입력(531)이 (x1, y1)에서 (x2, y2) 사이에서 이동된 경우, 가상 객체(541)는 (a1, b1, c1)에서 (a2, b2, c2)으로 도시될 수 있다.
다른 한 실시 예에서, 사용자는 사용자 입력(532)을 3차원 형태로 발생시킬 수 있다. 사용자 입력(532)은 (x1, y1, z1)에서 (x2, y2, z2)로 이동하는 스트로크 입력일 수 있다. 실제 객체(520)은 사용자의 시선과 Y축 방향으로 동일하거나 유사한 위치에 배치될 수 있다(사용자가 실제 객체(520)를 같은 높이에서 마주보는 형태). 이 경우, 가상 객체(542)는 실제 객체(520)의 측면(520b)에 포함되고, 측면(520b)과 평행한 직선으로 도시될 수 있다. 다양한 실시 예에서, 사용자 입력(532)이 3차원 이동인 경우에도, 가상 객체(542)는 2차원적으로 도시될 수 있다. 예를 들어, 사용자 입력(532)가 (x1, y1, z1)에서 (x2, y2, z2) 사이에서 이동된 경우에도, 가상 객체(542)는 (a1, b1, c1)에서 (a2, b2, c1)으로 도시될 수 있다.
사용자가 실제 객체(520)의 표면에 선이나 곡선을 도시하고자 하는 경우, 실제 객체(520)의 표면 형태를 고려하여 가상 객체(541 또는 542)가 배치될 수 있다.
도 6을 참조하면, 사용자의 시선(카메라 모듈의 위치일 수 있음)(610)과 실제 객체(620) 사이에서 사용자의 사용자 입력(631 또는 632)이 발생할 수 있다. 예를 들어, 사용자 입력(631 또는 632)은 사용자가 직접 신체의 일부(예: 손가락)을 움직여서 허공에 선을 그리는 제스쳐일 수 있다. 사용자 입력(631 또는 632)의 속성(예: 시작점, 끝점, 이동 거리, 이동 방향, 이동 속도 등) 및 사용자의 시선(610)의 방향에 따라 도시되는 가상 객체(641 또는 642)의 위치가 결정될 수 있다. 사용자의 시선(610)과 사용자 입력(631 또는 632)의 각 점을 연결한 연장선이 실제 객체(620)의 표면과 교차하는 지점에서 가상 객체(641 또는 642)가 생성될 수 있다.
다양한 실시 예에서, 사용자의 사용자 입력(631 또는 632)이 직선인 경우에도, 가상 객체(641 또는 642)는 실제 객체(620)의 표면 형태에 따라 곡선 형태로 도시될 수 있다.
한 실시 예에서, 사용자의 사용자 입력(631)이 2차원인 경우에도 반구 형태의 실제 객체(620)의 표면을 따라 3차원의 가상 객체(641)이 그려질 수 있다. 예를 들어, 사용자 입력(631)은 (x1, y1)에서 (x2, y2)로 이동하는 직선 형태의 스트로크 입력일 수 있다. 사용자 입력(631)에 대응하는 가상 객체(641)는 (a1, b1, c1)에서 (a2, b2, c2)로 도시되는 곡선 형태일 수 있다.
다른 한 실시 예에서, 사용자의 사용자 입력(632)이 3차원인 경우, 가상 객체(642)가 반구 형태의 실제 객체(620)의 표면을 따라 그려질 수 있다. 예를 들어, 사용자 입력(632)은 (x1, y1, z1)에서 (x2, y2, z2)로 이동하는 직선 형태의 스트로크 입력일 수 있다. 사용자 입력(632)에 대응하는 가상 객체(642)는 (a1, b1, c1)에서 (a2, b2, c2)로 도시되는 곡선 형태일 수 있다.
도 7을 참조하면, 사용자의 시선(카메라 모듈의 위치일 수 있음)(710)과 실제 객체(720) 사이에서 사용자의 사용자 입력(731 또는 732)이 발생할 수 있다. 예를 들어, 사용자 입력(731 또는 732)은 사용자가 직접 신체의 일부(예: 손가락)을 움직여서 허공에 곡선을 그리는 제스쳐일 수 있다. 사용자 입력(731 또는 732)의 속성(예: 시작점, 끝점, 이동 거리, 이동 방향, 이동 속도 등) 및 사용자의 시선(710)의 방향에 따라 도시되는 가상 객체(741 또는 742)의 위치가 결정될 수 있다.
다양한 실시 예에서, 사용자의 시선(710)과 사용자 입력(731 또는 732)의 각 점을 연결한 연장선이 실제 객체(720)의 표면과 교차하는 지점과 가장 가까운 윤곽선 평면에서 가상 객체(741 또는 742)가 생성될 수 있다. 사용자가 바라보는 객체의 윤곽선과 가장 유사한 평면이 선택될 수 있고, 해당 평면에 가상 객체(741 또는 742)가 생성될 수 있다. 다양한 실시 예에서, 상기 윤곽선 평면에 대한 선택과정이 필요할 수 있다.
한 실시 예에서, 사용자의 사용자 입력(731)이 2차원인 경우에도 반구 형태의 실제 객체(720)의 표면을 따라 3차원의 가상 객체(741)이 그려질 수 있다. 예를 들어, 사용자 입력(731)은 (x1, y1)에서 (x2, y2)로 이동하는 곡선 형태의 스트로크 입력일 수 있다. 사용자 입력(731)에 대응하는 가상 객체(741)는 실제 객체(720)의 윤곽선 평면을 따라 (a1, b1, c1)에서 (a2, b2, c2)로 도시될 수 있다. 다양한 실시 예에서, c1은 c2와 동일할 수 있다. 이 경우, 가상 객체(741)을 구성하는 각각의 점은 z축을 기준으로 사용자의 시선(710)과 모두 동일한 거리에 배치될 수 있다.
다른 한 실시 예에서, 사용자의 사용자 입력(732)이 3차원인 경에도, 가상 객체(741)는 실제 객체(720)의 윤곽선 평면을 따라 (a1, b1, c1)에서 (a2, b2, c2)로 도시될 수 있다.
도 8을 참조하면, 사용자의 시선(카메라 모듈의 위치일 수 있음)(810)과 실제 객체(820) 사이에서 사용자의 사용자 입력(831 또는 832)이 발생할 수 있다. 예를 들어, 사용자 입력(831 또는 832)은 사용자가 직접 신체의 일부(예: 손가락)을 움직여서 허공에 곡선을 그리는 제스쳐일 수 있다. 사용자 입력(831 또는 832)의 속성(예: 시작점, 끝점, 이동 거리, 이동 방향, 이동 속도 등) 및 사용자의 시선(810)의 방향에 따라 도시되는 가상 객체(841 또는 842)의 위치가 결정될 수 있다.
다양한 실시 예에서, 사용자의 시선(810)과 사용자 입력(831 또는 832)의 각 점을 연결한 연장선이 실제 객체(820) 사이에 있는 포인트 클라우드 중 가장 가까운 포인트를 통해 가상 객체(841 또는 842)가 생성될 수 있다. 상기 포인트는 반드시 실제 객체(820)의 표면에 있을 필요는 없다.
한 실시 예에서, 사용자의 사용자 입력(831)이 2차원인 경우에도 포인트 클라우드 형태로 표현되는 실제 객체(720)의 포인트들 사이에 3차원의 가상 객체(841)이 그려질 수 있다. 예를 들어, 사용자 입력(831)은 (x1, y1)에서 (x2, y2)로 이동하는 곡선 형태의 스트로크 입력일 수 있다. 사용자 입력(831)에 대응하는 가상 객체(841)는 실제 객체(820)의 포인트 클라우드 중 (a1, b1, c1)에서 (a2, b2, c2)로 도시될 수 있다.
다른 한 실시 예에서, 사용자의 사용자 입력(832)이 3차원인 경에도, 가상 객체(841)는 실제 객체(820)의 포인트 클라우드 중 (a1, b1, c1)에서 (a2, b2, c2)로 도시될 수 있다.
도 9는 다양한 실시 예에 따른 객체 정보를 기반으로 가상 객체 속성 결정하는 예시 도면이다.
도 9를 참조하면, 프로세서(120)는 인식된 실제 객체 정보와 사용자의 입력을 결합하여 가상 객체(930)을 생성할 수 있다.
하나의 실시 예로, 두 개의 포인트(910a 및 920a)가 사용자의 입력으로 인지되고, 각각의 포인트 입력이 제1 실제 객체(910)과 제2 실제 객체(920)의 표면을 선택하는 경우, 프로세서(120)는 해당 두 표면을 연결할 수 있다.
또 다른 실시 예로, 하나의 스트로크 입력의 시작점(910a)과 끝 점(920a)이 제1 실제 객체(910)와 제2 실제 객체(920)의 표면이 선택되었다고 판단된 경우, 프로세서(120)는 해당 두 표면을 연결할 수 있다.
다른 실시 예로, 제1 실제 객체(910)와 제2 실제 객체(920)표면과 연결되는 선은 상기 표면에 항상 수직하도록 그려질 수 있다.
다양한 실시 예에서, 제1 실제 객체(910)과 제2 실제 객체(920) 사이를 사용자가 한 번의 스트로크 입력으로 연결하는 경우, 프로세서(120)는 지정된 형태(예: 원형 또는 타원형의 일부)로 연결할 수 있다. 프로세서(120)는 평균 값에 해당하는 곡률을 계산하고, 해당 곡률에 따른 타원 또는 원형의 일부로 가상 객체(930)을 그릴 수 있다. 다양한 실시 예에서, 사용자의 스트로크 입력이 직선 형태에 근접하는 경우, 직선 형태로 연결할 수 있다.도 10은 다양한 실시 예에 따른 가상 객체의 배치를 설명하는 도면이다.
도 10을 참조하면, 가상 객체(1030a 또는 1030b)는 사용자의 시선 정보(예: 시선의 변화 방향, 변화 정도 등)와 사용자의 사용자 입력의 속성에 따라 다양한 방법으로 배치될 수 있다.
가상 객체(1030a)는 실제 객체(1020)의 윤곽선을 따라 표시될 수 있다. 사용자의 시선(카메라 모듈)의 위치가 실제 객체(1020)의 윤곽선을 따라 제1 위치(1010a)에서 제2 위치(1010b)로 이동하는 경우, 가상 객체(1030a)은 실제 객체(1020)의 윤곽선을 따라 배치될 수 있다. 프로세서(120)는 사용자의 시선과 사용자의 사용자 입력의 연장선이 객체의 윤곽선을 따라 움직인 것을 확인하여 가상 객체(1030a)를 배치할 수 있다.
가상 객체(1030b)는 실제 객체(1020)의 표면을 따라 표시될 수 있다. 사용자의 시선(카메라 모듈)의 위치가 실제 객체(1020)의 표면을 따라 제1 위치(1010c)에서 제2 위치(1010d)로 이동하는 경우, 가상 객체(1030b)는 실제 객체(1020)의 표면을 따라 배치될 수 있다. 프로세서(120)는 사용자의 시선과 사용자의 사용자 입력의 연장선이 객체의 표면을 가로지르는 것을 확인하여 가상 객체(1030a)를 배치할 수 있다.
다양한 실시 예에서, 프로세서(120)는 가상 객체를 생성하기 위한 사용자의 사용자 입력이 지정된 길이를 초과하는 경우에 대해, 시선 정보를 이용하여 가상 객체의 배치 위치를 결정할 수 있다. 예를 들어, 프로세서(120)는 상대적으로 이동 거리가 작은 입력에 대해서는 사용자의 입력 변화만으로 가상 객체를 생성하고, 상대적으로 이동 거리가 큰 입력에 대해서는 시선의 위치 변화와 사용자의 입력의 변화를 모두 고려하여 가상 객체를 생성할 수 있다.
도 11은 다양한 실시 예에 따른 실제 객체의 인접 평면에 가상 객체를 배치하는 예시도 이다.
도 11을 참조하면, 프로세서(120)는 실제 객체(1120)의 중심 축 또는 중심 면과 평행한 축 또는 면을 기준으로 가상 객체(1140)를 배치할 수 있다.
다양한 실시 예에서, 실제 객체(1120)가 놓여져 있는 제1 평면(1120a)에 평행한 제2 평면(1125)에 가상 객체(1140)가 배치될 수 있다. 예를 들어, 사용자의 시선(1110)과 사용자의 사용자 입력(1130)의 연장선이 동일한 실제 객체(1110)의 제1 지점과 제2 지점을 곡선으로 연결한 경우, 프로세서(120)는 사용자가 실제 객체(1110)의 회전을 의도한 것으로 결정할 수 있다.
프로세서(120)는 사용자의 입력 곡선이 존재하는 가상의 제2 평면(1125)과 주변 물체(1120)(또는 3D 모델링된 가상 물체)이 배치되는 제1 평면(1120a)과의 평행도를 측정하여 일정 범위내에서 평행하다고 판단되면, 정확히 평행하도록 상기 입력 곡선에 대응되는 가상 객체(1140)을 생성할 수 있다. 입력 동작 중에 프로세서(120)는 음성 등의 주변 정보를 활용할 수도 있다.
도 12는 다양한 실시 예에 따른 사용자의 사용자 입력을 보정하는 예시도이다.
도 12를 참조하면, 프로세서(120)는 가상 객체 생성시 객체(1220)에 관한 정보를 이용해서 사용자의 사용자 입력(1230) 또는 사용자 입력(1230)에 의해 생성되는 가상 객체를 보정할 수 있다. 상기 객체 정보는 객체 정보는 현실 물체를 모델링한 실제 객체 정보, 인위적으로 생성된 가상 객체 정보를 포함할 수 있다.
사용자 입력(1230)은 사용자가 직접 신체의 일부를 움직이는 동작일 수 있다. 사용자가 원하는 형태(예: 직선, 곡선, 원, 타원, 객체의 경계를 따라가는 선)으로 그리더라도 지정된 범위 이내에서 흔들리 수 있다. 프로세서(120)는 객체(1220)에 관한 정보를 이용하여 사용자 입력(1230)을 보정할 수 있다. 예를 들어, 사용자가 컵의 표면의 모양, 스프링의 모양 등 단순 직선 형태, 곡선 형태가 아닌 선을 그리고자 하는 경우, 사용자가 계략적으로 선을 도시하면, 프로세서(120)에서 사용자의 시선 방향, 사용자 입력의 속성, 객체 정보 등을 고려하여 사용자 입력(1230)을 사용자의 의도에 부합하도록 보정할 수 있다.
한 실시 예에서, 프로세서(120)는 가상 객체의 시작점을 사용자의 시선 정보(1210)를 기반으로 인식된 실제 객체(1220)의 경계 부분에 위치시킬 수 있다. 예를 들어, 사용자의 시선(1210)과 사용자 입력(1230)의 각 점을 직선으로 연장한 연장선에서, 검출되는 실제 객체(1220)을 선택된 객체로 두고, 이에 대한 정보를 이용하여 사용자 입력(1230)을 보정할 수 있다.
다른 한 실시 예에서, 프로세서(120)는 가상 객체가 사용자의 시선 정보(1210)를 활용하여 사용자 입력 위치에서 가까운 실제 객체(1220)의 경계선 따르도록 변형시킬 수 있다.
다른 한 실시 예에서, 프로세서(120)는 사용자가 사용자 입력(1230)을 도시한 결과, 생성된 가상 객체가 실제 객체(1220)의 경계 일부와 유사한 패턴을 가지는 것으로 결정된 경우, 유사한 패턴의 실제 객체(1220)의 경계의 일부와 일치하도록 가상 객체를 변형할 수 있다. 다양한 실시 예에서, 사용자 입력(1230)과 실제 객체(1220)간의 일치도를 계산할 때, 사용자의 시선, 자세, 또는 위치 정보가 이용될 수 있다.
1) 사용자 시선을 기반으로하는 시선 영역에서, 제1 평면영상을 rendering (평면영상은 2D영상일 수 있음)
2) 시선 영역에서 제2 평면영상을 rendering
3) display에 제2 2D평면영상을 표시
4) 사용자 입력의 발생을 검출
5) 사용자 입력과 제1 평면영상을 비교
6) 제1 평면영상을 기반으로 사용자 입력을 변경
사용자의 드로잉 제스처 입력 이후에 객체 인식(또는 그 기능의 일부)을 하고 이에 기반하여 상기 드로잉 입력을 변형할 수 있다.
예를 들어, 사용자는 see-through type의 HMD을 착용하고 현실 공간을 보면서 드로잉을 입력할 수 있다. 현실 공간을 모델링한 가상공간 정보가 없을 경우, 사용자의 드로잉 입력이 완료되면 드로잉된 영역 주변의 실제 공간에 대응되는 영상 정보를 취득하여 영상처리(영상인식, 공간 모델링 등)을 수행할 수 있다. 상기 영상처리 결과 얻어진 실제 공간 정보에 기반하여 상기 입력된 드로잉를 변형할 수 있다. 다음과 같은 순서로 동작할 수 있다.
1) 사용자 시선 기반 평면영상 취득
2) 사용자 제스처를 통한 드로잉 입력 발생 검출
3) 상기 평면영상을 영상 처리하여 공간 정보 계산
4) 상기 공간 정보와 상기 드로잉 입력 비교
5) 상기 비교에 기반하여 상기 드로잉 입력 변형
또는 다음과 같은 순서로 동작할 수 있다.
1) 사용자 제스처를 통한 드로잉 입력 발생 검출
2) 상기 드로잉 입력 주변에 대응되는 부분 평면영상 취득
3) 상기 부분 평면영상을 영상처리하여 공간 정보 계산
4) 상기 공간 정보와 상기 드로잉 입력 비교
5) 상기 비교에 기반하여 상기 드로잉 입력 변형
도 13은 다양한 실시 예에 따른 실제 객체의 경계를 반영한 가상 객체를 표시하는 예시도이다.
도 13을 참조하면, 프로세서(120)는 실제 객체의 윤곽선외에도 그 윤곽선과 같은 평면에 대한 드로잉 가상 객체를 추가할 수 있다. 또한, 프로세서(120)는 실제 객체의 윤곽선의 연장선상으로 드로잉을 변형할 수 있다.
사용자가 실제 객체(1320)의 상단면(1321)과 연관된 선을 그리는 경우, 사용자의 입력을 상단면(1321)의 형태와 연관되도록 수정할 수 있다.
사용자가 상단면(1321)의 제1 경계(1321a)를 따라 선을 그리던 중, 상기 선과 동일한 방향으로 연장하는 경우(사용자 입력(1330a)) 계속적으로 직선으로 제1 가상 라인(1340a)를 도시할 수 있다.
사용자가 사용자 입력(1330a)와 수직하거나 수직에 근접한 각도로 변경된 사용자 입력(1330b)를 연속적으로 그리는 경우, 프로세서(120)는 제2 가상 라인(1340b)을 제1 가상라인(1340a)과 평행하게 그릴 수 있다. 제2 가상 라인(1340b)은 동일 평면(상단면(1321)을 연장한 평면) 상에서 상단면(1321)의 제2 경계(1321b)와 평행하게 배치될 수 있다.
도 14는 다양한 실시 예에 따른 가상 객체의 동적 변화를 설명하는 예시도 이다.
도 14를 참조하면, 제1 객체(1410) 및 제2 객체(1420)가 가상 객체(1430a)를 통해 연결된 경우, 가상 객체(1430a)는 제1 객체(1410) 및 제2 객체(1420)의 적어도 하나의 이동에 따라 해당 가상 객체(1430a)의 표시 속성이 변경될 수 있다.
한 실시 예에서, 제1 객체(1410)와 제2 객체(1420)가 연결되어 있는 선 형태의 드로잉 가상 객체(1430a)는 제1 객체(1410) 또는 제2 객체(1420)의 중 위치가 변경되면, 상기 변경된 위치에 따라 가상 객체(1430a)의 시작점과 끝점의 위치가 상기 객체의 움직임에 따라 변경될 수 있다. 그에 따라, 가상 객체(1430a)의 크기(또는 길이) 또는/그리고 모양(예: 곡률)이 변경될 수 있다.
드로잉 가상 객체(1430a)는 의 속성은 끝점(1410a, 1420a)의 속성(예: 끝점 방향 벡터)에 기반하여 계산될 수 있다. 예를 들어, 끝점의 방향 벡터는 연관된 물체(각각 제1 객체(1410), 제2 객체(1420))에 접한 면에 수직한 방향으로 설정되고, 상기 방향 벡터들에 기반하여 드로잉 가상 객체(1430a)를 표현하는 3차 다항식 곡선의 계수 값이 결정될 수 있다.
상기 가상 객체의 표시 속성이 변경되는 경우, 사용자의 시선 정보를 반영하여 변경될 수 있다.
예1) 가상 객체(1430a)는, 사용자의 시선에 기반하여, 객체에 대한 시선을 피하도록 변경될 수 있다.
예2) 가상 객체(1430a)는, 사용자의 시선에 기반하여, 객체에 대한 시선을 따라 표시될 수 있다.
예3) 가상 객체(1430a)는, 사용자의 시선에 기반하여, 객체에 대한 광선 효과에 따라 표시될 수 있다.
다양한 실시 예에 따르면, 가상 공간 내 가상 객체(적어도 하나 이상)와 기능적으로 연결되어 있는 가상 객체는 상기 가상 객체의 변화된 정보에 기반하여 제거되거나 생성될 수 있다. 예를 들어, 곡선 드로잉이 입력되고 상기 곡선 드로잉 가상 객체의 시작점과 끝점이 각각 제1 가상 객체, 제2 가상 객체에 연결되었을 경우, 제1 가상 객체와 제2 가상 객체의 거리가 지정된 값을 넘어설 때, 상기 곡선 드로잉 가상 객체는 자동으로 제거될 수 있다.
도 14에서는 드로잉 가상 객체(1430a)를 예시적으로 도시하였으나, 가상 객체의 표시 속성이 변경은 레이블 객체에도 적용될 수 있다. 예를 들어, 실제 객체(예를 들어, 동화책)에 표시되어 있는 레이블(예를 들어, 책 제목)을 기반으로 생성된 레이블 객체의 경우, 상기 실제 객체(예를 들어, 동화책)의 위치가 변경되면, 상기 레이블 객체의 위치, 크기 또는/그리고 모양이 변경될 수 있다.
상기 가상 객체의 표시 속성이 변경되는 경우, 사용자의 시선 정보를 반영하여 변경될 수 있다.
예 1) 변경되는 레이블 객체는, 사용자의 시선에 기반하여, 객체의 시선 방향과 상관없이 평면의 형태로 표시 될 수 있다.
예 2) 변경되는 레이블 객체는, 사용자의 시선에 기반하여, 객체의 시선 방향에 따라 레이블의 시선 방향을 변경할 수 있다.
예 3) 변경되는 레이블 객체는, 사용자의 시선에 기반하여, 객체에 대한 광선효과에 따라 레이블 객체를 표시될 수 있다.
예 4) 변경되는 레이블 객체는, 사용자의 시선에 기반하여, 객체와의 거리와 상관없이 레이블의 크기를 변경할 수 있다.
예 5) 변경되는 레이블 객체는, 사용자의 시선에 기반하여, 객체와의 거리와 상관없이 레이블의 크기를 고정할 수 있다.
다양한 실시 예에 따르면, 상기 생성된 가상 객체 정보에 기반으로 실제 객체(예: 동화책)의 위치가 변화했다고 판단 할 수 있다.
다양한 실시 예에서, 제1 실제 객체(1410)를 복사하는 경우, 제1 실제 객체(1410)와 동일한 형태의 복사 객체(미도시)가 형성될 수 있다. 예를 들어, 사용자가 제1 실제 객체(1410)를 지정된 시간이상 선택하고 있는 경우, 가상 객체는 복사 객체와 제2 실제 객체(1420) 사이를 연결할 수 있다. 사용자가 복사 객체를 이동하는 경우에도, 가상 객체는 계속적으로 복사 객체와 제2 실제 객체(1420)와 연결할 수 있다.
도 15는 다양한 실시 예에 따른 입력을 위한 별도의 장치를 통한 입력을 변경하는 예시도이다.
도 15를 참조하면, 제1 전자 장치(1501)는 스마트 글래스, HMD와 같은 웨어러블 전자 장치일 수 있고, 제2 전자 장치(1502)는 태블릿 PC와 같은 전자 장치일 수 있다. 제1 전자 장치(1501)는 도 1에서의 전자 장치(101)일 수 있고, 제2 전자 장치(1502)은 도 1에서의 전자 장치(102 또는 104)일 수 있다.
제1 전자 장치(1501)는 주변의 실제 객체(예: 제1 내지 제3 객체(1510 내지 1530))를 포함하는 3차원 공간을 인식할 수 있다. 제1 전자 장치(1501)는 3차원 인식 정보를 제2 전자 장치(1502)에 제공할 수 있다.
제2 전자 장치(1502)은 제1 전자 장치(1501)에서 전송되는 영상을 2차원적으로 출력할 수 있다. 예를 들어, 제2 전자 장치(1502)은 제1 내지 제3 객체(1510 내지 1530)를 A면에서 바라본 형태의 도형(1510a 내지 1530a)을 디스플레이를 통해 출력할 수 있다.
다양한 실시 예에 따르면, 제2 전자 장치(1502)은 사용자의 입력(1510)을 제1 전자 장치(1501)에 제공할 수 있다.
제1 전자 장치(1501) 및 제2 전자 장치(1502)은 서로 다른 사용자에 의해 조작될 수 있다. 제1 사용자가 제1 전자 장치(1501)를 착용한 상태일 수 있고, 제2 사용자가 제2 전자 장치(1502)를 이용하여 사용자 입력(1510)을 생성할 수 있다. 예를 들어, 제1 사용자와 제2 사용자는 각각 제1 전자 장치(1501) 및 제2 전자 장치(1502)를 이용하여 화상 통화를 수행하는 상태일 수 있다.
제1 전자 장치(1501)는 촬영한 3D 영상을 제2 전자 장치(1502)에 송신할 수 있다. 제2 전자 장치(1502)은 수신한 영상을 디스플레이를 통해 출력할 수 있다. 제2 사용자가 2차원 디스플레이에 사용자 입력(1550)을 발생시키면, 제1 전자 장치(1501)는 상기 사용자 입력(1550)의 속성(예: 이동 거리, 이동 방향 등)에 관한 정보를 수신할 수 있다. 제1 전자 장치(1501)는 수신한 정보를 기반으로 3차원 공간에 가상 객체를 생성할 수 있다. 제1 전자 장치(1501) 및 제2 전자 장치(1502)을 이용한 가상 객체의 추가에 관한 추가 정보는 도 16 내지 도 18을 통해 제공될 수 있다.
도 16은 다양한 실시 예에 따른 외부 입력을 통한 가상 객체를 생성하는 과정을 나타내는 도면이다. 도 16은 도 15에서의 제1 내지 제3 객체(1510 내지 1530)를 B방향에서 내려다본 형태일 수 있다.
도 16을 참조하면, 도 15에서의 제1 전자 장치(1501)의 주변에 제1 내지 제3 객체(1510 내지 1530)가 배치된 상태에서, 제2 전자 장치(1502)를 통한 사용자 입력(1550)이 제1 전자 장치(1501)에 전송될 수 있다. 사용자 입력(1550)을 기반으로 가상 객체(1560)가 생성될 수 있다.
다양한 실시 예에서, 가상 객체(1560)는 각각의 객체들과 인접한 구간에 따라 서로 다른 형태를 가질 수 있다. 가상 객체(1560)는 각각의 객체들과 윤곽선 및 depth 정보를 참조하여 변형될 수 있다.
예를 들어, 제1 구간(1560a)은 제1 객체(1510)의 표면 형태를 따라 직선 구간일 수 있다. 제2 구간(1560b)은 원통형의 제2 객체(1520)의 표면 형태를 따라 곡선 구간일 수 있다. 제3 구간(1560c)은 제3 객체(1530)의 표면 형태에 따라 직선 구간 일수 있다. 제3 구간(1560c)은 제1 구간(1560a)보다 객체와 사용자 입력(1550) 사이의 거리가 더 큰 점을 반영하여, 제3 구간(1560c)에서, 가상 객체(1560)는 -Z 방향으로 이동할 수 있다.
다양한 실시 예에 따르면, 상기 분할된 구간의 (x, y)좌표에 대응하는 z 좌표를 상기 정의한 정보에 의해서 z=0으로 하여 공간상의 평면 좌표로 변환할 수 있다. 또 다른 실시 예에서, z 좌표는 상기 (x,y)에 대응하는 축 상의 적어도 하나 이상의 객체들의 정보로 변환할 수 있다. 또 다른 실시 예에서, z 좌표들은 적어도 하나 이상의 객체들로부터 선택된 U 객체의 하나의 Uz 좌표로 일괄 변환할 수 있다.
다양한 실시 예에서, 제2 전자 장치(1502)를 사용하는 제2 사용자의 의도는 사용자 입력(1550)을 생성하는 시점의 음성정보 및 제2 전자 장치(1502)의 화면 정보로 판단할 수 있다. 예를 들어, 태블릿 PC 사용자가 “제1 객체의 표면을 따라서 직선”이라고 표현을 하면 입력된 (x,y)에 상응하는 z 좌표를 A 객체의 depth 정보를 참여하여 변환할 수 있다.
도 17은 다양한 실시 예에 따른 깊이 카메라를 이용한 사용자 입력의 형성을 설명하는 예시도이다. 전자 장치(1701)은 도 15에서 제2 전자 장치(1502)일 수 있다.
도 17을 참조하면, 전자 장치(1701)(예: 태블릿 PC)는 depth 카메라(1702)를 포함할 수 있다. 전자 장치(1701)는 depth 카메라(1702)를 이용하여, 외부 장치(예: HMD)에서 가상 객체를 생성하기 위한 사용자 입력(1730)을 생성할 수 있다.
전자 장치(1701)는 외부 장치(예: HMD)를 통해 수신한 영상의 깊이 데이터(depth data)를 저장할 수 있다. 전자 장치(1701)는 외부 장치(예: HMD)로부터 전달되는 화면을 출력하면서, 현재 사용중인 전자 장치(1701)의 depth 카메라 (1702)로 찍은 펜(1720)의 동작을 중첩시킬 수 있다.
이 경우, 전자 장치(1701)의 화면에는 외부 장치(예: HMD)에서 보내온 영상과 펜(1720)만을 중첩하여 출력될 수 있다. 펜(1720)을 제외한 depth 카메라 (1702)로 촬영한 배경은 제외될 수 있다.
예를 들어, 사용자가 펜(1720)의 특정 버튼을 누르고, depth 카메라(1702)가 찍고 있는 3D 공간에 펜(1720)으로 그림을 그리면, depth 카메라(1702)가 펜(1720)의 특정 부분을 트래킹(tracking)하여, 외부 장치(예: HMD)에서 보내온 영상에 펜(1720)의 이동 경로에 따른 잔상이 생겼다가 사라지게 하여 가상 객체를 생성하고 공유할 수 있다.
도 18은 다양한 실시 예에 따른 모션 센서를 통한 사용자 입력의 생성을 설명하는 예시도이다. 전자 장치(1801)은 도 15에서의 제2 전자 장치(1502)일 수 있다.
도 18을 참조하면, 전자 장치(1801)는 3D 입력(예: force touch, 방향 센서, 모션 센서)을 통해 외부 장치(예: HMD)에 제공하는 사용자 입력을 생성할 수 있다. 생성된 사용자 입력은 외부 장치(예: HMD)에 송신될 수 있고 연관된 가상 객체를 생성하는데 이용될 수 있다.
예 1) Force Touch: 전자 장치(1801)는 사용자의 입력에 의해 터치 패드에 가해지는 압력 정보를 추가적으로 활용하여 사용자가 2개의 축 뿐만 아니라 3개의 축을 사용하여 사용자 입력을 생성하도록 할 수 있다. 도 18에서, 터치 입력(1820)을 누르는 압력에 따라 사용자 입력의 속성이 달라지도록 설정될 수 있다.
예 2) 모션 센싱: 전자 장치(1801)는 방향 센서 또는 모션 센서를 이용하여, 전자 장치(1801)의 움직임을 감지할 수 있다. 모션 센서를 통해 수집된 정보에 따라 사용자 입력의 속성이 달라지도록 할 수 있다. 예를 들어, 전자 장치(1801)는 모션 센서를 통해, 전자 장치(1801)가 A 방향으로 회전한 정보를 수집하는 경우, 회전 각도에 비례하는 사용자 입력(1830)을 생성할 수 있다.
다양한 실시 예에 따른 웨어러블 전자 장치는 프로세서, 디스플레이 장치, 메모리, 카메라 모듈 및 센서 모듈을 포함하고, 상기 프로세서는 상기 센서 모듈 또는 상기 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하고, 상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하고, 상기 카메라 모듈 또는 상기 센서 모듈을 이용하여 사용자 입력을 인식하고, 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하고, 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하고, 상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하고, 상기 디스플레이 장치에 상기 제1 가상 객체를 출력하도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 웨어러블 전자 장치는 스마트 글래스 또는 헤드 마운트 장치 중 하나일 수 있다. 상기 메모리는 상기 3차원 가상 공간에 포함된 상기 실제 객체 또는 상기 제1 가상 객체에 관한 정보를 저장할 수 있다.
도 19는 다양한 실시 예에 따른 전자 장치(1901)의 블록도(1900)를 나타낸다.
도 19를 참조하면, 전자 장치(1901)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(1901)는 하나 이상의 프로세서(예: AP)(1910), 통신 모듈(1920), 가입자 식별 모듈(1924), 메모리(1930), 센서 모듈(1940), 입력 장치(1950), 디스플레이(1960), 인터페이스(1970), 오디오 모듈(1980), 카메라 모듈(1991), 전력 관리 모듈(1995), 배터리(1996), 인디케이터(1997), 및 모터(1998)를 포함할 수 있다.
프로세서(1910)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(1910)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(1910)는, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(1910)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(1910)는 도 19에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(1921))를 포함할 수도 있다. 프로세서(1910)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(1920)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(1920)은, 예를 들면, 셀룰러 모듈(1921), Wi-Fi 모듈(1922), 블루투스 모듈(1923), GNSS 모듈(1924)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(1925), MST 모듈(1926), 및 RF(radio frequency) 모듈(1927)을 포함할 수 있다.
셀룰러 모듈(1921)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1921)은 가입자 식별 모듈(예: SIM 카드)(1929)을 이용하여 통신 네트워크 내에서 전자 장치(1901)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1921)은 프로세서(1910)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1921)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다.
Wi-Fi 모듈(1922), 블루투스 모듈(1923), GNSS 모듈(1924), NFC 모듈(1925), 또는 MST 모듈(1926) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(1921), Wi-Fi 모듈(1922), 블루투스 모듈(1923), GNSS 모듈(1924), NFC 모듈(1925), 또는 MST 모듈(1926) 중 적어도 일부(예: 두 개 이상)는 하나의 IC(integrated chip) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(1927)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(1927)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(1921), Wi-Fi 모듈(1922), 블루투스 모듈(1923), GNSS 모듈(1924), NFC 모듈(1925), MST 모듈(1926) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(1929)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID (integrated circuit card identifier)) 또는 가입자 정보(예: IMSI (international mobile subscriber identity))를 포함할 수 있다.
메모리(1930)(예: 메모리(130))는, 예를 들면, 내장 메모리(1932) 또는 외장 메모리(1934)를 포함할 수 있다. 내장 메모리(1932)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비-휘발성(non-volatile) 메모리 (예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), 마스크(mask) ROM, 플래시(flash) ROM, 플래시 메모리(예: 낸드플래시(NAND flash) 또는 노아플래시(NOR flash) 등), 하드 드라이브, 또는 SSD(solid state drive) 중 적어도 하나를 포함할 수 있다.
외장 메모리(1934)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(MultiMediaCard), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(1934)는 다양한 인터페이스를 통하여 전자 장치(1901)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
보안 모듈(1936)은 메모리(1930)보다 상대적으로 보안 레벨이 높은 저장 공간을 포함하는 모듈로써, 안전한 데이터 저장 및 보호된 실행 환경을 보장해주는 회로일 수 있다. 보안 모듈(1936)은 별도의 회로로 구현될 수 있으며, 별도의 프로세서를 포함할 수 있다. 보안 모듈(1936)은, 예를 들면, 탈착 가능한 스마트 칩, SD(secure digital) 카드 내에 존재하거나, 또는 전자 장치(1901)의 고정 칩 내에 내장된 내장형 보안 요소(embedded secure element(eSE))를 포함할 수 있다. 또한, 보안 모듈(1936)은 전자 장치(1901)의 운영 체제(OS)와 다른 운영 체제로 구동될 수 있다. 예를 들면, 보안 모듈(1936)은 JCOP(java card open platform) 운영 체제를 기반으로 동작할 수 있다.
센서 모듈(1940)은, 예를 들면, 물리량을 계측하거나 전자 장치(1901)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(1940)은, 예를 들면, 제스처 센서(1940A), 자이로 센서(1940B), 기압 센서(1940C), 마그네틱 센서(1940D), 가속도 센서(1940E), 그립 센서(1940F), 근접 센서(1940G), 컬러 센서(1940H)(예: RGB 센서), 생체 센서(1940I), 온/습도 센서(1940J), 조도 센서(1940K), 또는 UV(ultra violet) 센서(1940M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(1940)은, 예를 들면, 후각 센서(E-nose sensor), EMG(electromyography) 센서, EEG(electroencephalogram) 센서, ECG(electrocardiogram) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(1940)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1901)는 프로세서(1910)의 일부로서 또는 별도로, 센서 모듈(1940)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(1910)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(1940)을 제어할 수 있다.
입력 장치(1950)는, 예를 들면, 터치 패널(touch panel)(1952), (디지털) 펜 센서(pen sensor)(1954), 키(key)(1956), 또는 초음파(ultrasonic) 입력 장치(1958)를 포함할 수 있다. 터치 패널(1952)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(1952)은 제어 회로를 더 포함할 수도 있다. 터치 패널(1952)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(1954)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 시트(sheet)를 포함할 수 있다. 키(1956)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(1958)는 마이크(예: 마이크(1988))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(1960)(예: 디스플레이(160))는 패널(1962), 홀로그램 장치(1964), 또는 프로젝터(1966)를 포함할 수 있다. 패널(1962)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(1962)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(1962)은 터치 패널(1952)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(1964)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(1966)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(1901)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이(1960)는 상기 패널(1962), 상기 홀로그램 장치(1964), 또는 프로젝터(1966)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(1970)는, 예를 들면, HDMI(1972), USB(1974), 광 인터페이스(optical interface)(1976), 또는 D-sub(D-subminiature)(1978)를 포함할 수 있다. 인터페이스(1970)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(1970)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD 카드/MMC 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(1980)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(1980)의 적어도 일부 구성요소는, 예를 들면, 도 1에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 오디오 모듈(1980)은, 예를 들면, 스피커(1982), 리시버(1984), 이어폰(1986), 또는 마이크(1988) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(1991)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 제논 램프(xenon lamp))를 포함할 수 있다.
전력 관리 모듈(1995)은, 예를 들면, 전자 장치(1901)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(1995)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(1996)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(1996)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(1997)는 전자 장치(1901) 혹은 그 일부(예: 프로세서(1910))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(1998)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(1901)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(Digital Multimedia Broadcasting), DVB(Digital Video Broadcasting), 또는 미디어플로(MediaFLOTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 20은 다양한 실시 예에 따른 프로그램 모듈(2010)의 블록도(2000)를 나타낸다.
한 실시 예에 따르면, 프로그램 모듈(2010)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(OS) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(2010)은 커널(2020), 미들웨어(2030), API(2060), 및/또는 어플리케이션(2070)을 포함할 수 있다. 프로그램 모듈(2010)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(2020)(예: 커널(141))은, 예를 들면, 시스템 리소스 매니저(2021) 또는 디바이스 드라이버(2023)를 포함할 수 있다. 시스템 리소스 매니저(2021)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(2021)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(2023)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, Wi-Fi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(2030)는, 예를 들면, 어플리케이션(2070)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(2070)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(2060)를 통해 다양한 기능들을 어플리케이션(2070)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(2030)(예: 미들웨어(143))는 런타임 라이브러리(2035), 어플리케이션 매니저(application manager)(2041), 윈도우 매니저(window manager)(2042), 멀티미디어 매니저(multimedia manager)(2043), 리소스 매니저(resource manager)(2044), 파워 매니저(power manager)(2045), 데이터베이스 매니저(database manager)(2046), 패키지 매니저(package manager)(2047), 연결 매니저(connectivity manager)(2048), 통지 매니저(notification manager)(2049), 위치 매니저(location manager)(2050), 그래픽 매니저(graphic manager)(2051), 보안 매니저(security manager)(2052), 또는 결제 매니저(2054) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(2035)는, 예를 들면, 어플리케이션(2070)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(2035)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(2041)는, 예를 들면, 어플리케이션(2070) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(2042)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(2043)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(2044)는 어플리케이션(2070) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(2045)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(2046)는 어플리케이션(2070) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(2047)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(2048)는, 예를 들면, Wi-Fi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(2049)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(2050)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(2051)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(2052)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(2030)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(2030)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(2030)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(2030)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(2060)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(2070)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(2071), 다이얼러(2072), SMS/MMS(2073), IM(instant message)(2074), 브라우저(2075), 카메라(2076), 알람(2077), 컨택트(2078), 음성 다이얼(2079), 이메일(2080), 달력(2081), 미디어 플레이어(2082), 앨범(2083), 시계(2084), 결제(2085), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션(2070)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 어플리케이션(2070)은 외부 전자 장치(예: 전자 장치(102, 104))의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(2070)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(2070)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(2010)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 프로그램 모듈(2010)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(2010)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(1910))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(2010)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
다양한 실시 예에 따른 컴퓨터로 읽을 수 있는 기록 매체는 하나 이상의 명령어를 저장하고, 상기 명령어는 전자 장치가 센서 모듈 또는 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하는 동작, 상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하는 동작, 카메라 모듈 또는 센서 모듈을 이용하여 사용자 입력을 인식하는 동작, 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하는 동작, 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하는 동작 및 상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하는 동작, 디스플레이 장치에 상기 제1 가상 객체를 출력하는 동작을 수행하도록 할 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM, DVD(Digital Versatile Disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM, RAM, 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 발명의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 발명의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.

Claims (20)

  1. 전자 장치에서 수행되는 증강 현실 출력 방법에 있어서,
    센서 모듈 또는 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하는 동작;
    상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하는 동작;
    카메라 모듈 또는 센서 모듈을 이용하여 사용자 입력을 인식하는 동작;
    상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하는 동작;
    상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하는 동작;
    상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하는 동작; 및
    디스플레이 장치에 상기 제1 가상 객체를 출력하는 동작을 포함하는 방법.
  2. 제1항에 있어서, 상기 시선 공간 정보를 추출하는 동작은
    상기 센서 모듈 또는 상기 카메라 모듈에 기반하여 상기 3차원 공간 정보를 생성하는 동작;을 포함하는 방법.
  3. 제2항에 있어서, 상기 3차원 공간 정보를 생성하는 동작은
    컬러 카메라(color camera), 깊이 카메라(depth camera), 열 카메라, IR 카메라 중 적어도 하나를 포함하는 상기 카메라 모듈을 통해 상기 전자 장치의 주변을 촬영하는 동작;을 포함하는 방법.
  4. 제2항에 있어서, 상기 3차원 공간 정보를 생성하는 동작은
    선, 다각선(polylines), 곡선(curves), 다각형(polygons), 원, 타원, 텍스트 정보를 포함하는 상기 3차원 공간 정보를 생성하는 동작;을 포함하는 방법.
  5. 제1항에 있어서, 상기 사용자 입력을 인식하는 동작은
    사용자의 제스처 또는 지정된 입력 패턴을 상기 사용자 입력으로 인식하는 동작;을 포함하는 방법.
  6. 제1항에 있어서, 상기 사용자 입력을 인식하는 동작은
    포인트 입력 또는 스트로크 입력 중 하나에 의한 상기 사용자 입력을 인식하는 동작;을 포함하는 방법.
  7. 제1항에 있어서, 상기 제1 부분과 상기 사용자 입력을 비교하는 동작은
    상기 3차원 공간 정보로부터 상기 사용자 입력의 경로에 대응되는 범위 내에 포함되는 3차원 공간 정보 내 제2 부분을 추출하는 동작; 및
    상기 제2 부분과 상기 사용자 입력의 경로 사이의 거리를 측정하는 동작;을 포함하는 방법.
  8. 제1항에 있어서, 상기 제1 부분과 상기 사용자 입력을 비교하는 동작은
    상기 사용자 입력의 경로가 포함된 평면 정보를 계산하는 동작;
    상기 3차원 공간 정보로부터 상기 사용자 입력의 경로에 대응되는 범위 내에 포함되는 3차원 공간 정보 내 제2 부분을 추출하는 동작; 및
    상기 제2 부분의 평면 정보와 상기 사용자 입력의 경로가 포함된 평면 정보를 비교하는 동작;을 포함하는 방법.
  9. 제1항에 있어서, 상기 제1 부분과 상기 사용자 입력을 비교하는 동작은
    사용자의 시선의 위치 및 상기 사용자 입력을 구성하는 각 점들을 연결한 연장선과 상기 실제 객체가 만나거나 인접하는 대응점을 확인하는 동작;을 포함하는 방법.
  10. 제9항에 있어서, 상기 대응점을 확인하는 동작은
    상기 연장선과 상기 실제 객체의 표면 또는 윤곽선이 인접하는 지점을 상기 대응점으로 결정하는 동작;을 포함하는 방법.
  11. 제1항에 있어서, 상기 제1 가상 객체를 생성하는 동작은
    상기 3차원 공간 정보 내 제1 부분과 상기 사용자 입력의 유사도에 기반하여 유사하다고 판단될 경우, 상기 제1 가상 객체를 생성하는 동작;을 포함하는 방법.
  12. 제1항에 있어서, 상기 제1 가상 객체를 생성하는 동작은
    상기 실제 객체의 표면 정보 또는 윤곽선 정보를 기반으로 2차원 평면 상의 상기 사용자 입력의 각 점을 3차원 공간의 대응점으로 매칭하는 동작;을 포함하는 방법.
  13. 제12항에 있어서, 상기 3차원 공간의 대응점으로 매칭하는 동작은
    사용자의 시선과 상기 사용자 입력의 연장선 상에 또는 상기 연장선의 주변에 존재하는 가상 객체에 기반하여 결정되는 동작;을 포함하는 방법.
  14. 제1항에 있어서, 상기 제1 가상 객체를 생성하는 동작은
    실제 객체의 중심 축 또는 중심 면과 평행한 축 또는 면을 기준으로 상기 가상 객체를 배치하는 동작;을 포함하는 방법.
  15. 제1항에 있어서, 상기 제1 가상 객체를 생성하는 동작은
    실제 객체의 경계와 연장되거나 상기 실제 객체의 경계와 지정된 각도를 이루는 가상 객체를 생성하는 동작;을 포함하는 방법.
  16. 제1항에 있어서, 상기 사용자 입력을 인식하는 동작은
    제1 객체와 제2 객체를 연결하는 상기 사용자 입력을 인식하는 동작;을 포함하고,
    상기 제1 가상 객체를 생성하는 동작은
    상기 제1 객체의 연결점과 상기 제2 객체의 연결점 사이를 지정된 속성에 따른 선으로 연결하는 상기 제1 가상 객체를 생성하는 동작;을 포함하는 방법.
  17. 제16항에 있어서, 상기 제1 가상 객체를 생성하는 동작은
    상기 제1 객체의 속성이 변화되었다고 판단되는 경우, 상기 속성의 변화에 기반하여 상기 제1 가상 객체의 속성을 변경하는 동작;을 포함하는 방법.
  18. 웨어러블 전자 장치에 있어서,
    프로세서, 디스플레이 장치, 메모리, 카메라 모듈 및 센서 모듈을 포함하고,
    상기 프로세서는
    상기 센서 모듈 또는 상기 카메라 모듈 중 적어도 하나에 기반하여 사용자의 시선 정보를 생성하고,
    상기 시선 정보를 기반하여 상기 사용자 주변의 실제 객체에 대응되는 3차원 공간 정보로부터 사용자 시선에 대응되는 시선 공간 정보를 추출하고,
    상기 카메라 모듈 또는 상기 센서 모듈을 이용하여 사용자 입력을 인식하고, 상기 시선 공간 정보 내 제1 부분과 상기 사용자 입력을 비교하고, 상기 비교에 기반하여 상기 사용자 입력을 보정하여 보정된 입력 정보를 생성하고, 상기 보정된 입력 정보에 기반하여 제1 가상 객체를 생성하고, 상기 디스플레이 장치에 상기 제1 가상 객체를 출력하도록 설정된 장치.
  19. 제18항에 있어서, 상기 웨어러블 전자 장치는
    스마트 글래스 또는 헤드 마운트 장치 중 하나인 것을 특징으로 하는 장치.
  20. 제18항에 있어서, 상기 메모리는
    상기 3차원 가상 공간에 포함된 상기 실제 객체 또는 상기 제1 가상 객체에 관한 정보를 저장하는 것을 특징으로 하는 장치.
KR1020160008812A 2016-01-25 2016-01-25 증강 현실 출력 방법 및 이를 지원하는 전자 장치 KR20170088655A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160008812A KR20170088655A (ko) 2016-01-25 2016-01-25 증강 현실 출력 방법 및 이를 지원하는 전자 장치

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020160008812A KR20170088655A (ko) 2016-01-25 2016-01-25 증강 현실 출력 방법 및 이를 지원하는 전자 장치
US15/415,817 US10281981B2 (en) 2016-01-25 2017-01-25 AR output method and electronic device for supporting the same

Publications (1)

Publication Number Publication Date
KR20170088655A true KR20170088655A (ko) 2017-08-02

Family

ID=59360675

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160008812A KR20170088655A (ko) 2016-01-25 2016-01-25 증강 현실 출력 방법 및 이를 지원하는 전자 장치

Country Status (2)

Country Link
US (1) US10281981B2 (ko)
KR (1) KR20170088655A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107995481A (zh) * 2017-11-30 2018-05-04 贵州颐爱科技有限公司 一种混合现实的显示方法及装置

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10740973B2 (en) * 2017-06-23 2020-08-11 Dell Products, L.P. Ultrasonic collision management in virtual, augmented, and mixed reality (xR) applications
CN107564099A (zh) * 2017-08-29 2018-01-09 上海爱优威软件开发有限公司 一种3d空间模型的构建方法及系统
DK201870352A1 (en) 2018-05-07 2019-12-09 Apple Inc. Devices and Methods for Measuring Using Augmented Reality
US10893844B1 (en) * 2018-10-10 2021-01-19 David Byron Douglas Method and apparatus for performing 3D imaging examinations of a structure under differing configurations and analyzing morphologic changes
US10740960B2 (en) * 2019-01-11 2020-08-11 Microsoft Technology Licensing, Llc Virtual object placement for augmented reality
US20200273252A1 (en) * 2019-02-22 2020-08-27 Microsoft Technology Licensing, Llc Ergonomic mixed reality information delivery system for dynamic workflows
US11003308B1 (en) 2020-02-03 2021-05-11 Apple Inc. Systems, methods, and graphical user interfaces for annotating, measuring, and modeling environments

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7739623B2 (en) 2004-04-15 2010-06-15 Edda Technology, Inc. Interactive 3D data editing via 2D graphical drawing tools
US10019962B2 (en) * 2011-08-17 2018-07-10 Microsoft Technology Licensing, Llc Context adaptive user interface for augmented reality display
US9292085B2 (en) * 2012-06-29 2016-03-22 Microsoft Technology Licensing, Llc Configuring an interaction zone within an augmented reality environment
US9898844B2 (en) * 2013-12-31 2018-02-20 Daqri, Llc Augmented reality content adapted to changes in real world space geometry
US9858720B2 (en) * 2014-07-25 2018-01-02 Microsoft Technology Licensing, Llc Three-dimensional mixed-reality viewport
US10409443B2 (en) * 2015-06-24 2019-09-10 Microsoft Technology Licensing, Llc Contextual cursor display based on hand tracking
CN106558103A (zh) * 2015-09-24 2017-04-05 鸿富锦精密工业(深圳)有限公司 扩增实境图像处理系统及扩增实境图像处理方法
US9990779B2 (en) * 2016-05-13 2018-06-05 Meta Company System and method for modifying virtual objects in a virtual environment in response to user interactions
US20170372499A1 (en) * 2016-06-27 2017-12-28 Google Inc. Generating visual cues related to virtual objects in an augmented and/or virtual reality environment
US20180190022A1 (en) * 2016-12-30 2018-07-05 Nadav Zamir Dynamic depth-based content creation in virtual reality environments

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107995481A (zh) * 2017-11-30 2018-05-04 贵州颐爱科技有限公司 一种混合现实的显示方法及装置
CN107995481B (zh) * 2017-11-30 2019-11-15 贵州颐爱科技有限公司 一种混合现实的显示方法及装置

Also Published As

Publication number Publication date
US20170212585A1 (en) 2017-07-27
US10281981B2 (en) 2019-05-07

Similar Documents

Publication Publication Date Title
KR20170088655A (ko) 증강 현실 출력 방법 및 이를 지원하는 전자 장치
EP3293723A1 (en) Method, storage medium, and electronic device for displaying images
US10229565B2 (en) Method for producing haptic signal and electronic device supporting the same
US10289376B2 (en) Method for displaying virtual object in plural electronic devices and electronic device supporting the method
KR20160027864A (ko) 가상 현실 서비스를 제공하기 위한 방법 및 이를 위한 장치들
KR20160096422A (ko) 화면 표시 방법 및 전자 장치
EP3466070B1 (en) Method and device for obtaining image, and recording medium thereof
KR20180013277A (ko) 그래픽 객체를 표시하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록 매체
US10917552B2 (en) Photographing method using external electronic device and electronic device supporting the same
KR20160144851A (ko) 이미지를 처리하는 전자 장치 및 그 제어 방법
KR20170066054A (ko) 오디오 제공 방법 및 그 장치
KR20160051411A (ko) 외부의 물체를 제어하는 전자 장치 및 그 방법
US20190158819A1 (en) Electronic device and gaze tracking method of electronic device
CN106168850B (zh) 用于显示屏幕的电子设备及其控制方法
KR20170052984A (ko) 사용자의 위치를 결정하는 전자 장치 및 그 제어 방법
EP3327551A1 (en) Electronic device for displaying image and method for controlling the same
KR20170062376A (ko) 전자 장치 및 파노라마 영상 표시와 생성 방법
EP3591514A1 (en) Electronic device and screen image display method for electronic device
KR20180093558A (ko) 피사체의 이미지를 획득하기 위한 인터페이스를 제공하는 방법 및 전자 장치
KR20180083144A (ko) 마커를 검출하기 위한 방법 및 그 전자 장치
KR20180056174A (ko) 콘텐츠 처리 방법 및 이를 지원하는 전자 장치
KR20180050143A (ko) 눈을 촬영하여 정보를 획득하는 방법 및 장치
US11006048B2 (en) Method and apparatus for acquiring omnidirectional video
US10582156B2 (en) Electronic device for performing video call and computer-readable recording medium
KR102284769B1 (ko) 3d 컨텐츠를 제공하는 서버 및 그 동작 방법

Legal Events

Date Code Title Description
A201 Request for examination