KR20230150967A - 헤드 장착 디바이스의 움직임 검출 - Google Patents

헤드 장착 디바이스의 움직임 검출 Download PDF

Info

Publication number
KR20230150967A
KR20230150967A KR1020237028934A KR20237028934A KR20230150967A KR 20230150967 A KR20230150967 A KR 20230150967A KR 1020237028934 A KR1020237028934 A KR 1020237028934A KR 20237028934 A KR20237028934 A KR 20237028934A KR 20230150967 A KR20230150967 A KR 20230150967A
Authority
KR
South Korea
Prior art keywords
head mounted
mounted device
user
nose
light
Prior art date
Application number
KR1020237028934A
Other languages
English (en)
Inventor
커쉬드 시에드 알람
러셀 그룰크
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20230150967A publication Critical patent/KR20230150967A/ko

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0066Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form characterised by the light source being coupled to the light guide
    • G02B6/0068Arrangements of plural sources, e.g. multi-colour light sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

일부 양태들에서, 헤드 장착 디바이스는 헤드 장착 디바이스를 착용한 사용자의 눈을 향하도록 구성되는 아이 부분을 포함할 수도 있고, 아이 부분은 디스플레이를 포함한다. 헤드 장착 디바이스는 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 적어도 하나의 광 이미터를 포함할 수도 있다. 헤드 장착 디바이스는 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 데 사용하기 위해 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성된 적어도 하나의 이미지 센서를 포함할 수도 있다. 많은 다른 양태들이 제공된다.

Description

헤드 장착 디바이스의 움직임 검출
관련 출원에 대한 상호 참조
본 특허출원은 2021년 3월 1일자로 출원되고 발명의 명칭이 "MOVEMENT DETECTION OF A HEAD MOUNTED DEVICE"인 미국 정규특허출원 제 17/249,393호를 우선권 주장하고, 이 출원은 본 명세서에서 참조로서 명백하게 통합된다.
기술분야
본 개시의 양태들은 일반적으로 헤드 장착 디바이스에 관한 것이고 예를 들어, 헤드 장착 디바이스의 움직임 검출에 관한 것이다.
헤드 장착 디스플레이는 사용자의 머리에 착용될 수 있는 디스플레이 디바이스이다. 헤드 장착 디스플레이는 사용자의 한쪽 눈 앞에 (단안 헤드 장착 디스플레이로 지칭될 수 있음) 또는 사용자의 각각의 눈 앞에 (양안 헤드 장착 디스플레이로 지칭될 수 있음) 작은 디스플레이 광학계를 포함할 수 있다. 헤드 장착 디스플레이는, 다른 예들 중에서도, 게임, 항공, 공학, 및/또는 의료와 관련하여 사용될 수 있다. 가상 현실 헤드셋은 헤드 장착 디스플레이 (예를 들어, 관성 측정 유닛을 이용하는 헤드 장착 디스플레이) 의 일 예이다. 헤드 장착 디스플레이의 다른 예는 증강 현실 헤드 장착 디스플레이이며, 이는 사용자가 디스플레이를 통해 볼 수 있게 하면서 투사된 이미지들을 반사할 수 있는 웨어러블 디스플레이이다.
일부 양태들에서, 헤드 장착 디바이스는 헤드 장착 디바이스를 착용한 사용자의 눈을 향하도록 구성되고, 디스플레이를 포함하는 아이 부분; 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 적어도 하나의 광 이미터; 및 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 데 사용하기 위해 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성된 적어도 하나의 이미지 센서를 포함한다.
일부 양태들에서, 시스템은 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 광 이미터; 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성되는 이미지 센서; 메모리; 및 메모리에 커플링된 하나 이상의 프로세서들을 포함하고, 메모리 및 하나 이상의 프로세서들은: 이미지에 적어도 부분적으로 기초하여 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하도록 구성된다.
일부 양태들에서, 방법은 헤드 장착 디바이스의 이미지 센서로부터, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분의 제 1 이미지를 획득하는 단계; 헤드 장착 디바이스의 이미지 센서로부터, 사용자의 코의 적어도 일부분의 제 2 이미지를 획득하는 단계; 제 1 이미지 및 제 2 이미지에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 단계; 및 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하는 단계를 포함한다.
일부 양태들에서, 명령들의 세트를 저장한 비일시적 컴퓨터 판독가능 매체는 하나 이상의 명령들을 포함하고, 하나 이상의 명령들은 헤드 장착 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 헤드 장착 디바이스로 하여금: 이미지 센서를 사용하여, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 모니터링하게 하고; 사용자의 코를 모니터링하는 것에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하게 하고; 그리고 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하게 한다.
양태들은 일반적으로, 도면들과 명세서를 참조하여 실질적으로 설명된 바와 같은 그리고 도면들과 명세서에 의해 예시된 바와 같은 방법, 장치, 시스템, 컴퓨터 프로그램 제품, 비일시적인 컴퓨터 판독가능 매체, 사용자 디바이스, 무선 통신 디바이스 및/또는 프로세싱 시스템을 포함한다.
전술한 바는, 뒤따르는 상세한 설명이 더 잘 이해될 수도 있도록 본 개시에 따른 예들의 특징들 및 기술적 이점들을 다소 폭넓게 약술하였다. 부가적인 특징들 및 이점들이 이하에서 설명될 것이다. 개시된 개념 및 특정 예들은 본 개시의 동일한 목적들을 수행하기 위한 다른 구조들을 수정 또는 설계하기 위한 기초로서 용이하게 활용될 수도 있다. 그러한 등가의 구성들은 첨부된 청구항들의 범위로부터 벗어나지 않는다. 본원에서 개시된 개념들의 특성들, 그들의 조직 및 동작 방법 양자 모두는, 연관된 이점들과 함께, 첨부 도면들과 관련하여 고려될 때 이하의 설명으로부터 더 잘 이해될 것이다. 도면들 각각은, 청구항들의 제한들에 대한 정의로서가 아니라, 예시 및 설명의 목적으로 제공된다.
본 개시의 상기 기재된 특징들이 상세히 이해될 수 있도록, 상기 간략히 요약된, 보다 구체적인 설명이 양태들을 참조하여 이루어질 수도 있으며, 그 양태들 중 일부는 첨부된 도면들에 예시된다. 그러나, 본 설명은 다른 동등한 효과의 양태들을 허용할 수도 있으므로, 첨부된 도면들은 본 개시의 특정한 전형적 양태들만을 예시하고 따라서 본 개시의 범위를 한정하는 것으로 고려되서는 안된다는 점에 유의해야 한다. 상이한 도면들에서의 동일한 참조 번호들은 동일하거나 또는 유사한 엘리먼트들을 식별할 수도 있다.
도 1 은 본 개시에 따라, 본 명세서에 설명된 헤드 장착 디바이스가 구현될 수도 있는 일 예의 환경을 예시하는 다이어그램이다.
도 2 는 본 개시에 따라, 헤드 장착 디바이스 또는 사용자 디바이스와 같은, 도 1 에 도시된 하나 이상의 디바이스들의 일 예의 컴포넌트들을 예시하는 다이어그램이다.
도 3a-3b 는 본 개시에 따라 헤드 장착 디바이스들의 예들의 다이어그램들이다.
도 4a-4b 는 도 3a 의 헤드 장착 디바이스의 일 예의 브릿지 부분의 다이어그램들이다.
도 5a-5b 는 도 3a 의 헤드 장착 디바이스의 일 예의 브릿지 부분의 다이어그램들이다.
도 6a-6b 는 도 3a 의 헤드 장착 디바이스의 일 예의 브릿지 부분의 다이어그램들이다.
도 7 은 본 개시에 따라, 헤드 장착 디바이스의 움직임 검출과 연관된 일 예를 예시하는 다이어그램이다.
도 8-9 는 본 개시에 따라, 헤드 장착 디바이스의 움직임 검출과 연관된 일 예의 프로세스들의 플로우차트들이다.
본 개시의 여러 양태들은 첨부 도면들을 참조하여 이하에서 보다 충분히 설명된다. 그러나, 본 개시는 많은 상이한 형태들로 구현될 수도 있고 본 개시 전체에 걸쳐 제시된 임의의 특정 구조 또는 기능에 한정되는 것으로 해석되지 않아야 한다. 오히려, 이들 양태들은 본 개시가 철저하고 완전하게 하기 위하여 그리고 본 개시의 범위를 당업자에게 완전히 전달하기 위해서 제공된다. 본 명세서에서의 교시들에 기초하여, 당업자는, 본 개시의 범위가, 본 명세서에서 개시된 본 개시의 임의의 양태를, 본 개시의 임의의 다른 양태와 독립적으로 구현되든 또는 조합되든지 간에, 커버하도록 의도된다는 것을 인식해야 한다. 예를 들어, 본 명세서에 제시된 임의의 수의 양태들을 사용하여 장치가 구현될 수도 있거나 방법이 실시될 수도 있다. 추가로, 본 개시의 범위는 본 명세서에서 제시된 본 개시의 다양한 양태들에 추가로 또는 그들 외로 다른 구조, 기능성, 또는 구조 및 기능성을 사용하여 실시되는 그러한 장치 또는 방법을 커버하도록 의도된다. 본 명세서에서 개시된 본 개시의 임의의 양태는 청구항의 하나 이상의 엘리먼트들에 의해 구현될 수도 있음이 이해되어야 한다.
헤드 장착 디바이스 (예를 들어, 헤드 장착 디스플레이 디바이스) 는 증강 현실 (AR) 및/또는 가상 현실 (VR) 애플리케이션들에 사용될 수 있다. 일부 예들에서, 헤드 장착 디바이스는 헤드 장착 디바이스의 사용자의 시선 추적을 위한 하나 이상의 눈-대향 카메라들을 포함할 수도 있다. 예를 들어, 시선 추적은 사용자의 시선의 방향을 모니터링하는데 사용될 수 있다. 헤드 장착 디바이스는 사용자의 시선의 방향에 기초하여 디스플레이의 컨텐츠를 조정하거나, 디스플레이되는 장면을 조정하거나, 특정 정보를 디스플레이하는 등을 할 수 있다.
일부 경우들에서, 사용자에 의해 착용된 헤드 장착 디바이스는 사용 동안 사용자의 눈들에 대해 이동 (예를 들어, 시프트 또는 회전) 할 수 있고, 이에 의해 시선 추적을 어렵게 할 수 있다. 예를 들어, 시선 추적의 연속적인 캘리브레이션이 헤드 장착 디바이스의 움직임을 보상하기 위해 필요할 수 있다. 일부 예들에서, 시선 추적의 캘리브레이션을 수행하기 위해 사용자의 눈들로부터의 광학 글린트들이 추적될 수 있다. 그러나, 이러한 접근법들은 복잡하고 상당한 전력 및 프로세싱 리소스들을 소모한다.
본 명세서에 설명된 일부 기법들 및 장치들은 시선 추적에 유용할 수 있는 헤드 장착 디바이스의 움직임 검출을 제공한다. 일부 양태들에서, 이미지 센서 (예를 들어, 카메라) 는 사용자의 얼굴의 정지 부분에 대한 헤드 장착 디바이스의 움직임 (예를 들어, 시프트 또는 회전) 을 검출하는 데 사용될 수 있다. 예를 들어, 사용자의 얼굴의 정지 부분은 사용자의 코, 특히 사용자의 코의 브릿지일 수 있다. 일부 양태들에서, 이미지 센서 및/또는 광 이미터는 헤드 장착 디바이스의 브릿지 부분 (예를 들어, 헤드 장착 디바이스의 좌안 부분과 우안 부분 사이의 부분, 및 헤드 장착 디바이스가 착용될 때 사용자의 코와 접촉하거나 거의 접촉하는 부분) 에 포지셔닝될 수 있다.
브릿지 부분의 폼 팩터 (form factor) 는 비교적 작을 수 있고, 따라서 이미지 센서 및/또는 광 이미터에 대한 가능한 위치들을 제한할 수 있다. 또한, 이미지 센서는 사용가능한 이미지를 획득하기 위해 사용자의 코로부터 특정 거리 (투사 거리 (throw distance) 로 지칭될 수 있음) 에 위치될 필요가 있을 수 있다. 일부 양태들에서, 헤드 장착 디바이스는 광 이미터로부터의 광을 사용자의 코로 지향시키고/시키거나 사용자의 코로부터 반사된 광을 이미지 센서로 지향시키도록 구성된 적어도 하나의 광 가이드를 포함할 수도 있다. 이러한 방식으로, 광 가이드는 사용가능한 이미지가 획득될 수 있도록 이미지 센서와 사용자의 코 사이에 충분한 투사 거리를 허용한다.
일부 양태들에서, 이미지 센서는 사용자의 코에 대한 피처들 (예를 들어, 스킨 피처들) 을 묘사할 수 있는 사용자의 코의 이미지들을 획득할 수 있다. 헤드 장착 디바이스가 사용 동안 이동할 때, 움직임은 이미지들에 적어도 부분적으로 기초하여 결정될 수 있다. 이는 이미지들을 가로질러 사용자의 코의 피처들의 픽셀-바이-픽셀 시프팅을 추적하는 것에 의해 달성될 수 있다. 또한, 시선 추적을 위해 사용되는 캘리브레이션은 결정되는 움직임에 적어도 부분적으로 기초하여 조정될 수 있다. 이러한 방식으로, 본 명세서에 설명된 기법들 및 장치들은 전력 리소스들 및 프로세싱 리소스들을 보존하는 효율적인 시선 추적을 용이하게 한다.
도 1 은 여기에 설명된 시스템 및/또는 방법이 구현될 수 있는 일 예의 환경 (100) 의 다이어그램이다. 도 1 에 도시된 바와 같이, 환경 (100) 은 헤드 장착 디바이스 (110), 사용자 디바이스 (120) 및 네트워크 (130) 를 포함할 수도 있다. 환경 (100) 의 디바이스는 유선 접속, 무선 접속, 또는 유선과 무선 접속의 조합을 통해 상호 접속될 수도 있다.
헤드 장착 디바이스 (110) 는 본 명세서의 다른 곳에 설명된 바와 같이 헤드 장착 디바이스 (110) 의 움직임 검출과 연관된 정보를 수신, 생성, 저장, 프로세싱 및/또는 제공할 수 있는 하나 이상의 디바이스들을 포함한다. 헤드 장착 디바이스 (110) 는 통신 디바이스 및/또는 컴퓨팅 디바이스를 포함할 수 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 한 쌍의 스마트 안경, 헤드 장착 디스플레이, 가상 현실 헤드셋, 고글형 헤드셋 (예를 들어, 하나 이상의 디스플레이를 둘러싸는 헤드 장착 하우징), 헬멧 또는 유사한 유형의 디바이스와 같은 웨어러블 통신 디바이스를 포함할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 다른 예들 중에서도, 사용자의 코의 이미지들에 적어도 부분적으로 기초하여 헤드 장착 디바이스 (110) 의 움직임을 결정하고, 결정된 움직임에 적어도 부분적으로 기초하여 시선 추적에 사용되는 캘리브레이션을 조정하고, 캘리브레이션에 적어도 부분적으로 기초하여 시선 추적을 수행하고, 및/또는 시선 추적에 적어도 부분적으로 기초하여 디스플레이의 콘텐츠를 조정하도록 구성된 하나 이상의 프로세서들을 포함할 수도 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 하나 이상의 센서들을 포함할 수도 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 (예를 들어, 이미지 센서의 수신기에 입사하는 반사된 광에 적어도 부분적으로 기초하여) 이미지들을 획득하도록 구성된 이미지 센서를 포함할 수도 있다. 일 예로서, 이미지 센서는 카메라를 포함할 수도 있다. 일부 양태들에서, 이미지 센서는 저전력 이미지 센서일 수 있다 (예를 들어, 이미지 센서의 전력 소비는 임계 값 미만이다). 일부 양태들에서, 이미지 센서는 헤드 장착 디바이스 (110) 에 의해 수행되는 것으로 위에서 설명된 하나 이상의 동작들을 수행하도록 구성된 하나 이상의 프로세서들을 포함할 수도 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 광을 방출하도록 구성된 하나 이상의 광 이미터들을 포함할 수 있다. 예를 들어, 광 이미터는 이미지 센서의 시야에서 장면을 조명하도록 구성될 수도 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 의 센서 (예를 들어, 이미지 센서) 는 광 이미터를 포함할 수 있다. 일부 양태들에서, 광 이미터는 발광 다이오드 (LED) 또는 다른 저전력 광 이미터를 포함할 수 있다 (예를 들어, 광 이미터의 전력 소비는 임계 값 미만이다). 일부 양태들에서, 광 이미터는 적색 광 (예를 들어, 620 나노미터 내지 750 나노미터의 파장 범위의 광) 을 출력하도록 구성될 수 있다. 일부 양태들에서, 광 이미터는 근 적외선 광 (예를 들어, 750 나노미터 내지 1400 나노미터의 파장 범위의 광) 을 출력하도록 구성될 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 광을 지향시키도록 구성된 하나 이상의 광 가이드들을 포함할 수 있다. 일부 양태들에서, 광 가이드는 광 이미터로부터의 광을 사용자의 코로 지향시키도록 구성될 수 있다. 일부 양태들에서, 광 가이드는 사용자의 코로부터 반사된 광을 이미지 센서로 지향시키도록 구성될 수 있다. 일부 양태에서, 광 가이드는 플라스틱 또는 유리로 구성될 수 있다.
사용자 디바이스 (120) 는 본 명세서의 다른 곳에 설명된 바와 같이 헤드 장착 디바이스 (110) 의 움직임 검출과 연관된 정보를 수신, 생성, 저장, 프로세싱 및/또는 제공할 수 있는 하나 이상의 디바이스들을 포함한다. 예를 들어, 사용자 디바이스 (120) 는 헤드 장착 디바이스 (110) 에 의해 수행되는 바와 같이 위에서 설명된 하나 이상의 동작들을 수행하도록 구성된 하나 이상의 프로세서들을 포함할 수도 있다. 일부 양태들에서, 사용자 디바이스 (120) 는 하나 이상의 동작들을 수행하기 위해 헤드 장착 디바이스 (110) 로부터 정보 (예를 들어, 이미지 센서에 의해 획득된 이미지들에 관한 정보) 를 획득할 수도 있다.
사용자 디바이스 (120) 는 통신 디바이스 및/또는 컴퓨팅 디바이스를 포함할 수 있다. 예를 들어, 사용자 디바이스 (120) 는 무선 통신 디바이스, 모바일 폰, 사용자 장비, 랩톱 컴퓨터, 태블릿 컴퓨터, 데스크톱 컴퓨터, 게이밍 콘솔, 셋톱 박스, 웨어러블 통신 디바이스 (예를 들어, 스마트 손목시계), 또는 유사한 유형의 디바이스를 포함할 수 있다.
네트워크 (130) 는 하나 이상의 유선 및/또는 무선 네트워크들을 포함한다. 예를 들어, 네트워크 (130) 는 무선 광역 네트워크 (예를 들어, 셀룰러 네트워크 또는 공중 육상 모바일 네트워크), 근거리 네트워크 (예를 들어, 유선 근거리 네트워크 또는 Wi-Fi 네트워크와 같은 무선 근거리 네트워크 (WLAN)), 개인 영역 네트워크 (예를 들어, 블루투스 네트워크), 근거리 통신 네트워크, 전화 네트워크, 사설 네트워크, 인터넷, 및/또는 이들 또는 다른 유형의 네트워크들의 조합을 포함할 수 있다. 네트워크 (130) 는 환경 (100) 의 디바이스들 사이의 통신을 가능하게 한다.
도 1 에 나타낸 디바이스들 및 네트워크들의 수량 및 배열은 일 예로서 제공된다. 실제로, 도 1 에서 도시된 것보다 추가적인 디바이스들 및/또는 네트워크들, 더 적은 디바이스들 및/또는 네트워크들, 상이한 디바이스들 및/또는 네트워크들, 또는 상이하게 배열된 디바이스들 및/또는 네트워크들이 존재할 수도 있다. 또한, 도 1 에 도시된 2 개 이상의 디바이스들은, 단일 디바이스 내에 구현될 수도 있거나, 또는 도 1 에 도시된 단일 디바이스는 다수의 분산된 디바이스들로서 구현될 수도 있다. 부가적으로 또는 대안으로, 환경 (100) 의 디바이스들의 세트 (예를 들어, 하나 이상의 디바이스들) 는 환경 (100) 의 다른 디바이스들의 세트에 의해 수행되는 것으로 설명된 하나 이상의 기능들을 수행할 수도 있다.
도 2 는 본 개시에 따라, 디바이스 (200) 의 일 예의 컴포넌트들을 예시하는 다이어그램이다. 디바이스 (200) 는 헤드 장착 디바이스 (110), 및/또는 사용자 디바이스 (120) 에 대응할 수도 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 및/또는 사용자 디바이스 (120) 는 하나 이상의 디바이스들 (200) 및/또는 디바이스 (200) 의 하나 이상의 컴포넌트들을 포함할 수도 있다. 도 2 에 도시된 바와 같이, 디바이스 (200) 는 버스 (205), 프로세서 (210), 메모리 (215), 저장 컴포넌트 (220), 입력 컴포넌트 (225), 출력 컴포넌트 (230), 통신 인터페이스 (235), 하나 이상의 센서들 (240) (본 명세서에서 개별적으로 "센서 (240)"로 지칭되고, "센서들 (240)" 로 총칭됨) 및/또는 광 이미터 (245) 를 포함할 수도 있다.
버스 (205) 는 디바이스 (200) 의 컴포넌트들 사이에서 통신을 허용하는 컴포넌트를 포함한다. 프로세서 (210) 는 하드웨어, 펌웨어, 또는 하드웨어 및 소프트웨어의 조합에서 구현된다. 프로세서 (210) 는 중앙 프로세싱 유닛 (CPU), 그래픽 프로세싱 유닛 (GPU), 가속화 프로세싱 유닛 (APU), 마이크로프로세서, 마이크로제어기, 디지털 신호 프로세서 (DSP), 필드-프로그램가능 게이트 어레이 (FPGA), 주문형 집적 회로 (ASIC) 또는 다른 타입의 프로세싱 컴포넌트이다. 일부 양태들에서, 프로세서 (210) 는 기능을 수행하도록 프로그램될 수 있는 하나 이상의 프로세서를 포함한다. 메모리 (215) 는 랜덤 액세스 메모리 (RAM), 판독 전용 메모리 (ROM), 및/또는 프로세서 (210) 에 의해 사용하기 위한 정보 및/또는 명령들을 저장하는 다른 타입의 동적 또는 정적 저장 디바이스 (예를 들어, 플래시 메모리, 자기 메모리, 및/또는 광학 메모리) 를 포함한다.
저장 컴포넌트 (220) 는 디바이스 (200) 의 동작 및 사용과 관련된 정보 및/또는 소프트웨어를 저장한다. 예를 들어, 저장 컴포넌트 (220) 는 하드 디스크 (예를 들어, 자기 디스크, 광 디스크, 자기-광 디스크 및/또는 고체 상태 디스크), 컴팩트 디스크 (CD), 디지털 다기능 디스크 (DVD), 플로피 디스크, 카트리지, 자기 테이프, 및/또는 다른 타입의 비일시적 컴퓨터 판독가능 매체를, 대응하는 드라이브와 함께 포함할 수도 있다.
입력 컴포넌트 (225) 는 디바이스 (200) 가 예컨대 사용자 입력 (예를 들어, 터치 스크린 디스플레이, 키보드, 키패드, 마우스, 버튼, 스위치 및/또는 마이크로폰) 을 통해, 정보를 수신하는 것을 허용하는 컴포넌트를 포함한다. 부가적으로 또는 대안으로, 입력 컴포넌트 (225) 는 디바이스 (200) 의 포지션 또는 위치를 결정하기 위한 컴포넌트 (예를 들어, 글로벌 포지셔닝 시스템 (GPS) 컴포넌트, 글로벌 내비게이션 위성 시스템 (GNSS) 컴포넌트), 정보를 감지하기 위한 센서 (예를 들어, 가속도계, 자이로스코프, 액추에이터, 다른 타입의 포지션 또는 환경 센서) 를 포함할 수도 있다. 출력 컴포넌트 (230) 는 디바이스 (200) 로부터의 출력 정보를 제공하는 컴포넌트 (예를 들어, 디스플레이, 스피커, 햅틱 피드백 컴포넌트 및/또는 오디오 또는 시각적 표시자) 를 포함한다.
통신 인터페이스 (235) 는 디바이스 (200) 가 예컨대 유선 연결, 무선 연결, 또는 유선 및 무선 연결들의 조합을 통해, 다른 디바이스들과 통신하는 것을 가능하게 하는 트랜시버형 컴포넌트 (예를 들어, 트랜시버 및/또는 별도의 수신기 및 송신기) 를 포함한다. 통신 인터페이스 (235) 는 디바이스 (200) 가 다른 디바이스로부터 정보를 수신 및/또는 다른 디바이스에 정보를 제공하는 것을 허용할 수도 있다. 예를 들어, 통신 인터페이스 (235) 는 이더넷 인터페이스, 광학 인터페이스, 동축 인터페이스, 적외선 인터페이스, 무선 주파수 인터페이스, USB (universal serial bus) 인터페이스, 무선 로컬 영역 인터페이스 (예를 들어, Wi-Fi 인터페이스), 및/또는 셀룰러 네트워크 인터페이스를 포함할 수도 있다.
센서 (240) 는 디바이스 (200) 와 연관된 특성들을 감지할 수 있는 하나 이상의 디바이스들을 포함한다. 센서 (240) 는 디바이스 (200) 의 하나 이상의 컴포넌트들과의 통신을 가능하게 하기 위해 하나 이상의 플렉스 회로들의 하나 이상의 수동 컴포넌트들 및/또는 (예를 들어, 패키징된 실리콘 다이 위에) 하나 이상의 집적 회로들을 포함할 수 있다.
센서 (240) 는 센서 (240) 가 디바이스 (200) 의 환경의 하나 이상의 특성들을 결정할 수 있는 시야를 갖는 비전 센서 (예를 들어, 이미지 센서, 광학 센서 등) 를 포함할 수 있다. 일부 양태들에서, 센서 (240) 는 카메라를 포함할 수 있다. 예를 들어, 센서 (240) 는 1 메가픽셀 미만의 이미지들, 1216 x 912 픽셀 미만의 이미지, 320 x 240 픽셀 이하의 이미지 등을 캡처할 수 있는 저해상도 카메라를 포함할 수도 있다. 센서 (240) 는 디바이스 (200) 가 파워 온되는 동안 상시-온 능력을 갖는 저전력 디바이스 (예를 들어, 10 밀리와트 (mW) 미만의 전력 또는 3 mW 미만의 전력을 소비하는 디바이스) 일 수 있다.
추가적으로 또는 대안적으로, 센서 (240) 는 다른 예들 중에서도, 자이로스코프 (예를 들어, MEMS (micro-electro-mechanical systems) 자이로스코프 또는 유사한 타입의 디바이스), 가속도계, 모션 센서, 광 센서, 및/또는 적외선 센서를 포함할 수 있다.
광 이미터 (245) 는 디바이스 (200) 가 얼굴을 향해 광을 방출할 수 있게 하는 광 방출 컴포넌트를 포함한다. 예를 들어, 광 이미터 (245) 는 디바이스 (200) 가 코를 향해 광을 방출하게 하여 광이 센서 (240) 를 향해 반사되게 할 수 있다. 광 이미터 (245) 는 LED 및/또는 수직 캐비티 표면 방출 레이저 (vertical-cavity surface emitting laser; VCSEL) 를 포함할 수 있다. 일부 양태들에서, 광 이미터 (245) 는 적색 스펙트럼 이미터 및/또는 적외선 스펙트럼 이미터를 포함할 수 있다. 일부 양태들에서, 광 이미터 (245) 는 임계치 (예를 들어, 가시성 임계치, 안전 임계치 등) 를 만족시키는 출력 전력과 연관될 수도 있다.
디바이스 (200) 는 본 명세서에서 설명된 하나 이상의 프로세스들을 수행할 수도 있다. 디바이스 (200)는, 메모리 (215) 및/또는 저장 컴포넌트 (220) 와 같은 비일시적 컴퓨터 판독가능 매체에 의해 저장된 소프트웨어 명령어들을 실행하는 프로세서 (210) 에 기초하여 이러한 프로세스들을 수행할 수도 있다. 컴퓨터 판독가능 매체는 본 명세서에서 비일시적 메모리 디바이스로서 정의된다. 메모리 디바이스는 단일 물리적 저장 디바이스 내의 메모리 공간 또는 다수의 물리적 저장 디바이스에 걸쳐 분산된 메모리 공간을 포함한다.
소프트웨어 명령들은 다른 컴퓨터 판독가능 매체로부터 또는 통신 인터페이스(235)를 통해 다른 디바이스로부터 메모리(215) 및/또는 저장 컴포넌트(220)로 판독될 수도 있다. 실행될 때, 메모리 (215) 및/또는 저장 컴포넌트 (220) 에 저장된 소프트웨어 명령들은 프로세서 (210) 로 하여금 본 명세서에 설명된 하나 이상의 프로세스들을 수행하게 할 수도 있다. 추가적으로, 또는 대안적으로, 본 명세서에 설명된 하나 이상의 프로세스들을 수행하기 위한 소프트웨어 명령들 대신에 또는 이들과 조합하여 하드와이어드(hardwired) 회로부가 사용될 수도 있다. 따라서, 본 명세서에 설명된 양태들은 하드웨어 회로부 및 소프트웨어의 임의의 특정의 조합에 한정되지 않는다.
일부 양태에서, 디바이스(200)는 본 명세서에 설명된 하나 이상의 프로세스들을 수행하기 위한 수단 및/또는 본 명세서에 설명된 프로세스들의 하나 이상의 동작들을 수행하기 위한 수단을 포함한다. 예를 들어, 디바이스 (200) 는 헤드 장착 디바이스의 이미지 센서로부터, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분의 제 1 이미지를 획득하기 위한 수단; 헤드 장착 디바이스의 이미지 센서로부터, 사용자의 코의 적어도 일부분의 제 2 이미지를 획득하기 위한 수단; 제 1 이미지 및 제 2 이미지에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하기 위한 수단; 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하기 위한 수단 등을 포함할 수도 있다. 추가적으로 또는 대안적으로, 디바이스 (200) 는 이미지 센서를 사용하여, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 모니터링하기 위한 수단; 사용자의 코를 모니터링하는 것에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하기 위한 수단; 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하기 위한 수단 등을 포함할 수도 있다. 일부 양태들에서, 이러한 수단은 버스 (205), 프로세서 (210), 메모리 (215), 저장 컴포넌트 (220), 입력 컴포넌트 (225), 출력 컴포넌트 (230), 통신 인터페이스 (235), 센서 (240) 및/또는 광 이미터 (245) 와 같은, 도 2 와 관련하여 설명된 디바이스 (200) 의 하나 이상의 컴포넌트들을 포함할 수도 있다.
도 2 에 도시된 컴포넌트들의 수량 및 배열은 일 예로서 제공된다. 실제로, 디바이스 (200) 는 도 2 에 도시된 것들보다 추가적인 커포넌트들, 더 적은 컴포넌트들, 상이한 컴포넌트들, 또는 상이하게 배열된 컴포넌트들을 포함할 수도 있다. 부가적으로 또는 대안으로, 디바이스 (200) 의 컴포넌트들의 세트 (예를 들어, 하나 이상의 컴포넌트) 는 디바이스 (200) 의 다른 컴포넌트들의 세트에 의해 수행되는 것으로 설명된 하나 이상의 기능을 수행할 수도 있다.
도 3a 는 본 개시에 따라, 헤드 장착 디바이스 (110) 의 일 예 (300) 의 다이어그램이다. 헤드 장착 디바이스 (110) 는 도 1 및 도 2 와 관련하여 위에서 더 상세하게 설명된다. 헤드 장착 디바이스 (110) 가 안경 (예를 들어, 스마트 안경) 의 형태로 도시되어 있지만, 일부 양태들에서, 헤드 장착 디바이스 (110) 는 헤드셋 (예를 들어, VR 헤드셋), 고글, 헬멧 등의 형태일 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 제 1 아이 부분 (111a) 또는 제 2 아이 부분 (111b) 중 적어도 하나를 포함한다. 제 1 아이 부분(111a)은 헤드 장착 디바이스 (110) 를 착용한 사용자의 제 1 눈 (예를 들어, 좌안) 을 향하도록 구성되고, 제 2 아이 부분 (111b) 은 사용자의 제 2 눈 (예를 들어, 우안) 을 향하도록 구성될 수 있다. 즉, 헤드 장착 디바이스 (110) 가 사용자에 착용된 경우, 제 1 아이 부분 (111a) 은 제 1 눈 앞에 위치하고, 제 2 아이 부분 (111b) 은 제 2 눈 앞에 위치한다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 단일의 아이 부분을 포함할 수도 있다.
일부 양태들에서, 제 1 아이 부분 (111a) 또는 제 2 아이 부분 (111b) 중 적어도 하나는 디스플레이를 포함할 수도 있다. 일부 양태들에서, 제 1 아이 부분 (111a) 및/또는 제 2 아이 부분 (111b) 은 (예를 들어, AR 사용을 위한) 투시(see-through)(예를 들어, 투명) 디스플레이를 포함할 수 있다. 예를 들어, 투시 디스플레이는 사용자가 볼 수 있는 렌즈, 또는 다른 유리 또는 플라스틱 엘리먼트를 포함할 수 있다. 또한, 헤드 장착 디바이스 (110) 는 하나 이상의 이미지들 (예를 들어, 텍스트, 사진, 및/또는 비디오) 을 투시 디스플레이 상에 투사하도록 구성된 하나 이상의 프로젝터 엘리먼트들을 포함할 수 있다.
일부 양태들에서, 제 1 아이 부분 (111a) 및/또는 제 2 아이 부분 (111b) 은 (예를 들어, VR 사용을 위한) 디스플레이 유닛을 포함할 수 있다. 예를 들어, 디스플레이 유닛은 다른 예들 중에서도, 액정 디스플레이 (liquid crystal display; LCD), 액정 온 실리콘 (liquid crystal on silicon; LCos) 디스플레이 및/또는 유기 발광 다이오드 (organic light-emitting diode; OLED) 디스플레이 등을 포함할 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 제 1 아이 부분 (111a) 과 제 2 아이 부분 (111b) 사이에 브릿지 부분 (112)(예를 들어, 코 브릿지) 을 포함한다. 브릿지 부분 (112) 은 사용자의 코 또는 사용자의 코 근방에서 받쳐지도록 구성될 수 있다. 즉, 브릿지 부분 (112) 은 헤드 장착 디바이스 (110) 가 착용될 때 사용자의 코 (예를 들어, 사용자의 코의 브릿지) 와 인접할 수 있다. 브릿지 부분 (112) 은 (도시된 바와 같이) 선형일 수 있거나 또는 (예를 들어, 일반적으로 코의 브릿지의 윤곽에 대응하도록) 곡선형일 수 있다. 일부 양태들에서, 브릿지 부분 (112) 은 아이 부분들 (111) 사이에 있고 사용자의 코의 일부분을 수용하도록 구성된 헤드 장착 디바이스 (110) 의 영역의 일부 (예를 들어, 리세스된 영역) 를 포함할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 (예를 들어, 헬멧형 디스플레이 디바이스와 관련하여) 브릿지 부분 (112) 을 포함하지 않을 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 적어도 하나의 이미지 센서 (113) 를 포함한다. 이미지 센서 (113) 는 도 1 및 도 2 와 관련하여 위에 설명한 이미지 센서에 대응될 수도 있다. 예를 들어, 이미지 센서 (113) 는 저해상도 카메라 및/또는 저전력 카메라와 같은 카메라를 포함할 수 있다. 이미지 센서 (113) 는 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성될 수도 있다.
이미지 센서 (113) 는 브릿지 부분 (112) 에 포지셔닝될 수 있다. 예를 들어, 이미지 센서 (113) 는 브릿지 부분 (112) 의 코-대향면 (예를 들어, 바닥면) 에 부착될 수 있다. 다른 예로서, 이미지 센서 (113) 는 (예를 들어, 이미지 센서 (113) 의 적어도 일부분이 브릿지 부분 (112) 의 코-대향면에서 노출되도록) 브릿지 부분 (112) 내에 임베드될 수 있다. 일부 양태들에서, 이미지 센서 (113) 는 브릿지 부분 (112) 이외의 헤드 장착 디바이스 (110) 의 위치에 포지셔닝될 수 있고 (또는 헤드 장착 디바이스 (110) 는 브릿지 부분 (112) 을 포함하지 않을 수 있고), 이미지 센서 (113) 는 아래에 설명되는 바와 같이 광 가이드를 통해 사용자의 코에 광학적으로 커플링될 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 적어도 하나의 광 이미터 (114) 를 포함한다. 광 이미터 (114) 는 도 1 및 도 2 와 관련하여 위에 설명한 광 이미터에 대응될 수도 있다. 예를 들어, 광 이미터 (114) 는 적색 광 (예를 들어, 적색 파장의 광) 및/또는 근적외선 광 (예를 들어, 근적외선 파장의 광) 을 출력하도록 구성된 LED를 포함할 수도 있다. 적색은 코의 진피 (예를 들어, 표면) 피처들을 이미징하는데 사용될 수 있고, 피부 내로 침투할 수 있는 근적외광은 코의 피하 피처들 (예를 들어, 혈관) 을 이미징하는데 사용될 수 있다. 광 이미터 (114) 는 사용자의 코를 조명하기 위한 광을 방출하도록 구성될 수 있다.
광 이미터 (114) 는 브릿지 부분 (112) 에 포지셔닝될 수 있다. 예를 들어, 광 이미터 (114) 는 브릿지 부분 (112) 의 코-대향면 (예를 들어, 바닥면) 에 부착될 수 있다. 다른 예로서, 광 이미터 (114) 는 (예를 들어, 광 이미터 (114) 의 적어도 일부분이 브릿지 부분 (112) 의 코-대향면에서 노출되도록) 브릿지 부분 (112) 내에 임베드될 수 있다. 일부 양태들에서, 광 이미터 (114) 는 브릿지 부분 (112) 이외의 헤드 장착 디바이스 (110) 의 위치에 포지셔닝될 수 있고 (또는 헤드 장착 디바이스 (110) 는 브릿지 부분 (112) 을 포함하지 않을 수 있고), 광 이미터 (114) 는 아래에 설명되는 바와 같이 광 가이드를 통해 사용자의 코에 광학적으로 커플링될 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 적어도 하나의 광 가이드 (115) 를 포함한다. 광 가이드(들)(115) 는 도 1 과 관련하여 위에 설명한 광 가이드에 대응될 수도 있다. 예를 들어, 광 가이드(들)(115) 는 투명한 유리 또는 플라스틱으로 구성된 세장형 엘리먼트를 포함할 수 있다. 광 가이드(들)(115) 는 사용자의 코와 이미지 센서 (113) 또는 광 이미터 (114) 중 적어도 하나 사이에 광학 통신을 제공하도록 구성될 수 있다. 예를 들어, 광 가이드 (115) 는 사용자의 코로부터 떨어진 포지션에서 광 이미터 (114) 로부터의 광을 사용자의 코로 지향 (예를 들어, 전파) 시키도록 구성될 수 있다. 일부 양태들에서, 광 가이드 (115) 는 사용자의 코에서 산란 및 반사되는 광을 수집하고, 사용자의 코로부터의 광을 사용자의 코로부터 떨어진 위치에서 이미지 센서 (113) 로 지향시키도록 구성될 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 이미지 센서 (113) 및 광 이미터 (114) 를 포함할 수도 있고 광 가이드 (115) 를 포함하지 않을 수도 있다. 예를 들어, 이미지 센서 (113) 는 사용자의 코로부터 반사된 광을 직접 검출하도록 구성될 수도 있고/있거나 광 이미터 (114) 는 사용자의 코의 적어도 일부를 직접 조명하도록 구성될 수도 있다.
일부 양태들에서, 광 가이드 (115) 는 (예를 들어, 비교적 더 높은 굴절률의) 광 가이드 (115) 의 코어를 둘러싸는 (예를 들어, 비교적 더 낮은 굴절률의) 클래딩 층을 포함할 수도 있다. 일부 양태들에서, 광 가이드 (115) 는 경사진 (beveled) 단부를 포함할 수 있다. 예를 들어, 광 가이드 (115) 의 경사진 단부는 이미지 센서 (113) 및/또는 광 이미터 (114) 에 광학적으로 커플링된 광 가이드 (115) 의 단부에 대향할 수 있다 (예를 들어, 경사진 단부는 사용자의 코에 가장 가까운 광 가이드 (115) 의 단부일 수 있다). 경사진 단부는 약 90도와 같은, 약 80 내지 100도의 각도로 광을 터닝하도록 구성될 수 있다. 일부 양태들에서, 경사진 단부는 반사성 코팅 (예를 들어, 미러 코팅) 을 포함할 수 있다. 광가이드 (115) 에서 전파되는 광은 경사진 단부에서 전 내부 반사 (total internal reflection) 로 진행할 수 있으며, 이에 따라 광은 약 90도의 각도로 터닝된다.
광 가이드(들) (115) 는 브릿지 부분 (112) 에서 포지셔닝될 수 있다. 광 가이드(들)(115)는 제 1 아이 부분 (111a) 과 제 2 아이 부분 (111b) 사이로 연장될 수 있다. 예를 들어, 광 가이드(들)(115) 는 제 1 아이 부분 (111a) 으로부터 제 2 아이 부분 (111b) 으로의 방향으로 연장될 수 있다. 일부 양태들에서, 광 가이드(들)(115) 는 이미지 센서 (113) 및/또는 광 이미터 (114) 로부터 사용자의 코로의 방향으로 연장될 수 있다. 일부 양태들에서, 광 가이드(들)(115) 는 브릿지 부분 (112) 의 코-대향면을 따라 연장될 수 있다 (예를 들어, 광 가이드(들)(115) 는 브릿지 부분 (112) 의 코-대향면에 부착될 수 있다). 일부 양태들에서, 광 가이드(들) (115) 은 (예를 들어, 광 가이드(들) (115) 의 적어도 일부분이 브릿지 부분 (112) 의 코-대향면에서 노출되도록) 브릿지 부분 (112) 내에 임베드될 수 있다. 따라서, 광 가이드(들)(115)는 (예를 들어, 브릿지 부분 (112) 이 선형이면) 선형 또는 (예를 들어, 브릿지 부분 (112) 이 곡선형이면) 곡선형일 수 있다.
따라서, 광 가이드(들)(115) 는 브릿지 부분 (112) 에 평행하게 연장되거나 브릿지 부분의 경로를 따를 수 있다. 이러한 방식으로, 광 가이드(들)(115) 는 이미지 센서 (113) 와 이미징되는 사용자의 코의 일부분 사이의 거리를 증가시키는 데 사용될 수 있다. 이에 따라, 이미지 센서 (113) 와 사용자의 코의 일부분은 적절한 이미징을 가능하게 하는 임계 거리 (예를 들어, 이미지 센서의 투사 거리) 만큼 광학적으로 분리될 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 이미지 센서 (113) 및/또는 광 이미터 (114) 와 관련하여 하나 이상의 렌즈들을 포함할 수 있다.
헤드 장착 디바이스 (110) 는 광 이미터 (114) 와 광학적으로 통신하는 제 1 렌즈 (예를 들어, 시준 렌즈) 를 포함할 수 있다. 일부 양태들에서, 제 1 렌즈는 광 가이드 (115) 에 일체화될 수 있거나, 그렇지 않으면 사용자의 코와 광 이미터 (114) 사이에 포지셔닝될 수 있다. 예를 들어, 광 이미터 (114) 로부터 방출된 광은 사용자의 코에 도달하기 전에 제 1 렌즈를 통과할 수 있다. 헤드 장착 디바이스 (110) 는 이미지 센서 (113) 와 광학적으로 통신하는 제 2 렌즈 (예를 들어, 이미징 렌즈) 를 포함할 수 있다. 일부 양태들에서, 제 2 렌즈는 광 가이드 (115) 에 일체화될 수 있거나, 그렇지 않으면 사용자의 코와 이미지 센서 (113) 사이에 포지셔닝될 수 있다. 예를 들어, 사용자의 코로부터 반사된 광은 이미지 센서 (113) 에 도달하기 전에 제 2 렌즈를 통과할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 광 이미터 (114) 로부터 사용자의 코로의 광 및/또는 사용자의 코로부터 이미지 센서 (113) 로의 광을 전파하기 위한 하나 이상의 광섬유들을 포함할 수도 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 이미지 센서 (113) 의 각각의 픽셀에 광학적으로 커플링된 복수의 광섬유들을 포함할 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 하나 또는 두 개의 템플 부분들 (116) 을 포함한다. 템플 부분 (116) 은 헤드 장착 디바이스 (110) 를 사용자의 머리에 유지하도록 구성될 수 있다 (예를 들어, 템플 부분 (116) 은 사용자의 귀에 의해 지지될 수 있다). 템플 부분 (116) 은 제 1 및 제 2 아이 부분들 (111a, 111b) 및 브릿지 부분 (112) 을 포함하는 헤드 장착 디바이스 (110) 의 주요 부분에 (예를 들어, 고정식으로 또는 힌지에 의해) 접속될 수 있다. 일부 양태들에서, 하나 이상의 스트랩들 (도시 생략) 이 (예를 들어, 템플 부분들 (116) 에 추가하여 또는 이를 대신하여) 헤드 장착 디바이스 (110) 의 메인 부분에 접속될 수 있다. 스트랩(들)은 헤드 장착 디바이스 (110) 를 사용자의 머리에 유지하도록 구성될 수 있다.
위에 나타낸 바와 같이, 도 3a 는 일 예로서 제공된다. 다른 예들은 도 3a 와 관련하여 설명되는 것과 상이할 수도 있다. 도 3a 에 도시된 컴포넌트들의 수량 및 배열은 일 예로서 제공된다. 실제로, 도 3a 에 도시된 것들보다 추가적인 컴포넌트들, 더 적은 컴포넌트들, 상이한 컴포넌트들, 또는 상이하게 배열된 컴포넌트들이 존재할 수도 있다. 또한, 도 3a 에 도시된 2 개 이상의 컴포넌트들은 단일 컴포넌트 내에서 구현될 수도 있거나, 또는 도 3a 에 도시된 단일 컴포넌트는 다수의 분산된 컴포넌트들로서 구현될 수도 있다. 추가적으로 또는 대안적으로, 도 3a 에 나타낸 컴포넌트들의 세트 (예를 들어, 하나 이상의 컴포넌트) 는 도 3a 에 나타낸 컴포넌트들의 다른 세트에 의해 수행되는 것으로 설명된 하나 이상의 기능을 수행할 수도 있다.
도 3b 는 본 개시에 따라, 헤드 장착 디바이스 (110) 의 일 예 (350) 의 다이어그램이다. 도 3b 에서, 헤드 장착 디바이스 (110) 는 헤드셋 (예를 들어, 고글형 헤드셋) 의 형태로 도시된다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 위에 설명된 것과 유사한 방식으로 제 1 아이 부분 (111a) 또는 제 2 아이 부분 (111b) 중 적어도 하나를 포함할 수도 있다. 예를 들어, 제 1 아이 부분 (111a) 및/또는 제 2 아이 부분 (111b) 은 디스플레이 유닛을 포함할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 위에 설명된 것과 동일한 방식으로 제 1 아이 부분 (111a) 과 제 2 아이 부분 (111b) 사이에 브릿지 부분 (112)(예를 들어, 코 브릿지) 을 포함할 수도 있다. 예를 들어, 브릿지 부분 (112) 은 헤드 장착 디바이스 (110) 가 착용될 때 아이 부분들 (111) 사이에 있고 사용자의 코 브릿지에 인접하여 있는 헤드 장착 디바이스 (110) 의 영역의 일부분 (예를 들어, 사용자의 코의 일부분을 수용하도록 구성된 오목한 영역) 을 포함할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 위에서 설명된 것과 유사한 방식으로 적어도 하나의 이미지 센서 (113), 적어도 하나의 광 이미터 (114), 및/또는 적어도 하나의 광 가이드 (115) 를 포함할 수도 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 를 사용자의 머리에 유지하도록 구성된 스트랩 (117) 을 포함할 수도 있다.
위에 나타낸 바와 같이, 도 3b 는 일 예로서 제공된다. 다른 예들은 도 3b 와 관련하여 설명되는 것과 상이할 수도 있다. 도 3b 에 도시된 컴포넌트들의 수량 및 배열은 일 예로서 제공된다. 실제로, 도 3b 에 도시된 것들보다 추가적인 컴포넌트들, 더 적은 컴포넌트들, 상이한 컴포넌트들, 또는 상이하게 배열된 컴포넌트들이 존재할 수도 있다. 또한, 도 3b 에 도시된 2 개 이상의 컴포넌트들은 단일 컴포넌트 내에서 구현될 수도 있거나, 또는 도 3b 에 도시된 단일 컴포넌트는 다수의 분산된 컴포넌트들로서 구현될 수도 있다. 추가적으로 또는 대안적으로, 도 3b 에 나타낸 컴포넌트들의 세트 (예를 들어, 하나 이상의 컴포넌트) 는 도 3b 에 나타낸 컴포넌트들의 다른 세트에 의해 수행되는 것으로 설명된 하나 이상의 기능을 수행할 수도 있다.
도 4a-4b 는 도 3a 의 헤드 장착 디바이스 (110) 의 일 예의 브릿지 부분 (112) 의 다이어그램들이다. 도 4a 는 브릿지 부분 (112) 의 하부 뷰 (즉, 브릿지 부분 (112) 의 코-대향면의 뷰) 를 도시한다. 도 4b 는 좌측에서 브릿지 부분 (112) 의 전방 뷰를 도시하고, 우측에서 브릿지 부분 (112) 의 후방 뷰를 도시한다.
도 4a 에 도시된 바와 같이, 일부 양태들에서, 헤드 장착 디바이스 (110) 는 브릿지 부분 (112) 에서 단일 광 가이드 (115) 를 포함할 수 있다. 광 가이드 (115) 는 이미지 센서 (113) 및 광 이미터 (114) 와 광학적으로 커플링될 수 있다. 예를 들어, 이미지 센서 (113) 및 광 이미터 (114) 는 광 가이드 (115) 의 제 1 단부와 광학적으로 통신할 수 있고 (예를 들어, 이미지 센서 (113) 및 광 이미터 (114) 는 제 1 단부에 인접하여 포지셔닝되고), 광 가이드 (115) 의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성될 수 있다 (예를 들어, 제 2 단부는 사용자의 코와 접촉하거나 거의 접촉할 수 있다). 도 4b 에 도시된 바와 같이, 좌측에서, 광 가이드 (115) 는 광 이미터 (114) 로부터의 광을 사용자의 코로 지향시키도록 구성될 수도 있다. 도 4b 에 도시된 바와 같이, 우측에서, 광 가이드 (115) 는 사용자의 코로부터 반사된 광을 이미지 센서 (113) 로 지향시키도록 구성될 수 있다.
위에 나타낸 바와 같이, 도 4a-4b 는 일 예로서 제공된다. 다른 예들은 도 4a-4b 와 관련하여 설명되는 것과 상이할 수도 있다.
도 5a-5b 는 도 3a 의 헤드 장착 디바이스 (110) 의 일 예의 브릿지 부분 (112) 의 다이어그램들이다. 도 5a 는 브릿지 부분 (112) 의 하부 뷰 (즉, 브릿지 부분 (112) 의 코-대향면의 뷰) 를 도시한다. 도 5b 는 좌측에서 브릿지 부분 (112) 의 전방 뷰를 도시하고, 우측에서 브릿지 부분 (112) 의 후방 뷰를 도시한다.
도 5a 에 도시된 바와 같이, 일부 양태들에서, 헤드 장착 디바이스 (110) 는 브릿지 부분 (112) 에서 다수의 (예를 들어, 2개의) 광 가이드들 (115a, 115b) 을 포함할 수 있다. 제 1 광 가이드 (115a) 는 광 이미터 (114) 에 광학적으로 커플링될 수 있고, 제 2 광 가이드 (115b) 는 이미지 센서 (113) 에 광학적으로 커플링될 수 있다. 예를 들어, 광 이미터 (114) 는 제 1 광 가이드 (115a) 의 제 1 단부와 광학적으로 통신할 수 있고 (예를 들어, 광 이미터 (114) 는 제 1 광 가이드 (115a) 의 제 1 단부에 인접하게 포지셔닝될 수 있고), 이미지 센서 (113) 는 제 2 광 가이드 (115b) 의 제 1 단부와 광학적으로 통신할 수 있다 (예를 들어, 이미지 센서 (113) 는 제 2 광 가이드 (115b) 의 제 1 단부에 인접하게 포지셔닝될 수 있다). 여기서, 제 1 광 가이드 (115a) 의 제 2 단부 및 제 2 광 가이드 (115b) 의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성된다 (예를 들어, 제 2 단부들은 사용자의 코와 접촉하거나 거의 접촉할 수도 있다). 도 5b 에 도시된 바와 같이, 좌측에서, 제 1 광 가이드 (115a) 는 광 이미터 (114) 로부터의 광을 사용자의 코로 지향시키도록 구성될 수도 있다. 도 4b 에 도시된 바와 같이, 우측에서, 제 2 광 가이드 (115b) 는 사용자의 코로부터 반사된 광을 이미지 센서 (113) 로 지향시키도록 구성될 수 있다. 이미지 센서 (113) 및 광 이미터 (114) 에 대한 별개의 광 가이드들 (115a, 115b) 의 사용은 이미지 센서 (113) 에서 검출되는 광 이미터 (114) 의 되반사들을 감소시킬 수 있다.
위에 나타낸 바와 같이, 도 5a-5b 는 일 예로서 제공된다. 다른 예들은 도 5a-5b 와 관련하여 설명되는 것과 상이할 수도 있다.
도 6a-6b 는 도 3a 의 헤드 장착 디바이스 (110) 의 일 예의 브릿지 부분 (112) 의 다이어그램들이다. 도 6a 는 브릿지 부분 (112) 의 하부 뷰 (즉, 브릿지 부분 (112) 의 코-대향면의 뷰) 를 도시한다. 도 6b 은 브릿지 부분 (112) 의 전방 뷰를 도시한다.
도 6a 에 도시된 바와 같이, 일부 양태들에서, 헤드 장착 디바이스 (110) 는 브릿지 부분 (112) 에서 단일 광 가이드 (115) 를 포함할 수 있다. 광 가이드 (115) 는 광 이미터 (114) 에 광학적으로 커플링될 수 있다 (그리고 이미지 센서 (113) 에 광학적으로 커플링되지 않는다). 예를 들어, 광 이미터 (114) 는 광 가이드 (115) 의 제 1 단부와 광학적으로 통신할 수 있고 (예를 들어, 광 이미터 (114) 는 제 1 단부에 인접하여 포지셔닝될 수도 있고), 광 가이드 (115) 의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성될 수 있다 (예를 들어, 제 2 단부는 사용자의 코와 접촉하거나 거의 접촉할 수 있다). 도 6b 에 도시된 바와 같이, 광 가이드 (115) 는 광 이미터 (114) 로부터의 광을 사용자의 코로 지향시키도록 구성될 수도 있다. 이미지 센서 (113) 는 사용자의 코로부터 반사된 광을 직접 (예를 들어, 광 가이드 (115) 없이) 검출하도록 구성될 수 있다 (예를 들어, 이미지 센서 (113) 는 사용자의 코와 직접 광학적으로 통신하기 위하여 구성될 수 있다). 예를 들어, 브릿지 부분 (112) 이 비교적 두꺼운 경우, 이미지 센서 (113) 는 이미지 센서 (113) 에 대한 광 가이드의 필요 없이 충분한 투사 거리를 제공하기 위해 브릿지 부분 (112) 내에 깊게 매립될 수 있다. 일부 양태에서, 이미지 센서 (113) 는 광 가이드 (115) 의 제 1 단부보다 광 가이드 (115) 의 제 2 단부에 더 가깝게 포지셔닝될 수도 있다.
위에 나타낸 바와 같이, 도 6a-6b 는 일 예로서 제공된다. 다른 예들은 도 6a-6b 와 관련하여 설명되는 것과 상이할 수도 있다.
도 7 은 본 개시에 따라, 헤드 장착 디바이스의 움직임 검출과 연관된 일 예 (700) 를 예시하는 다이어그램이다. 도 7 에 도시된 바와 같이, 예 (700) 는 헤드 장착 디바이스 (110) 를 포함하며, 이는 위에서 더 상세히 설명된다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 아이 부분들 (111a, 111b) 이 사용자의 각각의 눈들의 전방에 위치되고 브릿지 부분 (112) 이 사용자의 코에 인접하게 위치되도록 사용자의 머리 상에 착용될 수도 있다. 사용자는 다른 예들 중에서도, 게임, 항공, 공학, 및/또는 의학과 관련하여 사용하기 위해 헤드 장착 디바이스 (110) 를 착용할 수 있다.
참조 번호 (705) 에 의해 도시된 바와 같이, 헤드 장착 디바이스 (110) 는 (예를 들어, 광 이미터 (114) 를 사용하여) 사용자의 코를 향해 광을 출력할 수도 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 사용자의 코의 브릿지를 향하여 광을 출력할 수 있다. 광은 코의 이미징을 용이하게 하기 위해 코의 적어도 일부분의 조명을 제공할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 의 프로세서는 헤드 장착 디바이스 (110) 의 파워 온 시에 헤드 장착 디바이스 (110) 로 하여금 광을 출력하게 할 수 있다. 또한, 헤드 장착 디바이스 (110) 는 파워 온 동안에 지속적으로 광을 출력할 수도 있다.
참조 번호 (710) 에 의해 도시된 바와 같이, 헤드 장착 디바이스 (110) 는 사용자의 코의 이미징을 (예를 들어, 이미지 센서 (113) 를 사용하여) 모니터링할 수도 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 (예를 들어, 이미지 센서 (113) 를 사용하여) 사용자의 코의 이미지들을 (예를 들어, 사용자의 코의 조명에 적어도 부분적으로 기초하여) 획득할 수 있다. 헤드 장착 디바이스 (110) 는 연속적으로 (예를 들어, 이미지 센서 (113) 의 프레임 레이트에 따라), 또는 규칙적으로 또는 불규칙적 간격으로 이미지들을 획득할 수 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 (예를 들어, 이미지 센서 (113) 로부터) 사용자의 코의 제 1 이미지 및 사용자의 코의 제 2 이미지를 획득할 수도 있다. 제 1 이미지는 제 2 이미지를 획득한 시점보다 더 이른 시간에 획득될 수도 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 의 프로세서는 헤드 장착 디바이스 (110) 의 파워 온 시에 헤드 장착 디바이스 (110) 로 하여금 사용자의 코의 이미징을 모니터링하게 할 수 있다. 더욱이, 헤드 장착 디바이스 (110) 는 파워 온 동안 사용자의 코의 이미징을 지속적으로 모니터링할 수 있다.
헤드 장착 디바이스 (110) 에 의해 획득된 사용자의 코의 이미지들은 사용자의 코의 적어도 일부분을 묘사할 수 있다. 예를 들어, 이미지들은 위에 설명된 바와 같이 조명되는 사용자의 코의 일부분을 묘사할 수 있다. 예로서, 이미지들은 사용자의 코의 브릿지를 묘사할 수 있다. 사용자의 코의 이미지들은 하나 이상의 코의 피처들을 묘사할 수 있다. 코 피처들은 진피 피처들 (예를 들어, 주름, 주근깨, 모발 등) 및/또는 피하 피처들 (예를 들어, 혈관 등) 을 포함할 수 있다.
참조 번호 (715) 에 의해 도시된 바와 같이, 헤드 장착 디바이스 (110) 는 사용자의 코의 이미징을 모니터링하는 것에 적어도 부분적으로 기초하여 헤드 장착 디바이스 (110) 의 움직임을 (예를 들어, 하나 이상의 프로세서들을 사용하여) 결정할 수도 있다. 즉, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 에 의해 획득된 사용자의 코의 이미징에 적어도 부분적으로 기초하여 헤드 장착 디바이스 (110) 의 움직임을 결정할 수 있다. 헤드 장착 디바이스 (110) 의 움직임은 헤드 장착 디바이스 (110) 의 시프트 및/또는 회전을 포함할 수 있다. 헤드 장착 디바이스 (110) 의 시프트 또는 회전은 사용자 (예를 들어, 사용자의 하나 이상의 눈들, 사용자의 코, 및/또는 사용자의 머리) 에 관련될 수 있다. 따라서, 시프트 또는 회전은 사용자에 대해 수행되고 있는 시선 추적에 영향을 미칠 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 에 의해 획득된 이미징에서 하나 이상의 코 피쳐들의 시프트를 추적하는 것에 의해 (예를 들어, 광학 마우스가 광학 마우스의 카메라 센서에 걸쳐 표면 피쳐 이미지의 픽셀-바이-픽셀 시프팅을 추적하는 유사한 방식으로) 헤드 장착 디바이스 (110) 의 움직임을 결정할 수도 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 (예를 들어, 제 1 픽셀과 연관된 컬러 값과 같은 특정 값이 인접한 제 2 픽셀로 시프트하였다고 결정하는 것에 의해) 사용자의 코의 이미지들에서 하나 이상의 픽셀들의 시프트를 결정할 수도 있다. 일 예로서, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 에 의해 획득된 제 1 이미지에 대한 헤드 장착 디바이스 (110) 에 의해 획득된 제 2 이미지에서의 하나 이상의 픽셀들의 시프트를 결정할 수도 있다. 이러한 방식으로, 헤드 장착 디바이스 (110) 는 이미지 센서 (113)에 걸친 이미징된 코 피쳐들의 픽셀-바이-픽셀 시프팅을 결정하여 헤드 장착 디바이스 (110) 의 움직임을 결정할 수도 있다. 일부 양태들에서, 헤드 장착 디바이스 (110) 는 이미지들에서 피처들을 식별하고, 이미지들에서 피처들의 시프팅을 추적하는 등을 위해 컴퓨터 비전 기술 및/또는 머신 학습을 채용할 수도 있다.
참조 번호 (720) 에 의해 도시된 바와 같이, 헤드 장착 디바이스 (110) 는 시선 추적을 위해 사용되는 캘리브레이션을 (예를 들어, 하나 이상의 프로세서들을 사용하여) 조정할 수도 있다. 캘리브레이션은 헤드 장착 디바이스 (110) 의 움직임을 보상하기 위해 시선 추적이 오프셋될 크기 (예를 들어, 픽셀 단위) 및/또는 방향을 식별할 수도 있다. 캘리브레이션에 대한 조정은 이미징에서의 코 피처들의 시프트에 대응할 수도 있다. 예를 들어, 코 피처가 이미징에서 시프트하는 특정 양의 픽셀들, 및/또는 이미징에서 코 피처가 시프트하는 특정 방향은 시선 추적을 위해 사용될 특정 조정에 대응할 수도 있다. 헤드 장착 디바이스 (110) 는 하나 이상의 규칙들, 알고리즘들 등을 사용하여, 이미징에서의 특정 시프트에 응답하여 사용될 시선 추적을 위한 특정 조정을 결정할 수 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 조정된 캘리브레이션에 적어도 부분적으로 기초하여 사용자의 시선 추적을 수행할 수도 있다. 헤드 장착 디바이스 (110) 는 하나 이상의 눈-대향 이미지 센서들 (예를 들어, 카메라들) 을 사용하여 시선 추적을 수행할 수 있다. 예를 들어, 위에 설명된 제 1 아이 부분 (111a) 및/또는 제 2 아이 부분 (111b) 은 시선 추적에 이용하기 위한 이미지 센서를 포함할 수 있다. 사용자의 시선 추적을 수행하는 것에 의해, 헤드 장착 디바이스 (110) 는 사용자의 시선의 방향을 결정할 수도 있다.
일부 양태들에서, 헤드 장착 디바이스 (110) 는 사용자의 시선 추적에 적어도 부분적으로 기초하여 (예를 들어, 사용자의 시선의 방향에 적어도 부분적으로 기초하여) 헤드 장착 디바이스 (110) 의 디스플레이의 컨텐츠를 (예를 들어, 하나 이상의 프로세서들을 사용하여) 조정할 수도 있다. 예를 들어, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 에 의해 디스플레이되는 이미지를 변경하거나, 헤드 장착 디바이스에 의해 디스플레이되는 이미지를 조정하거나, 특정 정보를 디스플레이하는 등을 행할 수 있다.
이러한 방식으로, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 의 움직임을 검출하고 그에 따라 시선 추적을 조정하기 위해 저전력 카메라 및 복잡한 프로세싱을 사용할 수 있다. 따라서, 헤드 장착 디바이스 (110) 는 헤드 장착 디바이스 (110) 의 전력 리소스들 및/또는 프로세싱 리소스들을 보존하는 방식으로 시선 추적을 수행할 수도 있다.
위에 나타낸 바와 같이, 도 7 은 일 예로서 제공된다. 다른 예들은 도 7 와 관련하여 설명되는 것과 상이할 수도 있다. 예를 들어, 일부 양태들에서, 헤드 장착 디바이스 (110) 에 의해 수행되는 것으로 위에서 설명된 하나 이상의 동작들은 다른 디바이스에 의해 수행될 수 있다. 예를 들어, 동작들 중 하나 이상은 헤드 장착 디바이스 (110) 와 통신하는 사용자 디바이스 (예를 들어, 사용자 디바이스 (120)) 에 의해 수행될 수 있다.
도 8 은 헤드 장착 디바이스의 움직임 검출과 연관된 일 예의 프로세스 (800) 의 플로우차트이다. 일부 구현들에서, 도 8 의 하나 이상의 프로세스 블록들은 헤드 장착 디바이스 (예를 들어, 헤드 장착 디바이스 (110)) 에 의해 수행될 수도 있다. 일부 구현들에서, 도 8 의 하나 이상의 프로세스 블록들은 사용자 디바이스 (예를 들어, 사용자 디바이스 (120)) 와 같은 헤드 장착 디바이스와 별개이거나 이를 포함하는 디바이스들의 그룹 또는 다른 디바이스에 의해 수행될 수도 있다. 추가적으로, 또는 대안적으로, 도 8 의 하나 이상의 프로세스 블록들은 디바이스 (200) 의 하나 이상의 컴포넌트들, 이를 테면, 프로세서 (210), 메모리 (215), 저장 컴포넌트 (220), 입력 컴포넌트 (225), 출력 컴포넌트 (230), 통신 인터페이스 (235), 이미지 센서 (240), 및/또는 광 이미터 (245) 에 의해 수행될 수도 있다.
도 8 에 도시된 바와 같이, 프로세스 (800) 는 헤드 장착 디바이스의 이미지 센서로부터, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분의 제 1 이미지를 획득하는 것을 포함할 수도 있다 (블록 810). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 헤드 장착 디바이스의 이미지 센서로부터, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분의 제 1 이미지를 획득할 수도 있다.
도 8 에 추가로 도시된 바와 같이, 프로세스 (800) 는 헤드 장착 디바이스의 이미지 센서로부터, 사용자의 코의 적어도 일부분의 제 2 이미지를 획득하는 것을 포함할 수도 있다 (블록 820). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 헤드 장착 디바이스의 이미지 센서로부터, 사용자의 코의 적어도 일부분의 제 2 이미지를 획득할 수도 있다.
도 8 에 추가로 도시된 바와 같이, 프로세스 (800) 는 제 1 이미지 및 제 2 이미지에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 것을 포함할 수도 있다 (블록 830). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 제 1 이미지 및 제 2 이미지에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정할 수도 있다.
도 8 에 추가로 도시된 바와 같이, 프로세스 (800) 는 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하는 것을 포함할 수도 있다 (블록 840). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정할 수도 있다.
프로세스 (800) 는 본 명세서의 다른 곳에 설명된 하나 이상의 다른 프로세스와 관련하여 및/또는 하기에서 설명된 임의의 단일 구현 또는 구현들의 임의의 조합과 같은 부가 구현들을 포함할 수도 있다.
제 1 구현에서, 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 것은 제 1 이미지에 대한 제 2 이미지 내의 하나 이상의 픽셀들의 시프트를 결정하는 것을 포함한다.
제 2 구현에서, 단독으로 또는 제 1 구현과 조합하여, 하나 이상의 픽셀들은 코의 진피 피처 또는 코의 피하 피처 중 적어도 하나를 묘사한다.
제 3 구현에서, 단독으로 또는 제 1 및 제 2 구현들 중 하나 이상과 조합하여, 프로세스 (800) 는 조정된 캘리브레이션에 적어도 부분적으로 기초하여 사용자의 시선 추적을 수행하는 것, 및 시선 추적을 수행하는 것에 적어도 부분적으로 기초하여 헤드 장착 디바이스의 디스플레이의 컨텐츠를 조정하는 것을 포함한다.
제 4 구현에서, 단독으로 또는 제 1 내지 제 3 구현들 중 하나 이상과 조합하여, 제 1 이미지 및 제 2 이미지는 광 이미터에 의해 사용자의 코의 적어도 일부분의 조명에 적어도 부분적으로 기초하여 이미지 센서에 의해 획득된다.
제 5 구현에서, 단독으로 또는 제 1 내지 제 4 구현들 중 하나 이상과 조합하여, 헤드 장착 디바이스의 시프트 또는 회전은 사용자의 코에 관련된다.
도 8 이 프로세스 (800) 의 예시적인 블록들을 도시하지만, 일부 양태들에서, 프로세스 (800) 는 도 8 에 도시된 것들보다 추가적인 블록들, 더 적은 블록들, 상이한 블록들 또는 상이하게 배열된 블록들을 포함할 수도 있다. 추가적으로, 또는 대안적으로, 프로세스 (800) 의 블록들 중 2 개 이상이 병렬로 수행될 수도 있다.
도 9 는 헤드 장착 디바이스의 움직임 검출과 연관된 일 예의 프로세스 (900) 의 플로우차트이다. 일부 구현들에서, 도 9 의 하나 이상의 프로세스 블록들은 헤드 장착 디바이스 (예를 들어, 헤드 장착 디바이스 (110)) 에 의해 수행될 수도 있다. 일부 구현들에서, 도 9 의 하나 이상의 프로세스 블록들은 사용자 디바이스 (예를 들어, 사용자 디바이스 (120)) 와 같은 헤드 장착 디바이스와 별개이거나 이를 포함하는 디바이스들의 그룹 또는 다른 디바이스에 의해 수행될 수도 있다. 추가적으로, 또는 대안적으로, 도 9 의 하나 이상의 프로세스 블록들은 디바이스 (200) 의 하나 이상의 컴포넌트들, 이를 테면, 프로세서 (210), 메모리 (215), 저장 컴포넌트 (220), 입력 컴포넌트 (225), 출력 컴포넌트 (230), 통신 인터페이스 (235), 이미지 센서 (240), 및/또는 광 이미터 (245) 에 의해 수행될 수도 있다.
도 9 에 도시된 바와 같이, 프로세스 (900) 는 이미지 센서를 사용하여, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 모니터링하는 것을 포함할 수도 있다 (블록 910). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 이미지 센서를 사용하여, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 모니터할 수도 있다.
도 9 에 추가로 도시된 바와 같이, 프로세스 (900) 는 사용자의 코를 모니터링하는 것에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 것을 포함할 수도 있다 (블록 920). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 사용자의 코를 모니터링하는 것에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정할 수도 있다.
도 9 에 추가로 도시된 바와 같이, 프로세스 (900) 는 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하는 것을 포함할 수도 있다 (블록 930). 예를 들어, 헤드 장착 디바이스는 위에 설명된 바와 같이, 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정할 수도 있다.
프로세스 (900) 는 본 명세서의 다른 곳에 설명된 하나 이상의 다른 프로세스와 관련하여 및/또는 하기에서 설명된 임의의 단일 구현 또는 구현들의 임의의 조합과 같은 부가 구현들을 포함할 수도 있다.
제 1 구현에서, 프로세스 (900) 는 광 이미터로부터 사용자의 코를 향하여 광을 출력하는 것을 포함한다.
제 2 구현에서, 단독으로 또는 제 1 구현과 조합하여, 프로세스 (900) 는 이미지 센서를 사용하여 사용자의 코의 적어도 일부분의 이미지들을 획득하는 것을 포함한다.
제 3 구현에서, 단독으로 또는 제 1 및 제 2 구현들 중 하나 이상과 조합하여, 프로세스 (900) 는 이미지 센서에 의해 획득된 사용자의 코의 적어도 일부분의 이미지들에서 하나 이상의 픽셀들의 시프트를 결정하는 것을 포함한다.
제 4 구현에서, 단독으로 또는 제 1 내지 제 3 구현들 중 하나 이상과 조합하여, 프로세스 (900) 는 조정된 캘리브레이션에 적어도 부분적으로 기초하여 사용자의 시선 추적을 수행하는 것을 포함한다.
도 9 가 프로세스 (900) 의 예시적인 블록들을 도시하지만, 일부 양태들에서, 프로세스 (900) 는 도 9 에 도시된 것들보다 추가적인 블록들, 더 적은 블록들, 상이한 블록들 또는 상이하게 배열된 블록들을 포함할 수도 있다. 부가적으로 또는 대안적으로, 프로세스 (900) 의 블록들 중 2 이상은 병렬로 수행될 수도 있다.
다음은 본 개시의 일부 양태들의 개관을 제공한다:
양태 1: 헤드 장착 디바이스로서, 헤드 장착 디바이스를 착용한 사용자의 눈을 향하도록 구성되고, 디스플레이를 포함하는 아이 부분; 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 적어도 하나의 광 이미터; 및 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 데 사용하기 위해 사용자의 코의 적어도 일부의 이미지를 캡처하도록 구성된 적어도 하나의 이미지 센서를 포함한다.
양태 2: 양태 1 의 헤드 장착 디바이스는: 적어도 하나의 광 이미터에 광학적으로 커플링되고 코의 일부분으로부터 떨어진 포지션에서 적어도 하나의 광 이미터로부터의 광을 코의 일부분으로 지향시키도록 구성되는 광 가이드를 더 포함한다.
양태 3: 양태들 1-2 의 어느 하나의 헤드 장착 디바이스는: 적어도 하나의 이미지 센서에 광학적으로 커플링되고 코의 일부분으로부터의 광을 코의 일부분으로부터 떨어진 포지션에서의 적어도 하나의 이미지 센서로 지향하도록 구성되는 광 가이드를 더 포함한다.
양태 4: 양태들 1-3 의 어느 하나의 헤드 장착 디바이스에서, 아이 부분은 사용자의 제 1 눈을 향하도록 구성된 제 1 아이 부분이고, 헤드 장착 디바이스는: 사용자의 제 2 눈을 향하도록 구성된 제 2 아이 부분; 및 제 1 아이 부분과 제 2 아이 부분 사이의 브릿지 부분을 더 포함한다.
양태 5: 양태 4 의 헤드 장착 디바이스는: 브릿지 부분에 광 가이드를 더 포함한다.
양태 6: 양태 5 의 헤드 장착 디바이스에서, 적어도 하나의 광 이미터 및 적어도 하나의 이미지 센서는 광 가이드의 제 1 단부와 광학적으로 통신하고, 광 가이드의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성된다.
양태 7: 양태 5 의 헤드 장착 디바이스에서, 적어도 하나의 광 이미터는 광 가이드의 제 1 단부와 광학적으로 통신하고, 광 가이드의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성되고, 적어도 하나의 이미지 센서는 사용자의 코와 직접 광학적으로 통신하도록 구성된다.
양태 8: 양태 4 의 헤드 장착 디바이스는: 브릿지 부분에서 제 1 광 가이드; 및 브릿지 부분에서 제 2 광 가이드를 더 포함한다.
양태 9: 양태 8 의 헤드 장착 디바이스에서, 적어도 하나의 광 이미터는 제 1 광 가이드의 제 1 단부와 광학적으로 통신하고, 적어도 하나의 이미지 센서는 제 2 광 가이드의 제 1 단부와 광학적으로 통신하고, 제 1 광 가이드의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성되고, 제 2 광 가이드의 제 2 단부는 사용자의 코와 광학적으로 통신하도록 구성된다.
양태 10: 양태들 4-9 의 어느 하나의 헤드 장착 디바이스에서, 적어도 하나의 이미지 센서는 브릿지 부분의 코-대향면 (nose-facing side) 에 포지셔닝된다.
양태 11: 양태들 1-10 의 어느 하나의 헤드 장착 디바이스에서, 적어도 하나의 광 이미터는 적색 광 또는 근 적외선 광을 출력하도록 구성되는 발광 다이오드를 포함한다.
양태 12: 양태들 1-11 의 어느 하나의 헤드 장착 디바이스는: 이미지 센서에 의해 캡처된 이미지에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하도록 구성된 하나 이상의 프로세서들을 더 포함한다.
양태 13: 시스템은: 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 광 이미터; 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성되는 이미지 센서; 메모리; 및 메모리에 커플링된 하나 이상의 프로세서들을 포함하고, 메모리 및 하나 이상의 프로세서들은: 이미지에 적어도 부분적으로 기초하여 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하도록 구성된다.
양태 14: 양태 13 의 시스템에서, 광 이미터 및 이미지 센서는 헤드 장착 디바이스의 제 1 아이 부분과 헤드 장착 디바이스의 제 2 아이 부분 사이에 위치되는 헤드 장착 디바이스의 브릿지 부분에 포지셔닝된다.
양태 15: 양태들 13-14 의 어느 하나의 시스템은: 사용자의 코와 광 이미터 또는 이미지 센서 중 적어도 하나 사이의 광학적 통신을 제공하도록 구성된 적어도 하나의 광 가이드를 더 포함한다.
양태 16: 양태 15 의 시스템에서, 적어도 하나의 광 가이드는 경사진 단부를 포함한다.
양태 17: 양태들 15-16 의 어느 하나의 시스템에서, 적어도 하나의 광 가이드는 광 이미터로부터의 광을 사용자의 코로 지향시키고, 사용자의 코로부터 반사된 광을 수집하고, 반사된 광을 이미지 센서로 지향시키도록 구성된다.
양태 18: 양태들 15-16 의 어느 하나의 시스템에서, 적어도 하나의 광 가이드는 광 이미터로부터의 광을 사용자의 코로 지향시키도록 구성되고, 이미지 센서는 사용자의 코로부터 반사된 광을 직접 검출하도록 구성된다.
양태 19: 양태들 13-18 의 어느 하나의 시스템에서, 메모리 및 하나 이상의 프로세서들은 또한: 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하도록 구성된다.
양태 20: 방법은: 헤드 장착 디바이스의 이미지 센서로부터, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분의 제 1 이미지를 획득하는 단계; 헤드 장착 디바이스의 이미지 센서로부터, 사용자의 코의 적어도 일부분의 제 2 이미지를 획득하는 단계; 제 1 이미지 및 제 2 이미지에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 단계; 및 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하는 단계를 포함한다.
양태 21: 양태 20 의 방법에서, 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 단계는 제 1 이미지에 대한 제 2 이미지 내의 하나 이상의 픽셀들의 시프트를 결정하는 단계를 포함한다.
양태 22: 양태 21 의 방법에서, 하나 이상의 픽셀들은 코의 진피 피처들 또는 코의 피하 피처들 중 적어도 하나를 묘사한다.
양태 23: 양태들 20-22 의 의 방법은: 조정된 캘리브레이션에 적어도 부분적으로 기초하여 사용자의 시선 추적을 수행하는 단계; 및 시선 추적을 수행하는 것에 적어도 부분적으로 기초하여 헤드 장착 디바이스의 디스플레이의 컨텐츠를 조정하는 단계를 더 포함한다.
양태 24: 양태들 20-23 의 어느 하나의 방법에서, 제 1 이미지 및 제 2 이미지는 광 이미터에 의해 사용자의 코의 적어도 일부분의 조명에 적어도 부분적으로 기초하여 이미지 센서에 의해 획득된다.
양태 25: 양태들 20-24 의 어느 하나의 방법에서, 헤드 장착 디바이스의 시프트 또는 회전은 사용자의 코, 사용자의 눈 또는 사용자의 머리에 관련된다.
양태 26: 명령들의 세트를 저장한 비일시적 컴퓨터 판독가능 매체로서, 명령들의 세트는 헤드 장착 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 헤드 장착 디바이스로 하여금: 이미지 센서를 사용하여, 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 모니터링하게 하고; 사용자의 코를 모니터링하는 것에 적어도 부분적으로 기초하여, 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하게 하고; 그리고 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하게 하는 하나 이상의 명령들을 포함한다.
양태 27: 양태 26 의 비일시적 컴퓨터 판독가능 매체에서, 하나 이상의 명령들은, 헤드 장착 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 추가로, 헤드 장착 디바이스로 하여금: 광 이미터로부터 사용자의 코를 향하여 광을 출력하게 한다.
양태 28: 양태들 26-27 의 어느 하나의 비일시적 컴퓨터 판독가능 매체에서, 헤드 장착 디바이스로 하여금 사용자의 코를 모니터링하게 하는 하나 이상의 명령들은 헤드 장착 디바이스로 하여금: 이미지 센서를 사용하여 사용자의 코의 적어도 일부분의 이미지들을 획득하게 한다.
양태 29: 양태들 26-28 의 어느 하나의 비일시적 컴퓨터 판독가능 매체에서, 헤드 장착 디바이스로 하여금 헤드 장착 디바이스의 시프트 또는 회전을 결정하게 하는 하나 이상의 명령들은 헤드 장착 디바이스로 하여금: 이미지 센서에 의해 획득된 사용자의 코의 적어도 일부분의 이미지들에서 하나 이상의 픽셀들의 시프트를 결정하게 한다.
양태 30: 양태들 26-29 의 어느 하나의 비일시적 컴퓨터 판독가능 매체에서, 하나 이상의 명령들은, 헤드 장착 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 추가로, 헤드 장착 디바이스로 하여금: 조정된 캘리브레이션에 적어도 부분적으로 기초하여 사용자의 시선 추적을 수행하게 한다.
전술한 개시는 예시 및 설명을 제공하지만, 개시된 정확한 형태로 양태들을 한정하거나 완전한 것으로 의도되지 않는다. 수정들 및 변형들이 상기 개시의 관점에서 이루어질 수도 있거나 양태들의 실시로부터 획득될 수도 있다.
본 명세서에서 사용된 바와 같이, 용어 "컴포넌트"는 하드웨어, 펌웨어, 및/또는 하드웨어와 소프트웨어의 조합으로서 폭넓게 해석되도록 의도된다. 본 명세서에서 사용된 바와 같이, 프로세서는 하드웨어, 펌웨어, 및/또는 하드웨어와 소프트웨어의 조합에서 구현된다. 본 명세서에서 설명된 시스템들 및/또는 방법들은 하드웨어, 펌웨어, 및/또는 하드웨어와 소프트웨어의 조합의 상이한 형태들로 구현될 수도 있음이 명백할 것이다. 이러한 시스템들 및/또는 방법들을 구현하는데 사용된 실제 특수 제어 하드웨어 또는 소프트웨어 코드는 이러한 양태들을 제한하지 않는다. 따라서, 시스템들 및/또는 방법들의 동작 및 거동은 특정 소프트웨어 코드에 대한 참조없이 본 명세서에 설명되었다 - 소프트웨어 및 하드웨어는 본 명세서의 설명에 적어도 부분적으로 기초하여, 시스템들 및/또는 방법들을 구현하도록 설계될 수 있는 것으로 이해된다.
본 명세서에서 사용된 바와 같이, 임계치를 만족하는 것은, 컨텍스트에 의존하여, 임계치 초과, 임계치 이상, 임계치 미만, 임계치 이하, 임계치와 동일, 임계치와 동일하지 않은 값 등을 지칭할 수도 있다.
특징들의 특정 조합들이 청구항들에 기재되고 및/또는 명세서에 개시되어 있지만, 이들 조합들은 다양한 양태들의 개시를 제한하도록 의도되지 않는다. 실제로, 이들 특징들 중 다수는 청구항들에 구체적으로 기재되지 않고 및/또는 명세서에 개시되지 않은 방식으로 조합될 수도 있다. 하기에 열거된 각각의 종속 청구항은 하나의 청구항에만 직접 종속할 수도 있지만, 다양한 양태들의 개시는 청구항 세트에 있는 모든 다른 청구항과 조합하여 각각의 종속 청구항을 포함한다. 본 명세서에 사용된 바와 같이, 아이템들의 리스트 "중 적어도 하나" 를 지칭하는 구절은, 단일 멤버들을 포함한 그러한 아이템들의 임의의 조합을 지칭한다. 예로서, “a, b, 또는 c 중 적어도 하나" 는 a, b, c, a-b, a-c, b-c, 및 a-b-c 뿐 아니라 동일한 엘리먼트의 배수들과의 임의의 조합 (예를 들어, a-a, a-a-a, a-a-b, a-a-c, a-b-b, a-c-c, b-b, b-b-b, b-b-c, c-c, 및 c-c-c 또는 a, b, 및 c 의 임의의 다른 순서화) 을 커버하도록 의도된다.
본 명세서에서 사용된 어떠한 엘리먼트, 작동, 또는 명령도, 명시적으로 그렇게 기술되지 않으면, 중요하거나 필수적인 것으로서 해석되지 않아야 한다. 또한, 본 명세서에서 사용된 바와 같이, 부정 관사들 ("a"및 "an") 은 하나 이상의 항목들을 포함하도록 의도되고, "하나 이상" 과 상호교환가능하게 사용될 수도 있다. 또한, 본 명세서에서 사용되는 바와 같이, 정관사 "the" 는 정관사 "the" 와 관련하여 참조되는 하나 이상의 아이템을 포함하도록 의도되고, "하나 이상" 과 상호 교환가능하게 사용될 수도 있다. 더욱이, 본 명세서에서 사용된 바와 같이, 용어들 "세트" 및 "그룹" 은 하나 이상의 아이템들 (예컨대, 관련된 아이템들, 관련되지 않은 아이템들, 또는 관련된 아이템과 관련되지 않은 아이템의 조합) 을 포함하도록 의도되고, "하나 이상" 과 상호교환가능하게 사용될 수도 있다. 오직 하나의 아이템만이 의도된 경우, 어구 "오직 하나" 또는 유사한 언어가 사용된다. 또한, 본 명세서에서 사용된 바와 같이, 용어들 "갖는다", "가진다", "갖는" 등은 개방형 용어인 것으로 의도된다. 또한, 구절 "에 기초한" 은 달리 명시적으로 언급되지 않는 한 "적어도 부분적으로 기초한" 을 의미하는 것으로 의도된다. 또한, 본 명세서에서 사용된 바와 같이, 용어 "또는" 은 연속하여 사용될 때 포함적인 것으로 의도되고, 달리 명시적으로 서술되지 않으면 (예컨대, "어느 하나" 또는 "오직 하나" 와 조합하여 사용되면) "및/또는" 과 상호교환가능하게 사용될 수도 있다.

Claims (30)

  1. 헤드 장착 디바이스로서,
    상기 헤드 장착 디바이스를 착용한 사용자의 눈을 향하도록 구성된 아이 부분으로서, 상기 아이 부분은 디스플레이를 포함하는, 상기 아이 부분;
    상기 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 적어도 하나의 광 이미터; 및
    상기 사용자에 대한 상기 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 데 사용하기 위해 상기 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성된 적어도 하나의 이미지 센서를 포함하는, 헤드 장착 디바이스.
  2. 제 1 항에 있어서,
    상기 적어도 하나의 광 이미터에 광학적으로 커플링되고 상기 코의 일부분으로부터 떨어진 포지션에서 상기 적어도 하나의 광 이미터로부터의 광을 상기 코의 일부분으로 지향시키도록 구성되는 광 가이드를 더 포함하는, 헤드 장착 디바이스.
  3. 제 1 항에 있어서,
    상기 적어도 하나의 이미지 센서에 광학적으로 커플링되고 상기 코의 일부분으로부터의 광을 상기 코의 일부분으로부터 떨어진 포지션에서의 상기 적어도 하나의 이미지 센서로 지향하도록 구성되는 광 가이드를 더 포함하는, 헤드 장착 디바이스.
  4. 제 1 항에 있어서,
    상기 아이 부분은 상기 사용자의 제 1 눈을 향하도록 구성된 제 1 아이 부분이고, 그리고
    상기 헤드 장착 디바이스는:
    상기 사용자의 제 2 눈을 향하도록 구성된 제 2 아이 부분; 및
    상기 제 1 아이 부분과 상기 제 2 아이 부분 사이의 브릿지 부분을 더 포함하는, 헤드 장착 디바이스.
  5. 제 4 항에 있어서,
    상기 브릿지 부분에 광 가이드를 더 포함하는, 헤드 장착 디바이스.
  6. 제 5 항에 있어서,
    상기 적어도 하나의 광 이미터 및 상기 적어도 하나의 이미지 센서는 상기 광 가이드의 제 1 단부와 광학적으로 통신하고, 그리고
    상기 광 가이드의 제 2 단부는 상기 사용자의 코와 광학적으로 통신하기 위하여 구성되는, 헤드 장착 디바이스.
  7. 제 5 항에 있어서,
    상기 적어도 하나의 광 이미터는 상기 광 가이드의 제 1 단부와 광학적으로 통신하고,
    상기 광 가이드의 제 2 단부는 상기 사용자의 코와 광학적으로 통신하기 위하여 구성되고, 그리고
    상기 적어도 하나의 이미지 센서는 상기 사용자의 코와 직접 광학적으로 통신하기 위하여 구성되는, 헤드 장착 디바이스.
  8. 제 4 항에 있어서,
    상기 브릿지 부분에 제 1 광 가이드; 및
    상기 브릿지 부분에 제 2 광 가이드를 더 포함하는, 헤드 장착 디바이스.
  9. 제 8 항에 있어서,
    상기 적어도 하나의 광 이미터는 상기 제 1 광 가이드의 제 1 단부와 광학적으로 통신하고, 그리고 상기 적어도 하나의 이미지 센서는 상기 제 2 광 가이드의 제 1 단부와 광학적으로 통신하고, 그리고
    상기 제 1 광 가이드의 제 2 단부는 상기 사용자의 코와 광학적으로 통신하기 위하여 구성되고, 상기 제 2 광 가이드의 제 2 단부는 상기 사용자의 코와 광학적으로 통신하기 위하여 구성되는, 헤드 장착 디바이스.
  10. 제 4 항에 있어서,
    상기 적어도 하나의 이미지 센서는 상기 브릿지 부분의 코-대향면 (nose-facing side) 에 포지셔닝되는, 헤드 장착 디바이스.
  11. 제 1 항에 있어서,
    상기 적어도 하나의 광 이미터는 적색 광 또는 근 적외선 광을 출력하도록 구성되는 발광 다이오드를 포함하는, 헤드 장착 디바이스.
  12. 제 1 항에 있어서,
    상기 이미지 센서에 의해 캡처된 이미지에 적어도 부분적으로 기초하여, 상기 사용자에 대한 상기 헤드 장착 디바이스의 시프트 또는 회전을 결정하도록 구성된 하나 이상의 프로세서들을 더 포함하는, 헤드 장착 디바이스.
  13. 시스템으로서,
    헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 조명하기 위한 광을 방출하도록 구성된 광 이미터;
    상기 사용자의 코의 적어도 일부분의 이미지를 캡처하도록 구성되는 이미지 센서;
    메모리; 및
    상기 메모리에 커플링된 하나 이상의 프로세서들을 포함하고, 상기 메모리 및 상기 하나 이상의 프로세서들은:
    상기 이미지에 적어도 부분적으로 기초하여 상기 사용자에 대한 헤드 장착 디바이스의 시프트 또는 회전을 결정하도록 구성되는, 시스템.
  14. 제 13 항에 있어서,
    상기 광 이미터 및 상기 이미지 센서는 상기 헤드 장착 디바이스의 제 1 아이 부분과 상기 헤드 장착 디바이스의 제 2 아이 부분 사이에 포지셔닝되는 상기 헤드 장착 디바이스의 브릿지 부분에 포지셔닝되는, 시스템.
  15. 제 13 항에 있어서,
    상기 사용자의 코와 상기 광 이미터 또는 상기 이미지 센서 중 적어도 하나 사이의 광학적 통신을 제공하도록 구성된 적어도 하나의 광 가이드를 더 포함하는, 시스템.
  16. 제 15 항에 있어서,
    상기 적어도 하나의 광 가이드는 경사진 단부를 포함하는, 시스템.
  17. 제 15 항에 있어서,
    상기 적어도 하나의 광 가이드는 상기 광 이미터로부터의 광을 상기 사용자의 코로 지향시키고, 상기 사용자의 코로부터 반사된 광을 수집하고, 상기 반사된 광을 상기 이미지 센서로 지향시키도록 구성되는, 시스템.
  18. 제 15 항에 있어서,
    상기 적어도 하나의 광 가이드는 상기 광 이미터로부터의 광을 상기 사용자의 코로 지향시키도록 구성되고, 그리고
    상기 이미지 센서는 상기 사용자의 코로부터 반사된 광을 직접 검출하도록 구성되는, 시스템.
  19. 제 13 항에 있어서,
    상기 메모리 및 상기 하나 이상의 프로세서들은 또한:
    상기 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 상기 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하도록 구성되는, 시스템.
  20. 방법으로서,
    헤드 장착 디바이스의 이미지 센서로부터, 상기 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분의 제 1 이미지를 획득하는 단계;
    상기 헤드 장착 디바이스의 상기 이미지 센서로부터, 상기 사용자의 코의 적어도 일부분의 제 2 이미지를 획득하는 단계;
    상기 제 1 이미지 및 상기 제 2 이미지에 적어도 부분적으로 기초하여, 상기 사용자에 대한 상기 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 단계; 및
    상기 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 상기 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하는 단계를 포함하는, 방법.
  21. 제 20 항에 있어서,
    상기 헤드 장착 디바이스의 시프트 또는 회전을 결정하는 단계는:
    상기 제 1 이미지에 대한 상기 제 2 이미지 내의 하나 이상의 픽셀들의 시프트를 결정하는 단계를 포함하는, 방법.
  22. 제 21 항에 있어서,
    상기 하나 이상의 픽셀들은 코의 진피 피처들 또는 코의 피하 피처들 중 적어도 하나를 묘사하는, 방법.
  23. 제 20 항에 있어서,
    조정된 캘리브레이션에 적어도 부분적으로 기초하여 사용자의 시선 추적을 수행하는 단계; 및
    시선 추적을 수행하는 것에 적어도 부분적으로 기초하여 상기 헤드 장착 디바이스의 디스플레이의 컨텐츠를 조정하는 단계를 더 포함하는, 방법.
  24. 제 20 항에 있어서,
    상기 제 1 이미지 및 상기 제 2 이미지는 광 이미터에 의해 사용자의 코의 적어도 일부분의 조명에 적어도 부분적으로 기초하여 이미지 센서에 의해 획득되는, 방법.
  25. 제 20 항에 있어서,
    상기 헤드 장착 디바이스의 시프트 또는 회전은 상기 사용자의 코에 관련되는, 방법.
  26. 명령들의 세트를 저장한 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들의 세트는 헤드 장착 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 상기 헤드 장착 디바이스로 하여금:
    이미지 센서를 사용하여, 상기 헤드 장착 디바이스를 착용한 사용자의 코의 적어도 일부분을 모니터링하게 하고;
    상기 사용자의 코를 모니터링하는 것에 적어도 부분적으로 기초하여, 상기 사용자에 대한 상기 헤드 장착 디바이스의 시프트 또는 회전을 결정하게 하고; 그리고
    상기 헤드 장착 디바이스의 시프트 또는 회전에 적어도 부분적으로 기초하여 상기 사용자의 시선 추적을 위해 사용되는 캘리브레이션을 조정하게 하는 하나 이상의 명령들을 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
  27. 제 26 항에 있어서,
    상기 하나 이상의 명령들은 상기 헤드 장착 디바이스의 상기 하나 이상의 프로세서들에 의해 실행될 때, 추가로, 상기 헤드 장착 디바이스로 하여금:
    광 이미터로부터 상기 사용자의 코를 향하여 광을 출력하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
  28. 제 26 항에 있어서,
    상기 헤드 장착 디바이스로 하여금 상기 사용자의 코를 모니터링하게 하는 하나 이상의 명령들은 상기 헤드 장착 디바이스로 하여금:
    상기 이미지 센서를 사용하여 상기 사용자의 코의 적어도 일부분의 이미지들을 획득하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
  29. 제 26 항에 있어서,
    상기 헤드 장착 디바이스로 하여금 상기 헤드 장착 디바이스의 시프트 또는 회전을 결정하게 하는 하나 이상의 명령들은 상기 헤드 장착 디바이스로 하여금:
    이미지 센서에 의해 획득된 사용자의 코의 적어도 일부분의 이미지들에서 하나 이상의 픽셀들의 시프트를 결정하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
  30. 제 26 항에 있어서,
    상기 하나 이상의 명령들은 상기 헤드 장착 디바이스의 상기 하나 이상의 프로세서들에 의해 실행될 때, 추가로, 상기 헤드 장착 디바이스로 하여금:
    조정된 상기 캘리브레이션에 적어도 부분적으로 기초하여 상기 사용자의 시선 추적을 수행하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
KR1020237028934A 2021-03-01 2022-01-13 헤드 장착 디바이스의 움직임 검출 KR20230150967A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US17/249,393 US20220276702A1 (en) 2021-03-01 2021-03-01 Movement detection of a head mounted device
US17/249,393 2021-03-01
PCT/US2022/070169 WO2022187764A1 (en) 2021-03-01 2022-01-13 Movement detection of a head mounted device

Publications (1)

Publication Number Publication Date
KR20230150967A true KR20230150967A (ko) 2023-10-31

Family

ID=81175203

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020237028934A KR20230150967A (ko) 2021-03-01 2022-01-13 헤드 장착 디바이스의 움직임 검출

Country Status (6)

Country Link
US (1) US20220276702A1 (ko)
EP (1) EP4302151A1 (ko)
KR (1) KR20230150967A (ko)
CN (1) CN116888520A (ko)
TW (1) TW202248718A (ko)
WO (1) WO2022187764A1 (ko)

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9658473B2 (en) * 2005-10-07 2017-05-23 Percept Technologies Inc Enhanced optical and perceptual digital eyewear
DE102009008604A1 (de) * 2009-02-12 2010-08-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erfassen zumindest eines Vitalparameters einer Person; Vitalparametererfassungssystem
US8184067B1 (en) * 2011-07-20 2012-05-22 Google Inc. Nose bridge sensor
US8223024B1 (en) * 2011-09-21 2012-07-17 Google Inc. Locking mechanism based on unnatural movement of head-mounted display
US20130083003A1 (en) * 2011-09-30 2013-04-04 Kathryn Stone Perez Personal audio/visual system
US9585557B1 (en) * 2013-10-03 2017-03-07 Alvin Spivey Spectral flying spot eye-tracker and heads-up display
EP2886041A1 (en) * 2013-12-17 2015-06-24 ESSILOR INTERNATIONAL (Compagnie Générale d'Optique) Method for calibrating a head-mounted eye tracking device
US10064559B2 (en) * 2015-06-14 2018-09-04 Facense Ltd. Identification of the dominant nostril using thermal measurements
US10127728B2 (en) * 2016-09-30 2018-11-13 Sony Interactive Entertainment Inc. Facial feature views of user viewing into virtual reality scenes and integration of facial features into virtual reality views into scenes
US10573042B2 (en) * 2016-10-05 2020-02-25 Magic Leap, Inc. Periocular test for mixed reality calibration
IT201600125471A1 (it) * 2016-12-13 2018-06-13 Safilo Sa Fabbrica Italiana Lavorazione Occhiali Spa Occhiali con bio-sensori
US20200133387A9 (en) * 2017-05-24 2020-04-30 Silicon Algebra Inc. System for detecting facial movements over a face of a user
US10809796B2 (en) * 2017-09-29 2020-10-20 Apple Inc. Monitoring a user of a head-wearable electronic device
US20190101984A1 (en) * 2017-09-29 2019-04-04 Facebook Technologies, Llc Heartrate monitor for ar wearables
JP7247890B2 (ja) * 2017-10-19 2023-03-29 ソニーグループ株式会社 電子機器及び信号処理装置
US10942355B2 (en) * 2018-01-22 2021-03-09 Facebook Technologies, Llc Systems, devices, and methods for tiled multi-monochromatic displays
WO2019189868A1 (ja) * 2018-03-30 2019-10-03 パナソニックIpマネジメント株式会社 ヘッドマウントディスプレイ
US10330789B1 (en) * 2018-04-10 2019-06-25 Facebook Technologies, Llc Proximity sensor system with an infrared optical element
CN112567287A (zh) * 2018-06-18 2021-03-26 奇跃公司 具有帧调制功能的增强现实显示
US10884492B2 (en) * 2018-07-20 2021-01-05 Avegant Corp. Relative position based eye-tracking system
US10823970B2 (en) * 2018-08-23 2020-11-03 Apple Inc. Head-mounted electronic display device with lens position sensing
EP3912013A1 (en) * 2019-01-16 2021-11-24 Pupil Labs GmbH Methods for generating calibration data for head-wearable devices and eye tracking system
US11195495B1 (en) * 2019-09-11 2021-12-07 Apple Inc. Display system with facial illumination
EP4220275A4 (en) * 2021-01-21 2024-04-24 Samsung Electronics Co Ltd AUGMENTED REALITY DEVICE AND METHOD FOR DETECTING A USER'S GAZE

Also Published As

Publication number Publication date
US20220276702A1 (en) 2022-09-01
CN116888520A (zh) 2023-10-13
TW202248718A (zh) 2022-12-16
WO2022187764A1 (en) 2022-09-09
EP4302151A1 (en) 2024-01-10

Similar Documents

Publication Publication Date Title
US8506080B2 (en) Unlocking a screen using eye tracking information
US10241332B2 (en) Reducing stray light transmission in near eye display using resonant grating filter
US9671615B1 (en) Extended field of view in near-eye display using wide-spectrum imager
CA2750287C (en) Gaze detection in a see-through, near-eye, mixed reality display
TWI597623B (zh) 可穿戴基於行爲的視覺系統
US8752963B2 (en) See-through display brightness control
US9230171B2 (en) Object outlining to initiate a visual search
US20150003819A1 (en) Camera auto-focus based on eye gaze
KR20140059213A (ko) 홍채 스캔 프로파일링을 이용하는 헤드 마운티드 디스플레이
JP2017102768A (ja) 情報処理装置、表示装置、情報処理方法、及び、プログラム
CN112527099A (zh) 低功率眼睛跟踪系统
US11070789B1 (en) Switchable fringe pattern illuminator
US11450113B1 (en) Method and apparatus for a wearable computer
EP4314931A1 (en) Eye tracker illumination through a waveguide
US20220276702A1 (en) Movement detection of a head mounted device
US20210373658A1 (en) Electronic device and operating method thereof
US11852825B1 (en) Selective notifications from eye measurements
WO2017051720A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US20240094811A1 (en) Tracking system using a differential camera with a co-aligned light source assembly
US20240061500A1 (en) Absolute phase unwrapping for fringe analysis in an eye tracking application
TW202224426A (zh) 使用導光機構進行眼球追蹤
CN116802542A (zh) 扫描自混合干涉测量系统及传感器