TW202320542A - 用於眼動追蹤的視場成像系統 - Google Patents
用於眼動追蹤的視場成像系統 Download PDFInfo
- Publication number
- TW202320542A TW202320542A TW111137533A TW111137533A TW202320542A TW 202320542 A TW202320542 A TW 202320542A TW 111137533 A TW111137533 A TW 111137533A TW 111137533 A TW111137533 A TW 111137533A TW 202320542 A TW202320542 A TW 202320542A
- Authority
- TW
- Taiwan
- Prior art keywords
- optical element
- eye
- image sensor
- lens assembly
- light
- Prior art date
Links
- 238000003384 imaging method Methods 0.000 title abstract description 61
- 230000003287 optical effect Effects 0.000 claims abstract description 211
- 238000000034 method Methods 0.000 claims abstract description 27
- 210000001508 eye Anatomy 0.000 claims description 109
- 210000005252 bulbus oculi Anatomy 0.000 claims description 33
- 210000004279 orbit Anatomy 0.000 claims description 3
- 230000015654 memory Effects 0.000 description 14
- 230000008569 process Effects 0.000 description 9
- 230000000873 masking effect Effects 0.000 description 7
- 230000003190 augmentative effect Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 5
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 229910052710 silicon Inorganic materials 0.000 description 3
- 239000010703 silicon Substances 0.000 description 3
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 238000000576 coating method Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 210000000720 eyelash Anatomy 0.000 description 2
- 210000000744 eyelid Anatomy 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B5/00—Optical elements other than lenses
- G02B5/20—Filters
- G02B5/208—Filters for use with infrared or ultraviolet radiation, e.g. for separating visible light from infrared and/or ultraviolet radiation
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Health & Medical Sciences (AREA)
- Toxicology (AREA)
- Eye Examination Apparatus (AREA)
Abstract
本發明提供一種用於一成像系統之設備、系統及方法,該成像系統可用以在一頭戴式顯示器中支援眼動追蹤。該成像系統可包括一影像感測器,該影像感測器定位於一使用者之視場中及一透鏡總成內以俘獲自一眼球反射的光。該成像系統可包括兩個光學元件,該等元件經組態以至少部分地引導該影像感測器周圍的場景光,以對該使用者之眼球隱藏該影像感測器。該影像感測器定位於該透鏡總成內而在該兩個光學元件之間。
Description
本發明大體上係關於光學件,且特定言之,係關於眼動追蹤技術。
對相關申請案之互動參考
本申請案主張2021年10月29日申請之美國臨時專利申請案第63/273,481號以及2022年3月31日申請之美國非臨時專利申請案第17/709,690號之優先權,該等申請案特此以引用之方式併入。
眼動追蹤技術使得頭戴式顯示器(head mounted display;HMD)能夠基於使用者之眼球移動或眼球位向來與使用者互動。現有眼動追蹤系統使用定位於HMD之框架上的攝影機。然而,在HMD之框架上具有攝影機使得成像容易受到睫毛及眼瞼之遮擋。
本申請案之一具體實例係關於一種眼動追蹤系統,其包含:影像感測器,其定位於透鏡總成內以俘獲自眼球反射的光;第一光學元件,其由該透鏡總成承載且經組態以至少部分地引導該影像感測器周圍的場景光;及第二光學元件,其由該透鏡總成承載且經組態以接收該場景光且朝向該眼球引導該場景光,其中該影像感測器定位於該透鏡總成內而在該第一光學元件與該第二光學元件之間。
本申請案之另一具體實例係關於一種頭戴式顯示器,其包含:透鏡總成,其將場景光透射至眼框;框架,其承載該透鏡總成且將該透鏡總成定位在該眼框附近;及眼動追蹤系統,其包括:影像感測器,其定位於該眼框之視場中及該透鏡總成內,其中該影像感測器接收自該眼框反射之光;及光學元件,其由該透鏡總成承載,其中該光學元件接收該場景光且朝向該眼框引導該場景光,其中該光學元件定位於該眼框與該影像感測器之間,其中該光學元件對該眼框隱藏該影像感測器。
本申請案之又一具體實例係關於一種用於眼動追蹤之方法,其包含:用由透鏡總成承載之第一光學元件將場景光引導至透鏡總成中;用由透鏡總成承載之第二光學元件接收該場景光;用該第二光學元件朝向眼框引導該場景光;及用定位於視場中及該透鏡總成內之影像感測器接收來自該眼框的反射光,其中該第二光學元件至少部分地對該眼框隱藏該影像感測器。
本文中描述具有掩蔽光學結構之視場成像系統的具體實例。在以下描述中,闡述眾多特定細節以提供對具體實例之透徹理解。然而,所屬技術領域中具有通常知識者將認識到,可在無特定細節中之一或多者的情況下或藉由其他方法、組件、材料等來實踐本文中所描述之技術。在其他情況下,未展示或詳細描述熟知結構、材料或操作以避免混淆某些態樣。
貫穿本說明書對「一個具體實例」或「一具體實例」之提及意謂結合該具體實例所描述的特定特徵、結構或特性包括於本發明的至少一個具體實例中。因此,在本說明書通篇各處出現之片語「在一個具體實例中」或「在一具體實例中」未必皆指同一具體實例。此外,可在一或多個具體實例中以任何合適的方式組合特定特徵、結構或特性。
在本發明之態樣中,可見光可定義為具有大約380 nm至700 nm之波長範圍。不可見光可定義為具有在可見光範圍外之波長的光,諸如紫外光及紅外光。在本發明之態樣中,紅光可定義為具有大約620至750 nm之波長範圍,綠光可定義為具有大約495至570 nm之波長範圍,且藍光可定義為具有大約450至495 nm之波長範圍。
眼動追蹤功能性擴展頭戴式顯示器(HMD)可提供至使用者的服務及互動品質。當攝影機置放於HMD之框架上時,睫毛及眼瞼可阻擋及抑制自眼球可獲得的信號(例如,影像)之品質。對眼球進行成像之明顯較佳位置為攝影機位於眼球正前方。然而,將攝影機置放於眼球正前方可能會阻礙使用者的視線,且可能會具有降低使用者使用HMD之體驗品質的煩惱。本文中揭示用於將影像感測器置放於使用者之眼球的視場中及用於對使用者之視線隱藏或掩蔽影像感測器兩者的技術。在本發明之態樣中,「視場」可定義為在使用者之眼球的視場中。
HMD可包括成像系統,該成像系統至少部分地安置於HMD的透鏡總成中以接收自使用者之眼球的反射。成像系統包括影像感測器及光學結構。光學結構經組態以引導影像感測器周圍的場景光來實現使用者之眼球的無干擾及視場成像。換言之,光學結構經組態以藉由將影像感測器周圍的場景光引導至使用者之眼球而對使用者之眼球隱藏或掩蔽影像感測器。光學結構亦將自使用者之眼球的反射(例如,紅外反射)引導至影像感測器,而影像感測器定位於使用者之眼球的視場中。
該光學結構包括外耦合(眼球側)光學元件、內耦合(場景側)光學元件及一或多個中間光學元件。內耦合光學元件接收場景光且將場景光引導至一或多個中間光學元件。該一或多個中間光學元件接收來自內耦合光學元件的場景光且將場景光引導至外耦合光學元件。外耦合光學元件接收來自一或多個中間光學元件的場景光且將場景光引導至使用者的眼球。外耦合光學元件可經組態以將可見光反射或繞射至眼球,且將不可見光(例如,近紅外光)自眼球透射或傳遞至影像感測器。外耦合光學元件及內耦合光學元件可為經組態以重引導可見光同時透射或傳遞不可見光的二向色鏡、光學稜鏡、全像光學元件及/或不可見光柵。所揭示的藉由重引導影像感測器周圍的可見光來隱藏或掩蔽影像感測器可導致使用者之眼球的無干擾及無阻礙成像。
影像感測器定位於內耦合光學元件與外耦合光學元件之間,以使得光學元件能夠對使用者之眼球(及對外部觀測者)遮蔽、掩蔽或以其他方式隱藏影像感測器。舉例而言,影像感測器可具有500 µm×500 µm×500 µm之尺寸。
光學結構為至少部分地整合至HMD之透鏡總成中的掩蔽裝置。透鏡總成可包括一個、兩個、三個或更多個光學層。根據各種具體實例,成像系統的各種組件可併入至HMD的一或多個光學層及框架中。
HMD可針對使用者之各眼球包括多於一個光學掩蔽裝置。舉例而言,HMD可針對使用者之各眼球包括兩個光學掩蔽裝置。一個光學掩蔽裝置可具有影像感測器,該感測器朝向眼框定向以俘獲眼球反射光。另一光學掩蔽裝置可具有影像感測器,該感測器向外(遠離眼框)定向以自HMD之使用者的視角俘獲(或至少部分地俘獲)場景光。對於向外定向之影像感測器,內耦合(場景側)光學元件可包括光束分光器,其將可見光部分地引導至影像感測器,且實質上將剩餘可見光朝向一或多個中間光學元件(例如,鏡子)引導(例如,反射、折射或繞射)並引導至使用者的眼球。表示場景光之影像資料可用以識別場景中的物件,提供使用者介面選項/選單,且藉由在透鏡總成中(而非在HMD框架中)包括電子裝置而減小HMD框架之大小,以使得能夠製造較低剖面的HMD框架。
用於具有掩蔽光學結構之視場成像系統的設備、系統及方法描述於本發明中,且使得能夠改善眼動追蹤技術,例如以支援HMD之操作。結合圖1至圖7更詳細地描述此等及其他具體實例。
圖1示出根據本發明之態樣的頭戴式顯示器(HMD)100。如下文進一步描述,在具體實例中,HMD 100可包括成像系統102A/102B,該系統接收使用者之眼球的視線場(視場)中來自眼球的反射。成像系統102A/102B可用以支援眼動追蹤、使用者體驗(UX)及HMD 100之其他特徵。HMD,諸如HMD 100,為一種類型之頭戴式顯示器,其典型地穿戴於使用者之頭部上以向使用者提供人工實境內容。人工實境係在呈現給使用者之前已以某一方式調整之實境形式,其可包括例如虛擬實境(virtual reality;VR)、擴增實境(augmented reality;AR)、混合實境(mixed reality;MR)、混雜實境,或其某一組合及/或衍生物。
HMD 100包括耦接至臂106A及臂106B的框架104。將各透鏡總成108A/108B安裝至框架104。各透鏡總成108A/108B可為與HMD 100的特定使用者匹配的處方透鏡,或可為非處方透鏡。所示出之HMD 100經組態以穿戴於HMD 100之穿戴者的頭部上或頭部周圍。
各透鏡總成108A/108B包括波導110A/110B,以將由顯示器112A/112B產生之影像光引導至眼框區域,以用於由HMD 100之使用者檢視。顯示器112A/112B可包括液晶顯示器(liquid crystal display;LCD)、有機發光二極體(organic light emitting diode;OLED)顯示器、微LED顯示器、量子點顯示器、微型投影儀或矽上液晶(liquid crystal on silicon;LCOS)顯示器,以用於將影像光引導至HMD 100的穿戴者。
透鏡總成108對使用者可顯現為透明的,以促進擴增實境或混合實境以使得使用者能夠檢視來自其周圍之環境的場景光,同時亦藉由例如波導110接收引導至其眼球的影像光。因此,透鏡總成108可被視為(或包括)光學組合器。在一具體實例中,各透鏡總成108A/108B可包括透鏡總成,其包括承載成像系統102A/102B及/或波導110A/110B之部分的兩個或更多個光學層。在一些具體實例中,來自顯示器112A或112B的顯示光僅被引導至HMD 100之穿戴者的一個眼球。在一具體實例中,顯示器112A及112B兩者用以分別將影像光引導至波導110A及110B中。
HMD 100包括圍繞框架104中之透鏡總成108之周邊安置的數個光源116。光源116在向眼方向上發射光以照明HMD 100之眼框,從而產生自HMD 100之穿戴者的一眼球(或兩個眼球)的反射。光源116可為發光二極體(LED)、垂直腔面發射雷射(vertical-cavity surface-emitting laser;VCSEL)、微發光二極體(微LED)、邊緣發射LED、超發光二極體(SLED)或另一類型之光源。根據一具體實例,光源116發射不可見光。根據一具體實例,光源116發射近紅外光(例如,750 nm至1.5 μm)。在一個具體實例中,自光源116發射之光為以約850 nm為中心的紅外光。來自其他光源之紅外光亦可照明眼球。
根據一具體實例,來自光源116之反射光反射離開使用者之眼球且由成像系統102A/102B接收。成像系統102(個別地,成像系統102A及成像系統102B)定位於透鏡總成108內以處於使用者之眼球的視場中。根據一具體實例,成像系統102A/102B包括影像感測器及(掩蔽)光學結構。定位於視場中之影像感測器可提供優於傳統組態之改善的眼球位向判定(例如,眼動追蹤)。光學結構經組態以藉由引導影像感測器周圍的場景光及/或顯示光以及藉由將反射光引導至影像感測器,而對使用者之眼球隱藏影像感測器。成像系統102A/102B被描繪為透鏡總成108A中之成像系統102A及透鏡總成108B中之成像系統102B。然而,根據一個具體實例,所揭示之成像系統可實施於透鏡總成108中之僅一者中。
框架104及臂106可包括HMD 100之支撐硬體。根據一具體實例,HMD 100可包括控制器118,以接收來自成像系統102A/102B的影像資料且基於該影像資料而判定使用者之眼球的位向。控制器118可包括處理邏輯120、用於發送及接收資料之有線及/或無線資料介面、圖形處理器,及用於儲存資料及電腦可執行指令之一或多個記憶體122。控制器118及/或處理邏輯120可包括電路系統、邏輯、儲存於機器可讀取儲存媒體中之指令、ASIC電路系統、FPGA電路系統,及/或一或多個處理器。在一個具體實例中,HMD 100可經組態以接收有線電力。在一個具體實例中,HMD 100經組態以由一或多個電池供電。在一個具體實例中,HMD 100可經組態以經由有線通信通道接收包括視訊資料的有線資料。在一個具體實例中,HMD 100經組態以經由無線通信通道接收包括視訊資料的無線資料。
圖2示出根據本發明之具體實例的眼部環境200。眼部環境200包括靠近使用者之眼球204定位的HMD 202之橫截面側視圖。根據一具體實例,HMD 202為HMD 100(展示於圖1中)的實例實施方案。
HMD 202包括向眼側206及場景側210。向眼側206為眼框208所位於的位置及眼球204在使用期間所位於的位置。眼框208為二維或三維區域,眼球204可在其中移動。HMD 202可經組態以將場景光及/或顯示光引導至眼框208中。場景側210為HMD 202的一側,場景光212自該側產生且進入HMD 202的透鏡總成214。透鏡總成214為透鏡總成108A(展示於圖1中)的實例實施方案。
透鏡總成214經組態以將場景光212自場景側210引導至向眼側206。透鏡總成214可實施為單個光學層(例如,透鏡、塑膠、玻璃)或可包括光學耦合在一起(例如,堆疊)且經組態以支援HMD 202之操作的數個光學層。舉例而言,透鏡總成214可包括經組態以將場景光212聚焦於眼框208上之一個光學層,且可具有經組態以將顯示光提供至眼框208之另一光學層。其他層可具有其他功能,如下文進一步揭示。
透鏡總成214包括定位在眼球204之視場中的成像系統216。成像系統216為成像系統102A(展示於圖1中)的實例實施方案。成像系統216經組態以將場景光212提供至眼框208且接收離開眼球204的反射(例如,紅外反射)。成像系統216包括影像感測器218及經組態以對眼球204掩蔽或隱藏影像感測器218之光學結構220。光學結構220藉由引導影像感測器218周圍之場景光212而對眼球204隱藏影像感測器218。藉由引導影像感測器218周圍的場景光212之一部分,眼球204可看到或接收場景光212之可能已被影像感測器218阻擋或阻礙的部分。換言之,光學結構220使得眼球204能夠看到影像感測器218之場景側210而無需辨識或感知影像感測器218之阻礙物。在不存在光學結構220之情況下,影像感測器218可顯現為使用者之視場中的點或阻礙物,且可降低使用者在與HMD 202互動時體驗的總體愉悅度。
根據一具體實例,光學結構220包括內耦合光學元件222及外耦合光學元件224。影像感測器218定位於內耦合光學元件222與外耦合光學元件224之間。根據一具體實例,內耦合光學元件222及外耦合光學元件224安置於透鏡總成214內。根據一具體實例,內耦合光學元件222靠近(例如,幾乎觸碰)透鏡總成214之入射表面226而安置,且外耦合光學元件224靠近透鏡總成214之出射表面228而安置。內耦合光學元件222包括反射表面230。根據一具體實例,反射表面230經組態以反射可見光。外耦合光學元件224包括反射表面232。根據一具體實例,反射表面232經組態以反射可見光且透射紅外光。反射表面230及/或232可經塗佈以選擇性地反射可見光且透射或傳遞不可見光,且可包括二色性塗層以實現此功能性。
光學結構220可包括將內耦合光學元件222光學耦合至外耦合光學元件224之一或多個中間光學元件。根據一具體實例,光學結構220包括中間光學元件234及中間光學元件236。中間光學元件234定位於透鏡總成214內以接收來自內耦合光學元件222的場景光212且將場景光212引導(例如,反射)至中間光學元件236。中間光學元件236定位於透鏡總成214內以接收來自中間光學元件234的場景光212且將場景光212引導(例如,反射)至外耦合光學元件224。如所示出,中間光學元件234及236可視情況定位於框架104中或定位於透鏡總成214內而在眼球204之視場的外部部分附近。
光學結構220界定引導影像感測器218周圍的場景光212(之一部分)以對眼球204隱藏或掩蔽影像感測器218的光學路徑。光學路徑包括場景光212:穿過入射表面226(以入射角θi)進入透鏡總成214中,到達內耦合光學元件222;自內耦合光學元件222重引導至中間光學元件234;自中間光學元件234重引導至中間光學元件236;自中間光學元件236重引導至外耦合光學元件224;及自外耦合光學元件224朝向眼球204重引導至出射表面228。在一個具體實例中,場景光212以類似於入射角θi之折射角θr離開透鏡總成214。在其他具體實例中,透鏡總成214包括正屈光度或負屈光度,其將折射角度θr改變成比入射角θi更加會聚或更加發散。
影像感測器218定位於透鏡總成214內以經由光學結構220之至少部分接收來自眼球204的反射。影像感測器218可用於藉由接收離開眼球204之不可見光240(例如,紅外、近紅外等)的反射238來支援HMD 202的眼動追蹤功能。不可見光240可由可定位於框架104上之各種位置中的一或多個光源116發射。影像感測器218可經由外耦合光學元件224接收反射238,該外耦合光學元件可經組態以反射可見光且透射或傳遞不可見光240。換言之,外耦合光學元件224可經組態以將場景光212引導至眼球204,且可經組態以將離開眼球204之反射238引導至影像感測器218。影像感測器218將反射238轉換成影像資料242。影像資料242包括可代表由影像感測器218將反射238轉換成電信號的資料。影像感測器218可經由通信通道244以通信方式耦接至控制器118,且可使用通信通道244將影像資料242提供至控制器118。影像感測器218可實施為互補金屬氧化物半導體(「complementary metal oxide semiconductor;CMOS」)影像感測器,或電荷耦合裝置(「charge-coupled device;CCD」)影像感測器。
圖3示出根據本發明之具體實例的HMD 300之部分分解透視圖。HMD 300示出根據一具體實例的HMD 202(展示於圖2中)的實例實施方案。HMD 300包括透鏡總成302及透鏡總成303。透鏡總成302為透鏡總成214(展示於圖2中)之實施方案的說明性實例。透鏡總成303可類似於透鏡總成302。
根據本發明之一具體實例,透鏡總成302可包括數個光學層,成像系統216分佈於該等光學層中。儘管示出具有四個光學層之透鏡總成302,但透鏡總成302可實施為具有更多層或更少層,如下文所描述。根據一具體實例,透鏡總成302包括外耦合層304、成像層306、內耦合層308及顯示層310。如所示出,外耦合層304可最接近向眼側206而定位。外耦合層304可包括外耦合光學元件224及中間光學元件236。成像層306可定位於外耦合層304與內耦合層308之間。成像層306可包括影像感測器218。內耦合層308可包括內耦合光學元件222及中間光學元件234。根據一具體實例,中間光學元件234及/或中間光學元件236可替代地安置於成像層306上或框架104中。根據一具體實例,光學結構220之內耦合光學元件222、中間光學元件234、中間光學元件236及外耦合光學元件224可各自安置於其自身的專用光學層中。根據一具體實例,影像感測器218可替代地安置於外耦合層304中或內耦合層308中。根據一具體實例,影像感測器218可替代地承載於外耦合層304之表面上或內耦合層308之表面上以安置於兩個光學層之間。
顯示層310可包括波導110A(展示於圖1中)以將由電子顯示器產生之顯示光引導至使用者之眼球。在一些實施方案中,電子顯示器之至少一部分包括於HMD 300之框架104中。電子顯示器可包括LCD、有機發光二極體(OLED)顯示器、微LED顯示器、微型投影儀或矽上液晶(LCOS)顯示器以用於產生顯示光。波導110A可替代地併入至透鏡總成302之其他光學層中之一者中。透鏡總成302之光學層中之一或多者亦可經製造以同時操作為除了場景光212之外亦將虛擬影像引導至使用者之眼球的照明層及/或光學組合器層。舉例而言,外耦合層304可包括照明使用者之眼球的複數個視場光源。
雖然圖3示出HMD 300經組態用於擴增實境(AR)或混合實境(MR)情境,但HMD之本文中所揭示的具體實例亦可用於HMD的其他實施方案中。舉例而言,本發明之透鏡總成中之任一者的光學層可接近虛擬實境(VR)HMD的顯示平面或聚焦透鏡而安置。
圖4示出根據本發明之具體實例的包括HMD 402之橫截面側視圖的眼部環境400。根據一具體實例,HMD 402為HMD 100(展示於圖1中)的實例實施方案。HMD 402包括透鏡總成404,且透鏡總成404包括成像系統406。成像系統406為成像系統102A(展示於圖1中)的實例實施方案。HMD 402及成像系統406分別包括HMD 202(展示於圖2中)及成像系統216(展示於圖2中)的一些類似組件。成像系統406包括具有單個中間光學元件410的光學結構408。中間光學元件410接收來自內耦合光學元件222的場景光212,且將場景光212引導至外耦合光學元件224。根據一具體實例,中間光學元件410經組態以支援引導影像感測器218周圍的場景光212。中間光學元件410為反射光學裝置且可實施為鏡子,且可包括一或多個二向色塗層以實現可見光或全部光的反射。如所示出,中間光學元件410可視情況定位於框架104中或眼球204之視場的外部部分附近。
圖5示出根據本發明之具體實例的HMD 500之部分分解透視圖。根據一具體實例,HMD 500示出HMD 402(展示於圖4中)的實例實施方案。HMD 500包括透鏡總成502及透鏡總成503。透鏡總成502為透鏡總成404(展示於圖4中)之實施方案的說明性實例。透鏡總成503可類似於透鏡總成502。
根據本發明之一具體實例,透鏡總成502可包括數個光學層,成像系統406分佈於該等光學層中。儘管透鏡總成502示出為具有四個光學層,但根據本發明之各種具體實例,透鏡總成502可實施為具有更多層或更少層。根據一具體實例,透鏡總成502包括外耦合層504、成像層506、內耦合層508及顯示層310(亦展示於圖3中)。如所示出,外耦合層504可最接近向眼側206而定位。外耦合層504可包括外耦合光學元件224(例如,嵌入於外耦合光學元件內、表面黏著外耦合光學元件等)。成像層506可定位於外耦合層504與內耦合層508之間。成像層506可包括影像感測器218及中間光學元件410。內耦合層508可包括內耦合光學元件222。根據一具體實例,中間光學元件410可替代地包括於外耦合層504中或可包括於內耦合層508中。根據一具體實例,光學結構408之內耦合光學元件222、中間光學元件410及外耦合光學元件224可各自安置於其自身的專用光學層中。根據一具體實例,影像感測器218可替代地安置於外耦合層504中或內耦合層508中。根據一具體實例,影像感測器218可替代地承載於外耦合層504之表面上或內耦合層508之表面上以安置於兩個光學層之間。
圖6示出根據本發明之具體實例的包括HMD 602之橫截面側視圖的眼部環境600。根據本發明之具體實例,HMD 602包括引導影像感測器218周圍之場景光212的繞射光學元件。根據一具體實例,HMD 602為HMD 100(展示於圖1中)的實例實施方案。HMD 602包括透鏡總成604,該透鏡總成包括成像系統606。成像系統606為成像系統102A(展示於圖1中)的實例實施方案。HMD 602及成像系統606分別包括HMD 202(展示於圖2中)及成像系統216(展示於圖2中)之一些類似組件,以及類似於HMD 402(展示於圖4中)的組件。成像系統606包括光學結構608,該光學結構包括中間光學元件410、內耦合光學元件610及外耦合光學元件612。根據一具體實例,內耦合光學元件610及外耦合光學元件612為繞射光學元件。內耦合光學元件610及外耦合光學元件612可實施為繞射光柵及/或全像光學元件。根據一具體實例,在操作中,內耦合光學元件610接收場景光212且將場景光212引導(例如,繞射)至中間光學元件410;中間光學元件410接收來自內耦合光學元件610的場景光212且將場景光212引導(例如,反射)至外耦合光學元件612;且外耦合光學元件612接收來自中間光學元件410的場景光212,且將場景光212引導(例如,繞射)至眼框208,以對眼球204隱藏或掩蔽影像感測器218。外耦合光學元件612經組態以將反射238透射或傳遞至影像感測器218。如所示出,中間光學元件410可視情況定位於框架104中或眼球204之視場的外部部分附近。
圖7示出根據一具體實例的用於眼動追蹤的程序700。程序700可併入(例如,在控制器120中)至本文中所揭示之一或多個HMD中。程序區塊中之一些或全部出現在程序700中的次序不應被視為限制性的。確切而言,受益於本發明的所屬技術領域中具有通常知識者將理解,程序區塊中之一些可以未示出的各種次序執行,或甚至並行地執行。
在程序區塊702中,根據一具體實例,程序700用由透鏡總成承載之第一光學元件將場景光引導至透鏡總成中。根據一具體實例,程序區塊702可繼續進行至程序區塊704。
在程序區塊704中,根據一具體實例,程序700用由透鏡總成承載之第二光學元件接收場景光。根據一具體實例,程序區塊704可繼續進行至程序區塊706。
在程序區塊706中,根據一具體實例,程序700用第二光學元件將場景光朝向眼框引導。根據一具體實例,程序區塊706可繼續進行至程序區塊708。
在程序區塊708中,根據一具體實例,程序700用定位於視場中及透鏡總成內之影像感測器接收來自眼框之反射光,其中第二光學元件至少部分地對眼框隱藏影像感測器。
根據一具體實例,第一光學元件及第二光學元件經組態以對眼框內的使用者之眼球隱藏或掩蔽影像感測器。第一及第二光學元件經組態以引導影像感測器周圍的場景光,且將場景光引導至眼框。程序700亦可包括用例如紅外光來照明眼框以使得影像感測器能夠接收來自使用者之眼球的反射。該等反射被轉換為由影像資料表示之電信號,該等電信號可用於追蹤及判定使用者之眼球的位向。舉例而言,使用者之眼球的位向可由所揭示之HMD使用以提供使用者介面選項,調整使用者介面元件之焦點,或以其他方式向使用者提供定製互動體驗。
本發明之具體實例可包括人工實境系統或結合該人工實境系統實施。人工實境為在向使用者呈現之前已以某一方式調整的實境形式,其可包括例如虛擬實境(VR)、擴增實境(AR)、混合實境(MR)、混雜實境,或其某一組合及/或衍生物。人工實境內容可包括完全產生之內容或與所俘獲之(例如,真實世界)內容組合的所產生之內容。人工實境內容可包括視訊、音訊、觸覺反饋或其某一組合,且其中之任一者可在單個通道中或在多個通道中呈現(諸如,對檢視者產生三維效應之立體聲視訊)。另外,在一些具體實例中,人工實境亦可與用以例如在人工實境中產生內容及/或以其他方式用於人工實境中(例如,在人工實境中執行活動)之應用程式、產品、配件、服務或其某一組合相關聯。提供人工實境內容之人工實境系統可實施於各種平台上,包括連接至主機電腦系統之頭戴式顯示器(HMD)、獨立式HMD、行動裝置或計算系統,或能夠將人工實境內容提供至一或多個檢視者的任何其他硬體平台。
本發明中之術語「處理邏輯」(例如,控制器118、處理邏輯120)可包括一或多個處理器、微處理器、多核心處理器、特殊應用積體電路(Application-specific integrated circuit;ASIC)及/或場可程式化閘陣列(Field Programmable Gate Array;FPGA)以執行本文中所揭示的操作。在一些具體實例中,記憶體(未示出)經整合至處理邏輯中以儲存用以執行操作及/或儲存資料的指令。處理邏輯亦可包括類比或數位電路系統,以執行根據本發明之具體實例的操作。
本發明中所描述之「記憶體(memory或memories)」(例如,記憶體122)可包括一或多個揮發性或非揮發性記憶體架構。「記憶體(memory或memories)」可為以任何方法或技術實施以用於儲存資訊(諸如,電腦可讀取指令、資料結構、程式模組或其他資料)的抽取式及非抽取式媒體。實例記憶體技術可包括RAM、ROM、EEPROM、快閃記憶體、CD-ROM、數位多功能光碟(digital versatile disk;DVD)、高清晰度多媒體/資料儲存磁碟或其他光學儲存器、匣式磁帶、磁帶、磁碟儲存器或其他磁性儲存裝置,或可用於儲存資訊以供計算裝置存取之任何其他非傳輸媒體。
計算裝置可包括桌上型電腦、膝上型電腦、平板電腦、平板手機、智慧型手機、功能型手機、伺服器電腦或其他。伺服器電腦可遠端地位於資料中心中或儲存在本端。
上文所解釋之程序係依據電腦軟體及硬體來描述的。所描述之技術可構成體現於有形或非暫時性機器(例如,電腦)可讀取儲存媒體內之機器可執行指令,該等機器可執行指令在由機器執行時將使得機器執行所描述之操作。另外,程序可體現於硬體內,諸如特殊應用積體電路(「ASIC」)或其他。
有形非暫時性機器可讀取儲存媒體包括以可由機器(例如,電腦、網路裝置、個人數位助理、製造工具、具有一或多個處理器之集合的任何裝置等)存取之形式提供(亦即,儲存)資訊的任何機構。舉例而言,機器可讀取儲存媒體包括可記錄/不可記錄媒體(例如,唯讀記憶體(read only memory;ROM)、隨機存取記憶體(random access memory;RAM)、磁碟儲存媒體、光學儲存媒體、快閃記憶體裝置等)。
本發明之所示出具體實例的以上描述(包括發明摘要中所描述之內容)並不意欲為詳盡的或將本發明限於所揭示之精確形式。雖然本文中出於說明性目的描述本發明之特定具體實例及實例,但所屬技術領域中具有通常知識者將認識到,在本發明之範圍內,各種修改係可能的。
鑒於以上詳細描述,可對本發明作出此等修改。在以下申請專利範圍中所使用之術語不應解釋為將本發明限於本說明書中所揭示之特定具體實例。確切而言,本發明之範圍應完全由將根據申請專利範圍解譯之已確立原則解釋的以下申請專利範圍來判定。
100:頭戴式顯示器(HMD)
102A:成像系統
102B:成像系統
104:框架
106A:臂
106B:臂
108A:透鏡總成
108B:透鏡總成
110A:波導
110B:波導
112A:顯示器
112B:顯示器
116:光源
118:控制器
120:處理邏輯
122:記憶體
200:眼部環境
202:HMD
204:眼球
206:向眼側
208:眼框
210:場景側
212:場景光
214:透鏡總成
216:成像系統
218:影像感測器
220:光學結構
222:內耦合光學元件
224:外耦合光學元件
226:入射表面
228:出射表面
230:反射表面
232:反射表面
234:中間光學元件
236:中間光學元件
238:反射
240:不可見光
242:影像資料
244:通信通道
300:HMD
302:透鏡總成
303:透鏡總成
304:外耦合層
306:成像層
308:內耦合層
310:顯示層
400:眼部環境
402:HMD
404:透鏡總成
406:成像系統
408:光學結構
410:中間光學元件
500:HMD
502:透鏡總成
503:透鏡總成
504:外耦合層
506:成像層
508:內耦合層
600:眼部環境
602:HMD
604:透鏡總成
606:成像系統
608:光學結構
610:內耦合光學元件
612:外耦合光學元件
700:程序
702:程序區塊
704:程序區塊
706:程序區塊
708:程序區塊
θi:入射角
θr:折射角
參考以下諸圖描述本發明之非限制性及非詳盡性具體實例,其中除非另外指定,否則貫穿各種視圖,相同參考編號係指相同部分。
[圖1]示出根據本發明之態樣的頭戴式顯示器。
[圖2]示出根據本發明之態樣的在眼部環境中之頭戴式顯示器的實例實施方案。
[圖3]示出根據本發明之態樣的頭戴式顯示器。
[圖4]示出根據本發明之態樣的在眼部環境中之頭戴式顯示器的實例實施方案。
[圖5]示出根據本發明之態樣的頭戴式顯示器。
[圖6]示出根據本發明之態樣的在眼部環境中之頭戴式顯示器的實例實施方案。
[圖7]示出根據本發明之態樣的用於眼動追蹤的程序之流程圖。
100:頭戴式顯示器(HMD)
102A:成像系統
102B:成像系統
104:框架
106A:臂
106B:臂
108A:透鏡總成
108B:透鏡總成
110A:波導
110B:波導
112A:顯示器
112B:顯示器
116:光源
118:控制器
120:處理邏輯
122:記憶體
Claims (20)
- 一種眼動追蹤系統,其包含: 影像感測器,其定位於透鏡總成內以俘獲自眼球反射的光; 第一光學元件,其由該透鏡總成承載且經組態以至少部分地引導該影像感測器周圍的場景光;及 第二光學元件,其由該透鏡總成承載且經組態以接收該場景光且朝向該眼球引導該場景光, 其中該影像感測器定位於該透鏡總成內而在該第一光學元件與該第二光學元件之間。
- 如請求項1之眼動追蹤系統,其中該影像感測器、該第一光學元件及該第二光學元件在該透鏡總成內部。
- 如請求項1之眼動追蹤系統,其中該透鏡總成包括實體地耦接在一起之複數個光學層。
- 如請求項1之眼動追蹤系統,其中該第一光學元件定位於該影像感測器之場景側,且其中該第二光學元件定位於該影像感測器之向眼側。
- 如請求項1之眼動追蹤系統,其中該第二光學元件對該眼球隱藏該影像感測器。
- 如請求項1之眼動追蹤系統,其中該第二光學元件重引導可見光且傳遞紅外光。
- 如請求項1之眼動追蹤系統,其中該第二光學元件包括二向色層,該二向色層經組態以反射可見光且透射不可見光。
- 如請求項1之眼動追蹤系統,其進一步包含至少一個中間光學元件。
- 如請求項8之眼動追蹤系統,其中該至少一個中間光學元件包括反射光學元件,該反射光學元件定位於該第一光學元件與該第二光學元件之間以將該場景光自該第一光學元件引導至該第二光學元件。
- 如請求項9之眼動追蹤系統,其中該透鏡總成包括第一層、第二層及第三層,其中該影像感測器定位於該第二層內。
- 如請求項8之眼動追蹤系統,其中該至少一個中間光學元件包括第三光學元件及第四光學元件,其中該第三光學元件經組態以接收來自該第一光學元件之該場景光且將該場景光引導至該第四光學元件,其中該第四光學元件經組態以接收來自該第三光學元件之該場景光且將該場景光引導至該第二光學元件。
- 如請求項11之眼動追蹤系統,其中該透鏡總成包括第一層、第二層及第三層,其中該影像感測器定位於該第二層內,且其中該第一光學元件定位於該第一層內且該第二光學元件定位於該第三層內。
- 如請求項1之眼動追蹤系統,其中該第一光學元件及該第二光學元件係繞射光學元件。
- 如請求項1之眼動追蹤系統,其中該影像感測器經組態以俘獲自該眼球反射的紅外光。
- 如請求項1之眼動追蹤系統,其進一步包含以通信方式耦接至該影像感測器的控制器,其中該控制器經組態以接收來自該影像感測器之影像資料,其中該控制器經組態以基於該影像資料而至少部分地判定該眼球之位向。
- 一種頭戴式顯示器,其包含: 透鏡總成,其將場景光透射至眼框; 框架,其承載該透鏡總成且將該透鏡總成定位在該眼框附近;及 眼動追蹤系統,其包括: 影像感測器,其定位於該眼框之視場中及該透鏡總成內,其中該影像感測器接收自該眼框反射之光;及 光學元件,其由該透鏡總成承載,其中該光學元件接收該場景光且朝向該眼框引導該場景光, 其中該光學元件定位於該眼框與該影像感測器之間, 其中該光學元件對該眼框隱藏該影像感測器。
- 如請求項16之頭戴式顯示器,其進一步包含由該框架承載之複數個光源,其中該複數個光源被引導朝向該眼框,其中該複數個光源發射具有不可見波長的光。
- 如請求項16之頭戴式顯示器,其進一步包含控制器,該控制器以通信方式耦接以接收來自該影像感測器之影像資料,其中該控制器至少部分地基於該影像資料而至少部分地判定該眼球的位向。
- 一種用於眼動追蹤之方法,其包含: 用由透鏡總成承載之第一光學元件將場景光引導至透鏡總成中; 用由透鏡總成承載之第二光學元件接收該場景光; 用該第二光學元件朝向眼框引導該場景光;及 用定位於視場中及該透鏡總成內之影像感測器接收來自該眼框的反射光, 其中該第二光學元件至少部分地對該眼框隱藏該影像感測器。
- 如請求項19之方法,其進一步包含: 用光源朝向該眼框發射不可見光;及 至少部分地基於自該眼框接收之該反射光而判定眼球的位向。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163273481P | 2021-10-29 | 2021-10-29 | |
US63/273,481 | 2021-10-29 | ||
US17/709,690 US11927766B2 (en) | 2021-10-29 | 2022-03-31 | In-field imaging system for eye tracking |
US17/709,690 | 2022-03-31 |
Publications (1)
Publication Number | Publication Date |
---|---|
TW202320542A true TW202320542A (zh) | 2023-05-16 |
Family
ID=84370895
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW111137533A TW202320542A (zh) | 2021-10-29 | 2022-10-03 | 用於眼動追蹤的視場成像系統 |
Country Status (2)
Country | Link |
---|---|
TW (1) | TW202320542A (zh) |
WO (1) | WO2023076647A1 (zh) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11073903B1 (en) * | 2017-10-16 | 2021-07-27 | Facebook Technologies, Llc | Immersed hot mirrors for imaging in eye tracking |
SE543065C2 (en) * | 2019-01-31 | 2020-09-29 | Tobii Ab | Head-worn device and lens for eye-tracking applications that includes a refractive element |
-
2022
- 2022-10-03 TW TW111137533A patent/TW202320542A/zh unknown
- 2022-10-30 WO PCT/US2022/048320 patent/WO2023076647A1/en unknown
Also Published As
Publication number | Publication date |
---|---|
WO2023076647A1 (en) | 2023-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10197805B2 (en) | Systems, devices, and methods for eyeboxes with heterogeneous exit pupils | |
US10031338B2 (en) | Systems, devices, and methods for eyebox expansion in wearable heads-up displays | |
US10663732B2 (en) | Systems, devices, and methods for beam combining in wearable heads-up displays | |
CN105008981B (zh) | 用于近眼显示器的光学系统 | |
US11500185B2 (en) | Catadioptric and refractive optical structures for beam shaping | |
US11428930B2 (en) | Stray light suppression in eye-tracking imaging | |
US11536969B2 (en) | Scene camera | |
US20210011293A1 (en) | Image display device and display device | |
US10880542B1 (en) | Near-eye optical element with embedded hot mirror | |
US11002966B2 (en) | Systems, devices, and methods for eyebox expansion in wearable heads-up display | |
US10852824B1 (en) | Infrared light suppression in eye-tracking imaging | |
US20230204967A1 (en) | Multi-directional gratings in a waveguide system | |
US20230205312A1 (en) | Waveguide imaging system for eye tracking | |
US20230119935A1 (en) | Gaze-guided image capture | |
US11927766B2 (en) | In-field imaging system for eye tracking | |
TW202320542A (zh) | 用於眼動追蹤的視場成像系統 | |
US11205069B1 (en) | Hybrid cornea and pupil tracking | |
US11796804B1 (en) | Eye-tracking with steered eyebox | |
US11778366B2 (en) | Gaze-guided audio | |
TW202331357A (zh) | 用於眼動追蹤的波導成像系統 | |
WO2023129525A1 (en) | Multi-directional gratings in a waveguide system | |
WO2023129524A1 (en) | Wavelength multiplexed waveguide system for eye-tracking |