TWI743148B - 眼動追蹤的電腦實施方法、眼動追蹤系統及裝置 - Google Patents
眼動追蹤的電腦實施方法、眼動追蹤系統及裝置 Download PDFInfo
- Publication number
- TWI743148B TWI743148B TW106123684A TW106123684A TWI743148B TW I743148 B TWI743148 B TW I743148B TW 106123684 A TW106123684 A TW 106123684A TW 106123684 A TW106123684 A TW 106123684A TW I743148 B TWI743148 B TW I743148B
- Authority
- TW
- Taiwan
- Prior art keywords
- eye
- display
- line
- sight
- eye tracking
- Prior art date
Links
Images
Landscapes
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本發明提供一種包含在一電腦存儲媒體上編碼的電腦程序的眼動辨識方法、系統和裝置。依據本發明提供的一種方法包含:擷取以一光檢測器量測眼睛反射之一光信號所對應之一電信號,依據光檢測器產生的電信號及一參考信號之相位差來判斷眼睛的一深度圖;前述方法還包含:根據深度圖判斷對應於眼睛視線的視線資訊,並輸出對應於視線資訊的輸出資料。
Description
本發明是關於眼動追蹤。
光可被引導至一眼睛,並可觀察到反射光。反射光可經處理以判斷與眼睛具關聯性的資訊。
在某些實施方式中,一眼動追蹤方法能夠用以判斷一眼睛的視線資訊。前述的方法包含解調由眼睛反射的調制光學信號,解調光學信號能夠經處理以產生對應眼睛的深度圖並進一步判斷眼睛的視線資訊。眼睛的視線資訊包含對應於,例如是眼睛的瞳孔或虹膜的資訊,並能夠用於各種應用,例如,判斷使用者偏好資料、以視覺控制人機介面設備、提供跨平台周邊控制等。此外,藉由追蹤眼睛的姿勢,對應的眼睛視線資訊能夠用以即時地重新對焦可調光學元件來改變入射眼睛的光,創造不暈眩的視覺體驗。眼動追蹤方法也能夠用於各種平台上,藉由使光學元件動態地重新對焦,可增強視覺體驗,例如提供3D凝視點影像。
根據本發明之創新目的的一實施方式中,方法包含:從眼睛反射的一調製光信號,擷取由一光檢測器生成的一電信號,電信號包括一
第一相位,其中調製光信號由被一調製信號偏置的一個或多個光源生成,調製信號包括一第二相位;依據光檢測器產生的電信號的第一相位及一參考信號的一第三相位的一相位差來判斷眼睛的一深度圖;前述方法還包含:根據深度圖判斷對應於眼睛視線的視線資訊,並輸出對應於視線資訊的輸出資料。
在其它實施方式中,包含用以執行編碼在電腦儲存裝置上的方法的動作的對應系統、裝置和電腦程序。
在本發明之一實施方式中可選擇性地包含一或多個下述特徵。舉例來說,前述方法可以包含提供一或多個濾波器以移除於眼睛反射之調製光信號中的非目標波長信號。此外,前述方法能夠包含提供一或多個透鏡以聚焦眼睛反射之調製光信號於光檢測器。深度圖能夠包含一或多個三維(3D)資訊的資料組。視線資訊能夠包含眼睛的一特定區域辨識、眼睛的一瞳孔的辨識、眼睛的一虹膜的辨識及眼睛的一生理結構的辨識中的一或多者。在某些方面,提供視線資訊的輸出資料包含提供對應於視線資訊的輸出資料以作為其它裝置、機械或系統的輸入。前述方法能夠包含依據視線資訊判斷一眼睛姿勢,並提供表示眼睛姿勢的輸出資料。在這種情況下,眼睛姿勢能夠包含眼睛的移動、眼睛的轉動、眼睛的穩定狀態、眼睛的穩定狀態所對應時間、眼睛的閉合狀態、眼睛的閉合狀態所對應時間、眼睛的睜開狀態、眼睛的睜開狀態所對應的時間、眼睛的眨眼睛的狀態、眼睛的眨眼睛狀態所對應時間,以及眨眼睛狀態所對應頻率中的一或多者。此外,提供表示眼睛
姿勢的輸出資料能夠包含提供對應於視線資訊的輸出資料以作為其它裝置、機械或系統的輸入。
在某些方面,從眼睛反射的調製光信號是由施加以調製信號的一或多個光源所生成,調製信號與參考信號同步。前述方法能夠包含在與眼睛相切之一平面產生一垂直虹膜向量,並根據深度圖及虹膜向量判斷表示眼睛視線的視線資訊。前述方法還能夠包含在與眼睛相切之一平面產生一瞳孔位置,並根據深度圖及瞳孔位置判斷表示眼睛視線的視線資訊。
根據本發明之創新目的的另一實施方式中,眼動追蹤系統包含:一機械,其具有一顯示器,顯示器包含複數可調光學元件。系統也能夠包含:一裝置,前述裝置包含一電路,前述電路用以擷取以一光檢測器量測眼睛反射之一調製光信號所對應之一電信號,電信號包括一第一相位,其中調製光信號由被一調製信號偏置的一個或多個光源生成,調製信號包括一第二相位。前述電路能夠進一步用以依據一參考信號的一第三相位及光檢測器產生之電信號的第一相位間的相位差判斷眼睛的一深度圖,並依據深度圖判斷代表眼睛之一視線的視線資訊。此外,前述的系統包含能夠與機械或裝置通訊的一或多個處理器,前述的一或多個處理器包含一或多個儲存裝置以於供儲存操作的指令;當執行前述的指令時,會讓一或多個處理器執行包含從裝置接收代表視線資訊的輸出資料並判斷機械的顯示器與表示眼睛視線的視線資訊間之的操作。
在某些方面,前述的操作能夠進一步包含判斷眼睛在顯示器上聚焦的一特定位置;前述的特定位置係基於顯示器與表示眼睛視線的視線資訊間之關係,並提供一指示在顯示器上的特定位置。前述操作能夠包含判斷眼睛在顯示器上聚焦的一特定位置;前述的特定位置係基於顯示器與代表眼睛視線的視線資訊間之關係,並提供一凝視點影像(foveated image)在顯示器上的特定區域。前述的多個可調光學元件能夠包含可調透鏡或可調反射鏡。在這種情況下,啟動前述多個可調光學元件的一子集合的調整可依據顯示器與代表眼睛視線的視線資訊間之關係。此外,多個可調元件的一子集合的調整能夠包含動態地對入射於其上的光線做重新對焦。
前述的系統能夠包含一可穿戴裝置,其耦合於前述的機械、裝置及一或多個處理器以形成一一體形式的硬體封裝。機械的顯示器是不透明的,且視覺影像是透過一或多個光源陣列而顯示於顯示器上。在某些方面,前述的系統能夠包含一可穿戴裝置,耦合於機械及裝置以形成一一體形式的硬體封裝,機械的顯示器是不透明的,且視覺影像透過一或多個光源陣列顯示於顯示器上;一或多個處理器位於遠端並透過無線或有線連接與一體形式的硬體封裝通訊。在其他方面,前述的系統能夠包含一可穿戴裝置,耦合於機械、裝置及一或多個處理器以形成一一體形式的硬體封裝;機械的顯示器對於朝向其投影的影像至少部分透明,藉由顯示器上的一或多個可調光學元件來調整朝向顯示器投影的影像特性。
此外,前述的系統能夠包含一可穿戴裝置,耦合於機械及裝置以形成一一體形式的硬體封裝;機械的顯示器對於朝向其投影的影像至少部分透明,藉由顯示器上的一或多個可調光學元件來調整向顯示器投影的影像特性;機械的一或多個處理器位於遠端並透過無線或有線連接與一一體形式的硬體封裝進行通訊。前述的系統也能夠包含一可插拔裝置,耦合於裝置及一或多個處理器以形成一一體形式的硬體封裝,機械位於遠端,並透過無線或有線連接來與一體形式的硬體封裝進行通訊;機械的顯示器是不透明的,且顯示於顯示器上的視覺影像係透過一或多個光源陣列來實現。
在某些方面,前述的系統能夠包含一可穿戴裝置,耦合與裝置及一或多個處理器以形成一一體形式的硬體封裝;機械位於遠端,並透過無線或有線連接來與一體形式的硬體封裝進行通訊;機械的顯示器是不透明的,且顯示於顯示器上的視覺影像是透過一或多個光源陣列來實現。在這種情況下,前述操作能夠進一步地包含判斷眼睛聚焦在顯示器之一特定位置;前述的特定位置係基於顯示器與代表眼睛視線的視線資訊間之關係,並提供一指示在顯示器上的特定位置。在某些方面,眼睛反射的光學信號是由施加以一調製信號的一或多個光源所生成;前述的調製信號與反射信號同步。
根據本發明之創新目的的又一實施方式中,一眼動追蹤裝置包含複數可調光學元件以調整焦距。可穿戴裝置也能夠包含一或多個
處理器,處理器包含一或多個儲存裝置以儲存操作指令;當處理器執行前述的指令時,會讓一或多個處理器進行包含擷取以一光檢測器量測眼睛反射之一調製光信號所對應之一電信號,以及依據光檢測器產生的電信號及一參考信號之相位差判斷眼睛的一深度圖之操作。前述操作能夠更進一步包含根據深度圖判斷表示一眼睛視線的視線資訊,眼睛視線代表眼睛視線與一遠端裝置的顯示器間之關係;以及依據視線資訊來啟動可調元件之一子集合的調整。
在本發明之一實施方式中可選擇性地包含一或多個下述特徵。本發明的眼動追蹤方法能到用以提供跨平台周邊控制。跨平台周邊控制能夠用以於多個裝置之間交換資訊。前述交換資訊能夠包含眼動資訊、一眼睛的位置等。相較於傳統的眼睛追蹤機制,跨平台周邊控制能夠用以延展操作區域;藉此,歸因於傳統的眼睛追蹤機制的有限的檢測範圍對單一裝置進行檢測,本發明眼動追蹤方法能提供較傳統眼睛追蹤機制更寬廣操作範圍。再者,多個使用者可同時應用跨平台周邊控制多個裝置,能有效地創造使用者對使用者的互動。
此外,本發明的眼動追蹤方法能夠用以提供不暈眩的視覺經驗。在某些方面,眼動追蹤資訊能夠用於依據眼睛追蹤資訊及已知距離資訊來對可調光學元件重新對焦的光學系統中。可調光學元件調整入射光角度以提供即時對焦。本發明依據眼動追蹤方法即時對焦藉由讓使用者眼睛及腦部之間的深度感知一致,能夠減少暈眩感覺。再者,眼動追蹤資訊能夠用以控制可調光學元件的子集
合,以創造一可變對焦,其呈現給觀看者的圖像中的各個區域的焦距可經控制而不同。本發明的可變聚焦通過簡單的可調光學器件提供了自然的3D效果,不同於傳統通過複雜的計算算法提供人造3D效果。
附圖和下面的描述闡述了本發明的一個或多個實施方式的細節。通過描述,附圖和申請專利範圍,可更了解本發明的其它特徵和優點。
100:眼動追蹤裝置
110:眼動追蹤裝置
120:使用者眼睛
130:圖像顯示器
140:信號處理單元
150:視線資訊
160、165、190:TOF像素
162a、162b:重置電晶體
164a、164b:源極隨耦電晶體
166a、166b:選擇電晶體
167:晶粒/晶圓接合
169:電路晶圓
170:操控台
192a、192b:電容器
194、196:電晶體組
201、202:頭戴裝置
211、221、231:加速儀
212、222、232:陀螺儀
213、360:眼動追蹤模組
213A、460A:第一眼動追蹤模組
213B、460B:第二眼動追蹤模組
214:無線傳輸單元
216A、216B、320、320A、320B、420A、420B、510A、510B:眼睛
218:透明透鏡
218A:第一透明透鏡
218B:第二透明透鏡
220:電話
224、234、244、254、340:無線通訊單元
230:平板電腦
236、555:視線參考點
240:電腦裝置
246:參考視線
250:電視
300、400:可穿戴裝置
310、380:螢幕
325:視線
330:可調光學元件(透鏡)
350:影像投影機
370:物件
375、376:物件虛像
385:反射鏡
410A:第一透光或不透光螢幕
410B:第二透光或不透光螢幕
425A、425B:視線點
430A:第一組可調光學元件
430B:第二組可調光學元件
440A:第一無線通訊單元
440B:第二無線通訊單元
450A:第一影像投影機
450B:第二影像投影機
515:視線參考點
520、540:顯示裝置
530:分離式周邊裝置
532、546:機械模組
534、547:眼動追蹤裝置
545:嵌入式周邊裝置
600、700:程序
610~640、710~740:步驟
800:電腦裝置
802:處理器
804:記憶體
806:儲存裝置
808:高速介面
810:高速擴展埠
812:低速介面
814:低速匯流排
820:標準伺服器
822:筆記型電腦
824:刀鋒伺服器
850:電腦裝置
852:處理器
854:顯示器
856:顯示器介面
858:控制介面
860:音頻編解碼器
864:記憶體
880:行動電話
882:智慧型電話
M1~M6:電晶體
VERF、VREF2:電壓
Q1、Q1、Q1’、Q2’:電荷
Φ:相位差
圖1A繪示一眼動追蹤系統之示意圖。
圖1B繪示一時差測距裝置之示意圖。
圖1C繪示一時差測距裝置之示意圖。
圖1D及圖1E分別繪示判斷使用者眼睛特徵之技術之示意圖。
圖1F繪示電荷收集之相位之示意圖。
圖1G繪示光發射、檢測及電荷收集之示意圖。
圖1H繪示在電荷收集期間之信號電壓之示意圖。
圖1I繪示在電荷收集之相位變化之示意圖。
圖1J繪示光發射、檢測及相位變化之電荷收集之示意圖。
圖1K繪示在相位變化時電荷收集之信號電壓之示意圖。
圖1L繪示一時差測距裝置之示意圖。
圖2A繪示使用眼動追蹤之一跨平台周邊控制系統之示意圖。
圖2B繪示使用眼動追蹤之一跨平台控制系統之示意圖。
圖3A繪示使用眼動追蹤之一可穿戴裝置之示意圖。
圖3B繪示使用一透鏡之一光學影像重新對焦系統之示意圖。
圖3C繪示使用一反射鏡之一光學影像重新對焦系統之示意圖。
圖4繪示利用眼動追蹤之一可穿戴裝置之示意圖。
圖5A繪示安裝在一機械上之一分離式眼動追蹤裝置之示意圖。
圖5B繪示封裝於一機械內之一嵌入式眼動追蹤裝置之示意圖。
圖6繪示一眼動追蹤程序之流程圖。
圖7繪示依據眼動追蹤調整可調光學元件之一程序之流程圖。
圖8繪示一電腦裝置及一行動電腦裝置之示意圖。
本揭示內容的一或更多個實施例會透過範例圖解在附圖的圖式之中而
沒有限制意義,其中,相同的元件符號表示相同的元件
眼動追蹤方法能夠用以判斷有關一眼睛追蹤的視線資訊。前述方法包含照亮眼睛,並檢測眼睛反射的光信號以追蹤一視線方向和眼睛的焦。判斷眼睛的視線方向和眼睛的焦點能夠用於與另一個裝置通訊。舉例來說,眼睛的視線資訊能夠用於向另一個裝置提供一或多個命令。在一些實施方式中,視線資訊和/或例如手勢的其它資訊能用本發明之嵌入於行動電話中的系統進行檢測;前述的行動電話能夠作為接收使用者指令的遠端控制,並連接於其它裝置,例如平板電腦、電視等以執行前述指令。
在某些實現中,視線資訊可以包括眼睛的手勢。在某些實施方式中,視線資訊包含眼睛的姿勢。眼睛姿勢例如眼睛的移動、眼睛的轉動、眼睛的穩定狀態等,能夠用以指示某些要提供給其它裝置的
指令。在一些實施方式中,眼睛的視線資訊能夠用以判斷眼睛焦點的位置,例如眼睛聚焦在特定的顯示器。在這種情況下,眼睛聚焦在顯示器上的位置能夠用以收集使用者有興趣的資訊。舉例來說,假設顯示器上提供有一廣告,使用者的眼睛聚焦顯示器上顯示廣告的位置能夠用以判斷使用者是否對這個廣告有興趣。眼睛視線的位置及眼睛維持特定視線的時間長度能夠有助於判斷使用者對提供在特定顯示感興趣的程度。
在本發明的一些實施方式中,眼動追蹤方法能夠整合於可穿戴裝置及/或周邊裝置中。舉例來說,一可穿戴裝置能夠提供眼睛照明,並檢測眼睛反射的光信號。可穿戴裝置能夠包含例如是一加速儀、一陀螺儀或前述兩者的構件來協助追蹤眼睛及眼睛在特定顯示上的焦點,藉此更有效並精確地追蹤眼睛。在某些實施方式中,可穿戴裝置可能進一步包含複數可調光學元件以調整光路徑。前述的可調光學元件包含反射鏡及/或透鏡,反射鏡及/或透鏡依據受追蹤眼睛的移動或靜止以進行調整。可調光學元件能夠即時地用以動態聚焦或離焦,以協助眼睛注視一特定物件或顯示器。舉例來說,可調光學元件能夠解決在觀看一虛擬實境或擴增實境影像時,調焦(accommodation)及輻輳(vergence)不一致的問題。在某些實施方式中,可穿戴裝置的構件能夠由分離於可穿戴裝置的外部遠端裝置來實現。眼動追蹤方法能提供尤其是眼睛視線的資料作為輸出,並以這個輸出作為遠端裝置及/或可調光學元件的指令來協助各種視覺體驗。
圖1A繪示一眼動追蹤系統100的示意圖。眼動追蹤系統100能夠用以處理一使用者眼睛資訊並產生對應於眼睛的深度圖。眼動追蹤系統100包含一眼動追蹤裝置100以追蹤一使用者眼睛120的移動、一圖像顯示器130及一信號處理單元140以處理眼動追蹤裝置100檢測的眼睛資料。眼動追蹤裝置100可選擇性地包含一操控台170以供使用者依實際應用進行輸入。使用者眼睛120可包含用以觀看圖像顯示器130的一只眼或一雙眼。
圖像顯示器130能夠為一或多個在電腦、筆記型電腦、桌上型電腦、電視、智慧型手機、平板電腦等的圖像顯示器。圖像顯示器130包含一液晶顯示器、一發光二極體顯示器、一有機發光二極體顯示器、頭戴式顯示器等。在一些實施方式中,圖像顯示器130能夠包含可調光學元件,例如:一反射鏡及/或一可調透鏡。在這種情況下,圖像顯示器130的可調光學元件能夠用以即時地對焦及離焦以協助使用者的眼睛120觀看圖像顯示器130。
眼動追蹤裝置110包含一或多個與眼動追蹤裝置通訊的信號處理單元140。眼動追蹤裝置110能夠對使用者眼睛120提供照明,並接收使用者眼睛120反射的光信號。眼動追蹤裝置110能夠包含一可調光源,其能以一或多個特定波長來照亮使用者眼睛120。可調光源可能夠包含單一光學發射器或多個光學發射器,其(等)可由一無線電波頻率或一微波頻率的電壓源進行調變而提供照明。在一些實施方式中,光發射器能夠用以照亮使用者的整個眼睛120。在其它實施方式中,光發射器能夠用以照亮使用者眼睛120的特定部分。
前述用於眼動追蹤系統100中的一或多個波長能夠依據不同的標準進行預定;例如,對人眼的非普及性、在海平面太陽光譜輻照射度低、眼睛安全性等。
在一些實施方式中,眼動追蹤裝置110包含一或多個光檢測器以接收使用者眼睛120反射的光信號;使用者眼睛120反射的光信號為眼動追蹤裝置110提供的可調光信號。在某些實施方式中,眼動追蹤裝置110能夠以一或多個光檢測器來檢測受反射之可調光信號。前述光檢測器可為揭示於10月31日申請之美國專利申請號15/338,660,專利名稱為「High-Speed Light Sensing Apparatus」之專利申請案及美國專利申請號15/228,282,以及於2016年8月4日申請之美國專利申請號15/228,282,專利名稱為「GERMANIUM-SILICON LIGHT SENSING APPARATUS」之專利申請案中。
信號處理單元140包含一或多個信號處理單元,其(等)能夠與圖像顯示器130及眼動追蹤裝置110進行通訊。信號處理單元140能夠經由對應於眼動追蹤裝置110及圖像顯示器130的資料來判斷使用者眼睛120的視線資訊150。眼動追蹤裝置110能夠用以解調經反射的調變光學信號。此外,眼動追蹤裝置110能夠用以創造使用者眼睛120被照亮部分之一深度圖。前述的深度圖對應於眼動追蹤裝置110之檢測器所測得的反射光學信號。具體言之,深度圖可提供有關使用者眼睛120的二維(2D)或三維(3D)資訊。信號處理單元140能夠根據反射光學信號的時差測距資訊的資料來處理深度圖。在一些實施方式中,深度圖是以反射光信號及參考信號的相位差來
產生的。舉例來說,眼動裝置110能夠提供反射光信號及一參考信號的比較,並用以判斷使用者眼睛120的深度圖。深度圖能夠更進一步地包含表示使用者眼睛120的一3D模型;藉此,可產生並建構3D眼部模型,從而允許信號處理單元140判斷使用者眼部120的視線資訊150。
信號處理單元140能夠設置靠近使用者的眼睛120。舉例來說,信號處理單元140及眼動追蹤裝置110可設置在鄰近於使用者眼睛120的單一可穿戴裝置中。信號處理單元140及眼動追蹤裝置110也能夠設置在遠離於使用者眼睛120之單一周邊裝置中。在其它實施方式中,信號處理單元140能夠與眼動追蹤裝置110分離設置。舉例來說,信號處理單元140可位於圖像顯示器130中,並與位於單一可穿戴裝置或周邊裝置的眼動追蹤裝置110進行通訊。
視線資訊150能夠包含例如是使用者視線方向及焦點的資訊。信號處理單元140能夠判斷視線資訊150中由眼動追蹤裝置110所接收到的光學信號。視線資訊150能夠用以分析使用者眼睛的行為。此外,視線資訊150能夠用以辨識使用者眼睛120在顯示器130上的聚焦的一位置。在這種情況下,視線資訊150能夠用以判斷使用者的眼睛120是聚焦在顯示器130所顯示哪個項目上。藉此,能夠在不需要特殊裝置的實際驅動下判斷使用者感興趣的事物。舉例來說,廣告提供者可在不以滑鼠、軌跡板、觸控螢幕等的狀況下,就以使用者的眼睛120來判斷使用者感興趣的事物。在其它狀況下,特殊裝置的實際驅動可用以執行使用者或系統互動的某種功
能。利用這樣的裝置可在系統與使用者之間複雜互動時提高效能。舉例來說,戰鬥噴射機的飛行員可利用眼睛的視線資訊150來判斷/選擇在顯示器130上感興趣的目標,並使用操控台170對目標執行任務,例如:取得目標、目標優先分配、武器選擇等。
在某些實施方式中,視線資訊150能夠作為提供給其它裝置的指令。在這個情況下,視線資訊150可包含眼部追蹤,例如:眼睛移動、眼睛轉動、眼睛閉合狀置、眼睛睜開狀態或在一段時間內的眼睛移動、眼睛轉動、眼睛閉合狀置、眼睛睜開狀態等。接收視線資訊150的裝置可在眼部追蹤裝置110動態追蹤使用者眼睛120時,即時地分析視線資訊150來判斷一指令。
眼動追蹤裝置110、圖像顯示器130及信號處理單元140可為獨立結構或耦合於一體形式的硬體封裝內。舉例來說,眼動追蹤裝置110、圖像顯示器130及信號處理單元140可整合於單一硬體封裝中;前述的圖像顯示器130中的顯示器是不透明的,且視覺影像是透過供產生可見光的一發光二極體陣列、濾除白光的液晶或其它光源陣列而顯示於顯示器上。在一些實施方式中,圖像顯示器130的顯示器至少部分透明且視覺影像可藉由光學折射、衍射、反射、引導或其它光學手段投影至顯示器。
在其它示範例中,眼動追蹤裝置110及信號處理單元140可整合於單一硬體封裝,例如一可穿戴裝置。一可穿戴裝置可為一頭戴裝置、一副眼鏡或其它合適的可穿戴裝置。在這種情況下,可穿戴裝置可與供嵌入圖像顯示器130的主支架或機械連接。此外,供容
納圖像顯示器130的主支架或機械能夠利用有線或無線連接來與可穿戴裝置通訊。
在另一示範例中,眼動追蹤裝置110及信號處理單元140能夠整合於一硬體封裝,例如:可插拔的裝置。一可插拔的裝置可為遊戲箱、一攝錄影機或其它可插拔裝置。在這種情況下,可插拔裝置可與供嵌入圖像顯示器130的主支架或機械連接。此外,供容納圖像顯示器130的支架或機械能夠利用無線或有線連接來與可插拔裝置通訊。
圖1B繪示一時差測距裝置之示意圖。時差測距裝置能夠整合於眼動追蹤裝置110中並用以判斷使用者眼睛120的深度圖。圖1B所繪示的時差測距裝置包含一時差測距像素(以下稱TOF像素)160及兩組電晶體。如圖1B所示,每組電晶體包含三個開關電晶體(three switch transistor),意即一重置電晶體(reset transistor)162a或162b、一源極隨耦電晶體(source-follower transistor)164a或164b,以及一選擇電晶體(selection transistor)166a或166b。在其它實施方式中,其它形式的電晶體也可以用以實現類似的功能。TOF像素160為一或多的用以檢測光的TOF像素。當TOF像素檢測到光時,其會判斷電荷應由第一組電晶體或第二組電晶體來處理。在一些方面,一接收光信號可與入射光具有不同相位;在這種情況下,TOF像素可經設計而為一雙開關TOF像素,以讓其中之一開關經調節而與入射光信號具有相同相位,另一開關經調節而與入射光信號具180度的相位差來容納所接受到的反相光信號。前述雙開關
TOF像素可揭示於10月31日申請之美國專利申請號15/338,660,專利名稱為「High-Speed Light Sensing Apparatus」之專利申請案,以及於2016年8月4日申請的美國專利申請號15/228,282,專利名稱為「GERMANIUM-SILICON LIGHT SENSING APPARATUS」之專利申請案中。
在某些方面,前述的兩組電晶體能夠與TOF像素可裝配於單一晶圓上;在這種情況下,前述的兩組電晶體可如同TOF像素160般共享並占據相同的發光區域,以降低TOF的主動填充因子(fill factor)。前述的兩組電晶體可以複數NMOS閘來實現;NMOS閘用以降低電晶體及TOF裝置的尺寸。前述的兩組電晶體也可以複數PMOS閘來實現;PMOS閘用以增加某些操作係數,例如提供較高可用電壓餘裕(voltage headroom)。PMOS及NMOS實現前述電晶體之方式詳參後述。
圖1C繪示一時差測距裝置之示意圖。圖1C所示的TOF裝置包含一第一晶圓及一第二晶圓,第一晶圓及第二晶圓經由晶粒或晶圓接合167而相互結合。第一晶圓包含配置在第一晶圓上的一TOF像素165,TOF像素165可用以檢測光脈衝資訊。第二晶圓可為包含有二組電晶體的電路晶圓169,電路晶圓169於TOF像素165檢測到光脈衝時進行電荷處理。在某些實施方式中,電路晶圓169的電晶體不會占據發光區域,藉以增加TOF的有效填充因子。
前述的兩組電晶體能夠以NMOS閘或PMOS閘實現。舉例來說,每一組電晶體可以具有0.7伏特臨界電壓的NMOS閘來實現;在這種
情況下,當閘極施加以3.3伏特的電壓且NMOS閘導通時,可得到約2.6伏特的最大源極電壓。因此,當NMOS作為一重置電晶體時,施加於TOF像素的重置電壓最高限制為2.6伏特以供低電壓餘裕。相反地,在另一個示範例中,每一組電晶體可以具有-0.8伏特臨界電壓的PMOS閘來實現;在這種情況下,當閘極施加以0伏特的電壓PMOS閘導通時,可得到約3.3伏特的最大源極電壓。因此,當PMOS作為一重置電晶體時,施加於TOF像素的重置電壓最大限制為3.3伏特以提供高電壓餘裕。
因此,當以PMOS閘實現時,兩組電晶體可帶來高可用電壓餘裕,其一部分源自於負臨界電壓特定。再者,以PMOS實現能夠於其像一開關通時提供一較低的阻抗,讓通過之一電壓接近於一供應電路;如此一來,以PMOS實現的兩組電晶體提供TOF裝置的操作優點。然而,PMOS閘的實際區域可大於NMOS閘的實際區域,且PMOS實施需要一實際上大TOF裝置以提供如此的實施。這樣的問題可以以圖1C所示內容來解決,當TOF像素及PMOS電路以兩個不同的晶圓來實現,隨著一晶圓或晶粒接合以電性連接於兩個分離的晶圓或晶粒。在一些實施方式中,TOF像素如圖1B及圖1C所示可包含內含有鍺的一光吸收層。在一些實施方式中,TOF像素可如圖1B及圖1C所示更包含雙開關電晶體實現的一解調功能或多PN接面所達成的解調功能。前述雙開關TOF像素可為揭露於10月31日申請之美國專利申請號15/338,660,專利名稱為「High-Speed Light Sensing Apparatus」之專利申請案,以及2016年8月4日申請
之美國專利申請號15/228,282,專利名稱為「GERMANIUM-SILICON LIGHT SENSING APPARATUS」之專利申請案中。
圖1D繪示一用以判斷使用者眼睛120特徵之技術之示意圖。眼睛追蹤裝置110複數光脈衝,其中,光脈衝經調變使具有一頻率fm及50%的工作週期。眼睛追蹤裝置110可接收具有相位差Φ的反射光脈衝。一光二極體陣列經控制以讓一第一讀出電路讀取經收集的電荷Q1,並使一第二讀出電路讀取經收集電荷Q2;其中,電荷Q1與光脈衝具有相同相位(同步),電荷Q2與光脈衝具有相反相位。在一些實施方式中,在眼動追蹤裝置110及使用者眼睛120的一點之間的距離D滿足下式:
;其中c為光速。眼動追蹤裝置110可掃描使用者眼睛120以獲得使用者眼睛120的深度圖。
圖1E繪示另一用以判斷使用者眼睛120特徵之技術的示意圖。眼動追蹤裝置110可發射光脈衝;其中,光脈衝經調變使具有一頻率fm及50%的工作週期。藉由一因數N來減少光脈衝的工作週期,同時以此因數N增加光脈衝的強度,則可在維持眼動追蹤裝置110實質上相同功率損耗的條件下,讓所接收到的反射光脈衝的訊雜比增強。這使得裝置的頻寬增加,藉此可讓光脈衝在脈衝形狀不歪曲的條件下降低光脈衝的工作週期。眼動追蹤裝置110可接收反射光脈衝;所述的反射光脈衝具有一相位移Φ。光電二極體經控制使
第一讀出電路1讀取經收集的電荷Q1’,且一第二讀出電路讀取經收集的電荷Q2’;其中,電荷Q1’的相位相同於光脈衝的相位,電荷Q2’的相位不同於光脈衝的相位。在一些實施方式中,在眼動追蹤裝置110及使用者眼睛120之一點之間的距離D滿足下式:
圖1F繪示電荷收集之相位之示意圖。電荷收集的相位表示眼動追蹤裝置110發射的光脈衝及收集到的電荷的相位。電荷收集包含一0度相位、一90度相位、一180相位及一270度相位,以及一控制相位偏移φ。眼動追蹤裝置110發射的光脈衝及其接收到的光脈衝中可觀察到相位差Φ。在一些實施方式中,相位差Φ依使用者眼睛120及眼動追蹤裝置110之間的距離而發生。一個小的相位差能夠讓眼動追蹤裝置110難以有效地偵測一使用者眼睛120的姿勢辨識、定位等。因此,增加一相位偏移φ於收集電荷中有利於眼動辨識更有效地執行。圖1G繪示光檢測及電荷收集之示意圖。光檢測及電荷收集包含如下時間步驟:發光、檢測光及眼動讀取裝置110收集電荷。在任一時間步驟中,收集的資料表示接收光,在0度相位收集的電荷、在90度相位收集的電荷、在180度收集的電荷及在270度收集的電荷。在任一角度收集的電荷能夠指示在各角度收集的電荷的數量。在此狀態下,在任一時間步驟收集的電荷的數量能夠影響眼動追蹤裝置110定位使用者眼睛120。
舉例來說,眼動追蹤裝置110可發射工作週期為50%且具有調變頻率fm的光脈衝。眼動追蹤裝置110可接收具有一相位差Φ的反射光脈衝。TOF像素經控制以讓眼動追蹤裝置110的第一讀出電路讀取收集電荷Q0,其相位與發射光脈衝的相位相同,即相當於0度相位。眼動追蹤裝置110還能夠包含一第二讀出電路以讀取收集電荷Q180,其相位相反於發射光的相位,例如為180度相位。在另一時間步驟中,TOF像素經控制以使第一讀出電路讀取收集電荷Q90,其相位與發射光相位具90度相位差,例如90度相位。在這個情況下,第二讀出電路能夠讀取收集電荷Q270,其相位與發射光相位具另一90度相位差,例如270度相位。在一些實施方式中,眼動追蹤裝置110與使用者眼睛120的距離可以如下二式表示之:
復參閱圖1G;在眼動追蹤裝置110發射的光脈衝與其接收到的反射光脈衝具有較小的相位差Φ的條件下,在0度相位收集到的電荷是在整個時間步驟中最大的,且在180度相位收集到的電荷是在整個時間步驟中最小的。如此大的電荷收集差別影響整體電荷收集的準確性。因此,引入相位差φ可降低在不同相位電荷收集的差
異,有助於眼睛姿勢偵測,能夠加強使用者眼睛120的深度圖的準確性。
圖1H繪示在電荷收集時之一信號電壓之示意圖。電荷收集時的信號電壓繪示出多個相位在不同時間點的信號電壓的變化。具體來說,圖1H繪示信號電壓在0度相位、90度相位、180度相位、270度相位的變化。在每一相位中,信號電壓隨的時間減少,這表示電荷的數量在一間隔時間內被儲存於一特定相位。如圖1H所示,180度相位的信號電壓遠高於0度相位的信號電壓,故180度相位較0度相位具有一低電荷儲存率。在這種情況下,在不同相位的電荷儲存率的差異,使眼動追蹤裝置110檢測使用者眼睛120的精確性受到負向影響。因此,引入一相位偏移φ於接收光信號中有助於電荷收集,進能讓使用者眼睛120的深度圖可更精確。
圖1I繪示電荷收集之偏移相位之示意圖。電荷收集的偏移包含一45度相位、一135度相位、一225度相位及一315度相位。眼動追蹤裝置110發射及接收到的光脈衝中可觀察到相位偏移Φ。在一些實施方式中,相位差因使用者眼睛120及眼動追蹤裝置110之間的距離而生。一個小的相位差能夠讓眼動追蹤裝置110有效地檢測使用者眼睛120的一姿勢辨識、定位使用者眼睛120等。45度的一相位偏移φ繪示於圖1I中以收集電荷,故所有的相位可偏移45度的相位偏移φ。
圖1J繪示光檢測及相位偏移之電荷收集之示意圖。光檢測及相位偏移的電荷收集包含光發射、光檢測及在眼動追蹤裝置110的電荷
收集。在每一時間步驟中,所收集的資料表示接收光、在45度相位的電荷收集、在135度相位的電荷收集、在225度的電荷收集及在335度的電荷收集。在任一相位的電荷收集能夠指示在任一接收相位的電荷收集的數量。在這種狀況下,在任一時間步驟中,任一相位的電荷收集的數量能夠影響眼動追蹤裝置110在進行使用者眼睛120定位時的精確性。
舉例來說,眼動追蹤裝置110可發射工作週期為50%且具有調變頻率fm的光脈衝。眼動追蹤裝置110可接收具有一相位差Φ的反射光脈衝。TOF像素經控制以讓眼動追蹤裝置110的第一讀出電路讀取收集電荷Q45,其相位與發射光脈衝的相位具有例如45度相位的偏移。眼動追蹤裝置110還能夠包含一第二讀出電路以讀取收集電荷Q225,其相位與發射光的相位具有例如225度相位的偏移。在另一時間步驟中,TOF像素經控制以使第一讀出電路讀取收集電荷Q135,其相位與發射光的相位具有135度相位偏移。在這個情況下,第二讀出電路能夠讀取收集電荷Q315,其相位與發射光的相位具有315度相位偏移。在某些實施方式中,眼動追蹤裝置110與使用者眼睛120的距離可以如下二式表示之:
復參閱圖1J;在眼動追蹤裝置110發射與接收到的光脈衝具有較小的相位差Φ的條件下,在45度相位和225度相位收集到的電荷是在整個時間步驟中相近的。相比於圖1G所示不具有相位偏移φ且在0度相位及180度相位收集到的電荷是相當不同的;圖1J式出在不同相位的低差異電荷收集,提供良好的眼睛定位表現。相位收集的差異能夠影響電荷收集的整體準確性,相位差可降低電荷收集在不同相位的差異,有助於眼動偵測並能夠讓使用者眼睛120的深度圖更加準確。
圖1K繪示在相位偏移電荷收集時之信號電壓之示意圖。相位偏移電荷收集時的信號電壓繪示出多個相位在不同時間時的信號電壓的變化。具體來說,圖1H繪示信號電壓在45度相位偏移、135度相位偏移、225度相位偏移、315度相位偏移的變化。在每一相位中,信號電壓隨的時間減少表示電荷的數量在一間隔時間內被儲存於一特定相位。與圖1H所示不同平均率的信號電壓相比,如圖1K所示的偏移相位的信號電壓包含類似的信號電壓的平均率。偏移相位的信號電壓的相似下降率能後讓眼動偵測和使用者眼睛120的定位更準確。總言之,引入一相位偏移φ於電荷收集中可幫助電荷收集以讓使用者眼睛120的深度圖可更精確。
圖1L繪示一TOF裝置之示意圖。TOF裝置包含一TOF像素190、二電容器192a和192b、及二電晶體組194和196。每組電晶體包含五個開關電晶體(5T)。在一些實施方式中,其它排列型式的電晶體可用來實現類似的功能。TOF像素190可為用以檢測光的一或多個
TOF像素。TOF像素生成的電荷可由電容器192a和192b來控制。電晶體M1~M4,可由NMOS、PMOS或NMOS及PMOS的組合來實現,藉由重置共模電荷並連接共模電壓至VREF來重新分配收集到的電荷。電壓VREF可為TOF裝置190的操作電壓或一設計需求而生的預設電壓。電晶體M5和M6,可由NMOS、PMOS或NMOS及PMOS的組合來實現,用以重置收集電荷並將其等連接至VREF2。電壓VREF2可相同於電壓VREF,為TOF裝置190的操作電壓或一設計需求而生的預設電壓。
圖2A繪示使用眼動追蹤的跨平台周邊控制系統之一示意圖。使用眼動追蹤的跨平台周邊控制系統可包含一可穿戴裝置及一連接裝置,可穿戴裝置例如為頭戴裝置201,連接裝置例如為一電話220、一平板電腦230、一電腦裝置240及/或一電視250;連接裝置能與頭戴裝置210通訊。當使用者的眼睛216A、216B注視電話220、平板電腦230、電腦裝置240及/或電視250時,可使用頭戴裝置201。頭戴裝置201能夠包含用來實現一眼動追蹤裝置及一信號處理單元的一眼部追蹤模組213、一加速儀211、一陀螺儀212、一無線傳輸單元214及一透明透鏡218,眼動追蹤模組213用以追蹤使用者的第一及第二眼睛216A和216B,加速儀211及陀螺儀212用以判斷使用者的一頭部位置;無線傳輸單元214供與一連接裝置,例如手機220及/或平板電腦230及/或電腦裝置240及/或電視250,進行通訊。在一些實施方式中,透明透鏡218可包含一或多個可調元件以供依照使用者眼睛216A及/或216B進行調整。
在此,眼部追蹤模組213能夠以光學信號照亮使用者眼睛216A,並檢測受使用者眼睛216A反射的光學信號。受檢測的光信號能夠用以判斷關於使用者眼睛216A的視線資訊。視線資訊能夠包含使用者在連接裝置的顯示器上的視線。視線資訊也包含關於使用者眼睛216A姿勢的指令。眼睛姿勢指令能夠作為連接裝置的輸入指令。在一些實施方式中,眼部追蹤模組213能夠以光學信號照亮使用者雙眼(即眼睛216A和216B),並檢測使用者眼睛216A和216B反射的光學信號以判斷使用者眼睛216A和216B的視線資訊。
加速儀211及陀螺儀212能夠用以檢測使用者頭部的定位。使用者頭部的定位能夠用以有效地判斷視線資訊。此外,加速儀211及陀螺儀212能夠用以追蹤使用者頭部的移動;藉此,根據使用者頭部的移動,任何可能的頭部移動能夠經判斷避免視線資訊被曲解。
無線傳輸單元214透過網路以與頭戴裝置201、電話220、平板電腦230、電腦裝置244及/或電視254建立通訊。網路包含Wi-Fi、藍芽、低耗電藍芽(BLUETOOTH,BLUTETOOTH LOW ENERGY;簡稱BLE)、區域網路等。
透明透鏡218能夠用以協助使用者的眼睛216A和216B看到電話220、平板電腦230、電腦裝置240和/或電視250的顯示。透明透鏡218包含可調光學元件,其能夠依據追蹤使用者眼睛216A和216B所代表的視線資訊進行調整。在一些實施方式中,整個透明透鏡218都可依視線資訊進行調整。在其它實施方式中,視線資訊供調整透明透鏡的特定部分;舉例來說,透明透鏡218的特定部分能夠
經調整以在電話220的顯示器上的特定位置提供凝視點影像;其中,電話220的特定位置為在顯示器上,使用者眼睛216A和216B的視線注視處。
在一些實施方式中,電話220包含一加速儀221及一陀螺儀222以供判斷電話220的定位;電話220也能夠包含一無線通訊單元224以供與頭戴裝置201進行通訊。電話220的加速儀221及陀螺儀222能夠協助追蹤電話220的位置及移動。藉由追蹤電話220的位置和移動,頭戴裝置201能夠藉由與使用者在電話220上聚焦位置的比較,有效地判斷使用者眼睛216A和216B的視線資訊。電話220的位置及移動能夠通過無線通訊單元224傳遞至頭戴裝置201。
在一些實施方式中,平板電腦230能夠包含一加速儀231及一陀螺儀232以供判斷平板電腦230的定位;平板電腦230還包含一無線通訊單元234以與頭戴裝置201通訊。平板電腦230的加速儀231及陀螺儀232能夠協助追蹤及平板電腦230的位置及移動。藉由追蹤平板電腦230的位置和移動,頭戴裝置201能夠有效地判斷使用者眼睛216A的一視線參考點236。平板電腦230的位置和移動能夠經由無線通訊單元234傳遞至頭戴裝置201。
電腦裝置240能夠包含一無線通訊單元244以與頭戴裝置201通訊。此外,電視250能夠包含一無線通訊單元254以與頭戴裝置201通訊。
圖2B繪示使用眼動追蹤之一跨平台周邊控制系統之示意圖。眼動追蹤的跨平台周邊控制系統可包含一可穿戴裝置、一連接裝置、
一加速器211、一陀螺儀212、一無線傳輸單元214、一第一透明透鏡218A及一第二透明透鏡218B。可穿戴裝置例如為頭戴裝置202,連接裝置例如為一電話220、一平板電腦230、一電腦裝置240及/或一電視250;連接裝置能與頭戴裝置210通訊。當使用者的眼睛216A、216B注視連接裝置時,可使用頭戴裝置202。頭戴裝置202能夠包含二眼動追蹤裝置及一對信號處理單元;其中,第一對由第一眼動追蹤模組213A來實現,第二對由第二眼動追蹤裝置213B來實現,以追蹤使用者的眼睛216A和216B。加速儀211及陀螺儀212用以判斷使用者頭部的位置,無線傳輸單元214供與連接裝置通訊,第一透明透鏡218A包含一或多個可調元件,第二透明透鏡218B包含一或多個可調元件。
第一眼動追蹤模組231A能夠用以照亮第一使用者眼睛216A,並檢測第一使用者眼睛216A所反射的光信號。第一眼睛追蹤模組213A檢測到的光信號能夠判斷與第一使用者眼睛216A相關的視線資訊。視線資訊包含第一使用者眼睛216A在連接裝置(例如220、230、240及250)的顯示器上的視線。視線資訊也能夠包含關於第一使用者眼睛216A的姿勢的指令;眼睛姿勢指令能夠作為連接裝置的輸入指令。
第二眼睛追蹤模組213B能夠用以照亮第二使用者眼睛216B,並檢測第二使用者眼睛216B反射的光信號。第二眼睛追蹤模組213B檢測到的光信號能夠判斷與第二使用者眼睛216B相關的視線資訊。視線資訊包含第二使用者眼睛216B在連接裝置的顯示器上的視
線。視線資訊也能夠包含關於第二使用者眼睛216B的姿勢的指令。眼睛姿勢指令能夠作為連接裝置的輸入指令。
第一透明透鏡218A能夠用以協助第一使用者眼睛216A觀看連接裝置的顯示器。第一透明透鏡218A能夠包含可調元件,其能夠依據代表第一使用者眼睛216A的視線資訊進行調整。在一些實施方式中,整個第一透明透鏡218A都能夠依據視線資訊進行調整。在其它實施方式中,只有第一透明透鏡216A的特定部分能依據視線資訊進行調整。舉例來說,可調光學元件的特定部分可經調整以變化在電腦裝置240的顯示器的特定位置的影像;其中,電腦裝置240的顯示器的特定位置為使用者眼睛216A和216B聚焦的位置。
第二透明透鏡218B能夠用以協助第二使用者眼睛216B觀看連接裝置。第二透明透鏡218B能夠包含可調元件,其能夠依據代表第二使用者眼睛216B的視線資訊進行調整。在一些實施方式中,整個第二透明透鏡218B都能夠依據視線資訊進行調整。在其它實施方式中,僅有第二透明透鏡216B的特定部分能夠依據視線資訊進行調整。舉例來說,可調光學元件的特定部分可經調整以加強在電腦裝置240的顯示器的特定位置的聚焦;其中,電腦裝置240的特定位置為使用者眼睛216A和216B聚焦的位置。
在某些實施方式中,第一使用者眼睛216A及第二使用者眼睛216B能夠聚焦於單一位置。舉例來說,使用者眼睛216A和216B能夠包含一參考視線246,其位於電腦裝置240,例如筆記型電腦或桌上型電腦,的顯示器。雖然參考視線246可導向筆記型電腦或桌上型
電腦的顯示器上的單一點,但在第一透明透鏡218A及第二透明透鏡218B中的可調光學元件能夠依據第一使用者眼睛216A及第二使用者眼睛216B的視線資訊而進行單獨調整。
圖3A繪示使用眼動追縱之一可穿戴裝置300之示意圖。可穿戴裝置300包含一單視力可穿戴裝置,其依據眼動追蹤提供光路徑調整。可穿戴裝置300包含螢幕310、可調光學元件330、無線通訊單元340、一影像投影機350及一眼動追蹤模組360;螢幕300為可供使用者視線穿透的透明螢幕或可供注視於其上的不透明螢幕300,可調光學元件330供調整在透光或不透光螢幕310上光路徑、無線通訊單元340供與遠端裝置通訊、投影機供投影2D視覺資料,使2D視覺資料通過透光螢幕310或顯示在不透光螢幕310少,眼動追蹤模組350供追蹤使用者眼睛320A、320B的動作並判斷對應於使用者眼睛320A、320B的深度圖。
眼動追蹤模組360能夠判斷使用者眼睛320A和320B的視線325。在某些實施方式中,僅有透光或不透光螢幕310的局部能依使用者眼睛320A和320B的視線325進行調整。眼動追蹤模組360能夠利用對應於視線325的視線資訊調整透光或不透光螢幕310的一特定部分,例如多個可調光學元件330。可調光學元件330經調整能夠改變通過透光或不透光螢幕330的特定部分的一特定光路徑的聚焦或散焦。可調光學元件330包含複數可調反射鏡、可調透鏡、可調光柵或其它合適可調光學元件及其等之組合。可調光學元件330能夠
依據對應於視線325的視線資訊進行調整,故可穿戴裝置300能夠提供即時對焦/散焦。
在觀看螢幕時,可調光學元件330的即時對焦/散焦能夠用以解決調焦及輻輳不一致的問題。舉例來說,傳統VR經驗造成暈眩的感覺源自於不一致的深度感知機制。其中一種深度感知不一致機制發生在使用者眼睛的焦點(調焦)感知到影像位在一顯示器上的相同距離,同時卻也感知到這些影像會聚在使用者眼睛的不同深度(輻輳)。使用者感知到這種調焦及輻輳的不一致的矛盾感覺,而產生暈眩噁心的感覺。
為了解決前述不一致的深度感知機制,本發明的眼睛追蹤方法能夠在一可穿戴裝置,例如可穿戴裝置300,中實現。可穿戴裝置300能夠依據眼睛視線資訊重新聚焦光,以調整通過透光螢幕310,或在不透光螢幕310的特定部分的眼睛入射光的角度。如此一來,透光或不透光螢幕310的可調光學元件330便能夠用依據經使用者眼睛320A、320B的視線資訊來重新聚焦光,以解決前述的不一致問題,並在某種觀看經驗中提高調焦及輻輳。
圖3B繪示使用一透鏡之一光學影像重新對焦系統的示意圖。使用一透鏡之光學影像重新對焦系統繪示依據一使用者眼睛的視線資訊,使用一透鏡對一物件虛像進行重新對焦。
在示範例1的利用透鏡對光學影像系統重新對焦系統中,使用者眼睛320透過一介質,例如不具有螢幕(例如一VR螢幕)的空氣,觀看一物件370;使用者眼睛320可不透過一透明透鏡注視物件370。此
外,使用者眼睛320是觀看一實體物件370,而不是代表物件的虛擬影像。
在示範例2的利用透鏡對光學影像重新聚焦系統中,使用者眼睛320透過螢幕380觀看物件虛像375。在這種狀態下,一影像投影機可透過一螢幕380投影代表物件之一虛像以作為物件虛像375。在這種狀態下,使用者眼睛320可體驗調焦及輻輳的不一致。
在示範例3的利用透鏡對光學影像重新對焦系統中,使用者眼睛320透過位於使用者眼睛320及螢幕380之間的一透鏡330觀看物件虛像375。透鏡330能夠為用以重新對焦物件虛像的一固定式透鏡。在其它實施方式中,透鏡330能夠為用以動態地對物件虛像375重新對焦的可調透鏡;在這種情況下,透鏡330能夠依據使用者眼睛320的視線資訊進行調整。
圖3C繪示使用一反射鏡之一光學影像重新對焦系統。使用反射鏡之光學影像重新對焦系統繪示依據一使用者眼睛的視線資訊,利用一反射鏡對一物件虛像進行重新對焦。
在示範例1的利用反射鏡之光學影像重新對焦系統中,使用者的眼睛透過一介質,例如空氣而非螢幕(例如VR螢幕),觀看物件370。使用者的眼睛320可不透過一透明透鏡觀看物件370,而不是代表物件的虛擬影像。
在示範例2的使用反射鏡的光學影像重新對焦系統中,使用者的眼睛320透過一螢幕380觀看一物件虛像376。在這種情況下,一影像投影機可透過螢幕380投影代表物件370之一虛像作為物件虛像
376。在這種情況下,使用者的眼睛320可體驗到調焦及輻輳之間的不一致。
在示範例3中的使用反射鏡之光學影像重新對焦系統中,使用者的眼睛320透過包含一反射鏡385的螢幕380觀看一物件虛像376。反射鏡385能夠為用以重新對焦物件虛像的一固定反射鏡。在其它實施方式中,反射鏡375能夠為一可調反射鏡,藉以即時地通過聚有反射鏡385的螢幕380來對動態的物件虛像376進行重新對焦。在這種狀態下,反射鏡385能夠依據使用者眼睛320的視線資訊進行調整。
圖4繪示使用眼動追蹤之一可穿戴裝置400之示意圖。使用眼動追蹤之可穿戴裝置400包含一立體視覺可穿戴裝置以依據眼動追蹤調整光路徑。可穿戴裝置400包含一第一透光或不透光螢幕410A及一第二透光或不透光螢幕410B以供使用者觀看、一第一組可調光學元件430A及一第二組可調光學元件430B;第一組可調光學元件430A供調整第一透光或不透光螢幕410B的光路徑,第二組可調光學元件430B供調整第二透光或不透光螢幕410B的光路徑。
可穿戴裝置400可更包含一第一無線通訊單元440A供與複數遠端裝置通訊或一第二無線通訊單元440B供與前述遙控裝置通訊、一第一影像投影機450A、一第二影像投影機450B、一第一眼動追蹤模組460A及一第二眼睛追蹤模組460B;第一影像投影機450A供投影2D視覺資料,以讓2D視覺資料穿透或投射在第一透光或不透光螢幕410A;第二影像投影機450B供投影2D視覺資料,以讓2D視
覺資料通過或投射在第二透光或不透光螢幕410B,第一眼動追蹤模組460A供追蹤第一使用者眼睛410A的姿勢並判斷對應於第一使用者眼睛410A的深度圖,第二眼睛追蹤模組460B供追蹤第二使用者眼睛420B的姿勢並判斷對應於第二使用者眼睛420B的深度圖。
可穿戴裝置400可進一步包含一連續的或兩個分離的透明或不透明螢幕410A和410B,其能夠判斷兩個不同的視線點425A和425B。當使用者任一眼睛420A和420B受到對應的眼動追蹤裝置460A和460B單獨追蹤時,第一可調光學元件430A及第二可調光學元件430B能夠單獨地調整。此外,每一影像投影機450A及450B能夠單獨地操作。如此一來,能夠選擇讓透光或不透光螢幕410A和410B的一特定部分對進入使用者眼睛420A和420B的光進行重新對焦。在這種情況下,使用者的眼睛420A和410B能夠解讀透過同時透過透明螢幕或投影於不透明螢幕410A和410B上由複數影像構成的3D投影。
圖5A繪示安裝在一機械上之一分離式眼動追蹤裝置之示意圖。分離式眼動追蹤裝置能為於機械(例如顯示裝置520)周圍的一分離式周邊裝置。分離式眼動追蹤裝置安裝於一機械上,機械包含一顯示裝置520以與一分離式周邊裝置530進行通訊,分離式周邊裝置530設置遠離於使用者眼睛510A和510B。
分離式周邊裝置530包含一機械模組532以供控制發射光的方向及一眼動追蹤裝置534的檢測,藉此使用者眼睛便總能位在分離式周邊裝置。眼動追蹤模組534追蹤使用者眼睛510A和510B的姿勢並
判斷對應於使用者眼睛510A和510B的視線資訊。顯示裝置520包含一視線參考點515,其對應於使用者眼睛510A和510B在顯示裝置520上的焦點。分離式周邊裝置530的眼動追蹤模組534能夠判斷視線參考點515。在某些實施方式中,顯示裝置520能包含依據視線參考點515進行調整的複數可調光學元件。可調光學元件包含在顯示裝置520上的可調反射鏡。在其它實施方式中,顯示裝置520能夠包含固定光學元件,例如固定反射鏡以對光路徑重新對焦。
眼動追蹤模組530能夠用以提供輸出資料給顯示裝置520。輸出資料包含使用者眼睛510A和510B的視線資訊。顯示裝置520能夠以視線資訊運算在螢幕上對應於使用者視線點515之特定位置的一影像。影像能夠以產生可見光的發光二極體陣列、濾除白光的液晶或其它位在顯示裝置520的螢幕的光源陣列呈現在顯示裝置520的螢幕。此外,運算影像可以光學折射、繞射、反射、導光或其它光學技術來顯示於顯示裝置520的螢幕。
圖5B繪示封裝於一機械內之一嵌入式眼動追蹤裝置之示意圖。封裝於機械之眼動追蹤裝置包含一嵌入式周邊裝置454,嵌入周邊裝置454整合於一機械,例如一顯示裝置540。嵌入式周邊裝置454包含一機械模組546以控制光發射的方向及來自於眼動追蹤裝置的檢測,藉此,使用者眼睛總能受到嵌入式周邊裝置545定位。眼動追蹤模組547追蹤使用者眼睛510A和510B的眼睛姿勢並依據使用者眼睛510A和510B判斷視線資訊。
顯示裝置540更包含一視線參考點555,其對應於使用者眼睛510A和510B在顯示裝置540上的焦點。在某些實施方式中,顯示裝置540包含複數可調光學元件,其等能依據視線參考點555進行調整。可調光學元件包含為於顯示裝置540的複數可調反射鏡。在其它實施方式中,顯示裝置540包含固定光學元件,例如固定反射鏡。
在某些實施方式中,眼睛510A、510B與眼睛追蹤模組534、537之間的距離可依據TOF概念或其它方法,例如影像處理或三角測量法來判斷。光學發射功率能依據在眼睛510A、510與眼睛追蹤模組534、547之間的距離來調整。舉例來說,光學發射功率可被動態地降低以降低眼睛510A或510B於其與眼睛追蹤裝置534、537之間的距離非常靠近時所見到的光學放射。
圖6繪示一眼動追蹤之一程序600。眼動追蹤的流程600描述依據眼睛深度圖監視一眼睛移動之一程序。在步驟S610,擷取對應測量一眼睛反射一光學信號所得之一電子信號,光學信號能夠由一光源(optical source)提供。光源為與一預定參考信號同步的一可調電壓信號,藉此,光源能夠朝向眼睛的方向提供能由眼睛反射的一光學信號。
反射光學信號能被一或複數的光檢測器所接收。在一些實施方式中,被接收後的光信號能經濾波以移除某些波長。舉例來說,一或複數濾波器供對光信號濾波,藉此,只有目標波長保留在濾波後的光學信號中。在某些實施方式中,一或多個透鏡用以光學信
號傳遞至光檢測器前對光學信號進行對焦。透鏡能夠為透明透鏡、固定式透鏡、可調透鏡、光子柵欄或類似元件。
在步驟S620,依據接收光信號及參考信號的相位差判斷深度圖。接收光信號能於其被接收時即與參考信號進行比較。在其它實施方式中,接收光信號可經濾波後在與參考信號進行比較。深度圖包含對應於眼睛的一或複數3D資訊的資料組。在某些實施方式中,能夠依據深度圖的三維資訊產生眼睛的一3D圖像。深度圖能即時且持續地進行判斷。深度圖也能夠在預定的時間點進行判斷及更新。舉例來說,深度圖能夠於每微秒、每毫米或每秒等時間間隔內進行判斷及更新。
在步驟S630,視線資訊依據深度圖進行判斷。視線資訊能表示依據深度圖的眼睛的視線。在一些實施方式中,視線資訊能夠依據參考信號及反射光信號的比較進行判斷。此外,視線資訊能夠包含針對眼睛之一特定區域的辨識、針對眼睛之一瞳孔的辨識、針對眼睛之一虹膜的辨識,以及針對眼睛之一生理結構的辨識中之一或多者。在某些實施方式中,眼睛的姿勢能夠由視線資訊進行辨識。眼睛姿勢能夠包含眼睛的移動、眼睛的轉動、眼睛的穩定狀態、眼睛的穩定狀態所對應時間、眼睛的閉合狀態、眼睛的閉合狀態所對應時間、眼睛的睜開狀態、眼睛的睜開狀態所對應時間、眼睛的眨眼睛狀態、眼睛的眨眼睛狀態所對應時間,以及眨眼睛狀態所對應頻率中的一或多者。
深度圖能夠用以在與眼睛相切之一平面產生一垂直虹膜向量。在這樣的情況下,視線資訊能夠依據虹膜向量及深度圖進行判斷。深度圖也能夠用以產生在與眼睛相切之一平面上的一瞳孔位置。在這樣的狀況下,視線資訊能夠依據眼睛的瞳孔位置及深度圖進行判斷。
在步驟S640,以眼睛的視線資訊作為輸出資料。對應於視線資訊的輸出資料能夠傳遞至一裝置、一機械、一系統或其他類似元件。在這種狀況下,視線資訊能夠作為輸入資料傳遞至裝置、機械或系統。此外,來自於視線資訊的眼動判斷能夠作為輸出資料。眼動能作指令給裝置、機械或系統,或與裝置、機械或系統互動。舉例來說,若眼睛快速且連續眨眼三次,可作為提供給遠端裝置,例如電視,的指令。如此一來,若追蹤到眼睛於短時間內連續地眨眼數次時,可使電視關機。
圖7繪示根據某些示例性實施方式的依據眼動追蹤調整光學元件的程序700。程序700依據眼動追蹤調整光學元件描述監控一眼移動及依據眼睛的移動調整光學元件。在步驟710,擷取對應測量一眼睛反射一光學信號所得之一電子信號,光學信號能夠由一光源提供。光源為與一預定參考信號同步的一可調電壓信號,藉此,光源能夠朝向眼睛的方向提供能由眼睛反射的一光學信號。
反射光學信號能被一或複數的光檢測器所接收。在一些實施方式中,被接收後的光信號能經濾波以移除某些波長。舉例來說,一或複數濾波器供對光信號濾波,藉此,只有目標波長保留在濾波
後的光學信號中。在某些實施方式中,一或多個透鏡用以在光學信號傳遞至光檢測器前對光學信號進行對焦。透鏡能夠為透明透鏡、固定式透鏡、可調透鏡、光子柵欄等。
在步驟S720,依據接收光信號及參考信號的相位差判斷深度圖。接收光信號能在其被接收時便與參考信號進行比較。在其它實施方式中,接收光信號可於進行濾波後再與參考信號進行比較。深度圖包含對應於眼睛的一或複數3D資訊的資料組。在一些實施方式中,能夠依據深度圖的3D資訊產生眼睛的一3D圖像。深度圖能夠即時且持續地進行判斷。深度圖也能夠在預定的時間點進行判斷及更新。舉例來說,深度圖能夠於每微秒、每毫米或每秒等時間間隔內進行判斷及更新。
在步驟S730,視線資訊依據深度圖進行判斷。視線資訊能表示依據深度圖的眼睛的視線。視線資訊能夠包含針對眼睛之一特定區域的辨識、針對眼睛之一瞳孔的辨識、針對眼睛之一虹膜的辨識,以及針對眼睛之一生理結構的辨識中之一或多者。在某些實施方式中,眼睛的姿勢能夠由視線資訊進行辨識。眼睛姿勢能夠包含眼睛的移動、眼睛的轉動、眼睛的穩定狀態、眼睛的穩定狀態所對應時間、眼睛的閉合狀態、眼睛的閉合狀態所對應時間、眼睛的睜開狀態、眼睛的睜開狀態所對應時間、眼睛的眨眼睛狀態、眼睛的眨眼睛狀態所對應時間,以及眨眼睛狀態所對應頻率中的一或多者。
深度圖能夠在與眼睛相切之一平面產生一垂直虹膜向量,其與眼睛相切之一平面相互垂直。在這樣的情況下,視線資訊能夠依據虹膜向量及深度圖進行判斷。深度圖也能夠用以產生在與眼睛相切之一平面上的一瞳孔位置。在這樣的狀況下,視線資訊能夠依據眼睛的瞳孔位置及深度圖進行判斷。
在步驟S740,依據視線資訊對可調光學元件進行調整。視線資訊能夠用以調整特定的光學元件。舉例來說,視線資訊能夠包含眼睛在顯示器特定位置的焦點。眼睛的眼睛能夠通過一可調光學元件,例如一可調透鏡或反射鏡。可調透鏡或反射鏡能被啟動或調整透鏡或反射鏡來對光路徑進行重新對焦。在一些實施方式中,可調光學元件能於眼睛被追蹤時,在顯示器上即時地啟動或調整。可調光學元件能夠包含一或多個透鏡、反射鏡等。
如此一來,可調光學元件能夠依據所追蹤的眼睛移動與否進行調整。可調光學元件能夠用以即時地提供動態的對焦及離焦。舉例來說,可調光學元件能夠用以解決觀看一VR或AR顯示器時調焦及輻輳不一致的問題。
圖8繪示能與在此描述的技術一起使用的一電腦裝置800及一行動電腦裝置850之示意圖。電腦裝置800用以表示各種形式的數位電腦,例如:筆記型電腦、桌上型電腦、工作站、個人數位助理、伺服器、刀鋒伺服器,大型電腦和其它合適的電腦。電腦裝置850用以表示各種形式的行動裝置,例如:個人數位助理、行動電話、智慧型電話和其它類似的電腦裝置。在此所示的器件的連接、關係
和功能僅是說明及描述在性質上應被視為例示性的而非用以限制本文中描述和/或要求保護的發明。
電腦裝置800包含一處理器802、記憶體804、一儲存裝置806、連接於記憶體804及高速擴展埠810之一高速介面808,以及連接於低速匯流排814及儲存裝置806之一低速介面812。器件802、804、806、808、810和812中的每一個使用各種匯流排互連,並可安裝在一主機板或以其它合適的方式進行安裝。處理器802可處理在電腦裝置800內執行的指令,包含儲存在記憶體804中的指令或在儲存裝置806上以對外部輸入/輸出裝置(例如耦合到高速介面808的顯示器816)上之一GUI顯示圖像資訊。在其它實施方式中,除了多個記憶體和不同種類的記憶體外,也可以使用多個處理器和/或多個匯流排。再者,多個電腦裝置800可連接至任一提供必要操作的裝置(例如:伺服器庫,一組刀鋒伺服器或一多處理器系統)。
記憶體804在電腦裝置800內儲存資訊。在一個實施方式中,記憶體804是揮發性記憶體單元;在另一實施方式中,記憶體804是非揮發性記憶體單元。記憶體804還可為另一種形式的電腦可讀媒體,例如:磁盤或光碟。
儲存裝置806能對電腦裝置800提供大容量的儲存。在一個實施方式中,儲存裝置806可為一電腦可讀媒體或可包含一電腦可讀媒體,例如:一軟碟裝置、一硬碟裝置、一光碟裝置或一磁帶裝置、一快閃記憶體或其它類似的固態儲存裝置,或一陣列裝置,包含一儲存區域網路或其他組態的裝置。一電腦程序產品可有形
地實施在的資訊載體中。電腦程序產品也可以包含指令,當前述指令被執行時,能做前述的一或多個方法。資訊載體為一電腦或機械可讀媒體,例如記憶體804、儲存裝置806或處理器802上的儲存器。
高速控制器808管理電腦裝置800的頻寬密集型服務操作,低速介面812則管理低頻寬密集操作;在此對於高速介面808及低速介面812的功能分配僅是示例性的說明。在一個實施方式中,高速控制器808耦合到記憶體804、顯示器816(例如通過圖像處理器或加速器)及高速擴展埠810,且其可接受各種擴展卡(圖未示)。在此實施方式中,低速控制器812耦合到儲存裝置806和低速擴展埠814。低速擴展埠814包含各種通訊埠(例如:USB、藍芽、以太網路、無線以太網路),並可透過一網路適配器耦合到一或多個輸入/輸出裝置,例如:一鍵盤、一指示裝置、一掃描器或一網路裝置(例如:一網路交換器或一路由器)。
如圖所示,電腦裝置800可以多種不同的形式來實現。舉例來說,電腦裝置800可以標準伺服器820來實現,或在一組這樣的伺服器中多次實現。電腦裝置800也能以刀鋒伺服器824中的一部分來實現。此外,電腦裝置800可以個人電腦,例如筆記型電腦822,來實現。電腦裝置800的器件也可與一行動裝置(圖未示),例如裝置850,的其它器件組合。這些裝置可包含一或多個電腦裝置800、850,且整個系統可由能互相通訊的多個電腦裝置800、850組合。
電腦裝置850包含處理器852、記憶體864、一輸入/輸出裝置(例如顯示器854)、一通訊介面866及在器件之間的收發器868。裝置850還可含有儲存裝置,例如微驅動器或其它裝置以提供額外的儲存空間。器件850、852、864、854、866和868中的每一個都是利用各種匯流排互相連接,且其中的若干器件可安裝在主機板上或以其它合適的方式進行安裝。
處理器852可以執行電腦裝置840內的指令(包含儲存在記憶體864中的指令)。處理器可以包含分離的多個類比及數位處理器的晶片組來實現。處理器可例如用於協調裝置850的其它器件,例如:控制使用者界面、裝置852執行的應用程式及裝置850的無線通訊。
處理器852可透過耦合到顯示器854的控制介面848和顯示器介面856與使用者通訊。顯示器854可例如一TFT LCD、一OLED顯示器或其它適當的顯示技術。顯示器介面856可包括用於驅動顯示器854以向使用者呈現圖形和其它資訊的適當電路。控制介面858可接收來自於使用者的命令並將其轉換後供給處理器852。此外,可提供與處理器852通訊的一外部介面862,以供裝置850與其它鄰近的裝置進行通訊。外部介面862可在一些實施方式中提供有線通訊,在其它實施方式中提供無線通訊;當然,也可使用多介面來提供通訊。
記憶體864在電腦裝置850內儲存資訊。記憶體864可以一或多個電腦可讀媒體或介質、揮發性記憶單元或非揮發性記憶單元來實現。擴展記憶體854還可以通過擴展介面852而與裝置850連接,擴
展接面852可以包含例如SIMM卡埠。這種擴展記憶體854可為裝置850提供額外的儲存空間,或者也可以儲存裝置850使用的應用程式或其它資訊。具體來說,擴展記憶體854可以包含執行或補充前述的程序的指令,也可以包含安全資訊。因此,擴展記憶體854例如可作為裝置850的安全模組,並可編寫讓裝置能夠安全使用的指令。此外,安全應用和額外的資訊可透過SIMM卡來提供,例如放置不可攻擊的識別資訊在SIMM卡上。
記憶體可例如包含如下所述的快閃和/或NVRAM記憶體。在一個實施方式中,電腦程序產品係有形地體現在一資訊載體中。電腦程序產品包含指令;當指令被執行時,可進行前述的一或多個方法。資訊載體是電腦或機械可讀介質,例如記憶體864、擴展記憶體854,處理器852上的記憶體,或可例如示通過收發器868或外部埠862接收的傳播信號。
裝置850可以通過通訊介面866進行無線通訊,通訊介面866可以在必要時包含數位信號處理電路。通訊介面866可提供例如GSM語音電話、SMS、EMS或MMS訊息、CDMA、TDMA、PDC、WCDMA,CDMA2000或GPRS等各種模式或協議的通訊。前述通訊可例如通過射頻收發機868發生。此外,短距離通訊,例如使用藍芽,WiFi或其它此類收發器(未示出)也能發生。此外,GPS(全球定位系統)接收機模組850可向裝置850提供額外的導航和位置相關的無線資料,其可以作為裝置850上應用程式。
裝置850還可以使用音頻編解碼器860進行語音通訊,音頻編解碼器860可以從使用者接收口語資訊並將其轉換為可用的數位資訊。音頻編解碼器860也可例如通過揚聲器(例如,在裝置850的聽筒中)為使用者產生可聽見的聲音。這種聲音可以包含來自語音電話呼叫的聲音,可以包含記錄的聲音(例如:語音訊息、音樂檔案等),並可包含在設備850上操作應用程式產生的聲音。
電腦裝置850可以圖式中的多種不同的形式來實現。例如,它可以被實現為行動電話880。電腦裝置850也可以智慧型電話882的一部分來實現,個人數位助理或其它類似行動裝置的一部分。
複數應用能夠基於以下概念來實現。例如,如圖1B及圖1C所繪示的TOF像素也能夠用以檢測使用者的臉部特徵,包含眼睛姿勢追蹤、臉部辨識或表情檢測。在另一示範例中,本發明的眼睛姿勢追蹤可用於替換或補充滑鼠以對在顯示器上使用者感興趣或聚焦的顯示內容進行定位。在一些實施方式中,本發明的眼睛姿勢追蹤能夠用於更準確的挑選使用者感興趣的廣告方向或預測使用者的行為。舉例來說,以人工神經網路的機器人學習能夠依據使用者注電位置來學習並判斷使用者的行為。根據不同使用者的行為,能夠給予不同的權重;例如權重可以依照(1)完全不看(2)有看但沒有選擇(3)有看並選擇由小到大。此外,使用者注視特定內容所持續的時間也可用於記錄使用者感興趣的程度,例如持續時間越長,權重越高。在一些實施方式中,相較於傳統點擊或不點擊
廣告的行為,根據使用者感興趣程度而在網頁上顯示廣告,能讓廣告商支付不同的費用。
本發明的眼睛姿勢追蹤也可用於遊戲。舉例來說,如圖2A所示的使用者的行動電話224或平板電腦230上可播放賽車或飛行遊戲。使用者眼睛視線變化可用於控制車輛的移動(例如方向),使車輛能夠往使用者眼睛視線指示方向移動。在另一示範例中,由加速器211、陀螺儀212和眼睛追蹤模組收集的資訊可用於追蹤使用者頭部的運動和眼睛視線。在一些實施方式中,可包含一分離式按鈕來控制速度,以及包含另一可選地按鈕來控制一額外動作,例如:射擊或切換工具。單獨或組合的頭部移動及眼睛視線資訊可用在行動電話上的遊戲運行或用於平板電腦上以判斷使用者的動作,且遊戲可相應地進行響應。在此示範例中,可使用表示使用者頭部的轉動位置的向量和表示使用者眼睛的視線向量的組合來判斷是眼睛視線相對於頭部的角度,進而用以解釋使用者的動作或想法。
本文雖然已經參考特定的示範性實施例說明過本揭示內容;不過,應該確認的是,本發明並不受限於所述的實施例;相反地,亦能夠以落在隨附申請專利範圍的精神和範疇裡面的修正例及變更例來實行。例如在前所揭示的流程可重新排序、增加或移除步驟。
本發明的實施例和本說明書中描述的所有功能操作可以在數位電子電路中或在電腦軟體,固體或韌體中實現,包括本文中公開的
結構規範及其結構的同等物,或其一或多種的組合。本發明的實施方式可以由一或多個電腦程序產品來實現,例如:在電腦可讀媒體上編碼的電腦程序指令的一或多個模組,用於由資料處理裝置執行或控制資料處理裝置的操作。電腦可讀媒體可以是機器可讀存儲裝置、機器可讀存儲基板、記憶裝置、影響機械可讀傳播信號之物建的組合,或其等中的一或多個的組合。在本文中,術語「資料處理裝置」包含用於處理資料的所有設備、裝置和機械,例如:包含可編程處理器、電腦或多個處理器或電腦。該設備可包含,除了硬體之外的其它為電腦程序創造執行環境的代碼,例如:構成處理器硬體的代碼、協議堆疊、資料庫管理系統、操作系統或其等中的一或多個的組合。一傳播信號為人工產生的信號,例如:一機械產生之用於傳輸到合適接收設備的編碼資訊的電、光或電磁信號。
計算機程式(也稱為程式、軟體、軟體應用程序、腳本程式與言或程式碼),包含編譯或解釋語言,可以任何形式的編程語言進行編寫並可包含獨立程式或作為適用於運算環境的模組、器件、子程序或其它單元等任何形式的部署。電腦程式不一定要對應於文件系統中的文件。一程式可儲存在文件保有其它程式或資料的一部分中(例如儲存在標記語言文檔中的一或多個腳本程式)、專用於所詢問程式的單一文件中,或者儲存在多個同一類型的文件中(例如:存儲一或多個模組、子程序或程式碼的文件)。電腦程式可在一個電腦上執行,電腦程式也可在位於同一地點的多個電腦來執
行;當然,電腦程式也可以分布在不同地點並以通訊網路互連的多個電腦。
適合執行電腦程式的處理器例如包含通用和專用微處理器,以及在數位電腦中任何種類的一或多個處理器。一般來說,處理器會從唯讀記憶體及隨機存取記憶體之至少一者中接收指令和資料。電腦的必要元件是用於執行指令的處理器和用於儲存指令和資料的一個或多個記憶體裝置。通常,電腦還可包含或可操作地耦合至從一或多個用於儲存資料的大容量儲存裝置(例如磁、磁光碟或光碟)接收資料或向其傳輸資料。然而,電腦不需要這樣的裝置。此外,電腦可嵌入在另一個裝置中,例如:平板電腦、行動電話、個人數字助理(PDA)、行動音頻播放器、全球定位系統(GPS)接收器等。適用於儲存電腦程式指令和資料的電腦可讀媒體包含非揮發性記憶體、媒體和記憶體裝置的一種形式,包含半導體記憶裝置(例如:EP ROM、EEPROM和快閃記憶體裝置)及磁碟(例如:內部硬碟或可移動磁碟)、磁光碟、CD ROM和DVD-ROM磁碟。處理器和記憶體可補充或併入專用邏輯電路中。
為了提供與使用者的交連,本發明的實施方式可以在具有一顯示裝置(例如CRT或LCD顯示器)、一鍵盤或一指示裝置(例如滑鼠或軌跡球)的電腦上實現,顯示裝置用以向使用者顯示資訊,使用者可透過鍵盤或軌跡球向電腦提供輸入。當然,也可以使用其它類型的裝置來達成與使用者的交連,例如提供給使用者的反饋可以是任何形式的感覺反饋(例如:視覺反饋、聽覺反饋或觸覺反饋),
並可以任何形式接收來自使用者的輸入,包括:聲音、語音或觸覺輸入。
本發明的實施方式可在包含後端器件(例如資料服務器)的電腦系統中實現;本發明的實施方式也可在包含中間器件(例如應用服務器)的電腦系統中實現;當然,本發明的實施方式可在包含前端器件,例如具有圖形使用者界面或網頁瀏覽器的客戶端電腦,以供使用者能與其進行互動。本發明的實施方式可不排除可在包含後端器件、中間器件及前端器件中一或多個組合的電腦系統中實現。系統中的器件可通過任何形式或媒體的數位資料通訊(例如通訊網路)互連。通訊網路例如包括區域網和廣域網,例如網際網路。
電腦系統可以包含客戶端和服務器。一般來說,客戶端和服務器彼此遠離,並通過通網路進行互動。藉由各自電腦上運行的電腦程式及彼此間的客戶端-服務器關係,產生客戶端和服務器間的關係。
雖然本文包含許多細節,但這是作為對特定實施例的特定特徵的描述,不應被用來限制本發明。在本文中,單獨實施例中描述的某些特徵可以只在單個實施例中實現,但在單獨實施例中描述的特徵也可以在多個實施例中單獨或以組合方式來實現。相反地,在前文中單一實施例中所描述的各種特徵也構在多個實施方式中單獨實現或以次組合的方式實現。此外,前文中描述的特徵雖然在某個實施方式中及最初請求保護內容作用,但請求保護的組合
中的一或多個特徵在某些情況下可以從組合中移除,且請求保護的組合可為次組合或次組合的變化。
類似地,雖然在圖示敘述特定次序之操作,該些操作可依其他特定次序或序列次序操作,或依據圖示次序操作以達成所需功效。在特定狀況下,多工或是平行處理可達成具體優點。此外,不同系統元件在不同實施例可能彼此分開,但不應視為該些元件必須在所有實施例彼此分開。
在任一提到HTML文件的示範例中,可以以其它文件類型或格式替換之,例如HTML文件可以被XML、JSON、純文字或其它類型的文件替代。此外,可以其它資料結構(例如電子表格、關係資料庫或結構化文件)來作為前述的表格或散列表(Hash table)。
本發明雖然敘述特定實施例,但是其他實施例仍在本發明範圍內。例如在專利範圍內界定之操作可由不同次序操作,仍可達成所需功效。
201:頭戴裝置
211、221、231:加速儀
212、222、232:陀螺儀
213:眼動追蹤模組
214:無線傳輸單元
216A、216B:眼睛
218:透明透鏡
220:電話
224、234、244、254:無線通訊單元
230:平板電腦
236、246:視線參考點
240:電腦裝置
250:電視
Claims (26)
- 一種眼動追蹤的電腦實施方法,包含:從眼睛反射的一調製光信號,擷取由一光檢測器生成的一電信號,該電信號包括一第一相位,其中該調製光信號由被一調製信號偏置的一個或多個光源生成,該調製信號包括一第二相位;依據該光檢測器產生之該電信號的該第一相位及一參考信號的一第三相位之間的一相位差來判斷該眼睛之一深度圖,其中該調製信號的該第二相位與該參考信號的該第三相位同步;根據該深度圖判斷對應於該眼睛視線之一視線資訊;以及輸出對應於該視線資訊的一輸出資料。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,更包含:提供一或複數濾波器以移除於該眼睛反射之該調製光信號中的一非目標波長信號。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,更包含:提供一或複數透鏡以聚焦該眼睛反射之該調製光信號於該光檢測器。
- 如請求項第1項所述之方法,其中該深度圖包含一或複數三維資訊的一資料組。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,其中該視線資訊包含對該眼睛之一特定區域、一瞳孔、一虹膜或一生理結構之辨識中的至少一者。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,其中提供對應於該視線資訊的該輸出資料包含提供對應於該視線資訊的該輸出資料以作為其它裝置、機械或系統的一輸入。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,更包含:依據該視線資訊判斷一眼睛姿勢;以及提供表示該眼睛姿勢的一輸出資料。
- 如請求項第7項所述之眼動追蹤的電腦實施方法,其中該眼睛姿勢包含該眼睛的移動、該眼睛的轉動、該眼睛的穩定狀態、該眼睛的穩定狀態所對應時間、該眼睛的閉合狀態、該眼睛的閉合狀態所對應時間、該眼睛的睜開狀態、該眼睛的睜開狀態所對應時間、該眼睛的眨眼睛狀態、該眼睛的眨眼睛狀態所對應時間,以及眨眼睛狀態所對應頻率中的至少一者。
- 如請求項第7項所述之眼動追蹤的電腦實施方法,其中提供表示該眼睛姿勢的該輸出資料包含提供對應於該視線資訊的輸出資料以作為其它裝置、機械或系統的一輸入。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,更包含:在與該眼睛相切之一平面產生一垂直虹膜向量;以及根據該深度圖及該虹膜向量判斷該眼睛視線之該視線資訊。
- 如請求項第1項所述之眼動追蹤的電腦實施方法,更包含:在與該眼睛相切之一平面產生一瞳孔位置;以及根據該深度圖及該瞳孔位置判斷該眼睛視線的視線資訊。
- 一種眼動追蹤系統,包含:一機械,包含一顯示器,該顯示器包含複數可調光學元件; 一裝置,包含一電路,該電路用以:擷取以一光檢測器量測一眼睛反射之一調製光信號所對應之一電信號,該電信號包括一第一相位,其中該調製光信號由被一調製信號偏置的一個或多個光源生成,該調製信號包括一第二相位;依據一參考信號的一第三相位及該光檢測器產生之該電信號的該第一相位之間的一相位差判斷該眼睛的一深度圖;以及依據該深度圖判斷代表該眼睛視線的該視線資訊;以及一或複數處理器,與該機械及該裝置通訊,該處理器包含一或複數儲存裝置供儲存操作的一指令,該處理器執行該指令時所執行的複數操作包含:從該裝置接收代表該視線資訊的一輸出資料;以及判斷該機械的該顯示器與代表該眼睛視線的該視線資訊間之關係。
- 如請求項第12項所述之眼動追蹤系統,其中該等操作更包含:判斷該眼睛在該顯示器上聚焦的一特定位置,該特定位置係基於該顯示器與代表該眼睛視線的該視線資訊間之關係;以及提供一指示在該顯示器上之該特定位置。
- 如請求項第12項所述之眼動追蹤系統,其中該等操作包含:判斷該眼睛於該顯示器上聚焦的一特定位置,該特定位置係基於該顯示器與代表該眼睛視線的該視線資訊間之關係;以及提供一凝視點影像在該顯示器上之一特定區域。
- 如請求項第12項所述之眼動追蹤系統,其中該等可調光學元件包含一可調透鏡或一可調反射鏡。
- 如請求項第15項所述之眼動追蹤系統,其中啟動該等可調光學元件之一子集合的調整係依據該顯示器與代表該眼睛視線的該視線資訊間之關係。
- 如請求項第16項所述之眼動追蹤系統,其中該等可調光學元件之一子集合的調整包含動態地對入射於其上的光線做重新聚焦。
- 如請求項第12項所述之眼動追蹤系統,更包含:一可穿戴裝置,耦合於該機械、該裝置及該處理器以形成一一體形式的硬體封裝,該機械的該顯示器是不透明的,且一視覺影像透過一或複數光源陣列而於顯示器上顯示。
- 如請求項第12項所述之眼動追蹤系統,更包含:一可穿戴裝置,耦合於該機械及該裝置以形成一一體形式的硬體封裝,該機械之該顯示器是不透明的,且一視覺影像透過一或多個光源陣列而於該顯示器上顯示;以及一或複數處理器,位於遠端並透過無線或有線連接與該一體形式的硬體封裝進行通訊。
- 如請求項第12項所述之眼動追蹤系統,更包含:一可穿戴裝置,耦合於該機械、該裝置及該處理器以形成一一體形式的硬體封裝,該機械之該顯示器對朝向顯示器投影的影像至少部分透明,藉由該顯示器上之該可調光學元件來調整朝向該顯示器投影的影像特性。
- 如請求項第12項所述之眼動追蹤系統,更包含: 一可穿戴裝置,耦合於該機械及該裝置以形成一一體形式的硬體封裝,該機械之該顯示器對於朝向該顯示器投影的影像至少部分透明,藉由該顯示器上之該可調光學元件來調整向該顯示器投影的影像特性;以及一或複數處理器,位於遠端並透過無線或有線連接與該一體形式的硬體封裝進行通訊。
- 如請求項第12項所述之眼動追蹤系統,更包含:一可插拔裝置,耦合於該裝置及該處理器以形成一一體形式的硬體封裝;以及該機械位於遠端,並透過一無線或有線連接來與該一體形式的硬體封裝進行通訊,該機械的該顯示器是不透明的,且顯示於該顯示器上的一視覺影像係透過一或多個光源陣列來實現。
- 如請求項第12項所述之眼動追蹤系統,更包含:一可穿戴裝置,耦合與該裝置及該處理器以形成一一體形式的硬體封裝;以及該機械位於遠端,並透過一無線或有線連接來與該一體形式的硬體封裝進行通訊,該機械之該顯示器是不透明的,且顯示於該顯示器上的一視覺影像是透過一或多個光源陣列來實現。
- 如請求項第23項所述之眼動追蹤系統,其中該等操作更包含:判斷該眼睛在該顯示器上聚焦之一特定位置,該特定位置係基於該顯示器與代表該眼睛視線的該視線資訊間之關係;以及提供一指示在該顯示器上之該特定位置。
- 如請求項第12項所述之眼動追蹤系統,其中該調製信號的該第二相位與該參考信號的該第三相位同步。
- 一種眼動追蹤裝置,包含:複數可調光學元件,以供調整焦距;一或複數處理器,與該可調光學元件通訊,該為處理器包含一或複數儲存裝置以儲存操作的複數指令,該處理器執行該等指令時所執行的複數操作包含:擷取以一光檢測器量測一眼睛反射之一調製光信號所對應之一電信號;依據該光檢測器產生之該電信號及一參考信號之相位差判斷該眼睛的一深度圖;根據深度圖判斷表示一眼睛視線的一視線資訊,該視線資訊代表該眼睛視線與一遠端裝置的一顯示器間之關係;以及依據該視線資訊來啟動該等可調元件之一子集合的調整。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662363179P | 2016-07-15 | 2016-07-15 | |
US62/363,179 | 2016-07-15 | ||
US15/228,282 US9954016B2 (en) | 2015-08-04 | 2016-08-04 | Germanium-silicon light sensing apparatus |
US15/228,282 | 2016-08-04 | ||
US15/359,460 | 2016-11-22 | ||
US15/359,460 US10761599B2 (en) | 2015-08-04 | 2016-11-22 | Eye gesture tracking |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201805856A TW201805856A (zh) | 2018-02-16 |
TWI743148B true TWI743148B (zh) | 2021-10-21 |
Family
ID=62014004
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW106123684A TWI743148B (zh) | 2016-07-15 | 2017-07-14 | 眼動追蹤的電腦實施方法、眼動追蹤系統及裝置 |
TW110137695A TWI758231B (zh) | 2016-07-15 | 2017-07-14 | 眼動追蹤系統 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW110137695A TWI758231B (zh) | 2016-07-15 | 2017-07-14 | 眼動追蹤系統 |
Country Status (1)
Country | Link |
---|---|
TW (2) | TWI743148B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10705604B2 (en) | 2018-05-22 | 2020-07-07 | Htc Corporation | Eye tracking apparatus and light source control method thereof |
TWI704530B (zh) | 2019-01-29 | 2020-09-11 | 財團法人資訊工業策進會 | 注視度判斷裝置及方法 |
TWI683132B (zh) * | 2019-01-31 | 2020-01-21 | 創新服務股份有限公司 | 人臉眼睛定位系統在顯微鏡的應用 |
TWI817040B (zh) * | 2019-09-09 | 2023-10-01 | 仁寶電腦工業股份有限公司 | 電腦裝置及其操作方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003225207A (ja) * | 2002-02-04 | 2003-08-12 | Minolta Co Ltd | 視線検出装置 |
JP2009025225A (ja) * | 2007-07-23 | 2009-02-05 | Fujifilm Corp | 立体撮像装置および立体撮像装置の制御方法並びにプログラム |
TW201403441A (zh) * | 2012-07-10 | 2014-01-16 | dong-liang Wang | 視覺導向模組 |
CN105009039A (zh) * | 2012-11-30 | 2015-10-28 | 微软技术许可有限责任公司 | 使用imu的直接全息图操纵 |
JP2015194838A (ja) * | 2014-03-31 | 2015-11-05 | 株式会社国際電気通信基礎技術研究所 | 視線方向推定装置および視線方向推定方法 |
-
2017
- 2017-07-14 TW TW106123684A patent/TWI743148B/zh active
- 2017-07-14 TW TW110137695A patent/TWI758231B/zh active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003225207A (ja) * | 2002-02-04 | 2003-08-12 | Minolta Co Ltd | 視線検出装置 |
JP2009025225A (ja) * | 2007-07-23 | 2009-02-05 | Fujifilm Corp | 立体撮像装置および立体撮像装置の制御方法並びにプログラム |
TW201403441A (zh) * | 2012-07-10 | 2014-01-16 | dong-liang Wang | 視覺導向模組 |
CN105009039A (zh) * | 2012-11-30 | 2015-10-28 | 微软技术许可有限责任公司 | 使用imu的直接全息图操纵 |
JP2015194838A (ja) * | 2014-03-31 | 2015-11-05 | 株式会社国際電気通信基礎技術研究所 | 視線方向推定装置および視線方向推定方法 |
Also Published As
Publication number | Publication date |
---|---|
TW201805856A (zh) | 2018-02-16 |
TWI758231B (zh) | 2022-03-11 |
TW202205153A (zh) | 2022-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11755104B2 (en) | Eye gesture tracking | |
US10643389B2 (en) | Mechanism to give holographic objects saliency in multiple spaces | |
TWI743148B (zh) | 眼動追蹤的電腦實施方法、眼動追蹤系統及裝置 | |
EP3438882B1 (en) | Eye gesture tracking | |
US9035970B2 (en) | Constraint based information inference | |
KR102305380B1 (ko) | 자동 컨텐츠 스크롤링 | |
CN104755968B (zh) | 透视式近眼显示器 | |
US9285871B2 (en) | Personal audio/visual system for providing an adaptable augmented reality environment | |
EP2834723B1 (en) | Touch sensitive user interface | |
US20170344107A1 (en) | Automatic view adjustments for computing devices based on interpupillary distances associated with their users | |
CN108139806A (zh) | 相对于可穿戴设备跟踪穿戴者的眼睛 | |
US20130083007A1 (en) | Changing experience using personal a/v system | |
US20120127284A1 (en) | Head-mounted display device which provides surround video | |
US20130083008A1 (en) | Enriched experience using personal a/v system | |
AU2013351980A1 (en) | Direct hologram manipulation using IMU | |
KR20150123226A (ko) | 착용가능 행동 기반 시각 시스템 | |
KR20140059213A (ko) | 홍채 스캔 프로파일링을 이용하는 헤드 마운티드 디스플레이 | |
US11442543B1 (en) | Electronic devices with monocular gaze estimation capabilities | |
US20230077073A1 (en) | Augmented reality device and method for obtaining depth map by using depth sensor | |
US20240210677A1 (en) | Ultrafast illumination for structured light based eye tracking | |
KR20220000787A (ko) | 메타 광학 소자 및 이를 포함하는 전자 장치 |