TWI557601B - 瞳孔追蹤系統及其方法、電腦程式產品、及電腦可讀取紀錄媒體 - Google Patents
瞳孔追蹤系統及其方法、電腦程式產品、及電腦可讀取紀錄媒體 Download PDFInfo
- Publication number
- TWI557601B TWI557601B TW104135772A TW104135772A TWI557601B TW I557601 B TWI557601 B TW I557601B TW 104135772 A TW104135772 A TW 104135772A TW 104135772 A TW104135772 A TW 104135772A TW I557601 B TWI557601 B TW I557601B
- Authority
- TW
- Taiwan
- Prior art keywords
- pupil
- scleral
- coordinate
- image
- eye
- Prior art date
Links
Landscapes
- Image Analysis (AREA)
- Eye Examination Apparatus (AREA)
- Image Processing (AREA)
Description
本發明關於一種瞳孔追蹤系統,尤指一種以鞏膜比例取得使用者注視方向之瞳孔追蹤系統。
人眼追蹤(Eye tracking)技術常見應用於操控電腦,可發展作為漸凍人或肢體不便之人士透過電腦與外界溝通的輔具,或是心理研究之工具。此外,眼動追蹤技術亦大幅應用於各種領域,例如神經科學、心理學、工業工程、人因工程、行銷廣告、電腦科學等。
此技術是指追蹤眼球的移動,得到眼球位置座標或移動軌跡,並據以對電腦產生某種預設的控制指令。因此這方面技術首先必須能精準地偵測到眼球的移動,接著另一重點是必須能準確地轉換成電腦產生控制指令所需的資料,例如將眼球位置轉換對應成電腦顯示幕上的游標位置,否則將導致下錯控制指令。
目前人眼追蹤(Eye tracking)技術以是否與人眼接觸區分為接觸式及非接觸式,接觸式人眼追蹤技術可區分為搜尋線
圈法及眼電圖法,非接觸式人眼追蹤技術主要是以視覺辨識為基礎(Vision based),可區分為頭戴式(Head-mount)或免頭戴式(Free -head)。
在接觸式人眼追蹤技術方面,搜尋線圈法(Search coil)是讓使用者配戴具有感應線圈的軟式鏡片,當使用者轉動眼球進而帶動鏡片時,感應線圈會因為磁通量變化產生感應電動勢,此電動勢大小即代表眼球偏轉的角度,但是此方法的缺點在於容易受到使用者眼球狀況的影響,如眼部的分泌物等,且軟式鏡片是雙層結構,會影響使用者的視力;至於眼電圖(EOG)法,則是在眼部周圍貼附複數電極,並利用該等電極偵測眼球轉動所產生的電壓差來判斷其上下左右的角度,缺點是臉部貼附電極的皮膚電阻容易因為角質分泌使得取得的電訊號不穩定,且僅能記錄眼球的巨轉向而無法記錄較微小的角度變化。
在頭戴式人眼追蹤技術方面,使用者必須配戴一附有小型攝影機之眼鏡,由於眼部及攝影機的相對距離固定,如此就不會因為臉部偏移或眼部的相對距離變化導致判斷不準確,因而在使用者使用時就必須將眼鏡固定於頭部藉此固定小型攝影機與眼睛的相對位置,對使用者而言不但不方便也不舒適。
免頭戴式人眼追蹤技術方面,國外有配合螢幕及雙CCD攝影機的眼部追蹤器(Eye trackers),國內較有名的則有林宸生等人的相關研究。然而,目前所知的免頭戴式人眼追蹤技術係採用較複雜的運算,且免頭戴式人眼追蹤技術須克服使用者頭部
移動造成誤差的問題。另外,雙CCD攝影機的眼部追蹤器雖然可以對指標精確定位,但是造價十分昂貴,且需採用兩個CCD攝影機。
由前述可知,無論接觸式或非接觸式的眼控技術在實施時,都需要精準的定位才具有實用性;然而,精準的定位還需搭配昂貴的軟硬體設備,如此一來,使眼控技術無法普及化讓一般大眾也能使用。
為了滿足上述需求,本發明之揭露內容提供以下實施例。
在本發明之一或更多實施例中,提供一種瞳孔追蹤方法,該方法包含:(a)利用一攝影單元取得一眼部影像;(b)定位該眼部影像上的一瞳孔位置;(c)依據該瞳孔位置,將該眼部影像中之鞏膜劃分成複數個鞏膜區域;(d)依據複數個該鞏膜區域之面積比例,獲得一原始座標位置;(e)將該原始座標位置轉換成對應於一螢幕座標上的一目標位置。
在本發明之一或更多實施例中,其中步驟(a)係依據以下方式由該攝影單元取得該眼部影像:搜尋一影像中符合臉部特徵的一臉部影像;經由該臉部影像擷取出一鼻孔特徵,並定義該鼻孔特徵的一鼻孔位置;以該鼻孔位置為基礎,依據一五官比例,建立一眼部搜尋框;以及於該眼部搜尋框內擷取出該眼部影像。
在本發明之一或更多實施例中,其中步驟(c)係依據該瞳孔位置作為基準,定義至少二個基準軸,藉由該基準軸將該鞏膜分為至少四個該鞏膜區域。
在本發明之一或更多實施例中,其中步驟(d)係依據至少四個該鞏膜之面積比例關係,定義該原始座標位置。
在本發明之一或更多實施例中,其中步驟(c)係依據該瞳孔位置作為基準,定義一水平軸及一垂直軸,依據該水平軸將該鞏膜分為一上鞏膜區域與一下鞏膜區域,並依據該垂直軸將該鞏膜分為一左鞏膜區域與一右鞏膜區域。
在本發明之一或更多實施例中,其中步驟(d)係經由該上鞏膜區域與該下鞏膜區域之間的比例,取得一第一座標參數,並經由該左鞏膜區域與該右鞏膜區域間的比例取得一第二座標參數,並將該第一座標參數及該第二座標參數所對應的該原始座標位置,標記於一平面座標圖上。
在本發明之一或更多實施例中,其中步驟(e)係將該平面座標圖上的該原始座標位置,藉由仿射轉換法轉換成對應至該螢幕座標上的該目標位置。
在本發明之一或更多實施例中,提供一種瞳孔追蹤系統,包含有一攝影單元以及一連接該攝影單元的處理單元。該攝影單元用以取得一眼部影像。該處理單元係定位該眼部影像上之一瞳孔位置,並依據該瞳孔位置,將該眼部影像上之一鞏膜劃分成複數個鞏膜區域,藉由複數個該鞏膜區域之面積比例,獲得
一原始座標位置,並將該原始座標位置轉換成一螢幕座標上的一目標位置,藉此計算使用者的注視方向。
在本發明之一或更多實施例中,其中該處理單元係配置成用以載入並執行下述程式,該程式包含:影像分析模組,配置成定位該眼部影像中之該瞳孔位置;區域劃分模組,配置成依據該影像分析模組所定位之該瞳孔位置,將該鞏膜劃分成至少四個該鞏膜區域;面積處理模組,配置成經由該眼部影像計算至少四個該鞏膜區域之面積大小;圖像處理模組,配置成藉由至少四個該鞏膜區域之面積比例關係,定義該原始座標位置;以及座標轉換模組,配置成將該原始座標位置轉換成對應於該螢幕座標上的目標位置。
在本發明之一或更多實施例中,其中該區域劃分模組係依據該影像分析模組所定位之該瞳孔位置作為基準定義一水平軸及一垂直軸,並依據該水平軸將該鞏膜分為一上鞏膜區域與一下鞏膜區域,並依據該垂直軸將該鞏膜分為一左鞏膜區域與一右鞏膜區域。
在本發明之一或更多實施例中,其中該圖像處理模組係經由該上鞏膜區域與該下鞏膜區域間的比例,取得一第一座標參數,並經由該左鞏膜區域與該右鞏膜區域間的比例取得一第二座標參數,並將該第一座標參數及該第二座標參數所對應的該原始座標位置標記於一平面座標圖上。
在本發明之一或更多實施例中,其中該座標轉換模
組將該平面座標圖上的該原始座標位置藉由仿射轉換法轉換成對應至該螢幕座標上的目標位置。
在本發明之一或更多實施例中,其中該處理單元係配置成用以載入並執行下述程式,該程式包含:影像分析模組,配置成定位該眼部影像中之瞳孔位置;區域劃分模組,配置成依據該影像分析模組所定位之該瞳孔,將鞏膜劃分成至少四個鞏膜區域;面積處理模組,配置成經由該眼部影像計算至少四個該鞏膜區域之面積大小;轉換模組,配置成藉由至少四個該鞏膜區域之面積大小,界定出該瞳孔相對於該鞏膜之相對位置,並將該瞳孔之相對位置轉換成該瞳孔對應於螢幕座標上的目標位置,藉此計算使用者的注視方向。
在本發明之一或更多實施例中,其中該區域劃分模組係依據該影像分析模組所定位之該瞳孔位置作為基準定義至少二相互間具有相同夾角的基準軸,藉由該基準軸將該鞏膜分為至少四個該鞏膜區域。
在本發明之一或更多實施例中,其中該轉換模組依據至少四個該鞏膜區域面積間的比例關係,定義該瞳孔與該鞏膜間的該瞳孔相對位置。
在本發明之一或更多實施例中,提供一種電腦可讀取紀錄媒體,當電腦載入該媒體並執行後,可執行以下之方法:(a)利用一攝影單元取得一眼部影像;(b)定位該眼部影像上的一瞳孔位置;(c)依據該瞳孔位置,將該眼部影像中之鞏膜劃分成複數
個鞏膜區域;(d)依據複數個該鞏膜區域之面積比例,獲得一原始座標位置;(e)將該原始座標位置轉換成對應於一螢幕座標上的一目標位置。
在本發明之一或更多實施例中,其中步驟(a)係依據以下方式由該攝影單元取得該眼部影像:搜尋一影像中符合臉部特徵的一臉部影像;經由該臉部影像擷取出一鼻孔特徵,並定義該鼻孔特徵的一鼻孔位置;以該鼻孔位置為基礎,依據一五官比例,建立一眼部搜尋框;以及於該眼部搜尋框內擷取出該眼部影像。
在本發明之一或更多實施例中,其中步驟(c)係依據該瞳孔位置作為基準,定義至少二個基準軸,藉由該基準軸將該鞏膜分為至少四個鞏膜區域。
在本發明之一或更多實施例中,其中步驟(d)係依據至少四個該鞏膜之面積比例關係,定義該原始座標位置。
在本發明之一或更多實施例中,其中步驟(c)係依據該瞳孔位置作為基準,定義一水平軸及一垂直軸,依據該水平軸將該鞏膜分為一上鞏膜區域與一下鞏膜區域,並依據該垂直軸將該鞏膜分為一左鞏膜區域與一右鞏膜區域。
在本發明之一或更多實施例中,其中步驟(d)係經由該上鞏膜區域與該下鞏膜區域之間的比例,取得一第一座標參數,並經由該左鞏膜區域與該右鞏膜區域間的比例取得一第二座標參數,並將該第一座標參數及該第二座標參數所對應的該原始
座標位置,標記於一平面座標圖上。
在本發明之一或更多實施例中,其中步驟(e)係將該平面座標圖上的該原始座標位置,藉由仿射轉換法轉換成對應至該螢幕座標上的該目標位置。
在本發明之一或更多實施例中,提供一種電腦程式產品,該電腦程式產品被載入一電腦中執行,可完成以下之方法:(a)利用一攝影單元取得一眼部影像;(b)定位該眼部影像上的一瞳孔位置;(c)依據該瞳孔位置,將該眼部影像中之鞏膜劃分成複數個鞏膜區域;(d)依據複數個該鞏膜區域之面積比例,獲得一原始座標位置;(e)將該原始座標位置轉換成對應於一螢幕座標上的一目標位置。
在本發明之一或更多實施例中,其中步驟(a)係依據以下方式由該攝影單元取得該眼部影像:搜尋一影像中符合臉部特徵的一臉部影像;經由該臉部影像擷取出一鼻孔特徵,並定義該鼻孔特徵的一鼻孔位置;以該鼻孔位置為基礎,依據一五官比例,建立一眼部搜尋框;以及於該眼部搜尋框內擷取出該眼部影像。
在本發明之一或更多實施例中,其中步驟(c)係依據該瞳孔位置作為基準,定義至少二個基準軸,藉由該基準軸將該鞏膜分為至少四個鞏膜區域。
在本發明之一或更多實施例中,其中步驟(d)係依據至少四個該鞏膜之面積比例關係,定義該原始座標位置。
在本發明之一或更多實施例中,其中步驟(c)係依據該瞳孔位置作為基準,定義一水平軸及一垂直軸,依據該水平軸將該鞏膜分為一上鞏膜區域與一下鞏膜區域,並依據該垂直軸將該鞏膜分為一左鞏膜區域與一右鞏膜區域。
在本發明之一或更多實施例中,其中步驟(d)係經由該上鞏膜區域與該下鞏膜區域之間的比例,取得一第一座標參數,並經由該左鞏膜區域與該右鞏膜區域間的比例取得一第二座標參數,並將該第一座標參數及該第二座標參數所對應的該原始座標位置,標記於一平面座標圖上。
在本發明之一或更多實施例中,其中步驟(e)係將該平面座標圖上的該原始座標位置,藉由仿射轉換法轉換成對應至該螢幕座標上的該目標位置。
在本發明之一或更多實施例中,其中步驟(e)係將該平面座標圖上的該座標藉由仿射轉換法轉換成對應至該螢幕座標上的目標位置。
是以,本發明係相較於先前技術具有以下之優異功效:
1. 本發明實施例可藉由劃分鞏膜的區域,精確判斷瞳孔與鞏膜間的相對位置關係,藉此對應計算出使用者的注視方向。
2. 本發明係藉由瞳孔與鞏膜間高反差的特性,可透過簡易的配備即可判斷使用者的注視方向,於實施上可降低硬體
設備可能產生的成本。
10‧‧‧瞳孔追蹤系統
100‧‧‧輸入單元
200‧‧‧輸出單元
300‧‧‧處理單元
400‧‧‧攝影單元
500‧‧‧儲存單元
20‧‧‧瞳孔追蹤系統
502‧‧‧訓練模組
51‧‧‧標記控制器
52‧‧‧取像控制器
53‧‧‧運算器
504‧‧‧影像分析模組
505‧‧‧區域劃分模組
506‧‧‧面積處理模組
508‧‧‧座標轉換模組
509‧‧‧圖像處理模組
510‧‧‧眼部搜索模組
6‧‧‧影像
61‧‧‧臉部影像
62‧‧‧鼻孔位置
D‧‧‧鼻孔間距
R1‧‧‧眼部搜尋框
R2‧‧‧眼部搜尋框
Hr‧‧‧水平軸
V1‧‧‧垂直軸
B1‧‧‧上鞏膜區域
B2‧‧‧下鞏膜區域
C1‧‧‧左鞏膜區域
C2‧‧‧右鞏膜區域
30‧‧‧瞳孔追蹤系統
602‧‧‧影像分析模組
604‧‧‧區域劃分模組
606‧‧‧面積處理模組
608‧‧‧轉換模組
H2‧‧‧水平軸
V2‧‧‧垂直軸
A1‧‧‧鞏膜區域
A2‧‧‧鞏膜區域
A3‧‧‧鞏膜區域
A4‧‧‧鞏膜區域
80‧‧‧密碼輸入裝置
81‧‧‧手持式眼控裝置
82‧‧‧處理主機
811‧‧‧外殼
812‧‧‧窗口
813‧‧‧攝影單元
816‧‧‧螢幕
817‧‧‧反射鏡
90‧‧‧眼控電腦
91‧‧‧攝影單元
92‧‧‧螢幕
921‧‧‧密碼選單
922‧‧‧游標
93‧‧‧處理主機
圖1,本發明瞳孔追蹤系統的方塊示意圖。
圖2,本發明瞳孔追蹤方法的流程示意圖。
圖3,本發明第一實施例的方塊示意圖。
圖4,係顯示使用者的臉部影像。
圖5,本發明建立眼部搜尋框的流程示意圖。
圖6,係顯示使用者的眼部影像。
圖7,本發明仿射轉換法的示意圖。
圖8,本發明訓練程序的流程示意圖。
圖9,本發明第二實施例的方塊示意圖。
圖10,本發明眼部動作與螢幕映射的轉換示意圖。
圖11,本發明應用於接目裝置的操作示意圖。
圖12,本發明接目裝置的剖面示意圖。
圖13,本發明應用於眼控電腦的方塊示意圖。
圖14,本發明應用於眼控電腦的操作示意圖。
茲就本案之結構特徵暨操作方式,並配合圖示說明,謹述於后,俾提供審查參閱。再者,本發明中之圖式,為說明方便,其比例未必按實際比例繪製,而有誇大之情況,該等圖式及其比例非用以限制本發明之範圍。此外,在本發明被詳細描述之前,要注意的是,在以下的說明內容中,類似的元件是以相
同的編號來表示。
請參閱「圖1」,係為本發明瞳孔追蹤系統的方塊示意圖,如圖所示:瞳孔追蹤系統10可包含輸入單元100、輸出單元200、處理單元300、攝影單元400、及儲存單元500。輸入單元100可配置成將特定指令輸入至處理單元300中,以便進行處理。輸出單元200可配置成接收處理單元300之指令,以便將指令轉換成使用者可接收處理的資訊形式。處理單元300可配置成經由輸入單元100、儲存單元500、或攝影單元400接收資料、或指令等,將該等資料或指令處理後,再將處理過的資料或指令傳送至輸出單元200、或再發出指令以便自儲存單元500獲得所需資料或指令。攝影單元400可配置成將所擷取的影像資料傳送至處理單元300。較佳而言,攝影單元400可用以拍攝使用者之臉部,以產生多張連續影像並或可將之暫存於儲存單元500。儲存單元500可配置成儲存可驅動瞳孔追蹤系統10之各種程式碼、指令、或資料,以便於適當時將該等程式碼、指令或資料傳送至處理單元300。
在一或更多實施例中,輸入單元100可為鍵盤、麥克風、或觸控面板等各種可將使用者之指令傳送至處理單元300之裝置。在若干實施例中,輸入單元100亦可用以擷取影像資料。此外,在一或更多實施例中,輸出單元200可為顯示幕、螢幕、揚聲器、或任何可將指令轉換成通常生物可接收處理的資訊形式之裝置。在較佳實施例中,輸出單元200為螢幕,以顯示一指標
與使用者的瞳孔注視位置相配合。
在本實施例中,處理單元300以及儲存單元500可共同構成一電腦或處理器,例如是個人電腦、工作站、主機電腦或其他型式之電腦或處理器,在此並不限制其種類。
在本實施例中,處理單元300可耦接於儲存單元500。處理單元300例如是中央處理單元(Central Processing Unit;CPU),或是其他可程式化之一般用途或特殊用途的微處理器(Microprocessor)、數位訊號處理器(Digital Signal Processor;DSP)、可程式化控制器、特殊應用積體電路(Application Specific Integrated Circuits;ASIC)、可程式化邏輯裝置(Programmable Logic Device;PLD)或其他類似裝置或這些裝置的組合。在本實施例中,處理單元300可用以實現本發明實施例所提出的瞳孔追蹤方法。
儲存單元500可以是任何型態的固定或可移動隨機存取記憶體(random access memory;RAM)、唯讀記憶體(read-only memory;ROM)、快閃記憶體(flash memory)或類似元件或上述元件的組合。儲存單元500亦可由一或更多個可存取之非揮發性記憶構件所構成。具體而言,其可為硬碟、記憶卡,亦可為積體電路或韌體。在一或更多實施例中,儲存單元500可用以記錄攝影單元400取得的包括瞳孔的影像及統計資訊。
在本實施例中,攝影單元400可作為影像擷取裝置之一實施例,用以擷取上述包括瞳孔的影像並將影像儲存於儲存
單元500中。攝影單元400可以是任何具有電荷耦合元件(Charge coupled device;CCD)鏡頭、互補式金氧半電晶體(Complementary metal oxide semiconductor transistors;CMOS)鏡頭,或紅外線鏡頭的攝影機,亦可以是可取得深度資訊的影像擷取設備,例如是深度攝影機(depth camera)或立體攝影機。在其他實施例中,攝影單元400可與處理單元300以及儲存單元500所構成的電腦透過通用串列匯流排(Universal Serial Bus;USB)等實體線路連接,或透過有線網路或是藍芽、無線保真(Wireless Fidelity;WiFi)等無線傳輸介面連接。本發明實施例對於攝影單元400的種類並不限制。
針對本發明的主要操作流程,請一併參閱「圖2」,本發明之瞳孔追蹤系統10,係依據以下的方法將使用者的注視方向對應至螢幕上的位置:首先,先利用攝影單元400取得眼部影像(步驟S201),接續,處理單元300執行以下步驟,藉以將使用者的注視方向轉換至螢幕上的對應位置。首先,處理單元300於取得眼部影像後係定位該眼部影像上的一瞳孔位置(步驟S202)。接續,該處理單元300依據所定位之該瞳孔位置,將該眼部影像中的鞏膜劃分成複數個鞏膜區域(步驟S203),藉由該複數個鞏膜區域之面積比例,獲得一原始座標位置(步驟S204),最後,將該原始座標位置轉換成對應於一螢幕座標上的一目標位置(步驟S205)。
隨著所需配置不同,本發明之一或更多實施例中的
瞳孔追蹤系統10自所擷取的影像中搜尋眼睛、甚或瞳孔的方法亦有差異。以下詳述於若干實施例中,本發明之一或更多實施例中的瞳孔追蹤系統10搜尋眼睛或瞳孔的特定系統配置及其搜尋方法。
為實現上述的步驟,本發明係分舉二不同實施例,以詳述處理單元的具體運作方式。
請參閱「圖3」,係揭示本發明一較佳實施例的方塊示意圖。於本實施例中,處理單元300主要係配置成用以載入以下的程式,藉以偵測使用者的瞳孔注視方向,所述之程式包含有:
影像分析模組504:
影像分析模組504係用以將由攝影單元400所取得的使用者影像,擷取出使用者的眼部區域(即眼部影像),藉以確認使用者的瞳孔位置。影像分析模組504係用以針對所取得之使用者影像進行影像分析、處理、及部分特徵的擷取,更具體而言,該影像分析模組504係可針對所擷取到的圖像進行如雜訊抑制、對比調整、銳利度調整、或針對部分圖像特徵進行上色等程序。於擷取使用者瞳孔位置時,較精準的方式係針對眼部區域進行二值化處理,藉以分離虹膜區域與虹膜以外的其他眼部區域,藉由擷取虹膜的中心點,會再對該虹膜區域作一次二值化處理,可取得瞳孔位置。較佳的方式係藉由該瞳孔中心位置作為基準參考點(意即瞳孔位置),可減少誤判的可能性。
眼部搜索模組510:
眼部搜索模組510係用以由使用者的臉部影像中,藉由臉部特徵搜尋使用者的眼部影像。請一併參閱「圖4」及「圖5」,係顯示使用者的臉部影像61以及建立眼部搜尋框R1/R2的流程示意圖。首先,該攝影單元400先經由拍攝以取得使用者的影像6。該處理單元300在載入眼部搜索模組510的功能後,係針對影像6上定位眼部特徵位置,並由該影像6中搜尋影像中符合臉部特徵的臉部影像61(步驟S20),於此步驟中,係可經由擷取使用者的輪廓邊界,以判斷使用者臉部的位置,藉以分辨出使用者的臉部影像61。該處理單元300接續經由該臉部影像61中擷取出鼻孔特徵,並計算該鼻孔位置62的中心,定義該鼻孔特徵的鼻孔位置62(步驟S21),由於鼻孔特徵相較於臉部影像61中的其他區域具有較明顯的對比,相對於臉部影像61中的其他區域係為較容易辨識的參考點。接續,將該兩鼻孔位置62進行連線,藉以取得鼻孔間距D,此時,依據臉部的比例進行運算,可依據五官比例藉由鼻孔位置62向上一段距離建立一眼部搜尋框R1(R2)(步驟S22),利用眼部統計特徵由眼部搜尋框R1(R2)內擷取出該眼部影像(步驟S23)。有關於眼部搜尋框R1(R2)的建立,以下係以具體的計算流程進行說明,惟本發明並不欲限制於以下的實施例,在此先行敘明:於取得二鼻孔的位置62後,係計算取得二鼻孔間距D,並以二鼻孔的中心位置作為起算點座標A(x1,y1)。接續,於眼部搜尋框R1建立於右眼的情況,根據使用者的臉部比例,計算取得一第一基準點座標B(x2,y2),其中,x2=x1+k1×D,y2=y1+k2×D,
k1=1.6~1.8,k2=1.6~1.8,該第一基準點座標B(x2,y2)即大略落於右眼的位置,依該第一基準點座標B(x2,y2)為中心可建立右眼的眼部搜尋框R1。於眼部搜尋框R1建立於左眼的情況,根據使用者的臉部比例,計算取得一第二基準點座標C(x3,y3),其中,x3=x1-k1×D,y3=y1+k2×D,k1=1.6~1.8,k2=1.6~1.8,該第二基準點座標C(x3,y3)即大略落於左眼的位置,依該第二基準點座標C(x3,y3)為中心可建立左眼的眼部搜尋框R2。
區域劃分模組505及面積處理模組506:
區域劃分模組505配置成依據該影像分析模組504所定位之該瞳孔位置,於眼部影像中將鞏膜劃分成複數個鞏膜區域。請一併參閱「圖6」,係顯示第一實施例中使用者眼部影像的示意圖。於取得眼部影像後,該區域劃分模組505將依據該影像分析模組504所定位之該瞳孔位置作為基準定義一水平軸Hr及一垂直軸V1,該水平軸Hr係將該鞏膜分為上鞏膜區域B1、下鞏膜區域B2、依據該垂直軸V1將該鞏膜分為左鞏膜區域C1、右鞏膜區域C2。
面積處理模組506配置成用以計算該複數個鞏膜區域之面積數值,以便後續界定出該瞳孔相對於該鞏膜之相對位置。眼部影像經由該垂直軸V1及該水平軸Hr分割後,該面積處理模組506係分別計算該上鞏膜區域B1、下鞏膜區域B2、左鞏膜區域C1、右鞏膜區域C2的面積,藉以取得分別對應於B1、B2、C1、C2的面積參數。
圖像處理模組509及座標轉換模組508:
圖像處理模組509經由該左鞏膜區域C1、右鞏膜區域C2間的比例取得一第一座標參數xn=C2/C1,並經由該上鞏膜區域B1、下鞏膜區域B2的比例取得一第二座標參數yn=B2/B1,並將該第一座標參數xn及該第二座標參數yn所對應的座標標記於平面座標圖上,以此可得到於該平面座標圖上的原始座標位置D(xn,yn)。
座標轉換模組508係利用座標系統轉換方法將平面座標圖上的原始座標位置D(xn,yn)映射至螢幕上的像元矩陣(u,v)上。於本實施例中,該座標轉換模組508係可採仿射轉換法將原始座標對應地映射至螢幕上。藉此,可將使用者的注視方向轉移至螢幕上。
訓練模組502:
請參閱「圖7」及「圖8」,本系統於初始使用時,必須先由捕捉使用者眼部影像所取得之訓練參數建立資料庫,藉以透過訓練的方式記錄使用者的眼動資訊,以便使用者的注視方向與螢幕間能有更為精確的對應。該訓練模組502包含有標記控制器51、取像控制器52、以及運算器53,其訓練的流程詳述如下:於訓練程序開始時,該標記控制器51係於該螢幕上顯示第P個影像節點(於本實施例中,N=1~16),藉由該影像節點引導使用者注視相對應於螢幕上的對應位置(即像元矩陣上的位置)。(步驟S31)
當對應第P個影像節點被突顯時,該取像控制器52係分別傳遞拍攝指令至該攝影單元400,指示該攝影單元400對使用者進行拍攝(步驟S32),接續藉由影像分析模組504、區域劃分模組505、面積處理模組506、圖像處理模組509將相對應的第P個使用者注視位置的參考座標標註於平面座標圖上(步驟S33),遞迴執行上述的步驟,直到P=N(n=16)均被執行完畢時,於該平面座標圖上亦同時顯示有N個參考座標,所述的參考座標即為訓練參數。
最後,該運算器53係接收標註於平面座標圖上的所有參考座標,並確認該參考座標的分佈範圍。所述的分佈範圍將近趨於矩形,此時,可藉由仿射轉換法(affine transformation)將平面座標圖上的該參考座標映射至螢幕上相對的位置,藉以取得對應之仿射轉換係數,該仿射轉換係數係儲存於該儲存單元500,於座標轉換模組將原始座標位置D(xn,yn)轉換至螢幕上的像元矩陣(u,v)時,係存取該仿射轉換係數以將該原始座標位置D(xn,yn)代入對應的仿射公式。(步驟S34)
接續,請參閱「圖9」,係本發明第二實施例的方塊示意圖。於第二實施例中,瞳孔追蹤系統30的處理單元300主要係配置成用以載入以下的程式,藉以偵測使用者的瞳孔注視方向,所述之程式包含有:
影像分析模組602:
與第一實施例中的影像分析模組504大致相同,用
以將由攝影單元400所取得的使用者影像,擷取出使用者的眼部區域(即眼部影像),藉以確認使用者的瞳孔位置,具有影像分析、處理、及部分特徵的擷取的功能,可針對所擷取到的圖像進行如雜訊抑制、對比調整、銳利度調整、或針對部分圖像特徵進行上色等程序。
區域劃分模組604及面積處理模組606:
區域劃分模組604配置成依據該影像分析模組602所定位之該瞳孔位置,於眼部影像中將鞏膜劃分成至少四個鞏膜區域。請一併參閱「圖10」,係顯示第二實施例中使用者眼部影像的示意圖。於取得眼部影像後,該區域劃分模組604將依據該影像分析模組602所定位之該瞳孔位置作為基準,定義至少二相互間具有相同夾角的基準軸,藉由該基準軸將該鞏膜分為至少四個鞏膜區域。所述的基準軸以二為佳,相互垂直地將鞏膜劃分為四個區域,惟,依同樣的邏輯推導方式可將鞏膜分為五、六、七甚至以上的區域,於本發明中並不欲限定於將鞏膜劃分為四個區域的態樣。
於本實施例中,所述的基準軸有二,係為一水平軸H2,以及一垂直軸V2。該水平軸H2及該垂直軸V2係交會於瞳孔絕對位置上,藉此將鞏膜劃分為四個鞏膜區域A1、A2、A3、A4。
面積處理模組606配置成計算該鞏膜區域之面積,以便後續界定出該瞳孔相對於該鞏膜之相對位置。眼部影像經由
該垂直軸V2及該水平軸H2分割後,該面積處理模組係分別計算經劃分後的四個鞏膜區域A1、A2、A3、A4的面積,藉以取得分別對應於鞏膜區域A1、A2、A3、A4的面積參數。
轉換模組608:
轉換模組608,配置成將該瞳孔之相對位置轉換成該瞳孔對應於螢幕上的座標位置。該轉換模組608係可藉由劃分過後的鞏膜的四個鞏膜區域A1、A2、A3、A4間的相對面積,取得瞳孔的注視方向,以及位於螢幕上的相對應位置。
請參閱「圖10」,依據使用者瞳孔絕對位置的不同,以下係表列四個鞏膜區域A1、A2、A3、A4與螢幕位置間的對應關係:
依據上述的表格對應關係再計算面積比例,即可準確地判斷眼部注視位置相對於螢幕上的對應位置,無須經由校正
及訓練程序。該轉換模組608係經由以下的演算方法取得眼部注視方向相對於螢幕上的對應位置:首先,該轉換模組608係取得區域面積和(A1+A3)與區域面積和(A2+A4)間的比例,並藉由該比例取得相對於眼球中心位置的一水平位移參數Hn;同時,取得區域面積和(A1+A2)與區域面積和(A3+A4)間的比例,並藉由該比例取得相對於眼球中心位置的一垂直位移參數Vn,藉此,該四鞏膜區域面積間的比例可組成一二維向量V(Hn,Vn)。所取得的二維向量V(Hn,Vn)經由矩陣(透過訓練或是大量實驗數據)轉換後將取得真實空間向量。計算該真實空間向量分別除以螢幕像元矩陣單一像元水平方向的寬Hu,以及螢幕像元矩陣單一像元垂直方向的長Vu係對應至單一像元的長,即可計算出像元矩陣上所對應的像素。
請一併參閱「圖11」及「圖12」,係顯示本發明應用於手持式眼控裝置81上的實施例。本發明係可應用於一具備手持式眼控裝置81的密碼輸入裝置80上。該密碼輸入裝置80主要包含有一手持式眼控裝置81,以及一訊號連接至手持式眼控裝置81以及保全設備的處理主機82。該手持式眼控裝置81可供使用者手持使用並覆蓋於使用者眼部,藉以進行密碼輸入程序。該手持式眼控裝置81主要包含有一顯示密碼選單的螢幕816,以及一拍攝該使用者眼部以取得眼部影像的攝影單元813。處理主機82係用以接收並分析攝影單元813所取得之眼部影像,以獲得該使用者透過眼部動作所輸入之一輸入密碼串,並比對該輸入密碼串與一預設之安全密碼。當處理主機82比對該輸入密碼串及該預設
之安全密碼,確認兩者相符時,係產生一驗證成功指令並傳送至該保全設備以開啟保險櫃。
有關於接目裝置的內部結構,請參閱「圖13」,該手持式眼控裝置81的結構主要包含有一外殼811、一反射鏡817、以及設置於外殼811內的前述螢幕816及攝影單元813。該外殼811具有一窗口812,供該使用者注視,使用者於手持該外殼811時可透過該窗口812進行密碼輸入程序,反射鏡817係設置於螢幕816及窗口812之間,可透過反射鏡817將螢幕816上的密碼選單反射至該窗口812,以供該使用者注視。該攝影單元813係設置於該窗口812附近,當該使用者透過該窗口812注視該密碼選單時,該攝影單元813拍攝該使用者眼部,以取得眼部影像。
請一併參閱「圖13」及「圖14」,係顯示本發明應用於眼控電腦90上的實施例。本發明係可應用於眼控電腦90上,用以連結於保全設備,藉以管控門禁系統。該眼控電腦90主要包含有一螢幕92,一攝影單元91,以及一訊號連接至該螢幕92、該攝影單元91、及該保全設備的處理主機93。該螢幕92主要係用於顯示密碼選單921,以供使用者輸入相應的密碼。該攝影單元91係連續拍攝使用者的影像。該處理主機93係用以接收並分析攝像單元91所取得之影像,並由該影像中擷取出使用者的眼部影像,可判斷使用者的眼部動作藉以控制螢幕92上的游標922,以獲得該使用者所輸入之一輸入密碼串,並比對該輸入密碼串與一預設之安全密碼。當處理主機93比對該輸入密碼串及該預設之安
全密碼,確認兩者相符時,係產生一驗證成功指令並傳送至該保全設備以開啟門鎖。
綜上所述,本發明實施例可藉由劃分鞏膜的區域,精確判斷瞳孔與鞏膜間的相對位置關係,藉此對應計算出使用者的注視方向。再者,本發明係藉由瞳孔與鞏膜間高反差的特性,可透過簡易的配備即可判斷使用者的注視方向,於實施上可降低硬體設備可能產生的成本。
惟以上所述者,僅為本發明之較佳實施例而已,當不能以此限定本發明實施之範圍,即大凡依本發明申請專利範圍及發明說明內容所作之簡單的等效變化與修飾,皆仍屬本發明專利涵蓋之範圍內。
20‧‧‧瞳孔追蹤系統
100‧‧‧輸入單元
200‧‧‧輸出單元
300‧‧‧處理單元
400‧‧‧攝影單元
500‧‧‧儲存單元
502‧‧‧訓練模組
51‧‧‧標記控制器
52‧‧‧取像控制器
53‧‧‧運算器
504‧‧‧影像分析模組
505‧‧‧區域劃分模組
506‧‧‧面積處理模組
508‧‧‧座標轉換模組
509‧‧‧圖像處理模組
510‧‧‧眼部搜索模組
Claims (17)
- 一種瞳孔追蹤方法,包含:(a)利用一攝影單元取得一眼部影像;(b)定位該眼部影像上的一瞳孔位置;(c)依據該瞳孔位置,將該眼部影像中之一鞏膜劃分成複數個鞏膜區域;(d)依據複數個該鞏膜區域之面積比例,獲得一原始座標位置;以及(e)將該原始座標位置轉換成對應於一螢幕座標上的一目標位置。
- 如請求項1之瞳孔追蹤方法,其中步驟(a)係依據以下方式由該攝影單元取得該眼部影像:搜尋一影像中符合臉部特徵的一臉部影像;經由該臉部影像擷取出一鼻孔特徵,並定義該鼻孔特徵的一鼻孔位置;以該鼻孔位置為基礎,依據一五官比例,建立一眼部搜尋框;以及於該眼部搜尋框內擷取出該眼部影像。
- 如請求項1之瞳孔追蹤方法,其中步驟(c)係依據該瞳孔位置作為基準,定義至少二個基準軸,藉由該基準軸將該鞏膜分為至 少四個該鞏膜區域。
- 如請求項3之瞳孔追蹤方法,其中步驟(d)係依據至少四個該鞏膜區域之面積比例關係,定義該原始座標位置。
- 如請求項1之瞳孔追蹤方法,其中步驟(c)係依據該瞳孔位置作為基準,定義一水平軸及一垂直軸,依據該水平軸將該鞏膜分為一上鞏膜區域與一下鞏膜區域,並依據該垂直軸將該鞏膜分為一左鞏膜區域與一右鞏膜區域。
- 如請求項5之瞳孔追蹤方法,其中步驟(d)係經由該上鞏膜區域與該下鞏膜區域之間的比例,取得一第一座標參數,並經由該左鞏膜區域與該右鞏膜區域間的比例取得一第二座標參數,並將該第一座標參數及該第二座標參數所對應的該原始座標位置,標記於一平面座標圖上。
- 如請求項6之瞳孔追蹤方法,其中步驟(e)係將該平面座標圖上的該原始座標位置,藉由仿射轉換法轉換成對應至該螢幕座標上的該目標位置。
- 一種瞳孔追蹤系統,包含:一攝影單元,用以取得一眼部影像;以及 一處理單元,連接於該攝影單元,該處理單元係定位該眼部影像上之一瞳孔位置,並依據該瞳孔位置,將該眼部影像上之一鞏膜劃分成複數個鞏膜區域,藉由複數個該鞏膜區域之面積比例,獲得一原始座標位置,並將該原始座標位置轉換成一螢幕座標上的一目標位置,藉此計算使用者的注視方向。
- 如請求項8之瞳孔追蹤系統,其中該處理單元係配置成用以載入並執行下述程式,該程式包含:影像分析模組,配置成定位該眼部影像中之該瞳孔位置;區域劃分模組,配置成依據該影像分析模組所定位之該瞳孔位置,將該鞏膜劃分成至少四個該鞏膜區域;面積處理模組,配置成經由該眼部影像計算至少四個該鞏膜區域之面積大小;圖像處理模組,配置成藉由至少四個該鞏膜區域之面積比例關係,定義該原始座標位置;以及座標轉換模組,配置成將該原始座標位置轉換成對應於該螢幕座標上的目標位置。
- 如請求項9之瞳孔追蹤系統,其中該區域劃分模組係依據該影像分析模組所定位之該瞳孔位置作為基準定義一水平軸及一垂直軸,並依據該水平軸將該鞏膜分為一上鞏膜區域與一下鞏膜區域,並依據該垂直軸將該鞏膜分為一左鞏膜區域以及一右鞏 膜區域。
- 如請求項10之瞳孔追蹤系統,其中該圖像處理模組係經由該上鞏膜區域與該下鞏膜區域間的比例,取得一第一座標參數,並經由該左鞏膜區域與該右鞏膜區域間的比例取得一第二座標參數,並將該第一座標參數及該第二座標參數所對應的該原始座標位置標記於一平面座標圖上。
- 如請求項11之瞳孔追蹤系統,其中該座標轉換模組將該平面座標圖上的該原始座標位置藉由仿射轉換法轉換成對應至該螢幕座標上的目標位置。
- 如請求項8之瞳孔追蹤系統,其中該處理單元係配置成用以載入並執行下述程式,該程式包含:影像分析模組,配置成定位該眼部影像中之瞳孔位置;區域劃分模組,配置成依據該影像分析模組所定位之該瞳孔位置,將該鞏膜劃分成至少四個該鞏膜區域;面積處理模組,配置成經由該眼部影像計算至少四個該鞏膜區域之面積大小;轉換模組,配置成藉由至少四個該鞏膜區域之面積大小,界定出該瞳孔相對於該鞏膜之相對位置,並將該瞳孔之相對位置轉換成該瞳孔對應於該螢幕座標上的目標位置,藉此計算使 用者的注視方向。
- 如請求項13之瞳孔追蹤系統,其中該區域劃分模組係依據該影像分析模組所定位之該瞳孔位置作為基準定義至少二相互間具有相同夾角的基準軸,藉由該基準軸將該鞏膜分為至少四個該鞏膜區域。
- 如請求項13之瞳孔追蹤系統,其中該轉換模組依據至少四個該鞏膜區域面積間的比例關係,定義該瞳孔與該鞏膜間的該瞳孔相對位置。
- 一種電腦可讀取紀錄媒體,當電腦載入該媒體並執行後,可執行請求項1至7其中任一項所述之方法。
- 一種電腦程式產品,該電腦程式產品被載入一電腦中執行,可完成請求項1至7其中任一項所述之方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW104135772A TWI557601B (zh) | 2015-10-30 | 2015-10-30 | 瞳孔追蹤系統及其方法、電腦程式產品、及電腦可讀取紀錄媒體 |
CN201510900433.7A CN106618479B (zh) | 2015-10-30 | 2015-12-09 | 瞳孔追踪系统及其方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW104135772A TWI557601B (zh) | 2015-10-30 | 2015-10-30 | 瞳孔追蹤系統及其方法、電腦程式產品、及電腦可讀取紀錄媒體 |
Publications (2)
Publication Number | Publication Date |
---|---|
TWI557601B true TWI557601B (zh) | 2016-11-11 |
TW201715342A TW201715342A (zh) | 2017-05-01 |
Family
ID=57851552
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW104135772A TWI557601B (zh) | 2015-10-30 | 2015-10-30 | 瞳孔追蹤系統及其方法、電腦程式產品、及電腦可讀取紀錄媒體 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN106618479B (zh) |
TW (1) | TWI557601B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI645366B (zh) * | 2016-12-13 | 2018-12-21 | 國立勤益科技大學 | Image semantic conversion system and method applied to home care |
US10474231B2 (en) | 2017-08-16 | 2019-11-12 | Industrial Technology Research Institute | Eye tracking apparatus and method thereof |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107451547A (zh) * | 2017-07-17 | 2017-12-08 | 广东欧珀移动通信有限公司 | 识别活体的方法及相关产品 |
TWI672957B (zh) | 2018-03-29 | 2019-09-21 | 瑞昱半導體股份有限公司 | 影像處理裝置及影像處理方法 |
TWI704501B (zh) * | 2018-08-09 | 2020-09-11 | 宏碁股份有限公司 | 可由頭部操控的電子裝置與其操作方法 |
CN114546118B (zh) * | 2022-02-21 | 2024-08-20 | 国网河北省电力有限公司保定供电分公司 | 一种基于vr技术的安全提示方法、装置、介质以及设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201035813A (en) * | 2009-03-27 | 2010-10-01 | Utechzone Co Ltd | Pupil tracking method and system, and correction method and correction module for pupil tracking |
CN101930543A (zh) * | 2010-08-27 | 2010-12-29 | 南京大学 | 一种自拍视频中眼睛图像的调正方法 |
US20130120712A1 (en) * | 2010-06-19 | 2013-05-16 | Chronos Vision Gmbh | Method and device for determining the eye position |
TW201533609A (zh) * | 2014-02-20 | 2015-09-01 | Utechzone Co Ltd | 以輔助燈光相對位置為基礎之瞳孔定位方法、其系統以及其電腦程式產品 |
-
2015
- 2015-10-30 TW TW104135772A patent/TWI557601B/zh active
- 2015-12-09 CN CN201510900433.7A patent/CN106618479B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201035813A (en) * | 2009-03-27 | 2010-10-01 | Utechzone Co Ltd | Pupil tracking method and system, and correction method and correction module for pupil tracking |
US20130120712A1 (en) * | 2010-06-19 | 2013-05-16 | Chronos Vision Gmbh | Method and device for determining the eye position |
CN101930543A (zh) * | 2010-08-27 | 2010-12-29 | 南京大学 | 一种自拍视频中眼睛图像的调正方法 |
TW201533609A (zh) * | 2014-02-20 | 2015-09-01 | Utechzone Co Ltd | 以輔助燈光相對位置為基礎之瞳孔定位方法、其系統以及其電腦程式產品 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI645366B (zh) * | 2016-12-13 | 2018-12-21 | 國立勤益科技大學 | Image semantic conversion system and method applied to home care |
US10474231B2 (en) | 2017-08-16 | 2019-11-12 | Industrial Technology Research Institute | Eye tracking apparatus and method thereof |
Also Published As
Publication number | Publication date |
---|---|
CN106618479A (zh) | 2017-05-10 |
TW201715342A (zh) | 2017-05-01 |
CN106618479B (zh) | 2018-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI557601B (zh) | 瞳孔追蹤系統及其方法、電腦程式產品、及電腦可讀取紀錄媒體 | |
TWI751161B (zh) | 終端設備、智慧型手機、基於臉部識別的認證方法和系統 | |
US11829523B2 (en) | Systems and methods for anatomy-constrained gaze estimation | |
JP6809226B2 (ja) | 生体検知装置、生体検知方法、および、生体検知プログラム | |
US9489574B2 (en) | Apparatus and method for enhancing user recognition | |
CN110123257A (zh) | 一种视力检测方法、装置、视力检测仪及计算机存储介质 | |
JP6265592B2 (ja) | 顔特徴抽出装置および顔認証システム | |
WO2016089529A1 (en) | Technologies for learning body part geometry for use in biometric authentication | |
WO2020048535A1 (zh) | 头戴式显示设备解锁方法及装置 | |
JP2016173313A (ja) | 視線方向推定システム、視線方向推定方法及び視線方向推定プログラム | |
EP4095744A1 (en) | Automatic iris capturing method and apparatus, computer-readable storage medium, and computer device | |
JP6822482B2 (ja) | 視線推定装置、視線推定方法及びプログラム記録媒体 | |
KR101978548B1 (ko) | 안구 움직임 측정을 통한 어지럼 진단 서버, 방법, 및 이를 기록한 기록매체 | |
JP2020526735A (ja) | 瞳孔距離測定方法、装着型眼用機器及び記憶媒体 | |
CN106462738B (zh) | 用于构建个人的面部的模型的方法、用于使用这样的模型分析姿态的方法和设备 | |
TW201704934A (zh) | 用於眼部追蹤的校正模組及其方法及電腦可讀取紀錄媒體 | |
TW200947262A (en) | Non-contact type cursor control method using human eye, pupil tracking system and storage media | |
US20200098136A1 (en) | Information processing device, information processing method, and program | |
CN112907571A (zh) | 基于多光谱图像融合识别的目标判定方法 | |
Perra et al. | Adaptive eye-camera calibration for head-worn devices | |
JP2019046239A (ja) | 画像処理装置、画像処理方法、プログラム及び合成用画像データ | |
Cao et al. | Gaze tracking on any surface with your phone | |
JP4682372B2 (ja) | 視線方向の検出装置、視線方向の検出方法およびコンピュータに当該視線方向の検出方法を実行させるためのプログラム | |
US10036902B2 (en) | Method of determining at least one behavioural parameter | |
WO2024113275A1 (zh) | 凝视点获取方法和装置、电子设备和存储介质 |