JP2009514090A - 視覚的フィードバックを有するアイトラッカー - Google Patents

視覚的フィードバックを有するアイトラッカー Download PDF

Info

Publication number
JP2009514090A
JP2009514090A JP2008537646A JP2008537646A JP2009514090A JP 2009514090 A JP2009514090 A JP 2009514090A JP 2008537646 A JP2008537646 A JP 2008537646A JP 2008537646 A JP2008537646 A JP 2008537646A JP 2009514090 A JP2009514090 A JP 2009514090A
Authority
JP
Japan
Prior art keywords
display
processing module
control
point
cursor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008537646A
Other languages
English (en)
Other versions
JP4961432B2 (ja
Inventor
ボウビン,ヨーハン
ルネモ,パー
Original Assignee
トビイ テクノロジー アーベー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トビイ テクノロジー アーベー filed Critical トビイ テクノロジー アーベー
Priority claimed from PCT/SE2006/050411 external-priority patent/WO2007050029A2/en
Publication of JP2009514090A publication Critical patent/JP2009514090A/ja
Application granted granted Critical
Publication of JP4961432B2 publication Critical patent/JP4961432B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements

Abstract

本発明は、コンピュータに関連付けられたグラフィックディスプレイ上でのアイトラッカーが検出する注視点(130)の移動シーケンスに応じて制御コマンドのコンピュータへの入力に関する。コンピュータの処理モジュールは、ディスプレイに、入力された制御コマンドを視覚的に確認するグラフィカルなフィードバック情報をデータ操作ウィンドウ(220a)の形で提示させる。データ操作ウィンドウ(220a)はディスプレイ上の有効制御対象(220A)に相対的な位置に、ウィンドウの中心点が有効制御対象の中心点から比較的小さなオフセット距離で位置するように提示される。ウィンドウ(220a)は、現在アイトラッカーに制御された制御コマンドの入力対象であるディスプレイの有効部分(210)の印であるグラフィカルな情報を含む。さらに、ウィンドウ(220a)の情報はアイトラッカーに制御された制御コマンドの入力に応じて繰り返し更新される。

Description

本発明は、視覚的フィードバック情報がアイトラッカーの動作中にユーザに対して提示される自動アイトラッキングに関する。より具体的には、本発明は、請求項1のプリアンブルにかかるシステムおよび請求項13のプリアンブルにかかる方法に関する。本発明は、また、請求項25にかかるコンピュータプログラムおよび請求項26にかかるコンピュータ読取可能な媒体に関する。
アイトラッキングの概念は、当該技術分野においては周知であり、自動視線検出を実現するために多数の異なる技術が開発されてきた。押し付けがましくない遠隔アイトラッキングの分野では、いわゆる瞳孔中心膜反射(PCCR:pupil center corneal reflection)方法に基づく構成が最も一般的に用いられており、この方法は目の位置と視線の方向を判断することを可能とする。したがって、例えばコンピュータディスプレイ上の注視点を推定することが可能となり、このような推定に基づいてユーザがコンピュータにコマンドを入力することができる。
しかしながら、既知の視線制御によるソリューションは、ユーザのコンピュータとのインタラクションを十分に満足させることができないことが多い。一般的な問題のひとつに、視線制御可能な入力インターフェースは、大変に敏感な感覚器官であるユーザの目に比較的激しい運動課題を与えることになることである。このことは、ユーザの疲労症状および不快感につながることがある。別の問題として、身体が不自由であるユーザには、十分に高い精度でユーザの視線を制御して要望どおりにコンピュータを制御することが難しいかもしれないことである。言うまでもなく、この問題は視線制御可能なスクリーンオブジェクトが小さい場合にとりわけ顕著となる。加えて、ユーザが非常に高い精度でユーザの視線を制御することができるとしても、アイトラッキング装置が不完全であることによりディスプレイ上の推定注視点について測定エラーが生じることがある。マン−マシン・インターフェースを改善するために、米国特許第6,152,563号は、操作に先立つ期間にオブジェクトの選択を視覚的に確認するためにいわゆる崩壊シンボルを選択されたウィンドウオブジェクト上に表示することを提案する。したがって、ユーザはそのオブジェクトが有効である限りにおいては操作の前に間違った選択を中止することができる。この特許は、また、特定のオンスクリーンオブジェクトへのユーザの視線固定の精度を高めるためにズームウィンドウの使用を提案する。
しかしながら、ユーザの注視点を適切に推定することが難しいだけではない。アイトラッキングにおける別のジレンマとして、ユーザにとってオンスクリーンオブジェクトの選択を達成すること、またはその他の手段によってコンピュータ制御動作を開始することが困難である場合があることである。視線制御インターフェースを介してコンピュータにユーザの目的を表現することは、多くの理由から困難である。主要な問題のひとつとして、目は運動課題ではなく認識のためにあるものであり、したがってユーザが情報をディスプレイに登録するが制御コマンドの生成に関心がないときも視線は移動することがある。滞留時間、すなわちユーザがスクリーン上のオブジェクトに視線を固定する間の時間を、ユーザのあるオブジェクトを操作する意図を表現するために用いることもある。この取り組みの問題点は、インタラクション過程が比較的遅くなり、ユーザをいらだたせる可能性がある。まばたきの形での確認コマンドは処理を実質的にスピードアップする。しかしながら、人間のまばたきは意図せず起こることが多く、したがってユーザが多数の不要な制御コマンドを生成する可能性もある。言うまでもなく、物理的なボタンまたはキーは、より信頼性のある確認手段である。しかし、そのようなボタン/キーの操作ができないユーザにはこのオプションはない。音声認識インターフェースを介した確認も代替案であるが、信頼性はより低く、身体障害、または騒音などシステムが用いられる環境要因から、ユーザにとってはやはり有効なオプションではない。
人間の視線パターンにはいわゆるサッカードが含まれ、これは、視線のある点から他の点への高速運動を表す。これらの運動は、眼振患者をのぞいては不随意であることはほとんどない。しかしながら、視線制御可能な入力インターフェースを介したデータまたはコマンドを入力にサッカードを用いることは、他の理由から問題が多い。すなわち、サッカードが特定のオンスクリーンオブジェクトについての機能を有効化する場合、通常サッカード自体がユーザがそのオブジェクトを少なくとも直接的にはもう見ていないことを意味する。そのため、さらにオブジェクトを視線制御操作することは、不可能ではないにしても非常に困難となる。ここでも、視線制御可能な入力インターフェースによる運動および認識課題が組み合わさって目に与えられることに関する問題がある。
カーソルシンボルは、一般的にコンピュータとのインタラクションの際の制御に重要なオブジェクトである。しかしながら、これも簡単ではない。すなわち、網膜の解像度が最も高い部分では、角膜斑(または黄斑)は1度の視野に等しい直径を判断する。したがって、人間はこの判断による精度、すなわち1度未満以上に高い精度でユーザの視線を向ける必要がない。したがって、アイトラッカーの精度の高さにかかわらず、ユーザの視線とオンスクリーンカーソルシンボルの完璧なマッチは達成することができない。そのかわりに、推定注視点に応じて直接的に制御されるカーソルシンボルは、人間のユーザにとってはエラーとして認識されるであろう不自然な結果となる。にもかかわらず、米国特許第6,637,883号は、ユーザの視線の注視点にビデオスクリーンポインターを表示するアイトラッキングシステムを記載する。精度を高めるために、目の運動を登録するカメラは、ここではユーザが着用するメガネに配されている。当然ながら、これはフィッティングと快適さという別の問題を引き起こす。
推定注視点に応じてカーソルシンボルを制御する代わりに、相対的なカーソル制御が通常は好ましい。すなわち、スクリーン上の上下左右各方向についての特定の制御手段の操作によりカーソルが間接的に動かされるソリューションである。しかしながら、そのような制御手段に注視点を置くと、ユーザは制御対象のカーソルシンボルを見ることはできない。
米国特許第6,204,828号は、統合された注視/操作カーソル位置決めシステム開示する。このシステムは、視線信号と手動入力を統合することによりオペレータのカーソル配置を支援する。操作機器の機械的な起動が検知されると、オペレータの現在の視線エリアに対してあらかじめ決められた初期位置にカーソルが配置される。したがって、ユーザーフレンドリーなカーソル機能を達成することができるが、視線信号に基づくカーソルベースのコマンドをコンピュータに入力することはできない。
米国特許出願第2005/0047629号公報には、機械的な入力デバイスの起動時に、ユーザの視線が向けられているスクリーンの領域が拡大し、この領域内でのオブジェクト選択が容易になるソリューションが記載されている。注視点からの範囲のすぐ外に位置するコンポーネントは、この拡大と関連して収縮および/または転移させられる。そして、従来のマウスなどの機械的な入力デバイスは選択コマンドをもたらすために当該領域へのグラフィカルなポインターを制御するのに用いられる。にもかかわらず、この戦略も、機械的な入力デバイスが必要となるために問題が多く、また視線制御可能なインターフェースについて可能性のある位置は1つのみ与えられるので、1種類以上の視線制御信号を有するというオプションはない。したがって、柔軟性が比較的低い。
したがって、本発明の目的は、上記の問題を軽減しユーザのディスプレイ上のイベントを制御する能力を損なうことなく適切な情報フィードバックをユーザに与えることができる、効率的で信頼性の高いユーザーフレンドリーなアイトラッカーソリューションを提供することである。
本発明の一様態によれば、この目的は、先に述べたようなシステムにより実現され、処理モジュールは、前記少なくとも1個の制御コマンドのいずれかについての有効化ゾーンに対して前記注視点の前記移動シーケンスが有効化基準を満たすか否かを調べるよう構成される。処理モジュールがそのような基準が満たされると見出すと、モジュールは、データ操作ウィンドウを、前記ディスプレイ上の有効制御対象に対する位置に、前記ウィンドウの中心点が前記有効制御対象の中心点から比較的小さいオフセット距離で位置するように提示する。例えば、データ操作ウィンドウは、ディスプレイ上の有効制御対象に提示されてもよい。しかしながら、有効制御対象のすぐ近くまたは部分的に重なるようなウィンドウ位置も同様に考えることができる。ウィンドウは、少なくともユーザが積極的に有効制御対象とデータ操作ウィンドウの両方を同時に見ることができるように配置される。データ操作ウィンドウは、現在アイトラッカーに制御された制御コマンドの入力対象である前記ディスプレイの有効部分の印であるグラフィカルな情報を含む。処理モジュールは、また、前記アイトラッカーに制御された制御コマンドの入力に応じて前記データ操作ウィンドウの情報を繰り返し更新するよう構成される。
本システムの重要な利点のひとつに、ユーザが視線を制御対象に集中しつつ操作対象についての適切な情報を取得するということがある。これにより、効率的かつ快適なマン−マシンインタラクションが保証される。
本発明の本様態の好適な一実施形態によれば、前記処理モジュールは、前記有効化ゾーンに対する前記注視点の前記移動シーケンス、例えば固定とスムーズな追跡とに基づいて前記有効制御対象(を判断するよう構成される。しかしながら、好ましくは、登録された注視点の有効化ゾーンからの第1のサッカードが有効制御対象を示す。したがって、有効制御対象は、非常に直感的かつユーザーフレンドリーな方法で識別される。
本発明の本様態の好適な別の実施形態によれば、前記少なくとも1個の制御コマンドは、前記ディスプレイに対するカーソルシンボルのナビゲーション方向、前記ディスプレイ上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示の回転、前記ディスプレイ上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示の色変更、および/または前記ディスプレイ上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示のテクスチャ修正を表す。したがって、提案されたインターフェースを介して可能となる操作の点ではかなりの自由度が与えられる。
本発明の本様態の好適なさらに別の実施形態によれば、制御コマンドは、具体的には、前記ディスプレイに対するカーソルシンボルのナビゲーション方向を表すと考えられる。ここで、前記処理モジュールは、前記有効化ゾーンに対する第1のサッカードからナビゲーション方向を区別し、前記ディスプレイ上でカーソルシンボル(を前記ナビゲーション方向に一致して動かすよう構成される。これにより、非常に効率的な相対的カーソル制御機能が備わることがわかっている。
本発明の本様態の好適なさらに別の実施形態によれば、前記処理モジュールは、1セットの制御対象を前記ディスプレイに提示するよう構成され、前記セットの各制御対象は情報エリアに対するそれぞれのカーソルシンボルのナビゲーション方向を示すよう構成される。例えば、第1制御対象は右方向カーソルシンボル運動を示すよう構成され、第2制御対象は下方向カーソルシンボル運動を示すよう構成されてもよい、などである。これにより、堅固で信頼性のある制御インターフェースがユーザに提示される。
本発明の本様態の好適な第1の実施形態によれば、前記処理モジュールは、前記制御対象のセットを当該セットが前記ナビゲーション方向に一致して徐々に前記ディスプレイ上を動くような方法で前記ディスプレイに提示するよう構成される。加えて、前記処理モジュールは、前記ディスプレイ上で前記カーソルを前記ナビゲーション方向に一致して動かすよう構成される。このアイトラッキングに基づくカーソルシンボル制御は、一般的に、できる限り最大の有効ディスプレイ領域が望まれる場合に好ましい。
本発明の本様態の好適な第2の実施形態によれば、前記処理モジュールは、前記ディスプレイ上の固定位置に前記制御対象のセットを提示し、前記ディスプレイ上で前記カーソルシンボルを前記ナビゲーション方向に一致して動かすよう構成される。これにより、この運動を視覚的に登録しつつカーソルシンボル位置に影響を与える代替的な視線制御可能な手段がユーザに提供されり。これは、ディスプレイ領域全体がペイロードデータに必要ではない用途において望ましいことがある。
本発明の本様態の好適な別の実施形態によれば、ディスプレイ上の情報エリアは例えばテキストを現わす編集可能なシンボルを提示すると考えられる。ここで、前記処理モジュールは、前記ディスプレイ上に提示されるソフトウェアキーボードのGUIコンポーネントを視覚的に現わす多数のオンスクリーンオブジェクトにわたる前記注視点の移動シーケンスに基づいて少なくとも1個の追加シンボルを判断するよう構成される。処理モジュールは、さらに、前記情報エリア内の前記シンボルに前記少なくとも1個の追加シンボルを補完するよう構成される。したがって、ユーザは、コンピュータ装置に効率的にテキストを入力することができる。
本発明の本様態の好適なさらに別の実施形態によれば、前記処理モジュールは、前記注視点が削除キーを現わす有効制御対象に対する有効化基準を満たすかどうかを調べるよう構成される。その基準が満たされると、前記処理モジュールは、前記編集可能なシンボルから前記シンボルのサブセットを削除するよう構成される。これにより、ユーザは、また、コンピュータ装置に格納された既存のテキストを便利に編集することができる。
本発明の本様態の好適なさらに別の実施形態によれば、前記制御対象のセットは単一の制御対象を含む。ここで、前記処理モジュールは、前記有効化ゾーンの外の第1のサッカードのターゲット位置を判断するよう構成される。前記処理モジュールは、前記ターゲット位置に前記単一の制御対象を提示するよう構成される。ここでも、前記単一の制御対象はデータ操作ウィンドウを含む。上記と同様に、前記処理モジュールは、前記ディスプレイ上で前記カーソルシンボルを前記第1のサッカードにより表現されるナビゲーション方向に一致して動かすよう構成される。この構成により、第1のサッカードのあとでユーザの注視点を移動させる必要なくユーザが所望のカーソルナビゲーションを実現することができるため、望ましい。さらに、ナビゲーション方向は自由に選択してよい。
本発明の本様態の好適なさらなる実施形態によれば、前記処理モジュールは、前記注視点が前記有効制御対象に対する無効化基準を満たすかどうかを調べるよう構成される。処理モジュールがそのような基準が満たされると見出すと、モジュールは、この有効制御対象を無効化するよう構成される。通常、この無効化は完了操作に等しいか、および/または別の操作が必要となる。
本発明の別の様態によれば、この目的は、先に述べたような方法により実現され、少なくとも1個の制御コマンドのいずれかについての有効化ゾーンに対して前記注視点の前記移動シーケンスが有効化基準を満たすか否かを調べられる。そのような基準が満たされると、方法はデータ操作ウィンドウの提示を含み、このデータ操作ウィンドウは、前記ディスプレイ上の有効制御対象に対する位置に前記ウィンドウの中心点が前記有効制御対象の中心点から比較的小さいオフセット距離で位置する。また、このウィンドウは、現在アイトラッカーに制御された制御コマンドの入力対象である前記ディスプレイの有効部分の印であるグラフィカルな情報を含む。加えて、この方法は、アイトラッカーに制御された制御コマンドの入力に応じてデータ操作ウィンドウの情報を繰り返し更新することを含む。
本方法の利点およびその好適な実施形態は、提案されたシステムに関して上で論じられたことから明らかである。
本発明のさらなる様態によれば、この目的はコンピュータプログラムにより実現され、このプログラムはコンピュータの内部メモリに直接ロード可能であり、コンピュータ上で前記プログラムが実行されると上記の方法を制御するソフトウェアを含む。
本発明の別の様態によれば、この目的は、プログラムが記録されたコンピュータ読取可能な媒体により実現され、前記プログラムはコンピュータを制御して上記の方法を実行させる。
本発明の更なる利点、有利な特徴および用途は、以下の詳細な説明および従属請求項から明らかとなる。
以下、添付の図面を参照して、例として開示される好適な実施形態により本発明をさらに詳細に説明する。
まず、本発明の一実施形態にかかるアイトラッキングシステムの模式図を示す図1を参照する。このシステムは、コンピュータ装置140とこれに関連付けられたグラフィックディスプレイ150を備える。コンピュータ装置140はディスプレイ150上に少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示を提示するものとし、この少なくとも1個のGUIコンポーネントはアイトラッカー手段からのコマンドに応じて制御可能である。
アイトラッカー手段は、例えばビデオカメラなどの撮像装置160を含む。好ましくは、アイトラッカー手段は、また、1つ以上の光源、例えば撮像装置160の光軸の比較的近傍に位置する第1光源セット170と、撮像装置160の光軸の比較的遠方に位置する第2光源セット181および182とを含む。これにより、ユーザ100の目101および102の明るい瞳孔(BP)PCCRトラッキングおよび暗い瞳孔(DP)PCCRトラッキングの両方が可能となる。いずれにしても、アイトラッカー手段は、ディスプレイ150上のユーザ100の注視点130を繰り返し判断するよう構成される。
アイトラッカー手段は、さらに、ディスプレイ150上の注視点130の移動シーケンスに応じてコンピュータ装置140に制御コマンドを入力するよう構成される。このため、アイトラッカー手段はコンピュータ装置140の一部であってもよい処理モジュール145を含む。処理モジュール145は、アイトラッキングデータDを受け取り、そこから制御コマンドを抽出するよう構成される。処理モジュール145は、また、ディスプレイ150上に提示して入力された制御コマンドを視覚的に確認するためのグラフィカルなフィードバック情報DFBを生成するよう構成される。
本発明によれば、処理モジュール145は、さらに、データ操作ウィンドウがディスプレイ150上に提示されるように構成されている。このウィンドウには、これに基づいてコンピュータ装置140にアイトラッカーが生成する制御コマンドが入力されるオブジェクトを含むディスプレイ150上の部分の印であるグラフィカルな情報が含まれる。これは、データ操作ウィンドウは、有効部分210内にグラフィカルなデータの重複情報、このデータを模式的に現わすアイコン、またはデータを明白に表すその他の画像を含むことを意味する。提示および制御手続きの詳細については、以下に図2から図9を参照して詳細に論じる。
図2aは、図1のディスプレイ150の画像エリアのサブセクション200を示す。サブセクション200は、1セットの制御対象220A、220B、220C、220Dを含み、これらはそれぞれデータ操作ウィンドウ220a、220b、220c、220dを提示するよう構成される。好ましくは、セットの各オブジェクトは、ディスプレイ150上の情報エリアに対するカーソルシンボルについてそれぞれのナビゲーション方向、例えば右方向、下方向、左方向、上方向をそれぞれ示すよう構成される。しかしながら、好ましくは、任意の瞬間においてそのようなデータ操作ウィンドウを提示する制御対象は1つであり、また、アイトラッカーに制御された制御コマンドの入力が開始される前にはデータ操作ウィンドウが全く表示されないことが好ましい。
にもかかわらず、制御対象220A、220B、220C、220Dのセットは点211を中心とするいわゆる有効部分210に配される。有効部分210はディスプレイ150内のエリアであって、これに関してアイトラッカーが生成する制御コマンドが生成されてコンピュータ装置140に入力される1つ以上のグラフィカルな要素を含む。したがって、有効部分210は、これについて制御コマンドがコンピュータ装置140に与えられてもよいオンスクリーンオブジェクトを中心として配置される。
次に図2bを参照して、ディスプレイの画像エリア上でカーソルシンボル231を制御するための、本発明の好適な実施形態にかかる有効部分210の選択方法を説明する。図2bは、制御対象220A、220B、220C、220Dのセットに編集可能なテキストを含む情報エリア240を重ねたものを示す。処理モジュール145は、注視点130が有効化基準を満たすかかどうかを調べるよう構成される。ここで、この基準は、カーソルシンボル231およびその意図される運動に関する。具体的には、注視点130が少なくとも有効化期間においてカーソルシンボル231周囲の有効化ゾーン210内に位置する場合、すなわちユーザの視線がカーソルシンボルの十分に近くに十分に長い間向けられている場合には、有効化基準は満たされるものとみなされる。処理モジュール145がこの基準が満たされていると判断する場合には、モジュール145は、図2bに示すように、すなわちカーソルシンボル231を中心として、制御対象220A、220B、220C、220Dのセットを提示する。したがって、有効部分210は、ここではカーソルシンボル231の左右のエリアによって表現され、制御対象220A、220B、220C、220Dの間に位置している。この場合、カーソルシンボル231はテキスト入力マーカーであるため、カーソルシンボル231の左右にテキストを操作する、すなわちシンボルを削除および/または新しいシンボルを追加することも可能となる。
当然ながら本発明は、例えば、有効化基準が満たされているか否かにかかわらず常になど、その他の条件下で、処理モジュール145が制御対象220A、220B、220C、220Dの1つ以上が提示されるようにすることを排除するものではない。
それにもかかわらず、ここでは、上記の有効化の後、ユーザ100はサッカードにより注視点130を概ね右方向に動かすと仮定する。本発明の本実施形態によれば、処理モジュール145は、そのようなサッカードをユーザのカーソルシンボル231をディスプレイ上を右方向に動かそうとする意図として解釈するよう構成される。したがって、処理モジュール145は、サッカードを検出し、ディスプレイ150に対して右のナビゲーション方向RWの表現として解釈する。その結果、処理モジュール145は、カーソル−シンボル231の右方向の運動を達成するよう構成されるディスプレイ150の制御対象220A内にデータ操作ウィンドウ220aを提示する。ウィンドウ220aは、有効部分210を複製するグラフィカルな情報を含み、この例ではウィンドウ220aが「adi」という文字を示し、すなわち「ad」の2文字がカーソルシンボル231の左に、「i」の一文字がカーソルシンボル231の右側に示される。言うまでもなく、任意のこれよりも大きいまたはわずかに小さいウィンドウ220aを同様に考えることもでき、ウィンドウ境界の左右の近傍のウィンドウ220aに徐々に消えるまたは部分的に隠された文字の表示をさまざまな形で行うことも考えることができる。
本発明によれば、処理モジュール145は、アイトラッカーに制御された制御コマンドのコンピュータ装置140への入力に応じてデータ操作ウィンドウ220aの情報を繰り返し更新するよう構成される。ここで、これは、カーソルシンボル231がディスプレイ150上をナビゲーション方向RWに指定される方向に移動するにつれて、カーソルシンボル231の左側の2つの文字と右側の一文字がそれぞれ情報エリア240のテキストの内容に応じて変更されることを意味する。
本発明の好適な一実施形態によれば、処理モジュール145は、また、このセットがディスプレイ150上を徐々にナビゲーション方向RWに一致して移動するような方法でディスプレイ150上に制御対象220A、220B、220C、220Dのセットを提示するよう構成される。これは、カーソルシンボル231および制御対象220A、220B、220C、220Dのセットの相対的な位置が一定であることを意味する、しかしながら、これらはすべて一緒にディスプレイ150上を移動する。これにより、安定したカーソル制御メカニズムが実現され、これは非テキスト用途においても望ましい。
図3は、このような一例を示すものであり、ここでは、図2aおよび図2bに示す制御対象220A、220B、220C、220Dのセットがウィンドウ340の形で情報エリアを含むディスプレイ150の画像エリアのサブセクション200に関するカーソルシンボル331の制御に用いられる。
上述と同様に、ユーザ100が少なくとも有効化期間の間注視点130をカーソルシンボル331の周囲の有効化ゾーン内におくと仮定する。したがって、処理モジュール145は、制御対象220A、220B、220C、220Dのセットがカーソルシンボル331を含む有効エリア210周囲に提示されるようにする。
さらに、ユーザはナビゲーション方向RWを表現するために右への第1のサッカードを実行し、その結果、処理モジュール145がカーソルシンボル331の右方向運動を実現するよう構成された制御対象220Aを有効にし、そこにデータ操作ウィンドウ220aを提示する。さらに、処理モジュール145は、ユーザ100の注視点130が閾値滞留時間において有効制御対象220Aに位置するかどうかを調べ、この基準が満たされているとする。したがって、処理モジュール145は、ディスプレイ150上の右方向、すなわちナビゲーション方向RWに一致したカーソル運動を開始する。
ここでも、提示されたデータ操作ウィンドウ220aは有効部分210の印であるグラフィカルな情報を含む。上記で図2bを参照して論じた例に対して、アイトラッカーが生成する制御コマンドに応じて制御されるカーソルシンボル331は、ウィンドウ、ソフトウェア実施のボタン、スクロールバー、スライド制御などのグラフィカルオブジェクトを操作するよう構成される。それにもかかわらず、カーソルシンボル331はこれに基づいて制御コマンドがコンピュータ装置140に入力されるオブジェクトであるため、カーソルシンボル331は有効部分210に残る。
処理モジュール145は、また、(ここでは、ナビゲーション方向RWにより表現される)生成された制御コマンドに応じてデータ操作ウィンドウ220aの情報を繰り返し更新して、カーソルシンボル331がディスプレイ150の画像エリア上を右方向に動くと、初期位置の右に位置していたウィンドウ340のコンテンツの表示位置が徐々にデータ操作ウィンドウ220a内に現れるようにする。
図4は、本発明の一実施形態にかかる制御対象420A、420B、420C、420Dの別のセットを用いてディスプレイ150上のカーソルシンボル431を制御する方法を示す。ここでは、ディスプレイ150はウィンドウ440を含む情報エリアを示している。しかしながら、この実施形態は、図2bのテキスト240などのその他の種類の情報にも同様に適用することができる。
ここでも、ユーザ100が少なくとも有効化期間の間注視点130をカーソルシンボル431の周囲の有効化ゾーン430内におくと仮定する。したがって、処理モジュール145は、制御対象420A、420B、420C、420Dのセットがディスプレイ150上に、特定の制御対象がディスプレイ150の両サイド近傍に位置するように提示されるようにする。代替的に、制御対象420A、420B、420C、420Dは、上記の有効化基準を満たすか否かにかかわらず、常にディスプレイ150上に提示される。いずれにしても、第1制御対象420Aはディスプレイ150の右サイドの固定位置に位置し、好ましくはカーソルシンボル441の右方向運動を実現する。第2制御対象420Bはディスプレイ150の下サイドの固定位置に位置し、好ましくはカーソルシンボル441の下方向運動を実現する。第3制御対象420Cディスプレイ150の左サイドの固定位置に位置し、好ましくはカーソルシンボル441の左方向運動を実現する。第4制御対象420Dはディスプレイ150の上サイドの固定位置に位置し、好ましくはカーソルシンボル441の上方向運動を実現する。
加えて、ユーザは所望のナビゲーション方向DWを表現するために下方向の第1のサッカードを実行する。その結果、処理モジュール145が第2制御対象420Bを有効にし、そこにデータ操作ウィンドウ420bを提示する。さらに、ユーザ100は閾値滞留時間においてユーザの注視点130を有効制御対象420Bに固定し、したがって処理モジュール145がディスプレイ150上下方向のカーソル運動を開始する。
したがって、データ操作ウィンドウ420bは、最初に例えば基本的に有効化ゾーン430に等価のディスプレイエリアを複製するグラフィカルな情報を含む。しかしながら、ユーザ100が注視点130を有効制御対象420Bに維持してカーソルシンボル431を下方向に制御するため、処理モジュール145は、好ましくはウィンドウ420bの定位置にカーソルシンボル431の表現を維持しつつ、ウィンドウ420bのコンテンツを繰り返し更新してカーソルシンボル431のナビゲーション方向DWの下方向運動を反映する。
本発明の好適な一実施形態によれば、処理モジュール145は、たとえば0.5秒程度の運動無効期間の間、注視点130が有効制御対象420Bの外にあるか否かを調べるよう構成される。この基準が満たされていれば、処理モジュール145は、有効制御対象420Bを無効化してアイトラッカーに制御された制御コマンドの入力、この例ではカーソルシンボル431の下方向運動を中断するよう構成される。
この中断機能は本発明の全実施形態に適用可能であり、ユーザ100に対してシステムに現在入力されている制御コマンドを停止しておそらくは異なる種類のコマンドを代わりに生成するよう示す非常に効率的な手段を提供するものである。
図5は、本発明の一実施形態にかかる提案される制御対象520Aの第3のタイプがどのように使用されてコンピュータ装置140に入力されるアイトラッカーが生成する制御コマンドに基づいてカーソルシンボル531に影響を与えるかを説明する。この実施形態によれば、制御対象のセットは1個の制御対象520Aを含み、これはディスプレイ150の画像エリア上の任意の位置に提示されてよい。
具体的には、処理モジュール145は、ユーザ100が少なくとも有効化期間の間注視点130をカーソルシンボル531周囲の有効化ゾーン530に置いたことが判断された後、有効化ゾーン530外の第1のサッカード130dの方向130dだけでなく、そのようなサッカードのターゲット位置を判断するよう構成される。その後、処理モジュール145は、制御対象520Aをこの位置、例えばその中心の上に提示するよう構成される。
上記実施形態と同様に、制御対象520Aは、現在アイトラッカーに制御されたコンピュータ装置140への制御コマンド入力の対象であるディスプレイ150の有効部分、本例ではカーソルシンボル531を表すグラフィカルな情報を含むデータ操作ウィンドウ520aを含む。さらに、また、ここで、処理モジュール145は、カーソルシンボル531をディスプレイ150上でナビゲーション方向130dに一致して動かすよう構成される。ナビゲーション方向130dは、参照方向に対してどのような角度(0度〜360度)であってもよく、したがって上記のような水平および垂直な上下左右方向に限定されるものではないことに注意されたい。
図6は、ディスプレイ150上でソフトウェアキーボード650を実現するオンスクリーンオブジェクトを示し、キーボード650は、本発明の一実施形態にかかるユーザの注視点130移動シーケンスに応じて制御可能である。キーボード650は、情報エリア640と関連付けられており、例えばテキストを表す編集可能なシンボルを提示するよう構成される。カーソルシンボル631は、現在操作可能となっている情報エリア640内の位置を示す。
キーボード650は、アルファベットシンボル、数字、およびその他の種類の文字をコンピュータ装置140に入力するために視線制御されるよう構成されたキー620のセットを含む。キーボード650は、ディスプレイ150上のソフトウェアキーのGUIコンポーネントを視覚的に表す多数のオンスクリーンオブジェクト620A、621、622を含んでもよく、これによりユーザ100はアイトラッカーが生成する制御コマンドに基づいて各種の編集機能を実行することができる。したがって、アイテム620、620A、621、622のそれぞれは、上述されたような種類の制御対象である。
処理モジュール145は、ここでは、ユーザ100がこれらの制御対象に対して特定の制御対象の有効化基準が満たされるように注視点130を定めたか否かを判断するよう構成される。特定の制御対象が有効化されたとして、これによりカーソルシンボル631の現在の位置で操作が達成される。カーソルシンボル631は、次に、例えば図2aおよび図2bを参照して説明されたように情報エリア640に対して動かされてもよいし、その他の当該技術分野で周知のカーソル制御手段により動かされてもよい。
ユーザがカーソルシンボル631を情報エリア640内の所望の位置へ制御したとして、上記と同様に、処理モジュール145は、その後、制御対象620、620A、621、622のいずれかについての有効化基準が満たされたか否かを調べる。この例では、説明のために、バックスペース/削除キー620Aがこのキー620Aの有効化ゾーン630に対する注視点130の移動シーケンスに基づいて有効化される、例えば、ユーザ100が少なくとも有効化期間の間注視点130を有効化ゾーン630におくと仮定する。さらに、図6に示すとおり、カーソルシンボル631が「for」という単語の文字「o」と「r」の間に位置して情報エリア640の有効部分210を定義すると仮定する。キー620Aはカーソルシンボル631の現在位置のすぐ左に位置するシンボル、ここでは文字「o」の削除を実現するよう構成されるため、この文字はキー620Aの有効化に関連して消去されることになる。さらに、結果として、その後カーソルシンボル631は文字「f」と「r」との間に位置することになる。
図2bを参照して説明した本発明の実施形態と同様に、キー620Aを有効化するときには、このキー620Aにより表される有効制御対象内のデータ操作ウィンドウ620aは最初にカーソルシンボル641周囲の有効部分を示すグラフィカルな情報を含んでいる。この例では、ウィンドウ620aは文字「for」、すなわち「fo」の2文字をカーソルシンボル631の左に、「r」の1文字をカーソルシンボル231の右にを示している。ここでも、キー620Aに合う任意のこれよりも小さいまたは大きいウィンドウ620aを同様に考えることができる。さらに、ウィンドウ620a内のシンボルは、徐々にフェードするように表示されてもよく、ウィンドウ620aの左右の境界の一方または両方の近傍で部分的に隠れてもよい。
当然ながら、その他のキー620のいずれかを選択することによって、処理モジュール145は、かわりに注視点130のキーボード650上の移動シーケンスに基づいて1つ以上の追加シンボルを判断し、そのような追加シンボルのある情報エリア640のシンボルを補完してもよい。したがって、本発明の本実施形態によれば、キー620、620A、621、622のうちの多くが、好ましくは全てが、そのキーが有効制御対象としして選択される場合のためにそれぞれのデータ操作ウィンドウを提示するよう構成されている。
図7に、本発明の一実施形態にかかるGUIコンポーネントのオンスクリーン表示740がどのように操作すなわち回転されるかを示す。この実施形態によれば、第1制御対象720Aおよび第2制御対象720Bがディスプレイ上に提示される。有効化されると、第1制御対象720Aは、選択されたグラフィカルオブジェクトのオンスクリーン表示の時計回りの回転を実現するよう構成され、第2制御対象720Bは、反時計回りの回転を実現するよう構成される。ここで、例えば第2制御対象720Bの制御対象は、例えば有効化期間の間有効化ゾーン730内に注視点130を配することによって注視点130がまずグラフィカルな表現740に対する有効化基準が満たされるように、ディスプレイ上で注視点130を動かすことにより有効化される。その後、注視点130が、通常はサッカードの形で、第2制御対象720Bに移動する。注視点130がこのオブジェクト720B上に少なくとも閾値滞留時間の間とどまるとすると、データ操作ウィンドウ720bは有効化を確認するために第2制御対象720Bに提示される。データ操作ウィンドウ720bは、グラフィカルな表現740の印であるグラフィカルな情報、なわちアイトラッカーに制御された反時計回りの回転の現在の対象を示す。
さらに、グラフィカルな表現740がディスプレイ上で回転すると、これを反映するデータ操作ウィンドウ720b内の情報は繰り返し更新される。好ましくは、制御対象720Bが有効である限り、比較的小さな段階で(例えば4更新/秒の更新割合で1度/更新)、または比較的大きな段階(例えば1更新/秒の更新割合で90度/更新)で、回転は継続する。ユーザが実現された回転に満足すれば、例えば無効化閾値時間の間注視点130を制御対象720Bの外に位置することにより無効化基準が満たされるように、注視点130を動かす。
図8に、本発明の一実施形態により可能となるグラフィカルオブジェクトの別の種類の視線制御による操作を示す。ここで、GUIコンポーネントのオンスクリーン表示840は、色を変更するように制御されてもよい。第1制御対象820Aは、選択されたオブジェクトを赤にするよう構成され、第2制御対象820Bは、選択されたオブジェクトを青にするよう構成され、第3制御対象820Cは、選択されたオブジェクトを緑にするよう構成される。ここでも、注視点130が特定のグラフィカルな表現840に対する有効化基準を満たすようにディスプレイ上で注視点130を動かすことにより特定のグラフィカルな表現840が選択される。好ましくは、注視点130が特定のグラフィカルな表現840の周囲の有効化ゾーン830内に有効化期間の間位置する場合、有効化基準は満たされると考えられる。
そして、注視点130は注視点130が少なくとも閾値滞留時間の間とどまる、例えば第2制御対象820Bである制御対象にサッカードする。そして、第2オブジェクト820Bにより示されるグラフィカルな表現840の変更、この場合には青への色変更が実現する。変更を確認するために、グラフィカルな表現840の印であるグラフィカルな情報を示すデータ操作ウィンドウ820bが第2制御対象820Bに提示される。したがって、色を青に変化させるグラフィカルな表現840に関連して、このことはデータ操作ウィンドウ820bのシンボル情報に反映される。
言うまでもなく、上記同様に、テクスチャなど、GUIコンポーネントのその他の特性を変更することもできる。したがって、本発明の一実施形態よれば、1セットの視線制御可能な制御対象がディスプレイに提示され、GUIコンポーネントのオンスクリーン表示にマップされる特定のテクスチャに影響を与えるよう構成される。
まとめとして、本発明にかかるコンピュータ装置を制御する一般的な方法を、以下に図9のフローチャートを参照して説明する。
最初のステップ910は、ディスプレイ上のユーザの注視点を判断する。その後、ステップ920は、有効化基準が満たされているか否かを調べ、満たされている場合はステップ930が続く。有効化基準は、少なくとも有効化期間の間オンスクリーンオブジェクトの有効化ゾーン内に注視点がある場合に、満たされているとみなされてもよい。アイトラッカー制御のコマンドは、このオンスクリーンオブジェクトに基づいて、コンピュータ装置に入力可能となる。代替的に、有効化基準は、有効化期間の間、注視点が近傍の他の制御対象よりもその制御対象に置かれている場合に、満たされているとみなされてもよい。しかしながら、有効化基準が満たされていない場合には、処理はステップ910に戻る。
ステップ930は、制御対象が有効であると定義し、ウィンドウの中心点が有効制御対象の中心点から比較的小さなオフセット距離となるようにディスプレイに有効制御対象に対するデータ操作ウィンドウを提示する。例えば、データ操作ウィンドウは有効制御対象内に提示されてもよく、またはウィンドウが部分的に有効制御対象と重なるように提示されてもよい。有効化される制御対象は、登録された注視点の有効化ゾーンからの第1のサッカードによって識別されてもよく、制御対象はコンピュータ装置に入力されるべき少なくとも1個の制御コマンドを現わす。データ操作ウィンドウは、現在オンスクリーンオブジェクトであるディスプレイの有効部分の印であるグラフィカルな情報を含み、これに基づいてアイトラッカーに制御されたコマンドが生成される。
続いて、ステップ940は、有効制御対象についての無効化基準が満たされているか否かを調べる。好ましくは、無効化基準は上記の有効化基準を補完する。したがって、無効化基準は、有効化基準がもはや満たされていない場合に満たされているとみなされる。言うまでもなく、第1有効制御対象についての無効化基準は、第2有効制御対象の有効化基準が満たされている場合には、概ね満たされているとみなされる。それにもかかわらず、無効化基準が満たされている場合には、処理はステップ910に戻る。装でない場合には、ステップ950が続き、ここでデータ操作ウィンドウの情報が有効制御対象により表される少なくとも1個の制御コマンドに応じて更新される。
このように図9を参照して説明された処理ステップおよびステップのサブシーケンスは全て、プログラムされたコンピュータ装置によって制御されてもよい。さらに、図面を参照して上に説明した本発明の実施形態では、コンピュータ装置を備え、コンピュータ装置において処理を行うが。本発明はコンピュータプログラムにも広げることができ、特にキャリア内または上の本発明を実施するよう構成されたコンピュータプログラムであってもよい。このプログラム、ソースコード、オブジェクトコード、または、ソースコードとオブジェクトコードの中間の、例えば部分的にコンパイルされたもしくは本発明にかかる処理の実施に用いられて適切なその他のコードであってよい。プログラムは、オペレーティングシステムの一部であってもよいし、別個のアプリケーションであってもよい。キャリアは、このプログラムを有することができるどのような実体または機器であってもよい。例えば、キャリアは、フラッシュメモリ、例えばDVD(デジタル多用途/ビデオディスク)、CD(コンパクトディスク)または半導体ROM、EPROM(消去可能PROM)、EEPROM(電気的消去可能PROM)などのROM(読み出し専用メモリ)、または例えばフロッピーディスク(登録商標)またはハードディスクなどの磁気記録媒体などの、記録媒体を含んでもよい。さらに、キャリアは、電気または光ケーブル、無線、またはその他の手段によって伝達可能な電気または光信号などの伝播性キャリアであってもよい。プログラムがケーブルによって直接伝達される信号、またはその他の機器もしくは手段において実施される場合には、キャリアはそのようなケーブルまたは機器もしくは手段からなってもよい。代替的に、キャリアはプログラムが実施される集積回路であってもよく、この集積回路は、関連する処理を実行するよう構成され、またはその実行に用いられる。
本明細書における「備える/なる/含む」という語は、説明された特徴、整数、ステップ、またはコンポーネントの存在を示すものである。しかしながら、この語は1つ以上のその他の追加的な特徴、整数、ステップ、またはコンポーネント、またはこのうちの複数の存在または追加を除外するものではない。
本明細書における先行技術の参照は、参照した先行技術がオーストラリアにおいて一般的な知識の一部であることを認めたり示唆したりするものではなく、そのようにみなすべきものでもない。
本発明は上述の図面に示す実施形態に限られるものではなく、特許請求の範囲において自由に変更することが可能である。
本発明の一実施形態にかかるアイトラッキングシステムの模式図を示す。 本発明の一実施形態にかかる第1制御対象セットの第1の使用を示す図である。 本発明の一実施形態にかかる第1制御対象セットの第1の使用を示す図である。 図2aおよび図2bに示す第1制御対象セットの第2の使用を示す図である。 本発明の一実施形態にかかる第2制御対象セットの使用を示す図である。 本発明の一実施形態にかかる第3の種類の制御対象の使用を示す図である。 本発明の一実施形態にかかるユーザの注視点の移動シーケンスに応じて制御可能であるディスプレイ上でソフトウェアキーボードを実現するオンスクリーンオブジェクトを示す図である。 本発明の一実施形態にかかる制御対象によりグラフィカルオブジェクトを回転させる方法を示す図である。 本発明の一実施形態にかかる制御対象によりグラフィカルオブジェクトの色を修正する方法を示す図である。 本発明にかかる一般的な方法を示すフローチャートである。

Claims (26)

  1. グラフィックディスプレイ(150)と関連づけられたコンピュータ装置の制御システム(140)であって、前記コンピュータ装置(140)は前記ディスプレイ(150)に少なくとも1個のGUIコンポーネントそれぞれのオンスクリーン表示を提示するよう構成され、前記システムは前記ディスプレイ(150)上のユーザ(100)の注視点(130)を判断し前記ディスプレイ(150)上の前記注視点(130)の移動シーケンスに応じて前記コンピュータ装置(140)に制御コマンドを入力するよう構成されたアイトラッカー手段(145、160、170、181、182)を備え、前記アイトラッカー手段は前記ディスプレイ(150)上の表示に対するグラフィカルなフィードバック情報(DFB)を生成して入力された任意の制御コマンドを視覚的に確認するよう構成された処理モジュール(145)を含み、前記処理モジュール(145)は、
    前記少なくとも1個の制御コマンドのいずれかについての有効化ゾーン(430、530、630、730、830)に対して前記注視点(130)の前記移動シーケンスが有効化基準を満たすか否かを調べ、そのような基準が満たされると、
    現在アイトラッカーに制御された制御コマンドの入力対象である前記ディスプレイ(150)の有効部分(210)の印であるグラフィカルな情報を含むデータ操作ウィンドウ(220a、420b、520a、620a、720b、820b)を、前記ディスプレイ(150)上の有効制御対象(220A、420B、520A、620A、720B、820B)に対する位置に、前記ウィンドウの中心点が前記有効制御対象の中心点から比較的小さいオフセット距離で位置するように提示し、
    前記アイトラッカーに制御された制御コマンドの入力に応じて前記データ操作ウィンドウ(220a、420b、520a、620a、720b、820b)の情報を繰り返し更新するよう構成されることを特徴とするコンピュータ装置の制御システム。
  2. 前記処理モジュール(145)は、前記有効化ゾーン(430、530、630、730、830)に対する前記注視点(130)の前記移動シーケンスに基づいて前記有効制御対象(220A、420B、520A、620A、720B、820B)を判断するよう構成されることを特徴とする、請求項1に記載のシステム。
  3. 前記処理モジュール(145)が基づいて前記有効制御対象(220A、420B、520A、720B、820B)を判断するよう構成される前記注視点(130)の前記移動シーケンスは、前記有効化ゾーン(430、530、730、830)からの第1のサッカードを含むことを特徴とする、請求項2に記載のシステム。
  4. 前記少なくとも1個の制御コマンドは、
    前記ディスプレイ(150)に対するカーソルシンボル(231、331、431、531、631)のナビゲーション方向(RW、DW、LW、130d)、
    前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示(740)の回転、
    前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示(840)の色変更、
    前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示のテクスチャ修正のうち、少なくとも1つを表すことを特徴とする、先行する請求項のいずれかに記載のシステム。
  5. 前記少なくとも1個の制御コマンドは、前記ディスプレイ(150)に対するカーソルシンボル(231、331、431、531、631)のナビゲーション方向(RW、DW、LW、130d)を表し、前記処理モジュール(145)は、
    前記有効化ゾーン(430、530)に対する第1のサッカードからナビゲーション方向(RW、DW、LW、130d)を区別し、
    前記ディスプレイ(150)上でカーソルシンボル(231、331、631)を前記ナビゲーション方向(RW、DW、LW)に一致して動かすよう構成されることを特徴とする、請求項4に記載のシステム。
  6. 前記処理モジュール(145)は、1セットの制御対象(220A、220B、220C、220D、420A、420B、420C、420D、520A、620)を前記ディスプレイ(150)に提示するよう構成され、前記セットの各制御対象は情報エリア(240、340、440、540、640)に対するそれぞれのカーソルシンボル(231、331、431、531、631)のナビゲーション方向(RW、DW、LW、130d)を示すよう構成されることを特徴とする、請求項5に記載のシステム。
  7. 前記処理モジュール(145)は、
    前記制御対象のセット(220A、220B、220C、220D)を当該セットが前記ナビゲーション方向(RW)に一致して徐々に前記ディスプレイ(150)上を動くような方法で前記ディスプレイ(150)に提示するよう構成され、
    前記ディスプレイ(150)上で前記カーソル(231、331、431、531、631)を前記ナビゲーション方向(RW)に一致して動かすよう構成されていることを特徴とする、請求項6に記載のシステム。
  8. 前記処理モジュール(145)は、前記ディスプレイ(150)上の固定位置に前記制御対象のセット(420A、420B、420C、420D、620)を提示し、前記ディスプレイ(150)上で前記カーソルシンボル(431、631)を前記ナビゲーション方向(DW、LW)に一致して動かすよう構成されることを特徴とする、請求項6に記載のシステム。
  9. 前記ディスプレイ(150)は編集可能なシンボルからなる情報エリア(640)を提示し、前記処理モジュール(145)は、
    前記ディスプレイ(150)上に提示されるソフトウェアキーボードのGUIコンポーネントを視覚的に現わす多数のオンスクリーンオブジェクト(620、621、622)にわたる前記注視点(130)の移動シーケンスに基づいて少なくとも1個の追加シンボルを判断し、
    前記情報エリア(640)内の前記シンボルに前記少なくとも1個の追加シンボルを補完するよう構成されることを特徴とする、先行する請求項のいずれかに記載のシステム。
  10. 前記ディスプレイ(150)は編集可能なシンボルからなる情報エリア(640)を提示し、前記処理モジュール(145)は、
    前記注視点(130)が削除キーを現わす有効制御対象(620A)に対する有効化基準を満たすかどうかを調べ、その基準が満たされると、
    前記編集可能なシンボルの少なくとも1個を含む前記シンボルのサブセットを削除するよう構成されることを特徴とする、先行する請求項のいずれかに記載のシステム。
  11. 前記制御対象のセットは単一の制御対象(520A)であり、前記処理モジュール(145)は、
    前記有効化ゾーン(530)の外の第1のサッカード(130d)のターゲット位置を判断し、
    前記ターゲット位置に前記単一の制御対象(520A)を提示し、前記単一の制御対象(520A)は前記データ操作ウィンドウ(520a)を含み、
    前記ディスプレイ(150)上で前記カーソルシンボル(531)を前記第1のサッカード(130d)により表現されるナビゲーション方向(130d)に一致して動かすよう構成されることを特徴とする、請求項1から8のいずれかに記載のシステム。
  12. 前記処理モジュール(145)は、
    前記注視点(130)が前記有効制御対象(220A、420B、520A、620A、720B、820B)に対する無効化基準を満たすかどうかを調べ、その基準が満たされると、
    前記有効制御対象(220A、420B、520A、620A、720B、820B)を無効化するよう構成されることを特徴とする、先行する請求項のいずれかに記載のシステム。
  13. グラフィックディスプレイ(150)と関連づけられたコンピュータ装置の制御方法であって、前記コンピュータ装置(140)は前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントそれぞれのオンスクリーン表示を提示するよう構成され、前記方法は、
    前記ディスプレイ(150)上のユーザ(100)の注視点(130)を判断し前記ディスプレイ(150)上の前記注視点(130)の移動シーケンスに応じて前記コンピュータ装置(140)に制御コマンドを入力し、
    前記ディスプレイ(150)上に表示するグラフィカルなフィードバック情報(DFB)を生成して入力された任意の制御コマンドを視覚的に確認し、
    前記少なくとも1個の制御コマンドのいずれかについての有効化ゾーン(430、530、630、730、830)に対して前記注視点(130)の前記移動シーケンスが有効化基準を満たすか否かを調べ、そのような基準が満たされると、
    現在アイトラッカーに制御された制御コマンドの入力対象である前記ディスプレイ(150)の有効部分(210)の印であるグラフィカルな情報を含むデータ操作ウィンドウ(220a、420b、520a、620a、720b、820b)を、前記ディスプレイ(150)上の有効制御対象(220A、420B、520A、620A、720B、820B)に対する位置に、前記ウィンドウの中心点が前記有効制御対象の中心点から比較的小さいオフセット距離で位置するように提示し、
    前記アイトラッカーに制御された制御コマンドの入力に応じて前記データ操作ウィンドウ(220a、420b、520a、620a、720b、820b)の情報を繰り返し更新することを特徴とするコンピュータ装置の制御方法。
  14. 前記有効化ゾーン(430、530、630、730、830)に対する前記注視点(130)の前記移動シーケンスに基づいて前記有効制御対象(220A、420B、520A、620A、720B、820B)を判断することを特徴とする、請求項13にかかる方法。
  15. 前記処理モジュール(145)が基づいて前記有効制御対象(220A、420B、520A、720B、820B)を判断するよう構成される前記注視点(130)の前記移動シーケンスは、前記有効化ゾーン(430、530、730、830)からの第1のサッカードを含むことを特徴とする、請求項14にかかる方法。
  16. 前記ディスプレイ(150)に対するカーソルシンボル(231、331、431、531、631)のナビゲーション方向(RW、DW、LW、130d)、
    前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示(740)の回転、
    前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示(840)の色変更、
    前記ディスプレイ(150)上の少なくとも1個のGUIコンポーネントの少なくとも1個のオンスクリーン表示のテクスチャ修正のうち、少なくとも1つを表す前記少なくとも1個の制御コマンドを特徴とする、請求項13から15のいずれかに記載の方法。
  17. 前記少なくとも1個の制御コマンドは、前記ディスプレイ(150)に対するカーソルシンボル(231、331、431、531、631)のナビゲーション方向(RW、DW、LW、130d)を表し、前記方法は、
    前記有効化ゾーン(430、530)に対する第1のサッカードからナビゲーション方向(RW、DW、LW、130d)を区別し、
    前記ディスプレイ(150)上でカーソルシンボル(231、331、631)を前記ナビゲーション方向(RW、DW、LW)に一致して動かすことを特徴とする、請求項16に記載の方法。
  18. 1セットの制御対象(220A、220B、220C、220D、420A、420B、420C、420D、520A、620)を前記ディスプレイ(150)に提示し、前記セットの各制御対象は情報エリア(240、340、440、540、640)に対するそれぞれのカーソルシンボル(231、331、431、531、631)のナビゲーション方向(RW、DW、LW、130d)を示すよう構成されることを特徴とする、請求項17に記載の方法。
  19. 前記制御対象のセット(220A、220B、220C、220D)を当該セットが前記ナビゲーション方向(RW)に一致して徐々に前記ディスプレイ(150)上を動くような方法で前記ディスプレイ(150)に提示するよう構成され、
    前記ディスプレイ(150)上で前記カーソル(231、331、431、531、631)を前記ナビゲーション方向(RW)に一致して動かすことを特徴とする、請求項18に記載の方法。
  20. 前記ディスプレイ(150)上の固定位置に前記制御対象のセット(420A、420B、420C、420D、620)を提示し、
    前記ディスプレイ(150)上で前記カーソルシンボル(431、631)を前記ナビゲーション方向(DW、LW)に一致して動かすことを特徴とする、請求項18に記載の方法。
  21. 前記ディスプレイ(150)は編集可能なシンボルからなる情報エリア(640)を提示し、前記方法は、
    前記ディスプレイ(150)上に提示されるソフトウェアキーボードのGUIコンポーネントを視覚的に現わす多数のオンスクリーンオブジェクト(620、621、622)にわたる前記注視点(130)の移動シーケンスに基づいて少なくとも1個の追加シンボルを判断し、
    前記情報エリア(640)内の前記シンボルに前記少なくとも1個の追加シンボルを補完することを特徴とする、請求項13から20のいずれかに記載の方法。
  22. 前記ディスプレイ(150)は編集可能なシンボルからなる情報エリア(640)を提示し、前記方法は、
    前記注視点(130)が削除キーを現わす有効制御対象(620A)に対する有効化基準を満たすかどうかを調べ、その基準が満たされると、
    前記編集可能なシンボルの少なくとも1個を含む前記シンボルのサブセットを削除することを特徴とする、請求項13から21のいずれかに記載の方法。
  23. 前記制御対象のセットは単一の制御対象(520A)であり、前記方法は、
    前記有効化ゾーン(530)の外の第1のサッカード(130d)のターゲット位置を判断し、
    前記ターゲット位置に前記単一の制御対象(520A)を提示し、前記単一の制御対象(520A)は前記データ操作ウィンドウ(520a)を含み、
    前記ディスプレイ(150)上で前記カーソルシンボル(531)を前記第1のサッカード(130d)により表現されるナビゲーション方向(130d)に一致して動かすことを特徴とする、請求項13から17のいずれかに記載の方法。
  24. 前記注視点(130)が前記有効制御対象(220A、420B、520A、620A、720B、820B)に対する無効化基準を満たすかどうかを調べ、その基準が満たされると、
    前記有効制御対象(220A、420B、520A、620A、720B、820B)を無効化することを特徴とする、請求項13から23のいずれかに記載の方法。
  25. コンピュータの内部メモリに直接ロード可能であって、前記コンピュータ上で前記プログラムが実行されると請求項13から24のいずれかのステップを制御するソフトウェアからなるコンピュータプログラム。
  26. プログラムが記録されたコンピュータ読取可能な媒体(146)であって、前記プログラムはコンピュータに請求項13から24のいずれかのステップを制御させるコンピュータ読取可能な媒体。
JP2008537646A 2005-10-28 2006-10-19 視覚的フィードバックを有するアイトラッカー Active JP4961432B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
SE0502398A SE529156C2 (sv) 2005-10-28 2005-10-28 Ögonföljare med visuell återkoppling
SE0502398-1 2005-10-28
US73289005P 2005-11-02 2005-11-02
US60/732,890 2005-11-02
PCT/SE2006/050411 WO2007050029A2 (en) 2005-10-28 2006-10-19 Eye tracker with visual feedback

Publications (2)

Publication Number Publication Date
JP2009514090A true JP2009514090A (ja) 2009-04-02
JP4961432B2 JP4961432B2 (ja) 2012-06-27

Family

ID=38048094

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008537646A Active JP4961432B2 (ja) 2005-10-28 2006-10-19 視覚的フィードバックを有するアイトラッカー

Country Status (4)

Country Link
JP (1) JP4961432B2 (ja)
CN (1) CN101297259B (ja)
ES (1) ES2730217T3 (ja)
SE (1) SE529156C2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012530305A (ja) * 2009-07-10 2012-11-29 ペキン ユニバーシティ 追跡される目の動きに基づく画像操作
JP2015201161A (ja) * 2014-04-09 2015-11-12 由田新技股▲ふん▼有限公司 電子装置とその操作方法
JP2018526690A (ja) * 2016-07-26 2018-09-13 ペキン シャオミ モバイル ソフトウェア カンパニー, リミテッド 仮想現実通信における対象識別方法、装置及び仮想現実デバイス
WO2018186031A1 (ja) * 2017-04-03 2018-10-11 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP2020507221A (ja) * 2017-02-03 2020-03-05 ベステル エレクトロニク サナイー ベ ティカレト エー.エス. Hmdを用いたビデオ会議の改良された方法およびシステム
WO2020100422A1 (ja) * 2018-11-12 2020-05-22 ソニー株式会社 表示装置、および表示制御方法、並びにプログラム

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8793620B2 (en) * 2011-04-21 2014-07-29 Sony Computer Entertainment Inc. Gaze-assisted computer interface
CN101840265B (zh) * 2009-03-21 2013-11-06 深圳富泰宏精密工业有限公司 视觉感知装置及其控制方法
CN101950200B (zh) * 2010-09-21 2011-12-21 浙江大学 基于摄像头的眼球控制游戏地图和角色移动的方法和装置
KR101850035B1 (ko) * 2012-05-02 2018-04-20 엘지전자 주식회사 이동 단말기 및 그 제어방법
CN103529932A (zh) * 2012-07-05 2014-01-22 华硕电脑股份有限公司 显示画面旋转的方法及系统
CN104428732A (zh) * 2012-07-27 2015-03-18 诺基亚公司 与近眼显示器的多模交互
CN104216508B (zh) * 2013-05-31 2017-05-10 中国电信股份有限公司 通过眼动跟踪技术进行功能键操作的方法和装置
CN106020591A (zh) * 2016-05-10 2016-10-12 上海青研信息技术有限公司 一种眼控人机交互移动窗口技术
CN109753143B (zh) * 2018-04-16 2019-12-13 北京字节跳动网络技术有限公司 一种优化光标位置的方法和装置
CN112232255B (zh) * 2020-10-26 2022-11-01 北京鹰瞳科技发展股份有限公司 基于多模态数据的身份认证方法及设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0822385A (ja) * 1994-02-22 1996-01-23 Nippon Hoso Kyokai <Nhk> 視線対応表示方法及び装置
JP2000250677A (ja) * 1999-03-02 2000-09-14 Toshiba Corp マルチモーダルインターフェース装置及びマルチモーダルインターフェース方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6351273B1 (en) * 1997-04-30 2002-02-26 Jerome H. Lemelson System and methods for controlling automatic scrolling of information on a display or screen
WO2001041448A1 (fr) * 1999-11-30 2001-06-07 Ecchandes Inc. Systeme d'acquisition de donnees, oeil artificiel, dispositif de vision, capteur d'images, et appareil associe

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0822385A (ja) * 1994-02-22 1996-01-23 Nippon Hoso Kyokai <Nhk> 視線対応表示方法及び装置
JP2000250677A (ja) * 1999-03-02 2000-09-14 Toshiba Corp マルチモーダルインターフェース装置及びマルチモーダルインターフェース方法

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012530305A (ja) * 2009-07-10 2012-11-29 ペキン ユニバーシティ 追跡される目の動きに基づく画像操作
US8564533B2 (en) 2009-07-10 2013-10-22 Peking University Image manipulation based on tracked eye movement
US8797261B2 (en) 2009-07-10 2014-08-05 Peking University Image manipulation based on tracked eye movement
US9081414B2 (en) 2009-07-10 2015-07-14 Peking University Image manipulation based on tracked eye movement
JP2015201161A (ja) * 2014-04-09 2015-11-12 由田新技股▲ふん▼有限公司 電子装置とその操作方法
JP2018526690A (ja) * 2016-07-26 2018-09-13 ペキン シャオミ モバイル ソフトウェア カンパニー, リミテッド 仮想現実通信における対象識別方法、装置及び仮想現実デバイス
US10642569B2 (en) 2016-07-26 2020-05-05 Beijing Xiaomi Mobile Software Co., Ltd. Methods and devices for identifying object in virtual reality communication, and virtual reality equipment
JP2020507221A (ja) * 2017-02-03 2020-03-05 ベステル エレクトロニク サナイー ベ ティカレト エー.エス. Hmdを用いたビデオ会議の改良された方法およびシステム
CN110546601A (zh) * 2017-04-03 2019-12-06 索尼公司 信息处理装置、信息处理方法和程序
JPWO2018186031A1 (ja) * 2017-04-03 2020-04-23 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
WO2018186031A1 (ja) * 2017-04-03 2018-10-11 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US11209900B2 (en) 2017-04-03 2021-12-28 Sony Corporation Information processing device and information processing method
JP7099444B2 (ja) 2017-04-03 2022-07-12 ソニーグループ株式会社 情報処理装置、情報処理方法、及びプログラム
CN110546601B (zh) * 2017-04-03 2023-09-26 索尼公司 信息处理装置、信息处理方法和程序
WO2020100422A1 (ja) * 2018-11-12 2020-05-22 ソニー株式会社 表示装置、および表示制御方法、並びにプログラム
JPWO2020100422A1 (ja) * 2018-11-12 2021-10-14 ソニーグループ株式会社 表示装置、および表示制御方法、並びにプログラム
US11402646B2 (en) 2018-11-12 2022-08-02 Sony Group Corporation Display apparatus, display control method, and program

Also Published As

Publication number Publication date
ES2730217T3 (es) 2019-11-08
JP4961432B2 (ja) 2012-06-27
CN101297259B (zh) 2010-12-15
SE0502398L (sv) 2007-04-29
CN101297259A (zh) 2008-10-29
SE529156C2 (sv) 2007-05-15

Similar Documents

Publication Publication Date Title
JP4961432B2 (ja) 視覚的フィードバックを有するアイトラッカー
US8120577B2 (en) Eye tracker with visual feedback
US10452140B2 (en) Generation of graphical feedback in a computer system
US20210141451A1 (en) Two Step Gaze Interaction
US9971401B2 (en) Gaze-assisted computer interface
EP2002322B1 (en) Hotspots for eye track control of image manipulation
KR101919009B1 (ko) 안구 동작에 의한 제어 방법 및 이를 위한 디바이스
EP3088997A1 (en) Delay warp gaze interaction
CA2773636C (en) Method and apparatus for using generic software applications by ocular control and suitable methods of interaction
US20130318457A1 (en) Arrangement, method and computer program for controlling a computer apparatus based on eye-tracking
JP2010145861A (ja) ヘッドマウントディスプレイ
JP2000010722A (ja) 視線ユーザ・インタフェース装置、そのインタフェース方法、コンピュータ装置、その制御方法、およびプログラム記憶媒体
JPH09204287A (ja) 処理選択方法及び装置
US20220397975A1 (en) Method, apparatus, and computer program for touch stabilization
JPH08241163A (ja) 情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120313

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120326

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4961432

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250