JP2019139743A - 視線方向検知装置、視線方向検知方法 - Google Patents

視線方向検知装置、視線方向検知方法 Download PDF

Info

Publication number
JP2019139743A
JP2019139743A JP2018211766A JP2018211766A JP2019139743A JP 2019139743 A JP2019139743 A JP 2019139743A JP 2018211766 A JP2018211766 A JP 2018211766A JP 2018211766 A JP2018211766 A JP 2018211766A JP 2019139743 A JP2019139743 A JP 2019139743A
Authority
JP
Japan
Prior art keywords
line
infrared
infrared sensor
gaze direction
sight direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018211766A
Other languages
English (en)
Inventor
近藤 浩
Hiroshi Kondo
浩 近藤
陽平 志連
Yohei Shiren
陽平 志連
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to US16/266,139 priority Critical patent/US10845872B2/en
Publication of JP2019139743A publication Critical patent/JP2019139743A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Eyeglasses (AREA)
  • Eye Examination Apparatus (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】デザインの制約が少ない視線方向検知装置を提供すること。【解決手段】視線方向検知装置100であって、赤外線を眼球に照射する赤外線照射部11.18と、レンズに形成された、可視光に対し少なくとも半透明な1つ以上の赤外線センサ12と、前記眼球から反射した赤外線の入射により前記赤外線センサが出力した信号を解析して視線方向を決定する制御部13と、を有することを特徴とする。【選択図】図1

Description

本発明は、視線方向検知装置、及び、視線方向検知方法に関する。
加速度センサ及びジャイロセンサ等により頭部の動きを把握して、頭部の向きに応じたVR(Virtual Reality)映像を提供する主にエンターテイメント向けのメガネ型の情報処理装置が知られている。これに対し、視線追跡機能のみがメガネ型の情報処理装置に付与された視線方向検知装置も知られている。例えばマーケティング用途の場合、カメラで周囲の風景を撮像しその情報と視線情報とを組み合わせることで、被験者の視線の向いた方向に何があったのかを解析して、何が注目され易いか等の情報を得る目的で用いられる。また、視線追跡機能によりPC(Personal Computer)などにおいてマウスの位置を制御可能になる。
また、VR映像の視聴機能と視線追跡機能とを有する視線方向検知装置も開発されている。例えば、視線が向いた方向によってストーリーが変わるインタラクティブシネマ(映画)等、VR映像の視聴機能と視線追跡機能により新しいコンテンツを提供出来るようになる。更には、フォビエィテッドレンダリング(視線中心のみ高精細表示し、周辺の画素数を減らす表示法)が可能となるため、表示機能の画像処理負荷を低減可能となっている。
また、VR映像の視聴と外界の視認とが可能なAR(Augmented Reality)型の視線方向検知装置が開発されている。AR型の視線方向検知装置は外界と遮断されておらず、かつ、視線を完全には遮らないディスプレイ機能を有している。AR型の視線方向検知装置の場合、ユーザは例えば液晶ディスプレイの地図表示情報を見ながら歩行することも容易となる。
視線方向検知装置では視線を検知する機能を備える必要があるが、従来から赤外線が角膜に反射して得られる基準点と瞳孔などの動点の位置関係から視線を検知する技術が知られている(例えば、特許文献1参照。)。特許文献1には、可視光又は赤外光を照射する照射ユニットと、少なくとも一方の眼におけるパラメータを光学的に捕捉する捕捉ユニットと有する光学的測定装置について開示されている。
しかしながら、従来の視線方向検知装置はデザインに制約があるという問題がある。図25を用いて説明する。図25は、ユーザの目の位置とカメラの位置を説明する図である。従来の視線方向検知装置は眼球に赤外線を照射し、眼球及び眼球で反射する赤外線を斜め方向からカメラ601(赤外線に感度を持つ)で撮像する。このため、カメラ601と目の距離が長く設定されると必然的にメガネも大きくなってしまい、水中メガネのようなデザインにならざるを得なかった。これを回避するため、カメラ601と目の距離を短くすると、ユーザの視界にカメラ601が入ってしまい、ユーザにとって邪魔になる。
カメラ601を小さくすることも検討されるが、一見して見えない程度にカメラ601を小さくすると、カメラ601の撮像素子の受光面積も小さくなり感度低下をきたす。感度低下を補うためにサイズに制約があるカメラ601で画素を大きくすると画素数を上げられないので精細な画像を撮像できず正確な視線追跡が困難になる。また、カメラ601が小さいと、ユーザが装着するメガネがずれた場合、目と撮像素子及び光源の位置関係が変化することで、正確な視線追跡が出来なくなるおそれがある。
したがって、現状ではカメラ601と目の距離がある程度、長いことが合理的であるが、この場合はデザインに制約があるという問題がある。
本発明は、上記課題に鑑み、デザインの制約が少ない視線方向検知装置を提供することを目的とする。
上記課題に鑑み、本発明は、視線方向検知装置であって、赤外線を眼球に照射する赤外線照射部と、レンズに形成された、可視光に対し少なくとも半透明な1つ以上の赤外線センサと、前記眼球から反射した赤外線の入射により前記赤外線センサが出力した信号を解析して視線方向を決定する制御部と、を有することを特徴とする。
デザインの制約が少ない視線方向検知装置を提供することができる。
視線方向検知装置の概略的な動作を説明する図の一例である。 視線方向検知装置の概略斜視図の一例である。 左側のレンズをユーザから見た図の一例である。 制御ユニットの一例のハードウェア構成図である。 赤外線センサの形成方法を説明する図の一例である。 赤外線センサが有するp型半導体の構造式の一例である。 赤外線センサが有するp型半導体の構造式の一例である。 LED光源の点灯及び赤外線センサの出力電圧に関する周辺回路の構成を説明する図の一例である。 視線追跡に関して制御ユニットが有する機能をブロック状に示す機能ブロック図の一例である。 シミュレーションの条件を説明する図の一例である。 シミュレーション結果を視覚的に示した図の一例である。 より詳細なシミュレーション結果の一例を示す図である。 メガネ型の視線方向検知装置が視線方向を決定する手順を示すフローチャート図の一例である。 赤外線センサの他の配置例を説明する図の一例である。 視線方向検知装置の概略的な動作を説明する図の一例である(実施例2)。 メガネ型の視線方向検知装置の構成図の一例である。 メガネ型の視線方向検知装置の構成を説明する図の一例である。 赤外線センサアレイの構成例を説明する図である。 制御ユニットが有する機能をブロック状に示す機能ブロック図の一例である。 視線方向の検出イメージを説明する図の一例である。 視線方向検知装置の概略的な動作を説明する図の一例である。 シミュレーション結果を説明する図の一例である。 メガネ型の視線方向検知装置が視線方向を決定する手順を示すフローチャート図の一例である。 レンズの断面図の一例である。 ユーザの目の位置とカメラの位置を説明する図の一例である。
以下、本発明を実施するための形態の一例として、視線方向検知装置と視線方向検知装置が行う視線方向検知方法について図面を参照しながら実施例を挙げて説明する。
図1は、本実施例の視線方向検知装置100の概略的な動作を説明する図の一例である。図1(a)はメガネ型の視線方向検知装置100の正面図を示している。まず、視線方向検知装置100にはメガネのリム21の顔側に少なくとも1つ以上のLED光源11(赤外線を照射する)が配置されている。また、レンズ22の顔側には複数の透明な赤外線センサ12がリム21に沿ってリム21の内側に形成されている。LED光源11と赤外線センサ12はいずれも顔側にある。図1では右側のレンズ22の構成のみを示すが左側のレンズ22にもLED光源11が配置され赤外線センサ12が形成されている。
LED光源11と赤外線センサ12はテンプル23等に配置された後述する制御ユニットに接続されており、制御ユニットによりLED光源11の点灯が制御され、また、赤外線センサ12が赤外線を検出して出力する出力電圧が取得される。
レンズ22と目の距離は、一般的なメガネにおけるレンズ22と目の距離と同等でよい。したがって、図1に示すようにレンズ22に赤外線センサ12を形成することで、デザインの制約が少ない視線方向検知装置100を提供することができる。また、赤外線センサ12は透明か又は少なくとも半透明なので、ユーザの視線が外界と遮断されず、AR(Augmented Reality)グラスのような用途に使うことができる。また、当然ながら、ユーザの視線が外界と遮断されたVR(Virtual Reality)グラスのような用途に使うことも可能である。
図1(b)は、視線方向検知装置100を装着したユーザの視線方向の検知例を説明する図の一例である。図1(b)では視線方向が正面の場合のLED光源11の点灯と赤外線センサ12の出力電圧について説明する。
眼球が正面を向いているものとする。この場合、LED光源11が照射して眼球で反射した赤外線はどの赤外線センサ12にも概ね均等に入射することになるので、眼球の周囲の各赤外線センサ12はそれぞれ同程度の出力電圧を出力する。すなわち、特に大きな出力電圧を出力する赤外線センサ12はない。この関係は、点灯するLED光源11の位置に関わらず同じため、例えば、閾値以上の出力電圧を出力する赤外線センサ12がない場合に、視線方向が正面であることを推定できる。
一方、図1(c)に示すように、視線方向がユーザから見て上向き(12時の方向)の場合、赤外線センサ12には均等に赤外線が入射せず、眼球で反射した赤外線が6時の方向の赤外線センサ12に多く入射する傾向が生じる。この関係は、点灯するLED光源11の位置に関わらず同じため、大きな出力電圧を出力する赤外線センサ12とはおおよそ180度逆方向が視線方向であると推定できる。
より詳細には、視線方向によって、点灯したLED光源11に対しどの方向の赤外線センサ12で強い出力電圧が検出され、どの方向の赤外線センサ12で弱い出力電圧が検出されるかをパターン化しておけば、視線方向を推定できる。
このように、本実施形態の視線方向検知装置100は透明又は半透明な赤外線センサ12をレンズ22に形成することで、デザインの制約が少ない視線方向検知装置100を提供することができる。
<用語について>
メガネとは、視力矯正の機能又は光線の低減の機能を有するレンズとそれを人が目の装着するための部品とを言う。本実施形態では、メガネ型の視線方向検知装置について説明するが、視力矯正や光線の低減の機能は必要とされず、レンズを人が目に装着するための機能を有していればよい。メガネ型はサングラス型と呼ばれてもよい。また水中メガネなどのようにレンズが1つであってもよい。
また、視線方向検知装置100はメガネに搭載されることで視線方向検知装置として機能してもよく、メガネに搭載されていない状態で流通してよい。
赤外線とは、スペクトルが赤色の外に現れる電磁波であり、光の一種である。波長は主に800ナノメートルから1ミリメートルの光を言うが厳密にこの波長でなくてもよい。赤外光、近赤外線、近赤外光などと呼ばれる場合がある。
<構成例>
図2は、本実施例の視線方向検知装置100の概略斜視図の一例を示す。図1と同様に、左側のレンズのリム21にLED光源11が配置され、左側のレンズ22に同心円状に赤外線センサ12が形成されている。また、左側のテンプル23には制御ユニット13が埋め込まれている。制御ユニット13はテンプル23に外付けされていてもよいし、メガネのフレームとケーブルを介して接続されていてもよい。
リム21に配置されるLED光源11は、ユーザの目の側のリム21に形成された凹部に埋め込まれているが一部又は全体がリム21からユーザの目の側に突出していてもよい。LED光源11は目を取り囲むように配置されることが好ましい。また、LED光源11の数は少なくとも1つ以上であればよいが、LED光源11の数が多い方が反射光も検出しやすいと考えられるため、LED光源11の数は2〜4つ以上であってもよい。あるいは、特に検知したい視線方向(例えば、正面とそれ以外)のみを検知するために1つのみのLED光源11が配置されていてもよい。あるいは、リム21にドーナツ状に配置された1つのLED光源11があってもよい。
同様に、レンズ22のユーザの目の側に形成されている赤外線センサ12も目を取り囲むように配置されることが好ましい。また、赤外線センサ12の数が多い方が検知される視線方向の分解能の向上に有利であると推測される。あるいは、特に検知したい視線方向(例えば、正面とそれ以外)のみを検知するために1つのみの赤外線センサ12が配置されていてもよい。LED光源11と赤外線センサ12の数は同じでなくてよい。
図3は、左側のレンズ22をユーザから見た図の一例を示す。なお、左側のテンプルは省略されている。図3に示すように、レンズ22には制御ユニット13と赤外線センサ12とを電気的に接続するアノード側の透明配線14aとカソード側の透明配線14bが形成される。赤外線センサ12だけでなく配線も透明であることで、ユーザの視界を遮ることを抑制した視線方向検知装置100を提供できる。
透明配線14はリム21から赤外線センサ12までを導通させればよく、リム21から制御ユニット13までは一般の金属配線で接続されてよい。透明配線14は、ITO(酸化インジウム・スズ)、導電性ポリマー、グラフェン、カーボンナノチューブ等どのような材料で形成されてもよい。
なお、LED光源11も制御ユニット13と電気的に接続されるか、LED光源11はリム21に配置されるため(視界に入りにくいため)、LED光源11と制御ユニット13とを接続する配線は透明でなくてよい。
<制御ユニットのハードウェア構成例>
図4は、本実施形態に係る制御ユニット13の一例のハードウェア構成図である。制御ユニット13は、出力電圧を解析して視線方向を決定する情報処理装置である。一般に、マイコン、SoC(System On Chip)、LSIなどと呼ばれていてもよい。
制御ユニット13は、CPU101(Central Processing Unit)と、RAM102と、入力装置103と、外部I/F104と、フラッシュメモリ105と、ROM106と、無線通信装置107と、表示制御部108と、バッテリ109とを有する。バッテリ109を除く各ハードウェア要素は、それぞれがバスBで接続されている。
CPU101は、ROM106やフラッシュメモリ105からRAM102に展開されたプログラムを実行することで、制御ユニット13全体の制御や機能を実現する演算装置である。ROM106は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリである。ROM106には、制御ユニット13が起動時に実行するBIOS(Basic Input/Output System)、OS(Operating System)等が格納されている。RAM102は、プログラムやデータを一時保持する揮発性の半導体メモリである。フラッシュメモリ105は、格納しているプログラムやデータを所定のファイルシステムやDBにより管理している。
入力装置103は、ユーザが各操作信号を制御ユニット13に入力するのに用いられる。例えば、電源オン/オフのスイッチ、マウスのクリックボタン、ハードキーなどを有している。
外部I/F104は、外部装置とのインタフェースである。外部装置には、LED光源11や赤外線センサ12等がある。外部I/F104はLED光源11を点灯させる制御信号を出力し、赤外線センサ12から出力電圧を取得する。
無線通信装置107は、例えばPC、スマートフォン、タブレット端末等のホスト装置と、例えば、Bluetooth(登録商標)、Bluetooth Low Energy、ZigBee(登録商標)、NFC(Near Filed Communication)、赤外線通信、可視光通信、音波通信等により通信する。また、無線通信装置107が無線LANや携帯電話網の基地局と通信してもよい。無線通信装置107は外部から映像や音声のコンテンツを取得し、フラッシュメモリ105に記憶させる。
表示制御部108は、メガネ型の視線方向検知装置100がレンズ22の全体又は一部に液晶ディスプレイ等を有する場合、液晶ディスプレイに映像を表示する。例えば、メガネのレンズがシースルーディスプレイ(透明な液晶ディスプレイ)により構成されている場合、ユーザは外界を視認しながらコンテンツを目視できる。シースルーディスプレイとしては、例えば透過型無機ELディスプレイTASEL 等が適用可能である。バッテリ109は視線方向検知装置100に電力を供給する。
シースルーディスプレイと視線追跡装置が一体化することで、単に映像が見られるというだけでなく、視線によりディスプレイの操作も可能になる。
<赤外線センサの形成>
続いて、図5を用いて赤外線センサ12の形成方法を説明する。図5は赤外線センサ12の形成方法を説明する図の一例である。赤外線センサ12は透過度が高いことが好ましい。例えば、可視光を400〜700nmとすると、この範囲の光の平均的な透過率が30%以上あることが好ましい。更に好ましくは50%以上あるとなおよい。
本実施例における赤外線センサ12は、例えば以下のような材料により形成される。
・p型半導体;シグマアルドリッチ社製、Octabutoxy−2,3−naphthalocyanine
・n型半導体:フロンティアカーボン社製、PCBM
・HBL:シグマアルドリッチ社製;ポリエチレンイミン、80%エトキシ化
・EBL:MoOx
・アノード電極:ITO
また、本実施例における赤外線センサ12のp型半導体は、例えば図6に示すような材料により形成されてもよい。図6に示す材料は非特許文献1にも記載されている(SQ880)。
また、赤外線センサ12のp型材料として、図7に示す構造式の材料も適用可能である。図7に示す材料は非特許文献2にも記載されている(PDTP−DFBT)。
赤外線センサ12は、例えば以下のような手順で形成される。まず、図5に示すように、透明配線14を含む透明基板上にIT0電極51が所定形状にパターニングされている。
(1)赤外線センサ12の形成位置が開口したマスクパターン52を用いて、スプレー53がHBLを透明基板にスプレーする。
(2)次に、p型半導体とn型半導体を1:3の重量比で混合したトルエン溶液を調製し、これを同様のマスクパターンでHBL上にスプレー塗工し、乾燥させる。
(3)その後、真空蒸着により、EBL、アノード電極を順次メタルマスクでパターニング蒸着する。
なお、図5で説明した赤外線センサ12の形成方法は一例に過ぎず、各材料、各材料の製造元、及び、形成手順はそれぞれ一例に過ぎない。
<回路構成>
図8は、LED光源11の点灯及び赤外線センサ12の出力電圧に関する周辺回路の構成を説明する図の一例である。図8(a)はLED光源11の点灯回路201を示す。LED光源11の点灯回路201は、それぞれ直列に接続された、電源P、スイッチSW、抵抗R、及び、LED光源11を有する。制御ユニット13がスイッチSWをONすると、電源Pから流れる電流が抵抗Rで制限されLED光源11に流れLED光源11が発光する。図8(a)ではLED光源11は1つだけ図示されているが、リム21に配置されたLED光源11は同様の点灯回路201により点灯制御される。制御ユニット13は、同時には1つのLED光源11のみが点灯するように制御しながら、ユーザから見て時計回り又は反時計回りにリム21の全周に配置されたLED光源11を点灯させる。
例えば、1つのLED光源11を50Hzで点灯し、LED光源11が10個あるとすると、50Hz×10=500HzでいずれかのLED光源11が点灯する。視線方向を1回、検出するためにリム21の全周の10個のLED光源11を点灯したとしても、十分に短い時間で視線方向を検出できる。
図8(b)は赤外線センサ12の出力電圧を検出する電圧検出回路202の一例を示す。図8(b)の電圧検出回路202は、それぞれ直列に接続された、電源V、赤外線センサ12、及び、抵抗Rを有し、抵抗Rに並列に電圧計Sが接続されている。電源Vはバイアス電源で、赤外線センサ12に赤外線が入射されると回路に流れる電流が増加し、この電流増加に応じて抵抗Rの両端電位差が変化し、これを電圧計Sで測定する。これにより、赤外線が赤外線センサ12に入射して得られた出力電圧を取得する。
<機能について>
図9は、視線追跡に関して制御ユニット13が有する機能をブロック状に示す機能ブロック図の一例である。制御ユニット13は、制御部31、光源発光部32、点灯時刻記録部33、出力電圧取得部34、電圧時刻記録部35、及び、視線方向決定部36を有する。制御ユニット13が有するこれらの機能は、図4に示された各構成要素のいずれかが、フラッシュメモリ105からRAM102に展開されたプログラムに従ったCPU101からの命令により動作することで実現される機能又は手段である。
また、制御ユニット13は、図4に示されたフラッシュメモリ105又はRAM102等に構築される時刻DB29を有している。
制御部31は、視線方向を決定するため制御ユニット13が有する各ブロックを制御する。制御部31は、全てのLED光源11が1回ずつ発光するまでを処理を1つのサイクルとして、光源発光部32にLED光源11を順番に発光させる。また、1つのサイクルが終了するごとに、視線方向決定部36に視線方向を決定させる。
光源発光部32は、リム21の周囲に配置された各LED光源11を所定の周期で順番に発光させる。制御部31はこの周期を光源発光部32に設定してもよいし、光源発光部32に随時、LED光源11の発光を指示してもよい。
点灯時刻記録部33は、光源発光部32が実際にLED光源11を発光した時刻(又は制御部31から点灯を指示された時刻でもよい)とLED光源11の識別情報を時刻DB29に記録する。したがって、全てのLED光源11について発光時刻と識別情報が記録される。
出力電圧取得部34は各赤外線センサ12から出力電圧を取得する。出力電圧をアナログ値として記録してもよいし、閾値以上の出力電圧を検出してもよい。本実施例では説明を容易にするために出力電圧のアナログ値を赤外線センサ12ごとに取得するものとする。
電圧時刻記録部35は、赤外線センサ12が検出した出力電圧を、出力電圧が検出された電圧検出時刻と共に時刻DB29に記録する。出力電圧は、赤外線センサ12の識別情報に対応付けてに記録される。
視線方向決定部36は、LED光源11の1サイクルの発光が終わると、時刻DB29に記録されたLED光源11の発光時刻と同時期の赤外線センサ12の電圧検出時刻を特定し、この電圧検出時刻に対応付けられている各赤外線センサ12の出力電圧に基づいて視線方向を決定する。詳細は後述する。
表1(a)は時刻DB29に記録される発光時刻の記録例を示す。表1(a)ではLEDの識別情報に対応付けて発光時刻が記録されている。発光時刻は、1つのサイクルの開始をゼロとする相対時刻である。絶対時刻を記録してもよい。例えば、識別情報が001のLED光源11は0ミリ秒(サイクルの開始と同時)に発光し、識別情報が002のLED光源11は2ミリ秒に発光したことが記録されている。
表1(b)は電圧検出時刻の記録例を示す。表1(b)では電圧検出時刻に対応付けて各赤外線センサ12が検出した出力電圧が記録されている。表1(b)では8つの赤外線センサ12の出力電圧が記録されているが、赤外線センサ12の数は一例である。
表1(a)の発光時刻と表1(b)の電圧検出時刻が絶対時刻であれば発光時刻と電圧検出時刻とは容易に対応付けられる。絶対時刻でない場合でも、制御部31がLED光源11の発光とほぼ同時に出力電圧取得部34に赤外線センサ12の出力電圧をサンプリングすることで発光時刻と電圧検出時刻はほぼ同じになる。
視線方向決定部36は表1(a)の発光時刻と最も近い表1(b)の電圧検出時刻を特定することで、どのLED光源11が発行した際にどの赤外線センサ12がどのくらいの出力電圧を出力したかを特定できる。
なお、出力電圧の単位は説明の便宜上、階調値に変換されている。絶対的な数値よりも各赤外線センサ12の数値の相対的な相違が視線方向の判断に有効なため、階調値でも支障はない。
<視線方向の検知例>
以下では、図10〜図12を用いてシミュレーションによる視線方向の決定方法を説明する。図10は、シミュレーションの条件を説明する図の一例である。シミュレーションでは、メガネのリム21の顔側に8つのLED光源11が配置され、レンズ22には8つの赤外線センサ12が形成されていることが設定された。
また、その他の条件は以下のように設定された。
・赤外線に対する白目の反射率は30%、黒目の反射率は10%
・眼球の形状は球体をベースとして、白目の曲率をR12,黒目の曲率をR8
・眼軸長(黒目部表面と白目部表面の間の最大長)は25.6〔mm〕
シミュレータは、簡単のため8つのLED光源11を1つずつ順番に点灯させることは行わず、8つのLED光源11を同時に点灯させ、眼球表面で反射した赤外線が8つの赤外線センサ12でどのように検知されるかをシミュレートした。
図11は、シミュレーション結果を視覚的に示した図の一例である。図11で示す左向き、右向きは、ユーザ側(メガネ側)から見た方向である。図11(a)は視線方向が右向きの場合のシミュレーション結果であり、図11(b)は視線方向が正面の場合のシミュレーション結果であり、図11(c)は視線方向が下向きの場合のシミュレーション結果である。なお、8つのLED光源11を同時に点灯させるシミュレーション結果は、8つのLED光源11を1つずつ順番に点灯させ、1つのLEDが光るごとに8つの赤外線センサ12で出力電圧を検出し、8つのLEDの点灯が終わったら(1サイクルが終わったら)、各センサごとに出力電圧を合計するシミュレーション結果と同等である。なお、図11では出力電圧が階調値に変換され、階調値が大きいほど大きい輝度で赤外線センサ12が示されている。
例えば、視線方向が右向きの場合、左側の階調値が大きくなる傾向にあることが分かる。正面の場合、8つの赤外線センサ12の階調値はいずれも小さくなる傾向にあることが分かる。下向きの場合、上方向の階調値が大きくなる傾向にあることが分かる。
図12は、より詳細なシミュレーション結果の一例を示す図である。図12では、右向き、下向き、左向き、正面、及び上向きの各視線方向について、各赤外線センサ12の階調値が示されている。また、図12の下にはレーダーチャートが図示されている。レーダーチャートは、各赤外線センサの階調値を中心からの距離で表し、赤外線センサ12が配置された8方向ごとに階調値を結線している。したがって、外側に階調値があるほど、階調値が大きい。
図12に示すように、視線方向とは反対方向の階調値が大きくなることが確認され、本実施形態のメガネ型の視線方向検知装置100により視線方向を検知又は追跡できることがわかる。
視線方向決定部36は、1サイクルごとに最も大きい階調値の方向(第一の方向)とは反対の方向(第二の方向)が視線方向であると判断すればよい。あるいは、シミュレーション結果や被験者を使った実験などで図12のような階調値のパターンを機械学習して識別器を作り、この識別器を視線方向決定部36として用いてもよい。
<動作手順>
図13は、メガネ型の視線方向検知装置100が視線方向を決定する手順を示すフローチャート図の一例である。図13の処理は、視線方向検知装置100の電源がONの間、繰り返し実行される。
まず、制御部31は光源発光部32に対し1つのLED光源11を点灯させる(S10)。メガネのレンズ22に配置されたLED光源11を重複なく順番に点灯させればどのような順番で点灯させてもよい。例えば、反時計回りの順、又は、時計回りの順に点灯させる。
次に、点灯時刻記録部33はLED光源11の識別情報と点灯時刻を時刻DB29に記録する(S20)。
また、出力電圧取得部34は、LED光源11が点灯したタイミングかそれよりもやや遅いタイミングで各赤外線センサ12の出力電圧を検出する(S30)。あるいは、LED光源11の点灯周期よりも十分に短い周期で常に赤外線センサ12の出力電圧を検出してもよい。
電圧時刻記録部35は、出力電圧を検出した時刻と共に出力電圧を階調値に変換して時刻DB29に記録する(S40)。
制御部31は、1サイクルのLED光源11の点灯が終了したか否かを判断する(S50)。ステップS50の判断がNoの場合、処理はステップS10に戻る。
ステップS50の判断がYesの場合、視線方向決定部36はLED光源11の点灯と同時刻に赤外線を検出した赤外線センサ12を、LED光源11ごとに特定する(S60)。したがって、LED光源11が8つあり、発光と同じタイミングで出力電圧が検出された場合、8グループの階調値が得られる。1グループには8つの赤外線センサ12の階調値が含まれている。
視線方向決定部36は、各グループごとに図12で説明したような方法で視線方向を決定する(S70)。全てのグループで視線方向が同じとは限らないため、各グループから決定された視線方向を合成して、視線方向を決定する。こうすることで、実際の目の向きと決定される視線方向の違いを少なくできる。
なお、ステップS60の処理を省略し、図12で説明したように、視線方向決定部36は1サイクル分の出力電圧を赤外線センサ12ごとに合計して視線方向を検知してもよい。
<赤外線センサの配置の他の例>
赤外線センサ12は目を囲むように配置されていることが好ましいが、図1等に示した配置例には限られない。図14は赤外線センサ12の配置例を説明する図の一例である。図14(a)ではメガネのリム21の形状に関係なく長方形(又は正方形)の形状に赤外線センサ12が配置されている。眼球に反射した赤外線は目の外側に進行するので、長方形であっても支障なく赤外線を検知できる。
図14(b)は目の形状に沿って目に対する距離が最短になるように配置された赤外線センサ12の配置例を示す。このように、目に対し近い位置に赤外線センサ12があれば、眼球に反射された赤外線の減衰が小さいうちに赤外線センサ12に入射するので、赤外線センサ12が赤外線を効率的に検出できる。
図14(c)は赤外線センサ12が2重に配置された赤外線センサ12の配置例を示す。このような配置例では、目で反射した赤外線が内側と外側の2つの赤外線センサ12で検出され得るため視線方向の精度が向上することを期待できる。
<まとめ>
以上説明したように、本実施例の視線方向検知装置100は、透明又は半透明な赤外線センサ12をレンズ22に形成することで、デザインの制約が少ない視線方向検知装置100を提供することができる。
本実施例では赤外線センサ12がレンズ22にアレイ状に配置された視線方向検知装置100について説明する。
図15は、本実施例の視線方向検知装置100の概略的な動作を説明する図の一例である。図15に示すように、テンプル23のレンズ22に近い部位に光源ユニット18が配置され、鼻当て24にはミラー19が配置されている。更に、レンズ22の鼻側の領域にはローパスフィルタ15が形成されており、レンズ22の中央部には赤外線センサアレイ17が形成されている。LED光はライン状又はドット状となっている。
(1)光源ユニット18が赤外線を照射する。
(2)ミラー19がローパスフィルタ15に向けて赤外線を反射させる。
(3)ローパスフィルタ15は赤外線を眼球に向けて反射する。
(4)目に到達した赤外線は、目のどの部分に到達したかによって異なる湾曲の程度で湾曲する。目は角膜で大きく湾曲し、白目では緩やかに湾曲しているためである。赤外線センサアレイ17には目で反射した赤外線が入射する。図15(a)で説明した(1)〜(4)の照射方法を(i)とする。
赤外線センサアレイ17にはマトリックス状に赤外線センサ12が配置されているので、どの赤外線センサ12が赤外線を検出したかによって、湾曲の程度を検出できる。制御ユニット13は、予め視線方向と湾曲の態様の関係を対応付けたパターンを保持しており、赤外線センサ12が検出した出力電圧をこのパターンと比較することにより視線方向を決定できる。
<構成例>
図16は、メガネ型の視線方向検知装置100の構成図の一例を示す。図15にて説明したように、視線方向検知装置100は一例として、光源ユニット18、ミラー19、ローパスフィルタ15、及び、赤外線センサアレイ17を有する。以下では、これらについて詳細に説明する。
図17(a)は光源ユニット18の構造の一例を示す。光源ユニット18は、光源18aと、光源18aが発光する赤外線を集光して平行光(コリメート光)に調整するコリメートレンズ18bを有する。赤外線をコリメート光に調整することで、光源18aが照射する赤外線が広がらずにミラー19に到達するので、鮮明なライン光が得られやすくなる。
コリメートレンズ18bは、必ずしも必須ではなく凸レンズや集光レンズで代用できる場合がある。
図17(b)はローパスフィルタ15の一例を示す図である。
ローパスフィルタ15の一例として、朝日分光社製のSIO810又はこれと同等の分光特性を持つフィルターが適用可能である。このようなローパスフィルタ15の場合、概ね820〔nm〕以下は透過し(ローパスし)、それよりも長い波長の光は反射する。このため、赤外線をローパスフィルタ15に照射させた場合、ライン状又はドット状の赤外線が形成される。
なお、レンズ22の中央部には赤外線センサアレイ17が形成されるため、ローパスフィルタ15として確保できる領域(面積)はそれほど大きくない。ローパスフィルタ15の面積が小さいとローパスフィルタ15で反射したライン状の反射光が視線方向を検知するために十分な幅にならず、目の幅をカバーしきれないおそれがある。
そこで、好ましくはローパスフィルタ15又はローパスフィルタ15が形成されるレンズ22の部分が凸ミラーの形状を有することが好ましい。図17(c)はメガネ型の視線方向検知装置100の上面図である。図17(c)ではローパスフィルタ15が形成される領域が凸形状22aを有している。凸ミラーで反射した光が拡大されるように、ローパスフィルタ15が凸ミラー上に形成されることで、ローパスフィルタ15の面積が小さくてもライン状の反射光が拡大され、視線方向を検知するために十分な幅になり、目の幅をカバーできる。
また、図17(c)に示すように鼻当て24のレンズ22側にはミラー19が形成されている。必ずしも鼻当て24にミラー19が形成される必要はなく、光源ユニット18が照射する赤外線をローパスフィルタ15に向けて反射できればよい。しかし、鼻当て24がミラー19を兼用できることで限られたスペースにミラー19を配置しやすくなる。
なお、光源ユニット18がテンプルでなく鼻当て24側に配置されてもよい。この場合はミラー19が不要になる。しかし、光源ユニット18と制御ユニット13の配線が長くなってしまう。
続いて、図18を用いて赤外線センサアレイ17について説明する。図18は、赤外線センサアレイ17の構成例を説明する図である。なお、図18は赤外線センサアレイ17の一部を取り出したものである。レンズ22にはより多くの赤外線センサ12が形成されている。
赤外線センサアレイ17には、赤外線センサ12がマトリックス状(アレイ状又は格子状という場合がある)に形成されており、各赤外線センサ12は行方向及び列方向の透明配線14の上に形成されている。すなわち、行方向と列方向の透明配線14の交点に赤外線センサ12が形成されている。これにより、行方向と列方向のそれぞれから赤外線センサ12と電気的に接続可能となる。
各行の赤外線センサ12には電源Vからバイアス電源を印加できるようになっている。電源Vと各行の透明配線14の間にはそれぞれ、バイアス電源の印加をON/OFFできるスイッチ素子Trが形成されている。このスイッチ素子Trには制御ユニット13が接続されている。
列方向の透明配線14にはそれぞれ抵抗Rと電圧計Sが並列に接続されている。抵抗Rは出力電圧を検出するために使用され、電圧計Sは抵抗に生じた電圧を検出する。電圧計Sは制御ユニット13と接続されている。
行方向のある透明配線14に接続されたスイッチ素子TrのみがONで他のスイッチ素子Trが全てOFFの場合、スイッチ素子TrがONとなった行の赤外線センサ12のみが赤外線を検出可能になる。目で反射した複数の縦のライン光が赤外線センサアレイ17に到達すると、ライン光を検出した赤外線センサ12が出力電圧を生じさせる。制御ユニット13はこの出力電圧と赤外線センサ12の列番号を記録する。
次に、制御ユニット13は別の行のスイッチ素子TrのみをONにして他のスイッチ素子TrをOFFにする。すると、スイッチ素子TrがONになった行の赤外線センサ12が同様にライン光を検出して、各列の赤外線センサ12が出力電圧を生じさせる。行単位で赤外線センサ12を順次ONとすることで、眼球で反射された垂直方向(その他の方向でも良い)のライン光の入射位置を面で捕らえることができる。
制御ユニット13が全ての行についてスイッチ素子TrをONにして、各列の赤外線センサ12の出力電圧を記録すると、目の凹凸で湾曲した形状のライン光が赤外線センサ12に入射するため、出力電圧が高い赤外線センサ12を辿ると同様の形状になることが期待される。つまり、出力電圧を閾値などと比較することで、目に当たったライン光とほぼ同じ形状とみなせる複数の赤外線センサ12を抽出可能になる。
例えば行の数(走査線)が100本で眼球の動きを100Hzで観測する場合は、100×100Hz=10kHzで、制御ユニット13が1つの走査線をONに制御する。よって、視線方向の変化よりも十分に速い速度で1回の視線方向を検出できる。
<機能について>
図19は、本実施例の制御ユニット13が有する機能をブロック状に示す機能ブロック図の一例である。本実施例の制御ユニット13は制御部31、電源ON部41、出力電圧検出部42、電圧記録部43、及び、視線方向決定部36を有する。制御ユニット13が有するこれらの機能は、図4に示された各構成要素のいずれかが、フラッシュメモリ105からRAM102に展開されたプログラムに従ったCPU101からの命令により動作することで実現される機能又は手段である。
また、制御ユニット13は、図4に示されたフラッシュメモリ105又はRAM102等に構築される電圧記録DB44を有している。
制御部31は、視線方向を決定するため制御ユニット13が有する各ブロックを制御する。制御部31は、赤外線センサアレイ17の全ての行に接続されたスイッチ素子Trを1回ずつONするまでを処理の1つのサイクルに設定して、電源ON部41にスイッチ素子TrをONにさせる。また、スイッチONのタイミングを出力電圧検出部42と電圧記録部43に通知する。また、1つのサイクルが終了するごとに、視線方向決定部36に視線方向を決定させる。
電源ON部41は、制御部31からの指示により、赤外線センサアレイ17の行に接続されたスイッチ素子Trを順番にONする。なお、同時には1つのスイッチ素子TrのみをONにする。なお、スイッチ素子TrをONにする順番は、最上部又は最下部のどちらからでもよいし、中央部から始めてもよい。
出力電圧検出部42はスイッチONのタイミングで列方向の赤外線センサ12から出力電圧を取得する(サンプリングする)。赤外線センサアレイ17のどの行がONになっても、全ての列の赤外線センサ12が赤外線を検出する可能性がある。出力電圧検出部42は列番号と出力電圧を電圧記録部43に通知する。出力電圧をアナログ値として記録してもよいし、閾値以上の出力電圧を検出してもよい。本実施例では説明を容易にするために出力電圧をそのまま記録し、後に閾値と比較して出力電圧を1,0に二値化する。
電圧記録部43は、制御部31からスイッチONのタイミングを受け取ることで、スイッチがONにされた行番号を検知している。更に、電圧記録部43は、出力電圧検出部42から列番号とその出力電圧を取得する。電圧記録部43は、制御部31からの通知により得た行番号と出力電圧検出部42から取得した列番号に対応付けて出力電圧を電圧記録DB44に記録する。
視線方向決定部36は、1つのサイクルごとに、電圧記録DB44に記憶された情報を用いて視線方向を決定する。
表2は電圧記録DB44に記録された出力電圧の一例を示す。なお、表2の出力電圧は実施例1と同様に階調値である。電圧記録DB44には、赤外線センサアレイ17の行と列に対応付けられて1サイクル分の出力電圧が記録されている。例えば、1行目の各列の出力電圧は、1行目のスイッチ素子TrがONになった時に1行目の赤外線センサ12が検出した出力電圧である。
<視線方向の検知例>
以下では、図20〜図22を用いてシミュレーションによる視線方向の決定方法を説明する。
図20は、視線方向の検出イメージを説明する図の一例である。図20(a)のI〜IVの縦方向の直線は、ローパスフィルタ15で反射したライン光である。本実施形態ではライン光は常に照射されていてもよいし、赤外線センサ12が出力電圧を検出するタイミングでのみ照射されていてもよい。
図20(b)は赤外線センサ12が検出する出力電圧を模式的に示すイメージ図である。図20(b)では一定以上の出力電圧を検出した列方向の赤外線センサ12が結線されている。ライン1はIのライン光に対応して検出される出力電圧であり、ライン2はIIのライン光に対応して検出される出力電圧であり、ライン3はIIIのライン光に対応して検出される出力電圧であり、ライン4はIVのライン光に対応して検出される出力電圧である。ライン2,3は湾曲しているが、これは眼球の湾曲によるものである。また、ライン1〜4の形状は視線方向によって異なる。したがって、ライン光を照射して赤外線センサ12が検出する出力電圧を監視することで視線方向を決定できる。
なお、図20の出力電圧は説明を容易にするためのイメージであり、図20(b)に示すようなきれいなカーブが得られなくてもよい。カーブが得られなくても、出力電圧のパターンにより視線方向が決定される。
図15では、ローパスフィルタ15で反射したライン光により視線方向を検知すると説明したが、ローパスフィルタ15はなくてもよい。図21を用いて、説明する。図21は、視線方向検知装置の概略的な動作を説明する図の一例である。なお、図21では主に図15(a)との相違を説明する。図21ではローパスフィルタ15がレンズ22に配置されていない。また、鼻当て24のミラー19は、光源ユニット18から照射された赤外線を眼球方向に反射する向きに取り付けられている。この構成では以下のような赤外線の照射方法で視線方向を検知できる。
(ii) 光源ユニット18として通常のLED光(例えば出射角度25°)を用い、鼻当て24のミラー19のみでLED光を反射して目に照射する。
(iii) また、LED光をライン状又はドット状とし、鼻当て24のミラー19のみで反射して目に照射する。
したがって、上記の(i)と合わせて3つの照射方法がある。
図22は、シミュレーション結果を説明する図の一例である。シミュレーションの条件は以下のとおりである。
・メガネフレームのサイズ:63〔mm〕×38〔mm〕
・光源の出射角度(テンプル23に対し):約25度
・白目の曲率:R12,黒目の曲率:R8
・眼軸長(黒目部表面と白目部表面の間の最大長):25.6〔mm〕
・鼻かけ分のミラー19反射率:90%
シミュレータは、光源ユニット18に光を照射させ、行方向のスイッチ素子Trを1つずつ順番にONにして、各列の赤外線センサ12がどのくらいの出力電圧を検知するかをシミュレートした。
図22(a)は、目が正面を向いている場合の1サイクル分の出力電圧を輝度で表したシミュレーション結果の一例である。輝度が大きいほど(明るいほど)出力電圧が大きいことを示す。図22(b)は図22(a)の出力電圧を1,0に二値化して、1を白に、0を黒に置き換えて表す図である。二値化することで、ある部分の赤外線センサ12の出力電圧が大きくなることが分かる。
なお、二値化の閾値は、視線方向の違いが現れるように実験的に決定してよい。例えば、1に変換される出力電圧が一定数以下になるように決定されてよい。
同様のシミュレーションをいくつかの視線方向で行ったものが図22(c)〜図22(h)である。図22(c)は左20度、図22(d)は右20度、図22(e)は左10度、図22(f)は右10度、図22(g)は上20度、図22(h)は下20度を、視線方向とする場合のシミュレーション結果である。
例えば、図22(c)と(d)では白くなるほど出力電圧が高い赤外線センサ12の場所が異なっており、右20度と左20度の視線方向の違いが出力電圧に表れている。図22(e)と(f)では白くなるほど出力電圧が高い赤外線センサ12の場所が異なっており、右10度と左10度の視線方向の違いが出力電圧に表れている。図22(g)と(h)では白くなるほど出力電圧が高い赤外線センサ12の場所が異なっており、上20度と下20度の視線方向の違いが出力電圧に表れている。
このように視線方向によって赤外線センサ12が検出する出力電圧のパターンが異なるため、視線追跡が可能になる。したがって、視線方向によって異なる出力電圧のパターンと得られた出力電圧のパターンを比較して最も近いパターンの視線方向であると判断する。例えば、8方向、16方向などの各視線方向ごとに出力電圧が1になる行番号と列番号が対応付けられた輝度パターンを保持しておく。視線方向の追跡時には、測定されたパターンで、各視線方向の輝度パターンとパターンマッチングを行う。すなわち、測定されたパターンと輝度パターンの同じ行列の要素ごとに差分を算出し差分の絶対値を合計する。合計値が最も小さくなる輝度パターンの視線方向が、ユーザが向いている視線方向であると判断する。なお、視線方向と出力電圧のパターンの関係を機械学習で対応付けておき、学習結果に出力電圧のパターンを入力して視線方向を検出してもよい。
<動作手順>
図23は、メガネ型の視線方向検知装置100が視線方向を決定する手順を示すフローチャート図の一例である。図23の処理は、視線方向検知装置100の電源がONの間、繰り返し実行される。
まず、制御部31は電源ON部41に対し1つずつスイッチ素子TrをONにさせる(S110)。全ての行の赤外線センサ12をONすればどのような順番でONにしてもよい。例えば、上又は下から順にONにする。
出力電圧検出部42はスイッチ素子TrがONになるたびに各列の赤外線センサ12が検出する出力電圧を取得する(S120)。
電圧記録部43は赤外線センサアレイ17の行と列に対応付けて出力電圧を記録する(S130)。
制御部31は、1サイクル分のスイッチをONに制御したか否かを判断する(S140)。ステップS140の判断がNoの場合、処理はステップS110に戻る。
ステップS140の判断がYesの場合、視線方向決定部36は出力電圧を二値化する(S150)。
視線方向決定部36は、図22で説明したように出力電圧のパターンに基づいて視線方向を決定する(S160)。
本実施形態によれば、レンズ面の全面に透明な赤外線センサアレイ17が付いているため、眼鏡が多少ズレたとしても、目の反射光をセンシング可能である。
<外光のカット>
目から反射した赤外線の他、外光に含まれる赤外線が赤外線センサ12により検出されるおそれがある。そこで、図24に示すように、レンズ22に外光をカットするローパスフィルタ26が配置されることが好ましい。図24は、レンズ22の断面図の一例を示す。図24に示すように、レンズ22の目とは反対側の全面にローパスフィルタ26が配置される。ローパスフィルタ26は、赤外線よりも低い波長の光を通し、それよりも高い波長の光を反射する。これにより、外光による誤検知を軽減する。なお、ローパスフィルタに代えて、可視光だけを透過するバンドパスフィルタを適用してもよい。バンドパスフィルタにより、可視光よりも波長の短い紫外線もカットでき、目への影響を軽減可能である。
<ポインティングデバイスとしての使用例>
視線方向検知装置100をマウスなどのポインティングデバイスとしてユーザが使用することでディスプレイ操作(入力)が可能になる。まず、視線方向検知装置100はBluetooth(登録商標)などの近距離無線通信でPC(Personal Computer)などの情報処理装置と通信する。
視線方向検知装置100は、検知した視線方向を情報処理装置に送信するので、情報処理装置は視線方向にカーソル(ポインタ)を移動する。クリックは例えば目の瞬きによって行う。瞬きにより眼球からの反射光のパターンが変化するため、視線方向検知装置100は瞬きを認識して情報処理装置にクリック信号を送信する。あるいは、視線方向検知装置100にクリック用のボタンを設けてもよい。
更に、ドラッグやズーム等の操作を情報処理装置に反映させるには、視線方向検知装置100のテンプル23やフレーム等にタッチパッドを組み込む。フレームへのタッチ操作を例えばズーム操作として情報処理装置に送信すると、容易にズームアップ、ズームダウンが可能となる。
<まとめ>
以上説明したように、本実施例の視線方向検知装置100は、透明又は半透明な赤外線センサ12をレンズ22に形成することで、デザインの制約が少ない視線方向検知装置100を提供することができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、図9、図19などの構成例は、制御ユニット13の処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。また、制御ユニット13処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
また、LED光源11又は光源ユニット18は赤外線照射部の一例であり、制御ユニット13は制御部の一例である。
11 LED光源
12 赤外線センサ
13 制御ユニット
15 ローパスフィルタ
17 赤外線センサアレイ
18 光源ユニット
19 ミラー
21 リム
22 レンズ
23 テンプル
31 制御部
100 視線方向検知装置
特許6159263公報 Karen Strass, et al,"Squaraine Dye for a Visibly Transparent All−Organic Optical Upconversion Device with Sensitivity at 1000 nm"ACS Applied Materials & Interfaces 2018 10 (13), 11063−11069 Jingbi You, et al, "A polymer tandem solar cell with 10.6% power conversion efficiency"Nat Commun. 2013 Feb 5; 4: 1446.

Claims (12)

  1. 視線方向検知装置であって、
    赤外線を眼球に照射する赤外線照射部と、
    レンズに形成された、可視光に対し少なくとも半透明な1つ以上の赤外線センサと、
    前記眼球から反射した赤外線の入射により前記赤外線センサが出力した信号を解析して視線方向を決定する制御部と、
    を有することを特徴とする視線方向検知装置。
  2. 前記赤外線センサは少なくとも半透明な透明配線を介して前記制御部と電気的に接続されていることを特徴とする請求項1に記載の視線方向検知装置。
  3. 前記赤外線センサは、前記レンズにマトリックス状に形成されており、
    前記眼球で反射して前記赤外線センサに入射する赤外線であることを特徴とする請求項1又は2に記載の視線方向検知装置。
  4. 前記制御部は、
    マトリックス状に形成されている前記赤外線センサのそれぞれから前記信号を取得し、
    赤外線センサのそれぞれが出力する前記信号のパターンに基づいて視線方向を決定することを特徴とする請求項3に記載の視線方向検知装置。
  5. 前記レンズの少なくとも一部にローパスフィルタを有し、
    前記赤外線照射部が照射したライン状又はドット状の赤外線は前記ローパスフィルタで反射し、前記眼球で反射してマトリックス状の前記赤外線センサに入射し、
    前記制御部は、マトリックス状に形成されている前記赤外線センサを行単位でONにするスイッチ素子を有し、
    前記スイッチ素子を行単位でONにした際に、各列の前記赤外線センサから前記信号を取得する処理をマトリックス状に形成された前記赤外線センサの行ごとに繰り返すことで、
    各赤外線センサが出力する前記信号のパターンを取得することを特徴とする請求項4に記載の視線方向検知装置。
  6. 目を囲むように複数の前記赤外線照射部がメガネのリムに形成されており、
    目を囲むように複数の前記赤外線センサが前記レンズに形成されていることを特徴とする請求項1又は2に記載の視線方向検知装置。
  7. 前記制御部は、前記赤外線照射部に対し1つずつ順番に赤外線を照射させ、
    複数の前記赤外線センサが検出する前記信号をそれぞれ取得し、
    各赤外線センサが出力する前記信号のパターンに基づいて視線方向を決定することを特徴とする請求項6に記載の視線方向検知装置。
  8. 前記制御部は、
    メガネをかけたユーザから見て、第一の方向の前記赤外線センサが他の前記赤外線センサよりも大きい前記信号を出力した場合、ユーザは前記第一の方向とは反対の第二の方向を向いていると判断することを特徴とする請求項7に記載の視線方向検知装置。
  9. 前記視線方向検知装置はメガネに搭載されていることを特徴とする請求項1〜8のいずれか1項に記載の視線方向検知装置。
  10. 前記レンズは、シースルーディスプレイであることを特徴とする請求項9に記載の視線方向検知装置。
  11. 前記レンズの目とは反対側の全面にローパスフィルタ又はバンドパスフィルタが配置されていることを特徴とする請求項1〜9のいずれか1項に記載の視線方向検知装置。
  12. 情報処理装置が視線方向を検知する視線方向検知方法であって、
    赤外線照射部が、赤外線を眼球に照射するステップと、
    レンズに形成され、可視光に対し少なくとも半透明な1つ以上の赤外線センサが、前記眼球から反射した赤外線の入射により信号を出力するステップと、
    制御部が、前記信号を解析して視線方向を決定するステップと、
    を有することを特徴とする視線方向検知方法。
JP2018211766A 2018-02-09 2018-11-09 視線方向検知装置、視線方向検知方法 Pending JP2019139743A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/266,139 US10845872B2 (en) 2018-02-09 2019-02-04 Eye-gaze tracker, eye-gaze tracking method, and recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018022393 2018-02-09
JP2018022393 2018-02-09

Publications (1)

Publication Number Publication Date
JP2019139743A true JP2019139743A (ja) 2019-08-22

Family

ID=67694163

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018211766A Pending JP2019139743A (ja) 2018-02-09 2018-11-09 視線方向検知装置、視線方向検知方法

Country Status (1)

Country Link
JP (1) JP2019139743A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023052673A1 (en) * 2021-09-29 2023-04-06 Pixieray Oy Eyeglass lens with eye-tracking components

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100220291A1 (en) * 2009-03-02 2010-09-02 Honeywell International Inc. Wearable eye tracking system
CN205594581U (zh) * 2016-04-06 2016-09-21 北京七鑫易维信息技术有限公司 视频眼镜的眼球追踪模组

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100220291A1 (en) * 2009-03-02 2010-09-02 Honeywell International Inc. Wearable eye tracking system
CN205594581U (zh) * 2016-04-06 2016-09-21 北京七鑫易维信息技术有限公司 视频眼镜的眼球追踪模组

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023052673A1 (en) * 2021-09-29 2023-04-06 Pixieray Oy Eyeglass lens with eye-tracking components

Similar Documents

Publication Publication Date Title
US10845872B2 (en) Eye-gaze tracker, eye-gaze tracking method, and recording medium
US11500536B2 (en) Neural network system for gesture, wear, activity, or carry detection on a wearable or mobile device
US8933912B2 (en) Touch sensitive user interface with three dimensional input sensor
JP6308940B2 (ja) 視線追跡シーン参照位置を識別するシステム及び方法
JP2023543557A (ja) ニアアイディスプレイの光源を駆動する方法
CN210166824U (zh) 一种可穿戴装置
US9285893B2 (en) Object detection and tracking with variable-field illumination devices
US20120092328A1 (en) Fusing virtual content into real content
KR20170018837A (ko) 적어도 하나의 물체의 위치를 결정하기 위한 검출기
EP3239819B1 (en) Device and method for contactless input
CN108279496B (zh) 一种视频眼镜的眼球追踪模组及其方法、视频眼镜
US11315483B2 (en) Systems, devices, and methods for an infrared emitting display
KR20180132496A (ko) 광학식 지문 센서의 동작 방법, 이를 포함하는 전자 장치의 동작 방법 및 디스플레이 장치
WO2022265770A1 (en) Variable intensity distributions for gaze detection assembly
Stoffregen et al. Event-based kilohertz eye tracking using coded differential lighting
CN112639687B (zh) 使用反向偏置发光二极管器件的眼睛跟踪
US11402901B2 (en) Detecting eye measurements
JP2019139743A (ja) 視線方向検知装置、視線方向検知方法
US11982814B2 (en) Segmented illumination display
US10838492B1 (en) Gaze tracking system for use in head mounted displays
KR20040027764A (ko) 두 눈에서 반사되는 빛을 추적하여 단말기를 조작하는방법, 및 그 장치
WO2023055529A1 (en) Eye tracking head mounted display device
JP2023552974A (ja) ディスプレイを介する深度測定
US20230127028A1 (en) Device for providing augmented reality and system for providing augmented reality using the same
CN110162165B (zh) 用于校准可穿戴装置中的图像传感器的系统和方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230309

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230704