JP2022059595A - 電子機器及び表示方法 - Google Patents

電子機器及び表示方法 Download PDF

Info

Publication number
JP2022059595A
JP2022059595A JP2021199312A JP2021199312A JP2022059595A JP 2022059595 A JP2022059595 A JP 2022059595A JP 2021199312 A JP2021199312 A JP 2021199312A JP 2021199312 A JP2021199312 A JP 2021199312A JP 2022059595 A JP2022059595 A JP 2022059595A
Authority
JP
Japan
Prior art keywords
eyeball
display
electrode
image
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021199312A
Other languages
English (en)
Other versions
JP7309830B2 (ja
Inventor
広昭 古牧
Hiroaki Komaki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2020166949A external-priority patent/JP2021009719A/ja
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2021199312A priority Critical patent/JP7309830B2/ja
Publication of JP2022059595A publication Critical patent/JP2022059595A/ja
Priority to JP2023109262A priority patent/JP2023145446A/ja
Application granted granted Critical
Publication of JP7309830B2 publication Critical patent/JP7309830B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Eye Examination Apparatus (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)
  • Processing Or Creating Images (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】 右眼球の左右回転と左眼球の左右回転を個別に検出できる眼球回転検出装置。【解決手段】 実施形態による電子機器は、表示部と、検出器と、表示コントローラとを具備する。表示部は、現実世界の目標物に対して右画像と左画像からなる両眼の拡張現実画像を重ねて表示する。検出器は、ユーザの右眼球の視線方向と左眼球の視線方向が交差する角度を検出する。表示コントローラは、検出器によって検出された角度に対応した間隔の右画像と左画像からなる第1拡張現実画像を表示部で表示させ、角度が第1角度より小さい場合、第1拡張現実画像の表示を停止する。【選択図】図4

Description

本発明の実施形態は電子機器及び表示方法に関する。
眼球の回転を検出するための一つの方法として、眼球電位(以下、眼電位と称する)法(Electro-Oculography:EOG法とも称する)がある。左右の眼球の近傍の皮膚に電極を取り付けると、左右の眼球の眼電位を検出できる。左右の眼球の眼電位の変化パターンに基づいて眼球の回転を検出できる。
特開2011-125693号公報 米国特許第8,449,116号明細書 特開2011-125692号公報 米国特許第8,434,868号明細書 特開2013-240469号公報 特開2000-259336号公報 米国特許出願公開第2011/0,178,784号明細書 特開2013-244370号公報 特開2013-215356号公報
従来の眼球回転検出装置は右眼球の左右回転と左眼球の左右回転を個別に検出できない。そのため、右眼球と左眼球が同じ向きに左右回転するのか又は反対向きに左右回転するのかが区別できない。
本発明の目的は右眼球の左右回転と左眼球の左右回転の検出結果に基づいて表示を制御する電子機器及び表示方法を提供することである。
実施形態によれば、電子機器は、表示部と、検出器と、表示コントローラとを具備する。
表示部は、現実世界の目標物に対して右画像と左画像からなる両眼の拡張現実画像を重ねて表示する。検出器は、ユーザの右眼球の視線方向と左眼球の視線方向が交差する角度を検出する。表示コントローラは、検出器によって検出された角度に対応した間隔の右画像と左画像からなる第1拡張現実画像を表示部で表示させ、角度が第1角度より小さい場合、前記第1拡張現実画像の表示を停止する。
実施形態に係るメガネ型眼球回転検出装置の一例を正面から見た図である。 メガネ型眼球回転検出装置の一例を後ろ上方から見た図である。 メガネ型眼球回転検出装置の一例をかけたユーザを右前方から見た図である。 眼球回転検出装置の電気的な構成の一例を示すブロック図である。 中性電極46の配置の第1の変形例を示す図である。 中性電極46の配置の第2の変形例を示す図である。 中性電極46の配置の第3の変形例を示す図である。 視線が正面を向いている状態のEOG信号を示す図である。 視線が正面を向いている状態から両眼球を左に回転した場合のEOG信号の波形の変化の一例を示す図である。 視線が正面を向いている状態から両眼球を右に回転した場合のEOG信号の波形の変化の一例を示す図である。 視線が正面を向いている状態から両眼球を輻輳角が大きくなる方向に回転した場合のEOG信号の波形の変化の一例を示す図である。 視線が正面を向いている状態から両眼球を輻輳角が小さくなる方向に回転した場合のEOG信号の波形の変化の一例を示す図である。 種々な眼動に対するEOG信号の波形の一例を示す図である。 輻輳角の変化を検出する実験結果の一例を示す図である。 第2実施形態に係るメガネ型眼球回転検出装置の一例を正面から見た図である。 メガネ型眼球回転検出装置を含む手術支援システムの電気的な構成の一例を示すブロック図である。 メガネ型眼球回転検出装置の動作の一例を示す図である。 メガネ型眼球回転検出装置の動作の他の例を示す図である。 第2実施形態の変形例に係るメガネ型眼球回転検出装置の動作の一例を示す図である。 第3実施形態に係るメガネ型眼球回転検出装置を含むシステムの電気的な構成の一例を示す図である。
以下、実施の形態について図面を参照して説明する。なお、開示はあくまで一例にすぎず、以下の実施形態に記載した内容により発明が限定されるものではない。当業者が容易に想到し得る変形は、当然に開示の範囲に含まれる。説明をより明確にするため、図面において、各部分のサイズ、形状等を実際の実施態様に対して変更して模式的に表す場合もある。複数の図面において、対応する要素には同じ参照数字を付して、詳細な説明を省略する場合もある。
眼球の基礎情報を説明する。成人の眼球の直径は約25mmである。生後は17mm程度で、成長に伴い大きくなる。成人男性の瞳孔間距離は約65mmである。そのため、一般市販のステレオカメラは65mmの間隔で作られている物が多い。成人女性の瞳孔間距離は男性に比べて数mm短い。眼電位は数十mVである。眼球は角膜側にプラス、網膜側にマイナスの電位を持つ。これを皮膚の表面で測定すると数百μVの電位差(眼電位と称する)として現れる。
眼球の回転範囲(一般的な成人の場合)は、左右方向(水平方向とも称する)では、左方向: 50°以下、右方向: 50°以下であり、上下方向(垂直方向とも称する)では、下方向: 50°以下、上方向: 30°以下である。自分の意思で動かせる上下方向の角度範囲は、上方向は狭い。これは、閉眼すると眼球が上転する「ベル現象」があるため、閉眼すると上下方向の眼球移動範囲は上方向にシフトするためである。なお、輻輳角(左右の眼球の視線方向が交差する角度)は20°以下である。
[第1実施形態]
図1、図2、図3を参照して、実施形態に係る眼球回転検出装置の構成の一例を説明する。眼球回転検出装置の形態は種々あるが、ここでは、アイウェアの形態の眼球回転検出装置の例を示す。アイウェアとしては、ゴーグル、メガネ(サングラスはメガネと等価である)等があるが、ここではメガネ型眼球回転検出装置を説明する。図1はメガネ型眼球回転検出装置の一例を正面から見た図、図2はメガネ型眼球回転検出装置の一例を後ろ上方から見た図である。図3はメガネ型眼球回転検出装置の一例をかけたユーザを右前方から見た図である。
眼球回転の種類は、上下回転と左右回転がある。上下回転は、瞬目、目瞑り、ウインク等を含む。左右回転は、左右の眼球が同じ向きに無意識に回転する緩徐運動(Slow
Eye Movement)と、左右の眼球が同じ向きに意識的に回転する視線移動と、左右の眼球が反対向きに回転する動作に輻輳・開散に大別される。輻輳は左右眼球の視線方向が交差することであり、開散は左右眼球の視線方向が発散することである。眼球回転は眼電位の変化に基づいて検出される。眼電位は眼球を挟む一対の電極からの電圧の差分により検出できる。眼球を挟む方向は左右、上下、前後のいずれの方向でもよいし、斜めでもよい。眼球を上下から挟むように配置された電極対で検出される眼電位から瞬目、目瞑り、ウインク等が検出できる。眼球を上下及び左右から挟むように配置された電極対で検出される眼電位から、瞬目、目瞑り、ウインク、緩徐運動及び視線移動が検出できる。眼球を前後及び左右から挟むように配置された電極対で検出される眼電位から、緩徐運動、視線移動及び輻輳・開散が検出できる。
[電極配置]
メガネは右フレーム12と、左フレーム14と、両フレーム12、14を繋ぐブリッジ26とを含む。この明細書で右、左はメガネを装着するユーザから見た右、左である。正面から見た図1では逆になっており、図1の右側のフレームが左フレーム14である。眼電位検出だけの装置であれば、右フレーム12と左フレーム14にはレンズやガラスを嵌め込まなくてもよいが、ユーザがメガネを常用する場合は、常用するメガネの代わりにユーザに合った度数のレンズが右フレーム12、左フレーム14に嵌め込まれてもよい。ユーザがメガネを常用しない場合は、単なるガラスが右フレーム12、左フレーム14に嵌め込まれてもよい。眼電位検出だけの装置ではなく、眼電位から視線移動又は輻輳角変化を検出し、その検出結果を応用する製品、例えばAR表示が可能なメガネ型ウェアラブル装置を構成する場合は、右フレーム12、左フレーム14の少なくとも一部にAR表示用の液晶パネルあるいは有機ELパネルが嵌め込まれてもよい。
実施形態では、輻輳・開散を検出するために、同一の平面内において、左右それぞれの眼球に対して同相(同じベクトル)となる前後位置、かつ左右それぞれの眼球に対して逆相(逆のベクトル)となる左右位置から眼球を挟むように電極が配置される。
右眼球ERの眼電位を検出するために、図2に示すように、右眼球ERの右側、例えば右テンプル18の耳に掛かる部分に右テンプル電極32が設けられ、右眼球ERの左側、例えば右フレーム12とブリッジ16の接続箇所付近に取り付けられる右ノーズパッド22の鼻に接する表面に右ノーズパッド電極42が設けられる。平面図(図2は平面図とみなす)において、右テンプル電極32と右ノーズパッド電極42は、右テンプル電極32と右ノーズパッド電極42とを結ぶ線が右眼球ERを通過するように配置されている。
正面図(図1は正面図とみなす)において、右テンプル電極32は右眼球ERの左側に設けられ、右ノーズパッド電極42は右眼球ERの右側に設けられる。右テンプル電極32と右ノーズパッド電極42は、右テンプル電極32と右ノーズパッド電極42とを結ぶ線が右眼球ERを通過するように配置されている。また、正面図において、右ノーズパッド電極42は右テンプル電極32より若干上側に設けられている。
側面図において、右テンプル電極32は右眼球ERの後側、すなわち右側面図では右眼球ERの左側、左側面図では右眼球ERの右側に設けられ、右ノーズパッド電極42は右眼球ERの前側、すなわち右側面図では右眼球ERの右側、左側面図では右眼球ERの左側に設けられる。右テンプル電極32と右ノーズパッド電極42は、右テンプル電極32と右ノーズパッド電極42とを結ぶ線が右眼球ERを通過するように配置される。
図3は、右テンプル電極32と右ノーズパッド電極42とを結ぶ線が頭部の正面図、平面図、側面図において右眼球ERを通過する様子を示す。なお、2つの電極を結ぶ線は右眼球ERの中心に限らず眼球のいずれかの部分を通過すればよい。図3では顔に隠されているが、左眼球についても同様である。
なお、右眼球ERの眼電位を検出する右テンプル電極32と右ノーズパッド電極42は、平面図、正面図、側面図のいずれにおいて、右テンプル電極32と右ノーズパッド電極42とを結ぶ線が右眼球ERを通過するように配置されているが、平面図、正面図及び側面図の少なくともいずれかにおいて、右テンプル電極32と右ノーズパッド電極42とを結ぶ線が右眼球ERを通過するように配置されていればよい。
同様に、左眼球ELの眼電位を検出するために、平面図において左眼球ELの右側、例えば左フレーム14とブリッジ16の接続箇所付近に取り付けられる左ノーズパッド24の鼻に接する表面に左ノーズパッド電極44が設けられ、左眼球ELの左側、例えば左テンプル20の耳に掛かる部分に左テンプル電極36が設けられる。左ノーズパッド電極44と左テンプル電極36は、左ノーズパッド電極44と左テンプル電極36とを結ぶ線が左眼球ELを通過するように配置されている。
右テンプル電極32、左テンプル電極36は右フレーム12と左フレーム14を結ぶ直線の中点と直交する直線(例えば鼻の中心から後頭部に延びる直線)に関して線対称である。
正面図において、左ノーズパッド電極44は左眼球ELの左側に設けられ、左テンプル電極36は左眼球ELの右側に設けられる。左ノーズパッド電極44と左テンプル電極36は、左ノーズパッド電極44と左テンプル電極36とを結ぶ線が左眼球ELを通過するように配置されている。また、正面図において、左ノーズパッド電極44は第2左電極42より若干上側に設けられている。
側面図において、左ノーズパッド電極44は左眼球ELの前側、すなわち右側面図では左眼球ELの右側、左側面図では左眼球ELの左側に設けられ、左テンプル電極36は左眼球ELの後側、すなわち右側面図では左眼球ELの左側、左側面図では左眼球ELの右側に設けられる。左ノーズパッド電極44と左テンプル電極36は、左ノーズパッド電極44と左テンプル電極36とを結ぶ線が左眼球ELを通過するように配置されている。
右テンプル電極32は右テンプル18の側面(側頭部に接する)と下面(耳の付け根に接する)に亘って設けられ、メガネが顔に装着される際、テンプル18の自重により、右テンプル電極32が耳の付け根の硬毛が生えていない領域に接触するようになっている。左テンプル電極36は左テンプル20の側面(側頭部に接する)と下面(耳の付け根に接する)に亘って設けられ、メガネが顔に装着される際、テンプル20の自重により、左テンプル電極36が耳の付け根の硬毛が生えていない領域に接触するようになっている。これにより、右テンプル電極32と左テンプル電極36はユーザの皮膚に密着し、眼電位を正確にセンスすることができる。
なお、左眼球ELの眼電位を検出する左ノーズパッド電極44と左テンプル電極36も、平面図、正面図及び側面図の少なくともいずれかにおいて、左ノーズパッド電極44と左テンプル電極36とを結ぶ線が左眼球ELを通過するように配置されていればよい。
ブリッジ16の内側に額に接する額パッド26が設けられ、額パッド26の額に接する表面に中性電極46が設けられる。中性電極46は眼電位検出のための中性電位を確保するための電極であり、皮膚、例えば額に接触している。中性電極46は、中性電極46と右テンプル電極32との距離と中性電極46と左テンプル電極36との距離が等しく、中性電極46と右ノーズパッド電極42との距離と中性電極46と左ノーズパッド電極44との距離が等しくなるように配置される。中性電極46がこのような位置に配置される理由は、後述する輻輳角検出のためである。輻輳角は、左右それぞれの眼球に対して正面から見て左右対称の眼球回転を検出した結果を基に検出されるからである。例えば、心電計では、眼球回転の影響が無視できる体の部位、例えば、右足の末端で中性電位を取っている。眼球回転の影響を多少は受けるものの、左右の眼球から均等に影響を受ける場所、額の中央で中性電位を取ることにより、中性電極が左右それぞれの眼球から受ける眼電位の影響を均等化することができる。
右テンプル電極32、右ノーズパッド電極42、左ノーズパッド電極44、左テンプル電極36、中性電極46は銅等の金属箔、金属小片、ステンレススチール等の金属球又は導電性のシリコンゴムシート等からなる。これらの電極32、42、44、36は後述するように眼電位を検出するための電極であるので、EOG電極とも称する。
[EOG信号]
図2に示すように、一方のテンプル、例えば右テンプル18のフレーム12に近い部分に眼電位の検出のための処理部30が内蔵あるいは外付けされている。他方のテンプル、例えば左テンプル20のフレーム12に近い部分に処理部30のためのバッテリ34が内蔵あるいは外付けされている。処理部30は単に眼電位検出だけではなく、AR表示が可能なメガネ型ウェアラブル装置においては、表示制御も行ってもよい。処理部30はメガネに内蔵するのではなく、メガネの外部に設け、無線又はワイヤでメガネと処理部30とを接続してもよい。その場合、バッテリ34は処理部30に内蔵してメガネの外部に設けることができる。また、処理部30の機能を2つに分けて、電極からの信号をセンスする第1処理部のみメガネに設け、センス信号から眼電位を検出したり、検出結果に応じて制御する第2処理部をメガネの外部に設けてもよい。スマートフォン等の携帯端末を第2処理部として使用することができる。第2処理部はメガネに直接接続される携帯端末等に限らず、ネットワークを介して接続されるサーバ等も含む。
右テンプル電極32からの信号が第1のアナログ/デジタル(A/D)コンバータ62の-端子に入力され、第2左電極36からの信号が第1のA/Dコンバータ62の+端子に入力され、差分信号である第1のEOG信号ADC Ch0が出力される。右テンプル電極32と左テンプル電極36は眼球を左右から挟むので、第1のEOG信号ADC Ch0は左右眼球の左右回転を示す。
右テンプル電極32からの信号が第2のA/Dコンバータ64の-端子に入力され、右ノーズパッド電極42からの信号が第2のA/Dコンバータ64の+端子に入力され、差分信号である第2のEOG信号ADC Ch1が出力される。右テンプル電極32と右ノーズパッド電極42は右眼球を上下及び左右から挟むので、第2のEOG信号ADC Ch1は右眼球の左右回転と上下回転を示す。
左ノーズパッド電極44からの信号が第3のA/Dコンバータ66の+端子に入力され、左テンプル電極36からの信号が第2のA/Dコンバータ66の-端子に入力され、差分信号である第3のEOG信号ADC Ch2が出力される。左ノーズパッド電極44と左テンプル電極36は左眼球を上下及び左右から挟むので、第3のEOG信号ADC Ch2は左眼球の左右回転と上下回転を示す。
第2のEOG信号ADC Ch1に関する2つの電極の左右位置と第3のEOG信号ADC Ch2に関する2つの電極の左右位置は反対(A/Dコンバータの入力の+/-が反転)なので、第2のEOG信号ADC Ch1と第3のEOG信号ADC Ch2の波形から左右の眼球が同じ向き又は反対向きに左右回転しているかが検出できる。
右テンプル電極32、右ノーズパッド電極42、左ノーズパッド電極44、左テンプル電極36からの電圧信号は微弱であるので、ノイズの影響が大きい。このノイズをキャンセルするために、A/Dコンバータ62、64、66の基準アナログ電圧Vcc(=3.3V又は5.5V)とグランド(GND)との間に抵抗R1とR2の直列回路が接続され、抵抗R1とR2の接続点に中性電極46が接続される。抵抗R1、R2は等しい値、例えば1MΩである。A/Dコンバータ62、64、66は0V(グランド)から基準アナログ電圧Vccまでのアナログ電圧を検出可能であり、検出可能範囲の中点、例えば3.3Vの1/2の電圧(中点電圧と称する)を中心に0Vから3.3Vの範囲で入力アナログ電圧をデジタル値に変換する。抵抗R1とR2の接続点が中点電圧端に接続され、中性電極46が抵抗R1とR2の接続点に接続されるので、A/Dコンバータ62、64、66の中点電圧は人体の電圧と同じになる。その結果、人体の電圧に連動してA/Dコンバータ62、64、66の中点電圧が変動し、EOG電極32、42、44、36からの電圧信号に混入されたノイズがA/Dコンバータ62、64、66の出力であるデジタル値に混入することがない。これにより、眼電位の検出のS/Nを向上できる。
図4は眼球回転検出装置の電気的な構成の一例を示すブロック図である。処理部30はA/Dコンバータ62、64、66を含んでもよいし、A/Dコンバータ62、64、66は処理部30に外付けされてもよい。
右テンプル電極32からの信号が第1のA/Dコンバータ62の-端子に入力され、左テンプル電極36からの信号が第1のA/Dコンバータ62の+端子に入力され、第1チャネルのEOG信号ADC Ch0が得られる。右テンプル電極32からの信号が第2のA/Dコンバータ64の-端子に入力され、右ノーズパッド電極42からの信号が第2のA/Dコンバータ64の+端子に入力され、第2チャネルのEOG信号ADC Ch1が得られる。左ノーズパッド電極44からの信号が第3のA/Dコンバータ66の+端子に入力され、左テンプル電極36からの信号が第2のA/Dコンバータ66の-端子に入力され、第3チャネルのEOG信号ADC Ch2が得られる。
中性電極46からの信号がA/Dコンバータ62、64、66の中点電圧端に供給され、A/Dコンバータ62、64、66の中点電圧が中性電極46により検出された人体の電圧とされる。
A/Dコンバータ62、64、66から出力されるEOG信号が眼球回転(以下、眼動と称することもある)を検出する眼動検出部75に入力される。眼動検出部75はハードウェアから構成してもよいが、ソフトウェアから構成してもよい。後者の場合、CPU74とROM76とRAM78がバスラインに接続され、眼動検出部75もバスラインに接続される。眼動検出部75はCPU74がROM76に格納されたプログラムを実行することにより実現する。バスラインには無線LANデバイス80も接続され、処理部30は無線LANデバイス80を介してスマートフォン等の携帯端末84に接続される。携帯端末84はインターネット等のネットワーク86を介してサーバ88に接続されてもよい。眼動検出部75はA/Dコンバータ62、64、から出力されるEOG信号に基づき眼電位を検出し、検出した眼電位から左右眼球それぞれの左右回転(輻輳・開散)及び眼球の左右回転(視線移動)、上下回転(瞬目、眼瞑り)を検出することができる。さらに、眼動検出部75は検出した眼動からユーザの種々の状態(例えば、集中力が欠け落ち着きが無い状態か集中している状態、緊張し精神的にストレスを受けた状態、疲労しており業務や作業に集中しがたい状態)を推定することができる。どの種類の眼球回転を検出し、どの種類の状態を推定するかはCPU74が実行するプログラムを変えることにより変更可能である。この変更指示は携帯端末84から行ってもよい。
無線LANデバイス80の代わりにZigBee(登録商標)、Bluetooth
Low Energy(登録商標)、Wi-Fi(登録商標)などの通信方式による通信機器を利用してもよい。眼動検出部75の検出結果(眼動検出結果、状態推定結果)は、RAM78に一時的に格納され、その後無線LANデバイス80等の通信機器を介して、携帯端末84に送られてもよい。あるいは、眼動検出部75の検出結果は携帯端末84にリアルタイムで送られてもよい。携帯端末84は眼動検出部75の検出結果を図示しない内蔵のメモリに格納してもよいし、検出結果をネットワーク86を介してサーバ88へ転送してもよい。携帯端末84は眼動検出部75の検出結果に応じて何かの処理を開始してもよく、処理結果を内蔵のメモリに格納してもよいし、処理結果をネットワーク86を介してサーバ88へ転送してもよい。サーバ88は多くの眼動検出部75からの検出結果や多くの携帯端末84の処理結果を集約して、いわゆるビッグデータ解析を行ってもよい。
[電極配置の変形例]
図5、図6、図7は中性電極46の配置の変形例を示す。上記の説明では、左右別個のノーズパッド22、24が設けられているが、図5の変形例では、左右一体型の逆V字若しくは逆U字型のノーズパッド52が設けられる。ノーズパッド52の開いた両脇の右内側に右ノーズパッド電極42が設けられ、左内側に左ノーズパッド電極44が設けられ、V字若しくはU字の頂点部分の内側に中性電極46が設けられる。これにより、額パッド26を設けることなく、額に接する中性電極46を設けることができる。
図6の変形例でも、左右一体型のV字若しくはU字型のノーズパッド54が設けられる。ノーズパッド52は下向きに広がっているが、ノーズパッド54は手前側に広がっている点が異なる。ノーズパッド54の右側に右ノーズパッド電極42が設けられ、左側に左ノーズパッド電極44が設けられ、中央に中性電極46が設けられる。
図5、図6の変形例では、通常のノーズパッドより広い面積のノーズパッドを用いているので、通常のメガネより重いメガネ型眼電位検出装置又はAR表示可能なメガネ型ウェアラブル端末グラスを長時間使用しても、重さで鼻が痛くなり難い。
図7の変形例では、左右別個のノーズパッド22、24が用いられるが、額パッド26は不要である。ここでは、右ノーズパッド22の鼻に接する表面に右ノーズパッド電極42と右中性電極46aが設けられ、左ノーズパッド24の鼻に接する表面に左ノーズパッド電極44と左中性電極46bが設けられる。右中性電極46aと左中性電極46bは電気的に短絡され、1つの中性電極46と等価となる。
[視線の移動とEOG信号の関係]
図8~図12を参照して、視線方向が正面方向を向いている状態から右眼球及び左眼球を左右回転した場合のA/Dコンバータ62から出力されるEOG信号ADC Ch0、A/Dコンバータ64から出力されるEOG信号ADC Ch1、A/Dコンバータ66から出力されるEOG信号ADC Ch2の波形の変化の一例を示す。
図8はユーザの視線方向が正面方向である状態を示す。無限遠を見ている場合は、右眼球の視線方向と左眼球の視線方向は平行であるが、有限の遠点を見ている場合は、右眼球の視線方向と左眼球の視線方向は遠点で交差する。この状態から図9に示すように右眼球ER、左眼球ELがともに左回転(右眼球の視線方向と左眼球の視線方向が左に移動)すると、右眼球ERのプラスに帯電している角膜が右ノーズパッド電極42に近づき、マイナスに帯電している網膜が右テンプル電極32に近づく。同様に、左眼球ELのプラスに帯電している角膜が左テンプル電極36に近づき、マイナスに帯電している網膜が左ノーズパッド電極44に近づく。この状態で左右の眼球ともに右回転すると、図8の状態に戻る。このため、右、左テンプル電極32、36が接続される第1のA/Dコンバータ62から出力される第1のEOG信号ADC Ch0は凸波形(上に凸な波形)の信号となる。右ノーズパッド電極42、右テンプル電極32が接続される第2のA/Dコンバータ64から出力される第2のEOG信号ADC Ch1は凸波形(上に凸な波形)の信号となる。左ノーズパッド電極44、左テンプル電極36が接続される第3のA/Dコンバータ66から出力される第3のEOG信号ADC Ch2は凹波形(下に凸な波形)の信号となる。
このように左右の眼球が同方向に回転(左回転)するので、第2のEOG信号ADC
Ch1と第3のEOG信号ADC Ch2には逆相のEOG信号が現れる。第1のEOG信号ADC Ch0には+/-の関係が同じである第2のEOG信号ADC Ch1と同相のEOG信号が現れる。
図8に示す視線方向が正面方向である状態から図10に示すように右眼球ER、左眼球ELがともに右に回転(右眼球の視線方向と左眼球の視線方向が右に移動)すると、右眼球ERのプラスに帯電している角膜が右テンプル電極32に近づき、マイナスに帯電している網膜が右ノーズパッド電極42に近づく。同様に、左眼球ELのプラスに帯電している角膜が左ノーズパッド電極44に近づき、マイナスに帯電している網膜が左テンプル電極36に近づく。この状態で左右の眼球ともに左回転すると、図8の状態に戻る。このため、右、左テンプル電極32、36が接続される第1のA/Dコンバータ62から出力される第1のEOG信号ADC Ch0は凹波形(下に凸な波形)の信号となる。右ノーズパッド電極42、右テンプル電極32が接続される第2のA/Dコンバータ64から出力される第2のEOG信号ADC Ch1は凹波形(下に凸な波形)の信号となる。左ノーズパッド電極44、左テンプル電極36が接続される第3のA/Dコンバータ66から出力される第3のEOG信号ADC Ch2は凸波形(上に凸な波形)の信号となる。
このように左右の眼球が同方向に回転(右回転)するので、第2のEOG信号ADC
Ch1と第3のEOG信号ADC Ch2には逆相のEOG信号が現れる。ただし、右眼球ER、左眼球ELがともに左に回転する場合に対してそれぞれ逆相である。第1のEOG信号ADC Ch0には+/-の関係が同じである第2のEOG信号ADC Ch1と同相のEOG信号が現れる。ただし、右眼球ER、左眼球ELがともに右回転する場合の第1のEOG信号ADC Ch0は、右眼球ER、左眼球ELがともに左回転する場合の第1のEOG信号ADC Ch0に対して逆相である。
図8に示す視線方向が正面方向である状態から図11に示すように右眼球ERが左回転(右眼球の視線方向が左に移動)し、左眼球ELが右回転(左眼球の視線方向が右に移動)し、左右の眼球の視線方向が交差する輻輳が生じる、いわゆる寄り目になると、右眼球ERのプラスに帯電している角膜が右ノーズパッド電極42に近づき、マイナスに帯電している網膜が右テンプル電極32に近づく。同様に、左眼球ELのプラスに帯電している角膜が左ノーズパッド電極44に近づき、マイナスに帯電している網膜が左テンプル電極36に近づく。この状態で右眼球が右回転し、左眼球が右回転すると、図8の状態に戻る。このため、右、左テンプル電極32、36が接続される第1のA/Dコンバータ62から出力される第1のEOG信号ADC Ch0は変化がなく、凸波形も凹波形も現れない。右ノーズパッド電極42、右テンプル電極32が接続される第2のA/Dコンバータ64から出力される第2のEOG信号ADC Ch1は凸波形(上に凸な波形)の信号となる。左ノーズパッド電極44、左テンプル電極36が接続される第3のA/Dコンバータ66から出力される第3のEOG信号ADC Ch2は凸波形(上に凸な波形)の信号となる。
このように左右の眼球が逆向きに回転するので、第2のEOG信号ADC Ch1と第3のEOG信号ADC Ch2には同相の波形が現れる。
左右の眼球の眼電位が同一で、かつ回転角の絶対値も同一である場合は、A/Dコンバータ62の+端子も-端子も同一方向(マイナス方向)に同一量変化するため、両者の相対値には変化が見られず、第1のEOG信号ADC Ch0には眼電位の変化が現れない。しかし、現実的にはノーズパッド電極とテンプル電極を結ぶ平面が左右の眼球の中央部から僅かにずれるので、これらのずれ量に従って僅かな変化が現れる。
図8に示す視線方向が正面方向である状態から図12に示すように右眼球ERが右回転(右眼球の視線方向が右に移動)し、左眼球ELが左回転(左眼球の視線方向が左に移動)し、すなわち左右の眼球の視線方向が発散する開散が生じる、いわゆる離れ目になると、右眼球ERのプラスに帯電している角膜が右テンプル電極32に近づき、マイナスに帯電している網膜が右ノーズパッド電極42に近づく。同様に、左眼球ELのプラスに帯電している角膜が左テンプル電極36に近づき、マイナスに帯電している網膜が左ノーズパッド電極44に近づく。この状態で右眼球が左回転し、左眼球が左回転すると、図8の状態に戻る。このため、右、左テンプル電極32、36が接続される第1のA/Dコンバータ62から出力される第1のEOG信号ADC Ch0は変化がなく、凸波形も凹波形も現れない。右ノーズパッド電極42、右テンプル電極32が接続される第2のA/Dコンバータ64から出力される第2のEOG信号ADC Ch1は凹波形(下に凸な波形)の信号となる。左ノーズパッド電極44、左テンプル電極36が接続される第3のA/Dコンバータ66から出力される第3のEOG信号ADC Ch2は凹波形(下に凸な波形)の信号となる。このように左右の眼球が逆向きに回転するので、第2のEOG信号ADC
Ch1と第3のEOG信号ADC Ch2には同相のEOG信号が現れる。ただし、離れ目の場合の第2のEOG信号ADC Ch1と第3のEOG信号ADC Ch2は、寄り目の場合の第2のEOG信号ADC Ch1と第3のEOG信号ADC Ch2に対してそれぞれ逆相である。
左右の眼球の眼電位が同一で、かつ回転角の絶対値も同一である場合は、A/Dコンバータ62の+端子も-端子も同一方向(プラス方向)に同一量変化するため、両者の相対値には変化が見られず、第1のEOG信号ADC Ch0には眼電位の変化が現れない。しかし、現実的にはノーズパッド電極とテンプル電極を結ぶ平面が左右の眼球の中央部から僅かにずれるので、これらのずれ量に従って僅かな変化が現れる。
図13は、ユーザの種々な眼動と、A/Dコンバータ62、64、66から得られるEOG信号ADC Ch0、ADC Ch1、ADC Ch2の関係の一例を説明する眼電図(EOG)である。縦軸はA/Dコンバータ62、64、66(例えば、3.3V,24ビットのA/Dコンバータ)のサンプル値を示し、横軸は時間を示す。
図11に示すように、EOG信号ADC Ch0において凸波形も凹波形も現れず、EOG信号ADC Ch1とADC Ch2において凸波形が現れることにより、眼動検出部75は左右の眼球の視線方向の輻輳が生じる「寄り目」状態を検出する。図13には示していないが、図12に示すように、EOG信号ADC Ch0において凸波形も凹波形も現れず、EOG信号ADC Ch1とADC Ch2において凹波形が現れることにより、眼動検出部75は左右の眼球の視線方向の開散が生じる「離れ目」状態を検出する。このように輻輳と開散はEOG信号ADC Ch1とADC Ch2の波形の凹凸が異なり、他は同じであるので、以下の説明では、輻輳と開散を纏めて輻輳と称することもある。EOG信号ADC Ch1とADC Ch2の波形の振幅は輻輳の程度(輻輳角)、開散の程度に応じている。図14を参照して後述するが、振幅の変化の度合いは近距離程大きく、遠距離になるにつれて小さくなる。そのため、振幅変化の検出の感度は、近距離程高く、遠距離になるにつれて低くなる。
図9に示すように、EOG信号ADC Ch0において凸波形が現れ、EOG信号ADC Ch1において凸波形が現れ、EOG信号ADC Ch2において凹波形が現れることにより、眼動検出部75は視線方向の左移動を検出する。
図10に示すように、EOG信号ADC Ch0において凹波形が現れ、EOG信号ADC Ch1において凹波形が現れ、EOG信号ADC Ch2において凸波形が現れることにより、眼動検出部75は視線方向の右移動を検出する。
EOG信号ADC Ch1とEOG信号ADC Ch2において、瞬間的にレベルが上昇して元に戻る同位相の1波~3波の凸パルス波形により1回の瞬目1、2回の瞬目2、3回の瞬目3が検出される。EOG信号ADC Ch1とEOG信号ADC Ch2において、視線が上を向いたときの凸波形(上に凸な波形)と視線が下を向いたときの凹波形(下に凸な波形)の組合せ波形により、眼動検出部75は上下方向の眼球回転、すなわち目瞑りを検出する。このように、上下方向の瞬目および目瞑りによって発生する眼球の回転はEOG信号ADC Ch1またはADC Ch2のいずれか1つに基づいて検出可能であり、瞬目および目瞑りのみを検出する用途においては、左右眼球についてそれぞれ電極対を設ける必要はなく、いずれか一方の眼球についてのみ電極対を設けてもよい。
実施形態による輻輳状態の変化を検出する実験結果の一例を示す。図1~図4に示した眼電位検出装置の試作機を用いて、被験者が鼻の前方10cm先の指先を見ている状態からそれより遠くのマーカを見るように左右の眼球の視線方向の交点位置を変化する際の第2のEOG信号ADC Ch1の変化の一例を図14に示す。この場合、視線方向の交点が近から遠に変化するので、輻輳角は減少する。横軸は10cm先から奥行方向への視線方向の交点の移動距離であり、最初のプロットは視線方向の交点が10cm先から20cm先へ移動された場合のEOG振幅を示す。なお、10cmは安定して凝視できる最短距離である。EOG信号の最小検出電圧を50μVとしている。すなわち、眼動検出器部75はEOG信号が50μV以上変化すると、EOG信号の変化を検出でき、それに基づき視線方向の交点位置の変化、すなわち輻輳角の変化を検出でき、EOG信号が50μV以上変化しないと、EOG信号の変化を検出できない。なお、測定値を積分した平均値用いれば、EOG信号の最小検出電圧はより小さい電圧となるが、ここでは50μVとした。なお、EOG信号の振幅は電極の接触抵抗に依存し、接触抵抗が小さい電極材料を使用すれば、EOG信号の振幅は大きくなり、EOG信号の最小検出電圧は大きくなる。
例えば、被験者が鼻の前方30cm先のマーカを見ている状態からより遠くのマーカを見る状態になるように輻輳角が減少した場合、EOG振幅が50μV増加すると、眼動検出部75はEOG振幅の変化を検出する。30cm先のマーカを見ている時のEOG振幅に50μVを加算した結果のEOG振幅は40cm先に対応する。すなわち、被験者が30cm先を見ている状態から被験者が40cm先を見る状態になるように輻輳角が減少すると、眼動検出部75はEOG振幅の変化を検出できる。10cmの変化に対応する輻輳角の減少に対応するEOG振幅の変化が検出できることは検出の分解能はかなり良いといえる。図14からは、被験者が50cm先を見ている状態から被験者が65cm先もしくはそれより遠方を見る状態になるように輻輳角が減少すると、EOG振幅の変化が検出でき、被験者が70cm先を見ている状態から1.4m先もしくはそれより遠方を見る状態になるように輻輳角が減少すると、EOG振幅の変化が検出できること等が分かる。
以上説明したように、第1実施形態によれば、右、左テンプル電極と、右、左ノーズパッド電極と、右、左の眼球の回転の影響を均等に受けるように配置された中性電極を備え、右、左眼球それぞれの左右回転を独立して検出することにより、輻輳を検出するメガネ型眼球回転位検出装置が提供される。中性電極からの中性電位が電極からのEOG信号をサンプリングするA/Dコンバータの中点電位とされるので、電極からのEOG信号がノイズの影響を受けず、正確に眼電位が検出されるので、正確な眼球回転が検出される。第1実施形態によれば、さらに、両眼球の左右回転(視線方向の左右移動)や眼球の上下回転も検出できる。
第1実施形態の眼電位検出装置によれば、被検者の意識的な眼球回転である輻輳を検出することができるので、検出結果に応じた制御を行うことにより、被検者の意図に応じた制御を行う応用例を実現することができる。例えば、拡張現実(Augmented Reality、以下ARと称する)表示が可能なアイウェアにおいては、輻輳の検出に応じてAR表示のオン/オフや、AR画像の表示位置の調整をハンズフリーで制御することができる。
また、ある作業には作業固有の輻輳変化が要求されることがあり、ユーザの輻輳変化のパターンを基準パターンと比較することにより、ユーザの作業に対する習熟度や、作業を正しく実施しているか否かの判断が可能である。
以下、輻輳の検出結果の応用例を説明する。応用例の1つはAR表示が可能なメガネ型ウェアラブル機器に眼電位検出装置を組み込み、輻輳の検出に基づき、AR表示を制御することである。例えば、輻輳の検出を機能切り替えスイッチとして応用できる。例えば、図8に示すようにユーザが正面の遠方を見ている時はAR表示をオフし、図11に示すように近距離を見る(輻輳状態)ように両眼の視線方向を変えると、AR表示が行われるように表示のオン、オフを制御することができる。AR画像の表示位置は近距離に設定されるので、ユーザがAR画像を見ている時は輻輳状態であるので、AR表示が続けられ、ユーザが遠方を見るように両眼の視線方向を変えると、AR表示がオフされる。これにより、ユーザの意図通りのAR表示制御が可能となる。以下、第2実施形態として、この応用例である手術支援のためのメガネ型ウェアラブル機器を説明する。
[第2実施形態]
図15は第2実施形態に係るメガネ型眼電位検出装置100の一例を正面から見た図である。第1実施形態の検出装置と異なるのは、右フレーム12、左フレーム14の少なくとも一部にAR表示用のディスプレイ(例えば、有機ELパネル又は液晶パネル)102、104が嵌め込まれている点である。AR画像を3D表示しない場合は、右フレーム12、左フレーム14の一方にはディスプレイ102又は104が嵌め込まれていなくてもよい。ここでは、AR画像は3D表示されるとする。EOG電極の配置は第1実施形態と同じである。AR表示可能なメガネ型眼電位検出装置100の応用例は種々あるが、第2実施形態としては、手術支援システムを例に説明する。手術を執刀する医師や手術に関係するスタッフがメガネ型眼電位検出装置100をかける。
図16はメガネ型眼電位検出装置100を含む手術支援システムの電気的な構成の一例を示すブロック図である。処理部30は図4に示した第1実施形態の構成に加えて表示コントローラ112が追加されている。表示コントローラ112はディスプレイ102、104のAR表示を制御する。AR表示の制御は、AR表示のオン/オフ制御、AR画像の表示位置制御(AR画像の輻輳角制御)等を含む。
手術支援システムでは、複数の医師やスタッフが同じ手術に関わり、複数のメガネが使用されるので、メガネの処理部30に接続されるのは、スマートフォン等の携帯端末82より高性能のパーソナルコンピュータ等の制御装置120が好ましい。図示しないが、複数のメガネの処理部30が制御装置120に接続される。制御装置120はバイタルデータメモリ124、支援画像メモリ122、支援情報メモリ126を含む。なお、眼動検出部75も制御装置120内に設けてもよい。
制御装置120にはバイタルデータ測定部127が接続され、患者の心電図、血圧、脈拍、輸血量累計等が測定され、制御装置120内のバイタルデータメモリ124に患者毎に格納される。支援画像メモリ122は手術の支援のための支援画像を格納する。必要に応じて、サーバ88内の手術支援データベース130内の支援画像が制御装置120にダウンロードされ、支援画像メモリ122に格納される。支援情報メモリ126は手術の支援のための支援テキストを格納する。必要に応じて、サーバ88内の手術支援データベース130内の支援テキストが制御装置120にダウンロードされ、支援情報メモリ126に格納される。
図17、図18を参照して、メガネ型眼電位検出装置100の動作の一例を説明する。ここでは、眼球から手術中の患部(現実世界)までの距離は約40cmと仮定する。医師が手術中の患部(現実世界)より手前、例えば眼球から約30cmの距離の点を見ている時は、眼動検出部75が輻輳を検出する。眼動検出部75は、図11に示すように、EOG信号ADC Ch0の波形が変化しないことと、EOG信号ADC Ch1とEOG信号ADC Ch2の波形が上に凸な波形となることに基づき、輻輳を検出する。眼動検出部75が輻輳を検出すると、制御装置120に対して手術の支援に関するAR画像を要求し、表示コントローラ112に対してAR表示を実施させる。AR表示の例は図17(a)に示すように手術中の患部(現実世界)に対してバイタルデータウィンドウ(AR画像)を半透明で重ねることである。ウィンドウは複数ページを含み、各ページは心電図、血圧、脈拍、輸血量累計等を表示する。患部が隠されないように、ウィンドウは画面の一部の領域に制限される。制御装置120は、処理部30からの要求に応答して、バイタルデータメモリ124から患者のバイタルデータを読み出し、処理部30へ転送する。
AR画像が3D表示される際、左右の画像の輻輳角を調整することにより表示位置は任意に設定可能である。ここでは、バイタルデータウィンドウの表示位置は、眼動検出部75が輻輳を検出する距離と等しい約30cm前方の位置に設定される。そのため、バイタルデータウィンドウが表示される時、医師はその表示位置と同じ距離の点を見ているので、瞬時にウィンドウの内容を確認することができるとともに、ウィンドウを注視するために眼球を回転して輻輳角を調整する必要が無く、眼精疲労も生じない。
バイタルデータウィンドウのページ切替は、一定時間、例えば1秒毎に自動的に行われてもよいし、眼動検出器75による眼球の他方向の回転に基づきユーザの意図により行われてもよい。例えば0.5秒以上の目瞑りが検出されると、ウィンドウのページが切り替えられてもよい。さらに、視線の移動方向に基づき、ウィンドウのページが切り替えられてもよい。例えば、視線が右に移動すると次ページに切り替えられ、視線が左に移動すると前ページに切り替えられてもよい。図17(b)はウィンドウのページが切り替えられた例を示す。
図17(a)又は図17(b)の状態で、医師等は手術中の患部(現実世界)(約40cmより遠方)を見るように視線方向を変更すると、眼動検出部75は、輻輳角が小さくなる(両眼の視線方向の交点までの距離が遠くなる)ことを検出し、表示コントローラ112に対してAR表示を停止させる。このため、医師等はメガネの右フレーム12、左フレーム14を通して図17(c)に示すような手術中の患部のみを観察する。
図17(c)の状態で医師等がバイタルデータを参照したい場合、医師等は手元(約30cm)を見るように視線方向を変更する。眼動検出部75は、輻輳角が大きくなる(両眼の視線方向の交点までの距離が近くなる)ことを検出し、表示コントローラ112に対してAR表示を実施させ、図17(a)又は(b)に示すようなバイタルデータウィンドウが表示される。
輻輳角の増加/減少の判断は、図14に示すようなEOG振幅と視線の交点の移動距離との関係に基づいて、EOG電圧がある電圧以上低下/上昇したら、輻輳角が増加/減少したと判断できる。
このように、医師は、手術中に手術を支援するAR画像をハンズフリーで表示させたり、オフさせたりすることができる。手術中は手が塞がっているので、ハンズフリーでAR表示のオン/オフが切替られるのは効果が大きい。
AR表示の他の例は、図18(a)に示すように支援画像でもよい。支援画像は同様な症状の他の患者に対する過去の手術例の画像でもよいし、当該患者に対する他の手術の際の画像でもよい。画像は静止画でも動画でもよい。このため、図示しないカメラにより、手術中の画像が撮影され、撮影画像がサーバ88にアップロードされ、手術支援データベース130に格納される。また、AR表示の他の例は、図18(b)に示すように支援情報でもよい。支援情報は実施中の手術に関する種々のテキストデータである。
支援情報の表示位置はバイタルデータウィンドウと同様に近くに設定される。しかし、支援画像の表示位置は手術中の患部(現実世界)と同じ約40cmの距離に設定してもよい。バイタルデータウィンドウや支援情報は手術中の患部と同時に見られることはないが、支援画像は患部と並べて比較されることが想定される。患部と支援画像を見比べる際に、表示位置が異なると、見比べる際に眼球の左右回転が必要になり、眼精疲労が生じる可能性がある。そのため、上述の説明とは異なり、支援画像は、図8のような眼球の状態の時に表示され、図11のような輻輳が検出されるとオフされる。なお、支援画像の位置と手術中の患部(現実世界)とが微妙にずれている場合、見比べる際、眼動検出部75が検出する輻輳角が微妙に変化する。表示コントローラ112がこの変化が小さくなるように支援画像の表示位置(左右画像の輻輳角)を調整すると、眼精疲労が生じる可能性をさらに低くすることができる。
バイタルデータウィンドウから支援画像、支援情報への切り替えは、バイタルデータウィンドウのページ切替と同様に、眼動検出器75による眼球の他の方向の回転に基づきユーザの意図により行われてもよい。
上記の例ではAR表示のオン/オフの切り替えに輻輳角の変化が用いられたが、検出した輻輳角が別の制御に使用され、AR表示のオン/オフの切り替えは別の眼動に基づいてもよい。例えば、複数回の目瞑りが検出されると、AR表示のオン/オフが切り替えられてもよい。そして、検出した輻輳角はAR画像の表示位置の制御に使われてもよい。すなわち、AR画像の左右画像の間隔(画像の輻輳角と称することもある)は、AR画像の表示開始時の左右の眼球の視線方向の交点までの距離に基づいて調節される。画像の輻輳角は表示コントローラ112により調整される。これにより、AR表示を注視するために眼球を左右回転する必要が無いので、AR表示を見る際に眼精疲労が生じない。
輻輳角の変化とAR表示の制御の他の応用例を図19を参照して説明する。この例は、倉庫でのピッキングの例であり、ピッキング作業時に作業者はメガネ型眼電位検出装置100を着用する。
処理部30の構成は図16と同じでよいので、図示は省略する。制御装置120の構成は、バイタルデータ、支援画像、支援情報がピックアップリストに変更されるだけで、他は同様であるので、図示は省略する。制御装置120の代わりに、図4に示す第1実施形態と同様に、スマートフォン等の携帯端末84を用いてもよい。携帯端末84は位置情報を取得してもよい。サーバ88の構成も、手術支援データの代わりに倉庫内の棚の位置に関する地図情報や倉庫内の各棚の商品のリストや、ピックアップする商品のリストに変更されるだけで、他は同様であるので、図示は省略する。作業者毎のピックアップリストがサーバ88から制御装置120にダウンロードされる。
この応用例でも、最初は、AR表示はオフであり、メガネの右フレーム12、左フレーム14のディスプレイは何も表示しておらず、透明である。このため、作業者はメガネの右フレーム12、左フレーム14を通して図19(a)に示すような倉庫内を注視する。制御装置120としての携帯端末84が位置情報を取得できる場合、サーバ88内の地図情報と、取得した位置情報に基づいて、各棚にある商品にエアタグがAR表示されてもよい。この時、作業者は数mあるいは数10m以上先を見ている。
作業者が遠くの目標物を見ている状態から図11に示すように近くの目標物を見る状態になるように左右の眼球を、輻輳が生じる、いわゆる寄り目になるように、互いに反対の方向に左右回転し、眼動検出部75は輻輳を検出する。
輻輳の検出に応じて、処理部30は、制御装置120に対して作業員がピックアップする商品を示すピックアップリストを要求し、表示コントローラ112に対してAR表示を開始させる。ピックアップリストの例を図19(b)に示す。ピックアップリストの表示位置も近くに設定される。ピックアップリストを見ている状態から図8に示す遠くの倉庫内を見る状態になるように左右の眼球を回転すると、眼動検出部75は輻輳を検出しなくなるので、表示コントローラ112に対してピックアップリストの表示を停止させる。
ピックアップ作業も手術と同様手が離せない状況であるので、AR表示のオン/オフがハンズフリーで切り替えられることの効果は大きい。
図19ではエアタグは常時表示しているが、ユーザが遠くの目標物を見る時だけエアタグを表示し、近くの目標物を見る時はエアタグをオフしてもよい。例えば、作業者がビルのエレエータのメンテナンス作業に出かける際、訪問途中で目的のビルを探している時は、作業者は遠くの目標物を見ているので、ビルの名称、距離、作業目的等を含むエアタグが目的のビルに重ねて表示される。ここで、作業者が地図等を確認するために、手元を見ると、エアタグ表示はオフされてもよい。目的地に到着し、エレベータの前に来ると、作業者が点検する箇所を見ている時は点検個所にエアタグが表示される。作業者が手元を見ると、エアタグの代わりに作業マニュアル等がAR表示される。この例は観光案内にも応用できる。例えば、観光地において風景を見ている時は、そのスポットに関するエアタグを表示し、手元を見る時はエアタグをオフして、代わりに詳細な観光ガイドを表示してもよい。
輻輳の検出によるAR表示の他の例としては、スポーツ観戦に供するARグラスに眼電位検出装置を組み込むことが考えられる。試合の様子を様々なアングルで撮影しておき、リプレイ映像としてサーバに格納しておく。ARグラスがネットワークを介してサーバに接続される。観戦者は、常時は、試合を注視しており、遠方の目標物を見ている。この時、AR表示はオフしている。野球場の外野席に居る観戦者はホームベース上のクロスプレーの拡大画像を見たい時は、寄り目となるように眼球を回転し、AR表示を開始させることができる。AR表示においては、サーバから種々のリプレイ画像がダウンロードされ表示される。これにより、観戦者は眼球の回転により瞬時にリプレイ画像を楽しむことができる。
上記説明では、輻輳が検出されると、AR表示を開始し、輻輳が検出されなくなると、AR表示を停止したが、この逆でもよい。すなわち、輻輳が検出されない状態で、AR表示を行い、輻輳が検出されると、AR表示を停止してもよい。
[第3実施形態]
輻輳検出の他の応用例としては、作業手順の確認がある。図20はメガネ型眼電位検出装置を含む作業確認システムの電気的な構成の一例を示すブロック図である。作業確認にはAR表示は必須ではないが、確認結果を作業者に直ぐに伝えるためにAR表示を利用してもよい。処理部30は図16に示した第2実施形態と同じである。制御装置120の代わりに、図4に示す第1実施形態と同様に、スマートフォン等の携帯端末84を用いてもよい。制御装置120は視線移動判別部148、視線移動パターンメモリ142を含む。視線移動判別部148は眼動検出部75で検出された眼球回転の変化パターンから視線移動(視線方向右移動、視線方向左移動、視線方向交差(輻輳)を判別し、視線移動パターンを視線移動パターンメモリ142に格納する。視線移動パターンメモリ142のデータはネットワーク86を介してサーバ88にアップロードされる。
サーバ88は視線移動標準パターンメモリ144と作業手順判別部146を含む。作業の中には、作業固有の視線移動が要求される作業がある。例えば、鉄道業界においては、発車後の指差し確認においては、遠くの目標物と近くの目標物を所定の順序で確認することが求められている。また、橋、トンネル等の構造物の目視検査においても、目視すべき箇所が決まっているので、視線方向を所定のパターンで移動することが求められている。標準パターンメモリ144はこのように作業固有の視線方向移動の標準パターンを記憶している。作業手順判別部146は、制御装置120からアップロードされた作業者の視線移動パターンを標準パターンメモリ144内の視線移動標準パターンと比較し、作業者が正しく作業をしているか否かを判断できる。図示しないデータベースに作業者毎に記憶してもよい。判断結果の時間経過の変化により作業者の習熟度を推定できる。あるいは、作業手順判別部146が作業者が正しく作業をしていないと判断した場合、制御装置120を介して処理部30の表示コントローラ112にその旨を通知し、ディスプレイ102、104に注意メッセージを表示させてもよい。
視線移動の標準パターンの他の例として、自動車の運転に関するパターンがある。免許更新時の教習において、優良ドライバによる安全確認の様子がビデオで紹介されることがある。この際、単に見るだけではなく、実際に同じ安全確認を行った時の視線移動パターンを優良ドライバの視線移動パターンと比較して、安全確認の習熟度を判定してもよい。運送業においても、新人のドライバがベテランドライバの視線移動パターンと同じ視線移動パターンを覚えることにより、事故を減らすことができる。
上記の説明はメガネに限らず、ゴーグルにも適用可能である。例えば、ノーズパッドの代わりにゴーグルの前面のフォームの一部に電極を設け、テンプルの代わりにベルトに電極を設けてもよい。
[キャリブレーション]
眼電図では、輻輳角の具体的な角度は得られず、輻輳状態となる眼球の回転方向だけが得られる。そのため、上記の実施形態では輻輳が検出され、応用例では、輻輳角自体には関わらず、輻輳の検出か否かの二値的な状態に基づいて制御が行われている。しかし、距離が既知の複数の目標物が存在する場合には、複数の目標物を見て、複数の距離に対する眼電図を定期的に測定することにより、既知の複数の距離に対する眼電位の値を求めることができ、3つ以上の輻輳状態を識別することがでる。例えば、遠方の目標物を見ている時はAR表示はオフで、中距離の目標物を見ている時は第1のAR画像を表示させ、近距離の目標物を見ている時は第2のAR画像を表示させてもよい。
なお、電極の接触抵抗が変化(時間と共に低下)するため、距離に対する眼電位の絶対値は時間経過とともに変化し、長期的には距離の絶対値を保証できない。例えば、電極の使用開始直後は、接触抵抗が大きいので、眼電図の振幅が小さく、時間が経過すると抵抗が小さくなり、眼電図の振幅が大きくなる。しかし、定期的に距離に対する眼電位のキャリブレーションを行えば、眼電位の経時変化を推定でき、距離に対する眼電位の絶対値を保証することができる。例えば、手術やデスクワークなどの焦点距離が一定な作業や、作業工程的に、ある時点で既知の距離(レベル)の目標物を見ている事が保障される業務であれば、距離が既知の状態で定期的にキャリブレーションを行うことが可能である。
さらに、人体の電位自体が変動することがあるが、これも定期的なキャリブレーションにより補償することができる。
[実施形態の効果の纏め]
上述した実施形態によれば、右眼球の左右回転と左眼球の左右回転を独立して検出することができるので、左右眼球の視線方向の交差である輻輳を検出することができる。輻輳は無意識には発生ぜず、被検者の意識的な眼球回転により発生する。そのため、輻輳の検出に応じた制御を行うことにより、被検者の意図に応じたハンズフリー制御を行うことができる。例えば、AR表示を行うメガネ型ウェアラブル端末において、寄り目とすることによりAR画像を表示開始させ、遠方の目標物を見ることによりAR画像を表示終了させることができる。
AR表示には単眼表示と両眼表示がある。本実施形態は単眼表示にも適用できるが、両眼表示の場合、左右眼球の輻輳の検出は効果がある。両眼によるAR画像の3D表示では、左右の画像の間隔(これも輻輳角と称する)が任意に設定されるが、現実世界を見ている時の左右眼球の輻輳角と、AR画像の輻輳角が異なると、現実世界とAR画像を見比べる際に、いちいち左右眼球の輻輳角を調整しなければならず、眼精疲労の原因となる。しかし、AR画像の左右の画像の輻輳角が左右眼球の輻輳角に一致するように設定されれば、このような輻輳角調整のための左右眼球の回転が不要となり、眼精疲労が生じない。
作業中の眼球の回転の変化を検出し、その経時パターンを求め、これを標準パターンと比較することにより、作業内容を客観的に確認することできる。例えば、保守点検等の作業において、遠い目標物、近い目標物の確認が必要な場合、実際の作業中の輻輳を検出する事により、手順に従った作業をおこなっているかを確認できる。確認結果はアラームとして作業者に通知されてもよい。保守点検ではないが、鉄道の発車後の指差し確認にも実施形態は応用可能である。
標準パターンとの比較は、作業内容の確認だけではなく、輻輳を伴う作業手順の習熟のためにも使用できる。例えば、免許更新時の教習において、優良ドライバによる安全確認の様子がビデオで紹介されることがある。この際、単に見るだけではなく、実際に同じ安全確認を行った時の視線移動パターンを優良ドライバの視線移動パターンと比較して、理想的な輻輳変化をより詳細に理解する事ができる。
なお、眼球の左右回転は、右眼球と左眼球が互いに逆向きに回転する(輻輳)ことに限らず、右眼球と左眼球が同じ向きに回転する視線右移動、視線左移動も含み、これらを輻輳検出と組み合わせてハンズフリー制御を実行してもよい。また、眠気が増した状態で、輻輳状態の発生とともに発生する左右方向の視線右移動、視線左移動に基づき、眼球振盪の検出も可能である。これにより、眠気のある被検者に警告を発することもできる。さらに、眼球の水平方向の回転に限らず、上下方向の回転も検出し、眼球の水平方向、上下方向の回転とを組み合わせてハンズフリー制御を実行してもよい。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
32…右テンプル電極、36…左テンプル電極、42…右ノーズパッド電極、44…左ノーズパッド電極、46…中性電極、62,64,66…A/Dコンバータ、75…眼動検出部。

Claims (6)

  1. 現実世界の目標物に対して右画像と左画像からなる両眼の拡張現実画像を重ねて表示する表示部と、
    ユーザの右眼球の視線方向と左眼球の視線方向が交差する角度を検出する検出器と、
    前記検出器によって検出された前記角度に対応した間隔の右画像と左画像からなる第1拡張現実画像を前記表示部で表示させ、前記検出器によって検出された前記角度が第1角度より小さい場合、前記第1拡張現実画像の表示を停止する表示コントローラと、
    を具備する電子機器。
  2. 前記検出器が検出する前記角度は、前記現実世界の目標物までの距離に応じて変化し、
    前記ユーザが見ている目標物までの距離が遠くなると、前記角度は減少する、請求項1記載の電子機器。
  3. 前記表示コントローラは、前記現実世界の目標物までの距離が40cmの場合、前記第1拡張現実画像の表示を停止する請求項1記載の電子機器。
  4. 表示部により、現実世界の目標物に対して右画像と左画像からなる両眼の拡張現実画像を重ねて表示することと、
    検出器により、ユーザの右眼球の視線方向と左眼球の視線方向が交差する角度を検出することと、
    表示コントローラにより、前記検出器によって検出された前記角度に対応した間隔の右画像と左画像からなる第1拡張現実画像を前記表示部で表示させ、前記検出器によって検出された前記角度が第1角度より小さい場合、前記第1拡張現実画像の表示を停止することと、
    を具備する表示方法。
  5. 前記検出器が検出する前記角度は、前記現実世界の目標物までの距離に応じて変化し、
    前記ユーザが見ている目標物までの距離が遠くなると、前記角度は減少する、請求項4記載の表示方法。
  6. 前記表示コントローラは、前記現実世界の目標物までの距離が40cmの場合前記第1拡張現実画像の表示を停止する請求項4記載の表示方法。
JP2021199312A 2020-10-01 2021-12-08 電子機器及び表示方法 Active JP7309830B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021199312A JP7309830B2 (ja) 2020-10-01 2021-12-08 電子機器及び表示方法
JP2023109262A JP2023145446A (ja) 2020-10-01 2023-07-03 電子機器及び表示方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020166949A JP2021009719A (ja) 2020-10-01 2020-10-01 電子機器及び表示方法
JP2021199312A JP7309830B2 (ja) 2020-10-01 2021-12-08 電子機器及び表示方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020166949A Division JP2021009719A (ja) 2020-10-01 2020-10-01 電子機器及び表示方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023109262A Division JP2023145446A (ja) 2020-10-01 2023-07-03 電子機器及び表示方法

Publications (2)

Publication Number Publication Date
JP2022059595A true JP2022059595A (ja) 2022-04-13
JP7309830B2 JP7309830B2 (ja) 2023-07-18

Family

ID=87201212

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021199312A Active JP7309830B2 (ja) 2020-10-01 2021-12-08 電子機器及び表示方法
JP2023109262A Pending JP2023145446A (ja) 2020-10-01 2023-07-03 電子機器及び表示方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023109262A Pending JP2023145446A (ja) 2020-10-01 2023-07-03 電子機器及び表示方法

Country Status (1)

Country Link
JP (2) JP7309830B2 (ja)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06235885A (ja) * 1993-02-08 1994-08-23 Nippon Hoso Kyokai <Nhk> 立体映像表示装置
JPH0749744A (ja) * 1993-08-04 1995-02-21 Pioneer Electron Corp 頭部搭載型表示入力装置
JPH11202256A (ja) * 1998-01-20 1999-07-30 Ricoh Co Ltd 頭部搭載型画像表示装置
JP2011125693A (ja) * 2009-11-18 2011-06-30 Panasonic Corp 眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね
JP2013005201A (ja) * 2011-06-16 2013-01-07 Sony Corp 表示装置
JP2013244370A (ja) * 2012-05-29 2013-12-09 Jin Co Ltd アイウエア
JP2014010418A (ja) * 2012-07-03 2014-01-20 Yazaki Corp 立体表示装置及び立体表示方法
WO2015107625A1 (ja) * 2014-01-15 2015-07-23 日立マクセル株式会社 情報表示端末、情報表示システム及び情報表示方法
JP2017049775A (ja) * 2015-09-01 2017-03-09 株式会社東芝 メガネ型ウエアラブル端末およびこの端末を用いる方法
JP2017157139A (ja) * 2016-03-04 2017-09-07 株式会社東芝 眼球運動検出装置、眼球運動検出方法、およびアイウエア
US20170287222A1 (en) * 2016-03-30 2017-10-05 Seiko Epson Corporation Head mounted display, method for controlling head mounted display, and computer program
JP2018042004A (ja) * 2016-09-05 2018-03-15 セイコーエプソン株式会社 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
JP2018041011A (ja) * 2016-09-09 2018-03-15 日本精機株式会社 表示装置

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06235885A (ja) * 1993-02-08 1994-08-23 Nippon Hoso Kyokai <Nhk> 立体映像表示装置
JPH0749744A (ja) * 1993-08-04 1995-02-21 Pioneer Electron Corp 頭部搭載型表示入力装置
JPH11202256A (ja) * 1998-01-20 1999-07-30 Ricoh Co Ltd 頭部搭載型画像表示装置
JP2011125693A (ja) * 2009-11-18 2011-06-30 Panasonic Corp 眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね
JP2013005201A (ja) * 2011-06-16 2013-01-07 Sony Corp 表示装置
JP2013244370A (ja) * 2012-05-29 2013-12-09 Jin Co Ltd アイウエア
JP2014010418A (ja) * 2012-07-03 2014-01-20 Yazaki Corp 立体表示装置及び立体表示方法
WO2015107625A1 (ja) * 2014-01-15 2015-07-23 日立マクセル株式会社 情報表示端末、情報表示システム及び情報表示方法
JP2017049775A (ja) * 2015-09-01 2017-03-09 株式会社東芝 メガネ型ウエアラブル端末およびこの端末を用いる方法
JP2017157139A (ja) * 2016-03-04 2017-09-07 株式会社東芝 眼球運動検出装置、眼球運動検出方法、およびアイウエア
US20170287222A1 (en) * 2016-03-30 2017-10-05 Seiko Epson Corporation Head mounted display, method for controlling head mounted display, and computer program
JP2018042004A (ja) * 2016-09-05 2018-03-15 セイコーエプソン株式会社 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
JP2018041011A (ja) * 2016-09-09 2018-03-15 日本精機株式会社 表示装置

Also Published As

Publication number Publication date
JP7309830B2 (ja) 2023-07-18
JP2023145446A (ja) 2023-10-11

Similar Documents

Publication Publication Date Title
JP6774975B2 (ja) 眼球回転検出装置、電子機器及びシステム
US10231614B2 (en) Systems and methods for using virtual reality, augmented reality, and/or a synthetic 3-dimensional information for the measurement of human ocular performance
Cognolato et al. Head-mounted eye gaze tracking devices: An overview of modern devices and recent advances
US9788714B2 (en) Systems and methods using virtual reality or augmented reality environments for the measurement and/or improvement of human vestibulo-ocular performance
US9370302B2 (en) System and method for the measurement of vestibulo-ocular reflex to improve human performance in an occupational environment
US10602953B2 (en) Electro-oculographic detector and electro-oculographic detection method
Iskander et al. A review on ocular biomechanic models for assessing visual fatigue in virtual reality
US8449116B2 (en) Electro-oculography estimating device, electro-oculography calculating method, eye-gaze tracking device, wearable camera, head-mounted display, and electronic eyeglasses
US9072481B2 (en) Apparatus and method for assessing vestibulo-ocular function
ES2932157T3 (es) Determinación de un error de refracción de un ojo
US8845099B2 (en) System and method for real time monitoring and dynamic treatment of oculomotor conditions
Berard et al. Aging affects the ability to use optic flow in the control of heading during locomotion
JP6342440B2 (ja) 眼球運動検出装置、眼球運動検出方法、およびアイウエア
Borel et al. Unilateral vestibular loss impairs external space representation
JP2021009719A (ja) 電子機器及び表示方法
JP2023174820A (ja) ウェアラブル機器及び表示方法
JP7309830B2 (ja) 電子機器及び表示方法
US10780015B2 (en) Method and apparatus for visual training
US11270451B2 (en) Motion parallax in object recognition
Cheng et al. Vertical head translation impairs dynamic visual acuity during near viewing
JP6538203B2 (ja) 眼電位キャリブレーション装置、眼鏡型電子機器、眼電位キャリブレーション方法およびプログラム
Bringoux et al. Judging beforehand the possibility of passing under obstacles without motion: the influence of egocentric and geocentric frames of reference
WO2020240052A1 (es) Sistema de medición de parámetros clínicos de la función visual

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230606

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230705

R151 Written notification of patent or utility model registration

Ref document number: 7309830

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151