JP2015101292A - 視線検出装置、および視線検出方法 - Google Patents

視線検出装置、および視線検出方法 Download PDF

Info

Publication number
JP2015101292A
JP2015101292A JP2013245219A JP2013245219A JP2015101292A JP 2015101292 A JP2015101292 A JP 2015101292A JP 2013245219 A JP2013245219 A JP 2013245219A JP 2013245219 A JP2013245219 A JP 2013245219A JP 2015101292 A JP2015101292 A JP 2015101292A
Authority
JP
Japan
Prior art keywords
driver
line
sight
confirmed
icon
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013245219A
Other languages
English (en)
Other versions
JP6136891B2 (ja
Inventor
洋一 成瀬
Yoichi Naruse
洋一 成瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013245219A priority Critical patent/JP6136891B2/ja
Publication of JP2015101292A publication Critical patent/JP2015101292A/ja
Application granted granted Critical
Publication of JP6136891B2 publication Critical patent/JP6136891B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】走行の開始前に機器の状態の確認や視線位置の検出処理の校正を行わせることで、安全な走行を確保する。
【解決手段】車両の走行のための機能の種類毎に、機能が正常であるか否かを運転者が確認可能な表示部を設け、この複数の表示部が運転者に確認されたら、車両を走行可能な状態とする。また、このときの視線位置が該表示部の特定位置として検出されるように、視線位置の検出処理を校正する。こうすると、車両の走行を開始させるにあたって、複数の機能が正常であるか否かを運転者に確認させることができ、それと同時に視線検出の精度を高めることができる。この結果、走行開始時の煩わしさを抑制しつつ、安全な走行を確保することが可能となる。
【選択図】図5

Description

本発明は、運転者の視線が到達する視線位置を検出する技術に関する。
コンピューター技術や、無線通信技術、情報処理技術の進歩を背景として、今日の車両には、安全な走行を確保するための様々な機能が搭載されている。例えば、路面の状況に応じてハンドルの操舵角やブレーキ力を制御したり、車両の周囲の状況を監視して障害物などの存在を運転者に知らせたり、周囲の車両やデータセンターと通信して有用な情報を運転者に提示するなど、多くの機能が搭載されている(例えば、特許文献1など)。
また、運転者がこれらの機能を使用するために煩雑なボタン操作が必要となるのでは却って安全の確保に支障が生じ得る。そこで、運転者の視線が到達する視線位置を検出することで、運転者が煩雑なボタン操作をしなくても良いようにした技術も提案されている(例えば、特許文献2など)。
もっとも、如何に安全のための機能を多く搭載したところで、それらの機能を実現する機器の状態が正常であり、且つ、視線位置が正しく検出できなければ安全な走行を確保することはできない。
特開2013−134591号公報 特開2013−143012号公報
しかし、走行の開始前に多くの機器の状態を確認したり、視線位置が正しく検出できるように検出処理を校正したりするのは煩雑であるため、これらの確認や校正をしないまま走行を開始する場合があり、その結果、安全な走行が確保されているとは言い難いという問題があった。
この発明は、従来の技術が有する上述した課題に鑑みてなされたものであり、走行の開始前に機器の状態の確認や視線位置の検出処理の校正を行わせることで、安全な走行を確保する技術の提供を目的とする。
上述した課題を解決するために、本発明の視線検出装置および視線検出方法は、複数の表示部を設け、この複数の表示部が運転者に確認されたら、車両を走行可能な状態とする。また、このときの視線位置が該表示部の特定位置として検出されるように、視線位置の検出処理を校正する。
こうすると、車両の走行を開始させるにあたって、複数の表示部を運転者に確認させることができ、それと同時に視線検出の精度を高めることができる。この結果、走行開始時の煩わしさを抑制しつつ、安全な走行を確保することが可能となる。
また、上述した本発明の視線検出装置においては、複数の表示部は、車両の走行のための機能の種類毎に設けられ、機能が正常であるか否かを示すものであることとしてもよい。
こうすると、車両の走行を開始させるにあたって、複数の機能が正常であるか否かを運転者に確認させることができる。この結果、さらに安全な走行を確保することが可能となる。
また、上述した本発明の視線検出装置においては、エンジンの始動が可能な状態またはシフトレンジを走行レンジに切り換え可能な状態とすることで、車両を走行可能な状態とすることとしてもよい。
エンジンを始動する技術やシフトレンジを走行レンジに切り換える技術は、一般的な車両に用いられている技術であるので、このような一般的に用いられている技術を利用することによって、車両を走行可能な状態とすることを容易に実現することができる。
また、上述した本発明の視線検出装置においては、複数の表示部全てが運転者に確認された後に、校正を行うこととしてもよい。
検出処理の校正を行うには、当然ながら所定の時間を要する。したがって、表示部が運転者に確認されるたびに校正を行うと、車両が走行可能な状態となるまで時間がかかってしまう。この点、本発明は、複数の表示部全てが確認されてから校正を行うので、速やかに走行可能な状態とすることができる。
また、上述した本発明の視線検出装置においては、運転者固有の情報である固有情報を記憶しておき、複数の表示部について予め定められた順序で運転者に確認されたら、固有情報を車両にて利用可能にすることとしてもよい。
こうすると、複数の機能が正常であるか否かを運転者に確認させるのと同時に、固有情報を利用可能にするので、安全な走行を確保しつつも、固有情報が悪用されることを防止することができる。
視線検出装置10の構成を示す説明図である。 始動点検画面を例示する説明図である。 運転者の目の画像中の瞳孔および角膜反射像を例示する説明図である。 視線位置決定テーブルを例示する説明図である。 CPU11によって実行される始動点検用処理を示すフローチャートである。 CPU11によって実行されるエアバッグアイコン用処理を示すフローチャートである。 視線位置決定テーブルを校正する様子を示す説明図である。 変形例1の始動点検用処理を示すフローチャートである。 変形例2の始動点検用処理を示すフローチャートである。 変形例3の運転席周辺の構成を例示する説明図である。 変形例4の液晶表示器16の表示画面を例示する説明図である。
以下では、上述した本願発明の内容を明確にするために視線検出装置の実施例について説明する。尚、本実施例の視線検出装置10は、車両に設けられている。
A.装置構成 :
図1(a)には、視線検出装置10の構成が示されている。本実施例の視線検出装置10は、図示されるように、後述する各種処理を実行するCPU11、CPU11が実行する処理のプログラム等が記憶されているフラッシュメモリ12、CPU11の作業領域であるRAM13がバス14を介して接続されている。
また、バス14には、車両のインストルメントパネルに設けられた液晶表示器16が、液晶用インターフェース15を介して接続されている。液晶表示器16の表示画面には、車両に搭載されているナビゲーションシステムやオーディオシステム、空調システム等に関する内容を表示可能である。
また、バス14には、近赤外光を用いて撮像する近赤外光カメラ18や、近赤外光照射用のLED(近赤外光LED)19がカメラ用インターフェース17を介して接続されている。近赤外光カメラ18および近赤外光LED19は、運転席の前方に運転席側を向けて設けられている。近赤外光カメラ18は、近赤外光LED19が照射された運転者の目を定期的に(例えば1秒間に30回)撮影する。このようにして撮影された運転者の目の画像はRAM13の所定アドレスに一時的に記憶され、運転者の視線を検出する際に使用される。
図1(b)は、CPU11が有する機能を示すブロック図である。当然ながら、これらの機能は、CPU11がフラッシュメモリ12に記憶されているプログラムを実行することによって実現される。図1(b)に示すように、本実施例のCPU11は次の機能を有する。すなわち、運転者の視線位置を検出するための検出処理を行う検出処理機能11a(検出処理手段)、後述のアイコン(図3参照)毎に、運転者の視線位置がアイコンの表示領域に存在するか否かを判断し、運転者の視線位置がアイコンの表示領域に存在する場合は該アイコンが運転者に確認されたことを記憶する確認済記憶機能11b(確認済記憶手段)、複数のアイコンについて運転者に確認されたことが記憶されたら、車両を走行可能な状態とする走行可能化機能11c(走行可能化手段)、アイコンが運転者に確認されたことが記憶された場合の運転者の視線位置が該アイコンの中心位置として検出されるように、上述の検出処理の校正を行う校正機能11d(校正手段)を有する。
ここで、詳しい説明は省略するが、本実施例の視線検出装置10が搭載された車両には、安全走行のために必要な複数のシステム(本発明における「車両の走行のための機能」に相当)が搭載されている。例えば、車両が衝突した場合にエアバッグを作動させることで運転者への衝撃を緩和するエアバッグシステムや、エンジンの冷却水の水温を監視する水温監視システム、ガソリン等の燃料の残量を監視する燃料監視システム、車両周囲の障害物の存在を監視する周囲監視システム、交通情報等を受信するための通信システム等が搭載されている。そこで、本実施例の視線検出装置10は(CPU11は)、エンジンが始動されると上述の各システムから各種センサーの状態やプログラムの実行状態に関する情報を受信して、上述のシステムが正常に稼動しているか否かを運転者に確認させるための画面(以下「始動点検画面」という)を液晶表示器16に表示させる。
図2は、本実施例の始動点検画面を例示する説明図である。図2(a)に示すように、本実施例の始動点検画面には、エアバッグシステムが正常に動作可能であるか否かを示す画像(以下「エアバッグアイコン」という)16a、水温監視システムが正常に動作可能であるか否かを示す画像(以下「水温監視アイコン」という)16b、燃料監視システムが正常に動作可能であるか否かを示す画像(以下「燃料監視アイコン」という)16c、周囲監視システムが正常に動作可能であるか否かを示す画像(以下「周囲監視アイコン」という)16d、通信システムが正常に動作可能であるか否かを示す画像(以下「通信アイコン」という)16eが表示される。
また、本実施例の視線検出装置10では、始動点検画面が表示された状態で、始動点検画面上における運転者の視線が到達する「視線位置」を検出する。そして、検出された視線位置が、上述した何れかのアイコンが表示されている領域に存在する場合は、運転者がそのアイコンを視認していると判断される。
また、始動点検画面には、各アイコンの中心位置を所定時間続けて視認することを運転者に促す催促画像16rが表示される。そして、何れかのアイコンが運転者に視認されている間は、そのアイコンが視認されていることを示す視認中画像16s(図2(a)中のエアバッグアイコン16aを囲む太枠の画像)が表示されると共に、視認時間の経過を示す視認時間画像16tが表示される。そして、図2(b)に示すように、何れかのアイコンを運転者が視認してから所定時間が経過したら視認を終了しても良いことを示す視認終了画像16z(図2(b)中の視認OKの画像)が表示される。
ここで、本実施例の視線検出装置10における「視線位置」の検出は、CPU11によって次のように行われる。CPU11は、先ず、近赤外光カメラ18によって撮像される運転者の目の画像から、エッジ検出等により瞳孔の中心を検出する。併せて、運転者の目の画像から近赤外光LED19の角膜反射像(いわゆるプルキンエ像)の中心を検出する。
図3は、運転者の目の画像中の瞳孔および角膜反射像を例示する説明図である。運転者の目の画像20において、角膜反射像20aの中心に対する相対的な瞳孔20bの中心の位置(以下「瞳孔相対位置」)は運転者が視認している位置に対応して変化する。例えば、図3(a)に示すように運転者が正面を視認している場合、瞳孔20bは角膜反射像20aの真上に位置するのに対して、図3(b)に示すように運転者が左方を視認している場合、瞳孔20bは角膜反射像20aの右上に位置する。そこで、CPU201は、瞳孔20bの中心および角膜反射像20aの中心を検出したら、角膜反射像20aの中心に対する相対的な瞳孔20bの中心の位置(瞳孔相対位置)を演算する。尚、瞳孔相対位置は、目の画像20中のX,Y方向の画素数で示される。
こうして、瞳孔相対位置を演算したら、視線位置決定テーブルを参照して視線位置を検出する。視線位置決定テーブルは、フラッシュメモリ12の所定アドレスに記憶されている。
図4は、視線位置決定テーブルを例示する説明図である。図4に示すように、視線位置決定テーブルには、瞳孔相対位置が取り得る全ての値aX,aYに対応して視線位置bX,bYが設定されている。CPU201は、図4に示すような視線位置決定テーブルを参照して、演算した瞳孔相対位置に対応する視線位置を検出する。ここで、瞳孔相対位置に対応する視線位置は、運転者の身体的特徴やその運転者が調節する運転席の位置等に応じて異なることがある。このため、視線位置決定テーブルは、運転者が車両を初めて運転する場合や視線検出装置10を初期化した場合等に次のようにして生成される。例えば、液晶表示器16の表示画面上に複数のマーカーを表示して、それぞれのマーカーを運転者に視認させた状態で瞳孔相対位置を演算する。そして、マーカーの位置(すなわち視線位置)と該マーカーを視認させた状態での瞳孔相対位置とを対応付けて記憶する。また、マーカーが存在しない視線位置については、周知の補間処理や補外処理等を行うことによって瞳孔相対位置を演算して記憶する。
以下では、図2を用いて前述した始動点検画面を表示させた状態で、運転者に始動点検を行わせるための処理(始動点検用処理)について説明する。
B.始動点検用処理 :
図5は、CPU11によって実行される始動点検用処理を示すフローチャートである。始動点検用処理は、車両のエンジンが起動された後、図2を用いて前述した始動点検画面が液晶表示器16に表示された状態で開始される。
始動点検用処理を開始すると、CPU11は、図2を用いて前述した各アイコン16a〜16eに関係する処理(エアバッグアイコン用処理、水温監視アイコン用処理、燃料監視アイコン用処理、周囲監視アイコン用処理、通信アイコン用処理)を行う(S100〜S108)。これらの処理は、処理の対象となるアイコンが互いに異なるだけであるので、これらの中からエアバッグアイコン用処理を例にとって説明する。
図6は、エアバッグアイコン用処理を示すフローチャートである。エアバッグアイコン用処理を開始すると、CPU11は先ず、運転者の視線位置を検出し、検出した視線位置がエアバッグアイコン16aの表示領域に存在するか否か、すなわち、運転者がエアバッグアイコン16a(本発明における「表示部」に相当)を視認しているか否かを判断する(S200)。その結果、運転者がエアバッグアイコン16aを視認していなければ(S200:no)、そのまま図5に示すエアバッグアイコン用処理を終了して、図5に示す始動点検用処理に復帰する。
これに対して、運転者がエアバッグアイコン16aを視認していれば(S200:yes)、今回視線位置を検出するにあたって検出した「瞳孔相対位置」(図3を用いて前述)をエアバッグアイコン16aに対応させて記憶する(S202)。本実施例の視線検出装置10では、運転者がエアバッグアイコン16aを視認している間は視線位置を検出するたびに、該視線位置を検出するにあたって演算した「瞳孔相対位置」をRAM13の所定アドレスに累積して記憶する(S202の処理、後述のS212の処理)。この理由については後に説明する。
続いて、運転者がエアバッグアイコン16aを視認している時間(視認時間)の計測を開始する(S204)。そして、図2に示すように、エアバッグアイコン16aを視認していることを示す視認中画像16sおよび視認時間の経過を示す視認時間画像16tを、液晶表示器16の始動点検画面に表示する。
次に、エアバッグアイコン16aを運転者が視認し始めてから1秒が経過したか否か(視認時間が1秒に達したか否か)を判断する(S208)。視認時間の計測を開始してからすぐは、当然ながら視認時間は1秒に達していないので(S208:no)、続いて、運転者の視線位置を検出し、検出した視線位置がエアバッグアイコン16aの表示領域に存在するか否か、すなわち、運転者がエアバッグアイコン16aを視認し続けているか否かを判断する(S210)。その結果、運転者がエアバッグアイコン16aを視認し続けている場合は(S210:yes)、今回視線位置を検出するにあたって検出した「瞳孔相対位置」をエアバッグアイコン16aに対応させて記憶する。S202の説明をした際に前述したように、エアバッグアイコン16aを運転者が視認している間は視線位置を検出するたびに、該視線位置を検出するにあたって演算した「瞳孔相対位置」をRAM13の所定アドレスに累積して記憶する。そして、視認時間が進行している様子を示すべく、視線時間画像16tを更新して液晶表示器16の始動点検画面に表示する。
上述したS210〜S214の処理を繰り返しているうちにやがて視認時間が1秒に達したら、エアバッグアイコン16aが運転者に確認されたことをRAM13の所定アドレスに記憶する(S216)。すなわち、本実施例の視線検出装置10では、運転者がエアバッグアイコン16aを1秒以上視認し続けた場合に、エアバッグアイコン16aが運転者に確認されたと判断する。そして、運転者がエアバッグアイコン16aを視認している間に記憶された複数の「瞳孔相対位置」を読み出し、これらの平均値を演算する(S218)。
ここで、図2を用いて前述したように、液晶表示器16の始動点検画面には、アイコンの「中心位置」を所定時間続けて視認することを運転者に促す催促画像16rが表示されている。従って、運転者がエアバッグアイコン16aを視認している間における「瞳孔相対位置」は、運転者がエアバッグアイコン16aの「中心位置」を視認した状態における「瞳孔相対位置」(以下「中心向き瞳孔相対位置」)であると推定できる。S218の処理では、このような「中心向き瞳孔相対位置」の平均値を求めることで、ノイズ(外れ値)の影響を小さくした「中心向き瞳孔相対位置」を求めることができる。例えば、視認開始時等に視線が定まらない状態で(すなわちエアバッグアイコン16aの端部等を視認した状態で)演算された「瞳孔相対位置」がそのまま「中心向き瞳孔相対位置」として求められることを抑制できる。尚、上述した複数の「中心向き瞳孔相対位置」の平均値を演算する以外にも、複数の「中心向き瞳孔相対位置」の中央値や最頻値を演算することで、ノイズの影響を小さくした「中心向き瞳孔相対位置」を求めることとしても良い。
こうして「中心向き瞳孔相対位置」を求めたら(S218)、「中心向き瞳孔相対位置」に基づいて視線位置決定テーブルを校正する処理を行う(S220)。ここで、視線位置決定テーブルは、運転者が車両を初めて運転する場合や視線検出装置10を初期化した場合等に生成されるものの、周辺の環境等によっては微調整が必要になってくることがある。例えば、運転者が実際にはエアバッグアイコン16aの「中心位置」を視認している場合であっても、エアバッグアイコン16aの「端部」等のズレた位置を視線位置として検出するようになってしまうことがある。これは、「実際の瞳孔相対位置と視線位置との対応関係」と「視線位置決定テーブルにおける瞳孔相対位置と視線位置との対応関係」との間にズレが生じてしまうためである。
そこで、図7に例示するように、S220の処理ではこれらの対応関係のズレを抑えるべく、視線位置決定テーブルを校正する。すなわち、今回求められた「中心向き瞳孔相対位置」は運転者がエアバッグアイコン16aの中心位置を視認している状態で演算される「瞳孔相対位置」と推定できることから、該「瞳孔相対位置」が演算された場合にエアバッグアイコン16aの中心位置(本発明における「特定位置」に相当)に対応する視線位置が検出されるように、視線位置決定テーブルの該「瞳孔相対位置」に対応する視線位置をエアバッグアイコン16aの中心位置に対応する視線位置に更新する。また、これに連動して、その他の「瞳孔相対位置」に対応する視線位置も、周知の補間処理や補外処理を行うことによって更新する。これにより、運転者が実際に視認している位置と検出される視線位置との間にズレが生じてしまうことを抑えることができる。
こうして、視線位置決定テーブルの校正を行ったら(S220)、図2(b)に示すように、エアバッグアイコン16aの視認を終了しても良いことを示す視認終了画像16zを表示する。その後、図6に示すエアバッグアイコン用処理を終了して、図5に示す始動点検用処理に復帰する。尚、エアバッグアイコン16aの視認が開始されてから1秒が経過する前に該視認が終了したら(S210:no)、エアバッグアイコン16aが確認されたことを記憶する処理や、視線位置決定テーブルを校正する処理、視認終了画像16zを表示する処理は行われない(S216〜S222の処理は省略される)。
図5に示す始動点検用処理に復帰したら、エアバッグアイコン用処理(S100)に続いて、水温監視アイコン用処理(S102)、燃料監視アイコン用処理(S104)、周囲監視アイコン用処理(S106)、通信アイコン用処理(S108)を実行する。これらのS102〜S108の処理では、図6を用いて前述したエアバッグアイコン用処理と同様の処理が、処理対象をそれぞれのアイコン16b〜16eに代えて行われる。すなわち、本実施例の視線検出装置10では、全てのアイコン16a〜16eについて、運転者に確認されたか否かが判断され、アイコンが運転者に確認されたら、該アイコンが視認されたときに該アイコンの中心位置が視線位置として検出されるように視線位置決定テーブルが校正される。
続いて、全てのアイコン16a〜16eが運転者に確認されたか否かを判断する(S110)。その結果、未だ運転者が確認されていないアイコンがある場合は(S110:no)、上述したS100〜S108の処理を繰り返す。これに対して、全てのアイコン16a〜16eが運転者に確認された場合は(S110:yes)、シフトレンジを走行レンジ(いわゆるDレンジやRレンジ等)に切り換え可能な状態にする(S112)。つまり、本実施例では、エンジン始動時には、シフトレンジは走行レンジ以外のレンジ(いわゆるPレンジ等)に入れられており、そこから走行レンジに切り換えることが不可能となっている。例えば、シフトレンジの移動がモーター等のアクチュエーターによって制限されている。そこで、S110の処理では、この制限を解除する等して、シフトレンジを走行レンジに切り換え可能な状態にする。
以上のように、本実施例の視線検出装置10は、アイコン16a〜16eが運転者に確認されたら、車両を走行可能な状態とする。また、運転者がアイコン16a〜16eを確認したときの「瞳孔相対位置」をそれぞれ記憶しておき、各「瞳孔相対位置」が演算された場合に(すなわちアイコンの中心位置が視認された場合に)各アイコンの中心位置が検出されるように、視線位置決定テーブルを校正する。こうすると、車両の走行を開始させるにあたって、複数のシステムが正常であるか否かを運転者に確認させるのと同時に、視線検出の精度を高めることができる。これらの結果、煩わしさを抑制しつつ、走行開始時からの安全な走行を確保することが可能となる。
また、シフトレンジを走行レンジに切り換える技術は、一般的な車両に用いられている技術であるので、このような一般的に用いられている技術を利用することによって、車両を走行可能な状態とすることを容易に実現することができる。
また、本実施例の視線検出装置10は、アイコンが運転者に確認されるたびに視線位置決定テーブルの校正を行って、この校正された視線位置決定テーブルを利用して次のアイコンが運転者に視認されているか否かを判断する。したがって、アイコンが運転者に確認されるたびに視認検出精度を高めることができる。
また、本実施例の視線検出装置10は、アイコンが運転者に視認されている間は視認中画像16sや視認時間画像16tが表示されるので、視認していることが検出されているのか分からず運転者に不安を感じさせてしまうことを防止することができる。
C.変形例 :
C−1.変形例1 :
上述した実施例では、それぞれのアイコン16a〜16eが確認されるたびに視線位置決定テーブルの校正を行ったが、全てのアイコンが確認されてから視線位置決定テーブルの校正を行ってもよい。
図8は、変形例1の始動点検用処理を示すフローチャートである。変形例1の始動点検用処理を開始すると、CPU11は先ず、エアバッグアイコン用処理を行う(S300)。変形例1のエアバッグアイコン用処理では、図6を用いて前述したエアバッグアイコン用処理と一部異なる処理が行われる。すなわち、変形例1のエアバッグアイコン用処理では、図6を用いて前述したノイズの除かれた瞳孔相対位置を演算する処理(S218)や、視線位置決定テーブルを校正する処理(S220)を行わずに、エアバッグアイコン16aが確認されたことを記憶したら(S216)、すぐに視認終了画像16zを液晶表示器16の始動点検画面に表示する(S222)。
こうして、図8に示すエアバッグアイコン用処理を行ったら(S300)、続いて、水温監視アイコン用処理(S302)、燃料監視アイコン用処理(S304)、周囲監視アイコン用処理(S306)、通信アイコン用処理(S308)を実行する。これらのS302〜S308の処理では、上述したエアバッグアイコン用処理(S300)と同様の処理が、処理対象をそれぞれのアイコン16b〜16eに代えて行われる。すなわち、変形例1では、全てのアイコン16a〜16eについて、運転者に確認されたか否かが判断され、アイコンが運転者に確認されたら、すぐに視認終了画像16zを液晶表示器16の始動点検画面に表示する。
続いて、全てのアイコン16a〜16eが運転者に確認されたか否かを判断する(S310)。その結果、未だ運転者が確認されていないアイコンがある場合は(S310:no)、上述したS300〜S308の処理を繰り返す。これに対して、全てのアイコン16a〜16eが運転者に確認された場合は(S310:yes)、シフトレンジを走行レンジに切り換え可能な状態にする(S312)。そして、それぞれのアイコン16a〜16eについてノイズの小さい「中心向き瞳孔相対位置」を演算し(S314、各アイコンについて図6のS218と同様の処理を行う)、これらの「中心向き瞳孔相対位置」に基づいて視線位置決定テーブルを校正する処理を行う(S316)。この視線位置決定テーブルを校正する処理(S316)では先ず、視線位置決定テーブルにおいて、それぞれの「中心向き瞳孔相対位置」に対応する視線位置を、各アイコンの中心位置に対応する視線位置に更新する。続いて、「中心向き瞳孔相対位置」以外の瞳孔相対位置に対応する視線位置を、周知の補間処理や補外処理等を行うことによって更新する。
以上のような変形例1によれば、アイコン16a〜16eの全てが運転者に確認されるまでは、視線位置決定テーブルの校正を行わないので、前のアイコンについて確認されたか否かを判断してから、次のアイコンについて確認されたか否かを判断するまでの時間を短縮することができる。この結果、アイコンを視認している時間が長くなってしまったり、前のアイコンを視認してから次のアイコンを視認するまでの待ち時間が長くなってしまったりして、運転者に煩わしさを感じさせてしまうことを防止できる。
また、視線位置決定テーブルを校正するに際しては、全てのアイコンについて、「中心向き瞳孔相対位置」に対応する視線位置を更新してから、それ以外の瞳孔相対位置に対応する視線位置を周知の補間処理や補外処理等を行うことによって更新する。したがって、この補間処理や補外処理等の信頼度を高めることができ、ひいては、視線位置の検出精度を高めることが可能となる。
C−2.変形例2 :
車両に搭載されている複数のシステムの中には運転者固有の情報である固有情報を利用するシステムが存在する。例えば、ナビゲーションシステムでは住所や電話番号等を固有情報として利用し、オーディオシステムでは楽曲の再生リスト等を固有情報として利用し、通信システムではメールアドレス等を固有情報として利用する。そして、これらの固有情報は、運転者が積極的に設定することで、または、運転者が各システムを利用した結果として、フラッシュメモリ12(固有情報記憶手段)の所定アドレスに記憶される。
変形例2では、エンジン始動時には、上述したような各システムが固有情報を利用することが制限されている例について説明する。
図9は、変形例2の始動点検用処理を示すフローチャートである。変形例2の始動点検用処理を開始すると、CPU11は先ず、図5のS100〜S108と同様の処理を行う(S400〜S408)。そして、全てのアイコンが運転者に確認されたと判断したら(S410:yes)、走行レンジの切り換えが可能な状態にした後(S412)、予め定められた順序でアイコン16a〜16eが確認されたか否かを判断する(S414)。例えば、予め定められた順序として、エアバッグアイコン16a→通信アイコン16e→周囲監視アイコン16d→水温監視アイコン16b→燃料監視アイコン16cの順序がフラッシュメモリ12に記憶されており、この順序でアイコン16a〜16eが運転者に確認されたか否かを判断する。
その結果、予め定められた順序でアイコン16a〜16eが確認された場合は(S414:yes)、固有情報の利用を許可する制御信号を各システムに向けて送信することで、各システムにおける固有情報の利用が可能な状態とする(S416、利用可能化手段)。各システムは、この制御信号を受信すると、必要な固有情報をフラッシュメモリ12から読み込んで利用する。
以上のような変形例2によれば、複数のシステムが正常であるか否かを運転者に確認させるのと同時に、固有情報を利用可能にするので、安全な走行を確保しつつも、固有情報が悪用されることを防止することができる。
C−3.変形例3 :
上述した実施例では、図2を用いて前述した液晶表示器16(始動点検画面のアイコン)を確認させることで、運転者に始動点検を行わせると共に視線位置決定テーブルの校正を行うこととした。これに限らず、他の部分を確認させることで、運転者に始動点検を行わせると共に視線位置決定テーブルの校正を行うこととしてもよい。
図10は、運転席周辺の構成を例示する図である。変形例3では、液晶表示器16だけでなく、バックミラー30、サイドミラー31、各種計器類32、ハンドル33、フロントガラスに投影されるヘッドアップディスプレイ34等の部位を運転者が確認したか否かを判断し、これらを確認した場合にシフトレンジを走行レンジに切り換えることが可能な状態とする。そして、この場合は、各部位を視認した場合の瞳孔相対位置に対応する視線位置が各部位の中心位置に対応する視線位置になるように視線位置決定テーブルを校正する。
尚、変形例3においても、変形例2と同様に、予め定められた順序で各部位が確認されたら、各システムにおける固有情報の利用が可能な状態にすることとしてもよい。
C−4.変形例4 :
上述した変形例2では、システムが正常に動作可能であるか否かを示すアイコン16a〜16eが予め定められた順序で確認されたら、固有情報を利用するシステムにおける固有情報の利用を可能にすることとしたが、アイコン16a〜16eに代えて、システムが正常に動作可能であるか否かを示さないアイコンを利用してもよい。例えば、図11に示すように、液晶表示器16の表示画面にアイコンA〜Iを表示して、これらのアイコンが予め定められた順序で視認されたら、固有情報を利用するシステムにおける固有情報の利用を可能にすることとしてもよい。そして、この場合は、アイコンA〜Iを視認した場合の瞳孔相対位置をアイコンA〜Iの中心位置に対応する視線位置に更新することで、視線位置決定テーブルを校正する。
以上のような変形例4によれば、運転者が複数のアイコンA〜Iを予め定められた順序で視認しないと、固有情報を利用することができない。これにより、固有情報が悪用されることを抑制することができる。
以上、実施例および変形例の視線検出装置について説明したが、本発明は上記の実施例および変形例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施することができる。
例えば、上述した実施例および変形例では、視線位置を検出する処理として、角膜反射像と瞳孔との位置関係(瞳孔相対位置)に基づいて視線位置を検出する処理を採用したが、この他にも、目頭等の特徴点と虹彩との位置関係に基づいて視線位置を検出する処理等の種々の処理を採用してもよい。
また、上述した実施例および変形例では、視線位置を検出する処理として、視線位置決定テーブルを参照して視線位置を検出する処理を採用したが、この他にも、該視線位置決定テーブルを利用せずに所定の関係式を利用して視線位置を検出する処理等の種々の処理を採用してもよい。また、上述した実施例および変形例では、視線位置決定テーブルを校正することで視線位置の検出処理を校正することとしたが、視線位置の検出処理に利用される関係式等を校正することで視線位置の検出処理を校正することとしてもよい。
また、上述した実施例では、全てのアイコン16a〜16eが運転者に確認された場合に、シフトレンジを走行レンジに切り換え可能な状態とすることとしたが、これに代えて、全てのアイコン16a〜16eが運転者に確認された場合に、エンジンの始動が可能な状態とすることとしてもよい。
10…視線検出装置、 11…CPU、
11a…検出処理機能、 11b…確認済記憶機能、
11c…走行可能化機能、 11d…校正機能、
12…ROM、 13…RAM、
14…バス、 15…液晶用インターフェース、
16…液晶表示器、 16a〜16e…アイコン、
17…カメラ用インターフェース、 18…近赤外光カメラ、
19…近赤外光LED、 20…目の画像、
20a…角膜反射像、 20b…瞳孔、
30…バックミラー、 31…サイドミラー、
32…各種計器類、 33…ハンドル、
34…ヘッドアップディスプレイ

Claims (6)

  1. 車両に設けられ、運転者の視線が到達する視線位置を検出する視線検出装置であって、
    前記運転者が確認可能な複数の表示部(16a〜16e)と、
    前記運転者の前記視線位置を検出するための検出処理を行う検出処理手段(11a)と、
    前記表示部毎に、前記運転者の前記視線位置が前記表示部に存在するか否かを判断し、前記運転者の前記視線位置が前記表示部に存在する場合は該表示部が前記運転者に確認されたことを記憶する確認済記憶手段(11b、S216)と、
    複数の前記表示部について前記運転者に確認されたことが記憶されたら、前記車両を走行可能な状態とする走行可能化手段(11c、S112、S312、S412)と、
    前記表示部が前記運転者に確認されたことが記憶された場合の前記運転者の前記視線位置が該表示部の特定位置として検出されるように、前記検出処理の校正を行う校正手段(11d、S220、S316)と
    を備える視線検出装置。
  2. 請求項1に記載の視線検出装置であって、
    複数の前記表示部は、前記車両の走行のための機能の種類毎に設けられ、前記機能が正常であるか否かを示すものである視線検出装置。
  3. 請求項1または請求項2に記載の視線検出装置であって、
    前記走行可能化手段は、エンジンの始動が可能な状態またはシフトレンジを走行レンジに切り換え可能な状態とすることで、前記車両を走行可能な状態とする手段である視線検出装置。
  4. 請求項1ないし請求項3の何れか一項に記載の視線検出装置であって、
    前記校正手段は、複数の前記表示部全てについて前記運転者に確認されたことが記憶された後に、前記校正を行う手段(11d、S316)である視線検出装置。
  5. 請求項1ないし請求項4の何れか一項に記載の視線検出装置であって、
    前記運転者固有の情報である固有情報を記憶する固有情報記憶手段(12)と、
    複数の前記表示部について予め定められた順序で、前記運転者に確認されたことが記憶されたら、前記固有情報を前記車両にて利用可能にする利用可能化手段(S416)と
    を備える視線検出装置。
  6. 車両に設けられ、運転者の視線が到達する視線位置を検出する視線検出方法であって、
    前記運転者の前記視線位置を検出するための検出処理を行う工程(11a)と、
    前記車両の走行のための機能の種類毎に設けられ前記機能が正常であるか否かを前記運転者が確認可能な表示部(16a〜16e)毎に、前記運転者の前記視線位置が前記表示部に存在するか否かを判断し、前記運転者の前記視線位置が前記表示部に存在する場合は該表示部が前記運転者に確認されたことを記憶する工程(11b、S216)と、
    複数の前記表示部について前記運転者に確認されたことが記憶されたら、前記車両を走行可能な状態とする工程(11c、S112、S312、S412)と、
    前記表示部が前記運転者に確認されたことが記憶された場合の前記運転者の前記視線位置が該表示部の特定位置として検出されるように、前記検出処理の校正を行う工程(11d、S220、S316)と
    を備える視線検出方法。
JP2013245219A 2013-11-27 2013-11-27 視線検出装置、および視線検出方法 Expired - Fee Related JP6136891B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013245219A JP6136891B2 (ja) 2013-11-27 2013-11-27 視線検出装置、および視線検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013245219A JP6136891B2 (ja) 2013-11-27 2013-11-27 視線検出装置、および視線検出方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016250503A Division JP6264440B2 (ja) 2016-12-26 2016-12-26 視線検出装置、および視線検出方法

Publications (2)

Publication Number Publication Date
JP2015101292A true JP2015101292A (ja) 2015-06-04
JP6136891B2 JP6136891B2 (ja) 2017-05-31

Family

ID=53377358

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013245219A Expired - Fee Related JP6136891B2 (ja) 2013-11-27 2013-11-27 視線検出装置、および視線検出方法

Country Status (1)

Country Link
JP (1) JP6136891B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017051595A1 (ja) * 2015-09-25 2017-03-30 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP2020102040A (ja) * 2018-12-21 2020-07-02 パナソニックIpマネジメント株式会社 指導情報の出力方法および指導情報の出力システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09212082A (ja) * 1996-01-30 1997-08-15 Nissan Motor Co Ltd 視線入力装置
JP2005247293A (ja) * 2004-02-04 2005-09-15 Toyota Motor Corp 車両の駆動装置
JP2006342524A (ja) * 2005-06-07 2006-12-21 Hitachi Constr Mach Co Ltd 建設機械
JP2007022352A (ja) * 2005-07-19 2007-02-01 Toyota Motor Corp 車両安全確認装置、車両安全確認方法
JP2012198731A (ja) * 2011-03-21 2012-10-18 Denso Corp 車両制御装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09212082A (ja) * 1996-01-30 1997-08-15 Nissan Motor Co Ltd 視線入力装置
JP2005247293A (ja) * 2004-02-04 2005-09-15 Toyota Motor Corp 車両の駆動装置
JP2006342524A (ja) * 2005-06-07 2006-12-21 Hitachi Constr Mach Co Ltd 建設機械
JP2007022352A (ja) * 2005-07-19 2007-02-01 Toyota Motor Corp 車両安全確認装置、車両安全確認方法
JP2012198731A (ja) * 2011-03-21 2012-10-18 Denso Corp 車両制御装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017051595A1 (ja) * 2015-09-25 2017-03-30 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP2020102040A (ja) * 2018-12-21 2020-07-02 パナソニックIpマネジメント株式会社 指導情報の出力方法および指導情報の出力システム

Also Published As

Publication number Publication date
JP6136891B2 (ja) 2017-05-31

Similar Documents

Publication Publication Date Title
JP5278461B2 (ja) 視線検出装置および視線検出方法
JP4480755B2 (ja) 車両用ヘッドアップディスプレイ装置
EP3357793A1 (en) Parking assist apparatus
JP5092776B2 (ja) 視線方向検出装置及び視線方向検出方法
JP4222183B2 (ja) 車両周辺画像表示装置
JP7053437B2 (ja) 運転支援装置および車両
JP2007259931A (ja) 視線検出装置
JP2010143411A (ja) ヘッドアップディスプレイ装置
JP2016055801A (ja) 車載表示装置
JP6136891B2 (ja) 視線検出装置、および視線検出方法
KR20170138939A (ko) 자동차의 주변을 표시하기 위한 장치 및 방법
JP2007322552A (ja) 視覚補正装置
CN112996695A (zh) 车身构造
JP2010208359A (ja) 車両用表示装置
JP6264440B2 (ja) 視線検出装置、および視線検出方法
WO2015092977A1 (ja) 視線検出装置、および視線検出方法
JP2018034716A (ja) 車両用操作システム及びコンピュータプログラム
JP2019031176A (ja) 車両用表示装置
JP2018076019A (ja) 画像処理装置
CN110691726B (zh) 用于评估驾驶员状态的方法和设备以及车辆
JP6953987B2 (ja) 車両用表示装置
WO2018101274A1 (ja) 安全確認装置
JP2009190613A (ja) 車載表示装置
JP2021033570A (ja) 操作制御装置、操作制御方法、およびプログラム
JP2019095892A (ja) 車両用運転支援装置、および車両用運転支援プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170417

R151 Written notification of patent or utility model registration

Ref document number: 6136891

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees