JP6908339B2 - 視線検知装置、視線検知プログラムおよび視線検知方法 - Google Patents

視線検知装置、視線検知プログラムおよび視線検知方法 Download PDF

Info

Publication number
JP6908339B2
JP6908339B2 JP2017085072A JP2017085072A JP6908339B2 JP 6908339 B2 JP6908339 B2 JP 6908339B2 JP 2017085072 A JP2017085072 A JP 2017085072A JP 2017085072 A JP2017085072 A JP 2017085072A JP 6908339 B2 JP6908339 B2 JP 6908339B2
Authority
JP
Japan
Prior art keywords
line
sight
coordinate data
threshold value
sight detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017085072A
Other languages
English (en)
Other versions
JP2018183249A (ja
Inventor
修平 林
修平 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2017085072A priority Critical patent/JP6908339B2/ja
Publication of JP2018183249A publication Critical patent/JP2018183249A/ja
Application granted granted Critical
Publication of JP6908339B2 publication Critical patent/JP6908339B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Eye Examination Apparatus (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、人物の視線検出に関し、特に、自動車等の移動体における搭乗者の視線検出に関する。
今日、人物の視線を検知するための視線検知センサは広く利用されている。例えば、運転監視システムでは、視線検知センサにより運転者がどの方向を見ていたかを判定し、もし、脇見運転などしている場合には警報を発している。運転者が特定の対象物を見ていたか否かの注視判定は、仮想平面座標を構築し、その仮想平面上のどの位置に視線データが滞留したかを検知し、その検知された座標位置との関係からどの対象物を見ていたかを判定する。図11に、仮想平面座標を利用した視線検知方法の一例を示す。同図に示すように、(1)仮想平面10の法線ベクトルVsを求め、(2)仮想平面10の1点とユーザーUの瞳孔(3次元座標)を通る3次元ベクトルVcを求め、(3)3次元ベクトルVcと仮想平面10を結ぶベクトルの係数tを求め、(4)仮想平面10上の3次元座標Fを求め、3次元座標Fから対象物を特定する。
視線検知に関して、例えば、特許文献1には、車両内に備えられた装備品への視線方向を基準にキャリブレーションを行う技術が開示されている。特許文献2には、眼球からの反射光を利用して、注視点の計測を行う技術が開示されている。
特開2010−30361号公報 特開平7−35543号公報
図12は、仮想平面を利用した視線検知の一例を説明する図である。運転者が、バックミラー20、サイドミラー22、CID(center Information Display)24の各対象物を注視したか否かの判定は、仮想平面上のどの位置に視線方向が滞留したかを検知することにより行われる。このため、仮想平面上には領域を規定する閾値が設定されるが、通常、この閾値は、開発者が手動で座席からミラー20、22やCID24までの距離を測定し、それに基づき一律に決定している。
しかしながら、閾値を一律に決定すると、ユーザーの顔の位置が少しでも変化してしまうと、閾値が不正確となり、対象物の注視判定を正確に行うことができなくなる。また、人によっても視線方向にはバラツキがある。図13は、被験者1から被験者4に画面の中心点を見たときの視線データであり、3つの白丸が各被験者の視線位置を表している。同図からも分かるように、同一点を注視していても、人によって視線方向にばらつきが発生してしまう。このような要因により、図12に示すように、ユーザーAにとっての最適な閾値(破線)Qaと、ユーザーBにとっての最適な閾値(点線)Qbとは必ずしも一致しない。さらに、視線検知センサの精度が悪いと、大きな誤差を含んだ視線データが取得されるため、閾値を正確に規定しても、結果的に正確な注視判定をすることが難しくなる。
本発明は、このような従来の課題を解決するものであり、ユーザー毎に注視判定を正確に行うことができる視線検知装置、視線検知プログラムおよび視線検知方法を提供することを目的とする。
本発明に係る視線検知装置は、注視の対象となる対象物を案内する案内手段と、人物の視線方向を検知する検知手段と、前記案内手段により案内された対象物に関し、前記検知手段により検知された視線方向に基づき対象物の注視判定を行うための範囲を規定する閾値を設定する設定手段と、前記検知手段により検知された視線方向と前記設定された閾値とを比較し、対象物が注視されているか否かを判定する判定手段とを含む。
好ましくは前記設定手段は、仮想平面上の座標領域を規定する閾値を設定する。好ましくは前記設定手段は、複数の視線方向に基づき仮想平面上のX方向の最大および最小の最外点、Y方向の最大および最小の最外点を抽出し、前記最外点に基づき閾値を設定する。好ましくは前記設定手段は、左右の視線方向を一対の視線方向とし、一対の視線方向の重心点に基づき閾値を設定する。好ましくは前記設定手段は、案内された対象物の外形に近似する外形の閾値を設定する。好ましくは前記設定手段は、前記案内手段により案内が行われたときから一定期間、または案内が行われている期間中に複数の視線方向を取得する。好ましくは前記案内手段は、対象物の取り付けられた発光素子を含み、発光素子を点灯または点滅させることで案内を行う。好ましくは前記発光素子は、対象物の外周に沿うように複数配置され、前記案内手段は、複数の発光素子を点灯または点滅させることで案内を行う。好ましくは前記案内手段は、複数の発光素子を一定方向に順次点灯させる。好ましくは対象物が表示手段であるとき、前記案内手段は、前記表示手段の外周が点灯されるかの如く前記表示手段に画像を表示させる。好ましくは前記案内手段は、対象物についての案内を音声により行う。好ましくは前記設定手段は、ユーザー入力に基づき閾値を設定または更新する。
本発明に係る視線検知プログラムは、人物の視線方向を検知する検知手段を備えた視線検知装置が実行するものであって、注視の対象となる対象物を案内するステップと、前記案内された対象物に関し、前記検知手段により検知された視線方向に基づき対象物の注視判定を行うための範囲を規定する閾値を設定するステップと、前記検知手段により検知された視線方向と前記設定された閾値とを比較し、対象物が注視されているか否かを判定するステップとを含む。
好ましくは前記設定するステップは、電源投入時に行われる。好ましくは前記設定するステップは、ユーザー入力に応答して行われる。好ましくは前記設定するステップは、複数の視線方向に基づき仮想平面上のX方向の最大および最小の最外点、Y方向の最大および最小の最外点を抽出し、前記最外点に基づき閾値を設定する。好ましくは前記設定するステップは、左右の視線方向を一対の視線方向とし、一対の視線方向の重心点に基づき閾値を設定する。
本発明に係る視線検知方法は、人物の視線方向を検知する検知手段を備えた視線検知装置におけるものであって、注視の対象となる対象物を案内するステップと、前記案内された対象物に関し、前記検知手段により検知された視線方向に基づき対象物の注視判定を行うための範囲を規定する閾値を設定するステップと、前記検知手段により検知された視線方向と前記設定された閾値とを比較し、対象物が注視されているか否かを判定するステップとを含む。
本発明によれば、案内された対象物に関し、検知手段により検知された視線方向に基づき注視判定を行うための範囲を規定する閾値を設定するようにしたので、人物の顔の位置や視線方向のばらつき等の個人差があっても、個人に最適な閾値を自動で設定することができ、開発の効率化とともに注視判定の精度向上を図ることができる。また、視線検知センサの精度が悪くとも、誤差を含んだ形で仮想領域が生成されるため、視線検知センサの精度に依存することなく正確な注視判定を行うことができる。
本発明の実施例に係る車載装置の構成を示すブロック図である。 本発明の実施例に係る対象物への発光素子の配置例を示す図である。 視線検知センサの取付け例を示す図である。 本発明の実施例に係る視線検知プログラムの機能的な構成を示す図である。 図5(A)は、案内された対象物について取得された視線データの例示であり、図5(B)は、取得された視線データに基づき設定された閾値の例示である。 本発明の実施例に係る閾値設定部の第1の設定方法を説明する図である。 本発明の実施例に係る閾値設定部の第2の設定方法を説明する図である。 本実施例に係る対象物とそれに対応して設定された閾値との関係を記憶する例である。 本発明の実施例に係る視線検知動作を示すフローである。 本発明の第2の実施例に係る対象物の案内方法を説明する図である。 仮想平面座標を利用した視線検知方法を説明する図である。 仮想平面を利用した視線検知の一例を説明する図である。 視線方向の個人差(バラツキ)の一例を示す図である。
次に、本発明の実施の形態について図面を参照して詳細に説明する。本発明に係る視線検知装置は、それ単独で存在するものであってもよいし、車載装置等の電子装置に包含されるものであってもよい。車載装置は、運転アシスト機能、ナビゲーション機能、オーディオ・ビデオデータを再生する機能、テレビ・ラジオ放送を受信する機能、アプリケーションソフトウエアを実行する機能などを備えたコンピュータ装置、タブレット型のコンピュータ装置であることができる。視線検知装置の検知結果は、車載装置の各機能に利用することができる。
図1は、本発明の実施例に係る車載装置の構成を示すブロック図であり、本実施例の車載装置100は、視線検知機能または視線検知部を包含する。同図に示すように、車載装置100は、入力部110、ナビゲーション部120、マルチメディア再生部130、表示部140、音声出力部150、対象物案内部160、視線検知センサ170、記憶部180、および制御部190を含んで構成される。但し、ここに示す構成は一例であり、車載装置100は、他の機能や構成を包含するものであってもよい。
入力部110は、ユーザーからの指示を受け取り、これを制御部190へ提供する。ナビゲーション部120は、GPS衛星から送信されるGPS信号等に基づき自車位置を算出し、自車位置周辺の地図を案内する。マルチメディア再生部130は、CD、DVD、半導体メモリ等の記録媒体に記録された音声データや映像データを再生する。表示部140は、ナビゲーション部120により生成された地図画像やマルチメディア再生部130により再生された映像データを表示する。音声出力部150は、ナビゲーション部120やマルチメディア再生部130で生成された音声データを出力する。
対象物案内部160は、ユーザーに注視させたい対象物の案内を行う。好ましい例では、対象物案内部160は、視覚または聴覚により案内を行う。聴覚による案内は、音声出力部150から、例えば、「表示部の外周または輪郭を目で追うように見てください」、「ミラーの外周または輪郭を目で追うように見てください」などの音声を出力させる。視覚による案内は、注視させたい対象物を点灯または点滅させる。好ましくは、対象物の外周に、発光ダイオード(LED)等の発光素子を1つまたは複数個取り付け、発光素子を点灯または点滅させることで、ユーザーに対象物を注視させる。より好ましくは、発光素子を一定方向に順次点灯させることで、ユーザーが発光素子の点灯を目で追えるようにする。対象物案内部160は、好ましくは一定期間、対象物の案内を行う。
図2(A)は、バックミラー20の外周に沿って複数のLED162が取り付けられた例、図2(B)は、サイドミラー22の外周に沿って複数のLED164が取り付けられた例、図2(C)は、CID24または表示部140の外周に沿って複数のLED166が取り付けられた例である。LED162、164、166の数、色、配置は任意である。また上記したように、LED162、164、166は、例えば、一定方向に順次点灯され、ユーザーは、案内された対象物の外形の発光点を目で追うことが自然に促される。
視線検知センサ170は、車内の搭乗者の視線を検知する。好ましくは、運転者の視線を検知する。視線検知センサ170は、例えば、図3に示すように、コラムカバー172上に取り付けられ、ステアリング174の合間を通して運転者176の顔を撮像する。好ましくは、視線検知センサ170は、運転者176の顔を照射する赤外線LEDと、その反射光を受光する赤外線カメラとを含み、赤外線カメラで撮像されたデータは制御部190へ提供される。
記憶部180は、ナビゲーション部120が必要とする地図データ、マルチメディア再生部130が再生するマルチメディアデータ、制御部190が実行するアプリケーションソフトウエアやプログラム等を格納することができる。制御部190は、車載装置100の各部を制御し、好ましい態様では、ROM、RAMなどを含むマイクロコントローラ等を含み、制御部190は、車載装置100の動作を制御するための種々のプログラムを実行する。本実施例では、制御部190は、視線検知センサ170からの出力に基づき視線検知を行う視線検知プログラムを実行する。
図4は、本実施例の視線検知プログラムの機能的な構成を示す。視線検知プログラム200は、対象物案内制御部210、視線データ処理部220、閾値設定部230、注視判定部240を含む。視線検知プログラム200は、車載装置100に含まれる他の機能と連動して実行され、例えば、ナビゲーション部120が起動されたことに応答して視線検知プログラム200が実行される。または、視線検知プログラムは、車載装置100に電源が投下されたとき、あるいはユーザーからの指示があったときに実行されるようにしてもよい。
対象物案内制御部210は、注視判定のための閾値を設定するときに対象物案内部160を制御する。すなわち、対象物案内制御部210は、対象物案内部160を介して、図2に示すLED162、164、166を点灯させたり、あるいは音声出力部150から注視させたい対象物の音声案内をさせる。例えば、対象物案内制御部210は、対象物の周囲に取り付けられた複数のLEDを時計周り、または反時計周りに順次、点灯または点滅させ、これにより、運転者に注視対象を認識させ、かつ、一定方向に点滅するLEDの発光により運転者の視線方向を対象物の外周に向けさせる。また、対象物案内制御部210は、LEDの点灯を開始する前または点灯中に、「点灯中の光を追ってください」等の誘導案内を音声出力部150から出力させたり、あるいは表示部140に誘導案内のメッセージを表示させてもよい。
LEDの点灯態様は、特に限定されるものではなく、運転者の視線方向が対象物の1点に留まらず、複数の点あるいは対象物の外周に沿うように喚起されればよく、例えば、対象物のLEDの全てを同タイミングで点滅させ、「点灯中の光を視線でなぞってください」等の誘導案内を行ってもよい。また、LEDの点灯は、対象物の案内を行っている期間中、一定期間継続される。これにより、ユーザーは、LEDが点灯または点滅している期間、対象物を視認する必要性を理解する。さらに、対象物案内制御部210による案内制御は、必ずしも視覚による案内がなくてもよく、音声出力部150を介して、「サイドミラーの外周を見てください」、「サイドミラーの外周に沿うように視線を合わせてください」、「サイドミラーの注視判定のための閾値を設定しますので、サイドミラーの外周に沿うように視線を移動させてください」等の音声案内だけでもよい。
対象物案内制御部210は、案内すべき対象物が複数あるときは、それらの案内を順次行う。また、対象物案内制御部210は、対象物の注視判定のための閾値を新たに設定するとき、または更新するときに実施される。例えば、運転者が変更になるとき、ユーザーは、入力部110を介して対象物案内制御部210の起動を指示したり、車載装置100の電源が投入されたときに対象物案内制御部210が起動される。
視線データ処理部220は、対象物案内制御部210によって案内された対象物に向けられた運転者の視線データを視線検知センサ170を介して取得する。好ましくは、対象物案内制御部210による案内制御が行われたときから一定期間、あるいは案内が行われている期間、視線データ処理部220は、案内された対象物についての複数の視線データをサンプリングする。
視線データ処理部220は、例えば、赤外線カメラで撮像されたデータから、目の中の白い丸い形をしたものを角膜反射の候補として検出し、黒い丸の形をしたものを瞳孔の候補として検出し、それら角膜や瞳孔の位置関係や過去のデータ等から候補の絞り込みを行い、可能性の高いものを視線データとして選択する。
図5(A)は、対象物案内制御部210によって表示部140が対象物として案内され、その間に表示部140に向けられた運転者の視線データが視線データ処理部220により取得される。視線データは、運転者の視線方向を表し、ここでは仮想平面上の座標データとして表されている。視線方向、すなわち視線データは、表示部140の外枠付近に不規則に複数検知されている。
閾値設定部230は、視線データ処理部220によって取得され、処理された視線データに基づき、対象物の注視判定を行うための範囲を規定する閾値を自動で設定する。図5(B)は、取得された視線データに基づき閾値設定部230が設定した閾値Thを示している。閾値の詳細な設定方法は、後述する。
注視判定部240は、閾値設定部230により設定された閾値に基づき運転者が対象物を注視しているか否かを判定する。この判定結果は、車載装置100やその他の装置において利用することができる。例えば、車載装置100が運転アシスト機能を備えている場合、走行中に運転者が何度も表示部140を注視すると警告を発したり、あるいは、停止中に、運転者が表示部140を注視するとナビゲーション画面をオーディオ画面に切り替えたり、バックミラーを注視すると表示部140にリアビューの画像を表示する、といった制御が可能である。
次に、閾値設定部230による第1の閾値の設定方法について図6を参照して説明する。図6(A)において、□は、LEDの発光位置、○は、左目の視線の座標データ、斜線の○は、右目の視線の座標データ、△は、任意秒内の平均の視線の座標データであり、これらのデータがXY平面に表されている。
第1の設定方法は、取得された複数の視線の座標データから最も外にある点(最外点)をサンプリングし、これに基づき閾値を設定する。具体的には、XY平面におけるX方向の最大、最小の視線データと、Y方向の最大、最小の視線データが抽出される。図の例では、X方向の最大の視線データD、最小の視線データB、Y方向の最大の視線データA、最小の視線データCが抽出される。これら4つのA、B、C、D点は、最も外にある最外点である。ここでは、左右の視線データを区別することなく最外点が抽出される。
閾値設定部230は、これら4つの最外点を直線で連結することにより矩形状の2次元領域が閾値として設定される。矩形状の閾値Thは、図6(B)に示すように、コーナーを一定の曲率で丸めるようにしてもよい。この設定方法では、最外点に合わせて閾値を設定するため、仮に運転者が対象物を注視しているならば、その視線は、ほぼ閾値の範囲内に包含されるはずであり、それ故、正確に注視判定をすることができる。
また、閾値は、必ずしも矩形状である必要はなく、対象物の外形または輪郭に応じた形状にすることもできる。この場合、閾値設定部230は、対象物の外形または輪郭の情報を予め取得していることが望ましい。例えば、閾値設定部230は、対象物の外形に応じて、4つの最外点を曲線によって連結することも可能である。また、閾値設定部230は、対象物が円形であるならば、4つの最外点から3つの最外点を選択し、選択された3つの最外点に外接する円または内接する円を判定閾値とすることができる。また、閾値設定部230は、対象物の外形に応じた数の最外点を抽出するようにしてもよく、例えば、対象物が三角形であれば、その三角形に応じた3つの最外点を抽出し、これに基づき閾値を設定するようにしてもよい。さらに上記の方法では、4つの最外点を抽出したが、これに限らず、サンプリングされた5つ以上の座標データまたは全ての座標データを連結することで閾値を設定したり、あるいは最小二乗法などを利用して座標データを包絡するような閾値を設定するようにしてもよい。
次に、第2の閾値の設定方法について図7を参照して説明する。第2の設定方法では、視線データ処理部220によって取得された右目と左目の座標データの重心点を複数算出し、算出された重心点を結んだ領域を閾値とする。重心点の算出方法は、任意秒内(例えば、0.5秒内)に取得された右目および左目の座標データの重心点を算出する方法を用いている。つまり、ほぼ同時刻に取得された左右の一対の視線の座標データの重心点が算出される。図7(B)の例で示せば、時刻t1で取得された一対の視線の座標データの重心点p1が算出され、時刻t2、時刻t3でそれぞれ取得された一対の視線の座標データの重心点p2、p3が算出される。閾値設定部230は、このようにして複数の重心点を算出し、算出された重心点を通る範囲を閾値Thに設定する。なお、閾値Thは、図7(B)に示すように、不規則な形状でも良いし、最小二乗法を用いて近似直線または近似曲線を求めても良い。さらには、図6に示したように、複数の重心点から最外点を抽出し、第1の設定方法と同じように閾値を設定してもよい。また、第1ないし第2の設定方法において、例えば図7に示すように、著しく外れた座標データZが存在する場合、これを異常な座標データZとして除外してもよい。著しく外れたとは、座標データZが最も隣接する座標データから一定距離以上離れたことを意味する。このような著しく外れた座標データZを取り除くことで、座標収束している地点が閾値に反映され、その結果、設定される閾値の精度を高めることができる。
閾値設定部230によって設定された閾値は、記憶部180に記憶される。例えば、図8に示すように、対象物とそれに対応する閾値とが記憶され、注視判定部240は、記憶された閾値を参照し、一定時間内に滞留した視線(すなわち、視線範囲)が閾値内にあれば、当該閾値の対象物が注視されたことが判定される。
図9は、本実施例に係る視線検知の動作のフローである。視線検知プログラム200は、対象物の注視判定を行うための閾値の設定が必要なときに実行される。例えば、車載装置100の電源が投下されたとき、対象物案内制御部210は、対象物案内部160を介して対象物をユーザーに視認させるような案内を開始する(S100)。この対象物の案内は、運転者からの複数の視線データをサンプリングできるように一定期間行われることが望ましい。
次に、視線データ処理部220は、案内期間中、対象物に関する運転者の視線データを取得する(S102)。次に、閾値設定部230は、取得された視線データに基づき対象物の注視判定を行うための仮想平面上の領域を規定する閾値を設定する(S104)。S100からS104の処理については、全ての対象物について実施され(S106)、全ての対象物に関する閾値が設定されると、その設定された閾値が図8に示すようなテーブルに記憶される。
以後、注視判定部240は、設定された閾値に従い、視線データが取得されたとき、対象物の注視判定を行う(S108)。具体的には、視線の座標データと閾値とを比較し、閾値内に幾つかの座標データが滞留した場合には、対象物を注視していると判定し、そうでなければ、注視していないと判定する。注視判定部240の判定結果は、上記したように種々の機能に利用することができ、また、ユーザー入力インターフェースとしての視線入力または視線選択であることができる。視線検知動作は、車載装置100の電源がオフにされたり、ユーザーから指示があったり、その他、動作が不要とされたとき、終了する(S110)。再度、閾値を設定または更新する場合には、S100から処理が開始される。
本実施例では、運転者等の生の視線データから注視判定のための範囲を規定する閾値を自動で設定するようにしたので、従来のように開発者が苦労して閾値をチューニングする必要がなくなり、開発の効率化を図ることができる。また、閾値の設定は、任意に行うことができるため、個々のユーザーに応じた閾値を適切なタイミングで設定することができ、ユーザー毎に正確な注視判定を行うことができる。さらに、視線検知センサ170の精度に依存することなく、正確な注視判定を行うことができる。
次に、本実施例の第2の実施例について説明する。上記実施例では、対象物の外周に複数のLEDを配置させることで対象物の案内を行ったが、第2の実施例では、対象物が表示機能を有する場合には、その表示機能を利用して案内を行う。図10(A)は、第2の実施例による対象物の案内例を説明する図である。表示部140は、例えば、液晶ディスプレイあるいは有機ELディスプレイから構成され、対象物案内制御部210は、対象物案内部160を介して対象物の案内を行うとき、表示部140の画面の外周に沿ってあたかもLEDが順次点灯または点滅するような視標142の画像を表示させる。さらに、図10(B)に示すように、表示部140の中央部には、「表示部の外周の点滅を追うように見てください」等のメッセージ144の画像を表示させるようにしてもよい。
以上、本発明の好ましい実施の形態について詳述したが、本発明は、特定の実施形態に限定されるものではなく、特許請求の範囲に記載された発明の要旨の範囲において、種々の変形、変更が可能である。
100:車載装置 110:入力部
120:ナビゲーション部 130:マルチメディア再生部
140:表示部 150:音声出力部
160:対象物案内部 170:視線検知センサ
180:記憶部 190:制御部

Claims (17)

  1. 注視の対象となる対象物を案内する案内手段と、
    人物の視線方向を検知する検知手段と、
    前記検知手段により検知された視線方向に基づき前記案内手段により案内された対象物の仮想平面上の複数の座標データを取得する取得手段と、
    前記取得手段によって取得された複数の座標データに基づき対象物の注視判定を行うための前記仮想平面上の座標領域を規定する閾値を自動で設定する設定手段と、
    前記検知手段により検知された視線方向に基づく座標データと前記設定された閾値とを比較し、対象物が注視されているか否かを判定する判定手段とを含み、
    前記設定手段は、複数の座標データに基づき仮想平面上のX方向の最大および最小の最外点、Y方向の最大および最小の最外点を抽出し、前記最外点に基づき閾値を設定する、視線検知装置。
  2. 前記案内手段は、対象物として車両のバックミラー、サイドミラーまたは表示部を案内する、請求項1に記載の視線検知装置。
  3. 前記設定手段は、左右の視線の座標データを一対の座標データとし、一対の座標データの重心点に基づき閾値を設定する、請求項に記載の視線検知装置。
  4. 前記設定手段は、案内された対象物の外形に近似する外形の閾値を設定する、請求項に記載の視線検知装置。
  5. 前記設定手段は、前記案内手段により案内が行われたときから一定期間、または案内が行われている期間中に複数の座標データを取得する、請求項1ないしいずれか1つに記載の視線検知装置。
  6. 前記案内手段は、対象物の取り付けられた発光素子を含み、発光素子を点灯または点滅させることで案内を行う、請求項1または2に記載の視線検知装置。
  7. 前記発光素子は、対象物の外周に沿うように複数配置され、前記案内手段は、複数の発光素子を点灯または点滅させることで案内を行う、請求項に記載の視線検知装置。
  8. 前記案内手段は、複数の発光素子を一定方向に順次点灯させる、請求項に記載の視線検知装置。
  9. 対象物が表示手段であるとき、前記案内手段は、前記表示手段の外周が点灯されるかの如く前記表示手段に画像を表示させる、請求項1ないし6いずれか1つに記載の視線検知装置。
  10. 前記案内手段は、対象物についての案内を音声により行う、請求項1ないしいずれか1つに記載の視線検知装置。
  11. 前記設定手段は、ユーザー入力に基づき閾値を設定または更新する、請求項1に記載の視線検知装置。
  12. 人物の視線方向を検知する検知手段を備えた視線検知装置が実行する視線検知プログラムであって、
    注視の対象となる対象物を案内するステップと、
    前記検知手段により検知された視線方向に基づき前記案内された対象物の仮想平面上の複数の座標データを取得するステップと、
    前記取得するステップで取得された複数の座標データに基づき対象物の注視判定を行うための前記仮想平面上の座標領域を規定する閾値を自動で設定するステップと、
    前記検知手段により検知された視線方向に基づく座標データと前記設定された閾値とを比較し、対象物が注視されているか否かを判定するステップとを含み、
    前記設定するステップは、複数の座標データに基づき仮想平面上のX方向の最大および最小の最外点、Y方向の最大および最小の最外点を抽出し、前記最外点に基づき閾値を設定する、視線検知プログラム。
    視線検知プログラム。
  13. 前記設定するステップは、電源投入時に行われる、請求項12に記載の視線検知ステップ。
  14. 前記設定するステップは、ユーザー入力に応答して行われる、請求項12に記載の視線検知プログラム。
  15. 前記設定するステップは、左右の視線の座標データを一対の座標データとし、一対の座標データの重心点に基づき閾値を設定する、請求項12に記載の視線検知プログラム。
  16. 人物の視線方向を検知する検知手段を備えた視線検知装置における視線検知方法であって、
    注視の対象となる対象物を案内するステップと、
    前記検知手段により検知された視線方向に基づき前記案内された対象物の仮想平面上の複数の座標データを取得するステップと、
    前記取得するステップで取得された複数の座標データに基づき対象物の注視判定を行うための前記仮想平面上の座標領域を規定する閾値を自動で設定するステップと、
    前記検知手段により検知された視線方向と前記設定された閾値とを比較し、対象物が注視されているか否かを判定するステップとを含み、
    前記設定するステップは、複数の座標データに基づき仮想平面上のX方向の最大および最小の最外点、Y方向の最大および最小の最外点を抽出し、前記最外点に基づき閾値を設定する、視線検知方法。
  17. 前記設定するステップは、左右の視線の座標データを一対の座標データとし、一対の座標データの重心点に基づき閾値を設定する、請求項16に記載の視線検知方法。
JP2017085072A 2017-04-24 2017-04-24 視線検知装置、視線検知プログラムおよび視線検知方法 Active JP6908339B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017085072A JP6908339B2 (ja) 2017-04-24 2017-04-24 視線検知装置、視線検知プログラムおよび視線検知方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017085072A JP6908339B2 (ja) 2017-04-24 2017-04-24 視線検知装置、視線検知プログラムおよび視線検知方法

Publications (2)

Publication Number Publication Date
JP2018183249A JP2018183249A (ja) 2018-11-22
JP6908339B2 true JP6908339B2 (ja) 2021-07-28

Family

ID=64357255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017085072A Active JP6908339B2 (ja) 2017-04-24 2017-04-24 視線検知装置、視線検知プログラムおよび視線検知方法

Country Status (1)

Country Link
JP (1) JP6908339B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7277151B2 (ja) * 2019-01-21 2023-05-18 キヤノン株式会社 画像形成装置
JP2021047771A (ja) * 2019-09-20 2021-03-25 キヤノン株式会社 制御装置、撮像装置、制御方法、および、プログラム
KR20240048409A (ko) * 2022-10-06 2024-04-15 재단법인 아산사회복지재단 햅틱 피드백 장치 및 방법

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002301030A (ja) * 2001-04-09 2002-10-15 Canon Inc 視線検出機能付き機器
JP4936491B2 (ja) * 2006-07-18 2012-05-23 株式会社国際電気通信基礎技術研究所 視線方向の推定装置、視線方向の推定方法およびコンピュータに当該視線方向の推定方法を実行させるためのプログラム
JP5092776B2 (ja) * 2008-02-06 2012-12-05 株式会社デンソー 視線方向検出装置及び視線方向検出方法
JP4811683B2 (ja) * 2008-05-15 2011-11-09 株式会社アイメトリクス・ジャパン 視野検出装置
JP5150610B2 (ja) * 2009-12-03 2013-02-20 本田技研工業株式会社 注視判定装置
JP5626039B2 (ja) * 2011-03-09 2014-11-19 富士通株式会社 視線検出装置及び視線検出方法

Also Published As

Publication number Publication date
JP2018183249A (ja) 2018-11-22

Similar Documents

Publication Publication Date Title
JP5406328B2 (ja) 車両用表示装置、その制御方法及びプログラム
JP5974915B2 (ja) 覚醒度検出装置、および覚醒度検出方法
KR101596751B1 (ko) 운전자 맞춤형 사각 영역 표시 방법 및 장치
US20170291544A1 (en) Adaptive alert system for autonomous vehicle
US9696814B2 (en) Information processing device, gesture detection method, and gesture detection program
US11524578B2 (en) Control method and control device for vehicle display device
EP1987997B1 (en) Method and apparatus for assessing head pose of a vehicle driver
US20130097557A1 (en) Method of controlling a display component of an adaptive display system
US20110249868A1 (en) Line-of-sight direction determination device and line-of-sight direction determination method
US10068143B2 (en) Method for calibrating a camera for a gaze direction detection in a vehicle, device for a motor vehicle having a camera and at least one further element, and computer program product
JP6908339B2 (ja) 視線検知装置、視線検知プログラムおよび視線検知方法
EP3654143B1 (en) Method, apparatus and system for determining line of sight, and wearable eye movement device
US11062158B2 (en) Driver state determination apparatus, method, and recording medium
CN105193402A (zh) 用于求取车辆的驾驶员的心率的方法
KR102630368B1 (ko) 운전자 감시 카메라의 보정장치 및 그 방법
JP2017039373A (ja) 車両用映像表示システム
JP2010029262A (ja) 視線計測装置及びプログラム
JP2017191367A (ja) 安全運転支援装置及び安全運転支援プログラム
US9798941B2 (en) Driver visual sensor behavior study device
US11881054B2 (en) Device and method for determining image data of the eyes, eye positions and/or a viewing direction of a vehicle user in a vehicle
JP2011086125A (ja) 視認検出装置
US20190156133A1 (en) Vehicle driving support apparatus and vehicle driving support program
JP2018013812A (ja) ドライバ状態誘導装置、及びドライバ状態誘導プログラム
JP6582799B2 (ja) サポート装置及びサポート方法
US20220066551A1 (en) Apparatus and method for obtaining facial information

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210310

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210630

R150 Certificate of patent or registration of utility model

Ref document number: 6908339

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150