JP2013254409A - 漫然運転検出装置及びプログラム - Google Patents

漫然運転検出装置及びプログラム Download PDF

Info

Publication number
JP2013254409A
JP2013254409A JP2012130561A JP2012130561A JP2013254409A JP 2013254409 A JP2013254409 A JP 2013254409A JP 2012130561 A JP2012130561 A JP 2012130561A JP 2012130561 A JP2012130561 A JP 2012130561A JP 2013254409 A JP2013254409 A JP 2013254409A
Authority
JP
Japan
Prior art keywords
driver
line
degree
sight
conspicuousness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012130561A
Other languages
English (en)
Other versions
JP5966640B2 (ja
Inventor
Yuji Uchiyama
祐司 内山
Hiroyuki Sakai
浩之 堺
Takakatsu Yoshimura
貴克 吉村
Yasuo Sakaguchi
靖雄 坂口
Koji Yasuda
浩志 安田
Toshihiro Wakita
敏裕 脇田
Shinichi Kojima
真一 小島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2012130561A priority Critical patent/JP5966640B2/ja
Publication of JP2013254409A publication Critical patent/JP2013254409A/ja
Application granted granted Critical
Publication of JP5966640B2 publication Critical patent/JP5966640B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

【課題】単調な運転状況下であっても、ドライバの漫然状態を精度良く検出する。
【解決手段】車両前方の3次元構造データを計算し(104)、前方カメラ14の設置位置及び視軸方向、ドライバの頭部位置、並びに視線ベクトルから求まる前方の3次元構造データと視線ベクトルとの交点Aを通り、前方カメラ14の視軸に垂直な仮想平面上に、前方カメラ14の視野角、及び仮想平面と前方カメラ14との距離に基づいて前方画像をマッピングし、マッピングされた前方画像上における交点Aのピクセル位置を計算し(106)、前方画像の画素値に基づいて目立ち度マップを生成し(108)、目立ち度マップから交点Aのピクセル位置の目立ち度sを取り出して(110)、所定期間分の目立ち度sを積算した目立ち度積算値Ssを計算し(112)、目立ち度積算値Ssが予め定めた閾値th1より大きい場合に、ドライバが漫然状態であると判定する。
【選択図】図3

Description

本発明は、漫然運転検出装置及びプログラムに関する。
従来、漫然運転時にはドライバの視線が停留しがちであることを利用して、ドライバの漫然状態を検出する漫然運転検出装置が提案されている(例えば、特許文献1参照)。特許文献1記載の漫然運転検出装置では、車両の走行環境によって、漫然判定のための視線停留スレッショルドを変更している。
また、覚醒低下時には、ドライバの視線が停留しがちであることを利用して、ドライバの覚醒度を判定する覚醒度判定装置が提案されている(例えば、特許文献2参照)。特許文献2記載の覚醒度判定装置では、車両の前方場面の目立ち度(サリエンシー)によって覚醒度判定のためのスレッショルドを変更している。
また、ナビゲーションシステムや前方監視センサによって、ドライバが運転中に向くべき視線位置を推定し、視線が推定した位置の方向に向いていなければ、ドライバに対して警報を出力して注意を促す情報処理装置が提案されている(例えば、特許文献3参照)。
特開平8−178712号公報 特開2010−142410号公報 特開2002−83400号公報
上記特許文献1及び2の技術では、ドライバが漫然状態のときには前方へ視線が停留しがちであり、注意運転時にはバックミラーやサイドミラー、また危険な部分に視線を配分することにより視線が広がることに基づいて、ドライバの漫然状態の検出を行っている。また、特許文献3の技術では、右左折をするような状況下における視線配分の適合性に基づいて、漫然(運転の安全性)を判定している。
しかしながら、従来技術のような方法では、市街路で道なりの走行時や高速道路での走行時のように、視線を大きく動かさず、ほぼ前方監視のみで運転できるような単調な運転状況下では、漫然状態の判定精度が低下する、という問題があった。漫然状態は右左折や車線変更等の自発的な操作が必要とならない単調な運転状況が続く状況で発生し易いことから、漫然状態が発生し易い単調な運転状況下での漫然状態の判定精度を向上させることが重要となる。
また、通常の運転を考えると、運転時間の中で、単調な運転状況が占める時間は長く、ドライバがミラーに視線を向けるのは、右左折、車線変更、合流などのある特定の運転状況下に集中する。このように、ドライバは前方の走行環境に視線を向けている場合が多いため、特定の運転状況下における漫然状態の判定の場合には、大部分の運転状況を占める単調な運転状況下において、漫然状態の判定精度が低い、という問題もあった。
本発明は、上記の問題点を解決するためになされたもので、単調な運転状況下であっても、ドライバの漫然状態を精度良く検出することができる漫然運転検出装置及びプログラムを提供することを目的とする。
上記目的を達成するために、本発明の漫然運転検出装置は、ドライバの視線方向、及び自車両周辺を撮像する撮像手段により撮像された画像を取得する取得手段と、前記取得手段により取得された視線方向に対応した前記画像上の位置における画素の画素値に基づいて、前記ドライバの視線先の目立ち度を計算する目立ち度計算手段と、前記目立ち度計算手段により計算された目立ち度に基づいて、前記ドライバが目立つ部分に視線を向けた度合いと予め定めた閾値とを比較して、前記ドライバが漫然状態か否かを判定する判定手段と、を含んで構成されている。
本発明の漫然運転検出装置によれば、取得手段が、ドライバの視線方向、及び自車両周辺を撮像する撮像手段により撮像された画像を取得する。そして、目立ち度計算手段が、取得手段により取得された視線方向に対応した画像上の位置における画素の画素値に基づいて、ドライバの視線先の目立ち度を計算し、判定手段が、目立ち度計算手段により計算された目立ち度に基づいて、ドライバが目立つ部分に視線を向けた度合いと予め定めた閾値とを比較して、ドライバが漫然状態か否かを判定する。
このように、ドライバの視線先の目立ち度を用いて漫然状態を判定するため、単調な運転状況下であっても、ドライバの漫然状態を精度良く検出することができる。
また、前記取得手段は、前記自車両周辺に存在する物体上の複数の点の各々の前記自車両を基準とする位置を特定する3次元位置情報を取得し、前記目立ち度計算手段は、前記取得手段により取得された3次元位置情報に基づいて、前記自車両周辺の3次元構造を計算し、前記3次元構造と前記視線方向との交点を通り、前記撮像手段の視軸に垂直な平面に前記画像を投影し、投影した画像における前記交点の目立ち度を計算することができる。これにより、ドライバの視線方向に対応した画像上の位置を精度良く特定することができ、ドライバの視線先の目立ち度を用いた漫然状態の判定精度を向上させることができる。
また、本発明の漫然運転検出装置は、前記取得手段により取得された視線方向に対応した前記画像上の位置における前記ドライバの視線先の危険度を計算する危険度計算手段を含んで構成することができ、前記判定手段は、前記目立ち度計算手段により計算された目立ち度から、前記危険度計算手段により計算された危険度を差し引いて、前記漫然状態を判定することができる。これにより、ボトムアップの注意を考慮した目立ち度と、トップダウンの注意を考慮した危険度とを組み合わせて、より精度良く漫然状態を判定することができる。
また、前記取得手段は、前記自車両の位置、速度、及び進行方向の情報を含む自車両データ、並びに前記自車両周辺の死角領域を示す死角領域データを取得し、前記危険度計算手段は、前記取得手段により取得された死角領域データが示す死角領域に移動方向及び移動速度の情報を有する歩行者の存在を仮定し、前記歩行者の情報と前記自車両データとに基づいて、前記歩行者と前記自車両との衝突確率を前記危険度として計算することができる。
また、本発明の漫然運転検出装置は、前記判定手段により前記ドライバが漫然状態であると判定された場合に、前記ドライバに対する警報の出力、及び前記自車両の運転制御の少なくとも一方の運転支援を行う支援手段を含んで構成することができる。これにより、ドライバに対して漫然状態を解消するための運転支援を行うことができる。
また、本発明の漫然運転検出プログラムは、コンピュータを、ドライバの視線方向、及び自車両周辺を撮像する撮像手段により撮像された画像を取得する取得手段、前記取得手段により取得された視線方向に対応した前記画像上の位置における画素の画素値に基づいて、前記ドライバの視線先の目立ち度を計算する目立ち度計算手段、及び前記目立ち度計算手段により計算された目立ち度に基づいて、前記ドライバが目立つ部分に視線を向けた度合いと予め定めた閾値とを比較して、前記ドライバが漫然状態か否かを判定する判定手段として機能させるためのプログラムである。
以上説明したように、本発明の漫然運転検出装置及びプログラムによれば、ドライバの視線先の目立ち度を用いて漫然状態を判定するため、単調な運転状況下であっても、ドライバの漫然状態を精度良く検出することができる、という効果が得られる。
第1の実施の形態に係る漫然運転検出装置の概略構成を示すブロック図である。 視線ベクトルを説明するための図である。 第1の実施の形態における漫然運転検出処理ルーチンの内容を示すフローチャートである。 ドライバの視線方向に対応した前方画像上のピクセル位置の求め方を説明するための図である。 (a)前方画像の一例を示す図、及び(b)目立ち度マップの一例を示す図である。 第2の実施の形態に係る漫然運転検出装置の概略構成を示すブロック図である。 第2の実施の形態における漫然運転検出処理ルーチンの内容を示すフローチャートである。 (a)走行場面の一例を示す図、及び(b)道路平面マップの一例を示す図である。 隠れ歩行者の配置及び衝突確率の計算方法を説明するための図である。 危険度マップの一例を示す図である。 実験方法を説明するための図である。 (a)視線が向いた位置での目立ち度の積算値を示す図、及び(b)視線が向いた位置での危険度の積算値を示す図である。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
図1に示すように、第1の実施の形態に係る漫然運転検出装置10は、ドライバの視線方向を計測する視線計測センサ12と、車両前方領域を連続的に撮像する前方カメラ14と、漫然状態を検出する処理を実行するコンピュータ16と、コンピュータ16の処理結果に応じて警報を出力する警報装置18とを備えている。
視線計測センサ12は、ドライバカメラとマイクロコンピュータとで構成することができる。ドライバカメラは、ドライバの顔を含む領域を撮像して画像信号を生成する撮像部(図示省略)、撮像部で生成されたアナログ信号である画像信号をデジタル信号に変換するA/D変換部(図示省略)、及びA/D変換された画像信号を一時的に格納するための画像メモリ(図示省略)を備えている。ドライバカメラは、ドライバの顔を含む領域を、所定間隔で繰り返し撮像して、撮像により得られた顔画像をマイクロコンピュータに出力する。
マイクロコンピュータは、従来既知の画像処理手法を用いて、ドライバの顔画像から、ドライバの視線方向を計測し、計測された視線方向を示す情報をコンピュータ16に出力する。ここで、計測されるドライバの視線方向は、図2に示すように、ドライバの眼の位置で表される視線原点Oeと、z=1の仮想平面との交点(x’,y’,1)とによって決定される視線ベクトルpによって表される。なお、視線ベクトルpは、ドライバの右眼及び左眼のどちらか片眼から求めてもよいし、両眼の各々から求められた視線ベクトルの平均値としてもよい。さらに、視線方向が計測できなかった場合や、計測精度が低い場合には、顔画像から得られるドライバの顔の向きから視線ベクトルを推定してもよい。
前方カメラ14は、車両前方の対象領域を撮像し、画像信号を生成する撮像部(図示省略)、撮像部で生成されたアナログ信号である画像信号をデジタル信号に変換するA/D変換部(図示省略)、及びA/D変換された画像信号を一時的に格納するための画像メモリ(図示省略)を備えている。前方カメラ14は、視線計測センサ12を構成するドライバカメラと同期して、対象領域を、所定間隔で繰り返し撮像して、撮像により得られた前方画像を示す画像データをコンピュータ16に出力する。
コンピュータ16は、漫然運転検出装置10全体の制御を司るCPU20と、後述する漫然運転検出処理ルーチンのプログラム等各種プログラムを記憶した記憶媒体としてのROM22と、ワークエリアとしてデータを一時的に格納するRAM24と、各種情報が記憶された記憶手段としてのメモリ26と、入出力ポート(I/Oポート)28と、これらを相互に接続するバスと、を含んで構成されている。I/Oポート28には、視線計測センサ12、前方カメラ14、及び警報装置18が接続されている。
警報装置18は、例えば、ブザー音や音声メッセージを出力するためのスピーカや、ドライバの右前頭葉に正極、左前頭葉に負極の電圧を掛けてドライバに刺激を与える経頭蓋直流電気刺激装置等で構成することができる。
次に、第1の実施の形態に係る漫然運転検出装置10の作用について説明する。まず、視線計測センサ12によるドライバの視線方向の計測、及び前方カメラ14による車両前方の撮像が開始されると、コンピュータ16において、図3に示す漫然運転検出処理ルーチンが繰り返し実行される。
ステップ100で、視線計測センサ12から出力された視線ベクトルを示すデータを取得し、次に、ステップ102で、前方カメラ14から出力された前方画像を示す画像データを取得する。
次に、ステップ104で、上記ステップ102で取得された前方画像と、前回以前のタイムステップの処理で取得された時間的に連続する前方画像とに基づいて、モーションステレオ法(参考文献「滝本周平、伊藤崇晶、“車載カメラを用いた単眼測距検証システムの開発”、SEIテクニカルレビュー、2006、Vol.169、pp82−87」)を用いて、車両前方の3次元構造データを計算する。
次に、ステップ106で、上記ステップ100で取得された視線方向に対応した前方画像上の座標(ピクセル位置)を計算する。具体的には、図4に示すように、前方カメラ14の設置位置及び視軸(光軸)方向、ドライバの頭部位置、並びに視線ベクトルを用いて、前方の3次元構造データと視線ベクトルとの交点Aを求める。次に、求めた交点Aを通り、前方カメラ14の視軸に垂直な仮想平面を求める。さらに、前方カメラ14の視野角、及び仮想平面と前方カメラ14との距離に基づいて、前方画像を仮想平面上にマッピングする。そして、仮想平面上にマッピングされた前方画像上における交点Aのピクセル位置(xi,yi)を計算する。
次に、ステップ108で、上記ステップ102で取得された前方画像の各画素の色情報、輝度、エッジ方向、及び動き情報を統合して、各画素の目立ち度を計算し、各画素に目立ち度の値を保持させた目立ち度マップ(サリエンシーマップ:参考文献「L. Itti, C. Koch,“A saliency-based search mechanism for overt and covert shifts of visual attention”,Vision Research,2000, Vol. 40, 1489-1506」、「J. Harel, C. Koch,P. Perona, “Graph-Based Visual Saliency”,Advances in Neural Information Processing Systems,2007, Vol. 19, 545-552」)を生成する。目立ち度マップの一例を図5に示す。図5の例は、同図(a)に示す前方画像から生成された目立ち度マップを同図(b)に示しており、同図(b)において、明るい部分ほど目立ち度が高い(他の部分より目立つ)ことを表している。
次に、ステップ110で、上記ステップ108で生成された目立ち度マップから、上記ステップ106で計算されたピクセル位置(xi,yi)の目立ち度を取り出して、ドライバの視線先の目立ち度sとして、所定の記憶領域に保存する。次に、ステップ112で、所定の記憶領域に保存された目立ち度sから、所定期間分(例えば、5〜10秒)の目立ち度sを積算した目立ち度積算値Ssを計算する。
ここで、ドライバが漫然状態にある場合には、意図的な注意機能が働かなくなるため、死角領域からの歩行者の飛び出しが起こり得るような危険な場所に視線が行かなくなり、視覚的な刺激の目立つ部分に視線が向けられるという視線配分特性を示すようになる。
そこで、次のステップ114で、上記の視線配分特性を利用して、上記ステップ112で計算された目立ち度積算値Ssが、予め定めた閾値th1より大きいか否かを判定することにより、ドライバの漫然状態を判定する。Ss>th1の場合には、ドライバが目立つ部分に視線を向けた度合いが高くなっていることを示しており、ドライバは漫然状態であると判定して、ステップ116へ移行し、警報装置18から警報を出力して、ステップ100へ戻る。一方、Ss≦th1の場合には、そのままステップ100へ戻る。
以上説明したように、第1の実施の形態に係る漫然運転検出装置によれば、ドライバが漫然状態にある場合には、運転環境の目立つ部分へドライバの視線方向が向く度合いが高いという視線配分特性を使用して、ドライバの視線方向に対応した前方画像上の位置の目立ち度に基づいて漫然状態を判定するため、単調な運転状況下であっても、ドライバの漫然状態を精度良く検出することができる。
また、ドライバの視線方向に対応した画像上の位置の目立ち度を精度良く計算するためには、視線先の目立ち度を取得するための手段である前方カメラをドライバの眼の近くに設置する必要があるが、ドライバ及び同乗者の安全性を考慮すると、ドライバの眼の近くに前方カメラを設置することは困難である。そこで、本実施の形態のように、車両前方の3次元構造と視線ベクトルとの交点を通り、前方カメラの視軸に垂直な平面に前方画像をマッピングして交点のピクセル位置を計算することで、前方カメラをドライバの眼の近くに設置することなく、前方画像内のピクセル位置と視線方向とを高精度で一致させることができる。
次に、第2の実施の形態について説明する。なお、第1の実施の形態に係る漫然運転検出装置10と同一の構成については、同一符号を付して詳細な説明を省略する。
図6に示すように、第2の実施の形態に係る漫然運転検出装置210は、視線計測センサ12と、前方カメラ14と、自車両の位置を計測するGPS装置32と、自車両の速度を検出する車速センサ34と、自車両の角速度を検出するジャイロセンサ36と、コンピュータ16と、警報装置18とを備えている。
また、コンピュータ16は、ネットワークインターフェース(I/F)30を備えており、ネットワークを介して、自車両周辺の死角領域を示す死角領域データ38を取得する。死角領域データ38は、道路と歩行者が飛び出す可能性のある死角領域との関係を予め作成して格納したデータである。
次に、図7を参照して、第2の実施の形態における漫然運転検出処理ルーチンについて説明する。なお、第1の実施の形態における漫然運転検出処理ルーチンと同一の処理については、同一符号を付して詳細な説明を省略する。
ステップ100〜112で、目立ち度積算値Ssを計算する。
次に、ステップ200で、GPS装置32から自車両の位置情報を、車速センサ34から自車両の速度を、ジャイロセンサ36から自車両の角速度を取得する。また、ネットワークを介して、死角領域データ38を取得する。
次に、ステップ202で、上記ステップ200で取得した自車両の位置に基づいて、自車両が走行している道路を特定し、取得した死角領域データ38から、自車両が走行している道路両脇の死角領域を抽出する。次に、図8(a)に示すような走行場面において、死角領域から飛び出してくる可能性がある隠れ歩行者を想定し、同図(b)に示すように、道路平面において、抽出したそれぞれの死角領域に隠れ歩行者を配置した道路平面マップを生成する。そして、配置した隠れ歩行者と自車両とが衝突する確率(同時に同じ場所に存在する確率)を計算する。
より具体的には、図9に示すように、死角領域と自車両が走行している道路とが接する部分から2mの位置の死角領域内に、1.6m/sで道路の方向へ移動している隠れ歩行者を配置する。隠れ歩行者の移動方向及び移動速度と、上記ステップ200で取得した自車両の車速及び角速度とに基づいて、隠れ歩行者と自車両との衝突確率を計算する。
次に、ステップ204で、上記ステップ202で配置した隠れ歩行者の身長を170cmと想定して、図9に示すように、道路平面マップに、高さ170cm及び直径30〜50の円柱を、自車両が走行する道路と死角領域とが接する部分の中央に配置する。そして、上記ステップ202で計算した衝突確率を、配置した円柱の底面中央の位置の危険度とする。また、自車両の位置及び向き、並びに自車両に設置された前方カメラ14の位置及び向きから、道路平面マップ上に配置した仮想的な円柱の画像を前方画像上にレンダリングし、円柱底面の危険度を円柱表面の危険度として危険度マップを生成する。図10に危険度マップの一例を示す。図10の例では、明るい部分ほど危険度が高い、すなわち死角領域から飛び出してくる歩行者と自車両との衝突確率が高いことを表している。
なお、上記の隠れ歩行者を設定した位置や移動速度、及び隠れ歩行者を想定した円柱の大きさ等の各値は一例であり、上記の例に限定されるものではない。
次に、ステップ206で、上記ステップ204で生成された危険度マップから、上記ステップ106で計算されたピクセル位置(xi,yi)の危険度を取り出して、ドライバの視線先の危険度rとして、所定の記憶領域に保存する。次に、ステップ208で、所定の記憶領域に保存された危険度rから、所定期間分(例えば、5〜10秒)の危険度rを積算した危険度積算値Srを計算する。
ここで、人間の注意メカニズムによる視線の動きを考えた場合、視覚刺激の目立ち度によって視線が動く場合(ボトムアップの注意)と、運転のようなタスクによって能動的に視線を動かす場合(トップダウンの注意)とが考えられている。第1の実施の形態のように目立ち度による漫然判定のみでは、ボトムアップの注意は考慮されているがトップダウンによる注意が考慮されていない。
そこで、次のステップ212で、上記のトップダウンによる注意を考慮して、上記ステップ112で計算された目立ち度積算値Ssから、上記ステップ208で計算された危険度積算値Srを減算した値が、予め定めた閾値th2より大きいか否かを判定することにより、ドライバの漫然状態を判定する。目立ち度積算値Ssから危険度積算値Srを減算することにより、ドライバの視線先が目立つ部分であっても、危険度の高い部分の場合には、トップダウンの注意による視線配分であることが考慮される。Ss−Sr>th2の場合には、ドライバは漫然状態であると判定して、ステップ116へ移行し、警報装置18から警報を出力して、ステップ100へ戻る。一方、Ss−Sr≦th2の場合には、そのままステップ100へ戻る。
以上説明したように、第2の実施の形態に係る漫然運転検出装置によれば、ボトムアップの注意を考慮した目立ち度と、トップダウンの注意を考慮した危険度とを組み合わせてドライバの漫然状態を判定するため、単調な運転状況下であっても、ドライバの漫然状態をより精度良く検出することができる。
ここで、本発明の効果を実証するための実験について説明する。本実験では、図11に示すように、走行場面の動画を7名の被験者に見せ、集中運転(能動観察)状態及び漫然運転(受動観察)状態における視線を計測した。目立ち度マップの生成には、インターネット上で公開されている計算プログラムを用いた(Harel et al. 2006)。危険度マップは、上記実施形態と同様、死角領域に配置した隠れ歩行者と自車両との衝突確率を危険度として計算し、前方画像上にレンダリングして生成した。
能動観察及び受動観察における視線配分の特性を明らかにするため、それぞれの条件(能動観察と受動観察)において視線が向いた先での目立ち度の積算値、及び危険度の積算値を比較した。図12(a)に目立ち度の積算値、同図(b)に危険度の積算値を示す。受動観察(漫然運転)時には、能動観察(集中運転)時より統計的有意(paired t-test, P<0.001)に前方画像の目立ち度が高い部分に視線配分されていることが分かる。このことから、第1の実施の形態のように、ドライバの視線先の目立ち度に基づいて漫然状態を判定することが有効であるといえる。また、受動観察時には、能動観察時より統計的有意に前方画像の危険度が高い部分に視線配分がされていないことが分かる。このことから、第2の実施の形態のように、漫然状態の判定に、ドライバの視線先の目立ち度と危険度とを組み合わせて用いることがより有効であるといえる。
なお、上記実施の形態では、車両前方の3次元構造データを計算する際に、モーションステレオ法を用いる場合について説明したが、ステレオカメラ、レーザレーダ、ミリ波レーダ、超音波レーダ等により計測された3次元情報を用いて3次元構造データを計算するようにしてもよい。さらに、車速センサ、加速度センサ、ジャイロセンサ、GPS装置等で検出された車両の運動情報も用いて計算するようにしてもよい。
また、上記実施の形態では、ドライバが目立つ部分へ視線を向けた度合いとして、目立ち度の積算値を用いる場合について説明したが、これに限定されない。例えば、ドライバの視線先の目立ち度sが所定の閾値以上の場合をカウントして、ドライバが目立つ部分に視線を向けた頻度を計算し、この頻度が所定の閾値以上となった場合に、ドライバが漫然状態であると判定するようにしてもよい。
また、上記実施の形態では、ドライバの視線先の目立ち度及び危険度を計算する際に、目立ち度マップ及び危険度マップを生成してから視線先のピクセル位置の目立ち度及び危険度を取り出す場合について説明したが、視線先のピクセル位置を計算してから、そのピクセル位置の目立ち度及び危険度のみを計算するようにしてもよい。
また、上記実施の形態では、ドライバが漫然状態であると判定された場合に、ドライバに対して警報を出力する場合について説明したが、プレクラッシュセーフティシステムの動作タイミングを早めるように制御するなど、車両の運動制御を行うようにしてもよい。
なお、本発明のプログラムを記憶する記憶媒体は、特に限定されず、ハードディスクであってもよいし、ROMであってもよい。また、CD−ROMやDVDディスク、光磁気ディスクやICカードであってもよい。更にまた、該プログラムを、ネットワークに接続されたサーバ等からダウンロードするようにしてもよい。
10、210 漫然運転検出装置
12 視線計測センサ
14 前方カメラ
16 コンピュータ
18 警報装置
20 CPU
22 ROM
24 RAM
26 メモリ
32 GPS装置
34 車速センサ
36 ジャイロセンサ
38 死角領域データ

Claims (7)

  1. ドライバの視線方向、及び自車両周辺を撮像する撮像手段により撮像された画像を取得する取得手段と、
    前記取得手段により取得された視線方向に対応した前記画像上の位置における画素の画素値に基づいて、前記ドライバの視線先の目立ち度を計算する目立ち度計算手段と、
    前記目立ち度計算手段により計算された目立ち度に基づいて、前記ドライバが目立つ部分に視線を向けた度合いと予め定めた閾値とを比較して、前記ドライバが漫然状態か否かを判定する判定手段と、
    を含む漫然運転検出装置。
  2. 前記取得手段は、前記自車両周辺に存在する物体上の複数の点の各々の前記自車両を基準とする位置を特定する3次元位置情報を取得し、
    前記目立ち度計算手段は、前記取得手段により取得された3次元位置情報に基づいて、前記自車両周辺の3次元構造を計算し、前記3次元構造と前記視線方向との交点を通り、前記撮像手段の視軸に垂直な平面に前記画像を投影し、投影した画像における前記交点の目立ち度を計算する
    請求項1記載の漫然運転検出装置。
  3. 前記取得手段により取得された視線方向に対応した前記画像上の位置における前記ドライバの視線先の危険度を計算する危険度計算手段を含み、
    前記判定手段は、前記目立ち度計算手段により計算された目立ち度から、前記危険度計算手段により計算された危険度を差し引いて、前記漫然状態を判定する
    請求項1または請求項2記載の漫然運転検出装置。
  4. 前記取得手段は、前記自車両の位置、速度、及び進行方向の情報を含む自車両データ、並びに前記自車両周辺の死角領域を示す死角領域データを取得し、
    前記危険度計算手段は、前記取得手段により取得された死角領域データが示す死角領域に移動方向及び移動速度の情報を有する歩行者の存在を仮定し、前記歩行者の情報と前記自車両データとに基づいて、前記歩行者と前記自車両との衝突確率を前記危険度として計算する
    請求項3記載の漫然運転検出装置。
  5. 前記判定手段により前記ドライバが漫然状態であると判定された場合に、前記ドライバに対する警報の出力、及び前記自車両の運転制御の少なくとも一方の運転支援を行う支援手段を含む請求項1〜請求項4のいずれか1項記載の漫然運転検出装置。
  6. コンピュータを、
    ドライバの視線方向、及び自車両周辺を撮像する撮像手段により撮像された画像を取得する取得手段、
    前記取得手段により取得された視線方向に対応した前記画像上の位置における画素の画素値に基づいて、前記ドライバの視線先の目立ち度を計算する目立ち度計算手段、及び
    前記目立ち度計算手段により計算された目立ち度に基づいて、前記ドライバが目立つ部分に視線を向けた度合いと予め定めた閾値とを比較して、前記ドライバが漫然状態か否かを判定する判定手段
    として機能させるための漫然運転検出プログラム。
  7. コンピュータを、請求項1〜請求項5のいずれか1項記載の漫然運転検出装置を構成する各手段として機能させるための漫然運転検出プログラム。
JP2012130561A 2012-06-08 2012-06-08 漫然運転検出装置及びプログラム Active JP5966640B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012130561A JP5966640B2 (ja) 2012-06-08 2012-06-08 漫然運転検出装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012130561A JP5966640B2 (ja) 2012-06-08 2012-06-08 漫然運転検出装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2013254409A true JP2013254409A (ja) 2013-12-19
JP5966640B2 JP5966640B2 (ja) 2016-08-10

Family

ID=49951845

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012130561A Active JP5966640B2 (ja) 2012-06-08 2012-06-08 漫然運転検出装置及びプログラム

Country Status (1)

Country Link
JP (1) JP5966640B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101657900B1 (ko) * 2015-06-03 2016-09-19 성균관대학교산학협력단 운전 중 위험 정보를 결정하는 방법 및 운전 중 위험 정보를 전달하는 방법
JP2017528714A (ja) * 2014-09-10 2017-09-28 ファロ テクノロジーズ インコーポレーテッド 3次元座標の光学測定のための方法および3次元測定デバイスの制御
JP2017174093A (ja) * 2016-03-23 2017-09-28 日野自動車株式会社 運転者状態判定装置
WO2018158950A1 (ja) * 2017-03-03 2018-09-07 三菱電機株式会社 作業適性判定装置、作業適性判定方法、及び作業適性判定プログラム
JP2018147479A (ja) * 2017-03-07 2018-09-20 マツダ株式会社 運転支援装置
US10377354B2 (en) 2015-02-09 2019-08-13 Denso Corporation Vehicle speed management apparatus and vehicle speed management method
US10401143B2 (en) 2014-09-10 2019-09-03 Faro Technologies, Inc. Method for optically measuring three-dimensional coordinates and controlling a three-dimensional measuring device
US10499040B2 (en) 2014-09-10 2019-12-03 Faro Technologies, Inc. Device and method for optically scanning and measuring an environment and a method of control
CN110691726A (zh) * 2017-08-07 2020-01-14 宝马股份公司 用于评估驾驶员状态的方法和设备以及车辆
JP2021047644A (ja) * 2019-09-18 2021-03-25 日立オートモティブシステムズ株式会社 電子制御装置
CN113276821A (zh) * 2020-02-19 2021-08-20 马自达汽车株式会社 驾驶员状态推断装置
JP2021130390A (ja) * 2020-02-19 2021-09-09 マツダ株式会社 運転者状態推定装置
JP2021145975A (ja) * 2020-03-19 2021-09-27 マツダ株式会社 状態推定装置
CN113853640A (zh) * 2019-05-27 2021-12-28 日立安斯泰莫株式会社 电子控制装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7342635B2 (ja) * 2019-11-11 2023-09-12 マツダ株式会社 運転者状態推定装置および運転者状態推定方法
JP7276083B2 (ja) * 2019-11-11 2023-05-18 マツダ株式会社 運転者状態推定装置
JP7322667B2 (ja) * 2019-11-11 2023-08-08 マツダ株式会社 運転者状態推定装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005267108A (ja) * 2004-03-17 2005-09-29 Denso Corp 運転支援装置
JP2007329793A (ja) * 2006-06-09 2007-12-20 Nissan Motor Co Ltd 車両用監視装置
JP2009244986A (ja) * 2008-03-28 2009-10-22 Toyota Central R&D Labs Inc 警告報知装置
JP2010142410A (ja) * 2008-12-18 2010-07-01 Toyota Motor Corp 覚醒度判定装置
JP2011203795A (ja) * 2010-03-24 2011-10-13 Toyota Motor Corp 走行支援装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005267108A (ja) * 2004-03-17 2005-09-29 Denso Corp 運転支援装置
JP2007329793A (ja) * 2006-06-09 2007-12-20 Nissan Motor Co Ltd 車両用監視装置
JP2009244986A (ja) * 2008-03-28 2009-10-22 Toyota Central R&D Labs Inc 警告報知装置
JP2010142410A (ja) * 2008-12-18 2010-07-01 Toyota Motor Corp 覚醒度判定装置
JP2011203795A (ja) * 2010-03-24 2011-10-13 Toyota Motor Corp 走行支援装置

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10499040B2 (en) 2014-09-10 2019-12-03 Faro Technologies, Inc. Device and method for optically scanning and measuring an environment and a method of control
JP2017528714A (ja) * 2014-09-10 2017-09-28 ファロ テクノロジーズ インコーポレーテッド 3次元座標の光学測定のための方法および3次元測定デバイスの制御
US10401143B2 (en) 2014-09-10 2019-09-03 Faro Technologies, Inc. Method for optically measuring three-dimensional coordinates and controlling a three-dimensional measuring device
US10377354B2 (en) 2015-02-09 2019-08-13 Denso Corporation Vehicle speed management apparatus and vehicle speed management method
KR101657900B1 (ko) * 2015-06-03 2016-09-19 성균관대학교산학협력단 운전 중 위험 정보를 결정하는 방법 및 운전 중 위험 정보를 전달하는 방법
JP2017174093A (ja) * 2016-03-23 2017-09-28 日野自動車株式会社 運転者状態判定装置
WO2018158950A1 (ja) * 2017-03-03 2018-09-07 三菱電機株式会社 作業適性判定装置、作業適性判定方法、及び作業適性判定プログラム
JPWO2018158950A1 (ja) * 2017-03-03 2019-11-07 三菱電機株式会社 作業適性判定装置、作業適性判定方法、及び作業適性判定プログラム
JP7068647B2 (ja) 2017-03-07 2022-05-17 マツダ株式会社 運転支援装置
JP2018147479A (ja) * 2017-03-07 2018-09-20 マツダ株式会社 運転支援装置
CN110691726A (zh) * 2017-08-07 2020-01-14 宝马股份公司 用于评估驾驶员状态的方法和设备以及车辆
CN113853640B (zh) * 2019-05-27 2023-10-20 日立安斯泰莫株式会社 电子控制装置
CN113853640A (zh) * 2019-05-27 2021-12-28 日立安斯泰莫株式会社 电子控制装置
US20220314968A1 (en) * 2019-09-18 2022-10-06 Hitachi Astemo, Ltd. Electronic control device
JP2021047644A (ja) * 2019-09-18 2021-03-25 日立オートモティブシステムズ株式会社 電子制御装置
WO2021054051A1 (ja) * 2019-09-18 2021-03-25 日立オートモティブシステムズ株式会社 電子制御装置
CN114126940B (zh) * 2019-09-18 2024-07-23 日立安斯泰莫株式会社 电子控制装置
JP7289760B2 (ja) 2019-09-18 2023-06-12 日立Astemo株式会社 電子制御装置
CN114126940A (zh) * 2019-09-18 2022-03-01 日立安斯泰莫株式会社 电子控制装置
JP2021130389A (ja) * 2020-02-19 2021-09-09 マツダ株式会社 運転者状態推定装置
JP7331728B2 (ja) 2020-02-19 2023-08-23 マツダ株式会社 運転者状態推定装置
JP7331729B2 (ja) 2020-02-19 2023-08-23 マツダ株式会社 運転者状態推定装置
JP2021130390A (ja) * 2020-02-19 2021-09-09 マツダ株式会社 運転者状態推定装置
CN113276821B (zh) * 2020-02-19 2023-11-03 马自达汽车株式会社 驾驶员状态推断装置
CN113276821A (zh) * 2020-02-19 2021-08-20 马自达汽车株式会社 驾驶员状态推断装置
JP2021145975A (ja) * 2020-03-19 2021-09-27 マツダ株式会社 状態推定装置
JP7380365B2 (ja) 2020-03-19 2023-11-15 マツダ株式会社 状態推定装置

Also Published As

Publication number Publication date
JP5966640B2 (ja) 2016-08-10

Similar Documents

Publication Publication Date Title
JP5966640B2 (ja) 漫然運転検出装置及びプログラム
KR102351592B1 (ko) 기본 미리 보기 영역 및 시선 기반 운전자 주의 산만 검출
Ziebinski et al. Review of advanced driver assistance systems (ADAS)
US20210031737A1 (en) Sensor integration based pedestrian detection and pedestrian collision prevention apparatus and method
US10821946B2 (en) Sensor integration based pedestrian detection and pedestrian collision prevention apparatus and method
JP2021192303A (ja) ライダー支援システム及び方法
JP2018195301A (ja) 制御装置及び制御方法
JP4872245B2 (ja) 歩行者認識装置
EP3422323A1 (en) Information processing apparatus
US10336252B2 (en) Long term driving danger prediction system
US10232772B2 (en) Driver assistance system
US9451380B2 (en) Apparatus and method for localizing sound image for vehicle&#39;s driver
US20190073540A1 (en) Vehicle control device, vehicle control method, and storage medium
JP2016001463A (ja) 処理装置、処理システム、処理プログラム及び処理方法
JP2016009251A (ja) 車両用制御装置
JP2020024551A (ja) 運転意識推定装置
JP2004295472A (ja) 車両用警報装置
US20190389460A1 (en) Information display device, information display method, and recording medium
JP4277678B2 (ja) 車両運転支援装置
JPWO2017029740A1 (ja) 表示制御装置、表示装置及び表示制御方法
KR20210004317A (ko) 차량의 충돌 방지 제어 장치 및 그 방법
CN109823344B (zh) 驾驶提示方法与系统
WO2018212090A1 (ja) 制御装置及び制御方法
JP2010262478A (ja) 車両制御システム及び安全確認判定装置
JP2018200701A (ja) 車両用制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160620

R150 Certificate of patent or registration of utility model

Ref document number: 5966640

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150