以下、図面を参照しながら、本開示にかかる表示処理装置、表示処理方法、及び表示処理プログラムの実施形態について説明する。
[実施形態1]
実施形態1について図面を用いて説明する。
(車両の構成例)
図1は、実施形態1にかかる車両100の構成の一例を示すブロック図である。図1には、車両100に搭載される各種車載装置を示す。
図1に示すように、実施形態1の車両100は、運転支援装置10、電子制御ユニット(ECU:Electronic Control Unit)20、HMI(Human Machine Interface)制御部30、検出装置40、車両制御装置50、及び情報提示装置60を備えている。
車両100が備えるこれらの車載装置は、例えばCAN(Controller Area Network)等の車載ネットワークによって、互いに情報の授受が可能に接続されている。
運転支援装置10は、例えばCPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Randome Access Memory)13、記憶装置14、及びI/O(In/Out)ポート15を備えるコンピュータとして構成されている。運転支援装置10は、車両100に搭載されるECUの1つであってもよい。
CPU11は、運転支援装置10の全体を制御する。ROM12は、運転支援装置10における保存領域として機能する。ROM12に記憶された情報は、運転支援装置10の電源が切られても保持される。RAM13は、一次記憶装置として機能し、CPU11の作業領域となる。
CPU11が、例えばROM12等に格納された制御プログラムをRAM13に展開して実行することで、以下に詳述する運転支援装置10の各種機能が実現される。
記憶装置14は、HDD(Hard Disk Drive)、SSD(Solid State Drive)等であり、CPU11の補助記憶装置として機能する。I/Oポート15は、例えばHMI制御装置30、及び後述する車外向けカメラ41等と各種情報の送受信が可能に構成されている。
このような構成により、運転支援装置10は、HMI制御装置30及び情報提示装置60を介して、少なくとも車両100の進行方向の特定領域への注意喚起を促す情報を車両100の運転者に提示して、運転者による車両100の運転を支援する。
ECU20は、例えば図示しないCPU、ROM、RAM等を備える車載電子ユニット等のコンピュータとして構成されている。ECU20は、車両100の各部の状態を検出する検出装置40から検出結果を受信する。また、ECU20は、受信した検出結果に基づいて車両制御装置50に各種指令を送信し、車両100の動作を制御させる。
情報提示制御装置としてのHMI制御装置30は、例えば図示しないCPU、ROM、RAM等を備えるコンピュータとして構成されている。HMI制御装置30は、CPUに替えて、あるいは加えて、GPU(Graphics Processing Unit)を備えていてもよい。HMI制御装置30は、車両100の運転者に各種情報を提示する情報提示装置60を制御して、運転支援装置10から出力される各種情報を提示させる。
検出装置40は、車外向けカメラ41、車内向けカメラ42、車速センサ43、アクセルセンサ44、ブレーキセンサ45、及び操舵角センサ46等を備え、車両100の各部の状態を検出し、ECU20へと送信する。
車外向けカメラ41及び車内向けカメラ42は、例えばCCD(Charge Coupled Device)、またはCIS(CMOS Image Sensor)等の撮像素子を内蔵するデジタルカメラである。
車外向けカメラ41は、車両100の周囲を撮像する。車両100には、車両100の前方、後方、及び側方等をそれぞれ撮像する複数の車外向けカメラ41が取り付けられていてもよい。車外向けカメラ41は、少なくとも車両100の進行方向を撮像した画像データを運転支援装置10に送信する。
車内向けカメラ42は、車両100の車室内に取り付けられており、例えば運転者の顔面等、車室内の様子を撮像する。
車速センサ43は、車両100が備える車輪の回転量から車両100の速度を検知する。アクセルセンサ44は、運転者によるアクセルペダルの操作量を検知する。ブレーキセンサ45は、運転者によるブレーキペダルの操作量を検知する。操舵角センサ46は、運転者によるステアリングホイールの操作量、つまり、操舵角を検知する。
車両制御装置50は、ブレーキアクチュエータ51、及びエンジンコントローラ52を備え、ECU20からの指令にしたがって車両100を減速させる等、危険を回避する動作等を車両100に行わせる。
ブレーキアクチュエータ51は、通常走行時はブレーキセンサ45の検知結果に基づいて車両100の車輪に制動をかける。エンジンコントローラ52は、通常走行時はアクセルセンサ44の検知結果に基づいてエンジンの出力制御を行って、車両100の加減速制御を実行する。
車両制御装置50は、ECU20からの指令にしたがって、例えばブレーキアクチュエータ51を制御して車両100に制動をかけることで、車両100と障害物等との衝突回避を図る。これに替えて、または加えて、車両制御装置50は、エンジンコントローラ52により、エンジンの出力を例えば数秒間抑制させて車両100の加速を抑制することで、車両100と障害物等との衝突回避を図る。
情報提示装置60は、ヘッドアップディスプレイ(HUD:Head Up Display)61、車内モニタ62、及びスピーカ63等を車両100の車室内に備え、HMI制御装置30からの指令にしたがって各種情報を運転者に提示する。
HUD61は、速度、シフト位置、進行案内、及び警告等を、運転席の前方のフロントガラス(ウィンドウシールド)に投影する。
車内モニタ62は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、または有機EL(Electro Luminescence)ディスプレイ等として構成されたインダッシュモニタ、またはオンダッシュモニタ等である。車内モニタ62は、車両100の周辺画像、進行案内、及び警告等を表示する。
スピーカ63は、例えばダッシュボード等に組み込まれ、車両100の周囲環境、進行案内、及び警告等を音声により運転者に提示する。
このような構成により、情報提示装置60は、映像および音声等によって運転者に各種情報を提示する。情報提示装置60が、発光ダイオード(LED:Light Emitting Diode)ディスプレイ等の上記以外のディスプレイを備えていてもよい。また、情報提示装置60が、ステアリングホイール、アクセルペダル、ブレーキペダル、座席、ヘッドレスト、またはシートベルト等に設けられたバイブレータ等、振動などによって運転者に情報を提示する構成を備えていてもよい。
(運転支援装置の構成例)
次に、図2を用いて、実施形態1の運転支援装置10の詳細構成について説明する。
図2は、実施形態1にかかる運転支援装置10の機能構成の一例を周辺機器とともに示すブロック図である。図2に示すように、運転支援装置10は、予測誤差演算部110、運転者注意状態推定部120、及び出力制御部130を機能構成として備える。
予測誤差演算部110は、車外向けカメラ41により撮像された車両100周辺の画像であって、例えば車両100の進行方向の画像に基づいて、将来を予測した予測画像を生成する。また、予測画像時点における実画像を車外向けカメラ41から取得し、予測画像と実画像との間の誤差を予測誤差として算出する。
このような予測誤差演算部110の機能は、例えば制御プログラムを実行するCPU11によって実現される。
運転者注意状態推定部120は、予測誤差演算部110により算出された予測誤差に基づいて、運転者の注意状態を推定する。このとき、運転者注意状態推定部120は、車外向けカメラ41から取得した画像を複数の領域に分割し、それぞれの領域がどれくらい運転者の注意を惹き付けやすいかを推定する。これにより、個々の領域ごとに運転者の注意状態を示すデータが得られる。
このような運転者注意状態推定部120の機能は、例えば制御プログラムを実行するCPU11によって実現される。
出力制御部130は、運転者注意状態推定部120により推定された運転者の注意状態に基づいて、画像内の複数領域のうち、運転者への注意喚起を行う領域を決定する。また、出力制御部130は、決定した注意喚起を行う領域に関する情報を含む運転支援情報をHMI制御装置30に出力する。運転支援情報には、例えば運転者に提示する提示情報、及び提示の態様等が、注意喚起を行う領域に紐づけられて含まれている。
このような出力制御部130の機能は、例えば制御プログラムを実行するCPU11、及びCPU11の制御下で動作するI/Oポート15によって実現される。
HMI制御装置30は、運転支援装置10から出力された運転支援情報に基づいて、上述の情報提示装置60が備えるHUD61、車内モニタ62、及びスピーカ63等の中から、運転者へ情報の提示を行わせる装置を選択し、画像内の複数領域のうち情報を提示する領域、及び提示の態様等を含む指令を選択した情報提示装置60へと送信する。
これにより、情報提示装置60は、例えば画像内の複数領域のうち注意喚起を行う領域に、所定の態様で情報提示を行う。すなわち、情報提示装置60のうちHUD61または車内モニタ62が情報提示対象である場合には、HUD61または車内モニタ62は、車外向けカメラ41の画像を表示するとともに、及び画像の所定領域に提示情報を重畳して表示する。また、情報提示装置60のうちスピーカ63が情報提示対象である場合には、スピーカ63は、例えば車両100の進行方向等、車両100の所定領域に注意を払うよう警告するアナウンス、警告音等の音声を車内に出力する。
(運転支援情報の生成例)
次に、図3~図5を用いて、実施形態1の運転支援装置10による運転支援情報の生成例について説明する。
図3は、実施形態1にかかる運転支援装置10が予測誤差を算出する動作の流れを示す模式図である。図3に示すように、運転支援装置10の予測誤差演算部110は、予測モデル「PredNet」に基づいて予測画像を生成する。
ここで、「PredNet」は、大脳皮質における予測符号化の処理を模倣し、例えば深層学習の枠組みで構築された予測モデルである。「PredNet」については、例えば「Lotter,W.,Kreiman,G.,andCox,D.,「Deep predictive coding networks for video prediction and unsupervised learning」,https://arxiv.org/abs/1605.08104」等の文献に詳述されている。
具体的には、予測誤差演算部110は、車外向けカメラ41で撮像された20フレーム等の複数フレーム分の画像が供給されると、予測モデル「PredNet」に基づいて、複数フレーム分の画像に対する将来フレームに相当する予測画像を生成する。
すなわち、例えば時刻t-20~時刻t-1までの画像が供給されたとすると、予測誤差演算部110は、予測モデル「PredNet」に基づいて、時刻t0の将来フレームの予測画像を生成する。同様に、予測誤差演算部110は、時刻t-19~時刻t-0までの画像から、時刻t1の将来フレームの予測画像を生成する。同様に、予測誤差演算部110は、時刻t-18~時刻t-1までの画像から、時刻t2の将来フレームの予測画像を生成する。
このように、予測誤差演算部110は、1フレームずつ時刻がずれた画像を用いて、全ての画像について将来フレームの予測画像を生成する。なお、予測画像の生成に用いる画像のフレーム数は、例えば30フレーム等の、設計等に応じた任意のフレーム数であってよい。
予測誤差演算部110は、生成した予測画像の時刻に、車外向けカメラ41で実際に撮像された実画像を正解画像として、生成した予測画像と正解画像とをピクセル単位で比較し、両者の各ピクセル値の差分に基づいて予測誤差画像を生成する。
図3には、時刻t0における予測画像と、正解画像である時刻t0の実画像との各ピクセル値の差分に基づいて、時刻t0の予測誤差画像が生成された例を示している。
また、予測誤差演算部110は、予測誤差画像の各ピクセルの値を算出し、それぞれを予測誤差の値とする。また、予測誤差演算部110は、生成した予測画像の全体の画像領域を複数領域に分割し、個々の領域ごとに予測誤差の総和や平均値等を算出する。
ここで、個々の領域ごとの予測誤差の総和や平均値等、予測誤差に関わる値は、どの領域が、他の領域より運転者の注意を惹きやすいかを表す指標となる。
図4は、実施形態1にかかる運転支援装置10が依拠する予測誤差と、実験の参加者が視線を向けた先との相関関係を表すグラフである。図4に示すグラフの横軸は、ランダムに選んだピクセルの予測誤差が閾値以上となる割合である。グラフの縦軸は、参加者が視線を向けた先の予測誤差が閾値以上となる割合である。図4のグラフは、以下のようにして得ることができる。
まず、運転者が見る運転時の前方映像のうち、運転者が視線を向けた先のピクセルの予測誤差の値を取得する。また、同様の映像からランダムに抽出したピクセルの予測誤差の値を取得する。また、予測誤差の閾値を最小値から最大値まで変化させ、取得した予測誤差が閾値以上となる割合を算出する。
グラフの横軸に、ランダムに選んだピクセルの予測誤差が閾値以上の割合をプロットし、グラフの縦軸に、参加者が視線を向けた先の予測誤差が閾値以上の割合をプロットし、図4に示すグラフを得る。これにより、図4のように描かれる曲線の下側の面積(AUC:Area Under Curve)値から、予測誤差と、運転者が視線を向けた先との相関関係を評価する。
ここで、AUC値が0.5より大きければ、予測誤差が大きい箇所に注意が惹き付けられる傾向があるとする。同様に、AUC値が0.5であれば、これらの間には相関関係がないものとする。
運転支援装置10の運転者注意状態推定部120は、以上の評価に基づいて、運転者の注意状態を推定するよう構成されている。すなわち、運転者注意状態推定部120は、予測誤差の値または分散値等に基づいて、運転者の注意を惹きやすい領域を推定する。より具体的には、運転者注意状態推定部120は、運転者の注意状態として、予測誤差から推定される運転者の注意を惹きやすい領域または運転者の注意を惹き難い領域が画像の中心部に対して左右等に偏っていたり、一部に集中し過ぎていたり、全体に分散し過ぎていたりする場合の状態等を推定する。このように、運転者注意状態推定部120は、予測誤差の値または分散値等の高低のみならず、予測誤差の空間的な配置等にも基づいて、運転者の注意状態を推定する。
実際の手順として、運転者注意状態推定部120は、車外向けカメラ41の画像の全体の画像領域を、予測画像の複数領域と同様の複数領域に分割し、複数の領域における運転者の注意状態を推定する。つまり、例えば対象となる領域の予測誤差が大きいほど、その領域が運転者の注意を惹き付けやすいものと推定する。また、運転者注意状態推定部120は、上記のように、予測誤差の空間的な配置も運転者の注意状態の判定要件に加え、運転者の注意状態を推定する。
運転支援装置10の出力制御部130は、個々の領域における運転者の注意状態に応じて、運転者への注意喚起等を行う領域を決定する。すなわち、予測誤差の値または分散値等に基づいて、運転者の注意状態に偏り等、運転者の注意状態が不適正な状態にあると推定された場合、運転者の注意が疎かになっている領域があると考えられる。したがって、出力制御部130は、運転者の注意が疎かになっていると推定された領域を、運転者への注意喚起を促す必要のある領域、あるいは運転者の注意を適正に戻す際に注意が行き届く必要のある領域として抽出する。
このように、運転者が充分に注意を払っておらず、運転者への注意喚起、あるいは注意補正を促す必要のある領域には、その時点で顕在化されていない潜在的な危険が含まれている可能性がある。例えば歩行者が車道に飛び出してきたなど、既に発生している事象を、その時点で顕在化されている危険とすると、車道の左端の生垣や路上駐車する車両や歩道に駐車する自転車などに運転者が無意識に注意を惹きつけられている状況は、右側から現れる車両等に対して素早く反応することを阻害する可能性があり、潜在的な危険となりうる。運転支援装置10は、このような潜在的な危険を表す情報であっても運転者に提示することが可能である。運転支援装置10によって運転者に知らされる情報を、これ以降、潜在情報などとも呼ぶ。
以上に基づく、HUD61及び車内モニタ62における潜在情報の表示例を図5に示す。
図5は、実施形態1にかかる運転支援装置10の情報提示動作の流れを示す模式図である。図5(Aa)~(Ab)はHUD61における潜在情報の表示例であり、図5(Ba)~(Bb)は車内モニタ62における潜在情報の表示例である。
なお、図5においては、HUD61及び車内モニタ62の少なくともいずれかに情報提示を行う場合の例である。ただし、HUD61と車内モニタ62とにそれぞれ異なる態様で情報を提示してもよく、また、異なる情報を提示してもよい。つまり、HUD61及び車内モニタ62の両方に情報を提示する場合において、HUD61と車内モニタ62との表示内容は異なっていてもよい。
図5(Aa)(Ba)に示すように、運転者注意状態推定部120は、車外向けカメラ41の画像を例えば縦×横が5個×5個の計25個の複数領域に分割し、それぞれの領域における予測誤差の値の総和に基づいて、運転者の注意状態を推定する。
図5(Aa)(Ba)では、予測誤差が高く、運転者の注意を惹きやすい領域にハッチングを施している。つまり、図5(Aa)(Ba)の例では、例えば画像の左側手前の親子連れ、左側奥の2人の人物、及び画像の右側手前の歩道を歩く人物を含む領域等が、運転者の注意状態に偏りがあると推定される領域である。
ただし、運転者の注意状態の推定は、運転者注意状態推定部120の内部動作により行われるため、図5(Aa)(Ba)は、HUD61及び車内モニタ62の実際の表示例を示すものではない。
運転者注意状態推定部120は、運転者の注意状態を推定する際、1つ以上の閾値に基づいて予測誤差の値および分散値等を判定し、それに応じて、運転者の注意を惹きやすい領域または運転者の注意を惹き難い領域が画像の中心部に対して左右等に偏っていたり、一部に集中し過ぎていたり、全体に分散し過ぎていたりする等の状態を推定する。すなわち、例えば3つの閾値に基づいて予測誤差を、運転者の注意の惹き付けやすさに応じて低、中、高などに振り分け、運転者の注意の偏り、集中度合い、または分散度合い等を低、中、高などと対応させる。
出力制御部130は、運転者注意状態推定部120が推定した運転者の注意状態に基づいて、運転者への注意喚起を行う領域を決定する。つまり、運転者の注意を惹きつけやすい左側手前の親子連れ、及び左側奥の2人の人物を含む領域に相対する画像右側の領域、並びに画像の右側手前の歩道を歩く人物を含む領域に相対する画像左側の領域等は、運転者への注意喚起を行う領域となりうる。
出力制御部130は、運転者の注意を惹きやすい領域に相対する画像右側の領域、及び画像左側の領域に表示させる提示情報、及び提示の態様等を含む運転支援情報をHMI制御装置30に出力する。このとき、出力制御部130は、予測誤差の値および分散値等に応じて推定された運転者の注意の偏り、集中度合い、または分散度合い等に基づいて、各々の領域に表示させる提示情報の注意喚起の強度の高低の情報を提示の態様に含めてもよい。
図5(Ab)(Bb)に示すように、HMI制御装置30は、運転支援装置10から出力された運転支援情報に基づいて、HUD61または車内モニタ62に運転者に提示する情報を表示させる。
図5(Ab)(Bb)の例では、HUD61または車内モニタ62には、提示情報として、例えば潜在情報601~603、及び矢印604が表示されている。潜在情報601~603は、例えば歩行者等を示す丸印である。矢印604は、例えば車両100の前方を指しており、車両100の進行方向を示している。
また、図5(Ab)(Bb)の例では、潜在情報601~603は、順に大きさ、つまり、丸印の直径が増している。これは、潜在情報601~603の表示領域に相対する領域の予測誤差から推察した運転者の注意の偏り等が順に増していることを示している。
すなわち、画像の右側手前の人物を示す潜在情報601が表示される領域に相対する、画像の左側手前の親子連れを含む領域に運転者の注意は惹かれやすく、これらの親子連れを示す潜在情報603が表示される領域に相対する、画像の右側手前の人物を含む領域に運転者の注意は惹かれにくいと考えられる。また、画像の左側奥の2人の人物を示す潜在情報602が表示される領域に相対する、画像の左側奥の領域の運転者の注意の偏りは中程度である。
実際のところ、運転者が、左側手前の親子連れに気を取られて、右側手前の人物に対する注意が疎かになることはあり得ることである。これに対し、右側手前の人物を示す潜在情報尾501を相対的に大きく表示することで、運転者の注意をより強力に喚起することができる。
このように、各領域の予測誤差に応じて運転者の注意の偏り等を推定し、このような偏りに相対する領域に表示する潜在情報601~603のサイズを変更することで、運転者の注意を行き届けさせる効果を調整することができる。
なお、出力制御部130が、潜在情報601~603のサイズに替えて、あるいは加えて、潜在情報601~603の輝度、色等を運転者の注意の偏り、集中度合い、または分散度合い等に応じて変更することで、運転者の注意を行き届けさせる効果を調整してもよい。
また、車両100の進行方向を示す矢印604は、車両100の進行方向の左右に気を取られがちな運転者の注意を車両100の進行方向に戻すことができる。
なお、上記のように運転者の注意の偏り、集中度合い、または分散度合い等に1つ以上の閾値を設けた場合であっても、その閾値を超える大きさの運転者の注意の偏り、集中度合い、または分散度合い等が画像に含まれないこともありうる。このような場合の表示の一例を図6に示す。
図6は、実施形態1にかかる運転支援装置10の他の情報提示例を示す模式図である。図6(a)はHUD61における潜在情報の表示例であり、図6(b)は車内モニタ62における潜在情報の表示例である。
図6の例では、例えば3つの閾値に基づいて運転者の注意の偏り、集中度合い、または分散度合い等を判定した場合において、低、中、高のうち中程度の大きさに該当する運転者の注意の偏りしか画像に含まれていなかったものとする。
図6に示すように、このような場合、運転支援装置10は、HMI制御装置30を介してHUD61または車内モニタ62により、運転者の注意の偏りの大きさが中程度であった領域に相対する領域、つまり、画像の左側奥の2人の人物を含む領域に、これらの人物を示す潜在情報602を表示させる。このとき、運転支援装置10は、運転者の注意の偏りの大きさに応じたサイズの潜在情報602を含む運転支援情報をHMI制御装置30に出力することができる。
なお、この場合にも、出力制御部130が、潜在情報601~603のサイズに替えて、あるいは加えて、潜在情報601~603の輝度、色等を運転者の注意の偏りに応じて変更することで、運転者の注意を行き届けさせる効果を調整してもよい。
このように、例えば潜在情報601~603の全てが表示されない場合等であっても、運転者の注意状態に応じた強度で、潜在情報601~603のいずれかを表示させることが好ましい。
また、運転支援装置10は、車両100が例えば低速度で走行している場合、あるいは、車両100が停止している場合等には潜在情報を非表示とすることができる。これにより、不必要な情報を表示して、運転者を煩わせてしまうことを抑制可能である。
なお、上述の図5及び図6では、予測誤差の値または分散値等に基づいて、運転者の注意に偏りがあると推定された場合について説明した。しかし、上述のように、運転者の注意状態には、注意が偏っている場合の他、運転者の注意の集中度合いや分散度合い等も含まれ、運転支援装置10は、このような運転者の注意状態が適正な状態にないと推定される場合を包括的に検出しうる。
したがって、運転支援装置10は、予測誤差の値および分散値等に基づいて、例えば運転者の注意が1点に集中し過ぎている等と推定した場合には、運転者に車両100周辺全体や画像全体に注意を払わせる効果のある情報提示を行ってもよい。また、運転支援装置10は、予測誤差の値および分散値等に基づいて、例えば運転者の注意が全体に分散し過ぎている等と推定した場合には、運転者の注意を車両100の進行方向や画像の中央部に惹き戻す効果のある情報提示を行ってもよい。
実施形態1の運転支援装置10は、このように、予測誤差から推定される運転者の注意を惹きやすい領域または運転者の注意を惹き難い領域が画像の中心部に対して偏っていたり、一部に集中し過ぎていたり、全体に分散し過ぎていたりする場合等に、そのような領域に相対する領域に運転者の注意を喚起する情報を提示する。
また、スピーカ63等に情報を提示させる場合、アナウンス、警告音等の音声の音量を調整することで、運転者の注意の偏り、集中度合い、または分散度合い等の大きさに応じた強度で運転者に情報を提示することができる。また、ステアリングホイール、アクセルペダル、ブレーキペダル、座席、ヘッドレスト、またはシートベルト等に設けられたバイブレータ等に情報を提示させる場合、振動の強度を調整することで、運転者の注意の偏り、集中度合い、または分散度合い等の大きさに応じた強度で運転者に情報を提示することができる。
(運転支援装置の処理例)
次に、図7を用いて、実施形態1の運転支援装置10における運転支援処理の例について説明する。図7は、実施形態1にかかる運転支援装置10が行う運転支援処理の手順の一例を示すフロー図である。
図7に示すように、運転支援装置10の予測誤差演算部110は、複数の画像に基づき、それぞれの画像に対応する予測画像を生成し、これらの予測画像を複数領域に分割する(ステップS110)。また、予測誤差演算部110は、複数領域ごとに予測誤差の総和や平均値等、予測誤差に関わる値であって、運転者の注意状態の推定に使用可能な値を算出する(ステップS120)。
運転者注意状態推定部120は、車外向けカメラ41が撮像した画像を同様に複数領域に分割し、予測誤差に関わる上記値に基づいて、所定の領域において運転者の注意状態が適正な状態にない度合いが閾値TH1より大きいか否かを判定する(ステップS130)。
予測誤差が閾値TH1より大きい場合(ステップS130:Yes)、運転者注意状態推定部120は、その領域に対する運転者の注意が偏っていたり、集中し過ぎていたり、分散し過ぎていたりする等、注意状態が不適正なものとなっている度合いが高いと推定する(ステップS132)。出力制御部130は、その領域に相対する領域を抽出し、抽出した領域に表示する提示情報の態様として、強度の注意喚起の強度を有する態様ST1を選択する(ステップS133)。
予測誤差が閾値TH1以下の場合(ステップS130:No)、運転者注意状態推定部120は、予測誤差に関わる上記値に基づいて、その領域において運転者の注意状態が適正な状態にない度合いが閾値TH2より大きいか否かを判定する(ステップS140)。閾値TH2には、閾値TH1より小さい値が設定されている。
予測誤差が閾値TH2より大きい場合(ステップS140:Yes)、運転者注意状態推定部120は、その領域に対する運転者の注意状態が不適正なものとなっている度合いが中程度であると推定する(ステップS142)。出力制御部130は、その領域に相対する領域を抽出し、抽出した領域に表示する提示情報の態様として、中程度の注意喚起の強度を有する態様ST2を選択する(ステップS143)。
予測誤差が閾値TH2以下の場合(ステップS140:No)、運転者注意状態推定部120は、予測誤差に関わる上記値に基づいて、その領域において運転者の注意状態が適正な状態にない度合いが閾値TH3より大きいか否かを判定する(ステップS150)。閾値TH3には、閾値TH2より更に小さい値が設定されている。
予測誤差が閾値TH3より大きい場合(ステップS150:Yes)、運転者注意状態推定部120は、その領域に対する運転者の注意状態が不適正なものとなっている度合いが低いと推定する(ステップS152)。出力制御部130は、その領域に相対する領域を抽出し、抽出した領域に表示する提示情報の態様として、低度の注意喚起の強度を有する態様ST3を選択する(ステップS153)。
予測誤差が閾値TH3以下の場合(ステップS150:No)、運転者注意状態推定部120は、その領域と、その領域に相対する領域との間で、車両100の運転に支障が生じうるほどには運転者の注意状態が不適正な状態にはないものとして、ステップS160の処理へと進む。
これらの処理を経た後、運転支援装置10は、分割した全ての領域に対する処理が終了したか否かを判定する(ステップS160)。未処理の領域がある場合には(ステップS160:No)、運転支援装置10は、ステップS120からの処理を繰り返す。全ての領域に対する処理が終了した場合(ステップS160:Yes)、出力制御部130は、生成した運転支援情報をHMI制御装置30に出力する(ステップS170)。
以上により、実施形態1の運転支援装置10による運転支援処理が終了する。
(概括)
実施形態1の運転支援装置10によれば、車外向けカメラ41が撮像した車両100の進行方向の画像から予測される予測画像と、実際の状況が撮像された実画像と、の差である予測誤差に基づいて、画像内の複数領域について運転者の注意状態をそれぞれ推定し、推定した注意状態に基づいて、画像内の複数領域のうち運転者への注意喚起を行う領域に関する情報を含む運転支援情報を出力する。
これにより、運転者の注意機能は正常であっても認知ミスを起こしやすい領域、認識がしやすい情報提示がなされてもなお、認知ミスを起こしやすい領域等を、運転者への注意喚起を行う領域、あるいは運転者の注意を適正に戻す際に注意が行き届く必要のある領域として把握して、運転者への情報提示を適切に行うことができる。
実施形態1の運転支援装置10によれば、画像内の複数領域のうち予測誤差が所定の閾値より大きい領域を抽出し、抽出した領域が前記複数領域の中央から偏っているか、一部に集中し過ぎているか、全体に分散し過ぎているか、の少なくともいずれかの状態を推定する。また、運転者の注意状態が上記いずれかに該当すると推定された場合には、抽出した領域に相対する領域を、運転者への注意喚起を行う領域として抽出する。これにより、運転者の注意状態が不適正なものである度合いが大きい領域に相対する領域を、運転者が認知ミスを起こしやすい領域として抽出することができる。
実施形態1の運転支援装置10によれば、運転者への注意喚起を行う領域に紐づけられ、運転者に提示する潜在情報601~603、及び矢印604等の情報をHMI制御装置30に出力し、注意喚起を行う領域に紐づけて潜在情報601~603、及び矢印604等を情報提示装置60に提示させる。これにより、運転者の注意が疎かになりがちで認知ミスを起こしやすい領域に、運転者の注意を行き届かせることができる。
実施形態1の運転支援装置10によれば、運転者への注意喚起を行う領域がより大きな注意状態の不適正度合いが高いほど、運転者への注意喚起の強度が高い、あるいは運転者の注意を適正な状態へ誘導する効果が高い潜在情報601~603等の情報を出力する。これにより、運転者の注意状態が不適正である度合いの大きさに応じて、運転者への注意喚起の強度を調整して潜在情報601~603等を情報提示装置60に提示させることができる。
(変形例1)
次に、図8~図11を用いて、実施形態1の変形例1の運転支援装置について説明する。変形例1の運転支援装置は、情報提示装置60に提示させる情報の数、量、位置、及び種類等を変更する点が上述の実施形態1とは異なる。
図8は、実施形態1の変形例1にかかる運転支援装置が提示情報の数または量を変更する場合の例を示す模式図である。
図8(a)(b)に示すように、変形例1の運転支援装置は、例えば複数の閾値TH1~TH3により分別した、運転者の注意状態の不適正度合いの大きさに基づく潜在情報601~603のうち、最も大きな不適正度合いに基づく潜在情報603に限定して、HUD61または車内モニタ62に表示させる。
これにより、運転者の注意が非常に疎かになっており、より危険度が高い領域に、優先的に潜在情報603等の情報提示を行わせることができる。よって、複数の情報が提示され、運転者の注意が却って散漫になってしまうことを抑制し、より重要な箇所に運転者の注意を行き届けさせることができる。
図9及び図10は、実施形態1の変形例1にかかる運転支援装置が提示情報の種類を変更する場合の例を示す模式図である。
図9(a)(b)に示すように、変形例1の運転支援装置は、車両の進行方向を示す矢印604に替えて、例えば「減速しましょう」等の注意を喚起するメッセージ614をHUD61または車内モニタ62に表示させる。
図10(a)(b)に示すように、変形例1の運転支援装置は、車両の進行方向を示す矢印604に替えて、例えば「減速しましょう」等の注意を喚起するアナウンス624をスピーカ63から出力させてもよい。スピーカ63から出力される提示情報は警告音等であってもよい。
図9及び図10の構成により、潜在情報601~603とは異なる種類の提示情報が提示されるため、個々の情報に運転者の注意をより確実に行き届けさせやすくなる。また、注意喚起の内容によっては、メッセージ614またはアナウンス624等の言語情報で運転者に情報提示を行うことで、運転者がより的確に情報を把握することができる。
図11は、実施形態1の変形例1にかかる運転支援装置が提示情報の位置を変更する場合の例を示す模式図である。
図11(Aa)(Ba)に示すように、変形例1の運転支援装置によって、運転者の注意状態の不適正度合いが大きい複数の領域が抽出されたものとする。変形例1の運転支援装置は、抽出された領域に応じて運転者の認識しやすさを判定し、運転者がより認識し難く、認知ミスがより生じやすい領域に優先的に情報提示を行う。
運転者の認識しやすさは、例えば複数に分割された画像の領域ごとに予め設定されていてよい。あるいは、運転者の認識しやすさは、そのときの画像から把握される車両の進行方向の道路状況等に応じて、変形例1の運転支援装置が適宜判定してもよい。
図11(Ab)(Bb)に示す例では、変形例1の運転支援装置は、抽出された複数の領域のうち、親子連れを含む領域に相対する、右側手前の人物を含む領域が、運転者がより認識し難い領域であると判定し、右側手前の人物を示す潜在情報612を表示させている。
図11(Ac)(Bc)に示す例では、変形例1の運転支援装置は、抽出された複数の領域のうち、右側手前の人物を含む領域に相対する、左側手前の親子連れ、及び左側奥の2人の人物を含む領域が、運転者がより認識し難い領域であると判定し、これらの親子連れ及び人物たちを示す潜在情報612を表示させている。
これにより、運転者がより認知ミスを起こしやすい領域に、優先的に潜在情報612等の提示情報を提示させることができる。よって、運転者による認知ミスをいっそう抑制することができる。
変形例1の運転支援装置によれば、上記の他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
(変形例2)
次に、図12~図21を用いて、実施形態1の変形例2の運転支援装置について説明する。変形例2の運転支援装置は、時系列データに基づいて運転支援情報を生成する点が上述の実施形態1とは異なる。
図12は、実施形態1の変形例2にかかる運転支援装置が、運転者の注意を惹きつける度合いが大きい領域が時系列で散在している場合に生成する運転支援情報の一例を示す模式図である。
図12(Aa)~図12(Ac)は、変形例2の運転支援装置が、運転支援情報を生成する際に参照する時系列データを示している。図12(Aa)~図12(Ac)では、運転者の注意を惹きつける度合いが高いと推定された領域にハッチングを施している。ただし、図12(Aa)~図12(Ac)に示す画像が、実際にHUD61等に表示されることを意味しない。
図12(Aa)に示す例では、変形例2の運転支援装置によって、画像の左側に運転者の注意を惹きつける度合いの大きな領域が抽出されている。図12(Ab)に示す例では、変形例2の運転支援装置によって、画像の右側に運転者の注意を惹きつける度合いの大きな領域が抽出されている。図12(Ac)に示す例では、変形例2の運転支援装置によって、画像の右側手前に運転者の注意を惹きつける度合いの大きな領域が抽出されている。
このように、図12(Aa)~図12(Ac)の例では、運転者の注意を惹きつける度合いが大きい領域が時系列で散在している。
図12(Ba)~図12(Bc)は、変形例2の運転支援装置が、時系列データに基づいて運転支援情報を生成する様子を示す。すなわち、図12(Ba)~図12(Bc)は、図12(Aa)~図12(Ac)に示す画像とそれぞれ同タイミングで行われる処理を示している。
図12(Ba)に示すように、変形例2の運転支援装置は、図12(Aa)の画像の表示タイミングに合わせ、画像の左側に抽出された、注意を惹きつける度合いの大きな領域に相対する右側の領域に潜在情報622を表示させる。
図12(Bb)に示すように、変形例2の運転支援装置は、図12(Ab)の画像の表示タイミングに合わせ、画像の右側に抽出された、注意を惹きつける度合いの大きな領域に相対する左側の領域に潜在情報622を表示させる。
図12(Bc)に示すように、変形例2の運転支援装置は、図12(Ac)の画像の表示タイミングに合わせ、画像の右側手前に抽出された、注意を惹きつける度合いの大きな領域に相対する左側手前の領域に潜在情報622を表示させる。
運転者の注意を惹きつける度合いが大きい領域が時系列で散在している場合には、以上のように、変形例2の運転支援装置は、適宜、これらの領域に相対する領域に情報提示を行わせる。
なお、図12(Ba)~図12(Bc)の例では、画像上の領域において運転者の注意状態に偏りがある場合に、例えば潜在情報622を表示させることとした。しかし、運転者の注意状態に偏りがある場合に、上記以外の情報提示を行わせてもよい。
図13~図15は、実施形態1の変形例2にかかる運転支援装置が、運転者の注意状態に偏りがある場合の他の情報提示例を示す模式図である。
図13(a)に示す例では、変形例2の運転支援装置によって、画像の右側手前に運転者の注意を惹きつける度合いの大きな領域が抽出されている。
図13(b)に示すように、変形例2の運転支援装置は、図13(a)の画像の表示タイミングに合わせ、画像の右側手前に抽出された、注意を惹きつける度合いの大きな領域に相対する左側手前の領域に、潜在情報622に替えて、この領域を指し示す三角形のアイコン622aを表示させてもよい。ただし、領域を指し示す提示情報は矢印等の他の形状または態様であってもよい。
図14(Aa)に示す例では、変形例2の運転支援装置によって、画像の左側手前に運転者の注意を惹きつける度合いの大きな領域が抽出されている。
図14(Ab)に示すように、運転者の注意を惹きつける度合いの大きな領域が画像の左側手前にある場合、その領域を運転者が注視することにより、運転者の有効視野VFもまた、車両の左側手前に偏っていることが推定される。この場合、例えば車両前方の道路中央付近は、運転者の有効視野外OFとなっていると考えられる。
図14(Ba)に示すように、変形例2の運転支援装置は、図14(Aa)の画像の表示タイミングに合わせ、潜在情報622に替えて、画面中央の左右手前側から奥側に向けて伸びる直線状のライン622bを表示させてもよい。
図14(Bb)に示すように、図14(Ba)のライン622b等を表示することで運転者がライン622bに視線を向けるため、運転者の有効視野VFもまた、車両前方の道路中央付近に移り、運転者の注意を適正な状態へ戻すことができる。
なお、運転者の有効視野VFを道路中央付近に戻すことができれば、提示される情報は、ライン622b以外の形状または態様であってよい。
図15(a)に示す例では、変形例2の運転支援装置によって、画像の左側手前に運転者の注意を惹きつける度合いの大きな領域が抽出されている。
図15(b)に示すように、変形例2の運転支援装置は、図15(a)の画像の表示タイミングに合わせ、潜在情報622に替えて、例えば「右側にも注意しましょう」等の注意を喚起するアナウンス622dをスピーカ63から出力させてもよい。スピーカ63から出力される提示情報は警告音等であってもよい。
図16は、実施形態1の変形例2にかかる運転支援装置が、運転者の注意を惹きつける度合いが大きい領域が時系列で局在している場合に生成する運転支援情報の一例を示す模式図である。
図16(a)~図16(d)は、変形例2の運転支援装置が、運転支援情報を生成する際に参照する時系列データを示している。図16(a)~図16(d)では、運転者の注意を惹きつける度合いが高いと推定された領域にハッチングを施している。ただし、図16(a)~図16(d)に示す画像が、実際にHUD61等に表示されることを意味しない。
図16(a)に示す例では、変形例2の運転支援装置によって、画像の左側手前に運転者の注意を惹きつける度合いの大きな領域が抽出されている。図16(b)に示す例では、変形例2の運転支援装置によって、画像の左側中央手前寄りに運転者の注意を惹きつける度合いの大きな領域が抽出されている。図16(c)に示す例では、変形例2の運転支援装置によって、画像の左側中央寄りに予運転者の注意を惹きつける度合いの大きな領域が抽出されている。図16(d)に示す例では、変形例2の運転支援装置によって、画像の左側に運転者の注意を惹きつける度合いの大きな領域が抽出されている。
このように、図16(a)~図16(d)の例では、運転者の注意を惹きつける度合いが大きい領域が時系列で画像の左側に偏っている。
図16(e)は、変形例2の運転支援装置が、時系列データに基づいて運転支援情報を生成する様子を示す。つまり、図16(e)は、図16(a)~図16(d)に示す画像の取得後のタイミングで行われる処理を示している。
図16(e)に示すように、変形例2の運転支援装置は、図16(a)~図16(d)の画像に基づいて、画像の左側に偏って抽出された、注意を惹きつける度合いの大きな領域に相対する右側の領域に潜在情報632を表示させる。
運転者の注意を惹きつける度合いが大きい領域が時系列で局在している場合には、以上のように、変形例2の運転支援装置は、図16(a)~図16(d)に示す画像と同タイミングで次々に情報の提示位置を切り替えるのではなく、運転者の注意を惹きつける度合いが時系列で局在している領域に相対する領域に、潜在情報632等の情報を提示させることができる。
図17は、実施形態1の変形例2にかかる運転支援装置が、運転者の注意を惹きつける度合いが大きい領域が時系列で遍在している場合に生成する運転支援情報の一例を示す模式図である。
図17(a)~図17(d)は、変形例2の運転支援装置が、運転支援情報を生成する際に参照する時系列データを示している。図17(a)~図17(d)では、運転者の注意を惹きつける度合いが高いと推定された領域にハッチングを施している。ただし、図17(a)~図17(d)に示す画像が、実際にHUD61等に表示されることを意味しない。
図17(a)に示す例では、変形例2の運転支援装置によって、画像の右側手前にvの大きな領域が抽出されている。図17(b)に示す例では、変形例2の運転支援装置によって、画像の左側中央寄りに運転者の注意を惹きつける度合いの大きな領域が抽出されている。図17(c)に示す例では、変形例2の運転支援装置によって、画像の左側手前に運転者の注意を惹きつける度合いの大きな領域が抽出されている。図17(d)に示す例では、変形例2の運転支援装置によって、画像の右側奥に運転者の注意を惹きつける度合いの大きな領域が抽出されている。
このように、図17(a)~図17(d)の例では、運転者の注意を惹きつける度合いが大きい領域が時系列で画像全体に偏りなく現れている。
図17(e)は、変形例2の運転支援装置が、時系列データに基づいて運転支援情報を生成する様子を示す。つまり、図17(e)は、図17(a)~図17(d)に示す画像の取得後のタイミングで行われる処理を示している。
図17(e)に示すように、変形例2の運転支援装置は、図17(a)~図17(d)の画像に基づいて、HUD61による潜在情報622等の提示情報の表示は不要であると判定する。
運転者の注意を惹きつける度合いが大きい領域が時系列で遍在している場合には、以上のように、変形例2の運転支援装置は、運転者が車両の前方全体に満遍なく注意を払っているものとして、潜在情報622等の情報を敢えて提示しないようにすることができる。
図18は、実施形態1の変形例2にかかる運転支援装置が、運転者の注意を惹きつける度合いが大きい領域が時系列で増減していく場合に生成する運転支援情報の一例を示す模式図である。
図18(a)~図18(d)は、変形例2の運転支援装置が、運転支援情報を生成する際、参照する時系列データを示している。図18(a)~図18(d)では、運転者の注意を惹きつける度合いが高いと推定された領域にハッチングを施している。ただし、図18(a)~図18(d)に示す画像が、実際にHUD61等に表示されることを意味しない。
図18(a)に示す例では、変形例2の運転支援装置によって、画像の左側中央寄りに運転者の注意を惹きつける度合いの大きな1つの領域が抽出されている。図18(b)に示す例では、変形例2の運転支援装置によって、画像の左側の更に中央寄りに運転者の注意を惹きつける度合いの大きな2つの領域が抽出されている。図18(c)に示す例では、変形例2の運転支援装置によって、画像の左側手前に運転者の注意を惹きつける度合いの大きな3つの領域が抽出されている。図18(d)に示す例では、変形例2の運転支援装置によって、画像の左側中央手前寄りに運転者の注意を惹きつける度合いの大きな5つ領域が抽出されている。
このように、図18(a)~図18(d)の例では、運転者の注意を惹きつける度合いが大きい領域が時系列で次第に増加している。
図18(e)は、変形例2の運転支援装置が、時系列データに基づいて運転支援情報を生成する様子を示す。つまり、図18(e)は、図18(a)~図18(d)に示す画像の取得後のタイミングで行われる処理を示している。
図18(e)に示すように、変形例2の運転支援装置は、図18(a)~図18(d)の画像に基づいて、HUD61による潜在情報622等、画像の特定領域への表示を行わず、例えば「徐行しましょう」等の、運転者の認知負荷が増加していることを示すメッセージ642をHUD61に表示させる。運転者の認知負荷が増加していることを示す情報提示は、例えばスピーカ63からのアナウンス等によってなされてもよい。
運転者の注意を惹きつける度合いが大きい領域が時系列で増加していく場合には、以上のように、変形例2の運転支援装置は、運転者の認知負荷が増加していることを検知して、画像の特定領域に紐づいた提示情報ではなく、運転者の認知負荷を低減させる情報を提示させることができる。
図19は、実施形態1の変形例2にかかる運転支援装置が、運転者の注意を惹きつける度合いが大きい領域が時系列で殆ど発生しない場合に生成する運転支援情報の一例を示す模式図である。
図19(A)~図19(D)は、変形例2の運転支援装置が、運転支援情報を生成する際に参照する時系列データを示している。図19(A)~図19(D)では、運転者の注意を惹きつけやすく、運転者の注意状態の不適正度合いが高いと推定された領域にハッチングを施している。ただし、図19(A)~図19(D)に示す画像が、実際にHUD61等に表示されることを意味しない。
図19(A)に示す例では、運転者の注意状態の不適正度合いが所定の閾値を上回る領域は抽出されていない。図19(B)に示す例でもまた、運転者の注意状態の不適正度合いが所定の閾値を上回る領域は抽出されていない。図19(C)に示す例では、変形例2の運転支援装置によって、画像の右側手前に運転者の注意状態の不適正度合いの大きな領域が抽出されている。図19(D)に示す例では、運転者の注意状態の不適正度合いが所定の閾値を上回る領域が抽出されない状態が繰り返されている。
このように、図19(A)~図19(D)の例では、運転者の注意を惹きつけやすく、運転者の注意状態の不適正度合いが大きい領域が、時系列で見ても殆ど現れていない。
図19(Ea)は、変形例2の運転支援装置が、時系列データに基づいて運転支援情報を生成する様子を示す。つまり、図19(Ea)は、図19(A)~図19(D)に示す画像の取得後のタイミングで行われる処理を示している。
図19(Ea)に示すように、変形例2の運転支援装置は、図19(A)~図19(D)の画像に基づいて、HUD61による潜在情報622等、画像の特定領域への表示を行わず、例えば「前方に注意しましょう」等の、車両の前方全体への運転者の注意が疎かになっていることを示すメッセージ642aをHUD61に表示させる。車両の前方全体への注意が疎かになっていることを示す情報提示は、例えばスピーカ63からのアナウンス等によってなされてもよい。
図19(Eb)は、変形例2の運転支援装置が、時系列データに基づいて運転支援情報を生成する様子を示す他の例である。図19(Eb)もまた、図19(A)~図19(D)に示す画像の取得後のタイミングで行われる処理例を示す。
図19(Ea)に示すように、変形例2の運転支援装置は、図19(A)~図19(D)の画像に基づいて、「前方に注意しましょう」等のメッセージ642aの表示に替えて、例えば画面中央の左右手前側から奥側に向けて伸びる直線状のライン642bを表示させてもよい。これにより、上述の図14(Ba)(Bb)に示した例と同様、車両の前方への運転者の注意を促すことができる。
運転者の注意を惹きつける度合いが大きい領域が、時系列で見ても殆ど生じない場合には、以上のように、変形例2の運転支援装置は、車両の前方全体への運転者の注意が疎かになっているものとして、運転者の漫然運転を抑制する情報を提示させることができる。
なお、運転者の漫然運転を抑制する提示情報は図19の例に限られず、上記とは異なる態様で提示されてもよい。
図20は、実施形態1の変形例2にかかる運転支援装置が運転者の漫然運転を抑制する場合の他の提示例を示す模式図である。
図20(a)には、上述の図19(A)~図19(D)に示した時系列データのうち、図19(C)の状態のみを示している。
図20(b)に示すように、変形例2の運転支援装置は、図20(a)を含む時系列データに基づいて、運転者が漫然運転に陥りがちな状態にあることを検知して、例えば「徐行しましょう」等の、運転者に「かもしれない運転」を勧めるメッセージ642cをHUD61に表示させる。
「かもしれない運転」とは、高い安全意識を保って、危険な状況になることを予測して運転することである。例えば横断歩道に差し掛かったときなどに「歩行者が飛び出してくるかもしれない」ことを予測して危険に備えること、また、交差点で右折する際に「対向車がスピードを上げてくるかもしれない」ことを予測して危険に備えること等が「かもしれない運転」として挙げられる。
このように、運転者に「かもしれない運転」勧める情報提示は、例えばスピーカ63からのアナウンス等によってなされてもよい。
図21は、実施形態1の変形例2にかかる運転支援装置が運転者の漫然運転を抑制する場合の更に他の提示例を示す模式図である。
図21(a)にもまた、上述の図19(A)~図19(D)に示した時系列データのうち、図19(C)の状態のみを示す。
図21(b)に示すように、変形例2の運転支援装置は、図20(a)を含む時系列データに基づいて、運転者が漫然運転に陥りがちな状態であることを検知したうえで、例えば運転者が徐行運転をしていれば、「適切な徐行ができています」等の、「かもしれない運転」を誉めるメッセージ642dをHUD61に表示させる。
このような、運転者の「かもしれない運転」は、例えば変形例2の運転支援装置が、車速センサ43、アクセルセンサ44、ブレーキセンサ45、及び操舵角センサ46等の検出装置40(図1参照)の検出結果を、直接的に、あるいは、上述のECU20(図1参照)を介して取得することで検知することができる。
変形例2の運転支援装置は、例えば車速センサ43、アクセルセンサ44、及びブレーキセンサ45の検出結果から、運転者が車両を減速させて徐行運転を行っていること等を検知することができる。また、変形例2の運転支援装置は、例えば操舵角センサ46等の検出結果から、運転者が車両を適切に操舵できていること等を検知することができる。
このように、運転者の「かもしれない運転」を誉める情報提示は、例えばスピーカ63からのアナウンス等によってなされてもよい。
運転者の「かもしれない運転」を誉める情報提示によって、運転者は、車両の現在の走行操作が正しいことを認識でき、引き続き、高い安全意識を保って走行操作を行うモチベーションが得られる。
なお、上述の図12~図21では、変形例2の運転支援装置が、専らHUD61に情報を提示させる例を示した。しかし、変形例2の運転支援装置が、上述の図12~図21に示した各種情報を車内モニタ62に提示させてもよい。
変形例2の運転支援装置によれば、上述の図14及び図15の例のように運転者の有効視野VFを適正な位置に戻したり、図18の例のように運転者の認知負荷を低減させたり、図19の例のように運転者の漫然運転を抑制したり、図20または図21の例のように「かもしれない運転」を奨励するなど、運転者の注意状態に基づいて、その時々の運転に対し、より適正な注意状態、並びに運転操作への行動変容および意識変容の少なくともいずれかを促すことができる。
つまり、注意状態推定部が推定した注意状態が、偏っているときには偏りを正し、一部に集中し過ぎているときには分散させ、全体に分散し過ぎているときには集中させるように、視認行動を無意識に変容させ、必要な注意が行き届かせることができるだけの時間を作り出すために徐行するなどの運転行動を変容や定着させることができる。
変形例2の運転支援装置によれば、上記の他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
(変形例3)
次に、図22及び図23を用いて、実施形態1の変形例3の運転支援装置について説明する。変形例3の運転支援装置は、異なる分割数で画像を分割する点が上述の実施形態1とは異なる。
図22は、実施形態1の変形例3にかかる運転支援装置が画像を2分割して運転支援情報を生成する場合の一例を示す模式図である。
図22(a)(b)に示すように、変形例3の運転支援装置は、車両の進行方向を撮像した画像を左右に2分割し、左右それぞれの領域について、運転者の注意状態の不適正度合いが所定の閾値を超えているか否かを算出する。いずれかの領域において注意状態の不適正度合い差が所定の閾値を超えていた場合には、変形例3の運転支援装置は、その領域に相対する領域全体に潜在情報652aを表示させる。
図22(a)(b)に示す例では、左右に分割された領域のうち左側領域において、運転者の注意状態の不適正度合いが所定の閾値を超えており、変形例3の運転支援装置が、左側領域に相対する右側領域全体に潜在情報652aを表示させている。このとき、変形例3の運転支援装置は、運転者の注意状態の不適正度合いの高低に応じて、例えば潜在情報652aの輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整してもよい。
図23は、実施形態1の変形例3にかかる運転支援装置が画像を2分割して運転支援情報を生成する場合の他の例を示す模式図である。
図23(a)(b)に示す例でも、変形例3の運転支援装置は、車両の進行方向を撮像した画像を左右に2分割し、左右それぞれの領域について、運転者の注意状態の不適正度合いが所定の閾値を超えているか否かを算出する。いずれかの領域において注意状態の不適正度合いが所定の閾値を超えていた場合には、変形例3の運転支援装置は、その領域に相対する領域の全体ではなく一部に潜在情報652bを表示させる。
図23(a)(b)に示す例では、左右に分割された領域のうち左側領域において、運転者の注意状態の不適正度合いが所定の閾値を超えており、変形例3の運転支援装置が、左側領域に相対する右側領域の下端部に、例えば、ダッシュボードに沿ってフロントガラスの下部の矩形領域の提示領域へ潜在情報652bを表示させている。このとき、変形例3の運転支援装置は、運転者の注意状態の不適正度合いの高低に応じて、例えば潜在情報652bの長さ、太さ、輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整してもよい。
なお、変形例3の運転支援装置が、左右それぞれの領域において共に、運転者の注意状態の不適正度合いが所定の閾値を超えていた場合、運転者の注意状態の不適正度合いがより大きい領域に相対する領域に潜在情報652a,652bを表示させてもよい。
以上のように、例えば画像の分割数を削減することで、運転者に提示する情報を簡素化することができ、運転者の注意が却って散漫になってしまうことを抑制して、運転者への情報提示をいっそう適切に行うことができる。
変形例3の運転支援装置によれば、その他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
なお、上述の変形例3においては、画像を2分割する例について示した。また、上述の実施形態1等においては、画像を縦×横が5個×5個の計25個の領域に分割する例について示した。しかし、画像の分割例はこれに限られず、様々な個数および配置に画像を分割することができる。例えば、画像をピクセルごとに分割してもよい。この場合、画像は、縦×横が160×120、または1920×1080等に分割されることとなる。
(変形例4)
次に、図24及び図25を用いて、実施形態1の変形例4の運転支援装置10aについて説明する。変形例4の運転支援装置10aは、ECU20に運転支援情報を出力する点が上述の実施形態1とは異なる。
図24は、実施形態1の変形例4にかかる運転支援装置10aの機能構成の一例を周辺機器とともに示すブロック図である。
図24に示すように、変形例4の車両101には、上述の実施形態1の運転支援装置10に替えて、変形例4の運転支援装置10aが搭載されている。運転支援装置10aは、上述の実施形態1の出力制御部130に替えて、ECU20に運転支援情報を出力する出力制御部130aを備える。
出力制御部130aは、運転者への注意喚起を行う領域に紐づけられた運転支援情報を生成する。運転支援情報には、例えば車両101の動作を指示する動作情報、及び運転者の注意状態の不適正度合いの高低に基づいて決定された動作の度合い等が、注意喚起を行う領域に紐づけられて含まれている。
運転支援情報に含まれる車両101の動作指示には、例えば車両101に制動をかける動作の指示、及び車両101の加速を抑制する動作の指示等の少なくともいずれかが含まれる。運転支援情報に含まれる動作の度合いは、例えば車両101の減速効果の高低等でありうる。
つまり、出力制御部130aは、運転者への注意喚起を行う領域が、運転者の注意状態のより大きな不適正度合いに基づくほど、車両101の減速効果が高い動作情報を含む運転支援情報を出力することができる。
車載電子ユニットとしてのECU20は、運転支援装置10aからECU20に出力された運転支援情報に基づいて、上述の車両制御装置50が備えるブレーキアクチュエータ51、及びエンジンコントローラ52の少なくともいずれか(図1参照)によって、車両101を減速させる動作を行わせる。
すなわち、ECU20は、例えば制動装置としてのブレーキアクチュエータ51によって車両101に制動をかける。また、ECU20は、ブレーキアクチュエータ51による車両101の制動動作に替えて、あるいは加えて、エンジン制御装置としてのエンジンコントローラ52によって車両101の加速を抑制する。
これにより、運転支援装置10aによって運転者への注意喚起を行う領域が抽出された場合、その領域に存在しうる危険を回避する動作を車両101に行わせることができる。つまり、例えばその領域に、運転者が注意を払っておらず、車両101との接触の懸念がある歩行者等が居る場合等に、車両101を減速させて、その歩行者との接触を回避することができる。
また、出力制御部130aは、運転者への注意喚起を行う領域に紐づけられ、HMI制御装置30(図1参照)に出力する運転支援情報の生成も行う。HMI制御装置30に出力される運転支援情報には、例えば車両101に行わせた動作を運転者に知らせる提示情報が、注意喚起を行う領域に紐づけられて含まれている。
HMI制御装置30は、運転支援装置10aから出力された運転支援情報に基づいて、上記のような回避動作を車両101に行わせたことを運転者に知らせる提示情報を情報提示装置60(図1参照)に提示させる。
図25は、実施形態1の変形例4にかかる運転支援装置10aの情報提示例を示す模式図である。
図25(a)(b)に示すように、変形例4の運転支援装置10aは、上記のような回避動作を車両101に行わせる際、HMI制御装置30に上記の運転支援情報を出力し、例えば「徐行しました」等の、車両101の減速制御を行ったことを示すメッセージ634を、HUD61または車内モニタ62に表示させる。車両101の減速制御を行ったことを示す情報提示は、例えばスピーカ63からのアナウンス等によってなされてもよい。
これにより、運転支援装置10aによって車両101に回避動作を行わせた場合、意図しない車両の減速制御により、運転者が車両の故障等と勘違いしてしまうことを抑制することができる。
なお、図24及び図25の例では、車両101の減速制御を行う場合について説明したが、この他、ステアリングホイールの舵角制御による走行レーンの調整、及びウインカー操作等の、他の動作制御を車両101に対して行ってもよい。
変形例4の運転支援装置10aによれば、運転者への注意喚起を行う領域に紐づけられ、車両101の動作を指示する動作情報を、車両101を制御するECU20に出力する。ECU20は、車両を減速させるブレーキアクチュエータ51及びエンジンコントローラ52等に、運転支援装置10aから出力された動作情報に基づく動作を行わせる。これにより、運転者が見落とす恐れのある危険をより確実に回避することができる。
変形例4の運転支援装置10aによれば、運転者への注意喚起を行う領域がより大きな予測誤差に基づくほど、車両101の減速効果が高い動作情報を出力する。これにより、危険回避の確度がよりいっそう高まる。
変形例4の運転支援装置10aによれば、その他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
(変形例5)
次に、図26~図45を用いて、実施形態1の変形例5の運転支援装置について説明する。変形例5の運転支援装置は、潜在情報に加えて顕在情報を提示させる点が上述の実施形態1とは異なる。
図26は、実施形態1の変形例5にかかる運転支援装置10bの機能構成の一例を周辺機器とともに示すブロック図である。
図26に示すように、変形例5の車両102には、上述の実施形態1の運転支援装置10に替えて、変形例5の運転支援装置10bが搭載されている。
運転支援装置10bは、上述の実施形態1の運転支援装置10の構成に加えて、顕在情報を生成する顕在情報演算部111を備え、また、上述の実施形態1の出力制御部130に替えて、運転者注意状態推定部120が推定した運転者の注意状態と、顕在情報演算部111が生成した顕在情報とを取得して、運転支援情報を出力する出力制御部130bを備えている。
上述のように、車両の走行中の危険には、その時点で顕在化されている危険と、その時点で顕在化されていない潜在的な危険とが含まれる。潜在的な危険を運転者に知らせる上述の各種潜在情報に対し、顕在情報演算部111は、その時点で顕在化されている危険を運転者に知らせる顕在情報を生成する。
より具体的には、顕在情報演算部111は、車外向けカメラ41が撮像した車両102の進行方向の画像から、車道にいきなり飛び出してきた歩行者等、その時点で顕在化されている危険を抽出し、このような危険情報を含む顕在情報を生成する。
顕在情報には、例えば運転者に顕在的な危険を知らせる提示情報、提示の態様、及び提示情報の注意喚起の強度の高低の情報等が、注意喚起を行う領域に紐づけられて含まれている。
運転者注意状態推定部120は、推定した運転者の注意状態と、顕在情報演算部111が生成した顕在情報とを出力制御部130bへと受け渡す。
出力制御部130bは、運転者の注意状態に基づいて抽出した運転者に注意喚起を行う領域に関する情報、運転者注意状態推定部120から受け渡された顕在情報、及び潜在情報を含む運転支援情報を、HMI制御装置30に出力する。
図27は、実施形態1の変形例5にかかる運転支援装置10bの情報提示例を示す模式図である。
図27(a)(b)に示すように、変形例5の運転支援装置10bは、顕在情報662aと潜在情報605aとを、HUD61または車内モニタ62に表示させる。図27(a)(b)の例では、運転者に注意喚起を行う領域は、例えば右側手前の人物を含む領域であるものとする。
変形例5の運転支援装置10bは、右側手前の人物を示す楕円形の顕在情報662aを、その人物の足元に表示させる。また、変形例5の運転支援装置10bは、右側手前の人物を示す矩形の潜在情報605aを、その人物の足元から離れた下方位置に表示させる。
ただし、このような顕在情報662a及び潜在情報605aの形状、提示位置、及び提示の態様等は、上記の図27の例に限定されない。
図28は、実施形態1の変形例5にかかる運転支援装置10bの他の情報提示例を示す模式図である。
図28(a)(b)に示す例では、変形例5の運転支援装置10bは、右側手前の人物を示す矩形の顕在情報662bを、その人物を囲むように表示させる。また、変形例5の運転支援装置10bは、右側手前の人物を示す楕円形の潜在情報605bを、その人物の足元から離れた下方位置に表示させる。
なお、変形例5の運転支援装置10bは、例えば顕在情報662a,662bのサイズ、輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整してもよい。また、変形例5の運転支援装置10bは、運転者の注意状態の不適正度合いの高低に応じて、潜在情報605a,605bのサイズ、輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整してもよい。
このように、顕在情報662及び潜在情報605の形状、提示位置、及び提示の態様等は様々に異なる態様で提示することができる。
以上の構成により、潜在的な危険のみならず、既に顕在化している危険についても運転者に提示して、運転者の注意状態を高めることができる。よって、運転者への情報提示をよりいっそう適切に行うことができる。
なお、上述の構成のように、顕在情報と潜在情報とを共に運転者に提示する際には、顕在情報と潜在情報とを異なる情報提示装置60にそれぞれ提示させてもよい。このとき、情報提示装置60に含まれる各種構成のうち、視認性が高く、運転者が気づきやすいHUD61及び車内モニタ62等に、より高い危険性を示す顕在情報を提示することが好ましい。
一方、情報提示装置60に含まれる各種構成のうち、運転者の前方あるいは注意すべき対象への注意を逸らすことなく情報の提示が可能な構成に、比較的低い危険性を示す潜在情報を提示することができる。
このような構成の例として、以下に、メータディスプレイ64(図29参照)、ピラーディスプレイ65(図33参照)、スピーカ63、HUD61の外周領域、LEDディスプレイ66(図40参照)、及びミラーディスプレイ67(図44参照)等に潜在情報を提示する場合の例について説明する。
図29は、実施形態1の変形例5にかかる運転支援装置10bが潜在情報を提示させるメータディスプレイ64の構成の一例を示す模式図である。
図29に示すように、メータディスプレイ64は、速度計、エンジン回転計、燃料計、水温計、及び距離計等の各種のメータ642と、これらのメータ642間およびこれらのメータ624の周囲に設けられたCID(Center Information Display)641とを含んでインストルメントパネル等に設けられている。メータ642は物理的な構成を有するメータであってもよく、メータ624自体がディスプレイに表示された映像であってもよい。
図30は、実施形態1の変形例5にかかる運転支援装置10bの潜在情報のメータディスプレイ64への提示例を示す模式図である。
図30(A)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、メータディスプレイ64の外周部分を取り囲む潜在情報615を、メータディスプレイ64の全周に表示させる。ただし、車両の前方全体への強度の注意喚起を促す潜在情報は、潜在情報615とは異なる形状、または態様であってもよい。
図30(Ba)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、対となった潜在情報619aを、メータディスプレイ64の左右両端部に表示させる。
潜在情報619aは、例えば車両の正面に見立てたメータディスプレイ64の中央付近を指し示す1対の三角形を組み合わせた形状とすることができる。ただし、車両の前方全体への低度の注意喚起を促す潜在情報は、矢印等の他の形状または態様であってもよい。
図30(Bb)に示すように、上記の潜在情報619aの他の態様として、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、メータディスプレイ64の中央を指し示す三角形の潜在情報619bを、メータディスプレイ64の中央下端部に表示させることができる。
図30(Ca)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報616aを、メータディスプレイ64の左側端部に表示させる。
潜在情報616aは、例えば車両の左側領域に見立てたメータディスプレイ64の左側端部に沿って配置される矩形領域に提示される提示情報とすることができる。ただし、注意状態に大きな偏りのある運転者に強度の注意喚起を促す潜在情報は、上記の潜在情報616aとは異なる他の形状または態様であってもよい。
図30(Cb)に示すように、上記の潜在情報616aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報616bを、メータディスプレイ64の左側下端部に表示させることができる。
潜在情報616bは、例えば車両の左側領域に見立てたメータディスプレイ64の左側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。
図30(Da)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報616aに加えて、車両の左側領域に相対する右側領域を示す潜在情報617aを、メータディスプレイ64の右側端部に表示させる。
潜在情報617aは、例えば車両の左側領域に見立てたメータディスプレイ64の右側端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報617aは、輝度、色等を上記の潜在情報616aとは異なる態様で提示することにより、注意喚起の強度を潜在情報616aよりも低く抑えることができる。
なお、注意状態に低度の偏りのある運転者に低度の注意喚起を促す潜在情報は、上記の潜在情報617aとは異なる他の形状または態様であってもよい。
図30(Db)に示すように、上記の潜在情報617aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、上述の潜在情報616bに加え、上記の左側領域に相対する右側領域を示す潜在情報617bを、メータディスプレイ64の左側下端部に表示させることができる。
潜在情報617bは、例えば車両の左側領域に見立てたメータディスプレイ64の右側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報617bは、潜在情報616bよりも注意喚起の強度の低い態様とする。
図30(Ea)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報616aに加えて、車両の左側領域に相対する右側領域を示す潜在情報618aを、メータディスプレイ64の右側端部に表示させる。
潜在情報618aは、例えば車両の左側領域に見立てたメータディスプレイ64の右側端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報618aは、輝度、色等を上記の潜在情報616a,617aとは異なる態様で提示することにより、注意喚起の強度を潜在情報617aよりも高くしつつ、潜在情報616aよりも低く抑えることができる。
なお、注意状態に中程度の偏りのある運転者に中程度の注意喚起を促す潜在情報は、上記の潜在情報618aとは異なる他の形状または態様であってもよい。
図30(Eb)に示すように、上記の潜在情報618aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、上述の潜在情報616bに加え、上記の左側領域に相対する右側領域を示す潜在情報618bを、メータディスプレイ64の左側下端部に表示させることができる。
潜在情報618bは、例えば車両の左側領域に見立てたメータディスプレイ64の右側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報617bは、潜在情報617bよりも注意喚起の強度が高く、潜在情報616bよりも注意喚起の強度が低い態様とする。
以上の構成により、運転者の注意状態の不適正度合いの高低、及び所定の閾値以上の注意状態の不適正度合いの領域の画像内の位置等に基づく種々の潜在情報615,616a~619a,616b~619b等を、メータディスプレイ64に表示させることができる。
次に、変形例5の運転支援装置10bが、HUD61とメータディスプレイ64とを組み合わせて情報提示を行わせる場合の例について説明する。
図31は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、HUD61とメータディスプレイ64とに分割して表示させる例を示す模式図である。
図31(Aa)(Ba)(Ca)に示す例では、変形例5の運転支援装置10bは、運転者の注意状態に偏りがある等、潜在的な危険を検知したものの、自車と衝突する可能性がある歩行者等、顕在的な危険は検知していない状態である。
この場合、変形例5の運転支援装置10bは、上述の矩形の潜在情報605a、または上述の楕円形の潜在情報605b等を、例えば右側手前の人物を指し示すようにHUD61に表示させる。一方、変形例5の運転支援装置10bは、メータディスプレイ64には情報の表示を行わせない。
潜在的な危険のみが検知された場合には、変形例5の運転支援装置10bは、以上のように、潜在情報605a,605b等を、視認性の高いHUD61に優先的に表示させることができる。
図31(Ab)(Bb)(Cb)に示す例では、変形例5の運転支援装置10bは、潜在的な危険に加え、顕在的な危険をも検知している状態である。
この場合、変形例5の運転支援装置10bは、上述の楕円形の顕在情報662a、または上述の矩形の顕在情報662b等を、例えば右側手前の人物を指し示すようにHUD61に表示させる。このとき、変形例5の運転支援装置10bは、検知した顕在的な危険の大きさに応じて、顕在情報662a,662bのサイズ、輝度、色等を変化させる。
また、変形例5の運転支援装置10bは、上述の潜在情報616a等をメータディスプレイ64に表示させる。
このとき、図31(Ab)の例では、潜在情報616aを表示させる例を示しているが、変形例5の運転支援装置10bは、検知した潜在的な危険の大きさ、つまり、運転者の注意状態の不適正度合いの大きさに応じて、上述の潜在情報615,616a~619a,616b~619bのいずれかをメータディスプレイ64に表示させることができる。
潜在的な危険と顕在的な危険とが共に検知された場合には、変形例5の運転支援装置10bは、以上のように、顕在情報662a,662b等を視認性の高いHUD61に表示させ、潜在情報616a等を、運転者の注意を逸らす恐れの少ないメータディスプレイ64に表示させることができる。
図32は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、HUD61とメータディスプレイ64とに分割して表示させる他の例を示す模式図である。
図32(a)(b)(c)に示す例では、変形例5の運転支援装置10bは、潜在的な危険を検知したものの、顕在的な危険は検知していない状態、つまり、上述の図31(Aa)(Ba)(Ca)に示す例と同様の状態である。
この場合においても、変形例5の運転支援装置10bは、上述の潜在情報616a等をメータディスプレイ64に表示させることができる。またこの場合、変形例5の運転支援装置10bは、HUD61には情報を表示させない。
潜在的な危険のみが検知された場合であっても、変形例5の運転支援装置10bは、以上のように、潜在情報616a等を常にメータディスプレイ64に表示させることとしてもよい。
図33は、実施形態1の変形例5にかかる運転支援装置10bが潜在情報を提示させるピラーディスプレイ65の構成の一例を示す模式図である。
図33に示すように、ピラーディスプレイ65は、例えばフロントガラス両サイドのピラーPLに設けられる。運転者から見てピラーPLの陰になる部分の画像を、ピラーディスプレイ65に表示させることで、例えばピラーPLを透視して車外を見ているかのような視界を運転者に提供することができる。変形例5の運転支援装置10bは、例えばこのようなピラーディスプレイ65に潜在情報を表示させる。
図34は、実施形態1の変形例5にかかる運転支援装置10bの潜在情報のピラーディスプレイ65への提示例を示す模式図である。
図34(Aa)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、フロントガラス両サイドのピラーディスプレイ65に共に潜在情報625を表示させる。
潜在情報625は、フロントガラス両サイドのピラーPLに沿って配置される矩形領域に提示される提示情報とすることができる。ただし、車両の前方全体への強度の注意喚起を促す潜在情報は、上記の潜在情報625とは異なる他の形状または態様であってもよい。
図34(Ab)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、対となった潜在情報629を、フロントガラス両サイドのピラーディスプレイ65に表示させる。
潜在情報629は、例えば車両の正面に配置されるフロントガラスの中央付近を指し示す1対の三角形を組み合わせた形状とすることができる。ただし、車両の前方全体への低度の注意喚起を促す潜在情報は、矢印等の他の形状または態様であってもよい。
図34(B)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報626を、フロントガラス左側のピラーディスプレイ65に表示させる。
潜在情報626は、例えば車両の正面に配置されるフロントガラス左側のピラーPLに沿って配置される矩形領域に提示される提示情報とすることができる。ただし、注意状態に大きな偏りのある運転者に強度の注意喚起を促す潜在情報は、上記の潜在情報626とは異なる他の形状または態様であってもよい。
図34(Ca)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報626に加えて、車両の左側領域に相対する右側領域を示す潜在情報627を、フロントガラス両サイドのピラーディスプレイ65にそれぞれ表示させる。
潜在情報627は、例えば車両の正面に配置されるフロントガラス右側のピラーPLに沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報627は、輝度、色等を上記の潜在情報626とは異なる態様で提示することにより、注意喚起の強度を潜在情報626よりも低く抑えることができる。
なお、注意状態に低度の偏りのある運転者に低度の注意喚起を促す潜在情報は、上記の潜在情報627とは異なる他の形状または態様であってもよい。
図34(Cb)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報626に加えて、車両の左側領域に相対する右側領域を示す潜在情報628を、フロントガラス両サイドのピラーディスプレイ65にそれぞれ表示させる。
潜在情報628は、例えば車両の正面に配置されるフロントガラス右側のピラーPLに沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報628は、輝度、色等を上記の潜在情報626,627とは異なる態様で提示することにより、注意喚起の強度を潜在情報627よりも高くしつつ、潜在情報626よりも低く抑えることができる。
なお、注意状態に中程度の偏りのある運転者に中程度の注意喚起を促す潜在情報は、上記の潜在情報628とは異なる他の形状または態様であってもよい。
以上の構成により、運転者の注意状態の不適正度合いの高低、及び所定の閾値以上の注意状態の不適正度合いの領域の画像内の位置等に基づく種々の潜在情報625,626~629等を、ピラーディスプレイ65に表示させることができる。
次に、変形例5の運転支援装置10bが、HUD61とピラーディスプレイ65とを組み合わせて情報提示を行わせる場合の例について説明する。
図35は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、HUD61とピラーディスプレイ65とに分割して表示させる例を示す模式図である。
図35(Aa)(Ba)に示す例では、変形例5の運転支援装置10bは、運転者の注意状態に偏りがある等、潜在的な危険を検知したものの、自車と衝突する可能性がある歩行者等、顕在的な危険は検知していない状態である。
この場合、変形例5の運転支援装置10bは、上述の矩形の潜在情報605a、または上述の楕円形の潜在情報605b等を、例えば右側手前の人物を指し示すようにHUD61に表示させる。一方、変形例5の運転支援装置10bは、ピラーディスプレイ65には情報を表示させない。
潜在的な危険のみが検知された場合には、変形例5の運転支援装置10bは、以上のように、潜在情報605a,605b等を、視認性の高いHUD61に優先的に表示させることができる。
図35(Ab)(Bb)に示す例では、変形例5の運転支援装置10bは、潜在的な危険に加え、顕在的な危険をも検知している状態である。
この場合、変形例5の運転支援装置10bは、上述の楕円形の顕在情報662a、または上述の矩形の顕在情報662b等を、例えば右側手前の人物を指し示すようにHUD61に表示させる。このとき、変形例5の運転支援装置10bは、検知した顕在的な危険の大きさに応じて、顕在情報662a,662bのサイズ、輝度、色等を変化させる。
また、変形例5の運転支援装置10bは、上述の潜在情報626等を、フロントガラス右側のピラーディスプレイ65に表示させる。
このとき、図35(Ab)(Bb)の例では、潜在情報626を表示させる例を示しているが、変形例5の運転支援装置10bは、検知した潜在的な危険の大きさ、つまり、運転者の注意状態の不適正度合いの大きさに応じて、上述の潜在情報625,626~629のいずれかをピラーディスプレイ65に表示させることができる。
潜在的な危険と顕在的な危険とが共に検知された場合には、変形例5の運転支援装置10bは、以上のように、顕在情報662a,662b等を視認性の高いHUD61に表示させ、潜在情報626等を、運転者の注意を逸らす恐れの少ないピラーディスプレイ65に表示させることができる。
図36は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、HUD61とピラーディスプレイ65とに分割して表示させる他の例を示す模式図である。
図36(a)(b)に示す例では、変形例5の運転支援装置10bは、潜在的な危険を検知したものの、顕在的な危険は検知していない状態、つまり、上述の図35(Aa)(Ba)に示す例と同様の状態である。
この場合においても、変形例5の運転支援装置10bは、上述の潜在情報626等をピラーディスプレイ65に表示させることができる。またこの場合、変形例5の運転支援装置10bは、HUD61には情報を表示させない。
潜在的な危険のみが検知された場合であっても、変形例5の運転支援装置10bは、以上のように、潜在情報626等を常にピラーディスプレイ65に表示させることとしてもよい。
次に、変形例5の運転支援装置10bが、HUD61とスピーカ63とを組み合わせて情報提示を行わせる場合の例について説明する。
図37は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、HUD61とスピーカ63とに分割して提示させる例を示す模式図である。
図37(Aa)(Ba)に示す例では、変形例5の運転支援装置10bは、運転者の注意状態に偏りがある等、潜在的な危険を検知したものの、自車と衝突する可能性がある歩行者等、顕在的な危険は検知していない状態である。
この場合、変形例5の運転支援装置10bは、上述の矩形の潜在情報605a、または上述の楕円形の潜在情報605b等を、例えば右側手前の人物を指し示すようにHUD61に表示させる。一方、変形例5の運転支援装置10bは、スピーカ63には情報を出力させない。
潜在的な危険のみが検知された場合には、変形例5の運転支援装置10bは、以上のように、潜在情報605a,605b等を、視認性の高いHUD61に優先的に表示させることができる。
図37(Ab)(Bb)に示す例では、変形例5の運転支援装置10bは、潜在的な危険に加え、顕在的な危険をも検知している状態である。
この場合、変形例5の運転支援装置10bは、上述の楕円形の顕在情報662a、または上述の矩形の顕在情報662b等を、例えば右側手前の人物を指し示すようにHUD61に表示させる。このとき、変形例5の運転支援装置10bは、検知した顕在的な危険の大きさに応じて、顕在情報662a,662bのサイズ、輝度、色等を変化させる。
また、変形例5の運転支援装置10bは、右側領域に注意を払うよう警告するアナウンス、警告音等の潜在情報を含む音声636をスピーカ63に出力させる。
潜在的な危険と顕在的な危険とが共に検知された場合には、変形例5の運転支援装置10bは、以上のように、顕在情報662a,662b等を視認性の高いHUD61に表示させ、運転者の視界を妨げる恐れの少ないスピーカ63に音声636等の潜在情報を出力させることができる。
図38は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、HUD61とスピーカ63とに分割して表示させる他の例を示す模式図である。
図38(a)(b)に示す例では、変形例5の運転支援装置10bは、潜在的な危険を検知したものの、顕在的な危険は検知していない状態、つまり、上述の図37(Aa)(Ba)に示す例と同様の状態である。
この場合においても、変形例5の運転支援装置10bは、潜在情報を含む音声636をスピーカ63に出力させる。またこの場合、変形例5の運転支援装置10bは、HUD61には情報を表示させない。
潜在的な危険のみが検知された場合であっても、変形例5の運転支援装置10bは、以上のように、音声636等の潜在情報を常にスピーカ63に出力させることとしてもよい。
図39は、実施形態1の変形例5にかかる運転支援装置10bの潜在情報のHUD61の外周領域への提示例を示す模式図である。
以下に説明するように、HUD61の外周領域を用いた潜在情報の表示は、例えば上述の図30に示すメータディスプレイ64を用いた潜在情報の表示と同様に行われてよい。
図39(A)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、HUD61の外周部分を取り囲む潜在情報645を、HUD61の全周に表示させる。ただし、車両の前方全体への強度の注意喚起を促す潜在情報は、潜在情報645とは異なる形状、または態様であってもよい。
図39(Ba)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、対となった潜在情報649aを、HUD61の左右両端部に表示させる。
潜在情報649aは、例えば車両の正面に配置されるHUD61の中央付近を指し示す1対の三角形を組み合わせた形状とすることができる。ただし、車両の前方全体への低度の注意喚起を促す潜在情報は、矢印等の他の形状または態様であってもよい。
図39(Bb)に示すように、上記の潜在情報649aの他の態様として、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、HUD61の中央を指し示す三角形の潜在情報649bを、HUD61の中央下端部に表示させることができる。
図39(Ca)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報646aを、HUD61の左側端部に表示させる。
潜在情報646aは、例えば車両の正面に配置されるHUD61の左側端部に沿って配置される矩形領域に提示される提示情報とすることができる。ただし、注意状態に大きな偏りのある運転者に強度の注意喚起を促す潜在情報は、上記の潜在情報646aとは異なる他の形状または態様であってもよい。
図39(Cb)に示すように、上記の潜在情報646aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報646bを、HUD61の左側下端部に表示させることができる。
潜在情報646bは、例えば車両の正面に配置されるHUD61の左側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。
図39(Da)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報646aに加えて、車両の左側領域に相対する右側領域を示す潜在情報647aを、HUD61の右側端部に表示させる。
潜在情報647aは、例えば車両の正面に配置されるHUD61のAピラー右側に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報647aは、輝度、色等を上記の潜在情報646aと異なる態様で提示することにより、注意喚起の強度を潜在情報646aよりも低く抑えることができる。
なお、注意状態に低度の偏りのある運転者に低度の注意喚起を促す潜在情報は、上記の潜在情報647aとは異なる他の形状または態様であってもよい。
図39(Db)に示すように、上記の潜在情報647aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、上述の潜在情報646bに加え、上記の左側領域に相対する右側領域を示す潜在情報647bを、HUD61の左側下端部に表示させることができる。
潜在情報647bは、例えば車両の正面に配置されるHUD61の右側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報647bは、潜在情報646bよりも注意喚起の強度の低い態様とする。
図39(Ea)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報646aに加えて、車両の左側領域に相対する右側領域を示す潜在情報648aを、HUD61の右側端部に表示させる。
潜在情報648aは、例えば車両の正面に配置されるHUD61の右側端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報648aは、輝度、色等を上記の潜在情報646a,647aとは異なる態様で提示することにより、注意喚起の強度を潜在情報647aよりも高くしつつ、潜在情報646aよりも低く抑えることができる。
なお、注意状態に中程度の偏りのある運転者に中程度の注意喚起を促す潜在情報は、上記の潜在情報648aとは異なる他の形状または態様であってもよい。
図39(Eb)に示すように、上記の潜在情報648aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、上述の潜在情報646bに加え、上記の左側領域に相対する右側領域を示す潜在情報658bを、HUD61の左側下端部に表示させることができる。
潜在情報648bは、例えば車両の正面に配置されるHUD61の右側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報648bは、潜在情報647bよりも注意喚起の強度が高く、潜在情報646bよりも注意喚起の強度が低い態様とする。
以上の構成により、運転者の注意状態の不適正度合いの高低、及び所定の閾値以上の注意状態の不適正度合いの領域の画像内の位置等に基づく種々の潜在情報645,646a~649a,646b~649b等を、HUD61に表示させることができる。
なお、HUD61の外周領域を用いて各種の潜在情報645,646a~649a,646b~649b等を表示させる場合にも、外周領域を除くHUD61の中央領域には、上述の図31及び図32等に示す種々の画像が表示される。
図40は、実施形態1の変形例5にかかる運転支援装置10bが潜在情報を提示させるLEDディスプレイ66の構成の一例を示す模式図である。
図40に示すように、発光装置としてのLEDディスプレイ66は、例えばフロントガラスに配置されるHUD61の下端部に沿って配列される複数のLED等を備える。変形例5の運転支援装置10bは、これらのLEDを所定の態様で点灯/消灯させることで、LEDディスプレイ66に潜在情報を提示させる。
図41は、実施形態1の変形例5にかかる運転支援装置10bの潜在情報のLEDディスプレイ66への提示例を示す模式図である。
図41(Aa)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、HUD61の下端部に沿って延びるLEDディスプレイ66の全体を点灯させた潜在情報655を提示させる。
すなわち、潜在情報655は、HUD61の下端部に沿って配列される複数のLEDの全てを点灯させた状態の提示情報とすることができる。ただし、車両の前方全体への強度の注意喚起を促す潜在情報は、上記の潜在情報655とは異なる他の態様であってもよい。
図41(Ab)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、HUD61の下端部に沿って延びるLEDディスプレイ66の中央部分を点灯させた潜在情報659を提示させる。
すなわち、潜在情報659は、HUD61の下端部に沿って配列される複数のLEDのうち、中央部分に配列される幾つかのLEDを点灯させた状態の提示情報とすることができる。ただし、車両の前方全体への低度の注意喚起を促す潜在情報は、上記の潜在情報655とは異なる他の態様であってもよい。
図41(B)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報656をLEDディスプレイ66に提示させる。
潜在情報656は、HUD61の下端部に沿って延びるLEDディスプレイ66の左側部分を点灯させた状態の提示情報とすることができる。すなわち、HUD61の下端部に沿って配列される複数のLEDのうち、左側に配列される幾つかのLEDを点灯させる。ただし、注意状態に大きな偏りのある運転者に強度の注意喚起を促す潜在情報は、上記の潜在情報656とは異なる他の形状または態様であってもよい。
図41(Ca)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報656に加えて、車両の左側領域に相対する右側領域を示す潜在情報657を、LEDディスプレイ66に提示させる。
潜在情報657は、HUD61の下端部に沿って延びるLEDディスプレイ66の右側部分を点灯させた状態の提示情報とすることができる。すなわち、HUD61の下端部に沿って配列される複数のLEDのうち、右側に配列される幾つかのLEDを点灯させる。また、潜在情報657は、点灯させるLEDの数、輝度、色等を上記の潜在情報656とは異なる態様で提示することにより、注意喚起の強度を潜在情報656よりも低く抑えることができる。
なお、注意状態に低度の偏りのある運転者に低度の注意喚起を促す潜在情報は、上記の潜在情報657とは異なる他の形状または態様であってもよい。
図41(Cb)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報656に加えて、車両の左側領域に相対する右側領域を示す潜在情報658を、LEDディスプレイ66に提示させる。
潜在情報658は、HUD61の下端部に沿って延びるLEDディスプレイ66の右側部分を点灯させた状態の提示情報とすることができる。また、潜在情報658は、点灯させるLEDの数、輝度、色等を上記の潜在情報656,657とは異なる態様で提示することにより、注意喚起の強度を潜在情報657よりも高くしつつ、潜在情報656よりも低く抑えることができる。
なお、注意状態に中程度の偏りのある運転者に中程度の注意喚起を促す潜在情報は、上記の潜在情報658とは異なる他の形状または態様であってもよい。
以上の構成により、運転者の注意状態の不適正度合いの高低、及び所定の閾値以上の注意状態の不適正度合いの領域の画像内の位置等に基づく種々の潜在情報655,656~659等を、LEDディスプレイ66に提示させることができる。
ところで、上述の図41では、例えば点灯させるLEDの数、輝度、色等をそれぞれ異なる態様で提示することで、潜在情報655,656~659の注意喚起の強度を異なる態様で提示することとした。しかし、LEDディスプレイ66によって注意喚起の強度を異なる態様で提示する手法は上記に限られない。
図42は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、LEDの点滅によってLEDディスプレイ66に提示させる例を示す模式図である。
図42(a)に示すように、変形例5の運転支援装置10bは、潜在情報の提示対象のLEDを点滅させることによって、LEDディスプレイ66に潜在情報を提示させることができる。図42(a)の例では、LEDの輝度を0%とする消灯期間終了後、LEDの輝度を100%として点灯期間に移行する。点灯期間の終了後、消灯期間の移行時には、LEDの輝度を0%とする。
このとき、点灯期間のLEDの輝度を高めることで、潜在情報の注意喚起の強度を高めることができ、点灯期間のLEDの輝度を低く抑えることで、潜在情報の注意喚起の強度を低下させることができる。
または、LEDの点滅の周期を短くすることで、潜在情報の注意喚起の強度を高めることができ、LEDの点滅の周期を長くすることで、潜在情報の注意喚起の強度を低下させることができる。
または、LEDの点灯期間を消灯期間より長くすることで、潜在情報の注意喚起の強度を高めることができ、LEDの点灯期間を消灯期間より短くすることで、潜在情報の注意喚起の強度を低下させることができる。
また、図42(a)とは異なる手法で、LEDの点灯と消灯との切り替えを行うこともできる。
図42(b)の例では、LEDの輝度を0%とする消灯期間終了後、LEDの輝度を徐々に100%まで高めていって点灯期間に移行する。点灯期間の終了後、消灯期間の移行時には、LEDの輝度を徐々に0%まで落としていく。
この場合、図42(a)における注意喚起の強度の調整手法に加え、例えばLEDの輝度の増減が急峻であるほど、潜在情報の注意喚起の強度を高めることができ、LEDの輝度の増減が緩慢であるほど、潜在情報の注意喚起の強度を低下させることができる。
図43は、実施形態1の変形例5にかかる運転支援装置10bが生成した提示情報を、LEDを複数色で点灯させることによってLEDディスプレイ66に提示させる例を示す模式図である。
図43(a)に示すように、変形例5の運転支援装置10bは、潜在情報の提示対象のLEDを周期的に異なる色で点灯させることによって、LEDディスプレイ66に潜在情報を提示させることができる。図43(a)の例では、LEDを交互に色Xと色Yとで点灯させている。
このとき、色X,Yの色相、彩度、明度等の差を大きくすることで、潜在情報の注意喚起の強度を高めることができ、色X,Yの色相、彩度、明度等の差を小さくすることで、潜在情報の注意喚起の強度を低下させることができる。
すなわち、色X,Yの色相差を高めるには、例えば補色の関係にある色を色X,Yとして使用することができる。また、色X,Yの色相差を低く抑えるには、例えば同系色の色を色X,Yとして使用することができる。
色X,Yの彩度差を高めるには、例えば彩度の高い色と低い色とを組み合わせて色X,Yとすることができる。色X,Yの明度差を高めるには、例えば明度の高い色と低い色とを組み合わせて色X,Yとすることができる。
また、上記の場合、潜在情報の提示対象のLEDの配列上で、個々のLEDを交互に色Xまたは色Yで点灯させてもよい。更には、このようなLEDの配列上を、色X,Yの各色が流れていくように潜在情報を提示させることも可能である。
すなわち、時刻t1では、配列上の順番が奇数のLEDを色Xで点灯させ、配列上の順番が偶数のLEDを色Yで点灯させる。その後の時刻t2では、奇数のLEDを色Yで点灯させ、偶数のLEDを色Xで点灯させる。これを交互に繰り返すことで、上記のような視覚効果が得られる。
また、図43(a)とは異なる手法で、LEDディスプレイ66に提示させる潜在情報の注意喚起の強度を調整することも可能である。
図43(b)の例では、変形例5の運転支援装置10bは、色Xの点灯期間を色Yの点灯時間より長くしている。
このとき、色相、彩度、明度の高い色を色Xとして使用し、色相、彩度、明度の低い色を色Yとして使用することで、潜在情報の注意喚起の強度を高めることができる。また、色相、彩度、明度の低い色を色Xとして使用し、色相、彩度、明度の高い色を色Yとして使用することで、潜在情報の注意喚起の強度を低下させることができる。
以上の構成によっても、LEDディスプレイ66に提示させる潜在情報の注意喚起の強度を調整することができる。
なお、上述の例では、LEDディスプレイ66は、HUD61の下端部に設けられることとしたが、LEDディスプレイ66の配置位置はこれに限られない。LEDディスプレイ66が、例えばHUD61の下端部に替えて、あるいは加えて、HUD61の両端部に設けられていてもよく、または、HUD61の外周を取り囲むように設けられていてもよい。
このような場合であっても、上述の図41に示した各種態様に準じる態様で、運転者の注意状態の不適正度合いの高低、及び所定の閾値以上の注意状態の不適正度合いの領域の画像内の位置等に基づく種々の潜在情報を提示させることができる。
図44は、実施形態1の変形例5にかかる運転支援装置10bが潜在情報を提示させるミラーディスプレイ67の構成の一例を示す模式図である。
図44に示すように、ミラーディスプレイ67は、例えば車両の後方確認用のバックミラー位置に、バックミラーに替えて設置されている。ミラーディスプレイ67は、例えばバックミラー型に構成され、車両の後方画像を映し出すことにより、バックミラーと同等の機能を果たす。変形例5の運転支援装置10bは、例えばこのようなミラーディスプレイ67に潜在情報を表示させる。
図45は、実施形態1の変形例5にかかる運転支援装置10bの潜在情報のミラーディスプレイ67への提示例を示す模式図である。
以下に説明するように、ミラーディスプレイ67の外周領域を用いた潜在情報の表示は、例えば上述の図30に示すメータディスプレイ64を用いた潜在情報の表示と同様に行われてよい。
図45(A)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、ミラーディスプレイ67の外周部分を取り囲む潜在情報665を、ミラーディスプレイ67の全周に表示させる。ただし、車両の前方全体への強度の注意喚起を促す潜在情報は、潜在情報665とは異なる形状、または態様であってもよい。
図45(Ba)に示すように、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、対となった潜在情報669aを、ミラーディスプレイ67の左右両端部に表示させる。
潜在情報669aは、例えば車両の正面に見立てたミラーディスプレイ67の中央付近を指し示す1対の三角形を組み合わせた形状とすることができる。ただし、車両の前方全体への低度の注意喚起を促す潜在情報は、矢印等の他の形状または態様であってもよい。
図45(Bb)に示すように、上記の潜在情報669aの他の態様として、例えば車両の前方全体に亘って、運転者の注意状態の不適正度合いが比較的小さな領域があった場合には、変形例5の運転支援装置10bは、ミラーディスプレイ67の中央を指し示す三角形の潜在情報669bを、ミラーディスプレイ67の中央下端部に表示させることができる。
図45(Ca)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報666aを、ミラーディスプレイ67の左側端部に表示させる。
潜在情報666aは、例えば車両の左側領域に見立てたミラーディスプレイ67の左側端部に沿って配置される矩形領域に提示される提示情報とすることができる。ただし、注意状態に大きな偏りのある運転者に強度の注意喚起を促す潜在情報は、上記の潜在情報666aとは異なる他の形状または態様であってもよい。
図45(Cb)に示すように、上記の潜在情報666aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域があった場合には、変形例5の運転支援装置10bは、その領域に相対する左側領域を示す潜在情報666bを、ミラーディスプレイ67の左側下端部に表示させることができる。
潜在情報666bは、例えば車両の左側領域に見立てたミラーディスプレイ67の左側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。
図45(Da)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報666aに加えて、車両の左側領域に相対する右側領域を示す潜在情報667aを、ミラーディスプレイ67の右側端部に表示させる。
潜在情報667aは、例えば車両の右側領域に見立てたミラーディスプレイ67の右側端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報667aは、輝度、色等を上記の潜在情報666aとは異なる態様で提示することにより、注意喚起の強度を潜在情報666aよりも低く抑えることができる。
なお、注意状態に低度の偏りのある運転者に低度の注意喚起を促す潜在情報は、上記の潜在情報667aとは異なる他の形状または態様であってもよい。
図45(Db)に示すように、上記の潜在情報667aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが比較的小さな領域と、があった場合には、変形例5の運転支援装置10bは、上述の潜在情報666bに加え、上記の左側領域に相対する右側領域を示す潜在情報667bを、ミラーディスプレイ67の左側下端部に表示させることができる。
潜在情報667bは、例えば車両の右側領域に見立てたミラーディスプレイ67の右側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報667bは、潜在情報666bよりも注意喚起の強度の低い態様とする。
図45(Ea)に示すように、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、車両の右側領域に相対する左側領域を示す潜在情報666aに加えて、車両の左側領域に相対する右側領域を示す潜在情報668aを、ミラーディスプレイ67の右側端部に表示させる。
潜在情報668aは、例えば車両の右側領域に見立てたミラーディスプレイ67の右側端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報668aは、輝度、色等を上記の潜在情報666a,667aとは異なる態様で提示することにより、注意喚起の強度を潜在情報667aよりも高くしつつ、潜在情報666aよりも低く抑えることができる。
なお、注意状態に中程度の偏りのある運転者に中程度の注意喚起を促す潜在情報は、上記の潜在情報668aとは異なる他の形状または態様であってもよい。
図45(Eb)に示すように、上記の潜在情報668aの他の態様として、例えば車両の右側に偏って、運転者の注意状態の不適正度合いが大きな領域と、車両の左側に偏って、運転者の注意状態の不適正度合いが中程度の領域と、があった場合には、変形例5の運転支援装置10bは、上述の潜在情報666bに加え、上記の左側領域に相対する右側領域を示す潜在情報668bを、ミラーディスプレイ67の左側下端部に表示させることができる。
潜在情報668bは、例えば車両の右側領域に見立てたミラーディスプレイ67の右側下端部に沿って配置される矩形領域に提示される提示情報とすることができる。また、潜在情報668bは、潜在情報667bよりも注意喚起の強度が高く、潜在情報666bよりも注意喚起の強度が低い態様とする。
以上の構成により、運転者の注意状態の不適正度合いの高低、及び所定の閾値以上の注意状態の不適正度合いがの領域の画像内の位置等に基づく種々の潜在情報665,666a~669a,666b~669b等を、ミラーディスプレイ67に表示させることができる。
変形例5の運転支援装置10bによれば、HUD61、車内モニタ62、スピーカ63、メータディスプレイ64、ピラーディスプレイ65、LEDディスプレイ66、及びミラーディスプレイ67のうち、2以上の情報提示装置に、複数部分に分割した提示情報をそれぞれ提示させる。
これにより、情報提示装置60に含まれる各種構成のうち、HUD61、車内モニタ62、スピーカ63、メータディスプレイ64、ピラーディスプレイ65、LEDディスプレイ66、及びミラーディスプレイ67のうち、視認性が高く、運転者の注意を惹き付けやすい構成に、例えばより高い危険性を示す顕在情報を提示し、運転者の注意を逸らすことなく情報の提示が可能な構成に、例えば比較的低い危険性を示す潜在情報を提示することができる。
変形例5の運転支援装置10bによれば、その他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
なお、上述の変形例5の運転支援装置10bにおいては、例えばHUD61または車内モニタ62に主に顕在情報を提示させ、その他の構成に潜在情報を提示させ、これらの構成を組み合わせて、運転者に情報を提示することとした。
しかし、例えば上述の実施形態1の運転支援装置10のように、専ら潜在情報を提示する構成において、HUD61または車内モニタ62等と組み合わせることなく、スピーカ63、メータディスプレイ64、ピラーディスプレイ65、HUD61の外周領域、LEDディスプレイ66、またはミラーディスプレイ67等の、その他の構成を単独で用いて潜在情報を提示させてもよい。
(変形例6)
次に、図46~図48を用いて、実施形態1の変形例6の運転支援装置について説明する。変形例6の運転支援装置は、潜在情報と顕在情報とを提示させる際、衝突余裕時間(TTC:Time-To-Collision)も考慮に入れる点が上述の変形例5とは異なる。
図46は、実施形態1の変形例6にかかる運転支援装置10cの機能構成の一例を周辺機器とともに示すブロック図である。
図26に示すように、変形例6の車両103には、上述の変形例5の運転支援装置10bに替えて、変形例6の運転支援装置10cが搭載されている。
運転支援装置10cは、上述の変形例5の運転支援装置10bの構成に加えて、TTCを算出するTTC演算部112を備え、また、上述の変形例5の出力制御部130bに替えて、運転者注意状態推定部120が推定した運転者の注意状態、顕在情報演算部111が生成した顕在情報、及びTTC演算部112が算出したTTC情報を取得して、運転支援情報を出力する出力制御部130cを備えている。
TTC演算部112により算出されるTTCは、車両103前方の歩行者等、車両103との衝突の恐れがある障害物と実際に衝突するまでの時間である。TTCの値が小さくなるほど障害物と車両103との衝突までに時間的な余裕がないことを意味する。また、TTCの値が大きくなるほど障害物と車両103との衝突までに時間的な余裕があることを意味する。
TTC演算部112は、情報提示の対象となる領域に含まれる歩行者等の障害物と車両103との距離、車両103の速度等から、その障害物についてTTCを算出する。
運転者注意状態推定部120は、推定した運転者の注意状態、顕在情報演算部111が生成した顕在情報、及びTTC演算部112がそれぞれの障害物について算出したTTCの情報を、出力制御部130cへと受け渡す。
出力制御部130cは、運転者の注意状態に基づいて抽出した運転者に注意喚起を行う領域に関する情報、及び運転者注意状態推定部120から受け渡された顕在情報を含む運転支援情報を、HMI制御装置30に出力する。
また、出力制御部130cは、TTC演算部112が算出したTTC情報に基づいて、顕在情報を含む上記の運転支援情報に、潜在情報を含めるか否かを決定する。出力制御部130cは、TTCが所定の閾値以上の場合には、上記の運転支援情報に、潜在情報も含めてHMI制御装置30に出力する。出力制御部130cは、TTCが所定の閾値未満の場合には、潜在情報を含めることなく上記の運転支援情報をHMI制御装置30に出力する。
図47は、実施形態1の変形例6にかかる運転支援装置10cの情報提示例を示す模式図である。
図47(a)(b)の例では、運転者に注意喚起を行う領域は、例えば右側手前の人物を含む領域、及び左側手前の親子連れを含む領域であるものとする。また、右側手前の人物についてのTTCは所定の閾値以上であり、左側手前の親子連れについてのTTCは所定の閾値未満であったものとする。
図47(a)(b)に示すように、変形例6の運転支援装置10cは、右側手前の人物、及び左側手前の親子連れを示す、上述の楕円形の顕在情報662aをそれぞれ、HUD61または車内モニタ62に表示させる。
また、変形例6の運転支援装置10cは、TTCが所定の閾値以上であった右側手前の人物を示す上述の矩形の潜在情報605aを、HUD61または車内モニタ62に表示させる。一方、変形例6の運転支援装置10cは、TTCが所定の閾値未満であった親子連れに対しては潜在情報を表示させない。
このように、TTCが充分に長く、衝突までの時間的な余裕がある状態であれば、潜在情報605aを表示させることで、運転者に、その潜在情報に応じて適切な操作を行わせることができる。一方で、TTCが短く、衝突までの時間的な余裕がない状態のときは、潜在情報を表示させないことで、潜在情報に気を取られて運転者が適切な操作を行う妨げになることを抑制できる。
ただし、このような顕在情報662a及び潜在情報605aの形状、提示位置、及び提示の態様等は、上記の図47の例に限定されない。
図48は、実施形態1の変形例6にかかる運転支援装置10cの他の情報提示例を示す模式図である。
図48(a)(b)に示す例では、変形例6の運転支援装置10cは、右側手前の人物、及び左側手前の親子連れを示す矩形の顕在情報662bをそれぞれ、それらの人物および親子連れを囲むように表示させる。また、変形例6の運転支援装置10cは、右側手前の人物を示す楕円形の潜在情報605bを、その人物の足元から離れた下方位置に表示させる。
なお、変形例6の運転支援装置10cは、TTCの長短に応じて、例えば顕在情報662a,662bのサイズ、輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整してもよい。また、変形例6の運転支援装置10cは、運転者の注意状態の不適正度合いの高低に応じて、潜在情報605a,605bのサイズ、輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整してもよい。
このように、顕在情報662及び潜在情報605の形状、提示位置、及び提示の態様等は、様々に異なる態様で提示することができる。
なお、変形例6の運転支援装置10cも、上述の変形例5の図29~図45等に示したように、顕在情報と潜在情報とを異なる情報提示装置60にそれぞれ提示させてもよい。
また、変形例6の運転支援装置10cが、予測誤差とTTCとに基づいて、上述の図47及び図48の例とは異なる情報を提示させてもよい。
図49は、実施形態1の変形例6にかかる運転支援装置10cの更に他の情報提示例を示す模式図である。図49の例では、変形例6の運転支援装置10cは、予測誤差の高低とTTCの長短とを組み合わせた指標に基づいて、運転者への注意喚起の強度の異なる潜在情報を提示させる。
図49(a)は、変形例6の運転支援装置10cに与えられる潜在情報の提示態様表の一例を示している。図49(a)に示すように、潜在情報の提示態様表には、注意喚起の強度の異なる複数の潜在情報の態様が定義されている。これらの潜在情報の注意喚起の強度は、予測誤差とTTCとの2つのパラメータにより決定される。
すなわち、予測誤差には、低、中、及び高の3つの閾値が設定されており、TTCには、短、中、及び長の3つの閾値が設定されている。潜在情報の提示態様表には、予測誤差が低、中、及び高の場合と、TTCが短、中、及び長の場合とを組み合わせた9通りのパターンについて潜在情報の態様が定義づけられている。
これら9通りのパターンのうち、予測誤差が低でTTCが長の場合、潜在情報の注意喚起の強度は最小となる。また、予測誤差が低でTTCが短の場合、予測誤差が中でTTCが短の場合、予測誤差が高でTTCが短または中の場合、潜在情報の注意喚起の強度は最大となる。
また、予測誤差が中でTTCが長の場合、潜在情報の注意喚起の強度は、予測誤差が低でTTCが長の場合よりも大きくなる。また、予測誤差が低でTTCが中の場合、及び予測誤差およびTTCが共に中の場合、潜在情報の注意喚起の強度は、予測誤差が中でTTCが長の場合よりも大きくなる。また、予測誤差が高でTTCが長の場合、潜在情報の注意喚起の強度は、予測誤差が低でTTCが中の場合等よりも大きくなる。
このように、潜在情報の提示態様表には、予測誤差の高低とTTCの長短とを組み合わせた9通りのパターンに対して、4通りの潜在情報の態様が定義されている。ただし、図49(a)に示す潜在情報の態様の定義はあくまでも一例であって、潜在情報の態様は種々に定義されうる。
例えば、予測誤差の高低、及びTTCの長短の段階は、上記の3段階ではなく、2段階、または4段階以上であってもよい。また例えば、予測誤差の高低とTTCの長短との組み合わせパターンに対し、潜在情報の態様が上記の4通りではなく、3通り以下または5通り以上であってもよい。
変形例6の運転支援装置10cは、例えば図49(a)に示す潜在情報の提示態様表にしたがって、潜在情報の提示の態様を決定する。図49(Aa)~(Cb)に、HUD61または車内モニタ62に潜在情報を表示する場合の例を示す。
図49に示すように、変形例6の運転支援装置10cは、例えば画像を左右の領域に2分割し、それぞれの領域について予測誤差およびTTCを算出する。
図49(Aa)(Ba)の例では、左側手前に親子連れを含む左側領域について、予測誤差およびTTCが共に中と判定され、いずれの人物も含まれない右側領域について、予測誤差が低でTTCが長と判定されたものとする。
この場合、変形例6の運転支援装置10cは、左側領域の下端部に沿って配置される矩形領域に提示される潜在情報676bを表示させる。潜在情報676bは、予測誤差およびTTCが共に中の場合の注意喚起の強度を有する。
また、変形例6の運転支援装置10cは、右側領域の下端部に沿って配置される矩形領域に提示される潜在情報676aを表示させる。潜在情報676aは、予測誤差が低でTTCが長の場合の注意喚起の強度を有する。
図49(Ab)(Bb)の例では、左側手前に親子連れを含み、左側奥に2人の人物を含む左側領域について、予測誤差が高でTTCが長と判定され、いずれの人物も含まれない右側領域について、予測誤差が低でTTCが長と判定されたものとする。
この場合、変形例6の運転支援装置10cは、左側領域の下端部に沿って配置される矩形領域に提示される潜在情報676cを表示させる。潜在情報676cは、予測誤差が高でTTCが長の場合の注意喚起の強度を有する。
また、変形例6の運転支援装置10cは、上述の図49(Aa)(Ba)の例と同様、右側領域の下端部に沿って延びる潜在情報676aを表示させる。
なお、変形例6の運転支援装置10cは、上記の図49のように、HUD61または車内モニタ62等に視覚的に潜在情報676a~676c等を表示させる場合には、例えば潜在情報676a~676cの長さ、太さ、輝度、色等を変化させて、運転者への注意喚起の強度の高低を調整することができる。
以上のように、予測誤差とTTCとの2つのパラメータに基づいて潜在情報を提示させることで、より多くの情報に基づく運転支援情報を高精度に生成することができる一方、提示の態様を、例えば潜在情報676a~676cのみにするなどして簡素化することができる。
変形例6の運転支援装置10cによれば、上記の他、上述の変形例5の運転支援装置10bと同様の効果を奏する。
(変形例7)
次に、図50を用いて、実施形態1の変形例7の運転支援装置10dについて説明する。変形例7の運転支援装置10dは、外部サーバ90に運転支援情報を出力する点が上述の実施形態1とは異なる。
図50は、実施形態1の変形例7にかかる運転支援装置10dの機能構成の一例を周辺機器とともに示すブロック図である。
図50に示すように、変形例7の車両104には、上述の実施形態1の運転支援装置10に替えて、変形例7の運転支援装置10dが搭載されている。運転支援装置10dは、上述の実施形態1の出力制御部130に替えて、外部サーバ90に運転支援情報を出力する出力制御部130dを備える。
出力制御部130dは、運転者への注意喚起を行う領域に紐づけられた運転支援情報を生成し、外部サーバ90に出力する。
外部サーバ90は、例えば無線LAN(Local Area Network)等によって、互いに情報の授受が可能に、変形例7の車両104を含む複数の車両と接続されている。外部サーバ90は、変形例7の運転支援装置10dを含む、複数の車両の運転支援装置から、それらの運転支援装置が生成した運転支援情報を取得し蓄積する。
外部サーバ90に蓄積された運転支援情報は、例えばデータベース化されて、他の車両における運転者への運転支援に活用される。これにより、所定の車両により生成された運転支援情報を複数の車両間で共有して、運転者への運転支援を行うことができる。また、複数の車両から収集された運転支援情報がデータベース化されることで、運転支援の精度を高めることができる。
変形例7の運転支援装置10dによれば、その他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
[実施形態2]
実施形態2について図面を用いて説明する。実施形態2においては、運転支援装置が運転者の視線も考慮に入れて運転支援情報を生成する点が、上述の実施形態1とは異なる。
図51は、実施形態2にかかる運転支援装置210の機能構成の一例を周辺機器とともに示すブロック図である。
図51に示すように、実施形態2の車両200には、上述の実施形態1の運転支援装置10に替えて、実施形態2の運転支援装置210が搭載されている。
運転支援装置210は、上述の実施形態1の運転支援装置10の構成に加えて、運転者の視線の向いた先を推定する視線推定部140を備え、また、上述の実施形態1の運転者注意状態推定部120に替えて、予測誤差演算部110と視線推定部140とから情報を取得して、運転者の注意状態を推定する運転者注意状態推定部220を備えている。
視線推定部140は、例えば車内向けカメラ42が撮像した運転者の顔画像から、運転者が視線を向けた先を推定する。より具体的には、車外向けカメラ41が撮像した車両200の進行方向の画像を、上述のように、例えば複数領域に分割した場合には、視線推定部140は、これらの複数領域のうち、運転者が視線を向けた領域を推定する。
運転者注意状態推定部220は、上述の実施形態1の運転者注意状態推定部120と同様、画像内の複数領域において、運転者の注意の惹き付けやすさの高低を算出する。また、運転者注意状態推定部220は、複数領域における注意状態の不適正度合いの高低、及び視線推定部140が推定した運転者の視線の向きに基づいて、複数領域に対する運転者の注意状態をそれぞれ推定する。
ここで、上述の実施形態1の図4で説明したとおり、運転者は予測誤差が大きい箇所に注意を向ける傾向がある。運転者注意状態推定部220は、図4に示した手法に則って、運転者が視線を向けている領域の予測誤差と、視線を向けていない任意の領域の予測誤差と、に基づいて、運転者の注意の惹かれやすさを推定する。
すなわち、運転者注意状態推定部220は、運転者が視線を向けている領域と、任意の領域とを抽出し、それぞれの領域の予想誤差が所定の閾値以上となる割合から、運転者が視線を向けている領域についてAUC値を算出し、AUC値が所定の閾値より大きかった領域を含む情報を運転者の注意状態の推定に用いる。
このように、予測誤差のみならず、運転者の視線を考慮に入れることで、所定の領域に対して運転者の注意状態が適正な状態にあるか否かをより高精度に推定することが可能となる。なお、これ以降、上記のように算出されるAUC値を注意状態指標とも呼ぶ。
図52は、実施形態2にかかる運転支援装置210が行う運転支援処理の手順の一例を示すフロー図である。なお、図52に示す処理のうち、ステップS101が、上述の実施形態1の図7に示す処理から新たに加わった処理である。
図52に示すように、実施形態2の運転支援装置210が備える視線推定部140は、車内向けカメラ42が撮像した運転者の顔画像から、運転者が視線を向けた先を推定する(ステップS101)。また、運転者注意状態推定部220は、車外向けカメラ41が撮像した画像を複数領域に分割し(ステップS110)、それぞれについて予測誤差を算出する(ステップS120)。
また、運転者注意状態推定部220は、算出した予測誤差と推定された視線とから求めた所定の領域のAUC値、つまり、注意状態指標が閾値TH21より大きい場合(ステップS130:Yes)、その領域に対する運転者の注意状態の不適正度合いが高いと推定する(ステップS132)。
運転者注意状態推定部220のこのような推定に基づいて、出力制御部130は、その領域に相対する領域に提示する情報について、強度の注意喚起の強度を有する態様ST1を選択する。
運転者注意状態推定部220は、所定の領域の注意状態指標が閾値TH21未満である閾値TH22より大きい場合(ステップS130:No、ステップS140:Yes)、その領域に対する運転者の注意状態の不適正度合いが中程度と推定する(ステップS142)。
運転者注意状態推定部220のこのような推定に基づいて、出力制御部130は、その領域に相対する領域に提示する運転情報について、中程度の注意喚起の強度を有する態様ST2を選択する。
運転者注意状態推定部220は、所定の領域の注意状態指標が閾値TH22未満である閾値TH23より大きい場合(ステップS140:No、ステップS150:Yes)、その領域に対する運転者の注意状態の不適正度合いが低いと推定する(ステップS152)。
運転者注意状態推定部220のこのような推定に基づいて、出力制御部130は、その領域に相対する領域に提示する運転情報について、低度の注意喚起の強度を有する態様ST2を選択する。
運転者注意状態推定部220は、所定の領域の注意状態指標が閾値TH23より小さい場合(ステップS150:No)、その領域に対する運転者の注意状態が充分に適正であるものとし、出力制御部130は、その領域に相対する領域に提示する運転支援情報の生成を行わない。
実施形態2の運転支援装置210は、全ての領域について上記処理を繰り返し(ステップS160:No)、全ての領域の処理が終了した後(ステップS160:Yes)、生成した運転支援情報をHMI制御装置30に出力する(ステップS170)。
以上により、実施形態2の運転支援装置210による運転支援処理が終了する。
以上のように、上記説明においては、運転支援装置210が、実施形態1の運転支援装置10と同様、画像を複数領域に分割して種々の処理を行うこととした。しかし、実施形態2においては、運転者の視線が向いた先と、そうではない任意の個所とを抽出すれば良く、必ずしも画像を複数領域に分割する必要は無い。すなわち、例えば画像内の運転者の視線が向いた先のピクセルと運転者の視線が向いていないピクセル、というように、ピクセルごとに抽出を行って上記処理を実行してもよい。
なお、実施形態2の運転支援装置210によって、上記のようにHMI制御装置30に出力された運転支援情報に含まれる情報は、例えば上述の実施形態1及び変形例1~3で説明した種々の態様で情報提示装置60によって提示されることができる。
これにより、注意状態推定部が推定した注意の惹かれやすいときに、運転者を適正な注意状態に誘導させるように視認行動を無意識に変容させることができ、また、運転者に自覚させるように注意喚起することができる。
このとき、実施形態2の運転支援装置210が、上述の実施形態1の変形例5,6等と同様、顕在情報演算部111、TTC演算部112等を備えることにより、運転支援情報に含まれる潜在情報と顕在情報とを提示させることが可能であってもよい。
あるいは、実施形態2の運転支援装置210が、上述の実施形態1の変形例4,7等と同様、ECU20または外部サーバ90等に運転支援情報が出力可能に構成されていてもよい。
実施形態2の運転支援装置210によれば、予測誤差に加えて運転者の視線の向きにも基づいて運転者の注意状態を推定する。これにより、より高精度に運転者の注意状態を推定し、より適切な情報を運転者に提示することができる。
実施形態2の運転支援装置210によれば、車両104の進行方向を撮像した画像内の複数領域のうち、運転者が視線を向けている領域の予測誤差と、任意の領域の予測誤差と、に基づいて注意の惹かれやすさを推定する。
これにより、例えば予測誤差が高い領域であっても、運転者の注意状態に偏りがない場合には、不要な情報提示を行わないこととすることができる。
実施形態2の運転支援装置210によれば、その他、上述の実施形態1の運転支援装置10と同様の効果を奏する。
[実施形態3]
実施形態3について図面を用いて説明する。実施形態3においては、運転支援装置が運転者の熟練度も考慮に入れて運転支援情報を生成する点が、上述の実施形態1とは異なる。
図53は、実施形態3にかかる運転支援装置310の機能構成の一例を周辺機器とともに示すブロック図である。
図53に示すように、実施形態3の車両300には、上述の実施形態1の運転支援装置10に替えて、実施形態3の運転支援装置310が搭載されている。
運転支援装置310は、上述の実施形態1の運転支援装置10の構成に加えて、視線推定部140、及び運転者の熟練度を判定する運転者熟練度判定部150を備え、また、上述の実施形態1の運転者注意状態推定部120に替えて、予測誤差演算部110、視線推定部140、及び運転者熟練度判定部150から情報を取得して、運転者の注意状態を推定する運転者注意状態推定部320を備えている。
運転者熟練度判定部150は、例えばECU20が検出装置40(図1参照)から取得した各種検出結果に基づいて、運転者の熟練度を判定する。検出装置40の各種検出結果からは、その運転者による車両104の運転操作の状況を知ることができる。よって、例えば急ハンドル、急発進、急停車が多い等の検知結果から、その運転者の熟練度が低いと推定することが可能である。
運転者注意状態推定部320は、上述の実施形態2の運転者注意状態推定部220と同様、複数領域における予測誤差に基づく運転者の注意状態の不適正度合いの高低、及び視線推定部140が推定した運転者の視線の向きに基づいて、複数領域に対する運転者の注意状態をそれぞれ推定する。
このとき、運転者注意状態推定部320は、運転者の熟練度に応じて、運転者の注意状態を推定する際の複数領域における注意状態指標の閾値を変更する。すなわち、運転者注意状態推定部320は、運転者の熟練度が低い場合には注意状態指標の閾値を低く設定する。また、運転者注意状態推定部320は、運転者の熟練度が高い場合には注意状態指標の閾値を高く設定する。
運転者注意状態推定部320による、このような設定は、熟練度が低い運転者は、熟練度が高い運転者に比べて、予測誤差の大きな領域に視線を向ける傾向がより高いことに基づく。
図54は、実施形態3にかかる運転支援装置310が行う運転支援処理の手順の一例を示すフロー図である。なお、図54に示す処理のうち、ステップS102,S103が、上述の実施形態2の図52に示す処理から新たに加わった処理である。
図54に示すように、実施形態3の運転支援装置310が備える視線推定部140は、車内向けカメラ42が撮像した運転者の顔画像から、運転者が視線を向けた先を推定する(ステップS101)。また、運転者熟練度判定部150は、ECU20から検出装置40の検出結果を取得し、これらの検出結果に基づいて運転者の熟練度を判定する(ステップS102)。
運転者注意状態推定部320は、運転者熟練度判定部150の判定結果に基づいて、予測誤差および運転者の視線等から算出される注意状態指標の閾値の設定を変更する(ステップS103)。
運転者の熟練度が低いと判定された場合、運転者注意状態推定部320は、閾値TH31、閾値TH31よりも大きい閾値TH32、閾値TH32よりも大きい閾値TH33を設定する。運転者の熟練度が高いと判定された場合、運転者注意状態推定部320は、閾値TH31よりも大きい閾値TH34、閾値TH32,TH34よりも大きい閾値TH35、閾値TH33,TH35よりも大きい閾値TH36を設定する。
また、運転者注意状態推定部220は、車外向けカメラ41が撮像した画像を複数領域に分割し(ステップS110)、それぞれについて予測誤差を算出する(ステップS120)。
また、運転者注意状態推定部220は、運転者の熟練度に基づいて設定した閾値TH31~TH33、または閾値TH34~TH36に応じて、予測誤差と運転者の視線とから算出した注意状態指標を振り分け(ステップS130,S140,S150)、これらの注意状態指標に基づいて運転者の注意状態を推定する(ステップS132,S142,S152)。
出力制御部130は、運転者注意状態推定部220の推定結果に基づいて、潜在情報の提示の態様ST1~ST3を選択する(ステップS133,S143,S153)。
実施形態3の運転支援装置310は、全ての領域について上記処理を繰り返し(ステップS160:No)、全ての領域の処理が終了した後(ステップS160:Yes)、生成した運転支援情報をHMI制御装置30に出力する(ステップS170)。
以上により、実施形態3の運転支援装置310による運転支援処理が終了する。
なお、実施形態3の運転支援装置310によって、上記のようにHMI制御装置30に出力された運転支援情報に含まれる情報は、例えば上述の実施形態1及び変形例1~3で説明した種々の態様で情報提示装置60によって提示されることができる。
このとき、実施形態3の運転支援装置310が、上述の実施形態1の変形例5,6等と同様、顕在情報演算部111、TTC演算部112等を備えることにより、運転支援情報に含まれる潜在情報と顕在情報とを提示させることが可能であってもよい。
あるいは、実施形態3の運転支援装置310が、上述の実施形態1の変形例4,7等と同様、ECU20または外部サーバ90等に運転支援情報が出力可能に構成されていてもよい。
実施形態3の運転支援装置310によれば、予測誤差に加えて運転者の運転の熟練度にも基づいて運転者の注意状態を推定する。これにより、個々の運転者に応じて、より高精度に注意状態を推定することができる。
実施形態3の運転支援装置310によれば、運転者の熟練度が低い場合には、複数領域のうち注意状態指標がいずれかの閾値TH31~TH33より大きい領域を抽出し、運転者の熟練度が高い場合には、複数領域のうち注意状態指標がいずれかの閾値TH34~TH36を超える領域を抽出する。
これにより、運転者の熟練度に応じて、運転者の注意状態の不適正度合い検知を行うことができる。よって、個々の運転者に応じて、適切な情報提示を行うことができる。
なお、上述の実施形態3では、運転支援装置310が視線推定部140を備えることとした。しかし、運転支援装置310は、視線推定部140を備えていなくともよく、その場合、実施形態3の運転支援装置310は、実施形態1の運転支援装置10の処理に加えて、運転者の熟練度に応じた閾値の設定切り替え処理を行う構成であってもよい。
また、上述の実施形態1~3及び変形例1~7では、運転支援装置10,210,310等が、例えば3つの閾値に基づいて予測誤差等から算出される指標の高低を判定することとした。しかし、このような指標について設定される閾値は、2つ以下であってもよく、または4つ以上であってもよい。
また、上述の実施形態1~3及び変形例1~7では、運転支援装置10,210,310等が、例えばECU等の1つの装置として構成されているものとした。しかし、複数の装置を組み合わせて構成される運転支援システムによって、上述の実施形態1~3及び変形例1~7で説明した機能が実現されてもよい。この場合、一部機能を実現する装置が、車両外に設けられていてもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。