こうした車両用運転支援システムにおいては、ドライバー個々の視覚能力について考慮されていない。例えば、共通の風景を複数のドライバーが見た場合、各ドライバーによって、その風景を視覚する能力が異なっている。また、ドライバーの視野内においても相対的に視覚能力の高い領域と視覚能力の低い領域とが存在し、そうした領域の分布もドライバーによって異なる。このため、同じ状況下において、あるドライバーにとっては良好に認識できる障害物であっても、他のドライバーにとっては、その障害物を見落としてしまうことがある。
本発明は、上記課題を解決するためになされたものであり、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができるようにすることを目的とする。
上記目的を達成するために、本発明の特徴は、
自車両の前方の外界を撮影する撮影手段(21)と、
前記自車両のドライバーの視線の方向を検出する視線検出手段(11,22)と、
ドライバー個々における、ドライバーが外界を視覚する能力に影響する眼の特性である個人眼特性を取得する個人眼特性取得手段(15,23)と、
前記撮影手段による撮影によって得られた外界画像と、前記視線検出手段によって検出された前記ドライバーの視線の方向と、前記個人眼特性取得手段によって取得された個人眼特性とに基づいて、ドライバーの視野内における位置とドライバーの見落としやすさの指標となる見落とし危険度とを対応付けた見落とし危険度マップを演算するマップ演算手段(12,13,14)と
を備え、前記マップ演算手段によって演算された見落とし危険度マップを表す情報を出力することにある。
本発明のドライバー視覚情報提供装置は、撮影手段と、視線検出手段と、個人眼特性取得手段と、マップ演算手段とを備えている。撮影手段は、自車両の前方の外界を撮影する。視線検出手段は、ドライバーの視線の方向を検出する。ドライバーの視線の方向は、例えば、ドライバーの頭部の運動、眼球の運動等を検出することにより求めることができる。
個人眼特性取得手段は、ドライバー個々における、ドライバーが外界を視覚する能力に影響する眼の特性である個人眼特性を取得する。個人眼特性は、例えば、眼科医院等で測定された、眼鏡あるいはコンタクトレンズを含むドライバーの眼光学系特性、あるいは、ドライバーの網膜の視野欠損領域などを表す網膜特性などを用いることができる。個人眼特性取得手段は、例えば、ドライバーの個人眼特性を入力して記憶する記憶装置などを用いることができる。
マップ演算手段は、撮影手段による撮影によって得られた外界画像と、視線検出手段によって検出されたドライバーの視線の方向と、個人眼特性取得手段によって取得された個人眼特性とに基づいて、ドライバーの視野内における位置とドライバーの見落としやすさの指標となる見落とし危険度とを対応付けた見落とし危険度マップを演算する。従って、この見落とし危険度マップによって、ドライバーの視野内における見落としやすい方向を把握することができる。また、見落とし危険度とは、見落としやすさを表す指標を二段階以上(複数段階)で表した情報である。
ドライバー視覚情報提供装置は、マップ演算手段によって演算された見落とし危険度マップを表す情報を出力する。従って、ドライバー視覚情報提供装置から出力された情報を取得することによって、ドライバーが、外界をどのように視覚しているかを表す外界視覚状況を逐次把握することができる。例えば、車両に搭載された車両用運転支援装置等に、この見落とし危険度マップを表す情報を入力することによって、ドライバー個々の外界視覚状況に応じた、障害物に対する注意喚起を行うことができる。
このドライバー視覚情報提供装置は、車載装置(例えば、車両用運転支援装置)内に組み込まれていてもよいし、車載装置とは別体に設けられ、車載装置に対して見落とし危険度マップを表す情報を送信するように設けられていてもよい。
本発明の一側面の特徴は、
前記マップ演算手段は、
前記撮影手段による撮影によって得られた外界画像と、前記視線検出手段によって検出されたドライバーの視線の方向と、前記個人眼特性取得手段によって取得された個人眼特性とに基づいて、ドライバーの網膜に投影される外界の映像である網膜投影像を推定する網膜投影像推定手段(12)と、
網膜視細胞を配列したモデルである網膜視細胞配列モデルを用いて、前記網膜投影像推定手段によって推定された網膜投影像が、前記網膜視細胞配列モデルに投影されたときに、前記網膜視細胞配列モデルの反応によって得られる映像である網膜出力像を推定する網膜出力像推定手段(13)と、
前記網膜出力像全体にわたって、前記網膜出力像内における予め設定された広さの局所領域ごとの情報量を算出することにより、ドライバーの視野内における位置と、前記情報量が少なくなるほど高くなる前記見落とし危険度とを対応付けた見落とし危険度マップを演算する局所領域情報量演算手段(14)と
を備えたことにある。
この場合、前記個人眼特性取得手段(15)は、眼鏡あるいはコンタクトレンズを含むドライバーの眼光学系特性を取得するように構成されるとよい。
本発明の一側面においては、網膜投影像推定手段が、外界画像とドライバーの視線の方向と個人眼特性とに基づいて、ドライバーの網膜に投影される外界の映像である網膜投影像を推定する。従って、この網膜投影像は、ドライバー個々の眼光学系特性が反映されている。網膜モデル出力像推定手段は、網膜視細胞を配列したモデルである網膜視細胞配列モデルを用いて、網膜投影像推定手段によって推定された網膜投影像が、網膜視細胞配列モデルに投影されたときに、網膜視細胞配列モデルの反応によって得られる映像である網膜出力像を推定する。
この網膜視細胞配列モデルとしては、例えば、網膜を構成する視細胞(錐体細胞(赤錐体、緑錐体、青錐体)および桿体細胞)を人間の網膜と同じように配列した網膜のモデルを用いることができる。従って、網膜視細胞配列モデルに網膜投影像が投影された場合における、網膜視細胞配列モデルの網膜投影像に応じた反応(信号)を推定することができる。これにより、ドライバーの個人眼特性に応じた網膜出力像が得られる。
局所領域情報量演算手段は、網膜出力像全体にわたって、網膜出力像内における予め設定された広さの局所領域ごとの情報量を算出する。この情報量は、例えば、各局所領域内の画像中に含まれる画素値の割合を用いた関数にて求められ、画素値の正規化階調分布が拡がっている画像ほど大きな値となる。局所領域情報量演算手段は、算出された各局所領域における情報量に基づいて、ドライバーの視野内における位置と、情報量が少なくなるほど高くなる見落とし危険度とを対応付けた見落とし危険度マップを演算する。この結果、本発明の一側面によれば、個々のドライバーの視覚状態を適正に表した見落とし危険度マップを演算することができる。
また、本発明の一側面によれば、眼鏡あるいはコンタクトレンズを含むドライバーの眼光学系特性に応じた見落とし危険度マップが演算されるため、ドライバーが眼鏡あるいはコンタクトレンズを装着している場合であっても、その状態でのドライバーの視覚状態を適正に表した見落とし危険度マップを演算することができる。
本発明の一側面の特徴は、
前記マップ演算手段は、
前記撮影手段による撮影によって得られた外界画像と、前記視線検出手段によって検出されたドライバーの視線の方向とに基づいて、ドライバーの網膜に投影される外界の映像である網膜投影像を推定する網膜投影像推定手段(12)と、
網膜視細胞を配列したモデルであって、前記個人眼特性取得手段によって取得された個人眼特性に応じて設定される網膜視細胞配列モデルを用いて、前記網膜投影像推定手段によって推定された網膜投影像が、前記網膜視細胞配列モデルに投影されたときに、前記網膜視細胞配列モデルの反応によって得られる映像である網膜出力像を推定する網膜出力像推定手段(13)と、
前記網膜出力像全体にわたって、前記網膜出力像内における予め設定された広さの局所領域ごとの情報量を算出することにより、ドライバーの視野内における位置と、前記情報量が少なくなるほど高くなる前記見落とし危険度とを対応付けた見落とし危険度マップを演算する局所領域情報量演算手段(14)と
を備えたことにある。
この場合、前記個人眼特性取得手段は、ドライバーの網膜特性を取得するように構成されるとよい。
本発明の一側面によれば、網膜視細胞配列モデルが、ドライバー個々における網膜特性に応じて設定される。これにより、例えば、視野欠損領域などを表す網膜特性を見落とし危険度マップに反映させることができる。従って、本発明の一側面によれば、網膜疾患のあるドライバーに対しても、個々のドライバーの視覚状態を適正に表した見落とし危険度マップを演算することができる。
本発明の一側面の特徴は、
前記マップ演算手段は、
前記撮影手段による撮影によって得られた外界画像と、前記視線検出手段によって検出されたドライバーの視線の方向と、前記個人眼特性取得手段によって取得された個人眼特性とに基づいて、ドライバーの網膜に投影される外界の映像である網膜投影像を推定する網膜投影像推定手段(12)と、
網膜視細胞を配列したモデルであって、前記個人眼特性取得手段によって取得された個人眼特性に応じて設定される網膜視細胞配列モデルを用いて、前記網膜投影像推定手段によって推定された網膜投影像が、前記網膜視細胞配列モデルに投影されたときに、前記網膜視細胞配列モデルの反応によって得られる映像である網膜出力像を推定する網膜出力像推定手段(13)と、
前記網膜出力像全体にわたって、前記網膜出力像内における予め設定された広さの局所領域ごとの情報量を算出することにより、ドライバーの視野内における位置と、前記情報量が少なくなるほど高くなる前記見落とし危険度とを対応付けた見落とし危険度マップを演算する局所領域情報量演算手段(14)と
を備えたことにある。
この場合、個人眼特性取得手段は、眼鏡あるいはコンタクトレンズを含むドライバーの眼光学系特性、および、ドライバーの網膜特性を取得し、
前記網膜投影像推定手段は、前記ドライバーの眼光学系特性に基づいて前記網膜投影像を推定し、
前記網膜出力像推定手段は、前記網膜特性に応じた前記網膜視細胞配列モデルを設定するように構成されるとよい。
本発明の一側面によれば、ドライバーの眼光学系特性が網膜投影像の推定に反映され、ドライバーの網膜特性が網膜出力像の推定に反映される。これにより、ドライバーの眼光学系特性および網膜特性を、見落とし危険度マップに反映させることができる。従って、本発明の一側面によれば、個々のドライバーの視覚状態を更に適正に表した見落とし危険度マップを演算することができる。
本発明の一側面の特徴は、
ドライバーの瞳孔の大きさを検出する瞳孔検出手段(11)を備え、
前記網膜投影像推定手段(12)は、前記瞳孔の大きさを考慮して前記網膜投影像を推定するように構成されたことにある。
本発明の一側面によれば、瞳孔の大きさ(瞳孔径)を考慮して、網膜投影像が演算されるため、一層適正な見落とし危険度マップを演算することができる。
本発明は、ドライバー視覚情報提供装置に限らず、ドライバー視覚情報提供装置を備えた車両運転支援システムに適用することもできる。
この場合、本発明の車両運転支援システムの特徴は、
前記自車両の前方に存在する障害物の位置に関する障害物情報を取得する障害物情報取得手段(16)と、
前記障害物情報取得手段によって取得された障害物情報と前記ドライバー視覚情報提供装置から出力された見落とし危険度マップを表す情報とに基づいて、ドライバーに対して前記障害物の存在を通知する注意喚起手段(17)と
を備えたことにある。
本発明においては、障害物情報取得手段が、自車両の前方に存在する障害物の位置に関する障害物情報を取得する。この場合、例えば、障害物情報取得手段は、撮影手段による撮影によって得られた外界画像に基づいて、障害物を認識し、その障害物の自車両に対する相対位置情報を取得するとよい。
注意喚起手段は、障害物情報と見落とし危険度マップを表す情報とに基づいて、ドライバーに対して障害物の存在を通知する。従って、本発明によれば、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができる。つまり、ドライバーが見落としていると推定される障害物に対して注意喚起を行うことができる。
本発明の一側面の特徴は、
前記注意喚起手段は、前記見落とし危険度が閾値よりも高い視野領域に入っている障害物についてのみ(S12:Yes)、その存在をドライバーに通知するように構成されたことにある。
本発明の一側面によれば、見落とし危険度が閾値よりも高い視野領域に入っている障害物についてのみ、その存在がドライバーに通知される。従って、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができ、ドライバーが認識している障害物について不要な注意喚起が行われることを低減することができる。
本発明の一側面の特徴は、
前記注意喚起手段は、予め設定された注意喚起条件が成立したときに障害物の存在をドライバーに通知するように構成され、前記見落とし危険度が閾値よりも高い視野領域に入っている障害物に対する前記注意喚起条件(S141)が、前記見落とし危険度が前記閾値以下の視野領域に入っている障害物に対する前記注意喚起条件(S142)に比べて、ドライバーに対して障害物の存在が通知されやすくなるように設定されていることにある。
本発明の一側面によれば、予め設定された注意喚起条件が成立したときに、障害物の存在がドライバーに通知される。この注意喚起条件は、見落とし危険度が閾値よりも高い視野領域に入っている障害物と、見落とし危険度が閾値以下の視野領域に入っている障害物とで相互に異なっている。具体的には、見落とし危険度が閾値よりも高い視野領域に入っている障害物に対する注意喚起条件が、見落とし危険度が閾値以下の視野領域に入っている障害物に対する注意喚起条件に比べて、ドライバーに対して障害物の存在が通知されやすくなるように設定されている。このため、ドライバーが見落としやすい障害物については、注意喚起が行われやすく、ドライバーが見落としにくい障害物については、注意喚起が行われにくくなっている。従って、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができ、ドライバーが認識している障害物についての不要な注意喚起が行われることを低減することができる。
注意喚起条件は、例えば、現時点から自車両と障害物とが衝突すると予測される時刻までの時間である衝突予測時間が設定時間よりも短くなったこと、あるいは、自車両に衝突するおそれのある障害物と自車両との距離が設定距離よりも短くなったことなど、任意に設定することができる。この場合、例えば、衝突予測時間を注意喚起条件に用いる場合には、見落とし危険度が閾値よりも高い視野領域に入っている障害物に対する設定時間を、見落とし危険度が閾値以下の視野領域に入っている障害物に対する設定時間よりも長くすればよい。また、障害物と自車両との距離を注意喚起条件に用いる場合には、見落とし危険度が閾値よりも高い視野領域に入っている障害物に対する設定距離を、見落とし危険度が閾値以下の視野領域に入っている障害物に対する設定距離よりも長くすればよい。これにより、ドライバーが見落としやすい障害物については、注意喚起が行われやすくなり(早めに注意喚起が行われるようになり)、ドライバーが見落としにくい障害物については、注意喚起が行われにくくなる。
本発明の一側面の特徴は、
前記注意喚起手段は、前記見落とし危険度が閾値よりも高い視野領域に入っている障害物の存在をドライバーに通知する注意喚起態様(S151)が、前記見落とし危険度が前記閾値以下の視野領域に入っている障害物の存在をドライバーに通知する注意喚起態様(S152)に比べて、ドライバーへの注意喚起力が大きくなるように構成されていることにある。
本発明の一側面によれば、見落とし危険度が閾値よりも高い視野領域に入っている障害物の存在をドライバーに通知する場合には、見落とし危険度が閾値以下の視野領域に入っている障害物の存在をドライバーに通知する場合に比べて、ドライバーへの注意喚起力が大きくなる。このため、ドライバーが見落としやすい障害物については、強い注意喚起が行われる。一方、ドライバーが見落としにくい障害物については、軽い注意喚起が行われる、あるいは、注意喚起が行われない。このため、ドライバーが障害物を認識している場合に注意喚起が行われたとしても、ドライバーの感じる煩わしさは少なくて済む。従って、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができる。
上記説明においては、発明の理解を助けるために、実施形態に対応する発明の構成要件に対して、実施形態で用いた符号を括弧書きで添えているが、発明の各構成要件は、前記符号によって規定される実施形態に限定されるものではない。
以下、本発明の実施形態について図面を用いて詳細に説明する。図1は、本実施形態の車両用運転支援システム1の概略構成図である。
車両用運転支援システム1は、支援ECU10を備えている。ECUは、Electric Control Unitの略である。本明細書において、この車両用運転支援システムが搭載された車両を、他車両と区別する必要がある場合には、「自車両」と呼ぶ。
支援ECU10は、第1カメラ21と、第2カメラ22と、入力部23と、報知器24とに接続されている。第1カメラ21は、車体に固定され、自車両の前方の外界を所定の短い周期で撮影し、撮影によって得られた外界画像を支援ECU10に出力する。第1カメラ21は、本発明の撮影手段に相当する。第2カメラ22は、ドライバーの頭部に装着固定され、ドライバーの顔を所定の短い周期で撮影し、撮影によって得られたドライバーの顔画像を支援ECU10に出力する。また、第2カメラ22には、図示しないジャイロ・加速度センサーが内蔵されており、ジャイロ・加速度センサーによって検出したドライバーの頭部の運動状態を表す情報を支援ECU10に出力する。入力部23は、自車両を運転するドライバーの固有の眼特性(個人眼特性と呼ぶ)を表すデータを入力する装置である。入力部23は、入力された個人眼特性を支援ECU10に出力する。
報知器24は、表示器24a、および、スピーカ24b(ブザーでもよい)を備えており、支援ECU10によって駆動され、ドライバーに対して注意喚起を与える装置である。表示器24aとしては、ヘッドアップディスプレイ(HUD)が用いられる。以下、表示器24aをHUD24aと呼ぶ。HUD24aは、自車両内の各種ECUおよびナビゲーション装置からの表示情報を受信し、その表示情報を自車両のフロントガラスの一部の領域(表示領域)に映し出す。支援ECU10は、後述する注意喚起対象物が検知されたときに、注意喚起用表示情報をHUD24aに送信する。これにより、HUD24aは、表示領域の一部を使って、注意喚起用アイコンを表示する。また、支援ECU10は、HUD24aへの注意喚起用表示情報を送信するときにスピーカ24bを駆動してドライバーに注意喚起する。
尚、表示器24aとしては、HUDに限るものでは無く、インストルメントパネルに設けられたメータディスプレイ等を用いてもよい。
支援ECU10は、マイクロコンピュータを主要部として備えている。マイクロコンピュータは、CPUとROM及びRAM等の記憶装置を含み、CPUはROMに格納されたプログラムを実行することにより各種機能を実現するようになっている。
支援ECU10は、そのマイクロコンピュータの機能に着目すると、ドライバー視覚情報提供部10aと注意喚起部10bとに大別される。この場合、支援ECU10は、例えば、ドライバー視覚情報提供部10aを備えたECUと、注意喚起部10bを備えたECUとを別々に備え、それらを組み合わせて構成されるなど、複数のECUによって構成されていてもよい。
ドライバー視覚情報提供部10aは、視線方向・瞳孔径検出部11と、網膜投影像推定部12と、網膜出力像推定部13と、局所領域情報量演算部14と、個人眼特性記憶部15とを備えている。注意喚起部10bは、障害物検出部16と、注意喚起制御部17とを備えている。各機能部11〜17は、それぞれ所定の短い演算周期にて、以下の処理を繰り返し実施する。
視線方向・瞳孔径検出部11は、第2カメラ22で撮影されたドライバーの顔を表すドライバー顔画像を解析して、例えば、ドライバーの眼球の運動と、瞳孔の輪郭とを検出する。また、視線方向・瞳孔径検出部11は、第2カメラ21に内蔵されたジャイロ・加速度センサーの検出信号に基づいて、ドライバーの顔(首から上の頭部)の運動を検出する。視線方向・瞳孔径検出部11は、ドライバー顔画像から瞳孔の輪郭を抽出し、この輪郭から瞳孔の中心位置および瞳孔径を算出する。また、視線方向・瞳孔径検出部11は、ドライバーの眼の輪郭(上瞼、下瞼で囲まれる目の輪郭)と瞳孔の中心位置との相対関係から、眼球の回転角度を算出する。
視線方向・瞳孔径検出部11は、ドライバーの瞳孔の中心位置、ドライバーの眼球の回転角度、および、ドライバーの顔の向き(角度)等に基づいて、ドライバーの視線方向(視線位置と呼ぶこともできる)を算出する。視線方向・瞳孔径検出部11は、上記のようにして算出したドライバーの視線方向および瞳孔径を表す情報を網膜投影像推定部12に出力する。尚、ドライバーの視線方向および瞳孔径の検出については、従来から種々の手法が知られているので、それらの手法を任意に採用することができる。また、本実施形態においては、第2カメラ22は、ドライバーの頭部に装着されるが、それに代えて、車両に固定して設けられていてもよい。また、ドライバーの頭部の運動については、ジャイロ・加速度センサーに代えて、例えば、車両に固定したカメラでドライバーの頭部を撮影し、その撮影画像から検出するようにしてもよい。
第2カメラ22と視線方向・瞳孔径検出部11とからなる構成は、本発明の視線検出手段に相当する。
網膜投影像推定部12は、外界画像io(x,y,h,t)からドライバーの網膜に投影される映像である網膜投影像ir(x,y,h,t)を演算により推定する機能部である。ここで、x,yは、映像(画像)の横座標位置,縦座標位置を表し、tは、時間を表す。また、hは、外界画像の色成分h={r,g,b}である。外界画像io(x,y,h,t)は、第1カメラ21から出力される画像を表す。網膜投影像ir(x,y,h,t)は、外界画像io(x,y,h,t)と、ドライバーの視線の方向、ドライバーの瞳孔径、および、ドライバーの眼光学系特性とによって決定される。
眼光学系特性は、ドライバーが眼鏡あるいはコンタクトレンズ(これらを補助レンズと呼ぶ)を装着しない場合には、ドライバーの眼球の光学特性であり、ドライバーが補助レンズを装着する場合には、ドライバーの眼球と補助レンズとからなる光学系の光学特性である。
網膜投影像推定部12は、瞳関数を用いて網膜投影像ir(x,y,h,t)を演算する。この網膜投影像ir(x,y,h,t)は、ドライバーの左右眼についてそれぞれ個々に演算される。
瞳関数PF(x,y,t)は、次式(1)によって表される。
ここで、S(x,y,t)は、xy平面内における瞳孔の二次元形状を表し、瞳孔の二次元形状を円と仮定すると、瞳孔半径内に位置する場合には値1に、瞳孔円外に位置する場合には値0に設定される。また、λは、ドライバーの光学系を通過する光の波長を表す。
ドライバーの光学系を通過する光の波長λは、様々な単波長が混ざり合ったものであるため、映像から全ての波長を算出することは不可能である。そこで、本実施形態においては、国際照明委員会(CIE)の定めたxy色度図(CIExy色度図)を用いて画素毎に、単波長を求め、その単波長を上記(1)式におけるλとする。この場合、CIExy色度図に示される領域の周囲が単色光(単波長)となり、領域の中央部が無彩色となる。このCIExy色度図に示される領域の周囲を単波長曲線と呼ぶ。本実施形態においては、CIExy色度図において、無彩色となる点と、画素値(R,G,B)の色座標(x,y)を表す点とを結んだ直線が、単波長曲線と交差する交点を求める。色座標(x,y)は、この交点の単波長の色と無彩色との混合色と考えることができる。従って、この交点で特定される単色光の波長を、上記(1)式のλとして用いる。
網膜投影像推定部12は、視線方向・瞳孔径検出部から出力されたドライバーの視線方向および瞳孔径を表す情報に基づいて、外界画像io(x,y,h,t)において瞳孔円内となる範囲、つまり、S(x,y,t)を設定する。
式(1)において、W(x,y)はドライバー個人の眼球の波面収差を表す。ドライバー個人の眼光学系特性は、波面収差に反映される。波面収差W(x,y)は、個人眼特性記憶部15に記憶されている。
通常、Hartmann-Shackセンサー等、補償光学技術により測定された波面収差は、次式(2)のようなZernike多項式で近似表現される。
ここで、Zは、Zernike多項式の各項、r(≦1)は極座標の半径、θは回転角である。また、nは放射方向の次数、mは回転方向の次数である(n≧m)。これらのZernike項の線形和として光学系の波面収差W(x,y)は、次式(3)のように再構成される。
ここで、Cn,mは、Zernike多項式各項の係数である。尚、本実施形態においては、波面収差は、時間に対して変化しないものとしているが、ドライバーの見ている物体までの距離の変化(焦点位置の変化)に合わせて波面収差を変化させる場合には、時間要素を含めたW(x,y,t)とすることもできる。
個人眼特性記憶部15には、ドライバーの個人眼特性として、Zernike項の係数Cn,mに相当するデータが記憶されている。
ドライバーの眼光学特性を表す光学系伝達関数OTF(fx,fy,t)は、瞳関数PF(x,y,t)を使って、次式(4)によって表すことができる。
ここで、fxは、x方向の空間周波数を表し、fyは、y方向の空間周波数を表す。また、F2は、2次元フーリエ変換関数を表す。F2 -1は、2次元フーリエ逆変換関数を表す。
外界画像io(x,y,h,t)をRGBの3成分に分けて表現した各画像を、ior=io(x,y,r,t)、iog=io(x,y,g,t)、iob=io(x,y,b,t)とし、これらの2次元フーリエ変換をそれぞれIOr,IOg,IObとすると、ドライバーの光学系を通過した後に網膜に投影される網膜投影像ir(x,y,h,t)は、次式(5)にて表すことができる。
網膜投影像推定部12は、このようにして、各ピクセルがRGB値で表現された外界画像io(x,y,h,t)から、各フレームごとに、同じRGB値で表現される網膜投影像ir(x,y,h,t)を演算する。
この網膜投影像推定部12は、本発明の網膜投影像推定手段に相当する。
個人眼特性記憶部15は、不揮発性メモリであって、ドライバーの個人眼特性を記憶している。ユーザーは、眼科医院等において測定されたドライバーの眼光学系の波面収差を表すデータ(係数Cn,mに相当するデータ)を、入力部23を介して個人眼特性記憶部15に記憶させる。この個人眼特性は、ドライバーが補助レンズを装着して運転する場合には、ドライバーの眼球と補助レンズとからなる光学系の光学特性である。この場合、ドライバーの眼球と補助レンズとを合成した光学特性を入力してもよいし、それらの個々の光学特性を入力してもよい。
網膜投影像推定部12は、この個人眼特性記憶部15に記憶されたデータを読み込んで、網膜投影像ir(x,y,h,t)を演算する。尚、データ(個人眼特性)の入力にあたっては、データを記憶した記憶媒体を入力部23に接続して入力部23がそのデータを読み込むようにしてもよいし、ユーザーがマニュアル操作で入力部23にデータ入力してもよいし、外部の無線通信装置から送信されたデータを入力部23で受信するようにしてもよく、任意の形態を採用することができる。
この入力部23と個人眼特性記憶部15とからなる構成は、本発明の個人眼特性取得手段に相当する。
図2は、乱視眼の波面収差を表す。図中において、濃い部分がマイナス強度となるエリア、薄い部分がプラス強度となるエリアを表す。乱視眼においては、受光面の位置によって強度が変化する。一方、正常眼では、波面収差が小さく、ほぼ受光面の全域において、強度が一定となる。図3は、網膜投影像を表し、(a)は正常眼の網膜投影像であり、(b)は乱視眼の網膜投影像である。この図からわかるように、正常眼に比べて波面収差の大きな乱視眼では、網膜投影像が不鮮明となる。尚、同じ波面収差を有する眼球であっても、瞳孔径が大きい場合には、小さい場合に比べて、網膜投影像が不鮮明となる。
網膜投影像推定部12は、演算した左右眼の網膜投影像ir(x,y,h,t)を網膜出力像推定部13に供給する。網膜出力像推定部13は、標準的な人の左右眼の網膜視細胞配列モデルを記憶している。この網膜視細胞配列モデルは、人間の網膜の解剖学的知見に従って、赤錐体、緑錐体、および、青錐体の3種類の錐体細胞と、桿体細胞とを配列して構成される。
図4(a)に示すように、錐体細胞は、中心窩に近いほど多く存在し、そのサイズは中心窩に近いほど小さい。錐体細胞の直径は、中心窩において約2μm、中心窩の外側20deg付近では約10μmである。一方、桿体細胞は、中心窩付近には殆ど存在せず、外側20degあたりに最も密に存在する。桿体細胞の直径は、中心窩から外側40degまでのあいだに存在するものでは約1.5μm、それより外側では約2.5μmである。また、鼻側15deg付近には視細胞が存在しない領域(盲点)が存在する。
網膜視細胞配列モデルは、こうした人間の網膜視細胞の空間配列特性を考慮して作成されている。この網膜視細胞配列モデルにおいては、最も小さい桿体細胞の1つが1×1ピクセルで表現され、外側20deg付近に位置する大きな錐体細胞の1つが5×5ピクセルで表現されている。また、他の位置の桿体細胞、および、錐体細胞についても、人間の網膜視細胞の大きさに合わせて表現するピクセル数が設定されている。
人間の眼球の直径を24mmとすると、視野角1degあたりのピクセル数は、約140[pix/deg]となる。本実施形態においては、網膜視細胞配列モデルは、視野角±80degの範囲で作成されている。この場合、網膜視細胞配列モデルには、501,760,000(=140pix×160deg)2)ピクセルが含まれる。
図4(b)は、網膜視細胞配列モデル(灰色の円形領域)の視野角範囲を表した図であり、図4(c)は、網膜視細胞配列モデルにおける中心窩付近の網膜視細胞の配列を拡大して表した図であり、図4(d)は網膜視細胞配列モデルにおける中心窩から離れた位置の網膜視細胞の配列を拡大して表した図である。この例では、視細胞は、中心窩付近において、図4(c)に示すように、それぞれ1×1ピクセルの青錐体(図中において黒色)、赤錐体(図中において濃い灰色)、緑錐体(図中において薄い灰色)、および、桿体(図中において白色)により表現されている。また、中心窩から離れた位置として図4(d)に示す例では、視細胞は、それぞれ5×5ピクセルよりもやや小さな青錐体(図中において最も濃い灰色で表された部分)、赤錐体(図中において2番目に濃い灰色で表された部分)、および、緑錐体(図中において3番目に濃い灰色で表された部分)と、1×1ピクセルの桿体(図中において最も薄い灰色で表された部分)とにより表現されている。尚、図4(c),(d)において示した格子の1つが、1ピクセルに相当する。
人間の視細胞がフラッシュ状光を受光してから反応するまでの遅れ時間は、錐体細胞で約30ms、桿体細胞で約70msである。また、視細胞の反応が最大となるのは、錐体細胞で約100ms、桿体細胞で約200msである。従って、こうした反応特性に基づいて、視細胞のダイナミクス(インパルス応答)を式にすると、次式(6)、(7)のように表現することができる。
ここで、hcone(t)は錐体細胞のダイナミクス、hrod(t)は桿体細胞のダイナミクスを表す。ただし、hcone(t),hrod(t)は、図5に示すように、負の値をとらずに0に保持されるように設定されている。また、それぞれの積分値が1となるように正規化されている。
網膜出力像推定部13においては、各ピクセルがRGB値で表現された網膜投影像から赤錐体、緑錐体、および、青錐体の応答を演算するために、以下の変換式が用いられる。画像のRGB値(0〜255の値を持つ)から色座標XYZへの変換には、国際照明委員会(CIE)が定めた標準輝度D65(相関色温度が6504kで日光をシミュレートしたもの)を用いた次式(8)が用いられる。
ここで、RsRGB、GsRGB、BsRGBは、それぞれsRGB(standardRGB)におけるRGBの刺激値であって、次式(9)によって表される。
ここで、γはガンマ特性を補正するための指標ガンマ値を表し、例えば、γ=2.0,2.2,2.4などの値を用いることができる。
また、上記式(9)において、R’,G’,B’は、それぞれ、R’=(画素値R/255)、G’=(画素値G/255),B’=(画素値B/255)を表す。
更に、式(8)で演算された色座標XYZからL,M,S錐体(赤錐体、緑錐体、青錐体)の応答への変換には、Hunt−Pointerが2002年に提案した次式(10)で表されるXYZ−LMS変換式が用いられる。
網膜視細胞配列モデルは、網膜投影像と同じサイズ(ピクセル数)で表現される。網膜視細胞配列モデルにおいては、網膜投影像のある一つのピクセルのRGB値が上記式によりLMS値に変換されるが、これを受容する網膜視細胞配列モデルの対応要素(ピクセル)には、L,M,S錐体(赤錐体、緑錐体、青錐体)のいずれか、または、桿体が割り当てられている。この場合、例えば、赤錐体が割り当てられているピクセルでは、そのピクセルでのLMS値は、M=0,S=0とされ、緑錐体が割り当てられているピクセルでは、そのピクセルでのLMS値は、L=0,S=0とされ、青錐体が割り当てられているピクセルでは、そのピクセルでのLMS値は、L=0,M=0とされる。このように、RGB値から変換されたLMS値のうち、網膜視細胞配列モデルの要素に割り当てられたL,M,Sいずれかの錐体以外の応答は、0とされる。この場合、例えば、5×5ピクセルで1つの錐体を表現している領域では、網膜投影像における該当する25ピクセルの全てに対して同様の処理が行われ、それらの合計値が、その錐体における応答値とされる。
また、式(6)に示したL,M,S各錐体の応答ダイナミクスについては、次式(11)により表すことができる。
ここで、τは、現在時刻からの遅れ時間を表す。
一方、RGB値で表現された網膜投影像のうち、桿体で受容される部分の桿体応答については、以下のように計算することができる。まず、次式(12)に示すように、CCIRrec.601によって規定されるNTCS係数による加重平均法により輝度値Rod(x,y,t)の近似値を求める。
桿体応答は、明るいところでは飽和する。この飽和特性を表現するために、Rodについては、便宜的に、最大値255のところ40で飽和するものとしている。ただし、このようにすると桿体部分の画素値が錐体部分に比べて暗くなってしまう。そこで、同一光刺激に対し桿体は錐体の約2.5倍の膜電位変化を生じることから、上記40で飽和させたRodの出力も2.5倍することとしている。式(7)に示した桿体の応答ダイナミクスについても、式(13)により表すことができる。
網膜出力像推定部13は、網膜投影像が網膜視細胞配列モデルに投影されたときの、網膜視細胞配列モデルの時間応答をRGB値で表現した網膜視細胞配列空間標本化像(以下、網膜出力像と呼ぶ)を演算により求める。この場合、網膜出力像推定部13は、赤錐体の応答として、Ldの最大値が255になるようにLdを正規化した値であるLdxを演算し、赤錐体のRGB値を赤色の明暗で表現した[R=Ldx,G=0,B=0]に設定する。同様に、網膜出力像推定部13は、緑錐体の応答として、Mdの最大値が255になるようにMdを正規化した値であるMdxを演算し、緑錐体のRGB値を緑色の明暗で表現した[R=0,G=Mdx,B=0]に設定する。同様に、網膜出力像推定部13は、青錐体の応答として、Sdの最大値が255になるようにSdを正規化した値であるSdxを演算し、青錐体のRGB値を青色の明暗で表現した[R=0,G=0,B=Sdx]に設定する。
この網膜出力像推定部13は、本発明の網膜出力像推定手段に相当する。
尚、網膜視細胞配列モデルは、ドライバーの個々の網膜特性を反映させたものであってもよい。例えば、ユーザーは、個人眼特性記憶部15に、予め、ドライバー個人の左右眼の網膜特性を記憶させておく。網膜特性は、例えば、ハンフリー視野計の計測データ(所定視角間隔(例えば、6deg間隔)で視覚感度を計測して定量化された計測データ)を用いることができる。緑内障患者の場合には、網膜上での特定の領域において視覚感度の低い部分が存在する。従って、この網膜特性を個人眼特性記憶部15に記憶させておくことで、網膜に視野欠損が生じているドライバーに適した網膜視細胞配列モデルを作成することができる。この場合、網膜出力像推定部13は、ハンフリー視野計の計測データに基づいて、視覚感度の低い領域ほど応答値(RGB値)を小さくするように設定する視野細胞感度空間フィルタを用いて、網膜出力像を補正するようにすればよい。
また、詳細な計測データを用いなくても、大ざっぱに視野欠損領域がわかっている場合には、その視野欠損領域(例えば、上縁、右上縁、右縁、右下縁、下縁、左下縁、左縁、左上縁、中央、中央上側、中央右上側、中央右側、中央右下側、中央下側、中央左下側、中央左側、中央左上側など)を、ユーザーが入力部23を使って、複数領域にわたって選択できるようにしてもよい。この場合においても、網膜出力像推定部13は、視野欠損領域内の応答値が小さくなるように設定する視野細胞感度空間フィルタを用いて、網膜出力像を補正する。
あるいは、網膜出力像推定部13は、ドライバーの年齢に応じた標準的な網膜視細胞配列モデルを選択するように構成されていてもよい。この場合、例えば、網膜出力像推定部13は、年齢層ごとの標準的な網膜視細胞配列モデルを記憶しており、ユーザーが入力部23を介して個人眼特性記憶部15に記憶させたドライバーの年齢に基づいて、ドライバーの年齢に応じた標準的な網膜視細胞配列モデルを選択する。
あるいは、網膜出力像推定部13は、ドライバーの年齢に応じた視野細胞感度空間フィルタを選択するように構成されていてもよい。この場合、例えば、網膜出力像推定部13は、年齢層ごとの視野細胞感度空間フィルタを複数記憶しており、ユーザーが入力部23を介して個人眼特性記憶部15に記憶させたドライバーの年齢に基づいて、ドライバーの年齢に応じた視野細胞感度空間フィルタを選択する。
図6は、外界画像(a)と、その外界画像から演算された網膜出力像(b)の一例を表す。
網膜出力像推定部13は、演算した左右眼の網膜出力像を局所領域情報量演算部14に供給する。局所領域情報量演算部14は、網膜出力像を所定の視野角(本実施形態では、上下、左右方向に2deg)で区画した正方形の領域A(局所領域Aと呼ぶ)ごとに、その局所領域Aの有する情報量(エントリピー)である局所領域情報量Hを演算する。局所領域情報量Hは、次式(14)により演算される。
ここで、Lは階調数、fは画素値、P(f)は、画像中に含まれる画素値の割合を表す。図7に、外界画像局所量域正規化階調分布の一例を表す。この例では、P(f)を式(14)に代入することにより、局所領域情報量Hは、H=7.3291となる。局所領域情報量Hは、正規化階調分布が拡がっている画像(特定の画素値に集中しない画像)ほど大きな値となる。この画素値fは、網膜出力像におけるRGB値に相当する。
局所領域情報量演算部14は、図8に示すように、網膜出力像上で、局所領域A(2deg×2degの正方形領域)を0.25degずつ横方向にスライドさせつつ、各スライド位置ごとの局所領域Aにおける局所領域情報量Hを演算する。局所領域情報量演算部14は、演算した各局所領域Aの局所領域情報量Hを、その局所領域Aの中心点AOにおける画像情報量として取り扱う。局所領域情報量演算部14は、網膜出力像の横方向全体にわたる局所領域情報量Hの演算(サンプリング)が終了すると、局所領域Aを0.25degずつ縦方向にスライドさせた位置で同様の処理を繰り返す。こうして、局所領域情報量演算部14は、網膜出力像の全体にわたって、局所領域情報量Hを左右および上下に0.25degの間隔でサンプリングする。
こうしたサンプリングによって、見落とし危険度マップが作成される。見落とし危険度マップは、図9に示すように、左右および上下に視野角0.25degの間隔で、網膜出力像における各座標位置(x,y)と局所領域情報量Hとを対応付けた二次元マップである。局所領域情報量演算部14は、網膜出力像が切り替わるたびに(その周期は外界画像の撮影周期でもあり、網膜投影像が演算される演算周期でもある)、網膜出力像に対応した見落とし危険度マップを作成する。従って、時々刻々と変化する見落とし危険度マップが作成される。
この場合、局所領域情報量演算部14は、左眼の網膜出力像から演算される左眼見落とし危険度マップと、右眼の網膜出力像から演算される右眼見落とし危険度マップとを融合する(重ね合わせる)ことによって、両眼見落とし危険度マップ(以下、単に見落とし危険度マップと呼ぶ)を作成する。見落とし危険度マップは、例えば、左右の網膜出力像の座標位置を整合させた状態で、座標位置ごとに右眼見落とし危険度マップの局所領域情報量Hと左眼見落とし危険度マップの局所領域情報量HとにおけるOR情報によって作成される。つまり、左右両眼の危険度マップの局所領域情報量Hにおける大きい方の値が選択されて作成される。従って、左右両眼とも局所領域情報量Hが小さい場合には、見落とし危険度マップの局所領域情報量Hは小さい値となり、何れか片眼において局所領域情報量Hが大きい場合には、見落とし危険度マップの局所領域情報量Hは大きい値に設定される。尚、左右両眼において所望の局所領域情報量Hが得られている場合と、何れか片眼において所望の局所領域情報量Hが得られている場合とでは、前者の局所領域情報量Hを後者の局所領域情報量Hよりも大きくなるように補正する、あるいは、後者の局所領域情報量Hを前者の局所領域情報量Hよりも小さくなるように補正しても構わない。
見落とし危険度は、ドライバーの視野内に存在する物体の見落としやすさを表す指標であり、局所領域情報量Hが少なくなるほど高くなる。従って、見落とし危険度マップは、左右および上下に0.25degの間隔で、ドライバーの視野内における座標位置(x,y)と、見落とし危険度とを対応付けた二次元マップであると言い換えることができる。
図10〜図13は、外界画像(図6(a)に示す外界画像)から作成された見落とし危険度マップの例を表す。図中においては、濃淡によって見落とし危険度が表現されており、濃い領域ほど見落とし危険度が高い領域(換言すれば、局所領域情報量Hが少ない領域)として表現されている。図10,図11に示す例は、盲点を示すために、見落とし危険度マップは、片眼(左眼)のものである。図12は、参考として、図10の見落とし危険度マップに外界画像を重ね合わせた図である。図13は、両眼見落とし危険度マップの一例を表す。例えば、図11は、乱視眼のドライバーの見落とし危険度マップであって、図10に示す見落とし危険度マップに比べて、見落とし危険度が高い領域が広く存在する。尚、この図10〜図13に示す見落とし危険度マップは、外界画像の領域の範囲にて示している。
局所領域情報量演算部14は、演算した見落とし危険度マップを表す情報を注意喚起制御部17に出力する。この局所領域情報量演算部14は、本発明の局所領域情報量演算手段に相当する。また、網膜投影像推定部12、網膜出力像推定部13、および、局所領域情報量演算部14からなる構成は、本発明のマップ演算手段に相当する。
注意喚起制御部17は、局所領域情報量演算部14から出力された見落とし危険度マップを表す情報と、障害物検出部16から出力された障害物に関する情報とに基づいて、ドライバーに注意喚起すべき障害物(注意喚起対象物)の有無を判定し、注意喚起対象物が存在する場合に、報知器24を作動させてドライバーに注意喚起対象物の存在を知らせる。この注意喚起制御部17および報知器24は、本発明の注意喚起手段に相当する。
障害物検出部16は、第1カメラ21の撮影によって得られた外界画像を画像処理して、外界画像から立体物を抽出し、その立体物の形状および動き等に基づいて、立体物の種類(歩行者、二輪車、自動車等)を特定する。障害物検出部16は、自車両と衝突するおそれのある立体物を障害物として認識して、その障害物の外界画像における座標位置、および、自車両と障害物との接近状況(例えば、自車両と障害物との距離、自車両と障害物との接近速度など)を表す情報を注意喚起制御部17に供給する。障害物検出部16は、本発明の障害物情報取得手段に相当する。
正常な視覚能力を備えたドライバーであれば、障害物の存在を認識して衝突回避操作(ブレーキ操作、および、ハンドル操作)を行うことができる。しかし、ドライバーは、必ずしも正常な視覚能力を備えているわけではなく、障害物を見落としてしまうことがある。そこで、注意喚起制御部17は、見落とし危険度マップを参照して、ドライバーの見落とし危険度の高い領域(方向)に検出されている障害物に限って、その障害物と自車両との接近度合が閾値を超えたときに、ドライバーがその障害物を見落としていると推定して、その障害物を注意喚起対象物に設定する。
見落とし危険度マップは、外界画像における座標(x,y)と対応がとれている。このため、外界画像から検出された障害物の位置は、見落とし危険度マップ上における位置として求めることができる。注意喚起制御部17は、見落とし危険度マップ上において障害物が検出されている領域の局所領域情報量Hを抽出する。この場合、障害物が検出されている領域内の各局所領域Aの中心点AOの局所領域情報量Hのうち最も大きい値を、その障害物の視覚情報量(以下、障害物視覚情報量と呼ぶ)とすればよい。従って、障害物が検出されている領域内に1つでも局所領域情報量Hの大きい値をとる局所領域が存在する場合には、障害物視覚情報量は大きい値に設定される。この障害物視覚情報量が少ないほど、見落とし危険度が高くなる。
注意喚起制御部17は、この障害物視覚情報量が予め設定した情報量閾値よりも少ない障害物については、見落とし危険度が予め設定した危険度閾値よりも高い視野領域(以下、単に、見落とし危険領域と呼ぶ)に入っていると判定する。注意喚起制御部17は、見落とし危険領域に入っていると判定した障害物についてのみ、この障害物と自車両との接近度合を演算する。接近度合は、注意喚起を行うか否かを決定するパラメータ、つまり、注意喚起を行うタイミングを決定するパラメータである。
例えば、接近度合は、現時点から自車両と障害物とが衝突すると予測される時刻までの時間である衝突予測時間を用いることができる。この衝突予測時間は、自車両と障害物とのあいだの距離を、自車両と障害物との相対速度で除算することによって求めることができる。あるいは、接近度合は、衝突予測時間に代えて、自車両と障害物との距離を用いることもできる。
注意喚起制御部17は、自車両と、見落とし危険領域に入っている障害物との接近度合が、予め設定された接近度合閾値よりも大きくなった時に、この障害物を注意喚起対象物に設定して、報知器24を作動させてドライバーに対して障害物(注意喚起対象物)の存在を知らせる。
以下、注意喚起制御部17の実施する注意喚起制御処理をフローチャートを使って説明する。図14は、注意喚起制御部17の実施する注意喚起制御ルーチンを表す。注意喚起制御ルーチンは、所定の演算周期にて繰り返し実施される。本ルーチンが起動すると、注意喚起制御部17は、ステップS11において、障害物検出部16によって障害物が検出されているか否かについて判定する。注意喚起制御部17は、障害物が検出されていない場合には、本ルーチンを一旦終了する。
注意喚起制御部17は、こうした処理を繰り返し、障害物が検出された場合(S11:Yes)には、その処理をステップS12に進めて、その障害物が見落とし危険領域に入っているか否かについて判定する。注意喚起制御部17は、障害物が見落とし危険領域に入っていない場合には、本ルーチンを一旦終了した後、上述した処理を繰り返す。一方、障害物が見落とし危険領域に入っている場合(S12:Yes)には、注意喚起制御部17は、その処理をステップS13に進めて、自車両と障害物との接近度合Gを演算し、続くステップS14において、接近度合Gが接近度合閾値Grefよりも大きいか否かについて判定する。接近度合Gが接近度合閾値Gref以下である場合(S14:No)、注意喚起制御部17は、本ルーチンを一旦終了する。こうした処理が繰り返されて、接近度合Gが接近度合閾値Grefよりも大きくなると(S14:Yes)、注意喚起制御部17は、ステップS15において、この障害物を注意喚起対象物に設定して、報知器24を作動させる。
例えば、注意喚起制御部17は、接近度合Gとして衝突予測時間を演算し、衝突予測時間が設定時間(予め設定された閾値)よりも短いと判定したとき(S14:Yes)に、この障害物を注意喚起対象物に設定する。あるいは、注意喚起制御部17は、接近度合Gとして自車両と障害物との距離を演算し、この距離が設定距離(予め設定された閾値)よりも短いと判定したときに、この障害物を注意喚起対象物に設定する。注意喚起制御部17は、障害物を注意喚起対象物に設定した場合、その注意喚起対象物の存在を知らせるために、報知器24を作動させる。
このように、注意喚起制御部17は、接近度合Gが接近度合閾値Grefよりも大きいことを注意喚起条件とし、この注意喚起条件が成立した時に、ドライバーに対して障害物(注意喚起対象物)の存在を知らせる。
この場合、注意喚起制御部17は、スピーカ24bを駆動して注意喚起音を発生させるとともに、注意喚起用表示情報をHUD24aに送信する。この注意喚起用表示情報には、注意喚起用アイコン(例えば、注意喚起対象物を指し示す矢印アイコン)を表示させる位置(アイコン表示位置と呼ぶ)、および、アイコンの矢印の向いている方向(注意方向と呼ぶ)を表す情報が含まれている。
注意喚起制御部17は、アイコン表示位置を、ドライバーの見落とし危険度が予め設定された閾値よりも小さな領域に入る位置に設定するとともに、注意方向を、そのアイコン表示位置から注意喚起対象物に向けた方向に設定する。HUD24aは、注意喚起制御部17から送信された注意喚起用表示情報に基づいて、注意喚起用アイコンをフロントガラスに投影する。
これにより、ドライバーは、フロントガラスに投影された注意喚起用アイコンによって注意喚起され、見落としていた障害物を認識し、衝突回避操作を行うことができる。
尚、ドライバーに対して注意喚起を行う場合、スピーカから障害物の方向を知らせる音声アナウンスを用いることもできる。また、注意喚起用アイコンの表示と音声アナウンスとを組み合わせるようにしてもよい。
以上説明した本実施形態の車両用運転支援システム1によれば、ドライバー視覚情報提供部10aが、外界画像と、ドライバーの視線の方向と、ドライバーの個人眼特性とに基づいて、ドライバーの視野内における位置とドライバーの見落としやすさの指標となる見落とし危険度とを対応付けた見落とし危険度マップを作成する。従って、この見落とし危険度マップによって、ドライバーの視野内における見落としやすい方向を把握することができる。
注意喚起部10bは、外界画像から検出された障害物と、見落とし危険度マップとに基づいて、ドライバーに対して障害物の存在を通知する。従って、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができる。つまり、ドライバーが見落としていると推定される障害物に対して注意喚起を行うことができる。特に、この実施形態においては、見落とし危険度が閾値よりも高い視野領域に入っている障害物(障害物視覚情報量が予め設定した情報量閾値よりも少ない障害物)についてのみ、その存在がドライバーに通知される。従って、ドライバーが認識している障害物について不要な注意喚起が行われることを低減するができる。これにより、ドライバーに感じさせてしまう煩わしさを低減することができる。
また、見落とし危険度マップを作成するにあたって、ドライバーの個人眼特性に応じた網膜投影像が推定され、更に、この網膜投影像が網膜視細胞配列モデルに投影された場合の反応である網膜出力像が推定される。そして、この網膜出力像内における予め設定された広さの局所領域ごとの情報量が演算されることによって、ドライバーの視野内における位置と、情報量とを関係付けた見落とし危険度マップが作成される。従って、この見落とし危険度マップによって、ドライバー個々の外界視覚状況を把握することができる。この結果、ドライバー個々の外界視覚状況に応じた、障害物に対する注意喚起を行うことができる。また、ドライバー個々の網膜特性に応じて網膜視細胞配列モデルを設定した場合には、網膜疾患のあるドライバーに対しても、適正な見落とし危険度マップを演算することができる。
<注意喚起の変形例1>
上記実施形態においては、見落とし危険度が閾値よりも高い視野領域に入っている障害物についてのみ、その存在がドライバーに通知されるように構成されている。この変形例1では、見落とし危険度が閾値よりも高い視野領域に入っていない障害物であっても、ドライバーが衝突回避操作を行わないような状況においては、ドライバーに注意喚起を行うように構成されている。
この変形例1においては、注意喚起制御部17は、予め設定された注意喚起条件が成立したときに障害物の存在をドライバーに通知するように構成され、見落とし危険度が閾値よりも高い視野領域に入っている障害物に対する注意喚起条件が、見落とし危険度が閾値以下の視野領域に入っている障害物に対する注意喚起条件に比べて、ドライバーに対して障害物の存在が通知されやすくなるように設定されている。
図15は、変形例1に係る注意喚起制御ルーチンを表す。注意喚起制御部17は、変形例1に係る注意喚起制御ルーチンを所定の演算周期にて繰り返し実施する。以下、実施形態と同様の処理については、図面に、実施形態と共通のステップ符号を付して簡単な説明に留める。
本ルーチンが起動すると、注意喚起制御部17は、ステップS11において、障害物が検出されているか否かについて判定し、障害物が検出されるまで、その処理を繰り返す。注意喚起制御部17は、障害物が検出された場合(S11:Yes)、ステップS13において、自車両と障害物との接近度合Gを演算する。続いて、注意喚起制御部17は、ステップS12において、その障害物が見落とし危険領域に入っているか否かについて判定する。このステップS12においては、実施形態と同様に、障害物視覚情報量が予め設定した情報量閾値よりも少ない障害物については、見落とし危険領域に入っていると判定される。
注意喚起制御部17は、障害物が見落とし危険領域に入っている場合(S12:Yes)には、ステップS141において、接近度合Gが第1接近度合閾値G1refより大きいか否かについて判定し、接近度合Gが第1接近度合閾値G1refより大きい場合(S141:Yes)には、その処理をステップS15に進めることにより、この障害物を注意喚起対象物に設定して、報知器24を作動させる。これにより、ドライバーに対して障害物への注意喚起が行われる。また、接近度合Gが第1接近度合閾値G1ref以下である場合(S142:No)には、ステップS15の処理をスキップして本ルーチンを一旦終了する。従って、この場合には、ドライバーへの注意喚起が行われない。
一方、障害物が見落とし危険領域に入っていないと判定される場合(S12:No)には、注意喚起制御部17は、ステップS142において、接近度合Gが第2接近度合閾値G2refより大きいか否かについて判定する。この第2接近度合閾値G2refは、第1接近度合閾値G1refよりも大きな値に設定されている(G2ref>G1ref)。注意喚起制御部17は、接近度合Gが第2接近度合閾値G2refより大きい場合には、その処理をステップS15に進めることにより、この障害物を注意喚起対象物に設定して、報知器24を作動させる。これにより、ドライバーに対して障害物への注意喚起が行われる。また、接近度合Gが第2接近度合閾値G2ref以下である場合には、ステップS15の処理をスキップして本ルーチンを一旦終了する。従って、この場合には、ドライバーへの注意喚起が行われない。
例えば、接近度合Gとして衝突予測時間を用いた場合、注意喚起制御部17は、見落とし危険領域に入っていると判定した障害物(ドライバーが視認しにくい障害物)については、衝突予測時間が第1設定時間よりも短いと判定したときに、この障害物を注意喚起対象物に設定する。一方、注意喚起制御部17は、見落とし危険領域に入っていないと判定した障害物(ドライバーが視認しやすい障害物)については、衝突予測時間が第2設定時間(<第1設定時間)よりも短いと判定したときに、この障害物を注意喚起対象物に設定する。また、例えば、接近度合Gとして自車両と障害物との距離を用いた場合、注意喚起制御部17は、見落とし危険領域に入っていると判定した障害物(ドライバーが視認しにくい障害物)については、自車両と障害物との距離が第1設定距離よりも短いと判定したときに、この障害物を注意喚起対象物に設定する。一方、注意喚起制御部17は、見落とし危険領域に入っていないと判定した障害物(ドライバーが視認しやすい障害物)については、自車両と障害物との距離が第2設定距離(<第1設定距離)よりも短いと判定したときに、この障害物を注意喚起対象物に設定する。
従って、見落とし危険領域に入っていると判定された障害物については、見落とし危険領域に入っていないと判定された障害物に比べて、早めにドライバーに対して注意喚起が行われる。ドライバーは、自身が障害物の存在を認識しており、障害物に対して衝突回避操作をするつもりでいる状況で注意喚起された場合には、その注意喚起に対して煩わしさを感じる。従って、注意喚起は、安全性を考えれば早めに(接近度合が小さい段階で)行った方がよいものの、ドライバーにとっての煩わしさを考えた場合には、通常の操作で衝突回避できる間は行わないほうがよい。このため、注意喚起のタイミングは、障害物がある程度接近したタイミングで行うことが一般的である。しかし、ドライバーの個々の視覚能力によって、障害物を認識できない場合がある。
そこで、見落とし危険領域に入っていると判定された障害物については、見落とし危険領域に入っていないと判定された障害物に比べて、早めに(接近度合が小さい段階で)ドライバーに対して注意喚起を行うようにする。これにより、良好に認識できると推定される障害物については、注意喚起のタイミングをできるだけ遅くすることができ、逆に、良好に認識できない推定される障害物については、注意喚起のタイミングを早めに設定してドライバーに十分な衝突回避操作時間を与えることができる。この結果、ドライバー個々の視覚能力に応じた適切な注意喚起を行うことができる。
<注意喚起の変形例2>
上記変形例1においては、見落とし危険領域に入っていると判定された障害物と、見落とし危険領域に入っていないと判定された障害物とで、報知器24による注意喚起態様が同じである。この変形例2においては、見落とし危険領域に入っていると判定された障害物についての注意喚起態様が、見落とし危険領域に入っていないと判定された障害物についての注意喚起態様に比べて、ドライバーへの注意喚起力が大きくなるように構成されている。
図16は、変形例2に係る注意喚起制御ルーチンを表す。注意喚起制御部17は、変形例2に係る注意喚起制御ルーチンを所定の演算周期にて繰り返し実施する。変形例1と同様の処理については、図面に、変形例1と共通のステップ符号を付して簡単な説明に留める。
本ルーチンが起動すると、注意喚起制御部17は、ステップS11において、障害物が検出されているか否かについて判定し、障害物が検出されるまで、その処理を繰り返す。注意喚起制御部17は、障害物が検出された場合(S11:Yes)、ステップS13において、自車両と障害物との接近度合Gを演算する。続いて、注意喚起制御部17は、ステップS142において、接近度合Gが第2接近度合閾値G2refより大きいか否かについて判定する。注意喚起制御部17は、接近度合Gが第2接近度合閾値G2ref以下である場合(S142:No)、その処理をステップS141に進めて、接近度合Gが第1接近度合閾値G1refより大きいか否かについて判定する。この第1接近度合閾値G1refは、変形例1と同様に、第2接近度合閾値G2refより小さな値に設定されている(G2ref>G1ref)。従って、自車両と障害物とが接近している場合には、ステップS142よりも先にステップS141において「Yes」と判定される。
注意喚起制御部17は、自車両と障害物とがあまり接近していなく接近度合Gが第1接近度合閾値G1ref以下である場合(S141:No)、本ルーチンを一旦終了する。こうした処理が繰り返されている間に、自車両と障害物とが接近して、接近度合Gが第1接近度合閾値G1refより大きくなると(S141:Yes)、注意喚起制御部17は、その処理をステップS12に進めて、障害物が見落とし危険領域に入っているか否かについて判定する。注意喚起制御部17は、障害物が見落とし危険領域に入っている場合(S12:Yes)には、ステップS151において、第1注意喚起態様で報知器24を作動させ、障害物が見落とし危険領域に入っていない場合(S12:No)には、ステップS152において、第2注意喚起態様で報知器24を作動させる。
この第1注意喚起態様は、第2注意喚起態様に比べて注意喚起力が大きくなるように設定されている。例えば、第1注意喚起態様は、第2注意喚起態様に比べて、スピーカ24bの報知音(音声アナウンスあるいはブザー音)の音量が大きな値に設定されている。この場合、第1注意喚起態様では、ドライバーに障害物の存在を確実に知らしめることができる程度の大きさの音量でスピーカ24bから報知音が発生させられる。一方、第2注意喚起態様では、ドライバーに煩わしさを感じさせない程度の小さな音量でスピーカ24bから報知音が発生させられる。従って、ドライバーが障害物を認識している場合に注意喚起が行われたとしても、ドライバーの感じる煩わしさは少なくて済む。
自車両と障害物とが更に接近して、接近度合Gが第2接近度合閾値G2refより大きくなると(S142:Yes)、注意喚起制御部17は、その処理をステップS151に進める。従って、この場合、見落とし危険領域に入っていない障害物に対しても、第1注意喚起態様にて報知器24が作動される。これにより、ドライバーに障害物の存在を確実に知らしめることができる
尚、この例では、スピーカ24bの音量によって、ドライバーへの注意喚起力の大きさを切り替えているが、それに代えて、あるいは、それに加えて、表示器24aの表示態様によってドライバーへの注意喚起力の大きさを切り替えることもできる。例えば、注意喚起制御部17は、第1注意喚起態様においては、注意喚起用アイコンの大きさを大に設定し(この注意喚起用アイコンを大アイコンと呼ぶ)、第2注意喚起態様においては、注意喚起用アイコンの大きさを小に設定する(この注意喚起用アイコンを小アイコンと呼ぶ)。小アイコンは、ドライバーに煩わしさを感じさせない程度の大きさに設定され、大アイコンは、ドライバーに障害物の存在を確実に知らしめることができる程度の大きさに設定される。
また、注意喚起用アイコンの大きさに代えて、注意喚起用アイコンの表示位置を切り替えることもできる。例えば、注意喚起制御部17は、第1注意喚起態様においては、ドライバーにとって視認しやすい位置に注意喚起用アイコンを表示し、第2注意喚起態様においては、ドライバーにとって煩わしさを感じさせない位置(第1注意喚起態様よりも視認しにくい位置)に注意喚起用アイコンを表示する。この場合、例えば、HUD24aによる表示(注意喚起力大)と、メータディスプレイによる表示(注意喚起力小)とに切り替えるようにしてもよい。
<ドライバー視覚情報提供装置を別体に備えた変形例>
上記実施形態においては、支援ECU10が1つの制御装置として構成されているが、その機能を複数の装置に分担させて構成されていてもよい。例えば、車両用運転支援システムは、ドライバー視覚情報提供装置と運転支援装置とから構成されていてもよい。
この場合、ドライバー視覚情報提供装置は、ドライバー視覚情報提供部10aと第1カメラ21と第2カメラ22と入力部23とを備え、見落とし危険度マップを演算し、その見落とし危険度マップを表す情報を出力する。一方、運転支援装置は、注意喚起部10bと報知器24とを備え、ドライバー視覚情報提供装置から出力された見落とし危険度マップを表す情報と、第1カメラ21の撮影によって得られた外界画像を入力し、上述したように、外界画像から検出された障害物と見落とし危険度マップとに基づいて、ドライバーが見落としていると推定される障害物の存在を報知器24を介してドライバーに通知する。
このドライバー視覚情報提供装置としては、携帯端末装置、例えば、スマートフォンを用いることができる。ユーザーは、携帯端末装置に、予め、見落とし危険度マップを演算するアプリケーションをインストールするとともに、個人眼特性を入力しておく。ドライバー視覚情報提供装置は、車両の任意の位置(例えば、ダッシュボードの上など)に固定され、車載器である運転支援装置と通信可能(有線通信あるいは近距離無線通信)に接続される。
この場合、第1カメラ21および第2カメラ22の少なくとも一方については、ドライバー視覚情報提供装置が内臓しているカメラを利用することもできるし、外付けのカメラ、あるいは、車両に搭載されているカメラを利用することもできる。
<個人眼特性の変形例>
上記実施形態においては、網膜投影像を推定するための個人眼特性として、ドライバーの眼光学系の波面収差を表すデータが用いられるが、それに代えて、簡易的に、ドライバーの視力測定結果(例えば、5m視力の測定結果)を表す情報を用いてもよい。この場合には、例えば、網膜投影像推定部12は、視力測定値に応じた複数通りの光学系伝達関数を記憶し、ドライバーが入力部23を介して個人眼特性記憶部15に入力した視力測定結果に応じた光学系伝達関数を選択するようにすればよい。
以上、本実施形態および変形例に係る車両用運転支援システムについて説明したが、本発明は上記実施形態に限定されるものではなく、本発明の目的を逸脱しない限りにおいて種々の変更が可能である。
例えば、本実施形態の見落とし危険度マップは、0.25deg間隔にて局所領域情報量Hが設定されているが、必ずしも、この間隔にする必要はなく、マイクロコンピュータの演算負荷にあわせて適宜、設定することができる。また、見落とし危険度マップにおける局所領域情報量Hについては、少なくとも2段階以上に設定されていればよい。
また、本実施形態および変形例においては、障害物の存在する領域が、見落とし危険度が危険度閾値よりも高い領域であるか否か(障害物視覚情報量が情報量閾値よりも少ないか否か)について判定し、その判定結果に応じた注意喚起を行っている。しかし、障害物の存在する領域については、必ずしも、見落とし危険度の高低2段階に分ける必要はなく、例えば、高中低3段階に分けるなど、3段階以上の領域に分けて、その領域に応じた注意喚起を行うようにしてもよい。この場合、例えば、見落とし危険度が高い領域に存在する障害物ほど、ドライバーに対して障害物の存在が通知されやすくなるように注意喚起条件が設定されているとよい。また、例えば、見落とし危険度が高い領域に存在する障害物ほど、ドライバーへの注意喚起力が大きくなるように注意喚起態様が設定されているとよい。
また、網膜投影像、網膜出力像、および、局所領域情報量などを演算する式については簡略化することによって、マイクロコンピュータの演算負荷を軽くすることもできる。例えば、最終的な局所領域情報量の演算結果に大きな影響を与えないような変数については、固定値を用いることもできる。
また、本実施形態においては、網膜投影像推定部12は、ドライバーの個人眼特性(眼光学系特性)に基づいて網膜投影像を推定するが、必ずしも、ドライバーの個人眼特性に基づいて網膜投影像を推定しなくてもよく、その場合には、網膜出力像推定部13においてドライバーの個人眼特性(網膜特性)に基づいて網膜出力像を推定する構成であればよい。この場合、網膜投影像推定部12においては、標準的な人の眼光学系特性を用いればよい。
つまり、個人眼特性記憶部15に記憶されるドライバーの個人眼特性は、眼光学系特性であってもよいし、網膜特性であってもよいし、その両者であってもよい。ドライバーの個人眼特性として、眼光学系特性が記憶されている場合には眼光学系特性が網膜投影像の推定に反映され、網膜特性が記憶されている場合には網膜特性が網膜出力像の推定に反映され、両特性が記憶されている場合には眼光学系特性が網膜投影像の推定に、網膜特性が網膜出力像の推定にそれぞれ反映される。