JP2010234851A - 車両用表示装置 - Google Patents

車両用表示装置 Download PDF

Info

Publication number
JP2010234851A
JP2010234851A JP2009082598A JP2009082598A JP2010234851A JP 2010234851 A JP2010234851 A JP 2010234851A JP 2009082598 A JP2009082598 A JP 2009082598A JP 2009082598 A JP2009082598 A JP 2009082598A JP 2010234851 A JP2010234851 A JP 2010234851A
Authority
JP
Japan
Prior art keywords
luminance
image
vehicle
background image
illuminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009082598A
Other languages
English (en)
Other versions
JP5299026B2 (ja
Inventor
Tomokazu Okuki
友和 奥木
Yohei Iwashita
洋平 岩下
Masafumi Yamamoto
雅史 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2009082598A priority Critical patent/JP5299026B2/ja
Publication of JP2010234851A publication Critical patent/JP2010234851A/ja
Application granted granted Critical
Publication of JP5299026B2 publication Critical patent/JP5299026B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Instrument Panels (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】夜間などの周囲の照度が低い状況において正確且つ容易に移動体や周囲環境を認識できる技術を実現する。
【解決手段】車両1は、自車両の位置を検出する位置検出手段6と、自車両周囲の移動体を検出する移動体検出手段17と、自車両周囲の画像を撮影する画像撮影手段5と、自車両周囲の照度を検出する照度検出手段3と、前記照度検出手段により検出された照度が所定閾値以下であるか否かを判定する判定手段12と、前記判定手段により照度が所定閾値を超えるときに撮影された高輝度画像から移動体が削除された高輝度背景画像を取得する取得手段15と、前記判定手段により照度が前記所定閾値以下であると判定された場合に、前記取得手段により取得した自車両の位置情報に対応する高輝度背景画像と、前記移動体検出手段により検出された移動体とを合成する合成手段20と、前記合成手段により合成された画像を表示する表示手段4と、を有する。
【選択図】図1

Description

本発明は、自車両周囲の画像を表示する車両用表示装置に関する。
夜間の視認性の拡大、歩行者の見落としを防止するために、赤外光を照射して撮影する近赤外線カメラや人物や車両などの熱源から出る赤外線を撮影する遠赤外線カメラを使用して、可視化することで、モニタに動画や静止画を表示するナイトビジョンが実用化されている。
このナイトビジョンに関する技術として、特許文献1には、車載センサが衝突可能性が高い対象物を検出し、警報を出力する場合に、警報ブザーだけではドライバが警報の意味を正しく理解できないという課題に対して、ヘッドアップディスプレイの表示を合わせて活用し、警報出力時のみ画像表示を高輝度化し、待機状態ではドライバが視認できない程度に、画像中の特定領域の輝度を低くする技術が記載されている。
また、特許文献2には、近赤外線カメラと遠赤外線カメラにより生体を検知して、近赤外線画像中に生体領域を強調表示する技術が記載され、特許文献3には、可視光カメラや赤外線カメラにより周囲物体のコントラスト向上処理やエッジ強調処理を行って表示する技術が記載されている。
特開2001−315547号公報 特開2008−183933号公報 特開2000−019259号公報
しかしながら、従来のナイトビジョンでは、モニタに表示される画像は白黒で、輪郭もぼやけているため、何が表示されているのか認識しづらい。上記特許文献1では、歩行者を検知して枠で囲んで強調表示しているが、複数の歩行者が存在する場合は画面中に多数の枠が表示されて見づらくなる。また、ドライバは、モニタを凝視しなければ、モニタに表示された対象物や周囲環境を認識できないため、距離感や位置関係の理解も容易ではなく、十分な運転支援ができていない。
本発明は、上述の課題に鑑みてなされ、その目的は、夜間などの周囲の照度が低い状況において正確且つ容易に移動体や周囲環境を認識できる技術を実現することである。
上述の課題を解決し、目的を達成するために、本発明に係る第1の形態は、自車両の位置を検出する位置検出手段と、自車両周囲の移動体を検出する移動体検出手段と、自車両周囲の画像を撮影する画像撮影手段と、自車両周囲の照度を検出する照度検出手段と、前記照度検出手段により検出された照度が所定閾値以下であるか否かを判定する判定手段と、前記判定手段により照度が所定閾値を超えるときに撮影された高輝度画像から移動体が削除された高輝度背景画像を取得する取得手段と、前記判定手段により照度が前記所定閾値以下であると判定された場合に、前記取得手段により取得した自車両の位置情報に対応する高輝度背景画像と、前記移動体検出手段により検出された移動体とを合成する合成手段と、前記合成手段により合成された画像を表示する表示手段と、を有する。この形態によれば、夜間などの周囲の照度が低い状況において正確且つ容易に対象物や周囲環境を認識できる。
また、本発明に係る第2の形態は、前記高輝度画像を前記自車両の位置情報とともに情報センタへ送信する送信手段と、前記判定手段により照度が前記所定閾値以下であると判定された場合に、前記情報センタから自車両の位置情報に応じた高輝度背景画像を受信する受信手段と、を更に有し、前記情報センタは、前記高輝度画像を前記自車両の位置情報とともに記憶する高輝度画像記憶手段と、前記高輝度画像から抽出した移動体を前記高輝度画像から削除した高輝度背景画像を作成して記憶する背景画像記憶手段と、を有し、前記合成手段は、前記情報センタから取得した高輝度背景画像と前記移動体検出手段により検出された移動体とを合成する。この形態によれば、他車両で撮影された高輝度画像データを背景画像として利用することができる。
また、本発明に係る第3の形態は、前記表示手段は、前記移動体をアイコンとして表示する。この形態によれば、正確且つ早期に移動体を認識することができる。
また、本発明に係る第4の形態は、前記情報センタから受信した高輝度背景画像の上方領域を暗く、下方領域を明るくなるように輝度を補正する輝度補正処理手段を更に有する。また、第5の形態は、前記輝度補正処理手段は、前記照度が前記所定閾値以下の場合、前記画像撮影手段により撮影された画像と、前記高輝度背景画像とをオーバーラップすることにより輝度を補正する。また、第6の形態は、前記輝度補正処理手段は、前記情報センタから受信した高輝度背景画像の上方領域の色調を変更する。これらの形態によれば、画面上における輝度の高い領域を小さくできるので、画面からドライバの目に入る光量を低減でき、暗い車外を視認しやすくなる。
また、本発明に係る第7の形態は、前記合成手段は、前記高輝度背景画像から静止物の3次元データを作成し、当該3次元データを用いて自車両から遠い静止物ほど暗くなるよう輝度を補正する。また、第8の形態は、前記合成手段は、前記高輝度背景画像から消失点を算出し、当該消失点に近いほど暗く、消失点から遠いほど明るくなるよう輝度を補正する。また、第9の形態は、前記移動体検出手段により検出された移動体との距離を検出する距離検出手段と、前記距離検出手段により検出された移動体との距離に応じて前記高輝度背景画像に合成される移動体の表示サイズを変更する表示サイズ補正手段と、を更に有する。これらの形態によれば、移動体との距離を正確に認識することができる。
また、本発明に係る第10の形態は、前記合成手段は、前記高輝度背景画像からドライバに注意を向けさせたい対象物を特定し、当該特定された対象物を強調表示するよう補正する強調補正手段を更に有する。また、第11の形態は、前記強調補正手段は、前記高輝度背景画像からドライバに危険予知をさせたい領域を特定し、当該特定された領域を強調表示するよう補正する。これらの形態によれば、ドライバが注意を喚起すべき領域や危険予知をすべき領域を正確且つ容易に認識することができる。
また、本発明に係る第12の形態は、前記移動体検出手段は、撮影位置及びアングルが略同じ複数の高輝度背景画像から、当該高輝度背景画像中の静止物を除去した画像を比較することにより移動体を検出する。この形態によれば、システムの信頼性を向上させることができる。
また、本発明に係る第13の形態は、前記距離検出手段により検出された移動体との距離に応じて危険度を判定する危険度判定手段を更に有し、前記合成手段は、前記危険度の高い移動体ほど強調表示するよう補正する。この形態によれば、危険な対象物を正確且つ容易に認識することができる。
本発明によれば、夜間などの周囲の照度が低い状況において正確且つ容易に移動体や周囲環境を認識できる。
本発明に係る実施形態の車両用表示装置を搭載した車両を示す平面図である。 本実施形態の車両及び情報センタの機能ブロック図である。 本実施形態の車両及び情報センタにおける処理を示すフローチャートである。 本実施形態による合成画像の表示例を示す図である。 本実施形態による合成画像の表示例を示す図である。 本実施形態による合成画像の表示例を示す図である。 本実施形態による合成画像の表示例を示す図である。 本実施形態による合成画像の表示例を示す図である。 本実施形態による合成画像の表示例を示す図である。 本実施形態による合成画像の表示例を示す図である。
以下に、本発明の実施の形態について添付図面を参照して詳細に説明する。尚、以下に説明する実施の形態は、本発明の実現手段としての一例であり、本発明は、その趣旨を逸脱しない範囲で下記実施形態を修正又は変形したものに適用可能である。また、後述する各実施形態の制御に対応するコンピュータプログラムや当該コンピュータプログラムが格納された記憶媒体を、車両に搭載されたコンピュータに供給して、当該コンピュータが記憶媒体に格納されたプログラムコードを読み出して実行するようにしてもよい。
[システム構成]
図1は本発明に係る実施形態の車両用表示装置を搭載した車両を示す平面図、図2は本実施形態の車両及び情報センタの機能ブロック図である。
図1に示すように、車両1には、車体フロント部に距離センサ2、インパネ上部に照度センサ3及びモニタ4、ルームミラー付近に自車両前方を撮影する外界カメラ5、車体中央部にGPS信号を受信する位置検出センサ6、車体後部に通信インタフェース7が搭載されている。ここで、距離センサ2は、自車両周囲の移動体と距離が計測可能であり、モニタ表示用画像を作成できる高精度且つ高解像度のものでなくてもよく、例えば、安価な赤外線カメラ、CCDやCMOSを用いた可視光カメラ、レーザレーダ、ミリ波レーダが適用できる。照度センサ3は、自車両周囲の照度を検出する。モニタ4は、ドライバが視認できるものであって、例えば、ヘッドアップディスプレイ、カーナビゲーションシステム用のディスプレイ、インパネ部のメータ表示部の切り替えモニタなどが適用できる。通信インタフェース7は、送受信処理部や通信アンテナなどを有し、情報センタ100と無線通信を行う。
図2に示すように、車両1は、通信インタフェース7を介して情報センタ100と通信可能に接続される。画像取得部11は、外界カメラ5で撮影された画像データを取得する。照度判定部12は、画像取得部11から入力した撮影画像の平均輝度を算出し、昼間撮影された高輝度画像(昼間画像)か、夜間撮影された低輝度画像(夜間画像)かを判定する。なお、高輝度画像か否かは、照度センサ3により検出された照度や撮影時刻により判定することも可能である。表示画像出力部13は、照度判定部12により判定された昼間画像をモニタ4に出力する。
送信データ作成処理部14は、画像取得部11から撮影画像データ、位置検出センサ6から自車両の現在位置情報をそれぞれ入力し、照度判定部12での判定が昼間画像の場合には、昼間画像データと現在位置情報、夜間画像の場合には、現在位置情報のみを通信インタフェース7を介して情報センタ100に送信する。
背景画像受信部15は、照度判定部12での判定が夜間画像の場合、通信インタフェース7を介して情報センタ100へ高輝度背景画像データの配信要求を送信し、情報センタ100から受信した高輝度背景画像データを背景画像補正処理部16及び高精度移動体検出処理部21へ出力する。
背景画像補正処理部16は、背景画像受信部15から入力した高輝度背景画像データ並びに照度センサ3により検出された現在の照度情報を入力し、輝度補正処理部16aが高輝度背景画像データの輝度を補正して、合成処理部20へ出力する。この輝度補正処理は、情報センタ100において自車両の現在位置情報、現在時刻情報、推定される照度情報から輝度補正値を算出するか、自車両に搭載された可視光カメラによる撮影画像と昼間画像とをオーバーラップする処理(例えば、画素平均又はアルファブレンディング)により実行される。
移動体抽出処理部17は、画像取得部11から入力した昼間画像データから移動体を抽出し、移動体画像補正処理部19へ出力する。危険度判定部18は、距離センサ2により検出された移動体との距離や衝突時間などから危険度を判定し、移動体画像補正処理部19へ出力する。
移動体画像補正処理部19では、表示サイズ補正処理部19aが移動体と背景画像中の静止物の位置関係に応じて移動体の表示サイズを補正する。あるいは、危険度判定部18で判定された危険度に応じて移動体の表示サイズを補正する。輝度補正処理部19bは危険度判定部18で判定された危険度に応じて移動体の輝度を補正する。
合成処理部20は、距離感の輝度補正処理部20aと強調補正処理部20bを有し、背景画像補正処理部16から入力した高輝度背景画像41と、移動体画像補正処理部19から入力した移動体の画像データ42又はアイコン43とを合成した合成画像データ(図4(a),(b))を作成し、モニタ4へ出力する。
高精度移動体検出処理部21は、昼間画像の解析結果や情報センタ100から受信した自車両周囲の静止物の3次元データを利用して、距離センサ2による検出結果から静止物の3次元データを除去し、警報表示判定処理部22へ出力する。警報表示判定処理部22は、移動体の検出結果に応じて警報が必要な状態か判定し、モニタ4へ警報を出力する。
情報センタ100は、サーバとして車両1と通信を行う通信インタフェース101、通信インタフェース101を介して車両1から受信した高輝度画像データと車両の位置情報、受信時刻情報を記憶する高輝度画像記憶部102、高輝度画像記憶部102に記憶された高輝度画像データから背景画像データを作成する背景画像作成部103、背景画像作成部103により作成された背景画像データを記憶する背景画像記憶部104とを有する。
背景画像作成部103は、輝度補正値算出処理部103a、移動体削除処理部103b、送信データ作成処理部103cを有する。輝度補正値算出処理部103aは、車両1側に送信され、背景画像補正処理部16の輝度補正処理部16aでの輝度補正処理に利用する輝度補正値を算出する。移動体削除処理部103bは、高輝度画像記憶部102に記憶された高輝度画像から移動体を抽出する処理並びに高輝度画像から抽出した移動体を削除する処理を行うことにより背景画像データを作成し、背景画像記憶部104に記憶する。送信データ作成処理部103cは、車両1から受信した自車両の位置情報に応じた背景画像データを背景画像記憶部104から読み出し、通信インタフェース101を介して車両1に送信する。
[処理フロー]
図3は、本実施形態の車両及び情報センタにおける処理を示すフローチャートである。
図3において、車両1では、先ず、画像取得部11が外界カメラ5から撮影画像データを取得し、位置検出センサ6から自車両の現在位置情報を取得する(S1)。次に、照度判定部12は、画像取得部11から入力した撮影画像データから平均輝度を算出し(S2)、撮影画像の平均輝度が所定閾値Kより大きいか否か判定する(S3)。ここで、撮影画像の平均輝度が所定閾値Kより大きいならば昼間画像と判定し、送信データ作成処理部14は、昼間画像としての撮影画像データと自車両の現在位置情報とを情報センタ100へ送信するとともに(S4)、昼間画像をモニタ4へ表示する(S5)。
一方、S3で撮影画像の平均輝度が所定閾値K以下ならば夜間画像と判定し、危険度判定部18が移動体の危険度を算出し(S6)、移動体抽出処理部17が夜間画像から移動体を抽出し(S7)、移動体画像補正処理部19の表示サイズ補正処理部19aが移動体との距離や衝突時間に応じた表示サイズの補正処理を行う(S8)。ここでは、移動体を画像又はアイコンで表示する場合に、図5(a),(b)のように距離センサ2により検出されたノイズを含む移動体の画像51又はアイコン52をそのままの大きさで表示するのではなく、図5(c),(d)のように、表示サイズ補正処理部19aが危険度判定部18で判定された危険度(自車両との距離や衝突時間など)や静止物との位置関係に応じて移動体の画像53又はアイコン54の表示サイズを補正する。
次に、輝度補正処理部19bが移動体の危険度に応じた輝度補正処理を行う(S9)。ここでは、図6(a)に示すように、危険度判定部18で判定された危険度に応じて、例えば自車両との距離が最も近い歩道にいる歩行者を表す移動体の画像61(又はアイコン)の表示サイズを大きくしたり、輝度を上げつつ周辺領域の色調を変更したり、図6(b)に示すようにドライバの注意喚起を促すマーク62などで強調表示する。
その後、送信データ作成処理部14が自車両の現在位置情報のみ(夜間のため)を情報センタ100へ送信する(S10)。
次に、背景画像受信部15が情報センタ100から自車両の現在位置情報に応じた高輝度背景画像データ(及び輝度補正値)を受信し(S11)、輝度補正処理部16aが輝度補正値に応じた高輝度背景画像データの輝度補正処理を行う(S12)。この輝度補正処理は、例えば、図7(a),(b)に示すように、現在時刻の照度に合わせて高輝度背景画像データの上方領域(例えば、空の領域)を暗くし、下方領域へ段階的に明るくなるように輝度を変更したり、図7(c),(d)に示すようにR、G、Bのトーンカーブを変換する処理を行って色調を変更する。あるいは、図8に示すように、可視光カメラの夜間画像81と高輝度画像82とをオーバーラップ手法などを用いて合成することにより輝度補正を行ってもよい。
次に、合成処理部20が、図4に示したように移動体画像補正処理部19から入力した移動体画像データと背景画像補正処理部16から入力した高輝度背景画像データとを合成する処理を行うとともに(S13)、距離感の輝度補正処理部20aでの輝度補正処理(S14)、強調補正処理部20bでの強調補正処理(S15)を行う。この距離感の輝度補正処理は、合成処理部20が、背景画像の集合や距離センサ2による検出結果から、3次元復元処理などの画像処理により自車両周囲の静止物(例えば、建物、電柱、標識などの地物)の3次元データを作成する。あるいは、情報センタ100から背景画像中の静止物の3次元データを取得する。そして、作成された3次元データを利用して、図9(a)に示すように自車両から遠い領域は暗く、近い領域は明るく表示されるように輝度を補正する。あるいは、輝度補正処理部20aが、背景画像の集合から、画像処理により道路白線や歩道縁石から消失点を検出し、図9(b)に示すように消失点付近を暗く、消失点から画面縁部に向かって段々に明るく表示されるように輝度を補正する。
また、強調補正処理では、ナビゲーションシステム8と連動して地図データベース上で経路誘導に使用している物体情報と背景画像データとを整合させ、図10(a)に示すように経路誘導のランドマーク111(例えば、白線、ガードレール、交通標識、信号機、道路案内表示、経路誘導における交差点方向指示案内)など、ドライバに注意を向けさせたい領域を特定し、その領域の輝度を上げて強調表示されるよう補正を行う。また、図10(b)に示すように交差点に接近したときに(例えば、交差点手前50m)、歩行者や自転車が駐車車両のわきから飛び出してくる可能性がある領域112や交差点に進入し巻込みの可能性がある領域113など、ドライバに危険予知をさせたい領域を特定し、その領域の輝度を上げて強調表示されるよう補正を行う。
その後、高精度移動体検出処理部21での移動体検出処理(S16)、警報表示判定処理部22での警報出力判定処理(S17)を行った後、合成画像をモニタ4へ表示する(S18)。この移動体検出処理は、昼間画像の解析や情報センタ100から高輝度背景画像中の静止物の3次元データを取得し、撮影位置及びアングルが略同じ複数の高輝度背景画像から、当該高輝度背景画像中の静止物を除去した画像を比較することにより移動体を検出する。これにより、電柱や看板なども検出しノイズにより歩行者と誤検出しやすいレーザレーダや、距離検出精度が低いために遠方にいる歩行者を検出しにくいステレオカメラや、分解能が低いために物体識別性能が劣るミリ波レーダシステムなどを距離センサとして搭載した場合でも、道路領域や歩道領域を正確に検出し、高精度に歩行者などの移動体を検出する。
情報センタ100では、車両1から昼間画像データや自車両の現在位置情報を受信し(S21)、昼間画像データと自車両の位置情報、受信時刻情報を高輝度画像記憶部102へ記憶するとともに(S22)、背景画像作成部103が高輝度画像記憶部102からその昼間画像データを読み出し、移動体削除処理部103bが昼間画像データから移動体を抽出する処理並びに抽出した移動体を削除する処理を行って背景画像データを作成し、背景画像記憶部104に記憶する(S24、S25)。
次に、情報センタ100は、車両1から自車両の現在位置情報を受信し(S26)、背景画像作成部103が背景画像記憶部104から自車両の現在位置情報に応じた背景画像データを読み出し(S27)、輝度補正値算出処理部103aが輝度補正値算出処理を行い(S28)、送信データ作成処理部103cが背景画像データと輝度補正値とを車両1に送信する(S29)。
[効果の説明]
本実施形態によれば、
(1)自車両又は他車両が昼間に走行したときに撮影した画像を位置情報とともに情報センタ100に送信する。
(2)情報センタ100では、略同じ位置及びアングルで撮影された複数枚の画像および、時系列で撮影された複数枚の画像から移動体を検出する。
(3)昼間画像中から移動体を削除することにより、移動体を削除した静止物及び地物だけの高輝度背景画像を作成し記憶する。
(4)自車両が夜間走行した場合に、現在位置情報を情報センタ100に送信して現在走行している位置での高輝度背景画像を取得する。
(5)距離センサ2によって自車両に接近する車両や歩行者などの移動体を検出し、移動体との距離を計測または3次元データを算出することで、高輝度背景画像に自車両と移動体との位置が一致するようにカラー合成画像を作成する(図4)。
(6)夜間やドライバの視程距離が短い場合に、カラー合成画像を自車両の現在位置情報に応じて更新しながら常時表示する。
上記処理(1)〜(6)により、以下の効果を奏する。
・ドライバが遠くにいる歩行者などの移動体の存在を早期に容易に認識できる。
・夜間であっても昼間と同じ輝度で視認できるので周囲環境を正確に認識することができ、例えば、移動体がガードレールの内側にいるのか、車道にいるのかなども容易に把握することができる。
・夜間であっても昼間と同じようにドライバが周囲環境を認識できるので、移動体の危険予知などが容易にできる。
・道路の構造も正確に把握できるので、ドライバがなすべき運転行動も正確に判断することができる。
・夜間も明るく撮影できる超高感度カメラを使用することなく実現できるので、低コスト化になる。
・距離センサやブラインドモニタ用カメラの転用によってもシステムが実現できるので、低コスト化になる。
また、本実施形態によれば、
(7)図7,図8に示すように、高輝度背景画像において、現在の時刻と照度に合わせて空領域の輝度を下げて暗くしたり、R、G、Bのトーンカーブの変換により色調を変更する。あるいは、背景画像の上方領域を暗くし、下方領域を明るくするように輝度を変更する。
これにより、モニタにおける輝度の高い領域を小さくできるので、モニタからのドライバの目に入る光量を低減でき、暗い車外を視認しやすくなる。モニタがまぶしくて、車外を見にくくなることを防げる。
また、モニタ上において、ドライバが注意を払うべき移動体を強調表示し、背景領域をぼかすことで、ドライバが無駄に背景領域に注意を向けてしまったり、表示画像だけで運転行動を判断することを防ぐことができる。
また、曇りの日や夕暮れ時などの街路灯が点灯する前で薄暗く、ドライバの視認性が低下する時間帯や条件においても、ドライバが周囲環境および移動体を認識しやすい画像を表示できる。
また、昼間の撮影条件が、晴天の昼過ぎの明るい状況であったり、曇りの夕方の少し暗い状況であったとしても、現在走行している条件に近い画像を作り出すことができる。
更に、本実施形態によれば、
(8)図9に示すように、背景画像の集合から静止物の3次元データを作成する。そして、背景領域の3次元データを利用して遠い領域は暗く、近い領域は明るく表示する。あるいは、画像処理により道路の白線や縁石から消失点を検出し、消失点を中心付近を暗くし、消失点から画面縁部に向けて段々に輝度が上がるように表示する。
これにより、以下の効果を奏する。
・ドライバが正確に危険な対象物を認識できる。
・ドライバが対象物の危険度合いを判断できる。
・ドライバが距離感や遠近感を認識しやすくなるので、最も危険な対象物が何か、衝突可能性がどのくらいあるのか、どの方向や場所に走行すべきか、判断や操作をするための情報として活用できる。
・ブレーキタイミングや操舵タイミングを判断しやすくなる。
また、本実施形態によれば、
(9)図5に示すように、距離センサ2により検出した移動体の画像あるいはノイズを含んだデータをそのまま合成せずに、背景領域の位置関係だけでなく、自車両との距離に応じて表示サイズを変更する。
これにより、上記(8)と同様の効果が得られる。
また、本実施形態によれば、
(10)図10に示すように、移動体の行動予測がしやすい道路環境の特徴的な対象物(白線、ガードレール、など)と、ドライバが安全且つ適切な運転をするための道路標識や信号機などのランドマークを認識しやすく表示する。
これにより、以下の効果を奏する。
・ドライバが周囲環境を認識できるので、歩行者の行動が予測しやすくなる。
・ドライバが危険予知をしやすくなり、例えば、歩道にガードレールがあれば、歩行者は車道へ飛び出す危険が少ないなどの判断ができる。
・夜間でドライバの視程が短い場合でも、安全且つ適切な運転をするのに有効な交通標識や道路案内などを認識することができるので、運転負担を減らすことができる。
また、本実施形態によれば、
(11)図10に示すように、ナビゲーションシステム8と連動して、地図データベース上で経路誘導に使用している物体と背景画像とを整合させ、経路誘導のランドマークの輝度を上げて強調表示する。また、交差点にある程度接近した場合に(例えば、交差点まで50m手前)、交差点進入時にドライバが注意を向けるべき領域の輝度を上げて強調表示し、ドライバへの注意喚起を促す。
これにより、以下の効果を奏する。
・夜間や雨天などドライバの視程が短い状況であっても、ナビゲーションの経路誘導と実空間の物体やマークとの整合を取りやすくなるので、ドライバの運転負担を減らすことができる。
・ナビゲーションシステムと連動することで、ナビゲーションの経路誘導の効果を高めることができる。
・危険が発生する可能性の高い領域を指定せず、明示的な注意誘導の表示ではないので、ドライバ自身による安全確認を阻害せずに、かつドライバの危険予知の能力を向上させることができる。
また、本実施形態によれば、
(12)図6に示すように、自車両との距離や衝突時間などの危険度に応じて移動体の表示サイズを大きくしたり、輝度を上げるとともに周辺領域の色調を変更したり、注意喚起を意味するマークを表示することにより強調表示の度合いを切り替える。
これにより、上記(8)と同様の効果が得られる。
また、本実施形態によれば、
(13)昼間画像の解析や情報センタ100から高輝度背景画像中の静止物の3次元データを取得し、撮影位置及びアングルが略同じ複数の高輝度背景画像から、当該高輝度背景画像中の静止物を除去した画像を比較することにより移動体を検出する。これにより、電柱や看板なども検出しノイズにより歩行者と誤検出しやすいレーザレーダや、距離検出精度が低いために遠方にいる歩行者を検出しにくいステレオカメラや、分解能が低いために物体識別性能が劣るミリ波レーダシステムなどを距離センサとして搭載した場合でも、道路領域や歩道領域を正確に検出し、高精度に歩行者などの移動体を検出する。
これにより、以下の効果を奏する。
・正確な情報をドライバに提供できるので、ドライバのシステムへの不信感を低減できる。
・距離センサによる距離の計測や移動体の検出性能を向上できる。
・ノイズを除去するための、他のセンサや複雑な処理ロジックの追加などが不要になる。

Claims (13)

  1. 自車両の位置を検出する位置検出手段と、
    自車両周囲の移動体を検出する移動体検出手段と、
    自車両周囲の画像を撮影する画像撮影手段と、
    自車両周囲の照度を検出する照度検出手段と、
    前記照度検出手段により検出された照度が所定閾値以下であるか否かを判定する判定手段と、
    前記判定手段により照度が所定閾値を超えるときに撮影された高輝度画像から移動体が削除された高輝度背景画像を取得する取得手段と、
    前記判定手段により照度が前記所定閾値以下であると判定された場合に、前記取得手段により取得した自車両の位置情報に対応する高輝度背景画像と、前記移動体検出手段により検出された移動体とを合成する合成手段と、
    前記合成手段により合成された画像を表示する表示手段と、を有することを特徴とする車両用表示装置。
  2. 前記高輝度画像を前記自車両の位置情報とともに情報センタへ送信する送信手段と、
    前記判定手段により照度が前記所定閾値以下であると判定された場合に、前記情報センタから自車両の位置情報に応じた高輝度背景画像を受信する受信手段と、を更に有し、
    前記情報センタは、
    前記高輝度画像を前記自車両の位置情報とともに記憶する高輝度画像記憶手段と、
    前記高輝度画像から抽出した移動体を前記高輝度画像から削除した高輝度背景画像を作成して記憶する背景画像記憶手段と、を有し、
    前記合成手段は、前記情報センタから取得した高輝度背景画像と前記移動体検出手段により検出された移動体とを合成することを特徴とする請求項1に記載の車両用表示装置。
  3. 前記表示手段は、前記移動体をアイコンとして表示することを特徴とする請求項1に記載の車両用表示装置。
  4. 前記情報センタから受信した高輝度背景画像の上方領域を暗く、下方領域を明るくなるように輝度を補正する輝度補正処理手段を更に有することを特徴とする請求項1に記載の車両用表示装置。
  5. 前記輝度補正処理手段は、前記照度が前記所定閾値以下の場合、前記画像撮影手段により撮影された画像と、前記高輝度背景画像とをオーバーラップすることにより輝度を補正することを特徴とする請求項4に記載の車両用表示装置。
  6. 前記輝度補正処理手段は、前記情報センタから受信した高輝度背景画像の上方領域の色調を変更することを特徴とする請求項4に記載の車両用表示装置。
  7. 前記合成手段は、前記高輝度背景画像から静止物の3次元データを作成し、当該3次元データを用いて自車両から遠い静止物ほど暗くなるよう輝度を補正することを特徴とする請求項1に記載の車両用表示装置。
  8. 前記合成手段は、前記高輝度背景画像から消失点を算出し、当該消失点に近いほど暗く、消失点から遠いほど明るくなるよう輝度を補正することを特徴とする請求項1に記載の車両用表示装置。
  9. 前記移動体検出手段により検出された移動体との距離を検出する距離検出手段と、
    前記距離検出手段により検出された移動体との距離に応じて前記高輝度背景画像に合成される移動体の表示サイズを変更する表示サイズ補正手段と、を更に有することを特徴とする請求項1に記載の車両用表示装置。
  10. 前記合成手段は、前記高輝度背景画像からドライバに注意を向けさせたい対象物を特定し、当該特定された対象物を強調表示するよう補正する強調補正手段を更に有することを特徴とする請求項1に記載の車両用表示装置。
  11. 前記強調補正手段は、前記高輝度背景画像からドライバに危険予知をさせたい領域を特定し、当該特定された領域を強調表示するよう補正することを特徴とする請求項10に記載の車両用表示装置。
  12. 前記移動体検出手段は、撮影位置及びアングルが略同じ複数の高輝度背景画像から、当該高輝度背景画像中の静止物を除去した画像を比較することにより移動体を検出することを特徴とする請求項1に記載の車両用表示装置。
  13. 前記距離検出手段により検出された移動体との距離に応じて危険度を判定する危険度判定手段を更に有し、
    前記合成手段は、前記危険度の高い移動体ほど強調表示するよう補正することを特徴とする請求項9に記載の車両用表示装置。
JP2009082598A 2009-03-30 2009-03-30 車両用表示装置 Expired - Fee Related JP5299026B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009082598A JP5299026B2 (ja) 2009-03-30 2009-03-30 車両用表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009082598A JP5299026B2 (ja) 2009-03-30 2009-03-30 車両用表示装置

Publications (2)

Publication Number Publication Date
JP2010234851A true JP2010234851A (ja) 2010-10-21
JP5299026B2 JP5299026B2 (ja) 2013-09-25

Family

ID=43089628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009082598A Expired - Fee Related JP5299026B2 (ja) 2009-03-30 2009-03-30 車両用表示装置

Country Status (1)

Country Link
JP (1) JP5299026B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012121048A1 (ja) * 2011-03-04 2012-09-13 トヨタ自動車株式会社 接近車両検出装置
WO2013118191A1 (ja) * 2012-02-10 2013-08-15 三菱電機株式会社 運転支援装置及び運転支援方法
CN103625397A (zh) * 2012-08-27 2014-03-12 株式会社万都 用于识别车辆周边环境的系统
JP2015009676A (ja) * 2013-06-28 2015-01-19 株式会社デンソー 情報提供装置および情報提供方法
JP2015180041A (ja) * 2014-02-25 2015-10-08 マツダ株式会社 車両用表示制御装置
WO2015152304A1 (ja) * 2014-03-31 2015-10-08 エイディシーテクノロジー株式会社 運転支援装置、及び運転支援システム
JP2017028349A (ja) * 2015-07-15 2017-02-02 株式会社デンソー 映像処理装置、運転支援表示システム、及び映像処理方法
JP2017154613A (ja) * 2016-03-02 2017-09-07 トヨタ自動車株式会社 車両用表示装置
WO2018092919A1 (ja) * 2016-11-21 2018-05-24 京セラ株式会社 画像処理装置、撮像装置、および表示システム
JP2018085581A (ja) * 2016-11-21 2018-05-31 京セラ株式会社 画像処理装置、撮像装置、および表示システム
CN109819675A (zh) * 2017-09-12 2019-05-28 松下知识产权经营株式会社 图像生成装置以及图像生成方法
JP2019121876A (ja) * 2017-12-28 2019-07-22 パナソニックIpマネジメント株式会社 画像処理装置、表示装置、ナビゲーションシステム、画像処理方法及びプログラム
CN110706497A (zh) * 2018-07-10 2020-01-17 本田技研工业株式会社 图像处理装置以及计算机可读存储介质
JP2020166584A (ja) * 2019-03-29 2020-10-08 トヨタ自動車株式会社 画像情報収集システム及び車両
JP7399226B1 (ja) 2022-07-13 2023-12-15 三菱電機株式会社 管制支援装置、管制支援方法及び管制支援プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10311732A (ja) * 1997-05-09 1998-11-24 Toyota Motor Corp 車両用表示装置
JP2006242859A (ja) * 2005-03-04 2006-09-14 Denso Corp 車両用情報表示装置
JP2006327310A (ja) * 2005-05-24 2006-12-07 Nissan Motor Co Ltd 車両用情報表示方法及び車両用情報表示装置
JP2007122578A (ja) * 2005-10-31 2007-05-17 Equos Research Co Ltd 仮想車線表示装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10311732A (ja) * 1997-05-09 1998-11-24 Toyota Motor Corp 車両用表示装置
JP2006242859A (ja) * 2005-03-04 2006-09-14 Denso Corp 車両用情報表示装置
JP2006327310A (ja) * 2005-05-24 2006-12-07 Nissan Motor Co Ltd 車両用情報表示方法及び車両用情報表示装置
JP2007122578A (ja) * 2005-10-31 2007-05-17 Equos Research Co Ltd 仮想車線表示装置

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012121048A1 (ja) * 2011-03-04 2012-09-13 トヨタ自動車株式会社 接近車両検出装置
JP2012185004A (ja) * 2011-03-04 2012-09-27 Toyota Motor Corp 接近車両検出装置
CN103380448A (zh) * 2011-03-04 2013-10-30 丰田自动车株式会社 靠近车辆检测装置
CN103380448B (zh) * 2011-03-04 2015-11-25 丰田自动车株式会社 靠近车辆检测装置
WO2013118191A1 (ja) * 2012-02-10 2013-08-15 三菱電機株式会社 運転支援装置及び運転支援方法
CN104115199A (zh) * 2012-02-10 2014-10-22 三菱电机株式会社 驾驶支援装置以及驾驶支援方法
JPWO2013118191A1 (ja) * 2012-02-10 2015-05-11 三菱電機株式会社 運転支援装置及び運転支援方法
US9852632B2 (en) 2012-02-10 2017-12-26 Mitsubishi Electric Corporation Driving assistance device and driving assistance method
CN103625397A (zh) * 2012-08-27 2014-03-12 株式会社万都 用于识别车辆周边环境的系统
JP2015009676A (ja) * 2013-06-28 2015-01-19 株式会社デンソー 情報提供装置および情報提供方法
JP2015180041A (ja) * 2014-02-25 2015-10-08 マツダ株式会社 車両用表示制御装置
JPWO2015152304A1 (ja) * 2014-03-31 2017-04-13 エイディシーテクノロジー株式会社 運転支援装置、及び運転支援システム
WO2015152304A1 (ja) * 2014-03-31 2015-10-08 エイディシーテクノロジー株式会社 運転支援装置、及び運転支援システム
JP2017028349A (ja) * 2015-07-15 2017-02-02 株式会社デンソー 映像処理装置、運転支援表示システム、及び映像処理方法
JP2017154613A (ja) * 2016-03-02 2017-09-07 トヨタ自動車株式会社 車両用表示装置
US11030468B2 (en) 2016-11-21 2021-06-08 Kyocera Corporation Image processing apparatus
JP2018085581A (ja) * 2016-11-21 2018-05-31 京セラ株式会社 画像処理装置、撮像装置、および表示システム
WO2018092919A1 (ja) * 2016-11-21 2018-05-24 京セラ株式会社 画像処理装置、撮像装置、および表示システム
CN109819675A (zh) * 2017-09-12 2019-05-28 松下知识产权经营株式会社 图像生成装置以及图像生成方法
CN109819675B (zh) * 2017-09-12 2023-08-25 松下知识产权经营株式会社 图像生成装置以及图像生成方法
JP2019121876A (ja) * 2017-12-28 2019-07-22 パナソニックIpマネジメント株式会社 画像処理装置、表示装置、ナビゲーションシステム、画像処理方法及びプログラム
CN110706497A (zh) * 2018-07-10 2020-01-17 本田技研工业株式会社 图像处理装置以及计算机可读存储介质
CN110706497B (zh) * 2018-07-10 2022-12-20 本田技研工业株式会社 图像处理装置以及计算机可读存储介质
JP2020166584A (ja) * 2019-03-29 2020-10-08 トヨタ自動車株式会社 画像情報収集システム及び車両
JP7399226B1 (ja) 2022-07-13 2023-12-15 三菱電機株式会社 管制支援装置、管制支援方法及び管制支援プログラム

Also Published As

Publication number Publication date
JP5299026B2 (ja) 2013-09-25

Similar Documents

Publication Publication Date Title
JP5299026B2 (ja) 車両用表示装置
CN108460734B (zh) 车辆驾驶员辅助模块进行图像呈现的系统和方法
JP4970516B2 (ja) 周囲確認支援装置
US20050134479A1 (en) Vehicle display system
JP4882285B2 (ja) 車両用走行支援装置
US20110228980A1 (en) Control apparatus and vehicle surrounding monitoring apparatus
JP5682304B2 (ja) 画像提供装置
JP6311646B2 (ja) 画像処理装置、電子ミラーシステム、及び画像処理方法
EP2851864A1 (en) Display device for vehicle, display method for vehicle, and display program for vehicle
JP2003200755A (ja) 車両用表示装置
JP2008131648A (ja) ビデオ画像を提示する方法およびシステム
JPWO2012169029A1 (ja) 車線逸脱防止支援装置、車線逸脱防止方法、記憶媒体
JP4528283B2 (ja) 車両周辺監視装置
JP2007257286A (ja) 車両用表示システム
JP2007288657A (ja) 車両用表示装置、車両用表示装置の表示方法
JP2008222153A (ja) 合流支援装置
JP2008135856A (ja) 物体認識装置
JP2012027773A (ja) 擬似濃淡画像生成装置及びプログラム
JP2016196233A (ja) 車両用道路標識認識装置
GB2550472A (en) Adaptive display for low visibility
JP2005202787A (ja) 車両用表示装置
JP4986070B2 (ja) 車両用周囲監視装置
JP4813304B2 (ja) 車両周辺監視装置
CN109987025B (zh) 用于夜晚环境的车辆驾驶辅助系统及方法
JP2011227657A (ja) 車両の周辺を監視する装置

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20101001

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101001

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120123

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130603

R150 Certificate of patent or registration of utility model

Ref document number: 5299026

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees