JP4784659B2 - 車両用周辺監視装置 - Google Patents

車両用周辺監視装置 Download PDF

Info

Publication number
JP4784659B2
JP4784659B2 JP2009032682A JP2009032682A JP4784659B2 JP 4784659 B2 JP4784659 B2 JP 4784659B2 JP 2009032682 A JP2009032682 A JP 2009032682A JP 2009032682 A JP2009032682 A JP 2009032682A JP 4784659 B2 JP4784659 B2 JP 4784659B2
Authority
JP
Japan
Prior art keywords
obstacle
risk
vehicle
video
detection reliability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009032682A
Other languages
English (en)
Other versions
JP2010191520A (ja
Inventor
歳康 勝野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2009032682A priority Critical patent/JP4784659B2/ja
Priority to US12/705,179 priority patent/US20100208075A1/en
Priority to DE102010001954A priority patent/DE102010001954A1/de
Publication of JP2010191520A publication Critical patent/JP2010191520A/ja
Application granted granted Critical
Publication of JP4784659B2 publication Critical patent/JP4784659B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/002Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle
    • B60Q9/004Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle using wave sensors
    • B60Q9/005Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle using wave sensors using a video camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/30Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing vision in the non-visible spectrum, e.g. night or infrared vision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8033Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for pedestrian protection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Transportation (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、車両周辺の映像を取得し、取得した映像等に基づいて運転者に注意喚起を行うための注意喚起信号を出力する車両用周辺監視装置に関する。
従来から、車両にカメラ等の映像取得部を搭載し、カメラ等の映像取得部により取得された車両周辺の映像を、車両内部の運転者が視認可能な位置に備えられたディスプレイに表示して、運転者の視界を補助するための車両用周辺監視装置が提案されている。
このような車両用周辺監視装置として、例えば、車両周辺の映像を取得し、取得した映像に基づいて歩行者等の障害物の有無を認識し、ディスプレイを通じて障害物の存在を運転者に注意喚起するもの等が提案されている。ディスプレイを通じて障害物の存在を運転者に注意喚起すると、運転者の視線をディスプレイに誘導することになる。
特開2007−087203号公報 特開2008−027309号公報 特開2008−135856号公報
しかしながら、歩行者等の障害物が存在する場合に、常に注意喚起して運転者の視線をディスプレイに誘導すると、車両の前方に対する運転者の注意力を奪ってしまう虞があるという問題があった。
すなわち、例えば、車両と障害物との距離が十分に離れている場合のように、車両と障害物との衝突の危険度が低い場合には、注意喚起を行うことにより運転者の視線をディスプレイに誘導せずに、車両の前方を直接視認させる方が好ましいと考えられる。車両の前方に対する運転者の注意力を維持させるためである。
又、歩行者等の障害物の検出信頼度(検出の確からしさ)にはバラツキがあるため、検出信頼度が低い場合には、注意喚起を行うことにより運転者の視線をディスプレイに誘導せずに、車両の前方を直接視認させる方が好ましいと考えられる。車両の前方に対する運転者の注意力を維持させるためである。
一方、車両と障害物との衝突の危険度が高く、かつ、障害物の検出信頼度も高い場合は、間違いなく危険が迫っていると考えられるため、運転者に確実に注意喚起を行い、危険回避行動を起こさせる必要がある。
ところが、従来の車両用周辺監視装置は、上記のような様々なケースが適切に区別されておらず、注意喚起の必要性が低い場合にもディスプレイを通じて障害物の存在を運転者に注意喚起し、運転者の視線をディスプレイに誘導していたため、運転者は車両の前方に対する注意力を維持することができない虞があった。
上記の点に鑑みて、車両と障害物との衝突の危険度や障害物の検出信頼度を考慮して、必要な場合に運転者に注意喚起を行うことが可能な車両用周辺監視装置を提供することを課題とする。
本車両用周辺監視装置は、車両周辺の映像を取得する映像取得部と、前記映像取得部の取得した映像を処理する信号処理部と、を有する車両用周辺監視装置であって、前記信号処理部は、前記映像取得部が取得した前記映像から障害物を認識して障害物の位置を算出するとともに、前記障害物の認識の確からしさを示す検出信頼度を算出する障害物認識手段と、前記障害物と前記車両とが衝突をする危険性の度合いを示す危険度を算出する危険度算出手段と、前記検出信頼度を、前記危険度に応じて補正して検出信頼度補正値を算出する検出信頼度補正値算出手段と、前記検出信頼度補正値が閾値よりも高い場合のみ、運転者に注意喚起を行うための注意喚起信号を出力する注意喚起手段と、前記障害物の位置における輝度を算出する輝度算出手段と、前記障害物と前記車両とが衝突する推定危険度を算出する推定危険度算出手段と、を有し、前記危険度算出手段は、前記輝度及び前記推定危険度に基づいて2次元で前記危険度を算出することを要件とする。
開示の技術によれば、車両と障害物との衝突の危険度や障害物の検出信頼度を考慮して、必要な場合に運転者に注意喚起を行うことが可能な車両用周辺監視装置を提供することができる。
本実施の形態に係る車両用周辺監視装置の概略の構成を例示する図である。 推定危険度算出手段について説明するための図(その1)である。 推定危険度算出手段について説明するための図(その2)である。 危険度算出手段について説明するための図である。 検出信頼度補正値算出手段について説明するための図である。 表示部で表示された映像の例を示す図である。 本実施の形態に係る車両用周辺監視装置で行われる動作のフローチャートの例である。
以下、図面を参照して、実施の形態の説明を行う。
図1は本実施の形態に係る車両用周辺監視装置の概略の構成を例示する図である。図1を参照するに、車両用周辺監視装置10は、映像取得部20と、信号処理部30と、センサ部50とを有する。60は、車両用周辺監視装置10から出力される映像信号を表示する表示部である。
映像取得部20は、レンズ21と、第1のプリズム22と、第2のプリズム23と、第1の撮像素子24と、第2の撮像素子25とを有する。信号処理部30は、基準信号生成手段31と、第1の入力信号処理手段32と、第2の入力信号処理手段33と、映像合成手段35と、障害物認識手段41と、輝度算出手段42と、推定危険度算出手段43と、危険度算出手段44と、検出信頼度補正値算出手段45と、注意喚起手段46と、図示しないCPU(中央算出装置)や記憶手段(メモリ)等を有する。センサ部50は、コンライトセンサ51と、車速センサ52と、操舵角センサ53と、距離センサ54とを有する。
映像取得部20は、例えば、CCD(Charge Coupled Device)カメラやCMOS(Complementary Metal−Oxide Semiconductor)カメラ等であり、車両周辺の映像を取得する機能を有する。レンズ21は、例えば、魚眼レンズ等であり、被写体から放射される光を結像する機能を有する。
第1のプリズム22及び第2のプリズム23は、例えば、ガラスや水晶等から構成されており、レンズ21から入射する光のうち第1の波長領域の光を直進させ、第1の撮像素子24に選択的に入射する機能を有する。又、第1のプリズム22及び第2のプリズム23は、レンズ21から入射する光のうち第1の波長領域の光よりも長波長の第2の波長領域の光を、第1のプリズム22と第2のプリズム23との境界面で反射し、第2の撮像素子25に選択的に入射する機能を有する。
ここで、第1の波長領域は可視光線領域を含む波長領域であり、第2の波長領域は近赤外線領域を含む波長領域である。すなわち、第1の波長領域は、例えば、可視光線領域のみでもよいし、可視光線領域に近赤外線領域等を加えた波長領域でも構わない。又、第2の波長領域は、例えば、近赤外線領域のみでもよいし、近赤外線領域に赤外線領域等を加えた波長領域でも構わない。
第1の撮像素子24及び第2の撮像素子25は、例えば、CCDやCMOS等の半導体から構成されており、入射する被写体の光学像を電気信号に変換する機能を有する。第1の撮像素子24及び第2の撮像素子25は、同じ波長領域の光に感度を持つものでも構わないが、第1の撮像素子24は、第1の波長領域の光に感度を持ち、第2の撮像素子25は、第2の波長領域の光に感度を持つことが好ましい。第1の撮像素子24及び第2の撮像素子25で変換された電気信号は、信号処理部30の第1の入力信号処理手段32及び第2の入力信号処理手段33に入力される。
信号処理部30は、映像取得部20から入力された信号に所定の信号処理を施し、表示部60に出力する機能を有する。信号処理部30は、例えば、ECU(Electronic Control Unit )内に設けられている。基準信号生成手段31は、基準信号を生成する発振器を含む回路である。基準信号生成手段31で生成された基準信号は、第1の入力信号処理手段32及び第2の入力信号処理手段33に入力される。
第1の入力信号処理手段32及び第2の入力信号処理手段33は、基準信号生成手段31で生成された基準信号に基づいて駆動信号を生成し、第1の撮像素子24及び第2の撮像素子25を駆動する。又、第1の入力信号処理手段32及び第2の入力信号処理手段33は、第1の撮像素子24及び第2の撮像素子25から入力された電気信号に所定の信号処理を施し、映像合成手段35、障害物認識手段41、及び輝度算出手段42に入力する。
所定の信号処理とは、例えば、信号のノイズを低減するCDS(相関2重サンプリング)、信号を正規化するAGC(オートゲインコントロール)、アナログ−ディジタル変換、ディジタル信号処理(色空間変換、輪郭強調補正、ガンマ補正処理等)等を指し、所定の信号処理を施された電気信号は、コンポジットビデオやYUV等の映像信号となる。
以降、第1の入力信号処理手段32で所定の処理を施され、第1の入力信号処理手段32から出力される信号を第1の映像信号と、第2の入力信号処理手段33で所定の処理を施され、第2の入力信号処理手段33から出力される信号を第2の映像信号という。又、第1の映像信号により表示されるべき映像を第1の映像と、第2の映像信号により表示されるべき映像を第2の映像という。すなわち、第1の映像信号は、可視光線領域を含む光による映像信号であり、第2の映像信号は、近赤外線領域を含む光による映像信号である。又、第1の映像は、可視光線領域を含む光により表示されるべき映像であり、第2の映像は、近赤外線領域を含む光により表示されるべき映像である。
映像合成手段35は、第1の入力信号処理手段32及び第2の入力信号処理手段33から入力される第1の映像信号及び第2の映像信号に所定の重みAを付けた後に、それらを合成した映像信号を生成し、表示部60に出力する。すなわち、表示部60に出力される映像信号は、「第1の映像信号×(1−A)+第2の映像信号×A」となる。所定の重みAは、予め定められた固定値でも構わないし、障害物認識手段41、輝度算出手段42等の算出結果のうちの一部又は全てに基づいて適宜決定(状況に応じてAを可変にする)しても構わない。
例えば、映像輝度が高い場合には、第2の映像信号(近赤外線領域を含む光による映像信号)の重みAを小さくし、第1の映像信号(可視光線領域を含む光による映像信号)の重みを大きくする。これにより、ピントの合った映像を得ることができる。又、第1の映像信号(可視光線領域を含む光による映像信号)の重みを大きくすることにより、カラー映像表示が可能となる。
障害物認識手段41は、第1の映像信号及び/又は第2の映像信号に基づいて、映像取得部20が取得した映像の中の障害物の有無を認識し、障害物を認識した場合には障害物の位置を算出する。更に、障害物認識手段41は、障害物の認識の確からしさを示す検出信頼度を算出する。ここで、障害物とは、例えば、歩行者や他の車両等である。以下、障害物が歩行者である場合を例に説明を行う。
障害物である歩行者の認識、障害物である歩行者の位置の算出、及び検出信頼度の算出は、例えば、パターンマッチング方式を用いて実現できる。一例を挙げると、歩行者の画像パターンを予め認識して記憶手段(メモリ)に記憶しておき、第1の映像信号及び/又は第2の映像信号と予め記憶していた歩行者の画像パターンとを比較し、両者が一致したら歩行者有りと認識し、歩行者の位置を算出するが如くである。この際、例えば画像パターンとのマッチング度に応じて、歩行者有との認識の確からしさを示す検出信頼度(例えば0〜1)を算出することができる。
検出信頼度は、CPU(中央算出装置)の処理能力や記憶手段(メモリ)に記憶されている画像パターンの容量等により決まるため、全ての状況において高い検出信頼度を保証することは困難である。すなわち、状況によっては、歩行者らしきものが認識されたが、画像パターンとのマッチング度が低いため、低い検出信頼度が算出される場合がある。低い検出信頼度は、検出されたものが歩行者ではない虞があることを意味する。逆に、画像パターンとのマッチング度が高いため、高い検出信頼度が算出される場合がある。高い検出信頼度は、検出されたものが歩行者である可能性が高いことを意味する。
障害物認識手段41が検出信頼度を算出する目的は、後述するように、検出信頼度を注意喚起表示の必要性を判定する際の情報の一つとして利用するためである。障害物認識手段41による認識結果(歩行者の有無、歩行者の位置、検出信頼度)は、映像合成手段35、輝度算出手段42及び推定危険度算出手段43に入力される。
輝度算出手段42は、障害物認識手段41による認識結果に基づいて、第1の映像信号及び/又は第2の映像信号から、歩行者の位置における映像の輝度(歩行者の輝度)を算出する。歩行者の輝度は、例えば歩行者の位置に対応する画素の輝度の平均値を算出することにより求めてもよいし、歩行者の位置に対応する画素の中から代表点を選択して、選択した画素の輝度を歩行者の輝度としてもよい。輝度算出手段42による輝度の算出結果は、映像合成手段35、推定危険度算出手段43及び危険度算出手段44に入力される。
推定危険度算出手段43は、障害物認識手段41による認識結果、輝度算出手段42による算出結果、及び後述するセンサ部50による検出結果に基づいて、障害物と車両とが衝突をする危険性の度合いを推定した値である推定危険度を算出する。例えば、障害物である歩行者と車両との距離が十分に離れていれば、歩行者と車両との距離が接近している場合に比べて、算出される推定危険度は小さな値になる。推定危険度算出手段43による推定危険度の算出結果は、危険度算出手段44に入力される。
図2及び図3を用いて推定危険度算出手段43による算出の具体例について説明する。図2は、推定危険度算出手段について説明するための図(その1)である。図3は、推定危険度算出手段について説明するための図(その2)である。図2において、101は車両を、102は車両の有するヘッドライトを示している。又、103a〜103dは、車両101のヘッドライト102が出射する光の各ポイントにおける等輝度曲線を示している。103a〜103dの括弧内の100、50、30、10の各数字は、各等輝度曲線103a〜103dの輝度値の例(単位:ルックス)である。図3において、104は障害物を示している。又、105は操舵角、ホイールベース、及び車速等から算出される円旋回半径Rの軌跡を示している。推定危険度は、例えば、等輝度曲線103a〜103d、障害物104までの距離d、相対速度、円旋回半径Rの軌跡、及び車速等から算出することができる。
図1に戻り、危険度算出手段44は、輝度算出手段42による算出結果、及び推定危険度算出手段43による算出結果に基づいて、障害物と車両とが衝突をする危険性の度合いを示す危険度を算出する。危険度算出手段44による危険度の算出結果は、検出信頼度補正値算出手段45に入力される。
図4を用いて危険度算出手段44による算出の具体例について説明する。図4は、危険度算出手段について説明するための図である。図4において、縦軸の1/(対象の輝度比)は、輝度算出手段42が算出した歩行者の位置における映像の輝度から求めたものである。0に近い部分が白に対応し、1.0に近づくにつれて黄、赤/青、黒に対応する。横軸は、推定危険度算出手段43が算出した推定危険度である。「4,6,8,10」の数値は、危険度算出手段44が、輝度算出手段42による算出結果、及び推定危険度算出手段43による算出結果に基づいて、危険度を算出した結果である。図4の例では、縦軸の1/(対象の輝度比)及び横軸の推定危険度から所定の領域を決定し、所定の領域毎に危険度を「4,6,8,10」としている。
例えば、推定危険度が高くても、障害物が白であれば運転者は障害物を認識しやすいため、危険度は低く危険度4である。又、障害物が黒であれば運転者は障害物を認識し難いが、推定危険度が低い場合には、危険度は低く危険度4である。一方、推定危険度が高くて、障害物が黒であれば、危険度は高く危険度10である。このように、危険度算出手段44は、輝度算出手段42が算出した歩行者の輝度、及び推定危険度算出手段43が算出した推定危険度に基づいて、2次元で危険度を算出することができる。
図1に戻り、検出信頼度補正値算出手段45は、歩行者認識手段41が算出した検出信頼度を、危険度算出手段44が算出した危険度に応じて補正して検出信頼度補正値を算出する。検出信頼度補正値算出手段45により算出された検出信頼度補正値は、注意喚起手段46に入力される。
図5を用いて検出信頼度補正値算出手段45による算出の具体例について説明する。図5は、検出信頼度補正値算出手段について説明するための図である。図5において、縦軸は補正値Kであり、横軸は危険度である。横軸の危険度は、危険度算出手段44が算出した値であり、例えば図4に示した危険度「4,6,8,10」に対応する。補正値Kは、予め決定された値であり、記憶手段(メモリ)に記憶されている。補正値Kのカーブは任意に決定してよいが、危険度が高いほど(10に近いほど)1に近い数値になるように決定される。検出信頼度補正値算出手段45は、図5に示す補正値Kを用いて歩行者認識手段41が算出した検出信頼度を補正して検出信頼度補正値を算出する。すなわち、「検出信頼度補正値=歩行者認識手段41が算出した検出信頼度×補正値K」を求める。
図1に戻り、注意喚起手段46は、検出信頼度補正値算出手段45が算出した検出信頼度補正値が所定の表示判定閾値よりも大きければ、表示部60に注意喚起信号を出力する。このように、注意喚起手段46は、検出信頼度補正値が所定の表示判定閾値よりも大きければ、表示部60に注意喚起信号を出力するが、これは次のような意義を有する。
すなわち、原則として、危険度が高い場合には検出信頼度補正値が高くなければならない。これは、表示部60に注意喚起信号を出力し、運転者に歩行者に対する注意喚起を促す必要があるからである。従って、図5に例示したように危険度が高い場合には、補正値Kは1に近い値になる。
一方、危険度が低い場合には必ずしも検出信頼度補正値が高い必要はなく、むしろ検出信頼度補正値を低くした方が好ましいと考えられる。例えば、図4の例では障害物が白であれば運転者は障害物を認識しやすいため、危険度は低く危険度4である。このような場合に、運転者に表示部60を通じて注意喚起すると、運転者の視線を表示部60に誘導することになるが、危険が迫っているわけではないから、むしろ運転者が表示部60ではなく障害物を直接視認する方が好ましいと考えられる。そこで、危険度が低い場合には、補正値Kを1よりも小さくする。その結果、検出信頼度補正値が所定の表示判定閾値以下であれば、表示部60に注意喚起信号は出力されない。
ただし、そもそも障害物認識手段41が算出した検出信頼度が低い場合には、本当に歩行者が存在するか否かが怪しい。このような場合にも、注意喚起をして運転者の視線を表示部60に誘導するよりは、むしろ運転者が歩行者を直接視認する方が好ましいと考えられる。この場合には、そもそも障害物認識手段41が算出した検出信頼度が低いので危険度が高くても(補正値Kが1に近くても)検出信頼度補正値は小さな値になり、検出信頼度補正値が所定の表示判定閾値以下であれば、表示部60に注意喚起信号は出力されない。
このように、障害物認識手段41が算出した検出信頼度が高く、かつ、危険度が高いほど(間違いなく危険が迫っている場合ほど)、表示部60に注意喚起信号が出力されることになる。すなわち、必ず注意喚起をしなければならない場合(歩行者が間違いなく検知され、かつ、危険度が高い場合)には、確実に注意喚起を行うことができる。一方、そうでない場合には、注意喚起を行わず運転者の視線を表示部60に誘導しないため、運転者の車両の前方に対する注意力を維持させることができる。
図1に戻り、センサ部50は、車両や車両周辺の情報を取得する機能を有する。コンライトセンサ51は、例えば、車体外部に取り付けられており、車両周辺の輝度(明るさ)を検出し、検出結果に応じた信号を推定危険度算出手段43に出力する。車速センサ42は、例えば、車両の車輪等に取り付けられており、車輪の回転速度を検出し、検出結果に応じた信号を推定危険度算出手段43に出力する。
操舵角センサ43は、例えば、車両のステアリングシャフトに取り付けられており、ステアリングの回転角を検出し、検出結果に応じた信号を推定危険度算出手段43に出力する。距離センサ54は、例えばミリ波レーダ等の車両と障害物との距離を検出するセンサであり、検出結果に応じた信号を推定危険度算出手段43に出力する。
表示部60は、例えば、液晶ディスプレイ等であり、映像合成手段35で合成された映像信号のみを、又は、映像合成手段35で合成された映像信号に注意喚起手段46で出力された注意喚起信号を重畳した映像信号を、映像として表示する機能を有する。表示部60は、車両内部の運転者が視認可能な位置に備えられている。
図6は、表示部で表示された映像の例を示す図である。図6(1)は、表示部60が、映像合成手段35で合成された映像信号のみを表示した例を示している。図6(2)及び図6(3)は、表示部60が、映像合成手段35で合成された映像信号に注意喚起手段46で出力された注意喚起信号を重畳した映像信号を表示した例を示している。図6(2)では、表示部60で表示された映像の歩行者が認識された領域に、注意喚起信号として注意喚起枠110を重畳させて表示している。図6(3)では、運転者に歩行者の認識を容易にするために、図6(2)に更に歩行者の位置を示す注意喚起枠111を重畳させて表示している。なお、注意喚起枠110や111は、枠の色を変化させたり、枠を点滅させたりすることで、更に運転者に対する注意喚起の効果を向上することが期待できる。
続いて、図7を参照しながら、車両用周辺監視装置10で行われる処理について詳しく説明する。図7は、本実施の形態に係る車両用周辺監視装置で行われる動作のフローチャートの例である。
ステップ100において、映像取得部20は、車両周辺の映像を取得し、第1の撮像素子24に第1の波長領域の光学像を結像する。又、第2の撮像素子25に第2の波長領域の光学像を結像する(S100)。ここで、第1の波長領域は可視光線領域を含む波長領域であり、第2の波長領域は近赤外線領域を含む波長領域である。すなわち、第1の波長領域は、例えば、可視光線領域のみでもよいし、可視光線領域に近赤外線領域等を加えた波長領域でも構わない。又、第2の波長領域は、例えば、近赤外線領域のみでもよいし、近赤外線領域に赤外線領域等を加えた波長領域でも構わない。
ステップ101において、第1の撮像素子24は、第1の波長領域の光学像を電気信号に変換し、第1の入力信号処理手段32に入力する。又、第2の撮像素子25は、第2の波長領域の光学像を電気信号に変換し、第2の入力信号処理手段33に入力する(S101)。
ステップ102において、第1の入力信号処理手段32及び第2の入力信号処理手段33は、入力された電気信号に所定の信号処理を施した第1の映像信号及び第2の映像信号を、映像合成手段35、障害物認識手段41、及び輝度算出手段42に入力する(S102)。
ステップ103において、障害物認識手段41は、第1の映像信号及び/又は第2の映像信号に基づいて、映像取得部20が取得した映像の中の歩行者の有無を認識し、歩行者を認識した場合には歩行者の位置を算出する。更に、障害物認識手段41は、障害物の認識の確からしさを示す検出信頼度を算出する(S103)。歩行者の認識、歩行者の位置の算出、及び検出信頼度の算出は、例えば、前述のようにパターンマッチング方式を用いて実現できる。障害物認識手段41による認識結果(歩行者の有無、歩行者の位置、検出信頼度)は、映像合成手段35、輝度算出手段42及び推定危険度算出手段43に入力される。
ステップ104において、輝度算出手段42は、障害物認識手段41による認識結果に基づいて、第1の映像信号及び/又は第2の映像信号から、歩行者の位置における映像の輝度を算出する(S104)。輝度算出手段42による輝度の算出結果は、映像合成手段35及び危険度算出手段44に入力される。
ステップ105において、推定危険度算出手段43は、障害物認識手段41による認識結果、輝度算出手段42による算出結果、及び後述するセンサ部50による検出結果に基づいて、推定危険度を算出する(S105)。推定危険度算出手段43による推定危険度の算出結果は、危険度算出手段44に入力される。
ステップ106において、危険度算出手段44は、輝度算出手段42による輝度の算出結果、及び推定危険度算出手段43による推定危険度の算出結果に基づいて、危険度を算出する(S106)。危険度算出手段44による危険度の算出結果は、検出信頼度補正値算出手段45に入力される。危険度の算出の例は、前述の図4に示すが如くである。
ステップ107において、検出信頼度補正値算出手段45は、歩行者認識手段41が算出した検出信頼度を、危険度算出手段44が算出した危険度に応じて補正して検出信頼度補正値を算出する(S107)。検出信頼度補正値算出手段45により算出された検出信頼度補正値は、注意喚起手段46に入力される。検出信頼度補正値の算出の例は、前述の通りである。
ステップ108において、注意喚起手段46は、検出信頼度補正値算出手段45が算出した検出信頼度補正値に基づいて、注意喚起表示の必要性を判定する(S108)。注意喚起表示の必要性は、検出信頼度補正値算出手段45が算出した検出信頼度補正値が予め定められた表示判定閾値より大きいか否かによって判定される。ステップ108で、検出信頼度補正値が予め定められた表示判定閾値より大きい場合には、注意喚起手段46は、注意喚起が必要であると判定し(図7のYES)、ステップ109に移行する。ステップ109において、注意喚起手段46は、注意喚起信号を表示部60に出力する(S109)。注意喚起手段46から出力された注意喚起信号は、例えば前述の図6(2)及び図6(3)に示したように、映像合成手段35で合成された映像信号に重畳されて表示部60で表示される。注意喚起手段46は、障害物がなくなると、表示部60への注意喚起信号の出力を停止する。その結果、例えば前述の図6(2)及び図6(3)に示した注意喚起信号である注意喚起枠110や111は、消灯する。
ステップ108で、検出信頼度補正値が予め定められた表示判定閾値以下である場合には、注意喚起手段46は、注意喚起が必要でないと判定し(図7のNO)、ステップ110に移行する。ステップ110において、注意喚起手段46は、注意喚起信号を表示部60に出力しない(S110)。その結果、例えば前述の図6(1)に示したように、映像合成手段35で合成された映像信号のみが表示部60で表示される。
本実施の形態によれば、映像取得部が取得した映像から歩行者等の障害物を認識して障害物の位置及び検出信頼度を算出し、更に、算出した障害物の位置における輝度を算出する。又、走行中の車両の車速、操舵角等から障害物と車両とが衝突をする危険性の度合いを推定した値である推定危険度を算出する。そして、算出した輝度と推定危険度から、障害物と車両とが衝突をする危険性の度合いを示す危険度を2次元で算出する。更に、算出した危険度に応じた検出信頼度補正値を算出する。そして、算出した検出信頼度補正値が所定の表示判定閾値よりも大きければ注意喚起信号を出力し、映像取得部が取得した映像に重畳して表示部に表示する(注意喚起を行う)。算出した検出信頼度補正値が所定の表示判定閾値以下であれば注意喚起信号を出力せず、映像取得部が取得した映像のみを表示部に表示する(注意喚起を行わない)。
すなわち、検出信頼度を、危険度に応じて補正して検出信頼度補正値を算出し、算出した検出信頼度補正値を表示判定閾値と比較することにより、表示部60に注意喚起信号を出力するか否かを判定する。その結果、検出信頼度が高く、かつ、危険度が高いほど(間違いなく危険が迫っている場合ほど)表示部60に注意喚起信号が出力され、確実に注意喚起を行うことができる。一方、そうでない場合には、注意喚起を行わず運転者の視線を表示部60に誘導せずに、運転者の車両の前方に対する注意力を維持させることができる。このように、車両と障害物との衝突の危険度や障害物の検出信頼度を考慮して、必要な場合に運転者に注意喚起を行うことが可能となる。
以上、好ましい実施の形態について詳説したが、上述した実施の形態に制限されることはなく、特許請求の範囲に記載された範囲を逸脱することなく、上述した実施の形態に種々の変形及び置換を加えることができる。
例えば、本実施の形態では、センサ部50として、コンライトセンサ51、車速センサ52、操舵角センサ53、及び距離センサ54を用いる例を示したが、これらのセンサに代えて、又は、これらのセンサに加えて、他のセンサを用いても構わない。他のセンサの例としては、例えば、傾斜センサやGPS(Global Positioning System)等を挙げることができる。傾斜センサやGPSを用いることにより、車両の走行状況(現在車両が走行している所が、市街地であるか郊外であるか等)を判断することができる。
10 車両用周辺監視装置
20 映像取得部
21 レンズ
22 第1のプリズム
23 第2のプリズム
24 第1の撮像素子
25 第2の撮像素子
30 信号処理部
31 基準信号生成手段
32 第1の入力信号処理手段
33 第2の入力信号処理手段
35 映像合成手段
41 障害物認識手段
42 輝度算出手段
43 推定危険度算出手段
44 危険度算出手段
45 検出信頼度補正値算出手段
46 注意喚起手段
50 センサ部
51 コンライトセンサ
52 車速センサ
53 操舵角センサ
54 距離センサ
60 表示部
101 車両
102 ヘッドライト
103a〜103d ヘッドライトの等輝度曲線
104 障害物
105 円旋回半径Rの軌跡
110,111 注意喚起枠
d 距離

Claims (5)

  1. 車両周辺の映像を取得する映像取得部と、前記映像取得部の取得した映像を処理する信号処理部と、を有する車両用周辺監視装置であって、
    前記信号処理部は、前記映像取得部が取得した前記映像から障害物を認識して障害物の位置を算出するとともに、前記障害物の認識の確からしさを示す検出信頼度を算出する障害物認識手段と、
    前記障害物と前記車両とが衝突をする危険性の度合いを示す危険度を算出する危険度算出手段と、
    前記検出信頼度を、前記危険度に応じて補正して検出信頼度補正値を算出する検出信頼度補正値算出手段と、
    前記検出信頼度補正値が閾値よりも高い場合のみ、運転者に注意喚起を行うための注意喚起信号を出力する注意喚起手段と、
    前記障害物の位置における輝度を算出する輝度算出手段と、
    前記障害物と前記車両とが衝突する推定危険度を算出する推定危険度算出手段と、を有し、
    前記危険度算出手段は、前記輝度及び前記推定危険度に基づいて2次元で前記危険度を算出することを特徴とする車両用周辺監視装置。
  2. 前記推定危険度算出手段は、前記車両の車速、操舵角、及び前記車両と前記障害物との距離を含む情報に基づいて、前記推定危険度を算出することを特徴とする請求項記載の車両用周辺監視装置。
  3. 前記注意喚起信号は、前記映像取得部が取得した前記映像の前記障害物が認識された領域を囲む枠に対応する信号であることを特徴とする請求項1又は2記載の車両用周辺監視装置。
  4. 前記注意喚起信号は、前記映像取得部が取得した前記映像の前記障害物を囲む枠に対応する信号であることを特徴とする請求項1乃至の何れか一項記載の車両用周辺監視装置。
  5. 前記障害物は、歩行者であることを特徴とする請求項1乃至の何れか一項記載の車両用周辺監視装置。
JP2009032682A 2009-02-16 2009-02-16 車両用周辺監視装置 Expired - Fee Related JP4784659B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009032682A JP4784659B2 (ja) 2009-02-16 2009-02-16 車両用周辺監視装置
US12/705,179 US20100208075A1 (en) 2009-02-16 2010-02-12 Surroundings monitoring device for vehicle
DE102010001954A DE102010001954A1 (de) 2009-02-16 2010-02-15 Umgebungsüberwachungsvorrichtung für ein Fahrzeug

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009032682A JP4784659B2 (ja) 2009-02-16 2009-02-16 車両用周辺監視装置

Publications (2)

Publication Number Publication Date
JP2010191520A JP2010191520A (ja) 2010-09-02
JP4784659B2 true JP4784659B2 (ja) 2011-10-05

Family

ID=42371870

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009032682A Expired - Fee Related JP4784659B2 (ja) 2009-02-16 2009-02-16 車両用周辺監視装置

Country Status (3)

Country Link
US (1) US20100208075A1 (ja)
JP (1) JP4784659B2 (ja)
DE (1) DE102010001954A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9200895B2 (en) 2010-11-16 2015-12-01 Konica Minolta, Inc. Image input device and image processing device
US9405727B2 (en) * 2011-02-23 2016-08-02 Toyota Jidosha Kabushiki Kaisha Driving support device, driving support method, and driving support program
DE102011078615B4 (de) * 2011-07-04 2022-07-14 Toyota Jidosha Kabushiki Kaisha Objekterfassungsvorrichtung und objekterfassungsprogramm
US8994823B2 (en) * 2011-07-05 2015-03-31 Toyota Jidosha Kabushiki Kaisha Object detection apparatus and storage medium storing object detection program
US9235990B2 (en) * 2011-11-25 2016-01-12 Honda Motor Co., Ltd. Vehicle periphery monitoring device
DE102011087774A1 (de) * 2011-12-06 2013-06-06 Robert Bosch Gmbh Verfahren zur Überwachung und Signalisierung einer Verkehrssituation im Umfeld eines Fahrzeuges
US8791836B2 (en) 2012-03-07 2014-07-29 Lockheed Martin Corporation Reflexive response system for popup threat survival
US9240001B2 (en) 2012-05-03 2016-01-19 Lockheed Martin Corporation Systems and methods for vehicle survivability planning
US8831793B2 (en) * 2012-05-03 2014-09-09 Lockheed Martin Corporation Evaluation tool for vehicle survivability planning
US9030347B2 (en) 2012-05-03 2015-05-12 Lockheed Martin Corporation Preemptive signature control for vehicle survivability planning
DE102013113054B4 (de) * 2012-12-03 2022-01-27 Denso Corporation Zielerfassungsvorrichtung zum Vermeiden einer Kollision zwischen einem Fahrzeug und einem durch einen an dem Fahrzeug montierten Sensor erfassten Ziel
US9342986B2 (en) * 2013-02-25 2016-05-17 Honda Motor Co., Ltd. Vehicle state prediction in real time risk assessments
US9050980B2 (en) * 2013-02-25 2015-06-09 Honda Motor Co., Ltd. Real time risk assessment for advanced driver assist system
CN105393293B (zh) * 2013-07-18 2017-05-03 歌乐株式会社 车载装置
JP5861072B2 (ja) * 2014-03-06 2016-02-16 パナソニックIpマネジメント株式会社 表示制御装置、表示装置および表示制御プログラム
CA2983682C (en) * 2015-04-23 2018-06-12 Nissan Motor Co., Ltd. Occlusion control device
US10822110B2 (en) 2015-09-08 2020-11-03 Lockheed Martin Corporation Threat countermeasure assistance system
US10788840B2 (en) * 2016-12-27 2020-09-29 Panasonic Intellectual Property Corporation Of America Information processing apparatus, information processing method, and recording medium
JP6558393B2 (ja) * 2017-04-06 2019-08-14 トヨタ自動車株式会社 進路設定装置及び進路設定方法
JP7198742B2 (ja) * 2019-12-27 2023-01-04 本田技研工業株式会社 自動運転車両、画像表示方法およびプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004013466A (ja) * 2002-06-06 2004-01-15 Nissan Motor Co Ltd 車両周囲監視装置
JP4296951B2 (ja) * 2004-02-09 2009-07-15 株式会社豊田中央研究所 車両用情報提示装置
JP2005267112A (ja) * 2004-03-17 2005-09-29 Toyota Central Res & Dev Lab Inc ドライバ状態推定装置及び情報提示システム
JP3934119B2 (ja) * 2004-06-14 2007-06-20 本田技研工業株式会社 車両周辺監視装置
JP4598653B2 (ja) * 2005-05-13 2010-12-15 本田技研工業株式会社 衝突予知装置
JP4872245B2 (ja) * 2005-06-06 2012-02-08 トヨタ自動車株式会社 歩行者認識装置
JP2007087203A (ja) 2005-09-22 2007-04-05 Sumitomo Electric Ind Ltd 衝突判定システム、衝突判定方法及びコンピュータプログラム
JP4353162B2 (ja) * 2005-09-26 2009-10-28 トヨタ自動車株式会社 車輌周囲情報表示装置
JP2008027309A (ja) * 2006-07-24 2008-02-07 Sumitomo Electric Ind Ltd 衝突判定システム、及び衝突判定方法
JP2008135856A (ja) 2006-11-27 2008-06-12 Toyota Motor Corp 物体認識装置
JP4670805B2 (ja) * 2006-12-13 2011-04-13 株式会社豊田中央研究所 運転支援装置、及びプログラム
JP4433046B2 (ja) * 2007-12-26 2010-03-17 株式会社デンソー 露出制御装置及び露出制御プログラム

Also Published As

Publication number Publication date
JP2010191520A (ja) 2010-09-02
DE102010001954A1 (de) 2010-09-02
US20100208075A1 (en) 2010-08-19

Similar Documents

Publication Publication Date Title
JP4784659B2 (ja) 車両用周辺監視装置
JP5437855B2 (ja) 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法
US8330816B2 (en) Image processing device
US20110228980A1 (en) Control apparatus and vehicle surrounding monitoring apparatus
US20070046450A1 (en) Obstacle detector for vehicle
JP2011118482A (ja) 車載装置および認知支援システム
JP5741173B2 (ja) 画像表示装置、及び、画像表示方法
WO2011108198A1 (ja) 車両の周辺監視装置
JP2008027309A (ja) 衝突判定システム、及び衝突判定方法
JP5171723B2 (ja) 障害物検知装置、および当該装置を搭載した車両
JP2008227646A (ja) 障害物検知装置
JP2018022234A (ja) 画像処理装置、外界認識装置
JPWO2011036892A1 (ja) 運転支援表示装置
JP2011091549A (ja) 車両用夜間視界支援装置
JPWO2006028180A1 (ja) カメラ及びカメラ装置
WO2014054753A1 (ja) 画像処理装置及び車両前方監視装置
JP5991648B2 (ja) 車両用表示制御装置
JP2012099085A (ja) 車両用ウインドシールドガラス上のリアルタイム警報システム及びその作動方法
JP2008098858A (ja) 車両周辺監視装置
JP2009117978A (ja) 車両周辺表示装置
JP3999088B2 (ja) 障害物検出装置
JP5235843B2 (ja) 車両周辺監視装置および車両周辺監視方法
JP4701961B2 (ja) 歩行者検知装置
JP2009253857A (ja) 車両用周辺監視装置
JP2006178652A (ja) 車両周辺認識システム及び画像処理装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110627

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140722

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees