JP2007320390A - 運転支援方法及び運転支援装置 - Google Patents

運転支援方法及び運転支援装置 Download PDF

Info

Publication number
JP2007320390A
JP2007320390A JP2006151345A JP2006151345A JP2007320390A JP 2007320390 A JP2007320390 A JP 2007320390A JP 2006151345 A JP2006151345 A JP 2006151345A JP 2006151345 A JP2006151345 A JP 2006151345A JP 2007320390 A JP2007320390 A JP 2007320390A
Authority
JP
Japan
Prior art keywords
vehicle
image
light
image data
lamp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006151345A
Other languages
English (en)
Other versions
JP4232794B2 (ja
Inventor
Toshihiro Kano
俊博 狩野
Teruhiro Nakajima
彰宏 中嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Priority to JP2006151345A priority Critical patent/JP4232794B2/ja
Priority to EP07010148A priority patent/EP1862354B1/en
Priority to DE602007005960T priority patent/DE602007005960D1/de
Priority to CN2007101042054A priority patent/CN101081608B/zh
Priority to US11/802,439 priority patent/US8078356B2/en
Publication of JP2007320390A publication Critical patent/JP2007320390A/ja
Application granted granted Critical
Publication of JP4232794B2 publication Critical patent/JP4232794B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】良好な画質の運転支援画像を表示できる運転支援方法及び運転支援装置を提供する。
【解決手段】運転支援システム1のカメラ駆動部14は、ライト制御部25が出力した画像取込タイミング信号に基づき、テールランプTL及びブレーキランプBLの発光ダイオードの非発光時に、車両に設けられたリヤカメラ26を制御して車両周辺を撮影する。画像プロセッサ15は、カメラ駆動部14から入力した画像データGを俯瞰変換して画像メモリ17に記憶し、複数の俯瞰データを合成した合成画像をディスプレイ8に表示する。
【選択図】図1

Description

本発明は、運転支援方法及び運転支援装置に関する。
従来より、車載カメラによって撮影した映像をディスプレイに表示する車載装置が知られている。この装置は、車両後端に取り付けられた車載カメラから映像信号を入力し、その映像信号に基づく背景画像を、ガイド線とともに運転席近傍に配設されたディスプレイに出力する。
また、特許文献1には、駐車操作時に、車載カメラから入力した画像データを蓄積するとともに、蓄積した画像データを用いて画像処理を行い、車両周辺領域を俯瞰した俯瞰画像を表示する画像処理装置が提案されている。
特開2002−373327号公報
しかし、車両が後退している際、尾灯や制動灯等の点灯により車両周辺の路面や障害物等が赤色に照らされることがある。例えば、制動灯は、断続的に点灯状態となるため、制動灯が点灯状態である際に撮影された画像データと、非点灯状態の際に撮影された画像データとは、同じ路面又は連続する路面を撮影していても、異なる色調や明度のデータとなる。このように、異なる照明条件下で撮影された各画像データを用いて上記のように画像処理を行い、合成データをディスプレイに出力すると、車両周辺の路面が全て赤い合成画像や、部分的に赤色である合成画像、明度が一部異なるムラのある合成画像が表示されてしまう。従って、良好な画質の画像を表示できないばかりか、路面の標示と見間違う等、ドライバーの誤解を招く可能性もある。
本発明は、上記問題点に鑑みてなされたものであり、その目的は、良好な画質の運転支援画像を表示できる運転支援方法及び運転支援装置を提供することにある。
上記問題点を解決するために、請求項1に記載の発明は、車両に設けられた撮影手段を用いて表示手段に運転支援画像を表示する運転支援方法において、車両灯光器の発光体を、所定の周波数で発光及び非発光を繰り返した点灯状態とし、前記発光体の非発光時に、前記撮影手段により車両周辺を撮影するとともに、撮影により生成された複数の画像データを合成して合成データを生成し、前記合成データに基づく運転支援画像を表示手段に表示することを要旨とする。
請求項2に記載の発明は、車両に設けられた撮影手段から画像データを取得して、前記各画像データを画像データ記憶手段に蓄積し、複数の前記各画像データを合成した駐車支援画像を表示手段に出力する運転支援装置において、車両灯光器が、その発光体が所定の周波数で発光及び非発光を繰り返す点灯状態である際に、前記発光体の非発光時に前記撮影手段を制御して、前記車両周辺を撮影し、前記撮影手段から前記画像データを取得する撮影制御手段と、前記画像データ記憶手段に記憶した複数の前記画像データを用いて合成データを生成し、前記合成データに基づく前記運転支援画像を前記表示手段に表示する出力制御手段とを備えたことを要旨とする。
請求項3に記載の発明は、請求項2に記載の運転支援装置において、前記撮影制御手段
は、前記車両灯光器が、その発光体が非発光である非点灯状態の際は、一定の間隔又は前記車両が所定距離移動する度に前記撮影手段を制御して撮影することを要旨とする。
請求項4に記載の発明は、請求項2又は3に記載の運転支援装置において、前記撮影制御手段は、前記車両の尾灯、制動灯及び方向指示灯のうち少なくとも一つの前記発光体が非発光の時に、前記車両の後端に取付られた前記撮影手段を制御して撮影を行うことを要旨とする。
請求項5に記載の発明は、車両の異なる位置に設けられた各車両灯光器の光量を制御する灯光器制御手段と、前記各車両灯光器の光量が異なる照明条件で車両周辺を撮影する撮影制御手段と、互いに異なる照明条件下で撮影された各画像データを用いて画像処理を行い、車両周辺の物体又は道路の認識を行う画像認識手段とを備えたことを要旨とする。
請求項1に記載の発明によれば、運転支援画像には、車両灯光器の発光体が非発光の時に撮影された画像データが用いられる。運転支援画像は、発光体の照射により部分的に赤くなる等の画質不良が防止される。従って、良好な画質の運転支援画像を表示できる。
請求項2に記載の発明によれば、運転支援画像には、車両灯光器の発光体が非発光の時に撮影された画像データが用いられる。このため、運転支援画像は、車両灯光器の照射により部分的に赤くなる等の画質不良が防止される。従って、良好な画質の運転支援画像を表示することができる。
請求項3に記載の発明によれば、車両灯光器が非点灯状態の際には、一定の間隔又は前記車両が所定距離移動する度に前記撮影手段を制御して撮影を行う。このため、車両灯光器の状態に応じて、撮影手段の制御を行うことができる。
請求項4に記載の発明によれば、撮影制御手段は、車両後端に取り付けられた撮影手段から、発光体の非発光時に撮像された画像データを取得するので、後退時に車両後方の画像を示す運転支援画像を表示する際に、画質が良好な画像を表示できる。
請求項5に記載の発明によれば、運転支援画像は、車両の異なる位置に設けられた車両灯光器による照明条件が異なるときに撮影した複数の画像データを用いて画像認識を行う。このため、車両周辺の物体が異なる条件で照らされるので、物体の形状をより詳細に認識することができる。
以下、本発明の運転支援装置を具体化した実施形態を図1〜図7に従って説明する。図1は、本実施形態の運転支援装置のブロック図である。
図1に示すように、運転支援システム1は、運転支援装置としての制御装置2を備えている。制御装置2は、灯光器制御手段及び撮影制御手段としての制御部3、メインメモリ4及びROM5を有している。制御部3は、ROM5に格納された運転支援プログラム等、各種プログラムに従って各種処理の主制御を行う。メインメモリ4は、制御部3の演算結果を一時記憶するとともに、運転支援のための各種変数、フラグ等を記憶している。
ROM5には、各種プログラムの他、車両画像データ5aが格納されている。車両画像データ5aは、運転支援システム1を実装した車両(図2参照)の画像を表示手段としてのディスプレイ8に出力するためのデータである。
ディスプレイ8は、タッチパネルであって、このタッチパネルにおいて入力操作が行わ
れると、制御装置2が備える外部入力インターフェース部(以下、外部入力I/F部10という)を介して、入力操作に応じた信号が制御部3に出力される。また、ディスプレイ8に隣設された操作スイッチ9がユーザにより入力操作されると、同じように外部入力I/F部10を介して、入力操作に応じた信号が制御部3に出力される。
また、制御装置2は、音声プロセッサ11を備えている。音声プロセッサ11は、音声ファイルを格納した図示しないメモリやデジタル/アナログ変換器等を備え、その音声ファイルを使用して、運転支援システム1が具備するスピーカ12から案内音声や警告音を出力する。
さらに、制御装置2は、車両側インターフェース部(以下、車両側I/F部13という)を備えている。制御部3は、この車両側I/F部13を介して、車両Cに設けられた車速センサ20から車速パルスを入力し、パルス数をカウントする。また、制御部3は、車両側I/F部13を介してジャイロ21から方位検出信号を入力し、メインメモリ4に格納された変数である、現在方位を更新する。
また、制御部3は、車両側I/F部13を介して、車両Cのニュートラルスタートスイッチ22から、シフトポジション信号を入力し、メインメモリ4に格納された変数であるシフトポジションを更新する。さらに、制御部3は、車両側I/F部13を介して、ステアリング舵角センサ23から、ステアリングセンサ信号を入力する。
制御部3は、リバースを示すシフトポジション信号が入力されると、そのときの車両の位置を、後退を開始した基準位置として設定する。そして、その基準位置と、車速パルス及びステアリングセンサ信号に基づき、基準位置からの相対座標、相対舵角を演算する。
また、制御部3は、車両側I/F部13を介して、車両Cのライト制御部25と接続されている。ライト制御部25は、図3に示す車両Cの車両灯光器、尾灯としてのテールランプTL、制動灯としてのブレーキランプBLを点灯状態又は非点灯状態とするとともに、方向指示灯としてのターンランプSLを点滅させる。テールランプTLは、夜間等に点灯状態となり、点灯状態の際には赤色の光を出力する。ブレーキランプBLは、ブレーキを踏んだときに点灯状態となり、同じく赤色の光を出力する。ターンランプSLは、方向転換の際に、ドライバーがレバー操作を行うことによって所定の間隔で点滅するようになっている。
テールランプTL、ブレーキランプBLは、発光体としての発光ダイオードを有している。ライト制御部25は、テールランプTL及びブレーキランプBLを点灯状態とする際には、オン・オフ信号を生成し、そのオン・オフ信号に基づいて、テールランプTL、ブレーキランプBLの発光ダイオードを人の目で視認できない所定の周波数(例えば60Hz超、又は16ミリ秒未満の一定周期)で発光及び非発光を繰り返す状態にする。このため、歩行者や他車両のドライバーからは、テールランプTL及びブレーキランプBLが点灯しているようにみえる。
例えば、ライト制御部25は、図示しないブレーキセンサから、制動信号を入力すると、図6(a)に示すようなオン・オフ信号を生成し、そのオン・オフ信号に基づいて、ブレーキランプBLの発光ダイオードの発光及び非発光を高い周波数で繰り返す。このときの周波数は、人の目に見える範囲を超えているので、歩行者や他車両のドライバー等からは、ブレーキランプBLが点灯している点灯状態にみえる。ブレーキセンサから制動信号を入力しない場合には、ブレーキランプBLの発光ダイオードを継続的に非発光とし、ブレーキランプBLを非点灯状態にする。同様に、テールランプTLを点灯状態にするときは、ライト制御部25は、テールランプTLにオン・オフ信号を継続的に出力する。
また、ライト制御部25は、車両側I/F部13を介してカメラ駆動部14に画像取込タイミング信号を出力する。具体的には、ライト制御部25は、テールランプTL及びブレーキランプBLの発光ダイオードの発光及び非発光を繰り返しているとき、オン・オフ信号がオフしているタイミングで、図6(b)に示す画像取込タイミング信号を制御部3に出力する。
また、ライト制御部25は、テールランプTL及びブレーキランプBLが非点灯状態の際には、図6(b)の画像取込タイミング信号と同じ周期であって、オン・オフ信号の位相に左右されない画像取込タイミング信号を出力する。
また、撮影制御手段としてのカメラ駆動部14は、入力した画像取込タイミング信号に応答して、図3に示す車両Cの後端に取り付けられた撮影手段としてのリヤカメラ26を駆動制御する。リヤカメラ26は、広角レンズ、ミラー等から構成される光学機構と、CCD撮像素子(いずれも図示せず)とを備え、バックドア等に光軸を斜め下方に向けて取り付けられている。カメラ駆動部14は、画像取込タイミング信号に応答して、CCD撮像素子を駆動するための駆動信号、電子シャッタを駆動するための駆動信号を生成し、リヤカメラ26にそれらの信号を出力する。
即ち、図3に示すように、このリヤカメラ26は、車両Cの後方数メートルを撮像範囲Zとし、この撮像範囲ZはテールランプTLの照射範囲IRと重複する。従って、車両CのテールランプTL及びブレーキランプBLが点灯状態であるとき、リヤカメラ26が駆動されると、テールランプTL及びブレーキランプBLにより赤く照らされた路面や、障害物が撮影されることになる。このため、カメラ駆動部14は、テールランプTL及びブレーキランプBLが点灯状態であるとき、発光ダイオードの発光及び非発光の周期のうち、非発光の時に、リヤカメラ26の電子シャッタを駆動制御して撮影を行う。そして、リヤカメラ26は、CCD撮像素子から出力されたCCD出力信号に対してA/D変換等の各種処理を行う。そして、デジタル化された画像データGをカメラ駆動部14に出力する。
出力制御手段としての画像プロセッサ15は、カメラ駆動部14から画像データGを入力し、その画像データGに座標変換を行って、撮像範囲Zを真上から見下す俯瞰データG1を生成する。さらに、そのときの基準位置からの相対位置と舵角とを紐付けて、俯瞰データG1を画像データ記憶手段としての画像メモリ17に蓄積する。
画像プロセッサ15は、画像メモリ17に所定枚数の俯瞰データG1が蓄積されると、各俯瞰データG1の一部と、最新の画像データG(以下、現在画像データG2)とを連続させて、合成データG3を生成し、VRAM16に記憶する。そして、車両画像データ5a等の指標とともに、合成データG3をディスプレイ8に出力する。
次に、本実施形態の処理手順について、図4及び図5に従って説明する。図4に示す画像データ蓄積処理では、制御部3は、運転支援処理の開始トリガの入力を待つ(ステップS1−1)。開始トリガは、本実施形態では、ニュートラルスタートスイッチ22からのリバースポジションを示す信号であって、この開始トリガを入力すると(ステップS1−1においてYES)、そのときの車両Cの位置を、上記したように基準位置として設定する。さらに、ライト制御部25は、リヤカメラ26とテールランプTL及びブレーキランプBLとの同期をとるための画像取込タイミング信号を出力する(ステップS1−2)。
カメラ駆動部14は、この画像取込タイミング信号に基づいて画像取得処理を行う(ステップS1−3)。即ち、図6に示すように、カメラ駆動部14は、テールランプTL又
はブレーキランプBLが点灯状態である場合には、その発光ダイオードの発光及び非発光周期のうち、非発光時に撮影を行い、リヤカメラ26から画像データGを取得する。
カメラ駆動部14は、画像データGを入力すると、画像プロセッサ15に出力する。画像プロセッサ15は、公知の座標変換を行い、リヤカメラ26の撮像範囲Zを上方から俯瞰した俯瞰データG1を生成する。そして、制御部3に基づき、基準位置からの相対座標と、そのときの舵角とをその俯瞰データG1に紐付け、画像メモリ17に記憶する(ステップS1−4)。
そして、制御部3は、終了トリガを入力したか否かを判断する(ステップS1−5)。本実施形態では、終了トリガは、リバースポジション以外のシフトポジション信号の入力である。終了トリガを入力しない場合は(ステップS1−5においてNO)、ステップS1−2に戻り、上記した処理を繰り返す。
次に、画像合成処理について、図5に従って説明する。この画像合成処理は、図4に示す画像データ蓄積処理と並行して行われる。制御部3は、画像データ蓄積処理と同様に、開始トリガの入力を待機する(ステップS2−1)。開始トリガを入力したと判断すると(ステップS2−1においてYES)、画像プロセッサ15は、合成画像を合成可能であるか否かを判断する(ステップS2−2)。このとき、画像プロセッサ15は、車両Cの現在位置(基準位置からの相対座標)を取得し、現在の車両Cのリヤ部周辺に相当する俯瞰データG1が十分な枚数記憶されているか否かを判断する。
十分な枚数の俯瞰データG1が記憶されていない際に、合成画像を合成できないと判断すると(ステップS2−2においてNO)、画像プロセッサ15は、後方モニタ画像(図示略)をディスプレイ8に表示する(ステップS2−3)。具体的には、画像プロセッサ15は、カメラ駆動部14に、画像取得信号を出力する。カメラ駆動部14は、画像取得信号を入力すると、ライト制御部25からの、オン・オフ信号の位相によらない画像取込タイミング信号に基づき、リヤカメラ26を駆動して撮影を行う。カメラ駆動部14は、リヤカメラ26から取得した画像データGを画像プロセッサ15に出力し、画像プロセッサ15は、その画像データGをVRAM16に一時記憶した後、画像データGに基づく後方モニタ画像と、車幅延長線や舵角に基づく軌跡予想線等のガイド線とをディスプレイ8に表示する。従って、後方モニタ画像は、テールランプTL又はブレーキランプBLにより照射された車両周辺の画像となり、ドライバーが実際に視認する背景とほぼ同じ背景となる。このため、車両Cの後退中に、俯瞰データG1を用いた合成画像を表示しない場合は、画像のちらつきがなく、ドライバーに違和感を与えない画像を表示できる。
一方、合成画像を合成可能であると判断すると(ステップS2−2においてYES)、画像プロセッサ15は、カメラ駆動部14から、現在画像データG2を取得する(ステップS2−4)。このとき、カメラ駆動部14は、テールランプTL及びブレーキランプBLの発光ダイオードが非発光の時に、リヤカメラ26を駆動制御して撮影する。
現在画像データG2を取得すると、画像プロセッサ15は、合成データG3を生成する(ステップS2−5)。具体的には、画像メモリ17に記憶された、現在の車両Cのリヤ部周辺に相当する、各俯瞰データG1の一部を抽出する。また、図7に示すように、車両Cの後退方向に略平行な方向に沿って、抽出したデータを、画像が連続するように合成し、抽出したデータを合成した画像が、ディスプレイ8の表示領域8Zの上方に表示されるように配置する。また、現在画像データG2を俯瞰変換し、現在画像データG2に基づく合成画像が、表示領域8Zの下方に表示されるように、各俯瞰データG1に基づく抽出データと連続させて配置する。そして、各俯瞰データG1及び現在画像データG2からなる合成データG3をVRAM16に一時記憶する。
合成データG3を生成すると、画像プロセッサ15は、合成画像をディスプレイ8に描画する(ステップS2−6)。このとき、画像プロセッサ15は、図7に示すように、合成データG3に基づく運転支援画像としての合成画像30の上方の所定の位置に、車両画像データ5aに基づく車両画像31を重畳する。さらに、車両Cの車幅延長線等のガイド線32を描画する。その結果、図7に示すような補助画像35がディスプレイ8に表示される。このとき、連続して表示される俯瞰データG1に基づく画像は、現在の車両Cのリヤ部周辺に相当している。また、テールランプTL及びブレーキランプBLの発光ダイオードが非発光の時に撮影した画像データGを用いているので、照明条件が一定になり、部分的に赤くなる等の画質不良が生じず、良好な画質となる。ドライバーは、この補助画像35を視認して、駐車目標領域と車両Cの相対位置を確認する。そして、運転支援システム1は、駐車が完了するまで、上記した処理を繰り返す。
駐車が完了し、ニュートラルスタートスイッチ22からリバース以外のシフトポジション信号を入力すると、制御部3は終了トリガを入力したと判断して(ステップS1−5、ステップS2−7においてYES)、処理を終了する。
上記実施形態によれば、以下のような効果を得ることができる。
(1)上記実施形態では、カメラ駆動部14は、ライト制御部25が出力した画像取込タイミング信号に基づき、テールランプTL及びブレーキランプBLの発光ダイオードが非発光の時に、リヤカメラ26を駆動制御して、車両Cの後方を撮影するようにした。また、生成した画像データGを俯瞰データG1として画像メモリ17に記憶し、俯瞰データG1を合成画像30に用いるようにした。また、合成画像30に用いる現在画像データG2も、画像取込タイミング信号に基づき、発光ダイオードの非発光時に撮影するようにした。このため、合成画像30は、テールランプTL又はブレーキランプBLの照射により部分的に赤くなったり、明度にムラのある画像にならない。また、車両周辺の路面全体が赤くなった画像にならないので、画質を良好にすることができる。
(2)上記実施形態では、ライト制御部25は、テールランプTL及びブレーキランプBLの発光ダイオードを、人間の目により視認できない周波数で点灯及び非点灯させるようにした。従って、画像データGの取得のために、発光ダイオードに点灯及び非点灯を繰り返させても、周囲の歩行者や、他車両のドライバーに誤解が生じないようにすることができる。
(3)上記実施形態では、制御装置2は、車両Cの後端に取り付けられたリヤカメラ26から入力した画像データGを画像合成処理に用いるようにした。このため、駐車操作時に、画質が良好な合成画像30を表示できる。
(4)上記実施形態では、ライト制御部25は、テールランプTL及びブレーキランプBLが非点灯状態の際には、オン・オフ信号の位相に左右されない画像取込タイミング信号を出力するようにした。このため、テールランプTL及びブレーキランプBLの状態に応じた画像データGの取得処理を行うことができる。
尚、上記実施形態は以下のように変更してもよい。
・上記実施形態では、ライト制御部25がオン・オフ信号を生成してテールランプTL及びブレーキランプBLを駆動制御したが、これを、制御装置2(例えば制御部3や画像プロセッサ15)がオン・オフ信号を生成して、テールランプTL及びブレーキランプBLを駆動制御しても良い。この場合、制御装置2(例えば制御部3や画像プロセッサ15)が画像取込タイミング信号を出力することになる。
・上記実施形態では、テールランプTL及びブレーキランプBLが非点灯状態の際には、カメラ駆動部14はオン・オフ信号の位相に左右されない画像取込タイミング信号に基づき撮影を行うとした。これ以外に、制御部3の主制御に従って、車両Cが所定距離後退する度に、リヤカメラ26を駆動して撮影してもよい。
・画像プロセッサ15は、画像データGを座標変換して俯瞰データG1を生成してから画像メモリ17に記憶するようにしたが、座標変換しない画像データGを画像メモリ17に蓄積し、合成時に座標変換するようにしてもよい。
・上記実施形態では、各俯瞰データG1と、現在画像データG2とを連続させて、合成を行ったが、その他の方法で合成を行っても良い。
・上記実施形態では、テールランプTL及びブレーキランプBLと同期をとって撮影を行うようにしたが、ターンランプSLと同期させるようにしてもよい。この場合、ターンランプSLは、ライト制御部25によって、人間の目で視認できる周期で点滅させ、カメラ駆動部14は、その点滅周期において、ターンランプSLの発光ダイオード非発光時に撮影を行う。このようにしても、良好な画質の合成画像30を表示できる。
・上記実施形態に記載したランプ以外の発光ダイオードを有するランプと、カメラのタイミングを合わせてもよい。例えば、図8に示すように、車両Cの前方に取り付けられた撮影手段としての前方監視カメラ40を用いて、画像認識手段としての画像プロセッサ15が画像認識等を行う場合には、ヘッドライトHL、前方のターンランプSLの発光ダイオードの非発光時に、前方監視カメラ40を駆動して撮影を行ってもよい。また、車両Cのサイドミラー41に設けられたブラインドコーナーカメラ42を用いて画像合成や、画像認識を行う際、サイドミラー41にターンランプ又は撮影用の補助照明等のランプ43が設けられている場合には、そのランプ43の発光ダイオードの非発光時にブラインドコーナーカメラ42を露光させてもよい。
・制御部3は、例えば車両Cの左側と右側のテールランプTLを交互に点滅させる等して、同一時点において左側と右側のテールランプTL等の光量が異なるように制御してもよい。例えば、左側のテールランプTLが点灯している際に、リヤカメラ26により撮影を行い、第1の画像データGを生成する。また、右側のテールランプTLが点灯している際に、リヤカメラ26により撮影を行い、第2の画像データGを生成する。そして、第1の画像データG及び第2の画像データGに対して、公知のエッジ抽出を行い、車両周辺の物体を検出する画像認識を行うようにしてもよい。この場合、第1の画像データG及び第2の画像データGは、互いに異なる照明条件で撮影されているので、検出されるエッジも異なる。この検出されたエッジを統合することにより、物体の形状が詳細に判る。従って、このように異なる照明条件で車両周辺を撮影して複数の画像データを生成し、各画像データの画像処理結果を統合することにより、車両周辺の物体又は道路等の形状をより正確且つ詳細に認識することができる。
本実施形態の運転支援装置のブロック図。 テールランプ及びブレーキランプの取付位置の説明図。 リヤカメラの取付位置の説明図。 本実施形態の処理手順の説明図。 本実施形態の処理手順の説明図。 (a)はオン・オフ信号、(b)は画像取込タイミング信号を示すタイムチャート。 運転支援画像の説明図。 別例の車両の説明図。
符号の説明
1…運転支援システム、2…運転支援装置としての制御装置、3…灯光器制御手段及び撮影制御手段としての制御部、8…表示手段としてのディスプレイ、14…撮影制御手段としてのカメラ駆動部、15…出力制御手段としての画像プロセッサ、17…画像データ記憶手段としての画像メモリ、26…撮影手段としてのリヤカメラ、30…運転支援画像としての合成画像、40…撮影手段としての前方監視カメラ、SL…方向指示灯としての方向指示ランプ、TL…車両灯光器、尾灯及び制動灯としてのテールランプ、C…車両、G…画像データ、G3…合成データ。

Claims (5)

  1. 車両に設けられた撮影手段を用いて表示手段に運転支援画像を表示する運転支援方法において、
    車両灯光器の発光体を、所定の周波数で発光及び非発光を繰り返した点灯状態とし、前記発光体の非発光時に、前記撮影手段により車両周辺を撮影するとともに、撮影により生成された複数の画像データを合成して合成データを生成し、前記合成データに基づく運転支援画像を表示手段に表示することを特徴とする運転支援方法。
  2. 車両に設けられた撮影手段から画像データを取得して、前記各画像データを画像データ記憶手段に蓄積し、複数の前記各画像データを合成した運転支援画像を表示手段に出力する運転支援装置において、
    車両灯光器が、その発光体が所定の周波数で発光及び非発光を繰り返す点灯状態である際に、前記発光体の非発光時に前記撮影手段を制御して、前記車両周辺を撮影し、前記撮影手段から前記画像データを取得する撮影制御手段と、
    前記画像データ記憶手段に記憶した複数の前記画像データを用いて合成データを生成し、前記合成データに基づく前記運転支援画像を前記表示手段に表示する出力制御手段と
    を備えたことを特徴とする運転支援装置。
  3. 請求項2に記載の運転支援装置において、
    前記撮影制御手段は、前記車両灯光器が、その発光体が非発光である非点灯状態の際は、一定の間隔又は前記車両が所定距離移動する度に前記撮影手段を制御して撮影することを特徴とする運転支援装置。
  4. 請求項2又は3に記載の運転支援装置において、
    前記撮影制御手段は、前記車両の尾灯、制動灯及び方向指示灯のうち少なくとも一つの前記発光体が非発光の時に、前記車両の後端に取付られた前記撮影手段を制御して撮影を行うことを特徴とする運転支援装置。
  5. 車両の異なる位置に設けられた各車両灯光器の光量を制御する灯光器制御手段と、
    前記各車両灯光器の光量が異なる照明条件で車両周辺を撮影する撮影制御手段と、
    互いに異なる照明条件下で撮影された各画像データを用いて画像処理を行い、車両周辺の物体又は道路の認識を行う画像認識手段と
    を備えたことを特徴とする運転支援装置。
JP2006151345A 2006-05-31 2006-05-31 運転支援方法及び運転支援装置 Expired - Fee Related JP4232794B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006151345A JP4232794B2 (ja) 2006-05-31 2006-05-31 運転支援方法及び運転支援装置
EP07010148A EP1862354B1 (en) 2006-05-31 2007-05-22 Driving assist method and driving assist apparatus
DE602007005960T DE602007005960D1 (de) 2006-05-31 2007-05-22 Fahrhilfeverfahren und Fahrhilfevorrichtung
CN2007101042054A CN101081608B (zh) 2006-05-31 2007-05-23 驾驶支援方法以及驾驶支援装置
US11/802,439 US8078356B2 (en) 2006-05-31 2007-05-23 Driving assist method and driving assist apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006151345A JP4232794B2 (ja) 2006-05-31 2006-05-31 運転支援方法及び運転支援装置

Publications (2)

Publication Number Publication Date
JP2007320390A true JP2007320390A (ja) 2007-12-13
JP4232794B2 JP4232794B2 (ja) 2009-03-04

Family

ID=38514168

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006151345A Expired - Fee Related JP4232794B2 (ja) 2006-05-31 2006-05-31 運転支援方法及び運転支援装置

Country Status (5)

Country Link
US (1) US8078356B2 (ja)
EP (1) EP1862354B1 (ja)
JP (1) JP4232794B2 (ja)
CN (1) CN101081608B (ja)
DE (1) DE602007005960D1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009065586A (ja) * 2007-09-10 2009-03-26 Hitachi Ltd 車載カメラ
WO2011108039A1 (ja) * 2010-03-02 2011-09-09 パナソニック株式会社 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法
JP2014534102A (ja) * 2011-09-19 2014-12-18 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 自動車のリアナンバープレートを照明する少なくとも1つの照明装置の動作中に、少なくとも1つの後方カメラによって少なくとも1つの自動車環境領域を監視する方法
US9224052B2 (en) 2012-12-19 2015-12-29 Industrial Technology Research Institute Method for in-image periodic noise pixel inpainting
CN106143284A (zh) * 2015-04-21 2016-11-23 天津职业技术师范大学 可编辑式汽车组合后尾灯系统
WO2016185690A1 (ja) * 2015-05-21 2016-11-24 パナソニックIpマネジメント株式会社 表示制御装置、表示システム、および、表示制御方法
WO2017090499A1 (ja) * 2015-11-25 2017-06-01 株式会社デンソー 表示制御装置及び表示制御方法
KR101750160B1 (ko) * 2015-07-08 2017-06-22 주식회사 와이즈오토모티브 어라운드 뷰 노이즈 제거 시스템 및 방법
KR20180002388A (ko) * 2016-06-29 2018-01-08 주식회사 와이즈오토모티브 카메라 이미지 선택 장치 및 방법

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4232794B2 (ja) * 2006-05-31 2009-03-04 アイシン・エィ・ダブリュ株式会社 運転支援方法及び運転支援装置
JP5423235B2 (ja) * 2009-08-20 2014-02-19 ソニー株式会社 撮像装置
JP5548002B2 (ja) * 2010-03-25 2014-07-16 富士通テン株式会社 画像生成装置、画像表示システム及び画像生成方法
JP5592138B2 (ja) * 2010-03-31 2014-09-17 富士通テン株式会社 画像生成装置、画像表示システム及び画像生成方法
JP5523954B2 (ja) * 2010-06-30 2014-06-18 富士通テン株式会社 画像表示システム
JP5629521B2 (ja) * 2010-07-29 2014-11-19 パナソニック株式会社 障害物検知システム及び方法、障害物検知装置
DE102011088130B4 (de) * 2011-12-09 2023-03-02 Robert Bosch Gmbh Verfahren und Vorrichtung zur Erkennung einer Bremssituation
CN103522949B (zh) * 2012-12-21 2016-04-13 Tcl康钛汽车信息服务(深圳)有限公司 一种快速显示倒车影像的方法及车机系统
US9260095B2 (en) 2013-06-19 2016-02-16 Magna Electronics Inc. Vehicle vision system with collision mitigation
CN103456167B (zh) * 2013-09-17 2015-08-26 重庆大学 基于关键区域的良好驾驶技术参数获取方法
US10788840B2 (en) * 2016-12-27 2020-09-29 Panasonic Intellectual Property Corporation Of America Information processing apparatus, information processing method, and recording medium
JP6669139B2 (ja) * 2017-07-25 2020-03-18 株式会社デンソー 車両用表示装置
CN113395456B (zh) * 2021-08-17 2021-11-30 南昌龙旗信息技术有限公司 辅助拍摄方法、装置、电子设备及计算机可读存储介质

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2535927B2 (ja) * 1987-07-09 1996-09-18 アイシン精機株式会社 車上距離検出装置
JP2570315B2 (ja) * 1987-09-01 1997-01-08 アイシン精機株式会社 車上距離検出装置
EP0361914B1 (en) * 1988-09-28 1995-12-13 Honda Giken Kogyo Kabushiki Kaisha A driving way judging device and method
US4970653A (en) * 1989-04-06 1990-11-13 General Motors Corporation Vision method of detecting lane boundaries and obstacles
JP2843079B2 (ja) * 1989-12-22 1999-01-06 本田技研工業株式会社 走行路判別方法
JPH03201110A (ja) * 1989-12-28 1991-09-03 Toyota Central Res & Dev Lab Inc 自律走行車の位置方位検出装置
JP2754871B2 (ja) * 1990-06-01 1998-05-20 日産自動車株式会社 走行路検出装置
US5307419A (en) * 1990-11-30 1994-04-26 Honda Giken Kogyo Kabushiki Kaisha Control device of an autonomously moving body and evaluation method for data thereof
US5309137A (en) * 1991-02-26 1994-05-03 Mitsubishi Denki Kabushiki Kaisha Motor car traveling control device
US5563962A (en) * 1994-03-08 1996-10-08 The University Of Connecticut Two dimensional digital hysteresis filter for smoothing digital images
US5715334A (en) * 1994-03-08 1998-02-03 The University Of Connecticut Digital pixel-accurate intensity processing method for image information enhancement
JPH07274161A (ja) * 1994-03-29 1995-10-20 Toshiba Corp 車両後方確認装置
US5961571A (en) * 1994-12-27 1999-10-05 Siemens Corporated Research, Inc Method and apparatus for automatically tracking the location of vehicles
US5987174A (en) * 1995-04-26 1999-11-16 Hitachi, Ltd. Image processing apparatus for vehicles
US6550949B1 (en) * 1996-06-13 2003-04-22 Gentex Corporation Systems and components for enhancing rear vision from a vehicle
US6894717B2 (en) * 2001-06-05 2005-05-17 Charles Adams Bakewell Mobile enforcement platform and aimable violation detection and documentation system for multiple types of traffic violations across all lanes in moving traffic supporting immediate or delayed citation generation as well as homeland security monitoring activities
JP4156214B2 (ja) 2001-06-13 2008-09-24 株式会社デンソー 車両周辺画像処理装置及び記録媒体
US7262790B2 (en) * 2002-01-09 2007-08-28 Charles Adams Bakewell Mobile enforcement platform with aimable violation identification and documentation system for multiple traffic violation types across all lanes in moving traffic, generating composite display images and data to support citation generation, homeland security, and monitoring
JP4101167B2 (ja) 2003-12-19 2008-06-18 スタンレー電気株式会社 車両周辺監視装置
JP4232794B2 (ja) * 2006-05-31 2009-03-04 アイシン・エィ・ダブリュ株式会社 運転支援方法及び運転支援装置
PT103960B (pt) * 2008-02-07 2010-05-10 Brisa Auto Estradas De Portuga Sistema reconhecimento automático de matrículas integrado num sistema de cobranças electrónica de portagens

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009065586A (ja) * 2007-09-10 2009-03-26 Hitachi Ltd 車載カメラ
WO2011108039A1 (ja) * 2010-03-02 2011-09-09 パナソニック株式会社 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法
JP2014534102A (ja) * 2011-09-19 2014-12-18 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 自動車のリアナンバープレートを照明する少なくとも1つの照明装置の動作中に、少なくとも1つの後方カメラによって少なくとも1つの自動車環境領域を監視する方法
US9224052B2 (en) 2012-12-19 2015-12-29 Industrial Technology Research Institute Method for in-image periodic noise pixel inpainting
CN106143284A (zh) * 2015-04-21 2016-11-23 天津职业技术师范大学 可编辑式汽车组合后尾灯系统
WO2016185690A1 (ja) * 2015-05-21 2016-11-24 パナソニックIpマネジメント株式会社 表示制御装置、表示システム、および、表示制御方法
JP2016215858A (ja) * 2015-05-21 2016-12-22 パナソニックIpマネジメント株式会社 表示制御装置、表示システム、および、表示制御方法
KR101750160B1 (ko) * 2015-07-08 2017-06-22 주식회사 와이즈오토모티브 어라운드 뷰 노이즈 제거 시스템 및 방법
WO2017090499A1 (ja) * 2015-11-25 2017-06-01 株式会社デンソー 表示制御装置及び表示制御方法
JP2017098785A (ja) * 2015-11-25 2017-06-01 株式会社デンソー 表示制御装置及び表示制御プログラム
KR20180002388A (ko) * 2016-06-29 2018-01-08 주식회사 와이즈오토모티브 카메라 이미지 선택 장치 및 방법
KR101897114B1 (ko) * 2016-06-29 2018-09-11 주식회사 와이즈오토모티브 카메라 이미지 선택 장치 및 방법

Also Published As

Publication number Publication date
DE602007005960D1 (de) 2010-06-02
CN101081608A (zh) 2007-12-05
JP4232794B2 (ja) 2009-03-04
EP1862354A2 (en) 2007-12-05
EP1862354A3 (en) 2008-10-01
EP1862354B1 (en) 2010-04-21
US8078356B2 (en) 2011-12-13
CN101081608B (zh) 2010-06-09
US20070282501A1 (en) 2007-12-06

Similar Documents

Publication Publication Date Title
JP4232794B2 (ja) 運転支援方法及び運転支援装置
US20110234802A1 (en) On-vehicle lighting apparatus
JP5035284B2 (ja) 車両周辺表示装置
US8009977B2 (en) On-vehicle lighting apparatus
JP5045212B2 (ja) 顔画像撮像装置
JP5459154B2 (ja) 車両用周囲画像表示装置及び方法
CN108027238A (zh) 成像装置
JP4701279B2 (ja) 視覚支援装置
JP5983693B2 (ja) 表示機能付きミラー装置および表示切替方法
CN110877572A (zh) 周边监视装置
JP2016055782A5 (ja)
CN105960355A (zh) 用于在检测车灯闪光之后操作机动车辆后视摄像头系统的方法、后视摄像头系统和机动车辆
KR20190003409A (ko) 자동차용 라이트 시스템
JP2008306546A (ja) 車両周辺監視装置
CN108293106B (zh) 显示控制装置以及显示控制方法
JP4731177B2 (ja) 車両の赤外線撮影表示装置及び赤外線撮影表示方法
JP6229769B2 (ja) 表示機能付きミラー装置および表示切替方法
JP4782491B2 (ja) 撮像装置
JP2006287513A (ja) 車両外状況提示システム
JP2008146404A (ja) 車載用画像認識装置
JP2013009041A (ja) 車両用撮影表示制御システム
JP7162427B2 (ja) 車両用後方画像表示装置
JP2007049392A (ja) 画像表示システム及び画像表示方法
JP5893384B2 (ja) パラメータ取得装置、パラメータ取得方法、及び、プログラム
JP2018002152A (ja) 表示機能付きミラー装置および表示切替方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080313

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081201

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111219

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131219

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees