JP4831374B2 - 運転支援装置、運転支援方法、及び運転支援プログラム - Google Patents

運転支援装置、運転支援方法、及び運転支援プログラム Download PDF

Info

Publication number
JP4831374B2
JP4831374B2 JP2009080008A JP2009080008A JP4831374B2 JP 4831374 B2 JP4831374 B2 JP 4831374B2 JP 2009080008 A JP2009080008 A JP 2009080008A JP 2009080008 A JP2009080008 A JP 2009080008A JP 4831374 B2 JP4831374 B2 JP 4831374B2
Authority
JP
Japan
Prior art keywords
vehicle
overhead
image
composite image
movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009080008A
Other languages
English (en)
Other versions
JP2010233079A (ja
Inventor
俊宏 森
裕一 大下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Priority to JP2009080008A priority Critical patent/JP4831374B2/ja
Priority to US12/700,965 priority patent/US8675070B2/en
Priority to EP10001227.7A priority patent/EP2233357B1/en
Priority to CN201010117713.8A priority patent/CN101848370B/zh
Publication of JP2010233079A publication Critical patent/JP2010233079A/ja
Application granted granted Critical
Publication of JP4831374B2 publication Critical patent/JP4831374B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)
  • Studio Devices (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)

Description

本発明は、運転支援装置、運転支援方法、及び運転支援プログラムに関する。
従来、ドライバの運転を支援する装置として、車両周辺の画像をディスプレイに表示する運転支援装置が知られている。この運転支援装置は、車両外部に設置されたカメラにより撮影した車両周辺の画像データを、運転席近傍に配置されたディスプレイに表示させる。
このような運転支援装置においては、カメラの設置位置や設置角度のずれにより、ディスプレイに表示される画像の位置や角度にもずれが生じる場合があった。このような場合に、ディスプレイに表示される画像の位置や角度を調整するための運転支援システムも提案されている。例えば、比較的簡便な操作で鳥瞰画像の調整を可能とするため、鳥瞰画像を俯瞰変換した画像を車両の左右端の延長線を示すためのガイドと共に表示装置に表示し、当該俯瞰変換後の画像とガイドとのずれをユーザに修正させる運転支援システムが提案されている(例えば、特許文献1参照)。
特開2008−205928号公報(段落0160)
ところで、カメラから取得した画像データをメモリに蓄積し、当該メモリに蓄積された画像データを合成した合成画像を出力する装置も提案されている。この装置は、画像データを合成して合成画像を生成する際、例えばカメラの設置位置や車両の運動特性等に対応するパラメータを参照していた。従って、カメラの設置位置や車両の運動特性等が変化した場合、変化後の状態にパラメータが対応していないことにより合成画像に歪みやずれが生じる場合があった。しかし、上述の如き従来の運転支援システムでは、俯瞰画像における画像とガイドのずれを修正することができるに過ぎず、合成画像を生成する際に用いるパラメータを適切な値に修正することができなかった。
本発明は、上記に鑑みてなされたものであって、カメラの設置位置や車両の運動特性等が変化した場合でも、記録手段に記録された画像データを合成して正確な合成画像を表示することができる、運転支援装置、運転支援方法、及び運転支援プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、請求項1に記載の運転支援装置は、車両の周辺を撮影する撮影手段と、前記撮影手段が撮影した前記車両の周辺の画像データに基づき、前記車両を含む領域の俯瞰画像を生成する俯瞰画像生成手段と、前記俯瞰画像生成手段が生成した前記俯瞰画像を記録する記録手段と、前記車両の移動に関する移動情報を取得し、当該取得した移動情報に基づき当該車両の移動状態を特定する移動状態特定手段と、前記移動状態特定手段が特定した移動状態に基づき、前記記録手段に記録された前記俯瞰画像を合成し、前記車両を含む領域の合成画像を生成する合成画像生成手段と、前記合成画像生成手段が生成した前記合成画像を表示する表示手段と、前記撮影手段が撮影可能な範囲の路面上に基準標識が配置されている場合であって、前記車両が旋回した場合において、当該旋回に対応して前記合成画像生成手段が生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記旋回に対応する予測配置とに基づき、前記移動状態特定手段が前記移動状態としての旋回を前記移動情報に基づき特定する際に用いる旋回パラメータを校正する校正手段と、を備える。
また、請求項2に記載の運転支援装置は、請求項1に記載の運転支援装置において、前記校正手段は、前記撮影手段が撮影可能な範囲の路面上に前記基準標識が配置されている場合であって、前記車両が直進移動した場合において、当該直進移動に対応して前記合成画像生成手段が生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記直進移動に対応する予測配置とに基づき、前記移動状態特定手段が前記移動状態としての移動距離を前記移動情報に基づき特定する際に用いる距離パラメータを校正する。
また、請求項3に記載の運転支援装置は、請求項1又は2に記載の運転支援装置において、前記校正手段は、前記撮影手段が撮影可能な範囲の路面上に前記基準標識が配置されている場合において、前記俯瞰画像生成手段が生成した前記俯瞰画像に含まれる前記基準標識の配置と、前記俯瞰画像上に重畳表示される前記基準標識の俯瞰変換に対応する予測配置とに基づき、前記俯瞰画像生成手段が前記俯瞰画像を生成する際に用いる俯瞰パラメータを校正する。
また、請求項4に記載の運転支援方法は、車両の周辺を撮影する撮影ステップと、前記撮影ステップで撮影した前記車両の周辺の画像データに基づき、前記車両を含む領域の俯瞰画像を生成する俯瞰画像生成ステップと、前記俯瞰画像生成ステップで生成した前記俯瞰画像を記録手段に記録する記録ステップと、前記車両の移動に関する移動情報を取得し、当該取得した移動情報に基づき当該車両の移動状態を特定する移動状態特定ステップと、前記移動状態特定ステップで特定した移動状態に基づき、前記記録ステップで前記記録手段に記録された前記俯瞰画像を合成し、前記車両を含む領域の合成画像を生成する合成画像生成ステップと、前記合成画像生成ステップで生成した前記合成画像を表示手段に表示する表示ステップと、前記撮影ステップで撮影可能な範囲の路面上に基準標識が配置されている場合であって、前記車両が旋回した場合において、当該旋回に対応して前記合成画像生成ステップで生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記旋回に対応する予測配置とに基づき、前記移動状態特定ステップで前記移動状態としての旋回角度を前記移動情報に基づき特定する際に用いる旋回パラメータを校正する校正ステップと、を含む。
また、請求項5に記載の運転支援方法は、請求項4に記載の運転支援方法において、前記校正ステップにおいて、前記撮影ステップで撮影可能な範囲の路面上に前記基準標識が配置されている場合において、前記俯瞰画像生成ステップで生成した前記俯瞰画像に含まれる前記基準標識の配置と、前記俯瞰画像上に重畳表示される前記基準標識の俯瞰変換に対応する予測配置とに基づき、前記俯瞰画像生成ステップで前記俯瞰画像を生成する際に用いる俯瞰パラメータを校正し、前記俯瞰パラメータを校正した後、前記撮影ステップで撮影可能な範囲の路面上に前記基準標識が配置されている場合であって、前記車両が直進移動した場合において、当該直進移動に対応して前記合成画像生成ステップで生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記直進移動に対応する予測配置とに基づき、前記移動状態ステップで前記移動状態としての移動距離を前記移動情報に基づき特定する際に用いる距離パラメータを校正し、前記距離パラメータを校正した後、前記旋回パラメータを校正する。
また、請求項6に記載の運転支援プログラムは、請求項4又は5に記載の方法をコンピュータに実行させる。
請求項1に記載の運転支援装置、請求項4に記載の運転支援方法、及び請求項6に記載の運転支援プログラムによれば、旋回に対応して合成画像生成手段が生成した合成画像に含まれる基準標識の配置と、合成画像上に重畳表示される基準標識の旋回に対応する予測配置とに基づき、移動状態特定手段が移動状態としての旋回を移動情報に基づき特定する際に用いる旋回パラメータを校正する。従って、車両の旋回半径等の旋回に関する運動特性の変化により、旋回パラメータを用いて正確な旋回を特定できず、移動情報に基づき正確な合成画像を表示できなくなった場合でも、合成画像における基準標識の配置とその予測配置との差に基づき旋回パラメータを校正することができ、当該校正した旋回パラメータを用いて、記録手段に記録された俯瞰画像を合成して正確な合成画像を表示することができる。
また、請求項2に記載の運転支援装置によれば、直進移動に対応して合成画像生成手段が生成した合成画像に含まれる基準標識の配置と、合成画像上に重畳表示される直進移動に対応する基準標識の予測配置とに基づき、移動状態特定手段が移動状態としての移動距離を移動情報に基づき特定する際に用いる距離パラメータを校正する。従って、タイヤ交換に伴うタイヤ径の変化等の移動距離に関する運動特性の変化により、距離パラメータを用いて正確な移動距離を特定できず、移動情報に基づき正確な合成画像を表示できなくなった場合でも、合成画像における基準標識の配置とその予測配置との差に基づき距離パラメータを校正することができ、当該校正した距離パラメータを用いて、記録手段に記録された画像データを合成して正確な合成画像を表示することができる。
また、請求項3に記載の運転支援装置によれば、俯瞰画像生成手段が生成した俯瞰画像に含まれる基準標識の配置と、俯瞰画像上に重畳表示される基準標識の俯瞰変換に対応する予測配置とに基づき、俯瞰画像生成手段が俯瞰画像を生成する際に用いる俯瞰パラメータを校正する。従って、撮影手段の設置位置のずれ等により、俯瞰パラメータを用いて正確な俯瞰画像を生成できなくなった場合でも、合成画像における基準標識の配置とその予測配置との差に基づき俯瞰パラメータを校正することができ、当該校正した俯瞰パラメータを用いて、正確な俯瞰画像を生成することができる。
また、請求項5に記載の運転支援方法によれば、校正ステップにおいて、俯瞰パラメータを校正した後、距離パラメータを校正するので、正確な俯瞰画像に表示した基準標識の予測配置に基づいて距離パラメータを校正することができる。さらに、距離パラメータを校正した後、旋回パラメータを校正するので、正確な距離パラメータを用いて生成した合成画像及び基準標識の予測配置に基づいて旋回パラメータを校正することができる。
実施の形態に係る運転支援装置を例示するブロック図である。 合成画像生成処理のフローチャートである。 校正処理のフローチャートである。 俯瞰パラメータ校正処理のフローチャートである。 俯瞰パラメータ校正処理の実行時の車両及びディスプレイを示す図であり、図5(a)は車両と基準標識との位置を示す平面図、図5(b)はディスプレイの表示画面を示す図である。 距離パラメータ校正処理のフローチャートである。 距離パラメータ校正処理の実行時の車両及びディスプレイを示す図であり、図7(a)、(c)、(e)は車両と基準標識との位置を示す平面図、図7(b)、(d)、(f)はディスプレイの表示画面を示す図である。 旋回パラメータ校正処理のフローチャートである。 旋回パラメータ校正処理の実行時の車両及びディスプレイを示す図であり、図9(a)、(c)、(e)は車両と基準標識との位置を示す平面図、図9(b)、(d)、(f)はディスプレイの表示画面を示す図である。 旋回パラメータの値を変更する際にディスプレイに表示される画面を例示した図であり、図10(a)は旋回パラメータの変更前の画面の図、図10(b)は旋回パラメータの変更後の画面の図である。
以下、本発明に係る運転支援装置の実施の形態について図面を参照しつつ詳細に説明する。ただし、実施の形態によって本発明が限定されるものではない。
(構成)
まず、運転支援装置の構成を説明する。図1は、実施の形態に係る運転支援装置を例示するブロック図である。図1に示すように、この運転支援装置1は、ステアリングセンサ10、車速センサ20、操作入力部30、カメラ40、ディスプレイ50、制御部60、及びデータ記録部70を備えている。
(構成−ステアリングセンサ)
ステアリングセンサ10は、車両のステアリングホイールの操舵角を検出し、当該検出値を制御部60に出力するものであり、公知のステアリングセンサを用いることができる。
(構成−車速センサ)
車速センサ20は、車軸の回転数に比例する車速パルス信号等を制御部60に出力するものであり、公知の車速センサを用いることができる。
(構成−操作入力部)
操作入力部30は、ユーザからの操作入力を受け付けるものであり、スイッチやタッチパネル等の公知の入力手段を用いることができる。
(構成−カメラ)
カメラ40は、車両の周辺を撮影する撮影手段である。このカメラ40は、例えば車両の前後バンパー近傍等に1台又は複数台設置され、車両の周辺を撮影する。カメラ40が撮影した画像データは、制御部60に入力される。なお、カメラ40の具体的な構成は任意で、例えばCMOSイメージセンサやCCDイメージセンサ等の公知の撮像素子、及び魚眼レンズやプリズム等の公知の光学系部品を用いて構成されている。
(構成−ディスプレイ)
ディスプレイ50は、制御部60が生成した合成画像や俯瞰画像を表示する表示手段である。なお、このディスプレイ50の具体的な構成は任意であり、公知の液晶ディスプレイや有機ELディスプレイの如きフラットパネルディスプレイを使用することができる。
(構成−制御部)
制御部60は、運転支援装置1を制御する制御手段であり、具体的には、CPU、当該CPU上で解釈実行される各種のプログラム(OSなどの基本制御プログラムや、OS上で起動され特定機能を実現するアプリケーションプログラムを含む)、及びプログラムや各種のデータを格納するためのRAMの如き内部メモリを備えて構成されるコンピュータである。特に、本実施の形態に係る運転支援プログラムは、任意の記録媒体又はネットワークを介して運転支援装置1にインストールされることで、制御部60の各部を実質的に構成する。
この制御部60は、機能概念的に、移動状態特定部61、合成画像生成部62、俯瞰画像生成部63、校正部64、及び画像メモリ65を備えている。移動状態特定部61は、車両の移動に関する移動情報を取得し、当該取得した移動情報に基づき当該車両の移動状態を特定する移動状態特定手段である。ここで、「移動情報」は、例えばステアリングセンサ10から入力された操舵角の検出値や、車速センサ20から入力された車速パルス信号を含む。また、「移動状態」は、例えば車両の旋回角度や移動距離等、車両の移動に関する状態を示す概念である。合成画像生成部62は、移動状態特定部61が特定した移動状態に基づき、データ記録部70に記録された画像データを合成し、車両を含む領域の合成画像を生成する合成画像生成手段である。俯瞰画像生成部63は、カメラ40が撮影した車両の周辺の画像データに基づき、車両を含む領域の俯瞰画像を生成する俯瞰画像生成手段である。校正部64は、移動状態特定部61が移動状態を移動情報に基づき特定する際に用いるパラメータ、及び俯瞰画像生成部63が俯瞰画像を生成する際に用いる俯瞰パラメータを校正する校正手段である。画像メモリ65は、カメラ40が撮影した車両周辺の画像データを記録する記録手段である。また、画像メモリ65は、合成画像生成部62が生成した合成画像や、俯瞰画像生成部63が生成した俯瞰画像の記録も行う。これらの制御部60の各構成要素によって実行される処理の詳細については後述する。
(構成−データ記録部)
データ記録部70は、運転支援装置1の動作に必要なプログラム及び各種のデータを記録する記録手段であり、例えば、外部記憶装置としてのハードディスク(図示省略)を用いて構成されている。ただし、ハードディスクに代えてあるいはハードディスクと共に、磁気ディスクの如き磁気的記録媒体、又はDVDやブルーレイディスクの如き光学的記録媒体を含む、その他の任意の記録媒体を用いることができる。
このデータ記録部70は、ガイド線情報71、及びパラメータ情報72を記録している。ガイド線情報71は、合成画像上に重畳表示されるガイド線の配置を特定するための情報であり、例えば、合成画像におけるガイド線のビットマップデータとして構成することができる。なお、ガイド線の具体的な内容については後述する。パラメータ情報72は、合成画像や俯瞰画像の生成の過程で用いられる各種のパラメータを特定する情報であり、例えば、移動状態特定部61が車両の旋回をステアリングセンサ10から入力された操舵角の検出値に基づき特定する際に用いる旋回パラメータ、移動状態特定部61が車両の移動距離を車速センサ20から入力された車速パルス信号に基づき特定する際に用いる距離パラメータ、あるいは俯瞰画像生成部63が俯瞰画像を生成する際に用いる俯瞰パラメータ等を含む。この内、旋回パラメータとしては、例えば操舵角に対応する車両の旋回半径や、操舵角と移動距離とに対応する車両の旋回角度を求めるためのパラメータを用いることができる。また、距離パラメータとしては、例えば車速パルス信号の出力1パルス当りに車両が移動する距離(車速パルス長)を用いることができる。また、俯瞰パラメータとしては、例えば車両の前後方向、左右方向、及び高さ方向についてのカメラ40の設置位置を特定する座標値や、ロール軸・ピッチ軸・ヨー軸の各軸についてのカメラ40の設置角度等、カメラ40が撮影した車両周辺の画像データを俯瞰画像に座標変換したり歪補正を行ったりする場合の各種パラメータを用いることができる。
(処理)
次に、このように構成される運転支援装置1によって実行される処理について説明する。運転支援装置1が実行する処理は、合成画像生成処理と校正処理とに大別される。
(処理−合成画像生成処理)
まず、合成画像生成処理について説明する。図2は合成画像生成処理のフローチャートである(以下の各処理の説明ではステップを「S」と略記する)。この合成画像生成処理は、例えば操作入力部30を介して合成画像生成処理の起動指示入力がされた場合や、シフトポジションがリバースに設定され、車両が後退を開始した場合に起動される。
図2に示すように、合成画像生成処理が起動されると、移動状態特定部61はステアリングセンサ10から入力された操舵角の検出値や車速センサ20から入力された車速パルス信号等の移動情報を取得し、当該取得した移動情報に基づき、データ記録部70に記録されている距離パラメータや旋回パラメータを用いて車両の移動距離や旋回角度等の移動状態を特定する(SA1)。
次に、合成画像生成部62はSA1で特定した移動距離に基づき、画像データを取得するタイミングであるか否かを判定する(SA2)。例えば、RAMに記憶したパルスカウンタに、車速パルス信号の入力パルス数を累積し、累積パルス数が所定数になった場合、すなわち車両が所定の距離を移動したと推定される場合に画像データ取得のタイミングであると判定する。
その結果、画像データを取得するタイミングではないと判定した場合は(SA2、No)、当該SA2の判定を繰り返し、画像データを取得するタイミングであると判定した場合(SA2、Yes)、合成画像生成部62はカメラ40が撮影した画像データを取得する(SA3)。続いて、合成画像生成部62は、RAMに記憶されたパルスカウンタのカウンタ値をリセットして初期値に戻す(SA4)。さらに、俯瞰画像生成部63はSA2で合成画像生成部62が取得した画像データを俯瞰変換して記録画像データを生成する(SA5)。
また、合成画像生成部62は、SA1で特定した移動距離や旋回角度等の移動状態に基づき、基準位置(例えば合成画像生成処理起動時の車両の位置)からの車両の移動距離及び旋回角度を特定する(SA6)。そして、特定した旋回角度に基づき、SA5で生成した記録画像データを公知の画像処理方法で回転処理し(SA7)、回転処理した記録画像データを、SA6で特定した移動距離及び旋回角度に基づき画像メモリ65における画像合成用領域のうち対応する画素領域に記録させる(SA8)。この画素領域において、前回以前に生成され記録された記録画像データの画素領域と重複がある場合には、後に撮像された記録画像データによってその重複領域を上書きする。
次に、合成画像生成部62は、合成画像を出力するタイミングであるか否かを判定する(SA9)。例えば、前回の合成画像出力の後に所定枚以上の記録画像データが画像メモリ65に記録された場合に、合成画像を出力するタイミングであると判定する。
判定の結果、合成画像を出力するタイミングでないと判定した場合(SA9、No)、SA1に戻り、移動状態特定部61が移動状態の特定を行う(SA1)。一方、合成画像を出力するタイミングであると判定した場合(SA9、Yes)、俯瞰画像生成部63はその時点でカメラ40が撮影した画像データを取得し、当該画像データを俯瞰変換することにより、現在画像データを生成する(SA10)。
続いて、合成画像生成部62は、SA10で生成した現在画像データと、画像メモリ65に記録されている記録画像データとを用いて、合成画像を生成する(SA11)。例えば、合成画像生成部62は、画像合成用領域に記録された各記録画像データから、現在の車両を含む領域に対応する範囲を抽出し、SA6からSA8の各処理と同様の処理によって当該抽出した記録画像データと現在画像データとが連続するように一体化を行うことにより、合成画像を生成する。合成画像を生成すると、合成画像生成部62は、当該合成画像をディスプレイ50に表示させる(SA12)。以降、SA1からSA12の処理を繰り返し、終了トリガが入力された場合(例えば操作入力部30を介して合成画像生成処理の終了指示入力がされた場合や、シフトポジションがリバース以外に設定された場合)、合成画像生成処理を終了する。
(処理−校正処理)
次に、校正処理について説明する。図3は校正処理のフローチャートである。この校正処理は、例えば操作入力部30を介して校正処理を開始する旨の操作入力を受け付けた際に起動される。
図3に示すように、校正処理が起動されると、校正部64は、まず俯瞰パラメータ校正処理を実行することにより俯瞰パラメータを校正し(SB1)、次に距離パラメータ校正処理を実行することにより距離パラメータを校正し(SB2)、最後に旋回パラメータ校正処理を実行することにより旋回パラメータを構成する(SB3)。以下、SB1からSB3の各サブルーチンの内容について説明する。
(処理−俯瞰パラメータ校正処理)
まず、SB1の俯瞰パラメータ校正処理について説明する。図4は俯瞰パラメータ校正処理のフローチャートである。また、図5は俯瞰パラメータ校正処理の実行時の車両及びディスプレイ50を示す図であり、図5(a)は車両と基準標識との位置を示す平面図、図5(b)はディスプレイ50の表示画面50aを示す図である。
上述のSB1で俯瞰パラメータ校正処理が起動されると、校正部64は、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたか否かを判定する(SC1)。ここで、基準標識3とは、パラメータを校正する際の基準となる標識であり、例えば、図5(a)に示したような一辺で重複する複数の長方形の枠線を用いて構成することができる。以下の説明では、基準標識3のうち最も外側の枠線を第1枠線3a、中間の枠線を第2枠線3b、最も内側の枠線を第3枠線3cと表記する。また、各枠線が相互に重複している一辺と平行な枠線を「左右枠線」、左右枠線と直交する枠線を「前後枠線」と表記する。
図5(a)に示した例では、俯瞰パラメータ校正処理の開始時に、前後枠線と車両2の進行方向とが平行になるように、且つ、基準標識3の各枠線が相互に重複している一辺と車両2の後端とが車両2の鉛直上方から見た場合に一致するように、基準標識3を路面に配置し、又は車両2を移動させる。この様に基準標識3が配置され、例えば操作入力部30を介して基準標識3の配置が完了した旨の操作入力を受け付けた場合に、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたと判定することができる。
図4に戻り、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたと判定した場合(SC1、Yes)、校正部64はデータ記録部70に記録されているガイド線情報71に基づき、俯瞰ガイド線をディスプレイ50に表示させる(SC2)。この俯瞰ガイド線は、俯瞰画像における基準標識3の俯瞰変換に対応する予測配置を示すものであり、ディスプレイ50に表示された俯瞰画像に基づき俯瞰パラメータの校正を行う際の基準となる。例えば図5(b)中に点線で示したように、俯瞰ガイド線80は、俯瞰パラメータが正確な場合に基準標識3が俯瞰画像中に表示されるべき配置及び形状を示す枠線として表示されるものであり、例えば基準標識3の形状に対応するビットマップ画像として俯瞰画像に重畳してディスプレイ50に表示される。この場合、俯瞰ガイド線80のビットマップ画像は、例えば表示画面50aの左上隅を原点とする座標系における座標データを用いてその配置や形状が特定され、表示画面50a上に固定的に表示される。
図4に戻り、俯瞰画像生成部63は、カメラ40が撮影した車両2の周辺の画像データ及び俯瞰パラメータに基づき、車両2を含む領域の俯瞰画像を生成し、SC2で表示させた俯瞰ガイド線80と相互に重畳してディスプレイ50に表示させる(SC3)。例えば、俯瞰画像生成部63は、データ記録部70に記録されている俯瞰パラメータを参照し、カメラ40から入力された画像データの座標変換を行うことにより当該画像データを俯瞰変換し、ディスプレイ50に表示させる。例えば、俯瞰画像生成部63は、基準標識3が配置されている路面を斜め上方から撮影することにより得られた画像データを俯瞰変換し、図5(b)に実線で示すような平面図としてディスプレイ50に表示させる。
図4に戻り、校正部64は、SC3で俯瞰画像生成部63が生成しディスプレイ50に表示された俯瞰画像に含まれる基準標識3の配置と、その俯瞰画像上に重畳表示されている俯瞰ガイド線80の配置とが、一致しているか否かを判定する(SC4)。例えば、操作入力部30としての決定ボタン(図示省略)が押下されたことにより、俯瞰画像に含まれる基準標識3の配置と俯瞰ガイド線80の配置とが一致している旨の入力があった場合、校正部64は俯瞰画像に含まれる基準標識3の配置と俯瞰ガイド線80の配置とが一致していると判定する。一方、例えば図5(b)に示すように、俯瞰パラメータ変更用の操作入力ボタンとしてタッチパネルを兼ねているディスプレイ50に表示されている「大」ボタン30a又は「小」ボタン30bが押下された場合は、俯瞰パラメータの変更の必要があるものとし、校正部64は俯瞰画像に含まれる基準標識3の配置と俯瞰ガイド線80の配置とが一致していないと判定する。
図4に戻り、俯瞰画像に含まれる基準標識3の配置と俯瞰ガイド線80の配置とが一致していないと判定した場合(SC4、No)、校正部64は、例えば操作入力部30を介した操作入力に基づき、データ記録部70に記録されている俯瞰パラメータの値を変更する(SC5)。例えば、操作入力部30を構成するボタンと、当該ボタンが押下された場合に変更すべき俯瞰パラメータの変更量とを、予め相互に対応付けておき、押下されたボタン及び押下回数に基づき、対応する変更量にて俯瞰パラメータの変更を行う。図5(b)の例では、「大」ボタン30aが操作された場合は俯瞰画像が拡大するように俯瞰パラメータの変更を行い(例えば、カメラ40の設置位置を特定する座標値を、現在の座標値が示す位置よりも高い位置、又は車両2の前方の位置を示す座標値にシフトする)、「小」ボタン30bが操作された場合は俯瞰画像が縮小するように俯瞰パラメータの変更を行う(例えば、カメラ40の設置位置を特定する座標値を、現在の座標値が示す位置よりも低い位置、又は車両2の後方の位置を示す座標値にシフトする)。図4に戻り、俯瞰画像生成部63は変更後の俯瞰パラメータを用いて俯瞰画像を生成し、SC2で表示させた俯瞰ガイド線80と相互に重畳してディスプレイ50に表示させる(SC3)。
一方、俯瞰画像に含まれる基準標識3の配置と俯瞰ガイド線80の配置とが一致していると判定した場合(SC4、Yes)、俯瞰画像生成部63によって画像データが正確に俯瞰変換され、俯瞰画像が生成されているものとし、校正部64は俯瞰パラメータ校正処理を終了する。
(処理−距離パラメータ校正処理)
次に、図3のSB2の距離パラメータ校正処理について説明する。図6は距離パラメータ校正処理のフローチャートである。また、図7は距離パラメータ校正処理の実行時の車両2及びディスプレイ50を示す図であり、図7(a)、(c)、(e)は車両2と基準標識3との位置を示す平面図、図7(b)、(d)、(f)はディスプレイ50の表示画面50aを示す図である。図7(b)、(d)、(f)において斜線でハッチングされている領域のうち、斜線の間隔が密な領域は、対応する画像データが無いために画像が表示されない領域を示す。また、斜線の間隔が疎な領域は、合成画像のうち、画像メモリ65に記録されている記録画像データに基づき合成された領域を示す。また、ハッチングされていない領域は、合成画像のうち、現在画像データに基づき合成された領域を示す。
ここで、距離パラメータ校正処理が実行される前提として、俯瞰パラメータ校正処理の開始時と同様に、基準標識3の前後枠線と車両2の進行方向とが平行になるように、且つ、基準標識3の各枠線が相互に重複している一辺と車両2の後端とが車両2の鉛直上方から見た場合に一致するように、基準標識3を配置し、又は車両2を移動させるものとする(図7(a))。なお、この基準標識3は、所定長さの複数の直線を所定角度で相互に組合わせて構成されるものであり、以下の説明では、例えば1辺の長さが1m50cmの正方形の第1枠線3a、1辺の長さが1mの正方形の第2枠線3b、及び1辺の長さが50cmの正方形の第3枠線3cを含んで構成される。また、ディスプレイ50には車両2を基準とする固定領域の画像が表示される。この画像に対応する領域を、図7(a)、(c)、(e)に点線で示す。
上述のSB2で距離パラメータ校正処理が起動されると、図6に示すように、校正部64はカメラ40が撮影可能な範囲の路面上に基準標識3が配置されたか否かを判定する(SD1)。例えば、図7(a)に例示した様に基準標識3が配置され、操作入力部30を介して基準標識3の配置が完了した旨の操作入力を受け付けた場合に、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたと判定することができる。この場合、図7(b)に示すように、表示画面50aにはカメラ40が撮影した現在の画像データに基づき生成された俯瞰画像が現在画像データとして表示される。基準標識3の配置が完了した場合、この現在画像データの下端部分(図7(b)における非ハッチング領域とハッチング領域との境界)に基準標識3の各枠線が相互に重複している一辺が位置するように、基準標識3が表示される。
図6に戻り、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたと判定した場合(SD1、Yes)、校正部64はデータ記録部70に記録されているガイド線情報71に基づき、位置ガイド線及び距離ガイド線をディスプレイ50に表示させる(SD2)。位置ガイド線は、車両2を直進移動させた後に停止させるべき位置を特定する基準となる位置標識であり、表示画面50aにおいて車両2の進行方向と直交する直線として表示される。本実施の形態では、図7に示すように、位置ガイド線81は、合成画像生成部62が生成する合成画像のうち、カメラ40が撮影した現在の画像データに基づき生成される部分(図7(b)で「現在画像データ」とされている部分)において、車両2が直進後退を開始する前の状態(図7(b)の状態)の場合に基準標識3の第3枠線3cの左右枠線と一致する位置に固定的に表示される(図7(b)における上側の点線)。この場合、第3枠線3cの前後枠線の長さは50cmであるので、位置ガイド線81は合成画像における現在画像データの下端部分から50cmの距離に相当する位置に、車両2の進行方向と直交する方向の直線を示すビットマップ画像として固定的に表示される。この場合、図7(b)の状態から車両2が1mの直進後退を完了すると、位置ガイド線81と基準標識3の第3枠線3cの左右枠線から1mの距離にある第1枠線3aの左右枠線とが一致することとなる。位置ガイド線81は現在画像データの部分に表示されているため、車両2が1mの直進後退を完了したときは必ず位置ガイド線81と第1枠線3aの左右枠線とが一致する。なお、位置ガイド線81のビットマップ画像は、例えば表示画面50aの左上隅を原点とする座標系における座標データを用いてその配置や形状が特定され、表示画面50a上に固定的に表示される。
また、距離ガイド線は、合成画像における基準標識3の直進移動に対応する予測配置を示すものであり、ディスプレイ50に表示された合成画像に基づき距離パラメータの校正を行う際の基準となる。例えば図7に示すように、距離ガイド線82は、車両2が所定距離(本実施の形態では、基準標識3の第3枠線3cの左右枠線から第1枠線3aの左右枠線までの距離に対応する1m)を直進移動した場合において、俯瞰画像における基準標識3の第3枠線3cの左右枠線が距離パラメータが正確な場合にディスプレイ50に表示されるべき配置を示す線として、合成画像のうち過去に撮影された記録画像データに基づき生成される部分(図7(b)で「記録画像データ」とされている部分)に固定的に表示される(図7(b)における下側の点線)。本実施の形態では、図7(b)に示すように位置ガイド線81が基準標識3の第3枠線3cの左右枠線と一致している位置から、図7(f)に示すように位置ガイド線81が第1枠線3aの左右枠線と一致する位置までの1mの距離を車両2が移動した場合における、基準標識3の第3枠線3cの左右枠線の予測配置を距離ガイド線82として表示する。この場合、距離ガイド線82は、図7(b)の状態の合成画像における第3枠線3cの左右枠線から1mの距離に相当する位置、すなわち現在画像データと記録画像データとの境界から50cmの距離に相当する位置に、車両2の進行方向と直交する方向の直線を示すビットマップ画像として固定的に表示される。距離パラメータが正確な場合、図7(b)の状態から車両2が1m直進移動すると、合成画像における第3枠線3cの移動距離は現実の移動距離1mと等しくなるため、距離ガイド線82は記録画像データの領域に表示される第3枠線3cの左右枠線と一致する。一方、距離パラメータが不正確な場合、合成画像における第3枠線3cの移動距離は現実の移動距離1mと異なるため、距離ガイド線82は記録画像データの領域に表示される第3枠線3cに一致しないこととなる。
SD2において位置ガイド線81及び距離ガイド線82をディスプレイ50に表示させた後、校正部64は車両2を基準標識3に向かって直進後退させる旨の指示をディスプレイ50に表示させる(SD3)。例えば、第1枠線3aの左右枠線と位置ガイド線81とをハイライト表示し、両者が一致するまで車両2を直進後退させる旨のメッセージを表示する。あるいは、スロットルを校正部64により制御し、自動的に車両2を直進後退させてもよい。
上述の如き車両2の直進後退に合わせて、合成画像生成部62は上述の合成画像生成処理を実行することにより、車両2を含む領域の合成画像を生成し、当該生成した合成画像をディスプレイ50に表示させる(SD4)。
そして、校正部64は、SD2で表示させた位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致しているか否かを判定する(SD5)。例えば、図7において、基準標識3の第1枠線3aの左右枠線を基準とした場合、図7(d)の状態は当該枠線と位置ガイド線81との配置が一致していないと判定する。一方、図7(f)の状態は当該枠線と位置ガイド線81との配置が一致していると判定する。例えば、操作入力部30としての決定ボタン(図示省略)が押下されたことにより、合成画像における基準標識3の第1枠線3aと位置ガイド線81の配置とが一致している旨の入力があった場合、校正部64は位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致していると判定する。一方、車両2が直進後退を継続している場合は、校正部64は位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致していないと判定する。
図6に戻り、位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致していないと判定した場合(SD5、No)、合成画像生成部62は合成画像の生成及びディスプレイ50への表示を繰り返す(SD4)。一方、位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致しているとした場合(SD5、Yes)、車両2が所定の距離(図7の例では1m)を直進移動したものとし、校正部64は、車両2の直進移動に対応して合成画像生成部62が生成した合成画像に含まれる基準標識3の配置と、合成画像上に重畳表示される距離ガイド線82の配置とが一致しているか否かを判定する(SD6)。例えば、操作入力部30としての決定ボタン(図示省略)が押下されたことにより、合成画像における基準標識3の第1枠線3aと位置ガイド線81の配置とが一致している旨の入力があった場合、校正部64は位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致していると判定する。一方、例えば図7(f)に示すように、距離パラメータ変更用の操作入力ボタンとしてタッチパネルを兼ねているディスプレイ50に表示されている「上」ボタン30c又は「下」ボタン30dが押下された場合は、距離パラメータの変更の必要があるものとし、校正部64は位置ガイド線81の配置と合成画像に含まれる基準標識3の配置とが一致していないと判定する。
例えば、図7において、基準標識3の第3枠線3cの左右枠線を基準とした場合、図7(f)の状態は当該枠線と距離ガイド線82との配置が一致していないと判定する。例えばタイヤ交換に伴いタイヤ径が拡大した場合、現実に車両2が車速パルス信号1パルス当りに移動する距離はデータ記録部70に距離パラメータとして記録されている車速パルス信号1パルス当りに移動する距離よりも長くなる。例えば、データ記録部70に記録されている車速パルス信号1パルス当りに移動する距離が8cmであるのに対し、タイヤ交換によりタイヤ径が拡大した後の車両2が車速パルス信号1パルス当りに実際に移動する距離が10cmとなった場合を考える。この場合、車両2が1m移動すると、車速センサ20から出力される車速パルス信号のパルス数は、1m/10cm=10パルスとなる。一方、データ記録部70に距離パラメータとして記録されている車速パルス信号1パルス当りに移動する距離は8cmであるので、当該距離パラメータに基づいて特定される車両2の移動距離は、8cm×10パルス=80cmとなり、実際の車両2の移動距離1mと異なるものとなる。この様に特定された移動距離に基づき、合成画像生成処理にて合成画像を生成すると、図7(f)に示すように、第3枠線3cの左右枠線が距離ガイド線82まで到達していない状態の合成画像が生成される。
図6に戻り、合成画像に含まれる基準標識3の配置と距離ガイド線82の配置とが一致していないと判定した場合(SD6、No)、校正部64は、例えば操作入力部30を介した操作入力に基づき、データ記録部70に記録されている距離パラメータの値を変更する(SD7)。例えば図7(f)に示したように、タッチパネルを兼ねているディスプレイ50に距離パラメータ変更用の操作入力ボタンとして「上」ボタン30c及び「下」ボタン30dを表示する。この「上」ボタン30cが操作された場合には、合成画像のうち記録画像データの部分に表示されている基準標識3が表示画面50aの上方に移動するように距離パラメータの変更を行う。すなわち、合成画像生成処理において、車両2の移動に伴って順次重ね合わされる記録画像データの間隔を狭めるため、データ記録部70に距離パラメータとして記録されている車速パルス信号1パルス当りに移動する距離を現在よりも小さい値にシフトする。例えば、「上」ボタン30cが1回押される毎に車速パルス信号1パルス当りに移動する距離を所定長さ(例えば1cm)短くする。一方、「下」ボタン30dが操作された場合には、合成画像のうち記録画像データの部分に表示されている基準標識3が表示画面50aの下方に移動するように距離パラメータの変更を行う。すなわち、合成画像生成処理において、車両2の移動に伴って順次重ね合わされる記録画像データの間隔を拡げるため、データ記録部70に距離パラメータとして記録されている車速パルス信号1パルス当りに移動する距離を現在よりも大きい値にシフトする。例えば、「下」ボタン30dが1回押される毎に車速パルス信号1パルス当りに移動する距離を所定長さ(例えば1cm)長くする。
図6に戻り、合成画像生成部62は変更後の距離パラメータを用いて合成画像生成処理を実行し、生成した合成画像をSD2で表示させた位置ガイド線81及び距離ガイド線82と相互に重畳してディスプレイ50に表示させる(SD8)。その後、再度合成画像に含まれる基準標識3の配置と距離ガイド線82の配置とが一致しているか否かを判定する(SD6)。
一方、SD6において、合成画像に含まれる基準標識3の配置と距離ガイド線82の配置とが一致していると判定した場合(SD6、Yes)、合成画像生成処理において、合成画像生成部62が記録画像データを適切な間隔で順次重ね合わせて合成画像を生成しているものとし、校正部64は距離パラメータ校正処理を終了する。
(処理−旋回パラメータ校正処理)
次に、図3のSB3の旋回パラメータ校正処理について説明する。図8は旋回パラメータ校正処理のフローチャートである。また、図9は旋回パラメータ校正処理の実行時の車両2及びディスプレイ50を示す図であり、図9(a)、(c)、(e)は車両2と基準標識3との位置を示す平面図、図9(b)、(d)、(f)はディスプレイ50の表示画面50aを示す図である。ここで、旋回パラメータ校正処理が実行される前提として、俯瞰パラメータ校正処理の開始時と同様に、基準標識3の前後枠線と車両2の進行方向とが平行になるように、車両2の後端部近傍に基準標識3が配置されるものとする(図9(a))。
上述のSB3で旋回パラメータ校正処理が起動されると、図8に示すように、校正部64はカメラ40が撮影可能な範囲の路面上に基準標識3が配置されたか否かを判定する(SE1)。例えば、図9(a)に例示した様に基準標識3が配置され、操作入力部30を介して基準標識3の配置が完了した旨の操作入力を受け付けた場合に、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたと判定することができる。
図8に戻り、カメラ40が撮影可能な範囲の路面上に基準標識3が配置されたと判定した場合(SE1、Yes)、校正部64はデータ記録部70に記録されているガイド線情報71に基づき、旋回ガイド線をディスプレイ50に表示させる(SE2)。旋回ガイド線は、合成画像における基準標識3の旋回に対応する予測配置を示すものであり、ディスプレイ50に表示された合成画像に基づき旋回パラメータの校正を行う際の基準となる。本実施の形態では、図9(a)のように車両2の後端部近傍に基準標識3が配置された状態からステアリングを予め定めた操舵角として一定の距離を車両2が後退した場合における基準標識3の第1枠線3aの前後枠線の予測配置を、データ記録部70に記録されている旋回パラメータを用いて特定し、旋回ガイド線83として表示する。
SE2において旋回ガイド線83をディスプレイ50に表示させた後、校正部64は車両2を旋回させる旨の指示をディスプレイ50に表示させる(SE3)。例えば、ステアリングを一定の操舵角とする旨のメッセージ(例えば「左回りに1回転」等)、及び、車両2を一定の距離後退させるための距離カウンタ(例えば「あと1m後退」等をディスプレイ50に表示する。あるいは、ステアリングやスロットルを校正部64により制御し、自動的に車両2を旋回させてもよい。
上述の如き車両2の旋回に合わせて、合成画像生成部62は上述の合成画像生成処理を実行することにより、車両2を含む領域の合成画像を生成し、当該生成した合成画像をディスプレイ50に表示させる(SE4)。
そして、校正部64は、一定の距離を車両2が後退したか否かを判定する(SE5)。例えば、車速センサ20から入力された車速パルス信号、及び距離パラメータ校正処理で校正した距離パラメータに基づき、移動状態特定部61が車両2の移動距離を特定し、当該特定した移動距離が一定の距離に達したか否かを判定する。その結果、一定の距離を車両2が後退していないと判定した場合(SE5、No)、校正部64はSE3に戻り、車両2を旋回させる旨の指示をディスプレイ50に表示させる。
一方、一定の距離を車両2が後退したと判定した場合(SE5、Yes)、校正部64は、車両2の旋回に対応して合成画像生成部62が生成した合成画像に含まれる基準標識3の配置と、合成画像上に重畳表示される旋回ガイド線83の配置とが一致しているか否かを判定する(SE6)。
例えば、一定の距離を車両2が後退した場合のディスプレイ50の表示画面50aを示す図9(f)においては、基準標識3の第1枠線3aの前後枠線と、その予測配置である旋回ガイド線83との配置が、一致していないと判定する。例えばサスペンションの交換や、タイヤ交換に伴うタイヤ径・オフセットの変更等に伴い、現実の車両2における操舵角に対応する旋回半径がデータ記録部70に旋回パラメータとして記録されている旋回半径よりも大きくなる場合がある。旋回半径が大きくなると、車両2が一定距離移動した場合における旋回角度は小さくなる。この場合、合成画像生成処理において、車両2の旋回に伴って順次回転され重ね合わされる記録画像データの相互間の角度は、現実の車両2の旋回角度よりも大きいものとなる。このため、図9(f)に示すように、第3枠線3cの前後枠線が湾曲し、旋回ガイド線83の配置と一致しない状態の合成画像が生成される。
図8に戻り、合成画像に含まれる基準標識3の配置と旋回ガイド線83の配置とが一致していないと判定した場合(SE6、No)、校正部64は、例えば操作入力部30を介した操作入力に基づき、データ記録部70に記録されている旋回パラメータの値を変更する(SE7)。図10は、旋回パラメータの値を変更する際にディスプレイ50に表示される表示画面50aを例示した図であり、図10(a)は旋回パラメータの変更前の表示画面50aの図、図10(b)は旋回パラメータの変更後の表示画面50aの図である。なお、図10では簡略化のため、基準標識3の第1枠線3aの前後枠線と旋回ガイド線83とを各々1本ずつのみ示している。
この図10に示したように、例えばタッチパネルを兼ねているディスプレイ50に旋回パラメータ変更用の操作入力ボタンとして「左」ボタン30e及び「右」ボタン30fを表示する。この「左」ボタン30eが操作された場合には、旋回ガイド線83及び合成画像のうち記録画像データの部分に表示されている基準標識3が、表示画面50aにおいて左方向に回転するように旋回パラメータの変更を行う。すなわち、合成画像生成処理において、車両2の旋回に伴って順次回転され重ね合わされる記録画像データの回転角度を小さくするため、データ記録部70に旋回パラメータとして記録されている旋回半径を現在よりも大きい値にシフトする。一方、「右」ボタン30fが操作された場合には、旋回ガイド線83及び合成画像のうち記録画像データの部分に表示されている基準標識3が、表示画面50aにおいて右方向に回転するように旋回パラメータの変更を行う。すなわち、合成画像生成処理において、車両2の旋回に伴って順次回転され重ね合わされる記録画像データの回転角度を大きくするため、データ記録部70に旋回パラメータとして記録されている旋回半径を現在よりも小さい値にシフトする。
図8に戻り、校正部64は変更後の旋回パラメータを用いて、基準標識3のの前後枠線の予測配置を再度特定し、変更後の旋回ガイド線83としてディスプレイ50に表示させる(SE8)。例えば、SE7の処理において、旋回パラメータとして記録されている旋回半径を現在よりも大きい値にシフトさせることにより、車両2の旋回に伴って順次回転され重ね合わされる記録画像データの回転角度が小さくなる。その結果、図10(b)に示した表示画面50aにおける旋回ガイド線83は、図10(a)に示した表示画面50aにおける旋回ガイド線83よりも車両2の進行方向(表示画面50aの上下方向)に沿った直線として再配置される。
図8に戻り、合成画像生成部62は変更後の旋回パラメータを用いて合成画像生成処理を実行し、生成した合成画像をSE8で表示させた旋回ガイド線83と相互に重畳してディスプレイ50に表示させる(SE9)。例えば、SE7の処理において、旋回パラメータとして記録されている旋回半径を現在よりも大きい値にシフトさせることにより、図10(b)に示した表示画面50aにおける基準標識3の第1枠線3aの前後枠線は、図10(a)に示した表示画面50aにおける当該枠線よりも湾曲が小さくなり、旋回ガイド線83に沿った線として表示される。
一方、SE6において、合成画像に含まれる基準標識3の配置と旋回ガイド線83の配置とが一致していると判定した場合(SE6、Yes)、合成画像生成処理において、合成画像生成部62が記録画像データを適切な角度で回転させ順次重ね合わせて合成画像を生成しているものとし、校正部64は旋回パラメータ校正処理を終了する。
(効果)
このように実施の形態によれば、旋回に対応して合成画像生成部62が生成した合成画像に含まれる基準標識3の配置と、合成画像上に重畳表示される基準標識3の旋回に対応する予測配置とに基づき、移動状態特定部61が移動状態としての旋回を移動情報に基づき特定する際に用いる旋回パラメータを校正する。従って、車両2の旋回半径等の旋回に関する運動特性の変化により、旋回パラメータを用いて正確な旋回を特定できず、移動情報に基づき正確な合成画像を表示できなくなった場合でも、合成画像における基準標識3の配置とその予測配置との差に基づき旋回パラメータを校正することができ、当該校正した旋回パラメータを用いて、データ記録部70に記録された画像データを合成して正確な合成画像を表示することができる。
また、直進移動に対応して合成画像生成部62が生成した合成画像に含まれる基準標識3の配置と、合成画像上に重畳表示される基準標識3の直進移動に対応する予測配置とに基づき、移動状態特定部61が移動状態としての移動距離を移動情報に基づき特定する際に用いる距離パラメータを校正する。従って、タイヤ交換に伴うタイヤ径の変化等の移動距離に関する運動特性の変化により、距離パラメータを用いて正確な移動距離を特定できず、移動情報に基づき正確な合成画像を表示できなくなった場合でも、合成画像における基準標識3の配置とその予測配置との差に基づき距離パラメータを校正することができ、当該校正した距離パラメータを用いて、データ記録部70に記録された画像データを合成して正確な合成画像を表示することができる。
また、俯瞰画像生成部63が生成した俯瞰画像に含まれる基準標識3の配置と、俯瞰画像上に重畳表示される基準標識3の俯瞰変換に対応する予測配置とに基づき、俯瞰画像生成部63が俯瞰画像を生成する際に用いる俯瞰パラメータを校正する。従って、カメラ40の設置位置のずれ等により、俯瞰パラメータを用いて正確な俯瞰画像を生成できなくなった場合でも、合成画像における基準標識3の配置とその予測配置との差に基づき俯瞰パラメータを校正することができ、当該校正した俯瞰パラメータを用いて、正確な俯瞰画像を生成することができる。
また、合成画像生成部62が生成する合成画像のうち、カメラ40が撮影した現在の画像データに基づき生成される部分に、車両2の位置に対応する位置標識を表示させるので、合成画像のうち記録画像データに基づき生成される部分が正確か否かに関わらず、車両2を一定の距離移動させる場合の目標位置を当該位置標識に基づき提示することができる。
また、校正処理において、俯瞰パラメータを校正した後、距離パラメータを校正するので、正確な俯瞰画像に表示した位置ガイド線81及び距離ガイド線82に基づいて距離パラメータを校正することができる。さらに、距離パラメータを校正した後、旋回パラメータを校正するので、正確な距離パラメータを用いて生成した合成画像及び旋回ガイド線83に基づいて旋回パラメータを校正することができる。
〔実施の形態に対する変形例〕
以上、本発明に係る実施の形態について説明したが、本発明の具体的な構成及び手段は、特許請求の範囲に記載した各発明の技術的思想の範囲内において、任意に改変及び改良することができる。以下、このような変形例について説明する。
(解決しようとする課題や発明の効果について)
まず、発明が解決しようとする課題や発明の効果は、上述の内容に限定されるものではなく、発明の実施環境や構成の細部に応じて異なる可能性があり、上述した課題の一部のみを解決したり、上述した効果の一部のみを奏することがある。
(基準標識について)
上述の実施の形態では、校正処理の各処理において用いる基準標識3は、一辺で重複する複数の長方形の枠線を用いて構成されると説明したが、各処理で異なる基準標識3を用いてもよい。例えば、俯瞰パラメータ構成処理では第1枠線3aのみを用いてもよい。また、距離パラメータ校正処理では、第1枠線3a及び第3枠線3cの左右枠線のみを用いてもよい。また、旋回パラメータ校正処理では、第1枠線3aの前後枠線のみを用いてもよい。
1 運転支援装置
2 車両
3 基準標識
3a 第1枠線
3b 第2枠線
3c 第3枠線
10 ステアリングセンサ
20 車速センサ
30 操作入力部
30a 「大」ボタン
30b 「小」ボタン
30c 「上」ボタン
30e 「左」ボタン
30f 「右」ボタン
40 カメラ
50 ディスプレイ
50a 表示画面
60 制御部
61 移動状態特定部
62 合成画像生成部
63 俯瞰画像生成部
64 校正部
65 画像メモリ
70 データ記録部
71 ガイド線情報
72 パラメータ情報
80 俯瞰ガイド線
81 位置ガイド線
82 距離ガイド線
83 旋回ガイド線

Claims (6)

  1. 車両の周辺を撮影する撮影手段と、
    前記撮影手段が撮影した前記車両の周辺の画像データに基づき、前記車両を含む領域の俯瞰画像を生成する俯瞰画像生成手段と、
    前記俯瞰画像生成手段が生成した前記俯瞰画像を記録する記録手段と、
    前記車両の移動に関する移動情報を取得し、当該取得した移動情報に基づき当該車両の移動状態を特定する移動状態特定手段と、
    前記移動状態特定手段が特定した移動状態に基づき、前記記録手段に記録された前記俯瞰画像を合成し、前記車両を含む領域の合成画像を生成する合成画像生成手段と、
    前記合成画像生成手段が生成した前記合成画像を表示する表示手段と、
    前記撮影手段が撮影可能な範囲の路面上に基準標識が配置されている場合であって、前記車両が旋回した場合において、当該旋回に対応して前記合成画像生成手段が生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記旋回に対応する予測配置とに基づき、前記移動状態特定手段が前記移動状態としての旋回を前記移動情報に基づき特定する際に用いる旋回パラメータを校正する校正手段と、
    を備える運転支援装置。
  2. 前記校正手段は、
    前記撮影手段が撮影可能な範囲の路面上に前記基準標識が配置されている場合であって、前記車両が直進移動した場合において、当該直進移動に対応して前記合成画像生成手段が生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記直進移動に対応する予測配置とに基づき、前記移動状態特定手段が前記移動状態としての移動距離を前記移動情報に基づき特定する際に用いる距離パラメータを校正する、
    請求項1に記載の運転支援装置。
  3. 前記校正手段は、
    前記撮影手段が撮影可能な範囲の路面上に前記基準標識が配置されている場合において、前記俯瞰画像生成手段が生成した前記俯瞰画像に含まれる前記基準標識の配置と、前記俯瞰画像上に重畳表示される前記基準標識の俯瞰変換に対応する予測配置とに基づき、前記俯瞰画像生成手段が前記俯瞰画像を生成する際に用いる俯瞰パラメータを校正する、
    請求項1又は2に記載の運転支援装置。
  4. 車両の周辺を撮影する撮影ステップと、
    前記撮影ステップで撮影した前記車両の周辺の画像データに基づき、前記車両を含む領域の俯瞰画像を生成する俯瞰画像生成ステップと、
    前記俯瞰画像生成ステップで生成した前記俯瞰画像を記録手段に記録する記録ステップと、
    前記車両の移動に関する移動情報を取得し、当該取得した移動情報に基づき当該車両の移動状態を特定する移動状態特定ステップと、
    前記移動状態特定ステップで特定した移動状態に基づき、前記記録ステップで前記記録手段に記録された前記俯瞰画像を合成し、前記車両を含む領域の合成画像を生成する合成画像生成ステップと、
    前記合成画像生成ステップで生成した前記合成画像を表示手段に表示する表示ステップと、
    前記撮影ステップで撮影可能な範囲の路面上に基準標識が配置されている場合であって、前記車両が旋回した場合において、当該旋回に対応して前記合成画像生成ステップで生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記旋回に対応する予測配置とに基づき、前記移動状態特定ステップで前記移動状態としての旋回角度を前記移動情報に基づき特定する際に用いる旋回パラメータを校正する校正ステップと、
    を含む運転支援方法。
  5. 前記校正ステップにおいて、
    前記撮影ステップで撮影可能な範囲の路面上に前記基準標識が配置されている場合において、前記俯瞰画像生成ステップで生成した前記俯瞰画像に含まれる前記基準標識の配置と、前記俯瞰画像上に重畳表示される前記基準標識の俯瞰変換に対応する予測配置とに基づき、前記俯瞰画像生成ステップで前記俯瞰画像を生成する際に用いる俯瞰パラメータを校正し、
    前記俯瞰パラメータを校正した後、前記撮影ステップで撮影可能な範囲の路面上に前記基準標識が配置されている場合であって、前記車両が直進移動した場合において、当該直進移動に対応して前記合成画像生成ステップで生成した前記合成画像に含まれる前記基準標識の配置と、前記合成画像上に重畳表示される前記基準標識の前記直進移動に対応する予測配置とに基づき、前記移動状態ステップで前記移動状態としての移動距離を前記移動情報に基づき特定する際に用いる距離パラメータを校正し、
    前記距離パラメータを校正した後、前記旋回パラメータを校正する、
    請求項4に記載の運転支援方法。
  6. 請求項4又は5に記載の方法をコンピュータに実行させる運転支援プログラム。
JP2009080008A 2009-03-27 2009-03-27 運転支援装置、運転支援方法、及び運転支援プログラム Expired - Fee Related JP4831374B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009080008A JP4831374B2 (ja) 2009-03-27 2009-03-27 運転支援装置、運転支援方法、及び運転支援プログラム
US12/700,965 US8675070B2 (en) 2009-03-27 2010-02-05 Driving support device, driving support method, and driving support program
EP10001227.7A EP2233357B1 (en) 2009-03-27 2010-02-05 Driving support device, driving support method, and driving support program
CN201010117713.8A CN101848370B (zh) 2009-03-27 2010-02-11 驾驶辅助装置、驾驶辅助方法和驾驶辅助程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009080008A JP4831374B2 (ja) 2009-03-27 2009-03-27 運転支援装置、運転支援方法、及び運転支援プログラム

Publications (2)

Publication Number Publication Date
JP2010233079A JP2010233079A (ja) 2010-10-14
JP4831374B2 true JP4831374B2 (ja) 2011-12-07

Family

ID=42309613

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009080008A Expired - Fee Related JP4831374B2 (ja) 2009-03-27 2009-03-27 運転支援装置、運転支援方法、及び運転支援プログラム

Country Status (4)

Country Link
US (1) US8675070B2 (ja)
EP (1) EP2233357B1 (ja)
JP (1) JP4831374B2 (ja)
CN (1) CN101848370B (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012053102A1 (ja) * 2010-10-22 2012-04-26 パイオニア株式会社 端末装置、端末装置によって実行される画像処理方法及び画像処理プログラム
WO2012035886A1 (ja) * 2010-09-16 2012-03-22 パイオニア株式会社 端末保持装置
JP6058256B2 (ja) * 2011-06-13 2017-01-11 アルパイン株式会社 車載カメラ姿勢検出装置および方法
US9440585B2 (en) * 2011-09-13 2016-09-13 Toyoya Jidosha Kabushiki Kaisha Optical axis ascertaining device for in-vehicle camera
JP5750344B2 (ja) * 2011-09-16 2015-07-22 日立建機株式会社 作業機の周囲監視装置
US9760092B2 (en) 2012-03-16 2017-09-12 Waymo Llc Actively modifying a field of view of an autonomous vehicle in view of constraints
JP6025365B2 (ja) * 2012-04-04 2016-11-16 京セラ株式会社 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
CN103369216A (zh) * 2012-04-06 2013-10-23 英华达(上海)科技有限公司 摄像装置及其校正拍摄范围的方法
JP5888087B2 (ja) 2012-04-25 2016-03-16 ソニー株式会社 走行支援画像生成装置、走行支援画像生成方法、車載用カメラおよび機器操縦支援画像生成装置
JP5820787B2 (ja) * 2012-08-30 2015-11-24 株式会社デンソー 画像処理装置、及びプログラム
JP5923422B2 (ja) * 2012-09-24 2016-05-24 クラリオン株式会社 カメラのキャリブレーション方法及び装置
US20140176709A1 (en) * 2012-12-21 2014-06-26 Caterpillar, Inc. Video Overlays for RC/Autonomous Machine
JP6260891B2 (ja) * 2013-08-08 2018-01-17 パナソニックIpマネジメント株式会社 画像処理装置および画像処理方法
DE102013015847B3 (de) * 2013-09-24 2015-03-05 Mekra Lang Gmbh & Co. Kg Sichtsystem
US20140232871A1 (en) * 2014-05-01 2014-08-21 Caterpillar Inc. Method for manually calibrating a camera mounted on vehicle
WO2016035271A1 (ja) * 2014-09-02 2016-03-10 株式会社デンソー 車両用画像処理装置
JP6327160B2 (ja) * 2014-09-02 2018-05-23 株式会社デンソー 車両用画像処理装置
JP6466139B2 (ja) * 2014-10-20 2019-02-06 有限会社テレビジネス 人間の動きを測定するロボット計測器
JP2017139612A (ja) * 2016-02-03 2017-08-10 パナソニックIpマネジメント株式会社 車載カメラ用校正システム
AU2016224353B2 (en) * 2016-03-28 2019-10-31 Komatsu Ltd. Evaluation Device
JP6642306B2 (ja) * 2016-06-29 2020-02-05 アイシン精機株式会社 周辺監視装置
DE102017130173A1 (de) * 2017-02-24 2018-08-30 Denso Ten Limited Ladeunterstützungsvorrichtung
CN108028911B (zh) * 2017-06-28 2021-09-28 株式会社小松制作所 作业机械的显示装置及显示系统
CN109997356B (zh) * 2017-07-31 2021-10-08 Jvc 建伍株式会社 显示控制装置、显示控制系统、显示控制方法以及程序
US10748032B1 (en) * 2019-01-31 2020-08-18 StradVision, Inc. Method for providing robust object distance estimation based on camera by performing pitch calibration of camera more precisely with fusion of information acquired through camera and information acquired through V2V communication and device using the same
US10872532B2 (en) * 2019-02-27 2020-12-22 ANI Technologies Private Limited Calibration of fixed image-capturing device for predicting driving lane
US20230061195A1 (en) * 2021-08-27 2023-03-02 Continental Automotive Systems, Inc. Enhanced transparent trailer

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135765A (ja) * 1998-07-31 2002-05-10 Matsushita Electric Ind Co Ltd カメラキャリブレーション指示装置及びカメラキャリブレーション装置
JP2000225970A (ja) * 1998-11-30 2000-08-15 Tuner Kk 車載用画像記録システム
US6813371B2 (en) 1999-12-24 2004-11-02 Aisin Seiki Kabushiki Kaisha On-vehicle camera calibration device
JP3551920B2 (ja) * 1999-12-24 2004-08-11 アイシン精機株式会社 車載カメラの校正装置および校正方法
US20020052724A1 (en) * 2000-10-23 2002-05-02 Sheridan Thomas B. Hybrid vehicle operations simulator
JP2003044996A (ja) * 2001-07-31 2003-02-14 Matsushita Electric Ind Co Ltd 障害物検出装置
JP2004354236A (ja) 2003-05-29 2004-12-16 Olympus Corp ステレオカメラ支持装置およびステレオカメラ支持方法ならびにステレオカメラシステム
EP1637836A1 (en) * 2003-05-29 2006-03-22 Olympus Corporation Device and method of supporting stereo camera, device and method of detecting calibration, and stereo camera system
JP3916240B2 (ja) * 2003-08-07 2007-05-16 松下電器産業株式会社 運転支援装置及び運転支援方法
JP4238663B2 (ja) * 2003-08-29 2009-03-18 トヨタ自動車株式会社 車載カメラのキャリブレーション方法及びキャリブレーション装置
JP4868964B2 (ja) * 2006-07-13 2012-02-01 三菱ふそうトラック・バス株式会社 走行状態判定装置
JP4286294B2 (ja) * 2007-02-21 2009-06-24 三洋電機株式会社 運転支援システム
JP4863922B2 (ja) 2007-04-18 2012-01-25 三洋電機株式会社 運転支援システム並びに車両
RU2010136929A (ru) * 2008-02-04 2012-03-20 Теле Атлас Норт Америка Инк. (Us) Способ для согласования карты с обнаруженными датчиком объектами

Also Published As

Publication number Publication date
JP2010233079A (ja) 2010-10-14
EP2233357B1 (en) 2013-11-20
CN101848370A (zh) 2010-09-29
EP2233357A3 (en) 2012-06-13
US20100245575A1 (en) 2010-09-30
EP2233357A2 (en) 2010-09-29
US8675070B2 (en) 2014-03-18
CN101848370B (zh) 2014-09-24

Similar Documents

Publication Publication Date Title
JP4831374B2 (ja) 運転支援装置、運転支援方法、及び運転支援プログラム
JP6012982B2 (ja) 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP5316805B2 (ja) 車載カメラ装置の画像調整装置及び車載カメラ装置
JP6025365B2 (ja) 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP2001218197A (ja) 車両用周辺表示装置
JP5792091B2 (ja) 物体検出装置及び物体検出方法
JP5383576B2 (ja) 撮像装置、撮像方法およびプログラム
JP2010103730A (ja) 車載カメラのキャリブレーション装置およびキャリブレーション方法
JP6223685B2 (ja) 画像処理装置および画像処理方法
JP2007325166A (ja) 駐車支援プログラム、駐車支援装置、駐車支援画面
JP2007274377A (ja) 周辺監視装置、プログラム
JP2008172535A (ja) 運転支援システム、画像処理装置及びずれ検出方法
JP2010016805A (ja) 画像処理装置、運転支援システム、及び画像処理方法
JP2015070512A (ja) 車両周辺画像表示装置及びカメラの調整方法
JP2010128102A (ja) 投写型表示装置および配置関係検出方法
JP2011500407A (ja) 少なくとも1つの全方位カメラ及び光学的表示ユニットを備えた装置のキャリブレーション方法
JP2008048094A (ja) 車両用映像表示装置及び車両周囲映像の表示方法
JP2015186085A (ja) 移動量導出装置、及び、移動量導出方法
JP6407596B2 (ja) 画像処理装置、及び、運転支援システム
JP2010233080A (ja) 運転支援装置、運転支援方法、及び運転支援プログラム
JP2014225819A (ja) 較正処理装置、カメラ較正装置、およびカメラ較正方法
JP2013062692A (ja) 車載カメラの較正装置及び方法
JP3850271B2 (ja) 車両周辺画像処理装置及び記録媒体
JP2013091330A (ja) 駐車支援装置
JP4846627B2 (ja) 表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110824

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110906

R150 Certificate of patent or registration of utility model

Ref document number: 4831374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees