JP2010218058A - 運転支援装置及び運転支援方法 - Google Patents

運転支援装置及び運転支援方法 Download PDF

Info

Publication number
JP2010218058A
JP2010218058A JP2009062036A JP2009062036A JP2010218058A JP 2010218058 A JP2010218058 A JP 2010218058A JP 2009062036 A JP2009062036 A JP 2009062036A JP 2009062036 A JP2009062036 A JP 2009062036A JP 2010218058 A JP2010218058 A JP 2010218058A
Authority
JP
Japan
Prior art keywords
viewpoint
image
vehicle
information
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009062036A
Other languages
English (en)
Inventor
Chiharu Yamano
千晴 山野
Kazuhiro Sakata
和宏 坂田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2009062036A priority Critical patent/JP2010218058A/ja
Publication of JP2010218058A publication Critical patent/JP2010218058A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】自車両周囲を撮影した周辺画像に基づいて、ドライバが障害物を認識し、かつ自車両と障害物との位置関係を把握することを容易にする運転支援装置及び運転支援方法を提供する。
【解決手段】運転支援装置1は、車両10の周囲を撮影した周辺画像を取得する撮像部(2a〜2c)と、視点情報を複数記憶する記憶部52と、異なる視点に関する視点情報を順次取得する視点位置決定部522と、視点位置決定部522から視点情報を受け取る度に、撮像部(2a〜2c)により取得された周辺画像に対して、その視点情報に表される視点に基づいて視点変換処理を行うことにより、その視点から周辺画像に写っている領域を見た視点変換画像を作成する画像変換部533と、第1の視点から第2の視点まで、あるいはその逆の順序で、各視点情報に表される視点に基づいて作成されたそれぞれの視点変換画像を所定の時間間隔で順次切り替え表示する表示部3とを有する。
【選択図】図1

Description

本発明は、運転支援装置及び運転支援方法に関し、特に、自動車の周辺を撮影した画像をドライバへ提示する運転支援装置及び運転支援方法に関する。
近年、車両後方または車両左前方など、運転席から見え難い位置を、車載カメラにより撮影し、その撮影画像を車内に設置されたモニタに表示することにより、ドライバの運転を支援する装置が提案されている。特に、自車両周囲を撮影した周辺画像に対して視点を変換する処理を行うことにより、自車両の上方から撮影した場合に得られる俯瞰画像を擬似的に作成し、その俯瞰画像をドライバに提示する装置が提案されている(例えば、特許文献1を参照)。このような装置は、ドライバが自車両とその周囲に存在する物体との位置関係を直感的に把握させることができる。
例えば、特許文献1に開示された運転支援装置は、車両周囲を撮影するカメラの撮影画像に対して、視点変換と合成とを施して自動車上方の視点から撮影した場合に得られる画像を生成するとともに、合成した画像上に自車を表す図形を配置することにより、自動車周辺を自車を表す図形とともに俯瞰的に表す俯瞰画像を生成し、その俯瞰画像を表示装置に表示する。
特開2006−131166号公報
しかしながら、上記のような運転支援装置は、カメラにより車両周囲を撮影した周辺画像に対し、その周辺画像上に写っているものを全て地平面座標に位置するものとして俯瞰画像に変換する。そのため、周辺画像に、他車両、ガードレール、パイロンなどの立体的な障害物が写っていると、俯瞰画像上では、その立体的な障害物の形状が大きく歪んでしまう。そのため、ドライバは、俯瞰画像に写った立体的な障害物を認識することが困難になるおそれがあった。
そこで、本発明の目的は、自車両周囲を撮影した周辺画像に基づいて、ドライバが障害物を認識し、かつ自車両と障害物との位置関係を把握することを容易にする運転支援装置及び運転支援方法を提供することにある。
請求項1の記載によれば、本発明の一つの形態として、運転支援装置が提供される。係る運転支援装置は、車両(10)の周囲を撮影した周辺画像を取得する撮像部(2a〜2c)と、撮像部の仮想的な設置位置及び撮影方向を表す視点に関する視点情報を複数記憶する記憶部(52)と、複数の視点情報のうち、第1の視点に対応する撮像部の仮想的な設置位置と第2の視点に対応する撮像部の仮想的な設置位置の間に位置する、撮像部の仮想的な設置位置に対応する視点情報を順次取得する視点位置決定部(522)と、視点位置決定部(522)から視点情報を受け取る度に、撮像部(2a〜2c)により取得された周辺画像に対して、その視点情報に表される視点に基づいて視点変換処理を行うことにより、その視点から周辺画像に写っている領域を見た視点変換画像を作成する画像変換部(533)と、第1の視点から第2の視点まで、あるいは第2の視点から第1の視点まで、各視点情報に表される視点に基づいて作成されたそれぞれの視点変換画像を所定の時間間隔で順次切り替え表示する表示部(3)とを有する。
本発明に係る運転支援装置は、自車両周囲を撮影した周辺画像に基づいて、ドライバが障害物を認識し、かつ自車両と障害物との位置関係を把握することを容易にする。特にこの運転支援装置は、複数の異なる視点から自車両周囲を見た視点変換画像を順次切り替えて表示する。そのため、この運転支援装置は、ドライバに自車両周囲に位置する立体的な障害物を仮想的に多方向から見せることができるので、ドライバがその障害物を認識することを容易にする。
また請求項2の記載によれば、第1の視点は撮像部(2a〜2c)の設置位置及び撮影方向に対応する視点であり、第2の視点は車両(10)の上方から垂直に下方を見下ろす視点であることが好ましい。これにより、運転支援装置は、第1の視点に対応する、自車両周囲に位置する立体的な障害物の形状の歪みが比較的少ない周辺画像自体と、第2の視点に対応する、自車両とその障害物間の位置関係が把握し易い俯瞰画像との間を連続的に変化する視点変換画像をドライバに提示できる。そのため、この運転支援装置は、ドライバが俯瞰画像に写っている立体的な障害物を認識することを容易にするので、ドライバが自車両とその障害物間の位置関係を把握することを容易にする。
さらに請求項3の記載によれば、複数の視点情報のそれぞれに表される視点のうち、第1の視点と第2の視点の中間の第3の視点とその第3の視点に隣接する視点間の距離が最も長く設定され、その第3の視点から第1の視点あるいは第2の視点に近づくにつれて、隣接する視点間の距離が短く設定されることが好ましい。これにより、この運転支援装置は、ドライバに対して表示される画像が、実際のカメラの視点あるいは上方から垂直に見下ろす視点の近くではゆっくりと変化し、その途中では、高速に切り替わる。そのため、この運転支援装置は、形状の歪みの少ない立体的な障害物が写った画像をドライバに長時間見せることができるので、ドライバは障害物を認識することがより容易になるとともに、この運転装置は、ドライバが障害物を認識した状態を保ったまま短期間で表示される画像を俯瞰画像に切り替えることができる。そのため、ドライバは、自車両と障害物の位置関係をより容易に把握することができる。
さらに請求項4の記載によれば、撮像部(2b)は、車両(10)の左前方に取り付けられ、車両(10)の前側端部の少なくとも一部及び車両(10)の左前方の路面を撮影することが好ましい。
また、請求項5の記載によれば、本発明の他の一つの形態として、運転支援方法が提供される。係る運転支援方法は、車両(10)に取り付けられた撮像部(2a〜2c)により車両(10)の周囲を撮影した周辺画像を取得するステップと、記憶部(52)に記憶された、撮像部の仮想的な設置位置及び撮影方向を表す仮想的な視点に関する複数の視点情報のうち、第1の視点に対応する撮像部の仮想的な設置位置と第2の視点に対応する撮像部の仮想的な設置位置の間に位置する、撮像部の仮想的な設置位置に対応する視点情報を順次取得するステップと、視点情報が取得される度に、撮像部(2a〜2c)により取得された周辺画像に対して、その視点情報に表される視点に基づいて視点変換処理を行うことにより、その視点から周辺画像に写っている領域を見た視点変換画像を作成するステップと、第1の視点から第2の視点まで、あるいは第2の視点から第1の視点まで、各視点情報に表される視点に基づいて作成されたそれぞれの視点変換画像を所定の時間間隔で表示部(3)に順次切り替え表示させるステップとを含む。
本発明に係る運転支援方法は、自車両周囲を撮影した周辺画像に基づいて、ドライバが障害物を認識し、かつ自車両と障害物との位置関係を把握することを容易にする。特にこの運転支援方法は、複数の異なる視点から自車両周囲を見た視点変換画像を順次切り替えて表示する。そのため、この運転支援方法は、ドライバに自車両周囲に位置する立体的な障害物を仮想的に多方向から見せることができるので、ドライバがその障害物を認識することを容易にする。
上記各部に付した括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示す一例である。
本発明の一つの実施形態に係る運転支援装置の全体構成図である。 (a)は、本発明の実施形態に係る運転支援装置に含まれるカメラの配置を示す車両の概略平面図であり、(b)は、本発明の実施形態に係る運転支援装置に含まれるカメラの配置を示す車両の概略側面図である。 本発明の一つの実施形態に係る運転支援装置の制御部の機能ブロック図である。 視点テーブルの一例を示す図である。 視点変換処理において関連する座標系を示す図である。 (a)は、視点変換処理が行われていない周辺画像の一例を示す図であり、(b)及び(c)は、それぞれ、周辺画像に対応する視点と俯瞰画像に対応する視点の中間に位置する視点に関して、(a)に示される周辺画像を視点変換することにより得られる視点変換画像の一例を示す図であり、(d)は、(a)に示される周辺画像を、車両の上方から垂直に下方を見下ろすように視点変換処理することにより得られる俯瞰画像の一例を示す図である。 本発明の一つの実施形態に係る運転支援装置の連続視点変換処理の動作フローチャートである。
以下、図を参照しつつ、一つの実施形態による、運転支援装置について説明する。
この運転支援装置は、車両後方または車両の左右前方などに設置されたカメラにより撮影された車両周囲を写す周辺画像に対して視点を変換する処理を行って、その視点変換処理により得られた視点変換画像を車内に設置されたディスプレイに表示するものである。特にこの運転支援装置は、視点の位置を様々に変化させた複数の視点変換画像を連続的にディスプレイにすることにより、ドライバが自車両の周囲に存在する立体的な障害物を認識することを容易にする。
図1は、本発明の一つの実施形態に係る運転支援装置1の全体構成を示す。図1に示すように、運転支援装置1は、車両10に搭載された3台のカメラ2a、2b、2cと、ディスプレイ3と、操作スイッチ4と、コントローラ5とを有する。カメラ2、ディスプレイ3及び操作スイッチ4と、コントローラ5とは、コントロールエリアネットワーク(以下、CANという)6によって互いに接続されている。
また、コントローラ5は、CAN6を介して、ハンドルの操舵角を検知する操舵角センサ7及び車両10の電子制御ユニット8とも接続されている。そしてコントローラ5は、操舵角センサ7から、ハンドルの操舵角を表す操舵角信号を取得可能となっている。さらにコントローラ5は、電子制御ユニット8からシフトレバーのポジションを表すシフトポジション信号を取得可能となっており、そのシフトポジション信号に基づいて、車両10が前進しているか、後進しているかを判断可能となっている。
カメラ2a〜2cは、CCDあるいはC-MOSなど、可視光に感度を有する光電変換器で構成された2次元検出器と、その2次元検出器上に車両10の周囲の路面などの像を結像する撮像光学系などを有する。そしてカメラ2a〜2cは、一定の時間間隔(例えば1/30秒)ごとに撮影を行う。
カメラ2a〜2cは、撮影により得られた周辺画像を逐次コントローラ5へ送信する。
図2(a)及び図2(b)は、それぞれ、3台のカメラ2a、2b、2cが車両10に設置された、カメラの配置の一例を示す、車両10の概略平面図及び概略側面図である。図2(a)及び図2(b)に示すように、カメラ2aは、車両10の後方、トランクの上部中央に、カメラ2aの撮像光学系の光軸が、車両10の後方且つ斜め下方に向くように取り付けられる。そしてカメラ2aは、車両10の後側端部の少なくとも一部及び車両10の後方の路面を含む所定範囲を撮影する。またカメラ2bは、車両10の左前方に、カメラ2bの撮像系の光軸が車両の前後方向の中心軸に対して左方向に45°の角をなすように取り付けられる。そしてカメラ2bは、車両10の前側端部の少なくとも一部及び車両10の左前方の路面を含む所定範囲を撮影する。さらにカメラ2cは、車両10の右前方に、カメラ2cの撮像系の光軸が車両の前後方向の中心軸に対して右方向に45°の角をなすように取り付けられる。そしてカメラ2cは、車両10の前側端部の少なくとも一部及び車両10の右前方の路面を含む所定範囲を撮影する。
ディスプレイ3は、例えば、液晶ディスプレイあるいは有機ELディスプレイで構成され、インストルメントパネル内に配置される。なお、ディスプレイ3は、インストルメントパネルと独立して配置されてもよい。あるいは、ディスプレイ3は、ナビゲーション装置など、他の装置のディスプレイであってもよい。
操作スイッチ4は、例えば、ステアリングに取り付けられ、あるいは、インストルメントパネル内に設けられる。操作スイッチ4から発せられた操作信号は、CAN6を介してコントローラ5に伝達される。そしてドライバは、操作スイッチ4を操作することにより、周辺画像に対して視点を様々に変更した視点変換処理を実行する連続視点変換処理の開始または停止を切り替えることが可能となっている。なお、連続視点変換処理の詳細は後述する。
コントローラ5は、記憶部51と、通信部52と、制御部53とを有する。記憶部51は、例えば、電気的に書き換え可能な不揮発性メモリ及び揮発性メモリなどの半導体メモリを有する。そして記憶部51は、運転支援装置1を制御するための各種プログラム及びパラメータ、制御部53による一時的な演算結果などを記憶する。また、通信部52は、カメラ2a〜2c、ディスプレイ3、操作スイッチ4、操舵角センサ7及び電子制御ユニット8とCAN6を通じて通信する通信インターフェース及びその制御回路を有する。
制御部53は、1個もしくは複数個の図示してないマイクロプロセッサ及びその周辺回路を有する。そして制御部53は、運転支援装置1全体を制御する。
図3に、制御部53の機能ブロック図を示す。図3に示すように、制御部53は、画像選択部531と、視点位置決定部532と、画像変換部533とを有する。制御部53が有するこれらの各部は、例えば、制御部53が有するマイクロプロセッサ上で実行されるコンピュータプログラムによって実現される機能モジュールとして実装される。
画像選択部531は、カメラ2a〜2cのうちの何れのカメラにより取得された周辺画像をディスプレイ3に表示させるかを選択する。そのために、画像選択部531は、操舵角センサ7から取得した操舵角信号及び電子制御ユニット8から取得したシフトポジション信号を参照する。そして、画像選択部531は、シフトポジション信号がシフトレバーがリバースポジションとなっていることを示していれば、車両10の後部に取り付けられたカメラ2aを選択する。なお、画像選択部531は、車輪速度センサ(図示せず)から取得した車輪速度信号が、車両10が後進していることを示していれば、カメラ2aを選択してもよい。そして画像選択部531は、カメラ2aの識別信号を制御部53に通知する。一方、画像選択部531は、シフトポジション信号がシフトレバーがドライブポジションとなっていることを示しているか、あるいは車輪速度信号が車両10が前進していることを示しており、かつ操舵角信号が車両10が左方向へ旋回していることを示していれば、車両10の左前方に取り付けられたカメラ2bを選択する。そして画像選択部531は、カメラ2bの識別信号を制御部53に通知する。また、画像選択部531は、シフトポジション信号がシフトレバーがドライブポジションとなっていることを示しているか、あるいは車輪速度信号が車両10が前進していることを示しており、かつ操舵角信号が車両10が右方向へ旋回していることを示していれば、車両10の右前方に取り付けられたカメラ2cを選択する。そして画像選択部531は、カメラ2cの識別信号を制御部53に通知する。
制御部53は、画像選択部531から通知された識別信号に対応するカメラに対して画像要求信号を送信する。そして制御部53は、そのカメラから画像信号を受信し、画像変換部533に渡す。
視点位置決定部532は、連続視点変換処理が行われている間、記憶部52に記憶されている視点テーブルを参照して、周辺画像に対する視点変換処理の基準となる視点を決定する。そこで、制御部53が操作スイッチ4から連続視点変換処理を起動する操作信号を受け取ると、制御部53は、記憶部52から視点テーブルを読み込み、視点位置決定部532に渡す。
図4は、視点テーブルの一例を示す図である。図4に示されるように、視点テーブル400は、各行ごとに、一つの視点に関する情報を有する。この視点に関する情報を、以下では視点情報と呼ぶ。そして視点テーブル400の各欄は、左側の列から順に、カメラの実際の設置位置から仮想的なカメラの位置までの平行移動量を表す平行移動ベクトルと、カメラの実際の設置位置に対応する座標系を基準としたカメラの撮影方向の回転量を表す回転ベクトルとを表す。また視点変換処理により、画角も変換される場合には、各視点情報は、視点変換後の最大画角を有してもよい。例えば、視点テーブル400は、51個の視点情報を有する。そして一番上の行410は、視点変更しない、すなわち、周辺画像そのものに対応する視点情報を有する。また一番下の行460は、車両10の上方から垂直に下方を見下ろす俯瞰画像に対応する視点情報を有する。そして中間の各行は、それぞれ、上から順に、周辺画像そのものの視点から俯瞰画像の視点までの間を等間隔で変更したときの視点情報を有する。すなわち、中間の各行に対応する視点情報の平行移動ベクトルの各成分及び回転ベクトルの各成分は、それぞれ、一番下の行460に示された平行移動ベクトルの各成分及び回転ベクトルの各成分を50等分した値に、上から数えたその行の位置から1を引いた値を乗じた値を有する。
なお、隣接する二つの視点情報間の平行移動ベクトルの各成分の差及び回転移動ベクトルの各成分の差は、全ての視点情報にわたって等間隔でなくてもよい。例えば、ディスプレイ3上で、視点変換画像が高速に切り替わるように見せたい視点間では、その差を大きくし、ディスプレイ3上で、視点変換画像がゆっくり切り替わるように見せたい視点間では、その差を小さくしてもよい。具体的には、隣接する二つの視点情報間の平行移動ベクトルの各成分の差及び回転移動ベクトルの各成分の差を、周辺画像に対応する視点と俯瞰画像に対応する視点の中間点で最も大きく、周辺画像に対応する視点あるいは俯瞰画像に対応する視点に近づくほどその差を小さくしてもよい。
視点位置決定部532は、連続視点変換処理が開始されると、所定の遷移規則に従って、視点テーブルから一つずつ視点情報を読み込む。例えば、視点位置決定部532は、視点テーブルを参照して、視点変換を行わないときに対応する視点情報から俯瞰画像に対応する視点情報まで順に、一つずつ視点情報を取得する。そして視点位置決定部532は、視点情報を一つ取得する度に、その取得した視点情報を画像変換部533に渡す。
また視点位置決定部532は、俯瞰画像に対応する視点情報が取得されると、今度は逆に、俯瞰画像に対応する視点情報から実際のカメラの位置に対応する視点情報まで順に、一つずつ視点情報を取得する。あるいは、視点位置決定部532は、俯瞰画像に対応する視点情報が取得されると、再度実際のカメラの位置に対応する視点情報から俯瞰画像に対応する視点情報まで順に、一つずつ視点情報を取得してもよい。以後、視点連続変換処理が終了するまで、視点位置決定部532は、同様の処理を繰り返す。
画像変換部533は、視点位置決定部532から視点情報を取得する度に、その視点情報に基づいてカメラ2a〜2cの何れかから取得した周辺画像に対して視点変換処理を実行する。そしてその視点変換処理により、画像変換部533は、その視点情報に表された視点から周辺画像に写っている領域を見た視点変換画像を作成する。
図5を参照しつつ、画像変換部533による、所定の視点からの視点変換画像の作成手順を説明する。
図5において、実座標系500は、カメラ2a〜2cの何れかの実際の設置位置を基準とする座標系である。例えば、実座標系500では、x、y、zの各座標軸は、それぞれ、カメラにより撮影された画像上で水平となる方向に対応する方向、カメラにより撮影された画像上で垂直となる方向に対応する方向、カメラの光軸方向に平行な方向に設定される。また画像座標系510は、視点変換処理が行われていない、周辺画像上の座標系である。さらに、俯瞰座標系520は、車両10の上方から垂直に下方を見下ろす仮想的なカメラの設置位置を基準とする座標系である。そして俯瞰座標系520においても、x、y、zの各座標軸は、それぞれ、カメラにより撮影された画像上で水平となる方向に対応する方向、カメラにより撮影された画像上で垂直となる方向に対応する方向、カメラの光軸方向に平行な方向に設定される。そして俯瞰画像座標系530は、周辺画像を車両10の上方から垂直に下方を見下ろす視点からの画像に変換した俯瞰画像上の座標系である。
まず、画像変換部533は、次式に従って実座標系500上の座標(Xc,Yc,Zc)を俯瞰座標系520上の対応する座標(Xt,Yt,Zt)に変換する。
ただし、平行移動ベクトル(Tx,Ty,Tz)は、カメラの実際の設置位置から俯瞰座標系520上の仮想的な設置位置への平行移動量を表し、例えば、(Tx,Ty,Tz)=(-1.3,-1.3,-0.65)である。Rはカメラ回転行列であり、実座標系のx軸、y軸、z軸それぞれの周りの回転成分をRx、Ry、Rzとして、R=Rxyzと表される。なお、各軸周りの回転成分は、以下のように表される。
ただし、回転ベクトル(θxyz)は、カメラの撮影方向の回転量を表し、その各成分θx、θy、θzは、カメラの仮想的な設置位置における、カメラの光軸が実座標系のx軸、y軸、z軸それぞれとなす角である。例えば、(θxyz)=(-35.5°,-3°,45°)である。
次に、画像変換部533は、次式にしたがって、実座標系500上の座標(xc,yc,zc)に対応する画像座標系510上の座標(Xd,Yd)を求める。ただし、Xdは、画像座標系510上の水平方向の座標であり、Ydは、画像座標系510上の垂直方向の座標である。
ここでCxは画像座標系510の水平方向の中心位置の座標であり、Cyは画像座標系510の垂直方向の中心位置の座標である。すなわち、座標(Cx,Cy)は、カメラの撮像光学系の光軸上に位置する点に対応し、画像の左上端の座標を(0,0)とし、画像の水平方向及び垂直方向のサイズをIx、Iyとすると、(Cx,Cy)=(Ix/2,Iy/2)である。またDxは、カメラの撮像光学系の歪曲収差を考慮した、画角90°に対応する、座標(Cx,Cy)からの画像上の水平方向の距離(画素単位)である。同様に、Dyは、カメラの撮像光学系の歪曲収差を考慮した、画角90°に対応する、座標(Cx,Cy)からの画像上の垂直方向の距離(画素単位)である。またdx、dyは、高次の補正項である。高次の補正が必要なければ、dx=dy=0である。
さらに、画像変換部533は、次式に従って、俯瞰座標系520上の座標(Xt,Yt,Zt)に対応する俯瞰画像座標系530の座標(Xu,Yu)を決定する。
ここでVxは、画角90°に対応する、俯瞰画像座標系530の中心座標(Cu,Cv)からの画像上の水平方向の距離(画素単位)である。同様に、Vyは、俯瞰画像座標系530の中心座標(Cu,Cv)からの画像上の垂直方向の距離(画素単位)である。Cuは俯瞰画像座標系530の水平方向の中心位置の座標であり、Cvは俯瞰画像座標系530の垂直方向の中心位置の座標である。すなわち、座標(Cu,Cv)は、仮想的な設置位置におけるカメラの撮像光学系の光軸上に位置する点に対応し、俯瞰画像の左上端の座標を(0,0)とし、俯瞰画像の水平方向及び垂直方向のサイズをVx、Vyとすると、(Cu,Cv)=(Vx/2,Vy/2)である。なお、視点情報に最大画角が含まれる場合、画像変換部533は、(4)式におけるそれぞれの第1項の係数2/πを、視点情報に含まれる最大画角の逆数で置換してもよい。
画像変換部533は、上記の(1)式〜(4)式に従って、俯瞰画像の各画素に対応する周辺画像の各画素の位置を決定する。そして画像変換部533は、俯瞰画像の各画素の画素値を、対応する周辺画像の画素値に設定することにより、視点変換画像を作成する。
なお画像変換部533は、視点変換処理を行う前の周辺画像、あるいは視点変換処理を行った後の視点変換画像に対して各種の補正処理を行ってもよい。例えば、画像変換部533は、周辺画像、あるいは視点変換画像に対して輝度補正処理あるいはコントラスト補正処理を行ってもよい。
画像変換部533は、視点位置決定部532から視点情報を受け取った順序に従って、作成した視点変換画像を順次制御部53に渡す。そして制御部53は、画像変換部533から受け取った画像を所定の時間間隔で順次ディスプレイ3に表示させる。なお、所定の時間間隔は、予め定められた固定値であってもよく、例えば、視点変換を行わないときの視点から、俯瞰画像に対応する視点まで、数秒から10秒で変化するように設定される。あるいは、所定の時間間隔は、ドライバにより設定可能であってもよい。
また、制御部53は、俯瞰画像に対応する視点変換画像をディスプレイ3に表示すると、一定の休止期間が経過した後、今度は逆に、所定の時間間隔で、俯瞰画像に対応する視点変換画像から、実際のカメラの位置に対応する周辺画像まで、視点変換画像を順次ディスプレイ3に切り替えて表示させる。あるいは、制御部53は、俯瞰画像に対応する視点変換画像をディスプレイ3に表示すると、再度実際のカメラの位置に対応する周辺画像から俯瞰画像に対応する視点変換画像まで、視点変換画像を順次ディスプレイ3に切り替えて表示させてもよい。以後、視点連続変換処理が終了するまで、制御部53は、同様の処理を繰り返す。なお、一定の休止期間は、ドライバが周辺画像または俯瞰画像に写っているものを十分に確認できるように設定される期間であり、例えば、3秒に設定される。また一定の休止期間は設けられなくてもよい。
図6(a)〜図6(d)に、連続視点変換処理により得られる画像の例を示す。図6(a)は、視点変換処理が行われていない周辺画像600を示す。また図6(d)は、周辺画像600に対して車両10の上方から垂直に下方を見下ろすように視点変換処理がなされた俯瞰画像630を示す。さらに図6(b)及び図6(c)は、それぞれ、周辺画像600に対応する視点と、俯瞰画像630に対応する視点の中間に位置する視点に関して、周辺画像500を視点変換処理することにより得られる視点変換画像610、620を示す。なお、各画像600〜630は、それぞれ、歪曲収差補正が実行されている。
図6(a)〜図6(d)には、それぞれ、車両10に近接して設置された物体601が写っている。この物体601は、パイロンである。周辺画像600では、この物体601の像は、比較的実際のパイロンに近い形状を有している。そのため、ドライバは物体601をパイロンとして比較的容易に認識できる。しかし、周辺画像600では、斜め方向からその物体601が撮影されているため、ドライバは、周辺画像600のみを観察しても、車両10と物体601との位置関係を正確に把握することは困難である。一方、俯瞰画像630では、視点変換処理により、物体601の像は、その物体の上側が物体の底辺近傍よりも広がっているような形状を有しており、実際のパイロンの形状とは大きく異なっている。そのため、ドライバは、俯瞰画像630のみを観察すると、俯瞰画像630に写っている物体601が何かを正確に認識することは困難であり、結果として、ドライバは、物体601が障害物であると認識できないおそれがある。
しかし、車両10の周辺を見る視点が徐々に切り替わるように、ディスプレイ3に表示される画像が、周辺画像600、視点変換画像610、視点変換画像620、俯瞰画像630の順に切り替われば、物体601の像の形状も徐々に変化する。そのため、ドライバは、周辺画像600に写っている物体601と俯瞰画像630に写っている物体601とが同一の物であることを容易に認識できる。また、ドライバは、俯瞰画像630において写っている物体601がパイロンであると認識できれば、そのパイロンの形状も分かるため、車両10とパイロンとの位置関係を容易に把握できる。
図7に、制御部53により制御される、運転支援装置1の動作フローチャートを示す。
まず、制御部53は、操舵角センサ7から取得した操舵角信号及び電子制御ユニット8から取得したシフトポジション信号に基づいて、車両10が後進を開始したこと、あるいは車両10が所定速度(例えば、20km/h)以下で旋回を開始したことを検知すると、処理を開始する。
まず、制御部53の画像選択部531は、カメラ2a〜2cのうち、操舵角信号と、シフトポジション信号または車輪速度信号に基づいて、車両10の進行方向に対応するカメラを選択する(ステップS101)。そして制御部53は、選択されたカメラに対して画像取得要求信号を送信し、選択されたカメラから周辺画像を取得する(ステップS102)。
その後、制御部53は、操作部4より、連続視点変換処理を起動する操作信号を受信したか否か判定する(ステップS103)。連続視点変換処理を起動する操作信号を受信していなければ、制御部53は、その周辺画像をそのままディスプレイ3に表示させる(ステップS104)。そして制御部53は、制御をステップS101に戻す。
一方、制御部53が連続視点変換処理を起動する操作信号を受信している場合、制御部53の視点位置決定部532は、記憶部52に記憶されている視点テーブルから一つの視点情報を取得する(ステップS105)。そして視点位置決定部532は、取得した視点情報を制御部53の画像変換部533に渡す。
画像変換部533は、視点位置決定部532から受け取った視点情報に基づいて、カメラ2a〜2cのうちの何れかから制御部53が受け取った周辺画像に対する視点変換処理を実行する(ステップS106)。そして画像変換部533は、視点変換処理が行われた画像を制御部53に渡す。制御部53は、その視点変換処理が行われた画像をディスプレイ3に表示させる(ステップS107)。
その後、制御部53は、操作部4より、連続視点変換処理を停止する操作信号を受信したか否か判定する(ステップS108)。連続視点変換処理を停止する操作信号を受信していなければ、視点位置決定部532は、予め定められた遷移規則に従って、視点テーブルから次の視点情報を読み込む(ステップS109)。そして視点位置決定部532は、取得した視点情報を制御部53の画像変換部533に渡し、その後制御部53は、ステップS106〜S109の処理を繰り返す。
一方、ステップS109において、制御部53は、連続視点変換処理を停止する操作信号を受信している場合、連続視点変換処理を終了する。
なお、各ステップにおける、制御部43の各部の処理の詳細は既に詳述したので、ここではその説明を省略する。
以上説明してきたように、本発明の一つの実施形態に係る運転支援装置は、車両後方または車両の左右前方などに設置されたカメラにより車両周囲を撮影した周辺画像に対して視点変換処理を行って視点変換画像を作成し、その視点変換画像を車内に設置されたディスプレイに表示する。特にこの運転支援装置は、周辺画像そのものに対応する視点から俯瞰画像に対応する視点まで連続的に視点を変化させて作成した複数の視点変換画像を、ディスプレイに切り替えて表示する。そのため、この運転装置は、ドライバに対して、形状の歪みが比較的少ない周辺画像において自車両の周囲に存在する立体的な障害物を容易に認識させることができるとともに、その障害物を俯瞰画像上の対応する物体と容易に関連付けさせることができる。そのため、この運転支援装置は、ドライバが自車両とその障害物との位置関係を把握することを容易にする。
以上、本発明の好適な実施形態について説明してきたが、本発明はこれらの実施形態に限定されるものではない。例えば、運転支援装置が有するカメラの台数は3台に限られず、例えば、運転支援装置は、車両後方を撮影する1台のカメラのみを有していてもよい。あるいは、運転支援装置は、車両後方を撮影するカメラと、車両前方の左右の角のうち、運転席から離れた方の角に設置されたカメラのみを有していてもよい。
また、視点テーブルに記録される各視点情報に表される視点の範囲は、実際のカメラの設置位置に対応する視点から俯瞰画像に対応する視点よりも広くてもよく、あるいは、実際のカメラの設置位置に対応する視点から俯瞰画像に対応する視点よりも狭くてもよい。ただし、視点テーブルに記録される各視点情報に表される視点の範囲に、俯瞰画像とほぼ同様に自車両と立体的な障害物の間隔が見える視点変換画像を作成できる視点が含まれることが好ましい。また、その視点の範囲に、実際のカメラの設置位置近傍の視点のように、立体的な障害物の形状の歪みが少なくて済む視点変換画像を作成できる視点が含まれることが好ましい。さらに、視点テーブルは、カメラの実際の設置位置に対応する視点と、自車両の真横から自車両の端部を水平に見る視点間で視点が切り替わるように構成されていてもよい。
さらに、この運転支援装置は、連続視点変換処理の最中に、操作スイッチを操作することにより、ディスプレイに表示される視点変換画像の切り替えを一時的に停止できるようにしてもよい。
以上のように、当業者は、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。
1 運転支援装置
2a、2b、2c カメラ
3 ディスプレイ
4 操作スイッチ
5 コントローラ
51 記憶部
52 通信部
53 制御部
531 画像選択部
532 視点位置決定部
533 画像変換部
6 コントロールエリアネットワーク(CAN)
10 車両

Claims (5)

  1. 車両(10)の周囲を撮影した周辺画像を取得する撮像部(2a〜2c)と、
    前記撮像部の仮想的な設置位置及び撮影方向を表す視点に関する視点情報を複数記憶する記憶部(52)と、
    前記複数の視点情報のうち、第1の視点に対応する前記撮像部の仮想的な設置位置と前記第2の視点に対応する撮像部の仮想的な設置位置の間に位置する、前記撮像部の仮想的な設置位置に対応する視点情報を順次取得する視点位置決定部(522)と、
    前記視点位置決定部(522)から前記視点情報を受け取る度に、前記撮像部(2a〜2c)により取得された周辺画像に対して、当該視点情報に表される視点に基づいて視点変換処理を行うことにより、該視点から該周辺画像に写っている領域を見た視点変換画像を作成する画像変換部(533)と、
    前記第1の視点から前記第2の視点まで、あるいは前記第2の視点から前記第1の視点まで、各視点情報に表される視点に基づいて作成されたそれぞれの前記視点変換画像を所定の時間間隔で順次切り替え表示する表示部(3)と、
    を有することを特徴とする運転支援装置。
  2. 前記第1の視点は前記撮像部(2a〜2c)の設置位置及び撮影方向に対応する視点であり、前記第2の視点は車両(10)の上方から垂直に下方を見下ろす視点である、請求項1に記載の運転支援装置。
  3. 前記複数の視点情報のそれぞれに表される視点のうち、前記第1の視点と前記第2の視点の中間の第3の視点と該第3の視点に隣接する視点間の距離が最も長く設定され、該第3の視点から前記第1の視点あるいは前記第2の視点に近づくにつれて、隣接する視点間の距離が短く設定される、請求項2に記載の運転支援装置。
  4. 前記撮像部(2b)は、前記車両(10)の左前方に取り付けられ、前記車両(10)の前側端部の少なくとも一部及び前記車両(10)の左前方の路面を撮影する、請求項1〜3の何れか一項に記載の運転支援装置。
  5. 車両(10)に取り付けられた撮像部(2a〜2c)により車両(10)の周囲を撮影した周辺画像を取得するステップと、
    記憶部(52)に記憶された、前記撮像部の仮想的な設置位置及び撮影方向を表す仮想的な視点に関する複数の視点情報のうち、第1の視点に対応する前記撮像部の仮想的な設置位置と前記第2の視点に対応する撮像部の仮想的な設置位置の間に位置する、前記撮像部の仮想的な設置位置に対応する視点情報を順次取得するステップと、
    前記視点情報が取得される度に、前記撮像部(2a〜2c)により取得された周辺画像に対して、当該視点情報に表される視点に基づいて視点変換処理を行うことにより、該視点から該周辺画像に写っている領域を見た視点変換画像を作成するステップと、
    前記第1の視点から前記第2の視点まで、あるいは前記第2の視点から前記第1の視点まで、各視点情報に表される視点に基づいて作成されたそれぞれの前記視点変換画像を所定の時間間隔で表示部(3)に順次切り替え表示させるステップと、
    を含むことを特徴とする運転支援方法。
JP2009062036A 2009-03-13 2009-03-13 運転支援装置及び運転支援方法 Pending JP2010218058A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009062036A JP2010218058A (ja) 2009-03-13 2009-03-13 運転支援装置及び運転支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009062036A JP2010218058A (ja) 2009-03-13 2009-03-13 運転支援装置及び運転支援方法

Publications (1)

Publication Number Publication Date
JP2010218058A true JP2010218058A (ja) 2010-09-30

Family

ID=42976876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009062036A Pending JP2010218058A (ja) 2009-03-13 2009-03-13 運転支援装置及び運転支援方法

Country Status (1)

Country Link
JP (1) JP2010218058A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012222374A (ja) * 2011-04-04 2012-11-12 Hitachi Consumer Electronics Co Ltd 車載カメラシステム
JP2017065552A (ja) * 2015-09-30 2017-04-06 アイシン精機株式会社 周辺監視装置
WO2017068692A1 (ja) * 2015-10-22 2017-04-27 日産自動車株式会社 表示制御方法および表示制御装置
WO2018042567A1 (ja) * 2016-08-31 2018-03-08 日立建機株式会社 周辺監視システム及び周辺監視装置
JP2019168909A (ja) * 2018-03-23 2019-10-03 株式会社デンソーテン 画像処理装置及び画像処理方法
WO2023105842A1 (ja) * 2021-12-06 2023-06-15 株式会社光庭インフォ 情報処理装置、移動体、情報処理方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003134507A (ja) * 2001-10-24 2003-05-09 Nissan Motor Co Ltd 車両後方監視装置
JP2004122844A (ja) * 2002-09-30 2004-04-22 Clarion Co Ltd 駐車支援システム
JP2005311666A (ja) * 2004-04-21 2005-11-04 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003134507A (ja) * 2001-10-24 2003-05-09 Nissan Motor Co Ltd 車両後方監視装置
JP2004122844A (ja) * 2002-09-30 2004-04-22 Clarion Co Ltd 駐車支援システム
JP2005311666A (ja) * 2004-04-21 2005-11-04 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012222374A (ja) * 2011-04-04 2012-11-12 Hitachi Consumer Electronics Co Ltd 車載カメラシステム
JP2017065552A (ja) * 2015-09-30 2017-04-06 アイシン精機株式会社 周辺監視装置
WO2017068692A1 (ja) * 2015-10-22 2017-04-27 日産自動車株式会社 表示制御方法および表示制御装置
CN108140318A (zh) * 2015-10-22 2018-06-08 日产自动车株式会社 显示控制方法及显示控制装置
JPWO2017068692A1 (ja) * 2015-10-22 2018-09-27 日産自動車株式会社 表示制御方法および表示制御装置
US10322674B2 (en) 2015-10-22 2019-06-18 Nissan Motor Co., Ltd. Display control method and display control device
WO2018042567A1 (ja) * 2016-08-31 2018-03-08 日立建機株式会社 周辺監視システム及び周辺監視装置
JPWO2018042567A1 (ja) * 2016-08-31 2018-08-30 日立建機株式会社 周辺監視システム及び周辺監視装置
JP2019168909A (ja) * 2018-03-23 2019-10-03 株式会社デンソーテン 画像処理装置及び画像処理方法
JP7059740B2 (ja) 2018-03-23 2022-04-26 株式会社デンソーテン 画像処理装置
WO2023105842A1 (ja) * 2021-12-06 2023-06-15 株式会社光庭インフォ 情報処理装置、移動体、情報処理方法及びプログラム

Similar Documents

Publication Publication Date Title
JP5615441B2 (ja) 画像処理装置及び画像処理方法
JP5035284B2 (ja) 車両周辺表示装置
US8947533B2 (en) Parameter determining device, parameter determining system, parameter determining method, and recording medium
JP2010136289A (ja) 運転支援装置及び運転支援方法
US9683861B2 (en) Estimated route presentation apparatus and estimated route presentation method
JP2001218197A (ja) 車両用周辺表示装置
JP2006287892A (ja) 運転支援システム
JP2006121587A (ja) 運転支援装置及び俯瞰画像作成方法
CN105472317B (zh) 周边监视装置及周边监视系统
JP2011004201A (ja) 周辺表示装置
JP2010218058A (ja) 運転支援装置及び運転支援方法
JP2008085710A (ja) 運転支援システム
JP6151535B2 (ja) パラメータ取得装置、パラメータ取得方法及びプログラム
JP2006238131A (ja) 車両周辺監視装置
JP6260174B2 (ja) 監視画像提示システム
JP2002087160A (ja) 車両周辺画像処理装置及び記録媒体
JP2008037118A (ja) 車両用表示装置
JP5166111B2 (ja) 車両周辺監視装置
KR20110056049A (ko) 차량 하부 카메라를 이용한 주차 보조 시스템 및 방법
KR20160107529A (ko) 차량 이미지가 애니메이션되는 주차 안내 장치 및 방법
JP2010130413A (ja) 周辺状況表示装置
JP6274936B2 (ja) 運転支援装置
JP2015184804A (ja) 画像表示装置、画像表示方法及び画像表示プログラム
JP2006178667A (ja) 車両用映像補正装置及び車両用映像補正方法
JP2010148058A (ja) 運転支援装置及び運転支援方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110914

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120207