以下、図面を参照し、本発明の車両制御装置、車両制御方法、およびプログラムの実施形態について説明する。以下の実施形態では、車両制御装置が自動運転(自律運転)可能な車両に適用されるものとして説明する。自動運転は、例えば、車両に搭乗した乗員の操作に依らずに、車両の操舵または加減速のうち一方または双方を制御して車両を走行させる態様である。自動運転には、ACC(Adaptive Cruse Control)やLKAS(Lane Keeping Assist)等の運転支援が含まれてもよい。
<第1実施形態>
[全体構成]
図1は、第1実施形態の車両制御装置を利用した車両システム1の構成図である。車両システム1が搭載される車両(以下、自車両Mと称する)は、例えば、二輪や三輪、四輪等の車両であり、その駆動源は、ディーゼルエンジンやガソリンエンジンなどの内燃機関、電動機、或いはこれらの組み合わせである。電動機を備える場合、電動機は、内燃機関に連結された発電機による発電電力、或いは二次電池や燃料電池の放電電力を使用して動作する。
車両システム1は、例えば、カメラ10と、レーダ装置12と、ファインダ14と、物体認識装置16と、通信装置20と、HMI(Human Machine Interface)30と、車両センサ40と、ナビゲーション装置50と、MPU(Map Positioning Unit)60と、運転操作子80と、自動運転制御装置100と、走行駆動力出力装置200と、ブレーキ装置210と、ステアリング装置220とを備える。これらの装置や機器は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図1に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
カメラ10は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子を利用したデジタルカメラである。カメラ10は、車両システム1が搭載される車両(以下、自車両Mと称する)の任意の箇所に一つまたは複数が取り付けられる。前方を撮像する場合、カメラ10は、フロントウインドシールド上部やルームミラー裏面等に取り付けられる。カメラ10は、例えば、周期的に繰り返し自車両Mの周辺を撮像する。カメラ10は、ステレオカメラであってもよい。カメラ10は、「撮像部」の一例である。
レーダ装置12は、自車両Mの周辺にミリ波などの電波を放射すると共に、物体によって反射された電波(反射波)を検出して少なくとも物体の位置(距離および方位)を検出する。レーダ装置12は、自車両Mの任意の箇所に一つまたは複数が取り付けられる。レーダ装置12は、FM−CW(Frequency Modulated Continuous Wave)方式によって物体の位置および速度を検出してもよい。
ファインダ14は、LIDAR(Light Detection and Ranging)である。ファインダ14は、自車両Mの周辺に光を照射し、散乱光を測定する。ファインダ14は、発光から受光までの時間に基づいて、対象までの距離を検出する。照射される光は、例えば、パルス状のレーザー光である。ファインダ14は、自車両Mの任意の箇所に一つまたは複数が取り付けられる。
物体認識装置16は、カメラ10、レーダ装置12、およびファインダ14のうち一部または全部による検出結果に対してセンサフュージョン処理を行って、物体の位置、種類、速度などを認識する。物体認識装置16は、認識結果を自動運転制御装置100に出力する。また、物体認識装置16は、必要に応じて、カメラ10、レーダ装置12、およびファインダ14の検出結果をそのまま自動運転制御装置100に出力してよい。
通信装置20は、例えば、セルラー網やWi−Fi網、Bluetooth(登録商標)、DSRC(Dedicated Short Range Communication)などを利用して、自車両Mの周辺に存在する他車両mと通信し、或いは無線基地局を介して各種サーバ装置と通信する。他車両mは、例えば、自車両Mと同様に、自動運転が行われる車両であってもよいし、手動運転が行われる車両であってもよく、特段の制約はない。手動運転とは、前述した自動運転とは異なり、運転操作子80に対する乗員の操作に応じて自車両Mの加減速および操舵が制御されることをいう。
HMI30は、自車両Mの乗員に対して各種情報を提示すると共に、乗員による入力操作を受け付ける。HMI30は、各種表示装置、スピーカ、ブザー、タッチパネル、スイッチ、キーなどを含む。
車両センサ40は、自車両Mの速度を検出する車速センサ、加速度を検出する加速度センサ、鉛直軸回りの角速度を検出するヨーレートセンサ、自車両Mの向きを検出する方位センサ等を含む。
ナビゲーション装置50は、例えば、GNSS(Global Navigation Satellite System)受信機51と、ナビHMI52と、経路決定部53とを備え、HDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置に第1地図情報54を保持している。GNSS受信機51は、GNSS衛星から受信した信号に基づいて、自車両Mの位置を特定する。自車両Mの位置は、車両センサ40の出力を利用したINS(Inertial Navigation System)によって特定または補完されてもよい。ナビHMI52は、表示装置、スピーカ、タッチパネル、キーなどを含む。ナビHMI52は、前述したHMI30と一部または全部が共通化されてもよい。経路決定部53は、例えば、GNSS受信機51により特定された自車両Mの位置(或いは入力された任意の位置)から、ナビHMI52を用いて乗員により入力された目的地までの経路(以下、地図上経路)を、第1地図情報54を参照して決定する。第1地図情報54は、例えば、道路を示すリンクと、リンクによって接続されたノードとによって道路形状が表現された情報である。第1地図情報54は、道路の曲率やPOI(Point Of Interest)情報などを含んでもよい。経路決定部53により決定された地図上経路は、MPU60に出力される。また、ナビゲーション装置50は、経路決定部53により決定された地図上経路に基づいて、ナビHMI52を用いた経路案内を行ってもよい。なお、ナビゲーション装置50は、例えば、乗員の保有するスマートフォンやタブレット端末等の端末装置の機能によって実現されてもよい。また、ナビゲーション装置50は、通信装置20を介してナビゲーションサーバに現在位置と目的地を送信し、ナビゲーションサーバから返信された地図上経路を取得してもよい。
MPU60は、例えば、推奨車線決定部61として機能し、HDDやフラッシュメモリなどの記憶装置に第2地図情報62を保持している。推奨車線決定部61は、ナビゲーション装置50から提供された経路を複数のブロックに分割し(例えば、車両進行方向に関して100[m]毎に分割し)、第2地図情報62を参照してブロックごとに推奨車線を決定する。推奨車線決定部61は、左から何番目の車線を走行するといった決定を行う。推奨車線決定部61は、経路において分岐箇所や合流箇所などが存在する場合、自車両Mが、分岐先に進行するための合理的な経路を走行できるように、推奨車線を決定する。
第2地図情報62は、第1地図情報54よりも高精度な地図情報である。第2地図情報62は、例えば、車線の中央の情報あるいは車線の境界の情報等を含んでいる。また、第2地図情報62には、道路情報、交通規制情報、住所情報(住所・郵便番号)、施設情報、電話番号情報などが含まれてよい。第2地図情報62は、通信装置20を用いて他装置にアクセスすることにより、随時、アップデートされてよい。
運転操作子80は、例えば、アクセルペダル、ブレーキペダル、シフトレバー、ステアリングホイール、異形ステア、ジョイスティックその他の操作子を含む。運転操作子80には、操作量あるいは操作の有無を検出するセンサが取り付けられており、その検出結果は、自動運転制御装置100、もしくは、走行駆動力出力装置200、ブレーキ装置210、およびステアリング装置220のうち一部または全部に出力される。
自動運転制御装置100は、例えば、第1制御部120および第2制御部160を備える。第1制御部120は、特徴抽出部132と、推定部134とを備える。第1制御部120および第2制御部160の其々の構成要素は、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。また、これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。
図2は、第1制御部120および第2制御部160の機能構成図である。第1制御部120は、例えば、認識部130と、行動計画生成部140とを備える。第1制御部120は、例えば、AI(Artificial Intelligence;人工知能)による機能と、予め与えられたモデルによる機能とを並行して実現する。例えば、「交差点を認識する」機能は、ディープラーニング等による交差点の認識と、予め与えられた条件(パターンマッチング可能な信号、道路標示などがある)に基づく認識とが並行して実行され、双方に対してスコア付けして総合的に評価することで実現される。これによって、自動運転の信頼性が担保される。
認識部130は、カメラ10、レーダ装置12、およびファインダ14から物体認識装置16を介して入力される情報に基づいて、自車両Mの周辺にある物体の位置、および速度、加速度等の状態を認識する。物体には、他車両mや静止した障害物などが含まれる。物体の位置は、例えば、自車両Mの代表点(重心や駆動軸中心など)を原点とした絶対座標上の位置として認識され、制御に使用される。物体の位置は、その物体の重心やコーナー等の代表点で表されてもよいし、表現された領域で表されてもよい。物体の「状態」とは、物体の加速度やジャーク、あるいは「行動状態」(例えば車線変更をしている、またはしようとしているか否か)を含んでもよい。また、認識部130は、カメラ10の撮像画像に基づいて、自車両Mがこれから通過するカーブの形状を認識する。認識部130は、カーブの形状をカメラ10の撮像画像から実平面に変換し、例えば、二次元の点列情報、或いはこれと同等なモデルを用いて表現した情報を、カーブの形状を示す情報として行動計画生成部140に出力する。
また、認識部130は、例えば、自車両Mが走行している車線(走行車線)を認識する。例えば、認識部130は、第2地図情報62から得られる道路区画線のパターン(例えば実線と破線の配列)と、カメラ10によって撮像された画像から認識される自車両Mの周辺の道路区画線のパターンとを比較することで、走行車線を認識する。なお、認識部130は、道路区画線に限らず、道路区画線や路肩、縁石、中央分離帯、ガードレールなどを含む走路境界(道路境界)を認識することで、走行車線を認識してもよい。この認識において、ナビゲーション装置50から取得される自車両Mの位置やINSによる処理結果が加味されてもよい。また、認識部130は、一時停止線などの道路面に描かれた道路標示や、道路標識、障害物、赤信号、料金所、その他の道路事象を認識する。
認識部130は、走行車線を認識する際に、走行車線に対する自車両Mの位置や姿勢を認識する。認識部130は、例えば、自車両Mの基準点の車線中央からの乖離、および自車両Mの進行方向の車線中央を連ねた線に対してなす角度を、走行車線に対する自車両Mの相対位置および姿勢として認識してもよい。また、これに代えて、認識部130は、走行車線のいずれかの側端部(道路区画線または道路境界)に対する自車両Mの基準点の位置などを、走行車線に対する自車両Mの相対位置として認識してもよい。
認識部130の特徴抽出部132は、カメラ10によって撮像された画像(デジタル画像)から特徴を抽出する。特徴は、例えば、二次元空間である画像の空間周波数や、輝度または色彩のエッジ密度、輝度または色彩のヒストグラムの分散などを含む。例えば、特徴抽出部132は、画像に対して、FFT(Fast Fourier Transform)などの二次元フーリエ変換を行い、画像の水平方向に関する画素値の変化(画素値の変化の周期性)と、垂直方向に関する画素値の変化(画素値の変化の周期性)との其々を角周波数に変換する。以下、水平方向に関する角周波数をμと表現し、垂直方向に関する角周波数をνと表現して説明する。
例えば、特徴抽出部132は、画像に対して、所定のサイズ(所定のアスペクト比且つ所定の面積)の領域(以下、検出窓と称する)を設定し、この設定した検出窓の位置を変更しながら、検出窓と重なる画像領域の空間周波数を二次元フーリエ変換によって抽出する。例えば、所定のサイズは、後述する対象領域よりも小さいサイズに設定される。
図3は、画像に対する二次元フーリエ変換の結果の一例を示す図である。図示の例では、角周波数μおよび角周波数νのスペクトルの2乗の絶対値であるパワースペクトルを、グレースケールの画像で表している。画像の中心Oは、角周波数μおよび角周波数νが共にゼロである原点を表しており、この点Oに近いほど低周波成分のパワースペクトルを表し、遠いほど高周波成分のパワースペクトルを表している。パワースペクトル画像では、パワースペクトルが大きいほど白く、パワースペクトルが小さいほど黒く表現している。
認識部130の推定部134は、特徴抽出部132により抽出された特徴に基づいて、自車両Mの前方に交通制御地点が存在することを推定する。交通制御地点とは、車両や歩行者などの交通が制御される地点であり、例えば、交差点、合流地点、分岐地点、踏切などを含む。また、推定部134は、交通制御地点の周辺に構造物が存在することを推定してもよい。交通制御地点の周辺の構造物とは、例えば、信号機、車両感知器、交通情報案内板、道路標識、ガードレール、街路灯、カーブミラーといった、三次元の実体のある物体であってもよいし、道路標示などの二次元の実体のある物体であってもよい。
また、推定部134は、交通制御地点が存在することを推定する際に、その推定の確信度を導出してもよい。確信度とは、例えば、交通制御地点が存在することの蓋然性の程度を表す指標である。
行動計画生成部140は、原則的には推奨車線決定部61により決定された推奨車線を走行し、更に、自車両Mの周辺状況に対応できるように、自動運転において順次実行されるイベントを決定する。イベントには、例えば、一定速度で同じ走行車線を走行する定速走行イベント、前走車両に追従しながら定速走行する追従走行イベント、前走車両を追い越す追い越しイベント、障害物との接近を回避するための制動および/または操舵を行う回避イベント、カーブを走行するカーブ走行イベント、交差点や横断歩道、踏切などの交通制御地点を通過する通過イベント、車線変更イベント、合流イベント、分岐イベント、自動停止イベント、自動運転を終了して手動運転に切り替えるためのテイクオーバイベントなどがある。追従走行とは、例えば、予め決められた設定車速(例えば50〜100[km/h])の範囲内で自車両を加速または減速させて、自車両と前走車両との相対距離(車間距離)を一定に維持させる走行態様である。
行動計画生成部140は、起動したイベントに応じて、自車両Mが将来走行する目標軌道を生成する。各機能部の詳細については後述する。目標軌道は、例えば、速度要素を含んでいる。例えば、目標軌道は、自車両Mの到達すべき地点(軌道点)を順に並べたものとして表現される。軌道点は、道なり距離で所定の走行距離(例えば数[m]程度)ごとの自車両Mの到達すべき地点であり、それとは別に、所定のサンプリング時間(例えば0コンマ数[sec]程度)ごとの目標速度および目標加速度が、目標軌道の一部として生成される。また、軌道点は、所定のサンプリング時間ごとの、そのサンプリング時刻における自車両Mの到達すべき位置であってもよい。この場合、目標速度や目標加速度の情報は軌道点の間隔で表現される。
図4は、推奨車線に基づいて目標軌道が生成される様子を示す図である。図示するように、推奨車線は、目的地までの経路に沿って走行するのに都合が良いように設定される。行動計画生成部140は、推奨車線の切り替わり地点の所定距離(イベントの種類に応じて決定されてよい)手前に差し掛かると、通過イベント、車線変更イベント、分岐イベント、合流イベントなどを起動する。各イベントの実行中に、障害物を回避する必要が生じた場合には、図示するように回避軌道が生成される。
第2制御部160は、行動計画生成部140によって生成された目標軌道を、予定の時刻通りに自車両Mが通過するように、走行駆動力出力装置200、ブレーキ装置210、およびステアリング装置220を制御する。
図2に戻り、第2制御部160は、例えば、取得部162と、速度制御部164と、操舵制御部166とを備える。行動計画生成部140と、速度制御部164と、操舵制御部166とを合わせたものは、「運転制御部」の一例である。
取得部162は、行動計画生成部140により生成された目標軌道(軌道点)の情報を取得し、メモリ(不図示)に記憶させる。
速度制御部164は、メモリに記憶された目標軌道に付随する速度要素に基づいて、走行駆動力出力装置200またはブレーキ装置210を制御する。
操舵制御部166は、メモリに記憶された目標軌道の曲がり具合に応じて、ステアリング装置220を制御する。速度制御部164および操舵制御部166の処理は、例えば、フィードフォワード制御とフィードバック制御との組み合わせにより実現される。一例として、操舵制御部166は、自車両Mの前方の道路の曲率に応じたフィードフォワード制御と、目標軌道からの乖離に基づくフィードバック制御とを組み合わせて実行する。
走行駆動力出力装置200は、車両が走行するための走行駆動力(トルク)を駆動輪に出力する。走行駆動力出力装置200は、例えば、内燃機関、電動機、および変速機などの組み合わせと、これらを制御するECU(Electronic Control Unit)とを備える。ECUは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従って、上記の構成を制御する。
ブレーキ装置210は、例えば、ブレーキキャリパーと、ブレーキキャリパーに油圧を伝達するシリンダと、シリンダに油圧を発生させる電動モータと、ブレーキECUとを備える。ブレーキECUは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。ブレーキ装置210は、運転操作子80に含まれるブレーキペダルの操作によって発生させた油圧を、マスターシリンダを介してシリンダに伝達する機構をバックアップとして備えてよい。なお、ブレーキ装置210は、上記説明した構成に限らず、第2制御部160から入力される情報に従ってアクチュエータを制御して、マスターシリンダの油圧をシリンダに伝達する電子制御式油圧ブレーキ装置であってもよい。
ステアリング装置220は、例えば、ステアリングECUと、電動モータとを備える。電動モータは、例えば、ラックアンドピニオン機構に力を作用させて転舵輪の向きを変更する。ステアリングECUは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従って、電動モータを駆動し、転舵輪の向きを変更させる。
[特徴の抽出処理フロー]
図5は、第1実施形態の自動運転制御装置100により実行される処理の一例を示すフローチャートである。本フローチャートの処理は、例えば、所定の周期で繰り返し行われる。
まず、特徴抽出部132は、カメラ10によって撮像された画像に含まれる、ある対象領域に対して、検出窓を設定する(ステップS100)。
図6は、カメラ10によって撮像された画像を模式的に示す図である。例えば、自車両Mが走行する道路が直進道路である場合、その道路の車線を区画する複数の区画線(LN1やLN2等)などが画像の消失点P付近で交わる。このような場合に、自車両Mの進行方向前方の遠い位置に信号機や交通情報案内板などが存在する場合、消失点P付近のごく狭い画像領域(例えば図中Rで示す領域)に信号機や交通情報案内板などを示す画像領域が含まれることになる。従って、信号機や交通情報案内板などが精度良く認識されるように、これらの構造物が存在する蓋然性の高い消失点P付近の領域が対象領域に決定される。
図7から図10は、対象領域の設定位置の一例を示す図である。例えば、特徴抽出部132は、図7に例示するように、自車両Mを区画する区画線LN1およびLN2が互いに交差する点を消失点Pと見做し、この消失点Pを通る水平線HORよりも垂直方向上側の画像領域を対象領域に決定する。これによって、検出窓を設定する対象となる画像領域が小さくなるため、特徴抽出の処理負荷を軽減することができる。以下、水平線HORよりも垂直方向上側の画像領域を「上空領域」と称して説明する。
また、特徴抽出部132は、図8に例示するように、消失点Pを通る水平線HORよりも垂直方向上側であり、且つ水平方向の長さ(幅)が第1所定距離DHOR以下となる条件を満たす画像領域を対象領域に決定してもよい。図示の例では、消失点Pを通る垂直線VERTを基準に左右それぞれ等距離1/2DHORの範囲に含まれる画像領域が対象領域に決定されている。なお、水平方向の長さ(幅)が第1所定距離DHOR以下であるという条件を満たせば、垂直線VERTの右側が2/3DHORであり、左側が1/3DHORといったように、垂直線VERTを基準に左右のいずれかに対象領域が偏していてもよい。これによって、検出窓を設定する対象となる画像領域をより小さくすることができ、更に特徴抽出の処理負荷を軽減することができる。
また、特徴抽出部132は、図9に例示するように、消失点Pを通る水平線HORから垂直方向に関して第2所定距離DVERTをとった点P#と、水平線HORと画像端部とが交差する2点との合計3点を繋ぐ辺により形成される三角形を導出し、この導出した三角形の画像領域を、消失点Pを通る水平線HORよりも垂直方向上側の画像領域から除いた残りの画像領域を、対象領域に決定してもよい。これによって、カメラ10の撮像対象である三次元空間(実空間)での信号機などの高さを考慮して検出窓を設定することができる。
また、特徴抽出部132は、図10に例示するように、三角形の画像領域を除いた画像領域であること、消失点Pを通る水平線HORよりも垂直方向上側であること、水平方向の長さ(幅)が第1所定距離DHOR以下となることを含む条件を満たす画像領域を対象領域に決定してもよい。これによって、実空間において信号機などの高さを考慮することができると共に、検出窓の設定対象の画像領域を小さくすることができる。この結果、更に特徴抽出の処理負荷を軽減することができる。
次に、特徴抽出部132は、対象領域に対して設定した検出窓と重畳する画像領域を切り出し、この切り出した画像領域から特徴を抽出する(ステップS102)。例えば、特徴抽出部132は、切り出した画像領域に対して二次元フーリエ変換を行って、空間周波数を抽出する。また、特徴抽出部132は、輝度または色彩のエッジ密度や、輝度または色彩のヒストグラムの分散などを抽出してもよい。
次に、特徴抽出部132は、対象領域の全領域に対して検出窓を設定したか否かを判定し(ステップS104)、対象領域の全領域に対して検出窓を設定していないと判定した場合、S100の処理に戻り、前回設定した検出窓の位置を異なる位置に検出窓を設定し直す。異なる位置とは、例えば、前回設定した検出窓と、今回設定する検出窓とが互いに重なり合わない位置である。
一方、特徴抽出部132は、対象領域の全領域に対して検出窓を設定したと判定した場合、すなわち、対象領域の全領域の空間周波数を導出した場合、本フローチャートの処理を終了する。
[交通制御地点が存在することの推定処理フロー]
図11は、第1実施形態の自動運転制御装置100により実行される処理の他の例を示すフローチャートである。本フローチャートの処理は、例えば、所定の周期で繰り返し行われてよい。
まず、推定部134は、特徴抽出部132によって対象領域として決められた上空領域から所定の特徴が抽出されたか否かを判定する(ステップS200)。所定の特徴とは、例えば、高周波数領域において、パワースペクトル値またはスペクトル強度が、ある閾値以上の空間周波数である。また、所定の特徴は、密度が閾値以上のエッジであってもよいし、分散が閾値以上の輝度または色彩のヒストグラムであってもよいし、その他の特徴であってもよいし、これらの組み合わせであってもよい。
例えば、上述した図6に示すように、自車両Mの前方に信号機が存在する場合に、消失点Pよりも上側の上空領域に対象領域を設定するため、信号機を支持するポール(電信柱等)や、信号機に電力を供給する複数の電線などが対象領域に含まれやすくなる。これらのポールや電線などの人工物は、一般的に、直線成分が多く、画像に対して一定の方向性を持つのに対して、樹木や土、空といった自然物は直線成分が少なく、決まった方向性を持たない傾向にある。従って、ポールや電線などの人工物の背景として、樹木や土、空といった自然物が存在している場合、背景に対する人工物の境界が明確になりやすい。そのため、対象領域から画像の特徴として抽出される空間周波数は高周波の成分を多く含むことになり、対象領域に検索窓を設定した場合、所定の特徴が抽出されやすくなる。
図12および図13は、対象領域から画像の特徴として抽出された空間周波数の一例を示す図である。図中横軸は、画像の水平方向の空間周波数である角周波数μまたは画像の垂直方向の空間周波数である角周波数νを表し、縦軸は、パワースペクトルを表している。図12の例では、ある周波数閾値FTH未満の低周波数領域において、パワースペクトルが、ある閾値STH(以下、スペクトル閾値STHと称する)以上であり、周波数閾値FTH以上の高周波数領域において、パワースペクトルが、スペクトル閾値STH未満となっている。このような場合、推定部134は、特徴抽出部132によって対象領域から所定の特徴が抽出されていないと判定する。
一方、図13の例では、ある周波数閾値FTH未満の低周波数領域と、周波数閾値FTH以上の高周波数領域との双方において、パワースペクトルが、スペクトル閾値STH以上となっている。このような場合、推定部134は、特徴抽出部132によって対象領域から所定の特徴が抽出されたと判定する。
なお、上記の例では、各周波数のパワースペクトルに対して、一律同じ大きさのスペクトル閾値STHを設けて、パワースペクトルがスペクトル閾値STH以上であるのか否かを判定したがこれに限られない。例えば、推定部134は、周波数が大きいパワースペクトル(高周波なパワースペクトル)ほど、比較対象のスペクトル閾値STHを小さくしてもよい。
推定部134は、対象領域から所定の特徴が抽出されていないと判定した場合、自車両Mの前方に交通制御地点が存在しないと推定する(ステップS202)。
一方、推定部134は、対象領域から所定の特徴が抽出されたと判定した場合、その所定の特徴が抽出された画像領域(検索窓)が所定数以上存在するか否かを判定する(ステップS204)。
例えば、所定の特徴が抽出された画像領域が所定数以上存在する場合、対象領域には高周波成分の空間周波数が多く含まれることなる。上述したように、空間周波数が高周波であるほど、画像の対象領域に対応した三次元空間において、複数のポールが設置されていたり、複数の電線が張り巡らされていたりする蓋然性が高くなり、人間がその空間を視認した時に雑然としている(混雑している)と感じるような景観であることが多い。すなわち、その画像領域が混雑状態であると判断される。このように人間が雑然と感じるほど道路の上空に構造物があふれている場合、そこには信号機や交通情報案内板、道路標識といった構造物が存在する蓋然性が高い傾向にある。従って、推定部134は、所定の特徴が抽出された画像領域が所定数以上存在する場合、すなわち、対象領域が混雑状態である場合、自車両Mの前方に交通制御地点が存在していると推定する(ステップS206)。
例えば、推定部134は、混雑状態にある対象領域の位置に対応した三次元空間(カメラ10の撮像空間)の位置に、交通制御地点が存在していると推定する。「対象領域の位置に対応した三次元空間の位置」とは、例えば、画像奥行き方向を、自車両Mの進行方向に変換したときの位置である。従って、自車両Mが道路上を走行している場合、推定部134は、自車両Mの進行方向から見て前方側の道路の周辺に交通制御地点が存在していると推定する。
次に、自動運転制御装置100は、自車両Mの前方に交通制御地点が存在していると判定した場合、交通制御地点に自車両Mが相対的に近づくことに備えるための所定の処理を開始する(ステップS208)。これによって本フローチャートの処理が終了する。
所定の処理とは、例えば、道路標示などの二次元状の物体を認識すること、信号機などの三次元状の物体を認識すること、自車両Mを減速させること、といった各種処理のうち一部または全部を含む。
例えば、所定の処理が二次元状の物体を認識することである場合、認識部130は、自車線の路面から所定の道路標示を認識する処理を開始する。例えば、認識部130は、パターンマッチングなどの画像処理によって、所定の形状や所定の色相などの特徴をもつ記号や文字を、道路標示として認識する。
図14は、所定の道路標示の一例を示す図である。例えば、所定の道路標示は、車両が進行することができる方向を表す矢印記号MK1およびMK2や、前方に横断歩道または自転車横断帯があることを表すひし形記号MK3などの各種標示を含む。例えば、認識部130は、これらの例示した記号と同じ形状の二次元の物体が路面に対応した画像領域に存在する場合、これを所定の道路標示として認識する。
また、所定の処理が三次元状の物体を認識することである場合、認識部130は、信号機や交通情報案内板、道路標識といった物体を認識する処理を開始する。例えば、認識部130は、パターンマッチングなどの画像処理によって、上述した各種物体を認識する。
また、所定の処理が自車両Mを減速させることである場合、行動計画生成部140は、目標軌道に速度要素として含まれる目標速度および目標加速度を小さくする。これによって、速度制御部164が、目標軌道に付随する速度要素に基づいて、走行駆動力出力装置200またはブレーキ装置210を制御するため、自車両Mが減速する。
なお、図11に示すフローチャートの処理は、所定の周期ごとに繰り返し行われるものとして説明したがこれに限られず、認識部130によって所定の道路標示が認識された場合に開始されてもよい。これによって、交通制御地点が存在する蓋然性が高いと判断できる場合のみ、空間周波数を基に交通制御地点が存在することを推定するため、処理負荷を軽減することができる。
以上説明した第1実施形態によれば、自車両Mの周辺を撮像するカメラ10と、カメラ10の画像の領域のうち、所定高度以上の空間に対応した上空領域が混雑状態であるか否かを判定し、上空領域が混雑状態であると判定した場合、自車両Mの前方に交通制御地点が存在することを推定する推定部134とを備えることにより、より早いタイミングで走行環境を認識することができる。
一般的に、前方を撮像した画像から遠方に存在する構造物(信号機など)を早くから認識しようとした場合、遠方の位置に存在する物体は、近傍の物体に対して相対的に小さい被写体になり、その被写体を写した画像では、全画像領域に対して相対的に狭い画像領域(面積が小さい領域)となる。そのため、処理対象とする画像領域において被写体を占める画素の数が減少しやすく、自車両Mから見て遠くに位置する物体を画像から認識する場合、その位置に何らかの物体が存在していることを認識できたとしても、その物体がどういった種類或いは形状の物体であるのかまでは認識することが難しくなりやすい。また、画素数を多くするために画像の解像度を高めた場合、その解像度が高くなるにつれて認識処理の負荷が増大することから、信号機等の構造物の認識が遅れてしまうことが懸念される。
これに対して、第1実施形態では、自車両Mから見て遠方に位置する構造物を形状などから認識するのでなく、画像を二次元フーリエ変換して得られた空間周波数を基に、信号機などの構造物が存在することを推定するため、より早いタイミングで走行環境を認識することができる。また、空間周波数を基に信号機などの構造物が存在することを推定するため、実際に信号機などの構造物が認識されなくともその構造物が存在する蓋然性が高ければ、パターンマッチングなどの画像処理によって構造物を認識する処理を開始するため、画像処理負荷の軽減しつつ、走行環境を認識することができる。また、空間周波数を基に信号機などの構造物が存在することを推定し、その構造物が存在する蓋然性が高いと判断できる場合、所定の処理として自車両Mを減速させることを開始するため、自車両Mの速度がより低い状態において、信号機などの構造物の形状などを認識することができる。この結果、より精度良く交通制御地点を認識することができる。
<第2実施形態>
以下、第2実施形態について説明する。上述した第1実施形態では、水平線よりも上側の上空領域に対象領域を設定するものとして説明した。これに対して、第2実施形態では、水平線よりも上側の上空領域に加えて、または代えて、水平線よりも下側の領域に対象領域を設定する点で、上述した第1実施形態と異なる。以下、第1実施形態との相違点を中心に説明し、第1実施形態と共通する機能等についての説明は省略する。
図15は、対象領域の設定位置の他の例を示す図である。例えば、特徴抽出部132は、図15に例示するように、自車両Mを区画する区画線LN1およびLN2が互いに交差する点を消失点Pと見做し、この消失点Pを通る水平線HORよりも垂直方向上側の上空領域と、水平線HORよりも垂直方向下側であり、且つ区画線LN1およびLN2に囲まれた自車線の画像領域(以下、路面領域と称する)との双方を対象領域に決定する。これによって、上空領域および路面領域の双方から、画像の特徴として、空間周波数を抽出することができる。
図16は、第2実施形態の自動運転制御装置100により実行される処理の一例を示すフローチャートである。本フローチャートの処理は、例えば、所定の周期で繰り返し行われてよい。
まず、推定部134は、特徴抽出部132によって対象領域として決定された上空領域から所定の特徴が抽出されたか否かを判定する(ステップS300)。推定部134は、上空領域から所定の特徴が抽出されていないと判定した場合、自車両Mの前方に交通制御地点が存在しないと推定する(ステップS302)。
一方、推定部134は、上空領域から所定の特徴が抽出されたと判定した場合、上空領域において所定の特徴が抽出された画像領域(検索窓)が所定数以上存在するか否かを判定する(ステップS304)。推定部134は、所定の特徴が抽出された画像領域が所定数未満であり、上空領域が混雑状態でない場合、S302の処理に進み、自車両Mの前方に交通制御地点が存在しないと推定する。
一方、推定部134は、所定の特徴が抽出された画像領域が所定数以上であり、上空領域が混雑状態である場合、更に、特徴抽出部132によって対象領域に決定された路面領域から所定の特徴が抽出されたか否かを判定する(ステップS306)。推定部134は、路面領域から所定の特徴が抽出されていないと判定した場合、S302の処理に進み、自車両Mの前方に交通制御地点が存在しないと推定する。
一方、推定部134は、路面領域から所定の特徴が抽出されたと判定した場合、路面領域において所定の特徴が抽出された画像領域が所定数以上存在するか否かを判定する(ステップS308)。推定部134は、所定の特徴が抽出された画像領域が所定数未満であり、路面領域が混雑状態でない場合、S302の処理に進み、自車両Mの前方に交通制御地点が存在しないと推定する。
一方、推定部134は、所定の特徴が抽出された画像領域が所定数以上であり、路面領域が混雑状態である場合、自車両Mの前方に交通制御地点が存在していると推定する(ステップS310)。
次に、自動運転制御装置100は、自車両Mの前方に交通制御地点が存在していると判定した場合、交通制御地点に自車両Mが相対的に近づくことに備えるための所定の処理を開始する(ステップS312)。これによって本フローチャートの処理が終了する。
このような処理によって、上空領域に信号機などの三次元の構造物が存在するのか否かを評価することができると共に、路面領域に道路標示などの二次元の物体が存在するのか否かを評価することができる。
なお、上述した図16に示すフローチャートにおいて、S300およびS304の処理と、S306およびS308の処理とは、処理の順番が反対であってもよい。
また、上述した図16に示すフローチャートにおいて、上空領域と路面領域との双方で所定の特徴が抽出された画像領域が所定数以上存在する場合に、自車両Mの前方に交通制御地点が存在していると推定し、いずれの領域からも所定の特徴が抽出されていない場合や、所定の特徴が抽出されたものの、所定の特徴が抽出された画像領域が混雑していると見做せる程度の数(所定数)には至っていない場合に自車両Mの前方に交通制御地点が存在していないと推定するものとして説明したがこれに限られない。
例えば、推定部134は、上空領域と路面領域との双方においてどの程度所定の特徴が抽出されたのかをスコアとして導出し、そのスコアの単純平均や加重平均を基に、自車両Mの前方に交通制御地点が存在していることを推定する。例えば、推定部134は、上空領域のうち、所定の特徴が抽出された画像領域の数をスコアAとし、路面領域のうち、所定の特徴が抽出された画像領域の数をスコアBとして導出する。そして、推定部134は、{(1−α)A+αB}/2といった平均を求め(αは任意の定数)、この平均値を推定の確信度とする。これによって、推定部134は、例えば、上空領域および路面領域の双方で、所定の特徴が抽出された画像領域が所定数以上である場合、最も高い確信度で、自車両Mの前方に交通制御地点が存在していると推定し、いずれか一方のみの領域で、所定の特徴が抽出された画像領域が所定数以上である場合、上空領域および路面領域の双方で所定の特徴が抽出された画像領域が所定数以上である場合に比して、より低い確信度で自車両Mの前方に交通制御地点が存在していると推定する。
例えば、所定の処理が自車両Mを減速させることである場合、行動計画生成部140は、推定部134によって交通制御地点が存在していると推定されたときの確信度が大きいほど、自車両Mをより減速させる目標軌道を生成してよい。
また、例えば、所定の処理が二次元あるいは三次元の物体を認識することである場合、認識部130は、パターンマッチングなどの画像処理によって物体を認識する処理を繰り返す周期を短くしてよい。
また、上述した図16に示すフローチャートは、上述した第1実施形態と同様に、認識部130によって所定の道路標示が認識された場合に開始されてもよい。この場合、推定部134は、所定の道路標示が認識された状態で、上空領域および路面領域の一方または双方で、所定の特徴が抽出された画像領域が所定数以上となった場合、所定の道路標示が認識されていない状態で、上空領域および路面領域の一方または双方で、所定の特徴が抽出された画像領域が所定数以上となった場合に比して、より高い確信度で自車両Mの前方に交通制御地点が存在していると推定してよい。
以上説明した第2実施形態によれば、カメラ10の画像領域において、水平線よりも上側の上空領域と、水平線よりも下側の路面領域との其々の空間周波数に基づいて、総合的に自車両Mの前方に交通制御地点が存在しているか否かを推定するため、より精度良く走行環境を認識することができる。
<第3実施形態>
以下、第3実施形態について説明する。上述した第1および第2実施形態では、一例として、高周波数領域において、パワースペクトル値またはスペクトル強度が、ある閾値以上の空間周波数を所定の特徴として抽出した。これに対して、第3実施形態では、カメラ10の画像から所定のテクスチャを所定の特徴として抽出する点で、上述した第1および第2実施形態と異なる。所定のテクスチャとは、例えば、信号機や、車両感知器、交通情報案内板、道路標識、ガードレール、街路灯、カーブミラーなどを撮像したときに画像から得られるテクスチャである。以下、第1および第2実施形態との相違点を中心に説明し、第1および第2実施形態と共通する機能等についての説明は省略する。
図17から図19は、テクスチャとパワースペクトル画像との対比の一例を示す図である。各図の(a)は、ある検索窓によって切り出された画像領域を表し、(b)は、検索窓によって切り出された画像領域を二次元フーリエ変換によってスペクトルに変換したパワースペクトル画像を表している。図17や図18に例示するように、ある方向に関して強く画素値が変化する場合、そのパワースペクトルは、画素値が変化している方向の周波数領域で強くなり、線状の分布が表れやすい。一方で、図19に例示するように、いずれの方向に関しても画素値がある程度変化する場合、そのパワースペクトルは、水平方向および垂直方向の双方の周波数領域において強くなる。上述したように、信号機などの構造物は、ポールや電線などある方向性をもった物体であることから、検索窓によって切り出された画像領域のパワースペクトル画像が、図17や図18に例示するようなパワースペクトル画像である場合、その検索窓によって切り出された画像領域には、方向性をもった物体が含まれていると判断することができる。
従って、推定部134は、垂直方向の空間周波数の高周波領域と、水平方向の空間周波数の高周波領域との一方または双方において、パワースペクトル値がスペクトル閾値STH以上であることを許容する閾値を設定し、この設定した閾値以下の周波数領域でパワースペクトル値がスペクトル閾値STH以上である場合に、そのパワースペクトル画像の元となった画像領域が所定のテクスチャであると判定する。
図20および図21は、パワースペクトル値がスペクトル閾値STH以上であることを許容する閾値の設定方法を説明するための図である。例えば、推定部134は、図20に示すように、垂直方向の周波数領域において、高周波領域ほど水平方向の周波数領域へのスペクトルの分布の拡がりを許容するように、領域RPSについてはスペクトル閾値STHを設定し、領域RPSを除く他の領域についてはスペクトル閾値STHよりも大きい閾値(例えば無限大として見做せる程度の大きさの閾値)を設定する。また、推定部134は、図21に示すように、水平方向の周波数領域において、高周波領域ほど垂直方向の周波数領域へのスペクトルの分布の拡がりを許容するように、領域RPSについてはスペクトル閾値STHを設定し、領域RPSを除く他の領域についてはスペクトル閾値STHよりも大きい閾値を設定する。これによって、図17や図18に例示するようなパワースペクトル画像については、パワースペクトル値がスペクトル閾値STH以上となり、検出窓によって切り出された画像領域が所定のテクスチャであると判定される。推定部134は、カメラ10の画像に所定のテクスチャが存在する場合、自車両Mの前方に交通制御地点が存在していると推定する。
以上説明した第3実施形態によれば、カメラ10の画像を二次元フーリエ変換して得られたパワースペクトル画像を基に交通制御地点が存在することを推定するため、第1または第2実施形態と同様に、より早いタイミングで走行環境を認識することができる。
[ハードウェア構成]
上述した実施形態の自動運転制御装置100は、例えば、図22に示すようなハードウェアの構成により実現される。図22は、実施形態の自動運転制御装置100のハードウェア構成の一例を示す図である。
実施形態の自動運転制御装置100は、通信コントローラ100−1、CPU100−2、RAM(Random Access Memory)100−3、ROM(Read Only Memory)100−4、フラッシュメモリやHDD(Hard Disc Drive)等の二次記憶装置100−5、およびドライブ装置100−6が、内部バスあるいは専用通信線によって相互に接続された構成となっている。ドライブ装置100−6には、光ディスク等の可搬型記憶媒体が装着される。二次記憶装置100−5に格納されたプログラム100−5aがDMAコントローラ(不図示)等によってRAM100−3に展開され、CPU100−2によって実行されることで、第1制御部120および第2制御部160が実現される。また、CPU100−2が参照するプログラムは、ドライブ装置100−6に装着された可搬型記憶媒体に格納されていてもよいし、ネットワークNWを介して他の装置からダウンロードされてもよい。
上記実施形態は、以下のように表現することができる。
車両の周辺を撮像するカメラと、
情報を記憶するストレージと、
前記ストレージに格納されたプログラムを実行するプロセッサと、を備え、
前記プロセッサは、前記プログラムを実行することにより、
前記カメラにより撮像された画像の領域のうち、所定高度以上の空間に対応した上空領域が混雑状態であるか否かを判定し、前記上空領域が混雑状態であると判定した場合、前記車両の前方に交通制御地点が存在することを推定するように構成された、
車両制御装置。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。