JP7433205B2 - 車両制御装置、車両制御方法、およびプログラム - Google Patents

Description

本発明は、車両制御装置、車両制御方法、およびプログラムに関する。

車両を自動的に（Automatedly）走行させる技術について研究および実用化が進められている。特許文献１には、車両を自動的に車線変更させる際の車線変更先の位置を決定することについて記載されている。また、運転者の運転行動を学習することにより、運転者の感覚に近い車線変更先を選択することについても記載されている。

特開２０１９－２１７８２８号公報

上記特許文献１に記載の発明は、目標速度を維持しながら走行する中で、前走車両を追い越す好適なタイミングについて言及されていない。仮に、前走車両の追い越しを行うか否かの判定を、単純なＩｆ－Ｔｈｅｎルールで行った場合、周辺車両との関係が好適に維持されるとは限らず、典型的な例としては、一度車線変更をして元の車線変更に戻る場合の車線変更先において、後続車両との間隔が短くなり過ぎる可能性がある。

一方で、強化学習を用いてより高度な判断をすることについて研究が進められている。強化学習は、モデル構築の自由度が高く、複雑な判断を可能にするものであるが、車載コンピュータに搭載するには処理負荷が高く、処理遅延や消費電力増大等の問題が生じ得る。

本発明は、このような事情を考慮してなされたものであり、処理負荷の増大を抑制しつつ、車両に前走車両を追い越させるか否かを適切に判断することができる車両制御装置、車両制御方法、およびプログラムを提供することを目的の一つとする。

この発明に係る車両制御装置、車両制御方法、およびプログラムは、以下の構成を採用した。
（１）：この発明の一態様に係る車両制御装置は、車両の周辺状況を認識する認識部と、車両の乗員の操作に依らずに前記車両の加減速および操舵を制御する運転制御部と、を備え、前記運転制御部は、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定する追い越し制御部を備え、前記複数の評価関数のそれぞれは、前記認識部により認識された前記車両の周辺状況を示す複数の指標値のうち一つが入力されると評価値を出力するものであり、事前環境において強化学習によって出力傾向が調整されたものである。

（２）：上記（１）の態様において、前記追い越し制御部は、前記複数の評価値の積が前記閾値以上である場合に、前記前走車両を追い越すことを決定し、前記車両に前記前走車両を追い越させるものである。

（３）：上記（１）または（２）の態様において、前記複数の指標値は、前記車両の目標速度と前記前走車両の速度との差を含むものである。

（４）：上記（１）から（３）のいずれかの態様において、前記複数の指標値は、前記車両と前記前走車両との距離を含むものである。

（５）：上記（１）から（４）のいずれかの態様において、前記複数の指標値は、前記車両と、前記車両が追い越しの際に車線変更する先の隣接車線において前記車両よりも後方に居る隣接後方車両との距離を含むものである。

（６）：上記（１）から（５）のいずれかの態様において、前記複数の評価関数のそれぞれは、Ａｃｔｏｒ－Ｃｒｉｔｉｃ法によって前記出力傾向が調整されたものである。

（７）：本発明の他の態様に係る車両制御方法は、車両制御装置が、車両の周辺状況を認識し、車両の乗員の操作に依らずに前記車両の加減速および操舵を制御し、前記制御することは、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定することを含み、前記複数の評価関数のそれぞれは、前記認識された前記車両の周辺状況を示す複数の指標値のうち一つが入力されると評価値を出力するものであり、事前環境において強化学習によって出力傾向が調整されたものである。

（８）：本発明の他の態様に係るプログラムは、車両に搭載されたコンピュータに、車両の周辺状況を認識させ、車両の乗員の操作に依らずに前記車両の加減速および操舵を制御させ、前記制御させることは、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定させることを含み、前記複数の評価関数のそれぞれは、前記認識された前記車両の周辺状況を示す複数の指標値のうち一つが入力されると評価値を出力するものであり、事前環境において強化学習によって出力傾向が調整されたものである。

上記（１）～（８）の態様によれば、処理負荷の増大を抑制しつつ、車両に前走車両を追い越させる制御を好適に行うことができる。

実施形態に係る車両制御装置を利用した車両システム１の構成図である。 第１制御部１２０および第２制御部１６０の機能構成図である。 追い越し制御が行われる場面と各種定義について説明するための図である。 自車両Ｍが前走車両ｍＡを追い越す動作について説明するための図である。 追い越し制御部１４２による追い越し判断処理の概要を示す図である。 事前環境における評価関数の学習処理について説明するための図である。 追い越し制御部１４２により実行される処理の流れの一例を示すフローチャートである。

以下、図面を参照し、本発明の車両制御装置、車両制御方法、およびプログラムの実施形態について説明する。

［全体構成］
図１は、実施形態に係る車両制御装置を利用した車両システム１の構成図である。車両システム１が搭載される車両は、例えば、二輪や三輪、四輪等の車両であり、その駆動源は、ディーゼルエンジンやガソリンエンジンなどの内燃機関、電動機、或いはこれらの組み合わせである。電動機は、内燃機関に連結された発電機による発電電力、或いは二次電池や燃料電池の放電電力を使用して動作する。

車両システム１は、例えば、カメラ１０と、レーダ装置１２と、ＬＩＤＡＲ（Light Detection and Ranging）１４と、物体認識装置１６と、通信装置２０と、ＨＭＩ（Human Machine Interface）３０と、車両センサ４０と、ナビゲーション装置５０と、ＭＰＵ（Map Positioning Unit）６０と、運転操作子８０と、自動運転制御装置１００と、走行駆動力出力装置２００と、ブレーキ装置２１０と、ステアリング装置２２０とを備える。これらの装置や機器は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図１に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。

カメラ１０は、例えば、ＣＣＤ（Charge Coupled Device）やＣＭＯＳ（Complementary Metal Oxide Semiconductor）等の固体撮像素子を利用したデジタルカメラである。カメラ１０は、車両システム１が搭載される車両（以下、自車両Ｍ）の任意の箇所に取り付けられる。前方を撮像する場合、カメラ１０は、フロントウインドシールド上部やルームミラー裏面等に取り付けられる。カメラ１０は、例えば、周期的に繰り返し自車両Ｍの周辺を撮像する。カメラ１０は、ステレオカメラであってもよい。

レーダ装置１２は、自車両Ｍの周辺にミリ波などの電波を放射すると共に、物体によって反射された電波（反射波）を検出して少なくとも物体の位置（距離および方位）を検出する。レーダ装置１２は、自車両Ｍの任意の箇所に取り付けられる。レーダ装置１２は、ＦＭ－ＣＷ（Frequency Modulated Continuous Wave）方式によって物体の位置および速度を検出してもよい。

ＬＩＤＡＲ１４は、自車両Ｍの周辺に光（或いは光に近い波長の電磁波）を照射し、散乱光を測定する。ＬＩＤＡＲ１４は、発光から受光までの時間に基づいて、対象までの距離を検出する。照射される光は、例えば、パルス状のレーザー光である。ＬＩＤＡＲ１４は、自車両Ｍの任意の箇所に取り付けられる。

物体認識装置１６は、カメラ１０、レーダ装置１２、およびＬＩＤＡＲ１４のうち一部または全部による検出結果に対してセンサフュージョン処理を行って、物体の位置、種類、速度などを認識する。物体認識装置１６は、認識結果を自動運転制御装置１００に出力する。物体認識装置１６は、カメラ１０、レーダ装置１２、およびＬＩＤＡＲ１４の検出結果をそのまま自動運転制御装置１００に出力してよい。車両システム１から物体認識装置１６が省略されてもよい。

通信装置２０は、例えば、セルラー網やＷｉ－Ｆｉ網、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＤＳＲＣ（Dedicated Short Range Communication）などを利用して、自車両Ｍの周辺に存在する他車両と通信し、或いは無線基地局を介して各種サーバ装置と通信する。

ＨＭＩ３０は、自車両Ｍの乗員に対して各種情報を提示すると共に、乗員による入力操作を受け付ける。ＨＭＩ３０は、各種表示装置、スピーカ、ブザー、タッチパネル、スイッチ、キーなどを含む。

車両センサ４０は、自車両Ｍの速度を検出する車速センサ、加速度を検出する加速度センサ、鉛直軸回りの角速度を検出するヨーレートセンサ、自車両Ｍの向きを検出する方位センサ等を含む。

ナビゲーション装置５０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）受信機５１と、ナビＨＭＩ５２と、経路決定部５３とを備える。ナビゲーション装置５０は、ＨＤＤ（Hard Disk Drive）やフラッシュメモリなどの記憶装置に第１地図情報５４を保持している。ＧＮＳＳ受信機５１は、ＧＮＳＳ衛星から受信した信号に基づいて、自車両Ｍの位置を特定する。自車両Ｍの位置は、車両センサ４０の出力を利用したＩＮＳ（Inertial Navigation System）によって特定または補完されてもよい。ナビＨＭＩ５２は、表示装置、スピーカ、タッチパネル、キーなどを含む。ナビＨＭＩ５２は、前述したＨＭＩ３０と一部または全部が共通化されてもよい。経路決定部５３は、例えば、ＧＮＳＳ受信機５１により特定された自車両Ｍの位置（或いは入力された任意の位置）から、ナビＨＭＩ５２を用いて乗員により入力された目的地までの経路（以下、地図上経路）を、第１地図情報５４を参照して決定する。第１地図情報５４は、例えば、道路を示すリンクと、リンクによって接続されたノードとによって道路形状が表現された情報である。第１地図情報５４は、道路の曲率やＰＯＩ（Point Of Interest）情報などを含んでもよい。地図上経路は、ＭＰＵ６０に出力される。ナビゲーション装置５０は、地図上経路に基づいて、ナビＨＭＩ５２を用いた経路案内を行ってもよい。ナビゲーション装置５０は、例えば、乗員の保有するスマートフォンやタブレット端末等の端末装置の機能によって実現されてもよい。ナビゲーション装置５０は、通信装置２０を介してナビゲーションサーバに現在位置と目的地を送信し、ナビゲーションサーバから地図上経路と同等の経路を取得してもよい。

ＭＰＵ６０は、例えば、推奨車線決定部６１を含み、ＨＤＤやフラッシュメモリなどの記憶装置に第２地図情報６２を保持している。推奨車線決定部６１は、ナビゲーション装置５０から提供された地図上経路を複数のブロックに分割し（例えば、車両進行方向に関して１００［ｍ］毎に分割し）、第２地図情報６２を参照してブロックごとに推奨車線を決定する。推奨車線決定部６１は、左から何番目の車線を走行するといった決定を行う。推奨車線決定部６１は、地図上経路に分岐箇所が存在する場合、自車両Ｍが、分岐先に進行するための合理的な経路を走行できるように、推奨車線を決定する。

第２地図情報６２は、第１地図情報５４よりも高精度な地図情報である。第２地図情報６２は、例えば、車線の中央の情報あるいは車線の境界の情報等を含んでいる。また、第２地図情報６２には、道路情報、交通規制情報、住所情報（住所・郵便番号）、施設情報、電話番号情報などが含まれてよい。第２地図情報６２は、通信装置２０が他装置と通信することにより、随時、アップデートされてよい。

運転操作子８０は、例えば、アクセルペダル、ブレーキペダル、シフトレバー、ステアリングホイール、異形ステア、ジョイスティックその他の操作子を含む。運転操作子８０には、操作量あるいは操作の有無を検出するセンサが取り付けられており、その検出結果は、自動運転制御装置１００、もしくは、走行駆動力出力装置２００、ブレーキ装置２１０、およびステアリング装置２２０のうち一部または全部に出力される。

自動運転制御装置１００は、例えば、第１制御部１２０と、第２制御部１６０とを備える。第１制御部１２０と第２制御部１６０は、それぞれ、例えば、ＣＰＵ（Central Processing Unit）などのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。また、これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）などのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予め自動運転制御装置１００のＨＤＤやフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ－ＲＯＭなどの着脱可能な記憶媒体に格納されており、記憶媒体（非一過性の記憶媒体）がドライブ装置に装置に装着されることで自動運転制御装置１００のＨＤＤやフラッシュメモリにインストールされてもよい。自動運転制御装置１００は「車両制御装置」の一例であり、行動計画生成部１４０と第２制御部１６０を合わせたものが「運転制御部」の一例である。

図２は、第１制御部１２０および第２制御部１６０の機能構成図である。第１制御部１２０は、例えば、認識部１３０と、行動計画生成部１４０とを備える。認識部１３０は、指標値導出部１３２を備える。行動計画生成部１４０は、追い越し制御部１４２を備える。指標値導出部１３２と追い越し制御部１４２の機能については後述する。第１制御部１２０は、例えば、ＡＩ（Artificial Intelligence；人工知能）による機能と、予め与えられたモデルによる機能とを並行して実現する。例えば、「交差点を認識する」機能は、ディープラーニング等による交差点の認識と、予め与えられた条件（パターンマッチング可能な信号、道路標示などがある）に基づく認識とが並行して実行され、双方に対してスコア付けして総合的に評価することで実現されてよい。これによって、自動運転の信頼性が担保される。

認識部１３０は、カメラ１０、レーダ装置１２、およびＬＩＤＡＲ１４から物体認識装置１６を介して入力された情報に基づいて、自車両Ｍの周辺にある物体の位置、および速度、加速度等の状態を認識する。物体の位置は、例えば、自車両Ｍの代表点（重心や駆動軸中心など）を原点とした絶対座標上の位置として認識され、制御に使用される。物体の位置は、その物体の重心やコーナー等の代表点で表されてもよいし、表現された領域で表されてもよい。物体の「状態」とは、物体の加速度やジャーク、あるいは「行動状態」（例えば車線変更をしている、またはしようとしているか否か）を含んでもよい。

また、認識部１３０は、例えば、自車両Ｍが走行している車線（走行車線）を認識する。例えば、認識部１３０は、第２地図情報６２から得られる道路区画線のパターン（例えば実線と破線の配列）と、カメラ１０によって撮像された画像から認識される自車両Ｍの周辺の道路区画線のパターンとを比較することで、走行車線を認識する。なお、認識部１３０は、道路区画線に限らず、道路区画線や路肩、縁石、中央分離帯、ガードレールなどを含む走路境界（道路境界）を認識することで、走行車線を認識してもよい。この認識において、ナビゲーション装置５０から取得される自車両Ｍの位置やＩＮＳによる処理結果が加味されてもよい。また、認識部１３０は、一時停止線、障害物、赤信号、料金所、その他の道路事象を認識する。

認識部１３０は、走行車線を認識する際に、走行車線に対する自車両Ｍの位置や姿勢を認識する。認識部１３０は、例えば、自車両Ｍの基準点の車線中央からの乖離、および自車両Ｍの進行方向の車線中央を連ねた線に対してなす角度を、走行車線に対する自車両Ｍの相対位置および姿勢として認識してもよい。これに代えて、認識部１３０は、走行車線のいずれかの側端部（道路区画線または道路境界）に対する自車両Ｍの基準点の位置などを、走行車線に対する自車両Ｍの相対位置として認識してもよい。

行動計画生成部１４０は、原則的には推奨車線決定部６１により決定された推奨車線を走行し、更に、自車両Ｍの周辺状況に対応できるように、自車両Ｍが自動的に（運転者の操作に依らずに）将来走行する目標軌道を生成する。目標軌道は、例えば、速度要素を含んでいる。例えば、目標軌道は、自車両Ｍの到達すべき地点（軌道点）を順に並べたものとして表現される。軌道点は、道なり距離で所定の走行距離（例えば数［ｍ］程度）ごとの自車両Ｍの到達すべき地点であり、それとは別に、所定のサンプリング時間（例えば０コンマ数［ｓｅｃ］程度）ごとの目標速度および目標加速度が、目標軌道の一部として生成される。また、軌道点は、所定のサンプリング時間ごとの、そのサンプリング時刻における自車両Ｍの到達すべき位置であってもよい。この場合、目標速度や目標加速度の情報は軌道点の間隔で表現される。

行動計画生成部１４０は、目標軌道を生成するにあたり、自動運転のイベントを設定してよい。自動運転のイベントには、定速走行イベント、低速追従走行イベント、車線変更イベント、分岐イベント、合流イベント、テイクオーバーイベントなどがある。行動計画生成部１４０は、起動させたイベントに応じた目標軌道を生成する。

第２制御部１６０は、行動計画生成部１４０によって生成された目標軌道を、予定の時刻通りに自車両Ｍが通過するように、走行駆動力出力装置２００、ブレーキ装置２１０、およびステアリング装置２２０を制御する。

図２に戻り、第２制御部１６０は、例えば、取得部１６２と、速度制御部１６４と、操舵制御部１６６とを備える。取得部１６２は、行動計画生成部１４０により生成された目標軌道（軌道点）の情報を取得し、メモリ（不図示）に記憶させる。速度制御部１６４は、メモリに記憶された目標軌道に付随する速度要素に基づいて、走行駆動力出力装置２００またはブレーキ装置２１０を制御する。操舵制御部１６６は、メモリに記憶された目標軌道の曲がり具合に応じて、ステアリング装置２２０を制御する。速度制御部１６４および操舵制御部１６６の処理は、例えば、フィードフォワード制御とフィードバック制御との組み合わせにより実現される。一例として、操舵制御部１６６は、自車両Ｍの前方の道路の曲率に応じたフィードフォワード制御と、目標軌道からの乖離に基づくフィードバック制御とを組み合わせて実行する。

走行駆動力出力装置２００は、車両が走行するための走行駆動力（トルク）を駆動輪に出力する。走行駆動力出力装置２００は、例えば、内燃機関、電動機、および変速機などの組み合わせと、これらを制御するＥＣＵ（Electronic Control Unit）とを備える。ＥＣＵは、第２制御部１６０から入力される情報、或いは運転操作子８０から入力される情報に従って、上記の構成を制御する。

ブレーキ装置２１０は、例えば、ブレーキキャリパーと、ブレーキキャリパーに油圧を伝達するシリンダと、シリンダに油圧を発生させる電動モータと、ブレーキＥＣＵとを備える。ブレーキＥＣＵは、第２制御部１６０から入力される情報、或いは運転操作子８０から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。ブレーキ装置２１０は、運転操作子８０に含まれるブレーキペダルの操作によって発生させた油圧を、マスターシリンダを介してシリンダに伝達する機構をバックアップとして備えてよい。なお、ブレーキ装置２１０は、上記説明した構成に限らず、第２制御部１６０から入力される情報に従ってアクチュエータを制御して、マスターシリンダの油圧をシリンダに伝達する電子制御式油圧ブレーキ装置であってもよい。

ステアリング装置２２０は、例えば、ステアリングＥＣＵと、電動モータとを備える。電動モータは、例えば、ラックアンドピニオン機構に力を作用させて転舵輪の向きを変更する。ステアリングＥＣＵは、第２制御部１６０から入力される情報、或いは運転操作子８０から入力される情報に従って、電動モータを駆動し、転舵輪の向きを変更させる。

［追い越し制御］
以下、自動運転制御装置１００が行う追い越し制御について説明する。行動計画生成部１４０の追い越し制御部１４２は、例えば、定速走行イベントが実行されているときに作動する。追い越し制御部１４２は、自車両Ｍと同一の車線上における自車両Ｍの前方（直前）を走行する前走車両を追い越すために、自車両Ｍを一度隣接車線に車線変更し、自車両Ｍが前走車両であった車両よりも十分に前に出たときに元の車線に戻らせる。「直前」とは、間に車両が無いという意味である。

図３は、追い越し制御が行われる場面と各種定義について説明するための図である。図中、ｍＡは前走車両、Ｌ１は自車両Ｍが居る車線、Ｌ２は隣接車線であり、且つ自車両Ｍが前走車両ｍＡを追い越す際に車線変更する先の車線である。Ｖ_Ｍは自車両Ｍの速度、Ｖ_ｍＡは前走車両ｍＡの速度である。また、ｍＢは隣接車線Ｌ２における自車両Ｍよりも前方に居る隣接車線前方車両であり、ｍＣは隣接車線Ｌ２における自車両Ｍよりも後方に居る隣接車線後方車両であり、ｍＤは後続車両である。「後方」とは、例えば、代表点（重心など）の位置関係を道路延在方向（図中Ｘ方向）に関して比較した結果、後方であることをいう。また、自車両Ｍの後端部よりも前端部が道路延在方向（図中Ｘ方向）に関して後方に居ることを意味してもよい。前方に関しても同様である。なお、自車両Ｍが居る車線の両側に隣接車線がある場合、何らかの手法で車線変更先の車線を決定し、決定した車線を隣接車線としてよい。

認識部１３０の指標値導出部１３２は、前述した認識処理の結果として、（１）自車両Ｍの目標速度Ｖ_Ｍ＊から前走車両ｍＡの速度Ｖ_ｍＡを差し引いた速度差ΔＶ（＝Ｖ_Ｍ＊－Ｖ_ｍＡ）、（２）自車両Ｍと前走車両ｍＡとの距離Ｄ_ＭＡ、（３）自車両Ｍと隣接車線後方車両ｍＣとの距離Ｄ_ＭＣなどの指標値を導出する。目標速度Ｖ_Ｍ＊は、法定速度、乗員がセットしたセット速度などに基づいて決定される。距離Ｄ_ＭＡは自車両Ｍの前端部と前走車両ｍＡの後端部との道路延在方向に関する距離であるものとしたが、自車両Ｍの代表点と前走車両ｍＡの代表点との道路延在方向に関する距離であってもよい。また、距離Ｄ_ＭＣは自車両Ｍの後端部と前走車両ｍＣの前端部との道路延在方向に関する距離であるものとしたが、自車両Ｍの代表点と前走車両ｍＣの代表点との道路延在方向に関する距離であってもよい。指標値導出部１３２は、前述した（１）～（３）の指標値のうち一部のみを導出してもよく、追い越し時の自車両Ｍの環境を示すものである限り、別の指標値を導出してもよい。例えば、指標値導出部１３２は、自車両Ｍと隣接車線前方車両ｍＢとの距離、前走車両ｍＡの速度の変動度合い（例えば分散）や道路幅方向（図中Ｙ方向）に関する位置（横位置）などを指標値として導出してもよい。

追い越し制御部１４２は、複数の指標値のそれぞれを、指標値ごとの評価関数に入力することで、指標値ごとの評価値を取得する。そして、追い越し制御部１４２は、複数の評価値を統合した値を閾値と比較することで、前走車両ｍＡを追い越すか否かを決定する。より具体的に、追い越し制御部１４２は、複数の評価値の積が閾値以上である場合に、前走車両ｍＡを追い越すことを決定し、自車両Ｍに前走車両ｍＡを追い越させる。

図４は、自車両Ｍが前走車両ｍＡを追い越す動作について説明するための図である。追い越し制御部１４２は、まず、自車両Ｍを隣接車線Ｌ２における隣接車線後方車両ｍＣの前方に車線変更させ、次いで、元の車線Ｌ１における前走車両ｍＡの前方に車線変更させる。この際の速度制御や操舵制御に関しては本発明の中核をなさないため説明を省略する。係る動作を実行するかどうか判断する際に、自動運転制御装置１００は、少なくとも前走車両ｍＡ、隣接車線前方車両ｍＢ、隣接車線後方車両ｍＣの位置や速度、それらの変化に応じた判断をしなければならず、乗員に違和感を感じさせないようにするためには、高度な判断が要求される。

そこで、追い越し制御部１４２は、事前環境において強化学習によって出力傾向が調整された複数の評価関数を用いて、前走車両ｍＡを追い越すか否かを決定する。事前環境とは、自車両Ｍにソフトウェアが適用する前の、シミュレーション環境あるいは実車を使用したテスト環境をいう。複数の評価関数のそれぞれは、指標値が入力されると評価値を出力するものである。図５は、追い越し制御部１４２による追い越し判断処理の概要を示す図である。追い越し制御部１４２は、速度差ΔＶ、距離Ｄ_ＭＡ、距離Ｄ_ＭＣなどの指標値１、２、３、…ｎを、それぞれに対応する評価関数１、２、３、…、ｎに入力し、得られた評価値Ｅ１～Ｅｎの総乗を計算する。そして、総乗が閾値Ｔｈ以上である場合に、前走車両ｍＡを追い越すことを決定する。それぞれの評価関数の出力する値は、自車両Ｍの乗員の追い越す欲求を示す値である。それぞれの評価関数の出力する値は、例えばゼロから１の間の値をとるように調整されている。

［事前環境］
図６は、事前環境における評価関数の学習処理について説明するための図である。事前環境における評価関数の学習処理は、任意のコンピュータ装置によって実行される。なお、シミュレーション環境に代えて、テストコースなどの実環境が利用されてもよい。まずＡｃｔｏｒ３００として、追い越し制御部１４２と同等の機能（状態に含まれる指標値を評価関数に入力して得られる評価値の積が閾値以上である場合に追い越し実行すると判断するもの）を用意する。Ａｃｔｏｒ３００の判断結果を反映するシミュレーション環境の出力である状態は、Ａｃｔｏｒ３００と、報酬関数３１０とに入力される。

報酬関数３１０は、状態に含まれる指標値（Ａｃｔｏｒに入力される指標値と一部または全部が重複してもよいし、全く別の指標値でもよい）を、指標値ごとの報酬関数に入力し、複数の報酬関数値Ｒ１、Ｒ２、Ｒ３、…、Ｒｍを得る。報酬関数３１０における指標値は、例えば、自車両Ｍの目標速度Ｖ_Ｍ＊から実速度Ｖ_Ｍを差し引いた速度差ΔＶ＃（＝Ｖ_Ｍ＊－Ｖ_Ｍ）、自車両Ｍと前走車両ｍＡとの距離Ｄ_ＭＡ、自車両Ｍと後続車両ｍＤとの距離Ｄ_ＭＤなどであり、それぞれの報酬関数は、自車両Ｍの巡航の快適さを表す報酬関数値を出力する。そして、報酬関数値Ｒ１、Ｒ２、Ｒ３、…、Ｒｍの総乗が統合報酬関数値ＲｔｏｔａｌとしてＣｒｉｔｉｃ３２０に出力される。

Ｃｒｉｔｉｃ３２０は、入力された統合報酬関数値Ｒｔｏｔａｌに基づいて、将来の報酬和を推定し、Ａｃｔｏｒ３００の行動の適切さを評価し、評価結果に基づいてＡｃｔｏｒ３００の評価関数のパラメータを調整する。そして、十分に調整が完了した段階のＡｃｔｏｒ３００の評価関数が、追い越し制御部１４２が用いる評価関数として自車両Ｍに搭載される。Ｃｒｉｔｉｃ３２０は、係る処理のためにＤＮＮ（Deep Neural Network）を用いた処理を行う。Ｃｒｉｔｉｃ３２０の処理は、例えば公知のＡｃｔｏｒ－Ｃｒｉｔｉｃ法に基づくものであり、詳細な説明を省略する。係る処理は、処理負荷が高いものであるが、車両に搭載する前の事前環境において行われるため、車両に搭載した場合の処理負荷等の問題は生じない。また、ＤＮＮ等の高度な処理を行うことで、状態価値を正確に推定することができる。なお、Ａｃｔｏｒ－Ｃｒｉｔｉｃ法に代えて、他の強化学習の手法が用いられてもよい。

［処理フロー］
図７は、追い越し制御部１４２により実行される処理の流れの一例を示すフローチャートである。本フローチャートの処理は、例えば、定速走行イベントが実行されている間、繰り返し実行される。

まず、追い越し制御部１４２は、指標値導出部１３２から複数の指標値を取得し（ステップＳ１００）、複数の指標値をそれぞれに対応する評価関数に入力する（ステップＳ１０２）。そして、追い越し制御部１４２は、評価値の総乗が閾値Ｔｈ以上であるか否かを判定する（ステップＳ１０４）。評価値の総乗が閾値Ｔｈ以上である場合、追い越し制御部１４２は、自車両Ｍに前走車両ｍＡを追い越させる（ステップＳ１０６）

以上説明した実施形態によれば、車両（Ｍ）の周辺状況を認識する認識部（１３０、１３２）と、車両の乗員の操作に依らずに車両の加減速および操舵を制御する運転制御部（１４０、１６０）と、を備え、運転制御部は、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、車両と同一の車線上における車両の前方を走行する前走車両を追い越すか否かを決定する追い越し制御部（１４２）を備え、複数の評価関数のそれぞれは、認識部により認識された車両の周辺状況を示す複数の指標値が入力されると評価値を出力するものであり、事前環境において強化学習によって出力傾向が調整されたものであるため、処理負荷の増大を抑制しつつ、車両に前走車両を追い越させるか否かを適切に判断することができる。

上記説明した実施形態は、以下のように表現することができる。
プログラムを記憶した記憶装置と、
ハードウェアプロセッサと、を備え、
前記ハードウェアプロセッサが前記記憶装置に記憶されたプログラムを実行することにより、
車両の周辺状況を認識し、
車両の乗員の操作に依らずに前記車両の加減速および操舵を制御し、
前記制御することは、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定することを含み、
前記複数の評価関数のそれぞれは、
前記認識部により認識された前記車両の周辺状況を示す複数の指標値が入力されると評価値を出力するものであり、
事前環境において強化学習によって出力傾向が調整されたものである、
ように構成されている、車両制御装置。

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

１００ 自動運転制御装置
１３０ 認識部
１３２ 指標値導出部
１４０ 行動計画生成部
１４２ 追い越し制御部

Claims (4)

1. 車両の周辺状況を認識する認識部と、
   車両の乗員の操作に依らずに前記車両の加減速および操舵を制御する運転制御部と、を備え、
   前記運転制御部は、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定する追い越し制御部を備え、
   前記複数の評価関数のそれぞれは、
   前記認識部により認識された前記車両の周辺状況を示す複数の指標値のうち一つが入力されると評価値を出力するものであり、
   事前環境において強化学習によって出力傾向が調整されたものであり、
   前記追い越し制御部は、前記複数の評価値の積が前記閾値以上である場合に、前記前走車両を追い越すことを決定し、前記車両に前記前走車両を追い越させ、
   前記複数の指標値は、前記車両の目標速度と前記前走車両の速度との差、前記車両と前記前走車両との距離、および、前記車両と、前記車両が追い越しの際に車線変更する先の隣接車線において前記車両よりも後方に居る隣接後方車両との距離を全て含む、
   車両制御装置。
2. 前記複数の評価関数のそれぞれは、Ａｃｔｏｒ－Ｃｒｉｔｉｃ法によって前記出力傾向が調整されたものである、
   請求項１記載の車両制御装置。
3. 車両制御装置が、
   車両の周辺状況を認識し、
   車両の乗員の操作に依らずに前記車両の加減速および操舵を制御し、
   前記制御することは、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定することを含み、
   前記複数の評価関数のそれぞれは、
   前記認識された前記車両の周辺状況を示す複数の指標値のうち一つが入力されると評価値を出力するものであり、
   事前環境において強化学習によって出力傾向が調整されたものであり、
   前記車両制御装置が、前記複数の評価値の積が前記閾値以上である場合に、前記前走車両を追い越すことを決定し、前記車両に前記前走車両を追い越させ、
   前記複数の指標値は、前記車両の目標速度と前記前走車両の速度との差、前記車両と前記前走車両との距離、および、前記車両と、前記車両が追い越しの際に車線変更する先の隣接車線において前記車両よりも後方に居る隣接後方車両との距離を全て含む、
   車両制御方法。
4. 車両に搭載されたコンピュータに、
   車両の周辺状況を認識させ、
   車両の乗員の操作に依らずに前記車両の加減速および操舵を制御させ、
   前記制御させることは、複数の評価関数が出力する複数の評価値を統合した値を閾値と比較することで、前記車両と同一の車線上における前記車両の前方を走行する前走車両を追い越すか否かを決定させることを含み、
   前記複数の評価関数のそれぞれは、
   前記認識された前記車両の周辺状況を示す複数の指標値のうち一つが入力されると評価値を出力するものであり、
   事前環境において強化学習によって出力傾向が調整されたものであり、
   前記コンピュータに、前記複数の評価値の積が前記閾値以上である場合に、前記前走車両を追い越すことを決定させ、前記車両に前記前走車両を追い越させることを行わせ、
   前記複数の指標値は、前記車両の目標速度と前記前走車両の速度との差、前記車両と前記前走車両との距離、および、前記車両と、前記車両が追い越しの際に車線変更する先の隣接車線において前記車両よりも後方に居る隣接後方車両との距離を全て含む、
   プログラム。

Images