JP6508845B2 - 車両制御システム、車両制御方法、およびプログラム - Google Patents

Description

本発明は、車両制御システム、車両制御方法、およびプログラムに関する。

車両の加減速または操舵の少なくとも一方を自動的に制御して車両を走行させる技術（以下、「自動運転」と称する）についての研究が進められている。これに関連して、自動運転車両のシステム状態に基づいて自動運転レベルを判断し、判断された自動運転レベルに応じて、車両の操作部の画像および操作部を操作する人の部分の画像を、同時に表示部に表示させる技術が開示されている（例えば、特許文献１参照）。

特開２０１５−１８２６２４号公報

しかしながら、従来技術の手法では、操作部の画像と人の部分の画像との接触状態を表示しているため、それが現在の運転支援の度合を表現しているのか、乗員に要求される操作を示しているのかが分かりにくかった。更に、操作部の画像と人の部分の画像は、乗員に許容されている操作であるのか、または乗員に要求されている操作なのかの区別が付きにくかった。そのため、乗員は、表示部に表示される画像を誤認する可能性があった。

本発明は、このような事情を考慮してなされたものであり、表示部に表示される画像の誤認を抑制することができる車両制御システム、車両制御方法、およびプログラムを提供することを目的の一つとする。

（１）：画像を表示する表示部（４５０）と、異なる度合で運転支援を行う車両制御部（２００、３００）と、前記運転支援の度合に関する画像に対応する表示位置で、乗員に要求される動作を示す画像を前記表示部に表示させる表示制御部（１２０）と、を備える車両制御システムである。

（２）：（１）において、前記表示制御部は、前記車両制御部が実行可能な前記運転支援の度合を示す複数の画像を前記表示部に表示させるとともに、現に前記車両制御部により実行されている運転支援の度合を示す画像を、他の運転支援の度合を示す画像と識別可能に表示させる。

（３）：（１）または（２）において、前記乗員に要求される動作を示す画像は、前記乗員が車両の手動運転時に操作する運転操作子（８０）を示す画像と、前記乗員の部位を示す画像とを含む。

（４）：（３）において、前記運転操作子を示す画像は、ステアリングホイールの画像であり、前記乗員の部位を示す画像は、乗員の手を示す画像である。

（５）：（３）または（４）において、前記運転操作子を示す画像は、アクセルペダルまたはブレーキペダルの一方または双方を示す画像であり、前記乗員の部位を示す画像は、乗員の足を示す画像である。

（６）：（３）〜（５）のうち何れか一つにおいて、前記表示制御部は、前記車両制御部により前記運転支援の度合が切り替えられる場合に、乗員に要求される動作を示す動画像を、前記表示部に表示させる。

（７）：（６）において、前記表示制御部は、前記乗員に要求される動作を示す動画像とともに、前記動画像の操作が乗員により実行された場合に前記車両制御部が実行する運転支援に関する情報を前記表示部に表示させる。

（８）：車載コンピュータが、表示部に運転支援の度合に関する画像を表示し、異なる度合で運転支援を行い、前記運転支援の度合に関する画像に対応する表示位置で、乗員に要求される動作を示す画像を前記表示部に表示する車両制御方法である。

（９）：車載コンピュータに、運転支援の度合に関する画像を表示部に表示させ、異なる度合で運転支援を車両制御部に行わせ、前記運転支援の度合に関する画像に対応する表示位置で、乗員に要求される動作を示す画像を前記表示部に表示させるプログラムである。

（１）〜（９）によれば、表示部に表示される画像の誤認を抑制することができる。

実施形態の車両制御システムを含む車両システム１の構成図である。 自車位置認識部３２２により走行車線Ｌ１に対する自車両Ｍの相対位置および姿勢が認識される様子を示す図である。 推奨車線に基づいて目標軌道が生成される様子を示す図である。 車線変更の際の処理について説明するための図（その１）である。 車線変更の際の処理について説明するための図（その２）である。 自車両ＭにおけるＨＭＩ４００の一例を示す図である。 第３の表示部４７０と発光部４７２の位置関係の一つの側面を例示した図である。 第３の表示部４７０と発光部４７２の位置関係の他の側面を例示した図である。 第３の表示部４７０の画面の一部の領域を用いて、第３の表示部４７０が使用可能であること通知することについて説明するための図である。 自車両Ｍが手動運転から自動運転が開始され、自動運転による車線変更が実行されるまでの各種場面を示す図である。 手動運転時に表示される第１画面ＩＭ１−１および第２画面ＩＭ２−１の一例を示す図である。 メインスイッチ４１２が操作されたことで表示される第３画面ＩＭ３−１および第４画面ＩＭ４−１の一例を示す図である。 オートスイッチ４１４が操作されたときに、第１の表示部４５０およびＨＵＤ４６０に表示される画面ＩＭ３−２およびＩＭ４−２の一例を示す図である。 第１の度合の運転支援の実行時に運転支援状態表示領域６２０−２に表示される画像の一例を示す図である。 アクセルペダルと乗員の足とを含む要求動作通知画像６２３の表示例を示す図である。 第２の度合の運転支援中において、第１の表示部４５０およびＨＵＤ４６０に表示される画面の一例を示す図である。 車線変更の開始時に表示される第３画面ＩＭ３−４および第４画面ＩＭ４−４の一例を示す図である。 車線変更の実行中に表示される第３画面ＩＭ３−５および第４画面ＩＭ４−５の一例を示す図である。 場面（１）〜（３）において、ＨＭＩ制御部１２０により実行される処理の流れの一例を示すフローチャートである。 ＨＭＩ制御部１２０が第１の表示部４５０に第３画面ＩＭ３−１を表示させる処理の一例を示すフローチャートである。 自車両Ｍの挙動が変化するイベントが発生する場合の表示制御処理の一例を示すフローチャートである。 自車両Ｍに対して第３の度合での運転支援を実行し、その後、第３の度合から第２の度合での運転支援を実行するまでの各種場面を示す図である。 自車両Ｍの加速制御時に表示される第３画面ＩＭ３−６および第４画面ＩＭ４−６の一例を示す図である。 低速追従走行時に表示される第３画面ＩＭ３−７および第４画面ＩＭ４−７の一例を示す図である。 乗員に周辺監視を要求するために表示される第３画面ＩＭ３−８および第４画面ＩＭ４−８の一例を示す図である。 第３の度合から第２の度合に切り替わった場合の第３画面ＩＭ３−９および第４画面ＩＭ４−９の一例を示す図である。 場面（４）〜（６）において、ＨＭＩ制御部１２０により実行される処理の流れの一例を示すフローチャートである。 ＨＭＩ制御部１２０による特定機能の実行処理の流れを示すフローチャートである。 運転の度合によって第３の表示部４７０に表示される画像が変化する様子の一例を示す図である。 自車両Ｍを第２の度合の運転支援から手動運転による走行に切り替わるまでの各種場面を示す図である。 手動運転時への切り替え要求時に表示される第３画面ＩＭ３−１０および第４画面ＩＭ４−１０の一例を示す図である。 乗員に手動運転を実行させるための警告を強めた第３画面ＩＭ３−１１および第４画面ＩＭ４−１１の一例を示す図である。 シートベルトを振動させて乗員に警告を行うことについて説明するための図である。 自動運転を終了する旨の情報を表示する第３画面ＩＭ３−１２および第４画面ＩＭ４−１２の一例を示す図である。 自車両Ｍの緊急停止時における第３画面ＩＭ３−１３および第４画面ＩＭ４−１３の一例を示す図である。 場面（７）〜（９）において、ＨＭＩ制御部１２０により実行される処理の流れの一例を示すフローチャートである。 運転支援に関連する各種機器または制御の切り替えタイミングについて説明するための図である。 実施形態における運転支援の切り替え制御について説明するための図である。

以下、図面を参照し、本発明の車両制御システム、車両制御方法、および車両制御プログラムの実施形態について説明する。実施形態では、車両制御システムが自動運転（自律運転）可能な自動運転車両に適用される。自動運転は、乗員による操作を原則として必要としない状態で車両が走行することをいい、運転支援の一種であると考えられる。なお、自動運転車両は手動運転により走行させることもできる。なお、以下の説明において、「乗員」とは、運転席すなわち運転操作子が設けられたシートに着座した乗員を指すものとする。

本実施形態において、運転支援の度合には、例えば、ＡＣＣ（Adaptive Cruise Control System）やＬＫＡＳ（Lane Keeping Assistance System）等の運転支援装置が作動することで運転支援を実行する第１の度合と、第１の度合よりも制御度合が高く、乗員が車両の運転操作子に対する操作を行わずに、車両の加減速または操舵のうち少なくとも一方を自動的に制御して自動運転を実行するが、乗員に、ある程度の周辺監視義務を課す第２の度合と、第２の度合よりも制御度合が高く、乗員に周辺監視義務を課さない（或いは第２の度合よりも低い周辺監視義務を課す）第３の度合とがあるものとする。本実施形態において、第２の度合および第３の度合の運転支援が自動運転に相当する。

［全体構成］
図１は、実施形態の車両制御システムを含む車両システム１の構成図である。車両システム１が搭載される車両（以下、自車両Ｍと称する）は、例えば、二輪や三輪、四輪等の車両であり、その駆動源は、ディーゼルエンジンやガソリンエンジン等の内燃機関、電動機、或いはこれらの組み合わせである。電動機は、内燃機関に連結された発電機による発電電力、或いは二次電池や燃料電池の放電電力を使用して動作する。

車両システム１は、例えば、カメラ１０と、レーダ装置１２と、ファインダ１４と、物体認識装置１６と、通信装置２０と、ナビゲーション装置５０と、ＭＰＵ（Map Positioning Unit）６０と、車両センサ７０と、運転操作子８０と、車室内カメラ９０と、マスター制御部１００と、運転支援制御部２００と、自動運転制御ユニット３００と、ＨＭＩ（Human Machine Interface）４００と、走行駆動力出力装置５００と、ブレーキ装置５１０と、ステアリング装置５２０と、とを備える。これらの装置や機器は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図１に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。

実施形態において「車両制御システム」は、例えば、マスター制御部１００と、運転支援制御部２００と、自動運転制御ユニット３００と、ＨＭＩ４００とを含む。ＨＭＩ制御部１２０は、「表示制御部」の一例である。また、運転支援制御部２００と、自動運転制御ユニット３００とを組み合わせたものが、「車両制御部」の一例である。

カメラ１０は、例えば、ＣＣＤ（Charge Coupled Device）やＣＭＯＳ（Complementary Metal Oxide Semiconductor）等の固体撮像素子を利用したデジタルカメラである。カメラ１０は、車両システム１が搭載される自車両Ｍの任意の箇所に一つまたは複数が取り付けられる。前方を撮像する場合、カメラ１０は、フロントウインドシールド上部やルームミラー裏面等に取り付けられる。後方を撮像する場合、カメラ１０は、リアウインドシールド上部やバックドア等に取り付けられる。側方を撮像する場合、カメラ１０は、ドアミラー等に取り付けられる。カメラ１０は、例えば、周期的に繰り返し自車両Ｍの周辺を撮像する。カメラ１０は、ステレオカメラであってもよい。

レーダ装置１２は、自車両Ｍの周辺にミリ波等の電波を放射するとともに、物体によって反射された電波（反射波）を検出して少なくとも物体の位置（距離および方位）を検出する。レーダ装置１２は、自車両Ｍの任意の箇所に一つまたは複数が取り付けられる。レーダ装置１２は、ＦＭＣＷ（Frequency Modulated Continuous Wave）方式によって物体の位置および速度を検出してもよい。

ファインダ１４は、照射光に対する散乱光を測定し、対象までの距離を検出するＬＩＤＡＲ（Light Detection and Ranging、或いはLaser Imaging Detection and Ranging）である。ファインダ１４は、自車両Ｍの任意の箇所に一つまたは複数が取り付けられる。

物体認識装置１６は、カメラ１０、レーダ装置１２、およびファインダ１４のうち一部または全部による検出結果に対してセンサフュージョン処理を行って、物体の位置、種類、速度等を認識する。物体認識装置１６は、認識結果を運転支援制御部２００および自動運転制御ユニット３００に出力する。

通信装置２０は、例えば、セルラー網やＷｉ−Ｆｉ網、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＤＳＲＣ（Dedicated Short Range Communication）等を利用して、自車両Ｍの周辺に存在する他車両と通信し、或いは無線基地局を介して各種サーバ装置と通信する。また、通信装置２０は、車外の人物が所持する端末装置と通信する。

ナビゲーション装置５０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）受信機５１と、ナビＨＭＩ５２と、経路決定部５３とを備え、ＨＤＤ（Hard Disk Drive）やフラッシュメモリ等の記憶装置に第１地図情報５４を保持している。ＧＮＳＳ受信機５１は、ＧＮＳＳ衛星から受信した信号に基づいて、自車両Ｍの位置を特定する。自車両Ｍの位置は、車両センサ７０の出力を利用したＩＮＳ（Inertial Navigation System）によって特定または補完されてもよい。ナビＨＭＩ５２は、表示装置、スピーカ、タッチパネル、キー等を含む。ナビＨＭＩ５２は、後述するＨＭＩ４００と一部または全部が共通化されてもよい。経路決定部５３は、例えば、ＧＮＳＳ受信機５１により特定された自車両Ｍの位置（或いは入力された任意の位置）から、ナビＨＭＩ５２を用いて乗員により入力された目的地までの経路（例えば、目的地まで走行するときの経由地に関する情報を含む）を、第１地図情報５４を参照して決定する。第１地図情報５４は、例えば、道路を示すリンクと、リンクによって接続されたノードとによって道路形状が表現された情報である。第１地図情報５４は、道路の曲率やＰＯＩ（Point Of Interest）情報等を含んでもよい。経路決定部５３により決定された経路は、ＭＰＵ６０に出力される。また、ナビゲーション装置５０は、経路決定部５３により決定された経路に基づいて、ナビＨＭＩ５２を用いた経路案内を行ってもよい。なお、ナビゲーション装置５０は、例えば、ユーザの保有するスマートフォンやタブレット端末等の端末装置の機能によって実現されてもよい。また、ナビゲーション装置５０は、通信装置２０を介してナビゲーションサーバに現在位置と目的地を送信し、ナビゲーションサーバから返信された経路を取得してもよい。

ＭＰＵ６０は、例えば、推奨車線決定部６１として機能し、ＨＤＤやフラッシュメモリ等の記憶装置に第２地図情報６２を保持している。推奨車線決定部６１は、ナビゲーション装置５０から提供された経路を複数のブロックに分割し（例えば、車両進行方向に関して１００［ｍ］毎に分割し）、第２地図情報６２を参照してブロックごとに推奨車線を決定する。推奨車線決定部６１は、左から何番目の車線を走行するといった決定を行う。推奨車線決定部６１は、経路において分岐箇所や合流箇所等が存在する場合、自車両Ｍが、分岐先に進行するための合理的な走行経路を走行できるように、推奨車線を決定する。

第２地図情報６２は、第１地図情報５４よりも高精度な地図情報である。第２地図情報６２は、例えば、車線の中央の情報あるいは車線の境界の情報等を含んでいる。また、第２地図情報６２には、道路情報、交通規制情報、住所情報（住所・郵便番号）、施設情報、電話番号情報等が含まれてよい。道路情報には、高速道路、有料道路、国道、都道府県道といった道路の種別を表す情報や、道路の車線数、非常駐車帯の領域、各車線の幅員、道路の勾配、道路の位置（経度、緯度、高さを含む３次元座標）、車線のカーブの曲率、車線の合流および分岐ポイントの位置、道路に設けられた標識等の情報が含まれる。第２地図情報６２は、通信装置２０を用いて他装置にアクセスすることにより、随時、アップデートされてよい。

車両センサ７０は、自車両Ｍの速度を検出する車速センサ、加速度を検出する加速度センサ、鉛直軸回りの角速度を検出するヨーレートセンサ、自車両Ｍの向きを検出する方位センサ等を含む。

運転操作子８０は、例えば、アクセルペダル、ブレーキペダル、シフトレバー、ステアリングホイールその他の操作子を含んでよい。運転操作子８０には、操作量あるいは操作の有無を検出するセンサが取り付けられており、その検出結果は、マスター制御部１００、運転支援制御部２００、自動運転制御ユニット３００、もしくは、走行駆動力出力装置５００、ブレーキ装置５１０、およびステアリング装置５２０のうち、何れか一つまたは複数に出力される。

車室内カメラ９０は、例えば、車室内に設置されたシートに着座する乗員（特に、運転席に着座する乗員）の顔を中心に撮像する。車室内カメラ９０は、ＣＣＤやＣＭＯＳ等の固体撮像素子を利用したデジタルカメラである。車室内カメラ９０は、例えば、周期的に乗員を撮像する。車室内カメラ９０の撮像画像は、マスター制御部１００に出力される。

［各種制御装置］
車両システム１は、制御系の構成の一部として、例えば、マスター制御部１００と、運転支援制御部２００と、自動運転制御ユニット３００とを備える。なお、マスター制御部１００は、運転支援制御部２００または自動運転制御ユニット３００のどちらかに統合されてもよい。

［マスター制御部］
マスター制御部１００は、運転支援の度合の切り替えと、それに関連するＨＭＩ４００の制御等を行う。マスター制御部１００は、例えば、切替制御部１１０と、ＨＭＩ制御部１２０と、操作子状態判定部１３０と、乗員状態監視部１４０とを備える。切替制御部１１０、ＨＭＩ制御部１２０、操作子状態判定部１３０、および乗員状態監視部１４０は、それぞれ、ＣＰＵ（Central Processing Unit）等のプロセッサがプログラムを実行することで実現される。また、これらの機能部のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）等のハードウェアによって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。

切替制御部１１０は、例えば、ＨＭＩ４００に含まれる所定のスイッチ（例えば後述するメインスイッチおよびオートスイッチ）から入力される操作信号に基づいて運転支援の度合を切り替える。また、切替制御部１１０は、例えば、アクセルペダルやブレーキペダル、ステアリングホイール等の運転操作子８０に対する加速、減速または操舵を指示する操作に基づいて、運転支援をキャンセルして手動運転に切り替えてもよい。切替制御部１１０の機能の詳細については後述する。

なお、切替制御部１１０は、行動計画生成部３２３により生成される行動計画に基づいて、運転支援の度合を切り替えてもよい。例えば、切替制御部１１０は、行動計画によって規定される自動運転の終了予定地点で、運転支援を終了するようにしてもよい。

ＨＭＩ制御部１２０は、運転支援の度合の切り替えに関連する通知等を、ＨＭＩ４００に出力させる。また、ＨＭＩ制御部１２０は、自車両Ｍに対する所定の事象が発生した場合に、ＨＭＩ４００に出力する内容を切り替える。また、ＨＭＩ制御部１２０は、操作子状態判定部１３０または乗員状態監視部１４０の一方または双方による判定結果に関する情報を、ＨＭＩ４００に出力させてもよい。また、ＨＭＩ制御部１２０は、ＨＭＩ４００により受け付けられた情報を運転支援制御部２００または自動運転制御ユニット３００の一方または双方に出力してもよい。ＨＭＩ制御部１２０の機能の詳細については後述する。

操作子状態判定部１３０は、例えば、運転操作子８０に含まれるステアリングホイールが操作されている状態（具体的には、現に意図的な操作を行っている場合、直ちに操作可能な状態、または把持状態を指すものとする）であるか否かを判定する。操作子状態判定部１３０の機能の詳細については後述する。

乗員状態監視部１４０は、車室内カメラ９０の撮像画像に基づいて、自車両Ｍの少なくとも運転席に着座した乗員の状態を監視する。乗員状態監視部１４０は、例えば、監視の一つとして、当該乗員が自車両Ｍの周囲を監視しているか否かを判定する。乗員状態監視部１４０の機能の詳細については後述する。

［運転支援制御部］
運転支援制御部２００は、第１の度合の運転支援を実行する。運転支援制御部２００は、例えば、ＡＣＣやＬＫＡＳその他の運転支援制御を実行する。例えば、運転支援制御部２００は、ＡＣＣを実行する際には、カメラ１０、レーダ装置１２、およびファインダ１４から物体認識装置１６を介して入力される情報に基づいて、自車両Ｍと、前走車両との車間距離を一定に保った状態で走行するように走行駆動力出力装置５００およびブレーキ装置５１０を制御する。すなわち、運転支援制御部２００は、前走車両との車間距離に基づく加減速制御（速度制御）を行う。また、運転支援制御部２００は、ＬＫＡＳを実行する際には、自車両Ｍが、現在走行中の走行車線を維持（レーンキープ）しながら走行するようにステアリング装置５２０を制御する。すなわち、運転支援制御部２００は、車線維持のための操舵制御を行う。第１の度合の運転支援の種類に関しては、運転操作子８０への操作を要求しない自動運転（第２の度合および第３の度合）以外の種々の制御を含んでよい。

［自動運転制御ユニット］
自動運転制御ユニット３００は、第２の度合および第３の度合の運転支援を実行する。自動運転制御ユニット３００は、例えば、第１制御部３２０と、第２制御部３４０とを備える。第１制御部３２０と、第２制御部３４０とは、それぞれ、ＣＰＵ等のプロセッサがプログラムを実行することで実現される。また、これらの各機能部のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ等のハードウェアによって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。

第１制御部３２０は、例えば、外界認識部３２１と、自車位置認識部３２２と、行動計画生成部３２３とを備える。

外界認識部３２１は、カメラ１０、レーダ装置１２、およびファインダ１４から物体認識装置１６を介して入力される情報に基づいて、周辺車両の位置および速度、加速度等の状態を認識する。周辺車両の位置は、その周辺車両の重心やコーナー等の代表点で表されてもよいし、周辺車両の輪郭で表現された領域で表されてもよい。周辺車両の「状態」とは、周辺車両の加速度やジャーク、あるいは「行動状態」（例えば車線変更をしている、またはしようとしているか否か）を含んでもよい。

外界認識部３２１は、上述した周辺車両、障害物（例えば、ガードレールや電柱、駐車車両、歩行者等の人物）、道路形状、その他の物体のうち、少なくとも一つを認識してもよい。

自車位置認識部３２２は、例えば、自車両Ｍが走行している車線（走行車線）、並びに走行車線に対する自車両Ｍの相対位置および姿勢を認識する。自車位置認識部３２２は、例えば、第２地図情報６２から得られる道路区画線のパターン（例えば実線と破線の配列）と、カメラ１０によって撮像された画像から認識される自車両Ｍの周辺の道路区画線のパターンとを比較することで、走行車線を認識する。この認識において、ナビゲーション装置５０から取得される自車両Ｍの位置やＩＮＳによる処理結果が加味されてもよい。

そして、自車位置認識部３２２は、例えば、走行車線に対する自車両Ｍの位置や姿勢を認識する。図２は、自車位置認識部３２２により走行車線Ｌ１に対する自車両Ｍの相対位置および姿勢が認識される様子を示す図である。自車位置認識部３２２は、例えば、自車両Ｍの基準点（例えば重心）の走行車線中央ＣＬからの乖離ＯＳ、および自車両Ｍの進行方向の走行車線中央ＣＬを連ねた線に対してなす角度θを、走行車線Ｌ１に対する自車両Ｍの相対位置および姿勢として認識する。なお、これに代えて、自車位置認識部３２２は、走行車線Ｌ１の何れかの側端部に対する自車両Ｍの基準点の位置等を、走行車線に対する自車両Ｍの相対位置として認識してもよい。自車位置認識部３２２により認識される自車両Ｍの相対位置は、推奨車線決定部６１および行動計画生成部３２３に提供される。

行動計画生成部３２３は、自車両Ｍが目的地等に対して自動運転を行うための行動計画を生成する。例えば、行動計画生成部３２３は、推奨車線決定部６１により決定された推奨車線を走行するように、且つ、自車両Ｍの周辺状況に対応できるように、自動運転制御において順次実行されるイベントを決定する。実施形態の自動運転におけるイベントには、例えば、一定速度で同じ走行車線を走行する定速走行イベント、低速度（例えば６０［ｋｍ／ｈ］以下）を条件に、前走車両に追従する低速追従イベント、自車両Ｍの走行車線を変更する車線変更イベント、前走車両を追い越す追い越しイベント、合流地点で車両を合流させる合流イベント、道路の分岐地点で自車両Ｍを目的の方向に走行させる分岐イベント、自車両Ｍを緊急停車させる緊急停車イベント等がある。また、これらのイベントの実行中に、自車両Ｍの周辺状況（周辺車両や歩行者の存在、道路工事による車線狭窄等）に基づいて、回避のための行動が計画される場合もある。

行動計画生成部３２３は、自車両Ｍが将来走行する目標軌道を生成する。目標軌道は、自車両Ｍの到達すべき地点（軌道点）を順に並べたものとして表現される。軌道点は、所定の走行距離ごとの自車両Ｍの到達すべき地点であり、それとは別に、所定のサンプリング時間（例えば０コンマ数［ｓｅｃ］程度）ごとの目標速度および目標加速度が、目標軌道の一部として生成される。また、軌道点は、所定のサンプリング時間ごとの、そのサンプリング時刻における自車両Ｍの到達すべき位置であってもよい。この場合、目標速度や目標加速度の情報は軌道点の間隔で表現される。

図３は、推奨車線に基づいて目標軌道が生成される様子を示す図である。図示するように、推奨車線は、目的地までの経路に沿って走行するのに都合が良いように設定される。行動計画生成部３２３は、推奨車線の切り替わり地点の所定距離手前（イベントの種類に応じて決定されてよい）に差し掛かると、車線変更イベント、分岐イベント、合流イベント等を起動する。各イベントの実行中に、障害物を回避する必要が生じた場合には、図示するように回避軌道が生成される。

また、行動計画生成部３２３は、車線変更イベントを起動すると、車線変更のための目標軌道を生成する。図４および図５は、車線変更の際の処理について説明するための図である。まず、行動計画生成部３２３は、自車両Ｍが走行する車線（自車線）Ｌ１に対して隣接する隣接車線であって、車線変更先の隣接車線Ｌ２を走行する周辺車両から２台の周辺車両を選択し、これらの周辺車両の間に車線変更ターゲット位置ＴＡｓを設定する。以下、隣接車線において車線変更ターゲット位置ＴＡｓの直前を走行する周辺車両を前方基準車両ｍＢと称し、隣接車線において車線変更ターゲット位置ＴＡｓの直後を走行する周辺車両を後方基準車両ｍＣと称して説明する。車線変更ターゲット位置ＴＡｓは、自車両Ｍと前方基準車両ｍＢおよび後方基準車両ｍＣとの位置関係に基づく相対的な位置である。

図４の例では、行動計画生成部３２３が車線変更ターゲット位置ＴＡｓを設定した様子を示している。図中、ｍＡは前走車両を表し、ｍＢは前方基準車両を表し、ｍＣは後方基準車両を表している。また、矢印ｄは自車両Ｍの進行（走行）方向を表している。図４の例の場合、行動計画生成部３２３は、隣接車線Ｌ２上において、前方基準車両ｍＢと後方基準車両ｍＣとの間に車線変更ターゲット位置ＴＡｓを設定する。

次に、行動計画生成部３２３は、車線変更ターゲット位置ＴＡｓに（すなわち前方基準車両ｍＢと後方基準車両ｍＣとの間に）車線変更が可能か否かを判定するための一次条件を満たすか否かを判定する。

一次条件は、例えば、隣接車線に設けた禁止領域ＲＡに周辺車両が一部でも存在せず、且つ、自車両Ｍと、前方基準車両ｍＢおよび後方基準車両ｍＣとの衝突余裕時間ＴＴＣがそれぞれ閾値よりも大きいことである。なお、この判定条件は、自車両Ｍの側方に車線変更ターゲット位置ＴＡｓを設定した場合の一例である。一次条件を満たさない場合、行動計画生成部３２３は、車線変更ターゲット位置ＴＡｓを再設定する。この際に、一次条件を満たすような車線変更ターゲット位置ＴＡｓが設定できるタイミングまで待機したり、或いは車線変更ターゲット位置ＴＡｓを変更し、車線変更ターゲット位置ＴＡｓの側方に移動するための速度制御が行われてもよい。

図４に示すように、行動計画生成部３２３は、例えば、自車両Ｍを車線変更先の車線Ｌ２に射影し、前後に若干の余裕距離を持たせた禁止領域ＲＡを設定する。禁止領域ＲＡは、車線Ｌ２の横方向の一端から他端まで延在する領域として設定される。

禁止領域ＲＡ内に周辺車両が存在しない場合、行動計画生成部３２３は、例えば、自車両Ｍの前端および後端を車線変更先の車線Ｌ２側に仮想的に延出させた延出線ＦＭおよび延出線ＲＭを想定する。行動計画生成部３２３は、延出線ＦＭと前方基準車両ｍＢの衝突余裕時間ＴＴＣ（Ｂ）、および延出線ＲＭと後方基準車両ｍＣの衝突余裕時間ＴＴＣ（Ｃ）を算出する。衝突余裕時間ＴＴＣ（Ｂ）は、延出線ＦＭと前方基準車両ｍＢとの距離を、自車両Ｍおよび前方基準車両ｍＢの相対速度で除算することで導出される時間である。衝突余裕時間ＴＴＣ（Ｃ）は、延出線ＲＭと後方基準車両ｍＣとの距離を、自車両Ｍおよび後方基準車両ｍＣの相対速度で除算することで導出される時間である。軌道生成部１１８は、衝突余裕時間ＴＴＣ（Ｂ）が閾値Ｔｈ（Ｂ）よりも大きく、且つ衝突余裕時間ＴＴＣ（Ｃ）が閾値Ｔｈ（Ｃ）よりも大きい場合に、一次条件を満たすと判定する。閾値Ｔｈ（Ｂ）とＴｈ（Ｃ）は同じ値であってもよいし、異なる値であってもよい。

一次条件を満たす場合、行動計画生成部３２３は、車線変更のための軌道の候補を生成する。図５の例では、行動計画生成部３２３は、前走車両ＭＡ、前方基準車両ｍＢおよび後方基準車両ｍＣが所定の速度モデルで走行するものと仮定し、これら３台の車両の速度モデルと自車両Ｍの速度とに基づいて、自車両Ｍが前走車両ＭＡと干渉せずに、将来のある時刻において前方基準車両ｍＢと後方基準車両ｍＣとの間に位置するように軌道の候補を生成する。例えば、行動計画生成部３２３は、現在の自車両Ｍの位置から、将来のある時刻における前方基準車両ｍＢの位置や、車線変更先の車線の中央、且つ車線変更の終了地点までをスプライン曲線等の多項式曲線を用いて滑らかに繋ぎ、この曲線上に等間隔あるいは不等間隔で軌道点Ｋを所定個数配置する。この際、行動計画生成部３２３は、軌道点Ｋの少なくとも１つが車線変更ターゲット位置ＴＡｓ内に配置されるように軌道を生成する。

各種場面において、行動計画生成部３２３は、複数の目標軌道の候補を生成し、その時点で目的地までの経路に適合する最適な目標軌道を選択する。

第２制御部３４０は、例えば、走行制御部３４２を備える。走行制御部３４２は、行動計画生成部３２３によって生成された目標軌道を、予定の時刻通りに自車両Ｍが通過するように、走行駆動力出力装置５００、ブレーキ装置５１０、およびステアリング装置５２０を制御する。

ＨＭＩ４００は、車内の乗員に対して各種情報を提示するとともに、乗員による入力操作を受け付ける。ＨＭＩ４００は、例えば、各種表示装置、発光部、スピーカ、ブザー、タッチパネル、各種操作スイッチ、キー等のうち一部または全部を含む。また、ＨＭＩ４００には、乗員をシートに着座させた状態でシートベルトによって保持するシートベルト装置の一部が含まれてよい。ＨＭＩ４００の機能の詳細については後述する。

走行駆動力出力装置５００は、車両が走行するための走行駆動力（トルク）を駆動輪に出力する。走行駆動力出力装置５００は、例えば、内燃機関、電動機、および変速機等の組み合わせと、これらを制御するＥＣＵ（Electronic Control Unit）とを備える。ＥＣＵは、走行制御部３４２から入力される情報、或いは運転操作子８０から入力される情報に従って、上記の構成を制御する。

ブレーキ装置５１０は、例えば、ブレーキキャリパーと、ブレーキキャリパーに油圧を伝達するシリンダと、シリンダに油圧を発生させる電動モータと、ブレーキＥＣＵとを備える。ブレーキＥＣＵは、走行制御部３４２から入力される情報、或いは運転操作子８０から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。ブレーキ装置５１０は、運転操作子８０に含まれるブレーキペダルの操作によって発生させた油圧を、マスターシリンダを介してシリンダに伝達する機構をバックアップとして備えてよい。なお、ブレーキ装置５１０は、上記説明した構成に限らず、走行制御部３４２から入力される情報、或いは運転操作子８０から入力される情報に従ってアクチュエータを制御して、マスターシリンダの油圧をシリンダに伝達する電子制御式油圧ブレーキ装置であってもよい。また、ブレーキ装置５１０は、油圧や電動等の複数系統のブレーキ装置を備えていてもよい。

ステアリング装置５２０は、例えば、ステアリングＥＣＵと、電動モータとを備える。電動モータは、例えば、ラックアンドピニオン機構に力を作用させて転舵輪の向きを変更する。ステアリングＥＣＵは、走行制御部３４２から入力される情報、或いは運転操作子８０から入力される情報に従って、電動モータを駆動し、転舵輪の向きを変更させる。

なお、手動運転時には、運転操作子８０からの入力情報が、直接的に走行駆動力出力装置５００、ブレーキ装置５１０、およびステアリング装置５２０に出力される。また、運転操作子８０からの入力情報は、自動運転制御ユニット３００を介して走行駆動力出力装置５００、ブレーキ装置５１０、およびステアリング装置５２０に出力されてもよい。走行駆動力出力装置５００、ブレーキ装置５１０、およびステアリング装置５２０の各ＥＣＵは、運転操作子８０等からの入力情報に基づいて、それぞれの動作を行う。

［ＨＭＩ４００の構成］
以下、実施形態のＨＭＩ４００の構成例について説明する。図６は、自車両ＭにおけるＨＭＩ４００の一例を示す図である。ＨＭＩ４００は、例えば、第１の操作部４１０と、第２の操作部４２０と、発光部４３０Ｒおよび４３０Ｌと、第３の操作部４４０と、第１の表示部４５０と、ＨＵＤ（Head Up Display）（第２の表示部）４６０と、第３の表示部４７０とを備える。

第１の操作部４１０、第２の操作部４２０、および発光部４３０Ｒ、４３０Ｌは、運転操作子８０の一つであるステアリングホイール８２に設けられている。また、ステアリングホイール８２には、把持センサ８２Ａが設けられている。把持センサ８２Ａは、例えば、ステアリングホイール８２の周方向に沿うように設けられた静電容量センサである。把持センサ８２Ａは、検出対象の領域に物体が接近または接触したことを、静電容量の変化として検出する。把持センサ８２Ａは、静電容量が閾値以上である場合、所定の検出信号をマスター制御部１００の操作子状態判定部１３０に出力する。この閾値は、例えば、乗員がステアリングホイール８２を把持している場合に生じる静電容量よりも低い値に設定されている。また、把持センサ８２Ａは、閾値以上であるか否かに関わらずに、静電容量を示す検出信号を操作子状態判定部１３０に出力してもよい。

第１の操作部４１０は、例えば、メインスイッチ４１２と、オートスイッチ４１４とを備える。メインスイッチ４１２は、運転支援を開始可能な状態にするためのスイッチである。換言すれば後述する、運転支援を実行する前の準備段階における処理（内部処理）を開始するためのスイッチ、或いは運転支援を開始可能な状態か否かを判定することを可能にするためのスイッチである。

メインスイッチ４１２が操作された場合、自車両Ｍは、運転支援の実行をすぐに開始するのではなく、運転支援を実行する前の準備段階における処理を行う。準備段階における処理とは、例えば、物体認識の処理の開始（具体的にはカルマンフィルタの動作開始等）である。メインスイッチ４１２が操作されて運転支援が開始可能な状態となっている状態で（すなわち操作されてから、ある程度の時間が経過した後）オートスイッチ４１４が操作されると、運転支援のための制御が開始される。すなわち、オートスイッチ４１４は、運転支援が開始可能な状態において、実際に第１の度合の運転支援を開始させるためのスイッチである。

第２の操作部４２０は、画像付通話機能（テレビ電話とも称する）の提供を開始させるための操作スイッチ４２２を備える。発光部４３０Ｒ、４３０Ｌは、例えば、ステアリングホイール８２の中央のボス部から環状のリム部に向かって延びるスポーク部に配置される。発光部４３０Ｒ、４３０Ｌは、ＨＭＩ制御部１２０の制御により点灯状態が制御される。

第３の操作部４４０は、例えば、乗員から見て手前側に突出する回動操作部４４２と、スイッチ操作部４４４とを備える。回動操作部４４２は、略円筒状に形成され、軸線回りに回転操作可能である。スイッチ操作部４４４は、回動操作部４４２の周辺や、回動操作部４４２の天面に設けられる。第３の操作部４４０は、回動操作部４４２の回転角度と回転速度を検出するエンコーダ等の図示しない回転センサと、スイッチ操作部４４４の変位を検出する図示しない変位センサとを備え、それぞれのセンサから出力される検出値をマスター制御部１００に出力する。マスター制御部１００に出力される検出値は、第３の表示部４７０の画面に出力される矢印や選択ボタン、確定ボタン等の操作や、入力文字の選択や確定等に用いられる。

また、第３の操作部４４０は、表示画面を指先でタッチすることによって選択や確定操作等を行う、いわゆるタッチパネル式の操作部でもよい。また、第３の操作部４４０には、所定の色で発光可能な発光部４４６が設けられている。

第１の表示部４５０は、例えば、インストルメントパネルにおける運転席の正面付近に設けられ、乗員がステアリングホイール８２の間隙から、或いはステアリングホイール８２越しに視認可能な表示装置である。第１の表示部４５０は、例えば、ＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electro Luminescence）表示装置等である。第１の表示部４５０には、自車両Ｍの手動運転時または自動運転時の走行に必要な情報、あるいは乗員への指示に関する情報が表示される。手動運転時の自車両Ｍの走行に必要な情報とは、例えば、自車両Ｍの速度、エンジン回転数、燃料残量、ラジエータ水温、走行距離、その他の情報である。一方、自動運転時における自車両Ｍの走行に必要な情報とは、例えば、自車両Ｍの将来の軌道、運転支援の度合、乗員に対する指示等の情報である。

ＨＵＤ４６０は、例えば、第１の表示部４５０よりも高い位置に配置される。ＨＵＤ４６０は、所定の結像部に映像を投影する。ＨＵＤ４６０は、例えば、運転席前方のフロントウインドシールドの一部に画像を投影することで、運転席に着座した乗員の眼に虚像を視認させる。ＨＵＤ４６０により投影される画像の表示領域は、第１の表示部４５０における画像の表示領域に比して小さい。これは、ＨＵＤ４６０により投影された画像によって、その先にある現実の物体を乗員が見逃すことを抑制するためである。なお、実施形態では、ＨＵＤ４６０の代わりに、自車両Ｍのフロントウインドシールドを第２の表示部としてもよい。この場合、例えば、インストルメントパネルに組み込まれたＬＥＤ（Light Emitting Diode）を発光させ、フロントウインドシールドでＬＥＤの発光を反射させてもよい。

第３の表示部４７０は、例えば、インストルメントパネルの中央部に取り付けられる。第３の表示部４７０は、例えば、ＬＣＤや有機ＥＬ表示装置等である。第３の表示部４７０は、例えば、ナビゲーション装置５０により実行されるナビゲーション処理に対応する画像、またはテレビ電話における相手の映像等を表示する。また、第３の表示部４７０は、テレビ番組を表示したり、ＤＶＤを再生したり、ダウンロードされた映画等のコンテンツを表示してもよい。

また、第３の表示部４７０には、発光部４７２が設けられてもよい。図７は、第３の表示部４７０と発光部４７２の位置関係の一つの側面（aspect）を例示した図である。例えば、発光部４７２は、第３の表示部４７０の一部または近傍に設けられる。近傍とは、発光部４７２と、第３の表示部４７０との最短距離が例えば数［ｃｍ］（より具体的には３［ｃｍ］程度）以下の範囲である。図７の例では、第３の表示部４７０の画面形状を形成する少なくとも一つの辺に沿って延在する発光部４７２が取り付けられている。

図８は、第３の表示部４７０と発光部４７２の位置関係の他の側面を例示した図である。図８の例では、第３の表示部４７０は、その前方の上部にあるインストルメントパネル部のバイザー部４７４の下部に設けられる。また、発光部４７２の発光は、バイザー部４７４に遮られずに、乗員により視認可能である。この形態を採用することで、バイザー部４７４が、日光等の外光の第３の表示部４７０への照射を抑制するとともに、発光部４７２に差し込む外光の少なくとも一部を遮蔽することができるため、乗員による発光の視認性を向上させることができる。

発光部４７２は、第３の表示部４７０が使用可能である場合に発光するようにＨＭＩ制御部１２０によって制御される。使用可能とは、例えば、第２の操作部４２０が操作されることで画像付通話機能に関する画面が第３の表示部４７０に表示されたり、第３の操作部４４０の操作によって、映画やテレビ番組に関する画像が第３の表示部４７０に表示されたりすることができることである。

図９は、第３の表示部４７０の画面の一部の領域を用いて、第３の表示部４７０が使用可能であること通知することについて説明するための図である。ＨＭＩ制御部１２０は、第３の表示部４７０の全画面領域に対して、第１の表示領域４７６と、第２の表示領域４７８とを割り当てる。第１の表示領域４７６は、第３の表示部４７０の画面全体のうち、何れかの辺に沿って延在する画素領域である。ＨＭＩ制御部１２０は、第３の表示部４７０が使用可能となった場合に、第１の表示領域４７６を、所定の色または所定の形状の一方または双方で、点灯または点滅させる。これにより、発光部４７２を設けずに第３の表示部４７０が使用可能な状態であることを乗員に通知することができる。

また、ＨＭＩ制御部１２０は、第２の表示領域４７８に、第２の操作部４２０または第３の操作部４４０で操作された内容、或いは操作により実行される内容を表示する。

［自動運転に関連するＨＭＩ４００の表示制御］
次に、自動運転に関連するＨＭＩ４００の表示制御について説明する。なお、以下に示す表示画面におけるレイアウトについては、あくまで一例であり、任意に変更可能である。レイアウトとは、配置、色彩、縮尺、その他をいう。

図１０は、自車両Ｍが手動運転から自動運転が開始され、自動運転による車線変更が実行されるまでの各種場面を示す図である。図１０の例において、場面（１）は、自車両Ｍが手動運転により一般道路から高速道路に進入する場面である。場面（２）は、自車両Ｍが手動運転から自動運転に切り替わる場面である。場面（３）は、自車両Ｍが自動運転により車線変更を実行する場面である。以下場面（１）〜（３）のそれぞれの場面に対応する表示制御について説明する。

＜場面（１）＞
場面（１）は、例えば、高速道路に進入する前の場面である。この場面では、第１の操作部４１０のメインスイッチ４１２およびオートスイッチ４１４が操作されていないため、運転支援が実行されず、手動運転が行われる。手動運転が行われる場合、ＨＭＩ制御部１２０は、運転席の乗員が運転操作子８０を用いて自車両Ｍを手動運転するために必要な情報を第１の表示部４５０に表示させる。また、ＨＭＩ制御部１２０は、第１の表示部４５０に表示される情報のうち一部の情報をＨＵＤ４６０に表示させる。この場合の画面を図１１に示す。

図１１は、手動運転時に表示される第１画面ＩＭ１−１および第２画面ＩＭ２−１の一例を示す図である。第１画面ＩＭ１−１は、第１の表示部４５０により表示される画面であり、第２画面ＩＭ２−１は、ＨＵＤ４６０により投影されることで乗員の眼に映る画面である。ＨＭＩ制御部１２０は、第１画面ＩＭ１−１に、手動運転時の自車両Ｍの走行に必要な情報として、例えば、自車両Ｍのバッテリ残量、回転速度、シフトポジション、室内気温、走行距離、走行速度、燃料残量等の情報を表示させる。また、ＨＭＩ制御部１２０は、第２画面ＩＭ２−１に、第１画面ＩＭ１−１に表示された画像のうち、速度の情報を、第１画面ＩＭ１−１よりも小さく表示させる。前述したように、ＨＵＤ４６０により投影されることで乗員の眼に映る画像の認識領域は、第１の表示部４５０による画像の表示領域に比して小さい。このため、ＨＭＩ制御部１２０は、第１の表示部４５０に、自車両Ｍの運転支援に関する比較的詳細な第１の情報（詳細情報）を表示させ、ＨＵＤ４６０には、詳細情報よりも簡易な情報であって、運転支援に関する第２の情報（簡易情報）を表示させる。簡易情報とは、例えば、詳細情報に対して情報量が少ない情報である。また、簡易情報とは、表示する項目の種類や数が、詳細情報として表示する項目の種類や数に比して少ない情報であってもよい。また、簡易情報とは、詳細情報として表示する画像に対し、解像度を低下させたり、単純化あるいはデフォルメさせた画像であってもよい。また、第２の情報は、第１の情報のうち、重要度の高い情報や緊急性の高い情報であってもよい。

例えば、ＨＭＩ制御部１２０は、詳細情報の一部を抜粋した情報を簡易情報としてＨＵＤ４６０に表示させる。例えば、図１１において、ＨＭＩ制御部１２０は、第１画面ＩＭ１−１に表示された詳細の情報のうち、自車両Ｍの速度を示す情報を抜粋し、抜粋した情報を第２画面ＩＭ２−１に表示させる。このように、第１の表示部４５０に詳細情報を表示させ、ＨＵＤ４６０に簡易情報を表示させることで、運転支援に関する情報を適切に提供すると共に、乗員の眼を疲れさせないようにすることができる。

＜場面（２）＞
場面（２）では、自車両Ｍが高速道路に進入している。ＨＭＩ制御部１２０は、乗員によりメインスイッチ４１２が操作されたことを受け付けると、第１の表示部４５０およびＨＵＤ４６０に表示させる画面を変更する。変更後の画面の表示内容を、図１２に示す。

図１２は、メインスイッチ４１２が操作されたことで表示される第３画面ＩＭ３−１および第４画面ＩＭ４−１の一例を示す図である。第３画面ＩＭ３−１は、第１の表示部４５０により表示される画面であり、第４画面ＩＭ４−１は、ＨＵＤ４６０により投影されることで乗員の眼に映る画面である。以下の図面に示す第３画面ＩＭ３−Ｘ（Ｘは任意の自然数）および第４画面ＩＭ４−Ｘについても同様とする。第３画面ＩＭ３−Ｘおよび第４画面ＩＭ４−Ｘは、運転支援が実行可能な状態および運転支援が実行中の状態において継続的に表示される。

第３画面ＩＭ３−１には、運転支援に関する情報を表示する領域として、周辺検知情報表示領域６００−１、運転支援状態表示領域６２０−１、および運転支援開始操作ガイド領域６４０−１が含まれている。以下、第３画面ＩＭ３−Ｘにおけるそれぞれの領域を周辺検知情報表示領域６００−Ｘ、運転支援状態表示領域６２０−Ｘ、および運転支援開始操作ガイド領域６４０−Ｘと称する。

ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−１に、第２地図情報６２から取得した自車両Ｍの前方の道路形状を示す画像と、自車位置認識部３２２により認識された自車両Ｍを示す画像と、外界認識部３２１により認識された周辺車両ｍを示す画像とを表示させる。なお、ＨＭＩ制御部１２０は、外界認識部３２１により認識された全ての周辺車両ｍを示す画像を第１の表示部４５０に表示させる。また、ＨＭＩ制御部１２０は、外界認識部３２１により認識された全ての周辺車両ｍのうち、自車両Ｍの将来の軌道に影響を与える周辺車両ｍのみを第１の表示部４５０に表示させてもよい。これにより、乗員が監視する対象の車両を減らすことができ、監視負担を軽減することができる。

また、ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−１に、自車両Ｍが実行可能な運転支援（自動運転を含む）の状態の候補を示す情報を全て表示させる。図１２の例では、運転支援の状態の候補を示す情報として、「Ａｓｓｉｓｔ」、「Ｈａｎｄｓ Ｏｆｆ」、「Ｅｙｅｓ Ｏｆｆ」の３つのインジケータを示す画像６２１が示されている。例えば、それぞれのインジケータ単体で、または複数のインジケータの組み合わせによって、運転支援の度合が表される。

インジケータ「Ａｓｓｉｓｔ」は、自車両Ｍが、ＡＣＣやＬＫＡＳ等の第１の度合で運転支援を実行している、或いは、第１の度合での運転支援に遷移可能な状態であることを示す。第１の度合で運転支援を実行しているか、或いは、第１の度合での運転支援に遷移可能な状態であるかについては、後述する要求動作通知画像６２２によって把握することができる。

インジケータ「Ｈａｎｄｓ Ｏｆｆ」は、自車両Ｍが、乗員が運転操作子８０に対する操作を行わなくてよいが、乗員に周辺監視義務が課される第２の度合で運転支援を実行している状態、或いは、第２の度合での運転支援に遷移可能な状態であることを示す。第２の度合で運転支援を実行しているか、或いは、第２の度合での運転支援に遷移可能な状態であるかについては、要求動作通知画像６２２によって把握することができる。

インジケータ「Ｅｙｅｓ Ｏｆｆ」は、自車両Ｍが、乗員が運転操作子８０に対する操作を行わなくてよく、且つ乗員に周辺監視義務も課されない第３の度合で運転支援を実行している状態、或いは、第３の度合での運転支援に遷移可能な状態であることを示す。第３の度合で運転支援を実行しているか、或いは、第３の度合での運転支援に遷移可能な状態であるかについては、要求動作通知画像６２２によって把握することができる。なお、図１２の例では、自車両Ｍの運転支援が実行されていない状態（手動運転状態）を示している。

また、ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−１に、「Ａｓｓｉｓｔ」、「Ｈａｎｄｓ Ｏｆｆ」、「Ｅｙｅｓ Ｏｆｆ」の３つのインジケータを示す画像６２１に対応する表示位置で、要求動作通知画像６２２を表示させる。「対応する」とは、横並び、縦並び、対応付けを示すガイドラインがある等、人によって対応関係が認識可能な様をいう。一例として「画像６２１に対応する表示位置」とは、画像６２１に隣接する表示位置であり、画像６２１の表示位置を基準として上下左右の少なくとも一方に数［ｃｍ］以下（例えば、３［ｃｍ］以下）の表示位置を示す。要求動作通知画像６２２は、例えば、乗員が運転操作子８０に対して行う所定の動作を示す画像である。要求動作通知画像６２２は、例えば、運転操作子８０を示す画像と、乗員の所定の部位を示す画像とを含む。要求動作通知画像６２２は、例えば、ステアリングホイール８２と乗員の手との位置関係を模式的に示す画像である。

ＨＭＩ制御部１２０は、運転支援開始操作ガイド領域６４０−１に、運転支援を開始させるための乗員の操作について案内する情報を表示させる。図１２の例では、運転支援開始操作ガイド領域６４０−１において、乗員がオートスイッチ４１４を操作することで運転支援が開始されることが案内される。

ＨＭＩ制御部１２０は、乗員がオートスイッチ４１４を操作することで運転支援が開始されることを運転支援開始操作ガイド領域６４０−１に表示することに加えて、或いは代えて、乗員がオートスイッチ４１４を操作することで運転支援が開始される旨を示す音声をＨＭＩ４００に含まれるスピーカから出力させてもよい。

周辺検知情報表示領域６００−１、運転支援状態表示領域６２０−１、および運転支援開始操作ガイド領域６４０−１のそれぞれに表示される情報の少なくとも一部は、他の表示領域に表示されてもよい。また、第３画面ＩＭ３−１には、自車両Ｍの走行距離、車内温度、燃料、速度、シフトポジションに関する情報が表示されてもよい。

ＨＭＩ制御部１２０は、第３画面ＩＭ３−１に表示された詳細情報に対して、ＨＵＤ４６０の第４画面ＩＭ４−１に、詳細情報の一部を抜粋した簡易情報を表示させる。ＨＵＤ４６０の第４画面ＩＭ４−１には、第１の表示部４５０の表示画面ＩＭ３−１に表示される運転支援に関する情報のうち、自車両Ｍの前方の道路形状に関する情報および自車両Ｍの速度を示す情報が表示される。

図１２に示す状態において、所定の事象として、乗員によりオートスイッチ４１４が操作されたことを検知すると、マスター制御部１００は、運転支援制御部２００に第１の度合の運転支援を実行させる。また、ＨＭＩ制御部１２０は、第１の表示部４５０およびＨＵＤ４６０に表示させる画面を、例えば図１３に示す画面に変更する。

図１３は、オートスイッチ４１４が操作された場合に、第１の表示部４５０およびＨＵＤ４６０に表示される画面ＩＭ３−２およびＩＭ４−２の一例を示す図である。ＨＭＩ制御部１２０は、現に実行されている運転支援の度合を示す画像を、他の運転支援の度合を示す画像と識別可能に表示させる。例えば、ＨＭＩ制御部１２０は、第３画面ＩＭ３−２の運転支援状態表示領域６２０−２に、インジケータ「Ａｓｓｉｓｔ」の画像がハイライト表示させる。これにより、乗員は、第１の度合の運転支援が行われていることを把握することができる。

ここで、ＨＭＩ制御部１２０は、要求動作通知画像６２２として、「Ｈａｎｄｓ Ｏｆｆ」に対応する運転支援の度合（自動運転）に移行するために必要な動作を乗員に要求する動画像を要求動作通知画像６２２として表示させる。動画像とは、例えば、所定の物体が時間経過に伴って動的に移動する動的オブジェクトを含む画像である。また、動画像には、アニメーションが含まれてよい。

例えば、ＨＭＩ制御部１２０は、第１の度合の運転支援が実行中であって、且つ、第２の度合の運転支援が実行可能である場合に、第２の度合の運転支援に切り替えさせるための乗員の操作方法に関する情報として、乗員の手をステアリングホイール８２から離した状態にするための乗員の操作内容を模式的に示した要求動作通知画像６２２を、第３画面ＩＭ３−２の運転支援状態表示領域６２０−２に表示させる。

図１４は、第１の度合の運転支援の実行時に運転支援状態表示領域６２０−２に表示される画像の一例を示す図である。ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−２に、３つのインジケータを示す画像６２１と、要求動作通知画像６２２とを表示させる。要求動作通知画像６２２には、例えば、ステアリングホイール８２を示す画像６２２Ａと、乗員の手を示す画像６２２ＢＬ、６２２ＢＲとが含まれる。

例えば、ＨＭＩ制御部１２０は、乗員の手を示す画像６２２ＢＬ、６２２ＢＲがステアリングホイール８２を示す画像６２２Ａから矢印Ａ、Ｂ方向に離れていくアニメーションを表示させる。また、ＨＭＩ制御部１２０は、ステアリングホイール８２を示す画像６２２Ａおよび乗員の手を示す画像６２２ＢＬ、６２２ＢＲを強調表示させてもよい。これにより、乗員は、３つのインジケータを示す画像６２１のうち、「Ａｓｓｉｓｔ」のインジケータを示す画像がハイライト表示されているため、第１の度合の運転支援が実行されていることを直観的に把握することができ、更に要求動作通知画像６２２のアニメーションにより、ステアリングホイール８２から手を離す動作を要求されていることを直観的に把握することができる。

また、ＨＭＩ制御部１２０は、ステアリングホイール８２を示す画像６２２Ａおよび乗員の手を示す画像６２２ＢＬ、６２２ＢＲの要求動作通知画像６２２の代わりに、或いは加えて、アクセルペダルと乗員の足との位置関係を模式的に示す画像、或いは、ブレーキペダルと乗員の足との位置関係を模式的に示す画像を要求動作通知画像６２３として、第３画面ＩＭ３−２の運転支援状態表示領域６２０−２に表示させてもよい。

図１５は、アクセルペダルと乗員の足とを含む要求動作通知画像６２３の表示例を示す図である。ＨＭＩ制御部１２０は、図１５に示す運転支援状態表示領域６２０−２に、３つのインジケータを示す画像６２１と、要求動作通知画像６２３とを表示させる。要求動作通知画像６２３には、アクセルペダルを示す画像６２３Ａと、乗員の足を示す画像６２３Ｂとが含まれる。例えば、ＨＭＩ制御部１２０は、第１の度合の運転支援が実行中であって、且つ、第２の度合の運転支援が実行可能である場合に、第２の度合の運転支援に切り替えさせるために、乗員の足を示す画像６２３Ｂがアクセルペダルを示す画像６２３Ａから矢印Ｃ方向に離れていくアニメーションを表示させる。また、ＨＭＩ制御部１２０は、アクセルペダルを示す画像６２３Ａおよび乗員の足を示す画像６２３Ｂを強調表示させてもよい。これにより、乗員は、アクセルペダルから足を離す動作を要求されていることを直観的に把握することができる。

また、ＨＭＩ制御部１２０は、要求動作通知画像６２２に対応する動作を乗員が実行することで、運転支援が開始される旨を示す情報を、周辺検知情報表示領域６００−２に表示させてもよい。図１３の例では、周辺検知情報表示領域６００−２に、ステアリングホイール８２（図では「ハンドル」）から手を離すことで運転支援（図では「自動走行」）が開始される旨の情報が表示される。

また、ＨＭＩ制御部１２０は、ステアリングホイール８２から手を離す動作を乗員に要求する場合に、ステアリングホイール８２に設けられた発光部４３０Ｒ、４３０Ｌを点灯または点滅させてもよい。

また、ＨＭＩ制御部１２０は、ステアリングホイール８２から手を離す動作を乗員に要求する場合に、その旨を示す音声をＨＭＩ４００に含まれるスピーカから出力させてもよい。ＨＭＩ制御部１２０は、ステアリングホイール８２から手を離す動作に対応する要求動作通知画像６２２の表示、発光部４３０Ｒ、４３０Ｌの点灯または点滅、音声出力の複数を組み合わせて各種機器より出力させてもよい。

ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−２に、第４画面ＩＭ４−１と同様の情報を表示させる。

ここで、操作子状態判定部１３０は、乗員によって、ステアリングホイール８２が把持された状態であるか否かを判定する。操作子状態判定部１３０は、例えば、前述した把持センサ８２Ａからの出力に基づいてステアリングホイール８２が操作されている状態であるか否かを判定する。

切替制御部１１０は、乗員によりオートスイッチ４１４が操作された後、乗員によってステアリングホイール８２が把持されている状態であると操作子状態判定部１３０により判定された場合には、運転支援制御部２００に第１の度合の運転支援を継続させる。

また、切替制御部１１０は、オートスイッチ４１４が操作された状態において、第２の度合の運転支援に移行するための諸条件を満たし、且つ、乗員によってステアリングホイール８２が把持さされていない状態であると操作子状態判定部１３０により判定された場合に、自動運転制御ユニット３００に第２の度合の運転支援（すなわち自動運転）を実行させる。

また、ＨＭＩ制御部１２０は、自動運転制御ユニット３００が第２の度合の運転支援を実行する場合に、第１の表示部４５０およびＨＵＤ４６０に表示する画面を、例えば図１６に示す画面に変更する。

図１６は、第２の度合の運転支援中において、第１の表示部４５０およびＨＵＤ４６０に表示される画面の一例を示す図である。ＨＭＩ制御部１２０は、第３画面ＩＭ３−３の運転支援状態表示領域６２０−３に、第２の度合の運転支援に対応した「Ｈａｎｄｓ Ｏｆｆ」の画像をハイライト表示させる。これにより、乗員は、第２の度合の運転支援が行われていることを把握することができる。

また、ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−３に、例えば、第２地図情報６２から取得した自車両Ｍの前方の道路形状を示す画像と、自車位置認識部３２２により認識された自車両Ｍを示す画像と、外界認識部３２１により取得した周辺車両ｍを示す画像と、行動計画生成部３２３により生成された自車両Ｍの将来の軌道を示す将来軌道画像６０２とを表示させる。また、ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−３に、第２の度合における運転支援（図では自動走行）を開始するが、乗員に周辺の交通状況を継続して監視させる旨の情報を表示させる。

マスター制御部１００の乗員状態監視部１４０は、乗員が周辺の交通状況を継続して監視していることを監視する。例えば、乗員状態監視部１４０は、車室内カメラ９０の撮像画像により運転席に着座する乗員の顔画像を取得し、取得した顔画像から視線方向を取得する。例えば、乗員状態監視部１４０は、ニューラルネットワーク等を利用したディープラーニングによって、車室内カメラ９０の撮像画像から乗員の視線方向を取得してもよい。例えば、不特定多数の顔画像を解析することで得られた目や鼻、口等の特徴情報や眼球の黒目の位置を入力として、視線方向を出力するように学習させたニューラルネットワークを予め構築しておく。そして、乗員状態監視部１４０は、このニューラルネットワークに自車両Ｍの乗員の顔画像を入力することで、その乗員の視線方向を取得する。

また、乗員状態監視部１４０は、乗員の視線方向が予め決められた周辺を監視可能な方向の範囲に含まれるか否かにより、乗員が自車両Ｍの周辺監視を行っているか否かを判定する。乗員状態監視部１４０は、乗員の視線方向が予め決められた周辺を監視可能な方向の範囲に含まれていない場合、または乗員の視線方向が取得できなかった場合に、周辺監視を行っていないと判定する。周辺監視を行っていないと判定された場合、ＨＭＩ制御部１２０は、乗員を周辺監視させるために、音声等による警告を行ってもよい。

また、乗員状態監視部１４０は、乗員の視線方向が予め決められた周辺を監視可能な方向の範囲に含まれている場合に、乗員が周辺監視を行っていると判定する。この場合、自動運転制御ユニット３００は、第２の度合の運転支援を継続する。なお、自車両Ｍの運転支援が開始中である場合、運転支援開始操作ガイド領域６４０−３には、何も表示されない。

ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−３に、第４画面ＩＭ４−２と同様の情報に加えて、自車両Ｍの将来の軌道を示す将来軌道画像６０２を表示させる。

＜場面（３）＞
場面（３）では、自動運転制御ユニット３００は、第２の度合の運転支援による自車両Ｍの車線変更を行う。この場合、ＨＭＩ制御部１２０は、第１の表示部４５０またはＨＵＤ４６０の一方または双方に、運転支援に対応する画面を表示させる。

例えば、ＨＭＩ制御部１２０は、自動運転制御ユニット３００により実行される自車両Ｍの車線変更イベントの発生を示す画像を自車両Ｍの挙動が変化する前の第１のタイミング（例えば、挙動が変化する５秒前）で表示させる。

図１７は、自車両Ｍの挙動が変化する前の第１のタイミングにおいて表示される第３画面ＩＭ３−４および第４画面ＩＭ４−４の一例を示す図である。ＨＭＩ制御部１２０は、第３画面ＩＭ３−４の周辺検知情報表示領域６００−４に、周辺検知情報表示領域６００−３で表示された内容に加えて、例えば、自車用Ｍが車線変更する方向を示す旨を示す画像６０４を表示させる。図１７の例では、自車両Ｍが走行車線に隣接する右車線に車線変更する画像６０４が表示される。

画像６０４は、例えば、テキストを含まない画像である。図１７の例において、画像６０４は道路幅方向に沿って自車両Ｍの進路変更方向を示す図形である。ＨＭＩ制御部１２０は、例えば、自車両Ｍの進路変更方向を示す図形に外枠を付与し、付与した外枠画像を第１の表示部４５０に表示させる。また、ＨＭＩ制御部１２０は、画像６０４を複数の領域に区分し、区分された複数の領域のそれぞれに外枠を付与して表示させる。また、ＨＭＩ制御部１２０は、複数の区分されたそれぞれの領域の外枠を、自車両Ｍの進路変更方向に沿って順番に表示させたアニメーションで表示させてもよい。

また、ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−４に、自車両Ｍの進路変更を示すウインカインジケータ６２４を表示させる。ウインカインジケータ６２４は、例えば、進路変更方向を示す矢印等の図形である。ＨＭＩ制御部１２０は、ウインカインジケータ６２４を、画像６０４を表示させる第１のタイミングに同期したタイミングで第１の表示部４５０に表示させる。

ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−４に、第４画面ＩＭ４−３と同様の情報を表示させる。

また、ＨＭＩ制御部１２０は、第１のタイミングよりも後のタイミングであって自車両Ｍの挙動が変化する前の第２のタイミング（例えば、挙動が変化する２秒前）において画像６０４を強調表示した画像を周辺検知情報表示領域６００−４に表示させる。

図１８は、自車両Ｍの挙動が変化する前の第２のタイミングにおいて表示される第３画面ＩＭ３−５および第４画面ＩＭ４−５の一例を示す図である。ＨＭＩ制御部１２０は、第３画面ＩＭ３−５の周辺検知情報表示領域６００−５に、画像６０４を強調表示した画像６０６を表示させる。ＨＭＩ制御部１２０は、例えば、画像６０４の外枠の中を発色させた表示態様を周辺検知情報表示領域６００−５に表示させる。また、ＨＭＩ制御部１２０は、画像６０４において区分された複数の領域のそれぞれの外枠に対して、自車両Ｍの進路変更方向に沿って順番に強調表示されるようにアニメーションで表示させてもよい。また、ＨＭＩ制御部１２０は、第１のタイミングで画像６０６を表示させ、第２のタイミングで画像６０６を点滅表示させてもよい。また、ＨＭＩ制御部１２０は、第１のタイミングで画像６０６を表示させ、第２のタイミングで画像６０６を、第１のタイミングで表示させた色より目立つ色で表示させてもよい。これにより、乗員に進路変更方向を直観的に把握させることができる。

また、ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−５に表示させた将来軌道画像６０２を、第２のタイミングに同期したタイミングで進路変更方向に対応する方向に変化させる。これにより、乗員は、自車両Ｍの車線変更における挙動の変化が開始されることを直観的に把握することができる。

ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−５に、第４画面ＩＭ４−４と同様の情報を表示させる。また、ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−５に表示させる将来軌道画像６０２を、第２のタイミングに同期したタイミングで進路変更に対応する方向に変化して表示させる。

＜場面（１）〜（３）に対応する処理フロー＞
図１９は、場面（１）〜（３）において、ＨＭＩ制御部１２０により実行される処理の流れの一例を示すフローチャートである。まず、ＨＭＩ制御部１２０は、メインスイッチ４１２の操作を受け付けられたか否かを判定する（ステップＳ１００）。メインスイッチ４１２の操作が受け付けられていない場合、ＨＭＩ制御部１２０は、自車両Ｍの第１の表示部４５０に第１画面ＩＭ１−１を表示し（ステップＳ１０２）、ＨＵＤ４６０に第２画面ＩＭ２−１を表示する（ステップＳ１０４）。

また、メインスイッチ４１２の操作が受け付けられた場合、ＨＭＩ制御部１２０は、第１の表示部４５０に第３画面ＩＭ３−１を表示し（ステップＳ１０６）、ＨＵＤ４６０に第４画面ＩＭ４−１を表示する（ステップＳ１０８）。ステップＳ１０６の処理の詳細については後述する。

次に、ＨＭＩ制御部１２０は、乗員にオートスイッチ４１４を操作させる動作要求を通知する（ステップＳ１１０）。次に、ＨＭＩ制御部１２０は、オートスイッチ４１４の操作が受け付けられたか否かを判定する（ステップＳ１１２）。オートスイッチ４１４の操作が受け付けられた場合、ＨＭＩ制御部１２０は、第３画面ＩＭ３−１および第４画面ＩＭ４−１に第１の度合の運転支援が実行されていることを示す画像を表示する（ステップＳ１１４）。次に、ＨＭＩ制御部１２０は、乗員にステアリングホイール８２から手を離す動作要求を通知する（ステップＳ１１６）。

次に、ＨＭＩ制御部１２０は、操作子状態判定部１３０により乗員の手がステアリングホイール８２から離れたか否かを判定する（ステップＳ１１８）。乗員の手がステアリングホイール８２から離れた場合、ＨＭＩ制御部１２０は、第３画面ＩＭ３−３は、第２の度合の運転支援が実行されていることを示す画像を表示する（ステップＳ１２０）。ステップＳ１２０の処理の詳細については後述する。これにより、本フローチャートの処理は終了する。

次に、ステップＳ１０６の処理の詳細について説明する。図２０は、ＨＭＩ制御部１２０が第１の表示部４５０に第３画面ＩＭ３−１を表示させる処理の一例を示すフローチャートである。図２０の例において、ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−１に、車両の前方の道路形状を示す画像と、車両を示す画像と、周辺車両を示す画像とを表示させる（ステップＳ２００）。次に、ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−１に、運転支援の度合を示す画像と、乗員に要求される動作に関する画像とを表示させる（ステップＳ２０２）。次に、ＨＭＩ制御部１２０は、運転支援開始操作ガイド領域６４０−１に、運転支援を開始させるための乗員の操作について案内する情報を表示させる（ステップＳ２０４）。これにより、本フローチャートの処理は終了する。

次に、ステップＳ１２０の処理において、第２の度合の運転支援が実行されていることを示す画像が表示されている状態において、自車両Ｍの挙動が変化するイベントが発生する場合の表示制御処理について説明する。図２１は、自車両Ｍの挙動が変化するイベントが発生する場合の表示制御処理の一例を示すフローチャートである。図２１の処理は、第２の度合または第３の度合の運転支援の実行中において、繰り返し実行される。実行運転実行中図２１において、自動運転制御ユニット３００は、自動運転により、自車両Ｍの挙動が変化するイベントが発生するか否かを判定する（ステップＳ３００）。自車両Ｍの挙動が変化するイベントが発生する場合、ＨＭＩ制御部１２０は、自車両Ｍの挙動の変化を伴うイベントの発生を示す画像を、自車両Ｍの挙動が発生する前の第１のタイミングで表示させる（ステップＳ３０２）。

次に、ＨＭＩ制御部１２０は、自車両Ｍの挙動の変化が発生する前の第２のタイミングに到達したか否かを判定する（ステップＳ３０４）。自車両の挙動の変化が発生する前の第２のタイミングに到達していない場合、ＨＭＩ制御部１２０は、第２のタイミングに到達するまで待機し、第２のタイミングに到達した場合に、自車両Ｍの挙動の変化を伴うイベントの発生を示す画像を強調表示させる（ステップＳ３０６）。これにより、本フローチャートの処理は終了する。図２１の処理により、乗員に車両の挙動が変化するタイミングを把握し易くさせることができる

次に、場面（４）〜（６）について説明する。図２２は、自車両Ｍに対して第３の度合での運転支援を実行し、その後、第３の度合から第２の度合での運転支援を実行するまでの各種場面を示す図である。図２２の例において、場面（４）は、自車両Ｍが渋滞中の周辺車両ｍに追従することで、自車両Ｍの運転支援が第２の度合から第３の度合に切り替わる場面である。場面（５）は、自車両Ｍが第３の度合の運転支援の一例である低速追従走行を実行している場面である。低速追従走行（ＴＪＰ；Traffic Jam Pilot）とは、所定速度以下で前走車両に追従する制御態様である。所定速度とは、（例えば、６０［ｋｍ／ｈ］以下で）である。低速追従走行は、自車両のＭの速度が所定速度以下であり、且つ前走車両ｍとの車間距離が所定距離（確認）以内であるときに発動する。低速追従走行では、混雑した道路で前走車両に追従するという、比較的容易な制御を継続することで、信頼性の高い自動運転を実現することができる。なお、低速追従走行は、所定速度以下、または前走車両に追従していることを発動条件としてもよい。場面（６）は、自車両Ｍの運転支援が第３の度合から第２の度合に切り替わる場面である。以下場面（４）〜（６）のそれぞれの場面に対応する表示制御について説明する。

＜場面（４）＞
場面（４）では、自動運転制御ユニット３００は、まだ低速追従走行に至らず、自車両Ｍの加速制御を行っている。この場合、ＨＭＩ制御部１２０は、第１の表示部４５０またはＨＵＤ４６０の一方または双方に、運転支援に対応する画面を表示する。

図２３は、自車両Ｍの加速制御時に表示される第３画面ＩＭ３−６および第４画面ＩＭ４−６の一例を示す図である。この図に示す場面では、まだ低速追従走行の発動条件を満たしていない。ＨＭＩ制御部１２０は、第３画面ＩＭ３−６の周辺検知情報表示領域６００−６に、加速制御が実行されていることを示す画像６０８を表示させる。画像６０８は、自車両Ｍの加速を示す図形である。画像６０８は、自車両Ｍを示す画像の前方に表示される。この場合、ＨＭＩ制御部１２０は、自車両Ｍが加速する前の第１のタイミングにおいて、画像６０８の外枠を付与した表示態様で表示させ、自車両Ｍが加速する前の第２のタイミングにおいて、画像の外枠の中を着色した表示態様で表示させてもよい。また、ＨＭＩ制御部１２０は、加速時には、画像６０８が自車両の進行方向に向かって移動するようなアニメーションを表示させてもよい。この逆に、ＨＭＩ制御部１２０は、減速時には、画像６０８が自車両に向かって移動するようなアニメーションを表示させてもよい。これにより、乗員は、自車両Ｍの加速制御が実行されていることを直観的に把握することができる。

ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−６に、第４画面ＩＭ４−５と同様の情報を表示させる。

＜場面（５）＞
場面（５）では、低速追従走行を実行する。この場合、ＨＭＩ制御部１２０は、第１の表示部４５０およびＨＵＤ４６０に、低速追従走行に対応する画面を表示する。

図２４は、低速追従走行時に表示される第３画面ＩＭ３−７および第４画面ＩＭ４−７の一例を示す図である。ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−７に、第３の度合の運転支援が実行されていることを示す周辺検知画像６１０Ａを表示させる。

周辺検知画像６１０Ａは、例えば、カメラ１０、レーダ装置１２、ファインダ１４、物体認識装置１６、および外界認識部３２１により、自車両Ｍの周囲の監視が行われていることを示す画像である。周辺検知画像６１０Ａは、例えば、自車両Ｍの中心から外側に向かって波紋が広がっていくようなアニメーションである。

また、ＨＭＩ制御部１２０は、第３画面ＩＭ３−７の運転支援状態表示領域６２０−７に、自車両Ｍが、乗員の周辺監視義務を課していないことを示すインジケータ「Ｅｙｅｓ Ｏｆｆ」と、運転操作子８０の操作を必要としないことを示すインジケータ「Ｈａｎｄｓ ＯＦＦ」の画像をハイライト表示させる。また、ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−７に、カメラ１０、レーダ装置１２、ファインダ１４、物体認識装置１６、および外界認識部３２１により、自車両Ｍの周囲の監視が行われていることを示す画像６２６を表示させる。

また、ＨＭＩ制御部１２０は、ＨＵＤ４６０の第４画面ＩＭ４−７に、第４画面ＩＭ４−６と同様の情報に加えて、第３の度合の運転支援が実行されていることを示す周辺検知画像６１０Ｂを表示させる。周辺検知画像６１０Ｂは、例えば、自車両Ｍの中心から外側に向かって波紋が広がっていくようなアニメーションである。

ＨＭＩ制御部１２０は、第３画面ＩＭ３−７に表示させる周辺検知画像６１０Ａと、第４画面ＩＭ４−７に表示させる周辺検知画像６１０Ｂとの動作速度と動作周期とのうち一方または双方を連動させる。これにより、第３画面ＩＭ３−７に表示された周辺検知画像６１０Ａと、第４画面ＩＭ４−７に表示された周辺検知画像６１０Ｂとが同じ情報であることを乗員に直感的に把握させることができる。

また、ＨＭＩ制御部１２０は、第３画面ＩＭ３−７に表示させる周辺検知画像６１０Ａにおけるアニメーションの表示態様（詳細表示態様）から間引いた表示態様を、第４画面ＩＭ４−７に表示させる周辺検知画像６１０Ｂの表示態様（簡易表示態様）としてもよい。例えば、ＨＭＩ制御部１２０は、詳細表示態様によって表示させる周辺検知画像６１０Ａの動的オブジェクト（円環状の波紋）の動作速度と動作周期とのうち一方または双方を遅くした表示態様を簡易表示態様とする。

また、ＨＭＩ制御部１２０は、詳細表示態様の動的オブジェクトの数を少なくした表示態様を簡易表示態様としてもよい。

また、ＨＭＩ制御部１２０は、詳細表示態様として第３画面ＩＭ３−７の周辺検知情報表示領域６００−７に表示させる外界の視野の範囲と、簡易表示態様として第４画面ＩＭ４−７に表示させる外界の視野の範囲を異ならせてもよい。外界の視野の範囲とは、乗員から外界をどの方向で、どれ位ズームして見るかによって決定される範囲である。例えば、円環状の動的オブジェクトの大きさ（例えば、最大半径）は、それぞれの画像における外界の視野の範囲に対応している。

また、乗員に周辺監視義務が課されていない状態において、ＨＭＩ制御部１２０は、使用可能な機器を乗員に通知するための制御を行う。例えば、自動運転制御ユニット３００が第３の度合による運転支援を実行している場合に、第３の表示部４７０が使用可能であるとする。この場合、ＨＭＩ制御部１２０は、図７または図８に示すように、第３の表示部４７０の一部または近傍に設けられた発光部４７２を所定の色で発光させる。

また、ＨＭＩ制御部１２０は、第３の表示部４７０が使用可能である場合に、図９に示すように、第３の表示部４７０における画面の表示領域のうち、第１の表示領域４７６を所定の色または所定の形状の一方または双方で表示させてもよい。

また、第３の表示部４７０に表示させる内容の選択等を行うために第３の操作部４４０を操作する必要がある場合、ＨＭＩ制御部１２０は、第３の操作部４４０に設けられた発光部４４６を所定の色で発光するように制御する。例えば、ＨＭＩ制御部１２０は、発光部４７２および発光部４４６を同一の色で発光させる。これにより、乗員は、使用可能な機器と、その機器の操作部とを直観的に把握することができる。

例えば、ＨＭＩ制御部１２０は、第３の表示部４７０が使用可能な状態で第３の操作部４４０が操作された場合に、操作内容に対応する画面を第３の表示部４７０に表示させる。また、ＨＭＩ制御部１２０は、第３の表示部４７０が使用可能な状態で、第２の操作部４２０の操作スイッチ４２２が操作された場合に、第３の表示部４７０に通話する相手の画像を表示させる。これにより、乗員は、第３の表示部４７０に表示される相手を見ながら通話を楽しむことができる。すなわち、乗員は、テレビ電話を利用することができる。

また、ＨＭＩ制御部１２０は、車室内カメラ９０により撮像された画像、および車室内に設けられたマイク（不図示）により取得された乗員の音声を対応付けて、通話相手の車両や、端末装置に送信する。

例えば、車室内カメラ９０に含まれる撮像素子は、赤外光および可視光の波長範囲に感度を有する。車室内カメラ９０は、赤外光を遮断して可視光を撮像素子の方向に透過させるレンズフィルタを備えてもよい。レンズフィルタは、ＨＭＩ制御部１２０の制御によって、機械的な機構が稼働することにより、車室内カメラ９０に入射する赤外光を遮断する位置（設定位置）または遮断しない位置（非設定位置）に制御される。例えば、ＨＭＩ制御部１２０は、画像がテレビ電話に用いられる場合、レンズフィルタは設定位置に制御され、画像が乗員の監視に用いられる場合、レンズフィルタは非設定位置に制御される。これにより、可視光のみにより撮像された画像は、テレビ電話に用いられ、可視光および赤外光により撮像された画像は、乗員の監視に用いられる。これにより、用途に適した画像が取得される。特に、画像がテレビ電話に用いられる場合、違和感のない画像が通話相手の装置等に送信される。

なお、自車両Ｍには、車室内カメラ９０に代えて、テレビ電話専用のカメラが設けられていてもよい。この場合、ＨＭＩ制御部１２０は、テレビ電話専用のカメラにより撮像された画像、およびマイクにより取得された音声を対応付けて、通話相手の車両または端末装置に送信する。

＜場面（６）＞
場面（６）では、自動運転制御ユニット３００は、低速追従する前走車両ｍが存在しないため、自車両Ｍを第３の度合から第２の度合の運転支援に切り替える。この場合、ＨＭＩ制御部１２０は、運転支援の度合の変化に基づいて、図２５に示すように、乗員に要求する乗員の監視対象または操作対象を示唆する情報を、第１の表示部４５０またはＨＵＤ４６０の一方または双方に表示させる。

図２５は、乗員に周辺監視を要求するために表示される第３画面ＩＭ３−８および第４画面ＩＭ４−８の一例を示す図である。ＨＭＩ制御部１２０は、周辺検知情報表示領域６００−８に、低速追従走行（図では「渋滞追従自動運転」）が終了する旨の情報と、乗員に周辺の交通状況を確認させる旨を示す情報とを表示させる。

また、ＨＭＩ制御部１２０は、第４画面ＩＭ４−８に、乗員に自車両Ｍの前方を注視させることを要求する前方注視要求画像６５０を表示させる。前方注視要求画像６５０は、車両Ｍの前方の所定の領域を示す楕円状の領域を含む画像である。また、前方注視要求画像６５０は、円状や矩形状等の所定の形状でもよく、乗員に注意を促すマークや記号文字等の情報でもよい。また、ＨＭＩ制御部１２０は、前方注視要求画像６５０を所定の色で点灯または点滅させる。また、ＨＭＩ制御部１２０は、インストルメントパネルに組み込まれたＬＥＤを発光させ、フロントウインドシールドでＬＥＤの発光を反射させることで、乗員に前方への注視を促してもよい。

乗員状態監視部１４０は、車室内カメラ９０の撮像画像により、乗員が周辺監視を行っているか否かを判定する。乗員が周辺監視を行っていると判定された場合、切替制御部１１０は、自動運転制御ユニット３００に、自車両Ｍの運転支援を第３の度合から第２の度合に切り替えさせる。ＨＭＩ制御部１２０は、図２６に示すように、第１の表示部４５０またはＨＵＤ４６０の一方または双方に、第２の度合による運転支援に対応する画面を表示させる。

図２６は、第３の度合から第２の度合に切り替わった場合の第３画面ＩＭ３−９および第４画面ＩＭ４−９の一例を示す図である。図２６の例では、自車両Ｍが第２の度合の運転支援により、行動計画生成部３２３により定められた目標速度（例えば８０［ｋｍ／ｈ］）まで加速する例を示している。ＨＭＩ制御部１２０は、例えば、第３画面ＩＭ３−９の周辺検知情報表示領域６００−９に、例えば、加速制御が実行されていることを示す画像６０８を表示させる。

また、ＨＭＩ制御部１２０は、第３画面ＩＭ３−９の運転支援状態表示領域６２０−９に、自車両Ｍの第２の度合の運転支援に対応する「Ｈａｎｄｓ ＯＦＦ」の画像をハイライト表示させる。また、ＨＭＩ制御部１２０は、運転支援状態表示領域６２０−９に、第２の度合の運転支援に対応する乗員の操作内容を示す要求動作通知画像６２２を表示させる。これにより、乗員は、自車両Ｍの運転支援が第３の度合から第２の度合に切り替わったことを直観的に把握することができる。

＜場面（４）〜（６）に対応する処理フロー＞
図２７は、場面（４）〜（６）において、ＨＭＩ制御部１２０により実行される処理の流れの一例を示すフローチャートである。まず、ＨＭＩ制御部１２０は、自動運転制御ユニット３００が低速追従走行を開始したか否かを判定する（ステップＳ４００）。低速追従走行を開始した場合、ＨＭＩ制御部１２０は、第３画面ＩＭ３および第４画面ＩＭ４に、第３の度合の運転支援が実行されていることを示す画像を表示する（ステップＳ４０２）。次に、ＨＭＩ制御部１２０は、第３の度合の運転支援により使用可能となった機器に設けられている発光部を発光させる（ステップＳ４０４）。

次に、ＨＭＩ制御部１２０は、自動運転制御ユニット３００が、自車両Ｍの低速追従走行を終了するか否かを判定する（ステップＳ４０６）。低速追従走行を終了しない場合には、ステップＳ４０２およびＳ４０４の処理による画像表示および発光部の発光が継続される。つまり、Ｓ４０４の処理において、ＨＭＩ制御部１２０は、機器が使用可能な間は、機器に設けられている発光部の発光を継続させる。

また、低速追従走行を終了する場合、ＨＭＩ制御部１２０は、第３画面ＩＭ３および第４画面ＩＭ４に、乗員に周辺監視を行わせるための情報を表示する（ステップＳ４０８）。次に、ＨＭＩ制御部１２０は、第２の度合の運転支援が実行されていることを示す画像を表示する（ステップＳ４１０）。これにより、本フローチャートの処理は終了する。

また、場面（４）〜（６）のように、ＨＭＩ制御部１２０は、車両が停車中でない場合、または運転支援の度合が第３の度合でない場合、使用されることによって乗員の視線が車両周辺から外れる特定機能の使用規制を行い、車両が停車中である場合、または運転支援の度合が第３の度合である場合、特定機能の使用規制を解除する。特定機能とは、例えば、テレビ電話機能を含み、第３の表示部４７０に自車両Ｍの制御や走行には関係しないコンテンツが表示される機能である。自車両Ｍの制御や走行には関係しないコンテンツとは、例えば、エンターテイメントとして乗員に視聴されるＤＶＤに記憶された画像や、放送局から送信された画像（テレビの画像）、テレビ電話における通話相手を示す画像等である。

図２８は、ＨＭＩ制御部１２０による特定機能の実行処理の流れを示すフローチャートである。本フローチャートの処理では、特定機能は、テレビ電話機能であるものとして説明する。テレビ電話機能とは、画像（リアルタイムの画像）と、音声とを送受信して、通話相手を示す画像を見ながら通話を行わせる機能である。通話相手の画像は、第３の表示部４７０に表示される。また、ＨＭＩ制御部１２０が、通信装置２０を制御して、通話相手の通信装置と通信を確立させることにより、画像および音声を含む情報を送受信することで、テレビ電話機能を実現する。

まず、ＨＭＩ制御部１２０は、運転支援制御部２００および自動運転制御ユニット３００から取得した情報に基づいて、自車両Ｍが停車中である否かを判定する（ステップＳ５００）。自車両Ｍが停車中である場合、ＨＭＩ制御部１２０は、テレビ電話機能の使用規制を解除する（ステップＳ５０２）。これにより、乗員はテレビ電話機能を利用することができる。

自車両Ｍが停車中でない場合、ＨＭＩ制御部１２０は、自動運転制御ユニット３００から取得した情報に基づいて、自車両Ｍが低速追従走行中であるか否かを判定する（ステップＳ５０４）。自車両Ｍが低速追従走行中である場合、ＨＭＩ制御部１２０は、テレビ電話機能の使用規制を解除する（ステップＳ５０２）。これにより、乗員はテレビ電話を利用することができる。

自車両Ｍが停車中でも低速追従走行中でもない場合、ＨＭＩ制御部１２０は、音声のみの利用を許可する（ステップＳ５０６）。これにより、本フローチャートの１ルーチンの処理を終了する。

図２９は、運転の度合によって第３の表示部４７０に表示される画像が変化する様子の一例を示す図である。図２９（Ａ）に示すように、例えば第３の度合の運転支援が実行されている場合、通話相手の映像が第３の表示部４７０に表示され、通話相手の音声がスピーカから出力される。これにより、乗員はテレビ電話を利用することができる。これに対して、図２９（Ｂ）に示すように、例えば第３の度合の運転支援から、他の度合の運転支援または手動運転に遷移した場合、第３の表示部４７０に表示されていた通話相手の映像は停止し、通話相手の音声のみがスピーカから出力される。これにより、乗員は、自車両Ｍの周辺を監視することができる。

上述したように、ＨＭＩ制御部１２０は、運転支援が第３の度合に移行し、自車両Ｍの乗員が周辺監視をする必要がなくなった場合（後述する図３７の時刻Ｔ４に到達した場合）に、特定機能の使用規制が解除されることにより、より適切に特定機能を制御することができる。

次に、場面（７）〜（９）について説明する。図３０は、自車両Ｍを第２の度合の運転支援から手動運転による走行に切り替わるまでの各種場面を示す図である。図３０の例において、場面（７）は、自車両Ｍが行動計画に基づき高速道路を抜けるための車線変更を行う場面である。場面（８）は、自車両Ｍが手動運転に切り替わる場面である。場面（９）は、自車両Ｍが手動運転により高速道路から一般道路へ移動する場面である。以下場面（７）〜（９）のそれぞれの場面に対応する表示制御について説明する。

＜場面（７）＞
場面（７）では、自動運転制御ユニット３００は、自車両Ｍが左側に車線変更するための運転支援を実行する。この場合、ＨＭＩ制御部１２０は、第１の表示部４５０またはＨＵＤ４６０の一方または双方に、運転支援に対応する画面を表示する。なお、車線変更の開始時および実行時における表示例については、図１７および図１８に示す自車両Ｍの右車線への車線変更の内容を、左車線への車線変更に置き換えて同様の表示を行うため、ここでの具体的な説明は省略する。

＜場面（８）＞
場面（８）では、自動運転制御ユニット３００は、自車両Ｍが手動運転に切り替わるための制御を行う。この場合、ＨＭＩ制御部１２０は、第１の表示部４５０またはＨＵＤ４６０の一方または双方に、乗員に手動運転を実行させるための画像を表示する。

図３１は、手動運転時への切り替え要求時に表示される第３画面ＩＭ３−１０および第４画面ＩＭ４−１０の一例を示す図である。ＨＭＩ制御部１２０は、高速道路の出口が近づいているため、第３画面ＩＭ３−１０の周辺検知情報表示領域６００−１０に、乗員にステアリングホイール８２の操作を要求する旨の要求動作通知画像６２８を表示させる。また、ＨＭＩ制御部１２０は、要求動作通知画像６２８として、ステアリングホイール８２を示す画像から乗員の手を示す画像が近づいていくようなアニメーションを表示させてもよい。

また、ＨＭＩ制御部１２０は、第３画面ＩＭ３−１０の運転支援状態表示領域６２０−１０に、第２の度合の運転支援に対応する「Ｈａｎｄｓ ＯＦＦ」の画像、および第１の度合の運転支援に対応する「Ａｓｓｉｓｔ」の画像をハイライト表示させる。

ここで、ＨＭＩ制御部１２０は、操作子状態判定部１３０の判定結果に基づいて乗員がステアリングホイール８２を把持している状態であるか否かを判定する。ＨＭＩ制御部１２０は、操作子状態判定部１３０により所定時間経過後も乗員がステアリングホイール８２を把持していない状態であると判定された場合に、第１の表示部４５０またはＨＵＤ４６０の一方または双方に、段階的に警告を強めて乗員に手動運転を実行させるための画像を表示させる。

図３２は、乗員に手動運転を実行させるための警告を強めた第３画面ＩＭ３−１１および第４画面ＩＭ４−１１の一例を示す図である。ＨＭＩ制御部１２０は、例えば、第３画面ＩＭ３−１１の運転支援状態表示領域６００−１１に、自車両Ｍの周辺状況の表示よりも強調して、乗員に要求する乗員の監視対象または操作対象を示唆する情報を表示させる。具体的には、ＨＭＩ制御部１２０は、第３画面ＩＭ３−１１の運転支援状態表示領域６００−１１に、自車両Ｍの前方の道路形状を示す画像や自車両Ｍを示す画像、自車両Ｍの将来の軌道を示す画像に代えて、乗員のステアリングホイール８２を操作させることを示す情報を重畳して表示させる。

また、ＨＭＩ制御部１２０は、第４画面ＩＭ４−１１に、ステアリングホイール８２と乗員の手との位置関係を模式的に示す要求動作通知画像６６０を表示させる。ＨＭＩ制御部１２０は、要求動作通知画像６６０として、乗員の手を示す画像がステアリングホイール８２を示す画像に近づいて把持するようなアニメーションを表示させてもよい。また、ＨＭＩ制御部１２０は、乗員にステアリングホイール８２を把持させるために、音声等による警告を行ってもよい。

また、ＨＭＩ制御部１２０は、乗員にステアリングホイール８２を把持させるために、ステアリングホイール８２に設けられた発光部４３０Ｒ、４３０Ｌを発光させたり、点滅させたり、発光を停止させたりする。これにより、運転支援の度合の変化に伴って乗員に要求する内容を、乗員に認識し易くすることができる。

また、ＨＭＩ制御部１２０は、例えば、自車両Ｍの運転支援の度合に応じて発光部４３０Ｒ、４３０Ｌを発光、点滅させている状態で、乗員にステアリングホイール８２を把持させることを要求する場合に、発光部４３０Ｒ、４３０Ｌの発光状態を、現在の発光状態とは異ならせる。例えば、ＨＭＩ制御部１２０は、現在の発光状態に対して、発光部４３０Ｒ、４３０Ｌの発光、点滅、発光色、発光輝度のうち、少なくとも一つを異ならせる。

また、ＨＭＩ制御部１２０は、運転支援の度合が現在の運転支援の度合よりも低い度合に変化する場合に、発光部４３０Ｒ、４３０Ｌを発光、点滅、または発光を停止させる。これにより、ステアリングホイール８２を把持させる必要性が高い運転支援であることを乗員に伝えることができる。

また、ＨＭＩ制御部１２０は、操作子状態判定部１３０により所定時間経過後も乗員がステアリングホイール８２を把持していない状態であると判定された場合に、段階的に警告を強めてスピーカに音声を出力させてもよい。また、ＨＭＩ制御部１２０は、シートまたはシートベルトを振動させる振動部を作動させて、シートまたはシートベルトを段階的な強さで振動させて警告を行ってもよい。

図３３は、シートベルトを振動させて乗員に警告を行うことについて説明するための図である。図３１のでは、例えば、自車両Ｍのシート４８０と、シートベルト装置４８２と、振動部４８４とを備える。シートベルト装置４８２は、いわゆる三点式のシートベルト装置である。シートベルト装置４８２は、例えば、シートベルト４８２Ａと、シートベルト４８２Ａを巻き取る巻き取り部４８２Ｂと、シートベルト４８２Ａをシート４８０の所定の位置で固定するアンカー４８２Ｃと、シートベルト４８２Ａに設けられたタングに対して着脱可能なバックル４８２Ｄとを備える。振動部４８４は、ＨＭＩ制御部１２０の制御によりシートベルトを所定の周期および所定の強さで振動させる。

ＨＭＩ制御部１２０は、乗員にステアリングホイール８２を把持させるタイミングで振動部４８４を作動させる。これにより、乗員は、ステアリングホイール８２を把持して手動運転を開始することを直観的に把握することができる。

また、操作子状態判定部１３０によって、ＨＭＩ制御部１２０が図３２に示す表示を行ってから所定時間を経過しても乗員がステアリングホイール８２を把持していないと判定した場合、ＨＭＩ制御部１２０は、図３４に示すように、運転支援（例えば、自動運転）を終了する旨の画面を表示する。

図３４は、自動運転を終了する旨の情報を表示する第３画面ＩＭ３−１２および第４画面ＩＭ４−１２の一例を示す図である。ＨＭＩ制御部１２０は、第３画面ＩＭ３−１２の運転支援状態表示領域６００−１２に、自車両Ｍの前方の道路形状を示す画像や自車両Ｍを示す画像、自車両Ｍの将来の軌道を示す画像に重畳して、自動運転を終了するため運転操作の交代を促す情報を表示させる。また、ＨＭＩ制御部１２０は、第３画面ＩＭ３−１２の運転支援状態表示領域６２０−１２に、「Ｈａｎｄｓ Ｏｆｆ」の画像がハイライト表示されるが、図２９に示すハイライト表示とは異なる色等でハイライト表示させてもよい。

また、ＨＭＩ制御部１２０は、第４画面ＩＭ４−１２に、ステアリングホイール８２と乗員の手との位置関係を模式的に示す要求動作通知画像６６０を表示させる。また、ＨＭＩ制御部１２０は、乗員にステアリングホイール８２を把持させるために、図３０に示す第３画面ＩＭ３−１１および第４画面ＩＭ４−１２を表示に比して強めの音声等による警告を行ってもよい。また、ＨＭＩ制御部１２０は、乗員にステアリングホイール８２を把持させるために、発光部４３０Ｒ、４３０Ｌを点灯または点滅させてもよい。例えば、ＨＭＩ制御部１２０は、警告を強めるために点滅周期を短くしたり、複数色で発光部４３０Ｒ、４３０Ｌを点灯または点滅させたりする。

また、ＨＭＩ制御部１２０は、例えば、第１の表示部４５０に第３画面ＩＭ３−１２を表示し、ＨＵＤ４６０に第４画面ＩＭ４−１２を表示するタイミングで振動部４８４を作動させることで、シートベルト４８２Ａを振動させてよい。この場合、ＨＭＩ制御部１２０は、第３画面ＩＭ３−１１および第４画面ＩＭ４−１１に画像を表示させたときのシートベルト４８２Ａの振動に比して強い振動になるように、振動部４８４を作動させてよい。これにより、乗員は、自動運転が終了することを直観的に把握することができる。

また、操作子状態判定部１３０は、ＨＭＩ制御部１２０が図３２に示す表示を行ってから所定時間を経過しても乗員がステアリングホイール８２を把持していないと判定した場合、マスター制御部１００は、自動運転制御ユニット３００に対して自車両Ｍを所定の位置（例えば、路肩や最寄のパーキングエリア）に緊急停止させるための自動運転を実行させる。この場合、ＨＭＩ制御部１２０は、図３５に示すように、第３画面ＩＭ３−１３に、自車両Ｍの緊急停止を自動運転で実行する旨を示す画面を表示させる。

図３５は、自車両Ｍの緊急停止時における第３画面ＩＭ３−１３および第４画面ＩＭ４−１３の一例を示す図である。ＨＭＩ制御部１２０は、第３画面ＩＭ３−１３の運転支援状態表示領域６００−１３に、緊急停止を行う旨の情報を表示させる。なお、第３画面ＩＭ３−１３の態様の通知は、第３画面ＩＭ３−１０〜ＩＭ３−１２の態様の通知に比して、強い警報である。

＜場面（９）＞
場面（９）では、乗員がステアリングホイール８２を把持する旨の指示を受けて、運転支援が終了するまでにステアリングホイール８２を把持し、手動運転を開始して、高速道路から一般道路に進入する場面である。切替制御部１１０は、自車両Ｍの走行状態を、乗員の手動運転によって行う状態に切り替える。ＨＭＩ制御部１２０は、第１の表示部４５０に第１画面ＩＭ１−１を表示させ、ＨＵＤ４６０に第２画面ＩＭ２−１を表示させる。

＜場面（７）〜（９）に対応する処理フロー＞
図３６は、場面（７）〜（９）において、ＨＭＩ制御部１２０により実行される処理の流れの一例を示すフローチャートである。本処理では、上述したようにＨＭＩ制御部１２０は、自動運転が実行されている際に、自車両Ｍの乗員に所定の行動（例えばステアリングホイール８２の把持）を要求する通知を行い、通知の開始から時間が経過するに従って、段階的に前記通知が強調されるように通知の態様を変化させて、出力部に通知を出力させる。出力部とは、画像を表示する表示部や、音声を出力するスピーカ等である。なお、本処理では、所定の行動は、一例としてステアリングホイール８２を把持することであるものとするが、これに代えて（加えて）、乗員が周辺を監視することや、運転操作子８０（例えばアクセルペダル、ブレーキペダル）を乗員が操作できるように足を置くこと等であってもよい。

まず、ＨＭＩ制御部１２０は、運転支援を終了するか否かを判定する（ステップＳ６００）。運転支援を終了する場合、ＨＭＩ制御部１２０は、第１の表示部４５０に自車両Ｍが走行する軌道を示す画像を維持した状態において乗員にステアリングホイール８２の把持を促すことを示す画像（例えば画面ＩＭ３−１０）を表示させる（ステップＳ６０２）。

次に、ＨＭＩ制御部１２０は、操作子状態判定部１３０による判定結果により、第１の所定時間以内に乗員がステアリングホイール８２を把持したか否かを判定する（ステップＳ６０４）。

第１の所定時間以内に乗員がステアリングホイールを把持したと判定された場合、ＨＭＩ制御部１２０は、第１の表示部４５０に第１画面ＩＭ１を表示させ（ステップＳ６０６）、ＨＵＤ４６０に第２画面ＩＭ２を表示させる（ステップＳ６０８）。つまり、ステップＳ６０６およびステップＳ６０８の処理において、ＨＭＩ制御部１２０は、第１の表示部４５０およびＨＵＤ４６０に表示される画面を、メインスイッチ４１２が押される前の画面に戻す。また、ステップＳ６０６またはステップＳ６０８の処理に加えて、或いは代わりに、ＨＭＩ制御部１２０は、メインスイッチ４１２の状態をスイッチが押される前の状態に戻してもよい。

また、ステップＳ６０４において、第１の所定時間以内に乗員がステアリングホイールを把持したと判定されなかった場合、ＨＭＩ制御部１２０は、第１の表示部４５０に自車両Ｍが走行する軌道を示すアイコンに代えて乗員にステアリングホイール８２の把持を要求することを示す画像（例えば画面ＩＭ３−１１）を表示させる（ステップＳ６１０）。

次に、ＨＭＩ制御部１２０は、操作子状態判定部１３０による判定結果により、第２の所定時間以内に乗員がステアリングホイール８２を把持したか否かを判定する（ステップＳ６１２）。第２の所定時間以内に乗員がステアリングホイールを把持したと判定された場合、ＨＭＩ制御部１２０は、第１の表示部４５０に第１画面ＩＭ１を表示させ（ステップＳ６０６）、ＨＵＤ４６０に第２画面ＩＭ２を表示させる（ステップＳ６０８）。

ステップＳ６１２において、第２の所定時間以内に乗員がステアリングホイールを把持したと判定されなかった場合、ＨＭＩ制御部１２０は、第１の表示部４５０に運転支援を終了することを示す画像（例えば第３画面ＩＭ３−１２）を表示させる（ステップＳ６１４）。また、この際、ＨＭＩ制御部１２０は、シートベルト４８２Ａを振動させる振動部４８４を作動させる。なお、実施形態では、シート４８０に、そのシート４８０を振動させる振動部が設けられてもよい。この場合、第２の所定時間以内に乗員がステアリングホイールを把持したと判定されなかった場合、ＨＭＩ制御部１２０は、シート４８０に設けられた振動部を作動させてもよい。

次に、ＨＭＩ制御部１２０は、操作子状態判定部１３０による判定結果により、第３の所定時間以内に乗員がステアリングホイール８２を把持したか否かを判定する（ステップＳ６１６）。第３の所定時間以内に乗員がステアリングホイールを把持したと判定された場合、ＨＭＩ制御部１２０は、第１の表示部４５０に第１画面ＩＭ１を表示させ（ステップＳ６０６）、ＨＵＤ４６０に第２画面ＩＭ２を表示させる（ステップＳ６０８）。

ステップＳ６１６において、第３の所定時間以内に乗員がステアリングホイールを把持したと判定されなかった場合、ＨＭＩ制御部１２０は、第１の表示部４５０に自車両Ｍの緊急停止を実行する旨の画像を表示する（ステップＳ６１８）。これにより、本フローチャートの処理は終了する。

＜運転支援に関連する各種機器または制御の切り替えタイミング＞
ここで、自車両Ｍの運転支援に関連する各種機器または制御の切り替えタイミングについて図を用いて説明する。図３７は、運転支援に関連する各種機器または制御の切り替えタイミングについて説明するための図である。

図３７では、運転支援に関連する切り替えとして、（Ａ）メインスイッチ４１２のオン／オフ、（Ｂ）オートスイッチ４１４のオン／オフ、（Ｃ）手動運転モード表示のオン／オフ、（Ｄ）運転支援モード表示のオン／オフ、（Ｅ）第１の度合の運転支援のオン／オフ、（Ｆ）ステアリングホイール８２を把持している／把持していない、（Ｇ）第２の度合の運転支援のオン／オフ、（Ｈ）第３の度合の運転支援のオン／オフ、（Ｉ）乗員の運転監視の要／不要の時刻の経過に対する切り替えタイミングを示している。

時刻Ｔ０では、乗員の手動運転により自車両Ｍが走行している。この場合、メインスイッチ４１２およびオートスイッチ４１４は操作おらず、第１の表示部４５０およびＨＵＤ４６０には、手動運転モードでの画面（第１画面ＩＭ１、第２画面ＩＭ２）が表示される。また、時刻Ｔ０では、自車両Ｍに対する運転支援（第１の度合〜第３の度合）は、実施されておらず、乗員は、ステアリングホイール８２を把持するとともに、周辺監視を行う必要がある。

時刻Ｔ１では、乗員によりメインスイッチ４１２をオンにする操作が実行されている。この場合、第１の表示部４５０およびＨＵＤ４６０には、運転支援モードでの画面（第３画面ＩＭ３、第４画面ＩＭ４）が表示される。時刻Ｔ１〜Ｔ２までの状態では、運転支援による走行制御は行われておらず、手動運転が継続されている。

時刻Ｔ２では、乗員によりオートスイッチ４１４をオンにする操作が実行されている。この場合、マスター制御部１００は、運転支援制御部２００に第１の度合の運転支援を実行させる。ＨＭＩ制御部１２０は、運転支援モード表示において、乗員がステアリングホイール８２から手を離すことで、第２の度合の運転支援が実行されることを示す画像を表示する。

時刻Ｔ３では、自車両Ｍが第２の度合の運転支援が可能な状態で、乗員がステアリングホイール８２から手を離している。この場合、切替制御部１１０は、運転支援制御部２００による第１の度合の運転支援から自動運転制御ユニット３００による第２の度合の運転支援を実行させる。

時刻Ｔ４では、例えば、自車両Ｍが低速追従走行を行うことで、第３の度合の運転支援が実行される。この場合、乗員の周辺監視は、不要となる。

時刻Ｔ５では、第３の度合の運転支援が終了し、第２の度合の運転支援に切り替わる。したがって、乗員の周辺監視が必要になる。また、時刻Ｔ５では、第２の度合の運転支援から手動運転に切り替えるための表示を行う。この場合、ＨＭＩ制御部１２０は、運転支援モード表示において、乗員にステアリングホイール８２を把持させるための情報を表示する。

時刻Ｔ６では、乗員がステアリングホイール８２を把持する。この場合、切替制御部１１０は、自動運転制御ユニット３００による第２の度合の運転支援から運転支援制御部２００による第１の度合の運転支援に切り替える。また、切替制御部１１０は、第１の度合の運転支援が所定時間経過された後、手動運転に切り替える。

時刻Ｔ７では、自車両Ｍが手動運転に切り替わっている。この場合、メインスイッチ４１２およびオートスイッチ４１４は、自車両Ｍが手動運転に切り替わるタイミングに対応してオフに切り替わる。

次に、実施形態における運転支援の切り替え制御について説明する。図３８は、実施形態における運転支援の切り替え制御について説明するための図である。実施形態による自車両Ｍの運転制御は、第１〜第３の度合の運転支援による運転制御と、乗員の手動運転による運転制御とがある。切替制御部１１０は、例えば、自車両Ｍの走行状態や乗員の状態に基づいて、図３８の（ａ）〜（ｈ）に示す切替パターンで運転制御の切り替えを行う。

切替パターン（ａ）では、切替制御部１１０は、自車両Ｍの運転制御を手動運転から第１の度合の運転支援に切り替える。この場合、切替制御部１１０は、運転支援制御部２００に第１の度合の運転支援を実行させる。

切替パターン（ｂ）では、切替制御部１１０は、第１の度合の運転支援から第２の度合の運転支援に切り替える。この場合、切替制御部１１０は、自動運転制御ユニット３００に第２の度合の運転支援を実行させる。

切替パターン（ｃ）では、切替制御部１１０は、第２の度合の運転支援から第３の度合の運転支援に切り替える。この場合、切替制御部１１０は、自動運転制御ユニット３００に第３の度合の運転支援を実行させる。

切替パターン（ｄ）では、切替制御部１１０は、第３の度合の運転支援から第２の度合の運転支援に切り替える。この場合、切替制御部１１０は、自動運転制御ユニット３００に第２の度合の運転支援を実行させる。

切替パターン（ｅ）では、切替制御部１１０は、第２の度合の運転支援から第１の度合の運転支援に切り替える。この場合、切替制御部１１０は、運転支援制御部２００に第１の度合の運転支援を実行させる。

切替パターン（ｆ）では、切替制御部１１０は、第１の度合の運転支援から手動運転に切り替える。この場合、切替制御部１１０は、手動運転による運転制御を実行させる。

切替パターン（ｇ）では、切替制御部１１０は、第２の度合の運転支援を実行中に、自車両Ｍに所定の事象が発生した場合、第２の度合の運転支援から手動運転に切り替える。所定の事象とは、例えば、自動運転制御ユニット３００が受け付けた値が予め想定される所定範囲の値と異なる場合や、他の機器からの信号が遮断された場合、制御対象機器に対する信号の送信ができないような場合である。

切替パターン（ｈ）では、切替制御部１１０は、特定の場面において、乗員がステアリングホイール８２を把持している状態である場合に、自動運転制御ユニット３００に第２の度合の運転支援を継続させる。特定の画面とは、例えば、自車両Ｍがインターチェンジやジャンクション等のランプ（連絡路）を走行するような場面である。切替制御部１１０は、それぞれの切替パターンに対応させて自車両Ｍの運転制御を切り替える。

以上説明した実施形態によれば、表示部に表示される画像の誤認を抑制することができる。

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

１…車両システム、１０…カメラ、１２…レーダ装置、１４…ファインダ、１６…物体認識装置、２０…通信装置、５０…ナビゲーション装置、６０…ＭＰＵ、７０…車両センサ、８０…運転操作子、９０…車室内カメラ、１００…マスター制御部、１１０…切替制御部、１２０…ＨＭＩ制御部、１３０…操作子状態判定部、１４０…乗員状態監視部、２００…運転支援制御部、３００…自動運転制御ユニット、３２０…第１制御部、３４０…第２制御部、４００…ＨＭＩ、５００…走行駆動力出力装置、５１０…ブレーキ装置、５２０…ステアリング装置、Ｍ…自車両

Claims (8)

1. 画像を表示する表示部と、
   異なる度合で車両の運転支援を行う車両制御部と、
   前記車両制御部が実行可能な前記運転支援の異なる度合ごとに対応付けられた複数の画像を前記表示部に表示させるとともに、前記複数の画像のうち現に前記車両制御部により実行されている運転支援の度合を示す画像を他の運転支援の度合を示す画像と識別可能に表示させ、更に前記複数の画像と、前記車両の乗員に要求される動作を示す画像とを隣接させて前記表示部に表示させる表示制御部と、
   を備える車両制御システム。
2. 前記乗員に要求される動作を示す画像は、前記乗員が車両の手動運転時に操作する運転操作子を示す画像と、前記乗員の部位を示す画像とを含む、
   請求項１に記載の車両制御システム。
3. 前記運転操作子を示す画像は、ステアリングホイールの画像であり、前記乗員の部位を示す画像は、乗員の手を示す画像である、
   請求項２に記載の車両制御システム。
4. 前記運転操作子を示す画像は、アクセルペダルまたはブレーキペダルの一方または双方を示す画像であり、前記乗員の部位を示す画像は、乗員の足を示す画像である、
   請求項２または３に記載の車両制御システム。
5. 前記表示制御部は、前記車両制御部により前記運転支援の度合が切り替えられる場合に、乗員に要求される動作を示す動画像を、前記表示部に表示させる、
   請求項２から４のうち何れか１項に記載の車両制御システム。
6. 前記表示制御部は、前記乗員に要求される動作を示す動画像とともに、前記動画像の操作が乗員により実行された場合に前記車両制御部が実行する運転支援に関する情報を前記表示部に表示させる、
   請求項５に記載の車両制御システム。
7. 車載コンピュータが、
   表示部に運転支援の度合に関する画像を表示し、
   異なる度合で車両の運転支援を行い、
   前記運転支援の異なる度合ごとに対応付けられた複数の画像を前記表示部に表示させるとともに、前記複数の画像のうち現に実行されている運転支援の度合を示す画像を他の運転支援の度合を示す画像と識別可能に表示させ、更に前記複数の画像と、前記車両の乗員に要求される動作を示す画像とを隣接させて前記表示部に表示する、
   車両制御方法。
8. 車載コンピュータに、
   運転支援の度合に関する画像を表示部に表示させ、
   異なる度合で車両の運転支援を車両制御部に行わせ、
   前記運転支援の異なる度合ごとに対応付けられた複数の画像を前記表示部に表示させるとともに、前記複数の画像のうち現に実行されている運転支援の度合を示す画像を他の運転支援の度合を示す画像と識別可能に表示させ、更に前記複数の画像と、前記車両の乗員に要求される動作を示す画像とを隣接させて前記表示部に表示させる、
   プログラム。

Images