JP7380616B2 - 自動運転制御装置、自動運転制御方法、及び自動運転制御プログラム - Google Patents

Description

本開示は、自動運転制御装置、自動運転制御方法、及び自動運転制御プログラムに関する。

自動運転システムでは、運転者（ドライバ）がいない場合があるため、自動走行が行われた区間での走行が適切に自動運転制御プログラムによって行われたかを運転者に代わって監視する必要がある。

例えば、特許文献１には、自動運転の制御プログラムの改善の契機となる情報を生成する情報処理装置が記載されている。この情報処理装置は、自動運転車両のプローブ情報と道路地図データに基づいて、自動走行が行われた走行区間における異常走行の有無と、異常走行の要因となり得る特徴量の有無又は値とを含む走行リスクデータを生成するデータ生成処理と、生成された複数の走行リスクデータに基づいて、特徴量の有無又は値ごとの異常走行の発生確率を含むリスク判定モデルを生成するモデル化処理と、を行う。この特徴量には、道路側の事象である外部要因のみが含まれる。

特開２０１７－１４６９３４号公報

ところで、自動運転において、明らかな異常走行がなかったからといって自動運転制御プログラムに異常がなかったとは言えない。例えば、いつもよりも車線左側に寄って走行している場合、上記特許文献１に記載の技術によれば、特定の走行のみを異常と判定するため、異常走行とは判定されない。しかしながら、この運転軌道が意図しない自動運転制御プログラムに起因したものであれば、将来的な事故原因となりかねない。このような明らかな異常ではないが、自動運転車両の計画された走行又は最適な走行と異なる走行（つまり、いつもと異なる走行）を検出することが出来れば、問題の早期改善を図ることが可能となり、望ましい。

本開示は、自動運転において明らかな異常ではないが、計画された走行又は最適な走行からずれた走行を判定することができる自動運転制御装置、自動運転制御方法、及び自動運転制御プログラムを提供することを目的とする。

上記目的を達成するために、本開示の第１態様に係る自動運転制御装置は、予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部と、前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部と、前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部と、を備えている。

本開示の第２態様に係る自動運転制御方法は、予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集し、前記収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成し、前記生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する。

本開示の第３態様に係る自動運転制御プログラムは、コンピュータを、予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部、前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部、及び、前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部、として機能させる。

開示の技術によれば、自動運転において明らかな異常ではないが、計画された走行又は最適な走行からずれた走行を判定することができる、という効果を有する。

第１の実施形態に係る自動運転システムの構成の一例を示す図である。 第１の実施形態に係る車載装置及び自動運転制御装置の機能的な構成の一例を示すブロック図である。 実施形態に係るプランニング結果代表値算出処理の説明に供する図である。 自動運転の速度と手動運転の速度との比較例を示す図である。 実施形態に係る異常度判定処理の説明に供する図である。 実施形態に係る別の異常度判定処理の説明に供する図である。 第１の実施形態に係る自動運転制御装置による異常度判定処理の全体像の説明に供する図である。 第１の実施形態に係る自動運転制御プログラムによる異常度判定処理の流れの一例を示すフローチャートである。 第１の実施形態に係る自動運転制御プログラムによるレポート出力処理の流れの一例を示すフローチャートである。 実施形態に係るオペレータ判定処理の説明に供する図である。 実施形態に係る別のオペレータ判定処理の説明に供する図である。 実施形態に係る更に別のオペレータ判定処理の説明に供する図である。 第２の実施形態に係る自動運転制御装置及び車載装置の機能的な構成の一例を示すブロック図である。 実施形態に係るクラスタリング処理の説明に供する図である。 実施形態に係るオペレータ判定処理の説明に供する図である。 実施形態に係る別のオペレータ判定処理の説明に供する図である。 第２の実施形態に係る自動運転制御プログラムによる学習器生成処理の流れの一例を示すフローチャートである。 第２の実施形態に係る自動運転制御プログラムによる即時通知処理の流れの一例を示すフローチャートである。

以下、図面を参照して、本開示の技術を実施するための形態の一例について詳細に説明する。

[第１の実施形態]
図１は、第１の実施形態に係る自動運転システム１００の構成の一例を示す図である。

図１に示すように、本実施形態に係る自動運転システム１００は、自動運転車両に搭載された車載装置１０と、自動運転支援センタに設けられた自動運転制御装置２０と、を備えている。

自動運転制御装置２０は、自動運転支援センタによる管理対象領域内の自動運転車両に対して遠隔支援を行う。なお、本実施形態では、自動運転車両として自家用の乗用車を例示して説明するが、例えば、トラック、バス、タクシー等の他の車両に適用してもよい。また、自動運転車両は、車両の制御や非常時に車両の制御を代替するために乗車する有人の場合も含む。さらに、車両の操舵の一部が自動で行われる車両も含む。

車載装置１０及び自動運転制御装置２０は、ネットワークＮを介して通信可能に接続されている。ネットワークＮには、一例として、インターネット、ＷＡＮ（Wide Area Network）等が適用される。

自動運転車両は、所定の条件下において運転者の操作によらず自動走行が可能な車両である。自動運転車両は、走行中に路上駐車、渋滞、工事等の何らかの異常事象が発生すると、追い越し又は待機という動作を行う。自動運転車両は、異常発生時等のように状況に応じて自動運転支援センタによって走行支援が行われる。

車載装置１０は、住所又は緯度経度等の目的地の情報に基づいて、目的地までの走行ルートを含む走行計画を生成する機能、及び、自車両の自動運転を制御する機能を備えている。車載装置１０は、ＣＰＵ（Central Processing Unit）１１と、メモリ１２と、表示部１３と、記憶部１４と、センサ群１５と、カメラ１６と、通信部１７と、を備えている。

ＣＰＵ１１は、プロセッサの一例である。ここでいうプロセッサとは、広義的なプロセッサを指し、汎用的なプロセッサ（例えば、ＣＰＵ）や、専用のプロセッサ（例えば、ＧＰＵ： Graphics Processing Unit、ＡＳＩＣ： Application Specific Integrated Circuit、ＦＰＧＡ： Field Programmable Gate Array、プログラマブル論理デバイス、等）を含むものである。メモリ１２は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等により構成されている。

表示部１３には、例えば、液晶ディスプレイ（ＬＣＤ:Liquid Crystal Display）、有機ＥＬ（Electro Luminescence）ディスプレイ等が用いられる。表示部１３は、タッチパネルを一体的に有していてもよい。

記憶部１４には、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等が用いられる。記憶部１４には、自動運転の制御を行うための制御プログラム（図示省略）が記憶されている。

センサ群１５は、自車両の周囲の状況を把握するための各種のセンサにより構成されている。センサ群１５は、車両外部の所定範囲に探査波を送信するミリ波レーダと、少なくとも車両前方の所定範囲をスキャンするＬＩＤＡＲ（Light Detection and Ranging/Laser Imaging Detection and Ranging）と、を含んでいる。また、センサ群１５には、自車両に搭載されるＧＮＳＳ（Global Navigation Satellite System）受信機が含まれていてもよい。このＧＮＳＳ受信機により、自車両の現在位置及び現在時刻等の情報が取得される。

カメラ１６は、自車両の所定方向の所定範囲を撮影する。具体的に、カメラ１６は、自車両の全周囲に設けられており、自車両の全周囲領域を撮影する。カメラ１６は、１台でもよいが、より多くの情報を得るために複数個所に複数台設けられていてもよい。

通信部１７は、インターネット、ＷＡＮ等のネットワークＮに接続し、自動運転制御装置２０と通信を行うための通信インターフェースである。

なお、車載装置１０は、自動運転に必要な走行装置（図示省略）と接続されており、この走行装置を制御することで自動運転を行う。この走行装置には、一例として、電動パワーステアリング、電子制御ブレーキ、電子制御スロットル等が含まれる。

車載装置１０は、自車両の走行計画に従って自動運転するように自車両の駆動、操舵、及び制動を制御することで自動運転を行う。なお、自動運転の方法自体には、様々な公知の方法が存在し、本実施形態では特に限定されるものではない。

一方、自動運転制御装置２０は、自動運転車両の車載装置１０と定期的に通信することにより自動運転車両の車両状態を監視する。自動運転制御装置２０には、一例として、サーバコンピュータ、パーソナルコンピュータ（ＰＣ：Personal Computer）等の汎用的なコンピュータ装置が適用される。自動運転制御装置２０は、ＣＰＵ２１と、メモリ２２と、操作部２３と、表示部２４と、記憶部２５と、通信部２６と、を備えている。

ＣＰＵ２１は、プロセッサの一例である。ここでいうプロセッサとは、上述したように、広義的なプロセッサを指し、汎用的なプロセッサや、専用のプロセッサを含むものである。メモリ２２は、ＲＯＭ、ＲＡＭ等により構成されている。

操作部２３は、自動運転制御装置２０への操作入力を受け付けるためのインターフェースとして構成されている。表示部２４には、例えば、液晶ディスプレイ（ＬＣＤ）、有機ＥＬディスプレイ等が用いられる。表示部２４は、タッチパネルを一体的に有していてもよい。

記憶部２５には、例えば、ＨＤＤ、ＳＳＤ、フラッシュメモリ等が用いられる。記憶部２５には、本実施形態に係る自動運転制御プログラム２５Ａが記憶されている。自動運転制御プログラム２５Ａは、例えば、自動運転制御装置２０に予めインストールされていてもよい。自動運転制御プログラム２５Ａは、不揮発性の非遷移的（non-transitory）記録媒体に記憶して、又はネットワークＮを介して配布して、自動運転制御装置２０に適宜インストールすることで実現してもよい。なお、不揮発性の非遷移的記録媒体の例としては、ＣＤ-ＲＯＭ（Compact Disc Read Only Memory）、光磁気ディスク、ＨＤＤ、ＤＶＤ-ＲＯＭ（Digital Versatile Disc Read Only Memory）、フラッシュメモリ、メモリカード等が想定される。

通信部２６は、インターネット、ＷＡＮ等のネットワークＮに接続し、車載装置１０と通信を行うための通信インターフェースである。

ところで、上述したように、明らかな異常ではないが、自動運転車両の計画された走行又は最適な走行と異なる走行（つまり、いつもと異なる走行）を検出することが出来れば、自動運転制御プログラムの不具合等の問題の早期改善を図ることが可能となり、望ましい。

このため、本実施形態に係る車載装置１０のＣＰＵ１１は、記憶部１４に記憶されている制御プログラムをＲＡＭに書き込んで実行することにより、図２に示す各部として機能する。また、本実施形態に係る自動運転制御装置２０のＣＰＵ２１は、記憶部２５に記憶されている自動運転制御プログラム２５ＡをＲＡＭに書き込んで実行することにより、図２に示す各部として機能する。

図２は、第１の実施形態に係る車載装置１０及び自動運転制御装置２０の機能的な構成の一例を示すブロック図である。

図２に示すように、本実施形態に係る車載装置１０のＣＰＵ１１は、動作制御部１１Ａ、データ送信部１１Ｂ、及びデータ受信部１１Ｃとして機能する。

動作制御部１１Ａは、センサ群１５及びカメラ１６の各々の動作を制御する。動作制御部１１Ａは、センサ群１５から取得された時系列のセンサデータを記憶部１４に蓄積し、カメラ１６によって撮影して得られた時系列の画像データを記憶部１４に蓄積する。また、動作制御部１１Ａは、自己状態量を含む運転データを記憶部１４に蓄積する。自己状態量とは、自車両の状態を表すデータ群であり、例えば、アクセル、ステア、ブレーキ、加速度、速度、ヨーレート等の車両挙動、緯度・経度（位置情報）、時刻情報、車両角度、目標速度、プランニング結果等が含まれる。プランニング結果には、例えば、ミドル・レベル・プランナ（Middle Level Planner）の有限オートマトンの状態、ミドル・レベル・プランナ、ロー・レベル・プランナ（Low Level Planner）の候補軌道等が含まれる。また、動作制御部１１Ａは、カメラ１６によって撮影して得られた時系列の画像データ、又は、画像データ及びセンサデータから、障害物等を認識する認識部としても機能する。

データ送信部１１Ｂは、記憶部１４に蓄積された運転データを自動運転制御装置２０に通信部１７を介して送信する制御を行う。また、データ送信部１１Ｂは、記憶部１４に蓄積された画像データ、センサデータ、及び認識結果を自動運転制御装置２０に通信部１７を介して送信する制御を行う。

データ受信部１１Ｃは、自動運転制御装置２０からの運転データ、画像データ、センサデータ、及び認識結果等の送信の指示を、通信部１７を介して受信する制御を行う。

また、図２に示すように、本実施形態に係る自動運転制御装置２０のＣＰＵ２１は、運転データ収集部２１Ａ、運転軌道モデル生成部２１Ｂ、異常度判定部２１Ｃ、詳細データ収集部２１Ｄ、オペレータ提示部２１Ｅ、走行結果出力部２１Ｆ、学習部２１Ｇ、及び推測部２１Ｈとして機能する。

運転データ収集部２１Ａは、自動運転車両の車載装置１０から、自己状態量を含む運転データを定期的に収集し、収集した運転データをデータ・モデル蓄積データベース（以下、「データ・モデル蓄積ＤＢ」という。）２５Ｂに蓄積する。なお、このデータ・モデル蓄積ＤＢ２５Ｂは、一例として、記憶部２５に記憶されているが、外部の記憶装置に記憶されていてもよい。運転データ収集部２１Ａは、収集部の一例である。

運転軌道モデル生成部２１Ｂは、データ・モデル蓄積ＤＢ２５Ｂに蓄積された運転データに基づいて、自己状態量の特定の値を時系列で表す運転軌道モデルを生成する。具体的に、運転軌道モデル生成部２１Ｂは、期間（例えば、Ｎヶ月分）別又は区間（グリッド又はノード）別に自己状態量（例えば、アクセル、ステア、ブレーキ、加速度、速度、ヨーレート等の車両挙動、緯度・経度、時刻情報、車両角度、目標速度、プランニング結果等）を集計し、集計した自己状態量の代表値（例えば、平均、最大値、最小値、分散等）を算出する。なお、グリッドには、例えば、ジオハッシュ（geohash）が用いられる。代表値の算出は、例えば、グリッド内でトリップ毎に自己状態量に対して実施する。これを１サンプルとする。なお、トリップとは、例えば、１台の自動運転車両のイグニッションＯＮからイグニッションＯＦＦまでの一連の走行を１トリップとする。また、トリップは、指定されたコースの１周を１トリップとしてもよい。自己状態量には、予め定められた方法（例えば、事前に収集した各挙動の最大値、最小値、あるいは平均、分散を利用する。）で正規化処理、主成分分析による白色化処理を行う。運転軌道モデル生成部２１Ｂは、生成部の一例である。

具体的に、運転軌道モデル生成部２１Ｂは、自己状態量の特定の値として、予め計画されたデジタル地図上の参照軌道に対する、候補とされた走行軌道又は実際の走行軌道の時系列のずれを表すオフセット値を求め、求めたオフセット値を所定の領域（例えば、グリッド）内で集計することにより自己状態量の代表値を算出する。

図３を参照して、プランニング結果（すなわち、自己状態量）の代表値を算出する処理について具体的に説明する。

図３は、本実施形態に係るプランニング結果代表値算出処理の説明に供する図である。

図３に示すように、プランニング結果代表値算出処理の一例としては、プランナが参照するデジタル地図上の参照軌道（例えば、走行車線の中心位置等）と、過去の候補軌道、検出対象の候補軌道（総称して「候補軌道」という。）又は実際の走行軌道（実軌道）とを用いて時刻ｔにおける車線中心位置からの時系列的なオフセット値ｄ（ｔ）を求める。求めたオフセット値ｄ（ｔ）に基づいて、各グリッド内で集計し代表値ｘ_ｄを算出する。時系列的なオフセット値を算出する方法としては、グリッド内での参照軌道と、候補軌道又は実軌道との距離をＤＴＷ（Dynamic Time Warping）等を用いて算出し、算出した距離を用いても良い。また、角度を用いる場合は、実際の車両角度とプランナの角度の偏差θ（ｔ）についても同様に求めて利用しても良い。このようにして得られた自己状態量に基づく代表値ｘ_ｄを並べたものを、下記に示すように、特徴ベクトルｘとして表現する。但し、Ｔは転置行列を示す。

ｘ＝（ｘ_１、ｘ_２、ｘ_３、・・・、ｘ_ｄ）^Ｔ

プランナは、同一環境下では安定した運転軌道を計画するため、プランニング結果（自己状態量）を場所ごとに運転軌道モデル化することにより、いつもと異なる運転軌道を抽出し易くなる。

運転軌道モデル生成部２１Ｂは、運転軌道モデルを、自動運転車両の車両別に生成してもよいし、自動運転車両の自動運転を制御するプログラムのバージョン別に生成してもよい。例えば、同一種類の自動運転車両であっても車両本体、センサの特性等が車両間で異なる場合があり、車両別に運転軌道モデルを生成しておけば、経年劣化、故障等を検知し易くなる。また、プログラム（ソフトウェア）のバージョン別に運転軌道モデルを生成しておけば、プログラムの改変によって生じた運転軌道の変化を検知し易くなる。

図４は、自動運転の速度と手動運転の速度との比較例を示す図である。図４において、横軸は時間を示し、縦軸は速度を示す。

図４に示すように、自動運転では目標速度に対して安定した出力を示すのに対して、手動運転では出力のばらつきが大きい。このことから、自動運転では、目標速度に合った運転であるいつもの運転からずれた運転を容易に抽出することができる。

異常度判定部２１Ｃは、運転軌道モデル生成部２１Ｂにより生成された運転軌道モデルから得られる基準運転軌道と、自動運転車両についての評価対象運転軌道とを比較し、これら基準運転軌道と評価対象運転軌道とのずれの度合いとして表される異常度を判定する。基準運転軌道は、基準となる運転軌道を表し、評価対象運転軌道は、評価対象とする運転軌道を表す。具体的に、異常度判定部２１Ｃは、グリッド別に作成したいつもの運転軌道（基準運転軌道）を示す特徴量と、評価対象運転軌道を示す特徴量とを比較し、これらの類似度を算出する。評価対象運転軌道を示す特徴量は、例えば、１日の走行終了後の１トリップについての特徴量でも良いし、現在の走行についての特徴量でも良い。

基準運転軌道と評価対象運転軌道との比較には、一例として、図５に示すユークリッド距離が用いられる。この場合、ユークリッド距離が短いほど、類似度が高くなる、つまり、異常度は低くなる。

図５は、本実施形態に係る異常度判定処理の説明に供する図である。

図５に示すように、ユークリッド距離を用いて、過去の運転軌道集合と、評価対象運転軌道との間の類似度を算出し、異常度（つまり、ずれの度合い）を判定する。例えば、予め異常のない運転軌道集合間で作成した類似度の平均距離を閾値として設定し、設定した閾値を超えたものを、ずれの度合いが大きい、すなわち、異常と判定する。

なお、類似度を算出する方法は、上記ユークリッド距離に限定されるものではない。例えば、ｋ近傍法、ＭＭＤ（Maximum Mean Discrepancy）、ＫＬ距離等を用いて比較してもよい。例えば、ｋ近傍法は、データの分布が複雑でも適切に評価できる等の特徴がある。基準運転軌道は、運転軌道モデルから場所（例えば、グリッド）毎に抽出された運転軌道の分布として表してもよい。ＭＭＤは、基準となる運転軌道群から計算された場所毎の分布と比較する方法の一例である。ＭＭＤを用いて、場所毎に抽出された基準運転軌道の分布に対する評価対象運転軌道のずれの度合いとして異常度を判定してもよい。ＭＭＤは、他の分布間距離尺度と比べ、任意の分布形状を考慮できる、計算が容易である等の特徴がある。また、例えば、特開２０１３-２５０６６３号公報等に記載の運転データの記号化技術を採用し、特開２０１４－２３５６０５号公報等に記載の運転トピック割合をグリッド別に抽出し、代表値の代わりにその運転トピック割合を用いて類似度の算出を行っても良い。

ＭＭＤで異常を検出する場合、代表値を算出せずに各時刻ｔにおける自己状態量の各変数を特徴ベクトル（＝１サンプル）として用いても良い。例えば、自己状態量の変数を、ｌａｔ、ｌｏｎ、ｖｅｌｏｃｉｔｙとした場合、特徴ベクトルｆ（ｔ）は、下記のように表される。

ｆ（ｔ）＝[ｌａｔ（ｔ）、ｌｏｎ（ｔ）、ｖｅｌｏｃｉｔｙ（ｔ）]

その他の手法として、局所区間ｇにおける自己状態量の標準偏差（ｓｉｇｍａ（ｇ））と平均（ｍｅａｎ（ｇ））の各々の代表値を抽出しておく。局所区間ｇには、例えば、ジオハッシュの桁数１０等、なるべく細かい局所区間を利用することが望ましい。一例として、速度の場合はＶｓｉｇｍａ（ｇ）、Ｖｍｅａｎ（ｇ）となる。具体的には、時刻ｔにおける局所区間ｇを特定し、自己状態量の代表値と比較する。一例として、図６に示すように、３σより大きい地点において、速度の時系列データをＶ（ｔ）とした場合、下記の関係を満たす場合に、異常と判定する。

Ｖ（ｔ）－Ｖｍｅａｎ（ｇ）＞３Ｖｓｉｇｍａ（ｇ）

図６は、本実施形態に係る別の異常度判定処理の説明に供する図である。図６において、横軸は時間を示し、縦軸は速度を示す。

図６に示すように、分布３０は１σの分布を示し、曲線３１は実際に観測されたＶ（ｔ）の時系列データを示し、点３２は３σより大きい点、つまり、閾値を超えた点を示す。

詳細データ収集部２１Ｄは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合、車載装置１０から画像データ、センサデータ、及び認識結果を詳細データとして収集する。具体的には、異常度を判定したときの自動運転車両、場所、時刻が特定できるため、該当する自動運転車両の車載装置１０に対して、関連するグリッド内の詳細データをアップロードするように指示を出す。これにより全ての時刻の詳細データを収集する必要がなく、該当する時刻の詳細データのみを選択的に収集することができる。

オペレータ提示部２１Ｅは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合に、オペレータに対して、異常度を判定したときの画像データを提示し、オペレータから異常の有無及び要因を含む判定結果の入力を受け付ける。なお、オペレータに対して、画像データに加えてセンサデータ及び認識結果を提示してもよい。判定結果には、発生事象を含んでもよい。オペレータ提示部２１Ｅは、オペレータから入力された異常の有無及び要因を含む判定結果をラベル（正解ラベル）として運転データに対応付けてデータ・モデル蓄積ＤＢ２５Ｂに蓄積する。データ・モデル蓄積ＤＢ２５Ｂには、例えば、運転データ、詳細データ、異常度、及びラベル等を登録しておく。

走行結果出力部２１Ｆは、オペレータから入力を受け付けた異常の有無及び要因を含むレポートデータを出力する。レポートデータは、例えば、日毎、月毎のように定期的に出力される。レポートデータの出力先は、例えば、運行事業者、開発者、又は道路管理者等とされる。走行結果出力部２１Ｆは、出力部の一例である。

ここで、学習用データが十分蓄積されれば、オペレータによる確認ではなく、人工知能（ＡＩ：Artificial Intelligence）を用いて、異常の有無及び要因を推測してもよい。学習部２１Ｇは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合に、異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットを学習用データとして、機械学習により学習された人工知能を生成する。なお、機械学習の手法は、特に限定されるものではないが、例えば、ニューラルネットワーク、ランダムフォレスト、サポートベクタマシン等が挙げられる。

推測部２１Ｈは、学習部２１Ｇにより生成された人工知能を用いて、異常の有無及び要因を推測する。この場合、走行結果出力部２１Ｆは、推測部２１Ｈにより推測された異常の有無及び要因を含むレポートデータを出力する。

また、データセットが十分蓄積されれば、オペレータによる確認ではなく、ユーザが定義したルールベースを用いて、異常の有無及び要因を推測してもよい。この場合、推測部２１Ｈは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合に、異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットからユーザが定義したルールベースを用いて、異常の有無及び要因を推測する。走行結果出力部２１Ｆは、上記と同様に、推測部２１Ｈにより推測された異常の有無及び要因を含むレポートデータを出力する。

次に、図７を参照して、第１の実施形態に係る自動運転制御装置２０による異常度判定処理の全体像について説明する。

図７は、第１の実施形態に係る自動運転制御装置２０による異常度判定処理の全体像の説明に供する図である。

本実施形態では、上述したように、自動運転車両の運転軌道を決定するプランナが同じ環境下（場所又は区間）では、同じ運転軌道を計画することを利用する。

図７に示すように、ある区間（例えば、グリッド）について、自動運転車両（例えば、車両ＩＤ＝１）の運転軌道モデル（＝過去の運転軌道集合）から得られる基準運転軌道と、自動運転車両（例えば、車両ＩＤ＝１）の評価対象運転軌道とを比較し、基準運転軌道、つまり、いつもの運転軌道とのずれの度合いを表す異常度を、類似度を用いて判定する。異常度の判定結果は、例えば、基準運転軌道及び評価対象運転軌道を鳥観図で可視化して表現してもよい。図７の例では、評価対象運転軌道が走行方向に向かって基準運転軌道よりも左側によっており、いつもより左側によって走行していることが分かる。

次に、図８及び図９を参照して、第１の実施形態に係る自動運転制御装置２０の作用を説明する。

図８は、第１の実施形態に係る自動運転制御プログラム２５Ａによる異常度判定処理の流れの一例を示すフローチャートである。

まず、自動運転制御装置２０に対して異常度判定処理の実行が指示されると、自動運転制御プログラム２５Ａが起動され、以下の各ステップを実行する。

図８のステップＳ１０１では、ＣＰＵ２１が、評価対象車両及び時刻範囲（例えば、１日前～７日前）をキーとしてトリップを抽出する。なお、トリップは、例えば、１台の車両のイグニッションＯＮからイグニッションＯＦＦまでの一連の走行を１トリップとする。

ステップＳ１０２では、ＣＰＵ２１が、ステップＳ１０１で抽出したトリップからグリッド（場所又は区間）を抽出する。なお、グリッドには、上述したように、例えば、ジオハッシュが用いられる。

ステップＳ１０３では、ＣＰＵ２１が、ステップＳ１０２で抽出したグリッド及び時刻範囲をキーとして過去の運転データを抽出する。なお、過去の運転データには、自動運転車両の自己状態量が含まれる。自己状態量には、上述したように、一例として、アクセル、ステア、ブレーキ、加速度、速度、ヨーレート等の車両挙動、緯度・経度（位置情報）、時刻情報、車両角度、目標速度、プランニング結果等が含まれる。

ステップＳ１０４では、ＣＰＵ２１が、グリッド内のトリップ毎に自己状態量の項目別に代表値を時系列で算出する。なお、代表値には、上述したように、一例として、平均、分散、最大値、最小値等が用いられる。

ステップＳ１０５では、ＣＰＵ２１が、トリップ毎に抽出された自己状態量の代表値の時系列データをベクトル化する。これにより、運転軌道を表すベクトル（特徴量）が生成される。なお、トリップ毎に抽出されたベクトルを１サンプルとする。

ステップＳ１０６では、ＣＰＵ２１が、評価対象サンプル（ｉ＝１；ｉ＜サンプル数；ｉ＋＋）を設定する。

ステップＳ１０７では、ＣＰＵ２１が、評価対象サンプルについて、ｉ＝１をセットする。

ステップＳ１０８では、ＣＰＵ２１が、評価対象の運転軌道のベクトルと、過去の運転軌道のベクトルとで距離を計算する。

ステップＳ１０９では、ＣＰＵ２１が、評価対象サンプルについて、ｉをインクリメントする。

ステップＳ１１０では、ＣＰＵ２１が、終了条件（ｉ＝Ｉ（Ｉ：対象サンプル数））を満たすか否かを判定する。終了条件を満たすと判定した場合（肯定判定の場合）、ステップＳ１１１に移行し、終了条件を満たさないと判定した場合（否定判定の場合）、ステップＳ１０８に戻り処理を繰り返す。

ステップＳ１１１では、ＣＰＵ２１が、評価対象サンプルの距離計算結果の平均を算出する。

一方、ステップＳ１１２では、ＣＰＵ２１が、過去のサンプル（ｊ＝１；ｊ＜サンプル数；ｊ＋＋）を設定する。

ステップＳ１１３では、ＣＰＵ２１が、過去のサンプルについて、ｊ＝１をセットする。

ステップＳ１１４では、ＣＰＵ２１が、過去の運転軌道のベクトル同士で距離を計算する。

ステップＳ１１５では、ＣＰＵ２１が、過去のサンプルについて、ｊをインクリメントする。

ステップＳ１１６では、ＣＰＵ２１が、終了条件（ｊ＝Ｊ（Ｊ：対象サンプル数））を満たすか否かを判定する。終了条件を満たすと判定した場合（肯定判定の場合）、ステップＳ１１７に移行し、終了条件を満たさないと判定した場合（否定判定の場合）、ステップＳ１１４に戻り処理を繰り返す。

ステップＳ１１７では、ＣＰＵ２１が、距離計算結果の平均を算出し、これを閾値とする。

ステップＳ１１８では、ＣＰＵ２１が、ステップＳ１１１で算出した、評価対象サンプルの距離計算平均が、ステップＳ１１７で算出した閾値よりも大きいか否かを判定する。評価対象サンプルの距離計算平均が閾値よりも大きいと判定した場合（肯定判定の場合）、ステップＳ１１９に移行し、評価対象サンプルの距離計算平均が閾値以下であると判定した場合（否定判定の場合）、本自動運転制御プログラム２５Ａによる異常度判定処理を終了する。

ステップＳ１１９では、ＣＰＵ２１が、ステップＳ１１８で比較した結果が異常を示すと判定し、本自動運転制御プログラム２５Ａによる異常度判定処理を終了する。

図９は、第１の実施形態に係る自動運転制御プログラム２５Ａによるレポート出力処理の流れの一例を示すフローチャートである。

まず、自動運転制御装置２０に対してレポート出力処理の実行が指示されると、自動運転制御プログラム２５Ａが起動され、以下の各ステップを実行する。なお、レポート出力処理は、図８で説明した異常度判定処理から連続的に実行されてもよい。

図９のステップＳ１２１では、ＣＰＵ２１が、上述の図８で説明した異常度判定処理の結果が異常であるか否かを判定する。異常であると判定した場合（肯定判定の場合）、ステップＳ１２２に移行し、異常ではないと判定した場合（否定判定の場合）、ステップＳ１２１で待機となる。

ステップＳ１２２では、ＣＰＵ２１が、異常と判定された自動運転車両から画像データ、センサデータ、及び認識結果を含む詳細データを収集し、オペレータに対して、収集した詳細データを提示する。

ステップＳ１２３では、ＣＰＵ２１が、オペレータから異常の有無及び要因の入力を受け付ける。なお、学習用データが十分に蓄積されていれば、異常の有無及び要因は、上述した人工知能を用いて推測してもよいし、データセットが十分に蓄積されていれば、異常の有無及び要因は、上述したルールベースを用いて推測してもよい。

ステップＳ１２４では、ＣＰＵ２１が、ステップＳ１２３でオペレータから入力を受け付けた、異常の有無及び要因を含む入力結果を、データ・モデル蓄積ＤＢ２５Ｂに蓄積する。

ステップＳ１２５では、ＣＰＵ２１が、オペレータから入力を受け付けた異常の有無及び要因を含むレポートデータを出力し、本自動運転制御プログラム２５Ａによるレポート出力処理を終了する。なお、レポートデータは、例えば、日毎、月毎のように定期的に出力される。レポートデータの出力先は、例えば、運行事業者、開発者、又は道路管理者等とされる。

次に、図１０～図１２を参照して、オペレータによる異常の有無及び要否の判定処理（以下、「オペレータ判定処理」という。）について具体的に説明する。

図１０は、本実施形態に係るオペレータ判定処理の説明に供する図である。

（Ｓ１）では、自動運転車両が、自動運転支援センタの自動運転制御装置２０に対して、運転データを定期的に送信する。

（Ｓ２）では、自動運転制御装置２０のＣＰＵ２１が、自動運転車両からの運転データに基づいて、運転軌道の異常を検知し、検知結果をデータ・モデル蓄積ＤＢ２５Ｂに蓄積する。

（Ｓ３）では、自動運転制御装置２０のＣＰＵ２１が、オペレータに対して、複数の異常データをリスト化した異常リストを提示し、オペレータから異常データの選択を受け付ける。

（Ｓ４）では、自動運転制御装置２０のＣＰＵ２１が、オペレータに対して、上記（Ｓ３）で選択を受け付けた異常データについての実際の運転軌道及び認識結果を重畳して表示する制御を行う。つまり、全ての認識結果を確認するのは困難であるため、運転軌道に異変があったシーンに注目して認識結果を確認することができる。

（Ｓ５）では、自動運転制御装置２０のＣＰＵ２１が、オペレータから異常の確認及び確認結果の選択を受け付ける。

（Ｓ６）では、自動運転制御装置２０のＣＰＵ２１が、開発者へ不具合事例を通知する。

（Ｓ７）では、自動運転制御装置２０のＣＰＵ２１が、該当データをデータ・モデル蓄積ＤＢ２５Ｂに保存する。

図１０に示すように、収集した詳細データとして、車載カメラ映像（画像データ）及び認識結果を重畳して表示することにより種々の異常を検知することが出来る。例えば、映像中で歩行者が飛び出していないにもかかわらず、その時点で歩行者がいると認識されていれば認識プログラムの誤検知による運転軌道と判断することが出来る。自動運転車両の自身の認識結果を全て確認することは困難であるが、このように挙動に異変があったシーンに着目することで特に致命的な誤検知、未検知、あるいは、センサ故障を検出することが出来る。

図１１は、本実施形態に係る別のオペレータ判定処理の説明に供する図である。

（Ｓ１１）では、自動運転車両が、自動運転支援センタの自動運転制御装置２０に対して、運転データを定期的に送信する。

（Ｓ１２）では、自動運転制御装置２０のＣＰＵ２１が、自動運転車両からの運転データに基づいて、運転軌道の異常を検知し、検知結果をデータ・モデル蓄積ＤＢ２５Ｂに蓄積する。

（Ｓ１３）では、自動運転制御装置２０のＣＰＵ２１が、オペレータに対して、複数の異常データをリスト化した異常リストを提示し、オペレータから異常データの選択を受け付ける。

（Ｓ１４）では、自動運転制御装置２０のＣＰＵ２１が、オペレータに対して、上記（Ｓ１３）で選択を受け付けた異常データについての実際の運転軌道及び認識結果を重畳して表示する制御を行う。つまり、全ての認識結果を確認するのは困難であるため、運転軌道に異変があったシーンに注目して認識結果を確認することができる。

（Ｓ１５）では、自動運転制御装置２０のＣＰＵ２１が、オペレータから異常の確認及び確認結果の選択を受け付ける。

（Ｓ１６）では、自動運転制御装置２０のＣＰＵ２１が、開発者へ不具合事例を通知する。

（Ｓ１７）では、自動運転制御装置２０のＣＰＵ２１が、該当データをデータ・モデル蓄積ＤＢ２５Ｂに保存する。

図１１に示すように、実際の運転軌道と計画軌道とを重畳して表示することで、自動運転車両自体の不具合の疑いを検出することが出来る。例えば、タイヤがパンクしていた場合、計画軌道に対して実際の運転軌道が正しく追従できない可能性がある。

図１２は、本実施形態に係る更に別のオペレータ判定処理の説明に供する図である。

（Ｓ２１）では、自動運転車両が、自動運転支援センタの自動運転制御装置２０に対して、運転データを定期的に送信する。

（Ｓ２２）では、自動運転制御装置２０のＣＰＵ２１が、自動運転車両からの運転データに基づいて、運転軌道の異常を検知し、検知結果をデータ・モデル蓄積ＤＢ２５Ｂに蓄積する。

（Ｓ２３）では、自動運転制御装置２０のＣＰＵ２１が、オペレータに対して、複数の異常データをリスト化した異常リストを提示し、オペレータから異常データの選択を受け付ける。

（Ｓ２４）では、自動運転制御装置２０のＣＰＵ２１が、オペレータに対して、上記（Ｓ２３）で選択を受け付けた異常データについての実際の運転軌道及び認識結果を重畳して表示する制御を行う。つまり、全ての認識結果を確認するのは困難であるため、運転軌道に異変があったシーンに注目して認識結果を確認することができる。

（Ｓ２５）では、自動運転制御装置２０のＣＰＵ２１が、オペレータから異常の確認及び確認結果の選択を受け付ける。

（Ｓ２６）では、自動運転制御装置２０のＣＰＵ２１が、開発者へ不具合事例を通知する。

（Ｓ２７）では、自動運転制御装置２０のＣＰＵ２１が、該当データをデータ・モデル蓄積ＤＢ２５Ｂに保存する。

図１２に示すように、カメラ映像と共に、認識結果及び運転軌道を鳥観図として表示することで、想定していない物標の影響による運転軌道を抽出することが出来る。図１２の例では、路側帯に植木がはみ出ており、車線中央を走れないことが重畳結果とカメラ映像を見ることによって把握される。

このように本実施形態によれば、基準運転軌道と評価対象運転軌道とのずれの度合いとして表される異常度が判定される。これにより、自動運転において明らかな異常ではないが、計画された走行又は最適な走行からずれた走行が判定される。

また、異常の有無及び要因を含むレポートが開発者等の関係者に提供されるため、自動運転車両自身では気づかなかった不具合事例を改善することができる。

また、不具合ではなくとも、いつもと異なる複雑な運転操作が必要なシーン（例えば、飛び出した歩行者の緊急回避等）を検出し、適切に環境を認識し適切なマージンを取った走行ができていることのエビデンスを示すことができる。

[第２の実施形態]
上記第１の実施形態では、基準運転軌道と評価対象運転軌道とのずれの度合いとして表される異常度を判定する形態について説明した。第２の実施形態では、基準運転軌道と評価対象運転軌道とのずれの度合いとして表される異常度を判定し、更に、異常度が異常を示す運転軌道に対して学習器を適用し、重要な異常を判定する形態について説明する。

図１３は、第２の実施形態に係る自動運転制御装置２０Ａ及び車載装置１０の機能的な構成の一例を示すブロック図である。これら自動運転制御装置２０Ａ及び車載装置１０により自動運転システム１００Ａが構成される。

本実施形態に係る自動運転制御装置２０ＡのＣＰＵ２１は、記憶部２５に記憶されている自動運転制御プログラム２５ＡをＲＡＭに書き込んで実行することにより、図１３に示す各部として機能する。また、本実施形態に係る車載装置１０のＣＰＵ１１は、記憶部１４に記憶されている制御プログラムをＲＡＭに書き込んで実行することにより、図１３に示す各部として機能する。

図１３に示すように、本実施形態に係る自動運転制御装置２０ＡのＣＰＵ２１は、運転データ収集部２１Ａ、運転軌道モデル生成部２１Ｂ、異常度判定部２１Ｃ、詳細データ収集部２１Ｄ、オペレータ提示部２１Ｅ、走行結果出力部２１Ｆ、推測部２１Ｈ、検出部２１Ｊ、及び学習部２１Ｋとして機能する。なお、本実施形態に係る自動運転制御装置２０Ａでは、上記第１の実施形態で説明した自動運転制御装置２０が有する構成要素と同じ構成要素には同じ符号を付し、その繰り返しの説明は省略する。

また、本実施形態に係る車載装置１０のＣＰＵ１１は、動作制御部１１Ａ、データ送信部１１Ｂ、及びデータ受信部１１Ｃとして機能する。なお、本実施形態に係る車載装置１０では、上記第１の実施形態で説明した車載装置１０が有する構成要素と同じ構成要素を有しているため、その繰り返しの説明は省略する。

オペレータ提示部２１Ｅは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合に、オペレータに対して、異常度を判定したときの画像データを提示し、オペレータから異常の有無及び要因の入力を受け付ける。この場合、学習部２１Ｋは、オペレータから入力を受け付けた要因をラベルとして、評価対象運転軌道の分類を機械学習して学習器を生成する。具体的に、データ・モデル蓄積ＤＢ２５Ｂに蓄積された詳細データ、運転データ、及びラベルに基づいて、重要な異常（例えば、車両妨害等）を識別するための学習器を生成する。

図１４は、本実施形態に係るクラスタリング処理の説明に供する図である。

図１４の例は、上記第１の実施形態で説明した異常度判定処理における評価対象運転軌道の自己状態量を表す特徴量を２次元に写像し、可視化、クラスタリングした例を示している。これによれば、特定の動作がクラスタとなって現れることが分かる。学習部２１Ｋでは、評価対象とされる運転軌道の自己状態量を表す特徴量、発生事象、及びその要因ラベルを組として学習器を構築する。学習器の機械学習には、例えば、ニューラルネットワーク等を用いれば良い。こうすることで、運転データに含まれる自己状態量を表す特徴量を分類することが可能になる。

検出部２１Ｊは、学習部２１Ｋにより得られた学習器を用いて、要因として示される重要な異常を検出する。すなわち、上記第１の実施形態で説明した異常度判定処理で異常を示す運転軌道をフィルタリングする。その後、異常を示す運転軌道に絞って学習器を適用する。このとき、事前に学習器で判定するラベルに対して、オペレータへの即時通知が必要か否かを登録しておく。これにより、登録されたラベルの運転軌跡が識別された場合に即時に通知し注意を促すことが出来る。また、このように構成することでオペレータの判断を不要とし、自動で異常要因の推定が行えるようになる。

また、推測部２１Ｈは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合に、異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットを学習用データとして、機械学習により学習された人工知能を用いて、異常の有無及び要因を推測してもよい。この場合、検出部２１Ｊは、推測部２１Ｈにより推測された要因をラベルとして、評価対象運転軌道の分類を機械学習して得られた学習器を用いて、要因として示される重要な異常を検出する。

また、推測部２１Ｈは、異常度判定部２１Ｃにより異常度が異常を示すと判定された場合に、異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットからユーザが定義したルールベースを用いて、異常の有無及び要因を推測してもよい。この場合、検出部２１Ｊは、推測部２１Ｈにより推測された要因をラベルとして、評価対象運転軌道の分類を機械学習して得られた学習器を用いて、要因として示される重要な異常を検出する。具体的に、学習器を用いて、評価対象運転軌道の自己状態量を表す特徴量を分類し、上述の図１４に示すように、分類に対応する要因として示される重要な異常を検出する。

ここで、詳細データ収集部２１Ｄは、検出部２１Ｊにより特定の異常事象が検出された場合、オペレータが映像を確認するために、自動運転車両に対して、圧縮済みのカメラ映像を送信するように要求する。これにより、即時に認識結果とカメラ映像との対比確認が可能となる。

オペレータ提示部２１Ｅは、一例として、図１５に示すように、検出部２１Ｊにより検出された特定の異常事象、及び、詳細データ収集部２１Ｄにより収集されたカメラ映像をオペレータに提示する。

図１５は、本実施形態に係るオペレータ判定処理の説明に供する図である。

（Ｓ３１）では、自動運転車両が、自動運転支援センタの自動運転制御装置２０Ａに対して、運転データを定期的に送信する。また、自動運転車両は、自動運転制御装置２０Ａで異常が検知された場合に、自動運転制御装置２０Ａからの要求に応じて、圧縮済みカメラ映像を送信する。

（Ｓ３２）では、自動運転制御装置２０ＡのＣＰＵ２１が、自動運転車両からの運転データに基づいて、運転軌道の異常を検知し、検知結果をデータ・モデル蓄積ＤＢ２５Ｂに蓄積する。

（Ｓ３３）では、自動運転制御装置２０ＡのＣＰＵ２１が、自動運転支援センタのオペレータに対して、カメラ映像と共に異常を通知する。

（Ｓ３４）では、自動運転制御装置２０ＡのＣＰＵ２１が、オペレータに対して、上記（Ｓ３３）で通知した異常についての実際の運転軌道及び認識結果を重畳して表示する制御を行う。

（Ｓ３５）では、自動運転制御装置２０ＡのＣＰＵ２１が、オペレータから異常の確認及び確認結果の選択を受け付ける。

（Ｓ３６）では、自動運転制御装置２０ＡのＣＰＵ２１が、開発者、道路管理者へ不具合事例を通知する。

（Ｓ３７）では、自動運転制御装置２０ＡのＣＰＵ２１が、該当データをデータ・モデル蓄積ＤＢ２５Ｂに保存する。

図１５に示すように、オペレータは実際の運転軌道、認識結果、及びカメラ映像を確認することによって現在どのような異常が発生しているかを判定することが出来る。これにより、例えば、ハッキング、車両妨害等の走行に影響を及ぼす重要な事象の発見と対応が可能になる。

図１６は、本実施形態に係る別のオペレータ判定処理の説明に供する図である。

（Ｓ４１）では、自動運転車両が、自動運転支援センタの自動運転制御装置２０Ａに対して、運転データを定期的に送信する。また、自動運転車両は、自動運転制御装置２０Ａで異常が検知された場合に、自動運転制御装置２０Ａからの要求に応じて、圧縮済みカメラ映像を送信する。

（Ｓ４２）では、自動運転制御装置２０ＡのＣＰＵ２１が、自動運転車両からの運転データに基づいて、運転軌道の異常を検知する。

（Ｓ４３）では、自動運転制御装置２０ＡのＣＰＵ２１が、自動運転支援センタのオペレータに対して、異常を通知する。

（Ｓ４４）では、自動運転制御装置２０ＡのＣＰＵ２１が、オペレータに対して、上記（Ｓ４３）で通知した異常についての実際の運転軌道及び認識結果を重畳して表示する制御を行う。

（Ｓ４５）では、自動運転制御装置２０ＡのＣＰＵ２１が、オペレータから異常の確認及び確認結果の選択を受け付ける。

（Ｓ４６）では、自動運転制御装置２０ＡのＣＰＵ２１が、道路管理者へ不具合事例を通知する。

（Ｓ４７）では、自動運転制御装置２０ＡのＣＰＵ２１が、該当データをデータ・モデル蓄積ＤＢ２５Ｂに保存する。

図１６に示すように、オペレータによって重要な異常と判定された事象が即時に開発者、道路事業者、あるいは警察などへ通知される。図１６の例は、走行妨害、例えば、歩行者と認識して減速したが実際は歩行者ではなかった（例えば、マネキン等の落下物であった）場合の例である。

図１７は、第２の実施形態に係る自動運転制御プログラム２５Ａによる学習器生成処理の流れの一例を示すフローチャートである。

まず、自動運転制御装置２０Ａに対して学習器生成処理の実行が指示されると、自動運転制御プログラム２５Ａが起動され、以下の各ステップを実行する。なお、学習器生成処理は、上述の図８で説明した異常度判定処理から連続的に実行されてもよい。

図１７のステップＳ１３１では、ＣＰＵ２１が、上述の図８で説明した異常度判定処理の結果が異常であるか否かを判定する。異常であると判定した場合（肯定判定の場合）、ステップＳ１３２に移行し、異常ではないと判定した場合（否定判定の場合）、ステップＳ１３１で待機となる。

ステップＳ１３２では、ＣＰＵ２１が、異常と判定された自動運転車両から画像データ、センサデータ、及び認識結果を含む詳細データを収集し、オペレータに対して、収集した詳細データを提示する。

ステップＳ１３３では、ＣＰＵ２１が、オペレータから異常の有無及び要因の入力を受け付ける。なお、学習用データが十分に蓄積されていれば、異常の有無及び要因は、上述した人工知能を用いて推測してもよいし、データセットが十分に蓄積されていれば、異常の有無及び要因は、上述したルールベースを用いて推測してもよい。

ステップＳ１３４では、ＣＰＵ２１が、ステップＳ１３３でオペレータから入力を受け付けた、異常の有無及び要因を含む入力結果を、データ・モデル蓄積ＤＢ２５Ｂに蓄積する。

ステップＳ１３５では、ＣＰＵ２１が、オペレータから入力を受け付けた要因をラベルとして、評価対象運転軌道の分類を機械学習して学習器を生成する。具体的に、データ・モデル蓄積ＤＢ２５Ｂに蓄積された詳細データ、運転データ、及びラベルに基づいて、重要な異常を識別するための学習器を生成する。

ステップＳ１３６では、ＣＰＵ２１が、学習器のラベルに即時通知の要否を登録し、本自動運転制御プログラム２５Ａによる学習器生成処理を終了する。

図１８は、第２の実施形態に係る自動運転制御プログラム２５Ａによる即時通知処理の流れの一例を示すフローチャートである。

まず、自動運転制御装置２０Ａに対して即時通知処理の実行が指示されると、自動運転制御プログラム２５Ａが起動され、以下の各ステップを実行する。

図１８のステップＳ１４１では、ＣＰＵ２１が、上述の図８で説明した異常度判定処理の結果が異常であるか否かを判定する。異常であると判定した場合（肯定判定の場合）、ステップＳ１４２に移行し、異常ではないと判定した場合（否定判定の場合）、ステップＳ１４１で待機となる。

ステップＳ１４２では、ＣＰＵ２１が、上述の学習器を用いて、評価対象運転軌道の自己状態量を表す特徴量を分類し、分類に対応する要因として示される重要な異常を検出する。

ステップＳ１４３では、ＣＰＵ２１が、上記要因に即時通知が必要か否かを判定する。即時通知が必要と判定した場合（肯定判定の場合）、ステップＳ１４４に移行し、即時通知が必要ではないと判定した場合（否定判定の場合）、本自動運転制御プログラム２５Ａによる即時通知処理を終了する。

ステップＳ１４４では、ＣＰＵ２１が、異常と判定された自動運転車両から画像データ、センサデータ、及び認識結果を含む詳細データを収集し、オペレータに対して、収集した詳細データを提示する。

ステップＳ１４５では、ＣＰＵ２１が、オペレータから判定結果の入力を受け付ける。

ステップＳ１４６では、ＣＰＵ２１が、オペレータからの判定結果に応じて、開発者。道路事業者、又は警察等に即時通知を行い、本自動運転制御プログラム２５Ａによる即時通知処理を終了する。

このように本実施形態によれば、基準運転軌道と評価対象運転軌道とのずれの度合いとして表される異常度が判定され、更に、異常度が異常を示す評価対象運転軌道に対して学習器が適用される。学習器を用いて重要な異常が検出された場合に、開発者、道路事業者等に即時に通知することができる。

以上の実施形態に関し、更に以下の付記を開示する。

（付記項１）
メモリと、
少なくとも１つのプロセッサと、
を含み、
前記プロセッサは、
予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集し、
前記収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成し、
前記生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する、
ように構成されている自動運転制御装置。

（付記項２）
コンピュータを、
予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部、
前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部、及び、
前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部、
として機能させるための自動運転制御プログラムを記憶した非遷移的記録媒体。

以上、実施形態に係る自動運転制御装置を例示して説明した。実施形態は、自動運転制御装置が備える各部の機能をコンピュータに実行させるためのプログラムの形態としてもよい。実施形態は、これらのプログラムを記憶したコンピュータが読み取り可能な非遷移的記録媒体の形態としてもよい。

その他、上記実施形態で説明した自動運転制御装置の構成は、一例であり、主旨を逸脱しない範囲内において状況に応じて変更してもよい。

また、上記実施形態で説明したプログラムの処理の流れも、一例であり、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよい。

また、上記実施形態では、プログラムを実行することにより、実施形態に係る処理がコンピュータを利用してソフトウェア構成により実現される場合について説明したが、これに限らない。実施形態は、例えば、ハードウェア構成や、ハードウェア構成とソフトウェア構成との組み合わせによって実現してもよい。

１０ 車載装置、１１、２１ ＣＰＵ、１１Ａ 動作制御部、１１Ｂ データ送信部、１１Ｃ データ受信部、１２、２２ メモリ、１３、２４ 表示部、１４、２５ 記憶部、１５ センサ群、１６ カメラ、１７、２６ 通信部、２０、２０Ａ 自動運転制御装置、２１Ａ 運転データ収集部、２１Ｂ 運転軌道モデル生成部、２１Ｃ 異常度判定部、２１Ｄ 詳細データ収集部、２１Ｅ オペレータ提示部、２１Ｆ 走行結果出力部、２１Ｇ、２１Ｋ 学習部、２１Ｈ 推測部、２１Ｊ 検出部、２５Ａ 自動運転制御プログラム、２５Ｂ データ・モデル蓄積ＤＢ、１００、１００Ａ 自動運転システム

Claims (13)

1. 予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部（２１Ａ）と、
   前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部（２１Ｂ）と、
   前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部（２１Ｃ）と、
   前記判定部により前記異常度が異常を示すと判定された場合に、オペレータに対して、前記異常度を判定したときの画像データを提示し、前記オペレータから異常の有無及び要因の入力を受け付ける提示部（２１Ｅ）と、
   前記オペレータから入力を受け付けた前記異常の有無及び要因を含むレポートデータを出力する出力部（２１Ｆ）と、
   を備えた自動運転制御装置（２０、２０Ａ）。
2. 予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部（２１Ａ）と、
   前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部（２１Ｂ）と、
   前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部（２１Ｃ）と、
   前記判定部により前記異常度が異常を示すと判定された場合に、前記異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットを学習用データとして、機械学習により学習された人工知能を用いて、前記異常の有無及び要因を推測する推測部（２１Ｈ）と、
   前記推測部により推測された前記異常の有無及び要因を含むレポートデータを出力する出力部（２１Ｆ）と、
   を備えた自動運転制御装置。
3. 予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部（２１Ａ）と、
   前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部（２１Ｂ）と、
   前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部（２１Ｃ）と、
   前記判定部により前記異常度が異常を示すと判定された場合に、前記異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットからユーザが定義したルールベースを用いて、前記異常の有無及び要因を推測する推測部（２１Ｈ）と、
   前記推測部により推測された前記異常の有無及び要因を含むレポートデータを出力する出力部（２１Ｆ）と、
   を備えた自動運転制御装置。
4. 予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部（２１Ａ）と、
   前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部（２１Ｂ）と、
   前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部（２１Ｃ）と、
   前記判定部により前記異常度が異常を示すと判定された場合に、オペレータに対して、前記異常度を判定したときの画像データを提示し、前記オペレータから異常の有無及び要因の入力を受け付ける提示部（２１Ｅ）と、
   前記オペレータから入力を受け付けた前記要因をラベルとして、前記評価対象運転軌道の分類を機械学習して得られた学習器を用いて、前記要因として示される重要な異常を検出する検出部（２１Ｊ）と、
   を備えた自動運転制御装置。
5. 予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部（２１Ａ）と、
   前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部（２１Ｂ）と、
   前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部（２１Ｃ）と、
   前記判定部により前記異常度が異常を示すと判定された場合に、前記異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットを学習用データとして、機械学習により学習された人工知能を用いて、前記異常の有無及び要因を推測する推測部（２１Ｈ）と、
   前記推測部により推測された前記要因をラベルとして、前記評価対象運転軌道の分類を機械学習して得られた学習器を用いて、前記要因として示される重要な異常を検出する検出部（２１Ｊ）と、
   を備えた自動運転制御装置。
6. 予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部（２１Ａ）と、
   前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部（２１Ｂ）と、
   前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部（２１Ｃ）と、
   前記判定部により前記異常度が異常を示すと判定された場合に、前記異常度を判定したときの画像データ、並びに、オペレータから入力を受け付けた異常の有無及び要因を含むデータセットからユーザが定義したルールベースを用いて、前記異常の有無及び要因を推測する推測部（２１Ｈ）と、
   前記推測部により推測された前記要因をラベルとして、前記評価対象運転軌道の分類を機械学習して得られた学習器を用いて、前記要因として示される重要な異常を検出する検出部（２１Ｊ）と、
   を備えた自動運転制御装置。
7. 前記異常度は、前記基準運転軌道と前記評価対象運転軌道との間の類似度により表される
   請求項１～請求項６の何れか１項に記載の自動運転制御装置。
8. 前記基準運転軌道は、前記運転軌道モデルから場所毎に抽出された運転軌道の分布として表される
   請求項７に記載の自動運転制御装置。
9. 前記生成部は、前記自己状態量の特定の値として、予め計画された地図上の参照軌道に対する、候補とされた走行軌道又は実際の走行軌道の時系列のずれを表すオフセット値を求め、求めたオフセット値を所定の領域内で集計することにより前記自己状態量の代表値を算出する
   請求項１～請求項８の何れか１項に記載の自動運転制御装置。
10. 前記生成部は、前記運転軌道モデルを、前記自動運転車両の車両別に生成する
    請求項１～請求項９の何れか１項に記載の自動運転制御装置。
11. 前記生成部は、前記運転軌道モデルを、前記自動運転車両の自動運転を制御するプログラムのバージョン別に生成する
    請求項１～請求項９の何れか１項に記載の自動運転制御装置。
12. 自動運転制御装置が、
    予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集し、
    前記収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成し、
    前記生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定し、
    前記異常度が異常を示すと判定された場合に、オペレータに対して、前記異常度を判定したときの画像データを提示し、前記オペレータから異常の有無及び要因の入力を受け付け、
    前記オペレータから入力を受け付けた前記異常の有無及び要因を含むレポートデータを出力する、
    自動運転制御方法。
13. コンピュータを、
    予め運転軌道が計画された自動運転車両から、自車両の状態を表す自己状態量を含む運転データを収集する収集部、
    前記収集部により収集された運転データに基づいて、前記自己状態量の特定の値を時系列で表す運転軌道モデルを生成する生成部、
    前記生成部により生成された運転軌道モデルから得られる基準となる運転軌道を表す基準運転軌道と、自動運転車両について評価対象とする運転軌道を表す評価対象運転軌道とを比較し、前記基準運転軌道と前記評価対象運転軌道とのずれの度合いとして表される異常度を判定する判定部、
    前記判定部により前記異常度が異常を示すと判定された場合に、オペレータに対して、前記異常度を判定したときの画像データを提示し、前記オペレータから異常の有無及び要因の入力を受け付ける提示部、及び、
    前記オペレータから入力を受け付けた前記異常の有無及び要因を含むレポートデータを出力する出力部、
    として機能させるための自動運転制御プログラム（２５Ａ）。