JP7215131B2 - 判定装置、判定プログラム、判定方法及びニューラルネットワークモデルの生成方法 - Google Patents

Description

本発明は、判定装置、判定プログラム、判定方法及びニューラルネットワークモデルの生成方法に関する。

車両には、エンジン制御等のパワー・トレーン系、エアコン制御等のボディ系等の車載機器を制御するためのＥＣＵ（Electronic Control Unit）が搭載されている。これらＥＣＵは車載ネットワークシステムによりメッセージを送受信するようにしてあるところ、当該車載ネットワークシステムに対し攻撃者がアクセスして不正なフレームを送信する等の脅威に対しセキュリティ対策が検討されており、車載ネットワークにおいて受信されたフレームの異常度を算定するセキュリティ処理方法が提案されている（例えば特許文献１）。

特許文献１のセキュリティ処理方法は、逐次取得されたフレームの情報に基づいて所定モデルを逐次更新する。車載ネットワークにおいて受信されたフレームの異常度の算定は、当該受信されたフレームの情報と、前記所定モデルとを用いた演算処理により行われる。又、当該所定モデルは、逐次取得されたフレームの情報に基づいて機械学習により逐次更新されるようにしてある。

特開２０１７－１１１７９６号公報

しかしながら、特許文献１のセキュリティ処理方法は、単一の所定モデルを用いた演算処理により行われるため、フレームの異常度の算定をするにあたり当該算定結果の精度を担保することが困難となることが危惧される。

本発明は斯かる事情に鑑みてなされたものであり、車両の状態に関する状態量データの正否を判定する精度を向上させることができる判定装置等を提供することを目的とする。

本開示の一態様に係る判定装置は、車両の状態に関する第１データ及び複数の第２データを取得し、前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワークと、前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する判定部とを備える。

本開示の一態様によれば、車両の状態に関する状態量データの正否を判定する精度を向上させることができる判定装置等を提供することができる。

実施形態１に係る判定装置を含む判定システムの構成を例示する模式図である。 判定装置の構成を例示するブロック図である。 判定装置の制御部に含まれる機能部を例示する機能ブロック図である。 学習済みニューラルネットワークの一態様を例示する説明図である。 判定装置の制御部の処理を例示するフローチャートである。 実施形態２（第２学習済みニューラルネットワーク）に係る判定装置の制御部に含まれる機能部を例示する機能ブロック図である。 第２学習済みニューラルネットワークの一態様を例示する説明図である。 判定装置の制御部の処理を例示するフローチャートである。

［本発明の実施形態の説明］
最初に本開示の実施態様を列挙して説明する。また、以下に記載する実施形態の少なくとも一部を任意に組み合わせてもよい。

（１）本開示の一態様に係る判定装置は、車両の状態に関する第１データ及び複数の第２データを取得し、前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワークと、前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する判定部とを備える。

本態様にあたっては、判定部は、第１データ（判定対象状態量データ）の正否を判定するにあたり、当該判定対象状態量データと、複数の学習済みニューラルネットワーク夫々が推定した推定データ（推定状態量データ）夫々とに基づいて、当該判定を行う。従って、単一の学習済みニューラルネットワークを用いた場合と比較し、精度よく判定対象状態量データの正否を判定することができる。

（２）本開示の一態様に係る判定装置は、前記複数の第２データ夫々と、前記第１データとの間の相関係数夫々の絶対値は、所定値以上である。

本態様にあたっては、前記複数の第２データ（比較対象状態量データ）夫々と、第１データ（判定対象状態量データ）との間の相関係数夫々の絶対値は、所定値以上とすることにより、当該判定結果の精度を向上させることができる。

（３）本開示の一態様に係る判定装置は、前記相関係数の絶対値の所定値は、０．７である。

本態様にあたっては、相関係数の絶対値の所定値を０．７とすることで、第１データ（判定対象状態量データ）との間の相関係数の絶対値が、０．７以上の第２データ（比較対象状態量データ）を用いて判定対象状態量データの正否を判定することができ、当該判定結果の精度を向上させることができる。

（４）本開示の一態様に係る判定装置は、前記判定部は、前記第１データを基準とした所定の範囲内に含まれる推定データの個数が、前記所定の範囲内に含まれない推定データの個数よりも多い場合、前記第１データは正常であると判定し、前記所定の範囲内に含まれる推定データの個数が、前記所定の範囲内に含まれない推定データの個数よりも少ない場合、前記第１データは異常であると判定する。

本態様にあたっては、第１のデータ（判定対象状態量データ）を基準とした所定の範囲内に含まれる推定データ（推定状態量データ）の個数に基づき判定するため、精度よく第１データ（判定対象状態量データ）の正否を判定することができる。

（５）本開示の一態様に係る判定装置は、前記判定部は、前記第１データを基準とした所定の範囲内に含まれる推定データの個数と、前記所定の範囲内に含まれない推定データの個数に基づいて、前記第１データの正否の確率を判定する。

本態様にあたっては、第１データ（判定対象状態量データ）を基準とした所定の範囲内に含まれる推定データ（推定状態量データ）の個数に基づき、第１データ（判定対象状態量データ）の正否の確率を判定するため、当該確率に応じて適切な処理を行うことができる。

（６）本開示の一態様に係る判定装置は、前記判定部は、前記第１データ及び、前記複数の学習済みニューラルネットワーク夫々が推定した推定データ夫々が入力された場合、前記第１データの正否を推定するように学習させた第２学習済みニューラルネットワークを含む。

本態様にあたっては、判定部は第２学習済みニューラルネットワークを含むことにより、第１データ（判定対象状態量データ）の正否を判定する精度を向上させることができる。

（７）本開示の一態様に係る判定装置は、前記第１データは、前記車両の車速である。

本態様にあたっては、第１データ（判定対象状態量データ）を車速とすることにより、判定部は、車速の現在値に関する正否を判定することができる。

（８）本開示の一態様に係る判定プログラムは、コンピュータに、車両の状態に関する第１データ及び複数の第２データを取得し、前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワーク夫々に、取得した前記複数の第２データ夫々を入力し、前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する処理を実行させる。

本態様にあたっては、コンピュータを判定装置として機能させることができる。

（９）本開示の一態様に係る判定方法は、車両の状態に関する第１データ及び複数の第２データを取得し、前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワーク夫々に、取得した前記複数の第２データ夫々を入力し、前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する。

本態様にあたっては、車両の状態に関する状態量データの正否を判定する精度を向上させることができる判定方法を提供することができる。

（１０）本開示の一態様に係るニューラルネットワークモデルの生成方法は、車両の状態に関する複数種類の第２データと、各第２データに対応する車両の状態に関する第１データとを含む教師データを取得し、第２データ及び該第２データに対応する第１データの組み合わせ毎の教師データに基づき、第２データを入力した場合に、対応する第１データに関する推定データを出力するよう学習させたニューラルネットワークモデルを前記組み合わせ毎に生成する。

本態様にあたっては、車両の状態に関する状態量データの正否を判定する精度を向上させることができるニューラルネットワークモデルを生成する方法を提供することができる。

（１１）本開示の一態様に係るニューラルネットワークモデルの生成方法は、前記第１データと、出力される各推定データとを比較すべく生成した複数の前記ニューラルネットワークモデルを並列接続する。

本態様にあたっては、互いに並列接続される複数のニューラルネットワークモデルを生成する方法を提供することにより、車両の状態に関する状態量データの正否を判定する精度を向上させることができるニューラルネットワークモデルを生成する方法を提供することができる。

（１２）本開示の一態様に係るニューラルネットワークモデルの生成方法は、前記教師データは、前記第１データと、該第１データとの相関係数の絶対値が所定値以上の第２データとを含む。

本態様にあたっては、第１データと、複数の第２データ夫々との相関係数の絶対値を所定値以上とすることにより、車両の状態に関する状態量データの正否を判定する精度を向上させることができるニューラルネットワークモデルを生成する方法を提供することができる。

[本発明の実施形態の詳細]
本発明をその実施の形態を示す図面に基づいて具体的に説明する。本開示の実施形態に係る判定装置６を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。

（実施形態１）
図１は、実施形態１に係る判定装置６を含む判定システムの構成を例示する模式図である。車両Ｃには、車外通信装置１、車載中継装置２、複数の車載ＥＣＵ３、表示装置５及び、判定装置６が搭載され、これら装置群により判定システムが構成される。

車両Ｃは、車外通信装置１を介して車外ネットワーク（図示せず）に接続された外部サーバ等（図示せず）と通信するため、時には車外からの不正なアクセス（攻撃）により、車載ＥＣＵ３がウィルス等により異常な状態にされることが懸念される。これに対し、判定装置６を含む判定システムにより、異常となった車載ＥＣＵ３から出力されたデータ（車両の状態に関するデータ／状態量データ）の正否を判定することができる。

車外通信装置１は、例えば３Ｇ、ＬＴＥ、４Ｇ、ＷｉＦｉ等の移動体通信のプロトコルを用いて無線通信をするための通信装置であり、アンテナ１１を介してプログラム提供装置（図示せず）等の外部サーバとデータの送受信を行う。車外通信装置１と外部サーバとの通信は、例えば公衆回線網又はインターネット等の外部ネットワークを介して行われる。

車載中継装置２は、これら複数の車載ＥＣＵ３間において送受信されるメッセージを中継する。車載中継装置２は、例えば、制御系の車載ＥＣＵ３、安全系の車載ＥＣＵ３及び、ボディ系の車載ＥＣＵ３等の複数の系統の通信線４１（ＣＡＮバス／ＣＡＮケーブル）によるセグメントを統括し、これらセグメント間での車載ＥＣＵ３同士の通信を中継するゲートウェイ（中継器）である。又、車載中継装置２は、車外通信装置１を介して車外ネットワーク（図示せず）に接続されたプログラム提供装置等の外部サーバから取得したプログラム又はデータを、車両Ｃに搭載されている車載ＥＣＵ３（Electronic Control Unit）に送信するリプロマスターとして機能するものであってもよい。

車外通信装置１と、車載中継装置２及び表示装置５とは、例えばシリアルケーブル等のハーネスにより通信可能に接続されている。車載中継装置２と、車載ＥＣＵ３及び判定装置６とは、例えばＣＡＮ（Control Area Network／登録商標）又はイーサネット（Ethernet／登録商標）等の通信プロトコルに対応した車内ＬＡＮ４によって通信可能に接続されている。

車載ＥＣＵ３は、車両に搭載されるエンジン、ブレーキ等のアクチュエータ又は、センサ等と接続されており、当該アクチュエータの駆動制御又は、センサから出力されたデータを車内ＬＡＮ４に出力するコンピュータである。車載ＥＣＵ３は、車内ＬＡＮ４及び車載中継装置２を介して相互に通信可能に接続されている。これら車載ＥＣＵ３には、車速センサ３１に接続される車速ＥＣＵ３ａが含まれる。車速センサ３１は、例えば車両の車輪の回転数を検出するセンサであり、当該回転数に関するデータを時系列で検出し、車速ＥＣＵ３ａに出力する。車速ＥＣＵ３ａは、車速センサ３１から出力されたデータを取得し、取得したデータを、例えば車速の値に変換し、当該車速に関するデータとして車内ＬＡＮを介して、他の車載ＥＣＵ３及び判定装置６に送信する。又、これら車載ＥＣＵ３の内、複数の車載ＥＣＵ３は、車速に対し所定値以上の相関係数を有する状態量を出力する。詳細は、後述する。

表示装置５は、例えばカーナビゲーションのディスプレイ等のＨＭＩ（Human Machine Interface）装置である。表示装置５は、車載中継装置２の入出力Ｉ／Ｆとシリアルケーブル等のハーネスにより通信可能に接続されている。表示装置５には、車載中継装置２又は判定装置６から出力されたデータ又は情報が表示される。表示装置５と車載中継装置２との接続形態は、入出力Ｉ／Ｆ等による接続形態に限定されず、表示装置５と車載中継装置２とは、車内ＬＡＮ４を介した接続形態であってもよい。

図２は、判定装置６の構成を例示するブロック図である。図３は、判定装置６の制御部６０に含まれる機能部を例示する機能ブロック図である。判定装置６は、制御部６０、記憶部６１及び、車内通信部６３を含む。

記憶部６１は、ＲＡＭ（Random Access Memory）等の揮発性のメモリ素子又は、ＲＯＭ（Read Only Memory）、ＥＥＰＲＯＭ（Electrically Erasable Programmable ROM）若しくはフラッシュメモリ等の不揮発性のメモリ素子により構成してあり、制御プログラム及び処理時に参照するデータがあらかじめ記憶してある。記憶部６１に記憶された制御プログラムは、判定装置６が読み取り可能な記録媒体６２から読み出された制御プログラムを記憶したものであってもよい。また、図示しない通信網に接続されている図示しない外部コンピュータから制御プログラムをダウンロードし、記憶部６１に記憶させたものであってもよい。記憶部６１には、学習済みニューラルネットワーク６０２（ＮＮ）を構成する実体ファイル（学習済みモデルファイル）が保存されている。学習済みモデルファイルは、制御プログラムに含まれる。

車内通信部６３は、例えば、ＣＡＮ又はイーサネット等の通信プロトコルを用いた入出力インターフェイス（ＣＡＮトランシーバ又はイーサネットＰＨＹ部）であり、制御部６０は、車内通信部６３を介して車内ＬＡＮ４に接続されている車載ＥＣＵ３又は車載中継装置２等の車載機器と相互に通信する。

制御部６０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）又はＧＰＵ（Graphics Processing Unit）等により構成してあり、記憶部６１に予め記憶された制御プログラム、データ及び学習済みモデルファイルを読み出して実行することにより、種々の制御処理及び演算処理等を行うようにしてある。

制御部６０は、制御プログラムを実行することにより、車内通信部６３を介して受信したデータを取得する取得部６０１に相当する。当該データには、例えば車速ＥＣＵ３ａから出力された車速に関するデータ等の判定対象状態量データ（第１データ）、及び判定対象状態量データに対し所定値以上の相関係数を有する複数の状態量に関するデータ（複数の比較対象状態量データ（第２データ））が含まれる。

制御部６０は、学習済みモデルファイルを読み出すことにより、学習済みニューラルネットワーク６０２として機能し、取得した比較対象状態量データに基づき、推定状態量データ（推定データ）を推定する。

制御部６０は、制御プログラムを実行することにより、判定対象状態量データ及び推定状態量データに基づき、当該判定対象状態量データ正否の有無を判定する判定部６０３に相当する。

判定装置６は、車載中継装置２とは別個の装置とし、車載中継装置２と通信線４１により通信可能に接続するとしたが、これに限定されない。判定装置６は、車載中継装置２に含まれ、当該車載中継装置２の一機能部として機能するものであってもよい。すなわち、車載中継装置２は、判定装置６と同様に制御部（図示せず）、記憶部（図示せず）を備えており、車載中継装置２の制御部が、制御プログラムを実行することにより、判定装置６として機能を発揮するものであってもよい。又は、判定装置６は、車両Ｃ全体をコントロールするボディＥＣＵ又はビークルコンピューターの一機能部として構成されるものであってもよい。又は、判定装置６は、車外通信装置１を介して車両Ｃと通信可能に接続されているクラウドサーバ等の外部サーバに含まれるものであってもよい。

上述のごとく、制御部６０は、制御プログラムを実行することにより、取得部６０１、学習済みニューラルネットワーク６０２及び、判定部６０３として機能するものであり、図３においては、これら部位を機能部として示している。

取得部６０１により車速等の判定対象状態量データ及び、複数の比較対象状態量データを取得することにより、制御部６０には、これらデータが入力される。物理層的には、車内通信部６３を介して、これらデータは制御部６０に入力される。制御部６０は、入力された判定対象状態量データ及び複数の比較対象状態量データを、例えば制御プログラムの引数として当該制御プログラムを実行することにより、取得部６０１、学習済みネットワーク及び、判定部６０３として機能する。

車速等の判定対象状態量データは、例えば車速ＥＣＵ３ａから送信されたデータである。複数の比較対象状態量データは、これら比較対象状態量データ夫々を検出する撮像部、Ｌｉｄａｒ（light detection and ranging）又は各種センサに接続された車載ＥＣＵ３から送信されたデータであり、例えば、エンジン回転数、モータ回転数、ハンドル回転角又は、加速度等の車両Ｃの走行に関する状態を示す状態量である。又は、複数の比較対象状態量データは、車載中継装置２が、受信したデータに基づき、車内ＬＡＮ４に流れているデータ又はメッセージの種類又はトラフィックの分析結果に関するデータであり、当該車載中継装置２から送信されたデータであってもよい。比較対象状態量データは、単一の値によるデータ又は、時系列による複数の値を含む時系列データであってもよい。判定装置６が取得する複数の比較対象状態量データ夫々は、上述のとおり、例えばエンジン回転数、モータ回転数等、互いに異なる種類の状態量であることが望ましい。判定装置６が取得する複数の比較対象状態量データ夫々の種類を異ならせることにより、当該種類に応じた観点から判定対象状態量データの正否を判定し、当該判定の精度を向上させることができる。なお、判定装置６が取得する複数の比較対象状態量データの全てにおいて、種類が異なるものに限定されず、複数の比較対象状態量データの内の一部となる、いくつかの比較対象状態量データの種類が同一であってもよい。又は、複数の比較対象状態量データの全てにおいて、当該データの種類が同じものであってもよい。

比較対象状態量データ夫々と、判定対象状態量データとの相関係数の絶対値は、所定値以上となっている。すなわち、判定対象状態量データに対する比較対象状態量データ夫々の相関係数夫々の絶対値は、所定値以上である。当該所定値は、例えば０．７であり、所定値を０．７とすることにより、判定対象状態量データに対し比較的に相関が高い状態量となる比較対象状態量データを用いることができる。更に推定精度を向上させるにあたり、当該所定値は、０．９とすることが望ましい。更に好ましくは、当該所定値は、０．９７とするのが良い。相関係数は、例えば、算式（相関係数＝判定対象状態量の値と比較対象状態量の値との共分散／（判定対象状態量の値の標準偏差 × 比較対象状態量の値の標準偏差））を用いることにより算出することができる。相関係数夫々の絶対値は所定値以上とすることにより、正の相関及び負の相関の双方において、相関が高い状態量となる比較対象状態量データを用いることができる。すなわち、負の相関となる比較対象状態量データの場合、判定対象状態量データに対する相関係数は、負（マイナス）の値となるが、この値に－１を乗算することにより、正の相関となる比較対象状態量データとして用いることができる。

取得部６０１が取得した比較対象状態量データ夫々、すなわち制御部６０に入力された比較対象状態量データ夫々（制御プログラムの引数となる比較対象状態量データ夫々）は、比較対象状態量データ夫々の種類に対応した夫々の学習済みニューラルネットワーク６０２（学習済みＮＮ）に入力される。詳細は後述するが、学習済みニューラルネットワーク６０２は、入力された比較対象状態量データに応じて、判定対象状態量データに相当する推定状態量データを推定するように学習されている。図３に示すごとく、学習済みニューラルネットワーク６０２夫々は、互いに並列となるように接続される。従って、学習済みニューラルネットワーク６０２夫々によって推定された推定状態量データ夫々は、判定部６０３に出力され、互いに並列に接続される学習済みニューラルネットワーク６０２夫々によるデータフロー・トポロジーが形成される。

図３に示すごとく、学習済みニューラルネットワーク６０２ａには、これに対応した比較対象状態量データａが入力され、学習済みニューラルネットワーク６０２ａは、判定対象状態量データに相当する推定状態量データａを推定し、これを判定部６０３に出力する。同様に学習済みニューラルネットワーク６０２ｂには、これに対応した比較対象状態量データｂが入力され、学習済みニューラルネットワーク６０２ｂは、判定対象状態量データに相当する推定状態量データｂを推定し、これを判定部６０３に出力する。

個々の学習済みニューラルネットワーク６０２には、異なる種類の比較対象状態量データが入力される。個々の学習済みニューラルネットワーク６０２は、入力された比較対象状態量データに基づき、相当する判定対象状態量データと等しいデータとなるように推定状態量データを推定するように学習してある。ただし、比較対象状態量データの種類及び相関係数の差異等により、学習済みニューラルネットワーク６０２夫々が推測する推定状態量データ夫々の値において、ばらつきが発生するものとなる。

学習済みニューラルネットワーク６０２夫々が推定した推定状態量データ夫々、及び取得部６０１が取得した判定対象状態量データは、判定部６０３に入力される。判定部６０３は、入力された推定状態量データ夫々及び判定対象状態量データに基づき、判定対象状態量データの正否を判定する。判定対象状態量データの正否を判定することにより、判定対象状態量データを取得するまでの処理において不正な処理が有ったか否か、すなわち不正な処理の有無を判定することができる。

判定部６０３は、判定対象状態量データが含む判定対象状態量の値に対し、当該判定対象状態量の値を基準とした所定の範囲内に含まれる推定状態量データの個数を導出する。判定対象状態量の値を基準とした所定の範囲とは、例えば当該値に対し±１０％とした範囲であり、判定対象状態量の値の精度を判定する上で許容される閾値範囲である。例えば、判定対象状態量データが車速に関するデータであり、判定対象状態量の値（車速）が６０Ｋｍである場合、判定対象状態量の値を基準とした所定の範囲（閾値範囲）を当該値に対し±１０％とすると、閾値範囲（所定の範囲）は５４Ｋｍから６６Ｋｍとなる。

判定部６０３は、推定状態量データ夫々において、当該閾値範囲内にある推定状態量データの個数と、閾値範囲内にない（閾値範囲外にある）推定状態量データの個数とを導出し、これら個数を比較することにより、判定対象状態量データの正否（不正な処理の有無）を判定する。すなわち、閾値範囲内にある推定状態量データの個数が、閾値範囲内にない推定状態量データの個数よりも多い場合、判定部６０３は、判定対象状態量データは正常と判定する。閾値範囲内にある推定状態量データの個数が、閾値範囲内にない推定状態量データの個数よりも少ない場合、判定部６０３は、判定対象状態量データは異常と判定する。

判定部６０３は、当該判定を行うにあたり、閾値範囲内にある推定状態量データの個数が、推定した推定状態量データの個数の総数の半分以上である場合、判定対象状態量データは正常と判定してもよい。判定部６０３は、閾値範囲内にある推定状態量データの個数が、推定した推定状態量データの個数の総数の半分より少ない場合、判定対象状態量データは異常と判定してもよい。

判定部６０３は、閾値範囲内にある推定状態量データの個数と、閾値範囲内にない推定状態量データの個数との比率に基づいて、判定対象状態量データの正否に関する確率を導出するものであってもよい。当該確率は、例えば、閾値範囲内にある推定状態量データの個数を、推定した推定状態量データの個数の総数で除算した値に基づき決定する。すなわち、推定した推定状態量データの個数の総数が１０個であり、閾値範囲内にある推定状態量データの個数が７個の場合、判定対象状態量データが正常である確率は、７０％（７０＝（７／１０）×１００）となる。この際、判定対象状態量データが異常である確率は、３０％（３０＝１００－７０）となることは、言うまでもない。

判定部６０３は、判定対象状態量データの正否、又は判定対象状態量データの正否における確率を、判定結果として出力し、記憶部６１に記憶、表示装置５に送信又は、車載中継装置２及び車外通信装置１を介して車外にある外部サーバに送信するものであってもよい。

この様に複数の異なる種類の比較対象状態量データ夫々に対応する複数の学習済みニューラルネットワーク６０２を備え、判定部６０３は、当該学習済みニューラルネットワーク６０２夫々により推定した推定状態量データ夫々を用いる。これにより、いずれかの比較対象状態量データ、又はいずれかの学習済みニューラルネットワーク６０２の処理において、異常があった場合であっても、精度よく判定対象状態量データの正否、すなわち判定対象状態量データに関する不正な処理の有無を判定することができる。すなわち、比較対象状態量データを出力する車載ＥＣＵ３のいずれかが、ウィルス等により攻撃され異常となった場合であっても、他の正常な車載ＥＣＵ３から出力された比較対象状態量データを用いて、判定対象状態量データの正否を判定することができる。又は、いずれかの学習済みニューラルネットワーク６０２がウィルス等により攻撃され異常となった場合であっても、他の正常な学習済みニューラルネットワーク６０２が推定した推定状態量に基づき、判定対象状態量データの正否を判定することができる。

判定対象状態量データと、推定した複数の推定状態量データとを比較するにあたり、判定対象状態量データを基準とした所定の範囲内（閾値範囲内）となるか否かにより当該比較を行うため、個々の学習済みニューラルネットワーク６０２が推定した推定状態量のばらつきを吸収し、精度よく判定対象状態量データの正否を判定することができる。

相関係数の絶対値の所定値を例えば０．７とすることで、判定対象状態量データとの間の相関係数の絶対値が、０．７以上の比較対象状態量データを用いて判定対象状態量データの正否を判定することができ、当該判定結果の精度を向上させることができる。

判定対象状態量データとして車速に関するデータを例示したが、これに限定されない。判定対象状態量データは、例えばエンジン若しくはモータの回転数、ブレーキの駆動量又は、ハンドルの回転角等の車両Ｃの状態を示す状態量を含む。この場合、比較対象状態量データは、これら例示した判定対象状態量データに対し、絶対値が所定値以上となる相関係数を有する。

図４は、学習済みニューラルネットワーク６０２の一態様を例示する説明図である。学習済みニューラルネットワーク６０２は、入力層、中間層及び出力層を含み、中間層は、例えば全結合層及び自己回帰層を含む多層（ディープニューラルネットワーク）により構成される。

入力層は例えば単一のノード（ニューロン）によって構成され、当該入力層には、例えば車速等の判定対象状態量データに対し所定値以上となる相関係数を有する比較対象状態量データが、入力される。

全結合層は例えば１００個の複数のノードによって構成され、当該複数のノード夫々が、前後に位置する全てのノードと結合する層である。学習済みニューラルネットワーク６０２は２つの全結合層を含み、これら２つの全結合層は、自己回帰層の前後に位置してある。

自己回帰層は例えば１００個の複数のノードによって構成され、順方向にて次の層に対し出力するだけでなく、自身の層にも結果を出力する層である。従って、時系列で出力される複数の値を時系列データとして与えることができる。このような自己回帰層を含むニューラルネットワークは、再帰型ニューラルネットワークとも称され、ＬＳＴＭ(Long Short Term Memory／長期短期記憶)モデルとして実装される。なお、中間層は自己回帰層を含むとしたがこれに限定されず、自己回帰層を含まず複数の全結合層によって構成されるものであってもよい。中間層に自己回帰層が含まれない場合、入力値夫々による瞬時値によって演算が行われる。

出力層は例えば単一のノード（ニューロン）によって構成され、入力された比較対象状態量データによって推定される推定状態量データが出力される。判定対象状態量データが車速に関するデータの場合、推定状態量データも車速に関するデータである。

上記のように構成されたニューラルネットワーク（未学習のニューラルネットワーク）に教師データ（学習用データ）を入力して学習させることにより、学習済みニューラルネットワーク６０２（ニューラルネットワークモデル）が生成される。再帰型ニューラルネットワークにおいては、当該学習は、例えばＢＰＴＴ（Backpropagation Through Time／通時的逆伝播）アルゴリズムを用いて行われる。

教師データは、車両Ｃに搭載された各種センサ又は装置から出力された比較対象状態量データと、当該比較対象状態量データが出力された時点と同時点における判定対象状態量データ（例えば車速）との、２つの状態量データの組み合わせ（問題（比較対象状態量データ）及び回答（判定対象状態量データ）のデータセット）による。すなわち、比較対象状態量データ及び判定対象状態量データは、これら状態量データが出力された時点が同時点となることにより対応したデータセットである。

当該教師データは、複数の時点における、これら２つの状態量データの組み合わせを含む。教師データにおいて、これら２つの状態量データの組み合わせは、時系列のデータとしてソートされたデータであってもよい。すなわち、当該教師データをニューラルネットワーク６０２に学習させるにあたり、当該教師データが含む２つの状態量データの組み合わせによるデータが、古い時点から順次に読み込まれるものであってもよい。このように時系列による教師データを用いて、上述のＢＢＴＴアルゴリズムにより自己回帰層を含むニューラルネットワークを学習することができる。このように時系列のデータを用いることにより、一の時点（時刻ｔ＝ｎ）における教師データ内（学習用データ）の車速等の判定対象状態量データに相関がある比較対象状態量データをニューラルネットワーク６０２に入力し、次の時点（時刻ｔ＝ｎ＋１）の車速等の判定対象状態量データに相当する推定データを推定する。当該推定した推定データと、正解値である車速等の判定対象状態量データとの差分を繰り返し算出し、算出した全差分を用いて学習誤差を算出し、例えば、当該学習誤差が最小となるようにニューラルネットワーク６０２を学習させる。

同時点とは、比較対象状態量データが出力された時点と、対象状態量が出力された時点とが、完全に同時刻であることに限定されず、学習済みニューラルネットワーク６０２を用いて演算するにあたり誤差が許容される範囲にて、これら時点における差異があってもよい。又は、比較対象状態量データ及び判定対象状態量データ夫々は所定の周期にて出力されるものであり、同一の周期内にて出力された比較対象状態量データ及び判定対象状態量データ夫々を同時点として用いてもよい。

教師データは、比較対象状態量のデータに種類に応じて複数個あり、複数の教師データ夫々を、同じ構成のニューラルネットワークモデル（未学習のニューラルネットワーク）夫々に入力して学習させることにより、比較対象状態量のデータに種類に応じた複数の学習済みニューラルネットワーク６０２が生成される。生成された複数の学習済みニューラルネットワーク６０２は、図３に示すごとく互いに並列に接続される。

ニューラルネットワークの入力値（説明変数）となる比較対象状態量データに含まれる値夫々は、当該値の最大値で除算することにより０から１となるように正規化された値であってもよい。ニューラルネットワークは、例えば線形回帰モデルとして構成されるものであってもよい。線形回帰モデルは、説明変数（ｘ：入力値）となる比較対象状態量データから、目的変数（ｙ：出力値）となる判定対象状態量データを推定するものであるであり、説明変数の係数となる偏回帰変数（ｂ／重み係数）及び誤差（ｅ／バイアス）を用いた回帰式（ｙ＝ｂ１・ｘ１＋ｂ２・ｘ２＋ｂ３・ｘ３＋・・・＋ｂｋ・ｘｋ＋ｅ）を用いて予測するモデルである。これら重み係数及びバイアスは、例えば損失関数として二乗誤差関数を用い、損失関数の出力値（出力層からの出力値と、回答との差異）が最小となるように、再急降下法及び誤差逆伝播法を用いることにより導出することができる。

すなわち、上述のように学習済みニューラルネットワーク６０２（ニューラルネットワークモデル）の生成する方法としては、以下のようなプロセスによる。まず、車両Ｃの状態に関する第１データ（例えば車速等の判定対象状態量データ）を回答データとし、第１データとの相関係数の絶対値が所定値以上の第２データ（比較対象状態量データ）を問題データとし、問題データ及び回答データの組合せからなるデータセットより構成され、問題データである第２データ夫々の種類を異なるものとした複数の教師データを用意する。次に前記教師データの個数と同数となる複数の未学習のニューラルネットワークを用意し、入力された第２データに基づき入力された第２データの回答となる第１データに相当する推定データを推定するように教師データを用いて学習させる学習処理を、未学習のニューラルネットワーク夫々に対し、複数の教師データ夫々により順次に行う。そして、推定した夫々の推定データを比較すべく互いに並列に接続される、複数の教師データ夫々に対応する複数の学習済みニューラルネットワーク６０２を生成する。

このように生成された学習済みニューラルネットワーク６０２に対し、比較対象状態量データを入力層に入力することにより、当該比較対象状態量データに対応する判定対象状態量データとなるように推定された推定状態量データが、出力層から出力される。上述のごとく、中間層は自己回帰層を含んでいる。入力層から、時系列による複数の比較対象状態量データが時系列データとして入力された場合、現時点にて自己回帰層に入力された値と、前時点にて自己回帰層から出力された値とが、加算されることにより、現時点での自己回帰層から出力される値となる。このように自己回帰層を用いることにより、車両Ｃの走行中において時系列に出力される比較対象状態量データに基づき、対象状態量に相当する推定状態量を、精度よく推定することができる。

本実施形態において、単一の学習済みニューラルネットワーク６０２に対し、一の種類の比較対象状態量データが入力されるとしたが、これに限定されない。単一の学習済みニューラルネットワーク６０２に対し、同時点における複数の種類の比較対象状態量データが入力され、入力されたこれら複数の種類の比較対象状態量データに対応する判定対象状態量データに相当する推定データを推定し出力するものであってもよい。複数の種類の比較対象状態量データが入力するにあたり、入力層のノード数を、当該複数の種類の比較対象状態量データと同数とするものであってもよい。又は、複数の種類の比較対象状態量データが入力するにあたり、当該複数の種類の比較対象状態量データが含む夫々の値を加算、又は当該値夫々に所定の係数を乗算して単位系を合わせて併合（マージ処理）した値を入力してもよい。なお、このように単一の学習済みニューラルネットワーク６０２に対し、複数の種類の比較対象状態量データが入力される場合、当該学習済みニューラルネットワーク６０２は、複数の種類の比較対象状態量データ及び判定対象状態量データの組合せによるデータセットを含む教師データを用いて学習することにより、生成される。

図５は、判定装置６の制御部６０の処理を例示するフローチャートである。判定装置６の制御部６０は、車両Ｃが起動状態において、常時的に以下の処理を行う。

判定装置６の制御部６０は、複数の比較対象状態量データを取得する（Ｓ１０）。制御部６０は、車載ＥＣＵ３又は車載中継装置２等から送信された車両Ｃの状態を示す複数の比較対象状態量データを取得し、記憶部６１に記憶する。制御部６０は、取得した比較対象状態量データ夫々と、取得した時点又は時刻とを関連づけて、記憶部６１に記憶してもよい。

判定装置６の制御部６０は、判定対象状態量データを受信したか否かを判定する（Ｓ１１）。制御部６０は、例えば車速等の判定対象状態量データを受信したか否かを判定する。判定対象状態量データが車速に関するデータである場合、当該データは、例えば車速ＥＣＵ３ａから送信される。

判定対象状態量データを受信しなかった場合（Ｓ１１：ＮＯ）、判定装置６の制御部６０は、再度Ｓ１０の処理を実行すべくループ処理を行う。制御部６０は、判定対象状態量データを受信しなかった場合、再度Ｓ１０の処理を実行し、前回のＳ１０の処理以降に車載ＥＣＵ３又は車載中継装置２等から送信された複数の比較対象状態量データを取得し、記憶部６１に記憶する。当該記憶は、前回取得した比較対象状態量データを上書きして記憶するものであってもよい。

判定対象状態量データを受信した場合（Ｓ１１：ＹＥＳ）、判定装置６の制御部６０は、判定対象状態量データを取得する（Ｓ１２）。制御部６０は、判定対象状態量データを受信した場合、当該判定対象状態量データを取得し記憶部６１に記憶する。制御部６０は、取得した判定対象状態量データと、取得した時点又は時刻とを関連づけて、記憶部６１に記憶してもよい。制御部６０は、Ｓ１１の処理を周期的に行っているため、判定対象状態量データ及び複数の比較対象状態量データは、同時点にて取得されたものとして用いることができる。又は、制御部６０は、取得した判定対象状態量データ及び複数の比較対象状態量データを、取得した時点又は時刻と関連づけて記憶しているため、当該取得した時点又は時刻に基づいて、判定対象状態量データ及び複数の比較対象状態量データを確定してもよい。

判定装置６の制御部６０は、複数の比較対象状態量データ夫々に基づき、推定状態量データ夫々を推定する（Ｓ１３）。制御部６０は、制御プログラムを実行することにより学習済みニューラルネットワーク６０２として機能するものであり、複数の比較対象状態量データ夫々を、当該比較対象状態量データ夫々に対応する学習済みニューラルネットワーク６０２夫々に入力することにより、推定状態量データ夫々を推定する。

判定装置６の制御部６０は、所定の範囲内に含まれる推定状態量データの個数は、含まれない推定状態量データの個数よりも多いか否かを判定する（Ｓ１４）。制御部６０は、記憶部６１に記憶してある判定対象状態量データを基準に所定範囲内（閾値範囲内）に含まれる推定状態量データの個数と、含まれない推定状態量データの個数を導出し、導出したこれら個数を比較する。

所定の範囲内に含まれる推定状態量データの個数が、含まれない推定状態量データの個数よりも多い場合（Ｓ１４：ＹＥＳ）、判定装置６の制御部６０は、不正な処理が無い（正常）と判定する（Ｓ１５）。所定の範囲内に含まれる推定状態量データの個数が、含まれない推定状態量データの個数よりも多い場合、制御部６０は、判定対象状態量データを取得するまでの処理において、不正な処理が無い、すなわち判定対象状態量データは正常であると判定する。当該不正な処理が無いとは、例えば、判定対象状態量データを出力する車載ＥＣＵ３の処理が正常に行われており、当該車載ＥＣＵ３から送信された判定対象状態量データが、送信途中において改ざんされていないことを含む。すなわち、判定対象状態量データが車速に関するデータの場合、車速ＥＣＵ３ａは正常に動作しており、車速ＥＣＵ３ａから送信されたデータは、正常に車内ＬＡＮ４にて伝送されているものとなる。

所定の範囲内に含まれる推定状態量データの個数が、含まれない推定状態量データの個数よりも少ない（多くない）場合（Ｓ１４：ＮＯ）、判定装置６の制御部６０は、不正な処理が有る（異常）と判定する（Ｓ１４１）。所定の範囲内に含まれる推定状態量データの個数が、含まれない推定状態量データの個数よりも少ない場合、制御部６０は、判定対象状態量データを取得するまでの処理において、不正な処理が有る、すなわち判定対象状態量データは異常であると判定する。当該不正な処理が有るとは、例えば、判定対象状態量データを出力する車載ＥＣＵ３がウィルス等に攻撃されることにより不正な処理を行っていること、又は当該車載ＥＣＵ３から送信された判定対象状態量データが、他の不正な車載ＥＣＵ３により送信途中において改ざんされていること等を含む。

判定装置６の制御部６０は、Ｓ１５又はＳ１４１を実行した後、一連の処理を完了する。又は、判定装置６の制御部６０は、Ｓ１５又はＳ１４１を実行した後、再度Ｓ１０の処理を実行すべくループ処理を行うものであってもよい。

本実施形態において、判定装置６の制御部６０は、所定の範囲内に含まれる推定状態量データの個数等に基づき、判定対象状態量データの正否（不正な処理の有無）を判定するとしたが、これに限定されない。判定装置６の制御部６０は、所定の範囲内に含まれる推定状態量データの個数及び所定の範囲内に含まれない推定状態量データの個数に基づき、判定対象状態量データの正否に関する確率を導出するものであってもよい。

本実施形態において、判定装置６の制御部６０は、判定対象状態量データの受信をトリガーに、Ｓ１２以降の処理を行い、判定対象状態量データの正否（不正な処理の有無）を判定するとしたが、これに限定されない。判定装置６の制御部６０は、所定の周期にて、複数の比較対象状態量データ及び判定対象状態量データを取得し、当該周期の都度、これら取得したデータに基づき判定対象状態量データの正否を判定してもよい。

（実施形態２）
図６は、実施形態２（第２学習済みニューラルネットワーク６０３ａ）に係る判定装置６の制御部６０に含まれる機能部を例示する機能ブロック図である。実施形態２の判定装置６は、判定部６０３が第２学習済みニューラルネットワーク６０３ａである点で、判定部６０３がルールベースに基づく処理による実施形態１の判定装置６と異なる。

実施形態２の判定装置６は、実施形態１の判定装置６と同様の構成（図２参照）を有するものであり、制御部６０、記憶部６１及び車内通信部６３等のハードウェア構成は、実施形態１と同様である。

実施形態２の判定装置６の制御部６０に含まれる機能部において、判定対象状態量データの正否を判定する判定部６０３は、第２学習済みニューラルネットワーク６０３ａを含むものであり、制御部６０は実施形態２における制御プログラムを実行することにより、第２学習済みニューラルネットワーク６０３ａとして機能する。判定部６０３以外の機能部、すなわち取得部６０１及び、推定状態量データを推定する学習済みニューラルネットワーク６０２は、実施形態１と同様である。

第２学習済みニューラルネットワーク６０３ａは、判定対象状態量データ及び推定状態量データ夫々が入力された場合、判定対象状態量データの正否を推定するように学習してある。

図６に示すごとく、第２学習済みニューラルネットワーク６０３ａには、車速等の判定対象状態量データ及び、複数の学習済みニューラルネットワーク６０２夫々が推定した推定状態量データ夫々が入力される。第２学習済みニューラルネットワーク６０３ａは、入力された判定対象状態量データ及び推定状態量データ夫々に基づき、判定対象状態量データの正否を推定し、推定した判定対象状態量データの正否を判定結果として出力する。当該推定は、判定対象状態量データの正否に限定されず、判定対象状態量データの正否に関する確率を含むものであってもよい。

図７は、第２学習済みニューラルネットワーク６０３ａの一態様を例示する説明図である。第２学習済みニューラルネットワーク６０３ａは、学習済みニューラルネットワーク６０２と同様に入力層、中間層及び出力層を含むディープニューラルネットワークである。第２学習済みニューラルネットワーク６０３ａは、中間層に自己回帰層を含む再帰型ニューラルネットワークであってもよい。

入力層は、判定状態量データ及び複数の推定状態量データの個数に対応した数のノードによって構成される。中間層は、例えば全結合層及び自己回帰層を含む多層により構成される。出力層は、例えば２つのノードにより構成され、当該２つのノードは、判定対象状態量データは正常（不正な処理が有る）と推定される場合に発火するノードと、判定対象状態量データは異常（不正な処理が無い）と推定される場合に発火するノードとを含むものであってもよい。

第２学習済みニューラルネットワーク６０３ａを学習するために入力された教師データは、問題となる判定対象状態量データ及び複数の推定状態量データによるデータセットと、回答となる判定対象状態量データの正否を示すデータとによって構成される。当該教師データは、例えば実車走行に基づき取得したデータ又はシミュレーション結果によるデータにより、生成することができる。

図８は、判定装置６の制御部６０の処理を例示するフローチャートである。判定装置６の制御部６０は、実施形態１と同様に車両Ｃが起動状態において、常時的に以下の処理を行う。

判定装置６の制御部６０は、実施形態１の処理（Ｓ１０，Ｓ１１，Ｓ１２，Ｓ１３）と同様に処理（Ｓ２０，Ｓ２１，Ｓ２２，Ｓ２３）を行う。

判定装置６の制御部６０は、複数の推定状態量データ及び判定対象状態量データに基づき、判定対象状態量データの正否を推定する（Ｓ２４）。制御部６０は、複数の推定状態量データ及び判定対象状態量データを第２学習済みニューラルネットワーク６０３ａに入力し、第２学習済みニューラルネットワーク６０３ａを用いて判定対象状態量データの正否を推定する処理を行う。

判定装置６の制御部６０は、推定結果に基づき、判定対象状態量データの正否を判定する（Ｓ２５）。制御部６０は、第２学習済みニューラルネットワーク６０３ａの推定結果に基づき、判定対象状態量データの正否（不正な処理の有無）を判定する。第２学習済みニューラルネットワーク６０３ａを用いることより、精度よく判定対象状態量データの正否を判定することができる。

判定装置６の制御部６０は、Ｓ２５を実行後、一連の処理を完了する。又は、判定装置６の制御部６０は、Ｓ２５を実行後、再度Ｓ２０の処理を実行すべくループ処理を行うものであってもよい。

今回開示された実施形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。

Ｃ 車両
１ 車外通信装置
１１ アンテナ
２ 車載中継装置
３ 車載ＥＣＵ
３ａ 車速ＥＣＵ
３１ 車速センサ
４ 車内ＬＡＮ
４１ 通信線
５ 表示装置
６ 判定装置
６０ 制御部
６０１ 取得部
６０２ 学習済みニューラルネットワーク（ニューラルネットワークモデル）
６０３ 判定部
６０３ａ 第２学習済みニューラルネットワーク
６１ 記憶部
６２ 記録媒体
６３ 車内通信部

Claims (12)

1. 車両の状態に関する第１データ及び複数の第２データを取得し、
   前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワークと、
   前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する判定部と
   を備える判定装置。
2. 前記複数の第２データ夫々と、前記第１データとの間の相関係数夫々の絶対値は、所定値以上である
   請求項１に記載の判定装置。
3. 前記相関係数の絶対値の所定値は、０．７である
   請求項２に記載の判定装置。
4. 前記判定部は、
   前記第１データを基準とした所定の範囲内に含まれる推定データの個数が、前記所定の範囲内に含まれない推定データの個数よりも多い場合、前記第１データは正常であると判定し、
   前記所定の範囲内に含まれる推定データの個数が、前記所定の範囲内に含まれない推定データの個数よりも少ない場合、前記第１データは異常であると判定する
   請求項１から請求項３のいずれか一つに記載の判定装置。
5. 前記判定部は、前記第１データを基準とした所定の範囲内に含まれる推定データの個数と、前記所定の範囲内に含まれない推定データの個数に基づいて、前記第１データの正否の確率を判定する
   請求項１から請求項３のいずれか一つに記載の判定装置。
6. 前記判定部は、前記第１データ及び、前記複数の学習済みニューラルネットワーク夫々が推定した推定データ夫々が入力された場合、前記第１データの正否を推定するように学習させた第２学習済みニューラルネットワークを含む
   請求項１から請求項３のいずれか一つに記載の判定装置。
7. 前記第１データは、前記車両の車速である
   請求項１から請求項６のいずれか一つに記載の判定装置。
8. コンピュータに、
   車両の状態に関する第１データ及び複数の第２データを取得し、
   前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワーク夫々に、取得した前記複数の第２データ夫々を入力し、
   前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する
   処理を実行させる判定プログラム。
9. 車両の状態に関する第１データ及び複数の第２データを取得し、
   前記複数の第２データの内のいずれかの第２データが入力された場合、前記第１データに相当する推定データを推定するように学習させた複数の学習済みニューラルネットワーク夫々に、取得した前記複数の第２データ夫々を入力し、
   前記複数の学習済みニューラルネットワーク夫々が推定した前記推定データ夫々と、前記第１データに基づいて、前記第１データの正否を判定する
   判定方法。
10. 車両の状態に関する複数種類の第２データと、各第２データに対応する車両の状態に関する第１データとを含む教師データを取得し、
    第２データ及び該第２データに対応する第１データの組み合わせ毎の教師データに基づき、第２データを入力した場合に、対応する第１データに関する推定データを出力するよう学習させたニューラルネットワークモデルを前記組み合わせ毎に生成する
    ニューラルネットワークモデルの生成方法。
11. 前記第１データと、出力される各推定データとを比較すべく生成した複数の前記ニューラルネットワークモデルを並列接続する
    請求項１０に記載のニューラルネットワークモデルの生成方法。
12. 前記教師データは、前記第１データと、該第１データとの相関係数の絶対値が所定値以上の第２データとを含む
    請求項１０又は請求項１１に記載のニューラルネットワークモデルの生成方法。

Images