JP7254240B2 - 推論装置、運転支援装置、推論方法、および、サーバ - Google Patents

推論装置、運転支援装置、推論方法、および、サーバ Download PDF

Info

Publication number
JP7254240B2
JP7254240B2 JP2022502639A JP2022502639A JP7254240B2 JP 7254240 B2 JP7254240 B2 JP 7254240B2 JP 2022502639 A JP2022502639 A JP 2022502639A JP 2022502639 A JP2022502639 A JP 2022502639A JP 7254240 B2 JP7254240 B2 JP 7254240B2
Authority
JP
Japan
Prior art keywords
machine learning
inference
data
unit
learning model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022502639A
Other languages
English (en)
Other versions
JPWO2021171398A1 (ja
JPWO2021171398A5 (ja
Inventor
太郎 奥田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021171398A1 publication Critical patent/JPWO2021171398A1/ja
Publication of JPWO2021171398A5 publication Critical patent/JPWO2021171398A5/ja
Application granted granted Critical
Publication of JP7254240B2 publication Critical patent/JP7254240B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/096—Transfer learning
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/082—Selecting or switching between different modes of propelling
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005—Handover processes
    • B60W60/0051—Handover processes from occupants to vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005—Handover processes
    • B60W60/0053—Handover processes from vehicle to occupant
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108—Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0112—Measuring and analyzing of parameters relative to traffic conditions based on the source of data from the vehicle, e.g. floating car data [FCD]
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125—Traffic data processing
    • G08G1/0129—Traffic data processing for creating historical data or processing based on historical data
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0137—Measuring and analyzing of parameters relative to traffic conditions for specific applications
    • G08G1/0145—Measuring and analyzing of parameters relative to traffic conditions for specific applications for active traffic flow control
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623—Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967—Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096708—Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control
    • G08G1/096716—Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control where the received information does not generate an automatic action on the vehicle control
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967—Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096708—Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control
    • G08G1/096725—Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control where the received information generates an automatic action on the vehicle control
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967—Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096766—Systems involving transmission of highway information, e.g. weather, speed limits where the system is characterised by the origin of the information transmission
    • G08G1/096775—Systems involving transmission of highway information, e.g. weather, speed limits where the system is characterised by the origin of the information transmission where the origin of the information is a central station
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/215—Selection or confirmation of options

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Automation & Control Theory (AREA)
  • Analytical Chemistry (AREA)
  • Computational Linguistics (AREA)
  • Mechanical Engineering (AREA)
  • Atmospheric Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Chemical & Material Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Traffic Control Systems (AREA)

Description

本開示は、機械学習における学習済みのモデル（以下「機械学習モデル」という。）を用いて推論を行う推論装置、運転支援装置、推論方法、および、サーバに関するものである。
従来、自動運転等の分野において、機械学習モデルを用いて、推論を行う技術が知られている。
ところで、特許文献１には、教師なしデータを用いた推定結果が教師ありデータを用いた推定結果と類似する場合に、当該教師ありデータが持つ教師情報に基づいて、教師なしデータの教師情報を作成する情報処理装置が開示されている。
特開２０１９－８７０１２号公報
機械学習モデルを用いた推論を行う場合、当該機械学習モデルには、当該機械学習モデルの学習時に入力としたデータとの類似度がかけ離れたデータが入力される場合がある。その結果、妥当ではない推論結果が出力される可能性があるという課題があった。
特許文献１に開示されている技術は、学習データのうちの教師ありデータと教師なしデータの類似度を判断する技術であり、推論時に入力とするデータと学習時に入力されたデータとの類似度を判断する技術ではない。そのため、上記課題を解決するために、特許文献１に開示されているような技術を用いることはできない。
本開示は上記のような課題を解決するためになされたもので、妥当ではない推論結果の出力を防ぐことを可能とした推論装置を提供することを目的とする。
本開示に係る推論装置は、データを取得するデータ取得部と、データを入力として第１推論結果を出力する第１機械学習モデルに、データ取得部が取得したデータを入力して第１推論結果を推論する推論部と、データを入力として第２推論結果を出力する第２機械学習モデルに、データ取得部が取得したデータを入力して推論した第２推論結果と、データ取得部が取得したデータとに基づいて、データ取得部が取得したデータと第２推論結果との類似度を算出する類似度算出部と、類似度算出部が算出した類似度と、推論結果判定用閾値とを比較することで、第１推論結果を出力するか否かを判断する判断部と、判断部が第１推論結果を出力すると判断した場合、第１推論結果を出力する出力部とを備えたものである。
本開示によれば、妥当ではない推論結果の出力を防ぐことができる。
実施の形態１に係る推論装置の構成例を示す図である。 実施の形態１において、第１機械学習モデルと第２機械学習モデルの関係を示した図である。 実施の形態１における、車両周辺データと出力車両周辺データとの類似度［Ｓ］をあらわす（式１）である。 実施の形態１において、「正解データ類似度」の分布と「不正解データ類似度」の分布に基づいて統計的に設定される推論結果判定用閾値のイメージの一例を示している。 実施の形態１に係る推論装置の動作を説明するためのフローチャートである。 実施の形態１において、第１推論部が、判断部が運転支援情報を出力すると判断した後に、運転支援情報を推論するようにした場合の、推論装置の動作を説明するためのフローチャートである。 実施の形態２に係る推論装置の構成例を示す図である。 実施の形態２において、第２モデル選択部が、類似度算出部が算出した第２機械学習モデル毎の類似度と推論結果判定用閾値との比較によって選択第２機械学習モデルを選択する方法のイメージの一例を示す図である。 実施の形態２において、暫定第２モデル選択部が、代表類似度算出部が算出した代表類似度、および、学習時類似度情報に基づいて、暫定第２機械学習モデルを選択する方法のイメージの一例を示す図である。 実施の形態２に係る推論装置の動作を説明するためのフローチャートである。 推論装置が並列計算を行って選択第２機械学習モデルを選択する場合の、図１０のステップＳＴ１００５の具体的な動作を説明するためのフローチャートである。 推論装置が逐次計算を行った選択第２機械学習モデルを選択する場合の、図１０のステップＳＴ１００５の具体的な動作を説明するためのフローチャートである。 実施の形態２において、第１推論部が、判断部が運転支援情報を出力すると判断した後に、運転支援情報を推論するようにした場合の、推論装置の動作を説明するためのフローチャートである。 図１４Ａ，図１４Ｂは、実施の形態１に係る推論装置または実施の形態２に係る推論装置のハードウェア構成の一例を示す図である。 実施の形態１に係る推論装置または実施の形態２に係る推論装置がサーバに備えられ、サーバと車両とがネットワークを介して接続される推論システムの構成例を示す図である。
以下、この発明の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態１．
図１は、実施の形態１に係る推論装置１の構成例を示す図である。
実施の形態１において、推論装置１は、車両の運転者による運転を支援するための情報（以下「運転支援情報」という。）を出力する運転支援装置１００に備えられている。なお、運転支援装置１００が運転を支援する車両は、自動運転機能を有することを前提とする。車両が自動運転機能を有する場合であっても、運転者が、当該自動運転機能を実行せず、自ら車両を運転することができる。運転支援装置１００は、自動運転が可能な車両において、運転者が自ら運転を行っている場合に、運転支援情報を出力する。運転支援情報は、具体的には、例えば、車両周辺の他車両、信号、または、標識等の物体を認識した旨の情報である。運転支援装置１００は、車両に搭載される。
推論装置１は、車両周辺に関するデータ（以下「車両周辺データ」という。）と、第１機械学習モデル１６とに基づいて運転支援情報を推論し、推論した運転支援情報を出力する。第１機械学習モデル１６は、入力データに対応する正解データを用意した教師あり学習により推論結果（以下「第１推論結果」という。）を推論するよう学習済である。実施の形態１では、第１機械学習モデル１６は、車両周辺データに対応する正解データを用意した教師あり学習により、第１推論結果として運転支援情報を推論するよう学習済である。
その際、推論装置１は、第２機械学習モデル１７を用いて、第１機械学習モデル１６が推論した運転支援情報が妥当か否かを判断する。第２機械学習モデル１７は、第１機械学習モデル１６と同じ入力データを用いて、入力データと推論結果（以下「第２推論結果」という。）である出力データとが等しくなるよう学習済である。実施の形態１では、第２機械学習モデル１７は、車両周辺データを入力とし、第２推論結果として、車両周辺データと同じ内容の出力データ（以下「出力車両周辺データ」という。）を出力するよう学習済である。
実施の形態１において、第１機械学習モデル１６および第２機械学習モデル１７は、ニューラルネットワークにおけるディープラーニングにより学習された機械学習モデルである。
図２は、実施の形態１において、第１機械学習モデル１６と第２機械学習モデル１７の関係を示した図である。
前提として、ニューラルネットワークの推論時の出力は、学習時に入力としたデータ（以下「学習時データ」という。）の偏りに依存する。そのため、第１機械学習モデル１６は、推論時に、当該第１機械学習モデル１６の学習時データと同じ内容の車両周辺データを入力とした場合、正しい解を導くことができる、言い換えれば、正しい運転支援情報を推論することができる、と想定される。
ここで、第２機械学習モデル１７は、上述のとおり、入力とした車両周辺データと同じ内容の出力データ、すなわち、出力車両周辺データが出力されるよう学習する。そのため、推論時に、第２機械学習モデル１７の学習時データと近い特徴を持つ車両周辺データを当該第２機械学習モデル１７の入力とした場合、当該第２機械学習モデル１７の入力とした車両周辺データと、出力される出力車両周辺データとの差が小さくなる。一方、推論時に、第２機械学習モデル１７の学習時データと異なる特徴を持つ車両周辺データを当該第２機械学習モデル１７の入力とした場合、当該第２機械学習モデル１７の入力とした車両周辺データと、出力される出力車両周辺データとの間に差が生じる。なお、推論時に第２機械学習モデル１７の入力とする車両周辺データは、推論時に第１機械学習モデル１６の入力とする車両周辺データである。
実施の形態１において、推論時に第２機械学習モデル１７の入力とする車両周辺データの特徴と出力される出力車両周辺データの特徴が近いかどうかの度合いを、車両周辺データと出力車両周辺データとの「類似度」というものとする。
推論時に第２機械学習モデル１７の入力とする車両周辺データと、当該第２機械学習モデル１７が出力する出力車両周辺データとの間に生じる差が小さいほど、車両周辺データと出力車両周辺データとの類似度は大きい。車両周辺データと出力車両周辺データとの類似度が大きいほど、推論時の車両周辺データは、学習時データと近い特徴を持つと言える。推論時の車両周辺データの特徴が学習時データの特徴と近い場合、推論された運転支援情報は正しいと想定される。
一方、推論時に第２機械学習モデル１７の入力とする車両周辺データと、当該第２機械学習モデル１７が出力する出力車両周辺データとの間に生じる差が大きい場合、車両周辺データと出力車両周辺データとの類似度は小さい。車両周辺データと出力車両周辺データとの類似度が小さいほど、推論時の車両周辺データは、学習時データとは特徴が異なると言える。推論時の車両周辺データの特徴が学習時データの特徴と異なる場合、推論された運転支援情報は正しくないと想定される。
推論装置１は、推論時に、車両周辺データと出力車両周辺データとの類似度を算出し、算出した類似度に基づいて、運転支援情報が妥当か否かの判断を行う。
推論装置１における類似度の算出方法については、後述する。また、推論装置１が行う、運転支援情報が妥当か否かの判断の方法の詳細については、後述する。
推論装置１は、第１機械学習モデル１６に基づいて推論した運転支援情報が妥当であると判断した場合、運転支援装置１００に当該運転支援情報を出力する。
なお、実施の形態１では、第１機械学習モデル１６は、上述のとおり、物体を認識した旨の情報を取得する用途で用いられる機械学習モデルとするが、これは一例に過ぎない。第１機械学習モデル１６は、任意の用途で用いられる、任意の第１推論結果を得るための機械学習モデルである。
推論装置１は、図１に示すように、データ取得部１１、推論部１２、類似度算出部１３、判断部１４、出力部１５、第１機械学習モデル１６、および、第２機械学習モデル１７を備える。なお、実施の形態１では、図１に示すように、第１機械学習モデル１６および第２機械学習モデル１７は推論装置１に備えられるものとするが、これは一例に過ぎない。第１機械学習モデル１６および第２機械学習モデル１７は、推論装置１の外部の、推論装置１が参照可能な場所に備えられていてもよい。
推論部１２は、第１推論部１２１および第２推論部１２２を備える。
データ取得部１１は、車両周辺の情報を取得する。
車両周辺の情報は、例えば、自車両の位置に関する情報、車両周辺を撮像した撮像画像、または、地図情報を含む。データ取得部１１は、例えば、車両に搭載されているＧＰＳ（Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）、車両に搭載されている撮像装置（図示省略）、または、車両外のサーバ（図示省略）が記憶している地図情報データベースから、車両周辺の情報を取得する。
データ取得部１１は、取得した、車両周辺の情報に基づき、第１機械学習モデル１６および第２機械学習モデル１７の入力とする車両周辺データを取得する。実施の形態１において、車両周辺データは、車両周辺の情報から抽出された、１つ以上の特徴量を示すデータである。特徴量は、自車両の位置、他車両の位置、または、歩行者の位置等である。
データ取得部１１は、車両周辺の情報に基づき、１つ以上の特徴量を示す車両周辺データを取得する。
データ取得部１１は、１つ以上の特徴量を示す車両周辺データを、推論部１２および類似度算出部１３に出力する。実施の形態１において、１つ以上の特徴量を示す車両周辺データを、単に「車両周辺データ」ともいう。
推論部１２は、第１機械学習モデル１６にデータ取得部１１が取得した車両周辺データを入力して、運転支援情報を推論する。
また、推論部１２は、第２機械学習モデル１７にデータ取得部１１が取得した車両周辺データを入力して、出力車両周辺データを推論する。
具体的には、推論部１２の第１推論部１２１が、第１機械学習モデル１６にデータ取得部１１が取得した車両周辺データを入力して、運転支援情報を推論する。
推論部１２の第２推論部１２２が、第２機械学習モデル１７にデータ取得部１１が取得した車両周辺データを入力して、出力車両周辺データを推論する。
第１推論部１２１は、推論した運転支援情報を判断部１４に出力する。第２推論部１２２は、推論した出力車両周辺データを類似度算出部１３に出力する。
類似度算出部１３は、第２推論部１２２が第２機械学習モデル１７にデータ取得部１１が取得した車両周辺データを入力して推論した出力車両周辺データと、データ取得部１１が取得した車両周辺データとに基づいて、データ取得部１１が取得した車両周辺データと、推論した出力車両周辺データとの類似度を算出する。
ここで、図３は、実施の形態１における、車両周辺データと出力車両周辺データとの類似度［Ｓ］をあらわす（式１）である。
（式１）において、「ｘ」は、第２推論部１２２が第２機械学習モデルの入力とした車両周辺データをあらわし、「ｘ’」は、第２推論部１２２が第２機械学習モデルに車両周辺データを入力して推論した出力車両周辺データをあらわす。
図３に示すように、実施の形態１において、車両周辺データと出力車両周辺データとの類似度は、車両周辺データと出力車両周辺データを用いたコサイン類似度であらされるものとする。「ｘ」および「ｘ’」は、それぞれＮ個の要素を持つベクトルｘ＝｛ｘ１，ｘ２，ｘ３，・・・，ｘＮ｝，ｘ’＝｛ｘ’１，ｘ’２，ｘ’３，・・・，ｘ’Ｎ｝とする。コサイン類似度は、車両周辺データおよび出力車両周辺データに含まれる特徴量の数に依らず、（式１）により、１つの値に決まる。車両周辺データと出力車両周辺データとが近い特徴を持つほど、類似度は大きくなる。
類似度算出部１３は、図３であらわす（式１）に基づいて、車両周辺データと出力車両周辺データとの類似度を算出する。
類似度算出部１３は、算出した類似度を、判断部１４に出力する。
判断部１４は、類似度算出部１３が算出した類似度と、推論結果判定用閾値とを比較することで、第１推論部１２１が推論した運転支援情報を出力するか否かを判断する。
具体的には、判断部１４は、まず、推論結果判定用閾値を設定する。
判断部１４は、第１機械学習モデル１６の検証時の「正解テストデータ」と「正解推論結果」とに基づいて算出した「正解データ類似度」、および、第１機械学習モデル１６の検証時の「不正解テストデータ」と「不正解推論結果」とに基づいて算出した「不正解データ類似度」に基づいて、推論結果判定用閾値を設定する。
「正解テストデータ」とは、第１機械学習モデル１６の検証時に当該第１機械学習モデル１６に入力した結果、出力された運転支援情報が正解であった、テストデータとしての車両周辺データである。なお、テストデータとしての車両周辺データは、１つ以上の特徴量を含む。
「正解推論結果」とは、上記「正解テストデータ」を第２機械学習モデル１７に入力した場合に出力された出力車両周辺データである。
「正解データ類似度」とは、上記「正解テストデータ」と上記「正解推論結果」とに基づき算出された、上記「正解テストデータ」と上記「正解推論結果」との類似度である。
「不正解テストデータ」とは、第１機械学習モデル１６の検証時に当該第１機械学習モデル１６に入力した結果、出力された運転支援情報が不正解であった、テストデータとしての車両周辺データである。
「不正解推論結果」とは、上記「不正解テストデータ」を第２機械学習モデル１７に入力した場合に出力された出力車両周辺データである。
「不正解データ類似度」とは、上記「不正解テストデータ」と上記「不正解推論結果」とに基づき算出された、上記「不正解テストデータ」と上記「不正解推論結果」との類似度である。
判断部１４は、類似度算出部１３が車両周辺データと出力車両周辺データとの類似度を算出するのと同様の方法で、「正解データ類似度」および「不正解データ類似度」を算出すればよい（図３の（式１）参照）。
「正解テストデータ」、「正解推論結果」、「不正解テストデータ」、および、「不正解推論結果」は、第１機械学習モデル１６および第２機械学習モデル１７の検証時に、推論装置１が参照可能な記憶部（図示省略）に記憶されているものとする。
判断部１４は、「正解データ類似度」の分布と「不正解データ類似度」の分布に基づいて、統計的に、推論結果判定用閾値を設定する。
ここで、図４は、実施の形態１において、「正解データ類似度」の分布と「不正解データ類似度」の分布に基づいて統計的に設定される推論結果判定用閾値のイメージの一例を示している。
推論時に複数の特徴量を含む車両周辺データが第１機械学習モデル１６および第２機械学習モデル１７の入力とされ得る場合、当該複数の特徴量を含むテストデータを用いて、第１機械学習モデル１６および第２機械学習モデル１７の検証が行われる。
図４において、横軸は、「正解データ類似度」または「不正解データ類似度」を示している。縦軸は、「正解データ類似度」の個数、または、「不正解データ類似度」の個数を示している。
判断部１４は、上述のとおり推論結果判定用閾値を設定すると、類似度算出部１３が算出した類似度と推論結果判定用閾値とを比較することで、第１推論部１２１が推論した運転支援情報を出力するか否かを判断する。
具体的には、実施の形態１では、判断部１４は、類似度算出部１３が算出した類似度が推論結果判定用閾値より大きい場合、第１推論部１２１が推論した運転支援情報を出力すると判断する。
判断部１４は、第１推論部１２１が推論した運転支援情報を出力するか否かの判断結果を、出力部１５に出力する。判断部１４は、第１推論部１２１が推論した運転支援情報を出力すると判断した場合、判断結果に運転支援情報を対応付けて、出力部１５に出力する。
なお、実施の形態１では、類似度は、車両周辺データと出力車両周辺データを用いたコサイン類似度であらわされるものとしている。そのため、類似度が大きいほど、車両周辺データの特徴と出力車両周辺データの特徴が近いと言える。よって、判断部１４は、類似度算出部１３が算出した類似度が推論結果判定用閾値より大きい場合、第１推論部１２１が推論した運転支援情報を出力すると判断するものとするが、これは一例に過ぎない。
類似度の設定方法によっては、類似度が大きいほど、車両周辺データの特徴と出力車両周辺データの特徴が近くないと言える場合もある。具体例を挙げると、例えば、類似度が、車両周辺データと出力車両周辺データとの差分であらわされるとする。この場合、類似度、言い換えれば、差分、が大きいほど、車両周辺データの特徴と出力車両周辺データの特徴は近くないと言える。判断部１４は、類似度が推論結果判定用閾値より小さい場合に、運転支援情報を出力すると判断する。
このように、判断部１４が運転支援情報を出力すると判断するのは、類似度が推論結果判定用閾値より大きい場合に限定されない。判断部１４は、類似度と推論結果判定用閾値との比較によって、運転支援情報を出力するか否かを判断するようになっていればよい。
また、実施の形態１では、上述のとおり、判断部１４が、「正解データ類似度」および「不正解データ類似度」を算出し、推論結果判定用閾値を設定するものとするが、これは一例に過ぎない。例えば、類似度算出部１３が、データ取得部１１が取得した車両周辺データと、当該車両周辺データを第２機械学習モデル１７に入力して推論された出力車両周辺データとの類似度を算出する際に、「正解データ類似度」および「不正解データ類似度」を算出して判断部１４に出力するようにしてもよい。判断部１４は、類似度算出部１３から出力された「正解データ類似度」および「不正解データ類似度」に基づいて推論結果判定用閾値を設定する。また、例えば、第１機械学習モデル１６および第２機械学習モデル１７の検証時に、「正解データ類似度」および「不正解データ類似度」が算出され、「正解データ類似度」および「不正解データ類似度」に基づいて推論結果判定用閾値が設定されているものとしてもよい。検証時に設定された推論結果判定用閾値は、記憶部に記憶されているものとする。
推論結果判定用閾値は、判断部１４が、当該推論結果判定用閾値を用いて、第１推論部１２１が推論した運転支援情報を出力するか否かを判断するよりも前に設定されていればよい。
出力部１５は、判断部１４が、第１推論部１２１が推論した運転支援情報を出力すると判断した場合、当該運転支援情報を、運転支援装置１００に出力する。
出力部１５は、判断部１４が、第１推論部１２１が推論した運転支援情報を出力しないと判断した場合、運転支援装置１００に対して、自動運転ができない旨を通知する通知情報を出力する。
運転支援装置１００は、出力部１５から通知情報が出力されると、車両の運転者に対して、自動運転から手動運転への切替を行うか否かを問合せる。具体的には、例えば、運転支援装置１００の問合せ部（図示省略）が、車両に備えられているタッチパネル式ディスプレイ（図示省略）に、自動運転から手動運転への切替を行うか否かのメッセージを表示する。運転者は、タッチパネル式ディスプレイを確認し、当該タッチパネル式ディスプレイをタッチする等して、手動運転への切替を行うか否かの指示を入力する。手動運転への切替を行う旨の指示が入力された場合、運転支援装置１００の運転制御部（図示省略）は、車両を手動運転制御へと切り替える。手動運転への切替を行う旨の指示が入力されなかった場合、運転支援装置１００の運転制御部は、車両を自動停車させる制御を行う。
実施の形態１に係る推論装置１の動作について説明する。
図５は、実施の形態１に係る推論装置１の動作を説明するためのフローチャートである。
データ取得部１１は、取得した、車両周辺の情報に基づき、第１機械学習モデル１６および第２機械学習モデル１７の入力とする車両周辺データを取得する（ステップＳＴ５０１）。
データ取得部１１は、取得した車両周辺データを、推論部１２および類似度算出部１３に出力する。
推論部１２の第１推論部１２１は、第１機械学習モデル１６に、ステップＳＴ５０１にてデータ取得部１１が取得した車両周辺データを入力して、運転支援情報を推論する（ステップＳＴ５０２）。
第１推論部１２１は、推論した運転支援情報を、判断部１４に出力する。
推論部１２の第２推論部１２２は、第２機械学習モデル１７に、ステップＳＴ５０１にてデータ取得部１１が取得した車両周辺データを入力して、出力車両周辺データを推論する（ステップＳＴ５０３）。
第２推論部１２２は、推論した出力車両周辺データを、類似度算出部１３に出力する。
類似度算出部１３は、第２推論部１２２がステップＳＴ５０３にて推論した出力車両周辺データと、ステップＳＴ５０１にてデータ取得部１１が取得した車両周辺データとに基づいて、データ取得部１１が取得した車両周辺データと、出力車両周辺データとの類似度を算出する（ステップＳＴ５０４）。
類似度算出部１３は、算出した類似度を、判断部１４に出力する。
判断部１４は、ステップＳＴ５０４にて類似度算出部１３が算出した類似度と、推論結果判定用閾値とを比較することで、ステップＳＴ５０２にて第１推論部１２１が推論した運転支援情報を出力するか否かを判断する（ステップＳＴ５０５）。
判断部１４は、第１推論部１２１が推論した運転支援情報を出力するか否かの判断結果を、出力部１５に出力する。
出力部１５は、ステップＳＴ５０５にて、判断部１４が、第１推論部１２１が推論した運転支援情報を出力すると判断した場合、当該運転支援情報を、運転支援装置１００に出力する（ステップＳＴ５０６）。
出力部１５は、判断部１４が、第１推論部１２１が推論した運転支援情報を出力しないと判断した場合、運転支援装置１００に対して、自動運転ができない旨を通知する通知情報を出力する。
なお、図５では、ステップＳＴ５０２、ステップＳＴ５０３の順で推論装置１の動作が行われるものとしたが、図５において、ステップＳＴ５０２の動作とステップＳＴ５０３の動作の順番は逆であってもよい。
また、図５を用いた動作説明では、推論装置１において、推論部１２の第１推論部１２１は、判断部１４が運転支援情報を出力するか否かを判断する（ステップＳＴ５０５）よりも前に当該運転支援情報を推論し（ステップＳＴ５０２）、判断部１４は、第１推論結果を出力すると判断した場合、第１推論部１２１が推論済みの運転支援情報を出力するものとしたが、これは一例に過ぎない。
推論装置１において、推論部１２の第１推論部１２１は、判断部１４が運転支援情報を出力すると判断すると、運転支援情報を推論するようにしてもよい。
図６は、実施の形態１において、第１推論部１２１が、判断部１４が運転支援情報を出力すると判断した後に、運転支援情報を推論するようにした場合の、推論装置１の動作を説明するためのフローチャートである。
図６において、ステップＳＴ６０１～ステップＳＴ６０６の具体的な動作は、それぞれ、図５のステップＳＴ５０１、ステップＳＴ５０３～ステップＳＴ５０５、ステップＳＴ５０２、ステップＳＴ５０６の具体的な動作と同様である。
図６のフローチャートで示す推論装置１の動作では、第１推論部１２１が運転支援情報を推論する動作（ステップＳＴ６０５）が、判断部１４が運転支援情報を出力するか否かの判断をした（ステップＳＴ６０４）後である点が、図５のフローチャートで示す推論装置１の動作とは異なる。
図６で示すように、判断部１４が運転支援情報を出力すると判断した後に第１推論部１２１が運転支援情報を推論するようにすることで、第１推論部１２１による、不要な運転支援情報の推論動作を省くことができる。
一般に、教師あり学習における機械学習モデルの精度は、教師ラベル付きのテストデータに基づく検証が行われることで、高められる。しかし、機械学習モデルが実際に運用される段階において、当該機械学習モデルの学習時の学習時データが、実運用にて入力としたデータに対して偏りがないことを証明することは不可能である。仮に、学習時に考慮されていなかったデータが、実運用における推論時に機械学習モデルの入力とされた場合、誤った推論結果が出力され得る。
これに対し、実施の形態１に係る推論装置１は、実運用における推論時に取得した、第１機械学習モデル１６の入力となる車両周辺データを第２機械学習モデル１７に入力して推論された出力車両周辺データと、取得した車両周辺データとの類似度を算出し、当該類似度と推論結果判定用閾値とを比較する。これにより、推論装置１は、取得した車両周辺データが、第１機械学習モデル１６の学習時データと近い特徴を持つか否かを判断する。そして、推論装置１は、取得した車両周辺データを第１機械学習モデル１６に入力して推論した運転支援情報を出力するか否かを判断する。
推論装置１は、類似度と推論結果判定用閾値とを比較した結果、取得した車両周辺データが、第１機械学習モデル１６の学習時データと近い特徴を持つと判断した場合に、運転支援情報を出力する。すなわち、推論装置１は、運転支援情報の信頼性を担保した状態で、運転支援情報を出力する。言い換えれば、推論装置１は、妥当ではない推論結果の出力を防ぐことができる。
なお、推論装置１は、類似度と推論結果判定用閾値とを比較した結果、運転支援情報を出力しないと判断した場合、運転支援情報を出力せず、自動運転ができない旨を通知する通知情報を出力する。推論装置１から通知情報が出力された場合、運転支援装置１００は、運転支援情報に基づく自動運転制御を行わないようにする。推論装置１は、自動運転ができない旨を通知し、当該推論装置１が出力する運転支援情報に基づいて自動運転制御を行う運転支援装置１００に、自動運転制御を行わないようにさせるため、運転支援装置１００における自動運転制御の信頼性を向上させることができる。
以上のように、実施の形態１によれば、推論装置１は、データ（車両周辺データ）を取得するデータ取得部１１と、データを入力として第１推論結果（運転支援情報）を出力する第１機械学習モデル１６に、データ取得部１１が取得したデータを入力して第１推論結果を推論する推論部１２と、データを入力として第２推論結果を出力する第２機械学習モデル１７に、データ取得部１１が取得したデータを入力して推論した第２推論結果と、データ取得部１１が取得したデータとに基づいて、データ取得部１１が取得したデータと第２推論結果との類似度を算出する類似度算出部１３と、類似度算出部１３が算出した類似度と、推論結果判定用閾値とを比較することで、第１推論結果を出力するか否かを判断する判断部１４と、判断部１４が第１推論結果を出力すると判断した場合、第１推論結果を出力する出力部１５とを備えるように構成した。そのため、推論装置１は、妥当ではない推論結果の出力を防ぐことができる。
実施の形態２．
実施の形態１では、第１機械学習モデル１６および第２機械学習モデル１７は、それぞれ、１つであるものとした。
実施の形態２では、第１機械学習モデル１６と第２機械学習モデル１７とが、それぞれ、複数存在する場合に、推論装置１ａが、運転支援情報を出力するか否かを判断する実施の形態について、説明する。
図７は、実施の形態２に係る推論装置１ａの構成例を示す図である。
図７において、実施の形態１にて図１を用いて説明した推論装置１の構成と同様の構成については、同じ符号を付して重複した説明を省略する。
実施の形態２では、複数の第１機械学習モデル１６－１～１６－ｎが存在する。また、複数の第１機械学習モデル１６－１～１６－ｎの数だけ、当該第１機械学習モデル１６－１～１６－ｎに対応する第２機械学習モデル１７－１～１７－ｎが存在する。第１機械学習モデル１６－１～１６－ｎと第２機械学習モデル１７－１～１７－ｎが対応する、とは、同じ学習時データに基づいて学習した第１機械学習モデル１６－１～１６－ｎおよび第２機械学習モデル１７－１～１７－ｎであることをいう。すなわち、実施の形態２において、互いに同じ学習時データに基づいて学習した、対となる第１機械学習モデル１６－１～１６－ｎおよび第２機械学習モデル１７－１～１７－ｎ、が複数組存在する。
複数の第１機械学習モデル１６－１～１６－ｎは、同じ用途で用いられる機械学習モデルである。複数の第１機械学習モデル１６－１～１６－ｎは、それぞれ、学習する際に入力とした学習時データが異なる。
実施の形態２では、一例として、第１機械学習モデル１６－１～１６－ｎは、実施の形態１の第１機械学習モデル１６同様、物体を認識した旨の情報を取得する用途で用いられる機械学習モデルとする。
実施の形態２において、複数の第１機械学習モデル１６－１～１６－ｎを、まとめて、第１機械学習モデル１６ともいう。また、複数の第２機械学習モデル１７－１～１７－ｎを、まとめて、第２機械学習モデル１７ともいう。
推論装置１ａは、第２機械学習モデル１７に対して並列計算または逐次計算を行って、複数の第２機械学習モデル１７のうちから１つ、第２機械学習モデル１７（以下「選択第２機械学習モデル」という。）を選択する。
推論装置１ａは、選択第２機械学習モデルを選択すると、選択第２機械学習モデルに対応する第１機械学習モデル１６（以下「選択第１機械学習モデル」という。）を選択する。
推論装置１ａは、選択第１機械学習モデルが推論する運転支援情報を出力するか否か判断する。
推論装置１ａが第２機械学習モデル１７に対して行う並列計算または逐次計算の詳細、および、推論装置１ａにおいて、選択第２機械学習モデルおよび選択第１機械学習モデルを選択する方法については、後述する。
実施の形態２に係る推論装置１ａは、実施の形態１に係る推論装置１とは、代表類似度算出部１８および暫定第２モデル選択部１９を備えた点が異なる。
また、実施の形態２に係る推論装置１ａは、実施の形態１に係る推論装置１とは、判断部１４ａが、第１モデル選択部１４１および第２モデル選択部１４２を備える点が異なる。また、実施の形態２に係る推論装置１ａは、実施の形態１に係る推論装置１とは、推論部１２および類似度算出部１３の動作が異なる。
推論部１２の第１推論部１２１は、第１機械学習モデル１６毎に、運転支援情報を推論する。第１推論部１２１が第１機械学習モデル１６を用いて運転支援情報を推論する具体的な方法は、実施の形態１において説明済であるため、詳細な説明を省略する。
第１推論部１２１は、推論した、第１機械学習モデル１６毎の運転支援情報を、判断部１４ａに出力する。第１推論部１２１は、運転支援情報を、当該運転支援情報を推論した第１機械学習モデル１６を特定可能な情報と対応付けて、判断部１４ａに出力するようにする。
推論部１２の第２推論部１２２は、第２機械学習モデル１７毎に、出力車両周辺データを推論する。第２推論部１２２が第２機械学習モデル１７を用いて出力車両周辺データを推論する具体的な方法は、実施の形態１において説明済であるため、詳細な説明を省略する。
第２推論部１２２は、推論した、第２機械学習モデル１７毎の出力車両周辺データを、類似度算出部１３に出力する。第２推論部１２２は、出力車両周辺データを、当該出力車両周辺データを推論した第２機械学習モデル１７を特定可能な情報と対応付けて、類似度算出部１３に出力する。
類似度算出部１３は、全ての第２機械学習モデル１７に対して、類似度を算出する。具体的には、類似度算出部１３は、第２機械学習モデル１７毎に、第２推論部１２２が推論した出力車両周辺データと、データ取得部１１が取得した車両周辺データとに基づいて、データ取得部１１が取得した車両周辺データと、推論した出力車両周辺データとの類似度を算出する。類似度算出部１３が類似度を算出する具体的な方法は、実施の形態１において説明済であるため、詳細な説明を省略する。
類似度算出部１３は、算出した、第２機械学習モデル１７毎の類似度を、判断部１４ａに出力する。類似度算出部１３は、第２機械学習モデル１７毎の類似度を、第２機械学習モデル１７を特定可能な情報と対応付けて、判断部１４ａに出力する。
推論装置１ａの構成について、推論装置１ａが並列計算を行って選択第２機械学習モデルを選択する場合と、推論装置１ａが逐次計算を行って選択第２機械学習モデルを選択する場合とに分けて説明する。
まず、推論装置１ａが並列計算を行って選択第２機械学習モデルを選択する場合の、推論装置１ａの各構成について説明する。なお、推論装置１ａの構成のうち、説明済みの、推論装置１と同様の構成については、重複した説明を省略する。
判断部１４ａは、対応する第１機械学習モデル１６および第２機械学習モデル１７の組毎に、推論結果判定用閾値を設定する。判断部１４ａが推論結果判定用閾値を設定する方法は、実施の形態１において説明した、判断部１４による推論結果判定用閾値と同様であるため、詳細な説明を省略する。
なお、推論結果判定用閾値は、予め設定され、記憶部（図示省略）に記憶されているものとしてもよい。
判断部１４ａの第２モデル選択部１４２は、類似度算出部１３が算出した類似度と推論結果判定用閾値とを比較することで、第２機械学習モデル１７のうちから選択第２機械学習モデルを選択する。
図８は、実施の形態２において、第２モデル選択部１４２が、類似度算出部１３が算出した第２機械学習モデル１７毎の類似度と推論結果判定用閾値との比較によって選択第２機械学習モデルを選択する方法のイメージの一例を示す図である。
例えば、第２モデル選択部１４２は、複数の第２機械学習モデル１７のうち、類似度が推論結果判定用閾値より大きくなる第２機械学習モデル１７を１つ、選択第２機械学習モデルとして選択する。
第２モデル選択部１４２は、類似度が推論結果判定用閾値より大きくなる第２機械学習モデル１７が複数存在する場合、例えば、一番大きい類似度が算出された第２機械学習モデル１７を、選択第２機械学習モデルとして選択する。
第２モデル選択部１４２は、選択した選択第２機械学習モデルに関する情報を、第１モデル選択部１４１に出力する。
第２モデル選択部１４２は、類似度が推論結果判定用閾値より大きくなる第２機械学習モデル１７が存在しない場合は、選択第２機械学習モデルを選択しない。第２モデル選択部１４２は、選択第２機械学習モデルを選択しなかった旨の情報を、第１モデル選択部１４１に出力する。
第１モデル選択部１４１は、第２モデル選択部１４２が選択した選択第２機械学習モデルに対応する選択第１機械学習モデルを選択する。第１モデル選択部１４１は、選択した選択第１機械学習モデルに関する情報を、判断部１４ａに出力する。
第１モデル選択部１４１は、第２モデル選択部１４２から、選択第２機械学習モデルを選択しなかった旨の情報が出力された場合は、選択第１機械学習モデルを選択しない。第１モデル選択部１４１は、選択第１機械学習モデルを選択しなかった旨の情報を、判断部１４ａに出力する。
判断部１４ａは、第１モデル選択部１４１から、選択第１機械学習モデルに関する情報が出力されると、第１推論部１２１が選択第１機械学習モデルに基づいて推論する運転支援情報を出力すると判断する。
判断部１４ａは、第１モデル選択部１４１から、選択第１機械学習モデルを選択しなかった旨の情報が出力された場合は、第１推論部１２１が推論する運転支援情報は、いずれも出力しないと判断する。
判断部１４ａは、第１推論部１２１が推論した運転支援情報を出力するか否かの判断結果を、出力部１５に出力する。判断部１４ａは、第１推論部１２１が推論した運転支援情報を出力すると判断した場合、出力すると判断した運転支援情報を対応付けて、出力部１５に出力する。具体的には、判断部１４ａは、第１推論部１２１が選択第１機械学習モデルに基づいて推論した運転支援情報を、出力する。
次に、推論装置１ａが逐次計算を行って選択第２機械学習モデルを選択する場合の、推論装置１ａの各構成について説明する。なお、推論装置１ａの構成のうち、実施の形態１において説明済みの、推論装置１と同様の構成については、重複した説明を省略する。
推論装置１ａが逐次計算を行って選択第２機械学習モデルを選択する場合、予め、第２機械学習モデル１７毎に、第２機械学習モデル１７の学習時データとしての車両周辺データと、当該学習時データを第２機械学習モデル１７に入力して推論された出力データである出力車両周辺データとの類似度（以下「学習時データ類似度」という。）が算出され、学習時類似度情報として、記憶部に記憶されている。学習時類似度情報には、ある第２機械学習モデル１７について、全ての第２機械学習モデル１７の学習時データに基づいて算出された学習時データ類似度が含まれている。具体的には、例えば、学習時類似度情報には、第２機械学習モデル１７－１について、第２機械学習モデル１７－１の学習時データと、第２機械学習モデル１７－１の学習時データを第２機械学習モデル１７－１に入力して推論された出力データとの学習時データ類似度、第２機械学習モデル１７－２の学習時データと、第２機械学習モデル１７－２の学習時データを第２機械学習モデル１７－１に入力して推論された出力データとの学習時データ類似度、・・・・、第２機械学習モデル１７－ｎの学習時データと、第２機械学習モデル１７－ｎの学習時データを第２機械学習モデル１７－１に入力して推論された出力データとの学習時データ類似度、が含まれる。学習時類似度情報には、第２機械学習モデル１７－２～１７－ｎについても同様に、第２機械学習モデル１７－１の学習時データと、第２機械学習モデル１７－１の学習時データを第２機械学習モデル１７－１に入力して推論された出力データとの学習時データ類似度、第２機械学習モデル１７－２の学習時データと、第２機械学習モデル１７－２の学習時データを第２機械学習モデル１７－１に入力して推論された出力データとの学習時データ類似度、・・・・、第２機械学習モデル１７－ｎの学習時データと、第２機械学習モデル１７－ｎの学習時データを第２機械学習モデル１７－１に入力して推論された出力データとの学習時データ類似度、が含まれる。
学習時類似度情報は、例えば、第２機械学習モデル１７の学習時に生成される。
代表類似度算出部１８は、データ取得部１１が取得した車両周辺データと、当該車両周辺データを複数の第２機械学習モデル１７のうちの、ある第２機械学習モデル１７（以下「代表第２機械学習モデル」という。）に入力して推論した出力車両周辺データとの類似度（以下「代表類似度」という。）を算出する。
代表類似度算出部１８は、複数の第２機械学習モデル１７のうちの任意の第２機械学習モデル１７を、代表第２機械学習モデルとする。
代表類似度算出部１８は、類似度算出部１３が類似度を算出するのと同様の方法で、代表類似度を算出すればよい。
代表類似度算出部１８は、算出した代表類似度を、暫定第２モデル選択部１９に出力する。
暫定第２モデル選択部１９は、代表類似度算出部１８が算出した代表類似度、および、学習時類似度情報に基づいて、複数の第２機械学習モデル１７のうちから１つ、第２機械学習モデル１７（以下「暫定第２機械学習モデル」という。）を選択する。
具体的には、暫定第２モデル選択部１９は、学習時類似度情報に含まれる学習時データ類似度のうち、代表類似度に最も近い学習時データ類似度を特定する。暫定第２モデル選択部１９は、特定した学習時データ類似度が算出された第２機械学習モデル１７を、暫定第２機械学習モデルとして選択する。
図９は、実施の形態２において、暫定第２モデル選択部１９が、代表類似度算出部１８が算出した代表類似度、および、学習時類似度情報に基づいて、暫定第２機械学習モデルを選択する方法のイメージの一例を示す図である。
図９は、一例として、代表類似度算出部１８が算出した代表類似度と最も近い学習時データ類似度は、第２機械学習モデル（２）１７－２の学習時データと、当該学習時データを第２機械学習モデル（２）１７－２に入力して推論された出力データとの類似度が最も近かったことを示している。
この場合、暫定第２モデル選択部１９は、第２機械学習モデル（２）１７－２を、暫定第２機械学習モデルとして選択する。
暫定第２モデル選択部１９は、選択した暫定第２機械学習モデルに関する情報を、判断部１４ａに出力する。
判断部１４ａの第２モデル選択部１４２は、暫定第２機械学習モデルに基づいて算出された類似度と、推論結果判定用閾値とを比較することで、選択第２機械学習モデルを選択する。
暫定第２機械学習モデルに基づいて算出された類似度は、類似度算出部１３が算出した、データ取得部１１が取得した車両周辺データと、暫定第２機械学習モデルに当該車両周辺データを入力して推論された出力車両周辺データとの類似度である。
第２モデル選択部１４２は、暫定第２機械学習モデルに基づいて算出された類似度が推論結果判定用閾値よりも大きい場合、暫定第２機械学習モデルを選択第２機械学習モデルとして選択する。第２モデル選択部１４２は、選択した選択第２機械学習モデルに関する情報を、第１モデル選択部１４１に出力する。
第２モデル選択部１４２は、暫定第２機械学習モデルに基づいて算出された類似度が推論結果判定用閾値以下である場合は、選択第２機械学習モデルを選択しない。第２モデル選択部１４２は、選択第２機械学習モデルを選択しなかった旨の情報を、第１モデル選択部１４１に出力する。
第１モデル選択部１４１は、第２モデル選択部１４２が選択した選択第２機械学習モデルに対応する選択第１機械学習モデルを選択する。第１モデル選択部１４１は、選択した選択第１機械学習モデルに関する情報を、判断部１４ａに出力する。
第１モデル選択部１４１は、第２モデル選択部１４２から、選択第２機械学習モデルを選択しなかった旨の情報が出力された場合は、選択第１機械学習モデルを選択しない。第１モデル選択部１４１は、選択第１機械学習モデルを選択しなかった旨の情報を、判断部１４ａに出力する。
判断部１４ａは、第１モデル選択部１４１から、選択第１機械学習モデルに関する情報が出力されると、第１推論部１２１が選択第１機械学習モデルに基づいて推論する運転支援情報を出力すると判断する。
判断部１４ａは、第１モデル選択部１４１から、選択第１機械学習モデルを選択しなかった旨の情報が出力された場合は、第１推論部１２１が推論する運転支援情報は、いずれも出力しないと判断する。
判断部１４ａは、第１推論部１２１が推論した運転支援情報を出力するか否かの判断結果を、出力部１５に出力する。判断部１４ａは、第１推論部１２１が推論した運転支援情報を出力すると判断した場合、出力すると判断した運転支援情報を対応付けて、出力部１５に出力する。具体的には、判断部１４ａは、第１推論部１２１が選択第１機械学習モデルに基づいて推論した運転支援情報を、出力する。
上述のとおり、代表類似度算出部１８および暫定第２モデル選択部１９は、推論装置１ａが逐次計算を行って選択第２機械学習うモデルを選択する場合にのみ機能する。
推論装置１ａが選択第２機械学習モデルを選択する際に並列計算を行う方法しか採用しない場合、推論装置１ａは、代表類似度算出部１８および暫定第２モデル選択部１９を備えない構成としてもよい。この場合、学習時類似度情報が記憶されていることも必須ではない。
ただし、推論装置１ａは、逐次計算を行って選択第２機械学習モデルを選択するようにした場合、取得した車両周辺データと全ての第２機械学習モデルに基づいて類似度を算出することなく選択第２機械学習モデルを選択できるため、並列計算を行って選択第２機械学習モデルを選択するようにする場合と比べ、処理負荷を軽減することができる。
実施の形態２に係る推論装置１ａの動作について説明する。
図１０は、実施の形態２に係る推論装置１ａの動作を説明するためのフローチャートである。
図１０において、ステップＳＴ１００１およびステップＳＴ１００８の具体的な動作は、実施の形態１にて説明した、図５のステップＳＴ５０１およびステップＳＴ５０６の具体的な動作と同様であるため、重複した説明を省略する。
推論部１２の第１推論部１２１は、第１機械学習モデル１６毎に、運転支援情報を推論する（ステップＳＴ１００２）。
第１推論部１２１は、推論した、第１機械学習モデル１６毎の運転支援情報を、判断部１４ａに出力する。第１推論部１２１は、運転支援情報を、第１機械学習モデル１６を特定可能な情報と対応付けて、判断部１４ａに出力するようにする。
推論部１２の第２推論部１２２は、第２機械学習モデル１７毎に、出力車両周辺データを推論する（ステップＳＴ１００３）。
第２推論部１２２は、推論した出力車両周辺データを、類似度算出部１３に出力する。第２推論部１２２は、出力車両周辺データを、第２機械学習モデル１７を特定可能な情報と対応付けて、類似度算出部１３に出力する。
類似度算出部１３は、全ての第２機械学習モデル１７に対して、類似度を算出する（ステップＳＴ１００４）。
類似度算出部１３は、算出した、第２機械学習モデル１７毎の類似度を、判断部１４ａに出力する。類似度算出部１３は、第２機械学習モデル１７毎の類似度を、第２機械学習モデル１７を特定可能な情報と対応付けて、判断部１４ａに出力する。
判断部１４ａの第２モデル選択部１４２は、ステップＳＴ１００４にて類似度算出部１３が算出した類似度と、推論結果判定用閾値とを比較することで、複数の第２機械学習モデル１７のうちから選択第２機械学習モデルを選択する（ステップＳＴ１００５）。
ステップＳＴ１００５の具体的な動作について、推論装置１ａが並列計算を行って選択第２機械学習モデルを選択する場合と、推論装置１ａが逐次計算を行って選択第２機械学習モデルを選択する場合とに分けて説明する。
図１１は、推論装置１ａが並列計算を行って選択第２機械学習モデルを選択する場合の、図１０のステップＳＴ１００５の具体的な動作を説明するためのフローチャートである。
判断部１４ａの第２モデル選択部１４２は、図１０のステップＳＴ１００４にて類似度算出部１３が算出した類似度と推論結果判定用閾値とを比較することで、第２機械学習モデル１７のうちから選択第２機械学習モデルを選択する。
具体的には、例えば、第２モデル選択部１４２は、複数の第２機械学習モデル１７のうち、類似度が推論結果判定用閾値より大きい第２機械学習モデル１７が存在するか判定する（ステップＳＴ１１０１）。
ステップＳＴ１１０１において、類似度が推論結果判定用閾値より大きい第２機械学習モデル１７が存在する場合（ステップＳＴ１１０１の“ＹＥＳ”の場合）、第２モデル選択部１４２は、類似度が推論結果判定用閾値より大きい第２機械学習モデル１７を、選択第２機械学習モデルとして選択する（ステップＳＴ１１０２）。
第２モデル選択部１４２は、選択した選択第２機械学習モデルに関する情報を、第１モデル選択部１４１に出力する。
ステップＳＴ１１０１において、類似度が推論結果判定用閾値より大きい第２機械学習モデル１７が存在しない場合（ステップＳＴ１１０１の“ＮＯ”の場合）、第２モデル選択部１４２は、選択第２機械学習モデルを選択しない。第２モデル選択部１４２は、選択第２機械学習モデルを選択しなかった旨の情報を、第１モデル選択部１４１に出力する。
推論装置１ａの動作は、図１０のステップＳＴ１００６へ進む。
図１２は、推論装置１ａが逐次計算を行った選択第２機械学習モデルを選択する場合の、図１０のステップＳＴ１００５の具体的な動作を説明するためのフローチャートである。
代表類似度算出部１８は、図１０のステップＳＴ１００１にてデータ取得部１１が取得した車両周辺データと、当該車両周辺データを代表第２機械学習モデルに入力して推論した出力車両周辺データとの代表類似度を算出する（ステップＳＴ１２０１）。
代表類似度算出部１８は、算出した代表類似度を、暫定第２モデル選択部１９に出力する。
暫定第２モデル選択部１９は、ステップＳＴ１２０１にて代表類似度算出部１８が算出した代表類似度、および、学習時類似度情報に基づいて、複数の第２機械学習モデル１７のうちから１つ、暫定第２機械学習モデルを選択する（ステップＳＴ１２０２）。
具体的には、暫定第２モデル選択部１９は、学習時類似度情報に含まれる学習時データ類似度のうち、代表類似度に最も近い学習時データ類似度を特定する。暫定第２モデル選択部１９は、特定した学習時データ類似度が算出された第２機械学習モデル１７を、暫定第２機械学習モデルとして選択する。
暫定第２モデル選択部１９は、選択した暫定第２機械学習モデルに関する情報を、判断部１４ａに出力する。
判断部１４ａの第２モデル選択部１４２は、暫定第２機械学習モデルに基づいて算出された類似度と、推論結果判定用閾値とを比較することで、選択第２機械学習モデルを選択する。
具体的には、例えば、第２モデル選択部１４２は、暫定第２機械学習モデルに基づいて算出された類似度が推論結果判定用閾値よりも大きいか否かを判定する（ステップＳＴ１２０３）。
ステップＳＴ１２０３において、暫定第２機械学習モデルに基づいて算出された類似度が推論結果判定用閾値よりも大きいと判定した場合（ステップＳＴ１２０３の“ＹＥＳ”の場合）、第２モデル選択部１４２は、暫定第２機械学習モデルを選択第２機械学習モデルとして選択する。
第２モデル選択部１４２は、選択した選択第２機械学習モデルに関する情報を、第１モデル選択部１４１に出力する。
ステップＳＴ１２０３において、暫定第２機械学習モデルに基づいて算出された類似度が推論結果判定用閾値以下であると判定した場合（ステップＳＴ１２０３の“ＮＯ”の場合）、第２モデル選択部１４２は、選択第２機械学習モデルを選択しない。第２モデル選択部１４２は、選択第２機械学習モデルを選択しなかった旨の情報を、第１モデル選択部１４１に出力する。
推論装置１ａの動作は、図１０のステップＳＴ１００６へ進む。
図１０のフローチャートの説明に戻る。
第１モデル選択部１４１は、第２モデル選択部１４２が選択した選択第２機械学習モデルに対応する選択第１機械学習モデルを選択する（ステップＳＴ１００６）。第１モデル選択部１４１は、選択した選択第１機械学習モデルに関する情報を、判断部１４ａに出力する。
第１モデル選択部１４１は、第２モデル選択部１４２から、選択第２機械学習モデルを選択しなかった旨の情報が出力された場合は、選択第１機械学習モデルを選択しない。第１モデル選択部１４１は、選択第１機械学習モデルを選択しなかった旨の情報を、判断部１４ａに出力する。
判断部１４ａは、運転支援情報を出力するか否かを判断する（ステップＳＴ１００７）。
具体的には、判断部１４ａは、ステップＳＴ１００６にて、第１モデル選択部１４１から、選択第１機械学習モデルに関する情報が出力されると、第１推論部１２１が選択第１機械学習モデルに基づいて推論する運転支援情報を出力すると判断する。
判断部１４ａは、ステップＳＴ１００６にて、第１モデル選択部１４１から、選択第１機械学習モデルを選択しなかった旨の情報が出力された場合は、第１推論部１２１が推論する運転支援情報は、いずれも出力しないと判断する。
判断部１４ａは、第１推論部１２１が推論した運転支援情報を出力するか否かの判断結果を、出力部１５に出力する。判断部１４ａは、第１推論部１２１が推論した運転支援情報を出力すると判断した場合、出力すると判断した運転支援情報を対応付けて、出力部１５に出力する。具体的には、判断部１４ａは、第１推論部１２１が選択第１機械学習モデルに基づいて推論した運転支援情報を、出力する。
なお、図１０では、ステップＳＴ１００２、ステップＳＴ１００３の順で推論装置１ａの動作が行われるものとしたが、図１０において、ステップＳＴ１００２の動作とステップＳＴ１００３の動作の順番は逆であってもよい。
また、図１０を用いた動作説明では、推論装置１ａにおいて、推論部１２の第１推論部１２１は、判断部１４ａが運転支援情報を出力するか否かを判断する（ステップＳＴ１００７）よりも前に当該運転支援情報を推論し（ステップＳＴ１００２）、判断部１４ａは、運転支援情報を出力すると判断した場合、第１推論部１２１が推論済みの運転支援情報を出力するものとしたが、これは一例に過ぎない。
推論装置１ａにおいて、推論部１２の第１推論部１２１は、判断部１４ａが運転支援情報を出力すると判断すると、運転支援情報を推論するようにしてもよい。
図１３は、実施の形態２において、第１推論部１２１が、判断部１４ａが運転支援情報を出力すると判断した後に、運転支援情報を推論するようにした場合の、推論装置１ａの動作を説明するためのフローチャートである。
図１３において、ステップＳＴ１３０１～ステップＳＴ１３０８の具体的な動作は、それぞれ、図１０のステップＳＴ１００１、ステップＳＴ１００３～ステップＳＴ１００７、ステップＳＴ１００２、ステップＳＴ１００８の具体的な動作と同様である。
図１３のフローチャートで示す推論装置１ａの動作では、第１推論部１２１が運転支援情報を推論する動作（ステップＳＴ１３０７）が、判断部１４ａが運転支援情報を出力するか否かの判断をした（ステップＳＴ１３０６）後である点が、図１０のフローチャートで示す推論装置１ａの動作とは異なる。
図１３で示すように、判断部１４ａが運転支援情報を出力すると判断した後に第１推論部１２１が運転支援情報を推論するようにすることで、第１推論部１２１による、不要な運転支援情報の推論動作を省くことができる。
このように、推論装置１ａは、互いに同じ学習時データに基づいて学習した、対となる第１機械学習モデル１６および第２機械学習モデル１７、が複数組存在する場合、第２機械学習モデル１７毎に、実運用時に取得した車両周辺データを第２機械学習モデル１７に入力して推論した出力車両周辺データと、取得した車両周辺データとの類似度を算出し、当該類似度と推論結果判定用閾値とを比較することで、複数の第２機械学習モデル１７のうちから選択第２機械学習モデルを選択する。そして、推論装置１ａは、選択第２機械学習モデルに対応する選択第１機械学習モデルを選択し、第１推論部１２１が選択第１機械学習モデルに基づいて推論する運転支援情報を出力する。
推論装置１ａは、第１機械学習モデル１６および第２機械学習モデル１７が複数存在する場合であっても、取得した車両周辺データが、第１機械学習モデル１６の学習時データと近い特徴を持つと判断した場合に、運転支援情報を出力する。すなわち、推論装置１ａは、運転支援情報の信頼性を担保した状態で、運転支援情報を出力する。言い換えれば、推論装置１ａは、妥当ではない推論結果の出力を防ぐことができる。
なお、推論装置１ａは、実施の形態１に係る推論装置１同様、運転支援情報を出力しないと判断した場合、運転支援情報を出力せず、自動運転ができない旨を通知する通知情報を出力する。推論装置１ａから通知情報が出力された場合、運転支援装置１００は、運転支援情報に基づく自動運転制御を行わないようにする。推論装置１ａは、自動運転ができない旨を通知し、当該推論装置１ａが出力する運転支援情報に基づいて自動運転制御を行う運転支援装置１００に、自動運転制御を行わないようにさせるため、運転支援装置１００における自動運転制御の信頼性を向上させることができる。
以上のように、実施の形態２によれば、互いに同じ学習時データに基づいて学習した、対となる第１機械学習モデル１６および第２機械学習モデル１７、が複数組存在する場合、推論装置１ａにおいて、推論部１２は、第１機械学習モデル１６毎に第１推論結果（運転支援情報）を推論可能であり、類似度算出部１３は、第２機械学習モデル１７毎に類似度を算出可能であり、判断部１４ａは、類似度算出部１３が算出した類似度と、推論結果判定用閾値とを比較することで、複数の第２機械学習モデル１７のうちから選択第２機械学習モデルを選択する第２モデル選択部１４２と、複数の第１機械学習モデル１６のうちから、第２モデル選択部１４２が選択した選択第２機械学習モデルに対応する選択第１機械学習モデルを選択する第１モデル選択部１４１を備え、推論部１２が、第１モデル選択部１４１が選択した選択第１機械学習モデルに基づいて推論する第１推論結果を出力するか否かを判断するように構成した。そのため、推論装置１ａは、妥当ではない推論結果の出力を防ぐことができる。
図１４Ａ，図１４Ｂは、実施の形態１に係る推論装置１または実施の形態２に係る推論装置１ａのハードウェア構成の一例を示す図である。
実施の形態１，２において、データ取得部１１、推論部１２、類似度算出部１３、判断部１４，１４ａ、出力部１５、代表類似度算出部１８、および、暫定第２モデル選択部１９の機能は、処理回路１４０１により実現される。すなわち、推論装置１，１ａは、第２機械学習モデル１７に基づいて算出した類似度と推論結果判定用閾値との比較によって、第１機械学習モデル１６に基づいて推論した運転支援情報を出力するか否かを判断する制御を行うための処理回路１４０１を備える。
処理回路１４０１は、図１４Ａに示すように専用のハードウェアであっても、図１４Ｂに示すようにメモリ１４０６に格納されるプログラムを実行するＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１４０５であってもよい。
処理回路１４０１が専用のハードウェアである場合、処理回路１４０１は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）、ＦＰＧＡ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、またはこれらを組み合わせたものが該当する。
処理回路１４０１がＣＰＵ１４０５の場合、データ取得部１１、推論部１２、類似度算出部１３、判断部１４，１４ａ、出力部１５、代表類似度算出部１８、および、暫定第２モデル選択部１９の機能は、ソフトウェア、ファームウェア、または、ソフトウェアとファームウェアとの組み合わせにより実現される。すなわち、データ取得部１１、推論部１２、類似度算出部１３、判断部１４，１４ａ、出力部１５、代表類似度算出部１８、および、暫定第２モデル選択部１９は、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）１４０２、メモリ１４０６等に記憶されたプログラムを実行するＣＰＵ１４０５、システムＬＳＩ（Ｌａｒｇｅ－Ｓｃａｌｅ Ｉｎｔｅｇｒａｔｉｏｎ）等の処理回路１４０１により実現される。また、ＨＤＤ１４０２、メモリ１４０６等に記憶されたプログラムは、データ取得部１１、推論部１２、類似度算出部１３、判断部１４，１４ａ、出力部１５、代表類似度算出部１８、および、暫定第２モデル選択部１９の手順または方法をコンピュータに実行させるものであるとも言える。ここで、メモリ１４０６とは、例えば、ＲＡＭ、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、フラッシュメモリ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ）等の、不揮発性もしくは揮発性の半導体メモリ、または、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）等が該当する。
なお、データ取得部１１、推論部１２、類似度算出部１３、判断部１４，１４ａ、出力部１５、代表類似度算出部１８、および、暫定第２モデル選択部１９の機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。例えば、データ取得部１１および出力部１５については専用のハードウェアとしての処理回路１４０１でその機能を実現し、推論部１２、類似度算出部１３、判断部１４，１４ａ、代表類似度算出部１８、および、暫定第２モデル選択部１９については処理回路１４０１がメモリ１４０６に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
また、推論装置１，１ａは、運転支援装置１００等の装置と、有線通信または無線通信を行う入力インタフェース装置１４０３および出力インタフェース装置１４０４を備える。
以上の実施の形態１および実施の形態２では、第２機械学習モデル１７は、第１機械学習モデル１６と同じ入力データを用いて、入力データと第２推論結果である出力データとが等しくなるよう学習済の機械学習モデルとしたが、これは一例に過ぎない。
第２機械学習モデル１７は、入力データを正解ラベルとして学習済の、２値分類の機械学習モデルとしてもよい。２値分類の機械学習モデルは、入力データを全て正解として学習し、当該機械学習モデルに基づく推論時に、学習時に入力とした入力データと異なる特徴量が含まれる入力データを入力とした場合は、異常を示す情報を出力する。２値分類の機械学習モデルの代表的な手法は、ＯＣ－ＳＶＭ（Ｏｎｅ Ｃｌａｓｓ Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ）と呼ばれる手法である。
また、以上の実施の形態１および実施の形態２では、推論装置１，１ａは、車両に搭載されている運転支援装置１００に備えられるものとしたが、これは一例に過ぎない。
例えば、推論装置１，１ａは、サーバに備えられ、ネットワークを介して、推論装置１，１ａの外部装置である、車両に搭載された運転支援装置１００に、運転支援情報を出力するようにしてもよい。
図１５は、実施の形態１に係る推論装置１または実施の形態２に係る推論装置１ａがサーバ３００に備えられ、サーバ３００と車両（図示省略）とがネットワークを介して接続される推論システムの構成例を示す図である。
また、以上の実施の形態１および実施の形態２では、推論装置１，１ａは、車両に搭載されている運転支援装置１００に備えられ、第１機械学習モデル１６に基づいて推論した運転支援情報を出力するか否かを判断するものとしたが、これは一例に過ぎない。実施の形態１および実施の形態２に係る推論装置１，１ａは、学習済モデルに基づいて推論される情報の出力制御を行う必要がある種々の装置に適用できる。
なお、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
本開示に係る推論装置は、妥当ではない推論結果の出力を防ぐことができるように構成したため、機械学習モデルを用いて推論を行う推論装置に適用することができる。
１，１ａ 推論装置、１１ データ取得部、１２ 推論部、１２１ 第１推論部、１２２ 第２推論部、１３ 類似度算出部、１４，１４ａ 判断部、１４１ 第１モデル選択部、１４２ 第２モデル選択部、１５ 出力部、１６ 第１機械学習モデル、１７ 第２機械学習モデル、１８ 代表類似度算出部、１９ 暫定第２モデル選択部、１００ 運転支援装置、３００ サーバ、１４０１ 処理回路、１４０２ ＨＤＤ、１４０３ 入力インタフェース装置、１４０４ 出力インタフェース装置、１４０５ ＣＰＵ、１４０６ メモリ。

Claims (12)

  1. データを取得するデータ取得部と、
    前記データを入力として第１推論結果を出力する第１機械学習モデルに、前記データ取得部が取得したデータを入力して前記第１推論結果を推論する推論部と、
    前記データを入力として第２推論結果を出力する第２機械学習モデルに、前記データ取得部が取得したデータを入力して推論した前記第２推論結果と、前記データ取得部が取得したデータとに基づいて、前記データ取得部が取得したデータと前記第２推論結果との類似度を算出する類似度算出部と、
    前記類似度算出部が算出した類似度と、推論結果判定用閾値とを比較することで、前記第１推論結果を出力するか否かを判断する判断部と、
    前記判断部が前記第１推論結果を出力すると判断した場合、前記第１推論結果を出力する出力部
    とを備えた推論装置。
  2. 前記推論部は、前記判断部が前記第１推論結果を出力するか否かを判断するよりも前に当該第１推論結果を推論し、
    前記判断部は、前記推論部が推論済みの前記第１推論結果を出力するか否かを判断する
    ことを特徴とする請求項１記載の推論装置。
  3. 前記推論部は、前記判断部が前記第１推論結果を出力すると判断すると、前記第１推論結果を推論する
    ことを特徴とする請求項１記載の推論装置。
  4. 前記判断部は、
    前記類似度が前記推論結果判定用閾値より大きい場合、前記第１推論結果を出力すると判断する
    ことを特徴とする請求項１記載の推論装置。
  5. 前記推論結果判定用閾値は、
    前記第１機械学習モデルの検証時に当該第１機械学習モデルに入力した結果、出力された前記第１推論結果が正解であった正解テストデータと、当該正解テストデータを前記第２機械学習モデルに入力して出力された正解推論結果とに基づき算出された、前記正解テストデータと前記正解推論結果との正解データ類似度
    および、
    前記第１機械学習モデルの検証時に当該第１機械学習モデルに入力した結果、出力された前記第１推論結果が不正解であった不正解テストデータと、当該不正解テストデータを前記第２機械学習モデルに入力して出力された不正解推論結果とに基づき算出された、前記不正解テストデータと前記不正解推論結果との不正解データ類似度
    に基づいて設定される
    ことを特徴とする請求項１記載の推論装置。
  6. 前記第２機械学習モデルは、入力とする前記データと前記第２推論結果とが等しくなるように学習を行った機械学習モデルである
    ことを特徴とする請求項１記載の推論装置。
  7. 互いに同じ学習時データに基づいて学習した、対となる前記第１機械学習モデルおよび前記第２機械学習モデル、が複数組存在し、
    前記推論部は、前記第１機械学習モデル毎に前記第１推論結果を推論可能であり、
    前記類似度算出部は、前記第２機械学習モデル毎に前記類似度を算出可能であり、
    前記判断部は、
    前記類似度算出部が算出した前記類似度と、前記推論結果判定用閾値とを比較することで、前記複数の前記第２機械学習モデルのうちから選択第２機械学習モデルを選択する第２モデル選択部と、
    前記複数の前記第１機械学習モデルのうちから、前記第２モデル選択部が選択した前記選択第２機械学習モデルに対応する選択第１機械学習モデルを選択する第１モデル選択部を備え、
    前記推論部が、前記第１モデル選択部が選択した前記選択第１機械学習モデルに基づいて推論する前記第１推論結果を出力するか否かを判断する
    ことを特徴とする請求項１記載の推論装置。
  8. 前記類似度算出部は、全ての前記第２機械学習モデルに対して、前記類似度を算出し、
    前記第２モデル選択部は、前記類似度算出部が全ての前記第２機械学習モデルに対して算出した前記類似度を、それぞれ前記推論結果判定用閾値と比較することで、前記選択第２機械学習モデルを選択する
    ことを特徴とする請求項７記載の推論装置。
  9. 前記データ取得部が取得したデータと、当該データを前記複数の前記第２機械学習モデルのうちの代表第２機械学習モデルに入力して推論した前記第２推論結果との代表類似度を算出する代表類似度算出部と、
    前記代表類似度算出部が算出した前記代表類似度、および、前記複数の前記第１機械学習モデルの学習時に、当該複数の前記第１機械学習モデルの入力とした複数の学習時データと、当該複数の学習時データをそれぞれ前記第２機械学習モデルに入力して推論された前記第２推論結果との学習時データ類似度、に基づいて、前記複数の前記第２機械学習モデルのうちから暫定第２機械学習モデルを選択する暫定第２モデル選択部を備え、
    前記第２モデル選択部は、
    前記類似度算出部が算出した、前記データ取得部が取得したデータと、前記暫定第２機械学習モデルに前記データ取得部が取得したデータを入力して推論された前記第２推論結果との類似度、および、前記推論結果判定用閾値を比較することで、前記選択第２機械学習モデルを選択する
    ことを特徴とする請求項７記載の推論装置。
  10. 請求項１から請求項９のうちのいずれか１項記載の推論装置
    を備えた運転支援装置。
  11. データ取得部が、データを取得するステップと、
    推論部が、前記データを入力として第１推論結果を出力する第１機械学習モデルに、前記データ取得部が取得したデータを入力して前記第１推論結果を推論するステップと、
    類似度算出部が、前記データを入力として第２推論結果を出力する第２機械学習モデルに、前記データ取得部が取得したデータを入力して推論した前記第２推論結果と、前記データ取得部が取得したデータとに基づいて、前記データ取得部が取得したデータと前記第２推論結果との類似度を算出するステップと、
    判断部が、前記類似度算出部が算出した類似度と、推論結果判定用閾値とを比較することで、前記第１推論結果を出力するか否かを判断するステップと、
    出力部が、前記判断部が前記第１推論結果を出力すると判断した場合、前記第１推論結果を出力するステップ
    とを備えた推論方法
  12. データを取得するデータ取得部と、
    前記データを入力として第１推論結果を出力する第１機械学習モデルに、前記データ取得部が取得したデータを入力して前記第１推論結果を推論する推論部と、
    前記データを入力として第２推論結果を出力する第２機械学習モデルに、前記データ取得部が取得したデータを入力して推論した前記第２推論結果と、前記データ取得部が取得したデータとに基づいて、前記データ取得部が取得したデータと前記第２推論結果との類似度を算出する類似度算出部と、
    前記類似度算出部が算出した類似度と、推論結果判定用閾値とを比較することで、前記第１推論結果を出力するか否かを判断する判断部と、
    前記判断部が前記第１推論結果を出力すると判断した場合、前記第１推論結果を外部装置に出力する出力部
    を備えたサーバ。
JP2022502639A 2020-02-26 2020-02-26 推論装置、運転支援装置、推論方法、および、サーバ Active JP7254240B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/007607 WO2021171398A1 (ja) 2020-02-26 2020-02-26 推論装置、運転支援装置、推論方法、および、サーバ

Publications (3)

Publication Number Publication Date
JPWO2021171398A1 JPWO2021171398A1 (ja) 2021-09-02
JPWO2021171398A5 JPWO2021171398A5 (ja) 2022-03-10
JP7254240B2 true JP7254240B2 (ja) 2023-04-07

Family

ID=77490839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022502639A Active JP7254240B2 (ja) 2020-02-26 2020-02-26 推論装置、運転支援装置、推論方法、および、サーバ

Country Status (5)

Country Link
US (1) US20230035526A1 (ja)
JP (1) JP7254240B2 (ja)
CN (1) CN115136161A (ja)
DE (1) DE112020006796T5 (ja)
WO (1) WO2021171398A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024131007A (ja) * 2023-03-15 2024-09-30 オムロン株式会社 移動経路決定システム、自律型移動装置、移動経路決定方法、プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170330109A1 (en) 2016-05-16 2017-11-16 Purepredictive, Inc. Predictive drift detection and correction
JP2019049778A (ja) 2017-09-07 2019-03-28 日本電信電話株式会社 検知装置、検知方法及び検知プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4507679B2 (ja) * 2004-04-21 2010-07-21 富士ゼロックス株式会社 画像認識装置、画像抽出装置、画像抽出方法及びプログラム
JP6255944B2 (ja) * 2013-11-27 2018-01-10 株式会社リコー 画像解析装置、画像解析方法及び画像解析プログラム
JP2019087012A (ja) 2017-11-07 2019-06-06 キヤノン株式会社 情報処理装置、情報処理方法、コンピュータプログラム、及び記憶媒体
JP7021507B2 (ja) * 2017-11-14 2022-02-17 富士通株式会社 特徴抽出装置、特徴抽出プログラム、および特徴抽出方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170330109A1 (en) 2016-05-16 2017-11-16 Purepredictive, Inc. Predictive drift detection and correction
JP2019049778A (ja) 2017-09-07 2019-03-28 日本電信電話株式会社 検知装置、検知方法及び検知プログラム

Also Published As

Publication number Publication date
CN115136161A (zh) 2022-09-30
US20230035526A1 (en) 2023-02-02
WO2021171398A1 (ja) 2021-09-02
JPWO2021171398A1 (ja) 2021-09-02
DE112020006796T5 (de) 2022-12-29

Similar Documents

Publication Publication Date Title
CN111488789B (zh) 用于基于图像分析的监视的行人检测方法及装置
US11386298B2 (en) Uncertainty guided semi-supervised neural network training for image classification
US11120305B2 (en) Learning of detection model using loss function
KR20180057300A (ko) 딥 러닝을 이용하여 환자의 진단 이력으로부터 질병 예후를 예측하는 방법 및 시스템
US12039578B2 (en) Methods and systems for automatic processing of images of a damaged vehicle and estimating a repair cost
US20190371025A1 (en) Agent navigation using visual inputs
JP7254240B2 (ja) 推論装置、運転支援装置、推論方法、および、サーバ
KR102352942B1 (ko) 객체 경계정보의 주석을 입력하는 방법 및 장치
EP3869422A1 (en) Model update support method, model update support apparatus, and model update support program
JP2023038178A (ja) ライダー基盤客体探知のための人工知能モデルの入力特徴マップ生成方法、装置およびコンピュータプログラム
IE20210177A2 (en) Machine Learning Techniques For Generating Hybrid Risk Scores
CN114186090A (zh) 一种图像标注数据的智能质检方法及系统
US20240177341A1 (en) Computer-readable recording medium storing object detection program, device, and machine learning model generation method
US20240037388A1 (en) Method of learning neural network, feature selection apparatus, feature selection method, and recording medium
CN111523351A (zh) 神经网络的训练方法、装置和电子设备
US11688175B2 (en) Methods and systems for the automated quality assurance of annotated images
WO2020166278A1 (ja) システム、訓練装置、訓練方法及び予測装置
KR102103727B1 (ko) 스킴―픽셀ｃｎｎ을 이용한 이미지 자동 생성 방법 및 이미지 자동 생성 장치
US20220157407A1 (en) Information processing device, information processing method, recording medium recording information processing program, and information processing system
JP7233606B2 (ja) 教師データ生成装置、および、教師データ生成方法
US20230334315A1 (en) Information processing apparatus, control method of information processing apparatus, and storage medium
US20230206128A1 (en) Non-transitory computer-readable recording medium, output control method, and information processing device
US20240037389A1 (en) Method of learning neural network, feature selection apparatus, feature selection method, and recording medium
WO2023188160A1 (ja) 入力支援装置、入力支援方法、及び非一時的なコンピュータ可読媒体
US20240005655A1 (en) Learning apparatus, estimation apparatus, learning method, estimation method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230328

R150 Certificate of patent or registration of utility model

Ref document number: 7254240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150