JPWO2021079459A5 - - Google Patents

Claims (6)

1. コンピュータが実行する検出方法であって、
   少なくとも３種類以上の正解ラベルのうち、いずれかの正解ラベルに対応する複数の訓練データを用いて、監視対象となる運用モデルを訓練し、
   前記運用モデルの出力結果を基にして、データの特徴空間を複数の適用領域に分類する決定境界から運用データまでの距離を算出するインスペクターモデルを訓練することで、前記インスペクターモデルに、前記決定境界を学習させ、
   前記複数の訓練データが前記決定境界の付近に位置するか否かを前記インスペクターモデルにより算出し、全訓練データのうち、前記決定境界の付近に位置する訓練データの第一割合を取得し、
   少なくとも３種類以上の正解ラベルのうち、いずれかの正解ラベルに対応する複数の運用データが前記決定境界から距離が閾値以下となる領域に位置するか否かを前記インスペクターモデルにより算出し、全運用データのうち、前記決定境界から距離が閾値以下となる領域に位置する運用データの第二割合を取得し、
   前記第一割合と前記第二割合とを基にして、前記運用データの傾向の時間変化に起因する前記運用モデルの出力結果の変化を検出する
   処理を実行することを特徴とする検出方法。
2. 前記作成する処理は、前記データの特徴空間を、１つの適用領域と、他の複数の適用領域とに分類する決定境界を学習させた複数のインスペクターモデルを作成することを特徴とする請求項１に記載の検出方法。
3. 前記第一割合を取得する処理は、前記複数のインスペクターモデルの決定境界毎に、前記第一割合を取得し、前記第二割合を取得する処理は、前記複数のインスペクターモデルの決定境界毎に、前記第二割合を取得することを特徴とする請求項２に記載の検出方法。
4. 前記検出する処理は、前記複数のインスペクターモデルの決定境界毎の第一割合と、前記複数のインスペクターモデルの決定境界毎の第二割合とを基にして、前記運用モデルの出力結果の変化の要因となるデータを検出することを特徴とする請求項３に記載の検出方法。
5. コンピュータに、
   少なくとも３種類以上の正解ラベルのうち、いずれかの正解ラベルに対応する複数の訓練データを用いて、監視対象となる運用モデルを学習し、
   前記運用モデルの出力結果を基にして、データの特徴空間を複数の適用領域に分類する決定境界から運用データまでの距離を算出するインスペクターモデルを訓練することで、前記インスペクターモデルに、前記決定境界を学習させ、
   前記複数の訓練データが前記決定境界の付近に位置するか否かを前記インスペクターモデルにより算出し、全訓練データのうち、前記決定境界の付近に位置する訓練データの第一割合を取得し、
   少なくとも３種類以上の正解ラベルのうち、いずれかの正解ラベルに対応する複数の運用データが前記決定境界から距離が閾値以下となる領域に位置するか否かを前記インスペクターモデルにより算出し、全運用データのうち、前記決定境界から距離が閾値以下となる領域に位置する運用データの第二割合を取得し、
   前記第一割合と前記第二割合とを基にして、前記運用データの傾向の時間変化に起因する前記運用モデルの出力結果の変化を検出する
   処理を実行させることを特徴とする検出プログラム。
6. 少なくとも３種類以上の正解ラベルのうち、いずれかの正解ラベルに対応する複数の訓練データを用いて、監視対象となる運用モデルを学習する学習部と、
   前記運用モデルの出力結果を基にして、データの特徴空間を複数の適用領域に分類する決定境界から運用データまでの距離を算出するインスペクターモデルを訓練することで、前記インスペクターモデルに、前記決定境界を学習させる作成部と、
   前記複数の訓練データが前記決定境界の付近に位置するか否かを前記インスペクターモデルにより算出し、全訓練データのうち、前記決定境界の付近に位置する訓練データの第一割合を取得し、少なくとも３種類以上の正解ラベルのうち、いずれかの正解ラベルに対応する複数の運用データが前記決定境界から距離が閾値以下となる領域に位置するか否かを前記インスペクターモデルにより算出し、全運用データのうち、前記決定境界から距離が閾値以下となる領域に位置する運用データの第二割合を取得し、前記第一割合と前記第二割合とを基にして、前記運用データの傾向の時間変化に起因する前記運用モデルの出力結果の変化を検出する検出部と
   を有することを特徴とする情報処理装置。