JPWO2021199201A5 - - Google Patents

Claims (10)

1. 一以上の説明可能な予測モデルを取得するモデル取得部と、
   前記一以上のモデルと、倫理的リスク要因となる情報である倫理的リスク要因情報と、に基づいて前記一以上のモデルのリスクを判定するリスク判定部と、
   判定されたリスクの判定結果に基づいてモデルを選択するモデル選択部と、
   選択されたモデルを出力するモデル出力部と、
   を有するリスク評価装置。
2. 前記リスク判定部は、
   前記一以上のモデルの要素間の関係に基づいて、前記一以上のモデル毎にモデルを言語で記述した文を生成し、
   前記文及び前記文の要素の少なくとも一方と、前記倫理的リスク要因情報と、を用いて前記一以上のモデルのリスクを判定する、
   請求項１に記載のリスク評価装置。
3. 前記リスク判定部は、
   前記一以上のモデルと、前記倫理的リスク要因情報と、に基づいて前記一以上のモデルが有するリスクをスコアリングしたリスク判定スコアを算出し、
   前記モデル選択部は、
   前記リスク判定スコアに基づいてモデルを選択する、
   請求項１に記載のリスク評価装置。
4. 前記リスク判定部は、
   前記文及び前記文の要素の少なくとも一方と、前記倫理的リスク要因情報と、を用いて前記一以上のモデルが有するリスクをスコアリングしたリスク判定スコアを算出し、
   前記モデル選択部は、
   前記リスク判定スコアに基づいてモデルを選択する、
   請求項２に記載のリスク評価装置。
5. 前記リスク判定部は、前記文及び前記文の要素の少なくとも一方と、前記倫理的リスク要因情報と、の間の関係を示す統計値を算出することによりリスク判定スコアを算出する、
   請求項４に記載のリスク評価装置。
6. 前記倫理的リスク要因情報を保持する倫理的リスク要因情報保持部を、さらに有し、
   前記リスク判定部は、
   前記一以上のモデルと、保持されている前記倫理的リスク要因情報と、に基づいて前記一以上のモデルのリスクを判定する、
   請求項１から請求項５のいずれか一に記載のリスク評価装置。
7. 前記一以上のモデルよりモデルを選択するためのルールであるモデル選択ルールを保持するモデル選択ルール保持部を、さらに有し、
   前記モデル選択部は、
   前記リスク判定スコアと、前記モデル選択ルールに基づいて、前記一以上のモデルの内からモデルの選択をする、
   請求項３から請求項５のいずれか一に記載のリスク評価装置。
8. 前記モデル選択ルールは、算出されたリスク判定スコアが所定の値を超えた場合にそのリスク判定スコアに係るモデルは選択しないとするルールである、請求項７に記載のリスク評価装置。
9. 一以上の説明可能な予測モデルを取得し、
   取得されたモデルと、倫理的リスク要因となる情報である倫理的リスク要因情報と、に基づいて前記一以上のモデルのリスクを判定し、
   リスクの判定結果に基づいてモデルを選択し、
   選択されたモデルを出力する、
   リスク評価方法。
10. 一以上の説明可能な予測モデルを取得する処理と、
    取得されたモデルと、倫理的リスク要因となる情報である倫理的リスク要因情報と、に基づいて前記一以上のモデルのリスクを判定する処理と、
    リスクの判定結果に基づいてモデルを選択する処理と、
    選択されたモデルを出力する処理と、
    をコンピュータに実行させるプログラム。