JP7334478B2 - 情報処理装置及びプログラム - Google Patents

Description

本発明は、情報処理装置及びプログラムに関する。

一般的に、人工知能によって学習データが学習される。

特許文献１には、誤った新規道路を繰り返し学習してしまうことを抑制するための装置が記載されている。

特開２０１０－２２３８２４号公報

本発明の目的は、学習データが人工知能の性能に影響を与えたか否かが分かるようにすることにある。

請求項１に係る発明は、人工知能が学習した学習データを、前記人工知能の性能に影響を与えた影響学習データ、又は、前記人工知能の性能に影響を与えなかった非影響学習データに分類して記録手段に記録させる制御手段を有する情報処理装置である。

請求項２に係る発明は、前記制御手段は、更に、前記影響学習データを、前記人工知能の性能を向上させた向上学習データ、又は、前記人工知能の性能を低下させた低下学習データに分類して前記記録手段に記録させる、ことを特徴とする請求項１に記載の情報処理装置である。

請求項３に係る発明は、前記非影響学習データは、前記人工知能の性能が変わらなかった学習データである、ことを特徴とする請求項１又は請求項２に記載の情報処理装置である。

請求項４に係る発明は、前記制御手段は、更に、人工知能毎に、前記学習データを、前記影響学習データ、又は、前記非影響学習データに分類して前記記録手段に記録させる、ことを特徴とする請求項１から請求項３のいずれか一項に記載の情報処理装置である。

請求項５に係る発明は、前記制御手段は、更に、人工知能の機能毎に、前記学習データを、前記影響学習データ、又は、前記非影響学習データに分類して前記記録手段に記録させる、ことを特徴とする請求項１から請求項４のいずれか一項に記載の情報処理装置である。

請求項６に係る発明は、前記制御手段は、更に、人工知能の学習履歴を前記学習データに紐付けて前記記録手段に記録させる、ことを特徴とする請求項１から請求項５のいずれか一項に記載の情報処理装置である。

請求項７に係る発明は、前記人工知能が複数の異なる学習データの組み合わせを学習した場合、前記制御手段は、更に、前記複数の学習データの組み合わせを、前記人工知能の性能に影響を与えた組み合わせ、又は、前記人工知能の性能に影響を与えなかった組み合わせに分類して前記記録手段に記録させる、ことを特徴とする請求項１に記載の情報処理装置である。

請求項８に係る発明は、前記制御手段は、更に、別の人工知能の学習目的に応じて、前記影響学習データ又は非影響学習データを、前記別の人工知能に学習させる、ことを特徴とする請求項１から請求項７のいずれか一項に記載の情報処理装置である。

請求項９に係る発明は、前記制御手段は、更に、別の人工知能の機能に対応する機能を有する前記人工知能が学習した前記影響学習データを、前記別の人工知能に学習させる、ことを特徴とする請求項１から請求項８のいずれか一項に記載の情報処理装置である。

請求項１０に係る発明は、前記制御手段は、前記人工知能の性能を向上させた向上学習データを前記別の人工知能に学習させる、ことを特徴とする請求項９に記載の情報処理装置である。

請求項１１に係る発明は、コンピュータを、人工知能が学習した学習データを、前記人工知能の性能に影響を与えた影響学習データ、又は、前記人工知能の性能に影響を与えなかった非影響学習データに分類して記録手段に記録させる制御手段、として機能させるプログラムである。

請求項１，３，４，１１に係る発明によれば、学習データが人工知能の性能に影響を与えたか否かが分かるようになる。

請求項５に係る発明によれば、人工知能の機能毎に、学習データが人工知能の性能に影響を与えたか否かが分かるようになる。

請求項６に係る発明によれば、人工知能の学習履歴を管理することができる。

請求項７に係る発明によれば、複数の異なる学習データの組み合わせが人工知能の性能に影響を与えたか否かが分かるようになる。

請求項８に係る発明によれば、学習目的に応じた学習データを別の人工知能に学習させることができる。

請求項９に係る発明によれば、影響学習データを学習することで得られる学習効果が、別の人工知能にて得られる。

請求項１０に係る発明によれば、別の人工知能の性能を向上させることができる。

請求項１１，１３に係る発明によれば、学習データが人工知能の性能を向上させたか否かが分かるようになる。

第１実施形態に係る情報処理装置の構成を示すブロック図である。 第１実施形態に係る学習データを示す図である。 第１実施形態に係るコンテンツデータを示す図である。 第２実施形態に係る情報処理装置の構成を示すブロック図である。 第２実施形態に係る学習データを示す図である。 第２実施形態に係る学習データを示す図である。 第２実施形態に係る学習データを示す図である。 判定結果のデータベースを示す図である。 第２実施形態の変形例１に係る学習データを示す図である。 第２実施形態の変形例１に係る学習データを示す図である。 第２実施形態の変形例１に係る学習データを示す図である。 判定結果のデータベースを示す図である。 第２実施形態の変形例２に係る学習データを示す図である。 第２実施形態の変形例２に係る学習データを示す図である。

＜第１実施形態＞
図１を参照して、本発明の第１実施形態に係る情報処理装置について説明する。図１には、第１実施形態に係る情報処理装置の一例が示されている。

第１実施形態に係る情報処理装置１０は、学習データを受け付け、当該学習データに付されている、人工知能（つまりＡＩ）によって当該学習データが学習されることを許可するか否かを示す情報に応じて、当該人工知能の学習処理を変更するように構成されている。

情報処理装置１０は、例えば、パーソナルコンピュータ（以下、「ＰＣ」と称する）、タブレットＰＣ、スマートフォン、携帯電話、又は、その他の装置（例えば印刷機能等を有する複合機等）である。もちろん、これら以外の装置が情報処理装置１０であってもよい。

人工知能に用いられるアルゴリズムは特に限定されず、どのようなアルゴリズムが用いられてもよい。アルゴリズムとして、例えば機械学習が用いられる。機械学習として、教師あり学習が用いられてもよいし、教師なし学習が用いられてもよいし、強化学習が用いられてもよい。具体的には、ディープラーニング（例えば、多層パーセプトロン、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク、オートエンコーダ、制限ボルツマンマシン等）、パーセプトロン、バックプロパゲーション、アソシアトロン、サポートベクタマシン、決定木、ｋ近傍法、線形回帰、自己組織マップ、ボルツマンマシン、主成分分析、クラスタ分析、又は、Ｑラーニング等が用いられてもよい。なお、機械学習以外のアルゴリズムとして、遺伝的アルゴリズムや山登り法等が用いられてもよい。もちろん、これら以外のアルゴリズムが用いられてもよい。

学習データは、人工知能の学習に用いられるデータである。学習データは、教師あり学習に用いられる学習データとして、正しい判断（つまり答え）が含まれるデータであってもよいし、教師なし学習に用いられる学習データとして、正しい判断が含まれていないデータであってもよい。学習データは、例えば、文書データ（例えばテキストデータ等）、画像データ（例えば静止画像データや動画像データ等）、音楽データ、音声データ、又は、これらの組み合わせ等であり、その種類やデータ形式や内容については特に限定はない。

学習データには属性情報が付されている。学習データに付されている属性情報は、人工知能によって当該学習データが学習されることを許可するか否かを示す情報である。学習データに属性情報が付されているとは、属性情報が付帯情報として学習データに付帯されているということ、又は、属性情報が学習データそのものに埋め込まれているということである。学習データは付帯情報として学習データに付加されていてもよいし、学習データとは別のデータとして存在し、学習データに紐付けられていてもよい。画像データが表す画像中に属性情報が配置されることや、文書データが表す文書中に属性情報が配置されることが、属性情報が学習データそのものに埋め込まれることの一例に相当する。

人工知能は、情報処理装置１０に搭載されていてもよいし、情報処理装置１０以外の別の装置（例えばサーバやＰＣ等）に搭載されていてもよい。つまり、人工知能を実現するためのプログラムは、情報処理装置１０に記憶されていてもよいし、情報処理装置１０以外の別の装置に記憶されていてもよい。

以下、情報処理装置１０の構成について詳しく説明する。

通信部１２は通信インターフェースであって、他の装置に情報を送信する機能、及び、他の装置から情報を受信する機能を有する。通信部１２は、無線通信機能を有していてもよいし、有線通信機能を有していてもよい。通信部１２は、無線通信又は有線通信を利用することで通信経路を介して他の装置と通信してもよい。通信経路は、例えば、ＬＡＮ（Local Area Network）等のネットワークやインターネット等である。通信部１２は、近距離無線通信等を利用することで通信経路を介さずに他の装置と通信してもよい。近距離無線通信は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＲＦＩＤ（Radio Frequency Identifier）やＮＦＣ等である。

例えば、情報処理装置１０以外の他の装置から情報処理装置１０に学習データが送信されてきた場合、通信部１２は当該学習データを受信する。学習データに属性情報が付されている場合、通信部１２は当該属性情報も受信する。また、通信部１２は、学習データを他の装置に送信してもよい。

ＵＩ部１４はユーザインターフェースであって、表示部と操作部とを含む。表示部は、液晶ディスプレイ等の表示装置である。操作部は、キーボードや入力キーや操作パネル等の入力装置である。ＵＩ部１４は、表示部と操作部とを兼ね備えたタッチパネル等のＵＩ部であってもよい。

記憶部１６は、各種の情報を記憶する１又は複数の記憶領域である。各記憶領域は、例えば、情報処理装置１０に設けられている１又は複数の記憶装置（例えばハードディスクドライブやメモリ等の物理ドライブ）によって構成されている。記憶部１６には学習データが記憶されてもよい。

受付部１８は、学習データを受け付けるように構成されている。例えば、通信部１２が、情報処理装置１０以外の他の装置から送信されてきた学習データを受信した場合、受付部１８は、通信部１２が受信した当該学習データを受け付ける。通信部１２が、学習データに付されている属性情報を受信した場合、受付部１８は当該属性情報も受け付ける。また、ＵＩ部１４を介して学習データが情報処理装置１０に入力された場合や、記憶装置（例えばハードディスクドライブ、ＵＳＢメモリ、ＣＤ、ＤＶＤ、又は、その他の可搬性の記憶媒体等）を利用して学習データが情報処理装置１０に入力された場合、受付部１８は、入力された当該学習データを受け付ける。入力された学習データに属性情報が付されている場合、受付部１８は当該属性情報も受け付ける。

変更部２０は、学習データに付されている属性情報に応じて、人工知能の学習処理を変更するように構成されている。

学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可することを示している場合、変更部２０は、人工知能による当該学習データの学習を許可する。例えば、ユーザがＵＩ部１４を操作して、人工知能による当該学習データの学習を指示した場合、制御部２８は、人工知能に当該学習データを学習させる。ユーザは、当該学習データを学習する人工知能を指定し、当該人工知能に当該学習データを学習させてもよい。

学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合、変更部２０は、人工知能による当該学習データの学習を禁止する。つまり、変更部２０は、人工知能による当該学習データの学習を許可しない。例えば、ユーザがＵＩ部１４を操作して、人工知能による当該学習データの学習を指示した場合であっても、制御部２８は、人工知能に当該学習データを学習させない。

なお、学習データの一部について学習が許可され、他の部分について学習が禁止されてもよいし、学習データの全部について学習が許可又は禁止されてもよい。これらの内容は、属性情報に示されている。

学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合において、当該学習データを用いた学習の目的が特定の目的に該当する場合、変更部２０は、人工知能による当該学習データの学習を許可してもよい。例えば、学習の目的が、医療目的や教育目的等のように公共性の高い目的である場合、変更部２０は、人工知能による学習データの学習を許可してもよい。

出力部２２は、学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合において、当該学習データが許可無く変更されようとしている場合、警告を出力するように構成されている。学習データが許可無く変更されようとしているとは、当該学習データを変更する権限を有していないユーザが当該学習データを変更しようとしていることである。

例えば、学習データに、当該学習データを変更する権限を有するユーザを識別するためのユーザ識別情報（例えばユーザ名やユーザＩＤやパスワード等）が紐付けられている。学習データを変更しようとしているユーザのユーザ識別情報が、当該学習データに紐付けられている場合、制御部２８は、当該ユーザが当該学習データを変更することを許可する。具体的には、当該ユーザがＵＩ部１４を操作して、当該学習データを変更する作業を行った場合、制御部２８は、当該作業を許可し、当該ユーザの作業に従って当該学習データを変更する。学習データを変更しようとしているユーザのユーザ識別情報が、当該学習データに紐付けられていない場合、制御部２８は、当該ユーザが当該学習データを変更することを禁止する。具体的には、当該ユーザがＵＩ部１４を操作して、当該学習データを変更する作業を行った場合、制御部２８は、当該作業を禁止し、当該学習データを変更しない。なお、学習データを変更する作業は、情報処理装置１０以外の別の装置（例えばＰＣ等）にて行われてもよい。

例えば、学習データを変更しようとしている場合（例えばユーザがＵＩ部１４を操作して学習データを指定した場合等）、制御部２８は、当該学習データを変更する権限を有するユーザのユーザ識別情報を入力するための入力画面をＵＩ部１４の表示部に表示させる。当該学習データを変更する権限を有するユーザのユーザ識別情報が当該入力画面に入力されると、制御部２８は、当該学習データを変更することを許可する。別の例として、ユーザが情報処理装置１０にログインするときにユーザ識別情報が入力されている場合において、当該ユーザ識別情報が、学習データを変更する権限を有するユーザのユーザ識別情報である場合、制御部２８は、当該学習データを変更することを許可してもよい。

出力部２２は、例えば、警告を示す情報をＵＩ部１４の表示部に表示させてもよいし、当該学習データを情報処理装置１０に送信した装置（例えばＰＣ等）に警告を示す情報を送信してもよいし、警告音をスピーカに発生させてもよいし、予め登録されている装置（例えば、管理者が利用するＰＣ等）に警告を示す情報を送信してもよい。

削除部２４は、学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合において、当該学習データが許可無く変更されようとしている場合、当該学習データを削除するように構成されている。学習データが許可無く変更されようとしているとは、上述したように、当該学習データを変更する権限を有していないユーザが当該学習データを変更しようとしていることである。

例えば、許可無く変更されようとしている学習データが記憶部１６に記憶されている場合、削除部２４は、記憶部１６から当該学習データを削除する。許可無く変更されようとしている学習データが、情報処理装置１０以外の別の装置（例えばＰＣやサーバ等）に記憶されている場合、削除部２４は、当該別の装置から当該学習データを削除してもよい。

また、受付部１８が、人工知能によって学習されることが許可されていない学習データを受け付けた場合、削除部２４は、当該学習データを削除してもよい。

付加部２６は、コンテンツデータが人工知能の学習データとして用いられることを許可するか否かを示す属性情報を、当該コンテンツデータに付すように構成されている。コンテンツデータは、例えば、文書データ（例えばテキストデータ等）、画像データ（例えば静止画像データや動画像データ等）、音楽データ、音声データ、又は、これらの組み合わせ等であり、その種類やデータ形式や内容については特に限定はない。属性情報が付されたコンテンツデータは、属性情報が付された学習データの一例に相当する。

なお、付加部２６は、変更部２０が設けられている情報処理装置１０とは異なる他の装置に設けられていてもよい。この場合、付加部２６による処理は、当該他の装置によって実行される。

制御部２８は、情報処理装置１０の各部の動作を制御するように構成されている。

以下、図２を参照して、情報処理装置１０による処理について説明する。図２には、第１実施形態に係る学習データの一例が示されている。

学習データ３０には、属性情報３２が付されている。属性情報３２は、学習データ３０が人工知能によって学習されることを許可することを示す情報である。学習データ３４には、属性情報３６が付されている。属性情報３６は、学習データ３４が人工知能によって学習されることを許可しないことを示す情報である。

学習データ３０が人工知能（図２中の「ＡＩ」）によって学習されようとしている場合（例えば、ユーザが学習データ３０の学習を指示した場合）、変更部２０は、学習データ３０に付されている属性情報３２に基づいて、人工知能による学習データ３０の学習を許可又は禁止する。属性情報３２は、学習データ３０が人工知能によって学習されることを許可することを示す情報であるため、変更部２０は、人工知能による学習データ３０の学習を許可する。

同様に、学習データ３４が人工知能によって学習されようとしている場合、変更部２０は、学習データ３４に付されている属性情報３６に基づいて、人工知能による学習データ３４の学習を許可又は禁止する。属性情報３６は、学習データ３４が人工知能によって学習されることを許可しないことを示す情報であるため、変更部２０は、人工知能による学習データ３４の学習を禁止する。こうすることで、人工知能によって学習されることが望まれていない学習データが人工知能によって学習されることを防止することができる。

以下、図３を参照して、学習データを作成する処理について説明する。図３には、第１実施形態に係るコンテンツデータの一例が示されている。

付加部２６は、属性情報をコンテンツデータ３８に付す。属性情報が付されたコンテンツデータ３８は、属性情報が付された学習データの一例に相当する。属性情報４０は、コンテンツデータ３８が人工知能によって学習されることを許可しないことを示す情報である。属性情報４０が付されたコンテンツデータ３８は、人工知能によって学習されることが禁止される。属性情報４２は、コンテンツデータ３８が人工知能によって学習されることを許可することを示す情報である。属性情報４２が付されたコンテンツデータ３８は、人工知能によって学習されることが許可される。

例えば、ユーザがＵＩ部１４を操作して、属性情報が付されるコンテンツデータ３８を指定し、人工知能によってコンテンツデータ３８が学習されることを許可するか否かを指定してもよい。ユーザが、人工知能によってコンテンツデータ３８が学習されることを許可した場合、付加部２６は、ユーザによって指定されたコンテンツデータ３８に、人工知能によってコンテンツデータ３８が学習されることを許可することを示す属性情報４２を付す。ユーザが、人工知能によってコンテンツデータ３８が学習されることを許可しない場合、付加部２６は、ユーザによって指定されたコンテンツデータ３８に、人工知能によってコンテンツデータ３８が学習されることを許可しないことを示す属性情報４０を付す。もちろん、属性情報は、情報処理装置１０以外の別の装置（例えばＰＣやサーバ等）にて学習データに付されてもよい。

人工知能によってコンテンツデータ３８が学習されることを許可するか否かを指定するユーザは、コンテンツデータ３８を作成したユーザであってもよいし、コンテンツデータ３８を提供したユーザであってもよいし、コンテンツデータ３８を購入したユーザであってもよいし、コンテンツデータ３８を使用する権限を有するユーザであってもよいし、コンテンツデータ３８を管理する管理者であってもよいし、これら以外のユーザであってもよい。

例えば、コンテンツデータ３８を作成したユーザが、自身が作成した当該コンテンツデータ３８が人工知能によって学習されることを許可するか否かを指定してもよい。他のユーザについても同様である。例えば、コンテンツデータ３８が作成されたときに、付加部２６は、属性情報をコンテンツデータ３８に付す。付加部２６は、ユーザが属性情報をコンテンツデータ３８に付すことを指示した場合に、属性情報をコンテンツデータに付してもよいし、コンテンツデータ３８が完了したときに、ユーザの指示を受けなくても属性情報をコンテンツデータ３８に付してもよい。

付加部２６は、ユーザの指示によらずに、属性情報をコンテンツデータ３８に付してもよい。例えば、コンテンツデータ３８に間違った解答が含まれている場合、付加部２６は、人工知能によって学習されることを許可しないことを示す属性情報４０をコンテンツデータ３８に付す。コンテンツデータ３８に間違った解答が含まれている場合とは、例えば、翻訳の学習データとして用いられるコンテンツデータ３８に誤訳データが含まれている場合や、画像認識の学習データとして用いられるコンテンツデータ３８に、コンテンツデータ３８に表されている物体とは異なる物体を示す情報が含まれている場合や、文字認識の学習データに用いられるコンテンツデータ３８に、コンテンツデータ３８に表されている文字とは異なる文字を示す情報が含まれている場合等である。

付加部２６は、コンテンツデータ３８を解析することで、コンテンツデータ３８に間違った解答が含まれているか否かを判断し、コンテンツデータ３８に間違った解答が含まれている場合には、人工知能によって学習されることを許可しないことを示す属性情報４０をコンテンツデータ３８に付す。間違った解答の割合や出現回数が、予め定められた閾値以上になる場合、付加部２６は、人工知能によって学習されることを許可しないことを示す属性情報４０をコンテンツデータ３８に付してもよい。

コンテンツデータ３８に間違った解答が含まれていない場合、付加部２６は、人工知能によって学習されることを許可することを示す属性情報４２をコンテンツデータ３８に付す。間違った解答の割合や出現回数が、予め定められた閾値未満になる場合、付加部２６は、人工知能によって学習されることを許可することを示す属性情報４２をコンテンツデータ３８に付してもよい。

コンテンツデータ３８にセキュリティに関する情報が含まれている場合、付加部２６は、人工知能によって学習されることを許可しないことを示す属性情報４０をコンテンツデータ３８に付してもよい。コンテンツデータ３８にセキュリティに関する情報が含まれていない場合、付加部２６は、人工知能によって学習されることを許可することを示す属性情報４２をコンテンツデータ３８に付す。セキュリティに関する情報は、個人情報や、企業秘密に関する情報や、公的機関（例えば行政機関等）によって非公開に定められている情報等である。個人情報は、例えば、特定の個人の氏名や生年月日やユーザＩＤやパスワード等を示す情報である。付加部２６は、コンテンツデータ３８を解析することで、コンテンツデータ３８にセキュリティに関する情報が含まれているか否かを判断する。セキュリティに関する情報がコンテンツデータ３８に含まれている場合に、人工知能によって学習されることを許可しないことを示す属性情報４０がコンテンツデータ３８に付されることで、コンテンツデータ３８が人工知能によって学習されることで当該セキュリティに関する情報が漏洩することが防止される。

学習データに付されている属性情報は、人工知能による当該学習データの学習が許可される許可期間を示す許可期間情報を含んでもよい。つまり、学習データの学習が許可される期間が制限されていてもよい。許可期間以外の期間は、人工知能による学習データの学習が禁止される期間である。許可期間は、例えば、年月日や時間帯や時刻等によって定められている。人工知能によって当該学習データが学習されようとしている時点（例えば年月日や時刻）が、当該許可期間内に含まれている場合、変更部２０は、人工知能による当該学習データの学習を許可する。人工知能によって当該学習データが学習されようとしている時点が、当該許可期間内に含まれていない場合、変更部２０は、人工知能による当該学習データの学習を禁止する。例えば、許可期間以外の期間が、学習データが公知になっていない期間として定められ、許可期間が、学習データが公知になっている期間として定められてもよい。この定めによると、学習データが公知になっている期間では、人工知能による当該学習データの学習が許可され、学習データが公知になっていない期間では、人工知能による当該学習データの学習が禁止される。もちろん、別の理由によって、許可期間が定められてもよい。許可期間を定める権限を有するユーザによって、許可期間が定められてもよい。例えば、学習データが作成されるときに、許可期間情報を含む属性情報が当該学習データに付される。この処理は、付加部２６によって実行されてもよい。

学習データに付されている属性情報は、当該学習データの学習回数の制限を示す回数情報が含まれていてもよい。制御部２８は、学習データが人工知能によって学習された回数をカウントし、当該回数を示す情報を当該学習データに付す。学習された回数が、学習回数の制限を超える場合、当該学習データの学習は禁止される。学習回数が制限を超えた学習データを人工知能に学習させる指示がユーザによって与えられた場合であっても、制御部２８は、当該学習データを人工知能に学習させない。情報処理装置１０以外の他の装置が人工知能の学習に用いられる場合であっても、学習回数が制限を超えた学習データは、人工知能によって学習されない。学習回数の制限を定める権限を有するユーザによって、学習回数が定められてもよい。なお、学習回数の制限を定める権限を有するユーザによって、学習回数が制限を超えた学習データの学習回数が、０回に定められてもよい。例えば、学習データが作成されるときに、回数情報を含む属性情報が当該学習データに付される。この処理は、付加部２６によって実行されてもよい。

学習データに付されている属性情報は、当該学習データの用途に応じて、人工知能によって当該学習データが学習されることを許可するか否かを示す情報を含んでいてもよい。例えば、学習データが医療に関するデータや医療に用いられるデータである場合、当該学習データは、予め定められた人工知能によって学習されることが許可され、予め定められた人工知能以外の人工知能によって学習されることが禁止される。予め定められた人工知能は、例えば、情報処理装置１０に搭載されている人工知能や、予め定められた装置（例えばＰＣ等）に搭載されている人工知能である。予め定められた装置は、例えば、医療に関する施設（例えば病院や医学部の建物等）である。これら以外の装置に搭載されている人工知能が当該学習データを学習することは禁止される。医療に関するデータや医療に用いられるデータは、個人情報が含まれている可能性があるため、予め定められた人工知能による学習のみを許可し、それ以外の人工知能による学習を禁止することで、個人情報の漏洩を防止又は抑制することができる。学習データが医療以外の分野におけるデータである場合についても同様である。学習データを学習することが許可された人工知能や、当該人工知能が搭載されている装置は、その設定を行う権限を有するユーザによって定められてもよい。例えば、学習データが作成されるときに、当該学習データを学習することが許可された人工知能を示す情報を含む属性情報や、当該人工知能が搭載されている装置を示す情報を含む属性情報が、当該学習データに付される。この処理は、付加部２６によって実行されてもよい。

学習データに付されている属性情報は、人工知能の方式に応じて、人工知能によって当該学習データが学習されることを許可するか否かを示す情報を含んでいてもよい。ここでの人工知能の方式とは、人工知能に用いられるアルゴリズムである。人工知能のアルゴリズムによって、学習に適した学習データが異なる場合がある。例えば、人工知能が学習データを学習した場合に、当該人工知能のアルゴリズムによって、当該人工知能の性能が向上することもあれば、当該人工知能の性能が低下することもある。また、当該人工知能の性能が変わらないこともある。人工知能が学習することで当該人工知能の性能が向上する学習データは、当該人工知能にとって学習に適した学習データである。学習データを学習することで性能が向上する人工知能は、当該学習データを学習することが許可された人工知能である。一方、学習データを学習しても性能が向上しない人工知能（つまり、性能が低下する人工知能や、性能が変わらない人工知能）は、当該学習データを学習することを禁止された人工知能である。例えば、各人工知能による各学習データの学習履歴に基づいて、学習によって人工知能の性能が向上するか否かが決定される。学習データに付されている属性情報には、当該学習データを学習することで性能が向上する人工知能のアルゴリズムを示す情報が、当該学習データを学習することで許可された人工知能のアルゴリズムを示す情報として含まれている。例えば、学習データが作成されるときに、当該学習データを学習することで性能が向上する人工知能のアルゴリズムを示す情報を含む属性情報が、当該学習データに付される。この処理は、付加部２６によって実行されてもよい。学習データを学習する人工知能のアルゴリズムが、当該学習データを学習することで性能が向上する人工知能のアルゴリズムである場合、変更部２０は、当該人工知能による当該学習データの学習を許可する。学習データを学習する人工知能のアルゴリズムが、当該学習データを学習することで性能が向上しない人工知能のアルゴリズムである場合、変更部２０は、当該人工知能による当該学習データの学習を禁止する。こうすることで、人工知能の性能が向上する学習データを当該人工知能に学習させることができる。なお、学習することで人工知能の性能が変わらない学習データが、当該人工知能による学習が許可された学習データとして定められてもよい。

学習データに付されている属性情報は、人工知能が利用される分野毎に、人工知能によって当該学習データが学習されることを許可するか否かを示す情報を含んでいてもよい。例えば、学習が許可された分野を示す情報が、属性情報に含まれている。分野は、例えば、医療、教育、文字認識、翻訳、又は、ビジネス等である。もちろん、これら以外の分野が、人工知能が利用される分野であってもよい。例えば、医療を示す情報が、学習が許可された分野を示す情報として属性情報に含まれている場合、当該属性情報が付されている学習データは、医療に利用される人工知能によって学習されることが許可された学習データである。学習データを学習する人工知能が、医療に利用される人工知能である場合、変更部２０は、当該人工知能による当該学習データの学習を許可する。学習データを学習する人工知能が、医療に利用されない人工知能である場合、変更部２０は、当該人工知能による当該学習データを禁止する。こうすることで、人工知能が利用される分野に適した学習データを当該人工知能に学習させることができる。例えば、学習データが作成されるときに、当該学習データの学習が許可された分野を示す情報を含む属性情報が、当該学習データに付される。この処理は、付加部２６によって実行されてもよい。なお、複数の分野を示す情報が属性情報に含まれてもよい。この場合、当該複数の分野の中の少なくとも１つの分野に利用される人工知能による当該学習データの学習が許可されてもよいし、当該複数の分野のすべてに利用される人工知能による当該学習データの学習が許可されてもよい。

変更部２０は、学習データを利用するユーザに応じて、人工知能による当該学習データの学習を許可又は禁止してもよい。例えば、学習データに付されている属性情報に、当該学習データを人工知能に学習させることが許可されたユーザのユーザ識別情報が含まれている。学習データの学習を指示したユーザのユーザ識別情報が、当該学習データに付されている属性情報に含まれている場合、変更部２０は、人工知能による当該学習データの学習を許可する。学習データの学習を指示したユーザのユーザ識別情報が、当該学習データに含まれていない場合、変更部２０は、人工知能による当該学習データの学習を禁止する。例えば、学習データが作成されるときに、当該学習データを人工知能に学習させることが許可されたユーザのユーザ識別情報を含む属性情報が、当該学習データに付される。この処理は、付加部２６によって実行されてもよい。

上述した第１実施形態において、人工知能による学習データの学習が禁止された場合、制御部２８は、人工知能による当該学習データの学習を許可するか否かを問い合わせる情報を、当該学習データを作成した作成者宛に送信してもよい。例えば、学習データに付されている属性情報には、当該学習データを作成した作成者の電子メールアドレスや、当該作成者が利用する装置のアドレスを示す情報が含まれている。制御部２８は、当該電子メールアドレス宛や当該装置のアドレス宛に問い合わせ情報を送信する。作成者が、人工知能による当該学習データの学習を許可した場合、その許可を示す情報が、電子メールによって情報処理装置１０に送信されたり、作成者が利用する装置から情報処理装置１０に送信されたりする。この場合、変更部２０は、人工知能による当該学習データの学習を許可する。作成者が、人工知能による当該学習データの学習を禁止した場合、その禁止を示す情報が、電子メールによって情報処理装置１０に送信されたり、作成者が利用する装置から情報処理装置１０に送信されたりする。この場合、変更部２０は、人工知能による当該学習データの学習を禁止する。

上述した第１実施形態において、受付部１８が受け付けた学習データに、人工知能によって当該学習データが学習されることを禁止することを示す属性情報が付されている場合、変更部２０は、人工知能による当該学習データの学習を禁止してもよい。受付部１８が受け付けた学習データに、人工知能によって当該学習データが学習されることを禁止することを示す属性情報が付されていない場合、変更部２０は、人工知能による当該学習データの学習を許可する。この例においては、変更部２０は、禁止手段の一例に相当する。

別の例として、受付部１８が受け付けた学習データに、人工知能によって当該学習データが学習されることを許可することを示す属性情報が付されている場合、変更部２０は、人工知能による当該学習データの学習を許可してもよい。受付部１８が受け付けた学習データに、人工知能によって当該学習データが学習されることを許可することを示す属性情報が付されていない場合、変更部２０は、人工知能による当該学習データの学習を禁止する。この例においては、変更部２０は、許可手段の一例に相当する。

なお、変更部２０、出力部２２、削除部２４及び付加部２６のそれぞれの処理は、人工知能によって実行されてもよい。例えば、学習データを学習することを指示された人工知能が、これらの処理を実行してもよい。

＜第２実施形態＞
図４を参照して、本発明の第２実施形態に係る情報処理装置について説明する。図４には、第２実施形態に係る情報処理装置の一例が示されている。

第２実施形態に係る情報処理装置５０は、人工知能が学習した学習データを、当該人工知能の性能に影響を与えた影響学習データ、又は、当該人工知能の性能に影響を与えなかった非影響学習データのいずれかに分類するように構成されている。情報処理装置５０は、学習データを影響学習データ又は非影響学習データのいずれかに分類して記録部に記録させてもよい。

情報処理装置５０は、人工知能が学習した影響学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を低下させた低下学習データのいずれかに分類してもよい。情報処理装置５０は、影響学習データを向上学習データ又は低下学習データのいずれかに分類して記録部に記録させてもよい。

情報処理装置５０は、人工知能が学習した学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を向上させなかった非向上学習データのいずれかに分類してもよい。情報処理装置５０は、学習データを向上学習データ又は非向上学習データのいずれかに分類して記録部に記録させてもよい。

情報処理装置５０は、例えば、ＰＣ、タブレットＰＣ、スマートフォン、携帯電話、又は、その他の装置（例えば印刷機能等を有する複合機等）である。もちろん、これら以外の装置が情報処理装置５０であってもよい。

第１実施形態と同様に、人工知能に用いられるアルゴリズムは特に限定されず、第１実施形態にて説明したアルゴリズムが用いられてもよい。

学習データは、人工知能の学習に用いられるデータである。第１実施形態と同様に、学習データは、教師あり学習に用いられる学習データであってもよいし、教師なし学習に用いられる学習データであってもよい。また、学習データの種類やデータ形式や内容については特に限定はない。

人工知能は、情報処理装置５０に搭載されていてもよいし、情報処理装置５０以外の別の装置（例えばサーバやＰＣ等）に搭載されていてもよい。つまり、人工知能を実現するためのプログラムは、情報処理装置１０に記憶されていてもよいし、情報処理装置１０以外の別の装置に記憶されていてもよい。

以下、情報処理装置５０の構成について詳しく説明する。

通信部５２は通信インターフェースであって、他の装置に情報を送信する機能、及び、他の装置から情報を受信する機能を有する。通信部５２は、無線通信機能を有していてもよいし、有線通信機能を有していてもよい。通信部５２は、無線通信又は有線通信を利用することで通信経路を介して他の装置と通信してもよい。通信経路は、例えば、ＬＡＮ等のネットワークやインターネット等である。通信部５２は、近距離無線通信等を利用することで通信経路を介さずに他の装置と通信してもよい。近距離無線通信は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＲＦＩＤやＮＦＣ等である。

例えば、情報処理装置５０以外の他の装置から情報処理装置５０に学習データが送信されてきた場合、通信部５２は当該学習データを受信する。また、通信部５２は、学習データを他の装置に送信してもよい。

ＵＩ部５４はユーザインターフェースであって、表示部と操作部とを含む。表示部は、液晶ディスプレイ等の表示装置である。操作部は、キーボードや入力キーや操作パネル等の入力装置である。ＵＩ部５４は、表示部と操作部とを兼ね備えたタッチパネル等のＵＩ部であってもよい。

記憶部５６は、各種の情報を記憶する１又は複数の記憶領域である。各記憶領域は、例えば、情報処理装置５０に設けられている１又は複数の記憶装置（例えばハードディスクドライブやメモリ等の物理ドライブ）によって構成されている。記憶部５６には学習データが記憶されてもよい。

受付部５８は、学習データを受け付けるように構成されている。例えば、通信部５２が、情報処理装置５０以外の他の装置から送信されてきた学習データを受信した場合、受付部５８は、通信部５２が受信した当該学習データを受け付ける。また、ＵＩ部５４を介して学習データが情報処理装置５０に入力された場合や、記憶装置（例えばハードディスクドライブ、ＵＳＢメモリ、ＣＤ、ＤＶＤ、又は、その他の可搬性の記憶媒体等）を利用して学習データが情報処理装置５０に入力された場合、受付部５８は、入力された当該学習データを受け付ける。

判定部６０は、人工知能が学習した学習データが、当該人工知能の性能に影響を与えたか否かを判定し、当該学習データを、当該人工知能の性能に影響を与えた影響学習データ、又は、当該人工知能の性能に影響を与えなかった非影響学習データのいずれかに分類するように構成されている。こうすることで、学習データが人工知能の性能に影響を与えたか否かが分かるようになる。影響学習データ又は非影響学習データのいずれかに分類された学習データは、記録部に記録されてもよい。

影響学習データの概念の範疇には、人工知能の性能を向上させた向上学習データ、及び、人工知能の性能を低下させた低下学習データが含まれる。非影響学習データは、学習によって人工知能の性能が変わらなかった学習データである。こうすることで、学習データが人工知能の性能を向上させたか低下させたかが分かるようになる。学習データを学習する前と後とで人工知能の性能の差が閾値未満である場合、判定部６０は、当該学習データを非影響学習データに分類してもよい。

判定部６０は、人工知能が学習した影響学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を低下させた低下学習データのいずれかに分類してもよい。向上学習データ又は低下学習データのいずれかに分類された学習データは、記録部に記録されてもよい。

人工知能の性能は、人工知能が有する機能に関する性能であり、例えば、文字認識機能に関する性能、画像認識機能に関する性能、音声認識機能に関する性能、物体認識機能に関する性能、翻訳機能に関する性能、創造力（例えばビジネスや芸術等の分野における創造力）に関する性能、又は、問題を解決する能力（例えばビジネス等の分野において問題を解決する能力）に関する性能等である。もちろん、これらは人工知能の機能の一例に過ぎず、人工知能の性能の概念の範疇には、これら以外の性能が含まれてもよい。

判定部６０は、人工知能毎に、学習データを影響学習データ又は非影響学習データのいずれかに分類してもよい。また、判定部６０は、人工知能毎に、学習データを向上学習データ又は低下学習データのいずれかに分類してもよい。

判定部６０は、人工知能が有する機能毎に、学習データを影響学習データ又は非影響学習データのいずれかに分類してもよい。また、判定部６０は、人工知能が有する機能毎に、学習データを向上学習データ又は低下学習データのいずれかに分類してもよい。

判定部６０は、判定対象の学習データが人工知能の性能に影響を与えたか否かを判定するためのテストを実行する。例えば、判定部６０は、判定対象の学習データを人工知能に学習させ、学習の前と後とで当該人工知能の性能が変わったか否かを判定する。

例えば、判定対象の学習データが文字認識機能に関する性能に影響を与えたか否かを判定する場合、まず、判定部６０は、判定対象の学習データを学習する前の人工知能に、予め定められた文書データ（例えばテスト用の文書データ）を与えて、当該文書データに含まれている各文字を当該人工知能に認識させ、文字認識精度（例えば文字認識率）を算出する。

次に、判定部６０は、判定対象の学習データを人工知能に学習させる。次に、判定部６０は、判定対象の学習データを学習した後の人工知能に、当該文書データを与えて、当該文書データに含まれている各文字を当該人工知能に認識させ、文字認識精度を算出する。

判定部６０は、学習の前と後とで文字認識精度が変わったか否かを判定する。判定部６０は、学習の前と後とで文字認識精度が変わった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能に影響を与えた学習データであると判定し、学習の前と後とで文字認識精度が変わらなかった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能に影響を与えなかった学習データであると判定する。判定部６０は、学習の前と後とで文字認識精度が変わった場合、当該判定対象の学習データを影響学習データに分類し、学習の前と後とで文字認識精度が変わらなかった場合、当該判定対象の学習データを非影響学習データに分類する。

また、判定部６０は、学習の後の文字認識精度が学習の前の文字認識精度よりも高くなった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能を向上させた学習データであると判定し、学習の後の文字認識精度が学習の前の文字認識精度よりも低くなった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能を低下させた学習データであると判定する。判定部６０は、学習の後の文字認識精度が学習の前の文字認識精度よりも高くなった場合、当該判定対象の学習データを向上学習データに分類し、学習の後の文字認識精度が学習の前の文字認識精度よりも低くなった場合、当該判定対象の学習データを非向上学習データに分類する。

他の性能についても、文字認識機能に関する性能と同様に、判定対象の学習データが人工知能の性能に影響を与えたか否かが判定される。例えば、学習データである画像データを人工知能が学習する前と学習した後とで、テスト用の画像データの画像認識精度（例えば画像認識率）が算出され、その算出結果に基づいて、当該学習データの分類が行われる。例えば、猫を表す画像データを学習したことがなく、猫を表す画像データを解析して猫を認識することができない人工知能に、猫を表す画像データを学習データとして学習させたものとする。その学習の結果、当該人工知能が、猫を表す画像データを解析して猫を認識することができるようになれば、画像認識機能に関する性能が向上したことになる。その学習の結果、当該人工知能が、猫を表す画像データを解析して猫を認識することができなければ、画像認識機能に関する性能は向上しなかったことになる。

判定部６０は、人工知能が学習した学習データが、当該人工知能の性能を向上させたか否かを判定し、当該学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を向上させなかった非向上学習データのいずれかに分類してもよい。こうすることで、学習データが人工知能の性能を向上させたか否かが分かるようになる。向上学習データ又は非向上学習データに分類された学習データは、記録部に記録されてもよい。学習データを学習する前と後とで人工知能の性能の差が閾値未満である場合、判定部６０は、当該学習データを非向上学習データに分類してもよい。判定部６０は、人工知能毎に、人工知能が学習した学習データが、当該人工知能の性能を向上させたか否かを判定してもよいし、人工知能が有する機能毎に、学習データを向上学習データ又は非向上学習データのいずれかに分類してもよい。

なお、判定対象の学習データは、ユーザによって指定された学習データであってもよいし、判定対象の学習データとして予め指定されている学習データであってもよい。

付加部６２は、判定部６０による判定の結果を示す判定結果情報を、判定対象の学習データに付すように構成されている。付加部６２は、判定結果情報を付帯情報として判定対象の学習データに付してもよいし、判定結果情報を判定対象の学習データそのものに埋め込んでもよい。なお、付加部６２は、第１実施形態に係る属性情報を学習データに付してもよい。

制御部６４は、情報処理装置５０の各部の動作を制御するように構成されている。また、制御部６４は、記録制御部６６と学習制御部６８とを含む。

記録制御部６６は、判定結果情報が付された学習データを記録部に記録させるように構成されている。例えば、記録制御部６６は、判定対象の学習データを影響学習データ又は非影響学習データのいずれかに分類して記録部に記録させる。記録制御部６６は、影響学習データを向上学習データ又は低下学習データのいずれかに分類して記録部に記録させてもよい。記録制御部６６は、学習データを向上学習データ又は非向上学習データのいずれかに分類して記録部に記録させてもよい。学習データが記録される記録部は、情報処理装置５０に設けられてもよいし、情報処理装置５０以外の別の装置（例えばサーバやＰＣ等）に設けられている記録部であってもよい。学習データが記録される記録部は、ユーザによって指定されてもよいし、予め定められていてもよい。

記録制御部６６は、人工知能の学習履歴を示す学習履歴情報を判定対象の学習データに紐付けて記録部に記録させてもよい。学習履歴情報は、判定対象の学習データに付されてもよい。判定対象の学習データに紐付けられる学習履歴情報は、当該判定対象の学習データを学習した人工知能が、過去に学習した学習データを示す情報である。学習履歴情報は、人工知能毎に、人工知能を識別するための人工知能識別情報と、当該人工知能が過去に学習した学習データを識別するための学習データ識別情報との対応付けを示す情報である。また、各学習データが人工知能によって学習された順番を示す情報が、学習履歴情報に含まれてもよい。例えば、人工知能には、当該人工知能が過去に学習した学習データを識別するための学習データ識別情報が紐付けられており、記録制御部６６は、判定対象の学習データを学習した人工知能に紐付けられている学習データ識別情報を、当該判定対象の学習データに紐付ける。例えば、人工知能αが、学習データＡ，Ｂ，Ｃをその順番で学習した場合、その旨を示す情報が、学習履歴情報として学習データＣに紐付けられる。

学習制御部６８は、学習データを人工知能に学習させるように構成されている。学習制御部６８は、例えば、人工知能の学習目的に応じて、当該人工知能が学習していない影響学習データ又は非影響学習データを当該人工知能に学習させる。より詳しく説明すると、学習制御部６８は、判断対象の学習データを学習した人工知能とは異なる別の人工知能の学習目的に応じて、当該人工知能が学習することで分類された影響学習データ又は非影響学習データを、当該別の人工知能に学習させる。具体的には、学習制御部６８は、当該別の人工知能の学習目的に応じて、当該人工知能が学習することで分類された向上学習データ又は低下学習データを当該別の人工知能に学習させる。学習制御部６８は、当該別の人工知能の学習目的に応じて、当該人工知能が学習することで分類された向上学習データ又は非向上学習データを当該別の人工知能に学習させてもよい。上記の別の人工知能は、例えば、ユーザによって指定されてもよいし、予め指定されていてもよい。

具体例を挙げて学習制御部６８による処理について説明する。例えば、学習データＡを学習したことで人工知能αのある機能ａの性能が向上した場合において、別の人工知能βの学習目的が人工知能βの機能ａを向上させることである場合、学習制御部６８は、学習データＡを人工知能βに学習させる。つまり、学習データＡは、機能ａの性能を向上させることができる向上学習データに分類されているため、学習制御部６８は、機能ａの性能を向上させる向上学習データである学習データＡを人工知能βに学習させる。換言すると、人工知能βの学習目的が、人工知能βの性能を人工知能αの性能に近づけることである場合、人工知能αの性能を向上させた学習データＡを人工知能βに学習させることになる。

一方、人工知能βの学習目的が、人工知能βの性能を人工知能αの性能に近づけないことである場合、つまり、人工知能βの性能を人工知能αの性能とは異なる性能にすることである場合、学習制御部６８は、人工知能αの性能を低下させた低下学習データ、人工知能αが学習した非影響学習データ、又は、人工知能αが学習した非向上学習データを、人工知能βに学習させる。こうすることで、人工知能αとは異なる性能を有する人工知能βが作成される。

人工知能の学習目的は、例えば、ユーザによって指定される。例えば、ユーザがＵＩ部５４を操作して、学習データを学習させる人工知能（例えば上記の人工知能β）と、当該人工知能の学習目的とを指定する。学習制御部６８は、ユーザによって指定された人工知能に、ユーザによって指定された学習目的に適合する学習データを学習させる。

学習制御部６８は、上記の別の人工知能が有する機能に対応する機能を有する人工知能が学習したことで分類された影響学習データを、当該別の人工知能に学習させてもよい。別の人工知能が有する機能に対応する機能とは、当該別の人工知能が有する機能と同じ機能であってもよいし、当該別の人工知能が有する機能に類似する機能（例えば、当該別の人工知能が有する機能との差が閾値以下となる機能）であってもよい。

例えば、人工知能αが学習データＡを学習したことで、人工知能αが有する機能ａの性能が向上した場合、学習制御部６８は、機能ａを有する別の人工知能βに学習データＡを学習させる。つまり、学習制御部６８は、人工知能αの性能を向上させた向上学習データを人工知能βに学習させる。人工知能α，βは、例えば、ユーザによって指定されてもよいし、予め指定されていてもよい。

また、学習制御部６８は、上記の別の人工知能が有する学習履歴に対応する学習履歴を有する人工知能が学習したことで分類された影響学習データを、当該別の人工知能に学習させてもよい。別の人工知能が有する学習履歴に対応する学習履歴とは、当該別の人工知能が有する学習履歴と同じ学習履歴であってもよいし、当該別の人工知能が有する学習履歴に類似する学習履歴（例えば、当該別の人工知能が有する学習履歴との差が閾値以下となる学習履歴）であってもよい。ここでの学習履歴は、人工知能が過去に学習した学習データの履歴である。

以下、図５から図７を参照して、情報処理装置５０による処理について説明する。図５から図７には、第２実施形態に係る学習データの一例が示されている。

図５に示すように、一例として、学習データＡが判定対象の学習データとして指定されており、人工知能α（図５中のＡＩ（α））が、学習データＡを学習する人工知能として指定されている。例えば、ユーザがＵＩ部５４を操作して学習データＡの判定を指示すると、判定部６０は、判定対象の学習データＡを人工知能αに学習させ、学習データＡが人工知能αの性能に影響を与えたか否かを判定するためのテストを実行する。つまり、判定部６０は、学習データＡを学習する前と後とで人工知能αの性能が変わったか否かを判定する。人工知能αの性能が変わった場合、判定部６０は、学習データＡは人工知能αの性能に影響を与えた影響学習データであると判定する。人工知能αの性能が変わらなかった場合、判定部６０は、学習データＡは人工知能αの性能に影響を与えなかった非影響学習データであると判定する。

学習データＡが影響学習データに分類された場合、図５に示すように、付加部６２は、学習データＡが影響学習データであることを示す判定結果情報７０を学習データＡに付す。学習データＡが非影響学習データに分類された場合、図５に示すように、付加部６２は、学習データＡが非影響学習データであることを示す判定結果情報７２を学習データＡに付す。

記録制御部６６は、影響学習データ又は非影響学習データのいずれかに分類された学習データＡを記録部に記録させてもよい。

判定部６０は、学習データＡを学習する前と後とで人工知能αの性能が向上したか否かを判定してもよい。学習データＡを学習した後の人工知能αの性能が、学習データＡを学習する前の人工知能αの性能よりも向上した場合、判定部６０は、学習データＡは人工知能αの性能を向上させた向上学習データであると判定する。この場合、図６に示すように、付加部６２は、学習データＡが向上学習データであることを示す判定結果情報７４を学習データＡに付す。学習データＡを学習した後の人工知能αの性能が、学習データＡを学習する前の人工知能αの性能よりも低下した場合、判定部６０は、学習データＡは人工知能αの性能を低下させた低下学習データであると判定する。この場合、図６に示すように、付加部６２は、学習データＡが低下学習データであることを示す判定結果情報７６を学習データＡに付す。

記録制御部６６は、向上学習データ又は低下学習データのいずれかに分類された学習データＡを記録部に記録させてもよい。

また、学習データＡが向上学習データに分類された場合、学習制御部６８は、指定された別の人工知能β（図６中のＡＩ（β））に学習データＡを学習させてもよい。こうすることで、人工知能βの性能が向上し得る。一方、学習データＡが低下学習データに分類された場合、学習制御部６８は、学習データＡを別の人工知能βに学習させることを禁止してもよい。こうすることで、人工知能βの性能が低下することが防止される。

学習データＡを学習した後の人工知能αの性能が、学習データＡを学習する前の人工知能αの性能よりも向上しなかった場合、判定部６０は、学習データＡを人工知能αの性能を向上させなかった非向上学習データであると判定してもよい。学習データＡを学習した後の人工知能αの性能が、学習データＡを学習する前の人工知能αの性能よりも向上した場合、判定部６０は、学習データＡは人工知能αの性能を向上させた向上学習データであると判定する。学習データＡが向上学習データに分類された場合、図７に示すように、付加部６２は、学習データＡが向上学習データであることを示す判定結果情報７８を学習データＡに付す。学習データＡが非向上学習データに分類された場合、図７に示すように、付加部６２は、学習データＡが非向上学習データであることを示す判定結果情報８０を学習データＡに付す。

記録制御部６６は、向上学習データ又は非向上学習データのいずれかに分類された学習データＡを記録部に記録させてもよい。

また、学習データＡが向上学習データに分類された場合、学習制御部６８は、別の人工知能β（図７中のＡＩ（β））に学習データＡを学習させてもよい。こうすることで、人工知能βの性能が向上し得る。一方、学習データＡが非向上学習データに分類された場合、学習制御部６８は、学習データＡを別の人工知能βに学習させることを禁止する。こうすることで、人工知能βの性能が低下することが防止される。

判定部６０は、各人工知能が有する機能毎に、学習データが人工知能に与えた影響を判定し、その判定結果を管理するための管理情報（例えばデータベース）を作成してもよい。その管理情報は、記憶部５６に記憶されてもよいし、情報処理装置５０以外の他の装置に記憶されてもよい。

図８には、その管理情報の一例であるデータベースの一例が示されている。図８に示されているデータベースは、学習データＡが人工知能に与えた影響の判定結果を示すデータベースである。このデータベースにおいては、各人工知能が有する機能毎に、学習データＡが人工知能に与えた影響の判定結果を示す情報が管理されている。

例えば、人工知能α（図８中のＡＩ（α））及び人工知能β（図８中のＡＩ（β））のそれぞれは、文字認識機能、翻訳機能、創造力及び問題解決能力等の機能を有する。判定結果Ａは、性能が大きく向上したことを示している。判定結果Ｂは、性能が小さく向上したことを示している。判定結果Ｃは、性能が変化していないことを示している。判定結果Ｄは、性能が低下したことを示している。

人工知能αが学習データＡを学習したことで、人工知能αについては、文字認識率が大きく向上し、翻訳精度が小さく向上し、創造力は変化せず、問題解決能力が低下している。つまり、人工知能αについては、文字認識機能の性能が大きく向上し、翻訳機能の性能が小さく向上し、創造力の性能は変化せず、問題解決能力の性能が低下している。

人工知能βが学習データＡを学習したことで、人工知能βについては、文字認識率、翻訳精度及び創造力のそれぞれは変化せず、問題解決能力が低下している。つまり、人工知能βについては、文字認識機能、翻訳機能及び創造力のそれぞれの性能は変化せず、問題解決能力の性能が低下している。

上記のように判定結果を管理することで、学習データが各人工知能の性能に与える影響を評価することができる。図８に示す例では、人工知能αと人工知能βとを比較すると、両者とも同じ学習データＡを学習しているにも関わらず、人工知能βの性能は、人工知能αの性能と比べて向上していないことが分かる。換言すると、人工知能αの性能は、人工知能βの性能と比べて向上していることが分かる。

人工知能αと人工知能βとの間で学習履歴に差がある場合があるため、上記の判定結果のみからでは、学習データＡが人工知能の性能に与える影響を一概に判断することができないとも考えられる。しかし、上記の判定結果は、学習データＡが人工知能の性能に与える影響を評価するための１つの指標として用いることができる。

また、人工知能の学習履歴を管理することで、どのような学習履歴を有する人工知能に学習データＡを学習させることで、当該人工知能の性能を向上させることができるのか推測することができる。例えば、人工知能αと人工知能βとで、用いられているアルゴリズムが同じである場合、人工知能がどのような学習履歴を有していれば、学習データＡを学習することで人工知能の性能が向上するのかを推定することができる。

また、人工知能αと人工知能βとで、用いられているアルゴリズムが異なる場合、学習データＡを学習することで人工知能の性能が向上するアルゴリズムを推測することができる。図８に示す例では、人工知能αの性能が人工知能βの性能よりも向上しているため、学習データＡを学習することで人工知能の性能が向上するアルゴリズムは、人工知能αのアルゴリズムであることが推測される。

また、人工知能毎に、人工知能に用いられているアルゴリズム、人工知能の利用開始時点、学習開始時点及び学習期間等をデータベース化することで、学習データの学習が人工知能に与える影響の要因が、学習データであるのか、学習データ以外の理由（例えばアルゴリズムや学習履歴等）であるのかを推測することができる。

以下、第２実施形態の変形例について説明する。

（第２実施形態の変形例１）
以下、第２実施形態の変形例１について説明する。第２実施形態の変形例１においては、判定部６０は、複数の異なる学習データの組み合わせを人工知能に学習させ、当該複数の学習データの組み合わせが当該人工知能の性能に影響を与えたか否かを判定する。そして、判定部６０は、当該複数の学習データの組み合わせを、当該人工知能の性能に影響を与えた組み合わせ、又は、当該人工知能の性能に影響を与えなかった組み合わせのいずれかに分類する。

判定部６０は、複数の学習データの組み合わせが人工知能の性能を向上させたか否かを判定し、当該複数の学習データの組み合わせを、当該人工知能の性能を向上させた組み合わせ、又は、当該人工知能の性能を低下させた組み合わせのいずれかに分類してもよい。

判定部６０は、複数の学習データの組み合わせが人工知能の性能を向上させたか否かを判定し、当該複数の学習データの組み合わせを、当該人工知能の性能を向上させた組み合わせ、又は、当該人工知能の性能を向上させなかった組み合わせのいずれかに分類してもよい。

付加部６２は、判定部６０による判定の結果を示す判定結果情報を、複数の学習データの組み合わせに付す。記録制御部６６は、判定結果情報が付された当該組み合わせを記録部に記録させてもよい。

複数の学習データの組み合わせを人工知能に学習させるとは、複数の学習データを人工知能に同時に与えて人工知能に学習させること、又は、複数の学習データに含まれる各学習データを順番に人工知能に与えて各学習データを人工知能に順番に学習させることである。

以下、図９から図１１を参照して、第２実施形態の変形例１に係る処理について説明する。図９から図１１には、第２実施形態の変形例１に係る学習データの一例が示されている。

図９に示すように、一例として、学習データＡ，Ｂの組み合わせが判定対象の学習データとして指定されており、人工知能α（図９中のＡＩ（α））が、学習データＡ，Ｂの組み合わせを学習する人工知能として指定されている。例えば、ユーザがＵＩ部５４を操作して学習データＡ，Ｂの組み合わせの判定を指示すると、判定部６０は、判定対象の学習データＡ，Ｂの組み合わせを人工知能αに学習させ、学習データＡ，Ｂの組み合わせが人工知能αの性能に影響を与えたか否かを判定するためのテストを実行する。つまり、判定部６０は、学習データＡ，Ｂの組み合わせを学習する前と後とで人工知能αの性能が変わったか否かを判定する。人工知能αの性能が変わった場合、判定部６０は、学習データＡ，Ｂの組み合わせは人工知能αの性能に影響を与えた組み合わせであると判定する。人工知能αの性能が変わらなかった場合、判定部６０は、学習データＡ，Ｂの組み合わせは人工知能αの性能に影響を与えなかった組み合わせであると判定する。

学習データＡ，Ｂの組み合わせが、人工知能αの性能に影響を与えた組み合わせに分類された場合、図９に示すように、付加部６２は、学習データＡ，Ｂの組み合わせが人工知能αの性能に影響を与えた組み合わせであることを示す判定結果情報８２を、学習データＡ，Ｂの組み合わせに付す。学習データＡ，Ｂの組み合わせが、人工知能αの性能に影響を与えなかった組み合わせに分類された場合、図９に示すように、付加部６２は、学習データＡ，Ｂの組み合わせが人工知能αの性能に影響を与えなった組み合わせであることを示す判定結果情報８４を、学習データＡ，Ｂの組み合わせに付す。

記録制御部６６は、人工知能αの性能に影響を与えた組み合わせ又は人工知能αの性能に影響を与えなかった組み合わせのいずれかに分類された学習データＡ，Ｂの組み合わせを、記録部に記録させてもよい。

判定部６０は、学習データＡ，Ｂの組み合わせを学習する前と後とで人工知能αの性能が向上したか否かを判定してもよい。学習データＡ，Ｂの組み合わせを学習した後の人工知能αの性能が、学習データＡ，Ｂの組み合わせを学習する前の人工知能αの性能よりも向上した場合、判定部６０は、学習データＡ，Ｂの組み合わせは人工知能αの性能を向上させた組み合わせであると判定する。この場合、図１０に示すように、付加部６２は、学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させた組み合わせであることを示す判定結果情報８６を、学習データＡ，Ｂの組み合わせに付す。学習データＡ，Ｂの組み合わせを学習した後の人工知能αの性能が、学習データＡ，Ｂの組み合わせを学習する前の人工知能αの性能よりも低下した場合、判定部６０は、学習データＡ，Ｂの組み合わせは人工知能αの性能を低下させた組み合わせであると判定する。この場合、図１０に示すように、付加部６２は、学習データＡ，Ｂの組み合わせが人工知能αの性能を低下させた組み合わせであることを示す判定結果情報８８を、学習データＡ，Ｂの組み合わせに付す。

記録制御部６６は、人工知能αの性能を向上させた組み合わせ又は人工知能αの性能を低下させた組み合わせのいずれかに分類された学習データＡ，Ｂの組み合わせを、記録部に記録させてもよい。

また、学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させた場合、学習制御部６８は、指定された別の人工知能（例えば人工知能β）に学習データＡ，Ｂの組み合わせを学習させてもよい。一方、学習データＡ，Ｂの組み合わせが人工知能αの性能を低下させた場合、学習制御部６８は、別の人工知能に学習データＡ，Ｂの組み合わせを学習させることを禁止してもよい。

学習データＡ，Ｂの組み合わせを学習した後の人工知能αの性能が、学習データＡ，Ｂの組み合わせを学習する前の人工知能αの性能よりも向上しなかった場合、判定部６０は、学習データＡ，Ｂの組み合わせを人工知能αの性能を向上させなかった組み合わせであると判定してもよい。学習データＡ，Ｂの組み合わせを学習した後の人工知能αの性能が、学習データＡ，Ｂの組み合わせを学習する前の人工知能αの性能よりも向上した場合、判定部６０は、学習データＡ，Ｂの組み合わせは人工知能αの性能を向上させた組み合わせであると判定する。学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させた組み合わせに分類された場合、図１１に示すように、付加部６２は、学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させた組み合わせであることを示す判定結果情報９０を、学習データＡ，Ｂの組み合わせに付す。学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させなかった組み合わせに分類された場合、図１１に示すように、付加部６２は、学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させなかった組み合わせであることを示す判定結果情報９２を、学習データＡ，Ｂの組み合わせに付す。

記録制御部６６は、人工知能αの性能を向上させた組み合わせ又は人工知能αの性能を向上させなかった組み合わせのいずれかに分類された学習データＡ，Ｂの組み合わせを、記録部に記録させてもよい。

また、学習データＡ，Ｂの組み合わせが人工知能αの性能を向上させなかった組み合わせに分類された場合、学習制御部６８は、学習データＡ，Ｂの組み合わせを別の人工知能に学習させることを禁止してもよい。

判定部６０は、各人工知能が有する機能毎に、複数の学習データの組み合わせが人工知能に与えた影響を判定し、その判定結果を管理するための管理情報（例えばデータベース）を作成してもよい。その管理情報は、記憶部５６に記録されてもよいし、情報処理装置１０以外の他の装置に記録されてもよい。

図１２には、その管理情報の一例であるデータベースの一例が示されている。図１２に示されているデータベースは、学習データＡ，Ｂの組み合わせが人工知能に与えた影響の判定結果を示すデータベースである。このデータベースにおいては、各人工知能が有する機能毎に、学習データＡ，Ｂの組み合わせが人工知能に与えた影響の判定結果を示す情報が管理されている。判定結果Ａ，Ｂ，Ｃ，Ｄのそれぞれの意味は、図８に示されている各判定結果の意味と同じである。

人工知能αが学習データＡ，Ｂの組み合わせを学習したことで、人工知能αについては、文字認識率が大きく向上し、翻訳精度が小さく向上し、創造力は変化せず、問題解決能力が低下している。つまり、人工知能αについては、文字認識機能の性能が大きく向上し、翻訳機能の性能が小さく向上し、創造力の性能は変化せず、問題解決能力の性能が低下している。

人工知能βが学習データＡ，Ｂの組み合わせを学習したことで、人工知能βについては、文字認識率、翻訳精度及び創造力のそれぞれは変化せず、問題解決能力が低下している。つまり、人工知能βについては、文字認識機能、翻訳機能及び創造力のそれぞれの性能は変化せず、問題解決能力の性能が低下している。

上記のように判定結果を管理することで、複数の学習データの組み合わせが各人工知能の性能に与える影響を評価することができる。図１２に示す例では、人工知能αと人工知能βとを比較すると、両者とも同じ学習データＡ，Ｂの組み合わせを学習しているにも関わらず、人工知能βの性能は、人工知能αの性能と比べて向上していないことが分かる。換言すると、人工知能αの性能は、人工知能βの性能と比べて向上していることが分かる。

なお、学習データＡ，Ｂを順番に人工知能に学習させる場合、その順番を変えたときの各判定結果がデータベースに管理されてもよい。つまり、学習データＡ，Ｂを学習データＡ，Ｂの順番で人工知能に学習させたときの判定結果と、学習データＡ，Ｂを学習データＢ，Ａの順番で人工知能に学習させたときの判定結果とが、データベースに管理されてもよい。

上記の例では、判定部６０は、２つの学習データの組み合わせを人工知能に学習させているが、３つ以上の学習データの組み合わせを人工知能に学習させて、その学習の影響を判定してもよい。

また、複数の学習データの組み合わせに含まれる各学習データは、同じ種類や同じ形式の学習データであってもよいし、異なる種類や異なる形式の学習データであってよい。例えば、複数の文書データの組み合わせや複数の画像データの組み合わせが、複数の学習データの組み合わせとして用いられてもよいし、文書データと画像データの組み合わせが、複数の学習データの組み合わせして用いられてもよい。これらの組み合わせは一例に過ぎず、複数の学習データの組み合わせに含まれる各学習データは、ユーザによって指定されてもよい。

（第２実施形態の変形例２）
以下、第２実施形態の変形例２について説明する。第２実施形態の変形例２においては、判定部６０は、人工知能の寿命を判定する。ここでの寿命とは、人工知能が学習データを学習しても、当該人工知能の性能が向上しないこと、又は、当該人工知能の性能が向上しても、その向上が閾値未満であることである。人工知能の寿命が来たと判定されたことは、人工知能の交換やアルゴリズムの変更をユーザに促す基準として用いられる。

例えば図１３に示すように、判定部６０は、人工知能αが学習していない学習データＣを人工知能αに学習させ、その学習によって人工知能αの性能が向上したか否かを判定する。人工知能αの性能が向上した場合、判定部６０は、人工知能αの寿命は来ていないと判定する。人工知能αの性能が向上しなかった場合、判定部６０は、人工知能αの寿命が来たと判定する。人工知能αの性能が向上した場合であっても、その向上が閾値未満である場合、判定部６０は、人工知能αの寿命が来たと判定してもよい。

人工知能αの寿命が来たと判定された場合、制御部６４は、人工知能の交換を推奨することを示す情報や、人工知能のアルゴリズムの変更を推奨することを示す情報等を出力してもよい。例えば、制御部６４は、推奨を示す情報をＵＩ部５４の表示部に表示させてもよいし、音声を出力してもよい。

なお、判定部６０は、同じ学習データを複数回、連続して、又は、予め定められた時間間隔で、人工知能αに学習させ、その学習結果に基づいて人工知能αの寿命を判定してもよい。

判定部６０は、複数の異なる学習データを人工知能αに学習させ、その学習結果に基づいて人工知能αの寿命を判定してもよい。例えば、人工知能αの性能を向上させた学習データの数が閾値未満である場合、判定部６０は、人工知能αの寿命が来たと判定する。人工知能αの性能を向上させた学習データの数が閾値以上である場合、判定部６０は、人工知能αの寿命が来ていないと判定する。

図１４には、別の例が示されている。別の例では、図１４に示すように、判定部６０は、人工知能α，βのそれぞれが学習していない学習データＣを人工知能α，βのそれぞれに学習させ、人工知能αの学習結果と人工知能βの学習結果とを比較する。人工知能αの学習結果と人工知能βの学習結果との差が閾値未満である場合、判定部６０は、人工知能α，βのそれぞれの寿命は来ていないと判定する。人工知能αの学習結果と人工知能βの学習結果との差が閾値以上である場合、判定部６０は、人工知能α，βの中で学習効果がより低い人工知能の寿命が来たと判定する。学習効果がより低い人工知能とは、性能が他方の人工知能の性能よりも向上しなかった人工知能、他方の人工知能の性能が向上したのに対して性能が向上しなかった人工知能、又は、他方の人工知能の性能が低下してもより性能が低下した人工知能である。

人工知能α，βは、同じ又は類似する学習履歴を有する人工知能であってもよいし、同じでもなく類似でもない学習履歴を有する人工知能であってもよい。学習履歴が類似するとは、人工知能αの学習履歴と人工知能βの学習履歴との差が閾値未満になることである。

なお、判定部６０、付加部６２、記録制御部６６及び学習制御部６８のそれぞれの処理は、人工知能によって実行されてもよい。例えば、学習データを学習することを指示された人工知能が、これらの処理を実行してもよい。

上記の情報処理装置１０，５０の各部の機能は、一例としてハードウェアとソフトウェアとの協働により実現される。具体的には、情報処理装置１０，５０は、図示しないＣＰＵ等の１又は複数のプロセッサを有している。当該１又は複数のプロセッサが、図示しない記憶装置に記憶されたプログラムを読み出して実行することで、情報処理装置１０，５０の各部の機能が実現される。上記プログラムは、ＣＤ又はＤＶＤ等の記録媒体を経由して、又は、ネットワーク等の通信経路を経由して、記憶装置に記憶される。別の例として、情報処理装置１０，５０の各部の機能は、例えばプロセッサ、電子回路又はＡＳＩＣ（Application Specific Integrated Circuit）等のハードウェア資源により実現されてもよい。その実現においてメモリ等のデバイスが利用されてもよい。更に別の例として、情報処理装置１０，５０の各部の機能は、ＤＳＰ（Digital Signal Processor）又はＦＰＧＡ（Field Programmable Gate Array）等によって実現されてもよい。

１０，５０ 情報処理装置、１８，５８ 受付部、２０ 変更部、２２ 出力部、２４ 削除部、２６，６２ 付加部、６０ 判定部、６６ 記録制御部、６８ 学習制御部。

Claims (11)

1. 人工知能が学習した学習データを、前記人工知能の性能に影響を与えた影響学習データ、又は、前記人工知能の性能に影響を与えなかった非影響学習データに分類して記録手段に記録させる制御手段を有する情報処理装置。
2. 前記制御手段は、更に、前記影響学習データを、前記人工知能の性能を向上させた向上学習データ、又は、前記人工知能の性能を低下させた低下学習データに分類して前記記録手段に記録させる、
   ことを特徴とする請求項１に記載の情報処理装置。
3. 前記非影響学習データは、前記人工知能の性能が変わらなかった学習データである、
   ことを特徴とする請求項１又は請求項２に記載の情報処理装置。
4. 前記制御手段は、更に、人工知能毎に、前記学習データを、前記影響学習データ、又は、前記非影響学習データに分類して前記記録手段に記録させる、
   ことを特徴とする請求項１から請求項３のいずれか一項に記載の情報処理装置。
5. 前記制御手段は、更に、人工知能の機能毎に、前記学習データを、前記影響学習データ、又は、前記非影響学習データに分類して前記記録手段に記録させる、
   ことを特徴とする請求項１から請求項４のいずれか一項に記載の情報処理装置。
6. 前記制御手段は、更に、人工知能の学習履歴を前記学習データに紐付けて前記記録手段に記録させる、
   ことを特徴とする請求項１から請求項５のいずれか一項に記載の情報処理装置。
7. 前記人工知能が複数の異なる学習データの組み合わせを学習した場合、前記制御手段は、更に、前記複数の学習データの組み合わせを、前記人工知能の性能に影響を与えた組み合わせ、又は、前記人工知能の性能に影響を与えなかった組み合わせに分類して前記記録手段に記録させる、
   ことを特徴とする請求項１に記載の情報処理装置。
8. 前記制御手段は、更に、別の人工知能の学習目的に応じて、前記影響学習データ又は非影響学習データを、前記別の人工知能に学習させる、
   ことを特徴とする請求項１から請求項７のいずれか一項に記載の情報処理装置。
9. 前記制御手段は、更に、別の人工知能の機能に対応する機能を有する前記人工知能が学習した前記影響学習データを、前記別の人工知能に学習させる、
   ことを特徴とする請求項１から請求項８のいずれか一項に記載の情報処理装置。
10. 前記制御手段は、前記人工知能の性能を向上させた向上学習データを前記別の人工知能に学習させる、
    ことを特徴とする請求項９に記載の情報処理装置。
11. コンピュータを、
    人工知能が学習した学習データを、前記人工知能の性能に影響を与えた影響学習データ、又は、前記人工知能の性能に影響を与えなかった非影響学習データに分類して記録手段に記録させる制御手段、
    として機能させるプログラム。

Images