<第1実施形態>
図1を参照して、本発明の第1実施形態に係る情報処理装置について説明する。図1には、第1実施形態に係る情報処理装置の一例が示されている。
第1実施形態に係る情報処理装置10は、学習データを受け付け、当該学習データに付されている、人工知能(つまりAI)によって当該学習データが学習されることを許可するか否かを示す情報に応じて、当該人工知能の学習処理を変更するように構成されている。
情報処理装置10は、例えば、パーソナルコンピュータ(以下、「PC」と称する)、タブレットPC、スマートフォン、携帯電話、又は、その他の装置(例えば印刷機能等を有する複合機等)である。もちろん、これら以外の装置が情報処理装置10であってもよい。
人工知能に用いられるアルゴリズムは特に限定されず、どのようなアルゴリズムが用いられてもよい。アルゴリズムとして、例えば機械学習が用いられる。機械学習として、教師あり学習が用いられてもよいし、教師なし学習が用いられてもよいし、強化学習が用いられてもよい。具体的には、ディープラーニング(例えば、多層パーセプトロン、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク、オートエンコーダ、制限ボルツマンマシン等)、パーセプトロン、バックプロパゲーション、アソシアトロン、サポートベクタマシン、決定木、k近傍法、線形回帰、自己組織マップ、ボルツマンマシン、主成分分析、クラスタ分析、又は、Qラーニング等が用いられてもよい。なお、機械学習以外のアルゴリズムとして、遺伝的アルゴリズムや山登り法等が用いられてもよい。もちろん、これら以外のアルゴリズムが用いられてもよい。
学習データは、人工知能の学習に用いられるデータである。学習データは、教師あり学習に用いられる学習データとして、正しい判断(つまり答え)が含まれるデータであってもよいし、教師なし学習に用いられる学習データとして、正しい判断が含まれていないデータであってもよい。学習データは、例えば、文書データ(例えばテキストデータ等)、画像データ(例えば静止画像データや動画像データ等)、音楽データ、音声データ、又は、これらの組み合わせ等であり、その種類やデータ形式や内容については特に限定はない。
学習データには属性情報が付されている。学習データに付されている属性情報は、人工知能によって当該学習データが学習されることを許可するか否かを示す情報である。学習データに属性情報が付されているとは、属性情報が付帯情報として学習データに付帯されているということ、又は、属性情報が学習データそのものに埋め込まれているということである。学習データは付帯情報として学習データに付加されていてもよいし、学習データとは別のデータとして存在し、学習データに紐付けられていてもよい。画像データが表す画像中に属性情報が配置されることや、文書データが表す文書中に属性情報が配置されることが、属性情報が学習データそのものに埋め込まれることの一例に相当する。
人工知能は、情報処理装置10に搭載されていてもよいし、情報処理装置10以外の別の装置(例えばサーバやPC等)に搭載されていてもよい。つまり、人工知能を実現するためのプログラムは、情報処理装置10に記憶されていてもよいし、情報処理装置10以外の別の装置に記憶されていてもよい。
以下、情報処理装置10の構成について詳しく説明する。
通信部12は通信インターフェースであって、他の装置に情報を送信する機能、及び、他の装置から情報を受信する機能を有する。通信部12は、無線通信機能を有していてもよいし、有線通信機能を有していてもよい。通信部12は、無線通信又は有線通信を利用することで通信経路を介して他の装置と通信してもよい。通信経路は、例えば、LAN(Local Area Network)等のネットワークやインターネット等である。通信部12は、近距離無線通信等を利用することで通信経路を介さずに他の装置と通信してもよい。近距離無線通信は、例えば、Bluetooth(登録商標)やRFID(Radio Frequency Identifier)やNFC等である。
例えば、情報処理装置10以外の他の装置から情報処理装置10に学習データが送信されてきた場合、通信部12は当該学習データを受信する。学習データに属性情報が付されている場合、通信部12は当該属性情報も受信する。また、通信部12は、学習データを他の装置に送信してもよい。
UI部14はユーザインターフェースであって、表示部と操作部とを含む。表示部は、液晶ディスプレイ等の表示装置である。操作部は、キーボードや入力キーや操作パネル等の入力装置である。UI部14は、表示部と操作部とを兼ね備えたタッチパネル等のUI部であってもよい。
記憶部16は、各種の情報を記憶する1又は複数の記憶領域である。各記憶領域は、例えば、情報処理装置10に設けられている1又は複数の記憶装置(例えばハードディスクドライブやメモリ等の物理ドライブ)によって構成されている。記憶部16には学習データが記憶されてもよい。
受付部18は、学習データを受け付けるように構成されている。例えば、通信部12が、情報処理装置10以外の他の装置から送信されてきた学習データを受信した場合、受付部18は、通信部12が受信した当該学習データを受け付ける。通信部12が、学習データに付されている属性情報を受信した場合、受付部18は当該属性情報も受け付ける。また、UI部14を介して学習データが情報処理装置10に入力された場合や、記憶装置(例えばハードディスクドライブ、USBメモリ、CD、DVD、又は、その他の可搬性の記憶媒体等)を利用して学習データが情報処理装置10に入力された場合、受付部18は、入力された当該学習データを受け付ける。入力された学習データに属性情報が付されている場合、受付部18は当該属性情報も受け付ける。
変更部20は、学習データに付されている属性情報に応じて、人工知能の学習処理を変更するように構成されている。
学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可することを示している場合、変更部20は、人工知能による当該学習データの学習を許可する。例えば、ユーザがUI部14を操作して、人工知能による当該学習データの学習を指示した場合、制御部28は、人工知能に当該学習データを学習させる。ユーザは、当該学習データを学習する人工知能を指定し、当該人工知能に当該学習データを学習させてもよい。
学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合、変更部20は、人工知能による当該学習データの学習を禁止する。つまり、変更部20は、人工知能による当該学習データの学習を許可しない。例えば、ユーザがUI部14を操作して、人工知能による当該学習データの学習を指示した場合であっても、制御部28は、人工知能に当該学習データを学習させない。
なお、学習データの一部について学習が許可され、他の部分について学習が禁止されてもよいし、学習データの全部について学習が許可又は禁止されてもよい。これらの内容は、属性情報に示されている。
学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合において、当該学習データを用いた学習の目的が特定の目的に該当する場合、変更部20は、人工知能による当該学習データの学習を許可してもよい。例えば、学習の目的が、医療目的や教育目的等のように公共性の高い目的である場合、変更部20は、人工知能による学習データの学習を許可してもよい。
出力部22は、学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合において、当該学習データが許可無く変更されようとしている場合、警告を出力するように構成されている。学習データが許可無く変更されようとしているとは、当該学習データを変更する権限を有していないユーザが当該学習データを変更しようとしていることである。
例えば、学習データに、当該学習データを変更する権限を有するユーザを識別するためのユーザ識別情報(例えばユーザ名やユーザIDやパスワード等)が紐付けられている。学習データを変更しようとしているユーザのユーザ識別情報が、当該学習データに紐付けられている場合、制御部28は、当該ユーザが当該学習データを変更することを許可する。具体的には、当該ユーザがUI部14を操作して、当該学習データを変更する作業を行った場合、制御部28は、当該作業を許可し、当該ユーザの作業に従って当該学習データを変更する。学習データを変更しようとしているユーザのユーザ識別情報が、当該学習データに紐付けられていない場合、制御部28は、当該ユーザが当該学習データを変更することを禁止する。具体的には、当該ユーザがUI部14を操作して、当該学習データを変更する作業を行った場合、制御部28は、当該作業を禁止し、当該学習データを変更しない。なお、学習データを変更する作業は、情報処理装置10以外の別の装置(例えばPC等)にて行われてもよい。
例えば、学習データを変更しようとしている場合(例えばユーザがUI部14を操作して学習データを指定した場合等)、制御部28は、当該学習データを変更する権限を有するユーザのユーザ識別情報を入力するための入力画面をUI部14の表示部に表示させる。当該学習データを変更する権限を有するユーザのユーザ識別情報が当該入力画面に入力されると、制御部28は、当該学習データを変更することを許可する。別の例として、ユーザが情報処理装置10にログインするときにユーザ識別情報が入力されている場合において、当該ユーザ識別情報が、学習データを変更する権限を有するユーザのユーザ識別情報である場合、制御部28は、当該学習データを変更することを許可してもよい。
出力部22は、例えば、警告を示す情報をUI部14の表示部に表示させてもよいし、当該学習データを情報処理装置10に送信した装置(例えばPC等)に警告を示す情報を送信してもよいし、警告音をスピーカに発生させてもよいし、予め登録されている装置(例えば、管理者が利用するPC等)に警告を示す情報を送信してもよい。
削除部24は、学習データに付されている属性情報が、人工知能によって当該学習データが学習されることを許可しないことを示している場合において、当該学習データが許可無く変更されようとしている場合、当該学習データを削除するように構成されている。学習データが許可無く変更されようとしているとは、上述したように、当該学習データを変更する権限を有していないユーザが当該学習データを変更しようとしていることである。
例えば、許可無く変更されようとしている学習データが記憶部16に記憶されている場合、削除部24は、記憶部16から当該学習データを削除する。許可無く変更されようとしている学習データが、情報処理装置10以外の別の装置(例えばPCやサーバ等)に記憶されている場合、削除部24は、当該別の装置から当該学習データを削除してもよい。
また、受付部18が、人工知能によって学習されることが許可されていない学習データを受け付けた場合、削除部24は、当該学習データを削除してもよい。
付加部26は、コンテンツデータが人工知能の学習データとして用いられることを許可するか否かを示す属性情報を、当該コンテンツデータに付すように構成されている。コンテンツデータは、例えば、文書データ(例えばテキストデータ等)、画像データ(例えば静止画像データや動画像データ等)、音楽データ、音声データ、又は、これらの組み合わせ等であり、その種類やデータ形式や内容については特に限定はない。属性情報が付されたコンテンツデータは、属性情報が付された学習データの一例に相当する。
なお、付加部26は、変更部20が設けられている情報処理装置10とは異なる他の装置に設けられていてもよい。この場合、付加部26による処理は、当該他の装置によって実行される。
制御部28は、情報処理装置10の各部の動作を制御するように構成されている。
以下、図2を参照して、情報処理装置10による処理について説明する。図2には、第1実施形態に係る学習データの一例が示されている。
学習データ30には、属性情報32が付されている。属性情報32は、学習データ30が人工知能によって学習されることを許可することを示す情報である。学習データ34には、属性情報36が付されている。属性情報36は、学習データ34が人工知能によって学習されることを許可しないことを示す情報である。
学習データ30が人工知能(図2中の「AI」)によって学習されようとしている場合(例えば、ユーザが学習データ30の学習を指示した場合)、変更部20は、学習データ30に付されている属性情報32に基づいて、人工知能による学習データ30の学習を許可又は禁止する。属性情報32は、学習データ30が人工知能によって学習されることを許可することを示す情報であるため、変更部20は、人工知能による学習データ30の学習を許可する。
同様に、学習データ34が人工知能によって学習されようとしている場合、変更部20は、学習データ34に付されている属性情報36に基づいて、人工知能による学習データ34の学習を許可又は禁止する。属性情報36は、学習データ34が人工知能によって学習されることを許可しないことを示す情報であるため、変更部20は、人工知能による学習データ34の学習を禁止する。こうすることで、人工知能によって学習されることが望まれていない学習データが人工知能によって学習されることを防止することができる。
以下、図3を参照して、学習データを作成する処理について説明する。図3には、第1実施形態に係るコンテンツデータの一例が示されている。
付加部26は、属性情報をコンテンツデータ38に付す。属性情報が付されたコンテンツデータ38は、属性情報が付された学習データの一例に相当する。属性情報40は、コンテンツデータ38が人工知能によって学習されることを許可しないことを示す情報である。属性情報40が付されたコンテンツデータ38は、人工知能によって学習されることが禁止される。属性情報42は、コンテンツデータ38が人工知能によって学習されることを許可することを示す情報である。属性情報42が付されたコンテンツデータ38は、人工知能によって学習されることが許可される。
例えば、ユーザがUI部14を操作して、属性情報が付されるコンテンツデータ38を指定し、人工知能によってコンテンツデータ38が学習されることを許可するか否かを指定してもよい。ユーザが、人工知能によってコンテンツデータ38が学習されることを許可した場合、付加部26は、ユーザによって指定されたコンテンツデータ38に、人工知能によってコンテンツデータ38が学習されることを許可することを示す属性情報42を付す。ユーザが、人工知能によってコンテンツデータ38が学習されることを許可しない場合、付加部26は、ユーザによって指定されたコンテンツデータ38に、人工知能によってコンテンツデータ38が学習されることを許可しないことを示す属性情報40を付す。もちろん、属性情報は、情報処理装置10以外の別の装置(例えばPCやサーバ等)にて学習データに付されてもよい。
人工知能によってコンテンツデータ38が学習されることを許可するか否かを指定するユーザは、コンテンツデータ38を作成したユーザであってもよいし、コンテンツデータ38を提供したユーザであってもよいし、コンテンツデータ38を購入したユーザであってもよいし、コンテンツデータ38を使用する権限を有するユーザであってもよいし、コンテンツデータ38を管理する管理者であってもよいし、これら以外のユーザであってもよい。
例えば、コンテンツデータ38を作成したユーザが、自身が作成した当該コンテンツデータ38が人工知能によって学習されることを許可するか否かを指定してもよい。他のユーザについても同様である。例えば、コンテンツデータ38が作成されたときに、付加部26は、属性情報をコンテンツデータ38に付す。付加部26は、ユーザが属性情報をコンテンツデータ38に付すことを指示した場合に、属性情報をコンテンツデータに付してもよいし、コンテンツデータ38が完了したときに、ユーザの指示を受けなくても属性情報をコンテンツデータ38に付してもよい。
付加部26は、ユーザの指示によらずに、属性情報をコンテンツデータ38に付してもよい。例えば、コンテンツデータ38に間違った解答が含まれている場合、付加部26は、人工知能によって学習されることを許可しないことを示す属性情報40をコンテンツデータ38に付す。コンテンツデータ38に間違った解答が含まれている場合とは、例えば、翻訳の学習データとして用いられるコンテンツデータ38に誤訳データが含まれている場合や、画像認識の学習データとして用いられるコンテンツデータ38に、コンテンツデータ38に表されている物体とは異なる物体を示す情報が含まれている場合や、文字認識の学習データに用いられるコンテンツデータ38に、コンテンツデータ38に表されている文字とは異なる文字を示す情報が含まれている場合等である。
付加部26は、コンテンツデータ38を解析することで、コンテンツデータ38に間違った解答が含まれているか否かを判断し、コンテンツデータ38に間違った解答が含まれている場合には、人工知能によって学習されることを許可しないことを示す属性情報40をコンテンツデータ38に付す。間違った解答の割合や出現回数が、予め定められた閾値以上になる場合、付加部26は、人工知能によって学習されることを許可しないことを示す属性情報40をコンテンツデータ38に付してもよい。
コンテンツデータ38に間違った解答が含まれていない場合、付加部26は、人工知能によって学習されることを許可することを示す属性情報42をコンテンツデータ38に付す。間違った解答の割合や出現回数が、予め定められた閾値未満になる場合、付加部26は、人工知能によって学習されることを許可することを示す属性情報42をコンテンツデータ38に付してもよい。
コンテンツデータ38にセキュリティに関する情報が含まれている場合、付加部26は、人工知能によって学習されることを許可しないことを示す属性情報40をコンテンツデータ38に付してもよい。コンテンツデータ38にセキュリティに関する情報が含まれていない場合、付加部26は、人工知能によって学習されることを許可することを示す属性情報42をコンテンツデータ38に付す。セキュリティに関する情報は、個人情報や、企業秘密に関する情報や、公的機関(例えば行政機関等)によって非公開に定められている情報等である。個人情報は、例えば、特定の個人の氏名や生年月日やユーザIDやパスワード等を示す情報である。付加部26は、コンテンツデータ38を解析することで、コンテンツデータ38にセキュリティに関する情報が含まれているか否かを判断する。セキュリティに関する情報がコンテンツデータ38に含まれている場合に、人工知能によって学習されることを許可しないことを示す属性情報40がコンテンツデータ38に付されることで、コンテンツデータ38が人工知能によって学習されることで当該セキュリティに関する情報が漏洩することが防止される。
学習データに付されている属性情報は、人工知能による当該学習データの学習が許可される許可期間を示す許可期間情報を含んでもよい。つまり、学習データの学習が許可される期間が制限されていてもよい。許可期間以外の期間は、人工知能による学習データの学習が禁止される期間である。許可期間は、例えば、年月日や時間帯や時刻等によって定められている。人工知能によって当該学習データが学習されようとしている時点(例えば年月日や時刻)が、当該許可期間内に含まれている場合、変更部20は、人工知能による当該学習データの学習を許可する。人工知能によって当該学習データが学習されようとしている時点が、当該許可期間内に含まれていない場合、変更部20は、人工知能による当該学習データの学習を禁止する。例えば、許可期間以外の期間が、学習データが公知になっていない期間として定められ、許可期間が、学習データが公知になっている期間として定められてもよい。この定めによると、学習データが公知になっている期間では、人工知能による当該学習データの学習が許可され、学習データが公知になっていない期間では、人工知能による当該学習データの学習が禁止される。もちろん、別の理由によって、許可期間が定められてもよい。許可期間を定める権限を有するユーザによって、許可期間が定められてもよい。例えば、学習データが作成されるときに、許可期間情報を含む属性情報が当該学習データに付される。この処理は、付加部26によって実行されてもよい。
学習データに付されている属性情報は、当該学習データの学習回数の制限を示す回数情報が含まれていてもよい。制御部28は、学習データが人工知能によって学習された回数をカウントし、当該回数を示す情報を当該学習データに付す。学習された回数が、学習回数の制限を超える場合、当該学習データの学習は禁止される。学習回数が制限を超えた学習データを人工知能に学習させる指示がユーザによって与えられた場合であっても、制御部28は、当該学習データを人工知能に学習させない。情報処理装置10以外の他の装置が人工知能の学習に用いられる場合であっても、学習回数が制限を超えた学習データは、人工知能によって学習されない。学習回数の制限を定める権限を有するユーザによって、学習回数が定められてもよい。なお、学習回数の制限を定める権限を有するユーザによって、学習回数が制限を超えた学習データの学習回数が、0回に定められてもよい。例えば、学習データが作成されるときに、回数情報を含む属性情報が当該学習データに付される。この処理は、付加部26によって実行されてもよい。
学習データに付されている属性情報は、当該学習データの用途に応じて、人工知能によって当該学習データが学習されることを許可するか否かを示す情報を含んでいてもよい。例えば、学習データが医療に関するデータや医療に用いられるデータである場合、当該学習データは、予め定められた人工知能によって学習されることが許可され、予め定められた人工知能以外の人工知能によって学習されることが禁止される。予め定められた人工知能は、例えば、情報処理装置10に搭載されている人工知能や、予め定められた装置(例えばPC等)に搭載されている人工知能である。予め定められた装置は、例えば、医療に関する施設(例えば病院や医学部の建物等)である。これら以外の装置に搭載されている人工知能が当該学習データを学習することは禁止される。医療に関するデータや医療に用いられるデータは、個人情報が含まれている可能性があるため、予め定められた人工知能による学習のみを許可し、それ以外の人工知能による学習を禁止することで、個人情報の漏洩を防止又は抑制することができる。学習データが医療以外の分野におけるデータである場合についても同様である。学習データを学習することが許可された人工知能や、当該人工知能が搭載されている装置は、その設定を行う権限を有するユーザによって定められてもよい。例えば、学習データが作成されるときに、当該学習データを学習することが許可された人工知能を示す情報を含む属性情報や、当該人工知能が搭載されている装置を示す情報を含む属性情報が、当該学習データに付される。この処理は、付加部26によって実行されてもよい。
学習データに付されている属性情報は、人工知能の方式に応じて、人工知能によって当該学習データが学習されることを許可するか否かを示す情報を含んでいてもよい。ここでの人工知能の方式とは、人工知能に用いられるアルゴリズムである。人工知能のアルゴリズムによって、学習に適した学習データが異なる場合がある。例えば、人工知能が学習データを学習した場合に、当該人工知能のアルゴリズムによって、当該人工知能の性能が向上することもあれば、当該人工知能の性能が低下することもある。また、当該人工知能の性能が変わらないこともある。人工知能が学習することで当該人工知能の性能が向上する学習データは、当該人工知能にとって学習に適した学習データである。学習データを学習することで性能が向上する人工知能は、当該学習データを学習することが許可された人工知能である。一方、学習データを学習しても性能が向上しない人工知能(つまり、性能が低下する人工知能や、性能が変わらない人工知能)は、当該学習データを学習することを禁止された人工知能である。例えば、各人工知能による各学習データの学習履歴に基づいて、学習によって人工知能の性能が向上するか否かが決定される。学習データに付されている属性情報には、当該学習データを学習することで性能が向上する人工知能のアルゴリズムを示す情報が、当該学習データを学習することで許可された人工知能のアルゴリズムを示す情報として含まれている。例えば、学習データが作成されるときに、当該学習データを学習することで性能が向上する人工知能のアルゴリズムを示す情報を含む属性情報が、当該学習データに付される。この処理は、付加部26によって実行されてもよい。学習データを学習する人工知能のアルゴリズムが、当該学習データを学習することで性能が向上する人工知能のアルゴリズムである場合、変更部20は、当該人工知能による当該学習データの学習を許可する。学習データを学習する人工知能のアルゴリズムが、当該学習データを学習することで性能が向上しない人工知能のアルゴリズムである場合、変更部20は、当該人工知能による当該学習データの学習を禁止する。こうすることで、人工知能の性能が向上する学習データを当該人工知能に学習させることができる。なお、学習することで人工知能の性能が変わらない学習データが、当該人工知能による学習が許可された学習データとして定められてもよい。
学習データに付されている属性情報は、人工知能が利用される分野毎に、人工知能によって当該学習データが学習されることを許可するか否かを示す情報を含んでいてもよい。例えば、学習が許可された分野を示す情報が、属性情報に含まれている。分野は、例えば、医療、教育、文字認識、翻訳、又は、ビジネス等である。もちろん、これら以外の分野が、人工知能が利用される分野であってもよい。例えば、医療を示す情報が、学習が許可された分野を示す情報として属性情報に含まれている場合、当該属性情報が付されている学習データは、医療に利用される人工知能によって学習されることが許可された学習データである。学習データを学習する人工知能が、医療に利用される人工知能である場合、変更部20は、当該人工知能による当該学習データの学習を許可する。学習データを学習する人工知能が、医療に利用されない人工知能である場合、変更部20は、当該人工知能による当該学習データを禁止する。こうすることで、人工知能が利用される分野に適した学習データを当該人工知能に学習させることができる。例えば、学習データが作成されるときに、当該学習データの学習が許可された分野を示す情報を含む属性情報が、当該学習データに付される。この処理は、付加部26によって実行されてもよい。なお、複数の分野を示す情報が属性情報に含まれてもよい。この場合、当該複数の分野の中の少なくとも1つの分野に利用される人工知能による当該学習データの学習が許可されてもよいし、当該複数の分野のすべてに利用される人工知能による当該学習データの学習が許可されてもよい。
変更部20は、学習データを利用するユーザに応じて、人工知能による当該学習データの学習を許可又は禁止してもよい。例えば、学習データに付されている属性情報に、当該学習データを人工知能に学習させることが許可されたユーザのユーザ識別情報が含まれている。学習データの学習を指示したユーザのユーザ識別情報が、当該学習データに付されている属性情報に含まれている場合、変更部20は、人工知能による当該学習データの学習を許可する。学習データの学習を指示したユーザのユーザ識別情報が、当該学習データに含まれていない場合、変更部20は、人工知能による当該学習データの学習を禁止する。例えば、学習データが作成されるときに、当該学習データを人工知能に学習させることが許可されたユーザのユーザ識別情報を含む属性情報が、当該学習データに付される。この処理は、付加部26によって実行されてもよい。
上述した第1実施形態において、人工知能による学習データの学習が禁止された場合、制御部28は、人工知能による当該学習データの学習を許可するか否かを問い合わせる情報を、当該学習データを作成した作成者宛に送信してもよい。例えば、学習データに付されている属性情報には、当該学習データを作成した作成者の電子メールアドレスや、当該作成者が利用する装置のアドレスを示す情報が含まれている。制御部28は、当該電子メールアドレス宛や当該装置のアドレス宛に問い合わせ情報を送信する。作成者が、人工知能による当該学習データの学習を許可した場合、その許可を示す情報が、電子メールによって情報処理装置10に送信されたり、作成者が利用する装置から情報処理装置10に送信されたりする。この場合、変更部20は、人工知能による当該学習データの学習を許可する。作成者が、人工知能による当該学習データの学習を禁止した場合、その禁止を示す情報が、電子メールによって情報処理装置10に送信されたり、作成者が利用する装置から情報処理装置10に送信されたりする。この場合、変更部20は、人工知能による当該学習データの学習を禁止する。
上述した第1実施形態において、受付部18が受け付けた学習データに、人工知能によって当該学習データが学習されることを禁止することを示す属性情報が付されている場合、変更部20は、人工知能による当該学習データの学習を禁止してもよい。受付部18が受け付けた学習データに、人工知能によって当該学習データが学習されることを禁止することを示す属性情報が付されていない場合、変更部20は、人工知能による当該学習データの学習を許可する。この例においては、変更部20は、禁止手段の一例に相当する。
別の例として、受付部18が受け付けた学習データに、人工知能によって当該学習データが学習されることを許可することを示す属性情報が付されている場合、変更部20は、人工知能による当該学習データの学習を許可してもよい。受付部18が受け付けた学習データに、人工知能によって当該学習データが学習されることを許可することを示す属性情報が付されていない場合、変更部20は、人工知能による当該学習データの学習を禁止する。この例においては、変更部20は、許可手段の一例に相当する。
なお、変更部20、出力部22、削除部24及び付加部26のそれぞれの処理は、人工知能によって実行されてもよい。例えば、学習データを学習することを指示された人工知能が、これらの処理を実行してもよい。
<第2実施形態>
図4を参照して、本発明の第2実施形態に係る情報処理装置について説明する。図4には、第2実施形態に係る情報処理装置の一例が示されている。
第2実施形態に係る情報処理装置50は、人工知能が学習した学習データを、当該人工知能の性能に影響を与えた影響学習データ、又は、当該人工知能の性能に影響を与えなかった非影響学習データのいずれかに分類するように構成されている。情報処理装置50は、学習データを影響学習データ又は非影響学習データのいずれかに分類して記録部に記録させてもよい。
情報処理装置50は、人工知能が学習した影響学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を低下させた低下学習データのいずれかに分類してもよい。情報処理装置50は、影響学習データを向上学習データ又は低下学習データのいずれかに分類して記録部に記録させてもよい。
情報処理装置50は、人工知能が学習した学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を向上させなかった非向上学習データのいずれかに分類してもよい。情報処理装置50は、学習データを向上学習データ又は非向上学習データのいずれかに分類して記録部に記録させてもよい。
情報処理装置50は、例えば、PC、タブレットPC、スマートフォン、携帯電話、又は、その他の装置(例えば印刷機能等を有する複合機等)である。もちろん、これら以外の装置が情報処理装置50であってもよい。
第1実施形態と同様に、人工知能に用いられるアルゴリズムは特に限定されず、第1実施形態にて説明したアルゴリズムが用いられてもよい。
学習データは、人工知能の学習に用いられるデータである。第1実施形態と同様に、学習データは、教師あり学習に用いられる学習データであってもよいし、教師なし学習に用いられる学習データであってもよい。また、学習データの種類やデータ形式や内容については特に限定はない。
人工知能は、情報処理装置50に搭載されていてもよいし、情報処理装置50以外の別の装置(例えばサーバやPC等)に搭載されていてもよい。つまり、人工知能を実現するためのプログラムは、情報処理装置10に記憶されていてもよいし、情報処理装置10以外の別の装置に記憶されていてもよい。
以下、情報処理装置50の構成について詳しく説明する。
通信部52は通信インターフェースであって、他の装置に情報を送信する機能、及び、他の装置から情報を受信する機能を有する。通信部52は、無線通信機能を有していてもよいし、有線通信機能を有していてもよい。通信部52は、無線通信又は有線通信を利用することで通信経路を介して他の装置と通信してもよい。通信経路は、例えば、LAN等のネットワークやインターネット等である。通信部52は、近距離無線通信等を利用することで通信経路を介さずに他の装置と通信してもよい。近距離無線通信は、例えば、Bluetooth(登録商標)やRFIDやNFC等である。
例えば、情報処理装置50以外の他の装置から情報処理装置50に学習データが送信されてきた場合、通信部52は当該学習データを受信する。また、通信部52は、学習データを他の装置に送信してもよい。
UI部54はユーザインターフェースであって、表示部と操作部とを含む。表示部は、液晶ディスプレイ等の表示装置である。操作部は、キーボードや入力キーや操作パネル等の入力装置である。UI部54は、表示部と操作部とを兼ね備えたタッチパネル等のUI部であってもよい。
記憶部56は、各種の情報を記憶する1又は複数の記憶領域である。各記憶領域は、例えば、情報処理装置50に設けられている1又は複数の記憶装置(例えばハードディスクドライブやメモリ等の物理ドライブ)によって構成されている。記憶部56には学習データが記憶されてもよい。
受付部58は、学習データを受け付けるように構成されている。例えば、通信部52が、情報処理装置50以外の他の装置から送信されてきた学習データを受信した場合、受付部58は、通信部52が受信した当該学習データを受け付ける。また、UI部54を介して学習データが情報処理装置50に入力された場合や、記憶装置(例えばハードディスクドライブ、USBメモリ、CD、DVD、又は、その他の可搬性の記憶媒体等)を利用して学習データが情報処理装置50に入力された場合、受付部58は、入力された当該学習データを受け付ける。
判定部60は、人工知能が学習した学習データが、当該人工知能の性能に影響を与えたか否かを判定し、当該学習データを、当該人工知能の性能に影響を与えた影響学習データ、又は、当該人工知能の性能に影響を与えなかった非影響学習データのいずれかに分類するように構成されている。こうすることで、学習データが人工知能の性能に影響を与えたか否かが分かるようになる。影響学習データ又は非影響学習データのいずれかに分類された学習データは、記録部に記録されてもよい。
影響学習データの概念の範疇には、人工知能の性能を向上させた向上学習データ、及び、人工知能の性能を低下させた低下学習データが含まれる。非影響学習データは、学習によって人工知能の性能が変わらなかった学習データである。こうすることで、学習データが人工知能の性能を向上させたか低下させたかが分かるようになる。学習データを学習する前と後とで人工知能の性能の差が閾値未満である場合、判定部60は、当該学習データを非影響学習データに分類してもよい。
判定部60は、人工知能が学習した影響学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を低下させた低下学習データのいずれかに分類してもよい。向上学習データ又は低下学習データのいずれかに分類された学習データは、記録部に記録されてもよい。
人工知能の性能は、人工知能が有する機能に関する性能であり、例えば、文字認識機能に関する性能、画像認識機能に関する性能、音声認識機能に関する性能、物体認識機能に関する性能、翻訳機能に関する性能、創造力(例えばビジネスや芸術等の分野における創造力)に関する性能、又は、問題を解決する能力(例えばビジネス等の分野において問題を解決する能力)に関する性能等である。もちろん、これらは人工知能の機能の一例に過ぎず、人工知能の性能の概念の範疇には、これら以外の性能が含まれてもよい。
判定部60は、人工知能毎に、学習データを影響学習データ又は非影響学習データのいずれかに分類してもよい。また、判定部60は、人工知能毎に、学習データを向上学習データ又は低下学習データのいずれかに分類してもよい。
判定部60は、人工知能が有する機能毎に、学習データを影響学習データ又は非影響学習データのいずれかに分類してもよい。また、判定部60は、人工知能が有する機能毎に、学習データを向上学習データ又は低下学習データのいずれかに分類してもよい。
判定部60は、判定対象の学習データが人工知能の性能に影響を与えたか否かを判定するためのテストを実行する。例えば、判定部60は、判定対象の学習データを人工知能に学習させ、学習の前と後とで当該人工知能の性能が変わったか否かを判定する。
例えば、判定対象の学習データが文字認識機能に関する性能に影響を与えたか否かを判定する場合、まず、判定部60は、判定対象の学習データを学習する前の人工知能に、予め定められた文書データ(例えばテスト用の文書データ)を与えて、当該文書データに含まれている各文字を当該人工知能に認識させ、文字認識精度(例えば文字認識率)を算出する。
次に、判定部60は、判定対象の学習データを人工知能に学習させる。次に、判定部60は、判定対象の学習データを学習した後の人工知能に、当該文書データを与えて、当該文書データに含まれている各文字を当該人工知能に認識させ、文字認識精度を算出する。
判定部60は、学習の前と後とで文字認識精度が変わったか否かを判定する。判定部60は、学習の前と後とで文字認識精度が変わった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能に影響を与えた学習データであると判定し、学習の前と後とで文字認識精度が変わらなかった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能に影響を与えなかった学習データであると判定する。判定部60は、学習の前と後とで文字認識精度が変わった場合、当該判定対象の学習データを影響学習データに分類し、学習の前と後とで文字認識精度が変わらなかった場合、当該判定対象の学習データを非影響学習データに分類する。
また、判定部60は、学習の後の文字認識精度が学習の前の文字認識精度よりも高くなった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能を向上させた学習データであると判定し、学習の後の文字認識精度が学習の前の文字認識精度よりも低くなった場合、当該判定対象の学習データは当該人工知能の文字認識機能に関する性能を低下させた学習データであると判定する。判定部60は、学習の後の文字認識精度が学習の前の文字認識精度よりも高くなった場合、当該判定対象の学習データを向上学習データに分類し、学習の後の文字認識精度が学習の前の文字認識精度よりも低くなった場合、当該判定対象の学習データを非向上学習データに分類する。
他の性能についても、文字認識機能に関する性能と同様に、判定対象の学習データが人工知能の性能に影響を与えたか否かが判定される。例えば、学習データである画像データを人工知能が学習する前と学習した後とで、テスト用の画像データの画像認識精度(例えば画像認識率)が算出され、その算出結果に基づいて、当該学習データの分類が行われる。例えば、猫を表す画像データを学習したことがなく、猫を表す画像データを解析して猫を認識することができない人工知能に、猫を表す画像データを学習データとして学習させたものとする。その学習の結果、当該人工知能が、猫を表す画像データを解析して猫を認識することができるようになれば、画像認識機能に関する性能が向上したことになる。その学習の結果、当該人工知能が、猫を表す画像データを解析して猫を認識することができなければ、画像認識機能に関する性能は向上しなかったことになる。
判定部60は、人工知能が学習した学習データが、当該人工知能の性能を向上させたか否かを判定し、当該学習データを、当該人工知能の性能を向上させた向上学習データ、又は、当該人工知能の性能を向上させなかった非向上学習データのいずれかに分類してもよい。こうすることで、学習データが人工知能の性能を向上させたか否かが分かるようになる。向上学習データ又は非向上学習データに分類された学習データは、記録部に記録されてもよい。学習データを学習する前と後とで人工知能の性能の差が閾値未満である場合、判定部60は、当該学習データを非向上学習データに分類してもよい。判定部60は、人工知能毎に、人工知能が学習した学習データが、当該人工知能の性能を向上させたか否かを判定してもよいし、人工知能が有する機能毎に、学習データを向上学習データ又は非向上学習データのいずれかに分類してもよい。
なお、判定対象の学習データは、ユーザによって指定された学習データであってもよいし、判定対象の学習データとして予め指定されている学習データであってもよい。
付加部62は、判定部60による判定の結果を示す判定結果情報を、判定対象の学習データに付すように構成されている。付加部62は、判定結果情報を付帯情報として判定対象の学習データに付してもよいし、判定結果情報を判定対象の学習データそのものに埋め込んでもよい。なお、付加部62は、第1実施形態に係る属性情報を学習データに付してもよい。
制御部64は、情報処理装置50の各部の動作を制御するように構成されている。また、制御部64は、記録制御部66と学習制御部68とを含む。
記録制御部66は、判定結果情報が付された学習データを記録部に記録させるように構成されている。例えば、記録制御部66は、判定対象の学習データを影響学習データ又は非影響学習データのいずれかに分類して記録部に記録させる。記録制御部66は、影響学習データを向上学習データ又は低下学習データのいずれかに分類して記録部に記録させてもよい。記録制御部66は、学習データを向上学習データ又は非向上学習データのいずれかに分類して記録部に記録させてもよい。学習データが記録される記録部は、情報処理装置50に設けられてもよいし、情報処理装置50以外の別の装置(例えばサーバやPC等)に設けられている記録部であってもよい。学習データが記録される記録部は、ユーザによって指定されてもよいし、予め定められていてもよい。
記録制御部66は、人工知能の学習履歴を示す学習履歴情報を判定対象の学習データに紐付けて記録部に記録させてもよい。学習履歴情報は、判定対象の学習データに付されてもよい。判定対象の学習データに紐付けられる学習履歴情報は、当該判定対象の学習データを学習した人工知能が、過去に学習した学習データを示す情報である。学習履歴情報は、人工知能毎に、人工知能を識別するための人工知能識別情報と、当該人工知能が過去に学習した学習データを識別するための学習データ識別情報との対応付けを示す情報である。また、各学習データが人工知能によって学習された順番を示す情報が、学習履歴情報に含まれてもよい。例えば、人工知能には、当該人工知能が過去に学習した学習データを識別するための学習データ識別情報が紐付けられており、記録制御部66は、判定対象の学習データを学習した人工知能に紐付けられている学習データ識別情報を、当該判定対象の学習データに紐付ける。例えば、人工知能αが、学習データA,B,Cをその順番で学習した場合、その旨を示す情報が、学習履歴情報として学習データCに紐付けられる。
学習制御部68は、学習データを人工知能に学習させるように構成されている。学習制御部68は、例えば、人工知能の学習目的に応じて、当該人工知能が学習していない影響学習データ又は非影響学習データを当該人工知能に学習させる。より詳しく説明すると、学習制御部68は、判断対象の学習データを学習した人工知能とは異なる別の人工知能の学習目的に応じて、当該人工知能が学習することで分類された影響学習データ又は非影響学習データを、当該別の人工知能に学習させる。具体的には、学習制御部68は、当該別の人工知能の学習目的に応じて、当該人工知能が学習することで分類された向上学習データ又は低下学習データを当該別の人工知能に学習させる。学習制御部68は、当該別の人工知能の学習目的に応じて、当該人工知能が学習することで分類された向上学習データ又は非向上学習データを当該別の人工知能に学習させてもよい。上記の別の人工知能は、例えば、ユーザによって指定されてもよいし、予め指定されていてもよい。
具体例を挙げて学習制御部68による処理について説明する。例えば、学習データAを学習したことで人工知能αのある機能aの性能が向上した場合において、別の人工知能βの学習目的が人工知能βの機能aを向上させることである場合、学習制御部68は、学習データAを人工知能βに学習させる。つまり、学習データAは、機能aの性能を向上させることができる向上学習データに分類されているため、学習制御部68は、機能aの性能を向上させる向上学習データである学習データAを人工知能βに学習させる。換言すると、人工知能βの学習目的が、人工知能βの性能を人工知能αの性能に近づけることである場合、人工知能αの性能を向上させた学習データAを人工知能βに学習させることになる。
一方、人工知能βの学習目的が、人工知能βの性能を人工知能αの性能に近づけないことである場合、つまり、人工知能βの性能を人工知能αの性能とは異なる性能にすることである場合、学習制御部68は、人工知能αの性能を低下させた低下学習データ、人工知能αが学習した非影響学習データ、又は、人工知能αが学習した非向上学習データを、人工知能βに学習させる。こうすることで、人工知能αとは異なる性能を有する人工知能βが作成される。
人工知能の学習目的は、例えば、ユーザによって指定される。例えば、ユーザがUI部54を操作して、学習データを学習させる人工知能(例えば上記の人工知能β)と、当該人工知能の学習目的とを指定する。学習制御部68は、ユーザによって指定された人工知能に、ユーザによって指定された学習目的に適合する学習データを学習させる。
学習制御部68は、上記の別の人工知能が有する機能に対応する機能を有する人工知能が学習したことで分類された影響学習データを、当該別の人工知能に学習させてもよい。別の人工知能が有する機能に対応する機能とは、当該別の人工知能が有する機能と同じ機能であってもよいし、当該別の人工知能が有する機能に類似する機能(例えば、当該別の人工知能が有する機能との差が閾値以下となる機能)であってもよい。
例えば、人工知能αが学習データAを学習したことで、人工知能αが有する機能aの性能が向上した場合、学習制御部68は、機能aを有する別の人工知能βに学習データAを学習させる。つまり、学習制御部68は、人工知能αの性能を向上させた向上学習データを人工知能βに学習させる。人工知能α,βは、例えば、ユーザによって指定されてもよいし、予め指定されていてもよい。
また、学習制御部68は、上記の別の人工知能が有する学習履歴に対応する学習履歴を有する人工知能が学習したことで分類された影響学習データを、当該別の人工知能に学習させてもよい。別の人工知能が有する学習履歴に対応する学習履歴とは、当該別の人工知能が有する学習履歴と同じ学習履歴であってもよいし、当該別の人工知能が有する学習履歴に類似する学習履歴(例えば、当該別の人工知能が有する学習履歴との差が閾値以下となる学習履歴)であってもよい。ここでの学習履歴は、人工知能が過去に学習した学習データの履歴である。
以下、図5から図7を参照して、情報処理装置50による処理について説明する。図5から図7には、第2実施形態に係る学習データの一例が示されている。
図5に示すように、一例として、学習データAが判定対象の学習データとして指定されており、人工知能α(図5中のAI(α))が、学習データAを学習する人工知能として指定されている。例えば、ユーザがUI部54を操作して学習データAの判定を指示すると、判定部60は、判定対象の学習データAを人工知能αに学習させ、学習データAが人工知能αの性能に影響を与えたか否かを判定するためのテストを実行する。つまり、判定部60は、学習データAを学習する前と後とで人工知能αの性能が変わったか否かを判定する。人工知能αの性能が変わった場合、判定部60は、学習データAは人工知能αの性能に影響を与えた影響学習データであると判定する。人工知能αの性能が変わらなかった場合、判定部60は、学習データAは人工知能αの性能に影響を与えなかった非影響学習データであると判定する。
学習データAが影響学習データに分類された場合、図5に示すように、付加部62は、学習データAが影響学習データであることを示す判定結果情報70を学習データAに付す。学習データAが非影響学習データに分類された場合、図5に示すように、付加部62は、学習データAが非影響学習データであることを示す判定結果情報72を学習データAに付す。
記録制御部66は、影響学習データ又は非影響学習データのいずれかに分類された学習データAを記録部に記録させてもよい。
判定部60は、学習データAを学習する前と後とで人工知能αの性能が向上したか否かを判定してもよい。学習データAを学習した後の人工知能αの性能が、学習データAを学習する前の人工知能αの性能よりも向上した場合、判定部60は、学習データAは人工知能αの性能を向上させた向上学習データであると判定する。この場合、図6に示すように、付加部62は、学習データAが向上学習データであることを示す判定結果情報74を学習データAに付す。学習データAを学習した後の人工知能αの性能が、学習データAを学習する前の人工知能αの性能よりも低下した場合、判定部60は、学習データAは人工知能αの性能を低下させた低下学習データであると判定する。この場合、図6に示すように、付加部62は、学習データAが低下学習データであることを示す判定結果情報76を学習データAに付す。
記録制御部66は、向上学習データ又は低下学習データのいずれかに分類された学習データAを記録部に記録させてもよい。
また、学習データAが向上学習データに分類された場合、学習制御部68は、指定された別の人工知能β(図6中のAI(β))に学習データAを学習させてもよい。こうすることで、人工知能βの性能が向上し得る。一方、学習データAが低下学習データに分類された場合、学習制御部68は、学習データAを別の人工知能βに学習させることを禁止してもよい。こうすることで、人工知能βの性能が低下することが防止される。
学習データAを学習した後の人工知能αの性能が、学習データAを学習する前の人工知能αの性能よりも向上しなかった場合、判定部60は、学習データAを人工知能αの性能を向上させなかった非向上学習データであると判定してもよい。学習データAを学習した後の人工知能αの性能が、学習データAを学習する前の人工知能αの性能よりも向上した場合、判定部60は、学習データAは人工知能αの性能を向上させた向上学習データであると判定する。学習データAが向上学習データに分類された場合、図7に示すように、付加部62は、学習データAが向上学習データであることを示す判定結果情報78を学習データAに付す。学習データAが非向上学習データに分類された場合、図7に示すように、付加部62は、学習データAが非向上学習データであることを示す判定結果情報80を学習データAに付す。
記録制御部66は、向上学習データ又は非向上学習データのいずれかに分類された学習データAを記録部に記録させてもよい。
また、学習データAが向上学習データに分類された場合、学習制御部68は、別の人工知能β(図7中のAI(β))に学習データAを学習させてもよい。こうすることで、人工知能βの性能が向上し得る。一方、学習データAが非向上学習データに分類された場合、学習制御部68は、学習データAを別の人工知能βに学習させることを禁止する。こうすることで、人工知能βの性能が低下することが防止される。
判定部60は、各人工知能が有する機能毎に、学習データが人工知能に与えた影響を判定し、その判定結果を管理するための管理情報(例えばデータベース)を作成してもよい。その管理情報は、記憶部56に記憶されてもよいし、情報処理装置50以外の他の装置に記憶されてもよい。
図8には、その管理情報の一例であるデータベースの一例が示されている。図8に示されているデータベースは、学習データAが人工知能に与えた影響の判定結果を示すデータベースである。このデータベースにおいては、各人工知能が有する機能毎に、学習データAが人工知能に与えた影響の判定結果を示す情報が管理されている。
例えば、人工知能α(図8中のAI(α))及び人工知能β(図8中のAI(β))のそれぞれは、文字認識機能、翻訳機能、創造力及び問題解決能力等の機能を有する。判定結果Aは、性能が大きく向上したことを示している。判定結果Bは、性能が小さく向上したことを示している。判定結果Cは、性能が変化していないことを示している。判定結果Dは、性能が低下したことを示している。
人工知能αが学習データAを学習したことで、人工知能αについては、文字認識率が大きく向上し、翻訳精度が小さく向上し、創造力は変化せず、問題解決能力が低下している。つまり、人工知能αについては、文字認識機能の性能が大きく向上し、翻訳機能の性能が小さく向上し、創造力の性能は変化せず、問題解決能力の性能が低下している。
人工知能βが学習データAを学習したことで、人工知能βについては、文字認識率、翻訳精度及び創造力のそれぞれは変化せず、問題解決能力が低下している。つまり、人工知能βについては、文字認識機能、翻訳機能及び創造力のそれぞれの性能は変化せず、問題解決能力の性能が低下している。
上記のように判定結果を管理することで、学習データが各人工知能の性能に与える影響を評価することができる。図8に示す例では、人工知能αと人工知能βとを比較すると、両者とも同じ学習データAを学習しているにも関わらず、人工知能βの性能は、人工知能αの性能と比べて向上していないことが分かる。換言すると、人工知能αの性能は、人工知能βの性能と比べて向上していることが分かる。
人工知能αと人工知能βとの間で学習履歴に差がある場合があるため、上記の判定結果のみからでは、学習データAが人工知能の性能に与える影響を一概に判断することができないとも考えられる。しかし、上記の判定結果は、学習データAが人工知能の性能に与える影響を評価するための1つの指標として用いることができる。
また、人工知能の学習履歴を管理することで、どのような学習履歴を有する人工知能に学習データAを学習させることで、当該人工知能の性能を向上させることができるのか推測することができる。例えば、人工知能αと人工知能βとで、用いられているアルゴリズムが同じである場合、人工知能がどのような学習履歴を有していれば、学習データAを学習することで人工知能の性能が向上するのかを推定することができる。
また、人工知能αと人工知能βとで、用いられているアルゴリズムが異なる場合、学習データAを学習することで人工知能の性能が向上するアルゴリズムを推測することができる。図8に示す例では、人工知能αの性能が人工知能βの性能よりも向上しているため、学習データAを学習することで人工知能の性能が向上するアルゴリズムは、人工知能αのアルゴリズムであることが推測される。
また、人工知能毎に、人工知能に用いられているアルゴリズム、人工知能の利用開始時点、学習開始時点及び学習期間等をデータベース化することで、学習データの学習が人工知能に与える影響の要因が、学習データであるのか、学習データ以外の理由(例えばアルゴリズムや学習履歴等)であるのかを推測することができる。
以下、第2実施形態の変形例について説明する。
(第2実施形態の変形例1)
以下、第2実施形態の変形例1について説明する。第2実施形態の変形例1においては、判定部60は、複数の異なる学習データの組み合わせを人工知能に学習させ、当該複数の学習データの組み合わせが当該人工知能の性能に影響を与えたか否かを判定する。そして、判定部60は、当該複数の学習データの組み合わせを、当該人工知能の性能に影響を与えた組み合わせ、又は、当該人工知能の性能に影響を与えなかった組み合わせのいずれかに分類する。
判定部60は、複数の学習データの組み合わせが人工知能の性能を向上させたか否かを判定し、当該複数の学習データの組み合わせを、当該人工知能の性能を向上させた組み合わせ、又は、当該人工知能の性能を低下させた組み合わせのいずれかに分類してもよい。
判定部60は、複数の学習データの組み合わせが人工知能の性能を向上させたか否かを判定し、当該複数の学習データの組み合わせを、当該人工知能の性能を向上させた組み合わせ、又は、当該人工知能の性能を向上させなかった組み合わせのいずれかに分類してもよい。
付加部62は、判定部60による判定の結果を示す判定結果情報を、複数の学習データの組み合わせに付す。記録制御部66は、判定結果情報が付された当該組み合わせを記録部に記録させてもよい。
複数の学習データの組み合わせを人工知能に学習させるとは、複数の学習データを人工知能に同時に与えて人工知能に学習させること、又は、複数の学習データに含まれる各学習データを順番に人工知能に与えて各学習データを人工知能に順番に学習させることである。
以下、図9から図11を参照して、第2実施形態の変形例1に係る処理について説明する。図9から図11には、第2実施形態の変形例1に係る学習データの一例が示されている。
図9に示すように、一例として、学習データA,Bの組み合わせが判定対象の学習データとして指定されており、人工知能α(図9中のAI(α))が、学習データA,Bの組み合わせを学習する人工知能として指定されている。例えば、ユーザがUI部54を操作して学習データA,Bの組み合わせの判定を指示すると、判定部60は、判定対象の学習データA,Bの組み合わせを人工知能αに学習させ、学習データA,Bの組み合わせが人工知能αの性能に影響を与えたか否かを判定するためのテストを実行する。つまり、判定部60は、学習データA,Bの組み合わせを学習する前と後とで人工知能αの性能が変わったか否かを判定する。人工知能αの性能が変わった場合、判定部60は、学習データA,Bの組み合わせは人工知能αの性能に影響を与えた組み合わせであると判定する。人工知能αの性能が変わらなかった場合、判定部60は、学習データA,Bの組み合わせは人工知能αの性能に影響を与えなかった組み合わせであると判定する。
学習データA,Bの組み合わせが、人工知能αの性能に影響を与えた組み合わせに分類された場合、図9に示すように、付加部62は、学習データA,Bの組み合わせが人工知能αの性能に影響を与えた組み合わせであることを示す判定結果情報82を、学習データA,Bの組み合わせに付す。学習データA,Bの組み合わせが、人工知能αの性能に影響を与えなかった組み合わせに分類された場合、図9に示すように、付加部62は、学習データA,Bの組み合わせが人工知能αの性能に影響を与えなった組み合わせであることを示す判定結果情報84を、学習データA,Bの組み合わせに付す。
記録制御部66は、人工知能αの性能に影響を与えた組み合わせ又は人工知能αの性能に影響を与えなかった組み合わせのいずれかに分類された学習データA,Bの組み合わせを、記録部に記録させてもよい。
判定部60は、学習データA,Bの組み合わせを学習する前と後とで人工知能αの性能が向上したか否かを判定してもよい。学習データA,Bの組み合わせを学習した後の人工知能αの性能が、学習データA,Bの組み合わせを学習する前の人工知能αの性能よりも向上した場合、判定部60は、学習データA,Bの組み合わせは人工知能αの性能を向上させた組み合わせであると判定する。この場合、図10に示すように、付加部62は、学習データA,Bの組み合わせが人工知能αの性能を向上させた組み合わせであることを示す判定結果情報86を、学習データA,Bの組み合わせに付す。学習データA,Bの組み合わせを学習した後の人工知能αの性能が、学習データA,Bの組み合わせを学習する前の人工知能αの性能よりも低下した場合、判定部60は、学習データA,Bの組み合わせは人工知能αの性能を低下させた組み合わせであると判定する。この場合、図10に示すように、付加部62は、学習データA,Bの組み合わせが人工知能αの性能を低下させた組み合わせであることを示す判定結果情報88を、学習データA,Bの組み合わせに付す。
記録制御部66は、人工知能αの性能を向上させた組み合わせ又は人工知能αの性能を低下させた組み合わせのいずれかに分類された学習データA,Bの組み合わせを、記録部に記録させてもよい。
また、学習データA,Bの組み合わせが人工知能αの性能を向上させた場合、学習制御部68は、指定された別の人工知能(例えば人工知能β)に学習データA,Bの組み合わせを学習させてもよい。一方、学習データA,Bの組み合わせが人工知能αの性能を低下させた場合、学習制御部68は、別の人工知能に学習データA,Bの組み合わせを学習させることを禁止してもよい。
学習データA,Bの組み合わせを学習した後の人工知能αの性能が、学習データA,Bの組み合わせを学習する前の人工知能αの性能よりも向上しなかった場合、判定部60は、学習データA,Bの組み合わせを人工知能αの性能を向上させなかった組み合わせであると判定してもよい。学習データA,Bの組み合わせを学習した後の人工知能αの性能が、学習データA,Bの組み合わせを学習する前の人工知能αの性能よりも向上した場合、判定部60は、学習データA,Bの組み合わせは人工知能αの性能を向上させた組み合わせであると判定する。学習データA,Bの組み合わせが人工知能αの性能を向上させた組み合わせに分類された場合、図11に示すように、付加部62は、学習データA,Bの組み合わせが人工知能αの性能を向上させた組み合わせであることを示す判定結果情報90を、学習データA,Bの組み合わせに付す。学習データA,Bの組み合わせが人工知能αの性能を向上させなかった組み合わせに分類された場合、図11に示すように、付加部62は、学習データA,Bの組み合わせが人工知能αの性能を向上させなかった組み合わせであることを示す判定結果情報92を、学習データA,Bの組み合わせに付す。
記録制御部66は、人工知能αの性能を向上させた組み合わせ又は人工知能αの性能を向上させなかった組み合わせのいずれかに分類された学習データA,Bの組み合わせを、記録部に記録させてもよい。
また、学習データA,Bの組み合わせが人工知能αの性能を向上させなかった組み合わせに分類された場合、学習制御部68は、学習データA,Bの組み合わせを別の人工知能に学習させることを禁止してもよい。
判定部60は、各人工知能が有する機能毎に、複数の学習データの組み合わせが人工知能に与えた影響を判定し、その判定結果を管理するための管理情報(例えばデータベース)を作成してもよい。その管理情報は、記憶部56に記録されてもよいし、情報処理装置10以外の他の装置に記録されてもよい。
図12には、その管理情報の一例であるデータベースの一例が示されている。図12に示されているデータベースは、学習データA,Bの組み合わせが人工知能に与えた影響の判定結果を示すデータベースである。このデータベースにおいては、各人工知能が有する機能毎に、学習データA,Bの組み合わせが人工知能に与えた影響の判定結果を示す情報が管理されている。判定結果A,B,C,Dのそれぞれの意味は、図8に示されている各判定結果の意味と同じである。
人工知能αが学習データA,Bの組み合わせを学習したことで、人工知能αについては、文字認識率が大きく向上し、翻訳精度が小さく向上し、創造力は変化せず、問題解決能力が低下している。つまり、人工知能αについては、文字認識機能の性能が大きく向上し、翻訳機能の性能が小さく向上し、創造力の性能は変化せず、問題解決能力の性能が低下している。
人工知能βが学習データA,Bの組み合わせを学習したことで、人工知能βについては、文字認識率、翻訳精度及び創造力のそれぞれは変化せず、問題解決能力が低下している。つまり、人工知能βについては、文字認識機能、翻訳機能及び創造力のそれぞれの性能は変化せず、問題解決能力の性能が低下している。
上記のように判定結果を管理することで、複数の学習データの組み合わせが各人工知能の性能に与える影響を評価することができる。図12に示す例では、人工知能αと人工知能βとを比較すると、両者とも同じ学習データA,Bの組み合わせを学習しているにも関わらず、人工知能βの性能は、人工知能αの性能と比べて向上していないことが分かる。換言すると、人工知能αの性能は、人工知能βの性能と比べて向上していることが分かる。
なお、学習データA,Bを順番に人工知能に学習させる場合、その順番を変えたときの各判定結果がデータベースに管理されてもよい。つまり、学習データA,Bを学習データA,Bの順番で人工知能に学習させたときの判定結果と、学習データA,Bを学習データB,Aの順番で人工知能に学習させたときの判定結果とが、データベースに管理されてもよい。
上記の例では、判定部60は、2つの学習データの組み合わせを人工知能に学習させているが、3つ以上の学習データの組み合わせを人工知能に学習させて、その学習の影響を判定してもよい。
また、複数の学習データの組み合わせに含まれる各学習データは、同じ種類や同じ形式の学習データであってもよいし、異なる種類や異なる形式の学習データであってよい。例えば、複数の文書データの組み合わせや複数の画像データの組み合わせが、複数の学習データの組み合わせとして用いられてもよいし、文書データと画像データの組み合わせが、複数の学習データの組み合わせして用いられてもよい。これらの組み合わせは一例に過ぎず、複数の学習データの組み合わせに含まれる各学習データは、ユーザによって指定されてもよい。
(第2実施形態の変形例2)
以下、第2実施形態の変形例2について説明する。第2実施形態の変形例2においては、判定部60は、人工知能の寿命を判定する。ここでの寿命とは、人工知能が学習データを学習しても、当該人工知能の性能が向上しないこと、又は、当該人工知能の性能が向上しても、その向上が閾値未満であることである。人工知能の寿命が来たと判定されたことは、人工知能の交換やアルゴリズムの変更をユーザに促す基準として用いられる。
例えば図13に示すように、判定部60は、人工知能αが学習していない学習データCを人工知能αに学習させ、その学習によって人工知能αの性能が向上したか否かを判定する。人工知能αの性能が向上した場合、判定部60は、人工知能αの寿命は来ていないと判定する。人工知能αの性能が向上しなかった場合、判定部60は、人工知能αの寿命が来たと判定する。人工知能αの性能が向上した場合であっても、その向上が閾値未満である場合、判定部60は、人工知能αの寿命が来たと判定してもよい。
人工知能αの寿命が来たと判定された場合、制御部64は、人工知能の交換を推奨することを示す情報や、人工知能のアルゴリズムの変更を推奨することを示す情報等を出力してもよい。例えば、制御部64は、推奨を示す情報をUI部54の表示部に表示させてもよいし、音声を出力してもよい。
なお、判定部60は、同じ学習データを複数回、連続して、又は、予め定められた時間間隔で、人工知能αに学習させ、その学習結果に基づいて人工知能αの寿命を判定してもよい。
判定部60は、複数の異なる学習データを人工知能αに学習させ、その学習結果に基づいて人工知能αの寿命を判定してもよい。例えば、人工知能αの性能を向上させた学習データの数が閾値未満である場合、判定部60は、人工知能αの寿命が来たと判定する。人工知能αの性能を向上させた学習データの数が閾値以上である場合、判定部60は、人工知能αの寿命が来ていないと判定する。
図14には、別の例が示されている。別の例では、図14に示すように、判定部60は、人工知能α,βのそれぞれが学習していない学習データCを人工知能α,βのそれぞれに学習させ、人工知能αの学習結果と人工知能βの学習結果とを比較する。人工知能αの学習結果と人工知能βの学習結果との差が閾値未満である場合、判定部60は、人工知能α,βのそれぞれの寿命は来ていないと判定する。人工知能αの学習結果と人工知能βの学習結果との差が閾値以上である場合、判定部60は、人工知能α,βの中で学習効果がより低い人工知能の寿命が来たと判定する。学習効果がより低い人工知能とは、性能が他方の人工知能の性能よりも向上しなかった人工知能、他方の人工知能の性能が向上したのに対して性能が向上しなかった人工知能、又は、他方の人工知能の性能が低下してもより性能が低下した人工知能である。
人工知能α,βは、同じ又は類似する学習履歴を有する人工知能であってもよいし、同じでもなく類似でもない学習履歴を有する人工知能であってもよい。学習履歴が類似するとは、人工知能αの学習履歴と人工知能βの学習履歴との差が閾値未満になることである。
なお、判定部60、付加部62、記録制御部66及び学習制御部68のそれぞれの処理は、人工知能によって実行されてもよい。例えば、学習データを学習することを指示された人工知能が、これらの処理を実行してもよい。
上記の情報処理装置10,50の各部の機能は、一例としてハードウェアとソフトウェアとの協働により実現される。具体的には、情報処理装置10,50は、図示しないCPU等の1又は複数のプロセッサを有している。当該1又は複数のプロセッサが、図示しない記憶装置に記憶されたプログラムを読み出して実行することで、情報処理装置10,50の各部の機能が実現される。上記プログラムは、CD又はDVD等の記録媒体を経由して、又は、ネットワーク等の通信経路を経由して、記憶装置に記憶される。別の例として、情報処理装置10,50の各部の機能は、例えばプロセッサ、電子回路又はASIC(Application Specific Integrated Circuit)等のハードウェア資源により実現されてもよい。その実現においてメモリ等のデバイスが利用されてもよい。更に別の例として、情報処理装置10,50の各部の機能は、DSP(Digital Signal Processor)又はFPGA(Field Programmable Gate Array)等によって実現されてもよい。