JPWO2019058684A1 - 検証装置、情報処理方法、およびプログラム - Google Patents

Abstract

装置において人工知能を機能させる制御データと、制御データの学習用データとをそれぞれ取得する取得部と、取得された学習用データを用いて学習を行った結果得られる制御データと、取得された制御データとに基づいて、取得された制御データを検証する検証部とを備える、検証装置が、提供される。【選択図】図１

Description

本開示は、検証装置、情報処理方法、およびプログラムに関する。

ネットワークを介して人々やロボットがそれぞれの「能力」を持ち寄り、交換して今までにない用途の領域を切り開こうとするＩｏＡ（Internet of Ability）という概念が提唱されている。ＩｏＡについて開示されている文献としては、例えば下記の非特許文献１が挙げられる。

暦本純一，「ＩｏＴからＩｏＡへ、人類を拡張するネットワーク」，日経エレクトロニクス，2016年2月号 pp89-101.

非特許文献１には、ネットワークを通じて能力がやりとりされることによって、例えば、体験の拡張、共同作業・能力の伝達、および存在の拡張が可能となる旨が記載されている。しかしながら、非特許文献１では、ネットワークを通じた能力のやりとりをどのように実現するかについては、記載されていない。

ここで、ネットワークを通じた能力のやりとりを実現する方法としては、例えば“装置において人工知能を機能させるためのデータを、ネットワークを通じて取得可能にすること”が、考えられる。しかしながら、ネットワークを通じて能力のやりとりがされる世界を考えると、例えば“悪意を持った者により、ある特定の状況になると通常と異なる挙動を人工知能に行わせるデータが作成され、当該データがネットワークを通じて取得可能な状態にされる事態”が生じることが、想定される。そして、上記のような事態が生じた場合には、ある特定の状況で人工知能が通常と異なる挙動を行うことから、安全上好ましくない。特に“交通機関やインフラ、軍事関連など高いレベルの安全性が求められる分野に用いられるデータに関して上記のような事態が生じることは、許容されない”と、考えられる。

よって、ネットワークを通じて能力のやりとりがされる世界を想定すると、ネットワークを通じて取得可能な、装置において人工知能を機能させるためのデータを検証する仕組みが必要となると、考えられる。

本開示では、装置において人工知能を機能させるためのデータを検証することが可能な、新規かつ改良された検証装置、情報処理方法、およびプログラムを提案する。

本開示によれば、装置において人工知能を機能させる制御データと、上記制御データの学習用データとをそれぞれ取得する取得部と、取得された上記学習用データを用いて学習を行った結果得られる上記制御データと、取得された上記制御データとに基づいて、取得された上記制御データを検証する検証部と、を備える、検証装置が、提供される。

また、本開示によれば、装置において人工知能を機能させる制御データと、上記制御データの学習用データとをそれぞれ取得するステップと、取得された上記学習用データを用いて学習を行った結果得られる上記制御データと、取得された上記制御データとに基づいて、取得された上記制御データを検証するステップと、を有する、検証装置により実行される情報処理方法が、提供される。

また、本開示によれば、装置において人工知能を機能させる制御データと、上記制御データの学習用データとをそれぞれ取得する機能、取得された上記学習用データを用いて学習を行った結果得られる上記制御データと、取得された上記制御データとに基づいて、取得された上記制御データを検証する機能、を、コンピュータに実現させるためのプログラムが、提供される。

本開示によれば、装置において人工知能を機能させるためのデータを検証することができる。

なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。

本実施形態に係る情報処理方法に係る処理の一例を説明するための流れ図である。 Ｐ２Ｐデータベースの一例を示す説明図である。 Ｐ２ＰネットワークにおけるＰ２Ｐデータベースへのデータの登録の一例を示す説明図である。 Ｐ２ＰネットワークにおけるＰ２Ｐデータベースからのデータの取得の一例を示す説明図である。 本実施形態に係る検証装置を有する本実施形態に係る情報処理システムの構成の一例を示す説明図である。 本実施形態に係る検証装置の構成の一例を示すブロック図である。 本実施形態に係る検証装置のハードウェア構成の一例を示す説明図である。

以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。

また、以下では、下記に示す順序で説明を行う。
１．本実施形態に係る情報処理方法
２．本実施形態に係る検証装置
３．本実施形態に係るプログラム

（本実施形態に係る情報処理方法）
以下、本実施形態に係る検証装置が、本実施形態に係る情報処理方法に係る処理を行う場合を例に挙げて、本実施形態に係る情報処理方法について説明する。

［１］本実施形態に係る情報処理方法の概要
上述したように、ネットワークを通じて能力のやりとりがされる世界を考えると、例えば“悪意を持った者により、ある特定の状況になると通常と異なる挙動を人工知能に行わせるデータが作成され、当該データがネットワークを通じて取得可能な状態にされる事態”が生じることが、想定される。そして、上記のような事態が生じた場合にはある特定の状況で人工知能が通常と異なる挙動を行うことから、安全上好ましくないと考えられる。

そこで、本実施形態に係る検証装置は、装置において人工知能を機能させる制御データを検証する。本実施形態に係る検証装置は、制御データの学習用データを用いて学習を行った結果得られる制御データと、検証対象の制御データとを比較することによって、検証対象の制御データが、当該学習用データを用いて学習されたデータであることを検証する。

本実施形態に係る人工知能とは、例えば、人間が知能（実際の目標を達成する能力の計算的な部分）を使って行うことを機械に行わせるためのコンピュータプログラムを、意味する。人工知能は上記のようなコンピュータプログラムであるので、物理的作業や知的作業を伴う何らかの能力の少なくとも一部を、ネットワークを通じたデータのやりとりによって、複数の装置で共有することが可能である。

本実施形態に係る制御データとは、人工知能を機能させるための学習済みのデータに該当する。学習済みのデータは、例えば、誤差逆伝播法などの学習アルゴリズムを用いた深層学習（deep learning）や、深層学習と強化学習（reinforcement learning）とを組み合わせた深層強化学習（deep reinforcement learning）などの、任意の学習方法により学習が行われることによって得られる。学習済みのデータとしては、例えば、学習済みのニューラルネットワークモジュールなど、人工知能モジュールとしての役目を果たすことが可能な任意のデータ（またはデータ群）が挙げられる。

本実施形態に係る学習用データとは、深層学習や深層強化学習などによる学習を行うためのデータである。学習用データとしては、例えば、ネットワーク構造を示す情報、ハイパーパラメータ、およびトレーニングデータセットが挙げられる。ネットワーク構造を示す情報、ハイパーパラメータ、およびトレーニングデータセットのうちの２以上は、パッケージ化されていてもよい。

本実施形態に係るネットワーク構造を示す情報とは、例えば、ニューラルネットワークなどの任意のネットワークの構造を示す情報である。ネットワーク構造を示す情報としては、例えば、データ間の関係をグラフ構造で表現することが可能な任意の形式のデータが、挙げられる。

本実施形態に係るハイパーパラメータとは、学習のためのパラメータである。ネットワーク構造を示す情報がニューラルネットワークの構造を示す情報である場合を例に挙げると、ハイパーパラメータとしては、例えば、ニューロンの数、ネットワークの層数、学習率などが挙げられる。なお、本実施形態に係るハイパーパラメータは、上記に示す例に限られず、例えば、学習が行われることによりネットワーク構造を示す情報が示すネットワークに対して幅を持たせることが可能な、任意のパラメータであってもよい。

本実施形態に係るトレーニングデータセットとは、複数の学習のために用いられるトレーニングデータを含むデータ群である。トレーニングデータとしては、画像データやテキストデータなどの、学習内容に応じた任意の形式のデータが、挙げられる。

また、トレーニングデータセットには、例えば、学習にランダム性を与える設定データが含まれうる。誤差逆伝播法が用いられる場合を例に挙げると、上記設定データとしては、例えば、ネットワークの接続の重みの初期値と、トレーニングデータを用いた順序を示すデータとが、挙げられる。また、例えば過学習を抑える方法としてＤｒｏｐｏｕｔという手法が用いられる場合、上記設定データには、どの更新サイクルでどのノードを無効にさせたかを示すデータが含まれる。つまり、トレーニングデータセットには、学習にランダム性を与える任意のデータが、設定データとして含まれうる。

なお、上記設定データは、トレーニングデータセットに含まれることに限られない。例えば、上記設定データを、トレーニングデータセットとは概念的に別のデータと捉えることも可能である。

ここで、検証対象の制御データの学習に用いられた学習用データと、新たな学習に用いる学習用データとが、学習のランダム性も含め同一であれば、学習用データを用いて新たに学習を行った結果得られる制御データと、検証対象の制御データとは、一致する。

また、学習用データを用いて新たに学習を行った結果得られる制御データと、検証対象の制御データとが一致しない場合、検証対象の制御データは、“新たに学習に用いられた学習用データとは異なる学習用データを用いて学習が行われた結果得られる、制御データ”である可能性が高い。つまり、学習用データを用いて新たに学習を行った結果得られる制御データと、検証対象の制御データとが一致しない場合には、検証対象の制御データが“悪意を持った者により、ある特定の状況になると通常と異なる挙動を人工知能に行わせるデータ”である可能性が、ある。

よって、本実施形態に係る検証装置は、学習用データを用いて新たに学習を行った結果得られる制御データと、検証対象の制御データとが一致するか否かを判定することによって、検証対象の制御データを検証することができる。より具体的には、本実施形態に係る検証装置は、検証対象の制御データが、新たな学習に用いられた学習用データを用いて学習された制御データであるかを検証することによって、検証対象の制御データの正当性を検証することができる。

なお、学習用データを用いた新たな学習に係る処理は、本実施形態に係る検証装置が行ってもよいし、本実施形態に係る検証装置の外部装置が行ってもよい。外部装置により学習用データを用いた新たな学習に係る処理が行われる場合、本実施形態に係る検証装置は、当該外部装置から学習の結果得られた制御データを取得することによって、検証対象の制御データを検証する。以下では、本実施形態に係る検証装置が、学習用データを用いた新たな学習に係る処理を行う場合を例に挙げる。

［２］本実施形態に係る情報処理方法に係る処理
次に、本実施形態に係る情報処理方法に係る処理について説明する。

図１は、本実施形態に係る情報処理方法に係る処理の一例を説明するための流れ図である。本実施形態に係る検証装置は、制御データを取得する（Ｓ１００）。ステップＳ１００において取得される制御データは、検証対象の制御データに該当する。

本実施形態に係る検証装置は、例えば、本実施形態に係る検証装置のユーザ（以下、単に「ユーザ」と示す。）の操作などにより指定された記録場所から、制御データを読み出すことによって、制御データを取得する。上記記録場所としては、例えば、記憶部（後述する）などの本実施形態に係る検証装置が備える記録媒体や、リムーバブルメディアなどの外部の記録媒体、本実施形態に係る検証装置と通信可能な外部装置が備える記録媒体、あるいは、後述するＰ２Ｐ（Peer to Peer）データベースなどが挙げられる。

なお、検証対象の制御データの取得方法は、上記に示す例に限られない。例えば、本実施形態に係る検証装置は、ユーザの操作などにより指定された検索条件に合致する制御データを、記憶部（後述する）などの記録媒体や、後述するＰ２Ｐデータベースなどから検索することによって、制御データを取得してもよい。

本実施形態に係る検証装置は、学習用データを取得する（Ｓ１０２）。ステップＳ１０２において取得される制御データは、新たな学習を行うための学習用データに該当する。本実施形態に係る検証装置は、例えば、ユーザの操作などにより指定された記録場所から、学習用データを読み出すことによって、学習用データを取得する。

本実施形態に係る検証装置は、ステップＳ１０２において取得された学習用データを用いて学習を行い、学習を行った結果である制御データを取得する（Ｓ１０４）。上述したように、上記設定データが含まれる学習用データに基づき学習が行われることによって、学習にランダム性が与えられる。

本実施形態に係る検証装置は、ステップＳ１０４における学習を行った結果得られる制御データと、ステップＳ１００において取得された検証対象の制御データとを比較して、検証対象の制御データを検証する（Ｓ１０６）。本実施形態に係る検証装置は、例えば、学習を行った結果得られる制御データと検証対象の制御データとが一致するかを判定することによって、検証対象の制御データが、ステップＳ１０２において取得された学習用データを用いて学習されたデータであることを検証する。

本実施形態に係る検証装置は、例えば、学習を行った結果得られる制御データと検証対象の制御データとのバイナリを比較する。そして、本実施形態に係る検証装置は、学習を行った結果得られる制御データと検証対象の制御データとのバイナリが一致する場合に、“学習を行った結果得られる制御データと検証対象の制御データとが一致する”と判定する。また、本実施形態に係る検証装置は、学習を行った結果得られる制御データと検証対象の制御データとのバイナリが一致しない場合には、“学習を行った結果得られる制御データと検証対象の制御データとが一致する”と判定しない。

本実施形態に係る検証装置は、例えば上記のようなバイナリ比較により、学習を行った結果得られる制御データと検証対象の制御データとが一致するかを判定して、検証対象の制御データを検証する。なお、学習を行った結果得られる制御データと検証対象の制御データとが一致するかを判定する方法は、バイナリ比較に限られない。例えば、本実施形態に係る検証装置は、データ間の一致を判定することが可能な任意の方法によって、学習を行った結果得られる制御データと検証対象の制御データとが一致するかを判定してもよい。

なお、“過去に、ステップＳ１０２において取得された学習用データを用いて学習が行われたときのハードウェア環境をエミュレーションした上で、ステップＳ１０４における処理が行われる場合”、または、“過去に、ステップＳ１０２において取得された学習用データを用いて学習が行われたときのハードウェア環境と同一のハードウェア環境で、ステップＳ１０４における処理が行われる場合”には、ステップＳ１０６における判定精度をさらに向上させることが可能である。

ステップＳ１０６の処理により検証結果が得られると、本実施形態に係る検証装置は、設定されている送信先へ検証結果を示すデータを送信し、および／または、検証結果を示すデータをＰ２Ｐデータベースへ登録する（Ｓ１０８）。

本実施形態に係る検証結果を示すデータとしては、例えば、検証対象の制御データが正当な制御データであるか否かを示すフラグが、挙げられる。なお、本実施形態に係る検証結果を示すデータは、上記に示す例に限られない。例えば、本実施形態に係る検証結果を示すデータは、検証結果が文字列、画像などで表されるデータなど、検証結果を示すことが可能な任意のデータであってもよい。また、本実施形態に係る検証結果を示すデータには、検証を行った本実施形態に係る検証装置を示すデータ（例えば、装置ＩＤなど）や、検証を行った検証機関を示すデータ（例えば、検証機関のＩＤや、検証機関の名称やロゴなどを示すデータなど）が、電子透かしなどにより含まれていてもよい。

設定されている送信先へ検証結果を示すデータを送信する場合、本実施形態に係る検証装置は、送信先を示すデータ（例えば、メールアドレスを示すデータや、ＩＰ（Internet Protocol）アドレスなどを示すデータなど）を、記憶部（後述する）などの記録媒体から読み出すことによって、送信先を特定する。そして、本実施形態に係る検証装置は、本実施形態に係る検証装置が備える通信部（後述する）や、本実施形態に係る検証装置に接続されている外部の通信デバイスを介して、検証結果を示すデータを、特定された送信先へ送信する。

本実施形態に係る検証装置が、設定されている送信先へ検証結果を示すデータを送信することによって、当該送信先に対応する特定の者へ、検証結果を報告することが実現される。

また、図１に示すように、本実施形態に係る検証装置は、検証結果を示すデータをＰ２Ｐデータベースへ登録することも可能である。

Ｐ２Ｐデータベースとは、Ｐ２Ｐネットワークを利用した分散ファイルシステムの一例である。Ｐ２Ｐデータベースとしては、例えば、Ｐ２Ｐネットワークに流通するブロックチェーンデータが挙げられる。本実施形態に係るブロックチェーンデータとしては、例えば、ＢｉｔｃｏｉｎやＥｔｈｅｒｅｕｍなどの仮想通貨のデータのやり取りに用いられるブロックチェーンデータが挙げられる。なお、本実施形態に係るブロックチェーンデータが、仮想通貨のデータのやり取りに用いられるブロックチェーンデータに限られないことは、言うまでもない。また、本実施形態に係るＰ２Ｐデータベースは、ブロックチェーンデータに限られず、Ｐ２Ｐネットワークを利用した分散ファイルシステムを実現することが可能な、任意の分散ファイルシステムであってもよい。

図２は、Ｐ２Ｐデータベースの一例を示す説明図であり、ブロックチェーンデータの一例を示している。

図２に示すように、ブロックチェーンデータは、複数のブロックがあたかも鎖のように連なって含まれるデータである。それぞれのブロックには、１または２以上のトランザクションのデータが含まれる。また、トランザクションのデータとしては、例えば、取引された仮想通貨の値などの取引の内容を示すデータや、トランザクションを生成するＰ２Ｐネットワークの参加者（Ｐ２Ｐネットワークを構成する装置。以下、同様とする。）の公開鍵に対応するアドレスを示すデータ、制御データ、検証結果を示すデータなどの、様々なデータが挙げられる。

ブロックチェーンデータには、例えば、直前のブロックのハッシュと、ナンスとよばれる値が含まれる。直前のブロックのハッシュは、例えば直前のブロックから正しく連なる「正しいブロック」であるか否かを判定するために用いられる。ナンスは、例えばハッシュを用いた認証においてなりすましを防ぐために用いられ、ナンスを用いることによって改ざんが防止される。ナンスとしては、例えば、文字列、数字列、あるいは、これらの組み合わせを示すデータが挙げられる。

また、ブロックチェーンデータでは、トランザクションのデータに対して暗号鍵を用いた電子署名が付与されていてもよく、また、トランザクションのデータに対して暗号鍵を用いた暗号化が施されていてもよい。

各トランザクションのデータは公開され、Ｐ２Ｐネットワーク全体で共有される。なお、Ｐ２Ｐデータベースの種類によっては、Ｐ２Ｐネットワーク全体で必ずしも同一の記録を保持しない場合もありうる。

Ｐ２Ｐネットワークにおけるブロックチェーンデータへの新たなブロックの追加（新たなブロックの生成）は、例えば、ＰｏＷ（Proof of Work）とよばれる手法、または、ＰｏＳ（Proof of Stake）とよばれる手法によって行われる。ＰｏＷとは、Ｐ２Ｐネットワークの参加者のうち、数学的な問題を最も早く解いた者（例えば、特定の条件を満たすハッシュを最初に見つけた者）が、新たなブロックを生成する手法である。また、ＰｏＳとは、例えば、仮想通貨の量、仮想通貨を保有している期間などにより決まる参加者が保有する資産に応じて難易度が変わる数学的な問題を、最も早く解いた者（例えば、難易度に応じた特定の条件を満たすハッシュを最初に見つけた者）が、新たなブロックを生成する手法である。なお、本実施形態に係るＰ２Ｐネットワークにおけるブロックチェーンデータへの新たなブロックの追加方法は、特に限定されない。

図３は、Ｐ２ＰネットワークにおけるＰ２Ｐデータベースへのデータの登録の一例を示す説明図であり、ブロックチェーンデータ（Ｐ２Ｐデータベースの一例）へのデータの登録の一例を示している。

例えば、Ｐ２Ｐネットワークの参加者Ａは、ブロックチェーンデータに登録するデータを、参加者Ａの秘密鍵を用いて電子署名を行う。ブロックチェーンデータに登録するデータが参加者Ａの秘密鍵を用いて電子署名が行われることによって、例えば、当該データが参加者Ａに起因するデータであることや、当該データの保有者が参加者Ａであることなどが、担保される。また、Ｐ２Ｐネットワークの参加者Ａは、ブロックチェーンデータに登録するデータを、参加者Ａの公開鍵などを用いて暗号化してもよい。なお、Ｐ２Ｐデータベースへのデータの登録の際に、秘密鍵を用いた電子署名や、公開鍵などを用いた暗号化が行われなくてもよいことは、言うまでもない。

電子署名が行われると、参加者Ａは、電子署名されたデータを含むトランザクションのデータを、Ｐ２Ｐネットワーク上にブロードキャストする。Ｐ２Ｐネットワーク上にブロードキャストされたトランザクションのデータは、いずれかのＰ２Ｐネットワークの参加者によって作成されたブロックに含まれることによって、ブロックチェーンデータに登録される。

なお、Ｐ２ＰネットワークにおけるＰ２Ｐデータベースへのデータの登録方法は、上記に示す例に限られない。例えば、Ｐ２Ｐネットワークでは、サイドチェーン技術を利用することによって、Ｐ２Ｐデータベースへデータを登録することも可能である。

図４は、Ｐ２ＰネットワークにおけるＰ２Ｐデータベースからのデータの取得の一例を示す説明図であり、ブロックチェーンデータ（Ｐ２Ｐデータベースの一例）からのデータの取得の一例を示している。

Ｐ２Ｐネットワークの参加者がブロックチェーンデータに登録するデータは、例えば図３を参照して説明したようにブロックチェーンデータに登録され、その結果、登録されたデータは、例えばＰ２Ｐネットワークの参加者全体で共有される。よって、Ｐ２Ｐネットワークの参加者それぞれは、例えば参加者それぞれに対応する記録媒体に記憶されているブロックチェーンデータを参照することによって、ブロックチェーンデータに記憶されている、Ｐ２Ｐネットワークの参加者がブロックチェーンデータに登録したデータを取得することができる。

なお、上述したように、Ｐ２Ｐデータベースの種類によっては、Ｐ２Ｐネットワーク全体で必ずしも同一の記録を保持しない場合もありうる。上記の場合、Ｐ２Ｐネットワークの参加者がブロックチェーンデータに登録したデータは、Ｐ２Ｐネットワークの参加者の一部で共有され、一部の参加者は、対応する記録媒体に記憶されているブロックチェーンデータを参照することによって、登録されたデータを取得することが可能である。

また、例えば、ブロックチェーンデータに登録されているデータに対して秘密鍵を用いた電子署名がされている場合、当該登録されているデータを取得した参加者は、当該秘密鍵に対応する公開鍵を用いることによって、取得した当該登録されているデータの正当性を検証することが可能である。また、例えば、ブロックチェーンデータに登録されているデータに対して公開鍵を用いた暗号化が行われている場合、当該登録されているデータを取得した参加者は、当該公開鍵に対応する秘密鍵を用いることによって、取得した当該登録されているデータを復号化する。

本実施形態に係る検証装置は、例えば図３を参照して説明したようにＰ２Ｐデータベースに検証結果を示すデータを登録する。本実施形態に係る検証装置が、検証結果を示すデータをＰ２Ｐデータベースに登録することによって、Ｐ２Ｐデータベースに（直接的または間接的に）アクセスすることが可能な不特定多数の者による検証結果の取得が、可能となる。本実施形態に係る検証装置が、検証結果を示すデータをＰ２Ｐデータベースに登録することによって、検証結果が改竄されていないことが担保される。

本実施形態に係る検証装置は、本実施形態に係る情報処理方法に係る処理として、例えば図１に示す処理を行う。図１に示す処理が行われることによって、検証対象の制御データ（装置において人工知能を機能させるためのデータ）は検証される。また、図１に示す処理が行われることによって、検証結果が特定の者に報告され、および／または、検証結果が不特定多数の者で共有されうる。

なお、本実施形態に係る情報処理方法に係る処理は、図１に示す例に限られない。

例えば、本実施形態に係る検証装置は、図１に示すステップＳ１０８の処理を行わなくてもよい。ステップＳ１０８の処理を行わない場合であっても、本実施形態に係る検証装置は、検証対象の制御データ（装置において人工知能を機能させるためのデータ）を検証することができる。

また、本実施形態に係る検証装置は、例えば、検証結果を表示デバイスの表示画面に表示させることにより、検証結果を視覚的に通知してもよい。また、本実施形態に係る検証装置は、例えば、検証結果を示す音声を、スピーカなどの音声出力デバイスから出力させることにより、検証結果を聴覚的に通知してもよい。

（本実施形態に係る検証装置）
次に、上述した本実施形態に係る情報処理方法に係る処理を行うことが可能な、本実施形態に係る検証装置の構成の一例を、説明する。

以下では、“本実施形態に係る検証装置を有し、かつ、ネットワークを通じた能力の共有が図られる、本実施形態に係る情報処理システム”の一例を説明しつつ、本実施形態に係る検証装置の構成の一例を、説明する。なお、本実施形態に係る検証装置が、後述する本実施形態に係る情報処理システムを構成する装置に限られないことは、言うまでもない。

図５は、本実施形態に係る検証装置１００を有する本実施形態に係る情報処理システム１０００の構成の一例を示す説明図である。情報処理システム１０００は、例えば、検証装置１００と、処理装置２００とを有する。

検証装置１００と処理装置２００とは、例えば無線または有線で接続され、ネットワーク３００を構成する。ネットワーク３００としては、例えば、Ｐ２Ｐネットワークなどの分散型ネットワークが挙げられる。以下では、ネットワーク３００が、情報処理システム１０００を構成する各種装置が自律分散的に接続されるＰ２Ｐネットワークである場合を主に例に挙げる。図１においてネットワーク３００を介して接続されるように表されている検証装置１００および処理装置２００が、Ｐ２Ｐネットワークを構成する装置に該当する。なお、ネットワーク３００が、Ｐ２Ｐネットワークに限られないことは、言うまでもない。

なお、本実施形態に係る情報処理システムは、図５に示す例に限られない。

例えば、図５においてネットワーク３００を構成する検証装置１００の数、および図５においてネットワーク３００を構成する処理装置２００の数それぞれは、一例であり、ネットワーク３００を構成する各種装置の数は、図５に示す例に限られない。

また、例えば、図５では、検証装置１００と処理装置２００とを別体の装置として表しているが、ネットワーク３００を構成する検証装置１００および処理装置２００それぞれの少なくとも一部は、検証装置１００および処理装置２００として機能してもよい。

以下では、図５に示す情報処理システム１０００を例に挙げて、本実施形態に係る情報処理システムを構成する装置について、説明する。

［Ｉ］検証装置１００
［Ｉ−１］検証装置１００の構成
検証装置１００は、上述した本実施形態に係る情報処理方法に係る処理を行う装置であり、検証対象の制御データを検証する。

図６は、本実施形態に係る検証装置１００の構成の一例を示すブロック図である。検証装置１００は、例えば、通信部１０２と、制御部１０４とを備える。

また、検証装置１００は、例えば、ＲＯＭ（Read Only Memory。図示せず）や、ＲＡＭ（Random Access Memory。図示せず）、記憶部（図示せず）、検証装置１００の使用者が操作可能な操作部（図示せず）、様々な画面を表示画面に表示する表示部（図示せず）などを備えていてもよい。検証装置１００は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。

ＲＯＭ（図示せず）は、制御部１０４が使用するプログラムや演算パラメータなどの制御用データを記憶する。ＲＡＭ（図示せず）は、制御部１０４により実行されるプログラムなどを一時的に記憶する。

記憶部（図示せず）は、検証装置１００が備える記憶手段であり、例えば、送信先を示すデータなどの本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなどの、様々なデータを記憶する。ここで、記憶部（図示せず）としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記憶部（図示せず）は、検証装置１００から着脱可能であってもよい。なお、検証装置１００は、記憶部（図示せず）を備えず、本実施形態に係る情報処理方法に係るデータなどの各種データは、検証装置１００の外部の記録媒体に記憶されていてもよい。

操作部（図示せず）としては、後述する操作入力デバイスが挙げられる。また、表示部（図示せず）としては、後述する表示デバイスが挙げられる。なお、検証装置１００は、操作部（図示せず）と表示部（図示せず）との一方または双方を備えていなくてもよい。

［検証装置１００のハードウェア構成例］
図７は、本実施形態に係る検証装置１００のハードウェア構成の一例を示す説明図である。検証装置１００は、例えば、ＭＰＵ１５０と、ＲＯＭ１５２と、ＲＡＭ１５４と、記録媒体１５６と、入出力インタフェース１５８と、操作入力デバイス１６０と、表示デバイス１６２と、通信インタフェース１６４とを備える。また、検証装置１００は、例えば、データの伝送路としてのバス１６６で各構成要素間を接続する。また、検証装置１００は、例えば、検証装置１００が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。

ＭＰＵ１５０は、例えば、ＭＰＵ（Micro Processing Unit）などの演算回路で構成される、１または２以上のプロセッサや、各種処理回路などで構成され、検証装置１００全体を制御する制御部１０４として機能する。また、ＭＰＵ１５０は、検証装置１００において、例えば、後述する取得部１１０および検証部１１２の役目を果たす。なお、取得部１１０および検証部１１２の一方または双方は、専用の（または汎用の）回路（例えば、ＭＰＵ１５０とは別体のプロセッサなど）で構成されていてもよい。

ＲＯＭ１５２は、ＭＰＵ１５０が使用するプログラムや演算パラメータなどの制御用データなどを記憶する。ＲＡＭ１５４は、例えば、ＭＰＵ１５０により実行されるプログラムなどを一時的に記憶する。

記録媒体１５６は、記憶部（図示せず）として機能し、例えば本実施形態に係る情報処理方法に係るデータや各種アプリケーションなどの、様々なデータを記憶する。ここで、記録媒体１５６としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリが挙げられる。また、記録媒体１５６は、検証装置１００から着脱可能であってもよい。

入出力インタフェース１５８は、例えば、操作入力デバイス１６０や、表示デバイス１６２を接続する。操作入力デバイス１６０は、操作部（図示せず）として機能し、また、表示デバイス１６２は、表示部（図示せず）として機能する。ここで、入出力インタフェース１５８としては、例えば、ＵＳＢ（Universal Serial Bus）端子や、ＤＶＩ（Digital Visual Interface）端子、ＨＤＭＩ（High-Definition Multimedia Interface）（登録商標）端子、各種処理回路などが挙げられる。

また、操作入力デバイス１６０は、例えば、検証装置１００上に備えられ、検証装置１００の内部で入出力インタフェース１５８と接続される。操作入力デバイス１６０としては、例えば、ボタンや、方向キー、ジョグダイヤルなどの回転型セレクタ、あるいは、これらの組み合わせなどが挙げられる。

また、表示デバイス１６２は、例えば、検証装置１００上に備えられ、検証装置１００の内部で入出力インタフェース１５８と接続される。表示デバイス１６２としては、例えば、液晶ディスプレイや有機ＥＬディスプレイなどが挙げられる。

なお、入出力インタフェース１５８が、検証装置１００の外部の操作入力デバイス（例えば、キーボードやマウスなど）や外部の表示デバイスなどの、外部デバイスと接続することも可能であることは、言うまでもない。また、表示デバイス１６２は、例えばタッチパネルなど、表示とユーザ操作とが可能なデバイスであってもよい。

通信インタフェース１６４は、検証装置１００が備える通信手段であり、例えば、処理装置２００や情報処理システム１０００を構成する装置以外の装置などの外部装置と、無線または有線で通信を行うための通信部１０２として機能する。ここで、通信インタフェース１６４としては、例えば、通信アンテナおよびＲＦ（Radio Frequency）回路（無線通信）や、ＩＥＥＥ８０２．１５．１ポートおよび送受信回路（無線通信）、ＩＥＥＥ８０２．１１ポートおよび送受信回路（無線通信）、あるいはＬＡＮ端子および送受信回路（有線通信）などが挙げられる。また、通信インタフェース１６４は、ネットワーク３００を構成する装置と通信することが可能な任意の構成であってもよい。

検証装置１００は、例えば図７に示す構成によって、上述した本実施形態に係る情報処理方法に係る処理を行う。なお、本実施形態に係る検証装置１００のハードウェア構成は、図７に示す構成に限られない。

例えば、検証装置１００は、接続されている外部の通信デバイスを介して外部装置などと通信を行う場合には、通信インタフェース１６４を備えていなくてもよい。また、通信インタフェース１６４は、複数の通信方式によって、１または２以上の外部装置などと通信を行うことが可能な構成であってもよい。

また、検証装置１００は、例えば、記録媒体１５６、操作入力デバイス１６０、および表示デバイス１６２のうちの一部または全部を備えない構成をとることが可能である。

また、検証装置１００は、例えば、スピーカなどの音声出力デバイスをさらに備えていてもよい。

また、検証装置１００は、例えば、後述する検証装置１００の適用例に応じた構成をとることが可能である。

また、例えば、図７に示す構成（または変形例に係る構成）の一部または全部は、１、または２以上のＩＣ（Integrated Circuit）で実現されてもよい。

再度図６を参照して、検証装置１００の構成の一例について説明する。通信部１０２は、検証装置１００が備える通信手段であり、外部装置と無線または有線で通信を行う。また、通信部１０２は、情報処理システム１０００を構成する装置以外の装置と、無線または有線で通信を行うことも可能である。通信部１０２における通信は、例えば制御部１０４により制御される。

ここで、通信部１０２としては、例えば、通信アンテナおよびＲＦ回路や、ＬＡＮ端子および送受信回路などが挙げられるが、通信部１０２の構成は、上記に限られない。例えば、通信部１０２は、ＵＳＢ端子および送受信回路などの通信を行うことが可能な任意の規格に対応する構成や、ネットワーク３００を構成する装置と通信することが可能な任意の構成をとることができる。また、通信部１０２は、複数の通信方式によって、１または２以上の外部装置などと通信を行うことが可能な構成であってもよい。

制御部１０４は、例えばＭＰＵなどで構成され、検証装置１００全体を制御する役目を果たす。また、制御部１０４は、例えば取得部１１０と検証部１１２とを有し、本実施形態に係る情報処理方法に係る処理を主導的に行う役目を果たす。

取得部１１０は、検証対象の制御データと、学習用データとをそれぞれ取得する。取得部１１０は、例えば図１のステップＳ１００の処理を行うことによって、検証対象の制御データを取得する。また、取得部１１０は、例えば図１のステップＳ１０２の処理を行うことによって、学習用データを取得する。

検証部１１２は、取得された学習用データを用いて学習を行った結果得られる制御データと、取得された検証対象の制御データとに基づいて、検証対象の制御データを検証する。

検証部１１２は、例えば図１のステップＳ１０４およびステップＳ１０６の処理を行うことによって、検証対象の制御データを検証する。

なお、上述したように、取得された学習用データを用いた新たな学習に係る処理は、検証装置１００（例えば、検証部１１２として機能するＭＰＵ１５０）が行ってもよいし、検証装置１００の外部装置が行ってもよい。外部装置により学習用データを用いた新たな学習に係る処理が行われる場合、検証部１１２は、例えば通信部１０２による通信により当該外部装置から学習の結果得られた制御データを取得する。そして、検証部１１２は、外部装置から取得された学習の結果得られた制御データを用いて、図１のステップＳ１０６の処理を行うことによって、検証対象の制御データを検証する。

より具体的には、検証部１１２は、例えば、学習を行った結果得られる制御データと検証対象の制御データとのバイナリを比較することによって、学習を行った結果得られる制御データと検証対象の制御データとが一致するかを判定する。そして、検証部１１２は、例えば、学習を行った結果得られる制御データと検証対象の制御データとが一致するか否かの判定結果により、検証対象の制御データが取得された学習用データを用いて学習されたデータであるかを検証する。

また、検証部１１２は、設定されている送信先へ検証結果を示すデータを送信し、および／または、検証結果を示すデータをＰ２Ｐデータベースへ登録してもよい。検証部１１２は、例えば図１のステップＳ１０８およびステップＳ１０６の処理を行うことによって、設定されている送信先へ検証結果を示すデータを送信する。また、検証部１１２は、例えば図１のステップＳ１０８およびステップＳ１０６の処理を行うことによって、検証結果を示すデータをＰ２Ｐデータベースへ登録する。

制御部１０４は、例えば取得部１１０および検証部１１２を有することによって、本実施形態に係る情報処理方法に係る処理を行う。

なお、制御部１０４の構成は、図６に示す例に限られない。

例えば、制御部１０４は、検証結果を通知する通知処理部をさらに有していてもよい。通知処理部は、例えば表示デバイス１６２の表示画面、または、外部の表示デバイスの表示画面）に検証結果を表示させることにより、検証結果を視覚的に通知する。また、通知処理部は、検証装置１００が備える音声出力デバイス（図示せず。）、または、外部の音声出力デバイスに検証結果を示す音声を出力させることにより、検証結果を聴覚的に通知する。

また、制御部１０４は、例えば、本実施形態に係る情報処理方法に係る処理の切り分け方に応じた構成を有することが可能である。

検証装置１００は、例えば図６に示す構成によって、上述した本実施形態に係る情報処理方法に係る処理を行い、検証対象の制御データを検証する。

ここで、検証装置１００は、検証対象の制御データが、新たな学習に用いられた学習用データを用いて学習された制御データであるかを検証することによって、検証対象の制御データの正当性を検証する。つまり、仮に“ある特定の状況になると通常と異なる挙動を人工知能に行わせる制御データ”が生成されたとしても、検証装置１００は、当該制御データを検証することにより、当該制御データが学習用データを用いて学習された制御データ（正当な制御データ）ではないことを、検出することができる。

よって、検証装置１００は、装置において人工知能を機能させるためのデータを検証することができる。また、検証装置１００によって、ネットワークを通じて取得可能な装置において人工知能を機能させるためのデータを検証する仕組みを、実現することが可能となる。

また、例えば図６に示す構成によって、検証装置１００は、上述したような本実施形態に係る情報処理方法に係る処理が行われることにより奏される効果を、奏することができる。一例を挙げると、検証装置１００における制御データの検証が行われることにより、例えば“悪意を持った者により、ある特定の状況になると通常と異なる挙動を人工知能に行わせるデータが作成され、当該データがネットワークを通じて取得可能な状態にされる事態”が生じる可能性を、より低減することが可能となる。

なお、本実施形態に係る検証装置の構成は、図６に示す構成に限られない。

例えば、本実施形態に係る検証装置は、図６に示す取得部１１０および検証部１１２の一方または双方を、制御部１０４とは個別に備えること（例えば、取得部１１０および検証部１１２の一方または双方を別の処理回路で実現すること）ができる。

また、例えば、通信部１０２と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本実施形態に係る検証装置は、通信部１０２を備えていなくてもよい。

［Ｉ−２］本実施形態に係る検証装置の適用例
以上、本実施形態として検証装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態に係る検証装置は、例えば、“ＰＣ（Personal Computer）やサーバなどのコンピュータ”や、“タブレット型の装置”、“ゲーム機”
など、上述した本実施形態に係る情報処理方法に係る処理を行うことが可能な、任意の機器に適用することができる。また、本実施形態に係る検証装置は、後述する処理装置２００として機能する機器に適用することができる。さらに、本実施形態に係る検証装置は、例えば、上記のような機器に組み込むことが可能なＩＣに適用することもできる。

また、本実施形態に係る検証装置は、例えばクラウドコンピューティングなどのように、ネットワークへの接続（または各装置間の通信）を前提とした処理システムに適用されてもよい。上記処理システムの一例としては、例えば“処理システムを構成する一の装置によって、情報処理方法に係る処理の一部の処理が行われ、処理システムを構成する他の装置によって、情報処理方法に係る処理における当該一部の処理以外の処理が行われるシステム”などが、挙げられる。

［ＩＩ］処理装置２００
処理装置２００は、人工知能により処理を行うことが可能な装置である。処理装置２００では、例えば、ネットワーク３００を介して取得された制御データにより人工知能が機能する。つまり、処理装置２００における人工知能の能力は、取得された制御データによって変わりうる。

また、処理装置２００は、例えば、ネットワーク３００を介して検証結果を示すデータを取得することによって、制御データの正当性を確認した上で、制御データにより人工知能を機能させてもよい。

処理装置２００は、例えば図７に示す検証装置１００と同様のハードウェア構成（変形例も含む）をとる。処理装置２００における処理は、例えば図７に示すＭＰＵ１５０のようなプロセッサにより行われる。処理装置２００は、例えば、処理装置２００が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。なお、本実施形態に係る処理装置２００のハードウェア構成は、図７に示す検証装置１００と同様のハードウェア構成に限られない。例えば、処理装置２００は、後述する処理装置２００の適用例に応じた構成をとることが可能である。

本実施形態に係る情報処理システムの構成要素として、処理装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態に係る処理装置は、例えば、“ＰＣやサーバなどのコンピュータ”、“タブレット型の装置”、“ゲーム機”、“自動車などの任意の移動体”や、“マニュピュレータや、自立移動型のロボットなどの、任意のロボット”、“ドローン（遠隔操作による動作、または、自律的な動作が可能な機器）”など、人工知能により処理を行うことが可能な、任意の機器に適用することができる。また、本実施形態に係る処理装置は、例えば、上記のような機器に組み込むことが可能なＩＣに適用することもできる。

（本実施形態に係るプログラム）
コンピュータシステムを、本実施形態に係る検証装置として機能させるためのプログラム（例えば、取得部１１０および検証部１１２の機能を実現することが可能なプログラム）が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、装置において人工知能を機能させるためのデータを検証することができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、一連の処理が行われる。

また、コンピュータシステムを、本実施形態に係る検証装置として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る情報処理方法に係る処理によって奏される効果を、奏することができる。

以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。

例えば、図５に示す情報処理システム１０００では、Ｐ２Ｐデータベースに登録されている制御データによって、ネットワークを通じた能力の共有が図られる例を示したが、ネットワークを通じた能力の共有を図ることが可能な本実施形態に係る情報処理システムは、上記に示す例に限られない。例えば、本実施形態に係る情報処理システムは、サーバ−クライアント型のシステムのような中央集権型のシステムであってもよい。本実施形態に係る情報処理システムが中央集権型のシステムである場合の一例を挙げると、少なくとも制御データを含む各種情報を、サーバとして機能する装置が管理し、クライアントとして機能する装置が、サーバとして機能する装置から各種情報を取得するシステムが、挙げられる。上記のような中央集権型のシステムである場合であっても、クライアントとして機能する装置が、取得された制御データにより人工知能を機能させることによって、ネットワークを通じた能力の共有が実現されうる。

また、上記では、コンピュータシステムを、本実施形態に係る検証装置として機能させるためのプログラム（コンピュータプログラム）が提供されることを示したが、本実施形態は、上記プログラムを記憶させた記録媒体を併せて提供することができる。

上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。

また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。

なお、以下のような構成も本開示の技術的範囲に属する。
（１）
装置において人工知能を機能させる制御データと、前記制御データの学習用データとをそれぞれ取得する取得部と、
取得された前記学習用データを用いて学習を行った結果得られる前記制御データと、取得された前記制御データとに基づいて、取得された前記制御データを検証する検証部と、
を備える、検証装置。
（２）
前記検証部は、学習を行った結果得られる前記制御データと取得された前記制御データとが一致するかを判定することによって、取得された前記制御データが取得された前記学習用データを用いて学習されたデータであることを検証する、（１）に記載の検証装置。
（３）
前記検証部は、学習を行った結果得られる前記制御データと取得された前記制御データとのバイナリを比較することによって、学習を行った結果得られる前記制御データと取得された前記制御データとが一致するかを判定する、（２）に記載の検証装置。
（４）
前記検証部は、検証結果を示すデータを設定されている送信先へ送信させる、（１）〜（３）のいずれか１つに記載の検証装置。
（５）
前記検証部は、検証結果を示すデータを、Ｐ２Ｐデータベースに登録する、（１）〜（４）のいずれか１つに記載の検証装置。
（６）
前記学習用データは、ネットワーク構造を示す情報、学習のためのパラメータであるハイパーパラメータ、および学習のためのトレーニングデータセットを含む、（１）〜（５）のいずれか１つに記載の検証装置。
（７）
装置において人工知能を機能させる制御データと、前記制御データの学習用データとをそれぞれ取得するステップと、
取得された前記学習用データを用いて学習を行った結果得られる前記制御データと、取得された前記制御データとに基づいて、取得された前記制御データを検証するステップと、
を有する、検証装置により実行される情報処理方法。
（８）
装置において人工知能を機能させる制御データと、前記制御データの学習用データとをそれぞれ取得する機能、
取得された前記学習用データを用いて学習を行った結果得られる前記制御データと、取得された前記制御データとに基づいて、取得された前記制御データを検証する機能、
を、コンピュータに実現させるためのプログラム。

１００ 検証装置
１０２ 通信部
１０４ 制御部
１１０ 取得部
１１２ 検証部
２００ 処理装置
３００ ネットワーク
１０００ 情報処理システム

Claims (8)

1. 装置において人工知能を機能させる制御データと、前記制御データの学習用データとをそれぞれ取得する取得部と、
   取得された前記学習用データを用いて学習を行った結果得られる前記制御データと、取得された前記制御データとに基づいて、取得された前記制御データを検証する検証部と、
   を備える、検証装置。
2. 前記検証部は、学習を行った結果得られる前記制御データと取得された前記制御データとが一致するかを判定することによって、取得された前記制御データが取得された前記学習用データを用いて学習されたデータであることを検証する、請求項１に記載の検証装置。
3. 前記検証部は、学習を行った結果得られる前記制御データと取得された前記制御データとのバイナリを比較することによって、学習を行った結果得られる前記制御データと取得された前記制御データとが一致するかを判定する、請求項２に記載の検証装置。
4. 前記検証部は、検証結果を示すデータを設定されている送信先へ送信させる、請求項１に記載の検証装置。
5. 前記検証部は、検証結果を示すデータを、Ｐ２Ｐ（Peer to Peer）データベースに登録する、請求項１に記載の検証装置。
6. 前記学習用データは、ネットワーク構造を示す情報、学習のためのパラメータであるハイパーパラメータ、および学習のためのトレーニングデータセットを含む、請求項１に記載の検証装置。
7. 装置において人工知能を機能させる制御データと、前記制御データの学習用データとをそれぞれ取得するステップと、
   取得された前記学習用データを用いて学習を行った結果得られる前記制御データと、取得された前記制御データとに基づいて、取得された前記制御データを検証するステップと、
   を有する、検証装置により実行される情報処理方法。
8. 装置において人工知能を機能させる制御データと、前記制御データの学習用データとをそれぞれ取得する機能、
   取得された前記学習用データを用いて学習を行った結果得られる前記制御データと、取得された前記制御データとに基づいて、取得された前記制御データを検証する機能、
   を、コンピュータに実現させるためのプログラム。

Images