JP6926429B2 - データ処理装置、データ処理方法、およびプログラム - Google Patents

Description

本発明は、機械学習を行なうシステムに学習用データを提供するための、データ処理装置、およびデータ処理方法に関し、更には、これらを実現するためのプログラムに関する。

近年、機械学習を利用して、保有するデータを企業運営に活用するという取り組みが盛んに行われている。機械学習とは、コンピュータによって、蓄積されたデータに基づいて、規則性を見出し、判断又は予測を行う技術である。機械学習は、例えば、商品の需要予測、販売価格の予測、物流管理等に利用されつつある。

例えば、特許文献１は、機械学習によって過去の観測値を学習することによって、観測値を精度良く予測する方法を開示している。また、非特許文献１は、数千万以上の大規模データを分析し、混在する規則性を発見する分散版異種混合学習技術を開示している。

また、これらの機械学習を実行するためには、通常、大量のデータ分析が行なう必要があり、高性能なコンピューティングシステムが必要となることから、非特許文献１においては、分散コンピューティング環境が活用されている。また、非特許文献２及び３は、高性能なコンピューティングシステムの利用を容易にするため、クラウドコンピューティング環境によって機械学習プラットフォームを提供するクラウドサービスを提案している。

ところで、クラウドシステムによる機械学習サービスを利用する場合は、利用者はデータを、インターネットを介して、サービスを提供するクラウドシステム側に送信する必要がある。このため、クラウドサービスを提供する事業者側では、システムの脆弱性のチェック、データベース及び通信路における暗号化といった、セキュリティ対策が採用されている。

また、利用者側からのセキュリティ対策を図るために、特許文献２は、ユーザからクラウドシステムに送信されるデータに暗号化処理を行なうシステムを提案している。特許文献２に開示されたシステムによれば、暗号化されたデータのみが、ユーザからクラウドシステムに送信されることになる。

特開２０１５−８２２５９号公報 特表２０１６−５１２６１２号公報

NEC，"NEC、超大規模データから高速に規則性を発見できる人工知能(AI)技術を開発"，［online］，平成28年5月16日，NEC ホームページ プレスリリース，［平成28年8月16日検索］，インターネット＜URL：http://jpn.nec.com/press/201605/20160526_01.html＞ Google Cloud Platform，"Google Cloud Machine Learning"， ［online］，［平成28年8月16日検索］，インターネット＜URL：https://cloud.google.com/ml/＞ Microsoft，"Microsoft Azure"， ［online］，［平成28年8月16日検索］，インターネット＜URL：https://azure.microsoft.com/ja-jp/services/machine-learning/＞

しかしながら、上記特許文献２に開示されたシステムを採用した場合は、事業者側のシステムは、データを受信する度に復号処理を行なう必要があり、システムにかかる負荷が増加してしまう。そして、送信されてくるデータの量が、増加すると、それに応じて、システムの負担が大きくなり、業務処理の性能に悪影響が与えられてしまう。また、クラウドサービスの提供形態によっては、復号処理をクラウドサービス上の分析アプリケーションに実装できない可能性もある。

本発明の目的の一例は、上記問題を解消し、機械学習に用いるデータが暗号化されていても、機械学習を行なうシステムが、復号処理を行なうことなく、機械学習を行なえるようにし得る、データ処理装置、データ処理方法、およびプログラムを提供することにある。

上記目的を達成するため、本発明の一側面におけるデータ処理装置は、機械学習を行なって予測モデルを生成するシステムに学習用データを提供するための装置であって、
外部から入力された前記学習用データを取得する、データ取得部と、
暗号化されていない前記学習用データから生成された予測モデルと、暗号化された前記学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、前記学習用データを暗号化する、暗号化部と、
暗号化された前記学習用データを前記システムへと出力する、データ出力部と、
を備えている、
ことを特徴とする。

また、上記目的を達成するため、本発明の一側面におけるデータ処理方法は、機械学習を行なって予測モデルを生成するシステムに学習用データを提供するための方法であって、
（ａ）外部から入力された前記学習用データを取得する、ステップと、
（ｂ）暗号化されていない前記学習用データから生成された予測モデルと、暗号化された前記学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、前記学習用データを暗号化する、ステップと、
（ｃ）暗号化された前記学習用データを前記システムへと出力する、ステップと、
を有する、ことを特徴とする。

更に、上記目的を達成するため、本発明の一側面におけるプログラムは、機械学習を行なって予測モデルを生成するシステムに、コンピュータによって、学習用データを提供するためのプログラムであって、
前記コンピュータに、
（ａ）外部から入力された前記学習用データを取得する、ステップと、
（ｂ）暗号化されていない前記学習用データから生成された予測モデルと、暗号化された前記学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、前記学習用データを暗号化する、ステップと、
（ｃ）暗号化された前記学習用データを前記システムへと出力する、ステップと、
を実行させることを特徴とする。

以上のように、本発明によれば、機械学習に用いるデータが暗号化されていても、機械学習を行なうシステムが、復号処理を行なうことなく、機械学習を行なえるようにすることができる。

図１は、本発明の実施の形態におけるデータ処理装置の概略構成を示すブロック図である。 図２は、本発明の実施の形態におけるデータ処理装置の具体的構成を示すブロック図である。 図３は、本発明の実施の形態におけるデータ処理装置による学習用データの暗号化処理を示すフロー図である。 図４は、本発明の実施の形態で用いられる学習用データの一例を示す図である。 図５は、本発明の実施の形態において属性名が暗号化された学習用データの一例を示す図である。 図６は、本発明の実施の形態において特定の属性が標準化された学習用データの一例を示す図である。 図７は、本発明の実施の形態において特定の属性が二値化された学習用データの一例を示す図である。 図８は、本発明の実施の形態においての分析アプリケーションによる予測モデルの生成処理を示すフロー図である。 図９は、本発明の実施の形態において分析アプリケーションによって標準化された学習用データの一例を示す図である。 図１０は、本発明の実施の形態において分析アプリケーションによって二値化された学習用データの一例を示す図である。 図１１は、本発明の実施の形態において生成される予測モデルの一例を示す図である。 図１２は、本発明の実施の形態におけるデータ処理装置による予測用データの暗号化処理を示すフロー図である。 図１３は、本発明の実施の形態で用いられる予測用データの一例を示す図である。 図１４は、本発明の実施の形態において属性名が暗号化された予測用データの一例を示す図である。 図１５は、本発明の実施の形態において特定の属性が標準化された予測用データの一例を示す図である。 図１６は、本発明の実施の形態において特定の属性が二値化された予測用データの一例を示す図である。 図１７は、本発明の実施の形態においての予測アプリケーションによる予測処理を示すフロー図である。 図１８は、本発明の実施の形態において予測アプリケーションによって標準化された予測用データの一例を示す図である。 図１９は、本発明の実施の形態において予測アプリケーションによって二値化された学習用データの一例を示す図である。 図２０は、本発明の実施の形態において予測アプリケーションによって予測された結果の一例を示す図である。 図２１は、本発明の実施の形態におけるデータ処理装置による予測モデルの可視化処理を示すフロー図である。 図２２は、本発明の実施の形態において二値化対象属性が復号された予想モデルの一例を示す図である。 図２３は、本発明の実施の形態において標準化対象属性が復号された予測モデルの一例を示す図である。 図２４は、本発明の実施の形態において属性名が復号された予測モデルの一例を示す図である。 図２５は、本発明の実施の形態におけるデータ処理装置を実現するコンピュータの一例を示すブロック図である。

（発明の概要）
本発明は、クラウドコンピューティング環境によって機械学習プラットフォームを提供するクラウドサービスで有用であり、例えば、クラウドサービス上の分析アプリケーションで行われる学習処理が、前処理と分析処理との２工程を有する場合に有用である。この場合において、本発明では、非暗号化データを用いた前処理の結果と、暗号化データを用いた前処理の結果とが、同一とになるように、データに対して暗号化が行なわれる。

そして、本発明では、クラウドサービス上の分析アプリケーションは、暗号化された入力データに対して前処理及び分析処理を行って、予測モデルを生成するが、この予測モデルは、非暗号化データを用いて生成された予測モデルと同一のものである。このため、本発明によれば、最低限の暗号化処理コストで、非暗号化時と同一の学習処理結果を得ることができる。また、本発明によれば、利用者は、クラウドサービスを提供する事業者に全く依存することなく、セキュリティを確保できる。

（実施の形態）
以下、本発明の実施の形態における、データ処理装置、データ処理方法、及びプログラムについて、図１〜図２５を参照しながら説明する。

［装置構成］
最初に、本実施の形態におけるデータ処理装置の構成について図１を参照しながら説明する。図１は、本発明の実施の形態におけるデータ処理装置の概略構成を示すブロック図である。

図１に示す本実施の形態におけるデータ処理装置１００は、機械学習を行なって予測モデルを生成するクラウドシステム２００に学習用データを提供するための装置である。図1に示すように、本実施の形態では、データ処理装置１００には、ユーザが使用する端末装置３００が接続されている。また、データ処理装置１００は、インターネット４００を介して、クラウドシステム２００に接続されている。

また、図１に示すように、データ処理装置１００は、データ取得部１０と、暗号化部２０と、データ出力部３０とを備えている。このうち、データ取得部１０は、外部の端末装置３００から入力された学習用データを取得する。

暗号化部２０は、暗号化されていない学習用データから生成された予測モデルと、暗号化された学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、学習用データを暗号化する。データ出力部３０は、暗号化された学習用データをクラウドシステム２００へと出力する。

このように、本実施の形態では、クラウドシステム２００は、学習用データが暗号化されている場合でも、暗号化されていない場合と同様の予測モデルを生成する。このため、本実施の形態によれば、機械学習に用いるデータが暗号化されていても、機械学習を行なうクラウドシステム２００は、復号処理を行なうことなく、機械学習を行なうことができる。従って、学習用データの量が増大した場合であっても、クラウドシステムにおける負担の増大が抑制される。

続いて、図２を用いて、本実施の形態におけるデータ処理装置の構成をより具体的に説明する。図２は、本発明の実施の形態におけるデータ処理装置の具体的構成を示すブロック図である。

図２に示すように、本実施の形態では、クラウドシステム２００は、分析アプリケーション２１０と、予測アプリケーション２２０とを備えている。分析アプリケーション２１０及び予測アプリケーション２２０は、共に、クラウドシステム２００上に配備されたＷｅｂアプリケーションである。

分析アプリケーション２１０は、インターネット４００を経由して、データ処理装置１００から、暗号化された学習用データを受け取り、受け取った学習用データに基づいて、予測モデルを生成する。また、分析アプリケーション２１０は、インターネット４００を経由して、生成した予測モデルを分析結果記憶装置２３０に渡す。予測モデルは、後述するように、ユーザが目視によって確認できるようにするため、復号される。

具体的には、分析アプリケーション２１０は、標準化コンポーネント２１１と、二値化コンポーネント２１２と、分析エンジン２１３とを備えている。このうち、標準化コンポーネント２１１は、学習用データの特定の属性に所属するデータ値を特定のルールに沿って標準化する。二値化コンポーネント２１２は、学習用データの標準化されていない属性に所属データ値を二値化する。分析エンジン２１３は、標準化及び二値化が行なわれた学習用データを用いて、予測モデルを生成する。

また、予測アプリケーション２２０は、インターネット４００を経由して、データ処理装置１００から、暗号化された予測用データを受け取ると、分析結果記憶装置２３０から予測モデルを取得し、取得した予測モデルを用いて、予測処理を実行する。また、予測アプリケーション２２０は、インターネット４００を経由して、予測結果を予測結果記憶装置２４０に渡す。

具体的には、予測アプリケーション２２０は、標準化コンポーネント２２１と、二値化コンポーネント２２２と、分析エンジン２２３とを備えている。このうち、標準化コンポーネント２２１は、予測用データの特定の属性に所属するデータ値を特定のルールに沿って標準化する。二値化コンポーネント２２２は、予測用データの標準化されていない属性に所属するデータ値を二値化する。分析エンジン２２３は、標準化及び二値化が行なわれた予測用データを予測モデルに当てはめて、データを予測する。

分析結果記憶装置２３０は、インターネット４００上に配置された一般的なデータベースである。分析結果記憶装置２３０は、インターネット４００を経由して、クラウドシステム２００の分析アプリケーション２１０から、分析プロセス定義と共に予測モデルを受け取り、これらを格納する。

また、分析結果記憶装置２３０は、予測アプリケーション２２０からの求めに応じて、分析プロセス定義及び予測モデルを出力する。更に、分析結果記憶装置２３０は、ローカルネットワークを経由して、データ処理装置１００に接続されており、データ処理装置１００の復号部４０に予測モデルを渡す。

予測結果記憶装置２４０も、分析結果記憶装置２３０と同様に、インターネット４００上に配置された一般的なデータベースである。予測結果記憶装置２４０は、インターネット４００を経由して、クラウドシステム２００の予測アプリケーション２２０から予測結果を受け取り、これを格納する。

また、本実施の形態では、ユーザの使用する端末装置３００は、学習用データ入力部３１０と、予測用データ入力部３２０と、分析プロセス定義入力部３３０と、予測モデル可視化部３４０とを備えている。

このうち、学習用データ入力部３１０は、学習用データのファイルをデータ処理装置１００に入力する。予測用データ入力部３２０は、予測用データのファイルをデータ処理装置１００に入力する。分析プロセス定義入力部３３０は、分析プロセス定義のファイルをデータ処理装置１００に入力する。予測モデル可視化部３４０は、予測モデルを可視化するための画像データを生成し、これを端末装置３００の表示装置に入力する。

また、分析プロセス定義は、後述する標準化処理と二値化処理との具体的内容を規定している。更に、実際には、端末装置３００は、学習用データファイル、予測用データファイル、及び分析プロセス定義ファイルを保持したコンピュータに、各機能部を実現するプログラムをインストールすることによって構築されている。また、端末装置３００は、ローカルネットワークを経由して、各ファイルをデータ処理装置１００に渡す。

また、図２に示すように、本実施の形態では、暗号化部２０は、属性名暗号化部２１と、標準化属性暗号化部２２と、二値化属性暗号化部２３とを備えている。

属性名暗号化部２１は、学習用データの属性名を暗号化する。標準化属性暗号化部２２は、学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する。二値化属性暗号化部２３は、学習用データの特定の属性以外の属性（標準化されていない属性）に所属するデータ値を、閾値を用いた二値化処理によって暗号化する。

つまり、本実施の形態では、属性名の暗号化、標準化、及び二値化により、非暗号化学習用データから生成された予測モデルと、暗号化学習用データから生成された予測モデルとは、パラメータ、数値、及び演算子において、対応関係を有するように、暗号化が行なわれる。

その後、データ出力部３０は、属性名暗号化部２１、標準化属性暗号化部２２、及び二値化属性暗号化部２３によって暗号化された学習用データをクラウドシステム２００に送信する。これにより、クラウドシステム２００において、分析アプリケーション２１０は、上述したように、予測モデルを生成する。

また、本実施の形態では、データ取得部１０は、端末装置３００から、学習用データに加えて、予測モデルを用いた予測の対象となる予測用データと分析プロセス定義とを取得することもできる。データ取得部１０が、予測用データを取得した場合は、暗号化部２０は、学習用データと同様に、予測用データに対しても、暗号化を行なう。

更に、この場合、データ出力部３０は、暗号化された予測用データを、クラウドシステム２００に送信する。これにより、クラウドシステム２００において、予測アプリケーション２２０は、上述したように、予測用データに対して予測処理を実行する。

また、図２に示すように、本実施の形態では、データ処理装置１００は、データ取得部１０、暗号化部２０、及びデータ出力部３０に加えて、予測モデルを復号する復号部４０を備えている。復号部４０は、属性名復号部４１と、標準化属性復号部４２と、二重化属性復号部４３とを備えている。

属性名復号部４１は、予測モデルから、暗号化された属性名に関する部分を特定し、特定した部分を復号する。標準化属性復号部４２は、予測モデルから、標準化処理された値に関係する部分を特定し、特定した部分を復号する。二値化属性復号部は、予測モデルから、二値化処理された値に関係する部分を特定し、特定した部分を復号する。

なお、上述したように、予測モデルは、分析アプリケーション２１０によって、暗号化された学習用データから生成されており、分析結果記憶装置２３０に格納されている。よって、復号部４０は、ローカルネットワークを経由して、分析結果記憶装置２３０から、予測モデルを取得する。

また、本実施の形態では、データ処理装置１００は、後述するように、コンピュータにプログラムをインストールすることによって構築されている。更に、データ処理装置１００は、単一のコンピュータではなく、複数のコンピュータによって構築されていても良い。例えば、暗号化部２０と復号部４０とは、別々のコンピュータによって構築されていても良い。

［装置動作］
次に、本実施の形態におけるデータ処理装置１００の動作について図３〜図２４を用いて説明する。以下の説明においては、適宜図１を参酌する。また、本実施の形態では、データ処理装置１００を動作させることによって、データ処理方法が実施される。よって、本実施の形態におけるデータ処理方法の説明は、以下のデータ処理装置１００の動作説明に代える。

学習用データの暗号化処理：
最初に、図３〜図７を用いて、学習用データの暗号化処理について説明する。図３は、本発明の実施の形態におけるデータ処理装置による学習用データの暗号化処理を示すフロー図である。

まず、前提として、ユーザが、端末装置３０において、分析プロセス定義を入力すると、分析プロセス定義入力部３３０は、入力された分析プロセス定義を、データ処理装置１００に入力する。また、このとき、分析プロセス定義入力部３３０は、インターネット４００を経由して、クラウドシステム２００にも分析プロセス定義を送信する。

図３に示すように、最初に、データ処理装置１００において、データ取得部１０は、送信されてきた分析プロセス定義を取得する（ステップＳ３０１）。また、データ取得部１０は、取得した分析プロセス定義を、暗号化部２０と復号部４０とに渡す。

次に、端末装置３００において、学習用データ入力部３１０から、データ処理装置１００に向けて、図４に示す学習用データが送信されると、データ取得部１０は、送信されてきた学習用データを取得する（ステップＳ３０２）。図４は、本発明の実施の形態で用いられる学習用データの一例を示す図である。また、ステップＳ３０２では、データ取得部１０は、取得した学習用データを、暗号化部２０における属性名暗号化部２１に渡す。

次に、属性名暗号化部２１は、入力された学習用データ（図４参照）に含まれる属性名を、一定のルールに従って暗号化する（ステップＳ３０３）。ここで利用される暗号化方式としては、シーザー暗号、ＡＥＳ（Advanced Encryption Standard）暗号等が挙げられ、これらのうちの任意の暗号化方式が１つ選択される。

また、ステップＳ３０３により、学習用データは、図５に示す状態となる。図５は、本発明の実施の形態において属性名が暗号化された学習用データの一例を示す図である。また、ステップＳ３０３では、属性名暗号化部２１は、属性名を暗号化した学習用データ（図５参照）を、標準化属性暗号化部２２に渡す。

次に、標準化属性暗号化部２２は、分析プロセス定義に基づいて、どの属性が標準化対象となっているかを特定し、特定した属性（図６の例では属性Ｘ）に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する（ステップＳ３０４）。

具体的には、図６に示すように、本実施の形態では、標準化属性暗号化部２２は、属性Ｘの全サンプルに対して、一定値（例えば、１０）を乗算し、得られた値に別の一定値（例えば、５０）を加算する。図６は、本発明の実施の形態において特定の属性が標準化された学習用データの一例を示す図である。

また、ステップＳ３０４では、標準化属性暗号化部２２は、標準化対象となっている属性を暗号化した学習用データ（図６参照）を、二値化属性暗号化部２３に渡す。更に、ステップＳ３０４による標準化後の属性Ｘのサンプルと標準化前の属性Ｘのサンプルとの間には、一定の対応関係がある。

次に、二値化属性暗号化部２３は、分析プロセス定義に基づいて、どの属性が二値化対象となっており、また閾値の値がいくつなのかを特定し、特定した属性に所属するデータ値を、特定した閾値を用いた二値化処理によって暗号化する（ステップＳ３０５）。

具体的には、図７に示すように、二値化属性暗号化部２３は、二値化対象となっている属性Ｙの全サンプルのうち、閾値（例えば、５０）以上の値に対して任意の値（例えば、５０）を加算し、閾値未満の値に対して任意の値（例えば、５０）を減算する。図７は、本発明の実施の形態において特定の属性が二値化された学習用データの一例を示す図である。

また、ステップＳ３０５では、二値化属性暗号化部２３は、二値化対象となっている属性を暗号化した学習用データ（図７参照）を、データ出力部３０に渡す。更に、ステップＳ３０５による二値化後の属性Ｙのサンプルと二値化前の属性Ｙのサンプルとの間には、一定の対応関係がある。

その後、データ出力部３０は、図７に示す暗号化した学習用データを、インターネット４００を経由して、クラウドシステム２００における分析アプリケーション２１０に送信する（ステップＳ３０６）。

予測モデルの生成処理：
続いて、図８〜図１１を用いて、分析アプリケーション２１０による予測モデルの生成処理について説明する。図８は、本発明の実施の形態においての分析アプリケーションによる予測モデルの生成処理を示すフロー図である。

まず、前提として、分析プロセス定義入力部３３０から、インターネット４００を経由して、クラウドシステム２００に、分析プロセス定義が送信される。これにより、分析アプリケーション２１０は、送信されてきた分析プロセス定義に従って、標準化コンポーネント２１１、二値化コンポーネント２１２、及び分析エンジン２１３を配置する。

図８に示すように、最初に、分析アプリケーション２１０においては、送信されてきた学習用データ（図７参照）が、標準化コンポーネント２１１に渡される。そして、標準化コンポーネント２１１は、学習用データにおける標準化対象の属性を標準化する（ステップＳ３１１）。

具体的には、標準化コンポーネント２１１は、図９に示すように、属性Ｘのデータ値を標準化する。図９は、本発明の実施の形態において分析アプリケーションによって標準化された学習用データの一例を示す図である。図９の例では、標準化処理として、属性Ｘのデータ値を−１〜＋１の範囲で正規化する処理が行なわれている。また、標準化コンポーネント２１１は、標準化対象の属性を標準化した学習用データ（図９参照）を、二値化コンポーネント２１２に渡す。

次に、二値化コンポーネント２１２は、学習用データにおける二値化対象の属性を二値化する（ステップＳ３１２）。

具体的には、図１０に示すように、二値化コンポーネント２１２は、属性Ｙのデータ値を二値化する。図１０は、本発明の実施の形態において分析アプリケーションによって二値化された学習用データの一例を示す図である。図１０の例では、二値化処理として、属性Ｙのデータ値が５０より小さい場合に、０（ｂｉｎ＿Ｙ＝０）とし、属性Ｙの値が５０以上の場合に、１（ｂｉｎ＿Ｙ＝１）とする処理が行なわれている。また、二値化コンポーネント２１２は、二値化対象の属性を二値化した学習用データ（図１０参照）を、分析エンジン２１３に渡す。

次に、分析エンジン２１３は、二値化コンポーネント２１２から受け取った学習用データを用いて、図１１に示す予測モデルを生成する（ステップＳ３１３）。図１１は、本発明の実施の形態において生成される予測モデルの一例を示す図である。

その後、分析エンジン２１３は、インターネット４００を経由して、生成した予測モデルを、使用した分析プロセス定義と共に、分析結果記憶装置２３０に送信する（ステップＳ３１４）。これにより、分析結果記憶装置２３０は、予測モデルと分析プロセス定義とを格納する。

予測用データの暗号化処理：
続いて、図１２〜図１６を用いて、予測用データの暗号処理について説明する。図１２は、本発明の実施の形態におけるデータ処理装置による予測用データの暗号化処理を示すフロー図である。

図１２に示すように、最初に、端末装置３００において、予測用データ入力部３２０から、データ処理装置１００に向けて、図１３に示す予測用データが送信されと、データ取得部１０は、送信されてきた予測用データを取得する（ステップＳ４０１）。図１３は、本発明の実施の形態で用いられる予測用データの一例を示す図である。また、ステップＳ４０１では、データ取得部１０は、取得した予測用データを、暗号化部２０における属性名暗号化部２１に渡す。

次に、属性名暗号化部２１は、入力された予測用データ（図１３参照）に含まれる属性名を、一定のルールに従って暗号化する（ステップＳ４０２）。ここで利用される暗号化方式としても、シーザー暗号、ＡＥＳ（Advanced Encryption Standard）暗号等が挙げられる。

また、ステップＳ４０２により、予測用データは、図１４に示す状態となる。図１４は、本発明の実施の形態において属性名が暗号化された予測用データの一例を示す図である。また、ステップＳ４０２では、属性名暗号化部２１は、属性名を暗号化した予測用データ（図１４参照）を、標準化属性暗号化部２２に渡す。

次に、標準化属性暗号化部２２は、分析プロセス定義に基づいて、どの属性が標準化対象となっているかを特定し、特定した属性（図１５の例では属性Ｘ）に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する（ステップＳ４０３）。

具体的には、図１５に示すように、図３に示したステップＳ３０４の例と同様に、標準化属性暗号化部２２は、属性Ｘの全サンプルに対して、一定値（例えば、１０）を乗算し、得られた値に別の一定値（例えば、５０）を加算する。図１５は、本発明の実施の形態において特定の属性が標準化された予測用データの一例を示す図である。

また、ステップＳ４０３では、標準化属性暗号化部２２は、標準化対象となっている属性を暗号化した予測用データ（図１５参照）を、二値化属性暗号化部２３に渡す。

次に、二値化属性暗号化部２３は、分析プロセス定義に基づいて、どの属性が二値化対象となっており、また閾値の値がいくつなのかを特定し、特定した属性に所属するデータ値を、特定した閾値を用いた二値化処理によって暗号化する（ステップＳ４０４）。

具体的には、図１６に示すように、図３に示したステップＳ３０５の例と同様に、二値化属性暗号化部２３は、二値化対象となっている属性Ｙの全サンプルのうち、閾値以上の値に対して任意の値（例えば、５０）を加算し、閾値未満の値に対して任意の値（例えば、５０）を減算する。図１６は、本発明の実施の形態において特定の属性が二値化された予測用データの一例を示す図である。

また、ステップＳ４０４では、二値化属性暗号化部２３は、二値化対象となっている属性を暗号化した学習用データ（図１６参照）を、データ出力部３０に渡す。

その後、データ出力部３０は、図１６に示す暗号化した学習用データを、インターネット４００を経由して、クラウドシステム２００における分析アプリケーション２１０に送信する（ステップＳ４０５）。

予測処理：
続いて、図１７〜図２０を用いて、予測アプリケーション２２０による予測処理について説明する。図１７は、本発明の実施の形態においての予測アプリケーションによる予測処理を示すフロー図である。

まず、前提として、分析プロセス定義入力部３３０から、インターネット４００を経由して、クラウドシステム２００に、分析プロセス定義が送信される。これにより、予測アプリケーション２２０は、送信されてきた分析プロセス定義に従って、標準化コンポーネント２２１、二値化コンポーネント２２２、及び分析エンジン２２３を配置する。

図１７に示すように、最初に、予測アプリケーション２２０においては、送信されてきた予測用データ（図１６参照）が、標準化コンポーネント２２１に渡される。そして、標準化コンポーネント２２１は、予測用データにおける標準化対象の属性を標準化する（ステップＳ４１１）。

具体的には、標準化コンポーネント２２１は、図１８に示すように、属性Ｘのデータ値を標準化する。図１８は、本発明の実施の形態において予測アプリケーションによって標準化された予測用データの一例を示す図である。図１８の例では、標準化処理として、属性Ｘのデータ値を−１〜＋１の範囲で正規化する処理が行なわれている。また、標準化コンポーネント２２１は、標準化対象の属性を標準化した予測用データ（図１８参照）を、二値化コンポーネント２２２に渡す。

次に、二値化コンポーネント２２２は、予測用データにおける二値化対象の属性を二値化する（ステップＳ４１２）。

具体的には、図１９に示すように、二値化コンポーネント２２２は、属性Ｙのデータ値を二値化する。図１９は、本発明の実施の形態において予測アプリケーションによって二値化された学習用データの一例を示す図である。図１９の例では、図１０の例と同様に、二値化処理として、属性Ｙのデータ値が５０より小さい場合に、０（ｂｉｎ＿Ｙ＝０）とし、属性Ｙの値が５０以上の場合に、１（ｂｉｎ＿Ｙ＝１）とする処理が行なわれている。また、二値化コンポーネント２２２は、二値化対象の属性を二値化した予測用データ（図１９参照）を、分析エンジン２２３に渡す。

次に、分析エンジン２２３は、インターネット４００を経由して、分析結果記憶装置２３０から、図１１に示した予測モデルを取得する（ステップＳ４１３）。

次に、分析エンジン２２３は、二値化コンポーネント２２２から受け取った予測用データを、予測モデルに適用して、予測処理を実行する（ステップＳ４１４）。

その後、分析エンジン２２３は、インターネット４００を経由して、図２０に示す予測結果を予測結果記憶装置２４０に送信する（ステップＳ４１５）。図２０は、本発明の実施の形態において予測アプリケーションによって予測された結果の一例を示す図である。これにより、予測結果記憶装置２４０は、予測結果を格納する。ユーザは、端末装置３００を介して、予測結果記憶装置２４０にアクセスすることで、予測結果を確認することができる。

予想モデルの可視化処理：
続いて、図２１〜図２４を用いて、予測モデルの可視化処理について説明する。図２１は、本発明の実施の形態におけるデータ処理装置による予測モデルの可視化処理を示すフロー図である。

図２１に示すように、最初に、データ処理装置１００において、復号部４０は、インターネット４００を介して、分析結果記憶装置２３０から、予測モデル（図１１参照）を取得する（ステップＳ５０１）。また、復号部４０において、取得された予測モデルは、二値化属性復号部４３に渡される

次に、二値化属性復号部４３は、予測モデルから、二値化処理された値に関係する部分を特定し、特定した部分を復号する（ステップＳ５０２）。具体的には、二値化属性復号部４３は、分析プロセス定義に基づいて、図２２に示すように、二値化対象属性ｂｉｎ＿Ｙに関する値を復号する。図２２は、本発明の実施の形態において二値化対象属性が復号された予想モデルの一例を示す図である。

次に、標準化属性復号部４２は、予測モデルから、標準化処理された値に関係する部分を特定し、特定した部分を復号する（ステップＳ５０３）。具体的には、標準化属性復号部４２は、分析プロセス定義に基づいて、図２３に示すように、標準化対象属性ｓｔｄ＿Ｘに関する値を復号する。図２３は、本発明の実施の形態において標準化対象属性が復号された予測モデルの一例を示す図である。

次に、属性名復号部４１は、予測モデルから、暗号化された属性名に関する部分を特定し、特定した部分を復号する（ステップＳ５０４）。具体的には、属性名復号部４１は、分析プロセス定義に基づいて、図２４に示すように、属性名を復号する。図２４は、本発明の実施の形態において属性名が復号された予測モデルの一例を示す図である。

次に、データ出力部３０は、復号された予測モデル（図２４参照）を、端末装置３００に送信する（ステップＳ５０５）。これにより、端末装置３００においては、予測モデル可視化部３４０が、送信されてきた予測モデルを可視化するための画像データを生成し、これを端末装置３００の表示装置に入力する。表示装置は、その画面上に予測モデルを表示するので、ユーザは、復号された予測モデルを確認することができる。

［実施の形態における効果］
このように、本実施の形態では、機械学習に用いるデータが暗号化されていても、機械学習を行なうクラウドシステム２００は、復号処理を行なうことなく、機械学習を行なって、予測モデルを生成することができる。また、クラウドシステムは、暗号化された予測用データに対して予測処理を行なうことができる。つまり、本実施の形態では、予測モデルの解釈生を損なうことなく、学習用データ及び予測用データに対して暗号化を実行できる。

このため、本実施の形態によれば、クラウドサービスの事業者に依存することなく、セキュリティを確保することができる。また、予測処理において、復号処理を行なう必要がないため、クラウドシステムにおいて、処理に必要なマシンリソースを削減することもできる。

［変形例］
このように、上述した例では、数値の行列から成る入力データの前処理（暗号化処理）は、分析プロセス定義で規定された特定の属性の標準化と二値化とに基づいて行なわれているが、本実施の形態は、上述した例に限定されることはない。本実施の形態では、前処理は、前処理後の結果が非暗号化時と暗号化時とで同一となる処理であれば良い。前処理としては、例えば、外れ値を除去する処理が用いられていても良い。このとき、除去される外れ値は、前処理の前と後とで置き換えられる。

また、テキストデータを入力データとして用い、文字又は単語毎の出現頻度を特徴量として分析する、テキストデータの分析処理においては、入力のテキストデータに対して、前処理として換字式の暗号化を適用することができる。この場合、出現頻度に影響を与えることなく暗号化を行うことができ、暗号化の前後において同様の結果を得ることができる。

また、画像データを入力として用い、明度、彩度、周波数等を特徴量として分析する、画像分析処理においては、分析対象となる一部の特徴量に対しては影響を与えず、その他の特徴量のみを変換する、暗号化を適用することができる。具体的には、この場合は、一部の画素が置換されて暗号化が行なわれる。また、この場合も、暗号化の前後において同様の結果を得ることができる。

［プログラム］
本実施の形態におけるプログラムは、コンピュータに、図３に示すステップＳ３０１〜Ｓ３０６、図１２に示すステップＳ４０１〜Ｓ４０５、図２１に示すステップＳ５０１〜Ｓ５０５を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態におけるデータ処理装置１００とデータ処理方法とを実現することができる。この場合、コンピュータのＣＰＵ（Central Processing Unit）は、データ取得部１０、暗号化部２０、データ出力部３０、及び復号部４０として機能し、処理を行なう。

また、本実施の形態におけるプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、データ取得部１０、暗号化部２０、データ出力部３０、及び復号部４０のいずれかとして機能しても良い。

ここで、本実施の形態におけるプログラムを実行することによって、データ処理装置１００を実現するコンピュータについて図２５を用いて説明する。図２５は、本発明の実施の形態におけるデータ処理装置を実現するコンピュータの一例を示すブロック図である。

図２５に示すように、コンピュータ１１０は、ＣＰＵ１１１と、メインメモリ１１２と、記憶装置１１３と、入力インターフェイス１１４と、表示コントローラ１１５と、データリーダ／ライタ１１６と、通信インターフェイス１１７とを備える。これらの各部は、バス１２１を介して、互いにデータ通信可能に接続される。

ＣＰＵ１１１は、記憶装置１１３に格納された、本実施の形態におけるプログラム（コード）をメインメモリ１１２に展開し、これらを所定順序で実行することにより、各種の演算を実施する。メインメモリ１１２は、典型的には、ＤＲＡＭ（Dynamic Random Access Memory）等の揮発性の記憶装置である。また、本実施の形態におけるプログラムは、コンピュータ読み取り可能な記録媒体１２０に格納された状態で提供される。なお、本実施の形態におけるプログラムは、通信インターフェイス１１７を介して接続されたインターネット上で流通するものであっても良い。

また、記憶装置１１３の具体例としては、ハードディスクドライブの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス１１４は、ＣＰＵ１１１と、キーボード及びマウスといった入力機器１１８との間のデータ伝送を仲介する。表示コントローラ１１５は、ディスプレイ装置１１９と接続され、ディスプレイ装置１１９での表示を制御する。

データリーダ／ライタ１１６は、ＣＰＵ１１１と記録媒体１２０との間のデータ伝送を仲介し、記録媒体１２０からのプログラムの読み出し、及びコンピュータ１１０における処理結果の記録媒体１２０への書き込みを実行する。通信インターフェイス１１７は、ＣＰＵ１１１と、他のコンピュータとの間のデータ伝送を仲介する。

また、記録媒体１２０の具体例としては、ＣＦ（Compact Flash（登録商標））及びＳＤ（Secure Digital）等の汎用的な半導体記憶デバイス、フレキシブルディスク（Flexible Disk）等の磁気記録媒体、又はＣＤ−ＲＯＭ（Compact Disk Read Only Memory）などの光学記録媒体が挙げられる。

なお、本実施の形態におけるデータ処理装置１００は、プログラムがインストールされたコンピュータではなく、各部に対応したハードウェアを用いることによっても実現可能である。更に、データ処理装置１００は、一部がプログラムで実現され、残りの部分がハードウェアで実現されていてもよい。

上述した実施の形態の一部又は全部は、以下に記載する（付記１）〜（付記１２）によって表現することができるが、以下の記載に限定されるものではない。

（付記１）
機械学習を行なって予測モデルを生成するシステムに学習用データを提供するための装置であって、
外部から入力された前記学習用データを取得する、データ取得部と、
暗号化されていない前記学習用データから生成された予測モデルと、暗号化された前記学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、前記学習用データを暗号化する、暗号化部と、
暗号化された前記学習用データを前記システムへと出力する、データ出力部と、
を備えている、
ことを特徴とするデータ処理装置。

（付記２）
前記暗号化部が、更に、
前記学習用データの属性名を暗号化する、属性名暗号化部と、
前記学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する、標準化属性暗号化部と、
前記学習用データの前記特定の属性以外の属性に所属するデータ値を、閾値を用いた二値化処理によって暗号化する、二値化属性暗号化部と、
を備えている、付記１に記載のデータ処理装置。

（付記３）
前記データ取得部が、前記予測モデルを用いた予測の対象となる予測用データを取得した場合に、
前記暗号化部が、前記学習用データと同様に、前記予測用データに対して、暗号化を行ない、
前記データ出力部が、暗号化された前記予測用データを、前記システムに出力する、
付記１または２に記載のデータ処理装置。

（付記４）
暗号化された前記学習用データから生成された予測モデルから、暗号化された前記属性名に関する部分を特定し、特定した部分を復号する、属性名復号部と、
前記予測モデルから、標準化処理された値に関係する部分を特定し、特定した部分を復号する、標準化属性復号部と、
前記予測モデルから、二値化処理された値に関係する部分を特定し、特定した部分を復号する、二値化属性復号部と、
を更に備えている付記２に記載のデータ処理装置。

（付記５）
機械学習を行なって予測モデルを生成するシステムに学習用データを提供するための方法であって、
（ａ）外部から入力された前記学習用データを取得する、ステップと、
（ｂ）暗号化されていない前記学習用データから生成された予測モデルと、暗号化された前記学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、前記学習用データを暗号化する、ステップと、
（ｃ）暗号化された前記学習用データを前記システムへと出力する、ステップと、
を有する、
ことを特徴とするデータ処理方法。

（付記６）
前記（ａ）のステップが、更に、
前記学習用データの属性名を暗号化する、ステップと、
前記学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する、ステップと、
前記学習用データの前記特定の属性以外の属性に所属するデータ値を、閾値を用いた二値化処理によって暗号化する、ステップと、
を有する、付記５に記載のデータ処理方法。

（付記７）
前記（ａ）のステップにおいて、前記予測モデルを用いた予測の対象となる予測用データを取得した場合に、
前記（ｂ）のステップにおいて、前記学習用データと同様に、前記予測用データに対して、暗号化を行ない、
前記（ｃ）のステップにおいて、暗号化された前記予測用データを、前記システムに出力する、
付記５または６に記載のデータ処理方法。

（付記８）
（ｄ）暗号化された前記学習用データから生成された予測モデルから、暗号化された前記属性名に関する部分を特定し、特定した部分を復号する、ステップと、
（ｅ）前記予測モデルから、標準化処理された値に関係する部分を特定し、特定した部分を復号する、ステップと、
（ｆ）前記予測モデルから、二値化処理された値に関係する部分を特定し、特定した部分を復号する、ステップと、
を更に有する付記６に記載のデータ処理方法。

（付記９）
機械学習を行なって予測モデルを生成するシステムに、コンピュータによって、学習用データを提供するためのプログラムであって、
前記コンピュータに、
（ａ）外部から入力された前記学習用データを取得する、ステップと、
（ｂ）暗号化されていない前記学習用データから生成された予測モデルと、暗号化された前記学習用データから生成された予測モデルとが、パラメータ、数値、及び演算子において、対応関係を有するように、前記学習用データを暗号化する、ステップと、
（ｃ）暗号化された前記学習用データを前記システムへと出力する、ステップと、
を実行させるプログラム。

（付記１０）
前記（ａ）のステップが、更に、
前記学習用データの属性名を暗号化する、ステップと、
前記学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する、ステップと、
前記学習用データの前記特定の属性以外の属性に所属するデータ値を、閾値を用いた二値化処理によって暗号化する、ステップと、
を有する、付記９に記載のプログラム。

（付記１１）
前記（ａ）のステップにおいて、前記予測モデルを用いた予測の対象となる予測用データを取得した場合に、
前記（ｂ）のステップにおいて、前記学習用データと同様に、前記予測用データに対して、暗号化を行ない、
前記（ｃ）のステップにおいて、暗号化された前記予測用データを、前記システムに出力する、
付記９または１０に記載のプログラム。

（付記１２）
前記コンピュータに、
（ｄ）暗号化された前記学習用データから生成された予測モデルから、暗号化された前記属性名に関する部分を特定し、特定した部分を復号する、ステップと、
（ｅ）前記予測モデルから、標準化処理された値に関係する部分を特定し、特定した部分を復号する、ステップと、
（ｆ）前記予測モデルから、二値化処理された値に関係する部分を特定し、特定した部分を復号する、ステップと、
を更に実行させる付記１０に記載のプログラム。

以上のように、本発明によれば、機械学習に用いるデータが暗号化されていても、機械学習を行なうシステムが、復号処理を行なうことなく、機械学習を行なえるようにすることができる。本発明は、日配品需要予測ソリューション、自動車販売価格予測ソリューションといった、多様な品目を扱い大量のモデル構築を必要とするシステムに有用である。

１００ データ処理装置
１０ データ取得部
２０ 暗号化部
２１ 属性名暗号化部
２２ 標準化属性暗号化部
２３ 二値化属性暗号化部
３０ データ出力部
４０ 復号部
４１ 属性名復号部
４２ 標準化属性復号部
４３ 二重化属性復号部
１１０ コンピュータ
１１１ ＣＰＵ
１１２ メインメモリ
１１３ 記憶装置
１１４ 入力インターフェイス
１１５ 表示コントローラ
１１６ データリーダ／ライタ
１１７ 通信インターフェイス
１１８ 入力機器
１１９ ディスプレイ装置
１２０ 記録媒体
１２１ バス
２００ クラウドシステム
２１０ 分析アプリケーション
２１１ 標準化コンポーネント
２１２ 二値化コンポーネント
２１３ 分析エンジン
２２０ 予測アプリケーション
２２１ 標準化コンポーネント
２２２ 二値化コンポーネント
２２３ 分析エンジン
２３０ 分析結果記憶装置
２４０ 予測結果記憶装置
３００ 端末装置
３１０ 学習用データ入力部
３２０ 予測用データ入力部
３３０ 分析プロセス定義入力部
３４０ 予測モデル可視化部
４００ インターネット

Claims (5)

1. 機械学習を行なって予測モデルを生成するシステムに学習用データを出力するための装置であって、
   外部から入力された前記学習用データを取得する、データ取得部と、
   前記学習用データに対して前処理として標準化及び二値化が行われてから前記予測モデルが生成される場合において、暗号化されていない前記学習用データに対する前処理の結果と暗号化された前記学習用データに対する前処理の結果とが同一となるように、前記学習用データを暗号化する、暗号化部と、
   暗号化された前記学習用データを前記システムへと出力する、データ出力部と、
   を備え、
   前記暗号化部が、更に、
   前記学習用データの属性名を暗号化する、属性名暗号化部と、
   前記学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する、標準化属性暗号化部と、
   前記学習用データの前記特定の属性以外の属性に所属するデータ値を、閾値を用いた二値化処理によって暗号化する、二値化属性暗号化部と、
   を備えている、
   ことを特徴とするデータ処理装置。
2. 前記データ取得部が、前記予測モデルを用いた予測の対象となる予測用データを取得した場合に、
   前記暗号化部が、前記学習用データと同様に、前記予測用データに対して、暗号化を行ない、
   前記データ出力部が、暗号化された前記予測用データを、前記システムに出力する、
   請求項１に記載のデータ処理装置。
3. 暗号化された前記学習用データから生成された予測モデルから、暗号化された前記属性名に関する部分を特定し、特定した部分を復号する、属性名復号部と、
   前記予測モデルから、標準化処理された値に関係する部分を特定し、特定した部分を復号する、標準化属性復号部と、
   前記予測モデルから、二値化処理された値に関係する部分を特定し、特定した部分を復号する、二値化属性復号部と、
   を更に備えている請求項１に記載のデータ処理装置。
4. 機械学習を行なって予測モデルを生成するシステムにコンピュータが学習用データを出力するための方法であって、
   （ａ）外部から入力された前記学習用データを取得する、ステップと、
   （ｂ）前記学習用データに対して前処理として標準化及び二値化が行われてから前記予測モデルが生成される場合において、暗号化されていない前記学習用データに対する前処理の結果と暗号化された前記学習用データに対する前処理の結果とが同一となるように、前記学習用データを暗号化する、ステップと、
   （ｃ）暗号化された前記学習用データを前記システムへと出力する、ステップと、
   を有し、
   前記（ｂ）のステップが、更に、
   前記学習用データの属性名を暗号化する、ステップと、
   前記学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する、ステップと、
   前記学習用データの前記特定の属性以外の属性に所属するデータ値を、閾値を用いた二値化処理によって暗号化する、ステップと、
   を有する、
   ことを特徴とするデータ処理方法。
5. 機械学習を行なって予測モデルを生成するシステムに、コンピュータによって、学習用データを出力するためのプログラムであって、
   前記コンピュータに、
   （ａ）外部から入力された前記学習用データを取得する、ステップと、
   （ｂ）前記学習用データに対して前処理として標準化及び二値化が行われてから前記予測モデルが生成される場合において、暗号化されていない前記学習用データに対する前処理の結果と暗号化された前記学習用データに対する前処理の結果とが同一となるように、前記学習用データを暗号化する、ステップと、
   （ｃ）暗号化された前記学習用データを前記システムへと出力する、ステップと、
   を実行させ、
   前記（ｂ）のステップが、更に、
   前記学習用データの属性名を暗号化する、ステップと、
   前記学習用データの特定の属性に所属するデータ値を、特定の計算式を用いた標準化処理によって暗号化する、ステップと、
   前記学習用データの前記特定の属性以外の属性に所属するデータ値を、閾値を用いた二値化処理によって暗号化する、ステップと、
   を有する、
   プログラム。

Images