JP6752457B2

JP6752457B2 - 機械学習システム、装置及び情報処理方法

Info

Publication number: JP6752457B2
Application number: JP2016110758A
Authority: JP
Inventors: 正世土屋
Original assignee: 株式会社マーズスピリット
Priority date: 2016-06-02
Filing date: 2016-06-02
Publication date: 2020-09-09
Anticipated expiration: 2036-06-02
Also published as: JP2017215898A

Description

本開示は、学習機能及び予測機能を備える機械学習システムに関する。

人工知能を用いて予測を行う機械学習システムが提案されている（例えば、特許文献１参照。）。ニューラルネットワーク等の人工知能は、学習するための学習器と、学習に基づいて認識及び予測等を行う予測器と、で構成されている。これは、人間の脳における認知機能を模擬したことによるもので、これまで脳と同様に学習器と予測器とが一体として構成されてきた。

近年、人工知能は、研究目的だけでなく、ＰＣやスマートフォンなどの個人の使用する端末への活用が求められている。通常、学習においては膨大な演算が必要になる。しかし、個人の使用する端末に搭載可能な演算能力は端末に依存し、端末によっては学習器として機能できないものもある。

特開２０１５−１７２７９０号公報

本開示は、個人の使用する端末においても人工知能を搭載可能にすることを目的とする。

本願開示は、予測器を個人の使用する端末に搭載し、当該端末と通信ネットワークで接続された当該端末の外部に学習器を配置することとした。

具体的には、本開示に係る機械学習システムは、
学習機能部及び予測機能部を備える機械学習システムであって、
前記予測機能部は、
通信ネットワークを介して前記学習機能部から所定のアルゴリズムのパラメータを取得し、前記パラメータを適用した前記所定のアルゴリズムを用いて、入力データに対する予測を行う予測部と、
前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する予測誤差判定部と、を備え、
前記学習機能部は、
前記予測機能部から送信された前記入力データ及び前記教師データを用いて前記所定のアルゴリズムを用いた機械学習を行い、機械学習によってパラメータを更新する学習部を備える。

具体的には、本開示に係るユーザ端末として機能する装置は、
学習機能部及び予測機能部を備える機械学習システムに備わる前記予測機能部として機能する装置であって、
通信ネットワークを介して前記学習機能部から所定のアルゴリズムのパラメータを取得し、前記パラメータを適用した前記所定のアルゴリズムを用いて、入力データに対する予測を行う予測部と、
前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する予測誤差判定部と、を備え、
前記学習機能部は、前記予測機能部から送信された前記入力データ及び前記教師データを用いて前記所定のアルゴリズムを用いた機械学習を行い、機械学習によってパラメータを更新する。

具体的には、本開示に係るサーバとして機能する装置は、
学習機能部及び予測機能部を備える機械学習システムに備わる前記学習機能部として機能する装置であって、
前記予測機能部から送信された入力データ及び教師データを用いて所定のアルゴリズムを用いた機械学習を行い、機械学習によってパラメータを更新する学習部を備え、
前記予測機能部は、通信ネットワークを介して前記学習機能部から所定のアルゴリズムのパラメータを取得し、前記パラメータを適用した前記所定のアルゴリズムを用いて、入力データに対する予測を行い、前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する。

具体的には、本開示に係るユーザ端末の情報処理方法は、
学習機能部及び予測機能部を備える機械学習システムに備わる前記予測機能部が実行する情報処理方法であって、
通信ネットワークを介して前記学習機能部から所定のアルゴリズムのパラメータを取得し、前記パラメータを適用した前記所定のアルゴリズムを用いて、入力データに対する予測を行う予測手順と、
前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する予測誤差判定手順と、を備え、
前記予測誤差判定手順の後に、前記学習機能部は、前記予測機能部から送信された前記入力データ及び前記教師データを用いて前記所定のアルゴリズムを用いた機械学習を行い、機械学習によってパラメータを更新する。

具体的には、本開示に係るサーバの情報処理方法は、
学習機能部及び予測機能部を備える機械学習システムに備わる前記学習機能部が実行する情報処理方法であって、
前記予測機能部から送信された入力データ及び教師データを用いて所定のアルゴリズムを用いた機械学習を行い、機械学習によってパラメータを更新する学習手順を備え、
前記学習手順の前に、前記予測機能部は、通信ネットワークを介して前記学習機能部から所定のアルゴリズムのパラメータを取得し、前記パラメータを適用した前記所定のアルゴリズムを用いて、入力データに対する予測を行い、前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する。

具体的には、本開示に係るユーザ端末の情報処理プログラムは、本開示に係るユーザ端末に備わる各機能をコンピュータに実現させるためのプログラムであり、本開示に係るユーザ端末の情報処理方法に備わる各手順をコンピュータに実行させるためのプログラムであり、コンピュータ読み取り可能な記憶媒体に記録されていてもよい。

具体的には、本開示に係るサーバの情報処理プログラムは、本開示に係るサーバに備わる各機能をコンピュータに実現させるためのプログラムであり、本開示に係るサーバの情報処理方法に備わる各手順をコンピュータに実行させるためのプログラムであり、コンピュータ読み取り可能な記憶媒体に記録されていてもよい。

本開示によれば、個人の使用する端末においても人工知能を搭載可能にすることができる。

実施形態に係る機械学習システムの構成の一例を示す。ＤＮＮの模式図を示す。機械学習システムのシーケンスの一例を示す。ユーザ情報管理部に格納されるデータの一例を示す。パラメータ記憶部に格納されるデータの一例を示す。

以下、本開示の実施形態について、図面を参照しながら詳細に説明する。なお、本開示は、以下に示す実施形態に限定されるものではない。これらの実施の例は例示に過ぎず、本開示は当業者の知識に基づいて種々の変更、改良を施した形態で実施することができる。なお、本明細書及び図面において符号が同じ構成要素は、相互に同一のものを示すものとする。

（実施形態１）
図１に、実施形態に係る機械学習システムの構成の一例を示す。実施形態に係る機械学習システムは、ユーザ端末９１が通信ネットワーク９３を介してサーバ９２と接続されている。ユーザ端末９１は、機械学習における予測機能部として機能しうる任意の演算装置であり、例えば、ＰＣやスマートフォンなどの個人が使用可能な任意の端末である。通信ネットワーク９３は、インターネットなどの任意の接続網である。サーバ９２は、機械学習における学習機能部として機能しうる任意の演算装置である。

実施形態に係る機械学習システムは、機械学習を行う任意のアルゴリズムを用いることができる。そのようなアルゴリズムとしては、例えば、ニューラルネットワーク、決定木学習、相関ルール学習、帰納論理プログラム、サポートベクターマシン、クラスタ分析、ベイジアンネットワークが例示できる。本実施形態では、一例として、ＤＮＮ（ＤｅｅｐＮｅｕｒａｌＮｅｔｗｏｒｋ）を用いる。

ユーザ端末９１は、予測部１１、モデル制御部１２、予測誤差判定部１３、ＵＩ（ＵｓｅｒＩｎｔｅｒｆａｃｅ）１４、教師データ取得部１５を備える。サーバ９２は、学習部２１、パラメータ記憶部２２、教師データ記憶部２３、ユーザ情報管理部２４を備える。ユーザ端末９１に備わる各構成としてコンピュータを機能させることで、ユーザ端末９１を実現してもよい。この場合、ユーザ端末９１内のＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）が、ユーザ端末９１内の記憶部（不図示）に記憶されたコンピュータプログラムを実行することで、各構成を実現する。

本実施形態では、学習機能部に備わる各構成が１台のサーバ９２に配置される例を示すが、学習機能部に備わる各構成が複数台のサーバ９２に分離して配置されていてもよい。さらに、１つの構成が複数台のサーバ９２に分離して配置されていてもよい。

予測部１１は、所定のアルゴリズムを用いて予測を行う。本実施形態では、所定のアルゴリズムの一例として、ＤＮＮ（を用いる場合について説明する。図２に、ＤＮＮの模式図を示す。ＤＮＮは、入力層から入力された入力ベクトルＸ＝（ｘ_１，ｘ_２，…，ｘ_Ｋｉ）を、Ｎ層の中間層Ｌｍ_１〜Ｌｍ_Ｎで演算し、演算の結果である出力ベクトルＹ＝（ｙ_１，ｙ_２，…ｙ_Ｋｏ）を出力層から出力する。

図２では、一例として、入力ベクトルＸに含まれる入力データ数Ｋｉが６であり、出力ベクトルＹに含まれる出力データ数Ｋｏが４であり、各中間層Ｌｍ_１〜Ｌｍ_Ｎに備わる素子数Ｋ_ｍ１〜Ｋ_ｍＮが６である場合を示す。入力層の各素子Ｖｉ_１〜Ｖｉ_６は中間層Ｌｍ_１の各素子Ｖｍ_１１〜Ｖｍ_１６の全てに結合されており、素子Ｖｍ_１１〜Ｖｍ_１６は各入力データｘ_１〜ｘ_６を用いて活性化関数ｆの演算を行う。素子Ｖｍ_１１〜Ｖｍ_１６にて発火した場合、次の中間層Ｌｍ_２にて演算を行う。このように、中間層Ｌｍ_１〜Ｌｍ_Ｎの各素子Ｖｍ_１１〜Ｖｍ_Ｎ６は活性化関数ｆの演算を行う。

Ｎ層の中間層のうちのｎ層のある素子で行う非線形の活性化関数ｆは、例えば、次式で表される。
（数１）
Ｙ_ｎ＝ｆ_ｎ（Ｗ_ｎＹ_ｎ−１＋Ｂ）（１）
ここで、Ｗは重みベクトルであり、Ｂは閾値ベクトルである。Ｙ_ｎの値が設定された閾値に達した場合、各素子Ｖｍ_１１〜Ｖｍ_Ｎ６は発火する。

中間層Ｌｍ_１での演算（Ｗ_１Ｙ_ｎ−１）は演算（Ｗ_１Ｘ）で求められ、演算（Ｗ_１Ｘ）は以下で求められる。

本実施形態では、中間層数Ｎ、入力データ数Ｋｉ、出力データ数Ｋｏ、各中間層Ｌｍ_１〜Ｌｍ_Ｎの各素子数Ｋ_ｍ１〜Ｋ_ｍＮ、重みベクトルＷ_１〜Ｗ_Ｎ＋１、又は各素子Ｖｍ_１１〜Ｖｍ_Ｎ６において発火する閾値、或いはこれらの組み合わせを、パラメータとして扱う。

図３に、機械学習システムのシーケンスの一例を示す。以下、図１及び図２を参照しながら、各構成の動作について説明する。

モデル制御部１２は、ユーザ情報及びサービス情報をサーバ９２に送信する（Ｓ１０１）。サーバ９２は、ユーザ情報及びサービス情報を受信し、受信したユーザ情報及びサービス情報に対応する学習レベルをユーザ情報管理部２４から読み出し、ユーザ端末９１に送信する（Ｓ１０２）。これにより、モデル制御部１２は、サーバ９２から学習レベルを取得する。

ユーザ情報は、ユーザの識別情報を含み、サーバ９２におけるユーザの認証に用いられる認証情報を含んでいてもよい。サービス情報は、予測部１１において予測を行う対象を識別する情報である。予測を行う対象としては、例えば、天気予報、自動運転、ロボット制御、購買レコメンドが例示できる。

図４に、ユーザ情報管理部２４に格納されるデータの一例を示す。学習レベルは、ユーザごと、サービスごとに定められる。例えば、ユーザの識別情報がＩＤＡである場合、天気予報サービスの学習レベルはＬｖ０であり、自動運転サービスの学習レベルはＬｖ１である。ユーザの識別情報がＩＤＢである場合、ロボット制御サービスの学習レベルはＬｖ２であり、購買レコメンドサービスの学習レベルはＬｖ０である。サーバ９２は、ユーザの識別情報及びサービス情報がユーザＩＤＡの天気予報サービスを受信した場合、学習レベルＬｖ０をユーザ端末９１に送信する。

モデル制御部１２は、サーバ９２から受信した学習レベルのパラメータをサーバ９２から取得する（Ｓ１０３）。例えば、ユーザＩＤＡのユーザ端末９１の場合、モデル制御部１２は、天気予報サービスの学習レベルＬｖ０に応じたパラメータをサーバ９２に問い合わせる。サーバ９２は、天気予報サービスの学習レベルＬｖ０に応じたパラメータをパラメータ記憶部２２から読み出し、ユーザ端末９１に送信する。ユーザ端末９１のモデル制御部１２は、サーバ９２から受信したパラメータを予測部１１に入力する。これにより、予測部１１は、ユーザ情報に対応する学習レベルで予測が可能になる。

図５に、パラメータ記憶部２２に格納されるデータの一例を示す。パラメータ記憶部２２は、予測を行う対象のパラメータを、サービスごとかつ学習レベルごとに格納する。予測を行う対象が天気予報、自動運転、ロボット制御及び購買レコメンドである場合、パラメータ記憶部２２はそれらのパラメータを格納する。パラメータは、さらに、入力データ及び出力データの種別を含んでいてもよい。

天気予報サービスの入力データの種別は、例えば、天気図、温度分布、雨量分布、湿度分布、気圧配置である。天気予報サービスの出力データの種別は、例えば、天気予報、降水確率である。天気は、晴雨、気温、湿度及び風などの状態及び状況を含む。ここで、天気予報に用いる地域の範囲は、レベルに応じて定められていることが好ましい。例えば、レベルＬｖ２の天気図はレベルＬｖ０及びＬｖ１よりも範囲の広い広範囲天気図である。レベルＬｖ０及びＬｖ１の天気予報は特定の時刻における特定の地域の天気であるのに対し、レベルＬｖ２の天気予報は週間天気予報である。

ロボット制御サービスの入力データの種別は、例えば、画像、音声、触感である。ロボット制御サービスの出力データの種別は、例えば、音声応答及び行動制御信号である。画像は、ユーザ端末９１に備わるカメラの撮像した画像データである。音声は、ユーザ端末９１に備わるマイクの録音した音声データである。音声応答は、ユーザ端末９１をロボットとして動作させる制御信号である。ここで、画像及び音声の分解能並びに音声応答のデータ量は、レベルに応じて定められていることが好ましい。例えば、画像の画素及び色度の分解能は、レベルが高くなるほど高くなる。レベルＬｖ０及びＬｖ１の音声応答は回答のみであるのに対し、レベルＬｖ２の音声応答は会話が成立するよう更なる質問も含まれている。

自動運転サービスの入力データの種別は、例えば、自車情報、目的地、周辺情報、渋滞情報、自車制御情報、目標の優先度割合である。自動運転サービスの出力データの種別は、例えば、制御入力、計画経路、最適経路、制御入力である。自車情報は、自車の位置を含む。周辺情報は、地図情報を含む。自車制御情報は、自車の燃費を含む。計画経路は、現在位置から目的地に到達することの可能な任意の経路を含む。最適経路は、計画経路のうちの渋滞や優先度を考慮した最適な経路である。制御入力は、自車を走行させるための制御信号の入力であり、例えば、舵角、ブレーキ、エンジンスロットルを含む。

購買レコメンドサービスの入力データの種別は、例えば、購買カテゴリ、購買キーワード、プロファイル、環境である。購買レコメンドサービスの出力データの種別は、例えば、レコメンド商品である。購買カテゴリは、ユーザ端末９１のユーザが過去に購買した商品の種別又は属性を含む。購買キーワードは、ユーザ端末９１が注文した商品に予め関連付けられたキーワードである。プロファイルは、ユーザ端末９１に予め関連付けられている属性であり、例えば、ユーザ端末９１の所有者の性別や年齢を含む。環境は、ユーザ端末９１の周辺環境であり、ユーザ端末９１の現在位置における天気を含む。ここで、レコメンド商品の絞り込みは、レベルに応じて定められていることが好ましい。例えば、学習レベルＬｖ０のレコメンド商品は購買履歴ベースの他のユーザとの類似によるレコメンド商品であり、学習レベルＬｖ１のレコメンド商品は購買履歴とプロファイルによるレコメンド商品であり、学習レベルＬｖ２のレコメンド商品は購買履歴から個人的嗜好分析によるレコメンド商品である。

なお、パラメータ記憶部２２に格納されるデータは、図５に示す限りではない。例えば、パラメータ記憶部２２は、さらに、各中間層Ｌｍ_１〜Ｌｍ_Ｎの素子数Ｋ_ｍ１〜Ｋ_ｍＮ、重みベクトルＷ_１〜Ｗ_Ｎ＋１、各素子Ｖｍ_１１〜Ｖｍ_Ｎ６において発火する閾値、或いはこれらの組み合わせを、パラメータとして格納してもよい。これらをパラメータとして設定することで、より繊細かつ正確な予測を行うことができる。

予測部１１は、ＵＩ１４から入力データを取得すると、モデル制御部１２から入力されたパラメータを用いて予測を行う（Ｓ１０４）。例えば、ユーザＩＤＡのユーザ端末９１が天気予報サービスを利用する場合、予測部１１は、Ｘ＝（ｘ_１，ｘ_２，ｘ_３，ｘ_４）、Ｙ＝（ｙ_１）、Ｎ＝３、各中間層Ｌｍ_１〜Ｌｍ_３の各素子数Ｋ_ｍ１〜Ｋ_ｍ３、重みベクトルＷ_１〜Ｗ_４、各素子Ｖｍ_１１〜Ｖｍ_３４において発火する閾値を用いて、予測を行い、入力データに応じた出力データを生成する。これにより、予測部１１は、特定の時刻における特定の地域の天気予報を出力データとして出力する。

教師データ取得部１５は、予測部１１の出力した出力データについて、教師データを取得する。教師データは予測部１１の予測する内容に応じて異なる。予測誤差判定部１３は、予測部１１の出力データを、教師データ取得部１５の取得した教師データと比較し、予測誤差を判定する。予測誤差が予め定められた条件を満たす場合、予測誤差判定部１３は、入力データ及び教師データをサーバ９２に送信する（Ｓ１０５）。予め定められた条件は、パラメータを更新するか否かに応じて定められる。パラメータを更新する場合、入力データ及び教師データをサーバ９２に送信する。

天気予報サービスの場合、教師データ取得部１５は、実際の天気の情報を教師データとして取得する。ロボット制御サービスの場合、教師データ取得部１５は、画像データ及び音声データを教師データとして取得する。自動運転サービスの場合、教師データ取得部１５は、実際の経路及び制御入力を教師データとして取得する。購買レコメンドサービスの場合、教師データ取得部１５は、実際にユーザの購買した商品の記録を教師データとして取得する。

天気予報サービス、自動運転サービス及び購買レコメンドサービスの場合、予測誤差判定部１３における予め定められた条件は、予測結果と教師データが一致するか否かである。予測結果と教師データが相違する場合、予測誤差判定部１３は、入力データ及び教師データをサーバ９２に送信する。

ロボット制御サービスの場合、教師データ取得部１５は、画像データ及び音声データを教師データとして取得する。この場合、予測誤差判定部１３は、予測部１１から出力された音声応答に対応付けられた複数の画像データ及び音声データを格納したテーブルを参照し、教師データ取得部１５から得られた画像データ及び音声データがテーブルに格納されているどの画像データ及び音声データに該当するかを判定する。該当する画像データ及び音声データの組み合わせがサーバ９２に送信するように予め定められているものの場合、予測誤差判定部１３は、入力データ及び教師データをサーバ９２に送信する。

ユーザ端末９１は、センサを備えていてもよい。この場合、センサは、入力データを取得するとともに、教師データを取得する。例えば、ユーザ端末９１は、天気予報サービスを利用する場合、温度、気圧及び湿度の少なくともいずれかを検出するセンサを備える。例えば、ユーザ端末９１は、ロボット制御サービスを利用する場合、カメラ、マイク及び触感センサを備える。例えば、ユーザ端末９１は、自動運転サービスを利用する場合、カメラ、衛星測位システム及び加速度センサの少なくともいずれかを備える。

予測誤差判定部１３は、予測誤差を蓄積し、蓄積されている複数の予測誤差を用いてパラメータを更新するか否かを判定してもよい。例えば、予測部１１からの出力データと教師データとの不一致の頻度が一定割合を超えた場合に、予測誤差判定部１３は、入力データ及び教師データをサーバ９２に送信する。これにより、ユーザ端末９１とサーバ９２との通信頻度を減らすことができるため、ユーザ端末９１の負荷を減らすことができる。

予測誤差判定部１３は、教師データに代えて、出力層及び重みを特定可能なサーバ９２に送信してもよい。これにより、ユーザ端末９１の個人情報の漏えいを防ぐことができる。

教師データ記憶部２３は、ユーザ端末９１から受信した入力データ及び予測誤差を記憶する。学習部２１は、教師データ記憶部２３に記憶されている教師データを用いて、パラメータを更新し、パラメータ記憶部２２に格納する（Ｓ１０６）。

モデル制御部１２は、設定されたタイミングで、予測部１１の用いるパラメータをサーバ９２から取得して更新する（Ｓ１０７）。モデル制御部１２がパラメータを取得するタイミングは任意である。例えば、ユーザ端末９１の起動時であってもよいし、１日や１週間などの一定期間ごとであってもよいし、前述のステップＳ１０３のタイミングであってもよい。モデル制御部１２は、ＵＩ１４を介して承諾が得られた場合にパラメータをサーバ９２から取得することが好ましい。

モデル制御部１２は、センサ類の起動状況に応じてパラメータを取得することが好ましい。例えば、カメラが起動されたとき、モデル制御部１２は、画像を用いた予測を行うためのパラメータを取得する。反対に、センサ類の起動状況に変化がなければ、パラメータを更新しない設定も採用しうる。

モデル制御部１２は、ユーザ端末９１の属性に応じたパラメータを取得することが好ましい。属性は、例えば、言語、性別、年齢、地域である。特に、ユーザ端末９１の地域の属性が災害の発生した地域である場合、ユーザ情報管理部２４は、災害に応じたパラメータをプッシュ型で送信することが好ましい。これにより、モデル制御部１２は、災害の状況に応じたパラメータを取得することができる。例えば、自動運転サービスの場合、災害によって経路が使用できなくなった経路を経路から除外する。このように、ユーザ端末９１は、ユーザ端末９１の置かれている状況に適した経路を出力データとして出力することができる。

以上説明したように、実施形態に係る機械学習システムは、サーバ９２が機械学習を行い、サーバ９２における機械学習の結果であるパラメータをユーザ端末９１に反映させる。このように、実施形態に係る機械学習システムは、ユーザ端末９１の外部に学習器を配置するため、個人の使用するユーザ端末９１においても人工知能を搭載可能にすることができる。ここで、実施形態に係るサーバ９２は、通信ネットワーク９３で接続された全てのユーザ端末９１から教師データを収集することができる。このため、実施形態に係る機械学習システムは、学習部２１における機械学習を効率的に行うことができる。

なお、実施形態に係る各パラメータは一例であり、これに限定されない。入力データ数Ｋｉは、図５に示すように、図２に示す６に限らず、１以上の任意の数を用いることができる。出力データ数Ｋｏは、図５に示すように、図２に示す４に限らず、１以上の任意の数を用いることができる。中間層数Ｎは、図５に示す３、５、８に限らず、１０、１００等の１以上の任意の数を用いることができる。各中間層Ｌｍ_１〜Ｌｍ_Ｎに備わる素子数Ｋ_ｍ１〜Ｋ_ｍＮは、図２に示す６に限らず、１０、１００等の１以上の任意の数を用いることができる。

（実施形態２）
本実施形態に係る予測部１１は、決定木学習を用いて予測を行う。この場合のパラメータは、分岐事象及び分岐条件である。入力ベクトルＸ＝（ｘ_１，ｘ_２，…，ｘ_Ｋｉ）に含まれる各入力データが分岐事象に割り当てられる。各分岐事象における分岐条件の数は、レベルに応じて異なることが好ましい。例えば、レベルＬｖ２の分岐条件の数はレベルＬｖ０及びＬｖ１よりも多い。

例えば、天気予報サービスの場合、分岐事象の１つに天気図が割り当てられ、その分岐事象の枝に晴雨、気温、湿度及び風などの状態及び状況が割り当てられる。

例えば、ロボット制御サービスの場合、分岐事象の１つに画像が割り当てられ、その分岐事象の枝に画像から抽出されたパターンが割り当てられる。

例えば、自動運転サービスの場合、分岐事象の１つに目的地が割り当てられ、その分岐事象の枝に目的地を表す座標の数値範囲が割り当てられる。

例えば、購買レコメンドサービスの場合、分岐事象の１つに購買カテゴリが割り当てられ、その分岐事象の枝に商品の種別又は属性が割り当てられる。

ユーザ端末９１におけるその他の構成の動作・機能は、実施形態１と同様である。またサーバ９２における動作・機能は、実施形態１と同様である。

このように、予測部１１の用いるアルゴリズムが決定木学習であっても、実施形態１で説明した機械学習システムを構成することができる。なお、実施形態に係る各パラメータは一例であり、これに限定されない。例えば、ユーザ端末９１がサーバ９２から取得するパラメータは、分岐事象及び分岐条件のいずれかであってもよい。

（実施形態３）
本実施形態に係る予測部１１は、ベイジアンネットワークモデルを用いて予測を行う。この場合のパラメータは、算出式並びに算出式に用いる事前確率及び条件付き確率である。算出式は、出力ベクトルＹ＝（ｙ_１，ｙ_２，…ｙ_Ｋｏ）に含まれる各出力データの可能性を算出する。

例えば、天気予報サービスの場合、天気予報に含まれる晴雨、気温、湿度及び風などの各状態及び状況となる事前確率及び条件付き確率と算出式である。

例えば、ロボット制御サービスの場合、音声応答のバリエーションごとの事前確率及び条件付き確率と算出式である。

例えば、自動運転サービスの場合、計画経路ごとの事前確率及び条件付き確率と算出式である。

例えば、購買レコメンドサービスの場合、レコメンド商品ごとの事前確率及び条件付き確率と算出式である。

このように、予測部１１の用いるアルゴリズムがベイジアンネットワークモデルであっても、実施形態１で説明した機械学習システムを構成することができる。なお、実施形態に係る各パラメータは一例であり、これに限定されない。例えば、ユーザ端末９１がサーバ９２から取得するパラメータは、算出式並びに算出式に用いる事前確率及び条件付き確率のいずれかであってもよい。

（実施形態４）
本実施形態に係る予測部１１は、ロジスティック回帰分析を用いて予測を行う。この場合のパラメータは、クラス及び線形関数である。例えば、クラスは、出力ベクトルＹ＝（ｙ_１，ｙ_２，…ｙ_Ｋｏ）に含まれる各出力データを構成する。線形関数は、各出力データをクラスごとに分離する。

例えば、天気予報サービスの場合、天気予報に含まれる晴雨、気温、湿度及び風などの各状態及び状況がクラスとなり、天気図等の各入力データが線形関数の変数となる。

例えば、ロボット制御サービスの場合、音声応答のバリエーションがクラスとなり、画像及び音声といった各入力データが線形関数の変数となる。

例えば、自動運転サービスの場合、計画経路のバリエーションがクラスとなり、目的地といった各入力データが線形関数の変数となる。

例えば、購買レコメンドサービスの場合、レコメンド商品のバリエーションがクラスとなり、購買カテゴリといった各入力データが線形関数の変数となる。

このように、予測部１１の用いるアルゴリズムがロジスティック回帰分析であっても、実施形態１で説明した機械学習システムを構成することができる。なお、実施形態に係る各パラメータは一例であり、これに限定されない。例えば、ユーザ端末９１がサーバ９２から取得するパラメータは、クラス及び線形関数のいずれかであってもよい。

（実施形態５）
本実施形態に係る予測部１１は、相関ルール学習を用いて予測を行う。この場合のパラメータは、ｉｆ文及びｔｈｅｎの条件である。入力ベクトルＸ＝（ｘ_１，ｘ_２，…，ｘ_Ｋｉ）に含まれる各入力データがｉｆ文に割り当てられ、各出力データに導くｔｈｅｎの条件が設定される。

例えば、天気予報サービスの場合、天気図がｉｆ文に割り当てられ、天気予報に含まれる晴雨、気温、湿度及び風などの状態及び状況に導くｔｈｅｎの条件が設定される。

例えば、ロボット制御サービスの場合、画像から抽出されたパターンがｉｆ文に割り当てられ、音声応答に導くｔｈｅｎの条件が設定される。

例えば、自動運転サービスの場合、目的地がｉｆ文に割り当てられ、計画経路に導くｔｈｅｎの条件が設定される。

例えば、購買レコメンドサービスの場合、購買カテゴリがｉｆ文に割り当てられ、レコメンド商品に導くｔｈｅｎの条件が設定される。

このように、予測部１１の用いるアルゴリズムが相関ルール学習であっても、実施形態１で説明した機械学習システムを構成することができる。なお、実施形態に係る各パラメータは一例であり、これに限定されない。例えば、ユーザ端末９１がサーバ９２から取得するパラメータは、ｉｆ文及びｔｈｅｎの条件のいずれかであってもよい。

本開示は情報通信産業に適用することができる。

１１：予測部
１２：モデル制御部
１３：予測誤差判定部
１４：ＵＩ
１５：教師データ取得部
２１：学習部
２２：パラメータ記憶部
２３：教師データ記憶部
２４：ユーザ情報管理部
９１：ユーザ端末
９２：サーバ
９３：通信ネットワーク

Claims

ユーザ端末に備わる予測機能部が通信ネットワークを介して学習機能部と接続されている機械学習システムであって、
前記予測機能部は、
前記ユーザ端末に備わるユーザインタフェースからの承諾の入力を契機に、ユーザに応じた学習処理細部を定義するパラメータを取得するモデル制御部と、
前記ユーザ端末に備わるユーザインタフェースからの入力データのデータ入力を契機に、前記モデル制御部の取得したパラメータを用いて、前記ユーザ端末に備わるユーザインタフェースから入力された入力データに対する予測を行う予測部と、
前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する予測誤差判定部と、
を備え、
前記学習処理細部を定義するパラメータは、予測を行う対象のパラメータ、入力データの種別、中間層の素子数、重みベクトル及び各素子において発火する閾値の少なくともいずれかを含み、
前記学習機能部は、
前記予測機能部から送信された前記入力データ及び前記教師データを用いて、ユーザに応じた学習レベルでの機械学習を行い、機械学習によって前記学習処理細部を定義するパラメータを更新する学習部と、
を備える、
機械学習システム。
前記ユーザ端末は、センサを備え、
前記モデル制御部は、前記センサの起動を契機に、ユーザに応じた前記学習処理細部を定義するパラメータを取得し、
前記予測部は、前記センサから取得したデータを前記入力データに用い、
前記予測誤差判定部は、前記センサから取得したデータを前記教師データに用いる、
請求項１に記載の機械学習システム。
前記モデル制御部が前記学習機能部に送信するユーザ情報は、前記ユーザ端末の地域を含み、
前記学習機能部は、前記ユーザ端末の地域の属性が災害の発生した地域である場合、災害に応じたパラメータを、プッシュ型で前記予測機能部に提供する、
請求項１又は２に記載の機械学習システム。
ユーザ端末に備わる予測機能部が通信ネットワークを介して学習機能部と接続されている機械学習システムに備わる前記予測機能部として機能する装置であって、
前記ユーザ端末に備わるユーザインタフェースからの承諾の入力を契機に、ユーザに応じた学習処理細部を定義するパラメータを取得するモデル制御部と、
前記ユーザ端末に備わるユーザインタフェースからの入力データのデータ入力を契機に、前記モデル制御部の取得したパラメータを用いて、前記ユーザ端末に備わるユーザインタフェースから入力された入力データに対する予測を行う予測部と、
前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する予測誤差判定部と、
を備え、
前記学習処理細部を定義するパラメータは、予測を行う対象のパラメータ、入力データの種別、中間層の素子数、重みベクトル及び各素子において発火する閾値の少なくともいずれかを含む、
装置。
ユーザ端末に備わる予測機能部が通信ネットワークを介して学習機能部と接続されている機械学習システムに備わる前記予測機能部が実行する情報処理方法であって、
モデル制御部が、前記ユーザ端末に備わるユーザインタフェースからの承諾の入力を契機に、ユーザに応じた学習処理細部を定義するパラメータでありかつ予測を行う対象のパラメータ、入力データの種別、中間層の素子数、重みベクトル及び各素子において発火する閾値の少なくともいずれかを含むパラメータを取得し、
予測部が、前記ユーザ端末に備わるユーザインタフェースからの入力データのデータ入力を契機に、前記モデル制御部の取得したパラメータを用いて、前記ユーザ端末に備わるユーザインタフェースから入力された入力データに対する予測を行い、
予測誤差判定部が、前記予測に対する教師データを取得し、前記予測の結果である出力データと前記教師データを比較し、比較の結果が予め定められた条件を満たす場合、通信ネットワークを介して前記入力データ及び前記教師データを前記学習機能部に送信する、
情報処理方法。