JP2021111219A - 情報処理システム、情報処理装置、及びプログラム - Google Patents

Abstract

【課題】機械学習の効率を向上できる情報処理システム、及びそれに含まれる情報処理装置、及びプログラムを提供する。【解決手段】情報処理装置が、データの入力を逐次的に受け入れて、当該受け入れたデータに基づいて、所定の第１の推論器の第１のパラメータ情報を更新して、第１の推論器の機械学習処理を行う。また、所定のタイミングごとに所定の第２の推論器の第２のパラメータ情報の初期化を行い、初期化の後に第１の学習処理手段が受け入れるデータと同じデータに基づいて、第２のパラメータ情報を更新して、第２の推論器の機械学習処理を行う。さらに、他の情報処理装置の第２の学習処理手段が更新した第２のパラメータ情報に係るパラメータ更新情報を受け入れて、第１の推論器の第１のパラメータ情報の更新処理に供する。【選択図】図１

Description

本発明は、情報処理システム、情報処理装置、及びプログラムに関する。

近年、機械学習処理を利用した情報処理のシステムが広く利用されるようになってきている。具体的には、生産現場等での異常検知を行う情報処理装置などが開発されている。このような情報処理装置のうちには、予め収集された教師データを利用して機械学習処理を行っておき、機械学習後のモデルデータを利用して異常検知の動作を行うものがある。

一方、機械学習機能を備えた情報処理装置を現場に配備したうえで、当該現場で逐次的に入力されるデータに基づいて機械学習処理を行う、オンデバイス学習と呼ばれる技術も近年広く研究されている。

米国特許第１０４０２４６９号明細書

上記オンデバイス学習では、リアルタイムで比較的高速なデータ処理が可能となっているが、単一の情報処理装置に入力されるデータは広く収集できるものではない。例えば生産現場のあるラインのある位置に配された情報処理装置Ａに、当該情報処理装置Ａが配された位置近傍の振動の振幅の情報を入力する場合、当該位置近傍より外の位置で異常な振動が発生したとしても、当該異常な振動のデータは情報処理装置Ａには入力されない。つまり一つの情報処理装置が収集できるデータの範囲には制限があるのが実情である。

そこで、特許文献１に開示されているように、他の情報処理装置にて機械学習したデータを取得する方法がある。この特許文献１に開示された方法を用いれば、ある情報処理装置で異常振動のデータを機械学習したモデルが生成できたときに、当該情報処理装置が機械学習したモデルを、他の情報処理装置のモデルに上書きして利用できる。

しかしこの場合、モデルを上書きされた情報処理装置が、それぞれの位置で機械学習していた内容が破棄されてしまい、機械学習の効率を十分向上できない。

本発明は上記実情に鑑みて為されたもので、機械学習処理を行う複数の情報処理装置を含む情報処理システムにおいて、その機械学習の効率を向上できる情報処理システム、及びそれに含まれる情報処理装置、及びプログラムを提供することを、その目的の一つとする。

上記従来例の問題点を解決する本発明の一態様は、情報処理装置であって、データの入力を逐次的に受け入れて、当該受け入れたデータに基づいて、所定の第１の推論器の第１のパラメータ情報を更新して、前記第１の推論器の機械学習処理を行う第１の学習処理手段と、所定のタイミングごとに所定の第２の推論器の第２のパラメータ情報の初期化を行い、初期化の後に前記第１の学習処理手段が受け入れるデータと同じデータに基づいて、前記第２のパラメータ情報を更新して、第２の推論器の機械学習処理を行う第２の学習処理手段と、他の情報処理装置の第２の学習処理手段が更新した第２のパラメータ情報に係るパラメータ更新情報を受け入れて、前記第１の推論器の第１のパラメータ情報の更新処理に供する追加学習処理手段と、を含むこととしたものである。

この情報処理装置によると、他の情報処理装置で生成されたパラメータ更新情報を用いた追加学習処理が行われるので、機械学習の効率を向上できる。

本発明の実施の形態に係る情報処理システムの例を表す構成ブロック図である。 本発明の実施の形態に係る情報処理装置の例を表す構成ブロック図である。 本発明の実施の形態に係る情報処理装置が用いる機械学習モデルの概要を表す説明図である。 本発明の実施の形態に係る情報処理装置の例を表す機能ブロック図である。 本発明の実施の形態に係る情報処理装置の動作例を表す流れ図である。 本発明の実施の形態に係る情報処理システムのもう一つの例を表す構成ブロック図である。 本発明の実施の形態に係る情報処理システムの一例が処理の対象とする画像データの分割例を表す説明図である。

本発明の実施の形態について図面を参照しながら説明する。本発明の実施の形態に係る情報処理システム１は、図１に例示するように、複数の情報処理装置１０を含んで構成される。また、この情報処理システム１は、サーバ装置２０をさらに含んでもよい。

本実施の形態の例では、これら複数の情報処理装置１０とサーバ装置２０とは互いにネットワーク等の通信手段を介して通信可能に接続されているものとする。

情報処理装置１０は、図２に例示するように、制御部１１と、記憶部１２と、通信部１３と、入出力部１４とを含んで構成されている。

制御部１１は、ＣＰＵ等のプログラム制御デバイスであり、記憶部１２に格納されたプログラムに従って動作する。本実施の形態の一例では、この制御部１１は、データの入力を逐次的に受け入れる。制御部１１は、当該受け入れたデータに基づいて、所定の第１のパラメータ情報を更新する。ここで第１のパラメータ情報は、例えば記憶部１２に格納された第１の機械学習モデルＭ１のパラメータ情報である。この第１の機械学習モデルＭ１が本発明の第１の推論器に相当する。

またこの制御部１１は、予め決められたタイミングごとに所定の第２のパラメータ情報を初期化する。また制御部１１は、この初期化の後に入力される上記データに基づいて、第２のパラメータ情報を更新する。ここで第２のパラメータ情報は、例えば記憶部１２に格納された第２の機械学習モデルＭ２のパラメータ情報である。この第２の機械学習モデルＭ２が本発明の第２の推論器に相当する。

つまり、本実施の形態では制御部１１は、逐次的に入力されるデータに基づいて第１の機械学習モデルＭ１のパラメータ情報を更新するとともに、同じデータに基づいて、所定のタイミングごとにパラメータ情報が初期化される、第２の機械学習モデルＭ２のパラメータ情報を更新する。

制御部１１は、さらに、他の情報処理装置１０の第２の機械学習モデルＭ２のパラメータ情報に関するパラメータ更新情報を受け入れ、当該パラメータ更新情報に基づいて、第１のパラメータ情報を追加的に更新する。つまり、この制御部１１は、他の情報処理装置１０が生成したパラメータ更新情報を利用して、第１の機械学習モデルＭ１の機械学習を追加的に実行する。この制御部１１の詳しい処理の内容については、後に説明する。

記憶部１２は、メモリデバイス等であり、制御部１１によって実行されるプログラムを保持する。このプログラムは、ＤＶＤ−ＲＯＭ等のコンピュータ可読かつ非一時的な記録媒体に格納されて提供され、この記憶部１２に格納されたものであってもよい。

またこの記憶部１２は、制御部１１のワークメモリとしても動作する。本実施の形態の例では、この記憶部１２には、制御部１１によって機械学習処理が行われる複数の機械学習モデルのそれぞれのパラメータ情報が保持される。

通信部１３は、ネットワークインタフェース等であり、制御部１１から入力される指示に従って、パラメータ更新情報を送信する。またこの通信部１３は、他の情報処理装置１０、あるいはサーバ装置２０からパラメータ更新情報を受信すると、当該パラメータ更新情報を制御部１１に出力する。

入出力部１４は、ＵＳＢ等のシリアルインタフェース、あるいはパラレルインタフェース等であり、センサＳ等が出力するデータの入力を受け入れる。例えばこのセンサＳが加速度センサである場合、入出力部１４は、このセンサＳが出力する加速度のデータの入力を受け入れる。入出力部１４は、こうして受け入れたデータを制御部１１に出力する。

次に、制御部１１の動作について説明する。なお、以下の説明では、制御部１１が機械学習処理を行う第１、第２の機械学習モデルＭ１，Ｍ２は、いずれも３層の全結合型のニューラルネットワークであるものとする。この例の３層の全結合型のニューラルネットワークは、図３に例示するように、機能的には、入力層２１と、中間層（隠れ層）２２と、出力層２３とを含んで構成される。

すなわちこの例では、第１の機械学習モデルＭ１は、入力データとなったベクトル値の各成分に対応する入力層２１のノード２１ａ，２１ｂ，…，２１ｎと中間層２２のノード２２ａ，２２ｂ，…２２Ｌとの間の結合重みをα（α1，α2，…，αL）（ここでαiは入力層２１のノード数ｎに等しい次元のベクトル）、バイアスをｂ（ｂ1,ｂ2，…ｂL）とし、中間層２２のノード２２ａ，２２ｂ，…２２Ｌと出力層２３のノード２３ａ，２３ｂ，…，２３ｍとの間の結合重みをβ（β1，β2，…，βL）（ここでβiは出力層２３のノード数ｍに等しい次元のベクトル）として設定したものである。本実施の形態の例では、後に説明するように、結合重みβのみが更新されるので、結合重みの値βが第１の機械学習モデルＭ１の第１のパラメータ情報に相当する。なお、第２の機械学習モデルＭ２についても結合重みβが第２のパラメータ情報に相当することは同様であるので、繰り返しての説明は省略する。もっとも、結合重みαやバイアスｂも機械学習の際に更新する場合は、これらも第１のパラメータ情報（または第２のパラメータ情報）に含まれることとなる。

本実施の形態の一例では、制御部１１は、記憶部１２に格納されたプログラムを実行することにより、図４に例示するように、機能的に、データ受入部３１と、第１学習処理部３２と、第２学習処理部３３と、更新情報生成部３４と、更新情報受入部３５と、判定処理部３６とを含む構成を実現する。

データ受入部３１は、データの入力を逐次的に受け入れる。本実施の形態の一例では、情報処理装置１０は、例えば製品製造の現場等に配され、当該製品製造に用いる製造装置に取り付けられる。またこの情報処理装置１０は、当該製造装置の振動や、温度等の種々の情報を検出して出力するセンサＳ（複数あってもよい）に接続される。情報処理装置１０は、当該センサＳの出力を所定のタイミングごと（例えば定期的なタイミングごと）に、繰り返しベクトルデータに変換して受け入れる。本実施の形態のある例では、データ受入部２１は、当該センサＳの出力を変換して得たベクトルデータを、第１、第２学習処理部３２，３３に出力する。なお、センサＳの出力からベクトルデータを生成する方法は、機械学習を利用した種々の公知技術と同様の方法を採用できるため、ここでの詳しい説明は省略する。

第１学習処理部３２は、データ受入部３１が受け入れたデータに基づいて、所定の、第１のパラメータ情報を更新する機械学習処理を行う。本実施の形態の一例では、第１学習処理部３２は、記憶部１２に格納された第１の機械学習モデルＭ１のパラメータ情報を更新して、その機械学習処理を行う。

具体的に第１学習処理部３２は、当初は入力層２１と中間層２２との結合重みα、及びバイアスｂをランダムに決定する。なお、このとき、中間層２２と出力層２３との間の結合重みβもランダムに定めておいてもよい。そして第１学習処理部３２は、結合重みαについては更新せず、中間層２２と出力層２３との間の結合重みβを機械学習の対象とする。つまり、ここでは第１の機械学習モデルＭ１と、第１学習処理部３２とにより、ELM（Extreme Learning Machine）を実現している。このELMは、広く知られているので、ここでの詳細な説明は省略する。

本実施の形態の例では、第１学習処理部３２は、データ受入部３１が受け入れた直近所定回数分（バッチサイズ分）のデータを、第１の機械学習モデルＭ１に対して入力データとして入力することとしてもよい。

すなわち第１学習処理部３２は、入力データをｋ個（ｋは１以上の自然数）だけ集めてバッチとし、このバッチを訓練データとする。

ここで一つのバッチに含まれる入力データをｘi（ｉ＝１，２，…，ｋ）とし、入力層２１と中間層２２との間の結合重みをα（α＝α1，α2，…，αL）、バイアスをｂ（ｂ＝ｂ1，ｂ2，…ｂL）、とするとき、中間層２２の出力側の値を表す中間層行列Ｈを、

と書くこととする。なお、この式でＧは、中間層２２の活性化関数を表す。

第１学習処理部３２は、バッチの入力データを入力したときの、第１の機械学習モデルＭ１の中間層２２の出力側の値を表す中間層行列Ｈを求める。さらに第１学習処理部３２は、この中間層行列Ｈと、バッチに含まれる入力データに対応する教師データｔとを用いて、

なる値（以下、中間データと呼ぶ）を求める。なお、本実施の形態の一例においてこの教師データは、センサＳが検出した振動等が異常振動であるか否かを表す情報等であり、第１または第２の機械学習モデルＭ１，Ｍ２に対して入力データが入力されたときに、それぞれの出力層２３が出力するべきデータを表すものである。この教師データは、入力データとなるデータとは別に入力されてもよい。

第１学習処理部３２は前回の機械学習の処理のときに求めた、これらＵ，Ｖの値が記憶部１２に格納されているときには、当該記憶部１２に格納されているＵ，Ｖの値に対して、新たに求めた中間データＵ，Ｖの値（便宜的にΔＵ，ΔＶと書く）を加算して、中間データＵ，Ｖの値を更新する：

そして第１学習処理部３２は、これらの中間データの値Ｕ′，Ｖ′を新たな中間データＵ，Ｖとして、これまでに格納されている中間データＵ，Ｖに置き換えて記憶部１２に格納しておく。なお、第１学習処理部３２は、前回の機械学習の処理のときに求めた中間データＵ，Ｖの値が記憶部１２に格納されていなければ、新たに求めた中間データＵ，Ｖの値をそのまま記憶部１２に格納する。

また第１学習処理部３２は、記憶部１２に格納した中間データＵ，Ｖの値（求めた中間データＵ，Ｖの値、または新たな中間データＵ，Ｖとして置き換えて格納した中間データＵ′，Ｖ′の値）を用いて、中間層２２と出力層２３との間の結合重みβを、

として求め、ここで求めたβの値（β1，β2，…，βL）に基づいて、中間層２２と出力層２３との間の結合重みを設定する。つまり、第ｉ番目の中間層２２から出力層２３の各ノードへの結合重みをβｉの対応する各成分によって定める。

この演算により、結合重みを更新することの正当性については、後に説明することとする。

また第１学習処理部３２は、後に説明する更新情報受入部３５から中間データＵ，Ｖが入力されると（便宜的に当該入力された中間データを、ΔＵ，ΔＶと書く）を、現在記憶部１２に格納している中間データ（第１学習処理部３２自身が求めた中間データ）Ｕ，Ｖに加算して、既に述べた例と同様に中間データＵ，Ｖの値を更新する：

ここで入力された中間データΔＵ，ΔＶが、本発明のパラメータ更新情報に相当する。

そして第１学習処理部３２は、これらの中間データの値Ｕ′，Ｖ′を新たな中間データＵ，Ｖとして、これまでに格納されている中間データＵ，Ｖに置き換えて記憶部１２に格納しておく。

また第１学習処理部３２は、記憶部１２に格納した中間データＵ，Ｖの値（求めた中間データＵ，Ｖの値、または新たな中間データＵ，Ｖとして置き換えて格納した中間データＵ′，Ｖ′の値）を用いて、中間層２２と出力層２３との間の結合重みβを、

として求め、ここで求めたβの値（β1，β2，…，βL）に基づいて、中間層２２と出力層２３との間の結合重みを設定する。つまり、第ｉ番目の中間層２２から出力層２３の各ノードへの結合重みをβｉの対応する各成分によって定める。このようにして、第１学習処理部３２は、更新情報受入部３５から入力される中間データに基づいて、第１の機械学習モデルＭ１の追加的機械学習を実行する。

第２学習処理部３３は、所定のタイミングごとに所定の第２のパラメータ情報の初期化を行い、初期化の後に第１学習処理部３２が用いる入力データと同じ入力データに基づいて、所定の、第２のパラメータ情報を更新する機械学習処理を行う。すなわち、本実施の形態の一例では、第２学習処理部３３は、初期化の後に、データ受入部３１が受け入れた入力データに基づき、記憶部１２に格納された第２の機械学習モデルＭ２のパラメータ情報を更新して、その機械学習処理を行う。また、所定のタイミングごとに、第２の機械学習モデルＭ２のパラメータ情報を初期化する。

具体的に第２学習処理部３３は、所定のタイミングごと（例えば予め定めた時間が経過するごと）に、第２の機械学習モデルＭ２の入力層２１と中間層２２との結合重みα、及びバイアスｂをランダムに決定する（初期化）。なお、このとき、中間層２２と出力層２３との間の結合重みβもランダムに定めておいてもよい。そして第２学習処理部３３は、結合重みαについては更新せず、中間層２２と出力層２３との間の結合重みβを機械学習の対象とする。つまり、ここでは第２の機械学習モデルＭ２と、第２学習処理部３３とにより、ELM（Extreme Learning Machine）を実現している。

また第２学習処理部３３は、この初期化を行うタイミングが到来すると、後に説明する、記憶部１２に格納した中間データＵ，Ｖを、更新情報生成部３４に出力し、その後、初期化を行う際に、記憶部１２から当該中間データＵ，Ｖを削除する。

本実施の形態の例では、第２学習処理部３３は、データ受入部３１が受け入れた直近所定回数分（バッチサイズ分）のデータを、第２の機械学習モデルＭ２に対して入力データとして入力する。

すなわち第２学習処理部３３は、入力データをｋ個（ｋは１以上の自然数）だけ集めてバッチとし、このバッチを訓練データとする。

第２学習処理部３３は、第１学習処理部３２における処理と同様に、バッチの入力データを入力したときの、第２の機械学習モデルＭ２の中間層２２の出力側の値を表す中間層行列Ｈを求める。さらに第２学習処理部３３は、この中間層行列Ｈと、バッチに含まれる入力データに対応する教師データｔ（第１学習処理部３２が用いるものと同じ教師データ）とを用いて、

なる中間データを求める。

第２学習処理部３３は前回の初期化の後、これまでに行った機械学習の処理のときに求めた、これら中間データＵ，Ｖの値が記憶部１２に格納されているときには、当該記憶部１２に格納されている中間データＵ，Ｖの値に対して、新たに求めた中間データＵ，Ｖの値（便宜的にΔＵ，ΔＶと書く）を加算して、中間データＵ，Ｖの値を更新する：

そして第２学習処理部３３は、これらの中間データＵ′，Ｖ′を新たな中間データＵ，Ｖとして、これまでに格納されている中間データＵ，Ｖに置き換えて記憶部１２に格納しておく。なお、第２学習処理部３３は、前回の機械学習の処理のときに求めた中間データＵ，Ｖの値が記憶部１２に格納されていなければ、新たに求めた中間データＵ，Ｖの値をそのまま記憶部１２に格納する。

また第２学習処理部３３は、記憶部１２に格納した中間データＵ，Ｖの値（求めた中間データＵ，Ｖの値、または新たな中間データＵ，Ｖとして置き換えて格納した中間データＵ′，Ｖ′の値）を用いて、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みβを、

として求め、ここで求めたβの値（β1，β2，…，βL）に基づいて、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みを設定する。つまり、第２の機械学習モデルＭ２の第ｉ番目の中間層２２から出力層２３の各ノードへの結合重みをβｉの対応する各成分によって定める。

既に述べたように、この処理によって第２の機械学習モデルＭ２の結合重みβを更新することの正当性については、後に説明することとする。

更新情報生成部３４は、第２機械学習部３３が第２の機械学習モデルＭ２を初期化するタイミングが到来するごとに出力する中間データＵ，Ｖを、更新情報として、予め定められた宛先に宛てて、送出する。ここで予め定められた宛先は、サーバ装置２０であってもよいし、他の情報処理装置１０であってもよい。

更新情報受入部３５は、サーバ装置２０または他の情報処理装置１０から中間データＵ，Ｖの入力を受け入れる。そして当該受け入れた中間データＵ，Ｖを、第１学習処理部３２に出力する。

判定処理部３６は、第１学習処理部３２によって機械学習処理が行われた第１の機械学習モデルＭ１を利用して、入力データに関する所定の判定処理を行う。具体的にこの判定処理部３６は、データ受入部３１に入力されたデータを入力データとして、第１の機械学習モデルＭ１に入力する。そして判定処理部３６は、第１の機械学習モデルＭ１の出力層２３が出力する出力データを得て、当該出力データに基づいて、判定結果を得る。

例えば、上記教師データとして、センサＳが検出した振動等が異常振動であるか否かを表す情報が用いられ、第１の機械学習モデルＭ１が、出力データとして、異常振動が生じたと判断される確率を表す情報を出力するよう、上記第１機械学習処理部３２により機械学習された状態にあるとする。この場合、判定処理部３６は、データ受入部３１に入力されたデータを入力データとして、第１の機械学習モデルＭ１に入力したときに、第１の機械学習モデルＭ１が出力した確率の情報が予め定めたしきい値を超える場合に、製造装置等に異常が生じていると推定される旨を表す判定の結果を、図示しない出力手段であるディスプレイに出力するよう制御する等の処理を行う。

［第１、第２の機械学習モデルのパラメータ更新の妥当性］
ここで、入力データｘi（ｉ＝１，２，…，ｋ）を含むバッチに基づいて、第１、第２学習処理部３２，３３が行う機械学習処理の正当性について説明する。

以下では、機械学習の対象とする機械学習モデル（第１の機械学習モデルＭ１または第２の機械学習モデルＭ２）の入力層２１と中間層２２との間の結合重みをα（α＝α1，α2，…，αL）、バイアスをｂ（ｂ＝ｂ1，ｂ2，…ｂL）、とする。

ここで中間層２２の出力側の値を表す中間層行列Ｈは、

と書ける。なお、この式でＧは、中間層２２の活性化関数を表し、この中間層行列Ｈは、バッチの大きさｋと、中間層２２の次元Ｌとを用いてｋ×Ｌ行列となっている。

このとき、このバッチに対する出力層２３の出力は、次の行列で表される：

なお、ここで中間層２２と出力層２３との間の結合重みの行列をβ（β＝β1，β2，…，βL）としている。ここで、教師データをｔとすると、結合重みβの最適解は、

となる。

ここで、

は、Ｈの疑似逆行列であり、ｔは、バッチに含まれる各入力データに対する教師データ（対応する入力データが入力されたときに出力されるべき出力データ）を配列したものである。

またこの（２）式において、行列Ｈのランクが中間層２２の次元Ｌに一致し、かつ、

が正則行列であるとすると、疑似逆行列は、

と書くことができる。なお、右肩のＴは転置を意味する（以下同じ）。

従って、（２）式は、

と表せる。ここで、

とおくと、（３）式は、

と表すことができる。

第１学習処理部３２は、各バッチが入力されるごとに、（３）式により

を求めて結合重みβを上書きして更新することとしてもよいが、この場合、過去のバッチに含まれる入力データに基づく学習結果が失われることとなる。

そこで本実施の形態の第１学習処理部３２は、新たに入力されたｋ個の入力データを含むバッチを生成したときに次のような処理を行うこととする。なお、当該バッチと、中間層行列と、教師データとを、追加的に得られたバッチという意味で「Δ」を付して、

と表記することとする。

この例では、行列Ｕ，Ｖ（以下、これらの行列を中間結果行列と呼ぶ）に対応するΔＵ，ΔＶは、

となる。

既に機械学習に供された入力データの全体をｘと表記することとすると、新たに得られたバッチを追加した入力データは、

と書くことができる。これに対する中間層行列、及び教師データを、それぞれＨ′，ｔ′と書くと、対応する中間結果行列Ｕ′は、

同様に、Ｖ′は、

となる。

つまり、中間結果行列Ｕ′，Ｖ′について、

なる等式が成立する。

従って、中間データについては、新たに得られた入力データ及び教師データに基づく中間データΔＵ，ΔＶを、過去に得られた入力データ及び教師データに基づく中間データＵ，Ｖに加算することで、過去に得られた入力データ及び教師データと、新たに得られた入力データ及び教師データとの双方に基づく中間データとすることができる。これより、既に述べた第１、第２の機械学習モデルのパラメータ更新の妥当性が理解される。

［OS（On-Line Sequential）-ELMを用いる例］
また、第１学習処理部３２は、ここまでに説明した例に代えて、次のようにして機械学習処理を実行してもよい（第２学習処理部３３における第２の機械学習モデルＭ２の機械学習処理についても同様）。

すなわち第１学習処理部３２は、複数のバッチ（それぞれが任意の自然数ｋi（ｉ＝１，２，…）個の入力データを含む）と、対応する教師データとの組

が得られたとき、次のようにβを更新してもよい。ここで、上記（ｘi，ｔi）は、ｉ番目のバッチにおける入力データと、対応する教師データとの組を表す。

まず第１学習処理部３２は、損失を求める。損失は、各バッチに対応する中間層行列Ｈi（ｉ＝１，２，…）を列方向に配列した中間層行列と、各パッチに対応する教師データｔiを列方向に配列した教師データとを用いて、

と表すことができる。ここで｜Ｘ｜は、ベクトルＸの大きさを意味する。そしてこの損失を最小とするよう重みβiを更新する。具体的な演算のため、上記損失を最小（「０」）とする結合重みβを、

ただし、

と、漸化式の形としておく。さらに、

を用いると、この漸化式は、

と表すことができる。ただし、

である。

この（５）式で理解される通り、重みβと、Ｐ（以下では演算予備値と呼ぶ）とは、前回までに入力されたバッチに対応するβ、Ｐの値で表すことができる。このうち、（５）式での疑似逆行列

の演算が比較的負荷が大きいが、バッチサイズを「１」（バッチに含まれる入力データの数を「１」）とすると、この

はベクトルとなるので、当該ベクトルの各成分を、その逆数で置き換えることで疑似逆行列とすることができる。

また、既に述べた、中間データＵ，Ｖと、上記演算予備値Ｐとは、既に述べたそれぞれの定義から明らかなように、

の関係を有する。

そこで、このOS-ELMを利用する例では、第１学習処理部３２は、データ受入部３１が受け入れる各入力データをバッチサイズ「１」のバッチとし、このバッチを訓練データとする。

ここでｉ番目に入力するバッチに含まれる入力データ（一つの入力データ）をｘiとし、入力層２１と中間層２２との間の結合重みをα、バイアスをｂとして、ｉ番目のバッチに対応する中間層２２の出力側の値を表す中間層行列Ｈiを、

と書くこととする。なお、この式でＧは、中間層２２の活性化関数を表す。この中間層行列Ｈiは、実質的には１×Ｌ次元の行列、つまりＬ次元のベクトルとなる。

第１学習処理部３２は、ｉ番目のバッチの入力データを入力したときの、第１の機械学習モデルＭ１の中間層２２の出力側の値を表す中間層行列Ｈiを求める。さらに第１学習処理部３２は、この中間層行列Ｈiと、前回の（ｉ−１番目までのバッチを入力したときの）演算予備値Ｐi-1とを用いて、（５）式により今回の演算予備値Ｐiを求める。また第１学習処理部３２は、さらに、第１の機械学習モデルＭ１の結合重みβiを、求めたＰiと、ｉ番目のバッチに含まれる入力データに対応する教師データｔiと、現在（ｉ−１番目までのバッチを入力したときに更新した）βi-1とを用いて（５）式により求める。そして第１学習処理部３２は、演算予備値Ｐiを記憶部１２に格納しておく。

なお、ｉ＝０（最初のバッチ）であったときには、前回の演算予備値Ｐi-1がないので、（６）式によりＰ0とβ0とを求めることとする。そして第１学習処理部３２は、演算予備値Ｐ0を記憶部１２に格納しておく。

そして第１学習処理部３２は、ここで求めたβiの値に基づいて、中間層２２と出力層２３との間の結合重みを更新して設定する。つまり、第ｊ番目の中間層２２から出力層２３の各ノードへの結合重みをβiの対応する各第ｊ番目の成分によって定める。

また第１学習処理部３２は、後に説明する更新情報受入部３５から中間データとしてＵ，Ｖが入力されたとき（便宜的に当該入力された中間データをそれぞれΔＵ，ΔＶと書く）には、（７）式の関係を用いて、

を得る。なお、Ｐ，Ｖは、記憶部１２に格納されている現在の演算予備値及び中間データであり、βは、現在の結合重みである。

そして第１学習処理部３２は、ここから、

として、更新後の演算予備値Ｐ′と、更新した結合重みβ′とを求める。

そして第１学習処理部３２は、求めた演算予備値Ｐ′及び中間データＶ′を新たな演算予備値Ｐ及び中間データＶとして、これまでに格納されている演算予備値Ｐ及び中間データＶに置き換えて記憶部１２に格納しておく。

また第１学習処理部３２は、ここで求めたβ′の値に基づいて、中間層２２と出力層２３との間の結合重みを設定する。このようにして、第１学習処理部３２は、更新情報受入部３５から入力される中間データであるΔＵ，ΔＶに基づいて、第１の機械学習モデルＭ１の追加的機械学習を実行する。

またこの例でも、第２学習処理部３３は、所定のタイミングごとに所定の第２のパラメータ情報の初期化を行い、初期化の後に第１学習処理部３２が用いる入力データと同じ入力データに基づいて、所定の、第２のパラメータ情報を更新する機械学習処理を行う。

本実施の形態のこの例では、第２学習処理部３３は、所定のタイミングごと（例えば予め定めた時間が経過するごと）に、第２の機械学習モデルＭ２の入力層２１と中間層２２との結合重みα、及びバイアスｂをランダムに決定する（初期化）。なお、このとき、中間層２２と出力層２３との間の結合重みβもランダムに定めておいてもよい。

また第２学習処理部３３は、この初期化を行うタイミングが到来したとき、後に説明する、記憶部１２に格納した中間データであるＵ，Ｖを、更新情報生成部３４に出力し、その後、初期化の処理を行うときに記憶部１２から当該中間データＵ，Ｖを削除する。

本実施の形態の例では、第２学習処理部３３は、データ受入部３１が受け入れた直近所定回数分（バッチサイズ分）のデータを、第２の機械学習モデルＭ２に対して入力データとして入力する。ここでは第１学習処理部３２におけるのと同様、バッチサイズを「１」とする。

第２学習処理部３３は、前回第２の機械学習モデルＭ２を初期化してから、当該第２の機械学習モデルＭ２にｉ番目のバッチの入力データを入力したときの、第２の機械学習モデルＭ２の中間層２２の出力側の値を表す中間層行列Ｈiを求める。さらに第２学習処理部３３は、この中間層行列Ｈiと、前回の（第２の機械学習モデルＭ２にｉ−１番目までのバッチを入力したときの）演算予備値Ｐi-1とを用いて、（５）式により今回の第２の機械学習モデルＭ２に係る演算予備値Ｐiを求める。また第２学習処理部３３は、さらに、第２の機械学習モデルＭ２の結合重みβiを、求めたＰiと、ｉ番目のバッチに含まれる入力データに対応する教師データｔiと、現在（ｉ−１番目までのバッチを入力したときに更新した）βi-1とを用いて（５）式により求める。そして第２学習処理部３３は、演算予備値Ｐiを第２の機械学習モデルＭ２に係る演算予備値として記憶部１２に格納しておく。

なお、ｉ＝０（最初のバッチ）であったときには、前回の演算予備値Ｐi-1がないので、（６）式によりＰ0とβ0とを求めることとする。そして第２学習処理部３３は、第２の機械学習モデルＭ２に係る演算予備値として、当該演算予備値Ｐ0を記憶部１２に格納しておく。

そして第２学習処理部３３は、ここで求めたβiの値に基づいて、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みを更新して設定する。つまり、第２の機械学習モデルＭ２の第ｊ番目の中間層２２から出力層２３の各ノードへの結合重みをβiの対応する各第ｊ番目の成分によって定める。

また第２学習処理部３３は、（７）式により、第２の機械学習モデルＭ２に係る演算予備値Ｐ及び結合重みをβに対応する、第２の機械学習モデルＭ２に係る中間データＵ，Ｖを生成する。そして前回の初期化の後、これまでに行った機械学習の処理のときに求めた、これら第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値が記憶部１２に格納されているときには、当該記憶部１２に格納されている第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値に対して、新たに求めた第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値（便宜的にΔＵ，ΔＶと書く）を加算して、第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値を更新する。

そして第２学習処理部３３は、これら更新後の、第２の機械学習モデルＭ２に係る中間データＵ，Ｖを、新たな第２の機械学習モデルＭ２に係る中間データＵ，Ｖとして、これまでに格納されている第２の機械学習モデルＭ２に係る中間データＵ，Ｖに置き換えて記憶部１２に格納しておく。なお、第２学習処理部３３は、初期化後に求めた、第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値が記憶部１２に格納されていなければ、新たに求めた第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値をそのまま記憶部１２に格納する。

また第２学習処理部３３は、記憶部１２に格納した第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値（求めた第２の機械学習モデルＭ２に係る中間データＵ，Ｖの値、または新たな第２の機械学習モデルＭ２に係る中間データＵ，Ｖとして置き換えて格納した中間データＵ，Ｖの値）を用いて、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みβを（４）式により求め、ここで求めたβの値に基づいて、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みを設定する。

なお、更新情報生成部３４、更新情報受入部３５、判定処理部３６の動作は既に説明した例と同様であるので、繰り返しての説明は省略する。

［オートエンコーダとする例］
また、ここまでに説明した例では、教師データｔが、入力データｘとは別に提供される場合を含んでいたが、教師データｔは、入力データｘそのものであってもよい。この場合、第１、第２の機械学習モデルＭ１，Ｍ２における入力層２１の次元ｎと、出力層２３の次元ｍとは一致（ｎ＝ｍ）させておき、入力層２１に入力したデータｘを、そのまま教師データｔとする。つまり、第１学習処理部３２及び第２学習処理部３３は、入力データｘがそのまま出力層２３に出力されるよう、第１、第２の機械学習モデルＭ１，Ｍ２の結合重みβを更新することとなる。この例においても、既に述べた方法をそのまま利用できる。

この例では、判定処理部３６は、データ受入部３１に入力されたデータを入力データとして、第１の機械学習モデルＭ１に入力した際、第１の機械学習モデルＭ１の出力層２３が出力する出力データと入力データとの差（損失に相当するもので、二乗平均誤差でよい）が予め定めた値より大きい場合に、異常が生じていると推定される旨を表す判定の結果を、図示しない出力手段であるディスプレイに出力するよう制御する等の処理を行う。

［動作］
本実施の形態は以上の構成を備えており、次のように動作する。以下の例では、情報処理システム１には、複数の情報処理装置１０ａ，１０ｂ…が含まれるものとする。ここでの例では、各情報処理装置１０ａ，ｂ…は、例えば同一の機種の空調機Ａ，Ｂ…にそれぞれ取り付けられた加速度センサＳａ，Ｓｂ…が出力するデータを、入力データとして受け入れるものとする。

またここでは情報処理装置１０同士が互いに直接、他の情報処理装置１０との間で中間データを送受するものとする。さらに以下の例では、バッチサイズは「１」であるものとする。

情報処理装置１０ａは、図５に例示するように、空調機Ａに取り付けられたセンサＳａから入力データを受け入れる（Ｓ１１）。そして入力データを受け入れるごとに情報処理装置１０ａは、第１の機械学習モデルＭ１に対して当該入力データを入力する。そして情報処理装置１０ａは、第１の機械学習モデルＭ１の中間層２２の出力側の値を表す中間層行列Ｈを求める。

情報処理装置１０ａは、ｉ番目の入力データを受け入れたときには、それに対応する中間層行列Ｈiを求める。そしてこの、中間層行列Ｈiと、前回までの演算予備値Ｐi-1とを用いて演算予備値Ｐiを、（５）式を利用して求める。なおｉ＝０の場合（最初の場合）は、（６）式により最初の演算予備値Ｐ0を定める。

また、情報処理装置１０ａは、バッチに含まれる入力データに対応する教師データｔ（ここでは入力データそのものであるとする）と、上記求めた演算予備値Ｐiとを用いて、（５）式により第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みの更新値β′を求め、当該求めた結合重みの更新値β′を、第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みβとして設定する（第１の機械学習処理：Ｓ１２）。

一方、情報処理装置１０は、処理Ｓ１１で空調機Ａに取り付けられたセンサＳａから入力データを受け入れるごとに、第２の機械学習モデルＭ２に対して当該入力データを入力する。そして情報処理装置１０ａは、第２の機械学習モデルＭ２の中間層２２の出力側の値を表す中間層行列Ｈを求める。

そして情報処理装置１０ａは、この第２の機械学習モデルＭ２に係る中間層行列Ｈと、前回第２の機械学習モデルＭ２を初期化してからｊ−１番目のバッチの入力に基づく機械学習処理で得られた演算予備値Ｐj-1とを用いて演算予備値Ｐjを、（５）式を利用して求める。なおｊ＝０の場合（初期化後、最初の場合）は、（６）式により最初の演算予備値Ｐ0を定める。

また、情報処理装置１０ａは、バッチに含まれる入力データに対応する教師データｔ（ここでは入力データそのもの）と、上記求めた第２の機械学習モデルＭ２に係る演算予備値Ｐjとを用いて、（５）式により第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みの更新値β′を求め、当該求めた結合重みの更新値β′を、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みβとして設定する（第２の機械学習処理：Ｓ１３）。

情報処理装置１０ａは、さらに、（７）式により、第２の機械学習モデルＭ２に係る演算予備値Ｐjと、第２の機械学習モデルＭ２の中間層２２と出力層２３との間の結合重みβとに基づいて、中間データＵj，Ｖjを求めておく（中間データ演算：Ｓ１４）。

一方、情報処理装置１０ａは、前回初期化した時点より予め定めた時間が経過したか否かを判断し（Ｓ１５）、経過したと判断したときに（Ｓ１５：Ｙｅｓ）、記憶部１２に格納している第２の機械学習モデルＭ２に係る中間データＵj，Ｖjを、他の情報処理装置１０に対して送出する（Ｓ１６）。なお、どの情報処理装置１０に対して送出するかは予め設定により定めておくものとする。ここでは情報処理装置１０ａは、情報処理装置１０ｂに対して中間データを送出するものとする。

そして情報処理装置１０ａは、第２の機械学習モデルＭ２の入力層２１と中間層２２との結合重みα、及びバイアスｂをランダムに決定し、また中間層２２と出力層２３との間の結合重みβもランダムに定める（Ｓ１７：第２の機械学習モデルの初期化）。

さらに情報処理装置１０ａは、記憶部１２に格納している第２の機械学習モデルＭ２に係る中間データＵj，Ｖjを削除する（Ｓ１８）。またはこの中間データを、過去に送出した中間データとして別途記録してもよい。

また処理Ｓ１５において前回初期化した時点より予め定めた時間が経過していなければ（Ｓ１５：Ｎｏ）、情報処理装置１０ａは、処理Ｓ１６からＳ１８をスキップして処理を続ける。

情報処理装置１０ｂでは、情報処理装置１０ａから中間データを受け入れる。ここでは便宜的に受け入れた中間データを、ΔＵ，ΔＶと表記する。情報処理装置１０ｂは、この時点で情報処理装置１０ｂの記憶部１２に格納している、第１の機械学習モデルＭ１に係る演算予備値Ｐと、第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みβとに基づいて、（７）式により中間データＵ，Ｖを求める（中間データ演算：Ｓ１９）。

そしてこの処理Ｓ１９で求めた、第１の機械学習モデルＭ１に係る中間データＵ，Ｖに、これらΔＵ，ΔＶをそれぞれ加算して、中間データＵ，Ｖの値を更新する（中間データ更新：Ｓ２０）：

そして情報処理装置１０ｂは、これらの中間データの値Ｕ′，Ｖ′を新たな中間データＵ，Ｖとして、これまでに格納されている中間データＵ，Ｖに置き換えて記憶部１２に格納しておく。

また情報処理装置１０ｂは、記憶部１２に格納した中間データＵ，Ｖの値（を用いて、第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みβを（５）式により求める。そして情報処理装置１０ｂは、ここで求めたβの値に基づいて、第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みを設定する（追加学習処理：Ｓ２１）。

なお、情報処理装置１０ａでも同様に、他の情報処理装置１０から中間データΔＵ，ΔＶを受け入れると、情報処理装置１０ｂにおけるものと同様に、情報処理装置１０ａの第１の機械学習モデルＭ１に係る中間データを更新し、情報処理装置１０ａの第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みβを（５）式により求める。そして情報処理装置１０ａは、情報処理装置１０ａの第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みを設定する追加学習処理を行う。

この例によると、例えばセンサＳａが取り付けられている空調機Ａに異常が生じたとき、情報処理装置１０ａは、異常時の入力データを受け入れて第１の機械学習モデルＭ１を機械学習するので、第１の機械学習モデルＭ１は異常時のデータがどのようなものかを機械学習した状態となる。

一方で、この異常時の入力データに係る機械学習は、その直前に初期化された第２の機械学習モデルＭ２においても機械学習されており、その際の中間データΔＵ，ΔＶが得られている。そしてこの中間データは、その後、情報処理装置１０ｂ等、他の情報処理装置１０に送出される。

そして情報処理装置１０ｂが、情報処理装置１０ａで得られた異常時の入力データに基づく中間データΔＵ，ΔＶを受け入れて、この中間データを自己の第１の機械学習モデルＭ１の中間データＵ，Ｖに加算して、結合重みの更新に用いる。このことで、空調機Ｂに取り付けられたセンサＳｂが異常時の入力データを得ていなくても、情報処理装置１０ｂは異常時の入力データを機械学習した状態となる。

そのうえ、情報処理装置１０ｂでは、空調機Ｂから得られる入力データの機械学習の成果もそのまま保持された状態となる。

［中間データの送出タイミング］
以上の例では、情報処理装置１０は、中間データを、第２の機械学習モデルＭ２の初期化の際、つまり中間データを初期化する直前に送出することとしていた。しかしながら本実施の形態はこれに限られるものではない。

例えば情報処理装置１０は、第２の機械学習モデルＭ２の初期化のタイミングでないタイミングでも、中間データを送出してもよい。このタイミングは例えばユーザが指示したタイミング、あるいは、第１の機械学習モデルＭ１の損失が比較的大きい値から小さい値に変化したタイミングであってもよい。後者は、すなわち、入力データが異常と判断される可能性が高い状況から、正常と判断される可能性が高い状況に変化したことを意味する。

［初期化の方法］
また第１，第２の機械学習モデルＭ１，Ｍ２の初期化の方法として、上述の例では、結合重みα，β及びバイアスｂ（さらに利用する場合は演算予備値Ｐ）をランダムに初期化していたが、この初期化の方法は次のようなものであってもよい。

情報処理装置１０は、第１，第２の機械学習モデルＭ１，Ｍ２の初期化の際、当該機械学習モデルの結合重みα，β（さらに利用する場合は演算予備値Ｐ）をランダムに設定し、バイアスｂをすべて「０」としてもよい。

また、情報処理装置１０は、第１，第２の機械学習モデルＭ１，Ｍ２の初期化の際、当該機械学習モデルの結合重みα，β（さらに利用する場合は演算予備値Ｐ）、並びにバイアスｂを、例えば他の情報処理装置１０で決定した対応する値など、予め設定された値を取得して、当該取得した値を設定してもよい。この場合もバイアスｂは取得せず、バイアスｂをすべて「０」に設定してもよい。

また、情報処理装置１０は、第１，第２の機械学習モデルＭ１，Ｍ２の初期化の際、当該機械学習モデルの結合重みαとバイアスｂとをランダムに決定しておき、結合重みβと、演算予備値Ｐとを、OS（On-Line Sequential）-ELM等で標準的に用いられている方法で設定することとしてもよい。

［サーバにおける中間データの蓄積］
また、ここまでの説明では、情報処理装置１０は、情報処理装置１０同士で中間データを送受することとしていたが、本実施の形態はこの例に限られない。

すなわち情報処理装置１０が、中間データΔＵ，ΔＶを、サーバ装置２０に送出して、サーバ装置２０が中間データΔＵ，ΔＶを蓄積して保持し、当該保持する中間データの送信元とは異なる情報処理装置１０に対して、当該保持する中間データを送出することとしてもよい。

本実施の形態の一例では、サーバ装置２０は、情報処理装置１０から中間データΔＵ，ΔＶを受信すると、当該中間データと、受信した日時を表す情報と、中間データの送信元である情報処理装置１０を特定する情報とを関連付けて、中間データベースとして、蓄積して格納する。

そしてサーバ装置２０は、所定のタイミングが到来するごとに、中間データベースを参照し、蓄積している中間データのうち、未送信の中間データの一つを選択して、当該中間データの送信元である情報処理装置１０とは異なる情報処理装置１０に対して当該中間データを送出する。

なお、サーバ装置２０は、蓄積している中間データごとに、送信先とする情報処理装置１０を選択してもよい。この選択は例えば中間データの送信元である情報処理装置１０を特定する情報に基づいて行われてもよい。

一例として、サーバ装置２０の管理者は、情報処理装置１０を特定する情報に対応づけて、当該情報で特定される情報処理装置１０が送信した中間データの送信先となる情報処理装置１０を特定する情報のリストを設定してもよい。このような設定は、例えば製造ラインが複数ある場合に、情報処理装置１０ａ，ｂが第１の製造ラインのデータを入力データとして用い、情報処理装置１０ｃ，ｄが第２の製造ラインのデータを入力データとして用い…というように学習の対象を共有するべき情報処理装置１０が組となっているときに有効である。

具体的には、情報処理装置１０ａを送信元とする中間データは、第１の製造ラインに関係する他の情報処理装置１０である情報処理装置１０ｂへは送出するが、第１の製造ラインに関係しない、情報処理装置１０ｃ，ｄへは送出しないことと設定してもよい。

またサーバ装置２０は既に送信した中間データについては、削除するか、送信済みとして記録しておいてもよい。

またサーバ装置２０に中間データを蓄積する際には、当該中間データがどのような入力データを学習したものであるかを表す索引情報が関連付けて記録されてもよい。この索引情報は人為的に入力されて記録されるものであってよい。この索引情報は例えば、「空調機Ａの異常振動」といったような文字列情報でよい。このような索引情報を記録しておけば、ある情報処理装置１０に「空調機Ａの異常振動」に係る機械学習を施したい場合に、利用者の指示に従い、「空調機Ａの異常振動」との索引情報に関連付けられた中間データを検索し、検索により見出された中間データを、送信先として指定された情報処理装置１０へ送出する。

このように中間データを、学習した内容を索引に含めて関連付けて検索可能にしておくことで、必要な内容を学習している中間データを利用して、目的の機械学習モデルを機械学習させることができる。

［中間データの送信条件］
また、ここまでの説明では、各情報処理装置１０は、第２の機械学習モデルＭ２を初期化する際に中間データΔＵ，ΔＶを送出することとしていたが、本実施の形態では、これら中間データΔＵ，ΔＶを送出するか否かを所定の送信条件により判断してもよい。

具体的に情報処理装置１０は、過去に送信した中間データΔＵ，ΔＶの少なくとも一部を削除せずに記憶しておく。そして情報処理装置１０は、送出しようとする中間データΔＵ，ΔＶ（区別のため、ΔＵcur，ΔＶcurと表記する）と、記憶している、過去に送信した少なくとも一組の中間データΔＵ，ΔＶ（区別のため、ΔＵold，ΔＶoldと表記する）のそれぞれとの間の距離（Earth Mover’s Distanceなどの距離尺度を利用すればよい）ｄ1，ｄ2，…を求める。情報処理装置１０は、ここで求めた距離ｄ1，ｄ2，…が、いずれも予め定めたしきい値ｄthより大きいことを上記所定の送信条件として、ｄ1＞ｄthかつ、ｄ2＞ｄthかつ…との送信条件を満足する場合に、求めた中間データΔＵcur，ΔＶcurを、他の情報処理装置１０（またはサーバ装置２０）へ送出する。

ここで記憶しておく過去の中間データΔＵold，ΔＶoldは、直近の所定数回分でもよい。情報処理装置１０は、記憶している過去に送信した中間データΔＵold，ΔＶoldのいずれかと、求めた中間データΔＵcur，ΔＶcurとの上記距離ｄが予め定めたしきい値ｄthを越えない場合は、当該中間データΔＵcur，ΔＶcurを、他の情報処理装置１０（またはサーバ装置２０）へ送出しないよう制御する。

本実施の形態のこの例によると、追加学習を行うことが有意であると考えられる中間データに限り、情報処理装置１０間で交換されるため、追加学習にかかる処理負荷が軽減され、また中間データの送受信に係る通信負荷も軽減される。

［送信元を選択する例］
さらに本実施の形態の情報処理システム１では、情報処理装置１０のうち、中間データΔＵ，ΔＶを送信する情報処理装置１０を、予め定めた選択条件に基づいて選択するようにしてもよい。

ここで選択条件は、情報処理装置１０の判定処理の精度（推論精度）の評価結果に基づくものであってもよい。一例として、各情報処理装置１０は推論精度に関する情報を生成し、当該推論精度が予め定めたしきい値を超える情報処理装置１０を、中間データΔＵ，ΔＶを送信する情報処理装置１０としてもよい。

具体的に推論精度の情報は、正解となる出力データ（正解データ）が用意されている入力データを、第１の機械学習モデルＭ１に入力し、その出力データと対応する正解データとを比較することで得られる。例えば出力データと正解データとの距離が予め定めた距離しきい値を下回る場合に推論精度が十分であると判断する。

そして推論精度が十分であると判断された情報処理装置１０に限って、第２機械学習処理３３を動作させて中間データΔＵ、ΔＶを生成させ、他の情報処理装置１０に送出させることとしてもよい。

この例によると、推論精度の比較的高い情報処理装置１０が用いた入力データに基づく機械学習の成果を、他の情報処理装置１０でも共有できるため、機械学習の効率を向上できる。

［中間データの送信先の選択］
また、中間データの送信先となる情報処理装置１０は、送信元となる情報処理装置１０ごとに予め定められていてもよいし、次の方法で選択されてもよい。

本実施の形態の一例では、中間データの送信元となる情報処理装置１０は、結合重みβが自己の結合重みβと比較的近接している他の情報処理装置１０に対して中間データを送信することとしてもよい。

具体的に本実施の形態の一例では、各情報処理装置１０は、追加学習処理の対象となる第１の機械学習モデルＭ１における結合重みβを、他の情報処理装置１０との間で共有する。そして、中間データの送信元となる情報処理装置１０は、他の情報処理装置１０の第１の機械学習モデルＭ１における結合重みβ（便宜的にβotherと表記する）と、自己の第１の機械学習モデルＭ１における結合重みβ（便宜的にβselfと表記する）とを比較し、これらが比較的近接している場合に、当該他の情報処理装置１０を中間データの送信先とする。ここで結合重みβotherとβselfとが近接しているか否かは、これらの距離（｜βother−βself｜）が予め定めた、重み距離しきい値を下回るか否かにより判断すればよい。

つまり中間データの送信元となる情報処理装置１０は、他の情報処理装置１０の第１の機械学習モデルＭ１における結合重みβotherと、自己の第１の機械学習モデルＭ１における結合重みβselfとの距離が、上記重み距離しきい値を下回る場合に、当該他の情報処理装置１０を中間データの送信先とする。

あるいは、本実施の形態では、情報処理装置１０が中間データを送信する際、中間データとともに、当該送信元となった情報処理装置１０の第１の機械学習モデルＭ１における結合重みβ（βother）を併せて送信することとしてもよい。

この場合、当該中間データの送信元となった情報処理装置１０から中間データと結合重みβotherを受信した情報処理装置１０は、自己の第１の機械学習モデルＭ１における結合重みβselfと当該受信した結合重みβotherとの距離が、上記重み距離しきい値を下回る場合に、受信した中間データに基づく、第１の機械学習モデルＭ１に対する追加学習の処理を実行する。

また、中間データと結合重みβotherを受信した情報処理装置１０は、自己の第１の機械学習モデルＭ１における結合重みβselfと当該受信した結合重みβotherとの距離が、上記重み距離しきい値を下回らないときには、受信した中間データを破棄して、これに基づく第１の機械学習モデルＭ１の結合重みβselfの更新を行わないよう制御する。

また、ここでは第１の機械学習モデルＭ１の結合重みβを互いに比較しているが、結合重みβに代えて、第１の機械学習モデルＭ１に係る中間データＵ，Ｖ同士を比較してもよい。この場合、上記のように結合重みβを共有する代わりに第１の機械学習モデルＭ１に係る中間データＵ，Ｖを共有するか、あるいは、中間データΔＵ，ΔＶとともに結合重みβを送信する代わりに、第１の機械学習モデルＭ１に係る中間データＵ，Ｖを、中間データΔＵ，ΔＶとともに送信すればよい。

また中間データＵ，Ｖの比較も、中間データＵ間の距離と、中間データＶ間の距離とを演算することによって行うことができる。

本実施の形態のこの例によると、機械学習の内容が比較的大きく相違する情報処理装置１０間で中間データを交換して追加学習を行うことにより、機械学習の結果が不安定になる（経時的に大きく変動する）ことがないように制御できる。

［中間データの共有方法の別の例］
また、本実施の形態の一例では、複数の情報処理装置１０が、それぞれ生成した中間データを相互に共有することとしてもよい。この例では、当該複数の情報処理装置１０を、仮想的にリング状のネットワーク上に配列する。

具体的に情報処理装置１０ａ，１０ｂ，１０ｃの間で中間データを共有する場合、仮想的に情報処理装置１０ａ→１０ｂ→１０ｃ→１０ａ…というようにリング状のネットワークを形成する。

そして情報処理装置１０ａは、送信の対象となった中間データを、このネットワークに従って隣接する情報処理装置１０ｂに送出する。そして情報処理装置１０ｂが当該受信した中間データに基づいて、その第１の機械学習モデルＭ１を追加学習する。一方、この情報処理装置１０ｂは、自己が生成して送信の対象となった中間データを、上記ネットワーク上で隣接する情報処理装置１０ｃに送出する。

そして情報処理装置１０ｃが当該受信した中間データに基づいて、その第１の機械学習モデルＭ１を追加学習する。以下、同様に情報処理装置１０ｃが、自己が生成して送信の対象となった中間データを、上記ネットワーク上で隣接する情報処理装置１０ａに送出し…というように、中間データを順次循環させつつ共有することとしてもよい。

［追加学習を行う情報処理装置の集中化］
また、ここまでの説明では、各情報処理装置１０がそれぞれ中間データＵ，Ｖを送受して追加学習を行うこととしていたが、本実施の形態の一例では、一旦、特定の情報処理装置１０が、複数の情報処理装置１０を含む情報処理装置グループの代表として他の情報処理装置１０が送出する中間データに基づく追加学習を行っておくこととしてもよい。そして、その後、当該代表となった情報処理装置１０は、追加学習を行って生成した第１の機械学習モデルの結合重みβを、同じ情報処理装置グループに属する、他の（代表となった情報処理装置１０以外の）情報処理装置１０に対して送信して、それぞれの第１の機械学習モデルの結合重みβとして設定させることとしてもよい。

この例は、複数の情報処理装置１０で共通の結合重みβを用いた推論を行うこととする場合に有効である。

［情報処理装置の統合］
さらに本実施の形態の一例では、各情報処理装置１０の第１の機械学習モデルＭ１における結合重みβを互いに比較し、それぞれの結合重みβが予め定めた基準よりも近接していると判断される場合に、当該結合重みβが近接している情報処理装置１０のうち一方の動作を停止させることとしてもよい。ここで結合重みが近接しているか否かの判断は、既に述べた例と同様、一対の結合重みβ１，β２の間の距離（｜β１−β２｜）が予め定めた、重み距離しきい値を下回るか否かにより判断すればよい。

［行動分析の例］
また本実施の形態の情報処理装置１０は、既に述べた例のように、製造装置に取り付けたセンサＳの出力を入力データとするばかりでなく、他の種々の入力データについても適用できる。

一例として本実施の形態の情報処理装置１０は、撮像された人物の行動が異常な行動であるか否かを判断するシステムにも適用できる。ここで異常な行動とは例えば、転倒や、移動方向の急激な変更（Ｕターン等）などの行動を意味し、異常でない行動とは例えば、単なる通過（直線的移動）などの行動を意味するものとする。

本実施の形態の一例では、情報処理システム１が、図６に例示するように、複数の情報処理装置１０と、画像取得装置４０とを含む。ここで画像取得装置４０は、例えば通行人が往来する路上の所定の範囲（例えば路上の１０メートル×２０メートル程度の範囲）を撮像するカメラ４１と、当該カメラが撮像した画像データを処理して、各情報処理装置１０に対する入力データを生成するコントローラ４２とを含む。

このコントローラ４２は、図７に例示するように、処理の対象とする、カメラ４１が撮像した画像データを、例えば横４×縦３個の矩形状のブロックＡ，Ｂ，Ｃ…，Ｌに分割する。なお各ブロックは同一の形状であるものとする。また、分割の態様はこの例に限られない。この例では、コントローラ４２は、各ブロック内の画像から得られるデータを、１２個の情報処理装置１０ａ，ｂ，…，ｌのそれぞれの入力データとして、各情報処理装置１０に出力する。図７では、ブロックごとに、対応する情報処理装置１０を括弧書きで示している。なお、以下、あるブロックから得られたデータを処理する情報処理装置１０と、当該ブロックを担当する情報処理装置１０と呼ぶ。

図７の例では、画像データの左上隅のブロックＡから右方向へ順に、情報処理装置１０ａ，ｂ，ｃ，ｄが処理を担当し、次の行では左側のブロックＥから右へ順に、情報処理装置１０ｅ，ｆ，ｇ，ｈが処理を担当し…というように、いわゆるスキャンライン順に、各ブロックに関する処理を担当する情報処理装置１０を定めている。

またコントローラ４２は、入力データを次の例のように生成する。すなわちコントローラ４２は、処理の対象となった画像データから、人物が撮像されている領域を認識する。この認識の処理は、例えばＹＯＬＯ（https://arxiv.org/abs/1506.02640）などのオブジェクト検出処理を適用して行う。

コントローラ４２は、認識した領域（複数の人物が認識されたときにはそれぞれの領域）の中心の位置を特定する。ここでは領域はいずれも人物に外接する矩形として認識されるものとし、その中心の位置は、矩形の頂点間を結ぶ対角線の交点とすればよい。

コントローラ４２は、上記ブロックごとに、認識した領域のそれぞれの中心の位置が当該ブロックに進入したときのブロックの外周上の位置を表す情報（座標情報）や進入方向（角度）と、当該中心の位置のブロック内の滞留時間と、当該中心の位置がブロックから退出するときのブロックの外周上の位置を表す情報（座標情報）や退出の方向（角度）と…などのデータを生成し、この生成したデータを、当該ブロックに対応する情報処理装置１０の入力データとする。

ここで座標情報は、ブロックごとにローカルな座標系によって定める。具体的にこの座標情報は、ブロック内の所定の点（例えばブロックの左上頂点の座標）を原点として表す。つまり、第１のブロックの中心点（ブロックの対角線の交点）と、第２のブロックの中心点とが互いに同じ座標情報となるようにしておく。

コントローラ４２は、人物を認識した領域の中心が含まれる（進入した場合を含む）か、あるいは退出したブロックについて、当該ブロックに対応する情報処理装置１０に対し、上記生成した入力データを入力する。

各情報処理装置１０は、既に述べた方法でこの入力データを利用して、第１の機械学習モデルＭ１の機械学習処理を実行する。また、所定のタイミングごとに第２の機械学習モデルＭ２を初期化し、初期化してから次に初期化するまでに得られた入力データに基づいて第２の機械学習モデルＭ２の機械学習処理を行い、またその間に、中間データΔＵ，ΔＶを生成する。

各情報処理装置１０は、得られた中間データΔＵ，ΔＶを、自身とは異なる情報処理装置１０に対して出力する。また、各情報処理装置１０は、他の情報処理装置１０から受け入れた中間データに基づいて第１の機械学習モデルＭ１の追加的な学習を実行する。この追加的な学習の処理では、既に述べたように、第１の機械学習モデルＭ１に係る中間データＵ，Ｖに、他の情報処理装置１０から受け入れた中間データΔＵ，ΔＶをそれぞれ加算する。そして情報処理装置１０は、加算して得られた中間データに基づいて、第１の機械学習モデルＭ１の中間層２２と出力層２３との間の結合重みβの情報を演算する。

なお、各情報処理装置１０は、得られた中間データΔＵ，ΔＶの送出先を例えば次のように定めてもよい。すなわち情報処理装置１０は、処理の対象となる画像データの外周に沿って配列されたブロック（ブロックＡ，Ｂ，Ｃ，Ｄ，Ｅ，Ｈ，Ｉ，Ｊ，Ｋ，Ｌ）については、時計回り方向に隣接したブロック（例えばブロックＡはブロックＢへ、ブロックＥはブロックＡへ、ブロックＪはブロックＩへ…）へ送出することとしてもよい。また、画像データの内周に配列されたブロック（ブロックＦ，Ｇ）についてはそれぞれ相互に送出しあう（ブロックＦはブロックＧへ、ブロックＧはブロックＦへ送出する）ようにしてもよい。

このように中間データの送出先を定めると、比較的類似する入力データを学習すると想定される、隣接したブロックのいずれか一つから中間データを受け入れることとなり、多数の中間データを処理する必要がないうえ、循環的に学習結果が共有されて、学習効率を向上できる。

また別の例では、得られた学習データの数が十分でないブロックを担当する情報処理装置１０に対して、他の情報処理装置１０から中間データを送出するようにしてもよい。つまり、人物が通過せず、十分な学習データが得られないブロックを担当する情報処理装置１０に対して、他のブロック（例えば隣接するブロック）を担当する情報処理装置１０から中間データを提供することで、機械学習の不足を補うこととしてもよい。

この例では、情報処理装置１０は、予め定めた時間の間に第１の機械学習モデルＭ１の結合重みβを演算した回数をカウントしておく。ここで予め定めた時間は例えば起動時から所定の時間としてもよいし、第２の機械学習モデルを前回初期化した時点から次の初期化の時点までの時間であってもよい。

また各情報処理装置１０は、当該カウントして得たカウント値が予め定めたしきい値を下回る場合に、隣接するブロックを担当する情報処理装置１０に対してカウント値を送出し、中間データを要求する。

中間データの要求を受けた情報処理装置１０は、当該要求とともに受信したカウント値（要求元のカウント値、以下要求側カウント値と呼ぶ）Ｃrと、自己自身が予め定めた時間の間に第１の機械学習モデルＭ１の結合重みβを演算した回数をカウントして得たカウント値Ｃsとを比較する。

ここで例えばＣs＞Ｃrであり、かつ、Ｃsが予め定めたしきい値を超えるときに、情報処理装置１０は、得られた中間データΔＵ，ΔＶを、中間データの要求元の情報処理装置１０へ送出する。

この方法では、中間データを要求した情報処理装置１０は、隣接する複数の情報処理装置１０から中間データを受け取ることがあるが、複数の中間データを受信した場合には、受信した中間データのうちからランダムに選択するか、または自己が得ている中間データと、受信した、対応する中間データとを比較して、当該比較の結果に基づいて追加的な学習に用いる中間データを選択してもよい（複数の中間データを選択してもよい）。

具体的には、例えば受信した中間データのうち、自己が得ている中間データと最も似ている（距離が最も小さい）中間データを選択することとしてもよいし、最も異なっている（距離が最も大きい）中間データを選択することとしてもよい。

この例によると、例えばブロックＧに相当する範囲を通過する人物が、他のブロックに比べて少なく、ブロックＧを担当する情報処理装置１０に入力される入力データの数が少ない場合に、ブロックＧに隣接するブロックＣ，Ｆ，Ｈ，Ｋを担当する情報処理装置１０から中間データΔＵ，ΔＶを得ることができる。

またここでは情報処理装置１０自身が中間データの送信先を選択し、あるいは受信した中間データのうち追加的な学習に用いる中間データを選択しているが、ブロックを担当する情報処理装置１０のうち一つ、あるいは、ブロックを担当する情報処理装置１０とは異なるコンピュータ（例えばコントローラ４２でもよい）をスーパーバイザとして、このスーパーバイザが、各ブロックを担当する情報処理装置１０の上記カウント値を得て、当該カウント値を参照して次の処理を行ってもよい。

すなわち、カウント値が予め定めたしきい値を下回る情報処理装置１０があるときには、スーパーバイザは、当該カウント値が予め定めたしきい値を下回る情報処理装置１０（目標情報処理装置と呼ぶ）が担当するブロックの周囲のブロックを担当する情報処理装置１０のうち、カウント値が最も大きい情報処理装置１０に対して、目標情報処理装置に対し、中間データΔＵ，ΔＶを送信するよう指示してもよい。そしてこの指示を受けた情報処理装置１０は、中間データΔＵ，ΔＶを、目標情報処理装置へ送出する。

本実施の形態のこの例では、各情報処理装置１０の第１、第２の機械学習モデルＭ１，Ｍ２を、オートエンコーダとして機械学習することとする。また、学習処理中の入力データとしては、単に画像データとして撮像されている範囲内を人物が直線的に通過していくだけの画像データを機械学習する。

その後、機械学習結果を利用して判定の処理を行う際には、情報処理装置１０は、それぞれが担当するブロック内に、例えば人物が撮像された領域の中心が長時間に亘って滞留する場合に、学習されたデータとは異なる入力があった（異常が生じた）ものと判定する。そして情報処理システム１は、例えば異常が生じたと判定した情報処理装置１０が担当するブロック内に中心が存在する人物の領域を、他の人物の領域とは区別可能な態様で（例えば領域の外周線をそれぞれ互いに違う色で）描画する等して、利用者に対し、異常の発生を報知する。

これにより、例えば人物が撮像された範囲内で立ち止まった、あるいは転倒して動かなくなった、という状態にある場合に、警告を発することが可能となる。

１ 情報処理システム、１０ 情報処理装置、１１ 制御部、１２ 記憶部、１３ 通信部、１４ 入出力部、２０ サーバ装置、２１ 入力層、２２ 中間層、２３ 出力層、３１ データ受入部、３２ 第１学習処理部、３３ 第２学習処理部、３４ 更新情報生成部、３５ 更新情報受入部、３６ 判定処理部、４０ 画像取得装置、４１ カメラ、４２ コントローラ。

Claims (8)

1. 複数の情報処理装置を含む情報処理システムであって、
   前記情報処理装置が、それぞれ、
   互いに異なるデータの入力を逐次的に受け入れて、当該受け入れたデータに基づいて、所定の第１の推論器の第１のパラメータ情報を更新して、前記第１の推論器の機械学習処理を行う第１の学習処理手段と、
   所定のタイミングごとに所定の第２の推論器の第２のパラメータ情報の初期化を行い、初期化の後に前記第１の学習処理手段が受け入れるデータと同じデータに基づいて、前記第２のパラメータ情報を更新して、第２の推論器の機械学習処理を行う第２の学習処理手段と、
   他の情報処理装置の第２の学習処理手段が更新した第２のパラメータ情報に係るパラメータ更新情報を受け入れて、前記第１の推論器の第１のパラメータ情報の更新処理に供する追加学習処理手段と、
   を含む情報処理システム。
2. データの入力を逐次的に受け入れて、当該受け入れたデータに基づいて、所定の第１の推論器の第１のパラメータ情報を更新して、前記第１の推論器の機械学習処理を行う第１の学習処理手段と、
   所定のタイミングごとに所定の第２の推論器の第２のパラメータ情報の初期化を行い、初期化の後に前記第１の学習処理手段が受け入れるデータと同じデータに基づいて、前記第２のパラメータ情報を更新して、第２の推論器の機械学習処理を行う第２の学習処理手段と、
   他の情報処理装置の第２の学習処理手段が更新した第２のパラメータ情報に係るパラメータ更新情報を受け入れて、前記第１の推論器の第１のパラメータ情報の更新処理に供する追加学習処理手段と、を含む情報処理装置。
3. 請求項２に記載の情報処理装置であって、
   前記第２の学習処理手段が更新した第２のパラメータ情報に係るパラメータ更新情報を生成する更新情報生成手段をさらに含み、
   当該生成されたパラメータ更新情報が、他の情報処理装置へ送信されて前記追加学習手段による第１のパラメータ情報の更新処理に供される情報処理装置。
4. 請求項３に記載の情報処理装置であって、
   前記更新情報生成手段がパラメータ更新情報を生成したときに、当該生成したパラメータ更新情報と、過去に送信したパラメータ更新情報とを比較し、当該比較の結果により、前記生成したパラメータ更新情報を送信するか否かを決定する情報処理装置。
5. 請求項３または４に記載の情報処理装置であって、
   前記第１の推論器の推論精度を評価する手段をさらに有し、当該推論精度が所定の条件を満足する場合に、前記パラメータ更新情報を他の情報処理装置へ送信する情報処理装置。
6. 請求項３から５のいずれか一項に記載の情報処理装置であって、
   前記更新情報生成手段がパラメータ更新情報を生成したときに、前記第１の推論器の第１のパラメータ情報と、送信先となる他の情報処理装置の第１の推論器の第１のパラメータ情報とを比較して、当該比較の結果により、前記生成したパラメータ更新情報を送信するか否かを決定する情報処理装置。
7. 請求項２から６のいずれか一項に記載の情報処理装置であって、
   前記追加学習処理手段は、前記他の情報処理装置から当該他の情報処理装置の第１の推論器の第１のパラメータ情報を取得して、当該取得した第１のパラメータ情報と、自己の前記第１の推論器の第１のパラメータ情報とを比較し、当該比較の結果により、前記受け入れたパラメータ更新情報を、前記第１の推論器の第１のパラメータ情報の更新処理に供するか否かを決定する情報処理装置。
8. コンピュータを、
   データの入力を逐次的に受け入れて、当該受け入れたデータに基づいて、所定の第１の推論器の第１のパラメータ情報を更新して、前記第１の推論器の機械学習処理を行う第１の学習処理手段と、
   所定のタイミングごとに所定の第２の推論器の第２のパラメータ情報の初期化を行い、初期化の後に前記第１の学習処理手段が受け入れるデータと同じデータに基づいて、前記第２のパラメータ情報を更新して、第２の推論器の機械学習処理を行う第２の学習処理手段と、
   他の情報処理装置の第２の学習処理手段が更新した第２のパラメータ情報に係るパラメータ更新情報を受け入れて、前記第１の推論器の第１のパラメータ情報の更新処理に供する追加学習処理手段と、として機能させるプログラム。
   
   

Images