JP2021026438A

JP2021026438A - システム、方法、及びプログラム

Info

Publication number: JP2021026438A
Application number: JP2019142936A
Authority: JP
Inventors: 哲今井; Satoru Imai
Original assignee: Canon Inc
Current assignee: Canon Inc
Priority date: 2019-08-02
Filing date: 2019-08-02
Publication date: 2021-02-22
Anticipated expiration: 2039-08-02
Also published as: EP3771997A1; US20210034923A1; JP7353851B2; CN112308239A

Abstract

【課題】機械学習により予測を行うシステムにおける無駄な稼働コストを抑制することである。【解決手段】複数のパラメータを含む入力データによる学習処理で生成した予測モデルを管理するシステムであって、学習結果から、前記複数のパラメータごとの学習寄与率を算出する第１算出手段と、前記第１算出手段で算出した学習寄与率から、学習寄与率の低いパラメータを特定する第１特定手段と、前記第１特定手段で特定されたパラメータを除いた入力データによる再学習を指示する第１指示手段と、前記第１特定手段で特定されたパラメータに対応する構成を特定する第２特定手段と、前記第２特定手段で特定された構成の停止命令を発行する第１発行手段と、を有する。【選択図】図１

Description

本発明は、予測モデルを管理するシステム、方法、及びプログラムに関する。

機械学習では、学習用の入力データから特徴を捉えて予測モデルを学習し、学習が完了した予測モデルで本番運用を行う。従来、このような予測モデルを用いて、予測用の入力データにより、ある事柄の予測を行うシステムが知られている。
このような予測を行うシステムでは、多様な入力データにより予測することで予測精度を高めるため、一般的に入力データは多次元ベクトルとなる。ところが、入力データの次元数が多すぎると、学習に多大な計算コストがかかる他、特徴を適切に学習するために膨大な学習データが必要となるという問題がある。また、多次元ベクトルの次元数が膨大であると、かえって学習精度が低下することが知られている。これは、次元数の増加により、多次元ベクトルの取り得る特徴の幅が指数関数的に広がることで、限られた数の入力データから、その特徴を十分に捉えられなくなることが原因である。
そこで従来、学習用の入力データの次元数の削減についての検討がされている。例えば特許文献１には、学習に寄与する度合い（以下、学習寄与率という）が低いパラメータを、次元削減の対象とする次元削減処理を有する発明が開示されている。

特開２０１１−１９７９３４号公報

多次元の学習用の入力データから特徴を適切に捉え学習するには、上述のように次元削減処理を組み込む必要がある。しかし、特許文献１では、その次元削減処理は、削減した次元のパラメータを使用しないこととするに過ぎないものであった。このため、削減した次元のパラメータを、削減前に各構成（例えば装置、センサ、又はソフトウェア）で収集することで取得、送信等していた場合、次元削減処理を実行したとしても削減した次元のパラメータを収集し続けることになる。こうなると、削減した次元のパラメータを取得するための構成、及び発生する通信処理の稼働コストが無駄になるという問題があった。
本発明は、機械学習により予測を行うシステムにおける無駄な稼働コストを抑制することを目的とする。

本発明の一実施形態のシステムは、複数のパラメータを含む入力データによる学習処理で生成した予測モデルを管理するシステムであって、学習結果から、前記複数のパラメータごとの学習寄与率を算出する第１算出手段と、前記第１算出手段で算出した学習寄与率から、学習寄与率の低いパラメータを特定する第１特定手段と、前記第１特定手段で特定されたパラメータを除いた入力データによる再学習を指示する第１指示手段と、前記第１特定手段で特定されたパラメータに対応する構成を特定する第２特定手段と、前記第２特定手段で特定された構成の停止命令を発行する第１発行手段と、を有する。

本発明によれば、機械学習により予測を行うシステムにおける無駄な稼働コストを抑制することができる。

本発明の実施例１に係る情報処理システムの構成を示すブロック図である。（Ａ）は、パラメータ最適化システム１０１、及びゲートウェイ装置１０２のハードウェア構成を示すブロック図であり、（Ｂ）は、パラメータ取得装置１０３のハードウェア構成を示すブロック図である。パラメータ最適化システム１０１の機能構成を示すブロック図である。ゲートウェイ装置１０２の機能構成を示すブロック図である。パラメータ取得装置１０３の機能構成を示すブロック図である。本発明の実施例１におけるシーケンス図である。本発明の実施例１における学習寄与判断部３０４による処理の流れを示すフロー図である。本発明の実施例２におけるシーケンス図である。本発明の実施例２における学習寄与判断部３０４による処理の流れを示すフロー図である。本発明の実施例３におけるシーケンス図である。本発明の実施例３における学習寄与判断部３０４による処理の流れを示すフロー図である。

以下、本発明を実施するための形態について、図面を参照して詳細に説明する。

図１は、本発明の実施例１に係る情報処理システムの構成を示すブロック図である。
本実施例の情報処理システム１００は、一つ以上のパラメータ取得装置１０３と、このパラメータ取得装置１０３で取得したパラメータを用いて学習、及び予測を実行する機械学習システムと、を含むシステムである。なお、本実施例では、機械学習システムは、パラメータ最適化システム１０１に内包されているものとする。本実施例では、パラメータ取得装置１０３は、取得するパラメータごとに設ける。情報処理システム１００は、予測モデルを管理するシステムである。

また、本実施例で扱う学習、及び予測処理の具体例としては、自動車の自動運転が挙げられる。
本実施例の情報処理システム１００は、手動運転時、自動車に取り付けられた各種構成で収集したパラメータに対し、ドライバがとった行動を正解ラベルとして付与し、教師データすなわち学習用の入力データを作成する。自動車に取り付けられた各種構成は、イメージセンサ、距離センサ、及び加速度センサ等のパラメータ取得装置１０３である。表１は、教師データの例を示す表である。情報処理システム１００は、表１に示すような教師データを多数用意し学習することで、予測モデルを作成する。

情報処理システム１００は、本番運用時は、ＧＰＳで取得した現在値座標、ユーザの入力した目的地座標、及び道路情報から、ルートを決定する。ＧＰＳは、ＧｌｏｂａｌＰｏｓｉｔｉｏｎｉｎｇＳｙｓｔｅｍの略称である。情報処理システム１００は、パラメータ取得装置１０３で収集したリアルタイムのパラメータを予測モデルに入力し、次に取るべき行動を予測（決定）し、自動車を操作しながら、決定したルートを進行する。表２は、予測時のパラメータと予測結果の例を示す表である。

なお、本実施例のように、本発明を自動車の自動運転へ適用したことは、あくまで本発明の一実施例に過ぎない。本発明は、例えば複数のパラメータ取得装置を持つスマートホーム、飛行機、船舶、ドローンを含むロボット、印刷装置及びスキャナの少なくともいずれかを含む画像処理装置、３Ｄプリンタ、並びに通信中継機器のいずれかにも、適用可能である。すなわち、本発明の予測モデルは、スマートホーム、飛行機、船舶、ドローンを含むロボット、印刷装置及びスキャナの少なくともいずれかを含む画像処理装置、３Ｄプリンタ、並びに通信中継機器のいずれかの制御の予測にも、適用可能である。

情報処理システム１００は、パラメータ最適化システム１０１とゲートウェイ装置１０２とをネットワーク１０４で接続して構成される。ネットワーク１０４は、例えばＨＴＴＰベースのネットワークである。ＨＴＴＰは、ＨｙｐｅｒｔｅｘｔＴｒａｎｓｆｅｒＰｒｏｔｏｃｏｌの略称である。パラメータ取得装置１０３は、計測機器を使って、各種の物理量を数値化し取得する。ゲートウェイ装置１０２は、ファイアウォールの役割を果たす。この他、ゲートウェイ装置１０２は、パラメータ取得装置１０３に対する動作制御を行う。例えば、ゲートウェイ装置１０２は、パラメータ取得装置１０３が収集したパラメータの、ネットワーク１０４を介した送信を取捨選択する。

本実施例では、パラメータ取得装置１０３の例は、自動車に搭載されたイメージセンサ、距離センサ、加速度センサ、及びＧＰＳ等である。ゲートウェイ装置１０２は、自動車に搭載され、パラメータ取得装置１０３の動作制御、及びパラメータ取得装置１０３が収集したパラメータの送信制御等を行う。ゲートウェイ装置１０２の例は、例えば、ネットワーク１０４に接続されたＩｏＴ制御モジュールである。ＩｏＴは、ＩｎｔｅｒｎｅｔｏｆＴｈｉｎｇｓの略称である。ゲートウェイ装置１０２は、ネットワーク１０４経由して、パラメータ最適化システム１０１に対し、パラメータ取得装置１０３で取得したパラメータ値を、定期又は不定期に送信する。パラメータ最適化システム１０１は、受信したパラメータ値をもとに学習処理、及び予測処理を実行する。パラメータ最適化システム１０１は、ネットワーク１０４を経由して、ゲートウェイ装置１０２に対し、パラメータ取得装置１０３の制御命令を送信することができる。

図２（Ａ）は、パラメータ最適化システム１０１、及びゲートウェイ装置１０２のハードウェア構成を示すブロック図である。本実施例では、パラメータ最適化システム１０１のハードウェア構成と、ゲートウェイ装置１０２のハードウェア構成は、同じであるので、図２（Ａ）により、両方について説明する。ＲＡＭ２０１は、データの一時記録をするメモリである。ＲＯＭ２０２は、組込済みプログラム、及びデータが記録されているメモリである。ネットワークインターフェース２０３は、ネットワーク１０４を介して、ネットワーク１０４に接続された他のコンピュータ及びネットワーク機器との通信を行うインターフェースである。ネットワークインターフェース２０３とネットワーク１０４との通信の方式は、有線及び無線のいずれであってもよい。二次記憶装置２０５は、ＨＤＤ又はフラッシュメモリに代表されるような記憶装置である。ＣＰＵ２００は、ＲＡＭ２０１、ＲＯＭ２０２、及び二次記憶装置２０５などから読み込んだプログラムを実行する。ＣＰＵ２００、ＲＡＭ２０１、ＲＯＭ２０２、ネットワークインターフェース２０３、及び二次記憶装置２０５は、システムバス２０４を介して互いに接続されている。本実施例においては特に言及しない限り、システムバス２０４は、ＣＰＵ２００からの制御命令を、システムバス２０４に接続された各ハードウェアに伝播させるバスである。

図２（Ｂ）は、パラメータ取得装置１０３のハードウェア構成を示すブロック図である。ネットワークインターフェース２０６は、ネットワーク１０４を介して、ネットワーク１０４に接続された他のコンピュータ及びネットワーク機器との通信を行うインターフェースである。ネットワークインターフェース２０３とネットワーク１０４との通信の方式は、有線及び無線のいずれであってもよい。パラメータ取得装置コア２０７は、現実世界の各種の物理量を計測し、数値化する。パラメータ取得装置コア２０７で計測し数値化したパラメータは、ネットワークインターフェース２０６により、ネットワーク１０４を介して、ネットワーク１０４に接続された他のコンピュータやネットワーク機器に対して送信される。

図３は、パラメータ最適化システム１０１の機能構成を示すブロック図である。パラメータ最適化システム１０１の各機能構成は、ＲＡＭ２０１、ＲＯＭ２０２、二次記憶装置２０５などに記憶したプログラムを、ＣＰＵ２００で実行することによって実現される。

まず、学習時の処理の流れについて説明する。パラメータ最適化システム１０１の収集データ受信部３００は、パラメータ取得装置１０３で収集し、ゲートウェイ装置１０２を経由して送信されたパラメータを、収集データとして受信する。収集データは、複数のパラメータを含む。入力データ生成部３０１は、収集データ受信部３００で受信した収集データに対して前処理を行い、収集データを入力データへと加工する。前処理前の収集データと、前処理後の入力データの例を表３に示す。

パラメータ最適化システム１０１は、前処理により加工された入力データを、入力データ記憶部３０２に記憶する。学習処理部３０３は、入力データ記憶部３０２から入力データを読み出し、学習処理を行う。学習処理部３０３は、この学習処理により予測モデルを生成する。なお、本実施例において、機械学習アルゴリズムには、多層ニューラルネットワークを用いるものとする。ただし、これは一例であり、その他の機械学習アルゴリズムを用いる場合においても、本発明を適用可能である。

学習寄与判断部３０４は、学習処理部３０３での学習処理により生成した予測モデルから、収集データに含まれるパラメータごとの学習寄与率を算出する。学習寄与率の計算は機械学習アルゴリズムによって様々な手法があるが、今回Ｎ次元の入力データを扱う三層ニューラルネットワークを例に説明すると、入力データ内の第ｎ次元目のパラメータの学習寄与率は、以下の数１の計算式で求めることができる。なお、Ｗ_ｉｊは、第ｐ層のノードｉから第ｐ＋１層のノードｊへの重みを表し、中間層（第一層）、中間層（第二層）、出力層（第三層）のノード数は、それぞれＸ、Ｙ、Ｍとする。

学習寄与判断部３０４は、算出した学習寄与率から、学習寄与率の低いパラメータ（以下、低寄与パラメータという）を判断する。すなわち、学習寄与判断部３０４は、算出した学習寄与率から、学習寄与率の低いパラメータを特定する。学習寄与判断部３０４により学習結果から算出された学習寄与率と、低寄与パラメータの例を表４に示す。表４において、第１のイメージセンサ、第２のイメージセンサ、第１の距離センサ、第２の距離センサ、第３の距離センサ及び加速度センサのそれぞれは、パラメータ取得装置１０３の一例である。第１のイメージセンサ及び第２のイメージセンサは、それぞれが複数のパラメータを取得する装置である。第１の距離センサ、第２の距離センサ、第３の距離センサ及び加速度センサは、それぞれが一つのパラメータを取得する装置である。本実施例では、例えば、閾値を学習寄与率０．０００５とし、この閾値未満の学習寄与率のパラメータを低寄与パラメータとし、この閾値以上の学習寄与率のパラメータを低寄与パラメータとしない。この場合、表４では、第２の距離センサ（学習寄与率が０．０００２）及び第３の距離センサ（学習寄与率が０．０００４）で取得するパラメータは、低寄与パラメータである。

パラメータ最適化システム１０１は、学習寄与判断部３０４による低寄与パラメータの情報を、学習処理部３０３に送信する。また、制御命令送信部３０５は、ゲートウェイ装置１０２に対し、学習寄与判断部３０４により低寄与パラメータとされたパラメータを取得するパラメータ取得装置１０３の動作停止命令を送信する。表４の場合、制御命令送信部３０５は、ゲートウェイ装置１０２に対し、第２の距離センサ及び第３の距離センサの動作停止命令を送信する。

ところで本実施例では、例えば第１のイメージセンサ及び第２のイメージセンサは、一つのセンサで複数のピクセルデータを取得し、取得した複数のピクセルデータを複数のパラメータとしている。このように、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、取得した複数のパラメータには、学習寄与率が閾値未満のパラメータもあれば、学習寄与率が閾値以上のパラメータもあることが考えられる。

そこで本実施例では、学習寄与判断部３０４は、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、その複数のパラメータの全てにおいて学習寄与率が閾値未満である場合に、その複数のパラメータを低寄与パラメータとする。学習寄与判断部３０４は、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、その複数のパラメータのいずれかの学習寄与率が閾値以上である場合には、その複数のパラメータを低寄与パラメータとしない。
また本実施例では、学習寄与判断部３０４は、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、その複数のパラメータの学習寄与率の合計値が、合計値用の閾値未満である場合に、その複数のパラメータを低寄与パラメータとする。学習寄与判断部３０４は、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、その複数のパラメータの学習寄与率の合計値が、合計値用の閾値以上である場合に、その複数のパラメータを低寄与パラメータとしない。
制御命令送信部３０５は、上述のように学習寄与判断部３０４により低寄与パラメータとされた複数のパラメータを取得するパラメータ取得装置１０３の動作停止命令を送信する。

なお、学習寄与判断部３０４は、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、その複数のパラメータのいずれかの学習寄与率が、閾値未満である場合に、その複数のパラメータを低寄与パラメータとしてもよい。この場合、学習寄与判断部３０４は、一つのパラメータ取得装置１０３から複数のパラメータを取得する場合、その複数のパラメータの全てにおいて学習寄与率が閾値以上である場合に、その複数のパラメータを低寄与パラメータとしてもよい。

学習処理部３０３は、低寄与パラメータの情報を学習寄与判断部３０４から受信した後、入力データ記憶部３０２から入力データを取得し、取得した入力データから低寄与パラメータを除いて、再度学習処理を行う。パラメータ最適化システム１０１は、この学習処理により生成した予測モデルを、予測モデル記憶部３０６に記憶する。

続いて、予測時の処理の流れについて示す。まずパラメータ取得装置１０３は、パラメータを収集する。続いてパラメータ取得装置１０３は、ゲートウェイ装置１０２を経由して、パラメータ最適化システム１０１にパラメータを送信する。パラメータ最適化システム１０１は、ゲートウェイ装置１０２からのパラメータを、収集データとして収集データ受信部３００で受信する。入力データ生成部３０１は、収集データ受信部３００で受信した収集データに前処理を施して入力データへと加工する。パラメータ最適化システム１０１は、入力データ生成部３０１で加工された入力データを入力データ記憶部３０２に記憶する。予測処理部３０７は、予測モデル記憶部３０６から予測モデルを取得し、入力データ記憶部３０２から取得した入力データを予測モデルに入力する。予測処理部３０７は、予測モデルが出力した予測結果を、出力部３０８に送信する。出力部３０８は、予測処理部３０７からの予測結果を出力する。この出力部３０８による出力処理は、画面に表示する、音声で出力する、電子メール又はチャットで送信する、記憶装置に記憶する、印刷装置から印刷する、及びデバイスに送信し制御を行う、などの処理のいずれか一つであってもよい。出力部３０８による出力処理は、上述の処理の組み合わせであってもよい。パラメータ取得装置１０３で収集したパラメータ、及び予測結果の例は、表２に示したものである。

図４は、ゲートウェイ装置１０２の機能構成を示すブロック図である。ゲートウェイ装置１０２の各機能構成は、ＲＡＭ２０１、ＲＯＭ２０２、二次記憶装置２０５などに記憶したプログラムを、ＣＰＵ２００で実行することによって実現される。

ゲートウェイ装置１０２は、定期的に又は所定のタイミングで、パラメータ受信部４０４にて、パラメータ取得装置１０３から送信されたパラメータを受信する。ゲートウェイ装置１０２は、受信したパラメータを、パラメータ送信制御部４０３を経由し、パラメータ送信部４０２からパラメータ最適化システム１０１へと送信する。また、ゲートウェイ装置１０２は、パラメータ最適化システム１０１から送信された制御命令を制御命令受信部４００で受信し、受信した制御命令に従い、パラメータ取得装置制御部４０１からパラメータ取得装置１０３の制御を行う。例えば、制御命令受信部４００が、複数のパラメータ取得装置１０３のうちの特定のパラメータ取得装置１０３の動作停止命令を受信した場合、パラメータ取得装置制御部４０１は、その特定のパラメータ取得装置１０３の動作を停止するよう制御する。

図５は、パラメータ取得装置１０３の機能構成を示すブロック図である。パラメータ取得装置１０３の各機能構成は、パラメータ取得装置１０３のＣＰＵでプログラムを実行すること、及び／又はハードウェアによって実現される。パラメータ取得装置１０３の動作は、パラメータ取得装置コア２０７で収集したパラメータを、ネットワークインターフェース２０６から送信することで実現する。パラメータ取得装置１０３は、パラメータ取得部５０１で収集したパラメータを、パラメータ送信部５００からゲートウェイ装置１０２へ送信する。

図６Ａは、本発明の実施例１におけるシーケンス図である。図６Ｂは、本発明の実施例１における学習寄与判断部３０４による処理の流れを示すフロー図である。なお、図６Ａにおいては、見易さのため、送受信以外の処理を行わない制御命令送信部３０５及び制御命令受信部４００を割愛して示している。

学習処理部３０３は、入力データ記憶部３０２から、学習寄与率を計算するための入力データを取得する（図６ＡのステップＳ６００）。学習処理部３０３は、ステップＳ６００で取得した入力データを用いて学習処理を行い（図６ＡのステップＳ６０１）、学習結果を学習寄与判断部３０４に送信する（図６ＡのステップＳ６０２）。

学習寄与判断部３０４は、ステップＳ６０２で送信された学習結果を受信し、受信した学習結果から入力データの含むパラメータごとの学習寄与率を取得し、学習寄与率の低いパラメータを低寄与パラメータとする（図６Ａ及び図６ＢのステップＳ６０３）。すなわち、学習寄与判断部３０４は、学習寄与率の低いパラメータを特定する。学習寄与判断部３０４は、ステップＳ６０３での低寄与パラメータの判断情報を元に、学習処理部３０３に対し、低寄与パラメータを除いての再学習命令を送信する（図６Ａ及び図６ＢのステップＳ６０４）。すなわち、学習寄与判断部３０４は、低寄与パラメータであると特定されたパラメータを除いた入力データによる再学習を指示する。

学習処理部３０３は、ステップＳ６０４で送信された再学習命令を受信し、受信した再学習命令に応じて、入力データ記憶部３０２から、低寄与パラメータを除いた、学習用の入力データを取得する（図６ＡのステップＳ６０５）。学習処理部３０３は、ステップＳ６０５で取得した学習用の入力データを用いて学習処理を行う（図６ＡのステップＳ６０６）。また、学習処理部３０３は、ステップＳ６０６の学習処理で作成した予測モデルを予測モデル記憶部３０６に記憶し、自動で、あるいは手動での操作により、本番運用中の予測モデルと置き換える。

学習寄与判断部３０４は、低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３を判断する（図６Ａ及び図６ＢのステップＳ６０７）。すなわち、学習寄与判断部３０４は、ステップＳ６０７において、低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３を特定する。低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３は、特定されたパラメータに対応する構成の一例である。学習寄与判断部３０４は、制御命令送信部３０５を介して、ゲートウェイ装置１０２の制御命令受信部４００に、ステップＳ６０７で特定したパラメータ取得装置１０３の動作停止命令を送信する（図６Ａ及び図６ＢのステップＳ６０８）。すなわち、学習寄与判断部３０４は、特定された構成としてのパラメータ取得装置１０３の停止命令を発行する発行手段の一例である。制御命令受信部４００は、ステップＳ６０８で送信された動作停止命令を受信する。パラメータ取得装置制御部４０１は、制御命令受信部４００が受信した動作停止命令に応じて、ステップＳ６０７で特定したパラメータ取得装置１０３の動作を停止するよう制御する（図６ＡのステップＳ６０９）。

実施例２において、システム構成、ハードウェア構成、及び各構成のブロック図等については、図１〜図５に示した実施例１と同様のため、図１〜図５を参照することとし、説明を割愛する。
図７Ａは、本発明の実施例２におけるシーケンス図である。図７Ｂは、本発明の実施例２における学習寄与判断部３０４による処理の流れを示すフロー図である。なお、図７Ａにおいては、見易さのため、送受信以外の処理を行わない制御命令送信部３０５及び制御命令受信部４００を割愛して示している。

学習処理部３０３は、入力データ記憶部３０２から、学習寄与率を計算するための入力データを取得する（図７ＡのステップＳ７００）。学習処理部３０３は、ステップＳ７００で取得した入力データを用いて学習処理を行い（図６ＡのステップＳ７０１）、学習結果を学習寄与判断部３０４に送信する（図７ＡのステップＳ７０２）。

学習寄与判断部３０４は、ステップＳ７０２で送信された学習結果を受信し、受信した学習結果から入力データの含むパラメータごとの学習寄与率を取得し、学習寄与率の低いパラメータを低寄与パラメータとする（図７Ａ及び図７ＢのステップＳ７０３）。学習寄与判断部３０４は、ステップＳ７０３での低寄与パラメータの判断情報を元に、学習処理部３０３に対し、低寄与パラメータを除いての再学習命令を送信する（図７Ａ及び図７ＢのステップＳ７０４）。すなわち、学習寄与判断部３０４は、低寄与パラメータであると特定されたパラメータを除いた入力データによる再学習を指示する。

学習処理部３０３は、ステップＳ７０４で送信された再学習命令を受信し、受信した再学習命令に応じて、入力データ記憶部３０２から、低寄与パラメータを除いた、学習用の入力データを取得する（図７ＡのステップＳ７０５）。学習処理部３０３は、ステップＳ７０５で取得した学習用の入力データを用いて学習処理を行う（図７ＡのステップＳ７０６）。また、学習処理部３０３は、ステップＳ７０６の学習処理で作成した予測モデルを予測モデル記憶部３０６に記憶し、自動で、あるいは手動での操作により、本番運用中の予測モデルと置き換える。

学習寄与判断部３０４は、低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３を判断する（図７Ａ及び図７ＢのステップＳ７０７）。すなわち、学習寄与判断部３０４は、ステップＳ７０７において、低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３を特定する。

本実施例では、学習寄与判断部３０４は、パラメータ取得装置１０３のうち、学習処理への学習寄与率に関係なく、常時稼働させておくパラメータ取得装置１０３のリスト（以下、常時稼働パラメータ取得装置リストという）を参照可能であるとする。常時稼働パラメータ取得装置リストは、パラメータ最適化システム１０１のＲＡＭ２０１、ＲＯＭ２０２及び二次記憶装置２０５などの記憶装置に予め記憶しておく。

学習寄与判断部３０４は、低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３が、常時稼働パラメータ取得装置リストに含まれているかを判断する（図７Ａ及び図７ＢのステップＳ７０８）。低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３が、常時稼働パラメータ取得装置リストに含まれていない場合（図７ＢのステップＳ７０８：ＮＯ）、処理は図７Ａ及び図７ＢのステップＳ７０９に進む。低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３が、常時稼働パラメータ取得装置リストに含まれている場合（図７ＢのステップＳ７０８：ＹＥＳ）、処理は図７Ａ及び図７ＢのステップＳ７１１に進む。すなわち、学習寄与判断部３０４は、低寄与パラメータであるとしたパラメータを取得しているパラメータ取得装置１０３が、常時稼働パラメータ取得装置リストに含まれているか否かで実行する処理を異ならせる。

学習寄与判断部３０４は、図７Ａ及び図７ＢのステップＳ７０９において、制御命令送信部３０５を介して、ゲートウェイ装置１０２の制御命令受信部４００に、ステップＳ７０７で特定したパラメータ取得装置１０３の動作停止命令を送信する。制御命令受信部４００は、ステップＳ７０９で送信された動作停止命令を受信する。パラメータ取得装置制御部４０１は、制御命令受信部４００が受信した動作停止命令に応じて、ステップＳ７０７で特定したパラメータ取得装置１０３の動作を停止するよう制御する（図７ＡのステップＳ７１０）。

学習寄与判断部３０４は、図７Ａ及び図７ＢのステップＳ７１１において、制御命令送信部３０５を介して、ゲートウェイ装置１０２の制御命令受信部４００に、ステップＳ７０７で特定したパラメータ取得装置１０３の通信停止命令を送信する。制御命令受信部４００は、ステップＳ７０９で送信された通信停止命令を受信する。パラメータ送信制御部４０３は、制御命令受信部４００が受信した通信停止命令に応じて、ステップＳ７０７で特定したパラメータ取得装置１０３で取得したパラメータの送信を停止するよう制御する（図７ＡのステップＳ７１１）。

実施例３において、システム構成、ハードウェア構成、及び各構成のブロック図等については、図１〜図５に示した実施例１と同様のため、図１〜図５を参照することとし、説明を割愛する。
図８Ａは、本発明の実施例３におけるシーケンス図である。図８Ｂは、本発明の実施例３における学習寄与判断部３０４による処理の流れを示すフロー図である。なお、図８Ａにおいては、見易さのため、本実施例において送受信以外の処理を行わない構成、および収集データへの前処理のみを行う構成を割愛して示している。また、本実施例においては、実施例１や実施例２に示したような機能によって、事前に一部のパラメータ取得装置１０３の動作が停止されているものとする。

本実施例では、パラメータ取得装置制御部４０１は、既に動作停止済みのパラメータ取得装置１０３（以下、利用停止中パラメータ取得装置という）に対して、所定のタイミングで、一時起動命令を送信する（図８ＡのステップＳ８００及びステップＳ８０１）。パラメータ取得装置制御部４０１が一時起動命令を送信する所定のタイミングは、一定の周期的なタイミングでもよいし、不定期なタイミングでもよいし、所定のイベントの発生に応じたタイミングであってもよい。また、パラメータ取得装置制御部４０１は、手動での操作に応じて、利用停止中パラメータ取得装置に対して一時起動命令を送信するものであってもよい。

一時起動命令を受信した利用停止中パラメータ取得装置は、起動し、パラメータを取得する（図８ＡのステップＳ８０２）。ゲートウェイ装置１０２は、ステップＳ８０２でパラメータ取得装置１０３が取得したパラメータを、パラメータ最適化システム１０１へ送信する（図８ＡのステップＳ８０３）。ゲートウェイ装置１０２におけるパラメータの送信は、パラメータ受信部４０４、パラメータ送信制御部４０３及びパラメータ送信部４０２を介して行われる。

パラメータ最適化システム１０１は、ステップＳ８０２でパラメータ取得装置１０３が取得したパラメータを受信し、受信したパラメータは、収集データ受信部３００及び入力データ生成部３０１を介して、入力データ記憶部３０２に蓄積される。ステップＳ８０２でパラメータ取得装置１０３が取得したパラメータが入力データ記憶部３０２に十分に蓄積されると、学習処理部３０３は、入力データ記憶部３０２から、学習寄与率を計算するための入力データを取得する（図８ＡのステップＳ８０４）。パラメータが入力データ記憶部３０２に十分に蓄積されたことは、所定条件を満たしていることで示される。この所定条件は、例えば、利用停止中パラメータ取得装置の起動後に蓄積された入力データの数が閾値を超えたことである。

学習処理部３０３は、ステップＳ８０４で取得した入力データを用いて学習処理を行う（図８ＡのステップＳ８０５）。学習処理部３０３は、ステップＳ８０５で学習した学習結果を学習寄与判断部３０４に送信する（図８ＡのステップＳ８０６）。学習寄与判断部３０４は、ステップＳ８０６で送信された学習結果を受信し、受信した学習結果から、入力データに含まれるパラメータごとの学習寄与率を取得し、学習寄与率の低いパラメータを低寄与パラメータとする（図８Ａ及び図８ＢのステップＳ８０７）。

学習寄与判断部３０４は、一時起動された利用停止中パラメータ取得装置が取得したパラメータ（以下、利用停止中パラメータという）の学習寄与率が、前回の学習時と変わらずに学習寄与率が低いかを判断する（図８Ａ及び図８ＢのステップＳ８０８）。すなわち、学習寄与判断部３０４は、図８ＢのステップＳ８０８において、利用停止中パラメータがステップＳ８０５の学習においても低寄与パラメータであるかを判断する。学習寄与判断部３０４は、利用停止中パラメータが、前回の学習時と変わらず低寄与パラメータであると判断した場合（図８ＢのステップＳ８０８：ＹＥＳ）、そのまま処理を終了する。学習寄与判断部３０４は、利用停止中パラメータが、前回の学習時と変わり、低寄与パラメータではない（十分に寄与している）と判断した場合（図８ＢのステップＳ８０８：ＮＯ）、処理は図８Ａ及び図８ＢのステップＳ８０９に進む。学習寄与判断部３０４は、図８Ａ及び図８ＢのステップＳ８０８において、学習処理部３０３に対し、利用停止中パラメータを含めての再学習を指示する再学習命令を送信する。

学習処理部３０３は、ステップＳ８０９で送信された再学習命令を受信し、受信した再学習命令に応じて、入力データ記憶部３０２から、利用停止中パラメータを含めた、学習用の入力データを取得する（図８ＡのステップＳ８１０）。学習処理部３０３は、ステップＳ８０９で取得した学習用の入力データを用いて学習処理を行う（図８ＡのステップＳ８１１）。また、学習処理部３０３は、ステップＳ８１１の学習処理で作成した予測モデルを予測モデル記憶部３０６に記憶し、自動で、あるいは手動での操作により、本番運用中の予測モデルと置き換える。

学習寄与判断部３０４は、低寄与パラメータではなくなった利用停止中パラメータを取得しているパラメータ取得装置１０３を判断する（図８Ａ及び図８ＢのステップＳ８１２）。すなわち、学習寄与判断部３０４は、ステップＳ８１２において、低寄与パラメータではなくなった利用停止中パラメータを取得しているパラメータ取得装置１０３を特定する。学習寄与判断部３０４は、制御命令送信部３０５を介して、ゲートウェイ装置１０２の制御命令受信部４００に、ステップＳ８１２で特定したパラメータ取得装置１０３の動作再開命令を送信する（図８Ａ及び図８ＢのステップＳ８１３）。制御命令受信部４００は、ステップＳ８１３で送信された動作再開命令を受信する。パラメータ取得装置制御部４０１は、制御命令受信部４００が受信した動作再開命令に応じて、ステップＳ８１２で特定したパラメータ取得装置１０３の動作を再開するよう制御する（図８ＡのステップＳ８１４）。

以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。

（その他の実施形態）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。

１０１パラメータ最適化システム
１０２ゲートウェイ装置
１０３パラメータ取得装置

Claims

複数のパラメータを含む入力データによる学習処理で生成した予測モデルを管理するシステムであって、
学習結果から、前記複数のパラメータごとの学習寄与率を算出する第１算出手段と、
前記第１算出手段で算出した学習寄与率から、学習寄与率の低いパラメータを特定する第１特定手段と、
前記第１特定手段で特定されたパラメータを除いた入力データによる再学習を指示する第１指示手段と、
前記第１特定手段で特定されたパラメータに対応する構成を特定する第２特定手段と、
前記第２特定手段で特定された構成の停止命令を発行する第１発行手段と、を有する
ことを特徴とするシステム。
前記第１発行手段は、前記第２特定手段で特定された構成がリストに含まれているか否かで実行する処理を異ならせる
ことを特徴とする請求項１に記載のシステム。
前記第１発行手段は、前記第２特定手段で特定された構成のうちリストに含まれていない構成の動作停止命令を発行し、前記第２特定手段で特定された構成のうち前記リストに含まれている構成の通信停止命令を発行する
ことを特徴とする請求項２に記載のシステム。
前記第１特定手段で特定されたパラメータを、所定条件で、一時的に取得する取得手段と、
前記一時的に取得したパラメータを含んだ入力データによる再学習を指示する第２指示手段と、
前記一時的に取得したパラメータを含んだ入力データによる再学習の学習結果から、前記第１特定手段で特定されたパラメータの学習寄与率を算出する第２算出手段と、
前記第２算出手段で算出した学習寄与率が低くないパラメータに対応する構成を特定する第３特定手段と、
前記第３特定手段で特定された構成の再開命令を発行する第２発行手段と、を有する
ことを特徴とする請求項１から３のいずれか１項に記載のシステム。
前記第２特定手段で特定される構成は、装置、センサ、及びソフトウェアの少なくともいずれかに対応する
ことを特徴とする請求項１から４のいずれか１項に記載のシステム。
前記予測モデルは、スマートホーム、飛行機、船舶、ドローンを含むロボット、印刷装置及びスキャナの少なくともどちらかを含む画像処理装置、３Ｄプリンタ、並びに通信中継機器のいずれかの制御の予測を行う
ことを特徴とする請求項１から５のいずれかに記載のシステム。
複数のパラメータを含む入力データによる学習処理で生成した予測モデルを管理するシステムで実行される方法であって、
学習結果から、前記複数のパラメータごとの学習寄与率を算出する第１算出工程と、
前記第１算出工程で算出した学習寄与率から、学習寄与率の低いパラメータを特定する第１特定工程と、
前記第１特定工程で特定されたパラメータを除いた入力データによる再学習を指示する第１指示工程と、
前記第１特定工程で特定されたパラメータに対応する構成を特定する第２特定工程と、
前記第２特定工程で特定された構成の停止命令を発行する第１発行工程と、を有する
ことを特徴とする方法。
請求項１乃至６のいずれか１項に記載のシステムの各手段としてコンピュータを機能させるためのプログラム。