JP2022076276A - モデルのデータ提供方法、モデルのデータ提供システム、及びコンピュータプログラム - Google Patents

Abstract

【課題】分散学習に基づく学習モデルの実用化を促進するモデルのデータ提供方法、モデルのデータ提供システム、及びコンピュータプログラムを提供する。【解決手段】モデルのデータ提供方法は、サーバに記憶するグローバルモデルのデータを複数のノードに対して配布し、前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータを取得し、前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、出力後のグローバルモデルを、前記ローカルデータによって追加学習させる処理を含む。【選択図】図１

Description

本発明は、分散学習の実用化のためのモデルのデータ提供方法、モデルのデータ提供システム、及びコンピュータプログラムに関する。

深層学習に基づく学習モデルを用いた判定、認識等が実用化されている。学習モデルは多様な技術分野で活用できることが確認されている。学習モデルの精度を各種分野で実用化できる程度に向上するため膨大なトレーニングデータを用いたとしてもパラメータの収束に長時間を要し、精度が良くなるとも限らない。

特許文献１には、学習対象の学習モデルのレプリカを複数用意し、それらの複数のモデルレプリカが、非同期で独自に学習する方法が開示されている。特許文献１では、パラメータサーバが複数に断片化されており、学習モデルの複数のレプリカが夫々、非同期で、断片化されたパラメータサーバからパラメータを取得して学習し、パラメータを各パラメータサーバへ返すことを繰り返す。このような分散処理により、学習モデルのパラメータが早期に収束するとされている。

米国特許第８７６８８７０号明細書

特許文献１に開示されているような分散処理による深層学習の方法であっても、トレーニングデータは集約している。しかしながら、医療、金融、認証といった分野のデータは個人データであって機密性が高い。モデルの精度を高めるためにトレーニングデータとしてデータを集約するためには、データの提供に各個人の同意が必要である上、同意が得られたとしてもデータ管理の安全性に対するリスクが常につきまとう。

本発明は、斯かる事情に鑑みてなされたものであり、分散学習に基づく学習モデルの実用化を促進するモデルのデータ提供方法、モデルのデータ提供システム、及びコンピュータプログラムを提供することを目的とする。

本開示の一実施形態のモデルのデータ提供方法は、サーバに記憶するグローバルモデルのデータを複数のノードに対して配布し、前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータを取得し、前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、出力後のグローバルモデルを、前記ローカルデータによって追加学習させる処理を含む。

本開示の一実施形態のモデルのデータ提供システムは、ローカルデータを各々処理する複数のノードと、該複数のノードから通信接続されるサーバとを含み、前記サーバは、前記複数のノードへグローバルモデルのデータを配布し、前記複数のノードは夫々、処理対象のローカルデータによって前記グローバルモデルからローカルモデルの学習を各々進め、前記サーバが備える処理部は、学習後の前記ローカルモデルのデータを前記複数のノードから取得し、前記複数のノード夫々から取得した学習後のローカルモデルに基づいてグローバルモデルのデータを更新し、更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、出力後のグローバルモデルを、前記ローカルデータによって追加学習させる。

本開示の一実施形態のコンピュータプログラムは、複数のノードに通信接続が可能なコンピュータに、記憶しているグローバルモデルのデータを前記複数のノードに対して配布し、前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータを取得し、前記複数のノード夫々から取得した学習後のローカルモデルに基づいてグローバルモデルのデータを更新し、更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、出力後のグローバルモデルを、前記ローカルデータによって追加学習させる処理を実行させる。

本開示の一実施形態のコンピュータプログラムは、サーバと通信接続されるコンピュータに、前記サーバから配布されるグローバルモデルのデータを基にして処理対象のローカルデータを用いたローカルモデルを学習する処理と、学習後のローカルモデルのデータを前記サーバへ送信する処理とを繰り返し、異なるバージョン情報が対応付けられたグローバルモデルの一覧を含む画面データを前記サーバから受信し、受信した画面データに基づいて前記コンピュータに備えられる表示部に、前記一覧を表示し、前記一覧の内のいずれかのバージョン情報の指定を受け付け、指定されたバージョン情報に対応するグローバルモデルのデータを取得し、取得したグローバルモデルのデータに基づき、前記グローバルモデルに前記ローカルデータを与えて再学習する処理を実行させる。

本開示のモデルのデータ提供方法、モデルのデータ提供システム、及びコンピュータプログラムでは、サーバに学習のためのデータを集約させずに各ノードでグローバルモデルを基に学習したローカルモデルを集約してグローバルモデルが作成される。作成されるグローバルモデルは、ローカルモデルのデータに対して平均等の統計処理がされて得られるから、ノードにおいて、利用する前にローカルデータで再学習することにより、各ノード用に最適化が可能になる。

本開示の一実施形態のモデルのデータ提供方法は、前記複数のノードに、異なるバージョン情報が対応付けられた複数のグローバルモデルに対し、記憶しているローカルデータを用いた場合の精度の評価値を各算出させ、算出された評価値と対応付けて前記グローバルモデルの選択を受け付ける
処理を含む。

本開示のモデルのデータ提供方法では、評価値に基づき、利用するモデルをノードから選択し、選択したノードを最適化することができる。

本開示の一実施形態のモデルのデータ提供方法は、前記複数のノードは夫々、記憶するローカルデータによって配布されるグローバルモデルをローカルデータ用に追加学習する追加プログラムを記憶しておき、出力されるグローバルモデルのデータに基づき、前記グローバルモデルを前記追加プログラムによって追加学習する。

本開示のモデルのデータ提供方法では、追加プログラムによってノード側から自動的に、グローバルモデルを選択して取得し、ノード用に最適化してから利用することが可能になる。

本開示の一実施形態のモデルのデータ提供方法は、前記複数のノードは夫々、医療施設に設置されて患者に関する医療データを記憶しており、前記グローバルモデル及びローカルモデルは、前記医療データが入力された場合に、診断を支援する診断支援データを出力するように学習される。

本開示のモデルのデータ提供方法では、個人データである医療データについて、サーバで集約せずに学習を実行することができ、更に、サーバから提供されるグローバルモデルのデータを、ノード用に最適化してから利用することが可能になる。医療データは、患者の属性、既往歴、患者に対して実施した検査で得られる検査データ（画像、数値、又は音声）、投薬履歴等のいずれかを含む。医療データが入力された場合にモデルから得られる診断支援データは、病変の有無の判定結果、診断の基準となる数値、画像が入力された場合に診断をしやすくするように処理された画像を含む。

本開示の一実施形態のモデルのデータ提供方法は、前記医療データは、患者に対して撮影された医療画像データである。

医療画像データは、機密性が高い個人情報であり、また、医療施設単体ではデータ数が少ない場合があるためローカルデータのみでの学習では充分な精度を得ることが難しい。本開示のモデル提供方法では、複数のノードでのローカルモデルを集約してグローバルモデルのデータを更新する方法により、データ数が少ない医療施設であってもモデル学習システムに参加することで実用的なモデルを得ることができる。

本開示のモデルのデータ提供方法によれば、学習用のデータを集約せずとも、多数のデータに基づいて分散学習されたモデルを、ローカルデータに対して精度が高まるように最適化してからノードで利用することが可能になる。

第１の実施形態のモデル提供システムの概要図である。 ノードの構成を示すブロック図である。 サーバの構成を示すブロック図である。 モデル提供システムにおける学習処理手順の一例を示すフローチャートである。 配布されたグローバルモデルに基づくローカルモデルの学習処理手順の一例を示すフローチャートである。 サーバにおけるグローバルモデルの更新処理の一例を示すフローチャートである。 グローバルモデルの参照処理及びノードでの追加学習手順の一例を示すフローチャートである。 グローバルモデルの更新履歴画面の一例を示す。 グローバルモデルの性能画面の一例を示す。 第２の実施形態におけるノードの構成を示すブロック図である。 第２の実施形態のモデル提供システムにおける学習処理手順の一例を示すフローチャートである。 ノードのモデル自動取得処理手順の一例を示すフローチャートである。 第３の実施形態のモデル提供システム１００の概要図である。

本開示をその実施の形態を示す図面を参照して具体的に説明する。

（第１の実施形態）
図１は、第１の実施形態のモデル提供システム１００の概要図である。モデル提供システム１００は、データを記憶する記憶装置２に対して１又は複数設けられたノード１と、サーバ３と、ノード１及びサーバ３間を通信接続する通信網Ｎとを含む。

記憶装置２は、物理量を測定するセンサ、画像を撮影するカメラ等、学習対象のデータを入出力する機器との間でデータの入出力が可能であり、それらのデータを蓄積する。記憶装置２は、操作によって入力されるデータに応じて出力する特定用途の計算機に接続されてもよい。記憶装置２は、ユーザが用いる情報端末の記憶装置であってもよい。記憶装置２は、クライアント装置からデータを収集するサーバ装置に使用される記憶装置であってもよい。

ノード１は、記憶装置２が記憶しているデータと同種のデータが入力された場合に、データに基づいて認識結果、判定結果、又は新たなデータを出力するように、モデルの深層学習を実行する。サーバ３は、ノード１に対してモデルを提供するコンピュータであると共に、ノード１と協働してモデルを学習するモデル提供システム１００を実現する。記憶装置２が記憶しているデータ（以下、ローカルデータという）をトレーニングデータとしてモデルの学習を実行するには、これらにアクセスできる必要がある。本実施の形態のモデル提供システム１００は、サーバ３からのローカルデータへのアクセスを不可とした状態で、学習を進行させることができる。

サーバ３は、初期的に、第０次グローバルモデル５１を得る。サーバ３は、第０次グローバルモデル５１を、通信網Ｎを介してノード１へ配布する。サーバ３からノード１へ配布されるグローバルモデル５１の実体（データ）は、学習済みのパラメータのみ、又は、学習済みのパラメータとプログラムの両方である。グローバルモデル５１は、モデルの構成を定義する定義データ（ネットワーク定義、損失や予め設定されるハイパーパラメータを含む）と、学習対象の重み係数等のパラメータとであってもよい。

学習対象のモデルは、深層学習と呼ばれる学習の対象であればアーキテクチャは問わない。深層学習のモデルの種類は、入力データ及び出力データの内容に応じて適切に選択されるべきである。以下説明する学習対象のモデルは、畳み込み層を含むＣＮＮ（Convolutional Neural Network）を用いた分類系、検出系、又は生成系等のいずれでもよいし、時系列要素を加味して学習するＲＮＮ（Recurrent Neural Network）であってもよい。

通信網Ｎは、所謂インターネットである公衆通信網、キャリアネットワークを含む。通信網Ｎは、モデル提供システム１００用の専用回線であってもよい。

ノード１は、記憶装置２との間のローカルネットワークＬＮに基づいて、記憶装置２に蓄積されたローカルデータにアクセス可能である。ノード１は、アクセス可能なローカルデータを用いて深層学習を実行する。ローカルデータに対しては既に、ノード１が設置されている場所のオペレータによってアノテーションが実施済であるとよい。ノード１は、サーバ３から配布される第０次グローバルモデル５１を取得する。ノード１は、第０次グローバルモデル５１を基に、ローカルデータをトレーニングデータとして学習を進行し、第１次ローカルモデル５２を得る。

ノード１は、第１次ローカルモデル５２を、サーバ３へ送信する。ローカルデータはサーバ３へ送信されないから、ローカルデータの抽象化、匿名化等の処理は不要である。

サーバ３は、複数のノード１夫々から第１次ローカルモデル５２を複数受信し、受信した複数の第１次ローカルモデル５２に対して統計処理を実行して第１次グローバルモデル５１を作成する。サーバ３は、第１次グローバルモデル５１を、複数のノード１へ再配布する。再配布されるグローバルモデル５１は、重み係数のみであってもよい。再配布される重み係数は学習対象であってもよいし、全体であってもよい。再配布されるグローバルモデル５１は、前回の更新からの差分に対応するものであってもよい。

モデル提供システム１００は、サーバ３からノード１への第ｎ次グローバルモデル５１の配布、第ｎ次グローバルモデル５１のノード１におけるローカルデータを用いた学習、学習によって得られる第（ｎ＋１）次ローカルモデル５２のサーバ３への送信、サーバ３での第（ｎ＋１）次ローカルモデル５２の収集及び第（ｎ＋１）次グローバルモデル５１の作成（更新）を繰り返す。「ｎ」は予め上限を設定してもよいし、更新の途上でサーバ３のオペレータによって更新を手動で停止させるようにしてもよい。オペレータからのサーバ３に対する操作指示は、サーバ３と同一のローカルなネットワーク内のみから可能であってもよいし（オンプレミス型）、公衆通信網である通信網Ｎ経由で例えばノード１から可能であってもよい（クラウド型）。

これにより、サーバ３からローカルデータへのアクセスを許可することなく、分散学習が可能になる。

分散学習によってノード１以外へも配布可能な精度までに学習されたグローバルモデル５１は、各ノード１に加え、ローカルモデル５２の作成に参加しない情報処理装置６へも配布され、使用される。

モデル提供システム１００では、ノード１は、グローバルモデル５１を実際に利用するに際し、過去のバージョンを含めてオペレータがいずれかを選択することを可能にし、更に、グローバルモデル５１をノード１用に最適化する。

このような学習方法を実現するためのモデル提供システム１００の構成について詳細に説明する。

図２は、ノード１の構成を示すブロック図である。ノード１は、パーソナルコンピュータ又はサーバコンピュータである。ノード１は、処理部１０、記憶部１１、通信部１２、表示部１３及び操作部１４を備える。

処理部１０は、ＣＰＵ（Central Processing Unit ）及び／又はＧＰＵ（Graphics Processing Unit）を用いたプロセッサである。処理部１０は、記憶部１１に記憶されているノードプログラム１Ｐに基づき、記憶装置２からのデータの読み出し、サーバ３との間でのモデルの送受信、モデル学習、及び追加学習を含む処理を実行する。

記憶部１１は、例えばハードディスク、フラッシュメモリ、ＳＳＤ（Solid State Drive）等の不揮発性メモリを用いる。記憶部１１は、処理部１０が参照するデータを記憶する。記憶部１１は、ノードプログラム１Ｐを記憶する。ノードプログラム１ＰはＷｅｂブラウザプログラムを含む。記憶部１１は、深層学習用のライブラリ１Ｌを記憶する。ノードプログラム１Ｐ及び／又は深層学習用のライブラリ１Ｌは、記録媒体８に記憶してあるノードプログラム８Ｐ及び／又は深層学習用のライブラリ８Ｌを処理部１０が読み出して記憶部１１に複製したものであってもよい。記憶部１１は、サーバ３から取得するグローバルモデル５１、及び、ローカルデータによって学習されるローカルモデル５２夫々を記憶する。

通信部１２は、通信網Ｎを介したデータ通信、及び、ローカルネットワークＬＮを介した記憶装置２との通信を各々実現する。通信部１２は具体的には、例えばネットワークカードである。処理部１０は、通信部１２によって記憶装置２からデータを読み出し、サーバ３との間でデータを送受信する。

表示部１３は、液晶ディスプレイ、有機ＥＬ（Electro Luminescence）ディスプレイ等のディスプレイである。表示部１３は、記憶部１１に記憶されているデータに基づく情報、又はサーバ３から提供されるデータを含む画面を表示する。表示部１３は、タッチパネル内蔵型ディスプレイであってもよい。

操作部１４は、処理部１０との間で入出力が可能なキーボード及びポインティングデバイス等のユーザインタフェースである。操作部１４は、音声入力部であってもよい。操作部１４は、表示部１３のタッチパネルであってもよい。操作部１４は、物理ボタンであってもよい。操作部１４は、ノード１のオペレータによる操作データを処理部１０へ通知する。

図３は、サーバ３の構成を示すブロック図である。サーバ３は、サーバコンピュータである。サーバ３は、処理部３０、記憶部３１及び通信部３２を備える。サーバ３は、以下の説明においては１台のサーバコンピュータによって構成されるものとして説明するが、複数台のサーバコンピュータをネットワークで通信接続して分散処理させる態様であってもよい。サーバ３は、通信網Ｎを介して各ノード１から通信接続が可能なクラウド型であってもよいし、仮想的なプライベートネットワークを介して各ノード１と通信接続するオンプレミス型であってもよい。

処理部３０は、ＣＰＵ及び／又はＧＰＵを用いたプロセッサである。処理部３０は、記憶部３１に記憶されているサーバプログラム３Ｐに基づき、グローバルモデル５１の学習処理を実行する。処理部３０は、サーバプログラム３Ｐに含まれるＷｅｂサーバプログラムに基づき、Ｗｅｂサーバとしての機能を発揮する。

記憶部３１は、例えばハードディスク、ＳＳＤ等の不揮発性メモリを用いる。記憶部３１は、処理部３０が参照するデータを記憶する。記憶部３１は、サーバプログラム３Ｐを記憶する。記憶部３１は、学習対象のグローバルモデル５１、複数のノード１から送信されるローカルモデル５２を記憶する。サーバプログラム３Ｐは、記録媒体９に記憶してあるサーバプログラム９Ｐを処理部３０が読み出して記憶部３１に複製したものであってもよい。

通信部３２は、通信網Ｎを介したデータ通信を実現する。通信部３２は具体的には、例えばネットワークカードである。処理部３０は、通信部３２によって複数のノード１との間でデータを送受信する。

このように構成されるモデル提供システム１００における学習処理手順について説明する。図４は、モデル提供システム１００における学習処理手順の一例を示すフローチャートである。

サーバ３は、予め用意された初期的な（第０次）グローバルモデル５１を取得する（ステップＳ１）。初期的なグローバルモデル５１は、特定のノード１で第０次モデルとして作成されたモデルであってもよいし、ノード１ではなく特定の場所で学習されたモデルであってもよく、予め記憶部３１に記憶してあるとよい。ステップＳ１の取得は、予め記憶部３１に記憶されているグローバルモデル５１の読み出しを含む。

サーバ３は、取得した第０次グローバルモデル５１をノード１へ配布する（ステップＳ２）。

サーバ３は、ノード１へ配布したグローバルモデル５１を基に、ノード１で学習されるローカルモデル５２を取得する（ステップＳ３）。

サーバ３は、取得したローカルモデル５２に対して統計処理を実行し、次世代のグローバルモデル５１に更新する（ステップＳ４）。ステップＳ４においてサーバ３は、更新（ラウンド）回数を、加算して記憶してもよい。

サーバ３は、更新したグローバルモデル５１に対する性能評価値を算出する（ステップＳ５）。サーバ３はステップＳ５において、特定のノード１又は情報処理装置６に対し、入力データを更新後のグローバルモデル５１に入力した場合に、対応する出力データを出力する精度を評価値として算出してもよい。性能評価値は、後述するように各ノード１からの評価値を用いて算出してもよい。

サーバ３は、算出した性能評価値を、更新（ラウンド）回数に対応するラウンド情報と対応付けて、記憶部３１に記憶する（ステップＳ６）。ラウンド情報は、更新回数のみならず、日時等であってもよい。サーバ３は、第０次から最初の数ラウンドにおいては、ステップＳ５，６の処理を省略してもよい。

サーバ３は、更新したグローバルモデル５１が学習完了条件を満たすか否か判断する（ステップＳ７）。

ステップＳ７についてサーバ３は例えば、更新回数が所定回数に到達したか否かで判断する。サーバ３は、ステップＳ５で算出した性能評価値が、予め記憶してある基準値を満たした場合に、学習完了条件を満たすと判断してもよい。サーバ３はステップＳ７において、更新前と比較して性能評価値が向上していないと判断される場合に学習完了条件を満たすと判断してもよい。

学習完了条件を満たさないと判断された場合（Ｓ７：ＮＯ）、サーバ３は、更新後のグローバルモデル５１を複数のノード１へ再分配し（ステップＳ８）、処理をステップＳ３へ戻す。

ステップＳ８においてサーバ３は、グローバルモデル５１をそのまま再配布するのではなく、重み係数等のパラメータのみ等、更新前のグローバルモデルからの差分のみを、サーバ３から再配布してもよい。

ステップＳ８においてサーバ３は、何回目の更新後のグローバルモデル５１であるのか、即ち第ｎ次グローバルモデル５１の「ｎ」を示すデータを共に送信するとよい。ステップＳ８においてサーバ３は、ステップＳ６で記憶したラウンド情報を、グローバルモデル５１に対応付けて送信するとよい。ラウンド情報は、上述したように、ステップＳ７で学習完了条件を満たすと判断されるまでに、ノード１への分配及び統計処理を実行した回数を示す情報である。サーバ３は、グローバルモデル５１の種類、例えばどのようなアーキテクチャの深層学習がされたのか、を示すデータを共に送信してもよい。

学習完了条件を満たすと判断された場合（Ｓ７：ＹＥＳ）、サーバ３は、更新後のグローバルモデル５１を、ノード１以外へも配布可能なグローバルモデル５１としてバージョン情報と対応付けて記憶する（ステップＳ９）。バージョン情報は、ステップＳ７にて学習完了条件を満たすと判断されるまでローカルモデル５２の学習及びグローバルモデル５１の更新を実行した回数に対応する。バージョン情報は、ラウンド情報をマイナーな情報として含んでもよい。

サーバ３は、記憶したグローバルモデル５１を複数のノード１又は他の情報処理装置６へ送信し（ステップＳ１０）、処理を終了する。他の情報処理装置６とは、ノード１同様に、学習対象と同種のデータを用いるが、ローカルデータをトレーニング用に提供しない装置である（図１参照）。

サーバ３は、図４のフローチャートに示した処理手順を、複数、例えば月に一度といった周期で実行する。その都度、グローバルモデルのバージョンが上昇し、より実用的なモデルとなる。

図５は、配布されたグローバルモデル５１に基づくローカルモデル５２の学習処理手順の一例を示すフローチャートである。図５のフローチャートに示す処理は、サーバ３がステップＳ２又はステップＳ８でグローバルモデル５１を配布した場合に、複数のノード１夫々で実行する処理である。

ノード１の処理部１０は、配布されたグローバルモデル５１を受信し、記憶部１１に記憶する（ステップＳ３０１）。

ノード１の処理部１０は、記憶したグローバルモデル５１をインスタンスとしてロードする（ステップＳ３０２）。処理部１０は、記憶装置２に記憶してあるローカルデータをトレーニングデータとして取得し（ステップＳ３０３）、これをグローバルモデル５１に与えて学習を実行する（ステップＳ３０４）。

ステップＳ３０４において処理部１０は、ロードしたグローバルモデル５１に対してローカルデータの入力データを入力する。処理部１０は、出力されたデータと、ローカルデータに含まれる前記入力データに対応する結果データとに対する損失を算出する。処理部１０は、算出した損失に基づいて配布されたグローバルモデル５１における重み係数を含むパラメータを学習する。

ノード１の処理部１０は、学習完了条件を満たすか否かを判断する（ステップＳ３０５）。ステップＳ３０５において処理部１０は、学習（更新）回数が所定回数（１回以上）を満たすことを学習完了条件とする。処理部１０は、学習後のグローバルモデル５１の出力精度が記憶してある所定値以上である場合に、学習完了条件を満たすと判断してもよい。処理部１０は、出力精度の変化が所定範囲内に収まり、収束していると判断できる場合に学習完了条件を満たすと判断してもよい。

学習完了条件を満たさないと判断された場合（Ｓ３０５：ＮＯ）、処理部１０は処理をステップＳ３０４）へ戻す。これにより、学習が続行される。

学習完了条件を満たすと判断された場合（Ｓ３０５：ＹＥＳ）、処理部１０は学習を終了し、パラメータが更新されたグローバルモデル５１を、ローカルモデル５２として記憶する（ステップＳ３０６）。

ノード１の処理部１０は、記憶したローカルモデル５２を、サーバ３へ送信し（ステップＳ３０７）、処理を終了する。これにより、サーバ３は、複数のノード１夫々から、ローカルデータで学習されたローカルモデル５２を取得することができる。

ステップＳ３０７において処理部１０は、第ｎ次のローカルモデル５２なのか、又は元となるグローバルモデル５１が第ｎ次なのかの「ｎ」を示すデータを共に送信するとよい。ステップＳ３０７においてノード１は、後述するように１回の学習完了までの更新回数に対応するラウンド情報を得られる場合にはそのラウンド情報を、ローカルモデル５２に対応付けて送信してもよい。

図５のフローチャートに示した処理によってノード１からは、ローカルデータがサーバ３へ送信されることがない点が、着目されるべきである。ローカルデータの匿名化も実行されない。ノード１から送信されるデータは、モデルそのものである。ローカルデータの特性は反映されているが、データの送信はされない。

図６は、サーバ３におけるグローバルモデル５１の更新処理の一例を示すフローチャートである。図６のフローチャートに示す処理手順は、図４のフローチャートに示す処理手順の内のステップＳ４の詳細に対応する。

サーバ３の処理部３０は、ノード１から送信されるローカルモデル５２を取得し（ステップＳ４０１）、ノード１の識別データと対応付けてローカルモデル５２を記憶する（ステップＳ４０２）。ステップＳ４０１においてサーバ３の処理部３０は、非同期に各ノード１から送信されるローカルモデル５２を取得する。

処理部３０は、取得したローカルモデル５２でグローバルモデル５１を更新すべきか否かを判断する（ステップＳ４０３）。ステップＳ４０３において処理部３０は、グローバルモデル５１を配布した配布先のノード１全てからローカルモデル５２を取得できた場合に更新すべきであると判断してもよい。ステップＳ４０３において処理部３０は、予め決定しておいた代表的の複数のノード１からローカルモデル５２を取得できた場合に更新すべきであると判断してもよい。

更新すべきでないと判断された場合（Ｓ４０３：ＮＯ）、サーバ３の処理部３０は処理をステップＳ４０１へ戻す。更新すべきであると判断されるまで、各ノード１から送信されるローカルモデル５２を取得し、集約する。

更新すべきであると判断された場合（Ｓ４０３：ＹＥＳ）、サーバ３の処理部３０は、複数のノード１からのローカルモデル５２の平均を求める（ステップＳ４０４）。処理部３０は、平均を新たなグローバルモデル５１として更新する（ステップＳ４０５）。

処理部３０は、更新後のグローバルモデル５１を、ラウンド情報、例えば更新回数（第ｎ次）を示すデータ「ｎ」と対応付けて記憶し（ステップＳ４０６）、グローバルモデル５１の更新処理を終了する。これにより、第ｎ－１次グローバルモデル５１は、第ｎ次グローバルモデル５１に更新される。

ステップＳ４０６において処理部３０は、各世代のグローバルモデル５１を、更新回数を遡って読み出し可能に記憶部３１に記憶する。

上述したように第１の実施形態のモデル提供システム１００では、ローカルデータはサーバ３へ送信されることなしに、各所に記憶されているローカルデータを用いた学習結果に基づいてグローバルモデル５１が実用化される。各所のローカルデータのみでは、データ量が不足するような場合であっても、１箇所に集約させた大量のデータによる学習よりも精度よく、且つ早期に実用可能なモデルを提供することが可能になる。

第１の実施形態では、サーバ３がグローバルモデル５１の学習（更新）及び改訂（バージョンアップ）の過程でラウンド情報、及びバージョン情報と対応付けて、グローバルモデル５１を記憶している。したがって、サーバ３にて、更新の過程に関する情報を、バージョン別、ラウンド毎に、モニタ４又はノード１に向けて提供することが可能である。

図７は、グローバルモデル５１の参照処理及びノード１での追加学習手順の一例を示すフローチャートである。サーバ３は、サーバプログラム３Ｐに基づく以下の処理手順により、ノード１からの参照リクエストに応じてグローバルモデル５１の更新履歴を提供し、ダウンロードを受け付ける。ノード１は、ノードプログラム１Ｐに基づいてグローバルモデル５１の選択操作を受け付け、選択されたグローバルモデル５１の再学習処理を実行する。

ノード１のオペレータは、サーバ３から提供されるＷｅｂページへのアクセスを試みる。ノード１の処理部１０は、ノードプログラム１Ｐに含まれるＷｅｂブラウザプログラムに基づき、リクエストをサーバ３へ送信する（ステップＳ２０１）。以下、Ｗｅｂブラウザプログラムに基づく処理は、Ｗｅｂブラウザのバックグラウンドで実行されてもよい。

サーバ３は、リクエストを受信する（ステップＳ６０１）。サーバ３の処理部３０は、リクエストに含まれるノード１のアカウント情報に応じて、アカウントに対応するグローバルモデル５１の一覧を含むＷｅｂページを記憶部３１から読み出してノード１へ送信する（ステップＳ６０２）。

ノード１の管理者毎に、サーバ３へのアクセス用のアカウントが発行されている。アカウントは、アカウントＩＤ、認証情報、権限のデータを含む。サーバ３は、記憶部３１にアカウントデータを記憶している。ノード１の管理者向けのアカウントには、グローバルモデル５１の選択及びダウンロードの権限が対応付けられている。

ノード１では処理部１０が、グローバルモデル５１の一覧を受信し（ステップＳ２０２）、グローバルモデル５１の一覧を表示部１３に表示し、グローバルモデル５１の指定を受け付ける（ステップＳ２０３）。処理部１０は、グローバルモデル５１の指定をサーバ３へ送信する（ステップＳ２０４）。

サーバ３は、Ｗｅｂサーバとしてノード１からグローバルモデル５１の指定を受信し（ステップＳ６０３）、指定されたグローバルモデル５１の性能評価値を含む更新履歴の一覧を含むＷｅｂページを送信する（ステップＳ６０４）。図４のフローチャートに示したように、グローバルモデル５１が更新される都度に、グローバルモデル５１、及び性能評価値が、バージョン情報と対応付けて記憶されている。したがって、処理部３０は記憶されているデータに基づいて更新履歴の一覧を作成できる。

ノード１は、指定したグローバルモデル５１の更新履歴の一覧を含むＷｅｂページを受信し（ステップＳ２０５）、処理部１０は表示部１３に表示させ（ステップＳ２０６）、一覧からバージョン情報（又はラウンド情報）の指定を受け付ける（ステップＳ２０７）。処理部１０は、受け付けたバージョン情報の指定をサーバ３へ送信する（ステップＳ２０８）。

サーバ３は、バージョン情報の指定を受信すると（ステップＳ６０５）、指定されたバージョンのグローバルモデル５１の性能評価値、及びこのグローバルモデル５１をノード１へ出力する（ステップＳ６０６）。サーバ３の処理は終了する。

ノード１は、指定したバージョンのグローバルモデル５１及び性能評価値をサーバ３から取得し（ステップＳ２０９）、処理部１０は、性能評価値を表示部１３に表示させ（ステップＳ２１０）、ノード１用に再学習するか否かを受け付ける（ステップＳ２１１）。

再学習しないと受け付けられた場合（Ｓ２１１：ＮＯ）、処理部１０は、受信したグローバルモデル５１を記憶部１１に記憶し（ステップＳ２１２）、処理を終了する。記憶されたグローバルモデル５１は、以後、ノード１で利用可能になる。

再学習すると受け付けられた場合（Ｓ２１１：ＹＥＳ）、処理部１０は、受信したグローバルモデル５１を実体化し、記憶装置２から取得できるローカルデータを与えて再学習を実行する（ステップＳ２１３）。処理部１０は、再学習後のグローバルモデル５１を記憶部１１に記憶し（ステップＳ２１２）、処理を終了する。

再学習が行なわれることにより、ノード１は、ノード１に対して性能が良いと選択されたグローバルモデル５１を、ノード１で扱うローカルデータによって最適化したモデルとして以後、実用することができる。

図８及び図９は、ノード１で表示される画面例を示す。図８は、グローバルモデル５１の更新履歴画面４３１の一例を示す。図８の更新履歴画面４３１は、サーバ３から送信されるグローバルモデル５１の更新履歴の一覧を含む。更新履歴画面４３１は、グローバルモデル５１のバージョン情報に対応するバージョン名に対応付けて、性能評価値、更新日時を表形式で示す。バージョン名を示すテキストは、個別ページへのリンクを含んで選択可能にしてある。バージョン名を示すテキストが選択されると、ノード１の処理部１０によって、バージョン情報の指定が受け付けられる。

図９は、グローバルモデル５１の性能画面４３２の一例を示す。性能画面４３２は、図８の更新履歴画面４３１で選択されたバージョン情報に対応するグローバルモデル５１の性能を視覚化した画面であり、性能評価値を含む。図９は、図８で「ver4.0」のバージョンを選択した場合の性能画面４３２の例を示す。図９の性能画面４３２には、指定されたバージョン情報のグローバルモデル５１の、更新ラウンド毎に算出された性能評価値の推移を示すグラフが含まれる。

性能画面４３２には、再学習を受け付けないでグローバルモデル５１をダウンロードするためのインタフェース４３３と、再学習を受け付けるインタフェース４３４が含まれている。インタフェース４３３が選択されると、ノード１の処理部１０は再学習せずにサーバ３から出力されたグローバルモデル５１を記憶して以後利用する。

インタフェース４３４が選択されると、ノード１の処理部１０は、再学習を実行して（Ｓ２１３）、ノード１用にグローバルモデル５１を最適化してから記憶し、以後利用する。

これにより、ノード１の処理対象であるデータに対して精度が高いモデルを利用することが可能になる。

（第２の実施形態）
第２の実施形態におけるモデル提供システム１００は、ノード１にて、グローバルモデル５１に対してローカルデータに基づく評価値を算出し、その評価値を用いて性能評価値を算出する。また第２の実施形態では、ノード１が追加プログラム１Ｔに基づき、サーバ３におけるグローバルモデル５１の学習途上で各バージョンの評価値を定期的に、自動的に参照し、より高い評価値のグローバルモデル５１を取得し、再学習する。

図１０は、第２の実施形態におけるノード１の構成を示すブロック図である。ノード１の記憶部１１には追加プログラム１Ｔが記憶されている。追加プログラム１Ｔ及び上述した詳細な処理手順以外を除き、第２の実施形態におけるモデル提供システム１００の構成は第１の実施形態のモデル提供システム１００と同様の構成である。したがって、共通する構成については同一の符号を付して詳細な説明を省略する。

図１１は、第２の実施形態のモデル提供システム１００における学習処理手順の一例を示すフローチャートである。図１１のフローチャートに示す処理手順の内、図４のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。

ステップＳ４でグローバルモデル５１を更新すると（Ｓ４）、サーバ３の処理部３０は、更新後のグローバルモデル５１を、複数のノード１へ送信する（ステップＳ５０１）。

更新後のグローバルモデル５１を受信した複数のノード１は夫々、送信されたグローバルモデル５１を用いて、記憶装置２からローカルデータを読み出し、入力データに対する精度評価を実行する。ノード１の処理部１０は、ローカルデータの入力データを入力した場合の精度を算出し、サーバ３へ送信する。処理部１０は、精度として、ローカルデータにおける入力データに対応する出力データとの合致率を算出してもよいし、ノード１のオペレータから表示部１３及び操作部１４を介して精度評価を受け付けてもよい。

サーバ３の処理部３０は、各ノード１から送信される評価値を取得し（ステップＳ５０２）、複数のノード１から取得した評価値から総評価値を算出する（ステップＳ５０３）。ステップＳ５０３において処理部３０は、精度の平均値を算出してもよいし、合致率の平均でもよいし、オペレータから受けた評価の平均を求めてもよい。

処理部３０は、更新したグローバルモデル５１に対してステップＳ５０２で各ノードから得た評価値、及びステップＳ５０３で算出した総評価値を、グローバルモデル５１のラウンド情報と対応付けて記憶し（ステップＳ５０４）、処理をステップＳ７へ進める。

図１１のフローチャートに示した処理手順により、各ノード１で実際に処理するローカルデータに基づく評価に基づき、各ノード１から、グローバルモデル５１を選択可能になる。

図１２は、ノード１のモデル自動取得処理手順の一例を示すフローチャートである。ノード１の処理部１０は、設定された周期が到来すると以下の処理手順を実行する。ノード１は、以下に示す処理手順を予め設定された周期、例えばグローバルモデル５１の改訂（バージョンアップ）の周期に対応する周期で自動的に実行する。なお、ノード１のオペレータによる操作にて以下の処理を進めるようにしてもよい。

ノード１の処理部１０は、サーバ３から、最新のグローバルモデル５１のバージョン情報及び性能評価値を取得する（ステップＳ２２１）。

処理部１０は、バージョン情報が、前回取得したバージョン情報から更新されているか否かを判断する（ステップＳ２２２）。

バージョン情報が更新されていないと判断された場合（Ｓ２２２：ＮＯ）、処理を終了し、次の周期が到来するまで待機する。

バージョン情報が更新されていると判断された場合（Ｓ２２２：ＹＥＳ）、処理部１０は、バージョン情報及び性能評価値を記憶する（ステップＳ２２３）。

処理部１０は、性能評価値が、他のバージョン情報に対応付けてすでに記憶されている性能評価値以上であるか否かを判断する（ステップＳ２２４）。性能評価値未満であると判断された場合（Ｓ２２４：ＮＯ）、処理部１０は処理を終了する。

性能評価値以上であると判断された場合（Ｓ２２４：ＹＥＳ）、処理部１０は、更新されたバージョン情報を指定してグローバルモデル５１の取得リクエストをサーバ３へ送信し（ステップＳ２２５）、グローバルモデル５１を取得する（ステップＳ２２６）。

処理部１０は、取得したグローバルモデル５１を、記憶装置２から取得できるローカルデータを用いて再学習を実行する（ステップＳ２２７）。処理部１０は、再学習による精度を算出し（ステップＳ２２８）、算出した精度と対応付けて、再学習後のローカルモデル５２を記憶部１１に記憶するとともに（ステップＳ２２９）、サーバ３へ送信し（ステップＳ２３０）、処理を終了する。

ノード１は、図１２のフローチャートに示した処理手順のみならず、以下のような手順で、自ノード１向けに最適なグローバルモデル５１を取得してもよい。ノード１は、図１１のフローチャートで示したように、サーバ３から更新の都度に依頼されて算出する評価値、即ちステップＳ５０１の処理に応じて算出する評価値を、バージョン情報、ラウンド情報と対応付けて記憶しておく。ノード１は、自身のローカルデータで評価した評価値が最も高いグローバルモデル５１を使用し、更に、ステップＳ２２７の再学習を実行し、最適化して利用する。

これにより、グローバルモデル５１の更新履歴の中で、ノード１が処理するローカルデータに最も適したグローバルモデル５１を利用することが可能になる。一旦、評価値が最も高いとして選択し、取得したグローバルモデル５１が、その後更新され、更に評価値が高くなった場合に、ノード１は追加プログラム１Ｔに基づいてこれを自動的に取得して最適化して利用できる。サーバ３側にも、各ローカルデータでの最適化後のグローバルモデル５１が送信され、以後、更新の際の利用が可能になる。

（第３の実施形態）
モデル提供システム１００は、ニューラルネットワークを始めとする深層学習のモデルに適用できる。例えば、入力データは画像データであり、出力データは画像データの画像に写っている被写体の検出結果、又は被写体に対する判定結果である。他の例では、入力データは、入出金データであり、出力データは評価等の判定結果、あるいは企業業況変化（成長または劣化）に関する予測値や経済予測に関する予測値である。他の例では、入力データは、工場、生産設備に設けられた各種センサからの測定データであり、出力データは異常／正常を含む生産管理に関するデータである。他の例では、入力データはテキストデータであり、出力データは判定結果、または予測データである。

図１３は、第３の実施形態のモデル提供システム１００の概要図である。第３の実施形態のモデル提供システム１００は、医療施設にて患者に関して得られる医療データから、患者に特定の病気の症状が発生しているか否かの診断を支援するデータを出力するモデルの学習、及び提供に適用させる。

モデル提供システム１００の構成は基本的に、第１又は第２の実施形態のモデル提供システム１００と同様である。第３の実施形態においてノード１及び情報処理装置６は、医療施設に設けられている。ノード１及び情報処理装置６は、患者の眼底写真を撮影する撮影装置７から得られる画像データを取得できる。ノード１が設けられている医療施設では、撮影装置７は記憶装置２に対して画像データを出力する。撮影装置は、異なる種類の装置を含む。

第３の実施形態においてグローバルモデル５１、ローカルモデル５２及び配布可能として記憶されたモデルは、画像データが入力された場合に、緑内障の診断を支援するデータ及び精度を出力するように学習されるモデルである。トレーニングデータとして用いられるローカルデータは、入力データとして画像データと、出力データとして眼底写真におけるDisc部分とCup部分とをセグメンテーションした結果の画像データである。出力データはその他、症状がみられるか否かを医師又は技師が判定した判定結果を含むデータセットであってもよい。ローカルデータの入力データである画像データは、撮影装置の種類を示す装置データと対応付けられている。装置データは型番でもよいし、装置メーカを識別するデータであってもよい。

第３の実施形態においてモデル提供システム１００では、サーバ３が予め特定の医療施設で作成した初期的なグローバルモデル（第０次グローバルモデル）５１を取得する。サーバ３は、第０次グローバルモデル５１を、トレーニングに協力する医療施設のノード１へ各配布する。

各ノード１は、配布された第０次グローバルモデル５１を受信し、第０次グローバルモデル５１に基づいてそれぞれ、ローカルデータをトレーニングデータとして学習を進行し、第１次ローカルモデル５２を得る。ノード１は、学習された第１次ローカルモデル５２をサーバ３へ送信する。

サーバ３は、各ノード１から取得したローカルモデル５２を、統計処理（平均、加重平均）して第１次グローバルモデル５１を作成する。作成された第１次グローバルモデル５１を、サーバ３は、複数のノード１へ再配布する。

サーバ３は、配布した第ｎ次グローバルモデル５１から作成される第（ｎ＋１）次ローカルモデル５２の取得、第（ｎ＋１）次ローカルモデル５２からの第（ｎ＋１）次グローバルモデル５１の更新を、繰り返す。

サーバ３は、更新を繰り返して得られたグローバルモデル５１を記憶しておく。各ノード１が、性能評価値が、各ノード１のローカルデータにとって最も高いグローバルモデル５１を選択し、適宜、再学習して配布可能なモデルとして利用する。

第３の実施形態では、グローバルモデル５１又はローカルモデル５２の評価値として、感度（＝真陽性／（真陽性＋偽陰性））、特異度（＝真陰性／（偽陽性＋真陰性））を算出して用いるようにしてもよい。

これにより、個人情報そのものである検査結果の画像データが、サーバ３へ集約されることなく、且つ、異なる医療施設に亘って多くのデータを用いて学習することが可能になる。

上述のように開示された実施の形態は全ての点で例示であって、制限的なものではない。本発明の範囲は、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれる。

１ ノード
１０ 処理部
１１ 記憶部
１Ｐ ノードプログラム
１Ｔ 追加プログラム
２ 記憶装置
３ サーバ
３０ 処理部
３１ 記憶部
３Ｐ サーバプログラム
５１ グローバルモデル
５２ ローカルモデル

Claims (8)

1. サーバに記憶するグローバルモデルのデータを複数のノードに対して配布し、
   前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータを取得し、
   前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、
   更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、
   前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、
   指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、
   出力後のグローバルモデルを、前記ローカルデータによって追加学習させる
   処理を含むモデルのデータ提供方法。
2. 前記複数のノードに、異なるバージョン情報が対応付けられた複数のグローバルモデルに対し、記憶しているローカルデータを用いた場合の精度の評価値を各算出させ、
   算出された評価値と対応付けて前記グローバルモデルの選択を受け付ける
   処理を含む請求項１に記載のモデルのデータ提供方法。
3. 前記複数のノードは夫々、
   記憶するローカルデータによって配布されるグローバルモデルをローカルデータ用に追加学習する追加プログラムを記憶しておき、
   出力されるグローバルモデルのデータに基づき、前記グローバルモデルを前記追加プログラムによって追加学習する
   請求項１又は２に記載のモデルのデータ提供方法。
4. 前記複数のノードは夫々、医療施設に設置されて患者に関する医療データを記憶しており、
   前記グローバルモデル及びローカルモデルは、前記医療データが入力された場合に、診断を支援する診断支援データを出力するように学習される
   請求項１から請求項３のいずれか１項に記載のモデルのデータ提供方法。
5. 前記医療データは、患者に対して撮影された医療画像データである
   請求項４に記載のモデルのデータ提供方法。
6. ローカルデータを各々処理する複数のノードと、該複数のノードから通信接続されるサーバとを含み、
   前記サーバは、前記複数のノードへグローバルモデルのデータを配布し、
   前記複数のノードは夫々、処理対象のローカルデータによって前記グローバルモデルからローカルモデルの学習を各々進め、
   前記サーバが備える処理部は、
   学習後の前記ローカルモデルのデータを前記複数のノードから取得し、
   前記複数のノード夫々から取得した学習後のローカルモデルに基づいてグローバルモデルのデータを更新し、
   更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、
   前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、
   指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、
   出力後のグローバルモデルを、前記ローカルデータによって追加学習させる
   モデルのデータ提供システム。
7. 複数のノードに通信接続が可能なコンピュータに、
   記憶しているグローバルモデルのデータを前記複数のノードに対して配布し、
   前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータを取得し、
   前記複数のノード夫々から取得した学習後のローカルモデルに基づいてグローバルモデルのデータを更新し、
   更新後のグローバルモデルのデータをバージョン情報と対応付けて記憶し、
   前記グローバルモデルのバージョン情報の指定と共に前記グローバルモデルの選択を受け付け、
   指定されたバージョン情報が対応付けられている前記グローバルモデルのデータを出力し、
   出力後のグローバルモデルを、前記ローカルデータによって追加学習させる
   処理を実行させるコンピュータプログラム。
8. サーバと通信接続されるコンピュータに、
   前記サーバから配布されるグローバルモデルのデータを基にして処理対象のローカルデータを用いたローカルモデルを学習する処理と、学習後のローカルモデルのデータを前記サーバへ送信する処理とを繰り返し、
   異なるバージョン情報が対応付けられたグローバルモデルの一覧を含む画面データを前記サーバから受信し、
   受信した画面データに基づいて前記コンピュータに備えられる表示部に、前記一覧を表示し、
   前記一覧の内のいずれかのバージョン情報の指定を受け付け、
   指定されたバージョン情報に対応するグローバルモデルのデータを取得し、
   取得したグローバルモデルのデータに基づき、前記グローバルモデルに前記ローカルデータを与えて再学習する
   処理を実行させるコンピュータプログラム。

Images