JP7005463B2 - 学習装置、学習方法及びプログラム - Google Patents

Description

本発明の実施形態は、推論システムのための学習装置、学習方法及びプログラムに関する。

従来より、機械学習手法を用いた認識、分類、あるいは予測などを行う推論技術が広く利用されている。

例えば、ニューラルネットワークを利用した推論装置は、学習データを用いて作成された推論モデルを用いて、入力データに対して推論などを行う。教師データとしての学習データがニューラルネットワークに与えられ、そのネットワークにおけるニューロン間の繋がりの強さを示す係数データが算出されて、推論モデルが作成される。

また、推論の精度を高めるために、学習データを追加して、推論モデルのパラメータを更新する必要が生じる場合がある。

しかし、これまでは、熟練した作業員（以下、熟練者という）などにより学習データの選定が行われ、教師データしての学習データを１つずつ追加して学習処理を実行するため、モデルのパラメータ更新に時間が掛かってしまうという問題がある。

また、選択された学習データに、例えば季節変動などにより偏りがあると、推論の精度が低下してしまうという問題がある。

特開２００５－１０７７４３号公報

そこで、本実施形態は、推論モデルのパラメータ更新時間を短くすると共に、推論の精度の低下を抑制する推論システムのための学習装置、学習方法及びそのためのプログラムを提供することを目的とする。

実施形態の学習装置は、所定の分類空間における複数の分類の中から対象の状態が属する分類を推論する推論モデルの学習を行う学習装置であって、前記対象についての複数のデータに対して前記推論モデルを用いた推論を実行し、前記対象の状態が属する各分類に属する確率を算出する推論部と、各データについて、前記複数の分類の各識別境界に対する前記確率の差の関数により、前記各データの前記所定の分類空間における位置の前記各識別境界からの距離に応じた所定のスコアを算出するスコア算出部と、前記複数のデータの中から前記所定のスコアに基づいて前記各識別境界からの距離が近い順にデータを選択し、選択された選択データ以外の残りのデータにおける前記選択データの識別境界と同じ識別境界のデータの前記所定のスコアを前記選択データの識別境界と同じ識別境界からの距離が遠くなるように変更する処理を、前記残りのデータに対して繰り返すスコア変更部と、前記所定のスコアが変更されたデータから前記所定のスコアに基づいて前記各識別境界からの距離が近い順に選択された所定数のデータに対して、前記所定の分類空間におけるラベルを付与するラベル付与部と、前記ラベル付与部において前記ラベルが付与されたデータを前記推論モデルの学習データに追加する学習データ作成部と、前記ラベルが付与されたデータが追加された前記学習データを用いて、前記推論モデルの更新を行うモデル更新部と、を有する。

実施形態に関わる状態監視システムの構成図である。 実施形態に関わる推論装置の構成を示すブロック図である。 実施形態に関わる、推論プログラムにおけるデータの入出力を説明するためのブロック図である。 実施形態に関わる推論の方法を説明するための図である。 実施形態に関わる、学習システムの学習装置のハードウエア構成を示すブロック図である。 実施形態に関わる学習装置の処理の構成を説明するためのブロック図である。 実施形態に関わるデータ評価部の構成を示すブロック図である。 実施形態に関わる、スコア分布のグラフの例を示す図である。 実施形態に関わる、スコア変更部による、３つの分類を規定する分類空間内の点についてのスコアの値の変更を説明するための図である。 実施形態に関わる、学習プログラムの処理の流れの例を示すフロ－チャートである。 実施形態に関わる、前処理の処理の流れの例を示すフローチャートである。 実施形態の変形例１に関わる、学習装置の処理の構成を示すブロック図である。 実施形態の変形例３に関わる、ラベル付与部における、３つの分類を規定する分類空間内の点についてのペナルティの付与の例を説明するための図である。 実施形態の変形例４に関わる、ペナルティの付与を説明するための図である。

以下、図面を参照して実施形態を説明する。
（第１の実施形態）
（全体システムの構成）
図１は、本実施形態に係わる状態監視システムの構成図である。

状態監視システム１は、推論システム２と、学習システム３を含む。ここでは、状態監視システム１は、対象物又は対象（以下、単に対象という）Ｐの状態が、正常であるか、あるいは異常であるかを、対象ＯＢの画像データに基づき推論して、その推論結果を出力する。推論結果は、対象ＯＢの状態が正常であるかあるいは異常であるか、かつ異常であるときは、予め種類分けされた異常分類のどの分類に属するかを示す情報を含む。すなわち、状態監視システム１は、対象ＯＢを監視し、画像データに基づき、対象ＯＢの状態を分類する分類システムである。

推論システム２と学習システム３は、ネットワーク４を介して通信可能に接続されている。例えば、ネットワーク４は、インターネットであり、学習システム３は、所謂クラウド５上の学習装置６を含む。学習装置６は、ネットワーク４に接続されたサーバであり、高速演算が可能なコンピュータである。

推論システム２は、推論した画像データを保存し管理するデータ管理装置７と接続されている。
（推論システムの構成）
推論システム２は、画像取得部１１と、推論装置１２と、表示装置１３とを含む。

カメラ１４は、対象ＯＢを撮像して、動画像の撮像信号を生成し、画像取得部１１へ出力する。対象ＯＢは、例えば、工場の製造ラインで製造された部材、製造ラインの製造設備、あるいは対象物が処理されているときの被対象物である。
画像取得部１１は、カメラ１４から撮像信号を取得し、所定のフォーマットの画像データに変換して推論装置１２へ出力する。

推論装置１２は、入力された画像データに対して、所定の推論処理を行い、推論結果データを表示装置１３に出力するコンピュータである。ここでは、推論は、ニューラルネットワークを利用した推論エンジンにより行われる。推論結果の情報が、表示装置１３に表示される。

推論結果は、例えば、対象ＯＢの正常及び異常を判定した判定結果であり、かつ、異常の場合は、判定結果は、例えば、異常１、異常２、等という異常の種類を含む。
状態監視システム１を利用するユーザは、表示装置１３に表示された対象ＯＢの分類を見て、対象ＯＢの製造などに係わる設備あるいは機器等に対する必要なアクションを取ることができる。
推論装置１２は、対象ＯＢの状態についての分類に関する推論モデルであるモデルＭに基づいて、入力された画像データから対象ＯＢの状態がどの分類に属するかを推論する。

モデルＭは、画像データが入力される入力層と、複数の隠れ層と、出力層を含むニューラルネットワークのモデルである。ニューラルネットワークにおけるニューロン間の繋がりを強さが、パラメータデータＰＤとして推論装置１２に与えられる。
入力層には、例えば７２０×４８０の画像におけるＲＧＢの３つの色データが入力される。入力層に入力された画像データの特徴量データは、複数の隠れ層の一部において抽出される。
なお、画像データの各種の特徴量データが、入力層に入力されるようにしてもよい。

推論装置１２のモデルＭのパラメータデータＰＤは、学習システム３において機械学習により算出され、学習システム３から与えられて設定される。

図２は、推論装置１２の構成を示すブロック図である。
推論装置１２は、プロセッサ２１と、プログラム用のメモリ２２と、画像データを入力するための入力インターフェース（以下、入力Ｉ／Ｆと略す）２３と、推論結果データを出力するための出力インターフェース（以下、出力Ｉ／Ｆと略す）２４と、通信インターフェース（以下、通信Ｉ／Ｆと略す）２５を有する。

プロセッサ２１は、中央処理装置（ＣＰＵ）、ＲＯＭ、ＲＡＭなどを含み、ＲＯＭあるいはメモリ２２に格納されたプログラムを読み出して実行するハードウエアである。
メモリ２２は、推論プログラムＩＰなどを記憶するプログラム記憶領域２２ａと、推論プログラムＩＰのパラメータデータＰＤを記憶するパラメータ記憶領域２２ｂを含む記憶装置である。モデルＭのパラメータデータＰＤは、後述するように、学習システム３から送信されて、パラメータ記憶領域２２ｂに格納される。
なお、プログラム記憶領域２２ａは、後述する前処理部２２ｃのプログラムなど、他のソフトウエアプログラムも記憶する。

プロセッサ２１は、入力Ｉ／Ｆ２３から受信した画像データに対して、推論プログラムＩＰを実行し、出力Ｉ／Ｆ２４を介して推論結果の情報を表示装置１３へ出力する。例えば、推論プログラムＩＰは、１秒毎に、サンプリングされた画像データに対して実行される。

通信Ｉ／Ｆ２５は、推論装置１２がネットワーク４を介して学習システム３の学習装置６と通信するための回路である。
また、図２において点線で示すように、推論装置１２は、図示しないインターフェースを介してデータ管理装置７と接続されている。

推論装置１２において推論に用いられた画像データは、データ管理装置７に転送されて、データ管理装置７のメモリ７ａに格納される。すなわち、メモリ７ａは、推論プログラムＩＰにより推論が行われた画像データを格納する画像データ記憶領域を含む記憶装置である。例えば、１秒毎の画像データに対して推論が行われる場合は、推論に用いられた１秒毎の画像データが、メモリ７ａに格納される。

メモリ７ａに格納された画像データの中から選択された画像データは、後述するように、推論システム２から学習システム３へ定期的に送信される。例えば、１週間毎に、メモリ７ａに格納された画像データが、学習システム３へ送信される。

なお、ここでは、データ管理装置７の画像データは、推論装置１２を介して学習システム３へ送信されるが、画像データは、データ管理装置７から学習システム３へ直接送信されるようにしてもよい。

さらになお、メモリ７ａに格納された画像データの中からユーザにより選択された画像データを、ユーザがマニュアルで学習システム３へ送信することもできる。
メモリ７ａに格納された画像データは、学習システム３へ転送されると、消去される。その後、推論に用いられた１秒毎の画像データは、メモリ７ａに格納される。

図３は、推論プログラムにおけるデータの入出力を説明するためのブロック図である。推論プログラムＩＰには、画像取得部１１から入力Ｉ／Ｆ２３を介して入力された画像データの特徴量データを抽出する前処理部２２ｃとしての機能が含まれる。

図３に示すように、画像取得部１１からの画像データは前処理部２２ｃに入力される。
前処理部２２ｃは、画像データから所定の特徴量などのデータを算出して、出力する。

推論プログラムＩＰは、パラメータ記憶領域２２ｂから読み出したパラメータデータＰＤを用いて、前処理部２２ｃから出力されたデータに対して推論を行うプログラムである。推論プログラムＩＰは、前処理部２２ｃからデータを入力し、ニューラルネットワークを用いた推論モデルであるモデルＭを用いて、推論結果の情報を出力する。

推論結果の情報は、例えば、対象ＯＢの画像と、分類毎の確率データと共に、表示装置１３に表示される。
モデルＭのパラメータデータＰＤは、上述したように学習システム３から送信される。
（推論方法）
図４は、推論の方法を説明するための図である。

ここでは、説明を簡単にするために、２次元の分類空間における３つの分類の場合の例を説明する。図４において、分類空間において、分類１，２，３は、識別境界Ｌ１，Ｌ２，Ｌ３に基づいて行われる。

推論結果は、図４において点で示されるように、各画像データの分類空間内における座標の位置あるいはベクトルとして与えられる。各点は、各画像データの分類空間内における座標の位置の位置を示す。
図４では、例えば、点Ｐ１は、分類１に属し、点Ｐ２は、分類２に属し、点Ｐ３は、分類３に属している。

また、推論プログラムＩＰは、各点の座標の各分類に属する確率も算出する。
例えば、点Ｐ１の座標は、識別境界Ｌ１とＬ３により規定される分類１の領域に属すると共に、分類空間において他の分類の領域から離れて位置している。その場合、点Ｐ１の座標について算出される分類１に属する確率Ｐｒ１は高く、分類２に属する確率Ｐｒ２及び分類３に属する確率Ｐｒ３は共に低い。

また、図４において点Ｐ１１の座標は、分類１の領域に属するが、分類２の領域にも近く、かつ分類３の領域からは離れて位置している。その場合、その点Ｐ１１の座標について算出される分類１に属する確率Ｐｒ１が最も高く、分類２に属する確率Ｐｒ２が確率Ｐｒ１の次に高く、かつ分類３に属する確率Ｐｒ３は低い。

以上のように、推論プログラムＩＰは、学習システム３から与えられたパラメータデータＰＤにより規定されたモデルＭを用いて、入力された画像データから対象ＯＢの状態を分類すると共に、各点の座標の各分類に属する確率も算出する。
（学習システムの構成）
学習システム３は、データ管理装置７に蓄積された画像データの中から選択された学習データを用いて、モデルＭの複数のパラメータデータＰＤを学習して算出する。

なお、ここでは、学習システム３は、インターネット上のクラウドシステムとして構築されているが、推論システム２にＬＡＮなどの通信ラインにより接続された装置でもよい。例えば、同様の推論を行う推論システム２が複数あるとき、ＬＡＮなどの通信ラインに接続された１つの学習システム３が、その複数の推論システム２のために、各推論システム２のモデルＭのパラメータデータＰＤを算出するようにしてもよい。

図５は、学習システム３の学習装置６のハードウエア構成を示すブロック図である。
学習装置６は、プロセッサ３１と、メモリ３２と、通信Ｉ／Ｆ３３と、入出力装置３４と、入出力インターフェース（以下、入出力Ｉ／Ｆと略す）３５を有する。

プロセッサ３１は、中央処理装置（ＣＰＵ）、ＲＯＭ、ＲＡＭなどを含み、ＲＯＭあるいはメモリ３２に格納された学習プログラムＬＰなどを読み出して実行するハードウエアである。

学習により算出されたモデルＭの新たなパラメータデータｎＰＤは、後述するように、学習システム３から送信されて、推論装置１２のパラメータ記憶領域２２ｂに格納される。
メモリ３２は、データ記憶領域３２ａ、プログラム記憶領域３２ｂ、パラメータ記憶領域３２ｃ及び学習データ記憶領域３２ｄを含む。

データ記憶領域３２ａには、推論システム２から受信した画像データが記憶され、蓄積される。
プログラム記憶領域３２ｂには、学習プログラムＬＰなどが記憶される。学習プログラムＬＰの構成については、後述する。

パラメータ記憶領域３２ｃには、学習により算出されたパラメータデータｎＰＤを記憶する。パラメータ記憶領域３２ｃに記憶されるパラメータデータｎＰＤは、推論システム２のパラメータ記憶領域２２ｂに記憶されたパラメータデータＰＤと同一である。

学習データ記憶領域３２ｄには、パラメータデータｎＰＤを算出するときに使用した画像データが、学習データとして記憶される。
通信Ｉ／Ｆ３３は、学習装置６がネットワーク４を介して推論システム２の推論装置１２と通信するための回路である。

入出力装置３４は、表示装置３４ａ、キーボード３４ｂ、マウス３４ｃ、などを含むユーザインターフェースである。
入出力Ｉ／Ｆ３５は、プロセッサ３１と入出力装置３４間の各種信号をやり取りするための回路である。

プロセッサ３１は、入出力Ｉ／Ｆ３５から受信した指示に基づいて、学習データを用いて学習プログラムＬＰなどを実行する。学習プログラムＬＰは、学習により算出されたパラメータデータｎＰＤを、パラメータ記憶領域３２ｃに出力する。

プロセッサ３１は、学習装置６において算出された新たなパラメータデータｎＰＤを、ネットワーク４を介して推論装置１２に転送する。パラメータデータｎＰＤは、パラメータデータＰＤとして、推論装置１２のパラメータ記憶領域２２ｂに格納される。
熟練者であるユーザは、定期的にあるいは任意のタイミングで、学習装置６の表示装置３４ａに表示された学習データの画像データに対して教示して教師データを付加して、パラメータデータｎＰＤを算出し、推論装置１２のパラメータデータＰＤを更新することができる。

例えば、推論システム２は、推論に用いた画像データを、一定期間例えば１週間、データ管理装置７に蓄積する。学習装置６は、定期的に例えば１週間毎に、推論に用いられた画像データを、推論システム２から受信する。すなわち、データ記憶領域３２ａには、過去の画像データに対して追加するように、推論システム２から定期的に受信した画像データが蓄積される。
よって、ユーザは、学習装置３が推論システム２から一定期間の画像データを受信したときに、学習プログラムＬＰを実行して新たなパラメータデータｎＰＤを送信するようにしてもよいし、学習プログラムＬＰを実行して得られたスコアＳｃの分布状況などを見て、パラメータデータｎＰＤを算出し、推論装置１２のパラメータデータＰＤを更新するようにしてもよい。

学習データ記憶領域３２ｄに格納される学習データは、モデルＭのモデル更新において用いられた画像データである。
図６は、学習装置６の処理の構成を説明するためのブロック図である。

プログラム記憶部３２ｂに格納される学習プログラムＬＰは、データ評価部４１、学習データ作成部４２及びモデル更新部４３を有している。データ評価部４１、学習データ作成部４２及びモデル更新部４３は、ソフトウエアプログラムである。

データ評価部４１は、入出力装置３４からユーザの指示に応じて、データ評価を行う。データ評価は、データ記憶領域３２ａに記憶された画像データに対して推論を行い、推論結果から所定のスコアを算出し、算出したスコアを変更し、変更されたスコアに従って画像データを熟練者に提示して、画像データにラベルを付与させる処理を含む。

学習データ作成部４２は、データ評価部４１においてラベルが付与された画像データから、学習データを作成し、学習データ記憶領域３２ｄに追加する。
モデル更新部４３は、更新された学習データに基づいて、モデルＭの新たなパラメータデータｎＰＤを算出し、算出されたパラメータデータｎＰＤをパラメータ記憶領域３２ｃに記憶することによって、パラメータデータｎＰＤを更新する。すなわち、モデル更新部４３は、学習データを用いて、モデルＭの更新を行う。

また、スコア分布表示部４４は、プログラム記憶領域３２ｂに記憶されたプログラムである。スコア分布表示部４４は、後述するスコア算出部５２により算出されたスコアＳｃの分布を示すグラフを作成して、作成したグラフデータを出力するプログラムである。

図７は、データ評価部４１の構成を示すブロック図である。
データ評価部４１は、推論部５１と、スコア算出部５２と、スコア変更部５３と、ラベル付与部５４とを含む。

推論部５１は、推論プログラムＩＰａを含み、画像データに対して推論プログラムＩＰａを実行する。推論プログラムＩＰａは、推論システム２において用いられている推論プログラムＩＰと同じプログラムであり、パラメータ記憶領域３２ｃに記憶されたパラメータデータｎＰＤを用いて、データ記憶領域３２ａに格納されている画像データに対して推論を実行する。

推論部５１は、各画像データに対して分類付けを行うと共に、各分類に属する確率も算出する。
スコア算出部５２は、各画像データについての各分類に属する確率データから、所定のスコアを算出する。

各画像データについての複数の特徴量を入力として、ニューラルネットワークを利用した推論処理により、各画像データの分類が推論される。多次元の分類空間内における点の座標が、識別境界により規定されたどの分類の領域に含まれるかによって、各画像データの分類が推論される。推論において、各点について、各分類に属する確率も算出される。スコアＳｃは、その算出された確率データに基づいて、所定の分類空間における各点の識別境界からの距離の近さを数値化した値である。すなわち、スコアＳｃは、所定の分類空間における各点の識別境界への近さに応じた値であり、距離は、所定の分類空間における各点の識別境界からの距離である。

ここでは説明を簡単にするために、図４の例を説明すると、識別境界Ｌ１の右側が分類１の領域であり、識別境界Ｌ１の左側が分類２の領域である。図４において、点Ｐ１１は、識別境界Ｌの右側に位置しているため、点Ｐに対応する画像データは、分類１に属すると推論されるが、推論のときに、点Ｐ１１が分類１に属する確率Ｐｒ１と、点Ｐが分類２に属する確率Ｐｒ２も算出される。

スコアＳｃは、多次元空間における各分類に属する確率データに基づいて算出される。図４の例であれば、点Ｐ１１が分類１に属する確率Ｐｒ１と、点Ｐ１１が分類２に属する確率Ｐｒ２が、まず、推論プログラムＩＰａにより算出される。算出された２つの確率Ｐｒ１とＰｒ２の差の関数により、スコアＳｃは、算出される。

例えば、スコアＳｃは、次の式で与えられる。
Ｓｃ＝ｆ（｜Ｐｒ１－Ｐｒ２｜）
ここでは、ｆは、２つの確率の差の絶対値の関数でかつ、差の小さい程、Ｓｃの値が大きくなり、差の大きい程、Ｓｃの値が小さくなるような関数である。スコアＳｃは、例えば０．０から１．０の間の値となるように正規化される。簡単な例であれは、ｆは、２つの確率の差の絶対値の逆数を算出する式である。
点Ｐ１１が識別境界Ｌ１に近いため、点Ｐ１１のスコアＳｃの値は、大きい。

一方、図４において、分類２に属する点Ｐ１２は、識別境界Ｌ１から離れていてかつ分類２の領域に属するため、確率Ｐｒ２は大きく、確率Ｐｒ１は小さい。そのため、２つの確率の差が大きいため、スコアＳｃの値は小さくなる。
なお、関数ｆは、２つの確率の差に応じた線形式でも、非線形式でもよい。

以上のように、スコア算出部５２は、データ記憶領域３２ａに追加された全ての画像データのスコアＳｃを算出する。

上述したスコア分布表示部４４は、スコア算出部５２において算出された複数の画像データのスコアの値の分布を示すグラフを生成する。

図８は、スコア分布のグラフの例を示す図である。縦軸は、画像データの数の軸であり、横軸は、スコアＳｃの軸である。
図８は、スコアＳｃが０．０から１．０の値を取るとき、複数の画像データについて算出された複数のスコアＳｃの分布を示す。

「０．０」に近い程、当該画像データの分類空間における上位２つの識別境界から距離が遠いことを示し、「１．０」に近い程、当該画像データの分類空間における上位２つの識別界に近いことを示している。

図８において、点線は、スコアＳｃについての所定の閾値ＴＨを示し、ユーザは、閾値ＴＨよりも大きいスコアＳｃを有する画像データの割合を、グラフから直観的に把握できる。
すなわち、ユーザは、図８のスコアＳｃの分布状態を見て、モデルＭの状態を直観的に把握することができる。

以上のように、スコア分布表示部４４は、所定のスコアＳｃの分布を表示装置３４ａに表示するために分布表示データを出力する分布表示データ出力部を構成する。

図７に戻り、算出されたスコアＳｃは、スコア変更部５３により更新される。
スコア変更部５３は、スコア算出部５２において算出して得られた画像データのスコアＳｃを変更する。例えば、スコアＳｃのデータは、データ記憶領域３２ａに記憶された全ての画像データについて、プロセッサ３１のＲＡＭなどのバッファ領域に格納される。

スコア変更部５３によりスコア変更は、同じ識別境界に近い点の画像データを学習データとして選出されないように、スコアＳｃの値を変更する。
図９は、スコア変更部５３による、３つの分類１，２，３を規定する分類空間内の点についてのスコアＳｃの値の変更を説明するための図である。

ここでは、説明を簡単にするために５つの点のスコアＳｃの例を説明する。図９において、ＳＳ１からＳＳ５の各テーブルは、各画像データの分類空間内の各点Ａ，Ｂ，Ｃ，Ｄ，Ｅについてのスコアと、各点に近い識別境界を示している。スコア変更部５３により、各点Ａ，Ｂ，Ｃ，Ｄ，Ｅについてのスコアは、ＳＳ１からＳＳ５へ変更される。

ＳＳ１は、スコア算出部５２により算出された各点のスコアを示すテーブルである。ＳＳ１では、点Ａのスコアは、「０．６」であり、識別境界は、分類１と２の識別境界である「１－２」であることが示されている。点Ｂのスコアは、「０．３」であり、識別境界は、分類１と３の識別境界である「１－３」であることが示されている。他の点Ｃ，Ｄ，Ｅのスコアと識別境界も、図９に示すように示されている。

スコア変更部５３は、スコアＳｃの値が最も大きな点から順番に選択して、その選択された点以外の残りの点のスコアＳｃの値を変更する処理を繰り返す。
図９の場合、ＳＳ１では、点ＡのスコアＳｃが最も大きいので、スコア変更部５３は、点Ａを選択する。選択した点Ａの識別境界は、「１－２」である。

スコア変更部５３は、選択した点Ａの識別境界と同じ識別境界の点のスコアＳｃに対してペナルティを与える。ペナルティを与えるとは、例えば、スコアＳｃの値を小さくすることである。

ここでは、ペナルティにより、スコアＳｃの値は、所定値だけ減算される。ＳＳ２では、識別境界「１－２」の点Ｅのスコアは、所定値、ここでは０．５だけ減算されて、「０．０」に変更される。

スコア変更部５３は、このようなペナルティを与える処理を実行した後の、点Ａを除く残りの点Ｂ，Ｃ，Ｄ，Ｅの中で、スコアＳｃの値が最も大きな点を選択する。ＳＳ２では、点ＤのスコアＳｃが最も大きいので、スコア変更部５３は、点Ｄを選択する。選択した点Ｄの識別境界は、「２－３」である。

スコア変更部５３は、選択した点Ｄの識別境界と同じ識別境界の点のスコアＳｃに対してペナルティを与える。
ここでは、ペナルティにより、識別境界「２－３」の点ＣのスコアＳｃの値が、所定値だけ減算されて、「－０．４」に変更される。

その後、スコア変更部５３は、点Ａ、Ｄを除く残りの点Ｂ，Ｃ，Ｅの中で、スコアＳｃの値が最も大きな点を選択する。ＳＳ３では、点ＢのスコアＳｃが最も大きいので、スコア変更部５３は、点Ｂを選択する。選択した点Ｂの識別境界は、「１－３」である。

スコア変更部５３は、選択した点Ｂの識別境界と同じ識別境界の点のスコアＳｃに対してペナルティを与えるが、残りの点Ｂ，Ｃ，Ｅの中に、識別境界が「１－３」の点はないので、ペナルティは与えられない。

その後、スコア変更部５３は、点Ａ、Ｂ、Ｄを除く残りの点Ｃ，Ｅの中で、スコアＳｃの値が最も大きな点を選択する。ＳＳ４では、点ＥのスコアＳｃが最も大きいので、スコア変更部５３は、点Ｅを選択する。選択した点Ｂの識別境界は、「１－２」である。

スコア変更部５３は、選択した点Ｂの識別境界と同じ識別境界の点のスコアＳｃに対してペナルティを与えるが、残りの点Ｃの識別境界が「１－２」の点はないので、ペナルティは与えられない。

その後、ＳＳ５に示すように、スコア変更部５３は、点Ａ、Ｂ、Ｄ、Ｅを除く残りの点Ｃを選択する。
以上のように、スコア変更部５３は、複数のデータ（ここでは画像データ）に付与された所定のスコアＳｃに基づいて選択された選択データの所定の分類空間における所定の距離、ここでは同じ境界からの距離に応じて、選択データ以外のデータの所定のスコアＳｃを変更する。ここでは、既に学習データとして選択されたデータとの距離が遠くなるように、未選択データのスコアが変更される。
すなわち、スコア変更部５３は、同じ識別境界に近い点のスコアＳｃにペナルティを与えて、スコアＳｃの大きな点と同じ識別境界に関する点のスコアを調整する。

図７に戻り、ラベル付与部５４は、入出力装置３４の表示装置３４ａに、画像を表示し、ユーザに画像データについて教示させ（すなわちラベルを付与させて）、付与されたラベルすなわち分類のデータを、データ記憶領域３２ａに記憶された画像データに関連付けて記憶する処理を実行する。

ラベル付与部５４は、スコア変更部５３において変更されたスコアの高い順に、所定数、例えばｋ個、の画像データを表示装置３４ａに表示する。例えば、スコアの高い順に、１００個の画像データが、表示装置３４ａに表示される。
すなわち、ラベル付与部５４は、スコアＳｃが変更された画像データを含むデータに対して、所定の分類空間におけるラベルを付与する。

画像データから対象ＯＢの状態を判定することができる匠の作業者である熟練者が、表示装置３４ａに表示された画像を見て、ラベルすなわち分類の情報を入出力装置３４に入力する。

ラベル付与部５４は、熟練者が入力した分類すなわちラベルのデータを、画像データに関連付けて、プロセッサ３１のＲＡＭなどのバッファに記憶する。
（学習装置の作用）
推論モデルの学習装置６の処理について説明する。学習装置６は、データに基づいて所定の推論を行う推論モデルの学習を行う。

図１０は、学習プログラムＬＰの処理の流れの例を示すフロ－チャートである。
例えば、１週間毎に、推論システム２から１週間分の画像データが学習システム３へ送信されたとき、その画像データの受信のタイミングでユーザにモデル更新処理の実行が促される。ユーザは、表示装置３４ａに表示された「新しい画像データに対してラベルを付与して下さい」というメッセージを見て、学習装置６に対して学習処理の実行を指示する。

ユーザが入出力装置３４を操作して、学習処理の実行を学習装置６へ指示すると、プロセッサ３１は、データ記憶領域３２ａに記憶された全ての画像データに対して推論プログラムＩＰａによる推論を実行する（ステップ（以下、Ｓと略す）１１）。Ｓ１１では、各画像データの各分類に属する確率Ｐｒが算出される。

プロセッサ３１は、推論が実行された各画像データについての前処理を実行する（Ｓ１２）。
Ｓ１２の前処理では、スコア算出部５２によるスコアＳｃの算出と、スコア変更部５３によるスコアＳｃの変更が行われる。スコアＳｃの算出は、上述したように、所定の関数により算出される。スコアＳｃは、各画像データの分類空間における位置の各識別境界に対する近さを示す。ここでは、点が分類空間において識別境界に近い程、スコアＳｃは高く、点が分類空間において識別境界に遠い程、スコアＳｃは低い。

図１１は、前処理（Ｓ１２）の処理の流れの例を示すフローチャートである。
プロセッサ３１は、推論により得られた各画像データの確率データから、データ記憶領域３２ａに記憶された全画像データのスコアを算出する（Ｓ２１）。

Ｓ２１の後、プロセッサ３１は、スコアＳｃの高い順に画像データを１つ選択する（Ｓ２２）。
プロセッサ３１は、図９に示したように、選択した画像データの識別境界と同じ識別境界のスコアＳｃに対してペナルティを与えることによって、選択した画像データ以外の他の画像データのスコアＳｃを変更する（Ｓ２３）。

プロセッサ３１は、前処理の終了かを判定する（Ｓ２４）。前処理の終了は、全ての画像データについてＳ２１の選択がされ、スコアの変更をする他の画像データがなくなったか否かにより、判定される。全ての画像データの選択がされていなければ（Ｓ２４：ＮＯ）、処理は、Ｓ２２に戻る。

全ての画像データの選択がされたとき（Ｓ２４：ＹＥＳ）、処理は、終了する。
Ｓ２１のスコアＳｃの算出によりスコアＳｃの高い画像が同じ識別境界に集中していたとしても、スコアＳｃの変更処理により変更後のスコアＳｃの高い画像は、同じ識別境界に集中することがない。

図１０に戻り、プロセッサ３１は、前処理により変更されたスコアＳｃの高い順に、所定数、例えばｋ個、の画像データに対する分類付け処理を実行する（Ｓ１３）。
具体的には、表示装置３４ａに、変更されたスコアＳｃの高い順に画像データが表示され、熟練者が、その画像を見て、教示して画像データにラベル付けを行う。所定数の画像データが選択され、１つずつ表示装置３４ａに表示され、熟練者による教示が行われる。

分類付けの後、プロセッサ３１は、学習データ作成部４２により、学習データを作成する（Ｓ１４）。学習データは、ディープラーニングのためのデータである。具体的には、プロセッサ３１は、データ評価部４１においてスコアＳｃが付与され直された画像データの中から所定数の画像データを、データ記憶領域３２ａから読み出して、学習データとして学習データ記憶領域３２ｄに追加する。

Ｓ１４により、学習データが学習データ記憶領域３２ｄに追加され、学習データ記憶領域３２ｄには、モデルＭの新しいパラメータデータｎＰＤを算出するために用いられる最新の学習データを記憶される。

プロセッサ３１は、モデル更新部４３により、最新の学習データを用いて、モデルＭを更新する（Ｓ１５）。具体的には、モデル更新部４３は、学習データ記憶領域３２ｄに記憶されている学習データを用いて、モデルＭのパラメータデータｎＰＤを、逆伝搬法などの手法による算出する。

プロセッサ３１は、学習処理を終了するかを判定する（Ｓ１６）。例えば、終了するか否かの判定は、例えば、さらなる分類付けなどを行うかをユーザに問い合わせて、ユーザにより行われるようにしてもよいし、あるいは、学習データの全スコアＳｃのうち、所定の閾値ＴＨ以上の学習データの割合が、所定値以下になったか否か（識別境界から遠い点の画像データの割合が所定値以上になったか否か）の判定により、自動的に行われるようにしてもよい。

学習処理を終了しないときは（Ｓ１６：ＮＯ）、処理は、Ｓ１３に戻る。
前処理において変更されたスコアＳｃの画像データの中から、残りの未教示の画像データをスコアＳｃの高い順に、所定数、例えばｋ個、選択して、分類付け（Ｓ１３）の処理を実行する。
学習処理を終了する場合（Ｓ１６：ＹＥＳ）、プロセッサ３１は、算出してパラメータ記憶領域３２ｃに記憶されているパラメータデータｎＰＤを推論システム２へ送信する（Ｓ１７）。

以上のように、上述した実施形態によれば、推論の精度を低下させないように、複数の学習データを追加することができるので、推論モデルのパラメータ更新時間を短くすることができる。
従って、上述した実施形態によれば、推論モデルのパラメータ更新時間を短くすると共に、推論の精度の低下を抑制する推論システムのための学習装置、学習方法及びそのためのプログラムを提供することができる。

特に、スコアの変更により、同じ識別境界に近い画像データのスコアが変更されるので、熟練者による教示に使用される画像データは、分類空間において、同じ識別境界に近い画像データを多く含まれないので、熟練者に複数の画像データに対して纏めて教示させることができる。

例えば、季節変動などによりスコアＳｃの高い画像データが同じ識別境界に集中するような場合がある。季節変動などにより、特定の１つの識別境界に近いデータが多くなると、学習の結果、モデルＭの推論の全体の識別精度が低下してしまう。

しかし、上述した実施形態の手法によれば、そのような場合であっても、全体の識別精度を低下させることなく、複数の学習データを用いて、短い時間で、かつ精度よく、モデルＭを更新できる。

次に、上述した実施形態の変形例について説明する。
（変形例１）
上述した実施形態では、学習データは、ラベルが付与された教師データのみからなるが、熟練者による教示がされていない未教示のデータを含んでいてもよい。

未教示のデータは、画像データのスコアＳｃに基づいて、画像データ記憶領域３２ａから選択して、学習データとして追加することができる。
図１２は、本変形例１に関わる、学習装置６の処理の構成を示すブロック図である。

図１２において、実施形態の学習装置６の構成要素と同じ構成要素については、同じ符号を付し説明は省略する。メモリ３２は、未教示データ記憶領域３２ｅを含む。

学習データ作成部４２Ａは、データ記憶領域３２ａに記憶された画像データの中から、スコアＳｃに基づいて、未教示のデータを抽出して、メモリ３２の未教示データ記憶領域３２ｅに格納する。

上述した例であれば、前処理（Ｓ１２）においてスコアＳｃが付与されるので、学習データ作成部４２Ａは、そのスコアＳｃの中から、値の小さい、すなわち識別境界から遠い画像データを、所定数、例えばＬ個、だけ選択し、学習データとして、未教示データ記憶領域３２ｅに追加する。

すなわち、学習データ作成部４２Ａは、所定のスコアＳｃに基づいて、所定の分類空間における所定の距離が離れたデータを、学習データとして未教示データ記憶領域３２ｅに追加する。ここでは、所定のスコアＳｃが所定値以下のデータが、学習データとされる。
その結果、例えば、最も推論確率の高い分類空間に属する画像データの推論確率において、最も推論確率の高い分類空間の推論確率が１００％となり、他の分類空間の推論確率は、０％となるように、モデルＭのパラメータデータＰＤは更新される。
なお、未教示の画像データを、学習データとして未教示データ記憶領域３２ｅに登録するときの、推論確率の設定方法には種々の方法が可能であり、画像データに含まれるノイズ等も考慮して、各分類空間の推定確率を１００％又は０％ではなく、２０％、３０％等の値になるようにしてもよい。
モデル更新部４３Ａは、学習データ記憶領域３２ｄに記憶された教師データと、未教示データ記憶領域３２ｅに記憶された未教示のデータとを用いて、モデルＭのパラメータデータＰＤを更新する。

変形例１によれば、各分類に属する確率の高いデータも含む学習データが用いられるので、モデルＭの推論精度のさらなる向上を図ることができる。
（変形例２）
上述した実施形態では、学習システム３では、ラベル付けは、熟練した作業員が行っているが、センサなどの検出値に応じて、ラベルを自動で付けるようにしてもよい。

例えば、色センサ、ガスセンサなどの出力が所定の値以上になると、所定の分類に対応するラベルを画像データに付与することができる。
例えば、図２において、点線で示すように、推論装置１２は、入出力Ｉ／Ｆ３５にセンサ６１に接続され、プロセッサ２１が、画像データの取得タイミングに関連付けてセンサ６１からの検出値を取得する。センサ６１の検出値は、メモリ７ａに、画像データに関連付けられて記憶され、学習システム３に送信される。

そして、ラベル付与部５４は、センサ６１の検出値に応じて予め設定されたラベルデータを保持している。ラベル付与部５４は、センサ６１の検出値に応じて、各画像データに自動的にラベルを付与することができる。

よって、ラベル付与部５４により自動的にラベリングができるので、作業効率を高めることができる。
（変形例３）
上述した実施形態では、ラベル付与部５４は、前処理において算出され変更されたスコアＳｃの高い順に画像データをユーザに提示しているが、提示された画像データに対して付与されたラベルに応じて、変更されたスコアＳｃをさらに変更するようにしてもよい。

例えば、図１０の分類付け（Ｓ１３）では、ユーザは、提示された画像を見て、その画像データにラベルを付与するが、未選択の画像データの中で、付与されたラベルと同じラベルに属すると推論される画像データのスコアＳｃに対してペナルティが付与されるようにしてもよい。

図１３は、本変形例３に関わる、ラベル付与部５４における、３つの分類１，２，３を規定する分類空間内の点についてのペナルティの付与の例を説明するための図である。図９と同様に、ＳＳ１１からＳＳ１２の各テーブルは、各画像データの分類空間内の各点Ａ，Ｂ，Ｃ，Ｄ，Ｅについてのスコアと、各点に近い識別境界と、分類とを示している。

分類は、各分類に属する確率が最も高い分類である。
ラベル付与部５４では、最もスコアＳｃの高い画像データがユーザに提示され、ユーザがその画像データに対して分類を付与する。図１３では、画像データＡに対して分類２が付与されたとする。

その場合、分類２に属すると推論される未教示の画像データのスコアＳｃに対してペナルティ処理が、ここでは、スコアＳｃの値を所定値だけ小さくする処理が実行される。
図１３では、ＳＳ１２に示すように、点Ａと同じ分類の点ＤのスコアＳｃに対してペナルティが付与され、点ＤのスコアＳｃが小さくされている。
ここでは、ラベル付与部５４において、複数の画像データに付与された所定のスコアＳｃに基づいて選択された選択データに付与されたラベルに応じて、選択データ以外のデータの所定のスコアを変更するスコア変更処理が実行される。
すなわち、ラベル付与部５４は、ラベルが付与された画像データに対して所定の分類空間における距離が近いデータの所定のスコアＳｃを変更する。

本変形例によれば、ユーザのラベリングにおいて偏りがあった場合に、特定の識別境界あるいは特定の分類にラベリングが集中することを抑制することができる。
（変形例４）
変形例３では、ユーザにより付与されたラベルに応じて、同じラベルのスコアＳｃに対してペナルティが付与されるが、ラベルが付与された画像データの分類空間内の位置に対する距離に応じてペナルティを付与するようにしてもよい。

図１４は、本変形例４に関わる、ペナルティの付与を説明するための図である。図１４は、図４と同様に、２次元の分類空間における３つの分類の場合の例を示す。

図１４において、点Ｐ２１にラベルが付与されたときは、点Ｐ２１に最も近い点Ｐ２２のスコアＳｃに対してペナルティを付与する。
その結果、分類空間内において教師データに最も近い画像データが、学習データとして使用される確率を低くすることができる。

なお、ペナルティは、教師データに最も近い点だけでなく、他の近い画像データに対しても付与するようにしてもよい。
例えば、図１４において、点Ｐ２３と点Ｐ２１間の距離は、Ｌ２で、点Ｐ２２と点Ｐ２１間の距離は、Ｌ１で、Ｌ１＜Ｌ２であり、点Ｐ２３は、点Ｐ２２よりも、点Ｐ２１に遠い。各距離Ｌ１，Ｌ２は、所定の分類空間における、選択された画像データの点Ｐ２１の位置から距離である。
このようなユーザにより教示された画像データの点に近い複数の点に対しては、教師データとの距離に応じたペナルティを付与する。その結果、点Ｐ２３には、点Ｐ２２へのペナルティよりも小さいペナルティが与えられる。

なお、この距離に応じたペナルティの付与は、教師データから所定の距離内の点に対して実行するようにしてもよい。すなわち、距離に比例したペナルティを与えるようにしてもよい。あるいは特徴量ベクトルの差に比例したペナルティを与えるようにしてもよい。
すなわち、スコア変更部５３は、複数の画像データに付与された所定のスコアＳｃに基づいて選択された選択データの所定の分類空間における所定の距離、ここでは、選択データの位置に対する選択データ以外のデータの距離に応じて、選択データ以外のデータの前記所定のスコアを変更する。
（変形例５）
以上の実施形態及び各変形例では、スコアＳｃの値は、高い程、識別境界に近いことなどを示しているが、小さい程、識別境界などに近いことを示すような値でもよい。
その場合、ラベル付与部５４は、スコアＳｃの順に画像データを表示装置３４ａに表示し、ペナルティは、スコアＳｃの値を大きくするように付与される。
（変形例６）
以上の実施形態及び各変形例は、ニューラルネットワークを利用したディープラーニングための学習装置の例で説明したが、ＳＶＭ（Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ）、線形回帰、ベイジアンネットワーク、ランダムフォレスト、Ｋ平均法、遺伝的アルゴリズムなどの他の学習方式の学習装置においても適用可能である。
（変形例７）
また、上述した実施形態及び各変形例では、学習する対象データは、画像データであるが、上述した実施形態及び変形例は、音響データなど他のデータにも適用可能である。

以上のように、上述した実施形態及び変形例によれば、推論モデルのパラメータ更新時間を短くすると共に、推論の精度の低下を抑制する推論システムのための学習装置、学習方法及びそのためのプログラムを提供することができる。

なお、本実施形態及び各変形例においては、学習装置６の各部が、個々の電子回路として構成されていてもよく、または、ＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）等の集積回路における回路ブロックとして構成されていてもよい。また、本実施形態においては、例えば、学習装置６が２つ以上のＣＰＵを具備して構成されていてもよい。

さらに、以上で説明した動作を実行するプログラムは、コンピュータプログラム製品として、フレキシブルディスク、ＣＤ－ＲＯＭ等の可搬媒体や、ハードディスク等の記憶媒体に、その全体あるいは一部が記録され、あるいは記憶されている。そのプログラムがコンピュータにより読み取られて、動作の全部あるいは一部が実行される。あるいは、そのプログラムの全体あるいは一部について通信ネットワークを介して流通または提供することができる。利用者は、通信ネットワークを介してそのプログラムをダウンロードしてコンピュータにインストールしたり、あるいは記録媒体からコンピュータにインストールすることで、容易に本発明の学習装置を有している状態監視システムを実現することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として例示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１ 状態監視システム、２ 推論システム、３ 学習システム、４ ネットワーク、５ クラウド、６ 学習装置、７ データ管理装置、７ａ メモリ、１１ 画像取得部、１２ 推論装置、１３ 表示装置、１４ カメラ、２１ プロセッサ、２２ メモリ、２２ａ プログラム記憶領域、２２ｂ パラメータ記憶領域、２２ｃ 前処理部、２３ 入力インターフェース、２４ 出力インターフェース、２５ 通信力インターフェース、３１ プロセッサ、３２ メモリ、３２ａ データ記憶領域、３２ｂ プログラム記憶領域、３２ｃ パラメータ記憶領域、３２ｄ 学習データ記憶領域、３２ｅ 未教示データ記憶領域、３３ 通信力インターフェース、３４ 入出力装置、３４ａ 表示装置、３４ｂ キーボード、３４ｃ マウス、３５ 入出力インターフェース、４１ データ評価部、４２、４２Ａ 学習データ作成部、４３、４３Ａ モデル更新部、４４ スコア分布表示部、５１ 推論部、５２ スコア算出部、５３ スコア変更部、５４ ラベル付与部、６１ センサ。

Claims (6)

1. 所定の分類空間における複数の分類の中から対象の状態が属する分類を推論する推論モデルの学習を行う学習装置であって、
   前記対象についての複数のデータに対して前記推論モデルを用いた推論を実行し、前記対象の状態が属する各分類に属する確率を算出する推論部と、
   各データについて、前記複数の分類の各識別境界に対する前記確率の差の関数により、前記各データの前記所定の分類空間における位置の前記各識別境界からの距離に応じた所定のスコアを算出するスコア算出部と、
   前記複数のデータの中から前記所定のスコアに基づいて前記各識別境界からの距離が近い順にデータを選択し、選択された選択データ以外の残りのデータにおける前記選択データの識別境界と同じ識別境界のデータの前記所定のスコアを前記選択データの識別境界と同じ識別境界からの距離が遠くなるように変更する処理を、前記残りのデータに対して繰り返すスコア変更部と、
   前記所定のスコアが変更されたデータから前記所定のスコアに基づいて前記各識別境界からの距離が近い順に選択された所定数のデータに対して、前記所定の分類空間におけるラベルを付与するラベル付与部と、
   前記ラベル付与部において前記ラベルが付与されたデータを前記推論モデルの学習データに追加する学習データ作成部と、
   前記ラベルが付与されたデータが追加された前記学習データを用いて、前記推論モデルの更新を行うモデル更新部と、
   を有する、学習装置。
2. 前記学習データ作成部は、前記所定のスコアが所定値以下のデータを、前記学習データに追加する、請求項１に記載の学習装置。
3. 前記所定のスコアの分布を表示装置に表示するために分布表示データを出力する分布表示データ出力部を、さらに有する、請求項１に記載の学習装置。
4. 前記学習データは、ディープラーニングのためのデータである、請求項１に記載の学習装置。
5. 推論部とスコア算出部とスコア変更部とラベル付与部と学習データ作成部とモデル更新部とを具備したコンピュータを用い、所定の分類空間における複数の分類の中から対象の状態が属する分類を推論する推論モデルの学習を行う学習方法であって、
   前記推論部により、前記対象についての複数のデータに対して前記推論モデルを用いた推論を実行し、前記対象の状態が属する各分類に属する確率を算出し、
   前記スコア算出部により、各データについて、前記複数の分類の各識別境界に対する前記確率の差の関数により、前記各データの前記所定の分類空間における位置の前記各識別境界からの距離に応じた所定のスコアを算出し、
   前記スコア変更部により、前記複数のデータの中から前記所定のスコアに基づいて前記各識別境界からの距離が近い順にデータを選択し、選択された選択データ以外の残りのデータにおける前記選択データの識別境界と同じ識別境界のデータの前記所定のスコアを前記選択データの識別境界と同じ識別境界からの距離が遠くなるように変更する処理を、前記残りのデータに対して繰り返し、
   前記ラベル付与部により、前記所定のスコアが変更されたデータから前記所定のスコアに基づいて前記各識別境界からの距離が近い順に選択された所定数のデータに対して、前記所定の分類空間におけるラベルを付与し、
   前記学習データ作成部により、前記ラベルが付与されたデータを前記推論モデルの学習データに追加し、
   前記モデル更新部により、前記ラベルが付与されたデータが追加された前記学習データを用いて、前記推論モデルの更新を行う、
   学習方法。
6. 所定の分類空間における複数の分類の中から対象の状態が属する分類を推論する推論モデルの学習を行うためのプログラムであって、
   前記対象についての複数のデータに対して前記推論モデルを用いた推論を実行し、前記対象の状態が属する各分類に属する確率を算出する手順と、
   各データについて、前記複数の分類の各識別境界に対する前記確率の差の関数により、前記各データの前記所定の分類空間における位置の前記各識別境界からの距離に応じた所定のスコアを算出する手順と、
   前記複数のデータの中から前記所定のスコアに基づいて前記各識別境界からの距離が近い順にデータを選択し、選択された選択データ以外の残りのデータにおける前記選択データの識別境界と同じ識別境界のデータの前記所定のスコアを前記選択データの識別境界と同じ識別境界からの距離が遠くなるように変更する処理を、前記残りのデータに対して繰り返す手順と、
   前記所定のスコアが変更されたデータから前記所定のスコアに基づいて前記各識別境界からの距離が近い順に選択された所定数のデータに対して、前記所定の分類空間におけるラベルを付与する手順と、
   前記ラベルが付与されたデータを前記推論モデルの学習データに追加する手順と、
   前記ラベルが付与されたデータが追加された前記学習データを用いて、前記推論モデルの更新を行う手順と、
   をコンピュータに実行させるためのプログラム。

Images