JP5130516B2 - データ処理装置及び方法 - Google Patents

Description

本発明はデータ処理装置及び方法に関し、特に学習データを用いて所期のデータ集合を構築するデータ処理装置及び方法に関する。

下記特許文献１には、入力データ及び出力データのペアからなる学習データを、その学習データに対する評価とともに自己組織化関係（Self-Organizing Relationship: ＳＯＲ）ネットワークに入力することにより、望ましい入出力データ対の集合を構築する手法が開示されている。

また、下記非特許文献１には、ネットワークの位相構造を学習により自己組織的に構築し、入力データ集合の位相構造をグラフで表現する手法、いわゆる位相表現回路網（Topology Representing Network: ＴＲＮ）が開示されている。
特開２０００−１２２９９１号公報 「位相表現回路網（Topology RepresentingNetwork）」，Ｔ．マルチネス（Martinetz）及びＫ．シュルテン（Schulten），ニューラルネットワークス，Ｖｏｌ．７，Ｎｏ．３，５０７−５２２頁，１９９４年

しかしながら、上記特許文献１に記載された手法によると、望ましい入出力データ対の集合の各要素は独立しており、それら入出力データ対の相互の関係に関する情報、例えば位相構造等は獲得できない。このため、例えば入出力データの望ましい関係が複数存在しても（つまり入出力データ間の写像関係が多価関数の関係にあっても）、そのことを把握することができないという問題があった。

また、上記非特許文献１に記載された手法は、評価値を持たないデータの入力を前提としており、学習データに対する評価を用いて所定評価のデータ群を構築することができないという問題があった。

本発明は上記課題に鑑みてなされたものであって、その目的は、学習データ及びその評価から、所定評価のデータ群及びそれらデータ相互の関係を獲得できるデータ処理装置及び方法を提供することにある。

上記課題を解決するために、本発明に係るデータ処理装置は、複数の参照データを記憶する参照データ記憶手段と、前記参照データの各組み合わせの結合強度を記憶する結合強度記憶手段と、前記複数の参照データの少なくとも一部を、所与の学習データに対し、該学習データに対する評価に応じて接近させ又は離間させる参照データ更新手段と、前記学習データとの類似度に応じて、少なくとも一つの前記参照データの組み合わせを選出する組み合わせ選出手段と、前記組み合わせ選出手段により選出される前記参照データの組み合わせの結合強度を、前記学習データに対する評価に応じて更新する結合強度更新手段と、を含むことを特徴とする。

また、本発明に係るデータ処理方法は、学習データ及び該学習データに対する評価の入力を受け付けるステップと、複数の参照データの少なくとも一部を、入力される前記学習データに対し、該学習データに対する評価に応じて接近させ又は離間させるステップと、入力される前記学習データとの類似度に応じて、少なくとも一つの前記参照データの組み合わせを選出するステップと、選出される前記参照データの組み合わせの結合強度を、入力される学習データに対する評価に応じて更新するステップと、を含むことを特徴とする。

本発明では、参照データの少なくとも一部が学習データに対して、その評価に応じて接近し、又は離間する。また、学習データとの類似度に応じて、少なくとも一つの参照データの組み合わせが選出され、選出される参照データの組み合わせの結合強度が、学習データに対する評価に応じて更新される。本発明によると、参照データ群は所定評価を有するものとなり、また結合強度により参照データ相互の関係を判断できるようになる。

また、本発明の一態様では、前記参照データの各組み合わせの結合強度に基づいて、前記複数の参照データを分類する参照データ分類手段をさらに含む。こうすれば、所定評価のデータ群がどのような分類を有するかを把握できる。

この態様では、前記学習データ及び前記参照データは、いずれも入力データ及び出力データを含んで構成されてよい。このとき、前記データ処理装置は、前記参照データ分類手段による分類ごとに、該分類に属する前記各参照データに含まれる入力データと所与の入力データとの類似度と、該分類に属する前記各参照データに含まれる出力データと、に基づいて、出力データを生成・出力するデータ出力手段をさらに含んでよい。こうすれば、入力データ及び出力データの望ましい関係を複数獲得し、入力データが与えられた場合に、各関係に応じて、望ましい出力データを複数出力できるようになる。

また、本発明の一態様では、前記結合強度更新手段は、前記組み合わせ選出手段により選出される前記参照データの組み合わせの結合強度を、該組み合わせと前記学習データとの類似度に応じた量だけ更新する。こうすれば、結合強度を適切に更新できるようになる。

また、本発明の一態様では、前記組み合わせ選出手段は、前記参照データの各組み合わせの補間データと前記学習データとに基づいて前記類似度を算出する。補間データは、例えば２つの参照データの平均データである。こうすれば、学習データと補間データとが近似している場合に、結合強度を強めたり、弱めたりできるようになる。

以下、本発明の実施形態について図面に基づき説明する。

本実施形態では、多数の参照データが配置されたデータ空間に対して多数の学習データがそれぞれの評価値とともに提示され、評価値に応じて一部又は全部の参照データがその学習データに接近するよう、或いは離間するように更新される。

すなわち、図１（ａ）に示すように、例えばｘ成分及びｙ成分を有する参照データ（ベクトル）νをデータ空間に多数配置しておき、図中二重丸で示される肯定的な評価値Ｅ（＞０）を有する学習データ（ベクトル）１０ｇが提示された場合には、各参照データ１２を該学習データ１０ｇに接近させる。このとき、学習データ１０ｇとの距離（例えばユークリッド距離）が短い参照データ１２ほど、大きく学習データ１０ｇに接近させる。また、評価値Ｅが大きいほど、大きく学習データ１０ｇに接近させる。

また、同図（ｂ）に示すように、図中バツ印が中に描かれた丸印で示される、否定的な評価値Ｅ（＜０）を有する学習データ１０ｂが提示された場合には、各参照データ１２を該学習データ１０ｇから離間させる。このときも、学習データ１０ｂとの距離（例えばユークリッド距離）が短い参照データ１２ほど、大きく学習データ１０ｂから離間させる。また、評価値Ｅが小さいほど、大きく学習データ１０ｂから離間させる。

このようにして多数の学習データ１０ｇ，１０ｂを提示すると、図２（ａ）に示すように、参照データ１２はデータ空間の特定箇所に集まるようになり、いずれも肯定的な評価を有するものとなる。ただし、この状態では、参照データ１２相互の関係が不明である。そこで、本実施形態では、参照データ１２の各組み合わせのリンクの強さ、すなわち結合強度を計算する。同図（ｂ）には、正の結合強度を有する参照データ１２のリンクが実線で示されており、また、正の結合強度を有するリンクにより直接的又は間接的に接続された参照データ１２により２つの部分集合１３Ａ，１３Ｂが形成されることが示されている。

本実施形態では、参照データ１２のリンクの結合強度を算出するために、上記の学習データ及びその評価値Ｅを用いている。すなわち、図３（ａ）に示すように、肯定的な評価値Ｅ（＞０）を有する学習データ１０ｇを提示した場合には、その学習データ１０ｇとの類似度（たとえばユークリッド距離等のデータ間の距離の減少関数により算出できる。）が最も大きい参照データ１２−１と、その次に類似度が大きい参照データ１２−２とのリンク（以下、「関連リンク」という。）１４の結合強度を増加（強化）させる。また、同図（ｂ）に示すように、否定的な評価値Ｅ（＜０）を有する学習データ１０ｂを提示した場合には、その関連リンクとして、正の結合強度を有する参照データ１２のリンクのうち、その両端の参照データ１２の補間データ１８（ここでは平均データ（データ空間における両端の参照データ１２の中点に相当するデータ）とする。）と学習データ１０ｂとの類似度が最も大きいリンク１６を選出し、その結合強度を減少（弱化）させる。これにより、肯定的な評価値Ｅを有する学習データ１０ｇの関連リンクの結合強度は正となり、また否定的な評価値Ｅを有する学習データ１０ｂの関連リンクの結合強度は負の値を有することとなる。

本実施形態では、このようにして参照データ１２の更新及びそれらの各組み合わせのリンクについて結合強度を計算した後、任意の入力データに対して、参照データ１２の部分集合１３ごとに、望ましい出力データを生成・出力するようにしている。

すなわち、各学習データ及び参照データは、図１乃至図３において、ｘ及びｙの文字でそれぞれ示される入力データ成分及び出力データ成分を含んでおり、各部分集合１３に属する参照データ１２群は、肯定的な評価を有する入力データ及び出力データの関係を示している。本実施形態では、任意の入力データが与えられると、この入力データと各部分集合１３に属する参照データ１２に含まれる入力データとの類似度を計算するとともに、それら類似度に従って各部分集合１３に属する参照データ１２に含まれる出力データを重み付け加算（重心演算）して、望ましい出力データを生成・出力している。このように、本実施形態によると、学習データ及びその評価値から多価関数を獲得して、所与の入力データに対して複数の出力データを生成・出力できる。

図４は、本実施形態に係るデータ処理装置の構成図である。同図に示されるデータ処理装置２０は、上述した処理を実行する装置であり、例えばコンピュータ及びそこで実行されるプログラムにより構成されている。ここで、データ処理装置２０は、同図に示されるように参照データ更新部２１、結合強度更新部２２、参照データ記憶部２３、結合強度記憶部２４、データ出力部２５及び参照データ分類部２６を含んで構成されており、結合強度更新部２２は、リンク強化部２２ａ及びリンク弱化部２２ｂを含んで構成されている。このデータ処理装置２０は、学習データとして入出力データ対が入力されており、参照データとして好ましい入出力関係を示す入出力データ対が学習により獲得される。また、好ましい入出力関係が複数存在する場合、すなわち入出力データの写像関係が多価関数となる場合であっても、それを適切に扱い、任意の入力データに対して好ましい出力データを生成し、出力することができる。

このデータ処理装置２０は、例えば各種の制御装置に用いることができる。この場合、入力データは制御対象に関する制御誤差（動作信号）、出力データは制御対象に関する操作量である。このデータ処理装置２０を制御装置として用いることにより、障害物がある作業空間において冗長マニュピュレータが障害物を回避する経路を自己組織的に獲得させたり、マニュピュレータの目標手先位置が与えられたとき、各関節の角度を決定したり、マニュピュレータの目標姿勢（各関節の目標角度）が与えられたときに、各関節が目標姿勢に到達するために必要なアクチュエータの回転トルクを決定する等、動作信号に対して好ましい操作量が複数存在するシステムの制御を好適に行うことができる。

まず、参照データ記憶部２３は、参照データν_ｉ（ｉ＝１〜Ｎ）を記憶するものである。各参照データν_ｉは、入力データｗ_ｉ及び出力データｕ_ｉを含んで構成されている。結合強度記憶部２４は、参照データν_ｉの全リンクの結合強度Ｃ_ｉ，ｊ（ｉ＝１〜Ｎ；ｊ＝１〜Ｎ）を記憶するものである。

参照データ更新部２１は、学習データＩ_ｌ（ｌ＝１〜Ｍ）が入力された場合に、参照データ記憶部２３に記憶された参照データν_ｉの少なくとも一部を、該学習データＩ_ｌに対し、その評価値Ｅ_ｌに応じて接近させ又は離間させるものである。すなわち、評価値Ｅ_ｌが正であり、肯定的な評価を示す場合には学習データＩ_ｌに接近させ、評価値Ｅ_ｌが負であり、否定的な評価である場合には学習データＩ_ｌから離間させるものである。ここで、各学習データＩ_ｌは、入力データｘ_ｌ及び出力データｙ_ｌを含んで構成されている。

結合強度更新部２２は、学習データＩ_ｌとの類似度に応じて、少なくとも一つの関連リンクを選出するとともに、選出される関連リンクの結合強度Ｃ_ｉ，ｊを、評価値Ｅ_ｌに応じて更新する。特に、結合強度更新部２２は、零より大きい評価値Ｅ_ｌ（以下、「Ｅ^＋」と記す。）を有する学習データＩ_ｌ（以下、「Ｉ^＋」と記す。）の関連リンクの結合強度Ｃ_ｉ，ｊを更新するためのリンク強化部２２ａと、負の評価値Ｅ_ｌ（以下、「Ｅ⁻」と記す。）を有する学習Ｉ_ｌ（以下、「Ｉ⁻」と記す。）の関連リンクの結合強度Ｃ_ｉ，ｊを更新するためのリンク弱化部２２ｂと、を含んでいる。

本実施形態では、結合強度更新部２２は、学習データＩ_ｌと、各リンクに係る参照データν_ｉの補間データと、の距離（例えばユークリッド距離）に基づいて、各リンクと学習データＩ_ｌとの類似度を算出し、最も類似度の高いリンクを関連リンクとして選出する。補間データは、上述のように、例えば各リンクに係る２つの参照データの平均データである。また、選出される関連リンクの結合強度Ｃ_ｉ，ｊを更新する場合、該関連リンクと学習データＩ_ｌとの類似度（例えばユークリッド距離等の距離の減少関数により算出すればよい。）に比例する量だけ更新する。これにより、関連リンクと学習データＩ_ｌとが類似すればするほど、結合強度Ｃ_ｉ，ｊの更新量が大きくできる。

参照データ分類部２６は、参照データν_ｉの各組み合わせの結合強度Ｃ_ｉ，ｊに基づいて、参照データν_ｉを分類する。具体的には、所定値（ここでは零）よりも大きい結合強度Ｃ_ｉ，ｊのリンクにより直接的又は間接的に接続された参照データν_ｉの部分集合１３を作成する。

データ出力部２５は、各部分集合１３に属する参照データν_ｉに含まれる入力データｗ_ｉと所与の入力データｘとの類似度と、該部分集合１３に属する参照データν_ｉに含まれる出力データｕ_ｉと、に基づいて、入力データｘに対応する出力データｙを生成・出力する。

図５乃至図９は、データ処理装置２０の動作フロー図である。図５は、参照データ記憶部２３及び結合強度記憶部２４に参照データν_ｉ及び結合強度Ｃ_ｉ，ｊを構築する学習処理の全体を示しており、この処理では、まず参照データ更新部２１が学習データＩ_ｌに基づいて参照データ記憶部２３の記憶内容を更新する（Ｓ１００）。次に、結合強度更新部２２のリンク強化部２２ａが肯定的な評価を有する学習データＩ^＋に基づいて、その関連リンクの結合強度Ｃ_ｉ，ｊを増加させる（Ｓ２００）。その後、結合強度更新部２２のリンク弱化部２２ｂが否定的な評価を有する学習データＩ⁻に基づいて、その関連リンクの結合強度Ｃ_ｉ，ｊを減少させる（Ｓ３００）。最後に、参照データ分類部２６が結合強度記憶部２４の記憶内容に基づいて参照データ記憶部２３に記憶された参照データν_ｉを１又は複数の部分集合１３に分類する（Ｓ４００）。具体的には、０よりも大きい結合強度Ｃ_ｉ，ｊを有するリンクにより直接的又は間接的に接続されている参照データν_ｉ同士を同じ部分集合１３に分類する。

図６は、図５のＳ１００の処理を詳細に示すものである。この処理では、まず参照データ記憶部２３に記憶された全ての参照データν_ｉを乱数により初期化する（Ｓ１０１）。次に、全ての学習データＩ_ｌ及びその評価値Ｅ_ｌを取得する（Ｓ１０２）。そして、各学習データＩ_ｌについて、参照データν_ｉのそれぞれからのユークリッド距離を算出して、近接順位（学習データＩ_ｌに近い順位）を決定する（Ｓ１０３）。その後、各参照データν_ｉを、それぞれの学習データＩ_ｌに対する近接順位及び評価値Ｅ_ｌに応じて更新する（Ｓ１０４）。具体的には、学習データＩ_ｌに対する近接順位が上であるほど該学習データＩ_ｌに近づける量を大きくし、また評価値Ｅ_ｌが大きいほど学習データＩ_ｌに近づける量を大きくする。その後、順位が低い場合における学習データＩ_ｌに近づける量を徐々に小さくしながら、所定回数Ｓ１０２乃至Ｓ１０４の処理を繰り返す。

次に、図７は、図５のＳ２００の処理を詳細に示すものである。この処理では、まず全ての参照データ間のリンクの結合強度Ｃ_ｉ，ｊを零に初期化する（Ｓ２０１）。次に、正の評価値Ｅ^＋を有する学習データＩ^＋及びその評価値Ｅ^＋を取得し、次式に従って、各参照データν_ｉの学習ベクトルＩ^＋へのユークリッド距離ｄ_ｉを算出するとともに、学習ベクトルＩ^＋に近接する順位を決定する（Ｓ２０２）。ここで、ｉ０は学習ベクトルＩ^＋に最も近い（近接順位１位）参照データの識別番号であり、次に近い（近接順位２位）参照データの識別番号である、ｉＮ−１は学習ベクトルＩ^＋から最も遠い参照データの識別番号である。

次に、近接順位が１位及び２位の参照データν_ｉ０，ν_ｉ１を選出し、それら参照データの平均データｍ_ｉ（＝（ν_ｉ０＋ν_ｉ１）／２）を算出する。これは、データ空間におけるそれら参照データν_ｉ０，ν_ｉ１の中点に相当するデータである。参照データν_ｉ０及び参照データν_ｉ１は、学習データＩ^＋の関連リンクの両端に係る参照データである。そして、平均データｍ_ｉと学習ベクトルＩ^＋とのユークリッド距離を用いて、次式よりリンク強化への影響度ｆ_ｌを算出する（Ｓ２０３）。

さらに、参照データν_ｉ０と参照データν_ｉ１と間のリンク（関連リンク）の結合強度Ｃ_{ｉ０，ｉ１}を次式に従って更新する（Ｓ２０４）。

そして、上記のＳ２０２乃至Ｓ２０４の処理を、正の評価値Ｅ^＋を有する全ての学習データＩ^＋について繰り返す。

次に、図８は、図５のＳ３００の処理を詳細に示すものである。この処理では、まず負の評価値Ｅ⁻を有する学習データＩ⁻及びその評価値Ｅ⁻を取得し、結合強度Ｃ_ｉ，ｊが零より大きいリンクの中から、そのリンクの代表点のデータ（リンクの両端に係る参照データの平均データ）が最も学習データＩ⁻に近いもの（関連リンク）を選出する（Ｓ３０１）。この関連リンクの両端に係る参照データの識別番号をｉＡ及びｉＢとする。次に、選出されたリンクの代表点のデータｍ_ｉと学習データＩ⁻との距離を用いて、次式よりリンク弱化への影響度ｆ_ｌを算出する（Ｓ３０２）。

さらに、参照データν_ｉＡ及び参照データν_ｉＢ間のリンクの結合強度Ｃ_{ｉＡ，ｉＢ}を次式に従って更新する（Ｓ３０３）。

そして、上記のＳ３０１乃至Ｓ３０３の処理を、負の評価値Ｅ⁻を有する全ての学習データＩ⁻について繰り返す。

最後に、図９は、データ出力部２５によるデータ出力処理を詳細に示すものである。この処理では、まず外部から入力される任意の入力データｘが取得され（Ｓ５０１）、この入力データｘと参照データ記憶部２３に記憶された各参照データν_ｉの入力データ成分であるｗ_ｉとの類似度Ｚ_ｉが次式に従って計算される。

次に、データ出力部２５は、次式に従って、参照データ分類部２６により判断される参照データν_ｉの部分集合１３ごとに、その部分集合１３に属する参照データν_ｉに係る類似度Ｚ_ｉにより重み付けしつつ、該参照データν_ｉの出力データ成分であるｕ_ｉを加算することにより、出力データｙ_ｋを生成する。ここでＣ_ｋはｋ番目の部分集合１３を示す。

以上のデータ処理装置２０によると、学習データＩ_ｌ及びその評価値Ｅ_ｌから、肯定的な評価の参照データν_ｉ及びそれら参照データν_ｉ相互の関係を各リンクの結合強度Ｃ_ｉ，ｊとして獲得できる。特に、学習データＩ_ｌ及び参照データν_ｉとして入出力データ対を用いる場合には、入出力関係が複数存在する場合であっても、任意の入力データに対応して、望ましい出力データを同数だけ適切に生成・出力することができる。

肯定的又は否定的評価を有する学習データにより参照データが更新される様子を示す図である。 学習後のデータ空間を示す図である。 肯定的又は否定的評価を有する学習データにより参照データ間のリンクの結合強度が更新される様子を示す図である。 本発明の実施形態に係るデータ処理装置の構成図である。 学習処理の全体フローである。 参照データの更新処理フローである。 リンク強化の処理フローである。 リンク弱化の処理フローである。 データ出力の処理フローである。

符号の説明

１０ｇ 肯定的評価の学習データ、１０ｂ 否定的評価の学習データ、１２ 参照データ、１４，１６ 関連リンク、１８ 正の結合強度を有するリンク、２０ データ処理装置、２１ 参照データ更新部、２２ 結合強度更新部、２２ａ リンク強化部、２２ｂ リンク弱化部、２３ 参照データ記憶部、２４ 結合強度記憶部、２５ データ出力部、２６ 参照データ分類部。

Claims (4)

1. それぞれ入力データ及び出力データを含んで構成される複数の参照データを記憶する参照データ記憶手段と、
   前記参照データの各組み合わせの結合強度を記憶する結合強度記憶手段と、
   前記複数の参照データの少なくとも一部を、入力データ及び出力データを含んで構成される所与の学習データに対し、該学習データに対する評価に応じて接近させ又は離間させる参照データ更新手段と、
   前記学習データとの類似度に応じて、少なくとも一つの前記参照データの組み合わせを選出する組み合わせ選出手段と、
   前記組み合わせ選出手段により選出される前記参照データの組み合わせの結合強度を、前記学習データに対する評価に応じて更新する結合強度更新手段と、
   前記参照データの各組み合わせの結合強度に基づいて、前記複数の参照データを分類する参照データ分類手段と、
   前記参照データ分類手段による分類ごとに、該分類に属する前記各参照データに含まれる入力データと所与の入力データとの類似度と、該分類に属する前記各参照データに含まれる出力データと、に基づいて、出力データを生成・出力するデータ出力手段と、
   を含むことを特徴とするデータ処理装置。
2. 請求項１に記載のデータ処理装置において、
   前記組み合わせ選出手段は、前記参照データの各組み合わせの補間データと前記学習データとに基づいて前記類似度を算出する、
   ことを特徴とするデータ処理装置。
3. 請求項１又は２のいずれかに記載のデータ処理装置において、
   前記結合強度更新手段は、前記組み合わせ選出手段により選出される前記参照データの組み合わせの結合強度を、該組み合わせと前記学習データとの類似度に応じた量だけ更新する、
   ことを特徴とするデータ処理装置。
4. 入力データ及び出力データを含んで構成される学習データ及び該学習データに対する評価の入力を受け付けるステップと、
   それぞれ入力データ及び出力データを含んで構成される複数の参照データの少なくとも一部を、入力される前記学習データに対し、該学習データに対する評価に応じて接近させ又は離間させるステップと、
   入力される前記学習データとの類似度に応じて、少なくとも一つの前記参照データの組み合わせを選出するステップと、
   選出される前記参照データの組み合わせの結合強度を、入力される学習データに対する評価に応じて更新するステップと、
   前記参照データの各組み合わせの結合強度に基づいて、前記複数の参照データを分類するステップと、
   前記分類するステップによる分類ごとに、該分類に属する前記各参照データに含まれる入力データと所与の入力データとの類似度と、該分類に属する前記各参照データに含まれる出力データと、に基づいて、出力データを生成・出力するステップと、
   を含むことを特徴とするデータ処理方法。

Images