JPH06180691A

JPH06180691A - 適応的入出力装置

Info

Publication number: JPH06180691A
Application number: JP4332080A
Authority: JP
Inventors: Hiroshi Yamakawa; 宏山川; Daiki Masumoto; 大器増本; Takashi Kimoto; 隆木本; Shigemi Osada; 茂美長田
Original assignee: Fujitsu Ltd
Current assignee: Fujitsu Ltd
Priority date: 1992-12-11
Filing date: 1992-12-11
Publication date: 1994-06-28
Also published as: US5420810A; EP0601898A3; EP0601898A2; KR960015593B1; KR940015847A

Abstract

(57)【要約】【目的】本発明の目的は、標本データを大きな特徴量
を含むポイントで選択することにより、少ない標本デー
タでも出力の精度を向上させることが可能な適応的入出
力装置を提供することを目的とする。【構成】本発明の適応入出力装置は、入出力関数を決
定するための標本データ（３１）を保持するデータ保存
手段（３０）と、データ保存手段（３０）より有効な標
本データ（３１）を所定の評価の基準により、選択する
データ選択手段（４０）と、データ選択手段（４０）に
より選択されたデータと外部から入力される入力（５
０）に応じて入出力関数を決定し、出力する入出力部
（６０）とを有する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は適応入出力装置に係り、
特に、認識、予測及びロボット等の運動制御等に用いら
れる適応的入出力装置に関する。より具体的には、決定
問題が与えられた場合に、母数空間上の確率分布につい
ての関数を平均して最少にするベイズ法、学習を行うこ
とにより最適値を得るニューラルネットワーク、与えら
れた要素のうち、３次元等において、最も近い要素を求
めるＫ最近接法、フューチャーマッピングなどを利用し
た適応的入出力装置に関する。

【０００２】近年、工学のあらゆる分野で柔軟な適応能
力を備えた機器や装置が必要とされている。このため、
適応的入出力装置は、それらの機器の技術的要素として
重要な役割を果たしている。

【０００３】

【従来の技術】図１８は従来の適応的入出力装置の構成
を示す。同図に示す適応的入力装置２１１は、標本デー
タ２１６により決定される入出力関数２１３を決定する
ための入出力部２１４と、標本データ２１６を保持・管
理するデータ管理部２１５より構成される。

【０００４】データ管理部２１５が有する標本データ２
１６は、望ましい入出力関係を記述した真の関数に従う
入力値と出力値のペア（ｘ_i，ｙ_i）（但し、ｉ＝１，
２，…ｎ）で表現される。入出力部２１４は、この標本
データ（ｘ_i，ｙ_i）を参照して入出力関数ｆ_N（ｘ）
を決定する。

【０００５】例えば、入出力部２１４にニューラルネッ
トワークを用いた場合に、標本データ２１６を学習デー
タとして用いる。ニューラルネットワークを用いた入出
力部２１４は、学習を行なうことにより出力誤差ｅ_iを
小さくして真の関数に近づくように学習を行う。従っ
て、標本データ２１６が存在していない入力２１２に対
して、補間がなされる。しかも、適応的入出力装置２１
１の出力２１８が入力２１２に対して高速に応答するこ
とができる。

【０００６】図１９は従来の適応的入出力装置の詳細を
示す。

【０００７】データ管理部２１５は標本データ２１６を
蓄えるためのデータ保存部２１９を有し、本例をニュー
ラルネットワークで実現する場合には、所定のタイミン
グでデータ保存部２１９から学習のための標本データ２
１６（Ｐ_i＝（ｘ_i，ｙ_i）を入出力部２１４に与え
る。

【０００８】入出力部２１４はデータ保存部２１９から
与えられる標本データ２１６によって真の関数ｆ
_true（ｘ_i）に近づくように入出力関数２１３（ｆ
_N（ｘ））を決定する。

【０００９】同図において、（Ａ）はデータ保存部２１
９内の標本データ２１６の数が少ない場合を示す。この
ように、標本データ２１６の数が少ないと、入出力関数
２１３が十分に真の関数ｂに近づかないために出力２１
８の精度が悪くなる。同図（Ｂ）はデータ保存部２１９
内の標本データ２１６の数が多い場合を示す。入出力関
数２１３は、同図（Ａ）のように標本データ２１６の数
が少ない場合には真の関数ｂに近づかないが、同図
（Ｂ）のように、標本データ２１６の数を増加させる
と、同図（Ａ）において存在していなかった標本データ
を補間することにより、入出力関数２１３が十分に真の
関数ｂに近づくため、出力２１８の精度が良くなる。

【００１０】

【発明が解決しようとする課題】しかしながら、従来の
第１の適応的入出力装置は、図１９（Ａ）のように、標
本データ２１６が少ない場合には、入出力関数２１３が
突出したり、落ち込んだりしている特徴的な標本データ
２１６が拾えないこともあり、真の関数ｂに近づいた形
の入出力関数２１３を得ることが難しい。そこで、図１
９（Ｂ）のように標本データ２１６を増加させると、特
徴的な値を含んだ標本データ２１６が拾えることが多
く、真の関数ｂに一致するような入出力関数２１３を得
ることができる。しかし、多数の標本データ６を用いて
学習を行うと、処理の規模が大きくなり、それに伴って
処理コストも増大するという問題がある。

【００１１】本発明は、上記の点に鑑みなされたもの
で、上記従来の問題を解決し、標本データを大きな評価
量を含むポイントで選択することにより、少ない標本デ
ータでも出力の精度を向上させることが可能な適応的入
出力装置を提供することを目的とする。

【００１２】

【発明を解決するための手段】図１は本発明の原理構成
図を示す。

【００１３】本発明の適応的入出力装置は、入出力関数
を決定するための標本データ（３１）を保持するデータ
保存手段（３０）と、データ保存手段（３０）の標本デ
ータから有効な標本データ（３１）を所定の評価の基準
により、選択するデータ選択手段（４０）と、データ選
択手段（４０）により選択された標本データに応じて入
出力関数を決定し、該入出力関数に基づき外部からの入
力（５０）に応じて出力する入出力部（６０）とを有す
る。

【００１４】また、本発明の適応的入出力装置は、入出
力部（６０）に、選択された標本データを教師データと
するニューラルネットワークを用いる。

【００１５】また、本発明の適応的入出力装置のデータ
選択手段（４０）は、所定の評価の基準として、標本デ
ータの出力と、ニューラルネットワークの出力の誤差が
大きい標本データを所定の規則に従って有効なデータと
して選択する。

【００１６】また、本発明の適応的入出力装置のデータ
選択手段（４０）は、所定の評価の基準として、任意の
標本データの出力とその標本データを無視した時の入出
力関数の出力との変化量が大きい標本データを所定の規
則に従って有効なデータとして選択する。

【００１７】また、本発明の適応的入出力装置のデータ
選択手段（４０）は、変化量を所定の範囲で積分し、そ
の積分値が大きい標本データを所定の規則に従って有効
なデータとして選択する。

【００１８】また、本発明の適応的入出力装置のデータ
選択手段（４０）は、所定の評価の基準として入力空間
中及び出力空間中の少なくとも一方の標本データ間の空
間的関係の値の差を求め、空間的関係の値の差が大きい
標本データまたは、小さい標本データを所定の規則に従
って有効なデータを選択する。

【００１９】また、本発明の適応的入出力装置は空間関
係の差として距離を利用する。

【００２０】また、本発明の適応的入出力装置は距離と
してユークリッド距離を用いる。

【００２１】また、本発明の適応的入出力装置のデータ
選択手段（４０）は、所定の評価基準として標本データ
の出力と入出力関数の出力との誤差による評価、また
は、任意の標本データの出力とその標本データを無視し
たときの入出力関数の出力との変化量、または空間的関
係の値の差による標本データに対する評価の履歴を求
め、履歴の値が大きい標本データまたは小さい標本デー
タを所定の規則に従って有効なデータを選択する。

【００２２】また、本発明の適応的入出力装置のデータ
保存手段（３０）は、データ選択手段（４０）により、
有効であると判断された標本データ（１１２）を保持す
るアクティブデータ保存部（１１１）と、アクティブデ
ータ保存部（１１１）で比較的有効でないと判断された
標本データを一時的に保持するためのスリープデータ保
存部（１１３）とを具備し、必要に応じてスリープデー
タ保持部（１１３）内の標本データをアクティブデータ
保存部（１１１）に復帰させる。

【００２３】また、本発明の適応的入出力装置はデータ
保存手段（３０）において、スリープデータ保存部（１
１３）に保存されている標本データのうち、評価が低く
且つ・又は所定の時間を経過したデータをスリープデー
タ保存部（１１３）より除去する。

【００２４】また、本発明の適応的入出力装置は有効な
標本データを前記データ選択手段（４０）により選択
し、保持するデータ選択保存部（７）と、任意の標本デ
ータの出力とその標本データを無視したときの入出力関
数の出力との変化量を補正する補正入出力部（６）と、
入出力部（４）からの出力と補正入出力部（６）の補正
出力とを加え合せる加算器（８）を含む。

【００２５】

【作用】本発明は、入出力関数を決定する際に、不必要
または、評価量が少なく有効性の小さい標本データを所
定の条件により取り除き、有効性が高い標本データを抽
出して入出力関数を決定する。従って、評価量が少ない
標本データを除去したために使用される標本データが減
少するので、ニューラルネットワークの学習が速くな
る。

【００２６】また、本発明は、有効でないと判断された
標本データが後刻必要であると判断された場合に再度デ
ータ選択のために与えることができる。さらに、この一
時保持された標本データは所定期間保持した後除去され
るため、標本データを保持するためのメモリ容量を抑え
ることができる。

【００２７】

【実施例】以下、図面と共に本発明の実施例を詳細に説
明する。

【００２８】図２は本発明の実施例の構成を示す。適応
的入出力装置１００は、複数の標本データ１１２を保持
するデータ保存部１１１と、そのデータ保存部１１１を
管理するデータ管理部１１０、データ保存部１１１から
標本データ１１２が入力され、その標本データ１１２に
基づいて入出力関数が十分に真の関数に近づくような有
効なデータを選択するためのデータ選択部１２０、及び
外部からの入力１４０及びデータ選択部１２０で選択さ
れた標本データ１１２により入出力関数を出力する入出
力部１３０から構成される。

【００２９】図３は本発明の実施例の概念を示す。同図
において、理解を簡単にするために、入出力部１３０と
データ管理部１１０を示す。同図において、図２と同一
構成部分には、同一符号を付す。

【００３０】同図（Ａ）は、データ選択前の状態を示す
ものであり、同図（Ｂ）はデータ選択部１２０を用いて
有効な標本データのみを適応したものである。同図中、
ａは入出力関数ｆ_N（ｘ）、ｂは真の関数ｆ
_true（ｘ_i）、ｃは評価量が大きい有効な標本データ
（ｘ_i，ｙ_i）（ｉ＝１，２，…Ｎ）、ｄは評価量が小
さくために無効とする標本データである。

【００３１】本実施例は、同図（Ａ）の１０個の標本デ
ータの中から有効な標本データのみを残し、評価が低い
無効な標本データを除去する。無効とするデータは、同
図（Ａ）からわかるように、有効な標本データｃと比較
してその評価量が小さいデータである。例えば、有効な
標本データｃ_1,ｃ₂，ｃ₃，ｃ₄と無効となる標本デー
タｄ₁，ｄ₂，ｄ₃を比較した場合に、有効な標本デー
タｃ_1,ｃ₂，ｃ₃，ｃ ₄があれば、標本データｄ₁，ｄ
₂，ｄ₃が存在していなくとも入出力関数ａを得ること
ができる。また、入出力関数ａは真の関数ｂに近づく関
数でなければならないので、入出力部１３０では、標本
データ（ｘ_i，ｙ_i）を学習データとして学習を行うこ
とにより入出力関数ａ＝ｆ_N（ｘ）を得る。

【００３２】（データ選択部）ここで、データ選択部１
２０により図３（Ｂ）に示すような有効な標本データｃ
を選択する方法を説明する。

【００３３】図４は、本発明の標本データ選択部の第１
の実施例のニューラルネットワークの出力誤差を用いて
標本データを選択する手順を示すフローチャートであ
る。

【００３４】ステップ１）ニューラルネットワークの出
力の標本データ（ｘ_i，ｙ_i）（但し、ｉ＝１、２、…
Ｎ）の出力に対する二乗誤差ｅ_i ²を求める。

【数１】

【００３５】ステップ２）全標本データ（ｘ₁，ｙ₁）
〜（ｘ_n，ｙ_n）に関する誤差ｅ₁〜ｅ_nを求めたら、
全標本データに対して誤差を対応させてメモリに記憶す
る。

【００３６】ステップ３）誤差ｅ_iを標本データと関連
付けて大きい順にソートする。 for （ｉ＝ｎ，ｎ≧１） if （ｅ_i-1＞ｅ_i）swap（ｅ_i-1，ｅ_i）ステップ４）ここで、条件として、『誤差Ｅ_iの値の大
きさが上位５位以外のサンプルデータは除去する』であ
れば、上位４位の大きさのサンプルデータのみを残す。
サンプルデータを用いてニューラルネットワークを学習
する。

【００３７】図５は、本発明の標準データ選択部の第１
の実施例の誤差による標本データの評価結果を説明する
ための図である。同図に示すように、標本データの取捨
選択を行うことにより、標本データを減らしても、充分
真の関数に近づくように学習できる。従って、上記の例
のように、入出力部１３０にとしてニューラルネットワ
ークを用いることにより、出力の精度を余り損なうこと
なく、学習に要する計算時間を減らすことができる。な
お、入出力部１３０に適応できるものに、他のベイズ
法、Ｋ最近接法、フューチャーマッピング、ＬＶＱなど
があるが、これらを利用した場合でも同様の効果が得ら
れる。

【００３８】上記実施例では、標本データの選択の基準
として、誤差を用いてきたが、この基準は、入出力部１
３０において、標本データ１１２と入出力関数ｆ
_N（ｘ）の誤差ｅ_iが大きいと、出力を大きく修正する
必要があるので有用性が高いが、標本データ１１２と入
出力関数の誤差がない場合は標本データの出力（ｙ_i）
と入出力関数ｆ_N（ｘ）が一致して、二乗誤差が０にな
る。このような値を評価の基準として使用できないの
で、データ選択部の第２の実施例としてそのような不都
合を解消する手法について説明する。

【００３９】図６は本発明のデータ選択部の第 2の実施
例を説明するための図である。同図中、図５と同一箇所
には同一符号を付す。

【００４０】同図において、標本データｃ₃を無視する
と、入出力関数ａは変化した入出力関係ｇとなる。この
ときの無視した標本データｃ₃における入出力関数ａと
変化した入出力関数ｇとの差である入出力関数の変化量
ＩＧを評価基準とすることができる。この場合、変化量
ＩＧが大きい標本データほど有効性が大きい。

【００４１】標本データｃ₃を無視した場合の出力ｆ
（ｘ_i：ｃ₁，ｃ₂，ｃ₄）とデータの出力ｙ_iを比較
して得られる二乗誤差ｅ_i ²は、

【数２】を評価の基準とする。この二乗誤差ｅ_i ²が大きい程、
変化量ＩＧが大きく、有効性のあるデータとなる。

【００４２】次に、本発明の標本データ選択部の第３の
実施例を説明する。

【００４３】図７は、本発明の標本データ選択部の第３
の実施例を説明するための図である。同図中、図６と同
一部分には同一符号を付し、その説明を省略する。本実
施例は、前述の第２の実施例である標本データを無視し
た場合の変化量ＩＧを所定の範囲内で積分

【数３】し、積分量が大きい標本データを選択するものである。
この場合も標本データｃ ₃が最も有効なデータとなる。

【００４４】次に、二乗誤差ｅ_i ²から導出した評価基
準は、分布状態による評価基準をも含んでいる。例え
ば、標本データＰ_jの近傍に標本データＰ_iが存在する
と、標本データＰ_iが標本データＰ_jに近いほど二乗誤
差ｅ_iが小さくなる。つまり、真の関数ｂが滑らかな入
力部分に標本データが密集して存在すると、互いの標本
データの評価が低くなる。

【００４５】図８は本発明の標本データ選択部の第４の
実施例を説明するための図である。

【００４６】入力空間中の距離についてはユークリッド
距離Ｅ_iを以下により求める。

【数４】上記の式（２）については、距離Ｅが予め設定された
値θ以下であるものを選択する。

【００４７】なお、上記の実施例以外に時刻ｔにおける
評価をＥ_i（ｔ）として、以下により時間平均を求める
方法もある。

【数５】但し、αは、０＜α＜１であるとする。

【００４８】次に、本発明のデータ保存部１１１につい
て説明する。データ保存部１１１は、データ選択部１２
０で選択されるべき標本データを保持し、さらに、デー
タ選択部１２０で、有効でないとして除去された標本デ
ータを保持するものである。

【００４９】（データ保存部）先ず、本発明の標本デー
タを保持しているデータ保存部１１１から逐次的に新し
い標本データがデータ選択部１２０に与えれらる状況に
ついて説明する。

【００５０】図９は本発明のデータ保存部の第１の実施
例の構成を示す。

【００５１】同図に示す構成は、図３に示す構成のデー
タ管理部１１０のデータ保存部１１１に加えてスリープ
データ保存部１１３を設けたものである。本実施例で
は、データ保存部１１１をアクティブデータ保存部１１
１とし、データ選択１２０についても、逐次的に標本デ
ータ１１２をアクティブデータ保存部１１１から供給さ
れて、データの取捨選択のための標本データの比較を行
なう。データ比較部１２１と、比較した結果により、ア
クティブデータ保存部１１１から除去するデータ抽出部
１２２を設ける。

【００５２】本発明の処理は、アクティブデータ保存部
１１１から標本データ１１２がデータ選択部１２０のデ
ータ比較部１２１に与えられる。しかし、図３に示され
るデータ管理部１１０の構成では、データ選択部１２０
に標本データ１１２が与えられ、有効でない標本データ
は除去されていたが、後になって除去してしまった標本
データが必要となる場合がある。この不都合を緩和する
ために、本実施例では、スリープデータ保存部１１３を
データ管理部１１０に設ける。

【００５３】図１０は本発明のデータ保存部の詳細な構
成を示す。

【００５４】同図において、アクティブデータ保存部１
１１からデータ選択部１２０に標本データが与えられ
る。データ選択部１２０のデータ比較部１２１は、各標
本データを比較し、データ抽出部１２２で、有効なデー
タｃ₁，ｃ₂，ｃ₃，ｃ₄以外の有効でないデータ
ｄ₁，ｄ₂，ｄ₃を除去すると、そのデータｄ₁，
ｄ₂，ｄ ₃をスリープデータ保存部１１３に転送する。
スリープデータ保存部１１３は、データ選択部１２０よ
り転送された標本データをある期間保持する。

【００５５】図１１は本発明のデータ管理部の第１の実
施例の動作を示すフローチャートである。

【００５６】ステップ１０１）逐次的に加えられる新し
い標本データをまず、スリープデータ保存部１１３に追
加する。

【００５７】ステップ１０２）前述のデータ選択部１２
０において、有効となる評価量の大きい標本データを選
択するための処理を行う。

【００５８】ステップ１０３）ステップ１０２におい
て、アクティブデータ保存部１１１において無効となっ
た標本データが有るかを判定し、ない場合には、ステッ
プ１０５に移行する。一方、無効となった標本データが
ある場合には、次ステップに移行する。

【００５９】ステップ１０４）アクッティブデータ保存
部１１１において無効となった標本データをスリープデ
ータ保存部１１３に追加登録する。

【００６０】ステップ１０５）アクティブデータ保存部
１１１内の標本データ（ｘ_i，ｙ_i）について誤差Δｅ
_iを求める。所定の評価基準により、上位から１つまた
は複数のアクティブデータの誤差を求める。

【００６１】ステップ１０６）スリープデータ保存部１
１３の無効となった標本データ（ｘ’_i，ｙ’_i）につ
いてステップ１０５と同様に誤差ｅ’_iを求める。所定
の評価基準により、上位から１つまたは複数の有効な標
本データの誤差を求める。

【００６２】ステップ１０７）アクティブデータ保存部
１１１内の１つ又は、複数の有効な標本データ（ｘ_i，
ｙ_i）の誤差Δｅ_iと、スリープデータ保存部１１３の
１つまたは、アクティブデータ保存部１１１の標本デー
タの数と同数の誤差ｅ’_iを比較して、アクティブデー
タ保存部１１１の標本データの有効性が高い場合には、
ステップ１０９に移行する。一方、スリープデータ保存
部１１３の標本データの有効性が高い場合には、次ステ
ップに移行する。

【００６３】ステップ１０８）アクティプデータ保存部
１１１の標本データとスリープデータ保存部１１３でア
クティブデータとなった標本データを入れ替える。

【００６４】ステップ１０９）ある一定期間が経過した
時に、スリープデータ保存部１１３の標本データの有効
性が低いために使用されない標本データを有効性が低い
順に除去する。

【００６５】上記のように、スリープデータ保存部１１
３を用いることにより、データ選択部１２０は有効な標
本データを誤って捨てることが少なくなるので、より適
切な標本データをアクティブデータ保存部１１１内に保
持できるようになる。そのため、入出力関数をより真の
関数に近づけることが可能となる。

【００６６】なお、上記のフローチャートでは、新しい
データをスリープデータ保存部１１３に追加して上記ス
テップ１０８において、有効性が高ければ、アクティブ
データ保存部１１１に転送したが、これをまず、アクテ
ィブデータ保存部１１１に追加してもよい。

【００６７】更に、アクティブデータ保存部１１１とス
リープデータ保存部１１３に保存できるデータの限度を
設けた場合について説明する。

【００６８】アクティブデータ保存部１１１は、最大Ｍ
個の標本データＰ_i（但しｉ＝１〜Ｍ）のセットＡ＝
（Ｐ₁，Ｐ₂，…，Ｐ_M）を有し、スリープデータ保存
部１１３は、最大Ｎ個のデータＱ_i（但し、ｉ＝１〜
Ｎ）のセットＳ＝（Ｑ₁，Ｑ₂，…，Ｑ_N）を保持す
る。アクティブデータ保存部１１１は、逐次的に新たな
データを取り込みながら、不要なデータを削除すること
であるので、データセットＡとして、ニューラルネット
ワークの学習及び出力の補正を有効に行うことができる
アクティブデータを選択保持するために、スリープデー
タ保存部１１３のデータセットＳが用いられる。

【００６９】図１２は、本発明のデータ管理部の第２の
実施例のアクティブデータ保存部及びスリープデータ保
存部に保持するデータ数に制限がある場合の処理を示す
フローチャートである。

【００７０】ステップ２０１）アクティブデータ保存部
１１１は、データセットＡ＝（Ｐ₁，Ｐ₂，…，Ｐ_M）
内のデータの数をＭ個以下に抑えながら、前述した二乗
誤差Δｅ_i ²の評価が大きなデータを残す。そこで、ア
クティブデータ保存部１１１がスリープデータ保存部１
１３から前述のスリープデータとなる標本データを受け
取り、アクティブデータ保存部１１１の個数ＰがＭ以上
であれば（Ｐ≧Ｍ）、ステップ２０４に移行し、アクテ
ィブデータ保存部１１１の個数ＰがＭより少ない（Ｐ＜
Ｍ）であれば、ステップ２０２に移行する。

【００７１】ステップ２０２）アクティブデータ保存部
１１１は新しいデータを追加する。

【００７２】ステップ２０３）アクティブデータ個数Ｐ
をインクリメントしてステップ２０１に移行する。

【００７３】ステップ２０４）アクティブデータ保存部
１１１のデータ個数Ｐがスリープデータ保存部１１３の
データ個数Ｍより多い場合には、スリープデータ保存部
１１３に新しいデータを追加する。

【００７４】ステップ２０５）アクティブデータ保存部
１１１の標本データに対する二乗誤差Δｅ_i ²の評価を
行う。

【００７５】ステップ２０６）スリープデータ保存部１
１３のデータ個数Ｑがスリープデータ保存部１１３の最
大個数より少なければ（Ｑ＜Ｎ）、ステップ２０７に移
行し、一方、最大個数Ｎ以上であれば（Ｑ≧Ｎ）、ステ
ップ２０９に移行する。

【００７６】ステップ２０７）アクティブデータ保存部
１１１の評価された標本データのうち、有効性の低いデ
ータをスリープデータ保存部１１３に転送する。

【００７７】ステップ２０８）スリープデータ保存部１
１３のデータ個数をインクリメントして（Ｑ＝Ｑ＋
１）、ステップ２０１に戻る。

【００７８】ステップ２０９）スリープデータ保存部１
１３のデータ個数がスリープデータ保存部１１３の最大
個数Ｎ以上であれば（Ｑ≧Ｎ）、スリーブデータ保存部
１１３の標本データＱに対する二乗誤差ｅ_i ²の評価を
行う。

【００７９】ステップ２１０）前述の図８のフローチャ
ートのステップ１０８と同様の処理を行う。

【００８０】ステップ２１１）前述の図８のフローチャ
ートのステップ１０９と同様の処理を行う。

【００８１】上記のアクティブデータ保存部１１１とス
リープデータ保存部１１３の関係を具体的に説明する。

【００８２】図１３は本発明のデータ管理部の第２の実
施例のアクティブデータとスリープデータの保存例を示
す。同図において、各データの横に延びるバーは、エラ
ーｅ _i ²の大きさを示す。

【００８３】図１３（Ａ）は、初期状態で、アクティブ
データ保存部１１１は、例えば１０個（Ａ〜Ｊ）を貯え
ることができ、スリープデータ保存部１１３は、５個の
データ（Ｋ〜Ｎ）を貯えることができるものとする。同
図（Ｂ）は新しいデータ（Ｎｅｗ）がスリープデータの
保存部：Ｓの最上位に追加されると同時に他のデータが
１つづつ順位を下げている。同図（Ｃ）では、また、ス
リープデータ保存部：Ｓの一番下の順位のデータとその
上のデータとを比較し、データの方がエラー量が小さけ
れば入れ替える。この入れ替えを一つづつ順番の高いと
ころで行う。同図（Ｄ）はアクティブデータ保存部：Ａ
の中の一番エラー量が小さいデータＬとスリープデータ
保存部Ｓの最上位のデータＩを比較し、スリープデータ
保存部：Ｓのエラー量がが大きければ入れ替える。この
例の場合には、Ｌ＞Ｉであるので、入れ替えは行われな
い。

【００８４】アクティブデータ保存部１１１は、同図に
示すバーが長いデータをアクティブデータとして保持す
ることである。順を追って図１３に基づいて説明する。
図１３（Ａ）の初期状態においてアクティブデータ保存
部：ＡにデータＡからデータＪが保持され、スリープデ
ータ保存部１１３には、データＫからデータＮが保持さ
れていたとする。ここで、同図（Ｂ）のように、スリー
プデータ保存部：Ｓが新しいデータ（Ｎｅｗ）を受け取
ると、スリープデータ保存部：Ｓの一番上のＱ１に積み
重ねられ、他のデータは一つづつ順位を下げ、最下位Ｑ
５にあったデータＯは捨てられる。

【００８５】次に、同図（Ｃ）に示すようにスリープデ
ータ保存部：Ｓ内で並べ替えを下の順位から行う。ま
ず、同図（Ｂ）において、スリープデータ保存部：Ｓの
Ｑ４内のデータＭとＱ５内のデータＮを比較し、評価の
大きいデータ（同図中ではＮ）をＱ４に入れる。次に、
同様の操作をＱ３内のデータとＱ４内のデータについて
行う。同様の操作をさらに順位の高いデータについても
実行すると、スリープデータ保存部内で最も評価の高い
データ（同図中では、Ｌ）がＱ１に位置する。さらに、
同図中（Ｄ）に示すように、スリープデータ保存部：Ｓ
の最上位Ｑ１内のデータと、アクティブデータ保存部：
Ａ内で最も評価の低いデータ「Ｉ」よりも大きければス
リープデータ保存部：Ｓのデータ「Ｌ」とアクティブデ
ータ保存部：Ａのデータ「Ｉ」の入れ替えを行う。

【００８６】次に上記の標本データ選択部及びデータ管
理部を適応的入出力装置に適用した場合について説明す
る。

【００８７】図１４は、本発明の標本データ選択方法及
び標本データ保存方法を適応的入出力装置に適応した例
を示す。

【００８８】同図に示す適応的入出力装置１は、主入出
力部４、データ保存部１１２、補正入出力部６、データ
選択保存部７、加算器８より構成される。

【００８９】適応的入出力装置１は、外部から受け取っ
た入力２に応じて出力３を送出するものである。主入出
力部４は、ニューラルネットワークなどの高速な応答を
有する適応的入出力を行なうものであり、外部から受け
取った入力２から主出力９を生成する。データ保存部５
は、データ管理部１１０のアクティブデータ保存部１１
１と同様の機能を有する。データ保存部５は、主入出力
部４が出力３を決定する際に参照する標本データを貯え
ており、主入出力部４の学習データ（標本データ）とし
て利用される。

【００９０】データ選択保存部７は、補正入出力部６の
応答と適応させる処理量を削減するために、補正入出力
部６が参照する標本データ１１の数を減らす必要があ
る。このために、前述のデータ選択部の第１〜第４の実
施例のいずれかの方法で、データ保存部５の中から有効
性の高い標本データを選択し、かつ保持する。

【００９１】補正入出力部６は、ニューラルネットワー
クの学習を避けて標本データを無視する方法により、誤
差ｅを補う補正出力１２を生成する。

【００９２】加算器８は、主出力９と補正入出力部６か
らの補正出力１２を加え合わせて出力３を出力する。加
算器３の出力は、図１５に示すように、データ選択保存
部７で選択された標本データ１１による補正出力１２を
主出力９に加えあわせたものである。このように、主出
力９と補正出力１２を加算することにより、加算された
出力４は、主出力９より適切な出力を行なう。

【００９３】加算器８において、主入出力部４からの出
力と補正入出力部６補正出力の和である出力ｆ（ｘ_i:)
のあるデータｃ_iを無視した場合の出力ｆ（ｘ_i：
ｃ₁，ｃ ₂，ｃ₄）を得るためには、ニューラルネット
ワークを学習させる必要がある。しかし、ニューラルネ
ットワークの学習データ毎に異なった学習を行なうの
は、処理コスト等の点で現実的ではないので、ニューラ
ルネットワーク学習を避けるあるデータｃ_iを無視した
ときの補正出力ｅ(x) の変化に注目したときに生じる二
乗誤差ｅ_i ² ｅ_i ²= ｜ｅ_i−ｅ( ｘ_i: P₁，P₂，…，P _i-1，P
_i+1，…，P _M) ｜² を評価の基準として用いた場合に、この二乗誤差ｅ_i ²
が大きい標本データほど有効である。

【００９４】データ選択保存部７において選択された標
本データ１１の表現としては、データ保存部５の標本デ
ータ１０と同様に、入力２と出力３の関係（ｘ_i，
ｙ_i）でもよいが、入力２（ｘ_i）と主出力９（ｆ
_N（ｘ_i））と標本データ１０の出力ｙ_iとの差ｅ_i＝
ｙ_i−ｆ_M（ｘ_i）の関係でもよい。入力２（ｘ_i）と
主出力９ｆ_N（ｘ_i）と標本データ１０の出力との差ｅ
_iの場合は、入力２（ｘ_i）から出力３（ｙ_i）を得る
時の計算量が少なくなるので、より高速な応答が可能と
なる。また、入力２と出力３の関係（ｘ_i，ｙ_i）の場
合には、データの選択を行なう時の計算量が少なくな
る。

【００９５】図１６は本発明の誤差を用いて標本データ
を評価した場合を示す。誤差ｅを用いて、選択された標
本データ１１の主出力９（ｆ_N（ｘ））と出力ｙ_iとの
差であるｅ_iを用いて、誤差１３（ｅ_i）の大きな標本
データ（ｘ_i，ｙ_i）を選択する。

【００９６】さらに、他の標本データの選択の方法に
は、上記の図６に示すデータ選択部１２０の第２の実施
例を用いる方法がある。ここで、主出力９（ｆ
_n（ｘ））を変化させずに、標本データ１４を無視した
とすると、出力１５と無視しない出力３を比較して標本
データ１４における出力の変化量１６や、出力の変化量
１６を適当な範囲で入力空間に対して積分した量１７を
用いることができる。補正入出力部６の適応時間が短い
ので、ある標本データ（ｘ_i，ｙ_i）を無視したときの
補正入力１２の出力変化のみを比較すれば、効率的であ
るが、主出力９の適応による出力変化を考慮してもよ
い。

【００９７】さらに、データ選択保存部７は、標本デー
タ１０を選択する場合に、選択の基準の時間平均

【数６】などの過去の履歴を含めて選択基準としてもよい。

【００９８】さらに、補正入出力部６からの補正出力１
２により、目的に応じて出力３の特性を向上することが
できる。

【００９９】また、主入出力部４は充分な適応が行なわ
れた後では、多くの標本データに基づく補間を行なうこ
とができるので、出力３の補間能力は、主入力装置４の
適応が進むにつれて向上する。

【０１００】

【発明の効果】上述のように、本発明のデータ選択機構
によれば、標本データとして入出力関係を記述するのに
有効なデータが選択されるため、少ないデータ数でも出
力の精度を向上させることができ、学習や出力に要する
コスト及び時間が削減される。

【０１０１】さらに、データ保持機構により多くの標本
データを保持しておく必要がないので、記憶領域が小さ
くですみ、さらに、逐次的に標本データが与えられる様
な状況でこの入出力装置を利用してもデータが際限なく
増加することを防止できる。

【０１０２】このような本発明のデータ選択機構と、デ
ータ保持機構を適応的入出力装置に適応した場合には、
入力に対して高速な出力の応答が可能であると同時に、
主入出力部の適応の遅さを補正入出力部の補正出力を加
え合わせることでカバーするので、出力が適応に要する
時間を削減することができる。特に、逐次的に新しい標
本データが与えられて、補正出力を生成することにより
適応に要する時間を大幅に減少させることが可能であ
る。

【０１０３】さらに、本発明を適応的入出力部の主入出
力部は適応後には、加算器を用いて優れた補間能力が期
待できるので、出力の補間能力は主入出力装置の適応の
進行に従って向上する。

【図面の簡単な説明】

【図１】本発明の原理構成図である。

【図２】本発明の実施例の適応的入出力装置の構成図で
ある。

【図３】本発明の概念を説明するための図である。

【図４】本発明のデータ選択部の第１の実施例の誤差を
用いる場合のフローチャートである。

【図５】本発明のデータ選択部の第１の実施例の誤差に
よる標本データの評価を説明するための図である。

【図６】本発明のデータ選択部の第２の実施例の標本デ
ータの選択を説明するための図である。

【図７】本発明のデータ選択部の第３の実施例の標本デ
ータの選択を説明するための図である。

【図８】本発明のデータ選択部の第４の実施例の空間的
関係を用いた場合の標本データの選択について説明する
ための図である。

【図９】本発明のデータ保存部の第１の実施例を説明す
るための図である。

【図１０】本発明のデータ保存部の詳細な構成を示す図
である。

【図１１】本発明のデータ保存部の第１の実施例の動作
を示すフローチャートである。

【図１２】本発明のデータ保存部の第２の実施例のアク
ティブデータ保存部及びスリープデータ保存部に保持す
るデータ数に制限がある場合の処理のフローチャートで
ある。

【図１３】本発明のデータ保存部の第２の実施例のアク
ティブデータとスリープデータの具体例を示す図であ
る。

【図１４】本発明のデータ選択部及びデータ保存部を適
応的入出力装置に適応した例を示す図である。

【図１５】本発明のデータ選択部を適応的入出力装置の
データ選択保存部に適応した時の標本データの評価を示
す図（その１）である。

【図１６】本発明のデータ選択部を適応的入出力装置の
データ選択保存部に適応した時の標本データの評価を示
す図（その２）である。

【図１７】本発明のデータ選択部を適応的入出力装置の
主出力と補正出力の加算結果を示す図である。

【図１８】従来の適応的入出力装置の構成図である。

【図１９】従来の適応的入出力装置の詳細を示す図であ
る。

【符号の説明】

１適応的入出力装置２入力３出力４主入出力部５データ保存部６補正入出力部７データ選択保存部８加算器９主出力１０標本データ１１選択された標本データ１２補正出力３０データ保存手段３１標本データ４０データ選択手段４１残存エラー比較手段４２変化量比較手段４３空間比較手段５０入力６０入出力部７０出力１１０データ管理部１１１データ保存部１１２標本データ１１３スリープデータ保存部１１４無効な標本データ１１５新しい標本データ１１６除去された標本データ１２０データ選択部１２１データ比較部１２２データ抽出部１３０入出力部１４０入力１５０出力２１１適応的入出力装置２１２入力２１３入出力関数２１４入出力部２１５データ管理部２１６標本データ２１８出力２１９データ保存部

───────────────────────────────────────────────────── フロントページの続き (72)発明者長田茂美神奈川県川崎市中原区上小田中1015番地富士通株式会社内

Claims

【特許請求の範囲】

【請求項１】入出力関数を決定するための標本データ
（３１）を保持するデータ保存手段（３０）と、該データ保存手段（３０）の該標本データから有効な標
本データ（３１）を所定の評価の基準により、選択する
データ選択手段（４０）と、該データ選択手段（４０）により選択された該標本デー
タに応じて入出力関数を決定し、該入出力関数に基づき
外部からの入力（５０）に応じて出力する入出力部（６
０）とを有することを特徴とする適応的入出力装置。
【請求項２】前記入出力部（６０）に、選択された標
本データを教師データとするニューラルネットワークを
用いる請求項１記載の適応的入出力装置。
【請求項３】前記データ選択手段（４０）は、該所定
の評価の基準として、前記標本データの出力と、前記ニ
ューラルネットワークの出力の誤差が大きい標本データ
を所定の規則に従って有効なデータとして選択する請求
項１記載の適応的入出力装置。
【請求項４】前記データ選択手段（４０）は、該所定
の評価の基準として、任意の標本データの出力とその標
本データを無視した時の入出力関数の出力との変化量が
大きい標本データを所定の規則に従って有効なデータと
して選択する請求項１記載の適応的入出力装置。
【請求項５】前記データ選択手段（４０）は、前記変
化量を所定の範囲で積分し、その積分値が大きい標本デ
ータを所定の規則に従って有効なデータとして選択する
請求項４記載の適応的入出力装置。
【請求項６】前記データ選択手段（４０）は、該所定
の評価の基準として入力空間中及び出力空間中の少なく
とも一方の前記標本データ間の空間的関係の値の差を求
め、該空間的関係の値の差が大きい標本データまたは、
小さい標本データを所定の規則に従って有効なデータを
選択する請求項１記載の適応的入出力装置。
【請求項７】前記空間関係の差として距離を利用する
請求項６記載の適応的入出力装置。
【請求項８】前記距離としてユークリッド距離を用い
る請求項７記載の適応的入出力装置。
【請求項９】前記データ選択手段（４０）は、前記所
定の評価基準として前記標本データの出力と前記入出力
関数の出力との誤差による評価、または、任意の標本デ
ータの出力とその標本データを無視したときの入出力関
数の出力との変化量、または前記空間的関係の値の差に
よる前記標本データに対する評価の履歴を求め、該履歴
の値が大きい標本データまたは小さい標本データを所定
の規則に従って有効なデータを選択する請求項１記載の
適応的入出力装置。
【請求項１０】前記データ保存手段（３０）は、前記
データ選択手段（４０）により、有効であると判断され
た標本データ（１１２）を保持するアクティブデータ保
存部（１１１）と、該アクティブデータ保存部（１１
１）で比較的有効でないと判断された標本データを一時
的に保持するためのスリープデータ保存部（１１３）と
を具備し、必要に応じて該スリープデータ保持部（１１
３）内の標本データを該アクティブデータ保存部（１１
１）に復帰させる請求項１記載の適応的入出力装置。
【請求項１１】前記データ保存手段（３０）におい
て、前記スリープデータ保存部（１１３）に保存されて
いる標本データのうち、評価が低く且つ・又は所定の時
間を経過したデータを前記スリープデータ保存部（１１
３）より除去する請求項１０記載の適応的入出力装置。
【請求項１２】有効な標本データを前記データ選択手
段（４０）により選択し、保持するデータ選択保存部
（７）と、任意の標本データの出力とその標本データを無視したと
きの入出力関数の出力との変化量を補正する補正入出力
部（６）と、前記入出力部（４）からの出力と該補正入出力部（６）
の補正出力とを加え併せる加算器（８）を含む請求項１
記載の適応的入出力装置。