JPH11232244A

JPH11232244A - ニューラルネットワーク、その学習方法およびニューロ・ファジィ制御装置

Info

Publication number: JPH11232244A
Application number: JP10028346A
Authority: JP
Inventors: Yasunori Katayama; 恭紀片山; Susumu Kitani; 進木谷; Takashige Watabiki; 高重渡引; Shinji Yamazaki; 伸治山崎; Eiji Adachi; 英二安達; Satoru Hattori; 哲服部
Original assignee: Hitachi Ltd; Hitachi Information and Control Systems Inc
Current assignee: Hitachi Ltd; Hitachi Information and Control Systems Inc
Priority date: 1998-02-10
Filing date: 1998-02-10
Publication date: 1999-08-27

Abstract

(57)【要約】【課題】従来の階層型ニューラルネットワークは０／１
によるパターン分離が主で、中間的なパターン成分の安
定な抽出ができなかった。本発明はパターンの成分量を
安定に抽出できるニューラルネットワークを提供するこ
とにある。【解決手段】階層型ニューラルネットワーク７の学習機
構８にシグモイド関数の傾きを直接的に変更する傾き決
定機構１１を付設し、重みやしきい値とともに傾きを変
えながら学習を行なうことで、中間値の精度の向上と処
理の高速化を達成した。これにより、ニューラルネット
ワーク３から要求精度に応じたアナログ値をファジィ制
御機構４に入力できるので、形状パターン制御などの連
続制御が可能になる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明はニューラルネットワ
ークに係わり、特にニューロ・ファジィ制御装置に好適
なパターン成分を学習するニューラルネットの学習方法
に関する。

【０００２】

【従来の技術】ファジイ制御は人間の感覚や経験的知識
を基にした定性的な操作に適している。たとえば、空調
の制御はサンプリングした温度や湿度に対し、予め設定
している「寒い／適温／暑い」や「乾燥／適湿／湿潤」
のメンバーシップ関数より定性的な確信度を求め、適用
できるファジィルールの後件部の制御を実行する。

【０００３】同様に、操作が定性的となる制御に、圧延
や機械加工等での形状制御がある。しかし、形状パター
ンは分布した量となるので、スカラー量を入力とするフ
ァジィ制御では扱えない。

【０００４】そこで、本発明者等は特開平２−２４４２
０３号に開示のように、ニューラルネットワークとファ
ジィ制御装置を組み合わせて、ニューラルネットワーク
にパターン成分を抽出させ、その成分量に適したファジ
ィルールで制御する方式を提案した。これは多数のセン
サの組み合わせのパターンを分類して、制御を行う全く
新しい方式であり、圧延機の形状制御やエレベータの群
管理等に一部適用されている。

【０００５】

【発明が解決しようとする課題】従来の階層型ニューラ
ルネットワークは、ニューロン出力を演算するシグモイ
ド関数が０／１の出力を求めるものであり、どの出力端
のパターンに「含まれるか」を判断する分離型であっ
た。このため、中間値による連続制御を行なうファジィ
制御の入力としては適さなかった。

【０００６】これに対し、特開平２−２４４２０３号に
記載のニューラルネットワークは、パターン成分として
の中間値を抽出し、ファジィルールへの入力情報として
いる。しかし、ニューラルネットの学習は荷重係数を変
更する従来方式によるため、学習パターン数が多い場合
やアナログ精度を要求される場合は対応が困難になる。

【０００７】また、本発明者等は、特開平５−２６５１
１号に開示しているように、ある学習パターンとその遷
移と逆向きのパターンを用意し、両者の組合せの比率を
段階的に変更しながら、あるパターンからその逆向きパ
ターンの間の中間値を学習する方法を提案した。これは
ニューラルネットワークのもつ補間能力によって可能に
なる。しかし、この学習方法はパターン数が多くなるた
め学習に時間がかかるだけでなく、ＸＯＲのパターンな
どのように収斂が困難になる場合がある。

【０００８】さらに、ニューラルネットワークの一般的
な学習の高速化手法として、前回修正分を今回修正に反
映するモーメント法が知られている（「入門と実習ニュ
ーロコンピーュタ（中野馨他著、技術評論社、平成１年
刊）」）。しかし、このモーメント法は、予め設定した
シグモイド関数の傾きが不適当な場合に収斂しないとい
う問題があった。

【０００９】本発明の目的は、上記したような従来のニ
ューラルネットにおける学習方法の問題点を克服し、中
間値を精度よくかつ高速に学習できるニューラルネット
とその学習方法、及びそれを適用したニューロ・ファジ
ィ制御装置を提供することにある。

【００１０】

【課題を解決するための手段】本発明は、従来のニュー
ラルネットワークの学習パラメータである荷重係数やし
きい値に、シグモイド関数の傾き（μ）を加え、学習の
自由度を大きくすることによって、多数のパターンの組
合せによる中間値の学習を確実かつ高速に収斂させ、ア
ナログの要求精度に対処できるようにしたものである。

【００１１】上記目的は、入力層、少なくとも１つの中
間層及び出力層からなる階層型ニューラルネットワーク
に、学習用の入力データを前記入力層に与えたときの前
記出力層の出力と教師データとの偏差による誤差が許容
範囲となるように、各層のパラメータを最適化するニュ
ーラルネットワークの学習方法において、前記誤差が許
容範囲を越えるときに、各層のニューロン毎の入力また
は出力の演算のパラメータである重み係数（ω）、しき
い値（θ）とともに、シグモイド関数の傾き（λ）を変
更して、学習処理を繰り返すことにより達成される。

【００１２】前記誤差は前記出力層のニューロン毎の偏
差の自乗和（Ｅｐ）として求め、かつ最急傾斜法によ
り、前記パラメータに対するＥｐの傾き（微分値；∂Ｅ
ｐ/∂ω，∂Ｅｐ/∂θ，∂Ｅｐ/∂λ）から各パラメー
タの変更量（△ω，△θ，△λ）を求めることを特徴と
する。

【００１３】また、本発明のニューラルネットワーク
は、入力層、少なくとも１つの中間層及び出力層からな
る階層型ニューラルネットワークと、各層のパラメータ
を最適化する学習手段と、学習用入力データと教師デー
タを対とする複数組の学習データを記憶するメモリと、
学習処理と類推処理を切り替える切替手段を備え、前記
学習手段が、前記パラメータである各層のニューロン毎
の重み係数、しきい値及び傾きの各変更量を求めるパラ
メータ決定手段を有していることを特徴とする。

【００１４】前記ニューラルネットワークにおいて、前
記学習用入力データの任意の１つであり、複数の入力信
号の組合せからなるパターンを類似度に応じて変形し、
この変形後のパターンを学習用入力データ、前記類似度
を教師データとして用意し、前記学習手段により、前記
階層型ニューラルネットワークが変形前のパターンに対
し１／０に識別する学習の終了後に、変形後のパターン
に対しその類似度に収斂するように学習し、中間値の安
定な出力を可能にしたことを特徴とする。

【００１５】さらに、本発明のニューロ・ファジィ制御
装置は、制御対象と、前期制御対象の状態を計測するセ
ンサと、前期センサ情報の組合せを入力し、予め学習し
た入力の組み合わせに対する中間値を出力するニューラ
ルネットワークと、前記ニューラルネットワークの出力
と定性的なルールを用いてファジィ推論を行うファジィ
推論手段と、前記推論手段の出力を受け、アクチュエー
タを介して前記制御対象を所望の状態へ制御する制御手
段からなるニューロ・ファジィ制御装置において、前記
ニューラルネットワークは、前記中間値を許容誤差内の
精度で出力できる学習手段を有し、前記ファジィ推論手
段が前記ニューラルネットワークからの前記中間値を入
力して連続制御を行なうことを特徴とする。

【００１６】前記中間値は、予め学習した入力の組み合
わせパターンの成分量であり、前記ニューラルネットワ
ークは、入力パターンの分布変化に応じたパターンの成
分量を抽出することを特徴とする。

【００１７】

【発明の実施の形態】以下、本発明の実施形態について
図面を参照しながら詳細に説明する。図１は、一実施例
のニューロ・ファジィ制御システムの構成図を示す。制
御対象１の状態を検出するセンサ２、制御対象１の状態
を変化させるアクチュエータ６、センサ２の信号を入力
するニューラルネットワーク３、その出力を定性的なル
ールと突き合わせてファジィ推論し、推論結果に基づく
制御指令を出力するファジィ推論機構４、制御指令によ
り制御対象１を所望の状態へ制御する操作量をアクチュ
エータ６に出力する制御機構５から構成される。学習デ
ータ用メモリ１３は学習用の入力データと教師データの
対が複数組、パラメータ用メモリ１４は学習機構８で最
適化された各パラメータがそれぞれ記憶される。

【００１８】ニューラルネットワーク３は、入力の組み
合わせから予め学習されているパターンの類似度を出力
する階層型ニューラルネットワーク７、ニューラルネッ
トワーク７の重み、しきい値、傾きを変化させながら、
学習データを入力したときの出力の自乗誤差を最小に制
御する学習機構８から構成される。

【００１９】学習機構８は重み係数決定機構９と、しき
い値決定機構１０と、傾き決定機構１１及び学習の準備
から実行の全般を制御する学習制御機構１２を有してい
る。重み係数決定機構９及びしきい値決定機構１０のパ
ラメータの変更方式は周知で、たとえば最急傾斜法等を
用いた決定方法がある（「入門と実習ニューロコンピー
ュタ（中野馨他著、技術評論社、平成１年刊、ｐｐ４０
−８４）」）。本実施例に特有な傾き決定機構１１は、
ニューラルネットワーク７の出力を規定するシグモイド
関数の傾きを、最急傾斜法にしたがって後述のように決
定する。

【００２０】ここで、最急傾斜法とはニューラルネット
ワークのパラメータを微少変化させ、誤差の２乗和を変
化させたときに、誤差関数のパラメータの変化率である
傾きが最大になるようにパラメータを変える周知の手法
である。たとえば、着目する重み係数ωを上の方向へ微
小変動させ、その結果、偏差値が変化する方向をみて、
減少する方向へ係数ωを移動する。その場合の移動量は
偏差値の変化が大きい時は大きく、変化が小さいときは
小さくなる。

【００２１】さらに、本実施例では収斂を速めるために
導入し、経験的に設定される加速係数α_ω（１．０以
下）を用いる手法も周知である。そして、出力層に最も
近い中間層から順次、入力層に近い中間層へと係数ωを
変更し、各層の変更が終了した時点で学習データの突合
せを再度行ない、誤差が許容範囲になるまで繰り返す。

【００２２】なお、最急傾斜法における誤差関数のパラ
メータの変化率である「傾き」と、シグモイド関数の形
状を決定するパラメータの「傾き」とは異なる。本明細
書中では、特に断らない場合の「傾き」は、シグモイド
関数の形状を決める「傾き」を指す。

【００２３】図２に、階層型ニューラルネットの概念図
を示す。ニューラルネットワーク７は、入力ｉｉ_iが直
接入力し入力層を構成するニューロン711，712，713、
入力層の出力を受けて中間層を構成するニューロン72
1，722，723、及び中間層の出力を受けて出力層を構成
するニューロン731，732，733から構成され、出力層か
ら外部（ここでは、ファジィ推論機構４）へと出力す
る。以下の説明では、入力層のニューロンの数がｌ（Ｌ
の小文字）個、中間層のニューロンの数がｍ個、出力層
のニューロンの数がｎ個とする。

【００２４】図３に、中間層を例にしたニューロンの動
作の説明図を示す。中間層のニューロン722には、入力
層のニューロン712の出力ｉ_iが荷重係数ｖ_j,iを介して
入力される。ニューロン722の処理741は入力されるデー
タの総和Ｕ_jを式２で求める。また、処理742は入力の総
和Ｕ_jから式１で示すシグモイド関数を用いて出力ｈ_jを
求める。

【００２５】

【数１】

【００２６】式２の荷重係数ｖと閾値θは従来と同じパ
ラメータであるが、λ_jはシグモイド関数の勾配を直接
的に変化させる傾き係数である。

【００２７】次に、学習機構８による学習方法を説明す
る。学習用データは、ニューラルネット７のｌ個の組か
らなる入力データ（ii₁,ii₂,…,ii_i,…,ii_l）と、該入
力がなされたときの理想的な出力であるｎ個の組からな
る教師信号（Ｔ₁,Ｔ₂,…,Ｔ_k,…,Ｔ_n）を一対として、
複数組のデータがメモリ１３に用意されている。

【００２８】今、ニューラルネット７にｐ番目の学習用
データが入力された状態を考える。ニューラルネット７
の入力データはii₁,ii₂,…,ii_i,…,ii_lである。この入
力を受けて、ニューラルネット７はＯ₁,Ｏ₂,…,Ｏ_k,…,
Ｏ_nの出力を得る。このときの誤差は式３によって、ニ
ューラルネット７の出力Ｏと教師信号Ｔの偏差の自乗の
総和（Ｅ_p）として求める。

【００２９】

【数２】

【００３０】各組の学習用データの誤差の自乗の総和Ｅ
_pが最小になり、許容値ｅ以下になったときに学習が終
了する。

【００３１】次に、パラメータの最適化のアルゴリズム
を数式を用いて説明する。従来からの荷重係数ω、閾値
ｇと、本発明により追加された傾きμをパラメータは、
出力層、中間層及び入力層の順に、最急傾斜法によって
変更しながら、許容誤差に収斂するまで学習する。

【００３２】

【数３】

【００３３】式４はシグモイド関数で表わした出力層の
ｋ端の出力Ｏ_k、式５は出力層のニューロン732（ｋ）に
入力されるデータの総和Ｓ_kを表わし、前述の式１、式
２に対応する。

【００３４】式６から式１１は、出力層の各パラメータ
の演算における共通項を事前に計算する。すなわち、閾
値γ_k、傾きμ_k、及び、ｊ番目の中間層ニューロンから
ｋ番目の出力層のニューロンに対する結合係数となる荷
重係数ｗ_kjの変更量を求めるための準備作業である。

【００３５】

【数４】

【００３６】式６は式３、式７は式４の微分で、Ｔ_k、
Ｏ_k、Ｓ_kのデータから求まる。式８〜式１０はそれぞれ
式５の微分で、荷重係数ｗ、しきい値γ及び傾きμに対
するＳ_kの傾きが求められている。式１１によるφkが各
パラメータ演算の共通項であり、式６、式７及び式９の
積によって求まる。

【００３７】学習制御機構１２による式３〜式１１の計
算結果を受けて、しきい値γ、荷重係数ｗ及び傾きμの
変更量が求められる。しきい値決定機構１０は現状のし
きい値γ_kの変更量△γ_kを式１２により、荷重係数決定
機構９は現状の荷重係数ｗ_kの変更量△ｗ_kを式１３によ
り、そして傾き決定機構１１は現状の傾きμ_kの変更量
である△μ_kを式１４によりそれぞれ演算する。

【００３８】

【数５】

【００３９】ここで、式１２のα_γ、式１３のα_w、式
１４のα_μは、それぞれ閾値の収斂を制御する加速係
数、荷重係数の収斂を制御する加速係数及び傾きの収斂
を制御する加速係数で、それぞれ１．０以下の値が経験
的に設定される。

【００４０】次に、中間層の学習方法を説明する。ここ
では、中間層の代表としてｊ番目のニューロンを考え
る。式１５〜式２２は閾値θ_j、傾きλ_j、及びｉ番目の
入力層ニューロンからｊ番目の中間層ニューロンに対す
る結合係数となる荷重係数ｗ_jiを最適化するときの準備
作業である。

【００４１】

【数６】

【００４２】

【数７】

【００４３】ここで、式１５はシグモイド関数で表わし
た中間層のｊ番目のニューロンの出力ｈ_j、式１６はｊ
番目のニューロンに入力されるデータの総和Ｕ_jを表わ
し、出力層における式４，式５に対応する。

【００４４】また、式１７〜式２２はそれぞれ出力層に
おける式６〜式１１に対応する。ただし、出力層の式６
では出力Ｏ_kによる誤差Ｅ_pの傾き（∂Ｅ_p/∂Ｏ_k）を求
めたが、中間層の式１７では出力層のｋ番目のニューロ
ンの入力の総和Ｓ_kと、このｋニューロンと荷重係数ｗ
_kjを介して結合する中間層のｊ番目のニューロンの出力
ｈ_jとの微分関係を（∂Ｓ_k/∂ｈ_j）求めている。これに
より、出力層でパラメータの変更の影響が中間層に反映
される。

【００４５】学習制御機構１２による式１５〜式１７の
計算結果を受けて、中間層のしきい値θ、荷重係数ｖ及
び傾きλの各変更量が、それぞれ式２３〜式２５により
求められる。

【００４６】

【数８】

【００４７】ここで、式２３のα_θ、式２４のα_v、式
２５のα_λはそれぞれ加速係数である。次に、入力層
のしきい値ζと傾き係数εを最適化するときの演算につ
いて説明する。ここでは、入力層の代表としてｉ番目の
ニューロンを考える。事前処理として、学習制御機構１
２が式２６〜式３０の計算を実行する。

【００４８】

【数９】

【００４９】

【数１０】

【００５０】ここで、式２６はシグモイド関数で表わし
た入力層のｉ番目のニューロンの出力ｉ_i、式２７はｉ
番目のニューロンに入力されるデータの総和Ｙ_iを表わ
し、中間層における式１５，式１６に対応する。また、
式２８〜式３０はそれぞれ中間層における式１８、式１
９及び式２１に対応する。

【００５１】学習制御機構１２による式２６〜式３０の
計算結果を受けて、入力層のしきい値ζと傾き係数εの
変更量が、それぞれ式３１，式３２により求められる。

【００５２】

【数１１】

【００５３】ここで、式３１のα_ζ、式３２のα_εはそ
れぞれ加速係数である。

【００５４】以上、本実施例によるニューラルネットワ
ークのパラメータの演算方法を数式にしたがって説明し
た。次に、ニューラルネットワークの学習方法を、処理
手順にしたがって具体的に説明する。

【００５５】図４に、ニューラルネットワークの概略処
理のフロー図を示す。ニューラルネットワーク３は、入
力層の入力ii_iを受けて、入力層の式２７，式２６、中
間層の式１６，式１５、及び出力層の式５，式４を演算
して、ニューラルネットの出力Ｏ_kを求める類推処理
（Ｓ２）と、学習データの自乗誤差が最小となるように
パラメータを最適化する処理（Ｓ３）を、切り替えて実
行する（Ｓ１）。なお、学習側に切り替えられた場合、
ニューラルネットワーク７の出力はファジィ推論機構４
には出力されず、図示していない突合せ手段へ入力され
る。これにより、教師データとの偏差及び全出力の自乗
誤差の総和の算出が可能になる。

【００５６】図５に、パラメータ最適化処理のフロー図
を示す。パラメータ最適化処理（Ｓ３）は学習の前処理
として、入力層、中問層、出力層の重み係数、しきい値
及び傾きを、乱数によって初期設定する（Ｓ３１）。

【００５７】次に、未学習の学習データが残っているか
をチエックし（Ｓ３２）、学習が完了していない時は学
習用の入力データと教師データの一組をメモリ１３から
読み出す（Ｓ３３）。そして、ニューラルネット７に入
力データを与えて、出力Ｏ_kを求める類推処理Ｓ２を実
行する（Ｓ３４）。これにより、入力層の出力値ｉ
ｉ_i、中間層の出力値ｈ_j及び出力層の出力値Ｏ_kの全て
が求まる。

【００５８】次に、出力Ｏ_kと教師データの偏差による
自乗誤差の和Ｅｐを式３により求め、許容誤差ｅ以下か
を判定する（Ｓ３５）。Ｅｐ≦ｅとなれば、ステップＳ
３２に戻り、次の学習データによる学習へ移行する。一
方、Ｅｐ＞ｅであれば、出力層のパラメータ決定処理
（Ｓ３６）、中間層のパラメータ決定処理（Ｓ３７）、
入力層のパラメータ決定処理（Ｓ３８）を行ない、各層
のパラメータを変更したのち、ステップＳ３４の類推処
理に戻り、Ｅｐ≦ｅとなるまで繰り返す。

【００５９】各学習データが許容誤差ｅ以内に収斂し、
用意した全ての学習データについてのパラメータの最適
化が終了すると、入力層、中問層、出力層の重み係数、
しきい値及び傾きを、パラメータ用メモリ１４へ格納す
る（Ｓ３９）。

【００６０】図６に、出力層のパラメータ決定処理のフ
ロー図を示す。ステップＳ３６が起動されると、出力層
のニューロン数ｎまで、ｋ＝１〜ｎに順に以下の処理を
繰り返す（Ｓ３６１）。

【００６１】まず、パラメータ演算の準備として、式６
〜式１１により共通項φk（∂Ｅ_p/∂Ｏ_k・∂Ｏ_k/∂Ｓ_k
・∂Ｓ_k/∂γ_k）の値を求める（ｓ３６２）。次に、式
１２により、φｋに加速係数α_γを乗じてしきい値の変
化分△γ_kを算出し、△γ_kを前回値γ_k-1に加算して今
回値γ_kを決定する（Ｓ３６３）。同様に、式１３によ
り重み係数の変化分△ｗ_kを算出し、前回値ｗ_k-1に加算
して今回値ｗ_kを求め（Ｓ３６４）、さらに式１４によ
り傾きの変化分△μ_kを算出し、前回値μ_k-1に加算して
今回値μ_kを求める（Ｓ３６４）。

【００６２】中間層のパラメータは出力層と同様にして
決定される。詳細な説明は省略するが、式１７〜式２２
により共通項φjの値を求め、式２３によりしきい値の
変化分△θ_j、式２４により重み係数の変化分△ｖ_j、式
２５により傾きの変化分△λ_jを求め、各パラメータの
前回値に各変化分を加算して今回値を求める。入力層の
場合も同様である。

【００６３】以上のように、本実施例によるニューラル
ネットワークの学習方法によれば、学習のパラメータに
シグモイド関数の勾配を変更する傾きを追加したので、
パターン成分を抽出する等の中間値の学習精度が向上
し、かつ処理を高速化できる。

【００６４】図７は、パターン成分を抽出する学習デー
タの生成の一例を示す説明図である。予めパターン１
と、その遷移方向に対称的なパターンｍの学習パターン
を用意している。一般に、ニューラルネットワークはあ
る程度の補間能力を有しているので、パターン１，ｍを
学習した後に、両パターンの加算による中間パターンを
入力とした場合、パターン１に対応するニューロンの出
力、パターンｍに対応するニューロンの出力はそれぞれ
約０．５となる。

【００６５】そこで、パターン１とその対称パターンｍ
に、それぞれ類似度と呼ばれる係数Ｇ₁、Ｇ₂を乗算して
加算した合成パターンを生成する。この合成パターンの
ｘ座標群とｙ座標群を学習用入力データ、類似度の係数
Ｇ₁、Ｇ₂を教師データとする。係数Ｇを変えて、中間値
の学習のための複数の学習データを作成し、図５に示し
た学習処理を実行する。なお、パターン間の合成によら
ず、学習済みの特定パターンに対し類似度を変えた複数
の変形パターンを作成し、変形パターンと類似度の組を
学習データとしてもよい。

【００６６】これによれば、パターン１〜ｍ間のパター
ン変化に沿って、複数の補間パターンを学習できるの
で、ニューラルネットワークから中間値として出力され
るパターン類似度の精度を向上できる。補間の学習デー
タ多いほど中間値の精度が向上することは言うまでもな
い。

【００６７】図８は、ニューラルネットワークの学習結
果を示す特性図である。シグモイド関数の傾きを変える
本実施例と、傾きを変えない従来のアルゴリズムによる
学習結果を示している。図示を省略しているが、横軸の
ｘは２次元のベクトル量、縦軸のｙは１次元の値で、シ
グモイド関数は３次元の平面を表わしている。

【００６８】座標(ｘ₁,ｙ₁)の点１０２と、座標(ｘ₂,ｙ
₂)の点１０３の中間値を教師信号とし、ｘ₁やｘ₂を入力
したときの学習結果を、シグモイド関数の曲線の推移で
示すと、従来は実線、本実施例は破線のようになる。従
来の傾きを変えない場合、出発点のシグモイド関数が１
０４から重み係数やしきい閾値を変化させると、ある断
面でみればシグモイド関数は曲線１０５，１０６と平行
移動する。しかし、誤差が最小になる曲線１０６では、
誤差ｅ₁（≒ｙ₁）、ｅ₂(≒ｙ₂)が残ったままとなり、最
終的に許容誤差範囲に収斂しないこともある。もちろ
ん、重み係数の可変によって、結果的にはシグモイドの
傾きも変わるが、直接的な操作でないために学習に時間
がかかり、また収斂できないケースも生じる。

【００６９】一方、直接に傾きを変える本実施例の場
合、シグモイド関数は曲線１０７のように変形できるの
で、入力ｘ₁のとき出力はｙ₁、入力ｘ₂のとき出力ｙ₂と
なり、誤差ｅを最小化することができる。さらに、学習
は最急傾斜法の繰り返し演算なので、誤差を少なくでき
ることは演算回数を低減できることにもなる。

【００７０】本実施例によれば、中間値の学習を効率よ
く実施できるので、従来のニューラルネットワークのよ
うに０／１のデジタル的な利用のみならず、中間値を必
要とするアナログ的な利用が可能になる。たとえば、ニ
ューラルネットワークから中間値の出力を、直接ファジ
ィ制御(入力が連続量)に入力して、ファジィ推論を実行
することができる。

【００７１】図９は、本実施例のニューロ・ファジィ制
御装置をセンジミアミルの形状制御に適用した場合の説
明図である。制御対象１であるセンジミアミルで、圧延
板の幅方向に設けた複数のセンサ２による形状信号がサ
ンプリング時間毎に取り込まれる。形状信号は板幅方向
の形状偏差（板厚偏差）で、ニューラルネットワーク３
に入力される。階層型ニューラルネットワーク７は上記
した学習機構により、パターン成分を許容誤差以内に学
習済みである。

【００７２】ニューラルネットワーク３は入力された形
状信号の入力波形に対し、例えば右端部の大きい波形成
分が７０％、両端部の大きい波形成分が３０％と認識
し、該当パターンを１００％と認識する出力層のニュー
ロンから、それぞれ０．７と０．３をファジィ制御装置
の推論機構４に出力する。ファジイ推論機構４は推論結
果として、左端部の大きい波形に該当するルールと両端
部の大きい波形に該当するルールを起動し、ＡＳ‐Ｕロ
ールの７０％操作と、上ラテラルシフトと下ラテラルシ
フトの３０％操作を指令し、制御機構５から指令に応じ
た操作量がアクチュエータ６に出力される。以下に、各
部の詳細な動作を説明する。

【００７３】図１０にセンジミアミルの概略の構造を示
す。センジミアミルは圧延材の形状を良好にするため
に、５ｃｍ程度の小径のワークロールを採用している。
この小径のロールに数百〜千数百トンの圧延荷重を加
え、さらに圧延方向（側面図の横方向）に圧延材を数十
トンの張力で引っ張っている。ワークロールには横方向
に飛び出す力が働くので、これを押えるために上２個、
下２個の第１中間ロールで押え、第１中間ロールを上下
各３個の第２中間ロールで押え、さらに第２中間ロール
を上下各４個のバックアップロールで押え、このバック
アップロールに力を加えて所望の板厚形状を得る構造と
なっている。

【００７４】バックアップロールのうち上側の２個はＡ
Ｓ‐Ｕロールと呼ばれ、特別な構造となっている。すな
わち、ロールが複数に分割され、個々のロールはベアリ
ングを介して軸止され、またサドル（斜線部）が取り付
けられている。個々のサドルは機械的に上下でき、任意
のサドルを上下させることで軸を強制的に曲げることが
出来る。その結果、第２中間ロールに加わる荷重分布が
変化し、第１中間ロール、ワークロールを介して、最終
的には圧延材の荷重分布を変えて、形状を変化させるこ
とが出来る。

【００７５】また、第１中間ロールは端部にテーパが付
いており、かつ左右に移動できる構造となっている。例
えば、上側の２個の第１中間ロールは右側にテーパがあ
り、ロールを左側に移動（ラテラルシフト）すると、圧
延材にかかる力が弱くなり、右側の板端部の板厚が厚く
なる。同様に、下側の２個の第１中間ロールは、左側の
板端部の板厚を変更する。

【００７６】このように、センジミアミルは構造的に複
雑なため力の伝搬をモデル化するのが難しく、実際の操
業ではオペレータの勘と経験に頼った運転がなされてい
る。図１１は、オペレータの操作を模式化した説明図で
ある。オペレータはセンサからの形状信号の波形を観察
し、自身が記憶している複数の基準波形と対照する。こ
の基準波形はアクチュエータ操作で補正可能な種々の形
状波形のパターンである。そして、センサ出力による信
号波形に最も近い基準波形を判断し、その基準波形に対
応し、経験的に取得したノウハウであるアクチュエータ
操作を行なう。

【００７７】経験的なノウハウは、例えば「信号波形の
左端部が大きければ、No.2のＡＳ‐Ｕロールを操作す
る」、「信号波形の両端部が大きければ、上側及び下側
のラテラルシフトを操作する」などである。図示例の場
合、オペレータは形状センサの信号波形から左端部が大
きいと判断し、No.2のＡＳ‐Ｕロールを操作する。その
結果、左端部の大きい形状は補正されて、次に両端部の
大きい形状が顕在化する。そこで、両端部を低減するラ
テラルシフトを操作する。このように、オペレータは入
力信号に最も近い基準波形の対応操作を少しずつ加えて
その成分を低減し、このような操作を繰り返して所望の
形状へ近付けていく。

【００７８】オペレータは形状センサの入力信号から類
似している１，２の波形を判断はできるが、その成分
（類似度）までは抽出できない。従って、アクチュエー
タの操作は少しずつ段階的に行なわざるを得ない。しか
し、本実施例のニューラルネットワークによれば、オペ
レータの記憶している基準波形をパターン化し、各パタ
ーンの成分まで学習しているので、抽出した成分に応じ
かつ複数のアクチュエータを同時に操作できる。

【００７９】図１２に、ニューロ・ファジィ形状制御の
シミュレーションの一例を示す。同図（ａ）は入力層
（ニューロン数３４個）に加えられた形状信号である。
（ｂ）はパターン１〜パターン８に対応付けられた出力
層（ニューロン数８個）の模式図を示す。パターン成分
の認識の結果は出力層の正方形に含まれる斜線部の面積
で示している。左端部の凸となるパターン１の確信度が
４０％、左端部の高い台形となるパターン７の確信度が
６０％と抽出された。この結果、ファジィ推論部はパタ
ーン１の出力に応じてNo.2のＡＳ‐Ｕロールを４０％、
上ラテラルシフトを６０％を操作する指令を発行する。

【００８０】このようにして、ニューラルネットワーク
とファジィ制御を組み合わせて制御することにより、パ
ターン的に分布した状態量を入力として、アクチュエー
タの連続制御を可能にする具体的な指令を発生できるよ
うになった。

【００８１】

【発明の効果】本発明によれば、階層型ニューラルネッ
トワークの学習を、従来からのしきい値及び重み係数と
ともにシグモイド関数の傾きを変えて行なうので、中間
値の誤差が少なく、また学習の計算回数を低減すること
ができる。

【００８２】本発明によれば、ニューラルネットワーク
から精度要求に応じたアナログ値を出力できるので、フ
ァジィ制御装置と結合した連続制御が可能になる。これ
により、分布量となる形状変化を入力とする形状制御な
どが容易に実現できる。

【図面の簡単な説明】

【図１】本発明の一実施例によるニューロ・ファジィ制
御システムの構成図。

【図２】階層型ニューラルネットワークの構成を説明す
る概念図。

【図３】中間層のニューロンの動作を示す説明図。

【図４】ニューラルネットワークの概略動作を示すフロ
ー図。

【図５】一実施例によるニューラルネットワークの学習
処理を示すフロー図。

【図６】出力層パラメータ決定処理を示すフロー図。

【図７】パターン成分を抽出する学習データの生成の一
例を示す説明図。

【図８】ニューラルネットワークの従来と本実施例によ
る学習結果を対比的に説明する特性図。

【図９】図１のニューロ・ファジィ制御装置をセンジミ
アミルの形状制御に適用した場合の説明図。

【図１０】センジミアミルの概略の構造図。

【図１１】センジミアミルのオペレータの操作を模式化
した説明図。

【図１２】ニューロ・ファジィ形状制御シミュレーショ
ンの説明図。

【符号の説明】

１…制御対象、２…センサ、３…ニューラルネットワー
ク、４…ファジィ推論機構、５…制御機構、６…アクチ
ュエータ、７…階層型ニューラルネットワーク、８…学
習機構、９…重み係数決定機構、１０…しきい値決定機
構、１１…傾き決定機構、１２…学習制御機構、１３…
学習データ用メモリ、１４…パラメータ用メモリ。

───────────────────────────────────────────────────── フロントページの続き (72)発明者渡引高重茨城県日立市大みか町五丁目２番１号株式会社日立情報制御システム内 (72)発明者山崎伸治茨城県日立市大みか町五丁目２番１号株式会社日立情報制御システム内 (72)発明者安達英二茨城県日立市大みか町五丁目２番１号株式会社日立情報制御システム内 (72)発明者服部哲茨城県日立市大みか町五丁目２番１号株式会社日立製作所大みか工場内

Claims

【特許請求の範囲】

【請求項１】入力層、少なくとも１つの中間層及び出
力層からなる階層型ニューラルネットワークに、学習用
の入力データを前記入力層に与えたときの前記出力層の
出力と教師データとの偏差による誤差が許容範囲となる
ように、各層のパラメータを最適化するニューラルネッ
トワークの学習方法において、前記誤差が許容範囲を越えるときに、各層のニューロン
毎のパラメータである重み係数、しきい値とともに、シ
グモイド関数の傾きを変更し、学習処理を繰り返すこと
を特徴とするニューラルネットワークの学習方法。
【請求項２】請求項１において前記誤差は前記出力層
のニューロン毎の偏差の自乗和として求め、かつ最急傾
斜法に基づき、前記パラメータのそれぞれによって微分
した前記誤差の傾きから各パラメータの変更量を求める
ことを特徴とするニューラルネットワークの学習方法。
【請求項３】入力層、少なくとも１つの中間層及び出
力層からなる階層型ニューラルネットワークと、各層の
パラメータを最適化する学習手段と、学習用入力データ
と教師データを対とする複数組の学習データを記憶する
メモリと、学習処理と類推処理を切り替える切替手段を
備えるニューラルネットワークにおいて、前記学習手段は、前記パラメータである各層のニューロ
ン毎の重み係数、しきい値及び傾きの各変更量を求める
パラメータ決定手段を有していることを特徴とするニュ
ーラルネットワーク。
【請求項４】請求項３において、前記学習用入力データの任意の１つであり、複数の入力
信号の組合せからなるパターンを類似度に応じて変形
し、この変形後のパターンを学習用入力データ、前記類
似度を教師データとして用意し、前記学習手段により、前記階層型ニューラルネットワー
クが変形前のパターンに対し１／０に識別する学習の終
了後に、変形後のパターンに対しその類似度に収斂する
ように学習し、中間値の安定な出力を可能にしたことを
特徴とするニューラルネットワーク。
【請求項５】制御対象と、前期制御対象の状態を計測
するセンサと、前期センサ情報の組合せを入力し、予め
学習した入力の組み合わせに対する中間値を出力するニ
ューラルネットワークと、前記ニューラルネットワーク
の出力と定性的なルールを用いてファジィ推論を行うフ
ァジィ推論手段と、前記推論手段の出力を受け、アクチ
ュエータを介して前記制御対象を所望の状態へ制御する
制御手段からなるニューロ・ファジィ制御装置におい
て、前記ニューラルネットワークは、前記中間値を許容誤差
内の精度で出力できる学習手段を有し、前記ファジィ推
論手段が前記ニューラルネットワークからの前記中間値
を入力して連続制御を行なうことを特徴とするニューロ
・ファジィ制御装置。
【請求項６】請求項５において、前記中間値は、予め学習した入力の組み合わせパターン
の成分量であり、前記ニューラルネットワークは、入力
パターンの分布変化に応じたパターンの成分量を抽出す
ることを特徴とするニューロ・ファジィ制御装置。