JPH07225748A - 神経回路網の監視訓練装置及び方法 - Google Patents
神経回路網の監視訓練装置及び方法Info
- Publication number
- JPH07225748A JPH07225748A JP6318967A JP31896794A JPH07225748A JP H07225748 A JPH07225748 A JP H07225748A JP 6318967 A JP6318967 A JP 6318967A JP 31896794 A JP31896794 A JP 31896794A JP H07225748 A JPH07225748 A JP H07225748A
- Authority
- JP
- Japan
- Prior art keywords
- layer
- neural network
- test
- weights
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0409—Adaptive resonance theory [ART] networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23211—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with adaptive number of clusters
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S128/00—Surgery
- Y10S128/92—Computer assisted medical diagnostics
- Y10S128/925—Neural network
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Testing And Monitoring For Control Systems (AREA)
- Image Analysis (AREA)
Abstract
(57)【要約】
【目的】 神経回路網のための監視学習環境を提供する
装置及び方法を提供することである。 【構成】 入力パターンを受け入れるようになってい
て、第１の層及び第２の層を有し、第１の警戒試験を遂
行して認識類別を生成するＡＲＴモジュール、及び上記
ＡＲＴモジュールと目標出力パターンとに接続されてい
て上記認識類別と上記目標出力パターンとの間の写像を
遂行し、第２の警戒試験の遂行をトリガする写像フィー
ルドを備え、上記第２の警戒試験は上記目標出力パター
ンと上記認識類別との間の近さを決定する。
装置及び方法を提供することである。 【構成】 入力パターンを受け入れるようになってい
て、第１の層及び第２の層を有し、第１の警戒試験を遂
行して認識類別を生成するＡＲＴモジュール、及び上記
ＡＲＴモジュールと目標出力パターンとに接続されてい
て上記認識類別と上記目標出力パターンとの間の写像を
遂行し、第２の警戒試験の遂行をトリガする写像フィー
ルドを備え、上記第２の警戒試験は上記目標出力パター
ンと上記認識類別との間の近さを決定する。
Description
【０００１】
【産業上の利用分野】本発明は、一般的には神経回路網
の訓練の分野に関し、特定的には神経回路網のための監
視学習環境を提供する装置及び方法に関する。
の訓練の分野に関し、特定的には神経回路網のための監
視学習環境を提供する装置及び方法に関する。
【０００２】
【従来の技術】人工神経回路網は、人の脳の生物学的神
経回路網の模擬である。人工神経回路網は、幾つかの入
力を受け、これらの入力に対して一連の演算を遂行し、
そして１もしくはそれ以上の出力を発生する。普通のプ
ログラミング技術によっては解くことができない複雑
な、不完全な、もしくは表面的には関係のないデータを
用いて諸問題を解くために、人と同じような性能を達成
することを期待して研究がなされてきた。人工神経回路
網の能力は、それらの計算速度と、高度の頑強性もしく
は障害許容力を備える能力にある。典型的な人工神経回
路網は、多数の接続されたニューロン即ち処理ノード
と、１つの学習アルゴリズムとからなる。ニューロン自
体は３つの要素、即ち重み付けられた接続と、積分機能
と、活動化機能とからなっている。重み付けられた接続
を通してニューロンはそれに接続されている先行ニュー
ロン層内のニューロンから入力を受け、それに接続され
ている次のニューロン層内のニューロンへ出力を転送す
る。積分機能は、単に受信した入力を総計するだけであ
る。通常は非線形Ｓ字状関数の形状である活動化機能
は、積分された入力を出力に変換する。数学的には、積
分機能は次式のように表される。 Ｉpj＝Σi ＯpiＷji 但し、Ｉpjは入力パターンｐに対応するニューロンｊの
積分された入力であり、Ｏpiはニューロンｉからの出力
であり、そしてＷjiはニューロンｉとｊとの間の接続重
みである。活動化機能は通常次の形状をとる。
経回路網の模擬である。人工神経回路網は、幾つかの入
力を受け、これらの入力に対して一連の演算を遂行し、
そして１もしくはそれ以上の出力を発生する。普通のプ
ログラミング技術によっては解くことができない複雑
な、不完全な、もしくは表面的には関係のないデータを
用いて諸問題を解くために、人と同じような性能を達成
することを期待して研究がなされてきた。人工神経回路
網の能力は、それらの計算速度と、高度の頑強性もしく
は障害許容力を備える能力にある。典型的な人工神経回
路網は、多数の接続されたニューロン即ち処理ノード
と、１つの学習アルゴリズムとからなる。ニューロン自
体は３つの要素、即ち重み付けられた接続と、積分機能
と、活動化機能とからなっている。重み付けられた接続
を通してニューロンはそれに接続されている先行ニュー
ロン層内のニューロンから入力を受け、それに接続され
ている次のニューロン層内のニューロンへ出力を転送す
る。積分機能は、単に受信した入力を総計するだけであ
る。通常は非線形Ｓ字状関数の形状である活動化機能
は、積分された入力を出力に変換する。数学的には、積
分機能は次式のように表される。 Ｉpj＝Σi ＯpiＷji 但し、Ｉpjは入力パターンｐに対応するニューロンｊの
積分された入力であり、Ｏpiはニューロンｉからの出力
であり、そしてＷjiはニューロンｉとｊとの間の接続重
みである。活動化機能は通常次の形状をとる。
【０００３】
【数１】 但し、βはニューロンｊのバイアスである。接続には２
つの主要な型、即ち抑制接続及び刺激接続が存在する。
抑制接続はそれらが接続されている処理要素の活動を低
下させ、一方刺激接続は活動を増大させる。特定のニュ
ーロンへの接続の一部が負の重み（抑制）を有し、残余
が正の重み（刺激）を有することができる。人工神経回
路網は並列に形成されて動作するので、それらは複雑な
計算を同時に、且つ迅速に遂行できることが分かってい
る。更に、回路網は複数のニューロン（処理要素）から
なっているので、幾つかのニューロンもしくはそれらの
相互接続が破壊されても回路網はその通常の性能を維持
することができる。（詳細に関しては Hopfield, J.J.,
“ Neural Networks and Physical Systems with Emerg
ent Collective Computational Abilities”, Proceedi
ngs of the NationalAcademy of Sciences, Vol. 74, 1
982 pp. 2554-2558 ; Hopfield, J.J.,“ Neurons with
Graded Response Have Collective Computational Pro
perties LikeThose of Two-State Neurons”, Proceedi
ngs of the National Academy of Sciences, Vol. 81,
1984 pp. 3088-3092 ; Lippmann, R.P.,“ An Introduc
tion to Computing with Neural Nets”,IEEE ASSP Mag
azine, April 1987, pp. 4-22の諸論文を参照された
い。） 神経回路網の最も重要な特性は、それらの学習能力であ
る。回路網を訓練し、相互接続重みを調整することによ
って入力空間と出力空間との間の（ある場合には任意
の）写像を学習させるために学習アルゴリズムが使用さ
れる。一般的には回路網の訓練には２つの型の学習アル
ゴリズム、即ち監視学習及び非監視学習が使用される。
監視学習は、各写像後の誤差信号の外部フィードバック
を必要とする。これらの例は、後方伝播（ＢＰ）（ Rum
elhart and McClelland, ParallelDistributed Process
ing, Vol. 1 MIT Press, Cambridge, MA, 1986 参
照）、小脳モデル演算コンピュータ（ Miller et al.,
“ CMAC: An Associative NeuralNetwork Alternative
to Backpropagation ”Proceeding of the IEEE, Vol.
10, October 1990, pp. 1561-1567参照）、及び箱の中
の脳状態（ＢＳＢ）( Anderson, J.A., “ Neural Mode
ls with Cognitive Impleications ”, Basic Processe
s in Reading Perception and Comprehension, edidted
by D. LaBerge andS.J. Samuels, N.J., 1977, pp. 27
-90参照) である。非監視学習は、訓練プロセス中に外
部フィードバックを何等必要としない。これらの例は、
適応共鳴理論（ＡＲＴ）( Carpenter, B.A. and Grossb
erg, S. “ A Massively Parallel Architecture for a
Self-Organizing Neural Pattern Recognition Machin
e ”,Computer Vision, Graphics, and Image Prosessi
ng, Vol. 37, 1987, pp. 54-115、及び Carpenter, B.
A. and Grossberg, S.“ ART 2: Self Organization of
Stable Category Recognition Codes for Analog Input
Patterns”, AppliedOptics, Vol. 26, No. 23, 1987,
pp. 4919-4930 参照) 、及びホプフィールド回路網
（前記 Hopfield, J.J.,“ Neural Networks and Physi
cal Systems withEmergent Collective Computational
Abilities”参照）である。
つの主要な型、即ち抑制接続及び刺激接続が存在する。
抑制接続はそれらが接続されている処理要素の活動を低
下させ、一方刺激接続は活動を増大させる。特定のニュ
ーロンへの接続の一部が負の重み（抑制）を有し、残余
が正の重み（刺激）を有することができる。人工神経回
路網は並列に形成されて動作するので、それらは複雑な
計算を同時に、且つ迅速に遂行できることが分かってい
る。更に、回路網は複数のニューロン（処理要素）から
なっているので、幾つかのニューロンもしくはそれらの
相互接続が破壊されても回路網はその通常の性能を維持
することができる。（詳細に関しては Hopfield, J.J.,
“ Neural Networks and Physical Systems with Emerg
ent Collective Computational Abilities”, Proceedi
ngs of the NationalAcademy of Sciences, Vol. 74, 1
982 pp. 2554-2558 ; Hopfield, J.J.,“ Neurons with
Graded Response Have Collective Computational Pro
perties LikeThose of Two-State Neurons”, Proceedi
ngs of the National Academy of Sciences, Vol. 81,
1984 pp. 3088-3092 ; Lippmann, R.P.,“ An Introduc
tion to Computing with Neural Nets”,IEEE ASSP Mag
azine, April 1987, pp. 4-22の諸論文を参照された
い。） 神経回路網の最も重要な特性は、それらの学習能力であ
る。回路網を訓練し、相互接続重みを調整することによ
って入力空間と出力空間との間の（ある場合には任意
の）写像を学習させるために学習アルゴリズムが使用さ
れる。一般的には回路網の訓練には２つの型の学習アル
ゴリズム、即ち監視学習及び非監視学習が使用される。
監視学習は、各写像後の誤差信号の外部フィードバック
を必要とする。これらの例は、後方伝播（ＢＰ）（ Rum
elhart and McClelland, ParallelDistributed Process
ing, Vol. 1 MIT Press, Cambridge, MA, 1986 参
照）、小脳モデル演算コンピュータ（ Miller et al.,
“ CMAC: An Associative NeuralNetwork Alternative
to Backpropagation ”Proceeding of the IEEE, Vol.
10, October 1990, pp. 1561-1567参照）、及び箱の中
の脳状態（ＢＳＢ）( Anderson, J.A., “ Neural Mode
ls with Cognitive Impleications ”, Basic Processe
s in Reading Perception and Comprehension, edidted
by D. LaBerge andS.J. Samuels, N.J., 1977, pp. 27
-90参照) である。非監視学習は、訓練プロセス中に外
部フィードバックを何等必要としない。これらの例は、
適応共鳴理論（ＡＲＴ）( Carpenter, B.A. and Grossb
erg, S. “ A Massively Parallel Architecture for a
Self-Organizing Neural Pattern Recognition Machin
e ”,Computer Vision, Graphics, and Image Prosessi
ng, Vol. 37, 1987, pp. 54-115、及び Carpenter, B.
A. and Grossberg, S.“ ART 2: Self Organization of
Stable Category Recognition Codes for Analog Input
Patterns”, AppliedOptics, Vol. 26, No. 23, 1987,
pp. 4919-4930 参照) 、及びホプフィールド回路網
（前記 Hopfield, J.J.,“ Neural Networks and Physi
cal Systems withEmergent Collective Computational
Abilities”参照）である。
【０００４】機械もしくは成分障害の識別は、実際には
パターン認識の問題である。従来、この型の問題を解く
ために線形識別関数及びファジー集合のような多くのパ
ターン認識技術を適用していた。通常、これらの技術は
機械もしくは成分状態を２状態の状況、即ち正常もしく
は異常に分類する。これらの例は、 Li, P.G. and Wu,
S.M., “ Monitoring Drilling Wear States by a Fuzz
y Pattern Recognition Technique ”, Journal of Eng
ineering for Industry, Vol. 110, August 1988, pp.
297-300 、及び Emel E. and Kannatey-Asibu E., Jr.,
“ Tool Failure Monitoring in Turning by Pattern R
ecognition Analysis of AE signals ”, Journal of E
ngineering for Industry, Vol. 110, May 1988, pp. 1
37-145である。今日では、人工神経回路網はパターン認
識問題を解くための最も一般的なアプローチである。パ
ターン分類に適する多くの異なる型の神経回路網が存在
している。それらの中でパーセプトロン( perceptron )
として知られる多層フィードフォワード回路網は、線形
単一層回路網によっては解くことができない非線形問題
を解くことができるので、最も広く用いられているパラ
ダイムである。多層フィードフォワード回路網は、入力
と出力層との間に処理要素の１もしくはそれ以上の層を
有している。これらの層は隠れ層と呼ばれる。
パターン認識の問題である。従来、この型の問題を解く
ために線形識別関数及びファジー集合のような多くのパ
ターン認識技術を適用していた。通常、これらの技術は
機械もしくは成分状態を２状態の状況、即ち正常もしく
は異常に分類する。これらの例は、 Li, P.G. and Wu,
S.M., “ Monitoring Drilling Wear States by a Fuzz
y Pattern Recognition Technique ”, Journal of Eng
ineering for Industry, Vol. 110, August 1988, pp.
297-300 、及び Emel E. and Kannatey-Asibu E., Jr.,
“ Tool Failure Monitoring in Turning by Pattern R
ecognition Analysis of AE signals ”, Journal of E
ngineering for Industry, Vol. 110, May 1988, pp. 1
37-145である。今日では、人工神経回路網はパターン認
識問題を解くための最も一般的なアプローチである。パ
ターン分類に適する多くの異なる型の神経回路網が存在
している。それらの中でパーセプトロン( perceptron )
として知られる多層フィードフォワード回路網は、線形
単一層回路網によっては解くことができない非線形問題
を解くことができるので、最も広く用いられているパラ
ダイムである。多層フィードフォワード回路網は、入力
と出力層との間に処理要素の１もしくはそれ以上の層を
有している。これらの層は隠れ層と呼ばれる。
【０００５】最もパワフルで一般的な多層フィードフォ
ワード回路網の１つは、後方伝播を用いて訓練される。
後方伝播は、回路網接続の重みの最適割当てを見出すた
めのアルゴリズムとして Rumelhart 及び McClelland
によって提唱されたものである。これは、回路網の実際
の出力と所望出力との間の誤差の大きさを最小にするた
めに、繰り返し下り勾配アルゴリズムを使用する。図１
に予測適応共鳴理論（ＡＲＴ）もしくはＡＲＴＭＡＰと
呼ばれる神経回路網アーキテクチャ１００を示す。ＡＲ
ＴＭＡＰアーキテクチャ１００は自律的に学習し、任意
に順序付けられたベクトルを予測成功に基づいて認識類
別（もしくはカテゴリ）に分類する。（ Carpenter, B.
A. , Grossberg, S., and Reynolds, J., “ ARTMAP: S
upervised Real-time Learning and classification of
Nonstationary Data by a Self-Organizing Neural Ne
twork ”, Neural Networks,Vol. 4, 1991, pp. 569-58
8 を参照されたい。) この監視学習システム１００
は、入力パターンの任意シーケンスに応答して安定認識
類別を自己編成することができる１対のＡＲＴモジュー
ル（ＡＲＴa １１０及びＡＲＴb １２０）から構成
されている。
ワード回路網の１つは、後方伝播を用いて訓練される。
後方伝播は、回路網接続の重みの最適割当てを見出すた
めのアルゴリズムとして Rumelhart 及び McClelland
によって提唱されたものである。これは、回路網の実際
の出力と所望出力との間の誤差の大きさを最小にするた
めに、繰り返し下り勾配アルゴリズムを使用する。図１
に予測適応共鳴理論（ＡＲＴ）もしくはＡＲＴＭＡＰと
呼ばれる神経回路網アーキテクチャ１００を示す。ＡＲ
ＴＭＡＰアーキテクチャ１００は自律的に学習し、任意
に順序付けられたベクトルを予測成功に基づいて認識類
別（もしくはカテゴリ）に分類する。（ Carpenter, B.
A. , Grossberg, S., and Reynolds, J., “ ARTMAP: S
upervised Real-time Learning and classification of
Nonstationary Data by a Self-Organizing Neural Ne
twork ”, Neural Networks,Vol. 4, 1991, pp. 569-58
8 を参照されたい。) この監視学習システム１００
は、入力パターンの任意シーケンスに応答して安定認識
類別を自己編成することができる１対のＡＲＴモジュー
ル（ＡＲＴa １１０及びＡＲＴb １２０）から構成
されている。
【０００６】２種類のＡＲＴモジュールは Carpenter
及び Grossberg によって開発されたものである（前記
Carpenter, B.A. and Grossberg, S.“ A Massively P
arallel Architecture for a Self-Organizing Neural
Pattern Recognition Machine ”及び“ ART 2: Self O
rganization of Stable Category Recognition Codesfo
r Analog Input Patterns”を参照されたい）。ＡＲＴ
１は２進入力パターンの任意シーケンスを処理するこ
とが可能であり、一方ＡＲＴ ２は２進もしくはアナロ
グ入力パターンの何れをも処理することが可能である。
これらのＡＲＴモジュールは、「写像フィールド」１３
０、及び実時間自律システム動作を可能にする内部制御
装置（図示してない）によってリンクされている。写像
フィールド１３０は、ＡＲＴa からＡＲＴb への関連写
像の学習と、ＡＲＴa 警戒パラメタ１４０（ρ’）の整
合追跡を制御する。警戒パラメタ１４０は、ＡＲＴa 認
識類別とＡＲＴb 認識類別との間の近さ( closeness )
を決定する。しかしながらＡＲＴＭＡＰアーキテクチャ
１００は、訓練のために非監視学習アルゴリズムを適用
する。認識すべきパターンが事前に既知であって、非監
視学習アルゴリズムが不利である場合が多い。このよう
な場合に望まれるのは、ＡＲＴＭＡＰアーキテクチャの
便益を提供しながら、監視技法で訓練できる神経回路網
アーキテクチャである。
及び Grossberg によって開発されたものである（前記
Carpenter, B.A. and Grossberg, S.“ A Massively P
arallel Architecture for a Self-Organizing Neural
Pattern Recognition Machine ”及び“ ART 2: Self O
rganization of Stable Category Recognition Codesfo
r Analog Input Patterns”を参照されたい）。ＡＲＴ
１は２進入力パターンの任意シーケンスを処理するこ
とが可能であり、一方ＡＲＴ ２は２進もしくはアナロ
グ入力パターンの何れをも処理することが可能である。
これらのＡＲＴモジュールは、「写像フィールド」１３
０、及び実時間自律システム動作を可能にする内部制御
装置（図示してない）によってリンクされている。写像
フィールド１３０は、ＡＲＴa からＡＲＴb への関連写
像の学習と、ＡＲＴa 警戒パラメタ１４０（ρ’）の整
合追跡を制御する。警戒パラメタ１４０は、ＡＲＴa 認
識類別とＡＲＴb 認識類別との間の近さ( closeness )
を決定する。しかしながらＡＲＴＭＡＰアーキテクチャ
１００は、訓練のために非監視学習アルゴリズムを適用
する。認識すべきパターンが事前に既知であって、非監
視学習アルゴリズムが不利である場合が多い。このよう
な場合に望まれるのは、ＡＲＴＭＡＰアーキテクチャの
便益を提供しながら、監視技法で訓練できる神経回路網
アーキテクチャである。
【０００７】
【発明の概要】本発明は、神経回路網の監視訓練のため
の装置及び方法を提供する。ＡＲＴＭＡＰアーキテクチ
ャを修正した神経回路網アーキテクチャ及び訓練方法が
開示される。この修正ＡＲＴＭＡＰ回路網は、増分的
（もしくはインクリメンタル）に学習する独自の特性を
有する効率的且つ頑強なパラダイムである。この修正Ａ
ＲＴＭＡＰ回路網２００は、後方伝播のような他の一般
的な神経回路網とは異なるため、新しいパターンが発見
される度毎に新旧の全てのパターンで訓練する必要はな
い。修正ＡＲＴＭＡＰ回路網は、入力パターンを受ける
ＡＲＴモジュールを含んでいる。基本ＡＲＴモジュール
としてＡＲＴ ２神経回路網を使用する。ＡＲＴモジュ
ールは、入力として目標出力パターンを受ける写像フィ
ールドに接続されている。写像フィールドはＡＲＴモジ
ュールから供給される認識類別と目標出力パターンとの
間の写像を遂行する。また写像フィールドは、認識類別
と目標出力パターンとの間の近さを決定する警戒( vigi
lance ) 試験をトリガする。修正ＡＲＴＭＡＰ回路網の
訓練中、入力パターン及び所望出力パターンの両方が修
正ＡＲＴＭＡＰ回路網に提示される。回路網試験段階中
は、入力パターンのみが供給される。
の装置及び方法を提供する。ＡＲＴＭＡＰアーキテクチ
ャを修正した神経回路網アーキテクチャ及び訓練方法が
開示される。この修正ＡＲＴＭＡＰ回路網は、増分的
（もしくはインクリメンタル）に学習する独自の特性を
有する効率的且つ頑強なパラダイムである。この修正Ａ
ＲＴＭＡＰ回路網２００は、後方伝播のような他の一般
的な神経回路網とは異なるため、新しいパターンが発見
される度毎に新旧の全てのパターンで訓練する必要はな
い。修正ＡＲＴＭＡＰ回路網は、入力パターンを受ける
ＡＲＴモジュールを含んでいる。基本ＡＲＴモジュール
としてＡＲＴ ２神経回路網を使用する。ＡＲＴモジュ
ールは、入力として目標出力パターンを受ける写像フィ
ールドに接続されている。写像フィールドはＡＲＴモジ
ュールから供給される認識類別と目標出力パターンとの
間の写像を遂行する。また写像フィールドは、認識類別
と目標出力パターンとの間の近さを決定する警戒( vigi
lance ) 試験をトリガする。修正ＡＲＴＭＡＰ回路網の
訓練中、入力パターン及び所望出力パターンの両方が修
正ＡＲＴＭＡＰ回路網に提示される。回路網試験段階中
は、入力パターンのみが供給される。
【０００８】本修正ＡＲＴＭＡＰ回路網に独自な別の特
色は、“学習破棄”能力である。回路網学習能力とは対
比的に、この“学習破棄”能力手順は回路網が既に学習
した“望ましくない”知識を除去する。これは、先に学
習したパターンが悪いパターンであることが分かった時
に極めて有用である。悪いパターンは単一の事例である
ので、訓練を再度遂行する必要はない。
色は、“学習破棄”能力である。回路網学習能力とは対
比的に、この“学習破棄”能力手順は回路網が既に学習
した“望ましくない”知識を除去する。これは、先に学
習したパターンが悪いパターンであることが分かった時
に極めて有用である。悪いパターンは単一の事例である
ので、訓練を再度遂行する必要はない。
【０００９】
Ａ． 概要 本発明は、神経回路網の監視訓練のための装置及び方法
を提供する。ＡＲＴＭＡＰアーキテクチャを修正した神
経回路網アーキテクチャ及び訓練方法が開示される。図
２に、修正ＡＲＴＭＡＰ回路網２００を示す。この修正
ＡＲＴＭＡＰ回路網２００は、インクリメンタルに学習
する独自の特性を有する効率的且つ頑強なパラダイムで
ある。後方伝播のような他の一般的な神経回路網とは異
なり、この修正ＡＲＴＭＡＰ回路網２００は、新しいパ
ターンが発見される度毎に新旧の全てのパターンで訓練
する必要はない。修正ＡＲＴＭＡＰ回路網２００は、入
力パターン２１０（入力ベクトル２１０とも呼ばれる）
を受けるＡＲＴモジュール２２５を含んでいる。基本Ａ
ＲＴモジュール２２５としてＡＲＴ ２神経回路網を使
用する。ＡＲＴモジュール２２５は、入力として目標出
力パターン２２０（目標出力ベクトル２２０とも呼ばれ
る）を受ける写像フィールド２３０に接続されている。
写像フィールド２３０はＡＲＴモジュール２２５から供
給される認識類別と、目標出力パターン２２０との間の
写像を遂行する。また写像フィールド２３０は、認識類
別と目標出力パターン２２０との間の近さを決定する警
戒試験２４０をトリガする。
を提供する。ＡＲＴＭＡＰアーキテクチャを修正した神
経回路網アーキテクチャ及び訓練方法が開示される。図
２に、修正ＡＲＴＭＡＰ回路網２００を示す。この修正
ＡＲＴＭＡＰ回路網２００は、インクリメンタルに学習
する独自の特性を有する効率的且つ頑強なパラダイムで
ある。後方伝播のような他の一般的な神経回路網とは異
なり、この修正ＡＲＴＭＡＰ回路網２００は、新しいパ
ターンが発見される度毎に新旧の全てのパターンで訓練
する必要はない。修正ＡＲＴＭＡＰ回路網２００は、入
力パターン２１０（入力ベクトル２１０とも呼ばれる）
を受けるＡＲＴモジュール２２５を含んでいる。基本Ａ
ＲＴモジュール２２５としてＡＲＴ ２神経回路網を使
用する。ＡＲＴモジュール２２５は、入力として目標出
力パターン２２０（目標出力ベクトル２２０とも呼ばれ
る）を受ける写像フィールド２３０に接続されている。
写像フィールド２３０はＡＲＴモジュール２２５から供
給される認識類別と、目標出力パターン２２０との間の
写像を遂行する。また写像フィールド２３０は、認識類
別と目標出力パターン２２０との間の近さを決定する警
戒試験２４０をトリガする。
【００１０】修正ＡＲＴＭＡＰ回路網２００の訓練中、
入力パターン２１０及び所望出力パターン２２０の両方
が修正ＡＲＴＭＡＰ回路網２００に提示される。好まし
い実施例では、入力パターン２１０は 200 のデータ点
からなっている。所望出力パターン２２０は２進ベクト
ルであり、ベクトルの各ノードは特定の機械状態に対応
している。回路網の試験段階中は、入力パターン２１０
のみが修正ＡＲＴＭＡＰ回路網２００に提示される。図
３に、本発明の基本構成をを示す。これは３つのモジュ
ール即ち、パラメトリックモデル３１０、正規化プロセ
ス３２０、及びＡＲＴ ２神経回路網２２５からなって
いる。好ましい実施例では、自動回帰（ＡＲ）パラメト
リックモデルをＡＲＴ ２神経回路網２２５と共に使用
している。しかしながら、自動回帰移動平均（ＡＲＭ
Ａ）モデルを使用することも可能である。ＡＲモデル及
びＡＲＭＡモデルは共に当分野においては公知である。
パラメトリックモデル３１０は、検査中の物理機械もし
くはプロセスから収集した生の振動信号を合わせる（即
ち数学的に記述する）ために使用される。パラメトリッ
クモデル３１０を振動信号に合わせた後に、１組のパラ
メタ３１５を求めることができる。しかしながらこの点
においてパラメタ３１５は、ＡＲＴ ２回路網２２５が
認識することができない有意味の負の値を含んでいるの
で、事前処理しないままでそれらをＡＲＴ ２回路網２
２５へ供給することはできない。従って、ＡＲＴ ２回
路網２２５が適切な入力で正しく動作できるように正規
化プロセス３２０を適用しなければならない。
入力パターン２１０及び所望出力パターン２２０の両方
が修正ＡＲＴＭＡＰ回路網２００に提示される。好まし
い実施例では、入力パターン２１０は 200 のデータ点
からなっている。所望出力パターン２２０は２進ベクト
ルであり、ベクトルの各ノードは特定の機械状態に対応
している。回路網の試験段階中は、入力パターン２１０
のみが修正ＡＲＴＭＡＰ回路網２００に提示される。図
３に、本発明の基本構成をを示す。これは３つのモジュ
ール即ち、パラメトリックモデル３１０、正規化プロセ
ス３２０、及びＡＲＴ ２神経回路網２２５からなって
いる。好ましい実施例では、自動回帰（ＡＲ）パラメト
リックモデルをＡＲＴ ２神経回路網２２５と共に使用
している。しかしながら、自動回帰移動平均（ＡＲＭ
Ａ）モデルを使用することも可能である。ＡＲモデル及
びＡＲＭＡモデルは共に当分野においては公知である。
パラメトリックモデル３１０は、検査中の物理機械もし
くはプロセスから収集した生の振動信号を合わせる（即
ち数学的に記述する）ために使用される。パラメトリッ
クモデル３１０を振動信号に合わせた後に、１組のパラ
メタ３１５を求めることができる。しかしながらこの点
においてパラメタ３１５は、ＡＲＴ ２回路網２２５が
認識することができない有意味の負の値を含んでいるの
で、事前処理しないままでそれらをＡＲＴ ２回路網２
２５へ供給することはできない。従って、ＡＲＴ ２回
路網２２５が適切な入力で正しく動作できるように正規
化プロセス３２０を適用しなければならない。
【００１１】正規化プロセス３２０は、２つの段階を必
要とする。先ず、各パラメタ３１５は２つの部分、即ち
正及び負に分割される。もしパラメタ３１５が正の値を
有していれば負の部分には０が割当てられ、その逆も行
われる。次に、各パラメタ３１５を最大パラメタ値によ
って除すことによってパラメタの基準化が行われる。そ
の値が常に正であるので、残余分散は正部分のみを含
む。しかしながら、その分散は最大残余分散によって除
す必要がある。このようにすると、ｎパラメタを有する
ＡＲＭＡもしくはＡＲモデルには、ＡＲＴ ２入力層内
に２ｎ＋１入力ノードが必要になる。例えば、ＡＲＭＡ
（３，２）モデル（ｎ＝５）のためのＡＲＴ ２回路網
２２５には 11 の入力ノードが必要である。以下のパラ
メタ及び残余分散を有するＡＲＭＡ（３，２）モデルの
ためのＡＲＴ ２回路網２２５への入力ベクトルを図５
に示してある。 Φ1 ＝ １．７５９２ Φ2 ＝−１．７２８９ Φ3 ＝ ０．８３６４ θ1 ＝−１．０３００ θ2 ＝−０．７５６２ σE ＝ ０．３８３８ 正及び負の両部分の最大パラメタ値が２に等しく、最大
残余分散が１に等しいものとしよう。例えばΦ1 の場
合、その値が正であるので負部分は０にセットされる。
正部分は最大パラメタ値２で除され、０．８７９６の値
が求められる。残余分散の場合、最大残余分散が１であ
るので、値はそのままである。
要とする。先ず、各パラメタ３１５は２つの部分、即ち
正及び負に分割される。もしパラメタ３１５が正の値を
有していれば負の部分には０が割当てられ、その逆も行
われる。次に、各パラメタ３１５を最大パラメタ値によ
って除すことによってパラメタの基準化が行われる。そ
の値が常に正であるので、残余分散は正部分のみを含
む。しかしながら、その分散は最大残余分散によって除
す必要がある。このようにすると、ｎパラメタを有する
ＡＲＭＡもしくはＡＲモデルには、ＡＲＴ ２入力層内
に２ｎ＋１入力ノードが必要になる。例えば、ＡＲＭＡ
（３，２）モデル（ｎ＝５）のためのＡＲＴ ２回路網
２２５には 11 の入力ノードが必要である。以下のパラ
メタ及び残余分散を有するＡＲＭＡ（３，２）モデルの
ためのＡＲＴ ２回路網２２５への入力ベクトルを図５
に示してある。 Φ1 ＝ １．７５９２ Φ2 ＝−１．７２８９ Φ3 ＝ ０．８３６４ θ1 ＝−１．０３００ θ2 ＝−０．７５６２ σE ＝ ０．３８３８ 正及び負の両部分の最大パラメタ値が２に等しく、最大
残余分散が１に等しいものとしよう。例えばΦ1 の場
合、その値が正であるので負部分は０にセットされる。
正部分は最大パラメタ値２で除され、０．８７９６の値
が求められる。残余分散の場合、最大残余分散が１であ
るので、値はそのままである。
【００１２】回路網の訓練中、ＡＲＴ ２回路網２２５
には入力パターン、即ち正規化されたパラメタ３２５が
提示される。その結果、回路網は入力パターンを実行し
てしまうまで障害分類を自己編成する。最後に、後の診
断に使用するために最終トップダウン重み（Ｔji）及び
ボトムアップ重み（Ｂij）が保管される。障害の診断
中、各入力パターンがＡＲＴ ２回路網２２５に提示さ
れる。Ｆ2 層２４５内の各ノードは、特定の障害分類を
表す。警戒試験２５０を通ったＦ2 層２４５内のノード
が、ＡＲＴ ２回路網２２５の出力３３５になる。前述
したように、修正ＡＲＴＭＡＰ回路網２００の訓練中、
入力パターン２１０及び所望出力パターン２２０の両方
が修正ＡＲＴＭＡＰ回路網２００へ提示されなければな
らない。入力パターン２１０及び所望出力パターン２２
０の各集合は修正ＡＲＴＭＡＰ回路網２００を独立的に
訓練するために使用される。これは修正ＡＲＴＭＡＰ回
路網２００をインクリメンタルに訓練できることを意味
している。好ましい実施例では、入力パターンは振動ス
ペクトルの 200 データ点からなっている。所望出力パ
ターン２２０は２進ベクトルであり、ベクトルの各ノー
ドは特定の機械状態に対応する。 Ｂ． 自動回帰（ＡＲ）モデル 自動回帰（ＡＲ）技術は、信号を、それらが物理機械も
しくはプロセスに接続されている一組のセンサを通して
捕捉された時の時間領域から、周波数領域へ変換する方
法である。伝統的に、これはフーリエ変換を用いて行わ
れている。
には入力パターン、即ち正規化されたパラメタ３２５が
提示される。その結果、回路網は入力パターンを実行し
てしまうまで障害分類を自己編成する。最後に、後の診
断に使用するために最終トップダウン重み（Ｔji）及び
ボトムアップ重み（Ｂij）が保管される。障害の診断
中、各入力パターンがＡＲＴ ２回路網２２５に提示さ
れる。Ｆ2 層２４５内の各ノードは、特定の障害分類を
表す。警戒試験２５０を通ったＦ2 層２４５内のノード
が、ＡＲＴ ２回路網２２５の出力３３５になる。前述
したように、修正ＡＲＴＭＡＰ回路網２００の訓練中、
入力パターン２１０及び所望出力パターン２２０の両方
が修正ＡＲＴＭＡＰ回路網２００へ提示されなければな
らない。入力パターン２１０及び所望出力パターン２２
０の各集合は修正ＡＲＴＭＡＰ回路網２００を独立的に
訓練するために使用される。これは修正ＡＲＴＭＡＰ回
路網２００をインクリメンタルに訓練できることを意味
している。好ましい実施例では、入力パターンは振動ス
ペクトルの 200 データ点からなっている。所望出力パ
ターン２２０は２進ベクトルであり、ベクトルの各ノー
ドは特定の機械状態に対応する。 Ｂ． 自動回帰（ＡＲ）モデル 自動回帰（ＡＲ）技術は、信号を、それらが物理機械も
しくはプロセスに接続されている一組のセンサを通して
捕捉された時の時間領域から、周波数領域へ変換する方
法である。伝統的に、これはフーリエ変換を用いて行わ
れている。
【００１３】信号を処理するためにフーリエ変換の代わ
りにパラメトリックモデルを使用することの利点は、そ
れがデータの量を劇的に減少させることができ、しかも
信号の重要な特性を保存することである。データが減少
する結果として、神経回路網の診断及び訓練時間が大幅
に短縮される。入力データの数が 200 から 2400 に増
加した場合、訓練時間は約 10 倍増加し、また診断時間
は約６倍増加するから（特に複数のセンサを実時間モー
ドで使用する場合には含まれるデータの量が増加するの
で）データの減少は特に臨界的である。好ましい実施例
において本発明は、オンライン信号処理のためのＡＲモ
デルを実現している。ＡＲモデルの数学的形状は以下の
式（１）によって与えられる。 Ｘt ＝Φ1 Ｘt-1 ＋Φ2 Ｘt-2 ＋…＋Φp Ｘt-p ＋Ｅt （１） 但しＸt ＝ＡＲパラメタ、ｐ＝ＡＲモデルの順序、Ｅt
＝ＮＩＤ（０，σE 2 ）である。ＡＲモデルの順序に関
しては、 Lin, C.C., “ Classification of Autoregre
ssive Spectral Estimated Signal Patterns Using an
Adaptive Resonance Theory ( ART ) ”, Master's The
ses, Department of Industrial Engineering, The Uni
versity of Iowa, Iowa City, Iowa, 1992 を参照され
たい。これは順序を、最高の最終予測誤差（ＦＰＥ）及
びアカイケ情報基準（ＡＩＣ）レベルを用いて選択す
る。ＦＰＥ及びＡＩＣの式は以下によって与えられる。
りにパラメトリックモデルを使用することの利点は、そ
れがデータの量を劇的に減少させることができ、しかも
信号の重要な特性を保存することである。データが減少
する結果として、神経回路網の診断及び訓練時間が大幅
に短縮される。入力データの数が 200 から 2400 に増
加した場合、訓練時間は約 10 倍増加し、また診断時間
は約６倍増加するから（特に複数のセンサを実時間モー
ドで使用する場合には含まれるデータの量が増加するの
で）データの減少は特に臨界的である。好ましい実施例
において本発明は、オンライン信号処理のためのＡＲモ
デルを実現している。ＡＲモデルの数学的形状は以下の
式（１）によって与えられる。 Ｘt ＝Φ1 Ｘt-1 ＋Φ2 Ｘt-2 ＋…＋Φp Ｘt-p ＋Ｅt （１） 但しＸt ＝ＡＲパラメタ、ｐ＝ＡＲモデルの順序、Ｅt
＝ＮＩＤ（０，σE 2 ）である。ＡＲモデルの順序に関
しては、 Lin, C.C., “ Classification of Autoregre
ssive Spectral Estimated Signal Patterns Using an
Adaptive Resonance Theory ( ART ) ”, Master's The
ses, Department of Industrial Engineering, The Uni
versity of Iowa, Iowa City, Iowa, 1992 を参照され
たい。これは順序を、最高の最終予測誤差（ＦＰＥ）及
びアカイケ情報基準（ＡＩＣ）レベルを用いて選択す
る。ＦＰＥ及びＡＩＣの式は以下によって与えられる。
【００１４】
【数２】
【数３】
【外１】 における推定線形予測誤差分散である。決定されたＡＲ
順序は固定され、ＡＲモデルを知覚データに適合させる
ことができる。 Ｃ． 修正ＡＲＴＭＡＰ回路網 修正ＡＲＴＭＡＰ神経回路網２００は、任意に順序付け
られたベクトルを予測成功に基づいて認識類別に分類す
ることを自律的に学習するＡＲＴ（適応共鳴理論）回路
網の延長である。図１に関して説明したように、ＡＲＴ
ＭＡＰ神経回路網１００は、各々が認識類別を発生する
１対のＡＲＴモジュール１１０、１２０と、１対の認識
類別間の写像を制御する写像フィールド１３０とから構
成されている非監視学習システムである。
順序は固定され、ＡＲモデルを知覚データに適合させる
ことができる。 Ｃ． 修正ＡＲＴＭＡＰ回路網 修正ＡＲＴＭＡＰ神経回路網２００は、任意に順序付け
られたベクトルを予測成功に基づいて認識類別に分類す
ることを自律的に学習するＡＲＴ（適応共鳴理論）回路
網の延長である。図１に関して説明したように、ＡＲＴ
ＭＡＰ神経回路網１００は、各々が認識類別を発生する
１対のＡＲＴモジュール１１０、１２０と、１対の認識
類別間の写像を制御する写像フィールド１３０とから構
成されている非監視学習システムである。
【００１５】好ましい実施例では、ＡＲＴＭＡＰ神経回
路網は１つの入力パターン（即ち、ＡＲパラメタ）だけ
を使用する。監視学習を遂行させるために図１に示すＡ
ＲＴＭＡＰ回路網は修正される。図２に、第２のＡＲＴ
モジュールが目標出力２２０に置換されている修正ＡＲ
ＴＭＡＰ神経回路網２００を示す。目標出力２２０はユ
ーザから与えられる。アナログ入力パターン（即ち、Ａ
Ｒパラメタ）を処理するための基本ＡＲＴモジュールと
してＡＲＴ ２神経回路網アーキテクチャ２２５が選択
されている。詳述すれば、振動もしくは音響信号が修正
ＡＲＴＭＡＰ神経回路網２００への入力として使用され
る。振動もしくは音響信号内のエネルギレベルは連続ア
ナログ信号であるから、好ましい実施例ではＡＲＴ ２
神経回路網アーキテクチャが使用されているのである。
しかしながら、当分野に精通していれば明らかなよう
に、音響信号以外の信号も修正ＡＲＴＭＡＰ神経回路網
２００へ印加することができる。更に、もし修正ＡＲＴ
ＭＡＰ神経回路網２００への入力として２進入力パター
ンの任意シーケンスが使用されるのであれば、本発明を
ＡＲＴ １神経回路網アーキテクチャと共に使用するこ
ともできる。
路網は１つの入力パターン（即ち、ＡＲパラメタ）だけ
を使用する。監視学習を遂行させるために図１に示すＡ
ＲＴＭＡＰ回路網は修正される。図２に、第２のＡＲＴ
モジュールが目標出力２２０に置換されている修正ＡＲ
ＴＭＡＰ神経回路網２００を示す。目標出力２２０はユ
ーザから与えられる。アナログ入力パターン（即ち、Ａ
Ｒパラメタ）を処理するための基本ＡＲＴモジュールと
してＡＲＴ ２神経回路網アーキテクチャ２２５が選択
されている。詳述すれば、振動もしくは音響信号が修正
ＡＲＴＭＡＰ神経回路網２００への入力として使用され
る。振動もしくは音響信号内のエネルギレベルは連続ア
ナログ信号であるから、好ましい実施例ではＡＲＴ ２
神経回路網アーキテクチャが使用されているのである。
しかしながら、当分野に精通していれば明らかなよう
に、音響信号以外の信号も修正ＡＲＴＭＡＰ神経回路網
２００へ印加することができる。更に、もし修正ＡＲＴ
ＭＡＰ神経回路網２００への入力として２進入力パター
ンの任意シーケンスが使用されるのであれば、本発明を
ＡＲＴ １神経回路網アーキテクチャと共に使用するこ
ともできる。
【００１６】修正ＡＲＴＭＡＰ神経回路網２００におい
ては、ＡＲＴ ２回路網２２５は２つの層、即ちＦ1 層
２３５及びＦ2 層２４５を有している。ＡＲＴ ２回路
網のＦ1 層２３５は、回路網に信号を雑音から分離して
活動化信号のコントラストを高めることを可能ならしめ
るための３つの処理レベル、及び幾つかの利得制御シス
テムを含む。概述すれば、各レベルは２つの計算を遂行
する。即ち、そのレベルへのフィールド内及びフィール
ド間入力を積分して積分された活動化信号を発生する計
算と、その積分された活動化信号を正規化する計算であ
る。小円は、積分された活動化信号を正規化する利得制
御システムである。以下に図４、図７及び図８を参照し
て修正回路網の訓練を説明する。図７及び８は、修正Ａ
ＲＴＭＡＰ回路網２００を訓練するために使用される手
順の流れ図である。ブロック７０５に示すように、修正
ＡＲＴＭＡＰ神経回路網２００の訓練を開始する前に、
以下のパラメタが初期化される。 Ｔji＝０ （４）（５） ０≦ｉ≦Ｎ−１（Ｎは入力ベクトル２１０のディメンジ
ョン）、０≦ｊ≦Ｍ−１（ＭはＦ2 ノードの数）、ｗi
＝ｘi ＝ｖi ＝ｕi ＝ｑi ＝ｐi ＝０、及びａ、ｂ、
ｃ、ｄ、ｅ、θ、及びρをセット。
ては、ＡＲＴ ２回路網２２５は２つの層、即ちＦ1 層
２３５及びＦ2 層２４５を有している。ＡＲＴ ２回路
網のＦ1 層２３５は、回路網に信号を雑音から分離して
活動化信号のコントラストを高めることを可能ならしめ
るための３つの処理レベル、及び幾つかの利得制御シス
テムを含む。概述すれば、各レベルは２つの計算を遂行
する。即ち、そのレベルへのフィールド内及びフィール
ド間入力を積分して積分された活動化信号を発生する計
算と、その積分された活動化信号を正規化する計算であ
る。小円は、積分された活動化信号を正規化する利得制
御システムである。以下に図４、図７及び図８を参照し
て修正回路網の訓練を説明する。図７及び８は、修正Ａ
ＲＴＭＡＰ回路網２００を訓練するために使用される手
順の流れ図である。ブロック７０５に示すように、修正
ＡＲＴＭＡＰ神経回路網２００の訓練を開始する前に、
以下のパラメタが初期化される。 Ｔji＝０ （４）（５） ０≦ｉ≦Ｎ−１（Ｎは入力ベクトル２１０のディメンジ
ョン）、０≦ｊ≦Ｍ−１（ＭはＦ2 ノードの数）、ｗi
＝ｘi ＝ｖi ＝ｕi ＝ｑi ＝ｐi ＝０、及びａ、ｂ、
ｃ、ｄ、ｅ、θ、及びρをセット。
【００１７】ブロック７１０に示すように、学習すべき
入力パラメタが修正ＡＲＴＭＡＰ回路網２００に提示さ
れる。次にブロック７１５に示すように、Ｆ1 層２３５
の異なるノード間の活動化信号が生成される。Ｆ1 層２
３５の低レベルにおけるベクトルｗi は、フィールド内
入力ベクトルＩi 及びフィールド間フィードバック信号
ａｕi の総合である。即ち、 ｗi ＝Ｉi ＋ａｕi （６） ここに、ｉはＦ1 層２３５のｉ番目のノードであり、ａ
は定数である。ベクトルｗi が求められると、それは以
下の式によって正規化されてｘi が求められる。 ｘi ＝ｗi ／（ｅ＋‖ｗ‖） （７） ここに、ｅは０に近い定数であり、‖ｗ‖はベクトルｗ
のＬ2 ノルムである。Ｆ1 層２３５内の残余の活動は、
以下の式によって計算することができる。 ｖi ＝ｆ（ｘi ）＋ｂｆ（ｑi ） （８） ｕi ＝ｖi ／（ｅ＋‖ｖ｜） （９） ｑi ＝ｐi ／（ｅ＋‖ｐ｜） （１０） ｐi ＝ｕi ＋Σj ｇ（ｊ）Ｔji （１１） 但し、ｂは定数であり、ｇ（ｊ）はＦ2 層２４５のｊ番
目のノードであり、ＴjiはＦ2 層２４５のｊ番目のノー
ドとＦ1 層２３５のｉ番目のノードとの間のトップダウ
ン重みである。式（８）内の線形信号関数ｆは、 もし０≦ｘ＜θならば、ｆ（ｘ）＝０、 もしｘ≧ならば、 ｆ（ｘ）＝ｘ （１２） である。但し、θはしきい値である。
入力パラメタが修正ＡＲＴＭＡＰ回路網２００に提示さ
れる。次にブロック７１５に示すように、Ｆ1 層２３５
の異なるノード間の活動化信号が生成される。Ｆ1 層２
３５の低レベルにおけるベクトルｗi は、フィールド内
入力ベクトルＩi 及びフィールド間フィードバック信号
ａｕi の総合である。即ち、 ｗi ＝Ｉi ＋ａｕi （６） ここに、ｉはＦ1 層２３５のｉ番目のノードであり、ａ
は定数である。ベクトルｗi が求められると、それは以
下の式によって正規化されてｘi が求められる。 ｘi ＝ｗi ／（ｅ＋‖ｗ‖） （７） ここに、ｅは０に近い定数であり、‖ｗ‖はベクトルｗ
のＬ2 ノルムである。Ｆ1 層２３５内の残余の活動は、
以下の式によって計算することができる。 ｖi ＝ｆ（ｘi ）＋ｂｆ（ｑi ） （８） ｕi ＝ｖi ／（ｅ＋‖ｖ｜） （９） ｑi ＝ｐi ／（ｅ＋‖ｐ｜） （１０） ｐi ＝ｕi ＋Σj ｇ（ｊ）Ｔji （１１） 但し、ｂは定数であり、ｇ（ｊ）はＦ2 層２４５のｊ番
目のノードであり、ＴjiはＦ2 層２４５のｊ番目のノー
ドとＦ1 層２３５のｉ番目のノードとの間のトップダウ
ン重みである。式（８）内の線形信号関数ｆは、 もし０≦ｘ＜θならば、ｆ（ｘ）＝０、 もしｘ≧ならば、 ｆ（ｘ）＝ｘ （１２） である。但し、θはしきい値である。
【００１８】ブロック７２０に示すように、Ｆ2 層２４
５のノードがＦ1 層２３５から（ボトムアップ重みを介
して）入力信号を受けると、Ｆ2 層２４５のノードの整
合スコアが以下の式に従って計算される。 μj ＝Σj ｐi Ｂij （１３） ここに、Ｂijはボトムアップ重みである。次いで、ブロ
ック７３０に示すように、最大の整合スコアを有するＦ
2 層２４５内のノードが活動化される。Ｆ2 層２４５の
活動は以下によって与えられる。 もしｊ番目のＦ2 ノードが活動ならば、ｇ（ｊ）＝ｄ、 それ以外の場合には ｇ（ｊ）＝０ （１４） ここに、ｄは０と１との間の定数である。この点におい
て、Ｆ2 層２４５の活動がＦ1 層２３５へ戻り伝播され
る。次にブロック７３５に示すように、警戒試験２５０
が遂行されてトップダウン信号が入力パターン２１０に
整合するか否かが決定される。警戒試験２５０は次のよ
うに与えられる。 ｒi ＝（ｕi ＋ｃｐi ）／（ｅ＋‖ｕ‖＋｜ｃｐ‖） （１５） ｐ／（ｅ＋｜ｒ｜）＞１？ （１６） 但し、ｃは定数であり、０＜ｐ＜１である。もしその整
合が警戒試験２５０を通ることに失敗すればリセット２
６０がＦ2 層２４５へ送られ、Ｆ2 層２４５はその層内
の選択されたノードを非活動化し、そしてブロック７４
５に示すように次の最良整合を探索する。整合が警戒試
験２５０を通ればボトムアップ重み（Ｂij）及びトップ
ダウン重み（Ｔji）が以下の式に合わされる。
５のノードがＦ1 層２３５から（ボトムアップ重みを介
して）入力信号を受けると、Ｆ2 層２４５のノードの整
合スコアが以下の式に従って計算される。 μj ＝Σj ｐi Ｂij （１３） ここに、Ｂijはボトムアップ重みである。次いで、ブロ
ック７３０に示すように、最大の整合スコアを有するＦ
2 層２４５内のノードが活動化される。Ｆ2 層２４５の
活動は以下によって与えられる。 もしｊ番目のＦ2 ノードが活動ならば、ｇ（ｊ）＝ｄ、 それ以外の場合には ｇ（ｊ）＝０ （１４） ここに、ｄは０と１との間の定数である。この点におい
て、Ｆ2 層２４５の活動がＦ1 層２３５へ戻り伝播され
る。次にブロック７３５に示すように、警戒試験２５０
が遂行されてトップダウン信号が入力パターン２１０に
整合するか否かが決定される。警戒試験２５０は次のよ
うに与えられる。 ｒi ＝（ｕi ＋ｃｐi ）／（ｅ＋‖ｕ‖＋｜ｃｐ‖） （１５） ｐ／（ｅ＋｜ｒ｜）＞１？ （１６） 但し、ｃは定数であり、０＜ｐ＜１である。もしその整
合が警戒試験２５０を通ることに失敗すればリセット２
６０がＦ2 層２４５へ送られ、Ｆ2 層２４５はその層内
の選択されたノードを非活動化し、そしてブロック７４
５に示すように次の最良整合を探索する。整合が警戒試
験２５０を通ればボトムアップ重み（Ｂij）及びトップ
ダウン重み（Ｔji）が以下の式に合わされる。
【００１９】
【数４】
【数５】 ここにｊ* はＦ2 層２４５内の選択されたノードであ
る。もし警戒試験を通ればブロック７５０に示すように
ボトムアップ重み及びトップダウン重みが更新される。
る。もし警戒試験を通ればブロック７５０に示すように
ボトムアップ重み及びトップダウン重みが更新される。
【００２０】ＡＲＴモジュール２２５に入力ベクトル２
１０が提示されると、ＡＲＴモジュール２２５は警戒試
験２５０を通ったＦ2 層２４５内のノードを選択する。
次いでブロック７５５に示すように、Ｆ2 層２４５の活
動は、Ｆ2 層２４５と写像フィールド２３０との間の重
み付き接続を通して写像フィールド２３０へ伝播され
る。Ｆ2 層２４５から受信した信号は以下の式によって
計算される。
１０が提示されると、ＡＲＴモジュール２２５は警戒試
験２５０を通ったＦ2 層２４５内のノードを選択する。
次いでブロック７５５に示すように、Ｆ2 層２４５の活
動は、Ｆ2 層２４５と写像フィールド２３０との間の重
み付き接続を通して写像フィールド２３０へ伝播され
る。Ｆ2 層２４５から受信した信号は以下の式によって
計算される。
【００２１】
【数６】 ブロック７６０に示すように、写像フィールド２３０に
おいて第２の警戒試験１４０が遂行され、Ｆ2 層２４５
からの予測出力（Ｘ）と、目標出力パターン２２（Ｙ）
との間の整合のレベルが決定される。ＸとＹとの間が整
合しなければ、写像フィールドリセット２７０がトリガ
されて基本ＡＲＴモジュール２２５へ送られる。これは
以下の状態が存在すれば何時でも発生する。 ｜Ｘ‖／｜Ｙ‖＜ｐ’ （２０） ここに、ｐ’は連想メモリ警戒パラメタである。もし写
像フィールドリセット２７０が発生すれば、ブロック７
７０に示すように基本ＡＲＴモジュール２２５の警戒試
験２５０の警戒値が高められて回路網２００が誤差を繰
り返すことがないようにする。この点において、リセッ
ト２６０がＦ2 層２４５へ送られ、ブロック７４５に示
すようにＦ2 層２４５は次の最良整合を見出す。このプ
ロセスは第２の警戒試験２４０に成功するまで続けられ
る。第２の警戒試験２４０を通るとＦ1 層２３５とＦ2
層２４５との間のトップダウン重み（Ｔji）及びボトム
アップ重み（Ｂij）が式（１７）及び（１８）に従って
適合され、またＦ2 層２４５と写像フィールド２３０と
の間の重みが次式によって更新される。
おいて第２の警戒試験１４０が遂行され、Ｆ2 層２４５
からの予測出力（Ｘ）と、目標出力パターン２２（Ｙ）
との間の整合のレベルが決定される。ＸとＹとの間が整
合しなければ、写像フィールドリセット２７０がトリガ
されて基本ＡＲＴモジュール２２５へ送られる。これは
以下の状態が存在すれば何時でも発生する。 ｜Ｘ‖／｜Ｙ‖＜ｐ’ （２０） ここに、ｐ’は連想メモリ警戒パラメタである。もし写
像フィールドリセット２７０が発生すれば、ブロック７
７０に示すように基本ＡＲＴモジュール２２５の警戒試
験２５０の警戒値が高められて回路網２００が誤差を繰
り返すことがないようにする。この点において、リセッ
ト２６０がＦ2 層２４５へ送られ、ブロック７４５に示
すようにＦ2 層２４５は次の最良整合を見出す。このプ
ロセスは第２の警戒試験２４０に成功するまで続けられ
る。第２の警戒試験２４０を通るとＦ1 層２３５とＦ2
層２４５との間のトップダウン重み（Ｔji）及びボトム
アップ重み（Ｂij）が式（１７）及び（１８）に従って
適合され、またＦ2 層２４５と写像フィールド２３０と
の間の重みが次式によって更新される。
【００２２】
【数７】 トップダウン重み（Ｔji）及びボトムアップ重み
（Ｂij）の更新段階はブロック７８０に示されている。
（Ｂij）の更新段階はブロック７８０に示されている。
【００２３】ボトムアップ及びトップダウン重みに関す
る重み適合プロセスは、各訓練パターン毎に繰り返し行
われる。これは、各更新繰り返しが行われた後に、ｐで
表される正規化された入力ベクトル２１０も更新される
からである。次いで、Ｆ1 層２３５内の新しいベクトル
ｐを、次の重み更新繰り返しに使用する（式（１７）及
び（１８）参照）。訓練段階中、入力ベクトル２１０
（即ち、ＡＲパラメタ）及び目標出力ベクトル２２０
（即ち、障害の種類）の両方が回路網に提示される。そ
こで回路網は、入力ベクトル２１０と目標出力ベクトル
２２０との関連の学習を、上述した手順に従って開始す
る。診断段階中には、入力ベクトル２１０のみが回路網
に提示される。Ｆ1 警戒試験２５０を通ったＦ2 層２４
５内のノードが、回路網の出力（即ち、予測される障害
の種類）を表している。修正ＡＲＴＭＡＰ回路網２００
に独自の別の機能は、その“学習破棄”能力である。回
路網学習能力とは対比的に、“学習破棄”手順は先に回
路網が学習した“望ましくない”知識を除去する。これ
は、先に学習したパラメタが悪いパターンであることが
分かった場合に、極めて有用である。このような状況で
は、この誤りを修正する１つの方法は、望ましくないパ
ターンを除く全てのパターンを再訓練することである
が、これは実行困難である。あるパターンを学習破棄す
るためのより効率的な方法は、不適当なパターンを無視
して回路網重みをリセットすることである。
る重み適合プロセスは、各訓練パターン毎に繰り返し行
われる。これは、各更新繰り返しが行われた後に、ｐで
表される正規化された入力ベクトル２１０も更新される
からである。次いで、Ｆ1 層２３５内の新しいベクトル
ｐを、次の重み更新繰り返しに使用する（式（１７）及
び（１８）参照）。訓練段階中、入力ベクトル２１０
（即ち、ＡＲパラメタ）及び目標出力ベクトル２２０
（即ち、障害の種類）の両方が回路網に提示される。そ
こで回路網は、入力ベクトル２１０と目標出力ベクトル
２２０との関連の学習を、上述した手順に従って開始す
る。診断段階中には、入力ベクトル２１０のみが回路網
に提示される。Ｆ1 警戒試験２５０を通ったＦ2 層２４
５内のノードが、回路網の出力（即ち、予測される障害
の種類）を表している。修正ＡＲＴＭＡＰ回路網２００
に独自の別の機能は、その“学習破棄”能力である。回
路網学習能力とは対比的に、“学習破棄”手順は先に回
路網が学習した“望ましくない”知識を除去する。これ
は、先に学習したパラメタが悪いパターンであることが
分かった場合に、極めて有用である。このような状況で
は、この誤りを修正する１つの方法は、望ましくないパ
ターンを除く全てのパターンを再訓練することである
が、これは実行困難である。あるパターンを学習破棄す
るためのより効率的な方法は、不適当なパターンを無視
して回路網重みをリセットすることである。
【００２４】概述すれば、“学習破棄”手順は上述した
訓練手順と同一である。学習破棄手順を図９に示す。Ｆ
2 ノードが両警戒試験２５０及び２４０を通れば、回路
網重みは以下の式に従って適合される。
訓練手順と同一である。学習破棄手順を図９に示す。Ｆ
2 ノードが両警戒試験２５０及び２４０を通れば、回路
網重みは以下の式に従って適合される。
【００２５】
【数８】
【数９】 ここに、ＮはＦ1 層２３５内のノードの数であり、ｄは
０と１との間の定数である。写像フィールド２３０の重
みは以下の式から更新される。
０と１との間の定数である。写像フィールド２３０の重
みは以下の式から更新される。
【００２６】
【数１０】 Ｄ． 回路網診断 回路網診断手順を図６に示す。診断は、上述した手順を
使用して修正ＡＲＴＭＡＰ回路網２００を訓練した後に
行われる。ブロック６１０に示すように、修正ＡＲＴＭ
ＡＰ回路網２００は先ず、ユーザから、もしくは直接物
理機械またはプロセスから入力データを取得する。入力
を受けた後、ＡＲＴ ２回路網２２５はブロック６２０
に示すようにある仮の診断を行う。もし仮の診断が第１
の警戒試験を通れば、ブロック６３０に示すように診断
結果がユーザに報告される。ブロック６４０において、
ユーザは回路網診断を確認するように求められる。もし
診断が正しければ、ユーザはこの入力パターンで回路網
を訓練する（即ち回路網にその重みを適合させるか否か
を尋ねる）（ブロック６９０）、もしくは診断プロセス
を放棄する（ブロック６８０）の何れかを選択する。も
し診断が正しくないことが見出されれば、２つのオプシ
ョンが考えられる。ブロック６６０に示すように、もし
ユーザが正しい障害分類を知っていればユーザは正しい
障害分類を指定するか、もしくはユーザは別の診断を行
うように回路網に要求することができる（即ち、ブロッ
ク６２０へ戻される）。
使用して修正ＡＲＴＭＡＰ回路網２００を訓練した後に
行われる。ブロック６１０に示すように、修正ＡＲＴＭ
ＡＰ回路網２００は先ず、ユーザから、もしくは直接物
理機械またはプロセスから入力データを取得する。入力
を受けた後、ＡＲＴ ２回路網２２５はブロック６２０
に示すようにある仮の診断を行う。もし仮の診断が第１
の警戒試験を通れば、ブロック６３０に示すように診断
結果がユーザに報告される。ブロック６４０において、
ユーザは回路網診断を確認するように求められる。もし
診断が正しければ、ユーザはこの入力パターンで回路網
を訓練する（即ち回路網にその重みを適合させるか否か
を尋ねる）（ブロック６９０）、もしくは診断プロセス
を放棄する（ブロック６８０）の何れかを選択する。も
し診断が正しくないことが見出されれば、２つのオプシ
ョンが考えられる。ブロック６６０に示すように、もし
ユーザが正しい障害分類を知っていればユーザは正しい
障害分類を指定するか、もしくはユーザは別の診断を行
うように回路網に要求することができる（即ち、ブロッ
ク６２０へ戻される）。
【００２７】システムを試験するために、合計 48 のデ
ータ集合と、３つの異なる機械状態（即ち、正常、軸受
障害、及びミスアラインメント）とを使用し、２つの部
分に分割した。即ち、 15 のデータ集合を訓練に、残余
のデータ集合を試験に使用した。警戒値と訓練用集合サ
イズの効果に関しても調査した。警戒を 0.3、0.5 、0.
7 、0.8 もしくは0.9にセットした時には回路網の性能
は同一を維持した。しかしながら、訓練用集合サイズを
３（各類別毎に１つ）にセットした場合の回路網の精度
は約 97 ％であった。訓練用集合サイズを６（各類別毎
に２つ）に増加させた場合には、回路網は全ての試験デ
ータを正しく識別することができた。 Ｅ． 修正ＡＲＴＭＡＰ回路網の性能解析 上述した修正ＡＲＴＭＡＰ回路網２００の性能を３種類
の知覚データ、即ち理論的軸受シグネチャ、実験室軸受
シグネチャ、及び実生産機械シグネチャを使用すること
によって検査した。好ましい実施例では、修正ＡＲＴＭ
ＡＰ回路網２００は診断セッション毎にユーザに２つの
示唆された障害分類を提供するように設計されており、
最初の障害分類は最も原因となり易いものである。ＦＤ
Ｎを試験するために使用される理論的な振動シグネチャ
は軸受障害（内レース、外レース、ローラ回転、保持器
欠陥、ミスアラインメント、及び不平衡）を使用した。
各軸受障害毎に、５つのデータ集合を生成させて回路網
を訓練し、試験した。異なる振幅及び雑音レベルを使用
して実寿命データを模擬した。各欠陥の第１のデータ集
合を使用して回路網を訓練し、一方残余のデータ集合を
使用して回路網性能を試験した。
ータ集合と、３つの異なる機械状態（即ち、正常、軸受
障害、及びミスアラインメント）とを使用し、２つの部
分に分割した。即ち、 15 のデータ集合を訓練に、残余
のデータ集合を試験に使用した。警戒値と訓練用集合サ
イズの効果に関しても調査した。警戒を 0.3、0.5 、0.
7 、0.8 もしくは0.9にセットした時には回路網の性能
は同一を維持した。しかしながら、訓練用集合サイズを
３（各類別毎に１つ）にセットした場合の回路網の精度
は約 97 ％であった。訓練用集合サイズを６（各類別毎
に２つ）に増加させた場合には、回路網は全ての試験デ
ータを正しく識別することができた。 Ｅ． 修正ＡＲＴＭＡＰ回路網の性能解析 上述した修正ＡＲＴＭＡＰ回路網２００の性能を３種類
の知覚データ、即ち理論的軸受シグネチャ、実験室軸受
シグネチャ、及び実生産機械シグネチャを使用すること
によって検査した。好ましい実施例では、修正ＡＲＴＭ
ＡＰ回路網２００は診断セッション毎にユーザに２つの
示唆された障害分類を提供するように設計されており、
最初の障害分類は最も原因となり易いものである。ＦＤ
Ｎを試験するために使用される理論的な振動シグネチャ
は軸受障害（内レース、外レース、ローラ回転、保持器
欠陥、ミスアラインメント、及び不平衡）を使用した。
各軸受障害毎に、５つのデータ集合を生成させて回路網
を訓練し、試験した。異なる振幅及び雑音レベルを使用
して実寿命データを模擬した。各欠陥の第１のデータ集
合を使用して回路網を訓練し、一方残余のデータ集合を
使用して回路網性能を試験した。
【００２８】図１０を参照する。２つの研究室実験装置
を使用してＦＤＮの検査も行った。第１の装置は、電動
機９１０、２つの軸受（図示してない）、２つのピロー
ブロック９２０、９２５、駆動ベルト９３０、及びシャ
フト９３５からなっている。第２の装置は、電動機９４
０、シャフト９５０、２つのスリーブ軸受９６０、９６
５、ベルト９７０、及び２つのハブ９８０、９８５から
なっている。各装置の軸受支えブロック上には加速度計
９９０を取り付けてある。振動信号は加速度計９９０を
通して収集され、これらの信号は４８６型パーソナルコ
ンピュータ９０５内に設置されているデータ取得基板の
要求に応じて電力供給ユニット９１５によって拡大され
る。第１の実験装置を用いて４つの軸受状態、即ち正
常、ミスアラインド、ゆるんだ、及び汚染された状態が
作られた。各状態の下で、８組の振動信号が収集され
た。即ち、合計 32 のデータ集合を取得した。修正ＡＲ
ＴＭＡＰ回路網２００は各状態毎に最初の８データ集合
で訓練され、他の７データ集合で試験された。第２の実
験装置を使用した主目的は、異なる不平衡状態を作るこ
とである。不平衡が、最も一般的な機械障害であること
は公知である。ねじ、粘土片、もしくは両方をハブ９８
０、９８５へ取り付けることによって５つの異なるレベ
ルの不平衡ハブ状態を作り出した。各状態の下で 10 信
号を収集した。各状態の最初のデータ集合を使用して修
正ＡＲＴＭＡＰ回路網２００を訓練し、その状態を学習
させた。次いで他の９データ集合を試験パターンとして
使用した。
を使用してＦＤＮの検査も行った。第１の装置は、電動
機９１０、２つの軸受（図示してない）、２つのピロー
ブロック９２０、９２５、駆動ベルト９３０、及びシャ
フト９３５からなっている。第２の装置は、電動機９４
０、シャフト９５０、２つのスリーブ軸受９６０、９６
５、ベルト９７０、及び２つのハブ９８０、９８５から
なっている。各装置の軸受支えブロック上には加速度計
９９０を取り付けてある。振動信号は加速度計９９０を
通して収集され、これらの信号は４８６型パーソナルコ
ンピュータ９０５内に設置されているデータ取得基板の
要求に応じて電力供給ユニット９１５によって拡大され
る。第１の実験装置を用いて４つの軸受状態、即ち正
常、ミスアラインド、ゆるんだ、及び汚染された状態が
作られた。各状態の下で、８組の振動信号が収集され
た。即ち、合計 32 のデータ集合を取得した。修正ＡＲ
ＴＭＡＰ回路網２００は各状態毎に最初の８データ集合
で訓練され、他の７データ集合で試験された。第２の実
験装置を使用した主目的は、異なる不平衡状態を作るこ
とである。不平衡が、最も一般的な機械障害であること
は公知である。ねじ、粘土片、もしくは両方をハブ９８
０、９８５へ取り付けることによって５つの異なるレベ
ルの不平衡ハブ状態を作り出した。各状態の下で 10 信
号を収集した。各状態の最初のデータ集合を使用して修
正ＡＲＴＭＡＰ回路網２００を訓練し、その状態を学習
させた。次いで他の９データ集合を試験パターンとして
使用した。
【００２９】振動データをＫ＆Ｔ７軸マシニングセンタ
から収集し、修正ＡＲＴＭＡＰ回路網２００の訓練／試
験に使用した。これらには３つの状態、即ち正常、不平
衡、及び電動機固定子欠陥が存在した。各状態の下で２
つの振動信号を収集した。各状態から１つの振動信号を
使用して、修正ＡＲＴＭＡＰ回路網２００を３つの全て
の状態に対して訓練した。他の信号は診断に使用した。
結果は、ＦＤＮが全ての状態を正しく識別できることを
示した。前述したように、本発明は“望ましくない”知
識をＦＤＮから除去する学習破棄手順をも実現してい
る。ＦＤＮは全ての正しいパターンを再学習する必要が
ないので、先に学習したパターンが悪いパターンである
ことが分かった場合に、この手順は極めて有用である。
学習破棄手順がどのように働くかを調べるために、この
手順のサンプルセッションを遂行した。このセッション
では、３つのサンプルデータ集合を使用して回路網を訓
練した。各データ集合は以下に示すような３つのデータ
要素のベクトルからなっていた。 ａ１：１００ ａ２：０１０ ａ３：００１ ａ１、ａ２及びａ３の類別は、それぞれｃａｔ１、ｃａ
ｔ２、及びｃａｔ３と定義されていた。
から収集し、修正ＡＲＴＭＡＰ回路網２００の訓練／試
験に使用した。これらには３つの状態、即ち正常、不平
衡、及び電動機固定子欠陥が存在した。各状態の下で２
つの振動信号を収集した。各状態から１つの振動信号を
使用して、修正ＡＲＴＭＡＰ回路網２００を３つの全て
の状態に対して訓練した。他の信号は診断に使用した。
結果は、ＦＤＮが全ての状態を正しく識別できることを
示した。前述したように、本発明は“望ましくない”知
識をＦＤＮから除去する学習破棄手順をも実現してい
る。ＦＤＮは全ての正しいパターンを再学習する必要が
ないので、先に学習したパターンが悪いパターンである
ことが分かった場合に、この手順は極めて有用である。
学習破棄手順がどのように働くかを調べるために、この
手順のサンプルセッションを遂行した。このセッション
では、３つのサンプルデータ集合を使用して回路網を訓
練した。各データ集合は以下に示すような３つのデータ
要素のベクトルからなっていた。 ａ１：１００ ａ２：０１０ ａ３：００１ ａ１、ａ２及びａ３の類別は、それぞれｃａｔ１、ｃａ
ｔ２、及びｃａｔ３と定義されていた。
【００３０】図１１に、学習破棄パターンａ２の前後の
３−５−５回路網の回路網ファイルを示す。回路網ファ
イル内の第１行は、入力ノードの数（３）、Ｆ2 ノード
の数（５）、写像フィールドの数（５）、警戒値（０．
９）、割当てられた類別の数（３）、及び最後の割当ら
れたノードの指標（２）のような回路網情報を含んでい
る。行２乃至６は、訓練されるパターンの類別を記憶し
ている。ファイルの残余の部分は、回路網重みの表を記
憶している。パターンａ２を学習破棄した後、割当られ
た類別の数が３から２へ、また最後の割当られたノード
の指標が２から１へ変化していた。更に、類別“ｃａｔ
２”が回路網ファイルから除去され、重み表は更新され
ていた。複数センサを使用すると診断の信頼性を改善で
きることは公知である。それ故複数知覚入力を用いて修
正ＡＲＴＭＡＰ回路網２００の能力を更に試験した。２
つの知覚信号（振動及び音響）を第１の実験装置（図１
０参照）から収集した。加速度計９９０の他に、音響放
出変換器（図示してない）を軸受ハウジングに取り付け
て音響信号を収集した。訓練及び試験プロセス中、振動
信号及び音響信号の両方を修正ＡＲＴＭＡＰ回路網へ提
示した。この検討中、両知覚入力は等しい重要度を有す
るものとして処理した。即ち同一の回路網重みを持って
いることを指定した。もしこれら２つのセンサ間の重要
度が等しくなければ、この差はそれらの初期ボトムアッ
プ重み設定を調整することによって表すことができる。
２つの異なる知覚入力のための初期ボトムアップ重み設
定は以下の式によって与えられる。 もしｉ＜Ｎ1 ならば、 Ｂij＝（１＋ｍ1 ）／（１−ｄ）√（Ｎ1 ＋Ｎ2 ） もしＮ1 ≦ｉ＜Ｎ2 ならば、 Ｂij＝（１＋ｍ2 ）／（１−ｄ）√（Ｎ1 ＋Ｎ2 ） （２５） ０≦ｉ＜Ｎ1 ＋Ｎ2 但し、Ｎ1 は振動入力ベクトルのディメンジョンであ
り、Ｎ2 は音響入力ベクトルのディメンジョンであり、
ｍ1 は振動信号の重み係数であり、そしてｍ2 は音響信
号の重み係数である。例えば、もし振動信号に 70 ％の
重みを賦課し、音響信号に 30 ％の重みを与えるのであ
れば、ｍ1 及びｍ2 の値をそれぞれ 0.7 及び 0.3 に
等しくする。
３−５−５回路網の回路網ファイルを示す。回路網ファ
イル内の第１行は、入力ノードの数（３）、Ｆ2 ノード
の数（５）、写像フィールドの数（５）、警戒値（０．
９）、割当てられた類別の数（３）、及び最後の割当ら
れたノードの指標（２）のような回路網情報を含んでい
る。行２乃至６は、訓練されるパターンの類別を記憶し
ている。ファイルの残余の部分は、回路網重みの表を記
憶している。パターンａ２を学習破棄した後、割当られ
た類別の数が３から２へ、また最後の割当られたノード
の指標が２から１へ変化していた。更に、類別“ｃａｔ
２”が回路網ファイルから除去され、重み表は更新され
ていた。複数センサを使用すると診断の信頼性を改善で
きることは公知である。それ故複数知覚入力を用いて修
正ＡＲＴＭＡＰ回路網２００の能力を更に試験した。２
つの知覚信号（振動及び音響）を第１の実験装置（図１
０参照）から収集した。加速度計９９０の他に、音響放
出変換器（図示してない）を軸受ハウジングに取り付け
て音響信号を収集した。訓練及び試験プロセス中、振動
信号及び音響信号の両方を修正ＡＲＴＭＡＰ回路網へ提
示した。この検討中、両知覚入力は等しい重要度を有す
るものとして処理した。即ち同一の回路網重みを持って
いることを指定した。もしこれら２つのセンサ間の重要
度が等しくなければ、この差はそれらの初期ボトムアッ
プ重み設定を調整することによって表すことができる。
２つの異なる知覚入力のための初期ボトムアップ重み設
定は以下の式によって与えられる。 もしｉ＜Ｎ1 ならば、 Ｂij＝（１＋ｍ1 ）／（１−ｄ）√（Ｎ1 ＋Ｎ2 ） もしＮ1 ≦ｉ＜Ｎ2 ならば、 Ｂij＝（１＋ｍ2 ）／（１−ｄ）√（Ｎ1 ＋Ｎ2 ） （２５） ０≦ｉ＜Ｎ1 ＋Ｎ2 但し、Ｎ1 は振動入力ベクトルのディメンジョンであ
り、Ｎ2 は音響入力ベクトルのディメンジョンであり、
ｍ1 は振動信号の重み係数であり、そしてｍ2 は音響信
号の重み係数である。例えば、もし振動信号に 70 ％の
重みを賦課し、音響信号に 30 ％の重みを与えるのであ
れば、ｍ1 及びｍ2 の値をそれぞれ 0.7 及び 0.3 に
等しくする。
【００３１】以上に本発明をその好ましい実施例に関し
て説明したが、本発明の思想及び範囲から逸脱すること
なくその形状及び細部に種々の変更を行い得ることは明
白である。
て説明したが、本発明の思想及び範囲から逸脱すること
なくその形状及び細部に種々の変更を行い得ることは明
白である。
【図１】予測適応共鳴理論（ＡＲＴ）もしくはＡＲＴＭ
ＡＰと呼ばれる神経回路網アーキテクチャを示す図であ
る。
ＡＰと呼ばれる神経回路網アーキテクチャを示す図であ
る。
【図２】監視学習を遂行するために採用された修正ＡＲ
ＴＭＡＰ回路網を示す図である。
ＴＭＡＰ回路網を示す図である。
【図３】本発明の３つの基本構成を示す図である。
【図４】修正ＡＲＴＭＡＰ回路網のＦ1 層の詳細図であ
る。
る。
【図５】例示入力ベクトルと共にＡＲＴ ２回路網を示
す図である。
す図である。
【図６】回路網診断手順を示す流れ図である。
【図７】修正ＡＲＴＭＡＰ回路網を訓練するために使用
される訓練手順の流れ図の一部である。
される訓練手順の流れ図の一部である。
【図８】図７の流れ図の続きである。
【図９】修正ＡＲＴＭＡＰ回路網を訓練するために使用
される学習破棄手順の流れ図である。
される学習破棄手順の流れ図である。
【図１０】修正ＡＲＴＭＡＰ回路網を試験するための１
対の研究室実験装置を示す図である。
対の研究室実験装置を示す図である。
【図１１】先に学習したパラメタを学習破棄する前後の
３−５−５回路網の回路網ファイルを示す表である。
３−５−５回路網の回路網ファイルを示す表である。
１００ ＡＲＴ神経回路網アーキテクチャ １１０ ＡＲＴ １回路網 １２０ ＡＲＴ ２回路網 １３０ 写像フィールド ２００ 修正ＡＲＴＭＡＴ回路網 ２１０ 入力パターン（ベクトル） ２２０ 目標出力パターン（ベクトル） ２２５ ＡＲＴモジュール ２３０ 写像フィールド ２３５ Ｆ1 層 ２４０、２５０ 警戒試験 ２４５ Ｆ2 層 ２６０、２７０ リセット ３１０ パラメトリックモデル ３１５ パラメタ ３２０ 正規化プロセス ３２５ 正規化されたパラメタ ３３５ ＡＲＴ ２回路網の出力 ９０５ パーソナルコンピュータ ９１０、９４０ 電動機 ９１５ 電力供給ユニット ９２０、９２５ ピローブロック ９３０、９７０ ベルト ９３５、９５０ シャフト ９６０、９６５ スリーブ軸受 ９８０、９８５ ハブ ９９０ 加速度計
───────────────────────────────────────────────────── フロントページの続き (72)発明者 シュイ シュン リン アメリカ合衆国 フロリダ州 32310 タ ラハッシー ペネル サークル １−334 (72)発明者 ジェラルド エム ナップ アメリカ合衆国 ルイジアナ州 70808 バトン ルージュ グレンモア アベニュ ー 1765 (72)発明者 スー ピン ワン アメリカ合衆国 フロリダ州 32308 タ ラハッシー シャムロック ノース 3029
Claims (21)
- 【請求項１】 神経回路網のための監視学習環境を提供
する装置であって、 （ａ）入力パターンを受けるようになっていて、第１の
層と第２の層を有し、第１の警戒試験を遂行して認識類
別を生成するＡＲＴモジュールと、 （ｂ）上記ＡＲＴモジュールと目標出力パターンとに接
続されていて、上記認識類別と上記目標出力パターンと
の間の写像を遂行し、第２の警戒試験の遂行をトリガす
る写像フィールドとを備え、上記第２の警戒試験は上記
目標出力パターンと上記認識類別との間の近さを決定す
ることを特徴とする装置。 - 【請求項２】 上記第１の層は３つのレベルを備え、上
記各レベルは、 フィールド内及びフィールド間入力の積分を遂行して積
分された活動化信号を発生する手段と、 上記積分された活動化信号の正規化を遂行する手段と、
を含む請求項１に記載の装置。 - 【請求項３】 上記ＡＲＴモジュールは、２進もしくは
アナログ入力パターンを受け入れることができるＡＲＴ
２回路網である請求項１に記載の装置。 - 【請求項４】 上記目標出力パターンは２進ベクトルで
あり、上記２進ベクトルの各ノードは特定の機械もしく
はプロセス状態に対応する請求項１に記載の装置。 - 【請求項５】 被検査機械から収集した生の振動信号を
所定のパラメトリックモデルに適合させるパラメタ手段
をも備え、上記パラメタ手段はパラメタを生成する請求
項１に記載の装置。 - 【請求項６】 上記パラメタ手段に接続されていて上記
パラメタから有意味負値を除去する正規化モジュールを
も備えている請求項５に記載の装置。 - 【請求項７】 上記正規化モジュールは、 （１）上記パラメタを負部分と正部分とに分割する手段
と、 （２）上記パラメタを最大パラメタ値で除すことによっ
て上記負部分及び上記正部分を基準化する手段とを備え
ている請求項６に記載の装置。 - 【請求項８】 上記第２の層の各ノードは、特定の障害
状態に対応する請求項１に記載の装置。 - 【請求項９】 修正ＡＲＴＭＡＰ神経回路網の訓練及び
試験をコンピュータで実現する方法において、上記修正
ＡＲＴＭＡＰ神経回路網は入力パターンを受けるＡＲＴ
モジュールと、上記ＡＲＴモジュールに接続されていて
目標出力パターンを受ける写像フィールドとを有し、上
記方法は、 （１）修正ＡＲＴＭＡＰ神経回路網への入力パターン及
び目標出力パターンの両方を準備する段階と、 （２）第１の警戒試験に基づいてアップダウン重み及び
ボトムアップ重みの集合を更新する段階と、 （３）予測される出力をＡＲＴモジュールから写像フィ
ールドへ伝播させる段階と、 （４）写像フィールドによって遂行される第２の警戒試
験に基づいて上記アップダウン重み及びボトムアップ重
みの集合を更新する段階とを備え、上記第２の警戒試験
は、目標出力パターンと上記予測される出力との比較に
基づくことを特徴とする方法。 - 【請求項１０】 修正ＡＲＴＭＡＰ神経回路網の訓練及
び試験をコンピュータで実現する方法において、上記修
正ＡＲＴＭＡＰ神経回路網は、入力パターンを受けるよ
うになっていて第１の層及び第２の層を有するＡＲＴモ
ジュールと、上記ＡＲＴモジュールに接続されていて目
標出力パターンを受ける写像フィールドとを有し、上記
方法は、 （１）学習すべき入力パターンを修正ＡＲＴＭＡＰ神経
回路網へ提示する段階と、 （２）第１の層に関する活動の集合を決定する段階と、 （３）第２の層に関する整合スコアの集合を決定する段
階と、 （４）第２の層から最大整合スコアを有するノードを活
動化し、活動化されたノードを予測される出力とする段
階と、 （５）上記ノードの上記活動化に基づいて第１の警戒試
験を遂行し、もし上記第１の警戒試験に失敗すれば上記
活動化されたノードを非活動化して上記段階（２）乃至
（５）を繰り返し、もし上記第１の警戒試験を通れば第
１の層と第２の層との間のボトムアップ及びトップダウ
ン重みを更新し、また第２の層と写像フィールドとの間
の重みを更新する段階と、 （６）上記整合スコアを上記第２の層から前記写像フィ
ールドへ伝播させる段階と、 （７）第２の警戒試験を遂行し、上記第２の層からの上
記予測される出力と目標出力パターンとの間の整合のレ
ベルを決定し、もし第２の警戒試験を通れば上記ボトム
アップ重み、上記トップダウン重み、及び第２の層と写
像フィールドとの間の重みを更新する段階とを備え、上
記ボトムアップ重み及び上記トップダウン重みを更新す
ることによって修正ＡＲＴＭＡＰ神経回路網を訓練する
ことを特徴とする方法。 - 【請求項１１】 上記入力パターンは、上記修正ＡＲＴ
ＭＡＰ神経回路網へ提示される前に正規化される請求項
１０に記載の方法。 - 【請求項１２】 上記段階（７）は、もし上記第２の警
戒試験に失敗すればＡＲＴモジュールへリセット信号を
送り、さらなる誤差が発生しないように上記第１の警戒
試験の警戒値を高め、そして第２の層内の別のノードを
活動化する段階をも備えている請求項１０に記載の方
法。 - 【請求項１３】 上記活動化されたノードに対して上記
段階（５）を繰り返す段階をも備えている請求項１２に
記載の方法。 - 【請求項１４】 各入力パターン毎に上記（１）乃至
（７）を反復して繰り返す請求項１２に記載の方法。 - 【請求項１５】 診断段階中に使用するために上記ボト
ムアップ重み及び上記トップダウン重みを保管する段階
をも備えている請求項１４に記載の方法。 - 【請求項１６】 上記診断段階は、 (i)ユーザから入力データを取得する段階と、 (ii)上記取得した入力データに基づいて仮の診断を行う
段階と、 (iii)上記診断が第１の警戒試験を通るか否かを決定す
るために検査する段階とを含み、もし上記診断が上記第
１の警戒試験を通れば上記診断の結果が上記ユーザへ報
告されて上記ユーザは現入力パターンを用いて上記神経
回路網を訓練することが可能になり、もし上記診断が上
記第１の警戒試験に落ちれば上記ユーザは既知の正しい
障害分類を用いて修正ＡＲＴＭＡＰ神経回路網を訓練す
るか、もしくは上記ユーザは別の診断を要求することが
できる請求項１５に記載の方法。 - 【請求項１７】 上記入力パターンは、上記修正ＡＲＴ
ＭＡＰ神経回路網へ上記入力パターンが提示される前に
正規化される請求項１０に記載の方法。 - 【請求項１８】 上記修正ＡＲＴＭＡＰ神経回路網の訓
練を開始する前に、上記ボトムアップ重み、上記トップ
ダウン重み、及び全ての上記第１の活動を初期化する段
階をも備えている請求項１０に記載の方法。 - 【請求項１９】 上記修正ＡＲＴＭＡＰ神経回路網から
望ましくない知識を除去する段階をも備え、上記段階
が、 （１）学習すべきではない知覚パターンを上記修正ＡＲ
ＴＭＡＰ神経回路網へ提示する段階と、 （２）第１の層に関する活動の集合を決定する段階と、 （３）上記活動の集合に基づいて第２の層に関する整合
スコアの集合を決定する段階と、 （４）第２の層内の最大整合スコアを有するノードを活
動化する段階と、 （５）警戒試験を遂行し、もし上記警戒試験に失敗すれ
ば上記活動化されたノードを非活動化して上記段階
（２）乃至（５）を繰り返し、もし上記警戒試験を通れ
ば第１の層と第２の層との間のボトムアップ及びトップ
ダウン重みを更新し第２の層と写像フィールドとの間の
重みを更新する段階と、を備えている請求項１０に記載
の方法。 - 【請求項２０】 修正ＡＲＴＭＡＰ神経回路網から望ま
しくない知識の除去をコンピュータで実現する方法にお
いて、上記修正ＡＲＴＭＡＰ神経回路網は、入力パター
ンを受けるようになっていて第１の層及び第２の層を有
するＡＲＴモジュールと、上記ＡＲＴモジュールに接続
されていて目標出力パターンを受ける写像フィールドと
を有し、上記方法は、 （１）学習すべきではない知覚パターンを修正ＡＲＴＭ
ＡＰ神経回路網へ提示する段階と、 （２）第１の層に関する活動の集合を決定する段階と、 （３）上記活動の集合に基づいて第２の層に関する整合
スコアの集合を決定する段階と、 （４）第２の層内の最大整合得点を有するノードを活動
化する段階と、 （５）少なくとも１回の警戒試験を遂行し、もし上記少
なくとも１回の警戒試験に失敗すれば上記活動化された
ノードを非活動化して上記段階（２）乃至（５）を繰り
返し、もし上記少なくとも１回の警戒試験を通れば第１
の層と第２の層との間のボトムアップ及びトップダウン
重みを更新し、また第２の層と写像フィールドとの間の
重みを更新する段階とを備えていることを特徴とする方
法。 - 【請求項２１】 修正ＡＲＴＭＡＰ神経回路網から望ま
しくない知識を除去する装置において、上記修正ＡＲＴ
ＭＡＰ神経回路網は、入力パターンを受けるようになっ
ていて第１の層及び第２の層を有するＡＲＴモジュール
と、上記ＡＲＴモジュールに接続されていて目標出力パ
ターンを受ける写像フィールドとを有し、上記装置は、 （１）学習すべきではない知覚パターンを修正ＡＲＴＭ
ＡＰ神経回路網へ提示する手段と、 （２）第１の層に関する活動の集合を決定する手段と、 （３）上記活動の集合に基づいて第２の層に関する整合
スコアの集合を決定する手段と、 （４）第２の層内の最大整合スコアを有するノードを活
動化する手段と、 （５）少なくとも１回の警戒試験を遂行し、もし上記少
なくとも１回の警戒試験に落ちれば上記活動化されたノ
ードを非活動化して上記段階（２）乃至（５）を繰り返
し、もし上記少なくとも１回の警戒試験を通れば第１の
層と第２の層との間のボトムアップ及びトップダウン重
みを更新し、また第２の層と写像フィールドとの間の重
みを更新する手段とを備えていることを特徴とする装
置。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US08/176,458 US5566273A (en) | 1993-12-30 | 1993-12-30 | Supervised training of a neural network |
| US08/176458 | 1993-12-30 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH07225748A true JPH07225748A (ja) | 1995-08-22 |
Family
ID=22644436
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6318967A Withdrawn JPH07225748A (ja) | 1993-12-30 | 1994-12-22 | 神経回路網の監視訓練装置及び方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US5566273A (ja) |
| JP (1) | JPH07225748A (ja) |
| FR (2) | FR2714748B1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020022302A1 (ja) * | 2018-07-26 | 2020-01-30 | Ntn株式会社 | 把持装置 |
Families Citing this family (30)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3058564B2 (ja) * | 1994-07-14 | 2000-07-04 | 東京電力株式会社 | 送電線故障区間及び故障様相の評定方法 |
| US5712959A (en) * | 1995-07-07 | 1998-01-27 | Streit; Roy L. | Neural network architecture for non-Gaussian components of a mixture density function |
| US5724487A (en) * | 1995-07-07 | 1998-03-03 | Streit; Roy L. | Neural network for maximum likelihood classification with supervised and unsupervised training capability |
| US5854993A (en) * | 1996-12-10 | 1998-12-29 | Caterpillar Inc. | Component machine testing using neural network processed vibration data analysis |
| US6185337B1 (en) | 1996-12-17 | 2001-02-06 | Honda Giken Kogyo Kabushiki Kaisha | System and method for image recognition |
| DE19808197C2 (de) * | 1998-02-27 | 2001-08-09 | Mtu Aero Engines Gmbh | System und Verfahren zur Diagnose von Triebwerkszuständen |
| US6301572B1 (en) * | 1998-12-02 | 2001-10-09 | Lockheed Martin Corporation | Neural network based analysis system for vibration analysis and condition monitoring |
| US6240343B1 (en) | 1998-12-28 | 2001-05-29 | Caterpillar Inc. | Apparatus and method for diagnosing an engine using computer based models in combination with a neural network |
| WO2001014992A1 (en) * | 1999-08-25 | 2001-03-01 | Kent Ridge Digital Labs | Document classification apparatus |
| US6424961B1 (en) | 1999-12-06 | 2002-07-23 | AYALA FRANCISCO JOSé | Adaptive neural learning system |
| US7577631B2 (en) * | 2001-09-10 | 2009-08-18 | Feldhake Michael J | Cognitive image filtering |
| US7849032B1 (en) * | 2002-05-24 | 2010-12-07 | Oracle International Corporation | Intelligent sampling for neural network data mining models |
| US7493295B2 (en) * | 2003-01-17 | 2009-02-17 | Francisco J. Ayala | Method, system and computer program for developing cortical algorithms |
| JP2007504576A (ja) * | 2003-01-17 | 2007-03-01 | アヤラ，フランシスコ，ジェイ | 人工知能を開発するためのシステム及び方法 |
| NL1023948C2 (nl) * | 2003-07-18 | 2005-01-19 | Skf Ab | Werkwijze en sensoropstelling voor belastingsmeting op een lager met rolelementen. |
| FR2939545A1 (fr) * | 2008-12-10 | 2010-06-11 | Nourredine Zerhouni | Systeme de surveillance |
| US8160354B2 (en) * | 2008-12-26 | 2012-04-17 | Five Apes, Inc. | Multi-stage image pattern recognizer |
| US8229209B2 (en) * | 2008-12-26 | 2012-07-24 | Five Apes, Inc. | Neural network based pattern recognizer |
| US8290250B2 (en) * | 2008-12-26 | 2012-10-16 | Five Apes, Inc. | Method and apparatus for creating a pattern recognizer |
| US10423694B2 (en) | 2014-03-06 | 2019-09-24 | Progress, Inc. | Neural network and method of neural network training |
| EA035114B1 (ru) | 2014-03-06 | 2020-04-29 | Прогресс, Инк. | Нейронная сеть и способ обучения нейронной сети |
| US9619749B2 (en) | 2014-03-06 | 2017-04-11 | Progress, Inc. | Neural network and method of neural network training |
| CN103927534B (zh) * | 2014-04-26 | 2017-12-26 | 无锡信捷电气股份有限公司 | 一种基于卷积神经网络的喷码字符在线视觉检测方法 |
| CN104777418B (zh) * | 2015-05-11 | 2017-10-13 | 重庆大学 | 一种基于深度波尔兹曼机的模拟电路故障诊断方法 |
| US20170275986A1 (en) * | 2015-11-05 | 2017-09-28 | Halliburton Energy Services Inc. | Fluid flow metering with point sensing |
| US10712733B2 (en) * | 2016-12-12 | 2020-07-14 | Mitsubishi Electric Research Laboratories, Inc. | Methods and systems for discovery of prognostic subsequences in time series |
| JP6723944B2 (ja) * | 2017-03-08 | 2020-07-15 | 株式会社日立製作所 | プラントデータ分類装置、プラントデータ表示処理装置及びプラント制御システム |
| CN110240072B (zh) * | 2019-06-17 | 2020-05-15 | 辽宁机电职业技术学院 | 一种用于起重机伸缩臂的控制方法 |
| US11961052B2 (en) | 2020-12-15 | 2024-04-16 | Caterpillar Inc. | Systems and methods for wear assessment and part replacement timing optimization |
| CN114567512B (zh) * | 2022-04-26 | 2022-08-23 | 深圳市永达电子信息股份有限公司 | 基于改进art2的网络入侵检测方法、装置及终端 |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4803736A (en) * | 1985-11-27 | 1989-02-07 | The Trustees Of Boston University | Neural networks for machine vision |
| JP2517036B2 (ja) * | 1985-11-27 | 1996-07-24 | ザ・トラステイ−ズ・オブ・ボストン・ユニバ−シテイ | パタ―ン認識システム及び方法 |
| EP0247163B1 (en) * | 1985-11-27 | 1992-02-05 | Trustees Of Boston University | Pattern encoding system |
| US4914708A (en) * | 1987-06-19 | 1990-04-03 | Boston University | System for self-organization of stable category recognition codes for analog input patterns |
| US5133021A (en) * | 1987-06-19 | 1992-07-21 | Boston University | System for self-organization of stable category recognition codes for analog input patterns |
| WO1991011776A2 (en) * | 1990-01-12 | 1991-08-08 | The Trustees Of Boston University | Hierarchical pattern recognition system with variable selection weights |
| US5058180A (en) * | 1990-04-30 | 1991-10-15 | National Semiconductor Corporation | Neural network apparatus and method for pattern recognition |
| US5157738A (en) * | 1990-12-18 | 1992-10-20 | Trustees Of Boston University | Rapid category learning and recognition system |
| EP0492641A3 (en) * | 1990-12-27 | 1993-05-12 | Kabushiki Kaisha Toshiba | Learning method for a learning apparatus |
| WO1992013306A1 (en) * | 1991-01-15 | 1992-08-06 | Trustees Of Boston University | Vector associative map system |
| US5214715A (en) * | 1991-01-31 | 1993-05-25 | Trustees Of Boston University | Predictive self-organizing neural network |
-
1993
- 1993-12-30 US US08/176,458 patent/US5566273A/en not_active Expired - Lifetime
-
1994
- 1994-12-16 FR FR9415524A patent/FR2714748B1/fr not_active Expired - Fee Related
- 1994-12-22 JP JP6318967A patent/JPH07225748A/ja not_active Withdrawn
-
1996
- 1996-01-12 FR FR9600502A patent/FR2728365B1/fr not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020022302A1 (ja) * | 2018-07-26 | 2020-01-30 | Ntn株式会社 | 把持装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| FR2728365B1 (fr) | 1997-05-23 |
| FR2714748B1 (fr) | 1996-08-23 |
| FR2728365A1 (fr) | 1996-06-21 |
| FR2714748A1 (fr) | 1995-07-07 |
| US5566273A (en) | 1996-10-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH07225748A (ja) | 神経回路網の監視訓練装置及び方法 | |
| Warner et al. | Understanding neural networks as statistical tools | |
| Uhrig | Introduction to artificial neural networks | |
| Kasabov | On-line learning, reasoning, rule extraction and aggregation in locally optimized evolving fuzzy neural networks | |
| Neocleous et al. | Artificial neural network learning: A comparative review | |
| Korbicz et al. | Dynamic neural networks for process modelling in fault detection and isolation systems | |
| Pham | Neural networks in engineering | |
| Tansel et al. | Detection of tool breakage in milling operations—II. The neural network approach | |
| US6965885B2 (en) | Self-organizing feature map with improved performance by non-monotonic variation of the learning rate | |
| Carpenter | Distributed activation, search, and learning by ART and ARTMAP neural networks | |
| Carpenter et al. | ART neural networks for medical data analysis and fast distributed learning | |
| Li et al. | Sensor analysis for fault detection in tightly-coupled multi-robot team tasks | |
| Hougen et al. | Fast connectionist learning for trailer backing using a real robot | |
| Parsapoor | Brain emotional learning-based prediction model (for long-term chaotic prediction applications) | |
| Madani | Industrial and real world applications of artificial neural networks illusion or reality? | |
| Viharos et al. | Survey on neuro-fuzzy systems and their applications in technical diagnostics | |
| Stepanyuk | Neural network information technologies of pattern recognition | |
| Taheri et al. | Artificial neural networks | |
| Carpenter | Art neural networks: Distributed coding and artmap applications | |
| Guo et al. | An online self-constructing wavelet fuzzy neural network for machine condition monitoring | |
| Ozdamar et al. | Detection of transient EEG patterns with adaptive unsupervised neural networks | |
| KIZGIN et al. | ARTIFICIAL NEURAL NETWORKS AND THEIR USE | |
| Kumar | Artificial neural networks for data mining | |
| Giordana et al. | Learning from mistakes | |
| Antsaklis | Control theory approach |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20020305 |