JP2722941B2 - ニューラルネットによる波形処理装置の学習設計方法 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、高密度の光・磁気記録
媒体による記録再生や、高情報量の通信路での送受信な
どの、非線形歪の影響の受けやすい（記録再生）伝送系
において信号処理する装置（例えば、波形等化装置）に
係り、特にニューラルネットを利用し、簡易な構成で、
かつ、高性能な信号処理装置の設計方法を提供するもの
である。

【０００２】

【従来の技術】従来より、高密度の光・磁気記録媒体に
よる記録再生や、高情報量の通信路での送受信など、非
線形歪の影響の受けやすい（記録再生）伝送系における
信号処理に際しては、最適な変調方式の選択，各種の波
形等化装置（イコライゼーション・フィルタリング），
ノイズキャンセラー，エンファシス・デエンファシスな
どの利用によって、信号の劣化を抑える努力がなされて
いる。例えば波形等化装置としては、トランスバーサル
形フィルタが用いられていた。トランスバーサル形フィ
ルタは、入力信号を遅延回路により遅延し、異なる増幅
係数を有するアンプで増幅して加算出力し、波形等化す
るものである。

【０００３】しかし、信号劣化の要因は多く存在し、ど
の要因にどれほど起因して信号劣化が発生したか定量的
には把握できないので、従来の波形等化装置ではほとん
ど対応できなかった。すなわち、信号（符号）の干渉程
度（信号の劣化の程度）や劣化の原因によって異なる係
数値（例えば、トランスバーサル形フィルタにおけるア
ンプの増幅係数）が要求されるので一義的に決定するこ
とが困難であり、従来のような線形な波形等化装置では
十分に対応できなかった。

【０００４】このような状況の下で、非線形の変換系を
有するニューラルネットを利用して、上述した光・磁気
記録媒体による記録再生系や、高情報量の通信路系の特
性を学習させ、伝送系からの劣化したデジタル信号をリ
アルタイムで波形等化して出力させることが考えられ、
本出願人によりすでに特許出願されている（特願平３−
３１９５２号 発明の名称「ニューラルネットによる波
形等化装置及びその設計方法」）。

【０００５】このニューラルネットを利用した波形等化
装置は、図５に示すように、入力信号（例えば、再生装
置からの波形劣化した信号）を、直列に接続された遅延
手段ＤＬによって所定の時間だけ遅延させ、時間的に前
後する複数の入力信号（値）をニューラルネットＮＮに
入力して波形等化するように構成されたものである。ニ
ューラルネットＮＮは、例えばバックプロパゲーション
(back propagation)を学習アルゴリズムとする層状（例
えば入力層，中間層［隠れ層］，出力層の３層）のニュ
ーラルネットであり、可変の重みＷで結ばれた多数のユ
ニットＵの結合（体）である。ユニットＵは非線形の入
出力特性を有する変換系であり、ユニットＵには前層か
らの出力値に独立した重みＷが乗算して得られた前層か
らの総和が入力され、この総和が非線形変換されて後層
に出力されている。このニューラルネットＮＮを利用し
て、上述した記録再生系・通信路系の特性を予め学習さ
せ、伝送系からの劣化したデジタル信号を波形等化して
出力させている。

【０００６】そして、ニューラルネット構築の学習アル
ゴリズムとしては公知のバックプロパケーション(back
propagation)が使用されている。これを詳述すると以下
の通りである。図５（及び図６）に示すように、ニュー
ラルネットＮＮにおいて、入力値（入力パターン）が入
力層に入力されると、この入力値は入力層→中間層→出
力層へ伝達・処理され、出力層から出力値（出力パター
ン）が出力される（フィードフォワード処理）。この出
力値は、それまでの学習によって得られた重みにもとづ
くものである。これに対して望ましい出力値（教師信
号）が与えられると、出力層→中間層→入力層の順で伝
達・処理され、重みの学習がなされる（フィードバック
処理）。重みの学習とは、実際の出力値と望ましい出力
値との差を減らすように、ユニット間の結合の強さ、す
なわち、重みＷを変化・収束させることである。

【０００７】すなわち、図６に示すように、原信号ａ
は、信号処理の対象である伝送系（前述した光・磁気記
録媒体による記録再生系や高情報量の通信路系）１０を
通過し、劣化した再生信号ｂとして再生される。この再
生信号ｂは、信号処理（波形等化）装置と等価であるニ
ューラルネット（ＮＮ）１１に入力され、この再生信号
ｂは入力層→中間層→出力層で伝達・演算処理され、出
力層から出力信号ｃが出力される。この出力信号ｃは、
それまでの学習によって得られた重みＷにもとづくもの
である。算出された出力信号ｃは、教師信号（原信号ａ
をもととする望ましい出力値）ｄと比較され、出力層→
中間層→入力層の順で伝達・演算処理され、学習がなさ
れる。

【０００８】具体的には、学習中のニューラルネットＮ
Ｎの出力信号ｃと教師データｄとから、両者の誤差（差
分）ｅが差分検出手段１２により算出される。さらに、
公知のバックプロパケーションによる学習アルゴリズム
（重み計算手段１３）により、実際の出力値ｃと望まし
い出力値ｄとの誤差（差分）ｅを減らすように、ユニッ
トＵ間の結合の強さ、すなわち、重みＷが計算される。
計算された重みは、重み更新手段１４により、ニューラ
ルネットＮＮの新たな重みとされる。この学習は、誤差
（差分）ｅが継続して所定の値以下となるまで続けられ
る。

【０００９】上記学習はコンピュータ上の信号処理とし
て実行され（信号をデジタルサンプリングしてデータ処
理される）、学習結果の重みを有するニューラルネット
ＮＮと等価な実体的装置（例えば、ニューラルネットの
ユニットをオペアンプで、非線形特性をダイオードの特
性で、重みを抵抗でそれぞれ構成したもの）として、波
形等化装置が設計される。設計結果に基いて組み立てら
れた装置が、波形等化装置として実際に使用される。

【００１０】

【発明が解決しようとする課題】しかし、この波形等化
装置の設計において、バックプロパゲーションによる学
習を行うと、すなわち、ニューラルネットＮＮの出力値
ｃと教師信号ｄの振幅比較で誤差評価を行うと、ゼロク
ロス点で正しい誤差評価がなされないことがある。 こ
れを図７にて説明する。教師信号ｄに対し、この時点の
ニューラルネットＮＮの出力値としてｃ１，ｃ２を考え
る。出力値ｃ１はゼロクロス（以下では、ゼロクロス点
と称することもある）においてほぼに教師信号ｄと一致
しているが、波形（全体の形状）がかなり異なるもので
ある。これに対して、出力値ｃ２は波形は同じだが、ゼ
ロクロス点のずれているものである。波形等化装置は波
形を等化して、すなわち波形の形状を調えつつ、終局的
には正しいゼロクロス点を再生しようとするものであ
り、ゼロクロス点においてほぼに教師信号ｄと一致して
いる出力値ａ１の方が実用上が望ましい信号といえる。
正しいゼロクロス点が再生できれば、デジタル信号の復
調，パルス幅変調信号の復調，ＦＭ（周波数）変調信号
の復調には十分である。

【００１１】ところが、これらの出力値に対して教師信
号との差分、すなわち誤差ｅ１，ｅ２を見ると、より望
ましい信号とすべき出力値ｃ１の方が、誤差大と評価さ
れてしまっていることがわかる（なお、誤差は学習のサ
ンプリング点で離散的に算出されるが、図中点を付した
部分が全体の誤差量に対応する）。このような誤差評価
の誤り、すなわちゼロクロスの評価誤りがあると、ニュ
ーラルネットの学習効率が落ちたり、正しい学習結果が
得られないこととなり、実用的な波形等化装置が得られ
ないこととなる。

【００１２】そこで、本発明では、このゼロクロスの評
価誤りを解消するとともに、ゼロクロス誤差そのものを
小さくするようなニューラルネットの学習法を提供し、
もってニューラルネットを利用した実用的な信号処理回
路を提供しようとするものである。

【００１３】

【課題を解決するための手段】本発明は上記課題を解決
するために、図１及び図５に示すように、伝送系１０か
らの劣化した信号を遅延させる手段ＤＬと、少なくとも
非線形の人出力特性を有する変換系を含む複数の変換系
Ｕが独立した重みＷで結ばれた変換手段とからなり、前
記伝送系１０からの劣化した信号ｂを波形処理して出力
するニューラルネット（ＮＮ）１１による波形処理装置
の学習設計方法であって、前記ニューラルネット１１の
学習は、望ましい信号値ｄと学習中のニューラルネット
の出力値ｃとの誤差（ｆ）を減らすように、前記複数の
変換系の重みを変化収束させると共に、望ましい信号値
ｄのゼロクロス近傍に対しては、ゼロクロス近傍でない
時よりも略２倍以上に前記誤差を大きく評価して（ｅを
Ｅとする）学習するようにしたことを特徴とするニュー
ラルネットによる波形処理装置の学習設計方法を提供す
るものである。

【００１４】さらに、図２及び図４に示すように、望ま
しい信号値のゼロクロス近傍は、望ましい信号値のゼロ
クロス点ｍを中心とて、時間的に前後した所定の区間Ｍ
であるニューラルネットによる波形処理装置の学習設計
方法と、望ましい信号値のゼロクロス近傍は、望ましい
信号値のゼロクロス点ｍと学習中のニューラルネットの
出力値のゼロクロス点ｎとの間ＮＮであるニューラルネ
ットによる波形処理装置の学習設計方法をも提供するも
のである。

【００１５】

【作用】上記のように構成されたニューラルネットによ
る波形処理装置の学習設計方法によれば、ゼロクロス近
傍に対しては、前記誤差を大きく評価して学習するの
で、波形の形状よりも、正確なゼロクロスの再生に重点
がおかれて、ニューラルネットが学習構築され、波形処
理装置が設計される。

【００１６】

【実施例】本発明になるニューラルネットによる波形処
理装置の学習設計方法の一実施例を以下図面と共に詳細
に説明する。図１は学習設計方法の概略を説明する構成
図である。図２は学習における誤差評価を説明する図で
ある。なお、ニューラルネットによる波形処理はすでに
説明した図５の構成によるものである。すなわち、入力
信号（伝送系からの波形劣化した信号）は、直列に接続
された遅延手段ＤＬによって所定の遅延時間が与えられ
て、時間的に前後する複数の入力信号（値）がニューラ
ルネットＮＮに入力されるように構成されている。そこ
で、波形処理装置として波形等化装置を例として、本発
明の要部である学習設計方法について詳述する。

【００１７】（実施例１）この実施例１は、バックプロ
パゲーションによる学習（望ましい信号値と学習中のニ
ューラルネットの出力値との誤差を減らすように、前記
複数の変換系の重みを変化収束させる手法）に際して、
望ましい信号値のゼロクロス近傍に対しては、誤差を大
きく評価して学習するようにしたものであり、特に、誤
差を大きく評価するゼロクロス近傍としては、望ましい
信号値のゼロクロス点ｍを中心とした（時間的に前後し
た所定の）区間Ｍを使用したものである（図２及び図３
参照）。

【００１８】図１に示すように、原信号ａは、信号処理
の対象である伝送系（前述した光・磁気記録媒体による
記録再生系や高情報量の通信路系）１０を通過し、劣化
した再生信号ｂとして再生される。この再生信号ｂは、
信号処理（波形等化）装置と等価であるニューラルネッ
ト（ＮＮ）１１に入力され、この再生信号ｂは入力層→
中間層→出力層で伝達・演算処理され、出力層から出力
信号ｃが出力される（なお、図６参照）。この出力信号
ｃは、それまでの学習によって得られた重みＷにもとづ
くものである。算出された出力信号ｃは、教師信号（原
信号ａをもととする望ましい出力値）ｄと比較され、出
力層→中間層→入力層の順で伝達・演算処理され、学習
がなされる。

【００１９】そして、学習中のニューラルネットＮＮの
出力信号ｃと、教師データｄとの誤差（差分）ｅが、差
分検出手段１２により算出される。さらに、誤差（差
分）ｅは倍率手段１６により所定倍（例えば、２倍）さ
れて、倍数誤差（値）Ｅとされる。これらの誤差ｅと倍
数誤差（値）Ｅは、次段の切替え手段１６に入力されて
いる。

【００２０】一方、ゼロクロス検出手段１７により、教
師信号ｄがゼロクロス近傍（図２及び図３の区間Ｍ）と
なったタイミングで制御信号ｇが前記切替え手段１６に
出力されて、誤差ｅと倍数誤差Ｅとが適宜切替えられ、
学習用の誤差ｆとして重み計算手段１３に入力される。
すなわち、教師信号ｄがゼロクロス近傍となった時で
は、倍数誤差Ｅが学習用の誤差ｆとして重み計算手段１
３に入力され、教師信号ｄがゼロクロス近傍でない時で
は、誤差ｅが学習用の誤差ｆとして重み計算手段１３に
入力される。この学習用の誤差ｆをもとに公知のバック
プロパケーションによる学習アルゴリズム（重み計算手
段１３）により、学習用の誤差ｆを減らすように、ユニ
ット間の結合の強さ、すなわち、重みＷが計算される。
計算された重みは、重み更新手段１４により、ニューラ
ルネットＮＮの新たな重みとされる。この学習は、誤差
（差分）ｅが継続して所定の値以下となるまで続けられ
る。

【００２１】このように、図２に示すように、教師信号
（値）がゼロクロス近傍にあるときでは（例えば、望ま
しい信号値のゼロクロス点ｍを中心として、時間的に前
後した所定の区間Ｍ）、誤差が大きく（例えば２倍）評
価されて学習されることとなる。すなわち、図３に示す
ように、ゼロクロスが正しくより望ましい信号である出
力値ｃ１のほう（差分ｆ１）が、波形のみが正しい出力
値ｃ２（差分ｆ２）と比較して誤差小と評価されいるの
で、この結果、（従来例である図７と比較して）ゼロク
ロス誤差をよりはっきりと評価して学習できることとな
り、ゼロクロス誤差の少ないニューラルネットが構築さ
れ、実用的な信号処理回路を設計提供されることとな
る。

【００２２】（実施例２）この実施例２では、教師信号
ｄと出力値ｃとの間のゼロクロスのずれの期間Ｎについ
て、誤差評価（前述したバックプロパゲーションでの振
幅誤差評価）に重みをつけること（例えば２倍）によっ
て、誤差評価の尺度にゼロクロスの時間誤差を通常の振
幅誤差計算よりも多く加味されるようにしたものであ
る。すなわち、図１に示したゼロクロス検出手段１７に
ニューラルネットＮＮの出力値ｃをも入力して、図４に
示すように、望ましい信号値のゼロクロス点ｍと出力値
ｃのゼロクロス点ｎの区間Ｎでの誤差評価を大きくする
ように、切替え手段１６に制御信号ｇを出力したもので
ある。

【００２３】このようにしても、ゼロクロスが正しくよ
り望ましい信号である出力値（ｃ１）のほうが波形のみ
が正しい出力値（ｃ２）と比較して誤差小と評価され、
この結果、（従来例である図７と比較して）ゼロクロス
誤差をよりはっきりと評価して学習できることとなり、
ゼロクロス誤差の少ないニューラルネットが構築され、
実用的な信号処理回路を設計提供されることとなる。

【００２４】以上詳述したようなニューラルネットによ
る波形等化装置の学習設計方法によれば、学習設計され
た信号処理装置は波形の形状を調えつつ、正しいゼロク
ロス点を再生するものとなる。このように、正しいゼロ
クロス点が再生できるので、デジタル信号の復調，パル
ス幅変調信号の復調，ＦＭ（周波数）変調信号の復調な
どに適した高性能な波形等化装置を提供でき、ニューラ
ルネットを利用したのでその設計も簡易、かつ、正確な
ものとなる。

【００２５】

【発明の効果】本発明になるニューラルネットによる波
形処理装置の学習設計方法は、伝送系からの劣化した信
号を遅延させる手段と、少なくとも非線形の入出力特性
を有する変換系を含む複数の変換系が独立した重みで結
ばれた変換手段とからなり、前記伝送系からの劣化した
信号を波形処理して出力するニューラルネットによる波
形処理装置の学習設計方法であって、前記ニューラルネ
ットの学習は、望ましい信号値と学習中のニューラルネ
ットの出力値との誤差を減らすように、前記複数の変換
系の重みを変化収束させると共に、望ましい信号値のゼ
ロクロス近傍に対しては、ゼロクロス近傍でない時より
も略２倍以上に前記誤差を大きく評価して学習するよう
にしたものであるから、波形の形状よりもゼロクロスの
再生に重点がおかれて、ニューラルネットが学習構築さ
れて、正確なゼロクロス再生ができる波形処理装置が設
計提供される。ニューラルネットを利用したのでその設
計も簡易、かつ、正確なものであり、極めて実用性が高
い。

【図面の簡単な説明】

【図１】本発明になるニューラルネットによる波形処理
装置の学習設計方法の一実施例を示す図で、学習設計方
法の概略を説明する構成図である。

【図２】学習における誤差評価の方法を説明する図であ
る。

【図３】学習における誤差評価の結果を説明する図であ
る。

【図４】学習における別の誤差評価の方法を説明する図
である。

【図５】波形等化処理をなすニューラルネットの構成図
である。

【図６】従来の学習設計方法の概略を説明する構成図で
ある。

【図７】従来の学習における誤差評価の結果を説明する
図である。

【符号の説明】

ＤＬ…遅延手段、ＮＮ…ニューラルネット、Ｕ…ユニッ
ト、Ｗ…可変の重み、１０…伝送系（光・磁気記録媒体
による記録再生系や高情報量の通信路系）、１１…ニュ
ーラルネット（ＮＮ）、１２…差分検出手段、１３…重
み計算手段、１４…重み更新手段、１５…倍率手段、１
６…切替え手段、１７…ゼロクロス検出手段、ａ…原信
号、ｂ…再生信号、ｃ…出力信号、ｄ…教師信号（望ま
しい出力値）、ｅ…誤差（差分）、ｆ…学習用の誤差、
ｇ…制御信号、Ｅ…倍数誤差（値）、ｍ…望ましい信号
値のゼロクロス点、ｎ…ニューラルネットの出力値のゼ
ロクロス点、Ｍ…ゼロクロス点ｍを中心とて、時間的に
前後した所定の区間、Ｎ…ゼロクロス点ｍとゼロクロス
点ｎとの間。

Claims (3)

(57)【特許請求の範囲】
1. 【請求項１】伝送系からの劣化した信号を遅延させる手
   段と、少なくとも非線形の入出力特性を有する変換系を
   含む複数の変換系が独立した重みで結ばれた変換手段と
   からなり、前記伝送系からの劣化した信号を波形処理し
   て出力するニューラルネットによる波形処理装置の学習
   設計方法であって、 前記ニューラルネットの学習は、望ましい信号値と学習
   中のニューラルネットの出力値との誤差を減らすよう
   に、前記複数の変換系の重みを変化収束させると共に、 望ましい信号値のゼロクロス近傍に対しては、ゼロクロ
   ス近傍でない時よりも略２倍以上に前記誤差を大きく評
   価して学習するようにしたことを特徴とするニューラル
   ネットによる波形処理装置の学習設計方法。
2. 【請求項２】望ましい信号値のゼロクロス近傍は、望ま
   しい信号値のゼロクロス点を中心とて、時間的に前後し
   た所定の区間であることを特徴とする請求項１記載のニ
   ューラルネットによる波形処理装置の学習設計方法。
3. 【請求項３】望ましい信号値のゼロクロス近傍は、望ま
   しい信号値のゼロクロス点と学習中のニューラルネット
   の出力値のゼロクロス点との間であることを特徴とする
   請求項１記載のニューラルネットによる波形処理装置の
   学習設計方法。