JP3152169B2 - 適応フィルタ及びステップサイズ制御方法及びプログラムを記録した記録媒体 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、データ伝送や音響
システムに用いられるエコーキャンセラ、ディジタルデ
ータ伝送用自動等化器、また一般に未知システムの同定
に用いられる適応フィルタ及びこの適応フィルタで用い
られるステップサイズ制御方法、プログラムを記録した
記録媒体に関する。

【０００２】

【従来の技術】はじめに適応フィルタの原理について述
べる。図６に適応フィルタの原理図を示す。適応フィル
タは、既知のフィルタ入力信号系列から未知信号系列の
推定値を作成し、未知信号系列とこの推定値系列との誤
差の信号系列をもとに、フィルタの有するパラメータを
更新し、未知システムを正しく同定するものである。未
知信号系列には、通常観測時の雑音が相加される。適応
フィルタは、未学習の初期状態から最終状態に収束す
る。また、未知信号系列は未知システムの、前述した入
力信号系列に対する応答として与えられる場合が多い。
エコーキャンセラや自動等化器がこの場合に相当する。

【０００３】適応フィルタは、非巡回型（ＦＩＲ）とし
て実現することが多く、図７に示す構成となる。本図は
k 番目のタップ重みの制御回路を示している。ここで誤
差信号系列 e_n と雑音系列ν_n との和を用いてN 個のタ
ップ重みc₀,c₁,・・・, c_N-1 の各係数を制御する。本図で
n は時刻、 a_n は入力信号系列、α_c ⁽ⁿ⁾ は時刻n にお
けるステップサイズである。この図で示したタップ重み
の一般的な確率勾配制御アルゴリズムは次式で与えられ
る。 c⁽ⁿ⁺¹⁾ ＝ c⁽ⁿ⁾ ＋α_c ⁽ⁿ⁾ f( e_n ＋ν_n )g(a⁽ⁿ⁾ ) ‥‥ (1)

【０００４】ここで、 c⁽ⁿ⁾ ＝[c₀ ⁽ⁿ⁾ ,c₁ ⁽ⁿ⁾ ,・・・,c
_N-1 ⁽ⁿ⁾ ] ^T および a⁽ⁿ⁾ ＝[a_n ,a_n-1,・・・, a_n-N+1]^T
は、それぞれタップ重みおよび入力信号系列をベクトル
として表したものであり、関数f( )およびg( )はともに
奇関数で、一般に非線形である。また、g( a⁽ⁿ⁾ ) はベ
クトル[g(a_n ), g(a_n-1),・・・,g(a_n-N+1)] ^T を意味し、
また[ ] ^T は、ベクトルまたは行列の転置を示す。

【０００５】適応フィルタのタップ重みの制御アルゴリ
ズムとして、工業上よく用いられるものに 確率勾配ＬＭＳアルゴリズム：f(x)＝x,g(a ⁽ⁿ⁾ ) ＝ a
⁽ⁿ⁾ 確率勾配正規化ＬＭＳアルゴリズム：f(x)＝x,g(a
⁽ⁿ⁾ ) ＝ a⁽ⁿ⁾ /Pa,Pa＝ a^{(n )T} a⁽ⁿ⁾ 確率勾配サインドリグレッサアルゴリズム：f(x)＝x,g
(a ⁽ⁿ⁾ ) ＝sgn( a⁽ⁿ⁾ ) 確率勾配サインアルゴリズム：f(x)＝sgn(x), g(
a⁽ⁿ⁾ ) ＝ a⁽ⁿ⁾ 確率勾配サイン−サインアルゴリズム：f(x)＝sgn(x),
g( a⁽ⁿ⁾ ) ＝sgn( a⁽ⁿ⁾) などがある。ただしsgn( )は極性関数である。

【０００６】次にステップサイズの選び方について述べ
る。ステップサイズは係数の収束時間や収束後の残留誤
差量を決定するパラメータであるが、このステップサイ
ズの値を固定とした場合、フィルタの収束が安定となる
範囲で大きく選べば、収束は速いが、相加雑音が存在す
るとき収束後の残留誤差の電力は大きくなってしまう。
逆にステップサイズを小さく選ぶと、収束後の残留誤差
は小さく抑えられるが、収束速度は遅くなる。そこで、
フィルタの収束の初期にはステップサイズを大きく、ま
た収束が進むにつれて小さくなるように適応制御すれ
ば、収束が速く収束後の残留誤差の小さい適応フィルタ
が実現できる。

【０００７】従来のステップサイズの適応制御方法とし
ては、誤差勾配法(1) 、誤差・レプリカ相関法(2) 、四
次統計量法(3) などが提案されている。これらは以下の
文献に詳しい。 (1) V.J.Mathews et al.,"A Stochastic Gradient Adap
tive Filter with Gradient Adaptive Step Size," IEE
E Trans. on SP, vol.41, no.6, pp.2075-2087,June 19
93. (2) A.Kanemasa et al.,"An Adaptive-Step Sign Algor
ithm for Fast Convergence of a Data Echo Cancelle
r," IEEE Trans. on Commun., vol.35, no.10, pp.1102
-1108, October 1987. (3) D.Pazaitis et al.,"A Kurtosis-Driven Variable
Step-Size LMS Algorithm," Proceedings IEEE ICASSP9
6, vol.III, pp.1846-1849, Atlanta, GA, May 1996.

【０００８】さらに、特開平8-265223号公報には、タッ
プ重みの絶対値の大きさに応じてステップサイズの大き
さを変化させる方法が、特開平2-291712号公報には、誤
差信号電力の分散値によってステップサイズを変化させ
る方法が、また特開昭61-234131 号公報には、誤差信号
の極性と適応フィルタ出力（推定値あるいはレプリカ）
の極性の相関値に応じてステップサイズを変化させる方
法（上記(2) 参照）が開示されている。

【０００９】

【発明が解決しようとする課題】しかしながら上記(1)
〜(3) の従来の方法では、いずれも効果が充分でないこ
とが知られている。特に収束後の残留誤差を、固定のス
テップサイズで得られる程度に小さく抑えようとする
と、収束速度の高速化における充分な改善が得られない
という問題があった。

【００１０】従って、本発明は、収束速度が速く、収束
後の残留誤差の小さい適応フィルタを、上記各号公報に
開示されたものとは異なるステップサイズの適応制御方
法を用いて実現することにある。

【００１１】

【課題を解決するための手段】本発明による適応フィル
タにおいては、上記の目的を達成するために、フィルタ
入力信号と未知信号との誤差信号の極性を検出する検出
手段と、上記検出した極性にフィルタ入力信号ベクトル
を乗じて積のベクトルを得る第１の乗算手段と、上記積
のベクトルを平均化する第１の漏洩累和手段と、上記平
均化した積のベクトルのノルムを算出する演算手段と、
上記誤差信号の絶対値を平均化する第２の漏洩累和手段
と、上記平均化した絶対値に上記算出したノルムを乗じ
た積を求める第２の乗算手段と、上記積に所定の係数を
乗じてステップサイズを得る第３の乗算手段とを設けて
いる。

【００１２】また、本発明によるステップサイズ制御方
法においては、非巡回型フィルタを有し、確率勾配サイ
ンアルゴリズムを用いた適応フィルタのステップサイズ
制御方法において、誤差信号の極性にフィルタ入力信号
ベクトルを乗じて得られる積のベクトルを平均化して得
られるベクトルのノルムを計算する手順と、上記誤差信
号の絶対値を平均化して得られる平均値に上記ノルムを
乗じて積を得、この積に所定の係数を乗じて得られる値
をステップサイズとする手順とを設けている。

【００１３】さらに、本発明によるプログラムを記録し
た記録媒体においては、適応フィルタのフィルタ入力信
号と未知信号との誤差信号の極性を検出する検出処理
と、上記検出した極性にフィルタ入力信号ベクトルを乗
じて積のベクトルを得る第１の乗算処理と、上記積のベ
クトルを平均化する第１の漏洩累和処理と、上記平均化
した積のベクトルのノルムを算出する演算処理と、上記
誤差信号の絶対値を平均化する第２の漏洩累和処理と、
上記平均化した絶対値に上記算出したノルムを乗じた積
を求める第２の乗算処理と、上記積に所定の係数を乗じ
てステップサイズを得る第３の乗算処理とを実行するた
めのプログラムを記録している。

【００１４】

【発明の実施の形態】以下、本発明の実施の形態を図面
と共に説明する。まず、本発明の第１の実施の形態を説
明する。本発明によるステップサイズ制御方法は、具体
的には理論的に導かれる最適なステップサイズ値を近似
する方法である。

【００１５】まず、本発明によるステップサイズ制御方
法を述べる準備として、各時刻における理論的に最適な
ステップサイズの選び方を導く。いまタップ重み誤差と
して、θ⁽ⁿ⁾ ＝h − c⁽ⁿ⁾ なるベクトルを定義する。h
は推定すべき未知システムの応答ベクトルで、長さはタ
ップ数N に等しいとする。θ⁽ⁿ⁾ の更新式は θ⁽ⁿ⁺¹⁾ ＝θ⁽ⁿ⁾ −α_c ⁽ⁿ⁾ sgn( e_n ＋ν_n )a⁽ⁿ⁾ ‥‥ (2) である。

【００１６】θ⁽ⁿ⁾ の２次モーメント行列 K⁽ⁿ⁾ ＝ E[
θ⁽ⁿ⁾ θ^(n)T] （E[ ]は期待値を意味する）について
は、次の差分方程式が成り立つ。 K⁽ⁿ⁺¹⁾ ＝K ⁽ⁿ⁾ −α_c (V⁽ⁿ⁾ ＋V ^(n)T) ＋α_c ²Ra ‥‥ (3) ここで行列 V⁽ⁿ⁾ は次式で与えられ、Ra＝E[ a⁽ⁿ⁾ a
^(n)T] はフィルタ入力信号系列の共分散行列（または相
関行列）である。 V⁽ⁿ⁾ ＝E[sgn( e_n ＋ν_n )a⁽ⁿ⁾ θ^(n)T ] ‥‥ (4)

【００１７】さらに時刻n における２乗平均誤差（ＭＳ
Ｅ）は、 ε⁽ⁿ⁾ ＝ E[e_n ²]＝trace(Ra K ⁽ⁿ⁾ ) ‥‥ (5) で求められる。ここでtrace( )は行列の対角要素の和を
意味する。

【００１８】そこで時刻n において、ε⁽ⁿ⁺¹⁾ を最小に
するステップサイズを求めるために、時刻n におけるス
テップサイズα_c ⁽ⁿ⁾ に関する偏微分係数 ∂ε⁽ⁿ⁺¹⁾ / ∂α_c ⁽ⁿ⁾ ＝trace (Ra ∂K ⁽ⁿ⁺¹⁾ / ∂α_c ⁽ⁿ⁾ ) ＝trace ｛Ra( −(V⁽ⁿ⁾ ＋V ^(n)T) ＋ 2α_c ⁽ⁿ⁾ Ra) ｝ ‥‥ (6) をゼロと置くことにより、最適ステップサイズの理論値
は α_c ⁽ⁿ⁾ _opt ＝trace(Ra V⁽ⁿ⁾ )/trace(Ra²) ‥‥ (7) と得られる。

【００１９】ところで、θ⁽ⁿ⁾ の値が与えられたとき、
ベクトル a⁽ⁿ⁾ に関する期待値について、

【００２０】

【数１】 が近似的に成り立つ。ただし入力信号はガウス過程と仮
定した。これから

【００２１】

【数２】 となるので、上記最適ステップサイズは

【００２２】

【数３】 と表される。ここで

【００２３】

【数４】 は相加雑音の電力である。

【００２４】最適ステップサイズはさらに

【００２５】

【数５】 と書くことができる。

【００２６】そこで本発明のステップサイズ制御方法に
おいては、時刻n におけるステップサイズを次式で作成
する。 α_c ⁽ⁿ⁾ ＝β‖ q⁽ⁿ⁾ ‖² ｜σ｜⁽ⁿ⁾ ‥‥(12) ただし、β＝π/2/trace(Ra²),‖ q⁽ⁿ⁾ ‖² はベクトル
q⁽ⁿ⁾ のノルムで、ベクトル q⁽ⁿ⁾ は次の漸化式に従っ
て漏洩累和器によって逐次計算する。 q⁽ⁿ⁺¹⁾ ＝(1−ρ)q⁽ⁿ⁾ ＋ρsgn( e_n ＋ν_n )a⁽ⁿ⁾ ‥‥(13)

【００２７】またスカラー量｜σ｜⁽ⁿ⁾ は、次の漸化式
に従って漏洩累和器によって逐次計算する。 ｜σ｜⁽ⁿ⁺¹⁾ ＝(1−ρσ) ｜σ｜⁽ⁿ⁾ ＋ρσ｜ e_n ＋ν_n ｜ ‥‥(14) ここで、ρおよびρσは漏洩係数である。

【００２８】上式(12)のようにステップサイズα_c ⁽ⁿ⁾
を作ると、

【００２９】

【数６】 となることが示され、よって

【００３０】

【数７】 となる。すなわち、本発明によるステップサイズは近似
的に最適理論値に等しくなる。

【００３１】なお、上式(12)でα_C ⁽ⁿ⁾ を作成する際
に、係数βを予め求めておかなければならないが、それ
にはtrace(Ra²)の値が必要である。ここでフィルタ入力
信号系列は既知であると仮定しており、その共分散行列
Raも知られているものとする。もしこの値が未知のとき
は、次の漸化式で求めておくことも可能である。 τ⁽ⁿ⁺¹⁾ ＝(1−ρτ )τ⁽ⁿ⁾ ＋ρτ ( a^(n-L)T a⁽ⁿ⁾ )² ‥‥(17) ここで、ρτは充分小さい漏洩係数で、遅延量L は

【００３２】

【数８】 が成り立つように充分大きい値に選ぶ。充分時間が経っ
た後、τ⁽ⁿ⁾ はE[(a^{(n-L )T} a⁽ⁿ⁾ )²] ＝trace(Ra²)に収
束することが知られている。

【００３３】図１は本発明によるステップサイズ制御方
法を行う回路を概念的に示すブロック図、図２は図１の
詳細な構成を示す。なお、図１、図２におけるノルム計
算器とは、ベクトルのノルム（各要素の２乗和）を計算
するための演算器である。ノルムはベクトルとそれ自身
との内積によっても求められる。ベクトル q⁽ⁿ⁾ の長さ
はN であるから、漏洩累和器の所要数はN ＋1 個であ
る。

【００３４】図１、図２において、10,11 および12は漏
洩累和器であり、1 は入力 e_n ＋ν_n , 20は極性検出器
(sgn( )) ,21は極性出力sgn( e_n ＋ν_n ),101,111 およ
び121 は、それぞれ入力 a_n ,a_n-k , および a_n-N+1 で
ある。112,113 および114 は乗算器、115 は加算器、11
6 は単位時間の遅延回路であり、117 は漏洩係数 (ρ),
118 は漏洩係数の補数 (1 −ρ) である。109,119 およ
び129 はそれぞれ漏洩累和器の出力である。40はベクト
ルのノルム計算器で、109,・・・,119,・・・,129 からなるベ
クトルのノルムを計算し41を出力する。

【００３５】30は絶対値計算器、31は絶対値出力、203
および204 は乗算器、205 は加算器、206 は単位時間の
遅延回路であり、207 は漏洩係数 (ρσ）208 は漏洩係
数の補数 (1 −ρσ )である。32は203,・・・,208 からな
る漏洩累和器、33は漏洩累和器32の出力、50および60は
乗算器、51はノルム41と平均値32の積、2 は係数β、3
は出力として得られるステップサイズである。

【００３６】図３は図１、図２に示す回路の演算の過程
を示すフローチャートである。まず、ステップS1でベク
トルsgn( e_n ＋ν_n )a⁽ⁿ⁾ を計算すると共に、ステップ
S2で絶対値｜ e_n ＋ν_n ｜を計算する。次にステップS3
で、漏洩累和器10,11,12によってベクトル q⁽ⁿ⁾ を求
め、このベクトルを用いてステップS4でノルム計算器40
によりノルム‖ q⁽ⁿ⁾ ‖² を計算する。一方、ステップ
S5で、漏洩累和器32によってスカラー量｜σ｜⁽ⁿ⁾ を求
める。そしてステップS6で、‖ q⁽ⁿ⁾ ‖²に｜σ｜⁽ⁿ⁾
を乗じて積‖ q⁽ⁿ⁾ ‖² ｜σ｜⁽ⁿ⁾ を計算し、この値に
ステップS7で係数βを乗じてステップサイズ a_c ⁽ⁿ⁾ を
求め、ステップS8で出力する。

【００３７】本実施の形態の効果を、適応フィルタの収
束過程のシミュレーション結果によって示す。信号系列
は白色ガウス過程、相加雑音はガウス雑音と仮定する。
典型的なパラメタ値として、 タップ数 N＝4 未知システム応答ベクトル h ＝[.05,.994,.01,−.1]
^T 入力信号系列の電力 σ_a ² ＝1(0 dB)

【００３８】

【数９】 ステップサイズが固定の場合 α_c ＝2 ^-11 本発明による適応制御ステップサイズの場合 ρ＝ρσ
＝.005を使用した。

【００３９】図４にシミュレーション結果を示す。破線
ａはステップサイズが固定の場合の２乗平均誤差（ＭＳ
Ｅ）の収束の様子を、実線ｂは本発明によるステップサ
イズ制御を行った場合のそれを示す。後者では、収束速
度が著しく高速化される一方、収束後のＭＳＥは前者と
同等である。なお理論的には、漏洩係数ρ等を大きく選
べば、収束は速くなるが収束後のＭＳＥは増大すること
が判っている。

【００４０】上記の例から明らかなように、本発明によ
るステップサイズの適応制御方法によれば、収束後のＭ
ＳＥを小さく抑え、且つ収束の速い確率勾配サインアル
ゴリズム適応フィルタが得られる。

【００４１】次に本発明の第２の実施の形態を図５と共
に説明する。図５は、前述した第１の実施の形態におけ
る適応フィルタのステップサイズ制御をマイコン（マイ
クロコンピュータ）により行う場合の実施の形態を示
す。

【００４２】図５において、適応フィルタ500 はマイコ
ン501 によりステップサイズを制御される。マイコン50
1 は、第１の実施の形態による図１、図２と同等の機能
を有する。そしてマイコン501 は、図５のフローチャー
トによる処理を、本発明による記録媒体502 に記録され
たプログラムに制御されて実行する。

【００４３】記録媒体502 としては、ＲＯＭ、ＲＡＭ、
フラッシュメモリ、メモリカード、光ディスク、光磁気
ディスク、磁気記録媒体等を用いることができる。

【００４４】

【発明の効果】以上説明したように本発明によれば、適
応フィルタのステップサイズを理論最適値に近似するこ
とができ、このため収束の初期にはステップサイズの値
を大きく、収束が進むにつれて小さく制御することがで
きる。そして最適値に近いステップサイズを用いるの
で、ステップサイズが固定の場合より速い収束を得るこ
とができる。

【図面の簡単な説明】

【図１】本発明の第１の実施の形態を概念的に示すブロ
ック図である。

【図２】図１の詳細な構成を示すブロック図である。

【図３】ステップサイズ制御方法の処理を示すフローチ
ャートである。

【図４】第１の実施の形態の効果を示す適応フィルタの
シミュレーション結果の特性図である。

【図５】本発明の第２の実施の形態を示すブロック図で
ある。

【図６】適応フィルタの原理を示すブロック図である。

【図７】非巡回型適応フィルタのタップ重み制御アルゴ
リズムを説明するためのブロック図である。

【符号の説明】

１ 入力 ２０ 極性検出器 ２１ 極性出力 ３０ 絶対値計算器 ３１ 絶対値出力 １０１、１１１、１２１ 漏洩累和器入力 １０、１１、１２ 漏洩累和器 １１２、１１３、１１４、２０３、２０４ 乗算器 １１５、２０５ 加算器 １１６、２０６ 遅延回路 １１７、２０７ 漏洩係数 １１８、２０８ 漏洩係数の補数 １０９、１１９、１２９ 漏洩累和器出力 ４０ ベクトルのノルム計算器 ４１ ノルム ３２ 漏洩累和器出力 ５０、６０ 乗算器 ５１ 乗算器出力 ２ 係数 ３ 出力ステップサイズ

───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平８−213880（ＪＰ，Ａ) 特開 平２−65310（ＪＰ，Ａ) 特開 平７−212279（ＪＰ，Ａ) 特開 平７−212278（ＪＰ，Ａ) 特開 平７−193467（ＪＰ，Ａ) 特開 平４−280113（ＪＰ，Ａ) 特開 平４−117811（ＪＰ，Ａ) 特公 平２−1409（ＪＰ，Ｂ２) 特公 昭61−18887（ＪＰ，Ｂ２) 特表 昭56−500734（ＪＰ，Ａ) (58)調査した分野(Int.Cl.⁷，ＤＢ名) H03H 21/00

Claims (4)

(57)【特許請求の範囲】
1. 【請求項１】 フィルタ入力信号と未知信号との誤差信
   号の極性を検出する検出手段と、 上記検出した極性にフィルタ入力信号ベクトルを乗じて
   積のベクトルを得る第１の乗算手段と、 上記積のベクトルを平均化する第１の漏洩累和手段と、 上記平均化した積のベクトルのノルムを算出する演算手
   段と、 上記誤差信号の絶対値を平均化する第２の漏洩累和手段
   と、 上記平均化した絶対値に上記算出したノルムを乗じた積
   を求める第２の乗算手段と、 上記積に所定の係数を乗じてステップサイズを得る第３
   の乗算手段とを設けたことを特徴とする適応フィルタ。
2. 【請求項２】 非巡回型フィルタを有し、確率勾配サイ
   ンアルゴリズムを用いた適応フィルタのステップサイズ
   制御方法において、誤差信号の極性にフィルタ入力信号
   ベクトルを乗じて得られる積のベクトルを平均化して得
   られるベクトルのノルムを計算する手順と、 上記誤差信号の絶対値を平均化して得られる平均値に上
   記ノルムを乗じて積を得、この積に所定の係数を乗じて
   得られる値をステップサイズとする手順とを有すること
   を特徴とするステップサイズ制御方法。
3. 【請求項３】 適応フィルタのフィルタ入力信号と未知
   信号との誤差信号の極性を検出する検出処理と、 上記検出した極性にフィルタ入力信号ベクトルを乗じて
   積のベクトルを得る第１の乗算処理と、 上記積のベクトルを平均化する第１の漏洩累和処理と、 上記平均化した積のベクトルのノルムを算出する演算処
   理と、 上記誤差信号の絶対値を平均化する第２の漏洩累和処理
   と、 上記平均化した絶対値に上記算出したノルムを乗じた積
   を求める第２の乗算処理と、 上記積に所定の係数を乗じてステップサイズを得る第３
   の乗算処理とを実行するためのプログラムを記録した記
   録媒体。
4. 【請求項４】 非巡回型フィルタを有し、確率勾配サイ
   ンアルゴリズムを用いたことを特徴とする請求項１記載
   の適応フィルタ。