JP4067269B2 - システム同定方法 - Google Patents
システム同定方法 Download PDFInfo
- Publication number
- JP4067269B2 JP4067269B2 JP2000323958A JP2000323958A JP4067269B2 JP 4067269 B2 JP4067269 B2 JP 4067269B2 JP 2000323958 A JP2000323958 A JP 2000323958A JP 2000323958 A JP2000323958 A JP 2000323958A JP 4067269 B2 JP4067269 B2 JP 4067269B2
- Authority
- JP
- Japan
- Prior art keywords
- filter
- equation
- time
- state
- matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
- H03H21/00—Adaptive networks
- H03H21/0012—Digital adaptive filters
- H03H21/0043—Adaptive algorithms
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B3/00—Line transmission systems
- H04B3/02—Details
- H04B3/20—Reducing echo effects or singing; Opening or closing transmitting path; Conditioning for transmission in one direction or the other
- H04B3/23—Reducing echo effects or singing; Opening or closing transmitting path; Conditioning for transmission in one direction or the other using a replica of transmitted signal in the time domain, e.g. echo cancellers
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Filters That Use Time-Delay Elements (AREA)
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
- Feedback Control In General (AREA)
Description
【発明の属する技術分野】
本発明は、システム同定方法に係り、特に、新たなH∞評価基準に基づいて開発された変形H∞フィルタの高速H∞フィルタリングアルゴリズムを用いて時変システムを高速に実時間同定するものである。
【0002】
【従来の技術】
一般に、システム同定(system identification)とは、入出力データに基づいてシステムの入出力関係の数理モデル(伝達関数、あるいはインパルス応答など)を推定することである。代表的な応用例として、国際通信におけるエコーキャンセラ、データ通信における自動等化器、音響システムにおけるエコーキャンセラや音場再生および自動車などにおけるアクティブ騒音制御などがある。詳細は、1993年電子情報通信学会「ディジタル信号処理ハンドブック」等参照。
【0003】
(基本原理)
図14に、システム同定のための構成図を示す。このシステムは、未知システム1、適応フィルタ2を備える。また、適応フィルタ2は、FIRディジタルフィルタ3、適応アルゴリズム4を有する。
以下に、未知システム1を同定する出力誤差方式の一例を説明する。ここで、ukは未知システム1の入力、dkは所望信号であるシステムの出力、d^kはフィルタの出力である。(なお、「^」は、推定値の意味であり、文字の真上に付されるものであるが、入力の都合上文字の右上に記載する。以下同様。)
【0004】
未知システムのパラメータとしては、一般にインパルス応答が用いられるので、適応フィルタは図の評価誤差ek=dk−d^kを最小にするように適応アルゴリズムによってFIRディジタルフィルタ3の係数を調節する。
【0005】
図15に、インパルス応答の調節機構についての構成図を示す。
ここで、適応アルゴリズムの一例として、その簡便さより、次のLMSアルゴリズム(least mean square algorithm)が広く用いられている。
【0006】
【数6】
【0007】
また、一般に、時変システムの同定には、例えば、収束性が早いカルマンフィルタが適している。
【0008】
【数7】
【0009】
ここで、求めるべきインパルス応答{hi}は状態推定値x^k|kとして得られ、システムへの入力{uk}は観測行列Hkの要素として用いられている。
また、σ2 w=0のときのカルマンフィルタに対して、観測行列Hkのシフト特性(Hk+1(i+1)=Hk(i))を利用して、単位時間ステップ当たりの計算量をNに比例した演算回数、すなわちO(N)までに軽減した高速カルマンフィルタリングアルゴリズムが知られている。詳細は、1993年電子情報通信学会「ディジタル信号処理ハンドブック」など参照。
【0010】
(エコーキャンセラへの適用例)
国際電話など長距離電話回線では,信号増幅などの理由から4線式回線が用いられている。一方、加入者回線は比較的短距離なので、2線式回線が使用されている。
図16に通信系とエコーについての説明図を示す。2線式回線と4線式回線の接続部には図示のようにハイブリッドトランスが導入され、インピーダンス整合が行われている。このインピーダンス整合が完全であれば、話者Bからの信号(音声)は話者Aのみに到達する。しかし、一般に整合を完全とするのはむずかしく、受信信号の一部は4線式回線に漏れ、増幅された後、再び受信者(話者A)に戻ると云った現象が起こる。これがエコー(echo)である。エコーは、伝送距離が長くなるにつれて(遅延時間が長くなるにつれて)影響が大きくなり、著しく通話の品質を劣化させる(パルス伝送においては近距離であってもエコーによる通話品質の劣化は大きく影響する)。
【0011】
図17に、エコーキャンセラの原理図を示す。
そこで、図示のようにエコーキャンセラ(echo canceller) を導入し、直接観測可能な受信信号とエコーを用いてエコーパスのインパルス応答を逐次推定し、それを利用して得た疑似エコーを実際のエコーから差し引くことによってエコーを打ち消し、その除去を図っている。
【0012】
エコーパスのインパルス応答の推定は、残留エコーekの平均2乗誤差が最小になるように行われる。このとき、エコーパスの推定を妨害する要素は、回線雑音と話者Aからの信号(音声)である。一般に、話者2人が同時に話し始めた(ダブルトーク)ときはインパルス応答の推定を中断する。また、ハイブリッドトランスのインパルス応答長は50[ms]程度なので、サンプリング周期を125[μs]とするとエコーパスのインパルス応答の次数は実際は400程度となる。
【0013】
【発明が解決しようとする課題】
従来技術では、適応アルゴリズムとして、その簡便さより、LMSアルゴリズム(least mean square algorithm)が広く用いられて来たが、収束性が非常に遅いため急激に変化するような時変システムの同定は不可能であった。
【0014】
また、追従性の優れたカルマンフィルタは、計算量がO(N2)あるいはO(N3)であり、それが、タップ数Nと共に急速に増加してしまい、高いタップ数Nが要求される現実の問題の実時間処理は困難であった。この対策として、タップ数Nに対して単位時間ステップ当たり計算量O(N)で同定可能な高速カルマンフィルタが提案されているが、その定常的な特性(システム雑音が考慮できない点)から時変システムの同定は不可能であった。
【0015】
本発明は、以上の点に鑑み、新たなH∞評価基準に基づいて開発した変形H∞フィルタの高速H∞フィルタリングアルゴリズムを用いて、時不変および時変システムの高速実時間同定および推定を実現することを目的とする。また、本発明は、本アルゴリズムの特殊な場合として高速カルマンクイルタリングアルゴリズムを含み、また、時変システムの追従性を支配するシステム雑音の共分散を理論的に決定することを目的とする。また、本発明は、突然回線が切り替わるような激しく変化する時変システムのエコーキャンセラなどのように、入力信号が不連続に変化する場合においても、非常に有効な高速時変システム同定方法を提供することを目的とする。また、本発明は、通信システムや音響システムにおけるエコーキャンセラ、音場再生又は騒音制御などに適用することができるシステム同定方法を提供することを目的とする。
【0016】
【課題を解決するための手段】
本発明では、上述の課題を解決するために、新たにH∞評価基準を考案し、これに基づく変形H∞フィルタの高速アルゴリズムを開発すると共に、この高速H∞フィルタリングアルゴリズムに基づく高速時変システム同定方法を提案する。本発明による高速アルゴリズムは、単位時間ステップ当たり計算量O(N)で急激に変化する時変システムの追跡が可能である。また、γf=∞の極限で高速カルマンフィルタリングアルゴリズムと完全に一致すると云った便利な特性をもっている。
【0017】
【発明の実施の形態】
以下に、本発明の実施の形態について説明する。なお、詳細は、例えば、K. Nishiyama :"Derivation of A Fast Algorithm of Modified H∞ Filters", IEEE international Conference on Industrial Electronics, Control and Instrumentation, October, 2000 に示されている。
【0018】
1.記号の説明
まず、本発明の実施の形態で用いる主な記号及びその既知又は未知について説明する。
xk: 状態ベクトルまたは単に状態 ; 未知、これが推定の対象となる。
x0: 初期状態 ; 未知である。
wk: システム雑音 ; 未知である。
vk: 観測雑音 ; 未知である。
yk: 観測信号 ; フィルタの入力となり、既知である。
zk: 出力信号 ; 未知である。
Hk: 観測行列 ; 既知である。
Lk: 出力行列 ; 既知である。
x^k|k: 観測信号y0〜ykまでを用いた時刻kの状態xkの状態推定値; フィルタ方程式によって与えられる。
x^0|0:状態の初期推定値 ; 本来未知であるが、便宜上0が用いられる。
Ks,k+1:フィルタゲイン ;行列P^k|k−1から得られる。
Σwk : システム雑音の共分散行列に対応 ; 理論上は既知であるが、実際には未知である。
P^k|k−1: x^k|k−1の誤差の共分散行列に対応 ; リカッチ方程式によって与えられる。
P^1|0: 初期状態の誤差の共分散行列に対応 ; 本来未知であるが、便宜上ε0Iが用いられる。
σ2 v : 観測雑音の分散 ; 理論上は既知として扱われるが、実際には未知である。
σ2 w : システム雑音の分散 ; 理論上は既知として扱われるが、実際には未知である。
【0019】
なお、記号の上に付される”^”は、推定値の意味であり、"∪"は、行列を1行増やしたことを表す。”また、”〜”等は、便宜上付加した記号である。これらの記号は、入力の都合上、文字の右上に記載するが、数式で示すように、文字の真上に記載されたものと同一である。また、L、H、P、K等は行列であり、数式で示すように太文字で記されるものであるが、入力の都合上、普通の文字で記載する。
2.変形H∞フィルタ
【0020】
つぎに、次式(7)〜(9)のような状態空間モデルを考える。
【数8】
【0021】
ここで、エコーキャンセラなどを想定し、Lk=Hk(Hk=[uk uk−2・・・ uk−N+1]) とする。このような状態空間モデルに対して、次式(10)のようなH∞評価基準(新たに左辺にγfが入っている)を提案する。
【0022】
【数9】
【0023】
この評価基準を満たすレベルγfの変形H∞フィルタは、ρやΣwkがγfに依存しないと仮定すれば、システム同定の分野で通常知られる方法を適用することによって、次の式(11)〜式(14)で与えられる。なお、その通常知られる方法として、例えば、
B. Hassibi, A. H. Sayed, and T. Kailath: "Linear Estimation in Krein Spaces - Part I: Theory," IEEE Trans. Automatic Control, 41, 1, pp.18-33,1996.、
B. Hassibi, A. H. Sayed, and T. Kailath: "Linear Estimation in Krein Spaces - Part II: Applications," IEEE Trans. Automatic Control, 41, 1, pp.34-49,1996.
等を参照のこと。
【0024】
【数10】
【0025】
また、評価基準の重みρは予めに決められた上限値γfに依存するので、上述のアルゴリズムは通常のH∞フィルタとは本質的に異なる。本アルゴリズムはρで重みづけされた外乱(初期状態x0,システム雑音{wi},観測雑音{υi}からフィルタ誤差{ef,i}への最大エネルギーゲインをγf 2より小さく押えているので、外乱に対してロバスト(頑健)なフィルタリングアルゴリズムとなる。この性質が時変システムの追従特性に反映される。また、γf→∞のとき、ρ=1、Σwk=0となり、変形H∞フィルタは通常のカルマンフィルタと一致する。
【0026】
変形H∞フィルタの主な計算上の負担は、N2またはN3に比例する計算量を必要とするP^k+1|k∈RN×Nの更新の際に生じる。すなわち、単位時間ステップ当たりO(N2)の算術演算が必要となる。ここで、タップ数Nは状態ベクトルxkの次元と一致する。ゆえに、xkの次元が増加するにつれて変形H∞フィルタの実行に要する計算時間は急速に増大する。この計算上の負担を克服するために変形H∞フィルタの高速アルゴリズムの導出が必要となる。
【0027】
3.高速H∞フィルタリングアルゴリズム
変形H∞フィルタの計算量は、式(14)のリカッチ方程式(誤差の共分散方程式)の計算に支配される。よって、変形H∞フィルタを高速に処理するためには、リカッチ方程式を用いずに式(13)のフィルタゲインを直接決定できれば、大幅に計算量を削減できる。
しかし、フィルタゲインKs,k∈RN×1を求める高速アルゴリズムの導出は困難なため、次のように定義されるゲイン行列を高速に計算するアルゴリズムを導出することを考える。
【0028】
【数11】
【0029】
このとき、次の補題が成り立つ。
補題1
行列Pkは式(14)のリカッチ方程式を満たす。これより、ゲイン行列Kkが求まれば、次の補題からフィルタゲインKs,kが直ちに得られる。
【0030】
補題2
変形H∞フィルタのフィルタゲインはKs,kは、ゲイン行列Kkを用いて次のように得られる。実際、ゲイン行列Kkは次の再帰的方法によって高速に計算できる。
【0031】
【数12】
【0032】
補題3
ゲイン行列Kkは次のように更新される。
【0033】
【数13】
【0034】
ここで、mk∈RN×2とμk∈R1×2は行列K∪ k=Q∪ k −1C∪ kの次の分割によって得られる。
【0035】
【数14】
【0036】
また、補助変数Ak∈RN×1,Sk∈RおよびBkF−1 k∈RN×1も同様に得られる。
結論として、高速H∞フィルタリングアルゴリズムは以下のように要約することができる。
図1に、高速アルゴリズムのフローチャートを示す。なお、Lは最大データ数を示す。
[ ステップ0] 再帰式の初期条件を以下のようにする。ここでε0は充分に大きい正の定数である。
【0037】
【数15】
【0038】
[ ステップ1] 時刻kと最大データ数Lとを比較する。時刻kが最大データ数より大きければ処理を終了し、以下であれば次のステップに進む。(不要であれば条件文を取り除くことができる。)
[ ステップ2] AkとSkを以下のように再帰的に決定する。
【0039】
【数16】
【0040】
[ ステップ3] K∪ kを以下のように計算する。
【0041】
【数17】
【0042】
[ ステップ4] K∪ kを以下のように分割する。
【0043】
【数18】
【0044】
[ ステップ5] Dkを決定し、Kk+1を通して、ゲイン行列Ks,k+1を以下のように得る。
【0045】
【数19】
【0046】
ここで、ηk∈R2×1,Dk∈RN×1,
Kk+1∈RN×2,Ks,k+1∈RN×1,
0<ρ=1−γf −2≦1,γf>1 である。
[ ステップ6] H∞フィルタのフィルタ方程式を以下のように更新する。
【0047】
【数20】
【0048】
[ ステップ7] 時刻kを進ませて(k=k+1)、 ステップ2に戻り、データがある限り続ける。
(高速処理に適した存在条件:補題6)
また、次の存在条件を用いれば、計算量Ο(N)で高速H∞フィルタの存在性が検査できる。
【0049】
【数21】
【0050】
4.本高速アルゴリズムの計算量
つぎに、高速H∞フィルタリングアルゴリズムの計算量が、変形H∞フィルタリングアルゴリズムの計算量と比べて如何に減少するかを考察する。ここで、式の計算量の評価は乗算回数のみに注目し、以下のような方法で計算した。
(J×K行列)×(K×L行列)の乗算回数=J×K×L(回)
ただし、行列やベクトルが3つ以上乗算されるときは特に図に示さない限り左から計算されるものとする。
【0051】
(変形H∞フィルタリングアルゴリズムの計算量)
図2及び図3に、変形H∞フィルタリングアルゴリズムの各部分の計算量の説明図を示す。ただし、Nはタップ数(状態ベクトルx k のディメンジョン)である。ここで、図3(a)においてRe,kからRe,k −1を求めるための計算は無視する。同様に、図2(a)において(Hk+1P^k+1 | kHT k+1+1)の部分から(Hk+1P^k+1 | kHT k+1+1)−1を求める計算も無視する。
【0052】
図2(a)、図3(a)および図3(b)より、Ks | k+1、Re,kおよびP^k+1 | kは計算量がタップ数の2乗に比例することがわかる。よって、変形H∞フィルタリングアルゴリズム全体の計算量は単位時間ステップ当りΟ(N2)となる。
【0053】
また、図4に、行列計算の順番を変えた場合の計算量の説明図を示す。すなわち、リカッチ方程式において、右辺第2項の部分の行列計算の順番を変えた場合の計算量を図4に示す。
上述の部分の計算量がインパルス応答の次数の3乗に比例するので、P^k+1 | kの計算量もインパルス応答の次数の3乗に比例する。これに伴い、H∞フィルタ全体の計算量もタップ数の2乗から3乗にまで増加する。
【0054】
しかし、いずれのアルゴリズムにせよタップ数の2乗または3乗に比例する計算量をもつので、タップ数の増加と共にフィルタの実行にかかる計算上の負担が著しく増加する。実際、通信工学の分野に利用する場合などはタップ数が例えば400程度であるため、このアルゴリズムでの実用はかなり困難なものとなる。
【0055】
(高速H∞フィルタリングアルゴリズムの計算量)
次に、図5及び図6に、高速H∞フィルタリングアルゴリズムの計算量の説明図を示す。ここで、図5(b)のKu kの式においてSk −1はSkから求められるが、その計算は無視する。同様に、図6(a)のDkの式において、[1−μkWkηk]から[1−μkWkηk]−1を求める計算も無視する。
【0056】
図5及び図6より、本高速アルゴリズム全体を通して計算量が単位時間ステップ当りΟ(N)になっている。よって、高速H∞フィルタリングアルゴリズムは計算量はタップ数に比例することがわかる。また、この場合、高速H∞フィルタを1回実行するためにかかる計算量(乗算回数)は単位ステップ当り28N+16であり、高速カルマンフィルタの12N+3と比べて約2倍の計算量(乗算回数)が必要である。
【0057】
以上のように、変形H∞フィルタリングアルゴリズムではタップ数の2乗または3乗に比例する計算量が、本高速アルゴリズムではタップ数の1乗に比例するまで減少させることができる。
【0058】
5.エコ−キャンセラ
つぎに、エコーキャンセラの例を取り上げ、本発明の効果を検証する。
まず、受信信号{uk}がエコーパスへの入力信号となることを考慮すれば、エコーパスの(時変)インパルス応答{hi[k]}により、エコー{dk}の観測値{yk}は次式で表される。
【0059】
【数22】
【0060】
ここで、uk,ykはそれぞれ時刻tk(=kT;Tはサンプリング周期)における受信信号とエコーを表し、vkは時刻tkにおける平均値0の回線雑音とし、hi[k],i=0,・・・,N−1 は緩やかな変動を想定した時変インパルス応答であり、そのタップ数Nは既知とする。このとき、インパルス応答の推定値{h^i[k]}が時々刻々得られれば、それを用いて次のように疑似エコーが生成される。
【0061】
【数23】
【0062】
これをエコーから差し引けば(yk−d^k≒0)、エコーをキャンセルすることができる。ただし、k−i<0のときuk−1=0とする。
以上より、問題は直接観測可能な受信信号{uk}とエコー{yk}からエコーパスのインパルス応答{hi[k]}を逐次推定する問題に帰着できる。
一般に、エコーキャンセラにH∞フィルタを適用するには、まず式(24)を状態方程式と観測方程式からなる状態空間モデルで表現しなければならない。そこで、問題がインパルス応答{hi[k]}を推定することであるから、{hi[k]}を状態変数xkとし、wk程度の変動を許容すれば、エコーパスに対して次の状態空間モデルを立てることができる。
【0063】
【数24】
【0064】
このような状態空間モデルに対する変形および高速H∞フィルタリングアルゴリズムは先に述べて通りである。また、インパルス応答の推定の際、送信信号の発生を検知するとその間推定を中止するのが一般的である。
以上より、インパルス応答の推定値{h^i[k]}が得られれば、これより疑似エコーが次のように逐次求めることができる。
【0065】
【数25】
【0066】
よって、これを実際のエコーから差し引き、エコーを打ち消せばエコーキャンセラが実現できる。このとき、推定誤差であるek=yk−d^kは残留エコーと呼ばれる。
6.時不変インパルス応答に対する評価
【0067】
(推定精度に対する評価)
エコーパスのインパルス応答が時間的に不変であり(hi[k]=hi)、かつそのタップ数Nが24である場合について、シミュレーションを用いて変形H∞フィルタと高速H∞フィルタを評価する。
【0068】
【数26】
【0069】
なお、図7は、ここでのインパルス応答{hi}の値を示す図である。また、υkは平均値0、分散σv 2=1.0×10-6の定常なガウス白色雑音とし、サンプリング周期Tを便宜上1.0とする。
また、受信信号{uk}は次のように2次のARモデルで近似する。
uk=α1uk−1+α2uk−2+wk′ (31)
ただし、α1=0.7,α2=0.1 とし、wk′は平均値0、分散σw′ 2=0.04の定常なガウス白色雑音とする。
【0070】
ここで、変形H∞フィルタと高速H∞フィルタとを比較する。
図8に変形H∞フィルタと高速H∞フィルタによるインパルス応答の推定結果の説明図を示す(初期値 :x^0|0=0,ε o=20)。図8(a)、(b)はγf=105のときの両者の推定結果であり、図8(c),(d)はγf=2.0のときの推定結果(x^ 100 | 100 )である。これより、両者の推定精度に対する性能は等しいことがわかる。すなわち、高速化することで推定精度の低下は生じない。ここで、γfが小さすぎるとフィルタの存在条件を満たさないので注意が必要である。また、γf=1.0×105の場合は高速カルマンフィルタの結果とほぼ一致していた。以上より、高速H∞フィルタリングアルゴリズムは、高速カルマンフィルタリングアルゴリズムを含んでおり、かつγfを調節することによって、収束を早くできることがわかる。
【0071】
(計算時間の評価)
つぎに、エコーパスのインパルス応答が時間的に不変であり、かつタップ数を24,48,96,192,384と増加させたときの変形H∞フィルタと高速H∞フィルタの計算時間を評価する。ただし、1回の測定では結果にばらつきがあるので、4回測定した平均を結果として用いた。また、シミュレーションに用いるインパルス応答{hi}は図7の値とし、それ以降(24≦k<N)のインパルス応答{hi}は0とする。ただし、フィルタの実行はステップ数100までとする。計算時間は、ワークステーション(sparc,60MHz, 32MB)上のMATLABのコマンドetimeによって計測された。
【0072】
図9に、計算時間の測定結果の図を示す。ここで、変形H∞フィルタ(2)はリカッチ方程式において、計算量がタップ数の2乗に比例するように行列計算を行ったものであり、変形H∞フィルタ(1)は計算量がタップ数の3乗に比例する行列計算を行ったものである(図3(b)および図4参照)。このように、変形H∞フィルタは行列計算の順序によって計算量がタップ数の2乗または3乗に比例することになるが、いずれにせよ実用的ではない。
【0073】
7.時変インパルス応答に対する評価
(追従性能の評価)
システム(インパルス応答)が時間的に変化したときの各アルゴリズムの追従性能についてエコーキャンセラの例を用いて評価する。ただし、インパルス応答のタップ数は48とし、{hi}は、図7の値を元に図10(a)のように時間的に変化した場合を想定する。ただし、vkは平均値0、σv 2=1.0×10−6の定常なガウス白色雑音とし、便宜上サンプリング周期をT=1とする。また、受信信号{uk}は次のように2次のARモデルで近似する。
uk=α1uk−1+α2uk−2+wk′ (32)
【0074】
ここで、α1=0.7、α2=0.1とし、wk′は平均値0、分散σ2 w´=0.04の定常なガウス白色雑音とする。
図10及び図11に、各アルゴリズムのシミュレーション結果の図を示す。これは、高速H∞フィルタ(高速 HF)、高速カルマンフィルタ(高速 KF)およびLMSアルゴリズム(LMS)の時変システムの追従性能を示すものである。図10(b)はγf=2.0の場合の高速H∞フィルタによる推定値であり、図11(a)は高速カルマンフィルタによる推定値である。ただし、高速H∞フィルタの初期値はx^0|0=0,εo=20とし、高速カルマンフィルタの初期値も同様に設定した。また、図11(b)にLMSアルゴリズムによる推定値を示す。ただし、初期値はh^o=0、ステップサイズは安定かつ早い収束を与えるようにμ=0.5とした。これより、高速H∞フィルタの追従性能が飛躍的に優れており、インパルス応答の変化後約30ステップで推定値が安定していることがわかる。一方、高速カルマンフィルタとLMSアルゴリズムについては全く追従できていない。
【0075】
一般に、システム雑音を伴わないH∞フィルタの追従性が低下する原因は、P^k|k―1の対角成分の減少によりフィルタゲインの値が小さくなり推定値の更新量が減少するからである。つまり、ステップ数が経過するとほとんど推定値を更新しなくなる。よって、カルマンフィルタやH∞フィルタの追従性を向上させるためには、行列のP^k|k―1の対角成分の値に外部から適当な値を加えてやれば良い。しかし、直接導入したのでは観測行列Hkのシフト特性を利用した高速アルゴリズムを導出できない。この問題を重みρ=1−γf −2をH∞評価基準に導入することによって理論的に解決したことが本発明の大きな特徴のひとつである。この重みρは高速H∞フィルタリングアルゴリズムのSkの更新式の中に次のように現れる。
【0076】
(高速H∞フィルタの補助変数Skの更新)
高速H∞フィルタの補助変数Skは、次式の通りである。
Sk=ρSk−1+eT kWke〜 k,0<ρ=1−γf −2≦1
また、高速H∞フィルタリングアルゴリズムにおいて、Skは、Ku kの式でSk −1の形で用いられる。よって、より大きな値の更新を行うためには、よりSk −1が大きくなければならない。つまりSkを小さく保ち大きな値の更新を保持する必要がある。ρの存在はSkの急激な増大を防ぎ、結果的にシステム雑音を付加することと等価となり、追従性の向上につながっている。また、重みρはρ=1−γf −2で定義されているので、シミュレーションで確認されたとおりγfを変化させることで追従性を変化させることができる。
【0077】
図12に、γfとρの関係図を示す。これによるとγf=3.0のときρ=0.8889なのでSk−1の89%がSkに伝えられることになる。しかし、あまりγfを小さくしすぎるとSk−1の影響が著しく低下すると同時にフィルタの存在条件を満たさなくなるため、注意が必要である。また、γfが大きい場合はρ≒1となりSkの増大を全く抑制しないため追従性が低下する。特にγf=∞(ρ=1)のとき本高速アルゴリズムは高速カルマンフィルタリングアルゴリズムと完全に一致する。
【0078】
(計算時間の評価)
図13に、高速H∞フィルタ、高速カルマンフィルタおよびLMSアルゴリズムにおけるインパルス応答のタップ数(tap number)と計算時間[s]の関係図を示す。なお、フィルタの実行ステップ数:300, γf=3.0とした。そして、高速H∞フィルタ、高速カルマンフィルタリングアルゴリズムおよびLMSアルゴリズムに対して、図10及び図11の例においてタップ数を48,96,192,384と増加させたときの計算時間を計測した。ただし、1回の測定では結果にばらつきがあるので、4回測定しその平均をとった。
【0079】
いずれのアルゴリズムも計算量がタップ数の1乗に比例することが確認できる。また、タップ数が多い場合、高速H∞フィルタリングアルゴリズムの計算時間は高速カルマンフィルタリングアルゴリズムと比べて、約2倍弱であり、実用的なLMSアルゴリズムと比較しても4倍程度であることがわかる。追従性を考慮すれば、高速H∞フィルタリングアルゴリズムの有効性は十分に高いと言えよう。
【0080】
8.補題の証明
ここで、上述の補題の証明について説明する。
(補題1の証明)
Pkの逆行列をとれば、式(33)となる。さらに、逆行列の補助定理を用いれば、式(34)に示すように、行列Pkに関する再帰式が得られる。
【0081】
【数27】
【0082】
ここで、PkをP^k+1|kと見倣せば、上式が式(14)のリカッチ方程式を満たすことがわかる。
(補題2の証明)
ゲイン行列Kkが次のように整理できる。
【0083】
【数28】
【0084】
さらに、Gk=(ρ+HkPk−1HT k)/(1+HkPk−1HT k)と、HkK〜 k=HkPk−1HT k/(1+HkPk−1HT k)を用いれば、ゲイン行列Kkの第1ブロック列から式(18)のようにフィルタゲインを得ることができる。
【0085】
(補題3の証明)
ゲイン行列Ki,i=0,・・・,k が与えられたと仮定し、次のKk+1を求めることにする。
Qk+1Kk+1=Ck+1 T (36)
まず、Ckのシフト特性を利用するため、新たに式(37)と式(38)を導入する。このとき、QU kは式(39)のように再帰的に表され、かつ次の式(40)のように分割される。
【0086】
【数29】
【0087】
この表記を用いれば、時間ステップkおよびk+1の式(36)は、次式に含まれる。
【0088】
【数30】
【0089】
これらの表記に基づけば、Kkを直接求める変わりに、次式を満たすKU k∈R(N+1)×2を求める方が便利である。
【0090】
【数31】
【0091】
そのため、式(41)から得られる式(45)を用いれば、K∪ k∈R(N+1)×2を式(46)のように整理できる。
【0092】
【数32】
【0093】
ここで、K∪ kは、mk∈RN×2とμk∈R1×2に分割される。また、αT k−cT k=−(ck T+Ak TCk T)に注意されたい。さらに、Q∪ kは逆行列が存在すると仮定し、補助変数Ak∈RN×1とSk∈Rは次式を満たす。
【0094】
【数33】
【0095】
ここで、上式の下ブロックはTk+QkAk=0またはTk T=−Ak TQk Tを与える。
次に、CT kの上ブロックに影響することなく、式(46)のμkを消去するために、次の式(48)のような補助変数Bk∈RN×1とFk∈Rを導入し、さらに式(46)のK∪ kの分割からB∪ kFk −1μkを引けば、式(49)を得る。
【0096】
【数34】
【0097】
さらに、左から式(49)の左辺にQ∪ kを掛ければ、次のように整理できる。
【0098】
【数35】
【0099】
上式の左辺に式(49)を代入すれば、式(43)は次式で表される。
【0100】
【数36】
【0101】
これは式(42)と同じ形であり、式(51)の上ブロックから次式(52)を導くことができる。
Qk+1(mk−BkFk −1μk)=Ck+1 T (52)
ここで、式(36)と式(52)を比較すれば、ゲイン行列Kkの更新式を得ることができる。
【0102】
(補題4)
補助変数AkとSkは次のように得られる。
【0103】
【数37】
【0104】
ただし、A−1=0、S−1=1/ε0である。
(証明)AkとSk の式(55)と式(39)を用いると、式(56)を得る。
【0105】
【数38】
【0106】
一方、式(41)の両辺にWk[Ck+CkAk−1]を掛ければ、次式を得る。
【0107】
【数39】
【0108】
式(56)から式(57)を引けば、次式(58)が成り立つ。
【0109】
【数40】
【0110】
これを式(47)と比較すれば、αk T=Tk T Kk=−Ak T Ck Tより、式(53)と式(54)を得る。
【0111】
(補題5)
補助変数Dk=BkFk −1は、次式(59)のように得られる。また、Fkは、次式(60)で更新される。
【0112】
【数41】
【0113】
ただし、ηk=C∪ kD∪ k−1=ck―N+Ck+1Dk−1, D−1=0,F−1=0 である。
(証明)BkとFkを更新するため、式(61)を用いれば、式(62)が成り立つ。
【0114】
【数42】
【0115】
上式を式(61)と同じ形に変形するため、式(62)から C∪ k TWkC∪ kBk−1 ∪ を引けば、次式を得る。
【0116】
【数43】
【0117】
この最後の式と式(48)を比較すれば、B∪ kに関する再帰式を得る。
【0118】
【数44】
【0119】
これより、BkとFkが更新される。
しかし、それらはD ∪ k =B ∪ k F k −1 あるいはDk=BkFk −1∈RN×1としてだけ用いられるので、式(48)と式(64)を式(65)を用いて書き換えた方が便利である。また、この行列Dk は式(66)を満たす。
【0120】
【数45】
【0121】
次に、式(63)にFk−1 −1を掛ければ、式(67)となり、さらにD∪ k−1=B∪ k−1Fk−1 −1を用いれば次式(68)のように整理できる。
【0122】
【数46】
【0123】
これより、式(68)に[1−μkWkC∪ kD∪ k−1]−1を掛ければ、次式が得られる。
【0124】
【数47】
【0125】
これを式(66)と比較すれば、最終的にDkとFkの更新式が得られる。
(補題6(高速処理に適した存在条件)の証明)
上述したように、式(22)、(23)の存在条件を用いれば、計算量Ο(N)で高速H∞フィルタの存在が検査できる。その証明を以下に示す。
次式(69)で示す2×2の行列Re,kの特性方程式を解けば、Re,kの固有値λiが次式(70)のように得られる。
【0126】
【数48】
【0127】
もし、次式(71)が成り立てば、行列Re,kの2つの固有値の1つは正となり、もう1つは負となり、行列RkとRe,kは同じイナーシャをもつ。これより、次式(72)を用いれば、式(22)の存在条件が得られる(即ち、式(71))。ここで、HkK〜 kの計算がΟ(N)回の掛け算を必要としている。
【0128】
【数49】
【0129】
【発明の効果】
本発明によると、以上のように、新たなH∞評価基準に基づいて開発した変形H∞フィルタの高速アルゴリズム(高速H∞フィルタリングアルゴリズム)を用いて、時不変および時変システムの高速実時間同定および推定を実現することができる。また、本発明によると、本アルゴリズムの特殊な場合として高速カルマンクフィルタリングアルゴリズムを含み、また、時変システムの追従性を支配するシステム雑音の共分散に対応する項を理論的に決定することができる。また、本発明によると、突然回線が切り替わるような激しく変化する時変システムのエコーキャンセラなどのように、システム(インパルス応答)が時間的に不連続に変化する場合において、特に、非常に有効な高速時変システム同定方法を提供することができる。また、本発明によると、通信システムや音響システムにおけるエコーキャンセラ、音場再生又は騒音制御などに適用することができるシステム同定方法を提供することができる。
【図面の簡単な説明】
【図1】 高速アルゴリズムのフローチャート。
【図2】 変形H∞フィルタリングアルゴリズムの各部分の計算量の説明図(1)。
【図3】 変形H∞フィルタリングアルゴリズムの各部分の計算量の説明図(2)。
【図4】 リカッチ再帰法の計算量の説明図。
【図5】 高速H∞フィルタリングアルゴリズムの計算量の説明図(1)。
【図6】 高速H∞フィルタリングアルゴリズムの計算量の説明図(2)。
【図7】 インパルス応答{hi}の値を示す図。
【図8】 変形H∞フィルタと高速H∞フィルタによるインパルス応答の推定結果の比較説明図。
【図9】 計算時間の測定結果の図。
【図10】 各アルゴリズムのシミュレーション結果の図(1)。
【図11】 各アルゴリズムのシミュレーション結果の図(2)。
【図12】 γfとρの関係図。
【図13】 高速H∞フィルタ、高速カルマンフィルタおよびLMSアルゴリズムにおけるインパルス応答のタップ数(tap number)と計算時間[s]の関係図。
【図14】 システム同定のための構成図。
【図15】 インパルス応答の調節機構についての構成図。
【図16】 通信系とエコーについての説明図。
【図17】 エコーキャンセラの原理図。
【符号の説明】
1 未知システム
2 適応フィルタ
3 FIRディジタルフィルタ
4 適応アルゴリズム
Claims (5)
- 時不変又は時変システムの高速実時間同定を行うシステム同定方法において、次式で表されるH∞フィルタ方程式を用い、
ただし、
x k : 状態ベクトルまたは単に状態 ; 未知、これが推定の対象となる。
x 0 : 初期状態 ; 未知である。
w k : システム雑音 ; 未知である。
v k : 観測雑音 ; 未知である。
y k : 観測信号 ; フィルタの入力となり、既知である。
z k : 出力信号 ; 未知である。
H k : 観測行列 ; 既知である。
x^ k|k : 観測信号y 0 〜y k までを用いた時刻kの状態x k の状態推定値 ; フィルタ方程式(12)によって与えられる。
x^ 0|0 :状態の初期推定値 ; 本来未知であるが、便宜上0が用いられる。
K s,k+1 :フィルタゲイン ;行列P^ k+1|k から得られる。
Σ wk : システム雑音の共分散行列に対応 ; 理論上は既知であるが、フィルタの実行前には未知である。
P^ k|k−1 : x^ k|k−1 の誤差の共分散行列に対応 ; リカッチ方程式によって与えられる。
P^ 1|0 : 初期状態の誤差の共分散行列に対応 ; 本来未知であるが、便宜上ε 0 Iが用いられる。
さらに、
「フィルタ誤差」:
(11)式のz v k|k と(9)式のz k =H k x k の差((15)式のe f,i に対応)の重み付きノルムの2乗の和。
「初期状態の誤差」:
時刻k=0のときの、以下に示す状態空間モデルの、(7)式の状態x k の初期値x 0 とその推定値の差の重み付きノルム。
「システム雑音に対応する項」:
以下に示す状態空間モデルの、(7)式のシステム雑音w k の重み付きノルムの2乗の和。
「観測雑音に対応する項」:
以下に示す状態空間モデルの、(8)式の観測雑音v k の重み付きノルムの2乗の和。
状態空間モデル
- ゲイン行列K k 、補助変数A k 、S k 、D k 、状態推定値x^ k|k の再帰式の初期条件をそれぞれ以下のように定めるステップと、
K k+1 ∈R N×2 ,K s,k+1 ∈R N×1 ,
0<ρ=1−γ f −2 ≦1,γ f >1
上記で求められたフィルタゲインK s,k+1 に基づき、前記フィルタ方程式(12)を以下のように更新するステップと、
を含む請求項2に記載のシステム同定方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000323958A JP4067269B2 (ja) | 2000-10-24 | 2000-10-24 | システム同定方法 |
PCT/JP2001/009082 WO2002035727A1 (fr) | 2000-10-24 | 2001-10-16 | Procede d'identification de systeme |
US10/415,674 US7039567B2 (en) | 2000-10-24 | 2001-10-16 | System identification method |
CA002426004A CA2426004C (en) | 2000-10-24 | 2001-10-16 | System identification method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000323958A JP4067269B2 (ja) | 2000-10-24 | 2000-10-24 | システム同定方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002135171A JP2002135171A (ja) | 2002-05-10 |
JP2002135171A5 JP2002135171A5 (ja) | 2005-04-07 |
JP4067269B2 true JP4067269B2 (ja) | 2008-03-26 |
Family
ID=18801562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000323958A Expired - Lifetime JP4067269B2 (ja) | 2000-10-24 | 2000-10-24 | システム同定方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US7039567B2 (ja) |
JP (1) | JP4067269B2 (ja) |
CA (1) | CA2426004C (ja) |
WO (1) | WO2002035727A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010011083A (ja) * | 2008-06-26 | 2010-01-14 | Ari:Kk | バイノーラル収音再生システム |
EP3573233A2 (en) | 2018-05-23 | 2019-11-27 | National University Corporation Iwate University | System identification device, system identification method, system identification program, and recording medium recording system identification program |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7480595B2 (en) * | 2003-08-11 | 2009-01-20 | Japan Science And Technology Agency | System estimation method and program, recording medium, and system estimation device |
US8380466B2 (en) | 2006-04-14 | 2013-02-19 | Incorporated National University Iwate University | System identification method and program, storage medium, and system identification device |
JP5247066B2 (ja) * | 2007-06-04 | 2013-07-24 | 三菱電機株式会社 | 目標追尾装置 |
US8457265B2 (en) | 2007-08-23 | 2013-06-04 | Qualcomm Incorporated | Method and apparatus for generating coefficients in a multi-input-multi-output (MIMO) system |
JP5232485B2 (ja) * | 2008-02-01 | 2013-07-10 | 国立大学法人岩手大学 | ハウリング抑制装置、ハウリング抑制方法及びハウリング抑制プログラム |
JP2010056805A (ja) * | 2008-08-27 | 2010-03-11 | Ari:Kk | 拡声装置 |
CN102142830A (zh) * | 2011-01-31 | 2011-08-03 | 上海大学 | 参考信号自提取的压电智能结构振动主动控制方法 |
US9058028B2 (en) * | 2011-04-29 | 2015-06-16 | Georgia Tech Research Corporation | Systems and methods for parameter dependent riccati equation approaches to adaptive control |
CN103279031B (zh) * | 2013-05-03 | 2016-08-31 | 北京航空航天大学 | 一种不确定多智能体系统的鲁棒趋同控制方法 |
JP7045165B2 (ja) * | 2017-11-02 | 2022-03-31 | リオン株式会社 | フィードバックキャンセラ及びそれを備えた補聴器 |
WO2019112467A1 (en) * | 2017-12-08 | 2019-06-13 | Huawei Technologies Co., Ltd. | Method and apparatus for acoustic echo cancellation |
CN109991546B (zh) * | 2019-03-29 | 2021-08-13 | 深圳猛犸电动科技有限公司 | 一种电池参数获取方法、装置及终端设备 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS61200713A (ja) * | 1985-03-04 | 1986-09-05 | Oki Electric Ind Co Ltd | デイジタルフイルタ |
US5394322A (en) * | 1990-07-16 | 1995-02-28 | The Foxboro Company | Self-tuning controller that extracts process model characteristics |
JP2872547B2 (ja) * | 1993-10-13 | 1999-03-17 | シャープ株式会社 | 格子型フィルタを用いた能動制御方法および装置 |
SE516835C2 (sv) * | 1995-02-15 | 2002-03-12 | Ericsson Telefon Ab L M | Ekosläckningsförfarande |
US5987444A (en) * | 1997-09-23 | 1999-11-16 | Lo; James Ting-Ho | Robust neutral systems |
US6711598B1 (en) * | 1999-11-11 | 2004-03-23 | Tokyo Electron Limited | Method and system for design and implementation of fixed-point filters for control and signal processing |
US6801881B1 (en) * | 2000-03-16 | 2004-10-05 | Tokyo Electron Limited | Method for utilizing waveform relaxation in computer-based simulation models |
-
2000
- 2000-10-24 JP JP2000323958A patent/JP4067269B2/ja not_active Expired - Lifetime
-
2001
- 2001-10-16 US US10/415,674 patent/US7039567B2/en not_active Expired - Lifetime
- 2001-10-16 CA CA002426004A patent/CA2426004C/en not_active Expired - Lifetime
- 2001-10-16 WO PCT/JP2001/009082 patent/WO2002035727A1/ja active Application Filing
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010011083A (ja) * | 2008-06-26 | 2010-01-14 | Ari:Kk | バイノーラル収音再生システム |
EP3573233A2 (en) | 2018-05-23 | 2019-11-27 | National University Corporation Iwate University | System identification device, system identification method, system identification program, and recording medium recording system identification program |
US10863272B2 (en) | 2018-05-23 | 2020-12-08 | National University Corporation, Iwate University | System identification device, system identification method, system identification program, and recording medium recording system identification program |
Also Published As
Publication number | Publication date |
---|---|
CA2426004A1 (en) | 2003-04-07 |
US20050171744A2 (en) | 2005-08-04 |
US20040059551A1 (en) | 2004-03-25 |
JP2002135171A (ja) | 2002-05-10 |
WO2002035727A1 (fr) | 2002-05-02 |
US7039567B2 (en) | 2006-05-02 |
CA2426004C (en) | 2009-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4067269B2 (ja) | システム同定方法 | |
Benesty et al. | A new class of doubletalk detectors based on cross-correlation | |
CN107749304B (zh) | 有限冲激响应滤波器系数矢量的可持续更新方法及装置 | |
CN103780998B (zh) | 消除声学回波的方法和设备、与自适应滤波系数更新方法 | |
van Waterschoot et al. | Double-talk-robust prediction error identification algorithms for acoustic echo cancellation | |
JP5196653B2 (ja) | システム同定方法及びプログラム及び記憶媒体、システム同定装置 | |
WO1995006986A1 (en) | Fast converging adaptive filter | |
US6766019B1 (en) | Method and apparatus for performing double-talk detection in acoustic echo cancellation | |
Zhao et al. | Adaptive recursive algorithm with logarithmic transformation for nonlinear system identification in α-stable noise | |
JP4444919B2 (ja) | システム推定方法及びプログラム及び記録媒体、システム推定装置 | |
Ramli et al. | Noise cancellation using selectable adaptive algorithm for speech in variable noise environment | |
Munjal et al. | RLS algorithm for acoustic echo cancellation | |
CN113873090B (zh) | 一种稳健估计仿射投影样条自适应回声消除方法 | |
JP2017098861A (ja) | エコーキャンセラ及びエコーキャンセル方法 | |
JP6894402B2 (ja) | システム同定装置及び方法及びプログラム及び記憶媒体 | |
Sudhir et al. | Acoustic echo cancellation using adaptive algorithms | |
JPH036918A (ja) | 適合非連続フィルタ | |
Dogariu et al. | An adaptive solution for nonlinear system identification | |
Seo et al. | Acoustic echo cancellation in distributed network using improved diffusion subband adaptive filtering algorithm | |
Kallinger et al. | Enhanced double-talk detection based on pseudo-coherence in stereo | |
JPH0697771A (ja) | 高速信号処理装置及び高速信号処理方法 | |
Haque et al. | Demystifying the digital adaptive filters conducts in acoustic echo cancellation | |
Zhou et al. | A new LMS/Newton algorithm for robust adaptive filtering in impulsive noise | |
JPH1168518A (ja) | 係数更新回路 | |
Vicente et al. | Performance comparison of two fast algorithms for active control |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20001102 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20031031 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20040129 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040430 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040430 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070828 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071019 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071019 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080108 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110118 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4067269 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120118 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130118 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140118 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |