JP4417390B2 - ステレオ音声を向上させるためのシステム及び方法 - Google Patents

ステレオ音声を向上させるためのシステム及び方法 Download PDF

Info

Publication number
JP4417390B2
JP4417390B2 JP2006546880A JP2006546880A JP4417390B2 JP 4417390 B2 JP4417390 B2 JP 4417390B2 JP 2006546880 A JP2006546880 A JP 2006546880A JP 2006546880 A JP2006546880 A JP 2006546880A JP 4417390 B2 JP4417390 B2 JP 4417390B2
Authority
JP
Japan
Prior art keywords
stereo
echo
far
speech
output signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006546880A
Other languages
English (en)
Other versions
JP2007515911A (ja
Inventor
マルトン,トリグブ・フレデリク
アールネス,イングバル・フラテン
ウインスボルド,ビヨルン
オベルビ,ゲイル・オレ
Original Assignee
タンドベルク・テレコム・エイ・エス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by タンドベルク・テレコム・エイ・エス filed Critical タンドベルク・テレコム・エイ・エス
Publication of JP2007515911A publication Critical patent/JP2007515911A/ja
Application granted granted Critical
Publication of JP4417390B2 publication Critical patent/JP4417390B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M9/00Arrangements for interconnection not involving centralised switching
    • H04M9/08Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic
    • H04M9/082Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic using echo cancellers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M9/00Arrangements for interconnection not involving centralised switching
    • H04M9/08Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic

Description

本発明は、改良された音響特性を有する音声通信システム及び方法に関し、特に改良された音声エコーキャンセルシステムを備えた会議システムに関する。
拡声器を使用して構成された通常の会議システムにおいては、1又は2以上の通信ユニットが離れたサイトに置かれる。会議システムを使用して一つのサイトから別のサイトに送られる信号は、送信に伴う遅延及び処理に伴う遅延を含むであろう種々の遅延を受ける。テレビ会議システムにおいては、画像信号の処理遅延は、音声信号の処理遅延よりかなり大きい。画像信号と音声信号とを同時に提供しなければならないので、画像信号の大きな遅延を補償するために、送信路及び受信路の双方において、音声信号にリップシンク遅延が意図的に導入される。
通常の会議システムにおいては、1個又はそれ以上のマイクロフォンがサイトAにおける音波を捕らえてこの音波を第1の音声信号に変換する。この第1の音声信号はサイトBに送信され、ここでテレビセット又は増幅器と拡声器とが、サイトAにおいて作られた第1の音声信号を音波に変換することにより第1の音波を作る。サイトBにおいて作られた音波はサイトBの音声獲得システムによりその一部分が捕捉され第2の音声信号に変換され、そしてサイトAにあるシステムに送り戻される。一方のサイトで捕捉された音波が他方のサイトに送られ、次いで最初のサイトに送り戻されるこの問題は音響エコーと呼ばれる。これが最も厳しく現れた場合は、ループの利得が1を越えたとき、音響エコーがフィードバック音を生ずることがある。特にシステム構成に遅延があるならば、上述のリップシンク遅延のため、テレビ会議システムにおいて普通であるように、音響エコーがサイトA及びBの双方の参加者の会議システム上での会話を困難とさせる。音響エコーの問題は、通常は、以下説明される音響エコーキャンセラーを使用して回避される。
ヤコブ・ベネスティ(Benesty J.)等による1998年9月発行のIEEE Transactions on Speech and Audio Processingの第6巻、第5号の第468〜475頁に掲載された「A hybrid mono/stereo echo canceller」は、1kHz以上のステレオ音声が除去されて1kHz以下のステレオ音声が保護されるエコーキャンセリング方法を記載している。動機は、1kHz以上の周波数が、ステレオの人的認識に対して全く寄与しないことによる。モノエコーキャンセラーは1kHz以上で使用できる。1kHz以下では、左右のチャンネルを関連させないように非線形要素が加えられて、不変の問題を従って低減する。本発明と比較して、この方法の欠点は、1kHz以上のモノエコーに基づくステレオ認識が低く、1kHz以下のオーディオが歪められることである。
図1は、テレビ会議システムの全体図である。このシステムは、2個のサイト、A及びBに配置される。会議システムの構成については、テレビ会議モジュールを2個以上のサイトに配置することができ、そしてシステム構成は1個のサイトのみが拡声器を持つときに機能的である。画像モジュールはサイトAに、テレビ画像を獲得する画像獲得システム1141及びテレビ画像をコード化する画像サブシステム1150を持つ。並行して、音声獲得システム1111により音波が獲得され、そして音声サブシステム1130がこの音波を音響信号にコード化する。画像コード化システムにおける処理遅延のため、制御システム1160が、画像信号と音声信号との間の同期を達成するために、リップシンク遅延回路1163の使用により音声信号に追加の遅延を導入する。画像信号と音声信号とは多重化装置1161において一緒に混合され、得られた信号、音声−画像信号が、送信チャンネル1300上でサイトBに送られる。追加のリップシンク遅延回路1262がサイトBにおいて挿入される。更に、音声提供装置1221により提供された音声信号がサイトBにおける音波として表現される。サイトBにおいて提供された音波の一部は、直接音波として、又は反射音波として音声獲得装置1211に達する。サイトBにおける音の獲得とこの音のサイトAへの遅延を伴った送り戻しとがエコーを形成する。説明された全ての遅延の総和はかなり大きく、このためテレビ会議のエコーキャンセラーに対する要求性能は特に高い。
図2は、図1のテレビ会議システムの音声システムの一部となし得る音響エコーキャンセラーサブシステムの一例を示す。少なくも一つの参加者サイトが、通信システムにおけるエコーを減らすために音響エコーキャンセラーサブシステムを持つ。音響エコーキャンセラーサブシステム2100は、全帯域型のデジタル音響エコーキャンセラーである。全帯域型は音響信号の全音声帯域(例えば、20kHzまで;テレビ会議に対しては帯域は典型的に7kHzまで;音声会議においては帯域は3.4kHzまで)を処理する。
既に説明したように、音響エコーの補償は、音響エコーキャンセラーにより達成されることが普通である。音響エコーキャンセラーは独立型の装置又は通信システムの場合の組込み部品である。音響エコーキャンセラーは、例えば、線形/非線形の数学モデルを使用して、サイトBよりサイトAに送られる音響信号から数学的に調整された音響信号を差し引いて、サイトAからサイトBに送信される音響信号を変形させる。より詳細には、例えば、サイトBにおけ音響エコーキャンセラーサブシステム2100を参照すれば、音響エコーキャンセラーは、サイトAからの第1の音響信号2131を音響システム2121の数学モデラーを通過させ、エコー信号の推定値2133を計算し、このエコー信号推定値をサイトBにおいて獲得された第2の音声信号2132から差し引き、そして第2の音響信号2135よりエコー推定値だけ小さい信号をサイトAに送り戻す。図2のエコーキャンセラーサブシステムは、推定誤差、即ち、音声獲得装置により音が獲得された場所における背景騒音及び環境の変化に対して数学モデルを更新し又は適合させるための推定エコー値と実際のエコーとの間の差も含む。
大多数のエコーキャンセラーに使用される音響システム2121のモデルはFIR(Finite Impuls Response, 有限インパルス応答)フィルターであり、直接音及び大部分の室内の反射音の変換機能を近似している。音響システム2121の全帯域モデルは比較的複雑であり、かつ処理用パワーを必要とし、そして、通常は、全帯域モデルに代わるものが好まれる。
エコーキャンセラーの処理用パワーの要求を減らす一つの方法は、サブ帯域処理を導入することである。即ち、信号を、より低いサンプリング周波数を使用して表し得るより狭い帯域幅を有する複数の帯域に分割することである。かかるシステムの例が図3に示される。拡声器及びマイクロフォンの信号は、分解フィルターにより、各帯域がオリジナルの拡声器及びマイクロフォンより小さい周波数範囲を表しているサブ帯域に分割される。各サブ帯域について同様なエコーキャンセリング及びその他の処理が行われた後、変更されたマイクロフォンの全ての帯域が合成フィルターにより一緒に併合されて全帯域信号を形成する。
ある事例においては、サブ帯域と全帯域処理を組み合わせることが便利なことがある。幾つかのサブアルゴニズムを、全帯域とサブ帯域との双方で、或いは組み合わせで実行することができる。
スティーブン・エル・ガット及びヤコブ・ベネスティ(Steven L. Gat and Jacob Benesty)著、「アコースティック・シグナル・プロセッシング・フォア・テレコミュニケーション」(Acoustic signal processing for telecommunication)、ボストン(Boston)、クルウワー・アカデミック・パブリッシャーズ(Kluwer Academic Publishers)、2000
エコーキャンセラーの中核要素は、既に説明された音響モデルである(最も普通にはFIRフィルターにより実行される)。音響モデルは、拡声器からマイクロフォンへの遠端信号の伝達機能のシミュレーションを意図する。この適応モデルは勾配探査(gradient search)アルゴニズムにより更新される。このアルゴニズムは、エコー推定値を引いた後の信号のパワーである誤差関数を最小にすることを試みる。モノラルエコーキャンセラーに対しては、この解が機能し、これは均一かつ特有の解である。
しかし、高品質通信においては、高品質の多チャンネル音声、例えばステレオ音声を送り提供することが望まれることが多い。ステレオ音声は、ある組成の音からの異なる空間音声を表している2個の分離したチャンネルからの音声信号を含む。関係の各拡声器にチャンネルを接続することによりより忠実な音声の再現が作られる。リスナーは、音の組成を作る複数の音声源の間の空間的な差を感知するであろう。
1個の拡声器上で活動している信号は他方の拡声器上にある信号とは差がある。そこで、ステレオ(又は多チャンネル)エコーキャンセラーに対しては、各拡声器から関係のマイクロフォンへの伝達関数を補償することが必要である。これは、異なるが相関した2個の信号を補償するので、単一の音声エコーキャンセラーと比較して幾分か異なった状況である。
加えて、異なるチャンネル間の相関が重要になり易い。これが、通常の勾配探査アルゴニズムを悩ませる。数学的に表現された相関は、誤差関数に幾つかの偽の最小解を導く。これは、特に非特許文献1に説明される。基本的な問題は、多チャンネルが直線関係の信号を搬送するとき、適応アルゴニズムにより解かれた誤差関数に相当する正規関数の解が特異であることである。これは、方程式に特有の解が無くて無限数の解があることを意味し、送信室のインパルス応答に依存する真のもの以外を示す可能性がある(この文脈においては、送信室は、例えば遠端において再生された記録され又はプログラムされたマテリアルも含むことができる)。このとき、勾配探査アルゴリズムは、必ずしも真の最小の解ではない最小に陥る。
このステレオエコーキャンセラー適合の問題は、別の普通の方法で表すと、室の応答の変化とステレオイメージにおける音声の「動き」との間の識別が困難であることである。例えば、遠端の側の異なった位置で一人の話者が話し始めたならば、音響モデルは復帰しなければならない。かかる変化を十分に早く追跡できる適応アルゴリズムはなく、更に多チャンネルの場合のモノラルエコーキャンセラーは満足な性能を出していない。
上述の偽最小解の問題を克服する典型的な方法が図4に示される。モノラルの場合と比較して、分解フィルターが2倍にされ、右及び左の拡声器信号をサブ帯域に分割する。音響モデルは(1サブ帯域当たり)右チャンネル送信機能用に1個及び左チャンネル送信機能用に1個の2個のモデルに分割される。
左右の信号チャンネル間の相関により導かれた偽の最小解を克服するために、相関除去アルゴリズムが導入される。この相関除去により音響モデルを正しく更新することが可能となる。しかし、相関除去技術は拡声器に提供される信号も変更させる。音質を保全する変更技術は、これを受け入れることができるが、従来技術による相関除去技法は音声を著しく歪ませる。
従って、これらの技術は、ステレオエコーの問題は解決できるが、音声の要求品質を保つことはできない。
ステレオが存在するときの音声エコーを最小にするシステムを提供することが、本発明の目的である。
特に、本発明は、第1のモジュール出力信号(5134)を作り、少なくも音響エコーの第1の適応モデル(5121)を実行するように構成され、モノラルエコーの推定値(5133)を提供しそして第1のモジュール出力信号(5134)を作っているエコーの加えられた入力信号からモノラルエコー推定値(5133)を差し引いたときに第1のモジュール出力信号(5134)内のエコー寄与分のモノラル部分を最小にするように収束させるモジュールを備え、エコー寄与分を加えている遠端音声に加えて近端音声を含んでいるエコーの加えられた入力信号からエコーの減衰された出力信号を提供するように調整された音声エコーキャンセラーであって、1個以上の多要素音声検知器が遠端音声中のかなりの多成分音声の有無を検知するように構成され、そして第1の適応モデル(5121)は、前記1個以上の多要素音声検知器が遠端音声中のかなりの多要素音声を検知したとき、収束を中止するように構成され、そして第2の適応モデル(5129)は、前記1個以上の多要素音声検知器が遠端音声中のかなりの多要素音声を検知しないとき、収束を中止するように構成され、或いは、遠端音声及び近端音声を看視している雑処理ユニット(5122)であって、予め定められた遠端/近端の音声の存在する事象の際に第1又は第2のモジュール出力信号(5134、5136)を減衰させるように構成された前記雑処理ユニットは、前記1個以上の多要素音声検知器が遠端音声中のかなりの多要素音声を検知しないとき、活性化される前記音声エコーキャンセラーを明らかにする。
本発明をより理解するために以下の説明は付属図面を参照する。
以下、本発明は、好ましい実施例について記述することにより、及び付属図面を参考することにより説明されるであろう、しかし、特別な実施例がテレビ会議及びステレオ音に関連して説明されるが、本技術熟練者は、特許請求の範囲において定義された本発明の範囲内でその他の応用例及び変更例を具体化するであろう。特に、本発明の原理は、その他の形式の会議に関連しても利用することができ、更にこれは音声多チャンネルに対して有用である。加えて、以下説明される技術はサブ帯域の事例に主に焦点が当てられるが、全帯域についても使用し得ることに注意されたい。全帯域キャンセラーにおいては、分解フィルター及び合成フィルターは無くされる。図面の破線内の処理は完全な全帯域音声信号で行われる。
本発明は、異なるステレオ音声信号チャンネルが高度に相関すること、及びステレオ音響が常時あることは稀であることにに基づく。通常は、互いにそれぞれのチャンネルの信号の小部分のみが互いに異なり、更に典型的な会議の状況においてはモノラル音声だけがあるときの時間が長い。本発明は、通常の会議中、常に全エコーキャンセルを提供することは必ずしも要求されないことも利用する。例えば、拡声器が沈黙しているときは、エコーは全く無いであろう。更に、CD/DVDなどからの音の提供と関連したステレオ信号があるが、これは多くは一方向通信であって多重全エコーキャンセリングについての要求を減らしている。更に、(人と異なる)プログラム素材を使用する装置は一時的な残存エコーによる混乱はない。また、プログラム素材の場合は、多くの時間、モノラル音声だけしかないであろう。
そこで、本発明は、大部分の時間の信号がモノラルであるとして、モノラル/ステレオの混合型エコーキャンセラー構造を明らかにする。本発明の実施例が図5に示される。この図の多くのサブパーツ;管理されたステレオコラプシングユニット、拡声器のR−L分解フィルター、及び全帯域又はサブ帯域ステレオ検知器(ただし双方ではない)がオプションであることに注意されたい。その他のサブパーツは、例えば、全帯域ドメインからサブ帯域ドメインに、或いはこの逆にサブパーツを動かすにより、多少異なる扱いを受けることがある。これらの単純化又は変更は、図5に示された本発明の実施例に含まれる種々の構成要素の以下の説明において更に説明される。
本発明により、拡声器の全帯域信号R及びLは、ユニットを加えることにより及びユニットを減らすことによりそれぞれ全帯域R+L及び全帯域R−Lの表現に変換される。全帯域R+L信号は音声信号のモノラル部分を表し、一方、全帯域R−L信号は音声信号のステレオイメージを表す。そこで、モノラル信号のみが表される状況についてはR−Lはゼロに等しい。
両信号はサブ帯域信号に分割される。R+L全帯域信号は拡声器R+L分解フィルター5125を使用してR+Lサブ帯域信号に分割され、一方、R−L全帯域信号は拡声器R−L分解フィルター5126を使用してR−Lサブ帯域信号に分割される。
サブ帯域R+L信号及びサブ帯域R−L信号を計算する別の方法は、R信号及びL信号を別々に分解し、次いでサブ帯域信号について加算又は減算を行うことである。
(ADC/マイクロフォンからの)マイクロフォン全帯域信号は、マイクロフォン分解フィルター5151の手段によりマイクロフォンサブ帯域信号に分割される。
本発明によるエコーキャンセラーには、更に少なくも1個のステレオ検知器が設けられる。図5に示されるように、R+L及びR−L信号がかかるステレオ検知器に供給される。ステレオの検知は、R+L及びR−L全帯域信号及び全帯域ステレオ検知器を使用して全帯域において行うか、或いはR+L及びR−Lサブ帯域信号及びサブ帯域ステレオ検知器を使用してサブ帯域において行うかのいずれか(又は双方)とすることができる。サブ帯域ステレオ検知器を使用することにより、種々の周波数に対して個々に決定を行うことができる。このため、サブ帯域検知器はうまく実行できるが、計算上の複雑さが大きくなる(ただし主要な問題ではない)。
ステレオを検知するために、即ちステレオ検知の尺度(SDM)を計算するために種々の技術を使うことができる。一つの方法は、R−L信号のパワーをR+L信号のパワーで割った値を計算することである。即ち、
SDM=PR−L/PR+L
SDMは真のモノラル信号に対してはゼロに等しく、そしてステレオ信号に対してはゼロより大きいとすることによりステレオを検知することができる。
N個の標本の組について時刻iにおけるパワーを計算することができる。即ち
Figure 0004417390
或いは、フィードバック構造を使用して時刻iにおけるパワーを計算し、新しい各標本について更新する。αは更新速度を表す小さい正の定数であり、標本化周波数に依存するであろう。
R+L(i)=(1−α)PR+L(iー1)+α(R+L
R−L(i)=(1−α)PR−L(iー1)+α(R−L
ステレオ検知を実行する別の方法は、R+L信号のパワーにより正規化されたR−L信号とR+L信号との間の(遅延ゼロにおける)相互相関を計算することである。即ち、
SDM=RR+LR−L/PR+L
このSDMもモノラル信号についてはゼロに等しく、そしてステレオ成分が導入されるとゼロ以上に増加する。
この場合も、標本の組について、又はフィードバック構造を使用して、分母及び分子の双方を計算することができる。分母は第1のアルタナティブとして計算でき、一方、分子に対する式は次のようになる。即ち、
標本の組の場合:
Figure 0004417390
フィードバックの場合:
R+LR−L(i)=(1−α)PR+LR−L(i−1)+α(R−L)(R+L
ステレオ検知を実行するなお別の方法は、[R信号とL信号との間の相互相関]対[R+L信号のパワー]の比を計算することである。即ち、
SDM=R/PR+L
このSDMは、モノラルの場合は0.25に等しく、ステレオ成分の増加とともに減少するであろう。Rは、標本の組を使用し、或いは後者の例と同じ式を使用してフィードバック構造を使い計算することができる。
標本の組の場合:
Figure 0004417390
フィードバックの場合:
(i)=(1−α)R(i−1)+αR
これらの式は、R信号及びL信号が直接与えられる場合、例えばR及びLが個々に分解される場合に最も良く適合する。いずれの場合も、R及びLは、いつでもR+L及びR−Lから再計算することができる。
最後の一つの方法は、[R信号とL信号との間の相互相関]対[RのパワーとLのパワーとの和]の比としてステレオ検知の尺度を計算することである。即ち、
SDM=R/(P+P
このSDMは、モノラルの場合は0.5に等しく、そして、これはステレオ成分の増加とともに減少するであろう。Pは、第1のステレオ検知方法と同じ式を使用して、標本の組又はフィードバック構造を使用して計算することができる。
標本の組の場合:
Figure 0004417390
フィードバックの場合:
(i)=(1−α)P(i−1)+αR
(i)=(1−α)P(i−1)+αL
これらの式は、R信号及びL信号が直接与えられる場合、例えばR及びLが個々に分解された場合に最も良く適合する。
上述のステレオ検知器は、特に第1の適応モデル5121を制御するために使用される。補償装置は、標準モノラルエコーキャンセラーに使用される音響モデルを備え、通常、サブ帯域当たり1個のFIRフィルターが装備される。しかし、標準モノラルエコーキャンセラーとは異なり、入力は拡声器のR+Lサブ帯域信号である。モデルは、モデル更新ループ及び最小の誤差関数を達成するための勾配探査を使用し、モノラルエコーキャンセリングから良く知られた標準適合技術、例えばLMS,MLMS,APA,RLSなどを使用して更新される。この文脈においては、通常のエコー補償装置に関する大きい除外もある。ステレオ検知器が真のモノラル信号又は真のモノラル信号に極めて近い信号ではない何かを検知したときはいつでも、(モノラルエコーに対して)最適状態において安定するに十分な時間、適合が進行してきたとして音響モデルの適合は変更されない。そこで、ステレオ音が導入されたとき、勾配探索における偽の最小解答は現れず、フィルターはこれらの一つに「陥る」ことはないであろう。
ステレオ検知器は、ステレオが存在しかつエコー信号のモノラル部分がなおキャンセルし得るときに誤差関数中に導入される偽の最小解にモノラルエコー補償装置が陥ることをある程度まで防ぐ。しかし、エコー信号のステレオイメージはまだ存在する。これは種々の方法で除去/減衰させることができる。選択可能な一つの方法は、図5に示されるようにモノラルエコー補償装置に第2の適応モデル5129を追加することである。
第2の適応モデル5129の入力は、拡声器R−Lサブ帯域信号であり、更に補償装置はモノラルエコー補償装置5121用と同じモデルを備える。このモデルは標準適応技術を使用して更新される。しかし、この適応は、ステレオ検知器により強いステレオ信号が検知されたときだけ可能である。信号のモノラル部分はR−L補償装置により既に除去されているため、フィードバック信号内には少しのモノラル信号があるだけであり、R−L補償装置に集中させることができる。
信号は大部分の時間モノラルであること、及びステレオ状況におけるエコーキャンセラーの性能は重大では無いことの仮定に基づき、ステレオイメージ補償装置を省略することができる。これは、計算又は適合にR−Lモデルが不要であるため、全体システムの計算上の複雑さを大きく減らす。システムが全帯域ステレオ検知器のみに基づいた場合は、拡声器R−L分解フィルター及びサブ帯域ステレオ検知器もまた省略することができ、更なる計算上の複雑さから解放される。
ステレイメージオエコー補償装置に代わるものとして又は補助として、通常のモノラルエコーキャンセラーと比較して混合サブ帯域処理ユニット5122における幾つかの調整が行われる。このブロックが、減衰の導入によりマイクロフォン信号から残存エコーを除去し、これは、しばしば非線形処理(NLP)と呼ばれる。拡声器信号及びマイクロフォン信号からスピーチの方向が決定される(近端スピーチ、遠端スピーチ、又は両者)。
この非線形処理装置が扱う3種の主要な状況がある。
1.単一なトーク、マイクロフォン(近端)信号作動、拡声器(遠端)信号なし、或い
は全く信号なし:NLPは信号を変化なしに通過させる。
2.単一なトーク、拡声器信号作動、近端トークなし:NLPは信号を大きく減衰させ
残存エコーを除去する。
3.ダブルトーク、拡声器作動及び近端トークあり:NLPは信号を変化なしに通過さ
せるか、或いは残存エコーがマイクロフォン/近端信号により遮蔽されるように僅
かに減衰させる。
非線形処理装置はしばしばサブ帯域上で作動し、このためNLPは1個の帯域に対して上の3種の作動の一つを選択し、別のサブ帯域に対しては別の作動を選択することができる。
モノラルキャンセラーにおいては、NLPは残存エコーを除去する。しかし、ステレオ状況においては、第2の適応モデル(5129)が無いか又は不十分であるときは、NLPはステレオエコーも除去しなければならない。これは、第1及び第2の状況においては挙動を変えないが、第3の状況は処理を変えることが好ましく、2個のサブ状況を導く。
3a.ダブルトーク、マイクロフォンと拡声器の両者とも作動、決定されたステレオ信
号なし:NLPは、残存エコーがマイクロフォン/近端信号により遮蔽され、ステ
レオエコー信号が無くなってから、信号を変更なしで通過させ、又はこれを僅かに
減衰させる。
3b.ダブルトーク、マイクロフォンと拡声器の両者とも作動、ステレオ信号が検知さ
れる:残存エコー(低レベル)がマイクロフォン(近端)により遮蔽される。ステ
レオエコー信号(又はステレオエコー補償装置がありかつ適正に作動している場合
は 残存ステレオエコー信号)は除去し又は受容しなばならず(残存エコーのみが
ある場合は受容が好ましい選択である)、そしてこの選択の場合は(これは予め定
められた選択である)、信号は、変更なしに通過し、即ちステレオエコーが受け入
れられるか、或いは減衰され、即ちいわゆる音声切替えが受け入れられるかのいず
れかである。ステレオのレベルに応じて、信号の完全通過と完全減衰との間のある
状況が選定され、低レベルのステレオエコーはこれを受け入れそして音声切替えを
適度化する。
上の3bに説明された状況は二つの短所−ステレオエコー又は音声切替えの存在又は両者の限定された/中等程度の組合い−の一つを導く。ステレオエコーは増強されたエコーとして、また音声切替えは半2重通信(話しているときの同期のずれた良く似ている音声)として経験される。
本発明の別の実施例においては、これらの欠点を補償するためにステレオコラプシングユニット5161が導入される。ステレオコラプシングニット5161の目的は、ダブルトークが検知されたとき、或いは近端信号が検知されたときは、いつでも状況をステレオからモノラルにすることである。
ステレオコラプシングユニット5161の別の機能は、モノラル補償装置が変換の第1状態に達して、高レベルのステレオ信号があってもこれを受け入れ得るようになるまでステレオイメージをコラプシングさせることである。更に、これは、室の応答に大きな変化が発生した後、モノラル補償装置が回復するまでステレオイメージをコラプシングさせるであろう。
図6は、ステレオコラプシングユニットを特に詳細に示す。上述の状況1及び2の正常な状況においては、コラプシングゲインgはゼロであり、左又は右の信号を変えることはない。状況3a又は3bが検知されたときは、ゲインは0.5まで徐々に増加され、ステレオイメージを無くし又はコラプシングさせる。状況3aにおいては、信号はモノラルであり影響ない。しかし、状況3bにおいては、システムを、コラプシングにより、ステレオエコーが無い状況3aとし、非線形処理ユニットにより残存エコーのみを扱う。コラプシングが不要になったとき、或いは近端の話が無くなったとき、コラプシングゲインを徐々に0に減少させ、ステレオ信号を伴う新しい状況に対する待機状態になる。ステレオコラプシングユニットは、全効果(g=0.5)においては、左右のチャンネルのそれぞれの信号を単に加算し、その結果を両チャンネルに送る。
このコラプシングユニットがダブルトーク状況におけるステレオイメージを減らすことは言うまでもないが、これらの状況においては、多くの音声源があり、ステレオの損失を少なくも部分的に遮蔽している。
図7は、一般化されたステレオコラプスシングニットを示す。コラプシングゲインgは、ステレオコラプシングフィルターHと置き換えられる。この一般化されたユニットは、異なるサブ帯域において異なるが状況検知された場合の、異なる周波数帯域における異なるコラプシングを許す。
図7は、より静的なコラプシング技術、即ち、ステレオイメージの主要な概念に対して重要でない周波数帯域の常時コラプシングを許し、一方では重要な帯域は動的にコラプシングされる。
通常の会議システム構成の詳細ブロック図である。 音響エコーキャンセラーサブシステムの拡大図である。 サブ帯域処理により実行された対応するエコーキャンセラーサブシステムのブロック図である。 従来技術によるステレオエコーキャンセラーシステムのブロック図である。 本発明の一実施例のブロック図である。 周波数と無関係に制御されるステレオコラプシングユニットの拡大図である。 制御されたコラプシングユニットの一般周波数依存バージョンの拡大図である。

Claims (18)

  1. エコー寄与分を加えている遠端音声に加えて近端音声を含んでいるエコーの加えられた入力信号からエコーの減衰された出力信号を提供するように調整された音声エコーキャンセラーであって、
    第1のモジュール出力信号(5134)を作り、少なくとも音響エコーの第1の適応モデル(5121)を実行するように構成され、モノラルエコーの推定値(5133)を提供して第1のモジュール出力信号(5134)を作っているエコーの加えられた入力信号からモノラルエコー推定値(5133)を差し引いたときに第1のモジュール出力信号(5134)内のエコー寄与分のモノラル部分を最小にするように収束させる第1モジュールと、
    第2のモジュール出力信号(5136)を作り、少なくとも音響エコーの第2の適応モデル(5129)を実行するように構成され、第2のモジュール出力信号(5136)を作っている第1のモジュール出力信号(5134)から多要素部推定値(5138)を提供するときに第2モジュール出力信号(5136)内のエコー寄与分の多要素音声部分を最小にするように収束させる第2モジュールと、を備えた音声エコーキャンセラーにおいて、
    遠端音声中の多要素音声の有無を検知するように構成された1つの多要素音声検知器を備え、そして
    第1の適応モデル(5121)は、前記多要素音声検知器が遠端音声中の多要素音声を検知したとき、収束を中止するように構成され、そして
    第2の適応モデル(5129)は、前記多要素音声検知器が遠端音声中の多要素音声を検知しないとき、収束を中止するように構成され、或いは
    予め定められた遠端/近端の音声の存在する事象の際に、第1又は第2のモジュール出力信号(5134、5136)を減衰させるように構成された、遠端音声及び近端音声を監視する雑処理ユニット(5122)を備え、少なくとも1個の多要素音声検知器が遠端音声中の多要素音声を検知しないとき、該雑処理ユニットが活性化されることを特徴とする音声エコーキャンセラー。
  2. 多要素検知器が、入力として遠端音声を送信している1個の左(L)及び1個の右(R)の音声チャンネルを有する1個のステレオ検知器であり、
    ステレオ検知器は遠端音声内のステレオを検知するように構成される
    ことを特徴とする請求項1による音声エコーキャンセラー。
  3. ステレオ検知器は、R−LとR+Lの間のパワー比がゼロより大きいとき、ステレオを検知するように構成されることを特徴とする請求項2による音声エコーキャンセラー。
  4. ステレオ検知器は、R+Lのパワーで正規化されたR−LとR+Lの間の相互相関がゼロより大きいとき、ステレオを検知するように構成されることを特徴とする請求項2による音声エコーキャンセラー。
  5. ステレオ検知器は、R+Lのパワーで正規化されたRとLとの間の相互相関が0.25より小さいとき、ステレオを検知するように構成されることを特徴とする請求項2による音声エコーキャンセラー。
  6. ステレオ検知器は、RのパワーとLのパワーとの和で正規化されたRとLとの間の相互相関が0.5より小さいとき、ステレオを検知するように構成されることを特徴とする請求項2による音声エコーキャンセラー。
  7. 第1の適応モデル(5121)がRとLとの和に基づいてモノラルエコー推定値(5133)を誘導し、更に第2の適応モデル(5129)がRとLとの間の差からステレオエコー推定値(5138)を誘導することを特徴とする請求項2−いずれか1による音声エコーキャンセラー。
  8. 前記雑処理ユニット(5122)は、更に
    遠端音声だけがあるとき第1(5134)又は第2(5136)のモジュール出力信号を実質的に減衰させ、
    近端音声だけがあるとき第1(5134)又は第2(5136)のモジュール出力信号を変化させずに通過させるように構成されることを特徴とする請求項2−いずれか1による音声エコーキャンセラー。
  9. 遠端音声及び近端音声の両者がある場合は、雑処理ユニット(5122)は、
    1個以上のステレオ検知器により遠端音声内にステレオが検知されないとき、第1(5134)又は第2(5136)のモジュール出力信号を変更なし又は僅かな減衰で通過させ、
    1個以上のステレオ検知器により遠端音声内にステレオが検知されたとき、予め定められた選択に従って及び/又はステレオエコーキャンルの有無に応じて第1(5134)又は第2(5136)のモジュール出力信号を通過させ或いは僅かに減衰させるように構成されることを特徴とする請求項による音声エコーキャンセラー。
  10. エコーの加えられた入力信号の少なくも一部分を、各が前記モデルのそれぞれのサブモジュールバージョンにより処理されるある数のエコーの加えられた入力サブ信号に周波数分割するように構成された第1の分解フィルター(5151)、
    R及びLの和の少なくも一部分を、前記モデルのそれぞれのサブモジュールバージョン及び/又は前記雑処理ユニットのそれぞれの雑処理サブユニットにより処理されたある数のL及びRのサブ和に周波数分割するように構成された第2の分解フィルター(5125)、
    それぞれのサブモジュールバージョン又はそれぞれの雑処理サブユニットバージョンの出力を合成させるように構成された合成フィルター(5127)を特徴とする請求項2−いずれか1による音声エコーキャンセラー。
  11. R及びLの差の少なくも一部分を、前記モデルのそれぞれのサブモジュールバージョン、前記1個以上のステレオ検知器のそれぞれのステレオサブ検知器バージョン及び/又は前記雑処理ユニットのそれぞれの雑処理サブユニットバージョンにより処理されるL及びRのサブ差の数に周波数分割するように構成された第3の合成フィルター(5126)
    更に、前記1個以上のステレオ検知器のそれぞれのステレオサブ検知器バージョンが前記L及びRのサブ和の数を処理する
    ことを特徴とする請求項10による音声エコーキャンセラー。
  12. 遠端音声と近端音声との両者があるとき、遠端音声からステレオを除去するように構成されたステレオコラプシングユニット(5161)
    を特徴とする請求項2−11いずれか1による音声エコーキャンセラー。
  13. 第1のモジュール出力信号(5134)を作り、少なくも音響エコーの第1の適応モデル(5121)を実行するように構成され、モノラルエコーの推定値(5133)を提供しそして第1のモジュール出力信号(5134)を作っているエコーの加えられた入力信号からモノラルエコー推定値(5133)を差し引いたときにモジュール出力信号内のエコー寄与分のモノラル部分を最小にするように収束させるモジュールを備えている音声エコーキャンセリングシステムにおいて、
    エコーの寄与分を加えている遠端音声に加えて近端音声を含んだエコーの加えられた入力信号からエコーの減衰された出力信号を提供するための方法であって、
    遠端音声中の多要素音声の有無を監視し、
    遠端音声中のかなりの多要素音声を検知したとき、第1の適応モデル(5121)を収束させるように中止させ、そして遠端音声中のかなりの多要素音声を検知しないときは、
    第2の適応モデル(5129)を収束させるように停止させ、或いは予め定められた遠端/近端音声が存在する事象において前記第2のモジュール出力信号(5136)を減衰させるように構成された遠端及び近端の音声看視用の雑処理ユニット(5122)を作動させる
    ことを特徴とする方法。
  14. 遠端音声が1個の左(L)及び1個の右(R)の音声チャンネルにより送信され、そして前記多要素音声がステレオであることを特徴とする請求項13による方法。
  15. ステレオエコー推定値(5138)を提供したとき、前記第2の適応モデル(5129)がモジュール出力信号中のエコー寄与分のステレオ部分を最小にするように収束され、そして第2のモジュール出力信号(513)を作っているモジュール出力信号からステレオエコー推定値(5138)を差し引くことを特徴とする請求項14による方法。
  16. RとLとの和に基づいてモノラルエコー推定値(5133)を誘導し、更にRとLとの差からステレオエコー推定値(5138)を誘導する追加段階を特徴とする請求項14又は15による方法。
  17. 前記雑処理ユニット(5122)が、更に
    遠端音声のみがあるときは第1(5134)又は第2(5136)のモジュール出力信号をかなり減衰させ、
    近端音声のみがあるときは第1(5134)又は第2(5136)のモジュール出力信号を変化なしで通過させ、或いは
    遠端音声及び近端音声の両者がある場合は、
    1個以上のステレオ検知器により遠端音声内にステレオが検知されないときは
    第1(5134)又は第2(5136)のモジュール出力信号を変化なしで通過させ、1個以上のステレオ検知器により遠端音声内にステレオが検知されたときは第1(5134)又は第2(5136)のモジュール出力信号を予め定められた選択に従って通過させ或いはかなり又は僅かに減衰させるように構成されることを特徴とする請求項1416いずれか1による方法。
  18. 遠端音声及び近端音声の両者があるときは遠端音声からステレオを除去する追加段階を特徴とする請求項1417いずれか1による方法。
JP2006546880A 2003-12-23 2004-12-22 ステレオ音声を向上させるためのシステム及び方法 Expired - Fee Related JP4417390B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
NO20035796A NO320942B1 (no) 2003-12-23 2003-12-23 System og fremgangsmate for forbedret stereolyd
PCT/NO2004/000398 WO2005062595A1 (en) 2003-12-23 2004-12-22 System and method for enhanced stereo audio

Publications (2)

Publication Number Publication Date
JP2007515911A JP2007515911A (ja) 2007-06-14
JP4417390B2 true JP4417390B2 (ja) 2010-02-17

Family

ID=34709403

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006546880A Expired - Fee Related JP4417390B2 (ja) 2003-12-23 2004-12-22 ステレオ音声を向上させるためのシステム及び方法

Country Status (9)

Country Link
US (1) US7477735B2 (ja)
EP (1) EP1698159B1 (ja)
JP (1) JP4417390B2 (ja)
CN (1) CN1898944A (ja)
AT (1) ATE447824T1 (ja)
DE (1) DE602004023968D1 (ja)
ES (1) ES2333873T3 (ja)
NO (1) NO320942B1 (ja)
WO (1) WO2005062595A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7352858B2 (en) * 2004-06-30 2008-04-01 Microsoft Corporation Multi-channel echo cancellation with round robin regularization
US7826624B2 (en) * 2004-10-15 2010-11-02 Lifesize Communications, Inc. Speakerphone self calibration and beam forming
US7720232B2 (en) * 2004-10-15 2010-05-18 Lifesize Communications, Inc. Speakerphone
US8116500B2 (en) * 2004-10-15 2012-02-14 Lifesize Communications, Inc. Microphone orientation and size in a speakerphone
US7970151B2 (en) * 2004-10-15 2011-06-28 Lifesize Communications, Inc. Hybrid beamforming
US7760887B2 (en) * 2004-10-15 2010-07-20 Lifesize Communications, Inc. Updating modeling information based on online data gathering
US7720236B2 (en) * 2004-10-15 2010-05-18 Lifesize Communications, Inc. Updating modeling information based on offline calibration experiments
US7903137B2 (en) * 2004-10-15 2011-03-08 Lifesize Communications, Inc. Videoconferencing echo cancellers
US20060132595A1 (en) * 2004-10-15 2006-06-22 Kenoyer Michael L Speakerphone supporting video and audio features
US8457614B2 (en) 2005-04-07 2013-06-04 Clearone Communications, Inc. Wireless multi-unit conference phone
US7970150B2 (en) * 2005-04-29 2011-06-28 Lifesize Communications, Inc. Tracking talkers using virtual broadside scan and directed beams
US7991167B2 (en) * 2005-04-29 2011-08-02 Lifesize Communications, Inc. Forming beams with nulls directed at noise sources
US7593539B2 (en) 2005-04-29 2009-09-22 Lifesize Communications, Inc. Microphone and speaker arrangement in speakerphone
NO322301B1 (no) * 2005-07-13 2006-09-11 Tandberg Telecom As Fremgangsmate og system for ekkokansellering med liten forsinkelse.
CN101227537B (zh) * 2007-01-19 2010-12-01 中兴通讯股份有限公司 一种宽带声学回声消除方法
US8219387B2 (en) * 2007-12-10 2012-07-10 Microsoft Corporation Identifying far-end sound
US8433061B2 (en) * 2007-12-10 2013-04-30 Microsoft Corporation Reducing echo
US8744069B2 (en) * 2007-12-10 2014-06-03 Microsoft Corporation Removing near-end frequencies from far-end sound
JP4889810B2 (ja) * 2008-06-11 2012-03-07 三菱電機株式会社 エコーキャンセラ
TWI429302B (zh) 2008-07-29 2014-03-01 Lg Electronics Inc 音頻訊號之處理方法及其裝置
EP2512040B1 (en) * 2011-04-14 2013-11-13 Alcatel Lucent A computation saving echo canceller for a wide band audio signal
WO2012157788A1 (ja) * 2011-05-19 2012-11-22 日本電気株式会社 音声処理装置、音声処理方法および音声処理プログラムを記録した記録媒体
CN103414980B (zh) * 2013-07-30 2016-09-07 浙江中科电声研发中心 一种多输出通道音响系统的时延和频响特性的补偿方法
US9100090B2 (en) 2013-12-20 2015-08-04 Csr Technology Inc. Acoustic echo cancellation (AEC) for a close-coupled speaker and microphone system
CN104751854A (zh) * 2013-12-26 2015-07-01 联芯科技有限公司 一种宽带声学回声消除方法及系统
JP6398470B2 (ja) * 2014-08-27 2018-10-03 沖電気工業株式会社 ステレオエコー抑圧装置、エコー抑圧装置、ステレオエコー抑圧方法及びステレオエコー抑圧プログラム
KR20170035504A (ko) * 2015-09-23 2017-03-31 삼성전자주식회사 전자 장치 및 전자 장치의 오디오 처리 방법
JP6936860B2 (ja) * 2017-08-28 2021-09-22 株式会社ソニー・インタラクティブエンタテインメント 音声信号処理装置
US10951859B2 (en) 2018-05-30 2021-03-16 Microsoft Technology Licensing, Llc Videoconferencing device and method
CN108566612B (zh) * 2018-06-29 2020-09-25 海信视像科技股份有限公司 一种扬声器检测方法、终端设备及计算机存储介质
DE102018127071B3 (de) * 2018-10-30 2020-01-09 Harman Becker Automotive Systems Gmbh Audiosignalverarbeitung mit akustischer Echounterdrückung
US11451905B1 (en) * 2019-10-30 2022-09-20 Social Microphone, Inc. System and method for multi-channel acoustic echo and feedback compensation

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5305307A (en) 1991-01-04 1994-04-19 Picturetel Corporation Adaptive acoustic echo canceller having means for reducing or eliminating echo in a plurality of signal bandwidths
FR2793629B1 (fr) * 1999-05-12 2001-08-03 Matra Nortel Communications Procede et dispositif d'annulation d'echo stereophonique a filtrage dans le domaine frequentiel
US6614365B2 (en) * 2000-12-14 2003-09-02 Sony Corporation Coding device and method, decoding device and method, and recording medium
JP3608525B2 (ja) * 2001-05-09 2005-01-12 ヤマハ株式会社 2チャンネルエコーキャンセル用フィルタのインパルス応答設定方法および2チャンネルエコーキャンセラ並びに双方向2チャンネル音声伝送装置
JP3506138B2 (ja) * 2001-07-11 2004-03-15 ヤマハ株式会社 複数チャンネルエコーキャンセル方法、複数チャンネル音声伝送方法、ステレオエコーキャンセラ、ステレオ音声伝送装置および伝達関数演算装置

Also Published As

Publication number Publication date
ES2333873T3 (es) 2010-03-02
ATE447824T1 (de) 2009-11-15
CN1898944A (zh) 2007-01-17
EP1698159B1 (en) 2009-11-04
US20050157866A1 (en) 2005-07-21
EP1698159A1 (en) 2006-09-06
US7477735B2 (en) 2009-01-13
DE602004023968D1 (de) 2009-12-17
JP2007515911A (ja) 2007-06-14
WO2005062595A1 (en) 2005-07-07
NO20035796L (no) 2005-06-24
NO320942B1 (no) 2006-02-13

Similar Documents

Publication Publication Date Title
JP4417390B2 (ja) ステレオ音声を向上させるためのシステム及び方法
US7010119B2 (en) Echo canceller with reduced requirement for processing power
EP1832104B1 (en) Audio system and method for acoustic echo cancellation
JP5177820B2 (ja) 強調された主観的ステレオオーディオのためのシステムと方法
EP1356589B1 (en) Asymmetric multichannel filter
JP3676825B2 (ja) 多チャンネル音響エコー消去方法および多チャンネル音響エコー消去装置
US7054451B2 (en) Sound reinforcement system having an echo suppressor and loudspeaker beamformer
JP3405512B2 (ja) 音響エコーキャンセル方法とそのシステム
US8306215B2 (en) Echo canceller for eliminating echo without being affected by noise
KR20040019362A (ko) 후처리기로서 멀티 마이크로폰 에코 억제기를 가지는 음향보강 시스템
US10455326B2 (en) Audio feedback reduction utilizing adaptive filters and nonlinear processing
US8160239B2 (en) Echo canceller and speech processing apparatus
JP5034607B2 (ja) 音響エコーキャンセラシステム
US10938992B1 (en) Advanced audio feedback reduction utilizing adaptive filters and nonlinear processing
Wallin et al. Perceptual quality of hybrid echo canceler/suppressor
Emura et al. New stereo echo canceller operating on single digital signal processor

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080715

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081015

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20081015

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090331

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090629

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090706

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090723

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090730

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090831

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091125

R150 Certificate of patent or registration of utility model

Ref document number: 4417390

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121204

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121204

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121204

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121204

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131204

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees