JP4512574B2 - 音声活動に基づくゲイン制限による音声強化についての方法、記録媒体、及び装置 - Google Patents

音声活動に基づくゲイン制限による音声強化についての方法、記録媒体、及び装置 Download PDF

Info

Publication number
JP4512574B2
JP4512574B2 JP2006249135A JP2006249135A JP4512574B2 JP 4512574 B2 JP4512574 B2 JP 4512574B2 JP 2006249135 A JP2006249135 A JP 2006249135A JP 2006249135 A JP2006249135 A JP 2006249135A JP 4512574 B2 JP4512574 B2 JP 4512574B2
Authority
JP
Japan
Prior art keywords
speech
data frame
multiplied
tafuremu
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2006249135A
Other languages
English (en)
Other versions
JP2007004202A (ja
Inventor
リチャード ヴァンダーボート コックス
レイナー マーティン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AT&T Corp
Original Assignee
AT&T Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AT&T Corp filed Critical AT&T Corp
Publication of JP2007004202A publication Critical patent/JP2007004202A/ja
Application granted granted Critical
Publication of JP4512574B2 publication Critical patent/JP4512574B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/26Pre-filtering or post-filtering
    • G10L19/265Pre-filtering, e.g. high frequency emphasis prior to encoding

Description

本出願は、米国暫定出願第60/119,279号(1999年2月9日出願)の出願日の優先権を主張し、ここで言及して援用する。
(技術分野)
本発明は、MELP等の低ビットレート音声符号化システムを含む、音声符号化(音声圧縮)システムのための強化(enhancement)処理に関する。
(背景技術)
パラメータ音声符号化装置(コーダ)等の低ビットレート音声コーダは、昨今、非常に改善された。しかし、低ビットレートコーダはまだ、粗悪な音響環境(harsh acoustic environment)での強健性に欠ける問題がある。例えば、中/低度の信号雑音比(SNR)の状態で低ビットレートパラメータコーダによって混入された人工産物(artifact)は、符号化された音声の分かり易さに影響する可能性がある。
実験によると、低ビットレート音声コーダを音声強化プリプロセッサと合わせると、符号化された音声に有意な改善がみられた。このような強化プリプロセッサは通常3個の主要な構成要素を有する。スペクトル解析/合成システム(通常は窓を使用した(windowed)高速フーリエ変換/逆高速フーリエ変換(FFT/IFFT)によって実現される)と、雑音推定処理と、スペクトルゲイン計算である。雑音推定処理は通常、ある主の音声活動検出またはスペクトル最小追跡技術を含む。算出されたスペクトルゲインを、音声信号の各データフレーム(セグメント)のフーリエ係数の大きさ(Fourier magnitude)のみに適用する。音声強化プリプロセッサの例は、Y.Ephraim等による「Speech Enhancement Using a Minimum Mean-Square Error Log-Spectral Amplitude Estimator」(IEEE Trans. Acoustics, Speech and Signal Processing, Vol.33, p443-445,1985年4月)に紹介されている。この文献はここで言及して援用する。従来どおり、スペクトルゲインは、FFT処理によって出力される個々のサブバンドに適用する個々のゲイン値を有する。
音声信号は、明瞭に発音された音声(articulated speech)(「音声活動」の期間)と音声の間(pause)の期間とを示すと考えても良い。音声活動の期間、音声信号は、明瞭に発音された音声と背景雑音の双方を表し、明瞭に発音された音声中で間をおくと、その間の音声信号は背景雑音のみを表す。強化プリプロセッサは、音声の間の間には(雑音を減衰することが望ましいため)比較的低いゲインを適用し、音声が発せられている期間には(発音された音声の減衰を軽減するため)より高いゲインを適用するように機能する。しかし、例えば、間の後で音声活動の開始を示すために低ゲイン値から高ゲイン値へ切り替えることは、あるいはこの逆の状況で、構造的な(structured)「音楽的(musical)」(または「音色的(tonal)」)雑音を作りだすことになり得る。これは聞き手にとって耳障りである。さらに、強化プリプロセッサと共に用いた場合に音声コーダが音声の聞き易さを損ねるように、強化プリプロセッサ自身もこれを損ねる可能性がある。
構造的な音楽的雑音の問題に対処するために、ある強化プリプロセッサは、音声信号の全てのデータフレームに適用されるゲイン値を一様に制限する。通常、これは、ゲインの計算に入力される関数である先験的(a priori)信号雑音比を制限して行う。このようにゲインを制限することで、(「間」に相当するデータフレーム等の)あるデータフレームに適用されるゲインが過度に低くなって、データフレーム間でゲインが大きく変化すること(つまり、構造的な音楽的雑音)に寄与することを防止する。しかし、このようなゲインの制限では、強化プリプロセッサまたは音声コーダによる分かり易さの問題を適切に改善できない。
本発明は、従来例の問題を解決し、構造的な音楽的雑音を制限し、音声の分かり易さを増す。強化プリプロセッサの場合、本発明のある実施形態では、処理対象の音声信号が、明瞭に発音された音声(発音音声)を示すか、音声の「間」を示すかを検出し、この音声信号に適用する独自のゲインを形成する。このゲインが想定する最低値(つまり、低い側の極限)は、音声信号が発音音声を示すか否かに基づいて決定されるので、この状態のこのゲインは独自のものである。この実施形態によると、「間」の間の音声の低い側の極限は、音声活動中のゲインの低い側の極限よりも高くなる。
この実施形態では、音声信号のデータフレームに適用されるゲインは、制限された先験的SNR値に基づいて適応的に制限される。これらの先験的SNR値は、(a)フレーム内に発音音声が検出されたか、および(b)音声を示すフレームの長期SNRに基づいて制限される。音声活動検出装置を用いて、発音音声を含むフレームと、音声の「間」を含むフレームとを区別する。したがって、先験的SNR値の低い側の極値を算出して、発音音声を示すフレームの第1の値および、「間」を示すフレームの、第1の値より大きい第2の値としても良い。一次帰納的システムを用いて先験的SNR値の低い側の極限をスムーズにして、信号の音声活動セグメントと、間セグメントとの間の移行をスムーズにする。
本発明の実施形態は、音声コーダと共に用いた場合に強化プリプロセッサによって生じ得る、符号化された音声データの遅延を軽減する。強化プリプロセッサおよびコーダの遅延は、コーダを、少なくとも部分的に、不完全なデータサンプルに対して作用させて、少なくとも幾つかの符号化パラメータを抽出することで軽減できる。プリプロセッサおよびコーダによる全体の遅延は通常、コーダの遅延と、強化プリプロセッサ内のフレームの重複部分の長さとの合計に等しい。しかし、本発明は、いくつかのコーダは、「先見(look-ahead)」データサンプルを入力バッファ内に保管しており、これらのサンプルを使って符号化パラメータを抽出することを利用する。先見サンプルは通常、入力バッファ内の他のサンプル程、符号化された音声の質に影響しない。したがって、コーダは、プリプロセッサから十分に処理された(完全な)データが出力されるのを待つ必要はなく、入力バッファ内の不完全なデータサンプルから符号化パラメータを抽出できる場合がある。不完全なデータサンプルに作用することで、強化プリプロセッサおよびコーダの遅延は、符号化されたデータの質に大きく影響することなく、軽減できる。
例えば、音声プリプロセッサおよび音声コーダをあわせた遅延は、解析ウィンドウを入力フレームに乗じ(multiply)、強化プリプロセッサ内のフレームを強化することで、軽減できる。フレームの強化後、合成ウィンドウをフレームの左半分に乗じ、逆解析(inverse analysis)ウィンドウを右半分に乗じる。合成ウィンドウは解析ウィンドウと異なるウィンドウでもよいが、同じであることが好適である。次にフレームを音声符号化入力バッファに加え、このフレームを使って符号化パラメータを抽出する。符号化パラメータの抽出後、音声符号化入力バッファ内のフレームの右半分を、分析および合成ウィンドウによって乗算し、次のフレームが入力される前にこのフレームを入力バッファ内で移動する。符号化入力バッファ内のフレームを処理するために使用する解析ウィンドウおよび合成ウィンドウは、強化プリプロセッサ内の分析および合成ウィンドウと同じでもよく、または、プリプロセッサ内で使用される解析ウィンドウの平方根等、僅かに異なってもよい。したがって、プリプロセッサによる遅延は、例えば、1〜2ミリ秒程度の非常に小さいレベルに軽減できる。
本発明の上記およびこれ以外の態様は、後述の説明により明らかになるであろう。
A.発明を実施するための最良の形態について
音声コーディング技術における通例に従って、本発明の実施形態を個々の機能ブロック(すなわち「モジュール」)の集まりとして示す。このような機能ブロックが表わす機能は、ソフトウェアを実行可能なハードウェアを含む(これに限定されない)共用ハードウェアまたは専用ハードウェアのいずれかを使用して提供される。例えば、図1に示すブロック1〜5の機能は単一の共用プロセッサを使って提供される(「プロセッサ」という用語は、ソフトウェアを実行可能なハードウェアのみを指すと解釈すべきでない)。
各実施形態は、任意のメーカのデジタル信号プロセッサ(DSP)または汎用パーソナルコンピュータ(PC)ハードウェア、後述する演算を実行するソフトウェアを格納する読み取り専用メモリ(ROM)、DSP/PCの結果を格納するランダムアクセスメモリ(RAM)で実現可能である。超大規模集積回路(VLSI)ハードウェアや、汎用DSP/PC回路と組み合わせたカスタムVLSI回路構成の実施形態も可能である。
図1に示す機能を実行するコードを本発明に添付する「ソフトウエア集」に示す。
B.発明を実施するための最良の形態
図1は、本発明のある実施形態の略ブロック図である。図1に示すように、この実施形態は、音声情報を表す各種信号を処理する。これらの信号には、音声信号(純粋な音声成分s(k)と背景雑音成分n(k)を含む)、音声信号のデータフレーム、スペクトルの大きさ、スペクトル位相、コーディングされた音声などを含む。この例では、音声信号は音声強化プリプロセッサ8によって強化されてから、コーダ7によってコーディングされる。この実施形態のコーダ7は、本願に引用して援用する、IEEE国際会議紀要、音響、音声、信号処理(ICASSP)(1996年、A. McCree他)200〜203ページに掲載の「新規合衆国連邦基準のための2.4KBIT/S MELPコーダ候補:A 2.4 KBIT/S MELP Coder Candidate for the New U.S. Federal Standard」に記載されているような2400bpsのMIL標準MELPコーダである。図2,3,4,及び5は、図1に示すモジュールによって実施されるプロセスのフローチャートである。
1.セグメント化モジュール
音声信号s(k)+n(k)をセグメント化モジュール1に入力する。セグメント化モジュール1は、音声信号を256サンプルの音声および雑音データから成るフレームにセグメント化し(図2のステップ100を参照)、フレームを周波数ドメインに変換する前にフレームに解析ウィンドウを適用する(図2のステップ200を参照)。データフレームのサイズは、この実施形態の256サンプルのように、任意の所要のサイズにできる。既知のように、フレームに解析ウィンドウを適用すると、音声信号のスペクトル表現に影響が出る。
解析ウィンドウには両端にテーパを付け、フレーム内のサブバンド間のクロストークを削減する。解析ウィンドウのテーパを長くすると、クローストークは大幅に削減するが、プリプロセッサおよびコーダの組み合わせ10の遅延が増大することがある。前処理およびコーディング操作に固有の遅延は、音声強化プリプロセッサ8のフレーム進行(すなわちフレームの集まり(multiple))とコーダ7のフレーム進行が一致するときに最小になる。ただし、音声強化プリプロセッサ8で後に合成されるフレーム間のシフトが典型的なハーフオーバラップ(例えば、128サンプル)からコーダ7の典型的なフレームシフト(例えば、180サンプル)に増大するとともに、強化音声信号s(k)の隣接フレーム間の遷移が滑らかでなくなる。このような不連続が生じるのは、解析ウィンドウが入力信号を各フレームの端部で最も減衰させ、各フレーム内の推定エラーがフレーム全体に均等に広がる傾向があるためである。このため、フレーム境界で相対エラーが増大し、その結果不連続がSNR条件が低い場合に顕著となって、例えば、ピッチ推定エラーが発生することがある。
音声強化プリプロセッサ8で解析ウィンドウと合成ウィンドウの両方を使用すると、不連続を大幅に減少できる。例えば、テューキー(Tukey)ウィンドウの平方根
Figure 0004512574
は、このウィンドウを解析ウィンドウと合成ウィンドウの両方として使用したときに優れた性能を発揮する。ここで、Mはサンプル内のフレームサイズ、M0は隣接する合成フレームのオーバーラップする部分の長さである。
次に、ウィンドウが使用された音声データのフレームを強化する。この強化ステップは普通は図2のステップ300に対応するが、詳しくは図3〜5の一連のステップを参照されたい。
2.変換モジュール
ウィンドウが使用された音声信号のフレームを変換モジュール2に出力する。変換モジュールは、従来の高速フーリエ変換(FFT)をフレームに適用する(図3のステップ310)。変換モジュール2によって出力されるスペクトルの大きさは、雑音推定モジュール3でフレーム内の雑音レベルを推定するのに使用される。
3.雑音推定モジュール
雑音推定モジュール3は、変換モジュール2によって出力されるスペクトルの大きさを入力として受け取り、雑音推定を生成してゲイン関数モジュール4に出力する(図3のステップ320を参照)。雑音推定には、従来の方法で計算された先験的SNRと経験的SNRが含まれる。雑音推定モジュール3は任意の従来の雑音推定手法で実現可能であり、例えば、前に引用した米国暫定特許出願第60/119,279号(1999年2月9日)に示される雑音推定手法に従って実現できる。
4.ゲイン関数モジュール
音楽的(musical)ひずみを防止し、音声の全体的なスペクトル形状にひずみが生じないようにするため(かつ、スペクトルパラメータの推定が妨害されないようにするため)、ゲインGの下限値は、背景雑音のみを表わすフレーム(音声の間)の場合には最初の値に、アクティブ音声を表わすフレームの場合は次に小さい値に設定しなければならない。このような下限値とゲインは次のようにして決定する。
4.1 先験的SNRの制限
モジュール4によって決定されるゲイン関数Gは、先験的SNR値ξkと経験的SNR値γk(前述)の関数である。先験的SNR値ξkは、現在のフレームに音声と雑音が含まれているか、雑音のみが含まれているかと、音声データの推定長期SNRに基づいて、ゲイン関数モジュール4によって適応的に制限される。現在のフレームに雑音のみが含まれる場合には(図4のステップ331を参照)、先験的SNR値ξkに対して暫定下限値ξmin1(λ) = 0.12を設定するのが好適である(図4のステップ332を参照)。現在のフレームに音声と雑音が含まれる場合(アクティブ音声)には、暫定下限値ξmin1(λ)を次のように設定する。
Figure 0004512574
ここで、SNRLTは音声データの長期SNR、λは現在のフレームのフレームインデックスである(図4のステップ333を参照)。ただし、ξmin1は0.25以下に制限される(図4のステップ334および335を参照)。長期SNRLTは、音声信号の平均電力と複数のフレームでの雑音の平均電力の比を算出し、その値から1を減算することによって決定する。音声信号と雑音は、1〜2秒の信号を表わす多数のフレームについて平均をとることが好適である。SNRLTが0未満の場合は、SNRLTは0に等しく設定する。
先験的SNRの実際の下限値は、1次再帰フィルタ(first order recursive filter)によって決定する。
Figure 0004512574
このフィルタによって、音声フレームと雑音のみのフレームの暫定値の間で滑らかな遷移が行われる(図4のステップ336を参照)。このとき、滑らかに遷移した下限値ξmin(λ)は、後述するゲイン計算の中で先験的SNR値ξk(λ)の下限値として使用される。
4.2 制限された先験的SNRによるゲインの決定
既知のように、音声強化プリプロセッサで使用されるゲインGは、先験的信号と雑音比ξおよび経験的SNR値γとの関数である。すなわち、Gk(λ) = f(ξk(λ),γk(λ))である。ここで、λはフレームインデックス、kはサブバンドインデックスである。本発明の実施形態に従って、先験的SNRの下限値ξmin(λ)は、次のように先験的SNR(雑音推定モジュール3によって決定される)に適用される。
Figure 0004512574
(図5のステップ510および520を参照。)
雑音推定モジュール3によって生成される経験的SNR推定値と前述の制限された先験的SNR値に基づいて、ゲイン関数モジュール4がゲイン関数Gを決定する(図5のステップ530を参照)。この実施形態を実現するのに適したゲイン関数は、本願に引用して援用するIEEE会報、音響、音声、信号処理第33巻(1985年4月、Y. Ephraim他)443〜445ページに掲載の「MMSE LSAエスティメータを使用した音声強化:Speech Enhancement Using a Minimum Mean-Square Error Log-Spectral Amplitude Estimator」に記載されているような従来のMinimum Mean Square Error Log Spectral Amplitudeエスティメータ(MMSE LSA)である。ICASSP国際会議紀要(1999年、D. Malah他)に掲載の「非定常雑音環境での音声強化の改良のための音声存在の不確実性の追跡:Tracking Speech Presence Uncertainty to Improve Speech Enhancement in Non-Stationary Noise Environments」に記載されているような大幅に改良されたMMSE LSAエスティメータを使用して、音声が存在するかどうかの確率を考慮すれば、さらに改良が可能である。この参考資料は本願に引用して援用する。
5.ゲイン関数の適用
ゲインGを、変換モジュール2によって出力されるデータフレームの雑音のあるスペクトルの大きさに適用する。これは、図1に示すように、雑音のあるスペクトルの大きさにゲインを乗算する従来の方式で実行される(図3のステップ340を参照)。
6.逆変換モジュール
従来の逆FFTを逆変換モジュール5によって強化スペクトルの振幅に適用する。逆変換モジュールは強化された音声のフレームをオーバーラップ/加算モジュール6に出力する(図3のステップ350を参照)。
7.オーバーラップ加算モジュール:遅延低減
オーバーラップ/加算モジュール6は、逆変換モジュール5の出力を合成して、強化音声信号s(k)をコーダ7に出力する。オーバーラップ/加算モジュール6は、フレームの左半分(例えば、古い方の180サンプル)を合成ウィンドウで、フレームの右半分(例えば、新しい方の76サンプル)を逆解析ウィンドウで乗算することによって、音声強化プリプロセッサ8によって生じる遅延を削減するのが好適である(図2のステップ400を参照)。合成ウィンドウは解析ウィンドウと異なってもよいが、解析ウィンドウと同一であることが好適である(さらに、この合成ウィンドウと解析ウィンドウは図2のステップ200に示す解析ウィンドウと同一であることが好適である)。フレームの左半分と右半分のサンプルサイズは、後述するコーダ7の入力バッファで発生するデータシフトの量に基づいて変化する(後述のステップ800に関する記述を参照)。この場合、コーダ7の入力バッファのデータは180サンプルだけシフトするので、フレームの左半分に180サンプルが含まれるようになる。合成/解析ウィンドウはフレームの端部で減衰が大きくなるので、フレームに逆解析フィルタを乗算すると、フレーム境界で推定エラーが大幅に増幅される。したがって、逆解析フィルタにフレームの最後の16〜24サンプルが乗算されないように、2〜3msの小さい遅延にするのが好適である。
フレームは、合成ウィンドウと逆解析ウィンドウによって調整(adjust)されると、コーダ7の入力バッファ(図示せず)に送られる(図2のステップ500を参照)。現在のフレームの左半分は、すでに入力バッファに読み込まれている前のフレームの右半分でオーバーラップされる。ただし、現在のフレームの右半分は入力バッファにあるフレームまたはフレームの一部でオーバーラップされない。このとき、コーダ7は、新たに入力されたフレームや不完全な右半分のデータを含めて、入力バッファ内のデータを使用して、コーディングパラメータを抽出する(図2のステップ600を参照)。例えば、従来のMELPコーダは、入力バッファ内のデータから10の線形予測係数、2つのゲイン係数、1つのピッチ値、5つの帯域音声強度値、10のフーリエ係数の大きさ(Fourier magnitude)、1つの非周期的フラグを抽出する。もっとも、フレームからは任意の所要の情報を抽出可能である。MELPコーダ7は線形予測係数(LPC)解析や最初のゲイン係数の計算に入力バッファ内の最新の60サンプルを使用しないので、これらのサンプル内に強化エラーがあってもコーダ7の全体的な性能への影響は小さい。
コーダ7がコーディングパラメータを抽出した後、最後の入力フレームの右半分(例えば、最新の76サンプル)を解析および合成ウィンドウで乗算する(図2のステップ700を参照)。これらの合成および解析ウィンドウはステップ200で引用したものと同一であることが好適である(ただし、ステップ200の解析ウィンドウの平方根のように、異なっていてもよい)。
次に、次のフレームの入力に備えて入力バッファのデータを、例えば180サンプルだけシフトする(図2のステップ800を参照)。前述したように、合成および解析ウィンドウは音声強化プリプロセッサ8で使用した解析ウィンドウと同じでもよいし、例えば、解析ウィンドウの平方根のように、音声強化プリプロセッサ8で使用した解析ウィンドウと異なっていてもよい。オーバーラップ/加算演算の最終部分をコーダ7の入力バッファにシフトすることによって、音声強化プリプロセッサ8のスペクトル解像度やクロストーク削減を犠牲にすることなく、音声強化プリプロセッサ8/コーダ7の組み合わせの遅延を2〜3ミリ秒まで削減できる。
C.議論
本発明について特定の実施形態と関連付けて説明したが、当業者が多数の代替実施形態、変形、変化を容易に導けることは明らかである。よって、ここで説明した本発明の最良の実施形態は、本発明を制限するものではなく、本発明を例証する意図で記載されており、本発明の概念および範囲を外れることなく、様々な変更が可能である。
例えば、本発明の実施形態は、従来のMELP音声コーダと関連して動作すると説明されているが、本発明と関連して他の音声コーダも使用可能である。
本発明の実施形態はFFTおよびIFFTを採用しているが、離散フーリエ変換(DFT)や逆DFTなどの他の変換を使用しても本発明を実現できる。
引用した暫定特許出願の雑音推定手法は雑音推定モジュール3に適しているが、本願に引用して援用する、IEEE国際会議紀要、音響、音声、信号処理(ICASSP)(1999年、D. Malah他)に記載の「非定常雑音環境での音声強化の改良のための音声存在の不確実性の追跡:Tracking Speech Presence Uncertainty to Improve Speech Enhancement in Non-Stationary Noise Environments」や欧州信号処理会議紀要第1巻(1994年、R. Martin)に記載の「最小統計に基づくスペクトル減算:Spectral Subtraction Based on Minimum Statistics」に記載されているような音声活動検出またはスペクトル最小追跡アプローチに基づいた他のアルゴリズムも使用できる。
フレームが音声の間(背景雑音のみ)を表わすときには、先験的SNR値ξkに暫定下限値ξmin1(λ) = 0.12を設定するのが好適であるが、この暫定下限値ξmin1は他の値に設定してもよい。
先験的SNRを制限するプロセスは、雑音のあるスペクトルの大きさに適用されるゲイン値を制限するために可能なメカニズムの1つに過ぎず、他の方法でゲイン値を制限することもできる。音声活動を表わすフレームのゲインの下限値は、背景雑音のみを表わすフレームのゲインの下限値より小さくすると便利である。ただし、例えば、(先験的SNRのように、ゲインの前提関数(functional antecedent)を制限するのではなく)ゲイン値を直接に制限するなどの他の方法も可能である。
音声強化プリプロセッサ8の逆変換モジュール5から出力されるフレームは、音声強化プリプロセッサ8によって引き起こされる遅延を削減するように前述のように処理するのが好適であるが、この遅延削減処理は音声強化のためには必要ない。したがって、音声強化プリプロセッサ8は、前述したように、(例えば、先験的SNR値ξkを適切に制限して)ゲイン制限によって音声信号を強化するように動作させることもできる。同様に、前述した遅延低減ではゲイン制限プロセスを使用する必要がない。
他のタイプのデータ処理演算の遅延は、データフレームの最初の部分、すなわちデータの任意のグループに最初のプロセスを適用し、データフレームの2番目の部分に2番目のプロセスを適用すれば削減できる。最初のプロセスと2番目のプロセスは音声強化処理も含めた任意の所要の処理で実行できる。次に、フレームの最初の部分が他のデータに結合されるようにフレームを他のデータと結合する。コーディングパラメータなどの情報は、結合されたデータを含むフレームから抽出される。情報の抽出後、別のフレームのデータとの結合に備えて、フレームの2番目の部分に3番目のプロセスを適用する。
(添付書類)
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
Figure 0004512574
なお、本分割願の元となった出願の出願当初における特許請求の範囲は、次の[旧請求項1]〜[旧請求項4]を含んでおり、本分割出願にも、これらの技術思想が包含されている。
[旧請求項1] 音声符号化に使用するために、背景雑音と発音音声の期間とを表し、複数のデータフレームに分割される音声信号、を強化する方法であって、
前記データフレームの音声信号を変換して、複数のサブバンド音声信号を生成するステップと、
前記データフレームに対応する前記音声信号が、発音音声を表すか否かを検出するステップと、
個々のゲイン値を個々のサブバンド音声信号に適用するステップであって、発音音声を表すことが検出されたフレームに対する許容最低ゲイン値は、背景雑音のみを表すことが検出されたフレームに対する許容最低ゲイン値よりも低くしたステップと、
前記複数のサブバンド音声信号を逆変換するステップと
を有することを特徴とする、音声信号を強化する方法。
[旧請求項2] 旧請求項1の方法において、個々のゲイン値を決定するステップを更に有し、
前記許容最低ゲイン値は、許容最低の先験的信号雑音比の関数であることを特徴とする、旧請求項1の方法。
[旧請求項3] 音声符号化に使用するために、データフレームに分割され、背景雑音情報と発音音声の期間情報とを表す音声信号、を強化する方法であって、
データフレームの信号が、発音音声情報を表すか否かを検出するステップと、
ゲイン値を前記信号に適用するステップと、
を有し、
発音音声を表すことが検出されたフレームに対する許容最低ゲイン値は、背景雑音のみを表すことが検出されたフレームに対する許容最低ゲイン値よりも低いことを特徴とする、音声信号を強化する方法。
[旧請求項4] 旧請求項3の方法において、ゲイン値を決定するステップを更に有し、
前記許容最低ゲイン値は、許容最低の先験的信号雑音比の関数であることを特徴とする、旧請求項3の方法。
本発明の実施形態を示す概略ブロック図である。 図1の実施形態における音声信号およびその他の信号の処理方法のステップを示すフローチャートである。 図1の実施形態における音声信号の強化方法のステップを示すフローチャートである。 図1の実施形態における先験的SNR値を適応的に調整する方法のステップを示すフローチャートである。 ゲイン計算に使用するために、先験的信号雑音比に制限を適用する方法のステップを示すフローチャートである。
符号の説明
1 セグメント化モジュール、2 変換モジュール、3 雑音推定モジュール、4 ゲイン関数モジュール、5 逆変換モジュール、6 オーバーラップ/加算モジュール、7 コーディングモジュール、8 音声強化プリプロセッサ。

Claims (7)

  1. 音声符号化に使用するために、背景雑音と発音音声の期間とを表し、複数のデータフレームに分割される音声信号、を強化する方法であって、
    現在のデータフレームの前部(less current portion of data frame)に対して合成ウィンドウを乗じて、乗算されたデータフレーム前部を作成し、
    現在のデータフレームの後部(more current portion of data frame)に対して逆解析ウィンドウを乗じて、乗算されたデータフレーム後部を作成し、
    前記乗算されたデータフレーム前部と、前のデータフレームの乗算されたデータフレーム後部とを加算して、音声符号化に使用されるデータフレームを生成し、
    生成されたデータフレームを用いて音声符号化パラメータを決定することを特徴とする方法。
  2. 請求項1に記載の方法であって、前記合成ウィンドウと、前記逆解析ウインドウが基づく解析ウィンドウとは、同一であることを特徴とする方法。
  3. 請求項1に記載の方法であって、音声符号化は、入力バッファを用い、現在のデータフレームの前部及び後部の大きさは、当該音声コーダの入力バッファのデータシフト量に基づいて決定されることを特徴とする方法。
  4. 請求項1に記載の方法であって、音声符号化は、MELPコーダであることを特徴とする方法。
  5. 第1処理と第2処理とを含み、前記第1処理は、第2処理で用いられるデータフレームを生成するシステムにおける遅延を低減する方法であって、
    現在のデータフレームの前部に対して合成ウィンドウを乗じて、乗算されたデータフレーム前部を作成し、
    現在のデータフレームの後部に対して逆解析ウィンドウを乗じて、乗算されたデータフレーム後部を作成し、
    前記乗算されたデータフレーム前部を、前のデータフレームの乗算されたデータフレーム後部に加算して、前記第2処理で用いられるデータバッファを生成し、
    第2処理でのパラメータを、当該データバッファを用いて決定することを特徴とする方法。
  6. コンピュータに、音声符号化に使用するために、背景雑音と発音音声の期間とを表し、複数のデータフレームに分割される音声信号、を強化する処理を実行させるためのプログラムを記録した記録媒体であって、
    前記処理は、
    現在のデータフレームの前部(less current portion of data frame)に対して合成ウィンドウを乗じて、乗算されたデータフレーム前部を作成するステップと、
    現在のデータフレームの後部(more current portion of data frame)に対して逆解析ウィンドウを乗じて、乗算されたデータフレーム後部を作成するステップと、
    前記乗算されたデータフレーム前部と、前のデータフレームの乗算されたデータフレーム後部とを加算して、音声符号化に使用されるデータフレームを生成するステップと、
    生成されたデータフレームを用いて音声符号化パラメータを決定するステップと、
    を含むことを特徴とする記録媒体。
  7. 音声符号化に使用するために、背景雑音と発音音声の期間とを表し、複数のデータフレームに分割される音声信号、を強化する装置であって、
    現在のデータフレームの前部(less current portion of data frame)に対して合成ウィンドウを乗じて、乗算されたデータフレーム前部を作成する手段と、
    現在のデータフレームの後部(more current portion of data frame)に対して逆解析ウィンドウを乗じて、乗算されたデータフレーム後部を作成する手段と、
    前記乗算されたデータフレーム前部と、前のデータフレームの乗算されたデータフレーム後部とを加算して、音声符号化に使用されるデータフレームを生成する手段と、
    生成されたデータフレームを用いて音声符号化パラメータを決定する手段と、
    を含むことを特徴とする装置。
JP2006249135A 1999-02-09 2006-09-14 音声活動に基づくゲイン制限による音声強化についての方法、記録媒体、及び装置 Expired - Lifetime JP4512574B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11927999P 1999-02-09 1999-02-09
US09/499,985 US6604071B1 (en) 1999-02-09 2000-02-08 Speech enhancement with gain limitations based on speech activity

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2000599013A Division JP4173641B2 (ja) 1999-02-09 2000-02-09 音声活動に基づくゲイン制限による音声強化

Publications (2)

Publication Number Publication Date
JP2007004202A JP2007004202A (ja) 2007-01-11
JP4512574B2 true JP4512574B2 (ja) 2010-07-28

Family

ID=26817182

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2000599013A Expired - Fee Related JP4173641B2 (ja) 1999-02-09 2000-02-09 音声活動に基づくゲイン制限による音声強化
JP2006249135A Expired - Lifetime JP4512574B2 (ja) 1999-02-09 2006-09-14 音声活動に基づくゲイン制限による音声強化についての方法、記録媒体、及び装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2000599013A Expired - Fee Related JP4173641B2 (ja) 1999-02-09 2000-02-09 音声活動に基づくゲイン制限による音声強化

Country Status (12)

Country Link
US (2) US6604071B1 (ja)
EP (2) EP1724758B1 (ja)
JP (2) JP4173641B2 (ja)
KR (2) KR100752529B1 (ja)
AT (1) ATE357724T1 (ja)
BR (1) BR0008033A (ja)
CA (2) CA2476248C (ja)
DE (1) DE60034026T2 (ja)
DK (1) DK1157377T3 (ja)
ES (1) ES2282096T3 (ja)
HK (1) HK1098241A1 (ja)
WO (1) WO2000048171A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU1352999A (en) * 1998-12-07 2000-06-26 Mitsubishi Denki Kabushiki Kaisha Sound decoding device and sound decoding method
GB2349259B (en) * 1999-04-23 2003-11-12 Canon Kk Speech processing apparatus and method
FR2797343B1 (fr) * 1999-08-04 2001-10-05 Matra Nortel Communications Procede et dispositif de detection d'activite vocale
KR100304666B1 (ko) * 1999-08-28 2001-11-01 윤종용 음성 향상 방법
JP3566197B2 (ja) 2000-08-31 2004-09-15 松下電器産業株式会社 雑音抑圧装置及び雑音抑圧方法
JP4282227B2 (ja) * 2000-12-28 2009-06-17 日本電気株式会社 ノイズ除去の方法及び装置
ATE331279T1 (de) * 2001-04-09 2006-07-15 Koninkl Philips Electronics Nv Vorrichtung zur sprachverbesserung
DE10150519B4 (de) * 2001-10-12 2014-01-09 Hewlett-Packard Development Co., L.P. Verfahren und Anordnung zur Sprachverarbeitung
US7155385B2 (en) * 2002-05-16 2006-12-26 Comerica Bank, As Administrative Agent Automatic gain control for adjusting gain during non-speech portions
US7146316B2 (en) * 2002-10-17 2006-12-05 Clarity Technologies, Inc. Noise reduction in subbanded speech signals
JP4336759B2 (ja) 2002-12-17 2009-09-30 日本電気株式会社 光分散フィルタ
JP4583781B2 (ja) * 2003-06-12 2010-11-17 アルパイン株式会社 音声補正装置
DE60303278T2 (de) * 2003-11-27 2006-07-20 Alcatel Vorrichtung zur Verbesserung der Spracherkennung
DE602004008973T2 (de) * 2004-05-14 2008-05-15 Loquendo-Società per Azioni Rauschminderung für die automatische spracherkennung
US7649988B2 (en) * 2004-06-15 2010-01-19 Acoustic Technologies, Inc. Comfort noise generator using modified Doblinger noise estimate
KR100677126B1 (ko) * 2004-07-27 2007-02-02 삼성전자주식회사 레코더 기기의 잡음 제거 장치 및 그 방법
GB2429139B (en) * 2005-08-10 2010-06-16 Zarlink Semiconductor Inc A low complexity noise reduction method
KR100751927B1 (ko) * 2005-11-11 2007-08-24 고려대학교 산학협력단 멀티음성채널 음성신호의 적응적 잡음제거를 위한 전처리 방법 및 장치
US7778828B2 (en) 2006-03-15 2010-08-17 Sasken Communication Technologies Ltd. Method and system for automatic gain control of a speech signal
JP4836720B2 (ja) * 2006-09-07 2011-12-14 株式会社東芝 ノイズサプレス装置
US20080208575A1 (en) * 2007-02-27 2008-08-28 Nokia Corporation Split-band encoding and decoding of an audio signal
US7885810B1 (en) 2007-05-10 2011-02-08 Mediatek Inc. Acoustic signal enhancement method and apparatus
US20090010453A1 (en) * 2007-07-02 2009-01-08 Motorola, Inc. Intelligent gradient noise reduction system
US8583426B2 (en) 2007-09-12 2013-11-12 Dolby Laboratories Licensing Corporation Speech enhancement with voice clarity
CN100550133C (zh) 2008-03-20 2009-10-14 华为技术有限公司 一种语音信号处理方法及装置
US9197181B2 (en) * 2008-05-12 2015-11-24 Broadcom Corporation Loudness enhancement system and method
US8645129B2 (en) * 2008-05-12 2014-02-04 Broadcom Corporation Integrated speech intelligibility enhancement system and acoustic echo canceller
KR20090122143A (ko) * 2008-05-23 2009-11-26 엘지전자 주식회사 오디오 신호 처리 방법 및 장치
US8914282B2 (en) * 2008-09-30 2014-12-16 Alon Konchitsky Wind noise reduction
US20100082339A1 (en) * 2008-09-30 2010-04-01 Alon Konchitsky Wind Noise Reduction
KR101622950B1 (ko) * 2009-01-28 2016-05-23 삼성전자주식회사 오디오 신호의 부호화 및 복호화 방법 및 그 장치
KR101211059B1 (ko) 2010-12-21 2012-12-11 전자부품연구원 보컬 멜로디 강화 장치 및 방법
US9210506B1 (en) * 2011-09-12 2015-12-08 Audyssey Laboratories, Inc. FFT bin based signal limiting
GB2523984B (en) 2013-12-18 2017-07-26 Cirrus Logic Int Semiconductor Ltd Processing received speech data
JP6361156B2 (ja) * 2014-02-10 2018-07-25 沖電気工業株式会社 雑音推定装置、方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63204300A (ja) * 1987-02-20 1988-08-23 富士通株式会社 符号化伝送装置
JPH05506345A (ja) * 1990-04-12 1993-09-16 ドルビー・ラボラトリーズ・ランセンシング・コーポレーション 高品質オーディオ用符号器・復号器
JPH08237130A (ja) * 1995-02-23 1996-09-13 Sony Corp 信号符号化方法及び装置、並びに記録媒体
JPH10307599A (ja) * 1997-03-10 1998-11-17 Lucent Technol Inc スプラインを使用する波形補間音声コーディング

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3118473A1 (de) 1981-05-09 1982-11-25 TE KA DE Felten & Guilleaume Fernmeldeanlagen GmbH, 8500 Nürnberg Verfahren zur aufbereitung elektrischer signale mit einer digitalen filteranordnung
US4956808A (en) * 1985-01-07 1990-09-11 International Business Machines Corporation Real time data transformation and transmission overlapping device
US4811404A (en) * 1987-10-01 1989-03-07 Motorola, Inc. Noise suppression system
IL84948A0 (en) 1987-12-25 1988-06-30 D S P Group Israel Ltd Noise reduction system
GB8801014D0 (en) * 1988-01-18 1988-02-17 British Telecomm Noise reduction
DE69015613T2 (de) * 1989-01-27 1995-05-24 Dolby Lab Licensing Corp Transformationscodierer, -decodierer und -codierer/decodierer mit kurzer zeitverzögerung für audio-anwendungen hoher qualität.
US5297236A (en) * 1989-01-27 1994-03-22 Dolby Laboratories Licensing Corporation Low computational-complexity digital filter bank for encoder, decoder, and encoder/decoder
US5479562A (en) * 1989-01-27 1995-12-26 Dolby Laboratories Licensing Corporation Method and apparatus for encoding and decoding audio information
DE3902948A1 (de) * 1989-02-01 1990-08-09 Telefunken Fernseh & Rundfunk Verfahren zur uebertragung eines signals
JPH08506427A (ja) * 1993-02-12 1996-07-09 ブリテイッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー 雑音減少
US5572621A (en) * 1993-09-21 1996-11-05 U.S. Philips Corporation Speech signal processing device with continuous monitoring of signal-to-noise ratio
US5485515A (en) 1993-12-29 1996-01-16 At&T Corp. Background noise compensation in a telephone network
US5715365A (en) * 1994-04-04 1998-02-03 Digital Voice Systems, Inc. Estimation of excitation parameters
US5706395A (en) * 1995-04-19 1998-01-06 Texas Instruments Incorporated Adaptive weiner filtering using a dynamic suppression factor
FI100840B (fi) 1995-12-12 1998-02-27 Nokia Mobile Phones Ltd Kohinanvaimennin ja menetelmä taustakohinan vaimentamiseksi kohinaises ta puheesta sekä matkaviestin
AU3690197A (en) * 1996-08-02 1998-02-25 Universite De Sherbrooke Speech/audio coding with non-linear spectral-amplitude transformation
US6351731B1 (en) * 1998-08-21 2002-02-26 Polycom, Inc. Adaptive filter featuring spectral gain smoothing and variable noise multiplier for noise reduction, and method therefor

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63204300A (ja) * 1987-02-20 1988-08-23 富士通株式会社 符号化伝送装置
JPH05506345A (ja) * 1990-04-12 1993-09-16 ドルビー・ラボラトリーズ・ランセンシング・コーポレーション 高品質オーディオ用符号器・復号器
JPH08237130A (ja) * 1995-02-23 1996-09-13 Sony Corp 信号符号化方法及び装置、並びに記録媒体
JPH10307599A (ja) * 1997-03-10 1998-11-17 Lucent Technol Inc スプラインを使用する波形補間音声コーディング

Also Published As

Publication number Publication date
CA2476248A1 (en) 2000-08-17
EP1724758A2 (en) 2006-11-22
US6604071B1 (en) 2003-08-05
JP2007004202A (ja) 2007-01-11
JP2002536707A (ja) 2002-10-29
US20020029141A1 (en) 2002-03-07
CA2476248C (en) 2009-10-06
WO2000048171A8 (en) 2001-04-05
EP1724758A3 (en) 2007-08-01
ATE357724T1 (de) 2007-04-15
EP1157377B1 (en) 2007-03-21
DK1157377T3 (da) 2007-04-10
US6542864B2 (en) 2003-04-01
EP1724758B1 (en) 2016-04-27
BR0008033A (pt) 2002-01-22
EP1157377A1 (en) 2001-11-28
KR100828962B1 (ko) 2008-05-14
CA2362584A1 (en) 2000-08-17
KR100752529B1 (ko) 2007-08-29
JP4173641B2 (ja) 2008-10-29
ES2282096T3 (es) 2007-10-16
KR20010102017A (ko) 2001-11-15
DE60034026T2 (de) 2007-12-13
HK1098241A1 (zh) 2007-07-13
DE60034026D1 (de) 2007-05-03
WO2000048171A9 (en) 2001-09-20
WO2000048171A1 (en) 2000-08-17
KR20060110377A (ko) 2006-10-24
CA2362584C (en) 2008-01-08

Similar Documents

Publication Publication Date Title
JP4512574B2 (ja) 音声活動に基づくゲイン制限による音声強化についての方法、記録媒体、及び装置
US11694711B2 (en) Post-processing gains for signal enhancement
US8918196B2 (en) Method for weighted overlap-add
US7379866B2 (en) Simple noise suppression model
JP4440937B2 (ja) 暗騒音存在時の音声を改善するための方法および装置
EP1706864B1 (en) Computationally efficient background noise suppressor for speech coding and speech recognition
Martin et al. New speech enhancement techniques for low bit rate speech coding
WO2000017855A1 (en) Noise suppression for low bitrate speech coder
EP1386313B1 (en) Speech enhancement device
JP7059301B2 (ja) 音響信号の人為的帯域幅制限処理に関する所定の特性を決定するための装置および方法
JP7008756B2 (ja) デジタルオーディオ信号におけるプレエコーを識別し、減衰させる方法及び装置
JP5295372B2 (ja) デジタルオーディオ信号におけるプリエコーの減衰
EP1944761A1 (en) Disturbance reduction in digital signal processing
Virette et al. Analysis of background noise reduction techniques for robust speech coding
KR20180010115A (ko) 스피치를 향상하는 장치
JP2002175100A (ja) 適応型雑音抑圧音声符号化装置
JP2002366172A (ja) ピッチ成分を抑圧した線形予測分析方法及び線形予測分析回路
WO2004097795A2 (en) Adaptive voice enhancement for low bit rate audio coding
Un et al. Piecewise linear quantization of linear prediction coefficients

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4512574

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term