JPH0756599A - Wide band voice signal reconstruction method - Google Patents

Wide band voice signal reconstruction method

Info

Publication number
JPH0756599A
JPH0756599A JP5203199A JP20319993A JPH0756599A JP H0756599 A JPH0756599 A JP H0756599A JP 5203199 A JP5203199 A JP 5203199A JP 20319993 A JP20319993 A JP 20319993A JP H0756599 A JPH0756599 A JP H0756599A
Authority
JP
Japan
Prior art keywords
speech signal
wideband
signal
codebook
band
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP5203199A
Other languages
Japanese (ja)
Other versions
JP3230782B2 (en
Inventor
Masanobu Abe
匡伸 阿部
Yuki Yoshida
由紀 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP20319993A priority Critical patent/JP3230782B2/en
Publication of JPH0756599A publication Critical patent/JPH0756599A/en
Application granted granted Critical
Publication of JP3230782B2 publication Critical patent/JP3230782B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PURPOSE:To reconstruct wide band voice signals (for example 8kHz/band) from narrow band voice signals (for example 300Hz to 3.4kHz) with a good quality. CONSTITUTION:Input narrow band voice signals are LPC analyzed and their spectrum information parameters are obtained (401). These parameters are vector quantized using a narrow band voice signals code book 208 (402). Original voice waveforms corresponding to the code vectors are stored in a representative waveform piece code book 305 equivalent to one pitch for a voiced sound and equivalent to one frame for a voiceless sound for every code number of the code book 208. Using this code book 305 and output code vector numbers of the step 402, voiced sound are waveform synthesized by superimposing pitch synchronization and voiceless sounds are waveform synthesized by randomly using waveforms equivalent to one frame and wide band voice signals are obtained (404). Wide band components other than 300Hz to 3.4kHz are taken out from the wide band voice signals (405), synthesized with the amplified and sampled narrow band signals and wide band voice signals are reconstructed.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】この発明は狭帯域音声信号から広
帯域音声信号を生成する方法に関し、具体的には、現在
電話音声やAMラジオ等で出力されているような狭帯域
音声信号を、オーディオセットやFMラジオ等で出力さ
れているような広帯域音声信号に高品質化することを可
能とする方法に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method for generating a wideband audio signal from a narrowband audio signal, and more specifically, a narrowband audio signal currently output by telephone voice, AM radio, etc. The present invention relates to a method capable of enhancing the quality of a wideband audio signal such as that output from a set or FM radio.

【0002】[0002]

【従来の技術】狭帯域音声信号の例として電話音声につ
いて説明する。既存の電話システムが伝送できる信号の
スペクトル帯域は、約300Hzから3.4kHz である。従
来の音声の符号化技術の目的は、この電話帯域の音声の
品質を保ち、かつ伝送パラメータ量を最小にすることで
あった。すなわち従来の音声の符号化技術では入力音声
を再現することは可能であるが、入力音声の品質を超え
る音声を得ることは不可能である。一方、最近の音響技
術の発展やディジタル処理の開発により日常生活で使わ
れる音の品質が向上してきており、現状の電話帯域の音
声の音質では満足できない状況が発生している。この要
望を解決する方法としては、既存の電話システムを破棄
し、広帯域の信号を伝送できるような電話システムを再
構築することが考えられるが、経済的に大きな負担であ
るばかりでなく、再構築するにしてもかなりの時間を要
すると考えられる。
2. Description of the Related Art Telephone voice will be described as an example of a narrow band voice signal. The spectrum band of the signal that can be transmitted by the existing telephone system is about 300 Hz to 3.4 kHz. The purpose of the conventional voice coding technique is to maintain the voice quality in this telephone band and to minimize the amount of transmission parameters. That is, although it is possible to reproduce the input voice by the conventional voice encoding technique, it is impossible to obtain the voice that exceeds the quality of the input voice. On the other hand, the quality of sounds used in daily life has been improved due to the recent development of audio technology and the development of digital processing, and there is a situation in which the sound quality of voice in the current telephone band cannot be satisfied. As a method to solve this demand, it is possible to discard the existing telephone system and reconstruct a telephone system capable of transmitting a wideband signal, but it is not only a heavy burden on the economy but also the reconstruction. Even if it does, it will take a considerable amount of time.

【0003】[0003]

【発明が解決しようとする課題】この発明の主たる目的
は、例えば既存の電話システムを有効に利用して伝送さ
れた狭帯域音声信号を広帯域の音声信号として出力でき
るようにすること、また例えば広帯域の信号を伝送でき
るような電話システムと既存の狭帯域の電話システムと
が共存する様な状況においても、両方の電話システムの
組み合わせに関係なく、広帯域の音声信号を利用できる
ようにする広帯域音声信号復元方法を提供することにあ
る。
SUMMARY OF THE INVENTION A main object of the present invention is to enable a narrow band voice signal transmitted by effectively utilizing an existing telephone system to be output as a wide band voice signal, for example, a wide band. A wideband voice signal that enables a wideband voice signal to be used regardless of the combination of both telephone systems, even in the situation where a telephone system capable of transmitting the above signal and an existing narrowband telephone system coexist. It is to provide a restoration method.

【0004】[0004]

【課題を解決するための手段】請求項1の発明によれ
ば、第1のステップで入力された狭帯域音声信号をスペ
クトル分析し、その分析結果を、第2のステップで、予
め用意した狭帯域音声信号のコードブックを用いてベク
トル量子化し、その量子化値を、第3のステップで、予
め用意した代表波形素片のコードブックを用いて復元し
て広帯域音声信号を得る。
According to the invention of claim 1, the narrow band speech signal inputted in the first step is subjected to spectrum analysis, and the analysis result is prepared in advance in the second step. Vector quantization is performed using the codebook of the band speech signal, and the quantized value is restored in the third step using the codebook of the representative waveform segment prepared in advance to obtain the wideband speech signal.

【0005】請求項2の発明によれば、請求項1の発明
において、更に第4のステップで、入力された狭帯域音
声信号をアップサンプリングしてサンプリング値を算出
し、第5のステップで、第3のステップで得た広帯域音
声信号から入力狭帯域音声信号の帯域外の広帯域部分を
取り出し、その取り出した広帯域部分を第6のステップ
で上記サンプリング値に加えて広帯域音声信号を得る。
According to the invention of claim 2, in the invention of claim 1, in the fourth step, the input narrowband speech signal is upsampled to calculate a sampling value, and in the fifth step, A wide-band portion outside the band of the input narrow-band speech signal is extracted from the wide-band speech signal obtained in the third step, and the extracted wide-band portion is added to the sampling value in the sixth step to obtain a wide-band speech signal.

【0006】請求項3の発明によれば、請求項1又は2
の発明で用いる代表波形素片のコードブックを次のよう
にして作る。即ち学習用広帯域音声信号をスペクトル分
析し、そのスペクトル分析の結果と、予め用意した広帯
域音声信号のコードブックとを比較し、その各コードに
ついてそのパラメータと最も近いスペクトル分析結果と
対応する学習用広帯域音声信号を、有声音なら1ピッチ
分、無声音なら1フレーム分抽出し、そのコードの代表
波形素片とする。
[0006] According to the invention of claim 3, claim 1 or 2
The codebook of the representative waveform element used in the invention is created as follows. That is, the learning wideband speech signal is spectrum-analyzed, the spectrum analysis result is compared with the codebook of the wideband speech signal prepared in advance, and the learning broadband corresponding to the parameter and the spectrum analysis result closest to the parameter of each code is compared. The voice signal is extracted for one pitch for voiced sound and for one frame for unvoiced sound and used as a representative waveform segment of the code.

【0007】請求項4の発明によれば入力狭帯域音声信
号を第1のステップでスペクトル分析し、その分析結果
を、第2のステップで、予め用意した狭帯域音声信号の
コードブックを用いてベクトル量子化し、その量子化値
を、第3のステップで、予め用意した広帯域音声信号の
コードブックを用いて復元して広帯域音声信号を得、そ
の広帯域音声信号から入力狭帯域音声信号より低域の成
分を第4のステップで取出して低域信号を復元し、第2
のステップで得た量子化値を、予め用意した狭帯域音声
信号よりも高域の音声信号の代表波形素片のコードブッ
クを用いて、第5のステップで高域信号を復元し、入力
狭帯域音声信号を第6のステップでアップサンプリング
を行ってサンプリング値を算出し、そのサンプリング値
と、上記復元低域信号と、上記復元高域信号とを第7の
ステップで加えて広帯域音声信号を得る。
According to the fourth aspect of the invention, the input narrow band speech signal is spectrally analyzed in the first step, and the analysis result is used in the second step by using a code book of the narrow band speech signal prepared in advance. Vector quantization is performed, and the quantized value is restored in a third step using a codebook of a wideband speech signal prepared in advance to obtain a wideband speech signal. Component is extracted in the fourth step to restore the low frequency signal,
In the fifth step, the quantized value obtained in the step is used to restore the high-frequency signal in the fifth step using the codebook of the representative waveform segment of the audio signal in the higher-frequency band than the narrow-band audio signal prepared in advance. The banded voice signal is up-sampled in the sixth step to calculate a sampling value, and the sampled value, the restored low band signal and the restored high band signal are added in the seventh step to obtain a wide band voice signal. obtain.

【0008】[0008]

【実施例】この発明の方法では狭帯域音声信号のコード
ブックと、代表波形素片のコードブックとを必要とし、
その代表波形素片のコードブックを作る際に広帯域音声
信号のコードブックを用いる。従ってまずこれらコード
ブックの作成方法を説明する。
BEST MODE FOR CARRYING OUT THE INVENTION The method of the present invention requires a codebook of a narrow band speech signal and a codebook of a representative waveform segment,
The codebook of the wideband speech signal is used when creating the codebook of the representative waveform segment. Therefore, first, a method of creating these codebooks will be described.

【0009】まず図1を参照して広帯域音声信号のコー
ドブック作成手順について説明する。この作成手順は従
来より知られ、広帯域音声信号の特徴を効率良く表現す
るために、広帯域音声信号の特徴を適切に表現するパラ
メータを用いてクラスタリングを行いコードブックを作
成する。音声信号を特徴付けるパラメータとして線形予
測分析(LPC)による音声スペクトル包絡や、FFT
ケプストラム分析法による音声スペクトル包絡、PSE
音声分析合成法、正弦波の重ね合わせによる音声の表現
法等が考えられるが、この実施例においては、LPCに
よる音声スペクトル包絡を特徴パラメータとして用いた
場合について説明する。まず入力された広帯域、例えば
8kHz 帯域の音声はステップ101においてA/D変換
器によってディジタル信号に変換される。その後、ステ
ップ102においてLPC分析が施され、スペクトル情
報(自己相関係数、LPCケプストラム係数)のパラメ
ータが得られる。これらのパラメータを充分多く、例え
ば200単語程度について収集した後にステップ103
においてクラスタリングを行う。クラスタリングはLB
Gアルゴリズムで行われるが、この際使用される距離尺
度は(1)式で示すごとくLPCケプストラムのユーク
リッド距離Dである。
First, a procedure for creating a codebook of wideband audio signals will be described with reference to FIG. This creation procedure is known in the related art, and in order to efficiently express the characteristics of the wideband speech signal, clustering is performed using parameters that appropriately express the characteristics of the wideband speech signal to create a codebook. As a parameter that characterizes a speech signal, a speech spectrum envelope by linear predictive analysis (LPC) or an FFT
Speech spectrum envelope by Pepstrum analysis, PSE
A voice analysis / synthesis method, a voice expression method by superposition of sine waves, and the like are conceivable. In this embodiment, a case where a voice spectrum envelope by LPC is used as a characteristic parameter will be described. First, the input wide band, for example, 8 kHz band voice is converted into a digital signal by the A / D converter in step 101. Then, in step 102, LPC analysis is performed, and parameters of spectral information (autocorrelation coefficient, LPC cepstrum coefficient) are obtained. After collecting enough of these parameters, for example about 200 words, step 103
Clustering in. Clustering is LB
The G algorithm is used, and the distance measure used at this time is the Euclidean distance D of the LPC cepstrum as shown in the equation (1).

【0010】 D=Σ〔C(i) −C′(i) 〕 …… (1) ここでΣはi=1からpまで、C及びC′は異なる音声
信号をLPC分析して求めた各LPCケプストラム係
数、pはLPCケプストラム係数の次数である。なお、
上述のLBGアルゴリズムについては、Linde,Buzo,Gra
y;"An algorithm for Vector Quantization Design" IE
EE COM-28(1980-01)に詳細に記載されている。
D = Σ [C (i) −C ′ (i)] (1) where Σ is from i = 1 to p, and C and C ′ are different audio signals obtained by LPC analysis. LPC cepstrum coefficient, p is the order of the LPC cepstrum coefficient. In addition,
For the LBG algorithm described above, Linde, Buzo, Gra
y; "An algorithm for Vector Quantization Design" IE
See EE COM-28 (1980-01) in detail.

【0011】上述の(1)式に基づいて、広帯域音声信
号コードブック104が求まる。次に図2を参照して、
広帯域音声信号コードブックとの対応関係をとりなが
ら、狭帯域音声信号コードブックを作成する手順につい
て説明する。まずステップ201において、学習用の広
帯域音声信号から入力となる狭帯域音声信号と同一帯域
の信号を作成する。この実施例においては広帯域音声信
号を8kHz 帯域の音声信号とし、狭帯域音声信号を電話
帯域の音声信号として説明する。従って、ステップ20
1は300Hz以下の周波数を除去するハイパスフィルタ
と3.4kHz 以上の周波数を除去するローパスフィルタと
に広帯域音声信号を通すことによって実現される。一
方、入力広帯域音声信号はステップ202においてLP
C分析が施され、ステップ203において、前述の図1
に示したコードブックの作成手順に従って求めた広帯域
音声信号のコードブック104を用いて、ベクトル量子
化される。
The wideband speech signal codebook 104 is obtained based on the above equation (1). Next, referring to FIG.
A procedure for creating a narrowband speech signal codebook while taking correspondence with the wideband speech signal codebook will be described. First, in step 201, a signal in the same band as the input narrowband audio signal is created from the learning wideband audio signal. In this embodiment, the wideband voice signal will be described as an 8 kHz band voice signal, and the narrowband voice signal will be described as a telephone band voice signal. Therefore, step 20
1 is realized by passing a wideband audio signal through a high-pass filter that removes frequencies below 300 Hz and a low-pass filter that removes frequencies above 3.4 kHz. On the other hand, the input wideband audio signal is set to LP in step 202.
C analysis is performed, and in step 203, the above-mentioned FIG.
Vector quantization is performed using the codebook 104 of the wideband speech signal obtained according to the codebook creation procedure shown in FIG.

【0012】ところで、狭帯域音声信号は広帯域音声信
号から作成されたものであるから、狭帯域音声信号と広
帯域音声信号との時間対応はLPC分析を施すフレーム
番号で1対1に対応をとることができる。この原理に従
って、ステップ203でベクトル量子化した広帯域音声
信号に対応する狭帯域音声信号を求め、この信号をステ
ップ205でLPC分析し、その分析結果をステップ2
06において、ステップ203のベクトル量子化で得ら
れたコードベクトル番号ごとに分類し保存する。つまり
広帯域音声信号と狭帯域音声信号との時間対応とステッ
プ202,205の両フレームとの対応と一致させ、同
一フレーム番号の広帯域音声信号のベクトル量子化され
たコードベクトル番号と、狭帯域音声信号のLPC分析
結果とをそれぞれ対応させて保存する。以上、ステップ
201からステップ206の処理を学習用に準備された
全ての広帯域音声信号、例えば200単語分に対して施
す。ステップ207では、以上の全ての処理を通じてス
テップ206で保存されたLPC分析結果を、各クラス
タ(同一コードベクトル番号)ごとに平均化処理を行
い、その平均値をコードベクトルとして持つ狭帯域音声
信号のコードブック208を作成する。
By the way, since the narrow band voice signal is created from the wide band voice signal, the time correspondence between the narrow band voice signal and the wide band voice signal should be one-to-one correspondence with the frame number for which the LPC analysis is performed. You can According to this principle, a narrowband speech signal corresponding to the wideband speech signal vector-quantized in step 203 is obtained, this signal is subjected to LPC analysis in step 205, and the analysis result is analyzed in step 2
At 06, the code vector numbers obtained by the vector quantization in step 203 are classified and stored. That is, matching the time correspondence between the wideband speech signal and the narrowband speech signal and the correspondence between both frames in steps 202 and 205, the vector quantized code vector number of the wideband speech signal having the same frame number, and the narrowband speech signal. The results of the LPC analysis are stored in association with each other. As described above, the processing from step 201 to step 206 is performed on all wideband speech signals prepared for learning, for example, 200 words. In step 207, the LPC analysis result stored in step 206 through all the above processing is averaged for each cluster (same code vector number), and the narrow band speech signal having the average value as a code vector is processed. A codebook 208 is created.

【0013】次に代表波形素片のコードブックを作成す
る手順を図3を参照して説明する。図1の広帯域音声信
号のコードブックの作成に用いた学習用広帯域音声信
号、又は異なるほぼ同一の周波数帯の学習用広帯域音声
信号を入力してステップ301でA/D変換器によりデ
ィジタル信号に変換し、ステップ302でそのディジタ
ル信号に付してLPC分析を行ってスペクトル情報(自
己相関係数、LPCケブストラム係数)のパラメータを
得る。このパラメータは図1のコードブックを作成した
時のパラメータと同一のものとする。従って、図3のス
テップ301,302は省略し、図1のステップ102
で得られたパラメータを用いてもよい。このパラメータ
を充分多く収集した後、例えば200単語程度について
収集した後、ステップ303で、図1で作成した広帯域
音声信号のコードブック104を参照して、各セントロ
イドに最も近いフレームを選ぶ、つまり、コードブック
104の各コード番号について、そのコードベクトルに
最も近いスペクトル情報パラメータを選択し、そのパラ
メータと対応した原広帯域音声信号における1分析窓
長、(LPC分析における)の波形を、有声音ならば1
ピッチ分、無声音ならば1分析窓長分抽出し、その抽出
波形をそのコード番号に対する代表波形素片とする。こ
のようにして各コード番号に対する代表波形素片を収容
した代表波形素片コードブック305を得る。
Next, a procedure for creating a codebook of representative waveform segments will be described with reference to FIG. The learning wideband speech signal used for creating the codebook of the wideband speech signal of FIG. 1 or the learning wideband speech signal of different substantially the same frequency band is input and converted into a digital signal by the A / D converter in step 301. Then, in step 302, LPC analysis is performed on the digital signal to obtain parameters of spectrum information (autocorrelation coefficient, LPC cestrum coefficient). This parameter is the same as the parameter used when the codebook of FIG. 1 was created. Therefore, steps 301 and 302 of FIG. 3 are omitted, and step 102 of FIG.
You may use the parameter obtained by. After collecting enough parameters, for example, about 200 words, in step 303, referring to the codebook 104 of the wideband speech signal created in FIG. 1, the frame closest to each centroid is selected, that is, , For each code number in the codebook 104, the spectral information parameter closest to the code vector is selected, and the waveform of 1 analysis window length (in LPC analysis) in the original wideband speech signal corresponding to the parameter is If 1
If it is an unvoiced sound corresponding to the pitch, one analysis window length is extracted, and the extracted waveform is used as a representative waveform segment for the code number. In this way, the representative waveform segment codebook 305 accommodating the representative waveform segment for each code number is obtained.

【0014】次に請求項1の発明により狭帯域音声信号
から広帯域音声信号を復元する手順を図4を参照して説
明する。入力された、例えば300Hz〜3.4kHz の狭
帯域音声信号を、ステップ401においてLPC分析し
て図1で用いたものと同様のスペクトル情報を得、この
得られたスペクトル情報パラメータを、ステップ401
においてベクトル量子化する。このベクトル量子化で
は、図2で示した方法で作成した狭帯域音声信号コード
ブック208が使用される。次に、ステップ404にお
いて、図3で求めた代表波形素片305を用いてコード
ベクトル番号と対応する代表波形素片を取り出し、有声
部分はピッチ同期の重ね合わせで、無声部分は窓長シフ
ト幅(LPC分析における)分の波形をランダムに使用
することによって波形合成して例えば8kHz 帯域の広帯
域音声信号を得る。
Next, a procedure for restoring a wideband speech signal from a narrowband speech signal according to the invention of claim 1 will be described with reference to FIG. The input narrow band speech signal of, for example, 300 Hz to 3.4 kHz is subjected to LPC analysis in step 401 to obtain spectrum information similar to that used in FIG. 1, and the obtained spectrum information parameter is set in step 401.
Vector quantize at. In this vector quantization, the narrowband speech signal codebook 208 created by the method shown in FIG. 2 is used. Next, in step 404, the representative waveform segment corresponding to the code vector number is extracted using the representative waveform segment 305 obtained in FIG. 3, the voiced part is a pitch-synchronized superposition, and the unvoiced part is the window length shift width. Waveform synthesis is performed by randomly using the waveforms (in the LPC analysis) to obtain a wideband speech signal in the 8 kHz band, for example.

【0015】以上の処理で求まった広帯域音声信号は、
狭帯域音声信号には存在しない信号を含んでいるが、狭
帯域音声信号に存在していた信号を歪ませるという副作
用を起こす。そこで、請求項2の発明では次に述べる処
理を行う。すなわちステップ405において、ステップ
404で得られた広帯域音声信号を、300Hz以下の周
波数を取り出すローパスフィルタと3.4kHz 以上の周
波数を取り出すハイパスフィルタとに通し、入力狭帯域
音声信号の帯域外の広帯域部分を取り出す。一方、入力
狭帯域音声信号をステップ406で8kHz 帯域にアップ
サンプリングし、そのサンプリング値と、ステップ40
5の出力広帯域部分とをステップ407でたしあわせ
て、復元された広帯域音声信号を得る。
The wideband speech signal obtained by the above processing is
Although it contains a signal that does not exist in the narrow band audio signal, it has the side effect of distorting the signal that was present in the narrow band audio signal. Therefore, in the invention of claim 2, the following processing is performed. That is, in step 405, the wideband speech signal obtained in step 404 is passed through a lowpass filter for extracting frequencies below 300 Hz and a highpass filter for extracting frequencies above 3.4 kHz, and a wideband portion outside the band of the input narrowband speech signal is obtained. Take out. On the other hand, the input narrow band speech signal is up-sampled to the 8 kHz band in step 406, and the sampling value and step 40
In step 407, the output wideband portion of 5 is added to obtain a restored wideband speech signal.

【0016】上述において、代表波形素片コードブック
による入力信号帯域外の復元を高域側のみとし、低域側
は、音声素片を用いなくてもよい。即ち例えば図5に示
すように図4について述べたように、入力狭帯域音声信
号をLPC分析し、(401)その分析結果を狭帯域音
声信号コードブック208を用いてベクトル量子化する
が(402)、その量子化コードを、広帯域音声信号コ
ードブック104を用いて、復元し、つまり、この量子
化コードと同一コードの広帯域音声信号コードブック1
04のコードベクトルでLPC音声合成器のフィルタ係
数を制御し、そLPC音声合成器にステップ401での
LPC分析にもとづくピッチの励振信号を入力し、また
出力レベルをステップ401のLPC分析のレベルに応
じて制御する(501)。このように復元された広帯域
音声信号から狭帯域入力信号より低域成分、例えば30
0Hz以下を低域通過フィルタで取出す(502)。この
時、ステップ401でのLPC分析による検出パワーは
300Hz〜3.4kHz の入力狭帯域信号のパワーであ
り、この、パワーとステップ501からの、LPC合成
信号、例えば8kHz 帯の信号がパワーが等しくなるよう
にされる。よってこの復元された広帯域音声信号のパワ
ーレベルは、入力狭帯域信号の帯域についてみると低下
したものとなっている。その低下した分をステップ50
2の低域通過フィルター出力に対して調整して入力狭帯
域音声信号のパワーレベルと対応するように上げる(5
03)。このようにして入力狭帯域音声信号と対応した
その帯域よりも低い帯域の信号が復元される。
In the above description, the restoration outside the input signal band by the representative waveform segment codebook is performed only on the high frequency side, and the speech segment need not be used on the low frequency side. That is, for example, as shown in FIG. 5, as described with reference to FIG. 4, the input narrowband speech signal is subjected to LPC analysis (401), and the analysis result is vector-quantized using the narrowband speech signal codebook 208 (402). ), The quantized code is restored using wideband speech signal codebook 104, that is, wideband speech signal codebook 1 having the same code as this quantized code.
The code vector of 04 controls the filter coefficient of the LPC speech synthesizer, inputs the excitation signal of the pitch based on the LPC analysis in step 401 to the LPC speech synthesizer, and sets the output level to the level of the LPC analysis in step 401. It is controlled accordingly (501). From the wideband speech signal thus restored, the low-frequency component, for example, 30
A value of 0 Hz or less is taken out by a low pass filter (502). At this time, the detected power by the LPC analysis in step 401 is the power of the input narrow band signal of 300 Hz to 3.4 kHz, and this power and the LPC composite signal from step 501, for example, the signal in the 8 kHz band has the same power. To be. Therefore, the power level of the restored wideband speech signal is lowered in the band of the input narrowband signal. The reduced amount is step 50
Adjust the output of the low-pass filter of 2 and raise it so as to correspond to the power level of the input narrowband speech signal (5
03). In this way, a signal in a band lower than that band corresponding to the input narrow band voice signal is restored.

【0017】次に、入力狭帯域音声信号と対応するその
帯域よりも高域の信号を復元するために二つの代表波形
素片コードブックを予め作成しておく。つまり、図3に
示すように、学習広帯域音声信号から代表波形素片コー
ドブック305を作る場合と、同様の手法で図6に示す
ように、学習広帯域音声信号を、広帯域音声信号コード
ブック104を用いてベクトル量子化し、その各コード
についてコードベクトルを最も近い学習広帯域音声信号
の波形を有音声については1ピッチ分、無声音について
はLPC分析における1分析窓長分抽出する(30
3)。この抽出した各代表波形素片を、例えば300Hz
〜3.4kHz を通過帯域とするフィルタに通して(60
1)、狭帯域の代表波形素片コードブック602を作
り、またステップ303で抽出した各代表波形素片を例
えば3.4kHz 以上を通過させる高域通過フィルタに通
して(603)、高域の代表波形素片コードブック60
4を作る。
Next, two representative waveform segment codebooks are created in advance in order to restore a signal in a higher band than the band corresponding to the input narrow band speech signal. That is, as shown in FIG. 3, in the same manner as in the case of forming the representative waveform segment codebook 305 from the learned wideband speech signal, the learning wideband speech signal is converted into the wideband speech signal codebook 104 as shown in FIG. Vector quantization is performed using the code vectors of the respective codes, and the waveform of the nearest learning wideband speech signal is extracted for one pitch for voiced speech and for one analysis window length in LPC analysis for unvoiced speech (30
3). Each extracted representative waveform segment is, for example, 300 Hz
Pass through a filter with a pass band of ~ 3.4kHz (60
1) Create a narrow-band representative waveform segment codebook 602, and pass each representative waveform segment extracted in step 303 through a high-pass filter that passes, for example, 3.4 kHz or more (603). Representative waveform element codebook 60
Make 4.

【0018】これら両代表波形素片コードブック60
2、604を用いて、入力狭帯域音声信号から、その帯
域よりも高い帯域の信号を復元する手法を図7を用いて
説明する。図4のステップ402で入力狭帯域信号を、
狭帯域音声信号コードブック208を用いてベクトル量
子化したが、その量子化コード番号を用いて、狭帯域代
表波形素片コードブック602から代表波形素片を選択
し(701)、また前記量子化コード番号を用いて、広
帯域の代表波形素片コードブック604から代表波形素
片を選択する。これら選択した狭帯域、広帯域の各代表
波形素片がそれぞれ無声音か有声音かの判定を行う(7
03、704)。無声音と判定されると、それぞれその
選択した狭帯域、広帯域の各代表波形素片から、窓シフ
ト幅分ずつ、開始点をランダムに選定して取出す(70
5、706)。ステップ703、704で有声音と判定
されると、その選択した狭帯域、広帯域の各代表波形素
片を、LPC分析(図4のステップ401)の結果得ら
れているピッチと同期して取出して重ね合わせる(70
7、708)。ステップ705、707で取出した各代
表波形素片列のパワーと、LPC分析(図4のステップ
401)の結果得られているパワーとの比をそれぞれ求
める(709、710)。これら求めた比を、ステップ
706、708より得られ、代表波形素片列のレベルに
掛算して、入力狭帯域音声信号のパワーと対応するパワ
ーとして(711、712)、加算することにより入力
狭帯域音声信号と対応するその帯域の高域側の復元信号
を得る(713)。
Both of these representative waveform element codebooks 60
A method of recovering a signal in a band higher than the band from the input narrow band audio signal using the H.2 and 604 will be described with reference to FIG. In step 402 of FIG. 4, the input narrow band signal is
Vector quantization was performed using the narrowband speech signal codebook 208. Using the quantized code number, a representative waveform segment was selected from the narrowband representative waveform segment codebook 602 (701) and the quantization was performed. Using the code number, a representative waveform segment is selected from the wideband representative waveform segment codebook 604. It is determined whether each of the selected narrowband and wideband representative waveform segments is unvoiced or voiced (7).
03, 704). When it is determined that the voice is unvoiced, the starting point is randomly selected and taken out for each window shift width from each of the selected narrow band and wide band representative waveform segments (70).
5, 706). If it is determined to be voiced sound in steps 703 and 704, the selected narrow-band and wide-band representative waveform segments are extracted in synchronization with the pitch obtained as a result of the LPC analysis (step 401 in FIG. 4). Overlay (70
7, 708). The ratio of the power of each representative waveform segment sequence extracted in steps 705 and 707 and the power obtained as a result of the LPC analysis (step 401 in FIG. 4) is obtained (709 and 710). These calculated ratios are obtained in steps 706 and 708, and are multiplied by the level of the representative waveform segment sequence, and as the power corresponding to the power of the input narrowband speech signal (711, 712), the input narrowing is performed. A restored signal on the high band side of the band corresponding to the band voice signal is obtained (713).

【0019】この高域側復元信号と、図5で得られた低
域側復元信号と、図4中のステップ406で得られた狭
帯域音声信号とを加えて広帯域音声信号を得る。図1中
のステップ102,図2中のステップ202,205,
図3中のステップ302,図4中のステップ401にお
ける各スペクトル分析は同一分析法により同種のパラメ
ータを求める。図2の狭帯域音声信号コードブック20
8の作成に用いる学習用広帯域音声信号は、広帯域音声
信号コードブック104の作成に用いた広帯域音声信号
を用いることが好ましい。何れにしても両音声信号の特
徴の対応関係を保存しながら両コードブックを作成する
とよい。しかし、この場合より音質が多少悪くなるが、
広帯域音声信号のコードブック104と、狭帯域音声信
号のコードブック208の各作成に全く別の音声信号を
用いてもよく、かつ狭帯域音声信号のコードブック20
8を図2に示したように、広帯域音声信号と狭帯域音声
信号の特徴の対応関係を保存させて作成するのではな
く、図1に示した通常の手法で狭帯域音声信号コードブ
ック208を作ってもよい。このようにしても広帯域音
声信号と狭帯域音声信号とは、例えば同一音韻について
みればその特徴は一般的にかなり相関があり、狭帯域音
声信号の同一音韻について広帯域音声信号のコードブッ
ク中の同一音韻を用いれば音質がかなり向上することが
期待できる。この場合広帯域音声信号のコードブック1
04と狭帯域音声信号のコードブック208との各同一
コード番号について両コードベクトルを対応付けておく
必要がある。
This high frequency side restored signal, the low frequency side restored signal obtained in FIG. 5 and the narrow band speech signal obtained in step 406 in FIG. 4 are added to obtain a wide band speech signal. Step 102 in FIG. 1, Steps 202 and 205 in FIG.
In each spectrum analysis in step 302 in FIG. 3 and step 401 in FIG. 4, the same kind of parameter is obtained by the same analysis method. Narrowband speech signal codebook 20 of FIG.
The wideband speech signal for learning used to create 8 is preferably the wideband speech signal used to create the wideband speech signal codebook 104. In any case, both codebooks may be created while preserving the correspondence relationship between the features of both audio signals. However, although the sound quality is slightly worse than in this case,
A completely different voice signal may be used for each of the codebook 104 for the wideband voice signal and the codebook 208 for the narrowband voice signal, and the codebook 20 for the narrowband voice signal may be used.
8 as shown in FIG. 2, the narrowband speech signal codebook 208 is generated by the usual method shown in FIG. 1 instead of storing the correspondence between the characteristics of the wideband speech signal and the narrowband speech signal. You can make it. Even in this way, the characteristics of the wideband speech signal and the narrowband speech signal are generally highly correlated in terms of the same phoneme, and the same phoneme of the narrowband speech signal is the same in the codebook of the wideband speech signal. It is expected that the sound quality will be considerably improved by using the phonemes. In this case, wideband audio signal codebook 1
It is necessary to associate both code vectors with respect to the same code number of 04 and the codebook 208 of the narrow band voice signal.

【0020】広帯域音声コードブック104を作るため
の広帯域音声信号と、代表波形素片コードブック305
を作るための広帯域音声信号とは同様に同一でも異なっ
ていてもよい。
A wideband speech signal for creating the wideband speech codebook 104 and a representative waveform segment codebook 305.
Similarly, it may be the same as or different from the wideband audio signal for producing

【0021】[0021]

【発明の効果】学習データとして音韻バランス単語18
6単語を用い、分析窓にハミング窓を用い、分析窓長を
21ミリ秒とし、窓シフト幅を3ミリ秒とし、LPC分
析次数を14次とし、FFTポイント数を512とし、
コードブック作成時の距離尺度をLPCケプストラムユ
ークリッド距離とし、広帯域音声信号コードブック10
4のサイズを16、狭帯域音声信号コードブック206
のサイズを256として、次の試験を行った。
EFFECTS OF THE INVENTION Phonological balance words 18 are used as learning data.
6 words are used, a Hamming window is used as an analysis window, an analysis window length is 21 milliseconds, a window shift width is 3 milliseconds, an LPC analysis order is 14th order, and an FFT point number is 512.
The wide-band speech signal codebook 10 is defined as the LPC cepstrum Euclidean distance is used as the distance measure when the codebook is created.
4 for size 16, narrowband speech signal codebook 206
The following tests were conducted with a size of 256.

【0022】A及びBとして電話帯域音声、7.3kHz
帯域音声をランダムに提示する。3番目に提示される音
声Xを次の(1)から(4)とした。 (1) 電話帯域音声 (2) 7.3kHz 帯域音声 (3) 図5、図7の復元法(本発明)を利用した音声 (4) (2)のLPC分析合成音の低域、高域を電話
帯域音声に加え合わせた音声 (4)がLPC系を利用した場合に最良の復元音声にな
ると考え、被験者にはXの音声がAに近いかBに近いか
を判断させた。全部で125組の音声をヘッドホンを用
いて提示した。被験者は6名である。Xが7.3kHz 帯
域音声に近いと判断した割合を下記に示す。 (1) (2) (3) (4) 6.9% 96.9% 86.2% 86.4% (3)の本発明による復元音声、(4)のLPC合成音
による復元音声が7.3kHz 帯域音声に近いという結果
が、それぞれ、86.2%、86.4%であり、復元音
声が、7.3kHz 帯域音声に近いという結果が86.4
%であり、この発明によれば、可成りよく、帯域の復元
がなされていることが理解される。
Telephone band voice as A and B, 7.3 kHz
Bandwidth is presented randomly. The speech X presented third is set as the following (1) to (4). (1) Telephone band voice (2) 7.3 kHz band voice (3) Voice using the restoration method (present invention) of FIGS. 5 and 7 (4) Low and high frequencies of LPC analysis and synthesis sound of (2) (4) was considered to be the best restored voice when the LPC system was used, and the subject was asked to judge whether the voice of X was close to A or B. A total of 125 voices were presented using headphones. There are 6 test subjects. The following shows the rate at which X was judged to be close to 7.3 kHz band sound. (1) (2) (3) (4) 6.9% 96.9% 86.2% 86.4% The restored voice according to the present invention of (3) and the restored voice by LPC synthesized voice of (4) are 7 86.2% and 86.4%, respectively, were close to the 7.3 kHz band voice, and 86.4% were the restored voice was close to the 7.3 kHz band voice.
%, And it is understood that the band is restored fairly well according to the present invention.

【0023】以上述べたように、この発明によれば、狭
帯域音声信号と、広帯域音声との特徴の対応により、狭
帯域音声信号に存在しない音声信号の特徴を効率よく復
元することができる。特に、広帯域音声信号をそのまま
音声波形素片として用いて復元するため高品質な復元音
声を得ることができる。
As described above, according to the present invention, it is possible to efficiently restore the characteristics of the voice signal that does not exist in the narrowband voice signal by the correspondence between the characteristics of the narrowband voice signal and the wideband voice. In particular, since the wideband speech signal is used as it is as a speech waveform segment to be restored, high-quality restored speech can be obtained.

【図面の簡単な説明】[Brief description of drawings]

【図1】広帯域音声信号コードブックを作成する手順を
示す図。
FIG. 1 is a diagram showing a procedure for creating a wideband speech signal codebook.

【図2】狭帯域音声信号コードブックを作成する手順を
示す図。
FIG. 2 is a diagram showing a procedure for creating a narrowband speech signal codebook.

【図3】代表波形素片コードブックを作成する手順を示
す図。
FIG. 3 is a diagram showing a procedure for creating a representative waveform segment codebook.

【図4】請求項1及び2の各発明による広帯域音声信号
復元方法の手順を示す図。
FIG. 4 is a diagram showing a procedure of a wideband speech signal restoration method according to the first and second aspects of the present invention.

【図5】入力狭帯域音声信号よりも低い帯域の信号を復
元する方法の手順を示す図。
FIG. 5 is a diagram showing a procedure of a method of restoring a signal in a band lower than that of an input narrowband speech signal.

【図6】狭帯域の代表波形素片コードブック及び高域の
代表波形素片コードブックを作成する手順を示す図。
FIG. 6 is a diagram showing a procedure for creating a narrow-band representative waveform segment codebook and a high-frequency representative waveform segment codebook.

【図7】入力狭帯域音声信号よりも高い帯域の信号を復
元する方法の手順を示す図。
FIG. 7 is a diagram showing a procedure of a method for restoring a signal in a band higher than that of an input narrowband voice signal.

Claims (4)

【特許請求の範囲】[Claims] 【請求項1】 入力された狭帯域音声信号から広帯域音
声信号を生成して出力する広帯域音声復元方法におい
て、 入力された狭帯域音声信号をスペクトル分析する第1の
ステップと、 その第1のステップで得た結果を、予め用意した狭帯域
音声信号のコードブックを用いてベクトル量子化する第
2のステップと、 その第2のステップで得た量子化値を、予め用意した代
表波形素片のコードブックを用いて復元して広帯域音声
信号を得る第3のステップと、 からなる広帯域音声信号復元方法。
1. A wideband speech restoration method for generating and outputting a wideband speech signal from an input narrowband speech signal, the first step of spectrally analyzing the input narrowband speech signal, and the first step thereof. The second step of vector-quantizing the result obtained in step 2 using a codebook of a narrow-band speech signal prepared in advance, and the quantized value obtained in the second step are stored in a representative waveform segment prepared in advance. A third step of obtaining a wideband speech signal by restoration using a codebook, and a wideband speech signal restoration method comprising:
【請求項2】 上記入力された狭帯域音声信号をアップ
サンプリングを行ってサンプリング値を算出する第4の
ステップと、 上記第3のステップで得た広帯域音声信号から上記入力
狭帯域音声信号帯域外の広帯域部分を取り出す第5のス
テップと、 その第5のステップで得た広帯域部分と上記第4のステ
ップで得たサンプリング値とを加えて広帯域音声信号を
得る第6のステップと、 を備えることを特徴とする請求項1記載の広帯域音声信
号復元方法。
2. A fourth step of upsampling the input narrowband speech signal to calculate a sampling value; and a step of calculating the sampling value from the wideband speech signal obtained in the third step, outside the input narrowband speech signal band. And a sixth step of obtaining a wideband speech signal by adding the wideband portion obtained in the fifth step and the sampling value obtained in the fourth step. The wideband audio signal restoration method according to claim 1, wherein
【請求項3】 上記代表波形素片のコードブックは、学
習用広帯域音声信号をスペクトル分析し、そのスペクト
ル分析の結果と、予め用意した広帯域音声信号のコード
ブックとを比較し、その各コードについてそのパラメー
タと、最も近いスペクトル分析結果と対応する学習用広
帯域音声信号を、有声音なら1ピッチ分、無声音なら1
フレーム分抽出し、そのコードの代表波形素片としたも
のであることを特徴とする請求項1又は2記載の広帯域
音声信号復元方法。
3. The representative waveform segment codebook is obtained by spectrally analyzing a learning wideband speech signal, comparing the spectrum analysis result with a previously prepared wideband speech signal codebook, and regarding each code thereof. A wideband speech signal for learning corresponding to the parameter and the closest spectrum analysis result is set for 1 pitch for voiced sound and 1 for unvoiced sound.
3. The wideband speech signal restoration method according to claim 1, wherein the frame is extracted and used as a representative waveform segment of the code.
【請求項4】 入力された狭帯域音声信号から広帯域音
声信号を生成して出力する広帯域音声復元方法におい
て、 入力された狭帯域音声信号をスペクトル分析する第1の
ステップと、 その第一のステップで得た結果を、予め用意した狭帯域
音声信号のコードブックを用いてベクトル量子化する第
2のステップと、 その第2のステップで得た量子化値を、予め用意した広
帯域音声信号のコードブックを用いて復元する第3のス
テップと、 その復元された広帯域音声信号から上記入力狭帯域音声
信号より低域の成分を取出す第4のステップと、 上記第2のステップで得た量子化値を、予め用意した、
狭帯域音声信号より高域の音声信号の代表波形素片のコ
ードブックを用いて復元して高域音声信号を得る第5の
ステップと、 上記入力された狭帯域音声信号をアップサンプリングを
行ってサンプリング値を算出する第6のステップと、 上記第4のステップで取出した低域成分と、上記第5の
ステップで復元した高域音声信号と、上記第6のステッ
プで算出したサンプリング値とを加えて広帯域音声信号
を得る第7のステップと、 を備えることを特徴とする広帯域音声信号復元方法。
4. A wideband speech restoration method for generating and outputting a wideband speech signal from an input narrowband speech signal, the first step of spectrally analyzing the input narrowband speech signal, and the first step thereof. The second step of vector-quantizing the result obtained in step 2 using a codebook of a narrowband speech signal prepared in advance, and the quantized value obtained in the second step are used as a code of a wideband speech signal prepared in advance. A third step of restoring using the book, a fourth step of extracting a low-frequency component from the input narrowband speech signal from the restored wideband speech signal, and a quantized value obtained in the second step. Prepared in advance,
A fifth step of restoring a narrow band speech signal by using a codebook of a representative waveform segment of the high band speech signal to obtain a high band speech signal, and performing upsampling of the input narrow band speech signal The sixth step of calculating the sampling value, the low frequency component extracted in the fourth step, the high frequency audio signal restored in the fifth step, and the sampling value calculated in the sixth step In addition, a seventh step of obtaining a wideband speech signal, and a wideband speech signal restoration method comprising:
JP20319993A 1993-08-17 1993-08-17 Wideband audio signal restoration method Expired - Lifetime JP3230782B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP20319993A JP3230782B2 (en) 1993-08-17 1993-08-17 Wideband audio signal restoration method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20319993A JP3230782B2 (en) 1993-08-17 1993-08-17 Wideband audio signal restoration method

Publications (2)

Publication Number Publication Date
JPH0756599A true JPH0756599A (en) 1995-03-03
JP3230782B2 JP3230782B2 (en) 2001-11-19

Family

ID=16470112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20319993A Expired - Lifetime JP3230782B2 (en) 1993-08-17 1993-08-17 Wideband audio signal restoration method

Country Status (1)

Country Link
JP (1) JP3230782B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002508526A (en) * 1998-03-25 2002-03-19 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー Broadband language synthesis from narrowband language signals
US6594626B2 (en) 1999-09-14 2003-07-15 Fujitsu Limited Voice encoding and voice decoding using an adaptive codebook and an algebraic codebook
US7089179B2 (en) 1998-09-01 2006-08-08 Fujitsu Limited Voice coding method, voice coding apparatus, and voice decoding apparatus
KR100574031B1 (en) * 1997-10-23 2006-12-01 소니 가부시끼 가이샤 Speech Synthesis Method and Apparatus and Voice Band Expansion Method and Apparatus

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100574031B1 (en) * 1997-10-23 2006-12-01 소니 가부시끼 가이샤 Speech Synthesis Method and Apparatus and Voice Band Expansion Method and Apparatus
JP2002508526A (en) * 1998-03-25 2002-03-19 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー Broadband language synthesis from narrowband language signals
US6691083B1 (en) 1998-03-25 2004-02-10 British Telecommunications Public Limited Company Wideband speech synthesis from a narrowband speech signal
US7089179B2 (en) 1998-09-01 2006-08-08 Fujitsu Limited Voice coding method, voice coding apparatus, and voice decoding apparatus
US6594626B2 (en) 1999-09-14 2003-07-15 Fujitsu Limited Voice encoding and voice decoding using an adaptive codebook and an algebraic codebook

Also Published As

Publication number Publication date
JP3230782B2 (en) 2001-11-19

Similar Documents

Publication Publication Date Title
US5581652A (en) Reconstruction of wideband speech from narrowband speech using codebooks
JP3707116B2 (en) Speech decoding method and apparatus
JP3680380B2 (en) Speech coding method and apparatus
JP4132109B2 (en) Speech signal reproduction method and device, speech decoding method and device, and speech synthesis method and device
CN102144259B (en) An apparatus and a method for generating bandwidth extension output data
EP1262956B1 (en) Signal encoding method and apparatus
JP4624552B2 (en) Broadband language synthesis from narrowband language signals
KR101373004B1 (en) Apparatus and method for encoding and decoding high frequency signal
JP4662673B2 (en) Gain smoothing in wideband speech and audio signal decoders.
JP3557662B2 (en) Speech encoding method and speech decoding method, and speech encoding device and speech decoding device
JP4005154B2 (en) Speech decoding method and apparatus
US7596492B2 (en) Apparatus and method for concealing highband error in split-band wideband voice codec and decoding
JPH10124088A (en) Device and method for expanding voice frequency band width
JP3653826B2 (en) Speech decoding method and apparatus
JP2956548B2 (en) Voice band expansion device
JPH1091194A (en) Method of voice decoding and device therefor
JP4040126B2 (en) Speech decoding method and apparatus
JP2008513848A (en) Method and apparatus for artificially expanding the bandwidth of an audio signal
WO2003010752A1 (en) Speech bandwidth extension apparatus and speech bandwidth extension method
JPH10124089A (en) Processor and method for speech signal processing and device and method for expanding voice bandwidth
JP3230782B2 (en) Wideband audio signal restoration method
JP4274614B2 (en) Audio signal decoding method
JP2000122679A (en) Audio range expanding method and device, and speech synthesizing method and device
KR100715014B1 (en) Transcoder and coder conversion method
JP3230791B2 (en) Wideband audio signal restoration method

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070914

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080914

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080914

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090914

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090914

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110914

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120914

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 12

EXPY Cancellation because of completion of term