JP3856328B2 - Speech encoding method and speech decoding method - Google Patents

Speech encoding method and speech decoding method Download PDF

Info

Publication number
JP3856328B2
JP3856328B2 JP2005052789A JP2005052789A JP3856328B2 JP 3856328 B2 JP3856328 B2 JP 3856328B2 JP 2005052789 A JP2005052789 A JP 2005052789A JP 2005052789 A JP2005052789 A JP 2005052789A JP 3856328 B2 JP3856328 B2 JP 3856328B2
Authority
JP
Japan
Prior art keywords
prediction
speech
signal
access unit
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2005052789A
Other languages
Japanese (ja)
Other versions
JP2005208668A (en
Inventor
徳彦 渕上
昭治 植野
美昭 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2005052789A priority Critical patent/JP3856328B2/en
Publication of JP2005208668A publication Critical patent/JP2005208668A/en
Application granted granted Critical
Publication of JP3856328B2 publication Critical patent/JP3856328B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、音声信号を予測符号化して圧縮するための音声符号化方法及び、この音声符号化方法により符号化された音声信号を復号する音声復号方法に関する。   The present invention relates to a speech encoding method for predictively encoding and compressing a speech signal, and a speech decoding method for decoding a speech signal encoded by this speech encoding method.

音声信号を予測符号化する方法として、本発明者は先の出願(特願平9−289159号)において1チャネル(チャンネル)の原デジタル音声信号に対して、特性が異なる複数の予測器により時間領域における過去の信号から現在の信号の複数の線形予測値を算出し、原デジタル音声信号と、この複数の線形予測値から予測器毎の予測残差を算出し、この複数の予測残差の最小値を選択する方法を提案している。   As a method for predictively encoding a speech signal, the present inventor has used a plurality of predictors having different characteristics for the original digital speech signal of one channel (channel) in the previous application (Japanese Patent Application No. 9-289159). A plurality of linear prediction values of the current signal are calculated from past signals in the region, a prediction residual for each predictor is calculated from the original digital speech signal and the plurality of linear prediction values, and the prediction residuals are calculated. A method for selecting the minimum value is proposed.

しかしながら、上記方法では原デジタル音声信号がサンプリング周波数=96kHz、量子化ビット数=20ビット程度の場合に、ある程度の圧縮効果を得ることができるが、近年のDVDオーディオディスクでは、この2倍のサンプリング周波数(=192kHz)が使用され、また、量子化ビット数も24ビットが使用される傾向があるので、圧縮率を改善する必要がある。   However, in the above method, when the original digital audio signal has a sampling frequency = 96 kHz and the number of quantization bits = 20 bits, it is possible to obtain a certain degree of compression effect. Since the frequency (= 192 kHz) is used and the number of quantization bits tends to be 24 bits, it is necessary to improve the compression rate.

そこで本発明は、音声信号を予測符号化する場合に圧縮率を改善することができる音声符号化方法及び、この音声符号化方法により符号化された音声信号を復号する音声復号方法を提供することを目的とする。   Accordingly, the present invention provides a speech coding method capable of improving the compression rate when predictive coding a speech signal, and a speech decoding method for decoding a speech signal encoded by this speech coding method. With the goal.

本発明は上記目的を達成するために、以下の1)及び2)記載の手段よりなる。
すなわち、
In order to achieve the above object, the present invention comprises the following means 1) and 2).
That is,

1)ステレオ2チャネルの音声信号を、そのままのチャネル又は互いに相関をとったチャネル毎に、入力される音声信号に応答して先頭サンプル値を所定時間のフレーム単位で得ると共に、特性が異なる複数の線形予測方法により時間領域の過去から現在の信号の線形予測値がそれぞれ予測され、その予測される線形予測値と前記音声信号とから得られる予測残差が最小となるような線形予測方法を、前記フレームを更に分割したサブフレーム単位に選択して予測符号化するステップと、
ヘッダ情報と、圧縮PCMアクセスユニットを含むユーザデータと、を含んだデータ構造にすると共に、前記圧縮PCMアクセスユニットは前記サブフレーム毎に設けられ、前記ステップにより選択されたサブフレーム毎の各チャネルの予測残差と線形予測方法を含む予測符号化データを、前記圧縮PCMアクセスユニット内に配置されるサブパケットに前記音声信号のサンプリング周波数に応じたサンプル数により格納すると共に前記予測残差をビット情報に基づいたビット数でパッキングして格納し、前記圧縮PCMアクセスユニットが前記フレーム中の先頭のものである場合には、さらに、前記先頭サンプル値を収納するステップと,
からなる音声符号化方法。
2)請求項1記載の音声符号化方法により符号化されたデータから元の音声信号を復号する音声復号方法であって、
前記ユーザデータから圧縮PCMアクセスユニットを抽出するステップと、
前記圧縮PCMアクセスユニットから前記先頭サンプル値と、サンプリング周波数に応じたサンプル数の予測残差および線形予測方法を含むサブフレーム単位の予測符号化データとを取り出すステップと、
前記予測残差をビット情報に基づいたビット数で復号し、この復号した予測残差と前記先頭サンプル値と線形予測方法とに基づいて予測値を算出するステップと、
この算出された予測値から元の音声信号を復元するステップと、
からなる音声復号方法。
1) For a stereo 2-channel audio signal, a head sample value is obtained in units of frames for a predetermined time in response to an input audio signal for each channel as it is or for each channel correlated with each other . A linear prediction method in which the linear prediction value of the current signal is predicted from the past in the time domain by the linear prediction method, and the prediction residual obtained from the predicted linear prediction value and the speech signal is minimized. Selecting and predictively encoding sub-frame units obtained by further dividing the frame;
The data structure includes header information and user data including a compressed PCM access unit, and the compressed PCM access unit is provided for each subframe, and each channel for each subframe selected in the step is selected. Predictive encoded data including a prediction residual and a linear prediction method is stored in a subpacket arranged in the compressed PCM access unit according to the number of samples corresponding to the sampling frequency of the audio signal, and the prediction residual is bit information Packing the number of bits based on the number of bits and storing the head sample value if the compressed PCM access unit is at the head of the frame; and
A speech encoding method comprising:
2) A speech decoding method for decoding an original speech signal from data encoded by the speech encoding method according to claim 1,
Extracting a compressed PCM access unit from the user data;
Retrieving the head sample value from the compressed PCM access unit and prediction encoded data in subframe units including a prediction residual of the number of samples according to a sampling frequency and a linear prediction method;
Decoding the prediction residual with the number of bits based on bit information, and calculating a prediction value based on the decoded prediction residual, the leading sample value, and a linear prediction method;
And restoring the original audio signal from the calculated prediction value,
A speech decoding method comprising:

以上説明したように本発明によれば、従来以上に圧縮率を改善した音声符号化ができると共に、これにより符号化された音声信号を不都合なく音声復号できる。   As described above, according to the present invention, it is possible to perform speech encoding with a compression rate improved more than before, and to perform speech decoding of the encoded speech signal without any inconvenience.

以下、図面を参照して本発明の実施の形態を説明する。図1は本発明に係る音声符号化装置とそれに対応した音声復号装置の第1の形態を示すブロック図、図2は図1のエンコーダを詳しく示すブロック図、図3は図2のマルチプレクサにより多重化される1フレームのフォーマットを示す説明図、図4はDVDのパックのフォーマットを示す説明図、図5はDVDのオーディオパックのフォーマットを示す説明図、図6は図1のデコーダを詳しく示すブロック図である。   Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing a first embodiment of a speech encoding apparatus and a speech decoding apparatus corresponding to the speech encoding apparatus according to the present invention, FIG. 2 is a block diagram showing the encoder of FIG. 1 in detail, and FIG. 3 is multiplexed by the multiplexer of FIG. FIG. 4 is an explanatory diagram showing the format of the DVD pack, FIG. 5 is an explanatory diagram showing the format of the DVD audio pack, and FIG. 6 is a block diagram showing the decoder of FIG. 1 in detail. FIG.

図1に示すチャネル相関回路Aは加算回路1aと減算回路1bを有する。加算回路1aは各チャネル(以下、ch)が例えばサンプリング周波数=192kHz、量子化ビット数=24ビットのステレオ2ch信号L、Rの和信号(L+R)を算出して和ch用1chロスレス・エンコーダ2D1に出力し、減算回路1bは差信号(L−R)を算出して差ch用1chロスレス・エンコーダ2D2に出力する。エンコーダ2D1、2D2は図2に詳しく示すように、それぞれ和信号(L+R)、差信号(L−R)の差分Δ(L+R)、Δ(L−R)を予測符号化して記録媒体や通信媒体を介して伝送する。   The channel correlation circuit A shown in FIG. 1 has an addition circuit 1a and a subtraction circuit 1b. The adding circuit 1a calculates a sum signal (L + R) of stereo 2ch signals L and R with each channel (hereinafter referred to as ch) having a sampling frequency of 192 kHz and the number of quantization bits of 24 bits, for example, and a 1ch lossless encoder 2D1 for the sum ch The subtraction circuit 1b calculates the difference signal (LR) and outputs it to the 1ch lossless encoder 2D2 for the difference channel. As shown in detail in FIG. 2, the encoders 2D1 and 2D2 predictively encode the differences Δ (L + R) and Δ (LR) of the sum signal (L + R) and the difference signal (LR), respectively, to record and communicate media Is transmitted through.

そして、復号側では、図6に詳しく示すようにデコーダ3D1、3D2がそれぞれ各chの予測符号化データを和信号(L+R)、差信号(L−R)に復号し、次いでチャネル相関回路Bがこの和信号(L+R)、差信号(L−R)をステレオ2ch信号L、Rに復元する。   On the decoding side, as shown in detail in FIG. 6, the decoders 3D1, 3D2 respectively decode the prediction encoded data of each channel into a sum signal (L + R) and a difference signal (LR), and then the channel correlation circuit B The sum signal (L + R) and difference signal (LR) are restored to stereo 2ch signals L and R.

図2を参照してエンコーダ2D1、2D2について詳しく説明する。和信号(L+R)と差信号(L−R)は1フレーム毎に1フレームバッファ10に格納される。そして、1フレームの各サンプル値(L+R)、(L−R)がそれぞれ差分演算回路11D1、11D2に印加され、今回と前回の差分Δ(L+R)、Δ(L−R)、すなわち差分PCM(DPCM)データが算出される。また、各フレームの先頭サンプル値(L+R)、(L−R)がマルチプレクサ19に印加される。   The encoders 2D1 and 2D2 will be described in detail with reference to FIG. The sum signal (L + R) and the difference signal (LR) are stored in one frame buffer 10 for each frame. Then, each sample value (L + R), (LR) of one frame is applied to the difference calculation circuits 11D1, 11D2, respectively, and the difference Δ (L + R), Δ (LR), that is, the difference PCM ( DPCM) data is calculated. In addition, the head sample values (L + R) and (LR) of each frame are applied to the multiplexer 19.

差分演算回路11D1により算出された差分Δ(L+R)は、予測係数が異なる複数の予測器12a−1〜12a−nと減算器13a−1〜13a−nに印加される。そして、予測器12a−1〜12a−nではそれぞれ各予測係数に基づいて差分Δ(L+R)の各予測値が算出され、減算器13a−1〜13b−nではそれぞれこの各予測値と差分Δ(L+R)の各予測残差が算出される。バッファ・選択器16D1はこの複数の予測残差を一時記憶して、選択信号生成器17により指定されたサブフレーム毎に最小の予測残差を選択し、パッキング回路18に出力する。なお、このサブフレームはフレームの数十分の1程度のサンプル長であり、一例として1フレームを80サブフレームとする。ここで、予測器12a−1〜12a−nと減算器13a−1〜13a−nは和信号chの予測回路15D1を構成し、また、この予測回路15D1とバッファ・選択器16D1は和信号chの予測符号化回路を構成している。   The difference Δ (L + R) calculated by the difference calculation circuit 11D1 is applied to a plurality of predictors 12a-1 to 12a-n and subtractors 13a-1 to 13a-n having different prediction coefficients. Each of the predictors 12a-1 to 12a-n calculates each prediction value of the difference Δ (L + R) based on each prediction coefficient, and each of the subtractors 13a-1 to 13b-n calculates each prediction value and the difference Δ. Each prediction residual of (L + R) is calculated. The buffer / selector 16 </ b> D <b> 1 temporarily stores the plurality of prediction residuals, selects the minimum prediction residual for each subframe specified by the selection signal generator 17, and outputs the selected prediction residual to the packing circuit 18. Note that this subframe has a sample length of about one tens of frames, and one frame is 80 subframes as an example. Here, the predictors 12a-1 to 12a-n and the subtractors 13a-1 to 13a-n constitute a prediction circuit 15D1 for the sum signal ch, and the prediction circuit 15D1 and the buffer / selector 16D1 are the sum signal ch. The prediction encoding circuit is configured.

同様に、差分演算回路11D2により算出された差分Δ(L−R)は、予測係数が異なる複数の予測器12b−1〜12b−nと減算器13b−1〜13b−nに印加される。そして、予測器12b−1〜12b−nではそれぞれ各予測係数に基づいて差分Δ(L−R)の各予測値が算出され、減算器13b−1〜13b−nではそれぞれこの各予測値と差分Δ(L−R)の各予測残差が算出される。バッファ・選択器16D2はこの複数の予測残差を一時記憶して、選択信号生成器17により指定されたサブフレーム毎に最小の予測残差を選択し、パッキング回路18に出力する。予測器12b−1〜12b−nと減算器13b−1〜13b−nは差信号chの予測回路15D2を構成し、また、この予測回路15D2とバッファ・選択器16D2は差信号chの予測符号化回路を構成している。   Similarly, the difference Δ (LR) calculated by the difference calculation circuit 11D2 is applied to a plurality of predictors 12b-1 to 12b-n and subtractors 13b-1 to 13b-n having different prediction coefficients. The predictors 12b-1 to 12b-n calculate the predicted values of the difference Δ (LR) based on the respective prediction coefficients, and the subtracters 13b-1 to 13b-n respectively Each prediction residual of the difference Δ (LR) is calculated. The buffer / selector 16D2 temporarily stores the plurality of prediction residuals, selects the minimum prediction residual for each subframe specified by the selection signal generator 17, and outputs it to the packing circuit 18. The predictors 12b-1 to 12b-n and the subtractors 13b-1 to 13b-n constitute a difference signal ch prediction circuit 15D2, and the prediction circuit 15D2 and the buffer / selector 16D2 are prediction codes for the difference signal ch. Circuit.

選択信号生成器17は予測残差のビット数フラグ(5ビット)をパッキング回路18とマルチプレクサ19に対して印加し、また、予測残差が最小の予測器を示す予測器選択フラグ(その数nが2〜9個として3ビット)をマルチプレクサ19に対して印加する。パッキング回路18はバッファ・選択器16D1、16D2により選択された2ch分の予測残差を、選択信号生成器17により指定されたビット数フラグに基づいて指定ビット数でパッキングする。   The selection signal generator 17 applies a prediction residual bit number flag (5 bits) to the packing circuit 18 and the multiplexer 19, and also predictor selection flags (the number n) indicating the predictor having the smallest prediction residual. 2 to 9 and 3 bits) is applied to the multiplexer 19. The packing circuit 18 packs the prediction residuals for 2ch selected by the buffers / selectors 16D1 and 16D2 with the designated number of bits based on the bit number flag designated by the selection signal generator 17.

続くマルチプレクサ19は図3に示すように1フレーム分に対して
・フレームヘッダ(40ビット)と、
・和信号ch(L+R)の1フレームの先頭サンプル値(25ビット)と、
・差信号ch(L−R)の1フレームの先頭サンプル値(25ビット)と、
・和信号ch(L+R)のサブフレーム毎の予測器選択フラグ(3ビット×80)と、
・差信号ch(L−R)のサブフレーム毎の予測器選択フラグ(3ビット×80)と、
・和信号ch(L+R)のサブフレーム毎のビット数フラグ(5ビット×80)と、
・差信号ch(L−R)のサブフレーム毎のビット数フラグ(5ビット×80)と、
・和信号ch(L+R)の予測残差データ列(可変ビット数)と、
・差信号ch(L−R)の予測残差データ列(可変ビット数)とを
アクセスユニットとして多重化し、可変レートビットストリームとして出力する。上記予測残差データ列はサブパケットを構成する。このような予測符号化によれば、原信号が例えばサンプリング周波数=192kHz、量子化ビット数=24ビット、2チャネルの場合、59%の圧縮率を実現することができる。
The succeeding multiplexer 19 has a frame header (40 bits) for one frame as shown in FIG.
The first sample value (25 bits) of one frame of the sum signal ch (L + R),
The first sample value (25 bits) of one frame of the difference signal ch (LR),
A predictor selection flag (3 bits × 80) for each subframe of the sum signal ch (L + R);
A predictor selection flag (3 bits × 80) for each subframe of the difference signal ch (LR);
A bit number flag (5 bits × 80) for each subframe of the sum signal ch (L + R);
A bit number flag (5 bits × 80) for each subframe of the difference signal ch (LR);
A prediction residual data string (number of variable bits) of the sum signal ch (L + R);
-The prediction residual data string (number of variable bits) of the difference signal ch (LR) is multiplexed as an access unit and output as a variable rate bit stream. The prediction residual data string constitutes a subpacket. According to such predictive coding, when the original signal is, for example, sampling frequency = 192 kHz, number of quantization bits = 24 bits, and 2 channels, a compression rate of 59% can be realized.

また、この可変レートビットストリームデータをDVDオーディオディスクに記録する場合には、図4に示す圧縮PCMのオーディオ(A)パックにパッキングされる。このパックは2034バイトのユーザデータ(Aパケット、Vパケット)に対して4バイトのパックスタート情報と、6バイトのSCR(System Clock Reference:システム時刻基準参照値)情報と、3バイトのMux レート(rate)情報と1バイトのスタッフィングの合計14バイトのパックヘッダが付加されて構成されている(1パック=合計2048バイト)。この場合、タイムスタンプであるSCR情報を、ACBユニット内の先頭パックでは「1」として同一タイトル内で連続とすることにより同一タイトル内のAパックの時間を管理することができる。   When this variable rate bit stream data is recorded on a DVD audio disk, it is packed into an audio (A) pack of compressed PCM shown in FIG. This pack consists of 2034 bytes of user data (A packet, V packet), 4 bytes of pack start information, 6 bytes of SCR (System Clock Reference) information, and 3 bytes of Mux rate ( rate) information and a 1-byte stuffing total 14-byte pack header are added (1 pack = total 2048 bytes). In this case, the time of the A pack in the same title can be managed by setting the SCR information as a time stamp as “1” in the first pack in the ACB unit and continuing in the same title.

圧縮PCMのAパケットは図5に詳しく示すように、17、9又は14バイトのパケットヘッダと、プライベートヘッダと、図3に示すフォーマットの1ないし2015バイトのオーディオ圧縮PCMデータにより構成されている。圧縮PCMのプライベートヘッダは、
・1バイトのサブストリームIDと、
・2バイトのUPC/EAN−ISRC(Universal Product Code/European Article Number-International Standard Recording Code)番号、及びUPC/EAN−ISRCデータと、
・1バイトのプライベートヘッダ長と、
・2バイトの第1アクセスユニットポインタと、
・4バイトのオーディオデータ情報(ADI)と、
・0〜7バイトのスタッフィングバイトとに、
より構成されている。
このように圧縮PCMのAパケットのADIは、4バイトに選定され、通常の非圧縮のPCMのAパケットのADIよりも4バイトだけ短くされている。したがってオーディオデータは4バイト分増加させることができる。
As shown in detail in FIG. 5, the compressed PCM A packet is composed of a 17, 9 or 14 byte packet header, a private header, and audio compressed PCM data of 1 to 2015 bytes in the format shown in FIG. The compressed PCM private header is
A 1-byte substream ID,
-2-byte UPC / EAN-ISRC (Universal Product Code / European Article Number-International Standard Recording Code) number and UPC / EAN-ISRC data;
-1 byte private header length,
A 2-byte first access unit pointer;
-4 bytes of audio data information (ADI),
・ With stuffing byte of 0-7 bytes,
It is made up of.
Thus, the ADI of the compressed PCM A packet is selected to be 4 bytes, which is 4 bytes shorter than the ADI of the normal uncompressed PCM A packet. Therefore, the audio data can be increased by 4 bytes.

次に図6を参照してデコーダ3D1、3D2について説明する。図3に示したフォーマットの可変レートビットストリームデータは、デマルチプレクサ21によりフレームヘッダに基づいて分離される。そして、和信号ch(L+R)及び差信号ch(L−R)の1フレームの先頭サンプル値はそれぞれ累積演算回路25a、25bに印加され、和信号ch(L+R)及び差信号ch(L−R)の予測器選択フラグはそれぞれ予測器(24a−1〜24a−n)、(24b−1〜24b−n)の各選択信号として印加され、和信号ch(L+R)及び差信号ch(L−R)のビット数フラグと予測残差データ列はアンパッキング回路22に印加される。ここで、予測器(24a−1〜24a−n)、(24b−1〜24b−n)はそれぞれ、符号化側の予測器(12a−1〜12a−n)、(12b−1〜12b−n)と同一の特性であり、予測器選択フラグにより同一特性のものが選択される。   Next, the decoders 3D1 and 3D2 will be described with reference to FIG. The variable rate bit stream data in the format shown in FIG. 3 is separated by the demultiplexer 21 based on the frame header. Then, the head sample values of one frame of the sum signal ch (L + R) and the difference signal ch (LR) are respectively applied to the accumulation arithmetic circuits 25a and 25b, and the sum signal ch (L + R) and the difference signal ch (LR) are applied. ) Predictor selection flags are applied as selection signals of the predictors (24a-1 to 24a-n) and (24b-1 to 24b-n), respectively, and the sum signal ch (L + R) and difference signal ch (L- The bit number flag (R) and the prediction residual data string are applied to the unpacking circuit 22. Here, the predictors (24a-1 to 24a-n) and (24b-1 to 24b-n) are the predictors (12a-1 to 12a-n) and (12b-1 to 12b-) on the encoding side, respectively. The same characteristics as those in n) are selected by the predictor selection flag.

アンパッキング回路22は和信号ch(L+R)及び差信号ch(L−R)の予測残差データ列をビット数フラグ毎に基づいて分離してそれぞれ加算回路23a、23bに出力する。加算回路23a、23bではそれぞれ、アンパッキング回路22からの和信号ch(L+R)及び差信号ch(L−R)の今回の予測残差データと、予測器(24a−1〜24a−n)、(24b−1〜24b−n)の内、予測器選択フラグにより選択された各1つにより予測された前回の予測値が加算されて今回の予測値が算出される。この今回の予測値は、図2に示す差分回路11a、11bによりそれぞれ算出された差分Δ(L+R)、Δ(L−R)すなわちDPCMデータであり、予測器(24a−1〜24a−n)、(24b−1〜24b−n)と累積演算回路25a、25bに印加される。   The unpacking circuit 22 separates the prediction residual data strings of the sum signal ch (L + R) and the difference signal ch (LR) based on each bit number flag, and outputs them to the adder circuits 23a and 23b, respectively. In addition circuits 23a and 23b, current prediction residual data of sum signal ch (L + R) and difference signal ch (LR) from unpacking circuit 22, and predictors (24a-1 to 24a-n), Of the (24b-1 to 24b-n), the previous predicted value predicted by each one selected by the predictor selection flag is added to calculate the current predicted value. The current predicted values are the differences Δ (L + R) and Δ (LR) calculated by the difference circuits 11a and 11b shown in FIG. 2, that is, DPCM data, and predictors (24a-1 to 24a-n). , (24b-1 to 24b-n) and the cumulative calculation circuits 25a and 25b.

累積演算回路25a、25bはそれぞれ、1フレームの先頭サンプル値に対して差分Δ(L+R)、Δ(L−R)をサンプル毎に累積加算して和信号ch(L+R)、差信号ch(L−R)の各PCMデータを出力する。この和信号(L+R)、差信号(L−R)は図1に示すように加算回路4aにより2L信号が算出されるとともに、減算回路4bにより2R信号が算出される。そして、2L信号と2R信号がそれぞれ割り算器5a、5bにより1/2に割り算され、元のステレオ2チャネル信号L、Rが復元される。   The cumulative calculation circuits 25a and 25b respectively add the differences Δ (L + R) and Δ (LR) for each sample with respect to the first sample value of one frame, and add the sum signal ch (L + R) and difference signal ch (L -R) of each PCM data is output. As for the sum signal (L + R) and the difference signal (LR), a 2L signal is calculated by the adder circuit 4a and a 2R signal is calculated by the subtractor circuit 4b as shown in FIG. Then, the 2L signal and the 2R signal are respectively divided by 1/2 by the dividers 5a and 5b, and the original stereo two-channel signals L and R are restored.

次に図7、図8を参照して第2の形態について説明する。上記の形態では、和信号(L+R)、差信号(L−R)の各差分Δ(L+R)、Δ(L−R)、すなわちDPCMデータのみを予測符号化するように構成されているが、この第2の形態では和信号(L+R)、差信号(L−R)すなわちPCMデータ、又はその各差分Δ(L+R)、Δ(L−R)すなわちDPCMデータを選択的に予測符号化するように構成されている。   Next, a 2nd form is demonstrated with reference to FIG. 7, FIG. In the above embodiment, each difference Δ (L + R) and Δ (LR) of the sum signal (L + R) and the difference signal (LR), that is, the DPCM data is configured to be predictively encoded. In the second embodiment, the sum signal (L + R), the difference signal (LR), that is, PCM data, or each difference Δ (L + R), Δ (LR), that is, DPCM data is selectively predictively encoded. It is configured.

このため図7に示す符号化装置では、図2に示す構成に対して和信号(L+R)、差信号(L−R)をそれぞれ予測符号化するための予測回路15A、15Sとバッファ・選択器16A、16Sが追加されている。また、選択信号生成器17はバッファ・選択器16A、16Sによりそれぞれ選択された和信号(L+R)、差信号(L−R)と、バッファ・選択器16D1、16D2によりそれぞれ選択された差分Δ(L+R)、Δ(L−R)の各予測残差の最小値に基づいて、PCMデータとDPCMデータのどちらが圧縮率が高いか否かを判断し、高い方のデータを選択する。このとき、そのPCM/DPCMの選択フラグ(予測回路選択フラグ)を追加して多重化する。   Therefore, in the encoding device shown in FIG. 7, prediction circuits 15A and 15S and a buffer / selector for predictively encoding the sum signal (L + R) and the difference signal (LR) with respect to the configuration shown in FIG. 16A and 16S are added. In addition, the selection signal generator 17 includes a sum signal (L + R) and a difference signal (LR) selected by the buffers / selectors 16A and 16S, and a difference Δ (respectively selected by the buffers / selectors 16D1 and 16D2. Based on the minimum value of each prediction residual of (L + R) and Δ (LR), it is determined which of the PCM data and DPCM data has the higher compression rate, and the higher data is selected. At this time, the PCM / DPCM selection flag (prediction circuit selection flag) is added and multiplexed.

ここで、図7に示す和信号(L+R)の予測回路15Aと差分Δ(L+R)の予測回路15D1が同一の構成であり、また、差信号(L−R)の予測回路15Sと差分Δ(L−R)の予測回路15D2が同一の構成である場合、復号装置では図8に示すようにPCMデータとDPCMデータの両方の予測回路を設ける必要はなく、1つのデータ分の予測回路でよい。そして、符号化装置から伝送された予測回路選択フラグに基づいてセレクタ26a、26bにより、DPCMデータの場合には累積演算回路25a、25bの出力を選択し、PCMデータの場合には加算回路23a、23bの出力を選択する。   Here, the prediction circuit 15A for the sum signal (L + R) and the prediction circuit 15D1 for the difference Δ (L + R) shown in FIG. 7 have the same configuration, and the difference Δ (L−R) is different from the prediction circuit 15S. LR) prediction circuit 15D2 has the same configuration, the decoding apparatus does not need to provide both PCM data and DPCM data prediction circuits as shown in FIG. . Based on the prediction circuit selection flag transmitted from the encoding device, the selectors 26a and 26b select the outputs of the cumulative arithmetic circuits 25a and 25b in the case of DPCM data, and in the case of PCM data, the addition circuit 23a, Select the output of 23b.

第3の形態では図9に示すように、原信号L、R(PCMデータ)と、和信号(L+R)、差信号(L−R)(PCMデータ)と、その各差分Δ(L+R)、Δ(L−R)(DPCMデータ)の3グループの1つを選択的に予測符号化するように構成されている。   In the third embodiment, as shown in FIG. 9, the original signals L and R (PCM data), the sum signal (L + R), the difference signal (LR) (PCM data), and their respective differences Δ (L + R), One of the three groups of Δ (LR) (DPCM data) is selectively predictively encoded.

このため図9に示す符号化装置では、図7に示す構成に対して原信号L、Rをそれぞれ予測符号化するための予測回路15L、15Rとバッファ・選択器16L、16Rが追加されている。また、選択信号生成器17はバッファ・選択器16L、16Rにより選択された原信号L、Rと、バッファ・選択器16A、16Sにより選択された和信号(L+R)、差信号(L−R)と、バッファ・選択器16D1、16D2により選択された各差分Δ(L+R)、Δ(L−R)の各予測残差の最小値に基づいて圧縮率が高いグループのデータを選択する。このとき、その選択フラグ(予測回路選択フラグ)を追加して多重化する。   For this reason, in the encoding apparatus shown in FIG. 9, prediction circuits 15L and 15R and buffer / selectors 16L and 16R for predictively encoding the original signals L and R, respectively, are added to the configuration shown in FIG. . The selection signal generator 17 includes the original signals L and R selected by the buffers and selectors 16L and 16R, the sum signal (L + R) and the difference signal (LR) selected by the buffers and selectors 16A and 16S. Then, a group of data with a high compression ratio is selected based on the minimum value of the prediction residuals of the differences Δ (L + R) and Δ (LR) selected by the buffer / selectors 16D1 and 16D2. At this time, the selection flag (prediction circuit selection flag) is added and multiplexed.

また、図9に示す3グループの予測回路が同一の構成である場合、復号装置では図10に示すように3グループ分の予測回路を設ける必要はなく、1つのグループ分の予測回路でよい。そして、符号化装置から伝送された予測回路選択フラグに基づいて、DPCMデータの場合には累積演算回路25a、25bの出力を選択し、PCMデータの場合には加算回路23a、23bの出力を選択してチャネル相関回路Bにより原信号L、Rを復元する。そして、更にセレクタ27a、27bにより原信号L、Rのグループの場合には加算回路23a、23bの出力を選択し、他の場合にはチャネル相関回路Bの出力を選択する   In addition, when the three groups of prediction circuits shown in FIG. 9 have the same configuration, the decoding apparatus does not need to provide prediction circuits for three groups as shown in FIG. Based on the prediction circuit selection flag transmitted from the encoding device, the output of the cumulative arithmetic circuits 25a and 25b is selected in the case of DPCM data, and the output of the adder circuits 23a and 23b is selected in the case of PCM data. Then, the original signals L and R are restored by the channel correlation circuit B. Further, the outputs of the adder circuits 23a and 23b are selected by the selectors 27a and 27b in the case of the group of the original signals L and R, and the output of the channel correlation circuit B is selected in the other cases.

また、符号化側により予測符号化された可変レートビットストリームデータをネットワークを介して伝送する場合には、符号化側では図11に示すように伝送用にパケット化し(ステップS41)、次いでパケットヘッダを付与し(ステップS42)、次いでこのパケットをネットワーク上に送り出す(ステップS43)。復号側では図12に示すようにヘッダを除去し(ステップS51)、次いでデータを復元し(ステップS52)、次いでこのデータをメモリに格納して復号を待つ(ステップS53)。   Also, when variable rate bitstream data predictively encoded by the encoding side is transmitted via the network, the encoding side packetizes it for transmission as shown in FIG. 11 (step S41), and then packet header (Step S42), and then the packet is sent out on the network (step S43). As shown in FIG. 12, the decoding side removes the header (step S51), then restores the data (step S52), then stores this data in the memory and waits for decoding (step S53).

図5に示す圧縮PCM(PPCM)のオーディオ(A)パケットの図3と異なる態様を図13に示す。この異なる態様では、圧縮PCM(PPCM)のオーディオ(A)パケットにおけるオーディオデータエリアは、図13に示すように複数のPPCMアクセスユニットにより構成され、PPCMアクセスユニットはPPCMシンク情報とサブパケットにより構成されている。最初のPPCMアクセスユニット内のサブパケットは、ディレクトリと、ビットトリームBS0と、CRCと、エクストラ情報により構成され、ビットストリームBS0はPPCMブロックのみにより構成されている。2番目以降のPPCMアクセスユニット内のサブパケットは、ディレクトリを除いてビットストリームBS0と、CRCと、エクストラ情報により構成され、フレーム先頭のサブストリームBS0はリスタ
ートヘッダとPPCMブロック(フレーム先頭サンプル値を含む)により構成されている。
FIG. 13 shows an aspect different from FIG. 3 of the audio (A) packet of the compressed PCM (PPCM) shown in FIG. In this different mode, the audio data area in the compressed PCM (PPCM) audio (A) packet is composed of a plurality of PPCM access units as shown in FIG. 13, and the PPCM access unit is composed of PPCM sync information and subpackets. ing. The subpacket in the first PPCM access unit is composed of a directory, a bitstream BS0, CRC, and extra information, and the bitstream BS0 is composed only of PPCM blocks. Sub-packets in the second and subsequent PPCM access units are composed of a bit stream BS0, CRC, and extra information except for the directory. The sub-stream BS0 at the head of the frame has a restart header and a PPCM block (frame head sample value). Included).

PPCMシンク情報(以下、同期情報ともいう)は次の情報を含む。
・1パケット当たりのサンプル数:サンプリング周波数fsに応じて40、80又は160が選択される。
・データレート:VBRの場合には「0」(サブパケット内のデータが圧縮データであることを示す識別子)
・サンプリング周波数fs及び量子化ビット数Qb
・チャネル割り当て情報
リスタートヘッダはフレーム毎にチャネル相関回路A(加算回路と減算回路を有すること)を明記した情報を有している。図13に示したフォーマットの可変レートビットストリームデータは、図6のデマルチプレクサ21以下の構成からなるデコーダ3D1、3D2により元の2チャネルオーディオ信号に復号される。
The PPCM sync information (hereinafter also referred to as synchronization information) includes the following information.
-Number of samples per packet: 40, 80 or 160 is selected according to the sampling frequency fs.
Data rate: “0” in the case of VBR (an identifier indicating that the data in the subpacket is compressed data)
-Sampling frequency fs and number of quantization bits Qb
Channel allocation information The restart header has information specifying the channel correlation circuit A (having an addition circuit and a subtraction circuit) for each frame. The variable rate bit stream data in the format shown in FIG. 13 is decoded into the original 2-channel audio signal by the decoders 3D1 and 3D2 having the configuration below the demultiplexer 21 in FIG.

図14は、本発明に係る音声符号化装置及び音声復号装置の第2の形態を示すブロック図である。図14に示すチャネル相関回路A−1は加算回路1aと減算回路1bを有する。加算回路1aはステレオ2ch信号L、Rの和信号(L+R)を算出し、この和信号(L+R)を割り算器5aにより1/2に割り算してから、ロスレス・エンコーダ2Dに出力し、減算回路1bは差信号(L−R)を算出し、この差信号(L−R)を割り算器5bにより1/2に割り算してから、ロスレス・エンコーダ2Dに出力する。ロスレス・エンコーダ2Dは、1/2(L+R)と1/2(L−R)を用いてこれらを多重化して多重化信号250を作る。多重化信号250はロスレス・デコーダ3Dによりデコードされて、元の1/2(L+R)と1/2(L−R)が得られ、これらが、チャネル相関回路B−1を構成する加算回路4aと減算回路4bにそれぞれ与えられ、出力信号としてステレオ2chのL信号とR信号が得られる。なお、ロスレス・エンコーダ2Dとロスレス・エンコーダ2Dにおける一連の動作である、差分の算出、予測値の算出、最小予測残差の選択、最小予測残差を用いた予測値の算出などは、第1の形態と同様に行われる。図13に示したフォーマットの可変レートビットストリームデータは、図1のチャネル相関回路を用いたか、図14のチャネル相関回路を用いたかを例えばPPCMアクセスユニットのリスタートヘッダに格納した識別子で識別するようにしているので、いずれであっても確実にデコードできる。なお、フレーム毎のロスレス圧縮を例に説明したが、固定ではなく、区間は可変の長さにしてもよい。   FIG. 14 is a block diagram showing a second mode of the speech encoding apparatus and speech decoding apparatus according to the present invention. The channel correlation circuit A-1 shown in FIG. 14 includes an addition circuit 1a and a subtraction circuit 1b. The adder circuit 1a calculates the sum signal (L + R) of the stereo 2ch signals L and R, divides this sum signal (L + R) by ½ by the divider 5a, and then outputs the result to the lossless encoder 2D. 1b calculates a difference signal (LR), divides this difference signal (LR) by 1/2 by a divider 5b, and then outputs it to the lossless encoder 2D. The lossless encoder 2D multiplexes these signals using 1/2 (L + R) and 1/2 (LR) to create a multiplexed signal 250. The multiplexed signal 250 is decoded by the lossless decoder 3D to obtain the original ½ (L + R) and ½ (LR), which are the addition circuit 4a constituting the channel correlation circuit B-1. Are supplied to the subtracting circuit 4b, and stereo 2ch L and R signals are obtained as output signals. Note that a series of operations in the lossless encoder 2D and the lossless encoder 2D includes calculation of a difference, calculation of a prediction value, selection of a minimum prediction residual, calculation of a prediction value using the minimum prediction residual, and the like. This is performed in the same manner as in the above. The variable rate bit stream data in the format shown in FIG. 13 is identified by the identifier stored in the restart header of the PPCM access unit, for example, whether the channel correlation circuit of FIG. 1 or the channel correlation circuit of FIG. 14 is used. Therefore, it can be decoded reliably. In addition, although the lossless compression for every frame was demonstrated to the example, it is not fixed and an area may be made into variable length.

本発明を適用した音声符号化装置とそれに対応する音声復号装置の第1の形態を示すブロック図である。It is a block diagram which shows the 1st form of the audio | voice encoding apparatus to which this invention is applied, and the audio | voice decoding apparatus corresponding to it. 図1のエンコーダを詳しく示すブロック図である。It is a block diagram which shows the encoder of FIG. 1 in detail. 図2のマルチプレクサにより多重化される1フレームのフォーマットを示す説明図である。It is explanatory drawing which shows the format of 1 frame multiplexed by the multiplexer of FIG. DVDのパックのフォーマットを示す説明図である。It is explanatory drawing which shows the format of the pack of DVD. DVDのオーディオパックのフォーマットを示す説明図である。It is explanatory drawing which shows the format of the audio pack of DVD. 図1のデコーダを詳しく示すブロック図である。It is a block diagram which shows the decoder of FIG. 1 in detail. 第2の形態のエンコーダを示すブロック図である。It is a block diagram which shows the encoder of a 2nd form. 第2の形態のデコーダを示すブロック図である。It is a block diagram which shows the decoder of a 2nd form. 第3の形態のエンコーダを示すブロック図である。It is a block diagram which shows the encoder of a 3rd form. 第3の形態のデコーダを示すブロック図である。It is a block diagram which shows the decoder of a 3rd form. 音声伝送方法を示すフローチャートである。It is a flowchart which shows the audio | voice transmission method. 音声伝送方法を示すフローチャートである。It is a flowchart which shows the audio | voice transmission method. 図5に示す圧縮PCM(PPCM)のオーディオ(A)パケットの図3と異なる態様を示すフォーマット説明図である。FIG. 6 is a format explanatory diagram showing a mode different from FIG. 3 of the audio (A) packet of the compressed PCM (PPCM) shown in FIG. 5. 本発明を適用した音声符号化装置とそれに対応した音声復号装置の第2の形態を示すブロック図である。It is a block diagram which shows the 2nd form of the audio | voice encoding apparatus to which this invention is applied, and the audio | voice decoding apparatus corresponding to it.

符号の説明Explanation of symbols

1a、4a 加算回路
1b、4b 減算回路
5a、5b 割り算器
11D1 差分演算回路
11D2 差分演算回路
12a−1〜12a−n 予測器
12b−1〜12b−n 予測器
13a−1〜13a−n,13b−1〜13b−n 減算器
16D1,16D2,16A,16S,16L,16R バッファ・選択器
15A 予測回路
15S 予測回路
15L 予測回路
15R 予測回路
1a, 4a Adder circuit 1b, 4b Subtractor circuit 5a, 5b Divider 11D1 Difference operation circuit 11D2 Difference operation circuit 12a-1 to 12a-n Predictor 12b-1 to 12b-n Predictor 13a-1 to 13a-n, 13b -1 to 13b-n Subtractor 16D1, 16D2, 16A, 16S, 16L, 16R Buffer / selector 15A Prediction circuit 15S Prediction circuit 15L Prediction circuit 15R Prediction circuit

Claims (2)

ステレオ2チャネルの音声信号を、そのままのチャネル又は互いに相関をとったチャネル毎に、入力される音声信号に応答して先頭サンプル値を所定時間のフレーム単位で得ると共に、特性が異なる複数の線形予測方法により時間領域の過去から現在の信号の線形予測値がそれぞれ予測され、その予測される線形予測値と前記音声信号とから得られる予測残差が最小となるような線形予測方法を、前記フレームを更に分割したサブフレーム単位に選択して予測符号化するステップと、
ヘッダ情報と、圧縮PCMアクセスユニットを含むユーザデータと、を含んだデータ構造にすると共に、前記圧縮PCMアクセスユニットは前記サブフレーム毎に設けられ、前記ステップにより選択されたサブフレーム毎の各チャネルの予測残差と線形予測方法を含む予測符号化データを、前記圧縮PCMアクセスユニット内に配置されるサブパケットに前記音声信号のサンプリング周波数に応じたサンプル数により格納すると共に前記予測残差をビット情報に基づいたビット数でパッキングして格納し、前記圧縮PCMアクセスユニットが前記フレーム中の先頭のものである場合には、さらに、前記先頭サンプル値を収納するステップと,
からなる音声符号化方法。
A stereo two-channel audio signal is obtained for each channel as it is or in correlation with each other , and a head sample value is obtained in units of frames for a predetermined time in response to the input audio signal, and a plurality of linear predictions having different characteristics A linear prediction method in which a linear prediction value of a current signal is predicted from the past in the time domain by the method, and a prediction residual obtained from the predicted linear prediction value and the speech signal is minimized. Selecting for each subframe unit further divided and predictively encoding;
The data structure includes header information and user data including a compressed PCM access unit, and the compressed PCM access unit is provided for each subframe, and each channel for each subframe selected in the step is selected. Predictive encoded data including a prediction residual and a linear prediction method is stored in a subpacket arranged in the compressed PCM access unit according to the number of samples corresponding to the sampling frequency of the audio signal, and the prediction residual is bit information Packing the number of bits based on the number of bits and storing the head sample value if the compressed PCM access unit is at the head of the frame; and
A speech encoding method comprising:
請求項1記載の音声符号化方法により符号化されたデータから元の音声信号を復号する音声復号方法であって、
前記ユーザデータから圧縮PCMアクセスユニットを抽出するステップと、
前記圧縮PCMアクセスユニットから前記先頭サンプル値と、サンプリング周波数に応じたサンプル数の予測残差および線形予測方法を含むサブフレーム単位の予測符号化データとを取り出すステップと、
前記予測残差をビット情報に基づいたビット数で復号し、この復号した予測残差と前記先頭サンプル値と線形予測方法とに基づいて予測値を算出するステップと、
この算出された予測値から元の音声信号を復元するステップと、
からなる音声復号方法。
A speech decoding method for decoding an original speech signal from data encoded by the speech encoding method according to claim 1,
Extracting a compressed PCM access unit from the user data;
Retrieving the head sample value from the compressed PCM access unit and prediction encoded data in subframe units including a prediction residual of the number of samples according to a sampling frequency and a linear prediction method;
Decoding the prediction residual with the number of bits based on bit information, and calculating a prediction value based on the decoded prediction residual, the leading sample value, and a linear prediction method;
And restoring the original audio signal from the calculated prediction value,
A speech decoding method comprising:
JP2005052789A 1998-10-13 2005-02-28 Speech encoding method and speech decoding method Expired - Lifetime JP3856328B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005052789A JP3856328B2 (en) 1998-10-13 2005-02-28 Speech encoding method and speech decoding method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP30634998 1998-10-13
JP34235298 1998-11-16
JP2005052789A JP3856328B2 (en) 1998-10-13 2005-02-28 Speech encoding method and speech decoding method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2004243783A Division JP3856323B2 (en) 1998-10-13 2004-08-24 Audio signal transmission method, audio signal decoding method, and audio encoding method

Publications (2)

Publication Number Publication Date
JP2005208668A JP2005208668A (en) 2005-08-04
JP3856328B2 true JP3856328B2 (en) 2006-12-13

Family

ID=34915992

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005052789A Expired - Lifetime JP3856328B2 (en) 1998-10-13 2005-02-28 Speech encoding method and speech decoding method

Country Status (1)

Country Link
JP (1) JP3856328B2 (en)

Also Published As

Publication number Publication date
JP2005208668A (en) 2005-08-04

Similar Documents

Publication Publication Date Title
JP4367450B2 (en) Audio signal transmission method and audio signal decoding method
JP3865257B2 (en) Speech encoding method and speech decoding method
JP4367455B2 (en) Audio signal transmission method and audio signal decoding method
JP3856328B2 (en) Speech encoding method and speech decoding method
JP3856334B2 (en) Speech encoding method and speech decoding method
JP3856329B2 (en) Speech encoding method and speech decoding method
JP3864984B2 (en) Speech encoding method and speech decoding method
JP3856326B2 (en) Speech encoding method and speech decoding method
JP3865255B2 (en) Speech encoding method and speech decoding method
JP3865258B2 (en) Speech encoding method and speech decoding method
JP3856333B2 (en) Speech encoding method and speech decoding method
JP3865256B2 (en) Speech encoding method and speech decoding method
JP3856332B2 (en) Speech encoding method and speech decoding method
JP3864985B2 (en) Speech encoding method and speech decoding method
JP3856327B2 (en) Speech encoding method and speech decoding method
JP3865254B2 (en) Speech encoding method and speech decoding method
JP3856331B2 (en) Speech encoding method and speech decoding method
JP3856325B2 (en) Speech encoding method and speech decoding method
JP3856330B2 (en) Speech encoding method and speech decoding method
JP3865253B2 (en) Speech encoding method and speech decoding method
JP4151027B2 (en) Speech encoding method and speech decoding method
JP4367449B2 (en) Audio signal transmission method and audio signal decoding method
JP4367451B2 (en) Audio signal transmission method and audio signal decoding method
JP4244222B2 (en) Speech encoding method and speech decoding method
JP4151031B2 (en) Speech encoding method and speech decoding method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050930

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20060302

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20060323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060825

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060907

R151 Written notification of patent or utility model registration

Ref document number: 3856328

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130922

Year of fee payment: 7

EXPY Cancellation because of completion of term