JP4305868B2 - Speech encoding method and speech decoding method - Google Patents

Speech encoding method and speech decoding method Download PDF

Info

Publication number
JP4305868B2
JP4305868B2 JP2005236429A JP2005236429A JP4305868B2 JP 4305868 B2 JP4305868 B2 JP 4305868B2 JP 2005236429 A JP2005236429 A JP 2005236429A JP 2005236429 A JP2005236429 A JP 2005236429A JP 4305868 B2 JP4305868 B2 JP 4305868B2
Authority
JP
Japan
Prior art keywords
data
decoding
prediction
channel
compressed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005236429A
Other languages
Japanese (ja)
Other versions
JP2005326895A (en
Inventor
美昭 田中
昭治 植野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2005236429A priority Critical patent/JP4305868B2/en
Publication of JP2005326895A publication Critical patent/JP2005326895A/en
Application granted granted Critical
Publication of JP4305868B2 publication Critical patent/JP4305868B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Description

本発明は、マルチチャネルの音声信号を可変長で圧縮するための音声符号化方法及び音
声復号方法に関する。
The present invention relates to a speech encoding method and speech decoding method for compressing a multi-channel speech signal with a variable length.

音声信号を可変長で圧縮する方法として、本発明者は先の出願(特願平9−289159号)において1チャネルの原デジタル音声信号に対して、特性が異なる複数の予測器により時間領域における過去の信号から現在の信号の複数の線形予測値を算出し、原デジタル音声信号と、この複数の線形予測値から予測器毎の予測残差を算出、予測残差の最小値を選択する予測符号化方法を提案している。   As a method of compressing an audio signal with a variable length, the present inventor, in the previous application (Japanese Patent Application No. 9-289159), uses a plurality of predictors having different characteristics in the time domain for a single channel original digital audio signal. Prediction that calculates multiple linear prediction values of current signal from past signal, calculates prediction residual for each predictor from original digital audio signal and multiple linear prediction values, and selects the minimum value of prediction residual An encoding method is proposed.

なお、上記方法では原デジタル音声信号がサンプリング周波数=96kHz、量子化ビット数=20ビット程度の場合にある程度の圧縮効果を得ることができるが、近年のDVDオーディオディスクではこの2倍のサンプリング周波数(=192kHz)が使用され、また、量子化ビット数も24ビットが使用される傾向があるので、圧縮率を改善する必要がある。また、マルチチャネルにおけるサンプリング周波数と量子化ビット数はチャネル毎に異なることもある。   In the above method, a certain degree of compression effect can be obtained when the original digital audio signal has a sampling frequency = 96 kHz and the number of quantization bits = 20 bits. However, in recent DVD audio discs, the sampling frequency (twice this ( = 192 kHz) is used, and the number of quantization bits tends to be 24. Therefore, it is necessary to improve the compression rate. In addition, the sampling frequency and the number of quantization bits in multichannel may be different for each channel.

ところで、予測符号化方式のような圧縮方式は圧縮率が可変(VBR:バリアブル・ビット・レート)であるので、マルチチャネルの音声信号を予測符号化するとチャネル毎のデータ量が時間的に大きく変化する。また、このようなデータを伝送する場合には、チャネル毎にパラレルではなくデータストリームとして伝送される。   By the way, since a compression method such as the predictive coding method has a variable compression rate (VBR: variable bit rate), when a multi-channel audio signal is predictively encoded, the amount of data for each channel greatly changes over time. To do. When such data is transmitted, it is transmitted as a data stream instead of parallel for each channel.

したがって、再生側(デコード側)においてこのような可変長のデータストリームをチャネル毎に同期して再生(プレゼンテーション)可能にするためには、入力バッファに蓄積されたデータストリームを読み出してデコーダに出力するためのタイミングを示すデコード時間と、出力バッファに蓄積されたデコード後のデータを読み出してスピーカなどに出力(プレゼンテーション)するためのタイミングを示す再生時間を管理しなければならない。また、再生側でこのような可変長のデータストリームをサーチ再生するための時間を管理しなければならない。   Therefore, in order to enable reproduction (presentation) of such a variable length data stream in synchronization with each channel on the reproduction side (decoding side), the data stream stored in the input buffer is read and output to the decoder. Therefore, it is necessary to manage the decoding time indicating the timing for the output and the reproduction time indicating the timing for reading the decoded data accumulated in the output buffer and outputting (presenting) the data to a speaker or the like. Further, the playback side must manage the time for searching and playing back such a variable length data stream.

そこで本発明は、マルチチャネルの音声信号を可変の圧縮率で符号化する場合に再生側の処理時間を管理することができる音声符号化方法及び音声復号方法を提供することを目的とする。   Accordingly, an object of the present invention is to provide a speech encoding method and speech decoding method capable of managing the processing time on the playback side when a multi-channel speech signal is encoded with a variable compression rate.

本発明は上記目的を達成するために、以下の1)及び2)に記載の手段よりなる。   In order to achieve the above object, the present invention comprises the following means 1) and 2).

1)複数のチャネルの音声信号をそのままのチャネル又は互いに相関をとったチャネル毎に入力される音声信号に応答して、先頭サンプル値を得ると共に、特性が異なる複数の線形予測方法により時間領域の過去から現在の信号の線形予測値がそれぞれ予測され、その予測される線形予測値と前記音声信号とから得られる予測残差が最小となるような線形予測方法を選択して予測符号化するステップと、
前記選択された各チャネルの線形予測方法と予測残差と所定の先頭サンプル値とを含む前記予測符号化データをパッキングする場合、前記予測残差をビット数情報に基づいたビット数でパッキングするステップと、
前記パッキングされた圧縮データの量に応じて、復号側の入力バッファ内の圧縮データを読み出すタイミングを示すデコーディング・タイム・スタンプ情報を生成するステップと、
前記デコーディング・タイム・スタンプ情報を含むパケットヘッダと、前記音声信号のUPC/EAN番号及びISRCデータを含む圧縮PCMプライベートヘッダと、前記圧縮データを含む圧縮PCMアクセスユニットと、を含むユーザデータを有するパケットにフォーマット化するステップと、
からなる音声符号化方法。
2)請求項1記載の音声符号化方法により符号化されたデータから元の前記複数のチャネルの音声信号を復号する音声復号方法であって、
前記圧縮PCMプライベートヘッダ内に配置するUPC/EAN番号及びISRCデータをデコードするステップと、
前記格納されたサブパケットを前記デコーディング・タイム・スタンプ情報に基づいてデコードして圧縮PCMアクセスユニットを分離するステップと、
前記分離された圧縮PCMアクセスユニット内の圧縮データの予測残差をビット情報に基づいたビット数で復号し、この復号した予測残差と前記先頭サンプル値と線形予測方法とに基づいて予測値をチャネル毎に算出するステップと、
前記算出された予測値から元の前記複数のチャネルの音声信号を復元するステップと、
からなる音声復号方法。
1) in response to audio signals of a plurality of channels to the exact channel or audio signal inputted to each channel taken mutually correlated, with obtaining the top sampled values, characteristics in the time domain by a plurality of different linear prediction methods A step of selecting and predicting a linear prediction method that predicts a linear prediction value of a current signal from the past and minimizes a prediction residual obtained from the predicted linear prediction value and the speech signal. When,
Packing the prediction residual with the number of bits based on the number-of-bits information when packing the prediction encoded data including the linear prediction method, the prediction residual, and a predetermined head sample value of each selected channel ; When,
Generating decoding time stamp information indicating timing for reading compressed data in the input buffer on the decoding side according to the amount of the compressed data packed;
User data including a packet header including the decoding time stamp information, a compressed PCM private header including the UPC / EAN number and ISRC data of the voice signal, and a compressed PCM access unit including the compressed data. Formatting into packets;
A speech encoding method comprising:
2) A speech decoding method for decoding the original speech signals of the plurality of channels from the data encoded by the speech encoding method according to claim 1,
Decoding the UPC / EAN number and ISRC data located in the compressed PCM private header;
Decoding the stored subpackets based on the decoding time stamp information to separate compressed PCM access units;
The prediction residual of the compressed data in the separated compressed PCM access unit is decoded with the number of bits based on bit information, and the prediction value is calculated based on the decoded prediction residual, the head sample value, and the linear prediction method. Calculating for each channel ;
Restoring the original audio signals of the plurality of channels from the calculated predicted values;
A speech decoding method comprising:

以上説明したように本発明によれば、圧縮データを読み出すタイミングを示すデコーディング・タイム・スタンプ情報をパケットヘッダにいれたので、複数チャネルの音声信号を可変の圧縮率で符号化する場合に再生側がサーチ再生することができる。   As described above, according to the present invention, the decoding time stamp information indicating the timing for reading the compressed data is included in the packet header, so that reproduction is performed when a multi-channel audio signal is encoded with a variable compression rate. The side can perform search playback.

以下、図面を参照して本発明の実施の形態を説明する。図1は本発明が適用される声符
号化装置とそれに対応する音声復号装置の第1の実施形態を示すブロック図、図2は図1
の符号化部を詳しく示すブロック図、図3は図1、図2の符号化部により符号化されたビ
ットストリームを示す説明図、図4はDVDのパックのフォーマットを示す説明図、図5
はDVDのオーディオパックのフォーマットを示す説明図、図6は図1の復号化部を詳し
く示すブロック図、図7は図6の入力バッファの書き込み/読み出しタイミングを示すタ
イミングチャート、図8はアクセスユニット毎の圧縮データ量を示す説明図、図9はアク
セスユニットとプレゼンテーションユニットを示す説明図である。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing a first embodiment of a voice encoding apparatus to which the present invention is applied and a corresponding voice decoding apparatus. FIG.
FIG. 3 is an explanatory diagram showing a bit stream encoded by the encoding unit shown in FIGS. 1 and 2, FIG. 4 is an explanatory diagram showing a format of a DVD pack, and FIG.
Is an explanatory diagram showing the format of a DVD audio pack, FIG. 6 is a block diagram showing in detail the decoding unit of FIG. 1, FIG. 7 is a timing chart showing write / read timing of the input buffer of FIG. 6, and FIG. FIG. 9 is an explanatory diagram showing an access unit and a presentation unit.

ここで、マルチチャネル方式としては、例えば次の4つの方式が知られている。
(1)4チャネル方式 ドルビーサラウンド方式のように、前方L、C、Rの3チャネル+後方Sの1チャネルの合計4チャネル
(2)5チャネル方式 ドルビーAC−3方式のSWチャネルなしのように、前方L、C、Rの3チャネル+後方SL、SRの2チャネルの合計5チャネル
(3)6チャネル方式 DTS(Digital Theater System)方式や、ドルビーAC−3方式のように6チャネル(L、C、R、SW(Lfe)、SL、SR)
(4)8チャネル方式 SDDS(Sony Dynamic Digital Sound)方式のように、前方L、LC、C、RC、R、SWの6チャネル+後方SL、SRの2チャネルの合計8チャネル
図1に示す符号化側の6チャネル(ch)ミクス&マトリクス回路1’は、マルチチャネル信号の一例としてフロントレフト(Lf)、センタ(C)、フロントライト(Rf)、サラウンドレフト(Ls)、サラウンドライト(Rs)及びLfe(Low Frequency Effect)の6chのPCMデータを次式(1)により前方グループに関する2ch「1」、「2」と他のグループに関する4ch「3」〜「6」に分類して変換し、2ch「1」、「2」を第1符号化部2’−1に、また、4ch「3」〜「6」を第2符号化部2’−2に出力する。
Here, as the multi-channel method, for example, the following four methods are known.
(1) 4-channel system Like the Dolby Surround system, a total of 4 channels of 3 channels for the front L, C, and R + 1 channel for the rear S (2) 5 channels system Like no Dolby AC-3 system SW channel , Front L, C, R 3 channels + rear SL, SR 2 channels in total 5 channels (3) 6 channel system 6 channels (L, L, DTS (Digital Theater System) system and Dolby AC-3 system C, R, SW (Lfe), SL, SR)
(4) 8-channel system Like the SDDS (Sony Dynamic Digital Sound) system, a total of 8 channels including 6 channels of forward L, LC, C, RC, R, and SW + 2 channels of backward SL and SR The 6-channel (ch) mix-and-matrix circuit 1 'on the control side includes, as an example of a multi-channel signal, front left (Lf), center (C), front right (Rf), surround left (Ls), and surround right (Rs) And Lfe (Low Frequency Effect) 6ch PCM data is classified and converted into 2ch “1” and “2” related to the front group and 4ch “3” to “6” related to the other group according to the following equation (1): 2ch “1” and “2” are output to the first encoding unit 2′-1, and 4ch “3” to “6” are output to the second encoding unit 2′-2.

「1」=Lf+Rf
「2」=Lf−Rf
「3」=C−(Ls+Rs)/2
「4」=Ls+Rs
「5」=Ls−Rs
「6」=Lfe−a×C
ただし、0≦a≦1 …(1)
符号化部2’を構成する第1及び第2符号化部2’−1、2’−2はそれぞれ、図2に詳しく示すように2ch「1」、「2」と4ch「3」〜「6」のPCMデータを予測符号化し、予測符号化データを図3に示すようなビットストリームで記録媒体5や通信媒体6を介して復号側に伝送する。復号側では復号化部3’を構成する第1及び第2復号化部3’−1、3’−2により、図6に詳しく示すようにそれぞれ前方グループに関する2ch「1」、「2」と他のグループに関する4ch「3」〜「6」の予測符号化データをPCMデータに復号する。
“1” = Lf + Rf
“2” = Lf−Rf
“3” = C− (Ls + Rs) / 2
“4” = Ls + Rs
“5” = Ls−Rs
“6” = Lfe−a × C
However, 0 ≦ a ≦ 1 (1)
As shown in detail in FIG. 2, the first and second encoding units 2′-1, 2′-2 constituting the encoding unit 2 ′ are respectively 2ch “1”, “2” and 4ch “3” to “3” to “3” to “3”. The PCM data of “6” is predictively encoded, and the predictive encoded data is transmitted to the decoding side via the recording medium 5 and the communication medium 6 in a bit stream as shown in FIG. On the decoding side, the first and second decoding units 3′-1 and 3′-2 constituting the decoding unit 3 ′ perform 2ch “1” and “2” respectively related to the front group as shown in detail in FIG. The predictive encoded data of 4ch “3” to “6” related to other groups is decoded into PCM data.

次いでミクス&マトリクス回路4’により式(1)に基づいて元の6ch(Lf、C、Rf、Ls、Rs、Lfe)を復元するとともに、この元の6chと係数mij(i=1,2,j=1,2〜6)により次式(2)のようにステレオ2chデータ(L、R)を生成する。   Next, the original 6ch (Lf, C, Rf, Ls, Rs, Lfe) is restored by the mix & matrix circuit 4 ′ based on the equation (1), and the original 6ch and the coefficient mij (i = 1, 2, j = 1, 2 to 6), stereo 2ch data (L, R) is generated as in the following equation (2).

L=m11・Lf+m12・Rf+m13・C
+m14・Ls+m15・Rs+m16・Lfe
R=m21・Lf+m22・Rf+m23・C
+m24・Ls+m25・Rs+m26・Lfe …(2)
図2を参照して符号化部2’−1、2’−2について詳しく説明する。各ch「1」〜「6」のPCMデータは1フレーム毎に1フレームバッファ10に格納される。そして、1フレームの各ch「1」〜「6」のサンプルデータがそれぞれ予測回路13D1、13D2、15D1〜15D4に印加されるとともに、各ch「1」〜「6」の各フレームの先頭サンプルデータがフォーマット化回路19に印加される。予測回路13D1、13D2、15D1〜15D4はそれぞれ、各ch「1」〜「6」のPCMデータに対して、特性が異なる複数の予測器(不図示)により時間領域における過去の信号から現在の信号の複数の線形予測値を算出し、次いで原PCMデータと、この複数の線形予測値から予測器毎の予測残差を算出する。続くバッファ・選択器14D1、14D2、16D1〜16D4はそれぞれ、予測回路13D1、13D2、15D1〜15D4により算出された各予測残差を一時記憶して、選択信号/DTS(デコーディング・タイム・スタンプ)生成器17により指定されたサブフレーム毎に予測残差の最小値を選択する。
L = m11 · Lf + m12 · Rf + m13 · C
+ M14 · Ls + m15 · Rs + m16 · Lfe
R = m21 · Lf + m22 · Rf + m23 · C
+ M24 · Ls + m25 · Rs + m26 · Lfe (2)
The encoding units 2′-1 and 2′-2 will be described in detail with reference to FIG. The PCM data of each channel “1” to “6” is stored in one frame buffer 10 for each frame. The sample data of each channel “1” to “6” of one frame is applied to the prediction circuits 13D1, 13D2, and 15D1 to 15D4, respectively, and the head sample data of each frame of each channel “1” to “6” Is applied to the formatting circuit 19. Each of the prediction circuits 13D1, 13D2, 15D1 to 15D4 outputs a current signal from a past signal in the time domain to a PCM data of each channel “1” to “6” by a plurality of predictors (not shown) having different characteristics. A plurality of linear prediction values are calculated, and then a prediction residual for each predictor is calculated from the original PCM data and the plurality of linear prediction values. The subsequent buffer / selectors 14D1, 14D2, 16D1 to 16D4 temporarily store the prediction residuals calculated by the prediction circuits 13D1, 13D2, and 15D1 to 15D4, respectively, and select signals / DTS (decoding time stamps). The minimum value of the prediction residual is selected for each subframe designated by the generator 17.

選択信号/DTS生成器17は予測残差のビット数フラグをパッキング回路18とフォーマット化回路19に対して印加し、また、予測残差が最小の予測器を示す予測器選択フラグと、式(1)における相関係数aと、復号化側が入力バッファ22a(図6)からストリームデータを取り出す時間を示すDTSをフォーマット化回路19に対して印加する。パッキング回路18はバッファ・選択器14D1、14D2、16D1〜16D4により選択された6ch分の予測残差を、選択信号/DTS生成器17により指定されたビット数フラグに基づいて指定ビット数でパッキングする。またPTS生成器17cは、復号化側が出力バッファ110(図6)からPCMデータを取り出す時間を示すPTS(プレゼンテーション・タイム・スタンプ)を生成してフォーマット化回路19に出力する。   The selection signal / DTS generator 17 applies a bit number flag of the prediction residual to the packing circuit 18 and the formatting circuit 19, and also includes a predictor selection flag indicating a predictor having the smallest prediction residual, and an expression ( The correlation coefficient a in 1) and the DTS indicating the time for the decoding side to extract the stream data from the input buffer 22a (FIG. 6) are applied to the formatting circuit 19. The packing circuit 18 packs the prediction residuals for 6ch selected by the buffers / selectors 14D1, 14D2, 16D1 to 16D4 with the designated number of bits based on the bit number flag designated by the selection signal / DTS generator 17. . The PTS generator 17c generates a PTS (Presentation Time Stamp) indicating the time when the decoding side takes out the PCM data from the output buffer 110 (FIG. 6), and outputs the PTS (Presentation Time Stamp) to the formatting circuit 19.

続くフォーマット化回路19は図3〜図5に示すようなユーザデータにフォーマット化する。図3に示すユーザデータ(サブパケット)は、前方グループに関する2ch「1」、「2」の予測符号化データを含む可変レートビットストリーム(サブストリーム)BS0と、他のグループに関する4ch「3」〜「6」の予測符号化データを含む可変レートビットストリーム(サブストリーム)BS1と、サブストリームBS0、BS1の前に設けられたビットストリームヘッダ(リスタートヘッダ)により構成されている。
また、サブストリームBS0、BS1の1フレーム分は
・フレームヘッダと、
・各ch「1」〜「6」の1フレームの先頭サンプルデータと、
・各ch「1」〜「6」のサブフレーム毎の予測器選択フラグと、
・各ch「1」〜「6」のサブフレーム毎のビット数フラグと、
・各ch「1」〜「6」の予測残差データ列(可変ビット数)と、
・ch「6」の係数a
が多重化されている。このような予測符号化によれば、原信号が例えばサンプリング周波数=96kHz、量子化ビット数=24ビット、6チャネルの場合、71%の圧縮率を実現することができる。
The subsequent formatting circuit 19 formats the user data as shown in FIGS. The user data (subpacket) shown in FIG. 3 includes a variable rate bit stream (substream) BS0 including 2ch “1” and “2” predictive encoded data related to the forward group, and 4ch “3” to “3” related to other groups. It is composed of a variable rate bit stream (substream) BS1 including predictive encoded data of “6” and a bitstream header (restart header) provided before the substreams BS0 and BS1.
Also, one frame of substream BS0, BS1 is a frame header,
・ First sample data of one frame of each channel “1” to “6”,
A predictor selection flag for each subframe of each channel “1” to “6”;
A bit number flag for each subframe of each channel “1” to “6”;
-Predictive residual data string (number of variable bits) of each ch "1" to "6",
・ Ch “6” coefficient a
Are multiplexed. According to such predictive coding, when the original signal is, for example, sampling frequency = 96 kHz, quantization bit number = 24 bits, and 6 channels, a compression rate of 71% can be realized.

図2に示す符号化部2’−1、2’−2により予測符号化された可変レートビットストリームデータを、記録媒体の一例としてDVDオーディオディスクに記録する場合には、図4に示すオーディオ(A)パックにパッキングされる。このパックは2034バイトのユーザデータ(Aパケット、Vパケット)に対して4バイトのパックスタート情報と、6バイトのSCR(System Clock Reference:システム時刻基準参照値)情報と、3バイトのMux レート(rate)情報と1バイトのスタッフィングの合計14バイトのパックヘッダが付加されて構成されている(1パック=合計2048バイト)。この場合、タイムスタンプであるSCR情報を、先頭パックでは「1」として同一タイトル内で連続とすることにより同一タイトル内のAパックの時間を管理することができる。   When the variable rate bit stream data predictively encoded by the encoding units 2′-1, 2′-2 shown in FIG. 2 is recorded on a DVD audio disk as an example of a recording medium, the audio ( A) Packed in a pack. This pack consists of 2034 bytes of user data (A packet, V packet), 4 bytes of pack start information, 6 bytes of SCR (System Clock Reference) information, and 3 bytes of Mux rate ( rate) information and a 1-byte stuffing total 14-byte pack header are added (1 pack = total 2048 bytes). In this case, the time of the A pack in the same title can be managed by setting the SCR information as a time stamp as “1” in the first pack and continuing in the same title.

圧縮PCMのAパケットは図5に詳しく示すように、19又は14バイトのパケットヘッダと、圧縮PCMのプライベートヘッダと、図3に示すフォーマットの1ないし2011バイトのオーディオデータ(圧縮PCM)により構成されている。そして、DTSとPTSは図5のパケットヘッダ内に(具体的にはパケットヘッダの10〜14バイト目にPTSが、15〜19バイト目にDTSが)セットされる。圧縮PCMのプライベートヘッダは、
・1バイトのサブストリームIDと、
・2バイトのUPC/EAN−ISRC(Universal Product Code/European Article Number-International Standard Recording Code)番号、及びUPC/EAN−I
SRCデータと、
・1バイトのプライベートヘッダ長と、
・2バイトの第1アクセスユニットポインタと、
・8バイトのオーディオデータ情報(ADI)と、
・0〜7バイトのスタッフィングバイトとに、
より構成されている。そして、ADI内に1秒後のアクセスユニットをサーチするための前方アクセスユニット・サーチポインタと、1秒前のアクセスユニットをサーチするための後方アクセスユニット・サーチポインタがともに1バイトで(具体的にはADIの7バイト目に前方アクセスユニット・サーチポインタが、8バイト目に後方アクセスユニット・サーチポインタが)セットされる。
As shown in detail in FIG. 5, the compressed PCM A packet is composed of a 19 or 14 byte packet header, a compressed PCM private header, and 1 to 2011 byte audio data (compressed PCM) in the format shown in FIG. ing. The DTS and PTS are set in the packet header of FIG. 5 (specifically, the PTS is in the 10th to 14th bytes of the packet header and the DTS is in the 15th to 19th bytes). The compressed PCM private header is
A 1-byte substream ID,
2-byte UPC / EAN-ISRC (Universal Product Code / European Article Number-International Standard Recording Code) number and UPC / EAN-I
SRC data,
-1 byte private header length,
A 2-byte first access unit pointer;
8 bytes of audio data information (ADI)
・ With stuffing byte of 0-7 bytes,
It is made up of. Both the forward access unit search pointer for searching the access unit after 1 second in the ADI and the backward access unit search pointer for searching for the access unit before 1 second are both 1 byte (specifically, Is set to the 7th byte of the ADI with the forward access unit search pointer and the 8th byte with the backward access unit search pointer.

次に図6を参照して復号化部3’−1、3’−2について説明する。上記フォーマットの可変レートビットストリームデータBS0、BS1は、デフォーマット化回路21により分離される。そして、各ch「1」〜「6」の1フレームの先頭サンプルデータと予測器選択フラグはそれぞれ予測回路24D1、24D2、23D1〜23D4に印加され、各ch「1」〜「6」のビット数フラグはアンパッキング回路22に印加される。また、SCRと、DTSと予測残差データ列は入力バッファ22aに印加され、PTSは出力バッファ110に印加される。ここで、予測回路24D1、24D2、23D1〜23D4内の複数の予測器(不図示)はそれぞれ、符号化側の予測回路13D1、13D2、15D1〜15D4内の複数の予測器と同一の特性であり、予測器選択フラグにより同一特性のものが選択される。   Next, the decoding units 3'-1 and 3'-2 will be described with reference to FIG. The variable rate bit stream data BS0 and BS1 in the above format are separated by the deformatting circuit 21. The first sample data of one frame of each channel “1” to “6” and the predictor selection flag are respectively applied to the prediction circuits 24D1, 24D2, 23D1 to 23D4, and the number of bits of each channel “1” to “6”. The flag is applied to the unpacking circuit 22. The SCR, DTS, and prediction residual data string are applied to the input buffer 22a, and PTS is applied to the output buffer 110. Here, a plurality of predictors (not shown) in the prediction circuits 24D1, 24D2, 23D1 to 23D4 have the same characteristics as the plurality of predictors in the encoding-side prediction circuits 13D1, 13D2, and 15D1 to 15D4, respectively. Those having the same characteristics are selected by the predictor selection flag.

デフォーマット化回路21により分離されたストリームデータ(予測残差データ列)は、図7に示すようにSCRによりアクセスユニット毎に入力バッファ22aに取り込まれて蓄積される。ここで、1つのアクセスユニットのデータ量は、例えばfs=96kHzの場合には(1/96kHz)秒分であるが、図8、図9(a)に詳しく示すように可変長である。そして、入力バッファ22aに蓄積されたストリームデータはDTSに基づいてFIFOで読み出されてアンパッキング回路22に印加される。   The stream data (predicted residual data string) separated by the deformatting circuit 21 is captured and stored in the input buffer 22a for each access unit by the SCR as shown in FIG. Here, the data amount of one access unit is, for example, (1/96 kHz) seconds when fs = 96 kHz, but is variable length as shown in detail in FIGS. 8 and 9A. The stream data stored in the input buffer 22a is read out by the FIFO based on the DTS and applied to the unpacking circuit 22.

アンパッキング回路22は各ch「1」〜「6」の予測残差データ列をビット数フラグ毎に基づいて分離してそれぞれ予測回路24D1、24D2、23D1〜23D4に出力する。予測回路24D1、24D2、23D1〜23D4ではそれぞれ、アンパッキング回路22からの各ch「1」〜「6」の今回の予測残差データと、内部の複数の予測器の内、予測器選択フラグにより選択された各1つにより予測された前回の予測値が加算されて今回の予測値が算出され、次いで1フレームの先頭サンプルデータを基準として各サンプルのPCMデータが算出されて出力バッファ110に蓄積される。出力バッファ110に蓄積されたPCMデータはPTSに基づいて読み出されて出力される。したがって、図9(a)に示す可変長のアクセスユニットが伸長されて、図9(b)に示す一定長のプレ
ゼンテーションユニットが出力される。
The unpacking circuit 22 separates the prediction residual data strings of the channels “1” to “6” based on the bit number flags and outputs them to the prediction circuits 24D1, 24D2, and 23D1 to 23D4, respectively. Each of the prediction circuits 24D1, 24D2, 23D1 to 23D4 uses the current prediction residual data of each channel “1” to “6” from the unpacking circuit 22 and a predictor selection flag among a plurality of internal predictors. The previous prediction value predicted by each selected one is added to calculate the current prediction value, and then the PCM data of each sample is calculated and stored in the output buffer 110 with reference to the first sample data of one frame. Is done. The PCM data stored in the output buffer 110 is read and output based on the PTS. Therefore, the variable-length access unit shown in FIG. 9A is expanded, and the fixed-length presentation unit shown in FIG. 9B is output.

ここで、操作部101を介してサーチ再生が指示された場合には、制御部100により図5に示すADI内に置かれる1秒先を示す前方アクセスユニット・サーチポインタと1秒後を示す後方アクセスユニット・サーチポインタに基づいてアクセスユニットを再生する。このサーチポインタとしては、1秒先、1秒前の代わりに2秒先、2秒前のものでよい。   Here, when search reproduction is instructed via the operation unit 101, the control unit 100 places the forward access unit / search pointer indicating one second ahead placed in the ADI shown in FIG. 5 and the backward indicating one second later. The access unit is reproduced based on the access unit search pointer. This search pointer may be one second ahead and two seconds ahead instead of one second ahead and one second ahead.

図2に示す符号化部2’−1、2’−2により予測符号化された可変レートビットストリームデータをネットワークを介して伝送する場合には、符号化側では図10に示すように伝送用にパケット化し(ステップS41)、次いでパケットヘッダを付与し(ステップS42)、次いでこのパケットをネットワーク上に送り出す(ステップS43)。   When the variable rate bit stream data predictively encoded by the encoding units 2′-1 and 2′-2 shown in FIG. 2 is transmitted via the network, the encoding side uses the transmission unit as shown in FIG. (Step S41), then a packet header is added (step S42), and then the packet is sent out on the network (step S43).

復号側では図11(A)に示すようにヘッダを除去し(ステップS51)、次いでデータを復元し(ステップS52)、次いでこのデータをメモリに格納して復号を待つ(ステップS53)。そして、復号を行う場合には図11(B)に示すように、デフォーマット化を行い(ステップS61)、次いで入力バッファ22aの入出力制御を行い(ステップS62)、次いでアンパッキングを行う(ステップS63)。なお、このとき、サーチ再生指示がある場合にはサーチポインタをデコードする。次いで予測器をフラグに基づいて選択してデコードを行い(ステップS64)、次いで出力バッファ110の入出力制御を行い(ステップS65)、次いで元のマルチチャネルを復元し(ステップS66)、次いでこれを出力し(ステップS67)、以下、これを繰り返す。   As shown in FIG. 11A, the decoding side removes the header (step S51), then restores the data (step S52), then stores this data in the memory and waits for decoding (step S53). When decoding is performed, as shown in FIG. 11B, deformatting is performed (step S61), input / output control of the input buffer 22a is performed (step S62), and then unpacking is performed (step S61). S63). At this time, if there is a search reproduction instruction, the search pointer is decoded. Next, the predictor is selected and decoded based on the flag (step S64), then the input / output control of the output buffer 110 is performed (step S65), and then the original multi-channel is restored (step S66). This is repeated (step S67).

なお、上記実施形態では、前方グループに関する2ch「1」、「2」を
「1」=Lf+Rf
「2」=Lf−Rf
により変換して予測符号化したが、代わりに式(2)によりマルチチャネルをダウンミクスしてステレオ2chデータ(L、R)を生成し、
次いで次式(1)’
「1」=L+R
「2」=L−R
「3」〜「5」は同じ
「6」=Lfe−C …(1)’
により変換して予測符号化するようにしてもよい(第2の実施形態)。この場合には、復号化側のミクス&マトリクス回路4’はチャネル「1」、「2」を加算することによりチャネルLを、減算することによりチャネルRを生成することができる。
In the above embodiment, 2ch “1” and “2” related to the front group are set to “1” = Lf + Rf.
“2” = Lf−Rf
However, instead, the multi-channel is downmixed according to Equation (2) to generate stereo 2ch data (L, R),
Next, the following formula (1) ′
“1” = L + R
“2” = LR
“3” to “5” are the same. “6” = Lfe-C (1) ′
(2nd embodiment). In this case, the decoding-side mix & matrix circuit 4 ′ can generate channel R by adding channels “1” and “2” and subtracting channel L by subtraction.

また、第3の実施形態として図12に示すように、2ch「1」、「2」の代わりに式(2)によりマルチチャネルをダウンミクスしてステレオ2chデータ(L、R)を生成して、このステレオ2ch(L、R)と4ch「3」〜「6」を予測符号化するようにしてもよい。なお、第2、第3の実施形態では、フロントレフト(Lf)とフロントライト(Rf)が復号化側に伝送されないので、復号化側ではこれを式(1)、(2)により生成する。   Also, as shown in FIG. 12 as the third embodiment, stereo 2ch data (L, R) is generated by down-mixing the multi-channel according to equation (2) instead of 2ch “1” and “2”. The stereo 2ch (L, R) and 4ch "3" to "6" may be predictively encoded. In the second and third embodiments, since the front left (Lf) and the front right (Rf) are not transmitted to the decoding side, they are generated by the equations (1) and (2) on the decoding side.

次に図13、図14を参照して第4の実施形態について説明する。上記の実施形態では、1グループの相関性の信号「1」〜「6」を予測符号化するように構成されているが、この第4の実施形態では複数グループの相関性のある信号を生成して予測符号化し、圧縮率が最も高いグループの予測符号化データを選択するように構成されている。このため図13に示す符号化部では、第1〜第nの相関回路1−1〜1−nが設けられ、このn個の相関回路1−1〜1−nは例えば6ch(Lf、C、Rf、Ls、Rs、Lfe)のPCMデータを、相関性が異なるn種類の6ch信号「1」〜「6」に変換する。   Next, a fourth embodiment will be described with reference to FIGS. In the above embodiment, a group of correlated signals “1” to “6” is configured to be predictively encoded. In the fourth embodiment, a plurality of groups of correlated signals are generated. Thus, the prediction coding is performed, and the prediction coding data of the group having the highest compression rate is selected. For this reason, the encoding unit shown in FIG. 13 is provided with first to n-th correlation circuits 1-1 to 1-n, and these n correlation circuits 1-1 to 1-n are, for example, 6ch (Lf, C , Rf, Ls, Rs, Lfe) is converted into n types of 6-channel signals “1” to “6” having different correlations.

例えば第1の相関回路1−1は以下のように変換し、
「1」=Lf
「2」=C−(Ls+Rs)/2
「3」=Rf−Lf
「4」=Ls−a×Lfe
「5」=Rs−b×Rf
「6」=Lfe
また、第nの相関回路1−nは以下のように変換する。
For example, the first correlation circuit 1-1 converts as follows:
“1” = Lf
“2” = C− (Ls + Rs) / 2
“3” = Rf−Lf
“4” = Ls−a × Lfe
“5” = Rs−b × Rf
“6” = Lfe
The n-th correlation circuit 1-n converts as follows.

「1」=Lf+Rf
「2」=C−Lf
「3」=Rf−Lf
「4」=Ls−Lf
「5」=Rs−Lf
「6」=Lfe−C
また、相関回路1−1〜1−n毎に予測回路15とバッファ・選択器16が設けられ、グループ毎の予測残差の最小値のデータ量に基づいて圧縮率が最も高いグループが相関選択信号生成器17bにより選択される。このとき、フォーマット化回路19はその選択フラグ(相関回路選択フラグ、その相関回路の相関係数a、b)を追加して多重化する。
“1” = Lf + Rf
“2” = C−Lf
“3” = Rf−Lf
“4” = Ls−Lf
“5” = Rs−Lf
“6” = Lfe-C
Further, a prediction circuit 15 and a buffer / selector 16 are provided for each of the correlation circuits 1-1 to 1-n, and the group having the highest compression rate is selected based on the data amount of the minimum value of the prediction residual for each group. It is selected by the signal generator 17b. At this time, the formatting circuit 19 adds and multiplexes the selection flag (correlation circuit selection flag, correlation coefficients a and b of the correlation circuit).

また、図14に示す復号化側では、符号化側の相関回路1−1〜1−nに対してn個の相関回路4−1〜4−n(又は係数a、bが変更可能な図示省略の1つの相関回路)が設けられる。なお、図13に示すnグループの予測回路が同一の構成である場合、復号装置では図14に示すようにnグループ分の予測回路を設ける必要はなく、1つのグループ分の予測回路でよい。そして、符号化装置から伝送された選択フラグに基づいて相関回路4−1〜4−nの1つを選択、又は係数a、bを設定して元の6ch(Lf、C、Rf、Ls、Rs、Lfe)を復元し、また、式(2)によりマルチチャネルをダウンミクスしてステレオ2chデータ(L、R)を生成する。   Further, on the decoding side shown in FIG. 14, n correlation circuits 4-1 to 4-n (or coefficients a and b can be changed with respect to the correlation circuits 1-1 to 1-n on the encoding side. One correlation circuit (omitted) is provided. When the n groups of prediction circuits shown in FIG. 13 have the same configuration, the decoding device does not need to have n groups of prediction circuits as shown in FIG. Then, one of the correlation circuits 4-1 to 4-n is selected based on the selection flag transmitted from the encoding device, or the coefficients a and b are set and the original 6ch (Lf, C, Rf, Ls, Rs, Lfe) is restored, and the multi-channel is downmixed according to Equation (2) to generate stereo 2ch data (L, R).

また、上記の第1の実施形態では、1種類の相関性の信号「1」〜「6」を予測符号化するように構成されているが、この信号「1」〜「6」のグループと原信号(Lf、C、Rf、Ls、Rs、Lfe)のグループを予測符号化し、圧縮率が高い方のグループを選択するようにしてもよい。   In the first embodiment described above, one type of correlation signal “1” to “6” is configured to be predictively encoded. The group of signals “1” to “6” A group of original signals (Lf, C, Rf, Ls, Rs, Lfe) may be predictively encoded, and a group with a higher compression rate may be selected.

本発明が適用される音声符号化装置とそれに対応した音声復号装置の第1の実施形態を示すブロック図である。It is a block diagram which shows 1st Embodiment of the audio | voice coding apparatus with which this invention is applied, and the audio | voice decoding apparatus corresponding to it. 図1の符号化部を詳しく示すブロック図である。It is a block diagram which shows the encoding part of FIG. 1 in detail. 図1、図2の符号化部により符号化されたビットストリームを示す説明図である。It is explanatory drawing which shows the bit stream encoded by the encoding part of FIG. 1, FIG. DVDのパックのフォーマットを示す説明図である。It is explanatory drawing which shows the format of the pack of DVD. DVDのオーディオパックのフォーマットを示す説明図である。It is explanatory drawing which shows the format of the audio pack of DVD. 図1の復号化部を詳しく示すブロック図である。It is a block diagram which shows the decoding part of FIG. 1 in detail. 図6の入力バッファの書き込み/読み出しタイミングを示すタイミングチャートである。7 is a timing chart showing write / read timings of the input buffer of FIG. 6. アクセスユニット毎の圧縮データ量を示す説明図である。It is explanatory drawing which shows the compressed data amount for every access unit. アクセスユニットとプレゼンテーションユニットを示す説明図である。It is explanatory drawing which shows an access unit and a presentation unit. 音声伝送方法を示すフローチャートである。It is a flowchart which shows the audio | voice transmission method. 音声伝送方法を示すフローチャートである。It is a flowchart which shows the audio | voice transmission method. 本発明が適用される音声符号化装置とそれに対応した音声復号装置の第3の実施形態を示すブロック図である。It is a block diagram which shows 3rd Embodiment of the audio | voice encoding apparatus with which this invention is applied, and the audio | voice decoding apparatus corresponding to it. 第4の実施形態の音声符号化装置を示すブロック図である。It is a block diagram which shows the audio | voice coding apparatus of 4th Embodiment. 第4の実施形態の音声復号装置を示すブロック図である。It is a block diagram which shows the audio | voice decoding apparatus of 4th Embodiment.

符号の説明Explanation of symbols

1’ 6chミクス&マトリクス回路
13D1,13D2,15D1〜15D4 予測回路(バッファ・選択器14
D1,14D2,16D1〜16D4と共に圧縮手段を構成する。)
14D1,14D2,16D1〜16D4 バッファ・選択器
17 選択信号/DTS生成器(タイミング生成手段)
17c PTS生成器(タイミング生成手段)
19 フォーマット化回路(フォーマット化手段)
21 デフォーマット化回路(分離手段)
22 アンパッキング回路
22a 入力バッファ
24D1,24D2,23D1〜23D4 予測回路(伸長手段)
100 制御部(読み出し手段)
110 出力バッファ
1 '6ch mix & matrix circuit 13D1, 13D2, 15D1-15D4 Prediction circuit (buffer / selector 14)
The compression means is configured together with D1, 14D2, 16D1 to 16D4. )
14D1, 14D2, 16D1 to 16D4 Buffer / selector 17 Selection signal / DTS generator (timing generation means)
17c PTS generator (timing generator)
19 Formatting circuit (formatting means)
21 Deformatting circuit (separation means)
22 Unpacking circuit 22a Input buffer 24D1, 24D2, 23D1 to 23D4 Prediction circuit (expanding means)
100 Control unit (reading means)
110 Output buffer

Claims (2)

複数のチャネルの音声信号をそのままのチャネル又は互いに相関をとったチャネル毎に入力される音声信号に応答して、先頭サンプル値を得ると共に、特性が異なる複数の線形予測方法により時間領域の過去から現在の信号の線形予測値がそれぞれ予測され、その予測される線形予測値と前記音声信号とから得られる予測残差が最小となるような線形予測方法を選択して予測符号化するステップと、
前記選択された各チャネルの線形予測方法と予測残差と所定の先頭サンプル値とを含む前記予測符号化データをパッキングする場合、前記予測残差をビット数情報に基づいたビット数でパッキングするステップと、
前記パッキングされた圧縮データの量に応じて、復号側の入力バッファ内の圧縮データを読み出すタイミングを示すデコーディング・タイム・スタンプ情報を生成するステップと、
前記デコーディング・タイム・スタンプ情報を含むパケットヘッダと、前記音声信号のUPC/EAN番号及びISRCデータを含む圧縮PCMプライベートヘッダと、前記圧縮データを含む圧縮PCMアクセスユニットと、を含むユーザデータを有するパケットにフォーマット化するステップと、
からなる音声符号化方法。
In response to a voice signal inputted audio signals of a plurality of channels each channel taken intact channel or correlated, with obtaining the top sample values by a plurality of linear prediction method different characteristics from the past in the time domain Selecting and predicting a linear prediction method such that a linear prediction value of a current signal is predicted, and a prediction residual obtained from the predicted linear prediction value and the speech signal is minimized;
Packing the prediction residual with the number of bits based on the number-of-bits information when packing the prediction encoded data including the linear prediction method, the prediction residual, and a predetermined head sample value of each selected channel ; When,
Generating decoding time stamp information indicating timing for reading compressed data in the input buffer on the decoding side according to the amount of the compressed data packed;
User data including a packet header including the decoding time stamp information, a compressed PCM private header including the UPC / EAN number and ISRC data of the voice signal, and a compressed PCM access unit including the compressed data. Formatting into packets;
A speech encoding method comprising:
請求項1記載の音声符号化方法により符号化されたデータから元の前記複数のチャネルの音声信号を復号する音声復号方法であって、
前記圧縮PCMプライベートヘッダ内に配置するUPC/EAN番号及びISRCデータをデコードするステップと、
前記格納されたサブパケットを前記デコーディング・タイム・スタンプ情報に基づいてデコードして圧縮PCMアクセスユニットを分離するステップと、
前記分離された圧縮PCMアクセスユニット内の圧縮データの予測残差をビット情報に基づいたビット数で復号し、この復号した予測残差と前記先頭サンプル値と線形予測方法とに基づいて予測値をチャネル毎に算出するステップと、
前記算出された予測値から元の前記複数のチャネルの音声信号を復元するステップと、
からなる音声復号方法。
An audio decoding method for decoding the original audio signals of the plurality of channels from the data encoded by the audio encoding method according to claim 1,
Decoding the UPC / EAN number and ISRC data located in the compressed PCM private header;
Decoding the stored subpackets based on the decoding time stamp information to separate compressed PCM access units;
The prediction residual of the compressed data in the separated compressed PCM access unit is decoded with the number of bits based on bit information, and the prediction value is calculated based on the decoded prediction residual, the head sample value, and the linear prediction method. Calculating for each channel ;
Restoring the original audio signals of the plurality of channels from the calculated predicted values;
A speech decoding method comprising:
JP2005236429A 2005-08-17 2005-08-17 Speech encoding method and speech decoding method Expired - Fee Related JP4305868B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005236429A JP4305868B2 (en) 2005-08-17 2005-08-17 Speech encoding method and speech decoding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005236429A JP4305868B2 (en) 2005-08-17 2005-08-17 Speech encoding method and speech decoding method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2003371813A Division JP3821381B2 (en) 2003-10-31 2003-10-31 Speech encoding method and speech decoding method

Publications (2)

Publication Number Publication Date
JP2005326895A JP2005326895A (en) 2005-11-24
JP4305868B2 true JP4305868B2 (en) 2009-07-29

Family

ID=35473230

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005236429A Expired - Fee Related JP4305868B2 (en) 2005-08-17 2005-08-17 Speech encoding method and speech decoding method

Country Status (1)

Country Link
JP (1) JP4305868B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4658852B2 (en) * 2006-04-13 2011-03-23 日本電信電話株式会社 Adaptive block length encoding apparatus, method thereof, program and recording medium

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02259700A (en) * 1989-03-30 1990-10-22 Nec Corp Voice coder
JPH06250697A (en) * 1993-02-26 1994-09-09 Fujitsu Ltd Method and device for voice coding and decoding

Also Published As

Publication number Publication date
JP2005326895A (en) 2005-11-24

Similar Documents

Publication Publication Date Title
JP4305867B2 (en) Speech encoding method and speech decoding method
JP4305868B2 (en) Speech encoding method and speech decoding method
JP3791801B2 (en) Optical recording medium and audio decoding device
JP4164833B2 (en) Speech encoding method and speech decoding method
JP4200500B2 (en) Speech coding method and speech decoding apparatus
JP4200499B2 (en) Speech coding method and speech decoding apparatus
JP4164826B2 (en) Audio signal transmission method and audio decoding method
JP3606455B2 (en) Audio signal transmission method and audio decoding method
JP4305869B2 (en) Speech encoding method and speech decoding method
JP4164832B2 (en) Speech encoding method and speech decoding method
JP4305866B2 (en) Speech encoding method and speech decoding method
JP3821384B2 (en) Optical recording medium and audio decoding device
JP4196353B2 (en) Speech encoding method and speech decoding method
JP4164830B2 (en) Speech encoding method and speech decoding method
JP4305870B2 (en) Speech coding method and speech decoding apparatus
JP4196354B2 (en) Speech encoding method and speech decoding method
JP4200501B2 (en) Speech coding method and speech decoding apparatus
JP4200990B2 (en) Speech coding method and speech decoding apparatus
JP4193828B2 (en) Speech coding method and speech decoding apparatus
JP4164831B2 (en) Speech encoding method and speech decoding method
JP4200991B2 (en) Speech encoding method and speech decoding method
JP4193826B2 (en) Speech coding method and speech decoding apparatus
JP4164834B2 (en) Speech coding method and speech decoding apparatus
JP4193827B2 (en) Speech coding method and speech decoding apparatus
JP3791798B2 (en) Speech encoding method and speech decoding method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090410

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090423

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees