JP2004199075A - ビット率調節可能なステレオオーディオ符号化・復号化方法及びその装置 - Google Patents

ビット率調節可能なステレオオーディオ符号化・復号化方法及びその装置 Download PDF

Info

Publication number
JP2004199075A
JP2004199075A JP2003420732A JP2003420732A JP2004199075A JP 2004199075 A JP2004199075 A JP 2004199075A JP 2003420732 A JP2003420732 A JP 2003420732A JP 2003420732 A JP2003420732 A JP 2003420732A JP 2004199075 A JP2004199075 A JP 2004199075A
Authority
JP
Japan
Prior art keywords
channel
layer
audio
stereo
audio sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003420732A
Other languages
English (en)
Other versions
JP3964860B2 (ja
Inventor
Jung-Hoe Kim
重 會 金
Shoko Kim
尚 ▲煌▼ 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2004199075A publication Critical patent/JP2004199075A/ja
Application granted granted Critical
Publication of JP3964860B2 publication Critical patent/JP3964860B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/18Vocoders using multiple modes
    • G10L19/24Variable rate codecs, e.g. for generating different qualities using a scalable representation such as hierarchical encoding or layered encoding
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing

Abstract

【課題】ビット率調節が可能なステレオオーディオ符号化及び復号化方法とその装置を提供する。
【解決手段】ステレオオーディオを符号化する方法において、第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを変換する段階と、変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとを量子化する段階と、前記量子化された第1チャンネルオーディオサンプルを所定の転換階層に至るまで符号化し、前記転換階層以後の階層から先に決定された目標階層に対する符号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記量子化された第1チャンネルオーディオサンプルと前記量子化された第2チャンネルオーディオサンプルとをインターリーブを入れて符号化する段階と、を含むオーディオの符号化方法である。
【選択図】図1

Description

本発明はオーディオデータの符号化及び復号化に係り、特に、符号化されたステレオオーディオのビットストリームがビット率調節可能になるように符号化する方法及びその符号化及び復号化装置に関する。
最近、デジタル信号処理技術の発達によって、オーディオ信号は、デジタルデータとして保存/再生される場合がほとんどである。デジタルオーディオ保存/再生装置は、アナログオーディオ信号をサンプリングし、かつ量子化してデジタル信号であるPCM(Pulse Code Modulation)オーディオデータに変換してCD、DVDのような情報保存媒体に保存した後、使用者が必要とする時にこれを再生して聞けるようにしている。このようなオーディオ信号のデジタル保存/復元方式は、LP(Long PlayRecord)、マグネチックテープのようなアナログ保存/復元方式に比べて音質を大きく向上させると同時に、保存期間による音質劣化現象を顕著に減少させた。しかし、デジタルデータのサイズが膨大して保存及び伝送が円滑でない問題点があった。
このような問題点を解決するために、デジタルオーディオ信号に対する多様な圧縮方式が使われている。ISO(International Standard Organization)によって標準化作業がなされたMPEG(Moving Pictures Expert Group)/audioやDolby社によって開発されたAC−2/AC−3は、人間の心理音響モデルを利用してデータの量を減らす方法を採用し、その結果、信号の特性に関係なく効率的にデータの量を減らすことができた。すなわち、MPEG/audio標準やAC−2/AC−3方式は、従来のデジタル符号化方式に比べて1/6ないし1/8に減った64Kbps〜384Kbpsビット率だけでCDの音質とほとんど同じ程度の音質を提供する。
しかし、これら方法は、全て固定されたビット率に対して最適の状態を探して量子化過程と符号化過程とを経る方式によるので、ネットワークを通じて伝送する時、ネットワーク状況がよくなくて伝送帯域幅が低くなれば、データのショート現象が発生し、これにより、使用者にこれ以上のサービスを提供できなくなる問題点がある。また、制限された保存容量である移動式機器に適するようにさらに小さなサイズのビットストリームに変換しようとする時、サイズを減らすためには再符号化過程を経らなければならないので、多くの計算量が要求される。
これに、本出願人はビット分割算術符号化(BSAC:Bit−Sliced Arithmetic Coding)技法を使用してビット率調節が可能なオーディオ符号化/復号化方法及び装置を1997年11月19日付の韓国特許出願第97−61298号に出願して2000年4月17日付の登録特許第261253号に登録されたことがある。BSACによれば、高いビット率に符号化されたビットストリームを低いビット率のビットストリームに作ることもでき、そのうち一部のビットストリームだけを有していても復元が可能である。したがって、ネットワークが過負荷の状態となっても、または復号化器の性能がよくないか、または使用者が低いビット率を要求すれば、ビット率の低下に比例して性能の劣化があるものの、ビットストリームの一部だけを有していても使用者にある程度の音質でサービスを提供できる。しかし、BSACは、オーディオ信号の変換において、MDCT(Modified Discrete Cosine Transform)を使用することによって低い階層で音質の劣化がさらに激しくなる問題点がある。
一方、ビット率調節可能機能を提供するために量子化を利用する技術としては、特許文献1があるが、これは心理音響モデルを利用するので、低い階層では音質が良好であるが、上位階層では相当なオーバーヘッドによって音質の劣化が発生する問題点がある。また、変換を利用する技術としては、特許文献2、3、4があるが、これはダウンサンプリングを利用するので、低い階層では相対的に良好な音質を提供するが、調節可能なビット率の間隔が大きいまたは計算量が多い短所があって、FGS(Fine Grain Scalability)には使用し難い問題点がある。
前記のようなビット率調節可能なオーディオ符号化装置において、ほとんどのオーディオデータは、CDレベルの音質を提供するためにサンプリングレート44.1KHzまたは48KHzのステレオ信号に符号化されており、階層が増加するにつれて周波数帯域が拡張される階層構造を利用する。このような階層構造でステレオ信号を符号化する場合、左側チャンネルと右側チャンネルとが交互に符号化するが、低い階層ではステレオ信号で音質の劣化が発生することによって、モノラル信号の場合より知覚的にさらに多くの雑音が聞こえる問題点がある。
米国特許USP6351730号公報 米国特許USP6182031号公報 米国特許USP6370507号公報 米国特許USP6029126号公報
本発明が解決しようとする技術的課題は、FGSを提供しつつも低い階層での音質をさらに向上させうるステレオオーディオの符号化方法及び装置とステレオオーディオ復号化方法及び装置とを提供することである。
前記課題を達成するために本発明によるビット率調節可能なステレオオーディオの符号化方法は、ステレオオーディオを符号化する方法において、第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを変換する段階と、変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとを量子化する段階と、前記量子化された第1チャンネルオーディオサンプルを所定の転換階層に至るまで符号化し、前記転換階層以後の階層から先に決定された目標階層に対する符号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記量子化された第1チャンネルオーディオサンプルと前記量子化された第2チャンネルオーディオサンプルとをインターリーブを入れて符号化する段階と、を含む。
前記課題を達成するために本発明によるビット率調節可能なステレオオーディオ符号化装置は、ステレオオーディオを符号化する装置において、心理音響情報を提供する心理音響部と、前記心理音響情報を反映して第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを変換する変換部と、変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとを量子化する量子化部と、前記量子化された第1チャンネルオーディオサンプルを所定の転換階層に至るまで符号化し、前記転換階層以後の階層から先に決定された目標階層に対する符号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記量子化された第1チャンネルオーディオサンプルと前記量子化された第2チャンネルオーディオサンプルとをインターリーブを入れて符号化するビットパッキング部と、を含む。
前記課題を達成するために本発明のビット率調節可能なステレオオーディオの復号化方法は、オーディオストリームを復号化する方法において、前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から先に決定された目標階層に対する復号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとをインターリーブに基づいて復号化し、第1チャンネルと第2チャンネルの量子化サンプルを得る段階と、前記第1チャンネルと第2チャンネルの量子化されたサンプルを逆量子化する段階と、前記第1チャンネルと第2チャンネルの逆量子化サンプルを逆変換して第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを得る段階と、を含む。
前記課題を達成するために本発明によるビット率調節可能なステレオオーディオ復号化装置は、オーディオストリームを復号化する装置において、前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から先に決定された目標階層に対する復号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとをインターリーブに基づいて復号化し、第1チャンネルと第2チャンネルの量子化サンプルを得るビットアンパッキング部と、前記第1チャンネルと第2チャンネルの量子化されたサンプルを逆量子化する逆量子化部と、前記第1チャンネルと第2チャンネルの逆量子化サンプルを逆変換して第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを得る逆変換部と、を含む。
本発明によれば、ステレオオーディオの符号化時、チャンネル1のオーディオ信号を転換階層まで先に符号化した後、転換階層以後の階層からはチャンネル1及びチャンネル2のオーディオ信号をインターリーブを入れつつ符号化することによってFGSを提供しつつも低い階層での音質をさらに向上させうる。
以下、添付された図面を参照して本発明の望ましい一実施例について詳細に説明する。
図1は、本発明の望ましい実施例によるオーディオ符号化装置の構成を示すブロック図であって、本発明によってビット率調節が可能になるようにオーディオデータを階層構造に符号化するためのオーディオ符号化装置は、変換部11、心理音響部12、量子化部13及びビットパッキング部14を含む。
図1において、変換部11は、時間領域のオーディオ信号であるPCMオーディオデータ、すなわち2つまたはそれ以上のチャンネルから得られた左側オーディオサンプルと右側オーディオサンプルとを入力して心理音響部12が提供する心理音響モデルに関する情報を参照して周波数領域の信号に変換する。時間領域では人間が認知するオーディオ信号の特性の差があまり大きくないが、変換を通じて得られた周波数領域のオーディオ信号は人間の心理音響モデルによって各周波数帯域で人間が感じる信号と感じられない信号との特性差が大きいため、各周波数帯域別に割り当てられるビット数を異ならせることによって圧縮の効率を高めることができる。
心理音響部12は、アタック感知情報のような心理音響モデルに関する情報を変換部11に提供する一方、変換部11によって変換されたオーディオ信号を適切な副帯域の信号に分割して各信号の相互作用によって発生するマスキング現象を利用して各副帯域でのマスキングしきい値を計算して量子化部13に提供する。本実施例で心理音響部12は、BMLD(Binaural Masking Level Depression)を利用してステレオ成分に対するマスキングしきい値を計算する。
量子化部13は、人間が聞いても感じられないように各副帯域の量子化雑音の大きさが心理音響部12により与えられるマスキングしきい値より小さく、各副帯域のオーディオ信号を対応するスケールファクター情報に基づいてスカラー量子化して量子化されたサンプルを出力する。すなわち、量子化部13は、心理音響部12で計算されたマスキングしきい値及び各副帯域で発生する雑音の比率であるNMR(Noise−to−Mask Ratio)を利用してNMR値が全体帯域で0 dBを超えないように量子化する。NMR値が0 dBを超えないというのは、量子化雑音を人間が聞けないことを意味する。
ビットパッキング部14は、量子化部13から提供される量子化したサンプルを各階層に当るビット率によって当該階層の付加情報と量子化情報とを結合して符号化する。この時、階層が増加するにつれてステレオ信号のうちモノラル成分を所定の転換階層まで符号化した後、転換階層以後の階層からはステレオ成分に対して階層的に符号化を行い、符号化されたビットストリームは階層構造にパッキングする。付加情報は、各階層に当る量子化帯域情報、符号化帯域情報、そのスケールファクター情報及び符号化モデル情報を含む。量子化帯域情報は、オーディオ信号の周波数特性によってさらに適切に量子化を行うための情報であって、周波数領域を複数の帯域に分け、各帯域に適したスケールファクターを割当てた時に各階層に対応する量子化帯域を知らせる情報である。これにより、各階層には少なくとも一つの量子化帯域が属する。各量子化帯域は、割当てられた一つのスケールファクターを有する。符号化帯域情報もオーディオ信号の周波数特性によってさらに適切に符号化を行うための情報であって、周波数領域を複数の帯域に分け、各帯域に適した符号化モデルを割当てた時に各階層に対応する符号化帯域を知らせる情報である。量子化帯域と符号化帯域とは、実験によって適切に分けられ、そのスケールファクター及び符号化モデルも実験によって適切に割当てられる。量子化帯域情報と符号化帯域情報とは、ヘッダ情報としてパッキングされて復号化装置に伝送されることもあり、各階層ごとの付加情報として符号化され、かつパッキングされて復号化装置に伝送されるが、復号化装置に量子化帯域情報と符号化帯域情報が先に保存されていることによって伝送されないこともある。
さらに具体的に説明すれば、本発明によるビットパッキング部14は、基盤階層に相応するスケールファクター情報及び符号化モデル情報を含む付加情報を符号化する一方、基盤階層に相応する符号化モデル情報を参照して最上位ビットから最下位ビットの順に、そして低い周波数成分から高い周波数成分の順に符号化する。このように基盤階層に対する符号化が完了すれば、その次の階層に対しても同じ過程を反復する。また、ステレオ信号の各チャンネルに対してはチャンネル1から所定の転換ポイントまでモノラル成分を符号化した後、転換ポイント以後からはチャンネル1とチャンネル2とをインターリーブを入れつつ符号化する。このように符号化されたビットストリームは、所定のシンタックス、例えば、BSAC技法で使われるシンタックスによって階層構造を有するビットストリームにパッキングされる。ここで、転換ポイント情報は、階層インデックス、スケールファクター帯域及び符号化帯域のうち何れか一つに表現されてフレームのヘッダ情報または各階層別に付加情報に含まれてパッキングされうる。
ビットパッキング部14でビットストリームは、BSAC技法を使用して符号化される場合、下記の表1のようなシンタックスを有して符号化されうる。ここで転換ポイントの情報は階層インデックス、スケールファクター帯域、符号化帯域または符号化帯域として表わされ、フレームのヘッダー情報またや各階層の付加情報に含まれる。
Figure 2004199075
一方、図示されていないが、量子化部13以前に時間領域雑音形状化部及び/またはM/S(Mid/Side)ステレオ処理部をさらに含めて具現できる。時間領域雑音形状化部は、各ウィンドー内で量子化雑音の時間的な形を制御するために使われるものであって、周波数領域のデータのフィルターリング過程を適用することによって時間領域雑音形状化が可能である。M/Sステレオ処理部は、ステレオ信号をさらに効率的に処理するためのものであって、M信号とS信号とを合わせた信号をチャンネル1信号に、M信号からS信号を引いた信号をチャンネル2信号に変換した後、これら信号を処理するが、各スケールファクター帯域単位によって使用如何を判断できる。
図2は、本発明の望ましい実施例によるオーディオ復号化装置の構成を示すブロック図であって、本発明によってネットワーク状況、復号化装置の性能、使用者の選択によって決定された目標階層までアンパッキングすることによってビット率を調節するためのオーディオ復号化装置は、ビットアンパッキング部21、逆量子化部22及び逆変換部23を含む。
ビットアンパッキング部21は、ビットストリームを目標階層までアンパッキングし、各階層別に復号化する。すなわち、各階層に対応する転換ポイント情報、スケールファクター情報、符号化モデル情報が含まれた付加情報を復号化した後、得られた符号化モデル情報に基づいて各階層に属する符号化された量子化サンプルを再び復号化して量子化サンプルを得る。この時、ステレオ信号の各チャンネルに対しては、チャンネル1から所定の転換ポイントまでモノラル成分を復号化した後、転換ポイント以後からはチャンネル1とチャンネル2とをインターリーブに基づきながら復号化する。一方、転換ポイント情報、量子化帯域情報及び符号化帯域情報は、ビットストリームのヘッダ情報から得るか、または各階層別の付加情報を復号化して得られる。または、復号化装置が量子化帯域情報及び符号化帯域情報を先に保存していることもある。
逆量子化部22は、各階層の量子化サンプルを対応するスケールファクター情報によって逆量子化して復元する。逆変換部23は、復元されたサンプルを周波数/時間マッピングして時間領域のPCMオーディオデータに変換して出力する。
図1に示されたオーディオ符号化装置と同様に、図示されていないが、逆量子化部22以後にM/Sステレオ逆処理部及び/または時間領域雑音形状化部をさらに含めて具現できる。M/Sステレオ逆処理部は、符号化装置でM/Sステレオ処理をしたスケールファクター帯域に対してそれに相応する処理をする。時間領域雑音形状化部は、各ウィンドー内で量子化雑音の時間的な形を制御するために使われるものであって、符号化装置で行われた動作に相応する処理をする。
図3は、本発明によってビット率を調節できるように階層構造に符号化されたビットストリームでフレームの構造を示す。
図3を参照すれば、本発明によるビットストリームのフレームは、FGSのために量子化サンプルと付加情報とを階層構造にマッピングさせて符号化されている。すなわち、下位階層のビットストリームが上位階層のビットストリームに含まれている階層構造を有する。各階層に必要な付加情報は、階層別に分けられて符号化される。
ビットストリームの先頭には、ヘッダ情報が保存されたヘッダ領域が設けられ、階層0の情報がパッキングされており、上位階層の階層1ないし階層Nに属する情報が順にパッキングされている。ヘッダ領域から階層0情報までを基盤階層といい、ヘッダ領域から階層1情報までを階層1、階層2情報までを階層2という。同じ方式で、最上位階層はヘッダ領域から階層N情報まで、すなわち、基盤階層から上位階層の階層Nまでである。各階層情報としては、付加情報と符号化されたオーディオデータとが保存されている。例えば、階層2情報としては、付加情報2と符号化された量子化サンプル2とが保存されている。
本発明は、色々な階層のビット率に関する情報を一つのビットストリームで表現する方法として、使用者の要求または伝送線路の状態によって各段階のビット率に対するビットストリームが簡単に再構成され伝送されうる。例えば、基盤階層は16kbps、最上位階層は96kbpsであり、各階層が8kbpsの間隔に構成されていると仮定する。これにより、符号化装置で構成されるビットストリームは、最上位階層の96kbpsに対するビットストリーム内に各階層(16,24,32,40,48,56,64,72,80,88,96kbps)に関する情報が共に保存されている形態である。もし、ある使用者が最上位階層に関するデータを要求すれば、このビットストリームをいかなる加工もなく伝達する。また、他の使用者が基本階層に関するデータを要求すれば、単純に前部分のビットストリームだけを切断して伝達する。
図4A及び4Bは、図1において、本発明によるステレオ信号符号化順序及び符号化結果を説明するものであって、数字は符号化順序を表す。既存の方法では階層を増加させつつチャンネル1とチャンネル2とを交互に符号化する一方、本発明ではチャンネル1に対して転換階層、例えば、階層4(第5階層)まで符号化を進行した後、転換階層以後の階層、すなわち、チャンネル1の階層5(第6階層)からは階層を増加させつつチャンネル1とチャンネル2とをインターリーブを入れつつ符号化を進行する。すなわち、同じ時間の間、既存の方法では第3階層までチャンネル1とチャンネル2とのステレオ成分を符号化する一方、本発明では第6階層までチャンネル1のモノラル成分だけ符号化する。
これにより、前記構成に基づいて本発明によるステレオオーディオの符号化方法及び復号化方法に対して説明する。
図5は、本発明の望ましい実施例によるオーディオの符号化方法を説明するフローチャートであって、付加情報及び量子化サンプルの入力段階(501及び502)、転換階層定義段階(503)、モノラル成分符号化段階(504ないし508)及びステレオ成分符号化段階(505ないし512)よりなる。ここでは、転換ポイントを階層インデックスに設定した場合を、例えば、便宜上転換ポイントを転換階層という。このような符号化過程は、毎フレーム単位で行われる。
図5を参照すれば、まずビットパッキング部14では量子化部13から提供される量子化サンプルと付加情報とを入力し(501)、階層情報を初期化する(502)。すなわち、入力されるオーディオサンプルのサンプリングレート、目標ビット率、最上位階層でのカットオフ周波数、符号化帯域の長さ、量子化帯域の単位、及び分けようとする階層の数によって各階層の周波数帯域幅、階層別に使用可能なビット数、各階層に当る量子化帯域及び符号化帯域のような階層情報を求める。
503段階では、転換階層ENHANCE_CHANNEL情報を定義するが、転換階層ENHANCE_CHANNEL情報は、モノラル成分符号化からステレオ成分符号化に転換されるチャンネル1での階層のインデックスを示す。例えば、16〜64Kbpsのビット率を提供する場合、階層間のビット率の間隔を1Kbpsに割当てれば、階層0〜階層47まで生成されうるが、これにより転換階層情報は6ビット以内に表現されうる。ここで、転換階層は、音質の安定性を強調するか、またはステレオ特性を強調するかによってその値が決定される。すなわち、転換階層のインデックスが大きい値である場合には、低い階層でステレオ特性よりは音質の安定性を強調する場合であり、小さな値である場合には低い階層で音質よりステレオ特性を強調する場合である。
504段階では、階層インデックスを‘0’に設定し、505段階では、まずステレオチャンネルのうちチャンネル1に対して階層0の付加情報を符号化し、506段階では、チャンネル1に対して階層0の量子化サンプルを符号化する。
507段階では、505及び506段階で符号化された現行階層インデックスと転換階層ENHANCE_CHANNEL情報とを比較し、符号化された現行階層インデックスが転換階層情報が表す階層インデックスに1を加算した値より小さな場合、現行階層インデックスを1増加させて508、前記505段階に復帰し、階層1に対して505ないし508段階を反復する。一方、507段階で、505及び506段階で符号化された現行階層インデックスと転換階層情報が表す階層インデックスとに1を加算した値より同じまたは大きい場合、509段階に移行する。
509段階では、チャンネル2に対して階層0の付加情報を符号化し、510段階ではチャンネル2に対して階層0の量子化サンプルを符号化する。
511段階では、509及び510段階で符号化された現行階層インデックスが最後の階層、すなわち、目標階層インデックスであるかを比較し、符号化された現行階層インデックスが最後の階層インデックスではない場合には、現行階層インデックスを1増加させて(512)、前記505段階に復帰し、チャンネル1に対して当該階層に対して505及び506段階を反復する。一方、511段階で符号化された現行階層インデックスが最後の階層インデックスである場合には、本符号化過程を終了する。
図6は、本発明の第1実施例によるオーディオ復号化方法を説明するフローチャートであって、ビットストリーム入力段階(601及び602)、転換階層情報獲得段階(603)、モノラル成分復号化段階(604ないし608)及びステレオ成分復号化段階(605ないし612)よりなる。このような復号化過程は、毎フレーム単位に行われる。
図6を参照すれば、まずビットアンパッキング部21ではビットストリームを入力し(601)、階層情報を初期化する(602)。602段階では、図5での502段階と同じ方法で階層情報が求められる。
603段階では、601段階で入力されたビットストリームのヘッダ領域のヘッダ情報を抽出し、これから転換階層情報を獲得する。
604段階では、階層インデックスを‘0’に設定し、605段階では、601段階で入力されたビットストリームからステレオチャンネルのうちチャンネル1に対して階層0の付加情報を分離して復号化し、606段階では、チャンネル1に対して階層0の量子化サンプルを分離して復号化する。
607段階では、605及び606段階で復号化された現行階層インデックスと転換階層ENHANCE_CHANNEL情報とを比較し、復号化された現行階層インデックスが転換階層情報が表す階層インデックスに1を加算した値より小さな場合、現行階層インデックスを1増加させて608段階、前記605段階に復帰し、階層1に対して605ないし608段階を反復する。一方、607段階で、605及び606段階で復号化された現行階層インデックスと転換階層情報が表す階層インデックスとに1を加算した値より同じまたは大きい場合、609段階に移行する。
609段階では、チャンネル2に対して階層0の付加情報を分離して復号化し、610段階ではチャンネル2に対して階層0の量子化サンプルを分離して復号化する。
611段階では、609及び610段階で復号化された現行階層インデックスが最後の階層、すなわち、目標階層インデックスであるかを比較し、復号化された現行階層インデックスが最後の階層インデックスではない場合には、現行階層インデックスを1だけ増加させて(612)、前記605段階に復帰し、チャンネル1に対して当該階層に対して605及び606段階を反復する。一方、611段階で符号化された現行階層インデックスが最後の階層インデックスである場合には、本復号化過程を終了する。
図7A及び図7Bは、本発明の第2及び第3実施例によるオーディオ復号化方法を説明する図面である。図示された数字は復号化順序を表す。
図7Aを参照すれば、復号化装置においてチャンネル1の中間階層、例えば、階層3(第4階層)で復号化が中止される場合、ステレオ信号であるのにも拘わらず、チャンネル2ではデータが全く復号化されなくなる。このような場合には復号化が完了したチャンネル1の階層0(第1階層)ないし階層3(第4階層)の量子化サンプルと付加情報とをそのままチャンネル2の階層0ないし階層3に複製して復号化を行う。
一方、図7Bを参照すれば、復号化装置においてチャンネル1は、転換階層まで復号化が完了した以後チャンネル2の階層1で復号化が中止される場合には、復号化されたスペクトルの左右の幅が異なって所望しない方向性を提供するので、復号化が完了したチャンネル1の階層1(第2階層)ないし階層3(第4階層)の量子化サンプルと付加情報とをそのままチャンネル2の階層1ないし階層3に複製して復号化を行う。
前述した本発明の符号化方法において、転換階層までのモノラル成分符号化には、通常的なBSACのモノオーディオ符号化技法を使用でき、転換階層以後の階層からステレオ成分符号化には、通常的なBSACのステレオオーディオ符号化技法を使用できる。
本発明はまた、コンピュータで読取り可能な記録媒体にコンピュータが読み取れるコードとして具現できる。コンピュータ読み取り可能な記録媒体は、コンピュータシステムによって読取り可能なデータが保存される全ての種類の記録装置を含む。コンピュータがリードできる記録媒体の例としては、ROM、RAM、CD−ROM、磁気テープ、フロッピー(R)ディスク、光データ保存装置があり、またファームウェア及びキャリヤーウェーブ(例えば、インターネットを通じた伝送)状に具現されるものも含む。また、コンピュータがリードできる記録媒体は、ネットワークに連結されたコンピューターシステムに分散され、分散方式でコンピュータがリードできるコードが保存され、かつ実行され得る。そして、本発明を具現するための機能的なプログラム、コード及びコードセグメントは、本発明が属する技術分野のプログラマーによって容易に推論され得る。
以上、図面及び明細書で最適の実施例を開示した。ここで、特定の用語が使われたが、これは単に本発明を説明するための目的から使われたものであり、意味限定や特許請求の範囲に記載された本発明の範囲を制限するために使われたものではない。したがって、当業者なら、これから多様な変形及び均等な他の実施例が可能であることが分かる。したがって、本発明の真の技術的保護範囲は、特許請求の範囲の技術的思想によって決まらなければならない。
本発明は低い階層での音質を向上させるために符号化順序を変換することによって低い階層で音質劣化されたステレオ信号の代わりにモノラル信号を符号化してさらに安定的で帯域が拡張された音質を提供できる。例えば、デジタルオーディオ保存/再生装置に適用される。
本発明の望ましい実施例によるオーディオ符号化装置の構成を示すブロック図である。 本発明の望ましい実施例によるオーディオ復号化装置の構成を示すブロック図である。 本発明に適用される符号化されたビットストリームでフレームの階層的な構造を示す図面である。 図1において、本発明によるステレオ信号の符号化順序及び符号化結果を説明する図面である。 図1において、本発明によるステレオ信号の符号化順序及び符号化結果を説明する図面である。 本発明の望ましい実施例によるオーディオの符号化方法を説明するフローチャートである。 本発明の実施例1によるオーディオの復号化方法を説明するフローチャートである。 本発明の実施例2及び3によるオーディオの復号化方法を説明する図面である。 本発明の実施例2及び3によるオーディオの復号化方法を説明する図面である。
符号の説明
11 変換部
12 心理音響部
13 量子化部
14 ビットパッキング部

Claims (22)

  1. ステレオオーディオを符号化する方法において、
    第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを変換する段階と、
    変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとを量子化する段階と、
    前記量子化された第1チャンネルオーディオサンプルを所定の転換階層に至るまで符号化し、前記転換階層以後の階層から先に決定された目標階層に対する符号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記量子化された第1チャンネルオーディオサンプルと前記量子化された第2チャンネルオーディオサンプルとをインターリーブを入れて符号化する段階と、を含むビット率調節が可能なステレオオーディオの符号化方法。
  2. 前記量子化段階以前に、変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとのM信号とS信号とを第1チャンネルオーディオサンプルと第2オーディオサンプルとに変換する段階をさらに含むことを特徴とする請求項1に記載のビット率調節が可能なステレオオーディオの符号化方法。
  3. 前記転換階層は、復元された音質及びステレオ特性の強調いかんによって決定されることを特徴とする請求項1または2に記載のビット率調節が可能なステレオオーディオの符号化方法。
  4. 前記転換階層に関する情報は、階層インデックス、スケールファクター帯域及び符号化帯域のうち何れか一つに表現されることを特徴とする請求項1または2に記載のビット率調節が可能なステレオオーディオの符号化方法。
  5. 前記転換階層に関する情報は、階層的なビットストリームのヘッダ情報と付加情報のうち何れか一つに含まれることを特徴とする請求項1または2に記載のビット率調節が可能なステレオオーディオの符号化方法。
  6. ステレオオーディオを符号化する装置において、
    心理音響情報を提供する心理音響部と、
    前記心理音響情報を反映して第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを変換する変換部と、
    変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとを量子化する量子化部と、
    前記量子化された第1チャンネルオーディオサンプルを所定の転換階層に至るまで符号化し、前記転換階層以後の階層から先に決定された目標階層に対する符号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記量子化された第1チャンネルオーディオサンプルと前記量子化された第2チャンネルオーディオサンプルをインターリーブを入れて符号化するビットパッキング部と、を含むビット率調節が可能なステレオオーディオ符号化装置。
  7. 前記変換された第1チャンネルオーディオサンプルと変換された第2チャンネルオーディオサンプルとのM信号とS信号とを第1チャンネルオーディオサンプルと第2オーディオサンプルとに変換して前記量子化部に提供するM/Sステレオ処理部をさらに含むことを特徴とする請求項6に記載のビット率調節が可能なステレオオーディオ符号化装置。
  8. 前記転換階層は、復元された音質やステレオ特性の強調いかんによって決定されることを特徴とする請求項6または7に記載のビット率調節が可能なステレオオーディオ符号化装置。
  9. 前記転換階層に関する情報は、階層インデックス、スケールファクター帯域及び符号化帯域のうち何れか一つに表現されることを特徴とする請求項6または7に記載のビット率調節が可能なステレオオーディオ符号化装置。
  10. 前記転換階層に関する情報は、階層的なビットストリームのヘッダ情報と付加情報のうち何れか一つに含まれることを特徴とする請求項6または7に記載のビット率調節が可能なステレオオーディオ符号化装置。
  11. オーディオストリームを復号化する方法において、
    前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から先に決定された目標階層に対する復号化が完了するまで毎回前記階層前に付加された序数を1ずつ増加させつつ前記第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとをインターリーブに基づいて復号化し、第1チャンネルと第2チャンネルとの量子化サンプルを得る段階と、
    前記第1チャンネルと第2チャンネルとの量子化されたサンプルを逆量子化する段階と、
    前記第1チャンネルと第2チャンネルとの逆量子化サンプルを逆変換して第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを得る段階と、を含むことを特徴とするステレオオーディオの復号化方法。
  12. 前記復号化段階は、前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から復号化が中止された場合、前記第1チャンネルの復号化された量子化サンプルを第2チャンネルの当該部分に複製して第1チャンネルと第2チャンネルとの量子化されたサンプルを得ることを特徴とする請求項11に記載のステレオオーディオの復号化方法。
  13. 前記復号化段階は、前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から毎回前記階層の前に付加された序数を1ずつ増加させつつ前記第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとをインターリーブに基づいて復号化し、前記転換階層以後の所定階層から復号化が中止された場合、前記第1チャンネルの復号化された量子化サンプルを第2チャンネルの当該部分に複製して第1チャンネルと第2チャンネルとの量子化されたサンプルを得ることを特徴とする請求項11に記載のステレオオーディオの復号化方法。
  14. 前記第1チャンネルと第2チャンネルとの逆量子化されたサンプルに対してM/Sステレオ逆処理を行う段階をさらに含むことを特徴とする請求項11ないし13のうち何れか一項に記載のステレオオーディオの復号化方法。
  15. 前記転換階層に関する情報は、階層インデックス、スケールファクター帯域及び符号化帯域のうち何れか一つに表現されることを特徴とする請求項11ないし13のうち何れか一項に記載のビット率調節が可能なステレオオーディオの復号化方法。
  16. 前記転換階層に関する情報は、階層的なビットストリームのヘッダ情報と付加情報のうち何れか一つから抽出することを特徴とする請求項11ないし13のうち何れか一項に記載のビット率調節が可能なステレオオーディオの復号化方法。
  17. オーディオストリームを復号化する装置において、
    前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から先に決定された目標階層に対する復号化が完了するまで毎回前記階層の前に付加された序数を1ずつ増加させつつ前記第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとをインターリーブに基づいて復号化し、第1チャンネルと第2チャンネルの量子化サンプルを得るビットアンパッキング部と、
    前記第1チャンネルと第2チャンネルの量子化されたサンプルを逆量子化する逆量子化部と、
    前記第1チャンネルと第2チャンネルの逆量子化サンプルを逆変換して第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとを得る逆変換部と、を含むことを特徴とするステレオオーディオ復号化装置。
  18. 前記ビットアンパッキング部は、前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から復号化が中止された場合、前記第1チャンネルの復号化された量子化サンプルを第2チャンネルの当該部分に複製して第1チャンネルと第2チャンネルの量子化されたサンプルを得ることを特徴とする請求項17に記載のステレオオーディオ復号化装置。
  19. 前記ビットアンパッキング部は、前記オーディオストリームで第1チャンネルオーディオサンプルを所定の転換階層に至るまで復号化し、前記転換階層以後の階層から毎回前記階層の前に付加された序数を1ずつ増加させつつ前記第1チャンネルオーディオサンプルと第2チャンネルオーディオサンプルとをインターリーブに基づいて復号化し、前記転換階層以後の所定階層から復号化が中止された場合、前記第1チャンネルの復号化された量子化サンプルを第2チャンネルの当該部分に複製して第1チャンネルと第2チャンネルの量子化されたサンプルを得ることを特徴とする請求項17に記載のステレオオーディオ復号化装置。
  20. 前記第1チャンネルと第2チャンネルとの逆量子化されたサンプルに対してM/Sステレオ逆処理を行うM/Sステレオ逆処理部をさらに含むことを特徴とする請求項17ないし19のうち何れか一項に記載のステレオオーディオ復号化装置。
  21. 請求項1ないし5のうち何れか一項に記載のビット率調節が可能なステレオオーディオの符号化方法を実行できるプログラムを記録したコンピュータで読み取り可能な記録媒体。
  22. 請求項11ないし16のうち何れか一項に記載のビット率調節が可能なステレオオーディオの復号化方法を実行できるプログラムを記録したコンピュータで読み取り可能な記録媒体。
JP2003420732A 2002-12-18 2003-12-18 ステレオオーディオの符号化方法、ステレオオーディオ符号化装置、ステレオオーディオの復号化方法、ステレオオーディオ復号化装置及びコンピュータで読み取り可能な記録媒体 Expired - Fee Related JP3964860B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR10-2002-0081074A KR100528325B1 (ko) 2002-12-18 2002-12-18 비트율 조절이 가능한 스테레오 오디오 부호화 및복호화방법 및 그 장치

Publications (2)

Publication Number Publication Date
JP2004199075A true JP2004199075A (ja) 2004-07-15
JP3964860B2 JP3964860B2 (ja) 2007-08-22

Family

ID=36717125

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003420732A Expired - Fee Related JP3964860B2 (ja) 2002-12-18 2003-12-18 ステレオオーディオの符号化方法、ステレオオーディオ符号化装置、ステレオオーディオの復号化方法、ステレオオーディオ復号化装置及びコンピュータで読み取り可能な記録媒体

Country Status (4)

Country Link
US (1) US7835915B2 (ja)
JP (1) JP3964860B2 (ja)
KR (1) KR100528325B1 (ja)
CN (1) CN1252678C (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2006035810A1 (ja) * 2004-09-30 2008-05-15 松下電器産業株式会社 スケーラブル符号化装置、スケーラブル復号装置、及びこれらの方法
WO2024034389A1 (ja) * 2022-08-09 2024-02-15 ソニーグループ株式会社 信号処理装置、信号処理方法、およびプログラム

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7536302B2 (en) * 2004-07-13 2009-05-19 Industrial Technology Research Institute Method, process and device for coding audio signals
CN101151658B (zh) * 2005-03-30 2011-07-06 皇家飞利浦电子股份有限公司 多声道音频编码和解码方法、编码器和解码器
WO2007026763A1 (ja) * 2005-08-31 2007-03-08 Matsushita Electric Industrial Co., Ltd. ステレオ符号化装置、ステレオ復号装置、及びステレオ符号化方法
CN101288309B (zh) * 2005-10-12 2011-09-21 三星电子株式会社 处理/发送以及接收/处理比特流的方法和设备
JP5142723B2 (ja) * 2005-10-14 2013-02-13 パナソニック株式会社 スケーラブル符号化装置、スケーラブル復号装置、およびこれらの方法
KR100793287B1 (ko) 2006-01-26 2008-01-10 주식회사 코아로직 비트율 조절이 가능한 오디오 복호화 장치 및 그 방법
KR100738109B1 (ko) * 2006-04-03 2007-07-12 삼성전자주식회사 입력 신호의 양자화 및 역양자화 방법과 장치, 입력신호의부호화 및 복호화 방법과 장치
KR101322392B1 (ko) * 2006-06-16 2013-10-29 삼성전자주식회사 스케일러블 코덱의 부호화 및 복호화 방법 및 장치
KR101379263B1 (ko) * 2007-01-12 2014-03-28 삼성전자주식회사 대역폭 확장 복호화 방법 및 장치
WO2009096898A1 (en) * 2008-01-31 2009-08-06 Agency For Science, Technology And Research Method and device of bitrate distribution/truncation for scalable audio coding
MX2011009660A (es) 2009-03-17 2011-09-30 Dolby Int Ab Codificacion estereo avanzada basada en una combinacion de codificacion izquierda/derecha o media/lateral seleccionable de manera adaptable y de codificacion estereo parametrica.
CN102648495B (zh) * 2009-10-21 2014-05-28 杜比Ab国际公司 用于利用适应性过取样产生高频音频信号的装置及方法
US8891775B2 (en) * 2011-05-09 2014-11-18 Dolby International Ab Method and encoder for processing a digital stereo audio signal
US9564136B2 (en) * 2014-03-06 2017-02-07 Dts, Inc. Post-encoding bitrate reduction of multiple object audio

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19706516C1 (de) 1997-02-19 1998-01-15 Fraunhofer Ges Forschung Verfahren und Vorricntungen zum Codieren von diskreten Signalen bzw. zum Decodieren von codierten diskreten Signalen
KR100261253B1 (ko) * 1997-04-02 2000-07-01 윤종용 비트율 조절이 가능한 오디오 부호화/복호화 방법및 장치
KR100251636B1 (ko) 1997-04-10 2000-05-01 윤종용 소형컴퓨터시스템인터페이스방식접속을위한메모리장치
KR100335609B1 (ko) * 1997-11-20 2002-10-04 삼성전자 주식회사 비트율조절이가능한오디오부호화/복호화방법및장치
KR100335611B1 (ko) * 1997-11-20 2002-10-09 삼성전자 주식회사 비트율 조절이 가능한 스테레오 오디오 부호화/복호화 방법 및 장치
US6351730B2 (en) 1998-03-30 2002-02-26 Lucent Technologies Inc. Low-complexity, low-delay, scalable and embedded speech and audio coding with adaptive frame loss concealment
US6029126A (en) 1998-06-30 2000-02-22 Microsoft Corporation Scalable audio coder and decoder
US6182031B1 (en) * 1998-09-15 2001-01-30 Intel Corp. Scalable audio coding system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2006035810A1 (ja) * 2004-09-30 2008-05-15 松下電器産業株式会社 スケーラブル符号化装置、スケーラブル復号装置、及びこれらの方法
WO2024034389A1 (ja) * 2022-08-09 2024-02-15 ソニーグループ株式会社 信号処理装置、信号処理方法、およびプログラム

Also Published As

Publication number Publication date
US7835915B2 (en) 2010-11-16
US20040181395A1 (en) 2004-09-16
KR20040054235A (ko) 2004-06-25
CN1510662A (zh) 2004-07-07
CN1252678C (zh) 2006-04-19
KR100528325B1 (ko) 2005-11-15
JP3964860B2 (ja) 2007-08-22

Similar Documents

Publication Publication Date Title
EP1715476B1 (en) Low-bitrate encoding/decoding method and system
JP4740548B2 (ja) 帯域幅拡張技術を利用して符号化及び復号化を行う方法及び装置
JP3354863B2 (ja) ビット率の調節可能なオーディオデータ符号化/復号化方法及び装置
KR100571824B1 (ko) 부가정보 삽입된 mpeg-4 오디오 bsac부호화/복호화 방법 및 장치
JP4056466B2 (ja) ビット率を調節できるオーディオ符号化方法、復号方法、符号化装置及び復号装置
JP2012238034A (ja) マルチチャンネルオーディオ信号復号化方法
JP2009501359A (ja) オーディオ信号の重要周波数成分の抽出方法及びその装置、及びこれを利用した低ビット率オーディオ信号の符号化及び/または復号化方法及びその装置
JP3964860B2 (ja) ステレオオーディオの符号化方法、ステレオオーディオ符号化装置、ステレオオーディオの復号化方法、ステレオオーディオ復号化装置及びコンピュータで読み取り可能な記録媒体
JP2009518934A (ja) オーディオ信号の符号化及び復号化方法、オーディオ信号の符号化及び復号化装置
US7098814B2 (en) Method and apparatus for encoding and/or decoding digital data
KR100682915B1 (ko) 다채널 신호 부호화/복호화 방법 및 장치
US7444289B2 (en) Audio decoding method and apparatus for reconstructing high frequency components with less computation
US6463405B1 (en) Audiophile encoding of digital audio data using 2-bit polarity/magnitude indicator and 8-bit scale factor for each subband
KR100923301B1 (ko) 대역 확장 기법을 이용한 오디오 데이터의 부호화 방법,그 장치, 복호화 방법 및 그 장치
KR20080066537A (ko) 부가정보를 가지는 오디오신호의 부호화/복호화 방법 및장치
KR100923300B1 (ko) 대역 확장 기법을 이용한 오디오 데이터의 부호화 방법,그 장치, 복호화 방법 및 그 장치
KR20000056661A (ko) 디지털 오디오 데이터의 역방향 디코딩 방법
JP2003330497A (ja) オーディオ信号の符号化方法及び装置、符号化及び復号化システム、並びに符号化を実行するプログラム及び当該プログラムを記録した記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051214

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20060314

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20060317

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061004

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070104

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070110

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070403

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20070417

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070524

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees