JP4454664B2 - オーディオ符号化装置及びオーディオ符号化方法 - Google Patents

オーディオ符号化装置及びオーディオ符号化方法 Download PDF

Info

Publication number
JP4454664B2
JP4454664B2 JP2007534206A JP2007534206A JP4454664B2 JP 4454664 B2 JP4454664 B2 JP 4454664B2 JP 2007534206 A JP2007534206 A JP 2007534206A JP 2007534206 A JP2007534206 A JP 2007534206A JP 4454664 B2 JP4454664 B2 JP 4454664B2
Authority
JP
Japan
Prior art keywords
frame
bits
divisions
block length
bit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007534206A
Other languages
English (en)
Other versions
JPWO2007029304A1 (ja
Inventor
義照 土永
政直 鈴木
美由紀 白川
孝志 牧内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2007029304A1 publication Critical patent/JPWO2007029304A1/ja
Application granted granted Critical
Publication of JP4454664B2 publication Critical patent/JP4454664B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/032Quantisation or dequantisation of spectral components
    • G10L19/035Scalar quantisation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique

Description

本発明は、オーディオ符号化装置及びオーディオ符号化方法に関し、特に携帯電話やインターネット等の情報通信分野、テレビ等のディジタル放送分野、さらにMD・DVDのようなAV機器によるオーディオ信号の蓄積・記録分野で使用される、オーディオ信号の符号化を行うオーディオ符号化装置及びオーディオ符号化方法に関する。
近年、インターネットやディジタル地上波放送等の通信分野、またはDVDやシリコンオーディオ等のAV機器の急速な普及に伴い、オーディオ信号を効率よく圧縮するオーディオ符号化技術に対する需要が高まっている。
オーディオ符号化方式としては、適応変換符号化が主に用いられている。適応変換符号化は、人間の聴覚特性を利用して、冗長度の高い情報や聴感上問題のない音のデータを削減して、情報量を圧縮する符号化方式のことである。
適応変換符号化方式の基本的な符号化処理は以下の流れで行われる。
・時間領域のオーディオ信号を周波数領域へ変換する。
・周波数軸上の信号を人間の聴覚の周波数分解能に対応する周波数帯域で区切る。
・人間の聴覚特性を利用して、各周波数帯域で符号化に必要な最適な情報量を計算する。
・各周波数帯域に割り振られた情報量にしたがい、周波数軸上の信号を量子化する。
一方、適応変換符号化方式の中でも、MPEG2 AAC(Moving Pictures Experts Group-2 Advanced Audio Coding)は、地上波ディジタル放送にも採用されており、近年注目を浴びている符号化方式である。なお、MPEG2 AAC(以下、単にAAC)は、ISO/IEC(International Standardization Organization/International Electro technical Commission:国際標準化機構/国際電気標準会議)で標準化された符号化方式であり、詳細はISO/IEC 13818-7のPart 7, “Advanced Audio Coding(AAC)に記載されている。
AACエンコーダでは、時間領域のアナログのオーディオ信号をサンプリングしてディジタル値に変換し、ディジタル値を所定のサンプリング数に分割してフレームを生成する。
また、1つのフレームは、LONGブロック(1024サンプル)またはSHORTブロック(128サンプル)の2種類のブロック長が割り当てられ、オーディオ信号の性質に応じて、LONGまたはSHORTのブロックを適応的に切り替えて、ブロック毎に符号化が行われる。
図8はLONGブロックとSHORTブロックの関係を示す図である。1フレームは、1024個のサンプリング値から構成される。LONGブロックは、1フレームの区間そのままであり、SHORTブロックは、1フレームを8個に分割した128個のサンプリング値からなる区間である。
したがって、フレームを符号化する場合、LONGブロックを選択した場合には、1フレーム単位で符号化処理を行うことになり、SHORTブロックを選択した場合は、1フレームの1/8単位で符号化処理を行うことになる。
図9は従来のAACエンコーダの概略構成を示す図である。AACエンコーダ100は、音響分析部101、ブロック長選択部102、符号化部103から構成される。
音響分析部101は、入力信号をFFT(Fast Fourier Transform)分析によりFFTスペクトルを求め、FFTスペクトルから知覚エントロピーを求めて、ブロック長選択部102へ送信する。知覚エントロピーとは、量子化するのに必要なビット数を表すパラメータである。
ブロック長選択部102は、受信した知覚エントロピーがあらかじめ設定したしきい値(定数)を超えればSHORTブロックを選択し、知覚エントロピーがしきい値を越えなければLONGブロックを選択する。
符号化部103は、ブロック長選択部102で選択されたブロック長がLONGブロックならば、入力信号の該当フレームをLONGブロック単位で符号化し、選択されたブロック長がSHORTブロックならば、入力信号の該当フレームをSHORTブロック単位で符号化する。
符号化処理では、1フレームをLONGブロック単位またはSHORTブロック単位で直交変換を行って直交変換係数を求め、直交変換係数を許容されたビット数の範囲内で周波数バンド毎に量子化し、量子化値からビットストリームを生成して送信する。
ここで、入力信号の1フレームが、振幅や周波数がほとんど変化しない定常的な信号(波形としては正弦波に近いもの)の場合は、信号変化量が小さく情報量も大きくはないので、1フレームまとめて、すなわちLONGブロック単位で符号化することが望ましい(振幅や周波数に大きな変化がない区間が続いている場合は、その区間をまとめて符号化した方が効率がよい)。
なお、定常区間では、符号化時の量子化ビット数が大きくないので、定常信号の占める割合が大きいフレームの知覚エントロピー(量子化に必要なビット数を表すパラメータ)は、しきい値を下回ることになって、LONGブロックが選択されることになる。
これに対して、フレーム内に振幅または周波数が急峻に変化する信号(以下、アタック音とも呼ぶ)が存在する場合に、そのフレームをLONGブロックで符号化すると、元の入力信号にはなかったプリエコー(pre-echo)と呼ばれる雑音が発生し、音質劣化の原因となる。
以下、図10〜図12を用いてプリエコーについて説明する。なお、図10〜図12では、横軸を時間、縦軸を振幅とする。図10はアタック音を含む符号化前の入力信号を示す図である。入力信号のフレームf1には、アタック音と、定常信号とが含まれている。
図11はプリエコーを示す図である。フレームf1をLONGブロックで符号化したときの復号音(フレームf1a)を示している。フレームf1は、アタック音と定常信号とが存在して、成分が大きく異なる信号が含まれている。このようなフレームf1をLONGブロックで符号化して、周波数軸上で量子化すると、図11に示すように、アタック音から生じた誤差量の大きい量子化誤差(図中の細かい歪)が、フレームf1全体に乗る(重畳する)ことになる。
この場合、アタック音の手前に重畳した量子化誤差は、プリエコーと呼ばれる雑音信号となり、ユーザにとって耳障りなものとなって、音質劣化を引き起こす。また、アタック音そのものに重畳した量子化誤差は、アタック音自身に埋もれてしまうため、聴覚上影響を与えることはほとんどない。
さらに、アタック音の後段にも量子化誤差は重畳するので、これも雑音信号(ポストエコー(post-echo)と呼ばれる)となるが、大きな音の直後に少しの長さの雑音信号が生じても人間の聴覚では感じとることができないので、通常はポストエコーも問題視されることはない。
したがって、主観的に聴覚に影響を与えて、音質劣化を引き起こす問題となるのはプリエコーであり、オーディオ符号化処理においては、このプリエコーを抑制することが重要となる。
図12はSHORTブロックで符号化したときの復号音を示す図である。プリエコーを抑制するには、フレームf1をSHORTブロックで符号化すればよい。SHORTブロックで符号化すれば、アタック音が含まれるブロックbで生じた量子化誤差は、ブロックb内で閉じたものとなり、他のブロックに影響を与えないからである。
したがって、アタック音のような急峻な信号がフレーム内に存在する場合には、SHORTブロックを選択し(アタック音では、符号化時の量子化ビット数が大きいので、アタック音が含まれるフレームの知覚エントロピーは、しきい値を上回ることになって、SHORTブロックが選択される)、SHORTブロック単位で符号化を行うことでプリエコーを抑制している。
従来技術として、プリエコーを抑制したビットストリームを作成するオーディオ符号化技術が提案されている(例えば、特許文献1)。
特開2005−3835号公報(段落番号〔0028〕〜〔0045〕,第1図)
AACエンコーダのようなオーディオ符号化装置では、通常、量子化ビットの増減を吸収して、擬似的な可変ビットレート制御を行うビットリザーバ機能が設けられている。
図13はビットリザーバの動作概念を示す図である。図中のグラフG1は、横軸がフレーム、縦軸が量子化ビット数であり、各フレームで使用した量子化ビット数を表している。また、グラフG2は、横軸がフレーム、縦軸がリザーブビット数であり、各フレームが量子化された際に、そのときビットリザーバに存在する余剰ビット数を表している。
ここで、平均量子化ビット数が100ビットとする。平均量子化ビット数は、余剰ビット数を決める指標であって、伝送ビットレートに応じて算出されるものである。
フレームの量子化時に、必要な量子化ビット数が平均量子化ビット数を下回る場合は、下回った分のビット数は余剰ビット数として蓄積される。また、必要な量子化ビット数が平均量子化ビット数を上回る場合、上回った分のビット数に対しては、蓄積しておいた余剰ビット数が使用される。
図では例えば、フレーム1の量子化ビット数は100なので、平均量子化ビット数と等しいため、余剰ビット数は0である。フレーム2の量子化ビット数は80で、平均量子化ビット数に対して20下回るので、このときの余剰ビット数は20(=100−80)となる。
フレーム3の量子化ビット数は70であり、このときの余剰ビット数は、フレーム2ですでに蓄積されている余剰分も含めて50(=100−70+20)となる。
フレーム4の量子化ビット数は120であり、平均量子化ビット数を20上回る。このような場合、超過した20はフレーム3のときに蓄積されていた余剰ビット数50から使用される。したがって、このときの余剰ビット数は30(=50−20)となる。以降同様にして、フレームに割り当てられるビット数の増減の吸収を行って可変ビットレート制御が行われる。
なお、フレーム2、3がLONGブロックで符号化されるフレームであり、フレーム4がSHORTブロックで符号化されるフレームであるとすると、LONGブロックは、量子化に要するビット数が小さいので、余剰ビット数が蓄積される。
一方、SHORTブロックのように、量子化に要するビット数が大きい場合は、LONGブロックのときに蓄積されている余剰ビット数がSHORTブロックの量子化時に回されて使用されることになる。
ここで、圧縮率が低く、量子化ビット数を多く割り当てることが可能な高ビットレート条件では、フレーム内にアタック音のような変化の大きい信号が存在して、知覚エントロピーが高い値を示す場合、SHORTブロックを選択して符号化すればプリエコーが抑制され、かつ、ビットリザーバの平均量子化ビット数の値も大きいので、ビットリザーバのビット不足も生じることはない。
しかし、圧縮率を高めて、量子化ビット数を多く割り当てることができない低ビットレート条件では、ビットリザーバの平均量子化ビット数の値が小さいので(使用できるビット数が元々少ないということ)、知覚エントロピーが大きい値のときにSHORTブロックを選択すると、すぐに余剰ビット数が消費されてビット不足状態を生じ、著しい音質劣化が生じるといった問題があった。
したがって、アタック音のような変化の大きい信号が存在するフレームで、プリエコーを抑制するためにSHORTブロックを選択して符号化しているにもかかわらず、符号化に必要なビットが不足しているために、プリエコーよりも激しい音質劣化が生じてしまうことになる(ビット不足で生じる音質劣化は、プリエコーよりも強い音質劣化と感じられる)。
一方、近年では、48kHzサンプリングステレオ信号を96kbps以下(圧縮率1/16以上)で符号化するような低ビットレート条件の放送などが開始されている(例えば、携帯電話機向けの地上波ディジタル放送(1セグメント放送)などである)。
なお、48kHzサンプリングステレオ信号を何ら圧縮せずに伝送しようとすると、48kHzサンプリングステレオ信号は、1秒間に48000サンプルあって、1サンプルを16bitで表現し、2chで伝送するならば、48000×16×2=1536kbpsとなる。1536kbpsの1/16が96kbpsである(一般にMP3(MPEG Audio Layer 3)形式のプレーヤ機器では、CDの44.1kHzの信号をおよそ128kbpsまで圧縮してCDの音質を再現しているが、上記のような携帯電話機向けの地上波ディジタル放送では、48kHzを128kbpsよりもさらに低い96kbps以下まで圧縮しているので、圧縮率は非常に高く、音質劣化を抑制するには難しい領域で符号化していることがわかる)。
このような低ビットレート条件での放送・通信サービスでは、使用できるビット数が少ないため、アタック音のような変化の大きい信号が存在したり、または変化の大きい信号が連続して続くような場合には、ビットリザーバに蓄積される余剰ビット数の消費量が増加し、急激なビット不足が発生する。
特に多くのビット数を必要とするSHORTブロックでのビット不足は、符号化性能を大幅に低下させ、プリエコーが発生しているときよりも著しく音質を劣化させてしまう。
これにより、低ビットレート条件でサービスを行う地上波ディジタル放送などの分野で、従来のAACエンコーダによるオーディオ信号の符号化処理を行うと、入力信号に応じて正確にSHORTブロックを選択して符号化しているにもかかわらず、大きな音質劣化が生じてしまうといった問題があった。
一方、上記の従来技術(特開2005−3835号公報)では、ビットリザーバによって制御されている余剰ビット数に応じてLONGブロックまたはSHORTブロックを選択する際の聴覚エントロピーしきい値を決定し、これにより、余剰ビット数が足りない場合は、アタック音が存在するフレームであっても、SHORTブロックを選択せずに、LONGブロックを選択するようにして音質劣化の防止を行っている。
しかし、この従来技術は、プリエコーよりも音質が悪くなるビット不足状態でのSHORTブロックの選択をやめて、単純にLONGブロックに切り替える技術であるので、結局、LONGブロック符号化時に発生するプリエコーによる音質劣化についての問題は再び表面化することになり、音質劣化抑制のための最適な解決方法とはいえない。
本発明はこのような点に鑑みてなされたものであり、最適なブロック長を決定して符号化を行って、プリエコー及びビット不足から生じる音質劣化を改善したオーディオ符号化装置を提供することを目的とする。
また、本発明の他の目的は、最適なブロック長を決定して符号化を行って、プリエコー及びビット不足から生じる音質劣化を改善したオーディオ符号化方法を提供することである。
記課題を解決するために、オーディオ信号の符号化を行うオーディオ符号化装置が提供される。このオーディオ符号化装置は、オーディオ信号を分析して、量子化するのに必要なビット数を表すパラメータである知覚エントロピーを求める音響分析部と、オーディオ信号を符号化した際の符号化ビット数を監視して、現フレームで使用可能なビット数である余剰ビット数を求める符号化ビット数監視部と、知覚エントロピーと余剰ビット数との組み合わせにもとづいて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるように、オーディオ信号の1フレームを分割する分割数を決定するフレーム分割数決定部と、分割数をNとした際に、N=1の場合は、1フレーム単位で直交変換を行って第1の直交変換係数を求め、最大分割数をNmaxとした際に、N=Nmaxの場合は、最大分割数で1フレームを分割し、最大分割されたブロック長単位でオーディオ信号の直交変換を行って第2の直交変換係数を求め、1<N<Nmaxの場合は、最大分割数で1フレームを分割して第2の直交変換係数を求め、分割数Nで第2の直交変換係数をグループ化する直交変換部と、N=1の場合は、第1の直交変換係数を1フレーム単位で量子化し、N=Nmaxの場合は、第2の直交変換係数を最大分割されたブロック長単位で量子化し、1<N<Nmaxの場合は、第2の直交変換係数をグループ化単位で量子化する量子化部とを備える。また、直交変換部は、オーディオ信号の変化点近傍のブロック長が短くなるようにグループ化の境界を設定する。
リエコー及びビット不足から生じる音質劣化を改善して、オーディオ信号符号化品質の向上を図ることが可能になる。
本発明の上記および他の目的、特徴および利点は本発明の例として好ましい実施の形態を表す添付の図面と関連した以下の説明により明らかになるであろう。
オーディオ符号化装置の原理図である。 変換マップを示す図である。 フレーム分割例を示す図である。 オーディオ符号化装置の原理図である。 グループ化の一例を示す図である。 グループ化の一例を示す図である。 符号化音声の処理波形を示す図である。(A)は入力信号波形、(B)はビット不足状態のときにSHORTブロックで符号化した波形、(C)は本発明による符号化波形を示す図である。 LONGブロックとSHORTブロックの関係を示す図である。 従来のAACエンコーダの概略構成を示す図である。 アタック音を含む符号化前の入力信号を示す図である。 プリエコーを示す図である。 SHORTブロックで符号化したときの復号音を示す図である。 ビットリザーバの動作概念を示す図である。
以下、本発明の実施の形態を図面を参照して説明する。図1はオーディオ符号化装置の原理図である。第1の実施の形態のオーディオ符号化装置10は、音響分析部11、符号化ビット数監視部12、フレーム分割数決定部13、直交変換部14、量子化部15、ビットストリーム生成部16から構成され、オーディオ信号の符号化を行う装置である。
音響分析部11は、入力されたオーディオ信号をFFT(Fast Fourier Transform)分析してFFTスペクトルを求め、FFTスペクトルから音響パラメータの1つである知覚エントロピーPE(PEはPerceptual Entropyの略)を求める。
知覚エントロピーPEとは、量子化するのに必要なビット数を表すパラメータのことである(リスナーが雑音を知覚することがないように、そのフレームを量子化するのに必要な総ビット数である)。
また、知覚エントロピーPEは、上述したように、アタック音のように信号レベルが急激に増大するところでは大きな値をとるという特性がある。なお、音響パラメータとしては、マスキングしきい値などのパラメータも実際には求めるが、本発明とは直接関係ないので説明は省略する。
符号化ビット数監視部12は、符号化の際にあらかじめ設定される平均量子化ビット数(図13で上述)に対する量子化後の符号化ビット数の過不足(符号化ビット数の消費量)をフレーム毎に求め、現フレームで使用可能なビット数を余剰ビット数として求める。
フレーム分割数決定部13は、知覚エントロピーPEと余剰ビット数との組み合わせにもとづいて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるように、オーディオ信号の1フレームを、1からNまでN分割するための分割数を決定する。
例えば、N=1なら、1つのブロック長はLONGブロックとなり、N=8なら、1つのブロック長はSHORTブロックとなるが、LONG/SHORTブロックの分割数に限らず、オーディオ符号化装置10では、Nは任意の数であり、1フレームを任意のブロック長に分割する。
直交変換部14は、決定された分割数で1フレームを分割し、分割されたブロック長単位でオーディオ信号の直交変換を行って直交変換係数(周波数スペクトル)を求める。直交変換としては、具体的にはMDCT(Modified Discrete Cosine Transform)を行い、直交変換係数としてMDCT係数を求める。
直交変換部14の動作例として、LONGブロックの場合とSHORTブロックの場合について説明すると、LONGブロックが選択された場合は、1024点のMDCTによりMDCT係数を求める。また、SHORTブロックが選択された場合は、128点のMDCTによりMDCT係数を求める。なお、SHORTブロックでは、1フレーム中SHORTブロックは8ブロックあるので、MDCT係数は8組求まることになる。そして、これらのMDCT係数(周波数スペクトル)は、後段の量子化部15へ送信される。
量子化部15は、分割されたブロック長単位で求められたMDCT係数の量子化を行う。このとき、最終的に出力される総ビット数が、現ブロックで許される使用ビット数を超えないように、ビット数を調整して最適化な量子化を実現する。ビットストリーム生成部16は、量子化部15で求められた量子化値を送信フォーマットに乗せて、ビットストリームを生成し、伝送路を通じて送信する。
次にフレーム分割数決定部13における、オーディオ信号1フレームを分割するときの分割数の決定方法について説明する。フレーム分割数決定部13では、音響分析部11から入力された知覚エントロピーPEと、符号化ビット数監視部12から入力された余剰ビット数との値に応じてフレームの分割数Nを求めて、直交変換部14へ出力する。
ここで、知覚エントロピーPEと余剰ビット数に対するフレームの分割数Nの関係は、知覚エントロピーPEについては、知覚エントロピーPEが小さな値ならば、該当フレームは、定常信号がほとんどを占めており、知覚エントロピーPEが大きな値ならば該当フレームには、アタック音のような変化の大きな信号が含まれており、このとき符号化ブロック長を長くすると、プリエコーによって音質劣化が生じる。
したがって、知覚エントロピーPEが大きい場合には、プリエコーによる音質劣化を抑制するために、符号化ブロック長は短く(フレームの分割数Nを多く)することが必要である。
一方、余剰ビット数については、符号化ブロック長が短いと、量子化時のビット数を多く要し、このとき使用可能な余剰ビット数が少ないと、ビット不足状態となって音質劣化が生じる。
したがって、余剰ビット数が少ない場合には、ビット不足による音質劣化を抑制するために、符号化ブロック長を長く(フレームの分割数Nを少なく)することが必要である。
上記の知覚エントロピーPEと余剰ビット数との関係を考慮して、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるように、フレーム分割数決定部13では、知覚エントロピーPEと余剰ビット数との組み合わせに応じて分割数Nを求めるための変換マップを有している。
図2は変換マップを示す図である。変換マップM1の縦軸は知覚エントロピー、横軸は余剰ビット数である。また、1フレームの最大分割数をNmaxとすると、分割数Nを決める境界ライン1〜Nmax−1が設定されている。
変換マップM1を用いることにより、余剰ビット数がa、知覚エントロピーPEの値がbの場合の組合せによるC=(a,b)の位置に応じて、分割数Nを決定することができる(図では分割数=5が求められている)。
なお、変換マップM1の分割するブロックの境界は、等間隔に限定するものではなく、また別の方法として入力信号における変化点の位置に応じて境界を決めることもできる。また、分割数をBlock_Num、余剰ビット数をAvailable_bit、知覚エントロピーをPEとして、Block_Num=F(Available_bit,PE)のような関数Fとして表現することもできる。
一方、直交変換部14は、ブロック分割数Nに応じて、1フレームの入力信号をN個のブロックに分割し、それぞれのブロックに対してMDCTにより周波数スペクトルを求める。また、量子化部15では、ブロック単位のMDCT係数を量子化する。
図3はフレーム分割例を示す図である。フレーム分割数決定部13で決定された分割数が4の場合を示している。従来では、LONGブロックと、8分割したSHORTブロックとのいずれかのブロック長をMDCTして量子化していたが、オーディオ符号化装置10では、知覚エントロピーPEと余剰ビット数に応じて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるような分割数で、1フレームを任意の数に分割することができる。そして、分割したブロック長単位でMDCT、量子化を行う。
図では、1フレームが1024サンプルであれば、分割数=4なので、1ブロック長は256サンプルであり、このブロック長単位でMDCT、量子化が行われることになる。
以上説明したように、オーディオ符号化装置10では、知覚エントロピーPEと余剰ビット数との組み合わせにもとづいて、オーディオ信号の1フレームを、1からNまでN分割するための分割数を求め、求めた分割数で1フレームを分割し、分割されたブロック長単位でオーディオ信号のMDCTを行ってMDCT係数を求め、分割されたブロック長単位でMDCT係数の量子化を行う構成とした。
従来技術(例えば、特開2005−3835号公報)においては、アタック音のような変化の大きい信号が存在するフレームでは、プリエコーを抑制するためにSHORTブロックを選択して符号化すると、符号化に必要なビットが不足して、プリエコーよりも激しい音質劣化が生じてしまうので、ビット不足状態ではLONGブロックを選択して符号化を行っていた。
したがって、従来技術では、単にSHORTブロック(1フレームを8ブロックに分割)とLONGブロック(分割しない)の切り替えのみを行っているだけであるので、変化の大きい信号が存在するフレームの符号化時に、ビット不足状態だからといってLONGブロックを選択した場合には、ビット不足により音質劣化は回避できても、プリエコーによる音質劣化が生じてしまい、適切な音質劣化抑制が行われていなかった。
一方、オーディオ符号化装置10においては、知覚エントロピーPEと余剰ビット数との組み合わせにもとづいて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるような分割数Nを求めて、任意の数で分割されたブロック長を生成し(SHORTブロックやLONGブロックだけでなく、任意の分割数による任意のブロック長を生成する)、そのブロック長単位でMDCT及び量子化を行うので、圧縮率が高く、低ビットレート条件下でのオーディオ符号化時でも、音質劣化を大幅に改善することが可能になる。
次に第2の実施の形態のオーディオ符号化装置について説明する。図4はオーディオ符号化装置の原理図である。オーディオ符号化装置20は、音響分析部21、符号化ビット数監視部22、フレーム分割数決定部23、直交変換部24、量子化部25、ビットストリーム生成部26から構成され、オーディオ信号の符号化を行う装置である。
音響分析部21は、入力されたオーディオ信号(Input_sig(n))をFFT分析してFFTスペクトルを求め、FFTスペクトルから音響パラメータの1つである知覚エントロピーPEを求める。
符号化ビット数監視部22は、符号化の際にあらかじめ設定される平均量子化ビット数に対する量子化後の符号化ビット数の過不足(符号化ビット数の消費量)をフレーム毎に求め、現フレームで使用可能なビット数を余剰ビット数(Available_bit)として求める。
フレーム分割数決定部23は、知覚エントロピーPEと余剰ビット数との組み合わせにもとづいて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるように、オーディオ信号の1フレームを分割する分割数を決定する。
なお、以降ではオーディオ符号化装置20の機能をAACエンコーダに適用したものとして、最大分割数=8とする(最小ブロック長=SHORTブロック)。そして、決定した分割数(Block_Num)は、直交変換部24へ出力される。
直交変換部24は、分割数をNとした際に、N=1の場合は、1フレーム単位で直交変換(MDCT)を行って第1の直交変換係数を求める。また、最大分割数をNmaxとした際に、N=Nmaxの場合は、最大分割数で1フレームを分割し、最大分割されたブロック長単位でオーディオ信号の直交変換を行って第2の直交変換係数を求める。さらに、1<N<Nmaxの場合は、最大分割数で1フレームを分割して第2の直交変換係数を求め、分割数Nで第2の直交変換係数をグループ化する。
量子化部25は、N=1の場合は、第1の直交変換係数を1フレーム単位で量子化し、N=Nmaxの場合は、第2の直交変換係数を最大分割されたブロック長単位で量子化する。さらに、1<N<Nmaxの場合は、第2の直交変換係数をグループ化単位で量子化する。
次にオーディオ符号化装置20の詳細動作について説明する。図4において、1024サンプルの入力信号Input_sig(n)(n=0・・・1023)が、1フレームとして直交変換部24と音響分析部21へと入力される。
〔音響分析部21〕
音響分析部21では、人間の聴覚特性にもとづいて、知覚エントロピーPEを求め、フレーム分割数決定部23へ出力する。
〔符号化ビット数監視部22〕
符号化ビット数監視部22は、現フレームで使用可能な余剰ビット数Available_bitを求めて、フレーム分割数決定部23へ出力する。Available_bitは以下の式(1)を用いて求められる。
Available_bit=average_bit + Reserve_bit ・・・(1)
average_bitは、符号化の際にあらかじめ設定される平均量子化ビット数であり、Reserve_bitは、ビットリザーバに蓄積されているビット数であって、次式で求められる。
Reserve_bit=Prev_Reserve_bit+(average_bit−quant_bit) ・・・(2)
quant_bitは、前フレームでの量子化後の符号化ビット数、Prev_Reserve_bitは、前フレームでのReserve_bitであり、Reserve_bitは平均ビット数に対する量子化ビット数の現フレームでの過不足分で表される。
なお、average_bitは、式(3)で求められる。
average_bit=(bitrate×frame_length)/freq ・・・(3)
bitrateは、符号化ビットレート[bps]、frame_lengthはフレーム長[1024サンプル]、freqは入力信号のサンプリング周波数[Hz]である。
〔フレーム分割数決定部23〕
フレーム分割数決定部23は、音響分析部21で求めた知覚エントロピーPEと、符号化ビット数監視部22で求めたAvailable_bitに応じて、分割数N(Block_Num)を決定し、直交変換部24へ出力する。
分割数は、上述の図2に示した変換マップM1を使用して求める。すなわち、変換マップM1には、あらかじめ境界線1から境界線7が設定されており(境界線の間隔及び本数は任意に設定可能)、知覚エントロピーPEと余剰ビット数Available_bitの組み合わせによるマップ上の位置C=(Available_bit,PE)に応じて分割数Nを決定する。
〔直交変換部24〕
直交変換部24は、Block_Num=1の場合にはLONGブロックとして入力信号1024点のMDCT変換により、MDCT係数(MDCT_LONG)を求める(第1の直交変換係数=(MDCT_LONG))。
Block_Num=8の場合には(Nmax=8)、入力信号をSHORTブロック単位の128点毎にMDCT変換し、MDCT係数(MDCT_SHORT)を8組生成する(第2の直交変換係数=(MDCT_SHORT))。
1<Block_Num<8の場合には、一旦、(MDCT_SHORT)を求める。すなわち、Block_Num=8のときと同様に、入力信号をSHORTブロック単位の128点毎にMDCT変換し、MDCT係数(MDCT_SHORT)を8組生成する。
そして、この8組のMDCT係数を、あらかじめ定めておいたパターンでグループ化して、Block_Num組のMDCT係数を生成する。例えば、Block_Num=5であったならば、8組のMDCT係数を組み合わせて5組にグループ化する。
図5はグループ化の一例を示す図である。1フレームをSHORTブロック単位で8分割し、8分割された1つの最小ブロック長が、分割数2〜7でグループ化されている様子を示している。
例えば、分割数が5の場合、ブロック長は図に示すような5組にグループ化され、グループg1〜g5のグループ化単位でMDCT係数は、後段の量子化部25へ出力されて、グループg1のMDCT係数の量子化、グループg2のMDCT係数の量子化といったように、グループ化単位での量子化が行われる。
図6はグループ化の一例を示す図である。図に示すように、信号変化点の近傍のブロック長ができるだけ短くなるように、グループ化の境界を設定することもできる。
図では例えば、最小ブロック長#6の近傍に、アタック音のような変化の大きな信号が含まれる場合には、最小ブロック長#6近傍のブロック長ができるだけ短くなるように、グループ化の境界を設定している。このように、信号変化点の近傍のブロック長ができるだけ短くなるように、グループ化の境界を設定することで、プリエコーの低減化をさらに図ることが可能になる。
〔量子化部25〕
量子化部25は、Block_Num=1の場合には、MDCT係数(MDCT_LONG)を量子化する。すなわち、1フレーム単位のMDCT係数を量子化して量子化値を求める。
Block_Num=8の場合には、MDCT係数(MDCT_SHORT)を量子化する。すなわち、最大分割数単位(8組)のMDCT係数を量子化して量子化値を求める。
1<Block_Num<8の場合には、グループ化された各SHORTブロックMDCT係数(MDCT_SHORT)を、グループ化単位に量子化して量子化値を求める。
なお、量子化部25では、上記のいずれの場合分けにおいても、周波数バンド毎にMDCT係数を量子化する。すなわち、LONGブロックの場合なら1024個のMDCT係数を周波数バンド毎に量子化し、SHORTブロックの場合なら128個のMDCT係数を周波数バンド毎に量子化する。また、グループ化されている場合、例えば、図5のグループg1の場合なら、256(=128×2)個のMDCT係数を周波数バンド毎に量子化する。
また、このとき最終的に出力される総ビット数が、現ブロックで許される使用ビット数を下回るように、量子化誤差とビット数を調整して最適な量子化を行う。
そして、スペクトル量子化値をビットストリーム生成部26へ出力する。
〔ビットストリーム生成部26〕
ビットストリーム生成部26は、量子化部15で求められた量子化値を送信フォーマットに乗せて、ビットストリームを生成し、伝送路を通じて送信する。
次にオーディオ符号化装置20の効果について説明する。図7は符号化音声の処理波形を示す図である。本発明で実測した符号化音声の処理波形を示しており、(A)は入力信号波形、(B)はビット不足状態のときにSHORTブロックで符号化した波形、(C)は本発明による符号化波形である。
(A)の入力信号には、アタック音が含まれている。このような入力信号をビット不足状態にもかかわらず、SHORTブロックを選択した場合には、(B)に示すように、アタック音部の波形が著しく歪んでおり、大きな音質劣化が生じている。
一方、本発明のように適切なブロック長に分割して符号化した場合、(C)に示すように、アタック音部の波形改善が得られていることがわかる。なお、アタック音部の前後でプリエコー(図中の細かい歪)が発生するが、このプリエコーはわずかな雑音であり主観的に感じられるものではない。
このように、プリエコー及びビット不足から生じる両方の音質劣化を抑制することができ、リスナーが感じる主観的な音質劣化を大幅に改善することができる。
次にオーディオ符号化装置10、20の適用分野について説明する。オーディオ符号化装置10、20は、例えば、1セグディジタルラジオ放送システムや楽音ダウンロードサービスシステムなどに適用可能である。
1セグ放送では、従来の地上波ディジタルテレビ放送に比べ伝送帯域が狭い(=伝送レートが低い)ため、従来よりも情報量の圧縮が必要である。さらにモバイル端末では、無線で電波を伝送する際に生じるエラー(情報欠落)を抑制するため、符号化情報に冗長性を持たせて伝送を行う。したがって、冗長性をもたせる分、さらに高い情報量の圧縮が要求されている。
一方、携帯端末への楽音ダウンロードサービスなどでは、携帯端末に搭載されている記憶媒体のメモリ容量やデータ通信量に伴う課金などのユーザにとっての制約があるため、より圧縮率が高く、かつ音質が良い情報量の圧縮が要求されている。
オーディオ符号化装置10、20では、知覚エントロピーPEと余剰ビット数に応じて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるようにフレームを適応的に分割して符号化を行うので、上記のような、圧縮率が高く、低ビットレートの厳しい条件下において使用しても、音質劣化を大幅に改善することができ、高品質なオーディオ符号化を行うことが可能になる。
以上説明したように、本発明によれば、音響分析によって得られた知覚エントロピー(入力信号の変化の度合い)とその時点で使用可能なビット数を監視することにより、ビット不足による音質劣化を事前に予測し、入力信号に対して、使用可能なビット数を考慮した最適なブロック長(ブロック分割数)を決定することができる。これにより、ビット不足状態でのSHORTブロック選択による著しい音質劣化を回避することが可能になる。
また、最大分割数Nmaxで直交変換した際の周波数スペクトルをグループ化することにより、符号化方式の規格によって分割数が限定される場合でも(例えば、AACエンコーダでは、1フレームをSHORTブロックにするには、最大分割数=8)、擬似的にN分割の符号化を実行することが可能になる。
さらに、入力信号における変化点の位置に応じて、ブロック境界を決めることにより、分割数Nが少ない場合でも変化点で生じるプリエコーを低減化することが可能になる。
上記については単に本発明の原理を示すものである。さらに、多数の変形、変更が当業者にとって可能であり、本発明は上記に示し、説明した正確な構成および応用例に限定されるものではなく、対応するすべての変形例および均等物は、添付の請求項およびその均等物による本発明の範囲とみなされる。
符号の説明
10 オーディオ符号化装置
11 音響分析部
12 符号化ビット数監視部
13 フレーム分割数決定部
14 直交変換部
15 量子化部
16 ビットストリーム生成部
PE 知覚エントロピー

Claims (4)

  1. オーディオ信号の符号化を行うオーディオ符号化装置において、
    前記オーディオ信号を分析して、量子化するのに必要なビット数を表すパラメータである知覚エントロピーを求める音響分析部と、
    前記オーディオ信号を符号化した際の符号化ビット数を監視して、現フレームで使用可能なビット数である余剰ビット数を求める符号化ビット数監視部と、
    前記知覚エントロピーと前記余剰ビット数との組み合わせにもとづいて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるように、前記オーディオ信号の1フレームを分割する分割数を決定するフレーム分割数決定部と、
    前記分割数をNとした際に、N=1の場合は、1フレーム単位で直交変換を行って第1の直交変換係数を求め、最大分割数をNmaxとした際に、N=Nmaxの場合は、前記最大分割数で1フレームを分割し、最大分割されたブロック長単位で前記オーディオ信号の直交変換を行って第2の直交変換係数を求め、1<N<Nmaxの場合は、前記最大分割数で1フレームを分割して前記第2の直交変換係数を求め、分割数Nで前記第2の直交変換係数をグループ化する直交変換部と、
    N=1の場合は、前記第1の直交変換係数を1フレーム単位で量子化し、N=Nmaxの場合は、前記第2の直交変換係数を最大分割されたブロック長単位で量子化し、1<N<Nmaxの場合は、前記第2の直交変換係数をグループ化単位で量子化する量子化部と、
    を備え、
    前記直交変換部は、前記オーディオ信号の変化点近傍のブロック長が短くなるようにグループ化の境界を設定する、
    ことを特徴とするオーディオ符号化装置。
  2. 前記フレーム分割数決定部は、前記知覚エントロピーが大きい値をとる場合は、プリエコーによる音質劣化を抑制するために前記分割数を多くしてブロック長が小さくなるように、前記余剰ビット数が少ない場合は、ビット不足から生じる音質劣化を抑制するために前記分割数を少なくしてブロック長が大きくなるように、前記知覚エントロピーと前記余剰ビット数に対する前記分割数の関係を定めた変換マップを有することを特徴とする請求項1記載のオーディオ符号化装置。
  3. オーディオ信号の符号化を行うオーディオ符号化方法において、
    前記オーディオ信号を分析して、量子化するのに必要なビット数を表すパラメータである知覚エントロピーを求め、
    前記オーディオ信号を符号化した際の符号化ビット数を監視して、現フレームで使用可能なビット数である余剰ビット数を求め、
    前記知覚エントロピーと前記余剰ビット数との組み合わせにもとづいて、プリエコー及びビット不足から生じる音質劣化を抑制する符号化ブロック長となるように、前記オーディオ信号の1フレームを分割する分割数を決定し、
    前記分割数をNとした際に、N=1の場合は、1フレーム単位で直交変換を行って第1の直交変換係数を求め、
    最大分割数をNmaxとした際に、N=Nmaxの場合は、前記最大分割数で1フレームを分割し、最大分割されたブロック長単位で前記オーディオ信号の直交変換を行って第2の直交変換係数を求め、
    1<N<Nmaxの場合は、前記最大分割数で1フレームを分割して前記第2の直交変換係数を求め、分割数Nで前記第2の直交変換係数をグループ化し、
    N=1の場合は、前記第1の直交変換係数を1フレーム単位で量子化し、
    N=Nmaxの場合は、前記第2の直交変換係数を最大分割されたブロック長単位で量子化し、
    1<N<Nmaxの場合は、前記第2の直交変換係数をグループ化単位で量子化し、
    前記グループ化の境界は、前記オーディオ信号の変化点近傍のブロック長が短くなるように設定する、
    ことを特徴とするオーディオ符号化方法。
  4. 前記知覚エントロピーが大きい値をとる場合は、プリエコーによる音質劣化を抑制するために前記分割数を多くしてブロック長が小さくなるように、前記余剰ビット数が少ない場合は、ビット不足から生じる音質劣化を抑制するために前記分割数を少なくしてブロック長が大きくなるように、前記知覚エントロピーと前記余剰ビット数に対する前記分割数の関係を定めることを特徴とする請求項3記載のオーディオ符号化方法。
JP2007534206A 2005-09-05 2005-09-05 オーディオ符号化装置及びオーディオ符号化方法 Expired - Fee Related JP4454664B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2005/016271 WO2007029304A1 (ja) 2005-09-05 2005-09-05 オーディオ符号化装置及びオーディオ符号化方法

Publications (2)

Publication Number Publication Date
JPWO2007029304A1 JPWO2007029304A1 (ja) 2009-03-12
JP4454664B2 true JP4454664B2 (ja) 2010-04-21

Family

ID=37835441

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007534206A Expired - Fee Related JP4454664B2 (ja) 2005-09-05 2005-09-05 オーディオ符号化装置及びオーディオ符号化方法

Country Status (5)

Country Link
US (1) US7930185B2 (ja)
EP (1) EP1933305B1 (ja)
JP (1) JP4454664B2 (ja)
KR (1) KR100979624B1 (ja)
WO (1) WO2007029304A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5182792B2 (ja) * 2007-10-07 2013-04-17 アルパイン株式会社 マルチコアプロセッサ制御方法及び装置
US20090144054A1 (en) * 2007-11-30 2009-06-04 Kabushiki Kaisha Toshiba Embedded system to perform frame switching
US8700410B2 (en) * 2009-06-18 2014-04-15 Texas Instruments Incorporated Method and system for lossless value-location encoding
JP5287546B2 (ja) * 2009-06-29 2013-09-11 富士通株式会社 情報処理装置およびプログラム
JP6039678B2 (ja) * 2011-10-27 2016-12-07 エルジー エレクトロニクス インコーポレイティド 音声信号符号化方法及び復号化方法とこれを利用する装置
CN103325373A (zh) 2012-03-23 2013-09-25 杜比实验室特许公司 用于传送和接收音频信号的方法和设备
WO2013151004A1 (ja) * 2012-04-02 2013-10-10 日本電信電話株式会社 符号化方法、符号化装置、復号方法、復号装置、プログラム及び記録媒体
WO2013187498A1 (ja) * 2012-06-15 2013-12-19 日本電信電話株式会社 符号化方法、符号化装置、復号方法、復号装置、プログラム及び記録媒体
JP6146686B2 (ja) * 2015-09-15 2017-06-14 カシオ計算機株式会社 データ構造、データ格納装置、データ取り出し装置および電子楽器
US10210854B2 (en) * 2015-09-15 2019-02-19 Casio Computer Co., Ltd. Waveform data structure, waveform data storage device, waveform data storing method, waveform data extracting device, waveform data extracting method and electronic musical instrument
CN117746872A (zh) * 2022-09-15 2024-03-22 抖音视界有限公司 音频编码方法、装置、设备及存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62139089A (ja) * 1985-12-13 1987-06-22 Nippon Telegr & Teleph Corp <Ntt> ベクトル量子化方式
JP3010637B2 (ja) * 1989-07-29 2000-02-21 ソニー株式会社 量子化装置及び量子化方法
CN1062963C (zh) 1990-04-12 2001-03-07 多尔拜实验特许公司 用于产生高质量声音信号的解码器和编码器
EP0559348A3 (en) * 1992-03-02 1993-11-03 AT&T Corp. Rate control loop processor for perceptual encoder/decoder
JP3252005B2 (ja) 1993-03-08 2002-01-28 パイオニア株式会社 適応ブロック長変換符号化のブロック長選択装置
JPH09232964A (ja) * 1996-02-20 1997-09-05 Nippon Steel Corp ブロック長可変型変換符号化装置および過渡状態検出装置
JP4499197B2 (ja) 1997-07-03 2010-07-07 ソニー株式会社 ディジタル信号符号化装置及び方法、復号化装置及び方法、並びに伝送方法
US6499010B1 (en) * 2000-01-04 2002-12-24 Agere Systems Inc. Perceptual audio coder bit allocation scheme providing improved perceptual quality consistency
WO2002056297A1 (en) * 2001-01-11 2002-07-18 Sasken Communication Technologies Limited Adaptive-block-length audio coder
JP4062971B2 (ja) * 2002-05-27 2008-03-19 松下電器産業株式会社 オーディオ信号符号化方法
JP2005003835A (ja) 2003-06-11 2005-01-06 Canon Inc オーディオ信号符号化装置、オーディオ信号符号化方法、及びプログラム
WO2005004113A1 (ja) * 2003-06-30 2005-01-13 Fujitsu Limited オーディオ符号化装置
SG120118A1 (en) * 2003-09-15 2006-03-28 St Microelectronics Asia A device and process for encoding audio data
JP2005165056A (ja) * 2003-12-03 2005-06-23 Canon Inc オーディオ信号符号化装置及び方法
US7627481B1 (en) * 2005-04-19 2009-12-01 Apple Inc. Adapting masking thresholds for encoding a low frequency transient signal in audio data

Also Published As

Publication number Publication date
KR100979624B1 (ko) 2010-09-01
EP1933305B1 (en) 2011-12-21
KR20080032240A (ko) 2008-04-14
WO2007029304A1 (ja) 2007-03-15
EP1933305A1 (en) 2008-06-18
US7930185B2 (en) 2011-04-19
US20080154589A1 (en) 2008-06-26
EP1933305A4 (en) 2009-08-26
JPWO2007029304A1 (ja) 2009-03-12

Similar Documents

Publication Publication Date Title
JP4454664B2 (ja) オーディオ符号化装置及びオーディオ符号化方法
US7277849B2 (en) Efficiency improvements in scalable audio coding
JP6592148B2 (ja) 高周波数の再構成方法を使用するコーディング・システムの性能拡大方法
US8612219B2 (en) SBR encoder with high frequency parameter bit estimating and limiting
US7761290B2 (en) Flexible frequency and time partitioning in perceptual transform coding of audio
US6122618A (en) Scalable audio coding/decoding method and apparatus
CN110706715B (zh) 信号编码和解码的方法和设备
KR100908117B1 (ko) 비트율 조절가능한 오디오 부호화 방법, 복호화 방법,부호화 장치 및 복호화 장치
US20070078646A1 (en) Method and apparatus to encode/decode audio signal
JP4021124B2 (ja) デジタル音響信号符号化装置、方法及び記録媒体
US7466245B2 (en) Digital signal processing apparatus, digital signal processing method, digital signal processing program, digital signal reproduction apparatus and digital signal reproduction method
EP1187101B1 (en) Method and apparatus for preclassification of audio material in digital audio compression applications
JP2008158301A (ja) 信号処理装置、信号処理方法、再生装置、再生方法、電子機器
KR100908116B1 (ko) 비트율 조절가능한 오디오 부호화 방법, 복호화 방법,부호화 장치 및 복호화 장치
JP2008158300A (ja) 信号処理装置、信号処理方法、再生装置、再生方法、電子機器
JP4530567B2 (ja) デジタルオーディオ復号装置
KR20050040441A (ko) 스케일러블 오디오 복/부호화 방법 및 장치
JP2008158302A (ja) 信号処理装置、信号処理方法、再生装置、再生方法、電子機器
Ravelli et al. A perceptually enhanced scalable-to-lossless audio coding scheme and a trellis-based approach for its optimization
Noll Wideband Audio
Lai et al. A NMR Optimized Bitrate Transcoder for MPEG-2/4 LC-AAC

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4454664

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140212

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees