JP2005099629A - 逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム - Google Patents
逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム Download PDFInfo
- Publication number
- JP2005099629A JP2005099629A JP2003335736A JP2003335736A JP2005099629A JP 2005099629 A JP2005099629 A JP 2005099629A JP 2003335736 A JP2003335736 A JP 2003335736A JP 2003335736 A JP2003335736 A JP 2003335736A JP 2005099629 A JP2005099629 A JP 2005099629A
- Authority
- JP
- Japan
- Prior art keywords
- value
- scf
- inverse quantization
- shift
- conversion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】 スケールファクタインデックスScf、ビットアロケーションBa、量子化符号Xを入力し、逆量子化値Yを出力する逆量子化処理を、ビットシフト処理を用いることによって、乗算の回数を減じて行なう。乗算を1回しか行なわない場合でも、スケールファクタインデックスから2の整数乗の部分を第1のシフト量S1として取出すことだけでなく、ビットアロケーションBaおよび参照値Rから2の整数乗の部分を第2のシフト量S2として取出し、できる限り量子化符号Xに対する乗算処理をビットシフト処理に置き換えて、1回の乗算で発生する誤差を小さく抑えている。
【選択図】 図2
Description
スケールファクタインデックスScfは、MPEG1−Audio Layer IIフォーマット中に6ビットのビット列として格納されている。このビット列がそのまま整数値として読出され、スケールファクタインデックスScfとして使用される。ただし、ISO/IEC11172−3の中で、この6ビット中の全ビットが“1”となることは禁止されているので、読出されるスケールファクタインデックスScfは、0〜62の範囲の整数値となる。
0010 1000 0000 0000 0000 0000として保持される。
1010 1000 0000 0000 0000 0000となる。
Y=2(P1[Scf]/M)*P2[Ba]*(X+P3[Ba]) …(11)
ここで、「*」は乗算を表す演算符号であり、「/」は除算を表す演算符号である。P2[Ba],P3[Ba]は、ビットアロケーションBaに対して決まる小数値であり、図13に示したテーブルの値C,Dとしてそれぞれ定められている。ビットアロケーションBaと小数値P2[Ba],P3[Ba]との対応付けは、図12、図13を参照することで決定される。
次に、ISO/IEC11172−3に記載されたMPEG1−Audio Layer II方式で採用されている逆量子化、および、逆スケーリング処理を実現する、従来の逆量子化および逆スケーリング装置について説明する。
Sv=2((3-Scf)/3) …(12)
テーブル参照部111は、ビットアロケーションBaを入力として、変換用テーブルTo2を参照して、変換係数Co1,Co2を生成して出力する。変換用テーブルTo2には、図12で示された0〜16のビットアロケーションBaに対して、対応する図13のCが変換係数Co1の値として格納され、図13の対応するDが変換係数Co2の値として格納されている。
Zo=Co1*(X+Co2) …(13)
変換部113は、スケーリング係数Svと、変換値Zoとを入力として受け、逆量子化値Yを生成し出力する。変換部113における変換は、次式(14)に示された乗算処理によって行なわれる。
Y=Sv*Zo …(14)
以上のようにして、従来は、逆量子化、および、逆スケーリングが行なわれていた。
Zo=Co1*(X+Co2) …(15)
ステップS104が終了すると、続いてステップS105において第2の変換処理が行なわれる。ステップS105では、RAMからスケーリング係数Svと、変換値Zoとを読出し、次の式(16)に示された乗算処理を行ない、逆量子化値Yを生成しRAMに格納する。
Y=Sv*Zo …(16)
最後に、ステップS106において逆量子化および逆スケーリング処理が終了する。
Y=2(P1[Scf]/M)*P2[Ba]*(X+P3[Ba]) …(11)再掲
なお、逆量子化処理の演算の負荷を小さくする関連技術が、特開平8−292795(特許文献1)に開示されている。
S1=int(P1[Scf]/M) …(1)
R=mod(P1[Scf],M) …(2)
S2=int((R/M)+log2(P2[Ba]) …(3)
C1=(2(R/M)*P2[Ba])*(2(-S2)) …(4)
C2=P3[Ba] …(5)
Z=C1*(X+C2) …(6)
Y=Z*2(S1+S2) …(7)
ただし、P1[Scf]は、各スケールファクタインデックスScfの値に対し予め定められた整数を示し、P2[Ba],P3[Ba]は、各ビットアロケーションBaの値に対し予め定められた小数を示し、Mは、予め定められた正の整数を示す。
Z=C1*X+C2
に従い変換値Zを生成する。
S1=int(P1[Scf]/M) …(1)
R=mod(P1[Scf],M) …(2)
S2=int((R/M)+log2(P2[Ba]) …(3)
C1=(2(R/M)*P2[Ba])*(2(-S2)) …(4)
C2=P3[Ba] …(5)
Z=C1*(X+C2) …(6)
Y=Z*2(S1+S2) …(7)
ただし、P1[Scf]は、各スケールファクタインデックスScfの値に対し予め定められた整数を示し、P2[Ba],P3[Ba]は、各ビットアロケーションBaの値に対し予め定められた小数を示し、Mは、予め定められた正の整数を示す。
図1は、実施の形態1のオーディオ復号化装置の構成例を示したブロック図である。
S1=int((3−Scf)/3) …(17)
R=mod(3−Scf,3) …(18)
ここで、int(A)は、Aを超えない最大の整数を生成する演算である。また、mod(A,B)は、整数A,整数Bに対し、A−int(A/B)*Bを算出する演算である。このとき、参照値Rは、0〜2の範囲の整数値となる。
S2=int((R/3)+log2(P2[Ba]) …(19)
C1=(2(R/3)*P2[Ba])*(2(-S2)) …(20)
C2=P3[Ba] …(21)
ここで、P2[Ba]は、図13のCと図12とを参照してビットアロケーションBaから得られる値である。また、P3[Ba]は、図13のDと図12とを参照してビットアロケーションBaから得られる値である。
Z=C1*(X+C2) …(6)
シフト処理部13は、シフト量S1,S2と、変換値Zとを入力として受けて逆量子化値Yを生成し出力する。シフト処理部13は、次の式(22)、式(23)に示された演算に基づいて逆量子化値Yを算出する。Yは結局、式(7)で示される値となる。
Z2=Z*2(S1) …(22)
Y=Z2*2(S2) …(23)
Y=Z*2(S1+S2) …(7)
このとき、2の整数乗を乗算することは、ビットシフト処理として容易に実現することができる。
Y=2((3-Scf)/3)*P2[Ba]*(X+P3[Ba]) …(24)
Y=Z2*2(S2) …(23)再掲
式(23)に式(22)を用いてZ2を展開すると、
Y=Z*2(S1)*2(S2) …(25)
さらに、式(6)を用いてZを展開すると、
Y=C1*(X+C2)*2(S1)*2(S2) …(26)
さらに、式(20)(21)を用いてC1,C2を展開すると
Y=(2(R/3)*P2[Ba])*2(-S2)*(X+P3[Ba])*2(S1)*2(S2) …(27)
式を整理して、
Y=(2(R/3)*P2[Ba])*(X+P3[Ba])*2(S1) …(28)
さらに、式(17)(18)を用いてR,S1を展開して、
Y=(2(mod(3-Scf,3)/3)*P2[Ba])*(X+P3[Ba])*2(int((3-Scf)/3)) …(29)
式を整理して、
Y=(2(mod(3-Scf,3)/3+int((3-Scf)/3))*P2[Ba])*(X+P3[Ba]) …(30)
mod、intの定義より、
Y=2((3-Scf)/3)*P2[Ba]*(X+P3[Ba]) …(31)
以上より式(31)は式(24)と同じになる。したがって、式(23)で得られた逆量子化値Yが従来手法の式(11)に対して本質的に等価であることが示された。
シフト処理部13は、シフト量S1,S2と、変換値Zとを入力としてまず次の式(32)に従って全体のシフト量を求め、次に式(33)に従ってシフト量S1,S2の両者をまとめてビットシフト処理してもよい。
S3=S1+S2 …(32)
Y=Z*2(S3) …(33)
これにより、1回のビットシフト処理で、逆量子化および逆スケーリング処理を実現することができ、処理がより簡素化される場合もある。
変換用テーブルT2に式(34)に基づき予め算出した係数C3を格納しておき、変換部12はテーブル参照部11から係数C3を受けて、式(35)に基づいて加算および乗算処理を行ない変換値Zを生成して出力してもよい。
C2=C1*C2 …(34)
Z=C1*X+C2 …(35)
このような変形例でも同様に逆量子化および逆スケーリング処理を実現することができる。
S1=int(P1[Scf]/M) …(1)
R=mod(P1[Scf],M) …(2)
S2=int((R/M)+log2(P2[Ba]) …(3)
C1=(2(R/M)*P2[Ba])*(2(-S2)) …(4)
C2=P3[Ba] …(5)
また、本実施の形態では、P2[Ba]、P3[Ba]の値として、ISO/IEC11172−3で定められた値を用いたが、本発明の内容は、この場合に限定されるものではなく、予め定められた係数であれば、同様の処理を行なうことで、逆量子化および逆スケーリング処理を実現することができる。
図3は、実施の形態2のオーディオ復号化装置21の構成例を説明するブロック図である。
Z=C1*(X+C2) …(6)再掲
続いてステップS15においてシフト処理が行なわれる。シフト処理は、シフト量S1,S2と変換値ZとがRAM25から読出され、次の式(22)にさらに式(23)に示された演算が行なわれ、逆量子化値Yが生成される。生成された逆量子化値YはRAMに格納される。
Z2=Z*2(S1) …(22)再掲
Y=Z2*2(S2) …(23)再掲
以上のようにして、逆量子化および逆スケーリング処理が行なわれステップS16においてこの処理が終了する。
以下に、具体的な数値を例に挙げて、本発明による逆量子化および逆スケーリング処理が、従来の手法と比べて演算精度が改善される場合について説明する。
この計算過程で生ずる各値の範囲と最適な小数点の設定によって誤差に大きな影響がある。
Y=(C1*(X+P3[Ba]))>>(S1+S2) …(37)
但し、>>はビットシフト演算子を示す。また、上式において各変数は、
C1=(2(mod(3-Scf,3)/3)*P2[Ba])*(2(-S2)) …(38)
S2=int((mod(3−Scf,3)/3)+log2(P2[Ba])…(39)
S1=int((3−Scf)/3) …(40)
である。
Claims (9)
- 量子化符号X、スケールファクタインデックスScfおよびビットアロケーションBaを受けて逆量子化および逆スケーリング処理を行い逆量子化値Yを出力する逆量子化装置であって、
下式(1),(2)に基づき予め算出された各スケールファクタインデックスScfに対応するシフト量S1および参照値Rを格納する第1の記憶手段と、
前記第1の記憶手段を参照して、入力されたスケールファクタインデックスScfに対応する前記シフト量S1および前記参照値Rを得る第1の参照手段と、
下式(3),(4),(5)に基づき予め算出された各参照値Rおよび各ビットアロケーションBaに対応するシフト量S2,変換係数C1およびC2を格納する第2の記憶手段と、
前記第2の記憶手段を参照して、前記第1の参照手段から出力された前記参照値Rと入力されたビットアロケーションBaに対応する前記シフト量S2,前記変換係数C1およびC2を得る第2の参照手段と、
入力された量子化符号Xと前記第2の参照手段から出力された変換係数C1およびC2とを用いて下式(6)に従う変換を行い変換値Zを出力する変換手段と、
前記変換手段から出力された前記変換値Zに対し前記第1、第2の参照手段によってぞれぞれ得られた前記シフト量S1,S2を用い下式(7)に従うシフト処理を行い前記逆量子化値Yを出力するシフト処理手段とを備える、逆量子化装置:
S1=int(P1[Scf]/M) …(1)
R=mod(P1[Scf],M) …(2)
S2=int((R/M)+log2(P2[Ba]) …(3)
C1=(2(R/M)*P2[Ba])*(2(-S2)) …(4)
C2=P3[Ba] …(5)
Z=C1*(X+C2) …(6)
Y=Z*2(S1+S2) …(7)
ただし、P1[Scf]は、各スケールファクタインデックスScfの値に対し予め定められた整数を示し、P2[Ba],P3[Ba]は、各ビットアロケーションBaの値に対し予め定められた小数を示し、Mは、予め定められた正の整数を示す。 - 前記シフト処理手段は、前記シフト処理を、前記シフト量S1に対応する第1のシフト演算を行ない、さらに、前記シフト量S2に対応する第2のシフト演算を行なうことにより実行する、請求項1に記載の逆量子化装置。
- 前記シフト処理手段は、前記シフト処理を、前記シフト量S1と前記シフト量S2の合計値に対応するシフト演算を一括して行なうことにより実行する、請求項1に記載の逆量子化装置。
- 前記変換手段は、変換係数C1,C2および量子化符号Xに基づき次式
Z=C1*X+C2
に従い前記変換値Zを生成する、請求項1〜3のいずれかに記載の逆量子化装置。 - 前記P1[Scf]は、3−Scfであり、
前記Mは、3である、請求項1〜4のいずれかに記載の逆量子化装置。 - 復号化時に逆量子化処理を含むオーディオ符号化方式に基づいて復号化処理を行なうオーディオ復号化装置であって、
請求項1〜5のいずれかに記載の逆量子化装置を備える、オーディオ復号化装置。 - 復号化時に逆量子化処理を含む画像符号化方式に基づいて復号化処理を行なう画像復号化装置であって、
請求項1〜5のいずれかに記載の逆量子化装置を備える、画像復号化装置。 - 量子化符号X、スケールファクタインデックスScfおよびビットアロケーションBaを受けて逆量子化および逆スケーリング処理を行い逆量子化値Yを出力する逆量子化方法であって、
下式(1),(2)に基づき予め算出された各スケールファクタインデックスScfに対応するシフト量S1および参照値Rを格納する第1の記憶手段を参照して、入力されたスケールファクタインデックスScfに対応する前記シフト量S1および前記参照値Rを得るステップと、
下式(3),(4),(5)に基づき予め算出された各参照値Rおよび各ビットアロケーションBaに対応するシフト量S2,変換係数C1およびC2を格納する第2の記憶手段を参照して、得られた前記参照値Rと入力されたビットアロケーションBaに対応する前記シフト量S2,前記変換係数C1およびC2を得るステップと、
入力された量子化符号Xと得られた前記変換係数C1およびC2とを用いて下式(6)に従う変換を行い変換値Zを出力するステップと、
出力された前記変換値Zに対し得られた前記シフト量S1,S2を用い下式(7)に従うシフト処理を行い前記逆量子化値Yを出力するステップとを備える、逆量子化方法:
S1=int(P1[Scf]/M) …(1)
R=mod(P1[Scf],M) …(2)
S2=int((R/M)+log2(P2[Ba]) …(3)
C1=(2(R/M)*P2[Ba])*(2(-S2)) …(4)
C2=P3[Ba] …(5)
Z=C1*(X+C2) …(6)
Y=Z*2(S1+S2) …(7)
ただし、P1[Scf]は、各スケールファクタインデックスScfの値に対し予め定められた整数を示し、P2[Ba],P3[Ba]は、各ビットアロケーションBaの値に対し予め定められた小数を示し、Mは、予め定められた正の整数を示す。 - 請求項8に記載の逆量子化方法に基づく処理を、コンピュータに実行させるための逆量子化プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003335736A JP3889738B2 (ja) | 2003-09-26 | 2003-09-26 | 逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003335736A JP3889738B2 (ja) | 2003-09-26 | 2003-09-26 | 逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005099629A true JP2005099629A (ja) | 2005-04-14 |
JP3889738B2 JP3889738B2 (ja) | 2007-03-07 |
Family
ID=34463041
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003335736A Expired - Fee Related JP3889738B2 (ja) | 2003-09-26 | 2003-09-26 | 逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3889738B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007195117A (ja) * | 2006-01-23 | 2007-08-02 | Toshiba Corp | 動画像復号装置 |
CN112085188A (zh) * | 2019-06-12 | 2020-12-15 | 上海寒武纪信息科技有限公司 | 一种神经网络的量化参数确定方法及相关产品 |
-
2003
- 2003-09-26 JP JP2003335736A patent/JP3889738B2/ja not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007195117A (ja) * | 2006-01-23 | 2007-08-02 | Toshiba Corp | 動画像復号装置 |
CN112085188A (zh) * | 2019-06-12 | 2020-12-15 | 上海寒武纪信息科技有限公司 | 一种神经网络的量化参数确定方法及相关产品 |
CN112085188B (zh) * | 2019-06-12 | 2024-04-02 | 上海寒武纪信息科技有限公司 | 一种神经网络的量化参数确定方法及相关产品 |
Also Published As
Publication number | Publication date |
---|---|
JP3889738B2 (ja) | 2007-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4049791B2 (ja) | 浮動小数点形式ディジタル信号可逆符号化方法、及び復号化方法と、その各装置、その各プログラム | |
JP2010537245A (ja) | デジタルコンテンツの符号化および/または復号 | |
JP2010537245A5 (ja) | ||
US20060212290A1 (en) | Audio coding apparatus and audio decoding apparatus | |
TW201126514A (en) | Conversion of synthesized spectral components for encoding and low-complexity transcoding | |
JP2001184080A (ja) | 圧縮オーディオデータへの電子透かし方法およびそのシステム | |
JP2000323993A (ja) | Mpeg1オーディオレイヤiii復号処理装置およびコンピュータをmpeg1オーディオレイヤiii復号処理装置として機能させるためのプログラムを記録したコンピュータ読取可能な記録媒体 | |
JP2002335161A (ja) | 信号処理装置及び方法、信号符号化装置及び方法、並びに信号復号装置及び方法 | |
JP3208001B2 (ja) | 副バンドコーディングシステムの信号処理装置 | |
KR20060084440A (ko) | 오디오 인코딩에서 신속한 코드북 선택 방법 | |
JP3889738B2 (ja) | 逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム | |
JP3475344B2 (ja) | 高速分析フィルタ及び合成フィルタを備えるオーディオ符号化器及び復号化器 | |
JPH07199996A (ja) | 波形データ符号化装置、波形データ符号化方法、波形データ復号装置、及び波形データ符号化/復号装置 | |
JPH0969781A (ja) | オーディオデータ符号化装置 | |
JP4357852B2 (ja) | 時系列信号の圧縮解析装置および変換装置 | |
JP3877683B2 (ja) | 量子化装置及び逆量子化装置、並びにそれらの装置を利用可能なオーディオ及び画像の符号化装置及び復号装置 | |
JP4170795B2 (ja) | 時系列信号の符号化装置および記録媒体 | |
JP4736331B2 (ja) | 音響信号の再生装置 | |
JP3501246B2 (ja) | Mpegオーディオデコーダ | |
JP4438655B2 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
JP2006162774A (ja) | 信号処理装置 | |
JP2004198559A (ja) | 時系列信号の符号化方法および復号方法 | |
JP2002300042A (ja) | 信号復号方法および信号復号装置ならびに信号復号処理プログラムを記録した記録媒体 | |
JP3389849B2 (ja) | 量子化装置 | |
US7395300B2 (en) | System, and method for calculating product of constant and mixed number power of two |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060509 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060706 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060808 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060926 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20061020 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061121 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061130 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101208 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101208 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111208 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |