CN101095137A - 8×8变换和量化 - Google Patents

8×8变换和量化 Download PDF

Info

Publication number
CN101095137A
CN101095137A CN200480034441.8A CN200480034441A CN101095137A CN 101095137 A CN101095137 A CN 101095137A CN 200480034441 A CN200480034441 A CN 200480034441A CN 101095137 A CN101095137 A CN 101095137A
Authority
CN
China
Prior art keywords
matrix
quantization
displacement
bit
scaled
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN200480034441.8A
Other languages
English (en)
Inventor
周民华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Texas Instruments Inc
Original Assignee
Texas Instruments Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Texas Instruments Inc filed Critical Texas Instruments Inc
Publication of CN101095137A publication Critical patent/CN101095137A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Abstract

本发明提供低复杂性(16比特算法的)视频压缩，其具有8×8块，带有使用8×8整数矩阵的变换和带有查询表标量加上用于所有量化步骤的常量右移的量化。逆量化也有一查询表标量加上依赖于所述量化步骤的右移及使用所述8×8整数矩阵的逆变换。

Description

8×8变换和量化
技术领域
本发明涉及数字图形和视频信号处理，并且尤其涉及块变换和/或量化加上逆量化和/或逆变换。
背景技术
存在着多种用于数字视频通信和存储的应用软件，且相应的国际标准已经并且继续在开发。例如视频电话和会议的低比特率通信，加上例如动画的大视频文件压缩，导致产生了如H.261、H.263、MPEG-1、MPEG-2和AVS等多种视频压缩标准。这些压缩方法依赖离散余弦变换(DCT)或模拟变换加上变换系数的量化，以减少需要编码的比特的数目。
基于DCT的压缩方法将图片分解成宏块，其中每一宏块含有四个8×8亮度块加上两个8×8的色度块，不过也可以使用其它块尺寸和变换变量。图2描述基于DCT的视频编码的功能块。为减少比特率，8×8 DCT用于将8×8块(亮度和色度)转换成频率域。接着，DCT系数的8×8块经量化，扫描成1-D序列，并通过使用可变长度编码(VLC)编码。对于涉及动态补偿(MC)的预测编码，需要逆量化和IDCT来用于反馈回路。除MC以外，图2中的所有功能块都在8×8块基础上运作。图2中的率控制单元负责在允许的范围中且根据目标比特率和缓冲器充满程度产生量化步骤(qp)，以控制DCT系数量化单元。当然，更大的量化步骤意味着更多的消失和/或更小的量化系数，其意味着更少和/或更短的码字以及因此更小的比特率和文件。
存在着两种编码的宏块。INTRA编码的宏块是独立于先前的参考帧编码的。在INTER编码的宏块中，首先为(当前宏块的)每一块产生来自先前参考帧的动态补偿预测块，接着解码预测误差块(即当前块与预测块之间的差异块)。
对于INTRA编码的宏块，INTRA-编码的8×8 DCT块中的第一(0，0)系数称为DC系数，所述块中63个DCT系数的其余系数称为AC系数；而对于INTER编码的宏块，一INTER编码的8×8 DCT块中所有64个DCT系数均视为AC系数。所述DC系数可以用所述量化步骤的一固定值量化，而AC系数具有根据比特率控制调整的量化步骤，所述比特率控制将在编码一图片中已用到的比特与将使用的分配比特数目作比较。另外，一量化矩阵(例如，在MPEG-4中)允许DCT系数中的变化量化步骤。
特别地，所述8×8两维DCT定义为：
F ( u , v ) = 1 4 C ( u ) C ( v ) Σ x = 0 7 Σ y = 0 7 f ( x , y ) cos ( 2 x + 1 ) uπ 16 cos ( 2 y + 1 ) vπ 16
式中f(x，y)为所述输入8×8样本块，且F(u，v)为输出8×8变换块，其中u、v、x、y＝0、1……7；且
注意，此变换具有8×8矩阵乘法的形式，F＝D′×f×D，
其中，D为具有u及x元素的8×8矩阵 C ( u ) cos ( 2 x + 1 ) uπ 16 .
所述变换以双精度执行，且最终变换系数取舍为整数值。
接着，将变换系数的量化定义为
QF ( u , v ) = F ( u , v ) QP
其中QP为从所述量化步骤以双精度计算的量化因子，qp是作为指数，例如：QP＝2qp/8。量化系数经取舍成整数值且经编码。
相应的逆量化变为：
F′(u，v)＝QF(u，v)*QP
双精度值取舍成整数值。
最后，所述逆变换(重新建立的样本块)为：
f ′ ( x , y ) = 1 4 Σ u = 0 7 Σ v 7 C ( u ) C ( v ) F ′ ( u , v ) cos ( 2 x + 1 ) uπ 16 cos ( 2 y + 1 ) vπ 16
同样，双精度值取舍成整数值。
例如H.264和AVS标准的各种替代方法通过使用整数变换和/或不同大小块来简化双精度方法。特别地，定义一8×8整数变换矩阵T8×8，其具有与所述8×8 DCT变换系数矩阵D类似的元素。接着，用指示输入8×8样本数据矩阵(像素或冗余块)和输出8×8变换系数块的f8×8和F8×8分别将所述正8×8整数变换定义为：
F8×8＝T′8×8×f8×8×T8×8
其中“×”代表8×8矩阵乘法，且8×8矩阵T′8×8为8×8矩阵的转置T8×8。
所述变换系数的量化可以是以上量化步骤的指数或可以使用具有整数个条目的查询表。所述逆量化倒写所述量化。且所述逆变换也使用T8×8、其类似于使用D的DCT的转置及其用于正和逆变换的转置。
然而，这些替代方法的计算复杂性仍须降低。
发明内容
本发明通过区分比特位移及舍入提供用于图像/视频处理的低复杂性8×8变换。
优选实施例方法提供适用于有动态补偿的视频编码中的16比特操作。
附图说明
图1a-1b为流程图。
图2说明带有DCT变换和量化的动态补偿视频压缩。
图3展示方法比较。
具体实施方式
1.总述
优选实施例低复杂性方法提供应用于16比特AVS方法的简化的8×8正变换。所述方法已应用于在具有DCT变换和DCT系数的量化(其中所述量化可以广泛变化)的(动态补偿)像素的8×8块上操作的视频压缩。如在图2中说明，来自比特流缓冲器的充满程度反馈可确定量化因子，所述因子通常在1到200-500的范围内变化。图1a-1b为编码和解码流的变换/量化。
优选实施例系统用以下各物执行优选实施例：数字信号处理器(DSP)或一般目的的可编程处理器或一芯片(SoC)上的应用特定电路或系统，例如均在相同芯片上带有RISC处理器控制的DSP及RISC处理器。特别地，带有视频芯片能力的数字照相机(DSC)或带有视频能力的蜂窝电话可包括所述优选实施例方法。所存储的程序可位于板载ROM上或外部闪存EEPROM上，用于一DSP或可编程处理器以执行优选实施例方法的信号处理。模拟-数字转换器和数字-模拟转换器提供与真实世界之间的耦合，且调节器及解调器(加上用于空中界面的天线)提供用于发射波形的耦合。
2.AVS
首先，考虑AVS变换、量化及反转；优选实施例方法将提供AVS正变换的简化。
(a)AVS正变换
AVS正8×8变换使用以下8×8变换矩阵，T8×8，用于带有8×8样本数据矩阵(图像像素或动态冗余的块)加上8×8扫描矩阵SM8×8的矩阵乘法，用于扫描得到的矩阵元素。所述变换矩阵为：
T 8 × 8 = 8 10 10 9 8 6 4 2 8 9 4 - 2 - 8 - 10 - 10 - 6 8 6 - 4 - 10 - 8 2 10 9 8 2 - 10 - 6 8 9 - 4 - 10 8 - 2 - 10 6 8 - 9 - 4 10 8 - 6 - 4 10 - 8 - 2 10 - 9 8 - 9 4 2 - 8 10 - 10 6 8 - 10 10 - 9 8 - 6 4 - 2
且所述扫描矩阵SM8×8＝{SMi，j：i，j＝0，1，2，..7}为：
SM 8 × 8 = 32768 37958 36158 37958 32768 37958 36158 37958 37958 43969 41884 43969 37958 43969 41884 43969 36158 41884 39898 41884 36158 41884 39898 41884 37958 43969 41884 43969 37958 43969 41884 43969 32768 37958 36158 37958 32768 37958 36158 37958 37958 43969 41884 43969 37958 43969 41884 43969 36158 41884 39898 41884 36158 41884 39898 41884 37958 43969 41884 43969 37958 43969 41884 43969
变化进程如下。首先，让f8×8-{fi，j：i，j＝0，1，2，...，7}指示输入8×8样本数据矩阵且让F8×8＝{Fi，j：i，j＝0，1，2，...，7}指示8×8输出DCT系数矩阵。AVS正变化具有两个步骤并使用中间8×8矩阵X8×8：
X8×8＝{T′8×8×f8×8×T8×8}＞5
Fi，j＝sign(Xi，j)*((|Xi，j|*SMi，j+218)＞＞19)i，j＝0，1，2，...，7以下符号在此处及下文中使用：
·T8×8 t为变换矩阵T8×8的转置
·X8×8＝{Xi，j：i，j＝0，1，2，...，7)为矩阵乘法之后的中间矩阵，其中为变换矩阵及其转置加上一舍入比特位移如以上展示
·×为矩阵乘法
·*为标量乘法
·|x|为x的绝对值
·Sign(x)定义为
Figure A20048003444100082
·
Figure A20048003444100083
为通过n比特的矩阵右舍入：更明确地，对于一矩阵
M8×8＝{Mi，j：i，j＝0，1，2，...，7}操作m8×8＝M8×8
Figure A20048003444100084
是由以下定义的
m8×8＝{mi，j：i，j＝0，1，2，...，7}，其中mi，j＝(Mi，j+2n-1)＞＞n
·＞＞指示右位移，当表示为二元符号(例如，二的补数)时应用于数字。
因此，变换矩阵T8×8与8×8 DCT矩阵类似且SM8×8为缩放调整，
(b)AVS量化
AVS量化支持64个量化步骤，qp＝0，1，...，63，且使用以下量化表Q_TAB[64]：
  qp   0   1   2   3   4   5   6   7
  Q_TAB[qp]   32768   29775   27554   25268   23170   21247   19369   17770
  qp   8   9   10   11   12   13   14   15
  Q_TAB[qp]   16302   15024   13777   12634   11626   10624   9742   8958
  qp   16   17   18   19   20   21   22   23
  Q_TAB[qp]   8192   7512   6889   6305   5793   5303   4878   4467
  qp   24   25   26   27   28   29   30   31
  Q_TAB[qp]   4091   3756   3444   3161   2894   2654   2435   2235
  qp   32   33   34   35   36   37   38   39
  Q_TAB[qp]   2048   1878   1722   1579   1449   1329   1218   1117
  qp   40   41   42   43   44   45   46   47
  Q_TAB[qp]   1024   939   861   790   724   664   609   558
  qp   48   49   50   51   52   53   54   55
  Q_TAB[qp]   512   470   430   395   362   332   304   279
  qp   56   57   58   59   60   61   63   63
  Q_TAB[qp]   256   235   215   197   181   166   152   140
因此量化因子Q_TAB[gp]主要为215-qp/8且变换矩阵F8×8的量化为：
QFi，j＝sign(Fi，j)*(|Fi，j|*Q_TAB[qp]+α*215)＞＞15i，j＝0，1，2，...，7
其中a为量化控制参数，例如对于INTRA编码的宏块为1/3且对于INTER编码的宏块为1/6。这些量化系数经过编码。
(c)AVS逆量化
用于8×8量化的DCT系数块的AVS逆量化QF8×8＝{QFi，j：i，j＝1，2，...，7}定义为：
F′i，j＝(QFi，j*IQ_TAB[qp]+2IQ_SHIFT[qp])＞＞IQ_SHIFT[qp] i，j＝0，1，2，...，7
其中为逆量化的DCT系数块且IQ_TAB和IQ_SHIFT表定义为：
 qp 0  1  2  3  4  5  6  7
 IQ_TAB[qp] 32768  36061  38968  42495  46341  50535  55437  60424
 IQ_SHIFT[qp] 14  14  14  14  14  14  14  14
 qp 8  9  10  11  12  13  14  15
 IQ_TAB[qp] 32932  35734  38968  42495  46177  50535  55109  59933
 IQ_SHIFT[qp] 13  13  13  13  13  13  13  13
 qp 16  17  18  19  20  2l  22  23
 IQ_TAB[qp] 65535  35734  38968  42577  46341  50617  55027  60097
 1Q_SHIFT[qp] 13  12  12  12  12  12  12  12
 qp 24  25  26  27  28  29  30  31
 IQ_TAB[qp] 32809  35734  38968  42454  46382  50576  55109  60056
 IQ_SHIFT[qp] 11  1l  ll  11  11  11  11  11
 qp 32  33  34  35  36  37  38  39
 IQ_TAB[qp] 65535  35734  38968  42495  46320  50515  55109  60076
 IQ_SHIFT[qp] 11  10  10  10  10  10  10  lO
 qp 40  4l  42  43  44  45  46  47
 IQ_TAB[qp] 65535  35744  38968  42495  46341  50535  55099  60087
 IQ_SHIFT[qp] 10  9  9  9  9  9  9  9
 qp 48  49  50  51  52  53  54  55
 IQ_TAB[qp] 65535  35734  38973  42500  46341  50535  55109  60097
 IQ_SHIFT[qp] 9  8  8  8  8  8  8  8
 qp 56  57  58  59  60  61  62  63
 IQ_TAB[qp] 32771  35734  38965  42497  46341  50535  55109  60099
 IQ_SHIFT[qp] 7  7  7  7  7  7  7  7
注意IQ_TAB[qp]为16比特正整数(无符号比特)，其具有用于所有qp的等于1的最有意义的比特(MSB)，且IQ_SHIFT[qp]在7-14的范围内。
(d)AVS逆变换
AVS逆8×8变换使用与相同8×8变换矩阵T8×8和其转置的乘法：
Figure A20048003444100101
其中，f′8×8＝{f′i，j：i，j＝1，2，...，7}为重新建立的8×8样本数据矩阵。
3.第一优选实施例
为减少第2部分的AVS的变换和量化的复杂性，优选实施例提供一改进的正变换，以一起使用第2部分中的量化、逆量化和逆变换。所述优选实施例方法通过消除一信号()操作并限制比特位移而简化计算，从而使得基于16比特的处理器能更有效地运作。即，仅更改正变换，且第4部分中有所述部分中的AVS与优选实施例方法的比较。
(a)优选实施例正变换
回想起第2部分中描述的AVS正变换为：
X8×8＝{T′8×8×f8×8×T8×8}＞5
Fi，j＝sign(Xi，j)*((|Xi，j|*SMi，j+218)＞＞19)i，j＝0，1，2，...，7
第二步骤在计算上较昂贵，对16比特的装置尤其如此。为减少复杂性，优选实施例方法修改正变换的第二步骤，以主要将19比特的位移分成N比特的位移加上缩放矩阵中的19-N比特的位移：
F i , j = ( X i , j * SM i , j N + 2 N - 1 ) > > N , i , j = 1,2 , . . . , 7
其中SMi，j N定义为：
SM i , j N = ( SM i , j + 2 18 - N ) > > ( 19 - N ) , i , j = 1,2 , . . . , 7
其中SM8×8＝{SMi，j：i，j＝1，2，...，7}为在第2部分中定义的缩放矩阵，且 SM 8 × 8 ( N ) = { SM i , j ( N ) : i , j = 1,2 , . . . , 7 } 为新的缩放矩阵。
在此变换中N为位移比特的数目且随着N的增加性能更好(见下一部分)；但为减少16比特处理器的复杂性，N应小于或等于16。
例如，对于N＝16：
SM 8 × 8 = 4096 4745 4520 4745 4096 4745 4520 4745 4745 5496 5236 5496 4745 5496 5236 5496 4520 5236 4987 5236 4520 5236 4987 5236 4745 5496 5236 5496 4745 5496 5236 5496 4096 4745 4520 4745 4096 4745 4520 4745 4745 5496 5236 5496 4745 5496 5236 5496 4520 5236 4987 5236 4520 5236 4987 5236 4745 5496 5236 5496 4745 5496 5236 5496
注意当N＝19时SM8×8 (N)大体上等于第2部分中的SM8×8，且N每减少1，所述矩阵元素均除以2，并最终舍入。
与第2部分中描述的AVS正变换相比，优选实施例具有低得多的复杂性，因为存储器访问的sign(x)操作的消除以及所有的右移均在16比特内。因此，优选实施例方法使得第2部分中描述的AVS正变换在计算上更加成本有效。
(b)优选实施例量化
优选实施例方法使用与第2部分中描述的相同量化
(c)优选实施例逆量化
优选实施例方法使用与第2部分中描述的相同逆量化
(d)优选实施例逆变换
优选实施例方法使用与第2部分中描述的相同逆变换
4.实验结果
进行仿真，以测试优选实施例简化的正变换的效率。在下表中，列“基准点T&Q”展示之后进行第2部分中描述的逆量化和逆变换的AVS变换加量化应用的信噪比(SNR0)。“简化T&Q”列展示信噪比(SNR1)和与用于各种N值的优选实施例正变换的应用的相同块SNR0连同之后进行AVS逆量化和AVS逆变换的AVS量化的差异；即，在这些情况中仅正变换改变，其他所有均保持不变。测试所有量化步骤(qp＝0，1，2，...63)。用6000个随机8×8块测试每一qp，所述像素值在[-255:255]的范围内。在所有测试样本块上对每一qp计算输入样本块与其重新建立的块之间的SNR值(见图3)。N＝16、15、14、13、12和11的结果列在表中。
qp 基准点SNR0[dB]  简化T&Q N＝16 SNR1[dB](ΔdB)     简化T&QN＝15，14SNR1[dB](ΔdB) 简化T&Q N＝13 SNR1[dB](ΔdB) 简化T&Q N＝12SNR1[dB](ΔdB) 简化T&Q N＝11 SNR1[dB](ΔdB)
0 60.088  60.125(0.037)     60.072(-0.016) 60.033(-0.055) 59.075(-1.013) 58.307(-1.780)
1 54.157  54.129(-0.028)     54.149(-0.008) 54.1 60(0.004) 53.972(-0.184) 53.789(-0.368)
2 54.077  54.070(-0.007)     54.061(-0.0016) 54.042(-0.035) 53.861(-0.216) 53.704(-0.373)
3 53.898  53.907(0.009)     53.892(-0.007) 53.868(-0.031) 53.783(-0.115) 53.648(-0.250)
4 53.723  53.700(-0.023)     53.709(-0.014) 53.705(-0.018) 53.588(-0.135) 53.436(-0.286)
5 53.376  53.380(0.004)     53.369(-0.008) 53.367(-0.009) 53.260(-0.116) 53.105(-0.271)
6 52.461  52.456(-0.006)     52.466(0.004) 52.454(-0.008) 52.380(-0.081) 52.253(-0.209)
7 51.873  51.882[0.010)     51.883(0.010) 51.897(0.024) 51.805(-0.068) 51.747(-0.125)
8 51.472  51.460(-0.012)     51.440(-0.032) 51.450(-0.021) 51.388(-0.084) 51.232(-0.239)
9 51.071  51.079(0.009)     51.075(0.005) 51.060(-0.011) 51.028(-0.043) 50.970(-0.100)
10 50.727  50.734(0.007)     50.714(-0.012) 50.700(-0.027) 50.617(-0.110) 50.563(-0.163)
11 50.189  50.171(-0.019)     50.163(-0.026) 50.157(-0.033) 50.108(-0.082) 50.049(-0.141)
12 49.445  49.451(0.006)     49.451(0.006) 49.450(0.005) 49.396(-0.049) 49.327(-0.118)
13 48.857  48.847(-0.010)     48.860(0.003) 48.843(-0.014) 48.798(-0.059) 48.753(-0.104)
14 48.386  48.397(0.011)     48.387(0.001) 48.391(0.005) 48.361(-0.025) 48.321(-0.065)
15 47.783  47.776(-0.007)     47.778(-0.006) 47.778(-0.006) 47.758(-0.026) 47.704(-0.079)
16 46.495  46.495(0.001)     46.502(0.007) 46.553(0.058) 46.430(-0.065) 46.416(-0.078)
17 46.554  46.548(-0.005)     46.544(-0.010) 46.542(-0.012) 46.521(-0.033) 46.497(-0.057)
18 45.753  45.751(-0.002)     45.757(0.004) 45.756(0.003) 45.735(-0.018) 45.715(-0.038)
19 45.074  45.081(0.007)     45.082(0.007) 45.079(0.004) 45.039(-0.036) 45.027(-0.048)
20 44.468  44.467(-0.001)     44.470(0.003) 44.462(-0.006) 44.441(-0.026) 44.429(-0.039)
21 43.666  43.672(0.005)     43.674(0.008) 43.671(0.004) 43.650(-0.017) 43.647(-0.020)
22 42.961  42.961(-0.000)     42.963(0.001) 42.961(-0.000) 42.955(-0.007) 42.939(-0.023)
23 42.217  42.216(-0.000)     42.216(-0.000) 42.212(-0.004) 42.214(-0.002) 42.209(-0.007)
24 41.471  41.470(-0.001)     41.470(-0.001) 41.448(-0.023) 41.470(-0.001) 41.466(-0.005)
25 40.983  40.985(0.002)     40.983(0.000) 40.983(0.000) 40.977(-0.006) 40.964(-0.019)
26 40.087  40.088(0.001)     40.087(0.000) 40.093(0.006) 40.093(0.006) 40.078(-0.008)
27 39.423  39.424(0.001)     39.425(0.002) 39.426(0.003) 39.418(-0.005) 39.411(-0.012)
28 38.602  38.606(0.004)     38.606(0.003) 38.607(0.005) 38.597(-0.005) 38.597(-0.005)
29 37.875  37.876(0.001)     37.877(0.002) 37.878(0.003) 37.871(-0.004) 37.866(-0.009)
30 37.141  37.140(-0.001)     37.140(-0.001) 37.140(-0.001) 37.137(-0.004) 37.130(-0.011)
31 36.396  36.396(-0.000)     36.398(0.001) 36.400(0.003) 36.390(-0.007) 36.388(-0.008)
32 35.526  35.526(0.000)     35.526(0.000) 35.529(0.003) 35.521(-0.005) 35.520(-0.006)
33 34.853  34.853(0.000)     34.853(0.000) 34.854(0.001) 34.851(-0.002) 34.852(-0.001)
34 34.180  34.179(-0.000)     34.178(-0.001) 34.179(-0.000) 34.180(0.001) 34.176(-0.004)
35 33.388  33.388(-0.000)     33.387(-0.000) 33.386(-0.002) 33.382(-0.006) 33.382(-0,006)
36 32.660  32.660(0.000)     32.660(0.000) 32.660(-0.000) 32.659(-0.001) 32.659(-0.002)
37 31.881  31.880(-0.000)     31.881(-0.000) 31.881(0.001) 31.880(-0.001) 31.879(-0.001)
38 31.149  31.149(0.000)     31.149(0.000) 31.148(-0.000) 31.148(-0.001) 31.147(-0.002)
39 30.382  30.382(0.001)     30.382(0.001) 30.382(0.000) 30.381(-0.001) 30.379(-0.003)
40 29.635  29.635(-0.000)     29.635(0.000) 29.636(0.001) 29.634(-0.001) 29.633(-0.002)
41 28.872  28.873(0.000)     28.872(-0.000) 28.872(-0.000) 28.874(0.002) 28.872(0.000)
42  28.170  28.170(-0.000) 28.170(-0.000) 28.170(-0.001) 28.171(0.001) 28.169(-0.001)
43  27.382  27.382(-0.000) 27.382(0.000) 27.383(0.000) 27.383(0.000) 27.383(0.000)
44  26.616  26.616(0.000) 26.616(0.000) 26.616(0.000) 26.616(-0.000) 26.616(-0.000)
45  25.884  25.884(0.000) 25.884(0.000) 25.884(0.000) 25.883(-0.001) 25.883(-0.001)
46  25.131  25.131(0.000) 25.131(0.000) 25.131(0.000) 25.131(0.000) 25.131(-0.000)
47  24.371  24.371(-0.000) 24.371(-0.000) 24.371(-0.000) 24.371(-0.000) 24.370(-0.001)
48  23.637  23.637[0.000) 23.637(0.000) 23.637(0.000) 23.636(-0.001) 23.636(-0.001)
49  22.890  22.890(-0.000) 22.890(-0.000) 22.890(0.000) 22.890(-0.000) 22.889(-0.001)
50  22.165  22.164(-0.000) 22.164(-0.000) 22.164(-0.000) 22.164(-0.000) 22.164(-0.000)
51  21.418  21.418(0.000) 21.418(0.000) 21.418(0.000) 21.418(-0.000) 21.418(-0.000)
52  20.657  20.657(-0.000) 20.657(-0.000) 20.657(0.000) 20.657(0.000) 20.657(-0.000)
53  19.892  19.892(-0.000) 19.892(-0.000) 19.892(-0.000) 19.892(-0.000) 19.892(-0.000)
54  19.117  19.117(0.000) 19.117(-0.000) 19.117(-0.000) 19.117(-0.000) 19.117(-0.000)
55  18.353  18.353(-0.000) 18.353(0.000) 18.353(-000) 18.353(-0.000) 18.353(-0.000)
56  17.616  17.616(0.000) 17.616(0.000) 17.616(0.000) 17.615(-0.000) 17.615(-0.000)
57  16.872  16.872(0.000) 16.872(0.000) 16.872(0.000) 16.872(-0.000) 16.872(0.000)
58  16.129  16.129(-0.000) 16.129(-0.000) 16.129(-0.000) 16.129(0.000) 16.129(0.000)
59  15.422  15.422(0.000) 15.422(0.000) 15.422(0.000) 15.422(0.000) 15.422(0.000)
60  14.709  14.709(-0.000) 14.709(-0.000) 14.709(-0.000) 14.709(-0.000) 14.709(-0.000)
61  14.045  14.045(0.000) 14.045(0.000) 14.045(0.000) 14.045(-0.000) 14.045(-0.000)
62  13.404  13.404(0.000) 13.404(0.000) 13.404(0.000) 13.404 (-0.000) 13.404(0.000)
63  12.853  12.853(0.000) 12.853(-0.000) 12.853(-0.000) 12.853(-0.000) 12.853(-0.000)
如表中所示，只要N≥13，优选实施例简化正变换方法便执行几乎与AVS正变换相同的变换。然而，当N≤12时开始在高末端块(＞50dB区域)出现显著丢失。
由于只要N≤16，16比特装置的复杂性便几乎相同，所以优选实施例简化变换方法(16≥N≥13)提供与当前AVS变换设计相同的压缩效率，但计算复杂性较低。
5.修改
可以各种方式对优选实施例方法进行修改而保持简化的正变换的特征。
例如，所述舍入可改变或……？？？。

Claims (6)

1.一种8×8块变换方法，其包含：
(a)使用8×8变换矩阵将一8×8样本数据矩阵变换成一8×8中间矩阵：
T 8 × 8 = 8 10 10 9 8 6 4 2 8 9 4 - 2 - 8 - 10 - 10 - 6 8 6 - 4 - 10 - 8 2 10 9 8 2 - 10 - 6 8 9 - 4 - 10 8 - 2 - 10 6 8 - 9 - 4 10 8 - 6 - 4 10 - 8 - 2 10 - 9 8 - 9 4 2 - 8 10 - 10 6 8 - 10 10 - 9 8 - 6 4 - 2
(b)使用一缩放矩阵缩放所述中间矩阵；和
(c)使所述缩放的中间矩阵的元素位移N比特，以产生一变换矩阵，其中N为13到16范围内的一整数。
2.根据权利要求1所述的方法，其中：
(a)所述缩放矩阵的元素位移一第二缩放矩阵的元素的19-N比特。
3.一种块变换方法，其包含：
(a)将一n×n样本数据矩阵乘以一n×n变换矩阵和所述变换矩阵的n×n转置以产生一系数矩阵；
(b)选择一小于Nmax的整数N；
(c)将舍入的所述系数矩阵位移N比特，得到一位移的系数矩阵；
(d)提供一对应于所述Nmax的缩放矩阵；
(e)将舍入的所述缩放矩阵位移N最大值-N比特，以得到一位移的缩放矩阵；
(f)用所述位移的缩放矩阵将所述位移的系数矩阵缩放。
4.根据权利要求3所述的方法，其中
(a)n等于8；且
(b)N最大值等于19。
5.根据权利要求3所述的方法，其中
(a)所述变换矩阵为：
T 8 × 8 = 8 10 10 9 8 6 4 2 8 9 4 - 2 - 8 - 10 - 10 - 6 8 6 - 4 - 10 - 8 2 10 9 8 2 - 10 - 6 8 9 - 4 - 10 8 - 2 - 10 6 8 - 9 - 4 10 8 - 6 - 4 10 - 8 - 2 10 - 9 8 - 9 4 2 - 8 10 - 10 6 8 - 10 10 - 9 8 - 6 4 - 2 .
6.根据权利要求3所述的方法，其中
(a)Nmax为19且所述缩放矩阵为：
SM 8 × 8 = 32768 37958 36158 37958 32768 37958 36158 37958 37958 43969 41884 43969 37958 43969 41884 43969 36158 41884 39898 41884 36158 41884 39898 41884 37958 43969 41884 43969 37958 43969 41884 43969 32768 37958 36158 37958 32768 37958 36158 37958 37958 43969 41884 43969 37958 43969 41884 43969 36158 41884 39898 41884 36158 41884 39898 41884 37958 43969 41884 43969 37958 43969 41884 43969 .
CN200480034441.8A 2003-11-25 2004-11-17 8×8变换和量化 Pending CN101095137A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US52483103P 2003-11-25 2003-11-25
US60/524,831 2003-11-25

Publications (1)

Publication Number Publication Date
CN101095137A true CN101095137A (zh) 2007-12-26

Family

ID=34652273

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200480034441.8A Pending CN101095137A (zh) 2003-11-25 2004-11-17 8×8变换和量化

Country Status (3)

Country Link
US (1) US8069201B2 (zh)
CN (1) CN101095137A (zh)
WO (1) WO2005055583A2 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102388610A (zh) * 2009-02-09 2012-03-21 三星电子株式会社 使用低复杂度频率变换的视频编码方法和设备以及视频解码方法和设备
CN113796074A (zh) * 2019-03-25 2021-12-14 联发科技股份有限公司 用于视频编解码的量化矩阵计算和表示的方法和装置
CN116132107A (zh) * 2022-12-16 2023-05-16 苏州可米可酷食品有限公司 基于数据云处理产品全生命周期质量数据追溯管理系统

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050213835A1 (en) * 2004-03-18 2005-09-29 Huazhong University Of Science & Technology And Samsung Electronics Co., Ltd. Integer transform matrix selection method in video coding and related integer transform method
KR100716791B1 (ko) * 2005-08-08 2007-05-14 삼성전기주식회사 이미지 압축디바이스 및 그 방법
NO326065B1 (no) * 2007-01-11 2008-09-08 Tandberg Telecom As Atte pixlers heltallstransform
WO2012115486A2 (ko) * 2011-02-25 2012-08-30 삼성전자 주식회사 영상의 변환 방법 및 장치, 및 영상의 역변환 방법 및 장치
US20120230395A1 (en) * 2011-03-11 2012-09-13 Louis Joseph Kerofsky Video decoder with reduced dynamic range transform with quantization matricies
CN102227135A (zh) * 2011-04-20 2011-10-26 深圳市融创天下科技发展有限公司 一种视频编码8x8整数变换方法
US11368693B2 (en) * 2019-07-01 2022-06-21 Sony Group Corporation Forward and inverse quantization for point cloud compression using look-up tables

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04242860A (ja) * 1990-12-28 1992-08-31 Sony Corp 演算装置
US5361220A (en) * 1991-11-29 1994-11-01 Fuji Photo Film Co., Ltd. Discrete cosine transformation with reduced components
US5854757A (en) * 1996-05-07 1998-12-29 Lsi Logic Corporation Super-compact hardware architecture for IDCT computation
US6058215A (en) * 1997-04-30 2000-05-02 Ricoh Company, Ltd. Reversible DCT for lossless-lossy compression
US6587590B1 (en) * 1998-02-02 2003-07-01 The Trustees Of The University Of Pennsylvania Method and system for computing 8×8 DCT/IDCT and a VLSI implementation
US7082450B2 (en) * 2001-08-30 2006-07-25 Nokia Corporation Implementation of a transform and of a subsequent quantization
US7379956B2 (en) * 2002-07-14 2008-05-27 Apple Inc. Encoding and decoding data arrays

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102388610A (zh) * 2009-02-09 2012-03-21 三星电子株式会社 使用低复杂度频率变换的视频编码方法和设备以及视频解码方法和设备
CN102388610B (zh) * 2009-02-09 2015-03-04 三星电子株式会社 使用低复杂度频率变换的视频编码方法和设备以及视频解码方法和设备
US9300972B2 (en) 2009-02-09 2016-03-29 Samsung Electronics Co., Ltd. Video encoding method and apparatus using low-complexity frequency transformation, and video decoding method and apparatus
CN113796074A (zh) * 2019-03-25 2021-12-14 联发科技股份有限公司 用于视频编解码的量化矩阵计算和表示的方法和装置
CN116132107A (zh) * 2022-12-16 2023-05-16 苏州可米可酷食品有限公司 基于数据云处理产品全生命周期质量数据追溯管理系统
CN116132107B (zh) * 2022-12-16 2024-04-12 苏州可米可酷食品有限公司 基于数据云处理产品全生命周期质量数据追溯管理系统

Also Published As

Publication number Publication date
US20050111554A1 (en) 2005-05-26
US8069201B2 (en) 2011-11-29
WO2005055583A3 (en) 2007-04-12
WO2005055583A2 (en) 2005-06-16

Similar Documents

Publication Publication Date Title
US7076108B2 (en) Apparatus and method for image/video compression using discrete wavelet transform
KR100912415B1 (ko) 변환 및 연속되는 양자화의 구현
US7778327B2 (en) H.264 quantization
US20060034368A1 (en) Generation and use of masks in MPEG video encoding to indicate non-zero entries in transformed macroblocks
US20010017941A1 (en) Method and apparatus for table-based compression with embedded coding
EP1679658B1 (en) Image signal transforming method, image signal inversely-transforming method, image encoding apparatus, image encoding method, image encoding program, image decoding apparatus, image decoding method, and image decoding program
US20140010284A1 (en) Image transform and inverse transform method, and image encoding and decoding device using same
AU748947C (en) Method and apparatus for inverse quantization of MPEG-4 video
US6067384A (en) Fast scaling of JPEG images
JPH10107644A (ja) 量子化装置および方法、並びに、符号化装置および方法
US6160918A (en) Method and apparatus for fast image compression
CN101095137A (zh) 8×8变换和量化
CN100409693C (zh) 用于图像和视频压缩的正交变换方法
US20120027318A1 (en) Mechanism for Processing Order-16 Discrete Cosine Transforms
JP2007507183A (ja) ８×８変換及び量子化
CN100411442C (zh) 一种视频图象编码方法
CN101193285A (zh) 影像压缩编码及解码的方法和装置
US6144768A (en) Method of decoding image data
CN117041587A (zh) 低复杂度的jpeg编码方法及解码方法
Bracamonte et al. Bit-rate control for the JPEG algorithm
CN101194510A (zh) H.264量化
JPH06338802A (ja) 再圧縮装置
JPH04117088A (ja) 画像符号化用ｋｌ変換演算量低減方法
Shen et al. Improved joint bilevel image experts group (JBIG) data compression of continuous-tone images
GB2139046A (en) Video signal transmission

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication