WO2012142792A1 - 一种视频编码16×16整数变换方法 - Google Patents

一种视频编码16×16整数变换方法 Download PDF

Info

Publication number
WO2012142792A1
WO2012142792A1 PCT/CN2011/076170 CN2011076170W WO2012142792A1 WO 2012142792 A1 WO2012142792 A1 WO 2012142792A1 CN 2011076170 W CN2011076170 W CN 2011076170W WO 2012142792 A1 WO2012142792 A1 WO 2012142792A1
Authority
WO
WIPO (PCT)
Prior art keywords
transform
transformation
integer
matrix
bll
Prior art date
Application number
PCT/CN2011/076170
Other languages
English (en)
French (fr)
Inventor
徐苏珊
Original Assignee
深圳市融创天下科技股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 深圳市融创天下科技股份有限公司 filed Critical 深圳市融创天下科技股份有限公司
Publication of WO2012142792A1 publication Critical patent/WO2012142792A1/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Definitions

  • the present invention relates to the field of video coding technologies, and in particular, to a video coding 16x16 integer transform method.
  • a complete video coding system consists of a series of algorithm modules such as prediction, transform, quantization, and entropy coding.
  • intra-frame interframe prediction is compression data using spatial and temporal correlation of video data.
  • the transform module transforms the image residual data outputted by the prediction module from the time domain to another space, so that the data in the time domain is uniformly concentrated in the transform space, and the energy of the data is mostly concentrated in the low frequency region of the space. .
  • the transformed data distribution features are effectively utilized to further compress the data.
  • the transform module is an important part of the video coding system, and the performance of the transform directly affects the performance of the video coding system.
  • the DCT Discrete Cosine Transform
  • the energy concentration of the transform is very good, which can greatly eliminate the correlation of video data in the transform space.
  • this algorithm is insufficient.
  • the DCT transformation matrix is represented by floating point. A large number of floating-point multiplications and additions are used in the calculation process, which takes up a lot of hardware resources and is computationally complex.
  • the floating-point operation has a truncation error, and the floating-point calculation accuracy is not high.
  • the DCT forward-reverse transform cannot be completely matched, and the transform is irreversible. Summary of the invention
  • the purpose of the embodiment of the present invention is to provide a 16 ⁇ 16 integer transform method for video coding, which aims to solve the problem that the DCT transform matrix of the prior art adopts floating point multiplication and addition, which occupies many hardware resources, is computationally complex, and has low computational accuracy, and the DCT is positive.
  • the inverse transformation cannot be completely matched, and the transformation is irreversible.
  • a video coding 16x16 integer transform method includes: receiving 16x16 image residual data output by a prediction module in an encoder; selecting an integer transform base, constructing a transform matrix, Construct a 16 by 16 general integer transformation matrix as follows:
  • the integer transform base is one of the following values:
  • ® is the point multiplication operation of the matrix
  • Y is the data after 16x16 positive transformation
  • PF is the scaling matrix, which is the output value after the scaling processing, representing the information of the video data transformed into the frequency domain;
  • Xl xl x3 x4 x5 x6 xl x8 x9 xlO xll xl2 x ⁇ 3 xl4 x ⁇ 5 6 is the sixteen point input value for positive conversion
  • ⁇ ⁇ [0.25 0.012345 0.033634 0.012345 0.15811 0.012345 0.033634 0.012345]
  • the scaling matrix is:
  • Yl2 -d2+d7-dl2+dl3+dl5+d23+e7+g4-c8-fl +b4- b6 +b7;
  • the basic unit y Px requires a total of 185 additions and 32 shifts.
  • the transform method of the embodiment of the present invention has excellent energy concentration performance, and the energy concentration is close to 16xl6DCT, which can greatly eliminate video data in Transform the correlation on the space.
  • Low computational complexity can be achieved by addition and shifting, easy to implement in hardware, and high precision of operation, there is no problem of positive and negative transforms.
  • FIG. 1 is a flow chart of a method of a preferred embodiment of a video coding 16x16 integer transform method of the present invention
  • FIG. 2 is a schematic diagram of a corresponding integer transform calculation method when an integer transform base is selected [27 28 24 23 19 14 9 5] in a preferred embodiment of the video coding 16x16 integer transform method of the present invention
  • FIG. 3 is a calculation method diagram of the calculation module M1 in the schematic diagram of the integer transformation calculation method of FIG. 2;
  • FIG. 4 is a calculation method diagram of the calculation module M2 in the schematic diagram of the integer transformation calculation method of FIG. 2;
  • FIG. 5 is an integer transformation of FIG.
  • Figure 6 is a calculation method diagram of the calculation module M3 in the calculation method diagram;
  • Figure 6 is a corresponding integer transformation when the integer transform base is selected [15 13 11 11 5 6 5 1] according to a preferred embodiment of the video coding 16x16 integer transform method of the present invention.
  • FIG. 7 is a calculation method diagram of the calculation module N1 in the schematic diagram of the integer transformation calculation method in FIG. 6;
  • FIG. 8 is a calculation method diagram of the calculation module N2 in the schematic diagram of the integer transformation calculation method in FIG. 6;
  • FIG. 9 is an integer transformation in FIG. A calculation method diagram of the calculation module N3 in the calculation method diagram.
  • FIG. 1 is a video coding 16x16 integer transform method according to Embodiment 1 of the present invention, where the method includes the following steps:
  • Kl k3 k4 k5 k6 kl is constructed as a transformation matrix P for integer transform bases.
  • the integer value base may select one of the following values:
  • ] ; is the row vector of the transformation matrix P, i takes a value of 1-16; is the vector norm of the row vector;
  • X [xl x2 x3 x4 x5 x6 xl x8 x9 xlO xll
  • the output of j [yl yl j3 j4 j5 j6 yl j8 j9 jlO jll jl2 jl3 jl4 jl5 jl6f
  • X2 x3 x4 x5 x6 xl x8 x9 xlO xl 1 xl2 xl3 xl4 xl5 xl6 represents the input sixteen-point value of the one-dimensional forward transform of the integer transform
  • y ⁇ yl y3 y4 y5 y6 yl j8 y9 ylO yl ly ⁇ 2 jl3 jl4 y ⁇ 5 yl6 is the sixteen point output value of the positive transform
  • the corresponding integer transformation calculation method is adopted.
  • ® is the point multiplication of the matrix
  • Y is the 16x16 positive transformed data
  • PF is the scaling matrix, which is the output value after the scaling process, representing the information that the video data is transformed into the frequency domain.
  • the transform method of the embodiment of the invention has excellent energy concentration performance, and the energy concentration is close to 16xl6DCT, which can greatly eliminate the correlation of video data in the transform space; the computational complexity is low, and can be realized by addition and shifting, and is easy to implement by hardware. Moreover, the operation precision is high, and there is no problem that the forward and reverse transforms do not match.
  • Embodiment 2 of the present invention is a video coding 16x16 integer transform method according to Embodiment 2 of the present invention.
  • [27 28 24 23 19 14 9 5] is an integer transform base of a 16x16 general integer transform matrix, and the method includes the following steps. :
  • a ⁇ [0.25 0.012345 0.033634 0.012345 0.15811 0.012345 0.033634 0.012345]
  • the scaling matrix is:
  • X [xl x2 x3 x4 x5 x6 xl x8 x9 xlO xl l xl2 xl3 xl4 xl5 xl6] T
  • output _y [ l 2 y3 y4 y5 y6 yl y% y9 ylO yl l
  • Xl xl x3 x4 x5 x6 xl x8 x9 xl 0 xl l xl 2 xl 3 xl 4 xl 5 xl 6 represents the input sixteen-point value of the one-dimensional forward transform of the integer transform
  • yl yl y3 y4 y5 y6 yl j8 y9 ylO yl l Yll yU yU yl5 yl6 is the sixteen point output value of the positive transform
  • bl, b2, b3, b4, b5, b6, b7, b8, b9, blO, bll, bl2, bl3, bl4, bl5, bl6, ml, m2, m3, m4 are intermediate variables of integer transformation;
  • nl, n2, n3, n4, 11, 12, 13, 14, ccl, cc2, cc3, cc4 are intermediate variables of integer conversion; finally complete the following steps: s/u/ O o/Jiosld sz-ozAV
  • Yl4 d8+dl0+dl5+dl7+dl9+d23+d26+ (-e7 +e8) +gl+bl -f5 ;
  • the fast calculation method of the forward transformation of this transformation base is shown in Fig. 2, wherein the calculation modules Ml, M2, and M3 are shown in Figs. 3, 4, and 5, respectively. among them
  • J 16 represents the input sixteen point value of the one-dimensional forward transformation of the integer transformation
  • y ⁇ yl y3 y4 y5 y6 yl y y9 y ⁇ 0 y ⁇ ⁇ y ⁇ 2 jl3 y ⁇ A y ⁇ 5 yl6 is the 16-point output value of the positive transformation; the data processing direction is from left to right, intersecting in a circle The value of the intermediate variable of the point is equal to the data represented by the line on the left side of the dot; the square indicates that the data is multiplied by a coefficient; "-" indicates that the negative value is taken;
  • ® is the point multiplication operation of the matrix
  • Y is the data after 16x16 positive transformation
  • PF is the scaling matrix. This is the output value after the scaling process, which represents the information of the video data transformed into the frequency domain.
  • the transform method of the embodiment of the present invention has excellent energy concentration performance, and the energy concentration degree close to 16xl6DCT can greatly eliminate the correlation of video data in the transform space; the computational complexity is low, can be realized by addition and shifting, and is easy to implement in hardware, and The operation precision is high, and there is no problem that the forward and reverse transforms do not match.
  • Embodiment 3
  • Embodiment 3 of the present invention is a video coding 16x16 integer transform method according to Embodiment 3 of the present invention.
  • [15 13 11 11 5 6 5 1] is an integer transform base of a 16x16 general integer transform matrix, and the method includes the following steps. :
  • Kl k3 k4 k5 k6 kl Is the transformation matrix constructed as a transformation matrix? .
  • [15 13 11 11 5 6 5 1] is selected as an integer transform base, and a transform moment is constructed. ⁇ .
  • a ⁇ [0.25 0.026298 0.033634 0.026298 0.15811 0.026298 0.033634 0.026298]
  • the scaling matrix is:
  • Xl xl x3 x4 x5 x6 xl x8 x9 xl 0 xll xl 2 xl 3 xl 4 xl 5 xl 6 represents the input sixteen-point value of the one-dimensional forward transform of the integer transform
  • Yl yl y3 y4 y5 y6 yl j8 y9 ylO yll yll yU yU yl5 yl6 is the sixteen point output value of the positive transformation
  • Yl4 d2+d7+dl2+dl8+d21-d23+g3+d26+b6;
  • Yl6 d4+d6+d9+dl3+dl9-d20-d25+g3+d26-b4-g8;
  • J 16 represents the input four-point value of the one-dimensional forward transform of the integer transform
  • y ⁇ yl y3 y4 y5 y6 yl y y9 y ⁇ 0 y ⁇ ⁇ y ⁇ 2 jl3 y ⁇ A y ⁇ 5 yl6 is the four-point output value of the positive transformation; the data processing direction is from left to right, intersecting at a dot
  • the value of the intermediate variable is equal to the data represented by the line on the left side of the dot; the square means the data is multiplied by a coefficient; "-” means taking a negative value; "2” means multiplying by 2, that is, shifting one bit to the left; “4" means multiplying by 4 , that is, shift two bits to the left; “8” means multiply by 8, that is, shift 3 bits to the left.
  • the input data of the N3 module is connected to b8, b7, b6, b5, b4, b3, b2, bl respectively;
  • "outl""out2" in the N3 module "out3""out4""out5"”out6""out7”"out8" represents the output data of the N3 module, which is connected to y2, y4, y6, y8, yl0, yl2, yl4, yl6, respectively;
  • S305 the data Y after 16x16 positive transformation is scaled;
  • Y' Y ® PF
  • ® is the point multiplication of the matrix
  • Y is the 16x16 positive transformed data
  • PF is the scaling matrix
  • output value after the scaling process is the information of the video data transformed into the frequency domain.
  • the transform method of the embodiment of the invention has excellent energy concentration performance, and the energy concentration is close to 16xl6DCT, which can greatly eliminate the correlation of video data in the transform space; the computational complexity is low, and can be realized by addition and shifting, and is easy to implement by hardware. Moreover, the operation precision is high, and there is no problem that the forward and reverse transforms do not match.
  • all or part of the steps of the foregoing embodiments may be implemented by the program instruction related hardware, and the program may be stored in a computer readable storage medium.
  • the storage medium may be a ROM, a RAM, a magnetic disk, an optical disk, or the like.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

一种视频编码 16x16整数变换方法
技术领域
本发明涉及视频编码技术领域，尤其涉及一种视频编码 16x16整数变换方 法。
背景技术
一套完整的视频编码系统是由预测、 变换、 量化、熵编码等一系列算法模 块组成的。其中帧内帧间预测是利用视频数据在空间和时间上的相关性压縮数 据。 变换模块是将预测模块输出的图像残差数据由时域变换到另一个空间上， 使时域上平坦分布的数据在变换空间上能量集中，将数据的能量大部分集中在 空间的低频区域中。在随后的量化和熵编码模块中，会有效的利用变换后的数 据分布特征， 进一步压縮数据。显而易见， 变换模块是视频编码系统中重要的 组成部分， 变换的性能直接影响视频编码系统的性能。
在现有视频编码系统中， DCT (离散余弦变换： Discrete Cosine Transform) 变换得到了广泛的应用， 其变换的能量集中性很好， 可以极大地消除视频数据 在变换空间上的相关性。但是这种算法存在不足， DCT变换矩阵是浮点表示的， 计算过程中使用大量的浮点乘法和加法， 占用硬件资源多， 计算复杂的大。 同 时由于处理器运算位数影响，浮点运算存在截断误差，浮点计算精度不高， DCT 正反变换不能完全匹配， 变换不可逆。 发明内容
本发明实施例的目的在于提出一种视频编码 16x16整数变换方法，旨在解 决现有技术 DCT变换矩阵采用浮点乘法和加法， 占用硬件资源多， 计算复杂的 大， 计算精度不高， DCT正反变换不能完全匹配， 变换不可逆的问题。 本发明实施例的方法是这样实现的， 一种视频编码 16x16整数变换方法， 包括： 接收编码器中预测模块输出的 16x16的图像残差数据 ； 选取整数变换基， 构建变换矩阵， 构建 16乘 16的通用整数变换矩阵如下:
C = [C\ C2]， 其中，
Figure imgf000003_0001
矩阵 C中， k9=10; kl0=9; kll=6; kl2=2; [kl kl k3 k4 k5 k6 hi 8]为整数变换基；
正变换，对 16x16的图像残差数据 进行整数变换，变换公式为 r = PXPT； 其中 Ρ为所述的变换矩阵； 为所述的图像残差数据；
其中：
所述整数变换基为以下数值中的一个：
[27 28 24 23 19 14 9 5]、 [15 13 11 11 5 6 5 1] 。
其中所述步骤 "选取整数变换基， 构建变换矩阵 Ρ"之后还可以包括步骤: 根据变换矩阵 Ρ， 构建縮放矩阵 PF， 其中， = [l/||wl|| … l/||ml6||]; 为变换矩阵 P的行向量， i取值为 1-16； 为行向量 的向量范数；
对经过 16x16正变换后的数据 Y进行縮放处理，
Y' = Y®PF
®是矩阵的点乘运算， Y是经过 16x16正变换后的数据， PF 是縮放矩阵， 是本縮放处理后的输出值， 代表视频数据变换到频域上的信息；
其中， 所述正变换中的变换的基本单元是形如 y = Px的 16 点一维变换， 其中
X = [xl x2 x3 x4 x5 x6 xl x8 x9 xlO xll xl2 xl3 xl4 xl5 xl6]T ， 输 出的 _y = [ l 2 y3 y4 y5 y6 yl 8 y9 ylO yll
Figure imgf000004_0001
xl xl x3 x4 x5 x6 xl x8 x9 xlO xll xl2 x\3 xl4 x\5 6为正变 换的十六点输入数值；
yl yl y3 y4 y5 y6 yl j8 y9 ylO yll yll yU yU yl5 yl6为正 当所述整数变换基取值为 [27 28 24 23 19 14 9 5]时: 所述变换矩阵
Figure imgf000005_0001
T
[αΐ αΐ ] 其中
αΐ = [0.25 0.012345 0.033634 0.012345 0.15811 0.012345 0.033634 0.012345] 縮放矩阵为：
PF = l]， 其中
Figure imgf000006_0001
当所述当整数变换基取值为 [27 28 24 23 19 14 9 5]时， "对 16x16的 图像残差数据 进行整数变换， 变换公式为 y = p "计算过程如下：
A. bl=xl-xl6 b2=x2-xl5 b3=x3_xl4 b4=x4_xl3
b5=x5-xl2 b6=x6-xll b7=x7- xlO b8=x8- x9
B. bl6=xl+xl6 bl5=x2+xl5 bl4=x3+xl4 bl3=x4+xl3
bl2=x5+xl2 bll=x6+xll bl0=x7+xl0 b9=x8+x9
C. ml=bl6-b9; m2=bl5_bl0; m3=bl4_bll; m4=bl3_bl2;
D. yl=b9+bl0+bll+bl2+bl3+bl4+bl5+bl6;
y5=bl6«l+bl5-bl4-bl3«l-bl2«l-bll+bl0+b9«l
y9=b 16-b 15-b 14+b 13+b 12-b 11 -b 10+b9
yl3=bl6-bl5«l+bl4«l-bl3-bl2+bll«l-bl0«l+b9 (IQ+ Q-)
Figure imgf000007_0001
： T»8q=8J =ZJ
=TJ
:e»8q=8§ :s»zq :ιβ
:ε»τς 》8q=8。 ： ^» q = --IP
=ΐ。
Figure imgf000007_0002
:弒 止^^ ¾ ^瞢
Figure imgf000007_0003
:e»^m=^u :e»em=eu ^»^^ ： s» =Iu
Figure imgf000007_0004
.T9.0/llOZN3/X3d d5=(gl+g7)； d6=(gl-g7)； d7=(-g2-g8)； d8=(-g2+g8)； d9=(g3+g4)； dl0=(g3-g4)； dll=(g5+g6)-e3; dl2=(g5- g6) ; dl3=(cl+c6)；
dl5= (-c2+c3)+e3; dl6=(c2+c3)； dl7= (- c4+c8) +e6 ; dl8=(c4+c8)； dl9=(c5-c7)； d20=(c5+c7)； d21=-bl+b8; d22= bl+b8; d23=b2-b3; d24=-b4-b5； d25=b4-b5； d26=b6+b7;
N. y2=d2+d5+d9+dl3+dl6+d21+d24+el+e8+g2+c4-f6 +b7;
y4=dl+d6-dl l-d20-d23+d26+e2-g8+ (c2- c4 ) +f 4- b8；
y6=d4+d5-d9+dl3+dl7-d26+e2 -g5+ (- c3 +c7 )+b2 +b3 _b5- f8;
y8=d3+d6+dll-dl6+dl9+d21+d25-g3+(cl -c8)+f2 +b6- g4;
ylO=dl +d8- dlO +dl8- d22+d24- g6+ (- c2+c7) - b3 -f7+(e4-e5)；
yl2=-d2+d7-dl2+dl3+dl5+d23+e7+g4-c8-fl +b4- b6 +b7;
yl4=d8+dl0+dl5+dl7+dl9+d23+d26+(-e7 +e8)+gl+bl -f5;
y16=d4+d7+dl2-dl8+d20+d22+d25+ (el_e8) +g7+c3-b2 -f 3_c6；
其中"〈〈"表示向左移位运算，优先级高于加减法， 基本单元 y = Px共需要 196 个加法和 40个移位。
当所述整数变换基取值为 [15 13 11 11 5 6 5 1]时：
所述变换矩阵
Figure imgf000009_0001
'.\\-pU=p '.Z\+£U=£ '.£\+zu-=z '.p\ +\u=\ o '.\>>p =p\ i|»era=ei '.\»z =z\ '.\»^=\\ '.£»pm=pu '.£»£\u=£u '.£>>zm=zu '.£»\m=\u
Figure imgf000010_0001
:弒 止^
•6q+i»oiq-i»uq+^iq-eiq-i»^iq+i»siq-9iq=ei^
6q+o ΐ q- n q-π q+π q+w q-s ΐ q-9 ΐ q=6 i»6q+oiq+uq-i»^iq-i» iq-^iq-siq+i»9iq=^ ΐ q+s ΐ q+w q+n q+π q+ ΐ ΐ q+o ΐ q+6q= ·α •^iq- iq=^ -m-p =£^ -oiq-siq=^ -6^-9 =\^ D
6x+gx=6q o\ +i =o\q \\ + = q
Figure imgf000010_0002
6x-8x=8qOIxKq
Figure imgf000010_0003
:止^ ¾ 窵 "^u= ^Qi ^ ' m ^ mm 图¾9^91^，， '^[ΐ 5 9 s π n ei ς\] ^1> »^¾¾ΙΪ≡？
0.l9.0/llOZN3/X3d
Figure imgf000011_0001
yl4= d2+d7+dl2+dl8+d21-d23+g3+d26+b6; yl6= d4+d6+d9+dl3+dl9-d20-d25+g3+d26-b4-g8; 其中 "<< "表示向左移位运算， 优先级高于加减法， 基本单元 y = Px共需 要 185个加法和 32个移位。
本发明的有益效果：
本发明实施例提出的二组的 16x 16的整数变换矩阵， 并且给出了变换的快 速算法， 本发明实施例的变换方法能量集中性能优秀， 能量集中度接近 16xl6DCT, 可以极大地消除视频数据在变换空间上的相关性。 计算复杂度低， 可通过加法和移位来实现， 易于硬件实现， 并且运算精度高， 不存在正反变换 不匹配的问题
附图说明
下面将结合附图及实施例对本发明作进一步说明， 附图中：
图 1 是本发明的视频编码 16x16整数变换方法的优选实施例的方法流程 图；
图 2是本发明的视频编码 16x16整数变换方法的优选实施例的当整数变换 基选取 [27 28 24 23 19 14 9 5]时相应的整数变换计算方法示意图；
图 3是图 2中整数变换计算方法示意图中的计算模块 Ml的计算方法图； 图 4是图 2中整数变换计算方法示意图中的计算模块 M2的计算方法图； 图 5是图 2中整数变换计算方法示意图中的计算模块 M3的计算方法图； 图 6是本发明的视频编码 16x16整数变换方法的优选实施例的当整数变换 基选取 [15 13 11 11 5 6 5 1]时相应的整数变换计算方法示意图；
图 7是图 6中整数变换计算方法示意图中的计算模块 N1的计算方法图； 图 8是图 6中整数变换计算方法示意图中的计算模块 N2的计算方法图； 图 9是图 6中整数变换计算方法示意图中的计算模块 N3的计算方法图。
具体实施方式 为了使本发明的目的、技术方案及优点更加清楚明白， 以下结合附图和实 施例， 对本发明进行进一步详细说明， 为了便于说明， 仅示出了与本发明实施 例相关的部分。 应当理解， 此处所描写的具体实施例， 仅仅用于解释本发明， 并不用以限制本发明。
本发明通过接收编码器中预测模块输出的 16x16的图像残差数据 ，选取 不同整数变换基 ( [27 28 24 23 19 14 9 5]或 [15 13 11 11 5 6 5 1] ) ; 对图像残差数据 进行正变换
Figure imgf000013_0001
并根据不同的整数变化基， 采用 相应的整数^换计算方法； 构建变换矩阵 Ρ, 根据变换矩阵 Ρ, 构建縮放矩阵 PF ( PF = z " z ); 对经过 16x16正变换后的数据 Y进行縮放处理。 实施例一
如图 1所示为本发明实施例 1一种视频编码 16x16整数变换方法，所述方 法包括以下步骤：
5101 , 接收编码器中预测模块输出的 16x16的图像残差数据 ；
5102 , 选取整数变换基， 构建变换矩阵 P; 构建 16乘 16的通用整数变换矩阵如下：
C = [C\ C2]， 其中，
Figure imgf000013_0002
Figure imgf000014_0001
矩阵 C中， k9=10; klO 9; kll=6; kl2=2。 定义变换基为
kl k3 k4 k5 k6 kl , 为整数变换基构建成变换矩阵 P。
本发明实施例中， 整数 换基可选取以下数值中的一个：
[27 28 24 23 19 14 9 5]、 [15 13 11 11 5 6 5 1] 。
S103, 根据变换矩阵 P， 构建縮放矩阵 PF;
PF Z Z
其中 Z ml ml6||]; ;为变换矩阵 P的行向量， i取值为 1-16； 为行向量 的向量范数；
S104, 正变换， 对 16x16的图像残差数据 进行整数变换， 变换公式为 Y = PXPT; 其中 Ρ为所述的变换矩阵； 为所述的图像残差数据；
变换的基本单元是形如 y = Px的 16点一维变换， 其中
X = [xl x2 x3 x4 x5 x6 xl x8 x9 xlO xll
Figure imgf000014_0002
， 输 出的 j = [yl yl j3 j4 j5 j6 yl j8 j9 jlO jll jl2 jl3 jl4 jl5 jl6f x2 x3 x4 x5 x6 xl x8 x9 xlO xl 1 xl2 xl3 xl4 xl5 xl6表示整 数变换的一维正变换的输入十六点数值； y\ yl y3 y4 y5 y6 yl j8 y9 ylO yl l y\2 jl3 jl4 y\5 yl6为正 变换的十六点输出数值；
根据不同的整数变化基， 采用相应的整数变换计算方法。
S105 , 对经过 16x16正变换后的数据 Y进行縮放处理；
Y' = Y ® PF
®是矩阵的点乘运算， Y是经过 16x16正变换后的数据， PF 是縮放矩阵， 是本縮放处理后的输出值， 代表视频数据变换到频域上的信息。
本发明实施例的变换方法能量集中性能优秀， 能量集中度接近 16xl6DCT， 可以极大地消除视频数据在变换空间上的相关性； 计算复杂度低，可通过加法 和移位来实现， 易于硬件实现， 并且运算精度高， 不存在正反变换不匹配的问 题。 实施例
以下为本发明实施例 2的一种视频编码 16x16整数变换方法，本发明实施 例 2选取 [27 28 24 23 19 14 9 5]为 16x16通用整数变换矩阵的整数变换 基， 所述方法包括以下步骤：
5201 , 接收编码器中预测模块输出的 16x16的图像残差数据 ；
5202, 选取整数变换基， 构建变换矩阵 P; 构建 16乘 16的通用整数变换矩阵如下：
C = [C\ C2]， 其中，
Figure imgf000016_0001
矩阵 C中， k9=10; kl0=9; kll=6; kl2=2。 定义变换基为 kl k3 k4 k5 k6 kl 为整数变换基构建成变换矩阵？。 本发明实施例选取 [27 28 24 23 19 14 9 5]为整数变换基，构建成 矩阵 P。
当变换基为 [27 28 24 23 19 14 9 5]时， 变换矩阵 P为:
Figure imgf000017_0001
S203, 根据变换矩阵 P， 构建縮放矩阵 PF;
PF = Z *Z
其中， = [l/||ml|| … l/||ml6||]; 为变换矩阵 P的行向量， i取值为
1-16； 为行向量 的向量范数；
当变换矩阵 P的变换基为 [27 28 24 23 19 14 9 5]时，
Z = - L AL ， 其中
a\ = [0.25 0.012345 0.033634 0.012345 0.15811 0.012345 0.033634 0.012345] 縮放矩阵为：
PF = l]， 其中 62.5 6.5744 8.4084 6.5744 39.528 6.5744 8.4084 6.5744
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
8.4084 0.88448 1.1312 0.88448 5.3179 0.88448 1.1312 0.88448
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
39.528 4.158 5.3179 4.158 25 4.158 5.3179 4.158
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
8.4084 0.88448 1.1312 0.88448 5.3179 0.88448 1.1312 0.88448
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
62.5 6.5744 8.4084 6.5744 39.528 6.5744 8.4084 6.5744
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
8.4084 0.88448 1.1312 0.88448 5.3179 0.88448 1.1312 0.88448
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
39.528 4.158 5.3179 4.158 25 4.158 5.3179 4.158
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
8.4084 0.88448 1.1312 0.88448 5.3179 0.88448 1.1312 0.88448
6.5744 0.69156 0.88448 0.69156 4.158 0.69156 0.88448 0.69156
Figure imgf000018_0001
S204, 正变换， 对 16x16的图像残差数据 进行整数变换， 变换公式为 = PXPT ; 其中 Ρ为所述的变换矩阵； 为所述的图像残差数据；
变换的基本单元是形如 y = Px的 16点一维变换， 其中
X = [xl x2 x3 x4 x5 x6 xl x8 x9 xlO xl l xl2 xl3 xl4 xl5 xl6]T ， 输 出的 _y = [ l 2 y3 y4 y5 y6 yl y% y9 ylO yl l
Figure imgf000018_0002
xl xl x3 x4 x5 x6 xl x8 x9 xl 0 xl l xl 2 xl 3 xl 4 xl 5 xl 6表示整 数变换的一维正变换的输入十六点数值； yl yl y3 y4 y5 y6 yl j8 y9 ylO yl l yll yU yU yl5 yl6为正 变换的十六点输出数值；
所述整数变换的计算过程如下：
bl=xl-xl6 b2=x2-xl5 b3=x3- xl4 b4=x4- xl3
b5=x5-xl2 b6=x6- xl l b7=x7- xlO b8=x8- x9
bl6=xl+xl6 bl5=x2+xl5 bl4=x3+xl4 bl3=x4+xl3 bl2=x5+xl2 bll=x6+xll bl0=x7+xl0 b9=x8+x9
C. ml=bl6-b9; m2=bl5_bl0; m3=bl4_bll; m4=bl3_bl2;
D. yl=b9+bl0+bll+bl2+bl3+bl4+bl5+bl6;
y5=bl6«l+bl5-bl4-bl3«l-bl2«l-bll+bl0+b9«l
y9=b 16-b 15-b 14+b 13+b 12-b 11 -b 10+b9
yl3=bl6-bl5«l+bl4«l-bl3-bl2+bll«l-bl0«l+b9;
其中， bl、 b2、 b3、 b4、 b5、 b6、 b7、 b8、 b9、 blO、 bll、 bl2、 bl3、 bl4、 bl5、 bl6， ml、 m2、 m3、 m4为整数变换的中间变量；
再完成以下步骤：
Figure imgf000019_0001
E. nl=ml«3; n2=m2«3; n3=m3«3; n4=m4«3;
F. ll=ml«l; 12=m2«l; 13=m3«l; 14=m4«l;
G. ccl=nl+ 14; cc2=-n2+13; cc3=n3+12; cc4=n4_ll;
H. y3=ccl-cc2+n3+ll+m2; y7=ccl_cc3_n4_13 +ml ;
yl I=nl+cc2+cc4-12+m4； yl5=_n2+cc3 - cc4 - 14+m3
其中， nl、 n2、 n3、 n4, 11、 12、 13、 14, ccl、 cc2、 cc3、 cc4 为整数 换的中间变量； 最后完成如下步骤： s/u/ O o/Jiosld sz-ozAV
Figure imgf000020_0001
置)qqρρρρ p∞vs s Z ε9εΐ639++ +++++= :0ο-ι--- ylO=dl +d8- dlO +dl8- d22+d24- g6+ (- c2+c7) - b3 -f7+ (e4-e5)； yl2=-d2+d7-dl2+dl3+dl5+d23+e7+g4-c8-fl +b4- b6 +b7 ;
yl4=d8+dl0+dl5+dl7+dl9+d23+d26+ (-e7 +e8) +gl+bl -f5 ;
y16=d4+d7+dl2-dl8+d20+d22+d25+ (el_e8) +g7+c3-b2 -f 3_c6；
其中， cl、 c2、 c3、 c4、 c5、 c6、 c7、 c8， gl、 g2、 g3、 g4、 g5、 g6、 g7、 g8， el、 e2、 e3、 e4、 e5、 e6、 e7、 e8， f l、 f2、 f3、 f4、 f5、 f6、 f7、 f8， dl、 d2、 d3、 d4、 d5、 d6、 d7、 d8、 d9、 dlO、 dl l、 dl2、 dl3、 dl4、 dl5、 dl6、 dl7、 dl8、 dl9、 d20、 d21、 d22、 d23、 d24为整数变换的中间 其中"〈〈"表示向左移位运算，优先级高于加减法， 基本单元 y = Px共需要 196 个加法和 40个移位。
此变换基的正变换快速计算方法如图 2所示， 其中计算模块 Ml , M2， M3 分别如图 3， 4， 5所示。 其中
xl x2 x3 x4 x5 x6 xl x8 x9 xlO xl l x\2 x\3 x\4 x\5 J 16表示整数变 换的一维正变换的输入十六点数值；
y\ yl y3 y4 y5 y6 yl y y9 y\0 y\ \ y\2 jl3 y\A y\5 yl6为正变换 的十六点输出数值； 数据处理方向是从左向右， 相交于一圆点的中间变量值等 于圆点左侧线表示的数据相加； 方形表示数据乘一个系数； "-"表示取负值；
"2 "表示乘 2， 即左移一位； "4"表示乘 4， 即左移两位； "8 "表示乘 8， 即 左移 3位， " 16"表示乘 16， 即左移 4位。
图 2中的 Ml模块中的" inl " "in2" "in3 " "in4" "in5 " "in6" "in7" "in8" 表示 Ml模块的输入数据， 分别与 bl6、 bl5、 bl4、 bl3、 bl2、 bl l、 bl0、 b9 相连； Ml模块中的 "outl " "out2" "out3 " "out4" 表示 Ml模块的输出数据， 分别与 yl、 y5、 y9、 yl3相连； 图 2中的 M2模块中的 "inl " "in2" "in3 " "in4"表示 M2模块的输入娄 据，分别与 m4、 m3、 m2、 ml相连； M2模块中的" outl " "out2" "out3 " "out4 表示 M2模块的输出数据， 分别与 y3、 y7、 yl l、 yl5相连； 图 1中的 M3模块中的" inl " "in2" "in3 " "in4" "in5 " "in6" "in7" "in8 表示 M3模块的输入数据， 分别与 b8、 b7、 b6、 b5、 b4、 b3、 b2、 bl相连； M3模块中的 "outl " "out2 " "out3 " "out4" "out5 " "out6" "out7" "out8" % 示 M3模块的输出数据， 分别与 y2、 y4、 y6、 y8、 yl0、 yl2、 yl4、 yl6相连
S205 , 对经过 16x16正变换后的数据 Y进行縮放处理；
Ϋ = Y ® PF
®是矩阵的点乘运算， Y是经过 16x16正变换后的数据， PF 是縮放矩阵 是本縮放处理后的输出值， 代表视频数据变换到频域上的信息。
本发明实施例的变换方法能量集中性能优秀， 能量集中度接近 16xl6DCT 可以极大地消除视频数据在变换空间上的相关性； 计算复杂度低，可通过加法 和移位来实现， 易于硬件实现， 并且运算精度高， 不存在正反变换不匹配的问 题。 实施例三
以下为本发明实施例 3的一种视频编码 16x16整数变换方法，本发明实施 例 3选取 [15 13 11 11 5 6 5 1]为 16x16通用整数变换矩阵的整数变换基， 所述方法包括以下步骤：
5301 , 接收编码器中预测模块输出的 16x16的图像残差数据 X。
5302 , 选取整数变换基， 构建变换矩阵 P; 构建 16乘 16的通用整数变换矩阵如下：
C = [C\ C2]， 其中，
Figure imgf000023_0001
矩阵 C中， k9=10; kl0=9; kll=6; kl2=2。 定义变换基为
kl k3 k4 k5 k6 kl 为整数变换基构建成变换矩阵？。 本发明实施例选取 [15 13 11 11 5 6 5 1]为整数变换基， 构建成变换矩 阵卩。
变换基为 [15 13 11 11 5 6 5 1]时， 变换矩阵 P为 ：
Figure imgf000024_0001
S303, 根据变换矩阵 P， 构建縮放矩阵 PF; 其中， = [l/||ml|| … l/||ml6||]; 为变换矩阵 P的行向量， i取值为
1-16； 为行向量 的向量范数；
当变换矩阵 P的变换基为 [15 13 11 11 5 6 5 1]时，
z =- l al ， 其中
a\ = [0.25 0.026298 0.033634 0.026298 0.15811 0.026298 0.033634 0.026298] 縮放矩阵为：
PF = l]， 其中
Figure imgf000025_0001
S304, 正变换， 对 16x16的图像残差数据 ^进行整数变换， 变换公式为 Y = PXPT; 其中 Ρ为所述的变换矩阵； 为所述的图像残差数据；
变换的基本单元是形如 y = Px的 16点一维变换， 其中
X = [xl x2 x3 x4 x5 x6 xl x8 x9 xlO xll xl2 xl3 xl4 xl5 xl6]T ， 输 出的 _y = [ l 2 y3 y4 y5 y6 yl y% y9 ylO yll
Figure imgf000025_0002
xl xl x3 x4 x5 x6 xl x8 x9 xl 0 xll xl 2 xl 3 xl 4 xl 5 xl 6表示整 数变换的一维正变换的输入十六点数值；
yl yl y3 y4 y5 y6 yl j8 y9 ylO yll yll yU yU yl5 yl6为正 变换的十六点输出数值；
所述整数变换的计算过程如下：
A. bl=xl-xl6 b2=x2-xl5 b3=x3-xl4 b4=x4-xl3 b5=x5-xl2 b6=x6-xll b7=x7-xl0b8=x8-x9
B. bl6=xl+xl6 bl5=x2+xl5 bl4=x3+xl4 bl3=x4+xl3 bl2=x5+xl2 bll=x6+xll bl0=x7+xl0 b9=x8+x9 :弒 止^^ ¾ ^瞢 00 、ε00 、s。。 、ΐ。ο 'π 、ετ 、π' υ 、ευ 'ψ^
'.\\-pU=p '.Z\+£U=£ '.£\+zu-=z '.p\ +\u=\ o
'.\>>p =p\ i|»era=ei '.\»z =z\ '.\»^=\\
'.£»pm=pu '.£»£\u=£u '.£>>zm=zu '.£»\m=\u
Figure imgf000026_0001
:弒 止^
^^^ΙΦ^^^Ι^^ m 、 Kw '9iq ^siq Km 、siq ^iq iq ^oi 、6q、sq 、zq、9q 、gq、 q、sq 、iq
•6q+i»oiq-i»uq+^iq-eiq-i»^iq+i»siq-9iq=ei^
6q+o ΐ q- n q- +n q+ - -9 ΐ q=6 i»6q+oiq+uq-i»^iq-i» iq-^iq-siq+i»9iq=^
ΐ q+s ΐ q+w q+n q+π q+ ΐ ΐ q+o ΐ q+6q= ·α •^iq- iq=^ -m-p =£^ -oiq-siq=^ -6^-9 =\^ D
0Ll9L0/U0ZSiD/lDd Z6Linil\il OAV
Figure imgf000027_0001
yl4= d2+d7+dl2+dl8+d21-d23+g3+d26+b6;
yl6= d4+d6+d9+dl3+dl9-d20-d25+g3+d26-b4-g8;
其中 gl、 g2、 g3、 g4、 g5、 g6、 g7、 g8， el、 e2、 e3、 e4、 e5、 e6、 e7、 e8， fl、 f2、 f3、 f4、 f5、 f6、 f7、 f8， dl、 d2、 d3、 d4、 d5、 d6、 d7、 d8、 d9、 dlO、 dl l、 dl2、 dl3、 dl4、 dl5、 dl6、 dl7、 dl8、 dl9、 d20、 d21、 d22、 d23、 d24、 d25为整数变换的中间变量；
其中 "<< "表示向左移位运算， 优先级高于加减法， 基本单元 y = Px共需 要 185个加法和 32个移位。
此变换基的正变换快速计算方法如图 6所示， 其中计算模块 Nl， N2 , N3 分别如图 7， 8， 9所示。 其中
xl x2 x3 x4 x5 x6 xl x8 x9 xlO xl l x\2 x\3 x\4 x\5 J 16表示整数变 换的一维正变换的输入四点数值；
y\ yl y3 y4 y5 y6 yl y y9 y\0 y\ \ y\2 jl3 y\A y\5 yl6为正变换 的四点输出数值； 数据处理方向是从左向右， 相交于一圆点的中间变量值等于 圆点左侧线表示的数据相加；方形表示数据乘一个系数； "-"表示取负值； "2" 表示乘 2， 即左移一位； "4"表示乘 4， 即左移两位； "8"表示乘 8， 即左移 3 位。
图 6中的 N1模块中的" inl " "in2" "in3 " "in4" "in5 " "in6" "in7" "in8" 表示 Nl模块的输入数据， 分别与 bl6、 bl5、 bl4、 bl3、 bl2、 bl l、 bl0、 b9 相连； Nl模块中的 "outl " "out2" "out3 " "out4" 表示 Nl模块的输出数据， 分别与 yl、 y5、 y9、 yl3相连；
图 6中的 N2模块中的 "inl " "in2 " "in3 " "in4"表示 N2模块的输入数据， 分别与 m4、 m3、 m2、 ml相连； N2模块中的 "outl " "out2 " "out3 " "out4" 表示 N2模块的输出数据， 分别与 y3、 y7、 yl yl5相连； 图 6中的 N3模块中的" inl " "in2 " "in3 " "in4" "in5 " "in6" "in7" "in8 " 表示 N3模块的输入数据， 分别与 b8、 b7、 b6、 b5、 b4、 b3、 b2、 bl相连； N3模块中的 "outl " "out2 " "out3 " "out4" "out5 " "out6" "out7" "out8 " 表 示 N3模块的输出数据， 分别与 y2、 y4、 y6、 y8、 yl0、 yl2、 yl4、 yl6相连； S305 , 对经过 16x16正变换后数据 Y进行縮放处理； Y' = Y ® PF
®是矩阵的点乘运算， Y是经过 16x16正变换后的数据， PF 是縮放矩阵， 是 本縮放处理后的输出值， 代表视频数据变换到频域上的信息。
本发明实施例的变换方法能量集中性能优秀， 能量集中度接近 16xl6DCT， 可以极大地消除视频数据在变换空间上的相关性； 计算复杂度低，可通过加法 和移位来实现， 易于硬件实现， 并且运算精度高， 不存在正反变换不匹配的问 题。本领域的普通技术人员可以理解， 实现上述实施例方法中的全部或部分步 骤是可以通过程序指令相关硬件来完成的，所述的程序可以存储于一计算机可 读取存储介质中， 所述的存储介质可以为 R0M、 RAM, 磁盘、 光盘等。 以上所述仅为本发明的较佳实施例而已， 并不用以限制本发明， 凡在本发 明的精神和原则之内所作的任何修改、等同替换和改进等， 均应包含在本发明 的保护范围之内。

Claims

权 利 要 求
1、 一种视频编码 16x16整数变换方法， 包括
接收编码器中预测模块输出的 16x 16的图像残差数据 ； 选取整数变换基， 构建变换矩阵 P ,
构建 16乘 16的通用整数变换矩阵如下：
C = [C\ C2]， 其中，
Figure imgf000030_0001
Figure imgf000031_0001
矩阵 C中， k9=10; kl0=9; kll=6; kl2=2;
[kl kl k3 k4 k5 k6 kl 8]为整数变换基；
正变换，对 16x16的图像残差数据 进行整数变换，变换公式为 Γ = PXPT； 其中 Ρ为所述的变换矩阵； 为所述的图像残差数据；
其特征在于：
所述整数变换基为以下数值中的一个：
[27 28 24 23 19 14 9 5]、 [15 13 11 11 5 6 5 1] 。
2、 如权利要求 1所述的视频编码 16x16整数变换方法， 其特征在于， 所述 步骤 "选取整数变换基， 构建变换矩阵 Ρ"之后还可以包括步骤：
根据变换矩阵 Ρ， 构建縮放矩阵 PF， 其中， = [l/||ml|| … l/||ml6||]; 为变换矩阵 P的行向量， i取值为
1-16； 为行向量 的向量范数； Y = Y ® PF
®是矩阵的点乘运算， Y是经过 16x16正变换后的数据， PF 是縮放矩 是本縮放处理后的输出值， 代表视频数据变换到频域上的信息。
3、 如权利要求 1所述的视频编码 16x16整数变换方法， 其特征在于， 所 正变换中的变换的基本单元是形如 y = Px的 16点一维变换， 其中
X = [xl x2 x3 x x5 x6 xl x8 x9 xlO xl 1 x\2 x\3 x\4 x\5 x\6]T ， 出的 j = [yl yl j3 j4 j5 j6 yl j8 j9 jlO jl l jl2 jl3 jl4 jl5 jl6] xl x2 x3 x4 x5 x6 xl x8 x9 xlO xl l xl2 xl3 xl4 xl5 J 16为所 ¾[ 正变换的十六点输入数值；
yl yl y3 y4 y5 y6 yl j8 y9 ylO yl l y\2 jl3 jl4 y\5 yl6为所 述正变换的十六点输出数值。
4、 如权利要求 2所述的视频编码 16x16整数变换方法， 其特征在于， 所 数变换基取值为 [27 28 24 23 19 14 9 5]时：
述变换矩阵
s/u o/Jiosld ο
Figure imgf000033_0001
5、 如权利要求 1所述的视频编码 16x16整数变换方法， 其特征在于， 所述 当整数变换基取值为 [27 28 24 23 19 14 9 5]时， "对 16x16的图像残 差数据 进行整数变换， 变换公式为 y = p "计算过程如下：
A. bl=xl-xl6 b2=x2-xl5 b3=x3_xl4 b4=x4_xl3
b5=x5-xl2 b6=x6-xll b7=x7- xlO b8=x8- x9
B. bl6=xl+xl6 bl5=x2+xl5 bl4=x3+xl4 bl3=x4+xl3
bl2=x5+xl2 bll=x6+xll bl0=x7+xl0 b9=x8+x9
C. ml=bl6-b9; m2=bl5_bl0; m3=bl4_bll; m4=bl3_bl2;
D. yl=b9+bl0+bll+bl2+bl3+bl4+bl5+bl6;
y5=bl6«l+bl5-bl4-bl3«l-bl2«l-bll+bl0+b9«l
y9=b 16-b 15-b 14+b 13+b 12-b 11 -b 10+b9
yl3=bl6-bl5«l+bl4«l-bl3-bl2+bll«l-bl0«l+b9;
再完成以下步骤：
"
Figure imgf000034_0001
yl5」 -kll klO -k9\m
E. nl=ml«3; n2=m2«3; n3=m3«3; n4=m4«3;
F. ll=ml«l; 12=m2«l; 13=m3«l; 14=m4«l;
G. ccl=nl+ 14; cc2=-n2+13; cc3=n3+12; cc4=n4_ll;
H. y3=ccl-cc2+n3+ll+m2; y7=ccl_cc3_n4_13 +ml ;
yl I=nl+cc2+cc4-12+m4； yl5=_n2+cc3 - cc4 - 14+m3 最后完成如下步骤：
gg y();8¾d6dd6d9dd53cc8b6llll212lf24+++++++ +=-- I- g y ( );6dd5d9d3d7d6e5C3C7bb3b584ll222f+++++ ++ +=-- I- I- g y ( )dd6dd0d3d6e8CCb84ll l222224f 4++++ +=-----l
g y;.dd5d9d3d6ddee8c6b7 N22ll2124l24f++++++++++ +=- ;;; dbb5 d5bb5 d6b6b7244242+===l-l
((;;; d9c5c7 d0c5c7 dbb8 d bb8 d3bb3l221l22l22+++=====--l
();() () ;( d5cc3e3 d6cc3 d7CC8e6 d8cc8l2l2l4l4++++ ++====-- gggggg(();()() do3 d56e3 d56 d3cc6l4lll2ll++====--- gggggggggg(((()() d57 d67 d78 d88 d93ll224+++=====----
Figure imgf000035_0001
()( () ;()(). dee6CC6 dee5C5 ¾ee5 dee7 Mll122444 ++ +++====--- ;;;.b5 b56b67 L f44«l f«l f«l f==== ;;;. eb e5b5 e6b6 e7 K44<<2<<2<<2=== g g g g J;;;.b35 b536b63744<<<<<<===
ylO=dl +d8— dlO +dl8- d22+d24- g6+ (- c2+c7) - b3 -f7+(e4-e5) yl2=-d2+d7-dl2+dl3+dl5+d23+e7+g4-c8-fl +b4- b6 +b7;
yl4=d8+dl0+dl5+dl7+dl9+d23+d26+(-e7 +e8)+gl+bl -f5;
y16=d4+d7+dl2-dl8+d20+d22+d25+ (el_e8) +g7+c3-b2 -f 3_c6； 其中 "〈〈"表示向左移位运算， 优先级高于加减法。
6、 如权利要求 2所述的视频编码 16x16整数变换方法， 其特征在于， 述整数变换基取值为 [15 13 11 11 5 6 5 1]时：
所述变换矩阵
Figure imgf000036_0001
z = i l l\ ， 其中 a\ = [0.25 0.026298 0.033634 0.026298 0.15811 0.026298 0.033634 0.026298] 縮放矩阵为：
PF = [ i i], 其中
Figure imgf000037_0001
7、 如权利要求 1所述的视频编码 16x16整数变换方法， 其特征在于， 所述 当整数变换基取值为 [15 13 11 11 5 6 5 1]时， "对 16x16的图像残差数 据 进行整数变换， 变换公式为 y = p "计算过程如下：
A. bl=xl-xl6 b2=x2-xl5 b3=x3-xl4 b4=x4-xl3 b5=x5-xl2 b6=x6-xll b7=x7-xl0b8=x8-x9
B. bl6=xl+xl6 bl5=x2+xl5 bl4=x3+xl4 bl3=x4+xl3 bl2=x5+xl2 bll=x6+xll bl0=x7+xl0 b9=x8+x9
C. ml=bl6-b9; m2=bl5-bl0; m3=bl4-bll; m4=bl3-bl2;
D. yl=b9+bl0+bll+bl2+bl3+bl4+bl5+bl6;
y5=bl6«l+bl5-bl4-bl3«l-bl2«l-bll+bl0+b9«l
y9=bl6-bl5-bl4+bl3+bl2-bll-bl0+b9
yl3=bl6-bl5«l+bl4«l-bl3-bl2+bll«l-bl0«l+b9;
再完成以下步骤：
Figure imgf000038_0001
ygg;6 dd6d9d3d9d0d53d6b8l4ll2224++++++----=
Figure imgf000039_0001
yg()();dd6dd6d0dd5eesb78l24lll2222l4f2f+++++++++ -----=
,
gg;;;;; d6e5 d75e6 d8bb7 d9bb7 d0bb8l2lllll22+++---=====
PCT/CN2011/076170 2011-04-20 2011-06-23 一种视频编码16×16整数变换方法 WO2012142792A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN 201110101437 CN102137261A (zh) 2011-04-20 2011-04-20 一种视频编码16x16整数变换方法
CN201110101437.0 2011-04-20

Publications (1)

Publication Number Publication Date
WO2012142792A1 true WO2012142792A1 (zh) 2012-10-26

Family

ID=44296903

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2011/076170 WO2012142792A1 (zh) 2011-04-20 2011-06-23 一种视频编码16×16整数变换方法

Country Status (2)

Country Link
CN (1) CN102137261A (zh)
WO (1) WO2012142792A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021032158A1 (en) * 2019-08-20 2021-02-25 Beijing Bytedance Network Technology Co., Ltd. Position-based coefficients scaling

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104486629B (zh) * 2014-12-16 2017-10-20 北京金山云网络技术有限公司 H.265视频编码中变换与反变换的快速实施方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5964824A (en) * 1996-02-02 1999-10-12 Nec Coporation Two-dimensional IDCT circuit with input adder out output shifter for reducing addition operations during rounding-up
CN1589017A (zh) * 2004-08-06 2005-03-02 联合信源数字音视频技术（北京）有限公司 一种低复杂度整数4×4离散余弦变换量化装置及其实现方法
CN101640791A (zh) * 2009-03-10 2010-02-03 青岛海信信芯科技有限公司 一种解码方法、装置和解码器

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5964824A (en) * 1996-02-02 1999-10-12 Nec Coporation Two-dimensional IDCT circuit with input adder out output shifter for reducing addition operations during rounding-up
CN1589017A (zh) * 2004-08-06 2005-03-02 联合信源数字音视频技术（北京）有限公司 一种低复杂度整数4×4离散余弦变换量化装置及其实现方法
CN101640791A (zh) * 2009-03-10 2010-02-03 青岛海信信芯科技有限公司 一种解码方法、装置和解码器

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021032158A1 (en) * 2019-08-20 2021-02-25 Beijing Bytedance Network Technology Co., Ltd. Position-based coefficients scaling
US11539970B2 (en) 2019-08-20 2022-12-27 Beijing Bytedance Network Technology Co., Ltd. Position-based coefficients scaling
US11595671B2 (en) 2019-08-20 2023-02-28 Beijing Bytedance Network Technology Co., Ltd. Signaling for transform skip mode
US11641478B2 (en) 2019-08-20 2023-05-02 Beijing Bytedance Network Technology Co., Ltd. Usage of default and user-defined scaling matrices

Also Published As

Publication number Publication date
CN102137261A (zh) 2011-07-27
CN102333216A (zh) 2012-01-25

Similar Documents

Publication Publication Date Title
CN101330616B (zh) 视频解码过程中反离散余弦变换的硬件实现装置及方法
JP2007122710A5 (zh)
TW201907319A (zh) 適用於人工神經網路之矩陣及向量相乘的方法
CN107154851B (zh) 一种数据加密和解密的方法及装置
CN107729996A (zh) 零系数跳过卷积神经网络引擎
Ahmed et al. N point DCT VLSI architecture for emerging HEVC standard
JP2008148326A5 (zh)
WO2012142792A1 (zh) 一种视频编码16×16整数变换方法
BRPI0709263A2 (pt) projeto de transformada com interfaces escalonadas e não-escalonadas
JP2015530830A5 (zh)
CN110933445B (zh) 一种基于系数矩阵变换的dct运算方法及其变换装置
CN112492309A (zh) 数据压缩系统和数据映射方法
IT202000018043A1 (it) Procedimenti e sistemi di elaborazione di rete neurale artificiale
CN106204670A (zh) 一种基于优化下采样算法和压缩感知理论的图像压缩方法
Li et al. Mulut: Cooperating multiple look-up tables for efficient image super-resolution
CN107909537A (zh) 一种基于卷积神经网络的图像处理方法及移动终端
CN106254883B (zh) 一种视频解码中的反变换方法和装置
CN109196861A (zh) 解码数字图像的方法、编码方法、设备和相关计算机程序
Jain et al. Performance analysis of integer wavelet transform for image compression
CN105306936B (zh) 一种基于块压缩感知的图像编码方法
WO2012142777A1 (zh) 一种视频编码8x8整数变换方法
CN106664408B (zh) 一种压缩数字图像的方法
TWI468015B (zh) 視訊解碼的平行處理裝置及方法
CN206962992U (zh) 用于数字视频编解码的3乘3整数dct变换量化器
TWI237773B (en) Fast fourier transform processor and dynamic scaling method thereof and radix-8 fast Fourier transform computation method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11863783

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 14/03/14)

122 Ep: pct application non-entry in european phase

Ref document number: 11863783

Country of ref document: EP

Kind code of ref document: A1