JP2015109585A - デジタル符号化装置 - Google Patents
デジタル符号化装置 Download PDFInfo
- Publication number
- JP2015109585A JP2015109585A JP2013252038A JP2013252038A JP2015109585A JP 2015109585 A JP2015109585 A JP 2015109585A JP 2013252038 A JP2013252038 A JP 2013252038A JP 2013252038 A JP2013252038 A JP 2013252038A JP 2015109585 A JP2015109585 A JP 2015109585A
- Authority
- JP
- Japan
- Prior art keywords
- matrix
- integer
- correction
- unit
- orthogonal transform
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Complex Calculations (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【解決手段】デコーダ用の整数近似直交変換マトリクスMTの逆マトリクスに所定のスケーリングをしたスケーリング逆マトリクスMTinvは、スケーリング逆マトリクスMTinvの整数部分である整数近似主マトリクスMと、スケーリング逆マトリクスMTinvの小数部分である小数部分補正マトリクスΔMとに分離される。小数部分補正マトリクスΔMを整数N倍して小数部分を丸め処理したマトリクスを補正整数マトリクスΔM16とする。直交変換部において、主演算部4が整数近似主マトリクスMを用いてデータを直交変換処理する。補正演算部5が補正整数マトリクスΔM16を用いてデータを直交変換処理する。加算部6が主演算部4の処理結果と、補正演算部5の処理結果を整数Nで除算した結果とを加算する。
【選択図】図2
Description
Yjk=2/N・Ajk・Σp=0〜N−1Σq=0〜N−1{Xpq・cos((2p+1)jπ/2N)・cos((2q+1)kπ/2N)} 数式(3)
ここで、j=0,k=0の場合にはAjk=1/2、j≠0,k=0の場合にはAjk=1/√2、j=0,k≠0の場合にはAjk=1/√2、j≠0,k≠0の場合にはAjk=1である。p、qはそれぞれ被変換データXの行(水平)と列(垂直)のIndexである。j、kはそれぞれ変換結果データYの行(水平)と列(垂直)のIndexである。
M≒128√2・Mdct
ここで、“・”はMdctマトリクスの各係数値を128√2倍することを意味する。そして、“≒”としているのは、各係数値を128√2倍した結果を整数近似した値にしているためである。
MTinv≒128√2・MTdct
図1は、本発明の実施の形態1に係るデジタル符号化装置を示す図である。直交変換部1は、整数近似直交変換を用いて画像又は音声のデータを直交変換する。量子化部2は、直交変換部1から出力された算出係数を量子化する。符号化部3は、量子化部2により量子化された数値をエントロピー符号化により圧縮符号化する。
MTinv=M+ΔM (数式6)
Y=MTinv・X・Minv
=(M+ΔM)・X・(MT+ΔMT)
=M・X・MT+ΔM・X・MT+M・X・ΔMT+ΔM・X・ΔMT (数式7)
前述のように補正演算は主演算の下位に付加する4ビット精度の小数点以下の成分の演算である。実際には、元データが10ビットなら、乗算結果の上位から11ビットと10ビットの間に小数点がある。
ここで、X//64はXを64で切捨て除算した商である。切捨て除算をするのは、ビットシフトだけで除算をする場合を想定したものである。
補正整数マトリクスΔM16は4ビット係数程度の数値で、0係数を多数含み、規則性があるため、部分Butterfly演算が可能である。そこで、本実施の形態では、補正整数マトリクスΔM16の各要素を2進表現で表わす。このマトリクスを2進表現の正負符号付きのビット位置(桁位置)毎のk個のマトリクスに分解する。これら分解されたマトリクスの要素値を1、0、−1で表わす。第iビット目のマトリクスを第iのビットプレーンマトリクスとする(i=1,・・・,k)。
ΔM16xX=(ΔM16(0)xX)+2・(ΔM16(1)xX)+4・(ΔM16(2)xX)+8・(ΔM16(3)xX) 数式(14)
XxΔMT16=(XxΔMT16(0))+2・(XxΔMT16(1))+4・(XxΔMT16(2))+8・(XxΔMT16(3)) 数式(15)
ここで、ΔMT16(0)はΔM16(0)の転置マトリクス、ΔMT16(1)はΔM16(1)の転置マトリクス、以下同様である。
Claims (3)
- 整数近似直交変換を用いて画像又は音声のデータを直交変換する直交変換部と、
前記直交変換部から出力された算出係数を量子化する量子化部と、
前記量子化部により量子化された数値をエントロピー符号化により圧縮符号化する符号化部とを備え、
デコーダ用の整数近似直交変換マトリクスの逆マトリクスに所定のスケーリングをしたスケーリング逆マトリクスは、前記スケーリング逆マトリクスの整数部分である整数近似主マトリクスと、前記スケーリング逆マトリクスの小数部分である小数部分補正マトリクスとに分離され、
前記小数部分補正マトリクスを整数N倍して小数部分を丸め処理したマトリクスを補正整数マトリクスとし、
前記直交変換部は、
前記整数近似主マトリクスを用いて前記データを直交変換処理する主演算部と、
前記補正整数マトリクスを用いて前記データを直交変換処理する補正演算部と、
前記主演算部の処理結果と、前記補正演算部の処理結果を整数Nで除算した結果とを加算する第1の加算部とを有することを特徴とする符号化装置。 - 整数近似直交変換を用いて画像又は音声のデータを直交変換する直交変換部と、
前記直交変換部から出力された算出係数を量子化する量子化部と、
前記量子化部により量子化された数値をエントロピー符号化により圧縮符号化する符号化部とを備え、
デコーダ用の整数近似直交変換マトリクスの逆マトリクスに所定のスケーリングをしたスケーリング逆マトリクスは、前記スケーリング逆マトリクスの整数部分である整数近似主マトリクスと、前記スケーリング逆マトリクスの小数部分である小数部分補正マトリクスとに分離され、
前記小数部分補正マトリクスを整数N倍して小数部分を丸め処理したマトリクスを補正整数マトリクスとし、
前記データはnビット精度で構成され、前記データの上位mビットを有効ビットとし、下位(n−m)ビットを0として構成した成分を省略データとし、
前記直交変換部は、
前記整数近似主マトリクスを用いて前記データを直交変換処理する主演算部と、
前記補正整数マトリクスを用いて前記省略データを直交変換処理する補正演算部と、
前記主演算部の処理結果と、前記補正演算部の処理結果を整数Nで除算した結果とを加算する第1の加算部とを有することを特徴とする符号化装置。 - 前記補正整数マトリクスの各要素を2進表現で表わし、このマトリクスを2進表現の正負符号付きのビット位置(桁位置)毎のk個のマトリクスに分解し、これら分解されたマトリクスの要素値を1、0、−1で表わし、第iビット目のマトリクスを第iのビットプレーンマトリクスとし(i=1,・・・,k)、
前記補正演算部は、
前記第1〜第kのビットプレーンマトリクスをそれぞれ用いて直交変換処理を行う第1〜第kの分割補正演算部と、
前記第1〜第kの分割補正演算部の演算結果について、前記第iの分割補正演算部による演算結果を2のi−1乗倍(i=1,・・・,k)してそれらの和を算出する第2の加算部とを有することを特徴とする請求項1又は2に記載の符号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013252038A JP6102707B2 (ja) | 2013-12-05 | 2013-12-05 | デジタル符号化装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013252038A JP6102707B2 (ja) | 2013-12-05 | 2013-12-05 | デジタル符号化装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015109585A true JP2015109585A (ja) | 2015-06-11 |
JP6102707B2 JP6102707B2 (ja) | 2017-03-29 |
Family
ID=53439642
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013252038A Active JP6102707B2 (ja) | 2013-12-05 | 2013-12-05 | デジタル符号化装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6102707B2 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05153402A (ja) * | 1991-11-29 | 1993-06-18 | Fuji Film Micro Device Kk | 離散コサイン変換器 |
JP2003333598A (ja) * | 2002-05-02 | 2003-11-21 | Microsoft Corp | イメージおよびビデオ符号化のための2−d変換 |
JP2010505154A (ja) * | 2006-06-26 | 2010-02-18 | クゥアルコム・インコーポレイテッド | 逆離散コサイン変換計算における誤差低減 |
-
2013
- 2013-12-05 JP JP2013252038A patent/JP6102707B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05153402A (ja) * | 1991-11-29 | 1993-06-18 | Fuji Film Micro Device Kk | 離散コサイン変換器 |
JP2003333598A (ja) * | 2002-05-02 | 2003-11-21 | Microsoft Corp | イメージおよびビデオ符号化のための2−d変換 |
JP2010505154A (ja) * | 2006-06-26 | 2010-02-18 | クゥアルコム・インコーポレイテッド | 逆離散コサイン変換計算における誤差低減 |
Non-Patent Citations (1)
Title |
---|
JPN6017002111; K. Sharman et al.: AHG 5 and 18 - Transform Matrix Precision for High Bit Depths , 20131023, Joint Collaborative Team on Video Coding (JCT-VC) * |
Also Published As
Publication number | Publication date |
---|---|
JP6102707B2 (ja) | 2017-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
RU2413983C2 (ru) | Обратимое преобразование для сжатия двумерных данных с потерями и без потерь | |
KR101028676B1 (ko) | 공통 인수를 갖는 변환 | |
JP4560033B2 (ja) | ビデオまたはイメージのデータを復号化するための方法 | |
CA2653693C (en) | Reduction of errors during computation of inverse discrete cosine transform | |
JP5113067B2 (ja) | 信号およびデータ処理のための効率的な無乗算計算 | |
US7716265B2 (en) | Data transformation apparatus and method | |
JP2003204552A5 (ja) | ||
CN101261619A (zh) | 变换及后续量化的实现 | |
CA2467670C (en) | System and methods for efficient quantization | |
JP6102707B2 (ja) | デジタル符号化装置 | |
US10432937B2 (en) | Adaptive precision and quantification of a wavelet transformed matrix | |
JP2023522886A (ja) | ニューラルネットワークパラメーターの表現の改良された概念 | |
JP4594420B2 (ja) | データ変換装置及びその制御方法 | |
TWI228918B (en) | Video predictive decoding method and apparatus | |
KR100240002B1 (ko) | 영상신호의 압축과 복원을 위한 이산 코사인 변환 장치 | |
JP5662887B2 (ja) | 符号化装置、復号装置及びプログラム | |
JP5451171B2 (ja) | データ変換処理装置およびデータ変換処理方法 | |
Chan et al. | A new quantized DCT and its implementation on multimedia processor | |
JP2004178482A (ja) | 画像・オーディオデータ処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160302 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170117 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170131 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170213 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6102707 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |