JP3099747B2 - 可逆変換を可能にするディジタル信号の変換符号化方式 - Google Patents
可逆変換を可能にするディジタル信号の変換符号化方式Info
- Publication number
- JP3099747B2 JP3099747B2 JP22218896A JP22218896A JP3099747B2 JP 3099747 B2 JP3099747 B2 JP 3099747B2 JP 22218896 A JP22218896 A JP 22218896A JP 22218896 A JP22218896 A JP 22218896A JP 3099747 B2 JP3099747 B2 JP 3099747B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- quantization
- vector
- binary
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Complex Calculations (AREA)
Description
【０００１】
【発明の属する技術分野】本発明はディジタル信号の変
換符号化に関しており、特に画像信号の符号化に関す
る。
換符号化に関しており、特に画像信号の符号化に関す
る。
【０００２】
【従来の技術】離散コサイン変換にもとづくディジタル
信号の可逆符号化方式として、特願平07-249962 「可逆
変換を可能にするディジタル信号の変換符号化方式」に
記載されている技術がある。これは離散コサイン変換を
修正し、可逆な変換を可能にしたものである。この方式
の特徴は2 つあり、1 つは、離散コサイン変換を整数行
列による線形変換で近似すること、もう1 つは、可逆な
量子化によって変換係数間に含まれる冗長性を除去する
ことである。
信号の可逆符号化方式として、特願平07-249962 「可逆
変換を可能にするディジタル信号の変換符号化方式」に
記載されている技術がある。これは離散コサイン変換を
修正し、可逆な変換を可能にしたものである。この方式
の特徴は2 つあり、1 つは、離散コサイン変換を整数行
列による線形変換で近似すること、もう1 つは、可逆な
量子化によって変換係数間に含まれる冗長性を除去する
ことである。
【０００３】以下に、この方式による8 元の可逆離散コ
サイン変換の原理を説明する。本来の8 元離散コサイン
変換は、原信号ベクトル(x0,x1, …,x7)を数１に従っ
て、変換係数(X0,X1, …,X7)に変換するものである。
サイン変換の原理を説明する。本来の8 元離散コサイン
変換は、原信号ベクトル(x0,x1, …,x7)を数１に従っ
て、変換係数(X0,X1, …,X7)に変換するものである。
【０００４】
【数１】 ここに、c1, …,c7 は数２で表される。
【０００５】
【数２】 前記出願特許記載の8 元可逆離散コサイン変換では、数
１で表される8 元離散コサイン変換を数３の変換で近似
する。
１で表される8 元離散コサイン変換を数３の変換で近似
する。
【０００６】
【数３】 ここにa1, …,a7 は自然数である。このa1, …,a7 は、
離散コサイン変換の各行ベクトルを定数倍し、整数に丸
め込むことで得られる。数３で得られる(X0,…,X7)は、
定数倍されていることを除いて、本来の離散コサイン変
換係数に近い値となる。そして、(X0,…,X7)は整数値で
あるため、可逆な符号化が可能である。
離散コサイン変換の各行ベクトルを定数倍し、整数に丸
め込むことで得られる。数３で得られる(X0,…,X7)は、
定数倍されていることを除いて、本来の離散コサイン変
換係数に近い値となる。そして、(X0,…,X7)は整数値で
あるため、可逆な符号化が可能である。
【０００７】ただし、数３で得られる変換係数X0, …,X
7 は、互いに独立でなく、冗長性を有する。変換行列の
行列式の絶対値をD とすると、変換領域でとり得る点の
密度は1/D となる。すなわち変換領域では、全整数格子
点のうちとり得る点は1/D であり、残りの1-1/D は、実
際にはとり得ない無駄な点である。この無駄な点をも符
号化の対象とすることは、圧縮符号化の効率を下げる原
因となる。
7 は、互いに独立でなく、冗長性を有する。変換行列の
行列式の絶対値をD とすると、変換領域でとり得る点の
密度は1/D となる。すなわち変換領域では、全整数格子
点のうちとり得る点は1/D であり、残りの1-1/D は、実
際にはとり得ない無駄な点である。この無駄な点をも符
号化の対象とすることは、圧縮符号化の効率を下げる原
因となる。
【０００８】そこで、この冗長性を取り除くために、可
逆な符号化を行う。ただし、8 次元空間で直接可逆な量
子化を定義することは困難なため、数３を高速算法に従
って分解し、得られる個々の部分変換の変換結果に対し
て可逆な量子化を行う。
逆な符号化を行う。ただし、8 次元空間で直接可逆な量
子化を定義することは困難なため、数３を高速算法に従
って分解し、得られる個々の部分変換の変換結果に対し
て可逆な量子化を行う。
【０００９】数３の変換は、以下の数４〜数１０のよう
に分解できる。
に分解できる。
【００１０】
【数４】
【００１１】
【数５】
【００１２】
【数６】
【００１３】
【数７】
【００１４】
【数８】
【００１５】
【数９】
【００１６】
【数１０】
【００１７】
【数１１】
【００１８】
【数１２】 但し、数１０ではa4=1とした。これは、数１０の行列
は、a4のみからなり、a4=1としても問題が無いためであ
る。このように、8 つの2 ×2 行列変換と1 つの4 ×4
行列変換に分解できる。この個々の変換において冗長性
が生じる。例えば、数４の変換の場合は、変換行列の行
列式の絶対値は2 であるから、変換結果として実際にと
りえる整数ベクトルは、全体の1/2 となる。このように
個々の変換で発生する冗長性を、個々の変換毎に取り除
く。このために、図２２に示すように、変換毎にその変
換結果を可逆に量子化する。
は、a4のみからなり、a4=1としても問題が無いためであ
る。このように、8 つの2 ×2 行列変換と1 つの4 ×4
行列変換に分解できる。この個々の変換において冗長性
が生じる。例えば、数４の変換の場合は、変換行列の行
列式の絶対値は2 であるから、変換結果として実際にと
りえる整数ベクトルは、全体の1/2 となる。このように
個々の変換で発生する冗長性を、個々の変換毎に取り除
く。このために、図２２に示すように、変換毎にその変
換結果を可逆に量子化する。
【００１９】ここで、8 元の可逆離散コサイン変換と本
来の離散コサイン変換の比較について述べておく。図２
２と同様に、本来の8 元離散コサイン変換も図２４に示
すように分解できる。この図では、各行列変換が、図２
２のそれに対応するように、2 ×2 、4 ×4 の個々の変
換の変換行列を正規化してある。図２２と図２４を比較
すると、対応するのはそれぞれ、変換器160 と変換器18
0,変換器161 と変換器181,変換器162 と変換器182,変換
器163 と変換器183,変換器164 と変換器184,変換器165
と変換器185,変換器166 と変換器186,変換器167 と変換
器187,変換器168 と変換器188 である。この対応する変
換で得られる結果が等しければ、最終的に得られる変換
係数もほぼ等しい値となる。後述するように、このこと
は、8 元可逆離散コサイン変換と、本来の8 元離散コサ
イン変換の互換性を考える上で重要となる。なお、各変
換の比較によりわかるように、離散コサイン変換におい
て基底の正規化に相当する部分が、可逆離散コサイン変
換では、可逆量子化に置き換わっている。よって、可逆
量子化の結果をいかに正規化の結果に近づけるかが、互
換性を考える上で重要となる。次に、この可逆量子化に
ついて、2 ×2 行列による変換の場合、4 ×4 行列によ
る変換の場合の順に説明する。
来の離散コサイン変換の比較について述べておく。図２
２と同様に、本来の8 元離散コサイン変換も図２４に示
すように分解できる。この図では、各行列変換が、図２
２のそれに対応するように、2 ×2 、4 ×4 の個々の変
換の変換行列を正規化してある。図２２と図２４を比較
すると、対応するのはそれぞれ、変換器160 と変換器18
0,変換器161 と変換器181,変換器162 と変換器182,変換
器163 と変換器183,変換器164 と変換器184,変換器165
と変換器185,変換器166 と変換器186,変換器167 と変換
器187,変換器168 と変換器188 である。この対応する変
換で得られる結果が等しければ、最終的に得られる変換
係数もほぼ等しい値となる。後述するように、このこと
は、8 元可逆離散コサイン変換と、本来の8 元離散コサ
イン変換の互換性を考える上で重要となる。なお、各変
換の比較によりわかるように、離散コサイン変換におい
て基底の正規化に相当する部分が、可逆離散コサイン変
換では、可逆量子化に置き換わっている。よって、可逆
量子化の結果をいかに正規化の結果に近づけるかが、互
換性を考える上で重要となる。次に、この可逆量子化に
ついて、2 ×2 行列による変換の場合、4 ×4 行列によ
る変換の場合の順に説明する。
【００２０】2 ×2 行列による変換の場合は、整数格子
点を変換して得られる変換点を、その構造の周期性を利
用して可逆に量子化する。変換行列の行列式の絶対値を
D 、整数ベクトルを変換して得られる変換点の座標を(Y
1,Y2) とすると、変換点(Y1,Y2) 全体の構造は、各軸方
向に周期D を持つことが示せる。そこで、数１３で表さ
れる領域
点を変換して得られる変換点を、その構造の周期性を利
用して可逆に量子化する。変換行列の行列式の絶対値を
D 、整数ベクトルを変換して得られる変換点の座標を(Y
1,Y2) とすると、変換点(Y1,Y2) 全体の構造は、各軸方
向に周期D を持つことが示せる。そこで、数１３で表さ
れる領域
【００２１】
【数１３】 ( 但し、N1、N2はD の倍数であり、これらのことを以後
量子化周期と呼ぶ) を基本領域とし、あらかじめこの基
本領域内にある変換点の量子化値を人為的に定義してお
く。そして変換点と量子化値の対応関係を、表( 以後こ
の表のことを量子化対応表と呼ぶ) に記述して保持して
おき、次に述べるように、この表を用いて量子化する。
量子化周期と呼ぶ) を基本領域とし、あらかじめこの基
本領域内にある変換点の量子化値を人為的に定義してお
く。そして変換点と量子化値の対応関係を、表( 以後こ
の表のことを量子化対応表と呼ぶ) に記述して保持して
おき、次に述べるように、この表を用いて量子化する。
【００２２】実際の量子化の手順は以下の通りである。
はじめに、変換点の座標Y1、Y2を、それぞれ量子化周期
N1、N2で割ったときの商b1、b2と剰余r1、r2を求める。
すると、この剰余(r1,r2) は、数１３に示す基本領域内
に含まれる。次に、上で定義した量子化対応表を用いて
(r1,r2) の量子化値(q1,q2)(以後局所量子化と呼ぶ)を
求める。そして、商b1、b2と局所量子化値q1、q2から(Y
1,Y2) の量子化値(Yq1,Yq2) を数１４により算出する。
はじめに、変換点の座標Y1、Y2を、それぞれ量子化周期
N1、N2で割ったときの商b1、b2と剰余r1、r2を求める。
すると、この剰余(r1,r2) は、数１３に示す基本領域内
に含まれる。次に、上で定義した量子化対応表を用いて
(r1,r2) の量子化値(q1,q2)(以後局所量子化と呼ぶ)を
求める。そして、商b1、b2と局所量子化値q1、q2から(Y
1,Y2) の量子化値(Yq1,Yq2) を数１４により算出する。
【００２３】
【数１４】 ここに、M1、M2は自然数で、それぞれq1、q2のダイナミ
ックレンジを表す。このM1、M2は、量子化値のスケール
ではかったときの基本領域の大きさを表しており、次に
述べる逆量子化の周期を表す。( このため、以後M1、M2
のことを逆量子化周期と呼ぶことにする。) 次に、2 ×2 行列変換の逆量子化について述べる。逆量
子化も量子化と同様の手順で行うことができる。まず、
量子化値Yq1 、Yq2 をそれぞれ前述の逆量子化周期M1、
M2で割り、商b1' 、b2' と剰余q1' 、q2' を求める。次
に、量子化対応表とは逆の対応関係を記述した表( 以後
逆量子化対応表と呼ぶ) を参照して、(q1',q2') に対応
する(r1',r2') を求める。そして、逆量子化値(Y1,Y2)
を数１５により算出する。
ックレンジを表す。このM1、M2は、量子化値のスケール
ではかったときの基本領域の大きさを表しており、次に
述べる逆量子化の周期を表す。( このため、以後M1、M2
のことを逆量子化周期と呼ぶことにする。) 次に、2 ×2 行列変換の逆量子化について述べる。逆量
子化も量子化と同様の手順で行うことができる。まず、
量子化値Yq1 、Yq2 をそれぞれ前述の逆量子化周期M1、
M2で割り、商b1' 、b2' と剰余q1' 、q2' を求める。次
に、量子化対応表とは逆の対応関係を記述した表( 以後
逆量子化対応表と呼ぶ) を参照して、(q1',q2') に対応
する(r1',r2') を求める。そして、逆量子化値(Y1,Y2)
を数１５により算出する。
【００２４】
【数１５】 以上が2 ×2 行列変換の量子化、逆量子化である。
【００２５】数１６に示す4 ×4 行列の変換で得られる
(X1,X7,X3,X5) については、(X1,X7) と(X3,X5) に分け
てそれぞれ量子化する。
(X1,X7,X3,X5) については、(X1,X7) と(X3,X5) に分け
てそれぞれ量子化する。
【００２６】
【数１６】 ここに、(u4,u5,u6,u7) は整数ベクトルである。数１６
の変換およびこの4 ×4 可逆量子化を実現する前記出願
特許記載の4 ×4 可逆変換器の構成を図２６に示す。
の変換およびこの4 ×4 可逆量子化を実現する前記出願
特許記載の4 ×4 可逆変換器の構成を図２６に示す。
【００２７】変換係数(X1,X7) については、それぞれ線
形量子化器4 、5 において、幅k1、k7(k1 、k7は自然
数) で線形量子化する。量子化幅k1、k7の値は、(X1,
X7) の量子化値(Xq1,Xq7) と(X3,X5) の量子化値(Xq3,X
q5) のダイナミックレンジがほぼ等しくなるように設定
する。
形量子化器4 、5 において、幅k1、k7(k1 、k7は自然
数) で線形量子化する。量子化幅k1、k7の値は、(X1,
X7) の量子化値(Xq1,Xq7) と(X3,X5) の量子化値(Xq3,X
q5) のダイナミックレンジがほぼ等しくなるように設定
する。
【００２８】一方、変換係数(X3,X5) の量子化には、次
に述べる関係を利用する。すなわち、(X1,X7) が定まる
と、ある整数ベクトル(s3,s5) が定まり、(X3,X5) の取
り得る値は数１７に制限されることを利用する。
に述べる関係を利用する。すなわち、(X1,X7) が定まる
と、ある整数ベクトル(s3,s5) が定まり、(X3,X5) の取
り得る値は数１７に制限されることを利用する。
【００２９】
【数１７】 ここに、g 、h は、数１６のa1、a3、a5、a7より、
【００３０】
【数１８】 と表される整数である。数１７で表される変換係数(X3,
X5) の取り得る点を図示したものが図２８である。この
ように、ある(X1,X7) が定まったときに変換係数(X3,
X5) の取り得る値全体の構造は、ベクトル(h,g) 、(-g,
h)で定まる格子構造が整数ベクトル(s3,s5)(以後代表元
とよぶ) の分だけずれた構造となる。
X5) の取り得る点を図示したものが図２８である。この
ように、ある(X1,X7) が定まったときに変換係数(X3,
X5) の取り得る値全体の構造は、ベクトル(h,g) 、(-g,
h)で定まる格子構造が整数ベクトル(s3,s5)(以後代表元
とよぶ) の分だけずれた構造となる。
【００３１】さらに、前述のように変換係数X1、X7を幅
k1、k7でそれぞれ線形量子化する場合には、(X3,X5) の
取り得る値の構造は、図２８に示した格子がk1k7個重な
った構造となる。これは、1 つの量子化値(Xq1,Xq7) に
丸め込まれる変換係数(X1,X7) はk1k7個存在し、そのそ
れぞれに対して代表元(s3,s5) が対応するためである。
数１７において、(X1,X7) の値に依存して変わるのは代
表元(s3,s5) の部分だけであるため、X1、X7を幅k1 k7
でそれぞれ線形量子化する場合に変換係数(X3,X5) の取
り得る点全体の集合は、数１７の格子構造が、ずれ方の
み異なってk1k7通り重なった構造となる。例えば、k1=k
7=2 のときには、変換係数(X3,X5) の取り得る点は図２
９のようになる。図２９からわかるように、変換係数(X
3,X5) の取り得る点の構造は、ベクトル(h,g) 、(-g,h)
で定まる周期ごとに同じパターンが繰り返される。そこ
で、図３０のように、大局信号値(p3,p5) の値が等しい
点同士をグループとし、グループごとに量子化を考え
る。そして、グループ内では同一の値となる大局信号(p
3,p5) と、グループ内の点ごとに異なる代表元(s3,s5)
とを個別に量子化し、最後にそれらを加算して量子化値
を算出する。次にそれぞれの量子化について述べる。
k1、k7でそれぞれ線形量子化する場合には、(X3,X5) の
取り得る値の構造は、図２８に示した格子がk1k7個重な
った構造となる。これは、1 つの量子化値(Xq1,Xq7) に
丸め込まれる変換係数(X1,X7) はk1k7個存在し、そのそ
れぞれに対して代表元(s3,s5) が対応するためである。
数１７において、(X1,X7) の値に依存して変わるのは代
表元(s3,s5) の部分だけであるため、X1、X7を幅k1 k7
でそれぞれ線形量子化する場合に変換係数(X3,X5) の取
り得る点全体の集合は、数１７の格子構造が、ずれ方の
み異なってk1k7通り重なった構造となる。例えば、k1=k
7=2 のときには、変換係数(X3,X5) の取り得る点は図２
９のようになる。図２９からわかるように、変換係数(X
3,X5) の取り得る点の構造は、ベクトル(h,g) 、(-g,h)
で定まる周期ごとに同じパターンが繰り返される。そこ
で、図３０のように、大局信号値(p3,p5) の値が等しい
点同士をグループとし、グループごとに量子化を考え
る。そして、グループ内では同一の値となる大局信号(p
3,p5) と、グループ内の点ごとに異なる代表元(s3,s5)
とを個別に量子化し、最後にそれらを加算して量子化値
を算出する。次にそれぞれの量子化について述べる。
【００３２】まず、大局信号(p3,p5) の量子化値(pq3,p
q5) を求める手法について述べる。大局信号(p3,p5) の
取り得る点全体の構造は、数１７より、行列
q5) を求める手法について述べる。大局信号(p3,p5) の
取り得る点全体の構造は、数１７より、行列
【００３３】
【数１９】 により、整数格子点を変換して得られる変換点である。
そこで、大局信号(p3,p5) に対しては、前述の2 ×2 行
列変換の場合の可逆量子化を行う。まず、大局信号(p3,
p5) を求めるために、第1 の数表201 において、変換係
数X1、X7の値から代表元(s3,s5) を求める。この詳細に
関しては後述する。次に、加算器14、15において、X3、
X5からs3、s5を各々引き、大局信号p3、p5を求める。そ
して、変換器202 において、数１９の行列に基づく前述
の2 ×2 可逆量子化する。その結果を乗算器204,205 に
おいてそれぞれm3、m5倍して、大局量子化値(pq3,pq5)
を求める。ここにm3、m5は、それぞれ局所量子化値sq3,
sq5 のダイナミックレンジを表す。
そこで、大局信号(p3,p5) に対しては、前述の2 ×2 行
列変換の場合の可逆量子化を行う。まず、大局信号(p3,
p5) を求めるために、第1 の数表201 において、変換係
数X1、X7の値から代表元(s3,s5) を求める。この詳細に
関しては後述する。次に、加算器14、15において、X3、
X5からs3、s5を各々引き、大局信号p3、p5を求める。そ
して、変換器202 において、数１９の行列に基づく前述
の2 ×2 可逆量子化する。その結果を乗算器204,205 に
おいてそれぞれm3、m5倍して、大局量子化値(pq3,pq5)
を求める。ここにm3、m5は、それぞれ局所量子化値sq3,
sq5 のダイナミックレンジを表す。
【００３４】次に代表元(s3,s5) の量子化値(sq3,sq5)
を算出する手法について述べる。これは、代表元(s3,
s5) の値から直接求めるのではなく、数２０で表される
変換係数(X1,X7) の量子化残差(r1,r7) より、第2 の数
表203 を用いて求める。この詳細についても後述する。
を算出する手法について述べる。これは、代表元(s3,
s5) の値から直接求めるのではなく、数２０で表される
変換係数(X1,X7) の量子化残差(r1,r7) より、第2 の数
表203 を用いて求める。この詳細についても後述する。
【００３５】
【数２０】 そして加算器16,17 において、大局量子化値pq3 、pq5
に局所量子化値sq3 、sq5 をそれぞれ加算し、量子化値
(Xq3,Xq5) を得る。以上で、全ての量子化値(Xq1,Xq7,X
q3,Xq5) が得られたことになる。
に局所量子化値sq3 、sq5 をそれぞれ加算し、量子化値
(Xq3,Xq5) を得る。以上で、全ての量子化値(Xq1,Xq7,X
q3,Xq5) が得られたことになる。
【００３６】次に、図２６の第1 の数表201 において変
換係数(X1,X7) の値から代表元(s3,s5) を求める手法に
ついて述べる。代表元(s3,s5) の値は、変換係数(X1,
X7) の値に依存して変化する。ただし、g 、h を数１８
で与えられる値として、ベクトル(gX1+hX7,gX7-hX1) の
各成分を数１９の行列の行列式
換係数(X1,X7) の値から代表元(s3,s5) を求める手法に
ついて述べる。代表元(s3,s5) の値は、変換係数(X1,
X7) の値に依存して変化する。ただし、g 、h を数１８
で与えられる値として、ベクトル(gX1+hX7,gX7-hX1) の
各成分を数１９の行列の行列式
【００３７】
【数２１】Ｄ4 ＝ｇ2＋ｈ2 で割った剰余が同一ならば、代表元(s3,s5) も同一にな
る。すなわち、x をy でわった剰余をmod(x,y)で表すこ
とにすると、ベクトル
る。すなわち、x をy でわった剰余をmod(x,y)で表すこ
とにすると、ベクトル
【００３８】
【数２２】 の値によって、代表元(s3,s5) は変わる。そこで、第1
の数表には、ベクトルz(X1,X7)と代表元(s3,s5) の対応
関係を記述しておく。そして、図２６の第1 の数表201
では、まず数２２のベクトルz(X1,X7)の値を計算し、次
にこの値から第1の数表を参照し、代表元(s3,s5) を求
める。特に、g 、h が互いに素であれば、ベクトルz
(X1,X7)の各成分
の数表には、ベクトルz(X1,X7)と代表元(s3,s5) の対応
関係を記述しておく。そして、図２６の第1 の数表201
では、まず数２２のベクトルz(X1,X7)の値を計算し、次
にこの値から第1の数表を参照し、代表元(s3,s5) を求
める。特に、g 、h が互いに素であれば、ベクトルz
(X1,X7)の各成分
【００３９】
【数２３】 のうち、どちらか一方が求まれば、他方を求めなくても
代表元(s3,s5) を決定できる。よってこの場合には、第
1 の数表には、数２３のz1(X1,X7) 、z2(X1,X7)の成分
のどちらか一方と代表元(s3,s5) の対応を記述すること
で、(s3,s5) を求めることが可能である。
代表元(s3,s5) を決定できる。よってこの場合には、第
1 の数表には、数２３のz1(X1,X7) 、z2(X1,X7)の成分
のどちらか一方と代表元(s3,s5) の対応を記述すること
で、(s3,s5) を求めることが可能である。
【００４０】次に、第2 の数表203 において、量子化残
差(r1,r7) から局所量子化値(sq3,sq5) を求める手法に
ついて述べる。はじめに、変換係数(X3,X5) の局所量子
化について述べ、次に、量子化残差(r1,r7) を用いて(s
3,s5) を求める手法について言及する。
差(r1,r7) から局所量子化値(sq3,sq5) を求める手法に
ついて述べる。はじめに、変換係数(X3,X5) の局所量子
化について述べ、次に、量子化残差(r1,r7) を用いて(s
3,s5) を求める手法について言及する。
【００４１】前述の通り、変換係数X1、X7を幅k1、k7で
線形量子化する場合には、図２９に示すように、数１７
で表される格子点構造が、k1k7個重なった構造となる。
変換係数(X3,X5) の局所量子化は、大局信号(p3,p5) が
同一になるk1k7個の点をグループにし、このk1k7個の点
の代表元に異なる量子化値(sq3,sq5) を割り当てるもの
である。代表元(s3,s5) から局所量子化値(sq3,sq5) へ
の量子化は、この対応関係を記述した表を用意し、その
表を参照することで実現できる。但し、代表元(s3,s5)
の取り得る値の集合は、(Xq1,Xq7) の値に依存して変わ
るため、この対応関係を記述した表は複数必要となる。
しかし、量子化代表値(X1,X7)=(k1Xq1,k7Xq7) に対する
代表元(s3,s5) の値が同じであれば、同一グループ内の
他の(k1k7-1)通りの(X1,X7) に対する代表元(s3,s5) の
値も一致する。よって、この場合は同一の対応表を用い
ることが可能である。従って、この対応表は(s3,s5) の
取り得る値の数だけ用意すればよく、この数はD4以下で
ある。そして、量子化代表値(k1Xq1,k7Xq7) に対する代
表元(s3,s5) に基づいて表を選択し、量子化する。
線形量子化する場合には、図２９に示すように、数１７
で表される格子点構造が、k1k7個重なった構造となる。
変換係数(X3,X5) の局所量子化は、大局信号(p3,p5) が
同一になるk1k7個の点をグループにし、このk1k7個の点
の代表元に異なる量子化値(sq3,sq5) を割り当てるもの
である。代表元(s3,s5) から局所量子化値(sq3,sq5) へ
の量子化は、この対応関係を記述した表を用意し、その
表を参照することで実現できる。但し、代表元(s3,s5)
の取り得る値の集合は、(Xq1,Xq7) の値に依存して変わ
るため、この対応関係を記述した表は複数必要となる。
しかし、量子化代表値(X1,X7)=(k1Xq1,k7Xq7) に対する
代表元(s3,s5) の値が同じであれば、同一グループ内の
他の(k1k7-1)通りの(X1,X7) に対する代表元(s3,s5) の
値も一致する。よって、この場合は同一の対応表を用い
ることが可能である。従って、この対応表は(s3,s5) の
取り得る値の数だけ用意すればよく、この数はD4以下で
ある。そして、量子化代表値(k1Xq1,k7Xq7) に対する代
表元(s3,s5) に基づいて表を選択し、量子化する。
【００４２】ここで、表の選択のために、量子化代表値
(k1Xq1,k7Xq7) に対する代表元(s3,s5) の値を用いるか
わりに、量子化代表値に対する数２２の値、すなわち、
ベクトルz(k1X1,k7X7)の値を用いることができる。すな
わち、ベクトルz(k1X1,k7X7)の値をインデックスとし
て、表を選択できる。そうすれば、量子化代表値に対す
る代表元の値を第1 の数表を用いて求めることなく、直
接表を選択できる。なおこの場合も、g 、h が互いに素
であれば、ベクトルz(k1X1,k7X7)の成分であるz1(k1X1,
k7X7) 、z2(k1X1,k7X7) のいずれか一方のみをインデッ
クスとして用いれば十分である。
(k1Xq1,k7Xq7) に対する代表元(s3,s5) の値を用いるか
わりに、量子化代表値に対する数２２の値、すなわち、
ベクトルz(k1X1,k7X7)の値を用いることができる。すな
わち、ベクトルz(k1X1,k7X7)の値をインデックスとし
て、表を選択できる。そうすれば、量子化代表値に対す
る代表元の値を第1 の数表を用いて求めることなく、直
接表を選択できる。なおこの場合も、g 、h が互いに素
であれば、ベクトルz(k1X1,k7X7)の成分であるz1(k1X1,
k7X7) 、z2(k1X1,k7X7) のいずれか一方のみをインデッ
クスとして用いれば十分である。
【００４３】さらに、局所量子化値(sq3,sq5) を求める
のに量子化代表値(s3,s5) を用いるかわりに数２０で表
される量子化残差(r1,r7) を用いることができる。これ
は、(Xq1,Xq7) が決まると、(X1,X7) と(r1,r7) の対応
関係も定まるためである。代表元(s3,s5) の取り得る値
の集合は、量子化値(Xq1,Xq7) によって異なるため、代
表元(s3,s5) から局所量子化値(sq3,sq5) を直接求める
場合には、表には代表元(s3,s5) の値も同時に書いてお
く必要がある。これに対し、量子化残差(r1,r7) の取り
得る値の集合は、量子化値(Xq1,Xq7) に依存しないた
め、この情報を保持する必要はない。このため、表を小
さくできる。
のに量子化代表値(s3,s5) を用いるかわりに数２０で表
される量子化残差(r1,r7) を用いることができる。これ
は、(Xq1,Xq7) が決まると、(X1,X7) と(r1,r7) の対応
関係も定まるためである。代表元(s3,s5) の取り得る値
の集合は、量子化値(Xq1,Xq7) によって異なるため、代
表元(s3,s5) から局所量子化値(sq3,sq5) を直接求める
場合には、表には代表元(s3,s5) の値も同時に書いてお
く必要がある。これに対し、量子化残差(r1,r7) の取り
得る値の集合は、量子化値(Xq1,Xq7) に依存しないた
め、この情報を保持する必要はない。このため、表を小
さくできる。
【００４４】次に、4 ×4 行列変換の逆量子化について
述べる。まず、前記出願特許記載の4 ×4 逆変換器の構
成を図２７に示す。ここでは、量子化値(Xq1,Xq7,Xq3,X
q5)を逆量子化して(X1,X7,X3,X5) を得、これを数２４
に示すように数１６の逆変換し、整数ベクトル(u4,u5,u
6,u7) を得る。
述べる。まず、前記出願特許記載の4 ×4 逆変換器の構
成を図２７に示す。ここでは、量子化値(Xq1,Xq7,Xq3,X
q5)を逆量子化して(X1,X7,X3,X5) を得、これを数２４
に示すように数１６の逆変換し、整数ベクトル(u4,u5,u
6,u7) を得る。
【００４５】
【数２４】 次に、量子化値(Xq1,Xq7,Xq3,Xq5) から変換係数(X1,
X7,X3,X5) への逆量子化について説明する。これも、(X
q1,Xq7) と(Xq3,Xq5) にわけて行う。
X7,X3,X5) への逆量子化について説明する。これも、(X
q1,Xq7) と(Xq3,Xq5) にわけて行う。
【００４６】量子化値(Xq1,Xq7) については、まず、乗
算器34、35において、これらをそれぞれk1、k7倍して、
量子化代表値(k1Xq1,k7Xq7) を求める。そして、これに
量子化残差(r1,r7) が加算器36、37によって加算され、
(X1,X7) が算出される。量子化残差(r1,r7) は、後述の
手法により求めた局所量子化値(sq3,sq5) から、第3の
数表211 を用いて求める。第3 の数表は、図２６の第2
の数表とは逆の対応を記述した表である。そして、図２
６の可逆変換器の場合と同様に、第3 の数表を参照する
ときは、量子化代表値(k1Xq1,k7Xq7) に対する数２２の
ベクトルz(X1,X7)の値、すなわち、ベクトルz(k1Xq1,k7
Xq7)の値をインデックスとして用いる。なおこの場合
も、g 、h が互いに素ならば、ベクトルz(k1Xq1,k7Xq7)
の成分z1(k1Xq1,k7Xq7) 、z2(k1Xq1,k7Xq7) のうち、ど
ちらか一方をインデックスとして用いるだけで十分であ
る。
算器34、35において、これらをそれぞれk1、k7倍して、
量子化代表値(k1Xq1,k7Xq7) を求める。そして、これに
量子化残差(r1,r7) が加算器36、37によって加算され、
(X1,X7) が算出される。量子化残差(r1,r7) は、後述の
手法により求めた局所量子化値(sq3,sq5) から、第3の
数表211 を用いて求める。第3 の数表は、図２６の第2
の数表とは逆の対応を記述した表である。そして、図２
６の可逆変換器の場合と同様に、第3 の数表を参照する
ときは、量子化代表値(k1Xq1,k7Xq7) に対する数２２の
ベクトルz(X1,X7)の値、すなわち、ベクトルz(k1Xq1,k7
Xq7)の値をインデックスとして用いる。なおこの場合
も、g 、h が互いに素ならば、ベクトルz(k1Xq1,k7Xq7)
の成分z1(k1Xq1,k7Xq7) 、z2(k1Xq1,k7Xq7) のうち、ど
ちらか一方をインデックスとして用いるだけで十分であ
る。
【００４７】一方、量子化値Xq3 、Xq5 は、まず、整数
除算器212 、213 においてm3、m5でそれぞれ割られ、商
pq3 、pq5 と剰余sq3 、sq5 が求まる。この局所量子化
値(sq3,sq5) が求まれば、前述の通り変換係数(X1,X7)
が求まる。次に逆量子化器210 において、商(pq3,pq5)
を、数１９の行列に基づく逆量子化し、大局信号(p3,
p5) が求まる。そして、既に求まっている変換係数(X1,
X7) から、図２６の第1の数表201 と同等の第4 数表214
を用いて代表元(s3,s5) を求める。加算器38、39でこ
の代表元(s3,s5) に大局信号(p3,p5) を加算して変換係
数(X3,X5) が求まる。以上により、逆量子化が完了し、
変換係数(X1,X7,X3,X5) が求まったことになる。以上が
4 ×4 行列変換の量子化、逆量子化である。
除算器212 、213 においてm3、m5でそれぞれ割られ、商
pq3 、pq5 と剰余sq3 、sq5 が求まる。この局所量子化
値(sq3,sq5) が求まれば、前述の通り変換係数(X1,X7)
が求まる。次に逆量子化器210 において、商(pq3,pq5)
を、数１９の行列に基づく逆量子化し、大局信号(p3,
p5) が求まる。そして、既に求まっている変換係数(X1,
X7) から、図２６の第1の数表201 と同等の第4 数表214
を用いて代表元(s3,s5) を求める。加算器38、39でこ
の代表元(s3,s5) に大局信号(p3,p5) を加算して変換係
数(X3,X5) が求まる。以上により、逆量子化が完了し、
変換係数(X1,X7,X3,X5) が求まったことになる。以上が
4 ×4 行列変換の量子化、逆量子化である。
【００４８】以上述べた2 ×2 、あるいは4 ×4 行列変
換の可逆量子化を、図２２に示すように数４から数１２
までの各変換後に行うことで、変換結果に含まれる冗長
性を除くことが可能となる。この結果、符号化効率を劣
化させることなく可逆な符号化を実現できる。また、量
子化周期Ni、逆量子化周期Miの値を適切に調節すること
で、最終的に得られる8 元可逆離散コサイン変換の変換
係数を本来の離散コサイン変換のそれに近づけることが
できる。
換の可逆量子化を、図２２に示すように数４から数１２
までの各変換後に行うことで、変換結果に含まれる冗長
性を除くことが可能となる。この結果、符号化効率を劣
化させることなく可逆な符号化を実現できる。また、量
子化周期Ni、逆量子化周期Miの値を適切に調節すること
で、最終的に得られる8 元可逆離散コサイン変換の変換
係数を本来の離散コサイン変換のそれに近づけることが
できる。
【００４９】
【発明が解決しようとする課題】従来の8 元可逆離散コ
サイン変換の問題点は、従来の8 元離散コサイン変換と
の互換性が十分でないという点である。すなわち、8 元
可逆離散コサイン変換を用いて符号化した信号を、従来
の8 元離散コサイン逆変換を用いて復号した場合、ある
いは、その逆の場合に得られる再生信号の品質が十分で
なかった。
サイン変換の問題点は、従来の8 元離散コサイン変換と
の互換性が十分でないという点である。すなわち、8 元
可逆離散コサイン変換を用いて符号化した信号を、従来
の8 元離散コサイン逆変換を用いて復号した場合、ある
いは、その逆の場合に得られる再生信号の品質が十分で
なかった。
【００５０】その理由は、従来の8 元可逆離散コサイン
変換の変換係数と本来の8 元離散コサイン変換の変換係
数の差( 以後誤差と呼ぶ) が、小さくないためである。
その原因は、図２２の変換器168 で4 ×4 可逆量子化し
て得られるXq1 、Xq7 、Xq3、Xq5 と、図２４に示す変
換器188 で変換して得られるX1、X7、X3、X5の差が小さ
くないことにある。前記出願特許記載の4 ×4 行列変換
に基づく可逆量子化では、前述のように(X3,X5) の大局
量子化を表を用いて行い、さらに、図２６からわかるよ
うに、これをm3、m5倍する。この結果、表による量子化
誤差はm3、m5倍に増幅され、誤差が大きくなる傾向にあ
った。
変換の変換係数と本来の8 元離散コサイン変換の変換係
数の差( 以後誤差と呼ぶ) が、小さくないためである。
その原因は、図２２の変換器168 で4 ×4 可逆量子化し
て得られるXq1 、Xq7 、Xq3、Xq5 と、図２４に示す変
換器188 で変換して得られるX1、X7、X3、X5の差が小さ
くないことにある。前記出願特許記載の4 ×4 行列変換
に基づく可逆量子化では、前述のように(X3,X5) の大局
量子化を表を用いて行い、さらに、図２６からわかるよ
うに、これをm3、m5倍する。この結果、表による量子化
誤差はm3、m5倍に増幅され、誤差が大きくなる傾向にあ
った。
【００５１】本発明の目的は、可逆な離散コサイン変換
の変換係数を本来の離散コサイン変換係数に近づけ、従
来の離散コサイン変換と可逆な離散コサイン変換の互換
性を高めることにある。すなわち、8 元可逆離散コサイ
ン変換を用いて符号化した信号を、従来の8 元離散コサ
イン変換を用いて復号したときに、得られる再生信号の
品質を向上させることにある。
の変換係数を本来の離散コサイン変換係数に近づけ、従
来の離散コサイン変換と可逆な離散コサイン変換の互換
性を高めることにある。すなわち、8 元可逆離散コサイ
ン変換を用いて符号化した信号を、従来の8 元離散コサ
イン変換を用いて復号したときに、得られる再生信号の
品質を向上させることにある。
【００５２】
【課題を解決するための手段】第1 の発明は、整数4 元
ベクトル(u4,u5,u6,u7) を(Xq1,Xq7,Xq3,Xq5) へ可逆変
換する方式であって、前記整数4 元ベクトル(u4,u5,u6,
u7) を数１６の4 ×4整数行列で線形変換し変換係数
(X1,X7,X3,X5) を得る手段( 図１の1)と、前記X1,X7 を
自然数k1,k7 の幅でそれぞれ線形量子化して、量子化値
Xq1,Xq7 と量子化残差r1、r7を得る手段( 図１の4,5)
と、前記(X1,X7) 、もしくは前記(X3,X5) のどちらか一
方を用いて代表元(s3,s5) を第1 の数表で求める手段(
図１の2 、あるいは図２の18) と、前記(X3,X5) から前
記代表元(s3,s5) を減じて大局信号(p3,p5) を求める手
段( 図１の14,15)と、前記大局信号(p3,p5) の成分p3、
p5を実数L3、L5の幅でそれぞれ線形量子化し、大局量子
化値pq3 、pq5 を得る手段( 図１の6,7)と、前記(r1,
r7) から局所量子化値(sq3,sq5) を第2 の数表により求
める手段( 図１の3)と、前記大局量子化値(pq3,pq5)
に、前記局所量子化値(sq3,sq5) をそれぞれ加えて
(Xq3,Xq5) を得、これを前記(X3,X5) の量子化値とする
手段( 図１の16,17)を持つことを特徴とする。
ベクトル(u4,u5,u6,u7) を(Xq1,Xq7,Xq3,Xq5) へ可逆変
換する方式であって、前記整数4 元ベクトル(u4,u5,u6,
u7) を数１６の4 ×4整数行列で線形変換し変換係数
(X1,X7,X3,X5) を得る手段( 図１の1)と、前記X1,X7 を
自然数k1,k7 の幅でそれぞれ線形量子化して、量子化値
Xq1,Xq7 と量子化残差r1、r7を得る手段( 図１の4,5)
と、前記(X1,X7) 、もしくは前記(X3,X5) のどちらか一
方を用いて代表元(s3,s5) を第1 の数表で求める手段(
図１の2 、あるいは図２の18) と、前記(X3,X5) から前
記代表元(s3,s5) を減じて大局信号(p3,p5) を求める手
段( 図１の14,15)と、前記大局信号(p3,p5) の成分p3、
p5を実数L3、L5の幅でそれぞれ線形量子化し、大局量子
化値pq3 、pq5 を得る手段( 図１の6,7)と、前記(r1,
r7) から局所量子化値(sq3,sq5) を第2 の数表により求
める手段( 図１の3)と、前記大局量子化値(pq3,pq5)
に、前記局所量子化値(sq3,sq5) をそれぞれ加えて
(Xq3,Xq5) を得、これを前記(X3,X5) の量子化値とする
手段( 図１の16,17)を持つことを特徴とする。
【００５３】図２６に示す従来の可逆変換器と比べる
と、変換器202 で数１９の行列に基づく可逆量子化を
し、乗算器204,205 でm3、m5倍する部分が、図１では線
形量子化器6,7 に置き換わっている。従来の可逆変換方
式では、変換器202 で表で定義した量子化を行ない、そ
こで生じた量子化誤差が、乗算器204,205 でそれぞれ
m3、m5倍に増幅される。このため、得られる変換係数X
q3 、Xq5 の値と、図２４に示す本来の離散コサイン変
換の変換器188 において得られる変換係数X3、X5との差
が大きくなる傾向にあった。しかし、第1 の発明では、
X3、X5の大局量子化値を線形量子化により算出するた
め、得られるXq3 、Xq5 の値は、変換器188 において得
られる変換係数X3、X5に近い値となる。
と、変換器202 で数１９の行列に基づく可逆量子化を
し、乗算器204,205 でm3、m5倍する部分が、図１では線
形量子化器6,7 に置き換わっている。従来の可逆変換方
式では、変換器202 で表で定義した量子化を行ない、そ
こで生じた量子化誤差が、乗算器204,205 でそれぞれ
m3、m5倍に増幅される。このため、得られる変換係数X
q3 、Xq5 の値と、図２４に示す本来の離散コサイン変
換の変換器188 において得られる変換係数X3、X5との差
が大きくなる傾向にあった。しかし、第1 の発明では、
X3、X5の大局量子化値を線形量子化により算出するた
め、得られるXq3 、Xq5 の値は、変換器188 において得
られる変換係数X3、X5に近い値となる。
【００５４】第2 の発明は、量子化値(Xq1,Xq7,Xq3,
Xq5) を整数4 元ベクトル(u4,u5,u6,u7) へ逆変換する
方式であって、前記(Xq3,Xq5) から、大局信号(p3,p5)
と局所量子化値(sq3,sq5) を第1 の発明の演算の逆演算
で求める手段( 図４の31) と、前記(sq3,sq5) から量子
化残差(r1,r7) を第3 の数表により求める手段( 図４の
32) と、前記(Xq1,Xq7) に量子化幅k1,k7 をそれぞれ乗
じ( 図４の34,35)、それらに前記(r1,r7) をそれぞれ加
えて変換係数(X1,X7) を得る手段( 図４の36,37)と、前
記X1,X7 から代表元(s3,s5) を第1 の発明の第1 の数表
と同等の第4 の数表により求める手段( 図４の33) と、
前記大局信号(p3,p5) に前記代表元(s3,s5)を加えるこ
とにより変換係数(X3,X5) を得る手段( 図４の38,39)
と、前記(X1,X7,X3,X5) を数１６の4 ×4 行列の逆行列
で線形変換し、前記整数4 元ベクトル(u4,u5,u6,u7) を
得る手段( 図４の30) をもつことを特徴とする。第2 の
発明は、第1 の発明の逆変換を与える。第1 の発明と第
2 の発明を共に用いることで、可逆な変換を構成でき
る。
Xq5) を整数4 元ベクトル(u4,u5,u6,u7) へ逆変換する
方式であって、前記(Xq3,Xq5) から、大局信号(p3,p5)
と局所量子化値(sq3,sq5) を第1 の発明の演算の逆演算
で求める手段( 図４の31) と、前記(sq3,sq5) から量子
化残差(r1,r7) を第3 の数表により求める手段( 図４の
32) と、前記(Xq1,Xq7) に量子化幅k1,k7 をそれぞれ乗
じ( 図４の34,35)、それらに前記(r1,r7) をそれぞれ加
えて変換係数(X1,X7) を得る手段( 図４の36,37)と、前
記X1,X7 から代表元(s3,s5) を第1 の発明の第1 の数表
と同等の第4 の数表により求める手段( 図４の33) と、
前記大局信号(p3,p5) に前記代表元(s3,s5)を加えるこ
とにより変換係数(X3,X5) を得る手段( 図４の38,39)
と、前記(X1,X7,X3,X5) を数１６の4 ×4 行列の逆行列
で線形変換し、前記整数4 元ベクトル(u4,u5,u6,u7) を
得る手段( 図４の30) をもつことを特徴とする。第2 の
発明は、第1 の発明の逆変換を与える。第1 の発明と第
2 の発明を共に用いることで、可逆な変換を構成でき
る。
【００５５】第3 の発明は、大局信号(p3,p5) と局所量
子化値(sq3,sq5) を求める手段( 図４の31) に、以下の
特徴を持つ手段を用いる第2 の発明である逆変換方式で
ある。すなわち、量子化値(Xq3,Xq5) から大局信号(p3,
p5) と局所量子化値(sq3,sq5) を求める手段において、
数１９の行列による2 次元除算に基づき、大局信号候補
(p3 (0),p5 (0)) を得る手段( 図５の40) と、前記大局信
号候補(p3 (0),p5 (0))にそれぞれあらかじめ与えられた
大局信号差分( Δp3 (1),Δp5 (1))、( Δp3 (2),Δ
p5 (2))、( Δp3 (3),Δp5 (3))を加えることにより、大局
信号候補(p3 (1),p5 (1)) 、(p3 (2),p5 (2)) 、(p3 (3),p5
(3)) を算出する手段( 図５の41,42,43,44,45,46)と、
前記大局信号候補p3 (0) 、p5 (0) をL3 、L5の幅でそれ
ぞれ線形量子化して、大局量子化値候補pq3 (0)、pq5 (0)
を求め、これらを前記量子化値(Xq3,Xq5)から引いて局
所量子化値候補sq3 (0)、sq5 (0)を求める手段( 図５の4
7) と、前記大局信号候補p3 (1) 、p5 (1) を前記L3、L5
の幅でそれぞれ線形量子化して、大局量子化値候補pq3
(1)、pq5 (1)を求め、これらを前記量子化値(Xq3,Xq5)
から引いて局所量子化値候補sq3 (1)、sq5 (1)を求める手
段( 図５の48) と、前記大局信号候補p3 (2) 、p5 (2) を
前記L3、L5の幅でそれぞれ線形量子化して、大局量子化
値候補pq3 (2)、pq5 (2)を求め、これらを前記量子化値(X
q3,Xq5) から引いて局所量子化値候補sq3 (2)、sq5 (2)を
求める手段( 図５の49) と、前記大局信号候補p3 (3) 、
p5 (3) を前記L3、L5の幅でそれぞれ線形量子化して、大
局量子化値候補pq3 (3)、pq5 (3)を求め、これらを前記量
子化値(Xq3,Xq5) から引いて局所量子化値候補sq3 (3)、
sq5 (3)を求める手段( 図５の50) と、前記局所量子化値
候補(sq3 (0),sq5 (0)) 、(sq3 (1),sq5 (1)) 、(sq3 (2),s
q5 (2)) 、(sq3 (3),sq5 (3)) 、の中から局所量子化値に
なり得る値を選択して局所量子化値(sq3,sq5) とし、そ
れに対応する大局信号候補を大局信号(p3,p5) とする手
段( 図５の51) を持つことを特徴とする。この発明は、
量子化値(Xq3,Xq5) から大局信号(p3,p5) と局所量子化
値(sq3,sq5) を求める実際の手段を与える。
子化値(sq3,sq5) を求める手段( 図４の31) に、以下の
特徴を持つ手段を用いる第2 の発明である逆変換方式で
ある。すなわち、量子化値(Xq3,Xq5) から大局信号(p3,
p5) と局所量子化値(sq3,sq5) を求める手段において、
数１９の行列による2 次元除算に基づき、大局信号候補
(p3 (0),p5 (0)) を得る手段( 図５の40) と、前記大局信
号候補(p3 (0),p5 (0))にそれぞれあらかじめ与えられた
大局信号差分( Δp3 (1),Δp5 (1))、( Δp3 (2),Δ
p5 (2))、( Δp3 (3),Δp5 (3))を加えることにより、大局
信号候補(p3 (1),p5 (1)) 、(p3 (2),p5 (2)) 、(p3 (3),p5
(3)) を算出する手段( 図５の41,42,43,44,45,46)と、
前記大局信号候補p3 (0) 、p5 (0) をL3 、L5の幅でそれ
ぞれ線形量子化して、大局量子化値候補pq3 (0)、pq5 (0)
を求め、これらを前記量子化値(Xq3,Xq5)から引いて局
所量子化値候補sq3 (0)、sq5 (0)を求める手段( 図５の4
7) と、前記大局信号候補p3 (1) 、p5 (1) を前記L3、L5
の幅でそれぞれ線形量子化して、大局量子化値候補pq3
(1)、pq5 (1)を求め、これらを前記量子化値(Xq3,Xq5)
から引いて局所量子化値候補sq3 (1)、sq5 (1)を求める手
段( 図５の48) と、前記大局信号候補p3 (2) 、p5 (2) を
前記L3、L5の幅でそれぞれ線形量子化して、大局量子化
値候補pq3 (2)、pq5 (2)を求め、これらを前記量子化値(X
q3,Xq5) から引いて局所量子化値候補sq3 (2)、sq5 (2)を
求める手段( 図５の49) と、前記大局信号候補p3 (3) 、
p5 (3) を前記L3、L5の幅でそれぞれ線形量子化して、大
局量子化値候補pq3 (3)、pq5 (3)を求め、これらを前記量
子化値(Xq3,Xq5) から引いて局所量子化値候補sq3 (3)、
sq5 (3)を求める手段( 図５の50) と、前記局所量子化値
候補(sq3 (0),sq5 (0)) 、(sq3 (1),sq5 (1)) 、(sq3 (2),s
q5 (2)) 、(sq3 (3),sq5 (3)) 、の中から局所量子化値に
なり得る値を選択して局所量子化値(sq3,sq5) とし、そ
れに対応する大局信号候補を大局信号(p3,p5) とする手
段( 図５の51) を持つことを特徴とする。この発明は、
量子化値(Xq3,Xq5) から大局信号(p3,p5) と局所量子化
値(sq3,sq5) を求める実際の手段を与える。
【００５６】第4 の発明は、大局信号(p3,p5) と局所量
子化値(sq3,sq5) を求める手段( 図４の31) に、以下の
特徴を持つ手段を用いる第2 の発明である逆変換方式で
ある。すなわち、量子化値(Xq3,Xq5) から大局信号(p3,
p5) と局所量子化値(sq3,sq5) を求める手段において、
数１９の行列による2 次元除算に基づき、大局信号候補
(p3 (0),p5 (0)) を得る手段( 図７の70) と、前記大局信
号候補(p3 (0),p5 (0))をL3、L5の幅でそれぞれ線形量子
化し、大局量子化値候補(pq3 (0),pq5 (0)) と量子化残差
(r3 (0),r5 (0)) を得る手段( 図７の71,72)と、前記量子
化値(Xq3,Xq5)から前記大局量子化値候補(pq3 (0),pq5
(0)) を引いて、局所量子化値候補(sq3 (0),sq5 (0)) を
求める手段( 図７の75,76)と、前記量子化残差(r3 (0),r
5 (0)) よりインデックスI を求める手段( 図７の73)
と、前記インデックスI を用いて選択した第5 数表によ
り、前記局所量子化値候補(sq3 (0),sq5 (0)) から局所量
子化値(sq3,sq5) と大局差分信号( Δp3, Δp5) を求め
る手段( 図７の74) と、前記大局信号候補(p3 (0),
p5 (0)) に前記大局差分信号( Δp3, Δp5) を加算し
て、前記大局信号(p3,p5) を算出する手段( 図７の77,7
8)を有することを特徴とする。この発明は、量子化値(X
q3,Xq5) から大局信号(p3,p5) と局所量子化値(sq3,
sq5)を求める、より簡易な手段を与える。
子化値(sq3,sq5) を求める手段( 図４の31) に、以下の
特徴を持つ手段を用いる第2 の発明である逆変換方式で
ある。すなわち、量子化値(Xq3,Xq5) から大局信号(p3,
p5) と局所量子化値(sq3,sq5) を求める手段において、
数１９の行列による2 次元除算に基づき、大局信号候補
(p3 (0),p5 (0)) を得る手段( 図７の70) と、前記大局信
号候補(p3 (0),p5 (0))をL3、L5の幅でそれぞれ線形量子
化し、大局量子化値候補(pq3 (0),pq5 (0)) と量子化残差
(r3 (0),r5 (0)) を得る手段( 図７の71,72)と、前記量子
化値(Xq3,Xq5)から前記大局量子化値候補(pq3 (0),pq5
(0)) を引いて、局所量子化値候補(sq3 (0),sq5 (0)) を
求める手段( 図７の75,76)と、前記量子化残差(r3 (0),r
5 (0)) よりインデックスI を求める手段( 図７の73)
と、前記インデックスI を用いて選択した第5 数表によ
り、前記局所量子化値候補(sq3 (0),sq5 (0)) から局所量
子化値(sq3,sq5) と大局差分信号( Δp3, Δp5) を求め
る手段( 図７の74) と、前記大局信号候補(p3 (0),
p5 (0)) に前記大局差分信号( Δp3, Δp5) を加算し
て、前記大局信号(p3,p5) を算出する手段( 図７の77,7
8)を有することを特徴とする。この発明は、量子化値(X
q3,Xq5) から大局信号(p3,p5) と局所量子化値(sq3,
sq5)を求める、より簡易な手段を与える。
【００５７】第5 の発明は、大局信号(p3,p5) と局所量
子化値(sq3,sq5) を求める手段( 図４の31) において、
第3 あるいは第4 の発明を用いたときに、大局信号候補
(p3 (0),p5 (0)) を得る手段( 図５の40、あるいは図７の
70) として、以下の特徴を有する手段を用いる第2 の発
明である逆変換方式である。すなわち、量子化値(Xq3,X
q5) から第3 または4 の発明の大局信号候補(p3 (0),p5
(0)) を求める第3 または4 の発明の手段において、前
記Xq3 、Xq5 に量子化幅L3、L5をそれぞれ乗じて、量子
化代表値(Xq3L3,Xq5L5) を得る手段( 図１２の100,101)
と、数１９の行列の逆行列によって前記量子化代表値(X
q3L3,Xq5L5) を変換して、逆変換点(w3,w5) を得る手段
( 図１２の102)と、前記w3、w5の小数点以下を切り上げ
るか切り捨てるかすることで整数化し、それをw3' 、
w5' とする手段( 図１２(a) の103,104 、あるいは同図
(b) の106,107 、あるいは同図(c) 108,109 、あるいは
同図(d) の110,111)と、前記整数w3' 、w5' からなるベ
クトル(w3', w5')を、数１９の行列により変換して、大
局信号候補(p3 (0),p5 (0)) を求める手段( 図１２の105)
を有することを特徴とする。この発明は、大局信号候補
(p3 (0),p5 (0)) を求める実際の手段を与える。
子化値(sq3,sq5) を求める手段( 図４の31) において、
第3 あるいは第4 の発明を用いたときに、大局信号候補
(p3 (0),p5 (0)) を得る手段( 図５の40、あるいは図７の
70) として、以下の特徴を有する手段を用いる第2 の発
明である逆変換方式である。すなわち、量子化値(Xq3,X
q5) から第3 または4 の発明の大局信号候補(p3 (0),p5
(0)) を求める第3 または4 の発明の手段において、前
記Xq3 、Xq5 に量子化幅L3、L5をそれぞれ乗じて、量子
化代表値(Xq3L3,Xq5L5) を得る手段( 図１２の100,101)
と、数１９の行列の逆行列によって前記量子化代表値(X
q3L3,Xq5L5) を変換して、逆変換点(w3,w5) を得る手段
( 図１２の102)と、前記w3、w5の小数点以下を切り上げ
るか切り捨てるかすることで整数化し、それをw3' 、
w5' とする手段( 図１２(a) の103,104 、あるいは同図
(b) の106,107 、あるいは同図(c) 108,109 、あるいは
同図(d) の110,111)と、前記整数w3' 、w5' からなるベ
クトル(w3', w5')を、数１９の行列により変換して、大
局信号候補(p3 (0),p5 (0)) を求める手段( 図１２の105)
を有することを特徴とする。この発明は、大局信号候補
(p3 (0),p5 (0)) を求める実際の手段を与える。
【００５８】第6 の発明は、x0,x1,x2,x3,x4,x5,x6,x7
の8 つの信号からXq0,Xq1,Xq2,Xq3,Xq4,Xq5,Xq6,Xq7 の
8 つの変換係数を得る可逆変換方式であって、前記(x0,
x7),(x1,x6),(x3,x4),(x2,x5) に対して、行列
の8 つの信号からXq0,Xq1,Xq2,Xq3,Xq4,Xq5,Xq6,Xq7 の
8 つの変換係数を得る可逆変換方式であって、前記(x0,
x7),(x1,x6),(x3,x4),(x2,x5) に対して、行列
【００５９】
【数２５】 の変換および可逆量子化を行って得られる量子化値をそ
れぞれ(u0,u4),(u2,u6),(u1,u5),(u3,u7) とする手段(
図２２の160,161,162,163)と、前記(u0,u1),(u2,u3) に
対して数２５の行列による変換および可逆量子化を行っ
て得られる量子化値をそれぞれ(v0,v1),(v2,v3) とする
手段( 図２２の164,165)と、前記(v0,v2)に対して数２
５の行列による変換および可逆量子化を行って得られる
量子化値を前記(Xq0,Xq4) とする手段( 図２２の166)
と、前記(v1,v3) に対して、整数a2、a6を用いて
れぞれ(u0,u4),(u2,u6),(u1,u5),(u3,u7) とする手段(
図２２の160,161,162,163)と、前記(u0,u1),(u2,u3) に
対して数２５の行列による変換および可逆量子化を行っ
て得られる量子化値をそれぞれ(v0,v1),(v2,v3) とする
手段( 図２２の164,165)と、前記(v0,v2)に対して数２
５の行列による変換および可逆量子化を行って得られる
量子化値を前記(Xq0,Xq4) とする手段( 図２２の166)
と、前記(v1,v3) に対して、整数a2、a6を用いて
【００６０】
【数２６】 で与えられる整数行列の変換および可逆量子化を行って
得られる量子化値を前記(Xq2,Xq6) とする手段( 図２２
の167)と、前記(u4,u5,u6,u7) に第1 の発明の可逆変換
を行って得られるベクトルを前記(Xq1,Xq7,Xq3,Xq5) と
する手段( 図２２の168)を持つことを特徴とする。
得られる量子化値を前記(Xq2,Xq6) とする手段( 図２２
の167)と、前記(u4,u5,u6,u7) に第1 の発明の可逆変換
を行って得られるベクトルを前記(Xq1,Xq7,Xq3,Xq5) と
する手段( 図２２の168)を持つことを特徴とする。
【００６１】第6 の発明では、従来の8 元可逆離散コサ
イン変換の4 ×4 行列による変換を第1 の発明の変換方
式で置き換えている。これにより、従来の方式に比べ、
本来の8 元離散コサイン変換係数に近い値が得られる8
元可逆離散コサイン変換を構成できる。この8 元可逆離
散コサイン変換を用いて符号化した信号を復号すると
き、この変換の逆変換を用いれば勿論完全に原信号を再
生できるが、従来の8 元離散コサイン逆変換を用いて復
号した場合であっても、原信号に近い信号が得られる。
すなわち、従来の離散コサイン変換との互換性が向上す
る。
イン変換の4 ×4 行列による変換を第1 の発明の変換方
式で置き換えている。これにより、従来の方式に比べ、
本来の8 元離散コサイン変換係数に近い値が得られる8
元可逆離散コサイン変換を構成できる。この8 元可逆離
散コサイン変換を用いて符号化した信号を復号すると
き、この変換の逆変換を用いれば勿論完全に原信号を再
生できるが、従来の8 元離散コサイン逆変換を用いて復
号した場合であっても、原信号に近い信号が得られる。
すなわち、従来の離散コサイン変換との互換性が向上す
る。
【００６２】第7 の発明は、第6 の発明の変換方式の逆
変換方式であって、量子化値(Xq1,Xq7,Xq3,Xq5) に第2
の発明である逆変換を行って得られるベクトルを(u4,
u5,u6,u7) とする手段( 図２３の178)と、量子化値
(Xq2,Xq6) に対して数２６の行列に基づく逆量子化およ
び逆変換を行って、得られるベクトルを(v1,v3) とする
手段( 図２３の177)と、量子化値(Xq0,Xq4) に対して数
２５の行列に基づく逆量子化および逆変換を行って、得
られるベクトルを(v0,v2) とする手段( 図２３の176)
と、前記(v0,v1),(v2,v3) に対して数２５の行列に基づ
く逆量子化および逆変換を行って、得られるベクトルを
それぞれ(u0,u1),(u2,u3) とする手段( 図２３の174,17
5)と、前記(u0,u4),(u2,u6),(u1,u5),(u3,u7) に対して
数２５の行列に基づく逆量子化および逆変換を行って得
られるベクトルをそれぞれ(x0,x7),(x1,x6),(x3,x4),(x
2,x5) とする手段( 図２３の170,171,172,173)をもつこ
とを特徴とする。これは、第6 の発明の逆変換を与え
る。第6 の発明と第7 の発明を共に用いれば、従来の方
式に比べ、本来の8 元離散コサイン変換係数に近い値の
得られる、8 元可逆離散コサイン変換方式を構成でき
る。
変換方式であって、量子化値(Xq1,Xq7,Xq3,Xq5) に第2
の発明である逆変換を行って得られるベクトルを(u4,
u5,u6,u7) とする手段( 図２３の178)と、量子化値
(Xq2,Xq6) に対して数２６の行列に基づく逆量子化およ
び逆変換を行って、得られるベクトルを(v1,v3) とする
手段( 図２３の177)と、量子化値(Xq0,Xq4) に対して数
２５の行列に基づく逆量子化および逆変換を行って、得
られるベクトルを(v0,v2) とする手段( 図２３の176)
と、前記(v0,v1),(v2,v3) に対して数２５の行列に基づ
く逆量子化および逆変換を行って、得られるベクトルを
それぞれ(u0,u1),(u2,u3) とする手段( 図２３の174,17
5)と、前記(u0,u4),(u2,u6),(u1,u5),(u3,u7) に対して
数２５の行列に基づく逆量子化および逆変換を行って得
られるベクトルをそれぞれ(x0,x7),(x1,x6),(x3,x4),(x
2,x5) とする手段( 図２３の170,171,172,173)をもつこ
とを特徴とする。これは、第6 の発明の逆変換を与え
る。第6 の発明と第7 の発明を共に用いれば、従来の方
式に比べ、本来の8 元離散コサイン変換係数に近い値の
得られる、8 元可逆離散コサイン変換方式を構成でき
る。
【００６３】第8 の発明は、第6 の発明の一形態であっ
て、第1 の発明のa1、a3、a5、a7をそれぞれ5,4,3,1 と
し、第6 の発明のa2、a6をそれぞれ12,5とすることを特
徴とする。第6 の発明でこの値を用いると、特に本来の
8 元離散コサイン変換係数に近い値が得られる。
て、第1 の発明のa1、a3、a5、a7をそれぞれ5,4,3,1 と
し、第6 の発明のa2、a6をそれぞれ12,5とすることを特
徴とする。第6 の発明でこの値を用いると、特に本来の
8 元離散コサイン変換係数に近い値が得られる。
【００６４】第9 の発明は、第7 の発明の一形態であっ
て、第1 の発明 のa1、a3、a5、a7をそれぞれ5,4,3,1
とし、第6 の発明のa2、a6をそれぞれ12,5とすることを
特徴とする。これは、第8 の発明の逆変換方式を与え
る。
て、第1 の発明 のa1、a3、a5、a7をそれぞれ5,4,3,1
とし、第6 の発明のa2、a6をそれぞれ12,5とすることを
特徴とする。これは、第8 の発明の逆変換方式を与え
る。
【００６５】第10の発明は、第6 の発明の一形態であっ
て、(v1,v3) を数２６の行列により変換、可逆量子化を
行って、得られる量子化値を(Xq2,Xq6) とする第6 の発
明の手段( 図２２の167)において、前記a2、a6をそれぞ
れ12、5 とし、前記可逆量子化を、幅13の線形量子化と
することを特徴とする。これによって、変換器167 での
量子化では、量子化対応表が不要となる。
て、(v1,v3) を数２６の行列により変換、可逆量子化を
行って、得られる量子化値を(Xq2,Xq6) とする第6 の発
明の手段( 図２２の167)において、前記a2、a6をそれぞ
れ12、5 とし、前記可逆量子化を、幅13の線形量子化と
することを特徴とする。これによって、変換器167 での
量子化では、量子化対応表が不要となる。
【００６６】第11の発明は、第7 の発明の一形態であっ
て、量子化値(Xq2,Xq6) を、数２６の行列に基づく逆量
子化および逆変換を行って、得られるベクトルを(v1,
v3) とする第7 の発明の手段( 図２３の177)のかわり
に、前記(Xq2,Xq6) をそれぞれ13倍し、得られるベクト
ルを、(a2,a6)=(12,5)とした数２６の行列の逆行列で線
形変換し、その結果を四捨五入して前記(v1,v3) を得る
手段を用いることを特徴とする。この発明は、第10の発
明の逆変換を与える。この逆量子化においては、対応表
は不要である。
て、量子化値(Xq2,Xq6) を、数２６の行列に基づく逆量
子化および逆変換を行って、得られるベクトルを(v1,
v3) とする第7 の発明の手段( 図２３の177)のかわり
に、前記(Xq2,Xq6) をそれぞれ13倍し、得られるベクト
ルを、(a2,a6)=(12,5)とした数２６の行列の逆行列で線
形変換し、その結果を四捨五入して前記(v1,v3) を得る
手段を用いることを特徴とする。この発明は、第10の発
明の逆変換を与える。この逆量子化においては、対応表
は不要である。
【００６７】
【発明の実施の形態】図１は、第1 の発明の第1 の実施
の形態の構成を示す回路図である。これは、8 元可逆離
散コサイン変換の4 ×4 行列による変換、可逆量子化を
行う回路であり、整数ベクトル(u4,u5,u6,u7) を数１６
にしたがって線形変換し、得られる変換係数(X1,X3,X5,
X7) を可逆量子化する。まず、第1 の発明の概要を説明
し、次に、図１を参照して具体的に説明する。
の形態の構成を示す回路図である。これは、8 元可逆離
散コサイン変換の4 ×4 行列による変換、可逆量子化を
行う回路であり、整数ベクトル(u4,u5,u6,u7) を数１６
にしたがって線形変換し、得られる変換係数(X1,X3,X5,
X7) を可逆量子化する。まず、第1 の発明の概要を説明
し、次に、図１を参照して具体的に説明する。
【００６８】変換、量子化の基本的な枠組み自体は、前
記出願特許の4 ×4 の可逆変換器と同じである。すなわ
ち、数１６により得られる変換係数(X1,X3,X5,X7) を、
(X1,X7) と(X3,X5) に分けて個別に量子化する。このう
ち(X1,X7) は線形量子化し、一方、(X3,X5) について
は、数１７に示した関係が成り立つことを利用して量子
化する。(X3,X5) の量子化では、まず、(X3,X5) を代表
元(s3,s5) と大局信号(p3,p5)=(X3-s3,X5-s5) とに分
け、次に各々を量子化し、最後にこれらを加え合わせて
量子化値を算出する。
記出願特許の4 ×4 の可逆変換器と同じである。すなわ
ち、数１６により得られる変換係数(X1,X3,X5,X7) を、
(X1,X7) と(X3,X5) に分けて個別に量子化する。このう
ち(X1,X7) は線形量子化し、一方、(X3,X5) について
は、数１７に示した関係が成り立つことを利用して量子
化する。(X3,X5) の量子化では、まず、(X3,X5) を代表
元(s3,s5) と大局信号(p3,p5)=(X3-s3,X5-s5) とに分
け、次に各々を量子化し、最後にこれらを加え合わせて
量子化値を算出する。
【００６９】次に、図１を参照して具体的に説明する。
図１の回路では、まず、変換器1 において、入力信号(u
4,u5,u6,u7) は数１６に従って変換係数(X1,X7,X3,X5)
へ変換される。次に、この4 つの変換係数を(X1,X7) と
(X3,X5) にわけてそれぞれ量子化する。
図１の回路では、まず、変換器1 において、入力信号(u
4,u5,u6,u7) は数１６に従って変換係数(X1,X7,X3,X5)
へ変換される。次に、この4 つの変換係数を(X1,X7) と
(X3,X5) にわけてそれぞれ量子化する。
【００７０】変換係数X1、X7については、前述の通り線
形量子化する。これらは線形量子化器4 、5 においてそ
れぞれ幅k1、k7で線形量子化され、量子化値Xq1 、Xq7
が得られる。ここで、k1、k7はともに自然数とする。こ
れと同時に数２０で表される量子化残差(r1,r7) を求め
る。この値は、後述するように(X3,X5) の局所量子化値
を求めるのに用いる。
形量子化する。これらは線形量子化器4 、5 においてそ
れぞれ幅k1、k7で線形量子化され、量子化値Xq1 、Xq7
が得られる。ここで、k1、k7はともに自然数とする。こ
れと同時に数２０で表される量子化残差(r1,r7) を求め
る。この値は、後述するように(X3,X5) の局所量子化値
を求めるのに用いる。
【００７１】変換係数X3、X5に関しては、数１７の代表
元(s3,s5) と大局信号(p3,p5)=(X3-s3,X5-s5) とに分離
し、それぞれを個別に量子化する。まず、第1 の数表2
において、前記出願特許と同じ手法により、変換係数
X1、X7から代表元(s3,s5) を求める。すなわち、数２２
に示すベクトルz(X1,X7)の値を求め、この値から第1 の
数表2 により代表元(s3,s5) を求める。第1 の数表に
は、ベクトルz(X1,X7)と代表元の対応関係を記述してお
く。なお、前記出願特許の場合と同様に、g とh が互い
に素である場合には、数２３に示すz1(X1,X7) 、z2(X1,
X7) のどちらか一方のみを計算するだけでよい。例え
ば、第1 の数表にはz1(X1,X7) と代表元(s3,s5) の関係
を記述しておく。そして、このz1(X1,X7) の値を計算し
て、第1 の数表を参照し、代表元(s3,s5) の値を求め
る。このようにして、代表元(s3,s5) を第1 の数表より
求めることができる。次に、加算器14、15において、
X3、X5からs3、s5を各々引き、大局信号p3、p5を求め
る。そして、線形量子化器6 、7 において、求めた大局
信号p3、p5を各々幅L3、L5で線形量子化し、大局量子化
値pq3 、pq5 を求める。ここで、L3、L5は実数であり、
この値の決定に関しては後述する。この大局量子化手法
が、前記出願特許記載の手法とは大きく異なる点であ
る。一方、局所量子化値(sq3,sq5) は、前記出願特許記
載の手法と同じく、量子化残差(r1,r7) より第2 の数表
3 を用いて求める。(r1,r7) から(sq3,sq5) を求める理
由は、従来法の説明で述べた通りである。最後に加算器
16、17において、大局量子化値pq3 、pq5 に局所量子化
値sq3 、sq5 をそれぞれ加算し、量子化値(Xq3,Xq5) を
得る。以上で、全ての量子化値(Xq1,Xq7,Xq3,Xq5) が得
られたことになる。
元(s3,s5) と大局信号(p3,p5)=(X3-s3,X5-s5) とに分離
し、それぞれを個別に量子化する。まず、第1 の数表2
において、前記出願特許と同じ手法により、変換係数
X1、X7から代表元(s3,s5) を求める。すなわち、数２２
に示すベクトルz(X1,X7)の値を求め、この値から第1 の
数表2 により代表元(s3,s5) を求める。第1 の数表に
は、ベクトルz(X1,X7)と代表元の対応関係を記述してお
く。なお、前記出願特許の場合と同様に、g とh が互い
に素である場合には、数２３に示すz1(X1,X7) 、z2(X1,
X7) のどちらか一方のみを計算するだけでよい。例え
ば、第1 の数表にはz1(X1,X7) と代表元(s3,s5) の関係
を記述しておく。そして、このz1(X1,X7) の値を計算し
て、第1 の数表を参照し、代表元(s3,s5) の値を求め
る。このようにして、代表元(s3,s5) を第1 の数表より
求めることができる。次に、加算器14、15において、
X3、X5からs3、s5を各々引き、大局信号p3、p5を求め
る。そして、線形量子化器6 、7 において、求めた大局
信号p3、p5を各々幅L3、L5で線形量子化し、大局量子化
値pq3 、pq5 を求める。ここで、L3、L5は実数であり、
この値の決定に関しては後述する。この大局量子化手法
が、前記出願特許記載の手法とは大きく異なる点であ
る。一方、局所量子化値(sq3,sq5) は、前記出願特許記
載の手法と同じく、量子化残差(r1,r7) より第2 の数表
3 を用いて求める。(r1,r7) から(sq3,sq5) を求める理
由は、従来法の説明で述べた通りである。最後に加算器
16、17において、大局量子化値pq3 、pq5 に局所量子化
値sq3 、sq5 をそれぞれ加算し、量子化値(Xq3,Xq5) を
得る。以上で、全ての量子化値(Xq1,Xq7,Xq3,Xq5) が得
られたことになる。
【００７２】なお、前記出願特許においては、ベクトル
z(k1Xq1,k7Xq7)をインデックスとして用いて使用する表
を選択しているが、より一般的には、(r01,r07) をある
定まった整数ベクトルとして、ベクトルz(k1Xq1+r01,k7
Xq7+r07)をインデックスとして用いることができる。す
なわち、ベクトルz(k1Xq1+1,k7Xq7+1)やベクトルz(k1 X
q1+3,k7Xq7-2)などの値をインデックスとして使用する
ことも可能である。また、g 、h が互いに素ならば、こ
の成分であるz1(k1Xq1+r01,k7Xq7+r07) 、z2(k1Xq1+
r01,k7Xq7+r07) のどちらか一方のみをインデックスと
して用いるだけで十分である。
z(k1Xq1,k7Xq7)をインデックスとして用いて使用する表
を選択しているが、より一般的には、(r01,r07) をある
定まった整数ベクトルとして、ベクトルz(k1Xq1+r01,k7
Xq7+r07)をインデックスとして用いることができる。す
なわち、ベクトルz(k1Xq1+1,k7Xq7+1)やベクトルz(k1 X
q1+3,k7Xq7-2)などの値をインデックスとして使用する
ことも可能である。また、g 、h が互いに素ならば、こ
の成分であるz1(k1Xq1+r01,k7Xq7+r07) 、z2(k1Xq1+
r01,k7Xq7+r07) のどちらか一方のみをインデックスと
して用いるだけで十分である。
【００７３】次に、大局信号(p3,p5) から大局量子化値
(pq3,pq5) へ量子化するときの量子化幅L3、L5の値の決
定について述べる。L3、L5の値は、大きすぎると可逆に
量子化を定義できなくなり、小さすぎると符号化効率の
低下を招く。これを図３を用いて説明する。図３(b) 、
(c) は、局所量子化値(sq3,sq5) の存在範囲が同図(a)
に示すように、±2 の範囲である場合の、異なるL3、L5
の値に対する量子化値の割り当ての様子を示している。
図中、点線で囲まれた領域は量子化セルを表している。
そして、濃い灰色のセルは大局量子化値(pq3,pq5) とな
り得る値、薄い灰色のセルはこれに局所量子化値を加え
て得られる値、すなわち量子化値(Xq3,Xq5) となり得る
値を表している。一方、白いセルは量子化値とはなり得
ない値を表す。図３(b) では、取り得る変換係数(X3,
X5) 全てに異なる量子化値を割り当てることが可能なた
め、可逆な量子化を定義することができる。しかし、
L3、L5の値が小さすぎるため、変換点が対応しない、無
駄な量子化点が多数生じ、量子化後もかなりの冗長性が
残存する。このことは、符号化効率の観点からは好まし
くない。一方、同図(c) ではL3、L5の値が大きすぎるた
め、量子化値の一部が重複しており、可逆な量子化を定
義できない。よって、図３の場合に関しては、L3、L5の
値は、図３(b) の場合よりは大きく、同図(c) の場合よ
りは小さくする必要がある。符号化効率を考えると、
L3、L5の値は、量子化値の対応に重複を生じない範囲で
最大の数にすればよい。ただし、X3、X5の量子化周期を
それぞれN3、N5とすると、量子化周期(N3,N5) で同じ量
子化が繰り返されるためには、M3、M5を自然数として、
(pq3,pq5) へ量子化するときの量子化幅L3、L5の値の決
定について述べる。L3、L5の値は、大きすぎると可逆に
量子化を定義できなくなり、小さすぎると符号化効率の
低下を招く。これを図３を用いて説明する。図３(b) 、
(c) は、局所量子化値(sq3,sq5) の存在範囲が同図(a)
に示すように、±2 の範囲である場合の、異なるL3、L5
の値に対する量子化値の割り当ての様子を示している。
図中、点線で囲まれた領域は量子化セルを表している。
そして、濃い灰色のセルは大局量子化値(pq3,pq5) とな
り得る値、薄い灰色のセルはこれに局所量子化値を加え
て得られる値、すなわち量子化値(Xq3,Xq5) となり得る
値を表している。一方、白いセルは量子化値とはなり得
ない値を表す。図３(b) では、取り得る変換係数(X3,
X5) 全てに異なる量子化値を割り当てることが可能なた
め、可逆な量子化を定義することができる。しかし、
L3、L5の値が小さすぎるため、変換点が対応しない、無
駄な量子化点が多数生じ、量子化後もかなりの冗長性が
残存する。このことは、符号化効率の観点からは好まし
くない。一方、同図(c) ではL3、L5の値が大きすぎるた
め、量子化値の一部が重複しており、可逆な量子化を定
義できない。よって、図３の場合に関しては、L3、L5の
値は、図３(b) の場合よりは大きく、同図(c) の場合よ
りは小さくする必要がある。符号化効率を考えると、
L3、L5の値は、量子化値の対応に重複を生じない範囲で
最大の数にすればよい。ただし、X3、X5の量子化周期を
それぞれN3、N5とすると、量子化周期(N3,N5) で同じ量
子化が繰り返されるためには、M3、M5を自然数として、
【００７４】
【数２７】 である必要がある。よって、大きさN3×N5の基本領域で
重なりが生じない最小の自然数M3、M5を求め、数２７に
従ってL3、L5を算出すればよい。
重なりが生じない最小の自然数M3、M5を求め、数２７に
従ってL3、L5を算出すればよい。
【００７５】前記出願特許記載の4 ×4 可逆変換手法に
比べ、第1 の発明が優れている点は、変換係数(X3,X5)
の大局量子化で、量子化を定義した表を用いずに、線形
量子化を行う点である。前記出願特許記載の方式では、
図２６からわかるように、表で定義した量子化による量
子化誤差が、m3、m5倍にそれぞれ増幅されるため、量子
化セルの範囲を越えて、大きな量子化誤差が生じ得るの
に対し、第1 の発明の方式では、量子化誤差は量子化セ
ルの範囲内の値に収まる。このため、この大局量子化で
生じる量子化誤差を大幅に低減でき、得られる変換係数
は、本来の離散コサイン変換係数に近い値となる。
比べ、第1 の発明が優れている点は、変換係数(X3,X5)
の大局量子化で、量子化を定義した表を用いずに、線形
量子化を行う点である。前記出願特許記載の方式では、
図２６からわかるように、表で定義した量子化による量
子化誤差が、m3、m5倍にそれぞれ増幅されるため、量子
化セルの範囲を越えて、大きな量子化誤差が生じ得るの
に対し、第1 の発明の方式では、量子化誤差は量子化セ
ルの範囲内の値に収まる。このため、この大局量子化で
生じる量子化誤差を大幅に低減でき、得られる変換係数
は、本来の離散コサイン変換係数に近い値となる。
【００７６】次に第1 の発明の第2 の実施の形態につい
て述べる。図２は、第1 の発明の第2 の実施の形態の構
成を示す回路図である。第1 の実施の形態と異なる点
は、第1 の数表18において、代表元(s3,s5) を、変換係
数(X1,X7) からではなく、変換係数(X3,X5) の値より求
める点である。このときは、ベクトル
て述べる。図２は、第1 の発明の第2 の実施の形態の構
成を示す回路図である。第1 の実施の形態と異なる点
は、第1 の数表18において、代表元(s3,s5) を、変換係
数(X1,X7) からではなく、変換係数(X3,X5) の値より求
める点である。このときは、ベクトル
【００７７】
【数２８】 の値と代表元(s3,s5) の値の対応関係を第1 の数表18に
記述しておく。代表元(s3,s5) の値は、ベクトルz'(X3,
X5) を計算し、その値から表を参照して求める。なお、
g とh が互いに素な場合には、代表元(s3,s5) を算出す
る際に、ベクトルz'(X3,X5) のどちらかの成分のみを計
算するだけで十分である。そして、第1 の数表18には、
このどちらか一方と代表元(s3,s5) の対応関係を記述し
ておけばよい。以上が第1 の発明である。
記述しておく。代表元(s3,s5) の値は、ベクトルz'(X3,
X5) を計算し、その値から表を参照して求める。なお、
g とh が互いに素な場合には、代表元(s3,s5) を算出す
る際に、ベクトルz'(X3,X5) のどちらかの成分のみを計
算するだけで十分である。そして、第1 の数表18には、
このどちらか一方と代表元(s3,s5) の対応関係を記述し
ておけばよい。以上が第1 の発明である。
【００７８】図４は、第2 の発明の実施の形態の構成を
示す回路図である。これは、第1 の発明の逆変換を実現
する回路であり，量子化値(Xq1,Xq7,Xq3,Xq5) を逆量子
化して(X1,X7,X3,X5) を得、これを数２４に示すように
数１６の逆変換して(u4,u5,u6,u7) を得る。量子化値(X
q1,Xq7,Xq3,Xq5) から変換係数(X1,X7,X3,X5) への逆量
子化では、(Xq1,Xq7) と(Xq3,Xq5) を個別に逆量子化す
る。(Xq1,Xq7) については、まずこれを線形逆量子化
し、次に、この結果に量子化残差を加えて変換係数(X1,
X7) を求める。一方、(Xq3,Xq5) の逆量子化では、まず
(Xq3,Xq5) を大局量子化と局所量子化の部分に分離し、
次にそれぞれ逆量子化し、最後にそれらを加え合わせて
変換係数(X3,X5) を求める。次に、図４を参照して具体
的に説明する。
示す回路図である。これは、第1 の発明の逆変換を実現
する回路であり，量子化値(Xq1,Xq7,Xq3,Xq5) を逆量子
化して(X1,X7,X3,X5) を得、これを数２４に示すように
数１６の逆変換して(u4,u5,u6,u7) を得る。量子化値(X
q1,Xq7,Xq3,Xq5) から変換係数(X1,X7,X3,X5) への逆量
子化では、(Xq1,Xq7) と(Xq3,Xq5) を個別に逆量子化す
る。(Xq1,Xq7) については、まずこれを線形逆量子化
し、次に、この結果に量子化残差を加えて変換係数(X1,
X7) を求める。一方、(Xq3,Xq5) の逆量子化では、まず
(Xq3,Xq5) を大局量子化と局所量子化の部分に分離し、
次にそれぞれ逆量子化し、最後にそれらを加え合わせて
変換係数(X3,X5) を求める。次に、図４を参照して具体
的に説明する。
【００７９】量子化値Xq1 、Xq7 については、まず、乗
算器34、35において、これらをそれぞれk1、k7倍して、
量子化代表値(k1Xq1,k7Xq7) を求める。そして、これに
量子化残差(r1,r7) が加算器36、37によって加算され、
(X1,X7) が算出される。量子化残差(r1,r7) は、前記出
願特許記載の手法と同様に、局所量子化値(sq3,sq5)か
ら第3 の数表32を用いて求める。第3 の数表は、図１の
第2 の数表3 とは逆の対応を記述した表である。なお、
局所量子化値(sq3,sq5) は、大局信号・局所量子化値算
出回路31において後述の手法により算出する。
算器34、35において、これらをそれぞれk1、k7倍して、
量子化代表値(k1Xq1,k7Xq7) を求める。そして、これに
量子化残差(r1,r7) が加算器36、37によって加算され、
(X1,X7) が算出される。量子化残差(r1,r7) は、前記出
願特許記載の手法と同様に、局所量子化値(sq3,sq5)か
ら第3 の数表32を用いて求める。第3 の数表は、図１の
第2 の数表3 とは逆の対応を記述した表である。なお、
局所量子化値(sq3,sq5) は、大局信号・局所量子化値算
出回路31において後述の手法により算出する。
【００８０】一方、量子化値Xq3 、Xq5 については、ま
ず、大局信号・局所量子化値算出回路31により、(Xq3,X
q5) から大局信号(p3,p5) と局所量子化値(sq3,sq5) を
算出する。この算出回路には、後述の第3 、第4 の発明
を用いることができる。この局所量子化値(sq3,sq5) が
求まれば、前述の通り変換係数(X1,X7) が求まる。次
に、求まった変換係数(X1,X7) から、前記出願特許記載
の手法と同様にして、図１の第1 の数表2 と同等の第4
の数表33を用いて代表元(s3,s5) を求める。そして、加
算器38,39 において、代表元(s3,s5) を大局信号(p3,
p5) に加えて変換係数(X3,X5) を得る。
ず、大局信号・局所量子化値算出回路31により、(Xq3,X
q5) から大局信号(p3,p5) と局所量子化値(sq3,sq5) を
算出する。この算出回路には、後述の第3 、第4 の発明
を用いることができる。この局所量子化値(sq3,sq5) が
求まれば、前述の通り変換係数(X1,X7) が求まる。次
に、求まった変換係数(X1,X7) から、前記出願特許記載
の手法と同様にして、図１の第1 の数表2 と同等の第4
の数表33を用いて代表元(s3,s5) を求める。そして、加
算器38,39 において、代表元(s3,s5) を大局信号(p3,
p5) に加えて変換係数(X3,X5) を得る。
【００８１】以上により、変換係数(X1,X7,X3,X5) が全
て求まったことになる。さらに、この(X1,X7,X3,X5) を
変換器30で数２４に従って線形変換して、整数ベクトル
(u4,u5,u6,u7) を得る。以上により、第1 の発明の逆変
換が実現できたことになる。以上が第2 の発明である。
て求まったことになる。さらに、この(X1,X7,X3,X5) を
変換器30で数２４に従って線形変換して、整数ベクトル
(u4,u5,u6,u7) を得る。以上により、第1 の発明の逆変
換が実現できたことになる。以上が第2 の発明である。
【００８２】図５(a) は、第3 の発明の、大局信号(p3,
p5) と局所量子化値(sq3,sq5) を算出する手段、すなわ
ち、図４の大局信号・局所量子化値算出回路31の実施の
形態の構成を示す回路図である。この回路では、量子化
値(Xq3,Xq5) から局所量子化値(sq3,sq5) と大局信号(p
3,p5) を求める。まず、図６を用いて、この回路の概要
について説明する。
p5) と局所量子化値(sq3,sq5) を算出する手段、すなわ
ち、図４の大局信号・局所量子化値算出回路31の実施の
形態の構成を示す回路図である。この回路では、量子化
値(Xq3,Xq5) から局所量子化値(sq3,sq5) と大局信号(p
3,p5) を求める。まず、図６を用いて、この回路の概要
について説明する。
【００８３】図６は、量子化値(Xq3,Xq5) が量子化点64
であったときに、大局信号(p3,p5)と局所量子化値(sq3,
sq5) を求める場合を示している。この場合、大局信号
(p3,p5) の候補としては、大局信号候補点56,57,58,59
の4 点が考えられる。しかし、この4 点のうちどれが真
の大局信号であるかは、代表元(s3,s5) の存在範囲の形
状によって異なり、量子化点64から直接(p3,p5) 、
(sq3,sq5) を求めるのは困難である。そこで、はじめ
に、大局信号候補点56,57,58,59 の座標(p3 (0),p5 (0)),
(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3)) を求め
る。次に、このそれぞれの量子化値となる量子化点60,6
1,62,63 の値(pq3 (0),pq5 (0)),(pq3 (1),pq5 (1)),(pq3
(2),pq5 (2)),(pq3 (3),pq5 (3)) を算出する。そして、こ
の各々に対して局所量子化値の候補(sq3 (0),sq5 (0)),(s
q3 (1),sq5 (1)),(sq3 (2),sq5 (2)),(sq3 (3),sq5 (3)) を算
出する。この局所量子化値の候補中から、実際に局所量
子化値として存在する値を選択し、それを局所量子化値
(sq3,sq5) とし、それと対応する大局信号値候補を大局
信号(p3,p5) とする。次に、図５(a) を参照し、詳細に
説明する。
であったときに、大局信号(p3,p5)と局所量子化値(sq3,
sq5) を求める場合を示している。この場合、大局信号
(p3,p5) の候補としては、大局信号候補点56,57,58,59
の4 点が考えられる。しかし、この4 点のうちどれが真
の大局信号であるかは、代表元(s3,s5) の存在範囲の形
状によって異なり、量子化点64から直接(p3,p5) 、
(sq3,sq5) を求めるのは困難である。そこで、はじめ
に、大局信号候補点56,57,58,59 の座標(p3 (0),p5 (0)),
(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3)) を求め
る。次に、このそれぞれの量子化値となる量子化点60,6
1,62,63 の値(pq3 (0),pq5 (0)),(pq3 (1),pq5 (1)),(pq3
(2),pq5 (2)),(pq3 (3),pq5 (3)) を算出する。そして、こ
の各々に対して局所量子化値の候補(sq3 (0),sq5 (0)),(s
q3 (1),sq5 (1)),(sq3 (2),sq5 (2)),(sq3 (3),sq5 (3)) を算
出する。この局所量子化値の候補中から、実際に局所量
子化値として存在する値を選択し、それを局所量子化値
(sq3,sq5) とし、それと対応する大局信号値候補を大局
信号(p3,p5) とする。次に、図５(a) を参照し、詳細に
説明する。
【００８４】まず、大局信号値候補(p3 (0),p5 (0)) 算出
回路40において、4 つの大局信号候補点56,57,58,59 の
うち1 つの点の座標を算出する。これを(p3 (0),p5 (0))
で表し、大局信号値候補と呼ぶことにする。大局信号候
補(p3 (0),p5 (0)) 算出回路としては、第5 の発明を用い
ることができる。図６では、大局信号候補点56の座標を
(p3 (0),p5 (0)) で表した場合を示している。なお、大局
信号候補点57,58,59の座標を(p3 (0),p5 (0)) として算出
することも可能である。
回路40において、4 つの大局信号候補点56,57,58,59 の
うち1 つの点の座標を算出する。これを(p3 (0),p5 (0))
で表し、大局信号値候補と呼ぶことにする。大局信号候
補(p3 (0),p5 (0)) 算出回路としては、第5 の発明を用い
ることができる。図６では、大局信号候補点56の座標を
(p3 (0),p5 (0)) で表した場合を示している。なお、大局
信号候補点57,58,59の座標を(p3 (0),p5 (0)) として算出
することも可能である。
【００８５】次に、他の3 点の大局信号候補点の座標(p
3 (1),p5 (1)) 、(p3 (2),p5 (2)) 、(p3 (3),p5 (3)) を求め
る。図６では、大局信号候補点57,58,59の座標をそれぞ
れ(p3 (1),p5 (1)) 、(p3 (2),p5 (2)) 、(p3 (3),p5 (3)) と
している。大局信号候補(p3 (1),p5 (1)) は、加算器41,4
2 において、(p3 (0),p5 (0)) の値に大局信号差分( Δp3
(1),Δp5 (1))を加えることで得られる。同様に、大局信
号候補(p3 (2),p5 (2))は、加算器43,44 において、(p3
(0),p5 (0)) に大局信号差分( Δp3 (2),Δp5 (2))を加え
ることで得られ、大局信号候補(p3 (3),p5 (3)) は、加算
器45,46 において大局信号差分( Δp3 (3),Δp5 (3))を加
えることで得られる。ここに、大局信号差分( Δp3 (i),
Δp5 (i))(i=1,2,3) とは、(p3 (0),p5 (0)) に対する(p3
(i),p5 (i))の相対値を表し、既知の値である。図６の例
では、( Δp3 (1),Δp5 (1))=(h,g)、( Δp3 (2),Δp5 (2))
=(-g,h) 、( Δp3 (3),Δp5 (3))=(h-g,g+h)である。な
お、(p3 (i),p5 (i)) (i=1,2,3) の値も、大局信号候補(p
3 (0),p5 (0)) 算出回路と同様の回路を用いて算出できる
が、上述のようにすることで、回路規模を小さくでき
る。
3 (1),p5 (1)) 、(p3 (2),p5 (2)) 、(p3 (3),p5 (3)) を求め
る。図６では、大局信号候補点57,58,59の座標をそれぞ
れ(p3 (1),p5 (1)) 、(p3 (2),p5 (2)) 、(p3 (3),p5 (3)) と
している。大局信号候補(p3 (1),p5 (1)) は、加算器41,4
2 において、(p3 (0),p5 (0)) の値に大局信号差分( Δp3
(1),Δp5 (1))を加えることで得られる。同様に、大局信
号候補(p3 (2),p5 (2))は、加算器43,44 において、(p3
(0),p5 (0)) に大局信号差分( Δp3 (2),Δp5 (2))を加え
ることで得られ、大局信号候補(p3 (3),p5 (3)) は、加算
器45,46 において大局信号差分( Δp3 (3),Δp5 (3))を加
えることで得られる。ここに、大局信号差分( Δp3 (i),
Δp5 (i))(i=1,2,3) とは、(p3 (0),p5 (0)) に対する(p3
(i),p5 (i))の相対値を表し、既知の値である。図６の例
では、( Δp3 (1),Δp5 (1))=(h,g)、( Δp3 (2),Δp5 (2))
=(-g,h) 、( Δp3 (3),Δp5 (3))=(h-g,g+h)である。な
お、(p3 (i),p5 (i)) (i=1,2,3) の値も、大局信号候補(p
3 (0),p5 (0)) 算出回路と同様の回路を用いて算出できる
が、上述のようにすることで、回路規模を小さくでき
る。
【００８６】次に、局所量子化値候補算出回路47,48,4
9,50 において、上で得られた(p3 (i),p5 (i)) (i=1,2,3)
と(Xq3,Xq5) の値から、局所量子化値候補(sq3 (i),sq5
(i))(i=0,1,2,3)を算出する。ここで局所量子化値候補
算出回路とは、(p3 (i),p5 (i))(i=0,1,2,3)と(Xq3,Xq5)
の値から局所量子化値候補(sq3 (i),sq5 (i)) を算出する
回路であり、図５(b) に示す構成になっている。すなわ
ち、線形量子化器52、53において、(p3 (i),p5 (i))(i=0,
1,2,3)の各成分を幅L3、L5で線形量子化して大局量子化
値(pq3 (i),pq5 (i)) を算出し、加算器54、55において、
大局量子化値(pq3 (i),pq5 (i)) を量子化値(Xq3,Xq5) か
ら引くことで、各大局信号候補点に対する局所量子化値
(sq3 (i),sq5 (i)) を求める。
9,50 において、上で得られた(p3 (i),p5 (i)) (i=1,2,3)
と(Xq3,Xq5) の値から、局所量子化値候補(sq3 (i),sq5
(i))(i=0,1,2,3)を算出する。ここで局所量子化値候補
算出回路とは、(p3 (i),p5 (i))(i=0,1,2,3)と(Xq3,Xq5)
の値から局所量子化値候補(sq3 (i),sq5 (i)) を算出する
回路であり、図５(b) に示す構成になっている。すなわ
ち、線形量子化器52、53において、(p3 (i),p5 (i))(i=0,
1,2,3)の各成分を幅L3、L5で線形量子化して大局量子化
値(pq3 (i),pq5 (i)) を算出し、加算器54、55において、
大局量子化値(pq3 (i),pq5 (i)) を量子化値(Xq3,Xq5) か
ら引くことで、各大局信号候補点に対する局所量子化値
(sq3 (i),sq5 (i)) を求める。
【００８７】次に、選択回路51において、局所量子化値
候補(sq3 (0),sq5 (0)),(sq3 (1),sq5 (1)),(sq3 (2),
sq5 (2)),(sq3 (3),sq5 (3)) のうち、局所量子化値として
実際に存在し得る値を探し、(X3,X5) の局所量子化値と
して選択する。これは、局所量子化値として取り得る値
を予め保持しておき、これと順次比較していくことで、
探すことができる。そして、選択された局所量子化値に
対応する大局信号候補を、(X3,X5) の大局信号(p3,p5)
とする。以上で大局信号(p3,p5) と、局所量子化値
(sq3,sq5) が求まったことになる。以上が第3 の発明で
ある。
候補(sq3 (0),sq5 (0)),(sq3 (1),sq5 (1)),(sq3 (2),
sq5 (2)),(sq3 (3),sq5 (3)) のうち、局所量子化値として
実際に存在し得る値を探し、(X3,X5) の局所量子化値と
して選択する。これは、局所量子化値として取り得る値
を予め保持しておき、これと順次比較していくことで、
探すことができる。そして、選択された局所量子化値に
対応する大局信号候補を、(X3,X5) の大局信号(p3,p5)
とする。以上で大局信号(p3,p5) と、局所量子化値
(sq3,sq5) が求まったことになる。以上が第3 の発明で
ある。
【００８８】図７は、第4 の発明の、大局信号(p3,p5)
と局所量子化値(sq3,sq5) を算出する手段、すなわち、
図４の大局信号・局所量子化値算出回路31の別の実施の
形態の構成を示す回路図である。この大局信号・局所量
子化値算出回路では、図６に示す4 つの大局信号候補点
56,57,58,59 のうちの1 点に対してのみ、その座標(p3
(0),p5 (0)) とそれに対応する局所量子化値候補
(sq3 (0),sq5 (0)) を算出する。そして、求まった
(p3 (0),p5 (0)) 、(sq3 (0),sq5 (0)) から数表を利用し
て、求めるべき(X3,X5) の大局信号(p3,p5) と局所量子
化値(sq3,sq5) を求める。次に図７を参照しながら詳述
する。
と局所量子化値(sq3,sq5) を算出する手段、すなわち、
図４の大局信号・局所量子化値算出回路31の別の実施の
形態の構成を示す回路図である。この大局信号・局所量
子化値算出回路では、図６に示す4 つの大局信号候補点
56,57,58,59 のうちの1 点に対してのみ、その座標(p3
(0),p5 (0)) とそれに対応する局所量子化値候補
(sq3 (0),sq5 (0)) を算出する。そして、求まった
(p3 (0),p5 (0)) 、(sq3 (0),sq5 (0)) から数表を利用し
て、求めるべき(X3,X5) の大局信号(p3,p5) と局所量子
化値(sq3,sq5) を求める。次に図７を参照しながら詳述
する。
【００８９】はじめに、量子化値(Xq3,Xq5) から、大局
信号値候補(p3 (0),p5 (0)) 算出回路70により図６の大局
信号候補点56,57,58,59 のうちの1 点の座標を求める。
これを(p3 (0),p5 (0)) で表し、大局信号値候補と呼ぶこ
とにする。大局信号値候補(p3 (0),p5 (0)) 算出回路とし
ては、第5 の発明を用いることができる。次に、線形量
子化器71,72 において、p3 (0) 、p5 (0) の値を幅L3、L5
でそれぞれ線形量子化し、大局量子化値候補pq3 (0)、p
q5 (0)を求める。このときに、数２９で表される量子化
残差(r3 (0),r5 (0)) も同時に求める。
信号値候補(p3 (0),p5 (0)) 算出回路70により図６の大局
信号候補点56,57,58,59 のうちの1 点の座標を求める。
これを(p3 (0),p5 (0)) で表し、大局信号値候補と呼ぶこ
とにする。大局信号値候補(p3 (0),p5 (0)) 算出回路とし
ては、第5 の発明を用いることができる。次に、線形量
子化器71,72 において、p3 (0) 、p5 (0) の値を幅L3、L5
でそれぞれ線形量子化し、大局量子化値候補pq3 (0)、p
q5 (0)を求める。このときに、数２９で表される量子化
残差(r3 (0),r5 (0)) も同時に求める。
【００９０】
【数２９】 そして、加算器75,76 において、量子化値(Xq3,Xq5) か
ら大局量子化値候補(pq3 (0),pq5 (0)) を減じ、局所量子
化値候補(sq3 (0),sq5 (0)) を算出する。次に、この局所
量子化値(sq3 (0),sq5 (0)) から第5 の数表74により、局
所量子化値(sq3,sq5) と大局信号差分( Δp3, Δp5) を
求める。ここで大局信号差分( Δp3, Δp5) は、大局信
号候補(p3 (0),p5 (0)) に対する大局信号(p3,p5) の相対
値を表す。この第5 の数表の詳細に関しては後述する。
そして、加算器77、78において、大局信号候補(p3 (0),p
5 (0)) に大局信号差分( Δp3, Δp5) の値を加算して、
大局信号(p3,p5) を求める。
ら大局量子化値候補(pq3 (0),pq5 (0)) を減じ、局所量子
化値候補(sq3 (0),sq5 (0)) を算出する。次に、この局所
量子化値(sq3 (0),sq5 (0)) から第5 の数表74により、局
所量子化値(sq3,sq5) と大局信号差分( Δp3, Δp5) を
求める。ここで大局信号差分( Δp3, Δp5) は、大局信
号候補(p3 (0),p5 (0)) に対する大局信号(p3,p5) の相対
値を表す。この第5 の数表の詳細に関しては後述する。
そして、加算器77、78において、大局信号候補(p3 (0),p
5 (0)) に大局信号差分( Δp3, Δp5) の値を加算して、
大局信号(p3,p5) を求める。
【００９１】次に、第5 の数表について説明する。これ
は、局所量子化値候補(sq3 (0),sq5 (0)から、局所量子化
値(sq3,sq5) と大局信号差分( Δp3, Δp5) を求めるの
に用いる表である。例えば、図６の場合に、局所量子化
値(sq3,sq5) の存在範囲が図８(a) のときには、大局量
子化値とそれに局所量子化値を加算して得られる値は、
同図(b) に示すようになる。よってこの場合は、第5 の
数表は同図(c) のようになる。この表を用いて、(sq3
(0),sq5 (0)) から(sq3,sq5) と( Δp3, Δp5) を求めら
れる。
は、局所量子化値候補(sq3 (0),sq5 (0)から、局所量子化
値(sq3,sq5) と大局信号差分( Δp3, Δp5) を求めるの
に用いる表である。例えば、図６の場合に、局所量子化
値(sq3,sq5) の存在範囲が図８(a) のときには、大局量
子化値とそれに局所量子化値を加算して得られる値は、
同図(b) に示すようになる。よってこの場合は、第5 の
数表は同図(c) のようになる。この表を用いて、(sq3
(0),sq5 (0)) から(sq3,sq5) と( Δp3, Δp5) を求めら
れる。
【００９２】但し、(sq3 (0),sq5 (0)) と(sq3,sq5) 、(
Δp3, Δp5) の対応関係は、後述するように、図６に示
す大局信号候補点56,57,58,59 の量子化値(pq3 (0),pq5
(0))、(pq3 (1),pq5 (1)) 、(pq3 (2),pq5 (2)) 、(pq3 (3),
pq5 (3)) の相対関係に依存して変わる。このため、この
相対関係の数の分だけ表を用意し、(sq3,sq5) と( Δ
p3, Δp5) を求める時には、その中から適切な表を選択
する必要がある。次に、量子化値(pq3 (i),pq5 (i)) の相
対関係について述べる。
Δp3, Δp5) の対応関係は、後述するように、図６に示
す大局信号候補点56,57,58,59 の量子化値(pq3 (0),pq5
(0))、(pq3 (1),pq5 (1)) 、(pq3 (2),pq5 (2)) 、(pq3 (3),
pq5 (3)) の相対関係に依存して変わる。このため、この
相対関係の数の分だけ表を用意し、(sq3,sq5) と( Δ
p3, Δp5) を求める時には、その中から適切な表を選択
する必要がある。次に、量子化値(pq3 (i),pq5 (i)) の相
対関係について述べる。
【００９３】量子化値(pq3 (i),pq5 (i)) (i=0,1,2,3) の
相対関係は、数２９に示す量子化残差(r3 (0),r5 (0)) に
依存して変わる。これは、4 つの大局信号候補点間の距
離が、L3、L5の整数倍とは一致しないことに起因する。
例えば、量子化セルの大きさL3、L5が図６に示す大きさ
である場合に、(pq3 (1),pq5 (1)) 、(pq3 (2),pq5 (2))、
(pq3 (3),pq5 (3)) の(pq3 (0),pq5 (0)) に対する相対値
を、量子化残差(r3 (0),r5 (0)) に対する関数として記述
すると、図９(a), (b)のようになる。これより、量子化
残差(r3 (0),r5 (0)) に依存して、(pq3 (i),pq5 (i)) の相
対関係が変化することがわかる。このため、量子化残差
(r3 (0),r5 (0)) が、図１０のI=1 からI=16のどの領域に
含まれるかで、各大局量子化値に局所量子化値を加えて
得られる値の相対関係は、図１１のように変化する。な
お、図１１において、斜めになった正方形は、図６の大
局信号候補点56,57,58,59 を頂点とする正方形に相当す
る。
相対関係は、数２９に示す量子化残差(r3 (0),r5 (0)) に
依存して変わる。これは、4 つの大局信号候補点間の距
離が、L3、L5の整数倍とは一致しないことに起因する。
例えば、量子化セルの大きさL3、L5が図６に示す大きさ
である場合に、(pq3 (1),pq5 (1)) 、(pq3 (2),pq5 (2))、
(pq3 (3),pq5 (3)) の(pq3 (0),pq5 (0)) に対する相対値
を、量子化残差(r3 (0),r5 (0)) に対する関数として記述
すると、図９(a), (b)のようになる。これより、量子化
残差(r3 (0),r5 (0)) に依存して、(pq3 (i),pq5 (i)) の相
対関係が変化することがわかる。このため、量子化残差
(r3 (0),r5 (0)) が、図１０のI=1 からI=16のどの領域に
含まれるかで、各大局量子化値に局所量子化値を加えて
得られる値の相対関係は、図１１のように変化する。な
お、図１１において、斜めになった正方形は、図６の大
局信号候補点56,57,58,59 を頂点とする正方形に相当す
る。
【００９４】そこで、図１１に示す16通りの各場合に対
して、図８(c) に示すような表を用意する。そして、局
所量子化値候補(sq3 (0),sq5 (0)) から局所量子化値
(sq3,sq5) と大局信号(p3,p5) を求めるときには、ま
ず、インデックス算出回路73において、量子化残差(r3
(0),r5 (0)) の値が図１０のどの位置になるかを判定し
てインデックスI を求め、次に、第5 の数表74におい
て、求まったインデックスI に基づいて用いる表を選択
する。そして選択した表を用いて、大局信号差分( Δ
p3,Δp5) と局所量子化値(sq3,sq5) を求める。以上が
第4 の発明である。
して、図８(c) に示すような表を用意する。そして、局
所量子化値候補(sq3 (0),sq5 (0)) から局所量子化値
(sq3,sq5) と大局信号(p3,p5) を求めるときには、ま
ず、インデックス算出回路73において、量子化残差(r3
(0),r5 (0)) の値が図１０のどの位置になるかを判定し
てインデックスI を求め、次に、第5 の数表74におい
て、求まったインデックスI に基づいて用いる表を選択
する。そして選択した表を用いて、大局信号差分( Δ
p3,Δp5) と局所量子化値(sq3,sq5) を求める。以上が
第4 の発明である。
【００９５】図１２は、第5 の発明の、量子化値(Xq3,X
q5) から大局信号値候補(p3 (0),p5 (0)) を求める手段、
すなわち、図５または図７における大局信号値候補(p3
(0),p5 (0)) 算出回路の実施の形態の構成を示す回路図
である。これは、量子化値(Xq3,Xq5) の4 つの大局信号
候補点のうち、1 つの点の座標を算出する回路である。
例えば、図６の場合には、4 つの大局信号候補点56,57,
58,59 の座標のうち1 つの点の座標を求める。そして、
求めた点の座標を(p3 (0),p5 (0)) とする。図６の場合に
は、大局信号候補点56を(p3 (0),p5 (0)) としているが、
4 つの大局信号候補点のうちどの点の座標を(p3 (0),p5
(0)) として算出してもよい。どの点を求めるかで回路
が一部変更される。図１２(a) は大局信号候補点56の座
標を、図１２(b) は大局信号候補点57の座標を、図１２
(c) は大局信号候補点58の座標を、図１２(d) は大局信
号候補点59の座標を(p3 (0),p5 (0)) として算出する回路
を表している。次に、図６の場合に大局信号候補点56の
座標を算出する回路について、図１２(a) を参照しなが
ら詳細に説明する。
q5) から大局信号値候補(p3 (0),p5 (0)) を求める手段、
すなわち、図５または図７における大局信号値候補(p3
(0),p5 (0)) 算出回路の実施の形態の構成を示す回路図
である。これは、量子化値(Xq3,Xq5) の4 つの大局信号
候補点のうち、1 つの点の座標を算出する回路である。
例えば、図６の場合には、4 つの大局信号候補点56,57,
58,59 の座標のうち1 つの点の座標を求める。そして、
求めた点の座標を(p3 (0),p5 (0)) とする。図６の場合に
は、大局信号候補点56を(p3 (0),p5 (0)) としているが、
4 つの大局信号候補点のうちどの点の座標を(p3 (0),p5
(0)) として算出してもよい。どの点を求めるかで回路
が一部変更される。図１２(a) は大局信号候補点56の座
標を、図１２(b) は大局信号候補点57の座標を、図１２
(c) は大局信号候補点58の座標を、図１２(d) は大局信
号候補点59の座標を(p3 (0),p5 (0)) として算出する回路
を表している。次に、図６の場合に大局信号候補点56の
座標を算出する回路について、図１２(a) を参照しなが
ら詳細に説明する。
【００９６】はじめに、乗算器100 、101 において、量
子化値Xq3 、Xq5 をそれぞれL3、L5倍し、量子化代表値
(Xq3L3,Xq5L5) を求める。次に、変換器102 において、
数３０に従って量子化代表値(Xq3L3,Xq5L5) の逆変換点
(w3,w5) を算出する。
子化値Xq3 、Xq5 をそれぞれL3、L5倍し、量子化代表値
(Xq3L3,Xq5L5) を求める。次に、変換器102 において、
数３０に従って量子化代表値(Xq3L3,Xq5L5) の逆変換点
(w3,w5) を算出する。
【００９７】
【数３０】 そして、小数部切り捨て器103,104 によりw3、w5の小数
部分を切り捨てることによりw3' 、w5' を求め、変換器
105 でベクトル(w3',w5') を数３１に従って変換するこ
とで、図６の大局信号候補点56の座標(p3 (0),p5 (0)) が
求まる。
部分を切り捨てることによりw3' 、w5' を求め、変換器
105 でベクトル(w3',w5') を数３１に従って変換するこ
とで、図６の大局信号候補点56の座標(p3 (0),p5 (0)) が
求まる。
【００９８】
【数３１】 図１２(a) では、図６の大局信号候補点56の座標を(p3
(0),p5 (0)) として算出する回路について述べている
が、大局信号候補点57,58,59の座標を求める図１２(b)
、(c) 、(d) の回路でも基本的な構成は同じである。
異なるのは、(w3,w5)を整数化する小数部切り捨て器103
、104 の部分であり、図１２(b) では、ここがそれぞ
れ小数部切り上げ器106 、小数部切り捨て器107 にな
り、図１２(c) では、それぞれ小数部切り捨て器108 、
小数部切り上げ器109 になり、図１２(d)では、それぞ
れ小数部切り上げ器110 、111 になる。以上が第5 の発
明である。
(0),p5 (0)) として算出する回路について述べている
が、大局信号候補点57,58,59の座標を求める図１２(b)
、(c) 、(d) の回路でも基本的な構成は同じである。
異なるのは、(w3,w5)を整数化する小数部切り捨て器103
、104 の部分であり、図１２(b) では、ここがそれぞ
れ小数部切り上げ器106 、小数部切り捨て器107 にな
り、図１２(c) では、それぞれ小数部切り捨て器108 、
小数部切り上げ器109 になり、図１２(d)では、それぞ
れ小数部切り上げ器110 、111 になる。以上が第5 の発
明である。
【００９９】第6 の発明は、図２２に示す前記出願特許
記載の8 元可逆離散コサイン変換において、変換器168
を第1 の発明の可逆変換器で置き換えることにより得ら
れる。
記載の8 元可逆離散コサイン変換において、変換器168
を第1 の発明の可逆変換器で置き換えることにより得ら
れる。
【０１００】第7 の発明は、図２３に示す前記出願特許
記載の8 元可逆離散コサイン逆変換において、変換器17
8 を第2 の発明の逆変換器で置き換えることにより得ら
れる。
記載の8 元可逆離散コサイン逆変換において、変換器17
8 を第2 の発明の逆変換器で置き換えることにより得ら
れる。
【０１０１】第8 の発明は、図２２の各行列の成分を、
(a2,a6)=(12,5),(a1,a3,a5,a7)=(5,4,3,1)とする第6 の
発明である。これらの数を採用することで、局所量子化
に必要な表の大きさをそれほど大きくすることなく、本
来の8 元離散コサイン変換係数に近い変換係数の得られ
る8 元可逆離散コサイン変換を実現できる。まず、(a2,
a6)=(12,5)とする理由について述べ、次に、(a1,a3,a5,
a7)=(5,4,3,1) とする理由について述べる。
(a2,a6)=(12,5),(a1,a3,a5,a7)=(5,4,3,1)とする第6 の
発明である。これらの数を採用することで、局所量子化
に必要な表の大きさをそれほど大きくすることなく、本
来の8 元離散コサイン変換係数に近い変換係数の得られ
る8 元可逆離散コサイン変換を実現できる。まず、(a2,
a6)=(12,5)とする理由について述べ、次に、(a1,a3,a5,
a7)=(5,4,3,1) とする理由について述べる。
【０１０２】図１３は、さまざまな自然数の組(a2,a6)
に対して、行列の近似精度、すなわち、図２２の変換器
167 の行列が、図２４の変換器187 の行列をどれだけよ
く近似しているかを示している。縦軸は、変換器167 と
変換器187 の行列の行ベクトル同士がなす角の余弦値を
表しており、行列の近似精度を示している。横軸には、
変換器167 の行列の行列式の値をとっている。また、図
中の括弧内の数字はそのときの(a2,a6) の値を示してい
る。横軸に行列式の値を取った理由は、2 ×2行列によ
る可逆量子化において、局所量子化で用いる表の大きさ
は、基本領域内の変換点数によってきまるため、行列式
の大きさとともに増大することによる。すなわち、この
行列式の大きさがなるべく小さく、余弦値がなるべく1
に近くなる(a2,a6) の値を用いることが望ましい。図１
３より、(a2,a6)=(12,5)のときは近似精度がよく、行列
式の大きさもそれほど大きくないことがわかる。これが
(a2,a6)=(12,5)とする第1 の理由である。
に対して、行列の近似精度、すなわち、図２２の変換器
167 の行列が、図２４の変換器187 の行列をどれだけよ
く近似しているかを示している。縦軸は、変換器167 と
変換器187 の行列の行ベクトル同士がなす角の余弦値を
表しており、行列の近似精度を示している。横軸には、
変換器167 の行列の行列式の値をとっている。また、図
中の括弧内の数字はそのときの(a2,a6) の値を示してい
る。横軸に行列式の値を取った理由は、2 ×2行列によ
る可逆量子化において、局所量子化で用いる表の大きさ
は、基本領域内の変換点数によってきまるため、行列式
の大きさとともに増大することによる。すなわち、この
行列式の大きさがなるべく小さく、余弦値がなるべく1
に近くなる(a2,a6) の値を用いることが望ましい。図１
３より、(a2,a6)=(12,5)のときは近似精度がよく、行列
式の大きさもそれほど大きくないことがわかる。これが
(a2,a6)=(12,5)とする第1 の理由である。
【０１０３】また、この値を用いた場合には、図２２の
変換器167 で得られる変換結果と、図２４の変換器187
で得られる変換結果のダイナミックレンジ差をなくすこ
とが可能である。(a2,a6)=(12,5)のとき、変換行列の行
列式は132 であり、平方数である。従って、量子化周期
を169 、逆量子化周期を13とすれば、可逆量子化後の値
のダイナミックレンジは、量子化前のそれに比べ、1/13
倍になる。変換基底の大きさは13であるため、変換器16
7 の行列で線形変換して得られる値のダイナミックレン
ジは、変換器187 のそれに比べ約13倍となるが、この可
逆量子化により、ダイナミックレンジの変化は相殺され
る。したがって、変換器167 と変換器187 で得られる値
のダイナミックレンジ差をなくすことができる。これが
(a2,a6)=(12,5)とする第2 の理由である。
変換器167 で得られる変換結果と、図２４の変換器187
で得られる変換結果のダイナミックレンジ差をなくすこ
とが可能である。(a2,a6)=(12,5)のとき、変換行列の行
列式は132 であり、平方数である。従って、量子化周期
を169 、逆量子化周期を13とすれば、可逆量子化後の値
のダイナミックレンジは、量子化前のそれに比べ、1/13
倍になる。変換基底の大きさは13であるため、変換器16
7 の行列で線形変換して得られる値のダイナミックレン
ジは、変換器187 のそれに比べ約13倍となるが、この可
逆量子化により、ダイナミックレンジの変化は相殺され
る。したがって、変換器167 と変換器187 で得られる値
のダイナミックレンジ差をなくすことができる。これが
(a2,a6)=(12,5)とする第2 の理由である。
【０１０４】次に、(a1,a3,a5,a7) に関して述べる。図
１４は、(a1,a3,a5,a7) としてさまざまな値を選んだと
きの近似精度、すなわち、図２２の変換器168 の行列
が、図２４の変換器188 の行列をどれだけよく近似して
いるかを示している。図１３と同様に、縦軸は変換行列
の行ベクトル同士がなす角の余弦値を表し、横軸は、変
換行列の行列式を表している。また、括弧内の数字は、
そのときの(a1,a3,a5,a7) の値を示している。(a2,a6)
の場合と同様に、局所量子化で用いる表は変換行列の行
列式に従って大きくなるため、行列式の値が小さく、近
似精度のよい値の組み合わせを選ぶ必要がある。図１４
より、(a1,a3,a5,a7)=(5,4,3,1) のときは、行列式の値
がそれほど大きくなく、近似の精度がよいことがわか
る。これ以上の近似精度を与える組み合わせには、図１
４より(a1,a3,a5,a7)=(9,8,5,2) があるが、行列式の大
きさは約30000 であり、(a1,a3,a5,a7)=(5,4,3,1) の場
合の2593に対し約12倍である。よって、ここでは、(a1,
a3,a5,a7)=(5,4,3,1) を採用している。以上が第8 の発
明である。
１４は、(a1,a3,a5,a7) としてさまざまな値を選んだと
きの近似精度、すなわち、図２２の変換器168 の行列
が、図２４の変換器188 の行列をどれだけよく近似して
いるかを示している。図１３と同様に、縦軸は変換行列
の行ベクトル同士がなす角の余弦値を表し、横軸は、変
換行列の行列式を表している。また、括弧内の数字は、
そのときの(a1,a3,a5,a7) の値を示している。(a2,a6)
の場合と同様に、局所量子化で用いる表は変換行列の行
列式に従って大きくなるため、行列式の値が小さく、近
似精度のよい値の組み合わせを選ぶ必要がある。図１４
より、(a1,a3,a5,a7)=(5,4,3,1) のときは、行列式の値
がそれほど大きくなく、近似の精度がよいことがわか
る。これ以上の近似精度を与える組み合わせには、図１
４より(a1,a3,a5,a7)=(9,8,5,2) があるが、行列式の大
きさは約30000 であり、(a1,a3,a5,a7)=(5,4,3,1) の場
合の2593に対し約12倍である。よって、ここでは、(a1,
a3,a5,a7)=(5,4,3,1) を採用している。以上が第8 の発
明である。
【０１０５】第9 の発明は、第8 の発明の逆変換であ
り、図２２の各行列の成分を、(a2,a6)=(12,5)、(a1,
a3,a5,a7)=(5,4,3,1) とする第7 の発明である。
り、図２２の各行列の成分を、(a2,a6)=(12,5)、(a1,
a3,a5,a7)=(5,4,3,1) とする第7 の発明である。
【０１０６】図１５(a) は、第10の発明の、整数ベクト
ル(v1,v3) から量子化値(Xq2,Xq6)を得る手段、すなわ
ち、図２２の変換器167 の実施の形態の構成を示す回路
図である。まず、整数ベクトル(v1,v3) を変換器131 で
行列
ル(v1,v3) から量子化値(Xq2,Xq6)を得る手段、すなわ
ち、図２２の変換器167 の実施の形態の構成を示す回路
図である。まず、整数ベクトル(v1,v3) を変換器131 で
行列
【０１０７】
【数３２】 により線形変換する。次に、この結果を線形量子化器13
2,133 において幅13で線形量子化し、量子化値(Xq2,
Xq6) が求まる。このように、本発明では、(v1,v3)の変
換結果を可逆量子化するのに局所量子化を定義した表を
用いない。
2,133 において幅13で線形量子化し、量子化値(Xq2,
Xq6) が求まる。このように、本発明では、(v1,v3)の変
換結果を可逆量子化するのに局所量子化を定義した表を
用いない。
【０１０８】これは、数３２の行列による変換点の場
合、幅13で線形量子化するだけで、量子化の可逆性が保
証されるためである。整数格子点を数３２の行列で変換
した点を、幅13で線形量子化する場合、各量子化セル内
に変換点が1 つずつ存在する。よって、幅13で線形量子
化すれば、各変換点に異なる量子化値が割り当てられ、
変換点を量子化点に1 対1 に対応づけられる。このた
め、量子化対応表は不要である。表を用いた量子化を行
わなくてすむため、回路を簡単にできる。以上が第10の
発明である。
合、幅13で線形量子化するだけで、量子化の可逆性が保
証されるためである。整数格子点を数３２の行列で変換
した点を、幅13で線形量子化する場合、各量子化セル内
に変換点が1 つずつ存在する。よって、幅13で線形量子
化すれば、各変換点に異なる量子化値が割り当てられ、
変換点を量子化点に1 対1 に対応づけられる。このた
め、量子化対応表は不要である。表を用いた量子化を行
わなくてすむため、回路を簡単にできる。以上が第10の
発明である。
【０１０９】図１５(b) は、第11の発明の、量子化値(X
q2,Xq6) から整数ベクトル(v1,v3)を得る手段、すなわ
ち、図２３の変換器177 の実施の形態の構成を示す回路
図である。まず、量子化値Xq2,Xq6 を乗算器134 、135
においてそれぞれ13倍し、線形逆量子化値を得る。次
に、変換器136 において数３２の行列の逆行列により線
形変換する。そして、得られた結果を四捨五入器137,13
8 によって、小数点以下をそれぞれ四捨五入し、整数ベ
クトル(v1,v3) が求まる。図１５(a) の回路で変換され
たベクトルを、同図(b) の回路で変換すると、もとの値
に戻ることを示すことができ、量子化の可逆性が成り立
つ。このように、表を用いた逆量子化を行わなくてすむ
ため、回路を簡単にできる。以上が第11の発明である。
q2,Xq6) から整数ベクトル(v1,v3)を得る手段、すなわ
ち、図２３の変換器177 の実施の形態の構成を示す回路
図である。まず、量子化値Xq2,Xq6 を乗算器134 、135
においてそれぞれ13倍し、線形逆量子化値を得る。次
に、変換器136 において数３２の行列の逆行列により線
形変換する。そして、得られた結果を四捨五入器137,13
8 によって、小数点以下をそれぞれ四捨五入し、整数ベ
クトル(v1,v3) が求まる。図１５(a) の回路で変換され
たベクトルを、同図(b) の回路で変換すると、もとの値
に戻ることを示すことができ、量子化の可逆性が成り立
つ。このように、表を用いた逆量子化を行わなくてすむ
ため、回路を簡単にできる。以上が第11の発明である。
【０１１０】
【実施例】第1 の発明の実施例について説明する。第1
の発明は、図１に示すように、変換器1 、線形量子化器
4,5,6,7 、第1 の数表2 、第2 の数表3 、加算器14,15,
16,17 からなる。線形変換を行う変換器1 のa1、a3、
a5、a7の各値としては、第8の発明である5,4,3,1 を用
いる。この時、数１８のg 、h はそれぞれ48,17 とな
り、数２１の行列式D4は2593となる。
の発明は、図１に示すように、変換器1 、線形量子化器
4,5,6,7 、第1 の数表2 、第2 の数表3 、加算器14,15,
16,17 からなる。線形変換を行う変換器1 のa1、a3、
a5、a7の各値としては、第8の発明である5,4,3,1 を用
いる。この時、数１８のg 、h はそれぞれ48,17 とな
り、数２１の行列式D4は2593となる。
【０１１１】線形量子化器4,5 の量子化幅k1、k7はとも
に7 とした。これは、変換器1 の出力(Xq1,Xq7) のダイ
ナミックレンジを、図２４に示す本来の離散コサイン変
換における変換器188 の出力(X1,X7) のダイナミックレ
ンジになるべく一致させるためである。a1、a3、a5、a7
が上述の値のとき、入力ベクトル(u4,u5,u6,u7) の大き
さは、変換器1 の行列の変換により、ほぼ511/2 ≒7.14
倍される。そこで、k1=k7=7 とすることでこの分はほぼ
打ち消され、量子化後の値(Xq1,Xq7) のダイナミックレ
ンジは、変換器188 の出力(X1,X7) にほぼ一致する。
に7 とした。これは、変換器1 の出力(Xq1,Xq7) のダイ
ナミックレンジを、図２４に示す本来の離散コサイン変
換における変換器188 の出力(X1,X7) のダイナミックレ
ンジになるべく一致させるためである。a1、a3、a5、a7
が上述の値のとき、入力ベクトル(u4,u5,u6,u7) の大き
さは、変換器1 の行列の変換により、ほぼ511/2 ≒7.14
倍される。そこで、k1=k7=7 とすることでこの分はほぼ
打ち消され、量子化後の値(Xq1,Xq7) のダイナミックレ
ンジは、変換器188 の出力(X1,X7) にほぼ一致する。
【０１１２】一方、線形量子化器L3、L5の値は、2593/3
79とした。次にこの値を用いる理由について述べる。こ
の値は、図３からも推察されるように、局所量子化値の
存在範囲の形状、ひいては代表元(s3,s5) の存在領域の
形状に依存して変化する。ここでは、図１６(a) の平行
四辺形領域を代表元の存在領域とし、これに対して図１
６(b) の領域を局所量子化値の存在範囲としている。こ
のようにすれば、量子化において無駄な量子化点の発生
が少なく、効率的であると考えられるためである。この
とき、量子化値に重なりを生じない範囲で最小となる数
２７のM3、M5の値を求めると、M3=M5=379 となる。この
うちM3に関しては、
79とした。次にこの値を用いる理由について述べる。こ
の値は、図３からも推察されるように、局所量子化値の
存在範囲の形状、ひいては代表元(s3,s5) の存在領域の
形状に依存して変化する。ここでは、図１６(a) の平行
四辺形領域を代表元の存在領域とし、これに対して図１
６(b) の領域を局所量子化値の存在範囲としている。こ
のようにすれば、量子化において無駄な量子化点の発生
が少なく、効率的であると考えられるためである。この
とき、量子化値に重なりを生じない範囲で最小となる数
２７のM3、M5の値を求めると、M3=M5=379 となる。この
うちM3に関しては、
【０１１３】
【数３３】 により求まる。M5の値に関しては、値を順に変化させて
いき、量子化値に重なりを生じるかどうかをチェックし
て、重なりを生じないための最小値を求めた。よって、
L3、L5の値は、量子化周期を行列式D4=2593 として、数
２７から、ともに2593/379と求まる。
いき、量子化値に重なりを生じるかどうかをチェックし
て、重なりを生じないための最小値を求めた。よって、
L3、L5の値は、量子化周期を行列式D4=2593 として、数
２７から、ともに2593/379と求まる。
【０１１４】なお、代表元(s3,s5) の存在範囲を図１６
(a) の平行四辺形領域とする場合には、局所量子化値の
存在範囲の形状を、図１７(a) 、(b) 、(c) のようにす
ることも考えられるが、これらの場合でも、同様にM3=M
5=379 となる。また、代表元(s3,s5) の存在範囲として
は、図１６以外にも例えば、図１８(a) や同図(b) のよ
うなものも考えられる。この場合には、局所量子化値(s
q3,sq5) の存在範囲は、同図(c) のようにすればよい。
(a) の平行四辺形領域とする場合には、局所量子化値の
存在範囲の形状を、図１７(a) 、(b) 、(c) のようにす
ることも考えられるが、これらの場合でも、同様にM3=M
5=379 となる。また、代表元(s3,s5) の存在範囲として
は、図１６以外にも例えば、図１８(a) や同図(b) のよ
うなものも考えられる。この場合には、局所量子化値(s
q3,sq5) の存在範囲は、同図(c) のようにすればよい。
【０１１５】次に、第1 の数表の例を表１に示す。数１
８のg 、h はそれぞれ48、17であり互いに素であるか
ら、数２３のz1(X1,X7) 、z2(X1,X7) のどちらか一方を
入力として用いるだけで代表元を決定できる。ここで
は、
８のg 、h はそれぞれ48、17であり互いに素であるか
ら、数２３のz1(X1,X7) 、z2(X1,X7) のどちらか一方を
入力として用いるだけで代表元を決定できる。ここで
は、
【０１１６】
【数３４】 と代表元(s3,s5) の対応関係を表１に記述している。z1
(X1,X7) と代表元(s3,s5) との関係は、数２４の変換に
おいて、ベクトル(u4,u5,u6,u7) が整数ベクトルになる
ための条件から、予め求めておくことができる。ここ
で、代表元(s3,s5)の存在範囲は、上述の通り図１６(a)
の領域である。図１の第1 の数表2 において、代表元
(s3,s5) を求めるときには、まず数３４の値を算出し、
次に、この値から表１を参照し、(s3,s5) を求める。
(X1,X7) と代表元(s3,s5) との関係は、数２４の変換に
おいて、ベクトル(u4,u5,u6,u7) が整数ベクトルになる
ための条件から、予め求めておくことができる。ここ
で、代表元(s3,s5)の存在範囲は、上述の通り図１６(a)
の領域である。図１の第1 の数表2 において、代表元
(s3,s5) を求めるときには、まず数３４の値を算出し、
次に、この値から表１を参照し、(s3,s5) を求める。
【０１１７】
【表１】 次に第2 の数表について述べる。前述の通り量子化代表
値(k1Xq1,k7Xq7) に対する数２２の値、すなわちベクト
ルz(k1Xq1,k7Xq7)によって表を選択するが、表１の場合
と同様に、この成分の片方のみをインデックスとして用
いれば良い。ここでは、量子化代表値(k1Xq1,k7Xq7) に
対する数３４の値、すなわち
値(k1Xq1,k7Xq7) に対する数２２の値、すなわちベクト
ルz(k1Xq1,k7Xq7)によって表を選択するが、表１の場合
と同様に、この成分の片方のみをインデックスとして用
いれば良い。ここでは、量子化代表値(k1Xq1,k7Xq7) に
対する数３４の値、すなわち
【０１１８】
【数３５】 をインデックスとして用いる。表２にインデックスが0
、すなわち数３５の値が0 の場合の第2 の数表の例を
示す。ここでは、量子化残差(r1,r7) の値も同時に記し
てあるが、実際には、前述の通り量子化残差(r1,r7) の
とり得る値の集合は、量子化値(Xq1,Xq7) に依存せず一
定であるため、表の何段目の(sq3,sq5) の値がどの(r1,
r7) に対応するかがわかっていれば、(r1,r7) の値は不
要である。
、すなわち数３５の値が0 の場合の第2 の数表の例を
示す。ここでは、量子化残差(r1,r7) の値も同時に記し
てあるが、実際には、前述の通り量子化残差(r1,r7) の
とり得る値の集合は、量子化値(Xq1,Xq7) に依存せず一
定であるため、表の何段目の(sq3,sq5) の値がどの(r1,
r7) に対応するかがわかっていれば、(r1,r7) の値は不
要である。
【０１１９】
【表２】 次に、第2 の数表の作成法について述べる。まず、各(r
1,r7) に対応する(s3,s5) を求める。表のインデックス
をt とすると、z1(k1Xq1,k7Xq7)=t であるため、各(r1,
r7) に対するz1(X1,X7) の値は、
1,r7) に対応する(s3,s5) を求める。表のインデックス
をt とすると、z1(k1Xq1,k7Xq7)=t であるため、各(r1,
r7) に対するz1(X1,X7) の値は、
【０１２０】
【数３６】 となる。これより、表１を用いて(s3,s5) の値を求めら
れる。このようにして、各(r1,r7) に対応する(s3,s5)
の値が求まる。次に、求まった(s3,s5) の集合に対し、
量子化値(sq3,sq5) を割り当てる。そして、各(r1,r7)
と(sq3,sq5) を対応づけて表に記載する。このようにし
て、各(r1,r7) に対する(sq3,sq5) が求まる。t=0 の場
合についてこの様子を示したのが、表３である。
れる。このようにして、各(r1,r7) に対応する(s3,s5)
の値が求まる。次に、求まった(s3,s5) の集合に対し、
量子化値(sq3,sq5) を割り当てる。そして、各(r1,r7)
と(sq3,sq5) を対応づけて表に記載する。このようにし
て、各(r1,r7) に対する(sq3,sq5) が求まる。t=0 の場
合についてこの様子を示したのが、表３である。
【０１２１】
【表３】 第2 の発明の実施例について説明する。第2 の発明は、
図４に示すように、変換器30、大局信号・局所量子化値
算出回路31、第3 の数表32、第4 の数表33、乗算器34,3
5 、加算器36,37,38,39 からなる。
図４に示すように、変換器30、大局信号・局所量子化値
算出回路31、第3 の数表32、第4 の数表33、乗算器34,3
5 、加算器36,37,38,39 からなる。
【０１２２】変換器30のa1、a3、a5、a7の各値として
は、第9 の発明である5,4,3,1 を用いる。乗算器34,35
で用いられる乗数k1,k7 としては、第1 発明の実施例で
用いた値、すなわち、k1=k7=7 を用いる。大局信号・局
所量子化値算出回路31には、第3 、4 の発明を用いるこ
とができる。
は、第9 の発明である5,4,3,1 を用いる。乗算器34,35
で用いられる乗数k1,k7 としては、第1 発明の実施例で
用いた値、すなわち、k1=k7=7 を用いる。大局信号・局
所量子化値算出回路31には、第3 、4 の発明を用いるこ
とができる。
【０１２３】次に第3 の数表32について述べる。これ
は、第1 の発明の第2 の数表の逆の変換を与える表であ
る。よって、図１の第2 の数表3 と同様に、表の選択に
おいては、数３５の値をインデックスとして用いる。す
なわち、まず数３５の値を計算し、この値によって、用
いる表を選択する。第3 の数表32は、基本的には、第1
の発明の第2 の表の入力と出力を入れ替えることで得ら
れる。この表の例を表４に示す。なお、局所量子化値(s
q3,sq5) の取り得る値の集合は、(Xq1,Xq7) によらず確
定しているため、この場合も図１の第2 の数表と同様
に、表の何段目の値がどの(sq3,sq5) に対応するかをあ
らかじめ決めておくことで、表に局所量子化値(sq3,
sq5) の値を書いておく必要はなくなる。よって、表を
小さくできる。
は、第1 の発明の第2 の数表の逆の変換を与える表であ
る。よって、図１の第2 の数表3 と同様に、表の選択に
おいては、数３５の値をインデックスとして用いる。す
なわち、まず数３５の値を計算し、この値によって、用
いる表を選択する。第3 の数表32は、基本的には、第1
の発明の第2 の表の入力と出力を入れ替えることで得ら
れる。この表の例を表４に示す。なお、局所量子化値(s
q3,sq5) の取り得る値の集合は、(Xq1,Xq7) によらず確
定しているため、この場合も図１の第2 の数表と同様
に、表の何段目の値がどの(sq3,sq5) に対応するかをあ
らかじめ決めておくことで、表に局所量子化値(sq3,
sq5) の値を書いておく必要はなくなる。よって、表を
小さくできる。
【０１２４】
【表４】 第4 の数表は、変換係数X1、X7から代表元(s3,s5) を求
めるもので、これは、第1 の発明で用いた第1 の数表を
そのまま用いることができる。この表においても、図１
の第1 の数表2 の場合と同様に、まずz1(X1,X7) の値を
計算し、次にこの値に基づいて表を参照して、代表元(s
3,s5) を求める。
めるもので、これは、第1 の発明で用いた第1 の数表を
そのまま用いることができる。この表においても、図１
の第1 の数表2 の場合と同様に、まずz1(X1,X7) の値を
計算し、次にこの値に基づいて表を参照して、代表元(s
3,s5) を求める。
【０１２５】第3 の発明の実施例について説明する。第
3 の発明の大局信号・局所量子化値算出回路は、図５
(a) に示すように、大局信号候補(p3 (0),p5 (0)) 算出回
路40と、局所量子化値候補算出回路47,48,49,50 と、加
算器41,42,43,44,45,46 と、選択回路51からなる。局所
量子化値候補算出回路は、線形量子化器52,53 、加算器
54,55 からなる図５(b) の回路で実現できる。線形量子
化器52,53 における量子化の幅L3、L5の値は、第1 の発
明の実施例で用いた値、すなわち、L3=L5=2593/379とす
る。大局信号候補(p3 (0),p5 (0)) 算出回路40には、第5
の発明を用いることができる。
3 の発明の大局信号・局所量子化値算出回路は、図５
(a) に示すように、大局信号候補(p3 (0),p5 (0)) 算出回
路40と、局所量子化値候補算出回路47,48,49,50 と、加
算器41,42,43,44,45,46 と、選択回路51からなる。局所
量子化値候補算出回路は、線形量子化器52,53 、加算器
54,55 からなる図５(b) の回路で実現できる。線形量子
化器52,53 における量子化の幅L3、L5の値は、第1 の発
明の実施例で用いた値、すなわち、L3=L5=2593/379とす
る。大局信号候補(p3 (0),p5 (0)) 算出回路40には、第5
の発明を用いることができる。
【０１２６】加算器41,42,43,44,45,46 において加算す
る定数Δp3 (1),Δp5 (1),Δp3 (2),Δp5 (2),Δp3 (3),Δp5
(3) の値は、大局信号候補(p3 (0),p5 (0)) 算出回路40の
出力が、図６の大局信号候補点56,57,58,59 のうち、ど
の点の座標であるかによってかわる。例えば、(p3 (0),p
5 (0)),(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3))
が、図６に示す通りならば、加算器41,42,43,44,45,46
において加算する定数は、それぞれ17,48,-48,17,-31,6
5 となる。
る定数Δp3 (1),Δp5 (1),Δp3 (2),Δp5 (2),Δp3 (3),Δp5
(3) の値は、大局信号候補(p3 (0),p5 (0)) 算出回路40の
出力が、図６の大局信号候補点56,57,58,59 のうち、ど
の点の座標であるかによってかわる。例えば、(p3 (0),p
5 (0)),(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3))
が、図６に示す通りならば、加算器41,42,43,44,45,46
において加算する定数は、それぞれ17,48,-48,17,-31,6
5 となる。
【０１２７】選択回路51では、図１６(b) に示す局所量
子化値の取り得る値を保持しておき、これらを順次、入
力ベクトル(sq3 (0),sq5 (0)),(sq3 (1),sq5 (1)),(sq3 (2),
sq5 (2)),(sq3 (3),sq5 (3)) と比較していくことで、実際
に取り得る値を見つけることができる。そして、取り得
る値と判定された値を局所量子化値(sq3,sq5) として出
力する。また、これに対応する(p3 (i),p5 (i)) の値を大
局信号(p3,p5) として出力する。
子化値の取り得る値を保持しておき、これらを順次、入
力ベクトル(sq3 (0),sq5 (0)),(sq3 (1),sq5 (1)),(sq3 (2),
sq5 (2)),(sq3 (3),sq5 (3)) と比較していくことで、実際
に取り得る値を見つけることができる。そして、取り得
る値と判定された値を局所量子化値(sq3,sq5) として出
力する。また、これに対応する(p3 (i),p5 (i)) の値を大
局信号(p3,p5) として出力する。
【０１２８】第4 の発明の実施例について説明する。第
4 の発明の大局信号・局所量子化値算出回路は、図７に
示すように、大局信号候補(p3 (0),p5 (0)) 算出回路70
と、線形量子化器71,72 、インデックス算出回路73、第
5 の数表74、加算器75,76,77,78 からなる。大局信号候
補(p3 (0),p5 (0)) 算出回路70としては、第5 の発明を用
いることができる。線形量子化器71,72 における量子化
の幅L3、L5の値は、第1の発明の実施例で用いた値、す
なわち、L3=L5=2593/379とする。線形量子化器71,72 で
は、(p3 (0),p5 (0)) を線形量子化すると同時に、数２９
で表される量子化残差(r3 (0),r5 (0)) も同時に求める。
4 の発明の大局信号・局所量子化値算出回路は、図７に
示すように、大局信号候補(p3 (0),p5 (0)) 算出回路70
と、線形量子化器71,72 、インデックス算出回路73、第
5 の数表74、加算器75,76,77,78 からなる。大局信号候
補(p3 (0),p5 (0)) 算出回路70としては、第5 の発明を用
いることができる。線形量子化器71,72 における量子化
の幅L3、L5の値は、第1の発明の実施例で用いた値、す
なわち、L3=L5=2593/379とする。線形量子化器71,72 で
は、(p3 (0),p5 (0)) を線形量子化すると同時に、数２９
で表される量子化残差(r3 (0),r5 (0)) も同時に求める。
【０１２９】インデックス算出回路73では、量子化残差
(r3 (0),r5 (0)) から第5 の数表のインデックスを求め
る。大局信号候補(p3 (0),p5 (0)) 算出回路70で算出され
る(p3 (0),p5 (0)) が、図６の大局信号候補点56の座標で
あり、(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3)) の
値が、図６に示すようにそれぞれ大局信号候補点57,58,
59の座標であるときに、局所量子化値の取り得る範囲が
図１６(b) に示す通りならば、大局信号候補点間の相対
関係は図１９に示すように変化する。よって、量子化残
差(r3 (0),r5 (0)) の値が図２０のどの位置に存在するか
によって、(sq3 (0),sq5 (0)) と量子化値(Xq3,Xq5) の対
応関係が図２１のように変化する。インデックス回路73
では、量子化残差(r3 (0),r5 (0)) が図２０のどの領域に
含まれるかを判定し、インデックスI (1≦ I ≦16) を
出力する。
(r3 (0),r5 (0)) から第5 の数表のインデックスを求め
る。大局信号候補(p3 (0),p5 (0)) 算出回路70で算出され
る(p3 (0),p5 (0)) が、図６の大局信号候補点56の座標で
あり、(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3)) の
値が、図６に示すようにそれぞれ大局信号候補点57,58,
59の座標であるときに、局所量子化値の取り得る範囲が
図１６(b) に示す通りならば、大局信号候補点間の相対
関係は図１９に示すように変化する。よって、量子化残
差(r3 (0),r5 (0)) の値が図２０のどの位置に存在するか
によって、(sq3 (0),sq5 (0)) と量子化値(Xq3,Xq5) の対
応関係が図２１のように変化する。インデックス回路73
では、量子化残差(r3 (0),r5 (0)) が図２０のどの領域に
含まれるかを判定し、インデックスI (1≦ I ≦16) を
出力する。
【０１３０】第5 の数表74では、図２１に示した16通り
のそれぞれの場合に対し、大局信号候補点(p3 (0),
p5 (0)) に対する局所量子化値(s3 (0),s5 (0)) から大局
信号差分(Δp3, Δp5) と局所量子化値(sq3,sq5) を求
める表( 図８(c) 参照) を用意する。そして、入力され
るインデックスI によって用いる表を選択し、選択した
表を用いて局所量子化値(sq3,sq5) と大局信号差分値(
Δp3, Δp5) を求める。
のそれぞれの場合に対し、大局信号候補点(p3 (0),
p5 (0)) に対する局所量子化値(s3 (0),s5 (0)) から大局
信号差分(Δp3, Δp5) と局所量子化値(sq3,sq5) を求
める表( 図８(c) 参照) を用意する。そして、入力され
るインデックスI によって用いる表を選択し、選択した
表を用いて局所量子化値(sq3,sq5) と大局信号差分値(
Δp3, Δp5) を求める。
【０１３１】第5 の発明の大局信号候補(p3 (0),p5 (0))
算出回路は、図１２に示すように、乗算器100,101 と変
換器102,105 と、小数部切り上げ器あるいは、小数部切
り捨て器からなる。実施の形態のところで述べたよう
に、小数部切り上げ器と小数部切り捨て器の組み合わせ
で図１２の(a) から(d) の4 通りの回路が考えられる。
ここで、L3、L5、g 、h は前述の値を用いる。すなわ
ち、L3=L5=2593/379、g=48、h=17である。
算出回路は、図１２に示すように、乗算器100,101 と変
換器102,105 と、小数部切り上げ器あるいは、小数部切
り捨て器からなる。実施の形態のところで述べたよう
に、小数部切り上げ器と小数部切り捨て器の組み合わせ
で図１２の(a) から(d) の4 通りの回路が考えられる。
ここで、L3、L5、g 、h は前述の値を用いる。すなわ
ち、L3=L5=2593/379、g=48、h=17である。
【０１３２】第6 の発明の実施例について説明する。第
6 の発明は、図２２に示すように、数２５に示す2 ×2
行列による変換器160,161,162,163,164,165,166 と、数
２６に示す2 ×2 行列による変換器167 と、数１６に示
す4 ×4 行列による変換器168 からなる。ここで、変換
器168 は第1 の発明の4 ×4 可逆変換器である。また、
変換器167 のa2、a6の値としては、さまざまな値を用い
ることが可能であるが、第8 の発明の(a2,a6)=(12,5)を
用いると得られる変換係数の値が本来の離散コサイン変
換係数に近くなる。
6 の発明は、図２２に示すように、数２５に示す2 ×2
行列による変換器160,161,162,163,164,165,166 と、数
２６に示す2 ×2 行列による変換器167 と、数１６に示
す4 ×4 行列による変換器168 からなる。ここで、変換
器168 は第1 の発明の4 ×4 可逆変換器である。また、
変換器167 のa2、a6の値としては、さまざまな値を用い
ることが可能であるが、第8 の発明の(a2,a6)=(12,5)を
用いると得られる変換係数の値が本来の離散コサイン変
換係数に近くなる。
【０１３３】数２５の行列による変換器の量子化では、
量子化周期を(14,10) 、逆量子化周期を(10,7)、あるい
は量子化周期を(10,14) 、逆量子化周期を(7,10)とす
る。量子化周期は、行列式の絶対値2 の定数倍であれば
何でも良いが、特にこの値を採用するのは、以下の理由
による。一つには、基本領域内の変換点数と量子化点の
数がともに70で等しく、量子化により変換結果に存在す
る冗長性を完全に除けるためである。もう一つには、量
子化後の値が量子化前の値のそれぞれ約10/14 倍、7/10
倍となり、数２５の行列の変換で21/2倍に拡大された分
をほぼ打ち消すことができるためである。よって、図２
２の変換器160,161,162,163,164,165,166で得られる結
果は、それぞれ図２４の変換器180,181,182,183,184,18
5,186 で得られる結果に近いものとなる。
量子化周期を(14,10) 、逆量子化周期を(10,7)、あるい
は量子化周期を(10,14) 、逆量子化周期を(7,10)とす
る。量子化周期は、行列式の絶対値2 の定数倍であれば
何でも良いが、特にこの値を採用するのは、以下の理由
による。一つには、基本領域内の変換点数と量子化点の
数がともに70で等しく、量子化により変換結果に存在す
る冗長性を完全に除けるためである。もう一つには、量
子化後の値が量子化前の値のそれぞれ約10/14 倍、7/10
倍となり、数２５の行列の変換で21/2倍に拡大された分
をほぼ打ち消すことができるためである。よって、図２
２の変換器160,161,162,163,164,165,166で得られる結
果は、それぞれ図２４の変換器180,181,182,183,184,18
5,186 で得られる結果に近いものとなる。
【０１３４】数２６の行列による変換では、a2=12 、a6
=5として、量子化周期を(169,169)、逆量子化周期を(1
3,13) とする。このようにすると、数２６の行列で13倍
に拡大された分を、可逆量子化で1/13倍してちょうど打
ち消せるためである。よって、図２２の変換器167 で得
られる結果は、図２４の変換器187 で得られる結果に近
いものとなる。
=5として、量子化周期を(169,169)、逆量子化周期を(1
3,13) とする。このようにすると、数２６の行列で13倍
に拡大された分を、可逆量子化で1/13倍してちょうど打
ち消せるためである。よって、図２２の変換器167 で得
られる結果は、図２４の変換器187 で得られる結果に近
いものとなる。
【０１３５】第7 の発明は、図２３に示すように、数２
５の行列に関する逆変換器の逆変換器170,171,172,173,
174,175,176 と、数２６の行列に関する逆変換器177
と、4×4 逆変換器178 からなる。4 ×4 逆変換器178
は、第2 の発明の4 ×4 逆変換器である。逆変換器170
から176 の逆量子化においては、図２２の変換器160 か
ら166 までで用いた量子化対応表とは、逆の対応関係を
記述した表を用いる。また、逆変換器177 の逆量子化で
は、図２２の変換器167 で用いた量子化対応表とは、逆
の対応関係を記述した表を用いる。このようにすること
で、第6 の発明の逆変換回路を構成できる。
５の行列に関する逆変換器の逆変換器170,171,172,173,
174,175,176 と、数２６の行列に関する逆変換器177
と、4×4 逆変換器178 からなる。4 ×4 逆変換器178
は、第2 の発明の4 ×4 逆変換器である。逆変換器170
から176 の逆量子化においては、図２２の変換器160 か
ら166 までで用いた量子化対応表とは、逆の対応関係を
記述した表を用いる。また、逆変換器177 の逆量子化で
は、図２２の変換器167 で用いた量子化対応表とは、逆
の対応関係を記述した表を用いる。このようにすること
で、第6 の発明の逆変換回路を構成できる。
【０１３６】第8 、第9 の発明は、(a1,a3,a5,a7)=(5,
4,3,1) 、(a2,a6)=(12,5)とする変換器、逆変換器であ
るが、これらの値は既に上述の実施例で用いているた
め、上述の実施例がそのまま第8 、第9 の発明の実施例
となる。また、第10,11 の発明の実施例については、実
施の形態のところで述べた通りである。
4,3,1) 、(a2,a6)=(12,5)とする変換器、逆変換器であ
るが、これらの値は既に上述の実施例で用いているた
め、上述の実施例がそのまま第8 、第9 の発明の実施例
となる。また、第10,11 の発明の実施例については、実
施の形態のところで述べた通りである。
【０１３７】
【発明の効果】第1 の効果は、前記出願特許記載の8 元
可逆離散コサイン変換に比べ、従来の離散コサイン変換
との互換性が向上することである。その理由は、本発明
の8 元可逆離散コサイン変換によって得られる変換係数
の値と、本来の8 元離散コサイン変換係数との差を、前
記出願特許記載の8 元可逆離散コサイン変換の場合に比
べ小さくできるためである。本発明と前記出願特許とで
得られる結果が大きく異なるのは8 つの変換係数のう
ち、図２２に示すXq3 とXq5 であるが、これらの値と本
来の8 元離散コサイン変換係数X3とX5との差を、実画像
に対して調べた結果を表５に示す。これは、複数の実画
像の輝度値に対して、水平方向のみに8 元可逆離散コサ
イン変換と本来の8 元離散コサイン変換を行なって、得
られた係数間の差の二乗平均を求めたものである。これ
より、本発明の8 元可逆離散コサイン変換では、前記出
願特許記載の手法の8 元可逆離散コサイン変換よりも、
本来の8 元離散コサイン変換係数に近い値が得られるこ
とが確認できる。
可逆離散コサイン変換に比べ、従来の離散コサイン変換
との互換性が向上することである。その理由は、本発明
の8 元可逆離散コサイン変換によって得られる変換係数
の値と、本来の8 元離散コサイン変換係数との差を、前
記出願特許記載の8 元可逆離散コサイン変換の場合に比
べ小さくできるためである。本発明と前記出願特許とで
得られる結果が大きく異なるのは8 つの変換係数のう
ち、図２２に示すXq3 とXq5 であるが、これらの値と本
来の8 元離散コサイン変換係数X3とX5との差を、実画像
に対して調べた結果を表５に示す。これは、複数の実画
像の輝度値に対して、水平方向のみに8 元可逆離散コサ
イン変換と本来の8 元離散コサイン変換を行なって、得
られた係数間の差の二乗平均を求めたものである。これ
より、本発明の8 元可逆離散コサイン変換では、前記出
願特許記載の手法の8 元可逆離散コサイン変換よりも、
本来の8 元離散コサイン変換係数に近い値が得られるこ
とが確認できる。
【０１３８】第2 の効果は、前記出願特許記載の8 元可
逆離散コサイン変換の場合に比べ、符号化器を簡単にで
きることである。その理由は、前記出願特許記載の8 元
可逆離散コサイン変換では、4 ×4 行列変換の可逆量子
化において、変換係数(X3,X5) の大局量子化に、表を用
いた量子化を行なっていたが、本発明の場合には、この
部分は線形量子化ですむためである。よって、従来必要
であった(X3,X5) の大局量子化に用いる表は不要であ
る。また、数２６のa2、a6の値を12,5とすることで、こ
の行列による可逆量子化も線形量子化に置き換えること
が可能となり、量子化対応表は不要となる。よって、符
号化器をさらに簡単にできる。
逆離散コサイン変換の場合に比べ、符号化器を簡単にで
きることである。その理由は、前記出願特許記載の8 元
可逆離散コサイン変換では、4 ×4 行列変換の可逆量子
化において、変換係数(X3,X5) の大局量子化に、表を用
いた量子化を行なっていたが、本発明の場合には、この
部分は線形量子化ですむためである。よって、従来必要
であった(X3,X5) の大局量子化に用いる表は不要であ
る。また、数２６のa2、a6の値を12,5とすることで、こ
の行列による可逆量子化も線形量子化に置き換えること
が可能となり、量子化対応表は不要となる。よって、符
号化器をさらに簡単にできる。
【０１３９】
【表５】
【図１】第1 の発明である可逆変換器の一実施形態を示
す回路図である。
す回路図である。
【図２】第1 の発明である可逆変換器の一実施形態を示
す回路図である。
す回路図である。
【図３】(a) 、(b) 、(c) は、線形量子化器6,7 で用い
る、X3、X5の大局量子化の量子化幅L3、L5の値の決定に
関する説明図である。
る、X3、X5の大局量子化の量子化幅L3、L5の値の決定に
関する説明図である。
【図４】第2 の発明である逆変換器の一実施形態を示す
回路図である。
回路図である。
【図５】(a) は、第3 の発明の大局信号・局所量子化値
算出回路31の一実施形態を示す回路図、(b) は、図５
(a) の局所量子化値候補算出回路47から50の一実施形態
を示す回路図である。
算出回路31の一実施形態を示す回路図、(b) は、図５
(a) の局所量子化値候補算出回路47から50の一実施形態
を示す回路図である。
【図６】量子化値(Xq3,Xq5) と大局信号候補点(p3 (0),p
5 (0)),(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3)) と
局所信号量子化値候補(sq3 (0),sq5 (0)),(sq3 (1),
sq5 (1)),(sq3 (2),sq5 (2)),(sq3 (3),sq5 (3)) の関係の一
例を示す図である。
5 (0)),(p3 (1),p5 (1)),(p3 (2),p5 (2)),(p3 (3),p5 (3)) と
局所信号量子化値候補(sq3 (0),sq5 (0)),(sq3 (1),
sq5 (1)),(sq3 (2),sq5 (2)),(sq3 (3),sq5 (3)) の関係の一
例を示す図である。
【図７】第4 の発明の大局信号・局所量子化値算出回路
31の一実施形態を示す回路図である。
31の一実施形態を示す回路図である。
【図８】(a) は、局所量子化値(sq3,sq5) の取り得る値
の一例を示す図、(b) は、局所量子化値(sq3,sq5) の取
り得る値が図８(a) であるときに、大局信号(p3 (i),p5
(i))(i=0,1,2,3)と局所量子化値(sq3 (i),sq5 (i)) の関
係を示す図、(c) は、図８(b) に対する第5 の数表を示
す図である。
の一例を示す図、(b) は、局所量子化値(sq3,sq5) の取
り得る値が図８(a) であるときに、大局信号(p3 (i),p5
(i))(i=0,1,2,3)と局所量子化値(sq3 (i),sq5 (i)) の関
係を示す図、(c) は、図８(b) に対する第5 の数表を示
す図である。
【図９】(a) は、大局信号候補点56,57,58,59 間の相対
関係を示すグラフを示す図、(b) は、大局信号候補点5
6,57,58,59 間の相対関係を示すグラフを示す図であ
る。
関係を示すグラフを示す図、(b) は、大局信号候補点5
6,57,58,59 間の相対関係を示すグラフを示す図であ
る。
【図１０】インデックス算出回路73において、量子化残
差(r3 (0),r5 (0)) とインデックスI の対応を示す図であ
る。
差(r3 (0),r5 (0)) とインデックスI の対応を示す図であ
る。
【図１１】図１０のそれぞれのインデックスに対して、
大局量子化値と、それに局所量子化値を加えて得られる
値の相対関係を示す図である。
大局量子化値と、それに局所量子化値を加えて得られる
値の相対関係を示す図である。
【図１２】(a) は、第5 の発明の大局信号候補(p3 (0),p
5 (0)) 算出回路の一実施形態を示す回路図、(b) は、第
5 の発明の大局信号候補(p3 (0),p5 (0)) 算出回路の一実
施形態を示す回路図、(c) は、第5 の発明の大局信号候
補(p3 (0),p5 (0)) 算出回路の一実施形態を示す回路図、
(d) は、第5 の発明の大局信号候補(p3 (0),p5 (0))算出
回路の一実施形態を示す回路図である。
5 (0)) 算出回路の一実施形態を示す回路図、(b) は、第
5 の発明の大局信号候補(p3 (0),p5 (0)) 算出回路の一実
施形態を示す回路図、(c) は、第5 の発明の大局信号候
補(p3 (0),p5 (0)) 算出回路の一実施形態を示す回路図、
(d) は、第5 の発明の大局信号候補(p3 (0),p5 (0))算出
回路の一実施形態を示す回路図である。
【図１３】a2,a6 の値を変化させたときの近似精度の変
化を表すグラフを示す図である。
化を表すグラフを示す図である。
【図１４】a1,a3,a5,a7 の値を変化させたときの近似精
度の変化を表すグラフを示す図である。
度の変化を表すグラフを示す図である。
【図１５】(a) は(a2,a6)=(12,5)のときの変換器167 の
一実施形態を示す回路図、(b) は(a2,a6)=(12,5)のとき
の変換器177 の一実施形態を示す回路図である。
一実施形態を示す回路図、(b) は(a2,a6)=(12,5)のとき
の変換器177 の一実施形態を示す回路図である。
【図１６】(a) は代表元(s3,s5) の存在領域の一例を示
す図、(b) は図１６(a) に示す代表元(s3,s5) の存在領
域に対して、割り当てる局所量子化値(sq3,sq5) の取り
得る範囲の一例を示す図である。
す図、(b) は図１６(a) に示す代表元(s3,s5) の存在領
域に対して、割り当てる局所量子化値(sq3,sq5) の取り
得る範囲の一例を示す図である。
【図１７】(a) は図１６(a) に示す代表元(s3,s5) の存
在領域に対して、割り当てる局所量子化値(sq3,sq5) の
存在する領域の形状の一例を示す図、(b) は図１６(a)
に示す代表元(s3,s5) の存在領域に対して、割り当てる
局所量子化値(sq3,sq5) の存在する領域の形状の一例を
示す図、(c) は図１６(a) に示す代表元(s3,s5) の存在
領域に対して、割り当てる局所量子化値(sq3,sq5) の存
在する領域の形状の一例を示す図である。
在領域に対して、割り当てる局所量子化値(sq3,sq5) の
存在する領域の形状の一例を示す図、(b) は図１６(a)
に示す代表元(s3,s5) の存在領域に対して、割り当てる
局所量子化値(sq3,sq5) の存在する領域の形状の一例を
示す図、(c) は図１６(a) に示す代表元(s3,s5) の存在
領域に対して、割り当てる局所量子化値(sq3,sq5) の存
在する領域の形状の一例を示す図である。
【図１８】(a) は代表元(s3,s5) の存在領域の他の例を
示す図、(b) は代表元(s3,s5) の存在領域の他の例を示
す図、(c) は代表元(s3,s5) の存在領域を図18の(a) ま
たは(b) としたときの、割り当てる局所量子化値(sq3,s
q5) の存在する領域の形状の一例を示す図である。
示す図、(b) は代表元(s3,s5) の存在領域の他の例を示
す図、(c) は代表元(s3,s5) の存在領域を図18の(a) ま
たは(b) としたときの、割り当てる局所量子化値(sq3,s
q5) の存在する領域の形状の一例を示す図である。
【図１９】(a) は、大局信号候補点56,57,58,59 間の相
対関係を示すグラフを示す図、(b) は、大局信号候補点
56,57,58,59 間の相対関係を示すグラフを示す図であ
る。
対関係を示すグラフを示す図、(b) は、大局信号候補点
56,57,58,59 間の相対関係を示すグラフを示す図であ
る。
【図２０】インデックス算出回路73において、量子化残
差(r3 (0),r5 (0)) とインデックスI の対応を示す図であ
る。
差(r3 (0),r5 (0)) とインデックスI の対応を示す図であ
る。
【図２１】図２０のそれぞれのインデックスに対して、
大局量子化値と、それに局所量子化値を加えて得られる
値の相対関係を示す図である。
大局量子化値と、それに局所量子化値を加えて得られる
値の相対関係を示す図である。
【図２２】8 元可逆離散コサイン変換の一実施形態を表
す回路図である。
す回路図である。
【図２３】8 元可逆離散コサイン逆変換の一実施形態を
表す回路図である。
表す回路図である。
【図２４】本来の8 元離散コサイン変換の一実施形態を
示す回路図である。
示す回路図である。
【図２５】本来の8 元離散コサイン逆変換の一実施形態
を示す回路図である。
を示す回路図である。
【図２６】図２２の変換器168 の従来方式による一実施
形態を示す回路図である。
形態を示す回路図である。
【図２７】図２３の変換器178 の従来方式による一実施
形態を示す回路図である。
形態を示す回路図である。
【図２８】(X1,X7) が定まったときの(X3,X5) の取り得
る値全体の構造の説明図である。
る値全体の構造の説明図である。
【図２９】X1、X7の量子化幅をともに2 とした場合の、
(Xq1,Xq7) が定まったときの(X3,X5) の取り得る値全体
の構造の説明図である。
(Xq1,Xq7) が定まったときの(X3,X5) の取り得る値全体
の構造の説明図である。
【図３０】(X3,X5) の大局量子化と局所量子化の説明図
である。
である。
1 変換器 2 第1 の数表 3 第2 の数表 4 線形量子化器 5 線形量子化器 6 線形量子化器 7 線形量子化器 14 加算器 15 加算器 16 加算器 17 加算器 18 第1 の数表 30 変換器 31 大局信号・局所量子化値算出回路 32 第3 の数表 33 第4 の数表 34 乗算器 35 乗算器 36 加算器 37 加算器 38 加算器 39 加算器 40 大局信号候補(p3 (0),p5 (0)) 算出回路 41 加算器 42 加算器 43 加算器 44 加算器 45 加算器 46 加算器 47 局所量子化値候補算出回路 48 局所量子化値候補算出回路 49 局所量子化値候補算出回路 50 局所量子化値候補算出回路 51 選択回路 52 線形量子化器 53 線形量子化器 54 加算器 55 加算器 56 大局信号候補点 57 大局信号候補点 58 大局信号候補点 59 大局信号候補点 60 量子化点 61 量子化点 62 量子化点 63 量子化点 64 量子化点 68 局所量子化値候補算出回路 70 大局信号候補(p3 (0),p5 (0)) 算出回路 71 線形量子化器 72 線形量子化器 73 インデックス算出回路 74 第5 の数表 75 加算器 76 加算器 77 加算器 78 加算器 100 乗算器 101 乗算器 102 変換器 103 小数部分切り捨て器 104 小数部分切り捨て器 105 変換器 106 小数部分切り上げ器 107 小数部分切り捨て器 108 小数部分切り捨て器 109 小数部分切り上げ器 110 小数部分切り上げ器 111 小数部分切り上げ器 131 変換器 132 線形量子化器 133 線形量子化器 134 乗算器 135 乗算器 136 変換器 137 四捨五入器 138 四捨五入器 160 変換器 161 変換器 162 変換器 163 変換器 164 変換器 165 変換器 166 変換器 167 変換器 168 変換器 170 変換器 171 変換器 172 変換器 173 変換器 174 変換器 175 変換器 176 変換器 177 変換器 178 変換器 180 変換器 181 変換器 182 変換器 183 変換器 184 変換器 185 変換器 186 変換器 187 変換器 188 変換器 190 変換器 191 変換器 192 変換器 193 変換器 194 変換器 195 変換器 196 変換器 197 変換器 198 変換器 201 第1 の数表 202 可逆量子化器 203 第2 の数表 204 乗算器 206 乗算器 207 乗算器 210 逆量子化器 211 第3 の数表 212 整数除算器 213 整数除算器 214 第4 の数表
フロントページの続き (56)参考文献 特開 平９−91271（ＪＰ，Ａ) テレビジョン学会誌 Ｖｏｌ．50，Ｎ ｏ．８（1996−８−20）ｐｐ．1162− 1171 1996年電子情報通信学会総合大会講演 論文集 情報・システム２（1996−３− 11）Ｄ−235，ｐ．23 1996年電子情報通信学会 情報・シス テムソサイエティ大会講演論文集（1996 −８−30）Ｄ−219，ｐ．221 (58)調査した分野(Int.Cl.7，ＤＢ名) G06F 17/14 H03M 7/30 H04N 1/41 H04N 7/30 ＪＩＣＳＴファイル（ＪＯＩＳ)
Claims (11)
- 【請求項１】 画像や音声などのサンプル化されたディ
ジタル信号を変換符号化する方式であり、符号化対象と
なる入力ディジタル信号、あるいはその入力ディジタル
信号に対して線形変換や量子化などを行って得られるデ
ィジタル信号から、整数４元ベクトル(u4,u5,u6,u7)を
構成し、前記整数４元ベクトル信号を４元変換ベクトル
信号(Xq1,Xq7,Xq3,Xq5)へ可逆変換する方式であって、 前記整数４元ベクトル信号(u4,u5,u6,u7)に対して４×
４整数行列 を乗じて線形変換し、４元変換係数信号(X1,X7,X3,X5)
を得る第１の４元線形変換器と、 前記４元変換係数信号の要素信号X1,X7 を自然数k1、k7
の幅でそれぞれ線形量子化して、前記４元変換ベクトル
信号の要素信号Xq1、Xq7からなる第１の２元変換ベクト
ル信号(Xq1,Xq7)と第１の量子化残差信号(r1,r7)を得る
線形量子化器と、前記４×４整数行列の要素a1、a3、a5、a7から、a1 2-a7
2 +2a3a5、a3 2-a5 2 +2a1a7、(a1 2-a7 2+2a3a5)2+(a3 2-a5
2+2a1a7)2で定まる定数値をそれぞれg、h、Dとし、前記
定数値g、h、Dと前記４元変換係数信号の要素信号X1、X
7、X3、X5を用いて算出される、gX1+hX7をDで割ったと
きの剰余を第１の剰余、gX7-hX1をDで割ったときの剰余
を第２の剰余、hX3+gX5をDで割ったときの剰余を第３の
剰余、hX5-gX3をDで割ったときの剰余を第４の剰余とす
るときに、前記第１の剰余と前記第２の剰余の少なくと
も一方、または前記第３の剰余と前記第４の剰余の少な
くとも一方に基づいて定まる第１の代表元インデックス
と、代表元信号(s3,s5)との対応関係を表す第１の信号
変換テーブルを有し、 前記４元変換係数信号の要素信号
X1、X7からなる第１の２元変換係数信号(X1,X7)、もし
くは前記４元変換係数信号の要素信号X3、X5からなる第
２の２元変換係数信号(X3,X5)のどちらか一方を用いて
前記第１の代表元インデックスを計算し、得られた値に
基づいて、対応する代表元信号(s3,s5)を前記第１の信
号変換テーブルから読み出すことにより、代表元信号(s
3,s5)を算出する第１の代表元信号算出器と、 前記第２の２元変換係数信号(X3,X5) から前記代表元信
号(s3,s5) を減じて大局信号(p3,p5)を求める大局信号
算出器と、 前記大局信号(p3,p5)を量子化し、大局量子化値(pq3,p
q5)を得る大局量子化値算出器と、前記自然数k1、k7、前記第1の２元変換ベクトル信号(X
q1,Xq7)、前記定数値g、h、Dを用いて算出される、gk1X
q1+hk7Xq7をDで割ったときの剰余を第５の剰余、 gk7X
q7-hk1Xq1をDで割ったときの剰余を第６の剰余とすると
きに、前記第５の剰余と前記第６の剰余の少なくとも一
方に基づいて定まる局所量子化テーブル選択インデック
スの各値に対し、前記第１の量子化残差信号(r1,r7)を
局所量子化値(sq3,sq5)へ変換する第２の信号変換テー
ブルを有し、前記第１の２元変換ベクトル信号(Xq1,
Xq7)から前記局所量子化テーブル選択インデックスを算
出し、得られた値に基づいて、 前記第１の量子化残差信
号(r1,r7)に対応する局所量子化値(sq3,sq5)を前記第２
の信号変換テーブルから読み出すことにより、前記局所
量子化値(sq3,sq5)を算出する局所量子化値算出器と、 前記大局量子化値(pq3,pq5)に、前記局所量子化値(sq3,
sq5)をそれぞれ加えて前記第２の２元変換ベクトル信号
(Xq3,Xq5)を得る第１の加算器とを備えた可逆変換方式
において、 前記大局量子化値算出器は、前記大局信号(p3,p5)の要
素信号p3、p5を実数L3、L5の幅でそれぞれ線形量子化
し、前記大局量子化値(pq3,pq5)を得ること を特徴とす
る可逆変換方式。 - 【請求項２】 請求項１に記載の４元変換ベクトル信号
(Xq1,Xq7,Xq3,Xq5)を請求項１に記載の整数４元ベクト
ル信号(u4,u5,u6,u7)へ逆変換する方式であって、 前記第２の２元変換ベクトル信号(Xq3,Xq5)から、請求
項１に記載の大局信号(p3,p5)と請求項１に記載の局所
量子化値(sq3,sq5) とを求める大局信号／局所量子化値
算出器と、請求項１に記載の自然数k1、k7、前記第１の２元変換ベ
クトル信号(Xq1,Xq7)、請求項１に記載の定数値g、h、D
を用いて算出される、請求項１に記載の局所量子化テー
ブル選択インデックスの各値に対し、前記局所量子化値
(sq3,sq5)を請求項１に記載の第１の量子化残差信号
(r1,r7)へ変換する第３の信号変換テーブルを有し、前
記第１の２元変換ベクトル信号(Xq1,Xq7)から前記局所
量子化テーブル選択インデックスを算出し、得られた値
に基づいて、 前記局所量子化値(sq3,sq5)に対応する第
１の量子化残差信号(r1,r7)を前記第３の信号変換テー
ブルから読み出すことにより、前記第１の量子化残差信
号(r1,r7)を算出する第１の量子化残差信号算出器と、 前記第１の２元変換ベクトル信号の要素信号Xq1、Xq7に
前記自然数k1、k7 をそれぞれ乗じ、得られた結果に前
記第１の量子化残差信号の要素信号r1、r7 をそれぞれ加
えて請求項１に記載の第１の２元変換係数信号(X1,X7)
を得る逆量子化器と、請求項１に記載の第１の剰余と請求項１に記載の第２の
剰余の少なくとも一方に基づいて定まる第２の代表元イ
ンデックスと、請求項１に記載の代表元信号(s3,s5)と
の対応関係を表す第４の信号変換テーブルを有し、 前記
第１の２元変換係数信号(X1,X7)から前記第２の代表元
インデックスを計算し、得られた値に基づいて、対応す
る代表元信号(s3,s5)を前記第４の信号変換テーブルか
ら読み出すことにより、前記代表元信号(s3,s5)を求め
る第２の代表元信号算出器と、 前記大局信号(p3,p5)に前記代表元信号(s3,s5)を加える
ことにより請求項１に記載の第２の２元変換係数信号(X
3,X5)を得る第２の加算器と、 前記４元変換係数信号(X1, X7, X3, X5)に対して、請求
項１に記載の４×４整数行列の逆行列を乗じる演算を行
い、前記整数４元ベクトル信号(u4,u5,u6,u7)を得る第
２の４元線形変換器とを備えた逆変換方式において、 前記大局信号／局所量子化値算出器が、前記定数値g、h
からなる第１の２×２整数行列 による２次元除算に基づき、前記大局信号(p3,p5)の候
補となる大局信号候補を、前記第２の２元変換ベクトル
信号(Xq3,Xq5)から算出し、前記大局信号候補の要素信
号を請求項１に記載の実数L3、L5の幅で線形量子化して
大局量子化値候補を算出し、前記第２の２元変換ベクト
ル信号(Xq3,Xq5)から前記大局量子化値候補を引いて局
所量子化値候補を算出し、前記局所量子化値候補に基づ
いて前記大局信号(p3,p5)と前記局所量子化値(sq3,sq5)
とを算出することを特徴とする逆変換方式。 - 【請求項３】 請求項２に記載の大局信号／局所量子化
値算出器が、請求項２に記載の第１の２×２整数 行列による２次元除
算に基づき、請求項２に記載の第２の２元変換ベクトル
信号(Xq3,Xq5) から大局信号候補(p3 (0),p5 (0)) を得る
大局信号候補算出手段と、大局差分信号(Δp3 (1),Δp5 (1))、(Δp3 (2),Δp5 (2))、
(Δp3 (3),Δp5 (3))を前記大局信号候補(p3 (0),p5 (0))に
加えることにより、大局信号候補(p3 (1),p5 (1))、(p3
(2),p5 (2))、(p3 (3),p5 (3))を算出する大局信号候補算
出手段と、 前記大局信号候補(p3 (0),p5 (0))の要素信号p3 (0)、p5
(0)を請求項１に記載の実数L3、L5の幅でそれぞれ線形
量子化して、大局量子化値候補(pq3 (0),pq5 (0))を求
め、これを前記第２の２元変換ベクトル信号(Xq3,Xq5)
から引いて局所量子化値候補(sq3 (0),sq5 (0))を求める
第１の局所量子化値候補算出手段と、 前記大局信号候補(p3 (1),p5 (1))の要素信号p3 (1)、p5
(1)を前記実数L3、L5の幅でそれぞれ線形量子化して、
大局量子化値候補(pq3 (1),pq5 (1))を求め、これを前記
第２の２元変換ベクトル信号(Xq3,Xq5) から引いて局所
量子化値候補(sq3 (1),sq5 (1))を求める第２の局所量子
化値候補算出手段と、 前記大局信号候補(p3 (2),p5 (2))の要素信号p3 (2)、p5
(2)を前記実数L3、L5の幅でそれぞれ線形量子化して、
大局量子化値候補(pq3 (2),pq5 (2))を求め、これを前記
第２の２元変換ベクトル信号(Xq3,Xq5) から引いて局所
量子化値候補(sq3 (2),sq5 (2))を求める第３の局所量子
化値候補算出手段と、 前記大局信号候補(p3 (3),p5 (3))の要素信号p3 (3)、p5
(3)を前記実数L3、L5の幅でそれぞれ線形量子化して、
大局量子化値候補(pq3 (3),pq5 (3))を求め、これを前記
第２の２元変換ベクトル信号(Xq3,Xq5) から引いて局所
量子化値候補(sq3 (3),sq5 (3))を求める第４の局所量子
化値候補算出手段と、 前記局所量子化値候補(sq3 (0),sq5 (0))、(sq3 (1),sq5
(1))、(sq3 (2),sq5 (2))、(sq3 (3),sq5 (3))の各値と、前
記局所量子化値(sq3,sq5)として可能な値とを比較する
ことにより、前記局所量子化値候補中から局所量子化値
になり得る値を選択して前記局所量子化値(sq3,sq5)と
し、それに対応する大局信号候補を前記大局信号(p3,
p5)とする局所量子化値選択手段とを有することを特徴
とする請求項２に記載の逆変換方式。 - 【請求項４】 請求項２に記載の大局信号／局所量子化
値算出器が、請求項２に記載の第１の２×２整数 行列による2 次元除
算に基づき、前記第２の２元変換ベクトル信号(Xq3,
Xq5)から大局信号候補(p3 (0),p5 (0))を得る大局信号候
補算出手段と、 前記大局信号候補(p3 (0),p5 (0))を請求項１に記載の実
数L3、L5の幅でそれぞれ線形量子化し、大局量子化値候
補(pq3 (0),pq5 (0))と第２の量子化残差信号(r3 (0),r5
(0))を得る手段と、 前記第２の２元変換ベクトル信号(Xq3,Xq5)から前記大
局量子化値候補(pq3 (0),pq5 (0))を引いて、局所量子化
値候補(sq3 (0),sq5 (0))を求める手段と、 前記第２の量子化残差信号の要素信号r3(0)とr5(0)を、
所定の閾値と比較することにより、テーブル選択インデ
ックスIを求めるインデックス算出手段と、前記テーブル選択インデックスIの各値に対し、前記局
所量子化値候補(sq3 (0),sq5 (0))と請求項１に記載の局
所量子化値(sq3,sq5)と大局差分信号(Δp3,Δp5)との関
係を記述した第５の信号変換テーブルを有し、 前記テー
ブル選択インデックスIを用いて、前記局所量子化値候
補(sq3 (0),sq5 (0))に対応する局所量子化値(sq3,sq5)と
大局差分信号(Δp3,Δp5)とを前記第５の信号変換テー
ブルから読み出すことにより、前記局所量子化値(sq3,s
q5)と前記大局差分信号(Δp3,Δp5)とを算出する局所量
子化値／大局差分信号算出手段と、 前記大局信号候補(p3 (0),p5 (0))に前記大局差分信号(Δ
p3,Δp5)を加算して、前記大局信号(p3,p5)を算出する
第３の加算手段とを有することを特徴とする請求項２に
記載の逆変換方式。 - 【請求項５】 請求項３または４に記載の大局信号候補
算出手段が、 前記第２の２元変換ベクトル信号の要素信号Xq3 、Xq5
に請求項１に記載の実数L3、L5をそれぞれ乗じて、量子
化代表値(Xq3L3,Xq5L5)を得る量子化代表値算出手段
と、 請求項２に記載の第１の２×２整数行列の逆行列によっ
て前記量子化代表値(Xq3L3,Xq5L5)を変換して、逆変換
点信号(w3,w5)を得る手段と、 前記逆変換点信号の要素信号w3、w5の小数点以下を切り
上げるか切り捨てるかすることで整数化し、逆変換点整
数化信号w3'、w5'を得る手段と、 前記逆変換点整数化信号w3'、w5'からなる２元ベクトル
信号(w3',w5')を、前記第１の２×２整数行列により変
換して、前記大局信号候補(p3 (0),p5 (0))を求める手段
とを有することを特徴とする請求項３または４に記載の
逆変換方式。 - 【請求項６】 画像や音声などのサンプル化されたディ
ジタル信号を変換符号化する方式であり，符号化対象と
なる入力ディジタル信号、あるいはその入力ディジタル
信号に対して線形変換や量子化などを行って得られるデ
ィジタル信号から、８元被変換ベクトル信号(ｘ0,ｘ1,
ｘ2,ｘ3,ｘ4,ｘ5,ｘ6,ｘ7 )を構成し、前記８元被変換ベ
クトル信号から８元変換ベクトル信号(Ｘｑ0,Ｘｑ1,Ｘ
ｑ2,Ｘｑ3,Ｘｑ4,Ｘｑ5,Ｘｑ6,Ｘｑ7 )へ変換する可逆変
換方式であって、前記８元被変換ベクトル信号の要素信号ｘ0とｘ7からな
る２元ベクトル信号(ｘ0,ｘ7)に、第２の２×２整数行
列 を乗じて線形変換し、得られた結果に可逆量子化を行っ
て第１の２元ベクトル信号(ｕ0,ｕ4)を出力する第１の
２元可逆変換器と、 前記８元被変換ベクトル信号の要素信号ｘ1とｘ6からな
る２元ベクトル信号(ｘ1,ｘ6)に、前記第２の２×２整
数行列を乗じて線形変換し、得られた結果に可逆量子化
を行って第２の２元ベクトル信号(ｕ2,ｕ6)を出力する
第２の２元可逆変換器と、 前記８元被変換ベクトル信号の要素信号ｘ3とｘ4からな
る２元ベクトル信号(ｘ3, ｘ4)に、前記第２の２×２整
数行列を乗じて線形変換し、得られた結果に可逆量子化
を行って第３の２元ベクトル信号(ｕ1,ｕ5)を出力する
第３の２元可逆変換器と、 前記８元被変換ベクトル信号の要素信号ｘ2とｘ5からな
る２元ベクトル信号(ｘ2,ｘ5)に、前記第２の２×２整
数行列を乗じて線形変換し、得られた結果に可逆量子化
を行って第４の２元ベクトル信号(ｕ3,ｕ7)を出力する
第４の２元可逆変換器と、 前記第１の２元ベクトル信号の要素信号ｕ0と第３の２
元ベクトル信号の要素信号ｕ1からなる２元ベクトル信
号(ｕ0,ｕ1)に、前記第２の２×２整数行列を乗じて線
形変換し、得られた結果に可逆量子化を行って第５の２
元ベクトル信号(ｖ0,ｖ1)を出力する第５の２元可逆変
換器と、 前記第２の２元ベクトル信号の要素信号ｕ2と前記第４
の２元ベクトル信号の要素信号ｕ3からなる２元ベクト
ル信号(ｕ2,ｕ3)に、前記第２の２×２整数行列を乗じ
て線形変換し、得られた結果に可逆量子化を行って第６
の２元ベクトル信号(ｖ2,ｖ3)を出力する第６の２元可
逆変換器と、 前記第５の２元ベクトル信号の要素信号ｖ0と前記第６
の２元ベクトル信号の要素信号ｖ2からなる２元ベクト
ル信号(ｖ0,ｖ2)に、前記第２の２×２整数行列を乗じ
て線形変換し、得られた結果に可逆量子化を行って前記
８元変換ベクトル信号の要素信号Ｘｑ0,Ｘｑ4からなる
第７の２元ベクトル信号(Ｘｑ0,Ｘｑ4)を出力する第７
の２元可逆変換器と、 前記第５の２元ベクトル信号の要素信号ｖ1と前記第６
の２元ベクトル信号の要素信号ｖ3からなる２元ベクト
ル信号(ｖ1,ｖ3)に、整数ａ2,ａ6からなる第３の２×２
整数行列 を乗じて線形変換し、得られた結果に可逆量子化を行っ
て前記８元変換ベクトル信号の要素信号Ｘｑ2,Ｘｑ6か
らなる第８の２元ベクトル信号(Ｘｑ2,Ｘｑ6)を出力す
る第８の２元可逆変換器と、 前記第１の２元ベクトル信号の要素信号ｕ4と前記第３
の２元ベクトル信号の要素信号ｕ5と前記第２の２元ベ
クトル信号の要素信号ｕ6と前記第４の２元ベクトル信
号の要素信号ｕ7からなる４元ベクトル信号(ｕ4,ｕ5,ｕ
6,ｕ7)に、整数ａ1, ａ3, ａ5, ａ7からなる請求項１に
記載の４×４整数行列を乗じて線形変換し、得られた結
果に可逆量子化を行って前記８元変換ベクトル信号の要
素信号Ｘｑ1,Ｘｑ7,Ｘｑ3,Ｘｑ5からなる第１の４元ベ
クトル信号(Ｘｑ1,Ｘｑ7,Ｘｑ3,Ｘｑ5)を出力する４元
可逆変換器とを備えた可逆変換方式において、 前記４元可逆変換器が請求項１に記載の可逆変換方式で
あること を特徴とする可逆変換方式。 - 【請求項７】 請求項６に記載の変換方式の逆変換方式
であり、請求項６に記載の８元変換ベクトル信号
(Ｘｑ0,Ｘｑ1,Ｘｑ2,Ｘｑ3,Ｘｑ4,Ｘｑ5,Ｘｑ6,Ｘｑ7)
から請求項６に記載の８元被変換ベクトル信号(ｘ0,
ｘ1,ｘ2,ｘ3,ｘ4,ｘ5,ｘ6,ｘ7)へ変換する方式であっ
て、 前記８元変換ベクトル信号の要素信号Ｘｑ1、Ｘｑ7、Ｘ
ｑ3、Ｘｑ5からなる４元ベクトル信号(Ｘｑ1,Ｘｑ7,Ｘ
ｑ3,Ｘｑ5)に、請求項１に記載の４×４整数行列に基づ
く逆量子化および逆変換を行って得られるベクトル信号
を第２の４元ベクトル信号(ｕ4,ｕ5,ｕ6,ｕ7)として出
力する４元逆変換器と、 前記８元変換ベクトル信号の要素信号Ｘｑ2、Ｘｑ6から
なる２元ベクトル信号(Ｘｑ2,Ｘｑ6)に、請求項６に記
載の第３の２×２整数行列に基づく逆量子化および逆変
換を行って得られるベクトル信号を第９の２元ベクトル
信号(ｖ1,ｖ3)として出力する第１の２元逆変換器と、 前記８元変換ベクトル信号の要素信号Ｘｑ0、Ｘｑ4から
なる２元ベクトル信号(Ｘｑ0,Ｘｑ4)に、請求項６に記
載の第２の２×２整数行列に基づく逆量子化および逆変
換を行って得られるベクトル信号を第１０の２元ベクト
ル信号(ｖ0,ｖ2)として出力する第２の２元逆変換器
と、 前記第１０の２元ベクトル信号の要素信号ｖ0と前記第
９の２元ベクトル信号の要素信号ｖ1からなる２元ベク
トル信号(ｖ0,ｖ1)に、前記第２の２×２整数行列に基
づく逆量子化および逆変換を行って得られるベクトル信
号を第１１の２元ベクトル信号(ｕ0,ｕ1)として出力す
る第３の２元逆変換器と、 前記第１０の２元ベクトル信号の要素信号ｖ2と前記第
９の２元ベクトル信号の要素信号ｖ3からなる２元ベク
トル信号(ｖ2,ｖ3)に、前記第２の２×２整数行列に基
づく逆量子化および逆変換を行って得られるベクトル信
号を第１２の２元ベクトル信号(ｕ2,ｕ3)として出力す
る第４の２元逆変換器と、 前記第１１の２元ベクトル信号の要素信号ｕ0と前記第
２の４元ベクトル信号の要素信号ｕ4からなる２元ベク
トル信号(ｕ0,ｕ4)に、前記第２の２×２整数行列に基
づく逆量子化および逆変換を行って得られるベクトル信
号を前記８元被変換ベクトル信号の要素信号ｘ0、ｘ7か
らなる２元ベクトル信号(ｘ0,ｘ7)として出力する第５
の２元逆変換器と、 前記第１２の２元ベクトル信号の要素信号ｕ2と前記第
２の４元ベクトル信号の要素信号ｕ6からなる２元ベク
トル信号(ｕ2,ｕ6)に、前記第２の２×２整数行列に基
づく逆量子化および逆変換を行って得られるベクトル信
号を、前記８元被変換ベクトル信号の要素信号ｘ1,ｘ6
からなる２元ベクトル信号(ｘ1,ｘ6)として出力する第
６の２元逆変換器と、 前記第１１の２元ベクトル信号の要素信号ｕ1と前記第
２の４元ベクトル信号の要素信号ｕ5からなる２元ベク
トル信号(ｕ1,ｕ5)に、前記第２の２×２整数行列に基
づく逆量子化および逆変換を行って得られるベクトル信
号を前記８元被変換ベクトル信号の要素信号ｘ3、ｘ4か
らなる２元ベクトル信号(ｘ3,ｘ4)として出力する第７
の２元逆変換器と、 前記第１２の２元ベクトル信号の要素信号ｕ3と前記第
２の４元ベクトル信号の要素信号ｕ7からなる２元ベク
トル信号(ｕ3,ｕ7)に、前記第２の２×２整数行列に基
づく逆量子化および逆変換を行って得られるベクトル信
号を前記８元被変換ベクトル信号の要素信号ｘ2、ｘ5か
らなる２元ベクトル信号(ｘ2,ｘ5)として出力する第８
の２元逆変換器とを備えた逆変換方式において、 前記４元逆変換器が、請求項２に記載の逆変換方式であ
ることを特徴とする逆変換方式。 - 【請求項８】 請求項６に記載の整数a1、a3、a5、a7を
それぞれ5、4、3、1とし、請求項６に記載の整数a2、a6
をそれぞれ12、5とする請求項６に記載の可逆変換方
式。 - 【請求項９】 請求項６に記載の整数a1、a3、a5、a7を
それぞれ5、4、3、1とし、請求項６に記載の整数a2、a6
をそれぞれ12、5とする請求項７に記載の逆変換方式。 - 【請求項１０】 請求項６に記載の第８の２元可逆変換
器において、 前記整数a2、a6をそれぞれ12、5とし、前記可逆量子化
を、幅13の線形量子化とする請求項６に記載の変換方
式。 - 【請求項１１】 請求項７に記載の逆変換方式におい
て、 請求項７に記載の第１の２元逆変換器のかわりに、請求項６に記載の８元変換ベクトル信号の要素信号Ｘ
ｑ2,Ｘｑ6からなる２元ベクトル信号 (Ｘｑ2,Ｘｑ6)をそ
れぞれ13倍し、得られるベクトルを、前記整数a2、a6を
それぞれ12、5として得られる前記第３の２×２整数行
列の逆行列で線形変換し、その結果の小数点以下を四捨
五入して前記第９の２元ベクトル信号(v1,v3)を得る２
元逆変換器を有することを特徴とする請求項７に記載の
逆変換方式。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP22218896A JP3099747B2 (ja) | 1996-08-23 | 1996-08-23 | 可逆変換を可能にするディジタル信号の変換符号化方式 |
| US08/917,085 US6167161A (en) | 1996-08-23 | 1997-08-25 | Lossless transform coding system having compatibility with lossy coding |
| US09/692,475 US6415060B1 (en) | 1996-08-23 | 2000-10-20 | Lossless transform coding system having compatibility with lossy coding |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP22218896A JP3099747B2 (ja) | 1996-08-23 | 1996-08-23 | 可逆変換を可能にするディジタル信号の変換符号化方式 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH1063644A JPH1063644A (ja) | 1998-03-06 |
| JP3099747B2 true JP3099747B2 (ja) | 2000-10-16 |
Family
ID=16778541
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP22218896A Expired - Fee Related JP3099747B2 (ja) | 1996-08-23 | 1996-08-23 | 可逆変換を可能にするディジタル信号の変換符号化方式 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3099747B2 (ja) |
-
1996
- 1996-08-23 JP JP22218896A patent/JP3099747B2/ja not_active Expired - Fee Related
Non-Patent Citations (3)
| Title |
|---|
| １９９６年電子情報通信学会 情報・システムソサイエティ大会講演論文集（１９９６−８−３０）Ｄ−２１９，ｐ．２２１ |
| １９９６年電子情報通信学会総合大会講演論文集 情報・システム２（１９９６−３−１１）Ｄ−２３５，ｐ．２３ |
| テレビジョン学会誌 Ｖｏｌ．５０，Ｎｏ．８（１９９６−８−２０）ｐｐ．１１６２−１１７１ |
Also Published As
| Publication number | Publication date |
|---|---|
| JPH1063644A (ja) | 1998-03-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2914226B2 (ja) | 可逆変換を可能にするディジタル信号の変換符号化方式 | |
| Farrelle | Recursive block coding for image data compression | |
| JP3320389B2 (ja) | データ処理方法、システム、装置及びプログラム記憶装置 | |
| JP3830009B2 (ja) | データ処理システム及び色変換方法 | |
| US6236762B1 (en) | System and method for unified DCT and wavelet data coding | |
| EP0207774A2 (en) | Block encoder | |
| JPH05282435A (ja) | デジタルカラー画像の量子化方法及び装置 | |
| US6788811B1 (en) | Coding apparatus, decoding apparatus, coding method, decoding method, amd computer-readable recording medium for executing the methods | |
| US5210623A (en) | Apparatus and method for quantizing and/or reconstructing multi-dimensional digital image signals | |
| JP3274593B2 (ja) | 可逆変換可能な変換装置及び逆変換装置 | |
| Bala et al. | Efficient color transformation implementation | |
| US7580166B2 (en) | Converting image data in an input color space to an output color space in a transform domain | |
| JPH0262993B2 (ja) | ||
| JP2806945B2 (ja) | デジタル信号の分解能を改善する方法および回路装置 | |
| JPH06217144A (ja) | 画像の量子化ディジタル表現から信号レベルの解像度を増すための方法及び装置 | |
| JP3099747B2 (ja) | 可逆変換を可能にするディジタル信号の変換符号化方式 | |
| JP3171081B2 (ja) | 画像処理装置 | |
| JP2798168B2 (ja) | 画像符号化装置 | |
| JPH1075450A (ja) | 画像圧縮装置 | |
| JP3624655B2 (ja) | 画像符号化装置および画像復号装置 | |
| JP3337697B2 (ja) | 画像処理方法 | |
| JP4806464B2 (ja) | 画像圧縮装置、画像圧縮方法、画像復元装置、及びプログラム | |
| JPH02237270A (ja) | 符号化装置 | |
| JP2500583B2 (ja) | 画像信号の量子化特性制御方法及び画像信号圧縮符号化装置 | |
| JP3845208B2 (ja) | 画像圧縮装置および画像伸張装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20000718 |
|
| LAPS | Cancellation because of no payment of annual fees |