JP4234018B2 - デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体 - Google Patents

デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体 Download PDF

Info

Publication number
JP4234018B2
JP4234018B2 JP2004002029A JP2004002029A JP4234018B2 JP 4234018 B2 JP4234018 B2 JP 4234018B2 JP 2004002029 A JP2004002029 A JP 2004002029A JP 2004002029 A JP2004002029 A JP 2004002029A JP 4234018 B2 JP4234018 B2 JP 4234018B2
Authority
JP
Japan
Prior art keywords
value
original signal
signal
digital video
difference value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004002029A
Other languages
English (en)
Other versions
JP2005198014A (ja
Inventor
誠之 高村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004002029A priority Critical patent/JP4234018B2/ja
Publication of JP2005198014A publication Critical patent/JP2005198014A/ja
Application granted granted Critical
Publication of JP4234018B2 publication Critical patent/JP4234018B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は映像・音声の高能率可逆符号化に関する。
従来の画像・音声の可逆符号化、あるいは内挿予測を用いた符号化においては、以下のような方法があった。
[外挿予測]
画像の符号化を例にとると、ISO/IEC l0918(JPEG)ロスレスモード,ISO/IEC 14495(JPEG−LS),CALIC(非特許文献1参照)等の方式は、図1のような画素の並びにおいて、着目画素(x)の周囲で、復号側でも使うことができる「因果的画素(o)」を用いて、外挿予測を行い、予測値と原信号との差分を可変長符号や算術符号によりエントロピ符号化する、という方式を用いている。現状では、この方式が圧縮率の観点から最も効率が高い。
[因果的内挿予測]
また、「因果的内挿予測」とも呼ぶべき方法として、図2のように画像をたとえば2画素に1画素の割合で縦横に間引き、符号化第一段階で疎な画素(o)のみからなる縮小画像を上述のように外挿予測符号化し、符号化第二段階で残る画素(・)を、やはり復号側でも使うことができる因果的画素により内挿予測し、同様に予測差分を符号化する、という方法も多く提案されている(例えば非特許文献2参照)。
例えば図3で着目画素(x)を符号化する際、図2で(・)で示された画素のうち復号済みの(xに対し因果的な)画素(#)および第一段階で符号化済みの画素(o)の、全部または一部を用いてxを予測する((・)は復号済みでないので予測には用いない)。ただし、最初に疎な信号(o)だけを符号化する際、画素間の距離が離れたもの同士(相関が弱いもの同士)で外挿予測を行うため、符号化効率はそれほど高くはならない。
[内挿予測(非可逆符号化)]
ここまでで述べた方法は、復号側でも既に復号済みの「因果的画素」を用いて予測を行う方法であり、図4に示す着目画素(x)を予測するのに、既に復号済みでない周囲の「非因果的」画素(o)を用いてはいなかった。ここで示したような非因果的画素をも予測に用いる方法を本発明では「内挿予測」方式と呼ぶ。非可逆符号化ではこの予測を用いた方式が従来提案がなされていた(例えば非特許文献3参照)が、付加情報が多くなり、ISO/IECl0918(JPEG)やISO/IEC 15444(JPEG2000)などの非可逆符号化標準に比べ性能は劣る。
X. Wu and N. Memon, "Context-based adaptive lossless image codec", IEEE Transactions on Communication, Vol. 45, pp. 437-444, April 1997 岩橋他,「一般化内挿外挿予測符号化方式」,信学ソ大,A-112,p.113,Sep. 1996 町澤,田中,「領域分割による内挿DPCMに基づく画像データ圧縮法」,電子情報通信学会論文誌 vol. J69-D, no. 3, pp. 375-382, Mar. 1986
非因果的信号を用いた内挿予測方式は、「従来の技術」で挙げた外挿予測や因果的内挿予測に比べ、着目画素に密接した画素をより多く用いて予測が行えるため、予測効率が高い(予測差分信号のエントロピが低い)という好ましい性質をもつ。外挿予測、内挿予測それぞれの模式図を図5と図6に示す。
予測差分の整数化(量子化)が符号化には不可欠であるが、その量子化に起因する誤差が復号信号において大きく拡大してしまうという好ましくない性質があるので、内挿予測は可逆符号化には従来応用はなされていなかった。
本発明は、内挿予測を用いながらも可逆で効率の高いデジタル映像音声信号の符号化復号化方法及び装置を実現することを目的とする。
本発明は、一般に、まったく同じ量子化差分信号値を与える信号値は複数存在し得るので、扱う信号がデジタル離散信号であることを利用して、内挿予測により予測し量子化伝送された差分信号値から逆に、原信号値のとる可能性のある「候補信号」を洩れなく推定・列挙し、列挙された候補信号中、原信号が何番目にあたるかを伝送すれば、同じ列挙手順を有する復号側で原信号を正しく復号することが可能になるという着想に基づくものである。
請求項1の発明は、上記の着想に基づいて、ディジタル画像・音声信号を、既に復号済みでない、着目信号周囲の「非因果的信号」を用いて信号値の線形内挿予測を行い原信号と同一の信号を再現しうる符号を生成する、デジタル映像音声信号可逆符号化方法であって、線形内挿により信号の内挿予測値を求め、原信号の信号値から該内挿予測値を減じ差分値を求め、量子化ステップ幅を入力し、該差分値を該量子化ステップ幅で量子化して量子化差分値を求め、量子化差分値を符号化し、量子化差分値から原信号値が取りうる全ての原信号値候補を総探索し、得られる毎に通番Nを1ずつ加算し、原信号と一致するケースが出現した際の通番Nを符号化することを特徴とし、
請求項5の発明は、請求項1に記載のディジタル映像音声信号可逆符号化方法に対応する復号方法であって、量子化差分値を復号し、量子化ステップ幅を入力し、原信号と一致するケースが出現した際の通番を表す原信号出現番号を復号し、該量子化差分値から、原信号値が取りうる全ての候補信号を総探索し、得られる毎に通番N’を1ずつ加算し、その通番N’が原信号出現番号Nに等しくなった場合、その候補信号を復号画像として出力し処理を終了することを特徴とする。
請求項2の発明は、請求項1記載のデジタル映像音声信号可逆符号化方法において、伝送される量子化差分値の持つ誤差の上下界を量子化ステップ幅から求め、差分値上下界を求め、差分値上下界それぞれを逆線形内挿予測変換し原信号値の上下界f,fを求め、該上下界により総探索における探索範囲を限定することを特徴とし、
請求項6の発明は、請求項2に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5に記載の復号方法において、請求項2に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5に記載の復号方法であって、量子化差分値の持つ誤差の上下界を量子化ステップ幅から求め、差分値上下界を求め、差分値上下界それぞれを逆線形内挿予測変換し原信号値の上下界を求め、該上下界により総探索における探索範囲を限定することを特徴とする。
請求項3の発明は、請求項1または2に記載のデジタル映像音声信号可逆符号化方法において、伝送される量子化差分値に一律に数値Uを加えた修正差分値を求め、該修正差分値を逆線形内挿予測変換し推定原信号値を求め、該推定原信号値が全ての位置で原信号値以上となるような、定められた精度内で最小の数値U(差分値誤差上限値)を求め、数値Uと同様に該推定原信号値が全ての位置で原信号値以下となるような、定められた精度内で最大の数値L(差分値誤差下限値)を求め、数値L,Uを符号化し、数値L,Uに対応する原信号値の上下界f,fを求め、該上下界により総探索における探索範囲を限定することを特徴とし、
請求項7の発明は、請求項3に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5または6に記載の復号方法であって、差分値誤差上下限値L,Uを復号し、L,Uに対応する原信号の上下界を求め、該上下界により総探索における探索範囲を限定することを特徴とする。
請求項4の発明は、請求項1、2または3に記載のデジタル映像音声信号可逆符号化方法において、原信号の平均値を求め、伝送される量子化差分値に一律に数値Mを加えた修正差分値を求め、該修正差分値を逆線形内挿予測変換し、推定原信号値を求め、該推定原信号値の平均値が原信号値の平均値と一致するような数値M(差分値誤差平均値)を求め、数値Mを符号化し、総探索により得られた原信号値候補の平均値を求め、これと原信号平均値を比較し、等しい場合のみ通番を加算することを特徴とし、
請求項8の発明は、請求項4に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5または6または7に記載の復号方法であって、差分値誤差平均値Mを復号し、Mに対応する原信号の平均値を求め、該平均値を用いて、総探索における列挙候補を絞り込むことを特徴とする。
請求項9〜12の発明は請求項1〜4の何れかに記載のデジタル映像音声信号可逆符号化方法を実施する符号化装置であって、請求項1〜4の何れかに記載の各ステップを実行する手段を備えることを特徴とする。
請求項13〜16の発明は、請求項5〜8に記載のデジタル映像音声信号可逆復号方法を実施する復号装置であって、請求項5〜8に記載の各ステップを実行する手段を備えることを特徴とする。
請求項17の発明は、請求項1〜4の何れかに記載のデジタル映像音声信号可逆符号化方法における符号化処理手順をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記憶媒体であり、
請求項18の発明は、請求項5〜8の何れかに記載のデジタル映像音声信号可逆復号方法における復号処理手順をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記憶媒体である。
本発明によれば、外挿予測や因果的内挿予測よりも予測効率の高い内挿予測を用いたデジタル音声・画像信号の可逆符号化ができる。
[請求項1及び5の発明]
請求項1及び5に記載のデジタル映像音声信号可逆符号化復号方法について、4bitのデジタル1次元信号の例をとって説明する。信号値は0から15までの整数値をとる。
3つのデジタル信号が
(10,15,12)
のように並んでいる場合の符号化を考える。端(10の左、12の右)は特に与えられていない場合、固定値が入っているとする。ここでは0とする。つまり
((0),10,15,12,(0))
のようになっているとみなす。内挿予測は、着目信号の両隣の信号の平均をとることにする。つまり内挿予測係数は1/2である。従って内挿予測値は
((0+15)/2,(12+15)/2,(15+0)/2)
つまり
(7.5,11,7.5)
となる。これらを原信号値から除いた値が差分値であり、
(2.5,4,4.5)
となる。これらを幅1で量子化(四捨五入)し、
(3,4,5)
という量子化差分値を得る。これらの信号を算術符号やハフマン符号などでエントロピ符号化し、伝送する。
復号側を考えると、
(3,4,5)
という量子化差分値がわかっており、
((0),a,b,c,(0))
のように不明値a,b,cが存在している。
内挿予測の手順を考えると、aの位置では
Round(a−(0+b)/2)=3 (1)
と書ける。ここでRound()は小数点以下を四捨五入し整数とする関数、つまり量子化ステップ幅1での量子化を行う関数である。引数がスカラーでなくベクトルであれば、ベクトルの各要素を四捨五入することとする。すなわち
Round(x)=[x+0.5] (2)
である。式1を変形し以下を得る。
a=Round((0+b)/2)+3 (3)
ここで内挿予測係数が1/2のためxは整数か半整数であり、
Round(x)=bのときx=bまたはx=b−0.5 (4)
が成り立つ。したがって
a=(0+b)/2+3またはa=(0+b)/2−0.5+3 (5)
となる。つまり、
b=2(a−3)またはb=2(a−3)+1 (6)
となる。
同様に、
Round(b−(a+c)/2)=4 (7)
から
c=2(b−4)−aまたはc=2(b−4)−a+1 (8)
となり、
c−Round((b+0)/2)=5 (9)
から
2(c−5)=bまたは2(c−5)=b−1 (10)
となる。
したがって、a,b,cを求めるためには、式6、式8、式10を踏まえ、以下のような手順を実行すればよいことになる。

1 N=0
2 for(a=0 to 15 step 1)/*4bit整数の範囲内*/
3 for(b=2(a-3) to 2(a-3)+1 step 1)
4 if(bが4 bit整数の範囲内)
5 then
6 for(c=2(b-4)-a to 2(b-4)-a+1 step 1)
7 if(cが4 bit整数の範囲内かつ(2(c-5)==bまたは2(c-5)==b-1))
8 then
9 if(a,b,cが原信号に一致)then Nを出力し終了 fi
10 N=N+1
11 fi
12 end
13 fi
14 end
15 end
上記手順を実行すると、
(10,15,12),(11,16,13)
の2候補がこの順に出力される。いずれも量子化差分値(3,4,5)を満たしている。この場合1番目(10,15,12)が原信号であるので、通番「N=0」が符号化結果として出力される。
このNと量子化差分値を伝送すれば、以下のように同様の手続きを復号側で行うことにより原信号が誤りなく復号できる。

1 N'=0
2 符号化ストリームからNを取得
3 for(a=0 to 15 step 1)/*4bit整数の範囲内*/
4 for(b=2(a-3) to 2(a-3)+1 step 1)
5 if(bが4 bit整数の範囲内)
6 then
7 for(c=2(b-4)-a to 2(b-4)-a+1 step 1)
8 if(cが4 bit整数の範囲内かつ(2(c-5)==bまたは2(c-5)==b-1))
9 then
10 if(N==N') then a,b,cを出力し終了 fi
11 N=N'+1
12 fi
13 end
14 fi
15 end
16 end
また、ここでは信号長を3としたので深さ3の入れ子ループで実装したが、一般の長さ(W)の信号の符号化を行う場合は、量子化予測差分をdif[1..W]に保存しておき、原信号候補用のメモリbuf[0‥W+1]を用意する。そして、次の手順のような再帰呼び出しを行えばよい。これはいわゆる「バックトラック探索」と呼ばれる、一般的なしらみつぶし探索技法の一つである。

1 proc Seek(x)
2 if(x==1)/*左端*/
3 for(ν=Min to Max step 1)
4 buf[x]=ν
5 call Seek (x+1)
6 end
7 elseif (x < W)
8 for(ν=Min to Max step 1)
9 if(Round((buf[x-2]+ν)/2)-buf[x-1]==dif[x-1])
10 then
11 buf[x]=ν
12 call Seek (x+1)
13 fi
14 end
15 else/*x=W 右端*/
16 bufW=Round((buf[W-1]+buf[W+1])/2)+dif[W]
17 if(buf[W-1]==Round((buf[W-2]+bufW)/2)+dif[W-1])
18 then/*候補発見*/
19 if(buf[1..W]が原信号に一致)then Nを出力し終了 fi
20 N=N+1
21 if
22 end
23 endproc
25 proc Main
26 N=0
27 Min=0,Max=15/*4 bit 信号の上下限*/
28 dif[1..W]のセットアップ
29 buf[0]=buf[W+1]=0/*信号の外の値を0としておく*/
30 call Seek(1)
31 endproc
[請求項2及び6の発明]
請求項2及び6の発明は、請求項1及び5に記載のデジタル映像音声信号可逆符号化復号方法について、付加情報なしで高速に符号化復号化処理を行うようにするためにステップサイズに基づいて捜索範囲の絞り込みを行うものであり、1次元信号を例にとって説明する。
原信号
(a,b,c) (11)
を内挿予測差分へ変換すると、量子化誤差を考えない場合、

(a−(b+0)/2,b−(a+c)/2,c−(b+0)/2) (12)
のようになる。
式11から式12への変化を行列とベクトルを用いて表現すると、原信号ベクトルfを
f=(a,b,c) (13)
とし(・は行列・ベクトルの転置を表す)、これを線形内挿予測変換行列A
Figure 0004234018

が内挿予測差分値ベクトルクp
p=(x,y,z) (15)
に写像する、つまり
Af=p (16)
と書ける。
量子化差分値ベクトルqは
q=Round(p) (17)
=(Roumd(x),Round(y),Round(z)) (18)
=p+(d,d,d) (19)
と書ける。ここでd,d,dは式2よりそれぞれ0か0.5の値をとる変数である。
ここで、量子化差分値ベクトルqの各要素に一律に値wを加えた
q(w)=(Round(x)+w,Round(y)+w,Round(z)+w (20)
なるベクトルq(w)を定義する。これは3要素での例であるが、要素数が異なっても同様に各要素に値wを加えたベクトルを表すものとする。
式16より、
f=A-1p (21)
=A-1(q−(d,d,d)) (22)
とし、Aのような形の行列の逆行列A-1の要素は非零であることがわかっているので、wの増減とA-1q(w)の各要素の増減は一致する。したがってfの各要素は、位置毎に
-1q(−0.5)の要素以上、A-1q(0)の要素以下 (23)
である。
これらをAの逆行列
Figure 0004234018

を用いて実際に計算すると、先ほどの例ではq=(3,4,5)であったので、
-1q(−0.5)=A-1(2.5, 3.5, 4.5)=(9.5, 14, 11.5) (25)

-1q(0)=A-1(3,4,5)=(11,16,13) (26)
の間で探索すればよい。
さらに、下限として出た9.5や11.5のような値はデジタル信号はとりえないので、それぞれ整数に切り上げた10や12としてよい。つまり
(10,14,12)
を下限値としてよい。同様に、仮に上限に非整数が出た場合は、切捨てた値とすればよい。
また上下限は4bitデジタル信号の範囲(0‥15)内でクリッピングしてよい。この例では上限として出た値の一つ16が該当するので、これを15にクリッピングした
(11,15,13)
を上限とすればよい。
これを反映した先程の探索手続きは以下のようになる。

1 for(a=10 to 11 step 1)
2 for(b=2(a-3) to 2(a-3)+1 step 1)
3 if(bが4 bit整数の範囲内かつ14≦b≦15)
4 then
5 for(c=2(b-4)-a to 2(b-4)-a+1 step 1)
6 if(cが4 bit整数の範囲内かつ12≦c≦13
7 かつ(2(c-5)==bまたは(2(c-5)==b-1))
8 then
9 a,b,cを出力
10 fi
11 end
12 fi
13 end
14 end
このように探索すべき範囲を大きく減らし、計算時間を短縮することができる。本絞り込み処理のために必要な情報は量子化ステップ幅のみであり、ここで行っているように1で固定であれば伝送不要である。
[1次元より高い次元について]
1次元より次元が高い信号についても同様に探索処理ができることを説明する。例えば3×3の画像の2次元信号において、着目画素の上下左右に隣接する画素の平均値を予測値とする、線形内挿予測における場合を説明する。図7のような画像において、eの予測値を0.25(b+d+f+h)とする。量子化を考えない場合の予測差分値はe−0.25(b+d+f+h)となる。
図7の2次元信号を走査線順に並べ、
(a,b,c,d,e,f,g,h,i)
のように1次元化すると、線形内挿予測変換行列Aは
Figure 0004234018

のようになる。後の上下限値の決定及び探索処理は1次元の例で述べたものとまったく同様である。
[行列方程式の解法について]
なお、ここで出てくる行列AとA-1はともに、行数・列数がともに総信号数と等しい(要素数が総信号数の二乗に等しい)正方行列である。符号化する対象が2次元、3次元信号の場合も同様である。1次元の例では信号のサイズが3と小さいので直接A-1を求めて例を示したが、数百、数千といった大きなサイズであったり、2次元、3次元信号の場合、行列Aは巨大なものになり、直接A-1を求めるのは非現実的となる。しかしながら、ヤコピ法やSOR法などの逐次的数値解法を用いれば、総信号数と同オーダーのメモリ量で、かつ高速にAf=pからf=A-1pを求めることができる。
[内挿予測に用いる係数について]
上記の説明では簡単のため、1次元の場合は両隣の信号の平均(係数はそれぞれ0.5)、2次元の場合は上下左右に隣接する信号の平均(係数はそれぞれ0.25)としていた。
しかしながら本発明においては係数はこれには限らず、例えば最小二乗法により予測係数を求めたり、信号の端など、領域毎に予測係数を適応的に変えたりしてもよい。
例えば図7の2次元画像信号において、
・角の点a,c,g,iは予測せず、そのまま伝送する;
・端の点bはa,c,eの3信号の平均として予測(d,f,hも同様に3信号から予測);
のようにした場合、線形内挿予測変換行列Aは
Figure 0004234018

なる。
また、同じ画像で
・角の点a,c,g,iは予測せず、そのまま伝送する;
・端の点bは両隣a,cの平均として1次元予測(d,f,hも同様に1次元予測);
という予測方針であれば、線形内挿予測変換行列Aは
Figure 0004234018

のようになる。
このように、予測が線形であれば行列表現ができるので、前述の行列を用いた議論がそのままあてはまる。したがって、本発明により以下のような符号化の例がいずれも可能となる:
・1次元デジタル信号を符号化する際、信号の始点の前、終点の後には信号値0があるとして、全ての信号を等価に内挿予測し符号化する(最初に説明したもの);
・1次元デジタル信号を符号化する際、信号の始点と終点を内挿予測せず直接伝送する;
・2次元デジタル信号を符号化する際、全信号を任意の1次元内挿予測符号化する;
・2次元デジタル信号を符号化する際、4辺の信号すべてを任意の1次元内挿予測符号化し、内部の信号は上下左右斜めの隣接8画素の平均として2次元内挿予測符号化する;
・2次元デジタル信号を符号化する際、上辺の信号のみ下左右の3点の平均として2次元内挿予測符号化し、残る3辺の信号は任意の1次元内挿予測符号化し、内部の信号は上下左右4点の平均として2次元内挿予測符号化する;
・3次元デジタル信号を符号化する際、全8面の信号を任意の2次元内挿予測符号化し、内部の信号は上下左右前後6点の平均として3次元内挿予測符号化する;
・3次元デジタル信号を符号化する際、全12辺を1次元内挿予測符号化し、全8面の信号を、外部を含まない5方向3次元次元内挿予測符号化し、内部の信号は上下左右前後斜め26点の平均として3次元内挿予測符号化する;
[請求項3及び7の発明]
この発明は、請求項2及び6の符号化復号方法において、若干の付加情報を伝送することで符号化復号処理を高速化し、かつ符号化効率改善も実現するための、捜索範囲の絞り込みを行うものであり、1次元信号を例にとって説明する。
「f=A-1q(U)が全ての位置で原信号値f以上となるような、定められた精度内で最小の数値である、差分値誤差上限値U」を求める。ここでq(・)は式20のものである。
以後、一般的な行列の形式で説明する。
この差分値誤差上限値Uを求める手順は次の通りである。
式23から−0.5≦U≦0であることがわかっているので、

1 U=0, lo=-0.5
2 repeat(最大回数まで)
3 mid=(U+lo)/2
4 x=A-1q(mid)を計算。
5 xの要素を4bit整数の範囲ですべて整数に切り捨てる
6 if(要素ごとの比較でxがfを一つでも下回っている)
7 then
8 lo=mid
9 0を出力
10 else
11 if(xが前回から変化がない) then終了fi
12 U=mid
13 1を出力
14 if(xが原信号に一致) then終了fi
15 fi
16 endrep

ここで用いた「最大回数」が上記の「定められた精度」に相当する。
これを先の例で実行すると、符号「1」が出力され、U=−0.25、対応する上限は(10,15,12)となる。
Uは、上記の手順により得られた符号から、以下の手順により復号できる。すなわち、

1 U=0, lo=-0.5
2 repeat(最大回数まで)
3 mid=(U+lo)/2
4 1 ビット取り出す
5 if(取り出すビットがない)then終了
6 elseif(ビットが0))then lo=mid
7 elseif(ビットが1))then U=mid
8 fi
9 endrep

とする。
同様に、差分値誤差下限値Lを求める手順は以下のようになる。Uが既に求まっているので、Lの上限値hiはUで初期化してよい。

1 hi=U, L=-0.5
2 repeat(最大回数まで)
3 mid=(hi+L)/2
4 x=A−1q(mid)を計算
5 xの要素を4bit整数の範囲ですべて整数に切り上げる
6 if(要素ごとの比較でxがfを一つでも上回っている)
7 then
8 hi=mid
9 0を出力
10 else
11 if(xが前回から変化がない)then終了fi
12 L=mid
13 1を出力
14 if(xが原信号に一致)then終了fi
15 fi
16 endrep
Lは、上記の手順により得られた符号から復号することができる。すなわち、

1 hi=U, L=-0.5
2 repeat
3 mid=(hi+L)/2
4 1ビットを取り出す
5 if(取り出すビットがない)then終了
6 elseif(ビットが0))then hi=mid
7 elseif(ビットが1))then L=mid
8 fi
9 endrep

とする。
これも先の例で実行すると、符号「1」が出力され、L=−0.375、対応する下限は(10,15,12)となる。
尚、この発明では、請求項4および8の発明により、q(M)の平均値が原信号のそれと一致するような値M(差分値誤差平均値)がU,Lよりも前に符号化伝送されている場合には、L≦M≦Uが成り立つことから、Uの符号化復号手順ステップ1において
U=0,lo=−0.5
Lの符号化復号手順ステップ1において
hi=U,L=−0.5
と初期化していたところをそれぞれ
U=0,lo=−M
hi=M,L=−0.5
と修正する。これにより、UとLの存在範囲が予め狭まるため、それぞれの記述に要するビット数が少なくなる可能性がある(少なくとも超えない)、という効果を生む。
[請求項4および8の発明]
この発明は請求項3および7の発明と同様の絞り込みを強化したもので、符号化効率改善を狙うものであり、この発明に係るデジタル映像音声信号可逆符号化復号方法について、前述のq(x)を用いて説明する。
−1q(M)の要素平均値が原信号値f=(10,15,12)の要素平均値(12.333)と一致するような、定められた精度内で最小の数値M(差分値誤差平均値)を求める。なお、A−1q(M)の各要素は必ずしも整数でないので、平均を求める際には何らかの整数化を行う。ここでは四捨五入とした。
差分値誤差平均値Mを求める手順は次の通りである。

1 hi=0, M=-0.5
2 repeat(最大回数まで)
3 mid=(hi+M)/2
4 x=A-1q(mid)を計算
5 xの要素を4bit整数の範囲ですべて四捨五入する
6 if(xの要素平均値が原信号値のそれより大きい)
7 then
8 hi=mid
9 0を出力
10 elseif(xの要素平均値が原信号値のそれより小さい)
11 then
12 M=mid
13 1を出力
14 elseif(xの要素平均値が原信号値のそれと一致)
15 then
16 M=mid
17 1を出力
18 終了
19 if
20 endrep
Mの復号手順は以下のようになる。

1 hi=0, M=-0.5
2 repeat
3 mid=(hi+M)/2
4 1ビット取り出す
5 if(取り出すビットがない)then終了
6 elseif(ビットが0))then hi=mid
7 elseif(ビットが1))then M=mid
8 fi
9 endrep
尚、この発明では、請求項3および10の発明によりMよりも前にU,Lが符号化伝送されている場合、L≦M≦Uが成り立っことから、上記手順中、hi=0,M=−0.5と初期化していたところをhi=U,M=Lと変更する。このようにするとMの存在範囲が予め狭まるため、Mの記述に要するビット数を少なくできる可能性がある(少なくとも超えない)、という効果を生む。
またMを用い、原信号候補として原信号と平均値が同じものだけを絞り込むので、Mの記述に要するビット数も少なくできる可能性がある。
本発明の請求項3乃至4の符号化方式の好適実施例について図8を参照して説明する。
ステップ101にて原信号ベクトルfを入力する。信号サイズが過度に大きい場合は、信号を幾つかの小ブロックに分割し個別に符号化処理を行うこととしてもよい。
次いで、線形内挿予測変換ステップ102で内挿予測値ベクトルpに変換される。次いでステップ103でq=Round(f−p)と、差分・量子化を施し量子化差分値ベクトルqを得る。このqは、符号化ステップ104にて、算術符号あるいは可変長符号により、エントロピ符号化され、出力される。
ステップ105および108では、「請求項3および7の発明」で述べたようにq(x)を繰り返し評価し、差分値誤差信号上限値U、下限値Lを求め、それぞれステップ106,109にて符号を出力する。
ステップ107,110では、U,Lに対応する原信号の上下界f,fを求めておく。
ステップ111では、「請求項4及び8の発明」で述べたように、q(x)を繰り返し評価し、差分値誤差平均値Mを求め、ステップ112にてその符号を出力する。このMの代りに、例えば原信号値の総和を送ることも考えられる。この場合Mの伝送に信号のビット数+log(信号総数)程度の情報量が必要となり、これをステップ112にて出力する。また、ステップ113では原信号fの平均値Aveを求めておく。
ステップ114で通番Nを0に初期化する。
ステップ115にて、請求項1及び5の方法におけバックトラック法等による可能な原信号値候補cのしらみつぶし探索の代わりに、本実施例では、ステップ107,110で求められたf,fの間だけを探索するようにし、処理を効率化する。
ステップ118にて原信号候補cの平均値cAveを求め、ステップ119にてこれが原信号の平均値Aveと等しいかを調べる。等しくなければ明らかに原信号候補になりえないためステップ115へ戻り次の候補を探索する。等しい場合、ステップ116で、候補cが原信号fに等しいかを調べ、等しい場合はステップ117に移り、そのときの通番Nを出力し処理を終了する。等しくなければ、ステップ120にて通番Nをインクリメントし、ステップ115へ戻る。
本発明請求項7乃至8の復号方式の好適実施例について図9を参照して説明する。
ステップ201にて量子化差分値ベクトルqをエントロピ復号する。次いで「請求項3及び7の発明」にて述べた方法により、ステップ202にて差分値誤差上限値Uを復号し、これを元に原信号の上界ベクトルfを求める。同様にステップ204にて差分値誤差下限値Uを復号し、これを元に原信号の下界ベクトルfLを求める。同様にステップ206にて差分値誤差平均値Mを復号し、ベクトルA-1q(M)の各要素の四捨五入後の総平均Aveを求める。これは原信号fの平均と一致しているはずである。
ついで208で通番Nを復号し、ステップ209にて変数N′を0に初期化する。
ステップ210はステップ115と全く同一の手続きである。ここで候補ベクトルcが得られるたびに、ステップ213にてcの総平均cAveを求め、これがAveと等しいかをステップ214にてチェックする。等しくなければ原信号候補から外れるので再びステップ210に戻る。等しければ、ステップ211にてNとN′を比較し、等しければそのときの候補ベクトルcが原画像であるのでこれを出力とし(ステップ212)、終了する。等しくなければステップ215でN′をインクリメントし、ステップ210に戻る。
尚、請求項1の符号化方法は、図8のステップ101,102,103,114,115,116,117,120のみで実現され、ステップ105にてステップ103で得られた量子化差分値から原信号が取り得るすべての原信号値候補cを探索し、ステップ116で、候補cが原信号fに等しいかを調べ、等しい場合はステップ117に移り、そのときの通番Nを出力し処理を終了する。等しくなければ、ステップ120にて通番Nをインクリメントし、ステップ115へ戻る。
また、請求項5の復号方法は、図9のステップ201,208,209,210,211,212,215のみで実現され、ステップ210にて復号量子化差分値から原信号が取り得るすべての原信号値候補cを探索し、候補cが得られるたびステップ211にてNとN′を比較し、等しければそのときの候補cが原信号であるのでこれを出力とし(ステップ212)、終了する。等しくなければステップ215でN′をインクリメントし、ステップ210に戻る。
また、請求項2の符号化方法は、図1の方法のステップとステップ107及び110のみで実現され、ステップ107及び110にて、量子化ステップサイズに基づいて原信号の上界f及び下界fを計算し、ステップ115における原信号候補cの探索を上下界f及びfの間だけ行い、請求項6の復号方法は、図5の方法のステップとステップ203及び205のみで実現され、ステップ203及び205にて量子化ステップサイズに基づいて原信号の上界f及び下界fを計算し、ステップ210における原信号候補cの探索を上下界f及びfの間だけ行い、その他の処理は請求項1及び5の方法と同じである。
以上、本発明のディジタル映像音声信号可逆符号化復号方法の処理手順について説明したが、本発明はこれらの処理手順を実行する手段を備えたディジタル映像音声信号可逆符号化復号装置も本発明の範囲に含むものである。また、これらの処理手順及び手段はコンピュータによって実行及び実現することができ、本発明はこれらの処理手順を実行させるためのコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の範囲に含むものである。
着目画素(x)とその因果的画素(o)を示す図である。 因果的内挿予測における疎画素(o)と密画素(.)を示す図である。 因果的内挿予測における利用可能画素(0,#)の例を示す図である。 着目画素(x)およびそれに対する非因果的画素(0)を示す図である。 外挿予測の例を示す図である。 内挿予測の例を示す図である。 3×3二次元画像信号を示す図である。 本発明の請求項1乃至4の符号化方法の実施例を示す図である。 本発明請求項5乃至8の符号方法の実施例を示す図である。
符号の説明
114−120 量子化差分値から原信号が取り得る全ての原信号値候補を探索し、得られる毎に通番Nを1ずつ加算し、原信号と一致するケースが出現した際の通番Nを符号化する処理手順
210−215 量子化差分値から、原信号値が取り得る全ての原信号値候補を探索・列挙し、列挙した回数が原信号出現番号に等しくなった場合、その候補信号を復号信号として出力する処理手順

Claims (18)

  1. デジタルの画像・音声信号を、既に復号済みでない、着目信号周囲の「非因果的信号」を用いて信号値の線形内挿予測を行い原信号と同一の信号を再現しうる符号を生成する、デジタル映像音声信号可逆符号化方法であって、
    線形内挿により信号の内挿予測値を求め、
    原信号の信号値から該内挿予測値を減じ差分値を求め、
    量子化ステップ幅を入力し、該差分値を該量子化ステップ幅で量子化し量子化差分値を求め、
    量子化差分値を符号化し、
    量子化差分値から原信号値が取りうる全ての原信号値候補を総探索し、
    原信号候補が得られる毎に通番Nを1ずつ加算し、原信号と一致するケースが出現した際の通番Nを符号化することを特徴とするデジタル映像音声信号可逆符号化方法。
  2. 請求項1に記載のデジタル映像音声信号可逆符号化方法であって、
    伝送される量子化差分値の持つ誤差の上下界を量子化ステップ幅から求め、
    差分値上下界を求め、
    差分値上下界それぞれを逆線形内挿予測変換し原信号値の上下界f,fを求め、
    該上下界により総探索における探索範囲を限定することを特徴とするデジタル映像音声信号可逆符号化方法。
  3. 請求項1または2に記載のデジタル映像音声信号可逆符号化方法であって、
    伝送される量子化差分値に一律に数値Uを加えた修正差分値を求め、
    該修正差分値を逆線形内挿予測変換し推定原信号値を求め、
    該推定原信号値が全ての位置で原信号値以上となるような、定められた精度内で最小の数値U(差分値誤差上限値)を求め、
    数値Uと同様に該推定原信号値が全ての位置で原信号値以下となるような、定められた精度内で最大の数値L(差分値誤差下限値)を求め、
    数値L,Uを符号化し、
    数値L,Uに対応する原信号値の上下界f,fを求め、
    該上下界により総探索における探索範囲を限定することを特徴とするデジタル映像音声信号可逆符号化方法。
  4. 請求項1または2または3に記載のデジタル映像音声信号可逆符号化方法であって、
    原信号の平均値を求め、
    伝送される量子化差分値に一律に数値Mを加えた修正差分値を求め、
    該修正差分値を逆線形内挿予測変換し、推定原信号値を求め、
    該推定原信号値の平均値が原信号値の平均値と一致するような数値M(差分値誤差平均値)を求め、
    数値Mを符号化し、
    総探索により得られた原信号値候補の平均値を求め、
    これと原信号平均値を比較し、等しい場合のみ通番を加算することを特徴とするデジタル映像音声信号可逆符号化方法。
  5. 請求項1に記載のデジタル映像音声信号可逆符号化方法に対応する復号方法であって、
    量子化差分値を復号し、
    量子化ステップ幅を入力し、
    原信号と一致するケースが出現した際の通番を表す原信号出現番号を復号し、
    該量子化差分値から、原信号値が取りうる全ての候補信号を総探索・列挙し、
    列挙した回数が原信号出現番号に等しくなった場合、その候補信号を復号画像として出力し処理を終了することを特徴とするデジタル映像音声信号可逆復号方法。
  6. 請求項2に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5に記載の復号方法であって、
    量子化差分値の持つ誤差の上下界を量子化ステップ幅から求め、
    差分値上下界を求め、
    差分値上下界それぞれを逆線形内挿予測変換し原信号値の上下界を求め、
    該上下界により総探索における探索範囲を限定することを特徴とするデジタル映像音声信号可逆復号方法。
  7. 請求項3に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5または6に記載の復号方法であって、
    差分値誤差上下限値L,Uを復号し、
    L,Uに対応する原信号の上下界を求め、
    該上下界により総探索における探索範囲を限定することを特徴とするデジタル映像音声信号可逆復号方法。
  8. 請求項4に記載のデジタル映像音声信号可逆符号化方法に対応する、請求項5または6または7に記載の復号方法であって、
    差分値誤差平均値Mを復号し、
    Mに対応する原信号の平均値を求め、
    該平均値を用いて、総探索における列挙候補を絞り込むことを特徴とするデジタル映像音声信号可逆復号方法。
  9. デジタルの画像・音声信号を、既に復号済みでない、着目信号周囲の「非因果的信号」を用いて信号値の線形内挿予測を行い原信号と同一の信号を再現しうる符号を生成する、デジタル映像音声信号可逆符号化装置であって、
    線形内挿により信号の内挿予測値を求める手段と、
    原信号の信号値から該内挿予測値を減じ差分値を求める手段と、
    量子化ステップ幅を入力し、該差分値を該量子化ステップ幅で量子化し量子化差分値を求める手段と、
    量子化差分値を符号化し、量子化差分値から原信号値が取りうる全ての原信号値候補を総探索する手段と、
    原信号候補が得られる毎に通番Nを1ずつ加算し、原信号と一致するケースが出現した際の通番Nを符号化する手段とを備えることを特徴とするデジタル映像音声信号可逆符号化装置。
  10. 請求項9に記載のデジタル映像音声信号可逆符号化装置であって、
    伝送される量子化差分値の持つ誤差の上下界を量子化ステップ幅から求める手段と、
    差分値上下界を求める手段と、
    差分値上下界それぞれを逆線形内挿予測変換し原信号値の上下界f,fを求める手段と、
    該上下界により総探索における探索範囲を限定する手段とを備えることを特徴とするデジタル映像音声信号可逆符号化装置。
  11. 請求項9または10に記載のデジタル映像音声信号可逆符号化装置であって、
    伝送される量子化差分値に一律に数値Uを加えた修正差分値を求める手段と、
    該修正差分値を逆線形内挿予測変換し推定原信号値を求める手段と、
    該推定原信号値が全ての位置で原信号値以上となるような、定められた精度内で最小の数値U(差分値誤差上限値)を求める手段と、
    数値Uと同様に該推定原信号値が全ての位置で原信号値以下となるような、定められた精度内で最大の数値L(差分値誤差下限値)を求める手段と、
    数値L,Uを符号化する手段と、
    数値L,Uに対応する原信号値の上下界f,fを求める手段と、
    該上下界により総探索における探索範囲を限定する手段とを備えることを特徴とするデジタル映像音声信号可逆符号化装置。
  12. 請求項9または10または11に記載のデジタル映像音声信号可逆符号化装置であって、
    原信号の平均値を求める手段と、
    伝送される量子化差分値に一律に数値Mを加えた修正差分値を求める手段と、
    該修正差分値を逆線形内挿予測変換し、推定原信号値を求める手段と、
    該推定原信号値の平均値が原信号値の平均値と一致するような数値M(差分値誤差平均値)を求める手段と、
    数値Mを符号化する手段と、
    総探索により得られた原信号値候補の平均値を求める手段と、
    これと原信号平均値を比較し、等しい場合のみ通番を加算する手段とを備えることを特徴とするデジタル映像音声信号可逆符号化装置。
  13. 請求項9に記載のデジタル映像音声信号可逆符号化装置に対応する復号装置であって、
    量子化差分値を復号する手段と、
    量子化ステップ幅を入力する手段と、
    原信号と一致するケースが出現した際の通番を表す原信号出現番号を復号する手段と、
    該量子化差分値から、原信号値が取りうる全ての候補信号を総探索・列挙する手段と、
    列挙した回数が原信号出現番号に等しくなった場合、その候補信号を復号画像として出力し処理を終了する手段とを備えることを特徴とするデジタル映像音声信号可逆復号装置。
  14. 請求項10に記載のデジタル映像音声信号可逆符号化装置に対応する、請求項13に記載の復号装置であって、
    量子化差分値の持つ誤差の上下界を量子化ステップ幅から求める手段と、
    差分値上下界を求める手段と、
    差分値上下界それぞれを逆線形内挿予測変換し原信号値の上下界を求める手段と、
    該上下界により総探索における探索範囲を限定する手段とを備えることを特徴とするデジタル映像音声信号可逆復号装置。
  15. 請求項11に記載のデジタル映像音声信号可逆符号化装置に対応する、請求項13または14に記載の復号装置であって、
    差分値誤差上下限値L,Uを復号する手段と、
    L,Uに対応する原信号の上下界を求める手段と、
    該上下界により総探索における探索範囲を限定する手段とを備えることを特徴とするデジタル映像音声信号可逆復号装置。
  16. 請求項12に記載のデジタル映像音声信号可逆符号化装置に対応する、請求項13また14または15に記載の復号装置であって、
    差分値誤差平均値Mを復号する手段と、
    Mに対応する原信号の平均値を求める手段と、
    該平均値を用いて、総探索における列挙候補を絞り込む手段とを備えることを特徴とするデジタル映像音声信号可逆復号装置。
  17. 請求項1乃至4の何れかに記載のデジタル映像音声信号可逆符号化方法における処理手順をコンピュータに実行させるためのコンピュータプログラムをコンピュータ読み取り可能な記憶媒体に記録したことを特徴とするデジタル映像音声信号可逆符号化プログラムの記憶媒体。
  18. 請求項5乃至8の何れかに記載のデジタル映像音声信号可逆復号方法における処理手順をコンピュータに実行させるためのコンピュータプログラムをコンピュータ読み取り可能な記憶媒体に記録したことを特徴とするデジタル映像音声信号可逆復号プログラムの記憶媒体。
JP2004002029A 2004-01-07 2004-01-07 デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体 Expired - Fee Related JP4234018B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004002029A JP4234018B2 (ja) 2004-01-07 2004-01-07 デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004002029A JP4234018B2 (ja) 2004-01-07 2004-01-07 デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2005198014A JP2005198014A (ja) 2005-07-21
JP4234018B2 true JP4234018B2 (ja) 2009-03-04

Family

ID=34817378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004002029A Expired - Fee Related JP4234018B2 (ja) 2004-01-07 2004-01-07 デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP4234018B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008062687A1 (en) 2006-11-24 2008-05-29 Nec Corporation Coding and decoding device, coding and decoding method and program

Also Published As

Publication number Publication date
JP2005198014A (ja) 2005-07-21

Similar Documents

Publication Publication Date Title
JP5533886B2 (ja) 画像符号化装置及び画像復号装置
KR101128533B1 (ko) 화상 부호화 방법 및 복호 방법, 그들의 장치, 그들의 프로그램과 프로그램을 기록한 기록매체
JP5590133B2 (ja) 動画像符号化装置、動画像符号化方法、動画像符号化用コンピュータプログラム、動画像復号装置及び動画像復号方法ならびに動画像復号用コンピュータプログラム
US7983338B2 (en) Method for progressive lossless video coding, method for progressive lossless video decoding, progressive lossless video coding apparatus, progressive lossless video decoding apparatus, progressive lossless video coding program, progressive lossless video decoding program, and recording media of progressive lossless video coding program and progressive lossless video decoding program
EP2343878B1 (en) Pixel prediction value generation procedure automatic generation method, image encoding method, image decoding method, devices using these methods, programs for these methods, and recording medium on which these programs are recorded
CN106937111B (zh) 优化图像压缩质量的方法及系统
KR20110135787A (ko) 엣지-적응 변환을 이용한 영상 부호화/복호화 시스템 및 방법
JP2000069292A (ja) 画像処理装置及び方法及び記憶媒体
US11350106B2 (en) Method for encoding and decoding images, device for encoding and decoding images and corresponding computer programs
WO2001050768A2 (en) Method and apparatus for video compression using sequential frame cellular automata transforms
US11394966B2 (en) Video encoding and decoding method and apparatus
US10687082B2 (en) Method for encoding a digital image, decoding method, devices, user terminal and associated computer programs
US10523969B2 (en) Method of coding and decoding images, device for coding and decoding images and computer programmes corresponding thereto
US9369734B2 (en) Method and apparatus for encoding and decoding by wavelet transform
Babu et al. Efficient lossless image compression using modified hierarchical Forecast and context adaptive System
CN107079171B (zh) 使用改进的预测滤波器编码和解码视频信号的方法和装置
WO2001050769A9 (en) Method and apparatus for video compression using multi-state dynamical predictive systems
JP4234018B2 (ja) デジタル映像音声信号可逆符号化復号方法、装置およびこの方法を実行するためのコンピュータプログラムを記録した記録媒体
JP6188344B2 (ja) 走査順生成装置、動画像符号化装置、動画像復号装置、走査順生成方法、およびプログラム
JP7064644B2 (ja) 動画像符号化装置
JP2019036772A (ja) 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム
CN109845259A (zh) 编码和解码图像参数的方法、编码和解码图像参数的设备及其相应的计算机程序
US10805638B2 (en) Method for coding a digital image, decoding method, devices, terminal equipment and related computer programs
CN108432254B (zh) 图像编码和解码方法、装置以及计算机存储介质
JP2006217339A5 (ja)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060406

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20070615

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070615

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080916

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20081002

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081209

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081210

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111219

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4234018

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121219

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121219

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131219

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees