JPH11164303A - 動画像の可逆圧縮符号化装置および可逆伸長復号化装置 - Google Patents

動画像の可逆圧縮符号化装置および可逆伸長復号化装置

Info

Publication number
JPH11164303A
JPH11164303A JP33008297A JP33008297A JPH11164303A JP H11164303 A JPH11164303 A JP H11164303A JP 33008297 A JP33008297 A JP 33008297A JP 33008297 A JP33008297 A JP 33008297A JP H11164303 A JPH11164303 A JP H11164303A
Authority
JP
Japan
Prior art keywords
probability distribution
conditional probability
image
distribution table
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP33008297A
Other languages
English (en)
Other versions
JP3902698B2 (ja
Inventor
Kazuto Ogawa
一人 小川
Takashi Kato
隆 加藤
Toshihiro Uehara
年博 上原
Haruo Okuda
治雄 奥田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP33008297A priority Critical patent/JP3902698B2/ja
Publication of JPH11164303A publication Critical patent/JPH11164303A/ja
Application granted granted Critical
Publication of JP3902698B2 publication Critical patent/JP3902698B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 従来の画像符号化方式であるMPEG、MP
EG2は可逆符号化ができず、また、JPEGはインタ
レースされた動画像の符号化に適さない。そして、JB
IGも連続階調の画像の符号化に適用すると、大きなメ
モリを必要とし、いずれも解決すべき課題を有してい
る。 【解決手段】 動画像の可逆圧縮符号化装置を、複数の
マルコフモデルとそれらマルコフモデルのそれぞれに対
応して使用される条件付確率分布テーブル(1), (2),
(3) とを具え、フレーム内の予め定められた複数の代表
点画素を前記複数のマルコフモデルとそれらマルコフモ
デルのそれぞれに対応して使用される少なくとも1つの
条件付確率テーブルを用いてエントロピー符号化し、該
符号化結果のビット総数(5−1),(5−2),(5
−3)が最小(6)になったマルコフモデルと対応して
使用された条件付確率分布テーブルをフレーム単位で適
応的に選択(SW1)して、フレーム画像内のエントロ
ピー符号化可能な全画素をエントロピー符号化するよう
に構成した。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、動画像(勿論、動
画像中に静止画部分が含まれていてもよい)の圧縮符号
化装置およびそれにより符号化された符号化データを復
号化する伸長復号化装置に係わり、特に、予測符号化技
術を用いた可逆圧縮符号化装置および可逆伸長復号化装
置に関する。
【0002】
【従来の技術】従来の画像の圧縮符号化としては、標準
化された、動画像のためのMPEG、MPEG2、静止
画像のためのJPEG、および静止2値画像のためのJ
BIGがある。動画像の圧縮符号化のためのMPEG、
MPEG2は、いくつかの要素技術で構成されている
が、それらの要素中に2次元離散コサイン変換(DC
T)のDCT変換係数の量子化がある。この量子化を行
うにあたって、MPEG、MPEG2では8画素(水
平)×8画素(垂直)を符号化の最小単位(ブロック)
としている。この8画素(水平)×8画素(垂直)に対
してDCTを行い、DCT変換係数を算出する。この算
出されたDCT変換係数に対して量子化を行う。ここ
で、量子化とは、DCT変換係数全体をある値で割り算
し、小さな値に変換することであり、これによりデータ
の圧縮率を高めることができる。
【0003】また、静止画像の圧縮符号化のためのJP
EGでは2種類の符号化が規定されていて、それらのう
ちの1つはDCTと量子化技術を用いた非可逆符号化、
もう1つは予測符号化技術を用いた可逆符号化である。
まず、JPEGに基づく非可逆符号化では、8画素(水
平)×8画素(垂直)を符号化の最小単位(ブロック)
としている。この8画素(水平)×8画素(垂直)に対
してDCTが行われ、DCT変換係数を算出する。この
算出されたDCT変換係数に対して量子化を行う。
【0004】次に、JPEGに基づく可逆圧縮符号化
は、画素値とその予測値との差分値をエントロピー符号
化している。この可逆圧縮符号化における画素値の予測
方法を、図1および表1を参照して説明する。図1にお
いて、xは符号化対象画素、a,b,cは予測に使用す
る近傍画素をそれぞれ示している。表1のPxは符号化
対象画素xの予測値、また、Ra,Rb,Rcはサンプ
ル位置a,b,cそれぞれのサンプル値を示している。
表1に示された7つの予測値Px を求める予測器を予め
定められたある一定数の画素を単位として選択して使用
し、画素値を予測する。エントロピー符号化の手法は、
まず予測値Pxとxの画素値Rxとの差分値を求め、そ
の発生確率に対応して算術符号化を行う方式、および差
分値に対しハフマン符号化を行う方式があり、これらに
より符号化されたデータの圧縮を行っている。これらJ
PEGの符号化については、例えば、安田浩編著「マル
チメディア符号化の国際標準」1991年(丸善)の第
1章「静止画像符号化標準」に詳しく記載されているの
で参照されたい。
【0005】
【表1】
【0006】さらに、静止2値画像の符号化のためのJ
BIGは、画像縮小方式(PRES)とマルコフモデル
と動的算術符号化とを組み合せた符号化を用いている。
図2を参照してPRESの基本演算を説明する。まず、
PRESとは高解像度の画像から低解像度の画像を作る
一方式のことであり、これにつき説明する。図2におい
て、a,b,c,d,e,f,g,h,iは高解像度画
像の画素、W,X,Y,Zは低解像度画像の画素を示し
ている。a,b,c,d,e,f,g,h,i,W,
X,Yに対応する画素値がそれぞれPa,Pb,Pc,
Pd,Pe,Pf,Pg,Ph,Pi,Pw,Px,P
yであるとし、そのときの画素Zの画素値Pzは、次の
(1),(2)および(3)式によって定められる。
【数1】 の計算を行い、その結果 SUM≧5の場合 Pz=1 (2) SUM<5の場合 Pz=0 (3) として決定する。以下、同様にして順次低解像度の画像
を作っていく。
【0007】次に、JBIGによる符号化に使用するマ
ルコフモデルの画素配置を図3(a)〜(d)に示す。
図3(a)〜(d)において、xは符号化対象画素、ま
たa,b,c,d,e,fはxと同じ解像度の画像上の
近傍画素を示していて、G,H,I,Jは低解像度画像
の画素を示している。このxとG,H,I,Jの位置関
係は、それぞれ図3(a)〜(d)に示すように4通り
の場合があり、それぞれ、位相0、位相1、位相2およ
び位相3と呼ばれている。
【0008】このように、JBIGでは、マルコフモデ
ルを近傍のxと同じ高解像度画像上のa,b,c,d,
e,fの6画素と低解像度画像上のG,H,I,Jの4
画素の画素値、および、符号化対象画素xの位置に基づ
く位相を含めた、212通りの状態とし、その条件付確率
分布テーブルをもとに算術符号化を行い、データの圧縮
を行うようにしている。また、JBIGの符号化につい
ても、例えば、安田浩編著「マルチメディア符号化の国
際標準」1991年(丸善)の第2章「2値符号化」に
詳しく記載されているので参照されたい。
【0009】
【発明が解決しようとする課題】上述したように、従来
の動画像圧縮符号化のためのMPEG、MPEG2、お
よび、静止画像圧縮符号化のためのJPEGの非可逆符
号化は、圧縮率を高めるために、DCT係数の量子化と
いう技術を用いている。しかし、このDCT係数の量子
化技術を用いて符号化をした場合、その符号化データに
ついてデータ復号化を行ったとしても、もとのデータに
近似した値に復号化されるだけであり、もとのデータそ
のものに戻すことは不可能である。従って、これらの技
術を画像の符号化に使用した場合は、符号化前の画像
と、符号化され、その符号化データが復号化された後の
画像とでは異なったものになる。
【0010】また、従来の静止画像圧縮符号化のための
JPEGは、静止画の可逆圧縮を対象とした符号化であ
るが、フレーム単位に処理するため、例えば、インター
レースされた画像で動きがある場合などには適した符号
化ではない。また、エントロピー符号化に使用する確率
分布テーブルとして、各フレームの符号化に最適なテー
ブルを使う場合には、そのテーブル自体を符号化データ
とともに記録、もしくは、伝送する必要があり、データ
量を増加させる結果となっている。また、各フレームに
最適なテーブルを使用しない場合は、圧縮率が低く抑え
られる。
【0011】また、静止2値画像圧縮符号化のためのJ
BIGは、2値画像の可逆圧縮を対象とした符号化であ
るが、連続階調の画像にこの符号化方式を適用するに
は、大きなメモリが必要となり、装置の実装が困難とな
る。
【0012】本発明の目的は、上述した各問題点を除去
した動画像の可逆圧縮符号化装置および復号化装置を提
供することにある。
【0013】
【課題を解決するための手段】上記目的を達成するため
に、本発明による動画像の可逆圧縮符号化装置において
は、マルコフモデルを複数規定し、それぞれのマルコフ
モデルに対応して使用される条件付確率分布テーブルの
中から最も符号化効率の高いものをフレーム単位で適応
的に選択してエントロピー符号化することにより、動画
像データを欠落することなく圧縮し、しかも、動画像デ
ータの圧縮率を高めるようにしている。
【0014】また、本発明においては、エントロピー符
号化に使用する上記条件付確率分布テーブルをフレーム
単位で更新し、符号化するフレームに適した条件付確率
分布テーブルを作り出し、動画像のデータ圧縮率を一層
高めるようにしている。
【0015】すなわち、本発明による動画像の可逆圧縮
符号化装置は、複数のマルコフモデルとそれらマルコフ
モデルのそれぞれに対応して使用される条件付確率分布
テーブルとを具え、フレーム内の予め定められた複数の
代表点画素を前記複数のマルコフモデルとそれらマルコ
フモデルのそれぞれに対応して使用される少なくとも1
つの条件付確率分布テーブルを用いてエントロピー符号
化し、該符号化結果のビット総数が最小になったマルコ
フモデルと対応して使用された条件付確率分布テーブル
をフレーム単位で適応的に選択して、フレーム画像内の
エントロピー符号化可能な全画素をエントロピー符号化
するように構成したことを特徴とするものである。
【0016】また、本発明による動画像の可逆圧縮符号
化装置は、前記マルコフモデルに対応して使用される前
記条件付確率分布テーブルが、それぞれのマルコフモデ
ルに対応して複数準備された中から1つを画像のシーン
チェンジ情報に対応して選択したものであることを特徴
とするものである。
【0017】また、本発明による動画像の可逆圧縮符号
化装置は、前記マルコフモデルに対応して使用される前
記複数の条件付確率分布テーブルには、前フレームの画
像データに基づいて作成された条件付確率分布テーブル
が含まれることを特徴とするものである。
【0018】また、本発明による動画像の可逆圧縮符号
化装置は、前記マルコフモデルに対応して使用される前
記複数の条件付確率分布テーブルには、前フレーム画像
の符号化に用いた条件付確率分布テーブルと前フレーム
の画像データに基づいて作成された条件付確率分布テー
ブルとを重み付け加算して求めた条件付確率分布テーブ
ルが含まれることを特徴とするものである。
【0019】また、本発明による動画像の可逆圧縮符号
化装置は、前記条件付確率分布テーブルの重み付け加算
が、前フレーム画像の符号化データ圧縮率に対応して予
め定められた計算式に基づいて計算された重みづけ係数
を適応的に選択する重み付け加算であることを特徴とす
るものである。
【0020】また、本発明による動画像の可逆伸長復号
化装置は、複数のマルコフモデルとそれらマルコフモデ
ルのそれぞれに対応して使用される少なくとも1つの条
件付確率分布テーブルとを具え、記録側もしくは送信側
から符号化データとともに記録もしくは送信され、記録
側もしくは送信側でマルコフモデルおよびそれに対応し
て使用される条件付確率分布テーブルのいずれが選択さ
れて符号化が行われたかを示すモデル識別フラグを再生
もしくは受信して、該再生もしくは受信されたモデル識
別フラグによって選択されるマルコフモデルおよびそれ
に対応して使用される条件付確率分布テーブルに対応し
たエントロピー符号化の復号化を行うことを特徴とする
ものである。
【0021】また、本発明による動画像の可逆伸長復号
化装置は、前記マルコフモデルに対応して使用される条
件付確率分布テーブルが記録側もしくは送信側において
それぞれのマルコフモデルに対応して複数準備された中
から1つを画像のシーンチェンジ情報に対応して選択し
たものであるとき、符号化データとともに記録側で記録
され、もしくは送信側で送信され、記録側もしくは送信
側でいずれの条件付確率分布テーブルが選択されて符号
化が行われたかを示すテーブル識別フラグを再生もしく
は受信して、該再生もしくは受信されたテーブル識別フ
ラグに対応して選択される条件付確率分布テーブルに対
応したエントロピー符号化の復号化を行うことを特徴と
するものである。
【0022】また、本発明による動画像の可逆伸長復号
化装置は、符号化データとともに記録側で記録されもく
しは送信側で送信され、そして再生側もしくは受信側に
おいて得られた乗算係数に対応して、前フレーム画像の
復号化に用いた条件付確率分布テーブルと前フレームの
画像データに基づいて作成された条件付確率分布テーブ
ルとを重み付け加算して求めた条件付確率分布テーブル
に対応してエントロピー符号化の復号化を行うことを特
徴とするものである。
【0023】
【発明の実施の形態】以下に添付図面を参照し、発明の
実施の形態に基づいて本発明を詳細に説明する。本発明
においては、上述したように、マルコフモデルを複数規
定し、それぞれのマルコフモデルおよびそれに対応した
条件付確率分布テーブルの中から最も符号化効率の高い
ものをフレーム単位で適応的に選択してエントロピー符
号化しているが、以下の実施の形態では、構成を容易に
するため、Lineモデル、FrameモデルおよびF
ieldモデルの3種類の、それも符号化対象画素近傍
の2画素を含めた3画素から形成されるマルコフモデル
を規定するものとする。
【0024】3画素から形成されるマルコフモデルによ
る符号化とは、まず、符号化する画素のレベルがXa
その近傍の2つの画素のレベルがXb ,Xc である場合
に、Xa の生起確率がXb ,Xc に依存する2重マルコ
フ情報源であるとし、条件付確率P(Xa |X
b , c )を定める。ここで、Xa ,Xb ,Xc がそれ
ぞれ、0から255までの値をとるものとすると、(X
b ,Xc )の組み合わせの数は65,536通り存在す
る。この個々の(Xb ,Xc )に対してXa をパラメー
タとした時の確率分布を定める。従って、(Xb
c )を固定し、Xa を0から255まで変化させた場
合の確率の総計は1となる。この条件付確率分布をもと
に、算術符号化、ハフマン符号化等のエントロピー符号
化を行う。このエントロピー符号化はデータの欠落がな
い可逆圧縮符号化である。
【0025】以下に、本発明の実施の形態で使用するL
ineモデル、FrameモデルおよびFieldモデ
ルの各マルコフモデルによる符号化について説明する。
図4は、Lineモデルに使用する3画素の配置を示し
ていて、Xpi は符号化する画素、そしてXpi-1 ,X
i-2 はXpi と同一走査線上のそれぞれ1つ、2つ前
の画素を示している。Lineマルコフモデル符号化と
は、マルコフモデル符号化を同一走査線上の画素で行う
符号化であり、図4に示す3つの画素、Xpi ,Xp
i-1 ,Xpi-2を用いて行う。符号化する画素Xpi
レベルXi の生起確率が、画素Xpi-1のレベルXi-1
と画素Xpi-2 のレベルXi-2 に依存している2重マル
コフ情報源であるとし、条件付確率分布P(Xi |X
i-2 ,Xi-1 )を生成し、この確率分布をもとにエント
ロピー符号化を行う。この符号化では、フレーム内の各
走査線上の第1番目、第2番目の画素の符号化は行わな
い。これらの画素は、近傍の2つの画素が完全に揃わな
いからである。
【0026】図5は、Frameモデルに使用する3画
素の配置を示していて、Xpi は符号化する画素、Xp
i-1 はXpi と同一走査線上の1つ前の画素、そしてX
i- h はXpi の1つ前の走査線上の同じ列にある画素
を示している。Frameマルコフモデル符号化とは、
図5に示す走査線上の3つの画素、Xpi ,Xpi-1
Xpi-h を用いて行うマルコフモデル符号化であり、符
号化する画素Xpi のレベルXi の生起確率が、画素X
i-h のレベルXi-h と画素Xpi-1 のレベルXi-1
依存する2重マルコフ情報源であるとし、条件付確率分
布P(Xi |Xi-h ,Xi-1 )を生成し、この確率分布
をもとにエントロピー符号化を行う。Lineモデルの
場合と同じ理由により、この符号化では、フレーム内の
第1走査線上のすべての画素、および、それ以外の走査
線上の第1番目の画素の符号化は行わない。
【0027】図6は、Fieldモデルに使用する3画
素の配置を示していて、Xpi は符号化する画素、Xp
i-1 はXpi と同一走査線上の1つ前の画素、そしてX
i- 2hはXpi の2つ前の走査線上の同じ列にある画素
を示している。Fieldマルコフモデル符号化とは、
図6に示す走査線上の3つの画素、Xpi ,Xpi-1
Xpi-2hを用いたマルコフモデル符号化であり、符号化
する画素Xpi のレベルXi の生起確率が、画素Xp
i-2hのレベルXi-2hと画素Xpi- 1 のレベルXi-1 に依
存している2重マルコフ情報源であるとし、条件付確率
分布P(Xi |Xi-2h ,Xi-1 )を生成し、この確率分
布をもとにエントロピー符号化を行う。Lineモデル
の場合と同じ理由により、この符号化では、フレーム内
の第1走査線、第2走査線上のすべての画素、および、
それ以外の走査線上の第1番目の画素の符号化は行わな
い。
【0028】以上で、Lineモデル、Frameモデ
ルおよびFieldモデルの各マルコフモデルによる符
号化の説明を終るが、前述したように、本発明は、それ
らそれぞれのマルコフモデルおよびそれに対応した条件
付確率分布テーブルの中から最も符号化効率の高いもの
をフレーム単位で適応的に選択してエントロピー符号化
するもので、そのための2通りの構成例を図7および図
8に示し、これにつき説明する。
【0029】図7において、1,2および3は、それぞ
れLineモデル、FrameモデルおよびField
モデルに従った上記の符号化を行う回路である。これら
各回路1,2および3による符号化の結果は、それぞれ
を1フレーム期間遅延させる、例えばフレームメモリ等
によって構成される1フレーム遅延回路4−1,4−2
および4−3にそれぞれ供給されるとともに、回路1,
2および3による符号化の結果から1フレーム中に数箇
所選定した代表点に相当する時間的位置の符号化結果を
抽出する代表点選択回路5−1,5−2および5−3
(代表点の位置は各同じである)にもそれぞれ供給され
て、各モデルごとの符号化のビット数を出力させる。
【0030】これにより得られた各モデルごとのビット
数を、図中
【外1】 で示す総和器によりフレーム単位でそれぞれ総和をと
り、その総和の結果を比較器6にて比較し、最小ビット
を生成するモデルを選択するためのモデル選択情報を出
力させる。1フレーム遅延回路4−1,4−2および4
−3からは、上記3つのモデルに従った符号化結果が1
フレーム遅延されて出力され、切り替えスイッチSW1
の各接点に供給される。切り替えスイッチSW1の選択
位置が上記選択情報で決定されることから、同スイッチ
SW1の出力側には、上記3つのモデル中最も符号化効
率が高いもの(データ圧縮率が最も高いもの)の符号化
出力が得られることになる。
【0031】なお、比較器6における比較の結果、ビッ
ト数が同じになる場合は、例えば、符号化を行わない画
素が最小のLineモデルを選択するなど、予め定めら
れたモデルを選択する。また、代表点は事前に定めてお
くが、代表点の個数はできるだけ多くし、個々の代表点
の位置はフレーム内で偏りのないように分散させること
が必要である。
【0032】また、マルコフモデルおよびそれに対応し
た条件付確率分布テーブルの中から最も符号化効率の高
いものをフレーム単位で適応的に選択してエントロピー
符号化する本発明装置の第2の構成例を図8に示し、こ
れにつき説明する。なお、図8中、図7に示したのと同
一の回路要素が使用される箇所には同一の符号を付して
示し、それら回路要素の説明は省略する。
【0033】本構成例では、まず、画像信号入力を2分
岐し、その2分岐された画像信号入力を、代表点に相当
する信号を選択的に出力する代表点選択回路5と1フレ
ーム遅延回路4とにそれぞれ供給する。次いで、代表点
選択回路5の出力をLineモデル、Frameモデル
およびFieldモデルに従った符号化を行う符号化回
路1−1,2−1,3−1に供給し、各モデル(Lin
e,FrameおよびFieldの)ごとの代表点にお
ける符号化出力を得る。その符号化出力を1フレーム分
にわたって〔外1〕で示す総和器で総和をとりさらに比
較器6に供給してビット数の大小比較をすることによ
り、図7の場合と同じ最小ビットを生成するモデルを選
択するためのモデル選択情報を得る。
【0034】一方、フレーム遅延回路4に供給された画
像信号入力は、1フレーム遅れた信号となって切り替え
スイッチSW1−1を介して各モデルごとの符号化を行
う符号化回路1−2,2−2および3−2に供給され
る。図示の切り替えスイッチSW1−1およびSW1−
2は、比較器6の出力すなわちモデル選択情報によって
連動して切り替えられ、その出力側の切り替えスイッチ
SW1−2から符号化効率が最も高くなるモデルによっ
て符号化された符号化出力が得られる。
【0035】以上のようにして符号化された符号化デー
タの記録もしくは伝送をする場合、符号化データ以外
に、Lineモデル、FrameモデルおよびFiel
dモデルのうちいずれのモデルを用いて符号化を行った
かを示すモデル識別フラグが1フレームあたり2ビット
必要となる。また、上述したように、各モデルに符号化
を行わない画素が存在することから、それら画素は、画
素値をそのまま記録、もしくは伝送することとなる。こ
れらのデータは符号量を増加させ、符号化データの圧縮
率を低下させるが、例えば、一般のテレビ画像では、画
像データ量が非常に多いため、モデル識別フラグ分のデ
ータ量の増加、および符号化されない画素によるデータ
量の増加があったとしても、本発明のモデル切り替え符
号化によってデータ圧縮率を大きく劣化させることはな
い。
【0036】次に、以上説明した本発明による動画像の
可逆圧縮符号化装置により符号化された符号化データが
記録媒体に記録され、もしくは伝送路を介し伝送され
て、それぞれ再生時もしくは受信側で復号化する本発明
による可逆伸長復号化装置について説明する。復号化に
際しては、まず、符号化時にどのモデルが使われて符号
化されているかを示す上述のモデル識別フラグを読み取
り、次に、そのフラグに応じて、Lineモデル、Fr
ameモデルおよびFieldモデルのいずれかの復号
化を行う。
【0037】各モデルごとの復号化の仕方を説明する。
Lineモデルでは、まず、符号化されずに記録、もし
くは伝送されてきた各走査線上の第1番目、第2番目の
画素を基準とし、同一走査線上の第3番目の画素の復号
化を行う。次に、第2番目の画素と先に復号化した第3
番目の画素とを基準とし、第4番目の画素の復号化を同
様に行う。この復号化を繰り返すことにより、すべての
画素の復号化が可能となる。
【0038】また、Frameモデルでは、まず、符号
化されずに記録、もしくは伝送されてきた第1走査線上
の第2番目の画素と第2走査線上の第1番目の画素とを
基準とし、第2走査線上の第2番目の画素を復号化す
る。次に、第1走査線上の第3番目の画素と先に復号化
した第2走査線上の第2番目の画素とを基準とし、第2
走査線上の第3番目の画素を同様に復号化する。この復
号化を第2走査線上の最後の画素まで行った後、第3走
査線上の画素の復号化を同じ手順で行う。同様に、他の
走査線上の画素の復号化を繰り返し、フレーム内のすべ
ての画素の復号化が可能となる。
【0039】また、Fieldモデルでは、まず、符号
化されずに記録、もしくは伝送されてきた第1走査線上
の第2番目の画素と第3走査線上の第1番目の画素とを
基準とし、第3走査線上の第2番目の画素を復号化す
る。次に、第1走査線上の第3番目の画素と先に復号化
した第3走査線上の第2番目の画素とを基準とし、第3
走査線上の第3番目の画素を同様に復号化する。この復
号化を第3走査線上の最後の画素まで行った後、第5走
査線上の画素の復号化を同じ手順で行う。同様に、他の
奇数番号の走査線上の画素の復号化を繰り返す。偶数番
号の走査線上の画素の復号化は、まず、第2走査線上の
第2番目の画素と第4走査線上の第1番目の画素とを基
準とし、第4走査線上の第2番目の画素を復号化し、次
に、第2走査線上の第3番目の画素と、先に復号化した
第4走査線上の第2番目の画素とを基準とし、第4走査
線上の第3番目の画素を同様に復号化する。この復号化
を第4走査線上の最後の画素まで行った後、第6走査線
上の画素の復号化を同じ手順で行う。同様に、他の偶数
番号の走査線上の画素の復号化を繰り返す。この作業に
より、フレーム内のすべての画素の復号化が可能とな
る。
【0040】以上においては、Lineモデル、Fra
meモデルおよびFieldモデルの3種類のマルコフ
モデル符号化を行い、その中から最も符号化効率の高い
ものを選択するようにしたが、本発明による動画像の可
逆圧縮符号化装置は、選択対象とするマルコフモデルは
上記3つのモデルに限られるものでなく、適当と考えら
れる任意の複数のマルコフモデルを使用してもよいこと
は言うまでもない。
【0041】次に、本発明においては、符号化側におい
てマルコフモデルおよび対応する条件付確率テーブルを
用いてエントロピー符号化を行うことを前提としている
が、符号化、および、復号化の手順は本発明にとって本
質的なことではないので、その詳細はたとえば原島博氏
著「画像情報圧縮」(オーム社、平成3年8月25日発
行)に譲ることとする。
【0042】また、エントロピー符号化に使用する条件
付確率分布テーブルは、例えば後述するようなデフォル
トテーブル(Default Table )として予め符号化器、お
よび、復号化器内に1つ具えておくことを基本とする
が、1つのマルコフモデルに対して条件付確率分布テー
ブルを複数準備し、いわゆるシーンチェンジ情報に基づ
きこれらをフレーム毎に切り替えることにより、圧縮率
を高めることが可能となる。この場合、次に述べるよう
に、複数の条件付確率分布テーブルのうちの1つについ
て、これをフレーム毎に合成するようにするのが効果的
である。
【0043】この目的のために、エントロピー符号化を
行うに際して、複数準備された条件付確率分布テーブル
の中から1つを画像のシーンチェンジ情報に対応してテ
ーブルを切り替え選択するように構成した本発明の一実
施形態を図9に示している。図9において、7はデフォ
ルトテーブル(Default Table )、8はユニークテーブ
ル(Unique Table)、9はオールドテーブル(Old Tabl
e)、10はニューテーブル(New Table)および11は1
フレーム遅延回路であり、以下にそれぞれの回路要素お
よび全体的な動作の説明を行う。
【0044】デフォルトテーブル(Default Table)7と
は、エントロピー符号化に用いる初期確率分布テーブル
のことであり、条件付確率Pd(Xa |Xb ,Xc
(ただし、符号化する画素のレベルをXa 、その近傍の
画素のレベルをXb ,Xc とする)がすべてのXa ,X
b ,Xc について規定されている。このテーブルは次の
条件1を満足していれば、どのような確率分布であると
しても構わないが、どのような画像の符号化においても
ある程度の圧縮率が得られる汎用性のあるテーブルであ
ることが望ましい。例えば、シーンチェンジとシーンチ
ェンジの間の一連の画像ではなく、互いに関連がない2
0種類程度の画像から生起分布を求め、その生起分布の
生起度数が0の部分を生起度数1に置き換える。こうし
て次の条件1のもとで、再構成された生起分布をもとに
条件付確率Pd(Xa |Xb ,Xc)を定め、これをDef
ault Table とすることにより、汎用性のあるテーブル
を作ることが可能である。
【数2】
【0045】ユニークテーブル(Unique Table) 8と
は、現在符号化しようとしているフレーム画像のフレー
ム番号がiであるとすると、その一つ前のi−1番目の
フレーム画像から生起分布を求め、その生起分布をもと
に作り出された確率分布テーブルのことであり、これも
すべてのXa , b ,Xc について条件付確率Pu(X
a |Xb ,Xc )が規定されている。しかし、i−1番
目のフレーム画像では、すべてのXa ,Xb ,Xc が生
起しているとは限らない。従って、このテーブルは次の
条件2を満足しているものであり、確率が0となる部分
が存在していても差し支えない。
【数3】
【0046】オールドテーブル(Old Table)9とは、i
−1番目のフレーム画像の符号化に使用したテーブルの
ことであり、i−1番目のフレーム画像の符号化でDefa
ultTable を使用していた場合には、Default Table と
同じTable となり、i−1番目のフレーム画像の符号化
に合成されたTable を使用していた場合は、i−1番目
のフレーム画像の符号化に使用したTable と同じTable
となる。この確率分布テーブルはすべてのXa ,Xb
c について条件付確率Po(Xa |Xb ,X c )が規
定されており、次の条件3を満足しなければならない。
【数4】
【0047】ニューテーブル(New Table )10とは、
i番目のフレーム画像の符号化に使用する確率分布テー
ブルのことであり、i番目のフレーム画像の符号化にDe
fault Teble を使用する場合には、Default Table と同
じTable となり、Default Table を使用しない場合に
は、Old Table とi−1番目のフレーム画像から作られ
たUnique Tableの2つの合成により作り出された新しい
確率分布テーブルとなる。この確率分布テーブルは、す
べてのXa ,Xb ,Xc について条件付確率Pn(Xa
|Xb ,Xc )が規定されていて、次の条件4を満足し
なければならない。
【数5】
【0048】図9中
【外2】 で示される加算器は合成Table を作る際のUnique Table
とOld Table の合成演算を行う。この合成Table の条件
付確率分布Pn(Xa |Xb ,Xc )の作成方法は、 Unique TableのPu(Xa |Xb ,Xc )において、Xb ,Xc を固定し、 すべてのXa についてPu(Xa |Xb ,Xc )=0である場合、 すべてのXa に対し Pn(Xa |Xb ,Xc )=Po(Xa |Xb ,Xc ) (12) Unique TableのPu(Xa |Xb ,Xc )において、Xb ,Xc を固定し、 あるXa についてPu(Xa |Xb ,Xc )≠0である場合、 すべてのXa に対し Pn(Xa |Xb,c ) =k1 ・Po(Xa |Xb,c )+k2 ・ Pu(Xa |Xb,c ) (13) とする。なお、この更新を行った場合でも、合成Table
は上述の条件1((4),(5)式)を満足する。
【0049】ここに、k1 ,k2 は合成Table を作成す
る際に用いる乗算係数であり、次の条件5を満たしてい
る。 条件5 k1 +k2 =1 0<k1 ≦1, 0≦k2 <1 (14) k1 ,k2 は条件5を満たしていれば任意の値で構わな
いが、i番目のフレーム画像の符号化を行う際に符号量
が最小になるような設定が望ましい。例えば次の(15),
(16), (17)および(18)式の方法により決定する。
【数6】 として、
【数7】 ただし、Ntotalは、第i−1番目のフレーム画像を符号
化した際の総符号量、Npixelは1フレーム分の画素
数、そしてNbitは符号化前の1画素あたりのビット数で
ある。
【0050】また、1フレーム遅延回路11は、1フレ
ーム分の信号の遅延を行う。切り替えスイッチSW2
は、映像編集点のように動画の中で極端に映像が変化
し、フレーム間の相関が小さい部分ではDefault Table
側に、また、映像編集点ではなく、フレーム間の相関が
非常に大きい部分では合成 Table側に切り替わる。この
切り替えは、シーンチェンジを検出することにより切り
替えが可能である。
【0051】これらの条件付確率分布テーブルにより得
られた符号化データを記録、もしくは伝送する場合、合
成されたTable を使用しているか、Default Table を使
用しているかを示すテーブル識別フラグ、および、合成
Table を使用している場合には、合成のためのk1 もし
くはk2 のいずれかの乗算係数データがさらに必要であ
る。しかし、通常の画像データ量は非常に多いため、デ
ータ量がこれらテーブル識別フラグと乗算係数データの
分だけ増加しても、これらは画像用のデータ量に比較し
て非常に少なく、この切り替え方式の圧縮率を大きく劣
化させることはない。
【0052】以上の切り替え方式で符号化された符号化
データの復号化では、まず、符号化時に使用している確
率分布テーブルを示すテーブル識別フラグを符号化デー
タから読み取り、Default Table を使用しているか、合
成Table を使用しているかを調べる。もし、Default Ta
ble を使用していることが判明した場合には、そのま
ま、復号化器に具えられたDefault Table を用いて復号
化を行う。もし、合成Table を使用していることが判明
した場合には、符号化データから乗算係数データk1
しくはk2 を読み取り、復号化用の合成Table を作成
し、合成Table を用いて復号化を行う。このとき、合成
Table の作成方法は符号化の際の合成Tableの作成方法
と同じである。
【0053】最後に、切り替え方式の他の実施形態の構
成を図10に示している。図10においては、図9中の
回路要素と同一部分には同一符号を付して示している。
また、図9中には示されないSW3はフレーム間差分情
報によって切り替えが行われる切り替えスイッチであ
る。この実施形態は、同一画像が連続する静止画部分で
は、Uniqne Tableをそのまま使用する方が符号化圧縮率
が高くなる利点を生かして、フレーム間の差分情報(図
10参照)に基づいて合成(Unique TableとOld Table
の)テーブルとUnique Tableを切り替えるようにしたも
のである。また、この場合、復号化側ではUnique Table
を示すテーブル識別フラグに基づきUniqle Tableを用い
て復号化するようにすればよい。
【0054】
【発明の効果】以上に説明したように、本発明による動
画像の可逆圧縮符号化装置によれば、動画像データを欠
落することなく圧縮符号化し、しかも、複数のマルコフ
モデルを適応的に切り替えて使用し、マルコフモデルに
使用する条件付確率分布テーブルをフレームごとに更新
することにより、圧縮率を高めることが可能となる。こ
れにより本発明を記録、もしくは伝送に用いた場合、そ
れぞれ記録、もしくは伝送する画像データ量の削減が可
能となり、従って、画像記録装置の記録時間を増加さ
せ、画像伝送におけるデータ転送速度を低減させること
が可能となる。
【図面の簡単な説明】
【図1】JPEGに基づく可逆圧縮符号化における画素
値の予測方法を示している。
【図2】JBIGに基づく符号化における画像縮小方式
(PRES)を示している。
【図3】JBIGによる符号化に使用するマルコフモデ
ルの画素配置を示している。
【図4】本発明の実施の形態で使用するマルコフモデル
の1つであるLineモデルに使用する3画素の配置を
示している。
【図5】本発明の実施の形態で使用するマルコフモデル
の1つであるFrameモデルに使用する3画素の配置
を示している。
【図6】本発明の実施の形態で使用するマルコフモデル
の1つであるFieldモデルに使用する3画素の配置
を示している。
【図7】本発明による動画像の可逆圧縮符号化装置の実
施の形態における構成をブロック図で示している。
【図8】本発明による動画像の可逆圧縮符号化装置の実
施の形態における他の構成をブロック図で示している。
【図9】複数準備された条件付確率分布テーブルの中か
ら1つを画像のシーンチェンジ情報に対してテーブルを
切り替え選択するように構成した本発明の一実施形態を
示している。
【図10】同じく切り替え方式の他の実施形態の構成を
示している。
【符号の説明】
1,1−1,1−2 Lineモデルに従った符号化回
路 2,2−1,2−2 Frameモデルに従った符号化
回路 3,3−1,3−2 Fieldモデルに従った符号化
回路 4−1,4−2,4−3,4 1フレーム遅延回路 5−1,5−2,5−3,5 代表点選択回路 6 比較器 7 デフォルトテーブル(Default Table) 8 ユニークテーブル(Unique Table) 9 オールドテーブル(Old Table) 10 ニューテーブル(New Table) 11 1フレーム遅延回路 SW1,SW1−1,SW1−2,SW2,SW3 切
り替えスイッチ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 奥田 治雄 東京都世田谷区砧1丁目10番11号 日本放 送協会 放送技術研究所内

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 複数のマルコフモデルとそれらマルコフ
    モデルのそれぞれに対応して使用される条件付確率分布
    テーブルとを具え、フレーム内の予め定められた複数の
    代表点画素を前記複数のマルコフモデルとそれらマルコ
    フモデルのそれぞれに対応して使用される少なくとも1
    つの条件付確率分布テーブルを用いてエントロピー符号
    化し、該符号化結果のビット総数が最小になったマルコ
    フモデルと対応して使用された条件付確率分布テーブル
    をフレーム単位で適応的に選択して、フレーム画像内の
    エントロピー符号化可能な全画素をエントロピー符号化
    するように構成したことを特徴とする動画像の可逆圧縮
    符号化装置。
  2. 【請求項2】 請求項1記載の可逆圧縮符号化装置にお
    いて、前記マルコフモデルに対応して使用される前記条
    件付確率分布テーブルは、それぞれのマルコフモデルに
    対応して複数準備された中から1つを画像のシーンチェ
    ンジ情報に対応して選択したものであることを特徴とす
    る動画像の可逆圧縮符号化装置。
  3. 【請求項3】 請求項2記載の可逆圧縮符号化装置にお
    いて、前記マルコフモデルに対応して使用される前記複
    数の条件付確率分布テーブルには、前フレームの画像デ
    ータに基づいて作成された条件付確率分布テーブルが含
    まれることを特徴とする動画像の可逆圧縮符号化装置。
  4. 【請求項4】 請求項2記載の可逆圧縮符号化装置にお
    いて、前記マルコフモデルに対応して使用される前記複
    数の条件付確率分布テーブルには、前フレーム画像の符
    号化に用いた条件付確率分布テーブルと前フレームの画
    像データに基づいて作成された条件付確率分布テーブル
    とを重み付け加算して求めた条件付確率分布テーブルが
    含まれることを特徴とする動画像の可逆圧縮符号化装
    置。
  5. 【請求項5】 請求項4記載の可逆圧縮符号化装置にお
    いて、前記条件付確率分布テーブルの重み付け加算は、
    前フレーム画像の符号化データ圧縮率に対応して予め定
    められた計算式に基づいて計算された重みづけ係数を適
    応的に選択する重み付け加算であることを特徴とする動
    画像の可逆圧縮符号化装置。
  6. 【請求項6】 複数のマルコフモデルとそれらマルコフ
    モデルのそれぞれに対応して使用される少なくとも1つ
    の条件付確率分布テーブルとを具え、記録側もしくは送
    信側から符号化データとともに記録もしくは送信され、
    記録側もしくは送信側でマルコフモデルおよびそれに対
    応して使用される条件付確率分布テーブルのいずれが選
    択されて符号化が行われたかを示すモデル識別フラグを
    再生もしくは受信して、該再生もしくは受信されたモデ
    ル識別フラグによって選択されるマルコフモデルおよび
    それに対応して使用される条件付確率分布テーブルに対
    応したエントロピー符号化の復号化を行うことを特徴と
    する動画像の可逆伸長復号化装置。
  7. 【請求項7】 請求項6記載の可逆伸長復号化装置にお
    いて、前記マルコフモデルに対応して使用される条件付
    確率分布テーブルが記録側もしくは送信側においてそれ
    ぞれのマルコフモデルに対応して複数準備された中から
    1つを画像のシーンチェンジ情報に対応して選択したも
    のであるとき、符号化データとともに記録側で記録さ
    れ、もしくは送信側で送信され、記録側もしくは送信側
    でいずれの条件付確率分布テーブルが選択されて符号化
    が行われたかを示すテーブル識別フラグを再生もしくは
    受信して、該再生もしくは受信されたテーブル識別フラ
    グに対応して選択される条件付確率分布テーブルに対応
    したエントロピー符号化の復号化を行うことを特徴とす
    る動画像の可逆伸長復号化装置。
  8. 【請求項8】 請求項7記載の可逆伸長復号化装置にお
    いて、符号化データとともに記録側で記録されもくしは
    送信側で送信され、そして再生側もしくは受信側におい
    て得られた乗算係数に対応して、前フレーム画像の復号
    化に用いた条件付確率分布テーブルと前フレームの画像
    データに基づいて作成された条件付確率分布テーブルと
    を重み付け加算して求めた条件付確率分布テーブルに対
    応してエントロピー符号化の復号化を行うことを特徴と
    する動画像の可逆伸長復号化装置。
JP33008297A 1997-12-01 1997-12-01 動画像の可逆圧縮符号化装置および可逆伸長復号化装置 Expired - Fee Related JP3902698B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP33008297A JP3902698B2 (ja) 1997-12-01 1997-12-01 動画像の可逆圧縮符号化装置および可逆伸長復号化装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33008297A JP3902698B2 (ja) 1997-12-01 1997-12-01 動画像の可逆圧縮符号化装置および可逆伸長復号化装置

Publications (2)

Publication Number Publication Date
JPH11164303A true JPH11164303A (ja) 1999-06-18
JP3902698B2 JP3902698B2 (ja) 2007-04-11

Family

ID=18228591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33008297A Expired - Fee Related JP3902698B2 (ja) 1997-12-01 1997-12-01 動画像の可逆圧縮符号化装置および可逆伸長復号化装置

Country Status (1)

Country Link
JP (1) JP3902698B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003092301A1 (en) * 2002-04-26 2003-11-06 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
JP2012531776A (ja) * 2009-07-01 2012-12-10 トムソン ライセンシング 算術符号化及び復号化方法

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8488669B2 (en) 2002-04-26 2013-07-16 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8619875B2 (en) 2002-04-26 2013-12-31 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
WO2003092301A1 (en) * 2002-04-26 2003-11-06 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8320467B2 (en) 2002-04-26 2012-11-27 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8325820B2 (en) 2002-04-26 2012-12-04 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8509311B2 (en) 2002-04-26 2013-08-13 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8477854B2 (en) 2002-04-26 2013-07-02 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8483280B2 (en) 2002-04-26 2013-07-09 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US7778331B2 (en) 2002-04-26 2010-08-17 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US9532068B2 (en) 2002-04-26 2016-12-27 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8571116B2 (en) 2002-04-26 2013-10-29 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8509312B2 (en) 2002-04-26 2013-08-13 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8611430B2 (en) 2002-04-26 2013-12-17 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
KR100969345B1 (ko) * 2002-04-26 2010-07-09 소니 주식회사 복호 장치 및 방법
US8649442B2 (en) 2002-04-26 2014-02-11 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8654862B2 (en) 2002-04-26 2014-02-18 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US8693550B2 (en) 2002-04-26 2014-04-08 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
US9088784B2 (en) 2002-04-26 2015-07-21 Sony Corporation Coding device and method, decoding device and method, recording medium, and program
JP2012531776A (ja) * 2009-07-01 2012-12-10 トムソン ライセンシング 算術符号化及び復号化方法

Also Published As

Publication number Publication date
JP3902698B2 (ja) 2007-04-11

Similar Documents

Publication Publication Date Title
US8532187B2 (en) Method and apparatus for scalably encoding/decoding video signal
KR101041823B1 (ko) 기준 픽쳐를 이용하여 비디오 신호를 인코딩/디코딩하는 방법 및 장치
US6173013B1 (en) Method and apparatus for encoding enhancement and base layer image signals using a predicted image signal
US7263125B2 (en) Method and device for indicating quantizer parameters in a video coding system
JP3888597B2 (ja) 動き補償符号化装置、及び動き補償符号化復号化方法
US8619854B2 (en) Scalable video encoding and decoding method using switching pictures and apparatus thereof
JP3856262B2 (ja) 動き補償符号化装置、動き補償符号化方法、及び動き補償符号記録媒体
JP3840895B2 (ja) 動画像符号化データ変換装置及びその方法
JPH06197334A (ja) 画像信号符号化方法、画像信号復号化方法、画像信号符号化装置、画像信号復号化装置及び画像信号記録媒体
JPH104550A (ja) Mpeg−2復号方法及びmpeg−2ビデオ復号器
KR19990072968A (ko) 화상신호처리시스템,디코더,화상신호처리방법,및디코딩방법
KR100883603B1 (ko) 기준 픽쳐를 이용하여 비디오 신호를 디코딩하는 방법 및장치
US20060133677A1 (en) Method and apparatus for performing residual prediction of image block when encoding/decoding video signal
US20060120454A1 (en) Method and apparatus for encoding/decoding video signal using motion vectors of pictures in base layer
JPH0937243A (ja) 動画像符号化装置及び復号装置
US20060120459A1 (en) Method for coding vector refinement information required to use motion vectors in base layer pictures when encoding video signal and method for decoding video data using such coded vector refinement information
US20070223573A1 (en) Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer
US20070242747A1 (en) Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer
JPH10136381A (ja) 動画像符号化復号化装置及びその方法
KR20060069227A (ko) 영상신호의 엔코딩/디코딩시에 영상블록을 위한 모션벡터를베이스 레이어 픽처의 모션벡터로부터 유도하는 방법 및장치
JP3902698B2 (ja) 動画像の可逆圧縮符号化装置および可逆伸長復号化装置
US6490321B1 (en) Apparatus and method of encoding/decoding moving picture using second encoder/decoder to transform predictive error signal for each field
KR20060059773A (ko) 베이스 레이어 픽처의 벡터를 이용하는 영상신호의엔코딩/디코딩 방법 및 장치
JPH07107464A (ja) 画像符号化装置および復号化装置
JP3480980B2 (ja) 画像信号伝送方法及び装置、並びに画像信号復号化方法及び装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060214

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060324

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060712

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061003

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070104

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110112

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120112

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees