JP4174111B2 - 符号化方法及び装置 - Google Patents
符号化方法及び装置 Download PDFInfo
- Publication number
- JP4174111B2 JP4174111B2 JP30431898A JP30431898A JP4174111B2 JP 4174111 B2 JP4174111 B2 JP 4174111B2 JP 30431898 A JP30431898 A JP 30431898A JP 30431898 A JP30431898 A JP 30431898A JP 4174111 B2 JP4174111 B2 JP 4174111B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- block
- encoding
- memory
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
本発明は、一般に符号化方法および装置に関し、詳しくは効果的に画像を伝送するための効率の高い画像符号化を行う符号化方法及び装置に関する。
【0002】
【従来の技術】
国際標準化機構(International Organazation for Standardization;ISO)はJPEG(Joint Photographic Experts Group)と呼ばれる従来の画像圧縮のための標準化体系を公表している。この体系は、離散コサイン変換(Discrete Cosine Transformation;DCT)を画像に適用して画像をDCT係数に変換することにより画像の最適化符号化又は復号を与える。この体系は、符号化された情報を表すために比較的多数のビットが使われているときに最も効率よく働く。しかし、符号化された情報を表すためのビットの数がある所定値より小さいと、そのようなDCT変換に生来のブロック歪みが顕著になり、画像の質は見ている人が気づくほどに劣化する。
【0003】
JPEGとDCTの手順のこのような欠陥に応じて、新しい反復変換システム(反復関数体系;Iterated Function System;IFS)が提案され、賛意を獲得しつつある。このIFSの技術は、画像の部分の間の自己相似性に着目したものであって、フラクタル幾何学に基づくものである。IFSは、特定の画像の様々な部分は、たとえこれらが異なった大きさ(サイズ)、位置、遠近法または方向であっても、類似しているという仮定の下に働く。IFSは、JPEG体系で生成されるかもしれないブロック歪みなしに画像を効率的に符号化するために、画像の冗長度を利用している。従って、IFSは、符号化された情報を表すために用いられたビット数に殆ど依存することがなく、復号中における解像度は、符号化された情報を表すために比較的少数のビット数が用いられたときにも影響を受けない。
【0004】
IFSの基本構造は、Arnaud E. Jaquinの“反復縮小画像変換のフラクタル理論に基づく画像符号化(Image Coding Based on a Fractal Theory of Iterated Image Transformations)”,IEEE Transactions on Image Processing,Vol.1,No.1,pp.18-30という題名の学位論文に述べられている。さらに、全てBarnsley他に発行された、米国特許の第5347600号、第5065447号及び第4941193号に記述されている。これらの参考文献に一般的に説明されている符号化及び復号装置は、ここで先行技術の図15及び図16により記述される。
【0005】
最初に図15を参照すると、符号化装置の従来の操作が示されている。図15に示されるように、原画像300はブロック生成回路200に入力され、そこで複数のブロック301に分割される。全てのブロック301は合わせて原画像300を完全に覆うが、互いに重なることはない。原画像300はまた先行技術で知られているような方法によって縮小した大きさの縮小画像307を作成する縮小画像生成回路202に送られる。縮小画像は先に送られて縮小画像蓄積回路204に蓄積される。
【0006】
各ブロック301は近似領域探索回路201に送られるが、近似領域探索回路では縮小画像蓄積回路204に蓄積された縮小画像307を探索することにより探索される特定ブロック301に類似の縮小画像の部分があるかどうかを決定する。上述のように、この探索は、探索されているブロック301とは異なった大きさ、部分、遠近法、又は方向の縮小画像307の部分の探索を含んでいる。最も近似した部分の成功した探索を示す検知された結果に従って、縮小画像307内で選択された部分305を特定する近似ブロック位置情報306は、縮小画像蓄積回路204に伝送される。このように示された結果に応じて、縮小画像蓄積回路204に蓄積された縮小画像307の選択された部分305は抽出され、回転/反転/レベル値変換回路203に伝送される。
【0007】
回転/反転/レベル値変換回路203において、縮小画像307の部分305は、近似領域探索回路201から供給される変換パラメータ304に従った回転/反転/レベル値変換によって処理される。変換パラメータ304は、縮小画像307の選択された部分305のブロック301へ変換する変換を示している。これらのパラメータは、縮小画像307の特定の部分305が、探索されているブロック301に最も近く対応していることが見いだされたときに決定される。回転/変転/レベル値変換回路203による変換をすると、変換縮小画像303は近似領域探索回路201に送られる。結果として、変換パラメータ304と近似ブロック位置情報306は、IFS符号302として出力される。よって、第1の画像はこのシステムへ入力され、出力は、第1の画像の第1のブロックを縮小画像の近似した第2のブロックへ変換するための変換パラメータおよび符号化された画像内の第2のブロックの位置を決定するための位置情報を少なくとも含んでいる。
【0008】
次に図16を参照すると、復号装置が示されているが、図15に示した符号化装置から出力される変換パラメータと近似ブロック位置情報302を含むIFSコードが、IFS符号蓄積回路205に入力されて蓄積される。IFS符号302はこれに引き続いてIFS符号蓄積回路205から各ブロックごと読み出され、IFS符号読み出し回路206に送られる。IFS符号読み出し回路206は、符号化装置により生成されたように、符号を近似ブロック位置情報306と変換パラメータ304に分割する。近似ブロック位置情報306は、近似ブロック位置情報306により特定される縮小画像の領域を再現するために、そして縮小画像蓄積回路204に送られる。特定された領域に対応する縮小画像蓄積回路204に蓄積された縮小画像の部分305は、そして回転/反転/レベル値変換回路203に伝送され、IFS符号読み出し回路206から供給される変換パラメータ304に従って変換される。変換の結果の変換画像303は、回転/反転/レベル値変換回路203から送られ、復号画像蓄積回路208に蓄積される。この手順は、IFS符号が与えられた各ブロックに実行される。
【0009】
全てのブロックについての全てのIFS符号が読み出されると、IFS読み出し回路206は読み出し終了(READ OUT END)表示信号を複写制御回路207に送る。複写制御回路207は実行された再帰的な復号/複写の回数を計数し、この回数が予め設定された数に達していないと、複写制御回路207は再帰的な復号手順に従って画像内の全ブロックの複合処理を続行するために再処理制御命令309をIFS符号読み取り回路206に送る。同時に、再処理命令情報は一部復号された画像データ313を情報経路314を通じて縮小画像生成回路202に送るために制御信号311を通じて送られる。縮小画像生成回路202はそして縮小画像陸蓄積回路204に蓄積された画像を書き換えるためと一部復号された縮小画像データ315で次の再帰的な復号工程を可能とするために符号化装置と同様の方法によって復号された画像データ313の一部復号された復号画像315を生成する。再帰的な復号操作が所定の数行われると、よって複写操作が所定の数行われると、再処理命令情報が復号画像出力制御信号311によってスイッチ209に送られる。スイッチ209は復号画像蓄積回路208からの復号画像データ303を画像出力ポート316に結びつけるように制御されている。復号画像データ313は予め設定され多数反復して再帰的に符号化された上述の復号ブロックの全ての画像データから構成され、制御信号312に従って復号が増築積回路312から読み出される。
【0010】
【発明が解決しようとする課題】
上述の従来の技術では、全画像および縮小/変換画像における任意の位置に位置するブロック間の類似の近似度が計測され、最も似たブロックの位置情報(近似ブロック位置情報)とその変換パラメータがあり得る候補の全てから選択される。多くの場合には、ブロックを復号するのに必要な参照ブロックはそのブロックから離れた位置に位置している。このような場合には、画像のブロックの全てを実質的に蓄積する大容量の画像メモリが復号装置および符号化装置に保持されなければならず、メモリは頻繁にアクセスされることになる。従って、上述の欠点を克服するような改良が与えられると有益である。
【0011】
上述の課題に鑑み、本発明は、小さい容量のメモリで画像の復元を可能とする符号化方法及び装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
上述の課題を解決するために、本発明に係る符号化方法は、画像の各ブロックを反復変換符号化する符号化方法において、入力画像を第1の画像メモリに蓄積する工程と、符号化画像の反復変換復号を実行するように復号側の第2の画像メモリの最大許容メモリ容量を示す容量情報を受け取る工程と、蓄積された入力画像を上記受け取られた容量情報に従って分割して探索範囲を決定する工程と、上記決定された探索範囲内で上記各ブロックを反復変換符号化する工程とを有し、上記反復変換符号化する工程は、上記入力画像から第1の画像ブロックを生成する工程と、上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する工程と、写像関数により上記第2の画像ブロックを変換する工程と、上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する工程と、上記選択された第2の画像ブロックの位置を示す符号位置情報を出力する工程と、上記選択された第2の画像ブロックを表す変換パラメータを出力する工程とを有するものである。
【0013】
本発明に係る符号化方法は、画像の各ブロックを反復変換符号化する符号化方法において、入力画像を画像メモリに蓄積する工程と、上記画像メモリの最大許容メモリ容量を示す容量情報を生成する工程と、上記入力画像を上記最大許容メモリ容量に従って分割して探索範囲を決定する工程と、上記決定された探索範囲内で上記画像の上記各ブロックを上記画像メモリを用いて反復変換符号化して符号化ビットストリームを生成する工程と、上記生成された符号化ビットストリームおよび上記容量情報を出力する工程とを有し、上記反復変換符号化する工程は、上記入力画像から第1の画像ブロックを生成する工程と、上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する工程と、写像関数により上記第2の画像ブロックを変換する工程と、上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する工程と、上記選択された第2の画像ブロックの位置を示す符号位置情報を出力する工程と、上記選択された第2の画像ブロックを表す変換パラメータを出力する工程とを有するものである。
【0014】
本発明に係る符号化装置は、画像の各ブロックを反復変換符号化する符号化装置において、入力画像を第1の画像メモリに蓄積する手段と、符号化画像の反復変換復号を実行するように復号側の第2の画像メモリの最大許容メモリ容量を示す容量情報を受け取る手段と、蓄積された入力画像を上記受け取られた容量情報に従って分割して探索範囲を決定する手段と、上記決定された探索範囲内で上記受け取られた容量情報に従って上記各ブロックを反復変換符号化する手段とを有し、上記反復変換符号化する手段は、上記入力画像から第1の画像ブロックを生成する手段と、上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する手段と、写像関数により上記第2の画像ブロックを変換する手段と、上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する手段と、上記選択された第2の画像ブロックの位置を示す符号位置情報を出力し、上記選択された第2の画像ブロックを表す変換パラメータを出力する手段とを有するものである。
【0015】
本発明に係る符号化装置は、画像の各ブロックを反復変換符号化する符号化装置において、入力画像を画像メモリに蓄積する手段と、上記画像メモリの最大許容メモリ容量を示す容量情報を生成する手段と、上記入力画像を上記最大許容メモリ容量に従って分割して探索範囲を決定する手段と、上記決定された探索範囲内で上記画像の上記各ブロックを上記画像メモリを用いて反復変換符号化して符号化ビットストリームを生成する手段と、上記生成された符号化ビットストリームおよび上記容量情報を出力する手段とを有し、上記反復変換符号化する手段は、上記入力画像から第1の画像ブロックを生成する手段と、上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する手段と、写像関数により上記第2の画像ブロックを変換する手段と、上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する手段と、上記選択された第2の画像ブロックの位置を示す符号位置情報を出力し、上記選択された第2の画像ブロックを表す変換パラメータを出力する手段とを有するものである。
【0021】
画像の各ブロックを符号化する反復変換符号化の方法では、入力画像は第1の画像メモリに蓄積される。容量情報は符号化画像の反復変換復号を実行するように第2の画像メモリの最大許容メモリ容量を示して受け取られる。探索範囲は蓄積された入力画像において決定され、各ブロックは決定された探索範囲内で受け取った容量情報に従って反復変換符号化される。
【0022】
本発明の一面に従うと、決定された探索領域内の入力画像の部分はローカル目メモリに蓄積される。
【0023】
本発明の他の面に従うと、反復変換符号化は入力画像からの第1の画像ブロックの生成、決定された探索範囲内での入力画像の部分からの複数の第2の画像ブロックの生成、予め設定された操作による第2のブロックの変換、第1の画像ブロックに最も似た変換された第2の画像ブロックの選択、選択された第2のブロックの位置を示す符号位置情報の出力、選択された第2の画像ブロックの変換を表す変換パラメータの出力から構成されている。
【0025】
【発明の実施の形態】
本発明に従った符号化方法及び装置、並びに復号方法及び装置の好適な実施の形態について、図面を参照して説明する。
【0026】
最初に、符号化および復号装置について、図1を参照して述べる。この符号化および復号装置は、入力された画像を符号化して符号語のビットストリームである符号化ビットストリーム101を出力する符号化装置1と、符号化ビットストリーム101を受け取って復号して復号画像を生成する復号装置2とを含んでいる。
【0027】
符号化および復号装置では、符号化装置1は、原画像データが入力されて蓄積される画像メモリ部6と、画像メモリ部6から供給される画像データ112、113を符号化する反復変換符号化部3と、反復変換符号化操作に用いる最大許容メモリ容量情報102に基づいて探索範囲を決定する探索範囲決定部9とを含んでいる。反復変換符号化部3からの符号化ビットストリーム101は、通信ネットワークを介して復号装置2に供給される。復号装置2は、符号語の符号化ビットストリームを復号して復号画像を出力する反復変換復号部4と、復号画像が蓄積される画像メモリ部15と、画像メモリ部15の復号可能な最大許容メモリ容量を決定して復号可能な最大許容メモリ容量を示す最大許容メモリ容量を出力する最大許容メモリ容量決定部140とを有している。
【0028】
符号化および復号装置の操作について、ここで説明する。復号装置2は、画像メモリ部15の復号最大許容メモリ容量を決定する。従って、復号装置2が符号化装置1によって符号化されて出力された符号化ビットストリームを復号するには、符号化装置1は、復号装置2から出力される最大許容メモリ情報102に基づいて符号化操作を実行しなければならない。
【0029】
よって、符号化装置1は、数値化された入力された画像データ100を最大許容メモリ容量情報102により決定された領域内で反復変換符号化を実行する。この反復変換符号化は、後に詳細に記述される。
【0030】
符号化および復号の一連の処理について、ここで図2のフローチャートを参照して説明する。ステップS11では、画像メモリ部15の復号可能最大許容メモリ容量は最大許容メモリ容量決定部140によって決定され、復号可能な最大許容メモリ容量を示す最大許容メモリ容量情報102は符号化装置1に与えられる。そしてステップS12では、符号化される入力された画像の範囲が探索範囲決定部9により与えられた最大許容メモリ容量情報102に従って決定され、探索範囲情報114は画像メモリ部6に与えられる。これに続くステップS13では、画像メモリ部6から与えられた範囲の入力された画像データは、反復変換符号化部3により符号化ビットストリームに符号化される。その結果、符号化ビットストリーム101は復号装置2に与えられる。そして、操作はステップS14に進む。ステップS14では、符号化装置1からの符号化ビットストリームは、反復変換復号部により復号されて復号画像が生成される。
【0031】
ネットワークを用いて情報信号(符号化ビットストリーム)を伝送する情報信号伝送装置について、ここで図3を参照して説明する。本発明に従った情報信号伝送装置は、画像データ100を符号化して符号化ビットストリーム101を生成してネットワーク18に伝送する符号化装置1と、符号化ビットストリームをネットワーク18から受け取って復号画像103を生成することにより復号ビットストリームを復号する第1の復号装置21と、第1の復号装置21と同じ機能を実行する第Nの復号装置2nと、復号ビットストリーム101および他の情報信号を伝送するように第1の復号装置1、第1の復号装置21および第Nの復号装置2nに接続されたネットワーク18とを含んでいる。第1の符号化装置1の構造は図1の符号化装置1と同じであり、第1および第Nの復号装置21、2nの構造は図1の復号装置2と同じである。
【0032】
図3の情報信号伝送装置の操作について、ここで説明する。ネットワーク18上の複数の復号装置の内の一つの復号装置から、復号装置の画像メモリ部15の最大許容メモリ容量を示す最大許容メモリ容量情報102がネットワーク18に出力される。例えば、復号が第Nの復号装置2nによって実行される場合には、第Nの復号装置2nからの最大許容メモリ容量情報102がネットワーク18に伝送されてそして符号化装置1に与えられる。
【0033】
最大許容メモリ容量情報を受け取った符号化装置1は、受け取った情報に基づいて反復変換符号化を実行して符号化ビットストリーム101を生成する。符号化装置1はそして符号化ビットストリーム101をネットワーク18上に伝送する。符号化ビットストリーム101は第Nの復号装置2nに与えられ、第Nの復号装置2nは画像データ103を復号して出力する。
【0034】
ネットワーク18上で受け取られたデータは効率のためにしばしばパケット化された伝送データ(パケット)の形で伝送される。
【0035】
本発明の他の具体例に従ったネットワークを用いた情報信号伝送装置について図4を参照して説明する。この情報信号伝送装置は画像データ100を符号化して符号化ビットストリーム101を生成してネットワークに伝送する符号化装置5と、ネットワーク18から受け取った符号化ビットストリーム101を復号して復号画像データ103を生成する第1の復号装置21と、第1の復号装置21と同じ機能を実行する第Nの復号装置2nと、符号化ビットストリーム101および他の情報信号を伝送するように符号化装置5、第1の復号装置21および第Nの復号装置2nに接続されたネットワーク18と、復号装置を選択する復号装置選択部10とを含んでいる。第1および第Nの復号装置21、2nの構造は図1の復号装置2の構造と同じである。しかし、符号化装置5の構造は図1の符号化装置1の構造と異なっている。すなわち、上で図1を参照して説明したように、符号化装置1はある復号装置2から最大許容メモリ容量情報102を受け取るが、符号化装置5はその内部に有する画像メモリ部の最大許容メモリ容量情報を示す最大許容メモリ容量情報131を出力する。
【0036】
符号化装置の詳細な構造について以下で説明する。符号化装置5は内部の画像メモリ部の容量に従ってステップとして原画像データ100を入力し、原画像データ100を反復変換符号化を用いて符号化する。得られた符号化ビットストリーム101および符号化装置5の画像メモリ部の最大許容メモリ容量を示す最大許容メモリ容量情報131は図4に示すようにネットワーク18に伝送される。
【0037】
第1および第Nの復号装置21、2Nのそれぞれは、それぞれの画像メモリ部の最大許容メモリ容量を示す最大許容メモリ容量情報102をネットワーク18に伝送する。
【0038】
図4はまたネットワーク18に備えられた復号装置選択部20を図示している。符号化装置5からの最大許容メモリ容量情報13および復号装置21、2nからの最大許容メモリ容量情報102は比較され、符号化装置5の最大許容メモリ容量を有する復号装置が復号装置選択部20によって選択される。符号化ビットストリーム101はそして復号装置選択部20によって選択された復号装置にネットワーク18を介して伝送される。符号化ビットストリーム101は選択された復号装置に与えられ、そして復号画像データ103が復号されてそこから出力する。
【0039】
符号化装置の第1の具体例についてここで図5を参照して説明する。この具体例によると、符号化装置は、画像データ100が蓄積される画像メモリ部6と、外部から入力される最大許容メモリ情報102に基づいて反復変換符号化を実行するのに用いるとともに制御信号114により画像メモリ部6からの読み取り操作を制御するために探索範囲を決定する探索範囲決定部9と、反復変換符号化を実行して符号化ビットストリーム101を生成する反復変換符号化部3とを含んでいる。反復変換符号化部3は、画像メモリ部6から読み出された画像データ112から第1のブロック画像データ115を生成する第1のブロック画像生成部7と、画像メモリ部6から読み出された画像データ113から第2のブロック画像データ119を生成する第2のブロック生成部8とを有している。好適な具体例では、第2のブロック画像データは第1の画像データの2倍の大きさである。
【0040】
反復変換符号化部3はまた第2のブロック画像データを写像して変換された第2のブロック画像データ107を生成する変換/生成部11と、変換された第2のブロック画像データ107と画像データ112との類似の近似度を計測する近似度計測/閾値処理部10と、選択された第2のブロック画像データの番号または番地および変換パラメータを符号化/多重化して符号化ビットストリーム101を出力する符号化/多重化部13とを含んでいる。
【0041】
第1の具体化の符号化装置の操作について図6に示すフローチャートを参照してここで説明する。ステップS31では、入力された画像データ100は画像メモリ6に蓄積される。ステップS32では、最大許容メモリ容量を示す最大許容メモリ容量情報102が復号装置のような外部の装置から供給される探索領域決定部9は、受け取った最大許容メモリ容量情報102に従って近似ブロック探索領域内の探索範囲を計算する。例えば、最大許容メモリ容量が100Kbitsの場合には、100Kbits=316bits×316ラインであるので、316の縦方向(longitudinal)および316の横方向(lateral )のビットにより定義される領域が最大許容探索範囲である。操作はステップS33に進む。
【0042】
ステップS33では、反復変換符号化操作が決定された最大許容探索範囲に基づいて実行され、符号化ビットストリームが生成される。
【0043】
図6に示すステップS33に対応する反復変換符号化部3の操作について図7のフローチャートを参照して説明する。ステップS21では、制御信号118を用いた制御部12の制御の下に、画像データ112は画像メモリ部6から第1のブロック生成部7に供給される。さらに、制御信号114を用いた探索範囲決定部9の制御の下に、画像データ113は、第1の画像データ115の位置および最大許容メモリ容量情報102に基づいた探索範囲に対応して、画像メモリ部6から第2のブロック生成部8に与えられる。そして、第1のブロック生成部7は画像データ112から第1のブロック画像115を生成する。同様に、第2のブロック画像生成部8は探索領域に対応した画像データ113から第2のブロック画像データ119を生成する。これに続くステップS22では、第2のブロック画像データ119は画像変換/生成部11により写像され、変換された第2のブロック画像データ107が生成される。そして、操作はステップS23に進む。
【0044】
写像変換についてはは反復変換符号化の基本的な理論の記述において以下で説明する。
【0045】
図7の説明を続けると、ステップ23では、近似度計測/閾値処理部1は誤差を計算し、すなわち変換された第2のブロックデータ17と第1のブロック画像データ115との類似の近似度を計算する。これに続くステップS24では、計算された類似の近似度が予め設定された閾値(TH)と比較される。誤差が閾値より小さいと、すなわち、誤差<THであると“YES”決定が得られて操作はステップS25に進む。ステップS25では、制御信号22を用いた制御部12の制御の下に第2のブロックデータが候補として選択され、操作はステップS26に進む。上記条件(誤差<TH)が充足されないと、“NO”決定が得られて操作はステップS26に進む。
【0046】
ステップS26では、探索領域の全ての第2のブロック画像データの写像が完了したか否かが決定される。全ての第2のブロック画像データの処理が終えられると、“YES”決定が得られて操作はステップS27に進む。そうでないと、“NO”決定が得られて操作はステップS22に戻ってそして次の第2のブロック画像データに同様の操作が実行される。ステップS27では、候補として選択された全ての第2のブロック画像データの中から第1のブロック画像データからの誤差が最小となったときの第2のブロックデータが制御信号122にて制御部12によって選択され、操作はステップS28に進む。ステップS28では、選択された第2のブロック画像の位置情報としての番号または番地および変換パラメータ121が符号化/多重化部12に伝送される。操作はそしてステップS29に進む。ステップS29では、全ての第1のブロック画像データの処理が完了したか否かが決定される。全ての第1のブロック画像データの処理が終えられると、処理はステップS30に進む。そうでないと、操作はステップS21に戻り、そして次の第1のブロック画像データに同じ操作が実行される。
【0047】
ステップS30では、第1のブロック画像の番号または番地の順序で、類似の最高の近似度を有する選択された第2のブロック画像の番号または番地120および変換パラメータ121が、符号化および多重化され、そして符号化/多重化部12から符号化ビットストリーム101として出力される。
【0048】
探索範囲決定部9の詳細な操作についてここで説明する。探索範囲決定部9は、第1のブロック画像データ115および最大許容メモリ容量情報102から、現符号化標的ブロックとしての第1のブロック画像データの位置に基づいて標的領域を決定し、探索範囲値(制御信号)114を画像メモリ部6に出力する。
【0049】
例えば、上述のように原画像の大きさが720画素×720ラインで最大許容メモリ容量が100Kbitであると、最大許容メモリ情報から計算された分割画面の数は、横方向(lateral)に2、縦方向(longitudinal )に2、総計4である。
【0050】
探索領域値114により設定された領域からの画像データ113は画像メモリ部6から第2のブロック生成部8に出力される。
【0051】
図8に示されるように、例えば、第1のブロック画像がRmであると、探索範囲値114は領域2を示し、同じ領域の画像データ113は画像メモリ部6から読み出される。
【0052】
各部についてここで詳細に説明する。最初に、本発明の具体例の技術としての反復変換符号化/復号の基本的な理論について図9を参照して説明する。
【0053】
反復変換符号化はドメインブロックから画面(画像)を構成する全てのレンジブロックへの縮小(還元)写像を繰り返し実行する記述である。この点について、最も近似したドメインブロックの位置情報および変換パラメータは各レンジブロックについて符号化される。
【0054】
図9では、レンジブロックRkは第1のブロック画像データ115に対応しドメインブロックDkは第2のブロック画像データ119に対応している。レンジブロックRkのブロックの大きさはm×nと定義され、ドメインブロックDkのブロックの大きさはM×Nと定義される。図9では、この画像内にL×Lのレンジブロックデータが存在することが示されている。レンジブロックとドメインブロックのブロックの大きさは符号化効率に影響する要素であり、従って、ブロックの大きさの決定は重要である。
【0055】
画像変換/生成部11によって実行されるブロック画像変換はドメインブロックDkをレンジブロックRkに変換するものである。ブロックkの写像関数がwkで全画面の写像変換に要する第2のブロック画像の数がPであると、画像fは前画像の写像関数Wによって次の式(1)のように変換される。
W(f)=w1(f)∪w2(f)∪・・・∪wP(f) (1)
従って、Wは次の式(2)によって表現される。
W=∪P k=1Wk (2)
写像関数Wとしては、収束する限りは任意の関数が選択される。収束を確保するために、縮小写像が典型的に用いられる。加えて、アフィン変換が処理を簡単にするためにしばしば用いられる。
【0056】
ドメインブロックDkがレンジブロックRkにアフィン変換によって写像される場合は次に式(3)によって表現され、実際の変換関数はviとされる。
【0057】
【数1】
【0058】
この式(3)によって、2ブロック間の縦方向および横方向の移動、縮小、拡大の全ての変換が表現される。
【0059】
上述の変換は空間座標についてであるが、明度や色彩相違情報のような密度値に関連する画像値についての写像変換も同様にして行われる。この場合には、簡単のために、Dk内の画素値diからRk内の画素値riへの変換の関係表現は次の式(4)にて示される。
vi(di)=c×di+b (4)
この式(4)では、cはコントラストとbは輝度(ブライトネス)と定義される。
【0060】
この場合には、レンジブロックRkの画像値riから相違の最小平方和を実現するパラメータcおよびbは、次の(5)式のように計算される。
Σ(c×di+b−ri)2→最小値 (5)
画像変換/生成部11は式(3)によって表現される回転、縦方向および横方向の移動、縮小、拡大のような一連のアフィン変換を実行し、画面内で第2のブロック画像データ119について位置変換を実行する。
【0061】
図9では、画面の下右の部分に位置しているドメインブロックDkは画面の上左の部分に位置しているレンジブロックRkに写像される。ブロックの画素の密度値の変換方法としては、アフィン変換が同様に用いられる。
【0062】
特に、第2のブロック画像データ119について、式(3)の変換係数(ai,b ,ci,di,ei,fi)を種々の組み合わせに変更して実行され、それによって変換された第2のブロック画像データ107が得られる。そして、変換された第2のブロック画像データ107と第1のブロック画像データ115の間の類似の近似度が測定される。
【0063】
類似の近似度を測定する方法としては、これらの画像の誤差の絶対値の和が使用される。
【0064】
復号装置の具体例についてここで図10を参照して説明する。復号装置は符号化ビットストリームを受け取って反復変換復号を実行して復号画像を生成する反復変換復号部4と、反復変換復号により処理された復号画像を蓄積する画像メモリ部15と、画像メモリ部15の最大許容メモリ容量を示す最大許容メモリ容量情報102を生成する最大許容メモリ容量決定部140とを含んでいる。
【0065】
反復変換復号部4は受け取った符号化ビットストリームを復号して多重化を分解して第1のブロック画像の番号または番地117、第2のブロック画像の番号または番地120および変換パラメータ120を生成する復号/分解部25を含んでいる。変換元ブロック再現部14は第2のブロック画像の番号または番地120に基づいて、画像メモリ部15から供給される画像データ124から変換元ブロック画像データ122を再現する。画像変換/生成部11は変換パラメータ121に基づいて、変換元ブロック再現部14によって再現された変換元ブロック画像データ122に写像変換を実行し、画像メモリ部15に変換されたブロック画像123を与える。制御部16は反復変換復号操作の数が予め設定された数に達するまで反復変換を制御する。
【0066】
復号装置の操作についてここで図11のフローチャートを参照して説明する。ステップS41では、復号される画像データを蓄積するために画像メモリ部15の最大復号容量として最大許容メモリ容量情報102が計算され、外部の符号化装置にネットワークを通じて伝送される。そして復号装置の操作はステップS42に進む。ステップS42では、符号化装置からの符号化ビットを受け取ったか否かが決定される。符号化ビットが受け取られていると、操作はステップS43に進む。そうでないと、処理は待ち状態にある。ステップS43では、復号装置の反復変換操作は画像メモリ部を用いて符号化ビットに行われ、そして復号画像が出力される。
【0067】
次に、図11のステップS43に対応する反復変換復号部4の操作について図12を参照して説明する。ステップS52では、符号化ビットストリーム101は復号/分解部25によって復号/分解されて次の符号語が生成される:第1のブロックの番号または番地117、第2のブロックの番号または番地120および変換パラメータ121。操作はステップS53に進む。ステップS53では、第2のブロック画像の位置情報としての番号または番地120に基づいて、変換元ブロックデータ122が画像メモリ部15の画像データから再現されてそして変換生成部11に与えられる。ステップS54では、変換パラメータ121によって設定された写像変換が画像変換/生成部11によって変換元ブロック再現部14によって再現された変換元ブロック画像データ122について実行される。変換されたブロック画像がそして生成される。操作はステップS55に進む。変換されたブロック画像データ(復号ブロック画像)123は第1のブロック画像の番号または番地(位置情報)の位置に、画像メモリ部15に蓄積される。ステップS56では、画像画面の全ての第1のブロックの画像データの復号操作が処理されたか否かが決定される。全ての第1のブロック画像データの処理が処理されていると、操作はステップS57に進む。そうでないと、操作はステップS53に戻り同じ操作が次のブロック画像データに対して行われる。
【0068】
ステップS57では、反復変換操作が続行されるか否かが制御部16によって決定される。これは、反復変換操作の数が予め設定された数に達したかどうかによって決定される。反復変換操作を続行することが必要であると、すなわち、予め設定する得た反復変換処理の数に達していないと、制御信号117が変換元ブロック再現部14に生成される。操作はそしてステップS53に戻る。反復変換操作の数が予め設定された数に達していると、処理はステップS58に継続する。
【0069】
ステップS58では、最終的に復号画像データ125は画像メモリ部15に蓄積され復号画像データとして制御部16により出力される。
【0070】
図1および図3の符号化装置の第2の具体例についてここで図13を参照して説明する。符号化装置は入力された画像データ100が蓄積される画像メモリ部6と、最大許容メモリ容量情報102に基づいて反復変換符号化を実行する際に探索範囲を決定するとともに画像メモリ部6を制御する探索範囲決定部9と、反復変換を実行して符号化ビットストリーム101を生成する反復変換符号化部3とを含んでいる。第1の符号化装置とは異なって、反復変換符号化部3は、読み出し操作が第1の符号化器1とは異なった画像メモリ部6から読み出された画像を一時的に蓄積するローカルメモリ部を含んでいる。
【0071】
反復変換符号化部3は本発明の第2の具体例に従ってローカルメモリ部17から取り出された画像データ129から第1のブロック画像115を生成する第1のブロック画像生成部7と、ローカルメモリ部17から取り出された画像データ130から第2のブロック画像データを生成する第2のブロック画像生成部8とを含んでいる。反復変換符号化部3はまた画像変換/生成部11によって変換された画像と第1のブロック画像の類似の近似度を計測して閾値を処理する近似度計測/閾値処理部10と、第2のブロック画像を社蔵して変換された痔亜2の部録画像データ107を生成する画像変換/生成部11とを含んでいる。
【0072】
第2の具体例の符号化装置はさらに画像メモリ部6からとローカルメモリ部17からの画像の読み出しを制御する制御部12と、第2のブロック画像の番号または番地および変換パラメータを符号化/多重化して符号化ビットストリームとして出力する符号化/多重化部とを有している。
【0073】
符号化装置の第2の具体例の操作についてここで説明する。この符号化装置は符号化装置の第1の具体例とは領域画像データ127が探索範囲決定部9からの探索範囲値(制御信号)114および制御部12からの制御信号123に従って画像メモリ部6からローカルメモリ部17に続けて伝送されることが相違している。
【0074】
例えば、符号化装置の第1の具体例で記述した許容メモリ容量および画像の大きさの条件の下では、画像メモリ部6からは4つの領域が続いて読み出され、ローカルメモリ部17に一時的に蓄積される。その後、制御信号118を用いて制御部12の制御の下にローカルメモリ部17から読み出された画像データ129および画像データ130は第1および第2のブロック画像データ115、119を生成するために第1のブロック画像生成部7および第2のブロック画像生成部8に与えられる。
【0075】
画像メモリ部6およびローカルメモリ部17は異なったメモリ型から構成されている。ローカルメモリ部17は画像メモリ部6より頻繁にアクセスされるので、SDRAM(Synchronous Dynamic Random Access Memory)が用いられる。他には、CPU(central processing unit )に取り付けられたキャッシュメモリも用いることができる。
【0076】
符号化装置の第3の具体例は画像メモリ部6に代わって制御信号118を用いて制御部12の制御の下に、入力された画像を一時的に蓄積してブロック画像データ129を第1のブロック生成部7に供給し、ブロック画像データ130を第2のブロック画像生成部8に供給するローカルメモリ部17と、符号化装置の第1の具体例の探索領域決定部9とを含んでいる。
【0077】
図14に示すように、ローカルメモリ部17はネットワークに出力するローカルメモリ部17の最大許容メモリ容量を示す最大許容メモリ容量情報131も生成する。第3の具体例の他の部分の構造および操作は符号化装置の第1および第2の具体例と同じであり、それらの説明は省略する。
【0078】
符号化装置の第3の具体例の操作についてここで説明する。符号化装置5には比較的小さいメモリ容量を有するローカルメモリ部17のみが与えられ、ローカルメモリ部17の容量は符号化装置からネットワークへこの符号化装置の最大許容メモリ容量情報131として伝送される。
【0079】
ローカルメモリ部17から読み出されたブロック画像データ129、130はそれぞれ第1のブロック画像データ115および第2のブロック画像データ119を生成する第1および第2のブロック生成部7、8に供給される。これに続く処理は符号化装置の第2の具体例と同様である。
【0080】
本発明に従った符号化および復号装置ならびに方法がブロック図について示されたが、各ブロックを物理的な要素として与えることに加え、全方法および装置をこの目的のために一般用のコンピュータにインプリメントすることができる。これに関し、記録媒体、または他の蓄積装置は、上述の符号化および復号の方法に示した各ステップを実行する操作命令を含んでいる。また、記録媒体に代わって、通信ネットワークに接続された伝送チャンネルまたはこれに類するものは符号化部からのデータを受け取って伝送し、符号化されたデータを復号するために提供される。
【0081】
符号化装置及び方法、復号装置および方法、符号化および復号装置ならびに方法、情報信号伝送装置、記録媒体の適用の具体例は、デジタルビデオディスク、画像伝送/受け取り装置、画像データベース、インターネットからの画像ダウンロードを目的とする画像圧縮/復号装置、電子スチルカメラ、ゲーム装置、可変サイズ表示の表示部を有する符号化/復号装置、同様のシステムを実現するソフトウェアモジュールを含んでいる。
【0082】
以上説明したように、符号化/復号装置は入力画像データを蓄積する画像メモリ部および反復符号化される画像の範囲を決定する探索範囲決定部を有する符号化装置を含んでいる。符号化ビットストリームは決定さえれた範囲で反復符号化される画像データから生成される。復号装置は符号化装置から受け取った符号化ビットストリームから得られた画像データを蓄積する画像メモリ部を有している。復号装置はまた符号化ビットストリームを反復変換復号して復号データを復号画像データとして出力するための画像メモリ部の最大復号容量を計算する最大許容メモリ容量決定部を有している。符号化/復号装置は、小さいメモリ容量を使うことにより高い符号化効率と高品質の画像を与える。
【0083】
【発明の効果】
上述のように、本発明に従った符号化方法及び装置は、復号のためのメモリが限られた容量であっても、符号化操作はメモリ容量に従って先立って行われる。従って、メモリ容量は符号化操作を限定せず、スケール可能な構成が実現される。加えて、メモリ容量の減少は符号化のための近似ブロックの探索の範囲を狭くするので、高速の操作が実行される。
【0084】
本発明では、符号化制御はネットワーク上に存在する複数の復号装置の反復変換復号部の一つからネットワークに伝送された復号装置の最大許容メモリ容量に基づいて符号化装置により行われる。従って、ネットワーク上の全ての復号装置が有効に利用される。また、符号化装置によって自分かつ処理が行われると、効率はさらに改善される。
【0085】
加えて、本発明では、符号化装置から伝送される符号化ビットストリームの復号を可能にする最大の許容メモリ容量を有する一つの反復変換復号部がネットワークから選択される。従って、符号化制御は復号装置の許容メモリ容量に関わらず、符号化装置に与えられた画像メモリ部の容量の範囲内で実行される。よって、非常に高い自由度を有するネットワークが得られる。また、高価でない符号化装置から出力された符号化ビットストリームは高価な復号装置によって復号されることなく、高価でない復号装置が復号画像を与えるために選択される。従って、資源の有効活用が得られる。
【図面の簡単な説明】
【図1】符号化および復号装置のブロック図である。
【図2】符号化および復号方法のフローチャートである。
【図3】情報信号伝送装置を表すブロック図である。
【図4】他の情報信号伝送装置を表すブロック図である。
【図5】符号化装置の第1の具体例を示すブロック図である。
【図6】符号化装置の第1の具体例に従った方法のフローチャートである。
【図7】図6の反復変換符号化を詳しく説明するフローチャートである。
【図8】画像内のブロック間の写像関係を示す図である。
【図9】反復変換符号化に従ったブロック間の写像を示す図である。
【図10】復号装置のブロック図である。
【図11】復号方法のフローチャートである。
【図12】復号操作の反復変換復号のフローチャートである。
【図13】符号化装置の第2の具体例のブロック図である。
【図14】符号化装置の第3の具体例のブロック図である。
【図15】従来の符号化装置のブロック図である。
【図16】従来の符号化装置のブロック図である。
【符号の説明】
1 符号化装置、2 復号装置、3 反復変換符号化部、4 反復変換復号部、6 画像メモリ部、9 探索領域決定部、140 最大許容メモリ容量決定部
Claims (4)
- 画像の各ブロックを反復変換符号化する符号化方法において、
入力画像を第1の画像メモリに蓄積する工程と、
符号化画像の反復変換復号を実行するように復号側の第2の画像メモリの最大許容メモリ容量を示す容量情報を受け取る工程と、
蓄積された入力画像を上記受け取られた容量情報に従って分割して探索範囲を決定する工程と、
上記決定された探索範囲内で上記各ブロックを反復変換符号化する工程とを有し、
上記反復変換符号化する工程は、
上記入力画像から第1の画像ブロックを生成する工程と、
上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する工程と、
写像関数により上記第2の画像ブロックを変換する工程と、
上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する工程と、
上記選択された第2の画像ブロックの位置を示す符号位置情報を出力する工程と、
上記選択された第2の画像ブロックを表す変換パラメータを出力する工程とを有する
ことを特徴とする符号化方法。 - 画像の各ブロックを反復変換符号化する符号化方法において、
入力画像を画像メモリに蓄積する工程と、
上記画像メモリの最大許容メモリ容量を示す容量情報を生成する工程と、
上記入力画像を上記最大許容メモリ容量に従って分割して探索範囲を決定する工程と、
上記決定された探索範囲内で上記画像の上記各ブロックを上記画像メモリを用いて反復変換符号化して符号化ビットストリームを生成する工程と、
上記生成された符号化ビットストリームおよび上記容量情報を出力する工程とを有し、
上記反復変換符号化する工程は、
上記入力画像から第1の画像ブロックを生成する工程と、
上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する工程と、
写像関数により上記第2の画像ブロックを変換する工程と、
上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する工程と、
上記選択された第2の画像ブロックの位置を示す符号位置情報を出力する工程と、
上記選択された第2の画像ブロックを表す変換パラメータを出力する工程とを有する
ことを特徴とする符号化方法。 - 画像の各ブロックを反復変換符号化する符号化装置において、
入力画像を第1の画像メモリに蓄積する手段と、
符号化画像の反復変換復号を実行するように復号側の第2の画像メモリの最大許容メモリ容量を示す容量情報を受け取る手段と、
蓄積された入力画像を上記受け取られた容量情報に従って分割して探索範囲を決定する手段と、
上記決定された探索範囲内で上記受け取られた容量情報に従って上記各ブロックを反復変換符号化する手段とを有し、
上記反復変換符号化する手段は、
上記入力画像から第1の画像ブロックを生成する手段と、
上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する手段と、
写像関数により上記第2の画像ブロックを変換する手段と、
上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する手段と、
上記選択された第2の画像ブロックの位置を示す符号位置情報を出力し、上記選択された第2の画像ブロックを表す変換パラメータを出力する手段とを有する
ことを特徴とする符号化装置。 - 画像の各ブロックを反復変換符号化する符号化装置において、
入力画像を画像メモリに蓄積する手段と、
上記画像メモリの最大許容メモリ容量を示す容量情報を生成する手段と、
上記入力画像を上記最大許容メモリ容量に従って分割して探索範囲を決定する手段と、
上記決定された探索範囲内で上記画像の上記各ブロックを上記画像メモリを用いて反復変換符号化して符号化ビットストリームを生成する手段と、
上記生成された符号化ビットストリームおよび上記容量情報を出力する手段とを有し、
上記反復変換符号化する手段は、
上記入力画像から第1の画像ブロックを生成する手段と、
上記第1の画像ブロックと同一の探索領域内で上記入力画像の部分から複数の第2の画像ブロックを生成する手段と、
写像関数により上記第2の画像ブロックを変換する手段と、
上記第1の画像に最も似た上記変換された第2の画像ブロックを選択する手段と、
上記選択された第2の画像ブロックの位置を示す符号位置情報を出力し、上記選択された第2の画像ブロックを表す変換パラメータを出力する手段とを有する
ことを特徴とする符号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30431898A JP4174111B2 (ja) | 1997-10-28 | 1998-10-26 | 符号化方法及び装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP29548197 | 1997-10-28 | ||
JP9-295481 | 1997-10-28 | ||
JP30431898A JP4174111B2 (ja) | 1997-10-28 | 1998-10-26 | 符号化方法及び装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11220730A JPH11220730A (ja) | 1999-08-10 |
JP4174111B2 true JP4174111B2 (ja) | 2008-10-29 |
Family
ID=26560295
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP30431898A Expired - Fee Related JP4174111B2 (ja) | 1997-10-28 | 1998-10-26 | 符号化方法及び装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4174111B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6804401B2 (en) * | 2000-05-12 | 2004-10-12 | Xerox Corporation | Method for compressing digital documents with control of image quality subject to multiple compression rate constraints |
-
1998
- 1998-10-26 JP JP30431898A patent/JP4174111B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11220730A (ja) | 1999-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4493215B2 (ja) | ウェーブレット係数の方向性予測コード化法を用いた画像圧縮 | |
US6891973B1 (en) | Lossy/lossless region-of-interest image coding | |
US7177356B2 (en) | Spatially transcoding a video stream | |
EP1062625A1 (en) | Lossy/lossless region-of-interest image coding | |
JPH08214318A (ja) | ビデオ画像のシーケンスを符号化するための領域ベースアプローチに対する方法及び装置 | |
JPH1093972A (ja) | 輪郭符号化方法 | |
KR20010080065A (ko) | Roi 코드화 방법 및 시스템 | |
US5883981A (en) | Lattice vector transform coding method for image and video compression | |
JP2005519543A (ja) | レイヤ映像符合化のための方法及びシステム | |
JPH08275157A (ja) | 映像信号符号化装置 | |
JP3359215B2 (ja) | 多値画像符号化装置 | |
JP2006508584A (ja) | ベクトル予測のための方法 | |
JP4174111B2 (ja) | 符号化方法及び装置 | |
US6339659B1 (en) | Fractal coding/decoding of picture data using memory capacity information | |
HUE033524T2 (en) | Procedure for compressing data | |
US6356667B1 (en) | Encoding apparatus and method, decoding apparatus and method and recording medium | |
JP3859325B2 (ja) | 画像の反復変換復号化装置及び方法、並びに記録媒体 | |
JP3546720B2 (ja) | 符号化装置及び方法、復号装置及び方法並びに記録媒体 | |
JP3359214B2 (ja) | 多値画像符号化装置 | |
JP2003244443A (ja) | 画像符号化装置及び画像復号装置 | |
RU2316908C2 (ru) | Способ совместного использования векторного квантования и фрактального кодирования изображений | |
JP2584854B2 (ja) | 画像符号化方法 | |
JP3734871B2 (ja) | 画像通信方法 | |
JPH09139941A (ja) | 画像信号の符号化/復号化装置 | |
JP4526069B2 (ja) | 画情報の算術符号化装置及び画情報の算術復号化装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20050201 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050201 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051021 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051021 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070723 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070731 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070927 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080805 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080818 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110822 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120822 Year of fee payment: 4 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313115 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120822 Year of fee payment: 4 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120822 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130822 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |