JP3497864B2 - 信号処理装置 - Google Patents

信号処理装置

Info

Publication number
JP3497864B2
JP3497864B2 JP53017196A JP53017196A JP3497864B2 JP 3497864 B2 JP3497864 B2 JP 3497864B2 JP 53017196 A JP53017196 A JP 53017196A JP 53017196 A JP53017196 A JP 53017196A JP 3497864 B2 JP3497864 B2 JP 3497864B2
Authority
JP
Japan
Prior art keywords
signal
compressed data
signal processing
data
compression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP53017196A
Other languages
English (en)
Inventor
達基 犬塚
敏明 中村
浩三 中村
啓介 中島
Original Assignee
株式会社 日立製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社 日立製作所 filed Critical 株式会社 日立製作所
Application granted granted Critical
Publication of JP3497864B2 publication Critical patent/JP3497864B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits

Description

【発明の詳細な説明】 技術分野 この発明は、信号の圧縮伸長および編集する装置に係
り、特に画像をプリントあるいは表示する装置に関す
る。
背景技術 レーザビームプリンタ装置を例にとれば、記録紙の搬
送と印字のプロセスは一定の速度で実行されるため、ホ
ストから送られてくる画像信号をプリント手段の印字速
度に整合してデータ出力するために、少なくとも1画面
分の画像データを蓄積するためのメモリを搭載すること
が一般的である。しかしながら、高精細,高階調,カラ
ー等の高画質化を実現する為には、膨大な容量のメモリ
が必要となる。
この問題の解決を目的とした、メモリ容量を削減する
プリンタ装置の一構成例が、三宅信孝他:“フルカラー
プリンタに最適化された画像圧縮符号化方式",Japan Ha
rdcopy '94 Fall Meeting,The Conference of Japan Ha
rdcopy for the Society of Electrophotography of Ja
pan,第74回電子写真学会研究討論会(1994.12.2)予稿
の13ページから16ページ(第1の従来技術)に記載され
ている。これによれば、離散コサイン変換と量子化を組
み合わせた画像圧縮手段を利用して、画像データを蓄積
するメモリ容量の削減をはかっている。
また、固定圧縮率の信号圧縮手段として、品名「FBTC
IMAGE DATA COMPRESSION & DECOMPRESSION LSI」,型
名M65790FPのLSIが三菱電機データシート(第2の従来
技術)に記載されている。これは、白黒画像を対象に圧
縮率8/3一定を実現し、圧縮データの出力時にメモリア
ドレスを変換することで、回転,合成処理を可能として
いる。
しかしながら、上記第1の従来技術では次の課題があ
る。
(1)画像データを、離散コサイン変換と量子化を組み
合わせた圧縮方式を用いて信号処理している。この圧縮
方式では、圧縮後のデータ量、すなわち圧縮率が対象と
する画像の絵柄によって変動する。このため、最悪圧縮
率を想定してメモリ容量を設計しなくてはならない。
(2)ポストスクリプト等のページ記述言語を外部装置
からコマンドとして入力し、画像データを生成,編集す
るためには少なくとも1ページ分の画像データを蓄積
し、該蓄積している画像データを書き換えることが必要
となる。上記のように絵柄によって圧縮率が変動するた
め、圧縮データを格納するメモリアドレスに規則性がな
い。このため、書き換え対象とする画像データが画面の
一部分であっても、全画面を復号しなくてはならない。
また、画像の一部分のデータを書き換えた場合、その部
分の圧縮率が変化するため、元のメモリ領域に書き込む
ことができなくなる。
(3)画像データの圧縮処理により、画質劣化が生じや
すい。
上記第2の従来技術は、画像データを1画面単位で圧
縮および伸長する機能しか備えていない。また、蓄積し
た圧縮データの書き換えを行うための編集機能を考慮し
ていない。さらに、白黒画像を対象としているため、カ
ラー画像を対象とした信号処理を行う為には、各色の信
号処理を時系列で実行するか、あるいは複数のLSIが必
要となる。
本発明の目的は、上記従来技術の問題点を解決しなが
ら、生成あるいは編集した画像データを蓄積するメモリ
容量を低減した信号処理装置を提供することにある。
発明の開示 上記目的を達成するための本発明の第1の特徴は、信
号を圧縮処理手段に基づき圧縮データに変換する圧縮手
段と,圧縮データを蓄積する蓄積手段と,蓄積手段から
の圧縮データを伸長処理手順に基づき復元する伸長手段
と,伸長信号を対象に信号処理を実行する編集手段とを
備え、編集対象とする信号を蓄積手段から伸長手段を用
いて復元し、編集手段による処理結果を圧縮手段を用い
て蓄積手段に蓄積する信号処理装置にある。
また、第2の特徴は、信号を圧縮処理手順に基づき圧
縮データに変換する圧縮手段と,圧縮データを蓄積する
蓄積手段と,蓄積手段からの圧縮データを伸長処理手順
に基づき復元する伸長手段と,蓄積手段に蓄積された信
号を対象に信号処理を実行する編集手段とを備え、編集
対象とする信号を蓄積手段から読み出し、編集手段によ
る処理結果を蓄積手段に蓄積する信号処理装置にある。
さらに、第3の特徴は、信号を圧縮処理手順に基づき
圧縮データに変換する圧縮手段と,圧縮データを蓄積す
る蓄積手段と,蓄積手段からの圧縮データを伸長処理手
順に基づき復元する伸長手段と,伸長した信号を対象に
信号処理を実行する編集手段と,伸長手段によって復元
した信号の出力先を切り替えるためのスイッチとを備
え、前記スイッチは信号の編集あるいは出力によって出
力先を切り替える信号処理装置にある。
これらによって、画像データを蓄積するメモリの容量
を削減すると共に、各手段間のデータ転送速度を低減
し、画像データを生成編集を高速に実行することがで
き、信号処理装置において従来にない効果を得ることが
できる。
図面の簡単な説明 第1図は本発明の信号処理装置の最も基本的な構成を
示す図である。
第2A図および第2B図は、本発明の信号処理装置の基本
構成を示す図で、第2A図は入力信号と蓄積手段に蓄積し
た信号を用いて編集する場合、第2B図は編集コマンドに
基づき編集処理を実行する場合を示す。
第3A図および第3B図は、本発明の信号処理装置の基本
構成を示す図で、第3A図は編集済みの信号を圧縮して伝
送する装置の構成、第3B図は圧縮データ形式の信号生成
手段を備えた装置の構成を示す。
第4A図はプリンタの基本構成、第4B図および第4C図は
プリンタコントローラの装置構成例を示す図である。
第5A図および第5B図は、画像データの編集作業を説明
する図で、第5A図は画像データの書き換えを示す図、第
5B図は圧縮データの書き換えを示す図である。
第6A図および第6B図は、圧縮データのメモリアドレス
について説明する図で、第6A図は固定圧縮率の場合、第
6B図は変動圧縮率の場合を示す。
第7A図から第7F図はプリンタコントローラの信号処理
手順を示す図で、第7A図は画素順次、ライン順次のデー
タ入力、第7B図は面順次のデータ入力、第7C図はレーザ
ビームプリンタへの信号出力(面順次)、第7D図は編集
処理(画像データの上書き)、第7E図は編集処理(蓄積
した画像データへの重ね書き)、第7F図は拡張機能(メ
モリ増設による画質劣化の低減)を示す。
第8図は信号処理のタイミングチャートの一例を示す
図である。
第9図はプリンタコントローラの装置構成例を示す図
である。
第10A図,第10B図および第10C図はカラー画像,キャ
ラクタ,図表などをディスプレイ装置に表示するための
信号処理装置の3つの構成例を示す図である。
第11A図はファイリング装置の表示画面の一例を示す
図、第11B図はファイリング装置の構成例を示す図であ
る。
第12A図および第12B図は1チップLSIの構成例を示す
図で、第12A図はプロセッサと1画面分メモリを1チッ
プ化する場合、第12B図はメモリと圧縮伸長手段を1チ
ップ化する場合である。
第13図はゲーム機器の装置構成例で、蓄積手段の構成
を詳細に示す図である。
第14A図および第14B図はゲーム機器の画像表示装置の
基本構成を示す図である。
第15A図はプログラム圧縮装置の装置構成例を示す
図、第15B図はプログラム圧縮装置の信号処理手順の一
例を示す図である。
第16図はマルチメディア装置の構成を示す図である。
第17図はカラー画像の圧縮方式の一例を示す図であ
る。
発明を実施するための最良の形態 本発明の信号処理装置の最も基本的な構成を第1図に
示す。
第1A図では、入力信号は圧縮手段102で圧縮データに
変換され、該圧縮データは蓄積手段103に蓄積され、伸
長手段104は該圧縮データを復元する。そして、編集手
段105は、蓄積手段103に圧縮データの形式で蓄積されて
いた信号と、入力信号をもちいて編集処理を行う。ここ
で、入力信号は、圧縮データとして蓄積した信号と同一
の性質を持つ信号である場合、あるいは圧縮データとし
て蓄積した信号に対する信号処理の種類を表すコマンド
である場合がある。例えば、入力信号は画像データおよ
びその画像データの書き込みコマンドの組み合わせで表
され、両者の信号を編集手段105が解釈することで、圧
縮データとして蓄積した信号の一部分を書き換える動作
が実行される。別の例としては、編集手段105は入力信
号を用いて、圧縮データとして蓄積した信号に対して、
回転,拡大縮小等の信号処理を実行する。いずれの場合
にも、編集手段105は、圧縮データとして蓄積した信号
から、編集対象とする信号を正しく読み出す動作を行
う。
第1B図は、蓄積手段103に圧縮データの形式で蓄積さ
れていた信号を、伸長手段104を用いて信号を復元する
ことなく、編集手段105をもちいて編集処理を行う。こ
の編集手段は、圧縮手段102の信号処理手順に基づくこ
とで、圧縮データの形式で編集処理を行うものである。
例えば、固定圧縮率の符号化方式では、圧縮データのデ
ータ構成とデータ量に関する情報があらかじめ分かるの
で、該情報に基づき圧縮データの形式に基づく信号を生
成し、蓄積手段103に圧縮データの形式で蓄積されてい
た信号に対する編集処理を、圧縮データの形式で行うこ
とができる。
第1C図は、入力信号は圧縮手段102で圧縮データに変
換され、該圧縮データは蓄積手段103に蓄積され、伸長
手段104は該圧縮データを復元する。そして、スイッチ1
08は、復元した信号を出力するか(「出力」方向)、編
集手段105に伝えるか(「編集」方向)を選択する。編
集手段105は、蓄積手段103に圧縮データの形式で蓄積さ
れていた信号と、入力信号をもちいて編集処理を行う。
前記したように例えば画像データでは、編集手段は入力
信号を用いて、重ね書き,上書き,回転,拡大縮小等の
信号処理を実行する。信号出力時には、該出力する信号
に対する編集処理は不要であるため編集手段105を動作
させる必要はなく、スイッチ108は「出力」方向を向い
て信号を出力する。
ここで、圧縮手段および伸長手段は、信号の性質ある
いは信号の利用目的等に基づき冗長な情報を削減する。
利用目的によってはロスレスが要求されるが逆の場合も
ある。同じ利用目的であっても信号出力装置の特性によ
って冗長さが異なる場合がある。本発明は、圧縮および
伸長手段の具体的構成を限定しない。
圧縮率が固定である信号処理手順を用いる場合には、
入力あるいは生成手段を用いて生成した信号と、蓄積手
段の圧縮データは、前記した固定圧縮率の信号処理手順
に基づく一定の規則で対応付けられる。具体的な例とし
て画像データを対象とした場合、画像の位置とメモリ
(蓄積手段)アドレスは一定の規則に基づく簡易な演算
式あるいはテーブル等で変換できる。この特徴から、編
集手段を用いた信号の書き換えを実行するには、書き換
え対象の信号のみを蓄積手段から出力して、編集手段に
入力することができる。
第2図は、入力信号がページ記述言語に基づくコマン
ドである場合の、蓄積手段に蓄積した信号を編集する装
置の構成例を示す。
第2A図では、ページ記述言語に基づく信号生成を指示
するコマンドである場合には、該入力した信号に基づき
信号生成手段101を用いて信号を生成する。
第2B図では、ページ記述言語に基づく信号変換を指示
するコマンドである場合には、該入力した信号に基づき
信号生成手段101を用いて生成した信号、および蓄積手
段103に圧縮データの形式で蓄積され伸長手段104を用い
て復元した信号の両者を用いて、編集処理を実行する。
第2図には、第1C図の装置構成に対応した例を示した
が、第1A図または第1B図の装置構成を用いることができ
ることは言うまでもない。
第3A図は、伸長手段104を用いて復元した信号を実際
に利用する装置が、圧縮手段102を備える装置と送信手
段106と受信手段107、およびネットワーク109によって
接続される構成を示している。データ伝送を圧縮データ
を用いて行うため、伝送時間の短縮を実現できる。ま
た、受信装置側に蓄積手段103を備えなくてもよいこと
から受信側装置コストの削減という効果もある。
また第3B図は、信号生成手段101aが、圧縮データ形式
の信号を生成できる場合の構成例である。先に説明した
ように固定圧縮率の符号化方式の場合には、圧縮データ
のデータ構成とデータ量に関する情報があらかじめ分か
るので、その情報に基づき圧縮データ形式の信号を生成
することができる。これにより、圧縮のための信号処理
を行わなくてよいため、信号処理時間の短縮などの効果
を実現できる。
上記の例で、圧縮伸長手段は固定圧縮率で圧縮する符
号化方式を利用できる。カラー画像を信号の一例とする
ならば、固定圧縮率を実現するためには、画像を複数画
素で構成されるブロックに分割し、該ブロック内の信号
を2種類程度の色とその区別(解像)を示す選択信号に
変換する手段を用いることができる。
一方、変動圧縮率の圧縮方式を利用することもでき
る。しかし、変動圧縮率の場合には、画像の位置を表す
インデックスと圧縮データのメモリアドレスを対応付け
る手段を、画像データの圧縮時に作成しておく必要があ
る。特定位置の画像データの書き換えは、該対応付け手
段を参照して蓄積手段内の圧縮データを復元してデータ
の書き換えを行う。ここで、書き換え後の画像データを
圧縮するとデータ量が変化するため、元の場所に蓄積す
ることはできない場合がある。したがって、例えば、蓄
積手段の空き部分に書き込みを行い、該メモリアドレス
を前記の対応付け手段に新たに設定する。このような手
順を用いれば、変動圧縮率の圧縮手段を利用することも
できるが蓄積手段の管理方式が複雑となり、また、処理
速度の低下をもたらすことに注意すれば問題なく利用す
ることができる。
なお圧縮方式として、ブロック近似符号(Block Trun
cation Coding),ハフマン符号,算術符号(Arithmeti
c coding),LZ(Lempel,Ziv)あるいはその改良型であ
るLZW符号、等を利用できるが、本発明は圧縮方式を限
定するものではない。また、圧縮の前処理として、差分
値の算出,直交変換,ウェーブレット変換,ヒストグラ
ム検出,エッジ検出,領域分離,色変換,ブロック近似
等の手段を利用することもできるが本発明は方式を限定
するものではない。
本発明は上記のように、圧縮手段,伸長手段,蓄積手
段および編集手段を用いて、蓄積手段の容量を低減,信
号処理の高速化、等の目的を実現できる。信号フローの
観点からは、信号の入力および出力手段を除き、信号を
圧縮データとして処理および転送する構成を実現でき
る。信号を原データの形式で処理しなくてはならない場
合にも、処理の対象となる信号のみを原データとして扱
えばよい。
また蓄積手段103は、半導体メモリ,フラッシュ型の
メモリ,ハードディスク装置,光磁気ディスク、等の装
置を利用することができる。
以下に、具体的な装置を用いて本発明の具体的な実施
例を説明する。
(1)プリンタコントローラ プリンタコントローラは、ホスト計算機からページ記
述言語等のコマンドを入力し、該コマンドに基づき生成
編集した画像データを、プリンタエンジンと呼ばれる印
刷手段に出力する。なお、ホスト計算機側で画像データ
の生成編集を実行し、プリンタエンジンの走査順序にし
たがって画像データを転送する構成もある。この構成で
はデータ転送時間が長くなる等の相違点があるが、ホス
ト計算機がプリンタコントローラの機能を代行している
例とみなすことにする。
ここで、プリンタコントローラにおいて、プリンタエ
ンジンの動作に同期して画像データを生成編集すること
は信号処理速度の点から困難な場合が多い。このため、
プリンタコントローラ内に、少なくとも1画面分の画像
データを蓄積する手段を備えることが一般的である。特
に、レーザビームプリンタのように、1画面の印刷を一
定速度で実行する装置においては、画像データの生成編
集に遅延は許されず、このため、あらかじめ1画面分の
画像データを全て生成編集して蓄積しておくことが望ま
しい。
このように従来からプリンタコントローラを構成する
手段として、画像データの生成手段,編集手段,蓄積手
段が必要とされ、さらに画質向上を計るための信号変換
手段が備えられていた。
しかし、プリンタエンジンの画質再現能力の向上に伴
い、印刷画像が白黒2値,マルチカラーそしてフルカラ
ーへ、また、画素密度が高くなり、1画面を構成する画
像データの容量は膨大になってきている。このことがプ
リンタコントローラにおいて、次のような問題点をもた
らしている。
(a)装置コストに占めるメモリコストが増大する。
(b)編集対象とする画像データが膨大となり、信号処
理に時間がかかる。
(c)各手段相互間のデータ転送に時間がかかる 上記問題点を解決するために、本発明を適用した装置
構成例を第4図を用いて説明する。第4A図はプリンタの
基本構成、第4B図はプリンタコントローラの構成の一
例、第4C図はプリンタコントローラの構成の他の例を示
す。ホスト計算機からI/O手段205を用いて入力したコマ
ンドに基づき、CPU201あるいはASIC(Application Spec
ific IC)202を用いて画像データを生成あるいは編集す
る。該画像データは圧縮データに変換され、メモリ204
に蓄積される。そして、プリンタエンジンの印刷手段の
タイミングに同期しながら、順序良く信号を出力する。
CPU201はプログラムを格納したROM(Read Only Memor
y)203からプログラムデータを取り込み動作する。画像
データの生成あるいは編集等の信号処理は、CPU201とAS
IC202のいずれかあるいは両者を用いて実行する。メモ
リ204は、少なくとも1画面分の画像データを圧縮デー
タとして格納する記憶容量を有し、これにより画像デー
タの生成あるいは編集の実行、およびプリンタエンジン
とのデータ転送速度の整合を実現することができる。
第5図は、画像データの編集作業、すなわちデータの
書き換えの原理を説明する図である。第5A図に示すよう
に画像データを原稿のイメージで捉えれば、ある特定の
位置にある書き換え対象の画像データを入力し、そのデ
ータに書き換え、そして元の場所に書き込むことで編集
が終了する。一方、第5B図に示すようにメモリに蓄積さ
れた圧縮データを対象とした場合、書き換え対象の圧縮
データのメモリアドレスが明確でなければならない。さ
らに、書き換え済みの圧縮データを再びメモリに蓄積で
きなければならない。
第6A図に示すように、圧縮の方式が固定圧縮率であれ
ば、上記のように書き換え対象の圧縮データをメモリか
ら読み出し、書き換え済みの圧縮データを再び元のメモ
リ領域に蓄積することができる。これに対して第6B図に
示すように変動圧縮率の場合には、圧縮対象とする画像
の信号性質によって圧縮データのデータ量が異なるた
め、圧縮処理の実行時に該データ量に関する情報を蓄積
し、画像位置とメモリアドレスの変換手段を容易してお
かなければならない。このための手段を用意するなら
ば、圧縮方式に依存することなく圧縮データを用いた編
集処理を実現することができる。
プリンタの画質特性の一つに色の再現性がある。例え
ば、同じ画像データはディスプレイと印刷結果で同一に
色再現することが望ましい。しかし、両者の発色原理が
異なるため、信号変換が不可欠である。圧縮方式が、画
像データの色信号と解像度を分離する場合には、前者の
色信号に関する圧縮データのみを信号変換することで、
高速な信号処理を実現できる。
またプリンタの装置特性として色の再現範囲が限定さ
れる場合がある。この場合、色の再現範囲外の信号を処
理対象とすることは無駄である。例えば蓄積手段に色の
再現範囲外の信号を蓄積しても印刷結果に効果がなく、
蓄積手段の容量の一部を無駄に使ったことになる。そこ
で、色の再現範囲外の信号を取り除くための信号系を採
用することが望ましい。
第7A図から第7F図は上に述べたプリンタコントローラ
の信号処理手順の例を示す図である。ホスト計算機から
入力したコマンドに基づき、文字・グラフィックスおよ
びカラー画像を展開し、圧縮手段を用いて圧縮データに
変換して符号メモリに蓄積し、また伸長手段を用いて復
元し画像データを出力する。そして、これらの手段と組
み合わせて、ガンマ変換,色変換,像域分離,UCR(Unde
r Color Reduction),エッジ強調等の画質処理を行
う。また、符号メモリに蓄積しておいた圧縮データから
対象とする部分のみ伸長し、重ね書き,回転,拡大縮
小,トリミング等の編集処理を行う。これらの編集処理
は、前記したようにホスト計算機から入力したコマンド
に基づいて実行する。
(a)編集処理(画像データの上書き) この場合には、ホスト計算機から入力したコマンドに
基づき、文字・グラフィックスおよびカラー画像等の画
像データを、背景となる画像データを考慮することなく
上書きする。
(b)編集処理(蓄積した画像データへの重ね書き) ホスト計算機からの画像データを、背景となる画像デ
ータに重ね書きをする。例えば、文字データを重ね書き
する場合には、文字の存在する領域の背景となる画像デ
ータをメモリから伸長して、ビット毎に文字データを書
き込み、このように編集された画像データを再び圧縮し
てメモリ蓄積する。
(c)機能拡張(メモリ増設による画質劣化の低減) 符号メモリの容量は限定するものではなく、備えてい
るメモリ容量に基づき圧縮データがメモリに格納できる
ように固定圧縮率の値を設定することができる。したが
って、画質劣化が許容されない利用目的では、メモリ容
量を増設することで、圧縮方式の圧縮率を下げることで
画質劣化を低減することができる。
上記の装置構成と信号処理手順は、圧縮率が固定であ
る場合において、簡易な装置構成と信号処理手順という
効果を発揮できる。しかしながら、圧縮率が変動する圧
縮方式においても、画像領域と圧縮データ位置を対応付
ける手段を用意することで、圧縮データを蓄積すること
により、メモリ削減の効果を実現することができる。
これらの信号処理手順および手段の組み合わせは、例
示した以外にも構成することができる。例えば、画質処
理は、ホスト計算機があらかじめ信号処理することがで
きるし、また、編集処理を実行する以前に信号処理する
こともできる。
上記のように本発明の基本構成に基づくことによって
圧縮データを蓄積することにより、メモリ削減の効果を
実現できる。
第8図は、プリンタエンジンの発色原理に基づく色信
号を、印刷手段の色順序に合わせて出力するためのタイ
ミングチャートの一例である。プリンタエンジンの印刷
手段が各色を面順次に印刷する場合には、1ライン1色
の信号を出力するために、蓄積手段から1ライン3色の
信号を取り出し、該3色の信号を用いた色変換等の画質
処理を施してから出力する。プリンタは、印刷色の画質
向上のため、3つの原色に加えて、専用のスペクトルを
持つインク(あるいはトナー)を用いて印刷することが
ある。この一例が黒色(Bk)であり、一般にUCR(Under
Color Reduction)と呼ばれている。この黒色信号は3
つの原色信号から、信号処理によって生成するため、3
つの原色信号は多値信号として持っている必要がある。
第8図の例では、黒色信号を含む4色(C,M,Y,Bk)を印
刷する際に、圧縮データとして蓄積してある3つの原色
信号(R,G,B)を蓄積手段から読み出し、色変換しなが
ら出力する固定圧縮率の符号化方式を利用した場合に
は、圧縮データのデータ構造が分かるため、色変換に必
要な圧縮データのみを色変換の対象信号とすることがで
きることから、信号処理の高速化を実現することもでき
る。
プリンタコントローラのより詳細な装置構成の例を第
9図に示す。第9図は、CPU201,メモリ204,信号入出力
インタフェース等から構成され、様々な装置特性のプリ
ンタに対応できる構成の一例を示している。プリンタエ
ンジンの能力として、白黒2値,白黒多値,マルチカラ
ー,フルカラー等の分類ができる。それぞれに好適なプ
リンタコントローラの装置構成が考えられるが、一方
で、共通に適用できるプリンタコントローラの装置構成
を設計することができる。圧縮手段および伸長手段はハ
ードウェアあるいはCPU201の信号処理によって実現する
ことができ、画質,解像度,メモリ容量等の条件に基づ
きいくつかの準備された固定圧縮率を選択できる構成と
することができる。この選択は、装置構成要素の前記条
件から、装置自身が選択する手段あるいは装置利用者が
設定できる手段を設けることができる。
(2)ディスプレイ装置 カラー画像,キャラクタ,図表等をCRT(Cathode Ray
Tube),LCD(Liquid Cristal Display)等に表示する
装置の構成の3つの例を第10図に示す。
従来、多くの画像表示の装置構成では、入力,生成あ
るいは編集した画像データをビットマップ形式のフレー
ムメモリに蓄積し、表示装置の走査順序にしたがって信
号出力する。一般に表示装置自体は表示データの蓄積能
力を持たないため、1秒間に30フレーム程度の速度でフ
レームメモリから信号出力する。
ここで、前記プリンタコントローラと同様に画質向上
に起因するメモリ容量の増大等の問題点がでてきてい
る。
そこで、画像データを圧縮データとして蓄積し、該圧
縮データを表示装置の走査順序と表示タイミングにした
がって順次に伸長して出力することで、必要とするメモ
リ容量を低減することができる。この構成によれば、い
わゆるビットマップ形式のフレームメモリ、すなわち、
振幅範囲の信号を表示画素毎に割り当てるメモリ構成は
必要なくなる。
第10A図は、2ポートメモリを圧縮データの蓄積手段1
03として用いて、該メモリの圧縮データを伸長手段104
をもちいて復元して出力する構成である。表示する画像
データはCPU201によって生成され、また圧縮データに変
換されてからメモリ103に書き込まれるため、伸長手段1
04のデータ出力部分を除いて各構成要素を接続するイン
タフェースには非圧縮の画像データが伝送されることは
ない。このため各インタフェースのデータ伝送能力に余
裕を持たせることができる。
第10B図は、表示する画像データを専用の表示制御用L
SIを用いて生成する構成である。CPU201は表示する内容
をコマンドとして表示制御用LSIに伝えることで、表示
制御用LSIが画像データを生成し、圧縮データの形式で
メモリ(蓄積手段103)に蓄積する。このため、インタ
フェースには非圧縮および圧縮された画像データが伝送
されることはなく、上記第10A図の場合に比べてさらに
インタフェースのデータ伝送能力に余裕を持たせること
ができる。
第10C図は、CPU201の信号処理能力が高い場合に有効
な構成であり、CPU201が画像データを生成し、圧縮デー
タの形式でメモリ(蓄積手段103)に蓄積し、表示すべ
き画像データを伸長して出力する。CPU201とメモリ103
間のデータ転送は圧縮データで行うため、インタフェー
スのデータ伝送能力に余裕を持たせることができる。
上記の装置構成を用いると、次に示すような効果があ
る。
(a)視覚的に劣化のない画像表示を、より少ないメモ
リ容量で実現することができる。
(b)解像度あるいはフレームレートの高い表示装置へ
の信号出力においても、蓄積手段からのデータ転送速度
は低く設定できる。
(c)蓄積手段に書き込むデータ量が少なくなる。この
ため、表示装置へのデータ出力期間とデータ書き込み期
間の重なりを軽減できる。
また表示装置の表示特性の一つである色再現性を、デ
ジタル信号処理で補正する場合において、圧縮データを
用いた色変換で実現することができる。たとえば、赤緑
青の3色を各8ビットの信号で表す場合に、色変換を変
換テーブルで実現しようとすると、24本の入力アドレス
線と24ビットの出力データを持つメモリが必要になる。
一方、変換テーブルではなく変換式に基づく演算で実現
しようとすると、各画素について該変換テーブルに相当
する信号処理が必要である。しかし、色信号が圧縮デー
タの状態で信号処理できるならば、演算の負荷を軽減で
きる。例えば、複数画素で構成されるブロック内の信号
を2種類程度の色とその区別を示す選択信号で表す場合
に、この処理手順によって作られる色を表す圧縮データ
を用いて変換を行うことができる。この結果、圧縮デー
タを伸長する必要がなくなり、また信号処理の対象とす
るデータ量が削減できることから、処理速度の高速化あ
るいは装置の簡易化等の効果を達成することができる。
さらに、前記したように固定圧縮率の符号化方式を用
いることで、圧縮データのデータ構造が明らかになるた
め、画像データの入力あるいは生成を圧縮データの形式
で実行することで、圧縮手段による信号処理を行うこと
なく、蓄積手段へのデータ書き込みを実行することもで
きる。
(3)ファイリング装置 大容量ファイルに圧縮データに変換されて格納された
画像データを高速に検索して表示することが、ファイリ
ング装置に要求される機能の一つである。目的とする画
像データを確実かつ素早く探し当てるためには、キーワ
ードなどを用いた検索だけでは不十分であり、第11A図
に示すように該当する画像を概略表示することが望まし
い。
このためには、全画面の画像データを縮小表示するた
めサブサンプリングする。しかし、これでは、該当する
画像データを全て展開したのちサブサンプリングするな
らば、必要なメモリ容量が膨大となるとともに、圧縮デ
ータの高速な伸長処理と、大量のデータを対象にしたサ
ブサンプリング処理が必要となる。
そこで、第11B図に示す本発明の装置構成を適用する
ことができる。外部の大容量ファイルから入力した画像
データを圧縮状態で蓄積手段に格納し、圧縮データを対
象にサブサンプリングを行い、画像データに復元して表
示する。固定圧縮率の符号化方式では圧縮データ構成が
あらかじめ分かるため、伸長することなくサブサンプリ
ングが容易に可能であり、表示の縮小倍率に対応したサ
ブサンプリングの比率を設定することができる。例え
ば、ブロック内を近似する色信号のみを取り出して表示
することで、第11A図に示すように、複数の概略画面を
同時に表示することで、高速に検索表示して上記目的を
達成できる。
さらに、格納した画像データを対象にした編集処理を
容易に実現できることは、前記した通りである。固定圧
縮率であれば、画面の回転,縮小が容易であるため、例
えば、A4サイズの画面を二つ並べて縮小し、A4サイズで
画面出力する等の、複写機等で備えている編集機能を容
易に実現できる。
(4)LSI 一般に信号を演算処理する手段と信号を蓄積する手段
は異なる構成要素として実現され、両者はデータ転送手
段によって接続される。具体例として、演算処理はCPU
(Central Processing Unit)ないしは専用LSI、信号蓄
積には半導体メモリないしは光学的,磁気的な原理に基
づく蓄積手段、そしてデータ転送には電気的な配線が用
いられる。
これらの手段の構成においても前記した画質向上に起
因する問題点があてはまる。すなわち、メモリコストの
増大,信号処理時間とデータ転送時間の増大、等であ
る。そして、各手段間のデータ転送を圧縮データの形式
で実行することが問題点の解決に有効である。
次に、LSI技術の進展に伴い、演算処理手段と信号蓄
積手段が同一の構成要素として実現し、いわゆる1チッ
プ化した場合にも本発明を適用することができる。例え
ば、第12A図に示すように、1画面分の画像データを蓄
積するためのメモリが、演算処理手段と共に1チップ化
するならば、処理中途の画像データを該1チップLSIの
内部でクローズした装置構成を実現できる。処理対象は
2次元平面画像に限定するものではなく、時間的な要因
を持つ動画像、多次元空間と関係付けられる画像等につ
いても同様の効果がある。また、第12B図に示すよう
に、蓄積手段であるメモリチップの内部に圧縮および伸
長手段を内蔵するならば、該チップの外部からは圧縮率
の割合だけメモリ容量の大きなメモリチップとして取り
扱うことができる。高速な信号入出力を実現するには、
例えばキャッシュメモリを内蔵する構成とすることがで
きる。
(5)ゲーム機器 一般にTVゲームと呼ばれる対話型の手順に基づき画像
生成,編集,表示を行う機器においては、動画像のフレ
ームレートで信号処理を行う。ここで前記装置構成例と
異なるのは、画像生成の手順および手段を内蔵している
ことである。このため、画像データの圧縮の目的のため
には、画像の生成段階において、圧縮データの形式に基
づき画像生成を行うことができる。
第13図に示すように、画面の構成要素に基づき画像デ
ータを背景,中景,前景,キャラクタ等に分離し、圧縮
手段102,蓄積手段103,伸長手段104の構成をそれぞれ異
なる特性に基づき設定することもできる。例えば、背景
については比較的に画質劣化が許容される場合として圧
縮率を高く設定することができる。注目されるキャラク
タについては画質劣化が許容されないが、最大の画面サ
イズを小さく設定し非圧縮の画像データとすることもで
きる。背景画面の平行移動は、圧縮データを読みだすア
ドレスを修飾することで容易に実現できる。
例えば、カラー画面のデータ圧縮のため、複数画素で
構成されるブロック内の信号を2種類程度の色とその区
別を示す選択信号で表す場合において、この処理手順に
よって作られる圧縮データの形式で画像生成を行うこと
は容易である。該ブロック内を表す複数の色種類を決
め、該設定色のブロック内の配分を設定すれば良い。こ
のブロック大きさは固定でなくて良く、表示する物体の
外形にあわせて設定しても良い。このことから、次に示
すような効果がある。
(a)ブロック単位でカラー信号を生成すればよい。す
なわち、各画素についてカラー信号を生成しなくてよい
ため、処理速度の向上が図れる。
(b)圧縮手段を別の構成要素として持たなくてよいた
め、装置構成の簡略化が図れる。
(c)表示手段へのデータ出力以外は画像データを圧縮
形式で扱うため、データ転送速度を低く設定できる。
さらに、画像の書き換え対象のみを編集することがで
きるため高速な信号処理が可能である。このような特長
を実現するための2つの基本構成を第14A図および第14B
図に示す。なお、圧縮データの初期値としては、信号の
振幅範囲の最大値,最小値,任意の信号レベルあるいは
任意に色を表す信号を、あらかじめ蓄積手段に書き込ん
でおけばよく、このためには圧縮手段を動作させること
なく、データ値を直接蓄積手段に書き込んでよい。
(6)外部入力信号の変換処理装置 外部から入力する信号は、何らかの通信プロトコルに
基づく伝送手段、あるいは磁気的,光学的な原理に基づ
く蓄積手段などを媒体として、圧縮データあるいは非圧
縮データとして入力する。圧縮データである場合には該
当する伸長手段を用いて復元し、本発明で用いる圧縮手
段で圧縮データに変換することができる。
外部から入力する圧縮データは、一括ではなく1部分
ずつ段階的に復元することで、復元信号を蓄積する手段
の容量を小さくすることができる。
また、外部から入力する信号が画像データである場
合、該データを構成する画素および色種類の入力順序等
をあらかじめ判断する手段を備えることができる。例え
ば、 (a)該データの先頭に付加されたヘッダ情報を判断す
る。
(b)変動圧縮率の圧縮データを対象に、例えば面順次
カラー画像の面の区切りを判断する為に、特定のマーカ
コード(面の区切りを示す)の検索を行う。
(7)プログラムの圧縮装置 上記の実施例の説明では、対象とする信号を画像デー
タに限定することなく、音声等の波形データ,キャラク
タコード、等にも本発明を適用することで同様の効果を
得ることができる。
例えば、プログラムに基づき演算,データ転送等を実
行するプロセッサを用いた装置構成において、該プログ
ラムを圧縮データとして蓄積し、プロセッサ内部で伸長
処理を実行することで、(a)プログラム蓄積メモリの
容量を低減する、(b)プロセッサとプログラム蓄積メ
モリ間のデータ転送量を低減する等を実現できる。装置
構成例を第15A図に示す。変動圧縮率の場合にはプログ
ラムの絶対アドレスを直接参照できなくなるので、
(a)キャッシュメモリ等にあらかじめ伸長する、
(b)複数のプログラムステップ毎に絶対アドレスを参
照できるインデックスを付加する等の手段が必要にな
る。第15A図の装置による信号処理の手順の一例を第15B
図に示す。
(8)マルチメディア装置 信号性質が異なる複数の信号を、入力,生成,編集,
蓄積する装置を構成する目的にも、本発明を適用するこ
とができる。また、時間軸方向の信号相関性を持つ信
号、例えば音声信号,動画像等についても、本発明を適
用することができる。第16図に示すように圧縮手段102
は、時間軸方向の信号相関性を利用した圧縮を行うため
過去の時点の信号を参照することで効果的な圧縮を実現
できる。そこで、参照するための過去のデータを圧縮デ
ータとして蓄積手段103に蓄積しておき、圧縮処理のた
め参照する信号のみを復元して編集手段105で利用する
ことができる。上記と同様に圧縮データを伸長手段104
で伸長する際にも、過去の時点の信号を参照することが
できる。
(9)カラー画像の圧縮手段 カラー画像を対象とした圧縮手段の圧縮方式の一例を
第17図に示す。画像データから、隣接した複数画素を一
つのブロックとして、該ブロック内に発生する色の種類
(3原色信号の組み合わせで決まる色)を、2種類程度
に限定して近似する。そして、該ブロック内の各画素に
ついて、限定した色の選択結果を作成する。
この結果、3つの色(例えばRGB;赤緑青)が各8ビッ
ト信号でブロックサイズが16画素である場合には原デー
タでは384ビット必要であるのに対して、ブロック内を
2色に近似することで6分の1である64ビットに圧縮で
きる。このように小面積内に発生する色の種類を限定し
ても視覚的な画質劣化はほとんど認められない。
この手段で達成できる圧縮率は、信号対象の画像デー
タの性質に依存しない。また、圧縮データが、色の種類
を表す信号と、各画素の色の選択結果を表す信号に区別
できる。このため、色変換を行うためには前者の圧縮デ
ータを対象に信号処理すれば良く、回転,拡大縮小等の
信号処理は後者を対象にすれば良い。また、画像データ
の一部の書き換えを行うためには、画像の位置に相当す
る圧縮データのみを書き換えることができる。
ブロックサイズは可変としても良く、設定したサイズ
によって固定圧縮率の値が変化する。このため、備える
蓄積手段の蓄積容量(メモリ容量)に基づき、ブロック
サイズを設定し、該メモリに圧縮データが格納できるよ
うに圧縮率を設定することができる。
産業上の利用可能性 以上のように、本発明の信号処理装置は、画像データ
を蓄積するメモリの容量を削減すると共に、各手段間の
データ転送速度を低減し、画像データを生成編集を高速
に実行することができ、画像をプリントあるいは表示す
るための信号処理装置に用いるのに適している。
フロントページの続き (56)参考文献 特開 平3−284079(JP,A) 特開 平4−328956(JP,A) 特開 平5−2639(JP,A) 特開 平4−276983(JP,A) 特開 平4−150577(JP,A) 特開 平4−356844(JP,A) 特開 平6−217106(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 1/387 H04N 1/41

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】入力された入力信号を予め定められた固定
    圧縮率で符号化された圧縮データに変換する圧縮手段
    と、 圧縮データを蓄積する蓄積手段と、 圧縮データを伸長する伸長手段と、 前記蓄積手段に蓄積された圧縮データを読み出し、前記
    圧縮データを信号処理し、前記信号処理された処理結果
    を前記伸長手段へ出力する編集手段とを有し、 前記伸長手段は、伸長したデータが出力されるタイミン
    グに同期して入力された圧縮データを順次伸長する信号
    処理装置。
  2. 【請求項2】請求項1記載の信号処理装置において、 前記入力信号から圧縮データ形式の信号を生成する信号
    生成手段を有する信号処理装置。
  3. 【請求項3】請求項1記載の信号処理装置において、 前記圧縮手段は、予め定められた複数の固定圧縮率から
    前記入力信号に基づいて、ある1つの固定圧縮率を選択
    する手段を有する信号処理装置。
  4. 【請求項4】請求項1記載の信号処理装置において、 前記圧縮手段は、複数の画素で構成される前記入力信号
    を、予め定められた画素数から構成されるブロック毎に
    分割し、前記ブロック毎に前記蓄積手段へ出力する信号
    処理装置。
  5. 【請求項5】請求項1記載の信号処理装置において、 前記圧縮手段は、複数の画素で構成され,複数の色信号
    で表されたカラー画像の入力信号を、予め定められた画
    素数から構成されるブロック毎に分割する分割手段と、
    前記ブロック内の前記複数の色信号を予め定められた数
    の近似色信号に近似する手段と、前記ブロック内の各画
    素に対して前記予め定められた数のどれかの近似色信号
    を選択する選択手段とを有する信号処理装置。
  6. 【請求項6】入力された入力信号を予め定められた固定
    圧縮率で符号化された圧縮データに変換する圧縮手段
    と、 圧縮データを蓄積する蓄積手段と、 圧縮データを伸長する伸長手段と、 前記蓄積手段に蓄積された圧縮データを読み出し、前記
    圧縮データを信号処理し、前記信号処理された処理結果
    を前記伸長手段へ出力する編集手段を有する信号処理装
    置であって、 前記圧縮手段は、複数の画素で構成され,複数の色信号
    で表されたカラー画像の入力信号を、予め定められた画
    素数から構成されるブロック毎に分割する分割手段と、
    前記ブロック内の前記複数の色信号を予め定められた数
    の近似色信号に近似する手段と、前記ブロック内の各画
    素に対して前記予め定められた数のどれかの近似色信号
    を選択する選択手段を有し、 前記カラー画像の入力信号の色変換,アンダカラー除去
    等の色信号処理を、前記近似色信号に対して実行する信
    号変換手段を設けた信号処理装置。
JP53017196A 1995-04-07 1995-04-07 信号処理装置 Expired - Fee Related JP3497864B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP1995/000688 WO1996031974A1 (fr) 1995-04-07 1995-04-07 Processeur de signaux

Publications (1)

Publication Number Publication Date
JP3497864B2 true JP3497864B2 (ja) 2004-02-16

Family

ID=14125846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP53017196A Expired - Fee Related JP3497864B2 (ja) 1995-04-07 1995-04-07 信号処理装置

Country Status (3)

Country Link
EP (1) EP0820186B1 (ja)
JP (1) JP3497864B2 (ja)
WO (1) WO1996031974A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6775417B2 (en) 1997-10-02 2004-08-10 S3 Graphics Co., Ltd. Fixed-rate block-based image compression with inferred pixel values
DE19916604A1 (de) * 1999-04-13 2000-10-26 Matthias Zahn Vorrichtung und Verfahren zur Bearbeitung von zeitlich aufeinanderfolgenden Datenpaketen
JP6184080B2 (ja) 2012-11-20 2017-08-23 ソニー株式会社 撮像素子

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2756301B2 (ja) * 1989-04-10 1998-05-25 キヤノン株式会社 画像編集方法及び装置
JPH0340560A (ja) * 1989-07-06 1991-02-21 Matsushita Electric Ind Co Ltd 圧縮データ編集装置
JPH0487473A (ja) * 1990-07-31 1992-03-19 Canon Inc 画像処理装置
US5170263A (en) * 1990-10-10 1992-12-08 Fuji Xerox Co., Ltd. Image processing system
JP3060315B2 (ja) * 1990-10-13 2000-07-10 キヤノン株式会社 画像処理装置及び画像処理方法
JPH04276983A (ja) * 1991-03-04 1992-10-02 Sony Corp 記録媒体及び画像データ圧縮方法
JPH04328956A (ja) * 1991-04-26 1992-11-17 Dainippon Screen Mfg Co Ltd 画像デ−タの読出し方法
JP2741973B2 (ja) * 1991-06-24 1998-04-22 大日本スクリーン製造株式会社 画像処理システム
JPH06217106A (ja) * 1993-01-13 1994-08-05 Canon Inc 画像処理方法及び装置

Also Published As

Publication number Publication date
EP0820186B1 (en) 2003-07-02
WO1996031974A1 (fr) 1996-10-10
EP0820186A4 (en) 1999-10-06
EP0820186A1 (en) 1998-01-21

Similar Documents

Publication Publication Date Title
JP2922680B2 (ja) 高解像コンピユータ・グラフイツクスの圧縮画像蓄積方法
EP2481206B1 (en) Image processing apparatus and processing method therefor
US6985630B2 (en) Image processing apparatus and method, program and storage medium
JP3966691B2 (ja) 連続階調圧縮装置及び方法、データ処理装置及びデバイス、並びに前記方法を実行するプログラムを記録した記録媒体
EP0469851B1 (en) Image processing apparatus
JP3275807B2 (ja) 画像処理装置
JPH08235346A (ja) 画像処理装置
US6404930B2 (en) Signal processing equipment
US20070031047A1 (en) Image processing apparatus and image processing method
JP2006121645A (ja) 画像圧縮装置および画像圧縮プログラム
JP2830690B2 (ja) 画像処理装置
JP2000138836A (ja) 背景画素を含むディジタル画像の圧縮装置
JPH1188700A (ja) カラー画像信号の符号化方法、復号化方法およびカラー画像処理装置
JP3497864B2 (ja) 信号処理装置
JP3685234B2 (ja) 画像処理装置
JP3109817B2 (ja) 画像処理装置
JP3346051B2 (ja) 画像処理装置
JP2809552B2 (ja) 画像符号化処理方法および画像復号化処理方法
JP2003348355A (ja) 画像処理装置及びその制御方法
JP2001169120A (ja) 画像処理装置及びその方法、及び画像処理システム
JPH10207664A (ja) 印刷制御装置及び方法及び印刷装置及び記憶媒体
JP3666079B2 (ja) 画像処理装置
JP2810585B2 (ja) 画像符号化処理方法および画像復号化処理方法
JP3278149B2 (ja) 画像処理装置
JPH11144052A (ja) 画像処理装置および画像処理システム

Legal Events

Date Code Title Description
S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081128

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081128

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101128

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131128

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees