JP4909003B2 - 画像処理装置及び方法 - Google Patents

画像処理装置及び方法 Download PDF

Info

Publication number
JP4909003B2
JP4909003B2 JP2006272319A JP2006272319A JP4909003B2 JP 4909003 B2 JP4909003 B2 JP 4909003B2 JP 2006272319 A JP2006272319 A JP 2006272319A JP 2006272319 A JP2006272319 A JP 2006272319A JP 4909003 B2 JP4909003 B2 JP 4909003B2
Authority
JP
Japan
Prior art keywords
data
dictionary
image processing
interpolation
bit depth
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006272319A
Other languages
English (en)
Other versions
JP2008090686A (ja
JP2008090686A5 (ja
Inventor
忠幸 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006272319A priority Critical patent/JP4909003B2/ja
Priority to US11/866,070 priority patent/US8391620B2/en
Publication of JP2008090686A publication Critical patent/JP2008090686A/ja
Publication of JP2008090686A5 publication Critical patent/JP2008090686A5/ja
Application granted granted Critical
Publication of JP4909003B2 publication Critical patent/JP4909003B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6016Conversion to subtractive colour signals
    • H04N1/6019Conversion to subtractive colour signals using look-up tables
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/94Vector quantisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は画像処理技術に関するものである。
近年、入力機器としてスキャナ、ビデオカメラなどが普及している。一方、出力機器としては、インクジェット、染料熱昇華型あるいは電子写真などの方式を用いた各種カラープリンタが普及している。これらのカラー入出力機器は、それぞれ固有の色空間を有している。例えば、あるスキャナで得たカラー画像をそのまま別のカラープリンタに転送して印刷する場合、色空間の相違により、印刷されたカラー画像の色はスキャナによって読み取られたオリジナルのカラー画像の色と相違する。
このようなカラー画像等に対するデバイス間での色再現性の問題を解決するためには、入力機器の色空間を出力機器の色空間に変換する処理(以下、「色空間変換処理」という)が必要となる。入出力機器の色再現性を高めるために、色空間変換機能を有する画像処理回路が入出力機器に搭載されているものもある。
例えば、色空間変換機能を有する画像処理回路にキャッシュ機構を備え、色空間変換に必要な参照値を格納する3次元ルックアップテーブル(3D-LUT)をDRAM等の外部メモリに格納する技術が特許文献1で提案されている。
特許文献1では、補間演算に使用される色空間を単位立体でモデル化し、単位立体の各頂点に対して小容量の内蔵SRAMを割当て、この内蔵SRAMをキャッシュメモリとして使用している。
一般的なダイレクトマッピング方式のキャッシュ機構では色空間アドレスの下位ビットによってキャッシュメモリの格納先が決定されるため連続する画像データ間で格納先が競合しキャッシュ機構が有効に機能しないことがある。つまり、アドレスの下位ビットが同一で上位ビットが異なる画像データが交互に入力され続けるとき、交互にキャッシュメモリを上書きして常にミスヒットを引き起こすことになる。
ダイレクトマッピング方式のキャッシュ機構がミスヒットしたときには、3D-LUTを保持する外部メモリ(DRAM)から補間演算実行時に必要なデータのみを読み出しキャッシュメモリを更新し、補間演算を実行する。色空間変換の画像処理回路にキャッシュ機構を備えることで内蔵SRAMの容量を削減することが可能である。
特開2004−274131号公報
しかしながら、キャッシュ機構を備えた画像処理回路で画像処理する場合、キャッシュ機構がミスヒットしたときの処理性能低下が問題となる。キャッシュ機構がミスヒットと判別し、DRAMなどの外部メモリから所望のデータを読み出し、キャッシュメモリを更新するまで、画像処理回路は停止して画像処理が実行できなくなる。
このデータ更新のための待ち時間を「リフィル・レイテンシ」と呼ぶ。リフィル・レイテンシが長ければ長いほどキャッシュ機構がミスヒットしたときの処理性能の低下は大きくなる。キャッシュメモリの容量を増やし、ミスヒットの頻度を減らすことで処理性能の低下を抑えることが一般的な解決策として挙げられる。
しかしながら、ミスヒットの頻度は画像処理回路に対する入力画像データの統計的な偏りに依存し、キャッシュメモリの容量増加だけでは十分な解決策とならない。またキャッシュメモリの容量を大幅に増加させるという解決策は本来キャッシュ機構を備えた理由であるLSIの製造コストの削減に相反する解決策である。
キャッシュのミスヒット頻度を減らす工夫を検討する傍らで、ミスヒットが発生したときのリフィル・レイテンシをできるだけ短くし、ミスヒットの処理性能低下の程度を削減することが求められる。
リフィル・レイテンシの小さい画像処理システムを構築することが、入力画像データの統計的な偏りに依存しない安定な画像処理システムの構築に繋がるが、このようなリフィル・レイテンシの削減方法は、特許文献1では開示されていない。
また、近年、プリンタなどの画像処理装置において、高画質化のために画像処理の解像度が著しく増加する傾向にある。このような画像処理の解像度の増加に対してLSIの動作周波数を高めるという解決策がある。しかしコンシューマ製品向けLSIの場合には消費電力などの諸問題があり、LSIの動作周波数を高めるという解決策を反映できないケースも存在する。このようなケースでは、画像処理回路を並列化して、複数画素を並列に処理することで単位動作周波数あたりの処理性能を向上させることが考えられる。
しかしながら色空間変換のように処理すべき一連の画素ごとにランダムに3D-LUTを参照する画像処理では、並列化する画像処理回路ごとに同一の3D-LUTを重複して持たない限り、複数画素の並列処理の実現は困難である。
本発明は、上記の従来技術を鑑みてなされたものであり、入力される画像データに依存しないデータ更新のための待ち時間(リフィル・レイテンシ)の小さい画像処理技術の提供を目的とする。
あるいは、画像処理回路を並列化し複数画素を同時に補間処理することを可能にする画像処理技術の提供を目的とする。
本発明に係る画像処理装置は、入力された画像データを処理する画像処理装置であって、
入力された画像データを第1ビット深度のデータと第2ビット深度のデータとに分割する分割手段と、
前記第1ビット深度のデータに対応する参照値を記憶した第1記憶手段と、
前記分割手段により分割された前記第1ビット深度のデータに基づいて、前記第1記憶手段から参照値を読み出すための情報を格納したスライド辞書と、前記分割手段により分割された第1ビット深度のデータと前記スライド辞書に格納された情報とを関係付けるコード情報と、を生成する生成手段と、
前記スライド辞書に基づいて、前記第1記憶手段から参照値を読み出し、第2記憶手段に格納する色変換手段と、
前記第2ビット深度のデータに基づき補間演算のための重み係数を算出する補間係数算出手段と、
前記第2記憶手段から前記コード情報に基づいて読み出された参照値を、前記重み係数に基づき補間する補間演算手段と、
を備えることを特徴とする。
あるいは、本発明に係る画像処理方法は、入力された画像データを処理する画像処理方法であって、
分割手段が、入力された画像データを第1ビット深度のデータと第2ビット深度のデータとに分割する分割工程と、
生成手段が、前記分割された第1ビット深度のデータに基づいて、第1記憶手段から参照値を読み出すための情報を格納したスライド辞書と、前記分割された第1ビット深度のデータと前記スライド辞書に格納された情報とを関係付けるコード情報と、を生成する生成工程と、
色変換手段が、前記スライド辞書に基づいて、前記第1記憶手段から参照値を読み出し、第2記憶手段に格納する色変換工程と、
補間計数演算手段が、前記第2ビット深度のデータに基づき補間演算のための重み係数を算出する補間係数算出工程と、
補間演算手段が、前記第2記憶手段から前記コード情報に基づいて読み出された参照値を、前記重み係数に基づき補間する補間演算工程と、
を有することを特徴とする。
本発明によれば、入力される画像データに依存しないリフィル・レイテンシの小さい画像処理技術の提供が可能になる。
あるいは、画像処理回路を並列化し複数画素を同時に補間処理することを可能にする画像処理技術の提供が可能になる。
以下に、図面を参照して、本発明の好適な実施形態を例示的に詳しく説明する。ただし、この実施の形態に記載されている構成要素はあくまで例示であり、この発明の範囲をそれらのみに限定する趣旨のものではない。
第1乃至第3実施形態で説明する構成は、画像処理において入力機器の色空間を出力機器の色空間に変換する色空間変換における入力画像データの補間処理に好適なものである。本発明は、色空間変換に限定されるものではなく、それ以外の、参照値を記憶したメモリを用いた画像処理にも適用することができる。
(第1実施形態)
図1は、本実施形態に係る画像形成装置150として、カラー複写機の構成例を示す図である。画像読み取り部120は、レンズ122、CCDセンサ124、アナログ信号処理部126等により構成される。レンズ122を介しCCDセンサ124に結像された原稿100の画像が、CCDセンサ124によりR、G、Bのアナログ電気信号に変換される。変換されたアナログ電気信号の画像情報は、アナログ信号処理部126に入力され、R、G、Bの各色毎に補正等が行われた後にアナログ・デジタル変換(A/D変換)される。
デジタル化されたフルカラー信号(以下、「デジタル画像信号」という)は、画像処理部130に入力される。画像処理部130はデジタル画像信号に対し、入力γ補正、色空間変換、濃度補正、スクリーン処理を施し、プリンタ部140へ処理後のデジタル画像信号を出力する。
本実施形態で説明する色空間変換における補間ユニットは、画像処理部130で行なわれる色空間変換を実現している。
プリンタ部140は、例えば、レーザ等の照射を制御する不図示の露光制御部、画像形成部、記録媒体(以下、「シート」ともいう)の搬送を制御する不図示の搬送制御部等により構成される。プリンタ部140は、入力されたデジタル画像信号によりシート上に画像を記録する。
また、CPU回路部110は、演算制御用のCPU112、固定データやプログラムを格納するROM114、データの一時保存やプログラムのロードに使用されるRAM116、外部記憶装置118等により構成される。ここで、外部記憶装置118は、画像形成装置150が使用するパラメータやプログラムを記憶するハードディスク等の記憶媒体である。RAM116のデータやプログラム等は、外部記憶装置118からロードされる構成とすることも可能である。CPU回路部110は、画像読み取り部120、画像処理部130、プリンタ部140等を制御し、画像形成装置150のシーケンスを統括的に制御する。
(連続数付きスライド辞書法による補間処理)
次に、連続数付きスライド辞書法による補間処理の前提として、一般的なスライド辞書法(sliding-dictionary method)であるLZ77符号化について説明する。LZ77符号化(スライド辞書法)とは、圧縮を行っている入力文字列から文字列のパターンを切り出す。そして、そのパターンと一致する、前方にある入力文字列内で、同じ順番で文字が並んだ文字列のパターン(最長一致パターン)を最長一致パターンの入力文字列内での位置と長さとで置換する符号化方式である。例えば、入力文字列として、『ABCD「ABC」EFG・・・』を想定すると、「ABC」が前方にある最長一致パターンとなる。「ABC」の先頭から4文字戻って(位置)、3文字が一致するパターン(長さ)として、一致する文字列「ABC」が置換される。
LZ77符号化に関しては、例えば、奥村晴彦著「Software Technology 13 C言語による最新アルゴリズム事典」 (平成3年12月10日 技術評論社 発行)の第389頁〜第393頁に説明が記載されている。また、「圧縮アルゴリズム符号化の原理とC言語による実装」(2003年11月25日 ソフトバンクパブリッシング株式会社発行)の第125頁から第131頁にその説明が記載されている。
LZ77符号化(スライド辞書法)では過去に出現した文字列(データ列)のパターン性に着目し、そのパターンを基に辞書を構築する。次に代入されたデータ列と同じデータ列が辞書に存在するか判定し、同じデータ列が辞書に存在する場合、代入されたデータ列を辞書の位置と一致したデータ列の長さを示すコード値として表現する。
一致したデータ列の長さが十分に長い場合、コード値の方が代入されたデータ列より情報量が少なくなる。この原理によりLZ77符号化では入力されたデータ列の情報量が圧縮される。LZ77符号化では辞書の大きさを固定長とし、辞書が一杯になった場合は辞書に登録するデータと同数のデータを辞書の先頭から消去し、残りのデータを辞書の中でスライド処理して、末尾に新規に登録したいデータを追加する。このようなスライド処理があるためLZ77符号化はスライド辞書法と呼ばれる。
スライド辞書法は文字などの圧縮には適しているが、同じデータが連続すると辞書に同じデータが登録されて、辞書に登録されたデータの多様性が失われ、圧縮効率が低下する。局所的に同一データが連続することが多い画像データに対してはLZ77符号化によるデータ圧縮は効率が悪い場合がある。
一方、画像データの圧縮法にランレングス圧縮法がある。ランレングス圧縮法では、連続するデータをその値と連続画素数を用いてコード値化する。そのため連続画素数が大きいほどランレングス圧縮法による画像データの圧縮率は向上する。しかしながら画像データが周期的に変化し、同一の画像データが連続しない場合は画像データの圧縮率は悪くなる。
画像処理部130において、ランレングス圧縮法またはLZ77符号化(スライド辞書法)を用いて辞書を作成して色変換処理を実行する補間ユニットに適用することが可能である。また、色変換処理を実行する補間ユニットとして、LZ77とランレングス圧縮法とを併用した連続数付きスライド辞書を作成して画像処理部130に適用することも可能である。
次に、本実施形態に係る連続数付きスライド辞書について説明する。図5は、本実施形態に係る連続数付きスライド辞書を説明する図である。処理すべきデータ列551が「A」、「A」、「A」、「A」、「B」、「B」、「B」、「C」、「C」、「D」、「E」、「A」、「B」、「C」・・・の順に入力されると仮定する。
連続数付きスライド辞書(以下、単に「スライド辞書」という)552は、データ列551から検出された初出のデータ(文字)を格納するエントリ領域([0]〜[4])を有する。
コード値は、処理すべきデータ列551に含まれるデータ(文字)とスライド辞書552とを関係付ける情報であり、「開始」、「終了」、「連続数」のデータを有する。「開始」及び「終了」には、データ(文字)がスライド辞書552のうち、どのエントリ領域に格納されているかを示すデータが格納される。「連続数」は、「開始」から「終了」までのデータ(文字)の繰り返し回数が格納される。
処理すべきデータ列551が入力されると、CPU112は、データ列551のうちスライド辞書552に書き込まれていない初出のデータ(文字)を検出し、スライド辞書52のエントリ領域([0]〜[4])に順次書き込む。データ列51のうち最初の「A」500はスライド辞書552のエントリ領域に存在していないので、CPU112は、スライド辞書552のエントリ領域[0]に「A」を書き込む。そして、コード値531の「開始」のデータとして、スライド辞書552のエントリ領域[0]に対応するデータ(文字)「A」が書き込まれたことを示す「0」が格納される。
次に、CPU112は、後続のデータ(文字)「A」501と直前に処理されたデータ(文字)「A」500との同一性を判定する。
データ(文字)が同一の場合、スライド辞書552のエントリ領域[0]には既にデータ(文字)「A」が書き込まれている。そのため、CPU112は同一データ(文字)である「A」501の書き込みを行わずに、コード値531の「連続数」のデータを「1」だけ増加させる。
CPU112は、後続のデータ(文字)「A」502、「A」503に関しても同様に直前に処理されたデータ(文字)との同一性の判定を行う。判定結果が同一である場合、CPU112は、コード値531の「連続数」のデータを順次カウントアップする。
次に、CPU112は、後続のデータ(文字)「B」504とデータ(文字)「A」503との同一性を判定し、初出のデータ(文字)「B」504をスライド辞書552のエントリ領域[1]に書き込む。データ(文字)「B」504により、データ(文字)「A」の連続性が途切れることになる。CPU112はコード値531の「終了」のデータとして、スライド辞書552のエントリ領域[0]に対応するデータ(文字)「A」が書き込まれたことを示す「0」を格納する。また、コード値531の連続数にはデータ「4」が格納される。
データ(文字)「B」505、506についても同様に、直前に処理されたデータ(文字)との同一性の判定が施され、その判定結果に基づいて、コード値532の「終了」、「連続数」に対応するデータが格納される。
以上の処理を入力されたデータ列551の全てについて施すことにより、スライド辞書552のエントリ領域には、初出のデータ(文字)が書き込まれる。そして、コード値には処理すべきデータ列551に含まれるデータ(文字)とスライド辞書552とを関係付けるデータが書き込まれる。
スライド辞書552のエントリ領域[2]にはデータ(文字)「C」が書き込まれ、エントリ領域[3]にはデータ(文字)「D」が書き込まれ、そして、エントリ領域[4]にはデータ(文字)「E」が書き込まれている。
コード値531において、「開始」のデータ(文字)はスライド辞書のエントリ領域[0]に格納されていることを示し、「終了」のデータ(文字)はスライド辞書のエントリ領域[0]に格納されていることを示す。「連続数」は、「開始」から「終了」までのデータ(文字)「A」の繰り返しが「4」であることを示す。
コード値532において、「開始」のデータ(文字)はスライド辞書のエントリ領域[1]に格納されていることを示し、「終了」のデータ(文字)はスライド辞書のエントリ領域[1]に格納されていることを示す。「連続数」は、「開始」から「終了」までのデータ(文字)「B」の繰り返しが「3」であることを示す。
コード値533において、「開始」及び「終了」のデータ(文字)はスライド辞書のエントリ領域[2]に格納されていることを示し、「連続数」は、そのデータ(文字)「C」の繰り返しが「2」であることを示す。
コード値534において、「開始」及び「終了」のデータ(文字)はスライド辞書のエントリ領域[3]に格納されていることを示し、「連続数」は、そのデータ(文字)「D」の繰り返しが「1」であることを示す。
コード値535において、「開始」及び「終了」のデータ(文字)はスライド辞書のエントリ領域[4]に格納されていることを示し、「連続数」は、そのデータ(文字)「E」の繰り返しが「1」であることを示す。
コード値536において、「開始」のデータ(文字)はスライド辞書552のエントリ領域[0]に格納されていることを示し、「終了」のデータ(文字)はスライド辞書552のエントリ領域[2]に格納されていることを示す。「連続数」は、「開始」から「終了」までのデータ(文字)「ABC」の繰り返しが「1」であることを示す。
コード値537において、「開始」のデータ(文字)はスライド辞書のエントリ領域[3]に格納されていることを示し、「終了」のデータ(文字)はスライド辞書のエントリ領域[4]に格納されていることを示す。「連続数」は、「開始」から「終了」までのデータ(文字)「DE」の繰り返しが「3」であることを示す。
CPU112は以上の処理を繰り返すことによって、スライド辞書552、コード値(531〜537)を出力する。
本実施形態に係る補間ユニットは、スライド辞書を多次元(N次元)のデジタル画像データのうち整数データの符号化に使用する。画像処理データは局所領域では同一データ値を持つことが多い上、整数データは画像処理データの上位ビットとして分離されることから、なおさら整数データは同一データ値が連続する傾向にある。そのため連続数付きスライド辞書を整数データの符号化に使用することは効果的なものとなる。
(補間ユニットの説明)
次に、本実施形態にかかる補間ユニットの回路構成と処理の流れを説明する。図2は第1実施形態に係る補間ユニットの回路構成を示す図である。補間ユニットは、N次元の入力信号(デジタル画像データ)に対して補間演算を行い、新たな1次元の出力信号(出力データ)を出力する。この出力データに基づいて、入力機器の色空間を出力機器の色空間に変換することができる。
まず、画像読み取り部120によるデジタル画像信号が補間ユニットに入力される。このデジタル画像信号は多次元(N次元)の入力信号である。
デジタル画像信号がデータ分割部210に入力されると、データ分割部210はデジタル画像信号を整数データと小数データに分割する。デジタル画像信号がN次元の入力信号であるため、デジタル画像信号を分割した後の整数データと小数データはともにN次元の信号となる。
データ分割部210による分割処理において、補間演算のときに使用される単位超立体の個数に応じてそのビット深度が決定される。例えば、N次元空間のある次元(軸)について単位超立体が2-1個ある場合、その次元(軸)に対応する整数データのビット深度はMビットとなる。小数データはデジタル画像信号のビット深度(L)から整数データのビット深度(M)を差し引いた、残りのビット深度(L−M)で表現される。
N次元の整数データはスライド辞書生成部220に入力され、スライド辞書生成部220は、N次元の整数データをDRAM245の多次元LUT246から色空間変換に必要な参照値を読み出すための情報(アドレス)に変換する。
スライド辞書生成部220は1次元のアドレスに対して、図5で説明したスライド辞書552およびコード値(531〜537)を生成する。スライド辞書生成部220は1次元のアドレスから初出のデータを検出し、スライド辞書のエントリ領域に格納する。コード値は、1次元のアドレスに含まれるデータとスライド辞書の各エントリ領域に格納されたデータとを、関係付けるためのデータ(「開始」、「終了」、「連続数」)を有する。
「開始」及び「終了」には、スライド辞書の各エントリ領域に格納されたデータのうち、どのエントリ領域に格納されているかを示すデータが格納される。「連続数」は、「開始」から「終了」までのデータの繰り返し回数が格納される。
スライド辞書生成部220は1次元のアドレスに基づいて生成されたスライド辞書を読み出し部230に送信する。一方、スライド辞書生成部220はスライド辞書に対応するコード値をバッファ225に格納する。また、データ分割部210により分割されたN次元の小数データはバッファ215に格納される。
読み出し部230はシステムバス247経由でスライド辞書の各エントリ領域に格納されているアドレスを順次DRAMコントローラ240に転送する。DRAMコントローラ240は、色空間変換に必要な参照値が格納されている多次元LUT246を格納するDRAM245に対してデータの書き込みと読み出しが可能である。読み出し部230はDRAMコントローラ240を制御してDRAM245の多次元LUT246から補間演算に使用するために、各エントリ領域に格納されているアドレスに対応する参照値を読み出し、順次バッファ260に格納する。そして、全てのエントリ領域に格納されているアドレスに対応した参照値(以下、「LUTデータセット」という。)がバッファ260に格納される。
分割されたN次元の小数データが格納されているバッファ215、コード値が格納されているバッファ225、LUTデータセットが格納されているバッファ260はFIFO形式で構成され、各FIFOの段数は215、225、260の順に大きくなる。バッファ260の段数はスライド辞書のエントリ領域の数と同じとなる。
バッファ215、225の段数が画像処理システムのリフィル・レイテンシに対して十分であれば、画像処理システムに入力される画像データの局所領域において、データ更新を必要最小限にすることができる。
調停部270はバッファ225からコード値を読み出すための制御信号を生成し、バッファ225からコード値を読み出す。調停部270は、読み出したコード値に従ってバッファ260からFIFO形式のLUTデータセットを参照し、コード値の開始、終了、連続数に従ってLUTデータセットを読み出す。調停部270は読み出したLUTデータセットを補間演算部290に入力する。
また、調停部270はバッファ215からN次元の小数データを読み出すための制御信号を生成し、制御信号に基づいてバッファ215からN次元の小数データを読み出す。そして、調停部270はN次元の小数データを補間係数算出部280に入力し、補間係数算出部280は入力されたN次元の小数データを重み係数(補間係数)に変換する。
補間演算部290は調停部270により読み出されたLUTデータセットを、補間係数算出部280により変換された重み係数(補間係数)に基づき、積和による補間演算を行い1次元(スカラ)の出力データを出力する。
従来のダイレクトマッピング方式のキャッシュ機構ではアドレスの下位ビットによってキャッシュメモリの格納先が決定される。そのため連続する画像データ間で格納先が競合しキャッシュ機構が有効に機能しないことがある。
本実施形態に係る補間ユニットの補間処理は、入力される画像データのアドレスに依存しない。そのため、アドレスの下位ビットが同一で上位ビットが異なる画像データが交互に入力され続ける場合でも、格納先の競合を回避することができるので、リフィル・レイテンシの小さい画像処理装置を構築することが可能になる。
あるいは、本実施形態に拠れば、バッファ段数が画像処理システムのリフィル・レイテンシに対して十分であれば、リフィルのための外部メモリアクセスを低減し、リフィル・アクセスを少なくすることができる。
(第2実施形態)
次に、第2実施形態に係る補間ユニットの回路構成と処理の流れを説明する。図3は、第2実施形態に係る補間ユニットの回路構成を示す図であり、第1実施形態に係る補間ユニットの回路構成を示す図2と同一の構成に関しては、同一の参照番号を付し、説明を省略する。図6は、補間ユニットにより処理されるデータの関係を概略的に示す図である。
まず、画像読み取り部120によるN次元のデジタル画像信号601が補間ユニットに入力される。第1実施形態と同様にデジタル画像信号はデータ分割部210で整数データ602と小数データ603に分割される。分割された整数データ602及び小数データ603はN次元のデータとなる。N次元の整数データ602は辞書生成部305に入力され、N次元の小数データ603はバッファ215に格納される。
辞書生成部305は、N次元の整数データ602を、DRAM370の多次元LUT246から色空間変換に必要な参照値を読み出すための情報(アドレス)604に変換する。辞書生成部305は1次元のアドレス604に対して、辞書605およびコード値606を生成する。辞書生成部305は1次元のアドレス604から初出のデータを検出し、辞書605のエントリ領域([0]、[1]、・・・[m])に順次格納する。辞書生成部305は、内部にあるFIFOの段数(辞書のエントリ領域の数)を固定数として、FIFOが一杯になった段階でデータ分割部210からの入力を停止する。
そして、入力の停止に基づいて、辞書生成部305は、データ分割部210からの入力を停止するまでに生成した辞書605、コード値606をパッキング部310に入力する。パッキング部310に辞書605、コード値606が入力されると、辞書生成部305内部のFIFOは空の状態になる。パッキング部310は、辞書605、コード値606の入力を受けると、バッファ215から小数データを読み出す。
そして、パッキング部310は、辞書、コード値及び小数データをまとめたパッキングデータとして、書き込み部320に入力する。書き込み部320はシステムバス247経由でDRAMコントローラ240を制御してDRAM370にパッキングデータを格納する。
辞書生成部305のFIFOが空の状態になると、辞書生成部305は、データ分割部210からの整数データ602の入力を再開し、同様の処理を繰り返す。
DRAM370上には複数回のパッキングデータの書き込みにより生成されるパッキングデータセット330が生成される。パッキングデータセット330は、1回目の書き込み(辞書(1)、コード値(1)、小数データ(1))、2回目の書き込み(辞書(2)、コード値(2)、小数データ(2))、・・・というデータ構造335を有する。
パッキングデータセット330のデータ構造335において、辞書(1)がDRAM370上に格納されるとCPU300は辞書(1)を対応するLUTデータセット(1)(図6の607)に変換する。また、辞書(2)がDRAM370上に格納されるとCPU300は辞書(2)を対応するLUTデータセット(2)(図6の608)に変換する。ここで、LUTデータセット(1)、LUTデータセット(2)・・・の変換において、CPU300は色空間変換に必要な参照値が格納されている多次元LUT246を参照することが可能である。
パッキングデータセット330の辞書(1)、(2)、・・・が順次、LUTデータセット(1)、(2)、・・・に変換される。そして、パッキングデータセット330はデータ構造345を有する補間データセット340に変換される。
読み出し部350は、辞書(1)がLUTデータセット(1)に変換された段階で、LUTデータセット(1)をバッファ360にプリロードする。このときバッファ360容量は、辞書生成部305内の辞書605のエントリ数(内部FIFOの段数)と同数のLUTデータセットを格納可能な容量を有する。
次に、読み出し部350はコード値(1)を読み込み、コード値(1)に基づいて対応する小数データを順次読み出す。コード値(1)に含まれる「開始」、「終了」、「連続数」のデータより、辞書(1)に格納されるデータのビット深度Mは、M=((「終了」−「開始」+1)x「連続数」)より算出することが可能である。
例えば、コード値(1)に基づき算出された辞書(1)のデータのビット深度Mが整数データの1次元分(整数データ(1))に相当する場合、読み出し部350は対応する小数データ(1)をフルに読み出す。
読み出し部350の処理は、補間データセット340に格納されているデータが無くなるまで繰り返し実行される。読み出し部350は、読み出した小数データを補間係数算出部280に入力し、補間係数算出部280は入力された小数データを重み係数(補間係数)に変換する。
補間演算部290はバッファ360に格納されたLUTデータセットを、補間係数算出部280により変換された重み係数(補間係数)に基づき、積和による補間演算を行い1次元(スカラ)の出力データを出力する。
本実施形態の構成では辞書のエントリ数(内部FIFOの段数)を固定数で扱ったが、一度に処理する小数データの数を固定数にし、辞書はスライド辞書としてもよい。この場合、辞書からスライドされ消去されるデータはパッキング処理を待つことなく、書き込み部320の制御により直接DRAM370上のパッキングデータセット330の所定領域に格納される。
本実施形態に係る補間ユニットの補間処理は、入力される画像データのアドレスに依存しない。そのため、アドレスの下位ビットが同一で上位ビットが異なる画像データが交互に入力され続ける場合でも、格納先の競合を回避することができるので、リフィル・レイテンシの小さい画像処理装置を構築することが可能になる。
あるいは、本実施形態に拠れば、バッファ段数が画像処理システムのリフィル・レイテンシに対して十分であれば、リフィルのための外部メモリアクセスを低減し、リフィル・アクセスを少なくすることができる。
(第3実施形態)
次に、第3実施形態に係る補間ユニットの回路構成と処理の流れを説明する。
図4は、第3実施形態に係る補間ユニットの回路構成を示す図であり、第1実施形態に係る補間ユニットの回路構成を示す図2と同一の構成に関しては、同一の参照番号を付し、説明を省略する。
第3実施形態に係る補間ユニットの回路構成は、画像処理回路を並列化し複数画素を同時に処理することが可能な補間ユニットを実現するための構成である。補間ユニットは、コード値における「開始」、「終了」、「連続数」のデータより、((「終了」−「開始」+1)x「連続数」)の関係を求め、連続数に対応する補間演算部の処理を並列化する。
連続数付きスライド辞書を説明する図5において、第1番目のコード値(0、0、4)を例として説明すると、「開始」及び「終了」のデータは「0」であり、「連続数」のデータは「4」である。この場合、((「終了」−「開始」+1)x「連続数」)の関係は1x4=4(並列数)となる。
補間ユニットの調停部410は、並列数に基づき補間演算部の割当てを管理することが可能である。図4に示す補間ユニットの回路構成において、スライド辞書のエントリ数と同数の補間演算部が設けられているものとする。並列数が4の場合、調停部410は4つの補間演算部の割当てを行い、補間演算部の処理を並列化する。
調停部410はスライド辞書552のエントリ領域[0]に格納されているアドレス「A」に対応するLUTデータセットをバッファ260から読み出し、4つの補間演算部(411a〜d)にセットする。また、調停部410は、並列数4に対応した4次元の小数データを読み出すための制御信号を生成し、制御信号に基づいてバッファ215から4次元の小数データ(FIFO形式に格納された4つの小数データ)を読み出す。そして、調停部410は各小数データを補間係数算出部(412a〜d)に入力し、補間係数算出部(412a〜d)は入力された各小数データを重み係数(補間係数)に変換する。
補間演算部(411a〜d)はアドレス「A」に対応するLUTデータセットと、変換された重み係数とに基づき、積和による補間演算を行い1次元(スカラ)の出力データを出力する。
また、連続数付きスライド辞書を説明する図5において、第7番目のコード値(3、4、3)を例として説明すると、((「終了」−「開始」+1)x「連続数」)の関係は2x3=6(並列数)となる。補間ユニットの調停部410は、6つの補間演算部の割当てを行い、補間演算部の処理を並列化する。
調停部410はスライド辞書のエントリ領域[3]とエントリ領域[4]に格納されているアドレス「D」と「E」に対応するLUTデータセットをバッファ260から読み出し6つの補間演算部にセットする。
また、調停部410は、並列数6に対応した6次元の小数データ(FIFO形式に格納された6つの小数データ)を読み出すための制御信号を生成し、制御信号に基づいてバッファ215から6次元の小数データを読み出す。そして、調停部410は各小数データを6つの補間係数算出部に入力し、6つの補間係数算出部は入力された各小数データを重み係数(補間係数)に変換する。
6つの補間演算部はアドレス「D」と「E」に対応するLUTデータセットと、変換された重み係数とに基づき、積和による補間演算を行い1次元(スカラ)の出力データを出力する。
以上説明したように、本実施形態に拠れば、画像処理回路を並列化し複数画素を同時に補間処理することが可能になる。
(他の実施形態)
なお、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給することによっても、達成されることは言うまでもない。また、システムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、不揮発性のメモリカード、ROMなどを用いることができる。
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現される。また、プログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態が実現される場合も含まれることは言うまでもない。
画像形成装置として、カラー複写機の構成例を示す図である。 第1実施形態に係る補間ユニットの回路構成を示す図である。 第2実施形態に係る補間ユニットの回路構成を示す図である。 第3実施形態に係る補間ユニットの回路構成を示す図である。 連続数付きスライド辞書を説明する図である。 補間ユニットにより処理されるデータの関係を概略的に示す図である。

Claims (13)

  1. 入力された画像データを処理する画像処理装置であって、
    入力された画像データを第1ビット深度のデータと第2ビット深度のデータとに分割する分割手段と、
    前記第1ビット深度のデータに対応する参照値を記憶した第1記憶手段と、
    前記分割手段により分割された前記第1ビット深度のデータに基づいて、前記第1記憶手段から参照値を読み出すための情報を格納したスライド辞書と、前記分割手段により分割された第1ビット深度のデータと前記スライド辞書に格納された情報とを関係付けるコード情報と、を生成する生成手段と、
    前記スライド辞書に基づいて、前記第1記憶手段から参照値を読み出し、第2記憶手段に格納する色変換手段と、
    前記第2ビット深度のデータに基づき補間演算のための重み係数を算出する補間係数算出手段と、
    前記第2記憶手段から前記コード情報に基づいて読み出された参照値を、前記重み係数に基づき補間する補間演算手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記コード情報には、前記スライド辞書に格納されている情報の開始を示すデータ、終了を示すデータ及び前記情報の繰り返しを示す連続数のデータが含まれていることを特徴とする請求項1に記載の画像処理装置。
  3. 複数の前記補間演算手段が設けられ、前記第2記憶手段から前記コード情報に基づいて読み出された参照値を、複数の前記補間演算手段が前記重み係数に基づき並列に補間演算を行うことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記補間係数算出手段は、前記コード情報に従い読み出された前記第2ビット深度のデータに基づき補間演算のための重み係数を算出することを特徴とする請求項1に記載の画像処理装置。
  5. 前記補間演算手段により補間された参照値に基づき記録媒体上に画像形成する出力手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
  6. 前記画像データは多次元の画像データであり、前記第1ビット深度のデータは前記多次元の画像データの画素値の整数部分であり、前記第2ビット深度のデータは前記多次元の画像データの画素値の少数部分であることを特徴とする請求項1に記載の画像処理装置。
  7. 入力された画像データを処理する画像処理方法であって、
    分割手段が、入力された画像データを第1ビット深度のデータと第2ビット深度のデータとに分割する分割工程と、
    生成手段が、前記分割された第1ビット深度のデータに基づいて、第1記憶手段から参照値を読み出すための情報を格納したスライド辞書と、前記分割された第1ビット深度のデータと前記スライド辞書に格納された情報とを関係付けるコード情報と、を生成する生成工程と、
    色変換手段が、前記スライド辞書に基づいて、前記第1記憶手段から参照値を読み出し、第2記憶手段に格納する色変換工程と、
    補間計数演算手段が、前記第2ビット深度のデータに基づき補間演算のための重み係数を算出する補間係数算出工程と、
    補間演算手段が、前記第2記憶手段から前記コード情報に基づいて読み出された参照値を、前記重み係数に基づき補間する補間演算工程と、
    を有することを特徴とする画像処理方法。
  8. 前記コード情報には、前記スライド辞書に格納されている情報の開始を示すデータ、終了を示すデータ及び前記情報の繰り返しを示す連続数のデータが含まれていることを特徴とする請求項に記載の画像処理方法。
  9. 前記第2記憶手段から前記コード情報に基づいて読み出された参照値を、複数の前記補間演算手段が前記重み係数に基づき並列に補間演算を行うことを特徴とする請求項またはに記載の画像処理方法。
  10. 前記補間係数算出工程が、前記コード情報に従い読み出された前記第2ビット深度のデータに基づき補間演算のための重み係数を算出することを特徴とする請求項に記載の画像処理方法。
  11. 出力手段が、前記補間演算工程により補間された参照値に基づき記録媒体上に画像形成する出力工程を更に有することを特徴とする請求項に記載の画像処理方法。
  12. 複数の参照値を保持するテーブルと、
    入力される画像データの画素値の上位ビットに基づいて、前記画像データの画素値の上位ビットに関する辞書と、当該辞書と前記画像データとの対応を示すコード情報とを生成する生成手段と、
    前記辞書に基づいて前記テーブルから前記画像データの色変換に用いる参照値を取得する色変換手段と、
    前記色変換手段によって取得した参照値を前記画像データの画素値の下位ビットに基づいて補間する補間手段と
    を備えることを特徴とする画像処理装置。
  13. 画像データの画素値の上位ビットに関する辞書に格納されているデータの繰り返し回数を含むコード情報を受信する第1バッファと、
    前記辞書に基づいて記憶装置のテーブルから読み出した画像データの色変換に用いる参照値を取得して第2バッファに格納する色変換手段と、
    前記画像データの画素値の下位ビットを保持する第3バッファと、
    前記第1バッファのコード情報の繰り返し回数に基づいて前記第2バッファから参照値を読み出し、当該参照値を前記第3バッファの保持する下位ビットに基づいて補間する補間手段と
    を備えることを特徴とする画像処理装置。
JP2006272319A 2006-10-03 2006-10-03 画像処理装置及び方法 Expired - Fee Related JP4909003B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006272319A JP4909003B2 (ja) 2006-10-03 2006-10-03 画像処理装置及び方法
US11/866,070 US8391620B2 (en) 2006-10-03 2007-10-02 Image processing apparatus, image forming apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006272319A JP4909003B2 (ja) 2006-10-03 2006-10-03 画像処理装置及び方法

Publications (3)

Publication Number Publication Date
JP2008090686A JP2008090686A (ja) 2008-04-17
JP2008090686A5 JP2008090686A5 (ja) 2009-11-05
JP4909003B2 true JP4909003B2 (ja) 2012-04-04

Family

ID=39374746

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006272319A Expired - Fee Related JP4909003B2 (ja) 2006-10-03 2006-10-03 画像処理装置及び方法

Country Status (2)

Country Link
US (1) US8391620B2 (ja)
JP (1) JP4909003B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5477098B2 (ja) * 2010-03-24 2014-04-23 富士ゼロックス株式会社 色補正装置及びプログラム
EP2378766A1 (en) * 2010-04-16 2011-10-19 Liberty Global Europe Holding B.V. Electronic Program Guide compression method and system
WO2013160969A1 (en) * 2012-04-27 2013-10-31 Hitachi, Ltd. Storage apparatus and data management method

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1099766C (zh) * 1994-06-16 2003-01-22 精工爱普生株式会社 数据压缩方法、数据复原方法及信息处理装置
US5572206A (en) * 1994-07-06 1996-11-05 Microsoft Corporation Data compression method and system
US5635932A (en) * 1994-10-17 1997-06-03 Fujitsu Limited Lempel-ziv compression with expulsion of dictionary buffer matches
US6865291B1 (en) * 1996-06-24 2005-03-08 Andrew Michael Zador Method apparatus and system for compressing data that wavelet decomposes by color plane and then divides by magnitude range non-dc terms between a scalar quantizer and a vector quantizer
JP2001136535A (ja) * 1999-08-25 2001-05-18 Fuji Xerox Co Ltd 画像符号化装置および量子化特性決定装置
JP2001339617A (ja) * 2000-05-26 2001-12-07 Minolta Co Ltd 画像処理装置および画像処理方法
JP2002135128A (ja) * 2000-10-25 2002-05-10 Sony Corp データ圧縮方法、データ圧縮・伸長方法、データ圧縮装置及びデータ圧縮・伸長装置
JP2004274131A (ja) 2003-03-05 2004-09-30 Canon Inc 色変換装置
JP3880578B2 (ja) * 2004-01-30 2007-02-14 キヤノン株式会社 符号化装置、符号化方法
JP4724413B2 (ja) * 2004-11-26 2011-07-13 キヤノン株式会社 データ分類方法
JP2006173747A (ja) * 2004-12-13 2006-06-29 Canon Inc データ変換装置、画像形成装置およびテーブルデータ格納方法
US7616210B2 (en) * 2005-08-23 2009-11-10 Canon Kabushiki Kaisha Memory apparatus and memory control method
JP4468270B2 (ja) * 2005-08-31 2010-05-26 キヤノン株式会社 正規化方法および多次元補間装置およびプログラム

Also Published As

Publication number Publication date
US8391620B2 (en) 2013-03-05
US20080181514A1 (en) 2008-07-31
JP2008090686A (ja) 2008-04-17

Similar Documents

Publication Publication Date Title
JP4795264B2 (ja) 走査変換装置及び走査変換方法
JP4100210B2 (ja) 画像処理装置
JP5501041B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4724413B2 (ja) データ分類方法
JP4909003B2 (ja) 画像処理装置及び方法
JP5620734B2 (ja) 色処理装置およびその方法
US20180103174A1 (en) Image processing apparatus and method for controlling the same
JP4164257B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP4468270B2 (ja) 正規化方法および多次元補間装置およびプログラム
JP2020145661A (ja) 画像処理装置とその制御方法、及びプログラム
JP3772569B2 (ja) 画像処理装置および画像処理方法
JP2004274131A (ja) 色変換装置
JP4810615B2 (ja) 多次元補間装置、多次元補間方法、及びコンピュータプログラム
US20110205591A1 (en) Image processing device and image processing method
US9195160B2 (en) Image forming apparatus and image forming method for correcting registration deviation
JP5441676B2 (ja) 画像処理装置及びその処理方法
JP5264126B2 (ja) 画像処理装置及びその制御方法、プログラム
JP2003289449A (ja) 画像処理装置およびその方法
US6717695B1 (en) Method and circuit for the production of compressed or expanded images, and printer with such circuit
JP2007306445A (ja) 画像データ変換装置
JP2006135825A (ja) 画像補間処理装置
JP2752821B2 (ja) 画像記録装置
JP2006048655A (ja) 画像処理回路、電子機器、及び画像処理方法
JP2009010532A (ja) 色変換処理装置及び色変換方法
JP4715408B2 (ja) データ処理装置及びデータ処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090917

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150120

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4909003

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150120

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees