JP4010452B2 - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP4010452B2 JP4010452B2 JP2003014764A JP2003014764A JP4010452B2 JP 4010452 B2 JP4010452 B2 JP 4010452B2 JP 2003014764 A JP2003014764 A JP 2003014764A JP 2003014764 A JP2003014764 A JP 2003014764A JP 4010452 B2 JP4010452 B2 JP 4010452B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- compression
- encoding
- processing
- coding mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Description
【発明の属する技術分野】
本発明は、デジタル複写機(複合機=MFPを含む)、プリンタ、スキャナ或いはパーソナルコンピュータ等の各種の画像処理装置及び画像処理方法に関する。
【0002】
【従来の技術】
一般に、この種の画像処理装置で取り扱う文書画像データには種々のものがある。例えば、大半は白黒画像であるが、部分的にカラー画像等の白黒画像以外の画像がレイアウトされているような文書、或いは、逆の文書も多々ある。
【0003】
また、高圧縮率にして高画質な画像の復元が可能な高精細画像圧縮伸長技術としてJPEG2000アルゴリズムによる画像圧縮符号化技術が注目されている。
【0004】
【特許文献1】
特開2001−297303公報
【0005】
【発明が解決しようとする課題】
JPEG2000アルゴリズムを利用すれば、幾つかの高能率符号化のための処理を含んでおり、基本的に、高効率、高圧縮率の圧縮符号化が可能であるが、それらの処理が対象画像の特性によっては必ずしも有効とは限らず、無駄な処理となって、却って、符号化効率を悪くし、高速処理化を妨げるケースもある。
【0006】
即ち、JPEG2000アルゴリズムによる圧縮符号化の特徴を考えた場合、その一つとして圧縮率を高めるためのビットプレーン符号化があり、本来的には2値データと同等に扱い得る白黒画像の場合であっても多値データで表現されている以上、通常通り、複数のビットプレーンの符号化を行う必要があり、結果的に無駄な符号化を行っているのと同じ意味になり、符号化効率が悪く、処理速度も遅くなってしまう不具合がある。
【0007】
本発明の目的は、各種の文書画像データ等を圧縮符号化する上で、JPEG2000アルゴリズムによる画像圧縮符号化技術を利用し、基本的に一つの符号手段で各種特性を持つ画像データに対して高能率に処理可能とし、かつ、その際のJPEG2000アルゴリズムの不都合を回避できるようにすることである。
【0008】
【課題を解決するための手段】
請求項1記載の発明の画像処理装置は、文書画像データを、少なくともDCレベル変換処理、色空間変換処理、ウェーブレット変換処理、量子化処理及びエントロピー符号化処理という手順で、JPEG2000アルゴリズムに従い圧縮符号化する圧縮符号化手段と、前記文書画像データ中に混在する白黒画像領域と白黒以外の画像領域とを分離して像域分離信号を出力する像域分離手段と、前記像域分離信号により白黒以外の画像領域として分離された領域に対しては、前記圧縮符号化手段で通常符号化モードとして、前記DCレベル変換処理から全ての符号化処理を行い、前記像域分離信号により白黒画像領域として分離された領域に対しては、前記圧縮符号化手段で白黒符号化モードとして、前記DCレベル変換処理後の正の値に1を加えた値を用い、かつ、前記ウェーブレット変換処理のウェーブレット分割レベルを0として、前記エントロピー符号化処理を行うように、前記圧縮符号化手段の処理内容を切り換える処理内容切換え手段とを有する。
【0009】
従って、基本的に、JPEG2000アルゴリズムに従い圧縮符号化する圧縮符号化手段を用いることで、白黒画像領域と白黒以外の画像領域との圧縮符号化処理について単一の符号手段で対応可能で構成が簡単で高能率な上に、この圧縮符号化手段による処理内容を文書画像データ中に混在する白黒画像領域と白黒以外の画像領域との像域分離信号に基づき切換えることにより、よりJPEG2000アルゴリズムの特徴を活かしてこのJPEG2000アルゴリズムの不都合を回避することが可能となる。また、適用機種が例えばパーソナルコンピュータ等にあっては、像域分離信号を外部から入力されるように構成してもよいが、適用機種が例えばデジタル複写機等の画像形成装置の場合には、自身が像域分離手段を備えることにより、自機単独で適正な画像圧縮符号化処理が可能となる。
【0010】
ここで、JPEG2000アルゴリズムによる圧縮符号化の特徴を考えた場合、その一つとして圧縮率を高めるためのビットプレーン符号化があり、本来的には2値データと同等に扱い得る白黒画像の場合であっても多値データで表現されている以上、通常通り、複数のビットプレーンの符号化を行う必要があり、結果的に無駄な符号化を行っているのと同じ意味になり、符号化効率が悪く、処理速度も遅くなってしまう不具合がある。この点、請求項1記載の発明では、白黒画像の場合には、DCレベル変換処理結果に細工を施すことにより実質的に2値データと同様に扱えるようにし、2次元ウェーブレット変換処理や量子化処理を行わずに、エントロピー符号化処理のみを行わせることで、無駄な処理を省くことができ、処理の高速化、符号化効率を向上させることができる。即ち、白黒画像と判断されたときは、値を0:白(若しくは黒)、255:黒(8ビット画像の場合、若しくは、白)とし、DCレベル変換後には、その値が−128と127になる。この正の値に1を加えると、−128と128になる。この値に対して、ウェーブレット分割レベル0のウェーブレット、即ち、ウェーブレット変換を行わずに、次の3コーディングパス(−ビットプレーンに3回のパス:JPEG2000標準)を行うと、+128と−128はともに、7ビット目だけが値がある(即ち、7ビット目が1で他の0から6ビット目と8ビット目以上は0)ものとなっている。これを符号化すると、符号化の対象が7ビット目だけとなるので、白黒混在画像の場合、符号化効率が上がる。
【0011】
請求項2記載の発明は、請求項1記載の画像処理装置において、前記処理内容切換え手段は、前記文書画像データを複数に分割して符号化する或る小領域単位で通常符号化モードとするか白黒符号化モードとするか処理内容を動的に切換える。請求項3記載の発明は、前記或る小領域単位が、文書画像データが複数に分割されて符号化されるタイル単位であり、請求項4の発明は、前記或る小領域単位が、文書画像データが複数に分割走査されて符号化されるラスタライン単位である。
【0012】
従って、通常符号化モードと白黒符号化モードとの切換えを、文書画像データを複数に分割して符号化する或る小領域、例えば、請求項3記載の発明のようにタイル、また、請求項4記載の発明のようにラスタラインを単位として行わせることで、請求項1記載の発明を文書画像データの状態に合わせて木目細かく実現できる。
【0013】
請求項5記載の発明は、請求項3記載の画像処理装置において、前記圧縮符号化手段は、圧縮符号化した符号データのメインヘッダ領域中に各タイル毎に適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述する。
【0014】
従って、圧縮符号化した符号データのメインヘッダ領域中に各タイル毎に符号化モード情報が記述されるので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0015】
請求項6記載の発明は、請求項4記載の画像処理装置において、前記圧縮符号化手段は、圧縮符号化した符号データのメインヘッダ領域中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述する。
【0016】
従って、圧縮符号化した符号データのメインヘッダ領域中に切換えラスタラインに関する符号化モード情報が記述されるので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0017】
請求項7記載の発明は、請求項3記載の画像処理装置において、前記圧縮符号化手段は、圧縮符号化した各タイルの符号データ中にそのタイルに適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述する。
【0018】
従って、圧縮符号化した各タイルの符号データ中にそのタイルに適用した符号化モード情報が記述されるので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0019】
請求項8記載の発明は、請求項4記載の画像処理装置において、前記圧縮符号化手段は、圧縮符号化した符号データ中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述する。
【0020】
従って、圧縮符号化した各タイルの符号データ中に切換えラスタラインに関する符号化モード情報が記述されるので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0021】
請求項9記載の発明は、白黒画像領域と白黒以外の画像領域とが混在する文書画像データを処理する画像処理方法であって、前記文書画像データを、少なくともDCレベル変換処理、色空間変換処理、ウェーブレット変換処理、量子化処理及びエントロピー符号化処理という手順で圧縮符号化する圧縮符号化ステップと、前記文書画像データ中に混在する白黒画像領域と白黒以外の画像領域とを分離して像域分離信号を出力する像域分離ステップと、前記像域分離信号により白黒以外の画像領域として分離された領域に対しては、前記圧縮符号化ステップで通常符号化モードとして、前記DCレベル変換処理から全ての符号化処理を行い、前記像域分離信号により白黒画像領域として分離された領域に対しては、前記圧縮符号化ステップで白黒符号化モードとして、前記DCレベル変換処理後の正の値に1を加えた値を用い、かつ、前記ウェーブレット変換処理のウェーブレット分割レベルを0として、前記エントロピー符号化処理を行うように、前記圧縮符号化ステップの処理内容を切り換える処理内容切換えステップとを有する。
【0022】
請求項10記載の発明は、請求項9記載の画像処理方法において、前記処理内容切換えステップは、前記文書画像データを複数に分割して符号化する或る小領域単位で通常符号化モードとするか白黒符号化モードとするか前記圧縮符号化ステップの処理内容を動的に切換える。
【0023】
請求項11記載の発明は、請求項10記載の画像処理方法において、前記或る小領域単位が、文書画像データが複数に分割されて符号化されるタイル単位である。
【0024】
請求項12記載の発明は、請求項10記載の画像処理方法において、前記或る小領域単位が、文書画像データが複数に分割走査されて符号化されるラスタライン単位である。
【0025】
請求項13記載の発明は、請求項11記載の画像処理方法において、前記圧縮符号化ステップは、圧縮符号化した符号データのメインヘッダ領域中に各タイル毎に適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述する。
【0026】
請求項14記載の発明は、請求項12記載の画像処理方法において、前記圧縮符号化ステップは、圧縮符号化した符号データのメインヘッダ領域中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述する。
【0027】
請求項15記載の発明は、請求項11記載の画像処理方法において、前記圧縮符号化ステップは、圧縮符号化した各タイルの符号データ中にそのタイルに適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述する。
【0028】
請求項16記載の発明は、請求項12記載の画像処理方法において、前記圧縮符号化ステップは、圧縮符号化した符号データ中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述する。
【0029】
従って、請求項9〜16記載の発明では、請求項1〜8記載の発明と同様な作用を奏する。
【0030】
【発明の実施の形態】
本発明の実施の一形態を図面に基づいて説明する。
【0031】
[JPEG2000について概略説明]
本実施の形態は、JPEG2000アルゴリズムを利用するものであり、まず、JPEG2000について概略説明する。
【0032】
図1は、JPEG2000アルゴリズムの基本を説明するための機能ブロック図である。図1に示すように、JPEG2000アルゴリズムは、色空間変換・逆変換部101、2次元ウェーブレット変換・逆変換部102、量子化・逆量子化部103、エントロピー符号化・復号化部104、タグ処理部105によって構成されている。以下、各部について説明する。
【0033】
色空間変換・逆変換部101及び2次元ウェーブレット変換・逆変換部102について図2及び図3を参照しながら説明する。
【0034】
図2は、カラー画像である原画像の分割された各コンポーネントの一例を示す模式図である。カラー画像は、一般に、図2に示すように、原画像の各コンポーネントR、G、B(111)が、例えばRGB原色系によって分離されている。そして、原画像の各コンポーネントR、G、Bは、さらに、矩形をした領域であるタイル112によって分割される。個々のタイル112、例えば、R00,R01,…,R15/G00,G01,…,G15/B00,B01,…,B15は、圧縮伸長プロセスを実行する際の基本単位を構成する。従って、圧縮伸長動作は、コンポーネントR、G、B(111)毎、そしてタイル112毎に、独立して行なわれる。
【0035】
ここで、画像データの符号化時、各タイル112のデータは、図1に示す色空間変換・逆変換部101に入力され、色空間変換を施された後、2次元ウェーブレット変換・逆変換部102で2次元ウェーブレット変換(順変換)が適用されて周波数帯に空間分割される。
【0036】
図3は、デコンポジションレベル数が3である場合の各デコンポジションレベルにおけるサブバンドを示す模式図である。2次元ウェーブレット変換・逆変換部102は、原画像のタイル分割によって得られたタイル原画像(0LL)(デコンポジションレベル0)に対して、2次元ウェーブレット変換を施し、デコンポジションレベル1に示すサブバンド(1LL,1HL,1LH,1HH)を分離する。そして、2次元ウェーブレット変換・逆変換部102は、引き続き、この階層における低周波成分1LLに対して、2次元ウェーブレット変換を施し、デコンポジションレベル2に示すサブバンド(2LL,2HL,2LH,2HH)を分離する。2次元ウェーブレット変換・逆変換部102は、順次同様に、低周波成分2LLに対しても、2次元ウェーブレット変換を施し、デコンポジションレベル3に示すサブバンド(3LL,3HL,3LH,3HH)を分離する。図3中、各デコンポジションレベルにおいて符号化の対象となるサブバンドはグレーで示されている。例えば、デコンポジションレベル数を3とした場合、グレーで示したサブバンド(3HL,3LH,3HH,2HL,2LH,2HH,1HL,1LH,1HH)が符号化対象となり、3LLサブバンドは符号化されない。
【0037】
次いで、量子化・逆量子化部103では、指定した符号化の順番で符号化の対象となるビットが定められた後、対象ビット周辺のビットからコンテキストが生成される。
【0038】
図4は、プレシンクトを例示する模式図である。量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎に、「プレシンクト」と呼ばれる重複しない矩形に分割される。これは、インプリメンテーションでメモリを効率的に使うために導入されたものである。図4に示すように、一つのプレシンクトは、空間的に一致した3つの矩形領域からなっている。さらに、個々のプレシンクトは、重複しない矩形の「コードブロック」に分けられる。これは、エントロピーコーディングを行う際の基本単位となる。
【0039】
図5は、2次元ウェーブレット変換後の2次元ウェーブレット係数の値を「ビットプレーン」単位に分解し、画素或いはコードブロック毎に「ビットプレーン」に順位付けを行う処理の概要を示す模式図である。ウェーブレット変換後の係数値は、そのまま量子化し符号化することも可能であるが、JPEG2000では符号化効率を上げるために、係数値を「ビットプレーン」単位に分解し、画素或いはコードブロック毎に「ビットプレーン」に順位付けを行うことができる。図5には、その手順を簡単に示した。この例は、原画像(32×32画素)を16×16画素のタイル4つで分割した場合の例であり、デコンポジションレベル1のプレシンクトとコードブロックとの大きさは、各々8×8画素と4×4画素としている。プレシンクトとコードブロックの番号とは、ラスター順に付けられる。タイル境界外に対する画素拡張にはミラーリング法を使い、可逆(5,3)フィルタでウェーブレット変換を行い、デコンポジションレベル1のウェーブレット係数値を求めている。
【0040】
また、図5には、タイル0/プレシンクト3/コードブロック3について、代表的な「レイヤ」についての概念的な模式図も併せて示している。レイヤの構造は、ウェーブレット係数値を横方向(ビットプレーン方向)から見ると理解し易い。1つのレイヤは任意の数のビットプレーンから構成される。この例では、レイヤ0、1、2、3は、各々、1、3、1という3つのビットプレーンからなっている。そして、LSBに近いビットプレーンを含むレイヤ程、先に量子化の対象となり、逆に、MSBに近いレイヤは最後まで量子化されずに残ることになる。LSBに近いレイヤから破棄する方法はトランケーションと呼ばれ、量子化率を細かく制御することが可能である。
【0041】
次いで、エントロピー符号化・復号化部104について図6を参照しながら説明する。図6は、符号化された画像データのコードストリームを例示する模式図である。エントロピー符号化・復号化部104(図1参照)では、コンテキストと対象ビットとから、確率推定によって各コンポーネントRGBのタイル112に対する符号化を行う。こうして、原画像の全てのコンポーネントRGBについて、タイル112単位で符号化処理が行われる。
【0042】
次いで、タグ処理部105について説明する。タグ処理部105は、エントロピー符号化・復号化部104からの全符号化データを1本のコードストリームに結合するとともに、それにタグを付加する処理を行う。図6に、コードストリームの構造を簡単に示している。このようなコードストリームの先頭と各タイル112を構成する部分タイルの先頭には、ヘッダと呼ばれるタグ情報が付加され、その後に、各タイル112の符号化データが続く。そして、コードストリームの終端には、再びタグが置かれる。
【0043】
一方、復号化時には、符号化時とは逆に、各コンポーネントRGBの各タイル112のコードストリームから画像データを生成する。このような処理について、図1を用いて簡単に説明する。タグ処理部105は、外部より入力したコードストリームに付加されたタグ情報を解釈し、コードストリームを各コンポーネントRGBの各タイル112のコードストリームに分解し、その各コンポーネントRGBの各タイル112のコードストリーム毎に復号化処理を行う。この際、コードストリーム内のタグ情報に基づく順番で復号化の対象となるビットの位置が定められるとともに、量子化・逆量子化部103において、その対象ビット位置の周辺ビット(既に復号化を終えている)の並びからコンテキストを生成する。そして、エントロピー符号化・復号化部104では、そのコンテキストとコードストリームとから確率推定によって復号化を行なって対象ビットを生成し、それを対象ビットの位置に書き込む。このようにして復号化されたデータは、周波数帯域毎に空間分割されているため、これを2次元ウェーブレット変換・逆変換部102で2次元ウェーブレット逆変換を行うことにより、画像データ中の各コンポーネントRGBにおける各タイル112が復元される。復元されたデータは、色空間変換・逆変換部101によって元の表色系のデータに変換される。
【0044】
次に、JPEG2000の符号フォーマット例を説明する。図7はJPEG2000の符号フォーマットを示す概略図である。当該符号フォーマットは、符号データの始まりを示すSOC(Start of Codestream)マーカで始まり、その後に、符号化のパラメータや量子化のパラメータを記述したメインヘッダが続き、さらに、実際の符号データが続く構成である。実際の符号データは、SOT(Start of Tile−part)マーカで始まり、タイルヘッダ、SOD(Start of Data)マーカ、タイルデータ(符号)で構成される。これら画像全体に相当する符号データの後に、符号の終了を示すEOC(End of Codestream)マーカが付加される。
【0045】
[デジタルフルカラー複写機の全体構成]
次に、本実施の形態の画像処理装置であるデジタルフルカラー複写機の構成例について、その概略構成を示す図8を参照して説明する。
【0046】
このデジタルカラー複写機1は、データ蓄積機能を有するMFP=複合機としても機能するもので、プリンタエンジンとして機能するカラープリンタであるプリンタ2と、プリンタ2の上部に設置された画像読取装置としてのカラーイメージスキャナであるスキャナ3とから構成されている。
【0047】
プリンタ2は、スキャナ3で光学的に読取られた原稿の画像データや外部装置から送信された画像データ等に基づいて作像ユニット4で電子写真方式による画像形成を行い、この画像を給紙部5から用紙搬送部6で用紙搬送路7を経て搬送される記録媒体である用紙Pに転写し、画像が転写された用紙Pを搬送ベルト8で定着部9に搬送し、用紙Pの転写画像を定着部9で加熱加圧することにより定着して排紙トレイ10に排紙する構造である。
【0048】
作像ユニット4は、回転するドラム状の感光体11の周囲に、感光体11の表面を一様に帯電させる帯電部12、一様帯電した感光体11の表面に対する露光走査によって色毎の画像データに基づく静電潜像を感光体11上に形成する露光部13、シアン(C),マゼンタ(M),イエロー(Y),ブラック(K)のトナーを有して色毎の静電潜像に対応するトナーを付着させて可視像であるトナー像を形成するリボルバー方式のカラー現像部14、順次色毎のトナー像を複数のローラに支持された中間転写ベルト15上に転写させる中間転写部16、中間転写ベルト15上に転写されず感光体11上に残留するトナーを掻き落す感光体クリーニング部17、感光体11上の電荷を除電する除電部18等を配置することにより形成されており、さらに、中間転写ベルト15上のトナー像を用紙P上に一括転写させる転写部19、用紙P上に一括転写されず中間転写ベルト15上に残留するトナーを掻き落すベルトクリーニング部20を配置することにより形成されている。
【0049】
次に、スキャナ3について説明する。スキャナ3は、スキャナ本体21と、スキャナ本体21の上部に設けられた原稿搬送部であるADF(自動原稿搬送装置)22とから構成されている。スキャナ本体21の筐体23の上面には、原稿固定モードでの原稿画像の読取時に原稿が載置される載置原稿用ガラス24と、原稿搬送モードでの原稿画像の読取時に使用される搬送原稿用ガラス25とが設けられている。ここで、原稿固定モードとは、載置原稿用ガラス24上に載置された状態の原稿の画像を読取る動作モードであり、原稿搬送モードとは、ADF22により原稿を自動給紙し、自動給紙された原稿が搬送原稿用ガラス25上を通過する際にその原稿の画像を読取る動作モードである。
【0050】
また、筐体23の内部であって載置原稿用ガラス24に下方から対向する位置には、原稿に光を照射する露光手段としての照明ランプ(高輝度Xeランプ)26及びミラー27を備える第一走行体28が、載置原稿用ガラス24に沿って副走査方向に移動自在に配置されている。第一走行体28の反射光路には、2個のミラー29,30を備える第二走行体31が、載置原稿用ガラス24に沿って副走査方向に移動自在に配置されており、この第二走行体31の反射光路には、レンズ32を介してカラーラインセンサであるCCD(Charge Coupled Device)33を搭載したSBU(Sensor Board Unit)34が位置している。なお、CCD33が光電変換素子として機能する。
【0051】
副走査手段としての第一走行体28と第二走行体31とには、ステッピングモータ35がプーリやワイヤなど(いずれも図示せず)により連結されており、第一走行体28と第二走行体31とは、図7中左側から右側へ2:1の速度比で同一の副走査方向に移動自在とされている。なお、本実施の形態のデジタルカラー複写機1は、変倍機能を備えるものであり、拡大/縮小変倍コピー時には、その変倍率に応じてステッピングモータ35の速度を制御することにより、第一,第二走行体28,31の原稿に対する移動速度を変更させることにより、副走査方向の変倍処理がメカ的に行われる。主走査方向の変倍は後述するような電気的変倍処理により実行される。
【0052】
このようなデジタルフルカラー複写機1は、複数のマイクロコンピュータで構成される制御系により制御される。図9は、これらの制御系のうち、画像処理に関わる制御系の電気的な接続を示す概略ブロック図である。この制御系は、CPU41、ROM42、RAM43及び操作パネル44等が、バス45で接続されている。CPU41は、各種演算を行い、画像処理等の処理を集中的に制御する。ROM42には、このCPU41が実行する処理に関わる各種プログラムや固定データが格納されている。RAM43は、CPU41のワークエリアとなる。IPU(Image Processing Unit)46は、各種画像処理に関わるハードウエアを備えている。記憶媒体となるROM42は、EEPROMやフラッシュメモリ等の不揮発性メモリを備えていて、ROM42内に格納されているプログラムはCPU41の制御により、I/Oポート47を介して外部装置(図示せず)からダウンロードされるプログラムに書換え可能である。即ち、本実施の形態では、ROM42に各種機能を実現するためのプログラムが格納されており、このROM42がプログラムを記憶した記憶媒体として機能している。
【0053】
また、本実施の形態のデジタル複写機1は、図1を参照して説明したJPEG2000アルゴリズムの各機能ブロックを備え、前述のようなJPEG2000アルゴリズムにより画像データの圧縮符号化を行う。即ち、図1に示したような圧縮符号化手段及び復号化手段の機能は、IPU46によりハードウエアが行う処理により実行しても、ROM42に記憶されているプログラムに基づいてCPU41が行う処理により実行してもよい。これにより、基本的には、スキャナ3で読取られ、IPU46で白シェーディング補正等の各種画像処理が施された複数枚の画像のデジタル画像データを、JPEG2000アルゴリズムにより圧縮符号化して、各画像のコードストリームを生成する。即ち、画像を1又は複数の矩形領域(タイル)に分割し、この矩形領域毎に画素値を離散ウェーブレット変換して階層的に圧縮符号化することを基本とする。
【0054】
[画像圧縮符号化処理]
図1中に示したJPEG2000アルゴリズムによる圧縮符号化手段を書き直すと、図10のように示すことができる。即ち、DCレベルシフト部(DCレベル変換部)101a、カラー変換部101b、ウェーブレット変換部102a、量子化部103a、係数モデリング部104a、算術符号化部104b、符号順序制御部105aをその処理順に並べることにより圧縮符号化手段106が構成されている。ここに、DCレベルシフト部101a及びカラー変換部101bは色空間変換・逆変換部101中に属するもので、DCレベルシフト部101aは入力される画像信号がRGB信号値のような正の数である場合に所定の変換式を用いて各信号値から信号のダイナミックレンジの1/2を減算するレベルシフト処理を行い、カラー変換部101bではRGB画像を輝度色差系のYCbCr画像に変換することによりカラー画像の圧縮効率を高める処理を行う。ウェーブレット変換部102aは2次元ウェーブレット変換・逆変換部102中に属し、前述したようなウェーブレット係数への変換処理を行う。量子化部103aは量子化・逆量子化部103に属し、効率のよい圧縮を行うためにウェーブレット係数のダイナミックレンジを削減する処理を行う。この量子化処理の一例として、後述のエントロピー符号化がビットプレーンであることを利用して、完成した符号列の下位ビットプレーンを切り捨てることにより量子化するポスト量子化方式がある。
【0055】
係数モデリング部104a及び算術符号化部104bはブロックベースのビットプレーン符号化を行うエントロピー符号化・復号化部104に属する。このうち、係数モデリング部104aでは符号化対象となる多値ウェーブレット係数から2値算術符号化用のビットモデルを作成するものであり、この処理により符号化方法が決定される。算術符号化部104bにおける符号化方式には新しい2値画像符号方式であるMQ−Coderと称される方式が用いられる。符号順序制御部105aはタグ処理部105に含まれる。
【0056】
このようなJPEG2000アルゴリズムに従った圧縮符号化手段106に加えて、本実施の形態では、処理対象として入力される文書画像データに関してそのデータ中に混在する白黒画像領域と白黒画像以外の画像領域とを分離して像域分離信号を出力する像域分離手段としての像域分離部121と、この像域分離部121から出力される像域分離信号に応じて圧縮符号化手段106中の処理を取捨選択してその圧縮符号化の処理内容を異ならせる処理内容切換え手段としてのセレクタ122とが設けられている。
【0057】
像域分離部121としては、画像の特徴に合った最適な画像処理を行うために白黒画像領域と白黒画像以外の画像領域とを分離するもので、公知の像域分離に関する技術、例えば、対象となる文書画像データについて背景色を特定し、この背景色を用いてボトムアップ的に文書画像の領域識別結果を得る特許文献1に示されるような方式を利用すればよく、その詳細は省略する。なお、特許文献1の場合の画像領域の分離は、白黒画像以外の画像領域と白黒・白黒画像領域との分離であるが、白黒・白黒画像領域中からの白黒画像領域と白黒画像領域との識別は、白黒画像認識の下限レベル、上限レベルの設定を適宜行い、これらのレベル範囲内に属する場合に白黒画像領域と認識し、白黒画像領域を除外すればよい。
【0058】
セレクタ122は、像域分離信号に応じて処理対象となる文書画像データの圧縮符号化手段106中の処理を取捨選択してその圧縮符号化の処理内容を異ならせるものであるが、特に、JPEG2000アルゴリズム中、DCレベル変換部101aの処理、カラー変換部101bの処理、2次元ウェーブレット変換部102aの処理、量子化部103aの処理及び算術符号化部104bの処理を像域分離信号に応じた取捨選択の対象として、画像
データの特性に応じて圧縮符号化の処理内容を異ならせるものである。
【0059】
例えば、像域分離信号により白黒以外の画像領域として分離された領域に対しては通常符号化モードとし圧縮符号化手段106による処理を全て有効とし、DCレベル変換処理から全ての符号化処理を行わせる。一方、像域分離信号により白黒画像領域として分離された領域に対しては白黒符号化モードとし、DCレベルシフト部101aによるDCレベル変換後の値に正の値に1を加えた値を用い、かつ、ウェーブレット分割レベルを0として、エントロピー符号化処理を行わせる。即ち、カラー変換部101bの処理、2次元ウェーブレット変換部102aの処理、量子化部103aの処理及び算術符号化部104bの処理は省略するものとする。
【0060】
より具体的に、白黒画像と判断されたときは、値を0:白(若しくは黒)、255:黒(8ビット画像の場合、若しくは、白)とし、DCレベル変換後には、その値が−128と127になる。この正の値に1を加えると、−128と128(=10000000)になる。この値に対して、ウェーブレット分割レベル0のウェーブレット、即ち、ウェーブレット変換を行わずに、次の3コーディングパス(−ビットプレーンに3回のパス:JPEG2000標準)を行うと、+128と−128はともに、7ビット目だけが値がある(即ち、7ビット目が1で他の0から6ビット目と8ビット目以上は0)ものとなっている。これを符号化すると、符号化の対象が7ビット目だけとなるので、白黒混在画像の場合、符号化効率が上がる。即ち、2値データと同様に取り扱える。さらに、このようなビットデータの符号化の後の算術符号化部104bによるビットプレーン符号化も行わない(必要ない)。このとき、ウェーブレット変換部102aでの変換処理も省略しているので、ウェーブレット分割数を0とし、量子化なしの情報を後述のようにヘッダ中等に記述しておく。ちなみに、このような操作により、復号時には画素がとり得る値を超した値となるが(128×2=10000000=256)となるが、クリッピング処理が行われ、画素がとり得る最大値となり、元の白黒画像が復元される。
【0061】
これらの像域分離部121やセレクタ122の機能も、ROM42に記憶されているプログラムに基づいてCPU41が行う処理により実行してもよい。
【0062】
一般に、JPEG2000アルゴリズムによる圧縮符号化の特徴を考えた場合、その一つとして圧縮率を高めるための算術符号化部によるビットプレーン符号化があり、本来的には2値データと同等に扱い得る白黒画像の場合であっても多値データで表現されている以上、通常通り、複数のビットプレーンの符号化を行う必要があり、結果的に無駄な符号化を行っているのと同じ意味になり、符号化効率が悪く、処理速度も遅くなってしまう不具合がある。この点、本実施の形態によれば、白黒画像の場合にはDCレベル変換処理結果に細工を施すことにより実質的に2値データと同様に扱えるようにし、2次元ウェーブレット変換処理や量子化処理を行わず、かつ、ピットプレーン符号化を伴わないエントロピー符号化処理のみを行わせることで、無駄な処理を省くことができ、処理の高速化、符号化効率を向上させることができる。
【0063】
[具体的処理例]
いま、図11(a)に模式的に示すような白黒画像領域131と白黒画像以外の画像領域132とが混在する原稿133による文書画像データを処理対象とする場合の処理例を数例挙げて説明する。
【0064】
まず、第1の例として、最も単純には、例えば、文書画像データ中に占める白黒画像領域131と白黒画像以外の画像領域132との比率に応じて当該文書画像データ全体に対して白黒符号化モードか通常符号化モードかの何れかのモードを適用するようにセレクタ122で切換えるように構成することができる。この場合の圧縮符号化処理方式としては、複数のタイルに分割してタイル単位で符号化するタイル方式であっても、ラスタライン毎に分割してラスタライン単位で符号化するラスタ方式であってもよい。
【0065】
この場合、圧縮符号化手段106は、図12に示すように、圧縮符号化した符号データのメインヘッダ領域中に適用したモードが通常符号化モードと白黒符号化モードとの何れであるかの符号化モード情報(白黒符号化モード時のウェーブレット分割数が0で量子化なしの情報を含む)を記述しておけば、当該符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。図12の図示例は、タイル符号化方式であって(図11(b)参照)、白黒符号化モードを適用して文書画像データ全体を白黒符号化した例を示している。
【0066】
次に、第2のより実際的な例としては、或る小領域単位=タイル単位で処理モードを動的に切換えるようにしてもよい。例えば、図11(a)に示すような文書画像データを図11(b)に示すように複数のタイルA1,A2,…,F3,F4に分割し、そのタイル単位で圧縮符号化手段106による処理内容を白黒符号化モード用とするか通常符号化モード用とするかを切換えるようにしてもよい。
【0067】
図13はこの方式により圧縮符号化手段106により圧縮符号化処理された符号列の例を示し、図示例のように、そのメインヘッダ領域中に適用したモードが通常符号化モードと白黒符号化モードとの何れであるかの符号化モード情報をタイル毎に記述しておけば、当該符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0068】
もっとも、メインヘッダ領域中に記述する方式に限らず、図14に示すように、圧縮符号化された各タイルの符号データ中(タイルヘッダ部)に個々に適用したモードが通常符号化モードと白黒符号化モードとの何れであるかの符号化モード情報を記述しておくようにしてもよい。この方式によっても、当該符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0069】
第3のより実際的な例としては、或る小領域単位=ラスタライン単位で処理モードを動的に切換えるようにしてもよい。例えば、図11(a)に示すような文書画像データを図11(c)に示すように複数のラスタラインy0,y1,…に分割し、そのラスタライン単位で圧縮符号化手段106による処理内容を白黒符号化モード用とするか通常符号化モード用とするかを切換えるようにしてもよい。
【0070】
図15はこの方式により圧縮符号化手段106により圧縮符号化処理された符号列の例を示し、図示例のように、そのメインヘッダ領域中に適用したモードが通常符号化モードと白黒符号化モードとの何れであるかの符号化モード情報を、そのモードが変化するラスタラインによって記述しておけば、当該符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。図示例では、ラスタライン0から白黒符号化モードによる処理が行われ、ラスタラインy1で通常符号化モードに切換えられ、ラスタラインy3で白黒符号化モードに切換えられ、…、ことを示している。
【0071】
もっとも、メインヘッダ領域中に記述する方式に限らず、図16に示すように、圧縮符号化された符号データ中に個々に適用するモードが通常符号化モードと白黒符号化モードとで切換えられるラスタラインに関する情報を符号化モード情報として記述しておくようにしてもよい。この方式によっても、当該符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号可能となる。
【0072】
また、本実施の形態では、デジタル複写機が像域分離部121を備える構成として説明したが、自機でこれらを有しておらず外部信号として得られる構成でもよい。即ち、画像処理装置としての適用機種が例えばパーソナルコンピュータ等にあっては、像域分離信号を外部から入力されるように構成してもよいが、画像処理装置としての適用機種が例えば本実施の形態のようにデジタル複写機等の画像形成装置の場合には、自身が像域分離部121を備えることにより、自機単独で適正な画像圧縮符号化処理が可能となる。
【0073】
【発明の効果】
本発明の画像処理装置及び画像処理方法によれば、以下のような効果が得られる。
(1) 基本的にJPEG2000アルゴリズムに従い圧縮符号化する圧縮符号化手段を用いることで、白黒画像領域と白黒画像以外の画像領域との圧縮符号化処理について単一の符号手段で対応可能で構成が簡単で高能率な上に、この圧縮符号化手段による処理内容を文書画像データ中に混在する白黒画像領域と白黒画像以外の画像領域との像域分離信号に基づき切換えるようにしたので、よりJPEG2000アルゴリズムの特徴を活かしてこのJPEG2000アルゴリズムの不都合を回避することが可能となる。
【0074】
(2) 適用機種が例えばパーソナルコンピュータ等にあっては、像域分離信号を外部から入力されるように構成してもよいが、適用機種が例えばデジタル複写機等の画像形成装置の場合には、自身が像域分離手段を備えることにより、自機単独で適正な画像圧縮符号化処理を行わせることができる。
【0075】
(3) 白黒画像の場合にはDCレベル変換処理結果に細工を施すことにより実質的に2値データと同様に扱えるようにし、2次元ウェーブレット変換処理や量子化処理を行わずに、エントロピー符号化処理のみを行わせるようにしたので、無駄な処理を省くことができ、処理の高速化、符号化効率を向上させることができる。
【0076】
(4) 通常符号化モードと白黒符号化モードとの切換えを、文書画像データを複数に分割して符号化する或る小領域、例えば、タイルやラスタラインを単位として行わせるようにしたので、圧縮符号化処理を文書画像データの状態に合わせて木目細かく実現することができる。
【0077】
(5) 圧縮符号化した符号データのメインヘッダ領域中に各タイル毎に符号化モード情報を記述するようにしたので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号させることができる。
【0078】
(6) 圧縮符号化した符号データのメインヘッダ領域中に切換えラスタラインに関する符号化モード情報を記述するようにしたので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号させることができる。
【0079】
(7) 、圧縮符号化した各タイルの符号データ中にそのタイルに適用した符号化モード情報を記述するようにしたので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号させることができる。
【0080】
(8) 圧縮符号化した各タイルの符号データ中に切換えラスタラインに関する符号化モード情報を記述するようにしたので、符号データの復号時にはこの符号化モード情報を参照することにより間違えることなく復号させることができる。
【図面の簡単な説明】
【図1】本発明の実施の形態の前提となるJPEG2000方式の基本となるアルゴリズムを実現するシステムの機能ブロック図である。
【図2】原画像の各コンポーネントの分割された矩形領域を示す説明図である。
【図3】デコンポジションレベル数が3の場合の、各デコンポジションレベルにおけるサブバンドを示す説明図である。
【図4】プレシンクトを示す説明図である。
【図5】ビットプレーンに順位付けする手順の一例を示す説明図である。である。
【図6】符号化された画像データのコードストリームを例示する模式図である。
【図7】JPEG2000の符号フォーマットを示す概略図である。
【図8】本発明の一実施の形態の画像処理装置としてのデジタルフルカラー複写機を示す概略構成図である。
【図9】その制御系を示す概略ブロック図である。
【図10】特徴部分となる圧縮符号化処理部分を示すブロック図である。
【図11】処理対象となる文書画像データ例等を示す説明図である。
【図12】ページ単位の処理時の符号データ例を示す説明図である。
【図13】タイル単位の処理時の符号データ例を示す説明図である。
【図14】タイル単位の処理時の他の符号データ例を示す説明図である。
【図15】ラスタライン単位の処理時の符号データ例を示す説明図である。
【図16】ラスタライン単位の処理時の他の符号データ例を示す説明図である。
【符号の説明】
121 像域分離手段
122 処理内容切換え手段
131 白黒画像領域
132 白黒画像以外の画像領域
Claims (16)
- 文書画像データを、少なくともDCレベル変換処理、色空間変換処理、ウェーブレット変換処理、量子化処理及びエントロピー符号化処理という手順で圧縮符号化する圧縮符号化手段と、
前記文書画像データ中に混在する白黒画像領域と白黒以外の画像領域とを分離して像域分離信号を出力する像域分離手段と、
前記像域分離信号により白黒以外の画像領域として分離された領域に対しては、前記圧縮符号化手段で通常符号化モードとして、前記DCレベル変換処理から全ての符号化処理を行い、前記像域分離信号により白黒画像領域として分離された領域に対しては、前記圧縮符号化手段で白黒符号化モードとして、前記DCレベル変換処理後の正の値に1を加えた値を用い、かつ、前記ウェーブレット変換処理のウェーブレット分割レベルを0として、前記エントロピー符号化処理を行うように、前記圧縮符号化手段の処理内容を切り換える処理内容切換え手段と、
を有することを特徴とする画像処理装置。 - 前記処理内容切換え手段は、前記文書画像データを複数に分割して符号化する或る小領域単位で通常符号化モードとするか白黒符号化モードとするか前記圧縮符号化手段の処理内容を動的に切換えることを特徴とする請求項1記載の画像処理装置。
- 前記或る小領域単位が、文書画像データが複数に分割されて符号化されるタイル単位であることを特徴とする請求項2記載の画像処理装置。
- 前記或る小領域単位が、文書画像データが複数に分割走査されて符号化されるラスタライン単位であることを特徴とする請求項2記載の画像処理装置。
- 前記圧縮符号化手段は、圧縮符号化した符号データのメインヘッダ領域中に各タイル毎に適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述することを特徴とする請求項3記載の画像処理装置。
- 前記圧縮符号化手段は、圧縮符号化した符号データのメインヘッダ領域中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述することを特徴とする請求項4記載の画像処理装置。
- 前記圧縮符号化手段は、圧縮符号化した各タイルの符号データ中にそのタイルに適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述することを特徴とする請求項3記載の画像処理装置。
- 前記圧縮符号化手段は、圧縮符号化した符号データ中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述することを特徴とする請求項4記載の画像処理装置。
- 白黒画像領域と白黒以外の画像領域とが混在する文書画像データを処理する画像処理方法であって、
前記文書画像データを、少なくともDCレベル変換処理、色空間変換処理、ウェーブレット変換処理、量子化処理及びエントロピー符号化処理という手順で圧縮符号化する圧縮符号化ステップと、
前記文書画像データ中に混在する白黒画像領域と白黒以外の画像領域とを分離して像域分離信号を出力する像域分離ステップと、
前記像域分離信号により白黒以外の画像領域として分離された領域に対しては、前記圧縮符号化ステップで通常符号化モードとして、前記DCレベル変換処理から全ての符号化処理を行い、前記像域分離信号により白黒画像領域として分離された領域に対しては、前記圧縮符号化ステップで白黒符号化モードとして、前記DCレベル変換処理後の正の値に1を加えた値を用い、かつ、前記ウェーブレット変換処理のウェーブレット分割レベルを0として、前記エントロピー符号化処理を行うように、前記圧縮符号化ステップの処理内容を切り換える処理内容切換えステップと、
を有することを特徴とする画像処理方法。 - 前記処理内容切換えステップは、前記文書画像データを複数に分割して符号化する或る小領域単位で通常符号化モードとするか白黒符号化モードとするか前記圧縮符号化ステップの処理内容を動的に切換えることを特徴とする請求項9記載の画像処理方法。
- 前記或る小領域単位が、文書画像データが複数に分割されて符号化されるタイル単位であることを特徴とする請求項10記載の画像処理方法。
- 前記或る小領域単位が、文書画像データが複数に分割走査されて符号化されるラスタライン単位であることを特徴とする請求項10記載の画像処理方法。
- 前記圧縮符号化ステップは、圧縮符号化した符号データのメインヘッダ領域中に各タイル毎に適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述することを特徴とする請求項11記載の画像処理方法。
- 前記圧縮符号化ステップは、圧縮符号化した符号データのメインヘッダ領域中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述することを特徴とする請求項12記載の画像処理方法。
- 前記圧縮符号化ステップは、圧縮符号化した各タイルの符号データ中にそのタイルに適用した通常符号化モードと白黒符号化モードとの何れかの符号化モード情報を記述することを特徴とする請求項11記載の画像処理方法。
- 前記圧縮符号化ステップは、圧縮符号化した符号データ中に適用した通常符号化モードと白黒符号化モードとの切換えラスタラインに関する符号化モード情報を記述することを特徴とする請求項12記載の画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003014764A JP4010452B2 (ja) | 2003-01-23 | 2003-01-23 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003014764A JP4010452B2 (ja) | 2003-01-23 | 2003-01-23 | 画像処理装置及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004228956A JP2004228956A (ja) | 2004-08-12 |
JP4010452B2 true JP4010452B2 (ja) | 2007-11-21 |
Family
ID=32902709
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003014764A Expired - Fee Related JP4010452B2 (ja) | 2003-01-23 | 2003-01-23 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4010452B2 (ja) |
-
2003
- 2003-01-23 JP JP2003014764A patent/JP4010452B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004228956A (ja) | 2004-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8150179B2 (en) | Image processing apparatus | |
US7336852B2 (en) | Image processing apparatus, image reading apparatus, image forming apparatus and recording medium for image processing program | |
JP4208378B2 (ja) | 画像処理装置及び方法及び記録媒体 | |
JP4136951B2 (ja) | 画像処理装置、プログラム及び記憶媒体 | |
US20040208379A1 (en) | Image processing apparatus that adjusts image size to make image divisible into tiles | |
JP2004236299A (ja) | 画像処理装置、画像形成装置、画像処理方法、プログラム及び記憶媒体 | |
JP4315928B2 (ja) | 画像処理装置および画像処理方法 | |
JP4010452B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4111909B2 (ja) | 画像処理装置、画像処理用プログラム及び記憶媒体 | |
JP2004228952A (ja) | 画像処理装置、画像処理用プログラム及び記憶媒体 | |
JP2004227406A (ja) | 画像処理装置、プログラム及び記憶媒体 | |
JP4014087B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記憶媒体 | |
JP4093871B2 (ja) | 画像形成装置、プログラムおよび記憶媒体 | |
JP2004112255A (ja) | 画像読取装置、画像形成装置、プログラム及び記憶媒体 | |
JP3912752B2 (ja) | 画像処理装置、プログラム及び記憶媒体 | |
JP4674100B2 (ja) | 画像処理装置 | |
JP2004228964A (ja) | 画像処理装置、画像形成装置、プログラムおよび記憶媒体 | |
JP4046223B2 (ja) | 画像処理装置及び画像処理方法 | |
JP3784755B2 (ja) | 画像処理装置、画像形成装置、プログラム及び記憶媒体 | |
JP4111863B2 (ja) | 画像処理装置、画像形成装置、画像処理用プログラム及び記憶媒体 | |
JP4175613B2 (ja) | 画像読取装置、画像形成装置、画像読取処理方法、プログラム及び記憶媒体 | |
JP4090352B2 (ja) | 画像処理装置、画像処理方法、画像形成装置、プログラム及び記憶媒体 | |
JP2004235935A (ja) | 画像処理装置、画像形成装置、プログラムおよび記憶媒体 | |
JP4194373B2 (ja) | 画像処理装置、プログラム及び記憶媒体 | |
JP2005130244A (ja) | 画像処理装置および画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20041008 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050824 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20050829 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050829 |
|
RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20060925 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070601 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070606 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070806 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070829 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070830 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4010452 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100914 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110914 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130914 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |