JP4182959B2 - 二値化処理を行う画像処理装置及び画像処理プログラム - Google Patents

二値化処理を行う画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP4182959B2
JP4182959B2 JP2005185429A JP2005185429A JP4182959B2 JP 4182959 B2 JP4182959 B2 JP 4182959B2 JP 2005185429 A JP2005185429 A JP 2005185429A JP 2005185429 A JP2005185429 A JP 2005185429A JP 4182959 B2 JP4182959 B2 JP 4182959B2
Authority
JP
Japan
Prior art keywords
error
image data
gradation
pixel
binarization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005185429A
Other languages
English (en)
Other versions
JP2007006269A (ja
Inventor
誠 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2005185429A priority Critical patent/JP4182959B2/ja
Priority to US11/473,462 priority patent/US7620255B2/en
Publication of JP2007006269A publication Critical patent/JP2007006269A/ja
Application granted granted Critical
Publication of JP4182959B2 publication Critical patent/JP4182959B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Facsimile Image Signal Circuits (AREA)

Description

本発明は,多階調画像データを中間階調表示可能な二値化データに変換する二値化処理(ハーフトーニング処理)を行う画像処理装置及び画像処理プログラムに関し,特に,低解像度画像データを高画質の二値化データに変換することができる画像処理装置及び画像処理プログラムに関する。
ファクシミリや複写機は,紙などの印刷媒体に形成された画像をスキャナユニットにより読み取り多階調画像データを取得し,それを中間階調表示可能な二値化データ(ドット有りとドットなしの二値データ)に変換する二値化処理を行う。ファクシミリは,その二値化データを圧縮して通信回線を経由して送信する。また,複写機は,二値化データを印刷ユニットにより画像再生する。また,ファクシミリや複写機以外にも,パーソナルコンピュータシステムが,スキャナ機能を利用して印刷媒体の画像を読み取り,読み取った多階調画像データを二値化データに変換して,例えば表示装置に画像再生して表示する。
特に,ファクシミリの場合,標準化規格により200dpi程度の低解像度の二値化データを生成することが要求されており,そのスキャナユニットはそれに対応して200dpi程度の低解像度の多階調画像データを出力する。このようにスキャナユニットにより取得された低解像度の多階調画像データを二値化データに変換する場合,細線や文字の視認性を向上しつつ写真の階調性を維持することが必要になる。
一般に,多階調画像データの二値化処理として,固定された閾値マトリクスを使用する固定ディザ法や誤差拡散法などがある。さらに,固定ディザ法には,閾値マトリクスの低閾値を中心部分に配置することで入力階調が高くなるにしたがって網点または線が成長するドット集中型固定ディザ法と,閾値マトリクスの閾値を分散させたドット分散型固定ディザ法とがある。ドット集中型は,ドットが集中した網点の大きさで階調を表現することからAM(振幅変調)スクリーンと呼ばれ,ドット分散型は,孤立ドットの間隔の粗密により画像を再現することからFM(周期変調)スクリーンと呼ばれている。
ドット集中型固定ディザ法では,階調性を重視してスクリーン線数を増加させれば解像性が低下し,解像性を重視してスクリーン線数を低下させれば階調性が低下する。したがって,低解像度画像データを二値化する場合,ドット集中型固定ディザ法では細線や文字の視認性を向上しつつ写真の階調性も維持することは困難である。
また,インクジェットプリンタなどで採用されているドット分散型固定ディザ法は,ドットを分散させてドットの粗密により階調を表現するので階調性は向上するものの,低解像度画像データの場合ドット抜けが目立って文字や細線の視認性を確保することができない。
一方,誤差拡散法は,二値化により発生した入力画像データとの誤差を周囲の画素に伝搬しながら二値化を繰り返す処理であり,階調性と解像性を両立させることができる二値化処理として知られている。かかる誤差拡散法については,例えば特許文献1に記載されている。
特開平8−307680号公報
しかしながら,誤差拡散法は,二値化により発生した誤差を周囲の画素に伝搬するので,低濃度領域においてドットの生成が遅れるドット生成の遅延や,中濃度領域において誤差拡散法特有のテクスチャの発生があり,画質の低下を招いている。誤差拡散法では固定された誤差伝搬マトリクスで誤差を周囲の画素に伝搬するので,中濃度領域ではドットの発生に規則性が生じ,ワームノイズと呼ばれるテクスチャが生成されやすい。したがって,誤差拡散法は,文字や細線の解像性は優れてはいるものの,低濃度領域でのドット生成の遅延や中濃度領域でのテクスチャ発生に問題がある。
そこで,本発明の目的は,低解像度の多階調画像データを高い画質の二値化データに二値化することができる画像処理装置及び画像処理プログラムを提供することにある。
上記の目的を達成するために,本発明の第1の側面によれば,所定の解像度の画素毎に多階調画像データを有する入力画像データを前記画素毎の二値化データに変換する画像処理装置において,複数の閾値が配置された閾値マトリクスに基づいて当該処理対象画素をドット有りとドットなしを有する二値化データに変換する二値化処理と,前記ドット有りの画素の入力階調値と最大階調値との差からなる誤差を第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算し,前記ドットなしの画素の誤差を前記第1の誤差伝搬マトリクスとは異なる第2の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算する誤差伝搬処理とを行う二値化ユニットを有する画像処理装置である。
上記第1の側面によれば,多階調画像データを閾値マトリクスの対応する閾値に基づいて二値化処理し,各画素の二値化に伴う誤差をドット有りとドットなしで異なる誤差伝搬マトリクスにより周囲の画素に伝搬するので,二値化データにより再生される画像にテクスチャが発生するのを抑制することができる。つまり,ドット有りの場合のマイナス誤差と,ドットなしの場合のプラス誤差とを異なる誤差伝搬マトリクスで周囲の画素に伝搬することで,誤差伝搬による影響を打ち消し合って誤差拡散法に特有のテクスチャの発生を抑えることができるものと考えられる。
本発明の第1の側面において,好ましい態様によれば,前記第1の誤差伝搬マトリクスは処理対象画素から第1の方向に位置する周囲の画素により高い重み付けで前記誤差を伝搬し,前記第2の誤差伝搬マトリクスは処理対象画素から前記第1の方向とは異なる第2の方向に位置する周囲の画素により高い重み付けで前記誤差を伝搬する。この態様によれば,プラスの誤差とマイナスの誤差の伝搬の方向を異ならせることで,誤差伝搬による影響を打ち消し合って誤差拡散法に特有のテクスチャの発生を抑えることができるものと考えられる。
本発明の第1の側面において,別の好ましい態様によれば,前記第1の誤差伝搬マトリクスは前記誤差の全てを周囲の画素に伝搬し,前記第2の誤差伝搬マトリクスは前記誤差の一部を周囲の画素に伝搬する。この態様によれば,マイナスの誤差は全て周囲の画素に伝搬し,プラスの誤差はその一部を周囲の画素に伝搬することで,誤差伝搬による影響を打ち消し合って誤差拡散法に特有のテクスチャの発生を抑えることができるものと考えられる。
本発明の第1の側面において,更に別の好ましい態様によれば,前記二値化ユニットは,前記多階調画像データの最大階調の1/2未満の基準値より処理対象画素の多階調画像データの階調値が低い場合に,前記閾値マトリクスに基づく二値化処理を行い,前記基準値より処理対象画素の多階調画像データの階調値が高い場合は,当該処理対象画素をドット有りの二値化データに変換し更に前記誤差を前記第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算する。
上記の好ましい態様によれば,基準値より処理対象画素の多階調画像データの階調値が高い場合は,常にドット有りに分類するので,文字や細線を確実にドット有りに二値化でき,基準値より処理対象画素の多階調画像データの階調値が低い場合は,閾値マトリクスの閾値に基づいて二値化するので,低濃度領域でのドット発生の遅延をなくすことができる。
本発明の第1の側面において,更に別の好ましい態様によれば,前記閾値マトリクスは,複数の低い閾値を集中させることなく複数の閾値を分散配置させている。この態様によれば,分散された閾値マトリクスに基づいて二値化処理することで,文字や細線のドット抜けによる視認性の悪化を抑制することができる。
上記の目的を達成するために,本発明の第2の側面によれば,所定の解像度の画素毎に多階調画像データを有する入力画像データを前記画素毎の二値化データに変換する画像処理装置において,前記多階調画像データの最大階調の1/2未満の基準値より処理対象画素の多階調画像データの階調値が低い場合は,複数の低い閾値を集中させることなく複数の閾値が分散配置された閾値マトリクスに基づいて当該処理対象画素をドット有りとドットなしの二値化データに変換する二値化処理と,前記二値化処理によって生じた前記処理対象画素の誤差を周囲の画素の前記多階調画像データに加算する誤差伝搬処理とを行う二値化ユニットを有する画像処理装置である。
上記の本発明の第2の側面によれば,画像処理装置の二値化ユニットが,処理対象画素の多階調画像データの階調値が基準値より低い場合は,ドット分散型の固定ディザ法で二値化処理するので文字や細線のドット抜けによる視認性の低下を抑制し,さらにその誤差を周囲の画素に伝搬することでテクスチャの発生を抑制することができる。
本発明の第2の側面において,好ましい態様によれば,前記二値化ユニットは,前記誤差伝搬処理において,前記ドット有りの画素の前記誤差を第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算し,前記ドットなしの画素の前記誤差を前記第1の誤差伝搬マトリクスとは異なる第2の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算する二値化ユニットを有する画像処理装置である。
上記の好ましい態様によれば,誤差伝搬処理をマイナス誤差は第1の誤差伝搬マトリクスで伝搬し,プラス誤差は第2の誤差伝搬マトリクスで伝搬するので,誤差伝搬により影響が打ち消し合ってテクスチャの発生を抑えることができるものと考えられる。
以下,図面にしたがって本発明の実施の形態について説明する。但し,本発明の技術的範囲はこれらの実施の形態に限定されず,特許請求の範囲に記載された事項とその均等物まで及ぶものである。
以下の実施の形態では,低解像度画像を二値化する例として,ファクシミリの画像処理を一例にして説明する。ただし,ファクシミリ以外でも低解像度画像を二値化する場合に本実施の形態を適用することができる。
図1は,本実施の形態における画像処理ユニットを有するファクシミリ装置の構成図である。図中,送信側100の構成と受信側200の構成とが示されている。送信側の構成100は,オリジナル画像10をスキャンして画素毎の多階調画像データ13を生成するスキャナ12と,スキャナ12が生成した多階調画像データ13を画像処理して画素毎の二値化データ(ドット有り,ドットなしのデータ)19を生成する画像処理ユニット14と,二値化データ19を送出する送信ユニット20とを有する。多階調画像データ13は,例えば200dpiの低解像度の画素毎に8ビット,256階調の階調表現を行うことができるデータである。ファクシミリ装置の場合,標準規格により送信データの解像度が200dpiと定められている関係上,スキャナ12はそれと同程度の解像度を有するのが一般的である。それより高い解像度で多階調画像データを生成しても二値化データの解像度がそれより低い場合は,スキャナを高解像度にする意味がないからである。
本実施の形態における画像処理ユニット14は,スキャナ12が生成した多階調画像データ13を補正するガンマ補正ユニット16と,補正された多階調画像データを二値化する二値化ユニット18とで構成される。画像処理ユニット14は,それぞれ専用のハードウエアによるガンマ補正ユニットと二値化ユニットで構成される場合もあれば,内蔵するCPUユニットがガンマ補正プログラムと二値化プログラムを実行することにより,ガンマ補正処理と二値化処理を行う場合もある。
受信側の構成200は,送信された二値化データを受信する通信ユニット22と,受信した二値化データ23にしたがって画素にドット有り,ドットなしで画像再生を行う印刷ユニット24とを有する。印刷ユニット24が二値化データに基づいて画像再生を行うことで,受信画像26が形成される。
[ハイブリッド誤差拡散による二値化処理]
本実施の形態における二値化処理は,誤差拡散法とドット分散型固定ディザ法とを併用することで,誤差拡散法による文字や細線の高解像度性を維持したまま,低濃度領域におけるドット生成の遅延を抑制し,中濃度領域でのテクスチャ(ワームノイズ)の発生を抑制する。そして,二値化された画素の誤差を周囲の画素の階調値に加算する誤差拡散処理を行う。
図2は,本実施の形態における二値化ユニットの二値化処理を示すフローチャート図である。この二値化処理によれば,処理済みの画素から伝搬された誤差を加えた注目画素の階調値(濃度)が,最大階調値255の半分より小さい基準値,例えば64,より小さい低濃度領域か,基準値より大きい高濃度領域かに応じて,固定ディザ法による二値化処理と,常にドット有りとして誤差を拡散する誤差拡散処理とを区別して行う。つまり,注目されている処理対象画素の濃度が基準値(64)より小さい場合は(S10のYES),固定ディザ法による二値化処理を行う(S12)。この固定ディザ法による二値化処理は,例えばドット集中型固定ディザ法よりもドット分散型固定ディザ法のほうが好ましい。そして,固定ディザ法による二値化処理した場合に,その二値化により生成される誤差を後述する誤差伝搬マトリクスによって周囲の画素の多階調画像データの階調値に加算(伝搬)する。
また,処理対象画素の濃度が基準値以上の場合は(S10のNO),基準値を閾値とする誤差拡散法により二値化処理する(S16)。つまり,処理対象画素をドット有りの二値化データに変換し,それに伴う誤差を第1の誤差伝搬マトリクスに基づいて周囲の画素の多階調画像データの階調値に加算(伝搬)する。即ち,この誤差拡散法により二値化処理S16は,基準値を閾値とする誤差拡散法と同等である。
図3は,ドット分散型固定ディザ法における閾値マトリクスの例を示す図である。この例では,多階調画像データの階調値が0〜15を前提にしており,閾値マトリクスには4x4の画素マトリクスにそれぞれ閾値(0〜15)が分散して配置されている。多階調画像データの階調値が0〜255の場合は,閾値マトリクスのサイズに応じた離散的値が分散して配置される。例えば図3の4x4のマトリクス例では0〜15の閾値が、0〜255に正規化した17刻みの離散的閾値となる。このように,注目画素の濃度が低濃度領域の場合にドット分散型固定ディザ法による二値化処理を行うことで,低解像度の画像データであっても文字や細線のドット欠けを減らして視認性を高めることができる。
そして,固定ディザ法による二値化処理をした場合は,注目されている処理対象画素がドット有りの二値化データに変換されると,それによる誤差を第1の誤差伝搬マトリクスで周囲の画素の多階調画像データの階調値に加算(伝搬)する。一方,処理対象画素がドットなしの二値化データに変換されると,それによる誤差を第1の誤差伝搬マトリクスとは異なる第2の誤差伝搬マトリクスで伝搬する(S14)。つまり,処理対象画素の多階調画像データの階調値が図3に示した閾値マトリクス(但し閾値は0〜255)の閾値以上の場合はドット有り(階調値=255)の二値化データに変換されると,処理対象画素の入力階調値とドット有りの階調値(最大階調値255)との差であるマイナス誤差は,高濃度画素の誤差伝搬に使用する誤差伝搬マトリクスと同じ第1の誤差伝搬マトリクスにしたがって周囲の画素に伝搬する。一方,処理対象画素の多階調画像データの階調値が閾値マトリクスの閾値より小さい場合はドットなし(階調値=0)の二値化データに変換されると,処理対象画素の入力階調値とドットなしの階調値(最小階調値0)との差であるプラス誤差は,第1の誤差伝搬マトリクスとは誤差伝搬方向が異なり,伝搬する誤差の量も異なる第2の誤差伝搬マトリクスにしたがって周囲の画素に伝搬する。
図4は,第1及び第2の誤差伝搬マトリクスの一例を示す図である。第1の閾値伝搬マトリクスETM1は,処理対象画素である注目画素(図中※)で二値化により発生した誤差(注目画素の入力階調値と二値化後の階調値(0または255)の差分)を周囲の画素に伝搬する量の割合を示している。この例は,Javis-Judice-Ninke型の誤差伝搬マトリクスであり,誤差を3行5列の周囲の画素に伝搬する割合を有し,その割合は,右横と下の画素に7/48,右横2番目と右下と左下の画素に5/48,右下2番目と左下2番目とに3/48,そして,右下3番目と左下3番目とに1/48が配置される。したがって,第1の誤差伝搬マトリクスETM1は,誤差の全てを周囲の画素に伝搬し,伝搬方向が注目画素を中心に且つやや右下方向に広がっているところに特徴がある。
一方,第2の誤差伝搬マトリクスETM2は,注目画素で二値化により発生した誤差の一部を周囲の画素に伝搬している。つまり,誤差は第1の誤差伝搬マトリクスETM1より小さい2行3列のマトリクスサイズであり,その割合は,注目画素の左下に5/16,下に3/16,左下2番目に1/16が配置される。したがって,第2の誤差伝搬マトリクスETM2は,誤差の一部9/16を,周囲の3つの画素に図示された位置に伝搬する。この伝搬方向は,第1の誤差伝搬マトリクスのやや右下とは異なるやや左下方向となっている。
本実施の形態における二値化処理の意味するところは以下の通りである。まず,注目されている処理対象画素の濃度が中低濃度の場合(階調値が64未満),ドット分散型固定ディザ法により,閾値マトリクスの閾値より高い階調値ならドット有りに,低い階調値ならドットなしに二値化する。このようにドット分散型固定ディザ法による二値化処理を行うことで,文字や細線のドット欠けを抑制し視認性を向上させることができる。また,誤差拡散法に特有の低濃度領域でのドット発生の後れをなくすことができる。
そして,ドット分散型固定ディザ法で二値化した画素について,固定ディザ法では誤差の拡散は通常行われないにもかかわらず,本実施の形態では誤差を周囲の画素に伝搬する。しかも,誤差の伝搬は,ドット有りに二値化された画素のマイナス誤差は,全誤差を所定の割合で配置して且つやや右下方向に伝搬する第1の誤差伝搬マトリクスETM1に基づいて周囲の画素に伝搬する。一方,ドットなしに二値化された画素のプラス誤差は,一部の誤差を所定の割合で配置して且つやや左下方向に伝搬する第2の誤差伝搬マトリクスETM2に基づいて周囲の画素に伝搬する。つまり,第1に,マイナス誤差とプラス誤差の誤差拡散の方向を異ならせることで,誤差拡散法に特有の固定方向に誤差伝搬することによるテクスチャ(ワームノイズ)を抑制することができるものと考えられる。第2に,最大階調の1/2より低い基準値より更に低い濃度の画素に対して閾値マトリクスにより二値化しているので,マイナス誤差は全誤差を伝搬して画像がドット過剰になるのを防止するとともに,プラス誤差は一部の誤差だけを伝搬して低濃度領域でドット不足になるのを防止する。
次に,注目されている処理対象画素の濃度が中高濃度の場合(階調値が64以上),画素を全てドット有りの二値化データにし,そのマイナス誤差を第1の誤差伝搬マトリクスETM1に基づいて周囲の画素に伝搬する。つまり,基準値64を閾値とする誤差拡散法による二値化処理である。これにより,最大階調値の1/2を閾値とする誤差拡散法に特有の中濃度領域でのテクスチャ(ワームノイズ)の発生を抑制することができる。つまり,最大階調値の1/2より低い濃度であっても64以上であればドット有りに二値化されるので,テクスチャの発生は抑制される。ただし,全誤差を第1の誤差伝搬マトリクスで伝搬させることで,中濃度領域での適切な中間階調を二値化データで表現することができる。また,基準値を64と低めに設定することで,文字や細線に対してドットの発生が起きやすくなり視認性を向上できる。
さらに,画素の濃度が低濃度領域,つまり階調値が64以下で且つ固定ディザ法でドット有りに二値化された画素については,中高濃度領域の誤差拡散法で利用した第1の誤差伝搬マトリクスを使って誤差を周囲の画素に伝搬しているので,中濃度から高濃度領域での誤差伝搬の連続性を保って,異なる二値化処理による不自然さを抑制している。
また,画素の濃度が中低濃度領域では,誤差拡散法を採用せずに固定ディザ法を採用するので,誤差拡散法に特有の低濃度領域でのドット発生の遅延を抑制することができ,一律に誤差拡散法で処理するよりも中低濃度領域の中間階調の画質を向上させることができる。つまり,低濃度であっても閾値マトリクスの閾値よりも大きければドットが確実に発生するので,ドット発生の遅延を抑制できるのである。
[ガンマ補正]
図1に示したとおり,本実施の形態の画像処理ユニット14では,二値化ユニット18による二値化処理に先立って,ガンマ補正ユニット16が入力される多階調画像データ13をガンマ補正している。このガンマ補正により,本実施の形態において採用したハイブリッド誤差拡散による二値化処理で生じるノンリニア特性を補正する。つまり,ハイブリッド誤差拡散法では,基準値より高濃度は常にドット有りに二値化しその誤差を伝搬し,基準値より低濃度は閾値マトリクスにより二値化して誤差を伝搬させている。このハイブリッド誤差拡散法により二値化前の多階調画像データの入力階調値と二値化データの出力階調値との間にノンリニアな特性が含まれる。そこで,このノンリニア特性を是正するために,ガンマ補正が行われる。
図5は,本実施の形態におけるガンマ補正処理を示す図である。第1象限に示した濃度特性曲線30が,ハイブリッド誤差拡散による二値化処理の入出力特性である。二値化処理の入力階調値に対して二値データの出力階調値とは,例えば特性曲線30に示されるような下に凸のノンリニア特性を有する。つまり,理想的なリニア特性32に比較すると,入力階調INに対する二値化後の出力階調OUTは,理想的なリニア特性32による二値化された場合の出力階調COUTよりも小さくなっている。
そこで,本実施の形態では,第4象限に示される補正ガンマテーブル34によって入力階調INを補正し,その補正入力CINを二値化ユニットにより二値化処理する。この補正ガンマテーブル34は,特性曲線30とは逆に上に凸の特性を有する一次元テーブルであり,入力INがこの補正ガンマテーブル34で補正されると補正入力CINは入力INよりも大きい値になる。
第3象限は補正入力CINを第2象限の横軸に移動するための折り返し線36を有する。つまり,第3,4象限の縦軸の補正入力CINと第2象限の横軸の補正入力CINとは同じ値である。
最後に,第2象限には特性曲線30と左右対称の特性曲線30Rが示され,補正入力CINをこの特性曲線30Rで二値化処理された補正出力COUTは,入力INを理想的なリニア特性32で二値化した場合の出力値に一致する。
上記の補正ガンマテーブル34は,次のようにして求められる。まず,入力画像データとして所定の階調値のパッチ画像データを生成する。このパッチ画像データは,白(階調値0)〜黒ベタ(階調値255)までを所定の階調刻みの階調値を有する複数のパッチパターンデータからなる。そして,このパッチ画像データを二値化ユニット18によりハイブリッド誤差拡散法で二値化データに変換し,その二値化データで画像を形成し,形成された画像の各階調のパッチパターン濃度を測定することで,二値化ユニットの特性曲線30を検出する。この二値化データの画像形成には,ファクシミリ装置の印刷ユニットを利用して紙媒体に画像を印刷することで行われる。または,二値化データによる画像を表示装置に表示しそのパッチパターン濃度を測定することでも良い。印刷ユニットを利用した場合は,特性曲線30に印刷ユニットの特性も含まれてしまう。また,表示装置に表示した場合も,同様に特性曲線30にその表示装置の特性が含まれる。このようにして検出した特性曲線30に対して,理想的なリニア特性が得られるように,補正ガンマテーブル34が求められる。これが濃度補正用ガンマテーブルである。
図6は,本実施の形態における濃度補正用ガンマテーブルの具体例を示す図である。この具体例では,入力画像データとして,階調値33刻みで白(0)から黒(255)までの8ビットのパッチ画像データを生成し,ハイブリッド誤差拡散法で二値化データを生成し,その二値化データを印刷して,各階調のパッチ画像の出力濃度を測定した。この測定値は64ビットの浮動小数点による実数精度の出力濃度データである。この実数精度の出力濃度データから濃度補正用ガンマテーブル34が求められる。
この濃度補正用ガンマテーブル34に基づいて,ガンマ補正ユニット16が入力される多階調画像データの階調値を補正入力階調値に変換する。この時,補正入力階調値は浮動小数点のビット形式による実数精度である。したがって,より高精度の補正が可能である。補正された入力階調値が二値化ユニット18により二値化されるので,二値化ユニット18は,実数精度の補正入力階調値に対応して,各画素の多階調画像データを64ビットで処理する。そのため,二値化処理には多くの処理負荷が発生する。そこで,より好ましい実施の形態の形態では,後述するとおり,64ビットの実数精度を16ビットの固定小数点のビット形式の整数精度にし,拡散する誤差の計算を除算ではなく右ビットシフトを利用する。
図7は,本実施の形態における背景除去と黒強調の画像処理用ガンマテーブルを示す図である。モノクロファクシミリの場合,オリジナル画像の印刷物の紙白部分に濃度情報が発生する。この濃度情報が,二値化データでドットを生成させ,画質の低下と二値化データの圧縮率(例えばランレングス圧縮の場合白(階調値0)の繰り返し頻度)が低下する。そこで,紙白領域にドットを発生させないための背景除去処理を行う。さらに,黒文字の品質を向上するために黒強調処理を行う。これらの処理は,いずれもスキャナ12の特性も考慮して行う必要がある。
図7に示される変換用のガンマテーブル40は,入力が低濃度領域40Aでは補正出力がより低く,具体的には階調値0になるようにし,入力が高濃度領域40Bでは補正出力がより高く,具体的には階調値255になるようにする。このようなガンマテーブル40を利用して入力の多階調画像データ13を補正出力に変換することで,低濃度領域での背景除去処理と高濃度領域での黒強調処理を行うことができる。
上記の背景除去と黒強調の画像処理は,ガンマ補正ユニット16により行われる。この画像処理用ガンマテーブル40は固定テーブルとし,濃度補正用の補正ガンマテーブル34は再調整可能なような変動テーブルとすることが望ましい。補正ガンマテーブル34にはハイブリッド誤差拡散によるノンリニア特性と印刷ユニットのノンリニア特性とが含まれ,印刷ユニットのノンリニア特性は経年変化により変動するからである。
また,画像処理用ガンマテーブル40と補正ガンマテーブル36とを合成して合成ガンマテーブルを生成しておき,その合成ガンマテーブルを参照して入力の多階調画像データの階調値を補正するようにしても良い。合成ガンマテーブルを利用することでガンマ補正ユニットでの処理工数を減らすことができる。
図8は,合成ガンマテーブルの具体例を示す図である。図中,濃度補正用の補正ガンマテーブル36と画像処理用ガンマテーブル40の例が示され,これらを合成した合成ガンマテーブル44が示されている。合成するためには,画像処理用ガンマテーブル40も出力を64ビットの実数精度にしておく必要がある。
図9は,本実施の形態における画像処理ユニットの構成図である。この画像処理ユニットは,入力多階調画像データ13を受信するインターフェースIFと,中央処理ユニットCPUと,合成ガンマテーブルが格納されているメモリ44と,二値化プログラムが格納されているメモリ50と,誤差伝搬マトリクスが格納されているメモリETMと,二値化処理に利用される画像データバッファ54及び二値化データが格納される二値化データバッファ56を有するワークメモリ52と,それらを接続する内部バスBUSとを有する。
画像データバッファ54は,図4に示した誤差伝搬マトリクスETM1にしたがって二値化処理に伴う誤差を3行5列の周囲の画素に伝搬するので,画像データの水平方向の画素数に両側に2画素のダミー画素を加えた3行の容量を有する。合成ガンマテーブル44により8ビットの入力多階調画像データ13が64ビットの補正された多階調画像データに変換されるので,各画素は64ビットのデータを格納する容量が必要になる。
画像処理ユニット14は,合成ガンマテーブル44を参照して入力多階調画像データ13を補正された多階調画像データに変換する。この多階調画像データは,前述したとおり浮動小数点の実数精度であり1画素64ビットのデータ長を有する。補正された多階調画像データは,画像データバッファ54に一時的に格納される。次に,画像処理ユニット14の中央処理ユニットCPUは,二値化プログラム50を実行して,補正された多階調画像データをハイブリッド誤差拡散による二値化処理を行って,画素毎にドット有り,なしの二値化データに変換し,二値化データバッファ56に格納する。このハイブリッド誤差拡散による二値化処理中,画像データバッファ54内の各画素の多階調画像データには,二値化処理で発生した誤差が誤差伝搬マトリクスETMに基づいて加算され,その誤差が加算された画像データに対して二値化処理が行われる。
図10,図11は,本実施の形態における二値化プログラムのフローチャート図である。この二値化プログラムは,ガンマ補正処理と二値化処理の両方を含んでいるが,ガンマ補正された画像データに対して二値化処理するようにしても良い。
二値化プログラムは,まず入力画像幅Wdと高さHgを取得し(S20),幅Wd+4,高さ3行の画像データバッファ54を確保し,初期化する(S22)。そして,変数の処理画素w,hをw=1,h=1に初期化する。この変数w,hは画像データバッファ54内での処理対象の画素の位置を示すものである。次に,1画素分の入力画像データ13を入力し,変数wをw=w+1に更新する(S24)。入力画像データ13は,合成ガンマテーブルを参照して補正された画像データに変換される(S26)。これにより入力画像データXが補正された画像データX‘に変換される。
そして,変換された画像データX‘は,画像データバッファ内のhライン上に格納される(S30)。上記の補正と画像データバッファ内への保存は,変数hが3に達するまで繰り返される(S28,S32,S34)。変数h=3になると,変換画像データX’が画像データバッファの3ライン上に格納される(S36,S37,S38)。変数h=3になると,それ以降は常に変換画像データX‘は画像データバッファの3ライン上に格納される(S36)。
画像データバッファ内に3行分の補正画像データが格納されると,バッファ内の1ライン目の画素の補正画像データについてハイブリッド誤差拡散による二値化処理が行われる(S40)。この二値化処理は,図11に詳述されている。1ライン目の画素の二値化処理が完了すると,画像データバッファの更新が行われる(S42)。具体的には,画像データバッファの更新処理では,2ライン,3ラインの画像データを1ライン,2ラインに移動し,3ライン目を初期化する。
最後に,変数h=Hgに達すると(S44),画像データバッファ内の3ライン分の画素の画像データがハイブリッド誤差拡散による二値化処理され(S46),二値化プログラムを終了する。
上記のように,図10の処理では,3ライン分の補正画像データを画像データバッファに格納し,二値化処理を行う。また,二値化処理中に二値化に伴う誤差が周囲の画素の階調値に加算され画像データバッファ内に再度格納される。ただし,誤差バッファを別に設けることで,画像データバッファ内には補正画像データを格納し,二値化処理で発生する誤差を誤差バッファに格納し,二値化処理は補正画像データと誤差とを加算した階調値に対して行うようにしても良い。
図11のハイブリッド誤差拡散による二値化処理を説明する。まず,処理画素の位置を示す変数wをw=0に初期化する(S50)。そして,注目画素の多階調画像データX‘を画像データバッファから読み出して,処理画素の階調値を示す変数TagをTag=X’とする(S52)。この階調値Tagには,補正された画像データに二値化処理で伝搬された誤差が加算されている。
そして,注目画素の階調値Tagが,最大階調値255の1/2より小さい64未満か否かの判定が行われる(S54)。ここで,注目画素の階調値Tagが64以上の場合は(S54のNO),その画素の二値化データは常にドット有り(黒)に分類される(S56)。つまり,二値化後の階調値は最大階調値のx=255となる。そして,その二値化により発生したマイナス誤差E=Tag−xが算出され(S58),第1の誤差伝搬マトリクスETM1に基づいて周辺画素に伝搬され,誤差Eが周辺画素の階調値に加算される(S60)。第1の誤差伝搬マトリクスETM1の例は,図4で示したとおりであり,全誤差をマトリクスに示した割合で分配する。この誤差伝搬マトリクスにより,誤差はやや右下方向に伝搬される。
このように階調値Tagが基準値64以上の場合に,その画素をドット有りに二値化することで,閾値を最大階調の1/2である127にした誤差拡散の場合に発生する中濃度領域でのテクスチャ(ワームノイズ)の発生を抑制することができる。
一方,注目画素の階調値Tagが64未満の場合は(S5のYES),図3に示したドット分散型ディザマトリクスから注目画素に対応する閾値Dthを取得し(S62),注目画素の階調値Tagが閾値Dth以下か否かが判定される(S64)。注目画素の階調値Tagが閾値Dthを越えている場合は(S64のNO),その画素の二値化データはドット有り(黒)に分類され(S54),そのマイナス誤差Eが算出され(S56),誤差Eが第1の誤差伝搬マトリクスETM1にしたがって周囲の画素に伝搬される(S60)。一方,注目画素の階調値Tagが閾値Dth以下の場合は(S64のYES),その画素の二値化データはドットなし(白)に分類される(S66)。つまり二値化後の階調値は最小階調値のx=0になる。そして,その二値化処理により発生したプラスの誤差E=Tag−xが算出され(S68),そのプラス誤差Eが,第2の誤差伝搬マトリクスにより周辺の画素に伝搬される(S70)。第2の誤差伝搬マトリクスETM2の例は,図4で示したとおりであり,誤差の一部をマトリクスに示した割合で分配する。この誤差伝搬マトリクスにより,誤差はやや左下方向に伝搬される。
上記のように,階調値Tagが基準値未満になる中低濃度領域では,ドット分散型固定ディザ法により二値化処理が行われる。固定ディザ法の場合ではあるが,二値化により発生したマイナス誤差は,階調値Tagが基準値以上の場合との連続性を考慮して,第1の誤差伝搬マトリクスによって周囲の画素に伝搬される。これにより,基準値を境にして異なる二値化処理をしてもそれによる不連続な階調表現にはされない。また,マイナス誤差については,プラス誤差の第1の誤差伝搬マトリクスとは誤差伝搬方向と伝搬量が異なる第2の誤差伝搬マトリクスにより周囲の画素に伝搬する。このように伝搬することで,本発明者は経験的に中低濃度領域でのテクスチャが抑制されたことを確認した。これは,プラスとマイナスの誤差伝搬が互いに打ち消し合うことによる効果と考えられる。
上記のハイブリッド誤差拡散による二値化処理が,処理画素の位置を示す変数wがw=Wdに達するまで繰り返される(S72,S74)。以上で,1ライン分の画素のハイブリッド誤差拡散による二値化処理が完了する。
[階調値を固定小数点のビット構成にした高速化処理]
上記の実施の形態では,合成ガンマテーブルによる補正精度を上げるために補正後の階調値を浮動小数点によるビット形式(倍精度の64ビット)にした。しかし,浮動小数点のビット形式の実数を誤差伝搬などのために48で除算する処理は,コンピュータには多くの処理工数を要する。そこで,高速処理を可能にするために,階調値を整数の固定小数点によるビット形式(16ビット,−32767〜+32767)にし,誤差伝搬マトリクスの割合を2のべき乗で除算した割合にする。
すなわち,まず,ドット分散型閾値マトリクス内の閾値を8ビットから16ビット(0〜32767)に,実数精度であった合成ガンマテーブルも16ビット(0〜32767)に正規化しておく。これらは正の整数であるため、16ビット中の負の整数領域(−32767〜−1)は使用されない。さらに,画像データバッファの各画素を16ビットの容量にする。また,低濃度領域判定のための基準値64を,0〜32767内の基準値に正規化した8224(64×32767/255)にし、伝播誤差が16ビット(最大で216/2−1=−32767〜+32767)で伝搬されるようにする。
そして,誤差を第1の誤差伝搬マトリクスで伝搬するとき,誤差を2のべき乗分のn(nは整数)の割合で配置した誤差伝搬マトリクスを利用する。図12は,2の5乗(64)分のnの割合で分配する第1の誤差伝搬マトリクスの例を示す図である。この例は,図4の第1の誤差伝搬マトリクスETM1と同様に,全誤差をほぼ右下方向に伝搬するものである。これによれば,伝搬すべき誤差は,二値化により発生した誤差(Tag−x)を64で除算し整数倍(9,7,4倍)した値になる。したがって,誤差伝搬処理において発生した誤差のバイナリデータを6ビット右シフトする処理により64で除算し,それにそれぞれの整数倍することで,伝搬すべき誤差を簡単に求めることができ,プロセッサによる処理工数を削減することができる。
また,プラス誤差については,図4の第2の誤差伝搬マトリクスWETM2をそのまま利用することができる。この例では,発生した誤差のバイナリデータを4ビット右シフトして16で除算することができる。このように,固定小数点によるビット形式にし,分配誤差の計算に右シフトを利用することで,演算処理工数を大きく削減することができる。
[二値化処理結果の比較]
本実施の形態のハイブリッド誤差拡散による二値化処理した結果と,従来の固定ディザ法,誤差拡散法による二値化結果とを比較する。図13,14は,中濃度領域のパッチ画像についてオリジナル画像(A),ドット分散型固定ディザ(B),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す。オリジナル画像(A)には,階調値68,69,70のパッチパターンが上段に,階調値84,85,86のパッチパターンが下段に配置されている。これらは,低い基準値による二値化に伴うマイナス誤差の拡散で,二値化処理時には多くの画素の階調値が基準値未満になる。したがって,低中濃度領域での分散ディザ法とその誤差拡散の処理結果と,中濃度領域での分散ディザ法と誤差拡散法の境界部分での連続性とを比較することができる。ドット分散型固定ディザ法(B)では,やや大きなテクスチャ(ワームノイズ)が見られる。また,誤差拡散法(C)では,処理開始時のドット発生後れと大きなテクスチャ(ワームノイズ)が見られる。それに対して,本実施の形態(D)では,テクスチャが抑制され画質が向上しているのがわかる。
図15は,文字についてオリジナル画像(A),ドット分散型固定ディザ(B),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す。ドット分散型固定ディザ法(B)では,予想とおり文字にドット欠けが目立ち視認性が低下している。誤差拡散法(C)では,ドット欠けが少なく視認性は高い。そして,本実施の形態(D)でも誤差拡散法と同様にドット欠けが少なく視認性が改善されている。
図16は,低濃度領域を有するパッチパターンについて,オリジナル画像(A),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す。誤差拡散法(C)では,予想とおり低濃度領域でドット発生の遅延(領域60)が生じている。それに対して,本実施の形態(D)では,低濃度領域をドット分散型固定ディザ法で二値化しているので,ドット発生の遅延は生じていない。
以上説明したとおり,本実施の形態によれば,中低濃度領域ではドット分散型固定ディザ法で二値化し,二値化で発生した誤差をマイナス誤差は全誤差を第1の誤差伝搬マトリクスで伝搬し,プラス誤差は一部の誤差を第2の誤差伝搬マトリクスで伝搬し,誤差伝搬によるテクスチャの発生を抑制することができる。さらに,中高濃度領域ではドット有りに二値化して発生したマイナス誤差を第1の誤差伝搬マトリクスで伝搬しているので,誤差拡散法で中濃度領域で発生するテクスチャ(ワームノイズ)の発生を抑えることができる。
本実施の形態における画像処理ユニットを有するファクシミリ装置の構成図である。 本実施の形態における二値化ユニットの二値化処理を示すフローチャート図である。 ドット分散型固定ディザ法における閾値マトリクスの例を示す図である。 第1及び第2の誤差伝搬マトリクスの一例を示す図である。 本実施の形態におけるガンマ補正処理を示す図である。 本実施の形態における濃度補正用ガンマテーブルの具体例を示す図である。 本実施の形態における背景除去と黒強調の画像処理用ガンマテーブルを示す図である。 合成ガンマテーブルの具体例を示す図である。 本実施の形態における画像処理ユニットの構成図である。 本実施の形態における二値化プログラムのフローチャート図である。 本実施の形態における二値化プログラムのフローチャート図である。 高速化処理用の第1の誤差伝搬マトリクスの例を示す図である。 中濃度領域のパッチ画像についてオリジナル画像(A),ドット分散型固定ディザ(B),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す図である。 中濃度領域のパッチ画像についてオリジナル画像(A),ドット分散型固定ディザ(B),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す図である。 文字についてオリジナル画像(A),ドット分散型固定ディザ(B),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す図である。 低濃度領域を有するパッチパターンについて,オリジナル画像(A),誤差拡散(C),ハイブリッド誤差拡散(D)の二値化結果を示す図である。
符号の説明
12:スキャナ 13:入力多階調画像データ
14:画像処理ユニット(画像処理装置)
16:ガンマ補正ユニット 18:二値化ユニット
19:二値化データ

Claims (6)

  1. 所定の解像度の画素毎に多階調画像データを有する入力画像データを前記画素毎の二値化データに変換する画像処理装置において,
    複数の閾値が配置された閾値マトリクスに基づいて当該処理対象画素をドット有りとドットなしの二値化データに変換する二値化処理と,
    前記ドット有りの画素の入力階調値と最大階調値との差からなる誤差を第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算し,前記ドットなしの画素の誤差を前記第1の誤差伝搬マトリクスとは異なる第2の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算する誤差伝搬処理とを行う二値化ユニットを有し,
    前記二値化ユニットは,前記多階調画像データの最大階調の1/2未満の基準値より処理対象画素の多階調画像データの階調値が低い場合に,前記閾値マトリクスに基づく二値化処理を行い,前記基準値より処理対象画素の多階調画像データの階調値が高い場合は,当該処理対象画素をドット有りの二値化データに変換し更に前記誤差を前記第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算することを特徴とする画像処理装置。
  2. 請求項1において,
    前記第1の誤差伝搬マトリクスは処理対象画素から第1の方向に位置する周囲の画素により高い重み付けで前記誤差を伝搬し,前記第2の誤差伝搬マトリクスは処理対象画素から前記第1の方向とは異なる第2の方向に位置する周囲の画素により高い重み付けで前記誤差を伝搬することを特徴とする画像処理装置。
  3. 請求項1において,
    前記第1の誤差伝搬マトリクスは前記誤差の全てを周囲の画素に伝搬し,前記第2の誤差伝搬マトリクスは前記誤差の一部を周囲の画素に伝搬することを特徴とする画像処理装置。
  4. 請求項1において,
    前記閾値マトリクスは,複数の低い閾値を集中させることなく複数の閾値を分散配置させていることを特徴とする画像処理装置。
  5. 請求項1において,処理対象画素の多階調データが複数ビットからなるバイナリデータ形式で処理され,前記誤差伝搬処理において,当該多階調データを所定数ビット右シフト処理することで,伝搬すべき誤差を算出することを特徴とする画像処理装置。
  6. 所定の解像度の画素毎に多階調画像データを有する入力画像データを前記画素毎の二値化データに変換する画像処理プログラムにおいて,
    複数の閾値が配置された閾値マトリクスに基づいて当該処理対象画素をドット有りとドットなしの二値化データに変換する二値化処理工程と,
    前記ドット有りの画素の入力階調値と最大階調値との差からなる誤差を第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算し,前記ドットなしの画素の誤差を前記第1の誤差伝搬マトリクスとは異なる第2の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算する誤差伝搬処理工程とをコンピュータに実行させ
    前記多階調画像データの最大階調の1/2未満の基準値より処理対象画素の多階調画像データの階調値が低い場合に,前記閾値マトリクスに基づく二値化処理工程を実行させ,前記基準値より処理対象画素の多階調画像データの階調値が高い場合は,当該処理対象画素をドット有りの二値化データに変換し更に前記誤差を前記第1の誤差伝搬マトリクスに基づいて周囲の画素の前記多階調画像データに加算する処理を前記コンピュータに実行させる画像処理プログラム。
JP2005185429A 2005-06-24 2005-06-24 二値化処理を行う画像処理装置及び画像処理プログラム Expired - Fee Related JP4182959B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005185429A JP4182959B2 (ja) 2005-06-24 2005-06-24 二値化処理を行う画像処理装置及び画像処理プログラム
US11/473,462 US7620255B2 (en) 2005-06-24 2006-06-22 Image processor and image processing program for binary processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005185429A JP4182959B2 (ja) 2005-06-24 2005-06-24 二値化処理を行う画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2007006269A JP2007006269A (ja) 2007-01-11
JP4182959B2 true JP4182959B2 (ja) 2008-11-19

Family

ID=37691420

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005185429A Expired - Fee Related JP4182959B2 (ja) 2005-06-24 2005-06-24 二値化処理を行う画像処理装置及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP4182959B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9031813B2 (en) * 2010-08-27 2015-05-12 Corning Incorporated Methods and apparatus for estimating gravity-free shapes
JP6127498B2 (ja) * 2012-12-20 2017-05-17 セイコーエプソン株式会社 印刷装置、その制御方法、その制御プログラム及び印刷物の製造方法
CN111402276B (zh) * 2019-01-03 2023-12-26 珠海金山办公软件有限公司 一种二值图像生成方法、装置、电子设备及可读存储介质

Also Published As

Publication number Publication date
JP2007006269A (ja) 2007-01-11

Similar Documents

Publication Publication Date Title
JP4634292B2 (ja) 画像処理装置、画像処理方法、その方法をコンピュータに実行させるプログラム
US7620255B2 (en) Image processor and image processing program for binary processing
US8477324B2 (en) Image processor and image processing method that uses s-shaped gamma curve
JP3360391B2 (ja) 画像処理装置および画像処理方法
US5353127A (en) Method for quantization gray level pixel data with extended distribution set
JP3313399B2 (ja) 画像処理装置
US5325448A (en) Image treatment method and apparatus with error dispersion and controllable quantization
US6011878A (en) Image processing method and apparatus
JPH05336373A (ja) 画像記録装置
US6233360B1 (en) Method and system for hybrid error diffusion processing of image information using adaptive white and black reference values
JPH1093820A (ja) 誤差拡散方法及び誤差拡散システム
JP4182959B2 (ja) 二値化処理を行う画像処理装置及び画像処理プログラム
JP4182960B2 (ja) 二値化処理を行う画像処理装置及び画像処理プログラム
JP4342560B2 (ja) 画像処理方法、画像処理装置、コンピュータプログラム及び記録媒体
JPH11196271A (ja) 画像データ変換方法およびその装置並びに画像データ変換プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2756371B2 (ja) 画像処理装置
JP2019176406A (ja) 画像処理装置
JP4537211B2 (ja) 画像処理装置、画像処理方法、その方法をコンピュータに実行させるプログラム、画像形成装置、およびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JPH118769A (ja) 濃度調整方法及びこれを用いた装置
JP3823562B2 (ja) 画像処理装置
JP3117331B2 (ja) 画像データ処理装置
JP4058823B2 (ja) 画像処理装置
JP3679522B2 (ja) 画像処理方法及びその装置
KR100381651B1 (ko) 칼라 중간조 처리 장치
JP2004304814A (ja) 画像処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080513

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080812

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080825

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130912

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees