JP4100848B2 - 画像処理方法および画像処理装置 - Google Patents

画像処理方法および画像処理装置 Download PDF

Info

Publication number
JP4100848B2
JP4100848B2 JP37553799A JP37553799A JP4100848B2 JP 4100848 B2 JP4100848 B2 JP 4100848B2 JP 37553799 A JP37553799 A JP 37553799A JP 37553799 A JP37553799 A JP 37553799A JP 4100848 B2 JP4100848 B2 JP 4100848B2
Authority
JP
Japan
Prior art keywords
image
correction
luminance
value
histogram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP37553799A
Other languages
English (en)
Other versions
JP2001189861A (ja
JP2001189861A5 (ja
Inventor
学 山添
良介 井口
興宜 土屋
勇治 秋山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP37553799A priority Critical patent/JP4100848B2/ja
Publication of JP2001189861A publication Critical patent/JP2001189861A/ja
Publication of JP2001189861A5 publication Critical patent/JP2001189861A5/ja
Application granted granted Critical
Publication of JP4100848B2 publication Critical patent/JP4100848B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理方法および画像処理装置に関し、例えば、デジタル写真画像などの原画像における色かぶりやコントラスト等の補正である画像補正処理およびその原画像を印刷出力する際の印刷画像の濃度補正処理を行うための画像処理方法および画像処理装置に関するものである。
【0002】
【従来の技術】
近年、ハードコピー技術、特にフルカラーのハードコピー技術が急速に発展しつつある。特に、インクジェット方式による印刷技術は、インクドットによる粒状感の低減などにより、その印刷画質が銀塩写真と同等のものとなりつつあり、また、その比較的簡易な印刷方式によって広く普及しているものである。
【0003】
一方で、プリンタ、スキャナ、デジタルカメラといったいわゆる周辺機器が高性能化かつ低価格化しつつあり、一般のユーザが写真画像をデジタルデータとして扱うことも一般化してきている。
【0004】
このような点から、インクジェット方式によるプリンタと高画素のデジタルカメラ等とを用い、撮像画像またはそれを加工した画像等の忠実な再現も可能となってきている。
【0005】
このような撮像画像を印刷するシステムでは、基本的に印刷デバイスであるプリンタなどによって実現できる濃度範囲が、デジタルカメラ等のそれとは異なるという問題がある。例えば、インクジェット方式のプリンタの場合、撮像された画像の濃度に対して高濃度部において実現可能な濃度が比較的低いという問題がある。これは、デジタルカメラを用いる場合に限らず、スキャナなどの光学的な画像読取りデバイスを用いたシステムやCRT等のディスプレーの画像を印刷するシステムでも同様である。そして、以上のような本質的な問題によって、撮像等した画像を印刷すると、実際の色に比べて明るすぎたりまたは暗すぎるといった場合がある。
【0006】
このような課題を軽減するため、例えば、本出願人は、画像の特性に応じて自動的に画像の濃度を補正する方法(以下、ATC:Automatic Tone Control と略す)を提案している。
【0007】
これは、例えば、図3に示すように、最高濃度の異なる印刷出力機器において、高濃度部、つまり例えば輝度信号によって表される画像データにおけるシャドー部によって実現される濃度が、相対的に低い出力デバイスB(例えばインクジェットプリンタ)を用いて印刷するときは、同図に示すようなγ曲線(破線)で原画像データを補正することにより、画像全体の濃度を増大させ、高濃度出力が可能な出力デバイスA(例えば銀塩写真機)の出力濃度に全体として近付けることができる。以下、この濃度補正を「ATC補正」または「濃度補正」という。
【0008】
一方、従来、オリジナルの撮像画像等における、色かぶりや露出不足(コントラスト不良)あるいは彩度不良等の好ましくない現象を補正する方法が、例えば、特願平10−177272号において提案されている。以下、このようなオリジナル画像における好ましくない現象の補正を行うことを「画像補正」という。
【0009】
以上の濃度補正および画像補正のいずれの処理においても、原画像における輝度信号の輝度値毎にその輝度値の画素数を累積したヒストグラムを用いて補正を行うのが一般的である。
【0010】
このヒストグラムを求める場合、特に、普及している多くのインクジェットプリンタのようなラスタプリンタに対するプリンタドライバの処理では、ページデータをラスタライズする際、1ページ全てを一度ラスタライズし、これにより、複数の画像がある場合には、それを判定してどこにいくつの画像が配置されているかなどを解析する、解析フェーズを必要とする。つまり、ヒストグラムを求めるのに、上述の一連の濃度補正や画像補正の処理とは別に、ページ全体を解析(パス)する処理、すなわち、ページない画像の画素ごとにそのデータを調べる処理をページ全体に対して行う処理を必要とする。
【0011】
【発明が解決しようとする課題】
このように、従来のインクジェットプリンタ等のラスタプリンタ対するプリンタドライバの処理では、上述の画像補正および濃度補正の双方の処理を一連の画像処理として行う場合、それぞれの補正処理ついて解析フェーズが必要となり、処理効率が低下するという問題がある。
【0012】
この解析フェーズの処理時間は、主にアプリケーションに依存するが、例えば、ドロー系のソフトウエアにおいては、画像を細かく分割して送くるものもあるために、数十分を要する場合もある。このため、上記画像補正に加え、ATC補正(濃度補正)のためのさらなる解析フェーズを設けることは、技術的には可能であっても著しく効率を低下させるものであるといえる。
【0013】
本発明は、上記問題点を解消するためになされたものでり、その目的とするところは、ヒストグラムに基づき画像に関する複数の補正処理が行われる画像処理において、ヒストグラム生成処理による画像処理効率の低下を抑制することが可能な画像処理方法および画像処理装置を提供することにある。
【0014】
本発明の他の目的は、複数の補正処理として画像補正と濃度補正を一連の処理として行うことが可能な画像処理方法および画像処理装置を提供することにある。
【0015】
特に、画像補正された画像に対して濃度補正を行うことにより、適切な濃度補正を行えるようにすることを他の目的とする。
【0016】
【課題を解決するための手段】
そのために本発明では、画像データから当該画像の輝度に関して求められるヒストグラムに基づいて画像データの補正を行う画像処理方法であって、画像補正の後に濃度補正を連続して行ない、先行して行われる前記画像補正の際に、当該先行する画像補正で行われる輝度の座標変換で変換された変換後の輝度値の度数を累積することにより、その後の濃度補正で用いる輝度に関するヒストグラムを作成することを特徴とする。
【0019】
本発明の他の形態では、画像データから当該画像の輝度に関して求められるヒストグラムに基づいて画像データの補正を行う画像処理装置であって、画像補正の後に濃度補正を連続して行ない、先行して行われる前記画像補正の際に、当該先行する画像補正で行われる輝度の座標変換で変換された変換後の輝度値の度数を累積することにより、その後の濃度補正で用いる輝度に関するヒストグラムを作成することを特徴とする。
【0022】
以上の構成によれば、輝度のヒストグラムなどに基づいて複数の補正処理、例えば、第一の補正処理として色かぶりやコントラストの補正などが行われ、第二の補正として印刷画像の濃度に関する補正が行われる場合に、これを一連の連続した処理として行うことができるとともに、それぞれの補正に用いるヒストグラムの作成を、先行する補正処理によもなって作成したり、先行する補正処理で作成したヒストグラムに対しその補正処理と同様の処理を行って作成することができる。
【0023】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態を詳細に説明する。
<第1実施形態>
図1は、本発明の一実施形態にかかる印刷システムの概略構成を示すブロック図である。本システムは、概略、ホストコンピュータ100、プリンタ106およびモニタ105を有して構成されるものである。すなわち、ホストコンピュータ100には、例えばインクジェット方式のプリンタ106とモニタ105が双方向通信可能に接続されている。
【0024】
ホストコンピュータ100は、OS(オペレーティングシステム)102を有し、また、このOS100による管理下においてそれぞれの処理を行う、ワードプロセッサ、表計算、画像処理、インターネットブラウザ等のアプリケーション101、このアプリケーションによって発行され、出力画像を示す各種描画命令群(イメージ描画命令、テキスト描画命令、グラフィックス描画命令)を処理して印刷データを作成するプリンタドライバ103、および同様にアプリケーション101が発行する各種描画命令群を処理してモニタ106に表示を行うモニタドライバ104を同様のソフトウエアとして有している。
【0025】
また、ホストコンピュータ100は、上述のソフトウエアによって動作可能な各種ハードウエアとして中央演算処理装置CPU108、ハードディスクドライバHD107、ランダムアクセスメモリ(RAM)109、リードオンリーメモリ(ROM)110、入力インタフェース113等を備える。すなわち、CPU108は、上述のソフトウエアに従った処理にかかる信号処理を実行し、ハードディスクドライバ107によって駆動されるハードディスクにはデジタルカメラ111によって撮像した画像データが格納され、また、上記ソフトウエアが格納される。ROM110にも同様に、上述の各種ソフトウエアが予め格納されており、必要に応じて読み出されて用いられる。また、RAM109は、上記CPU108による信号処理実行のワークエリア等として用いられる。また、マウス、キーなどの入力デバイス112による入力は入力インターフェース113を介して入力し、ОS102による処理に供される。
【0026】
図1に示される実施形態として、例えば、一般的に普及しているIBM社のAT互換機のパーソナルコンピュータにMicrosoft社のWindows98をOSとして使用し、任意の印刷処理が可能なアプリケーションをインストールし、モニタとプリンタを接続したものを挙げることができる。
【0027】
以上の構成を有したプリントシステムにおいて、ユーザーは、アプリケーション101によってモニタ105に表示された表示画像に基づき、同様にアプリケーションによる処理を介して文字などのテキストに分類されるテキストデータ、図形などのグラフィックスに分類されるグラフィックスデータ、自然画などに分類されるイメージ画像データなどからなる画像データを作成することができる。
【0028】
そして、この作成した画像データの印刷出力がユーザーによって指示されると、アプリケーション101はOS102に印刷出力要求を行うとともに、グラフィックスデータ部分をグラフィックス描画命令、イメージ画像データ部分をイメージ描画命令として構成した、出力画像を示す描画命令群をOS102に発行する。これに対し、OS102はアプリケーションの印刷出力要求を受け、その印刷を行うプリンタに対応したプリンタドライバ103に描画命令群を発行する。
【0029】
プリンタドライバ103は、OS102から入力した印刷要求と描画命令群を処理しプリンタ105で印刷可能な形態の印刷データを作成してプリンタ105に転送する。この場合に、プリンタ105がラスタープリンタである場合は、プリンタドライバ103はOS102からの描画命令に対して、順次画像補正処理を行い、そして順次RGB24ビットページメモリにラスタライズし、すべての描画命令をラスタライズした後にRGB24ビットページメモリの内容をプリンタ105が印刷可能なデータ形式、例えばCMYKデータに変換を行いプリンタに転送する。
【0030】
図2は、プリンタドライバ103で行われる処理を示す図である。プリンタドライバ103の処理は、大別して、画像・濃度補正処理120とプリンタ用補正処理121からなる。
【0031】
画像・濃度補正処理120は、OS102から入力した描画命令群に含まれる輝度信号R、G、Bからなる色情報に対して、画像・濃度補正処理を行う。詳しくは、レッド(R)、グリーン(G)、ブルー(B)の色情報を基に、後述の画像補正処理および濃度補正処理(自動階調補正処理)を行う。一方、プリンタ用補正処理部121は、まず画像・濃度補正処理120によって補正された色情報の描画命令をラスタライズし、R、G、B24ビットのページメモリにラスター画像を生成する。そして、所定の画素毎に印刷を行うプリンタの色再現性に依存したシアン(C)、マゼンタ(M)、イエロー(Y)、ブラック(K)データを生成し、プリンタ105に転送する。
【0032】
次に、画像・濃度補正処理120の処理である画像補正処理および濃度補正処理について説明する。
【0033】
図4は、この処理の手順を示すフローチャートである。画像・濃度補正処理は、同図に示すように、大別してヒストグラム作成処理(ステップS10)、画像補正処理(ステップS20)および濃度補正処理(ステップS30)の3つの処理に分けられる。また、図6は、この画像・濃度補正処理における主に信号の変換を概念的に示す図である。
【0034】
(ヒストグラム作成、ハイライト/シャドーポイント決定)
ステップS10におけるこの処理では、画像補正処理および濃度補正処理の前提として、ヒストグラムを求め、そのヒストグラムに基づきハイライト/シャドーポイント決定、画像種判定が行われる。
【0035】
まず、入力されたRGBの画像信号を、画像の明るさに関する成分である輝度Yと色味に関する成分である色差信号C1、C2に変換する(図6に示すB1)。その変換式は以下のように表されるものである。
Y(輝度)=0.30×R+0.59×G+0.11×B
C1(色差)=R−Y
C2(色差)=B−Y
次に、変換された各信号Y、Cr、Cbの内、輝度に相当する信号Yについて、画像データにおける各画素毎の輝度値(信号Yの値)を調べ、0〜255で示されるそれぞれの輝度値毎にその輝度を有する画素の度数を集計し、輝度のヒストグラム(度数分布)を作成する。
【0036】
すなわち、本実施形態で扱う画像データRGBは各8ビット(256階調)データであるので輝度Yも256の深さに変換される。よって輝度ヒストグラムは0から255までの256の輝度値の画素がそれぞれ何度数あるかを計算することになる。
【0037】
このように作成されたヒストグラムは、例えば、画像データが全体的に明るい画像を示すときは図8に示すように高輝度側に分布が偏り、一方、全体的に暗めの画像を示すときは図9に示すように低輝度側に分布が偏ったものとなる。
【0038】
なお、上述の輝度ヒストグラムの作成は、画像全体における輝度の度数分布を調べるのが目的としてなされることから、度数の集計は必ずしも全画素について行う必要はなく、例えば1600(画素)×1200(画素)の画像データに対しては、横に15(画素)ずつ、縦に11(画素)ずつ間引いた画素について集計を行ってもよいし、あるいはそれらの画素それぞれについて周囲画素との平均値を用いてもよい。
【0039】
次に、上述のようにして求めたヒストグラムから、ハイライトポイントとシャドーポイントを決定する。その方法としては、例えば特開昭60-57594号公報に開示されたものを用いることができる。すなわち、ヒストグラムにおいて、輝度の最大(輝度値255)および最小(輝度値0)からそれぞれ低輝度側および高輝度側へ向かって累積したそれぞれの累積度数が、予め設定した所定の累積度数、例えば、全画素数の1%にそれぞれ対応する輝度値をハイライトポイントおよびシャドーポイントとするものである。
【0040】
また、色差C1、C2ついて同様に累積値を演算し、これを後述の色かぶり補正処理で、ハイライトポイントおよびシャドーポイントそれぞれの輝度値が属する画素における平均色差量を算出するデータとして用いる。このため、本実施形態では、次のようにデータ保持を行う。0から255の構造体配列変数の形式で、度数、C1累積値、C2累積値の3メンバーを設定し、各画素ごとの演算結果を各メンバーに反映(インクリメント)していく。
【0041】
以上のように輝度ヒストグラムを生成し、このヒストグラムからハイライトポイントとシャドーポイントを決定する。本実施形態では、たとえば35万画素数の画像データに関して、その約1%に相当する3500をしきい値として設定し、輝度値0、輝度値255の各端からそれぞれ高輝度側および低輝度側方向に累積度数値が上記しきい値になる点をそれぞれシャドーポイント、ハイライトポイントと定める。
【0042】
具体的には、輝度nの画素の度数をYnとおくとき、Y0+Y1+……と累積度数を求めていき、この累積度数が3500を越えたときの輝度値をシャドーポイントの輝度値(k)とする。
【0043】
次いで、このシャドーポイントである輝度kの画素における平均色差量を求める。前述の通り、輝度ヒストグラム作成時に輝度値ごとの色差信号の累積値が計算されている(輝度nの画素の累積色差をC1ntotal,C2ntotalとする)ので、シャドーポイントの輝度値kでの平均色差量C1k、C2kは以下のように求めることができる。
【0044】
C1k=C1ktotal/Yk
C2k=C2ktotal/Yk
同様にY255+Y254+……と累積度数を求めていき、この累積度数が3500を越えたときの輝度値をハイライトポイントの輝度値(w)とし、そのハイライトポイントである輝度値の画素の平均色差量C1w、C2wを次のように求めることができる。
【0045】
C1w=C1wtotal/Yw
C2w=C2wtotal/Yw
以上により、「C1,C2,Y」色空間において、ハイライトポイント(C1w,C2w,Yw)とシャドーポイント(C1k,C2k,Yk)を求めることができる。
【0046】
なお、本実施形態では、輝度値0と輝度値255の輝度位置から累積度数を求めたが、輝度値1と輝度値254から求めるなど所定のオフセットを有していてもよい。
【0047】
上記のハイライトポイントおよびシャドーポイント求めた後、上記で求めたヒストグラムの形状から簡易的に画像の種別を判定し、例えば、グラフィックス画像のような写真画像ではない画像の場合は、以下の処理を行わずに画像補正処理を終了してもよい。この判定方法は、例えば特願平10―177134号において開示されている方法によって行うことができる。
(画像補正処理;色かぶり、コントラストおよび彩度補正)
次に、図4におけるステップS20において、ステップS10で上記のように決定されたハイライトポイントおよびシャドーポイントに基づいた画像補正処理を行う。本実施形態では画像補正処理として、上述の式で求めた輝度および色差信号で表せられる原画像の色かぶりを補正する色かぶり補正、同原画像の輝度のコントラストを調整するコントラスト補正、および同原画像に基づいて印刷される画像の見栄えをよくするための彩度補正を行う。
【0048】
すなわち、ヒストグラムを求めた原画像の「C1,C2,Y」色空間におけるハイライトポイント、シャドーポイントに基づいて色かぶり補正と輝度のコントラスト補正を行う。
【0049】
仮に、上記原画像に色かぶりがなく理想的な画像であるとすれば、無彩色はR=G=Bであるから、上述の式からも明らかなようにハイライトポイント、シャドーポイントの色差量の演算値はいずれも0となる。つまり、画像を表す色立体が、それを表す図5(a)に示すような状態にあるとき、この画像は理想的であり、色かぶりはないといえる。
【0050】
しかし、色かぶりがある場合には、図5(b)に示す如く、かぶっている色相方向に、かぶりの程度に比例して(C1w,C2w,Yw)と(C1k,C2k,Yk)を結ぶ直線(色立体軸)に傾きが生じる。
【0051】
すなわち、色かぶり補正は、この色立体軸とY軸が一致するように原画像を表す色立体を変換することによって行う。その方法としては、色立体を回転、平行移動させることでも達成できるし、座標系を変換することでも達成できる。本実施形態では、まず原画像の色立体(例えば図5(b)に示す色立体)において、色立体軸のシャドーポイントを原点とするような並行移動を行い、その座標系において、シャドーポイントすなわち原点を中心に色立体軸がY軸と平行(一致)になるように回転する。3次元空間中で回転軸と回転角度が定っている系で、座標系を所望の角度で回転させる回転行列を求める手法は公知の技術であるから個々ではその詳細な説明は省略する。
【0052】
次に、輝度のコントラストの補正として、本実施形態では、シャドーポイントの輝度を"0"あるいはそれに近い値(例えば"10")、ハイライトポイントの輝度を"255"あるいはそれに近い値(例えば"245")に補正することによって行う。これは、上記の色かぶり補正で色立体軸がY軸に一致させられた色立体を輝度軸(Y軸)方向に拡大(縮小)することに相当する。
【0053】
さらに、彩度補正は次のように行うことができる。彩度は、色差信号を用いて表現すれば、それぞれの色差信号の輝度軸からの距離に相当するものである(彩度をSで表すと、S2=C12+C22)。従って、たとえば彩度を一律に20%増す場合は、色差C1、C2をそれぞれ1.20倍(ここで1.20は彩度係数)することで達成される。すなわち、色立体において(C1,C2)平面内での拡大(縮小)を行うことになる。
【0054】
この点から、本実施形態では、上記輝度のコントラストを補正するための輝度軸方向の拡大(縮小)率を色立体全体に適用し、輝度コントラストの補正にともなって彩度補正も自動的に行うようにする。なお、ユーザーが特に所望の彩度補正を望めば、その彩度係数を与えることにより、輝度補正と彩度補正を別処理として行ってもよいことは勿論である。
【0055】
以上のように、原画像の各画素の信号を輝度と色差信号(C1,C2,Y)に変換し(図6に示すB1)、この3次元色空間中で原画像を表す色立体を回転、平行移動および拡大(縮小)することによって、色空間(C1′,C2′,Y′)に変換し(図6に示すB2)、色かぶり補正、コントラスト補正および彩度補正を同時もしくは別々に行うことができる。
【0056】
(第2のヒストグラム作成)
以上、ステップS20の処理として説明した画像補正(図6に示すB2)によって輝度信号に補正が加えられ、図6に示すように、新たな輝度および色差信号Y′、C1′、C2′が得られる。この結果、輝度ヒストグラム分布は変化する。このため、次のステップS30で行う濃度補正処理のため、第2のヒストグラムを作成する。
【0057】
本実施形態では、このヒストグラム作成を上述した画像補正の処理に関連させてその処理と同時に行ない、これにより、ヒストグラム作成の効率化を図る。すなわち、上記画像補正処理では、上述のように3次元色空間における原画像の並行移動および回転移動を行うが、これは、具体的には、各画素毎に座標で表せられる輝度および色差信号値(Y、C1、C2)の座標変換である。そこで、本実施形態では、この座標変換処理の際に同時にその変換後の輝度信号Y′をその輝度値の度数として累積する。これにより、上述したステップS20の画像処理が終了した時点で、濃度補正に必要な第2のヒストグラムは作成されていることになる。
【0058】
(濃度補正)
次に、ステップS30では、以上のようにして求めた第2の輝度ヒストグラムに基づき第2の補正処理である濃度補正(ATC補正)を行う。このように、本実施形態によれば、上述の画像処理した結果に基づき、以下で濃度補正条件を設定するためのヒストグラムを作成することができる。これにより、適切な濃度補正条件を設定することができる。
【0059】
図7は、この濃度補正処理を示すフローチャートである。
【0060】
▲1▼ハイライトポイント判定部
ステップS301のハイライトポイント算出処理では、上記第2のヒストグラムから処理対象である画像におけるハイライトポイントを算出する。このハイライトポイントの算出方法は上記画像補正の際の方法と同様である。
【0061】
すなわち、輝度信号Yの上記第2ヒストグラムにおいて輝度範囲の最高輝度値(輝度値255)から、順に低輝度側に向かいながら各輝度値の度数を累積し、ここで求めた累積度数が、例えば、処理対象である画像データの全画素数の1.0%と一致した輝度値、または最初に全画素数の1.0%を越えた輝度値を求め、この点をハイライトポイント(以下、「HLP」ともいう)とする。
【0062】
次に、このようにして求めたHLPと輝度値について予め定めた閾値Thを用いてこれらの大きさを比較し、 HLP>Thとき、画像は明るい画像、HLP≦Thときは、画像は暗い画像と判定する。すなわち、この処理によって明暗について2種の画像に判別する。なお、本実施形態で用いる閾値Thは、比較的高輝度の値を用い、例えば220等を用いる。
【0063】
例えば、図8に示す明るめの画像のヒストグラムでは、HLPが閾値Thを越えて(HLP>Th)おり、従って、明るい画像と判定される。この場合、前述したようにヒストグラムは全体的に高輝度側に分布が偏っており、結果的にHLPも高輝度側に位置している。
一方、図9に示す暗めの画像のヒストグラムでは、HLPが閾値Thよりも低く(HLP≦Th)、暗い画像と判定される。この場合、全体的に低輝度側に輝度分布が偏っており、HLPも低輝度側に位置することから、このような判定が行われる。
【0064】
以上のように処理対象画像のヒストグラムからハイライトポイントを求め、これに基づいて画像の全体的な明暗を判別することにより、図10にて後述されるように、判別された明暗に応じて、補正対象である画像の低輝度領域の分布に関連させて補正の程度、すなわち、γ値を異ならせることができる。例えば、暗い画像と判別された場合は、同じ低輝度領域の分布(低輝度領域の割合)でも明るい画像と判断される場合より、小さなγ値で補正する(濃度を高くする;暗くする)確率をより低くすることができ、これにより、全体的に暗い画像で、例えば低輝度領域の分布が比較的少ない画像については全体的に低濃度で印刷することが可能となり、印刷画像における高濃度部のいわゆる潰れを防止できる。一方、明るい画像と判断される場合は、逆に、小さなγ値で補正する(濃度を高くする;暗くする)確率をより高くすることができ、これにより、プリンタ等の印刷デバイスが本来的に有している比較的低濃度の出力特性を補った印刷を行うことができる。
【0065】
なお、HLPの算出は、必ずしも上述した方法によって求める必要はなく、従来知られている方式を適宜用いてもよい。
【0066】
▲2▼低輝度領域の画素数判定(γパラメータ判定)
次に、ステップS302において、ハイライトポイント判定によって明暗2種に大別された画像について、上記第2ヒストグラムを用いて低輝度領域分布の判定を行う。
【0067】
この低輝度領域の画素数判定処理では、まず、ステップS3021で処理対象画像の全画素数に対する所定の低輝度領域の累積度数の割合であるSlowを求める。これは、低輝度領域の分布をより詳細に求めることにより、補正の程度、すなわちγ値について適切なものを求め、特に、印刷画像の低濃度部におけるいわゆる潰れを生じさせることなく全体的な濃度の増大を図ることを可能とするものである。
【0068】
最初に、前処理として、低輝度領域での累積度数Sを求める。この低輝度領域での累積度数Sは、ヒストグラムにおいて輝度範囲の最低輝度値(輝度値0)から高輝度側に向かって所定の輝度値までの累積度数として求められるものである。本実施形態では、最大輝度値(輝度値255)の1/4となる輝度値(輝度値64)までの累積度数を低輝度領域の累積度数Sとして求める。
【0069】
次に、上述のように求めた低輝度領域の累積度数Sが、全画素数に占める割合Slowを算出する。
【0070】
すなわち、ここで、Slow=(低輝度領域の累積度数S)/(全画素数)(%)である。
【0071】
なお、前述のヒストグラム集計の際に、画素を間引いて、間引きヒストグラムを作成した場合には、上記Slowの定義式での分母は、ヒストグラム作成の対象となった画素数である。
【0072】
次に、ステップS3022において上記で求めたSlowを用いてγ値(γパラメータ)の判定を行う。
【0073】
この判定は、具体的には、図10に示すテーブルのSlowが属する範囲を決定する処理である。すなわち、このSlowの範囲は、上述のHLP判定に応じた画像の明暗により範囲を異ならせるものであり、明るい画像と判定されたものについて、Slow=0〜30、Slow=31〜60、Slowが61以上の3種の範囲に分類される。一方、HLP判定で、暗い画像と判定されたものについては、 Slow=0〜15、Slow=16〜30、Slowが31以上の3種の範囲に分類される。
【0074】
例えば、図8に示す明るめの画像の場合、斜線で示した領域の全画素数に対する割合がSlowとなる。この例では、Slowは全画素数の10%となり、従って、上記HLP判定で明るい画像と判断されるとともに、Slowは、0〜30の範囲と判定される。一方、図9に示す暗めの画像の例では、斜線で示した領域Slowは、全画素数の40%となり、したがって、上記HLP判定で暗い画像と判断されるとともに、Slowは31以上の範囲と判定される。
【0075】
ここで、仮に、上述のように累積度数の割合を用いず、前述のシャドウポイント(ヒストグラムにおける最小輝度値から順番に高輝度側に向かいながらそれぞれの度数を累積し、例えば全画素数の1.0%と一致または最初に越えた値となった輝度値)のみを用いて低輝度部の分布を判定する方法を用いた場合には、低輝度領域の実際の分布状態が適切に反映されない、画像の明るさについての判定を行うこととなる。例えば、シャドウポイント自体は比較的高めの輝度値を示しつつも、実際には、シャドウポイント周辺の輝度値に度数分布のピークがあって低輝度領域の度数分布自体は少ない画像の場合、明るめの画像であると誤った判定をして小さなγ値(濃度を高くする輝度補正)が選択され、結果として画像上の比較的大きな部分を占める暗い部分が潰れてしまうことがある。
【0076】
これに対し、上述の実施形態のように、低輝度領域における累積度数を求め、この累積度数の全画素数に占める割合Slowを用いることにより、より実際の低輝度分布が反映された画像の明暗を判定を行うことができ、上述のような、暗めの画像についても適切な階調補正を行うことができる。
【0077】
なお、上記実施形態では、Slowの範囲について輝度値0〜60の範囲を均等に区分したが、より詳しく低輝度領域の情報を求める場合は、低輝度領域をいくつかに分割してそれぞれに対して場合分けを行ってもよいし、また、Slowが0〜30までは2倍、31〜60までは1倍して足し合わせるといった重み付けをしてもよい。
【0078】
▲3▼補正γ値決定
以上の低輝度領域の画素数判定処理により、低輝度領域の割合Slowが属する範囲が決定されることにより、処理対象画像は、図10に示されるように、明3種、暗3種の計6種に分類されることになる。そして、次のステップS303では、図10に示すテーブルを用いてγ値を決定する。
【0079】
本実施形態のγ値は、図11に示す補正テーブル(補正曲線)から明らかなように、0.8、1.0または1.2が設定される。なお、このγ値は、前述したようにより明るく(印刷画像において、より濃度が低く)補正する程度を表すものであり、個々の入力輝度値に対する補正の割合を示すものではない。個々の入力値に対する補正の割合は、同図のそれぞれのテーブルを表す曲線で表されるものである。
【0080】
上記6種に分類された画像に関するγ値の決定は、図10に示すテーブルを用い、例えば上記HLP判定が明るい画像の判定の場合、Slow=0〜30のときはγ=0.8、Slow=31〜60のときはγ=1.0(つまり補正せず)、Slowが61以上のときはγ=1.2といったように設定される。具体的には、後述のようにそれぞれのγ値に応じた補正用ルックアップテーブル(LUT)が用意される。
【0081】
図8に示す明るめの画像の場合、HLPは閾値Thより大きく且つSlowは10%であるので、図11に示すテーブルより、この画像は明るい画像と判定され、γ値は0.8に設定される。このγ値決定により、比較的高い輝度領域まで暗くする(印刷濃度を高くする)補正がなされ、全体的に最適な濃度の印刷画像となる。また、低輝度領域の画素に割合が少ないことから、画像の潰れる部分が少なくて済む。
【0082】
一方、図9に示す暗めの画像では、HLPがThより小さく且つSlowが40%であるため、図10に示すテーブルによって、γ値は1.2に設定される。このγ値設定により、印刷される画像全体が明るくなり、特に画像の40%を占める低輝度部分が明るくなり、濃度のバランスがとれた印刷画像となる。
【0083】
なお、上記の説明では、▲1▼ハイライトポイント判定において、画像の明るさの判定を2段階で行ったが、より最適なγ値を求めるために、明るい画像、中間画像、暗い画像といった3段階以上に場合分けしてより詳細な判定を行ってもよい。その場合、▲2▼低輝度領域の画素数判定は図10に示したSlowの閾値に加え、中間画像の場合、例えばSlow=0〜20でγ=0.8、Slow=21〜40でγ=1.0、Slowが41以上でγ=1.2とすることができる。
【0084】
(LUT作成)
以上説明したγ判定処理を終了すると、ステップS303でLUT作成を行う。すなわち、γ判定処理で得られたγ値に基づいて輝度補正のためのルックアップテーブル(LUT)を作成する。
【0085】
本実施形態のLUTは、上述のようにして得られたγ値の逆数を各入力輝度信号の最大輝度に対する比に累乗したものに最大輝度値を乗じて得られるものを出力輝度信号とする補正を行うものであり、輝度範囲の全ての値(輝度値0〜255)に対応して、上記γ値を用いた補正関係で得られる全ての輝度値を記したものである。
すなわち、LUT L[Y]は、入力輝度信号をY、出力輝度信号をY‘とすると、Y’=255×[(Y/255)1/ γ]なる式によって表される変換を行い、動的に作成される。すなわち、対象画像の処理ごとに作成されるものである。このように補正テーブルを動的に作成することにより、必要となるメモリ量を削減することができる。
【0086】
なお、上記LUTは、動的に作成する代わりに上記γ値毎に、予めメモリ上に静的に用意してもよいことは勿論である。
【0087】
(補正)
次に、ステップS305で、上記作成したLUT L[y]によって、処理対象画像の輝度値YをY”=L[Y’]とする変換を行い、輝度補正を行う(図6に示すB3)。
【0088】
さらに、輝度補正のされた輝度信号Y”および上記画像補正処理で変換された画像の色差信号C1’、C2’をR、G、B信号に戻し、補正された画像信号R'、G'、B'を作成する(図6に示すB4)。この逆変換は以下の式により行うことができる。
【0089】
R’=Y’+C1’
G’=Y’−(0.3/0.59)×C1’−(0.11/0.59)×C2’
B’=Y’+C2’
以上の通り、原画像の各画素データに基づきヒストグラムを作成し、所定の輝度値から累積して所定度数に相当する輝度値の画素データを検出し、この検出された画素データに基づき3次元色空間で色バランスを補正することにより、少ない処理負荷で確実に色かぶりを補正することを可能とした画像処理方法を提供でき、かつ、特に低輝度部が少ないような画像に関しては、ATC補正部においてγ補正を施すことによって、より好適な濃度レベルの出力結果を得ることできる。
【0090】
そして、上記画像補正と濃度補正で用いるヒストグラムの作成を効率的に行うことができる。
<第2の実施形態>
上述の第1の実施形態では、第2のヒストグラムを作成する場合、前述したように、原画像の画像補正処理が完了したとき初めて第2のヒストグラムを得ることができる。つまり、現画像の画素ごとの補正という観点からは、画像補正を全て行った後であらためて濃度補正の処理を行うことになる。この第1の実施形態によれば、前述したように、画像処理を行った画像に対してあらためてページ全体をパスしヒストグラム情報を収集するという解析フェーズを必要としないという効果を得ることができる。しかし、その場合でも補正のためのフェーズを別に必要とする。すなわち、第1の実施形態では、まずページ全体を解析し、ページ内におかれた1つあるいは複数の画像それぞれに対してヒストグラム情報を収集する第1ステップと、それに基づいて画像補正を行い、かつ、第2のヒストグラムを作成する第2のステップと、第2のヒストグラムに基づいて濃度補正を行う第3のステップの3回のステップ、すなわち、3回のパスでプリンタドライバによる画像・濃度補正処理を完了する。
【0091】
ヒストグラムの精度は第1の実施形態による方法の方が高いが、上述のように、ラスタプリンタに対するプリンタドライバの処理としては、ページをパスする回数が増すことは、処理速度低下の原因となる。すなわち、このような処理をプリンタドライバで実行する場合は、このパス数は少ないことが望ましい。
【0092】
そこで、本実施形態では、第2のヒストグラムをより簡易的に求めることにより、全体のパス数を少なくするものである。すなわち、画像補正処理のコントラスト補正で、上述したように画像のハイライトポイントとシャドーポイントを求め、それらを例えば輝度値245あるいは10に移動する処理を行う。従って、図12に示すように、画像補正処理で求めた第1ヒストグラムをコントラスト補正と同様、平均的に輝度方向に引き延ばしたものを第2のヒストグラムとして用いる。
【0093】
ここで、ヒストグラムを引き延ばすことによって、ヒストグラムの分布に隙間(すなわち、0度数となるところ)が生じる場合があるが、これに対しては、単純に補間してならすなどの処理を行うことができる。例えば、第1のヒストグラムを引き延ばしたことによって、輝度値100と101に0度数が生じたときは、輝度値99と102の度数から線形的に輝度値100と101の度数によって補間することができる。
【0094】
このようにして簡易的に求めた第2のヒストグラムから第1の実施形態で上述した濃度補正のための補正テーブルを予め作成し、画像補正において輝度値の変換(補正)を行った直後に、上記予め作成した濃度補正テーブルによる処理を行うことによって、画像補正と濃度補正とを同時の処理として行うことができる。すなわち、ヒストグラム情報の収集にかかる解析のための1回のステップ(パス)と、画像補正および濃度補正のステップ(パス)の2回のステップによって画像補正および濃度補正にかかる画像処理を完了することができる。
【0095】
なお、本実施形態の他の処理は第1の実施形態と同様である。
<第3の実施形態>
上記実施形態では、画像補正処理とATC処理(濃度補正)は、一連の連続した処理として説明したが、これはユーザの指示によってそれらの処理を個別に設定することもできる。
【0096】
例えば、図13に示すようなユーザーインターフェースにおいて、「フォトデータ補正(画像補正)」と「自動階調補正(ATC)」の両者がチェックされた場合には、第1の実施形態で説明したように一連の連続した処理として行い、ATCのみがチェックされた場合には、最初に求めた第1のヒストグラムをそのままATC処理に適用して濃度補正を行うことができる。
【0097】
このようにユーザーは、補正処理に関して任意に処理を細かく設定することが可能となり、必要に応じた印刷出力結果を得ることが可能となる。
<他の実施形態>
本発明は上述のように、複数の機器(たとえばホストコンピュータ、インタフェース機器、リーダ、プリンタ等)から構成されるシステムに適用しても一つの機器(たとえば複写機、ファクシミリ装置)からなる装置に適用してもよい。
【0098】
また、前述した実施形態の機能を実現するように各種のデバイスを動作させるように該各種デバイスと接続された装置あるいはシステム内のコンピュータに、前記実施形態機能を実現するための図4、図7に示すようなソフトウェアのプログラムコードを供給し、そのシステムあるいは装置のコンピュータ(CPUあるいはMPU)を格納されたプログラムに従って前記各種デバイスを動作させることによって実施したものも本発明の範疇に含まれる。
【0099】
またこの場合、前記ソフトウェアのプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコード自体、およびそのプログラムコードをコンピュータに供給するための手段、例えばかかるプログラムコードを格納した記憶媒体は本発明を構成する。
【0100】
かかるプログラムコードを格納する記憶媒体としては例えばフロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0101】
またコンピュータが供給されたプログラムコードを実行することにより、前述の実施形態の機能が実現されるだけではなく、そのプログラムコードがコンピュータにおいて稼働しているOS(オペレーティングシステム)、あるいは他のアプリケーションソフト等と共同して前述の実施形態の機能が実現される場合にもかかるプログラムコードは本発明の実施形態に含まれることは言うまでもない。
【0102】
さらに供給されたプログラムコードが、コンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納された後そのプログラムコードの指示に基づいてその機能拡張ボードや機能格納ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれることは言うまでもない。
【0103】
【発明の効果】
以上の説明から明らかなように、本発明によれば、輝度のヒストグラムなどに基づいて複数の補正処理、例えば、第一の補正処理として色かぶりやコントラストの補正などが行われ、第二の補正として印刷画像の濃度に関する補正が行われる場合に、これを一連の連続した処理として行うことができるとともに、それぞれの補正に用いるヒストグラムの作成を、先行する補正処理によもなって作成したり、先行する補正処理で作成したヒストグラムに対しその補正処理と同様の処理を行って作成することができる。
【0104】
この結果、ヒストグラム作成に関して効率的な補正処理を行うことができる。
【図面の簡単な説明】
【図1】本発明の一実施形態にかかるプリントシステムの構成を示すブロック図である。
【図2】上記システムにおけるプリンタドライバの処理を示す図である。
【図3】印刷出力デバイスの違いによる、実現できる濃度の違いを説明する図である。
【図4】本発明の一実施形態にかかる画像補正処理および濃度補正処理の手順を示すフローチャートである。
【図5】 (a)および(b)は、上記画像補正のうち主に色かぶり補正を説明する図である。
【図6】上記プリンタドライバの処理のうち画像補正処理として行われる自動階調補正処理における主に信号変換の構成を示す図である。
【図7】上記濃度補正処理の手順を示すフローチャートである。
【図8】上記補正処理の処理対象である画像が明るい画像である場合のヒストグラムを示す図である。
【図9】上記補正処理の処理対象である画像が明るい画像である場合のヒストグラムを示す図である。
【図10】上記濃度補正処理で用いるテーブルの内容を示し、画像の種類に応じたγ値の定め方を説明する図である。
【図11】γ値に応じた輝度補正テーブルの変換特性曲線を示す図である。
【図12】本発明の他の実施形態にかかるヒストグラムの作成を説明する図である。
【図13】本発明のさらに他の実施形態にかかるユーザーインターフェースを示す図である。
【符号の説明】
100 ホストコンピュータ
101 アプリケーション
102 ОS(オペレーティングシステム)
103 プリンタドライバ
104 モニタドライバ
105 モニタ
106 プリンタ
107 HD
108 CPU
109 RAM
110 ROM
120 画像補正処理
121 プリンタ用補正処理

Claims (10)

  1. 画像データから当該画像の輝度に関して求められるヒストグラムに基づいて画像データの補正を行う画像処理方法であって、
    画像補正の後に濃度補正を連続して行ない、先行して行われる前記画像補正の際に、当該先行する画像補正で行われる輝度の座標変換で変換された変換後の輝度値の度数を累積することにより、その後の濃度補正で用いる輝度に関するヒストグラムを作成することを特徴とする画像処理方法。
  2. 前記画像補正に際して用いられたヒストグラムに基づき、前記濃度補正で用いるヒストグラムを作成することを特徴とする請求項1に記載の画像処理方法。
  3. 前記濃度補正に関する輝度の補正は、画像データが示す画像の明るさに関する輝度の値の画素数に関するヒストグラムから前記画像の明るさの度合いを判別し、該判別に基づいて前記輝度を補正するための補正曲線に対応したγ値を定め、該定められたγ値に対応した補正曲線に従い前記輝度を補正することを特徴とする請求項1または2に記載の画像処理方法。
  4. 前記画像処理方法は、前記ヒストグラムにおいて、前記輝度の値の範囲においてその最大値または最小値からの累積度数が所定の値を示す輝度の値を求め、
    前記ヒストグラムにおいて、前記最小値または最大値から所定の輝度の値までの累積度数を求め、
    前記求めた輝度の値および累積度数に基づいて前記明るさの度合いを判別し、該判別に基づいて前記γ値を定めるステップを有することを特徴とする請求項3に記載の画像処理方法。
  5. 前記γ値を定めるステップは、前記累積度数のヒストグラムの全画素数に占める割合に基づいて前記明るさの度合いを判別することを特徴とする請求項4に記載の画像処理方法。
  6. 前記γ値を定めるステップは、前記輝度の値に基づいて当該画像を明るさに関して複数段階に判別し、該判別した複数段階の明るさ毎に前記γ値を異ならせて定めることを特徴とする請求項5に記載の画像処理方法。
  7. 前記γ値を定めるステップは、前記割合に基づき、前記複数段階の明るさ毎に当該画像の明るさの分布を複数段階で判別し、該判別した複数段階の明るさの分布毎に前記γ値を異ならせて定めることを特徴とする請求項6に記載の画像処理方法。
  8. 前記濃度補正に関する輝度の補正は、印刷装置であるインクジェットプリンタの特性に応じた濃度を用いることを特徴とする請求項3ないし7のいずれかに記載の画像処理方法。
  9. 画像データから当該画像の輝度に関して求められるヒストグラムに基づいて画像データの補正を行う画像処理装置であって、
    画像補正の後に濃度補正を連続して行ない、先行して行われる前記画像補正の際に、当該先行する画像補正で行われる輝度の座標変換で変換された変換後の輝度値の度数を累積することにより、その後の濃度補正で用いる輝度に関するヒストグラムを作成することを特徴とする画像処理装置。
  10. コンピュータによって読取り可能なプログラムを格納した記憶媒体であって、
    該プログラムは、画像データから当該画像の輝度に関して求められるヒストグラムに基づいて画像データの補正を行うプログラムであって、
    画像補正の後に濃度補正を連続して行ない、先行して行われる前記画像補正の際に、当該先行する画像補正で行われる輝度の座標変換で変換された変換後の輝度値の度数を累積することにより、その後の濃度補正で用いる輝度に関するヒストグラムを作成するプログラムであることを特徴とする記憶媒体。
JP37553799A 1999-12-28 1999-12-28 画像処理方法および画像処理装置 Expired - Fee Related JP4100848B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP37553799A JP4100848B2 (ja) 1999-12-28 1999-12-28 画像処理方法および画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP37553799A JP4100848B2 (ja) 1999-12-28 1999-12-28 画像処理方法および画像処理装置

Publications (3)

Publication Number Publication Date
JP2001189861A JP2001189861A (ja) 2001-07-10
JP2001189861A5 JP2001189861A5 (ja) 2007-12-20
JP4100848B2 true JP4100848B2 (ja) 2008-06-11

Family

ID=18505681

Family Applications (1)

Application Number Title Priority Date Filing Date
JP37553799A Expired - Fee Related JP4100848B2 (ja) 1999-12-28 1999-12-28 画像処理方法および画像処理装置

Country Status (1)

Country Link
JP (1) JP4100848B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4277773B2 (ja) 2004-09-21 2009-06-10 株式会社日立製作所 映像表示装置
JP5201059B2 (ja) * 2009-03-31 2013-06-05 富士通株式会社 画像補正プログラム、画像補正方法及び画像補正装置

Also Published As

Publication number Publication date
JP2001189861A (ja) 2001-07-10

Similar Documents

Publication Publication Date Title
JP3492202B2 (ja) 画像処理方法、装置および記録媒体
US7885459B2 (en) Image processing method and apparatus therefor
US8929681B2 (en) Image processing apparatus and image processing method
US7038810B1 (en) Image processing method and apparatus, image processing system, and storage medium
JP2001186365A (ja) 画像処理方法、装置および記録媒体
JP4262151B2 (ja) 画像処理方法および画像処理装置およびコンピュータプログラムおよび記憶媒体
JP4208396B2 (ja) 画像処理方法、装置および記録媒体
EP1054350A1 (en) Image data interpolation method and device and medium recording image data interpolation program
JP3667181B2 (ja) 画像処理方法および画像処理装置
JP3689607B2 (ja) 画像処理方法、装置および記憶媒体
JP6271874B2 (ja) 画像処理装置及び画像処理方法
JP4243362B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラムを記録した記録媒体
JP3667182B2 (ja) 画像処理方法および画像処理装置
JP3950551B2 (ja) 画像処理方法、装置および記録媒体
JPH118768A (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体
JP4100848B2 (ja) 画像処理方法および画像処理装置
JP4164215B2 (ja) 画像処理方法、装置および記録媒体
US7817303B2 (en) Image processing and image forming with modification of a particular class of colors
JP4131205B2 (ja) 画像処理装置及び画像処理をコンピュータに実行させる画像処理プログラム
JP4359730B2 (ja) モノトーン変換装置、モノトーン変換方法およびモノトーン変換プログラムを記録した媒体
JP3817371B2 (ja) 画像処理方法、装置および記録媒体
JP2005235238A (ja) 画像処理方法、装置および記憶媒体
JP4402041B2 (ja) 画像処理方法及び装置及び記憶媒体
JPH10340332A (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体
JP4818459B2 (ja) 画像処理方法及び装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080318

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110328

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120328

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130328

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140328

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees