JP3918355B2 - Image processing apparatus and image forming apparatus - Google Patents
Image processing apparatus and image forming apparatus Download PDFInfo
- Publication number
- JP3918355B2 JP3918355B2 JP09570399A JP9570399A JP3918355B2 JP 3918355 B2 JP3918355 B2 JP 3918355B2 JP 09570399 A JP09570399 A JP 09570399A JP 9570399 A JP9570399 A JP 9570399A JP 3918355 B2 JP3918355 B2 JP 3918355B2
- Authority
- JP
- Japan
- Prior art keywords
- brightness
- area
- image
- histogram
- image signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 44
- 238000012937 correction Methods 0.000 claims description 123
- 238000011156 evaluation Methods 0.000 claims description 32
- 238000000034 method Methods 0.000 claims description 30
- 238000010586 diagram Methods 0.000 description 18
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000000926 separation method Methods 0.000 description 5
- 238000002474 experimental method Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Facsimile Image Signal Circuits (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、露光不良の画像を補正して適正な階調の画像信号を得る画像処理装置、および露光不良の画像を補正して適正な階調の画像を形成する画像形成装置に関する。
【0002】
【従来の技術】
CCD(Charge Coupled Device)などの撮像素子を用いたDSC(Digital Still Camera)においては、撮像素子のダイナミック・レンジの狭さゆえに、最適露光の撮像画像を得ることは難しい。その結果、撮影画像が実際の被写体とは異なり、暗め、あるいは明るめに再現されることがある。
【0003】
特開平8−32827号公報には、入力された画像信号の明度の分布を表す明度ヒストグラムを作成し、全画素数に対する明部の画素数および暗部の画素数の割合が、予め設定された割合に保たれるように明部閾値および暗部閾値を設定し、これらの閾値が階調補正後の最小明度および最大明度となるように画像信号を線型変換して階調補正するとともに階調補正に見合った彩度補正を行う階調補正装置が開示されている。
【0004】
また、特開平9−37145号公報には、撮像素子から入力された画像信号の輝度ヒストグラムを作成し、各輝度範囲の度数に応じて各輝度範囲の入出力特性の傾きを2-1、20、21から選択して階調補正する自動露光調節装置が開示されている。
【0005】
【発明が解決しようとする課題】
しかし、上記の特開平8−32827号公報に開示された方法では、全階調を線型変換するため、入出力特性を明部または暗部ごとに別々に変化させて補正することができないという問題がある。また、特開平9−37145号公報に開示された方法では、階調の入出力特性が入力画像の輝度ヒストグラムにより大きく左右され、特異な輝度ヒストグラムを持つ画像に対しては、不適切な階調再現となるという問題がある。
【0006】
現在市場に出回っているDSCには、撮影時に自動的に露光が決定される自動露光装置(AE)が実装されている。DSCのAEとしては様々な方式のものがあるが、いずれの方式も機能的には完全なものではない。また、DSCに実装されるCCDのダイナミック・レンジの広さには限度があり、ダイナミック・レンジを大きく上回る輝度分布を持つ被写体を撮影すると、低輝度側もしくは高輝度側の階調どちらか、または双方を犠牲にすることになりAEの動作不良を起こす可能性が高くなる。
【0007】
図17は、露光が適正でないDSC画像とその画像信号から得られた明度ヒストグラムの例を示す図である。
【0008】
図17(a)は、露光が適正でないDSCによる、全体に暗過ぎる画像、すなわち低輝度・低コントラストの画像、およびその画像の各画素ごとの明度の分布を表す明度ヒストグラムであり、図17(b)は、体的に明る過ぎる画像、すなわち高輝度・低コントラストの画像、およびその明度ヒストグラムであり、また図17(c)は、コントラストが高過ぎる画像、およびその明度ヒストグラムの例である。
【0009】
撮影時にDSCのAEによる露光が不適正化であった場合は、図17に示すように、明度ヒストグラムの画素分布が暗部領域あるいは明部領域に極在化してしまい、このような状態の画像信号のまま画像形成装置から出力しても、適正な階調の画像を得ることはできない。撮影時の条件によりAE機構が適正に作動しないような場合は撮影者がシャッタを切る際に露光の適正度を確認するという方法も考えられるが、一般の撮影者にとってそのような操作は煩雑であり非効率的である。
【0010】
本発明は、上記の事情に鑑み、露光の不適正な画像からでも適正な階調の画像信号を得ることのできる画像処理装置、および露光の不適正な画像からでも適正な階調の画像を形成することができる画像形成装置を提供することを目的とする。
【0011】
【課題を解決するための手段】
上記の目的を達成する本発明の画像処理装置は、
画像信号が入力され、入力された画像信号に基づいてその画像信号により表される画像の各画素ごとの明度を求めて画像の明度の分布を表す明度ヒストグラムを作成するヒストグラム作成手段と、
入力された画像信号に基づいて作成されたオリジナルの明度ヒストグラムに比べ正規分布に近づいた明度ヒストグラムが得られるように階調を補正する階調補正手段とを備えたことを特徴とする。
【0012】
ここで、上記階調補正手段が、作成された明度ヒストグラムを明部領域、中間領域、および暗部領域の3領域に分けたときの明部領域および暗部領域それぞれの各平均的な明度値と、全画素数に対する明部領域および暗部領域の各画素数割合とを求め、明部領域および暗部領域それぞれについて、平均的な明度値と明度スケールの中央値との間の差分と、画素数割合とを変数とした各所定の評価関数を満足するように、明部領域および暗部領域に属する画素の明度を補正するものであることが好ましい。
【0013】
また、上記階調補正手段が、上記ヒストグラム作成手段により作成された明度ヒストグラムについて上記各所定の評価関数を満足するか否かを明部領域および暗部領域それぞれについて判定し、不満足の領域について所定の増分だけ明度を補正して上記ヒストグラム作成手段に明度補正後の明度の分布を表す明度ヒストグラムを作成させる過程を繰り返すことにより、上記各所定の評価関数を満足するように明度を補正するものであることも好ましい態様である。
【0014】
また、上記の目的を達成する本発明の画像形成装置は、
画像信号が入力され、入力された画像信号に基づいてその画像信号により表される画像の各画素ごとの明度を求めて画像の明度の分布を表す明度ヒストグラムを作成するヒストグラム作成手段と、
入力された画像信号に基づいて作成されたオリジナルの明度ヒストグラムに比べ正規分布に近づいた明度ヒストグラムが得られるように階調を補正する階調補正手段と、
上記階調補正手段により補正された階調の画像を表す画像信号に基づいて画像を形成する画像形成手段とを備えたことを特徴とする。
【0015】
【発明の実施の形態】
以下、本発明の実施形態について説明する。
【0016】
図1は、適正露光で撮影されたDSC画像の明度ヒストグラムを示す図である。
【0017】
DSCのAEにより適正露光で撮影されたDSC画像では、図1に示すように、画像の各画素ごとの明度の分布を表す明度ヒストグラムは、中央部の明度が高く、中央部から両側の暗部および明部にかけて明度が次第に低下する正規分布に近い形状を有している。そこで、図17に示したような露光不適正の画像信号からでも適正な階調の画像が得られるようにするためには、DSCで撮影した後、DSCで得られた画像信号を適切な画像形成手段により一括して適正な階調に補正して、図1に示すような正規分布に近い明度ヒストグラムを有する画像信号に補正する必要がある。
【0018】
図2は、本発明の画像処理装置の実施形態を示す概略構成図である。
【0019】
図2に示すように、この画像処理装置10は、DSCの撮像素子などから出力された画像信号11が入力され、入力された画像信号11に基づいてその画像信号11により表される画像の各画素ごとの明度を求めて画像の明度の分布を表す明度ヒストグラムを作成するヒストグラム作成手段12と、ヒストグラム作成手段12により作成されたオリジナルの明度ヒストグラムに比べ正規分布に近づいた明度ヒストグラムが得られるように階調を補正する階調補正手段13とを備えている。この画像処理装置10により補正された階調の画像を表す補正済みの画像信号14は、外部の画像形成装置15に出力され、画像形成装置15によって適正な階調を持つ画像が形成される。
【0020】
なお、本実施形態の画像処理装置10における階調補正手段13は、ヒストグラム作成手段12により作成された明度ヒストグラムを明部領域、中間領域、および暗部領域の3領域に分けたときの明部領域および暗部領域それぞれの各平均的な明度値と、全画素数に対する明部領域および暗部領域の各画素数割合とを求め、明部領域および暗部領域それぞれについて、平均的な明度値と明度スケールの中央値との間の差分と、画素数割合とを変数とした各所定の評価関数を満足するように、明部領域および暗部領域に属する画素の明度を補正するように構成されている。
【0021】
また、本実施形態の画像処理装置10における階調補正手段13は、ヒストグラム作成手段12により作成された明度ヒストグラムについて上記の各所定の評価関数を満足するか否かを明部領域および暗部領域それぞれについて判定し、不満足の領域について所定の増分だけ明度を補正してヒストグラム作成手段12に明度補正後の明度の分布を表す明度ヒストグラムを作成させる過程を繰り返すことにより、上記各所定の評価関数を満足するように明度を補正するように構成されている。
【0022】
次に、上記のヒストグラム作成手段12および階調補正手段13の動作の詳細についてフローチャートを参照しながら説明する。
【0023】
図3は、本実施形態のヒストグラム作成手段、および階調補正手段における処理の流れを示すフローチャートの一部である。
【0024】
図4、図5、図6,および図7は、本実施形態の階調補正手段における処理の流れを示すフローチャートの一部である。
【0025】
DSCの撮像素子などから出力された画像信号11(図2参照)が画像処理装置10に入力されると、ヒストグラム作成手段12は、入力された画像信号11に基づいて、画像信号11により表される画像の各画素ごとの明度を求め、画像の明度の分布を表す明度ヒストグラムを作成する(ステップS1)。
【0026】
ここでいう明度は、入力された画像信号11を、各画素ごとに均等色空間で表されるデータL*a*b*に変換した後、この中から明度L*を取り出したものであり、明度L*の値は0から100までに正規化されている。
【0027】
図8は、本実施形態における入力画像信号に基づいて作成された階調補正前の明度ヒストグラムの一例を示す図である。
【0028】
図8に示すように、一般に、DSCの画像信号に基づいて作成された階調補正前の明度ヒストグラムは、図1に示したような適正露光のDSC画像に基づいて作成された明度ヒストグラムとは異なり、画素が暗部領域および明部領域に偏在しており、正規分布曲線とはほど遠い形状の明度ヒストグラムを示すことが多い。
【0029】
ヒストグラム作成手段12により入力画像から最初に作成した明度ヒストグラムは、オリジナルの明度ヒストグラムとして所定の記憶素子に記憶しておく。
【0030】
次に、この明度ヒストグラムの明度軸(横軸)を3等分するように、次の計算式により、2つの閾値L* th#dk,L* th#hiを設定し、全画素を低明度側からそれぞれ暗部領域、中間領域、および明部領域に3分割する(ステップS2)。
【0031】
【数1】
【0032】
次に、明度ヒストグラムの暗部領域および明部領域に属する画素の平均明度L* dk,L* hiおよび面積比Fdk,Fhiを次の計算式により求める(ステップS3,S4)。面積比Fdk,Fhiは計算式からも明らかなように、0≦Fdk、Fhi≦1の値となる。また、明度スケールの中央値(画像形成装置のダイナミックレンジの中央値)をL* midとする。本実施形態ではL* mid=50としている。
【0033】
【数2】
【0034】
図9は、ステップS3,S4により求められた暗部領域および明部領域の平均明度L* dk,L* hiと面積比Fdk,Fhiを示す図である。
【0035】
次に、上記のL* dkおよびL* hiを次の計算式に代入して、暗部領域および明部領域に属する画素の明度分離度DdkおよびDhiを算出する(ステップS5)。
【0036】
【数3】
【0037】
次に、画像信号に対し、階調補正が必要か否かを判別する。
【0038】
本実施形態では、階調補正手段13(図2参照)が、明度ヒストグラムを明部領域、中間領域、および暗部領域の3領域に分けたときの明部領域および暗部領域それぞれの平均明度L* dk,L* hi(本発明にいう平均的な明度値)と、明部領域および暗部領域の面積比Fdk,Fhi(本発明にいう全画素数に対する明部領域および暗部領域の各画素数割合)とを求め、明部領域および暗部領域それぞれについて、平均明度L* dk,L* hiと明度スケールの中央値L* midとの間の差分と、面積比Fdk,Fhiとを変数とした各所定の評価関数を満足するように、明部領域および暗部領域に属する画素の明度を補正するように構成されている。
【0039】
図10は、階調補正が必要か否かを判別するための明部領域(a)および暗部領域(b)の評価関数および評価関数により判別される判別点を示す図である。
【0040】
図10(a)には、明度分離度を横軸にとり面積比を縦軸にとったグラフ上に上記の評価関数に基づく暗部判別領域(ハッチングを施した部分)と、評価関数により判別される判別点Pdkとが示されている。同様に、図10(b)には、明度分離度を横軸にとり面積比を縦軸にとったグラフ上に上記の評価関数に基づく明部判別領域(ハッチングを施した部分)と、評価関数により判別される判別点Phiとが示されている。
【0041】
暗部領域の判別点Pdkは、座標(Ddk,Fdk)として、また明部領域の判別点Phiは、座標(Dhi,Fhi)として定義される(ステップS6)。
【0042】
評価関数は、明部領域および暗部領域それぞれについて、平均明度L* dk,L* hiと明度スケールの中央値L* midとの間の差分と、画素数割合(面積比Fdk,Fhi)とを変数とする関数であり、この関数を定義するパラメータは、予め、主観評価実験などにより好ましい階調再現性が得られるように、明度分離度DdkおよびDhiと面積比FdkおよびFhiとの関係を実験的に求めることにより作成する。例えば、様々な明度分離度と面積比を持つ画像サンプルを用意し、被験者による主観評価実験を行うことにより、上記の評価関数のパラメータを決定することができる。
【0043】
本実施形態では、評価関数として、暗部領域用の評価関数と明部領域用の評価関数の2種類が用意されており、暗部領域および明部領域について階調補正処理の必要性をより柔軟に判別できるようになっている。
【0044】
本実施形態の階調補正手段13は、上記の評価関数を用いて、ヒストグラム作成手段12により作成された明度ヒストグラムについてこの評価関数を満足するか否かを明部領域および暗部領域それぞれについて判定し、不満足の領域について所定の増分だけ明度を補正してヒストグラム作成手段12に明度補正後の明度の分布を表す明度ヒストグラムを作成させる過程を繰り返すことにより、評価関数を満足するように明度を補正する。
【0045】
階調補正処理は、暗部領域の判別点Pdkおよび明部領域の判別点Phiが、それぞれ図10(a)および図10(b)に示す暗部判別領域および明部判別領域内に含まれているか、あるいは暗部領域の判別点Pdkおよび明部領域の判別点Phiがともに暗部判別領域および明部判別領域内に含まれているかにより次の3ケースに分かれる(ステップS7)。
【0046】
1.暗部領域の判別点Pdkが図10(a)のハッチングを施した領域に含まれている場合、明度域0≦L*≦L* midの階調補正を行う。 ・・・ケース1
2.明部領域の判別点Phiが図10(b)のハッチングを施した領域に含まれている場合、明度域L* mid≦L*≦100の階調補正を行う。 ・・・ケース2
3.ケース1およびケース2を同時に満たす場合、全明度域で階調補正を行う。 ・・・ケース3
上記の3ケースのうちのいずれのケースに該当するかにより、それぞれの補正処理に分岐される。なお、上記の3ケースのいずれにも該当しない場合は階調補正の必要なしと判定し、階調補正手段13による階調補正処理を終了する(ステップS8)。
【0047】
次に、ケース1の補正処理について説明する。
【0048】
図5に示すように、ケース1の補正処理では、明度域0≦L*≦L* midに属する画素の補正前の明度をL* dk#inとして、次の計算式により補正後の明度L* dk#outを求める(ステップS9)。
【0049】
【数4】
【0050】
図11は、階調補正後の暗部領域の明度の変換特性の一例を示すグラフである。
【0051】
図11には、γhi=0.5を用いて階調補正した後の、上方に湾曲した形状の階調補正後の明度L* dk#outの曲線が示されている。
【0052】
ケース1の補正処理におけるγdkの値は、前回の階調補正時に用いたγdkをγdk#oldとし、次回の階調補正時に用いるγdkをγdk#newすると、次の式を満たすように変更する(ステップS10)。
【0053】
【数5】
【0054】
こうして、ケース1の階調補正処理が終了すると図3のステップS1に戻り階調補正後の明度ヒストグラムが作成され(ステップS1)、以下、ステップS2からステップS7までの処理を経た後、ステップS8でさらに階調補正が必要か否かが判定される。階調補正が必要でなければ階調補正処理は終了するが、階調補正が必要な場合はいずれのケースの階調補正が必要かが判定され、その判定の結果によりケース1、ケース2、ケース3のいずれかの階調補正処理が、階調補正が必要でなくなるまで繰り返される。
【0055】
図12は、本実施形態の階調補正手段により暗部の階調補正処理が完了した後の暗部判別点Pdknおよび初期値Pdkoを示す図である。
【0056】
図12に示すように、暗部判別点の初期値Pdkoは、階調補正手段による階調補正処理の結果、Pdknへ移動しており、上述の評価関数を満足するように階調補正されていることがわかる。
【0057】
次に、ケース2の補正処理について説明する。
【0058】
図6に示すように、ケース2の補正処理では、明度域L* mid≦L*≦100に属する画素の補正前の明度をL* hi#inとして、次の計算式により補正後の明度L* hi#outを求める(ステップS11)。
【0059】
【数6】
【0060】
図13は、明部領域の階調補正による明度の変換特性の一例を示すグラフである。
【0061】
図13には、γhi=0.5を用いて階調補正した後の、下方に湾曲した形状の明度L* hi#outの曲線が示されている。
【0062】
ケース2の補正処理におけるγdkの値は、ケース1の補正処理と同様、前回の階調補正時に用いたγhiをγhi#old、次回の階調補正時に用いるγhiをγhi#newとすると、次の式を満たすように変更する(ステップS12)。
【0063】
【数7】
【0064】
こうして、ケース2の階調補正処理が終了すると図3のステップS1に戻り階調補正後の明度ヒストグラムが作成され、以下ステップS2からステップS7までの処理を経た後、ステップS8でさらに階調補正が必要か否かが判定される。階調補正が必要でなければ階調補正処理は終了するが、階調補正が必要な場合はいずれのケースの階調補正が必要かが判定され、その判定の結果によりケース1,2,3のいずれかの階調補正処理が、階調補正が必要でなくなるまで繰り返される。
【0065】
図14は、本実施形態の階調補正手段により明部の階調補正処理が完了した後の明部判別点Phinおよび初期値Phioを示す図である。
【0066】
図14に示すように、明部判別点の初期値Phioは、階調補正手段による階調補正処理の結果、Phinへ移動しており、上述の評価関数を満足するように階調補正されていることがわかる。
【0067】
次に、ケース3の補正処理について説明する。
【0068】
図7に示すように、ケース3の補正処理では、ケース1の補正処理におけるステップS9、ステップS10による暗部領域の階調補正、およびケース2の補正処理におけるステップS11、ステップS12による明部領域の階調補正の双方の補正処理を行う(ステップS13)。
【0069】
すなわち、明度域0≦L*≦L* midに属する画素の補正前の明度をL* dk#in、補正後の明度をL* dk#out、明度域L* mid≦L*≦100に属する画素の補正前の明度をL* hi#in、補正後の明度をL* hi#outとし、次の計算式によりL* dk#out、およびL* hi#outを求める。
【0070】
【数8】
【0071】
図15は、暗部領域および明部領域双方の階調補正による明度の変換特性の一例を示すグラフである。
【0072】
図15には、γdk=0.5を用いて暗部領域を階調補正するとともに、γhi=0.7を用いて明部領域を階調補正した後の、暗部領域では上方に湾曲した形状の明度L* dk#out曲線、および明部領域では下方に湾曲した形状の明度L* hi#out曲線が示されている。
【0073】
こうして、ケース3の階調補正処理が終了すると図3のステップS1に戻り階調補正後の明度ヒストグラムが作成され、以下ステップS2からステップS7までの処理を経た後、ステップS8でさらに階調補正が必要か否かが判定される。階調補正が必要でなければ階調補正処理は終了するが、階調補正が必要な場合はいずれのケースの階調補正が必要かが判定され、その判定の結果によりケース1,2,3のいずれかの階調補正処理が、階調補正が必要でなくなるまで繰り返される。
【0074】
以上の、ステップS1からステップS13に到る一連の階調補正処理により最適な階調再現性を持つ画像信号14(図2参照)が得られ、この画像信号14を用いて外部の画像形成装置15による画像形成を行っった場合は適正な階調を有する画像を形成することができる。
【0075】
次に、本発明の画像形成装置の実施形態について説明する。
【0076】
図16は、本発明の画像形成装置の一実施形態を示す概略構成図である。
【0077】
図16に示すように、この画像形成装置20は、DSCの撮像素子などからの画像信号11が入力され、入力された画像信号11に基づいてその画像信号11により表される画像の各画素ごとの明度を求めて画像の明度の分布を表す明度ヒストグラムを作成するヒストグラム作成手段12と、ヒストグラム作成手段12により作成されたオリジナルの明度ヒストグラムに比べ正規分布に近づいた明度ヒストグラムが得られるように階調を補正する階調補正手段13と、階調補正手段13により補正された階調の画像を表す画像信号に基づいて画像を形成する画像形成手段16とを備えている。
【0078】
この画像形成手段16としては、周知の例えば電子写真方式など、いずれの方式の画像形成装置をも用いることができる。
【0079】
なお、本実施形態の画像形成装置20におけるヒストグラム作成手段12および階調補正手段13は、図3から図15までを参照して説明した画像処理装置10におけるものと同一の構成を有するものであるので、詳細な説明は省略する。
【0080】
【発明の効果】
以上説明したように、本発明の画像処理装置によれば、画像信号に基づいて画像信号により表される画像の各画素ごとの明度を求めてその画像の明度ヒストグラムを作成するヒストグラム作成手段と、入力された画像信号に基づいて作成されたオリジナルの明度ヒストグラムに比べ正規分布に近づいた明度ヒストグラムが得られるように階調を補正する階調補正手段とを備えたことにより、画像入力装置の自動露光装置の不具合により露光不適正のまま出力された画像信号に対しても適正な階調補正処理を施し適正な階調の画像信号を得ることの可能な画像処理装置を実現することができる。
【0081】
また、本発明の画像形成装置によれば、上記画像処理装置におけると同様のヒストグラム作成手段および階調補正手段とを備えたことにより、露光不適正な画像信号に対しても適正な階調補正処理を施して適正な階調の画像を得ることの可能な画像形成装置を実現することができる。
【図面の簡単な説明】
【図1】適正露光で撮影されたDSC画像の明度ヒストグラムを示す図である。
【図2】本発明の画像処理装置の実施形態を示す概略構成図である。
【図3】本実施形態のヒストグラム作成手段、および階調補正手段における処理の流れを示すフローチャートの一部である。
【図4】本実施形態の階調補正手段における処理の流れを示すフローチャートの一部である。
【図5】本実施形態の階調補正手段における処理の流れを示すフローチャートの一部である。
【図6】本実施形態の階調補正手段における処理の流れを示すフローチャートの一部である。
【図7】本実施形態の階調補正手段における処理の流れを示すフローチャートの一部である。
【図8】本実施形態における入力画像信号に基づいて作成された階調補正前の明度ヒストグラムの一例を示す図である。
【図9】ステップS3,S4により求められた平均明度L* dk,L* hiおよび面積比Fdk,Fhiを示す図である。
【図10】階調補正が必要か否かを判別するための明部領域(a)および暗部領域(b)の評価関数および評価関数により判別される判別点を示す図である。
【図11】階調補正後の暗部領域の明度の変換特性の一例を示すグラフである。
【図12】本実施形態の階調補正手段により暗部の階調補正処理が完了した後の暗部判別点Pdknおよび初期値Pdkoを示す図である。
【図13】明部領域の階調補正による明度の変換特性の一例を示すグラフである。
【図14】本実施形態の階調補正手段により明部の階調補正処理が完了した後の明部判別点Phinおよび初期値Phioを示す図である。
【図15】暗部領域および明部領域双方の階調補正による明度の変換特性の一例を示すグラフである。
【図16】本発明の画像形成装置の一実施形態を示す概略構成図である。
【図17】露光が適正でないDSC画像とその画像信号から得られた明度ヒストグラムの例を示す図である。
【符号の説明】
10 画像処理装置
11 画像信号
12 ヒストグラム作成手段
13 階調補正手段
14 画像信号
15 画像形成装置
16 画像形成手段
20 画像形成装置[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus that corrects an image with poor exposure to obtain an image signal with an appropriate gradation, and an image forming apparatus that corrects an image with an incorrect exposure to form an image with an appropriate gradation.
[0002]
[Prior art]
In a DSC (Digital Still Camera) using an image sensor such as a CCD (Charge Coupled Device), it is difficult to obtain a captured image of optimum exposure due to the narrow dynamic range of the image sensor. As a result, the captured image may be reproduced darker or brighter than an actual subject.
[0003]
In JP-A-8-32827, a brightness histogram representing the brightness distribution of an input image signal is created, and the ratio of the number of pixels in the bright part and the number of pixels in the dark part to the total number of pixels is a preset ratio. The bright part threshold value and the dark part threshold value are set so as to be kept at the same level, and the image signal is linearly converted so that these threshold values become the minimum lightness and the maximum lightness after the gradation correction, and the gradation correction is performed. A gradation correction apparatus that performs appropriate saturation correction is disclosed.
[0004]
In Japanese Patent Laid-Open No. 9-37145, a luminance histogram of an image signal input from an image sensor is created, and the slope of the input / output characteristics of each luminance range is 2 −1 , 2 according to the frequency of each luminance range. 0, 2 1 selects and from the automatic exposure adjusting apparatus for gradation correction is disclosed.
[0005]
[Problems to be solved by the invention]
However, in the method disclosed in the above Japanese Patent Laid-Open No. 8-32827, since all gradations are linearly converted, the input / output characteristics cannot be changed separately for each bright part or dark part for correction. is there. Further, in the method disclosed in Japanese Patent Laid-Open No. 9-37145, the input / output characteristics of gradation are greatly influenced by the luminance histogram of the input image, and an inappropriate gradation is not suitable for an image having a specific luminance histogram. There is a problem of being reproduced.
[0006]
The DSC currently on the market is equipped with an automatic exposure apparatus (AE) that automatically determines exposure at the time of shooting. Although there are various types of DSC AE, none of them is functionally perfect. In addition, there is a limit to the range of the dynamic range of the CCD mounted on the DSC, and when photographing a subject having a luminance distribution that greatly exceeds the dynamic range, either the low luminance side or the high luminance side gradation, or Since both are sacrificed, there is a high possibility of causing an AE malfunction.
[0007]
FIG. 17 is a diagram illustrating an example of a brightness histogram obtained from a DSC image with inappropriate exposure and its image signal.
[0008]
FIG. 17A is a lightness histogram representing an image that is too dark as a whole, that is, a low-brightness / low-contrast image, and the lightness distribution for each pixel of the image, by DSC with improper exposure. b) is an image that is physically too bright, that is, an image with high brightness and low contrast and its brightness histogram, and FIG. 17C is an example of an image with too high contrast and its brightness histogram.
[0009]
If the exposure by DSC AE is inappropriate at the time of shooting, the pixel distribution of the brightness histogram is localized in the dark area or the bright area as shown in FIG. Even if the image is output from the image forming apparatus as it is, an image having an appropriate gradation cannot be obtained. If the AE mechanism does not operate properly due to shooting conditions, a method may be considered in which the photographer confirms the appropriateness of exposure when the shutter is released. However, such operations are complicated for general photographers. There is inefficiency.
[0010]
In view of the above circumstances, the present invention provides an image processing apparatus capable of obtaining an image signal having an appropriate gradation even from an image having an inappropriate exposure, and an image having an appropriate gradation even from an image having an inappropriate exposure. An object of the present invention is to provide an image forming apparatus capable of forming an image.
[0011]
[Means for Solving the Problems]
The image processing apparatus of the present invention that achieves the above-described object provides:
Histogram creation means that receives an image signal, creates a lightness histogram representing the lightness distribution of the image by obtaining the lightness of each pixel of the image represented by the image signal based on the input image signal,
The image processing apparatus includes gradation correction means for correcting gradation so that a brightness histogram closer to a normal distribution than an original brightness histogram created based on an input image signal can be obtained.
[0012]
Here, when the gradation correction means divides the created brightness histogram into three areas of a bright area, an intermediate area, and a dark area, each average brightness value of each of the bright area and the dark area, The ratio of the number of pixels of the bright area and the dark area with respect to the total number of pixels is obtained, and for each of the bright area and the dark area, the difference between the average brightness value and the median value of the brightness scale, It is preferable that the brightness of the pixels belonging to the bright area and the dark area is corrected so as to satisfy each predetermined evaluation function using as a variable.
[0013]
In addition, the gradation correction unit determines whether or not each of the predetermined evaluation functions is satisfied with respect to the brightness histogram created by the histogram creation unit, for each of the bright part region and the dark part region. The brightness is corrected so as to satisfy each predetermined evaluation function by repeating the process of correcting the brightness by increments and causing the histogram creating means to create a brightness histogram representing the distribution of brightness after brightness correction. This is also a preferred embodiment.
[0014]
The image forming apparatus of the present invention that achieves the above object is
Histogram creation means that receives an image signal, creates a lightness histogram representing the lightness distribution of the image by obtaining the lightness of each pixel of the image represented by the image signal based on the input image signal,
Gradation correction means for correcting gradation so as to obtain a lightness histogram closer to a normal distribution than an original lightness histogram created based on an input image signal;
And image forming means for forming an image based on an image signal representing an image having a gradation corrected by the gradation correcting means.
[0015]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described.
[0016]
FIG. 1 is a diagram showing a brightness histogram of a DSC image taken with proper exposure.
[0017]
In a DSC image taken with appropriate exposure by DSC AE, as shown in FIG. 1, the brightness histogram representing the brightness distribution for each pixel of the image has a high brightness at the center and dark areas on both sides from the center. It has a shape close to a normal distribution in which the brightness gradually decreases toward the bright part. Therefore, in order to obtain an image with an appropriate gradation even from an image signal with improper exposure as shown in FIG. 17, the image signal obtained by DSC is converted into an appropriate image after shooting with DSC. It is necessary to correct to an appropriate gradation collectively by the forming means, and to correct to an image signal having a brightness histogram close to a normal distribution as shown in FIG.
[0018]
FIG. 2 is a schematic configuration diagram showing an embodiment of the image processing apparatus of the present invention.
[0019]
As shown in FIG. 2, the
[0020]
Note that the
[0021]
In addition, the
[0022]
Next, details of the operations of the histogram creation means 12 and the gradation correction means 13 will be described with reference to flowcharts.
[0023]
FIG. 3 is a part of a flowchart showing the flow of processing in the histogram creation means and the gradation correction means of this embodiment.
[0024]
4, 5, 6, and 7 are a part of a flowchart showing the flow of processing in the gradation correction unit of the present embodiment.
[0025]
When an image signal 11 (see FIG. 2) output from a DSC imaging device or the like is input to the
[0026]
Here, the brightness is obtained by converting the input image signal 11 into data L * a * b * expressed in a uniform color space for each pixel, and then extracting the brightness L * from the data L * a * b * . The value of the lightness L * is normalized from 0 to 100.
[0027]
FIG. 8 is a diagram illustrating an example of a brightness histogram before gradation correction created based on an input image signal in the present embodiment.
[0028]
As shown in FIG. 8, in general, the brightness histogram before gradation correction created based on the DSC image signal is the brightness histogram created based on the DSC image with appropriate exposure as shown in FIG. In contrast, the pixels are unevenly distributed in the dark area and the bright area, and often show a brightness histogram having a shape far from the normal distribution curve.
[0029]
The brightness histogram initially created from the input image by the histogram creation means 12 is stored in a predetermined storage element as the original brightness histogram.
[0030]
Next, two threshold values L * th # dk and L * th # hi are set by the following calculation formula so that the lightness axis (horizontal axis) of this lightness histogram is divided into three equal parts, and all pixels are set to low lightness. Each is divided into a dark area, an intermediate area, and a bright area from the side (step S2).
[0031]
[Expression 1]
[0032]
Next, determine average brightness L * dk of the pixels belonging to the dark region and the bright region brightness histogram, L * hi and area ratio F dk, the F hi the following equation (step S3, S4). The area ratios F dk and F hi are values of 0 ≦ F dk and F hi ≦ 1, as is apparent from the calculation formula. Further, the median of the lightness scale (the median of the dynamic range of the image forming apparatus) is L * mid . In this embodiment, L * mid = 50.
[0033]
[Expression 2]
[0034]
Figure 9 is a diagram showing the average brightness L * dk of the dark region and the bright region obtained by the step S3, S4, L * hi the area ratio F dk, the F hi.
[0035]
Next, the above L * dk and L * hi by substituting the following equation to calculate the lightness separation D dk and D hi of the pixels belonging to the dark region and a bright region (step S5).
[0036]
[Equation 3]
[0037]
Next, it is determined whether or not gradation correction is necessary for the image signal.
[0038]
In the present embodiment, the tone correction unit 13 (see FIG. 2), the bright area brightness histogram, the intermediate region, and when divided into three regions of the dark region bright region and the dark region of each mean lightness L * dk , L * hi (average brightness value as referred to in the present invention) and area ratio F dk , F hi (pixels in the bright area and dark area relative to the total number of pixels according to the present invention) the number ratio) and seeking, for each of the bright area and a dark region, the average lightness L * dk, and the difference between the median L * mid of L * hi and lightness scale, the area ratio F dk, and F hi The brightness of pixels belonging to the bright area and the dark area is corrected so as to satisfy each predetermined evaluation function as a variable.
[0039]
FIG. 10 is a diagram illustrating the discrimination function determined by the evaluation function and the evaluation function of the bright area (a) and the dark area (b) for determining whether or not gradation correction is necessary.
[0040]
In FIG. 10A, the darkness discrimination region (hatched portion) based on the above evaluation function and the evaluation function are discriminated on a graph having the brightness separation degree on the horizontal axis and the area ratio on the vertical axis. A discrimination point P dk is shown. Similarly, in FIG. 10B, on the graph in which the brightness separation is on the horizontal axis and the area ratio is on the vertical axis, the bright part discrimination area (the hatched part) based on the above evaluation function, and the evaluation function The discrimination point P hi discriminated by is shown.
[0041]
The discrimination point P dk in the dark area is defined as coordinates (D dk , F dk ), and the discrimination point P hi in the bright area is defined as coordinates (D hi , F hi ) (step S6).
[0042]
The evaluation function is the difference between the average lightness L * dk , L * hi and the median value L * mid of the lightness scale and the ratio of the number of pixels (area ratio Fdk , Fhi ) for each of the bright region and the dark region. The parameters defining this function are the brightness separation degrees D dk and D hi and the area ratios F dk and F so that preferable gradation reproducibility can be obtained in advance by a subjective evaluation experiment or the like. Created by experimentally determining the relationship with hi . For example, the parameters of the evaluation function can be determined by preparing image samples having various brightness separation degrees and area ratios, and conducting subjective evaluation experiments by subjects.
[0043]
In this embodiment, two types of evaluation functions are prepared as an evaluation function, that is, an evaluation function for a dark area and an evaluation function for a bright area, so that the necessity of tone correction processing for the dark area and the bright area is more flexible. It can be discriminated.
[0044]
The
[0045]
In the gradation correction processing, the dark area discrimination point P dk and the bright area discrimination point P hi are included in the dark area discrimination area and the bright area discrimination area shown in FIGS. 10A and 10B, respectively. and you are either, or by any determination point P hi determination point P dk and the bright area of the dark region are both included in the dark portion determination area and the bright portion determination area divided into the following three cases (step S7).
[0046]
1. When the discrimination point Pdk of the dark area is included in the hatched area of FIG. 10A, gradation correction in the
2. When the discrimination point P hi of the bright area is included in the hatched area of FIG. 10B, gradation correction of the brightness area L * mid ≦ L * ≦ 100 is performed. ...
3. When
The process branches to each correction process depending on which of the above three cases corresponds. If none of the above three cases is applicable, it is determined that gradation correction is not necessary, and the gradation correction process by the
[0047]
Next, the correction process of
[0048]
As shown in FIG. 5, in the correction process of
[0049]
[Expression 4]
[0050]
FIG. 11 is a graph showing an example of lightness conversion characteristics of the dark area after gradation correction.
[0051]
FIG. 11 shows a curve of lightness L * dk # out after gradation correction of an upward curved shape after gradation correction using γ hi = 0.5.
[0052]
The value of γ dk in the correction processing of
[0053]
[Equation 5]
[0054]
In this way, when the gradation correction processing in
[0055]
FIG. 12 is a diagram showing the dark part discrimination point P dkn and the initial value P dko after the dark part gradation correction processing is completed by the gradation correction unit of the present embodiment.
[0056]
As shown in FIG. 12, the initial value P dko of the dark part discrimination point has moved to P dkn as a result of the gradation correction processing by the gradation correction means, and has been subjected to gradation correction so as to satisfy the evaluation function described above. You can see that
[0057]
Next, the correction process of
[0058]
As shown in FIG. 6, in the correction process of
[0059]
[Formula 6]
[0060]
FIG. 13 is a graph showing an example of lightness conversion characteristics by gradation correction of a bright area.
[0061]
FIG. 13 shows a lightness L * hi # out curve having a downward curved shape after tone correction using γ hi = 0.5.
[0062]
The value of gamma dk in the correction process of the
[0063]
[Expression 7]
[0064]
In this way, when the gradation correction processing in
[0065]
Figure 14 is a diagram illustrating a bright portion determination point P hin and the initial value P hio after gradation correction processing of the bright part is completed by the gradation correcting means of the present embodiment.
[0066]
As shown in FIG. 14, the initial value P hio light portion determination point, the result of the gradation correction process by the gradation correcting means has moved to the P hin, tone correction so as to satisfy the evaluation function described above You can see that
[0067]
Next, the correction process of
[0068]
As shown in FIG. 7, in the correction process of
[0069]
That is, the lightness before correction of pixels belonging to the
[0070]
[Equation 8]
[0071]
FIG. 15 is a graph showing an example of lightness conversion characteristics by gradation correction in both the dark area and the bright area.
[0072]
In FIG. 15, the dark area is tone-corrected using γ dk = 0.5, and the bright area is tone-corrected using γ hi = 0.7, and then the dark area is curved upward. The lightness L * dk # out curve of the shape and the lightness L * hi # out curve of the shape curved downward are shown in the bright region.
[0073]
In this way, when the gradation correction processing in
[0074]
The image signal 14 (see FIG. 2) having optimum gradation reproducibility is obtained by the series of gradation correction processes from step S1 to step S13, and an external image forming apparatus is obtained using the
[0075]
Next, an embodiment of the image forming apparatus of the present invention will be described.
[0076]
FIG. 16 is a schematic configuration diagram showing an embodiment of the image forming apparatus of the present invention.
[0077]
As shown in FIG. 16, the
[0078]
As the
[0079]
Note that the histogram creation means 12 and the gradation correction means 13 in the
[0080]
【The invention's effect】
As described above, according to the image processing apparatus of the present invention, the histogram creation means for obtaining the brightness for each pixel of the image represented by the image signal based on the image signal and creating the brightness histogram of the image, By providing gradation correction means for correcting gradation so as to obtain a brightness histogram that is closer to a normal distribution than the original brightness histogram created based on the input image signal, automatic image input device It is possible to realize an image processing apparatus that can perform an appropriate gradation correction process even on an image signal that has been output with inappropriate exposure due to a defect in the exposure apparatus and obtain an image signal with an appropriate gradation.
[0081]
Further, according to the image forming apparatus of the present invention, since the same histogram generating means and gradation correcting means as those in the above image processing apparatus are provided, appropriate gradation correction can be performed even for an image signal with inappropriate exposure. It is possible to realize an image forming apparatus capable of performing processing to obtain an image with an appropriate gradation.
[Brief description of the drawings]
FIG. 1 is a diagram showing a brightness histogram of a DSC image taken with proper exposure.
FIG. 2 is a schematic configuration diagram showing an embodiment of an image processing apparatus of the present invention.
FIG. 3 is a part of a flowchart showing a flow of processing in a histogram creation unit and a gradation correction unit according to the present embodiment.
FIG. 4 is a part of a flowchart showing a flow of processing in the gradation correction unit of the present embodiment.
FIG. 5 is a part of a flowchart showing a flow of processing in the gradation correction unit of the present embodiment.
FIG. 6 is a part of a flowchart showing a flow of processing in the gradation correction unit of the present embodiment.
FIG. 7 is a part of a flowchart showing a flow of processing in the gradation correction unit of the present embodiment.
FIG. 8 is a diagram showing an example of a brightness histogram before gradation correction created based on an input image signal in the present embodiment.
[9] Step S3, the average lightness L * dk determined by S4, L * hi and area ratio F dk, is a diagram showing a F hi.
FIG. 10 is a diagram illustrating evaluation functions and evaluation points for a bright area (a) and a dark area (b) for determining whether or not gradation correction is necessary.
FIG. 11 is a graph showing an example of lightness conversion characteristics of a dark area after gradation correction;
12 is a diagram illustrating a dark area determination point P DKN and the initial value P dko after the dark area of gradation correction process is completed by the gradation correcting means of the present embodiment.
FIG. 13 is a graph showing an example of lightness conversion characteristics by gradation correction of a bright area.
14 is a diagram illustrating a bright portion determination point P hin and the initial value P hio after gradation correction processing of the bright part is completed by the gradation correcting means of the present embodiment.
FIG. 15 is a graph showing an example of lightness conversion characteristics by gradation correction in both a dark area and a bright area.
FIG. 16 is a schematic configuration diagram showing an embodiment of an image forming apparatus of the present invention.
FIG. 17 is a diagram showing an example of a brightness histogram obtained from a DSC image whose exposure is not appropriate and its image signal;
[Explanation of symbols]
DESCRIPTION OF
Claims (3)
入力された画像信号に基づいて作成された明度ヒストグラムを明部領域、中間領域、および暗部領域の3領域に分けたときの明部領域および暗部領域それぞれの各平均的な明度値と、全画素数に対する明部領域および暗部領域の各画素数割合とを求め、明部領域および暗部領域それぞれについて、平均的な明度値と明度スケールの中央値との間の差分と、画素数割合とを変数とした各所定の評価関数を満足するように、明部領域および暗部領域に属する画素の明度を補正する階調補正手段とを備えたことを特徴とする画像処理装置。A histogram generating means for inputting an image signal, obtaining a brightness for each pixel of the image represented by the image signal based on the input image signal, and creating a brightness histogram representing the distribution of the brightness of the image;
The average brightness value of each of the bright area and the dark area when the brightness histogram created based on the input image signal is divided into the bright area, the intermediate area, and the dark area, and all pixels The ratio of the number of pixels in the bright area and the dark area with respect to the number is obtained, and the difference between the average brightness value and the median value of the brightness scale and the ratio of the number of pixels for each of the bright area and the dark area are variables. An image processing apparatus comprising gradation correction means for correcting the brightness of pixels belonging to the bright area and the dark area so as to satisfy the predetermined evaluation functions .
入力された画像信号に基づいて作成された明度ヒストグラムを明部領域、中間領域、および暗部領域の3領域に分けたときの明部領域および暗部領域それぞれの各平均的な明度値と、全画素数に対する明部領域および暗部領域の各画素数割合とを求め、明部領域および暗部領域それぞれについて、平均的な明度値と明度スケールの中央値との間の差分と、画素数割合とを変数とした各所定の評価関数を満足するように、明部領域および暗部領域に属する画素の明度を補正する階調補正手段と、 The average brightness value of each of the bright area and the dark area when the brightness histogram created based on the input image signal is divided into the bright area, the intermediate area, and the dark area, and all pixels The ratio of the number of pixels in the bright area and the dark area with respect to the number is obtained, and the difference between the average brightness value and the median value of the brightness scale and the ratio of the number of pixels for each of the bright area and the dark area are variables. Gradation correction means for correcting the brightness of pixels belonging to the bright area and the dark area so as to satisfy each predetermined evaluation function
前記階調補正手段により補正された階調の画像を表す画像信号に基づいて画像を形成する画像形成手段とを備えたことを特徴とする画像形成装置。 An image forming apparatus comprising: an image forming unit configured to form an image based on an image signal representing an image having a gradation corrected by the gradation correcting unit.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP09570399A JP3918355B2 (en) | 1999-04-02 | 1999-04-02 | Image processing apparatus and image forming apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP09570399A JP3918355B2 (en) | 1999-04-02 | 1999-04-02 | Image processing apparatus and image forming apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000295477A JP2000295477A (en) | 2000-10-20 |
JP3918355B2 true JP3918355B2 (en) | 2007-05-23 |
Family
ID=14144875
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP09570399A Expired - Fee Related JP3918355B2 (en) | 1999-04-02 | 1999-04-02 | Image processing apparatus and image forming apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3918355B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003051944A (en) * | 2001-08-07 | 2003-02-21 | Canon Inc | Image processing method, image processing system, program and storage medium |
JP4550350B2 (en) * | 2002-02-01 | 2010-09-22 | 株式会社ニコン | Electronic camera |
JP4068634B2 (en) | 2005-09-26 | 2008-03-26 | 株式会社東芝 | Video signal processing apparatus and video signal processing method |
-
1999
- 1999-04-02 JP JP09570399A patent/JP3918355B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000295477A (en) | 2000-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7421120B2 (en) | Apparatus correcting image by luminance histogram | |
JP4167097B2 (en) | Image processing method and image processing apparatus | |
US7103228B2 (en) | Local change of an image sharpness of photographic images with masks | |
JP5105209B2 (en) | Image processing apparatus and method, program, and recording medium | |
JP4163353B2 (en) | Image processing device | |
US8385680B2 (en) | Image processing apparatus and image processing method | |
JP4240023B2 (en) | Imaging apparatus, imaging method and imaging program, and image processing apparatus, image processing method and image processing program | |
US7650045B2 (en) | Image processing apparatus and method | |
US7409083B2 (en) | Image processing method and apparatus | |
US20040207734A1 (en) | Image processing apparatus for generating a wide dynamic range image | |
EP0762736A2 (en) | Automatic color processing to correct hue shift and incorrect exposure | |
US20030020974A1 (en) | Image processing apparatus, image processing method and information recording medium | |
EP0933924A2 (en) | Image processing apparatus | |
US6603878B1 (en) | Image processing method | |
JP2007124604A (en) | Image processing apparatus and processing method therefor | |
JP3733165B2 (en) | Image data conversion method for digital printer | |
JP2019047169A (en) | Apparatus, method, and program for generating high dynamic range image | |
EP1998552B1 (en) | Imaging apparatus and image processing program | |
JP4154128B2 (en) | Image processing apparatus, image processing method, and recording medium on which program for executing the method is recorded | |
JP2007329619A (en) | Video signal processor, video signal processing method and video signal processing program | |
JP4151225B2 (en) | Apparatus, method and program for image processing | |
JP2003069822A (en) | Image processor, image processing method and recording medium | |
JP2002163653A (en) | Device and method for detecting image, digital camera and printer | |
WO2005025207A1 (en) | Image processing utilizing locally adaptive color correction and cumulative histograms | |
JP3918355B2 (en) | Image processing apparatus and image forming apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060502 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060703 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070123 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070205 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110223 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120223 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130223 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130223 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140223 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |