JP3702956B2 - 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 - Google Patents
画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 Download PDFInfo
- Publication number
- JP3702956B2 JP3702956B2 JP2002186045A JP2002186045A JP3702956B2 JP 3702956 B2 JP3702956 B2 JP 3702956B2 JP 2002186045 A JP2002186045 A JP 2002186045A JP 2002186045 A JP2002186045 A JP 2002186045A JP 3702956 B2 JP3702956 B2 JP 3702956B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- color
- image processing
- pixels
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 174
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000009499 grossing Methods 0.000 claims description 103
- 238000000034 method Methods 0.000 claims description 57
- 239000003086 colorant Substances 0.000 claims description 36
- 238000001514 detection method Methods 0.000 claims description 13
- 230000001502 supplementing effect Effects 0.000 claims description 5
- 230000009469 supplementation Effects 0.000 claims 1
- 238000004364 calculation method Methods 0.000 description 30
- 238000010586 diagram Methods 0.000 description 20
- 239000011159 matrix material Substances 0.000 description 16
- 230000002093 peripheral effect Effects 0.000 description 13
- 230000014509 gene expression Effects 0.000 description 8
- 238000004088 simulation Methods 0.000 description 8
- 230000000740 bleeding effect Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 230000001174 ascending effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
Images
Description
【発明の属する技術分野】
単板式の固体撮像素子を利用して撮像された画像データ等に対して画像処理する画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体に関する。
【0002】
【従来の技術】
固体撮像素子を利用したデジタルスチルカメラ等においては、単板方式が採用されることが多い。この単板方式では、図23(a)に示すように、固体撮像素子の各画素に対応してR,G,B(赤、緑、青)の各色の色フィルタが所定の割合でモザイク状に配設されており、特にGの色フィルタは千鳥状に配設されて成分比が高くなっている。従って、固体撮像素子の各画素においては、R,G,Bのいずれか一色の色信号しか得られず、各色の色信号を得ることができない。そこで、各画素において直接的に得ることができない色信号を隣接する画素の色信号から補間演算してR,G,B全色の色信号を得て階調データに変換して出力し、この階調データに基づいてディスプレイに表示するなどしている。
【0003】
例えば、図23(a)において、矢印(→)で示す中段の色フィルタに着目する。そして、同図(b)に示すように中央から左半分に光が当たっており(白色部分)、同中央から右半分には光が当たっていない(黒色部分)ものとする。ここにおいて、光があたっている状態の各色の色信号レベルを「1」とし、光が当たっていない状態の同色信号レベルを「0」とすると、RおよびGの色信号レベルは、本来、同図(c)に示す値になるはずである。
【0004】
しかし、上述したように、Rの色フィルタからはGの色信号は直接的には得られないし、Gの色フィルタからはRの色信号は直接的に得られないため、Rの色フィルタに対応する画素のGの色信号については、隣接する画素におけるGの色信号を線形補間して得る。他方、Gの色フィルタに対応する画素のRの色信号については、隣接する画素におけるRの色信号を線形補間して得る。すると、各画素におけるGおよびRの色信号レベルは、それぞれ図23(d)および(e)に示す値となる。図からも明らかなように、光が当たる領域と光が当たらない領域との境界付近の画素に偽の色信号が発生し、この偽の色信号により画像上に色にじみ(偽色と呼ぶこともある)が発生する。特に、この色にじみはグレイ・ホワイト間の境界に顕著に現れることが知られている。そこで、このような色にじみを低減するため、画像データを構成する全画素の色差データに対して平滑化フィルタ(ローパスフィルタ)を作用させて色にじみを目立たなくするなどしていた。
【0005】
【発明が解決しようとする課題】
上述した従来の技術においては、次のような課題があった。
平滑化フィルタを作用させるということは、一つの画素の色成分を周辺画素に分散することに相当し、同画素を中心とした5×5画素等のマトリクス演算を行うことになる。例えば5×5画素のマトリクス演算を行う場合、一の画素につき5×5=25回の演算を行うことになる。従って、全画素を対象とした場合、25×画素数という膨大な演算量となってしまって処理時間が多大となることがあった。
【0006】
本発明は、上記課題にかんがみてなされたもので、画像データにおける色にじみを低減するにあたり、処理時間を短縮することが可能な画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体の提供を目的とする。
【0007】
【課題を解決するための手段】
上記目的を達成するため、請求項1にかかる発明は、各画素毎に複数の要素色のうちのいずれかの要素色に対応する階調値データだけが分配された元画像データを起源として、各画素毎に欠乏する要素色の階調値データを周辺画素の階調値データに基づいて補充して生成された画像データに対し、所定の画像処理を行う画像処理装置であって、各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出する色にじみ画素検出手段と、この検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行する画像処理手段とを備えた構成としてある。
上記のように構成した請求項1にかかる発明においては、色にじみ画素検出手段が、各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出し、画像処理手段がこの検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行する。
【0008】
例えば、画像処理の対象となる画像データが、単板の固体撮像素子にて撮像されたドットマトリクス状の画素からなる場合、単板の固体撮像素子は複数要素色の色フィルタが非均一密度でモザイク状に配置されているため、均一密度となるように演算にて補充されるが、上述したようにこの演算の際に偽の色成分が生成されて色にじみが発生する。色にじみ画素検出手段は、このような色にじみが発生している色にじみ画素を検出し、画像処理手段は、同検出された色にじみ画素を基準とした所定範囲の画素を対象として色にじみを低減するように画像処理する。
【0009】
ある画素について色にじみの有無を検出する際、当該画素についての要素色成分から画一的に色にじみの有無を検出することはできないため、周辺画素と比較して色にじみの有無を検出することになる。また、色にじみの発生は上記のような偽の要素色成分に起因するが、かかる偽の要素色成分は、固体撮像素子において各要素色の色フィルタが非均一密度で配置されていることから低密度の色フィルタに対する要素色成分について発生しやすいと言うことができる。
【0010】
そこで、検出対象の画素と当該画素に近接する画素との間で低密度の色フィルタに対する要素色強度に着目し、この要素色強度の変化度合いに基づいて色にじみ画素を検出することができる。
【0011】
ここにおいて、色にじみ画素を検出する具体的な手法の一例として、請求項2にかかる発明は、上記請求項1に記載の画像処理装置において、上記色にじみ画素検出手段は、各画素ごとに異なる要素色間の階調値の差分データを求めるにあたり上記元画像データにおける低密度の要素色と他の要素色との間の差分データを求める構成としてある。
【0012】
上記のように構成した請求項2にかかる発明においては、上記色にじみ画素検出手段は、上記元画像データにおける低密度の要素色と他の要素色との間の差分データを求め、当該差分データの変化度合いに基づいて色にじみ画素を検出する。
【0013】
例えば、図23(a)の中段ラインのように、RおよびGの色フィルタが交互に配置されていることが予め分かっている場合、低密度の色フィルタはRであるから、基準の要素色成分としてGを採用し、両者の差分ΔRG=|RーG|の変化度合いを隣接する画素間で調べる。すると、このΔRGの値は図23(f)に示すようになり、隣接する画素間でΔRGの変化度合いに着目すると、光が当たる領域と光が当たらない領域との境界付近の画素において「0.5」となり、このような画素を色にじみ画素として検出する。
【0014】
要素色強度の差分の変化度合いに基づいて色にじみ画素を検出する手法としては、上述したものにとらわれる必要はなく、その一例として、請求項3にかかる発明は、請求項2に記載の画像処理装置において、上記色にじみ画素検出手段は、低密度の要素色が複数ある場合、互いに隣接するにおいて低密度の要素色に対する階調値データの差分の変化度合いに基づいて上記色にじみ画素を検出する構成としてある。
【0015】
上記のように構成した請求項3にかかる発明においては、低密度の色フィルタが複数存在するような場合に、上記色にじみ画素検出手段は、互いに隣接する画素間においてそれぞれの低密度の要素色に対する階調値データの差分を求め、同差分の変化度合いに基づいて上記色にじみ画素を検出する。
【0016】
すなわち、上述したように偽の要素色成分は低密度の色フィルタに対する要素色について顕著に現れるため、かかる低密度の色フィルタに対する要素色強度の差分に着目する。例えば、図23(a)に示すように、全体に対してGの色フィルタの密度が高く、RおよびBの色フィルタの密度が低い場合、偽の要素色成分はR、Bで顕著に現れることになる。ここにおいて、同様に中段ラインに着目するものとし、この中段ラインの各画素におけるBの色信号レベルを上段ライン側に隣接するBの色フィルタから線形補間するものとする。すると、中段ラインの各画素におけるBの色信号レベルは同図(d)に示すものと同様になり、RとBの色信号レベルの差分ΔRB=|R−B|=ΔRGとなる。従って、隣接する画素間におけるΔRBの値も同図(f)に示すようになるため、光が当たる領域と光が当たらない領域の境界付近の画素において同ΔRBの変化度合いは「0.5」となり、このような画素を色にじみ画素として検出する。
【0017】
基準の要素色強度と低密度の要素色強度との差分の変化度合いに着目するか、あるいは低密度の要素色強度間の差分の変化度合いに着目するかにかかわらず、いずれの隣接画素間でかかる変化度合いを調べるかについては様々な態様が考えられる。例えば、水平方向、垂直方向および斜め方向の八方向に隣接する画素間で同変化度合いを調べるようにしてもよいし、適宜、比較方向を削減すれば演算量を低減することができる。上述した理由から低密度の色フィルタに対する画素においては、偽の要素色成分が発生している可能性が高いと言えるため、上記変化度合いを調べる場合、低密度の色フィルタに対する画素間で調べる方が好適である。そこで、請求項4にかかる発明は、上記請求項1〜請求項3のいずれかに記載の画像処理装置において、上記色にじみ画素検出手段は、隣接する画素のうち上記元画像データにおける低密度の要素色に対応して配置する画素との間における上記変化度合いに基づいて上記色にじみ画素を検出する構成としてある。
【0018】
上記のように構成した請求項4にかかる発明においては、上記色にじみ画素検出手段は、隣接する画素のうち上記元画像データにおける低密度の要素色に対応して配置する画素との間で同変化度合いを調べて色にじみ画素を検出する。
【0019】
一方、色にじみを低減する画像処理としては、検出された色にじみ画素を基準として所定サイズの平滑化フィルタを作用させるなどすれば実現可能であり、このような平滑化処理を行う際の好適な一例として、請求項5にかかる発明は、請求項1〜請求項4のいずれかに記載の画像処理装置において、上記画像処理手段は、上記色にじみ画素を基準とした所定範囲の画素を対象として要素色成分から輝度成分を減算した色差成分を平滑化処理し、元の要素色成分に戻す構成としてある。
【0020】
上記のように構成した請求項5にかかる発明においては、上記画像処理手段は、検出された色にじみ画素を基準とした所定範囲の画素を対象として平滑化処理を行うが、色にじみには色差成分の平滑処理が有効であるため、各画素について要素色成分から輝度成分を減算した色差成分を平滑化処理し、その後、元の要素色成分に戻す。
【0021】
また、平滑化処理によって画像のシャープさが失われることもあるので、請求項6にかかる発明は、請求項5に記載の画像処理装置において、上記画像処理手段は、上記色にじみ画素を基準とした所定範囲の各画素の輝度成分を参照して色にじみ画素の輝度成分を変化させることによってエッジ強調処理する構成としてある。
【0022】
上記のように構成した請求項6にかかる発明においては、上記画像処理手段は、画像データに対して、上記色にじみ画素を基準とした所定範囲の各画素の輝度成分を参照して色にじみ画素の輝度成分を変化させることによってエッジ強調処理を行い、平滑化処理で失われたシャープさを補う。
【0023】
このように、エッジ強調処理を行うとしても、上記平滑化処理を行わない領域までエッジ強調すると、同平滑化処理される領域の外側が不自然にエッジ強調されてしまうことも観念されるため、請求項7にかかる発明は、請求項6に記載の画像処理装置において、上記画像処理手段は、上記平滑化処理を行う範囲内の画素に対してエッジ強調処理する構成としてある。
【0024】
上記のように構成した請求項7にかかる発明においては、上記画像処理手段は、シャープさが失われがちな上記平滑化処理を行う範囲内の画素に対してエッジ強調処理を行う。
【0025】
ところで、平滑化処理を行うにあたり、すべての画像データにおいて、一律に同一範囲の平滑化処理を行うことは得策ではない。例えば、画像サイズの大きな画像データと画像サイズの小さな画像データの両者に対して同一範囲の平滑化処理を施したものとする。この場合、前者における平滑化処理の範囲が画像に対して占める割合と、後者における割合とは異なるため、前者において良好な結果が得られたとしても後者においては全体がぼやけすぎてしまうこともあり得る。そこで、請求項8にかかる発明は、請求項5〜請求項7のいずれかに記載の画像処理装置において、上記画像処理手段は、画像処理の対象となる上記画像データの画像サイズが大きい場合には、上記検出された色にじみ画素を基準とした所定範囲の画素を対象として平滑化処理を行う際に同平滑化処理をする範囲を大きくし、上記画像データの画像サイズが小さい場合には、上記色にじみ画素を基準とした所定範囲の画素を対象として平滑化処理を行う際に同平滑化処理をする範囲を小さくする構成としてある。
【0026】
上記のように構成した請求項8にかかる発明においては、上記画像処理手段は、予め画像処理の対象となる画像データのサイズを検知し、当該画像データのサイズが大きければ平滑化処理する範囲を大きくするし、同画像データのサイズが小さければ平滑化処理する範囲を小さくする。具体的にはサイズの異なる複数の平滑化フィルタを保持しておき、画像サイズに応じて平滑化フィルタを使い分けるようにするなどすれば実現可能である。
【0027】
また、色にじみを低減する別の手法の一例として請求項9にかかる発明は、請求項1〜請求項4のいずれかに記載の画像処理装置において、上記画像処理手段は、上記色にじみ画素を基準とした所定範囲の画素を対象として要素色成分から輝度成分を減算した色差成分にて中央の値を有する色差成分を当該色にじみ画素の色差成分に置換して元の要素色成分に戻す構成としてある。
【0028】
上記のように構成した請求項9にかかる発明においては、上記画像処理手段は、検出された色にじみ画素を基準とした所定範囲の画素を対象として要素色成分から輝度成分を減算して得た色差成分を検出し、その中で中央の値を有する色差成分を色にじみ画素の色差成分に置き換え、その後に元の要素色成分に戻す。すなわち、色にじみ画素の色差成分を周辺画素の色差成分に置き換えることにより、色にじみを低減する。なお、所定範囲の画素を対象とした色差成分にて中央の値を選択する具体的な構成としては、所定のメジアンフィルタなどを適用すればよい。
【0029】
色にじみ画素を基準とした所定範囲の画素を対象として上記の平滑化処理を行い、その後に上記のエッジ強調処理を行えば、平滑化処理によって失われたシャープさを補うことができる。しかし、経験的な見地からすると、色にじみ画素が画像の境界部分たるエッジ部分に発生している場合には、当該エッジ部分の画像がぼやけてしまうことがあった。かかる点にかんがみ、上記画像処理手段は、上記色にじみ画素がエッジ画素であるか否かを判断してエッジ画素である場合に同色にじみ画素を基準とした所定範囲の画素を対象として要素色成分から輝度成分を減算した色差成分にて中央の値を有する色差成分を当該色にじみ画素の色差成分に置換し、エッジ画素ではない場合に同色にじみ画素を基準とした所定範囲の画素を対象として要素色成分から輝度成分を減算した色差成分を平滑化処理し、その後に元の要素色成分に戻す構成としてもよい。
【0030】
上記のように構成した場合、色にじみ画素が検出されると、画像処理手段は当該色にじみ画素がエッジ画素であるか否かを判断する。ここにおいて、エッジ画素であると判断した場合には上述したようにして色にじみ画素を基準とした所定範囲の画素を対象とした色差成分を検出し、その中で中央の値を有する色差成分を色にじみ画素の色差成分に置き換え、その後に元の要素色成分に戻す。他方、エッジ画素ではないと判断した場合には上述したようにして色にじみ画素を基準とした所定範囲の画素の色差成分を平滑化処理し、その後に元の要素色成分に戻す。
【0031】
例えば、白・黒の境界部分に色にじみ画素が発生していた場合、当該色にじみ画素の色差成分が周辺画素の色差成分に置き換わって純粋に白または黒の画素となるため、色にじみは解消されつつも境界部分がぼやけてしまうことはない。また、エッジ画素であるか否かを判断するにあたっては、エッジ画素において隣接画素間で色差成分の変化度合いが大きくなることから、かかる色差成分の変化度合いと所定のしきい値とを比較し、同色差成分の変化度合いの方が大きい場合にエッジ画素と判断するなどすればよい。むろん、エッジ画素を輝度勾配の大きい画素として捉え、隣接画素間で輝度成分の変化度合いに基づいてエッジ画素を判断するようにしてもよい。
【0032】
色にじみ画素を検出して当該色にじみ画素を基準とした所定範囲の画素について色にじみを低減する手法は、必ずしも実体のある装置に限られる必要もなく、その一例として、請求項10にかかる発明は、各画素毎に複数の要素色のうちのいずれかの要素色に対応する階調値データだけが分配された元画像データを起源として、各画素毎に欠乏する要素色の階調値データを周辺画素の階調値データに基づいて補充して生成された画像データに対し、所定の画像処理を行う画像処理方法であって、各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出し、この検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行する構成としてある。
【0033】
すなわち、必ずしも実体のある装置に限らず、その方法としても有効であることに相違はない。
【0034】
ところで、上述したように色にじみ画素を検出して当該色にじみ画素を基準とした所定範囲の画素について色にじみを低減する画像処理装置は単独で存在する場合もあるし、ある機器に組み込まれた状態で利用されることもあるなど、発明の思想としては各種の態様を含むものである。また、ハードウェアで実現されたり、ソフトウェアで実現されるなど、適宜、変更可能である。
【0035】
発明の思想の具現化例として画像処理装置を制御するソフトウェアとなる場合には、かかるソフトウェアを記録した記録媒体上においても当然に存在し、利用されるといわざるをえない。その一例として、請求項11にかかる発明は、各画素毎に複数の要素色のうちのいずれかの要素色に対応する階調値データだけが分配された元画像データを起源として、各画素毎に欠乏する要素色の階調値データを周辺画素の階調値データに基づいて補充して生成された画像データに対し、コンピュータに所定の画像処理を実行させる画像処理制御プログラムを記録した媒体であって、各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出する色にじみ画素検出機能と、この検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行する画像処理機能とをコンピュータに実施させる構成としてある。
【0036】
むろん、その記録媒体は、磁気記録媒体であってもよいし光磁気記録媒体であってもよいし、今後開発されるいかなる記録媒体においても全く同様に考えることができる。また、一次複製品、二次複製品などの複製段階については全く問う余地無く同等である。
【0037】
さらに、一部がソフトウェアであって、一部がハードウェアで実現されている場合においても発明の思想において全く異なるものはなく、一部を記録媒体上に記憶しておいて必要に応じて適宜読み込まれるような形態のものとしてあってもよい。
【0038】
【発明の効果】
以上説明したように本発明は、比較的簡易な演算手法によって色にじみ画素を検出し、当該色にじみ画素を基準とした所定範囲の画素を対象として色にじみを低減するようにしたため、演算量を削減して処理時間を短縮することが可能な画像処理装置を提供することができる。
【0039】
また、請求項2にかかる発明によれば、低密度の要素色に着目すればよいため、容易に色にじみ画素を検出することができる。
【0040】
すなわち、低密度の要素色と他の要素色との差分の変化度合いを調べればよいため、色にじみ画素の検出演算を容易に行うことができる。
【0041】
さらに、請求項3にかかる発明によれば、低密度の要素色が複数ある場合、一律に低密度の要素色間での差分の変化度合いに着目すればよいため、色にじみ画素の検出演算を容易に行うことができる。
【0042】
さらに、請求項4にかかる発明によれば、低密度の要素色の画素との間で上記差分の変化度合いを調べるようにしたため、より信頼性の高い検出を行うことができる。
【0043】
さらに、請求項5にかかる発明によれば、平滑化処理により色にじみを低減するにあたり、色差成分を平滑化処理して元の要素色成分に戻せばよいため、演算を容易に行うことができる。
【0044】
さらに、請求項6にかかる発明によれば、エッジ強調処理を行うようにしたため、平滑化処理による画像のシャープさの低下を補うことができる。
【0045】
さらに、請求項7にかかる発明によれば、平滑化処理を行う範囲内の画素に対してエッジ強調処理を行うようにしたため、平滑化処理の範囲外の画素について不自然にシャープさが高まることはない。
【0046】
さらに、請求項8にかかる発明によれば、処理対象となる画像のサイズに応じて平滑化処理する範囲を変化させるようにしたため、最適な範囲の平滑化処理を行うことができる。
【0047】
さらに、請求項9にかかる発明によれば、所定範囲の画素の色差成分にて中央の値を色にじみ画素に援用するようにしたため、色にじみを低減することができる。
【0048】
さらに、色にじみ画素がエッジ画素である場合に所定範囲の画素の色差成分にて中央の値を色にじみ画素に援用し、エッジ画素ではない場合に平滑化処理を施すようにする場合には、画像のエッジ部分がぼやけてしまうことがない。
【0049】
さらに、請求項10にかかる発明によれば、同様にして演算量を削減して処理時間を短縮することが可能な画像処理方法を提供することができ、請求項11にかかる発明によれば、画像処理制御プログラムを記録した媒体を提供することができる。
【0050】
【発明の実施の形態】
以下、図面にもとづいて本発明の実施形態を説明する。
図1は、本発明の一実施形態にかかる画像処理装置を適用した画像処理システムをブロック図により示しており、図2は具体的ハードウェア構成例を概略ブロック図により示している。
図1において、画像入力装置10は単板式のCCDを利用して撮像した実画像などをドットマトリクス状の画素で表した画像データとして画像処理装置20へ出力する。上述した原理から単板式のCCDにて撮像された画像データには色にじみが発生し、画像処理装置20は入力画像データにおいて色にじみ画素を検出して当該色にじみ画素を基準とした所定範囲で色にじみを低減するように画像処理して画像出力装置30へ出力し、画像出力装置30は画像処理された画像データをドットマトリクス状の画素で出力する。
【0051】
画像処理装置20は、色にじみ画素を検出することから色にじみ画素検出手段を備えているし、当該検出された色にじみを基準として色にじみを低減するように画像処理を行うことから画像処理手段をも備えていると言える。
【0052】
画像入力装置10の具体例は図2における単板式のCCDを備えたフィルムスキャナ11やデジタルスチルカメラ12あるいはビデオカメラ14などが該当する。例えば、図3は同デジタルスチルカメラ12の簡単なハードウェア構成例を概略ブロック図により示している。同図において、入射光は光学系12aを介してCCD12bに受光される。このCCD12bはR,G,B各色の色フィルタが各画素に対応して所定の割合で配置されており、駆動回路12cにて各画素における色信号が出力される。出力された色信号はデジタル変換されて補間演算回路12dに入力され、当該補間演算回路12dにて各画素において直接得ることができない要素色成分についての色信号を周辺の画素からの線形補間演算により取得し、RGBの階調データとして画像メモリ12eに保存する。
【0053】
一方、画像処理装置20の具体例はコンピュータ21とハードディスク22とキーボード23とCD−ROMドライブ24とフロッピーディスクドライブ25とモデム26などからなるコンピュータシステムが該当し、画像出力装置30の具体例はプリンタ31やディスプレイ32等が該当する。なお、モデム26については公衆通信回線に接続され、外部のネットワークに同公衆通信回線を介して接続し、ソフトウェアやデータをダウンロードして導入可能となっている。
【0054】
本実施形態においては、画像入力装置10としてのフィルムスキャナ11やデジタルスチルカメラ12が画像データとしてRGBの階調データを出力するとともに、画像出力装置30としてのプリンタ31は階調データとしてCMY(シアン、マゼンダ、イエロー)あるいはこれに黒を加えたCMYKの二値データを入力として必要とするし、ディスプレイ32はRGBの階調データを入力として必要とする。
【0055】
一方、コンピュータ21内ではオペレーティングシステム21aが稼働しており、プリンタ31やディスプレイ32に対応したプリンタドライバ21bやディスプレイドライバ21cが組み込まれている。また、画像処理アプリケーション21dはオペレーティングシステム21aにて処理の実行を制御され、必要に応じてプリンタドライバ21bやディスプレイドライバ21cと連携して所定の画像処理を実行する。従って、画像処理装置20としてのこのコンピュータ21の具体的役割は、RGBの階調データを入力し、色にじみ画素を検出して色にじみを低減するように画像処理を施したRGBの階調データを作成し、ディスプレイドライバ21cを介してディスプレイ32に表示させるとともに、プリンタドライバ21bを介してCMY(あるいはCMYK)の二値データに変換してプリンタ31に印刷させることになる。
【0056】
このように、本実施形態においては、画像の入出力装置の間にコンピュータシステムを組み込んで画像処理を行うようにしているが、必ずしもかかるコンピュータシステムを必要とするわけではなく、単板式のCCDにて撮像されるとともに上述したように補間演算されて色にじみが発生した画像データに対して色にじみを低減するように画像処理を行うシステムに適用可能である。例えば、図4に示すように単板式のCCDを備えたデジタルスチルカメラ13a内に同様に画像処理する画像処理装置を組み込み、色にじみを低減した画像データを用いてディスプレイ32aに表示させたりプリンタ31aに印字させるようなシステムであっても良い。また、図5に示すように、コンピュータシステムを介することなく画像データを入力して印刷するプリンタ31bにおいては、単板式のCCDを有するフィルムスキャナ11bやデジタルスチルカメラ13b等を介して入力される画像データに対して色にじみを低減して画像処理するように構成することも可能である。
【0057】
上述した色にじみ画素の検出と色にじみを低減する画像処理は、具体的には上記コンピュータ21内にて図6などに示すフローチャートに対応した画像処理プログラムで行っている。
本実施形態において採用する色にじみの低減方法は、後述するように平滑化フィルタなどを作用させて行う点については従来と同様であるが、同平滑化フィルタなどを作用させる領域は色にじみ画素の周辺に限られることで従来とは異なる。ここで、処理対象となる画像データについて、図7(a)および(b)に示すように二種類の画像サイズのビットマップを考え、両者に対して図中斜線部分で示す同一サイズの平滑化フィルタを作用させるものとする。画像サイズが異なるとは、画像データの各画素とCCDの各画素が一対一で対応していれば、使用するCCDの画素数に応じて画像サイズも当然に異なるが、同一画素数のCCDを使用した場合であっても適宜伸縮して画像サイズが変更される場合もあり、かかる場合も含むものとする。
【0058】
図からも明らかなように、同一サイズの平滑化フィルタを適用している限りにおいては、画像サイズが異なれば平滑化処理される領域が画像全体に対して占める割合も異なる。従って、あらゆる画像サイズの画像データに対して一律に同一サイズの平滑化フィルタを作用させてしまうと、図7(a)に示すように適当な大きさの領域が平滑化処理されることもあれば、同図(b)に示すように平滑化処理される領域が画像全体に対して占める割合が大きくなってしまうことがある。平滑化処理するということは、画像をぼやけさせることに他ならないから、同図(b)に示すものにおいては画像の大部分がぼやけてしまうことになりかねない。
【0059】
そこで、本実施形態においては、図8に示すようにな3×3、5×5、7×7画素といった複数の異なるサイズの平滑化フィルタを保持しており、画像サイズに応じてこれらの平滑化フィルタを適宜使い分けるようにしている。ここで、ビットマップ画像の画像サイズを判定するにあたっては、画像の(height)×(width)を算出して画素数を求め、この算出された画素数を指標としてもよいが、本実施形態においては、次式で表されるAに従って処理対象画像の画像サイズを判定する。
【0060】
A=min(height,width) …(1)
ここにおいて、min(height,width)はheightとwidthのいずれか小さい方を意味する。そして、ステップS110では、
A<300ならば、
3×3画素の平滑化フィルタ
300≦A≦600ならば、
5×5画素の平滑化フィルタ
A>600ならば、
7×7画素の平滑化フィルタ
というように分岐し、それぞれステップS122〜ステップS126にて用いる平滑化フィルタの種類をワークエリアに保存する。ワークエリアはコンピュータ21内のRAMであってもよいしハードディスク22であってもよい。
【0061】
ここでmin(height,width)を基準としているのは次のような理由による。平滑化フィルタのサイズが適当か否かを判断するにあたっては、本来的には全画素数に対して平滑化処理される画素数の割合で判断すればよい。しかしながら、例えば、同一画素数の画像データであっても図9(a)に示すビットマップ画像のように幅広の画像もあれば、同図(b)に示すビットマップ画像のように高さ方向に比べて幅方向の長さが若干長い標準的な画像もある。仮に、処理対象画像の全画素数に応じて使用する平滑化フィルタを決定するものとすると、両者で同一の平滑化フィルタが選択されることになる。すると、後者においては同平滑化フィルタのサイズが適当であっても、前者においては高さ方向がほぼ全長にわたって平滑化されることがあり、このような場合、視覚的にはぼやけた印象を受ける。従って、heightとwidthのいずれか小さい方を基準とすれば、このような弊害を回避することができる。
【0062】
図6のフローチャートを参照すると、図10に示すようにドットマトリクス状の画素からなる画像データについて処理対象画素を水平方向に主走査しつつ垂直方向に副走査して移動させ、各画素について色にじみ画素であるか否かを判断している。
【0063】
画像データがドットマトリクス状の画素から構成されている場合には、各画素ごとにRGBの階調データ(「0」〜「255」)で表されている。ステップS122〜ステップS126にて使用する平滑化フィルタの種類をワークエリアに保存したら、次なるステップS130においては、対象画素とその周辺画素におけるRおよびBの階調データの差分ΔRBを算出する。このΔRBは、
ΔRB=|R−B| …(2)
と表される。
【0064】
本実施形態におけるCCDは図23(a)に示すように、各画素に対応してR,G,Bの各色の色フィルタがモザイク状に配置されるとともに、Gの色フィルタのみが千鳥状に配置されて密度が高くなっており、RおよびBの色フィルタが低密度となっている。そして、各画素において直接的に得ることができない色信号を隣接する画素の色信号から線形補間演算してR,G,B全色の色信号を得て階調データに変換している。従って、確率からすれば補間演算の結果、ある画素において低密度のR,Bの階調データについて、本来の強度が得られなかったり、本来必要のない色成分が発生するなど偽の要素色成分により色にじみが発生するということができる。
【0065】
また、色にじみは特に白・黒間の境界付近にて顕著に現れることが知られている。例えば、Rの色フィルタに対応する画素において白色を表現する場合、本来のRGBの階調データは(R,G,B)=(255,255,255)となるところ、補間演算の結果(R,G,B)=(255,255,127)となったりする。ここにおいて、Gの色フィルタは高密度であるからG成分については補間演算により偽の要素色成分が発生する確率が小さく、他方、Rの成分は色フィルタから直接的に得ることができるため偽の色成分が発生することはない。本来的にはある画素において白を表現するならばΔRBは「0」となるし、黒を表現する場合もΔRBは「0」となるはずではあるが、色にじみ画素においてはこれに比べてΔRBの値が大きくなる傾向を示す。
【0066】
むろん、画像データによってはもともとRおよびGの成分が高く、Bの成分が低い画素も当然に存在し得る。しかし、このような場合には各要素色成分は隣接画素においても保持され、当該画素から遠ざかるにつれてΔRBの値はなだらかに変化する場合が多い。これに対して、色にじみは原理的に画素単位で発生しつつ、かつ、互いに隣接する画素のいずれか一方が白または黒などの画素であるから、隣接画素間でΔRBの変化度合いが大きい画素を色にじみ画素としてもあながち間違ってはいないといえる。そこで、本実施形態においては、後述するようにして処理対象画素と周辺画素との間でΔRBの値の変化度合いを調べ、同変化度合いが大きい画素を色にじみ画素として検出する。むろん、Gの色フィルタは高密度であるから補間演算により偽の要素色成分が発生する可能性は低いと言えるため、この要素色成分を基準として(2)式を、
ΔGR=|G−R| …(3)
ΔGB=|G−B| …(4)
という式に代替することも可能である。
【0067】
また、このようなΔRBの変化度合いを調べるにあたっては、低密度の色フィルタに対応する画素間で比較する方が好適である。すなわち、高密度の色フィルタに対応する画素と比べて低密度の色フィルタに対応する画素の方が偽の要素色成分が発生しやすいため、低密度の色フィルタに対応する画素間でΔRBの変化度合いを比較する方がより信頼性の高い検出を行うことができる。
【0068】
実際の色にじみ画素の検出はステップS140にて行われ、このステップS140では上記のようにして算出したΔRBの周辺画素間での変化度合いから色にじみ画素か否かの判定を行う。このとき、図11に示すように、処理対象画素を中心とするとともに、水平方向をx、垂直方向をyとしたマトリクスを考え、
E=4ΔRB(x,y)−2ΔRB(x−1,y−1)
−2ΔRB(x+1,y−1) …(5)
で表されるEの値と所定のしきい値Thとの大小関係を比較する。そして、E≧Thの場合に色にじみ画素であると判断する。従って、上述したステップS130においては、判定対象の画素におけるΔRB(x,y)を求めておくとともに、周辺画素のΔRBの値としてΔRB(x−1,y−1)およびΔRB(x+1,y−1)を求めておくことになる。
【0069】
E≧Thの判定基準に従って色にじみ画素を検出する意味は次のようになる。処理対象画素において色にじみが発生していると、当該画素とその周辺画素間のΔRB値の変化度合いが大きくなるため(5)式を参照するとEの値も大きくなり、所定のしきい値Thを越えた場合に色にじみ画素と判断する。また、(5)式および図11を参照すると、判定対象の画素と斜め方向の画素とでΔRBの変化度合いを調べていることが容易に分かる。ここで、図23(a)を参照すれば、判定対象の画素がRに該当すれば斜め方向の画素はBに該当し、判定対象の画素がBに該当すれば斜め方向の画素はRに該当するし、判定対象の画素がGに該当すれば斜め方向の画素はGに該当する。すなわち、判定対象の画素が低密度の要素色に対応する場合は、隣接する低密度の要素色に対応する画素との間でΔRB値の変化度合いを調べ、判定対象の画素が高密度の要素色に対応する場合は、隣接する高密度の要素色に対応する画素との間でΔRBの変化度合いを調べていることになる。
【0070】
従って、ステップS130,S140にて互いに隣接する画素間において低密度の色フィルタに対する要素色強度間の差分の変化度合いに基づいて色にじみ画素を検出しており、これらを実行するハードウェア構成とソフトウェアとによって色にじみ画素検出手段を構成することになる。
【0071】
ステップS140にて色にじみ画素であるものと判断した場合には、ステップS150にて当該画素がエッジ画素か否かを判定する。エッジ画素であるか否かを判断するにあたっては、色差成分に基づいて行う手法が有効であるため、本実施形態においてはRおよびBの階調データから輝度成分Yを減算してそれぞれ色差成分C1,C2を求める。なお、この色差成分C1,C2は、
C1=R−Y …(6)
C2=B−Y …(7)
と表すことができる。
【0072】
しかしながら、RGBの階調データは直接には輝度の値を持っておらず、輝度を求めるためにLuv表色空間に色変換することも可能であるが、演算量などの問題から得策ではない。このため、テレビジョンなどの場合に利用されているRGBから輝度を直に求める次式の変換式を利用する。
Y=0.30R+0.59G+0.11B …(8)
【0073】
エッジ画素は画像の境界部分であるから、隣接する画素間で色差成分C1,C2の変化度合いが大きいといえるため、次の二つの判定基準のうちでいずれか一方を充足する場合にエッジ画素として判断することができる。
|C1(x,y)−C1(x−1,y−1)|≧Th1
…(9)
|C2(x,y)−C2(x−1,y−1)|≧Th2
…(10)
なお、ここにおけるxは水平方向の座標を示しており、yは垂直方向の座標を示している。
【0074】
すなわち、(9)および(10)式の意味するところは、図12に示すように、当該色にじみ画素を中心としたドットマトリクス状の画素からなる画像データにおいて、隣接する斜め方向の画素間で色差成分C1,C2の変化度合いを求め、それぞれしきい値Th1,Th2以上あるか否かを判定していることに他ならない。そして、いずれか一方の判断基準を充足する場合にエッジ画素と判断していることになる。むろん、本来的には画素は図13に示すように縦横に升目状に配置されており、中央の画素に注目すると八つの隣接画素がある。従って、同様にそれぞれの隣接する画素との間で色差成分C1,C2の変化度合いを求めるとともに、それぞれしきい値Th1,Th2との間で比較演算し、いずれか一つの比較演算にて色差成分C1またはC2の変化度合いがしきい値Th1またはTh2以上ある場合に色にじみ画素と判断すればよい。
【0075】
このように色にじみ画素がエッジ画素であるか否かを判断するにあっては、色差成分C1,C2の変化度合いに基づいて行う手法が有効ではあるものの、一つの色にじみ画素について、隣接する八画素のそれぞれにおいて色差成分C1,C2についての比較演算を行わなければならないため、演算量が多大となって処理速度が低下してしまうことになりかねない。そこで、図14に示すように縦横方向の四画素について比較演算を行ったり、あるいは図15に示すように斜め方向の四画素について比較演算を行うようにし、演算量を低減するようにしてもかまわない。
【0076】
また、エッジ画素であるか否かを輝度勾配の大小で判断するようにしてもよく、この場合には上述した(9)および(10)式を次式に代替すればよい。
|Y(x,y)−Y(x−1,y−1)|≧Th3
…(11)
この(11)式をエッジ画素の判断基準として用いれば、(9)および(10)式を用いる場合に比べて演算量が半減されることは容易に分かることである。
【0077】
ステップS150にて当該色にじみ画素がエッジ画素ではないものと判断した場合には、ステップS152で同色にじみ画素に対してステップS122〜ステップS126にて決定した平滑化フィルタを作用させて同色にじみ画素を基準とした所定範囲の画素に対して平滑化処理を行う。むろん、平滑化処理を行うにあたっては、色差成分の平滑化が有効であるため、本実施形態においては上記(6)、(7)式に基づいて算出した色差成分C1,C2に対して平滑化処理を施す。
【0078】
ここで、平滑化フィルタを用いた平滑化処理について説明する。図8に示す各平滑化フィルタにおいて、中央の数値をマトリクス状の画像データにおける処理対象画素の色差成分C1,C2の重み付けとし、その周辺画素に対して同平滑化フィルタの升目における数値に対応した重み付けをして積算するのに利用される。この場合、すべての升目に「1」が立てられているため、平滑後の色差成分C1'は各升目の色差成分C1を合計して全升目数で除算して求め、平滑後の色差成分C2'も同様にして求められる。むろん、各升目に適宜重み付けを持たせるようにしてもかまわない。ただし、平滑化フィルタを作用させるとういことは、上述したようなマトリクス演算を行うことであるから、各升目に重み付けを持たせれば演算量も増加することになる。すなわち、本実施形態においては、平滑化フィルタの各升目に「1」を立てているため、各画素のデータを合計して升目数で除算すればよいが、各升目に重み付けがなされている場合には升目数だけ乗算演算と加算演算が必要になることから演算量が多大となる。
【0079】
従来のように画像データの全画素を対象としてこのようなマトリクス演算を行うと、演算量が膨大となって多大な処理時間がかかってしまうことがある。従って、本実施形態のように色にじみ画素を検出して当該色にじみ画素の周辺について平滑化処理を行うようにすれば、大幅な演算量の削減が期待され、高速な画像処理を実現可能となる。
【0080】
一方、ステップS150で当該色にじみ画素がエッジ画素であると判断した場合には、ステップS154で同色にじみ画素を中心として5×5画素のメジアンフィルタを作用させる。なお、実際に適用するメジアンフィルタのサイズは、必ずしも5×5画素である必要はなく、3×3画素のメジアンフィルタを適用するなど適宜変更可能である。そこで、説明の便宜上、3×3画素のメジアンフィルタを適用する場合について説明する。
【0081】
例えば、図16に示すように、色にじみ画素を中心とした3×3画素のドットマトリクスを考慮する。なお、各升目の値は色差成分C1の値を示しており、図中の斜め線がエッジ方向に相当する。ここで、3×3画素のメジアンフィルタを適用するということは、全九画素の色差成分C1の値を昇順または降順にソートし、中央の値を選択して色にじみ画素の色差成分C1と置き換えることを意味する。すなわち、同図に示すものにおいては、色差成分C1の値が「10」の画素が六画素存在し、「40」の画素が一画素存在し、「100」の画素が三画素存在しているため、これらの値を仮に昇順にソートしたものとすると図17に示すようになる。すると、同図からも明らかなように中央の値は「10」となり、当該色にじみ画素の色差成分C1は「10」となる。
【0082】
一方、ここにおいて3×3画素の平滑化フィルタを作用させたものとすると、升目の合計値「300」を画素数「9」で除算した値である「33」が平滑化処理後の色差成分C1'となる。この平滑処理後の色差成分C1'は色にじみ画素に対して周辺画素の色差成分C1を平均化して加算したものであるから、滑らかな画像データとしていることになる。このようにして滑らかにしたものはいわゆるローパスフィルタをかけたものと同様の意味あいを持ち、画像は滑らかにされて色にじみが目立たなくなるが、エッジ部分もぼやけた印象となってしまうため得策ではない。そこで、エッジ画素に対しては上述したメジアンフィルタを適用すればエッジ部分がぼやけないことは、上記の演算結果からも明らかである。
【0083】
他方、図16を参照すると、色差成分C1の値が「40」の画素にて色にじみが発生していることが分かる。そこで、この色にじみ画素に対して3×3画素のメジアンフィルタを適用すると、隣接する八画素の中で七画素の色差成分の値が「100」であり、一画素のみ色差成分の値が「10」であるため、当該色にじみ画素の色差成分の値も「100」に置き換わることになり、色にじみが低減されることが分かる。このように、メジアンフィルタはエッジ部分をぼやけさせないようにしつつ、色にじみを低減させる効果をも有しており、上記のステップS150にて当該色にじみ画素がエッジ画素であるか否かを判定する意味はかかる事由によるものである。
【0084】
なお、ここで例示したメジアンフィルタは3×3画素であるが、むろん、本実施形態にて採用する5×5画素のメジアンフィルタの場合、全二十五画素の中で中央の値を選択すればよく、3×3画素の場合と全く同様に考えることができる。また、色差成分C1について例示したが、色差成分C2についても同様であることはいうまでもない。
【0085】
ところで、平滑化フィルタとメジアンフィルタの演算速度を比べると、メジアンフィルタの方が比較的遅いため、メジアンフィルタを適用する場面は可能な限り抑えた方が処理速度上からも好適である。エッジ画素の判断基準として(9)および(10)式を採用する場合、色差成分C1,C2のいずれか一方で同式を充足する場合もあれば、色差成分C1,C2の双方で同式を充足する場合もありうる。ここで、前者の場合において、双方の色差成分についてメジアンフィルタを適用する必要性はないし、処理速度の低下を招くことから、同式を充足する色差成分においてのみステップS154でメジアンフィルタを適用し、別の一方の色差成分についてはステップS152で平滑化フィルタを適用すれば処理速度を全体として向上させることができる。むろん、エッジ画素の判断基準として(11)式を採用する場合には、いずれの色差成分の変化度合いが大きいかといったことは判断し得ないため、この場合にはステップS154で色差成分C1,C2の双方に対してメジアンフィルタを適用することになる。
【0086】
上述したように、色にじみを低減するということは、画像を滑らかにして色にじみを目立たなくすることに他ならず、その部分がぼやけた印象となってしまうことも想定しうる。そこで、本実施形態においては、次なるステップS160にてエッジ強調処理を行う。
【0087】
このエッジ強調処理は、強調前の各画素の輝度Yに対して強調後の輝度Y'が
Y'=Y+(Y−Yunsharp) …(12)
として演算される。ここで、Yunsharp は色にじみ画素の画像データに対してアンシャープマスク処理を施したものであり、次にアンシャープマスク処理について説明する。本実施形態においては、図18に示すように3×3、5×5、7×7画素からなる三種類のアンシャープマスクを備えており、それぞれステップS122〜S126で決定した平滑化フィルタのサイズに対応している。例えば、3×3画素の平滑化フィルタを選択したら、3×3画素のアンシャープマスクを選択することになる。これらのアンシャープマスクも上述した平滑化フィルタと同様に、中央の数値を各画素におけるY(x,y)の重み付けとし、その周辺画素に対して同マスクの升目における数値に対応した重み付けをして積算するのに利用される。例えば、3×3画素のアンシャープマスクを使用する場合、
【0088】
【数1】
なる演算式に基づいて積算する。この(13)式において、「136」とは重み付け係数の合計値であり、サイズの異なる平滑化フィルタにおいては、それぞれ升目の合計値となる。すなわち、5×5画素であれば「400」となるし、7×7画素であれば「900」となる。また、Mijはアンシャープマスクの升目に記載されている重み付け係数であり、Y(x,y)は各画素における輝度成分である。さらに、ijについてはアンシャープマスクに対して横列と縦列の座標値で示している。
【0089】
Yunsharp (x,y)は色にじみ画素に対して周辺画素の重み付けを低くして加算したものであるから、この場合も同様にローパスフィルタをかけたものと同じ意味あいを持つ。従って、「Y(x,y)−Yunsharp (x,y)」とは本来の全成分から低周波成分を引いたことになってハイパスフィルタをかけたものと同様の意味あいを持つ。そして、ハイパスフィルタを通過したこの高周波成分を「Y(x,y)」に加えれば高周波成分を増したことになり、エッジが強調される結果となって画像のシャープさが向上する。
【0090】
なお、これらのアンシャープマスクは図18からも明らかなように、中央部にて最も重み付けが大きく、周縁に向かうにつれて徐々に重み付け係数が小さくなっている。従って、周縁側の重み付け係数が升目の合計値に与える影響はわずかであるといえる。一方、(13)式等で示されるマトリクス演算は、処理対象画素の周囲の画素に対して、採用するアンシャープマスクの升目数だけ乗算演算と加算演算が必要になることから演算量が多大となることも観念される。そこで、本実施形態においては、予め周縁側の重み付け係数を省いて構成した3×3、5×5、7×7画素のアンシャープマスクを使用することにより演算量を削減して処理速度を高めるようにしている。
【0091】
ところで、本実施形態においては、平滑化フィルタのサイズとアンシャープマスクのサイズを同一としているが、これは次のような理由による。例えば、図19で示すビットマップ画像に図中斜線部分で示す領域に対して平滑化処理を行い、図中波線部分で示す領域に対してアンシャープマスク処理を行って輝度を強調したものとする。上述したように輝度を強調する意味は、平滑化処理されて失われたシャープさを補償するものであるから、平滑化領域の外側まで輝度を強調してしまうと、この外側の領域において不自然にシャープさが向上してしまうことが発生し得る。このため、本実施形態では平滑化フィルタとアンシャープマスクを同一サイズとしているが、むろん、前者に比べて後者のサイズが小さくなるようにしてもかまわない。
【0092】
ステップS160では上記のようなエッジ強調処理を行うとともに、強調後の輝度Y'と処理後の色差成分を用いつつ(6)〜(8)式に基づいてR',G',B'の階調データを得る。すなわち、ステップS152,S154にて色にじみを低減するとともに、ステップS160にて階調データを生成しており、これらを実行するハードウェア構成とソフトウェアとによって画像処理手段を構成することになる。
【0093】
なお、ステップS160において、強調した輝度Y'を使用することからR',G',B'の階調データが負の値となったり、「255」を越えるような値となることがある。しかし、階調幅としては、「0」〜「255」の範囲であるため、負の階調データは一律に「0」とし、「255」を越える階調データは一律に「255」とする。そして、次のステップS170にて処理対象画素を移動させ、ステップS180にて全画素について終了したと判断するまで同様の処理を繰り返す。
【0094】
ところで、色にじみ画素を中心として平滑化フィルタを適用し、その後にエッジ強調処理を行えば、平滑化処理によって色にじみが低減され、エッジ強調処理によって平滑化処理で失われた画像のシャープさが補償される。従って、本来的には色にじみ画素がエッジ画素であるか否かを問わず、全ての色にじみ画素に対して一律にかかる処理を実行すればよく、このような構成としても効果を得ることができる。しかし、かかる構成においては、経験的な見地からエッジ部分がぼやけてしまうことがあったため、色にじみ画素がエッジ画素である場合にメジアンフィルタを適用したところ良好な結果を得ることができた。
【0095】
ここで、本実施形態の平滑化処理およびエッジ強調処理の効果について、簡単な一次元のシミュレーションモデルを例示しつつ説明する。
図20は、エッジ強調処理を行わない場合の一次元シミュレーションモデルにおいて各種のパラメータの値を示す表である。同図において、左端のR,G,BのマトリクスはCCDの色フィルタ配列を示している。このマトリクスの右隣に示す「IN」は光の入射状況を示しており、「1(階調データは255)」ならば光があたっている、すなわち「白」を意味し、「0(階調データは0)」ならば「黒」を意味する。そして、CCDの各画素において、直接得ることができない色信号は隣接する画素の色信号から線形補間演算により得ているものとする。
【0096】
ここで、本来二次元の配列で考察するべきではあるが、説明を簡略化するため、上記R,G,Bのマトリクスの中央縦列に着目する。この意味において、一次元のシミュレーションモデルという。すると、上述した原理から白・黒の境界付近にそれぞれG(B)=0.5、R=0.5というように偽の色信号が発生し、この偽の色信号が発生した画素が色にじみ画素として検出される。色にじみ画素が検出されると、(6)〜(8)式に従って色差成分C1およびC2が算出され、この色差成分C1,C2が平滑化処理されて色差成分C1',C2'が得られる。なお、ここでは一次元の平滑化フィルタとして「1,1,1,1,1,1,1」を適用している。すなわち、処理対象画素の前後それぞれの三画素の画素値を合計して「7」で除算する。そして、得られた色差信号C1',C2'を(6)〜(8)式に基づいて元の色信号に戻し、平滑処理後のR',G',B'が得られる。図からも明らかなように白・黒の境界付近の画素における(R',G',B')はそれぞれ(0.75,0.61,0.61)と、(0.25,0.11,0.11)となり、本来の「IN」の値に近づいて色にじみが低減されたことがわかる。
【0097】
また、図21は、平滑化処理を行うとともに、平滑化フィルタと同一サイズのアンシャープマスクを用いてエッジ強調処理を行った場合の一次元シミュレーションモデルを同様に示している。この場合も色差成分C1,C2を求めて平滑化処理を行うことは上述したものと相違はないが、(6)〜(8)式を用いて元の色信号に戻す際に、「1,6,18,25,18,6,1」の重み付けを持たせた一次元のアンシャープマスクを利用して強調処理した輝度信号Y'を使用する。すると、白・黒の境界付近の画素における(R',G',B')はそれぞれ(0.81,0.67,0.67)と、(0.10,−0.04,−0.04)となる。むろん、RGBの信号値としてとり得る値は「0」〜「1」であるからから実際には後者のデータは(0.10,0,0)となり、図20に示すものに比べて色にじみがさらに解消されたことがわかる。
【0098】
さらに、図22は、平滑化フィルタよりも小さいサイズのアンシャープマスクを用いてエッジ強調処理を行った場合の一次元シミュレーションモデルを同様に示している。この場合、一次元の「1,11,25,11,1」という平滑化フィルタのサイズ(7桁)よりも小さい5桁のアンシャープマスクを使用している。そして、上述したものと同様にして演算を行うと、白・黒の境界付近の画素における(R',G',B')はそれぞれ(0.79,0.65,0.65)と、(0.10,−0.04,−0.04)となる。このように、図21に示すものに比べれば、色にじみの解消程度は劣るものの、図20に示すものに比べれば色にじみがさらに解消されていることがわかる。
【0099】
次に、上記構成からなる本実施形態の動作を説明する。
単板式のCCDを有するデジタルスチルカメラ12で撮像した実画像をコンピュータ21に取り込んで、プリンタ31にて印刷する場合を想定する。すると、まず、コンピュータ21にてオペレーティングシステム21aが稼働しているもとで、画像処理アプリケーション21dを起動させ、デジタルスチルカメラ12から画像データを取り込む。画像データが同オペレーティングシステム21aを介して画像処理アプリケーション21dに取り込まれたら、ステップS110にて(1)式に基づいて画像のサイズを判定するための指標値を取得するとともに、この指標値と所定のしきい値とを比較し、ステップS122〜ステップS126にて使用する平滑化フィルタおよびアンシャープマスクのサイズを決定してワークエリアに保存する。
【0100】
そして、ステップS130にて処理対象画素を初期位置に設定し、(2)式に従って当該画素とその周辺画素におけるΔRBの値を算出する。その後、ステップS140にて(5)式に基づいて処理対象画素とその周辺画素との間で同ΔRBの値の変化度合いを調べ、所定のしきい値Thと比較して同変化度合いが大きい場合に色にじみ画素と判断する。
【0101】
色にじみ画素と判断されたら、ステップS150にて(6)〜(8)式に基づいて処理対象画素およびその周辺画素について色差成分C1,C2を算出し、(9)および(10)式、あるいは(11)式などの判定基準に従って当該色にじみ画素がエッジ画素であるか否かを判断する。ここで、エッジ画素ではないものと判断した場合には、ステップS152でステップS122〜ステップS126にてワークエリアに保存しておいたフィルタサイズに等しい平滑化フィルタを作用させる。すなわち、色差成分C1,C2のそれぞれにつき、平滑化フィルタの升目に対応する画素の色差成分を合計して升目数で除算することにより平滑化処理された色差成分C1',C2'を得る。
【0102】
一方、ステップS150にて当該色にじみ画素がエッジ画素であると判断した場合には、ステップS154で同色にじみ画素を中心とした5×5画素のメジアンフィルタを作用させる。すなわち、色にじみ画素を中心とした全二十五画素の色差成分の値を昇順または降順にソートし、中央の値を選択して色にじみ画素の色差成分と置き換える。このとき、ステップS150にて(9)および(10)式の判定基準を採用した場合には、色差成分C1,C2のそれぞれにて同式を充足する色差成分についてステップS154でメジアンフィルタを適用し、同式を充足しない色差成分についてはステップS152で上記の平滑化フィルタを適用する。むろん、ここにおいて双方の色差成分について同式を充足する場合にはステップS154で色差成分C1,C2の双方についてメジアンフィルタを適用する。他方、ステップS150にて(11)式の判定基準を採用する場合には、ステップS154で色差成分C1,C2の双方に対してメジアンフィルタを適用することになる。
【0103】
その後、ステップS160にてステップS122〜S126で決定したサイズのアンシャープマスクを使用して処理対象画素およびその周辺画素について輝度成分Yの低周波成分Yunsharp を求めるとともに、元の輝度成分Yから同低周波成分Yunsharp を減算することにより高周波成分を求め、同元の輝度成分Yに当該高周波成分を加算して強調後の輝度成分Y'を得る。具体的には、(13)式などに基づいて演算を行うことになる。そして、この強調後の輝度成分Y'と処理後の色差成分を用いつつ、(6)〜(8)式に基づいて平滑処理後のR',G',B'の階調データを得る。以上の処理をステップS170にて処理対象画素を移動させながらステップS180にて全画素について実行したと判断するまで繰り返す。
【0104】
全画素について実行し終えたら、画像処理された画像データをディスプレイドライバ21cを介してディスプレイ32に表示し、良好であればプリンタドライバ21bを介してプリンタ31にて印刷させる。すなわち、同プリンタドライバ21bは色にじみが低減されたRGBの階調データを入力し、所定の解像度変換を経てプリンタ31の印字ヘッド領域に対応したラスタライズを行なうとともに、ラスタライズデータをRGBからCMYKへ色変換し、その後でCMYKの階調データから二値データへ変換してプリンタ31へ出力する。
【0105】
以上の処理により、デジタルスチルカメラ12から取り込んだ実画像データは自動的に色にじみが発生している部分のみ色にじみを低減するように画像処理されてディスプレイ32に表示された後、プリンタ31にて印刷される。すなわち、色にじみが発生している部分のみ色にじみを低減するように画像処理するため、演算量を削減して高速な画像処理を実現することができる。
【0106】
このように、画像処理の中枢をなすコンピュータ21はステップS130,S140にて低密度の要素色強度に基づいて処理対象画素が色にじみ画素か否かを判定するとともに、色にじみ画素と判定した場合にステップS150にてエッジ画素であるか否かを判断し、エッジ画素でない場合にはステップS152にて平滑化フィルタを作用させ、他方、エッジ画素である場合にはステップS154にてメジアンフィルタを作用させることにより、色にじみを低減すべく画像処理するようにしたため、演算量を削減して高速な画像処理を実行することができる。
【図面の簡単な説明】
【図1】 本発明の一実施形態にかかる画像処理装置を適用した画像処理システムのブロック図である。
【図2】 同画像処理装置の具体的ハードウェアのブロック図である。
【図3】 デジタルスチルカメラの簡単なハードウェア構成例を示すブロック図である。
【図4】 本発明の画像処理装置の他の適用例を示す概略ブロック図である。
【図5】 本発明の画像処理装置の他の適用例を示す概略ブロック図である。
【図6】 本発明の画像処理装置における色にじみ画素の判定と画像処理部分を示すフローチャートである。
【図7】 画像サイズと平滑化領域との関係を示す図である。
【図8】 3×3、5×5および7×7画素の平滑化フィルタである。
【図9】 同一画素数の画像データにおいてheightとwidthの関係を示す図である。
【図10】 処理対象画素を移動させていく状態を示す図である。
【図11】 要素色成分の変化度合いを斜め方向の隣接画素における差分値で求める場合の説明図である。
【図12】 画像の変化度合いを斜め方向の隣接画素における差分値で求める場合の説明図である。
【図13】 隣接する全画素間で画像の変化度合いを求める場合の説明図である。
【図14】 隣接する画素間で画像の変化度合いを求める変形例の説明図である。
【図15】 隣接する画素間で画像の変化度合いを求める別の変形例の説明図である。
【図16】 色にじみ画素を含むエッジ部分の画像データにおいて各画素の色差成分値の一例を示す図である。
【図17】 メジアンフィルタによる演算処理の一例を説明するための図である。
【図18】 3×3、5×5および7×7画素のアンシャープマスクである。
【図19】 平滑化領域とエッジ強調領域との関係を示す図である。
【図20】 エッジ強調処理を行わない場合の一次元シミュレーションモデルにおける各種パラメータの値を示す表である。
【図21】 平滑化フィルタと同一サイズのアンシャープマスクを用いてエッジ強調処理を行った場合の一次元シミュレーションモデルにおける各種パラメータの値を示す表である。
【図22】 平滑化フィルタよりも小さいサイズのアンシャープマスクを用いてエッジ強調処理を行った場合の一次元シミュレーションモデルにおける各種パラメータの値を示す表である。
【図23】 色にじみの発生原理を説明するための図である。
【符号の説明】
10…画像入力装置
20…画像処理装置
21…コンピュータ
21a…オペレーティングシステム
21b…プリンタドライバ
21c…ディスプレイドライバ
21d…画像処理アプリケーション
22…ハードディスク
23…キーボード
24…CD−ROMドライブ
25…フロッピーディスクドライブ
26…モデム
30…画像出力装置
Claims (11)
- 各画素毎に複数の要素色のうちのいずれかの要素色に対応する階調値データだけが分配された元画像データを起源として、各画素毎に欠乏する要素色の階調値データを周辺画素の階調値データに基づいて補充して生成された画像データに対し、所定の画像処理を行う画像処理装置であって、
各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出する色にじみ画素検出手段と、
この検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行する画像処理手段とを具備することを特徴とする画像処理装置。 - 上記請求項1に記載の画像処理装置において、上記色にじみ画素検出手段は、各画素ごとに異なる要素色間の階調値の差分データを求めるにあたり上記元画像データにおける低密度の要素色と他の要素色との間の差分データを求めることを特徴とする画像処理装置。
- 上記請求項2に記載の画像処理装置において、上記色にじみ画素検出手段は、低密度の要素色が複数ある場合、互いに隣接する画素間において低密度の要素色に対する階調値データの差分の変化度合いに基づいて上記色にじみ画素を検出することを特徴とする画像処理装置。
- 上記請求項1〜請求項3のいずれかに記載の画像処理装置において、上記色にじみ画素検出手段は、隣接する画素のうち上記元画像データにおける低密度の要素色に対応して配置する画素との間における上記変化度合いに基づいて上記色にじみ画素を検出することを特徴とする画像処理装置。
- 上記請求項1〜請求項4のいずれかに記載の画像処理装置において、上記画像処理手段は、上記色にじみ画素を基準とした所定範囲の画素を対象として、要素色成分から輝度成分を減算して得た色差成分を平滑化処理し、元の要素色成分に戻すことを特徴とする画像処理装置。
- 上記請求項5に記載の画像処理装置において、上記画像処理手段は、上記色にじみ画素を基準とした所定範囲の各画素の輝度成分を参照して色にじみ画素の輝度成分を変化させることによってエッジ強調処理することを特徴とする画像処理装置。
- 上記請求項6に記載の画像処理装置において、上記画像処理手段は、上記平滑化処理を行う範囲内の画素に対してエッジ強調処理することを特徴とする画像処理装置。
- 上記請求項5〜請求項7のいずれかに記載の画像処理装置において、上記画像処理手段は、画像処理の対象となる上記画像データの画像サイズが大きい場合には、上記検出された色にじみ画素を基準とした所定範囲の画素を対象として平滑化処理を行う際に同平滑化処理をする範囲を大きくし、上記画像データの画像サイズが小さい場合には、上記色にじみ画素を基準とした所定範囲の画素を対象として平滑化処理を行う際に同平滑化処理をする範囲を小さくすることを特徴とする画像処理装置。
- 上記請求項1〜請求項4のいずれかに記載の画像処理装置において、上記画像処理手段は、上記色にじみ画素を基準とした所定範囲の画素を対象として要素色成分から輝度成分を減算して得た色差成分のうち、中央の値を有する色差成分を当該色にじみ画素の色差成分に置換して元の要素色成分に戻すことを特徴とする画像処理装置。
- 各画素毎に複数の要素色のうちのいずれかの要素色に対応する階調値データだけが分配された元画像データを起源として、各画素毎に欠乏する要素色の階調値データを周辺画素の階調値データに基づいて補充して生成された画像データに対し、所定の画像処理を行う画像処理方法であって、
各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出し、
この検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行することを特徴とする画像処理方法。 - 各画素毎に複数の要素色のうちのいずれかの要素色に対応する階調値データだけが分配された元画像データを起源として、各画素毎に欠乏する要素色の階調値データを周辺画素の階調値データに基づいて補充して生成された画像データに対し、コンピュータに所定の画像処理を実行させる画像処理制御プログラムを記録した媒体であって、
各画素ごとに異なる要素色間での階調値の差分データを求め、互いに近接する画素間において同差分データの変化度合いが所定のしきい値よりも大きいときに色にじみ画素であると検出する色にじみ画素検出機能と、
この検出された色にじみ画素を基準とする所定範囲の画素を対象として色にじみを低減する画像処理を実行する画像処理機能とをコンピュータに実施させることを特徴とする画像処理制御プログラムを記録した媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002186045A JP3702956B2 (ja) | 1997-11-25 | 2002-06-26 | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9-323013 | 1997-11-25 | ||
JP32301397 | 1997-11-25 | ||
JP2002186045A JP3702956B2 (ja) | 1997-11-25 | 2002-06-26 | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24346198A Division JP3925588B2 (ja) | 1997-11-25 | 1998-08-28 | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2003102027A JP2003102027A (ja) | 2003-04-04 |
JP2003102027A5 JP2003102027A5 (ja) | 2004-12-02 |
JP3702956B2 true JP3702956B2 (ja) | 2005-10-05 |
Family
ID=26571022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002186045A Expired - Fee Related JP3702956B2 (ja) | 1997-11-25 | 2002-06-26 | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3702956B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5486273B2 (ja) | 2008-12-26 | 2014-05-07 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP2010268426A (ja) | 2009-04-15 | 2010-11-25 | Canon Inc | 画像処理装置、画像処理方法およびプログラム |
JP5523141B2 (ja) | 2009-05-28 | 2014-06-18 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP6318549B2 (ja) * | 2013-10-30 | 2018-05-09 | リコーイメージング株式会社 | 画像処理装置、撮像装置、画像処理方法、及び画像処理プログラム |
-
2002
- 2002-06-26 JP JP2002186045A patent/JP3702956B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003102027A (ja) | 2003-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3925588B2 (ja) | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 | |
US6934056B2 (en) | Noise cleaning and interpolating sparsely populated color digital image using a variable noise cleaning kernel | |
JP4492704B2 (ja) | エッジ強調処理装置、出力装置、エッジ強調処理方法およびコンピュータ読み取り可能な記録媒体 | |
JP5595121B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2007507802A (ja) | デジタル画像におけるテキスト状エッジの強調 | |
JP4381360B2 (ja) | 画像処理方法、画像処理装置、画像形成装置、コンピュータプログラム及び記録媒体 | |
US7623705B2 (en) | Image processing method, image processing apparatus, and semiconductor device using one-dimensional filters | |
JP2001175843A (ja) | 画像処理方法、装置および記憶媒体 | |
JP4243362B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラムを記録した記録媒体 | |
JP3702956B2 (ja) | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 | |
US6671401B1 (en) | Removing color moire patterns from digital images having known chromaticities | |
JPH118768A (ja) | 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体 | |
JP3702957B2 (ja) | 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体 | |
JP2003102027A5 (ja) | ||
JP4161141B2 (ja) | エッジ強調処理装置、エッジ強調処理方法およびエッジ強調処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP3921737B2 (ja) | 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体 | |
JP5494249B2 (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
JP2003102028A5 (ja) | ||
JP3985109B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラムを記録した媒体 | |
JP3736632B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラムを記録した媒体 | |
JP3501151B2 (ja) | 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体 | |
JP2000357237A (ja) | 画像処理装置およびこれを搭載した画像読取装置と画像形成装置、並びに画像処理方法、および画像処理手順を記憶したコンピュータ読み取り可能な記憶媒体 | |
JPH10200756A (ja) | 画像処理装置、画像処理方法および画像処理プログラムを記録した媒体 | |
JP5029779B2 (ja) | 画像処理方法、画像処理プログラムを記録した媒体および画像処理装置 | |
JP4941575B2 (ja) | 画像処理方法、画像処理プログラムを記録した媒体および画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20031217 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20031217 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20031217 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20040315 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040805 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041001 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050629 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050712 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080729 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090729 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100729 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110729 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110729 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120729 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120729 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130729 Year of fee payment: 8 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |