JP3901837B2 - 画像処理方法および装置 - Google Patents

画像処理方法および装置 Download PDF

Info

Publication number
JP3901837B2
JP3901837B2 JP09740398A JP9740398A JP3901837B2 JP 3901837 B2 JP3901837 B2 JP 3901837B2 JP 09740398 A JP09740398 A JP 09740398A JP 9740398 A JP9740398 A JP 9740398A JP 3901837 B2 JP3901837 B2 JP 3901837B2
Authority
JP
Japan
Prior art keywords
processing
image signal
image
sharpness
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP09740398A
Other languages
English (en)
Other versions
JPH11298738A (ja
Inventor
久夫 新井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP09740398A priority Critical patent/JP3901837B2/ja
Priority to US09/244,950 priority patent/US6445831B1/en
Publication of JPH11298738A publication Critical patent/JPH11298738A/ja
Application granted granted Critical
Publication of JP3901837B2 publication Critical patent/JP3901837B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は画像処理方法および画像処理装置に関し、詳細には、画像の粒状(高周波ノイズ)を抑制しつつ、画像の鮮鋭度を強調する処理方法および装置に関するものである。
【0002】
【従来の技術】
従来より、写真フイルムやプリントに記録された画像(カラー画像を含む)をCCD等のセンサーにより光電的に読み取って画像信号を得、これに種々の画像処理を施して、処理済画像をプリントやCRT等に再生することが行われている。このような画像処理としては、画像に含まれる所定の空間周波数成分に作用させる周波数処理や、画像の濃度などに作用させる階調処理等がある。
【0003】
さらに周波数処理としては、画像の輪郭のぼけを抑制する鮮鋭度強調処理や、感材の粒状度等に起因するノイズ(粒状)を抑制する平滑化処理等の粒状抑制処理などがある。
【0004】
鮮鋭度強調処理としては、アンシャープマスキング処理、高域強調フィルター処理、特開平 9-22460号に開示された、画像の高周波数成分を強調しつつ中間周波数成分を抑制する処理等が知られており、また粒状抑制処理としては、メディアンフィルター処理、ヒステリシススムージング処理、反復による雑音除去処理、モルフォロジー演算を利用した粒状抑制処理等が知られている。
【0005】
ところで、鮮鋭度強調処理によれば、画像のシャープネスは向上する反面、画像の粒状も強調されてざらつき感が残り、一方、粒状抑制処理によれば、画像の粒状は抑制されてざらつき感を低減できる反面、画像の鮮鋭度が低下する、という問題がある。
【0006】
【発明が解決しようとする課題】
そこで、粒状を抑制しつつ鮮鋭度を強調する画像処理方法が望まれており、従来より粒状抑制と鮮鋭度強調とを同時に実現することを目的とした種々の画像処理方法が提案されている(米国特許第4,812,903 号、特開昭63-26783号、特開平 9-22460号等)ものの、それらのいずれにおいても、効果的に粒状抑制と鮮鋭度強調とを同時に実現することはできていないのが現状である。
【0007】
例えば、上記特開平9-22460 号に開示された技術は、画像の鮮鋭度に影響を及ぼす高周波数成分を強調しつつ、ざらつき感となる粒状に影響を及ぼす中間周波数成分を抑制する処理により、粒状を抑制しつつ鮮鋭度を強調することとしているが、これは、色の相関情報において粒状部は色の相関度が低く、映像信号(エッジ)部は色の相関度が高いという性質を利用したものである。そしてこの処理は、画像を周波数領域に展開し、中高周波数成分の強度を制御して色相関の低いところは程度を低くすることで粒状抑制を行っている。すなわちこの処理方法では、実画像での隣接画素間のつながりの因子が考慮されないため、画像の場所によっては突然に制御程度が変化し、粒状が抑制されたと捉えにくい面がある。したがって、鮮鋭度強調の効果に比して粒状抑制の効果が小さく、効果面からは粒状抑制鮮鋭度強調処理というよりも、鮮鋭度強調処理に止まるのが実状である。
【0008】
このため、画像に対する粒状抑制と鮮鋭度強調を効果的に両立することを可能にした画像処理方法、画像処理装置が求められており、しかも、例えばポートレートなどでは必須とされる人物の瞳に写るキャッチライトなどの、本来は抑制されるべきではない画像部分が、粒状抑制処理により抑制されるのを精度よく防止する必要もある。
【0009】
本発明は上記事情に鑑みなされたものであって、画像に対する粒状抑制と鮮鋭度強調を効果的に両立しつつ、しかも、抑制すべきでない一定の画像部分については粒状抑制処理を施さないようにした画像処理方法および画像処理装置を提供することを目的とするものである。
【0010】
【課題を解決するための手段】
本発明の画像処理方法は、原画像信号に対して鮮鋭度を強調する処理と粒状を抑制する処理とを各別に施し、原画像信号と粒状抑制後の画像信号との差による閾値処理によってその後の処理内容を変えるものであり、粒状抑制度合いが高過ぎる場合(上記差が閾値より大きい場合)は粒状抑制処理を施さず、一方、粒状抑制度合いが低い場合(上記差が閾値より小さい場合)は少なくとも粒状抑制処理を含む処理を施すものである。
【0011】
すなわち本発明の画像処理方法は、原画像を構成する画素の値を規定する原画像信号(カラー画像に基づく画像信号も含む)finに所定の処理を施して処理済画像信号を得る画像処理方法において、
前記原画像信号に、粒状を抑制する画像処理および鮮鋭度を強調する画像処理を各別に施し、
前記画素ごとに、前記原画像信号finと前記粒状を抑制する画像処理により取得された粒状抑制処理画像信号f1 との差|f1 −fin|と、所定の閾値Tとを比較し、
前記比較の結果、前記所定の閾値の方が大きい(|f1 −fin|<T)画素については、前記粒状抑制処理画像信号f1 および前記鮮鋭度を強調する画像処理により取得された鮮鋭度強調処理画像信号f2 の画素を対応させた演算処理により前記処理済画像信号fout を得、
前記比較の結果、前記所定の閾値の方が小さい(|f1 −fin|>T)画素については、前記原画像信号fin、前記原画像信号finを強調処理した強調処理信号fin′、または前記鮮鋭度強調処理信号f2 を前記処理済画像信号fout とすることを特徴とするものである。
【0012】
ここで、閾値Tと上記差|f1 −fin|とが等しい(|f1 −fin|=T)画素については、閾値Tの方が大きい画素について適用される演算処理を施してもよいし、閾値Tの方が小さい画素について適用される演算処理を施してもよいが、前者(閾値Tの方が大きい画素について適用される演算処理)を適用するのが望ましい。
【0013】
また、上記演算処理の内容は、予め設定された複数種類の中から、例えば画像の種類または画素の位置等に応じて選択されたものであってもよいし、外部から処理の都度、入力されたものでもよい。
【0014】
具体的には、上記演算処理として下記式(1)で定義される演算処理を適用することができる。
【0015】
【数1】
Figure 0003901837
【0016】
すなわち粒状抑制処理画像信号f1 と鮮鋭度強調処理画像信号f2 とを重みづけ加算したものを処理済画像信号fout とするものである。なおこの演算処理において、画像の種類、画素の位置または原画像信号値との関係等により、重みづけ係数w1、w2の値を画素ごとに変化させてもよいし、共通の重みづけ係数を設定してもよい。
【0017】
また各重みづけ係数w1、w2は好ましくは 0.2から 0.8までの値、より好ましくは 0.3から 0.7までの値、最も好ましくは 0.4から 0.6までの値を採用するのが望ましい。
【0018】
上記演算処理としては、下記式(2)で定義される演算処理を適用してもよい。
【0019】
【数2】
Figure 0003901837
【0020】
さらにまた、上記粒状を抑制する画像処理としては、メディアンフィルター処理、ヒステリシススムージング処理、反復による雑音除去処理、モルフォロジー(Morphology)演算を利用した粒状抑制処理(平滑化処理)等、上記鮮鋭度を強調する画像処理としては、アンシャープマスキング処理、高域強調フィルター処理、画像信号を低周波数成分、中間周波数成分および高周波数成分に分解し、高周波数成分を強調するとともに中間周波数成分を抑制する強調抑制処理を行い、強調抑制処理後の各周波数成分および低周波数成分を合成する処理(特開平 9-22460号)等をそれぞれ適用することができるが、モルフォロジー演算を利用した粒状抑制(平滑化)処理と画像の高周波数成分を強調しつつ中間周波数成分を抑制したのち合成することによる鮮鋭度強調処理(特開平 9-22460号)との組合せが最適である。
【0021】
ここでモルフォロジー演算処理とは、モフォロジーまたはモーフォロジーとも称し、一般的にはN次元空間における集合論として展開されるが、2次元空間である画像へ適用される場合が多い(特開平8-272961号、同9-248291号、同9-91421 号等)。ここでは、このモルフォロジー演算処理を、濃淡画像を例にして以下に簡単に説明する。
【0022】
濃淡画像を座標(x,y)の点が濃度値f(x,y)に相当する高さをもつ空間とみなし、この断面に相当する1次元の関数f(x)を考える。モルフォロジー演算処理に用いる構造要素gは次式(3)に示すように、原点について対称な対称関数
【0023】
【数3】
Figure 0003901837
【0024】
であり、定義域内で値が0で、その定義域Gが下記式(4)であるとする。
【0025】
【数4】
Figure 0003901837
【0026】
このとき、モルフォロジー演算の基本形は式(5)〜(8)に示すように、非常に簡単な演算となる。
【0027】
【数5】
Figure 0003901837
【0028】
すなわち、ダイレーション(dilation)処理は、注目画素を中心とした、±m(構造要素Bに応じて決定される値であって、図4中のマスクサイズに相当)の幅の範囲内の最大値を探索する処理であり(同図(A)参照)、一方、イロージョン(erosion )処理は、注目画素を中心とした、±mの幅の範囲内の最小値を探索する処理である(同図(B)参照)。また、オープニング(opening )処理はイロージョン処理後にダイレーション処理を行なう処理、すなわち最小値の探索の後に最大値を探索する処理であり、クロージング(closing )処理は、ダイレーション処理後にイロージョン処理を行なう処理、すなわち最大値の探索の後に最小値を探索する処理に相当する。
【0029】
つまりオープニング処理は、低濃度側から濃度曲線f(x)を滑らかにし、マスクサイズ2mより空間的に狭い範囲で変動する凸状の濃度変動部分(周囲部分よりも濃度が高い部分)を抑制することに相当する(同図(C)参照)。
【0030】
一方、クロージング処理は、高濃度側から濃度曲線f(x)を滑らかにし、マスクサイズ2mより空間的に狭い範囲で変動する凹状の濃度変動部分(周囲部分よりも濃度が低い部分)を抑制することに相当する(同図(D)参照)。
【0031】
ここで、濃度の高いもの程大きな値となる高濃度高信号レベルの信号の場合においては、濃度値f(x)の画像信号値が高輝度高信号レベルの場合に対して大小関係が逆転するため、高濃度高信号レベルの信号に対するダイレーション処理と高輝度高信号レベルに対するイロージョン処理(同図(B))とは一致し、高濃度高信号レベルの信号に対するイロージョン処理と高輝度高信号レベルに対するダイレーション処理(同図(A))とは一致し、高濃度高信号レベルの信号に対するオープニング処理と高輝度高信号レベルに対するクロージング処理(同図(D))とは一致し、高濃度高信号レベルの信号に対するクロージング処理と高輝度高信号レベルに対するオープニング処理(同図(C))とは一致する。
【0032】
そして、このように原画像を表す画像信号に対して、モルフォロジー演算処理によるオープニング処理若しくはクロージング処理を施すことにより、画像から粒状(画像信号としてのノイズを意味する)を抑制(または除去)することができる(小畑「モルフォロジー」(コロナ社刊)等)。
【0033】
次に、特開平 9-22460号に開示された、画像の高周波数成分を強調しつつ中間周波数成分を抑制することによる鮮鋭度強調処理について簡単に説明する。
【0034】
この処理は、画像信号を低周波数成分、中間周波数成分および高周波数成分に分解し、高周波数成分を強調するとともに、中間周波数成分を抑制する強調抑制処理を行い、これらの処理後の各周波数成分および低周波数成分を合成して処理済画像信号を得るものである。
【0035】
ここで、画像信号の低周波数成分・中間周波数成分・高周波数成分とは、図5に示すように分布される周波数成分のことをいうものであり、中間周波数成分とは、処理後のデータを可視像として再生する際の出力のナイキスト周波数の1/3付近にピークを持って分布する周波数成分をいうものであり、低周波数成分とは、出力のナイキスト周波数が0となる周波数をピークとして分布する成分をいい、高周波数成分とは出力のナイキスト周波数をピークとして分布する成分をいうものであり、さらに、低・中間・高周波数成分の和が各周波数において1となっている成分をいうものである。
【0036】
また、この処理方法においては、前記分解後、前記高周波数成分および前記中間周波数成分から輝度成分を抽出し、該輝度成分にのみ基づいて前記強調抑制処理および前記合成を行うことが好ましい。
【0037】
さらに、この処理方法においては、前記所定の画像における特定色領域を抽出し、該特定色領域に対応する前記中間周波数成分をさらに抑制して前記強調抑制処理を行うことが好ましい。
【0038】
また、この処理方法においては、前記分解後、前記中間周波数成分および/または前記高周波数成分の評価値を求め、該評価値が所定の閾値より小さい画素に対する前記中間周波数成分を該評価値が該所定の閾値より大きい画素に対する前記中間周波数成分よりも大きく抑制して前記強調抑制処理を行うことが好ましい。さらに、この場合は前記評価値が所定の閾値より小さい画素に対する前記高周波数成分を該評価値が該所定の閾値より大きい画素に対する前記高周波数成分よりも小さく強調して前記強調抑制処理を行うことが好ましい。
【0039】
ここで、評価値とは、後述するようなRGB3色のうちの2色からなる少なくとも1組の色間における相関値や、画像信号の周波数成分の局所分散などの値のことをいう。
【0040】
さらに、前記評価値が、前記中間周波数成分および/または前記高周波数成分のRGB3色のうちの2色からなる少なくとも1組の色間における、相対応する画素についての相関値であることが好ましい。
【0041】
また、前記評価値をメディアンフィルタによりフィルタリング処理した後、該処理がなされた評価値に基づいて前記所定の閾値に基づいて前記強調抑制処理を行ってもよく、前記中間周波数成分および/または前記高周波数成分と前記評価値とを、RGB3色のうちのそれぞれ異なる色に基づいて算出するようにしてもよい。
【0042】
さらに、前記強調抑制処理の強調および抑制の程度を、前記処理済画像信号を再生する際の再生条件に基づいて予め定められた複数の強調抑制処理条件から選択することにより定めることが好ましい。
【0043】
ここで、再生条件とは、ネガフイルムあるいはリバーサルフイルム等の原稿種、出力されるプリントのサイズ、またはオペレータが好みの画像処理となるように入力するキー補正等画像が再生される際に影響を受ける条件のことをいう。
【0044】
なお上記特開平9-22460 号による強調抑制処理における粒状抑制は前述したように、実画像での隣接画素間のつながりの因子は考慮されず、粒状が抑制されたと捉えにくい面があるが、モルフォロジー演算に基づく粒状抑制処理は、粒状の孤立性(粒状は隣接画素との画像信号(濃度)の連続性が低い)という性質を利用した実画像面上での処理であるため、隣接画素間のつながりがよく、粒状の抑制程度を視覚的に捉えやすく、粒状抑制効果が高いものとなる。
【0045】
また、上記原画像信号finと粒状抑制処理画像信号f1 との差|f1 −fin|が比較対照とされる所定の閾値Tは、原画像が記録されている感材の種類や、ポートレートなどでは必須とされる人物の瞳に写るキャッチライトなどの、本来は粒状抑制されるべきではない画像部分の内容(空間周波数等)などに応じて変動するが、本発明者らの実験および経験上、原画像信号finが採りうる階調数D(原画像信号が10 bitの階調数を採りうるときは、D=210=1024の階調数(信号値としては0〜1023)を有する)の1%から20%の範囲の値α×D(0.01≦α≦0.20)が望ましく、2%から10%の範囲の値α×D(0.02≦α≦0.10)がより好ましい。これらの範囲において、上述したキャッチライト等の粒状抑制すべきでない画像部分について粒状抑制処理を施すことなく、粒状抑制と鮮鋭度強調がより効果的に両立された処理済画像を得ることができる。
【0046】
本発明の画像処理装置は、上記本発明の画像処理方法を実施するための装置であって、原画像を構成する画素の値を規定する原画像信号に所定の処理を施して処理済画像信号を得る画像処理装置において、
前記原画像信号に、粒状を抑制する画像処理を施す粒状抑制処理手段と、
前記原画像信号に、鮮鋭度を強調する画像処理を施す鮮鋭度強調処理手段と、前記画素ごとに、前記原画像信号と前記粒状抑制処理手段による前記粒状を抑制する画像処理により取得された粒状抑制処理画像信号との差と、所定の閾値とを比較する比較手段と、
前記比較手段による前記比較の結果、前記所定の閾値の方が大きい画素については、前記粒状抑制処理画像信号および前記鮮鋭度強調処理手段による前記鮮鋭度を強調する画像処理により取得された鮮鋭度強調処理画像信号の画素を対応させた演算処理を施して前記処理済画像信号を得、前記比較の結果、前記所定の閾値の方が小さい画素については、前記原画像信号、前記原画像信号を強調処理した強調処理信号、または前記鮮鋭度強調処理信号を前記処理済画像信号とする信号処理手段とを備えたことを特徴とするものである。
【0047】
ここで、信号処理手段による前記演算処理としては下記式(1)または(2)で定義される演算処理を適用するのが望ましい。
【0048】
【数1】
Figure 0003901837
【0049】
【数2】
Figure 0003901837
【0050】
上記粒状抑制処理手段による粒状を抑制する画像処理としては、メディアンフィルター処理、ヒステリシススムージング処理、反復による雑音除去処理、モルフォロジー演算を利用した粒状抑制(平滑化)処理等、鮮鋭度強調処理手段による鮮鋭度を強調する画像処理としては、アンシャープマスキング処理、高域強調フィルター処理、前述した特開平 9-22460号に開示された、画像信号を低周波数成分、中間周波数成分および高周波数成分に分解し、高周波数成分を強調するとともに中間周波数成分を抑制する強調抑制処理を行い、強調抑制処理後の各周波数成分および低周波数成分を合成する処理等をそれぞれ適用することができるが、モルフォロジー演算を利用した粒状抑制処理と、画像の高周波数成分を強調しつつ中間周波数成分を抑制することによる鮮鋭度強調処理(特開平 9-22460号)とを組み合せた構成とするのが最適である。
【0051】
上記原画像信号finと粒状抑制処理画像信号f1 との差|f1 −fin|が比較対照とされる所定の閾値Tとしては、原画像信号finが採りうる階調数Dの1%から20%の範囲の値α×D(0.01≦α≦0.20)が好ましく、2%から10%の範囲の値α×D(0.02≦α≦0.10)がより望ましい。
【0052】
【発明の効果】
本発明の画像処理方法および画像処理装置によれば、画像信号に対して、鮮鋭度を強調する処理と粒状を抑制する処理とを各別に施して、得られた各処理後の画像信号同士を、画素を対応させて演算処理することにより1つの処理済画像信号を得るため、従来の各種の方法または装置に比して、画像に対する粒状抑制と鮮鋭度強調を効果的に両立することができる。しかも、上記演算処理に先だって、原画像信号と粒状抑制処理画像信号との差と、所定の閾値とが比較され、この比較の結果、閾値の方が小さい画素すなわち粒状抑制度合いが高い画素については、上述した粒状抑制処理を含む処理を施さずに、原画像信号、原画像信号を強調した信号または鮮鋭度強調処理画像信号を出力するため、例えば、ポートレートなどでは必須とされる人物の瞳に写るキャッチライトなどの、本来は粒状抑制されるべきではない画像部分が、誤って上述した粒状抑制処理を含む処理により粒状抑制されることがない。
【0053】
演算処理を上記式(1)に示すものとすれば、粒状を抑制する画像処理により粒状が抑制された画像信号と鮮鋭度を強調する画像処理により鮮鋭度が強調された画像信号とを加重平均することにより、粒状を抑制しつつ鮮鋭度を強調することができる。
【0054】
また演算処理を上記式(2)に示すものとすれば、粒状抑制処理画像信号と原画像信号との差、および鮮鋭度強調処理画像信号と原画像信号との差により、これらの各差を重みづけ加算した値を処理済画像信号とするため、シャープネスよりも粒状の存在が比較的目立つ濃度平坦部(濃度(または輝度)変化の少ない画像部分)に対応する画素の画像信号は粒状抑制処理の寄与率が大きくなり、粒状よりもシャープネスが比較的目立つエッジ部(濃度(または輝度)変化の急峻な画像部分)に対応する画素の画像信号は鮮鋭度強調処理の寄与率が大きくなるため、画像のエッジ部を鈍らせることなく、粒状を抑制することができる。
【0055】
粒状を抑制する画像処理としてのモルフォロジー演算を利用した粒状抑制処理と、鮮鋭度を強調する画像処理としての特開平 9-22460号に開示された画像の高周波数成分を強調しつつ中間周波数成分を抑制し処理後の高周波数成分および中間周波数成分並びに低周波数成分を合成することによる鮮鋭度強調処理とを組み合せた構成を採用した場合は、以下の効果がある。
【0056】
すなわち、特に上記演算処理を式(2)に示すものを適用した場合において、鮮鋭度強調の部分に粒状抑制が全く施されていない場合は、極端に鮮鋭度強調を行うと粒状も強調されて原画像信号との差が、粒状抑制処理画像信号と原画増信号との差よりも結果的に大きくなり、粒状抑制がなされないことになる。このことから式(2)を適用する場合には、鮮鋭度強調処理によってもある程度の粒状抑制の効果を得られる処理である、特開平 9-22460号に開示された鮮鋭度強調処理を適用するのが好ましい。
【0057】
【発明の実施の形態】
以下、本発明の画像処理方法および画像処理装置の具体的な実施の形態について、図面を用いて説明する。
【0058】
図1は本発明の画像処理方法の一実施形態の処理フローを示すフローチャート、図2は図1に示した画像処理方法を実施する画像処理装置を示す図である。
【0059】
図示の画像処理装置は、デジタルスチルカメラにより撮影された、またはカラー写真プリントもしくはカラーフイルムから光電的にスキャナー等で読み取られた、カラー画像を表すRGBの原画像信号Rin,Gin,Bin(いずれも階調数は1024)の入力を受けて、これらのRGB画像信号Rin,Gin,Binに対してそれぞれ、粒状を抑制する画像処理を施す粒状抑制処理手段11と、鮮鋭度を強調する画像処理を施す鮮鋭度強調処理手段12と、粒状抑制処理手段11による粒状抑制処理により取得された粒状抑制処理画像信号R1 ,G1 ,B1 と原画像信号Rin,Gin,Binとの各RGB信号ごとの差|R1 −Rin|,|G1 −Gin|,|B1 −Bin|を求め、これらの各差と各RGB信号ごとに予め設定された閾値α1・1023,α2・1023,α3・1023とを比較し、この比較結果を出力する比較手段30と、この比較手段30による比較結果に基づいて、所定の演算処理を行う信号処理手段20とを備えた構成である。
【0060】
ここで、予め設定されて比較手段30に記憶されている各閾値α1・1023,α2・1023,α3・1023は、各原画像信号Rin,Gin,Binの階調数に対応したものであり、各係数α1,α2,α3は本実施形態においてはいずれも0.04(階調数の4%)とした。なおこれらの係数α1,α2,α3は、同一値を採るものに限るものではなく、原画像信号が表す画像の種類等に応じてRGB間で相異なる値としてもよく、また、その値も上述した0.04に限るものではないが、一般的にはそれぞれ0.01から0.20の範囲の値を採用するのが好ましく、0.02から0.10の範囲の値を採用するのがより望ましい。
【0061】
信号処理手段20による上記所定の演算処理の具体的な内容は、以下に示す通りである。すなわち、比較手段30による比較結果が、RGBのいずれの比較結果においても、閾値の方が大きいか等しい画素については、第1の演算処理である、粒状抑制処理画像信号R1 ,G1 ,B1 および鮮鋭度強調処理手段12による鮮鋭度強調処理により取得された鮮鋭度強調処理画像信号R2 ,G2 ,B2 に基づいて、両処理画像信号の画素を対応させた画素ごとの演算処理結果g(R1 ,R2 ),g(G1 ,G2 ),g(B1 ,B2 )を処理済画像信号Rout ,Gout ,Bout とする演算処理を施し、一方、RGBのいずれかの比較結果において、閾値の方が小さい画素については、第2の演算処理である、鮮鋭度強調処理画像信号R2 ,G2 ,B2 を処理済画像信号Rout ,Gout ,Bout とする演算処理を施すものである。
【0062】
ここで、信号処理手段20による上記第1の演算処理gとしては例えば、下記式(1)に示す重みづけ加算処理が適用される。
【0063】
【数1】
Figure 0003901837
【0064】
すなわち、g(f1 ,f2 )=w1・f1+w2・f2である。
【0065】
ここで、重みづけ係数w1、w2の値は、各画素ごとに異なるものとして設定され、例えば原画像信号Rin,Gin,Binに応じて決定される。
【0066】
具体的には、シャープネスよりも粒状の存在が比較的目立つ濃度平坦部(濃度(または輝度)変化の少ない画像部分)に対応する画素については、粒状抑制処理画像信号f1 の重みw1が鮮鋭度強調処理画像信号f2 の重みw2より大きく設定され、これとは反対に、粒状よりもシャープネスが比較的目立つエッジ部(濃度(または輝度)変化の急峻な画像部分)に対応する画素については、粒状抑制処理画像信号f1 の重みw1よりも鮮鋭度強調処理画像信号f2 の重みw2の方が大きく設定される。
【0067】
ここでは、粒状抑制処理手段11による粒状抑制処理としてメディアンフィルター処理、鮮鋭度強調処理手段12による鮮鋭度強調処理としてアンシャープマスキング(USM)処理を適用するものとする。
【0068】
次に、本実施形態の画像処理装置の作用について、RGB信号のうちRの画像信号Rinを例にして説明する。
【0069】
まず、デジタルスチルカメラ等から、カラー画像を表すRGBの画像信号Rin,Gin,Binが粒状抑制処理手段11と、鮮鋭度強調処理手段12とにそれぞれ各別に入力される。画像信号Rinは上述したように図3(1)に示すような分布を有する信号であり、他の画像信号Gin,Binも所定の分布を有している(図示せず)。
【0070】
原画像信号Rinは、比較的大きな濃度変動を有するエッジ部と、濃度変動が少ない濃度平坦部とを表し、これらの濃度分布に高周波のノイズが重畳しており、この高周波ノイズは特に濃度平坦部において、視覚的に目立つものとなる。また、濃度平坦部(例えば人物等の瞳)には、この瞳に映るキャッチライトが存在する。
【0071】
粒状抑制処理手段11は、入力された原画像信号Rin,Gin,Binに対して各別に、メディアンフィルター処理を施し、粒状抑制処理画像信号R1 ,G1 ,B1 を算出する。図3(2)は、原画像信号Rinに対する粒状抑制処理による粒状抑制処理画像信号R1 を示す図である。
【0072】
一方、鮮鋭度強調処理手段12は、入力された原画像信号Rin,Gin,Binに対して各別に、USM処理を施し、鮮鋭度強調処理画像信号R2 ,G2 ,B2 を算出する。図3(3)は、原画像信号Rinに対する鮮鋭度強調処理による鮮鋭度強調処理画像信号R2 を示す図である。
【0073】
各図から解されるように、粒状抑制処理画像信号R1 は、原画像信号Rinの粒状が抑制されて平滑化された信号とされ、一方、鮮鋭度強調処理画像信号R2 は、原画像信号Rinのうち、濃度変動部分が強調された信号とされる。
【0074】
他の粒状抑制処理画像信号G1 ,B1 も粒状抑制処理画像信号R1 と同様に、粒状が抑制されて平滑化された信号とされ、他の鮮鋭度強調処理画像信号G2 ,B2 も鮮鋭度強調処理画像信号R2 と同様に、濃度変動部分が強調された信号とされる。
【0075】
粒状抑制処理手段11により算出された各粒状抑制処理画像信号R1 ,G1 ,B1 は、原画像信号R,G,Bとともに、比較手段30に入力される。
【0076】
比較手段30は、入力された粒状抑制処理画像信号R1 ,G1 ,B1 と原画像信号Rin,Gin,Binとに基づいて、各RGB信号ごとにそれらの差|R1 −Rin|,|G1 −Gin|,|B1 −Bin|を算出する。さらに比較手段30は、算出された各差|R1 −Rin|,|G1 −Gin|,|B1 −Bin|と予め設定された閾値α1・1023(R信号に対して),α2・1023(G信号に対して),α3・1023(B信号に対して)とを各RGB信号ごとに比較し、この比較結果を信号処理手段20に出力する。なお、図3(1)に示した粒状部分では上記差の値がこれらの閾値を下回り、キャッチライトの部分では、上記差の値が閾値を上回る。
【0077】
信号処理手段20は、比較手段30から入力された比較結果に基づいて、上述した第1の演算処理gまたは第2の演算処理を施す。
【0078】
第1の演算処理gの場合は、信号処理手段20は、入力された各画像信号について、各色RGBごとに、画素を対応させて、粒状抑制処理画像信号と鮮鋭度強調処理画像信号とを上記式(1)に従った重みづけ加算処理を行い、RGBの各色ごとに処理済画像信号を算出する。このとき式(1)中の重みづけ係数w1,w2は前述したように、シャープネスよりも粒状の存在が比較的目立つ濃度平坦部に対応する画素については、粒状抑制処理画像信号の重みw1が鮮鋭度強調処理画像信号の重みw2より大きく設定され、これとは反対に、粒状よりもシャープネスが比較的目立つエッジ部に対応する画素については、粒状抑制処理画像信号の重みw1よりも鮮鋭度強調処理画像信号の重みw2の方が大きく設定される。
【0079】
図3(4)は、同図(2)に示した粒状抑制処理画像信号R1 と、同図(3)に示した鮮鋭度強調処理画像信号R2 とを式(1)に従って重みづけ加算処理して得られた処理済画像信号Rout を示す。
【0080】
図から解されるように、処理済画像信号Rout は、原画像信号Rin(図3(1))に対して、粒状の存在が比較的目立つ濃度平坦部においては当該粒状が抑制されるとともに、シャープネスが比較的目立つエッジ部においては当該シャープネスの強調が図られるため、効果的に粒状の抑制と鮮鋭度の強調を両立することができる。他の処理済画像信号Gout ,Bout も処理済画像信号Rout と同様に、粒状の抑制と鮮鋭度の強調とが効果的に施された信号とされる。
【0081】
なお、図3(4)において、破線で示したものは、後述する第2の演算処理により処理される上記キャッチライト部分が、第1の演算処理gにより処理された場合の処理後の様子を示すものであり、第2の演算処理により処理された後の様子との比較のために仮定的に表示したものである。
【0082】
一方、第2の演算処理の場合は、信号処理手段20は、RGBの各色ごとに鮮鋭度強調処理画像信号を処理済画像信号として出力するため、上記キャッチライトに対応した部分も鮮鋭度強調処理画像信号が処理済画像信号として出力される(図3(5)参照)。
【0083】
そして画素ごとに上記第1の演算処理または第2の演算処理が施された処理済画像信号が信号処理手段20から出力される(図3(6)参照)。
【0084】
このように本実施形態の画像処理装置によれば、原画像に存在する粒状を効果的に抑制するとともにシャープネスを効果的に強調することができ、しかも、上記キャッチライトのような一定の画像部分については、比較手段30による閾値処理により、粒状部分と同様の粒状抑制処理が施される(図3(4)に示す破線部分)のを防止して処理後の画像においても精度よく残すことができる。
【0085】
なお本実施形態の画像処理装置において、信号処理手段20が入力された信号に対して第1の演算処理を施すかまたは第2の演算処理を施すかの切換えについては、図1に示すように、カラー画像信号RGBごとの比較手段30による比較結果に応じて、RGBのうちいずれか1つでも閾値の方が小さい画素については、RGBのいずれも第2の演算処理を施し、RGBのすべてにおいて閾値の方が大きい画素については、RGBのいずれも第1の演算処理を施す、とするRGB一括の切換えであるが、本発明の画像処理方法および画像処理装置はこのように同一の画素についてRGB間で同一の処理となるように切り換えるものに限るものではなく、同一の画素であっても、R信号については第1の演算処理、G信号とB信号については第2の演算処理というように、RGBごとに異なる演算処理に切換え可能とするものも含むものである。
【0086】
すなわち、信号処理手段20による処理を図6に示すように、比較手段30によるRGBごとの比較結果に応じて、それぞれRGBごとに演算処理を第1の演算処理と第2の演算処理とを切り換える処理とすればよい。このような処理とすることで、同一の画素であっても、RGB間で異なる演算処理を施すことができる。
【0087】
また、本実施形態の画像処理装置は、カラー画像信号を画像処理の対象としたためにRGBごとにそれぞれ粒状抑制処理、鮮鋭度強調処理、閾値処理等するものとしたが、濃淡のみで表示される画像信号を対象とすることもできる。
【0088】
また、上記画像処理装置は、信号処理手段20による第1の演算処理gとして式(1)に示す重みづけ加算処理を適用した実施形態であるが、本発明の画像処理方法および画像処理装置は、式(1)による演算処理のものに限るものではなく、種々の適切な演算処理を適用することができる。
【0089】
例えば、下記式(2)に示す演算処理を適用することもできる。
【0090】
【数2】
Figure 0003901837
【0091】
すなわち、粒状抑制処理画像信号R1 と原画像信号Rinとの差|R1 −Rin|および鮮鋭度強調処理画像信号R2 と原画像信号Rinとの差|R2 −Rin|により、各差|R1 −Rin|、|R2 −Rin|を重みづけ加算した値を処理済画像信号Rout とする演算処理である。これにより、シャープネスよりも粒状の存在が比較的目立つ濃度平坦部に対応する画素の画像信号は粒状抑制処理の寄与率が大きくなり、粒状よりもシャープネスが比較的目立つエッジ部に対応する画素の画像信号は鮮鋭度強調処理の寄与率が大きくなるため、画像のエッジ部を鈍らせることなく、粒状を抑制することができる。
【0092】
なお、式(2)に示した演算処理を適用する実施形態においては、モルフォロジー演算を利用した粒状抑制処理と、画像の高周波数成分を強調しつつ中間周波数成分を抑制することによる鮮鋭度強調処理(特開平 9-22460号)とを組み合せた構成とするのが最適である。
【0093】
本発明の画像処理方法、画像処理装置による処理の対象となる画像信号としては、上述した写真フイルムやプリントに記録された画像を光電的に読み取って得られた画像信号の他、デジタルスチルカメラによって撮影された画像信号も適用することができる。
【0094】
なお、本発明の画像処理方法、装置は、本出願人による特願平9-56551 号(または欧州特許出願公開第800,114A号)に開示された、所定の感光部材を用いた画像形成方法により形成された画像から得られた画像信号に対しても適用することができ、この画像信号に特有の、銀画像に残留する粒状成分に起因する粒状を抑制するのに特に有効であった。
【0095】
ここで特願平9-56551 号に開示された画像形成方法とは、感光性ハロゲン化銀粒子を含有し、所定の処理部材と重ね合わせて加熱されることによって露光により記録された潜像に対応した画像を形成する感光部材を使用するものであって、前記感光部材に露光により潜像を記録し、前記感光部材と前記処理部材とを重ね合わせ、前記重ね合わせた感光部材と処理部材とを加熱することにより該感光部材に記録された前記潜像に対応した画像を該感光部材上に形成し、前記画像が形成された感光部材を前記処理部材から剥離し、前記形成された感光部材上の画像をスキャナにより読み取って該画像を表す画像データを得、該画像データに所定の画像処理を施すことにより再生可能なデジタル画像データを作成する方法およびシステムを意味し、上記感光部材は、いわゆる非湿式の処理過程(少量の水を用いることを妨げるものではない)により、記録されている潜像を現し出すことのできる感光部材であり、例えば、支持体上に、少なくとも感光性ハロゲン化銀粒子、バインダー、および画像状に拡散性色素を放出ないし拡散する機能を持つ色材を含み、その感光波長領域が互いに異なり、前記色材の現像処理後における色相も互いに異なる少なくとも3種類の感光層を有する色材含有熱現像感光部材であり、前記処理部材は、前記色材含有熱現像感光部材と重ね合わせて加熱することにより前記色材含有熱現像感光部材上に画像を形成するものであって、支持体上に少なくとも媒染剤を含む層を有する媒染剤含有処理部材であり、前記加熱により前記熱現像感光部材から放出される前記拡散性色素の少なくとも一部を前記色材含有熱現像感光部材から除去することにより、該色材含有熱現像感光部材上に少なくとも3色の色画像を形成することが望ましい。
【0096】
あるいは、前記感光部材は、支持体上に、少なくとも感光性ハロゲン化銀粒子、バインダー、発色現像主薬、および色素供与性カプラーを含み、その感光波長領域が互いに異なり、前記発色現像主薬の酸化体および前記色素供与性カプラーから形成される色素の色相も互いに異なる少なくとも3種類の感光層を有する熱現像感光部材であり、前記処理部材が、前記熱現像感光部材と重ね合わせて加熱することにより前記熱現像感光部材上に画像を形成する処理部材であり、前記加熱により、前記熱現像感光部材上に少なくとも3色の色画像を形成するようにしてもよい。
【0097】
さらに、前記感光部材は、透明支持体上に、少なくとも感光性ハロゲン化銀粒子、発色現像主薬、カプラーおよびバインダーを含み、その感光波長領域が互いに異なり、前記発色現像主薬の酸化体および前記カプラーから形成される色素の吸収波長領域も互いに異なる少なくとも3種の感光層を有する感光部材であり、前記処理部材が、支持体上に少なくとも塩基および/または塩基プレカーサーを含む処理層を有する処理部材であり、前記感光部材と前記処理部材を、前記感光部材と処理部材双方のバック層を除く全塗布膜を最大膨潤させるに要する量の0.1から1倍に相当する水の存在下で、前記感光部材の前記感光層と前記処理部材の処理層が向かい合う形となるように重ね合わせて加熱して、前記感光部材上に少なくとも3色の非拡散性色素に基づく画像を形成するようにしてもよい。
【0098】
(実験例)
以下、下記(1)および(2)の各フイルムを用いて撮影された人物の瞳の中のキャッチライトを例にして、上記閾値Tを規定する係数α(上記実施形態におけるα1,α2,α3に相当)について検証した結果を示す。
【0099】
(1)カラーフイルム「G ACE800(富士写真フイルム)」の−2アンダーで撮影された、 256階調(8bit )のG信号Ginにおいて、|G1 −Gin|との比較対象となる閾値Tを13としたときに、上記キャッチライトが、誤って粒状抑制されるのを防止しつつ、画像に対する粒状抑制と鮮鋭度強調を効果的に両立することができた。このとき、G信号の階調数(= 256)に対する閾値T(=13)は、略5%であった。
【0100】
(2)カラーフイルム「G ACE400(富士写真フイルム)」のノーマルで撮影された、 256階調(8bit )のG信号Ginにおいて、|G1 −Gin|との比較対象となる閾値Tを26としたときに、上記キャッチライトが、誤って粒状抑制されるのを防止しつつ、画像に対する粒状抑制と鮮鋭度強調を効果的に両立することができた。このとき、G信号の階調数(= 256)に対する閾値T(=13)は、略10%であった。
【0101】
なお、以上の実験は、キャッチライトの中心画素のみをキャッチライトとして処理したものであるが、実際の画像においてはこの中心画素だけではなく、その隣接画素もキャッチライトとして必要に応じて処理する必要があるため、上記実験結果を基にして閾値の値を種々変更して最適な閾値を求め、階調数に対する好ましい係数値αを、0.01(1%)から0.20(20%)の範囲の値、より好ましくは0.02(2%)から0.10(10%)の範囲の値とした。
【図面の簡単な説明】
【図1】本発明の画像処理方法の一実施形態の処理フローを示すフローチャート
【図2】図1に示した画像処理方法を実施する画像処理装置を示す図
【図3】(1)原画像信号Rinを示す図、(2)原画像信号Rinに基づく粒状抑制処理画像信号R1 を示す図、(3)原画像信号Rinに基づく鮮鋭度強調処理画像信号R2 を示す図、(4)第1の演算処理結果を示す図、(5)第2の演算処理結果を示す図、(6)最終的な処理済画像信号Rout を示す図
【図4】モルフォロジー演算の基本的な作用を説明する図
【図5】低・中間・高周波数成分の分布を表すグラフ
【図6】本発明の画像処理方法の他の実施形態の処理フローを示すフローチャート
【符号の説明】
11 粒状抑制処理手段
12 鮮鋭度強調処理手段
20 信号処理手段
30 比較手段

Claims (6)

  1. 原画像を構成する画素の値を規定する原画像信号に所定の処理を施して処理済画像信号を得る画像処理方法において、
    前記原画像信号に、粒状を抑制する画像処理および鮮鋭度を強調する画像処理を各別に施し、
    前記画素ごとに、前記原画像信号と前記粒状を抑制する画像処理により取得された粒状抑制処理画像信号との差と、所定の閾値とを比較し、
    前記比較の結果、前記所定の閾値の方が大きい画素については、前記粒状抑制処理画像信号および前記鮮鋭度を強調する画像処理により取得された鮮鋭度強調処理画像信号の画素を対応させた下記式で定義される演算処理により前記処理済画像信号を得、
    前記比較の結果、前記所定の閾値の方が小さい画素については、前記原画像信号または前記鮮鋭度強調処理信号を前記処理済画像信号とする
    ことを特徴とする画像処理方法。
    Figure 0003901837
  2. 前記鮮鋭度を強調する画像処理が、前記画像信号を低周波数成分、中間周波数成分および高周波数成分に分解し、前記高周波数成分を強調するとともに、前記中間周波数成分を抑制する強調抑制処理を行い、該強調抑制処理後の各周波数成分および前記低周波数成分を合成することにより前記鮮鋭度強調処理画像信号を取得する処理であり、前記粒状を抑制する画像処理が、モルフォロジー演算に基づいた平滑化処理であることを特徴とする請求項1記載の画像処理方法。
  3. 前記所定の閾値が、前記原画像信号の階調数の1%から 20 %の範囲の値であることを特徴とする請求項1または2記載の画像処理方法。
  4. 原画像を構成する画素の値を規定する原画像信号に所定の処理を施して処理済画像信号を得る画像処理装置において、
    前記原画像信号に、粒状を抑制する画像処理を施す粒状抑制処理手段と、
    前記原画像信号に、鮮鋭度を強調する画像処理を施す鮮鋭度強調処理手段と、
    前記画素ごとに、前記原画像信号と前記粒状抑制処理手段による前記粒状を抑制する画像処理により取得された粒状抑制処理画像信号との差と、所定の閾値とを比較する比較手段と、
    前記比較手段による前記比較の結果、前記所定の閾値の方が大きい画素については、前記粒状抑制処理画像信号および前記鮮鋭度強調処理手段による前記鮮鋭度を強調する画像処理により取得された鮮鋭度強調処理画像信号の画素を対応させた下記式で定義される演算処理を施して前記処理済画像信号を得、前記比較の結果、前記所定の閾値の方が小さい画素については、前記原画像信号または前記鮮鋭度強調処理信号を前記処理済画像信号とする信号処理手段と
    を備えたことを特徴とする画像処理装置。
    Figure 0003901837
  5. 前記鮮鋭度強調処理手段による前記鮮鋭度を強調する画像処理が、前記画像信号を低周波数成分、中間周波数成分および高周波数成分に分解し、前記高周波数成分を強調するとともに、前記中間周波数成分を抑制する強調抑制処理を行い、該強調抑制処理後の各周波数成分および前記低周波数成分を合成することにより前記鮮鋭度強調処理画像信号を取得する処理であり、前記粒状抑制処理手段による前記粒状を抑制する画像処理が、モルフォロジー演算に基づいた平滑化処理であることを特徴とする請求項4記載の画像処理装置。
  6. 前記所定の閾値が、前記原画像信号の階調数の1%から 20 %の範囲の値であることを特徴とする請求項4または5記載の画像処理装置。
JP09740398A 1998-02-10 1998-04-09 画像処理方法および装置 Expired - Fee Related JP3901837B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP09740398A JP3901837B2 (ja) 1998-04-09 1998-04-09 画像処理方法および装置
US09/244,950 US6445831B1 (en) 1998-02-10 1999-02-10 Image processing method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP09740398A JP3901837B2 (ja) 1998-04-09 1998-04-09 画像処理方法および装置

Publications (2)

Publication Number Publication Date
JPH11298738A JPH11298738A (ja) 1999-10-29
JP3901837B2 true JP3901837B2 (ja) 2007-04-04

Family

ID=14191554

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09740398A Expired - Fee Related JP3901837B2 (ja) 1998-02-10 1998-04-09 画像処理方法および装置

Country Status (1)

Country Link
JP (1) JP3901837B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7187785B2 (en) 2001-08-28 2007-03-06 Nippon Telegraph And Telephone Corporation Image processing method and apparatus
JP4135713B2 (ja) * 2002-05-14 2008-08-20 富士ゼロックス株式会社 カラー画像形成装置及びカラー画像形成方法
JP4652717B2 (ja) 2004-04-26 2011-03-16 株式会社ミツトヨ 画像処理装置及び方法並びにプログラム

Also Published As

Publication number Publication date
JPH11298738A (ja) 1999-10-29

Similar Documents

Publication Publication Date Title
US6667815B1 (en) Method and apparatus for processing images
US6373992B1 (en) Method and apparatus for image processing
US7308152B2 (en) Image processing method, apparatus, and program
US7356194B2 (en) Image processing method, apparatus, and program
JP4053185B2 (ja) 画像処理方法および装置
EP1742178B1 (en) Contrast enhancement of images
JP2002262094A (ja) 画像処理方法及び画像処理装置
JP2004127064A (ja) 画像処理方法、画像処理装置、画像処理プログラム及び画像記録装置
JP2002044473A (ja) 画像処理方法、画像処理装置および画像処理方法を実行するプログラムを記録した記録媒体
JPS61161091A (ja) 画像処理方法
JP2003203231A (ja) 黒レベルを維持する画像処理方法
US6445831B1 (en) Image processing method and apparatus
JP3901837B2 (ja) 画像処理方法および装置
JP3910267B2 (ja) 画像処理方法および装置
JP4008087B2 (ja) 画像処理方法および装置
JP2001285641A (ja) 画像処理方法、画像処理装置および記録媒体
JP3729118B2 (ja) 画像処理方法、画像処理装置、画像処理プログラム、これを記録したコンピュータ読み取り可能な記録媒体
JP3804880B2 (ja) ディジタル画像のノイズ抑制およびシャープネス強調のための画像処理方法
JP3950226B2 (ja) 画像処理方法および装置
JP4445026B2 (ja) 画像処理方法および装置並びにプログラム
JP2003189101A (ja) 画像形成方法
JPH11306344A (ja) 画像処理方法および装置
JP2002281316A (ja) ノイズ成分識別方法、画像処理方法、画像処理装置およびプログラム
JP2000175046A (ja) 画像処理方法および装置
JPH11259651A (ja) 画像処理方法および装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060823

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061227

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110112

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110112

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120112

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120112

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130112

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130112

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140112

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees