JPWO2005057909A1 - 画像補正方法及びプログラム、並びに装置 - Google Patents

画像補正方法及びプログラム、並びに装置 Download PDF

Info

Publication number
JPWO2005057909A1
JPWO2005057909A1 JP2005511676A JP2005511676A JPWO2005057909A1 JP WO2005057909 A1 JPWO2005057909 A1 JP WO2005057909A1 JP 2005511676 A JP2005511676 A JP 2005511676A JP 2005511676 A JP2005511676 A JP 2005511676A JP WO2005057909 A1 JPWO2005057909 A1 JP WO2005057909A1
Authority
JP
Japan
Prior art keywords
pixel
level
image
color component
correction amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005511676A
Other languages
English (en)
Other versions
JP4480677B2 (ja
Inventor
清水 雅芳
雅芳 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2005057909A1 publication Critical patent/JPWO2005057909A1/ja
Application granted granted Critical
Publication of JP4480677B2 publication Critical patent/JP4480677B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • G06T5/90
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Abstract

本発明に係る画像補正方法は、特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての所定の条件のいずれかを満たす第1の画素を特定するステップと、特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての上記所定の条件を複数満たす第2の画素を特定するステップと、第1の画素と第2の画素との重複度合いに関する評価値を算出するステップと、評価値に基づき、特定の画像を補正する補正ステップとを含む。これにより、有彩度の被写体を誤って補正しないようにすることができ、適切な画像補正が実施される。

Description

本発明は、画像補正技術に関する。
近年、デジタルカメラやカラープリンタなどの画像関連機器の普及、計算機の性能の向上により、カラー画像をデジタルデータとして扱う機会が増えてきた。ところが、デジタルカメラなどで撮影されたカラー画像の画質は、必ずしもユーザにとって満足のいくものとは限らない。例えば、照明光の影響を受け、カラーバランスがくずれてしまっているようなことがある。このような場合、本来は白である被写体に薄く他の色がついてしまう。そのため、ユーザが満足する画像が得られるようにカラーバランス(特にホワイトバランス)を補正する技術が望まれている。しかしながら、画像の中に有彩色の画素が多い場合等には、カラーバランスの補正は困難である。
例えば特開2000−165906号公報(特許文献1)には、画像中の有彩色部分の影響を避けてホワイトバランスを補正するための技術が開示されている。すなわち、画像メモリから読み出したカラー画像データから、明度情報と彩度情報とを抽出して、カラー画像データの全画素中の白及び予め設定した白に近いと認識される領域を決定し、その領域における各色成分の平均値に基づき画像処理用係数を算出して出力する。そして、画像処理部は、画像処理用係数と処理フラグとを入力として受け付け、これらに基づいて画像メモリから読み出された画像データに対して自動的にホワイトバランス補正処理を施す。
特開2000−165906
しかしながら、上記のような技術によると、元々画像中に白色の部分が無く、例えば淡い色の部分がある場合、その淡い色を白色に補正するような判断がなされ、誤った補正が行われる可能性がある。第8A図及び第8B図の画像例を用いて具体的に説明する。第8A図及び第8B図には、例えば植物をデジタルカメラ等で撮影した場合の画像例が示されている。
第8A図の例には、茶色領域10と薄紫色領域11と緑色領域12とが含まれている。一方、第8B図の例には、茶色領域20と白色領域21と緑色領域22とが含まれている。すなわち、第8A図と第8B図とでは、花の色が異なっており、第8A図の例には、白色の部分がない。このような場合、上で述べた従来技術を用いて第8A図の画像に対して補正を行うと、通常、薄紫色領域11が補正対象として特定され、白色に補正される。すなわち、第8B図のような画像に補正される。薄紫色領域11が本来は白色の花の領域であり、例えば照明光の影響を受けて薄紫色になってしまっていたような場合には、適切な補正が行われたことになる。しかし一方で、薄紫色領域11が元々薄紫色の花の領域であり、本来補正の必要がなかった場合には、不適切な補正が行われたことになる。従って、このような場合、白に近い淡い色だという判断によって自動的に補正を行うのは適切ではない。
このように、上で述べた従来技術によると、元々白色の部分がない画像に対して誤った補正がなされる可能性があった。
従って、本発明の目的は、画像のカラーバランスを適切に補正するための新規な技術を提供することである。
本発明に係る画像補正方法は、特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての所定の条件のいずれかを満たす第1の画素を特定する第1画素特定ステップと、特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての上記所定の条件を複数満たす第2の画素を特定する第2画素特定ステップと、第1の画素と第2の画素との重複度合いに関する評価値を算出するステップと、当該評価値に基づき、特定の画像を補正する補正ステップとを含む。
有彩度の被写体を誤って補正しないようにするには、各画素における各色成分の画素レベルの構成を画像全体について評価する必要がある。本発明では、上で述べたように第1の画素(特定の画像における第1の画素群)と第2の画素(特定の画像における第2の画素群)との重複度合いを評価し、その評価結果である上記評価値に基づき補正を行うことにより、有彩度の被写体を誤って補正しないようにする。従って、適切な画像補正が実施されるようになる。なお、白色のカラーバランスだけではなく、黒色のカラーバランスを調整する場合にも同様の処理を行えばよい。
また、上で述べた補正ステップが、上記評価値に基づき補正量を算出する補正量算出ステップを含むようにしてもよい。上記評価値は、有彩度の被写体を含む可能性(又は逆に本来白(又は黒)である被写体を含む可能性)を反映した値と考えられ、当該評価値に応じて補正量が調整されれば、適切な補正が行われるようになる。
また、本発明において、特定の画像について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、ヒストグラム・データを用いて、最上位の画素レベルからの累積度数が特定の画像において処理の対象とされる画素数の所定の割合(第1の割合)となる第1の画素レベルを色成分毎に特定するステップとをさらに含み、上記所定の条件が、特定された第1の画素レベルと色成分の限界レベルとの間に含まれる画素レベルを有するという条件とするようにしてもよい。
限界レベルとは、画素レベルの最大値又は最小値を示し、例えばRGBで色成分を表す場合にハイライトは最大値側となる。このように各色成分の画素レベルについての度数分布に基づき上記所定の条件を設定することにより、より適切な画像の評価を行うことができるようになる。すなわち、各色成分の画素レベルについての度数分布の偏りを考慮に入れた形で、第1の画素及び第2の画素を特定できるようになる。
さらに、本発明において、特定の画像について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、ヒストグラム・データを用いて、最上位の画素レベルからの累積度数が特定の画像において処理の対象とされる画素数の所定の割合(第2の割合)となる第2の画素レベルを色成分毎に特定するステップとをさらに含み、上で述べた補正量算出ステップが、第2の画素レベルと色成分の限界レベルとの差に基づき、色成分毎の暫定補正量を算出するステップと、当該暫定補正量を評価値に基づき変更するステップとを含むようにしてもよい。
このように各色成分の画素レベルについての度数分布に基づき各色成分の暫定補正量を算出することにより、特定の画像に適応した暫定補正量が算出される。さらに評価値に基づき当該暫定補正量を調整するため、特定の画像に適応した適切な画像補正が行えるようになる。
また、上で述べた補正量算出ステップが、上記評価値に基づき、第3の割合を設定するステップと、特定の画像について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、ヒストグラム・データを用いて、最上位の画素レベルからの累積度数が特定の画像において処理の対象とされる画素数の上記第3の割合となる第3の画素レベルを色成分毎に特定するステップと、上記第3の画素レベルと色成分の限界レベルとの差に基づき、補正量を決定するステップとを含むようにしてもよい。度数分布における閾値(上記第3の割合)を評価値に応じて設定することにより、暫定補正量を算出してから評価値により調整する手法と同様の効果を得ることができるようになる。
さらに、上で述べた補正ステップが、上記評価値に応じて、基準補正量の計算方式を特定するステップと、特定された計算方式に従い、基準補正量を算出するステップと、当該基準補正量を用いて特定の画像を補正するステップとを含むようにしてもよい。評価値に応じて基準補正量の計算方式を変更することにより、有彩度の被写体を含む可能性に応じた適切な補正量が計算されるようになる。
また、本発明において、特定の画像に含まれる画素のうち、色成分のいずれかの画素レベルが限界レベルである画素を特定するステップをさらに含み、第1画素特定ステップ及び第2画素特定ステップにおいて、色成分のいずれかの画素レベルが限界レベルである画素以外の画素に対して処理を行うようにしてもよい。色成分のいずれかの画素レベルが限界レベルである画素は、例えば逆光等の影響により、規定されている画素レベルの限界レベルを超えてしまった画素である可能性がある。このような画素を処理対象から排除することにより、色成分毎の画素レベルの本来の構成を保持している画素について判断することができるようになる。すなわち適切な第1の画素及び第2の画素が特定される。
さらに、上で述べた第2画素特定ステップにおいて、特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての上記所定の条件を全て満たす第2の画素を特定するようにしてもよい。すなわち、全ての色成分について画素レベルが高い(又は低い)画素が特定されることになり、より本来白色(又は黒色)であったと考えられる画素が特定されるようになる。
また、本発明において、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、ヒストグラム・データを用いて、色成分の限界レベルからの累積度数が特定の画像において処理の対象とされる第2の画素数の所定の割合となる第4の画素レベルを色成分毎に特定するステップとをさらに含み、上記補正量算出ステップが、第4の画素レベルと色成分の限界レベルとの差に基づき、色成分毎の暫定補正量を算出するステップと、暫定補正量を上記評価値に基づき変更するステップとを含むようにしてもよい。
このように第2の画素についてのみヒストグラムを生成するようにすれば、有彩度と考えられる画素の影響が第4の画素レベルの決定において除外される。従って、補正量の算出において有彩度の被写体の影響を受けにくくなる。
なお、上記評価値を、第1の画素の数と第2の画素の数との比とすることも可能である。
なお、本発明に係る方法をコンピュータに実行させるためのプログラムを作成することも可能であって、当該プログラムは、例えばフレキシブル・ディスク、CD−ROM、光磁気ディスク、半導体メモリ、ハードディスク等の記憶媒体又は記憶装置に格納される。また、ネットワークを介してデジタル信号として配信される場合もある。なお、処理途中のデータについては、コンピュータのメモリ等の記憶装置に一時保管される。
第1A図は、第1のケースについて色成分を説明するための概念図である。
第1B図は、第2のケースについて色成分を説明するための概念図である。
第1C図は、第3のケースについて色成分を説明するための概念図である。
第2図は、本発明の一実施例に係るカラーバランス補正装置の機能ブロック図である。
第3図は、本発明の一実施例に係る処理フローの前半部分を示す図である。
第4図は、第1のケースについてレベル値設定を説明するための概念図である。
第5図は、本発明の一実施例に係る処理フローの後半部分を示す図である。
第6図は、補正処理に用いる式の概念図である。
第7図は、第2のケースについてレベル値設定を説明するための概念図である。
第8A図は、第1の画像例である。
第8B図は、第2の画像例である。
[本発明を実施するための最良の形態]
まず、第1A図乃至第1C図に示す色成分の概念図を用いて、本発明の原理について説明する。第1A図には、入射光110と反射光111と面112とが示されている。入射光110には、例えば光の三原色である赤(R)、緑(G)及び青(B)の各色成分が含まれている。通常、光は波長に対して連続的なスペクトル分布を有しているが、ここでは模式的に3成分で表している。図中の矢印の長さは各色成分の大きさを表しており、例えば適切にホワイトバランスが調整されたデジタルカメラで撮影された場合の値に対応している。入射光110については全ての色成分が等しい大きさを有しており、無彩色の光が面112に照射されていることが示されている。ここで、面112が薄紫色であり、無彩色の光を面112に照射する。そうすると、赤及び青の矢印が緑の矢印よりも長い状態を表す反射光111からも分かるように、主に赤い光と青い光を反射する。赤色と青色とが混ざると紫色になるため、反射光111を受けた人間には、面112が薄紫色に見える。
第1B図には、入射光120と反射光121と面122とが示されている。入射光120は、第1A図の入射光110と同様に無彩色の光である。ここで、面122は緑色であり、無彩色の光を面122に照射する。そうすると、赤及び青の矢印が緑の矢印よりも短い状態を表す反射光121からも分かるように、緑の光を主に反射する。反射光121を受けた人間には、面122が緑色に見える。
第1C図には、入射光130と反射光131と面132とが示されている。入射光130は、第1A図の入射光110及び第1B図の入射光120と同様に無彩色の光である。ここで、面132は白色であり、無彩色の光を面132に照射する。そうすると、赤、緑及び青の矢印の長さが等しい状態を表す反射光131からも分かるように、全ての光を反射する。反射光131を受けた人間には、面132が白色に見える。
以上のことから、例えば第8A図の画像例の薄紫色領域11の元となる被写体では第1A図に示したように光が反射し、緑色領域12の元となる被写体では第1B図に示したように光が反射する。すなわち、薄紫色領域11に含まれる画素の多くは、RGBの色成分のうち、R(赤)成分及びB(青)成分についての画素レベルが画像内の他の領域に含まれる画素に比べて高レベルとなっており、緑色領域12に含まれる画素の多くは、RGBの色成分のうち、G(緑)成分についての画素レベルが画像内の他の領域に含まれる画素に比べて高レベルとなっている。茶色領域10については説明を省略するが、薄紫色領域11や緑色領域12と同様に、画素レベルが高い色成分が偏っている。このように、白色の領域が存在しない画像には、全ての色成分について高い画素レベルを有する画素が多く含まれるような領域は存在しない。
一方、例えば第8B図の画像例の白色領域21の元となる被写体では第1C図に示したように光が反射する。すなわち、白色領域21に含まれる画素の多くは、RGBの色成分のうち、R(赤)成分、G(緑)成分及びB(青)成分、すなわち、全ての色成分についての画素レベルが画像内の他の領域に含まれる画素に比べて高レベルである。
無彩色の入射光に対して各色の面が反射する光(反射光)の状態は以上のようになる。すなわち、薄紫色である第1A図の面112は緑の成分を多く減衰させて反射し、緑色である第1B図の面122は赤及び青の成分を多く減衰させて反射し、白色である第1C図の面132は全ての色成分をほぼそのまま反射する。
ここで、例えば、赤及び青の矢印が緑の矢印よりも長い状態を表す第1A図の反射光111のような薄紫色の光が入射光として照射された場合について考察する。まず、第1A図の面112に対して、反射光111のような光が入射光として照射された場合、無彩色の入射光110が照射された時と比べ、緑の成分がより少なくなって反射される。すなわち、反射光111の緑の矢印のみがさらに短くなった状態の光が反射される。また、第1B図の面122に対して、反射光111のような光が入射光として照射された場合、無彩色の入射光120が照射された時と比べ、緑の成分が少なくなって反射される。すなわち、反射光121の緑の矢印が短くなり、例えば赤及び青の矢印と同様の長さとなった状態の光が反射される。
また、第1C図の面132は、入射光をそのまま反射するため、反射光111のような光が入射光として照射された場合、反射光111と同様の光が反射される。すなわち、薄紫色である第1A図の面112に無彩色の入射光110を照射した場合と同様の光が反射されることになり、例えばこのような反射光を受けた人間には、第1C図の面132が薄紫色に見える。
例えば第8A図に示した画像の元となる被写体に、上で述べたような薄紫色の光を照射した場合、全体的に紫色がかった色となるが、薄紫色領域11に含まれる画素の多くは、無彩色の光を照射した場合と同様、RGBの色成分のうち、R(赤)成分及びB(青)成分についての画素レベルが画像内の他の領域に含まれる画素に比べて高レベルとなる。また、緑色領域12についても同様に、緑色領域12に含まれる画素の多くは、RGBの色成分のうち、G(緑)成分についての画素レベルが画像内の他の領域に含まれる画素に比べて高レベルとなる。緑色領域12に含まれる画素のG(緑)成分についての画素レベルは、無彩色の光が照射された場合に比べて低くなるが、画像全体においてG(緑)成分についての画素レベルが低くなっているため、画像内の他の領域に含まれる画素に比べて、緑色領域12に含まれる画素のG(緑)成分についてのレベルは高いままである。
このように、白色の領域が存在しない画像には、画像の元となる被写体に無彩色ではない光が照射された場合においても、全ての色成分について高い画素レベルを有する画素が多く含まれるような領域は存在しない。
一方、例えば第8B図の画像の元となる被写体に、上で述べたような薄紫色の光を照射した場合、全体的に紫色がかった色となるが、薄紫色に見える白色領域21に含まれる画素の多くは、無彩色の光が照射された場合と同様、RGBの色成分のうち、R(赤)成分、G(緑)成分及びB(青)成分、すなわち、全ての色成分についての画素レベルが画像内の他の領域に含まれる画素に比べて高レベルである。白色領域21に含まれる画素のG(緑)成分についての画素レベルは、無彩色の光が照射された場合に比べて低くなるが、画像全体においてG(緑)成分についての画素レベルが低くなっているため、画像内の他の領域に含まれる画素に比べて、白色領域21に含まれる画素の全ての色成分についてのレベルは高いままである。
このように、白色領域の元となる被写体には、無彩色ではない光が照射された場合においても、全ての色成分について相対的に高い画素レベルを有する画素が多く含まれる。すなわち、元々白色の画素は、画像全体が特定の色方向に変色したような場合においても、全ての色成分について画像内において相対的に高い画素レベルを有している。
従って、処理すべき画像において、RGBそれぞれについての画素レベルについての度数分布、及び各画素における、各色成分についての画素レベルの構成(又はバランス)を解析することにより、元来白色領域ではないかもしれない画素を白色に補正してしまうといったことを防止できる。
第2図に、本発明の一実施例に係るカラーバランス補正装置の機能ブロック図を示す。カラーバランス補正装置1000には、画像データ入力部1001と画像データ格納部1003と不要画素除去処理部1005と処理対象画素データ格納部1007とヒストグラム生成部1009とヒストグラム・データ格納部1011とハイライト・レベル値算出部1013とハイライト・レベル値格納部1015とハイライト画素検出部1017とハイライト画素データ格納部1019と完全ハイライト画素検出部1021と完全ハイライト画素データ格納部1023と補正レベル値算出部1025と補正レベル値格納部1027と暫定補正量算出部1029と暫定補正量格納部1031と基準補正量設定部1033と基準補正量格納部1035と補正処理部1037と補正済画像データ格納部1039とが含まれている。
これらの処理内容の詳細については後の処理フローの説明において述べる。ここでは、各機能ブロックの連携関係を中心に簡単に説明しておく。
画像データ入力部1001は、例えばスキャナやデジタルカメラ等の外部装置とのインタフェイス等であって、画像データを読み込んだり受信した場合、画像データ格納部1003に格納する。不要画素除去処理部1005は、画像データ格納部1003から画像データを読み込み、階調についてオーバーフローが生じていないと判断された画素のデータを処理対象画素データ格納部1007に格納する。
ヒストグラム生成部1009は、処理対象画素データ格納部1007に格納されている画素データに基づき、色成分毎にヒストグラム・データを生成してヒストグラム・データ格納部1011に格納する。ハイライト・レベル値算出部1013は、ヒストグラム・データ格納部1011に格納されているデータに基づき、色成分毎のハイライト・レベル値を算出し、ハイライト・レベル値格納部1015に格納する。ハイライト・レベル値とは、画素レベルが高いか否かを判定するための閾値である。
ハイライト画素検出部1017は、ハイライト・レベル値格納部1015及び処理対象画素データ格納部1007を参照し、いずれかの色成分について画素レベルが高いと判断された画素の数をハイライト画素データ格納部1019に格納する。完全ハイライト画素検出部1021は、ハイライト・レベル値格納部1015及び処理対象画素データ格納部1007を参照し、全ての色成分について画素レベルが高いと判断された画素の数を完全ハイライト画素データ格納部1023に格納する。
補正レベル値算出部1025は、ヒストグラム・データ格納部1011に格納されているデータに基づき、色成分毎の補正レベル値を算出し、補正レベル値格納部1027に格納する。補正レベル値とは、画素レベルの閾値であり、以下に述べる暫定補正量の算出に用いられる。暫定補正量算出部1029は、補正レベル値格納部1027を参照して暫定補正量を算出し、暫定補正量格納部1031に格納する。暫定補正量とは、以下に述べる基準補正量を算出するために仮に決定しておく補正量である。基準補正量設定部1033は、ハイライト画素データ格納部1019と完全ハイライト画素データ格納部1023と暫定補正量格納部1031とを参照して基準補正量を算出し、基準補正量格納部1035に格納する。基準補正量とは、以下に述べる補正処理において基準となる補正量である。
補正処理部1037は、画像データ格納部1003から読み込んだ画像データに対し、基準補正量格納部1035に格納されている基準補正量に基づく補正処理を実施し、補正した画像データを補正済画像データ格納部1039に格納する。なお、処理対象画素データ格納部1007に格納されている画素データを補正の対象として用いる場合もある。
以下、第3図乃至第7図を用いて、第2図に示したカラーバランス補正装置1000の処理内容について説明する。本実施例では、例えばRGBの全色成分の画素レベルが高い白色のカラーバランスを補正するための処理の例を示す。なお、例えばRGBの全色成分の画素レベルが低い黒色のカラーバランスを補正するようにしても良い。
まず、例えばスキャナやデジタルカメラ等の外部装置に対するインタフェイス等である画像データ入力部1001は、画像データを読み込み又は受信し、画像データ格納部1003に格納する(第3図:ステップS1)。なお、この画像データは、例えば256階調のRGBで表されているものとする。
そして、不要画素除去処理部1005は、画像データ格納部1003に格納されている画像データから、R成分、G成分及びB成分のいずれの色成分の値も255ではない画素を特定し、処理対象画素データ格納部1007に格納する(ステップS3)。256階調の場合、255という値は限界値である。ここでは、このような値を有する画素は、逆光等の影響により、階調についてオーバーフローが生じていると判断し、処理対象から除外する。なお、この処理は必須ではない。
そして、ヒストグラム生成部1009は、処理対象画素データ格納部1007に格納されている画素データに基づき、R成分、G成分及びB成分のそれぞれの色成分についてヒストグラム・データを生成し、ヒストグラム・データ格納部1011に格納する(ステップS5)。
そして、ハイライト・レベル値算出部1013は、ヒストグラム・データ格納部1011に格納されているデータに基づき、各ヒストグラムのハイライト側(すなわち画素レベルが高い側)の例えば上位1%に該当するレベル値を算出し、ハイライト・レベル値(Rh,Gh,Bh)として、ハイライト・レベル値格納部1015に格納する(ステップS7)。
第4図に、レベル値設定の概念図を示す。第4図には、画素レベルに対応する軸401と、度数に対応する軸402と、度数曲線403と、基準レベル領域404と、設定されるレベル値を示す点405とが示されている。なお、画素レベルの値は例えば図の左から右に向かって大きくなっていく。また、度数曲線403は、例えば0から255までの画素レベル毎の度数に基づき生成される。画素レベルは離散的であるが、ここでは曲線で示している。
ハイライト・レベル値算出部1013は、まず、処理対象となる全画素数の例えば1%の画素数を求める。処理対象となる全画素数が例えば50万であれば、1%の画素数は5000である。そして、最上位からの累積度数が例えば5000に達する画素レベルを特定する。度数曲線403が曲線の場合、基準レベル領域404の面積が5000となる画素レベルを特定する。第4図の例では、点405の位置の画素レベルがハイライト・レベル値として特定される。このような処理を各色成分(R,G,B)について実施する。
第3図の説明に戻り、ハイライト画素検出部1017は、ハイライト・レベル値格納部1015及び処理対象画素データ格納部1007を参照し、R成分、G成分及びB成分のうち、いずれかの色成分についての画素レベルがハイライト・レベル値以上である画素の数をハイライト画素数(Ph)としてハイライト画素データ格納部1019に格納する(ステップS9)。そして、完全ハイライト画素検出部1021は、ハイライト・レベル値格納部1015及び処理対象画素データ格納部1007を参照し、R成分、G成分及びB成分の全ての色成分についての画素レベルがハイライト・レベル値以上である画素の数を完全ハイライト画素数(Ah)として完全ハイライト画素データ格納部1023に格納する(ステップS11)。そして、処理は端子Aを介して第5図の処理に移行する。
そして、補正レベル値算出部1025は、ヒストグラム・データ格納部1011に格納されているデータに基づき、各ヒストグラムのハイライト側(すなわち画素レベルが高い側)の例えば上位0.2%のレベル値を算出し、補正レベル値として、補正レベル値格納部1027に格納する(第5図:ステップS21)。補正レベル値の算出方法は、上で述べたハイライト・レベル値の算出方法と同様(第4図参照)である。
そして、暫定補正量算出部1029は、補正レベル値格納部1027に格納されている補正レベル値を参照して、各色成分につき、255から補正レベル値を引いた値を算出し、暫定補正量(Rct,Gct,Bct)として暫定補正量格納部1031に格納する(ステップS23)。
そして、基準補正量設定部1033は、ハイライト画素データ格納部1019と完全ハイライト画素データ格納部1023とを参照し、完全ハイライト画素数(Ah)/ハイライト画素数(Ph)が0.8より大きいか、すなわち、Ah/Ph>0.8が満たされるか判定する(ステップS25)。この比較に用いる数値は0.8に限られないが、本実施例では、Ah/Ph>0.8が満たされる場合、本来白色である被写体が含まれている可能性が十分に高いと判断するようにしている。
Ah/Ph>0.8が満たされると判定された場合(ステップS25:Yesルート)、基準補正量設定部1033は、暫定補正量格納部1031に格納されている暫定補正量(Rct,Gct,Bct)を、基準補正量(Rc,Gc,Bc)として設定し、基準補正量格納部1035に格納する(ステップS27)。すなわち、基準補正量の計算方法として以下の(1)式を特定し、(1)式に従って基準補正量を算出する。そして、後に述べるステップS35の処理に移行する。
Rc=Rct,Gc=Gct,Bc=Bct (1)
一方、Ah/Ph>0.8が満たされないと判定された場合(ステップS25:Noルート)、基準補正量設定部1033は、Ah/Ph<0.3が満たされるか判定する(ステップS29)。この比較に用いる数値は0.3に限られないが、本実施例では、Ah/Ph<0.3が満たされる場合、本来白色である被写体が含まれている可能性が十分に低いと判断するようにしている。
Ah/Ph<0.3が満たされると判定された場合(ステップS29:Yesルート)、基準補正量設定部1033は、補正が行われないようにするため、基準補正量としてRc,Gc及びBcに各々0を設定し、基準補正量格納部1035に格納する。(ステップS31)。すなわち、基準補正量の計算方法として以下の(2)式を特定し、(2)式に従って基準補正量を算出する。そして、後に述べるステップS35の処理に移行する。
Rc=0,Gc=0,Bc=0 (2)
一方、Ah/Ph<0.3が満たされないと判定された場合(ステップS29:Noルート)、基準補正量設定部1033は、基準補正量の計算方法として以下の(3)式を特定し、暫定補正量格納部1031に格納されている暫定補正量(Rct,Gct,Bct)を用いて、(3)式に従い基準補正量(Rc,Gc,Bc)を算出し、基準補正量格納部1035に格納する。(ステップS33)。すなわち、暫定補正量を低減して基準補正量とする。
Rc=Rct・(Ah/Ph−0.3)/0.5
Gc=Gct・(Ah/Ph−0.3)/0.5
Bc=Bct・(Ah/Ph−0.3)/0.5 (3)
そして、補正処理部1037は、画像データ格納部1003に格納されている画像データに対し、基準補正量格納部1035に格納されている基準補正量(Rc,Gc,Bc)を用いて、以下の(4)式に従った補正処理を実施し、補正した画像データを補正済画像データ格納部1039に格納する(ステップS35)。
Ro=min(255,Ri・255/(255−Rc))
Go=min(255,Gi・255/(255−Gc))
Bo=min(255,Bi・255/(255−Bc)) (4)
上の(4)式において、添え字のiは入力、oは出力を意味し、例えばRiはR成分の入力画素レベル、RoはR成分の出力画素レベルである。また、min(X,Y)という式(関数)は、X及びYのうち、いずれか小さい方を出力する。なお、基準補正量(Rc,Gc,Bc)のいずれかに0が設定されている場合には、その色成分については入力画素レベルと等しい出力画素レベルが算出されるため、補正前と補正後とでは画素レベルが変わらない。すなわち、当該色成分についての補正はなされない。画像の補正処理が終わると、カラーバランス補正装置1000は処理を終了する。
第6図に、上の(4)式の概念図を示す。第6図には、入力画素レベルに対応する軸601と出力画素レベルに対応する軸602と出力画素レベル設定線603と基準補正量に対応する線分604とが示されている。なお、この第6図に示した概念図は、全色成分についてまとめたものではなく、いずれか1つの色成分について表したものである。
出力画素レベル設定線603は、入力画素レベルが255から基準補正量を引いた値になるまでは、入力画素レベルが増加すれば出力画素レベルも線形に増加することを表している。具体的には、255/(255−基準補正量)という傾きに従う。この基準補正量には、例えばRc、Gc及びBcのいずれかの値が代入される。そして、入力画素レベルが255から基準補正量を引いた値以上になると、出力画素レベルは255に固定される。
例えば、R成分の基準補正量Rcが51であり、特定の画素のR成分についての画素レベルRi(入力画素レベル)が100であった場合、出力画素レベルRoは125(=100(255/(255−51))となる。また例えば、R成分の基準補正量Rcが55であり、特定の画素のR成分についての画素レベルRi(入力画素レベル)が210であった場合、入力画素レベルの210は255から基準補正量を引いた値の200(=255−55)以上であるため、出力画素レベルは255となる。このような入出力結果を得るための数式(関数)が、上の(4)式である。
以上のようにして、画像の補正処理が行われる。これにより、例えば白色の領域が存在しない画像に対しても、適切に補正する又は誤った補正を行わないようにすることができる。
なお、上の説明では、補正レベル値を求めるために例えば0.2%という所定の画素割合を用いていた(第5図:ステップS21)が、この画素割合を、本来白色である被写体が含まれている可能性に応じて設定するようにしても良い。例えば、完全ハイライト画素数(Ah)/ハイライト画素数(Ph)が0.8以上であれば、そのまま0.2%を画素割合とし、Ah/Phが0.3以下であれば、0%を画素割合とし、Ah/Phが0.3より大きく0.8未満であれば、画素割合を線形に定める(画素割合(%)=0.2×(Ah/Ph−0.3)/0.5)ようにする。このような場合、暫定補正量を求めてから低減処理する(第5図:ステップS23乃至ステップS33)ことなく、ステップS23(第5図)において算出された暫定補正量をそのまま基準補正量として設定することができる。画素割合が小さくなると暫定補正量も小さくなるためである。
また、ステップS23(第5図)において用いるヒストグラム・データを、完全ハイライト画素についてのヒストグラム・データとするようにしても良い。この場合、ヒストグラム生成部1009は、全ハイライト画素についてのヒストグラム・データを生成する。
第7図に、完全ハイライト画素についてのヒストグラム・データを用いたレベル値設定の概念図を示す。第7図には、画素レベルに対応する軸701と、度数に対応する軸702と、度数曲線703と、基準レベル領域704と、設定されるレベル値を示す点705とが示されている。なお、画素レベルの値は例えば図の左から右に向かって大きくなっていく。
図の構成要素及びレベル値の特定手順は第4図と同様であるが、この第7図に示した例では対象画素を完全ハイライト画素に限定したため、ヒストグラムを構成する画素数が少なくなっている。従ってこの場合、画素割合(例えば0.2%)を掛ける画素数を、ヒストグラムを構成している完全ハイライト画素数(Ah)とはせずに、画像に含まれる全画素数又はステップS3(第3図)において特定された画素(階調についてオーバーフローが発生していない画素)の数とする。なお、ヒストグラムを構成している完全ハイライト画素数(Ah)が、例えば画像に含まれる全画素数×0.2よりも少なく、レベル値を特定できないような場合には、補正を行わないようにしても良い。
以上、本発明の実施例について説明したが、本発明はこれに限定されるものではない。例えば、第2図に示した機能ブロックの構成は一例であって、実際のプログラム・モジュール構成とは異なる場合がある。また、第1A図、第1B図、第1C図、第4図、第6図及び第7図に示した概念図、並びに第8A図及び第8B図に示した画像例は一例であって、同様のデータを別の態様で表現する場合もある。さらに、第3図及び第5図に示した処理フローも一例であって、同様の処理結果が得られる範囲において処理の順序を入れ替えてもよいし、同時に実行したり、必要に応じてステップを追加又は削除してもよい。
また、上で述べたような処理を実行する装置は、メモリ及びプロセッサを有する一般的なコンピュータであっても良いし、プロセッサを有するデジタルカメラやその他の画像処理装置であっても良い。

Claims (12)

  1. 特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての所定の条件のいずれかを満たす第1の画素を特定する第1画素特定ステップと、
    前記特定の画像に含まれる画素のうち、前記色成分毎に設定される、画素レベルについての前記所定の条件を複数満たす第2の画素を特定する第2画素特定ステップと、
    前記第1の画素と前記第2の画素との重複度合いに関する評価値を算出するステップと、
    前記評価値に基づき、前記特定の画像を補正する補正ステップと、
    を含む画像補正方法。
  2. 前記補正ステップが、
    前記評価値に基づき補正量を算出する補正量算出ステップ、
    を含む請求項1記載の画像補正方法。
  3. 前記特定の画像について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、
    前記ヒストグラム・データを用いて、最上位の画素レベルからの累積度数が前記特定の画像において処理の対象とされる画素数の所定の割合となる第1の画素レベルを色成分毎に特定するステップと、
    をさらに含み、
    前記所定の条件が、特定された前記第1の画素レベルと色成分の限界レベルとの間に含まれる画素レベルを有するという条件であることを特徴とする請求項1記載の画像補正方法。
  4. 前記特定の画像について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、
    前記ヒストグラム・データを用いて、最上位の画素レベルからの累積度数が前記特定の画像において処理の対象とされる画素数の所定の割合となる第2の画素レベルを色成分毎に特定するステップと、
    をさらに含み、
    前記補正量算出ステップが、
    前記第2の画素レベルと色成分の限界レベルとの差に基づき、色成分毎の暫定補正量を算出するステップと、
    前記暫定補正量を前記評価値に基づき変更するステップと、
    を含むことを特徴とする請求項2記載の画像補正方法。
  5. 前記補正量算出ステップが、
    前記評価値に基づき、第3の割合を設定するステップと、
    前記特定の画像について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、
    前記ヒストグラム・データを用いて、最上位の画素レベルからの累積度数が前記特定の画像において処理の対象とされる画素数の前記第3の割合となる第3の画素レベルを色成分毎に特定するステップと、
    前記第3の画素レベルと色成分の限界レベルとの差に基づき、補正量を決定するステップと、
    を含む請求項2記載の画像補正方法。
  6. 前記補正ステップが、
    前記評価値に応じて、基準補正量の計算方式を特定するステップと、
    特定された前記計算方式に従い、前記基準補正量を算出するステップと、
    前記基準補正量を用いて前記特定の画像を補正するステップと、
    を含む請求項1記載の画像補正方法。
  7. 前記特定の画像に含まれる画素のうち、色成分のいずれかの画素レベルが限界レベルである画素を特定するステップをさらに含み、
    前記第1画素特定ステップ及び前記第2画素特定ステップにおいて、色成分のいずれかの画素レベルが限界レベルである画素以外の画素に対して処理を行うことを特徴とする請求項1記載の画像補正方法。
  8. 前記第2画素特定ステップにおいて、前記特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての所定の条件を全て満たす第2の画素を特定することを特徴とする請求項1記載の画像補正方法。
  9. 前記第2の画素について、色成分毎に、画素レベルについてのヒストグラム・データを生成するステップと、
    前記ヒストグラム・データを用いて、色成分の限界レベルからの累積度数が前記特定の画像において処理の対象とされる画素数の所定の割合となる第4の画素レベルを色成分毎に特定するステップと、
    をさらに含み、
    前記補正量算出ステップが、
    前記第4の画素レベルと色成分の限界レベルとの差に基づき、色成分毎の暫定補正量を算出するステップと、
    前記暫定補正量を前記評価値に基づき変更するステップと、
    を含むことを特徴とする請求項8記載の画像補正方法。
  10. 前記評価値が、前記第1の画素の数と前記第2の画素の数との比であることを特徴とする請求項1記載の画像補正方法。
  11. 特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての所定の条件のいずれかを満たす第1の画素を特定する第1画素特定ステップと、
    前記特定の画像に含まれる画素のうち、前記色成分毎に設定される、画素レベルについての前記所定の条件を複数満たす第2の画素を特定する第2画素特定ステップと、
    前記第1の画素と前記第2の画素との重複度合いに関する評価値を算出するステップと、
    前記評価値に基づき、前記特定の画像を補正する補正ステップと、
    をプロセッサに実行させるための画像補正プログラム。
  12. 特定の画像に含まれる画素のうち、色成分毎に設定される、画素レベルについての所定の条件のいずれかを満たす第1の画素を特定する第1画素特定手段と、
    前記特定の画像に含まれる画素のうち、前記色成分毎に設定される、画素レベルについての前記所定の条件を複数満たす画素を特定する第2画素特定手段と、
    前記第1の画素と前記第2の画素との重複度合いに関する評価値を算出する手段と、
    前記評価値に基づき、前記特定の画像を補正する補正手段と、
    を有する画像補正装置。
JP2005511676A 2003-12-11 2003-12-11 画像補正方法及びプログラム、並びに装置 Expired - Lifetime JP4480677B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2003/015899 WO2005057909A1 (ja) 2003-12-11 2003-12-11 画像補正方法及びプログラム、並びに装置

Publications (2)

Publication Number Publication Date
JPWO2005057909A1 true JPWO2005057909A1 (ja) 2007-07-12
JP4480677B2 JP4480677B2 (ja) 2010-06-16

Family

ID=34674690

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005511676A Expired - Lifetime JP4480677B2 (ja) 2003-12-11 2003-12-11 画像補正方法及びプログラム、並びに装置

Country Status (4)

Country Link
US (1) US7359100B2 (ja)
EP (1) EP1694052B1 (ja)
JP (1) JP4480677B2 (ja)
WO (1) WO2005057909A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7616343B2 (en) * 2006-04-06 2009-11-10 Kabushiki Kaisha Toshiba Image data conversion apparatus, image forming apparatus, image data conversion method and program
JP5032911B2 (ja) * 2007-07-31 2012-09-26 キヤノン株式会社 画像処理装置及び画像処理方法
JP5479164B2 (ja) 2010-03-08 2014-04-23 キヤノン株式会社 画像判定装置および画像判定方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06169395A (ja) * 1992-11-27 1994-06-14 Sharp Corp 画像形成装置

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5181105A (en) * 1986-05-30 1993-01-19 Canon Kabushiki Kaisha Color image correction based on characteristics of a highlights or other predetermined image portion
JP3048158B2 (ja) * 1988-10-04 2000-06-05 キヤノン株式会社 カラー画像処理装置
DE69013100T2 (de) * 1989-08-02 1995-03-23 Canon Kk Farbbildverarbeitungsgerät.
JP2564959B2 (ja) * 1990-03-07 1996-12-18 富士ゼロックス株式会社 画像処理装置の絵文字領域識別方式
JP2842558B2 (ja) * 1990-05-02 1999-01-06 住友ゴム工業 株式会社 自動二輪車用ラジアルタイヤ
JP2735003B2 (ja) * 1994-09-28 1998-04-02 松下電器産業株式会社 ホワイトバランス調整量演算装置
US6151405A (en) * 1996-11-27 2000-11-21 Chromavision Medical Systems, Inc. System and method for cellular specimen grading
JPH1141474A (ja) * 1997-07-17 1999-02-12 Konica Corp 画像処理方法、画像処理装置及び記憶媒体
US6240203B1 (en) * 1997-11-10 2001-05-29 Sharp Kabushiki Kaisha Image discriminating apparatus
JP3492202B2 (ja) * 1998-06-24 2004-02-03 キヤノン株式会社 画像処理方法、装置および記録媒体
JP2000165906A (ja) 1998-11-20 2000-06-16 Victor Co Of Japan Ltd 自動ホワイトバランス調整方法及び調整装置
JP3325243B2 (ja) * 1999-09-20 2002-09-17 京セラミタ株式会社 画像処理装置
JP2001245311A (ja) * 2000-02-28 2001-09-07 Matsushita Electric Ind Co Ltd 固体カラー撮像装置
US6965695B2 (en) * 2000-03-23 2005-11-15 Ricoh Company, Ltd. Method and system for processing character edge area data
JP2002158893A (ja) * 2000-11-22 2002-05-31 Minolta Co Ltd 画像補正装置、画像補正方法および記録媒体
US7072084B2 (en) * 2001-02-08 2006-07-04 Ricoh Company, Ltd. Color converting device emphasizing a contrast of output color data corresponding to a black character
US7116800B2 (en) * 2001-05-30 2006-10-03 Eaton Corporation Image segmentation system and method
US7057768B2 (en) 2001-07-02 2006-06-06 Corel Corporation Automatic color balance
JP4197858B2 (ja) * 2001-08-27 2008-12-17 富士通株式会社 画像処理プログラム
EP1311111A3 (en) * 2001-11-08 2004-12-08 Fuji Photo Film Co., Ltd. Method and apparatus for correcting white balance, method for correcting density and program recording medium
US7009735B2 (en) * 2002-01-07 2006-03-07 Xerox Corporation Method for black trapping and under print processing
US20030194127A1 (en) * 2002-04-10 2003-10-16 Hubel Paul M. Chromaticity histogram that is weighted for brightness
JP2003309732A (ja) * 2002-04-15 2003-10-31 Sharp Corp 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2004310475A (ja) * 2003-04-08 2004-11-04 Hitachi Ltd 画像処理装置、画像処理を行う携帯電話、および画像処理プログラム
US7224850B2 (en) * 2003-05-13 2007-05-29 Microsoft Corporation Modification of red-eye-effect in digital image
US7852377B2 (en) * 2004-04-16 2010-12-14 Arcsoft, Inc. Automatic red eye removal

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06169395A (ja) * 1992-11-27 1994-06-14 Sharp Corp 画像形成装置

Also Published As

Publication number Publication date
EP1694052B1 (en) 2014-01-15
WO2005057909A1 (ja) 2005-06-23
US20060170998A1 (en) 2006-08-03
US7359100B2 (en) 2008-04-15
EP1694052A1 (en) 2006-08-23
EP1694052A4 (en) 2009-05-20
JP4480677B2 (ja) 2010-06-16

Similar Documents

Publication Publication Date Title
JP3992177B2 (ja) 画像処理装置、画像処理方法及びコンピュータ・プログラム
KR101194133B1 (ko) 화상 처리 방법, 표시 화상 처리 방법, 화상 처리 장치,화상 처리 프로그램 및 그 화상 처리 장치를 포함하는집적회로
JP4861667B2 (ja) 画像処理装置及び画像処理方法
US7362895B2 (en) Image processing apparatus, image-taking system and image processing method
JP2015195498A (ja) 画像装置、画像処理方法、制御プログラム及び記憶媒体
JP6613697B2 (ja) 画像処理装置、プログラムおよび記録媒体
JP2015156615A (ja) 画像処理装置、画像処理方法、制御プログラム、および記録媒体
EP1337115A1 (en) Image processor and colorimetric system converting method
JP2012165204A (ja) 信号処理装置、信号処理方法、撮像装置及び撮像処理方法
US7768555B2 (en) Image processing apparatus, image processing program, and image processing method
WO2018100950A1 (ja) 画像処理装置、デジタルカメラ、画像処理プログラム、及び記録媒体
JP2007184888A (ja) 撮像装置、画像処理装置、画像処理方法、及び画像処理プログラム
JP6611543B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2006333205A (ja) 撮像装置、画像処理方法及び画像処理プログラム
JP2007259411A (ja) 露出判別装置およびその方法
JP4480677B2 (ja) 画像補正方法及びプログラム、並びに装置
JP2007228221A (ja) 撮像装置、画像処理装置、画像処理方法、及び画像処理プログラム
JP2007243542A (ja) 撮像装置、画像処理装置、画像処理方法、及び画像処理プログラム
JP4006590B2 (ja) 画像処理装置、シーン判定装置、画像処理方法、シーン判定方法、およびプログラム
JP2009070099A (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2007184887A (ja) 撮像装置、画像処理装置、画像処理方法、及び画像処理プログラム
JP4274043B2 (ja) 画像処理装置、画像形成装置、画像処理方法及びプログラム
JP2016051982A (ja) 画像処理装置、カメラおよび画像処理プログラム
JP2007312125A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP6809559B2 (ja) 画像処理装置および画像処理プログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100316

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100316

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140326

Year of fee payment: 4