JP4375781B2 - 画像処理装置および画像処理方法並びにプログラムおよび記録媒体 - Google Patents
画像処理装置および画像処理方法並びにプログラムおよび記録媒体 Download PDFInfo
- Publication number
- JP4375781B2 JP4375781B2 JP2003376443A JP2003376443A JP4375781B2 JP 4375781 B2 JP4375781 B2 JP 4375781B2 JP 2003376443 A JP2003376443 A JP 2003376443A JP 2003376443 A JP2003376443 A JP 2003376443A JP 4375781 B2 JP4375781 B2 JP 4375781B2
- Authority
- JP
- Japan
- Prior art keywords
- color
- image data
- area
- characteristic value
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/62—Retouching, i.e. modification of isolated colours only or in isolated picture areas only
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/62—Retouching, i.e. modification of isolated colours only or in isolated picture areas only
- H04N1/628—Memory colours, e.g. skin or sky
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Color Image Communication Systems (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Processing Of Color Television Signals (AREA)
Description
例えば、人物を含む画像から顔領域を抽出し、顔領域周辺の色および/または濃度(色濃度)を表す色濃度情報を検出し、この色濃度情報に基づいて顔領域の色濃度を調整する。そして、調整後の画像を再生することにより、顔領域周辺の色濃度に影響されない適正な色濃度の顔領域が知覚される(例えば、特許文献1参照)。
例えば、均一グレー濃度もつ各領域を、これらの領域と同じ濃度をもつ背景を配して観察した場合は、これらの領域は同一濃度として知覚されるが、一方、背景を黒や白とした場合は各領域の濃度はそれぞれの背景色によって異なるものとして知覚される。
例えば、肌色領域が全体として好ましい範囲に存在し、かつ周辺の領域が全体的に青味を帯びている画像に対しては、画像全体に対する色味のバランスをとる補正(所謂、ホワイトバランス補正)を施すために、画像全体は青味を減じる、つまり黄色味を加える色補正を施している。
図22は、特許文献1における色補正を説明するための図で、ある画像データから抽出された肌色領域と肌色以外の領域(以下、背景領域と称する)とをCIELAB均等色空間においてプロットした模式図である。
一方、これは肌色領域の画像データに対しても同様に、S点からS'点へ色補正が施される。すなわち、画像全体の色のバランスはとれているが、肌色領域の色は好ましい肌色よりもやや黄色味を帯びた画像が得られることとなる。即ち、この画像データの肌色領域は、好ましい肌色として知覚されなくなってしまう。
請求項7の発明は、請求項6に記載の画像処理方法において、前記特性値算出ステップは、前記画像データを複数の領域に分割し、分割した領域ごとに、色情報における平均値、中央値、最頻値、標準偏差の少なくともいずれか一つと、該分割領域が前記画像データ全体に占める画像占有率とを算出することを特徴とする。
請求項8の発明は、請求項6または7に記載の画像処理方法において、前記記憶部に記憶した記憶色の好ましい色の色情報は、色空間内の色度座標およびその範囲であることを特徴とする。
請求項9の発明は、請求項8に記載の画像処理方法において、前記画像データ補正部は、前記画像データの特定色領域の色度座標を、前記目標値と前記特定色領域の特性値とで形成する軸に沿って、画像の特性値に基づいて算出される所定の距離だけ、補正することを特徴とする。
請求項10の発明は、請求項9に記載の画像処理方法において、前記所定の距離は、前記画像データの特定色領域の面積占有率に基づいて算出されることを特徴とする。
請求項12の発明は、請求項6乃至10のいずれかに記載の画像処理方法をコンピュータに実行させるためのプログラムである。
請求項13の発明は、請求項11または12に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体である。
図1は、本発明の一実施形態に係る画像処理装置の機能構成を示すブロック図で、図1において、画像データは、画像データ入力部10から入力され、色補正装置100にて色補正を施された後、画像データ出力部30にて出力される。
色補正装置100は、色補正装置100の全体を制御するための装置制御部101と、画像データ入力部10で入力された画像データ(以下、元画像データという)の特性値テーブルを算出する特性値算出部103と、記憶部109に記憶された記憶色の色情報を参照して、元画像データ中に含まれる色補正対象の特定色領域とその背景領域を抽出するための領域抽出部105と、抽出した特定色領域および背景領域の色情報および記憶部109から取得した特定色に対する好ましい色情報とから、特定色に対する色補正後の好ましい色の目標値と補正量を算出する目標値算出部107と、算出された好ましい記憶色の目標値と元画像データの特性値テーブルから得られる特性値に応じて補正する補正量を算出し、元画像データに対して補正量だけ色補正を施した画像データ(以下、補正後画像データという)を得る画像データ補正部111を含んでいる。
なお、本実施形態では、入力信号にはRBG色空間を用い、特性値の算出や領域の抽出にはLab色空間を用いるようにしているが、これに限定されたものではなく、YCC色空間やLuv色空間等を用いるようにしてもよい。
「肌色」の設定方法としては、例えば、(財)日本色彩研究所が上梓している「スキントーンカラー」の範囲のごとく、
色相(H):1YR〜9YR、
彩度(C):3,4および5、
明度(V):4.0〜8.5
を予め記憶しておくことが挙げられる。このとき用いられるHV/Cの値は、日本工業規格Z8721における3属性による色の表示方法に例示されているように、HV/C(HVCJIS)とこれに対応するxy色度座標に式(1)で変換される。
しかし、ユーザが画像データを観察する状況は様々であるので、画像データを観察する条件に応じて、式(1)から算出されたCIEXYZ1931の3刺激値を種々の光源での色の見えに合わせて、例えば、Von Kriesモデル、CIECAMなどの色の見えモデルを適用して、変換することが好ましい。変換には観察環境のパラメータを指定する必要があるが、予め固有の値を設定しておき、ユーザが指定した際にこのパラメータを変更することが好適である。
次に、「好ましい肌色」の色情報の設定方法について説明する。
まず、肌色を有する画像データを複数収集し、主観的に吟味、選択した画像データに対して「好ましい」あるいは「好ましくない」の主観評価を実施する。
得られた主観評価点が高い画像データの肌色の色度座標を用いて、式(4)を用いて主成分分析を行い、第1主成分,第2主成分,第3主成分ベクトルおよびそれぞれの固有値を算出する。
また、色度についても、Lab色空間に限定されたものではなく、YCC色空間、xy色度やRGBの比を用いた色度であってもよい。
まず、画像表示装置(図示せず)の画面に表示されたメニューから「色指定」の選択ボタンを選択すると、引き続き画面に「どの特定色を記憶色としますか」のメッセージが表示され、その下に「記憶色1」、「記憶色2」、「ユーザ指定1」、「ユーザ指定2」の4つの選択ボタンが表示される。ユーザはこの4つの選択ボタンのうちいずれかを選択することができる。
これらの4つの選択ボタンから所望の記憶色を選択することにより、後述の色補正に際して、選択されたボタンに対応する記憶色が特定色として記憶部109から読出される。
次に、色補正装置100を構成するそれぞれの処理部について詳細に説明する。
特性値算出部103では、画像データ入力部10から渡された画像データの特性値を算出して特性値テーブルを出力する。
まず、画像データ入力部10から入力された元画像データの各画素のRGBデータ(R,G,B)を式(5)によってCIELAB均等色空間上の色度座標(L*,a*,b*)に変換する。
特性値の算出は、元画像データを画像特性に合わせた領域に分割後、分割した領域ごとにその特性値を算出する。その画像データの領域分割方法は、例えば、画像データの統計的情報から再帰的に領域分割する方法(大田友一、金出武雄、坂井利之著,「領域分割によるカラー画像情報の構造化」,情報処理,日本情報処理学会、1978年12月、Vol. 19, No.12, pp.1130-1136)、あるいは画像の統計情報を用いて領域分割する方法(RON Ohlander et. al.,「Picture Segmentation Using A Recursive Segmentation Splitting Method」, Comp. Graph. and Image Proc., pp.313-333)など種々の方法が適用できる。
まず、元画像データの画面全体を予め設定された小領域に分割して初期領域を生成し、領域ごとに統計情報テーブルを算出する(本実施形態では、縦:5×横:5=25の領域に分割した)。
このときの統計情報テーブルは、式(6)により算出された領域ごとの色情報Lab値(L*,a*,b*)の算術平均である(L* ave,a* ave,b* ave)と、位置情報(i,j)の算術平均値である(Iave,Jave)とからなっている。
ここで、探索した番号の統計情報テーブル内容と元々画素(i,j)が属していた小領域番号を書き換えて、統計情報テーブルを書き換える。これを画像データの画素数(実施形態では、(i+1)×(j+1)回)繰り返す。
これらの処理を所定回数繰り返して得られた領域分割画像データは図3(B)のようになる。
なお、上述した実施形態では、補正前画像データの特性値として平均値を用いたが、これに類する種々の統計量、例えば、標準偏差、中央値、最頻値等を用いることが可能である。
上記の処理の結果、元画像データから得られる特性値テーブルは、図4のようになる。
領域抽出部105では、算出された特性値テーブルおよび記憶部109に予め記憶した「記憶色」の色情報とから、画像データ入力部10から渡された元画像データの特定色領域(肌色領域)と、その特定色領域の周辺部の背景領域とが抽出される。
これには、特性値算出部103と同様に分割領域ごとに、元画像データ(R,G,B)を式(5)で変換し、CIELAB均等色空間上にマッピングする。
このマッピングした複数の点をHh点(L*(Hh),a*(Hh),b*(Hh)),h=1,…,分割領域数、とし、その点の中で記憶部109に予め設定した特定色(肌色)の色度座標における範囲に属する領域を特定色領域(肌色領域)とする。
図5は、図3の元画像データの各分割領域における色度座標をCIELAB均等色空間にマッピングした図である。図5で「特定色範囲」と記された範囲は、記憶部109に記憶されている特定色(肌色)の色度座標の範囲を示し、この範囲内にマッピングされた元画像データの点が特定色に該当する点となる。
なお、このとき抽出された特定色領域(肌色領域)は、H4およびH5と2つ存在するが、ここでは、元画像データに含まれる面積占有率が最も高い領域を特定色領域(肌色領域)とし、H4点を特定色領域(肌色領域)として設定した。
なお、面積占有率が最も高い領域を求めるには、先に作成した特性値テーブルに登録されている分割領域ごとに算出された画像データに対する面積占有率ΔSを用いて判断する。
目標値算出部107では、元画像データの特定色領域(肌色領域)の補正目標となる「好ましい色の目標値」を算出する。図6を参照して、この目標値算出方法について説明する。図6におけるR点は好ましい特定色領域(肌色領域)の中心の色度座標であり、S点は元画像データの特定色領域(肌色領域)の特性値(前出のH4がこれに該当する)である。ここで、背景領域のQ点(前出のH1がこれに該当する)とR点とから、目標値となる特定色(肌色)の色度座標R'を算出する。
画像データ補正部111では、目標値算出部107にて算出された特定色に対する「好ましい色の目標値」と元画像データの特性値テーブルから得られる特性値に応じて補正する補正量Thを算出し、元画像データに対して補正量だけ色補正を施した補正後画像データを得る。
あるいは、例えば、式(12)のような関数を定義しておき、これを特性値テーブルから算出した画像面積占有率ΔSから補正量Thを適宜算出するようにしてもよい。
元画像データは、前出の式(10)にてLab値からP1およびP2値に変換される。
次に、元画像データのあるSi点は、背景領域からの距離に応じて、Si'点に補正される。このときの補正量δThは、背景領域のQ点と画像のS点との距離を|QS|、移動後の距離を前出のThとすると、式(13)で示される。
このように補正を施すことにより、画像の特定色領域(肌色領域)に関しては、好ましい色に補正されることになり、かつ背景領域に対しては、ほとんどその色が補正されないため、画像全体のバランスを崩さずに、特定色(肌色)だけを好ましく補正することが可能となる。
本実施形態2は、実施形態1と同様にして得た補正量に対して、外部から得た元画像データの属性情報に応じて常に好ましい色が得られるように画像処理を施す例について説明する。
色補正装置100は、色補正装置100の全体を制御するための装置制御部101と、画像データ入力部10で入力された画像データ(以下、元画像データという)の特性値テーブルを算出する特性値算出部103と、記憶部109に記憶された記憶色の色情報を参照して、元画像データ中に含まれる色補正対象の特定色領域とその背景領域を抽出するための領域抽出部105と、抽出した特定色領域および背景領域の色情報および記憶部109から取得した特定色に対する好ましい色情報とから、特定色に対する色補正後の好ましい色の目標値を算出する目標値算出部107と、元画像データの属性情報を属性情報取得部と、算出された好ましい記憶色の目標値と元画像データの特性値テーブルと元画像の属性情報から得られる特性値に応じて補正する補正量を算出し、元画像データに対して補正量だけ色補正を施した画像データ(以下、補正後画像データという)を得る画像データ補正部111を含んでいる。
なお、図8において、実施形態1(図1)と同じ機能を有するものについては、同一の符号を付してあり、その説明を相違点についてのみ行うことにする。
例えば、人物画像が撮像された場合(図10のタイプ2に相当する)には補正係数αscene=1.30であり、標準の場合(図10のタイプ0に相当する)よりも高い。これは、人物画像を撮影したときには画像データの肌色領域の再現性が重視され、補正量を多くするためである。
また、画像属性情報のうちF値(絞り値)が大きい場合には、補正係数αsceneを大きくする、あるいは、シャッタースピードが小さい場合にも補正係数αsceneを大きくすることで、肌色領域の画像データをより好ましく再現することが可能となる。
即ち、人物が撮影されたときに、大きくホワイトバランスがずれている場合にも、人物の肌色が好ましい範囲に設定されるため、肌色領域の画像データをより好ましく再現することが可能となる。
まず、ネットワークを介して外部から画像データを入力したり、また、ハードウェアディスク、フレキシブルディスクドライブや光記録媒体読取装置、スキャナやデジタルカメラ等の装置から画像データを入力し、入力された画像データがアナログ信号である場合にはデジタル信号に変換した後、所定のデジタル処理を行って、R(赤)、G(緑)およびB(青)のデジタル信号として出力する(ステップS10)。
ここで、特性値テーブルに登録されている領域の面積占有率ΔSが所定の領域の大きさより小さい場合は(占有率が5〜10%以下)、その領域を特定色領域(肌色領域)または背景領域として選択しないようにする。
図6を用いて説明すると、O点(原点)とQ点(背景)のを通る線分の傾きと等しく、R点(好み)を通る直線l(式(8)参照)を求め、好ましい特定色領域(肌色領域)の第1主成分と第2主成分がなす楕円体E(式(9)および(10)参照)と直線lとの交点をR'(目標)として算出する。
次に、特定色領域の特性値のS点と目標値R'点を結ぶ直線mを式(11)にて算出し、この直線上の所定の点に画像データの制御点S'(目標)を設定する。
このときのS点からS'点への補正量Thは、画像データに占める特定色領域(肌色領域)の面積占有率ΔSに応じた補正量をLUTや式(12)のような関数を用いて算出する。
図6を用いて説明すると、元画像データを式(10)にてLab値からP1およびP2値に変換し、背景領域のQ点と画像のS点との距離を|QS|、S点での補正量をThとして、特定色領域中のあるSi点の補正量δThを式(13)で算出する。この補正量δThを用いてSi点をSi'点に補正する。
ここで、元画像に付された画像属性情報を取得した場合には、画像属性情報に応じた補正係数αsceneを補正係数テーブルや式(15)で算出して、上記の補正量ThおよびδThに対してこの補正係数αsceneを乗じた値を最終的な補正量とする。
最後に式(14)を用いて、P1およびP2をLabに逆変換し、さらに、RGBへ逆変換することにより補正された画像データを得る。
図12は、本発明の画像処理装置に係る実施形態3の機能構成を示すブロック図で、図12において、画像データは、画像データ入力部10から入力され、色補正装置200にて色補正を施された後、画像データ出力部30にて出力される。
色補正装置200は、色補正装置200の全体を制御するための装置制御部201と、記憶部209に記憶された記憶色の範囲を参照して、画像データ入力部10で入力された画像データ(以下、元画像データという)中に含まれる色補正対象の特定色領域とその背景領域を抽出するための領域抽出部203と、抽出した特定色領域および背景領域の特性値を算出する特性値算出部205と、特性値算出部205から得られた特性値と記憶部209から取得した記憶色の範囲とから、特性値に応じて特定色領域の目標色を算出する目標値算出部207と、算出された目標値によって領域抽出部203にて抽出した特定色領域に色補正を行う画像データ補正部211を含んでいる。
なお、画像データ入力部10および画像データ出力部30については、上述した実施形態1および2と同じ機能であるから説明を省略する。
また、色度についても、後述するYCC色空間による色度に限定されたものではなくxy色度やRGBの比を用いた色度であってもよい。
まず、画像データ入力部10から入力された各画素のRGBデータ(R,B,G)を次式(16)によってYCCデータ(YY,C1,C2)に変換する。
背景領域は、この肌色領域の範囲から短軸方向へ数倍した楕円体に含まれる領域として定める。
上述の処理で得られる肌色範囲をS領域、背景範囲をR領域として図14(B)に例示する。
特性値算出部205は、元画像データから抽出された肌色領域と背景領域の特性値を算出する。この特性値を算出する方法としては、次の2つがある。
このとき、ある輝度値j点での輝度値をYYjと全体の輝度平均値から肌色領域の輝度における標準偏差値(σ.Syy)を算出する。同様にC1およびC2平面における標準偏差値をそれぞれ式(18)にて算出する。
このとき、ある彩度値j点の彩度値をCjとその彩度平均値から肌色領域の彩度における標準偏差(ρ.Sc)を算出する。
同様に、色相H平面および輝度YY平面における標準偏差をそれぞれ式(20)にて算出する。
なお、本実施形態では、元画像データの特性値として、元画像データの標準偏差を用いたが、種々の統計量を用いることが可能であり、例えば、平均値、中央値、最頻値等の統計量が挙げられる。
目標値算出部207では、元画像データの肌色領域の色をどの色へ補正するかを示す目標値の色度情報が算出される。
まず、各領域の代表色を求める。この代表色としては、領域中の任意の点を用いることが可能であるが、本実施形態では領域について主成分分析し、得られた主成分軸の中心をその領域の代表色とした。
同様に、領域抽出部203から抽出された元画像データの背景領域の各画素点に対してYCC変換し、変換後の背景領域について主成分分析し、得られた主成分軸の中心を背景領域の代表色とした(図13のR点)。
さらに、記憶部209から肌色に対応する好ましい色の色度点を読み出す(図13のP点)。
例えば、R点とP点を結ぶ線分PR間の距離|PR|を式(22)に基づき算出する。
補正量Thは、肌色領域の特性値および背景領域の特性値と補正量との関係をLUT(Look-Up Table)に予め記憶しておき、LUTを参照することにより、上記(1)で計算した肌色領域の特性値(σ.Syy,σ.Sc1,σ.Sc2)および背景領域の特性値(σ.Ryy,σ.Rc1,σ.Rc2)に対応する補正量を算出する。
例えば、図17は、一般の背景領域において、特性値(輝度YYの標準偏差)と補正量の関係を示すLUTであり、ある特性値σ.Ryyが与えられると対応する補正量Thを算出するものである。
これは、背景領域の情報量が少ないので補正量を大きくし、背景領域に情報量が多い場合には、肌色の再現性が軽視されるため、補正量を抑制するものである。
また、本実施形態においては、背景領域の輝度分布を用いたが、背景領域のC1、C2成分、或いは肌色領域の輝度成分、C1、C2成分を用いることも可能である。
補正量Thは、肌色領域の特性値および背景領域の特性値と補正量との関係を予めLUTとして記憶しておき、LUTを参照することにより、上記(2)で計算した肌色領域の特性値(ρ.Syy,ρ.Sc,ρ.Sh)および背景領域の特性値(ρ.Ryy,ρ.Rc,ρ.Rh)と対応する補正量を算出する。
例えば、図18は、一般の肌色領域において、特性値(彩度Cの標準偏差)と補正量の関係を示す曲線であり、ある特性値ρ.Scが与えられると対応する補正量Thを算出するものである。
これは、肌色領域が広いため肌色の再現性が重視され、肌色領域が狭い場合には、その再現性が画像品質に及ぼす影響が少ないためである。
また、本実施形態においては、肌色領域の彩度分布を用いたが、肌色領域の輝度、色相成分、あるいは背景領域の輝度成分、彩度成分、および色相成分を用いることも可能である。
画像データ補正部211では、YCC色空間における肌色領域の代表色(S点)を目標値(Q点)にシフトさせ、他の肌色領域(S領域)に含まれる色度点も同様にシフトさせて色補正する(図13参照)。
これには、肌色領域(S範囲)にある各色度点Siを、S点からQ点へ方向で距離|SQ|だけシフトさせた色度点Si’を算出し、色度点Siと色度点Si’とを式(16)を用いて、YCC色空間からRGB色空間へ逆変換する。この色度点Siを逆変換したRGB値と同じ値を持つ元画像データの画素データを、色度点Si’を逆変換したRGB値で置き換える。この操作を肌色領域(S範囲)にあるすべての色度点Siに対して実行することによって、元画像データの肌色補正を行う。
なお、上記の説明では、各画素の移動は単純にシフトして移動したが、これを背景領域に近い特定色領域の画素の補正量を少なくするような所定の関数に基づいて移動させることも可能である。
本実施形態4は、実施形態3の色補正装置200において、画像の属性情報を読み取ることによって好ましい色が得られるようにしたものである。
図19は、本発明の画像処理装置に係る実施形態4の機能構成を示すブロック図で、図19において、画像データは、画像データ入力部10から入力され、色補正装置200にて色補正を施された後、画像データ出力部30にて出力される。
色補正装置200は、色補正装置200の全体を制御するための装置制御部201と、記憶部209に記憶された記憶色の範囲を参照して、画像データ入力部10で入力された画像データ(以下、元画像データという)中に含まれる色補正対象の特定色領域とその背景領域を抽出するための領域抽出部203と、抽出した特定色領域および背景領域の特性値を算出する特性値算出部205と、元画像データの属性情報を取得する属性情報取得部112と、特性値算出部205から得られた特性値と記憶部209から取得した記憶色の範囲と属性情報取得部112から取得した元画像データの属性情報とから、特性値に応じて肌色領域の目標値を算出する目標値算出部207と、算出された目標値によって領域抽出部203にて抽出した特定色領域に色補正を行う画像データ補正部211を含んでいる。
なお、図19において上述した実施形態3と同一部分には同一符号を付して、その説明を相違点だけとする。
補正量(Th)の算出方法の一例について図20を用いて説明する。図20は、ある撮影シーンタイプ値が与えられた際、肌色領域の補正量(Th)に対する補正係数を表す補正係数テーブルである。各画像データに対する補正は、実施形態3の目標値算出部207で求めた補正量Thにこの補正係数を乗じた値を用いる。
なお、この補正係数は、上記のような補正係数テーブルを参照する形式に限定されるものではなく、画像属性情報に基づいた関数を用意して適宜算出することも可能である。また、補正値としては、輝度成分を用いたが、彩度、色相成分を用いることも可能である。
まず、ネットワークを介して外部から画像データを入力したり、また、ハードウェアディスク、フレキシブルディスクドライブや光記録媒体読取装置、スキャナやデジタルカメラ等の装置から画像データを入力し、入力された画像データがアナログ信号である場合にはデジタル信号に変換した後、所定のデジタル処理を行って、R(赤)、G(緑)およびB(青)のデジタル信号として出力する(ステップS20)。
この特性値を算出する方法としては、次の2つがある。
(1)元画像データの肌色領域に属する各画素点をYCC変換してYY,C1,C2の各平面へマッピングした各点に対して頻度分布を算出し、式(18)を用いて各平面での標準偏差を肌色領域の特性値とする。同様に、背景領域についても式(19)を用いて各平面での標準偏差を特性値として算出する。
(2)元画像データの肌色領域に属する各画素点をYCC変換して、さらに、これを式(17)にて、彩度(C)、色相(H)に変換し、YY,C,Hの各平面へマッピングした各点に対して頻度分布を算出し、式(20)を用いて各平面での標準偏差を肌色領域の特性値とする。同様に、背景領域についても、式(21)を用いて各平面での標準偏差を特性値として算出する。
まず、肌色領域および背景領域について主成分分析し、得られた主成分軸の中心をその領域の代表色(図13のS点およびR点)として求める。
次に、記憶部209から特定色(肌色)に対応する好ましい色の色度点を読み出し(図13のP点)、R点、P点および元画像データの特性値から目標値の色度点(P点から距離Thだけ移動したQ点)を算出する。
ここで、元画像に付された画像属性情報を取得した場合には、画像属性情報に応じた補正係数αを補正係数テーブル等で算出して、上記の補正量Thに対してこの補正係数αを乗じた値を最終的な補正量とする。
肌色領域(S範囲)にある各色度点Siについては、S点からQ点への方向で距離|SQ|だけシフトさせた色度点Si'を算出し、色度点Siと色度点Si'とを式(16)を用いて、YCC色空間からRGB色空間へ逆変換する。この色度点Siを逆変換したRGB値と同じ値を持つ元画像データの画素データを、色度点Si'を逆変換したRGB値で置き換える。この操作を肌色領域(S範囲)にあるすべての色度点Siに対して実行することによって、元画像データの肌色補正を行う。
(1)画像の入出力装置の間にコンピュータを組み込み、読み取った画像データの色補正をコンピュータで行って、補正された画像を出力する。
(2)デジタルカメラ内に所望の色補正を施す色補正装置を組み込み、変換された画像データを用いてプリントや液晶パネルに表示させる。
(3)プリンタ内に所望の色補正を施す色補正装置を組み込み、直接入力した画像データに所望の色補正を行って印刷する。
この場合、記録媒体から読出されたプログラム自体が上述した実施形態を実現することになり、そのプログラムおよびそのプログラムを記録した記録媒体も本発明を構成することになる。
あるいは、インターネット等の通信網を介して記憶装置に格納されたプログラムをサーバコンピュータから直接供給を受けるようにしてもよい。この場合、このサーバコンピュータの記憶装置も本発明の記録媒体に含まれる。
Claims (13)
- 記憶色を含む画像データに対して画像処理を施す画像処理装置において、前記画像データから特性値を算出する特性値算出部と、前記特性値と記憶部に記憶した記憶色の色情報を用いて前記画像データから特定の色領域とその背景領域を抽出する領域抽出部と、前記特性値、前記領域の抽出結果と前記記憶部に記憶した前記特定色の好ましい色の色情報とから該好ましい色を色補正するための目標値とその補正量を算出する目標値算出部と、前記目標値算出結果および前記特性値に基づいて前記特定色領域の各色を補正する画像データ補正部を備え、
前記目標値算出部は、前記背景領域の色度座標と原点を結ぶ線分の傾きと平行で、前記特定色の好ましい色の色度座標を通る直線と、該特定色の好ましい色範囲が形成する楕円体との交点を好ましい色の目標値と設定することを特徴とする画像処理装置。 - 請求項1に記載の画像処理装置において、前記特性値算出部は、前記画像データを複数の領域に分割し、分割した領域ごとに、色情報における平均値、中央値、最頻値、標準偏差の少なくともいずれか一つと、該分割領域が前記画像データ全体に占める画像占有率とを算出することを特徴とする画像処理装置。
- 請求項1または2に記載の画像処理装置において、前記記憶部に記憶した記憶色の好ましい色の色情報は、色空間内の色度座標およびその範囲であることを特徴とする画像処理装置。
- 請求項3に記載の画像処理装置において、前記画像データ補正部は、前記画像データの特定色領域の色度座標を、前記目標値と前記特定色領域の特性値とで形成する軸に沿って、画像の特性値に基づいて算出される所定の距離だけ、補正することを特徴とする画像処理装置。
- 請求項4に記載の画像処理装置において、前記所定の距離は、前記画像データの特定色領域の面積占有率に基づいて算出されることを特徴とする画像処理装置。
- 記憶色を含む画像データに対して画像処理を施す画像処理方法において、前記画像データから特性値を算出する特性値算出ステップと、前記特性値と記憶部に記憶した記憶色の色情報を用いて前記画像データから特定の色領域とその背景領域を抽出する領域抽出ステップと、前記特性値、前記領域の抽出結果と前記記憶部に記憶した前記特定色の好ましい色の色情報とから該好ましい色を色補正するための目標値とその補正量を算出する目標値算出ステップと、前記目標値算出結果および前記特性値に基づいて前記特定色領域の各色を補正する画像データ補正ステップを備え、
前記目標値算出ステップは、前記背景領域の色度座標と原点を結ぶ線分の傾きと平行で、前記特定色の好ましい色の色度座標を通る直線と、該特定色の好ましい色範囲が形成する楕円体との交点を好ましい色の目標値と設定することを特徴とする画像処理方法。 - 請求項6に記載の画像処理方法において、前記特性値算出ステップは、前記画像データを複数の領域に分割し、分割した領域ごとに、色情報における平均値、中央値、最頻値、標準偏差の少なくともいずれか一つと、該分割領域が前記画像データ全体に占める画像占有率とを算出することを特徴とする画像処理方法。
- 請求項6または7に記載の画像処理方法において、前記記憶部に記憶した記憶色の好ましい色の色情報は、色空間内の色度座標およびその範囲であることを特徴とする画像処理方法。
- 請求項8に記載の画像処理方法において、前記画像データ補正部は、前記画像データの特定色領域の色度座標を、前記目標値と前記特定色領域の特性値とで形成する軸に沿って、画像の特性値に基づいて算出される所定の距離だけ、補正することを特徴とする画像処理方法。
- 請求項9に記載の画像処理方法において、前記所定の距離は、前記画像データの特定色領域の面積占有率に基づいて算出されることを特徴とする画像処理方法。
- 請求項1乃至5のいずれかに記載の画像処理装置の機能をコンピュータに実現させるためのプログラム。
- 請求項6乃至10のいずれかに記載の画像処理方法をコンピュータに実行させるためのプログラム。
- 請求項11または12に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003376443A JP4375781B2 (ja) | 2002-11-29 | 2003-11-06 | 画像処理装置および画像処理方法並びにプログラムおよび記録媒体 |
US10/722,957 US7366350B2 (en) | 2002-11-29 | 2003-11-26 | Image processing apparatus and method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002348384 | 2002-11-29 | ||
JP2003376443A JP4375781B2 (ja) | 2002-11-29 | 2003-11-06 | 画像処理装置および画像処理方法並びにプログラムおよび記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004192614A JP2004192614A (ja) | 2004-07-08 |
JP4375781B2 true JP4375781B2 (ja) | 2009-12-02 |
Family
ID=32774934
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003376443A Expired - Fee Related JP4375781B2 (ja) | 2002-11-29 | 2003-11-06 | 画像処理装置および画像処理方法並びにプログラムおよび記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7366350B2 (ja) |
JP (1) | JP4375781B2 (ja) |
Families Citing this family (71)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101138852B1 (ko) * | 2003-11-04 | 2012-05-14 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 모바일 디스플레이를 위한 스마트 클리퍼 |
US20050168595A1 (en) * | 2004-02-04 | 2005-08-04 | White Michael F. | System and method to enhance the quality of digital images |
JP4424216B2 (ja) * | 2004-03-30 | 2010-03-03 | セイコーエプソン株式会社 | 画像処理装置、画像処理方法、および、画像処理プログラム |
JP2005328845A (ja) * | 2004-05-06 | 2005-12-02 | Oce Technologies Bv | デジタルカラー画像を変換する方法、装置およびコンピュータプログラム |
JP4324043B2 (ja) | 2004-07-15 | 2009-09-02 | キヤノン株式会社 | 画像処理装置およびその方法 |
US7519220B2 (en) * | 2004-11-15 | 2009-04-14 | Siemens Medical Solutions Usa, Inc. | GPU accelerated isoperimetric algorithm for image segmentation, digital photo and video editing |
US7630549B2 (en) * | 2004-11-15 | 2009-12-08 | Siemens Medical Solutions Usa. Inc. | GPU accelerated multi-label digital photo and video editing |
JP4448018B2 (ja) * | 2004-12-20 | 2010-04-07 | キヤノン株式会社 | 画像処理装置および方法並びにプログラム |
JP2006203841A (ja) * | 2004-12-24 | 2006-08-03 | Sharp Corp | 画像処理装置、カメラ装置、画像出力装置、画像処理方法、色補正処理プログラムおよび可読記録媒体 |
US7835577B2 (en) * | 2005-01-18 | 2010-11-16 | Siemens Corporation | System and method for multi-label image segmentation of digital photographs |
JP2006229402A (ja) * | 2005-02-16 | 2006-08-31 | Seiko Epson Corp | ネットワークを介した印刷物のシミュレーションサービス |
KR100714395B1 (ko) * | 2005-02-22 | 2007-05-04 | 삼성전자주식회사 | 입력영상의 색을 선택적으로 조정하는 색변환 장치 및 그방법 |
JP4371069B2 (ja) * | 2005-03-16 | 2009-11-25 | セイコーエプソン株式会社 | 色かぶりの傾向に応じたカラーバランス補正 |
WO2006129601A1 (ja) * | 2005-06-03 | 2006-12-07 | Nikon Corporation | 画像処理装置、画像処理方法、画像処理プログラム製品、および撮像装置 |
US7529007B2 (en) * | 2005-06-10 | 2009-05-05 | Lexmark International, Inc. | Methods of identifying the type of a document to be scanned |
JP4624248B2 (ja) * | 2005-12-06 | 2011-02-02 | 富士フイルム株式会社 | 画像処理装置、肌色調整方法及びプログラム |
KR100791373B1 (ko) | 2005-12-12 | 2008-01-07 | 삼성전자주식회사 | 선호 색을 변환하는 장치 및 방법 |
KR100791374B1 (ko) | 2005-12-15 | 2008-01-07 | 삼성전자주식회사 | 색역 내에 존재하는 색상을 영상 적응적으로 조절하는 방법및 장치 |
CN102164238B (zh) * | 2006-01-10 | 2013-09-18 | 松下电器产业株式会社 | 颜色校正处理装置、动态摄像机颜色校正装置以及使用其的影像检索装置 |
KR100791380B1 (ko) * | 2006-01-17 | 2008-01-07 | 삼성전자주식회사 | 보색 대비를 이용하여 영상을 향상하는 방법 및 장치 |
JP4961752B2 (ja) * | 2006-01-18 | 2012-06-27 | ソニー株式会社 | 色変換装置および方法、記録媒体、並びにプログラム |
JP4345757B2 (ja) * | 2006-02-22 | 2009-10-14 | セイコーエプソン株式会社 | 画像データの色の補正 |
JP4788393B2 (ja) * | 2006-02-24 | 2011-10-05 | セイコーエプソン株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP4635916B2 (ja) * | 2006-03-09 | 2011-02-23 | セイコーエプソン株式会社 | 画像データの色の補正 |
JP4671354B2 (ja) * | 2006-03-15 | 2011-04-13 | 株式会社リコー | 画像圧縮装置および画像圧縮方法 |
JP4757078B2 (ja) * | 2006-03-31 | 2011-08-24 | キヤノン株式会社 | 色処理方法およびその装置 |
JP4393489B2 (ja) | 2006-09-06 | 2010-01-06 | キヤノン株式会社 | 画像処理装置およびその方法 |
JP4498333B2 (ja) * | 2006-09-21 | 2010-07-07 | 株式会社沖データ | 画像処理装置 |
JP4244063B2 (ja) * | 2006-11-06 | 2009-03-25 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP5211768B2 (ja) * | 2007-03-16 | 2013-06-12 | 株式会社ニコン | 画像処理装置、撮像装置、および画像処理プログラム |
US8055071B2 (en) * | 2007-03-16 | 2011-11-08 | Nikon Corporation | Image processing apparatus, imaging apparatus and recording medium storing image processing program |
US8548238B2 (en) * | 2007-05-03 | 2013-10-01 | Carnegie Mellon University | Method for partitioning combinatorial graphs |
US20100195902A1 (en) * | 2007-07-10 | 2010-08-05 | Ronen Horovitz | System and method for calibration of image colors |
JP5064947B2 (ja) * | 2007-09-11 | 2012-10-31 | キヤノン株式会社 | 画像処理装置及び方法、及び撮像装置 |
US20090252409A1 (en) * | 2008-04-03 | 2009-10-08 | Kabushiki Kaisha Toshiba | Image forming apparatus, image processing apparatus and image processing method |
JP2010003118A (ja) * | 2008-06-20 | 2010-01-07 | Seiko Epson Corp | 画像処理装置、画像処理方法および画像処理プログラム |
US8368716B2 (en) * | 2008-09-29 | 2013-02-05 | Hewlett-Packard Development Company, L.P. | Processing pixel values of a color image |
WO2010062284A1 (en) * | 2008-11-25 | 2010-06-03 | Hewlett-Packard Development Company, L.P. | Modification of memory colors in digital images |
JP5205230B2 (ja) * | 2008-11-28 | 2013-06-05 | 株式会社日立製作所 | 画像処理装置 |
JP2010154009A (ja) | 2008-12-24 | 2010-07-08 | Brother Ind Ltd | 画像処理装置と画像処理プログラム |
US8428351B2 (en) | 2008-12-24 | 2013-04-23 | Brother Kogyo Kabushiki Kaisha | Image processing device |
JP4930503B2 (ja) | 2008-12-25 | 2012-05-16 | ブラザー工業株式会社 | 画像処理装置と画像処理プログラム |
JP4748271B2 (ja) * | 2009-01-28 | 2011-08-17 | 株式会社ニコン | 電子カメラおよび画像処理プログラム |
EP2400461A4 (en) * | 2009-02-19 | 2017-08-02 | Nec Corporation | Image processing system, image processing method, and image processing program |
JP2010199844A (ja) * | 2009-02-24 | 2010-09-09 | Ricoh Co Ltd | 画像処理装置、画像処理方法、プログラムおよび記憶媒体 |
JP5669489B2 (ja) * | 2009-10-15 | 2015-02-12 | オリンパス株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP5683882B2 (ja) * | 2009-10-15 | 2015-03-11 | オリンパス株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
EP2569932A1 (en) * | 2010-05-10 | 2013-03-20 | TP Vision Holding B.V. | Method and apparatus for color enhancement |
US8884980B2 (en) * | 2010-09-24 | 2014-11-11 | Taaz, Inc. | System and method for changing hair color in digital images |
KR101769543B1 (ko) * | 2011-01-04 | 2017-08-31 | 인하대학교 산학협력단 | 선명도 및 색 채도를 이용한 영상 화질 개선을 위한 장치 및 방법 |
JP5577278B2 (ja) * | 2011-02-28 | 2014-08-20 | 京セラドキュメントソリューションズ株式会社 | 画像形成装置及び色値補正方法 |
JP5887715B2 (ja) | 2011-05-23 | 2016-03-16 | セイコーエプソン株式会社 | 画像処理装置および画像処理方法 |
CN102360490B (zh) * | 2011-09-30 | 2012-11-28 | 北京航空航天大学 | 基于颜色转换和编辑传播的图像季节特征增强方法 |
JP5829107B2 (ja) * | 2011-11-16 | 2015-12-09 | ルネサスエレクトロニクス株式会社 | 画像処理装置、画像処理方法、及びプログラム |
TWI485694B (zh) * | 2013-05-09 | 2015-05-21 | Asustek Comp Inc | 影像色彩調整方法與其電子裝置 |
JP5878586B2 (ja) * | 2013-05-09 | 2016-03-08 | 華碩電腦股▲ふん▼有限公司ASUSTeK COMPUTER INC. | 画像色調整方法及びその電子装置 |
EP2802139B1 (en) * | 2013-05-09 | 2017-07-12 | ASUSTeK Computer Inc. | Image color adjusting method and electronic device using the same |
WO2015030705A1 (en) | 2013-08-26 | 2015-03-05 | Intel Corporation | Automatic white balancing with skin tone correction for image processing |
JP6382052B2 (ja) | 2013-12-24 | 2018-08-29 | 株式会社リコー | 画像処理装置、画像処理システム、画像処理方法、プログラム及び記憶媒体 |
JP6350069B2 (ja) * | 2014-07-22 | 2018-07-04 | 富士ゼロックス株式会社 | 情報処理システム、情報処理装置およびプログラム |
JP6003964B2 (ja) * | 2014-11-07 | 2016-10-05 | カシオ計算機株式会社 | 診断装置並びに当該診断装置における画像処理方法及びそのプログラム |
KR20160059240A (ko) * | 2014-11-18 | 2016-05-26 | 삼성전자주식회사 | 색 재현 영역을 표시하는 방법 및 장치 |
JP6341085B2 (ja) | 2014-12-26 | 2018-06-13 | ブラザー工業株式会社 | 画像処理装置、および、コンピュータプログラム |
US9495584B1 (en) * | 2015-06-05 | 2016-11-15 | Digital Signal Corporation | System and method for facial recognition using images captured from a target illuminated with infrared light |
US20170280971A1 (en) * | 2015-08-13 | 2017-10-05 | Hoya Corporation | Evaluation value calculation device and electronic endoscope system |
CN106687023B (zh) * | 2015-08-13 | 2018-12-18 | Hoya株式会社 | 评价值计算装置以及电子内窥镜系统 |
WO2017057680A1 (ja) * | 2015-09-30 | 2017-04-06 | Hoya株式会社 | 内視鏡システム及び評価値計算装置 |
JP6039778B2 (ja) * | 2015-10-20 | 2016-12-07 | ルネサスエレクトロニクス株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7104696B2 (ja) | 2016-11-07 | 2022-07-21 | フォルシア イリステック インコーポレイテッド | 画像処理方法及びユーザデバイス |
KR102397396B1 (ko) | 2017-09-13 | 2022-05-12 | 삼성전자주식회사 | 자동 화이트 밸런스를 위한 이미지 처리 방법 및 장치 |
CN112822476A (zh) * | 2021-02-26 | 2021-05-18 | 广东以诺通讯有限公司 | 大量单纯色场景偏色的自动白平衡方法、系统及终端 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000242775A (ja) | 1999-02-19 | 2000-09-08 | Fuji Photo Film Co Ltd | 画像処理方法および装置並びに記録媒体 |
JP3942139B2 (ja) * | 1999-10-20 | 2007-07-11 | 株式会社リコー | 電子写真用現像剤 |
JP2001142248A (ja) * | 1999-11-12 | 2001-05-25 | Ricoh Co Ltd | 中間転写方式画像形成用トナーおよび該トナーを用いた中間転写方式画像形成方法 |
JP2001186323A (ja) | 1999-12-24 | 2001-07-06 | Fuji Photo Film Co Ltd | 証明写真システム及び画像処理方法 |
JP4158332B2 (ja) * | 2000-02-03 | 2008-10-01 | コニカミノルタビジネステクノロジーズ株式会社 | カラー画像処理装置 |
JP2002016874A (ja) * | 2000-04-28 | 2002-01-18 | Fuji Photo Film Co Ltd | 画像処理方法および装置並びにそのためのプログラムを記録した記録媒体 |
EP1248455A1 (en) * | 2001-04-05 | 2002-10-09 | Imip Llc | Automatic content-analysis based use of colour correction process |
-
2003
- 2003-11-06 JP JP2003376443A patent/JP4375781B2/ja not_active Expired - Fee Related
- 2003-11-26 US US10/722,957 patent/US7366350B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US7366350B2 (en) | 2008-04-29 |
US20040156544A1 (en) | 2004-08-12 |
JP2004192614A (ja) | 2004-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4375781B2 (ja) | 画像処理装置および画像処理方法並びにプログラムおよび記録媒体 | |
KR101311925B1 (ko) | 촬상장치 및 촬상장치에 있어서의 촬상결과의 처리방법 | |
JP4209439B2 (ja) | 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよび集積回路装置 | |
US8103119B2 (en) | Image processing device, image processing method, image processing program product, and image-capturing device | |
US6975437B2 (en) | Method, apparatus and recording medium for color correction | |
JP4906627B2 (ja) | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 | |
US7333136B2 (en) | Image processing apparatus for carrying out tone conversion processing and color correction processing using a three-dimensional look-up table | |
US7965427B2 (en) | Color processing apparatus and its method | |
WO2007007798A1 (ja) | 画像処理装置、画像処理プログラム、および、画像処理方法 | |
JP6974156B2 (ja) | 画像色変換装置、画像色変換プログラム、画像色変換方法 | |
JP2007202218A (ja) | 原デジタル画像を強調する方法および装置 | |
JP2014165656A (ja) | カラープロファイル生成装置、画像処理装置、画像処理システム、カラープロファイルの生成方法およびプログラム | |
US8358338B2 (en) | Image data processing apparatus, its storage medium and its method | |
JP5156423B2 (ja) | 色処理装置および色処理方法 | |
WO2000007144A1 (fr) | Dispositif de conversion monotone, procede de conversion monotone et milieu sur lequel un programme de conversion monotone est enregistre | |
US20050068587A1 (en) | Monotone conversion process for color images | |
JP2006121432A (ja) | 画像処理装置における補正処理方法および画像処理装置。 | |
JP2008148163A (ja) | 色処理装置およびその方法 | |
JP2007158446A (ja) | 画像処理装置、画像処理方法、プログラム、記憶媒体 | |
JP2015139097A (ja) | 装置、方法、及びプログラム | |
JP5112234B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
WO2023032374A1 (ja) | データ生成方法、学習方法、撮像装置、及びプログラム | |
JP2005130273A (ja) | 画像処理装置及び画像処理方法 | |
JP2005341500A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP2010258703A (ja) | 情報処理装置及び情報処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060824 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20090210 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20090310 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090610 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090623 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090803 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090901 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090907 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120918 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130918 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |