JP4462956B2 - 色補正 - Google Patents

色補正 Download PDF

Info

Publication number
JP4462956B2
JP4462956B2 JP2004046955A JP2004046955A JP4462956B2 JP 4462956 B2 JP4462956 B2 JP 4462956B2 JP 2004046955 A JP2004046955 A JP 2004046955A JP 2004046955 A JP2004046955 A JP 2004046955A JP 4462956 B2 JP4462956 B2 JP 4462956B2
Authority
JP
Japan
Prior art keywords
color
color correction
key
value
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004046955A
Other languages
English (en)
Other versions
JP2004274742A (ja
Inventor
マーク ラッセル、ジュリアン
イアン マクリーン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Europe BV United Kingdom Branch
Original Assignee
Sony United Kingdom Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony United Kingdom Ltd filed Critical Sony United Kingdom Ltd
Publication of JP2004274742A publication Critical patent/JP2004274742A/ja
Application granted granted Critical
Publication of JP4462956B2 publication Critical patent/JP4462956B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6075Corrections to the hue
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/62Retouching, i.e. modification of isolated colours only or in isolated picture areas only

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、色補正に関する。
色補正とは、画像又は映像マテリアルの作製において用いられる、元のマテリアルにおける任意の色を他の対応する色に置換する技術である。このような処理が必要な2つ具体例は、異なる照明の条件下で撮影された場面の外観を合わせることが必要な場合、単に芸術的な理由で画像の外観を変更する場合がある。特に後者の状況では、「補正」という用語は、必ずしも、元の色が本質的に間違っていることを意味するものではない。すなわち、当分野で(及び本出願で)用いられる「色補正(colour correction)」という表現は、実際には、「色変更(colour alteration)」というより広い意味で用いられる。
画像の色特性(colour property)は、通常「色空間」と呼ばれる次のような表現のうちの1つで表現される。すなわち、これらの表現とは、三原色の貢献度を表す値の組(例えば、赤、緑、青:RGB)、輝度(luminance value:L)及び2つの色差値(例えば、colour difference value:Cb、Cr)、又は輝度(L)、色相(hue value:H)及び彩度(saturation value:S)等である。実際の画像(テストパターンではない。)では、「色」と知覚されるものは、色空間内の単一の点には対応せず、したがって、通常は上述のような値の厳密な、単一の組として定義することはできない。すなわち、画像又は映像を見る人間は、色空間内の一定の範囲内の値に対応する色を同じ「色」として知覚する。例えば、大体赤い自動車の画像は、局所的な照明の具合、撮像の角度、及び自動車の各部分の汚れ具合等に依存する一定の範囲内の「赤」に対応する値を有する。したがって、自動車の「赤」に対して色補正を適用する場合、実際には、自動車が示す「赤」色の全てを含むように色空間内の範囲が定義される。そして、補正処理を実行すると、ソース領域は、色空間内の他の類似する(ターゲット)領域にマッピングされる。このような手法により領域全体をマッピングすると、ターゲット領域における陰となって変化した色は、対応するソース領域の陰となって変化した色にマッピングされる。
このように、色補正により、画像における1以上の色特性が変更される。例えば、彩度及び輝度(intensity value)を変更することなく、色相を変更することもできる。
色補正は、通常、デジタル領域で実行される。米国特許第6,434,266号明細書には、ソース画像の各画素値をRGB表現からL,S,H表現に変換するデジタル色補正装置が開示されている。L,S,H値は、画素毎に、「補正すべき色」のソース範囲として定義されたL,S,H値の範囲と比較される。画素値がそのソース範囲内にあると判定されると、その画素値は、「ターゲット」範囲内の画素値に置換される。
本発明に係るデジタル画像処理装置は、入力画像に対して画素に基づく色補正を加えて出力画像を生成するデジタル画像処理装置において、それぞれが色空間内の範囲(locus)に関連付けられ、それぞれが色マッピング処理に関連付けられた2以上の色補正処理を行う色補正論理手段を備え、色補正処理は、複数の連続する色補正処理のシーケンスとして構成され、各色補正処理の結果が、シーケンス内の次の色補正処理に入力され、各色補正処理は、各画素が色空間内のそれぞれの範囲内にあるか否かを判定し、画素が範囲内にある場合、画素に色マッピング処理を施し、シーケンスの第1の色補正処理より後の各色補正処理は、シーケンス内の先行する色補正処理に関連する色空間内の範囲に関しては、色マッピング処理を禁止する。
色補正処理を連続して行う色補正装置では、色空間の領域に対して矛盾する補正が適用され、望ましくない結果が生じることがある。本発明では、連続する処理のシーケンスのうちの第1の色補正処理より後の各色補正処理において、先行する色補正処理に関連する色空間内の範囲に関しては、色マッピング処理を禁止することにより、このような問題を効率的に且つ非常に単純な構成で解決することができる。
本発明のこの他の側面及び特徴は、添付の特許請求の範囲において定義されている。
以下に説明する実施例は、ハードウェアで実現してもよく、セミプログラマブルハードウェア(例えば、特定用途向け集積回路又はフィールドプログラマブルゲートアレー等)で実現してもよく、汎用データ処理装置上で実行されるソフトウェアで実現してもよく、或いはこれらを組み合わせて実現してもよい。本発明をソフトウェアで実現する場合、このソフトウェアは、例えばディスクストレージ媒体、読出専用メモリ等のストレージ媒体(図示せず)に格納してもよく、及び/又は例えばインターネット接続等の伝送媒体(図示せず)を介して伝送してもよい。
本発明に基づく色補正装置の構成を図1に示す。この色補正装置は、入力プロセッサ10と、プリプロセッサ20と、混合器(mixer arrangement)30と、ポストプロセッサ40と、出力プロセッサ50と、バイパスバッファ60と、混合コントローラ70と、バイパスコントローラ80とを備える。
入力プロセッサ10には、ビデオデータが4:2:2フォーマットのY,C(輝度、色差)データとして供給される。入力プロセッサ10は、このビデオデータをプリプロセッサ20及びバイパスバッファ60に供給する。入力プロセッサ10は、更に、入力ビデオ信号の色差成分をアップサンプリングして、4:4:4フォーマットのY,Cデータに変換するアップサンプリング段を備える。
プリプロセッサ20は、色差成分の直交座標−極座標変換(rectangular to polar conversion)を行い、ビデオの「輝度、彩度、色相(luminance, saturation, hue:LSH)」表現を生成する(もちろん、直交座標−極座標変換では、輝度は変更されず、色情報のみが変更される)。LSH表現のデータは、混合器30及び混合コントローラ70に供給される。
混合コントローラ70は、この色補正装置によって変更すべき色空間内の領域を定義するキーパラメータに応じて動作する。混合コントローラ70は、現在の画素に関するL,S,H値が、変更するように定義された色空間内の領域内にあるか否かを検出する。そして、混合コントローラ70は、現在の画素を変更すべきか否かを定義し、及び幾つかの実施例においては、実行すべき変更の程度を定義するキー値kを生成する。このキー値は、混合器30に供給される。
また、混合コントローラ70は、この色補正装置によって実質的に変更しない全ての画素を定義する情報をバイパスコントローラ80に供給する。バイパスコントローラ80は、バイパス制御信号を生成して出力プロセッサ50に供給し、出力プロセッサ50は、このバイパス制御信号を用い、変更しない画素に対しては、バイパスバッファ60にバッファリングされている入力データ(変更されていない)を出力データとして出力する。このように、入力プロセッサ10、プリプロセッサ20、混合器30、及びポストプロセッサ40において実行されるフィルタリング及び他の処理は、実際には変更が必要とされていない画素に対しては適用されない。
混合器30は、現在の画素のL,S,Hの値と、この画素に関するキー値kとが供給される。キー値kは、その画素に適用される変更、すなわち色補正処理の程度を制御するものである。実行される変更の程度は、このキー値kに比例する。k=0の場合、画素に対するいかなる変更も施されない。k=1の場合、所定の変更量の全てで変更が行われる。0<k<1の場合、この値に比例した所定の変更量で変更が行われる。
図1では、混合コントローラ70と混合器30からなる1段の処理段を示しているが、好ましい実施例としては、このような処理段を連続的に6段設ける。
ポストプロセッサ40は、極座標−直交座標変換(polar to rectangular conversion)を実行して、4:4:4フォーマットのY,Cに戻すとともに、混合器30によって生成される所謂「無効な(illegal)」色を取り除く制限機能(along with a limiting function)を実行する。無効な色とは、有効(legal)とみなされる色の範囲外となる色であり、これは、一般的に所謂「色立体(colour cube)」の範囲を外れる色である。
最後に、出力プロセッサ50は、上述したバイパス混合機能を実行し、及びダウンサンプリング機能を実行して、4:2:2フォーマットのY,Cに戻す。
図1に示すように、この色補正装置は、アップサンプリング、直交座標−極座標変換、極座標−直交座標変換、ダウンサンプリングによって生じる処理遅延を相対的に補償するための複数の遅延器も備えている。
キー値k及び所謂「ソフト」キー値を用いて色補正を定義する手法について、図2を用いて説明する。
色空間(例えば、直交CrCb空間)内の領域又は場所(locus)92は、所定の量(例えば、この具体例では、1に等しい、最大キー値)に等しいキー値を有するよう定義される。この領域から十分離れた領域、例えば位置(position)96において、キー値を他の所定の値、例えば0に設定する。色変更94は、このキー値が設定された領域に関して定義される。この色変更94により、領域92は、対応する領域92’にマッピングされる。
ここで、現在の画素について、この画素の色属性(この場合、CbとCr)を、キー値が設定された領域と比較する。この現在の画素の色属性が、キー値が設定された領域内にある場合、この画素に色変更94を適用する。また、現在の画素に対するキー値が0の場合、色補正又は色変更は行わない。
なお、「完全変更(full change)」及び「全く変更なし(no change at all)」のいずれも表さないキー値を設定することもできる。これは、この実施例では、0より大きく1より小さいキー値を用いることにより達成される。例えば、0<k<1のキー値を有する領域98は、ここでは「ソフト」領域と呼び、図2では影付きの領域で表している。
ソフト領域では、部分的な色補正処理を実行する。すなわち、ソフト領域に対応する色属性を有する画素には、色変更94の一部が適用される。遷移の量、すなわち割合は、キー値に比例するように便宜的に設定することができる。
部分的な色の遷移をどのように取り扱うかについては、後に詳細に説明する。
図3は、混合器30及び混合コントローラ70の具体的な構成を示すブロック図である。
一連の混合器31、32、33、・・・が用いられる。実際には、各混合器の出力を次段の混合器の入力とする6個の混合器を用いる。各混合器31、32、33、・・・は、それぞれキー信号k、k、k、・・・を使用する。
第1の混合器31用のキー信号kは、第1のキー生成器71によって生成される。同様に、第2の混合器32用のキー信号kは、第2のキー生成器72によって生成される。第1のキー生成器71からのキー信号kと、第2のキー生成器72からのキー信号kは、キー修正論理回路(key modifying logic)73に供給される。キー修正論理回路73は、2つの出力信号、すなわち、第2の混合器32を制御するために実際に用いられるキー信号kと、事実上、キー値の「累計(running total)」を示すキー信号kとを生成し、このキー信号kは、シーケンス内の次段のキー修正論理回路に供給される。キー値kは、(修正されている可能性がある)画素データと同時に第2の混合器32に供給されるように、遅延器74によって遅延される。
更に次の処理段では、第3のキー生成器75は、キー信号kを、補償遅延器76を介して、第2のキー修正論理回路77に供給する。この第2のキー修正論理回路77には、前段のキー修正論理回路73からキー値の累計を示すキー信号kも供給されている。第2のキー修正論理回路77は、キー信号kを、遅延器78を介して第3の混合器33に供給する。
キー生成及びキー修正論理回路は、基本的に、混合処理のシーケンスにおいて、先行する混合処理で変更された色空間内の位置が、後に再び変更されることがないように動作する。したがって、色空間内のある位置に関して、前のキー生成器がキー値1(完全変更)を生成した場合、後のキー生成器は、その色空間内の位置に関して、0ではないキー値を生成することはできない。一方、色空間内のある位置に関して、部分的な変更を表すキー値が生成された場合、後のキー修正論理回路では、更なる部分的な修正が許される。「累計」キー値kは、シーケンス内の先行するキー生成器によってその画素に適用された変更の総量を表す。すなわち、第1のキー生成器71が現在の画素に対して例えばキー値0.2を生成し、第2のキー生成器72がその画素に対してキー値0.1を生成した場合、第3のキー生成器75に渡される累計キー値は0.3となる。したがって、第3の処理段のキー修正論理回路77によって許可される最大キー値は、(1−0.3)=0.7となる。
上述のように、キー生成処理に対応する6個の混合器を連続的に設けることが望ましいが、図3では、図を簡潔にするために、3個の混合処理段のみを示している。したがって、最終段のキー修正論理回路77は、キー信号kを(遅延器79を介して)バイパスコントローラ80に出力する。
図4は、例えば第1、第2、第3のキー生成器71、72、75等のキー生成器の構成を示すブロック図である。
キー生成器には、現在の画素に関する輝度(Y)、色差(Cb,Cr)及び彩度(S)データが供給される。キー値kは、現在の画素に関するこれらの属性と、13個の定数C〜C13に基づいて生成される。例えば、図4に示す具体例では、中間値I〜Iは次のようにして定められる。
=C12+(C*C)+(C*C
=C13+(C*C)+(C*C
ここで、出力I、Iは、画素の色相の回転を表す。
「負の非加法的多重化(negative non additive multiplexing:以下、NEGNAMという。)」と呼ぶ演算は、NEGNAMに対する入力のうち、数値的に小さい方を出力することを意味する。したがって、I及びIは次のようになる。
=IとIの小さい方に、オーバフローを防止する制限処理(limiting operation)を施した値
=1−(C+√(I +I ))にシフト処理と制限処理を施した値
シフト処理を行う理由は次の通りである。すなわち、不必要な処理オーバヘッドを避けるために、C〜Cを用いて適用すべき利得(gain)を、分数成分(fractional component)と2の累乗成分(power-of-two component)という2つの部分に分割する。分数成分は、C〜Cによって乗算され、2の累乗成分は、ビットシフトされる。
=C*(ABS(Y+C)+C)に、オーバフローを防止する制限処理を施した値
=C11*(ABS(S+C)+C10)に、オーバフローを防止する制限処理を施した値
ここで、Iを輝度キーとみなし、Iを彩度キーとみなすことができる。
=I又はI
をIとするかIとするかは、演算モードが、キーが設定された領域が色空間内の扇形の領域を表す「扇形モード(sector mode)」であるか、キーが設定された領域が色空間内の楕円の領域を表す「楕円モード(ellipse mode)」であるかに基づいて定められる。すなわち、扇形モードの場合はIを選択し、楕円モードの場合はIを選択する。
=(Iと(IとIの小さい方))の小さい方
そして、このIを「シフト及びソフト化(shifted and softened)」することにより、キー値kが得られる。シフト及びソフト化処理により、補正される領域の境界にキーのエッジが揃うようにキーのエッジを修正することができる。
図5は、累計キー値kと、新たに生成されるキー値kとに関する処理を説明するための図である。この実施例では、この処理は、ハードウェア内で実行されるが、図5では、上述したキー修正論理回路をプログラミング可能なデータ処理装置として実現した場合に処理がどのように実行されるかを示している。このプログラミング可能なデータ処理装置は、例えば読出専用メモリ又はディスクストレージ媒体等のストレージ媒体に格納されたプログラム又はインターネット接続等のネットワークを介して受信したプログラムを実行する。
ステップ100において、処理が開始され、現在の画素の累計キー値kを0に設定する。ステップ110において、第1のキー生成器71は、第1のキー値kを生成する。ステップ120において、kと(1−k)を比較する。そして、k>(1−k)の場合、ステップ140において、(1−k)すなわちその画素に適用できるキーの残量を混合器31に供給する。一方、(1−k)≧kの場合(1段目のキー生成段では必ずこうなる)、ステップ130において、kをそのまま混合器31に供給する。
ステップ150において、累計キー値kにkの値を加算する。この和が1を超えた場合は、累計キー値kを最大値である1とする。ステップ160において、混合処理のシーケンスが完了したか否かが判定され、シーケンスが完了している場合、処理はここで終了する。シーケンスが完了していない場合、処理はステップ170に進み、次のキー生成処理段に関する処理が開始され、ステップ110からの処理が繰り返される。
累計キー値kと、新たに生成されたキー値kとに関する処理を以下の表に示す。
Figure 0004462956
図6は、キー修正論理回路73、77、・・・のハードウェア構成を示すブロック図である。
累計キー値kは、(1−k)を算出する減算器200と、加算器220とに並列に供給される。
減算器200は、(1−k)の値を第1の入力としてNEGNAM210に供給する。NEGNAM210には、第2の入力として、新たに生成されたキー値kが供給されている。NEGNAM210は、kと(1−k)の小さい方を現在の混合器によって用いる現在のキー値kとして出力する。NEGNAM210からの出力信号は、加算器220にも供給され、加算器220は、NEGNAM210からのキー値kを、現在の累計キー値kに加算して、新たな累計キー値kを算出する。
図7は、キー修正論理回路の第2の実施例を示しており、このキー修正論理回路は、先の実施例におけるキー値に加えて、「累計」バイパス値Exvも算出する。
上述のように、変更されない画素に対しては、色補正装置の処理が透明(transparent)であることを確実にするために、最終的な累計キー値kからバイパス機能のための制御信号を生成する。すなわち、いずれかの混合処理段において画素に何らかの変更が施された場合(すなわち、その画素についてk>0である場合)、混合器のシーケンスからの出力信号を出力画素として用いる。一方、その画素についてk=0である場合、これは、その画素が色補正処理において変更されていないことを意味し、したがって、元の画素の(バッファリングされている)バイパス画素の値を出力画素として用いる。
なお、次のような例外的な処理を行うこともできる。すなわち、混合処理のシーケンスのより初期の処理段の1つを用いて、色空間内の特定の領域に関しては、いかなる変更も行われないようにすることができる。これは、その領域に関するキーを生成するが、対応する混合器を制御するパラメータを、変更がないように設定することによって実現される。上述のように、キー修正論理回路と累計キーkを用いているために、これにより、シーケンス内の後続する混合器によって、色空間のその領域が再び変更されることを防ぐことができる。
のみに基づく基本的な「バイパス」法では、色空間における変更から除外された領域に対応するこのような「除外(excluded)」画素は、バイパスバッファからではなく、一連の混合器から出力される。しかしながら、色空間内のその領域に対応する画素は、変更されていないため、バッファリングされた画素を出力画素として用いる方がより適切である。
図7に示すように、各処理段において、前のExfの値と、k(現在のキー修正論理回路から出力され、現在の混合器を制御するために用いられる)及びフラグExv(現在のキー生成器が「除外」の動作モードのときハイに設定される)の倫理積(AND)結合との論理和(OR)演算によって累計除外フラグExfが導出される。
この構成により、除外モードに設定されたキー生成器は、現在の画素のキー値のMSBがこのキー生成器によって1に設定されている場合、Exfをハイに設定する。このロジックでは、Exfが一旦ハイに生成されると、後段のキー修正論理回路は、Exfをローに戻すことはできない。
図8は、バイパスコントローラの構成を示すブロック図である。バイパスコントローラには、入力として、累計キー値kと、累計除外フラグExfとが供給される。バイパスコントローラは、次のような式に基づいて出力信号を生成する。
nbypass=(kが0ではない)AND(NOT Exf
すなわち、キーが0ではなく、除外フラグがハイに設定されていない場合、(バッファリングされている)バイパス画素は選択されない。
図9は、図1に示す混合器30の一部の構成を詳細に示すブロック図である。混合器30は、色相、彩度及び輝度に対する所望の加法的変更(additive changes)並びに彩度及び輝度に対する乗法的変更(multiplicative changes)を生じさせることができる色補正論理回路を備える。混合器30の論理回路は、極座標領域(polar domain)で動作する。
混合器30は、入力初期値として、プリプロセッサ20からの色相、彩度及び輝度の値と、混合コントローラ70からのキー値k(現在の画素が色補正されているか、及び色補正されているならばどの程度されているかを定義する)と、色相、彩度及び輝度に関する加法的デルタ(additive delta)並びに彩度及び輝度に関する利得(gain)とを含む所望の変更子(modifier)とが供給されている。
論理回路502は、色相を変更する。論理回路502は、色相における加法的(シフト)変更のみに関係している。論理回路502は、色空間内のソフト領域(0<k<1の領域)における滑らかな色の遷移を実現するために必要な複数の式を表にしたルックアップテーブル(look-up table:LUT)520を備える。なお、色空間のソフト領域を介して初期の色相から所望の色相に滑らかに遷移させるためには、極座標領域において彩度及び色相も変更する必要がある。これについては、図10a、図10b、図11a、図11b、図12を参照して後に説明する。ルックアップテーブル520の内容については、図14及び図15を参照して後に説明する。ルックアップテーブル520は、入力としてキー値kが供給され、出力を生成し、この出力は、関連した加算器522によって、入力色相と加算される。これにより出力色相が生成される。
論理回路504は、彩度を変更する。彩度用の論理回路540は、加法的(シフト)変更と、乗法的(利得)変更の両方に関係する。上述したように、入力色相から所望の色相に滑らかに遷移させるためには、ソフト領域において彩度も変更する必要があり、論理回路504は、このような変更も行う。
論理回路504は、ルックアップテーブル540を備え、彩度の乗法的変更を行うとともに、ソフト領域における滑らかな変化を実現するために、上述した色相の変更も行う。ルックアップテーブル540は、入力としてキー値kが供給され、出力を生成して乗算器542に供給し、乗算器542は、ルックアップテーブル540の出力に入力彩度を乗算する。そして、この乗算処理の結果は、加算器546に供給され、加算器546は、所望の加法的変更の結果を加算する。所望の加法的な彩度の変更δSatは、第1の入力として乗算器544に供給される。乗算器544には、第2の入力としてキー値kが供給されている。乗算器544は、δSatとkとを乗算し、得られる積を加算器546に供給し、加算器546は、乗算器544の出力と乗算器542の出力を加算する。このようにして、彩度に関する加法的変更と乗法的変更との和が出力彩度となる。
論理回路506は、輝度を変更する。輝度用の論理回路560は、加法的(シフト)変更と、乗法的(利得)変更の両方に関係する。論理回路506は、彩度用の論理回路504とは異なるルックアップテーブルデータを用いる他は、彩度用の論理回路504と同様に動作する。論理回路506は、ルックアップテーブル560を備え、輝度の変更を行うとともに、ソフト領域における滑らかな変化を実現するために、上述した色相の変更もを行う。ルックアップテーブル560の内容については、図16を参照して後に説明する。ルックアップテーブル560は、入力としてキー値kが供給され、出力を生成して乗算器562に供給し、乗算器562は、ルックアップテーブル560の出力に入力輝度を乗算する。この乗算処理の結果は、加算器566に供給され、加算器566は、所望の加法的変更の結果を加算する。所望の加法的な輝度の変更δYは、第1の入力として乗算器56に供給される。乗算器564には、第2の入力としてキー値kが供給されている。乗算器564は、δYとkとを乗算し、得られる積を加算器566に供給し、加算器566は、乗算器564の出力と乗算器562の出力を加算する。このようにして、輝度に関する加法的変更と乗法的変更との和が出力彩度となる。
そして、出力色相、出力彩度、出力輝度は、シーケンス内の次段の混合器に供給され、若しくはこの混合器が最終段の混合器である場合には、ポストプロセッサ40に供給される。
ルックアップテーブルのデータは、フィールド、フレーム等毎に供給するようにしてもよい。これらのデータは、混合器内のデータ生成器(図示せず)において生成してもよく、外部データ処理装置(図示せず)から供給してもよい。
以下、色相の変更にルックアップテーブルを用いる理由の一部について説明する。基本的には、デルタCb及びデルタCr加法的ベクトル変換を用い、Cb,Cr領域において色相変更を簡単に加えることは不可能だと考えられている。この背景となる理由は次の通りである。
輝度及び彩度における加法的デルタ変更は、簡単な加法的論理回路で行うことができるが、色相はより複雑である。色相は、極座標領域とも直交座標(Cb,Cr)領域ともみなすことができる。
図10aは、直交座標領域において色相をシフトさせようとする簡単な加法的論理回路を示している。このような論理回路は、スポット的な色補正、すなわち色空間内の一点によって表される色の補正又は変更に対しては機能するが、色空間内のより広い領域を補正するときには、彩度の誤った値が出力される。(なお、色を見る者が単一の「色」として知覚できるものは、通常、色空間内である領域を占めるものである。)、図10bに示すように、加法的補正量を直交座標領域で設定すると、例えばスポット的な色620(対応する色620’にマッピングされる)は、正しく補正されるが、このような補正は、通常、例えば色610(補正された色610’にマッピングされる)及び色630(補正された色630’にマッピングされる)等の同じ領域内の他のスポット的な色に対しては極めて不適切な補正となる。これは、色610’、630’の彩度が入力色610、630の彩度と大きく異なってしまうためである。
この問題は、色相(極座標)領域における処理によって軽減される。図11aは、極座標領域において色相をシフトさせる簡単な加法的論理回路を示している。ここでは、色相の変更は、直交座標領域における回転を表している。この処理により、色空間の領域内の異なる位置における正しい彩度が維持され、例えば色610は、正しく色610”にマッピングされ、色630は、正しく色630”にマッピングされる。
しかしながら、極座標領域における処理では、他の問題が生じる。特に、典型的には補正する領域のエッジ周辺に設定される色補正の「ソフト」領域(0<k<1の領域)では、好ましくない色「レインボー」効果が生じることがある。この理由については、図12を参照して説明する。
図12は、極座標領域において表される色相のシフトを示している。色相のシフトは、最も単純には、角度720による色相の回転として説明することができ、これにより(例えば)入力色710は、補正された色710’に変更される。
極座標領域において実行される色相の回転を用いた基本的な構成では、「ソフト」領域(0<k<1の領域)を補正すると、次の式によって示されるような角度による部分的な回転が行われる。
色相回転角=k.(角度720)
したがって、例えばキー値が0.3の場合、色710が回転され、補正された色710”となる。これは、角度720の30%に相当する角度による回転を表している。
しかしながら、ソフト領域では、主観的には、Cb,Cr平面において元の色と補正された色との間に線分740を引く部分的な補正の方がより望ましい。したがって、キー値が0.3の場合、主観的には、色710を色710”’に補正することがより望ましい。
これは、ソフト領域においては、色相だけではなく、彩度(彩度は、原点から線分740までの距離によって表される)も変わることを意味する。
このような処理は、直交座標(Cb,Cr)領域で動作し、回転させるのに必要なハードウェアを用いることによって実現できるが、多くのハードウェアが必要となり、望ましくない。図13は、直交座標領域においてこの回転を実行するのに適した実現可能な論理回路の構成を示すブロック図ある。この処理は、所望の色相変更のサイン及びコサインの算出を含み、一般的に、ハードウェア又は処理演算の観点からは、非常に高価なものである。一方、この実施例は、より安価なハードウェア又は処理演算で実現できる、より単純な技術を提供する。
上述のように、色相の変更を極座標領域において行う場合、特に0<k<1によって色相が変更される場合には、主観的には、色相に加えて彩度も変更することが望ましい。ソフト領域における色相及び彩度のデルタを記述する式は複雑であるため、この処理は、ルックアップテーブルを用いた方が容易に実現できる。
図14は、図9に示す混合器のソフト領域における色相変更に関連した部分の構成をブロック図である。ルックアップテーブル520は、色相のシフトに必要な変更値を提供し、ルックアップテーブル540は、彩度の変更に必要な変更値を提供する。これらのルックアップテーブル520、540のいずれにも入力としてキー値kが供給される。ルックアップテーブルの値(彩度及び色相の両方)を生成するための式は、図15を参照して後に説明する。なお、図14に示す変更された彩度は、必ずしも最終的な出力彩度ではなく、この彩度は、元の彩度の利得又はデルタに対する所望の直接的な変更によって修正してもよい。色相ルックアップテーブルは、変更キー値に関する線分740に沿った線形の遷移が実現されるように色相を変更するために用いられる。図14に示す2つのルックアップテーブル520、540の内容は、図15に示す幾何図形と周知の三角恒等式(trigonometrical identities)とを用いて生成することができる。図15は、直交座標(Cb,Cr)領域における色補正処理を示している。以下、図15を説明する。
変数「I」は、色補正処理によって生じる全変更、すなわちk=1の場合の変更を表している。
変数「Δhue」は、色補正処理によって生じる全色相回転、すなわちk=1の場合の色相の回転を表している。
変数「i」は、部分的なkの値、すなわち0<k<1の場合に生じる増加的な(ベクトル)変更を表している。
変数「s」は、この0<k<1の場合における望ましい彩度を表している。
変数「θ」は、0<k<1の場合に必要とされる色相の変更(回転)を表している。
変数「Sat」は、現在の画素の彩度を表している。
キー値が増加するにつれて、直交座標領域において初期の色から補正される色への直線的な遷移を確実にするためには、次の式を用いる必要がある。
i=I.k
彩度ルックアップテーブル540を導き出すために、次の式が必要とされる。
Figure 0004462956
したがって、彩度ルックアップテーブル540の内容は、次のように定義される。
Figure 0004462956
この値は、現在の画素の彩度Satによって乗算される。ルックアップテーブルへの入力は、角度θであるように見えるが、入力は、実際には入力キー値kの関数である。以下、このことを、色相ルックアップテーブル520の生成に関連して説明する。
色相ルックアップテーブル520に対しては、次の式が必要とされる。
Figure 0004462956
式(1)及び式(2)を上述の式に代入し、tan(θ)について解くと、以下のような解が得られる。
Figure 0004462956
これは、角度θが上述の式の左辺のアークタンジェントであることを意味する。色相ルックアップテーブル520においては、このことを用いて、キー値kを入力とし、角度θを出力とする。そして、この出力角度θを入力色相の角度に加え、修正された色相を生成する。
また、この式は、キー値kを彩度ルックアップテーブル540用の角度θに関連付けるためにも用いられる。これは、彩度ルックアップテーブル540の入力がkであってもよいことを意味する。
タンジェントは、連続関数ではないため、及びゼロ除算エラーを回避することが重要であるので、ルックアップテーブルの内容を算出するファームウェアにおいては、幾つかの例外が必要となる。これらの例外を以下に示す。
Figure 0004462956
これらの例外は、以下のような手続きによって処理することができる。
(1)Δhue<−180°の場合、Δhueに360°を加算する。
(2)Δhue>180°の場合、Δhueから360°を減算する。
(3)Δhueの絶対値>179.9°(すなわち略180°)の場合
・k<0.5であれば、色相変更のルックアップテーブル(LUT)の値を0に設定し、彩度変更のLUTの値を(1−2k)に設定する。
・この他(すなわちk≧0.5)の場合、色相変更のルックアップテーブル(LUT)値をΔhueに設定し、彩度変更のLUTの値を(2k−1)に設定する。
(4)k=0の場合、色相変更のLUTの値を0に設定し、彩度変更のLUTの値を1に設定する。また、kが正確に1である場合、色相変更のLUTの値をΔhueに設定し、彩度変更のLUTの値を1に設定する。
(5)
Figure 0004462956
の場合、色相変更のLUTの値を90°に設定しなければならない。なお、この式のxが略0(すなわち、0の所定量SMALLNUMBER内)である場合も、色相変更のルックアップテーブルを90°に設定しなければならない。
この実施例では、10ビットの色相値を用いる。このことは、色相回転の360°が十進数の1024に対応することを意味する。したがって、最小色相変化は、1/1024で表される。
このことは、90°と次の角度間の最も小さい近似値を、90−(360/1024)=89.6484375とすることができることを意味する。
この値のタンジェントは、162.9726164である。
これを1/xとすると、x=0.00613600158=SMALLNUBBERが得られる。
このような規準及び例外を用いることにより、色相及び彩度のルックアップテーブルを構築することができ、このルックアップテーブルは、直交座標領域における線形変換のための正確な値を提供できるとともに、論理回路自体は処理を極座標領域で行うことができる。
上述した論理回路は、加法的変更を行うためには有効である。なお、図9に示す論理回路で実現されるように、乗法的デルタを生成することも有益である。
図16は、彩度及び輝度に対する乗法的変更を実現する論理回路の構成を示すブロック図である。上述のように、乗法的変更は色相には関連しないので、この論理回路は、彩度及び輝度に対してのみ適用される。乗算器の数を少なくするために、これらの変更は、ルックアップテーブル920及び乗算器940を用いて実現される。図16に示すように、ルックアップテーブル920から出力された適切な値は、乗算器940に供給され、乗算器940は、この値と入力値とを乗算して適切な出力値を生成する。彩度の場合も、輝度の場合も、利得は、ルックアップテーブル920内に組み込まれている。彩度の場合、利得は、ルックアップテーブル920の内容に所望の利得を乗算する(但し、k=0は、キーがオフのときのための単位利得として残す)ことにより得られ、適切なルックアップテーブル値を乗算器940に供給して、入力彩度と乗算することによって得られる。乗算器940からは、修正された彩度が出力される。なお、彩度については、ルックアップテーブル920及び乗算器940は、図9では、ルックアップテーブル540及び乗算器542として実現されている。彩度用のルックアップテーブル920は、所望の彩度の利得を提供する目的と、色相に関連した彩度の修正を提供する目的の2つの目的を有している。
輝度の場合、ルックアップテーブル920の内容は、次のような式によって表すことができる。
1+k*(所望の輝度利得−1)
そして、ルックアップテーブル920は、入力としてキー値kが供給され、出力を生成して乗算器940に供給し、乗算器940は、この出力値と入力輝度とを乗算して、修正された輝度を出力する。なお、輝度については、ルックアップテーブル920及び乗算器940は、図9では、ルックアップテーブル560及び乗算器562として実現されている。
上述した本発明の実施例では、本発明の少なくとも一部は、ソフトウェア制御のデータ処理装置を用いて実現されているが、このようなソフトウェア制御を実現するコンピュータプログラム、及びこのようなコンピュータプログラムを提供するストレージ媒体又は伝送媒体も本発明の側面として含まれる。
ここでは、添付の図面を参照して本発明の実施の形態を例示的に詳細に説明したが、本発明はこれらの詳細な具体例に制限されるものではなく、当業者は、特許請求の範囲に定義されている本発明の範囲及び思想から逸脱することなく、ここに説明した実施の形態を様々に変更及び修正することができる。
本発明に基づく色補正装置の構成を示すブロック図である。 色空間におけるソフト領域の処理を説明するための図である。 混合器の構成を示すブロック図である。 キー生成器の構成を示すブロック図である。 キーを用いた処理を説明するためのフローチャートである。 キー修正論理回路の第1の具体例を示す図である。 キー修正論理回路の第2の具体例を示す図である。 バイパスコントローラの構成を示す図である。 混合器の内部構成を示すブロック図である。 直交座標領域における色相の回転に関する問題を説明するための図である。 直交座標領域における色相の回転に関する問題を説明するための図である。 極座標領域における色相の回転を説明するための図である。 極座標領域における色相の回転を説明するための図である。 ソフト領域における色相の回転を説明するための図である。 直交座標領域における色相の回転のための可能な構成を示すブロック図である。 極座標領域における色相の回転のための構成を示すブロック図である。 ルックアップテーブル値の導出の手法を説明するための図である。 輝度修正のためのルックアップテーブルの手法を説明するための図である。

Claims (10)

  1. 入力画像に対して画素に基づく色補正を加えて出力画像を生成するデジタル画像処理装置において、
    それぞれが色空間内の一部の異なる領域に対応しかつ、それぞれが対応する色マッピング処理を実行する2以上の色補正処理を行う色補正論理手段を備え、上記各領域は、上記各色補正処理により実行される上記各色マッピング処理における補正量を定義するキー値を有し、当該キー値は所定の最大値を有し、
    上記2以上の色補正処理は、当該2以上の色補正処理のうち一の色補正処理の結果がその次の色補正処理に入力されるように、一連の色補正処理として構成され、
    上記一連の色補正処理における各色補正処理は、上記入力画像の各画素が上記各色補正処理に対応する上記色空間内の上記領域内にあるか否かを判定し、該画素が該領域内にある場合、該画素に上記色マッピング処理を施し、
    上記一連の色補正処理のうち最初の色補正処理より後の各色補正処理は、該一連の色補正処理における先行する色補正処理により上記色マッピング処理が施された後の領域内にある画素に関しては、当該先行する色補正処理に対応する上記領域が有するキー値の合計が上記最大値以上となる場合には、上記色マッピング処理を阻止することを特徴とするデジタル画像処理装置。
  2. 上記色補正処理は、個別の色補正プロセッサによって実行されることを特徴とする請求項1記載のデジタル画像処理装置。
  3. 上記色補正処理のうち少なくとも1つに対応する色空間内の上記領域は、上記キー値の最大値により定義される補正量のうち一部について上記色マッピング処理が実行されるソフト領域を含むことを特徴とする請求項1記載のデジタル画像処理装置。
  4. 上記一の色補正処理において上記ソフト領域について上記色マッピング処理が行われ、かつ、当該一の色補正処理に後続する色補正処理に対応する上記領域が、当該一の色補正処理における上記ソフト領域に重なる場合には、当該後続する色補正処理により実行される色マッピング処理は、当該ソフト領域に重なる領域においては、上記キー値の最大値により定義される補正量のうち一部の補正量に限定されることを特徴とする請求項3記載のデジタル画像処理装置。
  5. 上記キー値は、色マッピング処理が行われないことを示す最小値から、上記最大値までの間で可変されることを特徴とする請求項3記載のデジタル画像処理装置。
  6. 上記一連の色補正処理における先行する色補正処理における関連する全ての色補正処理における各キー値の合計が上記最小値及び上記最大値の間にある領域に関しては、後続する上記色補正処理による色マッピング処理が当該キー値の合計に応じて上記一部について阻止されることを特徴とする請求項5記載のデジタル画像処理装置。
  7. 上記後続する色補正処理は、上記色空間内の各領域に関する先行する色補正処理によって適用されたキー値の累計を算出し、該キー値の累計と、上記最大値との差を超えない範囲内で色マッピング処理実行することを特徴とする請求項6記載のデジタル画像処理装置。
  8. 入力画像に対して画素に基づく色補正を加えて出力画像を生成するデジタル画像処理方法において、
    それぞれが色空間内の一部の異なる領域に対応しかつ、それぞれが対応する色マッピング処理を実行する2以上の色補正処理を行うステップを有し、上記各領域は、上記各色補正処理により実行される上記各色マッピング処理における補正量を定義するキー値を有し、当該キー値は所定の最大値を有し、
    上記2以上の色補正処理は、当該2以上の色補正処理のうち一の色補正処理の結果がその次の色補正処理に入力されるように、一連の色補正処理として構成され、
    上記一連の色補正処理における各色補正処理は、上記入力画像の各画素が上記各色補正処理に対応する上記色空間内の上記領域内にあるか否かを判定し、該画素が該領域内にある場合、該画素に上記色マッピング処理を施し、
    上記一連の色補正処理のうち最初の色補正処理より後の各色補正処理は、該一連の色補正処理における先行する色補正処理により上記色マッピング処理が施された後の領域内にある画素に関しては、当該先行する色補正処理に対応する上記領域が有するキー値の合計が上記最大値以上となる場合には、上記色マッピング処理を阻止することを特徴とするデジタル画像処理方法。
  9. 請求項8記載のデジタル画像処理方法をコンピュータに実行させるプログラム。
  10. 請求項9記載のプログラムを記録した記録媒体。
JP2004046955A 2003-02-21 2004-02-23 色補正 Expired - Fee Related JP4462956B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
GB0304025A GB2398715A (en) 2003-02-21 2003-02-21 Pixel-based colour correction using two or more colour correction processes

Publications (2)

Publication Number Publication Date
JP2004274742A JP2004274742A (ja) 2004-09-30
JP4462956B2 true JP4462956B2 (ja) 2010-05-12

Family

ID=9953449

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004046955A Expired - Fee Related JP4462956B2 (ja) 2003-02-21 2004-02-23 色補正

Country Status (5)

Country Link
US (1) US7548644B2 (ja)
EP (1) EP1450553A3 (ja)
JP (1) JP4462956B2 (ja)
CN (1) CN1324901C (ja)
GB (1) GB2398715A (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI241048B (en) * 2004-09-01 2005-10-01 Nan Ya Printed Circuit Board C Method for manufacturing bipolar plate and direct methanol fuel cell
US7397588B2 (en) * 2005-01-31 2008-07-08 Canon Kabushiki Kaisha Generation of hue slice table for gamut mapping
TWI255643B (en) * 2005-02-24 2006-05-21 Weltrend Semiconductor Inc Method for defining chromaticity regions according to luminance levels and adjusting chromaticity of images accordingly
JP4600301B2 (ja) 2006-01-16 2010-12-15 ソニー株式会社 色差信号の補正方法とこれを用いた色差信号処理回路及びカメラシステム
KR20080025593A (ko) * 2006-09-18 2008-03-21 삼성전기주식회사 디스플레이 영상의 색 보정을 위한 장치 및 방법
JP2008306377A (ja) * 2007-06-06 2008-12-18 Fuji Xerox Co Ltd 色調整装置および色調整プログラム
JP5380973B2 (ja) * 2008-09-25 2014-01-08 株式会社ニコン 画像処理装置及び画像処理プログラム
JP5611457B2 (ja) 2010-06-08 2014-10-22 ドルビー ラボラトリーズ ライセンシング コーポレイション 階調および色再現域のマッピング方法および装置
CN102769759B (zh) * 2012-07-20 2014-12-03 上海富瀚微电子有限公司 数字图像颜色校正方法及实现装置
JP5751283B2 (ja) * 2013-06-04 2015-07-22 コニカミノルタ株式会社 色調整システム、色調整方法、および色調整プログラム
CN105139360A (zh) * 2015-09-11 2015-12-09 新奥特(北京)视频技术有限公司 一种图像颜色校正方法与装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6434266B1 (en) * 1993-12-17 2002-08-13 Canon Kabushiki Kaisha Image processing method and apparatus for converting colors in a color image
DE69601592T2 (de) 1995-05-03 1999-09-16 Agfa-Gevaert N.V., Mortsel Farbtonbereiche angewandte selektive Farbkorrektur
EP0741492B1 (en) * 1995-05-03 1999-03-03 Agfa-Gevaert N.V. Selective colour correction applied to plurality of local color gamuts
JPH0946541A (ja) * 1995-07-31 1997-02-14 Canon Inc 画像処理装置および方法
JPH09186907A (ja) * 1996-01-08 1997-07-15 Matsushita Electric Ind Co Ltd 色調整方法
DE69900872D1 (de) * 1998-04-03 2002-03-21 Da Vinci Systems Inc Primär- und Sekundärfarbverarbeitung unter Verwendung von Farbe, Sättigung, Luminanz und Flächenisolierung
WO2001045042A1 (en) * 1999-12-17 2001-06-21 Applied Science Fiction, Inc. Method and system for selective enhancement of image data
US7006155B1 (en) * 2000-02-01 2006-02-28 Cadence Design Systems, Inc. Real time programmable chroma keying with shadow generation
EP1368786B1 (en) * 2001-02-09 2006-01-25 Koninklijke Philips Electronics N.V. Software system for deploying image processing functions on a programmable platform of distributed processor environments
US7221791B2 (en) * 2001-10-11 2007-05-22 Mitsubishi Denki Kabushiki Kaisha Color converter and color converting method

Also Published As

Publication number Publication date
CN1324901C (zh) 2007-07-04
JP2004274742A (ja) 2004-09-30
US20040165772A1 (en) 2004-08-26
GB0304025D0 (en) 2003-03-26
EP1450553A3 (en) 2007-05-02
EP1450553A2 (en) 2004-08-25
GB2398715A (en) 2004-08-25
CN1523898A (zh) 2004-08-25
US7548644B2 (en) 2009-06-16

Similar Documents

Publication Publication Date Title
US7483082B2 (en) Method and system for automatic color hue and color saturation adjustment of a pixel from a video source
JP4462956B2 (ja) 色補正
JP2003153006A (ja) 画像処理装置
JPH09186907A (ja) 色調整方法
JPH01163879A (ja) 対話式画像修正のための方法と装置
US6972869B2 (en) Mapping color to colorant amounts when colorants have similar hue
JP4241428B2 (ja) 色補正
JP2009187118A (ja) 鮮鋭化画像処理装置、方法、及びソフトウェア
JPH1117969A (ja) 色補正方法
KR101225059B1 (ko) 장치 적응적 칼라 향상 장치 및 방법
JP7072562B2 (ja) マッピング色空間を区分する色相角度セクタに基づくクロママッピング関数の判定
US7072072B1 (en) Color rendering optimized for text and line art
US8085277B2 (en) System and method for clipping values of pixels in one color space so not to exceed the limits of a second color space
JP4058244B2 (ja) 画像処理方法
US20090268253A1 (en) Image processing apparatus
JP4305917B2 (ja) 映像信号処理装置及びテレビジョン装置
US7345786B2 (en) Method for color cast removal in scanned images
JP4580837B2 (ja) 色調補正方法及び色調補正回路
EP1351525A2 (en) Real-time gradation control
JP2005057748A (ja) 色調補正回路及び色調補正方法
JP4270948B2 (ja) 映像表示装置
JPH11308635A (ja) ディスプレイ装置及び画像処理回路
JP2010245611A (ja) 画像処理装置、画像合成方法およびプログラム
JP2004193725A (ja) 画像処理装置および画像処理方法およびプログラム
JP2003143423A (ja) 画像処理方法および装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060921

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080418

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080423

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080916

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081216

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090421

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090721

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090724

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100216

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130226

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140226

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees