JP4233192B2 - 画像のカラーバランスの補正 - Google Patents

画像のカラーバランスの補正 Download PDF

Info

Publication number
JP4233192B2
JP4233192B2 JP36537299A JP36537299A JP4233192B2 JP 4233192 B2 JP4233192 B2 JP 4233192B2 JP 36537299 A JP36537299 A JP 36537299A JP 36537299 A JP36537299 A JP 36537299A JP 4233192 B2 JP4233192 B2 JP 4233192B2
Authority
JP
Japan
Prior art keywords
image
color
channel
standard deviation
transformed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP36537299A
Other languages
English (en)
Other versions
JP2000232658A (ja
Inventor
エイ ウェルディ ジョン
Original Assignee
イーストマン コダック カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from GBGB9828314.6A external-priority patent/GB9828314D0/en
Application filed by イーストマン コダック カンパニー filed Critical イーストマン コダック カンパニー
Publication of JP2000232658A publication Critical patent/JP2000232658A/ja
Application granted granted Critical
Publication of JP4233192B2 publication Critical patent/JP4233192B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明はカラープリントに関し、より詳細にはカラー補正の自動調整のための方法に関する。加えて、本発明の方法はカラービデオカメラで用いられるようなホワイトバランス調整装置に適用されうる。
【0002】
【従来の技術】
写真プリントで、得られたプリントの積分濃度はニュートラル又はグレーであるようにプリント処理を調整することによりカラー写真のネガのようなオリジナルからのプリントのカラーバランスを補正することはよく知られた慣行である。この補正戦略はシーン全体の平均カラーは積分するとグレーカラーになるという仮定に基づく。この戦略はタングステン及びデイライトのようなスペクトル的に異なるシーンの照明から得られる影響を減少する場合にはきわめて効果的である。同様に、ビデオカメラのような画像検知装置は典型的には比較的長い時間にわたり、カラー差信号R−Y及びB−Yをゼロ値に平均する。これはグレーへの積分に等価である。
【0003】
これらの方法は多くのシーン及び照明の組み合わせに対してうまく働く。しかしながら、シーンの対象物が特に単一の主要なカラーで高度に着色されているときに、グレーへの積分戦略はこの主要なシーンカラーが照明バイアスに対して誤用される故に失敗する。この失敗は、対象失敗(subject failure)として知られており、主要なシーンのカラーに対して補色である不快なカラー配置を生ずる。これらの失敗を最小化するために種々の戦略が存在する。これらの戦略は典型的には隣接するフレームの画像のポピュレーション及び/又は情報に基づく補正の量を減少することに基づく。アグファMSPプリンタは隣接フレームの情報がカラー補正に用いられている一例である。
【0004】
加えて、カラー補正を改善し、対象失敗の数を減少するために用いられる画像から付加的な情報を抽出することは特にデジタル化により可能である。米国特許第5555022号に開示されるようなこれらの方法の多くはシーン情報をシーン内で異なる位置を表す複数の領域に分割する。これらの領域の補正を選択し、重みづけるための手段はビデオカメラでの自動ホワイトバランスを提供するよう用いられる。加えて、カラー選択利得が適用される程度の制限が開示されている。
【0005】
トーンスケール補正にカラー補正を結合する他のアプローチはデジタル化された画像内のランダムサンプリングと、それに続くこれらのサンプルの得られたヒストグラムを変更することに基づく。J.S.Alkoferによる1987年7月30日に発行された米国特許第4677465号“Digital Color Image Processing Method with shape Correction of Histograms Used to Produce Color Reporduciton Functions”及びJ.S.Alkoferによる1988年3月1日に発行された米国特許第4729016号“Digital Color Image Processing Method and Apparatus Employing Three Color Reporduciton Functions for adjusting Both Tone Scale and Color Balance”は正規化技術を通して画像ポピュレーションデータと比較して複数のセグメント化されたコントラストインターバルでこれらのサンプルを用いる比較的複雑な方法を開示する。
【0006】
【発明が解決しようとする課題】
本発明の目的は画像処理方法を用いることにより改善されたカラー画像を提供し、上記のようなフィルムポピュレーションデータへの依存性及びカラー対象失敗のような問題を克服する手段を提供することにある。
【0007】
【課題を解決するための手段】
本発明の方法は例えば指数法則(べき乗則)空間のような特定の空間で計算されるような高空間周波数情報である赤、緑、青色標準偏差が等しくならなければならないという仮定に基づく。
【0008】
本発明により、
画像を捕捉し;
画像の各チャンネルを指数法則空間へ変換し;
変換されたチャンネルを記憶し;
少なくとも一つの濾波された画像を発生するよう、少なくとも一つのフィルタで変換されたチャンネルを空間的に濾波し;
濾波された変換されたチャンネルの各々の標準偏差を計算し;
基準の標準偏差を決定し;
基準の標準偏差と各濾波された変換されたチャンネルの標準偏差との間の比を形成し;
カラー補正された画像を提供するために各記憶された変換されたチャンネルに倍数利得係数として該比を乗算する
各段階からなる複数のチャンネルからなるカラー画像のカラーバランスを補正する方法が提供される。
【0009】
チャンネルは帯域通過フィルタ又は高域通過フィルタのいずれかで空間的に濾波される。画像のカラーを更に改善するために付加的な段階が更に含まれうる。
【0010】
本発明は更に、
画像を捕捉する手段と;
画像の各チャンネルを指数法則空間へ変換する手段と;
変換されたチャンネルを記憶する手段と;
少なくとも一つの濾波された画像を発生するよう、変換されたチャンネルを空間的に濾波する濾波手段と;
濾波された変換されたチャンネルの各々の標準偏差を計算する計算手段と;
基準の標準偏差を決定する手段と;
基準の標準偏差と各濾波された変換されたチャンネルの標準偏差との間の比を計算する手段と;
カラー補正された画像を提供するために各記憶された変換されたチャンネルに倍数利得係数として該比を乗算する手段とからなる、
複数のチャンネルからなる画像のカラーバランスを補正する手段を更に提供する。
【0011】
本発明の上記及び他の特徴及び利点は以下に図面を参照して好ましい実施例の説明により明らかとなる。
【発明の実施の形態】
図1は本発明をなすための装置を示すブロック図である。
【0012】
図1を参照するに、シーンの対象10からの光は光検出装置又はCCD30上のレンズ20を通して画像化される。カラーデコーディング装置40はCCD30からの多重化されたカラー信号を赤、緑、青色電子信号に分離する。赤、緑、青色信号はガンマ電子信号を発生するためにガンマ空間変換器50に印加される。ガンマ信号は高域通過又は帯域通過濾波手段60に印加され、その出力は正のレベルのみを有する整流(rectify)された信号を発生する全波整流手段70を通過し、これは全ての負の濾波される信号レベルを正のレベルに変換されたものを有する。整流された信号は積分器80に印加される。
積分器80からの積分された信号は積分された信号の基準を決定するために基準決定手段90に印加される。基準決定手段90と積分器80の出力は利得係数信号を発生するよう計算手段100に印加される。計算された利得係数信号は次に最終画像表示器130用のビデオ回路120に印加される補正されたガンマ信号を発生するよう乗算器110でガンマ空間変換器50からのガンマ信号へ印加される。
【0013】
図2は本発明の方法の第一の実施例を説明するフローチャートである。段階S1で、多数のカラーチャンネルからなる元画像は指数法則空間に変換される。段階S1aで、変換されたチャンネルは画像バッファに記憶され、又は続く処理に対して記憶される。
【0014】
指数法則空間PLは通常以下のように決定される:
PL=(1+A)**P−A (1a)
S>{A/[(1−P)(1+A)]}**(1/P)に対して
PL={P(1+A){A/[(1−P)(1+A)]}**[(P−1)/P]}}S(1b)
0<=S<={A/[(1−P)(1+A)]}**(1/P)に対して
ここでPLは元のシーンSの指数法則表現である。元のシーンSはデジタル又はビデオカメラの場合には直接収集され、又はカラーネガ又はリバーサルフィルム又はプリントをスキャンし、フィルムか又はスキャン処理による如何なるバイアスをも除去するようスキャンされた情報を変換した結果から得られる。Aは定数であり、Sがゼロに近づくにつれて最大スロープを制限するよう用いられる。A=0の場合に、曲線の全体は等式(1a)により表され、P=1はSとPLとの間のリニアな関係を形成する。その様な指数法則変換の例は1992年のイーストマンコダック社の著作物A Planning Guide for Developers Kodak Photo CD Productsの25ページに記載されているフォトCDにより用いられているような指数法則変換である。
【0015】
段階S2では、得られた変換チャンネルは空間的に濾波される。図2は簡潔さのために一のフィルタのみを示す。しかしながら画像は多数のフィルタにより濾波されうる。変換された赤、緑、青色チャンネルの各々は各フィルタにより濾波される。用いられたフィルタは全て高域通過フィルタ、全て帯域通過フィルタ、又は高域通過フィルタ及び帯域通過フィルタの両方の結合のいずれかで用いられる。
【0016】
空間濾波動作は典型的に有限インパルス応答(FIR)又は無限インパルス応答(IIR)フィルタをデジタル画像に適用することによりなされる。好ましくは二次元フィルタが用いられ、一次元フィルタよりも計算効率がよく、最終的な結果の画質の劣化がほとんどない。
【0017】
FIRフィルタの例は以下のようになる:
【0018】
【表1】
Figure 0004233192
これらのフィルタは当業者によく知られているコンボリューション法によりデジタル化された画像に適用される。これらのフィルタの各々に対して係数の和がゼロ空間周波数(DC)でゼロ応答を生ずるようゼロに等しい。DCでのこのゼロ応答特性は主要なカラーの寄与を除去する傾向にあり、故にカラー対象失敗を減少する。
【0019】
画像は高空間周波数ノイズを有する場合には帯域通過フィルタがより簡単な高域通過フィルタよりも好ましい。上記のフィルタ全ては濾波された画像と、それに続いてカラーバイアスされた画像のカラーバランスを改善する利得補正係数を提供する。50画素以上(より小さな空間寸法で)の画像サイズはこの方法が適用可能である。
【0020】
段階S3aで、濾波され、変換された赤、緑、青色チャンネルの各々の標準偏差は計算される。標準偏差SDは以下の式を用いて計算される。
【0021】
【数1】
Figure 0004233192
ここでi,jは画像の各サンプルされた画素に対する水平及び垂直方向を示す添え字であり、Nは画像の画素数であり、nxmに等しく、
【0022】
【数2】
Figure 0004233192
段階S3bでは基準の標準偏差が決定される。基準の標準偏差は変換された赤、緑又は青色チャンネルの標準偏差の一つである。或いは基準の標準偏差は変換された赤、緑又は青色チャンネルの標準偏差の結合から計算され、又は変換されたチャンネルの結合から得られた信号の標準偏差として計算される。チャンネルの結合の一例は赤、緑、青色チャンネル情報からの輝度信号を形成することである。テレビジョンに対するCCIR勧告601−1で用いられる一例は以下の通りである。
【0023】
【数3】
Figure 0004233192
ここでLは重み付けられた赤、緑又は青色カラー信号の線形結合により形成された輝度信号である。
【0024】
段階S4では、記憶され変換されたチャンネルに適用される利得係数が計算される。利得係数は他の計算された標準偏差に対する選択された基準の標準偏差の比に基づく。段階S5では、計算された利得係数は記憶された変換されたチャンネルに適用され、得られた画像はシーンの出力表示を可能にするよう変換される。
【0025】
更なる段階がカラー補正をよりよくするために含まれうることは当業者には明らかである。
【0026】
図3は本発明の方法の第二の実施例を説明するフローチャートである。
【0027】
図2のフローチャートと同様な段階が図3に示されるフローチャートを参照して同様の符号により示される。図3の第二の実施例は以下の点を除き、図2に示された第一の実施例と同一である。
【0028】
第二の実施例は付加的な段階S6を有する。元のシーンが指数法則空間に変換される段階S1の後に、少なくとも一つの重み付けマスクが段階S6で得られた変換されたチャンネルに適用される。この重み付けマスクは画素のデータの特性に基づいてゼロと一の間の重みを割り当てる。例えば、記憶された変換されたチャンネルに基づくマスクはより飽和された画素に対してはより低い重みを、あまり飽和されていない画素にはより高い重みを割り当てる。同様にして、高域通過又は帯域通過フィルタされた画像に基づくマスクはより飽和された画素に対してはより低い重みを、あまり飽和されていない画素にはより高い重みを割り当てる。3つのr、g、bチャンネルに対して0から255の範囲のコード値を有する変換された画像に対するその様なマスクの一例は以下のようになる。
【0029】
【数4】
Figure 0004233192
Wijは画素位置i,jに対する重み係数である。
【0030】
重み付けマスクの他の例はクリップされた画素(どの赤、緑、又は青色チャンネルの0又は255のコード値を有する画素)を除去することである。
【0031】
ゼロ又は一に等しくない重みを有する可能性を有する重みマスクの導入は標準偏差に対する式の変更を要求する。標準偏差のような計算はフィルタされ変換された赤、緑又は青色画像でなされ、同様にして、SDの基準の標準偏差のような計算は以下の式に基づく。
【0032】
【数5】
Figure 0004233192
ここでyは典型的には2に等しいが、これはしかし本質的ではなく、zは典型的には0.5に等しいが、これはしかし本質的ではない。この式は標準偏差、SD、重みを有する式(2)と類似であり、Wijが付加され、分母が削除されている。最終利得係数が式(2)又は(6)のいずれかからの値の比に基づいて計算される故に、一定値の分母はこの計算で打ち消されている。
【0033】
図3に示される実施例では、マスクが記憶された変換されたチャンネルと濾波され変換されたチャンネルの両方に適用される。或いはマスクは記憶され、又は濾波された変換されたチャンネルの一つのみに適用されうる。
【0034】
図4は本発明の方法の第三の実施例を示すフローチャートである。
図2のフローチャートと同様な段階が図4に示されるフローチャートを参照して同様の符号により示される。図4の第三の実施例は以下の点を除き、図2に示された第一の実施例と同一である。
【0035】
第三の実施例は付加的な段階S7を有する。段階S7で、記憶され変換された赤、緑又は青色チャンネルの標準偏差が計算される。段階S4で計算された利得係数は記憶された変換された赤、緑又は青色チャンネルから計算された標準偏差と濾波された変換された赤、緑又は青色チャンネルから計算された標準偏差の組み合わせに基づく。
【0036】
本発明の更に好ましい実施例は図示されないが、第二と第三の実施例の両方の付加的な段階を組み合わせることである。
【0037】
如何なる適切な標準偏差又は標準偏差のような式が適用されても、本発明は図3を参照して説明されたような特定の記載には制限されないことは当業者には明らかである。
【0038】
発明の方法は簡単であり、従来技術よりもより複雑ではない。
【0039】
本発明の方法は所定のカラーで高度に着色されたシーンの画像に関する問題を克服する。
【0040】
本発明の方法はデスクトップ画像化応用に対して有用であり、等価及び反射スキャナ、ビデオカメラ、ビデオ表示器/テレビジョンと同様に、光プリント(ミニラボ、動画用のカラータイミング、高速プリンタ、等々)用のアルゴリズムで用いられる可能性を有する。本発明の方法を実施するために要求される装置は簡単で、低コストである。
【図面の簡単な説明】
【図1】本発明を実施するための装置のブロック図である。
【図2】本発明の方法の第一の実施例の段階を示すフローチャートである。
【図3】本発明の方法の第二の実施例の段階を示すフローチャートである。
【図4】本発明の方法の第三の実施例の段階を示すフローチャートである。

Claims (1)

  1. 画像を捕捉し;
    画像の各チャンネルを指数法則空間へ変換し;
    変換されたチャンネルを記憶し;
    少なくとも一つの濾波された画像を発生するよう、少なくとも一つのフィルタで変換されたチャンネルを空間的に濾波し;
    濾波された変換されたチャンネルの各々の標準偏差を計算し;
    基準の標準偏差を決定し;
    基準の標準偏差と各濾波された変換されたチャンネルの標準偏差との間の比を形成し;
    カラー補正された画像を提供するために各記憶された変換されたチャンネルに倍数利得係数として該比を乗算する
    各段階からなる複数のチャンネルからなるカラー画像のカラーバランスを補正する方法。
JP36537299A 1998-12-23 1999-12-22 画像のカラーバランスの補正 Expired - Fee Related JP4233192B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
GBGB9828314.6A GB9828314D0 (en) 1998-12-23 1998-12-23 Correction of colour and tone in colour images
GBGB9921300.1A GB9921300D0 (en) 1998-12-23 1999-09-10 Correction of colour and tone in colour images
GB9921300:1 1999-09-10
GB9828314:6 1999-09-10

Publications (2)

Publication Number Publication Date
JP2000232658A JP2000232658A (ja) 2000-08-22
JP4233192B2 true JP4233192B2 (ja) 2009-03-04

Family

ID=26314889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP36537299A Expired - Fee Related JP4233192B2 (ja) 1998-12-23 1999-12-22 画像のカラーバランスの補正

Country Status (4)

Country Link
US (1) US6574365B1 (ja)
EP (1) EP1014695B1 (ja)
JP (1) JP4233192B2 (ja)
DE (1) DE69929395T2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69929395T2 (de) * 1998-12-23 2006-09-07 Eastman Kodak Co. Korrektur des farbabgleichs von bildern
US6965692B1 (en) * 1999-12-30 2005-11-15 Eastman Kodak Company Method and apparatus for improving the quality of reconstructed information
EP1292113A3 (en) * 2001-08-23 2005-03-23 Eastman Kodak Company Tone scale adjustment
GB0211486D0 (en) 2002-05-18 2002-06-26 Eastman Kodak Co Processing of digital images
US7236646B1 (en) * 2003-04-25 2007-06-26 Orbimage Si Opco, Inc. Tonal balancing of multiple images
US7391933B2 (en) * 2003-10-30 2008-06-24 Samsung Electronics Co., Ltd. Method and apparatus for image interpolation based on adaptive polyphase filters
US7509330B2 (en) * 2004-09-03 2009-03-24 Crossroads Systems, Inc. Application-layer monitoring of communication between one or more database clients and one or more database servers
JP5106870B2 (ja) * 2006-06-14 2012-12-26 株式会社東芝 固体撮像素子
JP2008271049A (ja) * 2007-04-18 2008-11-06 Hamamatsu Photonics Kk 撮像装置及びそのゲイン調整方法
US10321110B2 (en) 2014-05-29 2019-06-11 Nokia Technologies Oy Method and apparatus for image processing
JP6671267B2 (ja) 2016-09-08 2020-03-25 富士フイルム株式会社 画像処理装置、方法およびプログラム
CN109255331B (zh) * 2018-09-18 2019-08-09 北京达佳互联信息技术有限公司 图片处理方法、装置、电子设备及存储介质

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4642684A (en) * 1985-05-06 1987-02-10 Eastman Kodak Company Method and apparatus for detecting and printing color photographic images of scenes exposed with narrow band illuminant
US4729016A (en) * 1985-05-06 1988-03-01 Eastman Kodak Company Digital color image processing method and apparatus employing three color reproduction functions for adjusting both tone scale and color balance
US4677465A (en) 1985-11-01 1987-06-30 Eastman Kodak Company Digital color image processing method with shape correction of histograms used to produce color reproduction functions
US5534948A (en) * 1989-08-15 1996-07-09 Rank Cintel Limited Method and apparatus for reducing the effect of alias components produced through non-linear digital signal processing, such as gamma correction, by selective attenuation
US5442408A (en) 1989-11-17 1995-08-15 Sanyo Electric Co., Ltd. White balance adjusting apparatus for automatically adjusting white balance in response to luminance information signal and color information signal obtained from image sensing device
JPH05508281A (ja) * 1991-04-18 1993-11-18 イーストマン・コダック・カンパニー 最小視覚ひずみのためのディジタル画像信号の二次量子化
US5641596A (en) * 1995-12-05 1997-06-24 Eastman Kodak Company Adjusting film grain properties in digital images
US6151410A (en) * 1996-11-19 2000-11-21 Seiko Epson Corporation Image processing apparatus, image processing method and medium for storing image-processing control program
DE69929395T2 (de) * 1998-12-23 2006-09-07 Eastman Kodak Co. Korrektur des farbabgleichs von bildern

Also Published As

Publication number Publication date
US6574365B1 (en) 2003-06-03
JP2000232658A (ja) 2000-08-22
EP1014695A2 (en) 2000-06-28
DE69929395D1 (de) 2006-04-06
DE69929395T2 (de) 2006-09-07
EP1014695B1 (en) 2006-01-11
EP1014695A3 (en) 2002-07-17

Similar Documents

Publication Publication Date Title
US7065255B2 (en) Method and apparatus for enhancing digital images utilizing non-image data
JP4081219B2 (ja) 画像処理方法及び画像処理装置
US7433089B2 (en) Image processor
US7738699B2 (en) Image processing apparatus
US7742653B2 (en) Image processing apparatus and image processing method
US6603878B1 (en) Image processing method
JP4233192B2 (ja) 画像のカラーバランスの補正
US7324702B2 (en) Image processing method, image processing apparatus, image recording apparatus, program, and recording medium
JP3998369B2 (ja) 画像処理方法および画像処理装置
JPH1141556A (ja) 画像処理装置を備えたデジタル写真撮影装置
US20040246352A1 (en) Imaging device
JPH11191871A (ja) 画像処理装置
JP3783817B2 (ja) 画像処理方法および画像処理装置
US20020163586A1 (en) Method and apparatus for capturing image
JP2003189169A (ja) 画像処理装置
US7319544B2 (en) Processing of digital images
Allen et al. Digital cameras and scanners
JP2000308079A (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP2000341705A (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4547758B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP2001245153A (ja) 画像処理方法および装置
JP2000057336A (ja) 画像処理方法および装置
JP2007074373A (ja) 画像処理装置、および画像処理方法
JPH06152959A (ja) ディジタルカラー画像再生装置
JP2001054126A (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081209

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111219

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4233192

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121219

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131219

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees