JPWO2005074302A1 - 色再現システム及び色再現方法 - Google Patents

色再現システム及び色再現方法 Download PDF

Info

Publication number
JPWO2005074302A1
JPWO2005074302A1 JP2005517530A JP2005517530A JPWO2005074302A1 JP WO2005074302 A1 JPWO2005074302 A1 JP WO2005074302A1 JP 2005517530 A JP2005517530 A JP 2005517530A JP 2005517530 A JP2005517530 A JP 2005517530A JP WO2005074302 A1 JPWO2005074302 A1 JP WO2005074302A1
Authority
JP
Japan
Prior art keywords
illumination
image
color
information
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005517530A
Other languages
English (en)
Other versions
JP4217243B2 (ja
Inventor
剛幸 味戸
剛幸 味戸
小宮 康宏
康宏 小宮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2005074302A1 publication Critical patent/JPWO2005074302A1/ja
Application granted granted Critical
Publication of JP4217243B2 publication Critical patent/JP4217243B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/603Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J2/00Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed
    • B41J2/525Arrangement for multi-colour printing, not covered by group B41J2/21, e.g. applicable to two or more kinds of printing or marking process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6088Colour correction or control controlled by factors external to the apparatus by viewing conditions, i.e. conditions at picture output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Image Communication Systems (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)

Abstract

画像入力装置(12)で撮影された画像を、色補正部(16)で色変換し、画像出力装置(18)に表示若しくは印刷による出力を行う色再現システムにおいて、上記色補正部(16)は、撮影時における照明環境の情報(撮影照明情報)と、観察時における照明環境の情報(観察照明情報)と、上記画像入力装置(12)に関する情報(画像入力装置情報)と、を用いて入力画像(撮影照明画像データ)から出力画像への色変換を行うものとし、更に、上記観察時における照明環境の情報は、各々異なる2つ以上の照明環境の情報(A観察照明情報、B観察照明情報)を含むようにする。

Description

本発明は、マルチバンドカメラにより撮影された画像から、撮影環境の照明光の情報及び観察環境の照明光の情報に基づき、照明条件を変えた被写体の画像を正確に色再現する色再現システム及び色再現方法に関する。
被写体の正確なカラー画像を再現することを目的として、マルチバンドカメラにより撮影された画像から被写体の分光反射率を推定して色推定を行なう方法が、例えば、USP5,864,364及びUSP6,466,334に提案されている。
それらUSPに開示された方法によれば、撮影環境及び観察環境の照明光のスペクトル情報を用いて、撮影時に観察時と異なる照明光下で撮影した画像からでも観察時における照明光下の被写体の色を正確に再現してカラー画像表示を行うことができる。
しかしながら、上記USPに開示された方法は、撮影環境及び観察環境の照明光は各々1種類であることが前提であった。そのため、複数色の照明光が異なる位置から混合して照明された被写体を撮影した場合、若しくは、そのように照明された被写体を観察したい場合には、正確な色再現が行えないという問題があった。特に、室内で撮影された画像から屋外自然光下の画像を正確に色再現したい場合、屋外自然光は太陽の直接光と周囲の青空による拡散光とが混合されたものであり、且つ、直接光と周囲の拡散光とでは各々色が異なるため、屋外自然光下の正確な色を再現することができなかった。
本発明は、上記の点に鑑みてなされたもので、複数色の照明光により混合して照明された被写体においても正確に色再現を行うことが可能な色再現システム及び色再現方法を提供することを目的とする。
本発明の第1の態様によれば、画像入力装置で撮影された画像を、色補正手段で色変換し、画像出力装置に表示若しくは印刷による出力を行う色再現システムにおいて、
上記色補正手段は、撮影時における照明環境の情報と、観察時における照明環境の情報と、上記画像入力装置に関する情報と、を用いて入力画像から出力画像への色変換を行うものであり、
上記観察時における照明環境の情報は、各々異なる2つ以上の照明環境の情報を含むことを特徴とする色再現システムが提供される。
本発明の第2の態様によれば、画像入力装置で撮影された画像を色変換し、画像出力装置に表示若しくは印刷による出力を行う色再現方法において、
上記色変換は、撮影時における照明環境の情報と、観察時における照明環境の情報と、上記画像入力装置に関する情報と、を用いて入力画像から出力画像への色変換を行うものであり、
上記観察時における照明環境の情報は、各々異なる2つ以上の照明環境の情報を含むことを特徴とする色再現方法が提供される。
図1は、本発明の第1実施例に係る色再現システムの全体構成を示すブロック図である。 図2は、第1実施例におけるA観察照明光及びB観察照明光の計測を行う様子を示す図である。 図3は、図1におけるデバイスインディペンデントカラー画像変換部の詳細構成を示すブロック図である。 図4は、図1におけるデバイスカラー画像変換部の詳細構成を示すブロック図である。 図5は、図1における照明分光検出センサの代わりに、分光計を用いてA撮影照明光及びB撮影照明光の分光計測を行う様子を示す図である。 図6は、図1における直接光の代わりに、ドーム型の拡散スクリーンを用いて直接光と拡散光成分での撮影を可能にする構成を示す図である。 図7は、図6におけるドーム型の拡散スクリーンの代わりに、骨組みに透過拡散シートを被せて拡散光の撮影を行うようにした構成を示す図である。 図8は、本発明の第2実施例に係る色再現システムの全体構成を示すブロック図である。 図9は、第2実施例における具体的な画像撮影の様子を示す図である。 図10は、観察環境として屋外自然光下を設定した場合の第2実施例におけるA観察照明光及びB観察照明光の計測を行う様子を示す図である。 図11は、太陽直接光(図10におけるA観察照明光)の照明角度測定の様子と、伝送された照明角度により撮影照明の角度の調整を行う様子を示す図である。 図12は、図8における照明分光検出センサの代わりに、分光計を用いてA撮影照明光及びB撮影照明光の分光計測を行う様子を示す図である。 図13は、遮光板を用いて屋外での照明分離撮影を行う場合の構成を示す図である。 図14は、曇りの日の照明分離撮影による晴れの日の照明変換画像の再現を説明するための図である。 図15は、遮光板が大きい場合の拡散光の遮光問題を説明するための図である。 図16は、遮光板を被写体から遠ざけることができない場合における拡散光の遮光問題の解決方法を説明するための図である。 図17は、遮光板を被写体から遠ざけることができない場合におけるブラインドを用いた拡散光の遮光問題の解決方法を説明するための図である。 図18は、本発明の第3実施例に係る色再現システムの全体構成を示すブロック図である。 図19は、第3実施例における具体的な画像撮影の様子を示す図である。 図20は、第3実施例におけるA観察照明光情報及びB観察照明光情報の取得方法を示す図である。 図21は、本発明の第4実施例に係る色再現システムの全体構成を示すブロック図である。 図22は、第4実施例の変形例における、観察環境として夕刻時での屋外自然光を設定した場合の第1乃至第3観察照明光情報の取得方法を示す図である。 図23は、第4実施例の変形例における第1乃至第3撮影照明光情報の取得方法を示す図である。 図24は、本発明の第5実施例に係る色再現システムの全体構成を示すブロック図である。
以下、本発明を実施するための最良の形態を図面を参照して説明する。
[第1実施例]
本発明の第1実施例に係る色再現システムは、図1に示すように、被写体Oを照明するための2つの照明光源(A撮影照明10A、B撮影照明10B)、被写体Oの画像を撮影するマルチバンドカメラである画像入力装置12、撮影照明光のスペクトル特性を検出するための照明分光検出センサ14、上記画像入力装置12から入力された画像データの色を補正する色補正部16、及び該色補正部16で色補正された画像データを出力(表示若しくは印刷)する画像出力装置18を含む。
また、上記色補正部16は、照明切替制御部20、2つの撮影照明画像格納部(A撮影照明画像格納部22A、B撮影照明画像格納部22B)、2つの撮影照明情報格納部(A撮影照明情報格納部24A、B撮影照明情報格納部24B)、2つのスイッチ26,28、デバイスインディペンデントカラー画像変換部30、乗算係数設定部32、2つの乗算器34A,34B、画像加算部36、及びデバイスカラー画像変換部38を含む。
ここで、上記A撮影照明10AとB撮影照明10Bとは、図示のように互いに異なる照明である。勿論、同一の照明であっても、照明位置を変えることでA,B2つの撮影照明を構成するものとしても構わない。
上記照明切替制御部20は、上記A撮影照明10AとB撮影照明10Bとを切り替えると共に、その切り替えに同期して、上記スイッチ26,28を切り替える。即ち、被写体Oに対する照明をA撮影照明10Aに切り替えたときには、画像入力装置12によって入力された画像データ(以後、A撮影照明画像データと称する)がA撮影照明情報格納部24Aに格納されるように、上記スイッチ26を切り替える。それと同時に、照明分光検出センサ14で検出されたA撮影照明10Aの照明光のスペクトル特性(以後、A撮影照明情報と称する)がA撮影照明情報格納部24Aに格納されるように、上記スイッチ28を切り替える。これに対して、被写体Oに対する照明をB撮影照明10Bに切り替えたときには、画像入力装置12からの画像データ(以後、B撮影照明画像データと称する)がB撮影照明情報格納部24Bに格納されるように、上記スイッチ26を切り替える。それと同時に、照明分光検出センサ14からのB撮影照明10Bの照明光のスペクトル特性(以後、B撮影照明情報と称する)がB撮影照明情報格納部24Bに格納されるように、上記スイッチ28を切り替える。
上記デバイスインディペンデントカラー画像変換部30は、上記撮影照明画像格納部22A,22Bに格納されたA,B撮影照明画像データを、画像入力装置12及び画像出力装置18に依存しない色の画像データであるA,Bデバイスインディペンデントカラー画像データに変換するものである。ここで、詳細は後述するが、まず、記憶媒体やネットワーク等により外部から供給されるA,B観察照明情報、画像入力装置情報、被写体特性情報と、上記撮影照明情報格納部24A,24Bに格納されたA,B撮影照明情報とに基づいてA,Bプロファイルを作成し、それらA,Bプロファイルを使用して色変換を行うようになっている。このデバイスインディペンデントカラー画像変換部30の詳細については後述する。
なお、上記画像入力装置情報は、撮影に用いた画像入力装置12の特性やそれらの設定状態等であり、上記被写体特性情報は、撮影した被写体Oのスペクトルの統計的性質等の情報である。
また、上記観察照明情報は、その撮影した被写体Oの画像を観察したい遠隔地等の場所における照明光のスペクトルデータであり、例えば、図2に示すように、して得る。即ち、A観察照明40Aで白色板42を照明して、分光計44で計測することで、A観察照明情報を得る。同様に、B観察照明40Bで白色板42を照明して、分光計44で計測することで、B観察照明情報を得る。そして、それら観察照明情報を、図に破線で示すようにネットワークや記憶媒体にて、該色補正部16のデバイスインディペンデントカラー画像変換部30に供給する。なお、測定には、観察照明光のスペクトルデータを測定できれば良いので、分光反射率が既知のものを用いれば良い。ここでは、反射率が高く、経時変化の少ない標準白色板42を用いている。
上記のような画像入力装置情報を用いることによって、画像入力装置それぞれに対し、精度よく色再現画像を推定できる。画像入力装置が複数のスペクトル画像を撮影するマルチスペクトルカメラの場合や、デジタルカメラで撮影する場合でも、色再現を可能とする。そして、上記撮影照明情報を用いることによって、撮影時の照明光による影響をキャンセルできる。つまり、どんな照明光下(例えば、蛍光燈、白熱灯、太陽など)で被写体Oを撮影しても、被写体O自体の正確な分光反射率を算出することができる。また、上記観察照明情報を用いることによって、実際に画像を観察したい場所の照明下の色を算出できる。更に、上記被写体特性情報を用いることによって、入力画像が少ないスペクトル情報しか持たなくても、精度良く色再現画像を推定できる。
上記画像加算部36は、上記デバイスインディペンデントカラー画像変換部30で得られたA,Bデバイスインディペンデントカラー画像データを混合するものである。その際、A,Bデバイスインディペンデントカラー画像データの混合比率を変更できるようになっている。これは、上記乗算係数設定部32によりユーザが任意に乗算係数を設定し、それら乗算係数を、乗算器34A,34Bで、A,Bデバイスインディペンデントカラー画像データに乗ずることで、行われる。
上記デバイスカラー画像変換部38は、使用する画像出力装置18の特性を表す画像出力装置情報に基づいて作成されたデバイスプロファイルを参照して、上記画像加算部36によって混合されたデバイスインディペンデントカラー画像データを画像出力装置18の特性にあわせたカラー画像データに変換する。そして、その変換したカラー画像データを画像出力装置18に出力する。このデバイスカラー画像変換部38の詳細については、後述する。
このような構成の色再現システムによれば、まず、複数の照明状態における被写体Oの画像を各々分離して撮影を行う。次に、各照明状態について撮影時及び観察時の照明光のスペクトル情報を元に各々色変換を行う。そしてさらに、各々色変換された画像同士を混色することで、複数混合照明下での再現画像を得る。
以上により、屋外自然光のように太陽の直接光と周囲の青空による拡散光とで混合された照明により照明された被写体でも、正確に色再現を行うことが可能となる。また、室内照明等においても、スポットライトと壁による周囲の反射照明とでは照明の色が異なる場合が多く、このような複数色の混合照明下のもとでの被写体の色も正確に再現することが可能となる。
上記デバイスインディペンデントカラー画像変換部30は、図3に示すように、Aプロファイル作成部46A、Aプロファイル作用部48A、Bプロファイル作成部46B、及びBプロファイル作用部48Bを含む。
ここで、上記Aプロファイル作成部46Aは、上記A撮影照明情報格納部24Aから入力されるA撮影照明情報と、外部から入力されるA観察照明情報、画像入力装置情報、及び被写体特性情報と、に応じて、Aプロファイルを算出するものである。また、上記Aプロファイル作用部48Aは、上記A撮影照明画像格納部22Aに格納されたA撮影照明画像データに、上記Aプロファイル作成部46Aで作成したAプロファイルを作用して色変換を行い、Aデバイスインディペンデントカラー画像データを得るものである。
同様に、上記Bプロファイル作成部46Bは、上記B撮影照明情報格納部24Bから入力されるB撮影照明情報と、外部から入力されるB観察照明情報、画像入力装置情報、及び被写体特性情報と、に応じて、Bプロファイルを算出するものである。また、上記Bプロファイル作用部48Bは、上記B撮影照明画像格納部22Bに格納されたB撮影照明画像データに、上記Bプロファイル作成部46Bで作成したBプロファイルを作用して色変換を行い、Bデバイスインディペンデントカラー画像データを得るものである。
なお、本実施例においては、A,Bプロファイル作成部46A,46Bは、マトリックス作成部として、また、A,Bプロファイル作用部48A,48Bは、マトリックス演算部として構成している。このように、マトリックス演算でプロファイルを作用することで、高速に撮影照明画像データをデバイスインディペンデントカラー画像データに変換することができる。
即ち、画像入力装置12としてのマルチスペクトルカメラの出力信号をgとすると、このgは、以下のように表せる。
Figure 2005074302
実際に、被写体Oを人間が観察した場合の刺激値XYZは、以下のようである。
Figure 2005074302
従って、以下のようなマトリックス(プロファイル)Mを算出すれば良い。なおここで、tは転置行列を表わす。
Figure 2005074302
評価関数は、以下の式(4)を最小にするようにMを設計する。
Figure 2005074302
なおここで、E[ ]は期待値を求める演算子を表す。
以下の式(5)として求まるMは最小二乗フィルタである。
Figure 2005074302
このフィルタMは、以下の式(6)で与えられる。
Figure 2005074302
上記式(6)のE[f(λ)・f(λ’)]は被写体Oのスペクトル相関項を表している。あらゆる物体において評価関数を平均的に小さくする場合は、単位行列になり、フィルタMは以下のようになる。
Figure 2005074302
被写体Oをある程度限定し、分光反射率分布を少数の基底で表すことが出来れば、少数の分光画像からでも精度良く色を推定できる。例えば、遠隔医療では、人の肌の色の分光反射率を測定し、統計的性質として相関行列を予め求めれば、少数の分光画像から精度良く肌の色を再現できる。
つまり、上記A,Bプロファイル作成部46A,46Bは、被写体特性情報を用いて色再現処理を行う場合には、上記式(6)を計算するものであり、被写体特性情報を用いない場合は、上記式(7)を計算するものとなる。そして、A,Bプロファイル作用部48A,48Bは、A,B撮影照明画像に画像データフィルタMを掛ける、つまり、上記式(3)を計算することとなる。
また、上記デバイスカラー画像変換部38は、図4に示すように、デバイスプロファイル作成部50及びデバイスプロファイル作用部52を含む。ここで、上記デバイスプロファイル作成部50は、外部から与えられる画像出力装置情報に基づいて、デバイスプロファイルを算出するものである。また、上記デバイスプロファイル作用部52は、このデバイスプロファイル作成部50で作成したデバイスプロファイルを、上記画像加算部36で混合したデバイスインディペンデントカラー画像データに作用して、色変換を行い、出力画像データを得るものである。
即ち、使用する画像出力装置18、例えばモニタは、測定に用いる不図示の色度計と共に、暗室等の外光の影響を受けない場所にセッティングされ、図示しないRGB信号生成部から所定のRGB信号が与えられて、対応する色の画像を表示する。そして、このモニタに表示された色が色度計で測定され、その色度計から出力される信号が図示しない色度検出部によりXYZ値等の色度値として検出される。この検出された色度値が、上記画像出力装置情報として、上記デバイスプロファイル作成部50に送られる。上記デバイスプロファイル作成部50では、上記不図示のRGB信号生成部で生成されたRGB値と上記画像出力装置情報としての色度値との関係からデバイスプロファイルを演算する。
次に、使用する画像出力装置18としてのモニタに出力するRGB値と該モニタから出力されるXYZ値の関係について説明する。モニタはRGB蛍光体を有しており、このRGB蛍光体に信号を送りカラー画像を表示する。RGB蛍光体へ送る信号値(RGB値)は、上記不図示RGB信号生成部で生成される。このRGB値は、モニタのγ特性により、非線型に変換される。RGBのγ特性をそれぞれγr[ ]、γg[ ]、γb[ ]とする。さらに、人にはRGB蛍光体各々の和が色として感じられるため、γ特性を受けた信号値が加算されたものが、モニタから出力される次式(8)で示すような色度値(XYZ値)となる。
Figure 2005074302
ここで、Xrmax、Yrmax、ZrmaxはR蛍光体の最大輝度時のXYZ値であり、Xgmax、Ygmax、ZgmaxはG蛍光体の最大輝度時のXYZ値であり、Xbmax、Ybmax、ZbmaxはB蛍光体の最大輝度時のXYZ値である。
所望するXYZ値を得るためのRGB値は、上記式(8)を利用して演算できる。即ち、次の式(9)のように、マトリックス変換とγ補正により演算される。
Figure 2005074302
上記デバイスプロファイル作成部50では、RGB値とXYZ値から、上記デバイスプロファイルとして、マトリックス変換のためのマトリックス係数とγ補正のためのγ補正値とを、演算する。そして、上記デバイスプロファイル作用部52では、それらマトリックス係数とγ補正値とを利用して、上記デバイスインディペンデントカラー画像データにマトリックス変換及びγ補正を行い、画像出力装置18に出力すべきRGB値を出力する。
なお、画像出力装置18をモニタとして表示出力する場合は、以上の説明の通りである。画像出力装置18をプリンタとして印刷出力する場合においても、同様にして、画像出力装置情報を得、その画像出力装置情報に基づいてデバイスプロファイルを作成できる。
また、図1に示した構成では、照明分光検出センサ14を用いている。この照明分光検出センサ14の代わりに、図5に示すように、白色板42と分光計44とを用いても良い。
逆に、図2では白色板42と分光計44を用いているが、それらの代わりに照明分光検出センサ14を用いても良いことは勿論である。
さらに、図1の構成以外でも、例えばA,B撮影照明画像データがともに3バンドの画像の場合には、A,B撮影照明画像データをまとめて一つの6バンドの画像データとして格納しても良い。その場合には、プロファイルもA,B両方の撮影照明情報をまとめて6x3マトリクスとして作成する。そうすれば、プロファイル作用部においてマトリクス変換により足し合わせも同時に行うので、画像加算部36は省略できる。
また、本実施例においては、被写体Oを照明する光がともに撮影照明10A,10Bからの直接光を用いているが、これに限ることはない。例えば、図6に示すように、被写体Oを覆うようなドーム型の拡散スクリーン54を用意し、一方はA撮影照明10Aからの直接光、もう一方はB撮影照明10Bからのドーム型の拡散スクリーン54に反射させた光で被写体Oを照明しても良い。このようにすれば、屋外の自然光のように太陽光からの直接光と青空からの拡散光成分の照明の当たり方をほぼ正確に再現でき、より屋外自然光への正確な照明変換を実現できる。
特に、自然光の青空の環境(照明の当たり方)を撮影側で正確に再現するためには、被写体Oの背面及び側面側に加えて、図6に示したように、被写体Oの天頂から画像入力装置12側の面にかけて拡散照明があることが望ましい。このようにすれば、例えば鏡面反射が強く映り込みが激しい被写体の時にも、青空の映り込みを含めて正確に屋外自然光への照明変換を行うことが可能になる。
また、上記ドーム型の拡散スクリーン54の代わりに、図7に示すように、被写体Oと撮影照明10A,10Bの間の周囲に骨組み56を用意して、この骨組み56に透過拡散シート58を被せて拡散光の撮影を行っても良い。この場合には、まずA撮影照明10Aの撮影を、透過拡散シート58を被せない状態で行い、次に、B撮影照明10Bの撮影を、透過拡散シート58を被せた状態で行えば、上記と同様、直接光と拡散光を分離して撮影することが可能となる。なお、上記透過拡散シート58の代わりに、外部電気制御により透明/不透明(拡散)の特性変更が可能なシースルーディスプレイ用のスクリーンを用いても良い。
[第2実施例]
本発明の第2実施例に係る色再現システムは、図8に示すように、2つの撮影照明10A,10Bではなく1つの撮影照明10のみとし、A,B2つの撮影照明画像データを得るために、更に遮光板60と照明反射板62とを用いている。また、色補正部16においては、照明切替制御部20の代わりに遮光切替制御部64を設け、更に、遮光なし撮影画像格納部66及び遮光あり撮影画像格納部68と、画像減算部70とを追加している。
ここで、上記遮光切替制御部64は、撮影照明10の前面(被写体O側)への遮光板60の挿入状態を切り替えるものであり、その切り替えに伴って、上記スイッチ26,28を切り替える。即ち、図9に示すように、遮光板60を撮影照明10の前面からどかし、被写体Oに撮影照明10からの直接光と照明反射板62からの反射光との両方が当たる状態としたときには、画像入力装置12からの撮影画像データは遮光なし撮影画像格納部66に格納される。また、遮光板60を撮影照明10の前面に挿入して、被写体Oには、撮影照明10からの直接光は当たらず、照明反射板62からの反射光のみが当たる状態としたときには、画像入力装置12からの撮影画像データは遮光あり撮影画像格納部68に格納される。そして、画像減算部70によって、上記遮光なし撮影画像格納部66に格納された撮影画像データから、上記遮光あり撮影画像格納部68に格納された撮影画像データを減算することで、撮影照明10からの直接光による撮影画像データが抽出される。この抽出された撮影画像データは、A撮影照明画像格納部22Aに格納される。これに対して、上記遮光あり撮影画像格納部68に格納された撮影画像データは、そのまま、B撮影照明画像格納部22Bに格納される。このように、遮光なし撮影画像から遮光あり撮影画像を減算することで、直接光成分(これをA撮影照明とする)の撮影画像を得、遮光あり撮影画像はそのまま周囲拡散光成分(これをB撮影照明とする)の撮影画像として用いる。
なお、上記照明分光検出センサ14からの撮影照明情報は、上記のように遮光板60を撮影照明10の前面からどかしたときにはA撮影照明情報格納部24Aに格納され、遮光板60を撮影照明10の前面に挿入したときにはB撮影照明情報格納部24Bに格納される。
それ以外の、デバイスインディペンデントカラー画像変換部30以降の動作は、上記第1実施例と同様であるので、説明は省略する。
但し、A,B観察照明情報については、図10に示すように、同様に遮光板60なしの状態と遮光板60ありの状態で、白色板42と分光計44により測定する。なお、ここでは、観察照明光として、屋外自然光を仮定しており、太陽からの直接光成分と青空による周囲拡散光成分の照明スペクトルを各々測定している。
このとき、図10中に示すθは、白色板42板面の法線に対する太陽光の入射角度を表している。通常、太陽からの直接光を測定する際には、上記太陽光の入射角度θが変化すると測定された値の絶対値が変化し、直接光と拡散光成分の比が正確に取得できない虞がある。そのため、ここでは図10に示すように、上記太陽光の入射角度θに応じてcosθに比例する係数を乗算器72でかけてA観察照明情報を算出し、一定の測定条件下のもとの直接光の値に補正している。
また、観察照明光として屋外自然光を用いる場合には、太陽光の角度を観察側で測定し、撮影側に伝達して、太陽の角度と撮影照明の角度が一致するよう撮影状態を調整したほうが好ましい。そこで、図11に示すように、照明角度検出器74により計測したマーカー(影先端位置)76を、照明角度情報として、同図に破線で示すようにネットワークや記憶媒体により、撮影側に伝達する。そして、撮影側では、その照明角度情報に従って、同図に矢印Aで示すように撮影照明10の照明角度を調整する。
以上説明したように、複数の照明光が、一つの照明光源による直接光成分と間接光成分とを含む場合に、第1実施例のままでは照明光の切り替えが行えないが、本第2実施例に係る色再現システムによれば、各々分離して撮影することができる。
なお、本実施例においても、上記第1実施例と同様、照明分光検出センサ14を用いる代わりに、図12に示すように、白色板42と分光計44を用いて、A,B撮影照明情報の計測を行うようにしても構わない。
また、照明反射板62は、平板状であっても良いし、ドーム状のものを用いても構わない。更に、この照明反射板62としては、ミラーのような全反射板であっても良いし、拡散反射板であっても良い。どのような照明反射板を使用するかは、観察側の状態に応じて決定すれば良い。
また、被写体Oに直接当たらず、照明反射板62に向けて照明する反射板専用の照明光源を、撮影照明10とは別に用いても良い。
また、以上説明した本実施例のように、遮光板60を用いれば室内での照明分離撮影だけでなく屋外での照明分離撮影にも対応することができる。
そうすると、例えば図13に示すようにある地点Aの屋外で遮光板60を用いて撮影した画像(地点Aの屋外撮影画像78A)から別の地点Bでの屋外照明下の画像(地点Bの屋外照明変換画像78B)に変換することが可能である。
さらに、同図に示すように、画像出力装置18を2つ用意し(もしくは1つの画像出力装置に2つの画像表示領域を設けて)、一方では地点Bの屋外照明変換画像78Bを表示すると共に、もう一方では地点Aの屋外撮影画像78Aを照明変換せずに(但し、画像入力装置12及び画像出力装置18のキャリブレーションは行う)そのまま表示しても良い。このようにすれば、地点Aと地点Bの屋外照明下での被写体Oの色の見え方の違いを分かり易く表示することができる。そのため、例えば被写体Oの色設計を行う際に、被写体Oをわざわざ地点Bに持って行かなくても、設計者は、地点Bでの被写体Oの色の変化を認識しながら色設計を効率良く行うことができる。勿論、上記2つの画像表示と共に地点Aでの実物も並べて比較すれば、実物と画像の変化を認識しながら、より効率良く被写体Oの色設計が行える。
また、晴れの日の撮影だけでなく曇りの日でも、図14に示すように、遮光板60を用いて撮影することにより、照明光の拡散光成分と直接光(平行光)成分の画像に分離して撮影できる。こうすれば、曇りの日に撮影した画像(曇りの日の撮影画像80A)から、あたかも晴れた日に撮影された画像(晴れの日の照明変換画像80B)を再現することも可能となる。
またこの場合も、画像出力装置18を2つ用意し(もしくは1つの画像出力装置に2つの画像表示領域を設けて)、曇りの日の撮影画像80Aと晴れの日の照明変換画像80Bとを比較できるようにしても良い。
なお、本実施例のように遮光板60を用いて照明光の分離撮影を行う場合には、以下の問題に注意する必要がある。
即ち、遮光板60を用いて直接光を遮光した場合には、図15に示すように、遮光板60が大きいと、太陽からの直接光82と共に、青空からの拡散光84の一部も遮光されてしまう可能性がある。そのため、拡散光84が遮光されないようにするためには、なるべく被写体Oから遮光板60を遠ざける(最低、遮光板60の大きさ(対角の長さ)と同程度距離を離す)必要がある。
しかしどうしても設置上の問題により、距離を遠ざけることができない場合には、以下の方法により解決できる。
一つは、図16に示すように、遮光板60と被写体Oとの距離を変えて拡散板60が遮光される割合を変化させて幾つか撮影し、その変化分より拡散光全部が遮光されない状態の画像を推定する。
もう一つは、図17に示すように、ブラインド86を遮光板として用いる。その場合、まず、ブラインド86を閉めた状態(図15のような状態)で遮光撮影を行い、更にブラインド86を開けた状態で撮影して、その差分より遮光板により遮光される拡散光成分を求め、補正することにより、直接光のみ遮光された状態の撮影画像を得る。
[第3実施例]
本発明の第3実施例に係る色再現システムは、図18に示すように、上記第2実施例における遮光板60と照明反射板62の代わりに、偏光板88、拡散反射板90及び回転偏光板92を用いている。そして、その変更に伴って、色補正部16において、遮光切替制御部64の代わりに偏光切替制御部94を、また、遮光なし撮影画像格納部66及び遮光あり撮影画像格納部68の代わりにA偏光撮影画像格納部96及びB偏光撮影画像格納部98を備える。
このような構成においては、被写体Oは、撮影照明10の前面に配した偏光板88によって偏光された直接光と、この直接光が上記拡散反射板90によって拡散されて無偏光状態となった間接光とによって照明される。
そして、図19に示すように、偏光切替制御部94によって、画像入力装置12と被写体Oとの間に配した回転偏光板92を、上記偏光板88と同じ偏光状態にしたときには、画像入力装置12で撮影した画像データをA偏光撮影画像格納部96に格納する。即ち、この場合には、上記回転偏光板92が上記偏光板88と同じ偏光状態となっているので、上記第2実施例における遮光板なしと同様な状態における撮影画像データが取得できる。
これに対して、B偏光撮影画像格納部98には、偏光切替制御部94によって上記回転偏光板92を上記偏光板88とは直交する偏光状態にして撮影した画像を格納する。即ち、この場合には、直接光成分が上記回転偏光板92によりカットされ、無偏光状態の間接光成分の光による撮影画像データのみが取得でき、上記第2実施例における遮光板ありと同様な状態における撮影画像データが取得できる。
このような第3実施例に係る色再現システムは、上記第2実施例において遮光板60が適切な位置、範囲に置けない場合に有効な構成である。この場合には、偏光板88,92は、撮影照明10及び画像入力装置12に近い位置に設置できるので、小さなもので良い。
なお、図18では、図面の簡略化のため、照明分光検出センサ14及びスイッチ28の図示を省略してある。
また、本実施例においても、上記第1実施例と同様、そのような照明分光検出センサ14を用いる代わりに、図20に示すように、白色板42と分光計44を用いて、A,B撮影照明情報の計測を行うようにしても構わない。
[第4実施例]
前述の第1実施例がそれぞれ2種類の撮影照明及び観察照明であったのに対して、本発明の第4実施例に係る色再現システムは、図21に示すように、それぞれ3つ以上(N種類)の撮影照明10−1〜10−N及び観察照明を用いる例である。
このような本実施例によれば、乗算係数設定部32で設定する乗算係数を種々変更することで、様々な観察照明での被写体Oの色の見え方をシミュレーションするようなシミュレーション装置を提供することが可能となる。
なお、上記のような3つ以上(N種類)の撮影照明10−1〜10−Nを用いる代わりに、前述の第2実施例のように遮光して異なる照明環境を作ることも可能である。その場合には、遮光する光の方向を各々変えて撮影を行えば良い。またこの場合、観察照明光情報の分光計44による取得も、同様に、図22に示すように、複数の遮光板60によって白色板42を様々な形で遮光することによって行う。なお、ここでは、観察環境として、夕刻時での屋外自然光(太陽からの直接光は赤く、太陽から遠い空からの間接光は青い)を設定している。また、撮影照明光情報の分光計44による取得も、図23に示すように、同様にして行う。
このような構成とすることにより、夕暮れ時の自然光のように、周囲拡散光(空)が幾つかの色からなる場合でも、正確に色再現できるようになる。
[第5実施例]
本発明の第5実施例に係る色再現システムは、図24に示すように、前述の第1実施例における色補正部16を、撮影側である前処理部(色補正前処理部16a)と、観察側である後処理部(色補正後処理部16b)とに分離したものである。
ここで、上記色補正前処理部16aは、上記第1実施例と同様の照明切替制御部20、A,B撮影照明画像格納部22A,22B、A,B撮影照明情報格納部24A,24B、及びスイッチ26,28を備えると共に、画像フォーマット変換部100を有している。この画像フォーマット変換部100には、A,B撮影照明画像データ及びA,B撮影照明情報と、撮影側で得られる撮影環境の情報として画像入力装置情報及び被写体特性情報とが入力され、それらを組み合わせて、照明光の影響による色の変化に対して色変換可能な画像フォーマットを持つ照明分離画像データ102に変換する。そして、この照明分離画像データ102が、図に破線で示すようにネットワークや記憶媒体により、色補正後処理部16bに伝送される。
上記色補正後処理部16bは、上記第1実施例と同様のデバイスインディペンデントカラー画像変換部30、乗算係数設定部32、乗算器34A,34B、画像加算部36、及びデバイスカラー画像変換部38を備えると共に、入力データ分割部104を備える。この入力データ分割部104は、上記色補正前処理部16aから伝送入力された上記照明分離画像データ102を、元のA,B撮影照明画像データ及びA,B撮影照明情報と、画像入力装置情報及び被写体特性情報とに分離し、それらをデバイスインディペンデントカラー画像変換部30に供給するものである。よって、この場合には、デバイスインディペンデントカラー画像変換部30には、新たに指定するA,B観察照明情報のみが外部入力として入力されるだけで良い。
このような本実施例によれば、撮影された画像を照明分離画像データ102として保存しておくことで、遠隔地のあらゆる所で、任意に観察照明光を設定して色再現が可能となる。
以上実施例に基づいて本発明を説明したが、本発明は上述した実施例に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
例えば、上記実施例では、被写体Oを鞄として仮定しているが、これに限るものではない。被写体Oとして、例えば、衣服、装飾品、車、家具、オブジェ、建物、絵画、人肌、歯、等であっても、同様の効果を得ることができる。

Claims (12)

  1. 画像入力装置(12)で撮影された画像を、色補正手段(16)で色変換し、画像出力装置(18)に表示若しくは印刷による出力を行う色再現システムにおいて、
    上記色補正手段は、撮影時における照明環境の情報と、観察時における照明環境の情報と、上記画像入力装置に関する情報と、を用いて入力画像から出力画像への色変換を行うものであり、
    上記観察時における照明環境の情報は、各々異なる2つ以上の照明環境の情報を含むことを特徴とする色再現システム。
  2. 上記色補正手段は、観察時における一の照明環境の情報を用いて色変換された画像と、観察時における二の照明環境の情報を用いて色変換された画像とを、足し合わせる画像加算手段(36)を含むことを特徴とする請求項1に記載の色再現システム。
  3. 上記観察時における2つ以上の照明環境の情報は、ある照明光源(10)からの光を一部遮光した状態により得られた照明環境と、遮光しない状態により得られた照明環境であることを特徴とする請求項1または2に記載の色再現システム。
  4. 上記色補正手段は、同一被写体を各々異なる撮影照明環境下において上記画像入力装置により撮影した複数の画像を用いて色変換を行うことを特徴とする請求項1乃至3の何れかに記載の色再現システム。
  5. 上記異なる撮影照明環境下とは、照明光の位置、方向、及び形状のうち、少なくとも何れか一つが異なる照明環境であることを特徴とする請求項4に記載の色再現システム。
  6. 上記異なる撮影照明環境下とは、照明光の一部の光を遮光した状態による照明環境と、遮光しない状態による照明環境であることを特徴とする請求項4に記載の色再現システム。
  7. 上記異なる撮影照明環境下とは、各々照明光の偏光状態が異なることであることを特徴とする請求項4に記載の色再現システム。
  8. 上記色補正手段は、さらに上記画像出力装置に関する情報を用いて色変換を行うことを特徴とする請求項1乃至7の何れかに記載の色再現システム。
  9. 上記照明光の情報は、照明光のスペクトル情報であることを特徴とする請求項1乃至8の何れかに記載の色再現システム。
  10. 上記色補正手段は、さらに被写体の分光反射率に関する統計的な特性を用いて色変換を行うことを特徴とする請求項1乃至9の何れかに記載の色再現システム。
  11. 画像入力装置(12)で撮影された画像を色変換し、画像出力装置(18)に表示若しくは印刷による出力を行う色再現方法において、
    上記色変換は、撮影時における照明環境の情報と、観察時における照明環境の情報と、上記画像入力装置に関する情報と、を用いて入力画像から出力画像への色変換を行うものであり、
    上記観察時における照明環境の情報は、各々異なる2つ以上の照明環境の情報を含むことを特徴とする色再現方法。
  12. 上記色変換は、観察時における一の照明環境の情報を用いて色変換された画像と、観察時における二の照明環境の情報を用いて色変換された画像とを、足し合わせることを含むことを特徴とする請求項12に記載の色再現方法。
JP2005517530A 2004-01-29 2005-01-28 カメラシステム Expired - Fee Related JP4217243B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004021515 2004-01-29
JP2004021515 2004-01-29
PCT/JP2005/001261 WO2005074302A1 (ja) 2004-01-29 2005-01-28 色再現システム及び色再現方法

Publications (2)

Publication Number Publication Date
JPWO2005074302A1 true JPWO2005074302A1 (ja) 2007-09-13
JP4217243B2 JP4217243B2 (ja) 2009-01-28

Family

ID=34823797

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005517530A Expired - Fee Related JP4217243B2 (ja) 2004-01-29 2005-01-28 カメラシステム

Country Status (4)

Country Link
US (1) US20070013812A1 (ja)
JP (1) JP4217243B2 (ja)
KR (1) KR100848757B1 (ja)
WO (1) WO2005074302A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009005004A (ja) * 2007-06-20 2009-01-08 Olympus Corp 映像表示システム
US8576297B2 (en) * 2008-07-11 2013-11-05 The Invention Science Fund I, Llc Spectral improvement of digital camera color images
US8736709B2 (en) 2008-07-11 2014-05-27 The Invention Science Fund I, Llc Spectral improvement of digital camera color images
KR101049409B1 (ko) * 2009-09-30 2011-07-14 아주대학교산학협력단 영상 처리 시스템에서의 색 보정 장치 및 방법
US9076068B2 (en) 2010-10-04 2015-07-07 Datacolor Holding Ag Method and apparatus for evaluating color in an image
US8532371B2 (en) * 2010-10-04 2013-09-10 Datacolor Holding Ag Method and apparatus for evaluating color in an image
JP2012120067A (ja) * 2010-12-03 2012-06-21 Brother Ind Ltd シースルー型画像表示装置およびシースルー型画像表示方法
JP5713350B2 (ja) * 2011-10-25 2015-05-07 日本電信電話株式会社 画像処理装置、方法、及びプログラム
EP3067882A1 (en) 2015-03-10 2016-09-14 Thomson Licensing Adaptive color grade interpolation method and device
KR102015129B1 (ko) * 2017-08-16 2019-10-21 남기원 이미지 변환 데이터 제공 장치 및 시스템과 방법
JP7427526B2 (ja) 2020-05-14 2024-02-05 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR20230053417A (ko) 2021-10-14 2023-04-21 삼성전자주식회사 이미지 획득 장치 및 방법, 이를 포함하는 전자 장치

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0663607B1 (en) * 1994-01-18 2006-09-27 Canon Kabushiki Kaisha Camera
JP3713321B2 (ja) * 1995-12-19 2005-11-09 オリンパス株式会社 カラー画像記録再生システム及び画像カラー画像記録再生方法
JP4076248B2 (ja) * 1997-09-09 2008-04-16 オリンパス株式会社 色再現装置
JP2000311243A (ja) * 1999-04-28 2000-11-07 Sony Corp 画像色補正方法及び装置
JP4060024B2 (ja) * 2000-05-12 2008-03-12 富士フイルム株式会社 カラーバランス調整方法および装置並びに記録媒体
JP4534340B2 (ja) * 2000-10-31 2010-09-01 ソニー株式会社 色再現補正装置
JP2002218498A (ja) * 2001-01-17 2002-08-02 Noritsu Koki Co Ltd 背景分離システム
US6839088B2 (en) * 2001-03-31 2005-01-04 The Board Of Trustees Of The Leland Stanford Junior University System and method for estimating physical properties of objects and illuminants in a scene using modulated light emission
JP4231661B2 (ja) * 2002-05-23 2009-03-04 オリンパス株式会社 色再現装置
JP4049257B2 (ja) * 2002-12-02 2008-02-20 富士フイルム株式会社 固体撮像装置及びデジタルカメラ

Also Published As

Publication number Publication date
KR20060128974A (ko) 2006-12-14
WO2005074302A1 (ja) 2005-08-11
US20070013812A1 (en) 2007-01-18
JP4217243B2 (ja) 2009-01-28
KR100848757B1 (ko) 2008-07-25

Similar Documents

Publication Publication Date Title
JP4217243B2 (ja) カメラシステム
Inanici et al. Evaluation of high dynamic range photography as a luminance mapping technique
JP4076248B2 (ja) 色再現装置
US7995838B2 (en) Color chart processing apparatus, color chart processing method, and color chart processing program
JP2005117612A (ja) 画像処理方法および装置
Kim et al. Characterization for high dynamic range imaging
US9325956B2 (en) Non-linear photometric projector compensation
LeGendre et al. Practical multispectral lighting reproduction
JP2003348501A (ja) 画像表示装置
Varghese et al. Colorimetric calibration of high dynamic range images with a ColorChecker chart
Apollonio et al. Color definiton of open-air Architectural heritage and Archaeology artworks with the aim of conservation
KR101099844B1 (ko) 이미지 캡쳐 시스템
JP6774788B2 (ja) 色調整装置および色調整システム
Zhu et al. Matched illumination
Day et al. A psychophysical experiment evaluating the color and spatial image quality of several multispectral image capture techniques
Wueller In situ measured spectral radiation of natural objects
US20230206518A1 (en) Method for reconstructing an image, in particular an exact color image, and associated computer program, device and system
Kim et al. Consistent scene illumination using a chromatic flash
JP2003111108A (ja) 撮像システム評価用チャート及びその作成方法
Guarnera et al. Absolute colorimetric characterization of a dslr camera
TWI572207B (zh) Photographic image adjustment method
Cai et al. Application of High Dynamic Range Imaging in Daylighting Practice: An Outline for a Motion to Set Up a New HDRI Sub-Committee
Kim et al. Developing a multispectral HDR imaging module for a BRDF measurement system
Li Consideration of human visual mechanism for image white balance
Guarnera et al. DIY absolute tele-colorimeter using a camera-projector system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081107

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121114

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131114

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees