JP2004077143A - 可視並びに不可視領域の色度計測が可能なシステム - Google Patents

可視並びに不可視領域の色度計測が可能なシステム Download PDF

Info

Publication number
JP2004077143A
JP2004077143A JP2002233809A JP2002233809A JP2004077143A JP 2004077143 A JP2004077143 A JP 2004077143A JP 2002233809 A JP2002233809 A JP 2002233809A JP 2002233809 A JP2002233809 A JP 2002233809A JP 2004077143 A JP2004077143 A JP 2004077143A
Authority
JP
Japan
Prior art keywords
color
image
pseudo
invisible
visible
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002233809A
Other languages
English (en)
Other versions
JP4080812B2 (ja
Inventor
Kazuji Matsumoto
松本 和二
Masahiro Hara
原 雅宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu Photonics KK
Original Assignee
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu Photonics KK filed Critical Hamamatsu Photonics KK
Priority to JP2002233809A priority Critical patent/JP4080812B2/ja
Priority to AU2003252261A priority patent/AU2003252261A1/en
Priority to PCT/JP2003/009410 priority patent/WO2004015381A1/ja
Priority to EP03784482A priority patent/EP1530033A4/en
Priority to CA002495174A priority patent/CA2495174A1/en
Publication of JP2004077143A publication Critical patent/JP2004077143A/ja
Priority to US11/052,470 priority patent/US20050182328A1/en
Application granted granted Critical
Publication of JP4080812B2 publication Critical patent/JP4080812B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/465Measurement of colour; Colour measuring devices, e.g. colorimeters taking into account the colour perception of the eye; using tristimulus detection

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectrometry And Color Measurement (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】被写体サンフ゜ルから取得したい所望の情報を、不可視の色値並びに擬似カラー画像の色表示を利用して定量的に評価することが充分に可能な可視並びに不可視領域の色度計測が可能なシステムの提供。
【解決手段】システム1は、被写体10からの放射光を分光する分光光学部2aと、各分光を光電変換し電気信号を生成する光電変換部2bと、擬似カラー画像の生成及び該画像の色表示を行う表色系上の数値の算出を行う画像処理部4と、上記画像及び/又は数値を出力する画像出力部5,6を有する。画像処理部は、各電気信号に対して感度関数をかけて画像信号を生成させ、該信号を用いて前記数値を算出し、該信号にマトリクスMをかけて擬似カラー画像を生成させる。感度関数は被写体間の物理的又は化学的状態の差異と、複数の被写体の分光スヘ゜クトル間に生ずる波形の差異との間の相関関係に基づいて決定され、Mは色再現誤差が最小限となるように決定されている。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は可視並びに不可視領域の色度(色彩値及び表色値)計測が可能なシステムに関する。
【0002】
【従来の技術】
今までの色計測は可視領域だけに有効な計測手法であり、不可視領域まで含めた、色計測というものが存在していなかった。但し、それに類似したいわゆる擬似カラー表示という技術は存在している。以下、それについて説明する。
【0003】
すなわち、被写体から放射される放射光に含まれる可視光(波長が400〜700nmの範囲にある光)以外の不可視光(例えば、波長が200〜400nmの範囲にある紫外光又は波長が700〜2200nmの範囲にある光を近赤外光)の画像は、人間の眼では認識することができない被写体の物理的状態又は化学的状態に関する極めて有益な情報(例えば、食物の腐食度等に関する情報など)を含んでいる。
【0004】
そのため、このような不可視光の画像情報を人間が視覚的に認識可能な画像情報に変換して表示するための様々な検討が従来から行われている。通常、不可視光画像は人間が視覚的に認識困難な白黒画像であるため、擬似カラー表示することにより、輝度情報の判別をし易くする画像処理法が用いられている。
【0005】
すなわち、被写体から放射される不可視光を含む全ての放射光のスペクトルを複数の波長領域に区切り、区切られたそれぞれの範囲に対して、人間が視覚的に認識可能な互いに等色しない特定の色(例えば、赤、緑、青の3色)を当てはめて着色することにより、擬似カラー表示された画像を生成する画像処理法が用いられている。
【0006】
これは、人間の眼が白黒画像よりも、カラー画像のほうが画像情報の差異を認識し易いという特徴を応用したものである。例えば、このような擬似カラー画像表示を行う撮像システムとしては、例えば、特開平6−121325号公報に記載のカラー撮像装置が挙げられる。
【0007】
【発明が解決しようとする課題】
しかしながら、従来の色彩理論は可視領域のみを対象にしたものであり、人間の「視覚+感覚特性」から発達したものであるので、人間の「視覚+感覚特性」を越えたものではなかった。
【0008】
すなわち実際の見えを基に基準特性(等色関数)を作り、色値(色彩値、表色値)の概念が出来上がった。その基準特性がある故に、可視領域における色値を介してコミュニケーションもできるようになった。
【0009】
不可視の場合も可視領域と同様に、可視領域で示す等色関数のような、何らかの基準となるべき特性があれば、それを基準値として、不可視領域においても、正確な色値を算出することができる。しかしながら、現在、不可視の基準特性に相当するものがない為、不可視領域においての色値と言う概念が出来ておらず、結果として、不可視領域の色値を表示可能とするようなシステムも存在していない。
【0010】
また、もう一方では、類似の擬似カラー画像撮像システムがあるが、従来の撮像システムでは、被写体サンプルから取得したい所望の情報を、最終的に得られる擬似カラー画像の色表示を利用して定量的に評価することが充分にできていなかった。
【0011】
なお、ここで、「被写体サンプルから取得したい所望の情報」とは、被写体サンプルが属する被写体群を代表する標準サンプルと被写体サンプルとの間の物理的状態又は化学的状態の観測すべき差異であり、かつ、光学的に差別化が可能な差異に関する情報である。
【0012】
上記の標準サンプルと被写体サンプルとの間の物理的状態の差異としては、例えば、標準サンプルには存在しない構造物が被写体サンプルには存在している場合等の構造物の有無による差異、標準サンプルには通常確認される形状的な特徴が被写体サンプルには確認されない場合等の形状的な特徴の有無による差異等が挙げられる。
【0013】
また、上記の標準サンプルと被写体サンプルとの間の化学的状態の差異としては、例えば、標準サンプルには所定の濃度範囲でしか存在しない化学物質が被写体サンプルには上記の濃度範囲を超える高濃度で分布する領域が存在している場合等の特定の化学物質の濃度分布領域の有無による差異等が挙げられる。
【0014】
本発明は以上の問題を鑑みてなされたものであり、被写体サンプルから取得したい所望の情報を、不可視の色値並びに擬似カラー画像の色表示を利用して定量的に評価することが充分に可能な可視並びに不可視領域の色度計測が可能なシステムを提供することを目的とする。
【0015】
【課題を解決するための手段】
本発明者らは、上記課題を解決すべく鋭意研究を重ねた結果、上記従来の撮像システムにおいて被写体サンプルから取得したい所望の情報を定量的に評価することが充分にできなかった大きな要因は、被写体サンプルから放射される全ての波長領域(不可視領域を含む領域)の放射光のスペクトルを複数の波長領域に区切る際の基準が、被写体サンプルから得たい所望の情報に充分に関連付けて決定されていなかったことにあることを見出した。
【0016】
更に、本発明者らは、従来の撮像システムにおいては、上述の放射光のスペクトルを複数の波長領域に区切り、その各波長領域に対して特定の色を当てはめて着色する(等色関数等の感度関数をかける)際の着色の基準(使用する感度関数の決定基準)も、被写体サンプルから得たい所望の情報に充分に関連付けて決定されていなかったことが、従来の撮像システムにおいて被写体サンプルから取得したい所望の情報を定量的に評価することが充分にできなかった大きな要因となっていることを見出した。
【0017】
更に、本発明者らは、被写体サンプルから放射される放射光のスペクトルを複数の波長領域に区切る際の基準と、使用する感度関数の決定基準とを、被写体サンプルから得たい所望の情報に充分に関連付けて決定することにより、擬似カラー画像に対して可視光のカラー画像の色表示を行うための表色系に用いられている手法を適用することができることを見出した。そして、これにより本発明者らは、擬似カラー画像の色の情報を被写体サンプルから取得したい所望の情報に関連付けた特定の基準に対する相対値として数値化することが可能となることを見出し、本発明に到達した。
【0018】
即ち、本発明は、被写体サンプルから放射される全ての波長領域の放射光を受光し、該放射光を互いに異なる中心波長を有する3以上の成分光に分光する分光光学部と、
3以上の成分光をそれぞれ光電変換し、3以上の成分光にそれぞれ対応した3以上の電気信号をそれぞれ生成させる光電変換部と、
3以上の電気信号を加工することにより、サンプルの擬似カラー画像の生成と、該擬似カラー画像の色表示を行うための表色系に基づき定義される数値の算出とを行う画像処理部と、
擬似カラー画像及び/又は数値を出力する画像出力部と、
を少なくとも有しており、
画像処理部は、
3以上の電気信号の全てに対して3以上の感度関数をそれぞれ独立にかけることにより3以上の擬似カラー基本画像信号を生成させる画像信号生成処理手段と、
3以上の擬似カラー基本画像信号にマトリクスMをかけてベクトル変換することにより、3以上の擬似カラー画像信号を生成させるベクトル変換処理手段と、3以上の擬似カラー画像信号を合成して擬似カラー画像を生成させる画像形成処理手段と、
3以上の擬似カラー画像信号を用いて表色系に基づき定義される数値を算出する表色処理手段と、
を少なくとも有しており、
3以上の感度関数は、被写体サンプルが属する被写体群を構成する各被写体間に生ずる物理的状態又は化学的状態の観測すべき差異と、被写体群を構成する各被写体の分光スペクトル間に生ずる波形の差異と、の間の相関関係に基づいて決定されており、
マトリクスMは、最適な感度特性に近づける為のマトリックスであり、結果的に3以上の擬似カラー画像信号を生成させる際に生じる色再現誤差が最小限となるように決定されていること、
を特徴とする可視並びに不可視領域の色度計測が可能なシステムを提供する。
【0019】
ここで、被写体サンプルが属する被写体群における被写体サンプルと「同種の被写体」とは、測定対象となる被写体サンプルと同じカテゴリーに属する被写体を示す。さらに、ここで「カテゴリー」とは、被写体サンプルから取得したい情報を得る上で、標準サンプルと被写体サンプルとからそれぞれ得られる分光スペクトルに光学的に差別化が可能な差異があるか否かにより決定されるものである。上記の差異があれば、同じカテゴリーに属する被写体とすることが可能である。
【0020】
従って、例えば、被写体サンプルがりんごに属する特定の品種の場合、カテゴリーをこの特定の品種にまで限定するか、この特定の品種にまで限定せずに「りんご」とするか、或いは、「果物」とするかは、被写体サンプルから取得したい情報により決定してよい。
【0021】
本発明の可視並びに不可視領域の色度計測が可能なシステムにおいては、上述のように、3以上の感度関数は、被写体群を構成する各被写体間に生ずる物理的状態又は化学的状態の観測すべき差異と、被写体群を構成する各被写体の分光スペクトル間に生ずる波形の差異との間の相関関係に基づいて決定されている。そのため、被写体群に属する被写体サンプルについて測定された分光スペクトルを光電変換して電気信号とし、これに3以上の感度関数を独立にかけて得られる信号は、被写体サンプルから得たい所望の情報に密接に関連している。
【0022】
従って、最終的に得られる擬似カラー画像を構成する色の情報は、被写体サンプルから得たい所望の情報に密接に関連していることになる。そして、本発明においては、最終的に得られる擬似カラー画像の色の情報を、可視光のカラー画像の色表示を行うための表色系に用いられている手法により数値化することができるため、数値化された擬似カラー画像の色の情報は、被写体サンプルから得たい所望の情報に密接に関連している。その結果、本発明においては、被写体サンプルから取得したい所望の情報を、擬似カラー画像の色表示を利用して定量的に評価することが充分にできる。
【0023】
また、本発明においては、擬似カラー画像の表示条件の異なる画像出力部(モニタやプリンタ)等で別々に擬似カラー画像が出力され、これらの擬似カラー画像の色表示の状態が色感覚或いは色知覚的に異なって認識される場合であっても、被写体サンプルから得たい情報については表色系に基づき定義された数値として正確に把握することができる。
【0024】
また、本発明は、被写体サンプルから放射される全ての波長領域の放射光を受光し、該放射光を互いに異なる中心波長を有する3以上の成分光に分光する分光光学部と、
3以上の成分光のそれぞれに対して設けられており、3以上の成分光のそれぞれを波長変換することにより3以上の成分光のそれぞれに対して光学的に感度関数をかけて、3以上の成分光のそれぞれに対応した3以上の擬似カラー成分光を生成させる波長変換光学部と、
3以上の擬似カラー成分光をそれぞれ光電変換し、3以上の擬似カラー成分光にそれぞれ対応した3以上の擬似カラー基本画像信号をそれぞれ生成させる光電変換部と、
3以上の擬似カラー基本画像信号を加工することにより、サンプルの擬似カラー画像の生成と、該擬似カラー画像の色表示を行うための表色系に基づき定義される数値の算出とを行う画像処理部と、
擬似カラー画像及び/又は数値を出力する画像出力部と、
を少なくとも有しており、
画像処理部は、
3以上の擬似カラー基本画像信号にマトリクスMをかけてベクトル変換することにより、3以上の擬似カラー画像信号を生成させるベクトル変換処理手段と、3以上の擬似カラー画像信号を合成して擬似カラー画像を生成させる画像形成処理手段と、
3以上の擬似カラー画像信号を用いて表色系に基づき定義される数値を算出する表色処理手段と、
を少なくとも有しており、
3以上の感度関数は、被写体サンプルが属する被写体群を構成する各被写体間に生ずる物理的状態又は化学的状態の観測すべき差異と、被写体群を構成する各被写体の分光スペクトル間に生ずる波形の差異と、の間の相関関係に基づいて決定されており、
マトリクスMは、最適な感度特性に近づける為のマトリックスであり、結果的に3以上の擬似カラー画像信号を生成させる際に生じる色再現誤差が最小限となるように決定されていること、
を特徴とする可視並びに不可視領域の色度計測が可能なシステムを提供する。
【0025】
上記のように光学フィルタ等の光学系を用いて分光学的に感度関数をかけるタイプの構成を有する可視並びに不可視領域の色度計測が可能なシステムの場合にも、先に述べた数値計算により感度関数をかけるタイプの構成を有する可視並びに不可視領域の色度計測が可能なシステムと同様に、被写体サンプルから取得したい所望の情報を、擬似カラー画像の色表示を利用して定量的に評価することが充分にできる。
【0026】
【発明の実施の形態】
以下、図面を参照しながら本発明の可視並びに不可視領域の色度計測が可能なシステムの好適な一実施形態について詳細に説明する。なお、以下の説明では、同一または相当部分には同一符号を付し、重複する説明は省略する。
【0027】
[第一実施形態]
図1は、本発明の可視並びに不可視領域の色度計測が可能なシステムの第一実施形態の基本構成を示す説明図である。図1に示すように、第一実施形態の可視並びに不可視領域の色度計測が可能なシステム1は、カメラ部2と、画像処理部4と、画像出力部としてのモニタ5及びプリンタ6とから構成されている。そして、カメラ部2は、分光光学部2aと、光電変換部2bと、A/D変換部2cとから構成されている。なお、このカメラ部2には、後述する画像処理部4における前処理部4aが一体化されていてもよい。
【0028】
分光光学部2aは、被写体サンプルから放射される全ての波長領域の放射光L1を受光し、該放射光L1を互いに異なる中心波長を有する3以上の成分光に分光するものである。この分光光学部2aは、上述の互いに異なる中心波長を有する3以上の成分光を生成させることが可能な構成を有しているものであれば、特に限定されないが、分光的な処理をする場合には後述する感度関数を用いて感度特性を再設定することが可能なことから16以上の成分光に分光できる構成を有していることが好ましい。
【0029】
このような分光光学部2aとしては、特に、特許2713838号公報に記載の分光イメージングセンサに搭載されている干渉フィルタ及び光学ファイバープレート(何れも図示せず)であることが好ましい。なお、特許2713838号公報においては、可視カラーを主として取り扱う場合についての干渉フィルタ及び光学ファイバープレートが記載されているが、本実施形態の分光光学部2aに適用する場合には、干渉フィルタ及び光学ファイバープレートは可視領域に限らず、電磁波全波長域を対象にする点が異なる。
【0030】
すなわち、分光光学部2aに適用される干渉フィルタ及び光学ファイバープレートは、少なくとも16個の干渉フィルタを一群とし、これが多数個二次元的に配列された分光フィルタ、及び、各干渉フィルタに個々独立に光学結合された導光路が多数個一体化されてなる光学ファイバープレートであることが好ましい。
【0031】
光電変換部2bは、分光光学部2aで生成される3以上の成分光をそれぞれ光電変換し、これら3以上の成分光にそれぞれ対応した3以上の電気信号をそれぞれ生成させるものである。より具体的には、例えば、光学ファイバープレートの各導光路の光出射端毎にそれぞれ独立に光学結合された多数個の受光素子(図示せず)からなる。
【0032】
また、上記の各受光素子は、入力された光強度に応じて電荷を発生させる光電変換素子(図示せず)と、光電変換素子の信号出力端子に接続され、画像処理部からの走査信号に応じて光電変換素子に蓄積された電荷を出力するスイッチ素子(図示せず)を1組として構成されている。
【0033】
更に、上記の分光光学部2aと光電変換部2bとが一体化された組み合せの具体的な構成としては、特許2713838号公報に記載の分光イメージングセンサが好ましい。また、この分光イメージングセンサの場合には、A/D変換部2c及び前処理部4aが一体化された構成を有する。
【0034】
A/D変換部2cは、上記各受光素子からそれぞれ出力される電荷(電流信号)を個別に電圧信号に変換する積分回路を備えたアンプ(図示せず)と、アンプから出力される電圧信号(アナログ値)を個別にデジタル値に変換して出力するA/D変換器(図示せず)とから構成されている。
【0035】
また、カメラ部2の上述した構成以外の具体的な構成としては、分光された狭帯域の画像を連続的に採取できる構成を有するものであれば特に限定されないが、好ましい他の形態としては、特開平2−226027公報に記載のものが好ましい。また、カメラ部2は、いわゆる単板、3板又は4板と呼ばれるタイプのカメラに備えられた構成を有していてもよい。
【0036】
この場合、分光光学部2aは被写体サンプルから放射される全ての波長領域の放射光L1を受光し、互いにことなる中心波長を有する例えば3以上(または4以上)の成分光に分光する通常のカラーカメラと同じ構成を有している。先に述べた分光イメージングタイプの構成を有するカメラ部2はは、峡帯域のバンドを目的に採取し細かい分光特性を観察するという目的で使用する場合に適しており、この単板、3板又は4板と呼ばれるタイプのカメラの構成を有するカメラ部2はより広いバンド特性(例えば80nm以上の半値幅を有しているもの)を有する画像を採取し観察するという目的で使用する場合に適している。
【0037】
なお、この単板、3板又は4板と呼ばれるタイプのカメラの構成を有するカメラ部2の場合には、後述の感度関数をかける目的の前処理部4aがなくデータは、直接的に画像処理部4の本体部4bに送られる構成を有する。
【0038】
また、上述の構成のカメラ部2の他にも、例えば、カラーフォーラムJapan95 頁91−94に記載の「2次元測色システム」のような、ターレット上に干渉フィルタを並べ回転して、逐次、バンドパス画像を取り込んでいくタイプの構成を有するカメラ部2を備えていてもよい。
【0039】
画像出力部としてのモニタ5及びプリンタ6は、それぞれ画像処理部4で形成された擬似カラー画像及び/又は表色系に基づき定義された数値を出力する。更に、これらモニタ5及びプリンタ6には、後述する画像処理部4において生成する擬似カラー画像信号(後述の動作説明においては「生不可視カラー画像(信号)」と表記)及び擬似カラー画像信号(後述の動作説明においては「基本不可視カラー画像(信号)」と表記)の色表示行うための数値に基づく信号をD/A変換してアナログ信号を生成し、これをモニタ5及び/又はプリンタ6に送出するためのD/A変換器(図示せず)がそれぞれ備えられている。なお、カメラ部2と画像処理部4は一体となっていても良いし、離れていてもどちらでも良く、形状は問わない。
【0040】
画像処理部4は、主として、カメラ部2から出力された3以上のデジタル信号(3以上の電気信号)に感度関数をかける前処理を行う前処理部4aと、この前処理以降の処理を行う本体部4bとから構成されている。また、画像処理部4には、前処理部4aと本体部4bを制御し、カメラ部2から出力された3以上のデジタル信号を加工して擬似カラー画像信号に変換し、被写体サンプルの擬似カラー画像の生成を行うためと、該擬似カラー画像の色表示を行うための表色系に基づき定義される数値の算出を行うための中央制御装置(図示せず)が備えられている。
【0041】
この中央制御装置は、CPU、ROM、及び、RAM(何れも図示せず)を有する。中央制御装置のCPUは、マイクロプロセッサ等からなり、後述する各種演算処理(画像信号生成処理(前処理)、ベクトル変換処理、画像形成処理、表色処理、感度関数の決定のための処理、マトリクスMの決定のための処理、可視並びに不可視領域の色度計測が可能なシステム全体の制御)を行うものである。
【0042】
また、中央制御装置のROMには、上述の各種処理のためのプログラムが予め記憶されており、RAMは、制御・演算処理の際に各種データを読み書きするために用いられる。更に、中央制御装置は、例えば、CPUと接続された入出力ポート(図示せず)を有する。
【0043】
この入出力ポートには、カメラ部2の各構成要素が、該各構成要素を制御する制御回路を介して電気的に接続されている。また、入出力ポートには、D/A変換器を制御する制御回路を介してモニタ5及びプリンタ6がそれぞれ独立に接続されている。従って、カメラ部2、モニタ5及びプリンタ6には、入出力ポートを介して、CPUの演算処理によって生成された各種信号等が与えられる。
【0044】
また、中央制御装置は記憶装置(図示せず)を有し、この記憶装置は、入出力ポートを介してCPUと接続されている。そして、CPUは、この記憶装置にアクセスし、記憶装置に格納された以下に示すようなデータを必要に応じて用いることにより可視並びに不可視領域の色度計測が可能なシステム1の各種処理を制御する。
【0045】
すなわち、この記憶装置には、後述する画像信号生成処理において、カメラ部2から出力された3以上のデジタル信号(3以上の電気信号)の全てに対して、前処理部4aにおける前処理によって3以上の感度関数をそれぞれ独立にかけることにより3以上の擬似カラー基本画像信号を生成させるためのデータが記憶されている。
【0046】
また、この記憶装置には、後述するベクトル変換処理において、画像信号生成処理後に出力される3以上の擬似カラー基本画像信号にマトリクスMをかけてベクトル変換することにより、3以上の擬似カラー画像信号を生成させるためのデータが記憶されている。
【0047】
更に、この記憶装置には、後述する画像形成処理において、ベクトル変換処理に出力される3以上の擬似カラー画像信号を合成して擬似カラー画像を生成させるためのデータが記憶されている。
【0048】
また、この記憶装置には、後述する表色処理において、ベクトル変換処理に出力される3以上の擬似カラー画像信号を用いて数値計算処理を行うことにより、表色系に基づき定義される数値を算出するためのデータが記憶されている。
【0049】
更に、この記憶装置には、後述する感度関数の決定のための処理において、3以上の感度関数を、被写体群を代表する標準サンプルと被写体サンプルとの間の物理的状態又は化学的状態の観測すべき差異と、標準サンプルの分光スペクトルの標準波形とサンプルの分光スペクトルの波形との間の差異との間の相関関係に基づいて決定するためのデータが記憶されている。
【0050】
また、この記憶装置には、後述するマトリクスMの決定のための処理において、3以上の擬似カラー画像信号を生成させる際に生じる色再現誤差を低減し、理想的な感度特性に近づけるように決定するためのデータが記憶されている。
【0051】
次に、可視並びに不可視領域の色度計測が可能なシステム1の動作について図2〜図5に示すフローチャートを参照しながら説明する。先ず、可視並びに不可視領域の色度計測が可能なシステム1の主電源(図示せず)をONにして画像処理部4を作動させる。そして、画像処理部4における中央制御装置のCPUはカメラ部2、モニタ5及びプリンタ6に駆動信号を出力する。
なお、ハードウエア構成として、カメラ部2を分離したものとし、画像処理部4は通常の市販パソコンと上で述べた本発明の計算ならびに処理機能をつかさどるソフトウエアならびに付加的ハードウエアで構成したものとし、モニタ5、プリンタ6は通常の市販のものとしてもかまわない。
【0052】
なお、以下の動作の説明においては、「擬似カラー基本画像信号」を「生不可視カラー画像(信号)」と表記する。また、「擬似カラー画像信号」を「基本不可視カラー画像(信号)」と表記する。
【0053】
先ず、被写体サンプル10から放射される全ての波長領域の放射光L1を、分光光学部2aに受光する。このとき受光する画像としては、被写体サンプル10の全体像Pであってもよく、その部分領域E1の何れであってもよい。そして、受光画像の連続放射スペクトルλ S0は、n個(n≧3)の光学的フィルタにより、互いに異なる中心波長λ S1,λ S2・・・λ Snをそれぞれ有するn個(n≧3)の成分光に分解される(ST1)。なお、ここで、放射光L1は特に限定されず、例えば、被写体サンプル10を透過する透過光、被写体サンプル10からの反射光の何れであってもよい。
【0054】
次に、光電変換部2bにおいて、互いに異なる中心波長λ S1,λ S2・・・λ Snをそれぞれ有するn個の成分光はそれぞれ光電変換され、更に、A/D変換部2cを経ることにより、n個の成分光に対応したn個(n≧3)のデジタル化されたバンドパス画像(信号)λS1,λS2・・・λSnに変換される(ST2)。
【0055】
次に、n個(n≧3)のバンドパス画像(信号)λS1,λS2・・・λSnは画像処理部4に入力されて加工される。先ず、画像信号生成処理(前処理)が行われる。即ち、n個(n≧3)のバンドパス画像(信号)λS1,λS2・・・λSnの全てに対して、予め被写体サンプルから得たい情報に応じて決定された3つの感度関数λ ,λ 及びλ がそれぞれ独立にかけられ、3つの生不可視カラー画像(信号)λ,λ及びλが形成される(ST3)。
【0056】
なお、ここでは、感度関数を3つ使用する場合について説明したが、使用する感度関数の数は3以上であれば特に限定されず、被写体から取得したい情報に応じて後述する感度関数を決定する際に同時に最適の数を決定してよい。
【0057】
次に、図3に示すように、3つの生不可視カラー画像(信号)λ,λ及びλにベクトル変換処理が施され、3つの基本不可視カラー画像(信号)Riv,Giv及びBivが形成される(ST4)。すなわち、3つの基本不可視カラー画像(信号)Riv,Giv及びBivは、下記式(1)に示すように、3つの生不可視カラー画像(信号)λ,λ及びλにマトリクスMをかけることにより生成される。
【0058】
この処理は、3つの生不可視カラー画像(信号)λ,λ及びλの全画素の強度に対してベクトル変換を行い、基本不可視カラー画像(信号)Riv,Giv及びBivを作成するものである。
【0059】
【数1】
Figure 2004077143
【0060】
このベクトル変換処理は、第一に以下の目的のために行われる。すなわち、分光イメージングセンサのタイプの構成を有するカメラ部2(又は、別の構成を有する分光器)等を用いて後述する感度関数(理想感度特性)を求めた後、その感度関数(理想感度特性)を(ST3)にて用いることにより全処理系の感度関数を決定するために行われる。
【0061】
なお、カメラ部2の構成が先に述べたいわゆる単版、3板、4板タイプの構成を有するものの場合、決定された感度関数を用いて、その光学特性が決まるが、その場合、光学フィルタによる感度関数決定では、プラスだけの感度特性しか作ることができない。その為、得られた最適感度関数にマイナスが含まれている場合、プラスだけの感度関数からマイナスが含まれているものに変換する必要がある。この場合、その変換用にマトリクスMを用いたベクトル変換処理が行われることになる。
【0062】
ここで、このベクトル変換処理に使用されるマトリクスMは、次のように決定されることが好ましい。すなわち、後に示されるように最適な感度関数(理想的な感度特性)が決定された場合、この感度特性に合わすように、プラスだけの特性を有した感度特性に、Mをかけその特性に近づけることが可能となる。
【0063】
その手法としては、実際に作り得るプラスだけの最適感度関数に近い感度特性を用い、測定しようとする波長領域の複数の任意のスペクトルに対しての色値計算を行い(具体的には、生不可視カラー画像信号λ,λ及びλに基準ベクトル(単位ベクトル)をかけ、不可視カラー画像信号Riv,Giv及びBivを求め、不可視カラー値画像信号Liv 、aiv 、biv と同じ計算式)、また、一方では、後述するように、得られた最適な感度関数を基に、色値計算を行い両者による色差群(色再現誤差)が最小になるようにMを決定することにより、結果的にプラス特性だけの感度特性を理想的な感度特性に近づけることができる。
【0064】
また、このベクトル変換処理は、第二に以下の目的のために行われる。すなわち、人間の目で、不可視画像を見たとき、擬似カラー画像を心理的且つ生理的に受け入れられるように色補正するために行われる。マトリクスMは、例えば、3*3(3行3列)のマトリクスであり、例えば、マトリクスMが単位行列とすると、何も変換せず、入力値と変換後の出力値は全く同じ強度比になる。3つの生不可視カラー画像信号λ,λ及びλにMを掛けることにより、基本不可視カラー画像信号Riv,Giv及びBivに対して濃淡コントロール、又は、色(色相)の回転等を目的としたベクトル変換が可能となる。結果的には、基本不可視カラー画像信号Riv,Giv及びBivから合成される擬似カラー画像RGBivの濃淡のコントロール、又は、色(色相)の回転等が可能となる。
【0065】
なお、図3においては、図1及び図2における被写体サンプル10が変更して図示してある(図1及び図2における「りんご」が「手のひら」に変更されている。)が、可視並びに不可視領域の色度計測が可能なシステム1における実際の一連の処理においては、同じ被写体サンプル10に対して処理が行われているものとする。すなわち、被写体サンプル10が「りんご」の場合には「りんご」に対して一連の処理が行われ、被写体サンプル10が「手のひら」の場合には「手のひら」に対して一連の処理が行われているものとする。
【0066】
次に、画像形成処理により、3つの基本不可視カラー画像(信号)Riv,Giv及びBivから擬似カラー画像RGBivを合成する(ST5)。擬似カラー画像RGBivは、それぞれ既存のRGBの発光体に割り当てることが可能であり、モニタ5においてディスプレイ表示が可能である。なお、基本不可視カラー画像(信号)と疑似カラー画像は通常1:1で対応するが、モニタ5のディスプレイの発光体種によっては、調整が必要な場合もある。
【0067】
また、この画像形成処理においては、図4に示すように、基本不可視カラー画像(信号)Riv,Giv及びBivに対して、吸収度に基づく擬似吸収カラー画像(信号)を求め(ST7)、これを用いて吸収度に基づく擬似吸収カラー画像を形成してもよい(ST8)。ここで、吸収度に基づく不可視吸収カラー画像(信号)は、「−logRiv」、「−logGiv」及び「−logBiv」で表現される。そして、これらを合成することにより吸収度に基づく擬似カラー吸収画像RGBivεを表示することができる。また、「−logRiv」、「−logGiv」及び「−logBiv」で表現する代わりに、別の表現として、吸収度に基づく不可視吸収カラー画像(信号)を、KubelkaMunk関数のように、散乱分を加味した吸収度を表す関数等を用いて、「(1−Riv/2Riv」、「(1−Giv/2Giv」、「(1−Biv/2Biv」で表現してもよい(図示せず)。
【0068】
この吸収度に基づく不可視吸収カラー画像(信号)及び吸収度に基づく擬似吸収カラー画像による表示は、例えば、ある波長帯域に特異的な吸収バンドを有する試料(例えば、植物のクロロフィル)の撮影の時、その吸収度合いを強度パラメータとして表示することができる点で有効である。
【0069】
更に、この画像形成処理と平行して表色処理を行う(ST6)。即ち、色表示を行うための表色系に基づき定義される数値の算出を行う。
【0070】
この表色処理は、基本不可視カラー画像(信号)Riv,Giv及びBiv、又は、これらの合成画像である擬似カラー画像RGBivに対し、可視光領域において色彩的処理として行われている処理を適用し、不可視情報を含む基本不可視カラー画像(信号)Riv,Giv及びBiv又は擬似カラー画像RGBivの色立体上の数値を求める為の処理である。これは、可視情報のみを含むカラー画像の変わりに、不可視情報を含む基本不可視カラー画像(信号)Riv,Giv及びBiv又は擬似カラー画像RGBivを使用し、基本不可視カラー画像(信号)Riv,Giv及びBivを人間の感覚に近い、明度、彩度、色相から構成される色立体の座標上の数値で表現して評価するものである。
【0071】
先ず、表色処理について説明する前に、簡単のために、可視光領域において色彩的処理として行われている処理について、基本的色変換であるCIELab方式(L表色系)を例にして説明する。画像の入力値をXYZとし、100%の反射率、100%の透過率または100%のエネルギー値をXn、Yn、Zn(光源特性で変わる係数)とすると、L、a、bは下記式(2)〜(4)で表せる。
【0072】
【数2】
Figure 2004077143
【0073】
【数3】
Figure 2004077143
【0074】
【数4】
Figure 2004077143
【0075】
ここで、式(2)〜(4)中の各係数及び定数は、L空間で色表示した時にのみ(可視領域の画像の議論でのみ)有効なものであり、例えば、測定の対象となる波長領域が近赤外領域等の不可視領域となると無意味な係数となる。
【0076】
これらの式(2)〜(4)に対して、本実施形態の可視並びに不可視領域の色度計測が可能なシステム1における表色処理では、不可視情報を含む基本不可視カラー画像(信号)Riv,Giv及びBiv又は擬似カラー画像RGBivの色立体上の数値として、下記式(5)〜(7)で表されるLiv 、aiv 、biv を定義して使用する。
【0077】
【数5】
Figure 2004077143
【0078】
【数6】
Figure 2004077143
【0079】
【数7】
Figure 2004077143
【0080】
ここで、式(5)〜(7)中、Rivnは、測定波長範囲において、100%反射率分布、透過率分布、または100%を規定するエネルギー分布に対し、感度関数を掛け合わせ、各々の値を積分した値を、Rivn、Givn、Bivnとしたもののうち、疑似色赤(Red)を代表する値を示す。
【0081】
また、Givnは、測定波長範囲において、100%反射率分布、透過率分布、または100%を規定するエネルギー分布に対し、感度関数を掛け合わせ、各々の値を積分した値を、Rivn、Givn、Bivnとしたもののうち、疑似色緑(Green)を代表する値を示す。
【0082】
更に、Bivnは、測定波長範囲において、100%反射率分布、透過率分布、または100%を規定するエネルギー分布に対し、感度関数を掛け合わせ、各々の値を積分した値を、Rivn、Givn、Bivnとしたもののうち、疑似色青(Blue)を代表する値を示す。
【0083】
また、式(5)〜(7)中、Kl、Ka、Kbはそれぞれ定数を示す。このシステムでは、擬似カラーにより色付けされた被写体をディスプレイを通して人間の目で見る為、ディスプレイ発色から人間の目に到る経路だけを考慮すれば良いとも考えられる為、Kl、Ka、Kbは被写体に無関係にそれぞれ人間の感覚に合わせて決定しても良く、結果的に、可視域の係数と通常は同等で良いことになる。しかしながら、より高いレベルでの検討を行う時、すなわち、感度関数に相関のある表色系を考え、最終的画像を人間が見るということを抜きに検討を行うことも発生する。その為その時には、感度関数に合わせて決定してもよい。
【0084】
ここで、式(5)〜(7)において、べき乗数である1/3乗という指数を式(2)〜(4)と同じにした理由は、物体色における輝度(物理量)と明度(人間の心理物理量)の関係が、可視域においては殆どの場合この指数値で表す事ができる。また、本発明のシステムの主たる使用方法は、不可視物体を観察しながら、ディスプレイに映し、且つその色値を表示、記録するというものである為、表示された擬似カラーと人間の目の間には可視域の色彩関係が存在する為、べき乗数である1/3乗という指数をそのまま使うことが有効であると本発明者らは考えた為である。
【0085】
また、物体色における輝度(物理量)と明度(人間の心理物理量)の関係を表現する際にも上記説明と同様に、上記の指数を用いることが可能となると本発明者らは考えているからである。また、人間以外の動物の感覚指標(感度関数)、無機質なもの感覚指標(感度関数)を取り扱う場合に関しても上記の指数を用いることが有効であると本発明者らは考えているからである。
【0086】
また、この表色処理においては、画像形成処理において図4を用いて先に述べたように吸収度に基づく不可視吸収カラー画像(信号)を求め、これを用いて吸収度に基づく擬似カラー画像を形成している場合には、Riv,Giv及びBiv並びにRGBivの代りに、吸収度に基づく不可視吸収カラー画像(信号)(例えば、−logRiv、−logGiv及び−logBiv)或いは吸収度に基づく擬似吸収カラー画像RGBivεを用いてもよい(ST9)。
【0087】
更に、この表色処理においては、図5に示すように、式(5)〜(7)で表されるLiv 、aiv 、biv を用いて、下記式(8)及び(9)で定義される数値Hiv 及びCiv を算出し、Liv と合わせて擬似カラー画像RGBivの色立体上の別の数値として使用してもよい(ST10)。即ち、Liv (明度)、Hiv (色相)及びCiv (彩度)として表現してもよい。また、Civ (彩度)のかわりに、下記式(10)で定義される数値Siv を彩度として使用してもよい。
【0088】
【数8】
Figure 2004077143
【0089】
【数9】
Figure 2004077143
【0090】
【数10】
Figure 2004077143
【0091】
上述の表色処理は、化学的な分光分析に用いられている手法と異なり、光強度のうち求める波長範囲の光強度の積分値的な量(例えば、Riv、Giv、Biv値)をベースに、その比riv=Riv/(Riv+Giv+Biv)、giv=Giv/(Riv+Giv+Biv)、とGiv値等のスカラー量で、そのエネルギー量を簡便に立体的に表現したものと同等である。この立体情報をデフォルメすることにより、上述したように、Liv 、aiv 、biv の表示に変形可能であり、更には、Liv (明度)、Hiv (色相)及びCiv (彩度)のように別のスカラー量として表すことが可能である。
【0092】
iv (明度)は、主な中心波長領域の明るさを示しており、また、Civ (彩度)は、グレイライン(即ちRiv、Giv、Bivの平均的な明るさライン)を基準として、任意の波長成分強度がどれだけ特徴的に突出しているかを示しており、更に、Hiv (色相)は、3つのエネルギーで表現される全方向性の中からどの方向により傾いているかを示す。具体的には可視では、赤、橙、黄、緑、青、藍、紫のような色あいを意味するが、不可視でもこれと同じである。
【0093】
また、Liv (明度)、Hiv (色相)及びCiv (彩度)はモノクロ画像なので、何れか1つに関していわゆる偽カラー(Pseudo Color)画像を形成し、これをモニタ5及び/又はプリンタ6に出力する画像P1としてもよい。更に、図5に示すように、偽カラー(Pseudo Color)画像である、Liv 、Hiv 及びCiv には、Liv 、Hiv 及びCiv の何れかの値についての濃度情報を示す偽カラーバー21、22及び23をそれぞれ更に表示してもよい(図13参照)。
【0094】
モニタ5及び/又はプリンタ6に出力される画像P1について説明する。画像P1には、上述の擬似カラー画像RGBiv又はRGBivεの他に、被写体の各種分光スペクトル、Liv 、aiv 、biv 、Hiv 、Civ 、riv、giv等の数値データの表、Liv 、aiv 、biv 、Hiv 、Civ 、riv、giv等の数値データの2次元或いは3次元グラフ、等を適宜組み合せて表示してよい。また、擬似カラー画像RGBiv又はRGBivεについても、被写体の全体画像と部分領域の画像とをそれぞれ独立に表示してもよい。更には、通常の可視光の画像も擬似カラー画像と合わせて表示してもよい。
【0095】
例えば、図6に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、擬似カラー画像RGBivと、被写体の部分領域E1及びE2における反射率RのプロフィールLE1及びLE2を示す分光スペクトルのグラフG1と、Liv 、aiv 、biv 、Hiv 、Civ 、riv、giv等の数値データの表T1を合わせて表示してもよい。
【0096】
また、例えば、図7に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、上記RGBivと、グラフG1と、aiv 及びbiv の2次元グラフG2(被写体の部分領域E1及びE2に基づく座標上の点PE1及び座標上の点PE2がプロットされている。)と、uiv 及びviv の2次元グラフG2(被写体の部分領域E1及びE2に基づく座標上の点PE1及び座標上の点PE2がプロットされている。)とを合わせて表示してもよい。
【0097】
なお、ここで、「uiv 」とは、上記可視表色系CIELからLiv 、aiv 、biv にモディファイした手法と同様に、CIE1976LからモディファイされたLiv 、uiv 、viv のうち、uiv を示す。また、「viv 」とは、上記可視表色系CIELからLiv 、aiv 、biv にモディファイした手法と同様に、CIE1976LからモディファイされたLiv 、uiv 、viv のうち、viv を示す。
【0098】
更に、例えば、図8に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、擬似カラー画像RGBivと、riv及びgivのグラフG4を合わせて表示してもよい。
【0099】
また、例えば、図9に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、上記RGBivと、グラフG2と、Δaiv 及びΔbiv の2次元グラフG5(被写体の部分領域E1及びE2に基づく座標上の点P(E1−E1)及び座標上の点P(E2−E1)がプロットされている。)と、ΔLiv の1次元グラフG6(被写体の部分領域E1及びE2に基づく座標上の点P(E1−E1)及び座標上の点P(E2−E1)がプロットされている。)を合わせて表示してもよい。
なお、ここで、「Δaiv 」とは2つのaiv の差を示し、「Δbiv 」とは2つのaiv の差を示す。
【0100】
また、例えば、図10に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、RGBivと、グラフG1と、被写体の部分領域E1及びE2における透過率AbsのプロフィールLE1及びLE2を示す分光スペクトルのグラフG1とを合わせて表示してもよい。なお、最初の取り込み画像数が最小である3個の場合、そのままの波長数の折れ線表示でもよいが、分光推定し、データ数を増やしてグラフ化しても良い。
【0101】
更に、例えば、図11に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、RGBivと、グラフG1と、被写体の部分領域E1及びE2におけるK/S値のプロフィールLE1及びLE2を示す分光スペクトルのグラフG1とを合わせて表示してもよい。なお、ここで、「K/S値」とは、(吸収係数)/(散乱係数)を示す。
【0102】
また、例えば、図12に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、Liv 、aiv 、biv の3次元グラフG9(被写体の部分領域E1及びE2に基づく座標上の点PE1及び座標上の点PE2がプロットされている。)
【0103】
更に、例えば、図13に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、Hiv の偽カラー画像と、Hiv 値の濃度情報を数値化したグラフ(偽カラーバー)22とを合わせて表示してもよい。
【0104】
また、例えば、図14に示すように、モニタ5及び/又はプリンタ6に出力される画像P1として、Hiv の偽カラー立体画像と、Hiv 値の濃度情報を数値化し、更に立体表示したグラフ(偽カラーバー)G10とを合わせて表示してもよい。
【0105】
また、吸収度合いの係数QRiv、QGiv、QBiv、それを用いた色濃度値qriv、qgivへの変更も重要な内容である。なお、ここで、「QRiv」とは、−logRivと(1−Riv/2Rivと同等であり、いわゆるRivの吸収度画像値を示す。更に、「QGiv」とは、−logGivと(1−Giv/2Givと同等であり、いわゆるGivの吸収度画像値を示す。また、「QBiv」とは、−logBivと(1−Biv/2Bivと同等であり、いわゆるBivの吸収度画像値を示す。
【0106】
更に、「qriv」とは、前述したriv値との補色色度座標値であり、次式で定義される値を示す。すなわち、qriv=QRiv/(QRiv+QGiv+QBiv)で定義される。また、「qgiv」とは、前述したgiv値との補色色度座標値であり、次式で定義される値を示す。すなわち、qgiv=QGiv/(QRiv+QGiv+QBiv)で定義される。
【0107】
以下、図15を参照しながら、画像処理部4における画像信号生成処理で使用される最適な感度関数を決定する方法の一例について説明する。
【0108】
ある被写体サンプルの画像を擬似カラー画像として表示するという手法は公知であるが、被写体サンプルのから取得したい情報に基づいて決定された最適な感度関数を使用して擬似カラー画像を形成する手法はこれまでに提案されていなかった。これに対して、本実施形態の可視並びに不可視領域の色度計測が可能なシステム1では、画像処理部4における画像信号生成処理において取得したい情報に基づいて決定した最適な感度関数を使用する。
【0109】
撮像システム1で使用される感度関数λ ,λ 及びλ は、同種の被写体10からなる被写体群を構成する各被写体10間に生ずる物理的状態又は化学的状態の観測すべき差異と、上記被写体群を構成する各被写体10の分光スペクトル間に生ずる差異との間の相関関係に基づいて決定される。なお、この撮像システム1では、例えば、撮像する被写体毎に最適な感度関数を予め求めておき、そのデータを画像処理部4中の中央制御装置の記憶装置に格納し、これを使用するプログラムをROMに格納しておいて使用してもよい。また、感度関数を決定するプログラムを上記ROMに格納しておき、求められた最適な感度関数のデータを記憶装置に格納して基本不可視カラー画像(信号)+擬似カラー画像を形成する毎にこれを使用してもよい。
【0110】
図15に示す方法は、同種の被写体10からなる被写体群を構成する各被写体10間に生ずる物理的状態又は化学的状態の観測すべき差異を明確に表現するために、不可視領域の画像情報に、人間の視覚特性、人間の感覚特性を加味して最適な感度関数を決定する方法である。
【0111】
先ず、図15に示すように、所定の数の被写体からなる被写体群に対して、各被写体間の物理的状態又は化学的状態の観測すべき差異に基づいて被写体群を幾つかのクラスター分けする(ST11)。なお、この段階で、予め個々の被写体の分光スペクトル(分光スペクトル)をラフに測定しておき、そのラフなデータにおける物理的状態又は化学的状態の観測すべき差異と関連付けてクラスター分けしてもよい。また、被写体サンプルの破壊試験又は被破壊試験結果等他の試験結果を併用してもよい。
【0112】
ここでは、被写体群が4つのクラスター11〜14に分けられる場合について説明する。次に、4つのクラスター11〜14のそれぞれについて、全波長領域の分光スペクトルλ11〜λ14(例えば、反射光スペクトル、透過光スペクトル、吸収光スペクトル等の分光スペクトル)を測定する(ST12)。なお、上述の分光測定は、撮像システム1を用いて行ってもよく、別の分光装置を使用してもよい。また、被写体が全体像では、各被写体の分光スペクトルの波形の差異と、各被写体間の物理的状態又は化学的状態の観測すべき差異との相関関係が確認されず、全体像内の部分領域に上記の差異が存在する場合は、その部分領域に関する分光スペクトルを測定する。
【0113】
次に、分光スペクトルλ11〜λ14に基づいて、最適な感度関数λ ,λ 及びλ を決定する際のはじめのモデルとなる最初の感度関数λ 10,λ 20及びλ 30を仮定する(ST13)。最適な感度関数λ ,λ 及びλ は、最初の感度関数λ 10,λ 20及びλ 30をモディファイしてゆくことにより決定される。より具体的には、モディファイするときの容易性の観点から、最初の感度関数λ 10,λ 20及びλ 30はバンドパス状の関数とする。そのため、その波長の値を決定することが重要になる。
【0114】
最初の感度関数λ 10,λ 20及びλ 30の波長の値は、分光スペクトルの分光データから特長のある波長を選択する。この特長のある波長の値とは、例えば、分光スペクトル強度Iの極大値或いは極小値を与える波長値であることが多いが、被写体群を構成する各被写体間の物理的状態又は化学的状態の観測すべき差異を反映する値であればこれに限定されるものではなく、例えば、分光スペクトルのショルダー部分にある波長値であってもよい。そして、上記の波長値λ,λ及びλを決定することにより、バンドパス状の最初の感度関数λ 10,λ 20及びλ 30が作成される。
【0115】
次に、分光スペクトルλ11〜λ14に対して、最初の感度関数λ 10,λ 20及びλ 30をかけて、基本不可視カラー画像(信号)Riv1,Giv1及びBiv1を得て、更にこれらを結合することにより、最初の擬似カラー画像RGBiv1を作成する(ST14)。
【0116】
上述のように基本的に被写体群を構成する各被写体間の物理的状態又は化学的状態の観測すべき差異を反映した特長をRiv,Giv及びBivの各値に割付して表すということは、その特長が基本的な色相を決定することになる。そのため、各々の特長は色相によって代表されることになり、またその程度、量は色の濃淡、簡単には彩度(更に厳密には、明度と彩度の合成ベクトルとなる)で代表されることになる。その結果、不可視領域のスペクトルさえも色彩的に特長を持たせた状態で擬似カラーで表現できることになる。
【0117】
RGBiv1を作成後は、この画像を観察しながら最初の感度関数λ 10,λ 20及びλ 30のシェイプを適宜変形して調整する(例えば、強度I、波長値λ,λ及びλをかえてもよい。)。なお、RGBiv1の段階で色彩的に認識可能な画像を得ることができる場合には、最初の感度関数λ 10,λ 20及びλ 30が最適な感度関数λ ,λ 及びλ となる。
【0118】
最初の感度関数λ 10,λ 20及びλ 30のシェイプを変形する際には、先ず、ローレンツ型の関数、またはガウス分布を仮定して、はじめのバンドパス状のシェイプに対して膨らみを設ける。この膨らみを設ける場合には、必要以上に膨らみを増すと、彩度差が低くなるので過度に行わないように注意する。またより彩度差を強調して色の選別能力を高めるには、それぞれのバンドが交わる領域、すなわち感度関数が重なる領域にマイナス特性を設けることにより彩度差を増すことが出来るため、画像を見ながら、その感度特性を変え調整を行う。
【0119】
なお、不可視領域の可視化(擬似カラー化)を行う場合、可視化された色が自然では存在しないものの為、その可視領域と同等の感覚特性を盛り込むことが好ましい。例えば、寒色及び暖色の関係はそのままフ゛ルー系、赤橙系の関係ならびに、また自然物を対象にした場合、新鮮な物は色相で言えば、青、緑系の感覚があり、新鮮でないもの腐敗したものは、褐色、茶、赤系の感覚がある。その為、自然物を試料対象にした場合、バンドパス状の最初の感度関数の波長選択ならびに、Riv,Giv及びBivへの対応は可視領域と同等の感覚特性にあったものとすることが好ましい。
【0120】
決定された感度関数(特性)は最終的な不可視値(Riv、Giv、Biv、Liv 、aiv 及びbiv )の値を決定する為、その感度関数はその都度明記する必要がある。しかしながら、決定された感度関数がそれぞれ、試料毎、使う波長毎に検証されてゆき、業界での使用頻度が高くなれば、その明記方法は簡略化される。
【0121】
更に、最適な感度関数の決定法としては、人間の感覚を関与させずに最適な感度関数を決定する手法である。例えば、主成分分析法を用いて、平均ベクトル、主成分ベクトルを計算し、これらをそのまま用いて感度関数とする手法と、更に2次的に変換して最適化した値を感度関数とする手法とがある。
【0122】
また、得ようとする擬似カラー画像情報として、例えば、人間以外の動物の視覚特性に合致した画像が要求されている場合には、例えば、動物の錐体の数及び視覚特性に合致した感度関数を最適な感度関数として使用してよい。更に2次的に変換して最適化した値を感度関数として使用することが好ましい。
【0123】
また、動物の視覚特性は、長い年月を通して最適なものが選ばれてきたようである。しかしながら、数学的また分光学的に見ると助長性(Redundancy)が多い場合も多々ある。特に、人間の場合の錐体特性はRedの錐体、Greenの錐体特性は殆ど近似している為、数学的にはその領域はRedundancyが高いとも言える。一方、先に述べた被写体に含有される主成分を分析し数学的に最適な感度関数を求める場合には、Redundancyをなるべく減らし、それぞれ感度関数を用いて計算された数値の相互間の相関がなるべく少ないものを作り出すことができる。
【0124】
そのため、結果的には可視領域だけに限っても人間の視覚特性とは違ったものになる。従って、不可視領域においても、動物の感度特性と、純粋に数学的に解いたものとにもこれと同じと考えられる。その為、結果的にその何れ(生物学的なものと、純粋に数学的なもの)もが、重要な為、その両方を考慮した感度特性も用いることとする。
【0125】
また、最適な感度関数の決定法としては、上述した方法の他に、以下の方法がある。即ち、擬似カラー化を行おうとする被写体の分光スペクトルの波長帯域が例えば300〜900nm程度の紫外、可視、近赤外領域であれば、先に述べたように大きな波長幅を有する最適な感度関数を決定し、被写体のオリジナルな分光分布(分光スペクトル)から、所望の擬似カラー画像を形成することができる。しかしながら、分光スペクトルが比較的長波長側の近赤外領域(例えば、800〜2500nmの波長領域)に観測される被写体の擬似カラー画像を作成する場合、上述の様に幅広い重み付け関数(感度関数)とオリジナルな分光分布からは、所望とする擬似カラー画像が得られにくい場合が多い。
【0126】
すなわち、800〜2500nmの波長領域の近赤外領域の分光スペクトルは、多重共線性が強く、各物質成分による吸収はそれぞれ広い波長範囲に分布する。その為、可視領域のスペクトルの様に特異的な吸収スペクトルが現れにくい為、同種類の物質から構成される被写体の分光スペクトル(反射光スペクトル或いは吸収光スペクトル)は殆ど同じシェイプとなってしまい、図15を用いて説明した方法では、最適な感度関数を決定することが難しい。
【0127】
この場合には、重回帰分析(MLR)又は主成分回帰分析(PCR)法を用いて、得ようとする被写体の情報(例えば、被写体に含まれる特定の成分の濃度など)と相関の高い波長を選ぶことが可能となる。この場合、採取画像も、生画像から吸光画像または2次微分画像に置き換えたものを用いた方が精度の高い画像を得ることができる。
【0128】
特にこの方法は、得ようとする擬似カラー画像情報が、被写体中に含有される特定の物質の濃度を定量可能に表示するためのものと限定されている場合に有効に適用できる傾向にある。
【0129】
このように、重回帰的手法によって得られた回帰式より、得ようとする成分の濃度マップ(画像)が得られる為、これを偽カラー(Pseudo color)として単一物質濃度の画像として表示してもよいし、また、3成分のそれぞれの濃度マップ(画像)を得て、この3枚画像をそれぞれ、Riv,Giv及びBivに対応させ、擬似カラー(False color)化して表示しても良い。これにより、それら3成分が醸し出す映像を直接見ることが可能になり、また、これら3成分画像から色立体配置画像ができる為、より高度な解析が可能になる。この場合、最適な感度関数の波長幅は狭くなり、例えば2nm間隔の波長幅でそれぞれの画像を採取した場合、最短波長幅(2nm)が選ばれる場合が多くなる傾向にある。
【0130】
以下、図16を参照しながら、画像処理部4におけるベクトル変換処理で使用される最適なマトリクスMを決定する方法の一例について説明する。
【0131】
最初に、観測すべき被写体から取得したい情報に対応した擬似カラー画像の基準となるスペクトル(以下、「基準スペクトル」という)を12本以上用意する。この基準スペクトルとは、先に述べた最適の感度関数と同じ波長領域内のスペクトルであって、採用する表色系(例えば、本実施形態においては、Liv iv iv 表色系)の色座標空間内に均一に分布可能な色度点を形成させる為のスペクトルである。
【0132】
ここで、基準スペクトルの数を12本未満となると、精度の高い色値計算がやや困難になる傾向が大きくなる。また、より精度の高い色値計算を行う観点からは、基準スペクトルの数は18本以上であることが好ましい。
【0133】
ここでは、基準ベクトルを12本用いる場合について説明する。先ず、これらの基準スペクトルD1〜D12のそれぞれに対して最適な感度関数birs 、girs 及びrirs (先に述べた最適な感度関数λ ,λ 及びλ に相当するものである)をそれぞれかけて、12組の基準となる擬似カラー基本画像信号(Rivstn1,Givstn1,Bivstn1)〜(Rivstn12,Givstn12,Bivstn12)を生成させ、更に、これらを用いて、先に述べた式(5)〜(7)に示した計算を行い、Liv iv iv 表色系の色座標空間C1内に分布する12個の色度点Pi1〜Pi12を求める(ST15)。
【0134】
次に、分光光学部2により得られる物理的な感度関数birp、girp及びrirp(先に述べた図2を用いて説明した、n個(n≧3)のデジタル化されたバンドパス画像(信号)λS1,λS2・・・λSnに相当するものである)に、マトリクスM(初回の場合は3行3列の単位行列)をかけて得られる感度関数bir 、gir 及びrir を求める。次に、基準スペクトルD1〜D12のそれぞれに対してこの感度関数bir 、gir 及びrir をそれぞれかけて、12組の擬似カラー基本画像信号(Rivsmp1,Givsmp1,Bivsmp1)〜(Rivsmp12,Givsmp12,Bivsmp12)を生成させ、更に、これらを用いて、先に述べた式(5)〜(7)に示した計算を行い、Liv iv iv 表色系の色座標空間C1内に分布する12個の色度点Pr1〜Pr12を求める(ST16)。
【0135】
次に、色座標空間C1内において、色度点Pi1と色度点Pr1との間の色差(色再現誤差)、色度点Pi2と色度点Pr2との間の色差(色再現誤差)、色度点Pi3と色度点Pr3との間の色差(色再現誤差)、色度点Pi4と色度点Pr4との間の色差(色再現誤差)、色度点Pi5と色度点Pr5との間の色差(色再現誤差)、色度点Pi6と色度点Pr6との間の色差(色再現誤差)、色度点Pi7と色度点Pr7との間の色差(色再現誤差)、色度点Pi8と色度点Pr8との間の色差(色再現誤差)、色度点Pi9と色度点Pr9との間の色差(色再現誤差)、色度点Pi10と色度点Pr10との間の色差(色再現誤差)、色度点Pi11と色度点Pr11との間の色差(色再現誤差)、色度点Pi12と色度点Pr12との間の色差(色再現誤差)がそれぞれ最小値となるように、上記(ST16)におけるマトリクスMの値を変化させ、最適のマトリクスMを求める。マトリクスMの値は、最小自乗法等の公知の数学的処理によって行うことができる。
【0136】
なお、上述の方法と異なるMの決定法としては、PCA(主成分分析)手法がある。被写体中の主成分分析では、新しく作るベクトルは、効率良く説明できる直交ベクトル(ローディング)を空間内に作り出すことに相当する為、基本的にマトリクスMをかけて作るベクトル変換と同じ意味になる。そのため、この手法も利用できる。
【0137】
[第二実施形態]
次に、本発明の可視並びに不可視領域の色度計測が可能なシステムの第二実施形態について説明する。
【0138】
この第二実施形態の可視並びに不可視領域の色度計測が可能なシステム1Aは、図1に示した第一実施形態の可視並びに不可視領域の色度計測が可能なシステム1におけるカメラ部2を異なる構成に代え、更に、分光光学部2aと光電変換部2bとの間に波長変換部7を設けたこと以外は第一実施形態の可視並びに不可視領域の色度計測が可能なシステム1と同様の構成を有する。
【0139】
波長変換光学部7は、分光光学部か出力される3以上の成分光のそれぞれを波長変換することにより3以上の成分光のそれぞれに対して光学的に感度関数をかけて、3以上の成分光のそれぞれに対応した3以上の擬似カラー成分光を生成させるものである。
【0140】
次に、図18を参照して、第二実施形態の可視並びに不可視領域の色度計測が可能なシステム1Aの動作について説明する。なお、この可視並びに不可視領域の色度計測が可能なシステム1Aの動作については、可視並びに不可視領域の色度計測が可能なシステム1と異なる動作のみ説明する。
【0141】
先ず、被写体サンプル10から放射される全ての波長領域の放射光L1を、分光光学部2aに受光する。このとき受光する画像としては、被写体サンプル10の全体像Pであってもよく、その部分領域E1の何れであってもよい。そして、受光画像の連続放射スペクトルλ S0は、例えば、入射光を3つに分光可能な分光プリズム(分光光学部2a)により、互いに異なる中心波長をそれぞれ有する3つの成分光に分解される(ST1A)〜(ST2A)。
【0142】
次に、分光プリズムから出射される3つの成分光は、分光プリズムの3つの光出射面にそれぞれ配置された光学フィルタ(波長変換部7)により波長変換される(ST2A)。ここで、光学フィルタは、3つの成分光のそれそれにあわせた最適の感度特性(感度関数)λ ,λ ,λ を有する。そのため、分光プリズムから出射される3つの成分光は、波長変換を受ける際に光学的に感度関数をかけられて3つの擬似カラー成分光に変化される。
【0143】
次に、光電変換部2bにおいて、3つの擬似カラー成分光はそれぞれ光電変換されて、3つの擬似カラー成分光に対応した3つの擬似カラー基本画像信号λ,λ及びλが形成される(ST3A)。
【0144】
以上、本発明の実施形態について詳細に説明したが、本発明は上記実施形態に限定されるものではない。
【0145】
また、上記実施形態の表色処理においては、表色系としてL表色系を基本として定義した「Liv iv iv 表色系」を用いる場合について説明したが、本発明の可視並びに不可視領域の色度計測が可能なシステムにおいて、画像処理部において行われる表色処理に使用する表色系は特に限定されるものではなく、上記L表色系以外の表色系を基本とする表色系を定義して使用してもよい。例えば、基本となる表色系としては、Cieluv表色系、HunterLab表色系、AN40表色系、マンセル表色系、オストワルド表色系、Natural Color System(NCS)表色系等が挙げられ、これらを基本とした表色系(Liv iv iv 表色系にかわる表色系)を定義して使用してもよい。
【0146】
また、例えば、上述の第一実施形態の可視並びに不可視領域の色度計測が可能なシステム1において、成分光の入力値を吸収度値に置き換えた後、感度関数λ ,λ 及びλ をかけて、先に述べた吸収度に基づく擬似カラー画像信号、−logRiv、−logGiv及び−logBiv、並びに、これらより合成される吸収度に基づく擬似カラー画像RGBivεを求めてもよい。
【0147】
例えば、感度関数は、被写体群を構成する各被写体間に生ずる物理的状態又は化学的状態の観測すべき差異と、被写体群を構成する各被写体の分光スペクトル間に生ずる波形の差異との間の相関関係に基づいて決定されるのが通常であるが、特に限定されない。
【0148】
例えば、図19に示すような可視の波長領域にある関数だけでなく、図20に示すように可視より短い紫外領域の波長域と可視領域ならびに可視より長い近赤外領域の領域にある関数でもよい。また、図21に示すように可視領域内のある幅の波長域を3領域に分けて取り込む形を有する関数でもよい。また、図22に示すようにブロードなバンド特性を有する関数でもよい。
【0149】
また、感度関数は、一般的にRGBの3基準色を基にしたディスプレイが多い為、上述の実施形態に記載のように3つに集約することを基本としているが、表色処理で使用する表示系によっては、3つ以上であってもよい。例えば、Red、Yellow、Green、Blue等の4色の場合もあるため、4つに集約されてもよい。
【0150】
【実施例】
以下、実施例及び比較例を挙げて本発明の可視並びに不可視領域の色度計測が可能なシステムについて更に詳しく説明するが、本発明はこれらの実施例に何ら限定されるものではない。
【0151】
(実施例1)
図1に示した第一実施形態を同様の構成を有する可視並びに不可視領域の色度計測が可能なシステムを構成した。
【0152】
先ず、6種類の黒色ボールペン及びフェルトペン(以下、それぞれを、「SAS−S(M)」、「Pigma」、「Twin(T)」、「SharpH(M)」、「Uni−Ball(M)」、「N−500(Z)」と表記する)を用意し、それぞれのペンを用いて白紙の一部位(それぞれ約4cm)を塗りつぶした試料と、3種の黒色礼服生地(以下、「No.1」、「No.2」、「No.3」と表記する)の試料(それぞれ約25cm)を上記の可視並びに不可視領域の色度計測が可能なシステムを用いて撮像した。
【0153】
なお、「SAS−S(M)」は、三菱社製、商品名:「SAS−S」を示し、「Pigma」は、サクラ社製、商品名:「Nouvel Pigma Graphic 」を示し、「Twin(T)」は、トンボ社製、商品名:「筆ペン ついん」を示し、「SharpH(M)」は、三菱社製、商品名:「Uni 0.5 HB」を示し、「Uni−Ball(M)」は、三菱社製、商品名:「Uni −Ball」を示し、「N−500(Z)」は、ゼブラ社製、商品名:「N−500」を示す。
【0154】
それぞれの試料を可視並びに不可視領域の色度計測が可能なシステムにて撮影し、それぞれの試料のある一部位の一定エリア(約1cm)内の平均化された反射率値を求めた。その結果を図23及び図24に示す。
【0155】
図23及び図24に示す各試料の反射率のプロフィールの結果からわかるように、各ペン試料の黒インクと、各黒色礼服生地試料の反射率は可視領域において、低い値を示しており、黒或は灰色と認識されることが確認された。また、これらの試料の中には、近赤外領域において高い反射率を示すもの(SAS−S(M)、「Twin(T)」、「N−500(Z)」、「No.2」及び「No.3」)も確認された。
【0156】
各試料に対して上記の可視並びに不可視領域の色度計測が可能なシステムを使用して、従来法である可視域のカラー画像における色表示、並びに、本発明の可視並びに不可視領域の色度計測が可能なシステムにおける不可視領域の擬似カラー画像における色表示を行った。
【0157】
図23及び図24に示す各試料の反射率のプロフィールのデータを用いて、擬似カラー画像における色表示の最適の感度関数を先に図15を用いて説明した方法により求めた。その結果を図25に示す。また、図25に示した最適の感度関数を用いて先に図16を用いて説明した方法により下記式(11)に示すマトリクスMを求めた。
【0158】
【数11】
Figure 2004077143
【0159】
また、上記の図25に示したプラスだけの感度特性に式(11)で表されるマトリクスMをかけることにより、図26に示す最適な感度関数(理想感度特性値)を求めた。ここで、第一実施形態の可視並びに不可視領域の色度計測が可能なシステムの場合には、分光イメージング的手法にて、それぞれの波長に分割したバンドパス画像(図2参照)を捉えることができる。
【0160】
その為、それぞれのバンドパス画像に図26に示す最適な感度関数(理想特性値)を掛けあわせ、それぞれの画像値を積分すれば、生不可視カラー画を作らずに、直接、基本不可視カラー画像(Riv、Giv、Biv)を作ることができ、擬似カラー画像(RGBiv)ならび不可視値カラー値画像(Liv 、aiv 、biv )が得られ、同時に値もそれぞれ画素に対する測定値も同時に決まるものである。
【0161】
なお、第二実施形態の可視並びに不可視領域の色度計測が可能なシステムのように、光学フィルタ等により光学的に感度関数をかける構成の場合には、図25のように感度特性はプラスのものしかできない為、下記式(12)を用いて、最適な感度関数図26に変換する必要がある。参考までに計算上で逆の操作が必要な場合、すなわち、最適な感度関数から、プラスだけの感度特性へは、下記式(12)に示すマトリクス「M−1」を用いて計算することが可能である。またこの(11)及び(12)の値は、今回の実験結果に有効なマトリックス値である。
【0162】
【数12】
Figure 2004077143
【0163】
可視領域のカラー画像及びその色表示のための数値を従来法を用いて計算を行い求めた。更に、不可視領域の擬似カラー画像及びその色表示のための数値を図26に示した最適な感度関数を用いて計算して求めた。その結果を、図27、図28及び図29に示す。
【0164】
図27では、可視領域(380〜780nm)のデータを使用し、2度視野の等色関数を用いてXYZ計算し、Cielab計算を行ったものを表示したグラフである。全試料について、色度座標の無彩軸(a=0,b=0)上に集まる傾向があることが確認された。また、これらの画像は全て黒で表示された。この画像の平均値の生データを表1に示す。
【0165】
【表1】
Figure 2004077143
【0166】
表1には、Internet用表色系であるsRGB値ならびにXYZ値とL値を表した。表1に示す結果から明らかなように、各試料の画像データ値RsRGB、GsRGB、BsRGB 値はWhite255に対し、0〜11の値で、極めて低く、殆ど黒色と認識されることが確認された。若干の色の濃淡は判るが、各試料の色味の差の認識は不可能であった。
【0167】
図28は、550〜950nmのデータを用い、図26に示す理想感度特性を用いて計算したものである。また、Liv 、 aiv 、 biv  値計算は式(5)〜(7)を用いた。この場合、近赤外領域のスペクトルの差違が判別でき、3種の数値(Liv 、 aiv 、 biv )の特徴が色度座標上で区別できた。
【0168】
また、この場合、えられる擬似カラー画像上でも「SharpH(M)」,「Pigma(N)」,「Uni−ball(M)」が同一種と判別でき、映像では黒色として表示された。更に、この場合、「SAS−S(M)」と「N−5000(Z)」の2種は、非常に彩度の高い黄色で表示された。また、この場合、「Twin(T)」は鮮やかな赤色で表示された。明確に数値で判別でき、また画像上の色で判別できた。この画像の生データを表2に示す。
【0169】
【表2】
Figure 2004077143
【0170】
図29では、550〜950nmのデータを用い、図26に示す最適感度関数(理想感度特性)を用いて計算したものである。また、Liv 、 aiv 、 biv  値計算は式(5)〜(7)を用いた。なお、式(5)〜(7)において、Kl=1, ka=1, kb=1 とした。擬似カラー画像に関しては、図28のものと同じである。この画像の生データを表3に示す。
【0171】
【表3】
Figure 2004077143
【0172】
この場合にも不可視の色度値にて明確に各試料の判別ができた。また、擬似カラー画像も可視域で全て黒色で表示されたものが、黒色、黄色及び赤色のことなる色の擬似カラー画像として区別して表示することができた。例えば、このような手法により、文字の改ざん等の判別問題も解決できることが確認された。
【0173】
また、図28と図29の結果を比較すると、図28のaiv の方が図29のaiv よりも広がって分布しているのが確認できる。これは式(2)〜(4)と、式(5)〜(7)との違い、すなわち、可視式のaを求める係数が500で、不可視式のaiv 求める係数(Ka)が200の為、単純に可視式(2)〜(4)を用いて求めたaiv 値の方が2.5倍伸びているということである。
【0174】
これに関しては、次の様に二通りの考え方ができる。即ち、一つめは、不可視領域は、目に見えない範囲であるから、目に合致した係数(Lは116,bは200,aは500)を当てはめることは、意味が無いと言える。しかし、次の様にも考えられる。即ち2つめは、不可視域の光量比率を色として考える場合、上記のように擬似カラーに割り当てて考えると判りやすい。
【0175】
すなわち、不可視領域のエネルギー量を擬似カラー化して、RGBディスプレイを通して人間が見るということを基本と考えるものである。この場合、不可視領域のエネルギー値でも、いったん擬似カラー化すると、それを見るのは人間の為、人間の見え方に則って考える必要があるとも言える。即ち、可視領域と同様な色差式(色彩表示式)を用いた方が、良いと考えることもできる。
【0176】
その為、式(5)〜(7)では、不可視を基準と考えている為、無機的な基準値にすること(即ち両方とも、200,200)が基本となっているが、どちらの考え方(即ち、あくまでも不可視領域の内部的な計算式として考えることと、不可視領域から可視領域に一度変換して、それを人間が見ることを前提に色値を考えること。)にも当てはめられる様に、式(3)では、Kl,Ka,Kbという係数を取り入れ、どちらにも対応できるようになっている。
【0177】
図30、図31及び図32は、試料をペンから、礼服生地にかえた以外は、それぞれ、図27、図28及び図29と同様にして整理されたグラフである。図30、図31及び図32に示されるように、可視領域では殆ど黒としか認識されないものが、不可視色度座標を用いると、「No.3」、「No.2」の試料に関しては、赤の色度値になっていることが判る。また擬似カラー画像でも、「No.1」の試料を用いて作製された洋服は黒色として表示されるが、「No.3」の試料は赤、「No.2」の試料は「No.3」の試料より彩度の高い赤色として表現された。
【0178】
このように可視のカラーシステムでは、可視領域の僅かな差とそれ以外の本質的な品質評価が難しいものが、本発明のシステムにより、明確に判るように擬似カラー画像表示できることが確認された。
【0179】
【発明の効果】
以上説明したように、本発明の可視並びに不可視領域の色度計測が可能なシステムによれば、被写体サンプルから取得したい所望の情報を、不可視の色値並びに擬似カラー画像の色表示を利用して定量的に評価することが充分に可能となる。
【図面の簡単な説明】
【図1】本発明の可視並びに不可視領域の色度計測が可能なシステムの第一実施形態の基本構成を示す説明図である。
【図2】図1に示した可視並びに不可視領域の色度計測が可能なシステムの動作を説明するためのフローチャートである。
【図3】図1に示した可視並びに不可視領域の色度計測が可能なシステムの動作を説明するためのフローチャートである。
【図4】図1に示した可視並びに不可視領域の色度計測が可能なシステムの動作を説明するためのフローチャートである。
【図5】図1に示した可視並びに不可視領域の色度計測が可能なシステムの動作を説明するためのフローチャートである。
【図6】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図7】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図8】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図9】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図10】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図11】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図12】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図13】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図14】図1に示した可視並びに不可視領域の色度計測が可能なシステムにより画像出力部に出力される画像の表示例を示す図である。
【図15】図1に示した可視並びに不可視領域の色度計測が可能なシステムの画像処理部における画像信号生成処理で使用される最適な感度関数を決定する方法の一例を説明するためのフローチャートである。
【図16】図1に示した可視並びに不可視領域の色度計測が可能なシステムの画像処理部におけるベクトル変換処理で使用される最適なマトリクスMを決定する方法の一例を説明するためのフローチャートである。
【図17】本発明の可視並びに不可視領域の色度計測が可能なシステムの第二実施形態の基本構成を示す説明図である。
【図18】図17に示した可視並びに不可視領域の色度計測が可能なシステムの動作を説明するためのフローチャートである。
【図19】本発明の可視並びに不可視領域の色度計測が可能なシステムの画像処理部における画像信号生成処理で使用される感度関数の一例を示すグラフである。
【図20】本発明の可視並びに不可視領域の色度計測が可能なシステムの画像処理部における画像信号生成処理で使用される感度関数の一例を示すグラフである。
【図21】本発明の可視並びに不可視領域の色度計測が可能なシステムの画像処理部における画像信号生成処理で使用される感度関数の一例を示すグラフである。
【図22】本発明の可視並びに不可視領域の色度計測が可能なシステムの画像処理部における画像信号生成処理で使用される感度関数の一例を示すグラフである。
【図23】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより測定した各試料の反射率のプロフィールを示すグラフである。
【図24】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより測定した各試料の反射率のプロフィールを示すグラフである。
【図25】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより求められた感度関数(プラスのみ)のプロフィールを示すグラフである。
【図26】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより求められた最適な感度関数(理想感度特性)のプロフィールを示すグラフである。
【図27】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより各試料について求められた、L表色系のa値とb値との関係を示すグラフである。
【図28】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより求められた、Liv iv iv  表色系のaiv 値とbiv 値との関係を示すグラフである。
【図29】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより求められた、Liv iv iv  表色系のaiv 値とbiv 値との関係を示すグラフである。
【図30】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより各試料について求められた、L表色系のa値とb値との関係を示すグラフである。
【図31】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより求められた、Liv iv iv  表色系のaiv 値とbiv 値との関係を示すグラフである。
【図32】実施例1の可視並びに不可視領域の色度計測が可能なシステムにより求められた、Liv iv iv  表色系のaiv 値とbiv 値との関係を示すグラフである。
【符号の説明】
1,1A…可視並びに不可視領域の色度計測が可能なシステム、2…カメラ部、2a…分光光学部、2b・・・光電変換部、2c・・・A/D変換部、4・・・画像処理部、4a・・・前処理部、4b・・・画像処理部の本体部、5・・・モニタ(画像出力部)、6・・・プリンタ(画像出力部)、7・・・波長変換光学部、10・・・被写体サンプル、E1,E2・・・・被写体サンプルの部分領域。

Claims (6)

  1. 被写体サンプルから放射される全ての波長領域の放射光を受光し、該放射光を互いに異なる中心波長を有する3以上の成分光に分光する分光光学部と、
    前記3以上の成分光をそれぞれ光電変換し、前記3以上の成分光にそれぞれ対応した3以上の電気信号をそれぞれ生成させる光電変換部と、
    前記3以上の電気信号を加工することにより、前記サンプルの擬似カラー画像の生成と、該擬似カラー画像の色表示を行うための表色系に基づき定義される数値の算出とを行う画像処理部と、
    前記擬似カラー画像及び/又は前記数値を出力する画像出力部と、
    を少なくとも有しており、
    前記画像処理部は、
    前記3以上の電気信号の全てに対して3以上の感度関数をそれぞれ独立にかけることにより3以上の擬似カラー基本画像信号を生成させる画像信号生成処理手段と、
    前記3以上の擬似カラー基本画像信号にマトリクスMをかけてベクトル変換することにより、前記3以上の擬似カラー画像信号を生成させるベクトル変換処理手段と、
    前記3以上の擬似カラー画像信号を合成して前記擬似カラー画像を生成させる画像形成処理手段と、
    前記3以上の擬似カラー画像信号を用いて前記表色系に基づき定義される前記数値を算出する表色処理手段と、
    を少なくとも有しており、
    前記3以上の感度関数は、前記被写体サンプルが属する被写体群を構成する各被写体間に生ずる物理的状態又は化学的状態の観測すべき差異と、前記被写体群を構成する各被写体の分光スペクトル間に生ずる波形の差異と、の間の相関関係に基づいて決定されており、
    前記マトリクスMは、最適な感度特性に近づける為のマトリックスであり、結果的に前記3以上の擬似カラー画像信号を生成させる際に生じる色再現誤差が最小限となるように決定されていること、
    を特徴とする可視並びに不可視領域の色度計測が可能なシステム。
  2. 被写体サンプルから放射される全ての波長領域の放射光を受光し、該放射光を互いに異なる中心波長を有する3以上の成分光に分光する分光光学部と、
    前記3以上の成分光のそれぞれに対して設けられており、前記3以上の成分光のそれぞれを波長変換することにより前記3以上の成分光のそれぞれに対して光学的に感度関数をかけて、前記3以上の成分光のそれぞれに対応した3以上の擬似カラー成分光を生成させる波長変換光学部と、
    前記3以上の擬似カラー成分光をそれぞれ光電変換し、前記3以上の擬似カラー成分光にそれぞれ対応した3以上の擬似カラー基本画像信号をそれぞれ生成させる光電変換部と、
    前記3以上の擬似カラー基本画像信号を加工することにより、前記サンプルの擬似カラー画像の生成と、該擬似カラー画像の色表示を行うための表色系に基づき定義される数値の算出とを行う画像処理部と、
    前記擬似カラー画像及び/又は前記数値を出力する画像出力部と、
    を少なくとも有しており、
    前記画像処理部は、
    前記3以上の擬似カラー基本画像信号にマトリクスMをかけてベクトル変換することにより、前記3以上の擬似カラー画像信号を生成させるベクトル変換処理手段と、
    前記3以上の擬似カラー画像信号を合成して前記擬似カラー画像を生成させる画像形成処理手段と、
    前記3以上の擬似カラー画像信号を用いて前記表色系に基づき定義される前記数値を算出する表色処理手段と、
    を少なくとも有しており、
    前記3以上の感度関数は、前記被写体サンプルが属する被写体群を構成する各被写体間に生ずる物理的状態又は化学的状態の観測すべき差異と、前記被写体群を構成する各被写体の分光スペクトル間に生ずる波形の差異と、の間の相関関係に基づいて決定されており、
    前記マトリクスMは、最適な感度特性に近づける為のマトリックスであり、結果的に前記3以上の擬似カラー画像信号を生成させる際に生じる色再現誤差が最小限となるように決定されていること、
    を特徴とする可視並びに不可視領域の色度計測が可能なシステム。
  3. 前記被写体サンプルの全体像について生成された擬似カラー画像と、前記被写体サンプルの部分領域像について生成された擬似カラー画像とをそれぞれ独立に画像出力部へ出力可能であること、を特徴とする請求項1又は2に記載の可視並びに不可視領域の色度計測が可能なシステム。
  4. 前記被写体サンプルの全体像について測定された分光スペクトルと、前記被写体サンプルの部分領域像について測定された分光スペクトルとをそれぞれ独立に画像出力部へ出力可能であること、を特徴とする請求項1〜3の何れかに記載の可視並びに不可視領域の色度計測が可能なシステム。
  5. 前記被写体サンプルの全体像について算出された前記数値と、前記被写体サンプルの部分領域像について算出された前記数値とを表又はグラフとしてそれぞれ独立に画像出力部へ出力可能であること、を特徴とする請求項1〜4の何れかに記載の可視並びに不可視領域の色度計測が可能なシステム。
  6. 前記被写体サンプルの内部及び表面の任意のポイントにおける色値を計測することを特徴とする請求項1〜5の何れかに記載の可視並びに不可視領域の色度計測が可能なシステム。
JP2002233809A 2002-08-09 2002-08-09 可視並びに不可視領域の色度計測が可能なシステム Expired - Fee Related JP4080812B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2002233809A JP4080812B2 (ja) 2002-08-09 2002-08-09 可視並びに不可視領域の色度計測が可能なシステム
AU2003252261A AU2003252261A1 (en) 2002-08-09 2003-07-24 System for measuring chromaticity in visible and invisible regions
PCT/JP2003/009410 WO2004015381A1 (ja) 2002-08-09 2003-07-24 可視並びに不可視領域の色度計測が可能なシステム
EP03784482A EP1530033A4 (en) 2002-08-09 2003-07-24 SYSTEM FOR MEASURING THE CHROMATIC LEVEL OF VISIBLE AND INVISIBLE ZONES
CA002495174A CA2495174A1 (en) 2002-08-09 2003-07-24 System enabling chromaticity measurement in the visible and invisible ranges
US11/052,470 US20050182328A1 (en) 2002-08-09 2005-02-08 System enabling chromaticity measurement in the visible and invisible ranges

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002233809A JP4080812B2 (ja) 2002-08-09 2002-08-09 可視並びに不可視領域の色度計測が可能なシステム

Publications (2)

Publication Number Publication Date
JP2004077143A true JP2004077143A (ja) 2004-03-11
JP4080812B2 JP4080812B2 (ja) 2008-04-23

Family

ID=31711878

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002233809A Expired - Fee Related JP4080812B2 (ja) 2002-08-09 2002-08-09 可視並びに不可視領域の色度計測が可能なシステム

Country Status (5)

Country Link
EP (1) EP1530033A4 (ja)
JP (1) JP4080812B2 (ja)
AU (1) AU2003252261A1 (ja)
CA (1) CA2495174A1 (ja)
WO (1) WO2004015381A1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006341077A (ja) * 2005-05-13 2006-12-21 Olympus Medical Systems Corp 生体観測装置
JP2011050049A (ja) * 2009-07-30 2011-03-10 National Institute Of Advanced Industrial Science & Technology 画像撮影装置および画像撮影方法
US8279275B2 (en) 2005-05-11 2012-10-02 Olympus Medical Systems Corp. Signal processing device for biological observation apparatus
JP2013072664A (ja) * 2011-09-26 2013-04-22 Graduate School For The Creation Of New Photonics Industries 画像表示装置
JP2016067034A (ja) * 2009-04-07 2016-04-28 ローム株式会社 撮像装置
WO2016159189A1 (ja) * 2015-03-31 2016-10-06 株式会社ニコン 撮像装置
JP2019128295A (ja) * 2018-01-25 2019-08-01 国立研究開発法人産業技術総合研究所 撮像装置、撮像システム、及び撮像方法
JP2019138799A (ja) * 2018-02-13 2019-08-22 株式会社ニコン 画像生成装置、撮像システム、プログラム、画像生成方法、情報管理システムおよび端末
JP2019215676A (ja) * 2018-06-12 2019-12-19 オムロン株式会社 画像処理装置、画像処理方法、画像センサ

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI392859B (zh) * 2009-11-18 2013-04-11 Univ Nat Formosa 可量測光之色度座標與亮度之裝置與方法
CN114972125B (zh) * 2022-07-29 2022-12-06 中国科学院国家天文台 深空探测多光谱图像的真彩色图像恢复方法和装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63234941A (ja) * 1986-11-29 1988-09-30 オリンパス光学工業株式会社 内視鏡用撮像装置
JPS62182705A (ja) * 1987-01-24 1987-08-11 Olympus Optical Co Ltd 内視鏡装置
JPH06121325A (ja) * 1992-10-07 1994-04-28 Nippon Hoso Kyokai <Nhk> カラー撮像装置
JPH11328392A (ja) * 1998-05-19 1999-11-30 Konica Corp 画像処理装置
JP3730424B2 (ja) * 1998-12-07 2006-01-05 ホーチキ株式会社 微分スペクトル画像処理装置
JP2002543863A (ja) * 1999-05-07 2002-12-24 アプライド スペクトラル イメイジング リミテッド 眼の分光的生物画像化
JP4782277B2 (ja) * 2000-11-29 2011-09-28 株式会社ユーテック 赤外線カラー画像形成装置

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8279275B2 (en) 2005-05-11 2012-10-02 Olympus Medical Systems Corp. Signal processing device for biological observation apparatus
JP4504324B2 (ja) * 2005-05-13 2010-07-14 オリンパスメディカルシステムズ株式会社 生体観測装置
JP2006341077A (ja) * 2005-05-13 2006-12-21 Olympus Medical Systems Corp 生体観測装置
JP2016067034A (ja) * 2009-04-07 2016-04-28 ローム株式会社 撮像装置
US9628739B2 (en) 2009-04-07 2017-04-18 Rohm Co., Ltd. Photoelectric conversion device and image pick-up device
KR101655512B1 (ko) * 2009-07-30 2016-09-07 야스시 나가무네 화상촬영장치 및 화상촬영방법
JP2011050049A (ja) * 2009-07-30 2011-03-10 National Institute Of Advanced Industrial Science & Technology 画像撮影装置および画像撮影方法
US8854472B1 (en) 2009-07-30 2014-10-07 Yasushi Nagamune Imagine capturing device and image capturing method
KR20130103821A (ko) 2009-07-30 2013-09-24 야스시 나가무네 화상촬영장치 및 화상촬영방법
KR20160093737A (ko) 2009-07-30 2016-08-08 야스시 나가무네 화상촬영장치 및 화상촬영방법
US8836795B2 (en) 2009-07-30 2014-09-16 Yasushi Nagamune Image capturing device and image capturing method
KR101721820B1 (ko) * 2009-07-30 2017-03-30 야스시 나가무네 화상촬영장치 및 화상촬영방법
JP2013072664A (ja) * 2011-09-26 2013-04-22 Graduate School For The Creation Of New Photonics Industries 画像表示装置
JPWO2016159189A1 (ja) * 2015-03-31 2017-10-19 株式会社ニコン 撮像装置
WO2016159189A1 (ja) * 2015-03-31 2016-10-06 株式会社ニコン 撮像装置
US10911731B2 (en) 2015-03-31 2021-02-02 Nikon Corporation Image-capturing device
JP2019128295A (ja) * 2018-01-25 2019-08-01 国立研究開発法人産業技術総合研究所 撮像装置、撮像システム、及び撮像方法
JP2019138799A (ja) * 2018-02-13 2019-08-22 株式会社ニコン 画像生成装置、撮像システム、プログラム、画像生成方法、情報管理システムおよび端末
JP7077646B2 (ja) 2018-02-13 2022-05-31 株式会社ニコン 画像生成装置、撮像システム、プログラム、画像生成方法、情報管理システムおよび端末
JP2019215676A (ja) * 2018-06-12 2019-12-19 オムロン株式会社 画像処理装置、画像処理方法、画像センサ
JP7028075B2 (ja) 2018-06-12 2022-03-02 オムロン株式会社 画像処理装置、画像処理方法、画像センサ
US11368603B2 (en) 2018-06-12 2022-06-21 Omron Corporation Image processing for converting multi-spectral image by calculating the inner product of the spectral distribution of each pixel and the respective reference vector

Also Published As

Publication number Publication date
WO2004015381A1 (ja) 2004-02-19
AU2003252261A1 (en) 2004-02-25
EP1530033A1 (en) 2005-05-11
EP1530033A4 (en) 2011-10-05
CA2495174A1 (en) 2004-02-19
JP4080812B2 (ja) 2008-04-23

Similar Documents

Publication Publication Date Title
US20050182328A1 (en) System enabling chromaticity measurement in the visible and invisible ranges
CN102327156B (zh) 牙齿色度映射
JP5885344B2 (ja) 皮膚又は外皮の色調を特徴付けるための方法
JP3877959B2 (ja) 肌色測定装置および肌画像処理装置
CN102331301B (zh) 牙齿阴影映射
US8050519B2 (en) Image combining apparatus
US20080080766A1 (en) Apparatus and Method for Analyzing Skin Using L*a*b* Colorspace
JP4080812B2 (ja) 可視並びに不可視領域の色度計測が可能なシステム
US20070140553A1 (en) Dental colorimetry apparatus
JP4327380B2 (ja) 蛍光画像表示方法および装置
GB2596582A (en) Image capture and processing
CN106952313A (zh) 基于HSI和Lab混合颜色模型的皮肤肤色评价方法
Spigulis et al. Multi-spectral skin imaging by a consumer photo-camera
JP6378767B2 (ja) 撮像装置、及び解析装置
JP2012154711A (ja) 分光スペクトル推定装置および学習スペクトル生成方法
JP2005293231A (ja) 肌のシミュレーション画像形成方法
Aguilar et al. Biologically based sensor fusion for medical imaging
JP5290498B2 (ja) メーキャップ方法
US20220329767A1 (en) System and method for analyzing surface features using a low-dimensional color space camera
Khandual et al. Colorimetric processing of digital colour image!
Litorja et al. Use of a spectrally tunable source to explore improvement in chromatic contrast for illumination of tissues
Litorja et al. Illuminants as visualization tool for clinical diagnostics and surgery
JP3454881B2 (ja) 色彩計測装置
Litorja et al. Development of surgical lighting for enhanced color contrast
JP2874235B2 (ja) 色彩測定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080207

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110215

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110215

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120215

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120215

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130215

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130215

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140215

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees