JPWO2013099644A1 - 分光画像処理方法、分光画像処理装置およびプログラム - Google Patents

分光画像処理方法、分光画像処理装置およびプログラム Download PDF

Info

Publication number
JPWO2013099644A1
JPWO2013099644A1 JP2013551611A JP2013551611A JPWO2013099644A1 JP WO2013099644 A1 JPWO2013099644 A1 JP WO2013099644A1 JP 2013551611 A JP2013551611 A JP 2013551611A JP 2013551611 A JP2013551611 A JP 2013551611A JP WO2013099644 A1 JPWO2013099644 A1 JP WO2013099644A1
Authority
JP
Japan
Prior art keywords
illumination
spectral
surface reflectance
spectral distribution
spectrum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013551611A
Other languages
English (en)
Other versions
JP6015964B2 (ja
Inventor
瑛士 金子
瑛士 金子
塚田 正人
正人 塚田
中野 学
学 中野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2013551611A priority Critical patent/JP6015964B2/ja
Publication of JPWO2013099644A1 publication Critical patent/JPWO2013099644A1/ja
Application granted granted Critical
Publication of JP6015964B2 publication Critical patent/JP6015964B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/603Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6088Colour correction or control controlled by factors external to the apparatus by viewing conditions, i.e. conditions at picture output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/02Diagnosis, testing or measuring for television systems or their details for colour television signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths

Abstract

本発明は、シーンのマルチスペクトル画像から観測スペクトル情報を選択し、照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成し、観測スペクトル情報と、照明の分光分布の制約範囲と、物体の表面反射率の制約範囲とを用いて、照明の基底ベクトルの重み係数と表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成し、観測方程式からシーンの照明の分光分布と物体の表面反射率を算出する分光画像処理方法である。

Description

本発明は、分光画像処理方法、分光画像処理装置およびプログラムに関する。
撮影装置を用いて撮影された画像の色情報は、撮影時の環境照明光が物体の表面で反射され、撮影装置に入射した光をもとに生成される。そのため、表面反射率が同一である物体を撮影しても、環境照明光が異なると撮影画像の色情報も変化する。多数の波長の光が記録されたマルチスペクトル画像を用いて、撮影シーン中の物体を観測スペクトルの形状を手掛かりに認識する技術において、同一の物体であるにも関わらず、環境照明光の変化によって観測スペクトルが異なると、物体の識別が困難になる。この問題を解決するには、観測スペクトルから、環境照明光の影響を除去し、物体の表面反射率を得る必要がある。すなわち、観測スペクトルから照明と物体の分光特性を分離、復元する必要がある。
画像などの、シーンから観測される色情報を手掛かりに、撮影シーン中の照明の分光分布や物体の表面反射率を、自動で推定する方法として、シーン中の物体色または照明色に関する仮定を置き、その仮定を手掛かりとして、照明と物体の分光特性を推定する方法が、既に提案されている。
例えば、特許文献1に記載されている方法では、環境照明光が白色光であることと、反射率の平均値が灰色となることと、人の視覚特性としてエッジ領域の情報をもとに色を充填することを仮定している。この方法では、照明の分光分布と物体の表面反射率が予め保持されたそれぞれの主成分ベクトルと平均ベクトルの線型和となり、かつ上記仮定を満たすために必要なエネルギーを定義し、このエネルギーを最適化することで、照明の分光分布と物体の表面反射率を推定する。
また、特許文献2に記載されている方法では、撮影画像中において肌色もしくは、または、グレーの物体の占める面積が広いことを仮定し、照明の範囲を黒体軌跡上の点に対応付け、色温度を変化させながら、仮定を満たすのに必要なエネルギーを算出、最適化することで色温度を推定する。この方法で推定された色温度をもとに照明を推定することが可能となる。
上記関連技術による照明・反射率推定方法の構成図を図11に示す。図11の構成図は、特許文献1および特許文献2をもとに生成したブロック図である。上記関連技術は、色情報取得手段1と照明・反射率主成分ベクトル保存メモリ2、分光推定手段3とを備える。
色情報取得手段1は、シーンから色情報を取得し出力する。照明・反射率主成分ベクトル保存メモリ2は、照明の分光分布および物体の表面反射率の制約範囲を示すため、主成分ベクトルと平均ベクトルを保持する。分光推定手段3は、照明の分光分布や物体の表面反射率をそれぞれの主成分ベクトルと平均ベクトルの線型和としつつ、予め設定された物体色もしくは照明色の仮定を満たすために必要なエネルギーを、色情報を用いて算出し、算出されたエネルギーを最適化する。更に、算出されたエネルギーが最適となるときの照明の分光分布と物体の表面反射率を推定値として出力する。
特開平07−066986号公報 特開2003−209856号公報
画像として観測された色情報からシーン中の照明色と物体色を分離し、それぞれの分光特性を復元することは不良設定問題となる。この問題を解決するために従来技術では、シーン中の物体色または照明色に関する仮定を設定することで、照明の分光分布と物体の表面反射率を復元する。そのため、設定した仮定を満たすような限られたシーンについては、精度よく照明の分光分布と物体の表面反射率を推定することができるが、仮定と一致しないシーンについては、照明および物体の分光特性の推定精度が悪化するという課題があった。
本発明の目的は、上記課題に鑑みて発明されたものであって、その目的は、シーン中の物体色および照明色に関する仮定を用いることなく観測スペクトルから物体および照明の分光特性を精度よく復元する分光画像処理方法、分光画像処理装置およびプログラムを提供することにある。
本発明は、シーンのマルチスペクトル画像から観測スペクトル情報を選択し、照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成し、前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成し、前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する分光画像処理方法である。
本発明は、シーンのマルチスペクトル画像から観測スペクトル情報を選択するスペクトル情報選択手段と、照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成する制約範囲生成手段と、前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成する観測方程式生成手段と、前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する算出手段とを有する分光画像処理装置である。
本発明は、コンピュータに、シーンのマルチスペクトル画像から観測スペクトル情報を選択する処理と、照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成する処理と、前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成する処理と、前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する処理とを実行させるプログラムである。
本発明によれば、観測されたシーンに依らず、得られた分光スペクトル情報を手掛かりに、照明の分光分布および物体の表面反射率を安定して精度よく推定することができる。
図1は本発明による第1の実施の形態の概要の構成図である。 図2は本発明による第1の実施の形態の構成図である。 図3は本発明による第1の実施の形態のフローチャートである。 図4は本発明による第2の実施の形態の構成図である。 図5は本発明による第2の実施の形態のフローチャートである。 図6は本発明による第3の実施の形態の構成図である。 図7は本発明による第3の実施の形態のフローチャートである。 図8は照明分光分布の基底ベクトルの例である。 図9はマクベスカラーチャート24色の直流成分および主成分ベクトルから作られる表面反射率の基底ベクトルの例である。 図10は照明分光分布の制約範囲のイメージを表した図である。 図11は関連する技術の照明・反射率推定方法の構成図である。
本発明は、シーンから観測された色情報を手掛かりに、シーン中の照明と物体の分光特性を推定する分光画像処理技術に関し、特に、高い波長分解能を持つカメラで観測された分光スペクトルを用いて、シーン中の物体色または照明色に関する仮定を置くことなく、照明の分光分布と物体の表面反射率を推定する分光画像処理技術に関する。
以下、本発明の実施の形態について図面を参照して詳細に説明する。
[第1の実施の形態]
図1は、本発明による第1の実施の形態の概要を示すブロック図である。図1に示す第1の実施の形態は、マルチスペクトル情報取得手段11と、照明・反射率制約範囲保持メモリ12と、色仮定なし分光推定手段13を備える。
本発明による第1の実施の形態を構成する各手段の概要を説明する。
マルチスペクトル情報取得手段11は、シーンから取得したマルチスペクトル情報をもとに、最適化に十分な数のスペクトル情報を抽出し、出力する。
照明・反射率制約範囲保持メモリ12は、照明の分光分布と物体の表面反射率の制約範囲を保持する。
色仮定なし分光推定手段13では、マルチスペクトル情報取得手段11で算出された最適化に十分な数のスペクトル情報をもとに、照明・反射率制約範囲保持メモリ12に保持された照明の分光分布と物体の表面反射率の制約範囲を満たすように、観測方程式を生成し、この観測方程式を解くことで、照明の分光分布と物体の表面反射率とを算出する。そして、色仮定なし分光推定手段13は、算出した照明の分光分布と物体の表面反射率とを出力する。
本発明による第1の実施の形態は、上述した関連技術の構成と比較して、マルチスペクトル情報取得手段11と、照明・反射率制約範囲保持メモリ12と、色仮定なし分光推定手段13が異なる。以下、マルチスペクトル情報取得手段11と、照明・反射率制約範囲保持メモリ12と、色仮定なし分光推定手段13の構成の詳細を説明する。
マルチスペクトル情報取得手段11は、図11における色情報取得手段1と同様に、シーンからマルチスペクトル情報を得る。ただし、色情報取得手段1では、出力する色情報の数を考慮しないのに対し、マルチスペクトル情報取得手段11は、後段の色仮定なし分光推定手段13での処理を考慮し、最適化に必要な数のスペクトル情報を出力する点で異なる。ここでNは観測される分光スペクトルのバンド数、Mは観測される分光スペクトルの数、Pallは推定する全パラメタ数、PIは一つの照明の分光分布を再現するのに必要なパラメタ数、PRは一つの物体の表面反射率を再現するのに必要なパラメタ数を示すとすると、例えば、式(1)を満たす十分な数の線形独立なスペクトル情報を出力する。
Figure 2013099644
図2は、本発明による第1の実施の形態を示すブロック図である。マルチスペクトル情報取得手段11の内部の構成を説明する。図2に示すマルチスペクトル情報取得手段11は、マルチスペクトル画像撮影手段111とスペクトル選択手段112とを備える。
マルチスペクトル画像撮影手段111は、シーンのマルチスペクトル情報が記録されたマルチスペクトル画像を出力する。
スペクトル選択手段112は、マルチスペクトル画像撮影手段111によって得たマルチスペクトル画像のデータの中から、例えば、式(1)の条件を満たす、線形独立な関係にある複数のスペクトル情報を選択し出力する。
図11における分光推定手段3では、予め設定した物体色または照明色に関する仮定に基づいて、シーン中の照明の分光分布および物体の表面反射率を推定する。具体的には、設定した物体色または照明色に関する仮定を満たすのに必要なエネルギーを定義し、これを最適化することにより、シーン中の照明の分光分布および物体の表面反射率を推定する。例えば、「物体色の平均が灰色である」(グレイワールド仮説)、「画像中の最も明るい物体は白色である」、「画像中に肌の色が含まれる」、「照明は白色である」などの仮定を満たすために必要なエネルギーを算出し、算出されたエネルギーが最適となるときの照明の分光分布および物体の表面反射率を推定値として出力する。
一方、第1の実施の形態における色仮定なし分光推定手段13は、物体色または照明色に関する仮定を用いることなく、照明の分光分布および物体の表面反射率を算出する。ここで、照明の分光分布と物体の表面反射率の制約範囲を用いて照明の分光分布および物体の表面反射率を高精度に推定する。これら分光特性の推定には、式(1)を満たす十分な数の線形独立なスペクトル情報と、照明の分光分布および物体の表面反射率のモデル式から観測方程式を生成し、この観測方程式を解くことで照明の分光分布および物体の表面反射率を推定値として出力する。
色仮定なし分光推定手段13の内部の構成を説明する。図2に示す色仮定なし分光推定手段13は、観測方程式生成手段131と方程式計算手段132とを備える。
観測方程式生成手段131では、N次元のベクトルである、照明の分光分布Iおよび物体の表面反射率R のモデルを、照明の分光分布の基底ベクトルIpI basisと物体の表面反射率の基底ベクトルRpR basisそれぞれに対し、可変な重み係数apI,bpRを用いて式(2)のように生成し、モデル式(2)における基底ベクトルの各波長成分IpI basisn)、RpR basisn)と、式(1)を満たす最適化に十分な数の線型独立なスペクトル情報Emn)(m=1,…,M, n=1,…,N)が与えられるとき、式(3)のような観測方程式を生成する。式(1)の条件から方程式の数が未知数の数以上となり、かつ、線形独立なスペクトル情報で構成されるため、照明の分光分布I(λn)と物体の表面反射率R(λn)の最適解が得られることになる。
Figure 2013099644
Figure 2013099644
方程式計算手段132は、式(3)に示す観測方程式を解く。
第1の実施の形態の照明・反射率制約範囲保存メモリ12は、照明分光分布や物体表面反射率の基底ベクトルを保持し、これら基底ベクトルを用いて、様々な制約方法によって制約された範囲に分布する照明分光分布および物体表面反射率を出力する。例えば、照明の分光分布の場合には、図8に示すように、日射モデルから計算される日射スペクトルの成分である、直達成分I1 basis、散乱成分I2 basisを基底ベクトルに用いることが考えられる。この日射モデルでは日時や場所などの容易に取得可能な照明条件によって、照明の分光分布の分布範囲が制約することが可能である。また、非特許文献1(新編色彩科学ハンドブック第2版 p69-72)に示すCIE昼光における、自然昼光の相対分光分布の平均ベクトルおよび主成分ベクトルを、照明の分光分布の基底ベクトルに用いることが考えられる。この主成分ベクトルの数を制限することや、非特許文献1に示される方法を用いて、主成分ベクトルの係数を相関色温度に基づいて計算することで、照明分光分布の分布範囲を制約できる。物体の表面反射率の場合には、被写体として計測される物体の反射率データベースの平均ベクトルおよび主成分ベクトルを基底ベクトルとして用いることが考えられ、この主成分ベクトルの数を制限することで物体の反射率の分布範囲を制約できる。例えば、図9に示すマクベスカラーチャートから生成した、平均ベクトルおよび主成分ベクトルを基底ベクトルとして用いることが考えられる。
照明・反射率制約範囲保存メモリ12の内部の構成を説明する。図2に示す照明・反射率制約範囲保存メモリ12は、日射スペクトル成分計算手段121と表面反射率基底ベクトル保存メモリ122と有限次元線型和生成手段123とを備える。
日射スペクトル成分計算手段121は、日射モデルなどを用いて算出される日射スペクトル成分などを算出し、各成分を、PI(< N)個の基底ベクトルIpI basis ( pI =1,…, PI)として保持する。
表面反射率基底ベクトル保存メモリ122は、PR(<N)個の、物体表面反射率の基底ベクトルRpR basis ( pR =1,…, PR)を保持する。
有限次元線型和生成手段123では、照明分光分布の基底ベクトルとして保持された日射スペクトル成分IpI basisと物体表面反射率の基底ベクトルRpR basisそれぞれに対し、可変な重み係数apI,bpRを用いて、式(2)に示すように、線型和をとることで、照明の分光分布I、物体の表面反射率RをN次元のベクトルとして生成する。
図10は照明分光分布の制約範囲のイメージを表した図である。例えば、Nが3、PIが2のとき、図10に示すように、照明の分光分布の波長毎の強度を各次元の座標の値とし、一つの照明の分光分布が座標上の一点として表わされる照明の分光分布が取り得る分布空間では、基底ベクトルの線型和として表わされる照明の分光分布は平面となる。
すなわち、これは、照明の分光分布の取り得る範囲が制約されることを意味する。同様にして、式(2)の方法で、照明の分光分布I、物体の表面反射率Rを生成することで、照明の分光分布I、物体の表面反射率R がN次元の空間において取り得る範囲についても制約される。このようにして照明の分光分布Iと物体の表面反射率Rの制約範囲を算出する。
図3は、本発明を実施するための第1の実施の形態における分光画像処理方法の動作を示すフローチャートである。
マルチスペクトル画像撮影手段111は、シーンからマルチスペクトル情報を獲得し、マルチスペクトル画像を出力する(ステップS101)。
スペクトル選択手段112は、マルチスペクトル画像からスペクトルを選択し、十分な数の線型独立なスペクトル情報を出力する(ステップS102)。
日射スペクトル成分計算手段121は、自動で取得可能な照明条件を自動で取得する(ステップS103)。
日射スペクトル成分計算手段121は、日射スペクトル成分を計算し、出力する(ステップS104)。
限次元線型和生成手段123は、日射スペクトル成分と表面反射率基底ベクトル保存メモリ122に保持してある表面反射率の基底ベクトルをもとに、有照明の分光分布と物体の表面反射率の制約範囲をそれぞれ生成する(ステップS105)。
観測方程式生成手段131は、十分な数の線型独立なスペクトル情報と照明分光分布と物体表面反射率の制約を用いて、最適解の得られる観測方程式を生成する(ステップS106)。
方程式計算手段132は、最適解の得られる観測方程式を解き、物体の表面反射率および照明の分光分布を出力する(ステップS107)。
第1の実施の形態は、マルチスペクトル情報取得手段11によってシーンから十分な数の線型独立なスペクトル情報を獲得し、照明・反射率制約範囲保存メモリ12に保持される照明の分光分布および物体の表面反射率の制約範囲を得ることで、色仮定なし分光推定手段13を用いて物体色や照明色の仮定を用いずに、照明の分光分布と物体の表面反射率を推定することを可能としている。そのため、特定の仮定を満たすようなシーンでなくとも、安定して照明の分光分布および物体の表面反射率を精度よく推定することが可能となる。
第1の実施の形態における分光画像処理方法は、日射スペクトル成分計算手段121を用いて日射スペクトル成分を計算することで、照明において狭い制約範囲を出力することを可能とする。照明において狭い範囲の制約を得ることで、観測方程式生成手段131は、推定するパラメタの数が減り計算の容易な観測方程式の生成が可能となり、その結果、方程式計算手段132は、高精度に推定された物体表面反射率および照明分光分布を出力することが可能となる。
[第2の実施の形態]
図4は、本発明を実施するための第2の実施の形態を示すブロック図である。図4にも示されるように、本発明を実施するための第2の実施の形態における分光画像処理方法では、色仮定なし分光推定手段23が第1の実施の形態における色仮定なし分光推定手段13と異なり、その他の構成要素については第1の実施の形態と同様である。第1の実施の形態と同様の構成要素については、図2と同一の符号を付し、詳細な説明を省略する。
第2の実施の形態では、色仮定なし分光推定手段23は、照明・反射率推定値算出手段231と観測スペクトル推定値算出手段232と誤差算出手段233と誤差最適化手段234を備える。
照明・反射率推定値算出手段231は、式(2)のような照明の分光分布I(λn)と、物体の表面反射率R(λn)の制約範囲のもと、照明の分光分布および物体の表面反射率の重み係数に初期パラメタを与えることで、照明の分光特性および物体の表面反射率の推定値を算出する。
推定観測スペクトル推定値算出手段232は、照明・反射率推定値算出手段231で算出された照明の分光特性および物体の表面反射率の推定値を式(3)の右辺に代入し観測スペクトルの推定値を算出する。
誤差算出手段233は、観測方程式(3)の誤差を考慮し、推定観測スペクトル推定値算出手段232で算出された観測スペクトル推定値(式(3)の右辺)と、最適化に十分な数の色情報として与えられた複数のマルチスペクトルから得られる観測値Emn)を用いて、誤差を算出する。照明の分光分布、物体の表面反射率、観測スペクトルの計測誤差をそれぞれ、εIn), εRn), εLn)とすると、観測方程式(3)は式(4)のように表せる。これらの計測誤差の最適化を近似する方法として、例えば、式(5)に示すような最小二乗誤差エネルギーを定義し、このエネルギーを最小化する方法がある。
Figure 2013099644
Figure 2013099644
誤差最適化手段234は、例えばLevenberg-Marquardt法などの非線型最適化方法や、粗密探索法を用いて、誤差算出手段233で算出される誤差を最適化する。具体的には、誤差が最小となるように、照明・反射率推定値算出手段231に与えるパラメタの更新を繰り返し、最終的に最適なパラメタから算出される物体の表面反射率および照明の分光分布を最適解として出力する。
色仮定なし分光推定手段13では、誤差最適化手段234で算出された照明の分光分布と物体の表面反射率の推定値を出力する。
図5は、本発明を実施するための第2の実施の形態における分光画像処理方法動作の一例を示すフローチャートである。第1の実施の形態と同様の動作については図3と同一の符号を付し、詳細な説明を省略する。
第2の実施の形態は、以下の点で第1の実施の形態と異なる。
照明・反射率推定値算出手段231は初期パラメタと照明の分光分布と物体の表面反射率の制約範囲をもとに、照明の分光分布と物体の表面反射率の推定値を算出する(ステップS206)。
観測スペクトル推定値算出手段232は照明の分光分布と物体の表面反射率の推定値をもとに、観測スペクトルの推定値を算出する(ステップS207)。
誤差算出手段233は、観測スペクトルの推定値と、観測された十分な数の線型独立なスペクトル情報の誤差を算出する(ステップS208)。
誤差最適化手段234は、誤差を用いて、誤差最適化手段ごとに設定された値を算出し、算出した値が予め規定された値より小さければステップS108に、小さくなければステップS210の動作に移動する(ステップS209)。
誤差最適化手段234は、誤差を最小化するように照明・反射率推定値算出手段231に与えるパラメタを更新して、S206の動作に戻る(ステップS210)。
[第3の実施の形態]
図6は、本発明を実施するための第3の実施の形態を示すブロック図である。図6にも示されるように、本発明を実施するための第3の実施の形態における分光画像処理方法では、マルチスペクトル情報取得手段21が第1の実施の形態のマルチスペクトル情報取得手段11と異なり、その他の構成要素については第1の実施の形態と同様である。第1の実施の形態と同様の構成要素については、図2と同一の符号を付し、詳細な説明を省略する。
第3の実施の形態では、マルチスペクトル情報取得手段21は、マルチスペクトル複数回数計測手段211を備える。
マルチスペクトル複数回数計測手段211は、観測されたシーン中に十分な数の線形独立なスペクトル情報が含まれない場合に対応できるように、照明色が同一とみなせる範囲で、式(1)に示される条件を満たす十分な数の線形独立なスペクトル情報に達するまで異なるシーンを撮影し、後段の最適化に十分な数の線形独立な関係にある複数のスペクトル情報を出力する。
即ち、複数回数計測手段211は、例えば、シーン中に十分な線形独立な観測スペクトルが存在しないような均一シーンの撮影において、十分な線形独立な観測スペクトルが得られるまでシーン撮影を繰り返す(動画撮影も含む)際に使用することができる。
図7は、本発明を実施するための第3の実施の形態における分光画像処理方法動作の一例を示すフローチャートである。第1の実施の形態と同様の動作については図3と同一の符号を付し、詳細な説明を省略する。
第3の実施の形態は、以下の点で第1の実施の形態と異なる。
マルチスペクトル複数回数計測手段211は、シーンからマルチスペクトル情報を計測する(ステップS301)。
マルチスペクトル複数回数計測手段211は、シーンから計測されたマルチスペクトル情報が、十分な数の線型独立なマルチスペクトル情報である場合はステップS106に、そうでない場合はステップS301に移動する(ステップS302)。
第3の実施の形態における分光画像処理方法は、マルチスペクトル複数回計測手段211を備え、式(1)に示される条件を満たす十分な数の線形独立なスペクトル情報に達するまで異なるシーンを撮影することで、観測されたシーン中に十分な数の線形独立なスペクトル情報が含まれない場合でも、十分な数の線形独立なスペクトル情報を得るといった効果が得られる。
尚、上述した説明からも明らかなように、各部をハードウェアで構成することも可能であるが、コンピュータプログラムにより実現することも可能である。この場合、プログラムメモリに格納されているプログラムで動作するプロセッサによって、上述した各実施の形態と同様の機能、動作を実現させる。また、上述した実施の形態の一部の機能のみをコンピュータプログラムにより実現することも可能である。
また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1) シーンのマルチスペクトル画像から観測スペクトル情報を選択し、
照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成し、
前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成し、
前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する
分光画像処理方法。
(付記2) 前記照明の分光分布の制約範囲と前記物体の表面反射率の制約範囲のもと、前記観測方程式の重み係数に初期パラメタを与えて、前記観測スペクトルの推定値を算出し、
前記観測スペクトル情報と前記観測スペクトルの推定値の誤差に基づき、前記重み係数を更新し、
前記誤差が所定内となったときの前記観測スペクトルの推定値を構成する照明の分光分布と物体の表面反射率とを、前記シーンにおける照明の分光分布と物体の表面反射率として算出する
付記1に記載の分光画像処理方法。
(付記3) 前記観測スペクトル情報として、前記マルチスペクトル画像から線形独立なスペクトル情報を選択する
付記1又は付記2に記載の分光画像処理方法。
(付記4) 前記照明の基底ベクトルとして、日射スペクトルの直達成分ベクトルと散乱成分ベクトルとを用いる
特徴とする付記1から付記3のいずれかに記載の分光画像処理方法。
(付記5) 前記線形独立なスペクトル情報が前記照明の基底ベクトルの重み係数の個数と前記表面反射率の基底ベクトルの重み係数の個数の総和と同数かそれより多く観測できるまで複数回計測する
付記3又は付記4に記載の分光画像処理方法。
(付記6) シーンのマルチスペクトル画像から観測スペクトル情報を選択するスペクトル情報選択手段と、
照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成する制約範囲生成手段と、
前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成する観測方程式生成手段と、
前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する算出手段と
を有する分光画像処理装置。
(付記7) 前記算出手段は、
前記照明の分光分布の制約範囲と前記物体の表面反射率の制約範囲のもと、前記観測方程式の重み係数に初期パラメタを与えて、前記観測スペクトルの推定値を算出する手段と、
前記観測スペクトル情報と前記観測スペクトルの推定値の誤差に基づき、前記重み係数を更新する手段と、
前記誤差が所定内となったときの前記観測スペクトルの推定値を構成する照明の分光分布と物体の表面反射率とを前記シーンにおける照明の分光分布と物体の表面反射率として算出する手段と
を有する付記6に記載の分光画像処理装置。
(付記8) 前記スペクトル情報選択手段は、前記マルチスペクトル画像から線形独立なスペクトル情報を選択する
付記6又は付記7に記載の分光画像処理装置。
(付記9) 前記スペクトル情報選択手段は、前記照明の基底ベクトルとして、日射スペクトルの直達成分ベクトルと散乱成分ベクトルとを用いる
特徴とする付記6から付記8のいずれかに記載の分光画像処理装置。
(付記10) 前記スペクトル情報選択手段は、前記線形独立なスペクトル情報が前記照明の基底ベクトルの重み係数の個数と前記表面反射率の基底ベクトルの重み係数の個数の総和と同数かそれより多く観測できるまで複数回計測する
付記8又は付記9に記載の分光画像処理装置。
(付記11) コンピュータに、
シーンのマルチスペクトル画像から観測スペクトル情報を選択する処理と、
照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成する処理と、
前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成する処理と、
前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する処理と
を実行させるプログラム。
以上、これまで述べてきた各実施の形態は、本発明の好的な実施形態であり、上記実施の形態のみに本発明の範囲を限定するものではなく、本発明の要旨を逸脱しない範囲に置いて種々の変更を施した形態での実施が可能である。
本出願は、2011年12月28日に出願された日本出願特願2011−288886号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1 色情報取得手段
2 分光推定手段
3 照明・反射率主成分ベクトル保存メモリ
11 マルチスペクトル情報取得手段
12 色仮定なし分光推定手段
13 照明・反射率制約範囲保存メモリ
21 マルチスペクトル情報取得手段
23 色仮定なし分光推定手段
111 マルチスペクトル画像撮影手段
112 スペクトル選択手段
121 日射スペクトル成分計算手段
122 表面反射率基底ベクトル保存メモリ
123 有限次元線型和生成手段
131 観測方程式生成手段
132 方程式計算手段
211 マルチスペクトル複数回計測手段
231 照明・反射率推定値算出手段
232 観測スペクトル推定値算出手段
233 誤差算出手段
234 誤差最適化手段

Claims (10)

  1. シーンのマルチスペクトル画像から観測スペクトル情報を選択し、
    照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成し、
    前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成し、
    前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する
    分光画像処理方法。
  2. 前記照明の分光分布の制約範囲と前記物体の表面反射率の制約範囲のもと、前記観測方程式の重み係数に初期パラメタを与えて、前記観測スペクトルの推定値を算出し、
    前記観測スペクトル情報と前記観測スペクトルの推定値の誤差に基づき、前記重み係数を更新し、
    前記誤差が所定内となったときの前記観測スペクトルの推定値を構成する照明の分光分布と物体の表面反射率とを、前記シーンにおける照明の分光分布と物体の表面反射率として算出する
    請求項1に記載の分光画像処理方法。
  3. 前記観測スペクトル情報として、前記マルチスペクトル画像から線形独立なスペクトル情報を選択する
    請求項1又は請求項2に記載の分光画像処理方法。
  4. 前記照明の基底ベクトルとして、日射スペクトルの直達成分ベクトルと散乱成分ベクトルとを用いる
    特徴とする請求項1から請求項3のいずれかに記載の分光画像処理方法。
  5. 前記線形独立なスペクトル情報が前記照明の基底ベクトルの重み係数の個数と前記表面反射率の基底ベクトルの重み係数の個数の総和と同数かそれより多く観測できるまで複数回計測する
    請求項3又は請求項4に記載の分光画像処理方法。
  6. シーンのマルチスペクトル画像から観測スペクトル情報を選択するスペクトル情報選択手段と、
    照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成する制約範囲生成手段と、
    前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成する観測方程式生成手段と、
    前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する算出手段と
    を有する分光画像処理装置。
  7. 前記算出手段は、
    前記照明の分光分布の制約範囲と前記物体の表面反射率の制約範囲のもと、前記観測方程式の重み係数に初期パラメタを与えて、前記観測スペクトルの推定値を算出する手段と、
    前記観測スペクトル情報と前記観測スペクトルの推定値の誤差に基づき、前記重み係数を更新する手段と、
    前記誤差が所定内となったときの前記観測スペクトルの推定値を構成する照明の分光分布と物体の表面反射率とを前記シーンにおける照明の分光分布と物体の表面反射率として算出する手段と
    を有する請求項6に記載の分光画像処理装置。
  8. 前記スペクトル情報選択手段は、前記マルチスペクトル画像から線形独立なスペクトル情報を選択する
    請求項6又は請求項7に記載の分光画像処理装置。
  9. 前記スペクトル情報選択手段は、前記照明の基底ベクトルとして、日射スペクトルの直達成分ベクトルと散乱成分ベクトルとを用いる
    特徴とする請求項6から請求項8のいずれかに記載の分光画像処理装置。
  10. コンピュータに、
    シーンのマルチスペクトル画像から観測スペクトル情報を選択する処理と、
    照明の基底ベクトルと表面反射率の基底ベクトルを用いて、照明の分光分布の制約範囲と物体の表面反射率の制約範囲を生成する処理と、
    前記観測スペクトル情報と、前記照明の分光分布の制約範囲と、前記物体の表面反射率の制約範囲とを用いて、前記照明の基底ベクトルの重み係数と前記表面反射率の基底ベクトルの重み係数とをパラメタとする観測方程式を生成する処理と、
    前記観測方程式から前記シーンの照明の分光分布と物体の表面反射率とを算出する処理と
    を実行させるプログラム。
JP2013551611A 2011-12-28 2012-12-13 分光画像処理方法、分光画像処理装置およびプログラム Active JP6015964B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013551611A JP6015964B2 (ja) 2011-12-28 2012-12-13 分光画像処理方法、分光画像処理装置およびプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011288886 2011-12-28
JP2011288886 2011-12-28
JP2013551611A JP6015964B2 (ja) 2011-12-28 2012-12-13 分光画像処理方法、分光画像処理装置およびプログラム
PCT/JP2012/082417 WO2013099644A1 (ja) 2011-12-28 2012-12-13 分光画像処理方法、分光画像処理装置およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2013099644A1 true JPWO2013099644A1 (ja) 2015-05-07
JP6015964B2 JP6015964B2 (ja) 2016-10-26

Family

ID=48697136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013551611A Active JP6015964B2 (ja) 2011-12-28 2012-12-13 分光画像処理方法、分光画像処理装置およびプログラム

Country Status (3)

Country Link
US (1) US9491331B2 (ja)
JP (1) JP6015964B2 (ja)
WO (1) WO2013099644A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6201507B2 (ja) * 2013-08-12 2017-09-27 日本電気株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP6299180B2 (ja) * 2013-11-27 2018-03-28 株式会社リコー 撮像装置、撮像システムおよび当該撮像装置による撮像方法
JP6720876B2 (ja) * 2014-12-25 2020-07-08 日本電気株式会社 画像処理方法及び画像処理装置
JP7059930B2 (ja) 2016-07-22 2022-04-26 日本電気株式会社 画像処理装置および画像処理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007007786A1 (ja) * 2005-07-13 2007-01-18 Nec Corporation 色補正方法および色補正装置
WO2007007788A1 (ja) * 2005-07-13 2007-01-18 Nec Corporation 色補正方法および色補正装置
JP2009175926A (ja) * 2008-01-23 2009-08-06 Toppan Printing Co Ltd 分光反射率近似装置、分光反射率推定装置及びその方法並びにそのプログラム
WO2009104787A1 (ja) * 2008-02-22 2009-08-27 日本電気株式会社 カラー画像処理方法、装置およびプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4648051A (en) * 1984-10-15 1987-03-03 The Board Of Trustees Of The Leland Stanford Junior University Color imaging process
JP3149297B2 (ja) 1993-08-25 2001-03-26 東洋インキ製造株式会社 カラーバランス調整装置および調整方法
US6304294B1 (en) * 1999-10-15 2001-10-16 Sony Corporation Apparatus for and method of estimating the illumination of an image
JP3853224B2 (ja) 2001-11-08 2006-12-06 富士写真フイルム株式会社 ホワイトバランス補正方法
EP2473834B1 (en) * 2009-09-03 2021-09-08 National ICT Australia Limited Illumination spectrum recovery

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007007786A1 (ja) * 2005-07-13 2007-01-18 Nec Corporation 色補正方法および色補正装置
WO2007007788A1 (ja) * 2005-07-13 2007-01-18 Nec Corporation 色補正方法および色補正装置
JP2009175926A (ja) * 2008-01-23 2009-08-06 Toppan Printing Co Ltd 分光反射率近似装置、分光反射率推定装置及びその方法並びにそのプログラム
WO2009104787A1 (ja) * 2008-02-22 2009-08-27 日本電気株式会社 カラー画像処理方法、装置およびプログラム

Also Published As

Publication number Publication date
US20150207959A1 (en) 2015-07-23
US9491331B2 (en) 2016-11-08
JP6015964B2 (ja) 2016-10-26
WO2013099644A1 (ja) 2013-07-04

Similar Documents

Publication Publication Date Title
JP6015964B2 (ja) 分光画像処理方法、分光画像処理装置およびプログラム
KR20050074590A (ko) 광원 추정 장치, 광원 추정 방법, 촬상 장치 및 화상 처리방법
JP5796348B2 (ja) 特徴量推定装置および特徴量推定方法、並びにコンピュータープログラム
JP5988093B2 (ja) 画像処理装置、物体識別装置、及びプログラム
JP6071522B2 (ja) 情報処理装置および情報処理方法
JP6201507B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JPWO2016114148A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP6943251B2 (ja) 画像処理装置、画像処理方法及びコンピュータ読み取り可能記録媒体
JP6376128B2 (ja) 照明推定装置、照明推定方法および照明推定プログラム
JP2013124990A (ja) 画像処理装置および画像処理方法
JP4174707B2 (ja) 分光測定システム、色再現システム
JP6023653B2 (ja) 照明光色推定装置、照明光色推定方法及びプログラム
JP4615430B2 (ja) 画像生成装置、画像生成方法および画像生成プログラム
JP6826277B2 (ja) 画像処理システム、画像処理方法、および画像処理プログラム
JP6478492B2 (ja) 画像処理装置およびその方法
JP2011095110A (ja) 光源推定装置および光源推定方法
JP2011022044A (ja) 光源推定装置および光源推定方法
JP2007221624A (ja) 照度取得装置、照度取得方法および照度取得プログラム
JP6230504B2 (ja) 画像処理装置、方法、及びプログラム
Napolitano et al. Preliminary assessment of Photogrammetric Approach for detailed dimensional and colorimetric reconstruction of Corals in underwater environment
JP2020091256A (ja) 処理装置、撮像装置、処理方法、およびプログラム
JP7309092B1 (ja) 情報処理装置、判定方法、及び判定プログラム
JP6317703B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラム
Sitnik et al. Integrated shape, color, and reflectivity measurement method for 3D digitization of cultural heritage objects
JP6254922B2 (ja) 照明光色推定装置、照明光色推定方法及び照明光色推定プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160831

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160913

R150 Certificate of patent or registration of utility model

Ref document number: 6015964

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150