JP2005109935A - 画像データ処理装置および画像データ処理プログラム - Google Patents
画像データ処理装置および画像データ処理プログラム Download PDFInfo
- Publication number
- JP2005109935A JP2005109935A JP2003341389A JP2003341389A JP2005109935A JP 2005109935 A JP2005109935 A JP 2005109935A JP 2003341389 A JP2003341389 A JP 2003341389A JP 2003341389 A JP2003341389 A JP 2003341389A JP 2005109935 A JP2005109935 A JP 2005109935A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- camera
- pixel
- control signal
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 人物等を撮影した実写映像と映像合成した場合に、分光特性の不一致による違和感が生じることのない全方位画像を生成することができ、撮像対象に含まれる被写体の正確な反射係数を算出することができる画像データ処理装置、プログラムを提供する。
【解決手段】 任意の波長帯域に分光して撮像対象を撮像する分光カメラと、この分光カメラを全方位に回動させるカメラ雲台とを使用し、当該分光カメラで全方位に亘って前記撮像対象を任意の撮像方向、任意の波長帯域および任意のシャッタースピードによって撮像した画像データに基づいて、全方位に亘って波長帯域を分光した全方位分光画像データを生成処理する画像データ処理装置1であって、制御信号出力手段9と、画像データ領域収納手段13と、画像データ生成手段15と、を備えた。
【選択図】 図1
【解決手段】 任意の波長帯域に分光して撮像対象を撮像する分光カメラと、この分光カメラを全方位に回動させるカメラ雲台とを使用し、当該分光カメラで全方位に亘って前記撮像対象を任意の撮像方向、任意の波長帯域および任意のシャッタースピードによって撮像した画像データに基づいて、全方位に亘って波長帯域を分光した全方位分光画像データを生成処理する画像データ処理装置1であって、制御信号出力手段9と、画像データ領域収納手段13と、画像データ生成手段15と、を備えた。
【選択図】 図1
Description
本発明は、画像データを処理する画像データ処理装置および画像データ処理プログラムに係り、特に、画像データを処理し、コンピュータグラフィックスによるバーチャルスタジオに活用するものに関する。
従来、撮像カメラによって全周囲(全方位、全方向)を撮像した画像をつなぎ合わせて、全方位画像を生成するものに、以下の手法がある。なお、この全方位画像は、バーチャルスタジオ(コンピュータグラフィックスによる仮想スタジオ)等に利用されるものである(非特許文献1参照)。
例えば、撮像カメラによって、撮像対象(通常、複数の被写体を含むもの)の全方位画像を単一のシャッタースピードおよびアイリス量(レンズの絞り量)によって、色の三原色である赤、緑、青の3色の分光画像として撮像する手法1がある(特許文献1参照)。
また、他にも全方位のレンジデータとRGB画像とを計測し、反射係数を推定する手法2がある(非特許文献2参照)。
特開2000−147643号公報(段落0010〜0016、図1)
映像情報メディア学会誌Vol.55,No.1,pp159〜166(2001)「超高精細全天周画像を用いた実写ベース仮想スタジオ」
映像情報メディア学会誌Vol.55,No.5,pp718〜724(2001)「照明の影響を含まない立体映像部品の取得法」
しかしながら、手法1では、全方位に亘って撮像対象をそのまま撮像しているので、撮像対象に含まれている被写体相互の影や反射光が存在する他、当該撮像対象が外乱光によって、照明されているので、当該撮像対象への入射光量が未知になってしまう。この結果、入射光量が未知であると、撮像対象に含まれている被写体上で拡散反射する入射光の拡散反射係数を正確に求めることができなかった。
また、一般に、撮像カメラの画角が広がれば、撮像対象に様々な被写体が含まれることになり、この手法1では、単一のシャッタースピードおよびアイリス量によって全方位を撮像しているので、ダイナミックレンジが狭い状態であり、全ての被写体を良好な状態で撮像できなかった。
例えば、撮像カメラで、全方位画像として屋外を撮像する場合、日向と日陰とでは、光量差がかなりあるため、単一のシャッタースピードおよびアイリス量で撮像すると、日向を撮像した部分が白潰れするか、日陰を撮像した部分が黒潰れするといったことになる。しかも、この手法1では、赤、緑、青の3色の分光画像しか求めていないので、これらの分光画像と、人物等を撮影した実写映像とを映像合成して実写画像を生成する場合に、分光画像の各色の成分のバランスを調整しても、当該分光画像の分光特性が、実写映像側の照明の分光特性に整合しきれない場合があり、この場合に違和感が生じる。
また、全方位画像は、撮像したままの分光画像からなるものであり、この分光画像は、照明(日照等による自然光、照明器具等による人工光)の方向を変更することができないので、当該分光画像から全方位画像を単に映像合成した場合であっても、違和感が生じる場合がある。つまり、映像合成する全方位画像において、照明の方向を変更するためには、予め、撮像対象に含まれる被写体相互の影や反射を含まない画像と、この被写体上で拡散反射する入射光の拡散反射係数とを求めることが必要になる。
さらに、手法2でも、同様に、撮像対象に含まれている被写体間の影や照明による相互反射が除去できないため、映像合成した全方位画像を利用して生成したバーチャスタジオにおいて、照明条件を変更した場合に、本来、被写体の影が生じないところに影が残ってしまうので、映像合成した全方位画像の分光特性と、バーチャスタジオにおける照明の分光特性との整合がとれないため、違和感が生じる。また、手法1と同様に、ダイナミックレンジが狭く、外乱光を除去していないので、正確な拡散反射係数を求めることができない。
そこで、本発明では、前記した問題を解決し、人物等を撮影した実写映像と映像合成した場合に、分光特性の不一致による違和感が生じることのない全方位画像を生成することができ、撮像対象に含まれる被写体の正確な反射係数を算出することができる画像データ処理装置および画像データ処理プログラムを提供することを目的とする。
前記課題を解決するため、請求項1記載の画像データ処理装置は、任意の波長帯域に分光して撮像対象を撮像する分光カメラと、この分光カメラを全方位に回動させるカメラ雲台とを使用し、当該分光カメラで全方位に亘って前記撮像対象を任意の撮像方向、任意の波長帯域および任意のシャッタースピードによって撮像した画像データに基づいて、全方位に亘って波長帯域を分光した全方位分光画像データを生成処理する画像データ処理装置であって、制御信号出力手段と、画像データ領域収納手段と、画像データ生成手段と、を備える構成とした。
かかる構成によれば、画像データ処理装置は、制御信号出力手段によって、分光カメラを制御する分光カメラを制御する分光カメラ制御信号およびカメラ雲台を制御するカメラ雲台制御信号を出力する。分光カメラ制御信号は、分光カメラに備えられているシャッターのシャッタースピードの調整や、当該分光カメラに備えられている特定の波長帯域の入射光を分光する液晶チューナブルフィルタの当該波長帯域の調整等を制御する信号である。カメラ雲台制御信号は、分光カメラを載置した載置台を、一定角度ずつ回転制御する信号である。
続いて、この画像データ処理装置は、画像データ領域収納手段によって、制御信号出力手段で出力された分光カメラ制御信号およびカメラ雲台制御信号に基づき、カメラ雲台の載置台が小刻みの角度に回転し、分光カメラの撮像方向が一時的に固定され、この状態で、分光カメラによって、任意のシャッタースピードおよび任意の波長帯域で取得された画像データを次のように処理する。なお、この分光カメラによる画像データの取得は、分光カメラの仰角も変更して全方位(360度、全方向)について行われる。そして、この取得された画像データについて、同じ撮像方向で撮像され、同じ波長帯域の画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算し、この算出値を乗算した画素値を、予め各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納する。なお、この画像データ領域は、画像データから全方位分光画像データを映像合成する場合に各画像データを埋め込むデータ領域である。
そして、この画像データ処理装置は、画像データ生成手段によって、画像データ領域収納手段で画像データ領域の各座標に収納した画素を統合して、全方位分光画像データを生成する。
請求項2記載の画像データ処理装置は、光源および偏光フィルタを有し、任意の波長帯域に分光して撮像対象を撮像する分光カメラおよび当該撮像対象までの距離を測定する測定手段と、これら分光カメラおよび測定手段を全方位に回動させるカメラ雲台とを使用し、前記撮像対象に反射する反射光を算出するための反射係数を推定する画像データ処理装置であって、制御信号出力手段と、差分最小画像データ生成手段と、画像データ領域収納手段と、画像データ生成手段と、距離画像算出手段と、法線ベクトル算出手段と、反射係数算出手段と、を備える構成とした。
かかる構成によれば、画像データ処理装置は、制御信号出力手段によって、分光カメラ制御信号、測定手段制御信号およびカメラ雲台制御信号を出力し、差分画像データ生成手段によって、分光カメラで撮像された画像データから同じ偏光方向、同じ撮像方向、同じ波長帯域および同じシャッタースピードの画像データそれぞれについて、光源点灯時の画像データの各画素の画素値と光源消灯時の画像データの各画素の画素値との差分を算出し、この差分が各偏光方向で最小となる画素を集めた差分最小画像データを生成する。なお、この場合の各画素の差分とは、輝度値の差である。
続いて、この画像データ処理装置は、画像データ領域収納手段によって、差分最小画像データ生成手段で生成した差分最小画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算し、この算出値を乗算した画素値を、予め各画素のデータ量が増加するように設定した画像データ領域の各座標に収納する。そして、この画像データ処理装置は、画像データ生成手段によって、画像データ領域の各座標に収納した画素を統合し、全方位分光画像データとして生成する。
そして、この画像データ処理装置は、距離画像算出手段によって、測定手段で測定された測定データに基づいて、画像データの各画素の奥行き情報となる距離画像を算出し、法線ベクトル算出手段によって、距離画像から撮像対象の法線方向を示す法線ベクトル情報を算出する。なお、測定手段は、分光カメラ共に、撮像対象を撮像する多眼カメラや、撮像対象に含まれている被写体の形状を計測するレーザレンジセンサ等であればよい。
その後、この画像データ処理装置は、反射係数算出手段によって、法線ベクトル算出手段で算出した法線ベクトル情報と、距離画像算出手段で算出した距離画像と、光源の配光特性から求められる入射光量と、画像データ生成手段で生成した全方位分光画像データとに基づいて、反射係数を算出する。すなわち、この反射係数は、光源から撮像対象に含まれている被写体までの入射角度と、入射光量と、反射光量とが既知となれば求めることができる。つまり、入射角度については、分光カメラの設置位置に関する位置情報と、法線ベクトル情報と、距離画像とによって求めることができ、入射光量については、光源から撮像対象に含まれる被写体への入射光量を一様とみなし、事前に入射光量を計測しておけば求めることができ、反射光量については、全方位分光画像データから得られる反射光に基づいて求めることができ、これらによって、反射係数(拡散反射係数)を算出(推定)することができる。
請求項3記載の画像データ処理装置は、請求項1または請求項2に記載の画像データ処理装置において、画像データ領域収納手段が、画像データ領域設定手段と、算出値出力手段と、画素値置換手段と、を備えることを特徴とする。
かかる構成によれば、画像データ処理装置は、画像データ領域設定手段によって、画像データ領域の各座標におけるデータ量を設定する。この画像データ領域の各座標におけるデータ量は、分光カメラで撮像した際の画像データの各画素のデータ量を増加させるように設定する。
続いて、画像データ処理装置の画像データ領域収納手段は、算出値出力手段によって、シャッタースピードが最小となる最小シャッタースピードと、画像データまたは差分最小画像データの各画素のデータ量および画像データ領域の各画素のデータ量の比率とを基準に、各シャッタースピードをパラメータとして、算出値を出力する。つまり、算出値出力手段で用いられる算出式は、最小シャッタースピードと、画像データの各画素のデータ量および画像データ領域の各画素のデータ量の比率とを定数として扱うと共に、シャッタースピードを変数として扱って算出値を出力する。
そして、この画像データ領域収納手段は、画素値置換手段によって、同じ撮像方向および同じ波長帯域の画像データまたは差分最小画像データ毎に、シャッタースピードが最速となる最速シャッタースピードで撮像された画像データの各画素の画素値が予め設定した閾値以下になる場合、当該閾値以下の画素値に、最速シャッタースピードをパラメータとして算出値出力手段で出力された算出値を乗算し、該当する各座標に代入すると共に、シャッタースピードが2番目に最速となる第二最速シャッタースピードで撮像された画像データの各画素の画素値が予め設定された閾値以下になる場合、第二最速シャッタースピードをパラメータとして算出値出力手段で出力された算出値を乗算し、該当する各座標に代入する。つまり、画像データ領域の各画素に収納される画素値は、最速シャッタースピード、第二最速シャッタースピードをパラメータとした算出式によって得られた算出値を、画像データまたは差分最小画像データの各画素の画素値に乗算したものとなる。
請求項4記載の画像データ処理プログラムは、任意の波長帯域に分光して撮像対象を撮像する分光カメラと、この分光カメラを全方位に回動させるカメラ雲台とを使用し、当該分光カメラで全方位に亘って前記撮像対象を任意の撮像方向、任意の波長帯域および任意のシャッタースピードによって撮像した画像データに基づいて、全方位に亘って波長帯域を分光した全方位分光画像データを生成処理する装置を、制御信号出力手段、画像データ領域収納手段、画像データ生成手段、として機能させる構成とした。
かかる構成によれば、画像データ処理プログラムは、制御信号出力手段によって、分光カメラを制御する分光カメラを制御する分光カメラ制御信号およびカメラ雲台を制御するカメラ雲台制御信号を出力し、画像データ領域収納手段によって、制御信号出力手段で出力された分光カメラ制御信号およびカメラ雲台制御信号に基づき、分光カメラによって、同じ撮像方向および同じ波長帯域の画像データ毎に、当該画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算し、この算出値を乗算した画素値を、予め各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納する。そして、この画像データ処理プログラムは、画像データ生成手段によって、画像データ領域収納手段で画像データ領域の各座標に収納した画素を統合して、全方位画像データを生成する。
請求項5記載の画像データ処理プログラムは、光源および偏光フィルタを有し、任意の波長帯域に分光して撮像対象を撮像する分光カメラおよび当該撮像対象までの距離を測定する測定手段と、これら分光カメラおよび測定手段を全方位に回動させるカメラ雲台とを使用し、前記撮像対象に反射する反射光を算出するための反射係数を推定する装置を、制御信号出力手段、差分最小画像データ生成手段、画像データ領域収納手段、画像データ生成手段、距離画像算出手段、法線ベクトル算出手段、反射係数算出手段、として機能させる構成とした。
かかる構成によれば、画像データ処理プログラムは、制御信号出力手段によって、分光カメラ制御信号、測定手段制御信号およびカメラ雲台制御信号を出力し、差分画像データ生成手段によって、分光カメラで撮像された画像データから同じ偏光方向、同じ撮像方向、同じ波長帯域および同じシャッタースピードの画像データそれぞれについて、光源点灯時の画像データの各画素の画素値と光源消灯時の画像データの各画素の画素値との差分を算出し、この差分が各偏光方向で最小となる画素を集めた差分最小画像データを生成する。
続いて、この画像データ処理プログラムは、画像データ領域収納手段によって、差分最小画像データで生成した差分最小画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算し、この算出値を乗算した画素値を、予め各画素のデータ量が増加するように設定した画像データ領域の各座標に収納し、画像データ生成手段によって、画像データ領域の各座標に収納した画素を統合し、全方位分光画像データとして生成する。
そして、この画像データ処理プログラムは、距離画像算出手段によって、測定手段で測定された測定データに基づいて、画像データの各画素の奥行き情報となる距離画像を算出し、法線ベクトル算出手段によって、距離画像から撮像対象の法線方向を示す法線ベクトル情報を算出し、反射係数算出手段によって、法線ベクトル情報と、距離画像と、光源の配光特性から求められる入射光量と、全方位分光画像データとに基づいて、反射係数を算出する。
請求項1、4に記載の発明によれば、分光カメラを制御する分光カメラ制御信号およびカメラ雲台を制御するカメラ雲台制御信号を出力し、分光カメラ制御信号およびカメラ雲台制御信号に基づき、カメラ雲台の載置台が小刻みの角度に回転し、分光カメラの撮像方向が一時的に固定され、この状態で、分光カメラによって、任意のシャッタースピードおよび任意の波長帯域で取得された画像データについて、同じ撮像方向で撮像され、同じ波長帯域の画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算し、この算出値を乗算した画素値を、予め各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納する。この結果、画像データ領域の各座標に収納した画素を統合して、全方位画像データを生成することができる。
請求項2、5に記載の発明によれば、分光カメラ制御信号、測定手段制御信号およびカメラ雲台制御信号を出力し、分光カメラで撮像された画像データから同じ偏光方向、同じ撮像方向、同じ波長帯域および同じシャッタースピードの画像データそれぞれについて、光源点灯時の画像データの各画素の画素値と光源消灯時の画像データの各画素の画素値との差分を算出し、この差分が各偏光方向で最小となる画素を集めた差分最小画像データを生成する。この差分最小画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算し、この算出値を乗算した画素値を、予め各画素のデータ量が増加するように設定した画像データ領域の各座標に収納する。画像データ領域の各座標に収納した画素を統合し、全方位分光画像データとして生成する。そして、測定手段で撮像された測定データに基づいて、画像データの各画素の奥行き情報となる距離画像を算出し、この距離画像から撮像対象の法線方向を示す法線ベクトル情報を算出する。この結果、法線ベクトル情報と、距離画像算出手段で算出した距離画像と、光源の配光特性から求められる入射光量と、全方位分光画像データとに基づいて、反射係数を算出することができる。
請求項3に記載の発明によれば、画像データ領域の各座標におけるデータ量を設定し、シャッタースピードが最小となる最小シャッタースピードと、画像データの各画素のデータ量および画像データ領域の各画素のデータ量の比率とを基準に、各シャッタースピードをパラメータとして、算出値を出力して、同じ撮像方向および同じ波長帯域の画像データまたは差分最小画像データ毎に、シャッタースピードが最速となる最速シャッタースピードで撮像された画像データの各画素の画素値が予め設定した閾値以下になる場合、当該閾値以下の画素値に、最速シャッタースピードをパラメータとして算出値を乗算し、該当する各座標に代入すると共に、シャッタースピードが2番目に最速となる第二最速シャッタースピードで撮像された画像データの各画素の画素値が予め設定された閾値以下になる場合、第二最速シャッタースピードをパラメータとして算出値を乗算し、該当する各座標に代入する。このため、シャッタースピードに基づいて算出値を求め、この算出値を画素値、つまり、各画素の輝度に反映させたことによって、白つぶれ、黒つぶれ、輝度値の量子化誤差を防止して、全方位画像を合成することができる。
次に、本発明の実施形態について、適宜図面を参照しながら詳細に説明する。
(画像データ処理システムの概略)
図1に画像データ処理システムの概略を示した概略図を示す。この図1に示すように、画像データ処理システムAは、周囲の背景や被写体を撮像対象として、当該撮像対象を撮像した画像データをつなぎ合わせて、バーチャルリアリティ、コンピュータグラフィックス等の分野で活用される全方位分光画像データを生成すると共に、当該背景や当該被写体における反射係数を算出するもので、画像データ処理装置1と、分光カメラ3と、多眼カメラ5(5A、5B)と、カメラ雲台7と、表示装置2とを備えている。
(画像データ処理システムの概略)
図1に画像データ処理システムの概略を示した概略図を示す。この図1に示すように、画像データ処理システムAは、周囲の背景や被写体を撮像対象として、当該撮像対象を撮像した画像データをつなぎ合わせて、バーチャルリアリティ、コンピュータグラフィックス等の分野で活用される全方位分光画像データを生成すると共に、当該背景や当該被写体における反射係数を算出するもので、画像データ処理装置1と、分光カメラ3と、多眼カメラ5(5A、5B)と、カメラ雲台7と、表示装置2とを備えている。
分光カメラ3は、画像データ処理装置1から出力される分光カメラ制御信号に基づいて、撮像対象を撮像して分光した画像データを当該装置1に出力するもので、図示しない、対物レンズと、照明光を照射する光源と、任意の偏光方向に照明光を偏光させる直線偏光フィルタと、被写体で反射した反射光の特定の波長のみ選択透過させる液晶チューナブルフィルタと、直線偏光フィルタの偏向方向を制御する直線偏光フィルタ偏光方向制御モータと、偏光された照明光を分岐するハーフミラーと、ハーフミラーを通過した照明光を吸収する吸収板と、シャッターを有して、反射光の特定の波長(可視域)に感度の高い高感度撮像素子とを有している。
なお、この実施の形態では、分光カメラ3によって撮像される画像データは、液晶チューナブルフィルタ(図示せず)によって、33色に分光した分光画像を高感度撮像素子(図示せず)で撮像したものである。この33色の分光画像は液晶チューナブルフィルタの仕様によるものであり、33色以上の分光画像(画像データ)を画像データ処理装置1で処理することは可能である。また、分光カメラ3の主点と、カメラ雲台7の回転中心点(後記)とは一致している。
測定手段としての多眼カメラ5(5A、5B)は、画像データ処理装置1から出力される多眼カメラ制御信号に基づいて、撮像対象を撮像した多眼カメラデータを出力するもので、この多眼カメラデータが画像データ処理装置1で処理され、撮像対象に含まれている被写体の形状と、分光カメラ3から当該被写体までの距離の情報(三角測量の原理による)となる距離画像とが求められる。この実施の形態では、多眼カメラ5(5A、5B)を、分光カメラ3の両脇に2台設置しているが、2台以上備えればよく、台数が多くなるほど、分光カメラ3から被写体までの距離の情報を正確に算出することができる。また、多眼カメラ5(5A、5B)の代わりに、撮像対象に含まれる被写体の形状を測定する測定手段として、レーザ光切断法やレーザ飛行距離法により被写体の形状を測定するレーザレンジセンサ(図示せず)を使用してもよい。
カメラ雲台7は、画像データ処理装置1から出力されるカメラ雲台制御信号に基づいて駆動し、分光カメラ3および多眼カメラ5の撮像方向を順次変更させるもので、分光カメラ3および多眼カメラ5(5A、5B)を支持する支持柱7aと、この支持柱7aを固定する載置板7bと、この載置板7bを、当該カメラ雲台7を設置した設置面に対して直交する側面で軸支する支持軸7dと、この支持軸7dを介して載置板7bを昇降自在に支持する支持台7cと、この支持台7cを所定角度で回動自在に支持する胴体部7eと、この胴体部7eの設置面からの高さを調整可能に支持する脚部7fとを備えている。
つまり、この実施の形態における全方位分光画像データは、分光カメラ3によって、全方向に亘って、撮像対象を分光した色毎(特定の波長毎)に撮像した分光画像(画像データ)を、画像データ処理装置1により処理すること(詳細は後記)によって得られるものである。
表示装置2は、CRTや液晶等のディスプレイであり、画像データ処理装置1によって処理された処理結果(全方向分光画像データ、反射係数の数値)を表示するためのものである。
(画像データ処理装置の構成)
これより、図1に示した画像データ処理装置1の構成について、図2に示すブロック図を参照して詳細に説明する。
画像データ処理装置1は、分光カメラ3で撮像された画像データおよび多眼カメラ5(5A、5B)で撮像された多眼カメラデータを画像処理して、全方位分光画像データおよび撮像した撮像対象に含まれる被写体の反射係数を算出するもので、制御信号出力手段9と、差分最小画像データ生成手段11と、画像データ領域収納手段13と、画像データ生成手段15と、距離画像算出手段17と、法線ベクトル算出手段19と、反射係数算出手段21とを備えている。なお、この画像データ処理装置1は、パーソナルコンピュータをベースに構成されており、各手段9〜21は、当該パーソナルコンピュータに備えられているハードウェアとソフトウェアとが協働して動作する場合の機能を特定したものである。また、この図2では、図示を省略したが、画像データ処理装置1で処理された全方位分光画像データと、反射係数とを蓄積する蓄積手段(図示せず)を、当該装置1の内部または当該装置1の外部に備えてもよく、画像データ処理装置1は、一旦処理した全方位分光画像データと反射係数とを当該蓄積手段(図示せず)に入出力して利用することができる。この蓄積手段(図示せず)に後記する、画像データ(光源点灯時画像データ、光源消灯時画像データ)、差分最小画像データ、距離画像、法線ベクトル情報を蓄積してもよい。
これより、図1に示した画像データ処理装置1の構成について、図2に示すブロック図を参照して詳細に説明する。
画像データ処理装置1は、分光カメラ3で撮像された画像データおよび多眼カメラ5(5A、5B)で撮像された多眼カメラデータを画像処理して、全方位分光画像データおよび撮像した撮像対象に含まれる被写体の反射係数を算出するもので、制御信号出力手段9と、差分最小画像データ生成手段11と、画像データ領域収納手段13と、画像データ生成手段15と、距離画像算出手段17と、法線ベクトル算出手段19と、反射係数算出手段21とを備えている。なお、この画像データ処理装置1は、パーソナルコンピュータをベースに構成されており、各手段9〜21は、当該パーソナルコンピュータに備えられているハードウェアとソフトウェアとが協働して動作する場合の機能を特定したものである。また、この図2では、図示を省略したが、画像データ処理装置1で処理された全方位分光画像データと、反射係数とを蓄積する蓄積手段(図示せず)を、当該装置1の内部または当該装置1の外部に備えてもよく、画像データ処理装置1は、一旦処理した全方位分光画像データと反射係数とを当該蓄積手段(図示せず)に入出力して利用することができる。この蓄積手段(図示せず)に後記する、画像データ(光源点灯時画像データ、光源消灯時画像データ)、差分最小画像データ、距離画像、法線ベクトル情報を蓄積してもよい。
制御信号出力手段9は、分光カメラ3に分光カメラ制御信号、多眼カメラ5(5A、5B)に多眼カメラ制御信号およびカメラ雲台7にカメラ雲台制御信号を出力するものである。
分光カメラ制御信号は、分光カメラ3に備えられている高感度撮像素子(図示せず)のシャッターのシャッタースピードと、光源(図示せず)の点灯、消灯の制御と、直線偏光フィルタ(図示せず)の偏光方向の調整と、液晶チューナブルフィルタ(図示せず)の透過波長帯域の設定とを行うためのものである。
多眼カメラ制御信号は、多眼カメラ5(5A、5B)の起動停止と、フォーカスとを行うためのものである。
カメラ雲台制御信号は、カメラ雲台7の支持軸7dおよび胴体部7e(カメラ雲台駆動部)を制御して、カメラ雲台7の支持台7cを小刻み(この実施の形態では約10度ずつ)に360度回転させると共に、カメラ雲台7の載置板7bを上下に昇降させるためのものである。
分光カメラ制御信号は、分光カメラ3に備えられている高感度撮像素子(図示せず)のシャッターのシャッタースピードと、光源(図示せず)の点灯、消灯の制御と、直線偏光フィルタ(図示せず)の偏光方向の調整と、液晶チューナブルフィルタ(図示せず)の透過波長帯域の設定とを行うためのものである。
多眼カメラ制御信号は、多眼カメラ5(5A、5B)の起動停止と、フォーカスとを行うためのものである。
カメラ雲台制御信号は、カメラ雲台7の支持軸7dおよび胴体部7e(カメラ雲台駆動部)を制御して、カメラ雲台7の支持台7cを小刻み(この実施の形態では約10度ずつ)に360度回転させると共に、カメラ雲台7の載置板7bを上下に昇降させるためのものである。
差分最小画像データ生成手段11は、同じ撮像方向、同じシャッタースピード、同波長帯域の画像データの中で、分光カメラ3の光源(図示せず)が点灯時に撮像した画像データ(光源点灯時画像データ)と、光源(図示せず)が消灯時に撮像した画像データ(光源消灯時画像データ)との各画素の輝度値について差分をとり、この差分が各偏光方向で最小となる画素を集めて差分最小画像データを生成するものである。そして、この差分最小画像データ生成手段11は、撮像方向を変更して得られた画像データ、異なるシャッタースピードで得られた画像データおよび異なる波長帯域に分光された画像データそれぞれに対して、つまり、撮像方向、シャッタースピードおよび波長帯域をパラメータとして、差分最小画像データを生成する。この差分最小画像データは、画像データ領域収納手段13に出力される。
画像データ領域収納手段13は、分光カメラ3の光源(図示せず)が消灯時に撮像された光源消灯時画像データ、または、差分最小画像データ生成手段11で生成された差分最小画像データを処理して、光源消灯時画像データまたは差分最小画像データの各画素の画素値に算出値を乗算して画像データ生成手段15に出力するもので、画像データ領域設定手段13aと、算出値出力手段13bと、画素値置換手段13cとを備えている。
画像データ領域設定手段13aは、画像データまたは差分最小画像データから全方位分光画像データを生成する場合に、当該画像データに含まれている各画素の画素値を、増加(拡張)して全方位画像データの各画素に収納する任意のデータ量(データサイズ)である画像データ領域を設定するものである。また、この画像データ領域は、複数の画像データを合成して(つなぎあわせて)全方位分光画像データとして、表示装置2の表示画面に表示する際に、白つぶれや黒つぶれを防止するために確保するものである。
算出値出力手段13bは、分光カメラ3が撮像対象を撮像したときの最小のシャッタースピードである最小シャッタースピードと、画像データに含まれる各画素のデータ量と、画像データ領域設定手段13aで設定された画像データ領域に含まれる各画素のデータ量とをパラメータとした算出式に基づいて、算出値を出力するものである。この実施の形態では、画像データの各画素が12ビットで、有効画素500×380であり、画像データ領域の各画素が32ビットで、有効画素500×380であり、最小シャッタースピードtとすると、算出式は、(t)×(232)/(212)となる。
画素値置換手段13cは、画像データの各画素の画素値に、算出値出力手段13bで出力された算出値を乗算したものに対して、最小シャッタースピードt以外のシャッタースピードの中で、速度が最速となる最速シャッタースピードをt1、2番目に最速となる第二最速シャッタースピードをt2とし、各画像データの画素について、閾値(212−1(4095))以下の画素値に、(t/t1)×(232)/(212)または(t/t2)×(232)/(212)を乗算し、画像データ領域の画素値に置き換えるものである。
画像データ生成手段15は、画像データ領域収納手段13から出力された各画素を統合して、全方位分光画像データを生成するものである。なお、この全方位分光画像データは、光源消灯時画像データに基づくものと、差分最小画像データに基づくものとがあり、光源消灯時画像データに基づく全方位分光画像データは、画像データ処理装置1から出力され、差分最小画像データに基づく全方位分光画像データは、反射係数算出手段21に出力される。つまり、この画像データ生成手段15では、画像データ領域に画像データ領域収納手段13によって収納された(つなぎ合わせた)各画素を、全方位分光画像データとして出力するものである。
距離画像算出手段17は、分光カメラ3で撮像された画像データ(光源点灯時画像データ)と、多眼カメラ5(5A、5B)で撮像された多眼カメラデータとに基づいて、これら画像データおよび多眼カメラデータに描写されている(含まれている)撮像対象の被写体の各部位を画像処理し、この画像処理した結果を三角測量の原理に従い、画像データの各画素の奥行き情報となる距離画像を算出するものである。
法線ベクトル算出手段19は、距離画像算出手段17で算出された距離画像に基づいて、法線ベクトル情報を算出するものである。つまり、この法線ベクトル算出手段19では、各画素の奥行き情報である距離画像から各画素の3次元位置情報を得て、撮像時の分光カメラ3および多眼カメラ5の撮像方向と、画像データ上の各画素の位置と、奥行き情報(3次元位置情報)とが用いられて、当該3次元位置情報から外積が求められ、この外積の平均値が当該各画素(注目画素)の法線ベクトルとされる(具体的な例は後記する)。
反射係数算出手段21は、画像データ生成手段15で生成された全方位分光画像データと、距離画像算出手段17で算出された距離画像と、法線ベクトル算出19で算出された法線ベクトル情報と、分光カメラ3の設置位置に関する位置情報(カメラ雲台7の設置位置)と、分光カメラ3に備えられている光源(図示せず)の入射光量とに基づいて、ランバード(Lambert)の余弦則を利用して撮像対象に含まれる被写体の反射係数を算出するものである。つまり、この反射係数算出手段21では、反射係数と求めるために、分光カメラ3の設置位置に関する位置情報と、法線ベクトル情報と、距離画像とに基づいて、被写体に入射された入射光の入射角度を求め、光源(図示せず)から被写体への照射される入射光量を求め、全方位分光画像データから得られる反射光に基づいて反射光量を求めることによって、反射係数(拡散反射係数)が算出(推定)される。
この画像データ処理装置1によれば、制御信号出力手段9で、分光カメラ制御信号およびカメラ雲台制御信号が出力され、分光カメラ制御信号およびカメラ雲台制御信号に基づき、カメラ雲台7の載置板7bが小刻みの角度(約10度)に回転し、分光カメラ3の撮像方向が一時的に固定され、この状態で、分光カメラ3によって、任意のシャッタースピードおよび任意の波長帯域で取得された画像データについて、同方向の撮像方向で撮像され、同帯域の波長帯域の画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値が画像データ領域収納手段13で乗算され、この算出値が乗算された画素値が、予め各画素のデータ量が増加するように設定された画像データ領域の対応する各座標に収納される。この結果、画像データ生成手段15で、画像データ領域の各座標に収納した画素が統合されて、全方位分光画像データが生成される。この全方位分光画像データを全波長帯域に亘って合成することによって、分光特性の不一致による違和感が生じることのない全方位画像(データ)を生成することができる。
また、この画像データ処理装置1によれば、制御信号出力手段9で、分光カメラ制御信号、多眼カメラ制御信号およびカメラ雲台制御信号を出力し、分光カメラ3で撮像された画像データから入力された同方向の偏光方向、同方向の撮像方向、同帯域の波長帯域および同スピードのシャッタースピードの画像データそれぞれについて、差分最小画像データ生成手段11で、光源点灯時の画像データの各画素の画素値と光源消灯時の画像データの各画素の画素値との差分が算出され、この差分が各偏光方向で最小となる画素を集めた差分最小画像データが生成される。そして、画像データ領域収納手段13で、差分最小画像データの各画素の画素値に、シャッタースピードをパラメータとして予め設定した算出式による算出値が乗算され、この算出値が乗算された画素値が、予め各画素のデータ量が増加するように設定した画像データ領域の各座標に収納される。そしてまた、画像データ生成手段15で、画像データ領域の各座標に収納した画素が統合され、全方位分光画像データとして生成される。また、距離画像算出手段17で、多眼カメラ5で撮像された多眼カメラデータに基づいて、画像データの各画素の奥行き情報となる距離画像が算出され、法線ベクトル算出手段19で、距離画像から撮像対象の法線方向を示す法線ベクトル情報が算出される。この結果、反射係数算出手段21で、法線ベクトル情報と、距離画像と、光源(図示せず)から求められる入射光量と、全方位分光画像データとに基づいて、反射係数が算出される。このため、分光カメラ3による光源点灯時および光源消灯時の画像データと、多眼カメラ5による多眼カメラデータとを入力することで、撮像対象に含まれる被写体の正確な反射係数を算出することができる。
さらに、この画像データ処理装置1によれば、画像データ領域収納手段13の画像データ領域設定手段13aで画像データ領域の各座標におけるデータ量が設定され、算出値出力手段13bでシャッタースピードが最小となる最小シャッタースピードと、画像データの各画素のデータ量および画像データ領域の各画素のデータ量の比率とを基準に、各シャッタースピードをパラメータとして、算出値が出力される。そして、画素値置換手段13cで、同方向の撮像方向および同帯域の波長帯域の画像データまたは差分最小画像データ毎に、シャッタースピードが最速となる最速シャッタースピードで撮像された画像データの各画素の画素値が予め設定した閾値以下になる場合、当該閾値以下の画素値に、最速シャッタースピードをパラメータとして算出値が乗算され、該当する各座標に代入されると共に、シャッタースピードが2番目に最速となる第二最速シャッタースピードで撮像された画像データの各画素の画素値が予め設定された閾値以下になる場合、第二最速シャッタースピードをパラメータとして算出値が乗算され、該当する各座標に代入される。このため、シャッタースピードに基づいて算出値が求められ、この算出値が画素値、つまり、各画素の輝度に反映されたことによって、白つぶれ、黒つぶれ、輝度値の量子化誤差を防止することができる。
(画像データ処理装置の動作1、全方位分光画像データを生成)
次に、図3に示すフローチャートを参照して、画像データ処理装置1の動作1(全方位分光画像データの生成)について説明する(適宜、図1、2参照)。
まず、画像データ処理装置1は、制御信号出力手段9によって、分光カメラ制御信号を分光カメラ3に、カメラ雲台制御信号をカメラ雲台7に出力する(ステップS1)。より具体的に説明すると、分光カメラ制御信号によって制御される分光カメラ3のシャッタースピードは、4〜1/4000秒の16段階であり、液晶チューナブルフィルタ(図示せず)による波長帯域は400nm〜720nm(可視光量域)を10nmの刻み幅(32色に分光)であり、光源(図示せず)は消灯であり、カメラ雲台制御信号によって制御されるカメラ雲台7の仰角、方位角(回転角度)は10度刻みである。
次に、図3に示すフローチャートを参照して、画像データ処理装置1の動作1(全方位分光画像データの生成)について説明する(適宜、図1、2参照)。
まず、画像データ処理装置1は、制御信号出力手段9によって、分光カメラ制御信号を分光カメラ3に、カメラ雲台制御信号をカメラ雲台7に出力する(ステップS1)。より具体的に説明すると、分光カメラ制御信号によって制御される分光カメラ3のシャッタースピードは、4〜1/4000秒の16段階であり、液晶チューナブルフィルタ(図示せず)による波長帯域は400nm〜720nm(可視光量域)を10nmの刻み幅(32色に分光)であり、光源(図示せず)は消灯であり、カメラ雲台制御信号によって制御されるカメラ雲台7の仰角、方位角(回転角度)は10度刻みである。
そして、画像データ処理装置1は、分光カメラ3で撮像された光源消灯時画像データを画像データ領域収納手段13に入力し、同方向の撮像方向、同帯域の波長帯域の画像データについて、シャッタースピードをパラメータとした算出値を、光源消灯時画像データの各画素の画素値に乗算し、画像データ領域の対応する座標に収納する(ステップS2)。
その後、画像データ処理装置1は、画像データ生成手段15によって、各座標に収納した画素を統合して、全方位分光画像データを生成して出力する(ステップS3)。
(画像データ処理装置の動作2、反射係数を算出)
次に、図4に示すフローチャートを参照して、画像データ処理装置1の動作2(反射係数の算出)について説明する(適宜、図1、2参照)。
まず、画像データ処理装置1は、制御信号出力手段9によって、分光カメラ制御信号を分光カメラ3に、多眼カメラ制御信号を多眼カメラ5に、カメラ雲台制御信号をカメラ雲台7に出力する(ステップS11)。より具体的に説明すると、分光カメラ制御信号によって制御される分光カメラ3のシャッタースピードは、4〜1/4000秒の16段階であり、液晶チューナブルフィルタ(図示せず)による波長帯域は400nm〜720nmを10nmの刻み幅(33色に分光)であり、光源(図示せず)は点灯および消灯であり、多眼カメラ制御信号によって制御される多眼カメラ5は動作は起動停止、フォーカスであり、カメラ雲台制御信号によって制御されるカメラ雲台7の回転角度は10度刻みである。
次に、図4に示すフローチャートを参照して、画像データ処理装置1の動作2(反射係数の算出)について説明する(適宜、図1、2参照)。
まず、画像データ処理装置1は、制御信号出力手段9によって、分光カメラ制御信号を分光カメラ3に、多眼カメラ制御信号を多眼カメラ5に、カメラ雲台制御信号をカメラ雲台7に出力する(ステップS11)。より具体的に説明すると、分光カメラ制御信号によって制御される分光カメラ3のシャッタースピードは、4〜1/4000秒の16段階であり、液晶チューナブルフィルタ(図示せず)による波長帯域は400nm〜720nmを10nmの刻み幅(33色に分光)であり、光源(図示せず)は点灯および消灯であり、多眼カメラ制御信号によって制御される多眼カメラ5は動作は起動停止、フォーカスであり、カメラ雲台制御信号によって制御されるカメラ雲台7の回転角度は10度刻みである。
続いて、画像データ処理装置1は、分光カメラ3で撮像された光源点灯時画像データおよび光源消灯時画像データを差分最小画像データ生成手段11に入力し、同方向の撮像方向、同帯域の波長帯域の画像データについて、差分をとって、差分最小画像データを生成する(ステップS12)。
そして、画像データ処理装置1は、画像データ領域収納手段13によって、差分最小画像データ生成手段11で生成された差分最小画像データの各画素の画素値に、シャッタースピードをパラメータとした算出値を乗算し、画像データ領域の対応する座標に収納する(ステップS13)。なお、ここで、白つぶれを防ぐために、分光カメラ3に備えられている高感度撮像素子(図示せず)の飽和値より小さい値のみを収納し、それ以上の値は破棄する。
そしてまた、画像データ処理装置1は、画像データ生成手段15によって、各座標に収納した画素を統合して、全方位分光画像データ(差分最小画像データに基づく)を生成して、反射係数算出手段21に出力する(ステップS14)。
また、画像データ処理装置1は、距離画像算出手段17によって、多眼カメラデータおよび光源点灯時画像データから距離画像を算出し(ステップS15)、法線ベクトル算出手段19および反射係数算出手段21に出力する。さらに、画像データ処理装置1は、法線ベクトル算出手段19によって、距離画像から法線ベクトル情報を算出し(ステップS16)、反射係数算出手段21に出力する。
その後、画像データ処理装置1は、反射係数算出手段21によって、法線ベクトル情報、分光カメラ3の位置情報、距離画像、光源(図示せず)の入射光量、全方位分光画像データに基づいて、反射係数を算出し(ステップS17)、出力する。
(画像データ処理システムよる画像データの貼り合わせ処理について)
次に、図5〜図7を参照して、画像データ処理システムAを使用した画像データの貼り合わせ処理について説明する(適宜、図1、図2参照)。
図5は、画像データ処理システムAによる画像データの撮像を模式的に表した図である。図6は、画像データを貼り合わせる場合の糊代部分の画素値の比例配分について説明した図である。図7は、シャッタースピードの異なる画像データから広ダイナミックレンジの画像データ(全方位分光画像データ)を作成することを説明した図である。
次に、図5〜図7を参照して、画像データ処理システムAを使用した画像データの貼り合わせ処理について説明する(適宜、図1、図2参照)。
図5は、画像データ処理システムAによる画像データの撮像を模式的に表した図である。図6は、画像データを貼り合わせる場合の糊代部分の画素値の比例配分について説明した図である。図7は、シャッタースピードの異なる画像データから広ダイナミックレンジの画像データ(全方位分光画像データ)を作成することを説明した図である。
画像データ処理システムAによる画像データの貼り合わせ処理では、まず、全方向(仰角、方位角)で取得された画像データおよび算出された反射係数に基づいて、画像データの貼り合わせを行う場合、図5に示すように、仮想空間における直径rの仮想球を想定する。この仮想球の上側に一辺の長さがrの正方形の画像をテクスチャ画像T1として配置し、この仮想球の下側にも一辺の長さがrの正方形の画像をテクスチャ画像T2として配置する。ここで、2枚のテクスチャ画像T1とテクスチャ画像T2とは、平行に配置する。
次に、貼り合わせ処理では、テクスチャ画像T1の画素を、当該テクスチャ画像T1から仮想球に向け垂直に伸ばし、仮想球の球面に交差した点に対応させる。同様に、テクスチャ画像T2の画素を、当該テクスチャ画像T1から仮想球に向け垂直に伸ばし、仮想球の球面に交差した点に対応させる。すなわち、この貼り合わせ処理は、コンピュータグラフィックスにおけるテクスチャマッピングの平行投影である。このテクスチャマッピングの平行投影に対して、貼り合わせ処理では、分光カメラ3のレンズ主点を仮想球の中心に設定し、当該分光カメラ3のレンズ歪みを取り除いた上で、撮像した画像データを仰角、方位角に合わせて、仮想球に投影する。この際に、仮想球に投影した画像データの各画素と、テクスチャ画像T1およびテクスチャ画像T2の各画素との交点を求め、テクスチャ画像T1およびテクスチャ画像T2の各画素に代入していく。
この実施の形態では、カメラ雲台7の動作によって、仰角、方位角10度ずつ分光カメラ3の撮像方向を変えているが、撮像画角(撮影画角)は12度以上あるので、図6に示すように、隣り合う画像データ(画像G、画像H)は、糊代がある。この糊代部分について、当該糊代部分の画素値は、それぞれの画像データの端からの距離で比例配分して決定している。この図6では、糊代部分l5に対して、画像Gの端からの距離がl7であると共に、画像Hの端からの距離がl6である場所の画素値の比例配分について説明している。
また、図7に示すように、画像データ処理システムA(主に画像データ処理装置1)では、シャッタースピードt、ta、tb、tc、・・・(t<ta<tb<tc<・・・)の画像データを処理することによって、統合された広ダイナミックレンジの画像(全方位分光画像データ)が生成される。このため、統合された広ダイナミックレンジの画像(全方位分光画像データ)は、シャッタースピードが長くて画像データの各画素の画素値が飽和した白つぶれ部分を、シャッタースピードが短くて画像データの各画素の画素値が飽和していない部分で補われており、また逆に、シャッタースピードが短くて十分な光量が得られないために画像データの各画素が黒つぶれしたり、量子化誤差が生じたりした部分を、シャッタースピードが長い画像データの各画素で補われている。
(補足1:法線ベクトル情報の求め方について)
次に、図8を参照して、画像データ処理装置1の法線ベクトル算出手段19における法線ベクトル情報の算出の仕方について、補足説明する。図8は、法線ベクトル情報を算出する対象となる画素(注目画素)と周囲8画素を図示したものである。
法線ベクトル情報の算出の仕方では、図8に示すように、法線ベクトル情報を算出する対象となる画素(注目画素)をD0とし、この画素D0の周囲の画素8画素(D1〜D8)を用いている。それぞれ画素(D0〜D8)の奥行き情報(距離画像)を3次元位置に換算する。つまり、画像データを撮像時の分光カメラ3および多眼カメラ5の撮像方向と、画像データ上の画素の位置と、奥行き情報(距離画像)とを用いて、3次元位置を求める。そして、この3次元位置の外積を求め、平均値をこの注目画素(D0)の法線ベクトル情報とする。
次に、図8を参照して、画像データ処理装置1の法線ベクトル算出手段19における法線ベクトル情報の算出の仕方について、補足説明する。図8は、法線ベクトル情報を算出する対象となる画素(注目画素)と周囲8画素を図示したものである。
法線ベクトル情報の算出の仕方では、図8に示すように、法線ベクトル情報を算出する対象となる画素(注目画素)をD0とし、この画素D0の周囲の画素8画素(D1〜D8)を用いている。それぞれ画素(D0〜D8)の奥行き情報(距離画像)を3次元位置に換算する。つまり、画像データを撮像時の分光カメラ3および多眼カメラ5の撮像方向と、画像データ上の画素の位置と、奥行き情報(距離画像)とを用いて、3次元位置を求める。そして、この3次元位置の外積を求め、平均値をこの注目画素(D0)の法線ベクトル情報とする。
n1=(D1−D0)×(D2−D0)
n2=(D2−D0)×(D3−D0)
n3=(D3−D0)×(D4−D0)
n4=(D4−D0)×(D5−D0)
n5=(D5−D0)×(D6−D0)
n6=(D6−D0)×(D7−D0)
n7=(D7−D0)×(D8−D0)
n8=(D8−D0)×(D1−D0)
法線ベクトルn=(n1+n2+n3+n4+n5+n6+n7+n8)/8
n2=(D2−D0)×(D3−D0)
n3=(D3−D0)×(D4−D0)
n4=(D4−D0)×(D5−D0)
n5=(D5−D0)×(D6−D0)
n6=(D6−D0)×(D7−D0)
n7=(D7−D0)×(D8−D0)
n8=(D8−D0)×(D1−D0)
法線ベクトルn=(n1+n2+n3+n4+n5+n6+n7+n8)/8
(補足2:ランバートの余弦則について)
次に、図9を参照して、ランバートの余弦則について補足説明する。
図9はランバートの余弦則を説明した図である。この図9に示すように、視点αにおける反射光I1および視点βにおける反射光I2は、入射光I0が入射角θ1で拡散反射係数Kd(反射係数)の被写体表面で反射した場合、I1=I2=I0Kd・cosθ1となる。このランバートの余弦則によって、反射係数は、入射光の入射光量および入射角と、反射光の反射光量とによって求めることができる。
次に、図9を参照して、ランバートの余弦則について補足説明する。
図9はランバートの余弦則を説明した図である。この図9に示すように、視点αにおける反射光I1および視点βにおける反射光I2は、入射光I0が入射角θ1で拡散反射係数Kd(反射係数)の被写体表面で反射した場合、I1=I2=I0Kd・cosθ1となる。このランバートの余弦則によって、反射係数は、入射光の入射光量および入射角と、反射光の反射光量とによって求めることができる。
以上、本発明の実施形態について説明したが、本発明は前記実施形態には限定されない。例えば、画像データ処理装置1の各構成の処理を汎用的なコンピュータ言語で記述した画像データ処理プログラムとみなすことができる。この場合、画像データ処理装置1と同様の効果を得ることができる。
1 画像データ処理装置
3 分光カメラ
5、5A、5B 多眼カメラ(測定手段)
7 カメラ雲台
9 制御信号出力手段
11 差分最小画像データ生成手段
13 画像データ領域収納手段
13a 画像データ領域設定手段
13b 算出値出力手段
13c 画素値置換手段
15 画像データ生成手段
17 距離画像算出手段
19 法線ベクトル算出手段
21 反射係数算出手段
3 分光カメラ
5、5A、5B 多眼カメラ(測定手段)
7 カメラ雲台
9 制御信号出力手段
11 差分最小画像データ生成手段
13 画像データ領域収納手段
13a 画像データ領域設定手段
13b 算出値出力手段
13c 画素値置換手段
15 画像データ生成手段
17 距離画像算出手段
19 法線ベクトル算出手段
21 反射係数算出手段
Claims (5)
- 任意の波長帯域に分光して撮像対象を撮像する分光カメラと、この分光カメラを全方位に回動させるカメラ雲台とを使用し、当該分光カメラで全方位に亘って前記撮像対象を任意の撮像方向、任意の波長帯域および任意のシャッタースピードによって撮像した画像データに基づいて、全方位に亘って波長帯域を分光した全方位分光画像データを生成処理する画像データ処理装置であって、
前記分光カメラを制御する分光カメラ制御信号および前記カメラ雲台を制御するカメラ雲台制御信号を出力する制御信号出力手段と、
この制御信号出力手段で出力された分光カメラ制御信号およびカメラ雲台制御信号に基づき、前記分光カメラおよび前記カメラ雲台によって、同じ撮像方向で撮像され、且つ、前記分光カメラで分光された同じ波長帯域の画像データの各画素の画素値に、前記シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算すると共に、この算出値を乗算した画素値を、予め前記各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納させる画像データ領域収納手段と、
この画像データ領域収納手段で前記画像データ領域の各座標に収納した画素を統合して、前記全方位分光画像データとして生成する画像データ生成手段と、
を備えることを特徴とする画像データ処理装置。 - 光源および偏光フィルタを有し、任意の波長帯域に分光して撮像対象を撮像する分光カメラおよび当該撮像対象までの距離を測定する測定手段と、これら分光カメラおよび測定手段を全方位に回動させるカメラ雲台とを使用し、前記撮像対象に反射する反射光を算出するための反射係数を推定する画像データ処理装置であって、
前記分光カメラを制御する分光カメラ制御信号、前記測定手段を制御する測定手段制御信号および前記カメラ雲台を制御するカメラ雲台制御信号を出力する制御信号出力手段と、
この制御信号出力手段で出力された分光カメラ制御信号およびカメラ雲台制御信号に基づき、前記カメラ雲台が回動し前記分光カメラで撮像された画像データから、同じ偏光方向、同じ撮像方向、同じ波長帯域および同じシャッタースピードの画像データそれぞれについて、前記光源点灯時の画像データの各画素の画素値と前記光源消灯時の画像データの各画素の画素値との差分を算出し、この差分が各偏光方向で最小となる画素を集めた差分最小画像データを生成する差分最小画像データ生成手段と、
この差分最小画像データ生成手段で生成した差分最小画像データの各画素の画素値に、前記シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算すると共に、この算出値を乗算した画素値を、予め前記各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納させる画像データ領域収納手段と、
この画像データ領域収納手段で前記画像データ領域の各座標に収納した画素を統合して、前記全方位分光画像データとして生成する画像データ生成手段と、
前記制御信号出力手段で出力された測定手段制御信号およびカメラ雲台制御信号に基づき、前記カメラ雲台が回動し前記測定手段で測定された測定データに基づいて、前記画像データの各画素の奥行き情報となる距離画像を算出する距離画像算出手段と、
この距離画像算出手段で算出された距離画像から撮像対象の法線方向を示す法線ベクトル情報を算出する法線ベクトル算出手段と、
この法線ベクトル算出手段で算出した法線ベクトル情報と、前記分光カメラの設置位置に関する位置情報と、前記距離画像算出手段で算出した距離画像と、前記光源の配光特性から求められる入射光量と、前記画像データ生成手段で生成した全方位分光画像データとに基づいて、前記反射係数を算出する反射係数算出手段と、
を備えることを特徴とする画像データ処理装置。 - 前記画像データ領域収納手段は、
前記画像データ領域の各座標におけるデータ量を設定する画像データ領域設定手段と、
前記シャッタースピードが最小となる最小シャッタースピードと、前記画像データまたは差分最小画像データの各画素のデータ量および前記画像データ領域の各画素のデータ量の比率とを基準に、各シャッタースピードをパラメータとして、前記算出値を出力する算出値出力手段と、
同じ撮像方向および同じ波長帯域の前記画像データまたは前記差分最小画像データ毎に、前記シャッタースピードが最速となる最速シャッタースピードで撮像された画像データまたは差分最小画像データの各画素の画素値が予め設定した閾値以下になる場合、当該閾値以下の画素値に、前記最速シャッタースピードをパラメータとして前記算出値出力手段で出力された算出値を乗算し、該当する各座標に代入すると共に、前記シャッタースピードが2番目に最速となる第二最速シャッタースピードで撮像された画像データまたは差分最小画像データの各画素の画素値が予め設定された閾値以下になる場合、前記第二最速シャッタースピードをパラメータとして前記算出値出力手段で出力された算出値を乗算し、該当する各座標に代入する画素値置換手段と、
を備えることを特徴とする請求項1または請求項2に記載の画像データ処理装置。 - 任意の波長帯域に分光して撮像対象を撮像する分光カメラと、この分光カメラを全方位に回動させるカメラ雲台とを使用し、当該分光カメラで全方位に亘って前記撮像対象を任意の撮像方向、任意の波長帯域および任意のシャッタースピードによって撮像した画像データに基づいて、全方位に亘って波長帯域を分光した全方位分光画像データを生成処理する装置を、
前記分光カメラを制御する分光カメラ制御信号および前記カメラ雲台を制御するカメラ雲台制御信号を出力する制御信号出力手段、
この制御信号出力手段で出力された分光カメラ制御信号およびカメラ雲台制御信号に基づき、前記分光カメラおよび前記カメラ雲台によって、同じ撮像方向で撮像され、且つ、前記分光カメラで分光された同じ波長帯域の画像データの各画素の画素値に、前記シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算すると共に、この算出値を乗算した画素値を、予め前記各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納させる画像データ領域収納手段、
この画像データ領域収納手段で前記画像データ領域の各座標に収納した画素を統合して、前記全方位分光画像データとして生成する画像データ生成手段、
として機能させることを特徴とする画像データ処理プログラム。 - 光源および偏光フィルタを有し、任意の波長帯域に分光して撮像対象を撮像する分光カメラおよび当該撮像対象までの距離を測定する測定手段と、これら分光カメラおよび測定手段を全方位に回動させるカメラ雲台とを使用し、前記撮像対象に反射する反射光を算出するための反射係数を推定する装置を、
前記分光カメラを制御する分光カメラ制御信号、前記測定手段を制御する測定手段制御信号および前記カメラ雲台を制御するカメラ雲台制御信号を出力する制御信号出力手段、
この制御信号出力手段で出力された分光カメラ制御信号およびカメラ雲台制御信号に基づき、前記カメラ雲台が回動し前記分光カメラで撮像された画像データから、同じ偏光方向、同じ撮像方向、同じ波長帯域および同じシャッタースピードの画像データそれぞれについて、前記光源点灯時の画像データの各画素の画素値と前記光源消灯時の画像データの各画素の画素値との差分を算出し、この差分が各偏光方向で最小となる画素を集めた差分最小画像データを生成する差分最小画像データ生成手段、
この差分最小画像データ生成手段で生成した差分最小画像データの各画素の画素値に、前記シャッタースピードをパラメータとして予め設定した算出式による算出値を乗算すると共に、この算出値を乗算した画素値を、予め前記各画素のデータ量が増加するように設定した画像データ領域の対応する各座標に収納させる画像データ領域収納手段、
この画像データ領域収納手段で前記画像データ領域の各座標に収納した画素を統合して、前記全方位分光画像データとして生成する画像データ生成手段、
前記制御信号出力手段で出力された測定手段制御信号およびカメラ雲台制御信号に基づき、前記カメラ雲台が回動し前記測定手段で測定された測定データに基づいて、前記画像データの各画素の奥行き情報となる距離画像を算出する距離画像算出手段、
この距離画像算出手段で算出された距離画像から撮像対象の法線方向を示す法線ベクトル情報を算出する法線ベクトル算出手段、
この法線ベクトル算出手段で算出した法線ベクトル情報と、前記分光カメラの設置位置に関する位置情報と、前記距離画像算出手段で算出した距離画像と、前記光源の配光特性から求められる入射光量と、前記画像データ生成手段で生成した全方位分光画像データとに基づいて、前記反射係数を算出する反射係数算出手段、
として機能させることを特徴とする画像データ処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003341389A JP2005109935A (ja) | 2003-09-30 | 2003-09-30 | 画像データ処理装置および画像データ処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003341389A JP2005109935A (ja) | 2003-09-30 | 2003-09-30 | 画像データ処理装置および画像データ処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005109935A true JP2005109935A (ja) | 2005-04-21 |
Family
ID=34536006
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003341389A Pending JP2005109935A (ja) | 2003-09-30 | 2003-09-30 | 画像データ処理装置および画像データ処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005109935A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007139070A1 (ja) * | 2006-05-29 | 2007-12-06 | Panasonic Corporation | 光源推定装置、光源推定システムおよび光源推定方法、並びに、画像高解像度化装置および画像高解像度化方法 |
JP2010256138A (ja) * | 2009-04-23 | 2010-11-11 | Canon Inc | 撮像装置及びその制御方法 |
JP2015081921A (ja) * | 2013-10-21 | 2015-04-27 | ジック アーゲー | 回転軸を中心に運動する走査ユニットを備えるセンサ |
JP2016151437A (ja) * | 2015-02-16 | 2016-08-22 | 大塚電子株式会社 | 配光特性測定装置および配光特性測定方法 |
-
2003
- 2003-09-30 JP JP2003341389A patent/JP2005109935A/ja active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007139070A1 (ja) * | 2006-05-29 | 2007-12-06 | Panasonic Corporation | 光源推定装置、光源推定システムおよび光源推定方法、並びに、画像高解像度化装置および画像高解像度化方法 |
US7893971B2 (en) | 2006-05-29 | 2011-02-22 | Panasonic Corporation | Light source estimation device that captures light source images when it is determined that the imaging device is not being used by the cameraman |
CN101356546B (zh) * | 2006-05-29 | 2011-10-12 | 松下电器产业株式会社 | 图像高分辨率化装置、方法及系统 |
JP2010256138A (ja) * | 2009-04-23 | 2010-11-11 | Canon Inc | 撮像装置及びその制御方法 |
JP2015081921A (ja) * | 2013-10-21 | 2015-04-27 | ジック アーゲー | 回転軸を中心に運動する走査ユニットを備えるセンサ |
JP2016151437A (ja) * | 2015-02-16 | 2016-08-22 | 大塚電子株式会社 | 配光特性測定装置および配光特性測定方法 |
CN105890746A (zh) * | 2015-02-16 | 2016-08-24 | 大塚电子株式会社 | 配光特性测量装置以及配光特性测量方法 |
US10127472B2 (en) | 2015-02-16 | 2018-11-13 | Otsuka Electronics Co., Ltd. | Light distribution characteristic measurement apparatus and light distribution characteristic measurement method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20040070565A1 (en) | Method and apparatus for displaying images | |
US8134555B2 (en) | Acquisition of surface normal maps from spherical gradient illumination | |
US20140192238A1 (en) | System and Method for Imaging and Image Processing | |
US10706621B2 (en) | Systems and methods for processing image information | |
EP2034743A1 (en) | Image processing device | |
JP2007163367A (ja) | カメラ情報解析装置 | |
JP5990981B2 (ja) | グレア測定システム | |
US20230022108A1 (en) | Acquisition of optical characteristics | |
JP2015046019A (ja) | 画像処理装置、撮像装置、撮像システム、画像処理方法、プログラム、および、記憶媒体 | |
JP2006285763A (ja) | 被写体についての陰影のない画像を生成する方法および装置、並びにそれに用いる白色板 | |
JP2005099150A (ja) | 画像表示装置の画像補正データ算出方法 | |
GB2545394A (en) | Systems and methods for forming three-dimensional models of objects | |
JP5059503B2 (ja) | 画像合成装置、画像合成方法及び画像合成プログラム | |
CN108989789A (zh) | 一种摄像头成像质量实时评价方法 | |
JP2005109935A (ja) | 画像データ処理装置および画像データ処理プログラム | |
Zhou et al. | Light field projection for lighting reproduction | |
JP2018007024A (ja) | 制御装置、撮像装置、撮像制御方法、プログラムおよび記録媒体 | |
JP2008128771A (ja) | 分光情報および形状情報同時取得装置及び情報取得方法 | |
KR20150125246A (ko) | 다시점 카메라에 대한 촬영 설정값을 조절하는 방법 및 다시점 카메라에 대한 촬영 설정값을 조절하는 장치 | |
CN108093242A (zh) | 摄影方法及摄影装置 | |
KR101451792B1 (ko) | 영상 렌더링 장치 및 그 방법 | |
JP2005057541A (ja) | 分光カメラヘッド | |
JP2005129017A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
MacPherson et al. | A 360° omnidirectional photometer using a Ricoh Theta Z1 | |
JP2004186789A (ja) | 画像評価装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080513 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080916 |