JP2018054413A - 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 - Google Patents
処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 Download PDFInfo
- Publication number
- JP2018054413A JP2018054413A JP2016189454A JP2016189454A JP2018054413A JP 2018054413 A JP2018054413 A JP 2018054413A JP 2016189454 A JP2016189454 A JP 2016189454A JP 2016189454 A JP2016189454 A JP 2016189454A JP 2018054413 A JP2018054413 A JP 2018054413A
- Authority
- JP
- Japan
- Prior art keywords
- information
- normal
- subject
- normal line
- acquisition unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Abstract
【課題】被写体の面法線を高精度に算出可能な処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体を提供する。【解決手段】互いに異なる3つ以上の位置の光源200からの光を被写体に順次照射して被写体の3つ以上の輝度情報を取得する輝度情報取得部と、3つ以上の輝度情報から第1の反射特性を用いて算出された被写体の第1の法線情報を取得する第1の法線取得部104bと、第1の法線情報に基づいて、第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する第2の法線取得部104dと、を有する。【選択図】図2A
Description
本発明は、処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体に関する。
被写体に関するより多くの物理情報を取得しておくことで、撮像後の画像処理において、物理モデルに基づく画像生成を行うことができる。例えば、被写体の見えを変更した画像を生成することが可能となる。被写体の見えは、被写体の形状情報、被写体の反射率情報、光源情報等で決定される。光源から射出され、被写体によって反射された光の物理的な振る舞いは局所的な面法線に依存するため、形状情報としては3次元形状ではなく被写体の面法線を用いることが特に有効である。被写体の面法線を取得する方法として、例えば、レーザ光を用いた三角測量や2眼ステレオなどの方法で取得された距離情報から求められた三次元形状を面法線情報に変換する方法が知られている。しかしながら、このような方法では装置は複雑になり、取得された面法線の精度は不十分である。
そこで、特許文献1や非特許文献1では、被写体の面法線を直接取得する方法として照度差ステレオ法を開示している。照度差ステレオ法は、被写体の面法線と被写体から光源への方向とに基づく被写体の反射特性を仮定し、複数の光源位置での被写体の輝度情報と仮定した反射特性とから面法線を算出する方法である。被写体の反射特性は、例えば、ランバートの余弦則に従うランバート反射モデルを用いて近似することができる。
松下康之、"照度差ステレオ"、情報処理学会研究報告、Vol.2011−CVIM−177、No.29、pp.1−12、2011
照度差ステレオ法では、被写体の反射特性がランバート反射である仮定の下で面法線を算出する。しかしながら、実物体の表面における反射では、入射角にのみ依存するランバート反射だけではなく、入射角や反射角に依存して反射率が変化するフレネル項も存在する。そのため、被写体の反射特性がランバート反射とする照度差ステレオ法では、被写体の面法線を正確に算出することができない。
このような課題に鑑みて、本発明は、被写体の面法線を高精度に算出可能な処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体を提供することを目的とする。
本発明の一側面としての処理装置は、互いに異なる3つ以上の位置の光源からの光を被写体に順次照射して前記被写体の3つ以上の輝度情報を取得する輝度情報取得部と、前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得する第1の法線取得部と、前記第1の法線情報に基づいて、前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する第2の法線取得部と、を有することを特徴とする。
また、本発明の他の側面としての処理システムは、光源部と、互いに異なる3つ以上の位置の前記光源部からの光を被写体に順次照射して前記被写体の3つ以上の輝度情報を取得する輝度情報取得部と、前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得する第1の法線取得部と、前記第1の法線情報に基づいて、前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する第2の法線取得部と、を備える処理装置と、を有することを特徴とする。
また、本発明の他の側面としての撮像装置は、互いに異なる3つ以上の位置の光源からの光を順次照射される被写体を撮像する撮像部と、前記撮像部が撮像する前記被写体の3つ以上の輝度情報を取得し、前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得し、前記第1の法線情報に基づいて前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する処理部と、を有することを特徴とする。
また、本発明の他の側面としての処理方法は、互いに異なる3つ以上の位置の光源からの光を被写体に順次照射して前記被写体の3つ以上の輝度情報を取得するステップと、前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得するステップと、前記第1の法線情報に基づいて、前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得するステップと、を有することを特徴とする。
本発明によれば、被写体の面法線を高精度に算出可能な処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体を提供することができる。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
照度差ステレオ法は、被写体の面法線と被写体から光源への方向とに基づく被写体の反射特性を仮定し、複数の光源位置での被写体の輝度情報と仮定した反射特性とから面法線を算出する方法である。反射特性は、ランバートの余弦則に従うランバート反射モデルで近似すればよい。また、輝度情報は、光源が点灯している場合と消灯している場合のそれぞれの被写体を撮像し、これらの差分をとることで環境光等の光源以外の光源による影響を除いてもよい。
以下、ランバート反射モデルで反射特性を仮定した場合について説明する。反射光の輝度値をi、物体のランバート拡散反射率をρd、入射光の強さをE、物体から光源への方向(光源方向)を示す単位ベクトル(光源ベクトル)をs、物体の単位面法線ベクトルをnとすると、輝度値iはランバートの余弦則から以下の式(1)で示される。
異なるM個(M≧3)の光源ベクトルの各成分をs1、s2、・・・、sM、光源ベクトルの各成分ごとの輝度値をi1、i2、・・・iMとすると、式(1)は以下の式(2)で示される。
式(2)の左辺はM行1列の輝度ベクトル、右辺の[s1 T、・・・sM T]はM行3列の光源方向を示す入射光行列S、nは3行1列の単位面法線ベクトルである。M=3の場合は、入射光行列Sの逆行列S−1を用いて、Eρdnは以下の式(3)で示される。
式(3)の左辺のベクトルのノルムが入射光の強さEとランバート拡散反射率ρdの積であり、正規化したベクトルが物体の面法線ベクトルとして算出される。すなわち、入射光の強さEとランバート拡散反射率ρdは積の形でのみ条件式に現れるので、Eρdを1つの変数とみなすと、式(3)は単位面法線ベクトルnの2自由度と合わせて未知の3変数を決定する連立方程式とみなせる。したがって、少なくとも3つの光源を用いて輝度情報を取得することで、各変数を決定することができる。なお、入射光行列Sが正則行列でない場合は逆行列が存在しないため、入射光行列Sが正則行列となるように入射光行列Sの各成分s1〜s3を選択する必要がある。すなわち、成分s3を成分s1、s2に対して線形独立に選択することが望ましい。
また、M>3の場合は求める未知変数より多い条件式が得られるので、任意に選択した3つの条件式からM=3の場合と同様の方法で単位面法線ベクトルnを算出すればよい。4つ以上の条件式を用いる場合は、入射光行列Sが正則行列ではなくなるため、例えば、Moore−Penrose疑似逆行列を使って近似解を算出すればよい。また、フィッティング手法や最適化手法によって単位面法線ベクトルnを算出してもよい。被写体の反射特性をランバート反射モデル以外のモデルで仮定した場合は、条件式が単位面法線ベクトルnの各成分に対する線形方程式でなくなることがある。その場合でも、未知変数に対して未知変数以上の方程式が得られれば、既知のフィッティング手法や最適化手法を用いることができる。
光源ベクトルの各成分ごとの輝度値のうち、陰影や輝度飽和により正確な値が取得できなかった輝度値を使用して単位面法線ベクトルnを算出した場合、正確な法線ベクトルを算出することが困難となる。したがって、陰影や輝度飽和により正確な値が取得できなかった輝度値は使用せずに単位面法線ベクトルnを算出してもよい。つまり、M=mの光源ベクトルsmで得られた輝度値imが陰影や輝度飽和により正確な値でない場合、光源ベクトルsmおよび輝度値imを式(3)から除外して単位面法線ベクトルnを算出する。除外する輝度値は、しきい値判定により決定すればよい。ただし、上述したように、単位面法線ベクトルnを算出するためには少なくとも3つの輝度情報が必要である。
図1は本実施例の撮像装置1の外観図であり、図2Aは撮像装置1のブロック図である。撮像装置1は、撮像部100および光源部200を備える。撮像部100は、撮像光学系101を備える。光源部200は、撮像光学系101の光軸を中心とした同心円状に等間隔で配置された8個の光源から構成される。なお、照度差ステレオ法を実施する際に必要な光源は少なくとも3個であるため、光源部200は3個以上の光源を備えていればよい。また、本実施例では光源部200は複数の光源を撮像光学系101の光軸を中心とした同心円状に等間隔で配置しているが、本発明はこれに限定されない。また、本実施例では、光源部200は、撮像装置1に内蔵されているが、着脱可能に取り付けられる構成としてもよい。
撮像光学系101は、絞り101aを備え、被写体からの光を撮像素子102上に結像させる。本実施例では、撮像光学系101は、撮像装置1に内蔵されているが、一眼レフカメラのように撮像装置1に着脱可能に取り付けられる構成であってもよい。撮像素子102は、CCDセンサやCMOSセンサ等の光電変換素子により構成され、被写体を撮像する。撮像素子102の光電変換によって生成されたアナログ電気信号は、A/Dコンバータ103でデジタル信号に変換されて画像処理部104に入力される。
画像処理部104は、デジタル信号に対して一般的に行われる画像処理と併せて、被写体の法線情報を算出する。画像処理部104は、撮影画像取得部104a、第1の法線情報を取得する第1の法線取得部104b、補正テーブルを取得する補正テーブル取得部104c、および第2の法線情報を取得する第2の法線取得部104dを備える。画像処理部104で処理された出力画像は、半導体メモリや光ディスク等の画像記録部109に保存される。また、出力画像を、表示部105に表示してもよい。なお、本実施例では、撮影画像取得部104a、第1の法線取得部104b、補正テーブル取得部104c、および第2の法線取得部104dは、撮像装置1に内蔵されているが、後述するように撮像装置1とは別に構成されてもよい。
情報入力部108は、ユーザーによって選択された撮影条件(絞り値、露出時間、および焦点距離など)をシステムコントローラ110に供給する。撮像制御部107は、システムコントローラ110からの情報に基づいて、ユーザーが選択した所望の撮影条件で画像を取得する。照射光源制御部106は、システムコントローラ110からの指示に応じて光源部200の発光状態を制御する。
次に、図3のフローチャートを参照して、本実施例の面法線算出処理について説明する。図3は、本実施例の面法線算出処理を示すフローチャートである。本実施例の面法線算出処理は、システムコントローラ110および画像処理部104により、コンピュータプログラムとしての処理プログラムに従って実行される。なお、処理プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録してもよい。
ステップS101では、撮影画像取得部104aは、互いに位置の異なる複数の光源位置で被写体の撮像を行うことで取得された複数の撮影画像を取得する。複数の撮影画像は、単一の光源の位置を変更して光源からの光を順次照射することで取得してもよいし、それぞれ位置の異なる複数の光源からの光を順次照射して取得してもよい。
ステップS102では、第1の法線取得部104bは、まず、ステップS101で取得された複数の撮影画像から複数の輝度情報を取得する。すなわち、第1の法線取得部104bは、輝度情報取得部としても機能する。第1の法線取得部104bは、次に、光源位置による輝度情報の変化から照度差ステレオ法を用いて算出された被写体の第1の法線情報を取得する。
ステップS103では、補正テーブル取得部104cは、ステップS102で取得した被写体の第1の法線情報を補正するための補正テーブルを取得する。上述したように、照度差ステレオ法では、被写体の反射特性がランバート反射である仮定の下で面法線を算出する。しかしながら、実物体の表面における反射では、入射角にのみ依存するランバート反射だけではなく、入射角、射出角および屈折率に依存して反射率(または透過率)が変化するフレネル項も存在する。例えば、図4に示されるように、被写体内部に透過した光が内部拡散を経て、透過した点から再び界面を透過した光が拡散反射光として観測されるモデルを考える。このモデルでは、照射した光が2度界面を透過する。光が界面を透過する場合の透過率は、フレネルの式を用いて以下の式(4)で示される。
ここで、Tpはp偏光の透過率、Tsはs偏光の透過率である。光の透過率Tは、例えば、TpとTsの平均値で表すことができる。θtは屈折角であり、以下の式(5)で示されるスネルの法則に従って、入射角θiと屈折率n(n1:入射側媒質の屈折率、n2:屈折側媒質の屈折率)によって変化する。
式(4)から算出される、図5(a)に示される光が被写体に入射する場合の透過率Tincと、図5(b)に示される光が被写体から射出される場合の透過率Toutを用いて、反射率(フレネル項)Rは以下の式(6)で求められる。
すなわち、本実施例では、フレネル項は、照射した光が被写体の内部に入射する際の透過率と被写体の内部から光が射出される際の透過率の少なくとも一方に基づいて算出される。
光が被写体に入射する場合、光源方向と面法線で決まる入射角と屈折率で透過率Tincが変化し、被写体から射出される場合、視線方向と面法線で決まる射出角と屈折率で透過率Toutが変化する。つまり、式(2)においてフレネル項を考慮すると、以下の式(7)で示されるように、光源Mごとに異なる反射率RMにより観測される各輝度値が変化する。
したがって、ステップS102で反射特性がランバート反射である仮定の下で取得した第1の法線情報には、フレネル項の影響により誤差が生じている。
そこで、本実施例では、反射特性の乖離による面法線誤差を補正するために、補正テーブルを用いる。補正テーブルは、誤差のない理想の面法線と、ステップS102で取得する第1の法線情報のような誤差の生じた面法線を対応付けしたテーブルである。つまり、ランバート反射およびフレネル項(第2の反射特性)を考慮した場合に得られるであろう誤差のない理想の面法線と、ランバート反射(第1の反射特性)のみを考慮した場合に得られるであろう誤差の生じた面法線の関係をテーブル化する。2つの面法線の関係として、2つの面法線の組をテーブル化してもよいし、誤差の生じた面法線と、誤差の生じた面法線と理想の面法線との差(補正量)との組をテーブル化してもよい。
面法線誤差の要因であるフレネル項は、入射角や反射角に依存する。つまり、フレネル項は、光源方向、被写体の面法線および視線方向によって変化する。さらに、光源方向と視線方向は、3次元的な被写体位置(被写体距離や位置)などの撮影条件によって変化する。また、フレネル項による面法線誤差は、各光源の位置や個数などの光源条件によって変化する。したがって、補正テーブルは、光源条件および撮影条件ごとに作成しておくことが望ましい。
しかしながら、光源条件および撮影条件ごとの補正テーブルは、膨大な量のバリエーションとなる。したがって、現実的には、多数の補正テーブルの中から必要なものだけを保持しておけばよい。例えば、2つの面法線の差(内積)がしきい値より大きくなる、すなわち面法線の誤差が大きい場合の補正テーブルのみを保持してもよい。この場合、補正テーブルは離散的に作成されているため、保持する補正テーブル以外の面法線の関係に関するデータは補間処理によって生成してもよい。
補正テーブルは、あらかじめシミュレーション等で作成しておき、半導体メモリ等の記憶部111に保存しておく。また、補正テーブルは、測定によって作成されてもよい。補正テーブル取得部104は、記憶部111が保持する補正テーブルから撮影時の光源条件および撮影条件に一致した補正テーブルを取得する。
ここで、光源条件や撮影条件として被写体距離の情報が必要であるため、撮像装置1は被写体距離を算出できることが好ましい。被写体距離は、撮影時の撮像光学系101のフォーカスレンズの位置から算出してもよいし、レーザ距離計等を用いて算出してもよい。また、被写体距離は、異なる視点から撮影した複数の視差画像を取得するステレオ法によって算出してもよい。ステレオ法では、取得した複数の視差画像中の被写体の対応点の視差量と撮影した各視点の位置情報および光学系の焦点距離から三角測量によって奥行きを算出する。被写体距離は、被写体の対応点で算出された奥行きの平均値としてもよいし、被写体の特定の点における奥行きとしてもよい。視差画像から被写体距離を算出する場合、複数の視差画像の撮像部は、図6に示されるように、撮像光学系の瞳のうちそれぞれ異なる領域を通過した複数の光束を撮像素子の互いに異なる受光部(画素)に導いて光電変換を行う撮像系を有する。
図6は、撮像素子の受光部と撮像光学系の瞳との関係図である。撮像素子には、受光部であるG1画素とG2画素の対(画素対)が複数配列されている。複数のG1画素をまとめてG1画素群といい、複数のG2画素をまとめてG2画素群という。対のG1画素とG2画素は、共通の(すなわち、画素対ごとに1つずつ設けられた)マイクロレンズMLを介して撮像光学系の射出瞳EXPと共役な関係を有する。また、マイクロレンズMLと受光部との間には、カラーフィルタCFが設けられている。
図7は、図6の射出瞳EXPの位置に薄肉レンズがあると仮定した場合の撮像系の模式図である。G1画素は射出瞳EXPのうちP1領域を通過した光束を受光し、G2画素は射出瞳EXPのうちP2領域を通過した光束を受光する。撮像している物点OSPには必ずしも物体が存在している必要はなく、物点OSPを通った光束は通過する瞳内での領域(位置)に応じてG1画素またはG2画素に入射する。瞳内の互いに異なる領域を光束が通過することは、物点OSPからの入射光が角度(視差)によって分離されることに相当する。すなわち、マイクロレンズMLごとに設けられたG1画素およびG2画素のうち、G1画素からの出力信号を用いて生成された画像とG2画素からの出力信号を用いて生成された画像とが、互いに視差を有する複数(ここでは一対)の視差画像となる。以下の説明において、瞳内の互いに異なる領域を通過した光束を互いに異なる受光部(画素)により受光することを瞳分割という。
図6および図7において、射出瞳EXPの位置がずれる等して、上述した共役関係が完全ではなくなったりP1領域とP2領域とが部分的にオーバーラップしたりしても、得られた複数の画像を視差画像として扱うことができる。
図8は、撮像の他の例を示す図である。図8に示されるように、1つの撮像装置に複数の撮像光学系OSj(j=1、2)を設けることで視差画像を取得することができる。また、複数のカメラを用いて同一被写体を撮像する場合も視差画像が得られる。
また、フレネル項は被写体の屈折率によっても変化するため、屈折率ごとに補正テーブルを作成してもよいし、所定の屈折率を仮定して補正テーブルを作成してもよい。
また、本実施例では第1の反射特性がランバート反射、第2の反射特性がランバート反射とフレネル項である場合について説明したが、本発明はこれに限定されない。第1の反射特性は、第1の法線情報を算出する際に使用される反射特性、第2の反射特性は、第1の反射特性とは異なる反射特性であって、被写体の真の反射特性に近い反射特性であればよい。第1および第2の反射特性は、例えば、オーレン・ネイヤー反射等であってもよい。
ステップS104では、第2の法線取得部104dは、ステップS103で取得した補正テーブルに基づいてステップS102で取得した第1の法線情報を補正することで第2の法線情報を取得する。第2の法線情報は、フレネル項による誤差が低減された法線情報である。被写体の反射特性をフレネル項を考慮したモデルで仮定し、フィッティング手法や最適化手法を用いて法線情報を算出することもできるが、本実施例の補正テーブルを用いた手法はより簡易な計算で高精度に法線情報を取得できる。
なお、本実施例では撮像装置1内で被写体の法線情報を算出しているが、図2Bに示されるように、撮像装置とは異なる処理システム2を用いて被写体の法線情報を算出してもよい。図2Bに示される処理システム2は、処理装置500、処理部501、撮像部502および光源部503を備える。処理装置500は、第1の法線取得部500a、補正テーブル取得部500bおよび第2の法線取得部500cを備える。処理部501は、撮影画像取得部501aおよび第1の法線算出部501bを備える。処理システム2を用いて法線情報を算出する場合、まず、撮影画像取得部501aは複数の光源位置で被写体の撮像を行うことで取得された複数の撮影画像を取得し、第1の法線取得部500aは複数の撮影画像から複数の輝度情報を取得する。すなわち、第1の法線取得部500aは、輝度情報取得部としても機能する。次に、第1の法線算出部501bは光源位置による輝度情報の変化から照度差ステレオ法を用いて被写体の第1の法線情報を算出し、第1の法線取得部500aは第1の法線算出部501bが算出した被写体の第1の法線情報を取得する。そして、補正テーブル取得部500bは、第1の法線取得部500aが取得した被写体の第1の法線情報を補正するための補正テーブルを取得する。さらに、第2の法線取得部500cは、補正テーブル取得部500bが取得した補正テーブルに基づいて、第1の法線取得部500aが取得した被写体の第1の法線情報を補正することで第2の法線情報を取得する。なお、処理システムは少なくとも処理装置500と処理部501を備えていればよく、処理装置500が処理部501を備えていてもよい。また、撮像部502および光源部503はそれぞれ、個別の装置であってもよいし、光源部503が撮像部502に内蔵されていてもよい。
以上説明したように、本実施例では、高精度に被写体の法線情報を算出することができる。
本実施例では、補正テーブルを用いて撮影画像の輝度情報を補正し、補正された輝度情報を用いて第2の法線情報を取得する方法について説明する。本実施例の撮像装置は、実施例1と同様の撮像装置である。
図9のフローチャートを参照して、本実施例の面法線算出処理について説明する。図9は、本実施例の面法線算出処理を示すフローチャートである。本実施例の面法線算出処理は、図2Aに示されるシステムコントローラ110および画像処理部104により、コンピュータプログラムとしての処理プログラムに従って実行される。なお、処理プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録してもよい。
本実施例のステップS201およびS202はそれぞれ、実施例1のステップS101、S102と同様であるため、詳細な説明は省略する。
ステップS203では、補正テーブル取得部104cは、ステップS201で取得した複数の撮影画像の輝度情報(第1の輝度情報)を補正するための補正テーブルを取得する。ランバート反射に加えてフレネル項を考慮すると、式(7)で示されるように、光源Mごとに異なる反射率RMに基づいて観測される輝度値が変化するため、面法線に誤差が生じる。そこで、本実施例では、ステップS202で取得する第1の法線情報のような誤差の生じた面法線と光源ごとの反射率RMとを対応付けした補正テーブルを用いる。本実施例では、実施例1と同様に、光源条件および撮影条件ごとに補正テーブルを作成しておき、撮影時の条件に一致する補正テーブルを取得する。
ステップS204では、第2の法線取得部104dは、ステップS203で取得した補正テーブルに基づいてステップS201で取得した第1の輝度情報を補正することで第2の輝度情報を取得する。第2の輝度情報は、フレネル項による輝度情報の誤差が低減された輝度情報である。具体的には、ステップS201で取得した複数の第1の輝度情報に対して、補正テーブルに一致する条件(第1の法線情報、光源条件および撮影条件等)での反射率RMを除算することでフレネル項の影響を低減した第2の輝度情報を取得する。
ステップS205では、第2の法線取得部104dは、ステップS204で補正した光源位置を変化させた複数の第2の輝度情報を用いて被写体の第2の法線情報を取得する。第2の法線情報は、照度差ステレオ法を用いて、光源位置による輝度情報の変化に基づいてステップS202と同様に算出される。第2の法線情報は、フレネル項による誤差が低減された法線情報である。
以上説明したように、本実施例では、高精度に被写体の法線情報を算出することができる。
実施例1および2では、光源を内蔵した撮像装置について説明したが、本実施例では撮像装置と光源ユニットから構成される法線情報取得システムについて説明する。
図10は、法線情報取得システムの外観図である。法線情報取得システムは、被写体303を撮像する撮像装置301、および複数の光源ユニット302を備える。本実施例の撮像装置301は、実施例1と同様の撮像装置であるが、複数の光源を内蔵する構成である必要はない。
光源ユニット302は、撮像装置301と有線または無線で接続され、撮像装置301からの情報に基づいて制御できることが好ましい。また、照度差ステレオ法では少なくとも3光源を順次照射して撮像された画像が必要であるが、光源が移動可能に構成された光源ユニットを使用する場合、少なくとも1つの光源を備えていればよい。ただし、光源を移動させて、最低3つの光源位置で撮影を行う必要がある。なお、光源ユニット302が自動で光源位置を変更できない場合や光源ユニット302が撮像装置301により制御できない場合には、撮像装置301の表示部に表示される光源位置に位置するようにユーザーに光源ユニット302を調整させてもよい。
本実施例の面法線算出処理は実施例1および2の処理と同様であるため、詳細な説明は省略する。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
500 処理装置
500a 第1の法線取得部
500c 第2の法線取得部
500a 第1の法線取得部
500c 第2の法線取得部
Claims (19)
- 互いに異なる3つ以上の位置の光源からの光を被写体に順次照射して前記被写体の3つ以上の輝度情報を取得する輝度情報取得部と、
前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得する第1の法線取得部と、
前記第1の法線情報に基づいて、前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する第2の法線取得部と、を有することを特徴とする処理装置。 - 前記第2の法線取得部は、前記第1の法線情報を補正することで前記第2の法線情報を取得することを特徴とする請求項1に記載の処理装置。
- 前記第2の法線取得部は、前記第1の法線情報に基づいて前記3つ以上の輝度情報を補正し、補正された前記3つ以上の輝度情報に基づいて前記第2の法線情報を取得することを特徴とする請求項1に記載の処理装置。
- 前記第2の法線取得部は、前記第1および第2の法線情報の関係をテーブル化した補正テーブルに基づいて前記第1の法線情報を補正することで前記第2の法線情報を取得することを特徴とする請求項2に記載の処理装置。
- 前記第2の法線取得部は、前記第1の法線情報と前記第2の反射特性に基づいて算出される前記3つ以上の輝度情報に対する補正量との関係をテーブル化した補正テーブルに基づいて前記3つ以上の輝度情報を補正することを特徴とする請求項3に記載の処理装置。
- 前記第1の反射特性は、ランバート反射であることを特徴とする請求項1から5のいずれか1項に記載の処理装置。
- 前記第2の反射特性は、ランバート反射とフレネル項であることを特徴とする請求項1から6のいずれか1項に記載の処理装置。
- 前記フレネル項は、照射した光が前記被写体の内部に入射する際の透過率と前記被写体の内部から光が射出される際の透過率の少なくとも一方に基づいて算出されることを特徴とする請求項7に記載の処理装置。
- 前記補正テーブルは、撮影条件および光源条件ごとに作成され、
前記第2の法線取得部は、撮影時の撮影条件および光源条件に一致した補正テーブルを参照して補正を行うことを特徴とする請求項4から8のいずれか1項に記載の処理装置。 - 前記補正テーブルは、前記第1および第2の法線情報の差がしきい値より大きくなる場合に作成されることを特徴とする請求項4から9のいずれか1項に記載の処理装置。
- 前記補正テーブルは、離散的に作成され、
前記第2の法線取得部は、撮影時の撮影条件および光源条件に対応するデータを前記補正テーブルを補間することで生成することを特徴とする請求項4から10のいずれか1項に記載の処理装置。 - 光源部と、
互いに異なる3つ以上の位置の前記光源部からの光を被写体に順次照射して前記被写体の3つ以上の輝度情報を取得する輝度情報取得部と、前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得する第1の法線取得部と、前記第1の法線情報に基づいて、前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する第2の法線取得部と、を備える処理装置と、を有することを特徴とする処理システム。 - 前記光源部は、移動可能であることを特徴とする請求項12に記載の処理システム。
- 互いに位置の異なる3つ以上の光源部を備えることを特徴とする請求項12に記載の処理システム。
- 前記被写体を撮像する撮像部を更に有することを特徴とする請求項12から14のいずれか1項に記載の処理システム。
- 互いに異なる3つ以上の位置の光源からの光を順次照射される被写体を撮像する撮像部と、
前記撮像部が撮像する前記被写体の3つ以上の輝度情報を取得し、前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得し、前記第1の法線情報に基づいて前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得する処理部と、を有することを特徴とする撮像装置。 - 互いに異なる3つ以上の位置の光源からの光を被写体に順次照射して前記被写体の3つ以上の輝度情報を取得するステップと、
前記3つ以上の輝度情報から第1の反射特性を用いて算出された前記被写体の第1の法線情報を取得するステップと、
前記第1の法線情報に基づいて、前記第1の反射特性とは異なる第2の反射特性に基づく第2の法線情報を取得するステップと、を有することを特徴とする処理方法。 - 請求項17に記載の処理方法をコンピュータに実行させるためのプログラム。
- 請求項18に記載のプログラムを記録したコンピュータが読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016189454A JP2018054413A (ja) | 2016-09-28 | 2016-09-28 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016189454A JP2018054413A (ja) | 2016-09-28 | 2016-09-28 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018054413A true JP2018054413A (ja) | 2018-04-05 |
Family
ID=61836438
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016189454A Pending JP2018054413A (ja) | 2016-09-28 | 2016-09-28 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018054413A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020003432A (ja) * | 2018-06-29 | 2020-01-09 | キヤノン株式会社 | 撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP2020008687A (ja) * | 2018-07-06 | 2020-01-16 | キヤノン株式会社 | 制御装置、アクセサリ、撮像装置および撮像システム |
-
2016
- 2016-09-28 JP JP2016189454A patent/JP2018054413A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020003432A (ja) * | 2018-06-29 | 2020-01-09 | キヤノン株式会社 | 撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP7118776B2 (ja) | 2018-06-29 | 2022-08-16 | キヤノン株式会社 | 撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP2020008687A (ja) * | 2018-07-06 | 2020-01-16 | キヤノン株式会社 | 制御装置、アクセサリ、撮像装置および撮像システム |
JP7187192B2 (ja) | 2018-07-06 | 2022-12-12 | キヤノン株式会社 | 制御装置、アクセサリ、撮像装置および撮像システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6786225B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6556013B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP2014006388A (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JP6877936B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP7179472B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 | |
US10939090B2 (en) | Control apparatus, imaging apparatus, illumination apparatus, image processing apparatus, image processing method, and storage medium | |
JP2017102637A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
US10965853B2 (en) | Control apparatus, accessory, imaging apparatus, and imaging system capable of switching light emission modes for imaging | |
JP6671915B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
US11025829B2 (en) | Imaging apparatus, accessory, processing apparatus, processing method, and storage medium | |
JP2018054413A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP7118776B2 (ja) | 撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 | |
JP2017076033A5 (ja) | ||
JP2017161374A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP2017101934A (ja) | 処理装置、処理システム、撮像装置、処理方法、処理プログラムおよび記録媒体 | |
JP7213686B2 (ja) | 形状計測装置、制御方法及びプログラム | |
JP2014194502A (ja) | 撮像装置および撮像システム | |
JP6910763B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP7309425B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、および、プログラム | |
JP6862114B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP2021127998A (ja) | 距離情報取得装置および距離情報取得方法 | |
JP7210170B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 | |
JP2020173591A (ja) | 処理装置、処理システム、撮像装置、処理方法、および、プログラム | |
JP2019121972A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP7416057B2 (ja) | 交換レンズ、情報処理装置、情報処理方法、及び、プログラム |