JP2020076590A - 処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体 - Google Patents
処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体 Download PDFInfo
- Publication number
- JP2020076590A JP2020076590A JP2018208565A JP2018208565A JP2020076590A JP 2020076590 A JP2020076590 A JP 2020076590A JP 2018208565 A JP2018208565 A JP 2018208565A JP 2018208565 A JP2018208565 A JP 2018208565A JP 2020076590 A JP2020076590 A JP 2020076590A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- unit
- minimum number
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
【課題】取得される法線情報の精度を向上させることが可能な処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体を提供すること。【解決手段】処理装置は、被写体までの距離情報を取得する距離取得部と、距離情報を用いて、法線情報の取得に必要な画像の最低枚数を決定する決定部と、最低枚数以上の複数の画像を取得する画像取得部と、を有する。【選択図】図3
Description
本発明は、処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体に関する。
被写体に関するより多くの物理情報を取得しておくことで、撮像後の画像処理において、物理モデルに基づく画像生成を行うことができる。例えば、被写体の見えを変更した画像を生成することが可能となる。被写体の見えは、被写体の形状情報、被写体の反射率情報、光源情報等で決定される。光源から射出され、被写体によって反射された光の物理的な振る舞いは局所的な面法線に依存するため、形状情報としては3次元形状ではなく被写体の面法線を用いることが特に有効である。被写体の面法線を取得する方法として、例えば、レーザ光を用いた三角測量や2眼ステレオなどの方法で取得された距離情報から求められた三次元形状を面法線情報に変換する方法が知られている。しかしながら、このような方法では装置は複雑になり、取得された面法線の精度は不十分である。
そこで、特許文献1や非特許文献1では、被写体の面法線を直接取得する方法として照度差ステレオ法を開示している。照度差ステレオ法は、被写体の面法線と被写体から光源への方向とに基づく被写体の反射特性を仮定し、複数の光源位置での被写体の輝度情報と仮定した反射特性とから面法線を取得する方法である。被写体の反射特性は、例えば、ランバートの余弦則に従うランバート反射モデルを用いて近似することができる。
松下康之、"照度差ステレオ"、情報処理学会研究報告、Vol.2011−CVIM−177、No.29、pp.1−12、2011
デジタルカメラなどの撮像装置において照度差ステレオ法により被写体の面法線を取得する場合、それぞれ異なる位置に配置された複数の光源からの光を被写体に照射する必要がある。光源の位置が固定されている場合、被写体が遠くなるほど、撮像装置に設けられている撮像光学系の光軸と光源から被写体への光とがなす角度(照射角度)が小さくなる。複数の光源位置での輝度変化から被写体の面法線を取得する照度差ステレオ法では、照射角度が小さくなると輝度変化が低下し、撮像装置内でのノイズの影響が強くなる。その結果、取得される面法線にばらつきが生じる。また、光源位置が異なる複数の撮影画像にブレ画像や位置ずれ画像等が含まれる場合、取得される面法線に誤差が生じる。
本発明は、取得される法線情報の精度を向上させることが可能な処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体を提供することを目的とする。
本発明の一側面としての処理装置は、被写体までの距離情報を取得する距離取得部と、距離情報を用いて、法線情報の取得に必要な画像の最低枚数を決定する決定部と、最低枚数以上の複数の画像を取得する画像取得部と、を有することを特徴とする。
また、本発明の他の側面としての処理システムは、光源部と、被写体までの距離情報を取得する距離取得部と、距離情報を用いて法線情報の取得に必要な画像の最低枚数を決定する決定部と、光源部から光を照射して撮影された最低枚数以上の撮影画像を画像として取得する画像取得部と、を有することを特徴とする。
また、本発明の他の側面としての撮像装置は、被写体を撮像する撮像部と、被写体までの距離情報を取得する距離取得部と、距離情報を用いて法線情報の取得に必要な画像の最低枚数を決定する決定部と、撮像部が撮像する最低枚数以上の撮影画像を画像として取得する画像取得部と、を有することを特徴とする。
また、本発明の他の側面としての処理方法は、被写体までの距離情報を取得するステップと、距離情報を用いて法線情報の取得に必要な画像の最低枚数を決定するステップと、最低枚数以上の複数の画像を取得するステップと、を有することを特徴とする。
本発明によれば、取得される法線情報の精度を向上させることが可能な処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体を提供することができる。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
照度差ステレオ法は、被写体の面法線と被写体から光源への方向とに基づく被写体の反射特性を仮定し、複数の光源位置での被写体の輝度情報と仮定した反射特性とから面法線を取得する方法である。反射特性は、所定の面法線と光源の位置が与えられたときに反射率が一意に定まらない場合、ランバートの余弦則に従うランバート反射モデルで近似すればよい。また、鏡面反射成分は、図11に示されるように、光源ベクトルsと視線方向ベクトルvの2等分線と、面法線nのなす角αに依存する。したがって、反射特性は、視線方向に基づく特性としてもよい。また、輝度情報は、光源が点灯している場合と消灯している場合のそれぞれの被写体を撮像し、これらの差分をとることで環境光等の光源以外の光源による影響を除いてもよい。
以下、ランバート反射モデルで反射特性を仮定した場合について説明する。反射光の輝度値をi、物体のランバート拡散反射率をρd、入射光の強さをE、物体から光源への方向(光源方向)を示す単位ベクトル(光源ベクトル)をs、物体の単位面法線ベクトルをnとすると、輝度値iはランバートの余弦則から以下の式(1)で示される。
異なるM個(M≧3)の光源ベクトルの各成分をs1、s2、・・・、sM、光源ベクトルの各成分ごとの輝度値をi1、i2、・・・iMとすると、式(1)は以下の式(2)で示される。
式(2)の左辺はM行1列の輝度ベクトル、右辺の[s1 T、・・・sM T]はM行3列の光源方向を示す入射光行列S、nは3行1列の単位面法線ベクトルである。M=3の場合は、入射光行列Sの逆行列S−1を用いて、Eρdnは以下の式(3)で示される。
式(3)の左辺のベクトルのノルムが入射光の強さEとランバート拡散反射率ρdの積であり、正規化したベクトルが物体の面法線ベクトルとして算出される。すなわち、入射光の強さEとランバート拡散反射率ρdは積の形でのみ条件式に現れるので、Eρdを1つの変数とみなすと、式(3)は単位面法線ベクトルnの2自由度と合わせて未知の3変数を決定する連立方程式とみなせる。したがって、少なくとも3つの光源を用いて輝度情報を取得することで、各変数を決定することができる。なお、入射光行列Sが正則行列でない場合は逆行列が存在しないため、入射光行列Sが正則行列となるように入射光行列Sの各成分s1〜s3を選択する必要がある。すなわち、成分s3を成分s1、s2に対して線形独立に選択することが望ましい。
また、M>3の場合は求める未知変数より多い条件式が得られるので、任意に選択した3つの条件式からM=3の場合と同様の方法で単位面法線ベクトルnを算出すればよい。4つ以上の条件式を用いる場合は、入射光行列Sが正則行列ではなくなるため、例えば、Moore−Penrose疑似逆行列を使って近似解を算出すればよい。また、フィッティング方法や最適化方法によって単位面法線ベクトルnを算出してもよい。
被写体の反射特性をランバート反射モデルとは異なるモデルで仮定した場合は、条件式が単位面法線ベクトルnの各成分に対する線形方程式と異なる場合がある。その場合、未知変数以上の条件式が得られれば、フィッティング方法や最適化方法を用いることができる。
また、M>3の場合には3以上M−1以下の複数の条件式が得られるため、単位面法線ベクトルnの複数の解の候補を求めることができる。この場合、さらに別の条件を用いて複数の解の候補から解を選択すればよい。例えば、単位面法線ベクトルnの連続性を条件として用いることができる。単位面法線nを撮像装置の1画素ごとに算出する場合、画素(x、y)での面法線をn(x、y)として、n(x−1、y)が既知であれば以下の式(4)で示される評価関数が最小となる解を選択すればよい。
また、n(x+1、y)やn(x、y±1)も既知であれば、以下の式(5)が最小となる解を選択すればよい。
既知の面法線がなく、全画素位置で面法線の不定性があるとすれば、以下の式(6)で示される、式(5)の全画素での総和が最小となるように解を選択してもよい。
なお、最近傍以外の画素での面法線を用いたり、注目する画素位置からの距離に応じて重みづけした評価関数を用いてもよい。
また、別の条件として、任意の光源位置での輝度情報を用いてもよい。ランバート反射モデルに代表される拡散反射モデルでは、単位面法線ベクトルと光源方向ベクトルが近いほど反射光の輝度が大きくなる。よって、複数の光源方向での輝度値のうち最も輝度値が大きくなる光源方向ベクトルに近い解を選択することで、単位面法線ベクトルを決定することができる。
また、鏡面反射モデルでは、光源ベクトルをs、物体からカメラへの方向の単位ベクトル(カメラの視線ベクトル)をvとすると、以下の式(7)が成り立つ。
式(7)に示されるように、光源方向ベクトルsとカメラの視線ベクトルvが既知であれば単位面法線ベクトルnを算出することができる。表面に粗さがある場合、鏡面反射も出射角の広がりを持つが、平滑面として求めた解の付近に広がるため、複数の解の候補うち最も平滑面に対する解に近い候補を選択すればよい。また、複数の解の候補の平均によって真の解を決定してもよい。
図1は本実施例の撮像装置1の外観図であり、図2Aは撮像装置1のブロック図である。撮像装置1は、撮像部100、光源部200およびレリーズボタン300を備える。光源部200は、撮像光学系101の光軸を中心とした同心円状に等間隔で配置された8個の光源から構成される。なお、照度差ステレオ法を実施する際に必要な光源は少なくとも3個であるため、光源部200は3個以上の光源を備えていればよい。また、本実施例では光源部200は複数の光源を撮像光学系101の光軸を中心とした同心円状に等間隔で配置しているが、本発明はこれに限定されるものではない。また、本実施例では、光源部200は、撮像装置1内に内蔵されているが、着脱可能に取り付けられる構成としてもよい。レリーズボタン300は、撮影やオートフォーカスを作動させるためのボタンである。
撮像光学系101は、絞り101aを備え、被写体からの光を撮像素子102上に結像させる。本実施例では、撮像光学系101は、撮像装置1内に内蔵されているが、一眼レフカメラのように撮像装置1に着脱可能に取り付けられる構成であってもよい。撮像素子102は、CCDセンサやCMOSセンサ等の光電変換素子により構成され、被写体を撮像する。撮像素子102の光電変換によって生成されたアナログ電気信号は、A/Dコンバータ103でデジタル信号に変換されて画像処理部104に入力される。
画像処理部104は、デジタル信号に対して一般的に行われる画像処理と併せて、被写体の法線情報を取得する。画像処理部104は、距離取得部104a、最低枚数決定部(決定部)104b、入力画像取得部(画像取得部)104cおよび法線取得部104dを備える。距離取得部104aは、被写体までの距離情報を取得する。最低枚数決定部104bは、距離情報を用いて、法線情報の取得に必要な最低枚数である法線取得最低枚数を決定する。入力画像取得部104cは、法線取得最低枚数以上の複数の画像を入力画像として取得する。法線取得部104dは、複数の入力画像を用いて法線情報を取得する。画像処理部104で処理された出力画像は、半導体メモリや光ディスク等の画像記録部109に保存される。また、出力画像を、表示部105に表示してもよい。なお、本実施例では、距離取得部104a、最低枚数決定部104b、入力画像取得部104cおよび法線取得部104dは、撮像装置1内に内蔵されているが、後述するように撮像装置1とは別に構成されていてもよい。
情報入力部108は、ユーザーによって選択された撮影条件(絞り値、露出時間および焦点距離など)をシステムコントローラ110に供給する。撮像制御部107は、システムコントローラ110からの情報に基づいて、ユーザーが選択した所望の撮影条件で画像を取得する。照射光源制御部106は、システムコントローラ110からの指示に応じて光源部200の発光状態を制御する。
以下、図3のフローチャートを参照して、本実施例の面法線取得処理について説明する。図3は、本実施例の面法線取得処理を示すフローチャートである。本実施例の面法線取得処理は、システムコントローラ110および画像処理部104により、コンピュータプログラムとしての処理プログラムに従って実行される。なお、処理プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録されていてもよい。
ステップS101では、システムコントローラー110は、ユーザーによって選択された撮影条件を情報入力部108から取得する。
ステップS102では、システムコントローラー110は、レリーズボタン300が半押しされたかどうかを判定する。半押しされた場合、撮像装置1は、撮影準備状態となり、オートフォーカスや以下のステップで必要なプリ撮影を行い、不図示のメモリやDRAMにプリ撮影画像を保存する。また、プロセスは、ステップS103に進む。半押しされていない場合、ステップS102の処理を繰り返す。
ステップS103では、距離取得部104aは、被写体までの距離情報を取得する。本実施例では、距離取得部104aは、ステップS102においてオートフォーカス、またはユーザーによる手動のフォーカスが行われた際のフォーカスレンズの位置から距離情報を取得する。また、距離取得部104aは、異なる視点から撮影した複数の視差画像を取得するステレオ法によって距離情報を取得してもよい。ステレオ法では、取得した複数の視差画像中の被写体の対応点の視差量、撮影した各視点の位置情報および光学系の焦点距離から三角測量によって奥行きを取得する。距離情報は、被写体の対応点で算出された奥行きの平均値としてもよいし、被写体の特定の点における奥行きとしてもよい。視差画像から距離情報を取得する場合、複数の視差画像の撮像部は、図4に示されるように、撮像光学系の瞳のうちそれぞれ異なる領域を通過した複数の光束を撮像素子の互いに異なる受光部(画素)に導いて光電変換を行う撮像系を有する。
図4は、撮像素子の受光部と撮像光学系の瞳との関係図である。撮像素子には、受光部であるG1画素とG2画素の対(画素対)が複数配列されている。複数のG1画素および複数のG2画素をまとめてそれぞれ、G1画素群およびG2画素群という。対のG1画素とG2画素は、共通の(すなわち、画素対ごとに1つずつ設けられた)マイクロレンズMLを介して撮像光学系の射出瞳EXPと共役な関係を有する。また、マイクロレンズMLと受光部との間には、カラーフィルタCFが設けられている。
図5は、射出瞳EXPの位置に薄肉レンズが配置されていると仮定した場合の撮像部の模式図である。G1画素は射出瞳EXPのうちP1領域を通過した光束を受光し、G2画素は射出瞳EXPのうちP2領域を通過した光束を受光する。撮像している物点OSPには必ずしも物体が存在している必要はなく、物点OSPを通った光束は通過する瞳内での領域(位置)に応じてG1画素またはG2画素に入射する。瞳内の互いに異なる領域を光束が通過することは、物点OSPからの入射光が角度(視差)によって分離されることに相当する。すなわち、マイクロレンズMLごとに設けられたG1画素およびG2画素のうち、G1画素からの出力信号を用いて生成された画像とG2画素からの出力信号を用いて生成された画像とが、互いに視差を有する複数(ここでは一対)の視差画像となる。以下の説明において、瞳内の互いに異なる領域を通過した光束を互いに異なる受光部(画素)により受光することを瞳分割という。
図4および図5において、射出瞳EXPの位置がずれる等して、上述した共役関係が完全ではなくなったり、P1領域とP2領域とが部分的にオーバーラップしたりしても、得られた複数の画像を視差画像として扱うことができる。
図6は、撮像の他の例を示す図である。図6に示されるように、1つの撮像装置に複数の撮像光学系OSj(j=1,2)を設けることで視差画像を取得することができる。また、複数のカメラを用いて同一被写体を撮像する場合も視差画像を取得することができる。
ステップS104では、最低枚数決定部104bは、ステップS103で取得された距離情報を用いて、照度差ステレオ法による法線情報の取得に必要な画像の最低枚数である法線取得最低枚数を決定する。光源の位置が固定されている場合、被写体が遠くなるほど、撮像光学系の光軸と光源方向とがなす角(照射角度)が小さくなる。複数の光源位置での輝度変化から被写体の面法線を取得する照度差ステレオ法では、照射角度が小さくなると輝度変化が低下し、ノイズの影響が強くなる。ノイズの影響が強くなると、取得される面法線にばらつきが生じる。ばらついた面法線を用いて被写体の見えを変更する画像処理(レンダリング処理)を行うと、元の画像はノイズが増幅されてしまう。したがって、被写体までの距離が遠く、ノイズの影響が強くなる場合、面法線の取得に用いる画像枚数を多くすることでノイズの影響を低減することが好ましい。そこで、本実施例では、最低枚数決定部104は、距離情報が遠いほど、法線取得最低枚数を多くする。すなわち、最低枚数決定部104は、距離情報が第1の被写体距離である場合に決定する法線取得最低枚数を、距離情報が第1の被写体距離より短い第2の被写体距離情報である場合に決定する法線取得最低枚数に比べて多くする。例えば、最低枚数決定部104bは、法線取得最低枚数Nが式(8)を満足するように、法線取得最低枚数を決定する。
式(8)において、σnは撮像装置のノイズの標準偏差、θは照射角度、cは定数である。照射角度θは、光源面の光軸中心から被写体までの距離Dと光軸からの光源までの距離Lとを用いて、tan−1(L/D)で表わされる。なお、最低枚数決定部104bは、式(8)とは異なる条件を用いて、法線取得最低枚数Nを決定してもよい。
また、最低枚数決定部104bは、距離情報に基づく法線取得最低枚数をテーブルとして所持し、このテーブルを参照して法線取得最低枚数を決定してもよい。図7は、距離ごとの法線取得最低枚数を示すテーブルの一例である。
また、最低枚数決定部104bは、式(8)において、距離情報に応じた照射角度に基づいて法線算出最低枚数を決定する代わりに、ISO感度に基づいて法線算出最低枚数を決定してもよい。撮像装置のノイズの標準偏差σnは、撮影時のISO感度に基づいて決定することができる。
ステップS105では、レリーズボタン300が全押しされたかどうかを判定する。全押しされた場合、撮像装置1は撮影状態となり、本撮影を開始する。また、プロセスは、ステップS106に進む。全押しされていない場合、ステップS105の処理を繰り返す。
ステップS106では、システムコントローラ110は、照射光源制御部106を介して、光源部200の光源からの光を順次照射させ、撮像制御部107を介して撮像部100に被写体を撮像させる。入力画像取得部104cは、複数の撮影画像を入力画像として取得する。本ステップでは、ステップS104で決定された法線取得最低枚数以上の撮影が行われる。光源部200の光源数より少ない数の撮影を行う場合、発光させる各光源間の距離がなるべく大きくなる光源の組み合わせで発光させるとよい。発光させる各光源が近くにまとまると、光源位置を変化させた際の輝度変化が小さくなり、面法線の取得精度が低下する。また、光源部200の光源数より多い数の撮影を行う場合、光源1つにつき複数回の撮影を行ってもよい。ただし、上述したように、照度差ステレオ法により面法線を取得する場合、少なくとも3つの光源を用いて画像を取得する必要がある。
ステップS107では、法線取得部104dは、照度差ステレオ法を用いて、光源位置による複数の入力画像の輝度の変化に基づいて被写体の法線情報を取得する。
なお、本実施例では、撮像装置1内で被写体の面法線が取得されるが、撮像装置1とは異なる処理システム2を用いて被写体の面法線を取得してもよい。図2Bは、処理システム2を示す図である。処理システム2は、処理装置500、撮像部501、光源部502および法線取得部503を有する。処理装置500は、距離取得部500a、最低枚数決定部500bおよび入力画像取得部500cを備える。
処理システム2を用いて法線を取得する場合、まず、距離取得部500aは、被写体までの距離情報を取得する。次に、最低枚数決定部500bは、距離情報を用いて、法線情報の取得に必要な最低枚数である法線取得最低枚数を決定する。次に、入力画像取得部500cは、法線取得最低枚数に応じて光源部502を点灯させ、被写体を撮像部501に撮像させ、入力画像を取得する。最後に、法線取得部503は、入力画像を用いて、法線情報を取得する。
なお、処理装置500が法線取得部503を備えていてもよい。また、光源部502や距離取得部500aはそれぞれ、個別の装置であってもよいし、撮像部501に搭載されていてもよい。また、撮像部501および光源部502はそれぞれ、個別の装置であってもよいし、光源部502が撮像部501に内蔵されていてもよい。
以上説明したように、本実施例では、距離情報を用いて法線取得最低枚数を決定することで、取得される法線情報の精度を向上させることが可能である。
本実施例では、照度差ステレオ法による法線取得において法線取得精度の劣化の要因となり得る画像(以下、劣化要因画像)を検出し、入力画像の枚数が距離情報を用いて決定される法線取得最低枚数以上となるように、劣化要因画像を、入力画像から除去または補正する。このような処理を行うことで、取得される法線情報の精度を実施例1に比べて向上させることが可能である。
図8は、本実施例の撮像装置1のブロック図である。画像処理部104は、実施例1の構成に加え、劣化要因画像を検出するとともに、劣化要因画像を、入力画像から除去、または補正する検出処理部104aを備える。
図9は、本実施例の面法線取得処理を示すフローチャートである。本実施例の面法線取得処理も実施例1と同様、システムコントローラ110および画像処理部104により、コンピュータプログラムとしての処理プログラムに従って実行される。
ステップS201〜S205およびS209はそれぞれ、図3のステップS101〜S105およびS107と同様であるため、詳細な説明は省略する。
ステップS206では、システムコントローラ110は、照射光源制御部106を介して、光源部200の光源からの光を順次照射させ、撮像制御部107を介して撮像部100に被写体を撮像させる。入力画像取得部104cは、複数の撮影画像を入力画像として取得する。本ステップでは、ステップS204で決定された法線取得最低枚数以上の撮影が行われる。さらに言うと、ステップS207以降で検出された劣化要因画像を、入力画像から除去または補正するため、法線取得最低枚数より多く撮影することが好ましい。例えば、法線取得最低枚数の2倍の撮影を行えばよい。ただし、上述したように、照度差ステレオ法により面法線を取得する場合、少なくとも3つの光源を用いて画像を取得する必要がある。
ステップS207では、検出処理部104eは、ステップS206で取得された複数の入力画像から劣化要因画像を検出する。劣化要因画像とは、例えば、ブレが含まれた画像(ブレ画像)や入力画像内における主被写体の位置がずれた画像(位置ずれ画像)である。また、光源部200の一部が遮られて光源からの光が被写体に照射されずに撮影された画像等も劣化要因画像である。また、検出処理部104eは、ユーザーにより選択された画像を劣化要因画像として検出してもよい。
ブレ画像は、ブレがない画像に比べて周波数が低周波側にシフトしている画像である。そのため、検出処理部104eは、取得された複数の入力画像を周波数空間に変換した際の特定の周波数における値や特定の周波数帯域での平均値等からブレ画像を検出すればよい。例えば、周波数空間に変換した際の最大周波数の半分の周波数での値や最大周波数の半分以降の周波数における周波数帯域での平均値である周波数値が、複数の入力画像での周波数値の平均値や中央値の80%より低い画像をブレ画像と検出すればよい。ただし、本発明はこれに限定されるものではない。
検出処理部104eは、複数の入力画像のうち基準となる画像(基準画像)とのエッジ成分の差分がしきい値以上である画像を位置ずれ画像として検出すればよい。また、検出処理部104eは、複数の入力画像でSURF等の特徴量を使用した対応点の検出を行い、対応点のずれが大きい画像を位置ずれ画像として検出してもよい。ただし、本発明はこれに限定されるものではない。
検出処理部104eは、光源部200の一部が遮られて光源からの光が被写体に光が照射されずに撮影された画像として、平均輝度がしきい値以下である画像や、各入力画像の平均輝度の平均値や中央値の50%より低い平均輝度を持つ画像を検出すればよい。ただし、本発明はこれに限定されるものではない。
ステップS208では、検出処理部104eは、ステップS207で検出された劣化要因画像を、ステップS206で取得された複数の入力画像から除去、または補正する。ただし、除去または補正した後の入力画像の枚数がステップS204で決定された法線取得最低枚数より少なくならないようにする必要がある。例えば、検出処理部104eは、除去された劣化要因画像を除く入力画像の枚数が法線取得枚数以上となるように、劣化要因画像の少なくとも一部を除去すればよい。また、検出処理部104eは、補正されていない劣化要因画像を除く入力画像の枚数が法線取得最低枚数以上となるように、劣化要因画像の少なくとも一部を補正すればよい。また、検出処理部104eは、検出された劣化要因画像を除く入力画像の枚数が法線取得最低枚数より少ない場合、表示部105に警告または再撮影を促すメッセージを表示させてもよい。
例えば、ブレ画像を補正する場合、ブレ関数を推定して補正するブラインドデコンボリューションや入力したブレ関数に基づいて補正するルーシー・リチャードソン・アルゴリズム等、種々のデコンボリューション方法を用いることができる。ブレ関数は、撮像装置1内の加速度センサーなどで取得される撮影時の動き情報を用いて作成してもよい。
位置ずれ画像を補正する場合、基準画像との輝度値の差分が最少になるように位置ずれ補正を最適化する強度ベースの方法や特徴量を使用した対応点の検出を行い幾何学変換を推定して補正する特徴量ベース等、種々の位置合わせ方法を用いることができる。ただし、複数の入力画像はそれぞれ撮影時の光源位置が異なるため、特徴量ベースの方法を用いることが好ましい。
以上説明したように、本実施例では、距離情報を用いて、法線取得最低枚数を決定することで、取得される法線情報の精度を向上させることが可能である。また、本実施例では、入力画像の枚数が法線取得最低枚数を満足するように、法線情報の取得において劣化要因となる画像を、入力画像から除外または補正することで、取得される法線情報の精度を実施例1に比べて向上させることが可能である。
実施例1および実施例2では、光源部200が内蔵された撮像装置1について説明したが、本実施例では、撮像装置と光源ユニットとから構成される処理システムについて説明する。
図10は、本実施例の処理システムの外観図である。処理システムは、被写体303を撮像する撮像装置301、および複数の光源ユニット302を備える。撮像装置301は、実施例1の撮像装置1と同様の構成を有するが、照度差ステレオ法用の複数の光源を内蔵する必要はない。光源ユニット302は、撮像装置301と有線または無線で接続され、撮像装置301からの情報に基づいて制御できることが好ましい。照度差ステレオ法では少なくとも3つの光源を用いて取得された画像が必要であるが、本実施例のように光源位置が可変な光源ユニットを使用する場合、少なくとも1つの光源ユニットがあればよい。ただし、光源ユニットの位置を変え、少なくとも3つの光源位置で撮影を行う必要がある。
本実施例の法線取得処理については、実施例1または実施例2のフローと同様であるため、詳細な説明は省略する。
以上説明したように、本実施例では、距離情報を用いて法線取得最低枚数を決定することで、取得される法線情報の精度を向上させることが可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
500 処理装置
500a 距離取得部
500b 最低枚数決定部(決定部)
500c 入力画像取得部(画像取得部)
500a 距離取得部
500b 最低枚数決定部(決定部)
500c 入力画像取得部(画像取得部)
Claims (15)
- 被写体までの距離情報を取得する距離取得部と、
前記距離情報を用いて、法線情報の取得に必要な画像の最低枚数を決定する決定部と、
前記最低枚数以上の複数の画像を取得する画像取得部と、を有することを特徴とする処理装置。 - 前記複数の画像は、少なくとも3つの異なる光源位置で撮影された複数の撮影画像であることを特徴とする請求項1に記載の処理装置。
- 前記複数の画像を用いて、法線情報を取得する法線取得部を更に有することを特徴とする請求項1または2に記載の処理装置。
- 前記決定部は、前記距離情報が第1の被写体距離である場合に決定する最低枚数を、前記距離情報が前記第1の被写体距離より短い第2の被写体距離である場合に決定する最低枚数に比べて多くすることを特徴とする請求項1から3のいずれか1項に記載の処理装置。
- 前記複数の画像から劣化要因画像を検出するとともに、前記複数の画像から前記劣化要因画像の少なくとも一部を除去する検出処理部を更に有することを特徴とする請求項1から4のいずれか1項に記載の処理装置。
- 前記検出処理部は、除去された前記劣化要因画像を除く前記複数の画像の枚数が前記最低枚数以上となるように、前記劣化要因画像の少なくとも一部を除去することを特徴とする請求項5に記載の処理装置。
- 前記複数の画像から劣化要因画像を検出するとともに、前記劣化要因画像を除く前記複数の画像の枚数が前記最低枚数より少ない場合、警告または再撮影を促すメッセージを表示部に表示させる検出処理部を更に有することを特徴とする請求項1から6のいずれか1項に記載の処理装置。
- 前記複数の画像から劣化要因画像を検出するとともに、前記複数の画像から前記劣化要因画像の少なくとも一部を補正する検出処理部を更に有することを特徴とする請求項1から7のいずれか1項に記載の処理装置。
- 前記検出処理部は、補正されていない前記劣化要因画像を除く前記複数の画像の枚数が前記最低枚数以上となるように、前記劣化要因画像の少なくとも一部を補正することを特徴とする請求項8に記載の処理装置。
- 前記劣化要因画像は、ブレ画像、位置ずれ画像、および光源からの光が前記被写体に照射されずに撮影された画像の少なくともいずれかであることを特徴とする請求項5から9のいずれか1項に記載の処理装置。
- 光源部と、
被写体までの距離情報を取得する距離取得部と、
前記距離情報を用いて法線情報の取得に必要な画像の最低枚数を決定する決定部と、
前記光源部から光を照射して撮影された前記最低枚数以上の撮影画像を画像として取得する画像取得部と、を有することを特徴とする処理システム。 - 被写体を撮像する撮像部と、
前記被写体までの距離情報を取得する距離取得部と、
前記距離情報を用いて法線情報の取得に必要な画像の最低枚数を決定する決定部と、
前記撮像部が撮像する前記最低枚数以上の撮影画像を画像として取得する画像取得部と、を有することを特徴とする撮像装置。 - 被写体までの距離情報を取得するステップと、
前記距離情報を用いて法線情報の取得に必要な画像の最低枚数を決定するステップと、
前記最低枚数以上の複数の画像を取得するステップと、を有することを特徴とする処理方法。 - 請求項13に記載の処理方法をコンピュータに実行させるためのプログラム。
- 請求項14に記載のプログラムを記録したコンピュータが読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018208565A JP2020076590A (ja) | 2018-11-06 | 2018-11-06 | 処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018208565A JP2020076590A (ja) | 2018-11-06 | 2018-11-06 | 処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020076590A true JP2020076590A (ja) | 2020-05-21 |
Family
ID=70723879
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018208565A Pending JP2020076590A (ja) | 2018-11-06 | 2018-11-06 | 処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020076590A (ja) |
-
2018
- 2018-11-06 JP JP2018208565A patent/JP2020076590A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6786225B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP7179472B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 | |
JP2017102637A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP6877936B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP6671915B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
US11025829B2 (en) | Imaging apparatus, accessory, processing apparatus, processing method, and storage medium | |
US20170359500A1 (en) | Control apparatus, image capturing apparatus, control method, and non-transitory computer-readable storage medium | |
US9894343B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
CN110662013B (zh) | 摄像装置、图像处理方法和存储介质 | |
US10721395B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP6679289B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、処理プログラムおよび記録媒体 | |
JP2020076590A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラムおよび記録媒体 | |
US9906705B2 (en) | Image pickup apparatus | |
JP7309425B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、および、プログラム | |
JP7210170B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 | |
JP2018054413A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP7490457B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、およびプログラム | |
JP6910763B2 (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP2020173591A (ja) | 処理装置、処理システム、撮像装置、処理方法、および、プログラム | |
JP6136364B2 (ja) | デフォーカス量検出装置およびカメラ | |
JP2020095454A (ja) | 処理装置、撮像装置、処理システム、処理方法、プログラム、および、記憶媒体 | |
JP2020129313A (ja) | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 | |
JP2022076368A (ja) | 画像処理装置、撮像装置、情報処理装置、画像処理方法、及びプログラム | |
JP6628510B2 (ja) | 焦点調節装置の制御装置、撮像装置、焦点調節装置の制御方法、プログラム、記憶媒体 | |
JP2018022937A (ja) | 撮像システム、その制御方法およびコンピュータプログラム |