JP6112245B2 - フーリエ変換を使ったプレノプティック撮像システムの較正 - Google Patents

フーリエ変換を使ったプレノプティック撮像システムの較正 Download PDF

Info

Publication number
JP6112245B2
JP6112245B2 JP2016041413A JP2016041413A JP6112245B2 JP 6112245 B2 JP6112245 B2 JP 6112245B2 JP 2016041413 A JP2016041413 A JP 2016041413A JP 2016041413 A JP2016041413 A JP 2016041413A JP 6112245 B2 JP6112245 B2 JP 6112245B2
Authority
JP
Japan
Prior art keywords
slice
row
plenoptic
spectral power
superpixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016041413A
Other languages
English (en)
Other versions
JP2016174357A (ja
Inventor
ナムボディリ ヴィピン
ナムボディリ ヴィピン
プラサド アガラ ベンカテッシャ ラオ クリシュナ
プラサド アガラ ベンカテッシャ ラオ クリシュナ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2016174357A publication Critical patent/JP2016174357A/ja
Application granted granted Critical
Publication of JP6112245B2 publication Critical patent/JP6112245B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B41/00Special techniques not covered by groups G03B31/00 - G03B39/00; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10052Images from lightfield camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]

Description

本開示は概括的にはプレノプティック撮像システムに関し、より詳細にはプレノプティック撮像システムの較正に関する。
プレノプティック撮像システムが近年ますます注目を集めている。プレノプティック撮像システムは、捕捉されたプレノプティック像のデジタル処理に基づいてオブジェクトの異なる焦点または視点を再計算するために使うことができる。プレノプティック撮像システムは、主結像モジュールのひとみ面内の複数モード・フィルタ・アレイを使って、複数モード撮像における用途をも見出す。各フィルタはセンサーにおいて撮像され、事実上、フィルタ・アレイの各撮像モダリティについてオブジェクトの多重化された像を生成する。プレノプティック撮像システムの他の応用は、変動被写界深度撮像および高ダイナミックレンジ撮像を含む。
しかしながら、プレノプティック撮像システムの構造は通常の撮像システムの構造とは異なっており、よって異なる較正および処理手順を必要とする。プレノプティック画像の処理においていくつかの課題がみつかっている。第一に、マイクロレンズ・アレイの整列は決して完璧ではなく、センサー・アレイに対するマイクロレンズ・アレイの回転の効果は実に目につきやすい。この回転は、画像再構成について多大な困難を導入する。データ点が規則的なサンプリング格子上に当てはまらないからである。さらに、異なる応用については、異なる焦点設定が使われることがある。プレノプティック撮像システムについて、焦点の変化は、入射光の角度に影響し、それが像の縁付近での像の有効ピッチに、わずかだが認識可能な量だけ影響することがある。
このように、プレノプティック撮像システムについての較正技法が必要である。
ある種の実施形態は、プレノプティック撮像システムを較正する方法を提供することによって従来技術の限界を克服する。プレノプティック撮像システムは、スーパーピクセルに分割されている検出器アレイを含む。プレノプティック撮像システムの検出器アレイによって捕捉されたプレノプティック画像がアクセスされる。スーパーピクセルの行について、該行を通じるスライスが選択される。選択されるスライスは、該行を通じる他のスライスに比べてより強い基本成分をもつフーリエ変換をもつものである。スーパーピクセルの前記行のピッチは、選択されたスライスの基本成分の周波数に基づいて決定される。スーパーピクセルの前記行の回転は、選択されたスライスに対するプレノプティック画像の回転に基づいて決定される。
本開示の他の側面は、上記の方法に対応するコンピュータ可読記憶媒体およびシステムならびに上記のための応用を含む。
本開示の実施形態は、付属の図面との関連で考慮されるときの以下の詳細な説明および付属の請求項からより容易に明白となるであろう。
ある実施形態に基づくプレノプティック撮像システムの図である。 ひとみ面への検出器の投影を示す図である。 ある実施形態に基づく図1Aの細部である。 ある実施形態に基づく図1Aのシステムの動作をさらに例解する図である。 ある実施形態に基づく、完璧に整列されたコンポーネントによるプレノプティック撮像を示す図である。 ある実施形態に基づく、整列不良のあるマイクロ結像アレイの効果を示す図である。 ある実施形態に基づく、プレノプティック撮像システムを較正するための方法の流れ図である。 ある実施形態に基づく、図3で論じたスライスを選択するための方法の流れ図である。 Aは、ある実施形態に基づく例示的な参照プレノプティック画像を示す図であり、Bはある実施形態に基づく、Aの参照プレノプティック画像からの画像の行を使ってスライス・オフセットを例解する図である。 ある実施形態に基づく、0個のピクセルが脱落させられた、−0.006ラジアンの回転角について計算された、あるスライスのスペクトル・パワーを示す図である。 ある実施形態に基づく、「x」個のピクセルが脱落させられた、図6Aにおけるスライスのスペクトル・パワーを示す図である。 ある実施形態に基づく、「n」個のピクセルが脱落させられた、図6Aにおけるスライスについての最大スペクトル・パワーを示す図である。 ある実施形態に基づく、「n」個より多いピクセルが脱落させられた、図6Aにおけるスライスについてのスペクトル・パワーを示す図である。 ある実施形態に基づく、−0.004ラジアンの回転角において計算された、プレノプティック参照画像の一部のあるスライスのスペクトル・パワーを示す図である。 ある実施形態に基づく、−0.005ラジアンの回転角において計算されたプレノプティック参照画像の前記一部のあるスライスのスペクトル・パワーを示す図である。 ある実施形態に基づく、−0.006ラジアンの回転角において計算されたプレノプティック参照画像の前記一部のあるスライスのスペクトル・パワーを示す図である。 ある実施形態に基づく、−0.007ラジアンの回転角において計算されたプレノプティック参照画像の前記一部のあるスライスのスペクトル・パワーを示す図である。 ある実施形態に基づく、−0.008ラジアンの回転角において計算されたプレノプティック参照画像の前記一部のあるスライスのスペクトル・パワーを示す図である。 Aは、ある実施形態に基づく、焦点設定に起因するピッチの変化について較正しないプレノプティック撮像システムによって出力される画像である。Bは、ある実施形態に基づく、焦点設定に起因するピッチの変化について較正するプレノプティック撮像システムによって出力される画像である。 図面は単に例解の目的でさまざまな実施形態を描いている。当業者は、以下の議論から、本願で記載される原理から外れることなく、ここに示される構造および方法の代替的な実施形態が用いられてもよいことを容易に認識するであろう。
図1A〜図1Dは、ある実施形態に基づくプレノプティック撮像システム100の図である。プレノプティック撮像システム100はオブジェクト150のプレノプティック画像を捕捉する。プレノプティック撮像システム100は、像形成光学モジュール105を含む。該光学モジュール105は図1では単一のレンズ要素によって表わされているが、光学モジュール105は複数の要素および/または非レンズ要素(たとえば鏡)を含むこともできることは理解される。光学モジュール105はオブジェクト150の通常の光学像160を形成する。光学モジュール105は、主結像モジュール、サブシステムまたはシステムとも称されることもある。光学像160は光学モジュール105の像平面125のところに形成される。光学モジュール105はひとみ117およびひとみ面115によって特徴付けされる。ひとみ面115は図1では、前記単一のレンズ要素と共位置の物理的な開口絞りによって表されている。より複雑な光学モジュール105では、ひとみ117およびひとみ面115は該光学モジュール内の光学要素のどれとも共位置である必要はない。
通常の撮像システムでは、光学像160を捕捉するために、検出器アレイが像平面125に位置される。しかしながら、これは図1のプレノプティック撮像システム100については当てはまらない。例解の目的で、図1B〜図1Dに関して下記で論じる概念を例解するのを助けるため、ひとみ117は異なる領域111w〜zに分割されてもよい(図1Aでは領域111wのみがラベル付けされている)。
第二に、マイクロ結像素子121のマイクロ結像アレイ120が像平面125のところに位置されている。図1では、マイクロ結像素子121はマイクロレンズとして示されている。他の要素、たとえばピンホールのアレイが使われることもできる。検出器アレイ130は、マイクロ結像アレイ120の背後(すなわち光学的に下流)に位置される。より具体的には、検出器アレイ130は、ひとみ面115に対する共役面135のところに位置される。すなわち、各マイクロ結像素子121は、ひとみ面115の像を、共役面135のところに作り出し、その像が検出器アレイ130によって捕捉される。
マイクロレンズの場合、各マイクロレンズ121は、検出器平面135のところにひとみの像170を形成する。このひとみの像は、検出器アレイ130内の検出器131のサブセットによって捕捉される。各マイクロレンズ121はその独自の像170を形成する。このように、検出器平面135において形成される全体的なプレノプティック像は、スーパーピクセル170のアレイを含む。各マイクロレンズ121について一つのスーパーピクセルがある。このアレイ状の結像は、事実上、検出器アレイをスーパーピクセル133に細分する。各スーパーピクセルが複数の検出器131を含む。各マイクロレンズ121は、ひとみを、対応するスーパーピクセル133上に結像し、各ひとみ像がその後対応するスーパーピクセル内の諸検出器によって捕捉される。
逆に、図1Bを参照するに、個々の各検出器131は、マイクロレンズ121を通じてひとみ面115内の対応する位置119に投影されることができる。その特定の検出器131について、マイクロレンズ121は対応する位置119からの光を集める。図1Bは、検出器131Aの、中心のマイクロレンズを通じた位置119Aへの投影と、検出器131Bの位置119Bへの投影とを示している。検出器の投影119は好ましくは、実際の検出器サイズ131に対して少なくとも10倍拡大される。
さらなる詳細のために図1Cを参照するに、各マイクロレンズ121は(ひとみ内にはいる)領域111w〜zをスーパーピクセル133上に結像する。個々の各領域111wは諸領域111の全体の単なる一部であり、よって領域111wの像171wはスーパーピクセル133の一部のみをカバーする。その部分は、図1Cの詳細において示されるように、サブピクセル132と称される。すなわち、各マイクロレンズ121は領域111からの光を、対応するサブピクセル132に差し向ける。各サブピクセル132は、一つまたは複数の検出器を含んでいてもよい。
各検出器131は、一つの領域(たとえば領域111w)から、一つのマイクロレンズ121を通過する光を集める。マイクロ結像アレイ120は、オブジェクト150に対して共役面に位置されている。よって、オブジェクト150とマイクロ結像アレイ120との間に結像関係もある。したがって、マイクロレンズに入射する光は、オブジェクト全体からではなくオブジェクトの一部から発する光である。いくつかのシステムでは、ひとみ面のところにフィルタ・アレイが位置され、各領域111は異なるフィルタに対応する。その場合、各検出器131は(マイクロレンズの広がりによって決定されるところの)オブジェクトの対応する部分からの光が、対応するフィルタ111によってフィルタリングされたものを集める。
図1Dは、この概念をより詳細に示している。明確のため、主レンズ105は省略されている。この例では、オブジェクト150は三つの部分オブジェクト151A、B、Cに分割されている。同様に、四つの領域111w、x、y、zは四つの異なるフィルタに対応する。オブジェクト150は、マイクロ結像アレイ120上に結像される。より具体的には、部分オブジェクト151Bはマイクロレンズ121B上に結像される。これは、部分オブジェクト151Bを出るすべての光線がひとみを通過(そしてひとみのどこを通過するかに依存して異なる領域111を通過)し、マイクロレンズ121Bに到達することを意味する。同様に、部分オブジェクト151Aはマイクロレンズ121A上に結像され、部分オブジェクト151Cはマイクロレンズ121C上に結像される。
さらに、マイクロレンズ121Bは、諸領域111のすべて(少なくともひとみ内にはいる部分)を部分アレイ133B上に結像する。よって、領域111wはマイクロレンズ121Bによってサブピクセル132B(w)上に結像され、領域111xはサブピクセル132B(x)上に結像され、他のフィルタ/サブピクセル対についておよび他のマイクロレンズ121についても同様である。完全にサブピクセル132B(w)内にはいる検出器131について、それらの検出器は、領域111wを通過する部分オブジェクト151Bからくる光を検出する。同じことは、他のサブピクセル132A(w)〜132C(z)についても成り立つ。
本撮像システムは、検出器によって収集される光線が(通常の撮像システムにおけるように)オブジェクト平面におけるその位置の関数であるだけでなく、ひとみ面におけるその位置の関数でもあるので、「ライトフィールド」撮像システムである。
再び図1Aを参照するに、処理モジュール180は検出器アレイ130からのデータを収集し、それをしかるべく処理する。単純な例として、デジタル処理ユニット180は、領域(またはフィルタ)111wを通る光についてオブジェクト全体の像を形成するために、データを並べ替えて、サブピクセル132A(w),132B(w)および132C(w)からのデータをまとめてもよい。同じことは、領域111x、y、zについてもできる。捕捉されたライトフィールドは、ひとみ面およびオブジェクト両方に関する情報を含むので、他の型の処理が実行されることもできる。
プレノプティック撮像システム100の製造の結果、常にマイクロ結像アレイ120が検出器アレイ130とよく整列されるわけではない。プレノプティック像の処理は、マイクロ結像アレイ120と検出器アレイ130の間の整列不良に敏感である。先の例では、サブピクセル132A(w)、132B(w)および132C(w)を処理するために、どの個々の検出器がサブピクセル132A(w)、132B(w)および132C(w)に対応するかがわかっているべきである。整列不良は、プレノプティック撮像システム110からのビュー抽出に影響しうる。
図2Aは、ひとみ117およびマイクロ結像アレイ120が完璧に検出器アレイ130と整列されているときのプレノプティック撮像を例解する図である。この例では、ひとみ117は円形であり、四つの領域A〜Dに分割されている。たとえば、四象限フィルタ・アレイと関連して用いられる円形レンズである。マイクロ結像アレイ120はマイクロレンズ121の3×3のアレイである。マイクロ結像アレイ120は、各マイクロレンズについてのクリアーな開口に加え、各マイクロレンズの中心によって定義される。これらのマイクロレンズは完璧に整列されており、よってそれらの中心は、破線で示されるような正方形格子上に載る。結果として得られるプレノプティック像175は、ひとみのスーパーピクセル170(すなわちスーパーピクセル)の3×3アレイである。明確のため、拡大および反転は無視している。各像170の中心は、マイクロレンズの中心を定義する正方形格子によって決定される正方形格子上に載る。図2Aにおける太いx軸およびy軸は、検出器アレイを基準にして定義される局所座標系を示している。プレノプティック像175については、太いx軸およびy軸は、検出器アレイを基準にしてプレノプティック像175の位置を示す。プレノプティック像175の検出器アレイ130との整列が、どの検出器がどのスーパーピクセルおよびサブピクセルに対応するかを決定する。図2Aでは、プレノプティック像175は検出器アレイと完璧に整列されている。
図2Bは、整列不良のあるマイクロ結像アレイ120の効果を示す図である。この図では、太いx軸およびy軸は、諸コンポーネントのもとの整列された位置を示している。図2Bでは、マイクロ結像アレイ120は回転している。これは、プレノプティック像中の各像170の位置を定義する正方形格子を回転させる。しかしながら、各像170自身は回転されない(マイクロレンズ自身が回転対称であるとして)。すなわち、各像170は、根底にある正方形格子の回転に起因して、新たな位置に並進される。この回転はたとえば製造中のマイクロレンズ121の整列不良に起因することがある。原因が何であれ、回転は図2Aの完璧な正方形格子に影響する。諸マイクロレンズの新たな諸中心が新たな格子を定義する。
図2Bの整列不良は、どの検出器がどのスーパーピクセルおよびサブピクセルに寄与するかを変えることを注意しておく。明確のため、図2Aおよび図2Bにおいて拡大は無視した。しかしながら、プレノプティック画像175の倍率の変化(すなわち、破線の正方形格子の伸張または縮小)も、どの検出器がどのスーパーピクセルおよびサブピクセルに寄与するかを変える。一般に、プレノプティック像を処理して良好な結果が得られるよう、検出器アレイをプレノプティック像に正確にマッピングすることが重要である。多くの状況において、このマッピングは好ましくは較正プロセスを通じて行われる。
下記でさらに説明するように、較正は典型的には、検出器アレイ130に対するプレノプティック画像の回転を判別することを含む。回転を考慮しないとビュー抽出に誤差が生じるので、回転の判別は重要である。較正はまた、主として、検出器アレイ130に対するスーパーピクセルのピッチ(すなわちサイズ)を判別することを含む。いくつかの実施形態では、撮像プレノプティック・システム100は、抽出されるビューに対して超解像度技法を実行する。よって、ピッチは超解像度技法に影響するので、正確なピッチをもつことが重要である。回転およびピッチは、検出器アレイ130に対してマイクロレンズ・アレイ120を位置決めすることによって影響されることがあるが、焦点設定の変化など他の因子によっても影響されることもある。また、超解像度技法が適用されるので、ピッチがサブピクセルに関する高い粒度をもつことが必須である。よって、正確なピッチを見出し、それを非整数ピクセルを用いて表現することが非常に重要になる。
図3は、プレノプティック撮像システム100を較正する一つの方法の流れ図である。ある実施形態では、図3のプロセスはプレノプティック撮像システム100によって(たとえば処理モジュール180を介して)実行される。他の実施形態では、該プロセスの段階の一部または全部を他のモジュールが実行してもよい。同様に、実施形態は、異なるおよび/または追加的な段階を含んでいたり、あるいは段階を異なる順序で実行したりしてもよい。
プレノプティック撮像システム100は参照プレノプティック画像を捕捉する(310)。いくつかの実施形態では、プレノプティック撮像システムは、一様に照明されるオブジェクト(たとえば結像されたときに検出器アレイ130を満たす白色カード)を結像して参照プレノプティック像を作り出す。上記で論じたように、各マイクロレンズ121は検出器平面135においてひとみ117の像またはスーパーピクセル170を形成する。よって、上記のようにして生成される参照プレノプティック画像は、各マイクロレンズ121について一つある像またはスーパーピクセルの二次元アレイである。
参照二次元プレノプティック画像を通じて複数の異なる一次元スライスが取られることができる。較正目的のために、主として、スーパーピクセルのある行を通じて取られる一次元スライスを扱う。たとえば、N個のスーパーピクセルの行を考える。スライスは、このスーパーピクセルの行の上、中または下を通じて、すなわち最高のスペクトル・パワーをもつ行内の異なるオフセットのところで、取られることができる。スライスは画像の異なる回転においても取られることができる。たとえば、あるスライスは行の左下から右上に延びることができ、別のスライスは行の真ん中を通じて延びることができ、さらにもう一つのスライスは行の左上から右下に延びることができる。いくつかの実施形態では、行内のオフセットは固定される。
較正手順は、フーリエ変換(たとえば離散フーリエ変換)が参照プレノプティック画像において最高のスペクトル・パワーをもつ、参照プレノプティック画像を通じた一次元スライスを選択する(320)。「最高」のパワーは典型的には、その基本成分においてより高いスペクトル・パワーをもつスライスとして実装される。ある手法では、これは、まずスーパーピクセルのある行内で種々のオフセットにおけるスライスを考慮することによって達成される。それらのスライスは互いに平行であり、スーパーピクセルのその行をスパンする。図5のAおよびB参照。最高のスペクトル・パワー(たとえば、他のスライスに比べてより強い基本成分)をもつスライスが選択される。次いで、参照プレノプティック画像は、選択されたスライスに対して異なる諸角度に回転させられ、第二の複数のスライスを生成する。図7Aないし図7E参照。物理的には、スライスは、ピッチについての精度要求に基づいてアップスケーリング(たとえば8×、16×のアップスケーリング)された生のセンサー・データの行である。ここでもまた、最高のスペクトル・パワーをもつスライスが選択される。
選択されたスライスは、検出器アレイ130に対する、プレノプティック画像のその部分のピッチおよび回転を決定する(330)ために使われる。ピッチは、選択されたスライスのフーリエ変換の基本周波数に基づいて決定される。たとえば、ピッチは、最高のスペクトル・パワーに関連付けられた基本周波数をサンプルのサイズで割ることによって決定されてもよい。いくつかの実施形態では、サンプルのサイズはスペクトル漏れを考慮に入れる。
回転は、選択されたスライスの回転に基づいて決定される。プレノプティック画像の残りは同じピッチおよび回転をもつと想定されてもよい。あるいはまた(そして任意的に)、上記プロセスはプレノプティック画像における異なる位置(すなわち、スーパーピクセルの異なる行)について反復されて(340)、各位置についてピッチおよび回転を決定してもよい。たとえば、上記スライスがプレノプティック画像全体をスパンする行についてである場合、ピッチおよび回転は行全体を通じて一定であると想定してもよい。あるいはまた、プレノプティック画像全体をスパンするために使われる複数のスライスがあってもよい。その場合、それら複数のスライスのそれぞれについて異なるピッチおよび回転が決定されてもよい(すなわち、区分毎の解)。複数のサンプル点があるときは補間も使用されることができる。ピッチは複数の異なる方向について決定されてもよい。xおよびy方向のピッチは六角形充填のため異なるが、他方のピッチは簡単な幾何学を使って決定されることができる。
段階320では、最高のスペクトル・パワーをもつスライスを特定するために種々の方法論が使用されうる。方法論は、たとえば、逐次反復方法(たとえば、下記で図4において回転に関して論じるようなもの)、網羅的探索、勾配上昇法、一組の数のうちの最大値を特定する他のいくつかの方法論またはそれらの何らかの組み合わせを含みうる。さらに、スーパーピクセルの行が与えられたとき、スライスの特定は典型的には、二つ以上の変数を使う:スライスのオフセット、スライスの回転、可能性としてはスライスの長さである。これらの変数は、別個にまたは一緒に最適化されることができる。たとえば、図4はまずオフセットを、次いで回転を選択する。代替的な手法では、これらの変数の両方が一緒に最適化されてもよい。
図4は、図3で論じた、スライスを選択する(320)ためのある実施形態の流れ図である。ある実施形態では、図4のプロセスはプレノプティック撮像システム100によって(たとえば処理モジュール180を介して)実行される。他の実施形態では該プロセスの段階の一部または全部を他のモジュールが実行してもよい。同様に、実施形態は、異なるおよび/または追加的な段階を含んでいたり、あるいは段階を異なる順序で実行したりしてもよい。図4において(のちの図6A〜D、図7A〜Eおよび図8のA〜Bについても)、与えられるデータについてのデータ値は単に例であり、これらのデータ値は特定の主レンズ(たとえば光学モジュール105)およびカメラ・センサー(たとえば検出器アレイ130)についてのものであることを注意しておく。異なるフォーカス価(focal value)をもつ他の何らかの主レンズおよび/または他のカメラ・センサーが使われる場合には、データ値は異なることがある。
図4に示されるプロセスは二つのフェーズに分けることができる。第一のフェーズは、410未満の段階を含む。このフェーズは、スーパーピクセルの行内の種々のオフセットにあるスライスを考慮する。それらのスライスは互いに平行であり、スーパーピクセルのその行をスパンする。これらの一次元スライスはまず定義され(402)、次いで構築される(405)。最高のスペクトル・パワー(たとえば、他のスライスに比べてより強い基本成分)をもつスライスが選択される(407)。
第二のフェーズは、段階410以上を含む。このフェーズでは、参照プレノプティック画像が第一のフェーズにおいて選択されたスライスに対して種々の角度に回転させられ、最良の回転角が選択される。初期分解能での回転角の初期集合が決定される(410)。いくつかの実施形態では、回転角の初期集合は0ラジアンをブラケットし、初期分解能をもつ。初期分解能は、隣り合う回転角の間の離間を制御する。たとえば、初期分解能は0.001ラジアンであってもよく、回転角の集合は[−0.010,−0.009,…,0.000,…,0.009,0.010]であってもよい。この例では、ブラケットのサイズは21個の回転角である。他の実施形態では、ブラケットのサイズおよび/または初期分解能はより大きかったりまたはより小さかったりしてもよい。
参照プレノプティック画像は上記スライスに対して第一の回転角に回転させられる(412)。参照プレノプティック画像が上記スライスに対して回転させられると、上記スライスはプレノプティック参照画像の異なる部分をサンプリングする。よって、各回転角は、プレノプティック参照画像の異なる部分をサンプリングするスライスに対応する。
スライスのスペクトル・パワーが決定され(415)、スペクトル漏れについて調整される。これは、スライスの離散フーリエ変換(DFT)を取り、DFTの出力を使ってスライスのスペクトル・パワーを決定することによってなされる。
スライスが有限なので、スライスのDFTの結果、周波数スペクトルにおける出力のわずかなぼけが生じることを注意しておく。スペクトル漏れは本質的には、スライスの長さが有限であるためにDFTの出力に導入される望まれない周波数成分である。これらの周波数成分は一般に、突然の周波数ジャンプまたは所望される周波数成分をマスクしうる他の何らかの高周波数現象として現われる。
スペクトル漏れは、図6A〜図6Dに関して下記で例解するようなスペクトル捜索(spectral hunt)を実行することによって調整される。スペクトル捜索を実行するために、スライスのスペクトル・パワー(たとえばスライスのDFTを使う)が、当該スライスの種々のサイズのサンプルについて決定される。正しい周波数成分(たとえば、マイクロレンズのピッチに対応するもの)が共振するチャンスを与えられ、スペクトル漏れによって影が薄くならないことを保証するためである。いくつかの実施形態では、スライスの先頭に対応する開始点およびスライスの終わりに対応する終点が決定される。開始点および終点を含むスライスについてのスペクトル・パワーが決定される。開始点は、一ピクセルだけ終点に向かってシフトされ、事実上、スライスから以前の開始点が脱落させられ、新たなわずかに小さくなったスライスについてスペクトル・パワーが決定される。開始点をシフトさせてますます切り詰められていくスライスのスペクトル・パワーを決定するこのプロセスは、閾値数のピクセルが脱落させられてしまうまで繰り返される。よって、それぞれが当該スライスの異なるサイズに対応する複数のスペクトル・パワーが生成される。いくつかの実施形態では、閾値数のピクセルは、スライスの脱落させられた部分が二つの隣接するスーパーピクセルをスパンするようなピクセル数である。前記複数のスペクトル・パワーのうちの、諸周波数成分の最高のスペクトル・パワーをもつスペクトル・パワーが選択され、これがプレノプティック画像のピッチに対応する。
図4に戻ると、段階420は、回転角の初期集合におけるすべての回転角についてスペクトル・パワーが決定されたかどうかを判定する。まだであれば、参照プレノプティック画像がスライスに対して異なる回転角に回転させられる(425)。上記の例を続けると、プレノプティック画像は、第一のフェーズで選択されたスライスに対して−0.009ラジアンにあるよう回転させられてもよい。すると、プロセス・フローは段階415に移り、該異なる回転角におけるスライスのスペクトル・パワーを決定する。このプロセスは、回転角の上記集合におけるすべての回転角においてそのスライスについてスペクトル・パワーが決定されるよう、続けられる。この実施形態では、決定されたスペクトル・パワーはみなスペクトル漏れについて調整されていることを注意しておく。代替的な実施形態では、較正モジュールはスペクトル漏れのスペクトル・パワーを調整しない。
最高のスペクトル・パワーに関連付けられている回転角が選択される(430)。たとえば、回転角の初期集合のうち最高のスペクトル・パワーをもつ回転角は−0.006ラジアンであってもよく、するとこれが選択されることになる(下記の表1参照)。段階435は、選択された回転角の分解能がある閾値以上であるかどうかを判定する。該閾値は、回転角がどのくらい精密に決定されるかを決定する。たとえば、閾値は0.00001ラジアンであってもよい。選択された回転角の分解能がこの閾値以上であれば、プロセスは終了する。そうでなく、選択された回転角の分解能が該閾値に満たなければ、分解能はたとえば10倍増大させられる(440)。上記の例を続けると、分解能は今や0.001の代わりに0.0001ラジアンとなる。
段階445は、増大した分解能で回転角のより細かい集合を決定する。このより細かい回転角の集合は、前に選択された回転角(段階430で選択されたもの)をブラケットする。上記の例を続けると、較正モジュールは、0.0001ラジアンの増大した分解能での諸回転角によって−0.006ラジアン(すなわち、前に選択された回転角)をブラケットする。たとえば、回転角のより細かい集合は[−0.0070,−0.0069,…,−0.0060,…,−0.0051,−0.0050]であってもよい。
参照プレノプティック画像は上記スライスに対して、回転角の上記より細かい集合の第一の回転角まで回転させられる(450)。たとえば、プレノプティック画像は、第一のフェーズで選択されたスライスに対して−0.0070ラジアンにあるよう回転させられてもよい。すると、プロセス・フローは段階415に移り、段階415、420、425、430および435を介して、回転角の上記より細かい集合の各回転角におけるスライスについてのスペクトル・パワーを決定し、回転角の上記より細かい集合のうち、最高の調整されたパワーをもつ回転角を選択する(430)。たとえば、回転角の上記より細かい集合のうち、−0.0063ラジアンの回転角が最高の調整されたスペクトル・パワーをもつことがある。再び、段階435は、選択された回転角の分解能がある閾値以上であるかどうかを判定し、選択された回転角の分解能がまだ該閾値に満たなければ、プロセス・フローは段階440に移る。このようにして、較正プロセスは、逐次反復式に非常に細かい度合いまで回転角を高速に特定できる。
ひとたび較正プロセスが、選択された回転角の分解能が上記閾値以上であると判定したら(435)、プロセスは終了し、図3の段階330に進む。
たとえば、表1は、特定の主レンズ(たとえば光学モジュール105)およびカメラ・センサー(たとえば検出器アレイ130)について特定の参照画像について最高のスペクトル・パワーをもつ回転角を選択する段階410〜450の結果を示している。他のフォーカス価をもつ主レンズおよび/または他のカメラ・センサーが使われる場合には、データ値は異なることがある。
Figure 0006112245
表1の例示的な値から、較正プロセスが0.001ラジアンの分解能で始まり、−0.006ラジアンの回転角において初期の勝ち残り(すなわち、所与の回転角の集合のうち最高のスペクトル・パワーをもつもの)を決定したことが見て取れる。次いで分解能を10倍高め、次いで該より細かい分解能における別の勝ち残り回転角を見出している(すなわち、−0.0063ラジアン)。次いで、分解能を10倍高め、−0.00626ラジアンのところに最終的な勝ち残りを見出している。
図5のAおよびBは、図4の第一のフェーズを示している。図5のAは、例示的な参照プレノプティック画像500を示す図である。この例では、マイクロ結像アレイ120は六角形充填されたマイクロレンズ121の9×9のアレイである。よって、参照プレノプティック画像500は、六角形充填されたスーパーピクセル170の9×9のアレイを含む。この9×9アレイは、9個の行510a〜iから構成されており、各行は、マイクロ結像アレイ120における対応するマイクロレンズのそれぞれについての9個のスーパーピクセルを含む。図4の第一のフェーズは、参照プレノプティック画像においてフーリエ変換が最高のスペクトル・パワーをもつ参照プレノプティック画像500のスライス530を見出す。
図5のBは、図5のAにおいて参照プレノプティック画像500からのスーパーピクセル170の行510を使って、スライス・オフセットを例解する図である。スライスのスペクトル・パワーは行内でのそのオフセットとともに変わる。参照プレノプティック画像500は、ひとみ117のスーパーピクセル170の概して周期的なアレイである。スーパーピクセル170の行510を通じたスライスのオフセットは、そのスライスに関連付けられるスペクトル・パワーに影響する。たとえば、行510は、行510の上の部分を通るスライス540a、行510の中央を通るスライス540bおよび行510の下の部分を通るスライス540cを含んでいてもよい。スライス540a、540bおよび540cのスペクトル・パワーはみな互いに異なっており、行510について、行510内の他のスライスより高いスペクトル・パワーをもつ一つのスライスがある。たとえば、スライス540bが最高のスペクトル・パワーをもつことがある。いくつかの実施形態では、スライスは行510またはその一部を、当該行に対して0でない角度で(たとえばスライスが行510に対して回転されている場合)スパンしてもよい。
図6A〜図6Dは、図4を参照して上記で論じたスペクトル捜索における種々の段階を例解している。ピクセルが脱落させられるにつれて、スペクトル成分640はパワーにおいて増大および/または減少することがある。スペクトル成分640についての最大スペクトル・パワーは、図3および図4に関して上記したようにピッチを計算するために使われる基本周波数において現われる。図6Aは、0個のピクセルが脱落させられた、−0.006ラジアンの回転角について計算された、スライス610のスペクトル・パワーを示す描画600である。開始点620Aから終点630までスライス610のDFTが計算される。描画600は、計算されたDFTのスペクトル・パワーを周波数の関数として示すスペクトル・パワー・チャート615を含んでいる。スペクトル成分640Aが最も強いスペクトル・パワーをもつ。
図6Bは、「x」個のピクセルが脱落させられた、図6Aのスライス610のスペクトル・パワーを示す描画660である。スライス610のこのDFTは開始点620Bから終点630まで計算される。開始点620Aと開始点620Bの間の差は、スライス610から「x」個のピクセルが脱落させられていることである。スペクトル成分640Bは640Aより高いスペクトル成分をもつ。
図6Cは、「n」個のピクセルが脱落させられた、図6Aのスライス610についての最大スペクトル・パワーを示す描画670である。スライス610のこのDFTは開始点620Cから終点630まで計算される。開始点610Aと開始点610Cの間の差は、スライス610から脱落させられている「n」個のピクセルである。nはxより大きい。スペクトル成分640Cは図6Aおよび図6Bにおける640Aおよび640Bより高いスペクトル成分をもつことを注意しておく。
図6Dは、「n」個より多いピクセルが脱落させられた、図6Aのスライス610についてのスペクトル・パワーを示す図である。スライス610のこのDFTは開始点620Dから終点630まで計算される。開始点620Aと開始点620Dの間の差は「n」ピクセルより大きい。スペクトル成分640Dは図6Cにおける640Cより低いスペクトル成分をもつことを注意しておく。よって、この例では、スペクトル成分640Cが基本周波数に対応する。
図7A〜図7Eは、スライスのスペクトル・パワーが回転角とともにどのように変わるかを例解している。図7Aは、−0.004ラジアンの回転角において計算された、プレノプティック参照画像の一部720のスライス710Aのスペクトル・パワーを示す描画700である。描画700は、プレノプティック参照画像の一部720およびスペクトル・パワー・チャート730を含む。一部720は、−0.004ラジアンの回転角だけスライス710Aに対して回転されており、スライス710Aのサイズは先述したようにスペクトル漏れについて調整されている。チャート730は、−0.004ラジアンの回転角での優勢なスペクトル成分740Aを示している。
図7Bは、−0.005ラジアンの回転角において計算されたプレノプティック参照画像の前記一部720のスライス710Bのスペクトル・パワーを示す描画750である。一部720は、−0.005ラジアンの回転角だけスライス710Bに対して回転されている。チャート730は、−0.005ラジアンの回転角での優勢なスペクトル成分740Bを示している。優勢なスペクトル成分740Bは図7Aにおける740Aより高いパワーをもつことを注意しておく。
図7Cは、−0.006ラジアンの回転角において計算されたプレノプティック参照画像の前記一部720のスライス710Cのスペクトル・パワーを示す描画760である。一部720は、−0.006ラジアンの回転角だけスライス710Cに対して回転されている。チャート730は、−0.006ラジアンの回転角での優勢なスペクトル成分740Cを示している。この例については、−0.006ラジアンの回転角は最大の優勢なスペクトル成分740Cを与えることを注意しておく。
図7Dおよび図7Eは、回転角が−0.006ラジアンから離れていく際に優勢な成分のパワーが減少する様子を示している。図7Dは、−0.007ラジアンの回転角において計算されたプレノプティック参照画像の前記一部720のスライス710Dのスペクトル・パワーを示す描画770である。一部720は、−0.007ラジアンの回転角だけスライス710Dに対して回転されている。チャート730は、−0.007ラジアンの回転角での優勢なスペクトル成分740Dを示している。図7Eは、−0.008ラジアンの回転角において計算されたプレノプティック参照画像の前記一部720のスライス710Eのスペクトル・パワーを示す描画780である。一部720は、−0.008ラジアンの回転角だけスライス710Eに対して回転されている。チャート730は、−0.008ラジアンの回転角での優勢なスペクトル成分740Eを示している。図7Cにおける優勢なスペクトル成分740Cが、740C、740Dや740A、740Bより高いパワーをもつことを注意しておく。
図3および図4に関して上記で論じた較正プロセスの一つの有益な効果は、所与の焦点距離について有効ピッチにおけるいかなる変動も考慮に入れるということである。プレノプティック撮像システム100について、検出器アレイ130に対するプレノプティック画像の回転角は典型的には焦点の変化とともに変化しない。しかしながら、焦点の変化は、ピッチ決定に影響しうる入射光の角度に影響する。いくつかの実施形態では、プレノプティック撮像システム100は、図3および図4を参照して上記した較正を、異なる複数の可能な焦点設定について実行し、それにより種々の焦点設定についてのピッチ値を決定する。たとえば、30mmのところにあるオブジェクトに焦点を合わせる結果、18.5649ピクセルの対応するピッチ値が得られることがあり、70mmのところにあるオブジェクトに焦点を合わせる結果、18.5817ピクセルの対応するピッチ値が得られることがある。よって、プレノプティック撮像システム100は、所与の焦点設定に基づいて正しいピッチ値を選択できる。
焦点の変化が考慮に入れられないと、像の縁のあたりでの衰え(fading)および/または像に対する他の歪みにつながることがある。図8のAは、焦点設定によって引き起こされるピッチの変化を考慮しないプレノプティック撮像システム100によって出力される像800である。像の縁における衰え810に注意されたい。図8のBは、焦点設定によって引き起こされるピッチの変化について較正するプレノプティック撮像システム100によって出力される像850である。
上記のプレノプティック撮像システム100の較正は、種々のエンティティによっておよび/または種々の時間において実行されうる。たとえば、較正は、工場において、フィールドでプレノプティック撮像システム100のユーザーによって実行されてもよく、プレノプティック撮像システム100によって自動的に実行されてもよいなどである。たとえば、プレノプティック撮像システム100は、新しい像形成光学モジュール105がプレノプティック撮像システム100に取り付けられるときに較正を実行するよう構成されていてもよい。いくつかの実施形態では、マイクロ結像アレイ120の検出器アレイ130に対する整列の較正およびセンサー・ピクセル・サイズに関しての各マイクロレンズ121のピッチの較正は、すべてのプレノプティック撮像システム100について、いずれも系統的に(たとえば、図3および図4を参照して上記したプロセスを介して)実行される。以前に較正されたプレノプティック撮像システム100にマルチスペクトル・フィルタが追加されるまたは置換される場合、プレノプティック撮像システム100は較正し直されるべきである。いくつかの実施形態では、焦点リング設定に起因するピッチ・パラメータを較正することは、プレノプティック撮像システム100のファミリーについて一度実行される。
本稿に開示される較正システムおよび方法は、いくつかの利点をもつ。たとえば、プレノプティック撮像システム100の較正は、ビュー抽出を補正し、超解像度技法において支援する。さらに、較正は、検出器アレイ130に関するマイクロ結像アレイ120の整列を含み、これは複数のビューの混合によって生成される正しくないビューを考慮に入れることによってビュー抽出誤差を補正する。もう一つの利点は、センサー・ピクセル・サイズに関する各マイクロレンズ121のピッチの較正はサブピクセル・データを活用することにより超解像度技法において支援するということである。さらに、焦点リング設定に起因するピッチ・パラメータにおける変化の較正の利点は、レンズの焦点の変化が光が捕捉される角度に対してもつ影響を考慮に入れることによって、像の縁のあたりでの衰えおよび/または像に対する他の歪みを補正するということである。
〈追加的な構成設定情報〉
詳細な説明は多くの個別的事項を含むが、それは本開示の範囲を限定するものではなく、単にさまざまな実施形態の種々の例および側面を例解するものと解釈すべきである。本開示の範囲は上記で詳細に論じていない他の実施形態をも含むことは理解しておくべきである。
たとえば、反射系および反射屈折系を含めさまざまな型の光学モジュールを使うことができる。いくつかの応用では、光学モジュールは好ましくはテレセントリックである。最後に、「光」および「光学」といった用語は電磁スペクトルの可視または純粋に光学的な領域に限定されることを意図されてはおらず、紫外および赤外といった領域をも含む(だがこれらに限定されない)ことが意図されている。
上記の記述のいくつかの部分はアルゴリズム的なプロセスまたは動作を用いて実施形態を記述している。これらのアルゴリズム的な記述および表現は、当業者によって、自分の仕事の実質を他の当業者に効果的に伝えるために普通に使われているものである。これらの動作は、機能的、計算的または論理的に記載されているものの、プロセッサまたは等価な電気回路による実行のための命令を含むコンピュータ・プログラム、マイクロコードなどによって実装されることが理解される。さらに、時に、一般性を失うことなく、機能的な動作のこれらの構成をモジュールと言及することが便利であることが判明している。記載される動作およびその関連するモジュールはソフトウェア、ファームウェア、ハードウェアまたはそれらの任意の組み合わせにおいて具現されてもよい。ある実施形態では、ソフトウェア・モジュールは、記載される段階、動作またはプロセスの任意のものまたは全部を実行するためにコンピュータ・プロセッサによって実行されることのできるコンピュータ・プログラム・コードを含む非一時的なコンピュータ可読媒体を有するコンピュータ・プログラム・プロダクトを用いて実装される。
本稿での用法では、「一つの実施形態」または「ある実施形態」へのいかなる言及も、その実施形態との関連で記載される特定の要素、特徴、構造または特性が少なくとも一つの実施形態に含まれることを意味する。「ある実施形態では」という句が明細書のさまざまな箇所に現われることは、必ずしもみなが同じ実施形態を指しているのではない。
本稿での用法では、用語「有する」「含む」「包含する」「もつ」またはそれらの他の任意の変形は、非排他的な包含をカバーすることが意図されている。たとえば、一連の要素を有するプロセス、方法、物品または装置は必ずしもそれらの要素のみに限定されるのではなく、明示的に挙げられたりそのようなプロセス、方法、物品または装置に内在的であったりしない他の要素を含んでいてもよい。さらに、そうでないことが明示的に述べられているのでない限り、「または」は、排他的離接ではなく包含的離接を指す。たとえば、条件AまたはBは、次のうちの任意のものによって満たされる:Aが真である(または存在する)かつBが偽である(または存在しない)、Aが偽である(または存在しない)かつBが真である(または存在する)、およびAおよびBの両方が真である(または存在する)。
105 像形成光学モジュール
111 領域、フィルタ
115 ひとみ面
117 ひとみ
119 ひとみ面内の位置
120 マイクロ結像アレイ
121 マイクロ結像素子
125 像平面
130 検出器アレイ
131 検出器
132 サブピクセル
133 スーパーピクセル
135 検出器平面
150 オブジェクト
151 部分オブジェクト
160 光学像
170 各マイクロレンズに対応する、ひとみの像
180 プロセッサ
171 各領域の像
175 プレノプティック像
310 参照プレノプティック画像を捕捉
320 フーリエ変換が最高のパワーをもつスライスを選択
330 ピッチおよび回転を決定
340 プレノプティック画像中の別の位置を選択
402 オフセットの初期集合を決定
405 各オフセットについてスライスを構築
407 最高のスペクトル・パワーをもつスライスを選択
410 初期分解能での回転角の初期集合を決定
412 プレノプティック画像をスライスに対して第一の回転角回転
415 スペクトル漏れについて調整されるスライスのスペクトル・パワーを決定
420 全回転角についてスペクトル・パワーが決定されたか?
425 参照プレノプティック画像をスライスに対して異なる回転角に回転
430 最高のスペクトル・パワーに関連付けられている回転角を選択
435 選択された回転角の分解能≧閾値?
440 分解能を増大
445 増大した分解能で回転角のより細かい集合を決定
450 参照プレノプティック画像を、スライスに対して、回転角のより細かい集合の第一の回転角まで回転

Claims (20)

  1. プレノプティック撮像システムを較正する方法であって、前記プレノプティック撮像システムは検出器アレイを含み、前記プレノプティック撮像システムは前記検出器アレイをスーパーピクセルに分割し、当該方法は:
    前記プレノプティック撮像システムの前記検出器アレイによって捕捉されたプレノプティック画像にアクセスする段階と;
    スーパーピクセルの行について、該行を通じるスライスを選択する段階であって、選択されたスライスは、その行を通じる他のスライスに比べてより強い基本成分をもつフーリエ変換をもつものである、段階と;
    スーパーピクセルの前記行のピッチを、前記選択されたスライスの基本成分の周波数に基づいて決定し、スーパーピクセルの前記行の回転を、前記選択されたスライスに対する前記プレノプティック画像の回転に基づいて決定する段階とを含む、
    方法。
  2. 前記選択されたスライスと前記プレノプティック画像との間の複数の異なる回転角を決定する段階と;
    前記複数の回転角のそれぞれにおいて前記スライスのスペクトル・パワーを決定する段階と;
    最高のスペクトル・パワーに関連付けられた回転角を選択する段階であって、選択された回転角がスーパーピクセルの前記行の前記回転である、段階とをさらに含む、
    請求項1記載の方法。
  3. 前記複数の回転角のそれぞれにおいて前記スライスのスペクトル・パワーを決定する段階がさらに、各スペクトル・パワーをスペクトル漏れについて調整する段階を含む、請求項2記載の方法。
  4. スペクトル・パワーをスペクトル漏れについて調整する段階が:
    特定の回転角について、
    前記スライスの複数の異なるサンプル・サイズについて前記スライスのスペクトル・パワーを決定し;
    決定されたスペクトル・パワーのうちの最高のスペクトル・パワーを選択することを含む、
    請求項3記載の方法。
  5. スーパーピクセルの前記行のピッチを、前記選択されたスライスの基本成分の周波数に基づいて決定することが、複数の異なる焦点設定について行なわれる、請求項1記載の方法。
  6. 前記スライスがスーパーピクセルの行全体をスパンする、請求項1記載の方法。
  7. 前記選択されたスライスを含む複数のスライスを使って前記プレノプティック画像をサンプリングする段階であって、各スライスはスーパーピクセルの異なる行を通じる、段階と;
    各スライスについてのスペクトル・パワーを決定する段階とをさらに含み、
    前記選択されたスライスは、決定されたスペクトル・パワーのうちの最高のスペクトル・パワーをもつスライスである、
    請求項1記載の方法。
  8. プレノプティック撮像システムであって:
    ひとみ面および像平面によって特徴付けされる像形成光学モジュールと;
    前記像平面またはその共役面に位置するマイクロ結像素子のアレイと;
    前記ひとみ面の共役面に位置する検出器アレイであって、前記検出器アレイはスーパーピクセルに成分されている、検出器アレイと;
    モジュールを実行するよう構成されたプロセッサと;
    前記モジュールを記憶しているメモリとを有しており、前記モジュールは処理モジュールを含み、前記処理モジュールは:
    当該プレノプティック撮像システムの前記検出器アレイによって捕捉されたプレノプティック画像にアクセスする段階と;
    スーパーピクセルの行について、該行を通じるスライスを選択する段階であって、選択されたスライスは、その行を通じる他のスライスに比べてより強い基本成分をもつフーリエ変換をもつものである、段階と;
    スーパーピクセルの前記行のピッチを、前記選択されたスライスの基本成分の周波数に基づいて決定し、スーパーピクセルの前記行の回転を、前記選択されたスライスに対する前記プレノプティック画像の回転に基づいて決定する段階とを実行するよう構成されている、
    システム。
  9. 前記処理モジュールがさらに:
    前記選択されたスライスと前記プレノプティック画像との間の複数の異なる回転角を決定する段階と;
    前記複数の回転角のそれぞれにおいて前記スライスのスペクトル・パワーを決定する段階と;
    最高のスペクトル・パワーに関連付けられた回転角を選択する段階であって、選択された回転角がスーパーピクセルの前記行の前記回転である、段階とを実行するよう構成されている、
    請求項8記載のシステム。
  10. 前記処理モジュールがさらに、決定された各スペクトル・パワーをスペクトル漏れについて調整するよう構成されている、請求項9記載のシステム。
  11. 前記処理モジュールがさらに:
    特定の回転角について、
    前記スライスの複数の異なるサンプル・サイズについて前記スライスのスペクトル・パワーを決定し;
    決定されたスペクトル・パワーのうちの最高のスペクトル・パワーを選択するよう構成されている、
    請求項10記載のシステム。
  12. 前記処理モジュールがさらに:
    スーパーピクセルの前記行のピッチを、前記選択されたスライスの基本成分の周波数に基づいて決定することを、複数の異なる焦点設定について行なうよう構成されている、
    請求項8記載のシステム。
  13. 前記スライスがスーパーピクセルの行全体をスパンする、請求項8記載のシステム。
  14. 前記処理モジュールがさらに:
    前記選択されたスライスを含む複数のスライスを使って前記プレノプティック画像をサンプリングする段階であって、各スライスはスーパーピクセルの異なる行を通じる、段階と;
    各スライスについてのスペクトル・パワーを決定する段階とを実行するよう構成されており、
    前記選択されたスライスは、決定されたスペクトル・パワーのうちの最高のスペクトル・パワーをもつスライスである、
    請求項8記載のシステム。
  15. 検出器アレイを含むプレノプティック撮像システムを較正するための実行可能なコンピュータ・プログラム命令を記憶している非一時的なコンピュータ可読記憶媒体であって、前記プレノプティック撮像システムは前記検出器アレイをスーパーピクセルに分割し、前記命令は:
    前記プレノプティック撮像システムの前記検出器アレイによって捕捉されたプレノプティック画像にアクセスする段階と;
    スーパーピクセルの行について、該行を通じるスライスを選択する段階であって、選択されたスライスは、その行を通じる他のスライスに比べてより強い基本成分をもつフーリエ変換をもつものである、段階と;
    スーパーピクセルの前記行のピッチを、前記選択されたスライスの基本成分の周波数に基づいて決定し、スーパーピクセルの前記行の回転を、前記選択されたスライスに対する前記プレノプティック画像の回転に基づいて決定する段階とを含む
    方法を実行するよう前記プレノプティック撮像システムによって実行可能である、コンピュータ可読記憶媒体。
  16. 前記方法が:
    前記選択されたスライスと前記プレノプティック画像との間の複数の異なる回転角を決定する段階と;
    前記複数の回転角のそれぞれにおいて前記スライスのスペクトル・パワーを決定する段階と;
    最高のスペクトル・パワーに関連付けられた回転角を選択する段階であって、選択された回転角がスーパーピクセルの前記行の前記回転である、段階とをさらに含む、
    請求項15記載のコンピュータ可読記憶媒体。
  17. 前記複数の回転角のそれぞれにおいて前記スライスのスペクトル・パワーを決定する段階がさらに、各スペクトル・パワーをスペクトル漏れについて調整する段階を含む、請求項16記載のコンピュータ可読記憶媒体。
  18. スペクトル・パワーをスペクトル漏れについて調整する段階が:
    特定の回転角について、
    前記スライスの複数の異なるサンプル・サイズについて前記スライスのスペクトル・パワーを決定し;
    決定されたスペクトル・パワーのうちの最高のスペクトル・パワーを選択することを含む、
    請求項17記載のコンピュータ可読記憶媒体。
  19. スーパーピクセルの前記行のピッチを、前記選択されたスライスの基本成分の周波数に基づいて決定することが、複数の異なる焦点設定について行なわれる、請求項15記載のコンピュータ可読記憶媒体。
  20. 前記方法が:
    前記選択されたスライスを含む複数のスライスを使って前記プレノプティック画像をサンプリングする段階であって、各スライスはスーパーピクセルの異なる行を通じる、段階と;
    各スライスについてのスペクトル・パワーを決定する段階とをさらに含み、
    前記選択されたスライスは、決定されたスペクトル・パワーのうちの最高のスペクトル・パワーをもつスライスである、
    請求項15記載のコンピュータ可読記憶媒体。
JP2016041413A 2015-03-04 2016-03-03 フーリエ変換を使ったプレノプティック撮像システムの較正 Expired - Fee Related JP6112245B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/638,907 US9613417B2 (en) 2015-03-04 2015-03-04 Calibration of plenoptic imaging systems using fourier transform
US14/638,907 2015-03-04

Publications (2)

Publication Number Publication Date
JP2016174357A JP2016174357A (ja) 2016-09-29
JP6112245B2 true JP6112245B2 (ja) 2017-04-12

Family

ID=55404594

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016041413A Expired - Fee Related JP6112245B2 (ja) 2015-03-04 2016-03-03 フーリエ変換を使ったプレノプティック撮像システムの較正

Country Status (4)

Country Link
US (1) US9613417B2 (ja)
EP (1) EP3065106B1 (ja)
JP (1) JP6112245B2 (ja)
CN (1) CN105939442B (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10110869B2 (en) 2017-03-08 2018-10-23 Ricoh Company, Ltd. Real-time color preview generation for plenoptic imaging systems
US10043289B1 (en) 2017-03-08 2018-08-07 Ricoh Company, Ltd. Automatic centroid determination of microlens arrays in plenoptic imaging systems
US10304172B2 (en) * 2017-06-01 2019-05-28 Ricoh Company, Ltd. Optical center detection in plenoptic imaging systems
US10332269B2 (en) 2017-06-23 2019-06-25 Ricoh Company, Ltd. Color correction of preview images for plenoptic imaging systems
US10552942B2 (en) 2017-09-08 2020-02-04 Ricoh Company, Ltd. Reducing color artifacts in plenoptic imaging systems
US10802117B2 (en) 2018-01-24 2020-10-13 Facebook Technologies, Llc Systems and methods for optical demodulation in a depth-sensing device
US10805594B2 (en) * 2018-02-08 2020-10-13 Facebook Technologies, Llc Systems and methods for enhanced depth sensor devices
US10735640B2 (en) 2018-02-08 2020-08-04 Facebook Technologies, Llc Systems and methods for enhanced optical sensor devices
US20210118177A1 (en) * 2018-02-19 2021-04-22 Integral Scopes Pty Ltd Method and system for calibrating a plenoptic camera system

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6987805B1 (en) * 1999-09-24 2006-01-17 Lsi Logic Corporation Macroblock level intrarefresh technique for encoded video
CN100556076C (zh) * 2004-10-01 2009-10-28 利兰·斯坦福青年大学托管委员会 成像装置及其方法
US8244058B1 (en) * 2008-05-30 2012-08-14 Adobe Systems Incorporated Method and apparatus for managing artifacts in frequency domain processing of light-field images
US8803918B2 (en) 2010-08-27 2014-08-12 Adobe Systems Incorporated Methods and apparatus for calibrating focused plenoptic camera data
JP2012205014A (ja) * 2011-03-24 2012-10-22 Casio Comput Co Ltd 撮像装置の製造装置及び製造方法、並びに撮像装置
JP5882789B2 (ja) * 2012-03-01 2016-03-09 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
FR2994735B1 (fr) * 2012-08-22 2014-08-01 Onera (Off Nat Aerospatiale) Procede et dispositif d'imagerie telemetrique
US9153026B2 (en) * 2012-11-26 2015-10-06 Ricoh Co., Ltd. Calibration of plenoptic imaging systems
US8978984B2 (en) 2013-02-28 2015-03-17 Hand Held Products, Inc. Indicia reading terminals and methods for decoding decodable indicia employing light field imaging
JP6126474B2 (ja) * 2013-06-28 2017-05-10 キヤノン株式会社 撮像装置及びその制御方法
US9538075B2 (en) * 2013-12-30 2017-01-03 Indiana University Research And Technology Corporation Frequency domain processing techniques for plenoptic images

Also Published As

Publication number Publication date
EP3065106A1 (en) 2016-09-07
JP2016174357A (ja) 2016-09-29
US20160260205A1 (en) 2016-09-08
CN105939442A (zh) 2016-09-14
EP3065106B1 (en) 2018-08-22
US9613417B2 (en) 2017-04-04
CN105939442B (zh) 2019-08-16

Similar Documents

Publication Publication Date Title
JP6112245B2 (ja) フーリエ変換を使ったプレノプティック撮像システムの較正
US10127682B2 (en) System and methods for calibration of an array camera
ES2389987T3 (es) Sistema y método de ayuda al enfoque
JP6273784B2 (ja) プレノプティック撮像システムおよび較正方法
US20180097994A1 (en) Calibrating panoramic imaging system in multiple dimensions
KR101053506B1 (ko) 어안 렌즈를 구비하는 카메라 모듈에 의해 획득된 영상의 왜곡 보정을 위한 파라미터 조정 방법
WO2006039486A2 (en) Imaging arrangements and methods therefor
JPH10502177A (ja) 撮像装置並びに焦点からの距離及び焦点情報を決定するための方法
JP6003578B2 (ja) 画像生成方法及び装置
JP2013026844A (ja) 画像生成方法及び装置、プログラム、記録媒体、並びに電子カメラ
CN106170051A (zh) 图像处理装置、图像拾取装置和图像处理方法
CN105939443B (zh) 一种用于产生物体的图像的光场成像系统和方法
JP6866419B2 (ja) ビデオシーケンスにおいて動きを検出するための方法
JP6588527B2 (ja) モジュール式デジタル顕微鏡において照明に依存する収差を補正するための方法、デジタル顕微鏡、及びデータ処理プログラム
Tang et al. Utilizing optical aberrations for extended-depth-of-field panoramas
JP6330955B2 (ja) 撮像装置及び撮像方法
JP6569769B2 (ja) 任意視点画像合成方法及び画像処理装置
JP2015119428A (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体
EP2306397A1 (en) Method and system for optimizing lens aberration detection
JP2018088587A (ja) 画像処理方法および画像処理装置
JP6604737B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
RU2656009C1 (ru) Устройство обработки изображения, устройство для съемки изображения, способ обработки изображения и постоянный машиночитаемый носитель
Alonso Multi-focus computational optical Imaging in Fourier Domain
Mannan On optimal depth from defocus
WO2017079964A1 (zh) 对多点参照图像识别进行自动调焦的方法及系统

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170227

R151 Written notification of patent or utility model registration

Ref document number: 6112245

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees