JP4981124B2 - 改良型プレノプティック・カメラ - Google Patents

改良型プレノプティック・カメラ Download PDF

Info

Publication number
JP4981124B2
JP4981124B2 JP2009504414A JP2009504414A JP4981124B2 JP 4981124 B2 JP4981124 B2 JP 4981124B2 JP 2009504414 A JP2009504414 A JP 2009504414A JP 2009504414 A JP2009504414 A JP 2009504414A JP 4981124 B2 JP4981124 B2 JP 4981124B2
Authority
JP
Japan
Prior art keywords
array
object field
lens
optical element
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009504414A
Other languages
English (en)
Other versions
JP2009532993A (ja
Inventor
ジョージフ,トドー・ジイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Adobe Inc
Original Assignee
Adobe Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Adobe Systems Inc filed Critical Adobe Systems Inc
Publication of JP2009532993A publication Critical patent/JP2009532993A/ja
Application granted granted Critical
Publication of JP4981124B2 publication Critical patent/JP4981124B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/957Light-field or plenoptic cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/0056Arrays characterized by the distribution or form of lenses arranged along two different directions in a plane, e.g. honeycomb arrangement of lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/04Prisms
    • G02B5/045Prism arrays

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Optical Elements Other Than Lenses (AREA)

Description

本発明はカメラに関する。より詳細には、本発明は、カメラに入る光線の方向分布(direction distribution)についての情報を取り込む「プレノプティック(plenoptic)」カメラの設計に関する。
従来のカメラは、大量の光学情報を取り込むことができない。特に、従来のカメラは、カメラに入る光線の開口の位置についての情報を取り込まない。動作時、従来のデジタル・カメラは、カメラ内の光センサ上の各点に達する光の総量に相当する2次元(2D)画像を取り込む。しかし、この2D画像は、光センサに達する光の方向分布についての情報は含まない。画素におけるこの方向情報は、開口における位置情報に対応する。
対照的に、「プレノプティック」カメラでは、4次元(4D)光位相空間又は光フィールドをサンプリングし、その際に光線の方向分布についての情報を取り込む。例えば、[Adelson92]Adelson,T.及びWang,J.Y.A.1992の「Single lens stereo with a plenoptic camera」、IEEE Transactions on Pattern Analysis and Machine Intelligence 14,2、1992年2月、99〜106頁を参照されたい。また、[Ng05]Ng,R.、Levoy,M.、Bredif,M.、Duval,G.、Horowitz,M及びHanrahan,P.の「Light Field Photography with a Hand−Held Plenoptic Camera」、Stanford University Computer Science Tech Report CSTR 2005−02、2005年4月も参照されたい。これらの論文では、従来のデジタル・カメラの改変に基づいたプレノプティック/光フィールドカメラの設計を記載している。
図1Aを参照すると、[Ng05]に記載のシステムでは、CCDアレイ108から短い距離(0.5mm)に配置された約100,000個の小型レンズからなるマイクロレンズ・アレイ106を使用している。各小型レンズは、主レンズ104から来るビームを、主レンズ104の開口上のそれぞれ異なる「ピンホール」位置から来る(100本の)光線に分割す。これらの光線のそれぞれが画素として記録され、各小型レンズの下の画素が集合して100画素の画像を形成する。この100画素の画像を「マクロ画素」と呼ぶとすれば、このカメラで取り込まれたプレノプティック写真は、約100,000個のマクロ画素を含むことになる。各マクロ画素から画素を適切に選択することによって、仮想ピンホール・カメラを用いて撮影された従来の画像を作成することができる。さらに、このような画像を適切に混合することによって、上記の論文に記載されているように、元は焦点が外れた撮影画像の焦点を再び合わせ、ノイズを低減させ、あるいは他の「光フィールド」効果を実現することができる。
[Ng05]に記載のプロトタイプでは、約100,000個の小型レンズのアレイと共に1600万画素のセンサを使用して、小型レンズ当たり1個のマクロ画素を用いて、約300×300個のマクロ画素からなる最終出力を生成している。各小型レンズによって生成されるマクロ画素は、約150画素を含む。しかし、「口径食」と呼ばれる問題によって周縁画素の品質が低くなるために、これらの画素のうちの約100個だけが有効である。各マクロ画素を構成するこれら100個の画素は、100個の従来の画像に相当する取込みデータを、あるマクロ画素内の画素の選択されたものそれぞれごとに1つ作成する。このカメラからのデータを処理することによって生成される各画像のサイズは、小型レンズの数と等しく、したがって300×300になる。
残念ながら、300×300画素しかない画像は、ほとんどの実際の用途に対して解像度が不十分である。画素数は、小型レンズの数を増やし、それらを小さくすることによって増加させることができる。残念ながら、従来技術では、各画像の境界画素を使用することができない。システムがグレースケール・パターンで動作していようとベイヤー・パターンで動作していようと、マクロ画素の境界に沿って約2〜4画素が帯状に失われることに注意されたい。画像が小さい場合には、これらの少数の境界画素が画像の大きな割合を占める。例えば、10×10カラー画像では、各縁部上で4画素が失われて2×2=4個の中央画素しか残らない可能性がある。この場合は情報の96%も失われる。この問題の故に、[Ng05]に記載のシステムでは、各マイクロレンズ及びその下の画像のサイズを縮小することができない。その結果、マイクロレンズの数が限定され、したがって画像の解像度が限定される。(現在、16メガ画素センサを使用するシステムでは、マイクロレンズの数は100,000未満に限定される。)
したがって、上述の問題を伴わない、プレノプティック・カメラの解像度を高める方法及び装置が必要とされている。
本発明の一実施態様では、カメラに入る光線の方向分布についての情報を取り込むプレノプティック・カメラを提供する。従来のカメラと同様に、このプレノプティック・カメラは主レンズを含み、この主レンズは、物体フィールド内の被写体からの光を受光し、受光した光をカメラの像面に向ける。それはまた、カメラの像面に配置された光検出器アレイも含み、このアレイは、受光した光を取り込んで画像を生成する。しかし、従来のカメラとは異なり、プレノプティック・カメラはさらに、その物体フィールドと主レンズの間に配置された光学要素のアレイも含む。このアレイ内の各光学要素は、物体フィールドからの光を、アレイ内の他の光学要素とは異なる角度から受光し、その結果として、物体フィールドの異なるビューを主レンズ中に向ける。このようにして、光検出器アレイは、アレイ内の各光学要素から物体フィールドの異なるビューを受像する。
この実施態様の一変形態様では、光学要素のアレイ内の所与の光学要素は、レンズ又はプリズム、あるいはレンズとプリズムを含む。
別の一変形態様では、レンズは、負の焦点距離を有する負レンズである。
別の一変形態様では、レンズは色消しレンズであり、プリズムは色消しプリズムである。
この実施態様の一変形態様では、光検出器アレイは電荷結合デバイス(CCD)アレイである。
本発明の一実施態様はさらに、光検出器アレイによって受像された物体フィールドのそれぞれ異なるビューを処理して最終画像を生成するように構成された処理機構も含む。
別の一変形態様では、処理機構は、最終画像を生成する一方、物体フィールドのそれぞれ異なるビューを用いて、以下のもの、すなわち最終画像の焦点面、最終画像の視角、又は最終画像の被写界深度のうちの1つ又は複数のものを調整するように構成される。
別の一変形態様では、処理機構は、物体フィールドのそれぞれ異なるビューを処理する一方、異なるビュー間のビュー・モーフィング操作(view-morphing operation)又は補間操作を行って、アレイ内の光学要素の位置の間の場所から集められたように見える物体フィールドの追加ビューを生成するように構成される。
以下の説明を、当業者であれば本発明を製作し使用できるようにするために提示し、また特定の応用例やその要件との関連において提示する。開示された実施形態の様々な改変が当業者には直ちに明らかになるであろう。また本明細書に定義された一般的な原理は、本発明の精神及び範囲から逸脱することなく他の実施形態や応用例に適用することができる。したがって、本発明は、示した実施形態に限定されるのではなく、特許請求の範囲と一致した最も広い範囲が許容されるべきである。
詳細な本明細書に記載されたデータ構造及びコードは、一般にコンピュータ可読記憶媒体上に記憶され、この記憶媒体は、コンピュータ・システムが使用するコード及び/又はデータを記憶できる任意のデバイス又は媒体である。これは、それだけには限らないが、ディスク・ドライブ、磁気テープ、CD(コンパクト・ディスク)、DVD(デジタル汎用ディスク又はデジタル・ビデオ・ディスク)、あるいはコンピュータ・システムが使用可能なデータを記憶できる任意のデバイスなどの磁気記憶デバイス及び光学記憶デバイスを含む。
[Ng05]に記載のシステムでは、各マクロ画素ごとの各画像のサイズは、カメラの設計によって限定される。本発明は、新規で構築が容易なカメラを実現し、これは、ビュー数と各ビューの画像サイズとの引き換えで、より多くの適応性を設計者に与える。具体的には、本発明の一実施形態では、少数(10枚)の高解像度画像を取り込むことができるのに対し、[Ng05]に記載のシステムでは、多数(100枚)の低解像度画像を取り込む。
したがって、本発明の一実施形態では、[Ng05]に記載されているように主レンズの後に非常に多数のマイクロレンズを配置する代わりに、少数の従来レンズがカメラの主レンズの前に配置される設計を提供し、それによってプレノプティック・カメラを非常に構築しやすくする。
本発明は、周縁画素での品質を損なうことなく、取り込まれる有効画像数を(従来技術での100枚から20枚まで、又は10枚までにさえ)低減できるようにすることに注意されたい。こうすることは、[Ng05]に記載の、画像解像度を300×300個のマクロ画素に限定するシステムの主要な課題になっている。同じタイプの光学センサを使用して、本発明は、大幅に高い最終画像の解像度を達成することができる(例えば解像度を5倍にする)。言い換えると、本発明は、3D情報の細部を2D画像の細部と交換するための適応性を実現する。3Dのいくつかの面からなる単純なシーンでは、完全な3Dの細部を取り込むのに数枚の画像で十分である。(例えば、人間の視覚系では2つの画像だけを用いる。)これは、画像数を低減するのが有利であるということである。というのは100枚の画像はたぶん過剰であり、おそらく10枚又は20枚の画像がより適切であるからである。本発明の実施形態では、これを可能にするのに対し、従来技術ではそれが可能ではなかった。
図1Aに示された従来技術のシステムにおけるように、主レンズの後にレンズのアレイを配置する代わりに、本発明では図1Bに示されるように、主レンズ116の前にレンズのアレイ114を配置する。より詳細には、本発明の一実施形態では、主レンズの後に90,000個のレンズを配置する代わりに、主レンズの前に19個のレンズ/プリズムを配置することによって、高解像度の成果を得る。
図1Bに示された本発明の実施形態では、レンズ(約10〜100個)のアレイ114、及びプリズムのアレイ112が、従来のカメラの主レンズ116の前200〜500mmに配置される。(レンズのアレイの幅)/(主レンズまでの距離)の比は、理想的には主レンズ116のf数に等しいことに注意されたい。
各レンズは、対応する色消しプリズムと合わされ、このプリズムは、別々のレンズに対して、レンズの位置に応じて異なる角度を有する。具体的には、各プリズムは、主カメラレンズがそのプリズムを見る角度と等しい角度偏差を生ずるように選択される。このようにして、すべてのプリズムが同じ被写体の像をシーンから生成する。小さな誤差は最終画像の品質に影響を及ぼさないので、これらのプリズム角度及びプリズムの配置に関して正確さを達成することが必須ではないことに注意されたい。しかし、隙間及び/又は重なりを生じる画像の不規則な移動により画素が無駄にならないよう保証するために、大きな誤差は回避されなければならない。
本発明の一実施形態では、すべてのレンズが、例えば−100mmである同じ負の焦点距離を有する。この焦点距離は視野を支配する。良好な焦点合わせを望む場合には、すべてのレンズが同じ焦点距離を有することが重要であることに注意されたい。
カメラの主レンズ116は、負レンズの前に現れる虚像アレイに焦点が合わされる。アレイ内の各レンズ/プリズムは、アレイ内の他のレンズ/プリズムとは異なる角度から像フィールド110からの光を受光し、その結果として、像フィールド110の異なるビューをカメラの主レンズ116中に向けることに注意されたい。このようにして、CCDアレイ118は像アレイを取り込み、各像は、アレイ内の別個のレンズ/プリズムから物体フィールドの異なるビューを提供する。
CCDアレイ118で取り込まれた画像アレイは、処理デバイス120で処理されて最終画像122を生成する。(処理デバイス120は、カメラ内に組み込むことができ、あるいはカメラの外部に設置することもできることに注意されたい。)これらの画像を適切に混合することによって、処理デバイス120は、画像の焦点を再び合わせること、ノイズを低減させること、視角を調整すること、最終画像の被写界深度を調整することなど様々な「光フィールド(light field)」効果を実現することができる。(これらの光フィールド効果のいくつかの詳細についての説明は、[Adelson92]及び[Ng05]を参照されたい。また、発明者Edward H.Adelsonの「Optical Ranging Apparatus」という名称の米国特許第5076687号も参照されたい。)
本発明の一実施形態では、処理デバイス120はさらに、それぞれ異なるビュー間のビュー・モーフィング操作又は補間操作を行って、アレイ内のレンズ/プリズムの位置の間の場所から集められたように見える物体フィールドの追加ビューを生成するようにも構成される。このようにして、本発明は、少数のレンズ(20個)を使用して多数の画像(100枚)を生成することができる。(この種のビュー・モーフィング操作は、発明者Todor Georgievの「Multiple Image Morphing」という名称の米国特許第6351269号に記載されている。)
得られるシステムが多数の「高解像度」画像を生成するので、これらの追加ビューを生成することにより設計空間が大きく開放されることに注意されたい。これは、[Ng05]に記載の、多数の「低解像度」画像を取り込むシステムと比べて改善となる。
例示的実施形態
本発明の例示的一実施形態では、レンズのアレイ114は、図2及び図3に示されたように六角形パターンとして配列された19個のレンズ(f=−100mm)、及び18個のプリズムを含む。中央のレンズがカメラの主軸上に配置されているので、それにはプリズムがないことに注意されたい。主カメラレンズはf/2のf数を有し、これは14°に相当する。このf数に対応するために、図2に示されるように4°、7°、8°の偏向角を有するプリズムが選択される。例示的な実施形態では、レンズは直径が25mmであり、レンズのアレイ114の全幅は125mmである。さらに、アレイは、主レンズ116から250mmの距離に配置される。(この距離は調整できることに注意されたい。)16メガ画素のCCDアレイを用いて、この実施形態では、約600×600画素の最終画像を取り込むことができ、これは、同じカメラ解像度では[Ng05]に記載のカメラよりも4倍の向上である。
光が横からシステムに入り、プリズムとレンズ上に反射点を形成することを防止するために、望遠レンズのように見える筒を主レンズからレンズのアレイまで延ばすことができることに注意されたい。
レンズ及びプリズム
本発明の一実施形態は、プリズムだけを使用して、またレンズだけを使用して動作することができるが、レンズとプリズムの両方を使用することが好ましい。このことを示すために、図4に示された7枚の負レンズのアレイと、対応する6枚のプリズムのアレイとを通して何枚かの写真を撮影した。これらのレンズ及びプリズムを使用して、図5に見える例示的なシーンの像を取り込む。
図6は、レンズのアレイだけを通して撮影された例示的シーンの像を示す。このシーンのうち、すべての像に現れる小領域がチューブのキャップ付近にあるが、これらの像は互いにずれていてシーンの同じ領域を取り込んでいないことに注意されたい。
図7は、プリズムのアレイだけを通して撮影された例示的シーンの像を提示する。これらのプリズムが像をずらし、したがってシーンの同じ部分が各像に取り込まれていることに注意されたい。しかし、得られた視野は非常に狭くなっている。
最後に、図8は、レンズのアレイとプリズムのアレイ両方を通して撮影された例示的シーンの像を提示する。プリズムが像をずらし、その結果、すべての像が中央に置かれ、またレンズが視野を拡大していることに注意されたい。また各2つの像が立体写真対を形成していることにも注意されたい。
正レンズではなく負レンズを使用することによって、像が形成される面は、カメラからさらに遠くなる。このことにより、得られるシステムがより小型になる。というのは、レンズのアレイが主レンズにより近くなることが可能になるからである。
得られる画像を生成
上述のように、本発明は、焦点を再び合わせること、ノイズを低減させること、視角を調整すること、画像の被写界深度を調整することなど、様々な「光フィールド」効果を実現することができる。例えば図9A〜9Cは、どのようにこのシステムの一実施形態で、本発明の一実施形態により写真が撮影された後に、別々の像面に実際上焦点を合わせることができるかを示す。図9Aでは、画像の被写界深度が深く、したがって前景のビンにも背景のチューブにも焦点が合っている。図9Bでは、被写界深度が浅くされ、また像の焦点面がカメラに近い方に設定され、したがって前景のビンには焦点が合っているのに対して、背景のチューブは焦点が外れている。図9Cでは、像の焦点面がカメラから遠い方に設定され、したがって背景のチューブには焦点が合っているのに対して、前景のビンは焦点が外れている。
光の流れ
図10は、本発明の一実施形態によるプレノプティック・カメラ内でどのように光が方向付けられるかを示す流れ図を提示する。まず、カメラの物体フィールドと主レンズの間に配置された光学要素のアレイにおいて、物体フィールド内の被写体からの光が受光される(ステップ1002)。このアレイ内の各光学要素は、ある異なる角度から物体フィールドからの光を受光し、その結果として、物体フィールドの異なるビューを主レンズ中に向ける。
次に、光が光学要素のアレイから、受光した光をカメラの像面上に向ける主レンズで受光される(ステップ1004)。
次に、光が主レンズから、カメラの像面に配置された光検出器アレイで受光され(ステップ1006)、この光検出器アレイは、アレイ内の各光学要素から物体フィールドの異なるビューを受像する。
最後に、光検出器アレイで受像された物体フィールドのそれぞれ異なるビューが処理されて、最終画像が生成される(ステップ1008)。
本発明の実施形態についての上記説明は、例示及び説明の目的だけで提示した。これらは、網羅的なものではなく、あるいは開示した形態に本発明を限定するものではない。したがって、多くの改変形態及び変形形態が当業者には明らかになるであろう。加えて、上記の開示は、本発明を限定するものでもない。本発明の範囲は、添付の特許請求の範囲によって定義される。
従来技術のプレノプティック・カメラを示す図である。 本発明の一実施形態によるプレノプティック・カメラを示す図である。 本発明の一実施形態によるプレノプティック・カメラ内の追加のレンズ及びプリズムの配置図である。 本発明の一実施形態によるレンズとプリズムのアレイの写真である。 本発明の一実施形態によるレンズのアレイ、及びプリズムのアレイの写真である。 本発明の一実施形態による例示的なシーンの写真である。 本発明の一実施形態によるレンズのアレイを通して撮影された例示的なシーンの画像の写真である。 本発明の一実施形態によるプリズムのアレイを通して撮影された例示的なシーンの画像の写真である。 本発明の一実施形態によるレンズのアレイ、及びプリズムのアレイ両方を通して撮影された例示的なシーンの画像の写真である。 本発明の一実施形態による、前景及び背景の両方の焦点が合うように生成された例示的なシーンの画像の写真である。 本発明の一実施形態による、前景に焦点を合わせて生成された例示的なシーンの画像の写真である。 本発明の一実施形態による、背景に焦点を合わせて生成された例示的なシーンの画像の写真である。 本発明の一実施形態によるプレノプティック・カメラ内でどのように光が方向付けられるかを示す流れ図である。

Claims (20)

  1. 物体フィールド内の被写体からの光を受光し、前記受光した光をカメラの像面上に向ける主レンズと、
    前記カメラの前記像面に配置され、前記受光した光を取り込んで画像を生成する光検出器アレイと、
    前記物体フィールドと前記主レンズの間に配置された光学要素の多次元アレイとを含むカメラであって、
    各光学要素はレンズを含み、前記光学要素のアレイ内の各光学要素が、前記光学要素のアレイ内の他の光学要素とは異なる角度から前記物体フィールドからの光を受光し、その結果として、前記物体フィールドのューを前記主レンズ中に向け、それによって前記光検出器アレイが、前記光学要素の多次元アレイ内の各光学要素から前記物体フィールドの異なるビューを受像
    前記物体フィールドの異なるビューのそれぞれは、前記光検出器アレイの異なる位置において受像され、前記物体フィールドの異なるビューよりなる多次元アレイが前記光検出器アレイに生成される、
    カメラ。
  2. 前記カメラの光学軸上にない各光学要素は、さらに前記光学要素の前記レンズと前記主レンズの間に位置する色消しプリズムを含む
    請求項1に記載のカメラ。
  3. 前記各光学要素のレンズが、負の焦点距離を有する負レンズである請求項に記載のカメラ。
  4. 前記各光学要素のレンズが、同じ焦点距離を有する色消しレンズある請求項に記載のカメラ。
  5. 前記光検出器アレイが電荷結合デバイス(CCD)アレイである請求項1に記載のカメラ。
  6. 前記光検出器アレイによって受像された前記物体フィールドのそれぞれ異なるビューを処理して最終画像を生成するように構成された処理機構をさらに含む請求項1に記載のカメラ。
  7. 前記処理機構が、前記最終画像を生成する一方、前記物体フィールドのそれぞれ異なるビューを用いて、
    前記最終画像の焦点面と、
    前記最終画像の視角と、
    前記最終画像の被写界深度と
    のうちの1つ又は複数のものを調整するように構成される請求項6に記載のカメラ。
  8. 前記処理機構が、前記物体フィールドのそれぞれ異なるビューを処理する一方、前記異なるビュー間のビュー・モーフィング操作又は補間操作を行って、前記アレイ内の前記光学要素の位置の間の場所から集められたように見える前記物体フィールドの追加ビューを生成するように構成される、請求項6に記載のカメラ。
  9. カメラの物体フィールドと主レンズの間に配置された光学要素の多次元アレイで、物体フィールド内の被写体からの光を受光するステップであって、
    各光学要素はレンズを含み、前記光学要素のアレイ内の各光学要素が、前記光学要素のアレイ内の他の光学要素とは異なる角度から前記物体フィールドからの光を受光し、その結果として、前記物体フィールドのューを前記主レンズ中に向けるステップと、
    前記光学要素のアレイからの光を、受光した光を前記カメラの像面上に向ける前記主レンズで受光するステップと、
    前記主レンズからの光を、前記カメラの像平面に配置された光検出器アレイで受光するステップと
    を含む、光を集める方法であって、
    前記光検出器アレイが、前記光学要素の多次元アレイ内の各光学要素から前記物体フィールドの異なるビューを受像
    前記物体フィールドの異なるビューのそれぞれは、前記光検出器アレイの異なる位置において受像され、前記物体フィールドの異なるビューよりなる多次元アレイが前記光検出器アレイに生成される、
    方法。
  10. 前記カメラの光学軸上にない各光学要素は、さらに前記光学要素の前記レンズと前記主レンズの間に位置する色消しプリズムを含む請求項9に記載の方法。
  11. 前記各光学要素のレンズが、負の焦点距離を有する負レンズである請求項に記載の方法。
  12. 前記各光学要素のレンズが、同じ焦点距離を有する色消しレンズある請求項に記載の方法。
  13. 前記光検出器アレイが電荷結合デバイス(CCD)アレイである請求項9に記載の方法。
  14. 前記光検出器アレイによって受像された前記物体フィールドのそれぞれ異なるビューを処理して最終画像を生成するステップをさらに含む請求項9に記載の方法。
  15. 前記最終画像を生成するステップが、前記物体フィールドのそれぞれ異なるビューを用いて、
    前記最終画像の焦点面と、
    前記最終画像の視角と、
    前記最終画像の被写界深度と
    のうちの1つ又は複数のものを調整するステップを含む請求項14に記載の方法。
  16. 前記物体フィールドのそれぞれ異なるビューを処理するステップが、前記異なるビュー間のビュー・モーフィング操作又は補間操作を行って、前記各光学要素のアレイ内の前記光学要素の位置の間の場所から集められたように見える前記物体フィールドの追加ビューを生成するステップを含む請求項14に記載の方法。
  17. 物体フィールド内の被写体からの光を受光し、前記受光した光を像面上に向ける主レンズと、
    前記像面に配置され、前記受光した光を取り込んで画像を生成する光検出器アレイと、
    前記物体フィールドと前記主レンズの間に配置された光学要素の多次元アレイであって、各光学要素はレンズを含み、前記アレイ内の各光学要素が、前記光学要素の多次元アレイ内の他の光学要素とは異なる角度から前記物体フィールドからの光を受光し、その結果として、前記物体フィールドのューを前記主レンズ中に向け、それによって前記光検出器アレイが、前記光学要素のアレイ内の各光学要素から前記物体フィールドの異なるビューを受像する、光学要素のアレイと、
    前記光検出器アレイによって受像された前記物体フィールドのそれぞれ異なるビューを処理して最終画像を生成するように構成された処理機構とを含
    前記物体フィールドの異なるビューのそれぞれは、前記光検出器アレイの異なる位置において受像され、前記物体フィールドの異なるビューよりなる多次元アレイが前記光検出器アレイに生成される、
    撮像システム。
  18. 前記各光学要素のレンズは色消し負レンズであり、
    前記カメラの光学軸上にない各光学要素は、さらに前記光学要素の前記レンズと前記主レンズの間に位置する色消しプリズム含む請求項17に記載の撮像システム。
  19. 前記処理機構が、前記最終画像を生成する一方、前記物体フィールドのそれぞれ異なるビューを用いて、
    前記最終画像の焦点面と、
    前記最終画像の視角と、
    前記最終画像の被写界深度と
    のうちの1つ又は複数のものを調整するように構成される請求項17に記載の撮像システム。
  20. 前記処理機構が、前記物体フィールドのそれぞれ異なるビューを処理する一方、前記異なるビュー間のビュー・モーフィング操作又は補間操作を行って、前記光学要素のアレイ内の前記光学要素の位置の間の場所から集められたように見える前記物体フィールドの追加ビューを生成するように構成される請求項17に記載の撮像システム。
JP2009504414A 2006-04-04 2007-04-03 改良型プレノプティック・カメラ Active JP4981124B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/398,403 2006-04-04
US11/398,403 US7620309B2 (en) 2006-04-04 2006-04-04 Plenoptic camera
PCT/US2007/065855 WO2007115281A1 (en) 2006-04-04 2007-04-03 Improved plenoptic camera

Publications (2)

Publication Number Publication Date
JP2009532993A JP2009532993A (ja) 2009-09-10
JP4981124B2 true JP4981124B2 (ja) 2012-07-18

Family

ID=38222707

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009504414A Active JP4981124B2 (ja) 2006-04-04 2007-04-03 改良型プレノプティック・カメラ

Country Status (6)

Country Link
US (2) US7620309B2 (ja)
EP (1) EP2008445B1 (ja)
JP (1) JP4981124B2 (ja)
KR (1) KR20090016453A (ja)
CN (1) CN101455071B (ja)
WO (1) WO2007115281A1 (ja)

Families Citing this family (216)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101147392B (zh) * 2005-03-24 2012-05-09 松下电器产业株式会社 成像装置及其中使用的透镜阵列
JP4826152B2 (ja) * 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
US7620309B2 (en) * 2006-04-04 2009-11-17 Adobe Systems, Incorporated Plenoptic camera
US7969577B2 (en) * 2006-09-14 2011-06-28 Asml Netherlands B.V. Inspection apparatus, an apparatus for projecting an image and a method of measuring a property of a substrate
TW200823595A (en) * 2006-11-28 2008-06-01 Univ Nat Taiwan Image capture device using programmable aperture
US8559705B2 (en) * 2006-12-01 2013-10-15 Lytro, Inc. Interactive refocusing of electronic images
US20100265385A1 (en) * 2009-04-18 2010-10-21 Knight Timothy J Light Field Camera Image, File and Configuration Data, and Methods of Using, Storing and Communicating Same
US10298834B2 (en) 2006-12-01 2019-05-21 Google Llc Video refocusing
US7872796B2 (en) 2007-01-25 2011-01-18 Adobe Systems Incorporated Light field microscope with lenslet array
US8290358B1 (en) 2007-06-25 2012-10-16 Adobe Systems Incorporated Methods and apparatus for light-field imaging
JP4967873B2 (ja) * 2007-07-13 2012-07-04 ソニー株式会社 撮像装置
US8019215B2 (en) * 2007-08-06 2011-09-13 Adobe Systems Incorporated Method and apparatus for radiance capture by multiplexing in the frequency domain
US7956924B2 (en) 2007-10-18 2011-06-07 Adobe Systems Incorporated Fast computational camera based on two arrays of lenses
US8229294B2 (en) * 2007-12-10 2012-07-24 Mitsubishi Electric Research Laboratories, Inc. Cameras with varying spatio-angular-temporal resolutions
US20090160975A1 (en) * 2007-12-19 2009-06-25 Ncr Corporation Methods and Apparatus for Improved Image Processing to Provide Retroactive Image Focusing and Improved Depth of Field in Retail Imaging Systems
ES2372515B2 (es) * 2008-01-15 2012-10-16 Universidad De La Laguna Cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales.
US7962033B2 (en) * 2008-01-23 2011-06-14 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
US8189065B2 (en) * 2008-01-23 2012-05-29 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
JP4941332B2 (ja) 2008-01-28 2012-05-30 ソニー株式会社 撮像装置
US8155456B2 (en) * 2008-04-29 2012-04-10 Adobe Systems Incorporated Method and apparatus for block-based compression of light-field images
JP2009290268A (ja) * 2008-05-27 2009-12-10 Sony Corp 撮像装置
US8244058B1 (en) 2008-05-30 2012-08-14 Adobe Systems Incorporated Method and apparatus for managing artifacts in frequency domain processing of light-field images
EP2133726B1 (en) * 2008-06-10 2011-06-01 Thomson Licensing Multi-image capture system with improved depth image resolution
KR101441586B1 (ko) * 2008-10-06 2014-09-23 삼성전자 주식회사 촬상 장치 및 촬상 방법
EP2175632A1 (en) * 2008-10-10 2010-04-14 Samsung Electronics Co., Ltd. Image processing apparatus and method
US8587681B2 (en) * 2008-11-21 2013-11-19 Omnivision Technologies, Inc. Extended depth of field for image sensor
WO2010065344A1 (en) 2008-11-25 2010-06-10 Refocus Imaging, Inc. System of and method for video refocusing
US8289440B2 (en) 2008-12-08 2012-10-16 Lytro, Inc. Light field data acquisition devices, and methods of using and manufacturing same
US7949252B1 (en) 2008-12-11 2011-05-24 Adobe Systems Incorporated Plenoptic camera with large depth of field
JP5230456B2 (ja) * 2009-01-09 2013-07-10 キヤノン株式会社 画像処理装置および画像処理方法
US8315476B1 (en) * 2009-01-20 2012-11-20 Adobe Systems Incorporated Super-resolution with the focused plenoptic camera
US8189089B1 (en) 2009-01-20 2012-05-29 Adobe Systems Incorporated Methods and apparatus for reducing plenoptic camera artifacts
JP4706882B2 (ja) * 2009-02-05 2011-06-22 ソニー株式会社 撮像装置
US8908058B2 (en) * 2009-04-18 2014-12-09 Lytro, Inc. Storage and transmission of pictures including multiple frames
TW201044856A (en) * 2009-06-09 2010-12-16 Ind Tech Res Inst Image restoration method and apparatus
US8345144B1 (en) * 2009-07-15 2013-01-01 Adobe Systems Incorporated Methods and apparatus for rich image capture with focused plenoptic cameras
US8228417B1 (en) * 2009-07-15 2012-07-24 Adobe Systems Incorporated Focused plenoptic camera employing different apertures or filtering at different microlenses
US20110115916A1 (en) * 2009-11-16 2011-05-19 Eiji Yafuso System for mosaic image acquisition
US8400555B1 (en) 2009-12-01 2013-03-19 Adobe Systems Incorporated Focused plenoptic camera employing microlenses with different focal lengths
US9407833B2 (en) 2010-01-22 2016-08-02 The Trustees Of Columbia University In The City Of New York Systems, methods, and media for recording an image using an optical diffuser
US8665367B2 (en) * 2010-01-29 2014-03-04 Sharp Laboratories Of America, Inc. Video resolution enhancement technique
US8749620B1 (en) 2010-02-20 2014-06-10 Lytro, Inc. 3D light field cameras, images and files, and methods of using, operating, processing and viewing same
US8817015B2 (en) 2010-03-03 2014-08-26 Adobe Systems Incorporated Methods, apparatus, and computer-readable storage media for depth-based rendering of focused plenoptic camera data
US8358366B1 (en) 2010-05-28 2013-01-22 Adobe Systems Incorporate Methods and apparatus for high-speed digital imaging
US8493432B2 (en) * 2010-06-29 2013-07-23 Mitsubishi Electric Research Laboratories, Inc. Digital refocusing for wide-angle images using axial-cone cameras
US8665341B2 (en) 2010-08-27 2014-03-04 Adobe Systems Incorporated Methods and apparatus for rendering output images with simulated artistic effects from focused plenoptic camera data
US8749694B2 (en) 2010-08-27 2014-06-10 Adobe Systems Incorporated Methods and apparatus for rendering focused plenoptic camera data using super-resolved demosaicing
US8724000B2 (en) 2010-08-27 2014-05-13 Adobe Systems Incorporated Methods and apparatus for super-resolution in integral photography
US8803918B2 (en) 2010-08-27 2014-08-12 Adobe Systems Incorporated Methods and apparatus for calibrating focused plenoptic camera data
US8625931B2 (en) 2010-09-03 2014-01-07 Adobe Systems Incorporated Light space graphical model in shape from shading
US20120056987A1 (en) * 2010-09-03 2012-03-08 Luke Fedoroff 3d camera system and method
US8780251B2 (en) * 2010-09-20 2014-07-15 Canon Kabushiki Kaisha Image capture with focus adjustment
DE102010047846B4 (de) * 2010-09-30 2017-11-09 Carl Zeiss Vision International Gmbh Optische Linse und Verfahren zum Herstellen einer optischen Linse
US20140192238A1 (en) 2010-10-24 2014-07-10 Linx Computational Imaging Ltd. System and Method for Imaging and Image Processing
US9124881B2 (en) * 2010-12-03 2015-09-01 Fly's Eye Imaging LLC Method of displaying an enhanced three-dimensional images
JP5906062B2 (ja) * 2010-12-17 2016-04-20 キヤノン株式会社 撮像装置およびその制御方法
US8797432B2 (en) 2011-01-20 2014-08-05 Aptina Imaging Corporation Imaging system with an array of image sensors
US20120188391A1 (en) * 2011-01-25 2012-07-26 Scott Smith Array camera having lenses with independent fields of view
US8803990B2 (en) 2011-01-25 2014-08-12 Aptina Imaging Corporation Imaging system with multiple sensors for producing high-dynamic-range images
US8768102B1 (en) 2011-02-09 2014-07-01 Lytro, Inc. Downsampling light field images
GB2488519A (en) * 2011-02-16 2012-09-05 St Microelectronics Res & Dev Multi-channel image sensor incorporating lenslet array and overlapping fields of view.
US9030550B2 (en) 2011-03-25 2015-05-12 Adobe Systems Incorporated Thin plenoptic cameras using solid immersion lenses
JP5170276B2 (ja) 2011-03-31 2013-03-27 カシオ計算機株式会社 画像再構成装置、画像再構成方法、及び画像再構成プログラム
US9229581B2 (en) 2011-05-05 2016-01-05 Maxim Integrated Products, Inc. Method for detecting gestures using a multi-segment photodiode and one or fewer illumination sources
US8716649B2 (en) * 2011-05-05 2014-05-06 Maxim Integrated Products, Inc. Optical gesture sensor using a single illumination source
US8531581B2 (en) 2011-05-23 2013-09-10 Ricoh Co., Ltd. Focusing and focus metrics for a plenoptic imaging system
JP5818514B2 (ja) * 2011-05-27 2015-11-18 キヤノン株式会社 画像処理装置および画像処理方法、プログラム
WO2012170111A1 (en) * 2011-06-08 2012-12-13 Lytro, Inc. Storage and transmission of pictures including multiple frames
JP5984493B2 (ja) * 2011-06-24 2016-09-06 キヤノン株式会社 画像処理装置、画像処理方法、撮像装置およびプログラム
TWI437266B (zh) * 2011-07-28 2014-05-11 Univ Nat Taiwan Science Tech 集光透鏡模組
US9184199B2 (en) 2011-08-01 2015-11-10 Lytro, Inc. Optical assembly including plenoptic microlens array
EP2751748B1 (en) 2011-08-30 2019-05-08 Digimarc Corporation Methods and arrangements for identifying objects
JP5206853B2 (ja) * 2011-09-08 2013-06-12 カシオ計算機株式会社 補間画像生成装置、再構成画像生成装置、補間画像生成方法及びプログラム
DE102011114325A1 (de) 2011-09-24 2013-03-28 Martin Häusler Plenoptisches Kameraobjektiv
US9100574B2 (en) 2011-10-18 2015-08-04 Hewlett-Packard Development Company, L.P. Depth mask assisted video stabilization
US8854724B2 (en) 2012-03-27 2014-10-07 Ostendo Technologies, Inc. Spatio-temporal directional light modulator
US8928969B2 (en) 2011-12-06 2015-01-06 Ostendo Technologies, Inc. Spatio-optical directional light modulator
US8941750B2 (en) 2011-12-27 2015-01-27 Casio Computer Co., Ltd. Image processing device for generating reconstruction image, image generating method, and storage medium
JP5310837B2 (ja) * 2011-12-28 2013-10-09 カシオ計算機株式会社 画像生成装置、デジタルカメラ、方法、及びプログラム
EP2623964A1 (de) 2012-02-06 2013-08-07 Jürgen Kupper Röntgengerät und Röntgenverfahren zur Untersuchung eines dreidimensionalen Untersuchungsobjekts
US8953012B2 (en) 2012-02-13 2015-02-10 Raytheon Company Multi-plenoptic system with image stacking and method for wide field-of-regard high-resolution imaging
US9137441B2 (en) 2012-02-16 2015-09-15 Ricoh Co., Ltd. Spatial reconstruction of plenoptic images
US9420276B2 (en) 2012-02-28 2016-08-16 Lytro, Inc. Calibration of light-field camera geometry via robust fitting
US8831377B2 (en) 2012-02-28 2014-09-09 Lytro, Inc. Compensating for variation in microlens position during light-field image processing
US8948545B2 (en) 2012-02-28 2015-02-03 Lytro, Inc. Compensating for sensor saturation and microlens modulation during light-field image processing
US8811769B1 (en) 2012-02-28 2014-08-19 Lytro, Inc. Extended depth of field and variable center of perspective in light-field processing
US8995785B2 (en) 2012-02-28 2015-03-31 Lytro, Inc. Light-field processing and analysis, camera control, and user interfaces and interaction on light-field capture devices
JP5459337B2 (ja) 2012-03-21 2014-04-02 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム
CN104303493A (zh) 2012-05-09 2015-01-21 莱特洛公司 用于改进的光场捕获和操作的光学系统的优化
JP6019729B2 (ja) * 2012-05-11 2016-11-02 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
US8628014B1 (en) * 2012-05-15 2014-01-14 John M. Hoffer, Jr. Light field instruction symbol identifier and method of use
US9179126B2 (en) 2012-06-01 2015-11-03 Ostendo Technologies, Inc. Spatio-temporal light field cameras
US9607424B2 (en) 2012-06-26 2017-03-28 Lytro, Inc. Depth-assigned content for depth-enhanced pictures
US10129524B2 (en) 2012-06-26 2018-11-13 Google Llc Depth-assigned content for depth-enhanced virtual reality images
US9858649B2 (en) 2015-09-30 2018-01-02 Lytro, Inc. Depth-based image blurring
US8754829B2 (en) 2012-08-04 2014-06-17 Paul Lapstun Scanning light field camera and display
FR2994735B1 (fr) 2012-08-22 2014-08-01 Onera (Off Nat Aerospatiale) Procede et dispositif d'imagerie telemetrique
KR101951318B1 (ko) 2012-08-27 2019-04-25 삼성전자주식회사 컬러 영상과 깊이 영상을 동시에 얻을 수 있는 3차원 영상 획득 장치 및 3차원 영상 획득 방법
US8997021B2 (en) 2012-11-06 2015-03-31 Lytro, Inc. Parallax and/or three-dimensional effects for thumbnail image displays
US9667846B2 (en) * 2012-11-27 2017-05-30 Nokia Technologies Oy Plenoptic camera apparatus, a method and a computer program
US9001226B1 (en) 2012-12-04 2015-04-07 Lytro, Inc. Capturing and relighting images using multiple devices
EP2957099B1 (en) * 2013-02-13 2018-08-29 Universität des Saarlandes Plenoptic imaging device
US9456141B2 (en) 2013-02-22 2016-09-27 Lytro, Inc. Light-field based autofocus
US8978984B2 (en) 2013-02-28 2015-03-17 Hand Held Products, Inc. Indicia reading terminals and methods for decoding decodable indicia employing light field imaging
US10057498B1 (en) * 2013-03-15 2018-08-21 Cognex Corporation Light field vision system camera and methods for using the same
US10334151B2 (en) 2013-04-22 2019-06-25 Google Llc Phase detection autofocus using subaperture images
JP2014220564A (ja) * 2013-05-01 2014-11-20 キヤノン株式会社 画像再生装置、画像再生方法およびプログラム、並びに撮像装置
WO2014188018A1 (es) 2013-05-21 2014-11-27 BLASCO WHYTE, Isabel Lena Integración monolítica de lentes plenópticas sobre sustratos fotosensores
US10095183B2 (en) 2013-06-21 2018-10-09 University Of South Florida Full-color incoherent digital holography
US10151859B2 (en) 2013-09-23 2018-12-11 Lg Innotek Co., Ltd. Camera module and manufacturing method for same
AU2014370001A1 (en) * 2013-12-23 2016-07-07 University Of Delaware 3-D light field camera and photography method
US9628684B2 (en) 2013-12-24 2017-04-18 Lytro, Inc. Light-field aberration correction
US9538075B2 (en) 2013-12-30 2017-01-03 Indiana University Research And Technology Corporation Frequency domain processing techniques for plenoptic images
WO2015137635A1 (en) 2014-03-13 2015-09-17 Samsung Electronics Co., Ltd. Image pickup apparatus and method for generating image having depth information
KR102228456B1 (ko) * 2014-03-13 2021-03-16 삼성전자주식회사 깊이 정보를 갖는 영상을 생성하는 영상 획득 장치 및 영상 획득 방법
US9305375B2 (en) 2014-03-25 2016-04-05 Lytro, Inc. High-quality post-rendering depth blur
JP6362433B2 (ja) * 2014-06-04 2018-07-25 キヤノン株式会社 画像処理装置およびその制御方法、プログラム
US8988317B1 (en) 2014-06-12 2015-03-24 Lytro, Inc. Depth determination for light field images
US10203661B2 (en) 2014-07-10 2019-02-12 University Of South Florida Systems and methods for performing self-interference incoherent digital holography
JP2017526507A (ja) 2014-08-31 2017-09-14 ベレシュトカ,ジョン 目を解析するためのシステム及び方法
US9635332B2 (en) 2014-09-08 2017-04-25 Lytro, Inc. Saturated pixel recovery in light-field images
TWI529661B (zh) * 2014-10-17 2016-04-11 國立臺灣大學 快速建立景深圖的方法及影像處理裝置
DE102014115292A1 (de) * 2014-10-21 2016-04-21 Connaught Electronics Ltd. Verfahren zum Bereitstellen von Bilddateien von einem Kamerasystem, Kamerasystem und Kraftfahrzeug
US9444991B2 (en) 2014-11-13 2016-09-13 Lytro, Inc. Robust layered light-field rendering
EP3026884A1 (en) * 2014-11-27 2016-06-01 Thomson Licensing Plenoptic camera comprising a light emitting device
US9902120B2 (en) * 2015-02-09 2018-02-27 Omnivision Technologies, Inc. Wide-angle camera using achromatic doublet prism array and method of manufacturing the same
US10070055B2 (en) * 2015-03-25 2018-09-04 Massachusetts Institute Of Technology Devices and methods for optically multiplexed imaging
US10565734B2 (en) 2015-04-15 2020-02-18 Google Llc Video capture, processing, calibration, computational fiber artifact removal, and light-field pipeline
US10419737B2 (en) 2015-04-15 2019-09-17 Google Llc Data structures and delivery methods for expediting virtual reality playback
US10469873B2 (en) 2015-04-15 2019-11-05 Google Llc Encoding and decoding virtual reality video
US10567464B2 (en) 2015-04-15 2020-02-18 Google Llc Video compression with adaptive view-dependent lighting removal
US10275898B1 (en) 2015-04-15 2019-04-30 Google Llc Wedge-based light-field video capture
US10440407B2 (en) 2017-05-09 2019-10-08 Google Llc Adaptive control for immersive experience delivery
US10341632B2 (en) 2015-04-15 2019-07-02 Google Llc. Spatial random access enabled video system with a three-dimensional viewing volume
US10412373B2 (en) * 2015-04-15 2019-09-10 Google Llc Image capture for virtual reality displays
US11328446B2 (en) 2015-04-15 2022-05-10 Google Llc Combining light-field data with active depth data for depth map generation
US10546424B2 (en) 2015-04-15 2020-01-28 Google Llc Layered content delivery for virtual and augmented reality experiences
US10444931B2 (en) 2017-05-09 2019-10-15 Google Llc Vantage generation and interactive playback
US10540818B2 (en) 2015-04-15 2020-01-21 Google Llc Stereo image generation and interactive playback
CN106303166A (zh) * 2015-05-22 2017-01-04 电信科学技术研究院 一种图像采集设备
DE102015006659A1 (de) 2015-05-22 2016-11-24 Martin Häusler Plenoptisches Kameraobjektiv
WO2016191035A1 (en) 2015-05-26 2016-12-01 Lytro, Inc. Capturing light-field images with uneven and/or incomplete angular sampling
US9979909B2 (en) 2015-07-24 2018-05-22 Lytro, Inc. Automatic lens flare detection and correction for light-field images
US9557741B1 (en) 2015-08-24 2017-01-31 Ford Global Technologies, Llc System and method for autonomous valet parking using plenoptic cameras
ITUA20161688A1 (it) 2016-03-15 2017-09-15 Univ Degli Studi Di Bari Dispositivo e procedimento di acquisizione plenottica di immagini.
US10783652B2 (en) 2016-05-06 2020-09-22 Arizona Board Of Regents On Behalf Of The University Of Arizona Plenoptic imaging apparatus, method, and applications
US10275892B2 (en) 2016-06-09 2019-04-30 Google Llc Multi-view scene segmentation and propagation
EP3264741A1 (en) * 2016-06-30 2018-01-03 Thomson Licensing Plenoptic sub aperture view shuffling with improved resolution
EP3293959A1 (en) 2016-09-07 2018-03-14 Thomson Licensing Plenoptic imaging device equipped with an enhanced optical system
JP6855587B2 (ja) * 2016-10-18 2021-04-07 フォトニック センサーズ アンド アルゴリズムス,エセ.エレ. 視点から距離情報を取得するための装置及び方法
US10169849B2 (en) 2016-11-11 2019-01-01 International Business Machines Corporation Contextual personalized focus for variable depth of field photographs on social networks
CN106500629B (zh) * 2016-11-29 2022-09-27 深圳大学 一种显微三维测量装置及系统
US10679361B2 (en) 2016-12-05 2020-06-09 Google Llc Multi-view rotoscope contour propagation
US10369988B2 (en) 2017-01-13 2019-08-06 Ford Global Technologies, Llc Autonomous parking of vehicles inperpendicular parking spots
US10594945B2 (en) 2017-04-03 2020-03-17 Google Llc Generating dolly zoom effect using light field image data
US10474227B2 (en) 2017-05-09 2019-11-12 Google Llc Generation of virtual reality with 6 degrees of freedom from limited viewer data
WO2018209703A1 (en) * 2017-05-19 2018-11-22 Shanghaitech University Method and system for snapshot multi-spectral light field imaging
US10354399B2 (en) 2017-05-25 2019-07-16 Google Llc Multi-view back-projection to a light-field
GB201708861D0 (en) * 2017-06-02 2017-07-19 Purelifi Ltd Concentrator height reduction
US10683034B2 (en) 2017-06-06 2020-06-16 Ford Global Technologies, Llc Vehicle remote parking systems and methods
US10775781B2 (en) 2017-06-16 2020-09-15 Ford Global Technologies, Llc Interface verification for vehicle remote park-assist
US10585430B2 (en) 2017-06-16 2020-03-10 Ford Global Technologies, Llc Remote park-assist authentication for vehicles
US10234868B2 (en) 2017-06-16 2019-03-19 Ford Global Technologies, Llc Mobile device initiation of vehicle remote-parking
WO2019018851A1 (en) 2017-07-21 2019-01-24 California Institute Of Technology PLANAR ULTRAMINOUS PHOTOGRAPHIC CAMERA WITHOUT LENS
WO2019033110A1 (en) 2017-08-11 2019-02-14 California Institute Of Technology THIN-DIMENSIONAL IMAGING WITHOUT LENS USING DIRECTIONAL DETECTION ELEMENTS
DE102017118436A1 (de) * 2017-08-14 2019-02-14 Valeo Schalter Und Sensoren Gmbh Empfängereinheit für eine Laserabtastvorrichtung, Laserabtastvorrichtung, Fahrzeug und Verfahren zum Erfassen von Licht
US10218946B1 (en) * 2017-08-29 2019-02-26 Sony Interactive Entertainment LLC High spectrum camera
US10545215B2 (en) 2017-09-13 2020-01-28 Google Llc 4D camera tracking and optical stabilization
EP3688510B1 (en) 2017-09-26 2023-11-08 Università degli Studi di Bari "Aldo Moro" Device and process for the contemporary capture of standard and plenoptic images
US10281921B2 (en) 2017-10-02 2019-05-07 Ford Global Technologies, Llc Autonomous parking of vehicles in perpendicular parking spots
US10580304B2 (en) 2017-10-02 2020-03-03 Ford Global Technologies, Llc Accelerometer-based external sound monitoring for voice controlled autonomous parking
US20190137731A1 (en) * 2017-11-03 2019-05-09 Sony Corporation Light field adapter for interchangeable lens cameras
US10627811B2 (en) 2017-11-07 2020-04-21 Ford Global Technologies, Llc Audio alerts for remote park-assist tethering
CN107741644A (zh) * 2017-11-21 2018-02-27 杭州加速云信息技术有限公司 一种用于不同视角成像的成像装置
US10336320B2 (en) 2017-11-22 2019-07-02 Ford Global Technologies, Llc Monitoring of communication for vehicle remote park-assist
US10578676B2 (en) 2017-11-28 2020-03-03 Ford Global Technologies, Llc Vehicle monitoring of mobile device state-of-charge
US10737690B2 (en) 2018-01-02 2020-08-11 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10583830B2 (en) 2018-01-02 2020-03-10 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10974717B2 (en) 2018-01-02 2021-04-13 Ford Global Technologies, I.LC Mobile device tethering for a remote parking assist system of a vehicle
US10688918B2 (en) 2018-01-02 2020-06-23 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10814864B2 (en) 2018-01-02 2020-10-27 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10585431B2 (en) 2018-01-02 2020-03-10 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US11148661B2 (en) 2018-01-02 2021-10-19 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10684773B2 (en) 2018-01-03 2020-06-16 Ford Global Technologies, Llc Mobile device interface for trailer backup-assist
US10747218B2 (en) 2018-01-12 2020-08-18 Ford Global Technologies, Llc Mobile device tethering for remote parking assist
US10965862B2 (en) 2018-01-18 2021-03-30 Google Llc Multi-camera navigation interface
US10917748B2 (en) 2018-01-25 2021-02-09 Ford Global Technologies, Llc Mobile device tethering for vehicle systems based on variable time-of-flight and dead reckoning
US10684627B2 (en) 2018-02-06 2020-06-16 Ford Global Technologies, Llc Accelerometer-based external sound monitoring for position aware autonomous parking
US11188070B2 (en) 2018-02-19 2021-11-30 Ford Global Technologies, Llc Mitigating key fob unavailability for remote parking assist systems
US10507868B2 (en) 2018-02-22 2019-12-17 Ford Global Technologies, Llc Tire pressure monitoring for vehicle park-assist
WO2019174756A1 (en) * 2018-03-15 2019-09-19 Photonic Sensors & Algorithms, S.L. Plenoptic camera for mobile devices
US10732622B2 (en) 2018-04-05 2020-08-04 Ford Global Technologies, Llc Advanced user interaction features for remote park assist
US10793144B2 (en) 2018-04-09 2020-10-06 Ford Global Technologies, Llc Vehicle remote park-assist communication counters
US10683004B2 (en) 2018-04-09 2020-06-16 Ford Global Technologies, Llc Input signal management for vehicle park-assist
US10493981B2 (en) 2018-04-09 2019-12-03 Ford Global Technologies, Llc Input signal management for vehicle park-assist
US10759417B2 (en) 2018-04-09 2020-09-01 Ford Global Technologies, Llc Input signal management for vehicle park-assist
US10384605B1 (en) 2018-09-04 2019-08-20 Ford Global Technologies, Llc Methods and apparatus to facilitate pedestrian detection during remote-controlled maneuvers
US10821972B2 (en) 2018-09-13 2020-11-03 Ford Global Technologies, Llc Vehicle remote parking assist systems and methods
US10717432B2 (en) 2018-09-13 2020-07-21 Ford Global Technologies, Llc Park-assist based on vehicle door open positions
US10967851B2 (en) 2018-09-24 2021-04-06 Ford Global Technologies, Llc Vehicle system and method for setting variable virtual boundary
US10529233B1 (en) 2018-09-24 2020-01-07 Ford Global Technologies Llc Vehicle and method for detecting a parking space via a drone
US10908603B2 (en) 2018-10-08 2021-02-02 Ford Global Technologies, Llc Methods and apparatus to facilitate remote-controlled maneuvers
US10628687B1 (en) 2018-10-12 2020-04-21 Ford Global Technologies, Llc Parking spot identification for vehicle park-assist
US11097723B2 (en) 2018-10-17 2021-08-24 Ford Global Technologies, Llc User interfaces for vehicle remote park assist
US11137754B2 (en) 2018-10-24 2021-10-05 Ford Global Technologies, Llc Intermittent delay mitigation for remote vehicle operation
FR3090904B1 (fr) 2018-12-19 2021-02-19 Office National Detudes Rech Aerospatiales Composant optique monolithique a plusieurs voies
US11789442B2 (en) 2019-02-07 2023-10-17 Ford Global Technologies, Llc Anomalous input detection
US11195344B2 (en) 2019-03-15 2021-12-07 Ford Global Technologies, Llc High phone BLE or CPU burden detection and notification
CN113302541B (zh) 2019-03-22 2024-08-06 巴里大学 用于捕获任意平面之间的全光图像的过程和装置
US11169517B2 (en) 2019-04-01 2021-11-09 Ford Global Technologies, Llc Initiation of vehicle remote park-assist with key fob
US11275368B2 (en) 2019-04-01 2022-03-15 Ford Global Technologies, Llc Key fobs for vehicle remote park-assist
CN110928113B (zh) * 2019-12-03 2021-10-08 西北工业大学 一种可变空间分辨率的光场采集装置
CN115917369A (zh) * 2020-04-23 2023-04-04 加利福尼亚大学董事会 超快光场断层摄影
EP3993385A1 (en) 2020-10-29 2022-05-04 Universitat de València A multiperspective photography camera device
US11947134B2 (en) 2021-01-22 2024-04-02 National Taiwan University Device of generating 3D light-field image
US11341224B2 (en) 2021-01-29 2022-05-24 Ut Battelle, Llc Handheld multi-sensor biometric imaging device and processing pipeline

Family Cites Families (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US725567A (en) 1902-09-25 1903-04-14 Frederic E Ives Parallax stereogram and process of making same.
US2039648A (en) * 1933-05-06 1936-05-05 Perser Corp Camera for making parallax panoramagrams
JPS5040669B1 (ja) * 1970-11-13 1975-12-25
US3985419A (en) 1970-10-05 1976-10-12 Canon Kabushiki Kaisha Method of making a synthetic focused image hologram
JPS5946376B2 (ja) * 1977-03-11 1984-11-12 富士写真フイルム株式会社 立体写真撮影装置
US4193093A (en) 1978-08-03 1980-03-11 The United States Of America As Represented By The Secretary Of The Navy CCD camera interface circuit
US4230942A (en) * 1979-03-26 1980-10-28 Honeywell Inc. Crossed cylindrical lens
US4580219A (en) * 1983-05-02 1986-04-01 General Electric Company Method for reducing image artifacts due to projection measurement inconsistencies
US4732453A (en) * 1984-12-10 1988-03-22 Integrated Images, Inc. Integral photography apparatus and method of forming same
US4849782A (en) * 1985-06-28 1989-07-18 Canon Kabushiki Kaisha Focus detecting device
US5076687A (en) 1990-08-28 1991-12-31 Massachusetts Institute Of Technology Optical ranging apparatus
US5361127A (en) 1992-08-07 1994-11-01 Hughes Aircraft Company Multi-image single sensor depth recovery system
US5400093A (en) * 1992-12-28 1995-03-21 U.S. Philips Corporation Image projection system with autofocusing
US5659420A (en) * 1993-09-30 1997-08-19 Kabushiki Kaisha Komatsu Seisakusho Confocal optical apparatus
JPH07270791A (ja) * 1994-03-25 1995-10-20 Nikon Corp 投射装置
JPH08233658A (ja) * 1995-02-24 1996-09-13 Olympus Optical Co Ltd 分光装置及び分光画像記録装置
FR2748579B1 (fr) * 1996-05-09 1998-08-21 Allio Pierre Dispositif de formation d'une image autostereoscopique et systeme le comprenant
EP0902913A1 (en) * 1996-06-03 1999-03-24 Mims, Herman D. Method and apparatus for three-dimensional photography
US6137535A (en) * 1996-11-04 2000-10-24 Eastman Kodak Company Compact digital camera with segmented fields of view
GB9702006D0 (en) * 1997-01-31 1997-03-19 Univ Montfort Lens arrangements
US6097394A (en) * 1997-04-28 2000-08-01 Board Of Trustees, Leland Stanford, Jr. University Method and system for light field rendering
US7532372B2 (en) 1997-07-08 2009-05-12 Kremen Stanley H Method for creating a holographic screen that reconstructs uniformly magnified three-dimensional images from projected integral photographs
US7002749B2 (en) 1997-07-08 2006-02-21 Kremen Stanley H Modular integral magnifier
US20010012149A1 (en) * 1997-10-30 2001-08-09 Shawn-Yu Lin Optical elements comprising photonic crystals and applications thereof
US6351269B1 (en) 1998-04-17 2002-02-26 Adobe Systems Incorporated Multiple image morphing
JP3869116B2 (ja) * 1998-04-27 2007-01-17 日本放送協会 立体画像装置
US6268846B1 (en) * 1998-06-22 2001-07-31 Adobe Systems Incorporated 3D graphics based on images and morphing
JP3790371B2 (ja) * 1998-10-09 2006-06-28 日本放送協会 立体画像装置
US6339506B1 (en) * 1998-11-06 2002-01-15 Oni Systems Corp. Microlens array with spatially varying optical property
AU2421101A (en) 1999-11-16 2001-05-30 Agilent Technologies Inc. Confocal imaging
US6476805B1 (en) * 1999-12-23 2002-11-05 Microsoft Corporation Techniques for spatial displacement estimation and multi-resolution operations on light fields
US6738533B1 (en) * 2000-03-29 2004-05-18 Microsoft Corporation Minimum sampling rate and minimum sampling curve for image-based rendering
JP2001330769A (ja) * 2000-05-24 2001-11-30 Canon Inc 撮像装置及びその制御方法
US7061532B2 (en) 2001-03-27 2006-06-13 Hewlett-Packard Development Company, L.P. Single sensor chip digital stereo camera
US7260323B2 (en) * 2002-06-12 2007-08-21 Eastman Kodak Company Imaging using silver halide films with micro-lens capture, scanning and digital reconstruction
CN1692296A (zh) 2002-09-30 2005-11-02 独立行政法人科学技术振兴机构 共焦点显微镜及采用它的荧光测量方法和偏振光测量方法
US20040114807A1 (en) 2002-12-13 2004-06-17 Dan Lelescu Statistical representation and coding of light field data
JP2004200975A (ja) * 2002-12-18 2004-07-15 Canon Inc 撮像装置
JP2004239932A (ja) * 2003-02-03 2004-08-26 Noriji Ooishi 立体像撮影装置
US7057806B2 (en) 2003-05-09 2006-06-06 3M Innovative Properties Company Scanning laser microscope with wavefront sensor
US7702878B2 (en) * 2004-03-19 2010-04-20 Broadcom Corporation Method and system for scalable video data width
US7054067B2 (en) * 2003-05-27 2006-05-30 Nippon Hoso Kyokai Three-dimensional image optical system
DE10327733C5 (de) * 2003-06-18 2012-04-19 Limo Patentverwaltung Gmbh & Co. Kg Vorrichtung zur Formung eines Lichtstrahls
WO2005043893A1 (ja) * 2003-11-04 2005-05-12 Matsushita Electric Industrial Co., Ltd. 撮像装置
JP4508619B2 (ja) * 2003-12-03 2010-07-21 キヤノン株式会社 固体撮像装置の製造方法
US7936392B2 (en) * 2004-10-01 2011-05-03 The Board Of Trustees Of The Leland Stanford Junior University Imaging arrangements and methods therefor
US7653261B2 (en) * 2004-11-12 2010-01-26 Microsoft Corporation Image tapestry
CN101128153B (zh) * 2005-02-25 2010-09-29 株式会社日立医药 X射线ct设备
CN101147392B (zh) * 2005-03-24 2012-05-09 松下电器产业株式会社 成像装置及其中使用的透镜阵列
JP4826152B2 (ja) * 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
EP1949342A2 (en) * 2005-09-13 2008-07-30 Koninklijke Philips Electronics N.V. Automatic generation of optimal views for computed tomography thoracic diagnosis
WO2007036055A1 (en) * 2005-09-30 2007-04-05 Simon Fraser University Methods and apparatus for detecting defects in imaging arrays by image analysis
WO2007092581A2 (en) * 2006-02-07 2007-08-16 The Board Of Trustees Of The Leland Stanford Junior University Correction of optical aberrations
US7620309B2 (en) 2006-04-04 2009-11-17 Adobe Systems, Incorporated Plenoptic camera
US7676073B2 (en) * 2006-08-29 2010-03-09 Siemens Medical Solutions Usa, Inc. System and method for reducing circular artifacts in tomographic imaging
US8103111B2 (en) * 2006-12-26 2012-01-24 Olympus Imaging Corp. Coding method, electronic camera, recording medium storing coded program, and decoding method
US7860333B2 (en) * 2007-01-09 2010-12-28 University Of Utah Research Foundation Systems and methods for deblurring data corrupted by shift variant blurring
JP4264569B2 (ja) * 2007-01-09 2009-05-20 ソニー株式会社 撮像装置
US7792423B2 (en) * 2007-02-06 2010-09-07 Mitsubishi Electric Research Laboratories, Inc. 4D light field cameras
CN100585453C (zh) * 2007-02-09 2010-01-27 奥林巴斯映像株式会社 解码方法及解码装置
US8019215B2 (en) * 2007-08-06 2011-09-13 Adobe Systems Incorporated Method and apparatus for radiance capture by multiplexing in the frequency domain
KR20090022596A (ko) * 2007-08-31 2009-03-04 삼성전기주식회사 회절형 광변조기 및 이를 포함하는 디스플레이 장치
US8189065B2 (en) * 2008-01-23 2012-05-29 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
US7962033B2 (en) * 2008-01-23 2011-06-14 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
KR101441586B1 (ko) * 2008-10-06 2014-09-23 삼성전자 주식회사 촬상 장치 및 촬상 방법

Also Published As

Publication number Publication date
WO2007115281A1 (en) 2007-10-11
US7620309B2 (en) 2009-11-17
JP2009532993A (ja) 2009-09-10
US20070230944A1 (en) 2007-10-04
US20100020187A1 (en) 2010-01-28
CN101455071B (zh) 2013-04-03
US8238738B2 (en) 2012-08-07
EP2008445B1 (en) 2017-10-18
EP2008445A1 (en) 2008-12-31
KR20090016453A (ko) 2009-02-13
CN101455071A (zh) 2009-06-10

Similar Documents

Publication Publication Date Title
JP4981124B2 (ja) 改良型プレノプティック・カメラ
US8400555B1 (en) Focused plenoptic camera employing microlenses with different focal lengths
EP2227896B1 (en) Fast computational camera based on two arrays of lenses
CN108432230B (zh) 一种成像设备和一种用于显示场景的图像的方法
US8315476B1 (en) Super-resolution with the focused plenoptic camera
US8724000B2 (en) Methods and apparatus for super-resolution in integral photography
US8380060B2 (en) Methods and apparatus for full-resolution light-field capture and rendering
CN102037717B (zh) 使用具有异构成像器的单片相机阵列的图像拍摄和图像处理
US9456195B1 (en) Application programming interface for multi-aperture imaging systems
JP2008294741A (ja) 撮像システム
JP3907891B2 (ja) 画像撮像装置及び画像処理装置
US9063323B2 (en) Super light-field lens and image processing methods
CN103888641A (zh) 图像处理装置及图像再对焦方法
JP2013145982A (ja) 撮像装置、画像処理装置及び方法
EP4346199A1 (en) Imaging method and device for autofocusing
Liang et al. Light field acquisition using programmable aperture camera
Sahin et al. Light L16 computational camera
JP4162842B2 (ja) 画像撮像装置及び画像撮像方法
JP2020134624A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP2013258449A (ja) 撮像装置および撮像装置の制御方法
JP2019074640A (ja) 撮像装置及びその制御方法、並びにプログラム
KR101756328B1 (ko) 양방향 멀티스케일 이미징 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100402

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120229

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120327

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120419

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150427

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4981124

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250