JP2013534379A - 画像キャプチャ装置および画像キャプチャ方法 - Google Patents

画像キャプチャ装置および画像キャプチャ方法 Download PDF

Info

Publication number
JP2013534379A
JP2013534379A JP2013520113A JP2013520113A JP2013534379A JP 2013534379 A JP2013534379 A JP 2013534379A JP 2013520113 A JP2013520113 A JP 2013520113A JP 2013520113 A JP2013520113 A JP 2013520113A JP 2013534379 A JP2013534379 A JP 2013534379A
Authority
JP
Japan
Prior art keywords
imaging
pixel
optical element
image
image capture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013520113A
Other languages
English (en)
Other versions
JP5649091B2 (ja
Inventor
アレクサンダー オーバーデルスター
アンドレーアス ブリュックナー
フランク ヴィッパーマン
Original Assignee
フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー. filed Critical フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー.
Publication of JP2013534379A publication Critical patent/JP2013534379A/ja
Application granted granted Critical
Publication of JP5649091B2 publication Critical patent/JP5649091B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/205Neutral density filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/72Modifying the appearance of television pictures by optical filters or diffusing screens
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

光学素子が被写体をそれぞれの画素に撮像する撮像方向または光学素子によりそれぞれの画素に撮像される焦点深度領域内の横方向の撮像位置にしたがい画素のサンプルが配列され、かつ、このように配列された画素のサンプルの分布がサンプルの分布全体上に延在する規則的グリッドの交点で補間される場合に、多チャネル光学素子を使用することで、ハードウェア/製造支出と画質の両方を改善する。上記のようにして、画像全体に対して処理が標準化されるので、サブエリア間の遷移問題が回避される。
【選択図】図2

Description

本発明は、画像キャプチャ装置および画像をキャプチャする方法に関する。
カメラモジュールの小型化と製造コストの削減は、携帯電話用カメラの分野および自動車技術の分野等多くの分野における重要な目標である。すべての寸法において、モジュールサイズは画素サイズに比例する。このことは、光軸に沿った長さにも当てはまる。すなわち、総画素数が同じなら、画素を小さくする程、センサ寸法が小さくなり、小さいセンサにする程、視野が同じなら、焦点距離を短くできる。カメラモジュールの光軸に沿った長さを短くできる限界は、主として光学系の焦点距離により決まる。
昆虫の複眼から着想した、多チャネルの撮像系により、小型化とコスト削減の両方を実現することができる。拡張が数ミリメータのオーダであるレンズ系の単独スタックとは異なり、多チャネル撮像系における光学系は、マイクロレンズからなるアレイで構成される。これらのマイクロレンズアレイにより生成されるマイクロピクチャは、光学的または電子的に結合されて1つの画像になる。システム全体の視野が特定のものである場合、このような多チャネルの撮像系のマイクロレンズの焦点距離は、単一チャネル系の焦点距離の何分の1にしか過ぎず、そのため、光軸に沿った設計高さが短くなり、かつ、焦点深さがかなり大きくなる。各マイクロピクチャは、視野の小さい部分をカバーすればよいので、光学系を単純に構成することができ、チャネルごとに1つのレンズと数個のアパチャで十分であることも多い。マイクロレンズの直径は、数百マイクロメータのオーダであり、かつ、頂点の高さが数十マイクロメータの範囲であるため、ウェハボンド構成とすることで、マイクロレンズを、コストを押さえつつ高精度に製造できる。
しかしながら、現在のところ、カメラ、携帯電話等の用途については、十分な解像度を得ることは難しい。各チャネルの光路は、軸方向に互いに平行であるにもかかわらず、各チャネルで光学ひずみが発生し、そのことが、個々の撮像チャネル上の個々の部分画像をつなぎ合わせることを複雑にしている。イメージセンサのサブ領域のフレームアレイをつなぎ合わせるだけで、画素アレイ全体が形成されるような精度で、マイクロレンズアレイとイメージセンサの関連するサブ領域をそれぞれ配置しようとすると、製造許容差と、イメージセンサおよびマイクロレンズアレイのアセンブリにおける許容誤差とには、厳しい要件が課せられることになる。非特許文献1には、多チャネル撮像システムの部分画像を結合して全体画像を形成するためのアルゴリズムが記載されているが、これはいくつかの段階で実行される。すなわち、マイクロピクチャは、まず、反転され、その後、イコライズされ、その上でマイクロピクチャとともに結合され、視差を考慮しながら再構成することにより、全体画像が形成される。イコライズは、サブ画素の精度で行われる。このようにして取得された個々の画素クラウドは、各々のケースでイコライズされた部分画像を作り出すように、補間され、画像情報は、整数画素精度で、その画素位置が特定される。最後に、画素を再配列するかまたはイコライズした部分画像の重なり領域に画素をインタリーブすることにより、前記部分画像を織り交ぜて全体画像を形成する。開示される方法では、製造精度に課せられる厳しい要件の問題は低減されるものの、部分画像の個々の処理のミスマッチにより、製作された全体画像、特に部分画像の重なり領域に沿ってアーチファクトが生じる可能性があるという問題が残される。
より大きな全体視野を達成するための多チャネル撮像システムに関する上記と同様の問題が他の応用においても発生する。「レンズレットアレイ画像における情報のためのシーン依存しない方法」と題する特許文献1(米国第2001/013807A1号)は、たとえばマイクロレンズのアレイを記載するが、レンズが、略同じ方向に面しかつ同じ画像アパチャ角度を有する必要がある。しかしながら、個別のマイクロレンズの観察方向の差はほんの小さな範囲でしかない。特に、同特許文献は、個々の部分画像の観察方向における差を決定し得る方法を記載する。この点については、とりわけ、個々の部分写真を相互に非常に正確に重ねることができる方法について記載し、前記特許文献ではグローバルシフトを使用するとする。しかしながら、フレームの潜在的ひずみについては、補償されない。
米国第2001/013807A1号
ブルックナー、デュパレ、ダンベルグ、ライトルおよびブロイア、「小型カメラ用途のための駆動マイクロ光学撮像システム」、マイクロオプティック、2010年、SPIE論文集、第7716巻(Brueckner, Duparre, Dannberg, Leitel and Braeuer: "Driving Microoptical Image System towards Miniature Camera Applications, Micro−Optic 2010, Proceedings of SPIE, vol. 7716)
本発明の目的は、製造コストおよびハードウェアコストを抑えつつ、多チャネル光学素子が写真撮影に使用される際に、全体画像に満足のいく品質が得られるような、画像キャプチャ装置および画像キャプチャ方法を提供することである。
この目的は、請求項1に記載の画像キャプチャ装置および請求項15に記載の方法により達成される。
本発明の実施例による画像キャプチャ装置は、多数の画素を含み、撮像において、画素ごと1つのサンプルを検出するよう構成されているイメージセンサと、イメージセンサに対して光学撮像を生成するための光学素子を含み、前記光学素子は、重複する立体角範囲を個別に形成して、イメージセンサのサブ領域を分離するための多チャネル光学素子とを含む。イメージセンサの各画素は、関連付けられた撮像値を有し、この撮像値は、光学素子が被写体をそれぞれの画素に対して被写体を撮像する撮像方向である、または、光学素子によりそれぞれの画素に撮像される焦点深度領域内の横方向の撮像位置である。最後に、画像キャプチャ装置は、画像値のアレイを得るために、サンプルの全分布を横切って延在する規則的なグリッドの交点の撮像値にしたがって、画素のサンプルの分布を補間するための補間部を含む。
本発明の知見は、画素のサンプルが、光学素子が被写体をそれぞれの画素に撮像する撮像方向または光学素子によりそれぞれの画素に撮像される焦点深度領域内の横方向の撮像位置にしたがい画素のサンプルが配列される場合であって、画素のサンプルの分布がサンプルの全分布上に延在する規則的グリッドの交点で補間される場合に、多チャネル光学素子を使用することで、ハードウェア/製造支出と画質の両方が改善されることを認識した点にある。このようにして、画像全体に対して処理が標準化されるので、サブエリア間の移行問題が回避される。
本願の好ましい実装は、従属項に係る発明である。
本件の好ましい実施例について、添付の図面を参照してより詳細に説明する。
本件出願の実施例による画像キャプチャ装置の模式図である。 本件出願のさらに少し詳細な実施例による画像キャプチャ装置の模式図である。 aは、本発明の実施例による撮像値にしたがう画素の分布の模式図であって、焦点深度領域において横方向の撮像位置が撮像値として使用され、かつbは、本発明の実施例による画素の分布の模式図であり、使用される撮像値が、光学素子がそれぞれの画素に対して撮像を行う撮像方向であることを示す図である。 aは、本発明の実施例による撮像値にしたがう画素の分布の模式図であって、焦点深度領域において横方向の撮像位置が撮像値として使用され、かつbは、本発明の実施例による画素の分布の模式図であり、使用される撮像値が、光学素子がそれぞれの画素に対して撮像を行う撮像方向であることを示す図である。 実施例によるイメージセンサおよびマイクロレンズアレイからなる構成の断面図である。 aおよびbは、個々の画素の視野および観察方向を示すための模式図である。 aおよびbは、個々の画素の視野および観察方向を示すための模式図である。 実施例によるひずみを含むサブ領域内の画素の観察方向を示すための空間図である。 実施例による画素ドットクラウドおよびそれに重畳させた規則的グリッドの模式図である。 誤って視差の影響を無視したことにより生じる誤差を示すための2つの撮影状況の模式図である。 誤って視差の影響を無視したことにより生じる誤差を示すための2つの撮影状況の模式図である。
図1は、本件の実施例による画像キャプチャ装置を示す図である。図1の画像キャプチャ装置は、全体を参照番号10で示し、たとえば図2まで図示しない多数の画素を有するイメージセンサ12と、イメージセンサ12上に光学画像を生成するための光学素子14を含み、光学素子は、重複する立体角範囲16、16および16を個々に撮像してイメージセンサのサブ領域を分離するための多チャネル光学素子を含む。後者も図2まで図示しない。図1の画像キャプチャ装置10は、補間部18と、アソシエータ19ならびにユーザ入力インタフェースおよび/またはレンジファインダ20等の他の要素を任意にさらに含む。
イメージセンサ12は、補間部18に接続されて、撮像するごとに、各画素で輝度値等のサンプルを検出し、かつ、これを補間部18へ出力するように構成される。オプションの入力インタフェースおよび/またはオプションのレンジファインダ20は、アソシエータを経由して補間部18に接続されてもよい。以下に詳説するとおり、アソシエータ19と協働するオプションの入力インタフェースまたはレンジファインダ20を経由して、以下に詳説する補間において、補間部18は、重複する立体角範囲16から16により形成される視野全体の範囲内にあり、かつ、イメージセンサ12のそれぞれのサブ領域に撮像されるシーンの被写体が示す距離を考慮に入れることが可能である。補間部18は、画像キャプチャ装置10の出力22を、画像値の配列の形式の出力として、所望の画像を画像キャプチャ装置10から出力する。
図1の画像キャプチャ装置の設計は、上記のとおりなので、その動作モードについて以下に詳説する。本件の実施例による図1と同じ要素をより詳細なレベルで示す図2についても適宜参照する。
上記のとおり、光学素子14は、重複する立体角範囲16から16を個別に撮像するための多チャネル光学素子を有し、イメージセンサ12のサブ領域24から24または24を分離する。図1および図2に示すように、多チャネル光学素子は、マイクロレンズ26から26からなるレンズアレイでもよい。マイクロレンズの各々は、各々サブ領域24から24または23の1つに関連付けられ、それぞれの視野または立体角範囲16、16または16を有する対応のチャネルを構成する。図1および図2に例示する例では、多チャネル光学素子は、重複する立体角範囲16から16がともに、これら個別に見える相互に重複する立体角範囲より大きい、たとえば重複する立体角範囲16から16の各々より4倍大きい等、明らかに大きい立体角範囲全体を覆うように構成される。本件明細書の導入部ですでに述べたとおり、基本的にイメージセンサ12からの光学素子14の距離に相当し、かつ、マイクロレンズの焦点距離に等しいか、または、わずかに大きい設計高さhを、これにより小さくすることができる。全体として拡張される全視野角は、詳細には、マイクロレンズ26から26の中心間の距離またはマイクロレンズ26から26の頂点の平均距離が、中心間の距離またはイメージセンサ12のサブ領域24から24の反復距離に比べて大きくなるという形で実現される。このようにして、画像キャプチャ装置の所望の視野全体を、設計高さhから切り離す。言い換えれば、視野全体を個々の視野16から16へ細分化することにより、設計高さhは、個別の光学素子を有する設計に比べて、小さくなり、かつ設計高さhの縮小量は、サブ領域の数が増えるたびに増大する。ただし、現実には、より小さいサブ領域に関連してレンズ間に必要な距離またはレンズの大きさにより、個々のチャネルへの細分化には限界がある。たとえば、チャネルの数は、4から10000の範囲である。
動作のモードについて説明する前に、最終的には、次の実施例に説明するシナリオとは異なり、26から26の反復距離を、サブ領域24から24の平均反復距離より小さくすることも可能であり、つまり立体角範囲は基本的に完全に重複するようにすることもできる。たとえば、全体の立体角範囲を、重複する立体角範囲の最大値のせいぜい120%の大きさとなるように、小さくすることができる。
上記のとおり、イメージセンサ12は、多数の画素28を有する。特に、サブ領域24から24の各々が、多数の前記画素28を含む。たとえば、各サブ領域24から24は、32以上の画素を含む。図4を参照して以下に詳説するとおり、イメージセンサ12は、単一基板イメージセンサでよく、たとえばサブ領域24から24が結合して形成され、前記サブ領域24から24の間の間隙を、読み出しアンプ、行および/または列デコーダ等の画素28の感光領域を制御する制御回路部を収納するために使用可能である。
ちょうど、それぞれの立体角範囲16から16が光学素子14、特に、マイクロレンズ26から26に対する構成によりサブ領域24から24と関連付けられるように、各画素28は、当然それぞれの立体角範囲を有しており、これは明らかにより小さいため、これに関連付けられる観察および/または撮像方向は、たとえば画素のそれぞれの立体角範囲の中心へ延びる。接続については、図5aおよび図5bを参照して、以下に詳説する。撮像および/または観察方向の撮像および観察角のすべてが、たとえば、光学素子14の光軸またはイメージセンサ12の感光面領域に直角をなす表面との関連で決定される。このようにして、画素28を図3bに示すような平面内、すなわち2つの軸による平面内に配列することが可能で、このうち軸30には、画素28の行方向xにおけるそれぞれの画素φの撮像方向の偏位が入り、軸32には、たとえば軸xに直角をなす列方向yの光軸に関連する撮像方向の角度の偏位が入り、後者の角度はθで表す。なお、これらの軸は同様にスケール決めがされるか、等方的であることが好ましい。図3bは、画素がその撮像方向にしたがって広がる平面内に配列される様子を示す。境界34は、たとえばサブ領域24の画素28のドットにより示される位置を取り囲む。境界34のクッション状の様子は、マイクロレンズ26のひずみが、(φ,θ)平面内のサブ領域24の画素28のクッション形状の分布につながることを示す。明確化のため、図3bは、サブ領域24および24の画素28を示さず、それぞれの部分画素のドットのクラウドのエッジであるそれらの境界36および38のみを示す。さらに、図3bは、たとえばx方向でサブ領域24から24に隣接して配置され得るサブ領域の画素の位置を示し、これらは図2では、破線で示される。
画像キャプチャ装置10によりキャプチャされるシーンが十分に遠ければ、上記のとおり各画素28に関連する観察方向を考慮するだけで十分ということになる。画像領域24から24および関連のマイクロレンズが相互に横方向にずれるという事実による視差の影響は、距離が大きい場合には重要ではない。より短い距離については状況が異なる。たとえば、図1は、ちょうど図2がこの焦点深度領域を示すように、光学素子14の光軸に対して垂直に伸びる平面として焦点深度領域40を示す。ここでも、キャプチャされたシーンがいくつかのチャネルへ分割され、光学素子14の焦点深度は非常に大きくなる。このようにして、マイクロレンズ26から26は、非常に大きな焦点深度範囲内、すなわち光学素子14から距離が非常に大きい範囲で被写体をイメージセンサ12に鮮明に撮像することが可能である。たとえば、マイクロレンズ26から26は、マイクロレンズ26から26の焦点距離と等しいかまたはわずかに長い距離だけイメージセンサ12の感光領域から離れて配置することができる。
ちょうど各画素28が、各画素に関連付けられる撮像方向を有し得るように、各画素も関連付けられた、横断方向に延在する焦点深度領域40に、横方向の撮像位置を有し、すなわち、光学素子14によりそれぞれの画素28に撮像される。図3aに示すとおり、それらの横方向の撮像位置にしたがい、方向x0の直交座標と方向yの直交座標による平面内に画素28を、配列してもよい。図3bと同様、図3aは、サブ領域24について個別に、画素28の位置を点でのみ示し、実線は、全体にサブ領域24から24の画素の位置および位置のクラウドの拡張を示しており、破線は、図2の破線が示す、想定される他のサブ領域の画素の位置を示している。図3aにおいても、クッション状に実現された境界線は、光学素子14の単チャネル光学素子が歪みを起こし得ることを示す。
上記のとおり、イメージセンサ12および光学素子14は、一定の間隔を置いて配列される。当然、焦点深度範囲を調節できるように、イメージセンサ12と光学素子14の間隔は可変に調節することも可能だが、上記のとおり、多チャネル光学素子およびマイクロレンズのアパチャ(サイズを小さくしたアパーチャ)の使用によって、多くの場合、焦点深度範囲は、いずれにしても再調節が不要な程度に十分大きい。画像キャプチャ装置10が、視差の影響が依然として問題にならない距離に配置された被写体の画像を撮像するよう設計されている場合、サブ領域24から24の個々の画素28での撮像方向について図3bに示す関係を固定することが可能になる。この場合、アソシエータ19の存在が絶対に必要というわけではない。むしろ、補間部18の機能を実現するプログラムコード内にこの関係を固定的にプログラムするかまたはハードウェアに組み込んでもよい。他の方法では、アソシエータ19をルックアップテーブルの形でメモリに存在させてもよい。アソシエータ19を撮像ごとに個々の画素28の撮像方向を再計算する算術装置として実現することも可能であると考えられる。
当然、図1の画像キャプチャ装置10をたとえば、およそ0.5mの至近距離等の特定の至近距離内にある被写体のみをキャプチャするようにすることもできると考えられる。この場合、図3aに関連してすでに述べた関係を、補間部18内に固定的に実装してアソシエータ19を設けないようにしてもよい。しかしながら、図3bの関係について上記に述べた代替的方法も、当然可能であると考えられる。
図3bおよび図3aによる関係は、(画像キャプチャ装置の以下のアセンブリにしたがい)、たとえば、適切な較正用被写体を撮像することにより決定されるものであってもよい。別の方法として、画像キャプチャ装置10の設計パラメータおよび/または特に光学素子14のイメージセンサ12の設計パラメータならびにそれら相互の相対位置を用いて計算することで、焦点深度領域40における撮像方向および/または横方向撮像位置の関係を決定してもよい。いずれの代替方法についても、光学素子14により生じるひずみを考慮に入れることも可能であると考えられる。
当然、画像キャプチャ装置10は、サブ領域またはアパチャ間の横方向のオフセットにより、視差の影響が、ある役割を果たす撮像用として提供されうるし、視差の影響が上記のようなものではない撮像用としても提供されうる。この場合、ユーザがユーザ入力インタフェース20を使用して、上記関係が図3bにしたがい、すなわち長距離撮影用か、図3aにしたがい、すなわちクローズアップの撮影用かのいずれかをアソシエータ19に対して指定し得る。レンジファインダ20による指定も可能で、このレンジファインダは、実行時間測定等または相関等のサブ領域に存在する情報自体を分析することにより距離を決定できる。図3bに対応する上記関係(撮像方向および/または横方向撮像位置の関係)と図3aに対応する上記関係(撮像方向および/または横方向撮像位置の関係)との間の移行は、急である必要はない。むしろ、光学素子14からのシーンの距離が大きくなる程、視差のターム(視差についての制約)は、いずれにしても連続的に消滅していく。したがって、アソシエータ19が入力インタフェース/レンジファインダ20からキャプチャする被写体の距離表示を取得し、取得した距離表示によりルックアップテーブルを参照することにより、または、距離表示を用いて算出することにより、視差タームを考慮に入れつつ、上記関係を調節することも可能であると考えられる。
補間部18は、図3bおよび/または図3aによる平面内の画素28のすべての共通ドットクラウドから、画素のアレイ、すなわち、画像値からなる規則的なグリッド、すなわち所望の画像を作る役割を果たす。このため、補間部18は、サブ領域の個別のドットクラウドのすべての組み合わせの上、すなわち撮像値により配列される画素を有するフレーム全体上に規則的なグリッド42を重ねて、図3aまたは図3bによる平面内の位置、すなわち規則的なグリッド42の交点の位置にある画素のサンプル間を補間する。なお、規則的なグリッドに、ノードより多い数の交点、すなわち画素28より多い数の交点を持たせることも可能である。しかしながら、所望の画像アレイに寄与する規則的なグリッド42の交点は、すべての画素の共有する量の範囲内である必要があり、これは、さもなければ、これに関して不正確さを含む外挿を行う必要があると考えられるためである。補間法の例について後述するが、採用し得る多数の補間方法が存在する。いずれにしても、撮像値は、規則的なグリッドのグリッド間隔の16倍以上である最小単位を用いてスカラー精度で存在し得る点が有利である。言い換えれば、図3aまたは図3bによる空間の範囲内において、補間部18は、第1ビットの精度でそこに生じる成分を取り扱うことができるが、これに関して、グリッド42の交点は、最小単位の16個分以上の距離を有する。こうして、1つのステップでかつ一定の態様で、フレームのすべてについて補間を行うことができるが、これは、たとえば、フレームの重複領域または個々の画素ドットクラウドにおいてさえ、補間がグリッド点ごとに一回のみ行われ、そして、それぞれの重複領域内で重複するフレームのすべてが、この補間に等しく関与するという事実が反映されたものかもしれない。撮像値を再調整したり、操作する必要はない。撮像値が、いったん決定されると、それらは、例えば、画素のビーム密度値がそれぞれの補間された値に結合される値の重み付け値においてのみ考慮され、特に、以下に説明するように、その重みづけは、たとえば、現在実行されている補間処理での予想交点グリッド点と、その周囲のそれぞれの画素との間に相当する距離の測定値に等しいということが考慮される。
上記では、画素28が異なる感度で動作する可能性に対して対処していなかった。たとえば、感度は、スペクトル的には、入射光の偏光に関して、または(中性濃度の)感度に関して異なり得る。この場合、上記のとおり、補間部18が、図3aおよび/または図3bに対応する平面内に感度特性が同じの画素を配列し、かつ、これにグリッド42を個々に重ねて、その感度特性について、個別に規則的な画像アレイを得ることが可能である。この方法を、すべての感度特性について行い、かつ/または、感度特性ごとに別々にすべての感度特性の画素について行うことが考えられる。後述のとおり、この場合には、同じ感度特性の画素のそれぞれの部分分布の補間は、異なる感度特性を有する画素が考慮されているという点で、改善され得る。上記のようにしてカラー画像を得ることができる。図3aおよび/または図3bによる平面内のすべての感度特性について正確に同じ位置にグリッド42を配置させることが可能で、これにより共有のカラー画像アレイの位置についてカラー成分のすべてが、正確に同じ位置を指すという点がこの方法の利点である。カラー画像センサで撮影された通常のカラー写真はこれに当てはまらない。これは、サブ画素セルの要素が異なる位置で横方向にサンプルされるからである。画像キャプチャ装置10のサブ領域24から24においては当てはまるが、補間により、個々の感度特性の画素のドットサブクラウドは、正確に同じ位置に補間される。直前に述べたとおり、他の感度特性の画素も、補間を改善するために付加的に使用すれば、さらにより良い画質が得られることになる。
しかしながら、この画像キャプチャ装置10においては、個別に見える各チャネルを、たとえばスペクトル的にフィルタリング、中性濃度フィルタリング、または偏光フィルタリングする等、均一にフィルタリングしているが、異なるチャネルは異なるフィルタ特性を有する可能性がある。この場合、各フィルタ特性について、このフィルタ特性に属するチャネルが画像キャプチャ装置10の視野全体をカバーするように、立体角範囲を設けてもよく、それによりこれらフィルタ特性すべてについて、図3aおよび/または図3bによる画像クラウド全体が得られる。また、この場合にも補間部18は、カラー画像等の多成分画像情報を含む規則正しい画像アレイを得るために、異なるフィルタ特性についてこれらの画素ドットサブクラウドごとに、規則的グリッド42のグリッド交点で別個に補間を行っもよい。
本出願による実施例の動作のモードと構成を大まかに記載したが、上記の個別の要素を構成する可能な態様について以下に説明することにする。以下の説明よりわかるように、イメージセンサ12は、CMOSイメージセンサであってもよく、たとえば、サブ領域24から24が基板またはチップ上に集積される。ウェハボンディングまたは成形によって、多チャネル光学素子をチップ自体に直接集積するか、または、サブ領域24から24とアパチャとの間の光透過性を確保するが個々のチャネル相互の光学的分離も確保する半透明層構造により基板の表面とは別に集積してもよい。
補間部18を、イメージセンサ12を集積した同じチップおよび基板上に集積してもよい。補間部18は、ハードウェアに組み込んでもよいし、プログラム可能回路論理かまたは処理装置上で実行されるコンピュータプログラムでもよい。詳細には、補間部18はイメージセンサ12に接続されるコンピュータでもよい。
アソシエータ19は、EEPROM等の不揮発性メモリでもよい。画像入力インタフェース20は、第1のトグル位置、第2のトグル位置、および非トグル位置を有するトグルスィッチでもよい。最初の2つの位置は、長い距離のショットまたはクローズアップのショットをトリガし、かつ最後の位置は、アイドルまたはドントケア状態である。アソシエータ19は、起動位置に従って、たとえば、図3bまたは図3aの関係(状態)を実現させる。しかしながら、ユーザ入力インタフェース20は、グラフィックユーザインターフェースにおけるアジャスタブルバー等の他の連続可変ユーザインタフェース上で回転する回転体である可能性もある。この場合には、アソシエータ19は、距離の連続または準連続表示としてなされた入力を、焦点深度領域40における横方向の撮像位置の関係を計算するために使用してもよい。
しかしながら、上記のとおり、距離センサ20を使用することもできる。この距離センサは、実行時間測定等だけでなく、たとえば個々の部分画像自体の画像情報から推定する等なんらかの態様で、キャプチャされるシーンの距離を検出してもよい。このように得られた距離測定結果は、略量子化された状態において、上記のとおり、アソシエータ19により、距離測定結果に応じて関係(状態)の詳細を調節するために使用されるものであってもよい。
本出願のいくつかの実施例についてすでに述べたが、以下に実施例を実現するために使用可能な、いくつかの実施の詳細について説明する。
この関係で、最初に、上記の内容について別の言葉で繰り返し述べることになる。上記のとおり、光学素子14は、センサ12上に、M×N非重複マイクロピクチャ等を生成する。マイクロチャネル光学素子の個々のチャネルは、たとえば、個々のマイクロレンズ26〜26を含んでもよい。各マイクロレンズは、被写体空間からセンサへの立体角範囲16〜16を撮像する。すでに説明し以下にも詳述するとおり、この単純化は、マイクロレンズ反復距離に比べて距離が大きい被写体についてのみ適用される。個々のチャネルの立体角範囲16〜16または視野は、図1に44で示すとおり、ばらばらではなく、相互に重なりあう。
関連するマイクロレンズ26〜26が照らす領域内に順に配置されるマイクロピクチャ24〜24内の各画素28は、その上に集積される小さな立体角を「見る」。図5aは、この関連するサブ領域24を非常に簡素化させた様子を例示する図である。マイクロレンズ(明瞭化のため図5aには図示せず)のサブ領域24内の相互に隣接する画素28の一つを見る立体角46は、隙間なく相互に当接する。当然、画素28の充填率は限られているので、領域46は、隙間なしに相互に当接しない可能性がある。しかしながら、説明を簡単にするために、画素28の値は、それぞれの立体角46の中心におけるビームの方向でそれぞれの画素28に入射するラジアンス(放射器度)の測定値を表すと仮定することができる。そして、これは、それぞれの画素28の上記の観察方向48を表しかつ図5bに示すものである。
製造コストを低減するために、マイクロレンズのひずみでゼロでない可能性もある。したがって、画素は、図3aおよび/または図3bによる均一な態様で空間をスキャンしない。したがって、たとえば図3bの画素の観察方向から形成されるグリッドは、規則的なものではない。さらに、多チャネルの各マイクロレンズ26〜26は、その独自のひずみの形状を有することが可能で、これは、図6の領域24のチャネルについてその例を示す。
しかしながら、上記のとおり、この画像キャプチャ装置10は、マイクロピクチャから、規則的で満足に足る共有画像を製作することが可能である。
画素からのラジアンスの測定値、すなわち個々の画素28のサンプルを図3aまたは図3bにしたがって平面にプロットする。測定値の座標は、たとえば、関連のマイクロレンズ26〜26もしくはそれぞれのチャネルの観察方向または光軸の方向から、それぞれのマイクロレンズ下のそれぞれの画素の画素座標から、および、それぞれのマイクロレンズのひずみから得られ、かつ、角度単位または焦点深度面に関するデカルト座標へのプロットで表示することができる。ひずみの正確な形状については光学素子14の光学設計から決定することが可能だが、これはセンサ12および接着した光学素子等からなる特定の物理系で測定することもできる。
このようにして、イメージセンサの各マイクロレンズまたは各サブ領域は、図3aおよび図3bに相当する平面内に小さなドットクラウドを作り出す。ドットクラウド中の各(無限に小さい)ドットは、特定の観察方向またはそれぞれの焦点深度平面内の横方向形成位置でのラジアンスの測定値を表す。ドット間のラジアンスは、最初は不明と仮定してもよい。
境界34を有する図3aおよび図3bで、外寸だけが表示されている隣接するマイクロレンズのドットクラウドは、相互に貫通している。マイクロレンズ系の光学設計は、ドットクラウドのドットが、平面内、すなわち、図3bにおいて50で示される重複領域のように個々のチャネルの画素ドットサブクラウドが相互に交差する領域内では、一致しないができるだけ均一に分布するように構成されるものであってもよい。
次に、補間部18は、上述のとおり、規則的なデカルト格子42により得られるドットクラウド全体を重ねる。デカルト格子の交差ドットに存在するラジアンスが、既存の測定値から決定されるかまたは補間される。たとえば、各交点について、n個の最も隣接するものを決定することができ、それらのラジアンス値を加重平均に使用する。たとえば、距離の逆数または距離の二乗の逆数を用いて、各画素密度値の加重またはノルムを行ってもよい。
最も近くに隣接するものを、たとえばドットクラウドの全ドットをブラウジングして決定してもよい。ドットが、事前に、いわゆるビンと呼ばれる様々な領域へ分割される場合、このことは検索を加速させ得る。より速い別の方法は、クラウドの画素間で、三角形分割、理想的にはドロネー三角形分割を行うことである。ドロネー三角形分割において、いずれかのドットに最も隣接するものを見つけることは、比較的速くできる。特に、疑似コードで記述する以下のアルゴリズムは、ドットクラウドを生成しかつ補間するために使用され得る。
// create dot cloud
for each color
dot cloud (color).init()
for each micropicture
for each pixel within the micropicture
if (colorofPixel (pixel) = color)
viewingDirection = calculateViewingVirectionofPixel
(microlens, positionInLens (pixel))
dot cloud (color). Add (viewingDirection,
radianceOfPixel (pixel))
end if
end for
end for
end for
// result: three picture clouds with radiance information

// interpolation
interpolatedPicture, init ()
for each color
for x = 0 up to pictureWidth
for y = 0 up to pictureHeight
neighbors = dotCloud (color) . findNearestNeighbor(x,y)
for each neighbor in neighbors
weight = calculateNorm (neighbor, x,y)
interpolatedPicture(color, x,y) += weighting *
neighbor.radiance;
end for
end for
end for
end for
// result: interpolated picture
上記の疑似コードを説明するために、再び図7に関連して上記の図を簡単に参照する。ドットクラウド発生プログラムコードにおける第1のforループは、画素の個々の色について実行される。したがって、クラウド全体が各色について生成される。第2のforループは、マイクロピクチャ24から24のすべてについて実行される。第3のforループ、すなわち最も内側のforループは、現在のマイクロピクチャ24から24におけるすべての画素28について実行される。最も内側のifクエリによって、現在検索中の画素が現在の色を有するか否かが確認される。当てはまる場合、詳細には、それぞれのチャネルおよび/またはそれぞれのマイクロレンズならびにマイクロピクチャ内の画素の位置を参照しながら、その観察方向を計算し、現在検索中の画素のラジアンスを図3aおよび/または図3bによる平面内の対応の位置にプロットする。この例では、観察方向、すなわち図3bにしたがう平面が基礎として使用された。
第2のプログラムセクションは、実際の補間を取り扱う。最も外側のforループは再び個々の色について実行される。各色について、規則的デカルトグリッド42、すなわちその交点52が一回循環される。PictureWidthおよびpictureHeightは、後で出力22に出力されることになる所望の画像全体の高さと幅を表す。対応の2つのforループに続いて、隣接するものが最初にこのグリッド点52について決定される。グリッド42の例として図7に示す、交点52の4つの最も近接するものが、たとえば、1、2、3および4で示す画素である。現在の交点52の位置にある補間値を得るために、最も内側のforループは、前記最も近接する画素のすべてを循環して、前記画素の各々について、現在のグリッド点52からの適切な距離のノルムにしたがって、加重を計算し、前記隣接画素のラジアンスの和を形成する。前記和は、応じて重みづけされる。このように、補間値を、詳細には色のすべてについて、交差グリッド点52のすべてに関して決定して、多成分色値が各グリッド交点52について各グリッド42ごとに得られるようにする。
上記の記載に対するいくつかの代替方法をいかに述べる。上記のとおり、各チャネルを個別にフィルタリングする。しかしながら、イメージセンサ12をベイヤー(Bayer)パターン等の適切なカラーフィルタアレイでカバーすることも可能である。このようにして、画像全体のスペクトルラジアンスをいくつかの(一般に3つの)波長帯について測定することができる。当然、1つの波長帯内の測定点の密度は下がる。ベイヤーパターンにおいては、緑が2、赤と青については4で除算される。上記のとおり、その後、1つのドットクラウドは、たとえば、カラーチャネルごとに生成される。完成した画像の緑のチャネルは、それに対応する緑のドットクラウドにおける補間の結果、取得される。同じことが同様に赤と青にも当てはまる。それぞれのチャネルをいっしょにすることで、完成したカラー画像が得られる。
改良された点としては、緑のチャネルからの測定点を赤および青のチャネルを補間するために使用でき、その逆もまた可能である。
上記のとおり、視差の影響は、撮像する被写体の距離が、マイクロレンズの反復距離に対して大きくないならば、視差のタームを無視できるにする簡素化をもはや適用することができないということの原因になり得る。画素の観察方向48に加えて、その画素のイメージセンサ上の位置もこの場合には関係する。このことを説明するために図8を簡単に参照する。図8の上部は、被写体が遠い距離に正しく配置されている場合、すなわち被写体がイメージセンサ12から十分に離れて配列され、かつキャプチャされる被写体が、その遠い距離に位置する、すなわち図3bにおける関係(状態)が使用される場合を図示し、図の下部は、被写体が、遠い距離に位置していると仮定されるにもかかわらず、近くに位置している場合を示す。54は、それぞれの場合において、被写体が観察方向48に当たる位置で、完成した画像における被写体の被サンプル点AからVが再配列される様子を示す。見て分かるように、被写体が正しい位置に配置される場合には、被写体上の点Aから点Vのシーケンスは、完成した画像において維持されるが、被写体が不正確な位置に配置される場合、すなわち、イメージセンサ12に近すぎる場合には、被写体のポイントのシーケンスは、混乱している。
こうして、上記の実施例を採用すれば、補間部18は、不連続な部分のない満足のいく高解像度画像を構成することができる。被写体上の隣接する点の測定値は、画像キャプチャ装置を指定のとおり使用する限りかつ/または上記の調節可能性が使用される限り、完成した画像においても隣接したままである。言い換えれば、画像面内の測定点の配列の被写体距離を配慮する必要があるかもしれない。最も単純なケースとして、被写体距離が一定の場合を想定してもよい。上記のとおり、距離の推定および/または測定、ならびに、それらに対応する測定点の修正処理も実行可能である。
上記では、主に、より小さな観察角度を有し相互に重複するいくつかのチャネルに細分化することにより、視野を拡大する画像キャプチャ装置について説明した。本件は、たとえば、シーンが、本質的に重複する単チャネルの視野で異なる観察角度から観察される場合等、他の用途でも実行可能である。
上記の実施例において、使用される多チャネルの光学素子は、チャープマイクロレンズアレイ、すなわちレンズの頂点が、対応のサブ領域の中心位置に関して拡張されるかまたは異なる態様でオフセットされる横方向の位置を有するマイクロレンズアレイとしてもよい。例として、図4は、イメージセンサ12とマイクロレンズアレイ14との間の距離が固定された固定構成の可能な例を示す。イメージセンサ12は、たとえば、CMOSイメージセンサでもよいし、他の半導体センサでもよい。チャネル分離および迷光吸収のために薄膜領域66および68を挿入したいくつかのガラス基板60、62および64を基板12上に配列する。マイクロレンズ26〜26は、一番上のガラス基板60上に形成される。マイクロレンズの頂点の反復距離がサブ領域24〜24の中心の反復距離より大きく、これにより全体視野の拡張および/または個々のチャネルの中心観察方向70〜70の拡散が生じる。図4による設計の例は、たとえば、ウェハボンド配置処理において、すなわち、後続する、個別のカメラのダイシング処理、すなわち、イメージセンサとマイクロレンズアレイの個々の組み合わせる処理を用いて、製造されてもよい。
プレノプティックカメラの観点からも、上記の実施例は、この実施例におけるマイクロレンズアレイに主要な光学素子を加えるという形で使用しても良い。
上記の実施例に関して、上記のマイクロレンズアレイのチャネルは、横方向はたま視野を横切る方向に、互いに同じでも良いし異なっていてもよくまたはチャープでもよい。次に、例として図4に示すように、個別のレンズで、またはレンズ系でチャネルを撮像しても良い。マイクロレンズアレイの代わりに、ダイアフラムアレイを撮像に用いてもよいし、両方を組み合わせることも可能である。いずれの場合にも、各画素の観察方向が決定されてドットクラウドへ転送されることが可能で、これに対して上記の補間を行っても良い。
上記の実施例では、フレームの反転、これの均一化および視差訂正が結果として1つのステップで実行されるが、これは処理を加速させる。1つのステップで、画像情報を組み合わせて画像全体を形成し、かつ中間の補間ステップが不要になることでも、画像全体の質が向上する。これは、画像の精細度が向上し、アーチファクトが減少するからである。上記の実施例は、フィルタを備えるセンサに適している。各マイクロレンズの下にカラーフィルタアレイを使用するかまたは各マイクロレンズの下に一色だけのフィルタを配置することができる。これらのフィルタは、RGBカラーフィルターでよく、またRGB+グレイまたはRBG+シアン等追加の色を使用することもできる。また、偏光フィルタまたはグレイおよび/または様々な濃度のうちの中性濃度のフィルタを使用することもできる。
したがって、カラー画像を撮ることもできる。また、マルチスペクトル撮像の領域における他のスペクトル画像、偏光情報、より大きなダイナミックレンジ等の付加的情報を有する画像の写真を作ることができる。
上記の実施例により、部分的な画像を相互に全体的に位置合わせ(register)できるのみならず、画像の各画素を他の画素に対しても位置合わせすることもできる。マイクロピクチャの歪みは、自動的に均衡がとられて自然と解消される。多様なマイクロピクチャも、様々にひずみを有するが、この光学システムに課せられる要件は明らかに低減される。光学素子14は、設計をより簡素にしてもよいし、より小型/平らにしてもよく、製造許容差を大きくしても良く、かつこのすべてが上記実施例の製造コストを低減しかつ設計寸法を小型化する。
上記の実施例を、携帯電話、ビデオ会議システム等、医療用途の分野、ロボティクス、マシンビジョン用途、車両カメラおよび遠隔センサ技術、特にマルチスペクトル撮像分野における技術等多くの用途分野でカメラ系に採用することができる。このシステムの観点からは、上記実施例は、多アパチャ撮像系を有するカメラおよびカメラアレイ、すなわち、いくつかのカメラを含むシステムで適用可能である。言い換えれば、上記チャネルの各々が、明らかにカメラから個別に構成されてもよく、この場合、上記のイメージセンサ12は、カメラの個々のチップに分類され、その各々自体がサブ領域24から24を構成すると考えられ、かつ、光学素子14は、カメラの個々のレンズに分類される。
なお、装置に関連していくつかの特徴について記載したが、これらの特徴は対応の方法の説明も表すものであり、したがって、装置のブロックまたは要素は、対応の方法ステップまたは方法ステップの特徴として理解することもできる。同様に、方法ステップに関連して、または、方法ステップとして、説明した特徴も対応の装置の対応するブロック、詳細または特徴の説明も表す。
特定の実施の要件にしたが、本発明の実施例は、ハードウェアでもソフトウェアでも実現することができる。それぞれの方法が実施されるようにプログラム可能コンピュータシステムと共働または実質的に共働し得る電気的に可読な制御信号が記憶されたフロッピーディスク、DVD,ブルーレイディスク、CD、ROM、PROM、EPROM、EEPROMもしくはフラッシュメモリ、ハードディスクまたは他の磁気もしくは光学メモリを使用して実現することができる。したがって、デジタル記憶媒体は、コンピュータ可読である。本発明によるいくつかの実施例は、ここに記載の方法のいずれかが実行されるようプログラム可能コンピュータシステムと共働することが可能な電気的に可読な制御信号を有するデータキャリアを含む。
一般に、本発明の実施例は、プログラムコードを有するコンピュータプログラム製品として実現可能で、このプログラムコードは、このコンピュータプログラム製品がコンピュータ上で実行されると、上記の方法のいずれかを実行するべく動作する。プログラムコードも機械可読キャリア上に記憶することが可能である。
他の実施例は、ここに記載の方法のいずれかを実行するためのコンピュータプログラムを含み、このコンピュータプログラムは、機械可読キャリア上に記憶される。
言い替えれば、本発明の実施例は、コンピュータ上で実行時、ここに記載の方法のいずれかを実行するためのプログラムコードを有するコンピュータプログラムである。本発明の他の実施例は、ここに記載の方法のいずれかを実行するためのコンピュータプログラムを有するデータキャリア(またはデジタル記憶媒体、またはコンピュータ可読媒体)である。
本発明の他の実施例は、ここに記載の方法のいずれかを実施するためのコンピュータプログラムを表すデータストリームまたは信号のシーケンスである。データストリームまたは信号のシーケンスは、インターネット等のデータ通信リンクを介して転送されるよう構成されてもよい。
他の実施例は、ここに記載の方法のいずれかを実行するよう構成または適合されるコンピュータまたはプログラム可能論理装置等の処理手段を含む。
他の実施例は、ここに記載の方法のいずれかを実行するためのコンピュータプログラムをインストールしたコンピュータを含む。
いくつかの実施例においては、プログラム可能論理装置(フィールドプログラマブルゲートアレイ:FPGA等)は、ここに記載の方法の機能性のいくつかまたはすべてを実行するために使用され得る。いくつかの実施例においては、フィールドプログラマブルゲートアレイは、ここに記載の方法のいずれかを実行するためにマイクロプロセッサと共働し得る。一般に、いくつかの実施例においては、方法は、いずれかのハードウェア装置により実行される。これは、コンピュータ処理装置(CPU)等の一般に適用可能なハードウェアまたはASIC等の方法に特定的なハードウェア等が考えられる。
上記の実施例は、本発明の原理を例示しているに過ぎない。他の当業者には、ここに記載の構成および詳細について、修正および変更が明らかであろう。したがって、本発明は、実施例の記述および説明によりここに提示される特定の詳細ではなく以下の特許請求の範囲によってのみ限定されることを意図される。

Claims (16)

  1. 多数の画素を含み、撮像において、画素ごとにサンプルを検出するイメージセンサと、
    前記イメージセンサに対して光学撮像を生成するための光学素子であって、重複する立体角範囲を個別に撮像して、前記イメージセンサのサブ領域を分離するための多チャネル光学素子を含み、
    前記イメージセンサの各画素は、関連付けられた撮像値を有し、前記撮像値は、前記光学素子が被写体をそれぞれの画素に対して被写体を撮像する撮像方向である、または、前記光学素子によりそれぞれの画素に撮像される焦点深度領域内の横方向の撮像位置である、前記光学素子と、
    画像値の配列を得るために、前記サンプルの全分布を横切って延在する規則的なグリッドの交点の撮像値にしたがって、前記画素の前記サンプルの分布を補間する補間部と、
    を備える画像キャプチャ装置。
  2. 前記多チャネル光学素子は、重複する立体角範囲がともに、重複する立体角範囲のいずれかよりも最大で120%大きい全体立体角範囲をカバーするように構成されている、
    請求項1に記載の画像キャプチャ装置。
  3. 前記多チャネル光学素子は、重複する立体角範囲がともに、重複する立体角範囲のいずれかよりも4倍以上大きい全体立体角範囲をカバーするように構成されている、
    請求項1に記載の画像キャプチャ装置。
  4. 前記光学素子は、相互に異なるが個別に撮影された個々の画像が、横方向に一定の態様で、スペクトル的なフィルタリング、偏光フィルタリング、または、中性濃度でのフィルタリングが実行されるように構成されており、
    前記補間部は、サブ領域に属する画素のサンプルの分布について個別に補間を行うよう構成されており、これに対するそれぞれ個別の撮像が、同様にフィルタリングされる、
    請求項1から3のいずれかに記載の画像キャプチャ装置。
  5. 前記補間部は、それぞれ個別の撮像が同様にフィルタリングされるサブ領域に属する画素のサンプルの分布の個々の補間において、それぞれ個別の撮像が異なってフィルタリングされるサブ領域に属する画素のサンプルの分布についても考慮するように構成されている、
    請求項4に記載の画像キャプチャ装置。
  6. 前記イメージセンサの画素は、相互に異なるスペクトル、偏光および/または中性濃度感度を含む画素のグループを含み、
    前記イメージセンサの各サブ領域は、少なくとも2つの異なる画素グループからの画素を含み、
    前記補間部は、前記画素グループについて個別に補間を行うよう構成されている、
    請求項1から3に記載の画像キャプチャ装置。
  7. 前記補間部は、個別のフィルタリング動作について、同じ位置で、同じ規則的なグリッドを使用するように構成されている、
    請求項4から6のいずれかに記載の画像キャプチャ装置。
  8. 前記イメージセンサの所定の画素について、前記イメージセンサ上の前記所定の画素に関連する位置情報を使用して計算することにより、または、前記所定の画素への参照(ルックアップ)を利用して調べることにより、前記所定の画素に関連付られた撮像値を決定するように構成されているアソシエータをさらに備える、
    先行の請求項のいずれかに記載の画像キャプチャ装置。
  9. 撮像について、少なくともクローズアップショットと長距離ショットとを区別するように構成されている入力インタフェースおよび/または距離推測部をさらに備え、
    前記アソシエータは、クローズアップショットの場合、前記撮像値が焦点深度領域における横方向の撮像位置になるよう視差の影響を考慮して決定を実行し、長距離ショットの場合、前記撮像値が撮像方向になるように、視差の影響を無視して決定を実行するように構成されている、
    請求項8に記載の画像キャプチャ装置。
  10. 撮像について、撮影距離を決定するように構成されている入力インタフェースおよび/または距離推測部をさらに備え、
    前記アソシエータは、前記撮影距離に依拠して決定を実行するよう構成されている、
    請求項8または9に記載の画像キャプチャ装置。
  11. 前記画像キャプチャ装置は、前記画像値の配列における画素と撮像値との関係により、前記光学素子のひずみが、均衡がとられて解消されるように構成されている、
    請求項8または9に記載の画像キャプチャ装置。
  12. 前記多チャネル光学素子は、複数のマイクロレンズを備え、
    それぞれの撮像値と前記イメージセンサの各画素の関係は、前記多チャネル光学素子の前記マイクロレンズの光軸の方向、前記マイクロレンズ間の画素の画素座標および前記マイクロレンズのひずみに依存する、
    先行の請求項のいずれかに記載の画像キャプチャ装置。
  13. 前記補間部は、各交点について、サンプルの分布の中で最も近い隣接するものを見つけ、かつ、それぞれの交点と最も近い隣接するものと関連する撮像値との距離の逆数また距離の二乗の逆数に対応する重みでサンプルに加重平均を行うように構成されている、
    先行の請求項のいずれかに記載の画像キャプチャ装置。
  14. 前記多チャネル光学素子は、マイクロレンズのアレイを備え、
    前記イメージセンサからの前記光学素子の距離は、前記マイクロレンズの焦点距離以上であり、
    前記マイクロレンズの頂点からの平均距離は、前記イメージセンサの前記サブ領域の中心間の距離に関連して拡張される、
    先行の請求項のいずれかに記載の画像キャプチャ装置。
  15. 多数の画素を含むイメージセンサと前記イメージセンサに対して光学撮像を生成するための光学素子とにより画像をキャプチャする方法であって、
    前記イメージセンサは、撮像において、画素ごとにサンプルを検出するよう構成されており、
    前記光学素子は、重複する立体角範囲を個別に撮像して、前記イメージセンサのサブ領域を分離するための多チャネル光学素子を含み、
    前記画像キャプチャ方法は、
    撮像値を前記イメージセンサの各画素と関連付けるステップであって、
    前記撮像値は、前記光学素子が被写体をそれぞれの画素に対して被写体を撮像する撮像方向である、または、前記光学素子によりそれぞれの画素に撮像される焦点深度領域内の横方向の撮像位置である、前記ステップと、
    画像値の配列を得るために、前記サンプルの全分布を横切って延在する規則的なグリッドの交点の撮像値にしたがって、前記画素の前記サンプルの分布を補間するステップと、
    を備える、
    画像キャプチャ方法。
  16. コンピュータで実行された際に、請求項15に記載の方法を実行するためのプログラムコードを含むコンピュータプログラム。
JP2013520113A 2010-07-19 2011-07-18 画像キャプチャ装置および画像キャプチャ方法 Active JP5649091B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
DE102010031535.4 2010-07-19
DE102010031535A DE102010031535A1 (de) 2010-07-19 2010-07-19 Bildaufnahmevorrichtung und Verfahren zum Aufnehmen eines Bildes
US13/098,208 2011-04-29
US13/098,208 US8717485B2 (en) 2010-07-19 2011-04-29 Picture capturing apparatus and method using an image sensor, an optical element, and interpolation
PCT/EP2011/062266 WO2012019875A1 (de) 2010-07-19 2011-07-18 Bildaufnahmevorrichtung und verfahren zum aufnehmen eines bildes

Publications (2)

Publication Number Publication Date
JP2013534379A true JP2013534379A (ja) 2013-09-02
JP5649091B2 JP5649091B2 (ja) 2015-01-07

Family

ID=44628526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013520113A Active JP5649091B2 (ja) 2010-07-19 2011-07-18 画像キャプチャ装置および画像キャプチャ方法

Country Status (6)

Country Link
US (1) US8717485B2 (ja)
EP (1) EP2596642B1 (ja)
JP (1) JP5649091B2 (ja)
KR (1) KR101517704B1 (ja)
DE (1) DE102010031535A1 (ja)
WO (1) WO2012019875A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016036127A (ja) * 2014-07-31 2016-03-17 パナソニックIpマネジメント株式会社 撮像装置および撮像システム

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013035427A1 (ja) * 2011-09-09 2013-03-14 富士フイルム株式会社 立体撮像装置および方法
US20130135515A1 (en) * 2011-11-30 2013-05-30 Sony Corporation Digital imaging system
DE102012218834B4 (de) * 2012-10-12 2016-07-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildsensor und system zur optischen abbildung
DE102013200059B4 (de) * 2013-01-04 2018-05-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung zur Aufnahme eines von einer Hauptlinse einer plenoptischen Kamera erzeugten Zwischenbilds und plenoptische Kamera
WO2014133481A1 (en) * 2013-02-26 2014-09-04 Hewlett-Packard Development Company, L.P. Multiview 3d telepresence
DE102013209240A1 (de) 2013-05-17 2014-11-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zur Bildverflechtung ohne Speicherpuffer
WO2015050499A1 (en) * 2013-10-01 2015-04-09 Heptagon Micro Optics Pte. Ltd. Lens array modules and wafer-level techniques for fabricating the same
DE102013226789B4 (de) 2013-12-19 2017-02-09 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Mehrkanaloptik-Bildaufnahmevorrichtung und Mehrkanaloptik-Bildaufnahmeverfahren
WO2015134940A1 (en) * 2014-03-07 2015-09-11 Shiloh Industries, Inc. High-performance tool cooling system
DE102014212104A1 (de) * 2014-06-24 2015-12-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und verfahren zur relativen positionierung einer multiaperturoptik mit mehreren optischen kanälen relativ zu einem bildsensor
US9992477B2 (en) 2015-09-24 2018-06-05 Ouster, Inc. Optical system for collecting distance information within a field
KR102659065B1 (ko) * 2015-12-21 2024-04-22 코닌클리케 필립스 엔.브이. 이미지에 대한 깊이 맵의 처리
DE102016208210A1 (de) * 2016-05-12 2017-11-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3d-multiaperturabbildungsvorrichtungen, multiaperturabbildungsvorrichtung, verfahren zum bereitstellen eines ausgangssignals einer 3d-multiaperturabbildungsvorrichtung und verfahren zum erfassen eines gesamtgesichtsfeldes
EP3264755A1 (en) * 2016-06-30 2018-01-03 Thomson Licensing Plenoptic sub aperture view shuffling for a richer color sampling
US20190028623A1 (en) * 2017-07-21 2019-01-24 California Institute Of Technology Ultra-thin planar lens-less camera
US11882371B2 (en) 2017-08-11 2024-01-23 California Institute Of Technology Lensless 3-dimensional imaging using directional sensing elements
DE102018202728B4 (de) * 2018-02-22 2019-11-21 Carl Zeiss Microscopy Gmbh Verfahren zum Betrieb eines Teilchenstrahlgeräts, Computerprogrammprodukt und Teilchenstrahlgerät zur Durchführung des Verfahrens
EP4139893A4 (en) * 2020-04-24 2024-04-17 Visionary Machines Pty Ltd SYSTEMS AND METHODS FOR GENERATING AND/OR USING THREE-DIMENSIONAL INFORMATION WITH CAMERA ARRAYS
US11328150B2 (en) 2020-04-30 2022-05-10 Omnivision Technologies, Inc. Lens-array imager
CN113079365B (zh) * 2021-03-26 2022-09-09 中国人民解放军陆军装甲兵学院 基于移轴相机的集成成像单元图像阵列生成方法和系统
EP4330917A1 (en) * 2021-04-30 2024-03-06 Visionary Machines Pty Ltd Systems and methods for generating and/or using 3-dimensional information with one or more cameras

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001223931A (ja) * 2000-02-10 2001-08-17 Olympus Optical Co Ltd 撮像装置及び画像システム
JP2004032172A (ja) * 2002-06-24 2004-01-29 Canon Inc 複眼撮像装置およびこれを備えた機器
JP2007221423A (ja) * 2006-02-16 2007-08-30 Matsushita Electric Ind Co Ltd 撮像装置
JP2007312314A (ja) * 2006-05-22 2007-11-29 Ricoh Co Ltd 画像シフト検出方法および装置および画像入力装置
JP2010141381A (ja) * 2008-12-09 2010-06-24 Olympus Corp 撮像装置及び電子機器

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06292050A (ja) 1993-03-30 1994-10-18 Canon Inc 信号合成方法,信号合成装置および該装置を有する複眼撮像装置
US6137535A (en) 1996-11-04 2000-10-24 Eastman Kodak Company Compact digital camera with segmented fields of view
US5822125A (en) 1996-12-20 1998-10-13 Eastman Kodak Company Lenslet array system
JP3821614B2 (ja) * 1999-08-20 2006-09-13 独立行政法人科学技術振興機構 画像入力装置
NL1013951C2 (nl) 1999-12-24 2001-07-02 Ericsson Telefon Ab L M Polyfase filter.
US7431529B1 (en) 2002-12-06 2008-10-07 Loctite (R & D) Limited Nozzle assembly incorporating a molded flow through brush applicator and a reusable break-off cap, a container having a nozzle assembly and packaging therefor
DE102004003013B3 (de) 2004-01-20 2005-06-02 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem und dessen Verwendung
DE102004036469A1 (de) 2004-07-28 2006-02-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Kameramodul, hierauf basierendes Array und Verfahren zu dessen Herstellung
US20060044451A1 (en) * 2004-08-30 2006-03-02 Eastman Kodak Company Wide angle lenslet camera
US7880794B2 (en) * 2005-03-24 2011-02-01 Panasonic Corporation Imaging device including a plurality of lens elements and a imaging sensor
JP4826152B2 (ja) * 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
WO2007013250A1 (ja) 2005-07-26 2007-02-01 Matsushita Electric Industrial Co., Ltd. 複眼方式の撮像装置
US7286295B1 (en) * 2005-11-30 2007-10-23 Sandia Corporation Microoptical compound lens
DE102006004802B4 (de) 2006-01-23 2008-09-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem und Verfahren zur Herstellung mindestens eines Bilderfassungssystems
US8243157B2 (en) * 2006-02-07 2012-08-14 The Board Of Trustees Of The Leland Stanford Junior University Correction of optical aberrations
US7423821B2 (en) * 2006-03-24 2008-09-09 Gentex Corporation Vision system
JP4864632B2 (ja) * 2006-10-12 2012-02-01 株式会社リコー 画像入力装置、画像入力方法、個人認証装置及び電子機器
DE102007045525A1 (de) 2007-09-24 2009-04-02 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildsensor
JP4941332B2 (ja) * 2008-01-28 2012-05-30 ソニー株式会社 撮像装置
JP2009206922A (ja) * 2008-02-28 2009-09-10 Funai Electric Co Ltd 複眼撮像装置
US20090245696A1 (en) 2008-03-31 2009-10-01 Sharp Laboratories Of America, Inc. Method and apparatus for building compound-eye seeing displays
EP2289235A4 (en) 2008-05-20 2011-12-28 Pelican Imaging Corp RECORDING AND PROCESSING IMAGES BY MONOLITHIC CAMERA ARRANGEMENT WITH HETEROGENIC IMAGE TRANSFORMER
US20100028839A1 (en) 2008-07-18 2010-02-04 Tully Timothy P Methods and systems for evaluating memory agents
DE102009049387B4 (de) * 2009-10-14 2016-05-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Bildverarbeitungsvorrichtung und Verfahren zur optischen Abbildung
JP5538811B2 (ja) * 2009-10-21 2014-07-02 キヤノン株式会社 固体撮像素子

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001223931A (ja) * 2000-02-10 2001-08-17 Olympus Optical Co Ltd 撮像装置及び画像システム
JP2004032172A (ja) * 2002-06-24 2004-01-29 Canon Inc 複眼撮像装置およびこれを備えた機器
JP2007221423A (ja) * 2006-02-16 2007-08-30 Matsushita Electric Ind Co Ltd 撮像装置
JP2007312314A (ja) * 2006-05-22 2007-11-29 Ricoh Co Ltd 画像シフト検出方法および装置および画像入力装置
JP2010141381A (ja) * 2008-12-09 2010-06-24 Olympus Corp 撮像装置及び電子機器

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016036127A (ja) * 2014-07-31 2016-03-17 パナソニックIpマネジメント株式会社 撮像装置および撮像システム

Also Published As

Publication number Publication date
JP5649091B2 (ja) 2015-01-07
KR101517704B1 (ko) 2015-05-04
KR20130038388A (ko) 2013-04-17
WO2012019875A1 (de) 2012-02-16
US8717485B2 (en) 2014-05-06
EP2596642B1 (de) 2017-10-25
EP2596642A1 (de) 2013-05-29
DE102010031535A1 (de) 2012-01-19
US20120013749A1 (en) 2012-01-19

Similar Documents

Publication Publication Date Title
JP5649091B2 (ja) 画像キャプチャ装置および画像キャプチャ方法
US11856291B2 (en) Thin multi-aperture imaging system with auto-focus and methods for using same
US9204067B2 (en) Image sensor and image capturing apparatus
CN102037717B (zh) 使用具有异构成像器的单片相机阵列的图像拍摄和图像处理
US10044959B2 (en) Mask-less phase detection autofocus
JP4903705B2 (ja) 複眼方式の撮像装置及びその製造方法
JP2019220957A5 (ja)
JP5929553B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US9241111B1 (en) Array of cameras with various focal distances
JP7170810B2 (ja) 撮像装置、画像生成方法およびコンピュータプログラム
JP5629832B2 (ja) 撮像装置及び位相差画素の感度比算出方法
JP2009159226A (ja) 撮像素子、焦点検出装置、焦点調節装置および撮像装置
JPWO2013046973A1 (ja) 固体撮像素子、撮像装置、及び合焦制御方法
JP6821028B2 (ja) 撮像装置および画像データ読み出し方法
JP2011135359A (ja) カメラモジュール及び画像処理装置
US20150268392A1 (en) Filter-array-equipped microlens and solid-state imaging device
US11889186B2 (en) Focus detection device, focus detection method, and image capture apparatus
JP2010139624A (ja) 撮像素子および撮像装置
TWI568258B (zh) 光學變焦成像系統及相關方法
JP2016046773A (ja) 撮像装置
JP2019219594A (ja) 処理装置、撮像装置、交換レンズ、処理方法およびプログラム
JP2010109922A (ja) 撮像素子および撮像装置
JP2017198850A (ja) 撮像装置及びその調整方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131210

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140304

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140311

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140606

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141105

R150 Certificate of patent or registration of utility model

Ref document number: 5649091

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250