JP5649702B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5649702B2
JP5649702B2 JP2013187647A JP2013187647A JP5649702B2 JP 5649702 B2 JP5649702 B2 JP 5649702B2 JP 2013187647 A JP2013187647 A JP 2013187647A JP 2013187647 A JP2013187647 A JP 2013187647A JP 5649702 B2 JP5649702 B2 JP 5649702B2
Authority
JP
Japan
Prior art keywords
microlens
optical system
imaging
imaging optical
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013187647A
Other languages
English (en)
Other versions
JP2014078934A (ja
Inventor
雄一 有賀
雄一 有賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013187647A priority Critical patent/JP5649702B2/ja
Priority to US14/027,819 priority patent/US9165965B2/en
Publication of JP2014078934A publication Critical patent/JP2014078934A/ja
Application granted granted Critical
Publication of JP5649702B2 publication Critical patent/JP5649702B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0025Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、撮像装置に関し、特に撮影後に出力データから任意の被写体に合焦した画像を生成する技術に関する。
近年、デジタルカメラ等の撮像装置において、撮影時に光の強度分布との進行方向とを出力データとして記録することで、記録後に該出力データから任意の被写体に合焦した画像を生成する技術が提案されている。
非特許文献1では、マイクロレンズアレイを介して撮像素子の各画素(光電変換素子)に撮像光学系の異なる瞳領域を通過した光束を結像させることにより、様々な方向から入射した光を分離して記録する方法(Light Field Photography)が開示されている。このようにして得られた出力データ(Light Field Data。以下、LFデータ)は、隣り合う画素が異なる方向から入射した光束を記録している。LFデータからは、各マイクロレンズに対応付けられた画素から、同一の方向の光束を抽出することで、該方向から撮影した画像を生成することができる。また、任意の被写体距離を設定し、該被写体距離に対応する焦点面における1点を通過した光束を記録している画素の出力を加算することで、撮影後に特定の被写体距離に合焦した画像のピクセルを生成(再構成)することができる。
Ren.Ng、外7名、「Light Field Photography with a Hand-Held Plenoptic Camera」、Stanford University Computer Science Tech Report CTSR 2005-02
非特許文献1のような方法を用いる撮像装置では、マイクロレンズアレイの各レンズに割り当てられた撮像素子の画素が、撮像光学系の射出瞳の全領域を通過した光束をカバーするように、撮像光学系の有効口径に合わせてマイクロレンズが設計されていた。即ち、撮像光学系のFナンバー(焦点距離/有効口径)とマイクロレンズアレイの各マイクロレンズのFナンバーとが一致するように設計されることが前提とされていた。しかしながら、レンズを交換可能なデジタル一眼レフカメラ等の撮像装置では、装着される撮像光学系のFナンバーが変わる可能性がある。このため、該撮像装置において非特許文献1のような方法を用いて撮影されたLFデータから任意の被写体距離に合焦した再構成画像を生成する場合に、好適な再構成画像を生成することができないことがあった。
本発明は、上述の問題点に鑑みてなされたものであり、異なるFナンバーの撮影光学系に対応した好適なLFデータを出力する撮像装置を提供することを目的とする。
前述の目的を達成するために、本発明の撮像装置は、以下の構成を備える。
第1のF値と、第1のF値よりも大きい第2のF値とをとる撮像光学系と、複数の画素を有し、撮像光学系を通過した光束を光電変換する撮像素子と、撮像素子の画素の各々に、撮像光学系において通過した瞳領域及び入射方向の組み合わせが異なる光束を結像するマイクロレンズアレイであって、各マイクロレンズが撮像素子の所定数の画素に対応付けられているマイクロレンズアレイと、を有する撮像装置であって、各マイクロレンズは、該マイクロレンズに対応付けられた所定数の画素において、撮像光学系が第1のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲に対する、撮像光学系が第2のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲の比率が、第2のF値に対する第1のF値の比率よりも高い歪曲収差特性を示すことを特徴とする。
このような構成により本発明によれば、異なるFナンバーの撮影光学系に対応した好適なLFデータを出力することが可能となる。
本発明の実施形態に係るデジタルカメラ100の機能構成を示したブロック図 本発明の実施形態に係るマイクロレンズアレイ105と撮像部106の関係を説明するための図 本発明の実施形態に係る射出瞳301の各領域を通過した光束と、該光束を光電変換する光電変換素子の関係を説明するための図 本発明の実施形態に係る射出瞳301の各領域と、各マイクロレンズに対応付けられた光電変換素子との対応を示した図 本発明の実施形態に係る再構成面における特定位置を通過する光束の、撮像面における通過位置との関係を説明するための図 本発明の実施形態に係るマイクロレンズの歪曲収差特性を説明するための図 本発明の実施形態に係るマイクロレンズを通過した光束の、像高と結像位置との関係を示した図 本発明のマイクロレンズアレイ105の別の構成例を示した図
[実施形態]
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下に説明する一実施形態は、撮像装置の一例としての、撮影後にLFデータから特定の距離の被写体に合焦した画像を生成可能なデジタルカメラに、本発明を適用した例を説明する。しかし本発明は、LFデータから特定の距離の被写体に合焦した画像を生成することが可能な任意の機器に適用可能である。
また、本明細書において、以下の用語を定義して説明する。
・「ライトフィールド(LF:Light Field)データ」
本実施形態のデジタルカメラ100が有する撮像部106から出力される画像信号。画像信号の画素の各々は、通過した撮像光学系104の瞳領域及び入射方向の組み合わせが異なる光束に対応した信号強度を示している。LFデータは、光線空間情報とも呼ばれる。
・「再構成画像」
LFデータから生成される、任意の被写体距離に合焦した画像。具体的には生成する被写体距離に対応する焦点面(再構成面)での画素配置に従ってLFデータの画素を並び替え、再構成画像の1画素に対応する画素の画素値を合算することで該画素の画素値を得る。再構成面における画素配置は、再構成面に撮像素子が存在した場合に入射する光束を入射方向に基づいて決定される。該画素配置において1つのマイクロレンズに対応する画素の画素値を足し合わせることで、再構成画像の1画素を生成することができる。
《デジタルカメラ100の構成》
図1は、本発明の実施形態に係るデジタルカメラ100の機能構成を示すブロック図である。
制御部101は、例えばCPUであり、デジタルカメラ100が有する各ブロックの動作を制御する。具体的には制御部101は、ROM102に記憶されている、後述する撮影処理あるいはリフォーカス動画生成処理の動作プログラムを読み出し、RAM103に展開して実行することにより、各ブロックの動作を制御する。
ROM102は、例えば書き換え可能な不揮発性メモリであり、デジタルカメラ100が有する各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶する。
RAM103は、揮発性メモリである。RAM103は、デジタルカメラ100が有する各ブロックの動作プログラムの展開領域としてだけでなく、各ブロックの動作において出力された中間データ等を記憶する格納領域としても用いられる。
撮像部106は、例えばCCDやCMOSセンサ等の撮像素子である。撮像部106は、制御部101の指示により不図示のタイミングジェネレータ(TG)から出力されるタイミング信号を受けて、撮像光学系104により撮像素子の光電変換素子面に結像された光学像を光電変換し、アナログ画像信号を出力する。なお、撮像光学系104は例えば対物レンズ、フォーカスレンズ、絞り等を含む。また、本実施形態のデジタルカメラ100は、撮像素子の各光電変換素子に設けられているマイクロレンズとは別に、光軸上の撮像光学系104と撮像素子との間にマイクロレンズアレイ105を有する。
〈マイクロレンズと光電変換素子との関係〉
ここで、本実施形態のデジタルカメラ100において光軸上の撮像光学系104と撮像素子との間に設けられるマイクロレンズアレイ105について、図を用いて説明する。
図2に示すように、本実施形態のマイクロレンズアレイ105は複数のマイクロレンズ201で構成される。図2では、撮像光学系104の光軸をz軸とし、デジタルカメラ100の横位置における水平方向をx軸、鉛直方向をy軸としている。なお、図2の例では簡単のため、マイクロレンズアレイ105は3行3列に並んだマイクロレンズ201で構成されるものとして説明するが、マイクロレンズアレイ105の構成はこれに限られるものではない。
また図2では、撮像部106を構成する撮像素子の光電変換素子202が格子で示されている。各マイクロレンズ201には、所定数の光電変換素子202が対応づけられており、図2の例では1つのマイクロレンズ201に対して9×9=81画素の光電変換素子202が対応づけられている。1つのマイクロレンズ201を通過した光束は、入射した方向に応じて分離され、対応する光電変換素子202に結像される。
図3は、撮像光学系104のFナンバーとマイクロレンズアレイ105の各マイクロレンズのFナンバーとが略一致している場合の、1つのマイクロレンズ201に対応する光電変換素子202p乃至pに入射する光束を図示している。図3において、上方向は鉛直上向き方向に対応している。図では、デジタルカメラ100が横位置にある状態における、横方向から見た、各光電変換素子202に入射する光束の光路を例示している。図示されるように、水平方向に並んだ光電変換素子202p乃至pには、1つのマイクロレンズ201を介して、撮像光学系104の射出瞳301を垂直方向に9分割した領域a乃至aを通過した光束がそれぞれ入射する。なお、各領域に付された数字は、通過した光束が入射する光電変換素子202との対応関係を示している。
なお、図3の例では横方向から見た、各光電変換素子202に入射する光束の光路を示したが、光束の分離は垂直方向に限らず、水平方向においても同様に行われる。即ち、撮像光学系104の射出瞳301を撮像素子側から見て図4(a)のような領域に分類した場合、各領域を通過した光束は、図4(b)に示されるような光電変換素子202のうち、同一の識別数字が付された光電変換素子に入射する。なお、図4の例においても、撮像光学系104とマイクロレンズアレイ105の各マイクロレンズのFナンバー(F値)は略一致しているものとする。
AFE107及びDFE108は、撮像部106により生成された画像信号に対する補正処理等を行う。具体的にはAFE107は、撮像部106から出力されたアナログ画像信号に対して、基準レベルの調整(クランプ処理)やA/D変換処理を行い、LFデータをDFE108に出力する。DFE108は、入力されたLFデータに対して微少な基準レベルのずれ等を補正する。
画像処理部109は、DFE108による補正処理が適用されたLFデータに対して、色変換処理等の各種画像処理を適用する。また本実施形態では画像処理部109は、LFデータから任意の被写体距離に合焦する画像(再構成画像)の生成する処理も行う。再構成画像の生成は、例えば上述した非特許文献1に示されるような「Light Field Photography」の手法を用いればよい。
〈再構成画像の生成方法〉
ここで、再構成画像の生成方法の概要について、図を用いて説明する。
本実施形態のデジタルカメラ100では、上述したように1つのマイクロレンズに割り当てられた複数の画素の各々は、撮像レンズの射出瞳の異なる領域を通過した光束を受光する。これは、マイクロレンズアレイ105の全マイクロレンズについて同様である。また各マイクロレンズには異なる方向から撮像レンズを通過した光束が入射するため、撮像素子の全ての画素は、各々異なる方向から入射した光束を受光することになる。
このため以下では、撮影により得られたLFデータの各画素に入射した光束の光路を、射出瞳内の通過した瞳領域の座標(u,v)と、対応するマイクロレンズの位置座標(x’,y’)として各光束を規定して説明する。再構成画像の生成においては、再構成画像を生成する任意の被写体距離に対応する再構成面上の画素(x,y)について、該点を通過する光路を有する光束を積分することで画素値を得ることができる。
図5ではデジタルカメラ100の横位置における鉛直方向から見た水平面(xz平面)における光束の光路が示されている。以下ではxz平面における、再構成面の各画素を通過する光束の光路について説明するが、yz平面についても同様である。
瞳領域の座標(u,v)、再構成面上の画素座標を(x,y)とすると、この瞳分割領域と再構成面上の画素を通過する光束が入射するマイクロレンズアレイ105上のマイクロレンズの位置座標(x’,y’)は、
で表される。なお、Fは撮像レンズからマイクロレンズアレイまでの距離、αFは撮影レンズから再構成面までの距離(αはリフォーカス係数:再構成面までの距離を決定するための可変係数)である。
また該光束が受光される光電変換素子の出力をL(x’,y’,u,v)とすると、再構成面上に形成される画像の座標(x,y)の画素出力E(x,y)は、L(x’,y’,u,v)を撮影レンズの瞳領域に関して積分したものであり、
で表される。なお、(u,v)を瞳領域の代表座標とすることで、該式は単純加算により計算できる。
表示部110は、例えば小型LCD等のデジタルカメラ100が有する表示装置である。表示部110は、画像処理部109により生成された、任意の被写体距離に合焦した画像を表示する。上述したように、本実施形態の撮像部106から出力されるアナログ画像信号をA/D変換して得られるLFデータは、隣り合う画素において像が連結しない。このため表示部110には、LFデータではなく画像処理部109により生成された画像データが表示される。
記録媒体111は、例えばデジタルカメラ100が有する内蔵メモリや、メモリカードやHDD等のデジタルカメラ100に着脱可能に接続される記録装置である。記録媒体111には、LFデータ、及びこれらのLFデータから生成された任意の被写体距離に合焦する画像が記録される。
操作入力部112は、例えば電源ボタンやシャッタボタン等の、デジタルカメラ100が有するユーザインタフェースである。操作入力部112は、ユーザによりユーザインタフェースが操作されたことを検出すると、該操作に対応する制御信号を制御部101に出力する。
《撮像光学系104と各マイクロレンズのFナンバーが異なることによる問題》
ここで、本発明の課題である、撮像光学系104のFナンバーfsystemとマイクロレンズアレイ105の各マイクロレンズのFナンバーfmicroとが一致しない場合に生じる問題について、図を参照して説明する。なお、以下の説明では、Fナンバーがf2.8及びf5.6の撮像光学系104がデジタルカメラ100の撮影において用いられるものとして説明するが、本発明の実施はこれらのFナンバーに限られるものではない。
〈fsystem<fmicroの場合〉
マイクロレンズ201のFナンバーがf2.8であり、撮像光学系104のFナンバーがf2.8のときの射出瞳301を通過する光束が、1つのマイクロレンズ201に対応付けられた光電変換素子群に結像されるように設計されている場合を考える。このとき、レンズ変更等により撮像光学系104のFナンバーがf5.6に変更されると、撮像光学系104の有効口径は小さく、即ち撮像光学系104の射出瞳301は狭くなる。つまり、1つのマイクロレンズ201に対応付けられた光電変換素子群は、図6(a)に示されるように光束が結像される範囲が狭まることになる。具体的には撮像光学系104がf2.8のときに光束が結像される範囲の垂直方向あるいは水平方向の最大長さを1とすると、撮像光学系104がf5.6の時にはFナンバーの比をとり2.8/5.6=1/2の長さになる。このとき得られたLFデータから生成される再構成画像は、マイクロレンズ201のFナンバーがf5.6であった場合に得られるLFデータから生成される再構成画像よりも、分解能が低くなる。
〈fsystem>fmicroの場合〉
一方、マイクロレンズ201のFナンバーがf5・6であり、撮像光学系104のFナンバーがf5.6のときの射出瞳301を通過する光束が、1つのマイクロレンズ201に対応付けられた光電変換素子群に結像されるように設計されている場合を考える。このとき、撮像光学系104のFナンバーがf2.8に変更されると、撮像光学系104の有効口径が大きく、即ち撮像光学系104の射出瞳301は拡がる。つまり、図6(b)に示されるように、1つのマイクロレンズ201に対応付けられた光電変換素子群の範囲よりも広い範囲に光束が結像されることになる。即ち、予めマイクロレンズ201に対応付けられた光電変換素子群は、光束の一部の範囲しか結像されないため、射出瞳301の拡大分の光束についての情報を失うことになる。また拡大分の光束についての情報は、図示されるように隣接するマイクロレンズ201に対応付けられた光電変換素子に結像されることになる。このため、得られるLFデータは隣り合うマイクロレンズ201に対応する一部の画素においてクロストークが発生することになり、該LFデータを用いても好適な再構成画像を生成することができない可能性がある。
このため、本実施形態のデジタルカメラ100では、対応可能な撮像光学系104のFナンバーを、第1のFナンバー(最小のFナンバー:想定する最大有効口径を有する)から第2のFナンバー(最大のFナンバー:想定する最小有効口径)までと定め、
・第1のFナンバーの光学系が使用された場合に、1つのマイクロレンズを通過する光束が結像される範囲の幅及び高さが、該マイクロレンズに対応付けられた全ての光電変換素子群で規定される範囲の幅及び高さと一致する
・1つのマイクロレンズを通過する光束が撮像素子上に結像される範囲について、光学系が第1のFナンバーをとる場合の値に対する光学系が第2のFナンバーをとる場合の値の比率が、第2のFナンバーに対する第1のFナンバーの比率よりも高い
ように、マイクロレンズアレイ105の各マイクロレンズを設計する。具体的には図6(c)に示されるように、f5.6に対応する光束は密集させず、f2.8に対応する光束のうち、f5.6に対応する光束の外側にある光束については密集させるような歪曲収差特性を有するマイクロレンズをマイクロレンズアレイ105に用いる。このようなマイクロレンズを通過し、該マイクロレンズに対応付けられた光電変換素子群に結像され出力される画像は、所謂樽型歪みを有する画像となる。
ここで、本実施形態のデジタルカメラ100で用いられるマイクロレンズの歪曲収差特性について、図7を用いて説明する。図7は、光束の像高(撮像光学系104の光軸中心からの距離)と、その光束が結像される光電変換素子の位置との関係を示しており、縦軸に像高、横軸に結像位置が示されている。ここで縦軸は、1つのマイクロレンズに対応付けられた光電変換素子群の中心を0とし、光電変換素子群の水平方向あるいは垂直方向の一端を1としている。つまり、図4(b)の例においてp44の中心を0、例えばp48を1としている。また横軸は、f2.8の場合の有効口径(の半径)を1としている。撮像光学系104の焦点距離は変化しないものとすると、f5.6の場合の有効口径は0.5にあたる。
本実施形態のマイクロレンズアレイ105の各マイクロレンズを使用した場合の像高と結像位置の関係は、図7において実線で示されるような挙動を示す。また図7において、一点鎖線はfmicroがf2.8であるときの像高と結像位置の関係、二点鎖線はfmicroとがf5.6であるときの像高と結像位置の関係を示している。図示されるように、撮像光学系104がf2.8をとるときの光束は、像高が高くなるほど収差が強くなり、想定する最大有効口径の光束がマイクロレンズに対応付けられた光電変換素子群に収まっている。つまり、最大有効口径の光束における最大の像高を示す光束の結像位置が1となっている。また、撮像光学系104がf5.6をとるときの光束は、マイクロレンズがf2.8をとるときに比べて結像範囲が広くなる。つまり、撮像光学系104がf5.6をとるときの結像位置は、Fナンバーの比2.8/5.6=1/2よりも大きいため、LFデータから得られる再構成画像の分解能を高くすることができる。
なお、このような構成により得られたLFデータは、歪曲収差を含んだ像に対応しているため、再構成画像を生成する際には、画像処理部109において収差補正を行う必要がある。具体的には画像処理部109は、図7に示される特性を補正する変換テーブルを参照することで、各画素に対応する光束の通過した瞳領域及びその入射方向の組み合わせを補正し、該補正したLFデータを用いて再構成画像の生成を行う。
また、上述したマイクロレンズアレイ105の各マイクロレンズによる歪曲収差とは別に、撮影光学系104すなわち主レンズの歪曲収差も考える必要がある。撮影光学系104の歪曲収差はマイクロレンズと同様の樽型かあるいは糸巻き型が考えられるが、いずれにしても撮影光学系104の歪曲収差特性を補正するための変換テーブルを参照して補正を行う。また、マイクロレンズアレイ105の各マイクロレンズによる歪曲収差は再構成前のLFデータの段階で補正するのが好ましいが、撮影光学系104、すなわち主レンズの歪曲収差の補正については、再構成画像の生成後に行うのが好ましい。なぜならば、LFデータの再構成にあたって、各画素に入射された光線の方向の情報が必要になるからである。
また本実施形態のデジタルカメラ100では、像のマイクロレンズにおける歪曲収差を含んだLFデータを記録するものとして説明したが、マイクロレンズアレイ105における歪曲収差補正後のLFデータを記録するものであってもよい。このとき、補正後のLFデータは補正前のLFデータよりも多くの画素数を有することになる。また記録においては、データは符号化されてもよい。
また最大有効口径よりも小さい有効口径に対応したFナンバーの撮像光学系104を用いる場合は、マイクロレンズに対応付けられた光電変換素子群の中に光束が結像される素子の出力(有効画素)以外にも光束に対応した画素値を有さない画素が含まれる。このため、補正を行わないLFデータを記録する場合も、補正を行ったLFデータを記録する場合も、有効画素に対応する矩形領域に含まれない画素のみを抽出して生成されたLFデータを記録するようにしてもよい。
なお、本実施形態では従来技術としてのマイクロレンズアレイの各マイクロレンズに、上述のような歪曲収差特性を有するレンズに置き換えるものとしてマイクロレンズアレイ105を説明したが、本発明の実施はこれに限られない。例えばマイクロレンズアレイ105は、図8に示されるように魚眼レンズを各マイクロレンズとして用いることで、上述の歪曲収差特性を実現するものであってもよい。
以上説明したように、本実施形態の撮像装置は、異なるFナンバーの撮影光学系に対応した好適なLFデータを出力する。具体的には撮像装置において各マイクロレンズは、該マイクロレンズに対応付けられた所定数の画素において、撮像光学系が第1のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲に対する、撮像光学系が第2のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲の比率が、第2のF値に対する第1のF値の比率よりも高い歪曲収差特性を示す。このようなマイクロレンズを用いることで、第1のF値と第2のF値とをとる撮像光学系について、良好な再構成画像を生成可能なLFデータを取得することができる。
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (12)

  1. 数の画素を有し、撮像光学系を通過した光束を光電変換する撮像素子と、
    前記撮像素子の画素の各々に、前記撮像光学系において通過した瞳領域及び入射方向の組み合わせが異なる光束を結像するマイクロレンズアレイを有する撮像装置であって、
    各マイクロレンズは、該マイクロレンズにおける像高が高くなるほど収差が強くなるような歪曲収差特性を有する
    ことを特徴とする撮像装置。
  2. 前記各マイクロレンズは、前記撮像光学系が第1のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲の幅及び高さが、該マイクロレンズに対応付けられた所定数の画素で規定される範囲の幅及び高さに対応する歪曲収差特性を有することを特徴とする請求項1に記載の撮像装置。
  3. 前記光電変換により得られた画像信号について、前記マイクロレンズによる歪曲収差の補正を行う補正手段をさらに有することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記補正手段は、前記撮像光学系による歪曲収差を補正する処理をさらに行うことを特徴とする請求項3に記載の撮像装置。
  5. 前記補正手段により前記マイクロレンズによる歪曲収差が補正された画像信号を用いて、特定の被写体に合焦する再構成画像を生成する生成手段をさらに有することを特徴とする請求項3または4に記載の撮像装置。
  6. 前記補正手段は、前記生成手段により生成された再構成画像に対して前記撮像光学系による歪曲収差の補正を行うことを特徴とする請求項5に記載の撮像装置。
  7. 前記光電変換により得られた画像信号を記録する記録手段をさらに有することを特徴とする請求項1乃至のいずれか1項に記載の撮像装置。
  8. 前記光電変換により得られた画像信号について、前記マイクロレンズによる歪曲収差の補正を行う補正手段と、
    前記補正手段により歪曲収差が補正された画像信号を記録する記録手段と、をさらに有する
    ことを特徴とする請求項1乃至のいずれか1項に記載の撮像装置。
  9. 前記マイクロレンズは、魚眼レンズであることを特徴とする請求項1乃至のいずれか1項に記載の撮像装置。
  10. 数の画素を有し、撮像光学系を通過した光束を光電変換する撮像素子と、
    前記撮像素子の画素の各々に、前記撮像光学系において通過した瞳領域及び入射方向の組み合わせが異なる光束を結像するマイクロレンズアレイを有する撮像装置であって、
    前記光電変換により得られた画像信号について、前記マイクロレンズによる歪曲収差の補正を行う第1の補正手段と、
    前記撮像光学系による歪曲収差の補正を行う第2の補正手段と、
    前記第2の補正手段により出力される画像を符号化し、記録する記録手段と、を有する
    ことを特徴とする撮像装置。
  11. 前記第1の補正手段により歪曲収差が補正された画像信号を用いて、特定の被写体に合焦する再構成画像を生成する生成手段をさらに有し、
    前記第2の補正手段は、前記再構成画像に対して前記撮像光学系による歪曲収差の補正を行う
    ことを特徴とする請求項10に記載の撮像装置。
  12. 第1のF値と、前記第1のF値よりも大きい第2のF値とをとる撮像光学系と、
    複数の画素を有し、前記撮像光学系を通過した光束を光電変換する撮像素子と、
    前記撮像素子の画素の各々に、前記撮像光学系において通過した瞳領域及び入射方向の組み合わせが異なる光束を結像するマイクロレンズアレイであって、各マイクロレンズが前記撮像素子の所定数の画素に対応付けられているマイクロレンズアレイと、を有する撮像装置であって、
    前記各マイクロレンズは、該マイクロレンズに対応付けられた前記所定数の画素において、前記撮像光学系が前記第1のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲に対する、前記撮像光学系が前記第2のF値をとる場合に該マイクロレンズを通過する光束が結像される範囲の比率が、前記第2のF値に対する前記第1のF値の比率よりも高くなるような歪曲収差特性を有する
    ことを特徴とする撮像装置。
JP2013187647A 2012-09-21 2013-09-10 撮像装置 Active JP5649702B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013187647A JP5649702B2 (ja) 2012-09-21 2013-09-10 撮像装置
US14/027,819 US9165965B2 (en) 2012-09-21 2013-09-16 Image sensing apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012208896 2012-09-21
JP2012208896 2012-09-21
JP2013187647A JP5649702B2 (ja) 2012-09-21 2013-09-10 撮像装置

Publications (2)

Publication Number Publication Date
JP2014078934A JP2014078934A (ja) 2014-05-01
JP5649702B2 true JP5649702B2 (ja) 2015-01-07

Family

ID=50337934

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013187647A Active JP5649702B2 (ja) 2012-09-21 2013-09-10 撮像装置

Country Status (2)

Country Link
US (1) US9165965B2 (ja)
JP (1) JP5649702B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6876494B2 (en) * 2002-09-30 2005-04-05 Fuji Photo Film Co., Ltd. Imaging forming apparatus
JP4322757B2 (ja) * 2004-09-06 2009-09-02 富士フイルム株式会社 パターン形成材料及びパターン形成方法
US20080191604A1 (en) * 2006-09-27 2008-08-14 Evident Technologies Retro-emission systems comprising microlens arrays and luminescent emitters
JP5040493B2 (ja) * 2006-12-04 2012-10-03 ソニー株式会社 撮像装置及び撮像方法

Also Published As

Publication number Publication date
US20140084139A1 (en) 2014-03-27
US9165965B2 (en) 2015-10-20
JP2014078934A (ja) 2014-05-01

Similar Documents

Publication Publication Date Title
JP7001080B2 (ja) 撮像装置
US9445002B2 (en) Image processing apparatus, image capturing apparatus, control method, and recording medium
JP6222908B2 (ja) 画像処理装置、方法およびプログラム、並びに画像処理装置を有する撮像装置
JP6555863B2 (ja) 撮像装置及び撮像装置の制御方法
JP6126491B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
KR20140097465A (ko) 화상처리장치, 화상처리방법 및 기억매체, 및 화상처리장치를 구비한 촬상장치
JP2013198016A (ja) 撮像装置
US10291899B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating restored image
JP5769773B2 (ja) カメラシステム及び焦点検出画素の補正方法
JP6559021B2 (ja) 撮像装置およびその制御プログラム
JP2020046482A (ja) 撮像装置
JP5871535B2 (ja) 撮像装置及び撮像装置の制御方法
JP5649702B2 (ja) 撮像装置
JP6074201B2 (ja) 画像処理装置、制御方法、及びプログラム
JP6138222B2 (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP6537416B2 (ja) 画像データ生成装置、撮像装置および画像データ生成プログラム
JP6289515B2 (ja) 撮像装置及び撮像装置の制御方法
JP2016057402A (ja) 撮像装置及びその制御方法
JP7329136B2 (ja) 撮像装置
JP7099584B2 (ja) 撮像装置
JP6046912B2 (ja) 撮像装置及びその制御方法
JP2018182549A (ja) 撮像装置
JP2018007076A (ja) 撮像装置および画像処理装置
JP6478520B2 (ja) 画像処理装置及びその制御方法、撮像装置及びその制御方法、プログラム、記憶媒体
JP2016045322A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141111

R151 Written notification of patent or utility model registration

Ref document number: 5649702

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151