JP5591851B2 - 固体撮像装置および携帯情報端末 - Google Patents

固体撮像装置および携帯情報端末 Download PDF

Info

Publication number
JP5591851B2
JP5591851B2 JP2012058857A JP2012058857A JP5591851B2 JP 5591851 B2 JP5591851 B2 JP 5591851B2 JP 2012058857 A JP2012058857 A JP 2012058857A JP 2012058857 A JP2012058857 A JP 2012058857A JP 5591851 B2 JP5591851 B2 JP 5591851B2
Authority
JP
Japan
Prior art keywords
pixel
pixels
image
block
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012058857A
Other languages
English (en)
Other versions
JP2013192182A (ja
Inventor
野 梨紗子 上
多 浩 大 本
林 光 吉 小
木 和 拓 鈴
鎬 楠 権
木 英 之 舟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2012058857A priority Critical patent/JP5591851B2/ja
Priority to US13/713,304 priority patent/US8937274B2/en
Publication of JP2013192182A publication Critical patent/JP2013192182A/ja
Application granted granted Critical
Publication of JP5591851B2 publication Critical patent/JP5591851B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device

Description

本発明の実施形態は、2次元可視画像及び被写体奥行き距離情報を同時に取得することが可能な固体撮像装置および携帯情報端末に関する。
2次元アレイ情報として被写体の奥行き方向の距離を得ることができる撮像技術は、参照光を使用する技術、複数カメラを使用したステレオ測距技術など様々な方法が検討されている。特に近年は、民生用途での新たな入力デバイスとして比較的廉価な製品のニーズが高まっている。
そこで多数視差画像を得ることができ、かつ解像度の低下を抑えるための構成として、結像レンズを持つ複眼構成の撮像装置が提案されている。この撮像装置は、例えば結像系レンズを有し、結像系レンズと撮像素子の間に、再結像光学系として複数の光学系が配置される。例えば複数の光学系としては、平面上に多数の微小レンズが形成されたマイクロレンズアレイなどが用いられる。マイクロレンズアレイの下部には各マイクロレンズに対応する位置に複数の画素が設けられ、これらの複数の画素は対応するレンズの像を取得する。結像レンズにおいて結像された像は、再結像マイクロレンズによって再度、撮像素子へ結像し、その再結像した個眼像は、それぞれマイクロレンズの配置位置によって存在する視差の分、視点ずれした画像となる。
多数のマイクロレンズから得られた視差画像群を画像処理することで、三角測量の原理にて被写体の距離推定が可能であり、また、つなぎ合わせの画像処理を行うことによって、2次元画像として再構成することも可能である。
しかし、上記複眼構成の撮像装置を構成する際、結像系レンズの像高が高い位置での光量低下、およびマイクロレンズ像の周辺での光量低下が発生する。光量が低下している低照度領域の画素では、信号のSN比が悪化するという課題がある。
K. Fife, A. E. Gamal, and H. Wong, "A 3D multi-aperture image sensor architecture," Custom Integrated Circuits Conference, pp. 281-284, Sep.2006.
本実施形態は、光量が低下している低照度領域の画素の、SN比を改善することのできる固体撮像装置および携帯情報端末を提供する。
本実施形態の固体撮像装置は、半導体基板を含み、R画素、G画素、B画素、およびW画素のうち少なくとも2以上を有する画素ブロックを複数備えた撮像素子と、被写体を結像面に結像する第1の光学系と、複数の前記画素ブロックそれぞれに対応して設けられた複数のマイクロレンズを有するマイクロレンズアレイを含み、前記撮像素子と前記第1の光学系との間に設けられ、前記結像面に結像される像を、前記画素ブロックごとに縮小再結像する第2の光学系と、を備え、前記画素ブロックの中心から外周部に向かうにしたがって、前記W画素が配置される比率が高くなっていることを特徴とする。
第1実施形態による固体撮像装置を示すブロック図。 第1実施形態の撮像モジュールを示す断面図。 図3(a)、3(b)は、第1実施形態の固体撮像装置における結像レンズ光軸近傍でのマイクロレンズの幾何光学的関係を示す図。 図4(a)乃至図4(c)は、2次元画像を再構成する方法を説明する図。 図5(a)乃至図5(d)は、2次元画像合成方法を説明する図。 図6(a)乃至図6(c)は、複眼画像画面内の輝度分布を説明する図。 図7(a)乃至図7(c)は、第1実施形態における画素CF配列の一例を説明する図。 図8(a)乃至図8(c)は、第1実施形態における画素CF配列の他の例を説明する図。 W画素、R画素、G画素、およびB画素の感度と飽和の関係を説明する図。 図10(a)乃至図10(d)は、複眼画像がW画素を含むときの2次元画像合成方法を説明する図。 図11(a)乃至図11(c)は、第2実施形態による固体撮像装置の画素CF配列を説明する図。 図12(a)乃至図12(c)は、第3実施形態による固体撮像装置の画素CF配列を説明する図。 図13(a)乃至図13(d)は、第4実施形態による固体撮像装置の画素CF配列を説明する図。 第1乃至第4実施形態のいずかの固体撮像装置を用いた携帯情報端末の一例を示す図。
以下、図面を参照して実施形態を説明する。
(第1実施形態)
(カメラモジュールの構成)
第1実施形態による固体撮像装置(以下、カメラモジュール)を図1に示す。第1実施形態の固体撮像装置1は、撮像モジュール部10と、撮像信号プロセッサ(以下、ISP(Image Signal Processor)ともいう)20と、を有する。
撮像モジュール部10は、結像光学系(第1の光学系)12と、マイクロレンズアレイ(第2の光学系)14と、撮像素子16と、撮像回路18とを有する。結像光学系12は、被写体からの光を撮像素子16へ取り込む撮像光学系として機能する。撮像素子16は、結像光学系12により取り込まれた光を信号電荷に変換する素子として機能し、複数の画素(光電変換素子としての例えばフォトダイオード)が2次元アレイ状に配列されている。マイクロレンズアレイ14は、例えば複数のマイクロレンズを有するマイクロレンズアレイもしくはプリズム等の微小光学系である。結像光学系12によって結像面に結像する光線群を、個々のマイクロレンズと対応する画素ブロックに縮小再結像する光学系として機能する。撮像回路18は、撮像素子16の画素アレイの各画素を駆動する駆動回路部(図示せず)と、画素領域から出力される信号を処理する画素信号処理回路部(図示せず)とを有している。上記駆動回路部は、例えば駆動する画素を垂直方向に水平ライン(行)単位で順次選択する垂直選択回路と、列単位で順次選択する水平選択回路と、それらを各種パルスにて駆動するTG(タイミングジェネレータ)回路、などを有する。上記画素信号処理回路部は、画素領域からのアナログ電気信号をデジタル変換するAD変換回路と、ゲイン調整やアンプ動作を行うゲイン調整/アンプ回路と、デジタル信号の補正処理などを行うデジタル信号処理回路となどを有している。
ISP20は、カメラモジュールI/F(インターフェース)22と、画像取り込み部24と、信号処理部26と、ドライバI/F28とを備えている。撮像モジュール部10による撮像により得られたRAW画像は、カメラモジュールI/F22から画像取り込み部24へ取り込まれる。信号処理部26は、画像取り込み部24に取り込まれたRAW画像について、信号処理を実施する。ドライバI/F(インターフェース)28は、信号処理部26での信号処理を経た画像信号を、図示しない表示ドライバへ出力する。表示ドライバは、固体撮像装置1によって撮像された画像を表示する。
図2に第1実施形態による固体撮像装置1の断面を示す。図2に示すように、第1実施形態の固体撮像装置1においては、撮像素子16は、半導体基板16a上に、フォトダイオードを有する複数の画素16bが形成されるとともに、これらの画素16bを駆動してこれらの画素16bからの信号を読み出す駆動/読み出し回路(図示せず)が形成された構成を有している。画素16bの上部には、画素16bごとにR(赤色波長光域の光に対して高い透過率を有する)、G(緑色波長光域の光に対して高い透過率を有する)、B(青色波長光域の光に対して高い透過率を有する)、W(赤、緑、青色波長域の光を透過)のカラーフィルタ16cが、形成される。カラーフィルタの配列形態については後述する。このカラーフィルタ16cの上部には、1画素ごとに画素集光用マイクロレンズ16dが形成されていてもよい。Rのカラーフィルタが設けられた画素をR画素、Gのカラーフィルタが設けられた画素をG画素、Bのカラーフィルタが設けられた画素をB画素、Wのカラーフィルタが設けられた画素をW画素とする。
カラーフィルタ16cの上方に、マイクロレンズアレイ14が配置される。マイクロレンズアレイ14はマイクロレンズ部14aを有し、このマイクロレンズ部14aは可視光透過基板14b上に形成される。このマイクロレンズ部14aは可視光透過基板14bから見て撮像素子16側に配置され、複数の2次元アレイ状に配列したマイクロレンズを有している。各マイクロレンズは、半導体基板16a上に設けられた複数の画素からなる画素ブロックに対応し、対応する画素ブロックに縮小結像する光学系として機能する。画素ブロックとは、複数の画素から構成され、結合光学系12の光軸と平行な方向(z方向)において、1つのマイクロレンズは1つの画素ブロックに重なる。1つの画素ブロックは1つのマイクロレンズと対向し、マイクロレンズと同じ大きさであるか、あるいはマイクロレンズよりも大きい撮像領域は複数の画素ブロックを有し、画素ブロックは少なくとも2以上の複数の画素を有する。
また、可視光透過基板14bは、画素16bが形成された撮像領域の周囲に設けられた樹脂材料等からなる位置決めスペーサ42によって半導体基板16aと接合される。なお、半導体基板16aと可視光透過基板14bとを接合する際の位置合わせは、合わせマーク等を基準にして行う。可視光透過基板14bは、可視光を透過する機能の他に、例えば不要な近赤外光をカットする材料であっても良いし、可視光を透過するが近赤外光を反射する多層膜もしくは単層膜が形成されていていても良い。また、可視光透過基板14bから見て撮像素子16と反対側には、必要に応じて光学フィルタ43が設けられている。例えば、可視光透過基板14bが近赤外光をカットする機能をもたない場合、近赤外光をカットする機能をもつ光学フィルタ43が配置される。
また、半導体基板16aには、画素16bの読出し用電極パッド44が設けられ、この電極パッド44の下部には、半導体基板16aを貫通し処理および駆動チップと導通する貫通電極46が形成されている。半導体基板16aは、貫通電極46およびバンプ48を介して処理および駆動チップ50と電気的に接続される。この処理および駆動チップ50には、撮像装置を駆動し読み出された信号を処理する駆動処理回路(撮像回路18)が形成されている。なお、半導体基板16aと処理および駆動チップ50との電気的接続は、貫通電極46を介してだけでなく、処理および駆動チップ40にも電極パット44を設けて、処理および駆動チップ40の電極パット44と半導体基板16aの電極パッド44との間を金属ワイヤー等で結線しても良い。
また、可視光透過基板14aの上方には結像光学系である、例えば1枚あるいは複数枚からなる結像レンズ12が設けられる。この結像レンズ12はレンズ鏡筒62に取り付けられる。このレンズ鏡筒62はレンズホルダ64に取り付けられる。このレンズホルダ64への取り付け時に、押し付け圧と出力像の関係からレンズ12の取り付け位置の調整をしても良い。なお、半導体基板16a、可視光透過基板14b、およびチップ50の周囲には、不要な光を遮断するための光遮蔽カバー52が取り付けられる。そして、処理および駆動チップ50の下部には、チップ50と外部とを電気的に接続するモジュール電極54が設けられる。
(結像レンズ光軸近傍でのマイクロレンズ幾何光学的関係)
次に、本実施形態の固体撮像装置1の光学系(虚像光学系)における幾何的光学関係について図3(a)、3(b)を参照して説明する。単純化のため、ここでは結像レンズの光軸近傍の範囲のみを記述する。なお、図3(b)は、図3(a)に示すマイクロレンズの光軸近傍を拡大した図である。図3(a)においては、結像レンズ12は1枚とする。
結像光学系(結像レンズ)12のみを考えた場合、光軸上の被写体100の被写体点Pからの主光線84a、84b、84cおよびその同族光線である周辺光86は、結像光学系12の焦点距離fと、結像光学系12と被写体100との距離Aと、から決まる仮想結像面(結像面)70において、式(1)の関係を満たすように結像する。
ここで、fは結像レンズ12の焦点距離、Aは結像レンズ12の主面12aから被写体点Pまでの距離、Bは結像レンズ12の主面12aから仮想結像面70上の仮想結像点P’までの距離を示す。結像レンズ12の像倍率(横倍率)Mは下記の式(2)で表される。なお、主面12aは、結像レンズの中心を通り光軸に垂直な面である。
ここで、本実施形態では結像レンズ12の仮想結像点P’を撮像素子16よりも更に後方、すなわち撮像素子16に対して被写体100と反対側へ位置させる。このとき、仮想結像点P’よりも前方にマイクロレンズ部14aを配置するため、仮想結像面70よりも前方に位置する画素が設けられた撮像素子16の面に集光する。このとき、光線群80、は虚像関係で縮小結像することになる。マイクロレンズ部14aの結像系は下記の式(3)で表される。
ここで、gはマイクロレンズ14aの焦点距離、Cはマイクロレンズ14aの主面から仮想結像点P’までの距離(被写体距離)、Dはマイクロレンズ部14aの主面からマイクロレンズによる結像点までの距離を示す。このとき、マイクロレンズ部14aの結像系による像倍率Nは次の式(4)によって表される。
ここで、幾何学的関係により式(5)の変数Eを導入する。光学系が固定焦点光学系の場合、変数Eは固定設計値となる。
E=B−C (5)
ここで、マイクロレンズ部14aの隣接するマイクロレンズを2個選択した場合の、マイクロレンズの配列ピッチ、すなわちマイクロレンズの中心の間の距離をLMLとする。このとき、同一被写体から出た光線群84a、84b、84c、86が隣接した複数のマイクロレンズにおいて、像点へ分配されて複数個所にて結像される。このときの距離LMLとマイクロレンズにおける片側の像ずれ量Δは、図3(b)に示すマイクロレンズ部14aの各マイクロレンズにとっての主光線84a、84b、84cの幾何学的関係より式(6)で表される。
式(1)、(2)、(6)より被写体の結像光学系12から距離Aと像のずれ量Δは次の式(7)に示す関係となる。
式(7)において、焦点距離f、変数E、距離LMLは設計時のパラメータであって固定値で既知であり、被写体距離Aに対して像ずれ量Δ、距離Dが一意に決まる。
ここで、距離Dの変化量は距離Aの変化量に対して非常に僅かのため、固定値Dとみなすとする。Dはマイクロレンズ部14aの像側主面から撮像素子16の面までの距離を示す。このとき、式(7)は以下の式(8)のように表される。
ここでは、焦点距離f、変数E,距離D、距離LMLは設計値のため既知であるため、像のずれ量Δが撮像素子16から検出できれば、被写体距離Aが算出可能となる。
同一被写体点Pから出た光線が、結像レンズ12、マイクロレンズ部14aによりp1、 p2、p3に結像した際の、相互の像のずれ量Δを求めるには、撮像素子16が記録した隣接するマイクロレンズの像の間の画像マッチング処理を用いる。
画像マッチング処理としては、例えば、2つの画像の類似度や相違度を調べる、周知のテンプレートマッチング法を用いることができる。また、更に精密にずれ位置を求める際には、画素単位ごとに得られた類似度や相似度を連続なフィッティング関数等で補間し、フィッティング関数の最大や最小を与えるサブピクセル位置を求めることで、更に高精度にずれ量を求めることができる。
(2次元画像を再構成する方法)
次に、同一被写体が複数回撮影されているマイクロレンズ画像群から、重複のない2次元画像を再構成する方法について図4(a)乃至4(c)を参照して説明する。この再構成は、例えば、図1に示す信号処理部26において行われる。
隣接する3個のマイクロレンズがあり、それらが図4(b)、4(c)に示すように、撮像素子16の面にマイクロレンズ像91a、91b,91cをそれぞれ形成する場合を考える。このように重複のないマイクロレンズ像を形成するには、結像レンズ12の実効Fナンバーと、マイクロレンズ部14aの各マイクロレンズの実効Fナンバーの関係が一致もしくは近い値となるよう設計する。
マイクロレンズの像91a、91b,91cが結像する視野は、仮想結像面70においては視野93a、視野93b、視野93cとなり、図4(c)に示すように範囲が重複する。図4(b)、4(c)では、像縮小率Nが0.5の場合を描いており、各視野が0.5倍された結果、どの被写体点も2回以上重複されて撮像される関係となる。N=0.5の関係にあるときは、各マイクロレンズ像を1/N倍、すなわち、2倍とすることで、仮想結像面70の像を再現できることになる。
像縮小率(像倍率)Nを、撮影後のマイクロレンズ画像群から知るためには、式(4)、(6)の関係から、(9)が導かれることを利用する。
マイクロレンズのピッチLMLは既知であるため、同一被写体のずれ量Δを画像から求めれば、像縮小率Nも求まることになる。
(2次元画像を再構成する合成処理方法)
図5(a)乃至図5(d)参照して、2次元画像を再構成する画像合成方法を説明する。画像合成の手順を図5(a)に示す。まず、ステップS1において、撮像素子16から複眼RAW画像を取り出す。この複合RAW画像は、撮像素子16から出力された状態の画像であり、その一例を例えば図5(b)に示す。この複合RAW画像に対して、B、G、R画素の信号バランスを調整するホワイトバランス処理を公知の技術を用いて行う(ステップS2)。続いて、例えばR画素の位置にはG、Bの信号情報がないため、その周りに配置された画素を参照し、それらから推測してG、B信号を作成するデモザイキング処理を行う(ステップS3)。簡単には周囲の画素から平均値をとる処理を行えば良いが、必要に応じて参照する画素範囲を広げるなど、様々な方法を取ることが可能である。このデモザイキング処理は、G画素、B画素に対しても同様に行う。
続いて、図3で示されるような1点の被写体点Pに対応する像点p1、p2、・・・、pnを撮像素子にて記録した画素信号値Sp1、Sp2、・・・、Spnを、合成後の信号S’とn対1にて対応付けする(ステップS4および図5(c)参照)。対応付けの方法は、前述の通り、像点のずれ量Δの関係や視野の重複関係を画像から検出することにより行う。その後、ステップS5において、2次元画像合成方法により合成を行い、2次元画像を得て終了となる。このようにして得られた2次元画像の一例を図5(d)に示す。
次に、2次元画像合成方法について説明する。n個の画素の画素信号値をSp1、Sp2、・・・、Spnとし、それらの画素の持つノイズ値をNp1、Np2、・・・、Npnとする。まず、各画素信号値とノイズ値に対し、輝度補正処理を行う。輝度補正処理の詳細については後述するが、後述する手法にて決定した輝度補正係数a、a、・・・、aを画素信号値Sp1、Sp2、・・・、Spnにそれぞれ乗算する。続いて、乗算後の値api(i=1,・・・,n)を、式(10)を用いて加算平均し、加算平均後の値を合成後の信号値S’とする。また、このときの合成後の信号値S’に含まれるノイズ値N’は、式(11)を用いて算出される。
S’={ap1+ap2+…+apn}/n (10)
N’={(ap1)2+(ap2)2+・・・+(apn1/2/n
(11)
なお、前記ステップは、合成手法により前後が異なる場合もある。例えば、デモザイキング処理を2次元画像合成の後に行う、など、S1乃至S5の順番を適宜入れ替える処理も可能である。
(周辺光量低下)
次に、図6(a)乃至図6(c)を参照して、結像レンズ12とマイクロレンズ部14aでそれぞれに起こる周辺光量の低下について説明する。図6(a)は一様輝度の画像(例えば全体が均一に白い画像)を複眼撮像系で撮影した場合の出力画像200を示す。なお、図6(a)に示すサークル210は、結像レンズ12の作るイメージサークルである。図6(b)は出力画像200の中心付近の画像の拡大図を示し、図6(c)は出力画像200の端付近の画像の拡大図を示す。また、図6(b)に示す符号Raはマイクロレンズの中心部の領域を示し、符号Rbはマイクロレンズの端部の領域を示す。図6(c)に示す符号Rcはマイクロレンズの中心部の領域を示し、符号Rdはマイクロレンズの端部の領域を示す。
図6(b)、6(c)に示すように、複眼画像は画像端すなわち結像レンズ12の光軸から離れた位置へ行くほど、またそれぞれのマイクロレンズ像の端すなわちマイクロレンズの光軸から離れた位置へ行くほど入射光量が低下する。これは結像レンズ系では一般的に発生し、入射瞳にωの角度で入射する軸外物点の像がcosωに比例して暗くなる関係から、cos則と呼ばれる。例として物体が輝度一様の完全拡散の平面であるとし、光軸上の物点をP、軸外物点をQとすると、以下の3つの減少要因がある。
1)軸外物点Qより発する光束量は、等面積の、光軸上の物点Pからの光束量よりもcosωに比例して減少する。
2)軸外物点Qは光軸上の物点Pより瞳から遠いので、同一瞳に対して張る立体角はcosωに比例して減少する。
3)軸外物点Qよりみる瞳の正射影はcosωに比例して減少する。
よって、全ての効果の積算として、軸外物点Qからの入射光束量、すなわち像面照度は中心に対してcosωに比例する。
この光量低下が結像レンズ、マイクロレンズの両方で起こる結果、結像レンズが形成するイメージサークル210(図6(a))内に配置される撮像領域から規定される画面端ほど光量低下が起こり、またマイクロレンズ像の端ほど光量低下が起こる。携帯用カメラモジュールなど、短焦点、広画角のレンズでは、一般的に特に周辺光量低下が大きく発生する。
(輝度補正処理)
次に、結像レンズ12とマイクロレンズ部14aでそれぞれ起こる周辺光量の低下を補正するための、輝度補正係数a、a、・・・、aの決定方法について説明する。この光量低下を補正するために輝度補正処理を行う。この輝度補正処理に用いられる輝度補正係数a、a、・・・、aは、一様輝度の画像(例えば全体が均一に白い画像)を撮影した際の複眼画像、もしくは同様の光学シミュレーションを経たシミュレーション画像から算出する。レンズ系による光量低下が無い場合であれば、均一な信号量となるべき被写体画像のため、画面全体の光量が低下した部分は、光量低下の起こらない最大輝度の画素値に合致するように、各画素位置に対して、輝度補正係数a、a、・・・、aを算出する。
(画素CF配列)
図7(a)乃至図8(c)を参照して、本実施形態における画素カラーフィルタ(CF)配列について説明する。図7(a)はマイクロレンズが六方配列している場合、図8(a)はマイクロレンズが正方配列している場合を示す。両者は、各マイクロレンズの像内のCF配列においては同じ考え方が適用される。図7(a)、図8(a)において、「r」はマイクロレンズの半径を示す。
光量低下分の少ないマイクロレンズ像の中心付近領域を第1のCF配列領域310とし、第1のCF配列領域310は図7(b)または図8(b)に示すベイヤー配列とする。ベイヤー配列とはCMOSイメージセンサで用いられることの多い、2行2列の画素サブブロック中に、赤色(R)と青色(B)のフィルタを1ずつ対角に配置するとともに、緑色(G)フィルタを対角に2個配置した配列である。すなわち、画素ブロックは複数の画素サブブロックから構成される。一方、光量低下分の大きいマイクロレンズ像端360の付近の領域を含む、第1のCF配列領域以外の全ての領域を第2のCF配列領域320とし、この第2のCF配列領域320は図7(c)または図8(c)に示すW−RGB配列とする。W−RGB配列とは、ベイヤー配列のGフィルタの1つをW(R,G,B全波長領域透過)フィルタに置き換えたものである。図7(a)および図8(a)において、符号350はCF配列の境界を示す。
pixを画素パラメータとすると、第1および第2のCF配列の切り替えは、均一な輝度の被写体を撮影した場合、マイクロレンズ像内で、最も光量の多い画素位置から光量が1/Ppixになった位置を切り替え領域(境界)350とする。最も光量の多い位置とは、一般的に結像レンズ光軸上では、マイクロレンズ像の中心であり、結像レンズ光軸から離れた像高の高い撮像素子領域では結像レンズを通る主光線の向きによってマイクロレンズ像の中心部からシフトし、非対称な光量分布となっていく。この最も光量の多い位置は、均一な輝度の被写体を撮影した場合を想定する光学シミュレーション、もしくは取得した画像から検出することも可能である。
上記画素パラメータPpixは、Wフィルタ直下の画素(W画素)とG(またはB、R)フィルタ直下の画素(G画素)の感度比と、W画素およびG画素の信号飽和量の関係によって設計される値とする。例えば、W画素とG画素の飽和レベルに達する露光量をそれぞれImax(W)、Imax(G)とする。このとき、画素パラメータPpixをPpix=Imax(G)/Imax(W)とする。
(W画素とG画素の感度比と信号飽和量の関係)
図9を参照して、W画素とG(またはB、R)画素の感度と飽和の関係について説明する。図9は、横軸に露光量(照度×露光時間)、縦軸にW画素、G画素それぞれの出力信号をとったものである。撮像領域に形成されているフォトダイオードは一般的に全て同じ信号飽和量、ノイズ量を持つと考える。このとき、Wフィルタは全波長領域の光を透過させフォトダイオードにて信号に変換するため、W画素の中からG波長領域の光を選択的に透過させたG画素と比較し、画素に入射するフォトン数が多い。よって、低露光量(低照度)で光電変換した場合でも高い出力信号が得られる。このため、同じ露光時間で比較した場合、低照度のSN比(出力信号/ノイズ)が良い。しかし、その反面、露光量の増加に対し、出力信号が上限値を超える飽和レベルに達しやすく、同じ露光時間で比較した場合、高照度では飽和しやすい。このように信号が飽和してしまうと、精確な露光量を検出できない。G画素では、逆に同じ露光時間で比較した場合、低照度のSN比が悪いが、露光量の増加に対し飽和は起こりにくい。マイクロレンズの中心ほど通過する光量は多く、マイクロレンズの外周部ほど通過する光量は少ないので、画素ブロックの中心から外周部に向かうにしたがって、W画素が配置される比率を高くする。
例えば、W画素とG画素の飽和レベルに達する露光量をそれぞれImax(W)、Imax(G)とする。このとき、画素パラメータPpixをP=Imax(G)/Imax(W)とし、マイクロレンズの半径rから外周方向に向かって、光量が1/Ppix以下に低下した画素ブロックの第2のCF配列領域320にW画素を多く配置すれば、第1のCF配列領域310で信号量が飽和しない条件であれば、第2のCF配列領域320でも信号量飽和は発生せず、かつ低照度SNを改善することができる。
例1として、Imax(G)=200、Imax(W)=100のとき、Ppix=2となる。よって光量が1/2減少した位置を境界として、これより外周側の画素ブロックをW画素を含むCF配列とする。
例2として、Imax(G)=300、Imax(W)=100のとき、Ppix=3となる。よって光量が1/3減少した位置を境界として、これより外周側の画素ブロックをW画素を含むCF配列とする。
次に、W画素位置で、R、G、Bの色成分を算出する2種類の方法A)、B)について説明する。
A)第1の方法は、図5(a)に示すフローチャート中のデモザイキング処理時に、周囲の画素からR、G、Bの画素値を算出する方法である。デモザイキング処理は、ある目的の画素が持たない要生成の色情報を、近傍に位置する目的の色を持つ画素値に基づいて補間処理を行い、画素値を設定する処理である。また、別の手法として、ある目的の色に対して、その目的色の色フィルタが配されていない画素の画素値を、色を問わず、目的画素近傍の画素の画素値を使って、他の色信号との相関を利用して色補間処理を行なうこともできる。この色補間処理を行う手法では、実在しない画素位置の情報を、その画素位置近傍の同一色および他色の相関を利用して補間する。他にも、補間処理は様々な手法を採り得る。
B)第2の方法について、図10(a)乃至10(d)を参照して説明する。まず、ステップS11において、撮像素子16から複眼RAW画像を取り出す。撮像素子16から出力される複合RAW画像に対して、B、G、R画素の信号バランスを調整するホワイトバランス処理を公知の技術を用いて行う(ステップS12)。ホワイトバランス処理を行った画像の例を図10(b)に示す。次に、出力画像の画素群において、各画素がR画素、G画素、B画素であるか、もしくはW画素であるかを判定する(ステップS13)。画素がR画素、G画素、またはB画素である場合は、図5(a)で説明したと同様の方法でデモザイキング処理を行う(ステップS14)。また引き続く合成前後の座標対応付けおよび2次元画像合成処理を、図5(a)に示すステップS4、S5と同様の方法で行う(ステップS15、S16)。
また、ステップS13において、画素がW画素の場合は、ステップ17において、合成前後の座標対応付けを行う。ステップS15、S17で、合成前後の座標対応付け処理を行った後の画像を図10(c)に示す。その後、ステップS16において行われた2次元画像合成処理の結果およびステップ17において行われた合成前後の座標対応付け処理の結果に基づいて、W画素から色の生成の処理を行う(ステップS18)。
このとき、図3で示されるような1点の被写体点Pに対応するn個の像点p1、p2、・・・、pnを撮像素子16において記録した画素信号値群のうち1個の像点のみがW画素で撮像され、残りのn−1個の像点がR、G,B画素のいずれかで撮像される場合を例にとって説明する。このとき、n個の像点p1,p2、・・・、pnを記録した画素信号値Sp1、Sp2、・・・、Spnと、合成後の信号値S’とは、n対1にて対応付けされる関係である。
R、G、B画素で撮影されたn−1個の画素値は、デモザイキング処理後、G画素は、Sp1(G)、Sp2(G)、・・・、Spn−1(G)成分を有し、R画素、B画素も同様に、Sp1(R)、・・・、Spn―1(R)、Sp1(B)、・・・、Spn−1(B)成分を有する。これらの信号値を、前述と同様の方法で1段階目の合成後の信号S”p(G)と対応付けし、2次元画像合成処理を行う、つまり、式(12)に従って加算平均処理を行う。G成分を例にすると、式(12)のようになる。
S”p(G)={ap1(G)+ap2(G)+…+an−1pn−1(G)}/(n−1) (12)
また、合成後の信号値に含まれるノイズ値N”は、式(13)によって求められる。
N”p(G)={(ap1(G)+(ap(G)+…+(an―1pn―1(G)1/2/(n−1) (13)
また、R、Bについても同様の加算平均処理を行う。その結果、3色それぞれの合成結果である信号S”p(R)、S”p(G)、S”p(B)を得る。
ここで、W画素を考慮した最終合成後の信号S’p(G)に対応付けられた残りのW画素値Spn(W)については、S”p(R)、S”p(G)、S”p(B)の色比率から、Spn(R’)、Spn(G’)、Spn(B’)を算出する。R’、G’、B’は、それぞれWから生成された色成分を表す。ここで、G’を例にとると、式(14)によって求められる。
pn(G’)=Spn(W)×S”p(G)/{S”p(R)+S”p(G)+S”p(B)} (14)
R、Bについても同様に色生成処理を行う(ステップS18)。その後、Wも加算平均する2段階目の合成を行う(ステップS19)。この合成は、式(15)によって求められる。
S’p(G)=S”p(G)+apn(G’)/2 (15)
同様にR、B画素についても行い、最終段階の合成後信号S’p(R)、S’p(G)、S’p(B)を得る。
以上説明したように、第1実施形態によれば、結像レンズ、マイクロレンズの周辺光量低下特性により低照度となる周辺部に感度の高いW画素を配置しているので、マイクロレンズ像の周辺部に位置する画素や、それらを用いて再合成した2次元画像のSN比を改善することができる。
(第2実施形態)
第2実施形態の固体撮像装置について図11(a)乃至11(c)を参照して説明する。この第2実施形態の固体撮像装置は、第1実施形態の固体撮像装置とは、画素CF配列が異なっている。
第2実施形態の固体撮像装置における画素CF配列を図11(a)に示す。図11(a)はマイクロレンズが六方配列している場合を示すが、図8(a)に示すように正方配列している場合も同様の配列が適用可能である。
第2実施形態においては、光量低下分の少ないマイクロレンズ像の中心付近領域を第1のCF配列領域310とし、第1のCF配列領域は図11(b)に示すベイヤー配列とする。ベイヤー配列は、CMOSイメージセンサで用いられることの多い配列である。
一方、光量低下分の大きいマイクロレンズ像の端360の付近の領域を含む、第1のCF配列領域310以外の全ての領域を第2のCF配列領域320とし、この第2のCF配列領域320は図11(c)に示すW−RB配列とする。この第2のCF配列領域320におけるW−RB配列は、図11(c)に示すように、2行2列の画素サブブロック中に、対角に赤色(R)画素と青色(B)画素を1画素ずつと、白色(W)画素を対角に2画素配置した配列とする。
第1と第2のCF配列領域310、320の切り替えは、第1実施形態で説明したように、マイクロレンズ像内で、最も光量の多い画素位置から光量が1/Ppixになった位置を切り替え領域(境界)350とする。
画素パラメータPpixの決定方法は、第1実施形態で説明した方法と同様に、WとG(ないしB、R)の感度比と信号飽和量の関係によって設計される値とする。
また、W画素の位置において、R、G、Bの色成分を算出する方法についても、第1実施形態で説明した2種の方法を適用できる。
この第2実施形態も第1実施形態と同様に、結像レンズ、マイクロレンズの周辺光量低下特性により低照度となる周辺部に感度の高いW画素を配置しているので、マイクロレンズ像の周辺部に位置する画素や、それらを用いて再合成した2次元画像のSN比を改善することができる。
(第3実施形態)
第3実施形態の固体撮像装置について図12(a)乃至12(c)を参照して説明する。この第3実施形態の固体撮像装置は、第1実施形態の固体撮像装置とは、画素CF配列が異なっている。
第3実施形態の固体撮像装置における画素CF配列を図12(a)に示す。図12(a)はマイクロレンズが六方配列している場合を示すが、図8(a)に示すように正方配列している場合も同様の配列が適用可能である。
第3実施形態においては、光量低下分の少ないマイクロレンズ像の中心付近領域を第1のCF配列領域310とし、この第1のCF配列領域は図12(b)に示すベイヤー配列とする。一方、光量低下分の大きいマイクロレンズ像の端360の付近領域を含む、第1のCF配列領域以外の全ての領域を第2のCF配列領域320とし、この第2のCF配列領域は図12(c)に示すように全て白色(W)画素とする。
第1と第2のCF配列領域310、320の切り替えは、第1実施形態で説明したように、マイクロレンズ像内で、最も光量の多い画素位置から光量が1/Ppixになった位置を切り替え領域(境界)350とする。
画素パラメータPpixの決定方法は、第1実施形態で説明した方法と同様に、WとG(ないしB、R)の感度比と信号飽和量の関係によって設計される値とする。
また、W画素位置で、R、G、B画素の色成分を算出する方法についても、第1実施形態で説明した2種の方法が適用できる。ただし、本実施形態では、第2のCF配列領域320ではW画素に隣接する画素がW画素である割合が高いため、第1実施形態で説明した第2の方法を適用することが好ましい。
この第3実施形態も第1実施形態と同様に、結像レンズ、マイクロレンズの周辺光量低下特性により低照度となる周辺部に感度の高いW画素を配置しているので、マイクロレンズ像の周辺部に位置する画素や、それらを用いて再合成した2次元画像のSN比を改善することができる。
(第4実施形態)
第4実施形態の固体撮像装置について図13(a)乃至13(d)を参照して説明する。この第4実施形態の固体撮像装置は、第1実施形態の固体撮像装置とは、画素CF配列が異なっている。
第4実施形態の固体撮像装置における画素CF配列を図13(a)に示す。図13(a)はマイクロレンズが六方配列している場合を示すが、図8(a)に示すように正方配列している場合も同様の配列が適用可能である。
第4実施形態においては、光量低下分の少ないマイクロレンズ像の中心付近領域を第1のCF配列領域310とし、この第1のCF配列領域310は図13(b)に示すベイヤー配列とする。一方、光量低下分の大きいマイクロレンズ像の端360の付近の領域へ向かうマイクロレンズの半径方向に、第2および第3のCF配列領域320、330を配置する。第2および第3の配列領域320、330は、図13(c)に示すW―RGB配列、図13(d)に示すW−RB配列、図12(c)に示す全W画素配列の中から2種類の配列を適宜配置する。しかし、マイクロレンズの外周方向に向かうほど、W画素の割合が高まるように組合せを選ぶのが好ましい。
第1および第2のCF配列領域310、320の切り替えは、第1実施形態で説明したように、マイクロレンズ像内で、最も光量の多い画素位置から光量が1/Ppixになった位置を切り替え領域(境界)350とする。
画素パラメータPpixの決定方法は、第1実施形態で説明した方法と同様に、WとG(ないしB、R)の感度比と信号飽和量の関係によって設計される値とする。
第2および第3のCF配列領域320、330の切り替えは、光量が1/Qpixになった位置を切り替え領域とするが、QpixはPpixよりも大きい値とする。第3のCF領域330は、第1および第2のCF領域以外の全ての領域を含む。
また、W画素位置で、R、G、B画素の色成分を算出する方法についても、第1実施形態で説明した2種類の方法が適用できる。
この第4実施形態も第1実施形態と同様に、結像レンズ、マイクロレンズの周辺光量低下特性により低照度となる周辺部に感度の高いW画素を配置しているので、マイクロレンズ像の周辺部に位置する画素や、それらを用いて再合成した2次元画像のSN比を改善することができる。
また、第1乃至第4実施形態の固体撮像装置は、スチルカメラばかりでなく、図14に示す携帯情報端末200に適用することができる。図14に示す携帯情報端末は一例であって、符号10は第1乃至第4実施形態における固体撮像装置の撮像モジュールを示す。
以上説明したように、各実施形態によれば、光量が低下している低照度領域の画素の、SN比を改善することが可能な固体撮像装置および携帯情報端末を提供することができる。
なお、以上の実施形態に限らず、画素ブロックは中心から遠いほどW画素を多く含めばSN比を改善することができる。また、上述の実施形態においては、画素サブブロックが2行2列の画素から形成されることしたが、行列の数はこれに限定されない。例えば、画素ブロックの中心付近の画素サブブロックは、R画素、G画素、B画素のうちの2以上、あるいはこれらとW画素のうちの2以上を有し、外周部において中心付近よりもW画素を多く含むこととすれば良い。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 固体撮像装置
10 撮像モジュール部
12 結像光学系(結像レンズ)
14 マイクロレンズアレイ
14a マイクロレンズ
14b 可視光透過基板
16 撮像素子
16a 半導体基板
16b 画素(フォトダイオード)
16c カラーフィルタ
16d 画素集光用マイクロレンズ
18 撮像回路
20 撮像信号プロセッサ
22 カメラモジュールI/F
24 画像取り込み部
26 信号処理部
28 ドライバI/F
40 可視光フィルタ基板
42 位置決めスペーサ
44 電極パッド
48 バンプ
50 チップ
52 光遮蔽カバー
54 モジュール電極
62 レンズ鏡筒
64 レンズホルダ
200 携帯情報端末

Claims (7)

  1. 半導体基板を含み、R画素、G画素、B画素、およびW画素のうち少なくとも2以上を有する画素ブロックを複数備えた撮像素子と、
    被写体を結像面に結像する第1の光学系と、
    複数の前記画素ブロックそれぞれに対応して設けられた複数のマイクロレンズを有するマイクロレンズアレイを含み、前記撮像素子と前記第1の光学系との間に設けられ、前記結像面に結像される像を、前記画素ブロックごとに縮小再結像する第2の光学系と、
    を備え、
    前記画素ブロックの中心から外周部に向かうにしたがって、前記W画素が配置される比率が高くなっていることを特徴とする固体撮像装置。
  2. 前記画素ブロックの中心を含む第1の領域は、前記R画素、前記G画素、および前記B画素を2行2列に配置して形成される第1画素サブブロックで配列され、
    前記画素ブロックのうち、前記第1の領域以外の第2の領域は、前記W画素を含む第2画素サブブロックで配列されたことを特徴とする請求項1記載の固体撮像装置。
  3. 前記第1画素サブブロックはベイヤー配列であり、
    前記第2画素サブブロックは、
    1つの前記W画素、1つの前記R画素、1つの前記G画素、および1つの前記B画素からなる画素サブブロックと、
    2つの前記W画素、1つの前記R画素、および1つの前記B画素からなる画素サブブロックと、
    4つの前記W画素からなる画素サブブロックと、
    のいずれかであることを特徴とする請求項2記載の固体撮像装置。
  4. 前記画素ブロックの中心を含む第1の領域は、前記R画素、前記G画素、および前記B画素を2行2列に配置して形成される第1画素サブブロックで配列され、
    前記画素ブロックのうち、前記第1の領域を取り囲む第2の領域は、前記W画素を含む第2画素サブブロックで配列され、
    前記画素ブロックのうち、前記第2の領域を取り囲む第3の領域は、2つの前記W画素を含む第3画素サブブロックで配列されていることを特徴とする請求項1記載の固体撮像装置。
  5. 前記第1の領域と前記第2の領域との境界は、前記W画素と、前記R画素、前記G画素、もしくは前記B画素との感度比率によって決定されることを特徴とする請求項2乃至4のいずれかに記載の固体撮像装置。
  6. 信号処理部を更に備え、
    前記信号処理部は、
    前記撮像素子によって撮像された複眼画像に対してホワイトバランス処理を行う第1処理部と、
    ホワイトバランス処理が行われた複眼画像において前記複眼画像のR画素、G画素、およびB画素に対してデモザイキング処理を行い、前記複眼画像のW画素に対してデモザイキング処理を行わない第2処理部と、
    デモザイキング処理が行われた複眼画像のR画素、G画素、およびB画素と、前記複眼画像のW画素とに対してそれぞれ2次元画像合成前後の座標の対応付けを行う第3処理部と、
    座標の対応付けが行われた複眼画像のR画素、G画素、B画素を用いて2次元画像を合成する第4処理部と、
    前記第4処理部によって合成された2次元画像に対して、前記複眼画像のW画素に関する2次元画像合成前後の座標の対応付け結果を用いて、前記W画素に関するR、G、およびBの色成分を求める第5処理部と、
    前記第4処理部によって合成された2次元画像に対して、前記第5処理部によって求められた前記W画素に関するR、G、およびBの色成分を加算する第6処理部と、
    を備えていることを特徴とする請求項請求項1乃至5のいずれかに記載の固体撮像装置。
  7. 請求項1乃至6のいずれかに記載の固体撮像装置を備えていることを特徴とする携帯情報端末。
JP2012058857A 2012-03-15 2012-03-15 固体撮像装置および携帯情報端末 Active JP5591851B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012058857A JP5591851B2 (ja) 2012-03-15 2012-03-15 固体撮像装置および携帯情報端末
US13/713,304 US8937274B2 (en) 2012-03-15 2012-12-13 Solid-state imaging device and portable information terminal having a proportion of W pixels increases toward an outer periphery of each pixel block

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012058857A JP5591851B2 (ja) 2012-03-15 2012-03-15 固体撮像装置および携帯情報端末

Publications (2)

Publication Number Publication Date
JP2013192182A JP2013192182A (ja) 2013-09-26
JP5591851B2 true JP5591851B2 (ja) 2014-09-17

Family

ID=49156771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012058857A Active JP5591851B2 (ja) 2012-03-15 2012-03-15 固体撮像装置および携帯情報端末

Country Status (2)

Country Link
US (1) US8937274B2 (ja)
JP (1) JP5591851B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10868957B2 (en) 2018-10-18 2020-12-15 Samsung Electronics Co., Ltd. Apparatus and method for processing image to reconstruct image

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5705140B2 (ja) * 2011-09-27 2015-04-22 株式会社東芝 固体撮像装置及び固体撮像装置の製造方法
JP2014099696A (ja) 2012-11-13 2014-05-29 Toshiba Corp 固体撮像装置
JP2014164174A (ja) * 2013-02-26 2014-09-08 Toshiba Corp 固体撮像装置、携帯情報端末、および固体撮像システム
JP6189061B2 (ja) 2013-03-19 2017-08-30 株式会社東芝 固体撮像装置
JP2014187160A (ja) * 2013-03-22 2014-10-02 Toshiba Corp 固体撮像装置および携帯情報端末
JP5791664B2 (ja) * 2013-06-28 2015-10-07 キヤノン株式会社 光学素子アレイ、及び固体撮像装置
CN105531829B (zh) * 2013-09-10 2018-08-14 赫普塔冈微光有限公司 紧凑光电模块以及用于这样的模块的制造方法
JP2015060053A (ja) 2013-09-18 2015-03-30 株式会社東芝 固体撮像装置、制御装置及び制御プログラム
EP3113478A1 (en) * 2015-06-30 2017-01-04 Thomson Licensing Plenoptic foveated camera
WO2019174756A1 (en) * 2018-03-15 2019-09-19 Photonic Sensors & Algorithms, S.L. Plenoptic camera for mobile devices

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4147698B2 (ja) * 1999-06-03 2008-09-10 コニカミノルタオプト株式会社 表示光学装置
JP4968527B2 (ja) * 2007-07-10 2012-07-04 ソニー株式会社 撮像装置
EP3876510A1 (en) * 2008-05-20 2021-09-08 FotoNation Limited Capturing and processing of images using monolithic camera array with heterogeneous imagers
JP5394814B2 (ja) * 2009-05-01 2014-01-22 三星電子株式会社 光検出素子及び撮像装置
JP2011223562A (ja) * 2010-03-23 2011-11-04 Fujifilm Corp 撮像装置
JP5421207B2 (ja) 2010-08-25 2014-02-19 株式会社東芝 固体撮像装置
JP5254291B2 (ja) 2010-09-07 2013-08-07 株式会社東芝 固体撮像装置
JP5127899B2 (ja) 2010-09-14 2013-01-23 株式会社東芝 固体撮像装置
JP5331838B2 (ja) 2011-02-25 2013-10-30 株式会社東芝 固体撮像装置および携帯情報端末
JP5214754B2 (ja) 2011-02-25 2013-06-19 株式会社東芝 固体撮像装置および携帯情報端末
JP5351195B2 (ja) 2011-03-08 2013-11-27 株式会社東芝 固体撮像装置および携帯情報端末

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10868957B2 (en) 2018-10-18 2020-12-15 Samsung Electronics Co., Ltd. Apparatus and method for processing image to reconstruct image

Also Published As

Publication number Publication date
JP2013192182A (ja) 2013-09-26
US20130240709A1 (en) 2013-09-19
US8937274B2 (en) 2015-01-20

Similar Documents

Publication Publication Date Title
JP5591851B2 (ja) 固体撮像装置および携帯情報端末
JP6848941B2 (ja) 撮像素子および撮像装置
US8830382B2 (en) Image pickup apparatus and image processing apparatus
JP5214754B2 (ja) 固体撮像装置および携帯情報端末
CN102348051B (zh) 摄像装置
JP5619294B2 (ja) 撮像装置及び合焦用パラメータ値算出方法
US8902349B2 (en) Image pickup apparatus
US20150249782A1 (en) Image processing apparatus, image processing method, program, and image pickup apparatus having the image processing apparatus
JP5629832B2 (ja) 撮像装置及び位相差画素の感度比算出方法
JP2013520855A (ja) 多開口画像データの処理
JP2012215785A (ja) 固体撮像素子及び撮像装置
JP2013520854A (ja) 多開口画像データの処理
JP2014164174A (ja) 固体撮像装置、携帯情報端末、および固体撮像システム
JP2010271670A (ja) 撮像装置
JP5211590B2 (ja) 撮像素子および焦点検出装置
JP2016038414A (ja) 焦点検出装置およびその制御方法、並びに撮像装置
WO2012073727A1 (ja) 撮像装置及びその合焦位置検出方法
JP2015185943A (ja) フィルタアレイ付マイクロレンズおよび固体撮像装置
JP6671130B2 (ja) 撮像素子、撮像装置、焦点検出装置ならびに画像処理装置およびその制御方法
JP7057090B2 (ja) 測距装置および測距方法
JP5907668B2 (ja) 撮像装置及び撮像素子
JP5568150B2 (ja) 固体撮像装置および携帯情報端末
JP2012168339A (ja) 撮像装置
JP2018019348A (ja) 撮像装置、画像処理方法、画像処理システム、及び画像処理プログラム
JP6891470B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140730

R151 Written notification of patent or utility model registration

Ref document number: 5591851

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151