JP5672989B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5672989B2
JP5672989B2 JP2010248398A JP2010248398A JP5672989B2 JP 5672989 B2 JP5672989 B2 JP 5672989B2 JP 2010248398 A JP2010248398 A JP 2010248398A JP 2010248398 A JP2010248398 A JP 2010248398A JP 5672989 B2 JP5672989 B2 JP 5672989B2
Authority
JP
Japan
Prior art keywords
lens
imaging
lens array
viewpoint
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010248398A
Other languages
English (en)
Other versions
JP2012100204A5 (ja
JP2012100204A (ja
Inventor
真一郎 田尻
真一郎 田尻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010248398A priority Critical patent/JP5672989B2/ja
Priority to US13/284,186 priority patent/US8456552B2/en
Priority to CN201110355100.2A priority patent/CN102625034B/zh
Publication of JP2012100204A publication Critical patent/JP2012100204A/ja
Publication of JP2012100204A5 publication Critical patent/JP2012100204A5/ja
Application granted granted Critical
Publication of JP5672989B2 publication Critical patent/JP5672989B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/005Arrays characterized by the distribution or form of lenses arranged along a single direction only, e.g. lenticular sheets
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/0056Arrays characterized by the distribution or form of lenses arranged along two different directions in a plane, e.g. honeycomb arrangement of lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/0062Stacked lens arrays, i.e. refractive surfaces arranged in at least two planes, without structurally separate optical elements in-between
    • G02B3/0068Stacked lens arrays, i.e. refractive surfaces arranged in at least two planes, without structurally separate optical elements in-between arranged in a single integral body or plate, e.g. laminates or hybrid structures with other optical elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/229Image signal generators using stereoscopic image cameras using a single 2D image sensor using lenticular lenses, e.g. arrangements of cylindrical lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses

Description

本発明は、レンズアレイを用いた撮像装置に関する。
従来、様々な撮像装置が提案され、開発されている。また、撮像して得られた撮像データに対し、所定の画像処理を施して出力するようにした撮像装置も提案されている。例えば、特許文献1および非特許文献1には、「Light Field Photography」と呼ばれる手法を用いた撮像装置が提案されている。この撮像装置は、撮像レンズの焦点面にレンズアレイを配置し、更にこのレンズアレイの焦点面にイメージセンサを設けたものである。これにより、レンズアレイ上に結像する被写体の映像を、イメージセンサにおいて、各視点方向の光線に分割しつつ受光し、同時刻に多視点の画像を取得することができる。
国際公開第06/039486号パンフレット
Ren.Ng、他7名,「Light Field Photography with a Hand-Held Plenoptic Camera」,Stanford Tech Report CTSR 2005-02
上記のような撮像装置では、レンズアレイにおける1つのレンズに、イメージセンサ上の複数の画素が割り当てられ(各レンズの縦横の寸法がそれぞれ、画素ピッチの整数倍に等しく)、そのレンズに割り当てられた画素数分の視点画像を取得可能である。また、レンズに割り当てられた画素の縦方向および横方向の数(レンズの縦横の寸法)が互いに等しくなっている。例えば、1つのレンズが3×3の画素に割り当てられており(縦横の寸法がそれぞれ3画素分のピッチに等しく)、縦方向および横方向にそれぞれ3視点の画像(合計9視点分の画像)を取得可能である。このようにして撮影された各視点方向からの画像(以下、視点画像という)を所定のディスプレイを用いて表示することにより、例えば立体映像表示を実現できる。
ところが、複数の視点画像を表示可能なディスプレイでは、一般に、縦方向と横方向の視点数が一致していないものが多い。例えば、横方向では2つ以上の視点数となるが、縦方向では視点数が1つであることが多い。このようなディスプレイでは、上記3×3の視点分の画像の中から適当な視点画像を選択して表示することになる。例えば、ディスプレイにおいて縦方向1視点、横方向3視点の画像(1×3の視点画像)を選択的に表示させる場合には、縦方向3視点のうち2視点分は使用しないこととなる。従って、上記のような撮像装置を用いて撮影された複数の視点画像のうち、一部が無駄となってしまう。
また、各視点画像における解像度は、イメージセンサの解像度(画素数)を視点数(レンズアレイのレンズ数)で割ったものに等しくなるので、即ち、取得される視点画像の視点数と、その解像度とは互いにトレードオフの関係となる。このため、使用しない視点画像があると、各視点画像の解像度を低下させてしまうという問題がある。
本発明はかかる問題点に鑑みてなされたもので、その目的は、解像度の低下を抑制しつつ所望の視点画像を取得可能な撮像装置を提供することにある。
本発明の撮像装置は、撮像レンズと、撮像レンズの結像面に配置されたレンズアレイと、互いに異なる第1および第2の方向に沿って2次元配置された複数の画素を有する撮像素子とを備えたものである。レンズアレイは、それぞれが撮像素子におけるm×n(m,nは互いに異なる1以上の整数)の画素領域に割り当てられて設けられたレンズ部を複数含み、光入射側の面において第1の方向に沿って延在すると共に、第2の方向に沿って画素幅のn倍の幅を有する複数の第1の突条レンズと、光出射側の面において第2の方向に沿って延在すると共に、第1の方向に沿って画素幅のm倍の幅を有する複数の第2の突条レンズとを有するものである。複数のレンズ部はそれぞれ、第1および第2の突条レンズの交差部に対応する領域に形成されている。
本発明の撮像装置では、撮像レンズを通過した被写体からの光線は、レンズアレイによって視点方向毎に分割された後、撮像素子において受光される。レンズアレイが、m×nの画素領域に割り当てられたレンズ部を複数含むことにより、第1の方向ではm個、第2の方向ではn個の視点画像がそれぞれ取得される(計m×n個の視点画像が取得される)。
本発明の撮像装置によれば、撮像レンズと2次元配置された複数の画素を有する撮像素子とを備えると共に、撮像レンズの結像面に、m×nの画素領域に割り当てられたレンズ部を複数含むレンズアレイを備えるようにしたので、必要数の視点画像だけを過不足なく取得可能となる。視点画像では、その視点数と解像度とが互いにトレードオフの関係にあるため、不要な視点画像を減らすことにより、解像度の低下を抑制することができる。即ち、解像度の低下を抑制しつつ所望の視点画像を取得可能となる。
本発明の一実施の形態に係る撮像装置の全体構成を表す図である。 レンズアレイとイメージセンサの斜視構成を表す模式図である。 図2における(A)A方向からみた側面図と、(B)B方向からみた側面図である。 レンズアレイのXY平面構成を表す模式図である。 カラーフィルタの色配列の一例を表す模式図である。 視点方向毎の光線分割について説明するための模式図である。 図1に示した撮像装置により取得される撮像データの模式図である。 図7に示した撮像データから得られる各視点画像データの模式図である。 比較例1に係るレンズおよびイメージセンサの配置構成についての模式図である。 比較例2に係るレンズおよびイメージセンサの配置構成についての模式図である。 カラーフィルタ配列による効果を説明するための模式図である。 変形例1に係るレンズアレイの概略構成を表す模式図である。 変形例2に係るレンズアレイおよびイメージセンサの斜視構成を表す模式図である。 図13における(A)A方向からみた側面図と、(B)B方向からみた側面図である。 変形例3に係るカラーフィルタの色配列を表す模式図である。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。

1.実施の形態(レンズ割り当て画素を1×3とし、レンズアレイの光入射面および光出射面に突条レンズを有する例)
2.変形例1(レンズアレイをトロイダルレンズとした例)
3.変形例2(レンズアレイをイメージセンサに直に形成した例)
4.変形例3(レンズ割り当て画素1×2の場合のカラーフィルタ例)
<実施の形態>
[全体構成]
図1は、本発明の一実施の形態に係る撮像装置(撮像装置1)の全体構成を表すものである。撮像装置1は、被写体2を撮像して、所定の画像処理を施すことにより、画像データDoutを出力するものである。この撮像装置1は、撮像レンズ11と、レンズアレイ12と、イメージセンサ13と、画像処理部14と、イメージセンサ駆動部15と、制御部16とを備える。尚、以下では、光軸をZとし、光軸Zに直交する面内において、水平方向(横方向)をX、垂直方向(縦方向)をYとする。
撮像レンズ11は、被写体2を撮像するためのメインレンズであり、例えば、ビデオカメラやスチルカメラ等で使用される一般的な撮像レンズにより構成されている。この撮像レンズ11の光入射側(または光出射側)には、開口絞り10が配設されている。
(レンズアレイ12の構成)
レンズアレイ12は、撮像レンズ11の焦点面(結像面)に配置され、例えばガラスなどの基板上に複数のレンズ部(後述のレンズ部12L)を有するものである。これらの複数のレンズ部はそれぞれ、イメージセンサ13における所定の画素領域、具体的にはm×nの画素領域に割り当てられて配置されている。m,nは互いに異なる1以上の整数であり、以下では、縦方向Yに沿ってm=1個、横方向Xに沿ってn=3個の画素が配列してなる画素領域に対応してレンズ部が設けられているものとして説明する。このレンズアレイ12の焦点面には、イメージセンサ13が配設されている。
図2は、レンズアレイ12の斜視構成について、イメージセンサ13と共に示したものである。レンズアレイ12は、光入射側(撮像レンズ11側)の面と、光出射側(イメージセンサ13側)の面とにそれぞれ、互いに直交して設けられると共に焦点距離の異なる突条レンズ12A,12Bを複数有している。図3(A)は、図2におけるAの方向からみたレンズアレイ12およびイメージセンサ13の側面図、図3(B)は、図2におけるBの方向からみたレンズアレイ12およびイメージセンサ13の側面図である。尚、図3(A)では突条レンズ12B、図3(B)では突条レンズ12Aの図示をそれぞれ省略している。
このように、突条レンズ12Aは、例えば、縦方向Yに沿って延在すると共に、横方向Xに沿って3画素(3p)分の幅を有している。突条レンズ12Bは、例えば、横方向Xに沿って延在すると共に、縦方向Yに沿って1画素(1p)分の幅を有している。本実施の形態では、レンズアレイ12のXY面内における突条レンズ12Aと突条レンズ12Bとの交差部に対応する領域が、上記m×n(1×3)の画素領域に割り当てられたレンズ部12Lに相当する(図4)。このように、レンズ部12Lは、XY平面において縦横比(縦:横=1:3)の異なる矩形状となる。
上記のような突条レンズ12A,12Bは、フォトレジスト等の樹脂材料よりなり、ガラスやプラスチック等よりなる基板の両面に、例えばレジストリフロー法やナノインプリント法を用いて、形成することができる。この他にも、金型を用いた成形法によっても形成可能である。
これらの突条レンズ12A,12Bは、レンズアレイ12の互いに異なる面に配置され、かつ焦点距離も異なるため、これらのことを考慮してレンズアレイ12の位置(イメージセンサ13に対する相対的位置)およびレンズアレイ12の厚み(基板の厚み)が設定されている。詳細には、撮像レンズ11のFナンバーをF、画素幅(画素ピッチ)をp、突条レンズ12Aの焦点距離をf1、突条レンズ12Bの焦点距離をf2としたとき、焦点距離f1,f2はそれぞれ以下の式(2),(3)ように表され、これより式(1)が導かれる。
f1=F×n×p ………(2)
f2=F×m×p ………(3)
f1=(n/m)×f2 ………(1)
従って、式(1)を満足するように、レンズアレイ12の位置および厚みが設定されていればよい。ここでは、m×n=1×3なので、焦点距離f1を焦点距離f2の3倍となるように位置および厚みが設定されている。
イメージセンサ13は、レンズアレイ12からの光線を受光して撮像データD0を取得するものである。このイメージセンサ13は、複数の画素がマトリクス状に(縦方向Yおよび横方向Xに沿って)2次元配列したものである。各画素は、CCD(Charge Coupled Device:電荷結合素子)またはCMOS(Complementary Metal-Oxide Semiconductor)などの固体撮像素子により構成されている。イメージセンサ13では、レンズアレイ12におけるマイクロレンズの2次元座標に対応する画素領域に、被写体2の像が開口絞り10の開口形状(例えば円形状)に相似形の像として結像するようになっている。
上記複数の画素のうち、m×nの配列よりなる画素領域に、上記レンズアレイ12における1つのレンズ部12L(突条レンズ12A,12Bの交差部)が割り当てられている。このm×nの値が大きくなるに従って、即ち1つのマイクロレンズに割り当てられる画素(以下、レンズ割り当て画素という)の数が多くなるに従って、例えば後述する視点画像における視点数が多くなる。一方、レンズ割り当て画素数が少なくなる(m×nの値が小さくなる)に従って、各視点画像における画素数(解像度)が高くなる。このように、視点画像における視点数と解像度とはトレードオフの関係となっている。
このイメージセンサ13の受光面上には、カラーフィルタが設けられている。図5(A),(B)に、そのカラーフィルタにおける色配列の一例を模式的に示す。カラーフィルタとしては、例えば、赤(R:Red)、緑(G:Green)および青(B:Blue)の各色のフィルタが例えば1:2:1の比率で配列(ベイヤー配列)してなるものが挙げられる。具体的には、図5(A)に示したように、1×3の画素領域毎に、R,G,Bのいずれかを配置する(画素領域内は全て同一色)か、あるいは、図5(B)に示したように、同一色が隣り合わないように各色を配置してもよい。どちらの場合であっても、視点毎に画像合成した後には、ベイヤー配列となるが、図5(B)のように同一色の画素が隣り合わない配列とすれば、異なる視点方向からの光線同士のクロストークが抑制される。
画像処理部14は、イメージセンサ13で得られた撮像データD0に対して、所定の画像処理を施し、例えば視点画像としての画像データDoutを出力するものである。この画像処理部14の具体的な画像処理動作については後述する。
イメージセンサ駆動部15は、イメージセンサ13を駆動してその露光や読み出しの制御を行うものである。
制御部16は、画像処理部14およびイメージセンサ駆動部15の動作を制御するものであり、例えばマイクロコンピュータなどにより構成されている。
[作用、効果]
(撮像データの取得)
撮像装置1では、撮像レンズ11およびイメージセンサ13間の所定の位置にレンズアレイ12が設けられていることにより、イメージセンサ13において、被写体2からの光線は、その強度分布に加え進行方向(視点方向)についての情報が保持された光線ベクトルとして記録される。即ち、レンズアレイ12を通過する光線は、視点方向毎に分割され、イメージセンサ13の異なる画素において受光される。例えば、図6に示したように、3画素分の幅を有する突条レンズ12Aの通過光線のうち、ある視点方向(第1視点)からの光線(光束)L1は画素「1」、それとは異なる視点方向(第2,3視点)からの光線L2,L3は、画素「2」「3」において、それぞれ受光される。尚、図6では、便宜上、画素に番号を付している。イメージセンサ13では、イメージセンサ駆動部15による駆動動作に応じて、例えばライン順次に読み出しが行われ、撮像データD0が取得される。図7に、撮像データD0のデータ配列について模式的に示す。このように、3つの視点方向からの光線L1〜L3はそれぞれ、1×3の矩形状の画素領域(単位領域)Uにおける所定の位置にある画素で受光される。
他方、イメージセンサ13の受光面側には、図5(A),(B)に示したようなカラーフィルタが配置されているため、撮像データD0は、このカラーフィルタの色配列に対応したカラーデータとして記録される。上記のようにして得られた撮像データD0は、画像処理部14へ出力される。
(画像処理動作)
画像処理部14は、撮像データD0に基づいて、例えば3つの視点画像を生成する。具体的には、撮像データD0における単位領域Uごとに、互いに同一の位置にある画素(ここでは、図7中の「1」,「2」,「3」の各位置にある画素)における画素データをそれぞれ抽出し、抽出した画素データ同士を合成する。即ち、「1」の位置にある画素データ同士の合成により第1視点の視点画像D1(図8(A))を、「2」の位置の画素データ同士の合成により第2視点の視点画像D2(図8(B))を、「3」の位置の画素データ同士の合成により第3視点の視点画像D3(図8(C))をそれぞれ生成する。この後、これら3枚の各視点画像に対して、例えばデモザイク処理等のカラー補間処理を施すことにより、カラーの視点画像が画像データDoutとして出力される。尚、画像処理部14は、例えば欠陥検出部、クランプ処理部、欠陥補正処理部、カラー補間処理部、ノイズ低減処理部、輪郭強調処理部、ホワイトバランス調整処理部およびガンマ補正処理部等(いずれも図示せず)を備えていてもよい。
ここで、図9,10に本実施の形態の比較例(比較例1,2)に係るレンズ形状について模式的に示す。比較例1では、図9(A)〜(C)に示したように、例えば3×3の画素領域に対して1つのレンズ102が割り当てられている。尚、図9(A)は、レンズ102のXY平面形状、図9(B)は、縦方向におけるレンズ102およびイメージセンサ103の配置構成、図9(C)は、横方向におけるレンズ102およびイメージセンサ103の配置構成をそれぞれ表すものである。即ち、比較例1では、縦横の寸法が同一のレンズを用いて、視点方向毎の光線分割を行っている。このような構成によれば、縦方向に3視点、横方向に3視点を有する計3×3=9つの視点画像を取得可能である。
ところが、一般に複数の視点画像を表示するディスプレイでは、縦方向と横方向とにおける視点数が異なることが多く、例えば縦方向では1視点、横方向に2視点以上の視点画像を表示することが多い。このため、比較例1では、取得した9つの視点画像のうちの選択的な視点画像(例えば1×3の視点画像)のみが使用されて、残りの視点画像(例えば6つ分の視点画像)については、使用されないことになる。ここで、上述のように、視点画像における視点数(この場合9つ)と、解像度についてはトレードオフの関係にあるから、視点数が増えるほど、解像度が低下してしまう。従って、不要な視点画像はできるだけ少ないことが望ましい。
そこで、図10(A)〜(C)に示したように、縦方向の視点数を減らすために、レンズ104としてシリンドリカルレンズを用いることも考えられる。図10(A)は、レンズ104のXY平面形状、図10(B)は、縦方向におけるレンズ104およびイメージセンサ103の配置構成、図10(C)は、横方向におけるレンズ104およびイメージセンサ103の配置構成をそれぞれ表すものである。この場合、横方向については、上記比較例1と同様3つの視点方向に分割されるが、縦方向については、屈折しない(あるいは屈折作用が弱い)ために、受光面上においてデフォーカスしたような画像となってしまう。
これに対し、本実施の形態では、レンズアレイ12が、その光入射面に突条レンズ12A、光出射面に突条レンズ12Bを有し、これらのうち突条レンズ12Aが縦方向Yに延在すると共に横方向Xにおいては画素幅のn倍(ここでは3倍)の幅を有する(横方向Xにおいて、焦点距離f1のレンズ機能を発揮する)。一方、突条レンズ12Bが横方向Xに延在すると共に縦方向Yにおいては画素幅のm倍(ここでは1倍)の幅を有する(縦方向Yにおいて、焦点距離f2のレンズ機能を発揮する)。また、上述の所定の条件式(1)を満足するようにレンズアレイ12の位置および厚みが設定されている。これにより、レンズアレイ12を通過する光線は、横方向Xでは、突条レンズ12Aの作用により、3視点に分割されてイメージセンサ13の3つの画素においてそれぞれ受光される。一方、縦方向Yでは、突条レンズ12Bの作用により、1視点方向からの光線として1画素で受光される。即ち、レンズアレイ12における各レンズ部12L(突条レンズ12A,12Bの交差部)を通過した光線は、1×3の画素領域でそれぞれ受光される。そして、図7および図8に示したように、取得された撮像データD0に基づき、縦1視点、横3視点の視点画像を過不足なく生成することができる。
以上のように、本実施の形態では、撮像レンズ11とイメージセンサ13との間にレンズアレイ12を配置したので、被写体2からの光線を、視点方向毎に分割しつつ受光することができる。ここで、レンズアレイ12では、各レンズ部12Lがm×nの画素領域に割り当てられている(突条レンズ12Aがn画素分、突条レンズ12Bがm画素分の幅をそれぞれ有する)。これにより、レンズアレイ12の通過光線は、イメージセンサ13のm×nの画素領域において受光される。即ち、本実施の形態では、ディスプレイ等で必要とされる視点数が、例えば縦1視点、横3視点等、縦横で異なる場合であっても、過不足なく視点画像を取得することができ、不要な視点画像による解像度の低下を防ぐことができる。よって、解像度の低下を抑制しつつ所望の視点画像を取得可能となる。
また、イメージセンサ13の受光面上に、図5(B)に示したような隣接画素間で互いに色が異なるように配列したカラーフィルタを設けることにより、次のような効果がある。即ち、図11に示したように、設計波長光Saにおいては所望の領域に集光するが、レンズは色収差を有するために、設計波長以外の光Sbでは、十分に集光せず広がってしまうことがある。図5(B)に示したような色配列とすることにより、このような設計波長外の光Sbが生じた場合であっても、隣接画素への光線漏れを抑制(異なる視点画像間での色のクロストークを抑制)することができる。
以下、上記実施の形態の変形例(変形例1〜3)について説明する。以下では、上記実施の形態と同様の構成要素については同一の符号を付し、適宜説明を省略する。
<変形例1>
図12は、変形例1に係るレンズアレイ(レンズアレイ17)の概略構成を表す模式図である。レンズアレイ17は、上記実施の形態におけるレンズアレイ12と異なり、光入射面(または光出射面)側にのみ、複数のレンズ部としてのトロイダルレンズ12L1が設けられている。各トロイダルレンズ12L1は、横方向に画素幅pのn倍(ここでは3倍)、縦方向Yに画素幅pのm倍(ここでは1倍)の寸法を有している。また、横方向Xにおいては焦点距離f1、縦方向Yでは焦点距離f2の互いに異なる屈折力を発揮するようになっている。レンズアレイ17は、このようなトロイダルレンズ12L1をアレイ状に配列させたものである。
このように、レンズアレイ17としては、屈折力分布を有するトロイダルレンズを用いてもよく、その場合であっても、上記実施の形態と同等の効果を得ることができる。
<変形例2>
図13は、変形例2に係るレンズアレイ12とイメージセンサ13との配置関係について表すものである。図14(A)は、図13におけるAの方向からみたレンズアレイ12およびイメージセンサ13の側面図、図14(B)は、図13におけるBの方向からみたレンズアレイ12およびイメージセンサ13の側面図である。尚、図14(A)では突条レンズ12B、図14(B)では突条レンズ12Aの図示をそれぞれ省略している。本変形例では、イメージセンサ13の受光面側にレンズアレイ12が一体的に形成されている。具体的には、本変形例では、レンズアレイ12が、樹脂層18を介してイメージセンサ13上に積層されている。このような積層構造は、例えば次のようにして作製することができる。即ち、まず、イメージセンサ13上に樹脂層18を成膜した後、突条レンズ12Bを上述の手法を用いて形成する。一方、ガラス等の基板上に突条レンズ12Aを上述の手法により形成する。そして、この突条レンズ12Aが形成されたガラス基板を、突条レンズ12B上にアライメントして貼り合わせることにより上記積層構造を作製する。あるいは、次のようにして作製することもできる。即ち、イメージセンサ13の受光側には、一般に画素毎にオンチップレンズが形成されるため、このオンチップレンズの製造プロセスを応用して、イメージセンサ13上に直接、突条レンズ12A,12Bを形成するようにしてもよい。
このように、レンズアレイ12とイメージセンサ13とは一体的に設けられていてもよく、この場合であっても上記実施の形態と同等の効果を得ることができる。但し、本変形例では、両者が一体化されているため、経時劣化等による位置ずれが起こりにくく、上記実施の形態よりもレンズアレイ12のイメージセンサ13に対する位置精度を高めることができる。尚、上記変形例1のようなトロイダルレンズを複数配列させてなるレンズアレイ17についても、本変形例2を適用することができる。即ち、レンズアレイ17をイメージセンサ13の受光面上に一体的に設けるようにしてもよい。
<変形例3>
図15(A),(B)は、変形例3に係るカラーフィルタにおける色配列の一例を模式的に表すものである。上記実施の形態では、1×3の画素領域に対応するカラーフィルタの例を挙げたが、ここでは、1×2の画素領域に対応するカラーフィルタの一例を挙げる。即ち、縦1視点、横2視点の視点画像を取得する場合のベイヤー配列は、例えば図15(B)に示したような、1×2の画素領域毎に、R,G,Bのいずれかを配置する(画素領域内は全て同一色)か、あるいは、図15(A)に示したように、同一色が隣り合わないように各色を配置してもよい。どちらの場合であっても、視点毎に画像合成した後には、ベイヤー配列となるが、図15(A)のように同一色の画素が隣り合わない配列とすれば、異なる視点方向からの光線同士のクロストークを抑制することができる。
以上、実施の形態および変形例を挙げて本発明を説明したが、本発明は上記実施の形態に限定されるものではなく、種々の変形が可能である。例えば、上記実施の形態では、レンズ割り当て画素(画素領域)m×n=1×3(または1×2)である場合を例に挙げて説明したが、各レンズに割り当てられる画素領域は、これに限定されず、例えばmが1でnが4以上であってもよいし、mが2でnが3以上であってもよい。また、このように縦方向よりも横方向において視点数が多い場合に限らず、横方向よりも縦方向において視点数が多くなるように設定してもよい。
また、上記実施の形態等では、撮像装置が視点画像を生成する画像処理部を備えている場合について説明したが、この画像処理部については必ずしも内部に備えている必要はない。加えて、視点画像生成処理についても上述のものに限定されず、他の画像処理手法により視点画像を生成してもよい。
1…撮像装置、11…撮像レンズ、12,17…レンズアレイ、12A,12B…突条レンズ、12L…レンズ部、12L1…トロイダルレンズ、13…イメージセンサ、14…画像処理部、15…イメージセンサ駆動部、16…制御部、18…樹脂層、2…撮像対象物、D0…撮像データ、D1,D2,D3…視点画像データ、Dout…画像データ。

Claims (6)

  1. 撮像レンズと、
    前記撮像レンズの結像面に配置されたレンズアレイと、
    互いに異なる第1および第2の方向に沿って2次元配置された複数の画素を有する撮像素子とを備え、
    前記レンズアレイは、それぞれが前記撮像素子におけるm×n(m,nは互いに異なる1以上の整数)の画素領域に割り当てられて設けられたレンズ部を複数含み、
    光入射側の面において前記第1の方向に沿って延在すると共に、前記第2の方向に沿って画素幅のn倍の幅を有する複数の第1の突条レンズと、
    光出射側の面において前記第2の方向に沿って延在すると共に、前記第1の方向に沿って画素幅のm倍の幅を有する複数の第2の突条レンズとを有し、
    前記複数のレンズ部はそれぞれ、前記第1および第2の突条レンズの交差部に対応する領域に形成されている
    撮像装置。
  2. 前記レンズアレイにおいて、前記第1および第2の突条レンズの各焦点面が、前記撮像素子の受光面上に一致するように配置されている
    請求項に記載の撮像装置。
  3. 前記第1の突条レンズの焦点距離をf1、前記第2の突条レンズの焦点距離をf2としたとき、前記レンズアレイの厚みおよび位置は、以下の式(1)を満足するように設定されている
    請求項に記載の撮像装置。
    f1=(n/m)×f2 ………(1)
  4. 前記複数のレンズ部はそれぞれトロイダルレンズである
    請求項1に記載の撮像装置。
  5. 前記レンズアレイは、前記撮像素子と一体的に設けられている
    請求項1ないし請求項のいずれか1項に記載の撮像装置。
  6. 前記撮像素子の受光面に、複数の画素のうち隣り合う画素同士の間で互いに異なる色が配列してなるカラーフィルタが配置されている
    請求項1ないし請求項のいずれか1項に記載の撮像装置。
JP2010248398A 2010-11-05 2010-11-05 撮像装置 Expired - Fee Related JP5672989B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010248398A JP5672989B2 (ja) 2010-11-05 2010-11-05 撮像装置
US13/284,186 US8456552B2 (en) 2010-11-05 2011-10-28 Image pick up unit using a lens array including a plurality of lens sections corresponding to m×n pixels of image pickup device
CN201110355100.2A CN102625034B (zh) 2010-11-05 2011-10-28 图像拾取单元

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010248398A JP5672989B2 (ja) 2010-11-05 2010-11-05 撮像装置

Publications (3)

Publication Number Publication Date
JP2012100204A JP2012100204A (ja) 2012-05-24
JP2012100204A5 JP2012100204A5 (ja) 2013-12-05
JP5672989B2 true JP5672989B2 (ja) 2015-02-18

Family

ID=46019302

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010248398A Expired - Fee Related JP5672989B2 (ja) 2010-11-05 2010-11-05 撮像装置

Country Status (3)

Country Link
US (1) US8456552B2 (ja)
JP (1) JP5672989B2 (ja)
CN (1) CN102625034B (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10165929B2 (en) 2009-06-18 2019-01-01 Endochoice, Inc. Compact multi-viewing element endoscope system
JP5810173B2 (ja) * 2011-12-21 2015-11-11 シャープ株式会社 撮像装置および電子情報機器
WO2014112002A1 (ja) * 2013-01-15 2014-07-24 オリンパス株式会社 撮像素子、及び撮像装置
JP5846148B2 (ja) * 2013-03-27 2016-01-20 富士ゼロックス株式会社 レンズアレイ及びレンズアレイ製造方法
CN105472233B (zh) * 2014-09-09 2019-01-18 北京智谷技术服务有限公司 光场采集控制方法和装置、光场采集设备
EP3131292B1 (en) 2015-08-14 2022-06-15 InterDigital CE Patent Holdings Plenoptic camera comprising a shuffled color filter array
JP6589464B2 (ja) * 2015-08-28 2019-10-16 大日本印刷株式会社 撮像モジュール、撮像装置
DE112016004235T5 (de) 2015-09-17 2018-07-19 Semiconductor Components Industries, Llc Pixel mit hohem Dynamikbereich unter Verwendung von Lichttrennung
JP6686349B2 (ja) * 2015-09-29 2020-04-22 大日本印刷株式会社 撮像モジュール、撮像装置
JP6686348B2 (ja) * 2015-09-29 2020-04-22 大日本印刷株式会社 撮像モジュール、撮像装置
EP3937246A3 (en) * 2015-09-29 2022-04-20 Dai Nippon Printing Co., Ltd. Lens sheet, lens sheet unit, imaging module, imaging device
JP6627526B2 (ja) * 2016-01-19 2020-01-08 大日本印刷株式会社 撮像モジュール、撮像装置
JP6693086B2 (ja) * 2015-10-30 2020-05-13 大日本印刷株式会社 撮像モジュール、撮像装置
JP6724371B2 (ja) * 2016-01-12 2020-07-15 大日本印刷株式会社 撮像モジュール、撮像装置
JP6750230B2 (ja) * 2016-01-19 2020-09-02 大日本印刷株式会社 撮像モジュール、撮像装置
JP6910105B2 (ja) * 2016-01-25 2021-07-28 大日本印刷株式会社 レンズシート、撮像モジュール、及び撮像装置
JP6746941B2 (ja) * 2016-02-19 2020-08-26 大日本印刷株式会社 撮像モジュール、撮像装置
JP6878817B2 (ja) * 2016-10-07 2021-06-02 大日本印刷株式会社 撮像モジュール、撮像装置
CN107135340A (zh) 2017-04-28 2017-09-05 广东欧珀移动通信有限公司 图像传感器、对焦控制方法、成像装置和移动终端
CN107105141B (zh) 2017-04-28 2019-06-28 Oppo广东移动通信有限公司 图像传感器、图像处理方法、成像装置和移动终端
US10593712B2 (en) * 2017-08-23 2020-03-17 Semiconductor Components Industries, Llc Image sensors with high dynamic range and infrared imaging toroidal pixels
KR20210081767A (ko) 2019-12-24 2021-07-02 삼성전자주식회사 이미지 장치 및 이미지 센싱 방법

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US6396873B1 (en) * 1999-02-25 2002-05-28 Envision Advanced Medical Systems Optical device
JP2004226873A (ja) * 2003-01-27 2004-08-12 Sanyo Electric Co Ltd カメラモジュール及びその製造方法
JP5012019B2 (ja) * 2004-06-30 2012-08-29 凸版印刷株式会社 撮像素子
WO2006039486A2 (en) 2004-10-01 2006-04-13 The Board Of Trustees Of The Leland Stanford Junior University Imaging arrangements and methods therefor
US7522341B2 (en) * 2005-07-12 2009-04-21 Micron Technology, Inc. Sharing of microlenses among pixels in image sensors
US8248515B2 (en) * 2006-02-07 2012-08-21 The Board Of Trustees Of The Leland Stanford Junior University Variable imaging arrangements and methods therefor
JP2008015395A (ja) * 2006-07-10 2008-01-24 Matsushita Electric Ind Co Ltd 立体画像表示装置
JP4967873B2 (ja) * 2007-07-13 2012-07-04 ソニー株式会社 撮像装置
JP4905326B2 (ja) * 2007-11-12 2012-03-28 ソニー株式会社 撮像装置
EP2238496B1 (de) * 2007-12-21 2017-01-25 OSRAM Opto Semiconductors GmbH Optoelektronische vorrichtung und bildaufnahmegerät
JP2009290268A (ja) * 2008-05-27 2009-12-10 Sony Corp 撮像装置
JP2010252277A (ja) * 2009-04-20 2010-11-04 Panasonic Corp 固体撮像装置及び電子カメラ

Also Published As

Publication number Publication date
US8456552B2 (en) 2013-06-04
US20120113302A1 (en) 2012-05-10
CN102625034B (zh) 2016-09-28
CN102625034A (zh) 2012-08-01
JP2012100204A (ja) 2012-05-24

Similar Documents

Publication Publication Date Title
JP5672989B2 (ja) 撮像装置
JP5515396B2 (ja) 撮像装置
JP5716465B2 (ja) 撮像装置
JP5472584B2 (ja) 撮像装置
JP4967873B2 (ja) 撮像装置
JP4483951B2 (ja) 撮像装置
US8325241B2 (en) Image pickup apparatus that stores adjacent and contiguous pixel data before integration of same
JP4941332B2 (ja) 撮像装置
JP5879549B2 (ja) ライトフィールド撮像装置、および画像処理装置
JP5699609B2 (ja) 画像処理装置および画像処理方法
US8514319B2 (en) Solid-state image pickup element and image pickup apparatus
JP5591851B2 (ja) 固体撮像装置および携帯情報端末
JP2012100204A5 (ja)
JP2014164174A (ja) 固体撮像装置、携帯情報端末、および固体撮像システム
JP2012191351A (ja) 撮像装置および画像処理方法
US8860855B2 (en) Solid-state image sensor with dispersing element that disperses light according to color component, image capture device and signal processing method
JP2013175812A (ja) 撮像素子および撮像装置
JP5874334B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび撮像装置の制御プログラム
WO2017170392A1 (ja) 光学装置
JP5907668B2 (ja) 撮像装置及び撮像素子
JP6106415B2 (ja) 撮影装置および表示装置
JP6476630B2 (ja) 撮像装置
JP6748529B2 (ja) 撮像素子及び撮像装置
JP2013162362A (ja) 撮像装置および撮像プログラム
JP2013150055A (ja) 画像処理装置、画像処理方法、及び、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131022

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131022

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141215

R151 Written notification of patent or utility model registration

Ref document number: 5672989

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees