JP6713549B2 - 撮像装置及び撮像モジュール - Google Patents
撮像装置及び撮像モジュール Download PDFInfo
- Publication number
- JP6713549B2 JP6713549B2 JP2018558891A JP2018558891A JP6713549B2 JP 6713549 B2 JP6713549 B2 JP 6713549B2 JP 2018558891 A JP2018558891 A JP 2018558891A JP 2018558891 A JP2018558891 A JP 2018558891A JP 6713549 B2 JP6713549 B2 JP 6713549B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- projection
- light
- pattern
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 68
- 238000012545 processing Methods 0.000 claims description 83
- 238000003860 storage Methods 0.000 claims description 27
- 230000015572 biosynthetic process Effects 0.000 claims description 12
- 238000003786 synthesis reaction Methods 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 9
- 230000005540 biological transmission Effects 0.000 claims description 3
- 230000002194 synthesizing effect Effects 0.000 claims 2
- 238000010586 diagram Methods 0.000 description 50
- 238000000034 method Methods 0.000 description 13
- 238000009826 distribution Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 230000007423 decrease Effects 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/957—Light-field or plenoptic cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B3/00—Simple or compound lenses
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B3/00—Simple or compound lenses
- G02B3/02—Simple or compound lenses with non-spherical faces
- G02B3/08—Simple or compound lenses with non-spherical faces with discontinuous faces, e.g. Fresnel lens
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B11/00—Filters or other obturators specially adapted for photographic purposes
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/955—Computational photography systems, e.g. light-field imaging systems for lensless imaging
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Blocking Light For Cameras (AREA)
Description
まず、非特許文献1のようなモアレ縞を用いた画像復元の原理及び課題を説明する。
図23は、被写体(点光源)が無限遠方に存在する場合にイメージセンサ(撮像素子)上に形成されるフレネルゾーンプレートの投影像を示す図である。図23の(b1)部分に示すように、被写体(点光源P0)が正面に近い方向に存在する場合、フレネルゾーンプレートF0によりイメージセンサims上に形成される投影像と、フレネルゾーンプレートF0に対応する投影パターンとを重ね合わせると、図23の(a1)部分に示すように間隔の広いモアレ縞が生じる。このモアレ縞が生じたパターンを2次元フーリエ変換することで、元の点光源P0の像を復元することができる。そして、図23の(b1)部分の状態から(b2)部分に示すように点光源P0が斜め方向に移動すると、(a2)部分に示すようにモアレ縞の間隔が狭くなり本数が増える。(b3)部分に示すように点光源P0がさらに斜め方向に移動すると、(a3)部分に示すようにモアレ縞はさらに間隔が狭くなり本数が増える。
図1は第1の実施形態に係る撮像装置10(撮像装置)の構成を示すブロック図である。撮像装置10は、撮像モジュール100(撮像モジュール)と撮像装置本体200とを備える。
撮像モジュール100は、フレネルゾーンプレート110(パターンマスク)と撮像素子120(指向性センサ)とを備え、フレネルゾーンプレート110の投影像を取得する。フレネルゾーンプレート110は、中心が撮像素子120の中心と一致し、かつ撮像素子120の受光面と平行な状態で撮像素子120の受光面側に配置される。なお、以下の説明においてフレネルゾーンプレート110を“FZP”(Fresnel Zone Plate)と記載することがある。
図2は、FZPの構成を示す図である。図2に示すように、FZPはパターンマスク部112と遮光部114とを有する。パターンマスク部112には入射する光を透過させる透過領域と入射する光を遮光する遮光領域とが交互に同心円状に配置され、これら透過領域及び遮光領域がフレネルゾーンプレートを構成する。同心円の間隔は、パターンマスク部112の中心から周辺に向かうにつれて狭くなる。パターンマスク部112の周辺部分には遮光部114が設けられ、撮像素子120の周辺部分に不要な光が入射しないようになっている。光軸L(図1参照)は、FZP及び撮像素子120の中心を通りFZP及び撮像素子120の受光面と垂直な軸である。FZPは撮像素子120に近接(例えば、1mm程度)して配置されるが、撮像素子120との距離によっては光の回折によりFZPの投影像がぼけるので、離しすぎないことが好ましい。
図3は撮像素子120(指向性センサ)の構成を示す図である。撮像素子120は2次元方向に(二次元状に)に配列された光電変換素子により構成される複数の画素を有するイメージセンサ124と、イメージセンサ124の入射面側に配設されたマイクロレンズアレイMA1とを有する。マイクロレンズアレイMA1を構成する1つのマイクロレンズML1が9画素(図4参照)ごとに配設され、マイクロレンズML1により入射する光をこれら9画素に分割して入射させる。
撮像装置本体200は画像処理部210(復元画像生成部、合成処理部、復元処理部、拡大部、拡大率取得部、結合画像生成部)と、記憶部220(記憶部)と、表示部230(表示部)と、指示入力部240(指示入力部)とを備え(図1参照)、撮像モジュール100が取得した投影像に基づく被写体の画像復元、復元した画像の結合等を行う。
次に、上述した構成の撮像装置10による復元画像生成処理の概要について説明する。図6は投影像取得の様子を示す図である。なお、以下では図6の紙面内における方位A,B,C(点光源P3A,P3B,P3Cがそれぞれ存在する方向)を中心とする3つの方位領域について説明するが、上述のように紙面と直交する3つの方位領域についても投影像を取得するので、投影像を取得する方位領域は計9つとなる。
画像ImA,ImB,ImCが復元されたら、結合画像生成部210Fは図8に示すようにそれら画像を結合して1枚の画像CImを生成する。なお、第1の実施形態では9つの方位領域について合計9つの復元画像を生成するが、それら復元画像の全てを結合してもよいし、一部の復元画像のみを結合してもよい。また、方位領域の組合せが異なる復元画像を結合した画像を複数生成してもよい。復元画像の全てを結合する場合は全方位領域についての1枚の画像が得られる。一部の復元画像を結合する場合は、所望の方位領域についての画像が得られる。
次に、上述した復元画像生成の各処理について説明する。
上述した画像の復元において、合成処理部210Bは、斜め方向の方位領域(方位A,Cに対応)についてはそれら方位領域の方向に応じてシフトさせた投影パターンPPA,PPCを投影像と重ね合わせ、撮影範囲の中心領域を含む方位領域(方位Bに対応)については、シフトさせない投影パターンPPB(FZPに対応する投影パターン)を投影像と重ね合わせる。図9は投影パターンのシフトを示す概念図であり、FZPに対応する投影パターンPPB(シフトさせない)を8つの方位領域の方向に応じてそれぞれシフトさせる様子を示している。撮像素子120上の投影像は被写体の方向(方位領域の方向)に応じて異なる位置に形成されるので、投影パターンもこれに対応させてシフトすることで、良好な画質の復元画像を得ることができる。
被写体距離が無限遠の場合、被写体からは平行光が入射し投影像はFZPと同じ大きさになるので投影像に重ね合わせる投影パターンを拡大する必要はないが、距離が近くなるほど広がりを持った光が入射して投影像が多くなるので、投影像に重ね合わせる投影パターンも拡大する必要がある。図10は、拡大部210Dによる被写体距離に応じた投影パターンの拡大を示す概念図である。図10では、被写体距離が無限遠の場合はFZPと同じ大きさの投影パターンPP0を用い、被写体距離が近づくにつれて投影パターンを拡大する(距離が中間の場合は投影パターンPP1を用い、距離が至近の場合は投影パターンPP2を用いる)様子を示している。このように、投影パターンを被写体距離に応じて拡大することにより、復元画像の合焦状態を調整することができる。
第1の実施形態に係る撮像装置10では、上述した投影パターンの拡大を行うために、被写体距離に応じてそれぞれ拡大率が異なる複数の投影パターンを記憶部220に記憶する。図11は投影パターン群が記憶される様子を示す概念図である。図11では1つの枠が1つの投影パターンを表し、同一平面上に存在する9つの投影パターンは方位領域に応じてシフトした投影パターン(図9参照)から構成される投影パターン群を示している。第1の実施形態に係る撮像装置10では、このように被写体距離に応じて拡大率が異なる複数の投影パターンを記憶するので、1種類の投影パターンを距離に応じて拡大する場合と比較して処理の負荷を軽減することができる。
上述した構成の撮像装置10(撮像装置、撮像モジュール)による効果を図12〜14を参照しつつ説明する。図12のように正面方向及び斜め方向(方位A〜方位C)から光が入射する状況において、撮像装置10では指向性センサである撮像素子120により入射光を方位領域ごとに分割して投影像を個別に取得するので、図13の(a)部分〜(c)部分に示すように、各方向について観察可能なモアレ縞(図14の(a)部分〜(c)部分にそれぞれ示すように明暗部分で信号強度の差が大きく、縞として認識できる)が生じ、それぞれのモアレ縞から復元画像を生成することができる。すなわち、上述した非特許文献1,2と異なり斜め方向からの入射光が正面方向からの入射光に対するバイアス成分にならず、広い画角で良好な画質の画像を取得することができる。なお、図13の(a)部分、(b)部分、及び(c)部分はそれぞれ方位A,方位B,方位Cから入射する光により形成されるモアレ縞であり、図14の(a)部分、(b)部分、及び(c)部分はそれぞれ図13の(a)部分、(b)部分、及び(c)部分に対応する信号強度分布である。
図15は、本発明の撮像装置及び撮像モジュールにおける指向性センサの他の例を示す図である。図15に示す例では、撮像素子130(指向性センサ)において画素ごとにマイクロレンズML2(マイクロレンズアレイMA2を構成するマイクロレンズ)が配設され、またイメージセンサ134の各画素とマイクロレンズML2との間には方位領域に対応して方向が異なる開口が形成された複数種類の遮光マスク136A1〜136C1が配設されている。なお図15では紙面内の3方位領域に対応する画素を示しているが、紙面と垂直方向にも画素が配設される。図16は遮光マスクの配置例を示す図であり、9つの方位領域にそれぞれ対応する遮光マスク136A1〜136C3が同じ密度(9画素に対し1つずつ)で配置された状態を示している。図16において網掛け部分が遮光マスクを示し、非網掛け部分が開口を示す。なお、正面方向に対応する遮光マスク136B2は他の方向と異なる網掛け状態で表示している。
上述した第1の実施形態ではパターンマスクがフレネルゾーンプレートを構成する場合について説明したが、本発明に係る撮像装置及び撮像モジュールでは、これと異なるパターンマスクを用いてもよい。図19は撮像装置及び撮像モジュールの他の例1を示す図であり、撮像モジュール102(撮像モジュール)と撮像装置本体202とから構成される撮像装置20(撮像装置)を示している。撮像モジュール102は符号化パターンマスク116(パターンマスク)と撮像素子120(指向性センサ)とを備え、符号化パターンマスク116は図20に示すように符号化パターン部116Aとその周辺の遮光部116Bとから構成され、符号化パターン部116Aにおける透過領域及び遮光領域の配置パターンの性質を示す情報は記憶部222に記憶される。このような構成の撮像装置20においても、被写体からの入射光を撮像素子120により複数の方位領域に分割して各方位領域に対応する投影像を取得することができ、画像処理部212が符号化パターン及び投影像の性質に応じた復元処理を行うことにより、レンズを使用せずに、広い画角で、それぞれ異なる複数の方向(方位領域)について良好な画質の復元画像を個別に得ることができる。なお、図19,20において図1と同様の構成には同一の参照符号を付し、詳細な説明を省略する。
図21は撮像装置及び撮像モジュールの他の例2を示す図であり、撮像モジュール104(撮像モジュール)と撮像装置本体204とから構成される撮像装置30(撮像装置)を示している。撮像モジュール104は透過領域としての開口部118A(穴;図22参照)が2次元方向にランダムに配置されたパターンマスク118(パターンマスク)と撮像素子120(指向性センサ)とを備え、図22に示すように、パターンマスク118は複数の開口部118Aとその周辺の遮光部118Bとから構成され、開口部118Aの配置パターン(穴の形状、大きさ、間隔等の性質)を示す情報が記憶部224に記憶される。このような構成の撮像装置30においても、被写体からの入射光を撮像素子120により複数の方位領域に分割して各方位領域に対応する投影像を取得することができ、開口部118Aの配置パターン及び投影像の性質に応じた復元処理(例えば、画像処理部214による最小二乗誤差の探索)を行うことにより、レンズを使用せずに、広い画角で、それぞれ異なる複数の方向(方位領域)について良好な画質の復元画像を個別に得ることができる。なお、例2における最小二乗誤差の探索は、例えば以下の非特許文献3に記載されているように、推定したモデルを画像に投影した結果と観測を比較したときの差異(再投影誤差の残差2乗和)を最小化する非線形最小2乗法、及びこの非線形最小2乗法に対し高速化、安定化を考慮した手法により行うことができる。
なお、図21,22において図1と同様の構成には同一の参照符号を付し、詳細な説明を省略する。
20 撮像装置
30 撮像装置
100 撮像モジュール
102 撮像モジュール
104 撮像モジュール
110 フレネルゾーンプレート
112 パターンマスク部
114 遮光部
116 符号化パターンマスク
116A 符号化パターン部
116B 遮光部
118 パターンマスク
118A 開口部
118B 遮光部
120 撮像素子
124 イメージセンサ
124A1 画素
124A2 画素
124A3 画素
124B1 画素
124B2 画素
124B3 画素
124C1 画素
124C2 画素
124C3 画素
130 撮像素子
134 イメージセンサ
136A1 遮光マスク
136A2 遮光マスク
136A3 遮光マスク
136B1 遮光マスク
136B2 遮光マスク
136B3 遮光マスク
136C1 遮光マスク
136C2 遮光マスク
136C3 遮光マスク
200 撮像装置本体
202 撮像装置本体
204 撮像装置本体
210 画像処理部
210A 画像取得部
210B 合成処理部
210C 復元処理部
210D 拡大部
210E 拡大率取得部
210F 結合画像生成部
212 画像処理部
214 画像処理部
220 記憶部
222 記憶部
224 記憶部
230 表示部
240 指示入力部
A 方位
B 方位
C 方位
CIm 画像
F0 フレネルゾーンプレート
H 水平方向
Ho フード
ImA 画像
ImB 画像
ImC 画像
L 光軸
MA1 マイクロレンズアレイ
MA2 マイクロレンズアレイ
MFA 画像
MFB 画像
MFC 画像
ML1 マイクロレンズ
ML2 マイクロレンズ
P0 点光源
P1 点光源
P2A 点光源
P2B 点光源
P2C 点光源
P3A 点光源
P3B 点光源
P3C 点光源
PIA 投影像
PIB 投影像
PIC 投影像
PP0 投影パターン
PP1 投影パターン
PP2 投影パターン
PPA 投影パターン
PPB 投影パターン
PPC 投影パターン
V 垂直方向
ims イメージセンサ
Claims (21)
- 入射する光を透過させる透過領域と遮光する遮光領域とが配置されたパターンマスクと、
前記パターンマスクが受光面側に近接して配設され、前記パターンマスクを介して被写体からの光による前記パターンマスクの投影像を受光する指向性センサであって、前記被写体から前記パターンマスクに入射する前記光を、それぞれ方向が異なる複数の方位領域ごとに分割し、前記分割した複数の方位領域に対応する複数の前記投影像をそれぞれ取得する指向性センサと、
前記取得した複数の投影像から前記複数の方位領域にそれぞれ対応する前記被写体の複数の画像を復元して生成する復元画像生成部と、
を備える撮像装置。 - 前記配置のパターンは前記透過領域と前記遮光領域とがフレネルゾーンプレートを構成するパターンであり、
前記復元画像生成部は、
前記取得した複数の投影像と前記フレネルゾーンプレートに対応する投影パターンとを画像処理により重ね合わせる合成処理部と、
前記重ね合わされた前記複数の投影像と前記投影パターンとにより形成された複数のモアレ縞をフーリエ変換し、前記被写体の前記複数の画像を復元して生成する復元処理部と、
を備える請求項1に記載の撮像装置。 - 前記合成処理部は、前記複数の投影像と、前記複数の投影像にそれぞれ対応する複数の投影パターンであって、前記フレネルゾーンプレートに対応する投影パターンを、前記複数の方位領域の方向に応じてシフトさせた前記複数の投影パターンとを画像処理により重ね合わせる請求項2に記載の撮像装置。
- 前記複数の方位領域は、前記フレネルゾーンプレートの面と直交する方向を中心とする撮影範囲の中心領域を含み、
前記合成処理部は、前記複数の投影像のうちの前記中心領域の投影像に対しては、前記フレネルゾーンプレートに対応する投影パターンを画像処理により重ね合わせる請求項3に記載の撮像装置。 - 前記複数の投影パターンを記憶する記憶部と、
前記記憶部から前記複数の投影パターンをそれぞれ読み出し、前記被写体の距離に応じて前記複数の投影パターンを拡大する拡大部と、を備え、
前記合成処理部は、前記複数の投影像と前記拡大部により拡大された前記複数の投影パターンとを画像処理により重ね合わせる請求項3または4に記載の撮像装置。 - 前記復元処理部により復元された画像を表示する表示部と、
手動により前記複数の投影パターンの拡大率または被写体距離を指示する指示入力部と、を備え、
前記拡大部は、前記指示入力部からの拡大率または被写体距離の指示入力に基づいて前記記憶部から読み出した前記複数の投影パターンをそれぞれ拡大する請求項5に記載の撮像装置。 - 前記復元処理部により復元された画像の解像度が最大になる前記複数の投影パターンの拡大率を自動的に取得する拡大率取得部を備え、
前記拡大部は、前記拡大率取得部が取得した拡大率に基づいて前記記憶部から読み出し
た前記複数の投影パターンをそれぞれ拡大する請求項5に記載の撮像装置。 - 前記複数の投影パターンであって、被写体距離に応じてそれぞれ拡大率が異なる複数の投影パターンを記憶する記憶部と、
前記復元処理部により復元された画像を表示する表示部と、
手動により前記複数の投影パターンの拡大率または被写体距離を指示する指示入力部と、を備え、
前記合成処理部は、前記指示入力部からの拡大率または被写体距離の指示入力に基づいて前記記憶部から対応する拡大率の前記複数の投影パターンを読み出し、前記複数の投影像と前記読み出した前記複数の投影パターンとを画像処理により重ね合わせる請求項3または4に記載の撮像装置。 - 前記複数の投影パターンであって、被写体距離に応じてそれぞれ拡大率が異なる複数の投影パターンを記憶する記憶部と、
前記復元処理部により復元された画像の解像度が最大になる前記複数の投影パターンの拡大率を自動的に取得する拡大率取得部と、を備え、
前記合成処理部は、前記拡大率取得部が取得した拡大率に基づいて前記記憶部から対応する拡大率の前記複数の投影パターンを読み出し、前記複数の投影像と前記読み出した前記複数の投影パターンとを画像処理により重ね合わせる請求項3または4に記載の撮像装置。 - 前記指向性センサは、
二次元状に配列された光電変換素子により構成される複数の画素を有するイメージセンサと、
前記イメージセンサの入射面側に配設されたマイクロレンズアレイであって、前記複数の方位領域に対応する複数の画素ごとに前記マイクロレンズアレイを構成する1つのマイクロレンズが配設され、各マイクロレンズに入射する光を前記複数の方位領域に対応する複数の画素にそれぞれ分割して入射させる前記マイクロレンズアレイと、
から構成されたセンサである請求項1から9のいずれか1項に記載の撮像装置。 - 前記指向性センサは、
二次元状に配列された光電変換素子により構成される複数の画素を有するイメージセンサと、
前記イメージセンサの画素ごとに配設されたマイクロレンズアレイと、
前記イメージセンサの各画素と前記マイクロレンズアレイの各マイクロレンズとの間にそれぞれ配設された複数種類の遮光マスクであって、前記複数の方位領域に対応する開口が形成された前記複数種類の遮光マスクと、
から構成されたセンサである請求項1から9のいずれか1項に記載の撮像装置。 - 前記複数種類の遮光マスクは、前記イメージセンサの複数の画素に対して同じ密度で配置される請求項11に記載の撮像装置。
- 前記複数種類の遮光マスクは、前記イメージセンサの複数の画素に対して異なる密度で配置される請求項11に記載の撮像装置。
- 前記復元画像生成部により復元された前記複数の画像を結合し、1枚の画像を生成する結合画像生成部を備える請求項1から13のいずれか1項に記載の撮像装置。
- 前記配置のパターンは符号化パターンである請求項1に記載の撮像装置。
- 前記配置のパターンは前記透過領域としての複数の開口が2次元方向にランダムに配置されたパターンである請求項1に記載の撮像装置。
- フレネルゾーンプレートと、
前記フレネルゾーンプレートが受光面側に近接して配設され、前記フレネルゾーンプレートを介して被写体からの光を有する前記フレネルゾーンプレートの投影像を受光する指向性センサであって、前記被写体から前記フレネルゾーンプレートに入射する光を、それぞれ方向が異なる複数の方位領域ごとに分割し、前記分割した複数の方位領域に対応する複数の前記投影像をそれぞれ取得する前記指向性センサと、
を備える撮像モジュール。 - 前記指向性センサは、
二次元状に配列された光電変換素子により構成される複数の画素を有するイメージセンサと、
前記イメージセンサの入射面側に配設されたマイクロレンズアレイであって、前記複数の方位領域に対応する複数の画素ごとに前記マイクロレンズアレイを構成する1つのマイクロレンズが配設され、各マイクロレンズに入射する光を前記複数の方位領域に対応する複数の画素にそれぞれ分割して入射させる前記マイクロレンズアレイと、
から構成されたセンサである請求項17に記載の撮像モジュール。 - 前記指向性センサは、
二次元状に配列された光電変換素子により構成される複数の画素を有するイメージセンサと、
前記イメージセンサの画素ごとに配設されたマイクロレンズアレイと、
前記イメージセンサの各画素と前記マイクロレンズアレイの各マイクロレンズとの間にそれぞれ配設された複数種類の遮光マスクであって、前記複数の方位領域に対応する開口が形成された前記複数種類の遮光マスクと、
から構成されたセンサである請求項17に記載の撮像モジュール。 - 前記複数種類の遮光マスクは、前記イメージセンサの複数の画素に対して同じ密度で配置される請求項19に記載の撮像モジュール。
- 前記複数種類の遮光マスクは、前記イメージセンサの複数の画素に対して異なる密度で配置される請求項19に記載の撮像モジュール。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016253325 | 2016-12-27 | ||
JP2016253325 | 2016-12-27 | ||
PCT/JP2017/041099 WO2018123318A1 (ja) | 2016-12-27 | 2017-11-15 | 撮像装置及び撮像モジュール |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018123318A1 JPWO2018123318A1 (ja) | 2019-10-31 |
JP6713549B2 true JP6713549B2 (ja) | 2020-06-24 |
Family
ID=62707266
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018558891A Active JP6713549B2 (ja) | 2016-12-27 | 2017-11-15 | 撮像装置及び撮像モジュール |
Country Status (5)
Country | Link |
---|---|
US (1) | US11272098B2 (ja) |
JP (1) | JP6713549B2 (ja) |
CN (1) | CN110140348B (ja) |
TW (1) | TWI718352B (ja) |
WO (1) | WO2018123318A1 (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018064660A1 (en) * | 2016-09-30 | 2018-04-05 | University Of Utah Research Foundation | Lensless imaging device |
JP6740173B2 (ja) * | 2017-05-12 | 2020-08-12 | 株式会社日立製作所 | 撮像装置 |
WO2019078336A1 (ja) * | 2017-10-19 | 2019-04-25 | ソニー株式会社 | 撮像装置および信号処理装置 |
JP7230821B2 (ja) * | 2017-10-19 | 2023-03-01 | ソニーグループ株式会社 | 信号処理装置及び撮像装置 |
EP3700195A4 (en) | 2017-10-19 | 2020-12-16 | Sony Corporation | INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD, IMAGING DEVICE AND PROGRAM |
CN111788824B (zh) * | 2018-03-06 | 2022-07-08 | 索尼公司 | 图像处理设备、成像设备以及图像处理方法 |
WO2019176349A1 (ja) * | 2018-03-14 | 2019-09-19 | ソニー株式会社 | 画像処理装置、および撮像装置、並びに画像処理方法 |
WO2019189099A1 (ja) * | 2018-03-26 | 2019-10-03 | ソニー株式会社 | 撮像素子、撮像装置、並びに、情報処理方法 |
JP2020098963A (ja) * | 2018-12-17 | 2020-06-25 | 株式会社日立製作所 | 撮像装置 |
JP7159118B2 (ja) * | 2019-06-25 | 2022-10-24 | 株式会社日立製作所 | 撮像装置 |
CN114208144A (zh) * | 2019-07-31 | 2022-03-18 | 麦克赛尔株式会社 | 摄像装置、便携终端和曝光控制方法 |
WO2021024452A1 (ja) * | 2019-08-08 | 2021-02-11 | マクセル株式会社 | 撮像装置および方法 |
CN112630932B (zh) * | 2019-10-09 | 2023-05-26 | 英属开曼群岛商音飞光电科技股份有限公司 | 摩尔纹成像装置 |
CN112995452B (zh) * | 2019-12-17 | 2022-11-11 | 英属开曼群岛商音飞光电科技股份有限公司 | 摩尔纹影像处理装置 |
US11595575B2 (en) | 2020-05-11 | 2023-02-28 | Samsung Electronics Co., Ltd. | Image sensor |
TWI792621B (zh) * | 2021-10-20 | 2023-02-11 | 財團法人工業技術研究院 | 量測方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0881843A3 (en) * | 1997-05-28 | 2005-04-06 | Nippon Telegraph And Telephone Corporation | Method and apparatus for transmitting or processing images. |
US7151246B2 (en) * | 2001-07-06 | 2006-12-19 | Palantyr Research, Llc | Imaging system and methodology |
US8405890B2 (en) * | 2007-01-29 | 2013-03-26 | Celloptic, Inc. | System, apparatus and method for extracting image cross-sections of an object from received electromagnetic radiation |
JP4994273B2 (ja) * | 2008-03-05 | 2012-08-08 | 株式会社日立ハイテクノロジーズ | プロキシミティ露光装置、プロキシミティ露光装置の基板移動方法、及び表示用パネル基板の製造方法 |
TWI484243B (zh) * | 2010-06-10 | 2015-05-11 | Hon Hai Prec Ind Co Ltd | 鏡頭模組及相機裝置 |
KR101904033B1 (ko) * | 2010-10-27 | 2018-10-04 | 코넬 유니버시티 | 광 필드 이미지 센서, 방법들 및 응용들 |
JP6145789B2 (ja) * | 2011-10-20 | 2017-06-14 | パナソニックIpマネジメント株式会社 | 表示装置および表示システム |
JP5950679B2 (ja) * | 2012-05-07 | 2016-07-13 | キヤノン株式会社 | 焦点検出装置、撮像装置及び焦点検出方法 |
WO2014050699A1 (ja) * | 2012-09-25 | 2014-04-03 | 富士フイルム株式会社 | 画像処理装置及び方法並びに撮像装置 |
AU2013338193A1 (en) | 2012-10-30 | 2015-05-21 | California Institute Of Technology | Fourier ptychographic imaging systems, devices, and methods |
EP3251338A1 (en) * | 2015-01-29 | 2017-12-06 | William Marsh Rice University | Lensless imaging system using an image sensor with one or more attenuating layers |
JP6230161B2 (ja) * | 2015-02-23 | 2017-11-15 | 日本電信電話株式会社 | ライトフィールド取得装置及びライトフィールド取得方法 |
CN113726997A (zh) | 2015-06-17 | 2021-11-30 | 麦克赛尔株式会社 | 摄像装置和图像生成方法 |
JP6721698B2 (ja) * | 2016-09-26 | 2020-07-15 | 株式会社日立製作所 | 撮像装置 |
CN110692233B (zh) * | 2017-06-01 | 2021-04-23 | 富士胶片株式会社 | 摄像装置、图像处理装置、摄像系统、图像处理方法及记录介质 |
-
2017
- 2017-11-15 CN CN201780080878.2A patent/CN110140348B/zh active Active
- 2017-11-15 WO PCT/JP2017/041099 patent/WO2018123318A1/ja active Application Filing
- 2017-11-15 JP JP2018558891A patent/JP6713549B2/ja active Active
- 2017-12-04 TW TW106142366A patent/TWI718352B/zh active
-
2019
- 2019-06-17 US US16/442,551 patent/US11272098B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN110140348B (zh) | 2020-12-25 |
WO2018123318A1 (ja) | 2018-07-05 |
JPWO2018123318A1 (ja) | 2019-10-31 |
TWI718352B (zh) | 2021-02-11 |
US11272098B2 (en) | 2022-03-08 |
US20190313018A1 (en) | 2019-10-10 |
CN110140348A (zh) | 2019-08-16 |
TW201841003A (zh) | 2018-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6713549B2 (ja) | 撮像装置及び撮像モジュール | |
JP6970800B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP5795324B2 (ja) | 光フィールドデータを利用した映像処理装置及び方法 | |
US8390728B2 (en) | Image processing apparatus and method | |
US9383548B2 (en) | Image sensor for depth estimation | |
JP6773903B2 (ja) | 画像処理装置、撮像システム、画像処理方法、及び記録媒体 | |
JP2009165115A (ja) | 撮像装置 | |
KR101563729B1 (ko) | 고해상도 영상을 생성하기 위한 영상 처리 장치 및 방법 | |
Pistellato et al. | Deep demosaicing for polarimetric filter array cameras | |
JP4866147B2 (ja) | 画像シフト検出方法および装置および画像入力装置 | |
US11245878B2 (en) | Quad color filter array image sensor with aperture simulation and phase detection | |
Gill et al. | Thermal escher sensors: pixel-efficient lensless imagers based on tiled optics | |
US20160156867A1 (en) | Image sensor, image capturing apparatus, focus detection apparatus, image processing apparatus, and control method of image capturing apparatus | |
JP6843682B2 (ja) | 撮像素子および撮像装置 | |
CN104137532A (zh) | 图像处理装置 | |
KR20110042936A (ko) | 광 필드 데이터를 이용한 영상 처리 장치 및 방법 | |
EP2716053B1 (en) | Grid modulated single lens 3-d camera | |
Rebiere et al. | Color Pixel Reconstruction for a Monolithic RGB-Z CMOS Imager | |
JP6491539B2 (ja) | 撮像装置及びその制御方法、システムならびにプログラム | |
Dominguez et al. | An Approach to Explain the Human Hyper-acuity: Applied to THz Imaging | |
Lizarraga Cubillos et al. | Cooperative detection applied to THz imaging cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190603 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190603 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200601 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200603 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6713549 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |