JPWO2017170392A1 - 光学装置 - Google Patents
光学装置 Download PDFInfo
- Publication number
- JPWO2017170392A1 JPWO2017170392A1 JP2018507985A JP2018507985A JPWO2017170392A1 JP WO2017170392 A1 JPWO2017170392 A1 JP WO2017170392A1 JP 2018507985 A JP2018507985 A JP 2018507985A JP 2018507985 A JP2018507985 A JP 2018507985A JP WO2017170392 A1 JPWO2017170392 A1 JP WO2017170392A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- optical device
- microlens
- microlenses
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/34—Systems for automatic generation of focusing signals using different areas in a pupil plane
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/64—Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
- G02B27/646—Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
- G03B13/34—Power focusing
- G03B13/36—Autofocus systems
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B5/00—Adjustment of optical system relative to image or object surface other than for focusing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/957—Light-field or plenoptic cameras or camera modules
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B3/00—Simple or compound lenses
- G02B3/0006—Arrays
- G02B3/0037—Arrays characterized by the distribution or form of lenses
- G02B3/0056—Arrays characterized by the distribution or form of lenses arranged along two different directions in a plane, e.g. honeycomb arrangement of lenses
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/36—Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B2205/00—Adjustment of optical system relative to image or object surface other than for focusing
- G03B2205/0007—Movement of one or more optical elements for control of motion blur
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Automatic Focus Adjustment (AREA)
- Focusing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Image Processing (AREA)
- Adjustment Of Camera Lenses (AREA)
Abstract
光学装置は、二次元状に配置された複数のマイクロレンズと、複数の画素を含む画素群を複数有し、前記複数のマイクロレンズの各マイクロレンズを通過した光を各画素群でそれぞれ受光する撮像センサとを備え、前記複数のマイクロレンズの少なくとも一部は、マイクロレンズに形成された開口パターンにより入射光の一部を制限する。
Description
本発明は、光学装置に関する。
ライト・フィールド・フォトグラフィ(Light Field Photography)技術を用いるカメラが知られている(特許文献1参照)。手振れ等による像ブレを抑えるために、上記カメラの撮像レンズにVR(Vibration Reduction)装置を設けると、構造が大きくなってしまうという問題がある。
第1の態様によると、光学装置は、二次元状に配置された複数のマイクロレンズと、複数の画素を含む画素群を複数有し、前記複数のマイクロレンズの各マイクロレンズを通過した光を各画素群でそれぞれ受光する撮像センサとを備え、前記複数のマイクロレンズの少なくとも一部は、マイクロレンズに形成された開口パターンにより入射光の一部を制限する。
第2の態様によると、光学装置は、二次元状に配置された複数のマイクロレンズと、複数の画素を含む画素群を複数有し、前記複数のマイクロレンズの各マイクロレンズを通過した光を各画素群でそれぞれ受光する撮像センサと、所定の開口パターンを有する複数のマスクとを備え、前記複数のマスクのそれぞれは、前記複数のマイクロレンズの少なくとも一部の各マイクロレンズに入射する光の一部をそれぞれ制限する。
第2の態様によると、光学装置は、二次元状に配置された複数のマイクロレンズと、複数の画素を含む画素群を複数有し、前記複数のマイクロレンズの各マイクロレンズを通過した光を各画素群でそれぞれ受光する撮像センサと、所定の開口パターンを有する複数のマスクとを備え、前記複数のマスクのそれぞれは、前記複数のマイクロレンズの少なくとも一部の各マイクロレンズに入射する光の一部をそれぞれ制限する。
光学装置の一例であるカメラは、ライト・フィールド・フォトグラフィ(Light Field Photography)技術を用いて、3次元空間における光の情報を取得するように構成される。そして、手ぶれ等に起因する像ブレをVR(Vibration Reduction)演算によって補正する。
(第1の実施形態)
<撮像装置の概要>
図1は、第1の実施形態によるカメラ100の要部構成を説明する図である。図1に示した座標軸において、不図示の被写体からの光はZ軸マイナス方向へ向かう。また、上向きかつZ軸に直交する向きをY軸プラス方向とし、紙面に垂直な手前方向で、Z軸およびY軸に直交する向きをX軸プラス方向とする。以降に示すいくつかの図においては、図1の座標軸を基準として、それぞれの図における向きを表す。
<撮像装置の概要>
図1は、第1の実施形態によるカメラ100の要部構成を説明する図である。図1に示した座標軸において、不図示の被写体からの光はZ軸マイナス方向へ向かう。また、上向きかつZ軸に直交する向きをY軸プラス方向とし、紙面に垂直な手前方向で、Z軸およびY軸に直交する向きをX軸プラス方向とする。以降に示すいくつかの図においては、図1の座標軸を基準として、それぞれの図における向きを表す。
図1において、撮像レンズ201は交換可能に構成されており、カメラ100のボディに装着して使用される。
なお、撮像レンズ201をカメラ100のボディと一体に構成してもよい。
なお、撮像レンズ201をカメラ100のボディと一体に構成してもよい。
撮像レンズ201は、被写体からの光をマイクロレンズアレイ202へ導く。マイクロレンズアレイ202は、微小レンズ(後述するマイクロレンズL)を格子状またはハニカム形状に二次元配列して構成される。マイクロレンズアレイ202に入射した被写体光は、マイクロレンズアレイ202を通過し、撮像素子203の画素群のそれぞれによって光電変換される。
撮像素子203から読み出された光電変換後の画素信号は、画像処理部207へ送られる。画像処理部207は、画素信号に対して所定の画像処理を施す。画像処理後の画像データは、メモリカードなどの記録媒体206に記録される。
なお、撮像素子203から読み出された画素信号に画像処理を施すことなしに、いわゆるRAWデータとして記録媒体206へ記録してもよい。
なお、撮像素子203から読み出された画素信号に画像処理を施すことなしに、いわゆるRAWデータとして記録媒体206へ記録してもよい。
振れ検出部204は、例えば加速度センサによって構成される。振れ検出部204による検出信号は、手振れ等によりカメラ100が揺動する場合の加速度情報として用いられる。
制御部205は、カメラ100の撮像動作を制御する。すなわち、光電変換時に撮像素子203に電荷蓄積を行わせる蓄積制御や、撮像素子203から光電変換後の画素信号を出力させる読み出し制御を行う。
また、制御部205は、上記加速度情報に基づいてVR(Vibration Reduction)演算を行う。VR演算は、カメラ100の揺動によって生じた画像の像ブレを補正するために行われる。VR演算の詳細については後述する。
また、制御部205は、上記加速度情報に基づいてVR(Vibration Reduction)演算を行う。VR演算は、カメラ100の揺動によって生じた画像の像ブレを補正するために行われる。VR演算の詳細については後述する。
表示部208は、画像データに基づく画像を再生表示したり、操作メニュー画面などを表示したりする。表示部208に対する表示制御は、制御部205によって行われる。
図2は、カメラ100の光学系、すなわち、撮像レンズ201、マイクロレンズアレイ202、および撮像素子203を抜粋した斜視図である。マイクロレンズアレイ202は、撮像レンズ201の予定焦点面に配置される。
なお、わかりやすく図示するために、マイクロレンズアレイ202および撮像素子203の間隔を広げているが、実際の間隔は、マイクロレンズアレイ202を構成するマイクロレンズLの焦点距離fに応じた距離である。
なお、わかりやすく図示するために、マイクロレンズアレイ202および撮像素子203の間隔を広げているが、実際の間隔は、マイクロレンズアレイ202を構成するマイクロレンズLの焦点距離fに応じた距離である。
<ライトフィールド画像>
図2において、マイクロレンズアレイ202の各マイクロレンズLには、被写体の異なる部位からの光が入射される。マイクロレンズアレイ202へ入射された被写体からの光は、マイクロレンズアレイ202を構成するマイクロレンズLによって複数に分割される。そして、各マイクロレンズLを通過した光はそれぞれ、対応するマイクロレンズLの後ろ(Z軸マイナス方向)に配置された撮像素子203の画素群PXsに入射される。
なお、図2では、マイクロレンズアレイ202が5個×5個のマイクロレンズLを有しているが、マイクロレンズアレイ202を構成するマイクロレンズLの数は、図示した数に限定されない。
図2において、マイクロレンズアレイ202の各マイクロレンズLには、被写体の異なる部位からの光が入射される。マイクロレンズアレイ202へ入射された被写体からの光は、マイクロレンズアレイ202を構成するマイクロレンズLによって複数に分割される。そして、各マイクロレンズLを通過した光はそれぞれ、対応するマイクロレンズLの後ろ(Z軸マイナス方向)に配置された撮像素子203の画素群PXsに入射される。
なお、図2では、マイクロレンズアレイ202が5個×5個のマイクロレンズLを有しているが、マイクロレンズアレイ202を構成するマイクロレンズLの数は、図示した数に限定されない。
各マイクロレンズLを通過した光は、そのマイクロレンズLの後ろ(Z軸マイナス方向)に配置されている撮像素子203の画素群PXsによって受光される。すなわち、画素群PXsを構成する各画素PXは、被写体のある部位からの光であって撮像レンズ201の異なる領域を通過した光をそれぞれ受光する。
以上の構成により、被写体光が撮像レンズ201を通過した領域を示す光量分布である小画像が、マイクロレンズLの数だけ得られる。本願明細書において、このような小画像の集まりをライトフィールド画像(LF画像)と呼ぶ。
撮像素子203では、各マイクロレンズLの後ろ(Z軸マイナス方向)に配置された複数の画素PXの位置によって、各画素への光の入射方向が定まっている。つまり、マイクロレンズLと、その後ろの撮像素子203の各画素との位置関係が設計情報として既知であることから、マイクロレンズLを介して各画素に入射される光線の入射方向が求まる。このため、撮像素子203の各画素の画素信号は、所定の入射方向からの光の強度(光線情報)を表すことになる。本願明細書では、撮像素子203の画素に入射される所定の方向からの光を光線と呼ぶ。
<リフォーカス処理>
LF画像は、そのデータを用いてリフォーカス処理を施すことができる。リフォーカス処理は、LF画像が有する上記光線情報(所定の入射方向からの光の強度)に基づいた演算(光線を並べ替える演算)を行うことによって、任意像面の画像、すなわち、任意のピント位置や視点での画像を生成する処理をいう。本願明細書では、リフォーカス処理によって生成された任意のピント位置や視点での画像をリフォーカス画像と呼ぶ。
LF画像は、そのデータを用いてリフォーカス処理を施すことができる。リフォーカス処理は、LF画像が有する上記光線情報(所定の入射方向からの光の強度)に基づいた演算(光線を並べ替える演算)を行うことによって、任意像面の画像、すなわち、任意のピント位置や視点での画像を生成する処理をいう。本願明細書では、リフォーカス処理によって生成された任意のピント位置や視点での画像をリフォーカス画像と呼ぶ。
リフォーカス処理では、任意の対象物にフォーカスを合わせて鮮鋭度を高めるだけでなく、対象物に対するフォーカスをずらしてぼかす(鮮鋭度を低くする)ことも含む。このようなリフォーカス処理(再構築処理とも呼ばれる)は公知であるので、リフォーカス処理についての詳細な説明は省略する。
なお、リフォーカス処理は、カメラ100内の画像処理部207によって行ってもよいし、記録媒体206に記録されたLF画像のデータをパーソナルコンピュータなどの外部機器へ送信し、外部機器によって行わせてもよい。
なお、LF画像は、リフォーカス処理以外にも様々な画像生成処理ができる。例えば、上記光線の入射方向に基づき 撮像レンズ201の光軸から所定距離以上離れた領域を通過した光を画像処理演算に用いないことで、任意の絞りでの画像を生成することができる。
なお、リフォーカス処理は、カメラ100内の画像処理部207によって行ってもよいし、記録媒体206に記録されたLF画像のデータをパーソナルコンピュータなどの外部機器へ送信し、外部機器によって行わせてもよい。
なお、LF画像は、リフォーカス処理以外にも様々な画像生成処理ができる。例えば、上記光線の入射方向に基づき 撮像レンズ201の光軸から所定距離以上離れた領域を通過した光を画像処理演算に用いないことで、任意の絞りでの画像を生成することができる。
<撮像部の構成>
次に、カメラ100の撮像部の具体的構成例について説明する。図3は、マイクロレンズアレイ202および撮像素子203の断面図であり、X−Z平面に平行な断面を示す。図4は、図3の撮像素子をZ軸プラス方向から見た正面図である。図3、図4において、マイクロレンズアレイ202の後ろ(Z軸マイナス方向)に撮像素子203が設けられている。
次に、カメラ100の撮像部の具体的構成例について説明する。図3は、マイクロレンズアレイ202および撮像素子203の断面図であり、X−Z平面に平行な断面を示す。図4は、図3の撮像素子をZ軸プラス方向から見た正面図である。図3、図4において、マイクロレンズアレイ202の後ろ(Z軸マイナス方向)に撮像素子203が設けられている。
<マイクロレンズアレイ>
マイクロレンズアレイ202は、例えば、マイクロレンズL1〜L6が透過基板202Aと一体に形成される。透過基板202Aには、ガラス基板、プラスチック基板、またはシリカ基板等を用いてもよい。マイクロレンズアレイ202は、射出成形、加圧成形等により形成してもよい。
なお、マイクロレンズL1〜L6を、透過基板202Aと別体に形成してもよい。
マイクロレンズアレイ202は、例えば、マイクロレンズL1〜L6が透過基板202Aと一体に形成される。透過基板202Aには、ガラス基板、プラスチック基板、またはシリカ基板等を用いてもよい。マイクロレンズアレイ202は、射出成形、加圧成形等により形成してもよい。
なお、マイクロレンズL1〜L6を、透過基板202Aと別体に形成してもよい。
<撮像素子>
図3の撮像素子203は、CCDイメージセンサやCMOSイメージセンサなどを用いることができる。撮像素子203は、Z軸マイナス方向から順に、例えばシリコン基板203Cと、その上に形成された受光素子アレイ203Bと、その上に形成されたカラーフィルタアレイ203Aとを有する。
図3の撮像素子203は、CCDイメージセンサやCMOSイメージセンサなどを用いることができる。撮像素子203は、Z軸マイナス方向から順に、例えばシリコン基板203Cと、その上に形成された受光素子アレイ203Bと、その上に形成されたカラーフィルタアレイ203Aとを有する。
図4において、マイクロレンズアレイ202のマイクロレンズL1〜L6の後ろ(Z軸マイナス方向)に、撮像素子203のカラーフィルタアレイ203Aが位置する。カラーフィルタアレイ203Aには、例えば、RGB(レッド、グリーン、ブルー)の波長域の光をそれぞれ選択的に透過する複数のフィルタが、受光素子アレイ203Bの画素PXに対応させて2次元アレイ状に配置される。マイクロレンズL1〜L6の各々には、所定数の画素PXからなる画素群PXsが割り当てられる。
なお、色情報を必要としない場合には、カラーフィルタアレイ203Aを省略することも可能である。
なお、色情報を必要としない場合には、カラーフィルタアレイ203Aを省略することも可能である。
図5は、図4のマイクロレンズ1つ分を拡大した図である。図5において、RGB(レッド、グリーン、ブルー)は、受光素子アレイ203Bの画素PXにおいて光電変換される波長域を示す。カラーフィルタアレイ203Aは、受光素子アレイ203Bの画素PXに対して、RGBいずれかの波長域を透過する。例えば、奇数行の各画素位置にはBとGの光をそれぞれ透過するフィルタが交互に配置され、偶数行の各画素位置にはGとRの光をそれぞれ透過するフィルタが交互に配置される。
なお、図5では、複数の画素PXのうち、画素群PXsを構成する画素を白地で示し、画素群PXs以外の画素を斜線で示す。
なお、図5では、複数の画素PXのうち、画素群PXsを構成する画素を白地で示し、画素群PXs以外の画素を斜線で示す。
受光素子アレイ203Bの各画素PXには、フォトダイオードなどの受光素子が配されている。受光素子アレイ203Bは、図4、図5に示すように、複数の画素PXが2次元アレイ状に形成されている。各画素PXには、上記カラーフィルタアレイ203Aを介してB、G、Rのいずれかの光が入射される。各画素PXは、フォトダイオードへの入射光量に対応した電荷を生じさせる。各画素PXに蓄積された電荷は、不図示の転送トランジスタによって電荷転送電極へ転送され、読み出される。
ここで、撮像素子203は、裏面照射型の構成とし、画素PXのフォトダイオードが電荷転送電極の裏面側(Z軸プラス側)に設けられている。一般に、裏面照射にすると表面照射の場合に比べてフォトダイオードへの開口を大きくすることができるので、撮像素子203で光電変換される光量の低下が抑えられる。このため、画素PXごとに集光レンズを設けなくとも、画素PXに対して十分な強度の光を入射させることができる。したがって、マイクロレンズアレイ202から撮像素子203までの間に他のレンズを有さない構成にすることができる。
なお、撮像素子203を裏面照射型ではなく表面照射型の構成とすることも可能である。
なお、撮像素子203を裏面照射型ではなく表面照射型の構成とすることも可能である。
図4、図5では、マイクロレンズL1〜L6ごとに8個×8個の画素群PXsを割り当てる例を示すが、画素群PXsを構成する画素PXの数は、図示する数に限定されない。また、図4のマイクロレンズL1〜L6の数も、図示した数に限定されない。さらにまた、受光素子アレイ203Bにおける画素PXの配置は、図2のようにマイクロレンズLごとに画素群PXsを隔離して配置してもよいし、図4、図5に示すように、画素群PXsを隔離することなく複数の画素PXを二次元アレイ状に配置してもよい。
<マスク>
マイクロレンズアレイ202のマイクロレンズLには、それぞれ符号化開口が形成されたマスクMが付加される。図6(a)および図6(b)は、マスクMの開口パターンを例示する図である。マスクMに形成された符号化開口は、光を通過させるランダムな形状のパターンである。マイクロレンズLにマスクMを付加することにより、そのマイクロレンズLの後ろに配されている画素群PXsで取得される光線情報の一部(所定の入射方向からの光)を制限する。マスクMを設ける理由は、上述したVR演算による像ブレ補正の効果を得るためである。
マイクロレンズアレイ202のマイクロレンズLには、それぞれ符号化開口が形成されたマスクMが付加される。図6(a)および図6(b)は、マスクMの開口パターンを例示する図である。マスクMに形成された符号化開口は、光を通過させるランダムな形状のパターンである。マイクロレンズLにマスクMを付加することにより、そのマイクロレンズLの後ろに配されている画素群PXsで取得される光線情報の一部(所定の入射方向からの光)を制限する。マスクMを設ける理由は、上述したVR演算による像ブレ補正の効果を得るためである。
マスクMは、図3のマイクロレンズL1〜L5に付加されているように、マイクロレンズLと透過基板202Aとの間に付加される。すなわちマスクMは、マイクロレンズLの出射面側に形成される。なお、マイクロレンズL6に付加されているマスクMbのように、マイクロレンズL6の表面に付加されてもよい。すなわちマスクMbは、マイクロレンズL6の入射面側に形成される。
図3には、マイクロレンズLと透過基板202Aとの間に設けたマスクMと、マイクロレンズL6の表面に設けたマスクMbとが混在する例を示したが、マスクMまたはマスクMbの付加方法は、いずれかの付加方法に統一してよい。
図3には、マイクロレンズLと透過基板202Aとの間に設けたマスクMと、マイクロレンズL6の表面に設けたマスクMbとが混在する例を示したが、マスクMまたはマスクMbの付加方法は、いずれかの付加方法に統一してよい。
図6(a)および図6(b)において、マスクMの斜線で示す部分は、その透光率を所定値(例えば5%)以下に抑えた領域を示す。マスクMの白部分は、光を通過させる開口領域を示す。図6(a)に示すマスクMの斜線で示す部分は、一辺が受光素子アレイ203Bの画素PXのピッチよりも大きい矩形をランダムに複数生成してランダムに配置した形状を有している。矩形のX軸方向およびY軸方向における最小の幅は、少なくとも、受光素子アレイ203Bの画素PXのピッチよりも大きく構成されている。換言すると、斜線で示す領域を構成する矩形のそれぞれは、X軸方向について、X軸方向における画素PXの幅よりも大きいサイズを有し、かつ、Y軸方向について、Y軸方向における画素PXの幅よりも大きいサイズを有する。この理由は、入射される光線情報の制限状態を、マスクMを付加したマイクロレンズLの後ろに配されている画素PXごとに検出するためである。
本実施形態では、マイクロレンズアレイ202を構成する全てのマイクロレンズLにそれぞれマスクMを設ける。マスクMの開口パターンは、全てのマイクロレンズLにそれぞれ異なる開口パターンの符号化開口を形成してもよく、全てのマイクロレンズLにそれぞれ同じ開口パターンの符号化開口を形成してもよい。
本実施形態では、マイクロレンズアレイ202を構成する全てのマイクロレンズLを二つのグループに二分するとともに、マスクMの開口パターンを2種類設ける。そして、2種類の開口パターンのマスクM1とM2とをそれぞれのグループに用いる。例えば、図7に例示するように、マイクロレンズアレイ202を構成する全てのマイクロレンズLを市松模様を構成するA群とB群とに二分する。
マスクMの開口パターンは、図6(a)に示す開口パターンのマスクMをM1とし、マスクM1に対して斜線部分と白部分とを逆にした図6(b)に示す開口パターンのマスクMをM2とする。ここで、マスクM1およびマスクM2はそれぞれ、マスクMを付加しない場合に比べて、例えば撮像素子203(受光素子アレイ203B)へ入射される光量が半分程度になる開口率とする。マスクMの開口率が低いと、撮像素子203で取得される画像が暗くなり、マスクMの開口率が高いと、VR演算による像ブレ補正の効果が低くなるからである。
なお、像ブレ補正の効果を優先する場合には、マスクMの開口率を50%よりも低くしてよく、取得される画像の明るさを優先する場合には、マスクMの開口率を50%よりも高くしてよい。
なお、像ブレ補正の効果を優先する場合には、マスクMの開口率を50%よりも低くしてよく、取得される画像の明るさを優先する場合には、マスクMの開口率を50%よりも高くしてよい。
上記のマスクM1を、図7のA群のマイクロレンズLに対して付加し、上記のマスクM2を、図7のB群のマイクロレンズLに対して付加する。近接する複数のマイクロレンズLに同一の開口パターンのマスク(例えばマスクM1)を付加すると、それらのマイクロレンズLは共に同一方向からの入射する光を制限する。これに対して、本実施形態のように、近接する複数のマイクロレンズLの間で異なる開口パターンのマスクM1、M2を付加すると、例えば所定方向から入射する光がマスクM1によって制限される一方で、同一方向から入射する光がマスクM2によって制限されない。すなわち、例えばマスクM1を付加したマイクロレンズLの後ろに配されている画素群PXsに対して制限された光線情報と同様の光線情報が、マスクM2を付加したマイクロレンズLの後ろに配されている画素群PXsでは制限を受けずに取得される。本実施形態の構成によると、近接する複数の各マイクロレンズLにおいて、特定方向から入射する光が全て制限されることがない。すなわち、近接する複数の画素群PXsの少なくとも一つは、特定方向から入射する光に関する光線情報を取得することができる。
マイクロレンズアレイ202を構成する全てのマイクロレンズLをA群とB群とに二分する方法は、上述した市松模様による二分に限らず、マイクロレンズアレイ202の一行おきに二分してもよいし、マイクロレンズアレイ202の一列おきに二分してもよい。
また、本実施形態の変形例として、マイクロレンズアレイ202を構成する全てのマイクロレンズLに対してマスクMを付加する代わりに、マイクロレンズアレイ202を構成するマイクロレンズLのうち一部のマイクロレンズLにマスクMを付加し、他のマイクロレンズLにはマスクMを付加しない構成にしてもよい。この場合にも、マスクMの開口のパターンは、マスクMを付加した複数のマイクロレンズLの間で異なるパターンでもよいし、マスクMを付加した複数のマイクロレンズLの間で同じパターンでもよい。
一部のマイクロレンズLにマスクMを付加する場合は、マスクMを付加したマイクロレンズLの後ろに配されている画素群PXsに対して制限された光線情報と同様の光線情報が、マスクMを付加していないマイクロレンズLの後ろに配されている画素群PXsでは制限を受けずに取得される。
一部のマイクロレンズLにマスクMを付加する場合は、マスクMを付加したマイクロレンズLの後ろに配されている画素群PXsに対して制限された光線情報と同様の光線情報が、マスクMを付加していないマイクロレンズLの後ろに配されている画素群PXsでは制限を受けずに取得される。
<VR演算>
撮像素子203に対する被写体像の揺れによるブレ画像は、次式(1)のようにブレがない原画像と点広がり関数(Point Spread Function:以下PSFと呼ぶ)との畳み込みによって表される。
y=fd * x ……(1)
ここで、yはブレ画像、fdはPSF、*は畳み込み積分、xはオリジナルの原画像を表す。
撮像素子203に対する被写体像の揺れによるブレ画像は、次式(1)のようにブレがない原画像と点広がり関数(Point Spread Function:以下PSFと呼ぶ)との畳み込みによって表される。
y=fd * x ……(1)
ここで、yはブレ画像、fdはPSF、*は畳み込み積分、xはオリジナルの原画像を表す。
上式(1)をフーリエ変換して周波数空間で表すと、次式(2)のように、畳み込み積分は積の形で表される。
F(y)=F(fd)・F(x) ……(2)
ここで、F(y)はブレ画像yのフーリエ変換を表す。F(fd)はPSFのフーリエ変換を表す。F(x)は原画像xのフーリエ変換を表す。
F(y)=F(fd)・F(x) ……(2)
ここで、F(y)はブレ画像yのフーリエ変換を表す。F(fd)はPSFのフーリエ変換を表す。F(x)は原画像xのフーリエ変換を表す。
上式(2)を逆演算することにより、原画像xを推定することができる。すなわち、上式(2)に基づき、周波数空間においてブレ画像をPSFで除算することにより、原画像xの周波数特性が求まる。さらに、その周波数特性を逆フーリエ変換して次式(3)を導くことができる。
x’=F−1(F(y) / F(fd)) ……(3)
なお、x’は推定(復元)される原画像、F−1(g)は関数gの逆フーリエ変換を表す。上式(3)によれば、PSFが既知の場合には、ブレ画像yを原画像x’に復元できる。
x’=F−1(F(y) / F(fd)) ……(3)
なお、x’は推定(復元)される原画像、F−1(g)は関数gの逆フーリエ変換を表す。上式(3)によれば、PSFが既知の場合には、ブレ画像yを原画像x’に復元できる。
そこで、制御部205内のメモリ205aに、あらかじめ複数のPSFを記録しておく。例えば、加速度情報を引数とするLUT(Look Up Table)として、加速度情報に対応する種々のPSFをメモリ205aに記録しておく。なお、マイクロレンズLのPSFと加速度情報とからブレのPSFを計算して求めるようにしても良い。制御部205は、撮像素子203から読み出された画素信号に基づく画像をブレ画像yとし、振れ検出部204によって取得された加速度情報に対応するPSFをメモリ205aから読み出す。そして、VR演算として上記(3)の演算を行う。換言すると、制御部205は、記憶部であるメモリ205aに記憶した情報(加速度情報の値によって異なるPSF)を用いて像ブレを補正する。これにより、像ブレを除去した画像、すなわち原画像x’を算出することができる。
以上のように、制御部205は、入射する光が制限されたマイクロレンズLを通して画素群PXsで取得されたブレ画像yの像ブレを、振れ検出部204によって検出された加速度情報に基づいて補正する補正部として機能する。
画像処理部207は、原画像x’に対して前述のリフォーカス処理を実行することにより、任意像面の画像を合成する。すなわち画像処理部207は、制御部205によって補正された原画像x’に基づき、任意像面の画像を合成する画像合成部として機能する。
以上のように、制御部205は、入射する光が制限されたマイクロレンズLを通して画素群PXsで取得されたブレ画像yの像ブレを、振れ検出部204によって検出された加速度情報に基づいて補正する補正部として機能する。
画像処理部207は、原画像x’に対して前述のリフォーカス処理を実行することにより、任意像面の画像を合成する。すなわち画像処理部207は、制御部205によって補正された原画像x’に基づき、任意像面の画像を合成する画像合成部として機能する。
<フローチャートの説明>
図8は、制御部205が実行するカメラ処理の流れを例示するフローチャートである。制御部205は、メインスイッチのオン操作がなされた場合や、スリープ状態からの復帰操作がなされた場合に、図8の処理を行うプログラムを起動させる。図8のステップS10において、制御部205は、例えばレリーズ操作が行われると、自動露出演算を開始してステップS20へ進む。制御部205は、例えば、不図示の測光センサによる測光値に基づき被写体の輝度を求め、求めた輝度に応じて撮像時の露出制御を行う。
図8は、制御部205が実行するカメラ処理の流れを例示するフローチャートである。制御部205は、メインスイッチのオン操作がなされた場合や、スリープ状態からの復帰操作がなされた場合に、図8の処理を行うプログラムを起動させる。図8のステップS10において、制御部205は、例えばレリーズ操作が行われると、自動露出演算を開始してステップS20へ進む。制御部205は、例えば、不図示の測光センサによる測光値に基づき被写体の輝度を求め、求めた輝度に応じて撮像時の露出制御を行う。
ステップS20において、制御部205は、撮像素子203を駆動することによって撮像動作を開始させ、ステップS30へ進む。ステップS30において、制御部205は、撮像時のカメラ100の振れ検出を行う。具体的には、振れ検出部204から検出信号を入力してステップS40へ進む。
ステップS40において、制御部205は、振れ検出部204からの検出信号が示す加速度情報に対応するPSFを選ぶ。本実施形態では、メモリ205aに記録されているPSFのうち、加速度情報に対応するPSFを読み出してステップS50へ進む。
ステップS50において、制御部205はVR演算を行う。制御部205は、図7のA群のマイクロレンズLの後ろ(Z軸マイナス方向)に配置されている画素群PXsから読み出した画素信号に基づくA群のLF画像に対して上式(3)による演算を行い、A群の原画像を算出する。ここで算出されるA群の原画像は、B群に対応する部分が欠落している画像となる。また、制御部205は、図7のB群のマイクロレンズLの後ろ(Z軸マイナス方向)に配置されている画素群PXsから読み出した画素信号に基づくB群のLF画像に対して上式(3)による演算を行い、B群の原画像を算出する。ここで算出されるB群の原画像は、A群に対応する部分が欠落している画像となる。A群の原画像とB群の原画像とを重ね合わせ、一方の原画像で欠落している部分を他方の原画像から補うことで、一つの原画像を得ることができる。この原画像は、像ブレを除去したLF画像である。
ステップS60において、制御部205は画像処理部207へ指示を送り、像ブレを除去したLF画像に対し、所定の画像処理を行わせてステップS70へ進む。画像処理は、例えば所定のピント位置や視点でのリフォーカス画像を生成させるリフォーカス処理である。なお、画像処理には、例えば、輪郭強調処理、色補間処理、ホワイトバランス処理などを含めてもよい。
なお、ステップS50(VR演算)とステップS60(画像処理)の順番を入れ替えてもよい。すなわち、A群のLF画像とB群のLF画像とを先に結合し、結合後の一つのLF画像に対して上式(3)によるVR演算を行って、像ブレを除去した原画像(LF画像)を算出してもよい。換言すると、制御部205は、画像処理部207によって合成された画像の像ブレを補正する補正部として機能してもよい。
また、ステップS10における自動露出演算は、必ずしも必要なく、所定の露出条件、例えば手動で設定した露出条件で撮像するようにしてもよい。また、ステップS20とステップS30は順番を入替えてもよく、同時に実施してもよい。
また、ステップS10における自動露出演算は、必ずしも必要なく、所定の露出条件、例えば手動で設定した露出条件で撮像するようにしてもよい。また、ステップS20とステップS30は順番を入替えてもよく、同時に実施してもよい。
ステップS70において、制御部205は、画像処理が行われた画像を表示部208に再生表示させてステップS80へ進む。
制御部205は、例えば、ユーザー操作に基づいて画像処理部207に再度のリフォーカス処理を行わせ、再度のリフォーカス処理によって生成されたリフォーカス画像を表示部208に表示させてもよい。例えば、表示部208に表示されているリフォーカス画像の一部をユーザーがタップ操作した場合において、そのタップ位置に表示している被写体にピントが合うリフォーカス画像を表示部208に表示させる。
制御部205は、例えば、ユーザー操作に基づいて画像処理部207に再度のリフォーカス処理を行わせ、再度のリフォーカス処理によって生成されたリフォーカス画像を表示部208に表示させてもよい。例えば、表示部208に表示されているリフォーカス画像の一部をユーザーがタップ操作した場合において、そのタップ位置に表示している被写体にピントが合うリフォーカス画像を表示部208に表示させる。
ステップS80において、制御部205は、画像ファイルを生成してステップS90へ進む。制御部205は、例えば、LF画像(像ブレを除去したLF画像)のデータおよびリフォーカス画像のデータを含む画像ファイルを生成する。
また、制御部205は、LF画像(像ブレを除去したLF画像)のデータのみ、または、リフォーカス画像のデータのみを含む画像ファイルを生成してもよい。
さらにまた、制御部205は、像ブレを除去していないA群のLF画像のデータ、および像ブレを除去していないB群のLF画像を含む画像ファイルを生成してもよい。像ブレを除去していないLF画像のデータを画像ファイルに含める場合は、後に行うVR演算に必要な加速度情報、すなわち、撮像時に振れ検出部204で検出された加速度情報もLF画像のデータに関連付けておく。
また、制御部205は、LF画像(像ブレを除去したLF画像)のデータのみ、または、リフォーカス画像のデータのみを含む画像ファイルを生成してもよい。
さらにまた、制御部205は、像ブレを除去していないA群のLF画像のデータ、および像ブレを除去していないB群のLF画像を含む画像ファイルを生成してもよい。像ブレを除去していないLF画像のデータを画像ファイルに含める場合は、後に行うVR演算に必要な加速度情報、すなわち、撮像時に振れ検出部204で検出された加速度情報もLF画像のデータに関連付けておく。
ステップS90において、制御部205は、画像ファイルを記録媒体206に記録してステップS100へ進む。ステップS100において、制御部205は、終了するか否かを判定する。制御部205は、例えば、メインスイッチのオフ操作がなされた場合や、無操作状態で所定時間が経過した場合に、ステップS100を肯定判定し、図8による処理を終了する。一方、制御部205は、例えば、カメラ100に対する操作が行われている場合はステップS100を否定判定し、ステップS10へ戻る。ステップS10へ戻った制御部205は、上述した処理を繰り返す。
上述した第1の実施形態によれば、次の作用効果が得られる。
(1)光学装置の一例であるカメラ100は、撮像素子203と、1つのマイクロレンズLを通過した光が撮像素子203の有する複数の画素群PXsに入射するように二次元状に配置された複数のマイクロレンズL、すなわちマイクロレンズアレイ202とを備える。マイクロレンズアレイ202の複数のマイクロレンズLは、ランダムな形状の符号化開口により入射光の一部を制限するマスクMが付加される。これにより、撮像レンズ201にランダムな形状の符号化開口を設ける場合よりも、小さい構成にすることができる。
(1)光学装置の一例であるカメラ100は、撮像素子203と、1つのマイクロレンズLを通過した光が撮像素子203の有する複数の画素群PXsに入射するように二次元状に配置された複数のマイクロレンズL、すなわちマイクロレンズアレイ202とを備える。マイクロレンズアレイ202の複数のマイクロレンズLは、ランダムな形状の符号化開口により入射光の一部を制限するマスクMが付加される。これにより、撮像レンズ201にランダムな形状の符号化開口を設ける場合よりも、小さい構成にすることができる。
(2)マイクロレンズLに付加するマスクMは、マスクM1とマスクM2の2種類の開口パターンを有する。これにより、マスクM1を付加したマイクロレンズLの後ろに配されている画素群PXsに対して制限された光線と同様の光線が、マスクM2を付加したマイクロレンズLの後ろに配されている画素群PXsでは制限を受けずに入射されることから、近接する複数の各マイクロレンズLにおいて、特定方向から入射する光が全て制限されることがない。。すなわち、近接する複数の画素群PXsの少なくとも一つは、特定方向から入射する光に関する光線情報を取得することができる。
(3)図3のマスクMbのように、マイクロレンズL6に付加するマスクMbの開口パターンをマイクロレンズL6の入射面側に形成する。このように形成する場合は、例えばマイクロレンズL6の表面への印刷によって開口パターンを形成することができる。
(4)図3のマスクMのように、マイクロレンズL5に付加するマスクMの開口パターンをマイクロレンズL5の出射面側に形成する。このように形成する場合は、例えばマイクロレンズL5を透過基板202Aと一体化する前に、透過基板202Aの上面(Z軸プラス側面)へ転写することによって開口パターンを形成することができる。
(5)カメラ100は、マイクロレンズLを通して画素群PXsで取得されたLF画像の像ブレを、振れ検出部204によって検出された加速度情報に基づいて補正する制御部205を備える。これにより、カメラ100の揺動によって生じたLF画像の像ブレを補正処理、例えばVR演算によって除去することができる。
(6)カメラ100は、上記(5)の制御部205によるVR演算によって像ブレが除去されたLF画像に基づいて、任意像面の画像を、例えばリフォーカス処理によって合成する画像処理部207を備える。これにより、像ブレを除去した後のLF画像に基づいてリフォーカス処理を行うことができる。
(7)カメラ100の画像処理部207は、マイクロレンズLを通して画素群PXsで取得されたLF画像に基づき、任意像面の画像を、例えばリフォーカス処理によって合成し、制御部205は、画像処理部207によって合成されたリフォーカス画像の像ブレを補正する。これにより、リフォーカス処理した後の任意像面の画像に対して像ブレの補正、例えばVR演算を行うことができる。
(8)カメラ100は、制御部205が像ブレ補正、例えばVR演算に用いるPSFを記憶するメモリ205aを備える。制御部205は、メモリ205aに記憶したPSFを用いて像ブレを補正するので、必要なPSFをメモリ205aから適宜読み出してVR演算に用いることができる。これにより、像ブレを適切に除去することができる。
(9)カメラ100のメモリ205aは、像ブレの補正、例えばVR演算に用いる情報として、加速度情報の値によって異なる点広がり関数を記憶するので、カメラ100の振れに応じた適切なPSFを用いて、像ブレを適切に除去することができる。
また、次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施形態と組み合わせることも可能である。
(変形例1)
上述した実施形態では、マイクロレンズアレイ202を構成する全てのマイクロレンズLを二つのグループに分けるとともに、2種類のマスクMの開口パターンを使い分ける例を述べた。マスクMの開口パターンは、3種類以上設けてもよい。マスクMの開口パターンを3種類以上設ける場合は、マイクロレンズアレイ202を構成する全てのマイクロレンズLを三以上のグループに分けた上で、3種類以上の開口パターンのマスクをそれぞれのグループに用いるとよい。三以上のグループに分ける場合は、同種の開口パターンのマスクMを付加したマイクロレンズLの配置が偏らないように、マイクロレンズアレイ202において均等にちりばめるとよい。開口パターンの種類を増やすことにより、画像におけるモアレの発生を少なくすることができる。
上述した実施形態では、マイクロレンズアレイ202を構成する全てのマイクロレンズLを二つのグループに分けるとともに、2種類のマスクMの開口パターンを使い分ける例を述べた。マスクMの開口パターンは、3種類以上設けてもよい。マスクMの開口パターンを3種類以上設ける場合は、マイクロレンズアレイ202を構成する全てのマイクロレンズLを三以上のグループに分けた上で、3種類以上の開口パターンのマスクをそれぞれのグループに用いるとよい。三以上のグループに分ける場合は、同種の開口パターンのマスクMを付加したマイクロレンズLの配置が偏らないように、マイクロレンズアレイ202において均等にちりばめるとよい。開口パターンの種類を増やすことにより、画像におけるモアレの発生を少なくすることができる。
(変形例2)
マスクMの開口パターンは、上述した複数の矩形を組み合わせた形状に限らず、三角形や六角形などの多角形の開口を組み合わせたものでもよい。また、円形や楕円形の開口を組み合わせたものでもよい。
また、開口の並びを螺旋状に構成してもよい。
マスクMの開口パターンは、上述した複数の矩形を組み合わせた形状に限らず、三角形や六角形などの多角形の開口を組み合わせたものでもよい。また、円形や楕円形の開口を組み合わせたものでもよい。
また、開口の並びを螺旋状に構成してもよい。
(変形例3)
上述した実施形態では、マスクMの斜線で示す部分の透光率を所定値(例えば5%)以下に抑えた例を説明したが、マスクMの斜線で示す部分の透光率を、例えば30%まで、あるいは50パーセントまで高めてもよい。像ブレ補正の必要性が低い場合、すなわち、撮像時に振れ検出部204で検出された加速度情報が所定値以下の場合には、マスクMの斜線で示す部分に対応する画素PXからの画素信号をLF画像のデータとして用いるためである。
上述した実施形態では、マスクMの斜線で示す部分の透光率を所定値(例えば5%)以下に抑えた例を説明したが、マスクMの斜線で示す部分の透光率を、例えば30%まで、あるいは50パーセントまで高めてもよい。像ブレ補正の必要性が低い場合、すなわち、撮像時に振れ検出部204で検出された加速度情報が所定値以下の場合には、マスクMの斜線で示す部分に対応する画素PXからの画素信号をLF画像のデータとして用いるためである。
具体的には、マスクMの斜線で示す部分に対応する画素PXからの画素信号に対し、透光率に応じたゲインをかけて、LF画像のデータとして用いる。例えば、マスクMの斜線で示す部分の透光率が30パーセントの場合は、マスクMの白部分に対応する画素PXからの画素信号に比べて約3倍のゲインをかけることにより、マスクMの斜線で示す部分に対応する画素PXからの画素信号を、マスクMの白部分に対応する画素PXからの画素信号と同等の信号レベルのデータとして扱う。これにより、マスクMを付加したマイクロレンズLの後ろに配されている画素群PXsに対して制限された光線情報を活用することができる。
(第2の実施形態)
第2の実施形態では、マイクロレンズアレイ202を構成するマイクロレンズLのうち、一部のマイクロレンズLにマスクMを付加しない構成とする。そしてさらに、マスクMを付加していないマイクロレンズLの後ろに配されている画素群PXsから読み出された画素信号を用いて焦点検出処理を行わせる。
第2の実施形態では、マイクロレンズアレイ202を構成するマイクロレンズLのうち、一部のマイクロレンズLにマスクMを付加しない構成とする。そしてさらに、マスクMを付加していないマイクロレンズLの後ろに配されている画素群PXsから読み出された画素信号を用いて焦点検出処理を行わせる。
図9は、第2の実施形態におけるマイクロレンズアレイ202を例示する図である。第1の実施の形態で説明した図7と比べて、中央のマイクロレンズLpにマスクMが付加されていない点が異なる。マイクロレンズLpの後ろに配されている画素群PXsは、符号化開口による光線情報の制限を受けない。
なお、マスクMを付加しないマイクロレンズLpの位置は、必ずしも中央でなくてもよい。また、マスクMを付加しないマイクロレンズLpの数は、一つに限られず、複数設けてもよい。
なお、マスクMを付加しないマイクロレンズLpの位置は、必ずしも中央でなくてもよい。また、マスクMを付加しないマイクロレンズLpの数は、一つに限られず、複数設けてもよい。
制御部205は、マイクロレンズLpの後ろに配されている画素群PXsのうち、撮像レンズ201の異なる領域を通る一対の光束に対応する画素PXから読み出された画素信号に基づき、上記一対の光束による一対の像の像ズレ量(位相差)を検出することにより、撮像レンズ201の焦点調節状態(デフォーカス量)を演算する。換言すると、制御部205は、入射する光が制限されていないマイクロレンズLpを通して画素群PXsで取得された画像に基づいて、焦点検出演算を行う焦点検出演算部として機能する。上記一対の像は、撮像レンズ201が予定焦点面よりも前に対象物の鮮鋭像を結ぶいわゆる前ピン状態では互いに近づき、逆に予定焦点面より後ろに対象物の鮮鋭像を結ぶいわゆる後ピン状態では互いに遠ざかる。すなわち、一対の像の相対位置ズレ量は、カメラ100から対象物までの距離に対応する。
このようなデフォーカス量演算は、カメラの分野において公知であるので詳細な説明は省略する。
このようなデフォーカス量演算は、カメラの分野において公知であるので詳細な説明は省略する。
カメラ100の制御部205は、撮像レンズ201の予定焦点面にマイクロレンズアレイ202が位置するように自動焦点調節動作を行う。この理由は、例えば撮像レンズ201の焦点面に受光素子アレイ203Bが位置すると、撮像レンズ201の異なる領域を通過した光が一部の画素PXに集まることにより、光線情報を適切に有するLF画像の取得が困難になるからである。
制御部205は、撮像画面の所定の位置(焦点検出位置と呼ぶ)において、対応する被写体(対象物)を対象にフォーカスを調節する自動焦点調節(オートフォーカス:AF)動作を制御する。制御部205は、デフォーカス量演算結果に基づいて、撮像レンズ201を構成するフォーカスレンズを合焦位置へ移動させるための駆動信号を出力し、この駆動信号に基づき、図示を省略した焦点調節部がフォーカスレンズを合焦位置へ移動させる。制御部205が自動焦点調節のために行う処理は、焦点検出処理とも称される。
第2の実施形態において、制御部205が行う自動焦点調節動作は、少なくとも、撮像レンズ201の焦点位置を、受光素子アレイ203Bの位置からZ軸プラス方向への距離fと、受光素子アレイ203Bの位置からZ軸マイナス方向への距離fとで挟まれる2fの範囲よりも外側へ移動させるために行う。距離fは、マイクロレンズアレイ202を構成するマイクロレンズLの焦点距離に対応する。
図10は、制御部205が実行するカメラ処理の流れを例示するフローチャートである。第1の実施の形態で説明した図8と比べて、ステップS10の前のステップS1が設けられている点が異なる。
ステップS1において、制御部205は、上記自動焦点調節動作を制御してステップS10へ進む。
なお、ステップS1(自動焦点調節)とステップS10(自動露出演算)の順番を入れ替えてもよい。
なお、ステップS1(自動焦点調節)とステップS10(自動露出演算)の順番を入れ替えてもよい。
第2の実施形態によれば、マスクMを付加していないマイクロレンズLpの後ろに配されている画素群PXsから読み出された画素信号を用いることにより、カメラ100に専用の焦点検出装置を備えることなしに、焦点検出処理を行うことができる。
上記では、種々の実施形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。また、各実施形態および変形例を適宜組み合わせてもよい。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2016年第69738号(2016年3月30日出願)
日本国特許出願2016年第69738号(2016年3月30日出願)
100…カメラ、201…撮像レンズ、202…マイクロレンズアレイ、203…撮像素子、203B…受光素子アレイ、204…振れ検出部、205…制御部、205a…メモリ、206…記録媒体、207…画像処理部、L、Lp、L1〜L6…マイクロレンズ、M、Ms…マスク、PX…画素、PXs…画素群
Claims (14)
- 二次元状に配置された複数のマイクロレンズと、
複数の画素を含む画素群を複数有し、前記複数のマイクロレンズの各マイクロレンズを通過した光を各画素群でそれぞれ受光する撮像センサとを備え、
前記複数のマイクロレンズの少なくとも一部は、マイクロレンズに形成された開口パターンにより入射光の一部を制限する光学装置。 - 請求項1に記載の光学装置において、
前記複数のマイクロレンズは、少なくとも2種類の開口パターンが形成されたマイクロレンズを含む光学装置。 - 請求項1または請求項2に記載の光学装置において、
前記開口パターンは、前記マイクロレンズの入射面側に形成される光学装置。 - 請求項1または請求項2に記載の光学装置において、
前記開口パターンは、前記マイクロレンズの出射面側に形成される光学装置。 - 二次元状に配置された複数のマイクロレンズと、
複数の画素を含む画素群を複数有し、前記複数のマイクロレンズの各マイクロレンズを通過した光を各画素群でそれぞれ受光する撮像センサと、
所定の開口パターンを有する複数のマスクとを備え、
前記複数のマスクのそれぞれは、前記複数のマイクロレンズの少なくとも一部の各マイクロレンズに入射する光の一部をそれぞれ制限する光学装置。 - 請求項5に記載の光学装置において、
前記複数のマスクは、少なくとも2種類の開口パターンを有するマスクを含む光学装置。 - 請求項5または請求項6に記載の光学装置において、
前記マスクは、前記マイクロレンズの入射面側に配置される光学装置。 - 請求項5または請求項6に記載の光学装置において、
前記マスクは、前記マイクロレンズの出射面側に配置される光学装置。 - 請求項1から請求項8までのいずれか一項に記載の光学装置において、
入射する光が制限された前記マイクロレンズを通して前記画素群で取得された画像の像ブレを、加速度検出センサによって検出された加速度情報に基づいて補正する補正部を備える光学装置。 - 請求項9に記載の光学装置において、
前記補正部によって補正された画像に基づき、任意像面の画像を合成する画像合成部を備える光学装置。 - 請求項9に記載の光学装置において、
前記マイクロレンズを通して前記画素群で取得された画像に基づき、任意像面の画像を合成する画像合成部を備え、
前記補正部は、前記画像合成部によって合成された画像の像ブレを補正する光学装置。 - 請求項9から請求項11までのいずれか一項に記載の光学装置において、
前記補正部が前記補正の演算に用いる情報を記憶する記憶部を備え、
前記補正部は、前記記憶部に記憶した情報を用いて前記像ブレを補正する光学装置。 - 請求項12に記載の光学装置において、
前記記憶部は、前記補正の演算に用いる情報として、前記加速度情報の値によって異なる点広がり関数を記憶する光学装置。 - 請求項1から請求項13までのいずれか一項に記載の光学装置において、
入射する光が制限されていない前記マイクロレンズを通して前記画素群で取得された画像に基づいて、焦点検出演算を行う焦点検出演算部を備える光学装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016069738 | 2016-03-30 | ||
JP2016069738 | 2016-03-30 | ||
PCT/JP2017/012376 WO2017170392A1 (ja) | 2016-03-30 | 2017-03-27 | 光学装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2017170392A1 true JPWO2017170392A1 (ja) | 2019-03-07 |
Family
ID=59964499
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018507985A Pending JPWO2017170392A1 (ja) | 2016-03-30 | 2017-03-27 | 光学装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20190107688A1 (ja) |
JP (1) | JPWO2017170392A1 (ja) |
CN (1) | CN108886568A (ja) |
WO (1) | WO2017170392A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018198680A1 (ja) * | 2017-04-27 | 2018-11-01 | 三菱電機株式会社 | 画像読み取り装置 |
KR20210124807A (ko) * | 2020-04-07 | 2021-10-15 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3697129B2 (ja) * | 2000-01-20 | 2005-09-21 | キヤノン株式会社 | 撮像装置 |
US7671321B2 (en) * | 2005-01-18 | 2010-03-02 | Rearden, Llc | Apparatus and method for capturing still images and video using coded lens imaging techniques |
JP4927159B2 (ja) * | 2007-03-01 | 2012-05-09 | シャープ株式会社 | 表示パネル用基板、表示パネル、表示装置、および表示パネル用基板の製造方法 |
KR20100074443A (ko) * | 2008-12-24 | 2010-07-02 | 주식회사 동부하이텍 | 이미지 센서의 마이크로 렌즈 마스크 및 마이크로 렌즈 형성 방법 |
US8300108B2 (en) * | 2009-02-02 | 2012-10-30 | L-3 Communications Cincinnati Electronics Corporation | Multi-channel imaging devices comprising unit cells |
JP5424267B2 (ja) * | 2010-08-06 | 2014-02-26 | 株式会社ブイ・テクノロジー | マイクロレンズ露光装置 |
JP5789109B2 (ja) * | 2011-03-18 | 2015-10-07 | キヤノン株式会社 | 固体撮像素子および撮像装置 |
WO2014050699A1 (ja) * | 2012-09-25 | 2014-04-03 | 富士フイルム株式会社 | 画像処理装置及び方法並びに撮像装置 |
JP6348883B2 (ja) * | 2015-06-17 | 2018-06-27 | 日本電信電話株式会社 | 画像撮像装置、画像撮像方法及びコンピュータプログラム |
-
2017
- 2017-03-27 US US16/089,791 patent/US20190107688A1/en not_active Abandoned
- 2017-03-27 WO PCT/JP2017/012376 patent/WO2017170392A1/ja active Application Filing
- 2017-03-27 JP JP2018507985A patent/JPWO2017170392A1/ja active Pending
- 2017-03-27 CN CN201780019887.0A patent/CN108886568A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
US20190107688A1 (en) | 2019-04-11 |
CN108886568A (zh) | 2018-11-23 |
WO2017170392A1 (ja) | 2017-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4483951B2 (ja) | 撮像装置 | |
JP5552214B2 (ja) | 焦点検出装置 | |
JP4941332B2 (ja) | 撮像装置 | |
US8325241B2 (en) | Image pickup apparatus that stores adjacent and contiguous pixel data before integration of same | |
JP6317548B2 (ja) | 撮像装置及びその制御方法 | |
JP5791349B2 (ja) | 撮像装置及びその制御方法 | |
US8488956B2 (en) | Focus adjusting apparatus and focus adjusting method | |
US9426349B2 (en) | Image processing apparatus, image processing method, image pickup apparatus, and display device | |
JP6071374B2 (ja) | 画像処理装置、画像処理方法およびプログラムならびに画像処理装置を備えた撮像装置 | |
JP5818697B2 (ja) | 画像生成方法、撮像装置および表示装置、プログラム、記憶媒体 | |
JP6789833B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2009003122A (ja) | 撮像装置及びその制御方法 | |
JP6239857B2 (ja) | 撮像装置およびその制御方法 | |
US10674074B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating an image based on a plurality of parallax images | |
JP2013093554A (ja) | 撮像素子および撮像装置 | |
JP5911252B2 (ja) | 撮像装置及び画像処理方法 | |
JP6381266B2 (ja) | 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体 | |
JP2011075677A (ja) | 撮像装置及び撮像方法 | |
WO2017170392A1 (ja) | 光学装置 | |
JP2017188633A (ja) | 撮像素子及び撮像装置 | |
JP6929511B2 (ja) | 撮像素子、及び、撮像装置 | |
KR20170015158A (ko) | 제어장치, 촬상장치, 및 제어방법 | |
JP5864989B2 (ja) | 撮像素子及び撮像装置 | |
JP5907668B2 (ja) | 撮像装置及び撮像素子 | |
JP6476630B2 (ja) | 撮像装置 |