JP5067154B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5067154B2
JP5067154B2 JP2007335718A JP2007335718A JP5067154B2 JP 5067154 B2 JP5067154 B2 JP 5067154B2 JP 2007335718 A JP2007335718 A JP 2007335718A JP 2007335718 A JP2007335718 A JP 2007335718A JP 5067154 B2 JP5067154 B2 JP 5067154B2
Authority
JP
Japan
Prior art keywords
image
imaging
processing unit
imaging device
pixel data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007335718A
Other languages
English (en)
Other versions
JP2009159357A (ja
Inventor
健二 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007335718A priority Critical patent/JP5067154B2/ja
Publication of JP2009159357A publication Critical patent/JP2009159357A/ja
Application granted granted Critical
Publication of JP5067154B2 publication Critical patent/JP5067154B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、マイクロレンズアレイを用いた撮像装置に関する。
従来、様々な撮像装置が提案され、開発されている。また、撮像して得られた撮像データに対し、所定の画像処理を施して出力するようにした撮像装置も提案されている。
例えば、特許文献1および非特許文献1には、「Light Field Photography」と呼ばれる手法を用いた撮像装置が提案されている。この撮像装置は、開口絞りを有する撮像レンズと、マイクロレンズアレイと、撮像素子と、画像処理部とから構成されている。これにより、撮像素子から得られる撮像データが、受光面における光の強度分布に加えてその光の進行方向の情報をも含むようになっている。そして画像処理部において、任意の視野や焦点での観察画像を再構築できるようになっている。
国際公開第06/039486号パンフレット 特開2000−224593号公報 Ren.Ng、他7名,「Light Field Photography with a Hand-Held Plenoptic Camera」,Stanford Tech Report CTSR 2005-02
ところで、単眼の撮像レンズと撮像素子とを搭載したカメラなどの撮像装置では、奥行き方向のボケ具合を調整するために、撮影時に開口絞りの絞り具合を調節して被写界深度の調整が行われている。一般に、被写界深度は以下の(11)式および(12)式のように表され、開口絞りの絞り具合を小さくするほど深くなり、大きくするほど浅くなる。
Figure 0005067154
また、特徴的なボケを表現するために、特殊なレンズ系を用いて撮影することによりレンズを通過する光線の透過率を制御することも行われている。例えば、図14(A)に示したようなメインレンズ200の周縁部分にアポダイゼーション光学エレメント200Aを付加したスムーストランスフォーカスレンズ(STFレンズ)や、図14(B)に示したようなメインレンズ201の中央部分に遮蔽板201Aを設けた反射望遠レンズなどが挙げられる。このように、被写界深度の調整や特徴的なボケの表現は、開口絞りの調節やレンズの選定などによりいずれも撮影時に行われている。
しかしながら、近年、上記のような被写界深度の調整や特徴的なボケの表現を、撮影時ではなく撮影後に行うことが望まれている。そこで、撮像した画像のエッジ(輪郭)部分を強調したりぼかしたりする画像処理ソフトウエアなども開発されているが、これは実際に取得された光線情報に基づいて調整するものではないため、自然なボケ具合を表現することが困難であるという問題がある。
本発明はかかる問題点に鑑みてなされたもので、その目的は、実際に取得した光線情報に基づいて、撮影後に画像の被写界深度を調整したり特徴的なボケを表現することが可能な撮像装置を提供することにある。
本発明の撮像装置は、撮像レンズと、光線の進行方向を保持して受光すると共に、その受光した光線に基づいて複数の画素データを取得する撮像素子と、撮像レンズの結像面上に配置され、撮像素子の複数の画素に対して1つのマイクロレンズが割り当てられたマイクロレンズアレイ部と、撮像素子で取得された複数の画素データを用いて画像を再構築する画像処理部とを備えている。画像処理部は、画像を再構築する際に、複数の画素データに対し、光線の入射角に応じて段階的に変化する重み係数を用いた重み付けを行うことにより、被写界深度を調整する。
本発明の撮像装置では、撮像レンズによる撮像対象物の像は、マイクロレンズアレイ部上に結像する。そして、マイクロレンズアレイ部への入射光線がマイクロレンズアレイ部を介して撮像素子へ到達する。これにより、撮像対象物の像はマイクロレンズごとに撮像素子上に結像し、光線の強度分布に加え光線の進行方向の情報をも含んだ複数の画素データが得られる。画像処理部において、上記のようにして得られた複数の画素データに対して、光線の進行方向に応じて重み付けがなされ画像が再構築される。
本発明の撮像装置によれば、画像処理部において、撮像素子で得られた複数の画素データに対し、光線の進行方向に応じて所定の重み付けを行い画像を再構築するようにしたので、実際に取得した光線情報に基づいて、撮影後に画像の被写界深度を調整したり特徴的なボケを表現することができる。これにより、撮影時に開口絞りを調節することなく、あるいはSTFレンズや反射望遠レンズなどの特殊なレンズ系を用いることなく、様々なボケ具合の画像を得ることが可能となる。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
[第1の実施の形態]
図1は、本発明の第1の実施の形態に係る撮像装置(撮像装置1)の全体構成を表すものである。撮像装置1は、被写体2を撮像して画像処理を施すことにより画像データDoutを出力するものであり、開口絞り10を有する撮像レンズ11と、マイクロレンズアレイ12と、撮像素子13と、画像処理部14と、撮像素子駆動部15と、制御部16とから構成されている。
開口絞り10は、撮像レンズ11の光学的な開口絞りである。この開口絞り10の開口の形状(例えば円形状)に相似形となる被写体2の像(後述のユニット像U1)が撮像素子13上にマイクロレンズごとに形成されるようになっている。
撮像レンズ11は、被写体2を撮像するためのメインレンズであり、例えば、ビデオカメラやスチルカメラ等で使用される一般的な撮像レンズにより構成されている。
マイクロレンズアレイ12は、複数のマイクロレンズが2次元配列したものであり、撮像レンズ11の焦点面(結像面)に配置されている。マイクロレンズの平面形状は、例えば図2(A)に示したような円形(マイクロレンズ12−1)であってもよく、図2(B)に示したような正方形(マイクロレンズ12−2)であってもよい。各マイクロレンズは、例えば固体レンズや液晶レンズ、回折レンズなどにより構成されている。
また、撮像レンズ11のFナンバーFMLと、マイクロレンズアレイのFナンバーFMLAとは、概ね等しくなっていることが好ましい。これは、図3(A)に示したように、撮像レンズ11のFナンバーFMLがマイクロレンズアレイ12のFナンバーFMLAよりも小さい場合(FML<FMLAの場合)には、隣接するマイクロレンズによる撮像光線間で重なりが生じ、これによりクロストークが発生するため、再構築画像の画質が劣化してしまうからである。また一方で、図3(B)に示したように、撮像レンズ11のFナンバーFMLがマイクロレンズアレイ12のFナンバーFMLAよりも大きい場合(FML>FMLAの場合)には、マイクロレンズによる撮像光線が受光されない撮像画素が生じるため、撮像画素を十分に利用することができず、再構成画像の画素数が低下してしまうからである。
撮像素子13は、マイクロレンズアレイ12からの光線を受光して複数の画素データを含む撮像データD0を取得するものであり、マイクロレンズアレイ12の焦点面(結像面)に配置されている。この撮像素子13は、マトリクス状に配列された複数のCCD(Charge Coupled Device;電荷結合素子)またはCMOS(Complementary Metal-Oxide Semiconductor)などの2次元固体撮像素子により構成されている。
このような撮像素子13の受光面(マイクロレンズアレイ12側の面)上には、M×N(M,N:整数)個の撮像画素(以下、単に画素という)がマトリクス状に配置され、複数の画素に対してマイクロレンズアレイ12内の1つのマイクロレンズが割り当てられるようになっている。例えば、受光面上の画素数はM×N=3720×2520=9374400個であり、このうちm×n=12×12=144個の画素に対して一つのマイクロレンズが割り当てられるようになっている。ここで、各マイクロレンズに対する画素の割り当て個数m,nの値が大きくなるに従って、後述する再構築画像の分解能、例えば任意の視野での分解能やリフォーカス演算処理に基づく奥行き方向の分解能(任意の焦点での分解能)などが高くなる。一方、(M/m),(N/n)は、再構築画像の解像度と関連しているため、これら(M/m),(N/n)の値が大きくなるに従って、再構築画像の解像度が高くなる。このように、再構築画像の分解能と解像度とはトレードオフの関係にあるが、分解能および解像度の両者をできるだけ高い値で両立させることが望ましい。
画像処理部14は、撮像素子13で得られた撮像データD0を構成する複数の画素データに対して、その光線の進行方向に応じて重み付けを行い、例えば「Light Field Photography」と呼ばれる手法を用いた所定の並べ替え処理を施すことにより、例えば任意の焦点に設定した画像(再構築画像)データDoutを生成できるようになっている。また、その他の画像処理、例えば欠陥(撮像データに含まれる黒とび等)補正処理、黒レベルの設定処理(クランプ処理)、デモザイク処理などのカラー補間処理、ノイズ(暗い場所や感度の足りない場所で撮像したときに発生するノイズ)低減処理、輪郭強調処理、ホワイトバランス(色バランス)調整処理およびガンマ(明暗やコントラスト)補正処理などが適宜行われるようになっている。この画像処理部14の詳細な画像処理動作については後述する。
撮像素子駆動部15は、撮像素子13を駆動してその受光動作の制御を行うものである。
制御部16は、画像処理部14、撮像素子駆動部15の動作を制御するものであり、例えばマイクロコンピュータなどにより構成される。
次に、本実施の形態の撮像装置1の作用および効果について、図1〜図7を参照して説明する。図4(A)は、撮像素子13により得られた実際の撮像データの一例を表すものであり、図4(B)は図4(B)の領域Sを拡大したものである。図5は、撮像データD0に含まれる光線の情報を説明するための模式図である。図6は、画像処理部におけるリフォーカス演算処理に基づく積分処理(並べ替え処理)を説明するための模式図である。図7は、並べ替え処理における重み付け処理動作を説明するための模式図である。
撮像装置1では、撮像レンズ11による被写体2の像は、マイクロレンズアレイ12上に結像する。そして、マイクロレンズアレイ12への入射光線がこのマイクロレンズアレイ12を介して撮像素子13で受光される。このとき、マイクロレンズアレイ12への入射光線は、その進行方向に応じて撮像素子13上の異なる位置で受光され、開口絞りの開口形状に相似形となる被写体2の像(以下、ユニット像という)がマイクロレンズごとに結像する。このようにして、撮像素子13で受光がなされると、撮像素子駆動部15による駆動動作に従って撮像データD0が得られ、この撮像データD0が画像処理部14へ入力される。撮像データD0は、例えば図4(A)に示したような画像データであり、ユニット像に対応した複数の画像領域U1によって構成されている。また、各画像領域U1は、図4(B)に示したように、各マイクロレンズに割り当てられた画素数、例えば12×12=144個の画素データによって構成されている。
ここで、撮像素子13で受光される光線について図5を参照して説明する。このように、撮像レンズ11の撮像レンズ面上において直交座標系(u,v)を、撮像素子13の撮像面上において直交座標系(x,y)をそれぞれ考え、撮像レンズ11の撮像レンズ面と撮像素子13の撮像面との距離をFとすると、図中に示したような撮像レンズ11および撮像素子13を通る光線L1は、4次元関数L(x,y,u,v)で表されるため、光線の位置情報に加え、光線の進行方向が保持された状態で撮像素子13に記録される。すなわち、各マイクロレンズに割り当てられた複数の撮像画素の配置によって光線の入射方向が決まっている。
また、撮像データD0において、画像領域U1ごとに互いに同一の位置にある画素データは、それぞれ同一の光線の進行方向についての情報を保持している。また、各画像領域U1は、画素ごとに光線の進行方向が少しづつ変化した状態で取得された画素データによって構成されている。このため、一つのマイクロレンズに割り当てられた画素数が任意の焦点での分解能となる。
そして、上記のような撮像データD0が画像処理部14へ入力されると、所定の並べ替え処理が施される。具体的には、図6に示したように、撮像レンズ面110、撮像素子面130およびリフォーカス面120間の位置関係を設定(F’=αFとなるようにリフォーカス面120を設定)した場合、リフォーカス面120上の座標(s,t)の撮像面130上における検出強度LF’は、以下の(1)式のように表される。また、リフォーカス面120で得られるイメージEF’(s,t)は、上記検出強度LF’をレンズ口径に関して積分したものとなるので、以下の(2)式のように表される。したがって、この(2)式からリフォーカス演算処理を行うことにより、任意の焦点(リフォーカス面120)に設定した画像が再構築される。
Figure 0005067154
この際、本実施の形態では、光線の進行方向の情報に応じて、例えば画像領域U1を形成する画素データごとに重み係数を乗じて重み付けを行ったのち、上記リフォーカス演算処理に基づく積分処理を施す。例えば、撮像素子13の受光面に対して相対的に小さな角度で入射する光線の情報のみを用いて積分処理を行う。言い換えると、撮像素子13への入射角が相対的に大きい光線については、重み係数0(ゼロ)を乗じることにより積分処理に含めない。例えば、撮像素子13への入射角が相対的に小さい光線は画像領域U1の中央の領域に位置することとなるため、図7に示したように、画像領域U1における中央部(図中、斜線部分)で取得された画素データのみを用いて積分処理を行う。
上記のような並べ替え処理により再構築された画像のデータは、他の画像処理、例えばノイズ低減処理、輪郭強調処理、ホワイトバランス調整、ガンマ補正などが適宜施されたのち、画像データDoutとして画像処理部14から出力される。
以上のように、撮像装置1によれば、画像処理部14において任意の焦点に設定した画像を再構築する際に、撮像素子13で取得された複数の画素データに対し、撮像素子13への入射角が相対的に小さい光線の画素データのみに基づいて、所定の並べ替え処理(上述のリフォーカス演算処理に基づく積分処理)を施すようにしたので、開口絞りにおける光線の透過率を開口の中央部と周縁部で変化させた場合と同様の効果を得ることができる。よって、あたかも開口絞り10を絞ったかのように、再構築した画像の被写界深度を深く表現することができる。従って、実際に取得した光線情報に基づいて、撮影後に画像の被写界深度を調整することが可能となる。
また、このような撮像装置1は、例えば図8(A),(B)に示したようなカメラ3に適用することができる。なお、図8は、カメラ3の概略構成を表し、(A)は正面図、(B)は側面図である。このカメラ3は、筐体300の内部に撮像装置1を備えており、筐体300の上部には、シャッタ17、フラッシュ18、ファインダ光学系19などが設けられている。また、撮像装置1は、このようなカメラの他にも、位置センサや生体センサ、光学顕微鏡などに適用することが可能である。
[第2の実施の形態]
図9は、本発明の第2の実施の形態に係る画像処理部14での並べ替え処理における重み付け動作を説明するための模式図である。本実施の形態では、この並べ替え処理における重み付け動作以外は上記第1の実施の形態と同様の構成、処理動作となっている。よって、上記第1の実施の形態と同様の構成要素については同一の符号を付し適宜説明を省略する。
本実施の形態の画像処理部14では、撮像素子13により取得された撮像データD0を構成する複数の画素データに対して、光線の進行方向に応じて、例えば画像領域U1を形成する画素データごとに重み係数を乗じて重み付けを行い、上述したようなリフォーカス演算処理に基づく積分処理を施すようになっている。但し、撮像素子13への入射角が相対的に大きい光線の情報のみを用いて積分処理を行うようになっている。言い換えると、撮像素子13への入射角が相対的に小さい光線については、重み係数0を乗じることにより積分処理に含めないようになっている。例えば、撮像素子13への入射角が相対的に大きい光線は画像領域U1の周縁の領域に位置することとなるため、図9に示したように、画像領域U1における周縁部(図中、斜線部分)で取得された画素データのみを用いて積分処理を行うようになっている。
このように、撮像素子13への入射角が相対的に大きい光線の情報のみを用いて積分処理を行い画像を再構築することで、あたかも反射望遠レンズのように開口絞りの中央に遮蔽板を設けた光学系で撮像したかのように、再構成した画像の被写界深度を浅く表現することができ、またデフォーカス部では独特のリング状のボケを表現することができる。よって、実際に取得した光線情報に基づいて、撮影後に画像の被写界深度を調整したり特徴的なボケを表現することが可能となる。
[第3の実施の形態]
図10は、本発明の第3の実施の形態に係る画像処理部14での並べ替え処理における重み付け動作を説明するための模式図である。本実施の形態では、この並べ替え処理における重み付け動作以外は上記第1の実施の形態と同様の構成、処理動作となっている。よって、上記第1の実施の形態と同様の構成要素については同一の符号を付し適宜説明を省略する。
本実施の形態の画像処理部14では、撮像素子13により取得された撮像データD0を構成する複数の画素データに対して、光線の進行方向に応じて、例えば画像領域U1を形成する画素データごとに重み係数を乗じて重み付けを行い、上述したようなリフォーカス演算処理に基づく積分処理を施すようになっている。但し、本実施の形態では、撮像素子13への入射角が大きい光線ほど重み付けを弱くして積分処理を行うようになっている。例えば、図10に示したように、画像領域U1において中央部から周縁部となるに従って徐々に重み係数を小さくして積分処理を行うようになっている。なお、図10では、画像領域U1において、色の濃い(黒い)部分ほど重み係数が小さいことを示している。
このように、撮像素子13への入射角が大きい光線ほど重み付けを弱くして積分処理を行い画像を再構築することで、あたかもSTFレンズのように開口絞りの周縁部ほど透過率を低下させた光学系で撮像したかのように、再構築した画像の被写界深度を深く表現することができ、またデフォーカス部ではボケが徐々に少なくなる画像を表現することができる。よって、実際に取得した光線情報に基づいて、撮影後に画像の被写界深度を調整したり特徴的なボケを表現することが可能となる。
[第4の実施の形態]
図11は、本発明の第4の実施の形態に係る画像処理部14での並べ替え処理における重み付け動作を説明するための模式図である。本実施の形態では、この並べ替え処理における重み付け動作以外は上記第1の実施の形態と同様の構成、処理動作となっている。よって、上記第1の実施の形態と同様の構成要素については同一の符号を付し適宜説明を省略する。
本実施の形態の画像処理部14では、撮像素子13により取得された撮像データD0を構成する複数の画素データに対して、光線の進行方向に応じて、例えば画像領域U1を形成する画素データごとに重み係数を乗じて重み付けを行い、上述したようなリフォーカス演算処理に基づく積分処理を施すようになっている。但し、撮像素子13への入射角が小さい光線ほど重み付けを弱くして積分処理を行うようになっている。例えば、図11に示したように、画像領域U1において周縁部から中央部となるに従って徐々に重み係数を小さくして積分処理を行うようになっている。なお、図11では、画像領域U1において、色の濃い(黒い)部分ほど重み係数が小さいことを示している。
このように、撮像素子13への入射角が小さい光線ほど重み付けを弱くして積分処理を行い画像を再構築することで、あたかも開口絞りの中央部ほど透過率を低下させた光学系で撮像したかのように、再構築した画像の被写界深度を浅く表現することができ、またデフォーカス部ではボケが急速に少なくなる画像を表現することができる。よって、実際に取得した光線情報に基づいて、撮影後に画像の被写界深度を調整したり特徴的なボケを表現することが可能となる。
(実施例)
図12(A)〜(E)は、上述した第1〜第4の実施の形態における画像処理をそれぞれ施した場合の実際の画像を表すものである。ここで、図12(A)は、撮像素子13上で各マイクロレンズに12×12=144個(144pixel)の画素を割り当てた場合において、半径6pixelの円形の画像領域U1に対応する全ての画素データに対して積分処理を施した場合の画像(重み付けなしの標準画像)である。
これに対して、図12(B)は、撮像素子13への入射角が相対的に小さな光線情報として、画像領域U1内の半径3pixelの中央部に対応する画素データについてのみ積分処理を施した場合(第1の実施の形態)の画像である。また、図12(C)は、撮像素子13への入射角が相対的に大きな光線情報として、画像領域U1内の半径4pixelから6pixelの周縁部(半径6pixelの領域から半径3pixelの領域を除いた領域)についてのみ積分処理を施した場合(第2の実施の形態)の画像である。また、図12(D)は、撮像素子13への入射角が大きな光線ほど重み付けを弱くして積分処理を施した場合(第3の実施の形態)の画像である。この際、12×12pixelの画素データに対して、図13(A)に示したような特性に基づいて重み係数(0〜1)を乗じた。また、図12(E)は、撮像素子13への入射角が小さな光線ほど重み付けを弱くして積分処理を施した場合(第4の実施の形態)の画像である。この際、12×12pixelの画素データに対して、図13(B)に示したような特性に基づいて重み係数(0〜1)を乗じた。なお、図13(A),(B)における左図は12×12pixel内での重み付けを模式的に表す(色が濃い(黒い)領域ほど重み付けが弱い)ものであり、右図は画像領域U1の中心を通る線上での重み係数を表すものである。
図12(B)〜(E)に示したように、所定の重み付けを行って積分処理を施した画像では、重み付けをすることなく積分処理を施した図12(A)の標準画像に比べて、被写体の輪郭や奥行き方向におけるボケがそれぞれ独特に表現されている。このように、画像処理部14において、任意の焦点に設定した画像を再構築する際に、光線の進行方向に応じて重み付けを行ったのち所定の積分処理を施すことで、撮影後において被写界深度を調整したり特徴的なボケを表現できることがわかる。
以上、実施の形態および実施例を挙げて本発明を説明したが、本発明はこれらの実施の形態等に限定されるものではなく、種々の変形が可能である。例えば、上記実施の形態等では、画像処理部14における重み付けの例として、画像領域U1の中央部(半径3pixel内)あるいは周縁部(半径4〜6pixel)の画素データのみに基づいて積分処理を行う場合や、中央部から周縁部にかけて徐々に重みが弱く(強く)なるように重み係数を乗じた画素データに対して積分処理を行う場合を例に挙げて説明したが、本発明はこれに限定されるものではない。各マイクロレンズに割り当てられる画素数や、必要とされるボケ具合に応じて、積分処理に用いる画素データの領域を加減したり、重み係数を段階的に変化させるようにしてもよい。このように、画像処理部において、光線の進行方向に応じた重み付けを適宜行うことで、様々なボケ具合の画像を再構築することが可能である。
また、上記実施の形態等では、一つのマイクロレンズに対して12行12列の複数の画素を割り当てることで、撮像素子13への入射光線が光線の位置情報に加え、その進行方向の情報をも含み、これに所定の画像処理を施すことによって任意の焦点での画像を再構築する場合を例に挙げて説明したが、これに限定されず、必要とされる再構築画像の画素数や、設計仕様によって、マイクロレンズへの割り当て画素数を決定するようにすればよい。
また、上記実施の形態では、開口絞りの位置を撮像レンズの被写体側(入射側)に配置した構成としているが、これに限定されず、撮像レンズの像側(出射側)あるいは、撮像レンズ内部に設けられた構成であってもよい。
また、上記実施の形態では、画像処理部14を、撮像装置1の構成要素の一つとして説明したが、必ずしもこの画像処理部が撮像装置の内部に設けられている必要はない。具体的には、画像処理部を、撮像装置とは別の装置、例えばPC(Personal Computer:パーソナルコンピュータ)などに設けておき、撮像装置で得られた撮像データをPCへ転送し、PCにおいて画像処理を施すようにすることも可能である。
本発明の第1の実施の形態に係る撮像装置の全体構成を表す図である。 図1に示したマイクロレンズアレイの概略構成を表す平面図である。 マイクロレンズアレイのFナンバーを説明するための模式図である。 撮像素子で得られた実際の撮像データを表すものである。 撮像素子に入射する光線の情報を説明するための模式図である。 画像処理部におけるリフォーカス演算処理を説明するための模式図である。 画像処理部における重み付け動作の一例を説明するための模式図である。 図1に示した撮像装置の一適用例を表すものである。 本発明の第2の実施の形態に係る画像処理部での重み付け動作の一例を説明するための模式図である。 本発明の第3の実施の形態に係る画像処理部での重み付け動作の一例を説明するための模式図である。 本発明の第4の実施の形態に係る画像処理部での重み付け動作の一例を説明するための模式図である。 本発明の第1〜第4の実施の形態での重み付けにより実際に得られた画像である。 図12(D),(E)に示した画像の重み係数を表す図である。 比較例に係るSTFレンズおよび反射望遠レンズの概略構成を表す模式図である。
符号の説明
1…撮像装置、3…カメラ、10…開口絞り、11…撮像レンズ、12…マイクロレンズアレイ、13…撮像素子、14…画像処理部、15…撮像素子駆動部、16…制御部、2…被写体。

Claims (5)

  1. 撮像レンズと、
    光線の進行方向を保持して受光すると共に、その受光した光線に基づいて複数の画素データを取得する撮像素子と、
    前記撮像レンズの結像面上に配置され、前記撮像素子の複数の画素に対して1つのマイクロレンズが割り当てられたマイクロレンズアレイ部と、
    前記撮像素子で取得された複数の画素データを用いて画像を再構築する画像処理部とを備え、
    前記画像処理部は、前記画像を再構築する際に、前記複数の画素データに対し、光線の入射角に応じて段階的に変化する重み係数を用いた重み付けを行うことにより、被写界深度を調整する
    像装置。
  2. 前記画像処理部は、前記撮像素子への入射角が相対的に小さい光線の画素データのみに基づいて画像を再構築する
    求項1記載の撮像装置。
  3. 前記画像処理部は、前記撮像素子への入射角が相対的に大きい光線の画素データのみに基づいて画像を再構築する
    求項1記載の撮像装置。
  4. 前記画像処理部は、前記撮像素子への入射角が大きい光線ほど重み付けを弱くして画像を再構築する
    求項1記載の撮像装置。
  5. 前記画像処理部は、前記撮像素子への入射角が小さい光線ほど重み付けを弱くして画像を再構築する
    求項1に記載の撮像装置。
JP2007335718A 2007-12-27 2007-12-27 撮像装置 Expired - Fee Related JP5067154B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007335718A JP5067154B2 (ja) 2007-12-27 2007-12-27 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007335718A JP5067154B2 (ja) 2007-12-27 2007-12-27 撮像装置

Publications (2)

Publication Number Publication Date
JP2009159357A JP2009159357A (ja) 2009-07-16
JP5067154B2 true JP5067154B2 (ja) 2012-11-07

Family

ID=40962857

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007335718A Expired - Fee Related JP5067154B2 (ja) 2007-12-27 2007-12-27 撮像装置

Country Status (1)

Country Link
JP (1) JP5067154B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012205111A (ja) * 2011-03-25 2012-10-22 Casio Comput Co Ltd 撮像装置
JP5743769B2 (ja) * 2011-07-15 2015-07-01 キヤノン株式会社 画像処理装置および画像処理方法
JP5906033B2 (ja) * 2011-07-26 2016-04-20 キヤノン株式会社 画像処理装置および画像処理方法、プログラム
JP5875839B2 (ja) * 2011-11-21 2016-03-02 オリンパス株式会社 プレノプティックカメラ
JP5854984B2 (ja) * 2012-02-20 2016-02-09 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
JP5459337B2 (ja) 2012-03-21 2014-04-02 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム
JP5583242B2 (ja) 2012-07-05 2014-09-03 キヤノン株式会社 画像処理装置およびその制御方法、並びにプログラム
JP6202910B2 (ja) 2012-08-13 2017-09-27 キヤノン株式会社 映像処理装置およびその制御方法、プログラム
JP6074201B2 (ja) * 2012-09-21 2017-02-01 キヤノン株式会社 画像処理装置、制御方法、及びプログラム
JP6091176B2 (ja) 2012-11-19 2017-03-08 キヤノン株式会社 画像処理方法、画像処理プログラム、画像処理装置および撮像装置
JP6120535B2 (ja) * 2012-11-21 2017-04-26 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP6105987B2 (ja) * 2013-03-15 2017-03-29 キヤノン株式会社 画像処理装置及びその制御方法
CN105594197A (zh) * 2013-09-27 2016-05-18 富士胶片株式会社 摄像装置及摄像方法
JP5946970B2 (ja) * 2013-09-27 2016-07-06 富士フイルム株式会社 撮像装置及び撮像方法
JP6376194B2 (ja) * 2016-09-15 2018-08-22 ソニー株式会社 画像処理装置、画像処理方法及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224593A (ja) * 1999-01-28 2000-08-11 Nippon Telegr & Teleph Corp <Ntt> フレーム補間方法および装置およびこの方法を記録した記録媒体
JP2001264854A (ja) * 2000-03-15 2001-09-26 Canon Inc ファインダー装置及びそれを用いた光学機器
JP2002320128A (ja) * 2001-04-20 2002-10-31 Canon Inc カード型カメラ
EP2398223B1 (en) * 2004-10-01 2014-03-19 The Board Of Trustees Of The Leland Stanford Junior University Imaging arrangement and method therefor
JP4826152B2 (ja) * 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
JP2009047734A (ja) * 2007-08-13 2009-03-05 Olympus Corp 撮像装置及び画像処理プログラム

Also Published As

Publication number Publication date
JP2009159357A (ja) 2009-07-16

Similar Documents

Publication Publication Date Title
JP5067154B2 (ja) 撮像装置
JP4483951B2 (ja) 撮像装置
JP4941332B2 (ja) 撮像装置
JP5463718B2 (ja) 撮像装置
JP4900723B2 (ja) 画像処理装置、画像処理プログラムおよび表示装置
JP4905326B2 (ja) 撮像装置
JP4967873B2 (ja) 撮像装置
JP4538766B2 (ja) 撮像装置、表示装置および画像処理装置
US9826139B2 (en) Image processing apparatus, image processing method, program, and image pickup apparatus having the image processing apparatus
JP5818697B2 (ja) 画像生成方法、撮像装置および表示装置、プログラム、記憶媒体
US20090268045A1 (en) Apparatus and methods for configuration and optimization of image sensors for gaze tracking applications
WO2011099239A1 (ja) 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法
US10453883B2 (en) Focus detecting device and electronic device
JP2010057067A (ja) 撮像装置および画像処理装置
US10674074B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating an image based on a plurality of parallax images
JP5115068B2 (ja) 撮像装置
JP6003578B2 (ja) 画像生成方法及び装置
JP4968527B2 (ja) 撮像装置
JP6746359B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP2009290268A (ja) 撮像装置
US9794485B2 (en) Image processing apparatus and method, and image capturing apparatus
JP2020171050A (ja) 画像処理装置、撮像装置、画像処理方法、および、記憶媒体
WO2016181620A1 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP6628617B2 (ja) 画像処理装置及び画像処理方法
JP2015220600A (ja) 撮像装置、駆動制御装置、制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120717

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120730

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150824

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150824

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees