JP2018042145A - 撮像装置及びその制御方法、プログラム、記憶媒体 - Google Patents
撮像装置及びその制御方法、プログラム、記憶媒体 Download PDFInfo
- Publication number
- JP2018042145A JP2018042145A JP2016175880A JP2016175880A JP2018042145A JP 2018042145 A JP2018042145 A JP 2018042145A JP 2016175880 A JP2016175880 A JP 2016175880A JP 2016175880 A JP2016175880 A JP 2016175880A JP 2018042145 A JP2018042145 A JP 2018042145A
- Authority
- JP
- Japan
- Prior art keywords
- image
- shutter
- imaging
- curtain
- gain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】先幕と後幕の光軸上の位置が異なるシャッタ機構を用いながらも、ボケ像に露光ムラや欠けのない品位の高い画像を取得可能な撮像装置を提供する。【解決手段】撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像部と、先幕と後幕の光軸上の位置が異なるシャッタと、シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、撮像部が取得した画像のゲインを調整するゲイン調整部とを備える。【選択図】 図1
Description
本発明は、電子シャッタ機能とメカシャッタ機能とを併用して撮像動作を行う撮像装置に関するものである。
デジタルカメラにおいて、電子方式のシャッタ(以下、電子シャッタ)と、メカ方式のフォーカルプレンシャッタ(以下、メカシャッタ)を併用して撮影動作を行うものが知られている。この種の撮像装置では、撮像素子の画素の電荷をメカシャッタの走行方向に行毎に順次リセットして先幕の代わり(電子先幕)とし、メカシャッタにより後幕を形成する。このようなシャッタ機構では、その構成上、メカシャッタの光軸上の位置と撮像素子の撮像面の光軸上の位置とが異なるため、先幕と後幕が走る光軸上の位置も異なってしまう。そのため、特に先幕と後幕の走行間隔が短い(露光時間が短い)場合において、ボケ像にシャッタの走行方向の露光ムラが生じ、顕著な場合には一部に欠けが生じてしまう。この現象により、取得される画像の品位が低いものになってしまうことがある。
また、このボケ像の露出ムラは、絞りや射出瞳距離といった撮影レンズの光学特性により生じ方が異なる。そのため、脱着可能な撮影レンズとカメラボディで構成されるレンズ交換式のカメラシステムにおいては、装着する撮影レンズによって露出ムラの程度が異なってしまう。
この問題に対し、特許文献1では、露出時間を調整及び規制することにより、ボケ像の欠けが発生する撮影条件を避ける技術が提案されている。
しかしながら、特許文献1においては、撮影条件が規制を受けるため、ユーザは自由に撮影設定を選ぶことができないという問題がある。
本発明は上述した課題に鑑みてなされたものであり、その目的は、先幕と後幕の光軸上の位置が異なるシャッタ機構を用いながらも、ボケ像に露光ムラや欠けのない品位の高い画像を取得可能な撮像装置を提供することである。
本発明に係わる撮像装置は、撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像手段と、先幕と後幕の光軸上の位置が異なるシャッタと、前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像のゲインを調整するゲイン調整手段と、を備えることを特徴とする。
また、本発明に係わる撮像装置は、撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像手段と、先幕と後幕の光軸上の位置が異なるシャッタと、前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像におけるボケ像の欠けを補完する補完手段と、を備えることを特徴とする。
本発発明によれば、先幕と後幕の光軸上の位置が異なるシャッタ機構を用いながらも、ボケ像に露光ムラや欠けのない品位の高い画像を取得可能な撮像装置を提供することが可能となる。
以下、本発明の一実施形態について、添付図面を参照して詳細に説明する。なお、本発明は以下の実施形態に限定されるものではない。
図1は、本発明の一実施形態に係わる撮像装置の構成を示すブロック図であり、図1(a)は物理的な構成を示し、図1(b)は信号処理系の構成を示している。図1(a)において、撮影レンズ101は、カメラボディ121に対して着脱自在に構成されている。
まず、撮影レンズ101の構成について説明する。撮影レンズ101は、撮影光学系102を有する。撮影光学系102は、フォーカスレンズ102a、絞り102bを有する。フォーカスレンズ102a及び絞り102bは、レンズ駆動部104により駆動される。また、レンズ操作部105の操作により、撮影光学系102全体の焦点距離が変更される、いわゆるズーム操作も行われる。レンズシステム制御部103は、撮影レンズ101の全体を制御する。具体的には、電気接点111を介したカメラシステム制御部126との信号のやり取りや、レンズ操作部105からの信号の受信、レンズ駆動部104への駆動信号の送信等を行う。ユーザがレンズ操作部105に対してズーム操作を行うと、操作に連動して機械的に撮影光学系102の焦点距離が変更される。また、同様にユーザが操作部105に対してフォーカス操作を行うと、レンズシステム制御部103にフォーカス操作信号が送信される。撮影レンズ101のレンズシステム制御部103と、カメラボディ121のカメラシステム制御部126は、電気接点111を介して信号のやりとりを行う。
次に、カメラボディ121の構成について説明する。撮像素子122は、撮影光学系102を透過した光束を光電変換し、生成された信号を後述の画像処理部125に送信する。詳細は後述するが、この撮像素子122はマイクロレンズアレイ201を表面に有している。これにより、瞳領域を分割して光束を取得可能な画像取得部を構成する。撮像素子122の有する電子シャッタ123は、撮像素子122の画素の電荷を後述するメカシャッタの走行方向に順次リセットし(リセット動作)、露光の開始タイミングを決める先幕の役割を果たす。メカシャッタ124は、露光の終了タイミングを決める後幕を構成する。電子シャッタ123とメカシャッタ124とにより、先幕と後幕の光軸上の位置が異なるシャッタ機構を構成する。
画像処理部125は、撮像素子122から送られた信号から画像を生成する。カメラシステム制御部126は、レンズシステム制御部103と信号をやりとりし、カメラシステム全体を制御して撮影動作を行う。メモリ部127は、後述するボケ像の補正に必要な撮影設定情報の記憶や、補正テーブルの保持、取得した画像信号の記録等を行う。カメラ表示部128は、取得画像のプレビュー表示や、撮影設定を表示する。カメラ操作部129は、ユーザの操作入力を受け付けて、信号をカメラシステム制御部126へと送る。
次に信号処理系の構成を図1(b)を用いて説明する。図1(b)では、長方形で示すブロックは処理部を示し、角を丸めたブロックは信号を示している。取得画像131、撮影設定情報132、測距情報133を用いて、各像高における画像の補正が行われる。欠け判定部134は、欠け判定テーブル135を用いて欠け判定を行う。具体的には、取得画像131、撮影設定情報132、測距情報133が欠け判定部134に入力され、欠け判定部134は、これら3つの情報を欠け判定テーブル135と照らし合せることで、各像高においてボケ像に欠けが発生するか否かを判定する。そして、欠けの発生有無によって、異なる処理部により処理が行われる。
ゲイン調整部136は、ゲイン調整テーブル137を用いてゲイン調整を行う。具体的には、欠け判定部134により欠けが発生しないと判断された像高においては、取得画像131、撮影設定情報132、測距情報133はゲイン調整部136へと送られる。ゲイン調整部136は、これら送られてきた3つの情報と、ゲイン調整テーブル137を照らし合せ、ゲイン調整フィルタを生成する。
瞳欠け補完部138は、瞳欠け補完テーブル139を用いて瞳欠け補完を行う。具体的には、欠け判定部134により欠けが発生すると判断された像高においては、取得画像131、撮影設定情報132、欠け情報は瞳欠け補完部138へと送られる。瞳欠け補完部138は、これら送られてきた3つの情報と、瞳欠け補完テーブル139を照らし合せ、瞳欠け補完フィルタを生成する。
補正フィルタ140は、前述したゲイン調整フィルタ、瞳欠け補完フィルタのいずれかを指す。現像部141には、取得画像131が送られ、現像部141は取得画像131に、生成された各像高における補正フィルタ140を適用することで、補正画像142を生成する。本実施形態では、上記の構成をとることにより撮影条件やレンズの光学特性に制約を受けずに、ボケ像に露出ムラや欠けのない画像を取得することができる。
次に、ボケ像に露出ムラや欠けが発生するメカニズムについて図2を用いて説明する。図2は、単一点光源152からの光が、撮影光学系102の合成レンズの瞳151を通過して入射する様子を示している。撮像素子122の画素を行ごとにリセットすることにより実現される電子シャッタは撮像素子面153上を走行し、メカシャッタはメカシャッタ面154上を走行する。図2(a)の場合、ピント位置はメカシャッタ面154より撮影レンズ側にあり、点光源152からの光束はメカシャッタ面154、撮像素子面153それぞれにおいて、ボケ像を形成しているとする。ここで、電子シャッタによる先幕155が撮像素子面153の下側から走行を開始し、撮像素子面153上に形成されるボケ像の下端157を通過した時にボケ像の下端の露光が開始される。また、電子シャッタによる先幕155がボケ像の上端153を通過した時にボケ像の全域で露光が開始している状態になる。同様に、メカシャッタによる後幕156がメカシャッタ面154の下側から走行し、メカシャッタ面154上に形成されるボケ像の下端159を通過した時にボケ像の下端の露光が終了される。また、メカシャッタによる後幕156がボケ像の上端160を通過した時にボケ像の全域で露光が終了した状態になる。
ここで、先幕と後幕の時間関係を、横軸に時間、縦軸にシャッタ走行方向位置をとったグラフで考えてみる。直線161は、電子シャッタ123による先幕155の走行時の時間毎の位置を示し、直線162は、メカシャッタによる後幕156の走行時の時間毎の位置を示している。
まず、露光の開始タイミングを考える。撮像素子面153上でのボケ像の下端157から同じシャッタ走行方向位置において紙面右方向に外挿し、直線161と交差する点163がボケ像の下端の露光開始時点となる。同様に撮像素子面153上でのボケ像の上端158から紙面右方向に外挿し直線161と交差する点164がボケ像の上端の露光開始時点となる。つまり、点163から点164を繋いだ線分163−164が、順次下から上へとボケ像の露光が開始されていくタイミングを示している。
次に、露光の終了タイミングを考える。メカシャッタ面154上でのボケ像の下端159から同じシャッタ走行方向位置において紙面右方向に外挿し、直線162と交差する点165がボケ像の下端での露光終了時点となる。同様にメカシャッタ面154上でのボケ像の上端160から紙面右方向に外挿し、直線162と交差する点166がボケ像の上端の露光終了時点となる。
ここで、今考えた露光終了時のシャッタ走行方向位置はメカシャッタ面154上でのボケ像を参照しており、撮像素子面153上で受光されるボケ像とはシャッタ走行方向の位置が異なっている。そこで、点165および点166を同じ時間上で紙面上下方向に外挿し、撮像素子面153上でのボケ像の下端、上端とそれぞれ交差する点167、点168を考える。この点167から点168を繋いだ線分167−168が、撮像素子面153上での順次下から上へとボケ像の露光が終了されていくタイミングを示している。
以上のように求めた露光開始タイミングを示す線分163−164と、露光終了タイミングを示す線分167−168を用いることとで、ボケ像のシャッタ走行方向位置毎の露光時間を考えることができる。まず、ボケ像の下端157での露光時間を考えると、点163の時刻から点167の時刻までが露光時間となる。次に、ボケ像の上端158での露光時間を考えると、露光開始の点164の時刻よりも露光終了の点168の時刻の方が早いことがわかる。露光時間は負の値をとり得ないので、ボケ像の上端158においては露光がなされないと言うことになる。このようにして、ボケ像の全域において露光時間を考えることができる。グラフからわかるように、露光開始タイミングを示す線分163−164と、露光終了タイミングを示す線分167−168は、点169において交差している。つまり、ボケ像の露光時間はボケ像の下端157において最大となり、シャッタ走行方向位置が上になるに従い徐々に減少し、点169より上の領域においては全く無くなることがわかる。この場合に受光されるボケ像170は、図2(a)の右の方に示した図のようになる。つまり、領域171においては、シャッタ走行方向位置が上になるに従い受光量が少なくなり、領域172においては、受光が全くされない欠けとなる。このようなメカニズムで、ボケ像のムラおよび欠けが発生する。
また、図2(b)は図2(a)とピント位置が異なる状態を示している。図2(b)において、ピント位置は点158で示すように、撮像素子面153よりも後方に位置している。このピント状態において、図2(a)と同様の手順で算出すると、ボケ像170bは、図2(b)の右の方に示した図のようになる。つまり、ボケ像170bにおいて、領域171bにおいてはシャッタ走行方向位置が上になるに従い受光量が多くなり、領域172bは欠けとなる。図2(a)とは欠けの発生する領域が異なり、欠けはボケ像の下側に発生する。
図2(c)は、撮像素子の光軸より下の領域において、ボケ像を受光する場合を示している。ピント位置は図2(a)と同様に、メカシャッタ面よりもレンズ側にある。図2(a)と同様の手順で算出すると、ボケ像170cは、図2(c)の右の方に示した図のようになる。つまり、ボケ像170cは、領域171cにおいて、シャッタ走行方向位置が上になるに従い受光量が少なくなる。図2(c)においては、ボケ像に欠けは発生していない。このように撮像素子の下側領域においては、ボケ像の欠けは発生しにくい状態にある。また、図2(a)と図2(b)との比較において、ピント位置が撮像面の撮影レンズ側にあるか、背面側にあるかによってシャッタ走行方向の受光量の増減関係が逆転する。撮像面の下側領域においても、ピント位置が撮像面のレンズ側か背面側かにより、シャッタ走行方向の受光量の増減関係は逆転する。
以上、代表的なボケ像の発生状態を場合分けして、ボケ像の露光ムラと欠けを考えた。このような問題に対し、本実施形態の方法は、上記の場合分けのどの状態であろうと、つまり撮影条件や光学系の特性に制約を受けずに、ボケ像に露出ムラや欠けのない品位の高い画像の取得を可能とする。
ここで、ボケ像の露出ムラおよび欠けを算出するのに必要なパラメータを、図3を用いて整理する。前述の算出において、瞳151の上端からの光線と下端からの光線を考えていた。そのため、瞳径181が必要となる。この瞳径181を求めるため、撮影光学系102の光学情報として、射出瞳距離182と、射出瞳距離と瞳径の比率である絞り値183が必要である。次に、ボケ像を算出する像高位置184が必要である。そして、撮像素子面153でのボケ像を求めるため、像高184でのデフォーカス情報185が必要である。このデフォーカス情報185は、被写体の距離に応じて決まる。そのため、デフォーカス情報185の代わりに検出された測距情報をパラメータに考えることもできる。また、メカシャッタ面154でのボケ像を求めるため、撮像素子面153とメカシャッタ面154の光軸方向の距離186が必要である。これは、電子シャッタの先幕と、メカシャッタの後幕との光軸方向の距離と言うこともできる。そして、電子シャッタとメカシャッタの走行のシャッタ走行方向の距離間隔であるシャッタスリット幅187が必要である。このシャッタスリット幅187は、ユーザが設定可能な撮影パラメータであるシャッタスピードに応じて決まる。そのため、シャッタスピードをパラメータと考えてもよい。これらのボケ像の算出に必要なパラメータ181〜187から、像高位置184、デフォーカス情報185を除いたものが、図1(b)における撮影設定情報132に対応する。
また、厳密にボケ像を算出するためにはパラメータ181〜187の全てが必要となるが、より簡易にボケ像を算出してもよい。実際の撮影で起こりやすい状況、例えば多くのピントの外れた被写体のピント位置はメカシャッタ面154より手前にある、などと想定し、パラメータを固定して使うことで簡易なボケ像の算出が可能となる。この場合、像高位置情報184だけは、ボケ像の露出ムラおよび欠けに与える影響が大きいため、パラメータとして用いるのが好ましい。
以上が、ボケ像に露光ムラおよび欠けが発生するメカニズムと算出方法である。以下、このボケ像の露出ムラおよび欠けを補正する方法について説明する。補正においては、瞳領域ごとに光束を分割した画像が必要である。そのため、まずは瞳領域を分割して光束を取得可能な画像取得手段について図4を用いて説明する。
本実施形態の方法を適用するためには、画像データは光線の位置に加えて入射角度の情報を有する必要がある。角度情報の取得のためには、撮影光学系の結像面近傍にマイクロレンズアレイを配置するとともに、1つのマイクロレンズに対して複数の画素を対応させて配置する。
図4(a)は撮像素子とマイクロレンズアレイの関係を模式的に示す図である。撮像素子122は、マイクロレンズアレイ201と、画素群202とを有する。撮像素子122を正面から見ると、マイクロレンズアレイ201の各レンズが複数の画素を覆うように配置されている。なお、図を分かりやすくするために各マイクロレンズの大きさを誇張して大きく記載しているが、実際には画素の数倍程度の大きさである。
図4(b)は図4(a)の一部拡大図であり、格子状の枠が画素群202の各画素を示している。また、マイクロレンズアレイ201を構成する各マイクロレンズは太線の円で示されている。マイクロレンズ1つに対して複数の画素が割り当てられており、図の例では5行×5列の25個の画素が1つのマイクロレンズに対して設けられている。そのため各マイクロレンズの大きさは画素の大きさの5×5倍である。この25個の画素の出力を加算合計したものを加算合計画素203と呼ぶことにする。
図4(c)の右方に示した図は、撮像素子122をマイクロレンズの光軸を含み撮像素子の短手方向が図の縦方向になるようにした断面図である。図4(c)には、撮像素子122の画素(1つの光電変換部)211,212,213,214,215が示されている。一方、図4(c)の左方に示した図は撮影光学系の射出瞳面を示している。実際には、図4(c)の右方に示したセンサの図と方向を合わせると、射出瞳面は図4(c)の紙面垂直方向になるが、説明を分かりやすくするために投影方向を変化させている。図4(c)では説明を分かりやすくするために、1次元の投影/信号処理について説明するが、実際の装置では、2次元に拡張される。
図4(c)に示される画素211,212,213,214,215は、図4(b)の画素211,212,213,214,215とそれぞれ対応するものである。図4(c)に示すように、マイクロレンズによって各画素は撮像光学系の射出瞳面上の特定の領域と共役になるように設計されている。図4(c)の例では画素211と領域221が、画素212と領域222が、画素213と領域223が、画素214と領域224が、画素215と領域225が、それぞれ対応している。すなわち画素211には撮影光学系の射出瞳面上の領域221を通過した光束のみが入射する。他の画素も同様である。結果として、瞳面上での通過領域と撮像素子122上の画素の位置関係から角度の情報を取得することが可能となる。以上により、本実施形態においては瞳領域を分割して光束を取得することが可能である。
次に、ボケ像のムラや欠けと瞳領域の関係について図5を用いて説明する。図5では、射出瞳、ボケ像、ボケ像を受光する撮像面上の領域に位置する画素の関係について説明する。
図5(a)においては、射出瞳301、ボケ像302、ボケ像を受光するマイクロレンズ下での画素303が示されている。ここではシャッタの走行方向に沿って模式的に領域を分割して考える。まず、射出瞳について、シャッタ走行方向に領域を分割し、上から順に瞳領域301a,301b,301cとする。図5(a)では、点光源からの光束は射出瞳301を通過し、メカシャッタおよび撮像面の手前で結像し、撮像面においてはボケ像を形成する。ボケ像302についても、シャッタの走行方向に領域を分割し、下から順に領域302a,302b,302cとする。ここで、図5(a)では、点光源からの光束はメカシャッタ面手前で結像している。そのため、射出瞳とボケ像とでは、対応が上下左右で反転する。つまり、上から順に瞳領域301a,301b,301cを通過した光束は、ボケ像では下から順に領域302a,302b,302cに対応する。このように、シャッタの走行方向にボケ像302を分割して考えると、それぞれのボケ像の領域には、異なる瞳領域を通過した光束が到達している。それぞれのボケ像の領域について、領域ごとにマイクロレンズとマイクロレンズ下に位置する画素を考える。
図5(a)では、マイクロレンズとマイクロレンズ下の画素を拡大したものを303として示している。領域302aに位置するマイクロレンズとマイクロレンズ下の画素を303a、領域302bに位置するマイクロレンズとマイクロレンズ下の画素を303b、領域302cに位置するマイクロレンズとマイクロレンズ下の画素を303cとする。前述のとおり、領域302aには、瞳領域301aを通過した光束のみが到達している。そのため、瞳領域を分割して光束を受光できるマイクロレンズ下の画素においては、瞳領域301aに対応する画素のみに光束が届くことになる。図4(c)において説明したが、マイクロレンズにより射出瞳301と画素は共役な関係にあるため、その対応関係は上下左右が反転する。よって、瞳領域301の上部の瞳領域301aを通過した光束はマイクロレンズ下の下部に位置する画素に到達する。その結果、303aで示されるマイクロレンズ下の画素においては、マイクロレンズ下の下部のみが受光し、その他の画素は光線を受光しない状態となる。これと、同様に領域302b、瞳領域301bに対応するマイクロレンズ下の画素ではマイクロレンズ下の中央部のみが受光し、領域302b、瞳領域301bに対応するマイクロレンズ下の画素ではマイクロレンズ下の上部のみが受光する。以上が、点光源を考えた場合の瞳領域とボケ像、マイクロレンズ下の画素の関係である。
次に、点光源から光源を拡張して考える。一般光源は、これまで想定してきた点光源が連続的に並んだ光源群である。図5(b)では、3つの光源がつくるボケ像群302xを簡易化した一般光源として考える。そして、3つのボケ像群302xが重なる位置でのマイクロレンズ下の画素303xを考える。図5(b)に示す通り、マイクロレンズとマイクロレンズ下の画素303xには、ボケ像群の下部領域、中央部領域、上部領域、のそれぞれの光束が到達している。各ボケ像の各領域においては、それぞれ特定の瞳領域を通過した光束しか到達しなかったが、画素303xのようにボケ像の各領域の光が重なって入射する場合には、すべての瞳領域に対応する画素に光束が到達する。
ここで、このマイクロレンズ下の画素303xでの受光量を考える。前述のとおりシャッタ走行方向に露光ムラが発生し、ボケ像302は図5(a)に示すように、上部ほど受光量が少なく、下部ほど受光量が多い。そのため、画素303aではマイクロレンズ下の下部において大きな受光量であり、画素303bではマイクロレンズ下の中央部において中程度の受光量であり、画素303cではマイクロレンズ下の上部において少ない受光量である、ということになる。近接する光源が作るボケ像では、マイクロレンズ下での画素の受光状況はおおむね等しい。そのため、ボケ像群302xのシャッタ走行方向の各領域すべての光束を受光しているマイクロレンズ下の画素303xにおいては、マイクロレンズ下の下部において多い受光量、中央部において中程度の受光量、上部において少ない受光量となる。このように、ボケ像の露光ムラおよび欠けは、マイクロレンズ下の画素の露光量と相似の関係となる。また、ピント位置が異なる場合、像高位置が異なる場合においても、同様にボケ像の露出ムラと欠けは、マイクロレンズ下の画素の露光量と相似の関係となる。
この関係を逆に考え、このマイクロレンズ下の画素における露出ムラおよび欠けを補正することで、ボケ像の露出ムラおよび欠けを補正する。図6を用いて補正の概念を説明する。図6の左端には、前述した手法にて予測した予測ボケ像401が示されている。これを用い、前述の関係からマイクロレンズ下の画素における予測露出ムラ402に変換する。予測露出ムラ402aは、横軸に露光比率、縦軸にシャッタ走行方向位置をとって表現されている。以後、図6における縦軸は、特に説明しない限り全てシャッタ走行方向位置とる。予測露出ムラはマイクロレンズ下の各画素間で発生してしまう露出比率のムラである。そのため、この比率を補正するフィルタを生成する。補正フィルタ403は露出比率402aを補正する補正フィルタであり、横軸に補正係数をとって表されている。当然ながら、露出比率402aの曲線とシャッタ走行方向について逆転した係数となる。ここまでが補正フィルタの準備に相当する。
次に、実際に撮影した画像に補正フィルタを適用する。撮影情報404は、マイクロレンズ下の実際の撮影情報を模式的に示している。曲線404aは、この撮影情報を、横軸に受光量をとって表現したものである。また、直線404bは露出ムラにより発生してしまう露光量の傾きを示している。ここで、撮影情報の受光量の曲線404aに対して、補正フィルタの補正係数403を掛け合わせる。ゲイン405aは、補正係数403を掛け合わせた後のゲインを示している。補正フィルタを適用する前は、露出ムラの傾き成分404bを有していたが、補正効果によりゲイン405aのベース成分405bは露出ムラによる傾きがない状態へと補正されている。符号405は補正後のマイクロレンズ下の画素のイメージを示している。本実施形態のシャッタ構成による露出ムラが補正された状態である。このようにマイクロレンズ下での画素間のゲイン補正を撮像素子全域のマイクロレンズ下の画素について適用することで、ボケ像406に示すような、露出ムラのないボケ像が取得できる。
以上のように、本実施形態においては、メカシャッタと電子シャッタを併用することによるボケ像の露出ムラを補正することができる。また、ボケ像の露出ムラや欠けの算出を簡易化する方法を示したが、この算出を簡易化した予測ボケ像を用い露出ムラ補正も簡易化して行ってもよい。これら露出ムラの補正は図1(b)におけるゲイン調整部136が補正フィルタを生成し、現像部141がフィルタを取得画像131へと適用することで行われる。
ここまではボケ像の露出ムラを補正する手法について説明してきたが、ボケ像に欠けが発生する場合には、上述の方法を適用することはできない。なぜなら、ゲイン調整では、ゲインがゼロであるマイクロレンズ下の瞳の欠けの画素を持ち上げることができないからである。そのため、ボケ像に欠けが発生する場合には、補正の方法を変える必要がある。
図7を用いて、ボケ像に欠けが発生する場合の、マイクロレンズ下での瞳欠けを補正する方法について説明する。図7(a)において、ボケ像群501が示されている。ここでは、それぞれのボケ像の上部が欠けた状況を想定している。そのため、ボケ像群501の領域に位置するマイクロレンズ下の画素は符号502aで示すように、上部の画素502a1が欠け、瞳が欠けた状態となる。
このマイクロレンズ下の画素の特定の瞳領域に対応する画素の欠けを補完するため、いわゆるリフォーカス処理などで行われるシフト処理を応用する。図7(b)は、マイクロレンズアレイ、画素、各画素に入射する光線の関係を説明する図である。紙面横軸に光軸をとり、紙面垂直方向に撮像素子面をとっている。図7(b)では、マイクロレンズアレイ501、マイクロレンズ下の画素502が示されている。いま、特定のマイクロレンズ501aに着目する。マイクロレンズ501a下の画素502aの中で画素502a1が欠けている状態にある。本実施形態の要部ではないために詳しい説明は省略するが、本実施形態の構成では、各マイクロレンズに対応する撮像素子上の位置において、デフォーカス量の算出が可能である。ここでは、欠けの補完を、デフォーカス量に応じたシフト量だけ光軸方向にシフトさせた再構成面において行う。再構成面502’はデフォーカス量だけシフトさせた再構成面である。欠け画素502a1へと入射するはずの光束が再構成面502’において画素502’a1に入射する。そして、再構成面において画素502’a1上に仮想的にあると想定されるマイクロレンズが501’aである。また、マイクロレンズ501’a下の画素で502’a1以外の画素が502’a2、502’a3である。ここで、再構成面502’はデフォーカス量だけシフトさせた面であり、ピントが合った面である。そのため、これまで議論してきた点光源はボケ像ではなく略点像として、再構成面上に像を作る(再構成画像)。この場合、マイクロレンズ501’a下の画素に入射する光束は、通過する射出瞳上の領域は異なるが同一の点光源から到達するものである。そのため、欠け画素502’a1を、マイクロレンズ501’a下の他の画素502’a2、502’a3により補うことで、瞳の欠けを正しく補完することができる。そして、この補完した画素502’a1を本来現像したい撮像面502へと戻す。この様な手順でマイクロレンズ下の画素の瞳の欠けを補完することが出来る。そして、撮像素子の全域でマイクロレンズ下の画素の欠け補正を行うことで、図7(c)に示すようにボケ像の欠けを補完することができる。
以上のように、本実施形態においては、ボケ像の欠けを補正することができる。また、簡易化した予測ボケ像を用いて瞳欠け補完を行ってもよい。これら瞳欠けの補完は図1(b)における瞳欠け補完部138が補正フィルタを生成し、現像部141がフィルタを取得画像131へと適用することで行われる。
以上の方法により、撮影条件や光学系の特性に制約を受けずに、ボケ像の露出ムラと欠けの双方について補正を行うことができ、品位の高い画像の取得が可能になる。
次に、図8を用いて本実施形態の処理の流れについて説明する。カメラシステムの電源がONになり、システム全体の動作がスタートし、まず、ステップS101において、スイッチS1がONか否かが判定される。スイッチS1のONとは、カメラボディに配された不図示のレリーズボタンが半押しされた状態を意味する。スイッチS1がONではない場合には、引き続きスイッチS1がONか否かの判別ステップで待機する。スイッチS1がONの場合にはステップS102へと進む。
ステップS102では、測距および主被写体へのフォーカス動作を行う。前述の通り、本実施形態では撮像素子122の全面での測距および、測距情報の取得が可能である。この撮像素子122の全面の測距情報を用いて、特定の枠で指定された主被写体に対してフォーカスレンズ102aを駆動し、フォーカス動作を行う。次にステップS103おいては、主被写体にピントが合った状態で再度、測距および測距情報の取得を行う。ここでの測距情報の取得は撮像素子122の全面で行い、この情報を用いて撮像素子122の全面で前述のボケ像への補正を行う。
次にS104において、スイッチS2がONか否かの判定を行う。スイッチS2のONとは、カメラボディに配された不図示のレリーズボタンが全押しされた状態を意味する。スイッチS2がONでない場合には、引き続きスイッチS2がONか否かの判別ステップで待機する。スイッチS2がONの場合には、ステップS105に進む。
ステップS105では、電子シャッタによる先幕走行、露光、メカシャッタによる後幕走行、という一連の撮影動作を行い、画像取得を行う。ここで言う画像とは、マイクロレンズ下の各画素での露光情報そのままの画像情報を指す。
次に、ステップS106において、撮影設定情報の取得を行う。撮影設定情報とは、図3を用いて説明した複数のパラメータを指す。これらの情報に、測距情報、各画素のシャッタ走行方向の像高、画素に入射する光束がどの瞳境域を通過したか、の情報を合わせ補正を行う。
次のステップS107では、欠けが発生する条件であるか否かの判定を行う。この判定は図1(b)における欠け判定部134が行う。欠けがあるかないかは、既に説明した手順によりボケ像を算出すれば判定が可能である。その都度、計算してボケ像を求めてもよいが、演算負荷の低減のために、撮影条件と欠けの発生有無を対応させるテーブルを保持し、テーブルを参照することで欠け判定を行う方が好ましい。この欠け判定を撮像面の全領域において順次実施していく。判定を行う単位は、1つ1つのマイクロレンズとしてもよいが、演算負荷の低減のために、取得した測距情報を基に、いくつかの領域に分けて各領域の代表マイクロレンズのみで欠け判定を行うなどするのが好ましい。現在のステップで対象となっている領域が、欠けが発生しないと判定された場合には、ステップS108へと進む。欠けが発生すると判定された場合には、ステップS109へと進む。
ステップS108では、既に説明した手順を用いてゲイン調整を行う。ステップS109では瞳欠け補完処理を行う。ゲイン調整はゲイン調整部136が、瞳欠け補完処理は瞳欠け補完部138が、それぞれ行う。処理の詳細については前述したとおりである。なお、本実施形態においては、ゲイン調整処理と瞳補完処理を完全に切り替えたか、欠けを補完した瞳内で、さらにゲイン調整を行ってもよい。その場合、ステップS107のYES判断の後に、ゲイン調整処理を行い、その後にステップS109での瞳補完処理を行えばよい。
ステップS110において、補正領域に残りがあるか否かの判定を行う。残りがある場合にはステップS111へと進む。ステップS111では補正の対象となる補正領域を次の領域へと進める。そして、ステップS107へと戻り、再度、欠けの判定を行う。ステップS110において補正領域に残りがない場合には、ステップS112へと進む。ステップS112では、以上のように撮像素子全面でボケ像の補正を行った状態で画像を現像し、ボケ像の露出ムラや欠けのない画像の生成を行う。
以上のようにして、本実施形態では、メカシャッタと電子シャッタを併用したカメラシステムにおいて、撮影条件や撮影レンズの光学特性に関わらず、ボケ像に露光ムラや欠けのない品位の高い画像を取得することが可能となる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
122:撮像素子、123:電子シャッタ、124:メカシャッタ、134:欠け判定部、136:ゲイン調整部、138:瞳欠け補完部、141:現像部、201:マイクロレンズアレイ
Claims (14)
- 撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像手段と、
先幕と後幕の光軸上の位置が異なるシャッタと、
前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像のゲインを調整するゲイン調整手段と、
を備えることを特徴とする撮像装置。 - 前記シャッタは、前記撮像手段に配置された撮像素子における画素の行ごとのリセット動作を先幕として用い、機械的に幕を走行させるメカシャッタを後幕として用いることを特徴とする請求項1に記載の撮像装置。
- 前記ゲイン調整手段は、前記撮像手段が取得した画像のゲインを調整することにより、前記撮像素子の撮像面上における前記先幕の位置と前記後幕の位置の間隔の変化により生ずる、ボケ像の露光ムラを補正することを特徴とする請求項1又は2に記載の撮像装置。
- 前記ゲイン調整手段は、射出瞳距離、絞り値、被写体の距離、前記シャッタの先幕と後幕の光軸方向の距離、前記シャッタの先幕と後幕の走行する距離間隔の少なくとも1つにさらに基づいて、前記撮像手段が取得した画像のゲインを調整することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
- 前記ゲイン調整手段は、画像の領域ごとにゲインの異なるフィルタを前記画像に適用することにより、前記撮像手段が取得した画像のゲインを調整することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
- 前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像におけるボケ像の欠けを補完する補完手段をさらに備えることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
- 撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像手段と、
先幕と後幕の光軸上の位置が異なるシャッタと、
前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像におけるボケ像の欠けを補完する補完手段と、
を備えることを特徴とする撮像装置。 - 被写体の距離を検出する測距手段をさらに備え、前記補完手段は、前記測距手段により検出された被写体の距離に基づいて、前記撮像手段が取得した画像に対し、前記瞳領域ごとに異なるシフト量を与えて再構成画像を生成し、該再構成画像を用いて前記ボケ像の欠けを補完することを特徴とする請求項7に記載の撮像装置。
- 前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、ボケ像に欠けが発生するか否かを判定する判定手段をさらに備え、前記補完手段は、前記判定手段により欠けがあると判定された場合に、前記ボケ像の欠けを補完することを特徴とする請求項7又は8に記載の撮像装置。
- 前記シャッタは、前記撮像手段に配置された撮像素子における画素の行ごとのリセット動作を先幕として用い、機械的に幕を走行させるメカシャッタを後幕として用いることを特徴とする請求項7乃至9のいずれか1項に記載の撮像装置。
- 撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像手段と、先幕と後幕の光軸上の位置が異なるシャッタとを備える撮像装置を制御する方法であって、
前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像のゲインを調整するゲイン調整工程を有することを特徴とする撮像装置の制御方法。 - 撮影光学系の瞳領域を分割して光束を受光し、画像を取得する撮像手段と、先幕と後幕の光軸上の位置が異なるシャッタとを備える撮像装置を制御する方法であって、
前記シャッタの走行方向の像高位置と、光束が通過した瞳領域の情報とに基づいて、前記撮像手段が取得した画像におけるボケ像の欠けを補完する補完工程を有することを特徴とする撮像装置の制御方法。 - 請求項11または12に記載の制御方法をコンピュータに実行させるためのプログラム。
- 請求項11または12に記載の制御方法をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016175880A JP2018042145A (ja) | 2016-09-08 | 2016-09-08 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016175880A JP2018042145A (ja) | 2016-09-08 | 2016-09-08 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018042145A true JP2018042145A (ja) | 2018-03-15 |
Family
ID=61626426
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016175880A Pending JP2018042145A (ja) | 2016-09-08 | 2016-09-08 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018042145A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020086390A (ja) * | 2018-11-30 | 2020-06-04 | キヤノン株式会社 | 撮像装置、制御方法、及びプログラム |
-
2016
- 2016-09-08 JP JP2016175880A patent/JP2018042145A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020086390A (ja) * | 2018-11-30 | 2020-06-04 | キヤノン株式会社 | 撮像装置、制御方法、及びプログラム |
JP7157642B2 (ja) | 2018-11-30 | 2022-10-20 | キヤノン株式会社 | 撮像装置、制御方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9591246B2 (en) | Image pickup apparatus with blur correcting function | |
US8730374B2 (en) | Focus detection apparatus | |
JP5947602B2 (ja) | 撮像装置 | |
JP6584149B2 (ja) | 撮像装置 | |
US20120268613A1 (en) | Image capturing apparatus and control method thereof | |
JP5762002B2 (ja) | 撮像装置 | |
US9344617B2 (en) | Image capture apparatus and method of controlling that performs focus detection | |
JP6298362B2 (ja) | 撮像装置及びその制御方法、及び撮像システム | |
JP5366643B2 (ja) | 撮像装置 | |
JP2014222291A (ja) | 撮像装置およびその制御方法 | |
JP6415140B2 (ja) | 撮像装置及びその制御方法 | |
JP7007871B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2012123317A (ja) | 撮像装置およびその制御方法 | |
JP5968359B2 (ja) | 撮像装置、撮像システム、及び撮像装置の制御方法 | |
JP2009086490A (ja) | 撮像装置 | |
JP2017192028A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2014130231A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2018042145A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP7019337B2 (ja) | 像ブレ補正装置、レンズ装置およびそれらの制御方法 | |
JP2016142924A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2014142497A (ja) | 撮像装置及びその制御方法 | |
JP2018045105A (ja) | 撮像装置及びその制御方法、情報処理装置、及び情報処理方法 | |
JP2016148732A (ja) | 撮像装置及び画像の表示方法、プログラム、プログラムの記憶媒体 | |
JP2016057402A (ja) | 撮像装置及びその制御方法 | |
JP7005209B2 (ja) | 撮像装置、及びその制御方法 |